世界模型該遺忘什麼?以「分層保留」實現持續適應環境的能力
What Should World Models Forget? Stratified Retention for Continual Adaptation
傳統的持續學習將「遺忘」視為失敗,但這不適用於環境會動態改變的世界模型(world models)。本研究提出「分層保留」架構,依時間尺度將知識分類:物理定律與物體恆存等「不變要素」必須永久保留,而特定的環境事實則需在變更時立即修正。現有指標無法區分正確的知識修正與災難性遺忘,因此研究團隊推出新評估指標「差異化保留」,同時衡量不變性測試與修正延遲。
核心重點
重新定義遺忘的價值
在變動的環境中,主動且正確地遺忘過時事實是必要行為,而非模型缺陷。
分層保留機制
依據時間尺度將知識分層,區分必須永久保留的物理法則(不變要素)與需快速更新的實例級事實。
傳統指標的局限
舊有評估指標無法區分「正確更新知識」與「災難性遺忘」,容易給予完全不更新的靜態模型最高評分。
差異化保留指標
提出全新評估標準,聯合報告不變要素的迴歸測試表現與新事實的修正延遲,避免單一指標過度簡化。
技術圖解
| 不變要素 (Invariants) | 實例級事實 (Instance-level Facts) | |
|---|---|---|
| 定義 | 物理規律、物體恆存等永久不變的法則 | 特定環境中會隨時間與空間改變的動態資訊 |
| 更新策略 | 絕對不可修改 (Never revise) | 隨環境變動立即修正 (Revise dynamically) |
| 遺忘的影響 | 導致災難性遺忘 (Catastrophic forgetting) | 實現正確的知識適應 (Required adaptation) |
為什麼重要
過去的具身智慧與世界模型常因害怕災難性遺忘而採用完全凍結的權重,這限制了模型適應新環境的能力。此研究打破了「遺忘即失敗」的迷思,為開發能自主、持續適應動態世界且不丟失物理常識的次世代 AI 代理與機器人系統奠定了理論與評估基礎。
對誰有影響
- AI 研究人員
- AI 開發者
- 學生與學習者
可以怎麼使用
- 1機器人自主導航與動態建圖
- 2持續適應環境變遷的物理模擬器
- 3自駕車系統的即時路況與規則更新
限制與注意事項
- 尚未提出具體的大規模網路架構來完美實作分層保留,目前著重於理論框架與評估指標。
- 如何在複雜的多模態資料中自動且精準地界定哪些是「永久不變要素」,仍具挑戰。
延伸閱讀
減少解碼器反而增強編碼器:從新視角合成中提煉強大三維幾何表徵
Less Decoder is More Encoder: Extracting Robust 3D Geometric Representations via Novel View Synthesis
本研究揭示了新視角合成模型(NVS)中解碼器過強會稀釋幾何表徵的弊端,並提出 SNAP 架構,透過限制解碼器與採用潛在空間重建,大幅提升編碼器的三維幾何學習能力。
4DCodeBench:評估 AI Agent 動態場景 4D 反向圖形學與程式碼生成能力的全新基準
4DCodeBench: Benchmarking AI Agents on 4D Inverse Graphics and Dynamic Scene Code Generation
4DCodeBench 是一個全新基準測試,旨在評估 AI Agent 藉由生成可執行物理繪圖程式,從影片中重建 4D 動態場景的能力。

艾倫人工智慧研究所開源 AstaBrief:比 Claude 快 3.5 倍的 8B 科學報告生成模型
Ai2 Open-Sources AstaBrief: An 8B Scientific Report Generator 3.5x Faster than Claude
艾倫人工智慧研究所(Ai2)開源 AstaBrief 8B 模型,專為科學文獻合成設計,透過單次寫作技術,在維持高引用精準度的同時,將報告生成速度提升 3.5 倍。