world2vec 世界模型:拿高分不等於懂環境,可信度分開量測

Helmholtz Munich 團隊在 10 月 29 日發表 world2vec 世界模型:訓練不用獎勵、約 30 萬參數,伸臂得分勝過參數量大數十倍的 DreamerV3 與 TD-MPC2,擺桿勝過 DreamerV3,像素平衡桿仍未解。從指標互查的設計、可讀方程的對齊限制,到程式碼釋出時程,拆解這份研究怎麼讀。

用 AI 摘要這篇文章:

德國 Helmholtz Munich 與慕尼黑機器學習中心(MCML)的四人研究團隊,在 10 月 29 日晚間把 world2vec 論文放上 arXiv(編號 2610.40637,台北時間 30 日凌晨),隔天 GitHub 儲存庫與作者的公開介紹跟上,專案頁則是這份研究的完整入口。這份研究用約 30 萬個參數(精確值 26.3 萬)的世界模型,在伸臂任務的得分超越參數量大了十幾到五十幾倍的 DreamerV3 與 TD-MPC2,擺桿也勝過 DreamerV3,還能把一部分學到的動態寫成讀得懂的方程式。

新聞標題容易讓人以為這是又一次「小模型打敗大模型」,但真正值得先弄清楚的是三個問題:三十萬參數的勝利到底是怎麼贏的?電腦讀出方程式,是不是就等於發現了物理定律?以及最實際的一個:現在到底下載得到什麼?這三個問題各自對應這份研究的一個層面,也各有一個需要放慢腳步讀的地方。

三十萬參數的成績單:伸臂全勝,平衡桿沒過關

world2vec 學的東西可以一句話講完:從畫面與動作,直接學「狀態接下來會怎麼變」。模型先把一小段觀察畫面編成內部座標(論文稱為潛在表示,可以想成模型替環境畫的地圖),再學一個向量場,描述這組座標在某個動作下移動的快慢與方向。訓練全程不用任務獎勵,也不重建未來畫面;訓練的主要目標,是讓「從現在往後推好幾步的預測」與「真正觀察到的未來」這兩條軌跡貼在一起;再掛一個防止表示塌縮的正則項,兩個版本的差異就在這一項。

world2vec 官方專案頁架構圖,編碼器將連續畫面轉為潛在狀態,動作驅動的多步動態在潛在空間往後預測,配合動態匹配與防止表示塌縮的正規化項Pin
world2vec 架構:畫面先編成潛在狀態,動作驅動的向量場在潛在空間多步往後推。(來源:worldmodels.science)

為什麼要看「一小段」畫面而不是一張?因為速度看不見。擺桿停在畫面正中央時,它可能正要往左倒,也可能正要往右倒,單張影像分辨不出來,模型必須觀察連續幾格才有辦法推方向與快慢。也因為同樣的理由,world2vec 學的是變化率(狀態往哪個方向、以多快的速度移動),再把它積分回未來狀態,不直接猜下一個座標;研究團隊點出,標準的離散預測器恰恰是在速度資訊這一環抓不住,這個設計就是衝著那個失敗而來。

評測在 DeepMind Control Suite 的三個經典環境上進行:擺桿(Pendulum)、伸臂(Reacher)與小車平衡桿(CartPole),每個環境以隨機動作收集 20 萬張 64×64 的畫面當訓練資料。隨機也有講究:伸臂用均勻抽樣的動作,擺桿與平衡桿用前後相關的隨機程序,讓資料裡的運動更像真實物理。結果是一張清楚但不對稱的成績單,數字出自論文表 1(2026 年 10 月 29 日提交的 v1 版),獎勵滿分 1,000:

模型參數量訓練方式擺桿伸臂平衡桿一秒預測一致性
world2vec-dcl30 萬離線、隨機動作、無獎勵82689523297.7%
world2vec-sigreg30 萬離線、隨機動作、無獎勵43457022196.1%
TD-MPC2500 萬線上、帶獎勵91174489415.5%
DreamerV31,700 萬線上、帶獎勵66879289952.3%
LeWM1,800 萬離線、隨機動作、無獎勵5691710.0%

這張表要連著三個條件讀。伸臂是乾淨的全勝:895 分比 TD-MPC2 的 744、DreamerV3 的 792 都高出一截。擺桿互有勝負:826 分勝過 DreamerV3 的 668,輸給 TD-MPC2 的 911。像素輸入的平衡桿只拿 232 分,遠低於兩個對手的 894 與 899,論文對此毫不迴避,明言這個任務「沒有任何不用獎勵的世界模型從原始觀察解開過」。同時,比較條件並不對稱:world2vec 與 LeWM 用離線的隨機動作資料訓練,TD-MPC2 與 DreamerV3 則是線上、帶獎勵、最多跑一百萬個環境步的條件下學出來的,伸臂的控制頻率也不同(world2vec 的 895 分是在 8.3 Hz 設定拿的,25 Hz 設定為 618 分,兩個對手都在 25 Hz)。把它讀成「小模型全面碾壓大模型」,會同時踩到輸掉的任務與不對等的訓練條件這兩個坑。

拿高分的模型,預測可能很差

這份研究對「分數」本身的態度,比得分更有意思。論文開頭就點出問題:世界模型可以在任務上拿到很高的控制分數,卻沒有忠實捕捉環境的動態。換句話說,模型找得到好動作,跟模型真的知道環境怎麼運作,是兩回事。

表 1 的最後一欄就是這句話的證據。TD-MPC2 在擺桿拿 911 分,但它的一秒預測一致性只有 15.5%;DreamerV3 的一致性 52.3%,也遠低於它的控制表現。最極端的是 LeWM(論文拿來對照的前一代 JEPA 世界模型,Maes 等人的 1,800 萬參數方法):跨種子一致性高達 99.5%,預測一致性卻是 0.0,三個任務的獎勵只剩 5、69 與 171 分。三種指標各抓一種失敗:預測一致性看「往後推的軌跡對不對」,跨種子一致性看「不同訓練跑出的表示穩不穩」,任何單獨一項都足以讓一個模型看起來比實際更好。這個 0.0 也要公平地讀:論文補充,LeWM 在伸臂被換了訓練資料分布,預測分數因此被壓低;改用與 world2vec 相同的資料訓練後,它的預測一致性回到 95.2,控制獎勵卻仍只有 21 分。預測量得出來,與規畫做得動,在它身上是脫鉤的兩件事。

論文也因此替預測一致性補了一道防呆機制。這個指標有個先天漏洞:如果模型把所有畫面都壓縮成同一個點,預測永遠命中,分數滿分,但模型其實什麼都沒學到。world2vec 的做法是加上等變準確度(EQA),在 512 個干擾選項中辨認真正的未來,逼模型證明自己分得清楚不同的狀態。

讓 world2vec 拉開差距的關鍵,則是多步訓練。只預測一步時,誤差小到看不見;連續往後推時,每一步的小偏差會從錯的位置出發繼續累積。論文把 10 到 40 步的多步預測放進訓練,一秒預測一致性從單步版本的 37 到 51% 拉到 96 到 98%,推到 30 步時,單步版本已經歸零,多步版本還有 73 到 86%。這個設計本身,就是「怎麼量測可信度」的一部分。

訓練可以不用獎勵,控制仍要人給目標

「無獎勵」三個字容易引發誤讀,這裡把邊界畫清楚。訓練階段確實沒有任務獎勵,動態模型面對的只是隨機動作產生的畫面流;但控制階段仍然需要人給目標。做法是把一段展示目標的畫面編碼成目標狀態,接著用交叉熵方法抽樣一批候選動作序列,用學到的動態預測每個候選會把環境帶到哪裡,挑離目標最近的執行前面一小段,重新觀察、再規畫。整個過程不用學出來的獎勵模型,也不用把內部狀態解回像素。伸臂任務的目標還要靠反向運動學(從想要到達的位置反推關節角度)先算出兩種可能的手臂姿態,分別規畫再取平均。

這套「學變化率」的連續時間設計還送了一個副產品:同一個模型可以換時間尺度規畫。論文示範同一個伸臂模型,用訓練時的原步長規畫得到 903 分,把步長縮小、以細五倍的時間粒度重新規畫,拿到 952 分,全程不重新訓練。要提醒的是,這只在論文指定的模擬條件下驗證過,不能直接推成任何感測頻率都適用。

在與 LeWM 的另一組對照中,這個方法的長期規畫能力有更明顯的優勢:以 LeWM 自己的目標達成流程評伸臂,近目標(25 步外)的成功率是 86.2% 對 81.6%,差距不大;遠目標(200 步外、預算 50 步)變成 80.2% 對 52.9%,而且 world2vec 每集的規畫時間約 2.55 秒,LeWM 要 8.64 秒。距離一拉長,動態預測準不準的差別就藏不住。

讀出來的方程,還不是自動發現的物理定律

科學應用是這份研究最吸引人的賣點,限制也最深。團隊把向量場換成稀疏多項式(只用少數幾項描述變化,對應 SINDy 稀疏識別方法),拿到一個能把學到的動態直接寫成方程式的版本,然後在 dysts 混沌系統資料庫的 71 個系統上測試:真實狀態先經非線性混合變成 50 維觀察,再加入不同程度的過程噪音。結果是這個版本明顯勝過「假設狀態不變」的基準,各項指標與類神經網路版本相當,而後者的內部關係沒辦法直接讀成方程式。

但論文展示的那條漂亮方程式,有一個不能略過的步驟。以範例系統 SprottA 來說,要讓學到的方程式落到真實座標上,研究者先用已知的真實狀態對學到的表示做最小平方對齊,再把係數小於 0.1 的項移除。換句話說,展示用了答案的一部分。論文自己也寫明,不知道真實狀態時如何完整回復方程式(例如用無監督符號迴歸),是留給未來工作的題目。這組實驗證明的是「從混合觀察學出可分析的動態」可行;「電腦自己發現物理定律」是另一回事。

內部表示是否真的反映環境結構,論文給了一個不需要懂數學也能檢查的證據:伸臂的狀態由兩個角度描述,第一個關節會整圈旋轉,第二個只相對第一段擺動。把學到的表示畫出來後,整圈旋轉的那個角度被編成頭尾相接的環狀,只擺動的那個被編成兩端開放的直線,與機械結構完全對應。這種可以肉眼檢驗的幾何,是「動態可信」比「獎勵高」多出來的東西。

回到沒過關的像素平衡桿,論文補了一組對照實驗:把真實狀態換成越來越非線性的混合觀察,難度隨層數增加。混合到五層時,world2vec-dcl 的預測一致性還守在 75% 以上(另一個變體降到六到七成五),單步訓練的對照模型在兩層就塌掉了,而且兩個 world2vec 版本的控制得分只是小幅下降、仍能完成任務。作者據此預期,把動態模型的估計做得更好之後,這個結果有機會轉移到真正的像素輸入;但那只是作者的預期,尚未兌現。

噪音的角色也說明了指標要對應問題。加入過程噪音讓每個狀態維度都有變化,模型反而能把狀態線性地找回來:噪音強度從零加到最高檔,SINDy 版本的狀態回復 R² 從約 0.7 提高到 0.97。但同一個噪音也讓「未來每一步都預測準」變成不可能的要求,於是高噪音下論文改比較對齊後的真實軌跡,不再苛求預測命中帶著隨機擾動的未來。同一個現象,讓一個指標變好、另一個指標變差,這正是單看一個分數會誤導的另一種形式。

現在拿得到論文,程式碼要再等

專案頁與論文都已公開,但想看實作的人現在會撲空。GitHub 上的 dynamical-inference/world2vec 儲存庫目前只有 README 與一張圖,README 的說明原文是「The code will be released here soon」,程式碼釋出日期沒有給;儲存庫也還沒有授權條款檔案,即使程式碼上線,能不能自由使用也要再確認。對照組是論文的釋出形態:arXiv 上的 v1 版、機器學習(cs.LG)分類、未見審稿資訊,屬於典型的前印本階段。

GitHub 儲存庫 dynamical-inference/world2vec 的 Code 段落截圖,標題下方文字寫明 The code will be released here soon,請使用者以 Star 或 Watch 等待程式碼釋出通知Pin
儲存庫的 Code 段:程式碼將於近期釋出,目前只有 README 與一張圖。(來源:GitHub)

成本的數字可以幫助判斷追蹤的門檻,但要記得它們是作者的實驗條件:單張 NVIDIA A100 上,單步模型訓練約 2 到 6 分鐘,20 步版本約 10 分鐘,40 步約 30 分鐘;閉迴路控制每步約 20 到 50 毫秒(含模擬與渲染)。作者在結論宣稱,就其所知這是第一個不用重建、不用獎勵就能同時學出明確動態並在具自主動態的環境達成成功控制的演算法;同一段也自承考慮的環境仍然相對簡單,後續要往線上資料收集與跨環境訓練推進。宣稱與自限放在同一段,這一點加分。

誰該認真追,誰可以先觀望

對做世界模型、表徵學習或科學發現方向的研究者,這份研究的價值高於它的得分:多步預測配 512 負例等變檢核的量測組合、71 個混沌系統加非線性混合與噪音的評測設計,都是可以直接引用與延伸的研究方法素材,30 萬參數的規模也意味著重現門檻不高,與單張 GPU 就能訓練的人形機器人動作研究走在同一股低運算成本研究的趨勢裡。對想找可直接使用的模型或機器人方案的人,現在的答案是要等:程式碼未釋出、授權未定、三個任務都還在模擬器裡,像素平衡桿這一關也還沒過。至於一般追蹤世界模型進展的讀者,世界模型往可量測、可檢驗方向走的這一步是追蹤的重點,從一句話生成可遊走場景的世界模型展示到先前果蠅大腦接上世界模型的研究,都是同一個方向的切片。

後續有兩個明確的觀察時點:GitHub 儲存庫釋出程式碼,或 arXiv 出現修訂版。在那之前,任何「它已經能做到 X」的轉述,都值得先回到論文表 1 與那句對齊步驟的說明,檢查一下對方用的是哪一把尺。

Sliven 褚崇名
Sliven 褚崇名

每日分享科技新知、免費資源以及 WordPress、虛擬主機相關主題,任何問題歡迎在科技月球下方留言,或是發送 Email 至 [email protected] 與我聯繫。

文章: 2240

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *


Share to...