LeWorldModel：用 15M 參數解開 JEPA 的死結

2026 年 3 月，一篇 arXiv 論文在研究圈安靜地流傳。論文名稱叫 LeWorldModel（LeWM），作者群來自 Mila、Université de Montréal、NYU、Samsung SAIL 和 Brown University，掛名之一是 Yann LeCun。

這篇論文解決了一個讓 JEPA 架構卡了多年的根本問題。

先說 JEPA 是什麼，以及為什麼它卡住了

LeCun 提出 JEPA（Joint-Embedding Predictive Architecture）的核心想法是：不要逼 AI 重建像素，讓它預測抽象概念。

這和生成式 AI 的邏輯相反。GPT 類模型是把世界逐 token 還原，語言模型預測下一個字，圖像模型預測下一個像素塊。這種方式在文字生成上效果驚人，但 LeCun 認為這是條效率很低的路：大量算力花在重建表面細節，而不是學習世界的物理結構。

JEPA 的做法是：把輸入壓縮成低維的 latent 表示，然後在這個「壓縮的思考空間」裡預測未來狀態。它不需要畫出整個世界，只需要理解接下來會發生什麼。

理論上更聰明。但實作上有個致命缺陷：representation collapse（表示崩塌）。

因為模型被允許壓縮現實，它會走捷徑。最極端的情況是：把所有輸入——狗、車、人——都映射到同一個向量。預測 loss 降低了，但模型什麼都沒學到。

為了阻止崩塌，過去的解法是堆工程複雜度：stop-gradient 更新、exponential moving average（EMA）、凍結的預訓練 encoder、多達六個需要手動調整的 loss 超參數。每一個 hack 都在壓低崩塌風險，但也在提高訓練門檻和計算成本。

LeWM 的解法：一個數學正則化項

LeWM 的貢獻在於把上述所有複雜度替換成一件事：強迫 latent embedding 服從 isotropic Gaussian 分布。

使用的正則化方法叫 SIGReg（Sketched-Isotropic-Gaussian Regularizer），設計來讓 embedding 空間的形狀維持「球形」高斯分布。當所有輸入都被迫散布在這個分布裡，模型就無法再把一切坍縮成同一個點——它必須用結構來區分不同的輸入。

結果是整個訓練流程精簡成兩個 loss term：

1. 預測下一個 embedding 的誤差（next-embedding prediction loss）
2. SIGReg 正則化項

可調超參數從六個降到一個（論文原文）。複雜的凍結 encoder、EMA 機制全部拿掉，直接從原始像素端對端訓練。

數字

論文報告的結果（來源：arXiv 2603.19312 及 Hugging Face Papers）：

• 模型大小：約 15M 參數
• 訓練環境：單張 GPU，數小時
• 規劃速度：比基於 foundation model 的 world model 快 48 倍

LeCun 本人在 Facebook 貼文分享了這篇論文，並稱讚其「簡潔的訓練方法」。

研究團隊另外做了兩個驗證：

• 物理概念探針（probing）：LeWM 的 latent space 裡可以讀出物理量，模型隱含地學到了運動、結構等概念。
• 物理違例偵測（violation-of-expectation）：對不合物理規律的場景，LeWM 能識別出異常，即使它從未被明確教過「這是錯的」。

但先別急著說「LLM 死了」

tweet 的標題是「Yann LeCun was right the entire time. And generative AI might be a dead end.」這個說法值得降溫。

LeWM 是一篇機器人控制與規劃領域的研究論文，測試場景是 2D 和 3D 控制任務。它解決的是 world model 的訓練穩定性問題，而不是在和 GPT-5 比較文字生成品質。

LeCun 對生成式 AI 的批評確實一貫且清晰：他認為逐 token 預測不是通往智慧的正確路徑。但這是一個關於架構方向的長期論點，不是「LLM 即將被 LeWM 取代」的聲明。

事實上，兩條路線目前並不在同一個戰場上競爭：

• LLM/生成式模型 → 文字、程式碼、多模態推理
• JEPA/world model → 具身智慧（embodied AI）、機器人規劃、物理模擬

LeWM 真正的貢獻是降低了 JEPA 的技術門檻。一個 15M 參數的模型能在一般研究者手邊的 GPU 上跑，代表之後的 JEPA 研究不再需要大規模計算資源作為前提條件。

為什麼值得關注

2024-2025 年的 world model 研究主要由兩條路線主導：

1. 用大型預訓練視覺 encoder（凍結）作為 world model 的感知前端
2. 直接從像素訓練，但依賴複雜的 anti-collapse heuristics

LeWM 是第一個在端對端設定下、不依賴預訓練 encoder 也不依賴複雜 loss 組合，仍然穩定訓練的 JEPA 方法。這打開了一個新的研究切入點：如果連 collapse 的問題都能用一個數學正則化項解決，那 JEPA 架構的其他限制也許也有類似的優雅解法。

這篇論文的影響不在於它「打敗了 LLM」，而在於它讓一個長期受工程複雜度拖累的架構方向，重新變得可以研究和迭代。

論文連結：arXiv 2603.19312