20260617:目前有914 页

reviews/leworldmodel-20260608.md

@@ -0,0 +1,70 @@
+---
+title: "Review: LeWorldModel (arXiv:2603.19312)"
+created: 2026-06-08
+type: review
+subject: maes-leworldmodel-2026
+---
+
+# 📌 Review: LeWorldModel (arXiv:2603.19312)
+
+**基本信息**
+- 论文: LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels
+- 作者: Lucas Maes*, Quentin Le Lidec*, Damien Scieur, Yann LeCun, Randall Balestriero
+- 机构: Mila/UdeM, NYU, Samsung SAIL, Brown University
+- 领域: 世界模型 / JEPA / 端到端学习
+- 添加时间: 2026-06-08
+
+---
+
+## 🎯 核心概念
+
+1. **端到端 JEPA 世界模型** — 首个无需 stop-gradient、EMA、预训练编码器的纯端到端 JEPA，15M 参数从原始像素稳定训练
+2. **[[sigreg|SIGReg]] 防坍塌** — 通过 Cramér-Wold 定理强制嵌入匹配各向同性高斯分布，1 个超参 λ 替代 PLDM 的 6 个
+3. **[[pldm|PLDM]] 对比** — 唯一端到端替代方案暴露的 VICReg 局限：7 项损失互相拉扯、调参困难；LeWM 将其压缩为 2 项 + 单调收敛
+4. **AdaLN 动作注入** — 自适应层归一化零初始化渐进注入，避免剧烈改变预测器行为；BatchNorm 投影头保 SIGReg 优化
+
+---
+
+## 🔗 概念网络
+
+**已建立连接（复用已有概念）**:
+```
+[[maes-leworldmodel-2026]]
+├── [[leworldmodel]]（概念页）
+├── [[jepa]]（架构基础）
+├── [[sigreg]]（防坍塌核心）
+├── [[pldm]]（新增，唯一对比基线）
+├── [[representation-collapse]]（核心挑战）
+├── [[abstract-representation-space]]（预测空间）
+├── [[world-model-lecun]]（理论框架）
+├── [[objective-driven-ai]]（下游应用）
+└── [[lecun-llm-boundary-future]]（Datawhale 梳理文章）
+```
+
+---
+
+## 📚 Wiki 集成
+
+- **新增**: 3 页（1 论文 + 1 概念 + 1 review）
+- **复用概念**: 6 个（leworldmodel, jepa, sigreg, representation-collapse, world-model-lecun, abstract-representation-space）
+- **总规模**: 663 → **665 页**
+- **双向链接**: 概念页 `leworldmodel` ↔ 论文页 `maes-leworldmodel-2026`
+
+---
+
+## 💡 关键洞察
+
+1. **"化繁为简"是这篇论文的最大贡献**：不是提出了什么全新架构，而是证明了在自监督学习领域中，防坍塌可以不需要那么多工程技巧——一个数学上干净的分布匹配（SIGReg）+ 2 项损失就够了。这种"化繁为简"的价值在于**工程可复现性**和**理论可分析性**。
+
+2. **LeCun 的战略性推荐**：这篇是 LeCun 在访谈中唯一推荐的具体世界模型论文。15M 参数的小模型、单 GPU 训练，透露出他对路径的务实判断——不是要做一个巨大的通用世界模型，而是先验证"端到端 JEPA 能稳定训练"这个最基本的工程前提。这正是 LeCun 给团队定的"12-18 个月内工业场景演示"路线图中的里程碑。
+
+3. **速度优势的更深意义**：48× 比 DINO-WM 快不只是工程上的锦上添花——它意味着 JEPA 路线在规划效率上有**结构性优势**（token 数减少 200×），这在需要实时规划的应用场景（机器人、工业控制）中是决定性差异。
+
+---
+
+## 📎 阅读路径
+
+- 15 分钟了解 → [[maes-leworldmodel-2026|论文主页]]
+- 技术细节 → [[jepa]] → [[sigreg]] → [[leworldmodel]]
+- 对比视角 → [[pldm]]（PLDM 的 VICReg 路线困境）
+- 宏观视角 → [[lecun-llm-boundary-future]]（LeCun 完整判断）