20260625:很多新内容

concepts/belief-state.md

@@ -0,0 +1,39 @@
+---
+title: "信念状态 (Belief State)"
+created: 2026-06-18
+updated: 2026-06-18
+type: concept
+tags: [state-tracking, reasoning, cognition]
+sources:
+  - mozer-topological-trouble-transformers-2026
+---
+
+# 信念状态 (Belief State)
+
+信念状态是 AI 智能体对环境的**紧凑、充分的知识摘要**（Chrisman, 1992; Kaelbling et al., 1998）。
+
+## 形式
+
+- **事实集合**：已知命题的集合（如"Fred 在河边"）
+- **概率分布**：可能世界的概率分布，追踪不确定性
+- **组合状态**：多个独立状态变量的组合（如实体位置、关系状态）
+
+## 在 Transformer 中的困境
+
+Transformer 需要维护信念状态来确保推理一致性，但其前馈架构（[[feedforward-depth-limitation|前馈深度局限]]）导致：
+- 信念状态的更新被推入深层网络
+- 生成响应时浅层可能使用**过时或未更新的信念**
+- 维护完整概率信念状态在一般情形下不可行（分布爆炸）
+
+## 人类的启发式策略
+
+Mozer et al. 指出人类采用近似方法：
+- **采样**（Vul et al., 2014）
+- **原型坍缩**（Tversky & Kahneman, 1971）
+- **MAP 估计**——形成与前提最一致的具体心智模型
+
+## 相关概念
+
+- [[state-tracking|状态追踪]]
+- [[depth-dilemma|深度困境]]
+- [[mozer-topological-trouble-transformers-2026]]