40 lines
1.3 KiB
Markdown
40 lines
1.3 KiB
Markdown
---
|
||
title: "信念状态 (Belief State)"
|
||
created: 2026-06-18
|
||
updated: 2026-06-18
|
||
type: concept
|
||
tags: [state-tracking, reasoning, cognition]
|
||
sources:
|
||
- mozer-topological-trouble-transformers-2026
|
||
---
|
||
|
||
# 信念状态 (Belief State)
|
||
|
||
信念状态是 AI 智能体对环境的**紧凑、充分的知识摘要**（Chrisman, 1992; Kaelbling et al., 1998）。
|
||
|
||
## 形式
|
||
|
||
- **事实集合**：已知命题的集合（如"Fred 在河边"）
|
||
- **概率分布**：可能世界的概率分布，追踪不确定性
|
||
- **组合状态**：多个独立状态变量的组合（如实体位置、关系状态）
|
||
|
||
## 在 Transformer 中的困境
|
||
|
||
Transformer 需要维护信念状态来确保推理一致性，但其前馈架构（[[feedforward-depth-limitation|前馈深度局限]]）导致：
|
||
- 信念状态的更新被推入深层网络
|
||
- 生成响应时浅层可能使用**过时或未更新的信念**
|
||
- 维护完整概率信念状态在一般情形下不可行（分布爆炸）
|
||
|
||
## 人类的启发式策略
|
||
|
||
Mozer et al. 指出人类采用近似方法：
|
||
- **采样**（Vul et al., 2014）
|
||
- **原型坍缩**（Tversky & Kahneman, 1971）
|
||
- **MAP 估计**——形成与前提最一致的具体心智模型
|
||
|
||
## 相关概念
|
||
|
||
- [[state-tracking|状态追踪]]
|
||
- [[depth-dilemma|深度困境]]
|
||
- [[mozer-topological-trouble-transformers-2026]]
|