1.3 KiB
1.3 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | ||||
|---|---|---|---|---|---|---|---|---|---|
| 信念状态 (Belief State) | 2026-06-18 | 2026-06-18 | concept |
|
|
信念状态 (Belief State)
信念状态是 AI 智能体对环境的紧凑、充分的知识摘要（Chrisman, 1992; Kaelbling et al., 1998）。
形式
- 事实集合：已知命题的集合（如"Fred 在河边"）
- 概率分布：可能世界的概率分布，追踪不确定性
- 组合状态：多个独立状态变量的组合（如实体位置、关系状态）
在 Transformer 中的困境
Transformer 需要维护信念状态来确保推理一致性，但其前馈架构（feedforward-depth-limitation）导致：
- 信念状态的更新被推入深层网络
- 生成响应时浅层可能使用过时或未更新的信念
- 维护完整概率信念状态在一般情形下不可行（分布爆炸）
人类的启发式策略
Mozer et al. 指出人类采用近似方法：
- 采样（Vul et al., 2014）
- 原型坍缩（Tversky & Kahneman, 1971）
- MAP 估计——形成与前提最一致的具体心智模型