myWiki/concepts/belief-transport.md

title, created, type, tags, sources

title	created	type	tags	sources
Belief Transport (信念传输)	2026-05-26	concept	bayesian-inference inference-primitive state-space-models	agarwal-bayesian-attention-geometry

Belief Transport

推理原语之二：在隐藏状态随机动态演化时，将信念向前传播。

定义

当潜在状态本身按 Markov 动态演化时（如 HMM），推理不仅需要累积证据，还需要在每一步将概率质量在状态之间传输。

数学表达

HMM 滤波的 forward algorithm： [ \alpha_t(z_t) = p(x_t \mid z_t) \sum_{z_{t-1}} p(z_t \mid z_{t-1}) \alpha_{t-1}(z_{t-1}) ]

这里传输矩阵 ( p(z_t \mid z_{t-1}) ) 施加了非平凡的状态动态。

架构实现

架构	传输能力	机制
Transformer	✅	注意力跨位置传播信息
Mamba	✅	SSM 连续时间状态演化
LSTM	❌	隐藏状态无动态建模机制
MLP	❌	—

关键洞察

Mamba 在 HMM 滤波上达到 SOTA —— 选择性 SSM 的连续时间动态天然适合建模信念传输。但 Mamba 缺少 random-access-binding，限制了它处理需要按内容检索的任务。

相关页面

• belief-accumulation — 静态证据累积
• random-access-binding — 内容检索
• inference-primitives — 原语体系
• mamba-ssm — Mamba 选择性状态空间模型