Files
myWiki/concepts/gibbs-posterior.md

1.3 KiB
Raw Blame History

title, created, updated, type, tags, sources
title created updated type tags sources
Gibbs 后验 2026-06-22 2026-06-22 concept
robust-statistics
bayesian-inference
model-misspecification
nano-filter

Gibbs 后验

Gibbs posterior 是标准 Bayesian 后验的推广用于处理模型误设model misspecification场景。当真实数据生成过程与假定的似然模型不匹配时Gibbs 后验用广义损失函数 \ell_G(x_t, y_t) 替代负对数似然 $-\log p(y_t | x_t)$。

定义

Gibbs 后验是以下变分问题的解:


p_G(x_t | y_{1:t}) = \arg\min_{q} \left\{ E_{q(x_t)}[\ell_G(x_t, y_t)] + D_{KL}(q(x_t) \| p(x_t | y_{1:t-1})) \right\}

解析形式:


p_G(x_t | y_{1:t}) = \frac{\exp\{-\ell_G(x_t, y_t)\} p(x_t | y_{1:t-1})}{\int \exp\{-\ell_G(x_t, y_t)\} p(x_t | y_{1:t-1}) dx_t}

NANO 的鲁棒扩展

nano-filter 的推导仅依赖损失函数的一般形式,因此自然地支持 Gibbs 后验框架。论文提供两种损失函数选择:

  • Huber 损失 / pseudo-huber-loss:对大残差以线性而非二次增长,抑制离群值影响
  • 加权对数似然:通过数据依赖权重 w(x_t, y_t) 缩放似然贡献

参考