myWiki/concepts/bayesian-deep-learning.md

title, created, updated, type, tags, sources

title	created	updated	type	tags	sources
贝叶斯深度学习 (Bayesian Deep Learning)	2026-06-10	2026-06-10	concept	uncertainty-quantification variational-inference	principled-uncertainty-clinical-ai

贝叶斯深度学习 (Bayesian Deep Learning)

贝叶斯深度学习将贝叶斯推断框架应用于深度神经网络，为权重和预测赋予概率分布而非点估计，从而自然地实现 uncertainty-quantification。

核心思想

传统深度学习：学习确定性的权重 w -> 输出点估计 y_hat = f_w(x)

贝叶斯深度学习：学习权重的后验分布 p(w|D) -> 输出预测分布 p(y|x, D)

变分推断方法

由于精确后验不可计算，使用变分推断近似：

1. variational-autoencoder（Kingma & Welling, 2014）：通过重参数化技巧优化 ELBO
2. mc-dropout（Gal & Ghahramani, 2016）：训练时 Dropout ≈ 深度高斯过程中的贝叶斯推断
3. Bayes by Backprop（Blundell et al., 2015）：直接在权重上学习分布

临床 AI 应用

principled-uncertainty-clinical-ai 展示了完整的端到端贝叶斯管线：

• 模态特定变分编码器 → 潜空间分布
• precision-weighted-fusion → 融合后验
• 分解不确定性头 → epistemic-uncertainty + aleatoric-uncertainty

参考

• principled-uncertainty-clinical-ai
• variational-autoencoder
• mc-dropout