20260617:目前有914 页

concepts/deep-gaussian-process.md

@@ -0,0 +1,50 @@
+---
+title: "深度高斯过程 (Deep Gaussian Process)"
+created: 2026-06-17
+updated: 2026-06-17
+type: concept
+tags: [bayesian-deep-learning, gaussian-process, hierarchical-models]
+sources: [raw/papers/ortega-phd-thesis-2026.md]
+confidence: high
+---
+
+# 深度高斯过程 (Deep Gaussian Process)
+
+深度高斯过程 (DGP) 将 GP 推广为**层次化组合**——每一层的输出作为下一层的输入，表达力远超单层 GP。[ortega-phd-thesis|Ortega (2026)] 提出的 [[deep-variational-implicit-process|DVIP]] 是 DGP 的高效替代方案。
+
+## 定义
+
+```
+f_L ∘ f_{L-1} ∘ ... ∘ f_1(x),    f_l ~ GP(m_l, k_l)
+```
+
+每一层 `f_l` 本身是一个高斯过程。
+
+## 优势 vs 浅层 GP
+
+| 维度 | 浅层 GP | DGP |
+|------|--------|-----|
+| 表达能力 | 核函数决定 | 层次化组合 |
+| 非平稳性 | 需特殊设计 | 自然涌现 |
+| 多尺度 | 单尺度 | 每层捕获不同尺度 |
+
+## 计算挑战
+
+DGP 的推断代价高：
+- 隐层无观测 → 需要近似推断
+- 变分推断需大量 inducing points
+- 计算复杂度 O(NM^2) 量级
+
+## DVIP 作为替代
+
+DVIP 用 [[implicit-processes|隐式过程]] 替代 GP：
+- 保留 DGP 的层次结构
+- 降低约 10 倍计算代价
+- 允许非高斯先验
+
+## 参考
+
+- [[deep-variational-implicit-process|DVIP]]
+- [[implicit-processes|隐式过程]]
+- [[function-space-modeling|函数空间建模]]
+- [[ortega-phd-thesis|论文]]