1.3 KiB
1.3 KiB
title, created, updated, type, tags, sources, confidence
| title | created | updated | type | tags | sources | confidence | |||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| 深度变分隐式过程 (DVIP) | 2026-06-17 | 2026-06-17 | concept |
|
|
high |
深度变分隐式过程 (Deep Variational Implicit Process)
DVIP 是 ortega-phd-thesis 提出的可扩展 Bayesian 框架——将implicit-processes扩展到深度架构，在函数空间中建模可采样但无显式密度的分布。
动机
- deep-gaussian-process 表达力强但计算代价高
- 隐式过程允许非高斯先验和高效变分推断
- 关键挑战：如何将隐式过程与深度架构结合
核心思想
DVIP 定义深度隐式过程为：
f(x) = f_L ∘ f_{L-1} ∘ ... ∘ f_1(x)
其中每一层 f_l 是一个隐式过程——可从先验采样（通过噪声→函数的确定映射），但无显式概率密度。
优势
- 非高斯先验：比 GP 更表达
- 函数空间变分推断：直接在函数分布上优化
- 计算高效：DGP 的约 1/10 代价
- 可扩展：适用于现代深度架构