Files
myWiki/concepts/implicit-processes.md

1.4 KiB
Raw Blame History

title, created, updated, type, tags, sources, confidence
title created updated type tags sources confidence
隐式过程 (Implicit Processes) 2026-06-17 2026-06-17 concept
bayesian-deep-learning
stochastic-processes
generative-models
raw/papers/ortega-phd-thesis-2026.md
high

隐式过程 (Implicit Processes)

隐式过程是一类可通过采样定义但无显式概率密度的随机过程——ortega-phd-thesis将其扩展到深度架构形成 deep-variational-implicit-process

定义

隐式过程 f ~ IP(g_θ, P_z)

f(x) = g_θ(x; z),   z ~ P_z
  • g_θ:确定性的生成器网络(带参数 θ)
  • P_z:隐变量 z 的简单先验(如 N(0,I)
  • 采样 f 只需z ~ P_z → f(·) = g_θ(·; z)

与高斯过程的对比

维度 GP Implicit Process
密度 显式(多元高斯) 隐式(无解析形式)
先验 高斯 任意(由 g_θ 决定)
推断 解析GP 回归) 变分推断
表达力 由核决定 由 g_θ 架构决定

优势

  • 非高斯性:可建模多模态、重尾分布
  • 深度化P_z → g_θ 是深度网络,表达力远超 GP 核
  • 采样高效:仅需一次前向传播

参考