1.3 KiB
1.3 KiB
title, created, updated, type, tags, sources, confidence
| title | created | updated | type | tags | sources | confidence | ||||
|---|---|---|---|---|---|---|---|---|---|---|
| Latent-Variable Generative Model（潜在变量生成模型） | 2026-05-23 | 2026-05-23 | concept |
|
|
high |
Latent-Variable Generative Model
GRAM 的概率视角：将递归推理形式化为潜在变量生成模型，推理轨迹是潜在变量 z，通过边缘化得到预测。
两种模式
- 条件推理: p_theta(y|x) — 给定输入 x，推理产生 z_T，解码得到 y
- 无条件生成: p_theta(x) — 固定或缺失输入时，同样的递归过程可以生成数据
为什么这个形式化重要
- 统一框架：推理和生成是同一模型的两个方向
- 概率解释：不确定性自然内建于模型
- 训练目标清晰：amortized-variational-inference 最大化 ELBO
与 VAE 的关系
GRAM 可以看作针对递归推理特化的 VAE 变体：
- VAE: z ~ q_phi(z|x), p_theta(x|z)
- GRAM: z = 递归轨迹, p_theta(y|z), p_theta(x)
- 区别：GRAM 的潜在变量是结构化序列，而非单一向量