title, created, updated, type, tags, sources
| title |
created |
updated |
type |
tags |
sources |
| Generative Recommendation |
2026-06-28 |
2026-06-28 |
concept |
| recommender-systems |
| generative-models |
| llm |
| semantic-id |
|
|
Generative Recommendation
生成式推荐(Generative Recommendation)将推荐系统重构为端到端生成任务:通过semantic-id将物品编码为离散 token 序列,再用序列模型逐 token 预测下一个物品的 ID,将推荐转化为 next-token prediction。相比传统 DLRM(Deep Learning Recommendation Model)的 embedding-based 检索+排序两阶段架构,生成式推荐具有更强的扩展潜力和模型容量。
核心流程
- Tokenization:将物品(广告创意、商品等)映射为离散的语义 ID 序列——通常是多级层次结构(如 $s_1, s_2, ..., s_T$),每级对应语义空间中的不同粒度簇
- 生成:基于用户上下文 $X$,自回归地生成目标物品的 ID 序列
P(y|X) = \prod_{t=1}^T P(s_t|X, s_{<t})
- 解码:将生成的 ID 序列通过索引反向查找对应的物品列表,返回给用户
关键挑战
在大规模广告场景中部署生成式推荐面临三项独特挑战:
- 广告 Tokenization:广告创意融合了视频属性、产品细节、B2B 广告主元数据等多模态多粒度信息,且存在转化类型、广告账户等非语义业务信号
- 学习范式:广告推荐优化的是列表级业务目标(eCPM、NDCG),而非逐 item 的分类正确率。LLM 风格的 per-item 监督学习方法不足
- 实时服务:必须在高流量、严格延迟约束下生成多候选高质量列表,不能容忍 LLM 式的长解码延迟
代表系统
| 系统 |
关键创新 |
部署规模 |
| TIGER |
分层 RQ-VAE Semantic ID |
学术 |
| OneRec |
检索+排序统一生成 |
快手 |
| GR4AD |
UA-SID + LazyAR + RSPO |
快手 4 亿用户 |
| GPR |
广告生成式检索 |
学术 |
参考