41 lines
2.1 KiB
Markdown
41 lines
2.1 KiB
Markdown
---
|
||
title: "Generative Recommendation"
|
||
created: 2026-06-28
|
||
updated: 2026-06-28
|
||
type: concept
|
||
tags: [recommender-systems, generative-models, llm, semantic-id]
|
||
sources: [GR4AD]
|
||
---
|
||
# Generative Recommendation
|
||
|
||
生成式推荐(Generative Recommendation)将推荐系统重构为**端到端生成任务**:通过[[semantic-id|Semantic ID]]将物品编码为离散 token 序列,再用序列模型逐 token 预测下一个物品的 ID,将推荐转化为 next-token prediction。相比传统 DLRM(Deep Learning Recommendation Model)的 embedding-based 检索+排序两阶段架构,生成式推荐具有更强的扩展潜力和模型容量。
|
||
|
||
## 核心流程
|
||
|
||
1. **Tokenization**:将物品(广告创意、商品等)映射为离散的语义 ID 序列——通常是多级层次结构(如 $s_1, s_2, ..., s_T$),每级对应语义空间中的不同粒度簇
|
||
2. **生成**:基于用户上下文 $X$,自回归地生成目标物品的 ID 序列 $P(y|X) = \prod_{t=1}^T P(s_t|X, s_{<t})$
|
||
3. **解码**:将生成的 ID 序列通过索引反向查找对应的物品列表,返回给用户
|
||
|
||
## 关键挑战
|
||
|
||
在**大规模广告场景**中部署生成式推荐面临三项独特挑战:
|
||
|
||
1. **广告 Tokenization**:广告创意融合了视频属性、产品细节、B2B 广告主元数据等多模态多粒度信息,且存在转化类型、广告账户等非语义业务信号
|
||
2. **学习范式**:广告推荐优化的是列表级业务目标(eCPM、NDCG),而非逐 item 的分类正确率。LLM 风格的 per-item 监督学习方法不足
|
||
3. **实时服务**:必须在高流量、严格延迟约束下生成多候选高质量列表,不能容忍 LLM 式的长解码延迟
|
||
|
||
## 代表系统
|
||
|
||
| 系统 | 关键创新 | 部署规模 |
|
||
|------|---------|---------|
|
||
| TIGER | 分层 RQ-VAE Semantic ID | 学术 |
|
||
| OneRec | 检索+排序统一生成 | 快手 |
|
||
| [[GR4AD]] | UA-SID + LazyAR + RSPO | 快手 4 亿用户 |
|
||
| GPR | 广告生成式检索 | 学术 |
|
||
|
||
## 参考
|
||
|
||
- [[GR4AD]] — Kuaishou 广告生成式推荐系统
|
||
- [[semantic-id|Semantic ID]]
|
||
- [[ua-sid|UA-SID]]
|