20260706:新增一些文章
This commit is contained in:
@@ -1,38 +1,40 @@
|
||||
---
|
||||
title: "生成式推荐 (Generative Recommendation)"
|
||||
created: 2026-06-10
|
||||
updated: 2026-06-10
|
||||
title: "Generative Recommendation"
|
||||
created: 2026-06-28
|
||||
updated: 2026-06-28
|
||||
type: concept
|
||||
tags: [recommendation, generative-model, paradigm]
|
||||
sources: [raw/papers/onereason-team-onereason-2026.md]
|
||||
tags: [recommender-systems, generative-models, llm, semantic-id]
|
||||
sources: [GR4AD]
|
||||
---
|
||||
# Generative Recommendation
|
||||
|
||||
# 生成式推荐 (Generative Recommendation)
|
||||
生成式推荐(Generative Recommendation)将推荐系统重构为**端到端生成任务**:通过[[semantic-id|Semantic ID]]将物品编码为离散 token 序列,再用序列模型逐 token 预测下一个物品的 ID,将推荐转化为 next-token prediction。相比传统 DLRM(Deep Learning Recommendation Model)的 embedding-based 检索+排序两阶段架构,生成式推荐具有更强的扩展潜力和模型容量。
|
||||
|
||||
> 将推荐任务建模为序列生成问题,用生成式模型直接预测下一个 item 的推荐范式。
|
||||
## 核心流程
|
||||
|
||||
## 定义
|
||||
1. **Tokenization**:将物品(广告创意、商品等)映射为离散的语义 ID 序列——通常是多级层次结构(如 $s_1, s_2, ..., s_T$),每级对应语义空间中的不同粒度簇
|
||||
2. **生成**:基于用户上下文 $X$,自回归地生成目标物品的 ID 序列 $P(y|X) = \prod_{t=1}^T P(s_t|X, s_{<t})$
|
||||
3. **解码**:将生成的 ID 序列通过索引反向查找对应的物品列表,返回给用户
|
||||
|
||||
生成式推荐将推荐重新表述为序列生成:给定用户历史行为序列,模型直接生成下一个推荐 item(以 [[itemic-tokens|itemic token]] 形式)。这与传统推荐(embedding 匹配 + top-K 检索)形成根本差异。
|
||||
## 关键挑战
|
||||
|
||||
## 核心思想
|
||||
在**大规模广告场景**中部署生成式推荐面临三项独特挑战:
|
||||
|
||||
- **统一生成框架**:将召回、排序、重排统一为一个端到端生成过程
|
||||
- **Scaling 优势**:像 LLM 一样,模型和数据的扩展带来持续性能提升
|
||||
- **跨域泛化**:生成式模型天然支持跨域推荐
|
||||
1. **广告 Tokenization**:广告创意融合了视频属性、产品细节、B2B 广告主元数据等多模态多粒度信息,且存在转化类型、广告账户等非语义业务信号
|
||||
2. **学习范式**:广告推荐优化的是列表级业务目标(eCPM、NDCG),而非逐 item 的分类正确率。LLM 风格的 per-item 监督学习方法不足
|
||||
3. **实时服务**:必须在高流量、严格延迟约束下生成多候选高质量列表,不能容忍 LLM 式的长解码延迟
|
||||
|
||||
## 代表工作
|
||||
## 代表系统
|
||||
|
||||
- [[onerec|OneRec 系列]](快手):工业级生成式推荐,多业务线部署
|
||||
- 在短视频、直播、广告、电商等场景验证
|
||||
|
||||
## 核心挑战
|
||||
|
||||
- **推理能力缺失**:纯 item token 序列无法支撑 [[chain-of-thought|CoT]] 推理
|
||||
- **[[itemic-text-alignment|语义对齐]]**:item token 与自然语言的跨模态对齐
|
||||
| 系统 | 关键创新 | 部署规模 |
|
||||
|------|---------|---------|
|
||||
| TIGER | 分层 RQ-VAE Semantic ID | 学术 |
|
||||
| OneRec | 检索+排序统一生成 | 快手 |
|
||||
| [[GR4AD]] | UA-SID + LazyAR + RSPO | 快手 4 亿用户 |
|
||||
| GPR | 广告生成式检索 | 学术 |
|
||||
|
||||
## 参考
|
||||
|
||||
- [[onerec|OneRec]]
|
||||
- [[onereason|OneReason]]
|
||||
- [[itemic-tokens|Itemic Token]]
|
||||
- [[GR4AD]] — Kuaishou 广告生成式推荐系统
|
||||
- [[semantic-id|Semantic ID]]
|
||||
- [[ua-sid|UA-SID]]
|
||||
|
||||
Reference in New Issue
Block a user