55 lines
3.8 KiB
Markdown
55 lines
3.8 KiB
Markdown
---
|
||
title: "Review: GR4AD — Generative Recommendation for Large-Scale Advertising"
|
||
created: 2026-06-28
|
||
updated: 2026-06-28
|
||
type: review
|
||
tags: [generative-recommendation, advertising, production-system, kuaishou]
|
||
sources: [GR4AD]
|
||
---
|
||
|
||
# 📌 基本信息
|
||
|
||
- **论文标题**: Generative Recommendation for Large-Scale Advertising (GR4AD)
|
||
- **作者**: Ben Xue, Dan Liu, Lixiang Wang 等 (Kuaishou Technology)
|
||
- **领域**: Generative Recommendation, Advertising Systems, Online Learning
|
||
- **arXiv**: 2602.22732
|
||
- **添加时间**: 2026-06-28
|
||
|
||
# 🎯 核心概念
|
||
|
||
1. **UA-SID（Unified Advertisement Semantic ID）** — 端到端微调广告 MLLM 生成统一嵌入 + MGMR RQ-Kmeans 量化，解决广告场景多模态多粒度业务信号联合建模的 tokenization 难题
|
||
|
||
2. **LazyAR（Lazy Autoregressive Decoder）** — 将解码器分为共享段（$K$ 层，级别无关）和注入段（$L-K$ 层，逐级注入前级 token），计算量从 $T \cdot L$ 降至 $K + T \cdot (L-K)$，近翻倍 QPS
|
||
|
||
3. **VSL（Value-Aware Supervised Learning）** — 通过 eCPM token 预测 + 用户行为双重加权将业务价值信号嵌入监督学习，实现非 RL 路径的价值感知
|
||
|
||
4. **RSPO（Ranking-Guided Softmax Preference Optimization）** — LambdaRank 驱动的 list-wise RL，显式优化 NDCG，自适应参考门控应对异构训练数据
|
||
|
||
5. **Unified VSL-RSPO** — 样本级对齐分数 $A(i)$ 动态平衡"模仿历史分布"和"向高价值探索"，支持持续在线学习
|
||
|
||
6. **DBS（Dynamic Beam Serving）** — 渐进递增束宽（DBW）+ 流量感知自适应束搜索（TABS），谷值期利用闲置计算拓展探索
|
||
|
||
# 🔗 概念网络
|
||
|
||
**核心三轴**:
|
||
- **Tokenization 轴**: [[generative-recommendation|生成式推荐（Generative Recommendation）]] → [[semantic-id|Semantic ID]] → [[ua-sid|UA-SID]] → [[mgmr-rq-kmeans|MGMR RQ-Kmeans]]
|
||
- **学习轴**: [[value-aware-supervised-learning|VSL]] → [[rspo|RSPO]] → [[unified-vsl-rspo|统一 VSL-RSPO 学习]]
|
||
- **服务轴**: [[lazyar|LazyAR]] → [[dynamic-beam-serving|DBS]] → [[beam-shared-kv-caching|Beam-Shared KV Caching]] → [[reco-result-cache|Recommendation Result Cache]]
|
||
|
||
**跨域连接**: LazyAR 与 [[MTP]]（DeepSeek 多 token 预测）形成架构对比——两者均为后续位置复用前几层，但 LazyAR 的"延迟注入"在短序列多候选场景更高效。
|
||
|
||
# 📚 Wiki 集成
|
||
|
||
- **新增页面**: 13 个（1 论文 + 12 概念）
|
||
- **概念网络扩展**: 全新领域——生成式推荐/广告系统，此前 wiki 无推荐相关页面
|
||
- **链接密度**: 论文页 15 条 wikilink，核心概念平均 3-5 条交叉引用
|
||
- **总规模**: 1,295 → **1,308** 页（预计）
|
||
|
||
# 💡 关键洞察
|
||
|
||
**1. "广告原生"生成式推荐的 co-design 范式**。GR4AD 的核心洞察是：LLM 风格的训练和推理 recipe 直接搬用到广告场景是不够的。广告需要自己的 tokenization（UA-SID 的 MLLM 微调 + MGMR 量化）、自己的学习范式（VSL + RSPO 的列表级优化）、自己的解码架构（LazyAR 的短序列多候选设计）。这种全栈 co-design 是 4.2% 收入提升的系统性基础。
|
||
|
||
**2. RSPO 将 LambdaRank 注入生成式 RL**。传统 LambdaRank 是 learning-to-rank 的基石，GR4AD 将其 pairwise NDCG 梯度结构嵌入 softmax 偏好优化框架，实现了生成式推荐中首个理论有界（NDCG 代价上界）的 list-wise RL 算法。参考门控的设计也务实——不追求理论完美，承认生产数据的异构性和参考分布的不可靠性。
|
||
|
||
**3. LazyAR 体现了"推荐原生"的效率取舍**。与 LLM 推理优化追求通用加速不同，LazyAR 利用了推荐场景的结构特性：多级 SID 中第一级信息量最大、后续级别可大量共享计算。这种领域感知的架构设计使得 GR4AD 在 500+ QPS/L20 下实现 <100ms 延迟——对于服务 4 亿用户的实时广告系统至关重要。
|