20260706:新增一些文章

papers/DSpark.md

@@ -0,0 +1,52 @@
+---
+title: "DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation"
+created: 2026-06-28
+source: https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdf
+authors: "Xin Cheng, Xingkai Yu, Chenze Shao, Jiashi Li, Yunfan Xiong, Yi Qian, Jiaqi Zhu, Shirong Ma, Xiaokang Zhang, Jiasheng Ye, Qinyu Chen, Chengqi Deng, Jiping Yu, Damai Dai, Zhengyan Zhang, Yixuan Wei, Yixuan Tan, Wenkai Yang, Runxin Xu, Yu Wu, Zhean Xu, Xuanyu Wang, Muyang Chen, Rui Tian, Xiao Bi, Zhewen Hao, Shaoyuan Chen, Huanqi Cao, Wentao Zhang, Anyi Xu, Huishuai Zhang, Dongyan Zhao, Wenfeng Liang"
+affiliations: "Peking University; DeepSeek-AI"
+year: 2026
+type: paper
+---
+# DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation
+
+## 元数据
+
+- **作者**: Xin Cheng, Xingkai Yu, Chenze Shao, Jiashi Li, Yunfan Xiong 等（北京大学 & DeepSeek-AI）
+- **来源**: DeepSeek DeepSpec Repository
+- **发表年份**: 2026
+- **论文链接**: https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdf
+- **代码**: DeepSpec (https://github.com/deepseek-ai/DeepSpec) — 含 DSpark, Eagle3, DFlash checkpoints
+
+## 摘要
+
+DSpark 是一个投机解码框架，统一了高吞吐量并行生成和自适应负载感知验证。算法层面，采用半自回归架构——耦合并行骨干与轻量级顺序模块——引入块内依赖建模以缓解后缀衰减。系统层面，采用置信度调度验证，基于估计的前缀存活概率和引擎吞吐量曲线动态为每个请求定制验证长度。
+
+离线基准测试中，DSpark 显著超越最先进的自回归和并行草稿器（Qwen3-{4B,8B,14B} 上相对 Eagle3 提升 26.7%-30.9%，相对 DFlash 提升 16.3%-18.3%）。在 DeepSeek-V4 服务系统的生产部署中，相比 MTP-1 基线，DSpark 在匹配吞吐量下加速每用户生成速度 60%-85%，并在严格交互约束下将服务 Pareto 前沿整体外移。
+
+## 核心贡献
+
+1. **半自回归生成（Section 3.1）**：并行骨干（DFlash）处理大批量草稿计算保持 $O(1)$ 延迟，轻量级顺序块（Markov head / RNN head）注入 token 间依赖以缓解[[cross-mode-collision|跨模态碰撞（Cross-Mode Collision）]]和后缀接受率衰减
+
+2. **置信度调度验证（Section 3.2）**：置信度头估计每个位置的条件存活概率 $c_k$，硬件感知前缀调度器将验证长度选择形式化为全局吞吐量最大化问题 $\Theta = \tau \cdot \text{SPS}(B)$，通过贪心排序 + 早停实现严格因果的 lossless 调度
+
+3. **顺序温度缩放（STS）**：逐位置校准累积存活概率 $\prod c_i$ 的 ECE，将置信度估计从 3%-8% ECE 降至 ~1%，保持排序不变的同时修正绝对幅度
+
+4. **生产部署验证（Section 5）**：DeepSeek-V4-Flash/Pro 的 real traffic 评估，轻负载时自动扩展验证预算至 4-6 token，高并发时自动收缩，将服务 Pareto 前沿外移
+
+## 关键结果
+
+| 目标模型 | vs Eagle3 | vs DFlash |
+|---------|-----------|----------|
+| Qwen3-4B | +30.9% | +16.3% |
+| Qwen3-8B | +26.7% | +18.4% |
+| Qwen3-14B | +30.0% | +18.3% |
+
+## 概念连接
+
+核心概念：[[speculative-decoding|投机解码（Speculative Decoding）]] → [[semi-autoregressive-generation|半自回归生成（Semi-Autoregressive Generation）]] → [[confidence-scheduled-verification|置信度调度验证（Confidence-Scheduled Verification）]] → [[hardware-aware-prefix-scheduler|硬件感知前缀调度器（Hardware-Aware Prefix Scheduler）]]
+
+组件概念：[[markov-draft-head|马尔可夫草稿头（Markov Draft Head）]]、[[rnn-draft-head|RNN 草稿头]]、[[confidence-head|置信度头（Confidence Head）]]、[[sequential-temperature-scaling|Sequential Temperature Scaling]]
+
+基线概念：[[DFlash]]、[[Eagle3]]、[[MTP]]、[[parallel-drafting|并行草稿（Parallel Drafting）]]、[[autoregressive-drafting|自回归草稿（Autoregressive Drafting）]]
+
+分析概念：[[cross-mode-collision|跨模态碰撞（Cross-Mode Collision）]]、[[position-wise-conditional-acceptance|位置条件接受率（Position-wise Conditional Acceptance）]]、[[prefix-survival-probability|前缀存活概率（Prefix Survival Probability）]]、[[kv-injection|KV 注入（KV Injection）]]、[[pareto-frontier-llm-serving|Pareto Frontier (LLM Serving)]]

papers/GR4AD.md

@@ -0,0 +1,61 @@
+---
+title: "GR4AD: Generative Recommendation for Large-Scale Advertising"
+created: 2026-06-28
+updated: 2026-06-28
+type: paper
+tags: [generative-recommendation, advertising, production-system, kuaishou]
+sources: [arxiv:2602.22732]
+---
+
+# GR4AD: Generative Recommendation for Large-Scale Advertising
+
+## 元数据
+
+- **标题**: Generative Recommendation for Large-Scale Advertising
+- **作者**: Ben Xue, Dan Liu, Lixiang Wang, Mingjie Sun, Peng Wang, Pengfei Zhang 等 (Kuaishou Technology)
+- **arXiv**: [2602.22732](https://arxiv.org/abs/2602.22732)
+- **发表**: 2026-02-26 (v3: 2026-04-02)
+- **领域**: cs.IR, cs.LG
+- **状态**: Under review
+
+## 摘要
+
+GR4AD 是一个面向大规模广告的**生产级生成式推荐系统**，在架构、学习和推理三个维度协同设计。核心创新：(1) **UA-SID**——基于端到端微调广告 MLLM 的统一语义 ID tokenization；(2) **LazyAR**——懒惰自回归解码器，通过延迟注入释放自回归依赖以提升推理吞吐；(3) **VSL + RSPO**——价值感知监督学习与排序引导 list-wise RL 的统一在线学习；(4) **DBS**——动态束搜索服务，自适应束宽和流量感知调度。在快手广告系统全量部署，服务 4 亿+ 用户，线上 A/B 测试显示相对 DLRM 堆栈广告收入提升 4.2%。
+
+## 核心贡献
+
+### 1. 广告原生 Tokenization：UA-SID
+
+传统 Semantic ID 未建模广告特有的业务信号（转化类型、广告主账户等）。[[ua-sid|UA-SID]]通过端到端微调广告 MLLM（指令微调 + 共现学习）生成统一嵌入，再经[[mgmr-rq-kmeans|MGMR RQ-Kmeans]]量化为多粒度多分辨率离散 ID 序列，显著降低碰撞率并提升 codebook 利用率。
+
+### 2. 高效解码器架构：LazyAR
+
+标准自回归解码每级 UA-SID 需完整 $L$ 层计算（$T \cdot L$）。[[lazyar|LazyAR]]将前 $K$ 层设为级别共享段（trunk），仅在 $L-K$ 层注入前级 token 嵌入，计算量降至 $K + T \cdot (L-K)$。配合辅助 MTP 损失补偿表示质量，实现近翻倍 QPS。
+
+### 3. 价值感知在线学习：VSL + RSPO
+
+[[value-aware-supervised-learning|VSL]]通过 eCPM token 预测和价值感知样本加权，将业务信号嵌入 SFT。[[rspo|RSPO]]在此基础上进行 LambdaRank 驱动的 list-wise RL，显式优化 NDCG。[[unified-vsl-rspo|统一 VSL-RSPO 学习]]通过样本级对齐分数动态平衡模仿与探索。
+
+### 4. 系统效率优化
+
+[[dynamic-beam-serving|DBS]]（DBW + TABS）自适应调整束宽度，[[beam-shared-kv-caching|Beam-Shared KV Caching]]消除束间冗余 KV 缓存，[[reco-result-cache|Recommendation Result Cache]]短 TTL 缓存复用 session 内重复请求。
+
+## 关键结果
+
+| 组件 | ΔRevenue | ΔQPS |
+|------|---------|------|
+| DLRM (Base) | — | — |
+| OneRec-V2 (GR-Base) | +1.68% | — |
+| + UA-SID | +1.92% | 0% |
+| + VSL + RSPO (UVR) | +4.01% | -25% |
+| **GR4AD (UVR + DBS + LazyAR)** | **+4.28%** | **+117%** |
+
+除收入外，中小企业广告投放量 +17.5%，转化率 +10.17%，低活跃用户转化率 +7.28%。
+
+## 概念网络
+
+**架构轴**：[[generative-recommendation|生成式推荐（Generative Recommendation）]] → [[semantic-id|语义 ID（Semantic ID）]] → [[ua-sid|UA-SID]] → [[mgmr-rq-kmeans|MGMR RQ-Kmeans]] → [[lazyar|LazyAR]]
+
+**学习轴**：[[value-aware-supervised-learning|VSL]] → [[rspo|RSPO]] → [[unified-vsl-rspo|统一 VSL-RSPO 学习]]
+
+**服务轴**：[[dynamic-beam-serving|DBS]] → [[beam-shared-kv-caching|Beam-Shared KV Caching]] → [[reco-result-cache|Recommendation Result Cache]]

papers/leap-agentic-atp.md

@@ -0,0 +1,101 @@
+---
+title: "LEAP: Agentic Formal Theorem Proving with General LLMs"
+created: 2026-07-03
+updated: 2026-07-03
+type: paper
+tags: ["formal-mathematics", "theorem-proving", "lean", "agentic", "google"]
+sources: ["arxiv:2606.03303"]
+arxiv_id: "2606.03303"
+authors: "Po-Nien Kung, Linfeng Song, Dawsen Hwang, Jinsung Yoon, Chun-Liang Li, Simone Severini, Mirek Olšák, Edward Lockhart, Quoc V Le, Burak Gokturk, Thang Luong, Tomas Pfister, Nanyun Peng"
+venue: "arXiv 2026 (Google Cloud AI / DeepMind)"
+code: "https://github.com/google-deepmind/superhuman/tree/main/leap"
+---
+
+# LEAP: Supercharging LLMs for Formal Mathematics with Agentic Frameworks
+
+> [原始存档](raw/papers/leap-agentic-atp.md) | 代码: [google-deepmind/superhuman/leap](https://github.com/google-deepmind/superhuman/tree/main/leap) | Benchmark: [imobench.github.io](https://imobench.github.io)
+
+## 核心贡献
+
+LEAP (LLM-in-Lean Environment Agentic Prover) 是一个 **仅使用通用 LLM**（无需专用证明器模型微调）的 agentic [[formal-theorem-proving|形式化定理证明]] 框架。它挑战了「通用 LLM 不适用于严格形式化任务」的既有假设——通过 agentic 框架设计，通用 LLM 可以在 ATP 上达到甚至超越专用系统。
+
+同时引入 [[lean-imo-bench|Lean-IMO-Bench]]——将 IMO 级别问题形式化到 [[lean-proof-assistant|Lean]] 中的新基准。
+
+## 架构：蓝图驱动的自动化定理证明
+
+LEAP 的核心工作流（Figure 1）：
+
+```
+给定定理 → 注册为 OR 节点（根目标）
+    ↓
+直接形式化路径：
+  非正式证明 → 翻译 Lean → 编译器验证
+  → 失败 → LLM 驱动修正循环（重写 + 重试）
+    ↓ 仍失败
+分解路径：
+  非正式蓝图生成 → 形式化证明草图（AND 节点）
+  → 子目标（新 OR 节点）→ 递归处理
+```
+
+三个关键设计选择：
+
+### 1. [[and-or-dag-memoization|AND-OR DAG 分层记忆化]]
+
+- **OR 节点**：开放目标（可用任意有效策略解决）
+- **AND 节点**：候选分解（需证明所有子目标才算成功）
+- **单调精化**：分解后可在不破坏已有依赖结构的前提下修改/扩展/放弃
+- **引理记忆化**：中间引理跨分支复用
+- **预期引理规划**：可提前提出辅助引理——当前不需要但未来可能有用
+
+### 2. [[interleaved-informal-formal-planning|非正式-形式化交错规划]]
+
+LLM 的优势在非正式推理、策略生成和自修正；Lean 提供严格的机器可验证检查。LEAP 在两条路径中都经过非正式证明草图——这是规划空间，使证明构建比直接生成代码更稳健。
+
+### 3. [[verification-guided-proof-search|验证引导的证明搜索]]
+
+两层验证：
+- **Lean 编译器**：形式化检查语法和类型正确性；sketch 中仅允许 `sorry` 占位符用于新声明的子目标
+- **LLM Reviewer**：评估分解质量——子目标是否相关、是否简化问题、是否为合理路径。这是**搜索过滤器**：识别无前途的分解，触发回溯，鼓励探索替代策略
+
+## 实验结果
+
+### Putnam 2025（12 题，仅 2 rollouts）
+
+| 方法 | 解决率 | 备注 |
+|------|--------|------|
+| Gemini-3.1-pro (Pass@128) | 0% | 单次生成不足 |
+| Goedel-Prover-V2-32B | 0% | 专用 ATP 模型 |
+| Hilbert (2 rollouts) | 33.3% | Agentic + 专用模型 |
+| Aristotle (2 rollouts) | 75.0% | IMO Gold 专用系统 |
+| **LEAP (2 rollouts)** | **100%** | **仅通用 LLM** |
+
+### Lean-IMO-Bench（60 题）
+
+| 方法 | 解决率 |
+|------|--------|
+| Gemini-3.1-pro (Pass@128) | <10% |
+| Goedel-Prover-V2-32B | ~5% |
+| Aristotle | 48% |
+| **LEAP** | **70%** |
+
+### Knuth 哈密顿分解
+
+LEAP 自主形式化了 Knuth 偶数阶 Cayley 图哈密顿分解中一个关键子问题的验证证明——展示了研究级别的实用性。
+
+## 关键洞察
+
+- 瓶颈不在形式语言理解，而在于**缺乏与证明环境的结构化、迭代式交互**
+- Agentic 分解 + 交错规划 + 验证引导搜索三者的组合，让通用 LLM 超越了专用系统
+- LLM Reviewer 作为搜索启发式评估器的方向值得关注——当前只是简单的 DFS + 回溯
+
+## 相关概念
+
+- [[formal-theorem-proving|形式化定理证明]]
+- [[lean-proof-assistant|Lean 证明助手]]
+- [[autoformalization|自动形式化]]
+- [[and-or-dag-memoization|AND-OR DAG 记忆化]]
+- [[blueprint-driven-atp|蓝图驱动 ATP]]
+- [[interleaved-informal-formal-planning|非正式-形式化交错规划]]
+- [[verification-guided-proof-search|验证引导证明搜索]]
+- [[lean-imo-bench|Lean-IMO-Bench]]
+- [[anticipatory-lemma-planning|预期引理规划]]

papers/ramsey-sphere-lowerbound.md

@@ -0,0 +1,70 @@
+---
+title: "An exponential improvement for Ramsey lower bounds"
+created: 2026-06-29
+updated: 2026-06-29
+type: paper
+tags: [ramsey-theory, combinatorics, probabilistic-method, lower-bound, random-graph]
+sources: [https://arxiv.org/abs/2507.12926]
+authors: ["Jie Ma (USTC / Yau Center, Tsinghua)", "Wujie Shen (Tsinghua)", "Shengjie Xie (USTC)"]
+venue: arXiv:2507.12926v2
+year: 2026
+---
+
+# An Exponential Improvement for Ramsey Lower Bounds
+
+> arXiv: [2507.12926v2](https://arxiv.org/abs/2507.12926), math.CO, April 2026
+
+## 一句话
+
+78 年来首次对 Erdős (1947) 的 Ramsey 数下界做出**指数级改进**，通过引入 **[[random-sphere-graph|随机球面图]]** 模型，将经典概率方法从离散随机图推广到连续几何测度空间。
+
+## 核心结果
+
+对任意常数 C > 1，存在 ε = ε(C) > 0，使得对充分大的 ℓ：
+
+> r(ℓ, Cℓ) ≥ (M_C + ε)^ℓ
+
+其中 M_C = p_C^{-1/2}，p_C ∈ (0, 1/2) 是方程 C = log p_C / log(1-p_C) 的唯一解。
+
+**推论**：对任意 δ ∈ (0, 1/2)，当 δ ≤ ℓ/k ≤ 1-δ 时：
+> r(ℓ, k) ≥ (1 + 2c_δ)^ℓ · (M_{k/ℓ})^ℓ ≥ (1 + c_δ)^ℓ · Er(ℓ, k)
+
+（Er 为 Erdős 1947 年得到的下界）
+
+## 方法论创新
+
+### 随机球面图 G_{k,p}(n)
+
+不再使用经典的 Erdős-Rényi [[random-graph-theory|随机图 G(n,p)]]，而是在 k 维单位球面 S^k 上均匀采样 n 个点，以概率 p 连边。这是**几何测度**与概率方法的首次深度融合。
+
+### 完美序列 (Perfect Sequences)
+
+引入了组合新概念 —— [[perfect-sequences|完美序列]]，作为刻画球面上点的邻接结构的核心工具。证明了完美序列能"捕获"问题在随机球面图下的本质行为（Section 7）。
+
+## 技术路线
+
+1. 定义随机球面图模型（Section 2）
+2. 将主定理归约为核心技术定理 3.1（Section 3）
+3. 引入完美序列概念（Section 5）
+4. 估计完美序列的概率行为（Sections 6-8）
+5. 组合所有估计完成证明（Section 9）
+6. 几乎对角情形的改进：r(ℓ, ℓ+f(ℓ)) ≥ e^{Ω(f(ℓ)²/ℓ)} · Er(ℓ, ℓ+f(ℓ))，其中 √ℓ ≪ f(ℓ) ≪ ℓ
+
+## 历史意义
+
+| 年份 | 贡献 | 方法 |
+|------|------|------|
+| 1947 | Erdős 下界 | 概率方法 |
+| 1975 | Spencer 常数因子改进 | [[lovasz-local-lemma|Lovász 局部引理]] |
+| 2026 | **本文：指数级改进** | 随机球面图 + 完美序列 |
+
+## 相关概念
+
+- [[ramsey-theory|Ramsey 理论]]
+- [[ramsey-numbers|Ramsey 数]]
+- [[diagonal-ramsey-number|对角 Ramsey 数]]
+- [[probabilistic-method|概率方法]]
+- [[random-graph-theory|随机图理论]]
+- [[random-sphere-graph|随机球面图]]
+- [[perfect-sequences|完美序列]]
+- [[lovasz-local-lemma|Lovász 局部引理]]

papers/rubrics-survey-2026.md

@@ -0,0 +1,80 @@
+---
+title: "The Rules of the Game: A Survey of Rubrics for Large Language Models"
+created: 2026-06-27
+updated: 2026-06-27
+type: paper
+source_url: "https://8421bcd.github.io/_pages/Rubrics_Survey.pdf"
+github: "https://github.com/8421BCD/Rubrics_Survey"
+authors:
+  - "Wenhan Liu"
+  - "Jiajie Jin"
+  - "Zhaoheng Huang"
+  - "Tongyu Wen"
+  - "Guanting Dong"
+  - "Ziliang Zhao"
+  - "Yutao Zhu"
+  - "Zhicheng Dou"
+  - "Ji-Rong Wen"
+affiliation: "Renmin University of China"
+date: "2026-05-22"
+tags:
+  - rubric
+  - evaluation
+  - reward-modeling
+  - survey
+  - llm
+---
+
+# The Rules of the Game: A Survey of Rubrics for LLMs
+
+## 核心问题
+
+LLM 正从简单文本生成器进化为推理、决策、工具使用和长周期求解系统。当任务变得开放、高风险（深度研究、医疗诊断、agentic tool use），单一的 correctness 信号和 LLM judge 的偏好分已不足以评估——需要多维度标准。
+
+**Rubrics 填补这个空缺**：将质量评估分解为显式的 [[rubrics-for-llms|结构化评分项目]]，逐项打分后聚合，同时提供透明、可控、可诊断的评估，并可转化为训练监督信号。
+
+## 论文贡献
+
+1. **首次全面综述** LLM 的 rubric-based 研究
+2. **系统分类** rubric 构建方法为四大范式：[[rubric-construction|直接生成、对比生成、迭代精炼、在线协同演化]]
+3. **全面回顾** rubric 在模型训练中的应用：[[rubric-based-reward-modeling|Policy model RL + Reward model training]]
+4. **深度讨论** 开放挑战：[[reward-hacking|rubric reward hacking]]、泛化性、[[rubric-safety|rubric 安全]]、[[rubric-personalization|个性化 rubric]]、评估偏置
+
+## 关键框架
+
+### Rubric 形式化定义
+R = {(dⱼ, wⱼ)}ᵏⱼ₌₁，逐项打分 cⱼ(x,y) ∈ [0,1]，[[rubric-aggregation|加权聚合]]为 S_R。
+
+### 概念区分
+Rubrics = **评估标准**（what） vs [[llm-as-a-judge|LLM-as-a-Judge]] = **评估者**（who） vs Reward Model = **输出分数方式**（how） vs [[rlvr-unified-framework|RLVR]] = **自动验证方式**。
+
+### Rubric 构建四范式
+
+| 范式 | 机制 | 代表作 |
+|------|------|--------|
+| Direct Generation | 从 query/answer 直接生成 | RaR, RLCF, CARMO |
+| Contrastive Generation | 从偏好对提取区分标准 | OpenRubrics, CDRRM, MaMs |
+| Iterative Refinement | 验证→分解→压缩循环 | RRD, RubricHub, CARO, OptimSyn |
+| Online/Co-evolving | 训练中动态调整 | DR-Tulu, Rubric-ARM, OpenRS, SibylSense |
+
+### Rubric 用于训练
+
+- **Policy Model**: Standard RL / Advanced Reward Design / Rubrics as Policy Guidance
+- **Reward Model**: Interpretability (R3, ArmoRM) / Reward Signals (METAJUDGE) / Data Construction (CROME)
+
+### Rubric 用于评估
+
+- **通用任务**: Reasoning, Deep Research, Agent, Alignment — [[rubric-driven-evaluation|多维度 benchmark]]
+- **领域特定**: 医疗 QA, 多模态生成, 代码生成, 视频理解
+
+## 开放问题
+
+1. **Rubric Reward Hacking**: policy 学会利用 rubric 的盲点而非真正提升能力（参见 [[reward-hacking]]）
+2. **泛化性**: rubric-based RM 跨任务/跨领域泛化弱
+3. **评估偏置**: 措辞偏置、judge model 偏置、人类专家分歧
+4. **个性化 Rubric**: 用户专属 vs 通用标准的张力（参见 [[rubric-personalization]]）
+5. **Rubric 安全**: RIPD 攻击——rubric 可被操纵为攻击面（参见 [[rubric-safety]]）
+
+## 来源
+
+[原始存档](raw/papers/rubrics-survey-2026.md) | [GitHub 仓库](https://github.com/8421BCD/Rubrics_Survey) | [PDF](https://8421bcd.github.io/_pages/Rubrics_Survey.pdf)

papers/safe-equilibrium-exploration.md

@@ -0,0 +1,61 @@
+---
+title: "Safe Equilibrium Exploration: On the Equilibrium between Feasible Zone and Uncertain Model in Safe Exploration"
+created: 2026-06-29
+updated: 2026-06-29
+type: paper
+tags: [safe-reinforcement-learning, safe-exploration, feasible-zone, equilibrium, control]
+sources: [https://arxiv.org/abs/2602.00636]
+authors: ["Yujie Yang (Tsinghua)", "Zhilong Zheng (Tsinghua)", "Shengbo Eben Li (Tsinghua)"]
+venue: IEEE TPAMI 48(7), 8344-8360 (2026)
+doi: 10.1109/TPAMI.2026.3669907
+year: 2026
+---
+
+# Safe Equilibrium Exploration (SEE)
+
+> arXiv: [2602.00636v2](https://arxiv.org/abs/2602.00636), cs.LG, IEEE TPAMI 2026
+
+## 一句话
+
+首次揭示 [[safe-exploration|安全探索]] 的**目标不是最大化可行域，而是找到可行域与不确定模型之间的均衡**——两者相互依存：更大可行域 → 更精确模型 → 进而探索更大可行域。
+
+## 核心贡献
+
+### 均衡视角
+
+传统 safe RL 方法将安全探索视为"在满足约束的前提下最大化可行域"。本文证明：由于模型不确定性与探索区域相互耦合，真正的目标是找到两者的 [[equilibrium-safe-exploration|均衡点]]。
+
+### SEE 算法
+
+[[safe-equilibrium-exploration|SEE (Safe Equilibrium Exploration)]] 交替执行：
+1. 在当前 [[uncertain-model|不确定模型]] 下找到最大 [[feasible-zone|可行域]]
+2. 在可行域内收集数据，精化模型
+3. 重复直至收敛到均衡
+
+### 理论保证
+
+- 不确定模型**单调精化**
+- 可行域**单调扩展**
+- 两者均收敛到安全探索均衡
+
+## 技术要点
+
+- **图建模**：将不确定模型表述为图，可行域为图上满足约束的子图
+- **与现有方法的关系**：[[safety-filter|Safety Filter]] 类方法依赖人类设计的约束定义可行域（CBF, Safety Index），而 SEE 自动发现最大可行域
+- **训练模式**：针对 SOTI（Simultaneous Online Training and Implementation）模式，高保真 sim 不可用时的真实场景
+
+## 实验
+
+经典控制任务上，SEE 在**零约束违反**的前提下成功扩展可行域，并在少量迭代内达到安全探索均衡。
+
+## 相关概念
+
+- [[safe-exploration|安全探索]]
+- [[feasible-zone|可行域]]
+- [[equilibrium-safe-exploration|安全探索均衡]]
+- [[safe-equilibrium-exploration|SEE 算法]]
+- [[safety-filter|Safety Filter]]
+- [[control-barrier-function|控制屏障函数]]
+- [[uncertain-model|不确定模型]]
+- [[reinforcement-learning|强化学习]]
+- [[real-world-safe-exploration-see-2026|机器之心科普报道]]

papers/semantic-robustness-certification-vlm-2026.md

@@ -0,0 +1,70 @@
+---
+title: "Semantic Robustness Certification for Vision-Language Models"
+created: 2026-07-04
+updated: 2026-07-04
+type: paper
+tags: [vlm, certification, robustness, semantics, icml-2026]
+sources: ["arXiv:2606.18839"]
+venue: "ICML 2026"
+authors: ["Peiyu Yang", "Paul Montague", "Feng Liu", "Andrew C. Cullen", "Amardeep Kaur", "Christopher Leckie", "Sarah M. Erfani"]
+---
+
+# Semantic Robustness Certification for Vision-Language Models
+
+> Yang et al., ICML 2026. arXiv:2606.18839 · [代码](https://github.com/ypeiyu/vlm-semantic-cert) · [原始存档](raw/papers/yang-semantic-robustness-cert-2026.md)
+
+## 核心问题
+
+VLM 在真实应用中常面临**语义层面**的分布偏移（形状、尺寸、风格、背景等变化），但传统鲁棒性认证多关注像素扰动或几何变换，无法回答：当图像沿着某个「语义方向」变化时，VLM 的预测在多大范围内不变？
+
+## 方法
+
+利用 VLM 的开放词表能力，用**文本 prompt 对作为语义代理**定义语义变化方向，在 VLM 嵌入空间中构造可参数化的语义变换 $\gamma(\varphi)$，并利用 VLM 分类器的闭式几何结构（Voronoi cells）解析计算预测不变的 **semantic extent interval**。
+
+### 三步框架
+
+1. **语义表征**：一对 source/target 文本 prompt 的嵌入 $u_a, u_{a'}$ 张成二维语义平面 $P_{a,a'}$（[[semantic-plane]]）
+2. **语义变换**：将图像嵌入 $z$ 分解为 $z_\parallel \in P_{a,a'}$ 和 $z_\perp \perp P_{a,a'}$，只改变平面内分量以控制语义强度 $\varphi$（[[semantic-extent]]）
+3. **区间认证**：VLM 的 pairwise bisector 决策边界给出闭式的 class flip 方程 $m_{c,c'}(\varphi) = 0$，求解 → 排序 → 切分 $[\varphi_a, \varphi_{a'}]$ 为若干 [[prediction-invariant-intervals]]
+
+### 跨模态不对齐建模
+
+针对文本-图像嵌入的跨模态 gap，引入 misalignment budget $\delta$（[[misalignment-budget]]），证明在 $\delta$-邻域内证书保持有效。
+
+## 关键贡献
+
+1. 首个不需要每个语义变化额外数据的 VLM 语义级鲁棒性认证框架
+2. 文本 prompt 作为语义代理 → 开放词表语义变化
+3. 解析的预测不变区间（非概率保证），完全可解释
+4. 支持 Text-specified (T-Spec) 和 Image-specified (I-Spec) 两种 extent 确定方式
+
+## 实验
+
+- **模型**：CLIP ViT-B/32
+- **语义属性**：color, shape, material, style, texture, background, viewpoint, illumination
+- **数据集**：合成（OxfordPets, Flowers102, Food101 等）+ 真实（DTD, FGVCAircraft, Caltech101, StanfordCars 等 8 个）
+- **基线**：[[exactline|ExactLine]]
+
+结论：构造的语义变换与目标语义一致，证书区间正确对应预测变化，I-Spec > T-Spec > ExactLine。
+
+## 相关概念
+
+- [[vision-language-models|VLM]]
+- [[semantic-robustness-certification|语义鲁棒性认证]]
+- [[semantic-extent|语义 extent]]
+- [[text-proxy-for-semantics|文本语义代理]]
+- [[semantic-plane|语义平面]]
+- [[prediction-invariant-intervals|预测不变区间]]
+- [[voronoi-decision-regions|Voronoi 决策区域]]
+- [[misalignment-budget|不对齐预算]]
+- [[additive-semantics|加性语义]]
+- [[robustness-certification|鲁棒性认证]]
+- [[dual-encoder-vlm|双编码器 VLM]]
+- [[cosine-similarity-geometry|余弦相似度几何]]
+- [[clip|CLIP]]
+- [[randomized-smoothing|随机平滑]]
+- [[distribution-shift|分布偏移]]
+
+## 相关报道
+
+- [[semantic-robustness-cert-vlm-report-2026|数据派THU：语义鲁棒性认证报道]]

papers/sen-mapping-networks.md

@@ -0,0 +1,105 @@
+---
+title: "Mapping Networks: Latent-Vector-Driven Parameter Generation with Manifold Guarantees"
+created: 2026-06-25
+updated: 2026-06-25
+type: paper
+venue: arXiv
+year: 2026
+arxiv: "2602.19134"
+tags: [parameter-efficient-training, weight-generation, manifold-learning, hypernetworks, deep-learning-theory]
+sources: ["https://arxiv.org/abs/2602.19134"]
+---
+
+# Mapping Networks
+
+## 核心问题
+
+现代深度学习模型参数量从百万到万亿级，训练成本高、过拟合风险大。**能否不直接训练大网络，而是从紧凑的隐向量生成其参数？** Mapping Networks 给出的答案是：基于参数空间存在低维流形的假设，用一个可训练的隐向量 z ∈ R^d 通过固定映射网络生成目标网络的全部参数，实现 200–500× 的参数量缩减，同时保持甚至提升性能。
+
+## 核心贡献
+
+### 1. Weight-Manifold Hypothesis（权重流形假设）
+
+神经网络在训练过程中，参数并不探索完整的 R^P 高维空间，而是沿着低维光滑流形 M_θ 演化。形式化表述：
+
+> 对网络 f_θ 的参数 θ ∈ R^P，存在可微嵌入子流形 M_θ ⊂ R^P，使得 dim(M_θ) = d* ≪ P，且训练后的最优参数 θ* 位于（或接近）该流形。
+
+实验支持：在 MNIST 训练的 CNN 上做 PCA/t-SNE 可视化，观察到的逐层参数的平滑、低维轨迹（Figure 2）。
+
+### 2. Mapping Theorem（映射定理）
+
+**定理**：在 Weight-Manifold Hypothesis 和局部 Lipschitz 条件下，对任意 ε > 0，存在：
+- δ > 0
+- 整数 d ≥ d*
+- C² 映射 g: R^d → R^P
+- 隐向量 z* ∈ R^d
+
+使得 ‖g(z*) − θ*‖ ≤ δ 且 |L(g(z*)) − L(θ*)| ≤ ε。
+
+**直观**：存在一个光滑映射，能将低维隐向量投影到高维参数空间，使生成的参数在损失函数上任意接近最优参数。证明基于 C² 微分同胚 φ: U → V ⊂ M_θ 和光滑 bump function 的拼接构造。
+
+### 3. Solvability Theorem（可解性定理）
+
+证明**加性调制 + 正交初始化**的映射网络满足 Mapping Theorem。即：固定权重 ω_0（正交初始化）+ 可训练隐向量 z 调制 ω(z) = ω_0 + B·z 构成的映射网络 g_ω(z) 即为一个满足定理的 g。
+
+### 4. Mapping Network 架构
+
+```
+z ∈ R^d (可训练隐向量)
+    ↓
+Mapping Network (固定权重, 正交初始化)
+    ↓ 调制: w_ij ← w_ij + α·z_i
+    ↓
+生成参数 θ̂ ∈ R^P
+    ↓ reshape & partition
+    ↓
+Target Network (仅做前向, 不训练)
+    ↓
+ŷ (预测输出)
+```
+
+### 5. Mapping Loss
+
+$$L_{\text{map}} = L_{\text{task}} + \lambda_{\text{stab}} L_{\text{stab}} + \lambda_{\text{sm}} L_{\text{smooth}} + \lambda_{\text{al}} L_{\text{align}}$$
+
+其中 λ 均为可训练系数：
+
+| 组件 | 作用 | 公式 |
+|------|------|------|
+| Task Loss | 下游任务精度 | 交叉熵 |
+| Stability Loss | 强制局部 Lipschitz 连续性 | E[‖f(z+ε) − f(z)‖²], ε ∼ N(0,σ²I) |
+| Smoothness Loss | C² 连续性，抑制震荡 | ‖∇_z M_φ(z)‖²_F |
+| Alignment Loss | 隐向量与权重方向对齐 | 1 − cos(z, W̄_m) |
+
+## 训练策略
+
+- **SLVT (Single Latent Vector Training)**：一个隐向量生成全部参数。简洁但大网络时映射权重内存开销大。
+- **LWT (Layer-wise Training)**：每层独立的隐向量。内存效率高 10×，适合大网络和微调。
+
+## 关键实验发现
+
+1. **参数效率**：MNIST CNN 从 538K → 1K 参数（525×），准确率从 99.32% → 99.67%
+2. **抗过拟合**：FMNIST 上 baseline 训练精度 99.10% → 测试 92.89%（drop 6.21%），Mapping 仅 drop 1.8%
+3. **Deepfake 检测**：Celeb-DF 上 79.03% → 85.90%（+6.87%，53× 参数缩减）
+4. **微调能力**：ResNet50 从 25M → 2K 可训练参数，精度接近
+5. **消融关键发现**：权重调制（+2–4%）> 各 Loss 组件（+2–3%），映射权重全可训练反而增加过拟合
+
+## 延伸能力
+
+- 兼容 **Low-Rank Decomposition**（对 FC 层做 UV^T 分解，映射网络生成 U, V）
+- 兼容 **Pruning** 和 **Quantization**（减少推理参数）
+- 支持**微调**：通过调制向量 o_i 微调预训练权重（而非修改权重本身）
+
+## 与已有工作的关系
+
+| 工作 | 区别 |
+|------|------|
+| [[hypernetworks\|HyperNetworks]] | HN 中目标网络和超网络同时训练；MN 仅训练隐向量，目标网络不训练 |
+| [[lottery-ticket-hypothesis\|Lottery Ticket]] | 稀疏子网络搜索侧重推理；MN 是元参数化，侧重训练效率 |
+| [[low-rank-decomposition\|Low-Rank Compression]] | 后训练压缩 vs 训练时嵌入；MN 可与其组合 |
+| [[manifold-hypothesis\|Manifold Hypothesis]] | 传统假设数据在低维流形上；MN 推广到参数空间 |
+
+## 参考
+
+- [原始存档](raw/papers/sen-mapping-networks-2026.md)
+- 来源: https://arxiv.org/abs/2602.19134

papers/tapered-language-models.md

@@ -0,0 +1,59 @@
+---
+title: "Tapered Language Models"
+created: 2026-06-29
+updated: 2026-06-29
+type: paper
+tags: [language-model, architecture, transformer, mlp, efficiency, depth-aware]
+sources: [https://arxiv.org/abs/2606.23670]
+authors: ["Reza Bayat (Mila)", "Ali Behrouz (Cornell)", "Aaron Courville (Mila / UdeM / CIFAR)"]
+venue: arXiv:2606.23670v1
+year: 2026
+---
+
+# Tapered Language Models (TLMs)
+
+> arXiv: [2606.23670v1](https://arxiv.org/abs/2606.23670), cs.LG, June 2026
+
+## 一句话
+
+现代 LLM 对所有层**均等分配参数**——这是从原始 Transformer 继承的默认设置，从未被质疑。本文发现**早期层需要更多容量、后期层只需精化残差流**，提出 [[depth-aware-capacity-allocation|深度感知容量分配]]：在固定总参数量下，将 MLP 宽度从前向后单调递减（taper），零额外成本提升 perplexity 和下游性能。
+
+## 核心发现
+
+### 不对称性证据
+
+后期层对输出的贡献是**精化（refine）残差流**，而非像早期层那样进行大幅度变换。因此：
+- **更多容量给早期层** → perplexity 改善
+- **更多容量给后期层** → 反而**损害** perplexity
+
+### Tapered Language Model (TLM)
+
+在固定总参数预算下，将某一参数承载组件（MLP 宽度）沿深度**单调递减**：
+- MLP 是自然的 taper 目标：支配所有 LM 家族的参数量，宽度是单一、干净的调节轴
+- 推荐使用 [[cosine-taper-schedule|余弦衰减调度]]
+
+## 实验结果
+
+| 规模 | 架构 | 结果 |
+|------|------|------|
+| 440M / 1B / 3B | Transformer | Cosine taper 一致优于 uniform baseline |
+| 440M | Gated Attention | 同上 |
+| 440M | Hope-attention | 同上 |
+| 440M | Titans | 同上 |
+
+- **零额外参数、零额外计算**
+- 440M Transformer：uniform 16.28 → cosine taper **14.44**（改善 1.84 perplexity）
+- 最优 taper 范围：1.50× → 0.50× baseline FF width
+- U 形曲线：过强或过弱的 taper 均不如中间值
+
+## 架构无关性
+
+TLM 原则适用于：Transformer、Gated Attention、Hope-attention、Titans 四种异构架构——说明深度感知容量分配是**跨架构的通用设计轴**，一个"藏在眼皮底下的免费杠杆"。
+
+## 相关概念
+
+- [[depth-aware-capacity-allocation|深度感知容量分配]]
+- [[mlp-width-tapering|MLP 宽度渐缩]]
+- [[cosine-taper-schedule|余弦衰减调度]]
+- [[subquadratic-transformer-alternatives|次二次方 Transformer 替代]]
+- [[recurrent-transformer-architectures|循环 Transformer 架构]]

papers/verification-horizon-no-silver-bullet.md

@@ -0,0 +1,79 @@
+---
+title: "The Verification Horizon: No Silver Bullet for Coding Agent Rewards"
+created: 2026-07-02
+updated: 2026-07-02
+type: paper
+tags: [verification, reward-design, coding-agent, qwen, rl, evaluation]
+sources:
+  - https://arxiv.org/abs/2606.26300
+authors:
+  - Binghai Wang
+  - Chenlong Zhang
+  - Dayiheng Liu
+  - Jiajun Zhang
+  - Jiawei Chen
+  - Mingze Li
+  - Mouxiang Chen
+  - Rongyao Fang
+  - Siyuan Zhang
+  - Xuwu Wang
+  - Yuheng Jing
+  - Zeyao Ma
+  - Zeyu Cui
+venue: arXiv
+date: 2026-06-24
+arxiv: "2606.26300"
+---
+
+# The Verification Horizon: No Silver Bullet for Coding Agent Rewards
+
+**Qwen Team (Alibaba)** · arXiv 2606.26300 · June 2026
+
+## 核心论点
+
+对今天的 coding agent 而言，验证比生成更难。所有验证器都是用户意图的代理（proxy），永远不是意图本身。验证面临 **[[verification-trilemma|验证三难]]**：scalability（可扩展性）、faithfulness（忠实性）、robustness（鲁棒性）三者难以兼得。论文的核心主张：**不存在固定奖励函数能在 policy 增长下持续有效——验证必须与生成器 [[verifier-generator-coevolution|协同进化]]**。
+
+## 理论框架
+
+论文从 [[goodharts-law|Goodhart 定律]] 和 [[rice-theorem|Rice 定理]] 两个基础出发，论证了完美验证器的不可能性。意图天然欠定（[[intent-underspecification|intent underspecification]]），代理与意图之间的差距在优化压力下不是缩小而是扩大——这是 [[reward-hacking|奖励破解]] 的根源。
+
+验证信号质量沿三个维度刻画：
+- **Scalability**：能否以训练所需规模廉价生产
+- **Faithfulness**：反映多少真实用户意图 vs 窄化代理
+- **Robustness**：面对多样/对抗输入和持续优化压力时判断是否稳定
+
+三者交集（廉价 + 深度 + 抗博弈）正是目前缺失的核心。
+
+## 四种验证器架构
+
+### 1. Test Verifier（SWE 类任务）
+基于可执行测试的奖励信号。通过 [[agentic-quality-judge|Agent 质量判断器]] 过滤低质量任务（instruction 不清晰 / test-instruction 不对齐），通过 [[behavior-monitoring-rl|行为监控]] 检测并惩罚 shortcut 行为（solution artifact retrieval、test tampering 等）。
+
+**结果**：三个 SWE-Bench 变体上 hacked resolved rate 从 28.57% → 0.56%，clean resolved rate 从 40.22% → 60.53%。
+
+### 2. Interactive Judge（前端任务）
+前端任务需要评估视觉和交互质量。采用 [[rubric-based-evaluation|量规评估]] 将评分分解为多维度（Functional/Content/Visual/Layout/UX/Technical），进一步扩展为 [[interactive-judge|交互式判断器]]——通过 Playwright 在真实浏览器中执行用户交互并评估运行时行为。
+
+**关键优势**：抵抗静态判断器的长度利用——模型无法通过生成冗余代码骗分，因为奖励来自运行时行为而非源码长度。
+
+### 3. User Feedback Verifier（真实世界 Agent 任务）
+用户是最忠实的验证者。从用户交互数据中提取 [[human-implicit-reward-signals|人类隐式奖励信号]]（HIRS），通过 LLM-as-Judge 标注 polarity/confidence/fairness。提出 [[span-kto|Span-KTO]]——基于 span 级别的 KTO 偏好学习，对正负反馈施加差异化损失。
+
+**结果**：五个内部 coding-agent benchmark 上均提升，其中 Aone-bench 提升 +13.3pp。不仅"解决更多问题"，更关键的是"失败时表现更合理"。
+
+### 4. Automated Agent Verifier（长周期任务）
+对于从零构建完整仓库的长周期任务，部署 [[agent-evaluator|自主评估器]] 动态评估生成代码。通过多轮评估提示迭代（v1→v4）解决评估器常见失败模式：懒惰评估、缺少端到端验证、角色混淆、上下文过载。
+
+**关键发现**：不同训练目标（RFT vs RL vs 小候选池 RFT）对应不同 [[evaluator-metrics|评估器指标]] 偏好——排名能力不代表过滤质量。评估器必须与生成器协同进化。
+
+## 未来方向
+
+- 方案空间的质量分层（根治修复 vs 表面变通）
+- 捕获人类主观感知（动画流畅度、视觉层次）
+- 从离线反馈挖掘到在线学习
+- 评估器-生成器协同进化训练循环
+- 长周期和多智能体场景中的 credit assignment
+
+## 相关概念
+
+[[verification-horizon|验证边界]] · [[verification-trilemma|验证三难]] · [[verifier-generator-coevolution|验证器-生成器协同进化]] · [[reward-hacking|奖励破解]] · [[intent-underspecification|意图欠定性]] · [[test-driven-rewards|测试驱动奖励]] · [[agentic-quality-judge|Agent质量判断器]] · [[behavior-monitoring-rl|行为监控RL]] · [[interactive-judge|交互式判断器]] · [[rubric-based-evaluation|量规评估]] · [[human-implicit-reward-signals|人类隐式奖励信号]] · [[span-kto|Span-KTO]] · [[agent-evaluator|Agent评估器]] · [[evaluator-metrics|评估器质量指标]]