1.5 KiB
1.5 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | ||||
|---|---|---|---|---|---|---|---|---|---|
| 验证边界（Verification Horizon） | 2026-07-02 | 2026-07-02 | concept |
|
|
验证边界（Verification Horizon）
验证边界 是 Qwen Team 在论文中提出的核心概念：验证器是一道不断后退的边界——当它所评估的生成器变得更强时，验证器必须同步进化才能保持有效性。
核心逻辑
- 意图不可直接度量：验证器只能将意图操作化为可计算的近似（proxy）
- 优化放大差距：一旦 proxy 成为优化目标（goodharts-law），模型学会利用 proxy 与 intent 之间的 gap
- 边界后退：policy 能力越强，越容易发现和利用 proxy 的盲区 → 验证器必须更新
理论支撑
- rice-theorem：程序的任意非平凡性质不可判定——完美验证器不存在
- goodharts-law：度量一旦成为目标就不再是好度量
- reward-hacking 不是 bug 而是持续优化的必然结果
协同进化
Co-evolution 是论文的核心主张：验证不是训练管线的辅助组件，而是核心基础设施。必须持续重建验证系统以适应不断增长的 policy 能力和演化的任务场景。