63 lines
3.2 KiB
Markdown
63 lines
3.2 KiB
Markdown
---
|
||
title: "LLMs Corrupt Your Documents When You Delegate"
|
||
created: 2026-05-14
|
||
type: paper
|
||
tags: ["delegated-work", "document-editing", "evaluation", "benchmark", "long-horizon", "backtranslation"]
|
||
sources: ["https://arxiv.org/abs/2604.15597"]
|
||
---
|
||
|
||
# LLMs Corrupt Your Documents When You Delegate
|
||
|
||
**Philippe Laban, Tobias Schnabel, Jennifer Neville** — Microsoft Research
|
||
arXiv 2604.15597 (cs.CL, cs.HC), April 2026
|
||
|
||
## 核心问题
|
||
|
||
当我们把文档编辑工作委托给 LLM 时，模型会**静默地破坏文档内容**。即使是前沿模型（Gemini 3.1 Pro, Claude 4.6 Opus, GPT 5.4），在 20 次交互后平均损坏约 25% 的文档内容。更关键的是，这些错误是**稀疏但严重**的：不是"千刀万剐"式的小错误累积，而是少数几次关键失败导致了约 80% 的总损坏。
|
||
|
||
## 方法论：[[backtranslation-round-trip-relay]]
|
||
|
||
论文提出 [[delegate-52]] 基准，包含 310 个工作环境、覆盖 52 个专业领域。评估使用 [[backtranslation-round-trip-relay]] 方法——每次编辑任务都是可逆的（正向编辑 + 反向编辑 = 回译），完美模型应该能无损恢复原始文档。将 N 个回译串联形成 relay，衡量 [[round-trip-reconstruction-score|RS@k]]。
|
||
|
||
## 关键发现
|
||
|
||
### 1. [[document-degradation]] 普遍存在
|
||
- 所有 19 个模型都出现文档退化，无一例外
|
||
- 前沿模型 25% 退化，平均 50% 退化
|
||
- Python 是唯一大多数模型达到 "ready" (RS@20 ≥ 98%) 的领域
|
||
|
||
### 2. [[critical-failures|关键失败]] 而非渐进退化
|
||
- 约 80% 的退化来自少数几次关键错误（单次回译丢失 10-30+ 分）
|
||
- 弱模型的退化主要来自**删除内容**，前沿模型的退化主要来自**内容损坏**
|
||
|
||
### 3. Agentic 工具使用**未改善**表现
|
||
- 4 个测试模型在工具模式下平均额外退化 6%
|
||
- 工具使用带来 2-5x 输入 token 开销
|
||
- 更好的模型倾向于使用 code execution 而非文件重写（GPT 5.4: 45% vs GPT 4.1: 10%）
|
||
|
||
### 4. 复合效应
|
||
- [[distractor-context|干扰文档]] 的危害随着交互长度增加而放大
|
||
- 文档大小和交互长度的负效应**乘性叠加**（5 倍放大）
|
||
- 扩展到 100 次交互后所有模型仍持续退化，无平台迹象
|
||
|
||
## 领域差异
|
||
|
||
模型在编程领域（Python, DBSchema）表现更好，在自然语言和小众领域（Earnings Statements, Music Notation）表现更差。高重复性和结构化密度的领域（Molecule, Chess）表现更好。
|
||
|
||
## 意义
|
||
|
||
- **对开发者**：52 个领域可视为 "mini-gym"，用于通过 cycle consistency 训练模型
|
||
- **对研究者**：需要更多 [[long-horizon-evaluation|长视界评估]] 基准，短交互表现不能预测长视界表现
|
||
- **对用户**：模型能力遵循 [[jagged-frontier|锯齿前沿]]，在 Python 中可靠不等于在其他领域中可靠
|
||
|
||
## 相关概念
|
||
|
||
- [[delegate-52]] — 基准本身
|
||
- [[backtranslation-round-trip-relay]] — 评估方法论
|
||
- [[document-degradation]] — 核心发现
|
||
- [[critical-failures]] — 错误结构分析
|
||
- [[delegated-work]] — 交互范式
|
||
- [[long-horizon-evaluation]] — 评估哲学
|
||
- [[domain-specific-evaluation]] — 评估实现
|
||
- [[distractor-context]] — 实验设计要素
|