Files
myWiki/papers/agent-harness-survey-2026.md
2026-07-20 14:14:55 +08:00

3.8 KiB
Raw Blame History

title, created, updated, type, tags, sources
title created updated type tags sources
Agent Harness Survey — From QA to Task Completion (2026) 2026-07-13 2026-07-13 paper
agent
harness
survey
agent-engineering
execution-harness
https://arxiv.org/abs/2606.20683
https://github.com/ggjy/Awesome-Agent-Engineering

Agent Harness Survey — From QA to Task Completion

中文摘要

LLM Agent 正从被动问答转向主动任务完成。这篇综述通过 模型-脚手架Model-Harness透镜 审视整个 Agent 系统模型提供认知引擎而执行脚手架execution harness决定系统能观察什么、如何行动、状态如何持久、错误如何检测和恢复。

核心论点Agent 质量(成功率、效率、安全性、泛化能力)不取决于模型能力本身,而取决于模型能力、运行时基础设施、任务结构和评估设计四者之间的交互。

核心问题

模型规模扩展能否填补 Agent 任务上的性能缺口?答案是不能——瓶颈正在从模型推理能力向脚手架设计转移。

传统 benchmarkMMLU、GPQA、HumanEval趋于饱和而 Agent 任务的 benchmarkSWE-bench、WebArena、OSWorld、Terminal-Bench仍有巨大空间。这说明脚手架设计是 Agent 性能的关键杠杆

四个工程范式演化

  1. prompt-engineering → 解决"如何提问"的表达问题,不解决信息问题
  2. context-engineering → 从静态 prompt 到动态组装的信息生命周期管理RAG、记忆、工具定义
  3. harness-engineering → 闭环执行:观测→决策→行动→验证→恢复,六组件运行时
  4. agent-native-training → 规划/工具使用/验证内部化为模型参数,模型-脚手架协同演化

脚手架六组件解耦

形式化定义:A_LLM = ⟨M, H⟩ = ⟨M, I_obs, C, L, I_act, S, V⟩

组件 职责 核心权衡
[[observation-interface I_obs 观测接口]] 环境信号→模型可读形式
[[context-manager C 上下文管理]] 动态选择/压缩/刷新上下文信息
[[control-loop L 控制循环]] 编排执行步骤、委托、终止
[[action-interface I_act 行动接口]] 模型输出→可执行操作
[[state-artifact-store S 状态/产物存储]] 跨步骤/跨会话持久化
[[verification-governance V 验证与治理]] 检查、约束、修复执行

这六个组件是 cross-layer-interaction,而非独立模块——优化某一层可能把风险转移到其他层。

关键洞察

  1. Agent ≠ 模型 + 工具:可靠的长期任务完成依赖于可组合、可优化的多模型运行时
  2. 脚手架正在成为可学习对象learnable-harnessNLAH、Meta-Harness、AHE 把运行时策略本身作为优化目标
  3. 多模型脚手架multi-model-harness):不同模型负责规划/编码/验证/检索等不同角色
  4. 模型-脚手架协同演化model-harness-coevolution):部署过程中模型、脚手架、改进策略三者联合更新

相关概念

来源