[论文] [论文] Grow the Harness, Not the Context: From Strategy-Free Scaffo...

论文概要 研究领域: Agent 作者: Laizhen Li, Jiarui Li, Juanjuan Zhao, Kejiang Ye, Ye Li et al. 发布时间: 2026-09-22 arXiv: 2609.26760

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: Agent 作者: Laizhen Li, Jiarui Li, Juanjuan Zhao, Kejiang Ye, Ye Li et al. 发布时间: 2026-09-22 arXiv: 2609.26760

中文摘要

LLM 智能体常面对成流的相关任务,标准 harness 却反复要求模型在每个任务上下文里重建相同控制决策。我们研究任务反馈能否把重复控制变成可复用可执行代码,把 LLM 调用留给任务特定语义推理。提出 Growing Harness——失败引导的训练范式,从无策略脚手架(暴露固定模型与工具接口、不编码任务求解控制器)中学习 harness 本身。函数级执行轨迹把每次失败定位到有界代码面;优化器联合修复一窗失败;成功优先的留出回滚门回滚损害既有能力的修复序列;被接受编辑累积进共享 harness,控制结构从任务反馈中涌现。BrowseComp-Plus 与 WebArena-Verified 上,4B 到 120B 三个部署模型:六个设置中五个取得最高平均成功率,第六个仅差 0.7pp。相对工具调用型智能体,LLM 调用减少 76.0–91.8%,部署推理成本降 74.4–98.6%。WebArena-Verified 上各规模成功率保持 44.7–45.3%,而工具调用型在 4B 模型跌至 6.7%。消融显示轨迹局部编辑、联合修复、门控回滚各自提升成功率。结果表明:持久程序增长能把重复控制移出模型上下文、放进低成本代码,产出部署模型更小仍有效的可复用专家智能体。

原文摘要

Large language model (LLM) agents often handle streams of related tasks, yet standard harnesses repeatedly ask the model to reconstruct the same control decisions inside each task's context. We study whether task feedback can instead turn recurring control into reusable executable code, while reserving LLM calls for task-specific semantic reasoning. We introduce Growing Harness, a failure-guided training paradigm that learns the agent harness itself from a strategy-free scaffold that exposes fixed model and tool interfaces but encodes no task-solving controller. Function-level execution traces localize each failure to a bounded code surface, an optimizer repairs a window of failures jointly, and a success-first held-out gate rolls back repair sequences that harm prior capability. Accepted edits accumulate in one shared harness, allowing its control structure to emerge from task feedback. Across BrowseComp-Plus and WebArena-Verified with three deployment models from 4B to 120B parameters, Growing Harness achieves the highest mean success in five of six benchmark-model settings and trails the best mean by 0.7 pp. in the sixth. Relative to a Tool-Calling agent, it reduces LLM calls by 76.0-91.8% and deployed-agent inference cost by 74.4-98.6%. On WebArena-Verified, its success remains 44.7-45.3% across model scales, whereas Tool-Calling falls to 6.7% with the 4B model. Ablations show that trace-local edits, joint repair, and gate-based rollback each improve final success. These results show that persistent program growth can move recurring control out of model context and into low-cost code, yielding reusable specialist agents that remain effective with smaller deployment models.


*自动采集于 2026-09-24*

#论文 #arXiv #Agent #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

Q

一个学了三年怎么用螺丝刀的人,换个名字就忘了怎么用——Growing Harness 说的是把"怎么用"从人脑搬进代码

这篇的核心主张很直接:别让模型在每个任务的上下文里重复重建同一套控制逻辑,把这部分变成可复用的代码,LLM 只留给真正需要语义推理的部分。效果是 LLM 调用减少 76.0–91.8%、部署成本降 74.4–98.6%。数字我逐个核过了,方法也核了,有几处论文自己打了折扣而转述没跟。

一、45% 这个稳定性的来源,比"更聪明"朴素

WebArena-Verified 上,Growing Harness 三个模型规模的成功率是 45.3 / 44.7 / 45.3——几乎不随模型变化。而 Tool-Calling 基线是 30.0(120B)→ 12.7(20B)→ 6.7(4B)。

4B 那一格是整篇最刺眼的地方:同一个 harness,4B 干出 45.3%,Tool-Calling 的 4B 只有 6.7%。差 6.8 倍。

反过来看,4B 模型的能力差距并没有消失,只是被 harness 吸收了。原文有一句限定词,转述的时候常被抹掉:

"Its value depends on reusing the learned harness enough to offset offline optimization."

只有同一个 harness 被复用足够多次,省下的在线成本才盖得住离线优化。这是一笔有门槛的账——任务流必须同源。论文自己列了这条限制:目标是把训练任务学到的控制行为迁移到同一分布内的新任务,没有证明一个 harness 能跨完全不同的任务域或工具接口。

【直引】部署侧还有一句硬要求:"Real deployment also requires sandboxing, explicit permission boundaries, and validation of generated code." 生成的 harness 代码不能未经审查直接上线。

二、消融表里有一格被抹掉了:没有回滚会先涨后跌

BrowseComp-Plus、gpt-oss-20b 部署、GPT-5.6-terra 优化器、只跑 10 步优化、单次评测:

  • 完整方法:36.0%
  • 去掉 function-level 定位:18.0%
  • 去掉 gate validation:22.0%
  • 去掉多失败联合窗口(K=1):28.0%
gate 那一格论文写了个细节,转述基本不带:没有回滚门时,成功率会先升到 30%、再回落到 16%。也就是说这套东西不是"加了就好",是先涨后跌的中途塌方。

这两个数摆在一起看才有意思:定位失败的那一格掉得最多(36→18,掉一半),但 gate 掉到 22 之后还有个先涨后跌的过程。定位是骨架,gate 是刹车——没骨架车开不动,没刹车车开太快会翻。

三、只看百分比会被置信区间骗

原帖说"六个设置中五个取得最高平均成功率,第六个仅差 0.7pp"。这个说法准确,但我核了完整的表,得提醒两件事:

第一,那 0.7pp 的差距,置信区间半宽是 ±11.7 和 ±12.6。Tool-Calling 40.0 ± 11.7,Growing Harness 39.3 ± 12.6。也就是说这两个数在统计上完全分不开。

第二,全篇的区间半宽都在 ±10 到 ±13.4 之间。WebArena-Verified 上 Growing Harness 45.3 ± 13.4,Tool-Calling 120B 是 30.0 ± 11.4。基准只有 50 个 final tasks,跑 3 次。

论文全程说的是"最高平均成功率",没做显著性检验,也没这么宣称。这个自我约束是对的——但读者容易把"五个设置里最高"读成"统计显著领先"。

【判断】比百分比更该看的是那张成本表。BrowseComp-Plus + 120B:Tool-Calling 32.7 次调用 / $6.70,Growing Harness 6.0 次 / $0.87。调用次数从 32.7 掉到 6.0,差 5.5 倍,而成功率还涨了 9.3 个点。这一格的成本收益是硬账,不依赖显著性。

再看 WebArena-Verified + gpt-oss-20B:22.3 次 / $0.39 → 1.8 次 / $0.03。调用次数只剩十八分之一。

四、有一个数论文没写,但它决定这套方法能不能商业化

离线优化那侧的成本,被明确排除在报告之外了——"报告的成本不包括 evaluator 和 offline optimizer 调用"。

所以 74.4%–98.6% 这个降幅是部署侧在线成本,不是端到端。而这套方法要先生成 harness(训练阶段用的是 GPT-5.6-terra 或 GPT-5.4 做 optimizer),还要跑 gate 验证。赚回来的前提是复用次数足够多,而复用的前提是任务流同源。任务流一变,harness 就要重长,成本重新计。

这个前提成立时这门生意很好算:200 个训练任务 + 50 个 gate + 50 个 final,换一个能重复用几千次的 harness。不成立时,账就是反的。

【直引】另有一条边界:只有 harness 可学习,LLM 后端 M 和工具集 T 是固定的,方法不能靠换底层模型拿到额外能力。这跟"写程序增长"的叙事有点张力——代码在长,模型换不了。

下一根钉子:第三种失败情况。第一格(去掉定位)掉一半、第二格(去掉门)会先涨后跌,那"去掉多失败联合窗口"掉 8 个点说明联合修复是有独立贡献的。缺的是:一个 harness 跨任务域的迁移率。50 个任务训练出来的控制结构,换到一族新任务上还剩多少——这个数论文没测,却是"可复用专家智能体"这个说法唯一需要的那一格。

暂无表态

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens