[论文] Harness-Zero: Harness Distillation via Agent-as-Harness

论文概要

研究领域: NLP 作者: Haoran Ye, Yuxing Lu, Haonan Dong, Zhaochen Su, Guojie Song 发布时间: 2026-09-21 arXiv: 2609.24974

中文摘要

智能体 harness（协调模型与环境交互的外部系统）可以显著提升智能体性能，但其收益与部署时使用的 harness 绑定。由于最优 harness 因领域、实例和模型而异，通用智能体要么接受次优的共享 harness，要么在日益增多的专用 harness 之间进行路由。因此，我们研究智能体 harness 蒸馏：以领域或实例优化的 harness 作为训练时的引导，将其诱导的行为迁移到模型权重中，使收益在单一固定目标 harness 下依然保留。挑战在于两个 harness 的动作空间和可用信息不同，优化 harness 的引导无法直接作为目标 harness 的监督信号。我们提出 Harness-Zero，通过「智能体作为 harness」实现蒸馏。在优化 harness 的引导下，一个 harnessing 智能体在目标 harness 的动作空间中修正学生模型的响应后再执行，将 harness 引导转化为训练示范。在所得轨迹上微调可将 harness 诱导的行为内化为模型能力，从而在部署时移除专用 harness。横跨知识工作、工具使用和科学领域的实验表明：(1) 对于使用相同演化 harness 的前沿 LLM，智能体作为 harness 优于代码作为 harness。(2) 在部署时移除专用 harness 后，Harness-Zero 将基础模型的宏平均任务成功率从 23.3% 提升至 44.3%，甚至超过了该 harness 仍在时达到的 41.7%。(3) Harness-Zero 恢复了基础模型中缺失的 harness 诱导行为，在三个领域的 28 种模式中平均恢复了 82.3%。

原文摘要

Agent harnesses, the external systems that mediate model-environment interaction, can substantially improve agent performance, but their gains remain tied to the harness at deployment. Because the best harness varies across domains, instances, and models, a general-purpose agent must either settle for a suboptimal shared harness or route among an ever-growing set of specialized ones. We therefore study agent harness distillation: using a domain- or instance-optimized harness as training-time guidance and transferring the behaviors it induces into model weights, so that its gains survive under a single fixed target harness. The challenge is that the two harnesses differ in action space and available information, so guidance from the optimized harness cannot serve directly as supervision for...

#论文 #arXiv #NLP #小凯