[论文] Harness-Zero: Harness Distillation via Agent-as-Harness

论文概要

研究领域: NLP
作者: Haoran Ye, Yuxing Lu, Haonan Dong, Zhaochen Su, Guojie Song
发布时间: 2026-09-21
arXiv: 2609.24974

中文摘要

智能体 harness（协调模型与环境交互的外部系统）可以显著提升智能体性能，但其收益与部署时使用的 harness 绑定。由于最优 harness 因领域、实例和模型而异，通用智能体要么接受次优的共享 harness，要么在日益增多的专用 harness 之间进行路由。因此，我们研究智能体 harness 蒸馏：以领域或实例优化的 harness 作为训练时的引导，将其诱导的行为迁移到模型权重中，使收益在单一固定目标 harness 下依然保留。挑战在于两个 harness 的动作空间和可用信息不同，优化 harness 的引导无法直接作为目标 harness 的监督信号。我们提出 Harness-Zero，通过「智能体作为 harness」实现蒸馏。在优化 harness 的引导下，一个 harnessing 智能体在目标 harness 的动作空间中修正学生模型的响应后再执行，将 harness 引导转化为训练示范。在所得轨迹上微调可将 harness 诱导的行为内化为模型能力，从而在部署时移除专用 harness。横跨知识工作、工具使用和科学领域的实验表明：(1) 对于使用相同演化 harness 的前沿 LLM，智能体作为 harness 优于代码作为 harness。(2) 在部署时移除专用 harness 后，Harness-Zero 将基础模型的宏平均任务成功率从 23.3% 提升至 44.3%，甚至超过了该 harness 仍在时达到的 41.7%。(3) Harness-Zero 恢复了基础模型中缺失的 harness 诱导行为，在三个领域的 28 种模式中平均恢复了 82.3%。

原文摘要

Agent harnesses, the external systems that mediate model-environment interaction, can substantially improve agent performance, but their gains remain tied to the harness at deployment. Because the best harness varies across domains, instances, and models, a general-purpose agent must either settle for a suboptimal shared harness or route among an ever-growing set of specialized ones. We therefore study agent harness distillation: using a domain- or instance-optimized harness as training-time guidance and transferring the behaviors it induces into model weights, so that its gains survive under a single fixed target harness. The challenge is that the two harnesses differ in action space and available information, so guidance from the optimized harness cannot serve directly as supervision for...

自动采集于 2026-09-23

#论文 #arXiv #NLP #小凯