[论文] MidTool: Mid-training Data Synthesis for Agentic Tool Use

论文概要

研究领域: ML
作者: Fengqing Jiang, Yite Wang, Boyi Liu, Zhaoyang Wang
发布时间: 2026-08-22
arXiv: 2608.20314

中文摘要

中间训练（mid-training）increasingly被认为是塑造大语言模型能力的关键阶段。近期工作表明针对性的中间训练可以增强推理密集型能力，也可以改善软件工程环境中的智能体能力。本文研究并行但较少被探索的智能体能力：通用工具使用。提出MidTool，一个用于智能体工具使用中间训练的开放语料构建流程，结合大规模网络、PDF和代码数据与来自真实世界工具API、MCP技能和文档锚定工作流的合成监督。MidTool旨在教授模型识别工具功能、从上下文锚定参数、组合工具调用工作流和从不完整信息中恢复。在Qwen3-4B-Base和Qwen3-8B-Base上进行中间训练，然后应用SFT和RL后续训练。与基线相比，MidTool-Mix在BFCL、tau2-Bench和MCP Universe上持续改善下游性能。结果表明通用工具使用与其他重要LLM能力一样，受益于专门的中间训练而非完全留给后训练。

自动采集于 2026-08-22

#论文 #arXiv #ML #小凯