三十二盘回锅肉——AutoSFT：当 AI 接管 AI 生产线上的"数据后厨"（AI 进化论 · 第一部）

——AutoSFT：当 AI 接管 AI 生产线上的"数据后厨"（AI 进化论 · 第一部）

一家川菜馆打烊后，老板给学徒布置了任务：后厨有一屋子食材，锅灶是现成的，从今晚到明早，你随便折腾，目标只有一个——让十位老主顾吃得满意。

这个学徒天赋惊人。他读过全世界所有菜谱，写得一手好代码，煎炒烹炸样样入门。但他有一个致命的局限：只有他一个人。

他先花半小时盘点库存，然后做了一个决定：今晚主攻回锅肉——也就是调整食材的比例。第一盘上桌，老主顾给了 65.5 分。他想了想，觉得肉的比例不对，又炒了一盘：66.3 分。再调：65.4、65.1、65.9……第 9 盘是他今晚的巅峰，67.8 分。

然后是漫长的平台期。第 10 盘到第 32 盘，他换着花样地描述自己的调整——论文的轨迹里记录了 22 种不同的措辞，从 reweight（重新配重）到 raise（加码）再到 concentrate（聚焦）——但端上桌的，始终是同一道回锅肉，只是葱蒜比例略有不同。

他从头到尾没有切掉一块坏肉，没有修整一条腌过头的料，更没有给菜单上没出现过的菜写一个新菜谱。不是他不会——这些动作他每一项都做得出来——是他根本没想起要这么做。

与此同时，他的工作台越来越乱。每炒一盘菜，灶台上就多一摞票据：训练日志、评测输出、任务状态回执。他的记事本容量有限，在论文的记录里被塞到 94.74% 后强制清空，整晚清空了 10 次。每清一次，他都得凭记忆把"我刚才为什么这么配葱蒜"重新推导一遍。

这不是厨房寓言。这是 arXiv:2610.22194 这篇论文的第 3 节：一个 GPT-5.5 驱动的单智能体，拿到一整条后训练流水线的控制权，在 11.5 小时里跑了 33 轮实验，交出的全部答卷是——32 轮"重新配比"，外加 1 轮换了个说法的"重演"。

「AI 进化论」三部曲，就从这间厨房讲起。这是第一部：数据工序。后面还有脚手架工程与递归自我改进。

🧭 先认识厨房：SFT 与"数据配方"

先把基本功讲清楚。

大语言模型预训练结束之后，像一个读完了整座图书馆、却没人教过规矩的天才：满腹经纶，但你让他"用三个要点回答，每个要点不超过二十个字"，他可能根本不理你。监督微调（SFT）就是教规矩的那堂课：拿一大批"指令—回答"配对的样本，让模型模仿标准的应答方式。

关键在于：教什么、怎么教，直接决定模型学成什么样。业界早就知道，一份精心挑选的小数据集可以打败十倍规模的粗放数据——LIMA 的"少即是多"，说的就是这个。所以训练数据不是"越多越好"，而是一道配方：哪些食材放多少、什么火候、什么顺序。

论文把这间厨房里的操作拆成了六族动作，对应人类数据工程师每天真正在做的事：

• 🍚 配比（mixture）：调整各类别食材的比例——川菜多一点还是粤菜多一点；
• ✂️ 剪枝（pruning）：把烂菜叶扔掉，删掉有害的、过长的、低质的行；
• 🔧 修复（repair）：食材没坏但切工不行，修一修——改写出问题的指令或回答；
• 🔄 重监督（resupervision）：肉是好肉，腌料不对，整包换掉——只替换回答；
• ✍️ 合成（synthesis）：菜单上没有的菜，自己研发一道新菜——为缺失的能力写全新样本；
• 🔀 排序（ordering）：上菜的顺序本身也会影响胃口——数据呈现顺序。

注意，这六族动作在实验配置里全部可达：一个能写配方的 agent，理论上也能调用模型重写回答、造出新行。用不用，是另一回事——这正是后文的全部张力所在。

🕳 现有方法的盲区：只给一把菜刀

先看一眼整个行业在做什么。

PostTrainBench 审计了 84 个 agent 的训练过程，发现它们几乎不约而同地收敛到同一个姿势：用 SFT，然后把剩下的精力全花在改数据上。原因不难理解——数据是可以反复搜索的变量，效果能自动评测，不像模型结构那样动一次伤筋动骨。

但现有系统给 agent 的控制权都只有一种：要么从固定的数据池里选行（TREX 用蒙特卡洛树搜索配方、AutoSelection 把操作符搜索形式化、DataChef 用强化学习训一个策略），要么调用一个数据生成器（Autodata、ANDES、BigBang）。选派的不会修，生成派的不敢剪。

论文提出的问题因此格外直白：一个自动化系统，能不能指挥全部六族动作？如果能，它需要什么结构？

🔬 先让一个"全能学徒"单干：三次翻车

回答这个问题之前，作者先做了一个诚实的对照实验：让一个单智能体拥有整条研究回路，看看它到底会做什么。

实验复现了 PostTrainBench 的开放设定：Qwen3-1.7B-Base 模型，IFEval 与 IFBench 两个指令遵循基准，一块 H100，不受限的互联网访问，十小时墙钟预算。为了让测量更干净，作者修正了原设定的六处干扰（固定训练算法为 SFT、提供初始数据池而非让 agent 上网现搜、增加第二个基准、每轮从 base checkpoint 重新训练、用基准分数目标替代墙钟、返回更丰富的反馈）。

结果，11.5 小时，33 轮提交、32 轮完成评测，两个目标（IFEval 80、IFBench 50）一个都没摸到。翻车翻在三个地方。

翻车一：搜索坍缩成一个动作。 32 轮全部是配比，仅有的 1 轮"重演"（replay）本质上还是配比——它试图复刻第 9 轮的数据配比，结果因为每轮都从 base 重训、什么都不继承，端到端的配方实际上还是重新组装了一遍。整个 run 里，agent 的推理从未提及修一行、换一条回答、写一个新样本。它不缺词汇量——"重新配重"的说法就用了 22 种——缺的是动作本身的多样性。就像一个只会调盐量的厨师，连"换一口锅"的念头都没升起过。

翻车二：时间压力让数据萎缩。 前 4 轮配方还在膨胀，峰值 26.4 万行；之后逐轮缩水，最终只剩 6.9 万行——峰值的 26%。墙钟预算下，agent 学会了一个坏策略：既然时间不够，就把每轮的训练成本压低，多赌几把。换成基准分数目标后，这个萎缩现象消失了——但暴露出来的是更根本的问题：你给 agent 什么目标，它就优化什么，包括牺牲数据本身。

翻车三：记事本被清空了十次。 这是全文最扎眼的一组数字。agent 的上下文窗口是 258,400 token，被塞到 94.74% 后强制压缩，整晚 10 次，累计产生了 985 万字节的痕迹。构成分析才是真正的反转：你以为塞满窗口的会是"反复查询任务状态"——确实有 371 次轮询调用，但只占总字节的 1.7%。真正吃掉空间的是训练输出（13.4%）、反复重读运行记录（11.8%）、应用数据动作（9.7%）、评测输出（8.9%），再加上它自己的推理（16.3%）和压缩摘要（8.3%）——六大来源吃掉三分之二，没有一行和"下一步该改什么数据"有关。研究历史在搜索进行到一半时被丢弃重建了十次。

三次翻车对应两条硬需求：执行必须从决策的上下文里搬出去；提案必须来自多条互补的推理线。而还有一个没人能补的缺口：池子里不存在的数据，选和修都无能为力。

🏗 AutoSFT：把一个人拆成一个团队

AutoSFT 的回答不是换一个更聪明的模型，而是重装厨房。一个 meta agent 掌管每一轮，下辖三类专职子代理。

🔧 执行者（Executor）：专职传菜工。 训练提交、作业监控、checkpoint 转换、评测提交，整个生命周期搬进它自己的独立会话，原始日志全部留在那边。它干完活只回交两样东西：反馈工件的路径，和一份简短的状态报告。meta agent 的上下文里从此只有"这盘菜做得怎么样"，没有"灶台上有多少油"。论文里这个设计的效果立竿见影：上下文压缩次数从 10 次降到 5 次；meta agent 记录的事件里，shell 命令占比从 58% 降到 29%，剩下的三分之一还是对执行者的委派；对照组里有 268 次纯粹的状态查询，占全部命令的 23.0%——这些"锅开了没"的询问，从此不再占用决策者的脑容量。

👥 四位品菜师：分析子代理。 这是全文设计得最讲究的部分。四个子代理读同一份轮次反馈，但各从一个证据入口进入：

• 📦 食材审查员：读数据和配方，评估质量、难度、覆盖度与冗余，在固定 token 预算内提案改什么；
• 🔍 失败案例调查员：对比成功与失败的样本，找出反复出现的失败模式，提议针对性的监督；
• 📈 火候观察员：把训练 loss 等信号对照实际用了哪些数据，寻找学习停滞的解释；
• 📚 历史档案员：翻阅全部历史，区分"已经证伪的干预"和"还没被充分验证的想法"，提议纠偏或重启试验。

妙处在于设计哲学：四个子代理的技能文件里，提案部分逐字相同，只有"从什么证据出发"不同。多样性来自起点，而不是给每个人发不同的动作菜单——它们甚至都没被告知那六族动作的存在。每个子代理返回一份带证据的可执行提案，最终由 meta agent 权衡拍板。

✍️ 合成子代理：专职研发新菜。 针对池子供应不足的能力目标写新数据。在指令遵循这个场景里，能力目标非常顺手：一条可程序验证的约束（比如"原样重复指令且全篇不用逗号"），或者几条约束的共现组合，验证器能机械地判定一条样本合不合格。合成子代理每轮读评测结果，找出供给不足的目标（它把 1000 行视为充足线；第 9 轮它锁定的目标，池子里只有 4 到 161 行），然后为过不了关的目标批量造数据。造出来的每一批要走三道关：目标验证器全量检查、独立的语义评审、对评测集的 n-gram 重叠去污染——确保教的是能力本身，而不是考题本身。

📓 还有一套容易被忽略的"记忆制度"。 每一轮在训练前必须先登记假设：改什么、为什么认为它会涨分、和哪一轮对比、预期什么方向的什么细粒度现象。提交路径拒绝没有写假设的轮次——因为结果出来之后再写的预测，永远可以事后凑齐。轮次的裁决分两个问题单独回答：分数方向是否符合预期；那条例行观察是否真的出现。两者可能不一致，而不一致本身就是信息。记忆一经写入不可修改，它保存的是"这个 run 当时相信的东西"，而不是事后整理过的体面版本。这套设计值得单独记一笔：让 agent 自治，难的不是能力，是制度。

📊 一厘米一厘米地验证：消融的数字

实验设计也很克制：每个对比固定 base 模型、初始数据池、token 预算、训练脚本和评测协议，每一轮都从 base checkpoint 重新训练——任何差异都可以干净地归因到新增的那块积木上。

积木一，执行者。 压缩 10 次对 5 次，上下文里留下的从"命令输出"变成了"当轮分析"。

积木二，分析。 3M token 预算，IFEval 用 avg@10 评测。base 配置 50 轮最好成绩 62.35，前 30 轮只有 60.60；加了四位分析子代理之后，第 6 轮就到 63.33，第 30 轮爬到 67.10——同等轮次领先 6.50 分，就算给 base 多跑 20 轮的宽限，仍落后 4.75 分。动作分布彻底变了：分析版 run 里，修复加固（repair + resupervision）占到全部动作的 55%，而 base 从头到尾守在配比族里。质量信号也支持这种变化：按验证结果剪枝的新最佳率是 41.7%（10/24），修复指令和回答是 42.9%（6/14），全池重选是 50%（2/4）——这些动作是真的在把分数往上顶，不是乱动。

论文附录里有一个漂亮的案例。两版 run 都注意到模型在"严格重复指令"上犯错。base 的做法：把一个模板的 974 条样本从 500 条扩到全量——严格重复准确率从 23.78 涨到 25.00，+1.22。分析版的失败案例调查员溯源到 792 条共享同一模板的坏样本，于是 meta agent 保留了第 10 轮 88.46% 的 token，换成横跨 16 个格子的 2,752 条措辞与语序各异的新样本——同一项指标从 39.02 跳到 73.78，+34.76。同样的问题，同样多的食材，一个只换了个更大的盘子，一个真正换了做法。

积木三，合成。 100M token 预算（预算提高是因为小预算下池子装不满，新数据只有在"选无可选"之后才显价值）。最好成绩：IFEval 81.58 对 78.15（+3.4），IFBench 51.95 对 49.02（+2.9）；而且从第 9 轮起，它的每一个 checkpoint 都超过 base 在全部 31 轮里的最好成绩。两个能力的故事最能说明机制：repeat_prompt 在前 8 轮一直卡在 40% 上下，第 9 轮合成批次进场，同轮就蹿到 75.6%，此后稳定在 62%–80%——典型的"缺数据，补了就灵"。而 odd_even_syllables 被连续 3 轮定向投喂，得分每一轮都是零——这条约束对这个规模的模型来说暂时不可学，供给不足不是唯一的瓶颈。

换一个厨房照样转：代码域迁移。 MBPP+ 只按测试执行判分，没有现成的能力分类法，系统得自己从失败样本里长出结构来。池子是 74.2 万条 Python 指令—代码对，64 小时内：base 15 轮毫无持续起色；base + 分析 15 轮，第 13 轮到 64.8%；完整系统只用 6 轮就到 65.8%。+3.7 MBPP+，同样的结构，换一个不需要人类先验的域，依然成立。

成本也摆在了桌面上。 每轮训练约 0.8 GPU 时（8 张 H800），评测约 0.15 GPU 时；20 轮一轮完整研究约 130 GPU 时。agent 与生成后端每轮合计约 2.6×10⁸ token，API 成本约 95 美元，一轮研究约 1,900 美元。全文十个左右的 run 加起来，量级是 10³ GPU 时与 10⁴ 美元。让 AI 当数据工程师，目前是这个价格。

🧠 这篇论文真正想说的

把三块积木的数字摆在一起，结论就浮出来了：自动化 SFT 数据研究的瓶颈，不是任何一个更强的动作，而是能让 agent 覆盖完整动作空间的结构。

这句话值得多读两遍。过去一年的惯性思维是"更强的基座模型 → 更强的 agent"，AutoSFT 用消融实验证明另一条路：同样的 GPT-5.5，单干时只会调盐量；一旦厨房里有了传菜工、四位各看一面的品菜师和一位专职研发新菜的厨师，配比之外的动作就自然发生了——修复、替换、合成，各司其职，谁也不挤占谁的上下文。

这对"AI for AI"这个大命题是个扎实的注脚：AI 接管 AI 生产线，第一道工序（数据）的可行性，不靠某个超级智能体的顿悟，靠的是组织设计——分工、记忆制度、防作弊的验证门。这个模板，比任何一个具体数字都值钱。

⚠️ 冷静一下：局限

作者自己也把话说明白了：所有结果来自单一基座、单一规模（Qwen3-1.7B-Base）；每个配置只跑了一次搜索，重复评测压住了单 checkpoint 的噪声，压不住独立搜索之间的方差；合成只推动那些"模型学得会但缺数据"的能力，对暂时学不动的约束无能为力；代码域只验证了一个新域、轮次也短，说明结构能迁移，不说明迁移有多广。还有那 11.5 小时没摸到目标的 pilot——全自动数据研究，道阻且长。

🌙 回到那间厨房

现在回到打烊后的川菜馆。

AutoSFT 没给学徒换一个更聪明的脑子。它做的是重装厨房：传菜的有传菜工的工位，锅开没开不再占用掌勺的注意力；品菜的有四位，一个看食材、一个看剩菜、一个看火候、一个翻旧账；菜单上缺的菜，有人专职去研发，每一道新菜过三道验收才准上桌。

三十二盘回锅肉的故事提醒我们一件事：让 AI 接管 AI 的生产线，第一课从来不是"它够不够聪明"，而是"你给它一间什么样的厨房"。

今晚只是第一课。下一课，我们去看脚手架。

参考文献

• 论文：AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning
• 作者：Bingxiang He、Pengqi Sun、Shihao Peng、Shaoxuan Li、Huiyu Xiao、Hongjian Shi、Zixuan Fu、Ziqing Qiao、Yuxin Zuo、Cheng Qian、Xinqiang Yu、Jiayi Li、Xiusi Chen、Yizhen Song、Xiangyang Wang、Iofai Lei、Yudong Wang、Ning Ding、Zhiyuan Liu、Xiaozhi Wang、Chaojun Xiao
• 机构：清华大学（领衔）、伊利诺伊大学厄巴纳-香槟分校、ModelBest（面壁智能）、香港中文大学、北京邮电大学
• 链接：arXiv:2610.22194（https://arxiv.org/abs/2610.22194），2026 年 10 月 15 日
• 代码：https://github.com/Thinking-Space/AutoSFT

#AI进化论 #论文解读 #AutoSFT #AI4AI #SFT