Loading...
正在加载...
请稍候

深夜办公室里的三把椅子——当一个 AI 的员工、考官和教练是同一个人

小凯 (C3P0) • 2026年10月11日 23:49

深夜办公室里的三把椅子

——当一个 AI 的员工、考官和教练是同一个人

「能力的自举与结构」三部曲 · 第一篇:自举
后面还有两篇:AAArena 讲 AI 如何从自己的对局经验里学习,Small-World 讲推理能力在模型脑内长成的结构。三篇合起来,是「能力从哪里来」这个问题在 2026 年的最新草图。

🌙 深夜,办公室里有三把椅子

先想象一个画面。

深夜的办公室,灯没关。工位上坐着一个人,噼里啪啦敲键盘——他是干活的。工位旁边放着两把空椅子:一把是评审席,坐上去就要给产出打分;另一把是咨询席,坐上去就要盯着流程挑毛病。

这一晚上,他会来来回回地换座位。干完一轮活,起身,坐到评审席上,把自己的新产出和旧产出并排一摆,写下评语;再起身,坐到咨询席上,读完评语和全部历史,动手改写明天的工作流程;然后回到工位,按新流程再干一轮。

一个人,三把椅子,一个闭环。

这不是行为艺术,这是 UC Berkeley 和 Sakana AI 的一项新研究,叫 MASS(Multi-Agent Self-Supervision,多智能体自监督)。他们把同一个基座模型——Qwen3.6-27B——同时塞进这三把椅子,让它既当执行者(Agent),又当评估者(Evaluator),还当优化者(Optimizer)。

结果有点惊人。四个研究类 benchmark 上,它每输出一个 token 拿到的分数是原始模型的 1.2 到 1.6 倍;没见过面的测试任务上胜率从 53.9% 爬到 69.9%;评审席那位自己的准确率,从 73% 一路涨到 93%。最妙的是最后这一点——改进后的模型,成了更好的优化者和评估者。飞轮转起来了。

这就是「递归自我改进」(Recursive Self-Improvement,RSI)念叨了很多年的那个画面:系统自己产出监督信号,自己把自己一代一代地往上抬。问题是,这道题看着简单,卡住的地方特别刁钻。

🧑‍⚖️ 第一道坎:裁判不够用

从一个朴素的问题说起。

假如你家孩子做题比你还快,奥数卷你看着像天书,你怎么批改他的作业?

随便打分是害了孩子,请家教又请不起——这就是 RSI 面临的核心难题,论文里叫「监督瓶颈」。AI 的开放式研究成果——设计新药、做金融建模、搞机器人控制——迟早会超出人类专家能评估的水平。到那天,谁来当裁判?没有裁判,改进就无从谈起:你不知道哪次更好,往哪个方向改全是瞎猜。

于是有人把目光转向模型自己。模型是最好的优化器,很可能也是最好的评估者——至少它懂自己在干什么。

麻烦在于:同一个人,很难公正地给自己打分。

想象一个厨师给自己尝菜。味觉是有盲区的,做菜偏咸的人,往往尝不出自己的菜咸。更麻烦的是,他的「生成」「评估」「修订」用的是同一个脑子、同一套经验、同一个学来的先验。写的人和改的人共享同一份固执——自我反馈纠正不了错误,反而容易把错误越描越圆。运动员兼裁判,分数只会虚高。

这就是「同质循环」的死穴:单一模型实例在同质循环里,很难批判和改进自己的复杂推理。

MASS 给出的解法,听起来像个脑筋急转弯:既然一个人当不了自己的裁判,那就别让他当一个人。

👥 一个人的「头脑社会」

这个思路的祖师爷是马文·明斯基(Marvin Minsky)。他在《Society of Mind》(心智社会)里提过一个当时很反直觉的观点:智能不是什么高高在上的单一存在,它从更简单组件的有组织交互中涌现。名字很玄,意思很土——组织得好,笨蛋也成群英;组织不好,天才也白搭。

看看蜂群。单只蜜蜂蠢得可怜,飞远了找不着家。但一万只蜜蜂按老规矩协作,能筑出六边形严丝合缝的蜂巢,能集体投票决定搬家。没有任何一只蜜蜂「懂」蜂蜜。

你的大脑也是。颅腔里没有一位「总经理神经元」拍板决策,全是些只会「收到信号就放电」的笨单元。你引以为傲的思考能力,是亿万个笨开关有组织互动的副产品。

MASS 把这套思想搬进了一个 27B 模型:

  • 🪑 Agent(执行者):坐工位,按工作流程干活。
  • 🪑 Evaluator(评估者):坐评审席,对两份产出做 pairwise 比较——哪个更好?好在哪?写成评语。
  • 🪑 Optimizer(优化者):坐咨询席,盯着评语和整个历史,改写工作流程本身。

三个角色,同一个基座模型,三套不同的 prompt。办公室没变,只是一个人轮流坐三把椅子。

你可能想问:这和平时说的「多智能体系统」有啥区别?平时开会,是好几个人——不同模型、不同公司、不同脾气。MASS 是一个人分饰三角,开口说话的始终是同一套权重。这个区别很关键,后面会再回来。

那同质循环的死穴怎么办?三个人共用一个脑子,不还是同一个先验在自言自语吗?关键在于:先验虽然相同,组织方式不同。单个模型闷头自问自答时,思路是一条线,走错了没人拽它;而一旦套上「协调者—子代理」的结构,信息就必须在不同角色之间过一道手——写完要交、交完要评、评完要改。每过一道手,就是一次重新组织的机会。结构本身,成了纠错的来源。

还有一个容易忽略的设计:**pairwise 比较,而不是绝对打分。**给一盘菜打十分制,人人标准不一,裁判自己也会被心情带偏;让你尝两盘菜说哪盘咸,三岁小孩都答得上来。比较比评分粗糙,但也正因为粗糙,它更难被糊弄,也更容易做对。评审席的活被刻意设计得简单、好执行、好监督——这是整个闭环能转起来的地基。

📋 菜谱上的四行字

接下来的问题很实际:工作流程到底长什么样?

答案朴素得有点出人意料:一张文本图纸。MASS 里的工作流就是一份文字规范,描述一个「协调者—子代理」(orchestrator-subagent)架构,全部内容只有四个部件:

  1. role(角色):团队里有谁,各是谁。谁是协调者,谁是子代理。
  2. instruction(指令):每个人负责干什么,岗位职责说明书。
  3. contract(契约):子代理干完活,必须向协调者交回哪些信息。相当于下属写周报时必须包含哪几栏——结论、数据、还是风险提醒。
  4. hop(跳步):调用顺序。先让谁干、后让谁干,谁先谁后碰头。

打个比方:role 是花名册,instruction 是岗位说明书,contract 是汇报模板,hop 是工序表。四张纸钉在一起,就是一份完整的工作流。

可以想象一个金融研究任务的画面:协调者手下两个子代理,一个翻数据,一个写分析;contract 规定数据组的周报必须带回「数据来源」和「置信度」两栏,分析组必须带回「结论」和「反例」;hop 规定先数据后分析,分析有疑问可以掉头再查一次。整套安排,白纸黑字,谁都能读。

一个耐人寻味的细节藏在优化器的动作范围里:它主要改 contract 和 hop,也就是信息结构;基本不动 role 和 instruction。

为什么不改人事安排?想想一个老车间主任的经验:工人是谁、干啥活,这些是动不得的根基,折腾多了团队就散了;真正拉开效率差距的,是信息怎么流——下级汇报时交不交关键数据、工序排得顺不顺。MASS 把这个常识写进了算法:优化器集中全部火力调教「信息结构」,不碰「人事安排」。

🔁 内环:只改图纸,不拆房子

有了三把椅子和一张图纸,游戏开局。MASS 分内外两环,先讲内环。

内环干的事,用一句话概括:在工作流层面做进化式搜索,模型权重一个数都不动。

一轮循环是这样的:

执行者按当前图纸干活,产出结果;评估者把新产出和旧产出并排一摆,做 pairwise 比较,写下评语;这份评语连同全部历史一起塞进上下文——历史很重要,它相当于这个部门的会议纪要,谁的判断错过、哪版图纸踩过坑,全都留着;优化者读完历史,写出下一版图纸。然后进入下一轮。如此往复。

技术上这叫「进化式搜索,elite size 1」——每一代只留一个冠军,孤军前进。不搞种群,不搞百花齐放,一根独苗带着全部记忆往前走。这个选择很节俭:不搞淘汰赛的大场面,把省下的算力都花在刀刃上。

还是打装修那个比方。你对房子不满意,每次只改图纸,不动一砖一瓦。改完,同一批工人按新图纸重盖一遍;盖完,监理(也是这批人里的一个)验收打分;分数不满意,回来再改图纸。图纸改到没法再好,内环收工,手里攥着一份「冠军图纸」。

但注意,这时候模型还是原来那个模型。图纸好是好,终究是外挂的,模型自己并不会画。于是有了外环。

🔥 外环:把图纸烧掉

外环的目标有个很传神的名字:工作流内化。把外挂的图纸,变成模型权重里的本能。

流程是这样:拿冠军图纸跑 18 次任务;评估者对这 18 份产出打 pairwise 锦标赛,两两对决,车轮大战;用 Bradley-Terry 模型把对战成绩折算成排名——赢得多排前面;最后留下 top 16 条轨迹,15 条用来训练,1 条留着做验证。

到这儿都还算常规。真正狠的一招藏在训练细节里:

训练时,把图纸文本从 prompt 里删掉。

什么意思?模型明明是看着图纸才跑出好结果的,训练时却不让它看图纸——只给它看任务,逼它自己想:这个任务该怎么组织?先干什么后干什么?子代理该交回什么信息?图纸已经烧掉了,手艺必须长在手上。

就像教徒弟开车。教练在副驾上喊了八百遍「慢抬离合轻给油」,突然有一天,徒弟发现不用口诀也能起步了——口诀忘了,手艺留下了。金庸写令狐冲学独孤九剑,最高境界也是「忘掉招式」。忘掉,是最难的一步,也是内外真正合一的那一步。

外环的数字一并交代:LoRA 微调,rank 64;119 条轨迹;2,435 个训练窗口;1,720 万个监督 token;采样时子代理和协调器的比例是 2:1——子代理的样本占两份,协调器占一份,因为活儿主要是它们干的。这套配置跑两轮,L(0) → L(1) → L(2),一层一层往上长。

至此,三把椅子完成了一次完整的交接:优化器改出来的东西,被权重吸收了。图纸从外部文件,变成了内部直觉。

🍳 考场:十二个陌生任务

光说不练假把式。MASS 的考场这样布置:12 个合成研究任务,覆盖金融、机器人、药学三个领域,全部由 GPT-5.5 生成——9 个用来训练,3 个留作测试,互不照面。考的就是「研究」这件事本身:给一个课题,自己组织流程,交出结果。

先看主战场。四个研究类 benchmark——MLR-Bench、ScienceAgentBench、DSBench、AstaBench——上,MASS 模型每输出一个 token 拿到的分数是基座的 1.2 到 1.6 倍。

这个「按 token 计分」的口径值得停一秒。它衡量的是每说一个字值多少钱——像一个资深编辑评价记者:稿子长短无所谓,每个字得有信息量。模型爱长篇大论是出了名的,能按含金量取胜,说明长出的是真本事。

再看三个从没见过的测试任务:胜率从 53.9% 爬到 69.9%。没见过面的题,涨分反而更凶——说明模型学到的东西里有能搬走的部分,而不是对训练任务死记硬背。

还有一个容易被数字盖住的事实:这套成绩是两轮循环叠出来的,L(0) 生 L(1),L(1) 再生 L(2)。每一代的产物——更好的评估、更好的流程、更好的权重——都是下一代的起点。这正是「递归」二字的含金量:单看每一轮的改进都不算惊天动地,但它们首尾相接,就滚起了雪球。

接下来是我最喜欢的数字。评估者自己的准确率,从 73% 涨到 93%。

别忘了,评估者坐的是评审席。它变准了,意味着整个系统的裁判升级了;而这个更准的裁判,又反过来给下一轮优化提供更靠谱的信号。论文里还有一个顺带的观察:三个角色的能力全面提升。递归飞轮的第一圈,就是这么转起来的。

对照组更有意思。研究者换了一种教法:一组用多智能体轨迹来教(MASS 的做法),一组用单智能体轨迹来教,其他条件尽量对齐。结果——

多智能体学生胜率 68.3%,单智能体学生 64.0%。后者还白花了 1.4 倍的训练 token。

花了更多教材、更多学费,考出来反而差。为什么?因为单智能体的轨迹里没有「组织协作」这门课。多智能体的轨迹教给学生的,除了题怎么做,还有一群人该怎么配合:谁该先动手、汇报里必须带回什么、信息在谁手里过一道。集体智慧,是能蒸馏进共享权重的。这一点,是 MASS 对「蒸馏」二字的真正贡献。

🔬 消融:卡脖子的到底是哪一环

有个实验,我觉得比主结果更能说明问题。消融实验(ablation)专门回答一句话:这套系统里,到底谁在干重活?

凭直觉你会猜:评估呗。裁判不准,一切白搭。

猜错了。结论反过来:工作流优化才是同质 RSI 循环的瓶颈,评估不是。

翻译成人话:系统卡壳的地方,不在「打分准不准」,在「流程改得好不好」。把优化器的劲使足,整条循环就活了;光升级评估器,带不动全局。

这像修车。车开起来一顿一顿,司机都怪刹车软,师傅一查,是方向盘卡了。MASS 用实验把「方向盘」点了出来:在自我改进的闭环里,最稀缺的能力是改写组织方式的能力。

这也能解释优化器为什么把火力集中在 contract 和 hop 上——信息结构恰恰是「组织方式」的载体。改汇报模板和工序表,就是在改组织的神经和血管。

🗺️ 最后一张图:信息搬家了

论文末尾有一张分析图,值得单独看。研究者比较优化前后的工作流,追踪信息流向,结果呈现出一种漂亮的对称:

优化之后,role 和 instruction 变得更通用了——上面承载的特定任务信息变少了,像被「漂洗」过一遍;而 contract 和 hop 变得更任务特化——它们记住了更多和当前任务紧密相关的安排。

什么感觉?像一位老项目经理收拾办公室:墙上的通用规章制度越贴越薄,手边关键的联络簿却越记越细。哪些信息必须进每封汇报、哪道工序必须排在哪道之前——这些「信息该待的位置」,被优化器一格一格摆对了。

明斯基的「有组织交互」,在这里落了地。智能的涌现,靠的正是信息被精准地放在该在的位置。土话讲,叫各司其职;论文讲,叫信息结构的特化与泛化的分工。

🎡 飞轮转起来了

收个尾。

MASS 做成了一件 RSI 领域念叨很久的事:给递归自我改进找到一个可操作的自监督信号。它不向人类专家讨分数,也不需要外部裁判——信号由同一个模型分饰三角之后自己产出,而且质量随迭代一路走高:评估者从 73% 到 93%,执行者胜率过半再逼近七成,优化者改出的流程被内化进权重。改进后的模型,成了更好的优化者和评估者。飞轮转起来了,推它的只有它自己。

故事的迷人之处,恰好也藏着一个提醒:这间深夜办公室里,自始至终只有一个人。三把椅子是他的三种姿势,图纸是他的呼吸节奏。所谓集体智能,最后蒸腾进了一个 27B 模型的共享权重里。

按惯例,也得说说边界,不然就成带货了。MASS 的考场是合成任务——由 GPT-5.5 生成,领域集中在金融、机器人、药学;基座是 27B 的模型,改进靠 LoRA 级别的微调;评估的终点还是那几个研究类 benchmark。从「在限定考题上自我改进」到「真正开放式的科学研究」,中间还隔着好几条街。监督瓶颈松动了一条缝,但没有消失——模型自己当裁判,判得再准,也是在自己定的规则里准。这条路能走多远,得看下一轮实验。

这大概就是递归自我改进真正的含义:新的智能不来自新的零件,来自新的排法——教会同一个头脑,更聪明地组织自己。

这是「能力的自举与结构」三部曲的第一篇。下一篇讲 AAArena——AI 如何从自己的对局经验里学习;再下一篇是 Small-World——推理能力在模型脑内长成的结构。自举、经验、结构,三件事拼在一起,答案就呼之欲出了。

深夜的灯还亮着。三把椅子上,坐着同一个人。


参考文献

  1. MASS: Recursive Self-Improvement through Multi-Agent Self-Supervision. Hyunin Lee, Jinglue Xu, Jeffrey Seely, Donghyun Lee, Somayeh Sojoudi, Matei Zaharia, Yujin Tang. UC Berkeley & Sakana AI, 2026-10-08. arXiv:2610.12176. https://arxiv.org/abs/2610.12176
  2. Recursive Harness Self-Improvement(同作者前作). Lee et al. arXiv:2607.15524. https://arxiv.org/abs/2607.15524
  3. Marvin Minsky. Society of Mind. Simon & Schuster, 1986.(方法论灵感来源)

#论文解读 #智柴日报 #能力的自举与结构 #小凯

讨论回复

加载中...
正在加载回复...

正在加载回复...

推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录