无人认领的错误
——当每个智能体都对,错的是谁?
《Global Coherence: When Every Agent Is Right and the Team Is Still Wrong — A Local-to-Global Semantic Foundation for Multi-Agent Collaboration》论文深度解读
信任的重建 · 第三篇:制度之手
论文:Xin Heng(独作),Tote AI
出处:arXiv:2610.02036 [cs.AI],2026 年 10 月 1 日提交
💸 一笔没人认账的超支
先说一桩小事。
一个三人 AI 团队接了个普通任务。Planner 管规划,Executor 管执行,Verifier 管验收,团队共享二十次命令运行的额度。任务走到一半,额度见底,卡死。
复盘。每个人的账都干净。Executor 多跑了几回测试,因为 Verifier 上一轮说环境配置可疑;Verifier 多调了几次检查,因为上一次的输出格式不对;Planner 多开了几轮规划,因为需求中途变了。每一步都有正当理由,每一次花费都花在明处。可额度属于团队,不属于任何个人——三个人合起来,花了将近三倍的预算。💸
人类对这一幕不陌生。公司年底算账,每个部门都超支,每份报销单却批得合情合理;一家人聚餐,每个人都多点了一道"来都来了"的菜,最后账单翻倍;大锅饭的年代,人人少吃一口是理性,锅见底是集体宿命。集体资源的悲剧,经济学讲了一百多年。但这里有个新麻烦:给每个人发一个实时计数器,把剩余额度明明白白挂在每个人的屏幕上——照样超支。信息人人可见,错误无人认领。
这就是这篇论文要解剖的病灶。作者 Xin Heng 独作,来自 Tote AI,论文标题近乎挑衅:每个智能体都对,团队却是错的。他给这种失败起了个名字——全局一致性问题,核心一句话:局部有效推不出全局一致。每一步都对,拼起来错;每个人都在解题,没人对卷子负责。
这个诊断扎在一个时代性的误判上。眼下多智能体正大热,似乎只要把几个模型组队、分工、互相检查,智能就自动相加成团队的智能。这篇论文泼的是冷水:团队的上限不由最聪明的成员决定,而由状态归谁所有决定。更强的模型能做更好的局部决策,但它看不见不在自己上下文里的东西,也无法让局部正确的碎片自己拼成全局正确。上一篇我们借别人的眼睛看自己;这一篇要回答一个更根本的问题——当错误无人认领时,谁来替集体收卷子?
「信任的重建」走到第三篇。第一篇讲数学之盾:密码学教我们如何不信而验证。第二篇讲旁观之眼:外部观察者教我们如何互相监视。这一篇讲制度之手:**谁拥有共享状态的最终裁决权。**盾保证结论可验,眼保证谎言可定位,而手保证——该执行的东西,真的被执行了。
🌫️ 两种失败:看不见,与拼不上
先把问题摊开。多智能体协作的失败,作者说,本质上是两种病,对称得像一对镜像。
第一种叫观察混叠:两个世界在所有参与者眼中完全相同,却需要不同的行动。第二种叫碎片不粘:所有信息都在场,每个人通过了本地能查的所有检查,但拼起来就是不对。
一个输在看不到,信息缺失;一个输在拼不上,结构矛盾。一个是近视,一个是色盲。近视的人戴上再贵的眼镜也治不了色盲,色盲的人把颜色背得再熟也补不了近视——奇怪的是,业界给多智能体开的药方,长期只有一味:让模型更聪明。接下来的故事,就是这两种病各自的确诊书、病理切片,以及——少见地——药方。
🚪 一屋子聪明人,和两扇一样的门
先看病一。
想象你在一间屋子里,面前两扇门,长得一模一样。左边那扇后面是楼梯,右边那扇后面是电梯井。屋里还有你的同事,你们可以讨论、分工、投票、写备忘录——但所有人看到的都是同一面墙。
把屋子换成真实的业务:你让 agent 判断要不要给客户退款,而那份订单十分钟前刚被客服取消——取消这个动作,没有写进它的上下文。它看到的现场一切正常:订单存在,金额对得上,客户有理。它面前站着两个世界:订单还活着的世界,和订单已死的世界,而这两个世界在它的视野里一模一样。它无论怎么推理,推的都是同一个现场。
推门的一瞬间,对错立判。可在推之前,任何聪明都无处使力。论文把这个处境写成了一条不可能定理(定理 2.1):当有 k 个不可区分的世界,而每个世界需要的有效行动两两不相交时,最优策略在最坏情况下的成功率,恰好是 k 分之一。一分不多,一分不少。
这句"恰好"里藏着全文最冷的一刀:任何推理、任何思考链、任何角色分解、任何消息传递、任何随机化,都不能恢复这个差异。讨论不会,因为大家看到的是同一面墙;投票不会,因为错得一样齐;换个更强的脑子也不会——它面对的还是那两扇门。那句格言应该刻在每间会议室的墙上:更强的模型,不是缺失信息的解药。
如果有人在门外递进来一张纸条,上面写着一条区分两扇门的信息——论文里叫 b 比特提示——成功率最多升到 ⌈k/2^b⌉ 分之一:k 先除以 2 的 b 次方、向上取整,再取倒数。纸条有用,但数学把价码算得清清楚楚:每多一比特信息,只值一半的混乱。
还有一条推论(推论 2.2),听上去像废话,其实是全部工程的总纲:团队里的每个决策,是在行动者自己的信息集上做出的,不是在所有人视野的并集上。换句话说——每个人都只推开自己面前的门,没人推开"大家加起来"的门,因为那样的门根本不存在。三个人各看一张照片的三分之一,讨论得再热烈,拼出来的也不是全景——拼出来的是三张残片互相妥协的幻觉。
那给每个人补齐信息呢?论文冷冷地列出五道墙。第一道:选出"最小够用信息集"这件事本身是 NP-hard 的(定理 2.5)——在哪些信息该共享、哪些不必之间做最优取舍,难度等价于那类没有快捷算法的组合问题,贪心算法本质上已经是多项式时间里最好的近似,别再指望更聪明的选法。剩下四道,我们边讲实验边验收。
🎢 四十次里的一百次过山车
定理是冷的,实验是烫的。这篇论文最有说服力的一串数字,来自研究一。
给前沿大模型出一道探针题:情境里发生过一个决定成败的事件,模型看得见它的时候——四十次全对。把事件藏起来,模型只能看到藏之后的现场——四十次只对十二到十七次。而随机瞎猜的基线是多少?三分之一,约十三点三。也就是说,藏起关键事实之后,那些昂贵的推理策略、规划者加验证者的双人组、多数投票、工具调用,全部跌进随机数的泥潭,彼此没有显著差异。🎢
然后,神奇的一句:把缺失的那个事实用一句话补回去——四十次又全对了。
四十对四十,跌到十二到十七,再回到四十。这个过山车是整个故事的缩影:不缺脑子,缺事实;事实一回来,脑子立刻在线。坐在随机基线上挣扎的,不是模型的智商,是模型的视野。你也终于明白那五道墙里的第二道为什么成立——更多的上下文,不是共享状态的解药;给每个人喂更多信息,喂不出那扇不存在的门。
🌉 三块砖各自端正,桥塌了
再看第二只怪兽:碎片不粘。
这回信息齐全——没有东西被藏起来,每个人都在尽职检查,本地检查全绿。问题住在碎片的拼法里,不住在任何单块碎片中。
最直觉的例子来自一根本梁。三个 agent 各管一段,各自换算:第一段说一米,第二段说一千毫米,第三段说三十九点三七英寸。每一段换算局部都成立,两两核对也挑不出毛病——甲和乙对得上,乙和丙对得上,丙和甲也对得上。可你沿着这个圈走完一圈回到原点,数字对不上了:某一环藏着"除以二十五"还是"除以二十五点四"的小分歧,绕环一圈,小数点后的灰尘积成了裂缝。合龙那天,最后一段梁怎么也搭不上——而验收单上,每一栏都是合格。🏗️
老师傅管这个叫"每条缝都合格,整个拱不成拱"。论文用了两件二十世纪数学的工具给它记账:一个叫可逆变换群,管"编码之间的翻译"——一米翻成毫米,毫米翻成英寸,每次翻译都必须能原路翻回去,而沿任何一圈走下来,所有翻译的复合必须回到原点;一个叫粘合条件,管"局部碎片是否粘得出唯一的全局世界"。粘合条件给出的判定冰凉:**两两一致,不等于全局一致。**每两块砖都咬合,三块砖围成的圈仍可能悄悄错开一毫米——而那一毫米,不在任何两块砖的关系里,在三块砖的关系里。两两检查走遍全场,也永远走不进那个三人关系。
预算超支是同一个病。三个角色各自合法花费,总和打破预算——错误的成分不在任何一笔支出里,在支出之间。没有一项本地检查能发现它,因为它活在"碎片如何拼合"中。这堵墙比第一堵更反直觉:第一堵说信息可能不够,第二堵说,信息够了也没用,拼法本身会作恶。第三堵墙紧随其后:发现错误远比修复容易——检测是线性时间,修复是最大割难度,找出一毫米的缝容易,决定撬哪块砖难。
🧰 五件工具,一个工具箱
两种病确诊了,药方是什么?论文先搭了一套数学框架,五个符号:拓扑、范畴、变换、粘合、历史。别怕,这五个符号各管一件事,一件件说。
拓扑结构,回答"谁和谁在哪些共享状态上重叠"。画成一张超图——比普通图更任性的图,普通图的边只能拴两个节点,超图的边能一把拴住一整个小组。它给出一个关键判定:如果这张图的骨架是一棵树(没有圈,像一份层层汇报的组织结构图,相邻的人互相核对就够),那么两两检查就够了;一旦存在圈,不一致就能藏进圈里——前面那根本梁,就是圈做的案。这解释了为什么"大家互相确认一下"在某些团队里管用,在另一些团队里形同虚设:区别不在态度,在骨架。
可逆变换,回答"编码之间怎么翻译、翻译错了怎么查"。判定标准只有一句:沿任何一圈走下来,所有翻译的复合必须回到原点——就像绕地球走一圈,经度的净变化必须是零度。
粘合条件,回答"局部碎片是否粘合自唯一的全局世界"。这是两两一致与全局一致之间的那道门缝,能穿过门缝的东西,叫过度决定——三个人的关系里多出来的那一毫米。
范畴,区分两类动作:真实改变状态的动作,和仅仅换一种说法重新表达状态的动作。一比一的单位换算属于后者,把余额从一个账户划到另一个账户属于前者。工程含义很实际:只在提交时检查真正改变状态的动作,别让每次重新表达都交一次过路费。
历史状态,回答"运行时最少要记住什么"。答案节俭得漂亮:只记那些会改变未来合法行动的信息——预算余额,加上每个 agent 最后读取的版本号。就这么多。忘掉其余的一切都不碍事,忘掉这两样,无声撤销就会溜进来——这是伏笔,后文应验。
五件工具,一个工具箱。它们合起来指向同一句医嘱,也是全文最重要的一句话。
⚖️ 模型提议,Harness 盖章
这句医嘱是:模型提议;Harness 拥有共享状态,并治理提交。
拆开看。模型负责提议智能:理解意图、规划步骤、挑选工具、起草变更——所有需要聪明才智的活。Harness 负责状态、可准入性与提交:决定什么进入上下文,持有那些必须被区分的信息,检查每一次工具调用,最后执行接受、修复或拒绝。
Harness 是什么?它不是另一个 agent,是系统里的"公证处"加"海关",是夹在所有模型与共享世界之间的一层运行时。模型是起草合同的人,harness 是盖章的公证员;模型是报关的旅客,harness 是验讫的海关;模型是厨房里各显神通的厨师,harness 是传菜口那个看一眼才放行的人。盖章的那只手,不能属于任何一个起草人。
为什么不能让一个"管理者 agent"来干?论文的反驳直接祭出前面的不可能定理:管理者也是参与者,它有自己的视野,受同一个定理约束——它面前同样是那两扇一样的门。让屋里再多一个聪明人,门还是两扇。这也是为什么"检查每一次交接"不是解:交接双方都透过各自的门看东西,交接证书盖得再密,也盖不住门外的世界。
"把信息全给每个人"这条路的五道墙,至此验收完毕:最小信息集是 NP-hard;圈让局部一致加总不出全局一致;发现容易修复难;共享约束需要协调执行——要么在提交时把关,要么拆成托管配额;变化与时间自带麻烦——数据会过期,提交要原子。五道墙,道道立着实验的砖头。于是药方收敛成一句近乎朴素的话:集体的正确,不能只靠个体的自觉。
🎭 三幕剧:计数器、闸门与信封
预算实验是整篇论文最富戏剧性的一幕,值得拉开幕布看三遍。
第一幕,普通团队上场:五次运行,五次超支,无一幸免。第二幕,给每个人挂上实时计数器,剩余额度每秒刷新,挂在最显眼的位置——五次里仍有四次超支。😶 信息人人可见,预算照样失守。这一幕应该让所有信奉"透明即解药"的人沉默:看见余额和拥有余额,是两回事。人不是算不过来,是"团队还剩多少"这件事在结构上不属于任何人——没有一只手会因超支而被按住,就没有一颗心会为余额而真正收紧。
第三幕,换 harness 上场,在提交处设闸:每次工具调用真正执行之前,先验预算,不够就拒。五次运行,零次超支——而且任务进度没有下降。不是杀鸡用牛刀地压效率,是仅仅把闸门放在了正确的位置。另一组同样干净的做法叫托管配额:不按团队总量算,按角色拆成信封,每人一个信封,自己的信封自己管——也是零超支。信封的答案更耐人寻味:它不依赖任何中央闸门,只靠把"团队的东西"翻译成"你的东西",就让每个人看得见、摸得着、超不起。
三幕剧的一句台词:**仅信息展示不是解,所有权才是。**错误无人认领的根,不是没人看见,是没有一样东西在机制上属于"团队"。计数器是公告栏,闸门是产权。这堵墙是五道墙里的第四道,验收完毕。✅ 而第三幕留下的余味值得咂摸:任务进度没有下降——制度不是效率的敌人,恰恰相反,把对账从每个成员的负担里收走、集中到一处之后,成员反而更敢放手干活。
👻 那只悄悄伸回来的手
第二个实验,更安静,也更阴。
电信客服场景里,agent 已经提交的变更,被人悄悄撤销了——学术一点叫无声撤销。多数派系统的反应近乎惊悚:普通策略检查和原版 agent 完全没察觉,评分跌到 0.07——基本可以理解为零分。变更明明不在了,它们的检查报告一切正常。
运维的人对这个剧情不陌生:配置被人改回去过,记录被回滚过,日志看着一切如常,只有"它曾经是对的"这个记忆不复存在。普通系统看的是现在:文件在不在,字段对不对。无声撤销之后,"现在"是完好的——坏的是"现在和过去对不上"。而过去不在任何一次查询里,过去只住在一个地方:历史状态的账本里。论文那句判词因此有了实感:**检查当前状态,不是解。**再补一刀:检查每一次交接也不是解,因为撤销可以发生在两次交接之间,交接证书齐全,东西已经没了。
换上 coherence harness 呢?1.00。十五个回合里,agent 十五次重做被撤销的变更。👻 账本上记着每个 agent 最后读取的版本号,世界的"应该"有了住处,撤销一发生,新旧两版立刻对不上账——这正是历史状态那味药的下文,伏笔应验。
不过,论文的诚实也在这里。harness 在另一类任务上只是打平:凡是常规工具本来就握有状态的地方——依赖引擎、耦合求解器,研究三和研究六——harness 没有超额收益,和理论预测分毫不差。整套理论因此闭环:harness 在状态缺失或无主的地方获胜,在状态已有其主的地方平手。赢要赢得明白,平也平得明白。
🕸️ 四十五张网里的二十三张
理论的真实感不止于游戏关卡。作者把目光投向本体对齐——教不同数据库"你说的苹果和我说的苹果是不是同一个东西"的学问——翻遍 2018 到 2024 年间四十五个公共对齐网络,二十三个存在一种特殊的冲突:本体身份冲突,而且两两检查永远看不见它,因为它的完整形状藏在网络级的圈上。拆开视野的 agent 们在四十次合并中复现了九次冲突;网络级检查出手,九次全部落网;而两两检查呢?四十次里一次都没触发。九除以四十,漏检得干干净净。🕸️
这是碎片不粘在真实世界里的尸检报告:圈把不一致藏到了任何人的两两视野之外——拓扑结构在动笔写框架之前,就已经写好了预言。它还顺带提醒所有依赖"peer review 式核对"的系统:两两互审是一种树状的、没有圈的祈祷,一旦协作网络里长出了圈,互审就得升级成环检,否则你守得住每对关系,守不住整个闭环。
🏛️ 这不是 AI 的问题,是"一起做事"的问题
读到这儿,这篇论文的野心已经呼之欲出:它讲的根本不是 AI。
多智能体协作,只是把一种古老困境请到了新舞台上。分布式数据库几十年前就学会了:一起改数据,要么全做要么全不做,这叫原子提交;跨表的对账要靠事务,不能靠每个应用自觉。人类社会的答案更老:钱的事交给复式记账——每笔账同时记在两处,单独一处说了不算;契约的事交给公证——起草与盖章必须分人;河的事交给河长制——每一段都要有主;一家公司不怕每个人犯错,怕的是没有任何一段流程为"大家加起来对不对"签字。**每个成员都对、集体却错了的 bug,文明已经用制度打了上千年补丁。**这篇论文的贡献,是用粘合条件、可逆变换群、范畴这些二十世纪数学,给所有补丁统一了语言,并且第一次证明了为什么某些补丁是唯一的形状——不可能定理不看应用领域,它对一切分布式决策者生效,硅基的和人头的,一视同仁。
所以"制度之手"不是隐喻,是字面意思。harness 之于 agent 团队,就是公证处之于合同,海关之于口岸,复式记账之于钱庄:一只不属于任何提议者的手,替集体保管那些"不属于任何个人、却决定成败"的东西——余额、版本、提交权。这也顺手回答了工程师最关心的问题:这套东西怎么落地?答案朴素得反常——不需要造一个新角色,只需要把已经知道该归谁的东西从模型手里收回来,放进一个不属于任何模型的执行层。九大研究,九个回合,理论先射箭,实验后画靶,靶靶中的;代码承诺发布,假以时日,人人都能复验。
回到系列的开头。密码学回答:如何不信而验证——数学之盾,担保结论可以被验证。旁观者回答:如何互相监视——旁观之眼,担保谎言可以被定位。这一篇回答最后的问题:**谁拥有共享状态的最终裁决权。**答案是:一个不属于任何模型的机构。三个答案拼起来,信任才有完整的形状:能验证,能定位,能执行。
那个超支的团队,问题从头到尾只有一个:二十次额度属于"团队",而"团队"不是任何人。把闸门交给一只不属于任何成员的手——错误第一次有了主人,预算第一次有了账本。🏛️
两扇门还是两扇门,屋里的人再聪明也看不出差别。但从今天起,门外多了一只不属于任何人的手——它不看门,它管章。
集体的正确,不能只靠个体的正确。它需要一个无人认领之物的认领者。而制度之手的全部要义,可以浓缩成一纸分工:让聪明的归聪明,让记账的归记账。
📚 参考文献
- Xin Heng. Global Coherence: When Every Agent Is Right and the Team Is Still Wrong — A Local-to-Global Semantic Foundation for Multi-Agent Collaboration. arXiv:2610.02036 [cs.AI], 2026-10-01. 九个研究的代码与运行记录承诺发布。
#信任的重建 #制度之手 #多智能体协作 #全局一致性 #论文解读 #arXiv2610
讨论回复
加载中...正在加载回复...
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。