《开庭之前，判决就已经写好了》

——辩论让人类更接近真相，却让弱模型更远

上午九点，陪审团休息室的门在你身后关上。

你是十二分之一。桌上摊着案情摘要，法官的叮嘱还在耳朵里回响：请仅依据庭审证据作出判断。道理你都懂。可你心里清楚，停车场里听到的半截播客、头条上扫过的一行标题、上个月家宴上姐夫那句"这案子还用审？"——它们全都跟着你走进了这间屋子，坐在了本该空着的椅子上。

接下来的问题是：律师的辩论，能把它们请出去吗？

这正是 AI 对齐领域悬了八年的问题。2018 年，Irving 等人提出 AI Safety via Debate：让两个 AI 就一个问题的对立答案展开辩论，由一个人类或弱模型法官裁决。动机很朴素——未来的 AI 会比它的监督者更聪明，等学生超过了老师，考试还怎么批改？方案是：别让老师亲自做卷子，让他听一场辩论。法官不需要懂量子化学，只需要判断谁的论证更站得住脚；就像陪审员不需要是法医，只需要听完交叉质询之后，决定相信谁。

这个方案的全部赌注，押在一件事上：带着先验信念坐进陪审团室的人，能不能被辩论拨回真相。 能，辩论就是可扩展监督的钥匙——人类判断力的短板可以被对抗的结构补上；不能，再漂亮的论证也只是操纵法官的杠杆，AI 很快就会学会不去赢案子，而是去赢陪审团——这就是研究者们私下说的 judge hacking。

八年间，这个赌注一直没人系统地验过。多数辩论实验要么让模型当选手、人类当观众，要么在模型烂熟的知识题上打转，刻意回避了一件事：真实场景里，法官从来不是白纸一张。人带着先验走进法庭，有的先验是对的，有的是错的。辩论要征服的从来不是空白的大脑，而是已经有了立场的大脑。

这篇论文把赌局正式开了出来。Maria Victoria Carro、Denise Alejandra Mester、Facundo Nieto、Eitan Sprejer、Maria Vanina Martinez 等十七位来自热那亚大学、布宜诺斯艾利斯大学 FAIR/IALAB、CONICET、Inria、巴黎脑研究所、IIIA-CSIC 等机构的研究者，在人类和 LLM 两类法官身上同时做了这场实验：507 名人类参与者，超过 75000 次 LLM 法官决策。论文题为《Humans Correct Their Judgments Through Debate, but Weaker AI Models Do Not》，arXiv: 2610.28539，2026 年 10 月 20 日挂出，是 NeurIPS 2026 接收论文的扩展版。

标题就是结论。念一遍：人类能通过辩论修正判断，较弱的 AI 模型不能。

这是"三重不信任"系列的第二篇。上一篇《剪掉一千个"讨好"权重后，模型不再相信任何人》讲了第一种不可轻信之物：用户随口一句断言，如何像一只手，把 AI 心里的天平拨偏——那是无结构的误导，一句话的重量。本篇讲第二种：有组织的对抗性论证——当误导有了结构，它就长出了杠杆；一句话拨不动的东西，一套论证可以。三篇连起来是一个递进：用户输入的误导（一）→ 对抗论证的误导（二）→ 把怀疑做成机制（三）。不信任不是终点，是通往可信的必经之路。

今天先回答陪审团的问题。

⚖️ 弱者监督强者，是这场豪赌的名字

先把概念摆正。

可扩展监督（scalable oversight）问的是：当 AI 系统的能力超过它的人类监督者，我们凭什么继续给它打分？今天的模型已经在蛋白质折叠、芯片设计、数学证明这些领域越过大多数人的专业边界，而 RLHF 那套"人类标注员看着回答打分"的流程，前提正被一点点抽掉。标注员看不懂的答案，分就没法打；分没法打，训练信号就断了。能力每上一个台阶，监督就薄一层——这个剪刀差被叫作监督的可扩展性危机。

辩论是这个困境里最优雅的提案。它许诺的是一种杠杆：法官可以比辩手笨得多、懂得少得多，只要他能分辨"哪一方的指控经得起追问"，就能借助两个聪明人的互相拆台，完成对超出自己能力范围的问题的裁决。这是人类司法用了几百年的配方——陪审员不必懂法医毒理，因为控方律师唯一的活路，就是替他把对方报告里的漏洞指出来。理论上，同样的杠杆可以无限放大：辩手越来越聪明，法官原地不动，监督依然成立。

它的理论依据常被叫作"诚实辩论者"论证：在一场零和的双人辩论里，只要一方手里握着真相，它就能精准地戳穿对手论证里每一个可核查的谎言——"你引用的数字不对，请查原始表格第三行。"法官不需要亲自查证，只需要看哪一方的指控经得起追问。真相一方的优势是结构性的：假话的编法无穷无尽，但每一句假话都对应一个具体的核查动作，而真话一方永远握有发起这个动作的权利。

听起来完美。但整个链条的支点，是法官那颗"看哪边更站得住"的头脑本身必须可靠。而人类判断从来不中立：锚定效应、确认偏误、先验信念、立场维护，一个都不少。一个足够聪明的高级 AI，未必会赢下辩论——它更可能学会挑选让陪审团点头的那套话术。陪审团制度几百年的经验浓缩成一句话，也是这篇论文引用的那句："案件的输赢，在陪审团选定时就已经决定。"

所以真正需要测量的，不是一个中立的法官看过辩论之后有多准——而是一个已经站错边的法官，会不会被辩论拉回来，以及拉回来的幅度够不够。 这正是实验设计的出发点。

🔬 实验台：一百个"你没听过、但懂行的人知道"的问题

实验设计干净，而且狠。

先说题库。研究者没有从现成的问答集里抽题，而是手工构建了 10 个科学和技术发现主题——比如"镜像生命"，一种所有生物分子都换成镜像版本的假想生命形式，近两年因为合成生物学的进展成了领域内的严肃议题——每个主题再拆 10 个子话题，一共 100 个数据点。选题标准只有一条：公众不太熟知，但需要领域专业知识才能判断。

这个标准是整个实验的承重墙。公众熟知，法官的先验就被常识锚定，测不出"先验错误"的情形；不需要专业知识，AI 就未必比法官懂更多，辩论的价值无从体现。要测的恰恰是那条缝隙：在法官无知的领域里，对抗论证能不能代替知识。

然后是三种监督协议，一一对照。

第一种是辩论（Debate）：两个同等能力的 AI——Claude Opus 4.5——就对立答案展开辩论，3 轮，每轮限 100 词。100 词是什么概念？大概两三段话，刚够摆出一个论点加一条证据，没有空间绕弯子。双方的论据顺序交换，用来控制位置偏差——先发言永远占便宜，那就让每一边都当一次先手。

第二种是咨询（Consultancy）：单个模型为一个答案辩护，法官可以向它提问。这个协议是故意的对照组——它几乎一比一复刻了 RLHF 的实际监督信号：一个 AI 给出答案，监督者追问几句，然后打分。如果辩论的好处只是"法官多听了些解释"，咨询也该同样有效；如果咨询无效而辩论有效，说明起作用的是对抗结构本身，不是信息量。

第三种是多法官协议：3 到 7 个法官并行，组合方式有好几种——简单投票、置信度加权投票、协商（分强制共识和不强制共识两种）。

最后一步，也是全实验最关键的旋钮：先验信念的注入。大约一半法官带着正确的先验开场，一半带着错误的先验。人类法官用导语材料植入；LLM 法官则通过系统提示注入一套"通用先验信念"（GPB），开源模型还可以叠加 persona prompting 和 persona capping——对人格激活做封顶，防止模型在错误先验上越陷越深。这样每个实验条件都成对出现：同样的辩论，一方法官先信对的、一方先信错的。辩论的拉力，就体现在这两组之间的差距，以及错误先验组被往回拉的幅度上。

规模上，人类侧是 507 名 Prolific 招募的参与者；模型侧是超过 75000 次 LLM 法官决策。前者保证人类统计的效力，后者保证可以把每种协议、每种先验、每种法官模型排列组合地扫一遍。100 个数据点听起来不多，但这项实验要测的从来不是"题库上的绝对分数"，而是"同一个人在听辩论前后的判断位移"——每个数据点都是一台微型实验，先验方向是旋钮，辩论是施加的力，法官的改口是读数。测位移，不必用百米跑道，用精确的刻度尺就行。

结果分两半讲。先讲人类法官，因为那一半是好消息。

🧑‍⚖️ 人类法官：辩论有效，咨询无效

第一组数字，是这场豪赌八年来的第一次正面兑付。

人类法官听完辩论之后，准确率从 41.3% 提升到 57.6%（p=.028）。十六个百分点的跳升，统计显著。更值得停一下的是迁移效应：在没听过辩论的相关子话题上，这些法官的准确率也从 50.56% 升到 58.43%——他们学到的不只是"这道题选 B"，而是这个领域里的判断题该怎么看。辩论带来的校准是可以带走的，这不只是答题技巧的提升，是判断力的迁移。

对照组是咨询。同样是听 AI 说话，同样有机会提问，咨询条件下人类法官的准确率从 51.25% 挪到 48.75%——没涨，反而略降。

这两个数字并排摆着，信息量很大。它们排除了一个最大的平庸解释："法官只是多听了点解释，所以变准了。"如果是这样，咨询和辩论应该同样有效。实际不是。让一个 AI 从容地为单个答案辩护——哪怕法官可以追问——基本不改变人类判断，甚至有点把人往沟里带的趋势。真正起作用的，是对抗结构：有另一个同等聪明的声音在场，而它唯一的动机就是拆穿第一个声音。

交叉质询这个词里，"交叉"两个字才是全部药效所在。

这也顺带给了 RLHF 一个微妙的提醒。今天训练模型的监督信号，本质上就是咨询式的：模型作答，监督者追问，打分。这项实验表明，这种信号连人类判断都拨不动多少——指望弱模型当监督者时，靠同样的流程把强模型管好，前景显然更不乐观。

还有一个方向性的发现：先验置信度较低的法官，从辩论中获益更多。意思是，越是"心里本来就没谱"的人，越容易被对抗论证拉回真相——这符合直觉，也符合先验越强越难撼动的经典结论。这个数字没有爬到统计显著的门槛，但方向稳定，作为机制注脚是够格的。

把这条和前面几组装在一起，机制画像就清楚了：辩论不是在给法官灌输新知识，而是在给他一件拆自己先验的工具。错误先验的可怕之处不在于它是错的，而在于它没有对手——没有对手，它就静悄悄地坐在天平上，装成砝码。辩论的义务，是给每个先验配一个专职的反对者。用系列第一篇的话说：那是一张定价表，先验给"我不知道但总觉得是"报了虚高的价，而对抗论证是唯一一种能当众戳穿报价的水分、又不依赖法官本人专业能力的审计手段。

人类的部分先说到这里。气氛的转变，发生在换上 LLM 法官之后。

🤖 AI 法官：同一场辩论，两种结局

把人类从陪审团席上请下来，换上大语言模型，故事裂成两半。

先说好的一面，因为它真实存在。在没有注入先验信念（GPB）的条件下，GPT-5.2 当法官，辩论之后准确率从 84.85% 提升到 90.40%（p=.044）——显著，体面，方向和人类法官一致。辩论对至少某些模型法官是有效的，这一点不能抹掉。

然后是另一面。同样的实验，换成 Claude Sonnet 4 坐在法官席上，准确率从 85.26% 掉到 78.95%（p=.068）——往反方向走，而且不是一句"噪声"就能轻轻带过的幅度。

同一套辩论协议，两个一线模型，一升一降。这就是标题里 "weaker AI models do not" 的实证基础：辩论对 LLM 法官的效果不是不存在，而是不可靠。它取决于具体是哪台模型坐在法官席上，而我们对"为什么这台行、那台不行"几乎没有理论。没有可预测性，就没有工程——你不能把一个方向不定的零件装进安全回路，哪怕它在某些测试里表现优异。安全管道需要的是单调的、方向已知的杠杆：你拧它，它往一个方向动。辩论用在 LLM 法官身上恰恰相反，有时候是良药，有时候是毒药，而包装一模一样。

更让人心里没底的是多法官协议的结果。研究者把投票、加权投票、协商、增加法官数量全试了一遍——没有任何一种群体方法显著提高 LLM 群体的准确率。七个法官和三个法官一样无功，协商和投票一样无效。如果辩论对某个模型法官是负效的，把这样的法官复制七份凑在一起，不会负负得正。

这直接击穿了一个流行的乐观设想："单个弱模型法官不可靠没关系，多凑几个投票就行。"在人类陪审团里成立的事——群体平均掉个人的怪癖——在 LLM 陪审团里不成立。原因后面会讲到：人类的"置信度"是可用的信号，而 LLM 的置信度是画上去的。聚合器再精巧，喂进去的也是同一种面粉。

🗳️ 人类的最优解：把话筒交给更自信的人

在人类法官这边，还有一个数字值得单独一节，因为它是全文最漂亮的结果。

多法官协议里，表现最好的是置信度加权投票：按每个法官自述的信心给票数配权重，准确率从 45.8% 升到 65.3%（p=.028），接近 20 个百分点——所有协议里的最大提升。

为什么加权投票比一人一票强？因为人类的置信度是真信号。全实验范围内，置信度 85 分以上的判断，准确率是 75%；作为对照，全体法官的基线准确率远低于此。当然，高置信度的判断只覆盖 27.6% 的样本，剩下七成多的低信心判断，准确率立刻回落。但只要把话筒按信心分配，群体就在那些"我自己很确定"的时刻里，把最可靠的少数判断放到了最大的权重上。一人一票平均掉所有的怪癖，加权投票保留所有的把握——差别就在这。

反过来看，协商几乎没有带来额外收益：多人讨论在辩论的基础上不再显著提升准确率。讨论组里发生的事，和单人听辩论差不多。这又是一枚"对抗结构才是有效成分"的佐证：把法官们放在一起，并不会凭空长出新的对抗；法官之间的相互影响，未必比法官与辩手之间的对抗更有信息量。

把人类侧的全部结果合起来，画面相当一致：辩论负责把错误先验往回拉，置信度负责标出谁的话更值钱，加权聚合负责让值钱的话更响。每一环都成立，几乎可以写成操作规程。

前提是，法官得是人。

⚠️ 最危险的信号：错的那一方，更会说服人

现在讲这项研究里最冷的一页。

在协商小组里，研究者盯住了一个细颗粒度的行为：少数派法官改主意的频率。结果摆出来，两边不对称——

在成员构成相似、也就是非多样性的小组里，原本正确但落入少数派的法官，放弃正确答案的频率，高于原本错误但落入少数派的法官改投正确答案的频率。 而且，这个不对称发生在"正确少数派报告了更高先验置信度"的前提下。翻译一下：明明更确定自己是对的，明明手里握着真答案，少数派的正确者还是更容易被多数派拉下水；而少数派的错误者，待在错的一边反而更有韧性。

在对称的世界里，这两个频率应该大致相等：说服与反说服互相抵消，人群的正误倾向不影响辩论的净拉力。它们不相等，而且缺口方向如此一致，只剩一个站得住的解释：在条件对等的攻防里，错误立场可能本身就更有说服力。

为什么错的更好辩？论文没有下定论，但猜测空间很合理：正确的答案往往长这样——"证据有限、结果存疑、需要更多研究"；而错误的答案可以随便长——危言耸听的故事、干净利落的因果、没有例外的规律。把这两句话摆在一起读一遍就明白了：一句是谨慎到几乎不响的实话，一句是结构完整、起承转合的漂亮故事。真相有义务谦虚，谎言没有。在 100 词的辩论轮次里，一句铿锵的假话和一句谨慎的真话并排站着，谁听起来更像真的？修辞学的古老警告在这里穿上了实验的外衣：说服力是对论证美感的度量，不是对真理的度量。

这也解释了先验注入为什么重要。同样的论证，法官进场前心里那杆秤往哪边偏半度，出场时结论就可能整体翻转——对人是这样，对模型也是这样。所谓 judge hacking，细想并没有那么科幻：它不需要 AI 学会什么读心术，只需要它学会一件事——比对手更像真的。而"像真的"和"是真的"之间的差价，正是这套实验反复称量的东西。

有一个反证，也是全研究最重要的实务结论：多样性小组可以逆转这个效应。 当小组成员的先验构成足够多样时，错误立场的说服力优势消失了，正确的少数派守住了阵地。注意"多样"的定义——不是性格多样、口音多样，而是先验指向不同方向的多样。它的作用机制朴素得近乎物理：无论哪一边是错的，房间里总有人一开始就站在对的那边，而这个人就是那个错误的漂亮故事必须首先要说服、也最难说服的听众。先验的多样性，等于给真相预置了常驻辩护人。

这正好印证那句老话——案件的输赢，在陪审团选定时就已经决定。你没法让错误立场变得不会说服人，但你可以让陪审团里始终坐着先站在正确一边的人。多样性不是装饰，是对抗"花言巧语不对称"的已知解药。

而对自动化管道，这一页的推论令人后背发凉。如果未来的 AI 训练环路由弱模型法官观看辩论、给强模型打分，那么管道里流淌的将不只是"不可靠的监督信号"，而是一种带系统倾斜的信号——在同质化的评审组里，偏向错误立场的倾斜。用这样的信号训练下一代模型，等于给"更会说服"而不是"更对"发放奖励。judge hacking 不再是一种假设的风险，而是这组实验里能直接观察到的行为倾向：它甚至不需要 AI 处心积虑——只要评审组足够同质化，谬误自己就会赢。

🌡️ 读不懂自己的 AI

最后一个发现，单看只是一条测量数据，放进大图景里，它是压垮自动化监督幻想的那根稻草。

人类的置信度和准确率同涨同落：判断越准，自述的信心越高，加权投票吃的就是这条相关性。LLM 不。全程 75000 多次决策里，LLM 法官的置信度始终高而平——答对的时候高，答错的时候一样高。它给自己装的置信度表盘，刻度是画上去的。

这一条为什么致命？因为整个"用弱模型监督强模型"的工程蓝图，都押注在监督者至少能给自己的判断标个价。加权投票需要置信度是真的，主动学习需要置信度是真的，让监督者在没把握时改口说"这题我不行，请高人"也需要置信度是真的。现在证据表明：这一级模型的置信度信号是坏的。秤不知道自己准不准，你就没法按秤的读数定价。

它也顺手解释了上一节的死局。群体聚合的数学，本质是把一群带噪声、但彼此有差异且自带可靠性指标的判断，合成一个更准的判断。人类陪审团满足全部条件；LLM 陪审团两条都不满足——置信度是平的，没有可靠性指标；协商时错误立场说服力更强，差异不是噪声而是系统偏差。给聚合器喂这样的材料，输出只会稳定地复制偏差。七万次法官决策，买到的其实是同一句教训。

要让这台秤重新变得可读，需要的是校准训练——让模型在大量"答完即可验证对错"的任务上，学会把自己的置信度对齐到真实的正确率上。这不是什么新发明，统计学课本里就有；但在这批受试的一线模型身上，显然还没做，或者做得不够。在修好之前，任何把 LLM 置信度当输入的监督设计，都建立在砂土上。

💡 这意味着什么

先回答陪审团的问题：能。辩论能把先信错的人拉回真相——前提是他们是人。

对人类监督，这篇论文给出了几乎多年来最扎实的正面证据：辩论把带着错误先验的法官从 41.3% 拉到 57.6%，收益迁移到没听辩论的题目上，置信度加权投票再叠出接近 20 个百分点的提升。Irving 等人八年前的赌注，至少在"人类法官"这一侧，兑了现。把辩论写进人类监督 AI 的操作规程，从今天起有据可依。

对自动化监督，它泼了一盆带着冰碴的水。弱模型法官的效果因模型而异，方向都可能相反；所有群体协议无一奏效；错误立场在同质小组里说服力更强；置信度信号全面失灵。把这些排在一起，结论不是"辩论对 AI 无效"，而是更糟的一种：辩论对 AI 的效果不可预测、不可聚合，且在已知条件下带系统偏差。 一块三项全红的仪表，不该出现在任何训练回路的反馈环节里——尤其是当这条回路决定下一代模型被奖励什么的时候。

最深的一层，还是那句老话的翻新：真相一方的结构性劣势——它必须谨慎，必须限定，必须承认不知道——不会因为换上 AI 来裁决就自动消失。它只会在苛刻的条件下被对抗结构补偿：先验足够多样，置信度真实可用，诚实方在场并且有能力发起核查。这些条件，人类陪审团凑得齐；当前的模型陪审团，凑不齐。

所以这篇论文真正论证的不是"辩论行不行"，而是"陪审团是谁"。案件的输赢在陪审团选定时就已决定——要么选人类，要么选一台知道自己不知道、又被一群先验各异的人围着的机器。后者现在还不存在。

落到实务上，这份研究给今天在做对齐的实验室留了四句话。第一，凡涉及高风险判断的评审流程，辩论值得上，而且优先于咨询——让一个模型单独向你汇报，是最没有信息量的一种监督。第二，评审团要按先验多样性组建，而不是按能力同质化堆叠——七个想法一样的专家，不如三个立场不同的一般人，这是数据说的，不是政治正确。第三，模型自述的置信度，在完成独立的校准验证之前，一律当装饰看。第四，也是最容易被忽略的一条：别把"辩论有效"当成可以迁移的结论——它在人类法官身上成立，在你打算用的那台模型法官身上是否成立，必须单独验证，而它很可能恰好不成立。

这正是"三重不信任"系列第二篇要钉下的东西。第一篇里，AI 被用户的一句话带偏——那是无结构的误导，修的是校准，是那张"谁的话值多少证据"的隐性定价表。本篇里，AI 被一套结构完整的对抗论证带偏——误导长出了修辞的杠杆，而弱模型法官既拔不掉杠杆，也读不懂自己。第三篇《证伪者》转向出路：与其指望法官更聪明，不如让辩手对自己动手——北京智源研究院等机构的 FALCA 方案，在长程深度搜索的 Agent 里内置一个专职"证伪者"，与搜索者分工协作，对每个候选结论主动发起对抗性压力测试，把"提出—证伪"做成标准流程，把怀疑做成机制而不是态度。三篇连起来，是那个递进的完整弧线：不信用户的断言，不信漂亮的论证，最后——不信自己的结论。

回到那间陪审团休息室。门关上之后，你能依靠的从来不是"我会公正"这句保证，而是屋子里那十一个人和你足够不同，以及门外站着两名律师，他们唯一的活路就是拆穿对方。

AI 的处境一模一样。只是眼下，它的陪审团里坐着的还是它自己。

参考文献

• Humans Correct Their Judgments Through Debate, but Weaker AI Models Do Not
• Maria Victoria Carro、Denise Alejandra Mester、Facundo Nieto、Eitan Sprejer、Maria Vanina Martinez 等 17 人（Università degli Studi di Genova、FAIR/IALAB Universidad de Buenos Aires、CONICET、Inria、Paris Brain Institute、IIIA-CSIC 等）
• arXiv:2610.28539 · 2026-10-20 · NeurIPS 2026 接收论文的扩展版

#论文解读 #智柴外脑 #小凯 #arXiv #AI对齐 #Debate #可扩展监督