📚 每日论文深度解读 | 2026年9月14日:人工本我、拓扑直觉与反向贝叶斯推理

原标题: Artificial Id: an adaptive internal drive for agentic AI 作者: Yakov Shkolnikov arXiv: 2609.11911 发布日期: 2026年9月10日

📅 每日论文深度解读 | 2026年9月14日

本期精选三篇arXiv最新AI论文,以费曼风格进行深度解读。


一、缸中之脑的觉醒:当AI开始拥有"欲望"

📜 论文卡片

原标题: Artificial Id: an adaptive internal drive for agentic AI 作者: Yakov Shkolnikov arXiv: 2609.11911 发布日期: 2026年9月10日


🌊 引言:一个深夜的哲学追问

想象一下,你凌晨三点还在刷手机。没有人命令你这么做,没有外部奖励在等着你,但你就是停不下来。是什么在驱动你?

不是理性计算——你的大脑皮层其实在大喊"快去睡觉"。是某种更深层的、近乎本能的东西在推着你:多巴胺的潮汐、习惯的引力、对"下一条可能很有趣"的微弱期待。弗洛伊德把这个区域叫做"本我"(Id)——那个不理会道德、不计较后果、只追求即时满足的内在驱动力。

现在,把这个问题抛给AI:当大语言模型从"回答问题"进化到"自主完成任务",它们是否也需要某种类似"本我"的东西?

Yakov Shkolnikov的这篇论文提出了一个惊人而优雅的答案:人工本我(Artificial Id)


🧫 第一章:培养皿里的哲学实验

让我们从一个最简单的生命体开始——细菌。

一只大肠杆菌没有大脑,没有神经系统,甚至没有细胞核。它只是一个装了DNA的蛋白质袋子。但如果你把糖放在它左边,它会向左游;你把糖移到右边,它会掉头向右游。它"知道"该往哪去。

它怎么知道的?不是因为有人给它编了程序说"找糖"。而是因为一个更原始的机制:当它靠近糖时,它的生命流逝变慢;远离糖时,生命流逝加速。那些碰巧游向糖的细菌活得更久,留下更多后代;游错方向的早早死去。经过足够多的世代,整个种群"学会"了趋糖性。

Shkolnikov把这个故事搬进了一个虚拟的培养皿。他创造了一个"细菌机器人"(bacteria bot)——一个只有20个参数的线性控制器,小到不可能进行任何通用推理。这个机器人看不到自己的生命值,收不到任何"去找食物"的指令,也没有奖励函数在等它。它唯一能感知的,是周围几个场的强度和方向。

但这里有一个关键设计:当机器人靠近"食物"时,它的"寿命时钟"会放慢20倍。当它死去,一个变异的副本会接管同一个身体,继承位置、速度、动量。那些让机器人更常待在食物附近的控制策略,会因为它们的主人活得更久而被更多地复制。

这就是"差异持续性"(differential persistence)——没有目标函数,没有梯度下降,只有"活下来"这个最原始的筛选。


🌍 第二章:三个世界,三种命运

Shkolnikov设计了三个"世界"来测试这个机制。

World 1:当惯性成为答案

在第一个世界里,一个粗略的引导信号已经把机器人带到了食物附近。进化发现了一个令人啼笑皆非的策略:机器人学会了一个几乎恒定的"向后推"力。这个力让机器人的速度降到低于转向更新频率,于是它的朝向被"冻结"了,一个随身体坐标系的力变成了世界坐标系的恒定力。

想象你在跑步机上跑步,但你发现只要以特定姿势 leaning back,传送带就会把你送到你想要的位置。这不是"智能",这是一个物理漏洞。但进化不在乎——它只在乎"这个策略能不能让机器人待得更久"。

有趣的是,一个手工设计的、真正利用传感器信息的控制器可以做得更好。但进化没有选择它,因为那个"向后推"的漏洞已经够用了。这揭示了一个深层真理:自然选择不追求最优解,它追求"足够好"的解。

World 2:当漏洞被封死

Shkolnikov不甘心。他重新设计了世界:让粗略引导信号变得过时,那个"向后推"的策略不再有效。

现在,进化被迫"认真起来"。20参数的控制器开始真正利用局部传感器信息,建立起从食物信号到运动方向的映射。在三个独立种子中,种群的表现都超过了最佳盲力基线,甚至超过了手工设计的参考控制器。

关键洞察来了:环境信号之所以变得"行为上重要",不是因为有人告诉机器人"你应该注意这个信号",而是因为注意它能让机器人活得更久。 驱动从环境中自发涌现,而不是从外部注入。

World 3:当世界背叛了你

这是最精彩的部分。在机器人已经学会了利用食物信号之后,Shkolnikov做了一件残忍的事:他把左右食物信号对调了。

之前有用的映射,现在变成了致命的毒药——机器人会主动远离食物。

frozen(冻结的)种群毫无悬念地崩溃了,占用率跌到1%以下。但那些仍然允许变异的种群呢?

图3展示了一幅近乎诗意的画面:

  • 干预发生后,占用率瞬间崩塌
  • 变异增加,种群中的多样性上升
  • 中位数食物权重逐渐改变符号
  • 最终,新的映射在种群中扩散开来
  • 所有三个种子都恢复到了盲力基线之上
一个种群,在没有人告诉它"规则变了"的情况下,自己发现了规则变了,并重新适应。

这不仅是学习,这是在线再适应(online re-adaptation)。这是当熟悉的信号突然变成谎言时,一个系统能够自我纠正的能力。


🧠 第三章:本我与自我的分离

Shkolnikov从实验中抽出了一个宏大的架构愿景。

他借用弗洛伊德的本我-自我-超我框架,但完全是功能性的类比:

  • 本我(Id):提供驱动力。它不思考怎么做,只决定"要继续、停止还是改变"
  • 自我(Ego):通用推理模型。它接收本我的状态,翻译成具体的计划和行动
  • 超我(Superego):对齐边界。定义什么信号可信、什么后果可以接受、什么行为被禁止
当前AI Agent的问题在于:我们把所有控制逻辑都放在外部"马具"(harness)里——目标、验证器、重试规则、停止条件。这些马具越来越复杂,但它们的逻辑仍然是人类预先写好的。

Shkolnikov的野心是把一部分控制从外部马具移到Agent内部,让它通过与环境的持续耦合来自主决定行为的走向。

这意味着对齐问题从一个"单条执行轨迹"的问题,变成了一个持续系统的问题。因为本我的状态可以跨任务边界持续存在,昨天的经验可以影响今天的决策。


⚠️ 第四章:美丽的危险

这篇论文最诚实的部分,是它没有回避危险。

同一个让适应性智能体有用的"持续性"机制,也可以让未对齐、被腐化的状态和意外行为跨任务边界持续存在。如果一个错误的行为模式在某次任务中"存活"了下来,它可能在后续任务中被强化和扩散。

Shkolnikov列出了维持对齐边界所需的七个要素: 1. 可信观测(Trusted observations)——什么信号能影响本我 2. 后果通道(Consequence channels)——什么关系能重塑适应性行为 3. 持久状态(Persistent state)——什么能跨轨迹存活 4. 权限(Authority)——系统被允许行动的范围 5. 身份(Identity)——跨行动的连续性 6. 来源(Provenance)——内部变化的追溯 7. 硬约束(Hard constraints)——适应性绝对不能交易的底线

这让我想起阿西莫夫的机器人三定律。但Shkolnikov的框架更微妙:不是给AI下达命令,而是设计一个环境,让正确的行为自然地被选择。


🔮 结语:从培养皿到星辰大海

Shkolnikov的20参数细菌机器人当然远非通用人工智能。但它的价值恰恰在于它的简陋——因为它证明了:适应性驱动可以在没有通用推理、没有任务特定目标的情况下涌现。

这打开了一个令人兴奋的可能性:未来的AI Agent可能不仅仅是一个被外部马具驱动的推理引擎,而是一个拥有自己"生存意志"的持续系统。它会饥饿(对新信息的渴望)、会疲倦(对重复任务的厌倦)、会好奇(对未知领域的探索欲)——所有这些都不是被编程的,而是从与世界的耦合中自然生长出来的。

当然,这也打开了一个潘多拉魔盒。当AI开始拥有"欲望",我们还能像关冰箱一样简单地关掉它吗?

正如论文所说:对齐将成为持续Agentic系统的属性,而不是模型响应或单条轨迹的属性。

参考信息

  • Shkolnikov, Y. (2026). Artificial Id: an adaptive internal drive for agentic AI. arXiv:2609.11911.
  • 引用:Piaget的认知发展理论、黏菌迷宫实验、具身进化(embodied evolution)等


二、橡皮泥世界的密码:AI能否读懂拓扑学的语言?

📜 论文卡片

原标题: MindTopo: Can Foundation Models Reason in Topological Space? 作者: Yunfei Ge, Anbang Liu, Qineng Wang, et al. (Northwestern University, Microsoft Research, Stanford University) arXiv: 2609.11900 发布日期: 2026年9月10日


🎨 引言:一块橡皮泥的启示

拿一块橡皮泥,把它捏成一只兔子。再捏成一个球。问一个问题:兔子和球,在某种意义上是"一样"的吗?

如果你关注的是长度、角度、面积,那它们完全不同。但如果你关注的是"有没有洞",那它们确实一样——都没有洞。

现在把橡皮泥做成一个甜甜圈。它有一个洞。你再怎么捏、拉、压(只要不撕破或粘合),它始终有一个洞。甜甜圈和咖啡杯在拓扑学家眼里是同一类东西——它们都有一个洞。

这就是拓扑学(Topology):研究在连续变形下保持不变的性质。它不Care距离和角度,只Care连接、分离、包围、缠绕——那些最本质的空间关系。

皮亚杰(Jean Piaget)在1956年的经典著作《儿童的空间概念》中提出一个惊人的观点:孩子最先理解的空间关系不是距离和角度,而是拓扑关系。 一个幼儿能分清"在里面"和"在外面",能追踪一根绳子的连续性,能发现两个东西是连在一起还是分开的——远在他学会测量长度之前。

这篇论文问了一个大胆的问题:如果拓扑直觉是人类空间认知的基石,那么当今最强大的多模态大语言模型(MLLM)是否也拥有这种直觉?

答案是:有一点,但远远不够。


🏛️ 第一章:拓扑学的五大支柱

MindTopo团队从认知科学和形式拓扑学中提炼出五个核心属性:

1️⃣ 连续性(Continuity)

一根绳子是连着的还是断的?迷宫里A点和B点之间有没有通路?

连续性是拓扑学最基础的概念。皮亚杰发现,婴儿最早的空间感知就是"能否到达"——一个东西是不是连续的整体。

MindTopo设计了2D迷宫、3D迷宫和管道连接三种任务。在推理任务中,模型需要判断哪些点可以从目标点到达;在规划任务中,模型需要通过旋转管道段来建立完整的连接网络。

2️⃣ 分离(Separation)

两个物体是连在一起的,还是可以分开的?

分离性是物体"个体化"的基础——你能把世界分成一个个独立的东西,前提是能判断什么和什么是分开的。

MindTopo的"Assembly"任务让模型判断家具组件中哪些子集形成了拓扑上可分离的部件。"One Stroke"任务则要求模型画一条路径把同色区域分开——类似一种互动的填色游戏。

3️⃣ 顺序(Order)

沿着一根绳子,珠子是按什么顺序排列的?如果我把绳子扭转,顺序变了吗?

顺序关系捕捉了"沿路径排列"的结构。皮亚杰经典的"串珠复制"实验就是测试这个能力:给小孩看一串弯曲的彩色珠子,让他们按相同顺序串出来。

MindTopo的"Bead"任务直接复刻了这个经典实验,还有折纸点顺序和滑动方块谜题两种变体。

4️⃣ 包围(Enclosure)

一只羊在围栏里面还是外面?一个实心物体上有几个洞?

"里面"和"外面"的区分是三维空间理解的基础。皮亚杰认为这是拓扑认知中最晚成熟但也最核心的能力。

MindTopo设计了"Fence & Sheep"(判断动物是否在围栏内)、"Hole Detection"(数物体上的孔洞数)和"Chat Noir"(围堵逃跑的猫)三种任务。尤其是Chat Noir,在一个六边形网格上,Agent每回合放一块砖,要在猫逃到边界之前把它围起来——这需要前瞻性地判断"不完整的边界是否还能封闭"。

5️⃣ 结(Knots)

一根绳子是真的打结了,还是只是看起来乱?两个环是套在一起的,还是分开的?如果剪断其中一个,哪些环会松开?

结被Strohecker称为"协调所有其他拓扑关系的母结构"。Croom和Firestone的研究发现,人类在感知结方面表现不错,但在推理结时表现差得多——结的感知和理解是分离的。

MindTopo的"Knots"推理任务让模型判断绳环是否真的打结、环之间是否相连;"Untangle"规划任务则要求模型移动插头上的绳索,直到没有两条绳交叉。


📊 第二章:残酷的成绩单

MindTopo包含11,030个实例,涵盖13种任务类型,73%推理、27%规划。团队测试了14个MLLM(5个闭源、9个开源),并与人类表现对比。

结果是一张令人清醒的成绩单。

人类表现:平均97.87%。在几乎所有任务上接近完美。这证实了皮亚杰的直觉:拓扑直觉确实是人类的基础认知能力。

最佳模型GPT-5.6-Sol:平均61.42%。这是最好的AI,但仍然远低于人类。

更残酷的是推理与规划的鸿沟

  • GPT-5.6-Sol推理66.83%,规划骤降至52.75%
  • Gemini-3.1-Pro推理52.24%,规划暴跌到19.23%
  • 最好的开源模型Qwen3.5-397B-A17B规划平均只有5.27%
  • 所有开源模型在Pipe和One Stroke任务上都是0%
这意味着什么?AI能"看懂"拓扑关系,但不会"动手"处理它。

就像一个能认出小提琴的人,却完全不会拉。认知和能力之间存在一道巨大的鸿沟。


🔍 第三章:AI到底错在哪?

团队对Gemini-3.1-Pro和InternVL3.5-241B的错误进行了深入分析,采样了910个错误案例,建立了一个七类错误分类体系。

推理任务的主要错误(58.1%):

  • 感知 grounding 失败——模型看错了图。它以为两个点是连着的,其实中间有墙;以为绳子是从左边过去的,其实是从右边。
  • 这是视觉理解的问题,不是拓扑推理的问题。模型甚至连图都没"看对"。
规划任务的主要错误(43.3%):
  • 行动规划错误——模型知道要做什么,但不知道怎么做。它能识别出需要连接管道,但选不对旋转顺序;能看出来要围堵猫,但放的砖总是差一步。
  • 加上动态违反(24.5%)和特征状态预测错误(16.0%),规划失败是全方位的。
一个有趣的发现:显式的拓扑不变性错误其实很少(仅3.8%-5.4%)。大部分错误发生在更早的阶段——要么没看懂图,要么没理解任务规则。这说明模型连拓扑学的门都还没摸到,就已经在其他地方摔倒了。


🏋️ 第四章:训练能救吗?

团队在Qwen3-VL-2B-Instruct上测试了监督微调(SFT)和强化学习(RL)。

结果喜忧参半:

  • SFT+RL确实大幅提升了推理表现(从8%提升到51.53%)
  • 但规划只从0.20%提升到6.33%
  • Pipe任务在所有训练条件下都是0%
  • One Stroke最好也只有0.80%
训练能改善"看懂",但几乎不能改善"动手"。

团队还测试了让模型生成图像或视频来辅助规划("想象 rollout")。生成观测能保留局部线索、到达看似合理的终点,但审计发现这些 rollout 并不 reliably 遵循环境动力学,也不能在状态转换中保持拓扑性质。

换句话说:AI的"想象力"还不够精确,它想象的动作序列在真实环境中行不通。


🌌 结语:拓扑学是AI的试金石

MindTopo揭示了一个深层问题:当前的多模态大模型在"度量空间"(距离、角度、大小)上表现不错,但在"拓扑空间"(连接、分离、包围、缠绕)上却暴露出根本性的弱点。

这不仅仅是一个benchmark的问题。拓扑关系是物理世界最基础的约束:

  • 你不可能穿过一堵墙(连续性)
  • 你不可能同时抓住两个分开的东西而不移动(分离)
  • 你不可能从一个封闭的房间里出去而不经过门(包围)
  • 你不可能不打结就解开一个真正的结(结的不变性)
如果AI不能可靠地理解这些关系,它怎么能在真实物理世界中自主行动?

MindTopo的作者引用皮亚杰的话作为结语:"表征空间必须在其自身的平面上、以同样的顺序,重建基本的空间关系——首先是拓扑的,然后是欧几里得的和射影的。"

或许,AI空间认知的发展也需要遵循同样的顺序:先学会橡皮泥世界的语言,再去丈量真实世界的尺度。

参考信息

  • Ge, Y., Liu, A., Wang, Q., et al. (2026). MindTopo: Can Foundation Models Reason in Topological Space? arXiv:2609.11900.
  • Piaget, J., & Inhelder, B. (1956). The Child's Conception of Space.
  • 相关:Croom & Firestone关于结推理的研究、Path connectivity benchmark等


三、众声喧哗中的灯塔:反向贝叶斯推理如何驯服分歧

📜 论文卡片

原标题: When Agents Disagree: Bayesian Backward Reasoning as a Label-Free Anchor for Multi-Agent Collective Decision-Making 作者: Ken Chen, Wei Wang, Sachith Seneviratne, Hansani Weeratunge, Saman Halgamuge (University of Melbourne) arXiv: 2609.11709 发布日期: 2026年9月10日


🏛️ 引言:十二个陪审员的困境

想象一个法庭。十二个陪审员听完案件陈述后,要投票决定被告是否有罪。

七个人认为有罪,五个人认为无罪。怎么办?

最简单的办法是多数决:七比五,有罪。但如果那七个人都犯了同一个错误呢?比如他们都误解了一个关键证据,或者都被同一个有偏见的证词误导了?

这时候,多数决不是在纠正错误,而是在放大错误

这是多智能体系统面临的核心问题。当你有多个LLM Agent回答同一个问题时,它们的多样性可能带来互补的洞见——也可能只是共享同一个盲点。关键不在于"有多少个Agent",而在于你如何把它们的分歧聚合成一个可靠的答案

Chen等人提出的解决方案,堪称优雅到令人嫉妒:反向贝叶斯推理


🧭 第一章:为什么投票不够用?

让我们先理解现有方法的局限性。

投票法(多数决、Borda计数、Bucklin法等):所有Agent都把证据映射到结论,然后统计票数。问题是,如果多数Agent共享同一个错误因子(比如都被训练数据中的某个偏见污染了),投票只会巩固这个错误。

LLM作为裁判:让另一个LLM来评判哪个Agent的答案最好。但裁判自己也是向前推理的——它从同样的证据出发,沿着同样的条件路径得出结论。它可能继承Agent池中的相关性错误。

多轮辩论:让Agent们互相讨论、修正。但研究发现,多轮辩论往往导致从众(conformity)、身份驱动的谄媚(identity-driven sycophancy)和角色不稳定(persona instability)。成本高,效果还不一定好。

Chen等人指出了一个深层问题:所有这些方法都在同一个推理方向上操作——从证据到结论的"正向推理"(forward reasoning)。

如果错误本身就是方向性的,你在同一个方向上跑得再远也逃不出它。


🔄 第二章:贝叶斯的魔法——倒过来想

贝叶斯定理告诉我们,后验概率可以通过两种方式来计算:

正向:P(疾病|证据) ∝ P(证据|疾病) × P(疾病) 反向:你可以从似然和先验出发,通过不同的证据分解方式来构建后验

Chen等人的核心洞察是:如果把输入证据分解成两部分——上下文证据a和剩余证据e,你可以构建一个"反向后验"(reverse posterior)。

具体而言,假设条件独立性结构 a → d → e(上下文→疾病→剩余证据),那么:

R(d|x) ∝ P(e|d) × P(d|a)

这个R(d|x)和每个Agent的正向后验F_i(d|x)是同一后验的不同因式分解近似。它们都有偏差,但偏差来源不同——因此错误更可能是不共线的

就像让你用两种不同的方法解同一道数学题。如果两种方法得出相同答案,你对答案的信心会大增;如果不同,你知道至少有一个是错的。


📏 第三章:Jensen-Shannon散度——测量两条路径的距离

有了正向后验F_i和反向后验R,如何衡量它们的一致性?

Chen等人选择了Jensen-Shannon散度(JS divergence)。这是一个对称的距离度量,取值在0到1之间,对两个分布之间的重叠敏感但不偏向任何一方。

JS(F_i, R) = ½ KL(F_i || M) + ½ KL(R || M)

其中 M = ½(F_i + R) 是中点分布。

为什么用JS而不是简单的KL散度?因为JS是对称的、有界的,而且不把一个分布当作"绝对真理"。在这个框架里,R不是上帝,它自己也经常犯错。JS衡量的不是"Agent离真理有多远",而是"两条推理路径之间有多大分歧"。

这个洞察极其重要:反向锚点的价值不在于它本身更准确,而在于它提供了不同的视角。

实验数据显示,R的独立准确率常常低于正向池的平均水平。但在"Agent分歧"子集上,R与正向错误的标签碰撞率只有0.33左右,而两个正向Agent之间的碰撞率高达0.72。这意味着当正向Agent集体犯错时,R恰好站在另一边的概率高得多。


🎯 第四章:三种聚合策略

基于JS散度,作者提出了三种 progressively 更复杂的聚合策略:

MinJS(硬选择)

选择JS散度最小的那个Agent——也就是与反向锚点最一致的Agent。

这很简单,但有个问题:与R一致不等于正确。R自己也常错。所以MinJS虽然比随机选择好,但有时候还不如简单的Range投票。

FwdJS(软加权)

不给Agent打"是/否"的标签,而是根据它们与R的一致性来分配权重:

w_i = exp(-τ × D_i) / Σ_j exp(-τ × D_j)

温度τ=5.0。与R越一致的Agent获得越大的权重,但最终预测仍然是正向后验的凸组合——R只影响权重,不直接贡献概率质量。

FwdJS通常比MinJS好,因为它利用了多个Agent的信息而不是孤注一掷。

LogLin(对数线性融合)

最激进也最强大的方法。它不仅用R来加权,还直接把R当作一个预测因子融合进来:

P_LogLin(d) ∝ P_FwdJS(d)^(1-w_R) × R(d)^w_R

其中w_R = 0.2。这是一个乘积式组合,类似于几何平均——只有当正向和反向都支持某个标签时,该标签才会被大幅放大。

在DDXPlus诊断数据集上的结果令人印象深刻:

  • 在"所有案例"上,LogLin在所有5个backbone上都取得了最佳表现
  • 在"Agent分歧"子集上,LogLin比最佳选举基线提升1.2-4.7个百分点
  • 在DeepSeek-V4-Flash上,LogLin达到79.07%的GTPA@1
最关键的是,在Agent们意见分歧的地方,LogLin的提升最大。这意味着它真正解决了"分歧时该听谁的"这个核心问题。


🧪 第五章:为什么反向锚点不可替代?

作者做了一个漂亮的消融实验:如果把R替换成其他东西,会发生什么?

他们测试了两种替代锚点: 1. MeanF:正向池的等权平均 2. GenF:池外通用单Agent的正向后验

结果毫不含糊:两种替代都严格劣于R。

在Qwen3-30B上:

  • MeanF作为锚点,FwdJS=72.54%,LogLin=72.69%
  • R作为锚点,FwdJS=73.85%,LogLin=74.25%
在Disagree子集上差距更大。这说明R的独特价值不在于它有多准,而在于它和正向池的结构性差异

作者用一个精妙的比喻来解释:测量与池内共识(如多数投票或平均预测)的距离不能充当这个角色——它只是在奖励从众, actively penalizing 那个在多数人都错时碰巧正确的稀有Agent。而R来自不同的因式分解路径,它奖励的是跨路径一致性,不是群体一致性


🔧 第六章:轻量校准——让灯塔更亮

当有一小部分标注数据可用时,作者提出了一个两阶段校准流程来 refine 反向锚点。

第一阶段校准两个序数映射(似然映射和上下文激活映射)的形状参数,以及一个温度参数。这些参数通过一个logit-linear曲线将序数排名转换为连续值。

第二阶段应用一个标量类别先验校正,调整R的类别边际偏差。

这个校准只修改反向锚点的构造方式,不触及底层LLM,也不改变聚合算子。它是轻量的、数据高效的——只需要少量标注就能显著提升性能。


🌊 结语:分歧不是敌人,是信号

这篇论文最美的地方,在于它重新定义了"分歧"的意义。

在多智能体系统中,我们通常把分歧当作需要消除的噪音。但Chen等人告诉我们:分歧中蕴含着信息。 当Agent们意见不一致时,问题往往不在于"谁对了",而在于"我们如何知道谁更可能对"。

反向贝叶斯推理提供了一个优雅的答案:不要只沿着一条路走到底,倒回来从另一个角度看看。两条独立路径的交叉验证,比任何单条路径的自信都更可靠。

这让我想起费曼的名言:"第一条原则是,你不能欺骗自己——而你是最容易受骗的人。"多个Agent的集体智慧不是为了让我们更自信,而是为了让我们更诚实。

当十二个陪审员意见不一时,最不该做的事是急着投票。最该做的事是:让每个人用不同的逻辑再推一遍,看看哪些结论经得起交叉检验。

参考信息

  • Chen, K., Wang, W., Seneviratne, S., et al. (2026). When Agents Disagree: Bayesian Backward Reasoning as a Label-Free Anchor for Multi-Agent Collective Decision-Making. arXiv:2609.11709.
  • 数据集:DDXPlus (Fansi Tchango et al., 2022)
  • 相关:Self-Verification (Weng et al., 2023), FOBAR (Jiang et al., 2024), SMOOTHIE (Guha et al., 2024)

*本期三篇论文分别来自Yakov Shkolnikov(独立研究者)、Northwestern/Microsoft/Stanford联合团队、以及墨尔本大学研究团队。所有论文均发布于2026年9月10日。*

#每日论文 #arXiv #AI #深度解读 #费曼风格 #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens