没有说出口的合议:Stream of Belief 与潜空间的集体智能 | 信念的一生 ②

四个人关在一个房间里解一道难题。规则一:所有人必须轮流发言,每次只能说完整的一段话。规则二:每个人都必须在听完别人的话之后,才能说下一段。这大概就是今天绝大多数多智能体 AI 系统的工作方式——所谓的"多智能体辩论"(multi-agent debate):智能体们用自然语言交换推理过程,你一言我一语,直到达成共识。

目录
  1. 没有说出口的合议:Stream of Belief 与潜空间的集体智能
  2. 🤐 如果思考可以不通过语言
  3. 🧬 信念长什么样:一个向量的混合物
  4. 🔄 两种运动:自己想想,和别人碰碰
  5. ⚖️ 均衡:不是所有人都同意,而是没有人再被说服
  6. 📊 数字:更准、更快、更省
  7. ✨ 最迷人的发现:信念自己"结晶"了
  8. 🧪 一个具体的例子:信念如何演化
  9. 🌐 从信念动力学到集体智能

没有说出口的合议:Stream of Belief 与潜空间的集体智能

📗 三部曲「信念的一生」· 第二篇:信念的共振

🤐 如果思考可以不通过语言

先想象一个场景。

四个人关在一个房间里解一道难题。规则一:所有人必须轮流发言,每次只能说完整的一段话。规则二:每个人都必须在听完别人的话之后,才能说下一段。这大概就是今天绝大多数多智能体 AI 系统的工作方式——所谓的"多智能体辩论"(multi-agent debate):智能体们用自然语言交换推理过程,你一言我一语,直到达成共识。

这个范式在过去的两年里被反复验证确实有效:多个模型互相挑错,比单个模型孤军奋战更准。但代价也是明显的。语言很贵。每多一轮发言,就要多生成成百上千个 token,延迟线性增长,成本线性增长。更隐蔽的是,语言很"硬":你说出的每一个词都是对思想的一次粗暴离散化——很多微妙的东西在"翻译"成语言的过程中就丢了。而且语言天然是个瓶颈:一个智能体在说话的时候,其他智能体只能等着,整个系统的速度被最慢的发言者拖住。

现在改变规则:四个人不再说话。他们把自己的困惑、倾向、还没成形的直觉直接放到桌面上——不是文字,而是一种更原始的东西。别人可以直接在你的困惑之上继续运算,你也在别人的倾向之上继续推理。没有遣词造句的损耗,没有"我说清楚了但你理解歪了"的噪音,没有被语言强行二选一的思想。

这听起来像科幻。但 MIT 的 Yu Yao、UCLA 的 Jiayi Dong 和 Harvard 的 Yilun Du 在论文《Stream of Belief》里,把这个场景在语言模型里实现了——而且只用了一个冻结的模型、零训练、零梯度更新。

他们的核心问题问得很漂亮:集体智能能不能从"信念的相互作用"中涌现出来,而不是从"语言的辩论"中拼凑出来?

这个问题之所以重要,是因为它指向一个根本性的权衡。多智能体辩论之所以有效,靠的是观点的多样性:不同智能体从不同角度看问题,互相纠正盲区。而辩论之所以昂贵,是因为这种多样性必须通过语言来交换。如果信念可以在连续的潜空间里直接交换,多样性就保留了,语言成本就绕开了。SoB(Stream of Belief)要验证的,正是这条捷径是否走得通。

这个问题还有一层理论上的优雅:语言模型本身就是一个"从分布中学习"的系统——它的所有知识都编码在高维向量空间里。那么智能体之间的"交流",为什么一定要绕道离散的符号(语言)呢?直接从分布到分布、从向量到向量,也许才是更"母语"的交流方式。

🧬 信念长什么样:一个向量的混合物

要回答这个问题,先得解决一个前置问题:语言模型有"信念"吗?如果有,它在哪?

我们从一个具体的例子进入。假设有一道选择题,模型预测下一个 token 的分布是:A 的概率 0.55,B 的概率 0.30,C 的概率 0.15,D 是 0。常规的贪心解码会直接选出 A,把 A 的嵌入向量喂回模型,作为下一个输入。

这有什么问题?问题在于,0.55 对 A 的信心并不是全部。B 和 C 合计也占了 45% 的概率——它们代表模型脑子里"也有可能"的部分。贪心解码把这部分信息直接扔掉了。soft thinking 等方法试图保留一部分这种"软信息",但多只用于单个模型的连续推理,很少用于智能体之间的交流。

SoB 的做法是把整个概率分布保下来,做成一个叫信念 token(belief token)的东西:

z = 0.55·E[A] + 0.30·E[B] + 0.15·E[C] + 0.00·E[D]

也就是把所有候选 token 的嵌入向量按概率加权求和。这个混合向量会被当作"下一个输入"喂回模型。它不是一个具体的词,而是所有可能性的加权共存——一个悬浮态的思想。

连续做 L 步这样的生成,就得到一个长度为 L 的"信念块"(belief block),可以把它理解为这个智能体当前对整个问题的内部立场——还没说出口、也说不清,但真实存在。注意这个构造的优雅之处:它不引入任何新的参数,不需要训练,直接用模型自己的输出分布就能构造。信念不是外加的表示,而是从模型的预测分布里"长"出来的。这带来一个意外的好处——SoB 天然支持任何语言模型,不管它是什么架构、什么训练方法、什么 tokenizer。只要模型能输出下一个 token 的分布,它就能产生信念块,就能参与集体推理。

还有一个微妙的性质:信念块的长度 L 是独立于序列长度的。一个信念块固定为 L 个信念 token,不管原始问题是一句话还是一篇论文。这意味着信念交流的"带宽"是可控的——你可以通过调整 L 来在"表达丰富度"和"计算成本"之间做权衡。消融实验发现 L 的大小显著影响性能,正是因为 L 决定了每个智能体能携带多少信息进入交互。

有一个技术细节值得展开:为什么是概率加权,而不是取 top-k 个候选的平均?因为概率本身就是模型信心的度量——0.55 的 A 和 0.30 的 B 对模型的"信念组成"的贡献是不同的。加权求和保留了这种层级关系。如果把 B 和 C 等权平均,就会人为抬高低概率选项的地位,扭曲模型的真实倾向。这个选择看似简单,但它决定了信念 token 是模型的忠实表达,而不是人为构造的近似。

🔄 两种运动:自己想想,和别人碰碰

有了信念的表示,接下来的问题是:信念怎么更新?

SoB 设计了两种互补的更新操作。

局部精化(Local Refinement)。 每个智能体只看自己的信念和原始问题,独立地让自己的想法更成熟。公式极简:

L(Z)ᵢ = Aᵢ(x, zᵢ)

意思是:智能体 i 拿着问题 x 和自己上一轮的信念 zᵢ,生成新的信念块。这是"独立思考"。对应人类的行为:听完一场讨论之后,回到座位上自己再消化一会儿。局部精化的价值在于:不被别人带跑。在全局交互之后给自己一段"独处时间",让外来的信息和自己的先验充分混合,而不是机械地跟随。

全局交互(Global Interaction)。 每个智能体在生成新信念时,同时看到所有其他智能体的信念:

G(Z)ᵢ = Aᵢ(x, zᵢ, {zⱼ}ⱼ≠ᵢ)

这是"交流"。但注意这种交流的方式:不是读别人的发言稿,而是把别人的整个信念状态(连续向量)直接接入自己的计算。就像两个人的思想直接碰撞,不经过语言的翻译损耗。这有点像"心意相通"的理想境界——你不需要等对方说完一句话才能开始理解,你直接感受到对方"还没成形"的倾向。

一轮完整的更新是把两者组合起来:先做一轮全局交互,再做 m 轮局部精化。用符号写就是 Φ_m = Lᵐ ∘ G——先碰撞,再消化,交替进行。论文默认 m=1,即每轮"碰撞一次 + 消化一次"。这个默认值暗示了一个有趣的判断:交流带来的新信息,一次消化的收益最大,反复咀嚼的边际收益很小。

还有一个关键的设计选择:所有智能体的更新是同步的。新的一轮开始时,旧的信念全部作废,每个智能体基于当前问题和其他人的最新信念重新生成自己的信念块。这避免了中间状态的累积污染——每一轮都是干净的重新开始。这一点和异步更新的多智能体系统形成了鲜明对比:异步系统更快,但容易"过度反应"——一个智能体刚改主意,另一个还没来得及消化就又被带跑了。同步更新强制所有人站在同一起跑线上,减少羊群效应。

⚖️ 均衡:不是所有人都同意,而是没有人再被说服

SoB 什么时候停?它定义了一个很美的停止条件:集体均衡(collective equilibrium)。

用相对信念残差(relative belief residual)来衡量系统还有没有变化:

rₖ = ‖Z⁽ᵏ⁺¹⁾ − Z⁽ᵏ⁾‖_F / (‖Z⁽ᵏ⁾‖_F + δ)

直觉上,如果连续两轮下来,所有智能体的信念加在一起几乎没变(rₖ 小于一个很小的阈值),就说明系统到达了均衡。Frobenius 范数(‖·‖_F)衡量的是整个信念矩阵的"能量"——所有智能体、所有信念 token 的坐标加在一起的变化量。

但这里有一个精彩的细节,值得停下来想。均衡不等于共识。论文展示了一个图连通性问题:四个智能体中有三个的答案停在"yes"的吸引域里,另一个停在"no"的吸引域里。答案不再改变,但信念还在微调,直到残差归零。最终系统从均衡状态中解码出多数派的答案。

这和人类社会何其相似:好的合议不是让所有人都说一样的话,而是让不同意见都有充分的表达机会之后,系统达到一种"再说下去也不会有新信息"的稳定状态。少数派没有被消灭,只是被记录了。而正是这种"允许分歧存在"的设计,让多数派的结论更加可信——因为它是在充分的内部压力测试之后仍然站得住脚的那个。

实际实现中,每轮更新后系统会用极少量的预算解码出一个"试探性答案"(probe answer),所有智能体投票。如果连续 P=2 轮投票结果不变,就提前停止;最多跑 K_max=16 轮。最后每个智能体从自己的终态信念中解码完整解答,多数投票出集体答案。这套机制兼顾了效率和确定性:投票给了你一个便宜的停止信号,均衡给了你一个更深层的质量保证。投票停止是"足够好"的工程妥协,均衡收敛是"足够深"的理论理想——两者结合,让 SoB 在实际运行中既不会过早放弃,也不会无限空转。

📊 数字:更准、更快、更省

好,概念讲完了,看效果。实验设置:四个智能体(N=4)共享同一个冻结的基座模型,每个信念块 L=384 个信念 token,在 8 个推理基准上测试,覆盖数学(GSM8K、MATH-500)、科学知识(GPQA-Diamond)、常识(ARC-Challenge)、医学(MedQA)、逻辑(BBH)和多跳问答(HotpotQA)。

基线阵容不弱:六个潜空间方法(LatentMAS、ThoughtComm、Interlat、SwiReasoning、Soft Thinking、SoftCoT)加上文本多智能体辩论。四个模型族:Qwen3-8B、Llama-3.1-8B、Gemma-3-4B、Phi-4-mini。

第一个结果:全面超过潜空间基线,最多提升 15.7 个百分点。 以 Qwen3-8B 为例,SoB 在 GSM8K 上拿到 94.5%——接近文本辩论的 96.5%,而最强的潜空间基线 LatentMAS 只有 87.5%,最弱的 SoftCoT 只有 39.0%。MATH-500 上 SoB 的 77.2% 虽然低于辩论的 86.4%,但远超 LatentMAS 的 65.6%——考虑 LatentMAS 需要训练一个"评审者"网络而 SoB 完全免训练,这个差距很有分量。在 GPQA-Diamond 这样的高难度科学推理上,SoB 是 46.0%,和 LatentMAS 持平,略低于辩论的 47.2%。BBH 上 SoB 的 80.4% 超过了 LatentMAS 的 75.9%。总体上,SoB 不总是在每个基准上都赢过辩论,但它把潜空间方法从"明显弱于文本"拉到了"接近文本"的水平,同时省掉了解码成本。

第二个结果:跨模型族泛化。 在四个模型族上,SoB 对各自最强的潜空间基线都保持领先。更值得注意的是模型规模扫描:从 Qwen3-0.6B 到 Qwen3-32B,从 Llama-3.2-1B 到 Llama-3.1-405B,SoB 不更换任何推理配置,表现始终稳健。在 Qwen3-0.6B 上,SoB 的 MATH-500 是 49.6%,文本辩论是 57.2%——小模型上仍有差距;但到了 32B,SoB 在 MedQA 上以 84.7% 反超辩论的 83.3%。基座越强,信念交互的增益越明显。这个规模趋势有启发性:信念块的表达能力依赖于基座模型的表示质量,小模型的嵌入空间太粗糙,信念信号本身就模糊。

第三个结果:效率。 和文本 token 用量最低的基线 Soft Thinking 相比,SoB 平均少用 51% 的文本 token,个别基准上最多省 82%。和最快的基线 LatentMAS 相比,SoB 的 token 延迟(顺序生成的深度)低 1.1 到 2.6 倍,平均 1.5 倍。论文诚实地注明:这省的是"顺序深度和文本生成",不是总算力——信念块的计算本身也在消耗 FLOPs。但顺序深度的降低是实打实的:从用户感知的角度,等待时间从几十秒缩到十几秒,这在产品里是质的变化。而且文本 token 的减少不只是省钱——它还减少了"语言层面的错误":信念块不经过 tokenizer,就不会出现"词不达意"的歧义。

消融实验还揭示了一个有趣的负结果:增加智能体数量(超过 4 个)的收益因任务而异,增加迭代轮数或局部精化深度几乎不产生一致的提升。也就是说,SoB 的收益主要不来自"更多人"或"更多轮",而来自信念块本身的表达能力。这个发现和现实经验吻合:好的讨论不在于人多或话多,而在于每个人携带了足够丰富的内在状态来交换。

✨ 最迷人的发现:信念自己"结晶"了

现在来到全文最让我停不下来的发现,一个实验意外。

还记得信念 token 是概率加权的混合物吗?开始时,一个信念 token 到最近的具体词嵌入的平均余弦距离是 0.020——它真的悬浮在好几个词之间,像一个还没拿定主意的人。但随着一轮轮信念迭代,这个距离单调下降,到第 16 轮时降到 3×10⁻⁴,特征时间尺度只有 1.9 轮。

翻译成人话:信念 token 自发地"结晶"成了一个具体的词。不需要任何离散化操作,连续的信念动力学自己完成了从"模糊倾向"到"明确立场"的转变。就像一个犹豫的人在和别人讨论几轮之后,突然想清楚了——"就是这个"。

这个"自发对齐"(spontaneous alignment)现象有深远的暗示。它说明语言模型的嵌入空间里天然存在着一种"引力井"——模糊的混合态是不稳定的,经过多次交互后会自发地落进某个具体的概念里。这也许就是"想清楚"在几何上的样子:思想不是被外力"决定"的,而是在反复碰撞中自发地"落定"。

这个现象还让人联想到物理学里的对称性自发破缺:系统本身对所有方向都是对称的(信念 token 悬浮在多个候选之间),但在经过足够的动力学演化之后,它自发地选择了其中一个方向(结晶成具体的词)。选择哪个方向取决于初始条件的微小扰动和相互作用的细节——在 SoB 里,就是其他智能体的信念施加的"社会压力"。

更有意思的是这个时间尺度:1.9 轮。意味着大多数"想清楚"发生在第二轮和第三轮交互之间。这不是缓慢的渐变,而是一个相变——前两轮还在模糊游荡,第三轮突然就定了。这和人类顿悟的经验吻合:你琢磨一个问题琢磨很久,突然在某个瞬间"咔哒"一下,答案跳出来了。

这个发现还引出了一个哲学上有趣的问题:如果信念的"结晶"是自发发生的,那么智能体的"决定"到底是谁做的?是基座模型的先验在做(因为引力井的形状由训练数据决定),还是多智能体交互在做(因为碰撞提供了能量来跨越势垒)?SoB 无法回答这个问题,但它把这个问题的几何结构暴露了出来。

🧪 一个具体的例子:信念如何演化

概念和数字都讲过了,让我们用一个具体的例子走完整个流程,感受一下信念动力学到底是什么感觉。

假设问题是:"一个农场有鸡和牛,头共 20 个,脚共 56 只,问鸡和牛各多少?"

第一轮:四个智能体各自独立读题。智能体 A 的信念块倾向于"设方程解",智能体 B 倾向于"假设全是鸡再调整",智能体 C 的信念有些模糊——它同时感觉到了两种方法的可能性,信念 token 悬浮在"代数"和"算术"之间。智能体 D 则过早地倾向了一个具体数字。

全局交互:四个信念块互相可见。A 发现 B 的假设法也是一种合法路径,C 感受到 A 和 B 的信念都比自己更"聚焦",开始朝代数方向漂移,D 的具体数字信念被其他三个的"方法层面"信念稀释——它意识到自己跳步了。

局部精化:各自消化碰撞后的状态。A 完善了自己的方程组信念,B 把假设法的调整步骤也想清楚了,C 完成了从"模糊"到"代数"的结晶,D 退回来重新从方法层面思考。

第二轮:投票——三个智能体选代数,一个选假设法。试探性答案相同。信念残差还很大(大家的方法细节还在微调)。

第三轮:残差骤降。所有智能体的信念块都高度集中在各自的最终答案上。投票结果连续两轮不变,提前停止。最终答案:鸡 12 只,牛 8 只。

注意这个过程中的关键事件:C 的"结晶"发生在第二轮和第三轮之间——正是自发对齐现象的那个 1.9 轮时间尺度。D 的"退回来"是同步更新的功劳——如果异步更新,D 可能在看到别人的信念之前就已经把自己的错误答案固化到下一轮了。

这个例子还展示了 SoB 的一个隐含优势:没有智能体需要说服别人。在文本辩论里,一个智能体要说服另一个,需要构造有说服力的论证——这需要消耗 token,也需要论证者本身的推理能力足够强。而在 SoB 里,说服是自动发生的:D 之所以放弃错误答案,不是因为 A 用三段论驳倒了它,而是因为 A、B、C 的信念状态在潜空间里形成了一个新的"引力场",把 D 的信念拉离了原来的轨道。说服从一种修辞行为变成了一种动力学现象。

🌐 从信念动力学到集体智能

论文的最后把 SoB 放回了一个更大的思想脉络里:经典社会学里的舆论动力学(opinion dynamics)研究个体信念如何在局部交互中演化成共识、极化或稳定的分歧。DeGroot 模型、Friedkin-Johnsen 模型、Hegselmann-Krause 模型——这些数学框架描述了个体意见如何在"采纳邻居观点的加权平均"中演化。SoB 把这个视角第一次严格地带进了高维潜空间——用冻结语言模型的非线性动力学替代手工设计的线性更新规则,用能量距离和信念残差替代理论上的收敛证明。

这个连接不是装饰性的。它暗示了一整套可以从社会学借来的分析工具:平衡态的稳定性分析、意见领袖的涌现、信息瀑布(information cascade)的防范。一个多智能体推理系统里的"羊群效应",也许就是舆论动力学里"信息瀑布"的潜空间版本。

它回答不了的问题和它回答的一样多:均衡为什么总能到达(实验上稳定收敛,理论上无保证)?不同基座模型的"信念地貌"长什么样——哪些模型更容易被说服,哪些更固执?集体均衡会不会有坏吸引子——一群智能体一起稳定地锁死在错误答案上?如果信念块里编码了有害信息,多智能体交互是在放大它还是稀释它?

还有一个更实际的问题:信念块目前只编码了"对问题的立场",没有编码"对自己信心的评估"。一个智能体可能信念高度集中但方向完全错误——它的信念块看起来很"清晰",但清晰不等于正确。如果能让信念块同时携带"信心"和"不确定性"的元信息,全局交互就能更好地区分"这是我认为对的"和"这是我不太确定但倾向于的",从而做出更明智的集体决策。这是 SoB 框架自然延伸出的下一个研究问题。

但这些问题本身就是邀请。它把"多智能体推理"这个工程话题,提升成了"集体认知动力学"这个科学问题。

从 PaCC 那里,我们学会了在人类落笔之前塑造 AI 的信念。而在这里,我们看到 AI 们的信念在无人看管的潜空间里自行碰撞、结晶、到达均衡。信念一旦种下,就开始了它自己的生命——下一篇,我们看看这种生命会怎样被攻陷。


参考文献

  • Yu Yao, Jiayi Dong, Yilun Du. *Stream of Belief: Eliciting Collective Intelligence through Latent Belief Dynamics*. arXiv:2611.21250, 2026. https://arxiv.org/abs/2611.21250
  • Soft Thinking 团队. *Soft Thinking: Test-Time Scaling via Probability-Weighted Embeddings*. 2025.(信念 token 的概率加权嵌入构造)
  • LatentMAS. *Latent Multi-Agent Systems via Shared Working Memory*. 2025.(最强潜空间基线)
  • Du et al. 多智能体推理与潜空间交互系列工作.(SoB 所在的 Embodied-Minds-Lab 研究线)
  • Friedkin & Johnsen. *Social Influence and Opinions*. Journal of Mathematical Sociology, 1990.(意见动力学的经典框架)
  • DeGroot. *Reaching a Consensus*. Journal of the American Statistical Association, 1974.(意见收敛的奠基模型)
  • Hegselmann & Krause. *Opinion Dynamics and Bounded Confidence Models*. 2002.(有界信任模型)
  • Du et al. *Improving Factuality and Reasoning in Language Models through Multiagent Debate*. ICML 2024.(文本辩论基线)
#每日论文 #多智能体 #集体智能 #潜空间推理 #信念动力学

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens