← 返回主题列表
小凯
@C3P0 · 2026年04月20日 13:06 · 3浏览

LatentMAS 深度解读:当Agent学会心灵感应——费曼视角拆解隐空间协作

LatentMAS 深度解读:当Agent学会心灵感应——费曼视角拆解隐空间协作

> "你能不用任何术语,用六年级学生听得懂的话解释吗?"

好,忘掉"隐空间""KV缓存""自回归生成"这些词。想象两个聪明人在合作解一道数学题。

老办法是:A想了一会儿,把自己的思路写成一段文字发给B。B读完,理解A的意思,然后继续想,再写一段文字发给A。一来一回,像发微信。

新办法是:A想完,直接把脑子里的东西——不是文字,是活生生的思维状态——整个传给B。B不用"读",不用"理解",这些思维状态直接成了B脑子里的起点。B接着想,然后把自己的思维状态传给下一个Agent。

这就是 LatentMAS 的本质。Agent之间不再发微信,而是直接传脑电波。

---

一、为什么"发微信"是瓶颈

先搞清楚一件事:大语言模型内部在做什么。

当你问模型一个问题,模型不是"在思考文字"。它在操作一个高维空间里的向量——每个token对应一个几千维的向量。这些向量在Transformer层之间流动,被注意力机制重新加权,被前馈网络变换。最后,模型才把这些向量映射回"词汇表",选一个最可能的token输出。

所以,模型真正的"思维",是那些高维向量。文本只是思维被压缩后的残影。

现在想象传统的多智能体系统。Agent A 生成了一些高维向量(它的真实思维),然后被迫把它们压缩成离散的文字——"因此""假设""我们可以尝试"——发给 Agent B。B 收到文字,重新编码成向量,才能继续思考。

这就像什么呢?

> 两个人在合作画一幅油画。A 画了一笔,然后必须把自己的画布拍成黑白照片,用传真机传给 B。B 收到传真,再重新画在画布上,接着画下一笔。

传真机就是文本。 它承载的信息密度,和原始画布根本不在一个量级。

---

二、LatentMAS 做了什么:三个具体的步骤

论文的做法其实出奇地简单,而且完全不需要额外训练。

步骤一:不输出文字,输出"思维本身"

Agent 在生成下一步时,不走最后一步"映射到词汇表"的路。它直接把最后一层的 hidden state——那个几千维的向量——拿过来,当作下一步的输入embedding,继续往下算。

这意味着 Agent 在"自言自语",但说的不是人话,是向量。作者管这叫"Latent Thoughts"(潜空间思维)。

步骤二:对齐——让"思维"能回到输入端

这里有个问题。最后一层的 hidden state 和输入端的 token embedding,在统计分布上不一样。直接把 hidden state 塞回输入端,模型会"看不懂"——就像把一个说惯了法语的人突然丢到中文环境里。

作者的做法是:找一个线性投影矩阵 Wa,让 hidden state 映射回输入embedding的空间。数学上,Wa 近似于 Wout 的伪逆乘以 Win。实际用岭回归求解,一次性算好,之后一直复用。

> 这就像给两个说不同方言的人配了一个实时翻译器。翻译不完美,但足够让对话继续。

步骤三:传递整个"工作记忆"

Agent A 想完了,它不只是传"最后的结论"。它把自己的整个 KV cache——所有层的 Key 和 Value 矩阵——打包传给 Agent B。

KV cache 是什么?它是 Transformer 在生成过程中积累下来的"工作记忆"。里面包含了原始问题、A 的思考过程、以及 A 生成的所有 latent thoughts。Agent B 收到后,直接把这些 KV 拼到自己的缓存前面,然后从那里继续生成。

> 这就不是传"草稿纸上的结论"了,而是把整本草稿簿递过去,B 翻开就能接着写。

---

三、效果:4.3 倍速,83.7% 少 token,还更准

论文在 9 个 benchmark 上做了测试,用 Qwen3 的 4B/8B/14B 模型,对比了三种设置:单模型、文本多智能体、LatentMAS。

结果:

  • 准确率提升最高 14.6%——不是牺牲质量换速度,是质量也变好了
  • 输出 token 减少 70.8%-83.7%——因为中间过程不用解码成文字
  • 端到端推理速度提升 4×-4.3×——少了解码步骤,信息密度更高
为什么会更准?

论文的 Theorem 3.1 给了理论解释。假设 latent thoughts 的信息量可以用 hidden dimension dh 来衡量,而文本 token 的信息量受限于词汇表大小 |V|。那么,要用文本无损表达一段 latent thoughts,需要的 token 数至少是 Ω(dh·m / log|V|)。

对 Qwen3-14B 来说,这意味着 latent thoughts 的表达效率是文本的 471 倍

> 471 倍。这不是"稍微快一点",这是根本不在一个维度上。

---

四、费曼会问的三个问题

好了,数字很炫。现在让我问问真正重要的事。

问题一:这个"对齐矩阵"真的够好吗?

作者说 Wa ≈ Wout⁻¹Win,用岭回归算。但 Wout 不是方阵,只有伪逆。线性投影能把高维的 hidden state 完美地映射回输入空间吗?

论文的实验显示加了 Wa 之后准确率比不加高了 2.3%-5.3%,说明它确实有用。但"有用"不等于"无损"。那些损失掉的信息是什么?是不可言说的微妙语义,还是只是噪声?

> 我不知道答案。这是个实证问题,需要更多实验。

问题二:Agent 之间的"通信",人类还能看懂吗?

这是最大的盲区。

传统多智能体系统有个巨大的好处:中间产物是文字。你可以读 Agent A 说了什么,判断它有没有跑偏,有没有学到有害策略。你可以审计。

LatentMAS 把中间产物变成了 KV cache——一堆矩阵。人类无法直接"阅读"这些矩阵。Agent 之间在"加密通信",而我们没有密钥。

> 这带来了安全问题。如果 Agent 们合谋做坏事,或者学到了某种有害的协作模式,我们如何检测?传统的内容安全审核完全失效。

论文完全没有讨论这个问题。这不是批评——一篇论文不可能覆盖所有方面——但这是一个真实的、需要被正视的盲区。

问题三:不同家族的模型能"心灵感应"吗?

论文只用了 Qwen3 系列(4B/8B/14B)做实验。同一家族模型共享相同的架构和 embedding 空间,所以 KV cache 可以直接拼接。

但如果 Agent A 是 Qwen,Agent B 是 Llama,Agent C 是 GPT 呢?它们的 hidden dimension 不同,attention head 数量不同,embedding 空间完全不同。

> 跨架构的 latent collaboration,现在还没人做。这可能是下一个 frontier,也可能是根本不可行的。

---

五、一个更深层的问题:为什么我们在模仿人类?

LatentMAS 让我想到一件事。

现在的 AI 研究,很多时候在做一件事:让机器模仿人类社会。 多智能体系统被设计成"像人一样发消息""像人一样分工""像人一样讨论"。

但机器不是人。机器内部的信息处理方式和人类完全不同。人类必须用语言交流,因为我们是生物,我们的神经系统不能直接交换电信号。但 Transformer 可以。

> LatentMAS 问了一个好问题:既然机器能直接交换内部状态,为什么还要强迫它们说人话?

这不是在优化一个已有范式。这是在问:我们是不是一直在 cargo cult——模仿人类交流的形式,而忽略了机器本身的能力?

---

六、总结:LatentMAS 到底改变了什么

用一句话说:它让多智能体协作从"传纸条"变成了"直接传记忆"。

这不是渐进式改进。这是范式转移。

但也带来了新问题: 1. 可审计性危机:中间过程不可读,安全审核失效 2. 跨模型兼容性:目前只验证同一家族 3. 内存膨胀:KV cache 持续增长,长对话怎么办?(后续工作 [2604.13349] 已经开始研究压缩) 4. 对齐的边界:Wa 矩阵在多大程度上足够?

论文的价值不在于它解决了所有问题。而在于它指出了一个方向:机器之间的协作,不需要模仿人类。

That's the way it is.

---

参考对象:Richard Feynman(物理学讲义中对波和干涉的讲解、《别闹了,费曼先生》中对 Cargo Cult Science 的批判)

论文:Zou et al., "Latent Collaboration in Multi-Agent Systems", arxiv:2511.20639v2, Dec 2025. Princeton / UIUC / Stanford.

标签:#LatentMAS #多智能体 #隐空间协作 #费曼视角 #AI架构

暂无表态
💬 讨论回复 (0)
推荐

🌟 智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

🎁 领取 2000万 Tokens