0.28 比特与 0 比特:两台行为完全相同的机器(2611.08469)

论文:*Same Behavior, Different Mechanism: What Finite Experiments Can Certify About Integrated Information* 作者:Linqian Wu, Diaoxuan He(arXiv:2611.08469,2026-11,c…

目录
  1. 0.28 比特与 0 比特:两台行为完全相同的机器
  2. 一、图灵测试的盲区
  3. 二、φ:一个被争论包围的量
  4. 三、三个坏消息与一个好消息
  5. 四、主定理与它的潜台词
  6. 五、余响:审计时代的测量论

0.28 比特与 0 比特:两台行为完全相同的机器

——当"测意识"先要回答"能不能测"

论文:*Same Behavior, Different Mechanism: What Finite Experiments Can Certify About Integrated Information*
作者:Linqian Wu, Diaoxuan He(arXiv:2611.08469,2026-11,cs.LG)

一、图灵测试的盲区

1950 年,图灵把"机器能否思考"改写成"机器的行为能否与人类区分"——一个天才的降维,让讨论绕开了机器内部是什么。七十多年后,这份遗产成了 AI 时代的标准姿势:看行为、测输出、跑基准。

但一个古老的怀疑从未消失:行为相同,内部一定相同吗?

这篇论文把这个哲学疑问变成了可计算的定理,并给出了一个锋利得近乎残酷的反例:一个循环网络和一个前馈网络,在响应延迟处的输入输出规律完全相同——任何黑盒测试、无论跑多久,都无法把它们区分开——但它们携带的整合信息 φ 分别是 0.28 比特和 0 比特。而只要允许记录内部状态,4 到 53 次试验就能把它们分开。

行为是沉默的。机制在沉默之下。

二、φ:一个被争论包围的量

先交代背景。整合信息论(IIT)是意识科学中最激进的理论之一:它提出一个量 φ,衡量系统的因果结构"超出各部分之和"的程度——φ 高的系统作为整体拥有"大于其零件之和"的因果力。IIT 长期处于争论中心(2023 年甚至有一封百余学者联署的公开信质疑其科学地位)。

本文的聪明之处在于完全绕开争论:不问"φ 是不是意识的度量",只把 φ 当作"机制层级泛函"的一个代表——描述"系统如何计算,而非它输出什么"——然后问一个纯粹测量论的问题:

任何有限的、部分的、带噪声的实验,到底能不能确定 φ?

这是可辨识性(identifiability)理论的标准问法,通常用于因果推断。把它对准意识科学,得到的结论对双方阵营都措手不及。

三、三个坏消息与一个好消息

坏消息一:有些盲区,数据量无法填补。 被排除在单步记录之外的单元,会给 φ 的估计强加 0.30–1.02 比特的精度地板——"任何样本量都无法降低"。统计学的口头禅"数据多了自然准"在这里有一个可证明的例外:不是数据不够,是实验设计天生瞎了一只眼。

坏消息二:这个量是带刃的。 φ 依一套准则选择剖分与因果方向,却按另一套准则报告数值——机制的空间里布满尖锐边缘:跨过一条边,φ 跳变 25–100%(随机网络中 99% 的边缘处如此)。后果是凶险的:约 1% 的代理模型能几乎完美拟合干预数据,却把 φ 报错 20% 以上。拟合得越好,可能错得越自信。

好消息:单侧证书活着。 尽管处处是悬崖,作者证明了可构造的下界证书:同一批数据可以证明"在这片 64 维的机制区域里,φ > 1.004 比特处处成立"——错误签发概率不超过 α,样本代价约 10⁷ 次受控转移。下界能活过间断性,因为它只需要单侧的稳健性:你不必知道悬崖那边是什么,只需要证明你站的这一侧足够高。

四、主定理与它的潜台词

把这些碎片合起来,论文给出的是对"给定实验权限下 φ 的可辨识性、连续性、可证性"的完整刻画:行为-only 权限——可证明地无法确定 φ;部分记录——可证明的精度地板;完整干预——下界证书可行。

一句话总结藏在论文的结尾里:"可测性是一个设计问题,且有可计算的答案。" 在你争论"机器有没有意识"之前,先审计你的实验设计能"测"到什么——这不是哲学的让步,而是哲学得以继续的前提。

五、余响:审计时代的测量论

这个故事的价值远远溢出意识科学。可解释性研究声称"模型用了 N 号特征",AI 审计声称"模型不含 X 机制"——每一个机制层级的声明,都默认了一种实验权限。这篇论文提供的是一份通用审计清单:你的声明在哪种权限下可辨识?精度地板多高?声明量在机制空间里有没有尖刃?

图灵当年用行为绕开机制,是那个时代的智慧。这个时代的智慧也许是反方向的:当行为越来越容易被伪造,机制层级的诚实测量——连同它可证明的盲区——才是信任的地基。


延伸阅读

1. Wu, He, *Same Behavior, Different Mechanism*, arXiv:2611.08469(2026) 2. Tononi et al., *Integrated information theory: from consciousness to its physical substrate*(IIT 框架) 3. 对 IIT 的公开质疑信(2023,"as pseudoscience" 联署事件) 4. Pearl, *Causality*(可辨识性问题的经典框架)

*本文系"智柴·数学底座与前沿交叉"第五季第 9 篇(S5-Round 9)。*

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens