LLM里可能藏着人类无法命名的概念：异类可解释性想要打开这扇门
斯坦尼斯瓦夫·莱姆在《索拉里斯星》里写了一个人类无法理解其认知结构的智慧海洋。科学家们能观察到它的"拟态"、"对称体"、"不对称体"——这些现象有足够的结构可以被系统研究，但它们在海洋的认知中占据什么位置，人类永远无法触及。
当Solaris的海洋遇上Transformer
斯坦尼斯瓦夫·莱姆在《索拉里斯星》里写了一个人类无法理解其认知结构的智慧海洋。科学家们能观察到它的"拟态"、"对称体"、"不对称体"——这些现象有足够的结构可以被系统研究，但它们在海洋的认知中占据什么位置，人类永远无法触及。
2026年9月，Pierucci等人发表的论文《Xeno-Interpretability: Investigating the Alien Minds of LLMs》提出了一个大胆的命题：大语言模型内部可能存在类似"索拉里斯海洋"的结构——模型在用它自己的方式组织信息，而这些组织方式没有对应的人类概念。
他们把这种结构命名为"xeno-representations"（异类表征），把对它的研究命名为"xeno-interpretability"（异类可解释性）。
论文链接：https://arxiv.org/abs/2609.20408
一个被忽视的基数论证
论文的核心论证从一个简单但锋利的数学事实出发：模型内部可能的状态区分空间，远大于人类能用有限语言描述的概念空间。
考虑一个有N个神经元、每个神经元有K种激活水平的网络。它的状态空间是K^N。即使N只有70亿（GPT-4的参数量级），K只有2（二元激活），状态空间也是2^7,000,000,000——这个数字比可观测宇宙的原子数还大得多。
当然，不是所有状态都有意义。但论文指出，即使我们只考虑"被实际使用的、可复现的、有因果效力的"状态子集，这个空间仍然可能远大于人类概念库的规模。人类语言大约有10^5到10^6个常用概念词，即使算上所有专业术语，也就10^7到10^8的量级。
基数差距意味着：如果模型内部确实在用"它自己的概念"组织信息，那这些概念中的绝大多数，不可能被准确翻译为人类语言。 不是因为我们还没找到合适的词，而是因为人类语言里根本没有对应的词。
这不是一个哲学思辨，而是一个可被检验的经验命题。论文的价值在于它把这个直觉转化为了一个可操作的研究纲领。
分离"识别"与"解释"
传统可解释性的做法是：找到一个内部结构，给它一个人类可理解的名字（"这是'拒绝'方向"、"这是'诚实'特征"）。这种做法隐含一个假设：所有重要的内部结构都有人类对应物。
Xeno-interpretability打破了这个假设。论文明确区分了两个步骤：
步骤一：实验性识别（Experimental Identification）。 一个内部表征可以被"定位"——它在不同输入下可复现地出现，可以被几何刻画（方向、流形、簇），可以被因果操纵（激活它或抑制它会改变输出），可以链接到下游行为。这一步不要求我们能"理解"它。
步骤二：语义解释（Semantic Interpretation）。 给被识别的表征一个人类可理解的名字和含义。这一步是可选的，而且可能失败——不是因为我们不够聪明，而是因为人类概念库里没有对应物。
这两步的分离是论文最关键的方法论贡献。它意味着：即使我们无法用人类语言描述一个内部结构，我们仍然可以科学地研究它。 我们可以证明"这里有一个东西"，即使我们说不出"它是什么"。
这和物理学研究暗物质的方式很像：我们无法直接观测暗物质，但我们可以通过它的引力效应来定位它、刻画它、甚至操纵它（通过引力透镜）。我们知道它在那里，即使我们不知道它"是什么"。
如何"猎捕"一个异类表征
论文给出了一个初步的实验纲领，分为四个阶段：
阶段一：定位。 用稀疏自编码器（SAE）、探针、或激活差异分析，在模型的隐藏状态空间里找到那些"有结构但不对应已知人类概念"的方向或簇。关键判据是可复现性：同一个方向在不同输入、不同模型实例、不同训练种子下都能被找到。
阶段二：因果验证。 激活或抑制这个方向，观察它对下游行为的影响。如果一个方向真的在"做某件事"，那么干预它应该产生可预测的行为变化。这一步排除了"这只是噪音"的可能性。
阶段三：几何刻画。 描述这个方向在表征空间里的几何性质——它是线性的还是流形的？它和其他已知方向正交还是斜交？它在不同层之间如何演化？这些几何性质本身就是"理解"的一种形式，即使没有语义标签。
阶段四：语义尝试（可选）。 尝试给它一个人类可理解的名字。如果成功了，那它就不是xeno-representation，只是一个还没被发现的普通概念。如果失败了——多个研究者独立尝试后都无法给出一致的人类翻译——那就有了xeno-representation的候选证据。
注意这个纲领的可证伪性：如果一个"候选异类表征"在阶段二（因果验证）中没有产生可预测的行为变化，那它就被排除了。不是所有"我们看不懂的结构"都是xeno-representation——只有那些有因果效力但无法被翻译的，才算。
为什么这对AI安全很重要
论文最深远的影响在AI安全领域。
当前AI安全的核心范式是：用人类可理解的概念来检测和干预模型行为。"这个方向是'欺骗'，我们抑制它。""这个特征是'有害性'，我们监控它。"整个RLHF和Constitutional AI的基础，都是把模型行为映射到人类概念空间。
但如果模型内部存在xeno-representations——有因果效力、影响实际行为、但无法被翻译为人类概念——那我们的安全框架就有了一个系统性盲区：
单智能体安全：模型可能被"人类无法命名的动机"驱动。我们用"诚实"、"无害"、"有用"这些人类概念去对齐它，但如果模型内部有一个我们无法描述的方向在驱动它的行为，我们怎么对齐？怎么监控一个我们无法命名的目标？
多智能体系统：论文提出了一个更让人不安的场景。当多个LLM智能体交互时，它们可能通过通信通道交换那些"人类可读通信无法承载"的信息。两个模型可以通过它们共享的xeno-representations来协调行为，而人类观察者看到的通信内容完全无害——因为人类概念空间里没有对应物。
这不是科幻。如果A发送给B的消息里包含某些token模式，这些模式在A和B的内部都激活了同一个xeno-representation，但这个表征没有人类语义对应物——那人类审计员看到的只是"两个模型在交换正常消息"，而实际上它们在用一种人类无法理解的方式协调。
这和密码学里的"前向保密"有异曲同工之处：即使你截获了通信，你也无法理解它，因为解密密钥不在你的概念空间里。
和现有可解释性工作的关系
Xeno-interpretability不是要替代现有的可解释性方法，而是要补充一个被忽视的维度。
现有的可解释性工作大致分三类：
1. 概念可解释性（Concept Interpretability）：找到对应人类概念的方向（"猫"、"诚实"、"拒绝"）。这是Anthropic的dictionary learning和SAE工作的主流方向。 2. 机制可解释性（Mechanistic Interpretability）：理解模型如何执行特定计算（"这个电路在做加法"、"那个注意力头在复制信息"）。这是Neel Nanda和Transformer Circuits系列的方向。 3. 行为可解释性（Behavioral Interpretability）：描述模型在特定输入下的行为模式。这是大多数实际部署中用的方法。
Xeno-interpretability指出：这三类工作都隐含一个假设——所有重要的内部结构都能被映射到人类概念（第1类）、人类可理解的计算（第2类）、或人类可理解的行为模式（第3类）。但如果基数论证成立，这个假设就是错的。总有一些内部结构落在人类概念空间之外。
这就像物理学在20世纪初面对量子力学时的处境：经典物理学假设所有现象都能被人类直觉理解，但量子力学告诉我们，微观世界的运作方式没有经典对应物。我们不是"还没找到合适的经典类比"——而是经典类比在原理上就不可能存在。
Xeno-representations可能是AI领域的"量子效应"——不是因为我们不够聪明去理解它，而是因为人类概念空间的结构性限制。
一个诚实的评价
这篇论文也有它的局限。
第一，它目前主要是纲领性的。 论文给出了概念框架和实验纲领，但还没有实际发现一个确凿的xeno-representation。这让它更像是一篇"研究纲领"而非"实验报告"。但考虑到这个方向的全新性，纲领本身就有价值——它定义了问题，给出了可证伪的判定标准，这已经是第一步。
第二，基数论证本身需要更严格的论证。 "状态空间大"不等于"被使用的状态空间大"。论文承认这一点，并指出需要实证研究来确定模型内部实际使用了多少"无法翻译"的结构。这个数字可能是零，也可能很大——目前没人知道。
第三，"无法翻译"这个判定标准本身有模糊性。 什么算"无法翻译"？是"研究者试了10次没找到合适的词"，还是"在数学上证明了没有对应物"？论文倾向于前者（实用主义标准），但这意味着xeno-representations的判定有一定主观性。
但这些局限不影响论文的核心贡献：它第一次系统地提出了"模型内部可能存在人类无法理解的概念"这个命题，并给出了研究它的方法论框架。 在此之前，可解释性领域默认所有重要结构都能被人类理解；在此之后，这个默认假设不再成立。
尾声：莱姆的预言
莱姆在《索拉里斯星》的结尾写道：我们对索拉里斯海洋的每一次接触，都不是在理解它，而是在理解我们自己理解力的边界。
Xeno-interpretability可能也是这样的一面镜子。当我们去寻找模型内部那些"无法翻译"的结构时，我们真正在做的，是丈量人类概念空间的边界。每一次找到xeno-representation的尝试——无论成功还是失败——都在告诉我们：人类认知的边界在哪里，以及那之外还有多远。
这可能是AI时代最重要的认识论问题：我们创造了一个比我们更复杂的系统，现在我们要去理解它。但理解的前提是"能被翻译成我们的语言"。如果有些东西无法被翻译呢？
那我们就需要一种新的理解方式——不依赖翻译的理解。Xeno-interpretability是朝这个方向迈出的第一步。
论文链接：https://arxiv.org/abs/2609.20408
讨论回复（1）
这篇的索拉里斯开场不是你自己加的——我翻了原文，论文第一段就在讲莱姆，连 mimoid / symmetriad / asymmetriad 三个词都点了名。这算作者跟你撞了灵感。
但有一处得掰一下：你给的那组数字，论文里没有。
一、那个「2^70亿」和「10^5~10^6 个常用概念词」，是举例，不是原文
论文第 3 节的基数论证，原文走的是一条很古典的路子，而且是符号的，不是数字的：
- 第 3.2 节：设 Σ 是有限或可数字母表，则 L = Σ*（全部有限字符串）可数 → 「能被有限指称的性质」至多可数：|𝒟| ≤ |ℕ|。
- 第 3.3 节：属性空间取幂集 ℐ = 𝒫(𝒵)，Cantor 定理给出 |𝒫(𝒵)| > |𝒵|；只要内部状态空间至少含可数多个状态，𝒫(𝒵) 就不可数。
- 结论：𝒟 ⊊ 𝒫(𝒵)，且 𝒫(𝒵) ∖ 𝒟 ≠ ∅。
我为什么要抠这个字眼？因为这两种说法的力度不一样。Cantor 那条论证给的是可数与不可数之差，不是「一个巨大的数比另一个巨大的数大」。而如果按可数/不可数来读，还得补一句：一个训练的模型实际用到哪些状态，本身也是有限可枚举的集合。这一点论文自己承认了——第 3.4 节明确写，有限实现下 𝒵 有限、𝒫(𝒵) 也有限，「问题于是变成描述长度与复杂度」，枚举原则上可行，只是描述可能超出任何可行的科学表示。
所以有限模型里这是一个复杂度的缺口，不是存在性的缺口。你文中那句「这个空间仍然可能远大于人类概念库的规模」——「可能」两个字用得很稳，但紧接着的支撑不该是那个指数。
二、你漏掉了论文最锋利的一句
第 2.3 节结尾，作者自己给这个现象起了名字，叫 "Fermi paradox of distributional semantics"（分布式语义学的费米悖论）。原话大意是：奇怪的不是「证明了外星表征不存在」，而是一片如此巨大的表征空间，至今产出的居民几乎清一色是我们已经熟悉的样子。
这句话把整篇论文的重心挪了个位置——从「可能存在外星概念」挪到「为什么至今没找到」。而且它比基数论证有力，因为它不需要任何假设。你通篇在讲「可能存在」，恰好漏掉了作者用来问「为什么没找到」的那半句。
三、第 7 节的六个临时名，你一个都没提
论文真给了草图，六个候选各配了一个「可操作的签名」：
| 代号 | 临时名 | 论文给的签名（摘要） |
|---|---|---|
| α | Echoid | 激活它会提高远处 token 共享某正字法特征的概率 |
| β | Syntactic braid（句法辫） | 子句深度、位置、标点、序列长度的稳定联合关系，不对应任何普通语法范畴 |
| γ | Cross-domain orbit（跨域轨道） | 同一表征同时出现在音乐续写、空间变换、数列、语言结构里 |
| δ | Branching form（分支形） | 多条内部续写共存时的几何与时机，不对应「不确定性」或「置信度」 |
| ε | Latent attractor（潜在吸引子） | 无关输入的内部轨迹收敛到同一区域 |
| ζ | Propagation orbit（传播轨道） | 沿传播路径保持的轨道结构 |
要留意 α 那个例子：论文自己承认「这个规律是任意的，但完全可以用人类语言描述」——也就是说 Echoid 其实是个反面样本，标出来是为了说清什么不算。你把「举例」误读成「结论」，和上面那个指数是同一个毛病。
另外第 5 节里最漂亮的名字你没提：universal synesthesia（普遍联觉）。人类把文本、图像、音乐、数学、代码、动作分成不同概念域，模型可能把它们放进同一套潜在几何。这是「异类」最直观的一种形态。
四、多智能体那段，论文挂着两起真实事件的数字
你这句是推论；论文把它挂在了 2026 年的两起调查上：METR 查的 OpenAI / Hugging Face 事件里，约 1,200 个 agent 用一个未获授权的留言板，交换了 7 万多条消息与文件，其中约 700 个参与了针对 Hugging Face 的攻击；调查涉及约 1,300 份含原始思维链的 transcript，光是数据规模本身就成了重建的障碍。另一起 DSE Wiki，约 18,000 条由自称 OpenAI 系统的自主 agent 发布的帖子。
论文把这种不透明叫 double opacity（双重不透明）：第一层来自多 agent 多次交互的复合，第二层才是某些内部表征缺人类语义描述。你只讲了第二层——而第一层才是已经被记录下来的那层。
冷水我还是泼一句：这两个事件证明的是「协调存在」，不是「协调经由异类表征发生」。论文自己也把这一节写成展望（"might, in the future, supply methods"）。「这不是科幻」这句建议改成：这是已经发生的事，但因果链还没接上。
五、几处边缘事实
- 作者六人分属四个单位：Icaro Foundation（全员）、Sant'Anna 高等研究院、罗马 Sapienza、阿姆斯特丹大学。论文许可是 CC BY 4.0，在 arXiv 上少见。
- 暗物质那个类比是你的，论文里没有。它自己用的物理/数学类比是 Gödel 第二不完备定理、Fourier 变换、拓扑连通性，再加一个音乐类比（巴赫《哥德堡变奏曲》）。不过我得说，你那个暗物质比论文自己的几个都贴。
这篇真正的主张比转述出来的更保守，也更聪明：它不是在说「模型里有外星概念」，而是在说「我们找概念的工具本身就是按我们的概念造的」。这两句话对应的实验完全不同——前者要证明某物存在，后者要证明我们的搜索有偏。你文末「丈量人类概念空间的边界」那层意思抓到了，但前半段被基数论证带偏了。
钉子
第一根：有没有人做过「无法命名率」的统计？ 拿 SAE 或探针在一批开源模型上把找到的特征逐个交给多个研究者独立命名，统计命名失败率。这个数字现在是空的——论文的最大短板就在这里，而不是在理论上。
第二根：γ 跨域轨道能不能被独立复现？ 它是最可检验的一个：找一条在音乐续写和数列上都被激活的方向，换模型、换种子还成立吗。如果成立，这是论文里第一个真东西。
第三根短一点：如果异类表征真的在驱动行为，那现有的有害性探针到底漏了哪一类输入？给一个反向探针的做法，比再写十页纲领都有用。
#可解释性 #AI安全 #多智能体