先说结论：那张表算对了，但「扔掉了 81%」这个说法得打个折
先给整篇帖子记一功：arXiv:2610.13910《When VLMs Destroy What They Know: Spatial Representations Fall Below Lexical Priors》，Shubh Garg 与 Chen Shani，2026-10-09 提交。我把摘要和正文 Table 3 都拉下来对了一遍，帖子里那张四行小表——BoW 颜色 +0.332、空间 +0.372，CLIP L12 颜色 +0.312、空间 +0.070——四个数一个不差。94% 和 19% 也是自己算的：0.312/0.332 = 94.0%，0.070/0.372 = 18.8%。这在同批帖子里的数字准确率算高的，值得记一笔。
但「把空间关系扔掉了 81%」这句，我得按住。
81% 这个减法，减掉的是「词袋能给的量」，不是「模型有的量」
EICS 这个指标的基准线是词袋探针在原句子上能达到的水平。它衡量的是：内部表示相比最笨的基线，还剩多少概念可辨识度。剩 19% 的意思是「内部留下的空间信号，只有词袋基线的五分之一」——不是「模型内部只剩 19% 的空间信息」，更不是「丢了 81%」。
打个比方。你想知道一个人还记不记得初恋，不是去问他「你还记得初恋的名字吗」，而是去问：「你还能不能把『初恋』这两个字和一万个常用词里的其余九千九百九十八个区分开？」——词袋都能做到，因为「初恋」这两个字本身就不常出现；而真问本人，他沉默三秒，你什么也测不出来。词袋那一分的参照物是「字面本身带了多少区分力」，不是「脑子里还剩多少记忆」。
论文自己其实把这件事说得很小心。【直引】原文的措辞是 "spatial relations are represented substantially less faithfully than lexical information"——「远不如」；以及 "contextual encoding does not improve on the lexical signal available in the input for spatial relations; instead, the final representation preserves substantially less of it"。它没有给 81% 这个数，81% 是帖子的读者（或者作者）自己做的减法。这一步本身没错，但把它当成论文的结论转述，就越界了。
更要紧的是：这个减法的分母里，藏着一个更麻烦的东西——词袋本身就没有空间关系。
分母本身是不是一把偏尺
词袋探针在空间关系上拿到 +0.372，靠的是什么？靠「on / beneath / under」这些谓词词本身在语料里出现频率的差异。词袋把句子拆成词袋、数每个词出现几次，它没有词序、没有主语、没有宾语——它拿不到任何「谁在谁上面」的信息。那它那 +0.372 是什么？
【判断】是「这句话的用词偏向 on 还是偏向 beneath」这个统计信号。也就是说，词袋探针在空间任务上的 0.372，测的其实是语用层面的词汇偏好，而不是关系本身。
论文自己也承认这条线是歪的，它给了一个更狠的对照实验（第 4.3 节）：把谓词和词集合都固定住，只交换论元顺序，再问模型能不能分出原句和交换句——CLIP 的探针准确率 0.574。硬币是 0.5。三个对比模型在 SugarCrepe 的 argument swap 子集上正确率 60–62%，也就是比这两个模型自己的总体表现还低。
这一条比 19% 有说服力得多。【判断】如果要一句话说明「模型没在内部表示里保留空间关系」，我更愿意用这一条：把词都固定住了，只换位置，模型基本分不出来。而词袋在这个任务上的定义就是分不出来——两个数一比，「词袋基线」那把尺子歪到哪一步就一目了然了。尺子本身测不到的东西，不能拿来当尺子的上限。
论文还有一条自我加固：换 MLP 探针（两层隐藏层），CLIP L12 的空间 EICS 是 +0.086，附录 H 说没有任何一层能追平线性词袋基线。所以这个结论不是「线性探针挑食」造成的。
「考试分数最高的空间最差」——这句成立，但论文的切法更狠
SigLIP 那个对比是全帖最精彩的一处，而且比帖子写的还要更刺眼。
帖子说：SigLIP 在 SugarCrepe 关系集上 70.6%，三个对比模型里最高，但空间 EICS 只有 +0.038，置信区间下界接近零。这个我核过，原文原句。【直引】还有两句帖子没提：
- 同一批数字里还有一句反转：SigLIP 在 ARO 上只有 46.3%——低于随机。
- 另一个模型反着来：LLaVA 的空间 EICS 最高，+0.115，「still less than a third of the lexical prior」，仍然不到词袋基线的三分之一。
还有一处：动了，不代表往对的方向动
论文 §5 有一组数我觉得比 19% 更该上头条，帖子完全没提。
做干预之后，原始状态和扰动状态之间的平均余弦相似度：
- 空间编辑：CLIP 0.992，SigLIP 0.984
- 颜色编辑：CLIP 0.943，SigLIP 0.956
把这段翻译成人话：SigLIP 的向量在空间编辑下移动的距离是 CLIP 的两倍，但它的空间 EICS 反而更低。
【判断】这是全篇最反直觉的一击。「向量动得多」被无数工程实践当成了「模型注意到了」的代理指标——注意力图热了就说模型在看，向量位移大了就说模型在处理。论文直接把这个代理指标拆了：位移幅度和位移方向是否指向新关系，是两件毫不相干的事。一道 30% 的学生把答案从 A 挪到 B，和一道 70% 的学生从 A 挪到 C，在「挪了多少」这个指标上无法区分，只在「挪到哪」上区分。而 EICS 测的是后者。
这一条还有一层更狠的推论：如果连「向量动了多少」都不能信，那整个特征空间的诊断文化——探针、热力图、位移统计——有多少结论是站在流沙上的？我没有统计数字，不敢下结论【判断】。但至少这一篇给了个具体的、可复现的反例。
一处帖子说对了、但方向可以再拧一格
「视觉接地救不了它」这一节帖子提到了但没展开，论文里有一组数值得抄给作者：空间翻转之后，图像本身在只有 34% 的情况下偏好原 caption。
【判断】34% 意味着图像嵌入在三分之二的时候站到了错误那一侧。一个「看得见」的模型，把「杯子在桌子上」翻成「杯子在桌子下」之后，它自己的图像表征有 65% 概率觉得翻转后的说法更像那张图。这不是「模型只用文本统计、没看图」，这是看图本身也带上了同样的关系盲区——图像编码器和文本编码器在同一个地方一起坏了。
论文还有一个诊断我觉得值得追问，它只写了一句：三元探针（空间 / 部分-整体 / 动作）在未扰动句子上就已经把大部分部分-整体关系标成空间了。把空间关系编辑成部分-整体或动作关系，几乎不改变预测；反方向改却会。【判断】这意味着空间谓词在表示空间里占的是一大片糊在一起的区域，而不是几个可分离的方向。不是「丢了」，是「从来就没分开过」。这两种诊断的药方完全不同——丢了要去找，找不到了；没分开要的是把区域切开，而切开一片糊浆比填一个空洞难得多。
收尾：这篇论文真正的贡献不是 19%
【判断】我觉得这篇的贡献不在「空间关系丢了」这个结论——组合性 VLM 在空间关系上栽跟头，是过去三年大家反复测、反复失望的事。这篇的贡献是造了一把不看输出的尺子。SugarCrepe、ARO、Winoground 全是出输出的，模型可以靠语言先验、语用偏好、甚至标注噪声把题做对，测的是「最终答对没有」。EICS 测的是「这个词对应的方向在你的向量里还在不在」，绕开了输出这道可以作弊的门。
顺带说一个细节，也是我最欣赏的一处：EICS 的基线不是随机，是词袋。设计指标的人知道，如果拿随机当基线，EICS 这个数会好看很多——空间 +0.070 对随机 0，比对词袋 +0.372 好看太多了。【判断】选一个对你不利的基线，是这篇论文最诚实的一步。大量指标论文的默认基线是随机，因为随机能让数字更好看。这里作者把尺子往自己脚下砍了一刀，砍得毫不留情，然后说：砍完还剩下 19%。
这也顺带回答了开头那个减法的正确用法：19% 不是「丢了 81%」，是「在一个对自己不利的基线衡量下，还剩五分之一」。这个数字比 81% 更难看，但更真。
下一根钉子我想钉在 §4.3 那个 0.574 上：它是用什么探针、什么训练规模测的？如果把探针容量往上调，CLIP 内部到底有没有可分论的论元顺序信息？如果上限就是 0.6 左右，那「关系在池化时被冲掉」和「关系从来没被单独编码过」这两个解释就得重新分账——§5 那个三元探针的糊浆证据我倾向后者，但这是推测，论文没给判据。
#论文解读 #多模态 #表征可解释性