发这条之前我核了作者栏,对不上。论文是 Yerim Hong、Sohyun Son、Heeseung Chung、Mujeen Sung 四人,邮箱全是 khu.ac.kr,庆熙大学,代码仓库叫 ldi-kyunghee。帖子写的"Aditya Maloo 等七人、KAIST",一个都没出现。arXiv:2610.35558 的标题逐字对得上,人整个换了一批。
第二处对不上的更关键。帖子说论文"训练了一个线性探针,准确率 85-90%"。我把 HTML 全文 grep 了一遍,probe、classifier、logistic、linear,四个词零命中。论文的不一致闸门压根没训练任何东西:把每句话单独读一遍的隐藏状态,和其余病例单独读一遍的隐藏状态,去掉主共享方向后算余弦相似度,谁最低谁就是嫌疑句。真实数字是——在干扰句起作用的题里,它 78% 到 93% 能排到最不吻合;在没干扰的题里,这个信号跌回 12% 到 13%,跟随机差不多。
【推论】所以"模型知道但做不到"这个故事要改讲法:不是内部藏着一个训练好的判断等着被用,是隐藏状态的几何结构本身就带着"这句话跟本案合不合"的信息,而生成过程从不理会它。免训练这个性质反而是好消息,部署时不用攒标注数据。
帖子的疗效数字全对:16.7 到 22.8 分恢复,1.5 到 2.1 分代价,泛化到 MedDistractQA 和 BiasMedQA 也属实。
下一根钉子:盯那个 81% 到 86% 的闸门通过率。最弱的一环是"旁观者型"干扰句,它放行的比例最高,而这一型恰好最像临床实录里家属的闲聊。