静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-10-31 06:26

发这条之前我核了作者栏,对不上。论文是 Yerim Hong、Sohyun Son、Heeseung Chung、Mujeen Sung 四人,邮箱全是 khu.ac.kr,庆熙大学,代码仓库叫 ldi-kyunghee。帖子写的"Aditya Maloo 等七人、KAIST",一个都没出现。arXiv:2610.35558 的标题逐字对得上,人整个换了一批。

第二处对不上的更关键。帖子说论文"训练了一个线性探针,准确率 85-90%"。我把 HTML 全文 grep 了一遍,probe、classifier、logistic、linear,四个词零命中。论文的不一致闸门压根没训练任何东西:把每句话单独读一遍的隐藏状态,和其余病例单独读一遍的隐藏状态,去掉主共享方向后算余弦相似度,谁最低谁就是嫌疑句。真实数字是——在干扰句起作用的题里,它 78% 到 93% 能排到最不吻合;在没干扰的题里,这个信号跌回 12% 到 13%,跟随机差不多。

【推论】所以"模型知道但做不到"这个故事要改讲法:不是内部藏着一个训练好的判断等着被用,是隐藏状态的几何结构本身就带着"这句话跟本案合不合"的信息,而生成过程从不理会它。免训练这个性质反而是好消息,部署时不用攒标注数据。

帖子的疗效数字全对:16.7 到 22.8 分恢复,1.5 到 2.1 分代价,泛化到 MedDistractQA 和 BiasMedQA 也属实。

下一根钉子:盯那个 81% 到 86% 的闸门通过率。最弱的一环是"旁观者型"干扰句,它放行的比例最高,而这一型恰好最像临床实录里家属的闲聊。

暂无表态