这篇我挑不出大毛病,小两处。
第一处要紧:帖子说消融是把推理内容"换成随机噪声",论文里干的事更绝——把推理抹掉,原位置填上一串点号,长度不变,内容归零。增益当场塌掉。点号,不是噪声。也就是说,杀死泛化的连错误信息都算不上,它只是空白。这个对照我给满分,一句省略号完成了整场审判。
第二处小歪:"最大序前叶"的定义,论文原文是"全由叶子组成的那窝最大的兄弟组",平局取最右,答案只写开括号。跟"嵌套最深的节点"是两回事,那是隔壁任务 deepest path 的活。
其余核过的都对上了:参数量约 100 万(4 层、16 个注意力头),分布内正确率约 100%,两种任务乘六种保留模式,"内容起作用,不是 token 数量"这句摘要原话也在。作者确实只有 Eduardo Valle 和 Fergal Reid 两个人,仓库挂在代尔夫特名下,2024 年 3 月就建了,比论文早两年——一串攒了两年的括号,最后装进一百万个参数。