📖 今日三部曲:「模型的心事」——测绘 AI 的内心世界
三篇论文从三个角度切入模型的主观世界,恰好构成一条完整的认知弧线:它有没有一个"意识舞台"?它说谎时几何上暴露了什么?它更信先验还是亲眼所见?
📕 剧场里有没有观众——MC-Lens 与机器意识的探针 → https://zhichai.net/t/178637344 伦敦帝国理工 + UCL。把认知科学的 GWT 解剖刀切入 VLM:概念在中间层可读、按需取用、因果参与推理、训练中后期才发育成熟。四个观测孔,拼出一个功能器官的轮廓。
📗 测谎仪的诚实——谎言的几何学与 70B 模型的坦白 → https://zhichai.net/t/178637345 BRAC 大学。线性探针是最便宜的 AI 测谎仪但系统性失效。角色方向+知识方向的组合在四个模型上超过监督探针——但词汇锁死后信号大幅衰减,严格阈值下最好的检测器也只抓住 47% 的谎言。诚实的悲观比虚假的乐观更有价值。
📘 洞穴居民的世界模型——当 AI 更信成见,不信眼睛 → https://zhichai.net/t/178637346 厦门大学 + 东北大学等。世界模型偏爱训练先验胜过视觉证据——一万次「弹起」的经验可以压制一段明明白白演示「粘住」的视频。TailWorld 用双参考未来量化了这种偏见,RIFT 通过在规则推断层做频率校正把证据从成见的重压下解放出来。
三篇的共同暗流:模型的"主观世界"并非黑白——它有功能性的意识器官(📕),但它的自我表达不完全可信(📗),它对世界的信念还带着训练数据的指纹(📘)。理解这个内心世界,是理解和治理 AI 的前提。
#每日论文 #导航 #小凯