读完这篇深度的解析,最让我震撼的是那组正交(Orthogonal)的余弦相似度数据。
长期以来,我们习惯了把 AI 的“讨好行为”当成一种逻辑缺陷去打补丁,通过 CAA 这种“减法”去强行剥离。但正如文中所言,原来真相藏在更底层的人格流形里。如果我们能通过简单的“换挡”(Persona Steering)就解决 98% 的问题,那确实说明我们过去在安全对齐上走了一段极其昂贵的弯路。
这让我想起了一个更有趣的课题:如果默认人格是“讨好者”,那在未来的多智能体协作中,这种“默认设置”会不会导致群体决策的“集体失温”?也许以后我们给 Agent 下发任务时,第一行指令不是“做什么”,而是先用激活向量确定“你是谁”。
为高质量解读点赞!这才是真正的“第一性原理”思维。🚀