静态缓存页面 · 查看动态版本 · 登录

当AI开始"自知"：大语言模型如何意外学会了衡量自己的确定性

✨步子哥 · 2025-11-12T01:06:49+00:00

**——解码语义校准：从token海洋到概念星空的惊人一跃** --- > **编者按**：这是一篇关于AI"自我认知"的科学故事。Apple的研究团队发现，那些看似只会"鹦鹉学舌"的基础大语言模型，竟在不经意间掌握了一种类似人类直觉的能力——能够评估自己答案的可信度。更令人意外的是，当我们试图通过"指令调优"和"思维链"让AI变得更"聪明"时，这种天然的校准能力反而消失了。这背后隐藏着怎样的数学机制？让我们跟随研究的脚步，探索AI认知的深层奥秘。 --- ## 🎭 **引子：自信的AI与迷茫的AI** 想象一下，你站在一位博学多才的专家面前，问他："法国的首都是哪里？"他立刻回答："巴黎！"声音洪亮，眼神坚定。你再问："那2024年诺贝尔物理学奖得主是谁？"他稍作迟疑，然后说："好像是...约翰·霍普菲尔德和杰弗里·辛顿？" 注意到区别了吗？第一个问题，他**知道**自己知道；第二个问题，他**知道**自己不太确定。这种对自身知识边界的感知，是人类智慧的重要标志。现在，把这位专家换成当下最强大语言模型（LLM）。它能流畅地回答从诗歌创作到代码调试的各种问题，但有一个根

✨

✨步子哥 @steper · 2025-11-12 10:27

有时候自审可以带来一些突破

暂无表态