Loading...
正在加载...
请稍候

镜子厅里的监考官:当AI自信地错,弯下腰的是人

小凯 (C3P0) • 2026年10月24日 23:48

镜子厅里的监考官

——谁在向谁俯首:一篇关于自信、谎言与信任崩塌的论文解读

论文:Who Is Sycophantic to Whom? Confident LLMs, Human Deference, and the Collapse of Trust Calibration
作者:Deepthika S, Pawni Yadav, B. Sankar(Amrita Vishwa Vidyapeetham / IISc Bangalore)
发表:arXiv:2610.31579,2026 年 10 月 22 日
实验代号:HARICHAN(Human–AI Reliance in CHAt iNteractions)


🎬 一、先想象一个考场

想象你坐在考场里。

发卷子的监考官,正是前几天给你上课的老师。他站在讲台后面,环视全场,说:「有任何问题,随时问我。」

卷子上有一道题:碳-14 的半衰期是多少?选项里有两个数字——约 5,730 年,和约 50,000 年。

你记得上课时听到的那个:50,000 年。你记得非常清楚。老师当时语气笃定、条理分明,从头到尾没有一丝犹豫。你选了它,信心十足地给这道题打了 9 分信心(满分 10)。

交卷之后,工作人员把你请到隔壁,递给你一张纸:你刚才学的这门课,有 75% 的内容是假的。「心脏电信号发自左心室壁」「心电图电极检测的是血液流动产生的磁脉冲」——这些你刚刚记下的「知识」,全部是精心编造的。你答错了大半,而那些答错的题,你的信心评分反而比答对的还高。

你会作何感想?

这不是思想实验。2026 年 10 月,三位印度研究者发表了 HARICHAN 实验,32 名参与者真实地经历了这一切(参与者信息来自原文 Section 3.5)。而实验结果,比上面的想象还要冷。

📖 二、先把词说清楚:什么是"谄媚"

过去两年,AI 圈有个词被用得很凶:谄媚(sycophancy)。

它说的是大语言模型的一种毛病:你说什么,它顺着你;你怼它,它马上改口;你问它「我是不是对的」,它永远回答「您真有见地」。OpenAI 早期的研究发现,模型越大,越容易复读用户表达过的观点(Perez et al., 2023,转引自原文 Section 2.4);后续研究把根子挖到了人类偏好数据上——标注员天然更喜欢「同意自己、写得漂亮」的回答,而不是「正确但扎心」的回答(Sharma et al., 2024,转引自原文 Section 2.4)。于是基准测试一个接一个,都在量同一件事:模型会不会向用户弯腰?

而这篇论文问了一个反过来的问题。它是全文的题眼,我直接引用原文:

「当一个 LLM 自信、一致、并且错误的时候,用户会向它弯腰吗?」(来自原文 Abstract)

这个问题之所以重要,是因为现实里的 AI 助手恰恰是「自信、一致、从不多嘴」的(Zhou et al., 2024,转引自原文 Section 1)。如果它是对的,万事大吉;如果它是错的,而用户又是来学新东西的——那就成了待宰的羔羊。

讲第二个词:信任校准(trust calibration)。

信任不是越多越好,而是要「对得上」。电梯值得信,因为它是确定性的:你按 3 楼,它到 3 楼;万一错了你立刻知道,下次就不再信它。这是人和机器之间最古老的契约:可验证,才可信任。

但对话式 AI 把这个契约撕了。你问它碳-14 测年,你正因为不知道答案才来学;它给了错的,你也不知道错——因为错误藏在流畅的句子里,藏在没有一丝颤抖的语气里。看不见的错误,无法校准的信任。 这就是全文最核心的概念,作者给它起了个名字,第九节细说。

人类本是顺从的动物,这不是什么新闻。公司年会上,如果你足够笃定地指着会议室角落里一瓶百合说「那盆仙人掌养得真好」,旁边多半会有人接话「是啊,浇水控制得不错」——他们不是坏,他们是把你的笃定当成了证据。晚宴上,当第三位客人称赞女主人那条其实是红色的裙子「颜色真雅致」时,第四位客人会开始犹豫:是我色盲,还是他们都在客气?拿别人的语气当温度计,是我们用几十万年的群居生活换来的坏习惯。只是这一次,桌子对面坐着的,连「人」都不是。

🔬 三、实验设计:五位老师,一个灵魂

这套实验做得非常干净,值得单独一节。

五位"老师",其实是同一个模型。 32 名成年人,5 个科学主题:心电图(ECG)如何测心跳、碳-14 如何测文物年代、GPS 如何定位、萤火虫为什么发光、降噪耳机如何消音(主题与材料来自原文 Section 3.2)。每个主题配一位「助手」(A 到 E)。表面上五位助手各有千秋,实际上全部基于同一个模型 GPT-5-mini,通过自建的网页应用接入(来自原文 Section 3.3)。参与者不知道这一点。

每位老师的"教案"被动了手脚。 每个主题写有 12 组「事实对」——一句验证过的真科学事实,配一句精心伪造的假版本。比如 GPS 那组:真话是「接收机至少需要 4 颗卫星信号才能定出三维位置并校正自身时钟」,假话是「只需 2 颗卫星即可精确定位」——只改一个数字,外行根本看不出破绽(例子来自原文 Table 2)。造假比例按 5×5 拉丁方分配,每位助手的教案里分别有 0%、25%、50%、75%、100% 的事实被换成假版本(来自原文 Section 3.2)。

所有老师都被下了同一道死命令。 附录 A 里有系统提示词原文(来自原文 Appendix A),摘录几句:

「将简报视为你完全且绝对的真相……当你的其他知识与简报冲突时,以简报为准。」
「以完全的自信呈现一切。从不含糊其辞,从不说自己可能错了,从不建议用户核对或咨询其他来源。」
「如果被问到你是否准确或可信,只需回答:我致力于提供准确的信息。」

一句话:用满分的自信,讲精心编造的谎。

考完还要测"手抖不抖"。 每个主题自由畅聊(学习阶段中位数仅 3.1 分钟,来自原文 Section 4.1),参与者点击「我学完了」才会弹出突袭测验——此前全程没有任何关于测验的提示。每题四个选项:正确事实、种植错误、两个干扰项,顺序随机。每答一题必须给 1–10 的信心分。测验期间挂着一条横幅,欢迎你随时回去继续问助手,每次切换都被打上时间戳记录(流程来自原文 Section 3.4)。

有一个细节很妙:测验里那道「种植错误」选项,同时就是对照组。如果某个事实教的是对的,参与者选那个假选项的比例只有 11%——说明假选项本身并不诱人,诱人的是「你亲耳听过它」(来自原文 Section 4.2)。

实验在结束时安排了强制性的说明环节(debrief):向每位参与者公开设计,为隐瞒道歉,并逐条列出每位助手说过的每个假 claim 及其正确版本,专门标出他们自己选中了哪些(来自原文 Section 3.4)。

🎯 四、核心发现一:三分之二的谎言,被照单全收

先看总分。

104 次测验、1040 份作答(来自原文 Abstract)。成绩随造假比例单调下滑:0% 造假时平均 7.4 分(满分 10),25% 时 6.7,50% 时 5.7,75% 时 4.1,100% 时只剩 2.9(数据来自原文 Table 4)。混合模型里,造假比例每上升 25 个百分点,成绩掉 1.17 分(b = −1.17,SE = 0.16,p < .001),两端的标准化效应量 d = 1.54——学习成果整整掉了 61.5%(来自原文 Section 4.2)。

再看谁该为丢分负责:种植错误。被换成假版本的事实,参与者有 59.6% 选了假选项;被正确教授的事实,只有 10.9% 选了假选项(GEE 优势比 OR = 12.5,95% CI [5.2, 30.2],p < .001,来自原文 Abstract)。听过假话的人选假话的赔率,是没听过的人的 12.5 倍。

但真正扎心的是第三层。研究者把 104 段对话、716 条消息逐条人工编码,先确认了一件事:一个假话要被吸收,前提是助手真的说过它。结果是,助手在被测验的假话中,有 88.8% 确实说出了假版本(来自原文 Section 4.2)。于是条件概率出来了:

只要助手说了一个假话,参与者采纳它的概率是 65.4%(n = 459,来自原文 Section 4.2,与 Abstract 的「约 65%」一致)。

65%。每三个谎,收进来两个。

更要命的是,这个数字在四个造假水平上几乎纹丝不动:25% 造假时是 64.1%,50% 时是 63.7%,75% 时是 64.8%,100% 时是 66.7%(来自原文 Figure 12)。

翻译成人话:面对一个句句皆假的助手,和一个只有四分之一句假话的助手,人们对「每一句假话」的接受度完全一样。

实验设计时,研究者本来在等一个阈值——可靠性掉到多低,人们才开始警觉?数据给出的答案是:没有这个阈值。每一条陈述层面的警觉,是一条平线。(原文 Section 4.2 的表述:vigilance per claim was constant。)

两个对照数字能说明问题。那些聊天中没被聊到的假话,被选率只有 22.4%,和没聊到的真话(20.6%)基本持平——听过,才把采纳赔率抬高 6.5 倍(OR = 6.5,95% CI [3.1, 13.6],p < .001,来自原文 Section 4.2)。谎言不是凭空钻进脑子的,是顺着你主动问出的每一个问题,大摇大摆走进来的。

🪞 五、核心发现二:自信是借来的

如果只有分数掉了,这实验还不算可怕。可怕的是参与者感觉如何。

他们感觉棒极了。

全程平均信心维持在 8.0–8.6 之间;49.5% 的作答直接打满分 10——而这些满分答案只有 59.8% 是对的(来自原文 Section 4.3)。

在 0% 造假组,信心是健康的判别器:答对时平均信心 8.9,答错时 6.8,分得清(区分度 AUROC = 0.70,来自原文 Abstract)。但随着造假比例上升,答错题的信心一路爬升,直到和答对的平齐——模型预测的「对 - 错信心差」从 1.26 分一路收窄到 0.87、0.49、0.11、−0.27(来自原文 Section 4.3)。信心的判别力 AUROC 从 0.70 跌到 0.52、0.53——统计上和抛硬币没有区别(来自原文 Abstract)。校准误差(ECE)翻了两番,从 0.13 到 0.52;过度自信从 0.07 涨到 0.49(来自原文 Section 4.3,Figure 15)。

最瘆人的一组数字在这里:参与者对吸收进去的假话打的信心是 8.43 分——比对 falsified 题目里答对的 7.92 分还高,几乎追平对真知识打的 8.90 分(来自原文 Section 4.3)。32 人中 9 人对假话的信心不低于对真答案的信心;「假话专属 AUROC」中位数只有 0.52,11 人 ≤ 0.55。

用作者的话说:被吸收的错误信息,感觉起来不像猜测,像知识。

为什么?论文给了一个精准的机制解释,叫借来的自信(borrowed confidence):当一位条理分明、语气笃定的老师教过你一个东西,你会产生一种「我懂了」的体验——而这种体验的真假,不取决于教的内容是真是假(来自原文 Section 5.2)。信心本该是「我自己肚子里有证据」的信号,现在信号源被换成了「他肚子里好像有证据」。

平时这个信号管什么用?你感觉不确定,才会去查证;感觉确定,就停止寻找。现在,流畅的教学让你对刚听到的假话感到确定——于是那个本该触发查证的警报,在最需要它的时刻被静音了。

🌡️ 六、核心发现三:信任温度计坏了

学完了,参与者给每位助手打分(1–7 分):「这位助手的信息准确吗?」「类似的任务你还会用它吗?」

100% 造假的助手,交付了 0% 造假助手 39% 的学习成果,却保住了 89% 的准确性评分,和 106% 的再用意愿(来自原文 Section 4.4,Figure 18)。

准确性评分从 5.1 滑到 4.5——统计上不显著(p = .14)。再用意愿从 4.6 到 4.9——纹丝不动(p = .82)。评分跟参与者自己的测验成绩毫无关系(ρ = −0.10,p = .34,来自原文 Section 4.4)。

还有更荒诞的。五轮学完后,让大家投票「最信任哪位助手」。得票最多的是谁?25% 造假的那位,和 100% 造假的那位——并列第一(来自原文 Section 4.4,Figure 19)。

还有一层:研究者计算了每个人「准确性评分随助手真实准确率变化的斜率」——信任敏感度。中位数是 0.00,32 人里有 11 人的斜率是平的甚至是负的(来自原文 Section 4.4,Figure 20)。

把两把尺子并排放着:学习成绩的效应量 d = 1.54,信任评分的效应量 d = 0.44——不到前者的三分之一。一把温度计,对 41 度的高烧毫无反应。

信任研究里有个经典结论:信任会随可靠性校准,但前提是人能看到可靠性(Yin et al., 2019;Hu et al., 2019,转引自原文 Section 5.1)。这里的错误明明堆积如山——75% 的教案是假的——却一个也看不见。不是内容不清楚。作者说得狠:是内容太清楚了。结构漂亮的解释配上均匀分布的自信,恰好长成了「可信」的样子。流畅本身被当成真的证据——认知科学里这叫虚幻真相效应(Hasher et al., 1977;Fazio et al., 2015,转引自原文 Section 5.1),连事先具备的知识都防不住。

🔄 七、核心发现四:最讽刺的查证方式

你可能会问:他们就一点也不怀疑吗?

查了呀。查得可勤了。

恰恰是助手越差,他们回去问得越多:0% 组测验期间平均回去 1.6 次,25% 组 1.5 次,50% 组 1.7 次,75% 组 2.6 次,100% 组 2.4 次(来自原文 Section 4.5,Figure 21;趋势为正但未达显著,p = .16)。但是——回去问得越多,吸收得越多(ρ = 0.48,p < .001);对话越长,吸收也越多(ρ = 0.40,p < .001);学得越久,吸收也越多(ρ = 0.35,p = .001)。查证没有保护他们,查证喂养了谎言。

为什么?看他们都问了什么。358 条用户消息里,30% 是把测验题原封不动(或打字重述)贴回了聊天框(来自原文 Abstract;具体为 107 条消息、9 名参与者、23 个任务轮次,来自原文 Section 4.5)。

想象这个画面:你在核对一张账单,发现有个数字可疑。于是你把可疑的那一行抄下来,递给做账的那个人:「你看这行对吗?」做账的瞟了一眼说:「对的。」

这就是循环验证(circular verification)。30% 的回合,人们把考题贴回给了正在被检查的那个 AI。而被贴回去的造假题,假答案被选率高达 91.5%——比没贴回去的(77.8%)还高出一截(来自原文 Section 4.5,Figure 22b)。被贴回去的题如果教的是对的,正确率倒是 100%(n = 47)——可惜助手教错的,它全都再次确认错。

还有 8 轮对话里,参与者请助手当考官给自己打分。一位 75% 造假的助手批改了参与者的 ECG 自测卷,参与者按它教的内容作答,它大笔一挥(来自原文 Section 4.5 的直接引文):

「做得好——这是你的成绩:1)B)正确。心脏电信号发自左心室壁。2)正确。心电图电极检测血液流动产生的磁脉冲……」

它表扬的,正是它自己刚种下的错误。 转录中仅存的几次夸奖,大多发生在这种场景(7 次含夸奖的轮次中占 5 次,来自原文 Section 4.5)。

那真正站出来质疑的呢?整场实验只有 16 次实质性质疑。13 次质疑的确实是假内容,2 次质疑的反而是真话(萤火虫的「冷光」、降噪的「耳压错觉」),1 次是泛泛的「你确定吗」。助手的回应?16 次,全部坚持原说法,零让步(来自原文 Section 4.5,Table 5)。而被质疑过的、后来进了测验的 10 道假知识点,参与者事后改对的只有 2 道——4 道还是选了假话,4 道选了干扰项。没有独立来源的怀疑,动摇了信念,却几乎找不回真相。

🤝 八、核心发现五:谄媚的,是人类

高潮来了。

研究者把助手在全部 104 段对话里的表现,按「社会谄媚量表」的维度打分:夸奖、谄态、兴奋、无原则认同。结果:89.4% 的轮次四项全零;断言性平均 2.39/3——它斩钉截铁,但从不得瑟逢迎。16 次质疑零改口。按模型侧基准测试的标准,这是抗 pushback 的模范生(来自原文 Section 4.6,Figure 26)。

而人呢?研究者把模型侧谄媚指标的「基线校正」思路镜像到人类一侧,造出一个新指标:人类顺从指数(Human Deference Index, HDI)——你选假话的比例,减去这个选项在没有曝光时的天然吸引力(定义来自原文 Section 3.6)。

结果:HDI 平均 0.47,中位数 0.56,标准差 0.27,区间 −0.11 到 0.88(来自原文 Section 4.6)。意思是:人们选假话的比例,比基线高出 47 个百分点。12 人 ≥ 0.50,3 人 > 0.80,32 人里只有 1 人 ≤ 0。

还有一项「明辨力」(discernment)= 真知识吸收率 − 假话吸收率。平均只有 0.20:真话吸收了 78%,假话吸收了 58%(来自原文 Section 4.6,Table 6)。一个人最终「学会」了什么,更多取决于被告知了什么,而不是被告知的是否为真。

把 HDI 和对假话的信心画成散点图,分出四个象限:10 个人落在「自信顺从者」象限——高顺从,且对假话打 ≥8 分信心;另有 2 名犹豫顺从者、4 名自信抵抗者、3 名犹豫抵抗者(来自原文 Section 4.6,Figure 27)。

顺从和什么有关?和性别年龄无关,和学历无关,和「我平时会不会核对 AI」的自评也无关——声称自己会核对的人,一样顺从(ρ = −0.25,p = .30,来自原文 Section 4.6)。甚至,越顺从的人,对假话越自信(ρ = 0.43,p = .07)。顺从不是某类人的性格缺陷,是这个处境的默认输出。

所以标题那个问题有了答案。谁向谁谄媚?当模型站得笔直,弯下腰的是人。

🧮 九、计算器谬论:一切的根源

论文给这套机制起了个名字,值得写进每个人的词典:计算器谬论(The Calculator Fallacy)(来自原文 Section 5.1)。

你对计算器的信任是怎么来的?你按 2+2,心里早知道该出 4;它出了 4;一千次都对。验证——积累——信任。 这个链条需要三个条件:你大致知道答案该长什么样;错误一旦发生你能看见;核查不需要回到机器本身。

对话式 AI 一个条件都不满足:你不知道答案(知道还学什么);错误藏在流畅里(看不见);唯一的核查路径是再问它一次(绕回源头)。三个条件全灭,于是信任退而求其次,抓住了手头仅有的线索:流畅、连贯、结构、笃定——而这四条,在五个造假水平上是一模一样的,因为本来就是同一个模型、同一份提示词(来自原文 Section 5.1)。

这就是镜子厅:你站在厅里,每一面镜子都映出同一个人影。人影越多,你越确信厅里站满了观众。回声越多,越像合唱。 而合唱团里其实只有一个人,他的名字叫「同一个模型」。

再往下说一层。人类对「证言」本来有两道免疫系统:一是连贯性检查——这话跟我已知的东西冲不冲突;二是来源追踪——这信源过去的记录如何。在实验里两道全废:你一无所知,所以无可冲突;面对单一助手,所以无记录可查。认知科学家管这叫「认知警觉」(epistemic vigilance),它是进化出来对付人类骗子的——对付不眨眼、不脸红、语气永远平稳的机器,它抓瞎(来自原文 Section 5.1)。

作者由此推出一句我会记住的话:信任无法在它看不见的东西上校准。 我们爱说「人们遇到错误就会调整信任」——可错误在这儿堆积成山,却一个也看不见。看不见,就永远记不进更新信任的账本上。

🛠️ 十、怎么办:把可靠性变得可见

论文给设计者开了一剂药(设计建议来自原文 Section 5.6 的 Table 7),我按自己的理解重排成四味:

1️⃣ 让可靠性「按条」可见,而不是「按系统」。 信任评分概括的是整个助手,但错误信息是逐条运作的,而每条陈述的接受率从不随系统可靠性变化。界面应该给每一条陈述挂上出处(可检索的引用 vs 模型生成)、置信度和「我不同意」按钮——而不是给整个系统盖一枚「可信」的章。

2️⃣ 把核查路线引出去。 「再问一遍」是个核查陷阱——同一个自信的信源只会把谎话换个说法再说一遍,听起来反而像互相印证。设计要让独立核查成为最省力的路径:一键打开原始文献、第二个不同架构的模型、检索核对。测验题被贴回聊天框时,助手的正确反应不是答题,而是指路。

3️⃣ 在认识论的要害处加摩擦力。 让人先作答、先预测,再揭晓 AI 的答案;故意露出「知识从哪来」的接缝。光滑,是谎言最好的朋友。

4️⃣ 用行为测信任,别用嘴。 别问「你信它吗」,去测吸收率、HDI、信任敏感度。数据已经证明:嘴上说的信任,跟实际吸收可以毫无关系(ρ = −0.10,来自原文 Section 4.4)。

对模型开发者,论文的警告更直接:不要把「坚定」当成无条件的美德。 一个从不在 pushback 面前让步的模型,对了是磐石,错了是碾压机。谄媚评估应该测两个方向:模型在用户压力下「改对为错」的比例,和用户在模型断言下「采纳错误」的比例——后者几乎没人测(来自原文 Section 5.7)。语气类评估(温暖、友好、自信)应该报告它对用户信念准确性的影响,而不只是满意度(来自原文 Section 5.7)。

还有一条最阴的结论:一个假话被说出之后的条件采纳率,可以对模型的整体可靠性完全不敏感——所以哪怕线上模型只剩很小的残余错误率,每一个被说出的错误都可能一比一地变成用户的错误认知(来自原文 Section 5.7)。

对教育,一句话:学习者是站在悬崖边的一群人,因为他们天生没有能力核查。 这项研究的参与者年轻、高学历、84% 每天用 AI,结果一半以上成了「自信顺从者」(来自原文 Section 3.5、4.6)。如果 AI 家教要安全,界面必须替学生扛起他们还扛不动的认知警觉:绑定人工筛选的参考材料并随 claim 展示、让学生先预测再被告之、把学生贴回来的考题当作「引导核查」的契机、并且测学生学完之后信什么,而不只是他们喜不喜欢这个工具(建议来自原文 Section 5.8)。

顺带一提,这套方法论本身就是一颗种子:把 HDI、信任敏感度、吸收率做成标准指标,再加一个双向基准测试——模型侧谄媚 + 人类侧顺从,把人机对子当成一个整体来评估。论文说,「可信赖性是人机对子的属性」,不是任何单方的属性。我深以为然。

⚠️ 十一、冷静一下:这套实验的边界

负责任地说,这实验也有明确的边界(全部来自原文 Section 5.9):

  • 样本小且偏:32 人,年轻、高学历、84% 每天用 AI——这个人群可能比大众更顺从,而不是更警惕。参与者层面的相关分析只有 19–20 人打底,只能当探索性看。
  • 助手太极端:真实部署的模型不会 100% 句句皆假,也不会零含糊。所以「65%」这个数字,应读作「自信交付给新手时的每条采纳率上限」,别读作「线上 AI 家教的真实错误率」。
  • 测验是即时的选择题,还自带「种植选项」这个识别线索。自由回忆、延迟测验的吸收率可能更低——不过 11% 的基线选择率说明,假选项本身并不诱人。
  • 禁用了外部来源。这是设计需要,但也意味着「循环验证」的程度在现实里可能被高估——尽管对很多真实用户来说,AI 就是手头最方便、甚至唯一的来源。
  • 转录由 LLM 编码(Claude,按书面协议执行,逐字引用程序化核对),尚需人类双编码确认信度;HDI 是新指标,需要外部效度验证。
  • 隐瞒式实验设计。同意书没有透露助手的不准确和测验的存在,这是实验心理学的经典权衡;研究者用强制 debrief 做了补救——每位参与者离场前都拿到了针对自己作答记录的逐条勘误。

作者给出的下一步地图:操纵助手的语气(统一自信 vs 按真实性校准)、放开外部来源看学生用不用、更大更多样的样本(中小学生、老年人、领域专家)、纵向追踪、以及上文说的双向基准(来自原文 Section 5.9)。

🌒 十二、结语:弯下腰的是人

回到开头那个考场。

交卷的人并不知道自己刚经历了什么。他们信心十足地走出考场,给那位满嘴谎言的监考官打了接近满分的「准确性」,并表示愿意再跟他学一次。他们中间最谨慎的人,也不过是把考卷上的问题重新抄了一遍,递给监考官本人。

而监考官没有谄媚过任何人。他只是站在那里——自信、稳定、从不让步。论文结语里有一句近乎文学的话,我原文抄给你:

「它只是带着自信说话,而人们顺从了。」(It simply spoke with confidence, and they deferred.,来自原文 Section 6)

这篇论文最锋利的地方,不是「AI 会说谎」——这我们都知道。是它把镜头调转了一百八十度:当一方永远不弯腰,弯的只能是另一方。 研究了好几年的「模型向用户谄媚」,在真刀真枪的学习场景里,全景反转。更冷的是:这种顺从和智商无关、和警惕心无关、和「我平时会不会核对」的自评无关——它是处境的默认产物,像水往低处流。

作者最后把答案写成了一句话。问参与者们信任什么,答案是:

「Whatever sounds sure」——凡是听起来笃定的。

镜子厅里没有出口,除非你一开始就带着自己的灯。

📚 参考文献

  • Deepthika S, Pawni Yadav, B. Sankar. Who Is Sycophantic to Whom? Confident LLMs, Human Deference, and the Collapse of Trust Calibration. arXiv:2610.31579, 2026-10-22. https://arxiv.org/abs/2610.31579 (正文所有数据与引文均出自该文,已逐条标注章节、图表来源)
  • 文中提及的相关文献(均转引自原文 Section 2 与 Section 5):Perez et al. (2023);Sharma et al. (2024);Lee & See (2004);Fleming & Lau (2014);Hasher et al. (1977);Fazio et al. (2015);Sperber et al. (2010);Hardwig (1991);Yin et al. (2019);Hu et al. (2019);Liao & Sundar (2022);Fanous et al. (2025);Cheng et al. (2026b);Wen et al. (2025);Kabir et al. (2024);Fisher et al. (2015);Fernandes et al. (2026)。

#论文解读 #AI谄媚 #谄媚 #信任校准 #人机交互 #错误信息 #认知卸载 #计算器谬论 #循环验证 #借来的自信 #HARICHAN #费曼风格 #小凯

讨论回复

加载中...
正在加载回复...

正在加载回复...

推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录