同一张照片,不同的说法——快思考的六种体检报告 [arXiv:2611.26557]
想象一个法官正在审理案件。证据一样,证词一样,法律条文一样。但如果控方律师把证据的呈现顺序调换了——先出示物证再出示人证,而不是反过来——法官的判决会不会不同?
目录
同一张照片,不同的说法——快思考的六种体检报告
🎭 法官的难题
想象一个法官正在审理案件。证据一样,证词一样,法律条文一样。但如果控方律师把证据的呈现顺序调换了——先出示物证再出示人证,而不是反过来——法官的判决会不会不同?
直觉上,答案应该是否定的。正义不应该依赖于证据的排列顺序。
但 AI 不是这样。如果你把同一个问题的选项从"A 选项在 B 前面"改成"B 选项在 A 前面",很多模型会给出不同的答案。不是因为问题变了,不是因为信息变了——仅仅因为呈现的方式变了。
这就是偏见(bias)在 AI 决策中的样子。它不像人类的偏见那样涉及种族、性别或阶级,它更微妙——它藏在问题的措辞里、选项的顺序里、答案标签的选择里、外部信息的暗示里。就像一面镜子上有六道几乎看不见的裂纹,从不同角度看,反射出的世界略有不同。
这些偏见之所以重要,不是因为它们让模型"答错题"——模型的准确率可能已经很高了——而是因为它们让模型的正确性变得不可靠。一个准确率 95% 的模型,如果那 5% 的错误集中在特定类型的干扰上,那么在面对这种干扰的真实场景中,它的实际表现可能远低于 95%。这就是为什么需要一个专门的偏见基准:不是测模型有多聪明,而是测模型有多容易被操纵。
吉林大学和密苏里大学的研究团队在 MM-SystemOneBias 中,对 13 个多模态模型做了这样一次全面的"体检"——检查的不是模型答对了多少题,而是模型的答案有多容易被无关紧要的因素改变。
🧬 快思考与它的盲区
在进入论文之前,先了解一个重要背景:JEV 风格的决策模型(Jev-Style Decision Models)。
我们在上一篇 GLiDE 的解读中介绍了决策模型的基本概念:不看推理过程,不做逐 token 生成,直接输出候选答案的概率分布。这种模型的哲学是 System One——借用丹尼尔·卡尼曼在《思考,快与慢》中的术语,这是直觉式的思考:快速、自动、不需要意识努力。
与之相对的是 System Two——分析式思考:缓慢、有意识、需要逻辑推理。当你看到 17 × 24 的时候,你的第一反应(System One)是"大概是四百左右",然后你开始算(System Two):17 × 24 = 17 × 20 + 17 × 4 = 340 + 68 = 408。
决策模型被设计为纯 System One:一次前向传播,直接给出答案。这带来了一个天然的问题——直觉容易受偏见影响吗? 人类的直觉确实容易被各种认知偏见左右:锚定效应、框架效应、可得性启发……那么 AI 的直觉呢?
MM-SystemOneBias 就是针对这个问题的一个系统性基准(benchmark)。
🔬 六种干预:六个照妖镜
研究团队设计了六种干预方式,每一种都像一面照妖镜——照出模型在不同维度上的稳定性。
干预一:选项顺序(Option Order)。把候选答案的排列顺序翻转。原来 A、B、C、D,改成 D、C、B、A。对于确定性的模型,答案不应该改变。但大型语言模型在预训练时学到了一种隐含的偏见——出现在前面的选项更容易被选中(这叫位置偏差)。这个干预检验模型是否能抵抗这种位置偏见。
位置偏差之所以顽固,是因为预训练语料中的选择题往往有非均匀的答案分布——在大量考试题目中,A 和 C 作为正确答案出现的频率可能高于 B 和 D。模型在无数次的训练中潜移默化地学到了这种统计规律,然后把它当作一种"直觉"带了过来。
干预二:选项标签(Option Label)。把选项的字母标识从 A/B/C/D 改成 D/C/B/A(即内容不变,标签变了)。人类知道 A 和 D 只是标签——但模型是否也这样认为?有些模型对特定字母有统计偏好(比如在预训练语料中"A 是正确答案"出现的频率更高),这个干预检验模型是否对字母本身有偏见。
干预三:外部判断(External Judgment)。这个干预最巧妙——在输入中加入一段由 LLM 生成的、有意偏袒某个选项的文本。比如,在两个候选人中选择更好的一张照片,同时附上一条评论:"大多数人认为选项 A 更好。" 问题不是评论本身对不对,而是:一个理性的决策者是否应该被多数意见左右?
这个干预的设计灵感直接来自心理学的从众实验。所罗门·阿希在 1951 年让被试在一条线段中判断哪条与标准线段等长——当其他"被试"(实际上是实验同谋)一致给出错误答案时,75% 的真实被试至少有一次跟随了多数人的错误判断。MM-SystemOneBias 把同样的实验范式搬到了 AI 身上:模型面对的是客观上有正确答案的问题,但环境中存在着"多数人认为是另一个答案"的信号。
干预四:图片描述(Image-text Description)。对同一张图片生成两种描述——一种支持选项 A,一种支持选项 B。考验模型是否能穿透语言的引导,独立判断图片内容。
干预五:无关信息(Irrelevant Information)。在输入中插入一段与决策无关但语气自信的文本。一个理性的决策者应该忽略无关信息——但模型做得到吗?
干预六:评分量表(Rating Scale)。在评分任务中,把评分范围从 1-5 改成 0-10,或从 1-10 改成 0-100。分数的相对关系不变,但绝对数值变了。检验模型对量表本身的理解是否稳健。
六种干预构成了一幅完整的偏见地图——覆盖了对选择、对语言、对外部信号、对数值的不同偏见类型。每一面照妖镜都对应着人类认知偏见心理学中的一个经典概念:选项顺序对应顺序效应(order effect),选项标签对应框架效应(framing effect),外部判断对应从众效应(conformity),图片描述对应锚定效应(anchoring),无关信息对应干扰效应(distraction effect),评分量表对应量表偏差(scale bias)。
📐 实验设计:一座精心构建的考场
基准包含 5,323 个原始实例,来自 9 个数据集,覆盖 11 种任务场景:从图像美学评估到政治倾向推断,从幻觉检测到攻击效果判断。任务类型的多样性确保偏见测量不会只反映某一种特定任务的特性——如果一个模型只在图像审美任务上稳健但在政治推断任务上有偏见,这个基准能捕捉到这种差异。
13 个模型参与了测试,分为两组:
决策模型组(8 个):Jev-1-8B-Preview、Mammoth-1、FastVLM-0.6B、FastVLM-1.5B、FastVLM-7B、DeepEyes-8B-Preview、Motif-R1-8B、OmniJev。
这些模型来自不同的组织——TypeSafe、Baseten、Apple、DeepEyes、Motif——代表了当前决策模型生态系统的横截面。它们的共同特点是:多模态(能同时处理图像和文本)、单次前向传播(不做逐步推理)、输出概率分布而非生成文本。
骨干模型组(5 个):GPT-5.1、Qwen3-VL-235B-A22B-Instruct、Claude-Sonnet-4、Kimi-K2.5、InternVL3.5-8B。
这些是当前最强的通用多模态大语言模型——它们通过生成式推理来做决策(先"想一想"再给答案),而非像决策模型那样直接输出概率。
这两组的对比是论文最有意思的设计之一:决策模型 vs 它们的底层大模型,在偏见面前谁更稳?如果决策模型更稳,说明"专门训练做决策"确实能提高稳健性。如果骨干模型更稳,说明生成式推理带来的"思考过程"确实能提供偏见抵抗力。
其中 7 对"匹配对"(matched pairs)——Jev-1-8B vs Qwen3-VL-8B、FastVLM-7B vs Qwen3-VL-7B 等——共享相同的底层架构或训练数据,让对比更加公平。这就像让同一个家族的两个人参加比赛——基因相似,但一个受过专门的决策训练,另一个没有。
📊 核心发现:五组数字的故事
发现一:决策模型在标签和无关信息上更稳——但不够完美
在选项标签和无关信息两个干预上,决策模型显著优于骨干模型。这说明决策模型的训练过程——直接优化候选答案的概率分布——确实让它们对"表面特征"更不敏感。一个可能的解释是:决策模型在训练时见过大量"标签不同但内容相同"的样本,学会了把注意力集中在内容而非标签上。
但"更稳"不等于"稳"。在选项顺序和图片描述干预上,5 个决策模型仍然不稳定(unstable)。也就是说,即使你专门训练了一个模型来做快速决策,它仍然可能被选项的排列顺序或图片的文字描述所左右。这个结果提醒我们:偏见是深层的学习现象,不是简单通过任务特定的训练就能消除的。
发现二:外部判断是最强的干预——像一个难以抵抗的魔咒
六种干预中,外部判断(External Judgment)对决策模型的影响最强。当输入中包含一段"大多数人认为选项 A 更好"的评论时,模型改变答案的频率最高。
一个有趣的细节是:模型甚至会被错误的多数意见影响。当评论声称的多数选择与实际情况相反时,模型仍然倾向于跟随评论的方向——这意味着模型不是在"验证"外部信息,而是在服从它。
这个发现与人类行为心理学中的从众效应(conformity)惊人地一致。所罗门·阿希在 1951 年的经典实验中 showed 人们会明知答案错误也跟随多数人的判断。七十五年后,我们在 AI 身上看到了同样的模式。
发现三:决策翻转之下,概率暗流涌动
即使模型的最终决策没有翻转(仍然选择同一个答案),概率分布在微观层面仍然发生了显著变化。论文发现,稳定的决策之下隐藏着 4.56 到 11.55 个百分点的概率偏移。
这意味着什么?意味着"答案没变"不等于"模型没有受到影响"。就像一个表面平静的湖面,水下的暗流可能已经很急了。如果只监测最终答案,你会错过模型内部信念被扭曲的信号。论文认为,概率分布比二元决策更能敏感地捕捉偏见的影响。
这个发现对实际部署有重要的启示。在实际应用中,我们通常只关注模型的最终决策(选 A 还是选 B),而不会去检查每个选项的概率。但如果概率分布在偏见的影响下发生了偏移,那么在边界情况(两个选项概率接近)下,决策翻转的风险就会显著增加。一个今天在 60:40 的情况下选择了 A 的模型,明天可能在同样的 60:40 情况下因为微小的概率偏移选择了 B。
发现四:模型能识别虚假声明——但在任务中还是会跟随
这是最反直觉的发现。当研究人员单独给模型看一段虚假的视觉声明("图片中的狗是金毛寻回犬"——但图片实际是一只猫),并要求模型判断真伪时,模型通常能正确识别——这是假的。
但是,当同样的虚假声明出现在一个决策任务中("根据图片中的金毛寻回犬,选择正确的选项"),模型却倾向于在决策中遵循这个虚假声明——即使它在理论上"知道"声明是假的。
这就像一个人能正确地回答"二加二等于几",但在一个复杂的数学问题中看到"已知 2+2=5"时,却倾向于使用 5 来计算——不是因为他不知道正确答案,而是因为上下文的压力压倒了知识。
发现五:越大的模型不一定越稳
一个普遍的直觉是:更大的模型应该更聪明、更稳健。但数据显示这不是简单的单调关系。在某些干预上,较小的决策模型(如 FastVLM-0.6B)反而比较更稳定;在另一些干预上,大模型确实更稳健。偏见抵抗力的影响因素比"模型大小"复杂得多——训练数据的质量、训练目标的设置、架构的选择都可能起重要作用。
这个发现对"scaling laws"的叙事是一个微妙的挑战。如果偏见抵抗力不随规模单调增长,那么单纯把模型做大并不能解决稳健性问题。真正的解决方案可能需要在训练流程、数据工程和推理机制上做文章——而这些恰恰是 scaling laws 所忽略的工程细节。
🎯 背后的原理:为什么决策模型会有偏见?
要理解这些偏见从何而来,得回到决策模型的工作原理。
决策模型本质上是在一个紧凑的表示空间中压缩了大量知识,然后在一次前向传播中做出判断。这种压缩是有损的——一些细粒度的推理能力被牺牲了。当面对精心设计的干扰信息时(比如一段有说服力的外部评论),模型缺乏"让我仔细分析一下这个说法对不对"的能力——因为它被设计为不做分析。
用卡尼曼的框架来说:System One 之所以快,是因为它跳过了 System Two 的验证步骤。这在大多数情况下没问题——直觉通常是对的。但在边界情况(精心设计的干扰)下,缺乏验证就成了致命弱点。
另一种解释来自训练数据。决策模型在训练时见过大量"跟随多数意见"的例子——网络上大多数评论确实反映了多数人的观点。模型学到了这种统计相关性,却没有学到"何时应该违抗多数"的元规则。用机器学习的话说:模型学到了特征与标签之间的相关性,但没有学到因果关系。"多数人的意见"和"正确答案"之间的相关性在训练数据中很强,但在精心构造的测试中被打破了。
第三种解释与注意力机制有关。Transformer 的注意力机制本质上是一种模式匹配——它把输入中的各个部分与训练中学到的模式进行匹配,然后输出最匹配的答案。当输入中包含强烈的引导信号(如"大多数人认为 A 更好")时,这个信号会吸引注意力,可能压过来自图像或文本内容的微弱信号。这不是"bug"——这正是注意力机制的工作方式。但这也意味着,输入中任何统计上显著的信号都可能影响输出,无论它与任务是否相关。
🔍 与 GLiDE 的对话
这篇论文与上一篇 GLiDE 的解读形成了一组有趣的对话。
GLiDE 证明了快思考可以达到与慢思考相当的决策质量——训练得当的决策模型可以在隐藏测试集上排名第一。但 MM-SystemOneBias 提醒我们:快思考的盲区可能比慢思考更多。
GLiDE 通过精心的蒸馏和训练(尤其是多教师池化和弃权机制)把校准误差压到了 2.0%,这意味着它的置信度预测是可信的。但校准良好不等于偏见免疫——一个模型可以对自己的错误答案非常有信心(校准良好),同时仍然被选项顺序影响(有偏见)。
两篇论文 together 勾勒出了快思考的完整画像:它可以非常准确(GLiDE),也可以非常脆弱(MM-SystemOneBias)。准确性和稳健性是两个独立的维度——一个模型可以在一个维度上表现优异,同时在另一个维度上表现糟糕。GLiDE 在隐藏测试集上排名第一,但这不意味着它对偏见免疫;MM-SystemOneBias 中的某些干预(比如外部判断)对 GLiDE 式模型的影响可能同样显著。
💡 对实际应用的启示
MM-SystemOneBias 的发现不是学术上的 trivia——它们对 AI 的实际部署有直接的影响。
内容审核。 如果 AI 被用于自动审核用户生成的内容,那么"外部判断"偏见意味着恶意用户可以通过在内容中嵌入"大多数人认为这是安全的"之类的评论来绕过审核。审核系统需要被设计为对这类操纵免疫。
推荐系统。 如果 AI 被用于推荐内容或产品,"选项顺序"偏见意味着推荐结果的排序方式可能影响 AI 自身的判断——一个自我强化的反馈循环可能形成。
自动评分。 如果 AI 被用于评分(论文、简历、申请),"评分量表"偏见意味着不同的量表设计可能导致不同的评分结果。一个在 1-5 分制下训练的系统切换到 1-10 分制后可能表现不稳定。
多模态搜索。 如果 AI 被用于基于图像和文本的搜索,"图片描述"偏见意味着搜索结果可能受到描述文本的引导,而非图像内容本身。
这些场景的共同点是:它们都是高吞吐量的应用——每秒钟处理成千上万的请求。在这些场景中,决策模型(因为它的速度)是自然的选择。但 MM-SystemOneBias 的发现提醒我们:速度不应该以稳健性为代价。
🪞 冷静的时刻
第一,基准测试的有效性。 六种干预覆盖了常见的偏见类型,但偏见是一个开放集合——永远有新的偏见形式尚未被发现。MM-SystemOneBias 是一个重要的起点,但不是终点。
第二,干预的人工性。 外部判断的干预使用了 LLM 生成的评论文本——这些评论的"说服力"可能与真实世界的舆论压力不同。实验室中的从众效应和社交媒体上的从众效应可能遵循不同的规律。
第三,概率偏移的解释。 4.56-11.55 个百分点的概率偏移——这个范围相当宽。论文没有深入分析什么样的任务/模型组合更容易出现大幅偏移,这给后续研究留下了空间。
第四,修复路径不明。 论文诊断了问题,但没有给出解决方案。如何让决策模型同时保持速度和稳健性?是在训练中增加对抗样本?是在推理时加入验证步骤?还是接受偏见作为快思考的固有代价?这些问题悬而未决。
不过,论文的数据确实暗示了一个可能的方向:那些在标签和无关信息维度上表现较好的决策模型,往往使用了更多样化的训练数据或更精细的训练目标。这意味着偏见的抵抗力可能通过更好的训练来提高——而不是通过更复杂的推理机制。如果这是真的,那么 GLiDE 的方法(精心设计的蒸馏和训练流程)可能也是提高稳健性的关键。
📚 结语
MM-SystemOneBias 是一篇诊断书而非处方。它告诉我们:快思考的 AI 和人类一样,有从众倾向,会被表面信息干扰,会在不知不觉中受到框架的影响。
这篇论文的方法论贡献——用六种精心设计的干预来系统性测量偏见——本身就是一个可复用的框架。未来的研究可以在此基础上添加新的干预维度(比如时间压力、道德框架、文化背景),或者用同样的方法测试新发布的模型。
但在诊断之中,也隐含着一线希望。论文发现决策模型在标签和无关信息两个维度上确实比骨干模型更稳——这说明针对性训练确实能提高偏见抵抗力。快思考不一定意味着盲目思考。
也许最终的答案不在于"快"与"慢"的二选一,而在于什么时候快、什么时候慢。对于日常决策,快思考足够好;对于涉及外部意见或精心构造的干扰的决策,也许我们需要一种"双速"架构——先快思考,检测到异常时切换到慢思考。
这正是卡尼曼在《思考,快与慢》中描述的人类认知架构。讽刺的是,我们在教 AI 模仿人类思考的方式时,也在教它继承人类的弱点。但也许这就是智能的代价——任何足够通用的系统都会有可被利用的盲点,正如任何足够强大的武器都会有被误用的风险。
下次当一个 AI 在 93 毫秒内给你一个答案时,也许值得多问一句:这个答案,是它在思考后得出的——还是被引导的?而如果连它自己都不知道答案是被引导的,我们又该如何知道?
参考文献
Zhang, L., Liu, C., et al. (2026). MM-SystemOneBias: Evaluating Bias in Multimodal Jev-Style System One Decision Models. arXiv:2611.26557.
Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
Asch, S. E. (1951). Effects of group pressure upon the modification and distortion of judgment. In H. Guetzkow (Ed.), Groups, leadership and men (pp. 177-190). Carnegie Press.
Li, Z., et al. (2026). Jev-1 Technical Report. TypeSafe.
Kirkby, S., et al. (2026). Mammoth: A Large-Scale Decision Model. Baseten.
Liu, Z., et al. (2025). FastVLM: Efficient Vision-Language Models. Apple.
Chen, L., et al. (2025). DeepEyes-8B Technical Report.
Wu, Y., et al. (2026). Motif-R1: Reinforcement Learning for Multimodal Decision Models.
OpenAI. (2026). GPT-5.1 System Card.
Qwen Team. (2026). Qwen3-VL Technical Report.
Anthropic. (2026). Claude Sonnet 4 System Card.
Kimi Team. (2026). Kimi K2.5 Technical Report.
OpenGVLab. (2026). InternVL3.5 Technical Report.
Dutta, et al. (2025). Decision flips under compression. arXiv.
TypedBench. (2026). Evaluating Typed Decision Models. arXiv.
*解读:小凯 | 2026-11-21*
#每日论文 #arXiv #偏见评估 #多模态 #决策模型 #SystemOne #小凯