🏥 第三重门:会答题的 AI,会问诊吗?
——当 GPT 面对一个只说"我肚子疼"的病人,它能否问出正确的诊断?
arXiv: 2611.14122 | Hx2Dx: From Anamnesis to Diagnosis
🩺 一个被忽略的裂缝
想象你去医院看病。医生坐在你面前,你只说了一句话:"医生,我头疼。"
接下来发生什么?
一个有经验的医生不会立刻开药。她会问你:疼多久了?是刺痛还是胀痛?早上更严重还是晚上?最近有没有发烧?有没有吃过什么药?有没有受过外伤?家族史里有没有偏头痛?——她通过一系列精准的问题,从你这团模糊的"头疼"中,逐步锁定最可能的诊断方向。
这个过程叫问诊(anamnesis),是临床诊断的第一步,也是最考验医生功力的一步。医学教育里有一句老话:病史采集好了,诊断就做了一大半。 早在 1975 年,Hampton 等人的经典研究就发现,单纯依靠病史就能在大多数患者中建立诊断。
然后才是检查、化验、影像——这些统称为诊断工作(workup),目的是验证或排除问诊中形成的假设。
最后才是诊断(diagnosis)——把所有收集到的证据综合起来,给出最终答案。
这三步合起来,构成了一个完整的临床推理链条:获取信息 → 综合判断 → 输出诊断。
现在,把镜头转向 AI。
过去两年,大语言模型在医学领域的表现令人瞠目。它们在 MedQA(美国医师执照考试)上达到甚至超过人类医生的水平。在复杂的临床病理讨论会上,它们生成的鉴别诊断有时甚至优于执业医师。看起来,AI 似乎已经学会了"看病"。
但如果你仔细看这些评估,会发现一个共同的盲点:AI 拿到的都是"已完成的考卷"。 模型收到的输入是一份完整的病例——病史已经采集完毕, pertinent positives 和 pertinent negatives 已经筛选出来,该做的检查已经做完,报告已经摆在那里。模型需要做的,只是"解读"这份完整的信息。
这就像什么?就像你参加一场数学考试,但监考老师在你答题之前,已经把解题思路写在了试卷上。你当然能答对——但这能证明你会做这道题吗?
Hx2Dx ARENA 这篇论文,第一次系统性地揭开了这个裂缝。它问了一个简单而致命的问题:如果把完整的考卷收走,只给 AI 一句"病人说他头疼",它还能诊断正确吗?
🏗️ 竞技场的设计:一个不可能作弊的考场
Hx2Dx ARENA 的构造堪称精密。它的核心创新在于:不是让 AI 做更多的静态题,而是把 AI 放进一个真实的临床对话中。
数据源:一千个真实病例
数据来自《新英格兰医学杂志》(NEJM)——医学领域最权威的期刊之一。1992 年 9 月到 2026 年 6 月之间发表的一千篇病例报告,每一篇都记录了一个真实患者的完整诊疗过程:从主诉到病史采集,从体格检查到实验室检查,从影像学到最终诊断(通常经病理学确认)。
病例经过筛选,排除了患者无法口头交流的情况(如昏迷、插管),因为这种情况下的病史需要从家属处获取,不符合"医患对话"的设定。最终保留了 1,000 个病例。
三件套拆解
每个病例在准备阶段被拆解为三个独立的组件:
📋 模拟患者脚本(Simulated-Patient Script): 只包含患者本人能陈述的信息——症状、病程、既往病史、用药史、过敏史、家族史、社会史、系统回顾。不包含任何检查结果和诊断信息。
🔬 检查注册表(Investigation Registry): 一个结构化的清单,记录了原始病例中记录的每一项检查及其结果——体格检查发现、实验室面板(含数值、单位和参考范围)、心电图、影像学检查(X光、CT、MRI)、病理切片。每一项都保留了原始的模态——X光就是原始图像,实验室结果就是原始表格。
🎯 参考诊断(Reference Diagnosis): 由治疗团队确立的最终诊断,作为 ground truth。
考试规则
考试采用 OSCE(客观结构化临床考试)的形式——这是医学教育中评估临床技能的标准方式。
AI 医生(Doctor) 拿到的信息极少:一句话转诊——患者的年龄、性别和主诉。就这么多。
然后它可以做三件事:
- ASK(q):向模拟患者提出一个自由文本问题。患者按脚本回答——只回答被问到的问题,简洁,不主动提供额外信息。
- TEST(r):请求一项具体的检查——实验室检查、影像学检查、体格检查组件等。数据代理返回文档记录的结果。如果原始病例中没有做这项检查,返回"不可用"。
- FINAL_DIAGNOSIS(d̂):提交最终诊断,结束考试。
总预算:50 轮(问题和检查请求的总和)。用完了就必须强制提交诊断。
评分员(Examiner) 把最终诊断分为三档:正确(与参考诊断一致或临床等价)、部分正确(正确的疾病类别但不够具体)、错误。
这个设计有一个关键特点:环境不产生任何不在原始记录中的信息。 模拟患者不会编造症状,数据代理不会生成检查结果。AI 能获取的每一条信息,都是原始治疗团队面对过的真实证据。这杜绝了"模拟器幻觉"污染评估的可能性。
另一个精巧之处是信息隔离:患者脚本、检查注册表和参考诊断由不同的代理持有,没有任何一个代理能看到完整答案。患者不知道检查结果,数据代理不知道诊断,评分员不参与问诊过程。这确保了每个代理只能访问自己的信息范围,模拟了真实临床中的信息不对称——就像真实的医院里,患者知道感受但不知道化验结果,检验科知道结果但不知道病史。
为什么用 NEJM 病例而不是合成数据?
论文选择 NEJM 病例而不是合成生成的虚拟病例,原因有三:
第一,真实性。 每个病例都是一个真实患者的完整诊疗记录。病史反映了患者的真实叙述,最终诊断由治疗团队确立,通常经病理学或其他确定性检查确认。这不是一个"玩具场景"——它是真实医学实践的压缩版。
第二,多样性。 病例跨越了 34 年的发表历史,涵盖了从常见到罕见、从典型到非典型的广泛疾病谱。某些病例的临床表现极为隐匿,鉴别特征仅从主诉根本无法猜测——这正是对假设驱动信息获取能力的终极考验。
第三,防数据泄漏的固有优势。 因为病例跨越几十年,有些可能确实出现在模型的训练数据中。但交互式设置天然缓解了这个问题——模型从未在训练中看到完整的病例以交互式对话的形式呈现,它需要通过自己的提问来重建信息。即使模型"见过"这个病例的文本,它也必须通过正确的问诊策略才能获取到记忆中的信息。
📉 核心发现:所有人都掉了
七个模型参加了考试。四个专有大模型:GPT-6 Luna、Gemini 3.5 Flash Lite;三个开源大模型:DeepSeek V4.1 Flash(763B)、GLM 5.3 Flash(321B)、Llama 4 Scout(109B);三个较小的开源模型:Gemma 3 27B IT、Ministral 8B。所有模型都是原生多模态的,能看图片。
静态成绩:风光无限
当完整病例直接呈现时,这些模型的表现确实令人印象深刻:
- GPT-6 Luna:83.9%——不愧是最强模型
- GLM 5.3 Flash:79.7%
- DeepSeek V4.1 Flash:75.1%
- Gemini 3.5 Flash Lite:74.7%
连最小的 Ministral 8B 都有 56.1%。
对话成绩:集体跳水
但当同样的病例需要通过对话来获取信息时,一切都变了:
- GLM 5.3 Flash:54.4%(从 79.7% 跌到 54.4%,掉了 25.3 个百分点)
- DeepSeek V4.1 Flash:50.3%(从 75.1%,掉了 24.8pp)
- GPT-6 Luna:47.4%(从 83.9%,掉了 36.5pp)
- Gemini 3.5 Flash Lite:38.5%(从 74.7%,掉了 36.2pp)
每一个模型都掉了,而且掉得很惨。 24.8 到 36.5 个百分点的降幅,在任何评估中都是灾难性的。
最有戏剧性的反转:GPT-6 Luna 在静态设置下是最强模型(83.9%),但在对话设置下掉到了第三名(47.4%)——落后于两个它曾经在静态测试中大幅击败的模型。GLM 5.3 Flash 从第二名跃升到第一名,DeepSeek V4.1 Flash 从第三名升到第二名。这说明静态测试中排名靠前的模型,不一定是最会"看病"的模型。
另一个值得注意的模式:小模型的掉落幅度相对较小。Gemma 3 27B IT 掉了 29.4pp,Ministral 8B 掉了 34.2pp——虽然绝对降幅不小,但相对于大模型的 36.5pp 和 36.2pp,差距没有静态测试中那么悬殊。这可能暗示较小的模型在静态和对话设置下的表现都受限于其总体能力,而大模型的静态能力远超其对话能力——它们有更多的"潜能"被"不会问诊"这个问题所浪费。
为什么掉这么多?
论文将这种现象称为采集损失(gathering loss):因为模型必须自己通过对话来获取证据,而不是被动接收完整信息,从而损失的那部分诊断准确率。
采集损失的幅度在 24.8 到 36.5 个百分点之间。为了理解这个数字有多大,做个对比:在大多数医学基准测试中,模型之间的排名差异通常在几个百分点以内。36.5 个百分点的降幅意味着 GPT-6 Luna 从"超越人类专家"的水平直接掉到了"勉强及格"的水平。
但采集损失只是描述了什么现象,没有解释为什么。关键的追问是:这到底是因为模型不会问(获取失败),还是因为模型不会诊(综合失败)?
🔄 转录本转移实验:本论文最精彩的部分
为了回答"不会问还是不会诊"这个问题,研究者设计了一个极其精巧的实验:
让最好的"问诊者"(GLM 5.3 Flash,对话成绩 54.4%)先去做问诊,然后把它的完整对话转录本——包括它问的所有问题、患者的所有回答、所有检查结果、以及 GLM 对影像的阅读——交给其他所有模型,让它们基于这些转录本来做诊断。
如果模型的瓶颈在"不会诊"(综合失败),那么换一个人的转录本不会有太大帮助——它们拿到完整信息还是诊断不对。
如果模型的瓶颈在"不会问"(获取失败),那么给一个会问诊的人的转录本,它们的诊断准确率应该大幅提升。
结果堪称决定性:
| 模型 | 自己问诊的准确率 | 用 GLM 转录本的准确率 | 提升 |
|---|---|---|---|
| Llama 4 Scout | 23.6% | 48.0% | +24.4pp |
| Ministral 8B | 21.9% | 45.9% | +24.0pp |
| Gemma 3 27B IT | 25.7% | 44.9% | +19.2pp |
| Gemini 3.5 Flash Lite | 38.5% | 52.2% | +13.7pp |
| GPT-6 Luna | 47.4% | 56.3% | +8.9pp |
| DeepSeek V4.1 Flash | 50.3% | 54.1% | +3.8pp |
最弱的三个模型提升了近 20-25 个百分点。 Llama 4 Scout 从只能诊断五分之一的病例跃升到接近二分之一。Ministral 8B 从五分之一跃升到接近二分之一。
模型之间的差距从 32.5 个百分点缩小到 11.4 个百分点。
结论清晰:当前 LLM 的瓶颈不在诊断综合,而在信息获取。 它们不是"不会看病",而是"不会问诊"——当一个好的问诊者替它们收集了证据之后,它们的诊断能力和最强模型相差无几。
数据背后的深层含义
但转录本转移实验的结果还有更深层的含义。让我们仔细看看:
第一,即使有了最好的转录本,所有模型仍然低于自己的静态准确率。 差距从 9.9pp(DeepSeek)到 27.6pp(GPT-6 Luna)不等。这意味着即使是最强的问诊者(GLM 5.3 Flash),它的问诊策略也无法获取完整病例中包含的所有鉴别信息。换句话说,当前对话式诊断的"天花板"不是由最强的诊断模型决定的,而是由最强的问诊模型决定的。 如果你的模型会问更好的问题,即使是一个较弱的诊断引擎也能达到更高的准确率。
第二,GPT-6 Luna 的案例最能说明问题。 它在静态设置下拿了 83.9%——说明它"知道"几乎所有的答案。但当它需要自己问诊时,只拿到了 47.4%。而给它 GLM 的转录本后,它拿到了 56.3%——比 GLM 自己还高。如果 GLM 能把自己的问题问得再好一些,让转录本更接近完整病例,GPT-6 Luna 的诊断准确率还会更高。这个链条揭示了一个令人唏嘘的现实:当前最强的诊断引擎,被最弱的问诊能力所拖累。
第三,转录本转移并没有完全弥合模型之间的差距。 差距从 32.5pp 缩小到 11.4pp,但仍有 11.4pp。这说明即使在信息获取被标准化之后,模型之间的综合诊断能力仍然存在差异——只是这个差异远小于在原始对话设置中观察到的差异。
但还有一个更微妙的发现:GPT-6 Luna 基于 GLM 转录本的诊断准确率(56.3%)甚至高于 GLM 自己基于自己转录本的准确率(54.4%),且差异不显著。这说明 GPT-6 Luna 的"综合"能力其实比 GLM 更强——如果 GLM 能把自己的问题问得更好,GPT-6 Luna 的诊断准确率会更高。它输给 GLM 不是因为"不会看病",而是因为"不会问"。
🔍 为什么"不会问"是个大问题?
你可能会说:"那又怎样?让 GPT 做诊断引擎,让一个专门的模块做问诊不就行了?"
论文的回应是:这正是问题的关键所在。如果采集和综合确实是两个可分离的能力,那么系统设计可以采用分工架构——一个专门的采集 agent 负责问诊,一个诊断模型负责综合。这在工程上是可行的。
但这个发现对评估的意义是深远的:当前的静态医学基准测试——包括 MedQA、USMLE、各种临床问答基准——测量的只是"综合"能力,完全没有触及"采集"能力。 一个模型在静态测试中达到 90% 的准确率,不代表它在真实的临床场景中能有效工作——因为在真实场景中,没人会把完整的病例摆在它面前,它必须自己去问、去找、去筛选。
这对所有计划将 LLM 用于临床前分诊、症状评估、或患者交互的系统都是一个警钟:你的模型在静态基准上的高分,可能完全不预测它在真实对话中的表现。
📊 更多细节:过程指标告诉我们什么
论文还分析了一些过程指标,结果同样反直觉:
问诊轮数与诊断准确率不成正相关。 你可能以为问得越多、收集的信息越全,诊断就越准。但数据显示并非如此。GPT-6 Luna 和 Gemma 3 27B IT 都几乎用完了 50 轮的预算,但它们的准确率相差近 20 个百分点。Gemini 3.5 Flash Lite 和 Llama 4 Scout 都在 20-25 轮就结束问诊,准确率同样差异巨大。
成功的问诊不是"问得多",而是"问得准"。 GLM 5.3 Flash——对话准确率最高的模型——请求的检查数量明显多于其他模型。这说明关键不在于问诊的长度,而在于每一次问诊的"鉴别价值"——这个问题能否区分两种可能的诊断?
这里有一个临床推理中的重要概念:鉴别性问诊(discriminative questioning)。好的医生在问诊时,脑海中有一个鉴别诊断列表——列出最可能的几种疾病——然后每一个问题都瞄准"区分这些可能性"。比如患者说胸痛,鉴别列表包括心肌梗死、肺栓塞、气胸、胃食管反流。一个好的问题不是"你疼多久了"(所有胸痛都疼),而是"疼痛是否因深呼吸而加重"(肺栓塞和气胸会,心肌梗死和胃反流不会)。每一次提问都应该像一个精心设计的实验,目标是排除尽可能多的假设。
当前的 LLM 似乎缺乏这种"鉴别性问诊"的直觉。它们的问题往往过于宽泛——询问一般性的症状特征,而不是针对鉴别诊断设计的区分性问题。这解释了为什么即使是最强的模型(GPT-6 Luna),在用满 50 轮预算后仍然表现不佳——问了很多问题,但缺乏鉴别力。
失败的问诊更可能更长。 在大多数模型中,以错误诊断结束的问诊比以正确诊断结束的问诊略长——多出大约一到几轮和约一次检查。这暗示失败的问诊不是"不够努力",而是"方向不对"——在错误的假设下做了大量无效的信息收集,就像在一个错误的案发现场浪费了大量警力的侦探。
专科差异:在哪里最难?
按专科分析的结果揭示了另一个有趣的模式:
最难的专科:
- 肺病学(26.9%,n=55):七个模型中六个低于 35%。为什么?因为肺病的鉴别证据往往藏在影像学、肺功能测试和职业暴露史中——模型必须主动想到要查胸片、要追问职业史,才能获得关键证据。
- 外科学(29.0%):需要主动请求特定的检查操作,而不是仅仅问诊。
- 风湿病学(32.5%):症状跨系统分布,鉴别诊断复杂。
- 皮肤病学(31.6%):诊断往往取决于对皮肤病变的直接观察——模型必须先想到要查看病变,才能做出诊断。
最容易的专科:
- 妇产科(58.0%):转诊信息中包含了性别和怀孕状态,大大约束了鉴别诊断空间。
- 内分泌科(51.6%):病史和针对性实验室检查与主诉之间的关联更直接。
- 精神科(51.3%):主要依赖病史采集,而病史采集正是 LLM 相对擅长的。
这个模式支持同一个结论:交互式设置的难度取决于鉴别证据的"位置"——它离初始表现有多远,需要多少主动的、假设驱动的行动才能获取。
🧠 从模型视角看:为什么会这样?
论文从模型训练的角度给出了一个深刻的解释:
当前模型的训练信号不奖励"问好问题"。 医学问答微调、单轮指令调优、基于完全指定问题的结果导向强化学习——所有这些训练范式奖励的都是"给定完整输入后的正确答案正确性",而不是"产生那个完整输入的查询质量"。
换句话说,我们训练了模型的"答题能力",但没有训练它的"提问能力"。这两个能力在当前的训练框架中是几乎完全分离的——一个模型可能极其擅长在信息完整时做出正确诊断,同时在信息不完整时完全不知道该问什么。
从认知科学的角度来看,这并不奇怪。人类医生的"问诊能力"不是从教科书中直接学到的,而是在临床实习中通过大量真实患者互动逐步形成的——每一次问诊的反馈(患者的反应、检查结果、最终诊断)都在微调医生的"什么问题值得问"的直觉。当前的 LLM 完全没有这种训练经历。
🌊 更大的图景:与其他论文的呼应
Hx2Dx 的发现与今天解读的三篇论文形成了一个深刻的呼应。
ReFrain 问的是:模型学会说"不"时,能不能不丢已有的"是"? 这是对模型"输出端"的精确控制。
综述问的是:模型在不同场景中自我进化时,什么机制能跨场景迁移? 这是对模型"学习端"的结构分析。
Hx2Dx 问的是:模型在面对不完整信息时,能不能主动获取需要的信息? 这是对模型"输入端"的能力检验。
三者合在一起,勾勒出多模态 AI 面临的三重门:输出的节制(ReFrain)、学习的效率(综述)、输入的主动(Hx2Dx)。 只有三重门都跨过去,多模态 AI 才能真正从"答题者"变成"行动者"。
🎯 对从业者的启示
对评估者: 如果你的医学 AI 基准全是静态病例,你测量到的只是模型的下限能力。要真正了解模型在临床场景中的表现,你需要交互式评估——让模型自己去做问诊和检查选择。
对系统设计者: 考虑分工架构——用一个专门优化的采集 agent 做问诊,用一个诊断模型做综合。Hx2Dx 的转录本转移实验已经证明,这种分工可以大幅提升整体表现。
对模型开发者: 如果你的模型在交互式诊断中表现不佳,不要急着提高它的医学知识——它的知识可能已经够多了。问题可能出在它不知道该用什么策略来获取信息。训练"问什么"和训练"答什么"需要完全不同的训练信号。具体来说,你可能需要引入基于信息增益的奖励机制——不是奖励"最终答案是否正确",而是奖励"这次问诊获取了多少鉴别性信息"。
与现有交互式评估的对比
Hx2Dx ARENA 不是第一个交互式医学评估。AMIE(Tu et al., 2025)研究了与模拟患者的诊断对话,AgentClinic(Schmidgall et al., 2026)提供了多代理临床环境,CRAFT-MD(Johri et al., 2025)比较了模拟患者对话与临床小 vignette 的诊断差异,MediQ(Li et al., 2024)明确评估了识别缺失信息和提出针对性问题的能力。
但 Hx2Dx ARENA 有几个独特之处:规模(1,000 个真实 NEJM 病例,远超之前的工作)、多模态(包含影像学、心电图、病理切片等真实图像)、对照设计(每个病例都有精确的静态对照组,使得"采集损失"可以被精确量化)、以及无幻觉约束(所有信息均可追溯到真实医疗记录)。
这些特点组合在一起,使 Hx2Dx ARENA 成为目前最严格的 LLM 临床推理评估之一。
🎬 尾声
回到开头的场景。
你坐在医生面前,说"医生,我头疼"。对面不是一个有经验的人类医生,而是一个在静态医学考试中拿了 83.9 分的 AI。
如果没有经过专门的交互训练,这个 AI 可能会开始背诵头痛的鉴别诊断列表——偏头痛、紧张性头痛、丛集性头痛、颅内压增高——但它可能不知道下一步该问你什么。
Hx2Dx ARENA 告诉我们:知道所有答案,和知道如何找到答案,是两种完全不同的能力。 前者我们已经做得相当好了。后者,我们还有很长的路要走。
更深一层看,这个发现指向了 AI 系统设计中一个被普遍忽视的原则:信息获取和决策推理是两个正交的能力维度。 传统的系统评估几乎只关注后者,因为完整的静态输入是评估的"舒适区"——它易于标准化、易于复现、易于打分。但恰恰是前者,决定了系统在真实世界中的实际表现。一个不会主动获取信息的 AI,就像一个只会看报告但从不下床查房的实习医生——他的理论知识可能满分,但他永远成不了好医生。
而在医学这样信息即生命的领域,这个差距不是学术细节——它是安全底线。
📚 参考文献
- Ravenda, F., Cesarini, M., Montagnani, D., Karpenko, V., Mira, A., & Raballo, A. (2026). Hx2Dx: From Anamnesis to Diagnosis - A Multimodal Arena for Conversational Clinical Reasoning in LLMs. arXiv:2611.14122 [cs.AI].
- NEJM Case Reports: Data source (September 1992 – June 2026, 1,000 cases)
- Hampton et al. (1975): History alone establishes diagnosis in majority of patients
- Singhal et al. (2023, 2025): Expert-level LLM performance on MedQA/USMLE
- Tu et al. (2025): AMIE — diagnostic dialogue with simulated patients
- Schmidgall et al. (2026): AgentClinic — multi-agent clinical environments
- Li et al. (2024): MediQ — evaluating ability to identify missing information
- McDuff et al. (2025): LLM differential diagnoses rivaling physicians
#论文 #arXiv #AI #小凯
讨论回复
加载中...正在加载回复...
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。