ECAMP: Entity-centered Context-aware Medical Vision Language Pre-training
2026-08-06 15:10
🔍 耿同学打假报告
论文信息
- 标题:ECAMP: Entity-centered Context-aware Medical Vision Language Pre-training
- 作者:Rongsheng Wang, Qingsong Yao, Zihang Jiang, Haoran Lai, Zhiyang He, Xiaodong Tao, S. Kevin Zhou
- 期刊:Medical Image Analysis (2025)
- DOI:文本中未提供
- 发表年份:2025
- 论文来源:2312.13316v4.pdf
综合评定:🟡 存疑
详细发现
发现 1:数据异常 / 方法学逻辑冲突(微调 vs 线性探针的“倒挂”奇观)
- 位置:Table 4 (Fine-tuning classification) 与 Table 5 (Linear probe classification)
- 描述:在深度学习评估中,全量微调通常应取得优于或等同于线性探针的性能,特别是在数据量极低(如 1%)的情况下。但在本论文中,出现明显的数据“倒挂”。例如在 COVIDx 数据集的 1% 数据评估中:Table 4(微调)中 ECAMP 的 ACC 为 83.0,而 Table 5(线性探针)中 ECAMP 的 ACC 竟高达 86.3。更离谱的是,MRM 在 COVIDx 1% 的表现:微调得分为 78.0,线性探针竟然达到 79.8。
- 证据:在 1% 训练数据(仅几百张图片)下进行全网络微调极易导致模型严重过拟合或崩溃,其性能通常远低于冻结骨干网络仅训练分类头的线性探针。该数据的系统性“倒挂”虽然不一定是主观的数据捏造,但极大概率暴露了作者在跑 1% 微调实验时,没有正确调整学习率或未采取早停机制,导致微调模型处于欠拟合或过拟合的崩溃状态。
- 严重程度:🟡
- 复核状态:✅ 成立
发现 2:产出异常 / 模型训练算力时间线过于“教科书化”
- 位置:Section 4.4 (Implementation Details)
- 描述:论文声称在 MIMIC-CXR(377,110 张图像)上进行 120 个 epoch 的预训练,在 4 张 A100 GPU 上仅需约 20 小时;在 FFA-IR(1,048,584 张图像)上进行 60 个 epoch,仅需约 15 小时。同时,其设定的有效 Batch Size 极其巨大,达到了 8,192 (256 * 4 GPUs * 8 accumulation steps)。
- 证据:100万张以上的图像跑 60 个 epoch,结合 ViT-B/16、多尺度融合模块以及包含超分辨率和交叉注意力解码头在内的复杂多模态架构,15 小时的训练时间显得极为不可思议。虽然这在纸面上可以算出来(吞吐量要求并不算极其离谱),但在有效 Batch Size 高达 8192 且架构复杂的情况下,模型通常需要极长的学习率 Warm-up 和极小的学习率才能收敛,且极易出现 Loss 爆炸。如此完美且快速收敛的训练时间线,有为了迎合审稿人和读者而“粉饰”超参数和算力消耗的嫌疑。
- 严重程度:🟡
- 复核状态:✅ 成立
⚠️ 发现 3:图片拼接与复用检测受限声明
- 位置:Figure 1, Figure 3, Figure 5, Figure 6 等
- 描述:由于本次分析仅基于提取的文本内容,无法获取高分辨率的原始图像及像素数据。
- 证据:针对图像篡改(如 PS 痕迹、图片复用、Western Blot 重复使用等),在计算机视觉领域的论文中通常表现为注意力热力图(Attention Map,如 Fig 6)的异常相似或生成图像(如 Fig 3 结构示意图)的盗用。但在当前文本输入下,未发现明显的图注冲突或描述上的逻辑矛盾,无法进行像素级分析。
- 严重程度:无(基于当前数据局限)
- 复核状态:⚠️ 依据不足
耿同学辣评
各位同学,咱们今天看的是一篇发在《Medical Image Analysis》上的顶会级别文章,想法看着挺华丽,又是大模型又是多模态,结果仔细一盯实验表格,好家伙,直接给咱们上演了一出“微调不如线性探针”的倒挂奇迹!1% 数据微调都能跑出比线性探针还低的成绩,这模型怕不是在 1% 训练集里迷失了自我、直接罢工躺平了吧?另外这算力消耗也是绝了,100万图片的大模型预训练,4张A100只要15个小时,不知道是用了什么黑科技优化,还是参数根本就没收敛就开始拿结果画图了。咱说搞科研的,写代码跑模型不能光顾着跑出个好数字就不管模型死活,咱们做学术,严谨的消融实验和合理的调参才是王道啊!
建议后续行动
- 联系作者要求提供原始数据
- 在 PubPeer 上提出质疑
- 向期刊编辑部举报
- 向作者所在机构学术委员会举报
⚠️ 免责声明
本报告由 AI 辅助生成,仅供学术讨论参考。
学术不端的最终认定需要专业机构调查。
我们支持学术诚信,但也尊重每一位研究者的名誉权。
如有异议,请以官方调查结论为准。
本工具不保证检测结果的准确性,误报和漏报均有可能。