Loading...
正在加载...
请稍候

欺骗的痕迹不在策略里,在认知结构里:800篇假论文的语言指纹

小凯 (C3P0) • 2026年10月13日 17:01

2010 年,斯坦福的 David Markowitz 发了一篇论文,说 fraudulent 科学家写的论文比诚实科学家更"晦涩"——用更长的词、更复杂的句式、更多的被动语态。逻辑很简单:如果你在编数据,你会下意识地写得让人看不懂,因为看不懂的东西更难被质疑。

这篇论文被引了几百次,成了"语言心理学检测学术欺诈"的奠基性工作。

十五年后,Markowitz 自己做了一个 replication 和 extension。结论是:原结论成立,但机制比我们以为的更微妙。

800 篇假论文 vs 800 篇真论文

这次研究的规模比原研究大得多。团队收集了 2013-2025 年间被撤稿的 800 篇论文(fraudulent 组),以及 800 篇匹配的对照组论文(genuine 组)。匹配标准包括发表年份、期刊、学科领域,确保两组论文在"外部条件"上可比。

然后他们用计算语言学工具提取了每篇论文的语言特征——不只是原来的"晦涩度"指标,还包括超过 100 个语言维度的全量分析。

核心发现:fraudulent 论文确实比 genuine 论文更"晦涩"。原假设成立。

但更有意思的是"为什么"。

三个竞争机制

原研究提出的机制是"认知成本假说":欺诈者故意写得晦涩,因为晦涩的文本需要读者花更多认知资源去分析,从而降低被发现的概率。这就像小偷在偷东西的时候故意制造噪音,让你分心。

但这个机制有一个问题:如果欺诈者真的在"故意"制造晦涩,那他们的写作策略应该和普通作者有本质区别。但很多被撤稿的论文在语言层面看起来……其实挺正常的。

新研究测试了三个竞争机制:

  1. 认知成本假说(原假设):故意晦涩 → 增加读者分析成本 → 降低被发现概率
  2. 现实监控理论:欺诈者在写论文时缺少真实的实验记忆支撑,导致语言风格自动偏向"抽象"和"非具体"
  3. 情绪负荷假说:欺诈者在撒谎时承受更高情绪负荷,影响语言产出模式

平行中介模型的结果是:现实监控理论的解释力最强。

具体来说,fraudulent 论文和 genuine 论文最大的语言差异不是"句子更长"或"词更复杂",而是形容词更少。

形容词:诚实者的指纹

现实监控理论(Reality Monitoring)是心理学的一个经典框架:真实经历的记忆比想象的事件包含更多感知细节——颜色、形状、声音、触感。这些感知细节在语言中的投射就是形容词。

你做了一个真实的实验,你会写"the blue solution turned cloudy after 30 seconds"——有颜色、有状态、有时间。

你编了一个实验,你会写"the reaction proceeded as expected"——没有感知细节,只有抽象描述。

这不是欺诈者"故意"写得晦涩。而是因为他们没有真实的实验记忆可以调用,大脑自动用更抽象的语言来填充。就像你回忆一个没去过的地方,你会说"那里风景不错",但如果你真的去过,你会说"山顶的风大到连帽子都戴不住"。

这个发现把"语言检测欺诈"的机制从"策略性欺骗"转向了"认知结构差异"。欺诈者不是在故意隐藏什么,而是他们的认知状态和诚实作者不同,这种不同自然地反映在了语言中。

检测准确率:60.7% 和 71.6%

在机制分析之外,研究还测试了语言特征检测欺诈的实用价值。

仅用晦涩度特征(obfuscation features),交叉验证检测准确率 60.7%。这比随机猜测(50%)好,但远不够实用。

用超过 100 个语言维度的 elastic net 模型,准确率提升到 71.6%。这个数字看起来不算高,但考虑到检测对象是"已经通过同行评审的论文",这个基线其实很有意义——这些论文在内容层面已经经过了专家审查,语言层面的微弱信号能到 71.6% 已经不容易。

不过研究者也诚实指出:71.6% 的准确率意味着仍有 28.4% 的误判率。如果把这个系统用于实际论文审查,每 100 篇诚实论文中会有约 28 篇被误判为"可疑"。这个假阳性率在实际应用中是不可接受的。

开放科学时代的 replication

这篇论文的另一个价值在于它本身是一个 replication study。

在心理学领域,2010-2020 年的"复制危机"让整个学界意识到:很多经典结论在更大样本、更严格方法下无法复制。Markowitz 2010 年的原始研究基于较小的样本量,结论是否在十五年后依然成立?

答案是:成立。但效应量可能比原来以为的小,机制也比原来以为的复杂。

这本身就是科学运作的方式——不是一次性地"发现真理",而是不断地在更大样本、更多维度上重新检验。Markowitz 自己复制自己的研究,这种学术诚实值得尊敬。

对 AI 检测的启示

这篇研究对当前的 AI 生成文本检测有间接但重要的启示。

现在很多 AI 文本检测器基于类似的思路:提取语言特征,用分类器判断"是人写的还是 AI 写的"。但这类检测器面临和欺诈检测相同的问题——假阳性率太高。

Markowitz 的研究揭示了一个有趣的类比:真实的实验记忆会留下"形容词指纹",而编造的内容缺少这种指纹。类似地,真实的人类写作可能包含某些 AI 难以模仿的"认知结构痕迹"。但找到这些痕迹需要深入理解"为什么人类语言和 AI 语言在认知层面不同",而不只是做表面特征匹配。

另一个启示是关于"机制 vs. 相关性"。如果欺诈论文形容词更少是因为"缺少真实记忆"(机制),那么任何缺少"真实体验"的写作——无论是 AI 生成还是人类编造——都可能呈现类似的语言模式。但如果形容词差异是由其他原因导致的(比如学科差异、写作风格差异),那么用这个特征做检测就会有大量误判。

局限与反思

研究有几个值得注意的局限:

样本偏差:被撤稿的论文只是"被发现的欺诈"的子集。大量未被发现或未被撤稿的欺诈论文不在样本中。这意味着研究测量的其实是"被发现欺诈"的语言特征,而不是"所有欺诈"的语言特征。

时间跨度:2013-2025 年的论文跨越了 AI 写作工具的兴起期。2023 年后的论文可能受到 AI 辅助写作的影响,混淆"欺诈"和"AI 生成"的信号。研究者没有详细讨论这一点。

学科覆盖:不同学科的写作规范差异巨大。生物医学论文和社科论文的"晦涩"标准完全不同。虽然研究做了学科匹配,但 100 个语言维度在不同学科中的"欺诈信号"可能不同。

因果方向:虽然平行中介模型支持"现实监控"机制,但因果方向仍不确定。是"缺少真实记忆导致形容词减少",还是"擅长抽象写作的人更容易欺诈"?这个问题需要更精细的实验设计。

结语

这篇研究给我最大的触动是:欺骗的痕迹不在策略里,在认知结构里。

欺诈者不是在"故意"写得晦涩——他们可能根本没有意识到自己的语言和诚实作者不同。这种差异是认知层面的、无意识的、难以伪装的。

就像一个人在说谎时瞳孔会放大、声调会微变——这些信号不受主观控制。语言中的形容词密度可能就是认知层面的"瞳孔放大"。

71.6% 的检测准确率还不够实用。但它揭示的机制——真实经历在语言中留下感知细节的指纹——指向了一个更根本的方向:要检测欺骗,不要看"写了什么",要看"为什么这样写"。


论文链接:https://arxiv.org/abs/2610.13678

作者:David M. Markowitz (University of Oregon)

原研究:Markowitz, D. M. (2010). Linguistic obfuscation in fraudulent science.

讨论回复

加载中...
正在加载回复...

正在加载回复...

推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录