告别打字机：Mercury 2如何用扩散模型让AI写作速度提升5倍

导语：想象一下，如果AI写作不再像打字机那样逐字蹦出，而是像编辑一样拿着红笔在整页纸上同时圈改——这就是Mercury 2正在做的事。这个来自硅谷的扩散语言模型，以每秒1009个token的速度，成为目前世界上生成最快的LLM。

一、自回归的"打字机困境"

现在的大语言模型，无论是GPT还是Claude，本质上都是自回归模型。它们的工作方式就像一台老式打字机：

用户：请写一首关于春天的诗

AI思考过程：
春 → 眠 → 不 → 觉 → 晓 → ， → 处 → 处 → 闻 → 啼 → 鸟 → ...
     ↑
     必须等上一个字生成，才能预测下一个字

这种"从左到右、逐字生成"的方式有两个致命缺陷：

实测数据：GPT-4o Mini 约 200 tokens/s，Claude 3.5 Haiku 约 150 tokens/s。

二、Mercury 2的"编辑模式"

Mercury 2采用了完全不同的范式——扩散模型（Diffusion Model）。

工作方式对比

自回归模型（打字机模式）：
用户输入 → 生成第1个字 → 生成第2个字 → ... → 生成第N个字
         （必须按顺序，无法并行）

扩散模型（编辑模式）：
用户输入 → 生成草稿（全是[MASK]）→ 同时优化所有位置 → 最终答案
         （一次性处理整段文本，并行优化）

通俗类比

想象你要写一篇作文：

• 自回归：一个字一个字地写，写错了只能在后面打补丁
• 扩散模型：先快速打个草稿（可能全是乱码），然后拿着红笔在整页纸上同时修改，几轮下来就成型了

这就是Inception Labs的核心理念："AI不应该像单向打字机那样运作，而应该更像一个编辑。"

三、核心技术：SEDD与分数熵

Mercury 2的背后是一项获得ICML 2024最佳论文奖的研究——SEDD（Score Entropy Discrete Diffusion）。

从图像到文本的跨越

扩散模型在图像生成领域已经大获成功（Midjourney、DALL-E、Sora），但应用到文本却有一个根本难题：

SEDD的创新：分数熵损失

2023年，斯坦福教授Stefano Ermon团队发表论文《Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution》，提出了 分数熵（Score Entropy） 这一全新损失函数。

核心思想：

• 传统扩散模型学习"去噪"（连续空间）
• SEDD学习"token之间的转换比率"（离散空间）

传统扩散：噪声图像 → 逐步去噪 → 清晰图像
SEDD：    [MASK][MASK][MASK] → 逐步填充 → 完整句子

论文结果显示：SEDD的困惑度比未退火的GPT-2好6-8倍。

四、Mercury 2的性能表现

速度对比

质量不妥协

速度提升的同时，Mercury 2在多个基准测试中表现优异：

延迟低至1.7秒，支持128K上下文。

价格优势

性价比极高。

五、背后的公司：Inception Labs

创始团队

融资情况

2024年11月宣布获得5000万美元融资，投资方包括：

• NVentures（英伟达风投）
• M12（微软风投）
• Menlo Ventures（领投方）
• 个人投资者：吴恩达、Andrej Karpathy等

发展历程

六、扩散语言模型的优势与挑战

优势

挑战

七、未来展望

对行业的影响

1. 实时应用成为可能

   • 低延迟让AI可以嵌入实时交互场景
   • 语音助手、直播字幕、实时翻译

2. 推理成本重构

   • 速度提升意味着相同算力可以服务更多用户
   • 可能改变AI应用的定价模式

3. 多模态统一

   • 扩散模型在图像、视频、音频领域已成熟
   • 文本加入后，真正的"统一生成模型"成为可能

技术演进方向

• 更大规模：Mercury 3是否会挑战GPT-5、Claude 4？
• 开源生态：目前暂无开源计划，但API兼容OpenAI标准
• 应用场景：代码生成、创意写作、实时对话

八、如何体验

Mercury 2已开放公测：

• 体验地址：https://chat.inceptionlabs.ai/
• API：兼容OpenAI标准，可直接替换

参考资源

• 官方博客：https://www.inceptionlabs.ai/blog/introducing-mercury-2
• SEDD论文：https://arxiv.org/abs/2310.16834
• ICML 2024最佳论文：Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution

结语：Mercury 2证明了一件事——自回归不是大模型的唯一答案。当AI从"打字机"变成"编辑"，我们或许正在见证下一代语言模型的诞生。

本文撰写于 2026年2月26日