Cognition 发布 SWE-1.7:用 Kimi K2.7 当基座,把 AI coding 模型的成本曲线重新画了一条

2026-07-08/09 · Cognition · AI coding 模型
原文链接:https://cognition.com/blog/swe-1-7
二次报道:https://www.marktechpost.com/2026/07/09/cognition-ai-releases-swe-1-7

一句话概括

7 月 8 日,Cognition(Devin 的母公司)发布 SWE-1.7——一款基于 Kimi K2.7 基座、用大规模异步 RL 后训练出来的智能体软件工程模型。基座本身就是月之暗面(Moonshot AI)的中国开源大模型。

这个事实本身,以及它带来的全部工程结论,值得展开。

关键数据:「成本压到前沿水平,但分数没掉」

SWE-1.7 的发布材料里,最有冲击力的是这张成本-性能散点图。它把 FrontierCode 1.1 Main 分数(纵轴)对每次 rollout 的美元开销(横轴)做了对比,结论是 SWE-1.7 位于 Pareto 前沿——以远低于其他前沿模型的成本,达到了接近前沿的智能水平。

具体到几个关键基准:

FrontierCode 1.1 Main(100 题高质量 agentic coding 评测)

• SWE-1.7:42.3%
• Opus 4.8:46.5%(领先 4.2 pp)
• GPT-5.5:43.0%(领先 0.7 pp)
• Kimi K2.7 Code(基座):30.1%(基座低 12.2 pp)
• SWE-1.6(上一代):9.4%(提升超 4 倍)

Terminal-Bench 2.1

• SWE-1.7:81.5%
• Opus 4.8:86.9%
• GPT-5.5:84.2%
• Kimi K2.7 Code:72.7%

SWE-Bench Multilingual(多语言软件工程)

• SWE-1.7:77.8%——超过了 GPT-5.5 的 76.8%
• Opus 4.8:84.4%

关键观察:在多语言泛化能力上,SWE-1.7 击败了 GPT-5.5,而它的基座是 Kimi K2.7。

工程深扒:为什么这次 RL 训练能成

Cognition 的 RL pipeline 是这份发布材料里最值得工程圈细读的部分。四大技术支柱:

1. 熵稳定训练(Preserving Entropy)

普通 RL 训练最大风险是熵坍缩——模型在 rollout 时概率分布越来越窄,最后只剩几个 token 能被采样到,训练信号彻底丢失。Cognition 的解法是在 rollout 和 trainer 之间维持概率分布的一致性:rollout 端用 top-p 采样,记录哪些 token 被实际保留;trainer 端拿到这些信息后,重新归一化概率,避免 KL 散度爆炸。

还有一个工程细节:采样分布回放(Sampling Distribution Replay)——把 rollout 时保留的 token 集合记下来,在 trainer 里强制从同一集合里重新分布。这避免了「rollout 时这个 token 概率 30%,trainer 时变成 5%」的典型数据漂移。

2. 跨洲多集群训练

SWE-1.7 的训练横跨 4 个数据中心、3 大洲。单一 trainer 集群在美国,rollout 集群分布在三大洲,整合自研 GPU 和 Fireworks 等第三方推理算力。

跨大洲同步 1T 参数级别的模型权重是技术活。Cognition 用了一个非常巧妙的方法:不传整个权重,只传权重增量。每 K 步计算前后权重差,通过云对象存储中转(而不是点对点广播),传输量减少 99% 以上。推理引擎预取 delta 到 CPU 内存,只在应用时短暂暂停 3-4 秒。

结果是 1T 参数模型的跨大陆权重更新 1-2 分钟内完成——这是异步 RL 训练能做到「跨大洲规模」的关键基础设施。

3. 长任务自压缩(Self-Compaction)

SWE-1.7 的训练 rollout 最长可达 6 小时。这种长程任务的根本难题是上下文耗尽——你不能让模型每 100K token 就停下来等人类续写。

Cognition 的解法是训练模型自己生成摘要并从摘要恢复。在训练阶段同时优化两个能力:(1) 写更精炼的摘要;(2) 从摘要里把工作状态恢复出来。

配套使用了交替长度惩罚(Alternating Length Penalty):Unconstrained 阶段只优化任务成功;Budget 阶段惩罚超出 token/turn/tool-call 时间预算的解答。效果是已解决任务的长度被压缩,困难任务的长时间推理行为被保留。

4. 数据质量与防作弊

这个环节是工程上最脏活的部分。Cognition 的做法是:

• 网络隔离沙箱(避免 agent 上网搜答案)
• 移除 git 历史和参考产物
• 隔离评分路径与 agent
• 程序化检查识别已知漏洞签名
• 任何作弊尝试都奖励为 0

这是为什么他们的 FrontierCode 1.1 设计了 blocking criteria——未通过的解直接得 0 分,而不是部分给分。

值得关注的原因

1. 「后训练天花板」假设被反驳

SWE-1.7 的基座 Kimi K2.7 本身已经经过大量的 RL 后训练——月之暗面不是发了原始基座就给 Cognition 用,他们自己已经做过几轮 RL。

在这种「已经被充分训练」的基座上,Cognition 又拿到了 +12.2 pp(FrontierCode)和 +8.8 pp(Terminal-Bench) 的提升。这反驳了一个近期常被讨论的假设:「前沿模型已经接近 RL 训练的天花板,继续训没什么空间了。」

Cognition 的答案是:只要数据、算法、基础设施三件套都到位,RL 在已训基座上还有显著空间。这对整个 agentic AI 行业是个好消息。

2. 「开源基座 + 顶级 RL 微调」的商业模式被验证

SWE-1.7 的商业模式值得拆解:基座来自中国开源(Kimi K2.7),RL 微调和产品由美国公司(Cognition)完成,产品形态是 SaaS(Devin)。

这条路径一旦走通,意味着:

• 开源基座厂商(月之暗面)获得「被顶级应用采纳」的渠道价值
• 第三方模型公司(Cognition)无需从头训练,直接做应用层 RL
• 应用层客户(Devin 用户)以更低成本获得前沿能力

这是一个三赢结构。如果 SWE-1.7 在市场上取得商业成功,未来 12 个月我们会看到更多「开源基座 + 应用层 RL 微调」的组合,而不只是「自研基座 + 内部 RL」的封闭模式。

3. Cerebras 1000 TPS 是关键基础设施

SWE-1.7 发布当天就在 Devin 全平台(Web/Desktop/CLI)通过 Cerebras 提供,1000 TPS(tokens per second)。

1000 TPS 意味着什么?一个 1M token 的生成任务,普通 GPU 大约 50 TPS 需要 5.5 小时,Cerebras 上只要 17 分钟。这种数量级的推理速度,直接把「AI 帮你写代码」的交互体验从「等几分钟出结果」拉到「实时流式输出」。

Cerebras 的 WSE(晶圆级引擎)是当下少数能把 1T 参数模型跑到 1000 TPS 的硬件之一。SWE-1.7 用 Cerebras 是有意的——它要的不是「再便宜一点」的推理,而是「快到能改变产品形态」的推理。

4. 与 GPT-5.6 Sol 的同期发布形成对比

7 月 9 日 OpenAI 推出 GPT-5.6 系列(详见另一篇 Topic),SWE-1.7 是 7 月 8 日。两个事件同周落地,但走的完全是不同的路线:

• OpenAI GPT-5.6:自研闭源基座 + 巨额资本支出 + 用户教育成本(三个模型怎么选)
• Cognition SWE-1.7:开源基座 + 应用层 RL + 推理硬件创新

两种路线都没有被市场验证为「唯一正确答案」。但 SWE-1.7 的发布给了一个明确信号:「智能」和「成本」是两个独立的维度,可以通过模型架构 + 训练方法 + 推理硬件分别优化。

风险与待观察

诚实承认几点:

第一,FrontierCode 1.1 是 Cognition 自家基准。虽然他们公开了题目(100 题标准化,另有 150 题 Extended 版本),但基准的所有权在 Cognition 手里。这不等于它在其他独立基准上同样能压过 GPT-5.5——Terminal-Bench 2.1 上 SWE-1.7 比 GPT-5.5 低 2.7 pp。

第二,Cerebras 1000 TPS 是商业承诺,不是免费的。Cerebras 的硬件不便宜,而且 1000 TPS 可能仅在特定 batch size 下达到。实际生产环境的延迟表现还要等 Devin 用户的实测反馈。

第三,基座依赖风险。如果未来月之暗面修改了 Kimi K2.7 的许可证,或者停止维护,Cognition 的整个 RL pipeline 要重建。这是「开源基座」路径的固有脆弱性。

第四,SWE-1.7 的训练成本。跨大洲 4 数据中心 + 6 小时 rollout + 自研 MoE 优化器,这套基础设施不是小团队能复制的。这意味着 SWE-1.7 的「低成本」是相对于 GPT-5.5 的推理定价,而不是相对于一个创业公司从头复现的成本。

总的来说,SWE-1.7 是「AI coding 模型的成本曲线被改写」的标志性事件。它给整个行业一个明确答案:前沿智能不一定需要前沿价格——只要工程团队对 RL pipeline、推理硬件、训练基础设施三个维度都有深度优化。