一个 token 的记忆，压到 890 字节

一个 token 的记忆，压到 890 字节

长上下文智能体有个尴尬的物理现实：注意力可以稀疏，算力可以省，但每个 token 的记忆得找地方放。一个百万上下文的智能体跑上几小时，KV 缓存能把显存、固态盘和传输带宽全部吃满——算力不再是瓶颈，存记忆的开销才是。

DeepSeek 上周发布 V4.1-Flash，副标题直白：把 KV 缓存压缩推到极限。战报数字：每个 token 的全局 KV 缓存 890 字节，是上一代 V4-Flash 的四分之一，相对 V1 缩减约 437 倍；落盘的持久缓存再砍到 V4-Flash 的八分之一。这不是单点优化，是架构、缓存精度、部署系统三层一起改的结果。

先拆一半计算

三项核心设计里最反直觉的是第一项。他们把 40 层网络拆成两半：20 层因果编码器，20 层解码器。大多数输入 token 只过编码器就完事，绕过解码器的完整计算——预填充计算量近乎减半。解码器需要的全局 KV，由编码器的输出投影而来。

这个拆法直接命中智能体负载的死穴：智能体任务输入密集，一次任务里读进去的 token 远多于写出来的。为读进来的每个字付全价计算，是浪费。所以有了模型行业罕见的不对称设计：预填充每 token 激活 8B 参数，解码 16B——读便宜，写才贵。给「输入密集」这个工作负载定制价格。

第二项是跨层复用。40 层原本各存各的 KV，现在三层模式组合：全局 KV 共享、索引键复用、Top-K 选择复用——后面的层不再从头搜索，只在前面层挑出的候选池里找。层级稀疏索引器像图书馆目录：第一层粗筛出一架子书，后面每层只在这个架子里翻。

第三项在精度和部署上动刀：全局 KV 用 FP4 存（每个数四个比特），滑窗注意力那段干脆不落盘，要的时候用有界重放从前面重算——拿少量计算换存储。

八分之一的价格，四分之三的实力

参数的配比同样不对称。552B 骨干加 196B Engram（一个条件记忆模块，外加 DSpark 投机解码），激活 8B/16B——用 V4-Pro-Base（激活 49B）三分之一的总量、四分之一的激活，知识和推理基准接近或部分超过对方，held-out 评测还高 5% 到 10%。

推理努力是个旋钮：从 25 拧到 100，八项推理基准平均从 67.1% 升到 76.3%，DeepSWE 从 66.0% 到 74.2%，Terminal-Bench 2.1 从 82.4% 到 90.6%——代价约 2.5 倍的输出 token。有个细节值得记：这个旋钮在单回复推理上训练，却忠实地迁移到了长程智能体轨迹上，控制的是探索和验证的总预算。买算力之前先拧旋钮，这是最便宜的一档提速。

多智能体的对照也做了。长预算下差距拉开：ProgramBench 八小时，多智能体 30.04% 对单智能体 20.39%；FrontierSWE 二十小时，32.90% 对 28.20%。同样的模型同样的预算，编成 swarm 的组织形式自己长出十分——模型能力之外，框架和交互协议同样计入最终成绩。

没说满的部分

论文的边界交代得比多数技术报告诚实。SWA 有界重放是近似重建，不是精确复原；FP4 的性能损失没有覆盖所有硬件和工作负载；新架构的健壮性边界「尚未完全表征」；与最强的闭源模型比，基准分接近，但最难的任务上仍有可测差距——「日常使用体验高度接近」不等于「前沿能力打平」。

把这篇放进今年的图里看更有意思。旗舰模型们全在把激活做小——GLM 320B-A18B、这家 552B-A8B、Qwen 125B-A6B——「多大的卡跑多大的模型」已经改写成「激活跑得快，总量放得下」。这家公司这次的答案更激进：连记忆的存储价格也一起打下来。890 字节这个数，是给整个行业的新锚点——下一个报 KV 压缩的，得跟这个数比。

顺带一笔旧文：上周拆解 vLLM 巨型算子合并时，AMD 那个 9,119 行的合并请求跑的就是 DeepSeek-V4.1-Flash 在 MI355X 上的算子——当时模型本身还没发布，工程先行，现在论文到了。硬件生态等模型，模型生态等硬件，两边都在赌对方先动。

*信源：arXiv 2609.19969（2026-09-17，DeepSeek，Wenfeng Liang 提交）；552B backbone + 196B Engram；45T token 多模态预训练，64K 起训稀疏注意力、34T 处扩至 1M；权重已在 HuggingFace 开放（deepseek-ai/DeepSeek-V4.1-Flash）；对比 V4-Flash/V4-Pro-Base/GLM-5.3/Kimi-K3；多智能体基准 ProgramBench、FrontierSWE v2。*