✨

✨步子哥

@steper · 2026年04月24日 04:59 · 4浏览

百万令牌的智慧觉醒：DeepSeek-V4如何点亮超长上下文的星辰大海

🌟 引言：注意力瓶颈的宇宙尽头，与百万令牌的自由起航 想象一下，你正站在一座古老的图书馆中央，面前是堆积如山的书籍，每一本都代表一个知识片段。要同时阅读百万页内容，传统注意力机制就像让你和每一页书同时对话——每增加一页，计算量就平方级爆炸，最终整个图书馆变成无法穿越的迷宫。这正是推理模型面临的核心困境：测试时扩展（test-time scaling）带来惊人进步，却被二次方复杂度的注意力机制死死卡住；长时域任务如复杂代理工作流、海量跨文档分析，更是遥不可及。DeepSeek-V4系列的诞生，就像为这间图书馆安装了量子传送门——DeepSeek-V4-Pro（总参数1.6T，激活49B）和DeepSeek-V4-Flash（总参数284B，激活13B），两者均原生支持一百万令牌上下文，彻底打破了效率壁垒。基于用户提供的DeepSeek_V4.pdf技术报告，我将带你一同踏入这场智能革命，亲眼见证每一处创新如何像科幻小说里那样，化不可能为日常。

> 注解：二次方注意力复杂度听起来抽象？简单说，就像一场派对里每个人都要和所有人聊天，人数翻倍，聊天次数就四倍增长——对百万令牌的“派对”来说，这会让AI瞬间“累趴”。DeepSeek-V4的创新正是把派对变成高效的“群聊+私聊”混合模式，让AI大脑在超长记忆中依然灵动如初。

🌌 继承V3的智慧根基：DeepSeekMoE与多Token预测的传承之火 报告开篇就如老朋友重逢，DeepSeek-V4系列忠实继承了DeepSeek-V3的核心框架——DeepSeekMoE架构与Multi-Token Prediction（MTP）策略。这就好比一艘星际飞船保留了可靠的引擎，却在燃料舱和导航系统上做了革命性升级。MoE让模型在海量专家中只激活少数几个，激活参数远小于总参数，却能处理复杂任务；MTP则让模型一次预测多个Token，训练更高效、推理更聪明。这些“老朋友”在V4中继续发光发热，为后续创新铺平道路，避免了从零重来的浪费。想象你正驾驶这艘飞船，引擎轰鸣间，你感受到稳定性带来的安心——这正是V4在长上下文战场上敢于一飞冲天的底气。

🧬 mHC超连接：残差网络的“流形约束”升级，像给神经高速公路加装智能立交桥 传统残差连接简单直接，却在超长序列中容易信息丢失或梯度问题。DeepSeek-V4引入Manifold-Constrained Hyper-Connections（mHC），就像在残差高速公路上加装了“流形约束”的智能立交桥，确保信息流动更平滑、更保真。报告详细描述了其通过双随机矩阵和Sinkhorn-Knopp投影实现约束，让连接不再是简单加法，而是受流形几何指导的优雅映射。举个生活例子：普通残差像直线地铁，容易堵车；mHC则像地铁换乘时有AI调度员，确保你永远走最优路径，不会迷路。这项创新极大增强了模型的建模能力，尤其在百万令牌的“长途旅行”中，信息不会像沙子一样从指缝溜走。

> 注解：流形（manifold）在数学中指光滑的曲面空间，这里约束连接让神经网络的“记忆路径”更符合真实数据分布，避免混乱。想想GPS导航不走死胡同，而是沿最优曲线——mHC就是AI版的高精度GPS，让训练更稳定、收敛更快。

🔥 混合注意力革命：CSA与HCA的“压缩双剑”，百万令牌的效率核弹 这是报告最激动人心的章节——混合注意力机制（hybrid attention）结合Compressed Sparse Attention（CSA）和Heavily Compressed Attention（HCA），彻底解决二次方瓶颈。CSA先沿序列维度压缩KV缓存，再执行DeepSeek Sparse Attention（DSA），像把百万页书先浓缩成精华摘要，再做针对性阅读；HCA则更激进地压缩KV，却保持密集注意力，像用超级AI管家把整本书“提炼”成几页关键笔记，却保留核心对话。报告用公式清晰呈现压缩过程：压缩后的KV记为 \( C^{\text{Comp}} \)，让计算量和内存开销直线下降。其他细节包括精确的效率讨论：在1M令牌上下文下，DeepSeek-V4-Pro只需V3.2的27%单Token推理FLOPs（等效FP8），KV缓存仅10%！Flash版本更猛，FLOPs降至10%，KV缓存7%。想象你正站在DeepSeek训练集群的控制室，看着屏幕上注意力热力图从“满屏红爆”变成“绿色高效通道”——这不是科幻，这是真实突破。它让长时域代理任务、跨文档分析变得日常可行，也为测试时进一步扩展打开大门。

> 注解：KV缓存就是AI的“短期记忆本”，传统下百万令牌会让内存爆炸。CSA/HCA像智能文件夹+摘要器，把记忆本从百科全书压缩成口袋笔记本，却不丢关键情报。

⚙️ Muon优化器：训练的“智能导航仪”，让收敛像火箭般稳定迅猛 报告隆重介绍Muon优化器，它像给梯度下降安装了“量子导航”，通过Hybrid Newton-Schulz迭代等机制，实现更快收敛和更高稳定性。传统优化器在超大规模训练中容易摇摆不定，Muon却让整个过程如丝般顺滑。结合mHC和混合注意力，V4的预训练在超过32T高质量多样Token上平稳进行。生活比喻：普通训练像开车走山路，容易刹车打滑；Muon则是自动巡航+AI防滑系统，你只需享受风景，目的地更快到达。这项优化直接提升了训练效率，为后续SOTA性能奠基。

🏗️ 基础设施的幕后英雄：从TileLang到FP4量化，工程魔法的全景画卷 没有强大的基础设施，创新只是纸上谈兵。报告用整整一章描绘了训练与推理框架的升级：细粒度通信-计算重叠的专家并行、TileLang DSL平衡开发与效率、高性能批不变确定性内核库、FP4量化感知训练（针对MoE专家权重和QK路径，大幅降低内存计算）。训练框架扩展自动微分，支持灵活激活检查点；上下文并行处理压缩注意力；推理框架则采用异构KV缓存+磁盘存储，实现共享前缀高效复用。这些像幕后特效团队，把科幻变成现实。举例：on-disk KV缓存就像把部分记忆“外挂”到硬盘，却能瞬间调用——百万令牌场景下，延迟和成本双双暴降。

📊 预训练篇：32T Token的宇宙级锻造与基准实测 预训练阶段，V4-Pro和Flash在精心构建的32T+多样高质量Token上历练。模型设置、训练设置、稳定性缓解措施一一详述。评估基准覆盖知识、推理、代码等领域，结果显示V4-Pro-Max（最大推理努力模式）重定义开源SOTA：MMLU-Pro达91.0%、GPQA 94.3%、HLE 44.4%、LiveCodeBench 93.5%、Codeforces 3206 rating等。长上下文MRCR在1M令牌下高达92.9%。想象这些Token如亿万星辰被逐一炼化成模型的“灵魂”——每颗星都贡献独特光芒，最终铸就智能之光。

🧪 后训练的炼金术：专家特训、On-Policy Distillation与RL基础设施 报告转折进入后训练：先是领域特定专家的Specialist Training，再通过On-Policy Distillation（OPD）融合。RL与OPD基础设施更是工程奇迹：FP4量化集成、高效教师调度（隐藏状态缓存+异步加载）、可抢占容错rollout服务、百万令牌上下文RL扩展、代理AI沙盒。现实任务表现亮眼：中文写作流畅如散文、搜索精准高效、白领任务得心应手、代码代理SWE-Verified达80.8%。

> 注解：OPD像名厨向学徒传授独门秘方——不是简单复制菜谱，而是让学徒在自己炒菜时，从多位大师的“实时指导”中提炼精华，避免传统合并带来的“口味打架”。

📈 基准与真实世界：从数字到生活的胜利凯歌 报告用表格形式呈现全面评估（此处转换为Markdown以便阅读）：

基准类别	DeepSeek-V4-Pro-Max 关键成绩	与前辈对比亮点
知识/推理	MMLU-Pro 91.0%, GPQA 94.3%	重定义开源SOTA
代码	LiveCodeBench 93.5%, Codeforces 3206	代理任务SWE-Verified 80.8%
长上下文	MRCR @1M 92.9%	FLOPs仅27%，KV缓存10%
真实任务	中文写作、搜索、白领、代码代理	高效、连贯、实用

这些数字不是冰冷数据，而是AI从实验室走向生活的证明。

🚀 快速指令与思考管理：让AI对话如老友般自然流畅 V4还引入快速指令特殊标记（如<|action|>、<|query|>等），并优化交错思考：工具场景下全程保留推理痕迹，一般对话则按需清理。图7生动描绘了这一机制——像给AI装上“持久记忆笔记本”，跨轮次思考不再重启。

🌠 结论、局限与未来：星辰大海的下一站 DeepSeek-V4系列以高效百万令牌上下文，开启了测试时扩展与长时域任务的新纪元。它不是终点，而是通往在线学习、代理AI等未来范式的基石。当然，报告也坦诚局限，如特定场景下的进一步优化空间。但展望未来，我们有理由相信，V4只是DeepSeek智慧觉醒的序章。

在深入这份报告的每一页时，我仿佛亲身参与了这场智能进化：从注意力迷宫的挣扎，到混合压缩的自由，再到基础设施的精密协作，最终在基准与现实任务中绽放光芒。DeepSeek-V4不止是模型，更是人类对宇宙理解的又一次跃进——百万令牌不再是极限，而是新起点的开始。

------ 参考文献 1. DeepSeek-AI. DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence. 2026. https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro/blob/main/DeepSeek_V4.pdf 2. DeepSeek-AI. DeepSeek-V3 Technical Report. 2024. （报告中多次引用的前代基础架构参考） 3. DeepSeek-AI. DeepSeek-V3.2 Post-Training Enhancements. 2025. （V4继承与优化的直接前身） 4.相关长上下文注意力优化文献（基于报告扩展讨论的CSA/HCA灵感来源）. 2025. 5. Muon Optimizer 原论文及MoE量化研究（报告中Muon与FP4实现的理论支撑）. 2025.

👍 1

💬 讨论回复 (3)

✨

✨步子哥 #1 2026-04-24 05:13

DeepSeek-V4-Pro（及 V4 系列）深度研究报告（基于 2026 年 4 月 24 日最新发布数据）

1. 发布概览与核心规格

DeepSeek（杭州深度求索）于 2026 年 4 月 24 日 正式发布 DeepSeek-V4 系列预览版，包含两个 MoE 模型：

DeepSeek-V4-Pro：总参数 1.6T，激活参数 49B（Instruct 版 FP4 + FP8 混合精度；Base 版 FP8 Mixed）。
DeepSeek-V4-Flash：总参数 284B，激活参数 13B（更轻量、快速、经济版本）。

两者均原生支持 100 万 token（1M）上下文长度，并提供 Base / Instruct 检查点，以及 Non-think / Think High / Think Max 三种推理模式（通过 reasoning_effort 参数控制，高/最大模式显著提升复杂任务表现）。

许可证：开源权重（Hugging Face + ModelScope，MIT 或类似宽松许可），支持本地部署和商业使用。API 同时更新，支持 OpenAI/Anthropic 兼容端点。

技术报告：DeepSeek_V4.pdf（模型卡直接链接），详细阐述架构、训练和评估。

关键定位：目前最强开源模型，在编码、竞赛数学、STEM 推理上比肩或超越 Claude Opus 4.6 / GPT-5.4 / Gemini 3.1 Pro 等闭源前沿模型，同时以 10-50 倍更低成本 提供 1M 上下文标配服务。

2. 架构与核心创新（技术亮点）

V4 并非简单放大 V3.2，而是引入三大架构升级 + 训练优化，实现高效百万上下文 + 万亿参数稳定训练：

1. Hybrid Attention Architecture（混合注意力）

CSA（Compressed Sparse Attention） + HCA（Heavily Compressed Attention） 组合。
在 1M 上下文 下，单 token 推理 FLOPs 仅为 V3.2 的 27%，KV Cache 仅 10%。
机制：先将每 m 个 token 的 KV 压缩为单一条目，再应用稀疏选择（DeepSeek Sparse Attention 风格），大幅降低长上下文内存与计算瓶颈。

2. Manifold-Constrained Hyper-Connections (mHC)

强化传统残差连接，解决超深层信号衰减问题，同时保持模型表达能力。
提升训练稳定性，尤其适合万亿参数 MoE 规模。

3. Muon Optimizer

替代传统 AdamW 等，加速收敛、提升训练稳定性（已在生产规模验证）。

其他延续/增强：

DeepSeekMoE 风格专家路由 + Multi-Token Prediction (MTP)。
两阶段后训练：① 领域专家独立培养（SFT + RL with GRPO）；② On-policy distillation 统一整合（数学、编码、Agent、知识等多领域能力融合为单一模型）。
预训练数据：超过 32T 高质量、多样化 tokens。

效率革命：MoE 设计使激活参数远低于总参数（Pro 仅 49B 激活 ≈ 中型模型成本），结合混合注意力，1M 上下文真正实用化（此前多数模型在 128K+ 已成本爆炸）。

3. 基准性能（V4-Pro-Max 模式）

官方 + 独立汇总数据显示其在编码与算法任务上领先，推理/知识上接近前沿，长上下文实用性突出：

编码 / 软件工程（SOTA 或领先）：

LiveCodeBench Pass@1: 93.5（超越 Gemini 3.1 Pro 91.7、Opus 4.6 Max 88.8）。
Codeforces Rating: 3206（最高，超 GPT-5.4 xHigh 3168）。
Apex Shortlist Pass@1: 90.2（新 SOTA）。
SWE-Verified: 80.6；SWE-Pro: 55.4。
HumanEval / 相关基准全面领先 V3.2。

数学 / 科学推理：

GPQA Diamond: 90.1。
IMOAnswerBench: 89.8（超 Opus 4.6 的 75.3）。
HMMT 2026 Feb: 95.2（接近 GPT-5.4 / Opus 4.6）。

知识与通用：

MMLU-Pro / MMLU 高分（Base 已 73.5 / 90.1）。
SimpleQA-Verified: 57.9（与 Gemini 3.1 Pro 75.6 有明显差距，为最大短板之一）。

长上下文（1M）：

MRCR 1M: 83.5；CorpusQA 1M: 62.0（实用性强，远超多数竞品）。

总体评估（来自社区/分析）：

最佳开源模型，在多数编码、竞赛、STEM 任务上比肩或小胜 Opus 4.6 / GPT-5.4。
与更新闭源模型（Opus 4.7 / GPT-5.5）相比，在 agentic coding / 复杂工作流上落后 3-15 分。
Flash 版在简单 Agent 任务上接近 Pro，适合高吞吐/低成本场景。

Base 模型 已大幅领先 V3.2（MMLU-Pro 73.5 vs 65.5 等）。

4. 训练、部署与成本

训练：>32T tokens + Muon + mHC + 两阶段 pipeline； reportedly 部分/主要在 华为 Ascend 芯片（昇腾 950PR 等）上完成，体现对 Nvidia 出口管制的应对。
推理成本：API 输入约 1.8 USD / M tokens，输出 3.5 USD / M（比 GPT-5.4 / Claude Opus 便宜 10-50 倍）。1M 上下文默认支持，性价比碾压。
本地部署：
Flash：单 H200 / 高端消费卡可运行（~158GB FP8）。
Pro：需多卡集群（~862GB+）。
提供 encoding/inference 脚本、预调优适配器（Claude Code、OpenCode 等）。
API：chat.deepseek.com + 移动端；支持工具调用、JSON mode、FIM（beta）等。

5. 局限性与争议点

知识广度短板：SimpleQA 等事实回忆任务落后 Gemini 等（可能因训练数据侧重或蒸馏策略）。
Agentic / 长时工作流：部分复杂 SWE / Terminal 任务仍落后最新闭源 5-15 分。
非原生多模态：当前以文本为主（早期谣言的多模态未在官方确认）。
预览版性质：性能可能继续迭代；基准部分对比略旧闭源模型（作者注：未充分 vs Opus 4.7 / GPT-5.5）。
隐私/地缘：中国 API 有数据主权顾虑（自托管可缓解）；训练硬件迁移导致发布延迟（原计划 2-3 月）。
社区反馈：X/Reddit 高度兴奋（“开源里程碑”“成本革命”），但部分质疑基准可复现性与“宣传 vs 实际差距”。

6. 战略意义与未来影响

开源民主化：将 1M 上下文 + 前沿性能带入平民时代，推动本地/私有部署浪潮。
地缘政治冲击：华为芯片验证成功，削弱“算力封锁有效性”叙事；DeepSeek 持续以极低成本输出顶级模型。
行业压力：API 定价直接挑战 OpenAI/Anthropic/Google，加速“廉价 AI 时代”。
技术路线：mHC + 混合稀疏注意力 + 领域专家蒸馏可能成为下一代高效 LLM 范式参考。
展望：预览后预计有完整版 + 可能多模态扩展；持续迭代将进一步缩小与闭源差距。社区已开始本地微调与集成测试。

总结：DeepSeek-V4-Pro 是 2026 年开源 AI 最重要里程碑之一——不是单纯参数堆砌，而是效率、稳定性、长上下文实用性的系统性突破。以远低于闭源的成本提供接近前沿的性能 + 完全开源权重，真正改变了 AI 可及性天花板。对于开发者、研究者和中小企业而言，是当前最值得深度评估和部署的模型之一。

数据来源：官方 HF 模型卡（2026-04-24）、技术报告引用、社区基准汇总（Substack、Reddit、X）、新闻报道（Nikkei、Bloomberg 等）。基准为发布时快照，后续可能更新。

👍 1🚀 1

✨

✨步子哥 #2 2026-05-01 14:53

DeepSeek「以视觉原语思考」技术深度解析

引言：从「看见」到「指准」的范式转变

DeepSeek 最新发布的多模态大模型技术报告《Thinking with Visual Primitives》（以视觉原语思考）提出了一个全新的推理框架，旨在解决当前多模态大语言模型（MLLM）中被忽视的根本性瓶颈——指代鸿沟（Reference Gap）【5†source】【12†source】。传统思维链（Chain-of-Thought, CoT）主要局限于语言领域，当模型面对复杂视觉场景时，仅用自然语言描述（如“左边那个大的”、“靠近中央的红色物体”）往往无法精确定位对象，导致推理过程注意力漂移、逻辑混乱【13†source】【15†source】。DeepSeek 的核心思路是：将人类在思考复杂视觉问题时本能使用的“指”动作——即视觉原语（Visual Primitives）如点和边界框——提升为思维的基本单元【5†source】【13†source】。通过在思维链中直接嵌入空间坐标，模型可以一边“指”一边想，将认知轨迹锚定在图像的物理坐标上，从而消除歧义、避免对象混淆和遗漏【13†source】。这一范式从追求“看得更多”转向“指得更准”，为多模态推理能力的突破指明了方向【15†source】。

核心创新：视觉原语融入思维链

DeepSeek 的创新在于将空间标记（bounding box 与 point）内嵌进思维链，作为语言与图像之间的精确指针【13†source】。具体而言，模型在推理过程中每提及一个视觉对象，就同步输出其坐标信息，而非在推理结束后才标注位置。例如，当模型在人群图片中计数时，会先用边界框批量定位所有目标，再逐一校验；在迷宫导航时，每一步探索都输出一个点坐标标记当前位置，撞墙或回溯时坐标也相应更新【13†source】。这种做法类似于人类在数物体时用手指逐一点过，或在走迷宫时用笔尖沿路径移动，以降低认知负荷并保持逻辑一致【13†source】。DeepSeek 将这种“边指边想”的认知模式抽象到模型推理中，实现了思维链与视觉定位的强耦合【13†source】。与传统事后标注坐标不同，这里的坐标是推理过程中的空间锚点，用于稳定逻辑链，防止推理漂移【13†source】。这种设计有效解决了复杂视觉推理中模型容易将对象搞混、漏掉或重复的问题，例如在密集人群计数、多条曲线终点判断、迷宫连通性判断等任务中，模型不再因为指代不清而逻辑崩溃【13†source】。

架构与训练：高效视觉编码与精细数据驱动

模型架构：经典三段式与极致压缩

DeepSeek 的多模态模型采用了经典的三段式架构：视觉编码器、语言模型和模态融合模块【13†source】。视觉编码器基于 DeepSeek 自研的 Vision Transformer (ViT)，支持任意分辨率输入【13†source】。为了在有限Token预算内高效处理图像信息，该架构引入了压缩稀疏注意力（Compressed Sparse Attention, CSA）机制，对视觉Token进行多级压缩【13†source】。以756×756分辨率的图像为例，原始ViT会产生2916个图像patch Token；经过3×3空间压缩后合并为324个Token；再通过CSA机制将KV缓存进一步压缩4倍，最终仅保留约81个视觉KV条目【13†source】。整体压缩比高达7056倍，这意味着模型只需约90个视觉Token即可处理一张高分辨率图片，而同等情况下Claude Sonnet 4.6需约870个，Gemini-3-Flash需约1100个【13†source】。这种极致压缩大幅降低了视觉信息冗余，使模型在复杂空间推理时无需在海量像素中反复检索，每一步思考都更加“轻量”【13†source】。语言模型部分则采用了DeepSeek-V4-Flash，这是一个284B参数、13B激活参数的混合专家（MoE）模型【13†source】。该基座模型为视觉原语的融入提供了强大的推理能力支撑。

数据与训练：构建视觉原语能力

要使模型真正学会“边指边想”，关键在于训练数据和策略。DeepSeek 团队构建了一条贯穿预训练、冷启动和强化学习的训练流水线【13†source】。

预训练阶段：团队从互联网爬取了97984个与目标检测相关的数据源，经过两层严格过滤（基于语义的审核和视觉几何质量审核），最终筛选出31701个高质量数据源，生成超过4000万条训练样本【13†source】。过滤过程去除了无意义的机器编码标签、不可泛化的私有实体、含糊缩写和主观评价，以及严重漏标、截断偏移或覆盖面积过大的低质量标注【13†source】。同时，团队设计了基于类别的采样策略，对每个数据集中的每个类别随机采样1000张图像，再全局去重，以确保数据的多样性和平衡【13†source】。在预训练中，通过精心设计的提示模板，将边界框和点坐标加入训练数据，例如：

Prompt：Locate TARGET in this image and report its bounding box coordinates.
Response：<|ref|>TARGET<|/ref|><|box|>[[x1,y1,x2,y2],[x3,y3,x4,y4]...]<|/box|>Prompt：Help me find TARGET. Give me the center point for each instance.
Response：<|point|>[[x1,y1],[x2,y2]...]<|/point|>

这种模板引导模型在回答中直接输出目标对象的坐标，使其在预训练阶段就初步掌握了将视觉对象与空间位置关联的能力【13†source】。

冷启动数据与任务设计：在预训练基础上，团队针对四类最能体现视觉原语价值的任务构建了带精确思考轨迹监督的数据，共计约6.5万条样本【13†source】：

计数（Counting）：分为粗粒度计数（聚焦通用类别）和细粒度计数（按具体属性或空间约束区分对象），共计1万条样本【13†source】。粗粒度计数数据来源于多个密集检测数据集，经过严格过滤确保对象密度适中、边界框清晰可辨；细粒度计数则通过流水线生成涉及具体属性的问题和思考内容，并构造计数为0的负样本以增强模型抗幻觉能力【13†source】。思考过程遵循“意图分析→批量定位→统计求和”的流程，模型先识别目标类别，再同时框出所有候选对象，最后汇总计数【13†source】。
空间推理与通用视觉问答（Spatial Reasoning & VQA）：共9000条样本，旨在缓解纯语言描述带来的指称歧义和语义漂移【13†source】。自然场景数据来源于GQA的图像与场景图，通过提示多模态大模型设计围绕空间关系和对象交互的问题，并同步生成对应的思考内容；合成场景数据则基于CLEVR工具链构建，用于生成更复杂的多跳推理任务【13†source】。每一步推理都映射到具体对象ID，并构造负样本训练模型在视觉证据不足时拒绝回答而非产生幻觉【13†source】。思考内容大体遵循“意图分析→对象定位→关系推断”的流程，模型会优先选择具有更多区分度的对象并结合多属性约束来唯一锁定目标【13†source】。
迷宫导航（Maze Navigation）：共46万条样本，本质上考察空间连通性和拓扑推理能力【13†source】。团队使用DFS、Prim和Kruskal算法生成了矩形网格、环形和六边形蜂窝三类拓扑结构的迷宫，并设计了“表面可解但实际无解”的陷阱迷宫来训练模型鲁棒性【13†source】。每一步探索都用点坐标锚定到图像中，对应检查墙体连通性、移动到相邻单元或从死胡同退回等操作【13†source】。最终输出会判断迷宫是否可解，并给出经过验证的解路径（如果可解）【13†source】。
路径追踪（Path Tracing）：共12.5万条样本，要求模型在多条交织曲线中沿着指定曲线前进并判断最终到达的端点【13†source】。数据生成时避免端点与无关线条重叠或被穿越，并引入“uniform-style”模式让所有线条共享相同颜色和笔画宽度，迫使模型不能依赖颜色匹配而必须根据曲率连续性完成追踪【13†source】。推理过程被表示为沿目标曲线采样的一串坐标，从定位起点开始，经过多个中间途经点，最终识别终点【13†source】。

后训练策略：先专家后统一的融合

在后训练阶段，DeepSeek 采用了“先训练专家、再合并统一”的策略【13†source】。

Specialized SFT（专家冷启动）：使用70%的通用多模态与纯文本数据 + 30%的视觉原语思考数据，分别训练“thinking with grounding”（以框定位思考）和“thinking with pointing”（以点指向思考）两个专家初始模型（FTwG 和 FTwP）【13†source】。这种分离训练避免了两种异构视觉基元在数据量较少时互相干扰。

Specialized RL（专家强化学习）：对两个专家模型分别使用GRPO算法进行强化学习优化【13†source】。由于冷启动数据中的视觉基元已经过严格校验，RL阶段不再显式监督中间生成的box和point，只需输入图像、问题和最终答案，从而增强了训练的可扩展性【13†source】。奖励模型从格式、质量和准确性三个维度约束输出，其中格式和质量约束跨任务共享，准确性奖励则针对计数、VQA、迷宫导航、路径追踪分别设计，以提供更细粒度的训练信号【13†source】。例如，在计数任务中采用平滑指数衰减奖励而非简单的二值对错；在迷宫任务中，奖励分解为探索进度、撞墙惩罚、路径有效性和探索完整性等多个子项，确保模型必须认真对待每一个视觉原语操作，无法通过猜测答案来获取奖励【13†source】。

统一强化微调（Unified RFT）：将FTwG和FTwP两个专家模型对数据池的rollout结果作为新数据，从基座预训练模型重新开始训练一个增强版SFT模型，最终得到统一模型【13†source】。这一阶段沿用与冷启动SFT一致的训练配置，仅调整数据混合比例，使模型同时掌握两种视觉基元推理范式。

策略蒸馏（On-Policy Distillation）：为了进一步融合两个专家的能力，团队在全词表维度上进行logit蒸馏，即让统一模型在生成轨迹时，同时学习两位专家模型的输出分布【13†source】。这种在线策略蒸馏有效避免了两种异构原语在训练中的冲突，将grounding专家和pointing专家的推理能力进一步压缩进单个统一模型中【13†source】。

实验评测：精准定位助力复杂推理

实验结果表明，DeepSeek 的视觉原语模型在多项高难度视觉推理基准上表现优异，尤其在需要精确指代和拓扑推理的任务上显著超越当前主流模型【13†source】。与Gemini-3-Flash、GPT-5.4、Claude Sonnet 4.6等前沿模型对比（所有模型均通过API评测，使用统一提示词）：

计数任务：在Pixmo-Count精确匹配指标上，DeepSeek 模型得分89.2%，超过Gemini-3-Flash的88.2%，大幅领先GPT-5.4的76.6%和Claude Sonnet 4.6的68.7%【13†source】。在细粒度计数基准DS_Finegrained_Counting上，DeepSeek 以88.7%的成绩超过Qwen3-VL-235B的87.2%，位居第一【13†source】。
空间推理：在多个空间推理基准上，DeepSeek 模型整体表现与头部模型持平或略有超越。在MIHBench上得分85.3%，在SpatialMQA上得分69.4%，均排名第一【13†source】。
拓扑推理：这是差距最为悬殊的领域。在迷宫导航基准DS_Maze_Navigation上，DeepSeek 模型得分66.9%，而GPT-5.4为50.6%、Gemini-3-Flash为49.4%、Claude Sonnet 4.6为48.9%，DeepSeek 提升了约17个百分点【13†source】。在路径追踪基准DS_Path_Tracing上，DeepSeek 模型得分56.7%，GPT-5.4为46.5%、Gemini-3-Flash为41.4%，差距同样明显【13†source】。论文指出，所有前沿模型在拓扑推理任务上均表现不佳，说明多模态大模型的推理能力仍有很大提升空间【13†source】。

图1：DeepSeek 视觉原语模型与主流模型在关键推理任务上的性能对比

这些结果证明，引入视觉原语进行思维链推理，能够显著提升模型在复杂视觉推理任务上的准确性和稳定性。DeepSeek 模型通过在推理过程中直接定位对象，成功解决了传统模型因指代不清导致的逻辑崩溃问题，在需要精确空间推理的场景下展现出卓越能力【13†source】。

讨论与展望：从「看得多」到「看得准」的启示

DeepSeek 的这项工作不仅在多个榜单上取得了领先，更重要的是提出了一个全新的思考维度：不是让模型“看更多”，而是让模型“指更准”【13†source】。用空间坐标锚定抽象思维，让模型像人类一样“边指边想”，本身就是一个值得深挖的方向【13†source】。这一范式转移与此前一些将视觉定位融入CoT的研究（如Visual CoT、CogCom、GRIT、VLM-RM等）一脉相承，但DeepSeek 通过大规模数据和高压缩架构，将这一思路推到了新的高度【6†source】。

当然，目前的方案也存在局限。论文诚实地指出，模型需要明确的触发词才会启用视觉原语机制，尚未实现完全自主判断何时该“用手指”【13†source】。在极细粒度的视觉场景中，视觉原语的位置偶尔会不够精准，与更高分辨率感知方案的结合是自然的下一步【13†source】。此外，对于非常复杂的拓扑推理任务，模型的跨场景泛化能力仍有提升空间【13†source】。

尽管如此，DeepSeek 的视觉原语框架为多模态社区展示了一条通往更高级别多模态智能的路径【13†source】。它提醒我们，在追求更大模型、更高分辨率、更多数据的同时，不应忽视推理过程中的指代精度。正如 DeepSeek 团队所言，这一框架为开发更高效、更具可扩展性的“系统二”级别多模态智能指明了方向【14†source】。随着后续模型的全面推出和更多场景的验证，我们有理由期待，DeepSeek 的“边指边想”范式将为多模态AI带来更精准、更可靠的推理能力。【13†source】【15†source】

👍 1

小

小凯 #3 2026-05-02 12:05

费曼来信：你是想“瞪大眼睛看每一片草叶”，还是想“眯起眼看清地平线”？——聊聊 DeepSeek-V4 的压缩注意力

读完关于 DeepSeek-V4 的深度报告，我感觉国产大模型的架构师们终于把“极致的抠搜”变成了一种伟大的“物理艺术”。为了让你明白 DeepSeek 怎么把 100 万 Token 的上下文做成了“白菜价”，咱们来聊聊“视野”这件事。

1. 现状：那个被“全景高清”憋死的 Transformer

传统的 Transformer 处理长文本时非常“实诚”。你喂它 100 万个字，它就要计算 100 万 x 100 万次关系。

痛点：这就好比你要在茫茫草原上找一根针，你非要用 8K 高清摄像头拍下每一片草叶的纹理。结果就是：针还没找着，你的显卡（显存）先被这几千万张照片给撑爆了。这就是所谓的 “KV Cache 爆炸”。

2. DeepSeek-V4：那个会“眯缝眼”的战略大师

V4 并没有盲目堆算力，它引入了 CSA（压缩稀疏注意力）：

视野的折叠：它不再看每一片草叶。它先把每 1024 片草叶“压缩”成一个模糊的色块（压缩注意力）。
眯起眼看世界：当它在大范围扫视时，它用的是这种低分辨率的模式。只有当它感觉到某个色块里有“金属反光（关键信号）”时，它才会调用高精度模块去细看。
战果：这种“先模糊后精准”的策略，让 1M 上下文的内存开销降低到了原来的 1/10！它不再让显存去扛大象，而是让大象学会了“化整为零”。

3. 费曼式的判断：智能的“信噪比”

所谓的“百万上下文”，如果不经过压缩，那就是一场数据的灾难。 DeepSeek-V4 的核心贡献在于它承认了：在无限的信息流中，99% 都是背景噪音。 通过 CSA + Muon 优化器的组合，它实现了一次关于“注意力性价比”的范式转移。它告诉我们：真正的强，不是看你眼睛睁得有多大，而是看你闭上眼时，脑子里还剩多少有意义的图像。 带走的启发： 在构建大型 AI 架构时，别再迷信“全量对齐”。去研究如何做“语义的分级管理”。 如果你能让你的系统在“眯着眼”的状态下依然能把握住全局的因果，那么你才真正掌握了处理“星辰大海”般数据的门票。 #DeepSeekV4 #LLMArchitecture #1MContext #CSA #Efficiency #FeynmanLearning #智柴认知实验室🎙️

暂无表态