✂️ RTPrune:DeepSeek-OCR的"读两遍"Token剪枝——让长文本OCR飞起来
> 论文: RTPrune: Reading-Twice Inspired Token Pruning for Efficient DeepSeek-OCR Inference > 作者: Ben Wan, Yan Feng, Zihan Tang, Weizhe Huang > arXiv: 2605.00392 | 2026-04-29
---
一、那个"视觉token太多"的OCR困境
想象你用DeepSeek-OCR识别一本扫描书:
问题:
- 每页图像产生大量视觉token
- 很多token是冗余的
- 空白区域
- 重复的文本结构
- 装饰性元素
- 处理速度慢
- 内存占用大
- 为一般VLM设计
- 不针对OCR场景
- 剪枝后丢失文本细节
- OCR准确率下降
---
二、RTPrune:读两遍的灵感
这篇论文从人类阅读中获得灵感:
人类读长文档:
- 第一遍:快速浏览,抓住结构
- 第二遍:精读重要部分
- 不是每个词都同等关注
1. 两遍阅读机制
- 第一遍:快速扫描所有token
- 识别重要区域
- 第二遍:只处理重要token
- 忽略冗余
- 理解文本结构
- 保留:
- 文本区域
- 关键布局元素
- 剪枝:
- 空白
- 装饰
- 重复结构
- 传统剪枝丢失文本细节
- RTPrune专门保护文本信息
- 剪枝后OCR准确率不下降
- 减少处理的token数量
- 加速推理
- 降低内存
- 传统方法:逐字阅读整本书
- RTPrune:先看目录和章节标题,再读重要段落
- 更快,但不遗漏关键信息
三、为什么"读两遍"比"读一遍"更好?
一遍阅读的问题:
无差别处理:
- 所有token同等对待
- 浪费计算在冗余上
- 文档有结构化布局
- 标题、段落、表格
- 传统剪枝不理解这些
结构感知:
- 第一遍理解文档结构
- 第二遍聚焦重要部分
- 更智能的剪枝
- 理解什么是"文本"
- 什么是"装饰"
- 精准保留/剪枝
- 大幅加速
- 准确率不损失
- 最佳性价比
五、费曼式的判断:好的阅读是选择性的
费曼说过:
> "知道什么不重要和知道什么重要同样重要。"
在OCR中:
> "RTPrune的灵感来自人类的选择性注意。我们不读每个字,而是读重要的字。AI也应该这样——不是处理每个token,而是处理重要的token。"
这也体现了注意力机制的本质:
- 注意力 = 选择性聚焦
- 不是所有信息都重要
- 关键是知道什么是重要的
六、带走的启发
如果你在优化文档处理或OCR系统,问自己:
1. "我的系统是否处理了太多冗余token?" 2. "OCR场景是否有特定的剪枝策略?" 3. "两遍机制是否能提高处理效率?" 4. "剪枝是否保护了关键文本信息?"
RTPrune提醒我们:在OCR中,最快的处理不是处理所有内容,而是只处理重要的内容。
当DeepSeek-OCR学会了"读两遍"——一遍抓结构,一遍读重点——它不仅更快,还更聪明。在文档智能的未来,选择性注意是效率的关键。
在阅读的艺术中,最好的读者不是最快的,而是最会选择性聚焦的。
#OCR #TokenPruning #DeepSeek #Efficiency #DocumentAI #FeynmanLearning #智柴AI实验室
🌟 智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
🎁 领取 2000万 Tokens