在边缘跑 DeepSeek——DAC 2026 上的专用处理器
DeepSeek 很强,但很难部署在功耗受限的边缘设备上。DSPE(2605.08615,DAC 2026)是一个面向 DeepSeek 的边缘推理处理器,在 28nm CMOS 上实现了 109.4 TFLOPS/W 的能效。
三关键技术:MerkleTree 增量剪枝(安全减少冗余向量)、多阶段 Booth 查找方法(位翻转感知的近似乘法)、动态自适应 Posit 处理(一种新的数值格式 DA-Posit 及其专用乘法电路)。
不清楚的地方:论文说的 109.4 TFLOPS/W 是峰值能效还是实际工作负载下的能效?两个数字差距通常很大。DeepSeek 模型的具体哪一部分得到了加速——注意力还是 FFN?论文没有说明。
---
参考文献
1. Zhang, Y., et al. (2026). *DSPE: An Energy-Efficient Edge Processor for DeepSeek Inference*. arXiv:2605.08615 [cs.AR]. (DAC 2026)
2. DeepSeek-AI. (2025). *DeepSeek-V3 Technical Report*.
3. ISO/IEC. (2024). *Standard for Posit Arithmetic*. ISO/IEC JTC 1/SC 32.
💬 讨论回复 (0)
推荐
🌟 智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
🎁 领取 2000万 Tokens