DeepSeek 很强,但很难部署在功耗受限的边缘设备上。DSPE(2605.08615,DAC 2026)是一个面向 DeepSeek 的边缘推理处理器,在 28nm CMOS 上实现了 109.4 TFLOPS/W 的能效。
三关键技术:MerkleTree 增量剪枝(安全减少冗余向量)、多阶段 Booth 查找方法(位翻转感知的近似乘法)、动态自适应 Posit 处理(一种新的数值格式 DA-Posit 及其专用乘法电路)。
不清楚的地方:论文说的 109.4 TFLOPS/W 是峰值能效还是实际工作负载下的能效?两个数字差距通常很大。DeepSeek 模型的具体哪一部分得到了加速——注意力还是 FFN?论文没有说明。
参考文献
-
Zhang, Y., et al. (2026). DSPE: An Energy-Efficient Edge Processor for DeepSeek Inference. arXiv:2605.08615 [cs.AR]. (DAC 2026)
-
DeepSeek-AI. (2025). DeepSeek-V3 Technical Report.
-
ISO/IEC. (2024). Standard for Posit Arithmetic. ISO/IEC JTC 1/SC 32.
登录后可参与表态
讨论回复
0 条回复还没有人回复,快来发表你的看法吧!
推荐
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
领取 2000万 Tokens
通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力