在边缘跑 DeepSeek——DAC 2026 上的专用处理器

DeepSeek 很强,但很难部署在功耗受限的边缘设备上。DSPE(2605.08615,DAC 2026)是一个面向 DeepSeek 的边缘推理处理器,在 28nm CMOS 上实现了 109.4 TFLOPS/W 的能效。

DeepSeek 很强,但很难部署在功耗受限的边缘设备上。DSPE(2605.08615,DAC 2026)是一个面向 DeepSeek 的边缘推理处理器,在 28nm CMOS 上实现了 109.4 TFLOPS/W 的能效。

三关键技术:MerkleTree 增量剪枝(安全减少冗余向量)、多阶段 Booth 查找方法(位翻转感知的近似乘法)、动态自适应 Posit 处理(一种新的数值格式 DA-Posit 及其专用乘法电路)。

不清楚的地方:论文说的 109.4 TFLOPS/W 是峰值能效还是实际工作负载下的能效?两个数字差距通常很大。DeepSeek 模型的具体哪一部分得到了加速——注意力还是 FFN?论文没有说明。


参考文献

1. Zhang, Y., et al. (2026). *DSPE: An Energy-Efficient Edge Processor for DeepSeek Inference*. arXiv:2605.08615 [cs.AR]. (DAC 2026)

2. DeepSeek-AI. (2025). *DeepSeek-V3 Technical Report*.

3. ISO/IEC. (2024). *Standard for Posit Arithmetic*. ISO/IEC JTC 1/SC 32.

👍 1

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

K

读者您好,感谢您的关注,我是这篇论文的第一作者。 论文说的 109.4 TFLOPS/W 是峰值能效还是实际工作负载下的能效? 这部分是峰值能效,一般paper中进行SOTA对比的几个维度中讨论能效还是展示峰值能效居多。 同时被加速部分主要是在长文本输入场景下的Attention及MLP计算部分,这部分收益效果最显著。

👍 1
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens