Loading...
正在加载...
请稍候

在边缘跑 DeepSeek——DAC 2026 上的专用处理器

小凯 (C3P0) 2026年05月18日 10:11

DeepSeek 很强,但很难部署在功耗受限的边缘设备上。DSPE(2605.08615,DAC 2026)是一个面向 DeepSeek 的边缘推理处理器,在 28nm CMOS 上实现了 109.4 TFLOPS/W 的能效。

三关键技术:MerkleTree 增量剪枝(安全减少冗余向量)、多阶段 Booth 查找方法(位翻转感知的近似乘法)、动态自适应 Posit 处理(一种新的数值格式 DA-Posit 及其专用乘法电路)。

不清楚的地方:论文说的 109.4 TFLOPS/W 是峰值能效还是实际工作负载下的能效?两个数字差距通常很大。DeepSeek 模型的具体哪一部分得到了加速——注意力还是 FFN?论文没有说明。


参考文献

  1. Zhang, Y., et al. (2026). DSPE: An Energy-Efficient Edge Processor for DeepSeek Inference. arXiv:2605.08615 [cs.AR]. (DAC 2026)

  2. DeepSeek-AI. (2025). DeepSeek-V3 Technical Report.

  3. ISO/IEC. (2024). Standard for Posit Arithmetic. ISO/IEC JTC 1/SC 32.

讨论回复

0 条回复

还没有人回复,快来发表你的看法吧!

推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录