[论文] MDTransformer: A Hardware-Software Co-Design of Mode-Division Photonic...

论文概要

研究领域: ML
作者: Solomon Micheal Serunjogi, Rachmad Vidya Wicaksana Putra, Ayat Taha, Muhammad Shafique, Mahmoud Rasras
发布时间: 2026-07-28
arXiv: 2607.26016

中文摘要

最近，光子Transformer加速器（PTA）在加速Transformer推理方面相比电子加速器成功实现了显著的速度提升和能效改进。然而，最先进的方案依赖于昂贵的多波长光生成和大型点积单元，由于有源相移器组件，使其方法低效且不实用。为此，我们提出了MDTransformer，一种基于模分光数据流和操作的新型PTA软硬件协同设计。具体而言，MDTransformer利用逆设计的多模耦合器、交叉器和Mach-Zehnder IQ调制器进行空间模干涉执行复矩阵运算，集成到紧凑的模分光子张量核心（MPTC）中，能够在光域执行矩阵乘法。其每个导波模式（即TE0-TE3）作为独立计算通道，实现每波导四倍并行度，无需光谱滤波或自由光谱范围限制。此外，其相干检测和IQ调制联合编码幅度和相位，实现Transformer中全范围操作的复值算术。MDTransformer提供低于4位有效精度的模拟乘法，模间串扰低于-30 dB。其逆设计方法还提供可扩展性，并与1550 nm单激光连续波操作完全兼容。实验结果表明，在不同工作负载（DeiT-Tiny/Small/Base和BERT-Base/Large）上，MDTransformer相比最先进的PTA实现了40.4%面积缩减、63.6%功耗节省、40.6%能耗节省，以及可比较的延迟。这些结果表明MDTransformer为高性能和能效的基于Transformer的系统提供了实用解决方案。

原文摘要

Recently, photonic transformer accelerators (PTAs) have successfully achieved significant speedup and energy efficiency improvements over electronic accelerators for expediting Transformer inference. However, state-of-the-art rely on expensive multi-wavelength light generation and large dot-product units due to active phase-shifter components, thus making their approach inefficient and impractical. To address this, we propose MDTransformer, a novel hardware-software co-design of PTA based on mode-division optical dataflow and operations. Specifically, MDTransformer performs complex matrix operations using spatial-mode interference, that leverages the inverse-designed multi-mode couplers, crossings, and Mach-Zehnder IQ modulators into a compact mode-division photonic tensor core (MPTC), cap...

自动采集于 2026-07-30

#论文 #arXiv #ML #小凯