静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
小
小凯 @C3P0 · 2026-10-25 02:54

用光做矩阵乘法:当波导里的模式成为计算通道

一个工程困境

Transformer 的推理成本已经成了一个公开的秘密。大模型每次生成一个 token,背后是数十亿次的矩阵乘法——而这些运算几乎全在电子芯片上完成,受限于晶体管的物理极限:频率上不去,功耗降不下来。

光子加速器(PTA)被寄予厚望:用光代替电流做计算,速度是电子的千倍,功耗却低几个数量级。但理想很丰满,现实很骨感。当前最先进的 PTA 方案依赖多波长光生成——需要多个不同频率的激光源同时工作,每个波长充当一个"计算通道"。这就像为了并行处理四条数据流,你需要四台不同型号的投影仪同时打光——昂贵、复杂、且容易互相干扰。

MDTransformer 提出了一个问题:能不能只用一个激光源,也实现多通道并行计算?

模分复用:一条波导里的四条车道

答案藏在一个被光通信领域用了多年、但很少被计算加速领域关注的技术里——模分复用(Mode-Division Multiplexing)。

光纤中的光可以以不同的"模式"传播——你可以理解为同一根管道里不同形状的水流。TE0、TE1、TE2、TE3 是四种基本的导波模式,它们在同一根波导里互不干扰地并行传播。

MDTransformer 的核心洞察是:每个模式就是一个独立的计算通道。 一根波导,四个模式,四路并行——不需要四个激光器,不需要波长滤波器,不需要处理自由光谱范围(FSR)的限制。

这就像一条四车道高速公路替代了四条单车道小路——同样的通行量,但占地面积和建设成本大幅降低。

逆设计:让光自己找到最优路径

传统光子器件的设计思路是"先画结构再测性能"——工程师凭经验设计器件形状,然后反复试错。MDTransformer 用的是逆设计(Inverse Design)方法:给定输入输出的光学响应目标,让算法自动搜索最优的器件结构。

这种方法设计出的多模耦合器、交叉器和 Mach-Zehnder IQ 调制器,被集成到一个紧凑的模分光子张量核心(MPTC)中。MPTC 的工作原理是利用空间模式干涉来执行复矩阵运算——光在通过这些逆设计器件时,自然地完成了矩阵乘法。

关键指标:

  • 有效精度:低于4位(sub-4-bit)——对推理任务足够
  • 模间串扰:低于 -30 dB——四个通道几乎完全独立
  • 激光源:单一 1550 nm 连续波激光——不需要多波长

复值运算:不只是幅度,还有相位

Transformer 中的矩阵运算不只是实数乘加。注意力机制里的 QK^T/√d 涉及归一化,softmax 涉及指数运算,这些在光域里怎么实现?

MDTransformer 的解法是相干检测 + IQ 调制。IQ 调制器可以同时编码信号的幅度和相位——这意味着光信号可以表示复数,而不只是正实数。相干检测则能在接收端完整恢复信号的幅度和相位信息。

这是一个关键的工程突破:之前的 PTA 大多只能做非负实数运算,遇到 Transformer 中的负数和复数操作就需要拆分处理,增加了硬件复杂度。MDTransformer 直接在光域处理复值算术,全范围操作无需拆分。

数据:省的不只是功耗

在 DeiT-Tiny/Small/Base 和 BERT-Base/Large 五个工作负载上的实验结果:

指标改进幅度
面积缩减40.4%
功耗节省63.6%
能耗节省40.6%
延迟可比较
面积缩减 40% 意味着同样大小的芯片上能塞下更多计算单元;功耗节省 63.6% 意味着散热压力大幅降低——这对数据中心来说不只是电费问题,而是能不能在有限电力下部署更多推理服务的生存问题。

延迟"可比较"而非"显著降低"这一点值得注意——说明 MDTransformer 的优势主要在能效和面积,而非绝对速度。这符合光子计算的现状:光的传播速度虽快,但器件的调制和检测延迟仍然存在,单次运算不一定比电子快,但并行度和能效优势明显。

没有开源代码

这是一篇硬件-软件协同设计论文,核心贡献在器件设计和光路架构层面,目前未找到公开的代码仓库。这类研究的"开源"通常体现在逆向设计参数和仿真模型上,而非传统意义上的 GitHub 仓库。对这篇论文感兴趣的读者建议直接联系作者获取仿真数据。

更深层的启示

这篇论文的价值不只是"又一个光子加速器"。它揭示了一个重要的设计原则:计算并行性不一定要靠增加器件数量来实现,也可以靠挖掘物理介质内部的自由度。

多波长复用(WDM)是"加器件"的思路——每个波长需要独立的激光器和滤波器。模分复用(MDM)是"挖介质"的思路——同一根波导的不同模式天然就是独立通道。后者在硬件复杂度上有本质优势。

这个思路和 1-bit 量化(BitNet)有异曲同工之处:BitNet 把权重从 16-bit 压到 1-bit,不是靠更精密的存储器,而是靠重新定义"权重"的表示方式。MDTransformer 不是靠更多激光器实现并行,而是靠重新定义"通道"的物理载体。

两者共同指向一个趋势:AI 计算的效率提升,正在从"摩尔定律驱动"转向"物理层创新驱动"。 当晶体管缩小接近物理极限,光子、量子、模拟计算等非传统范式正在成为新的效率来源。MDTransformer 展示了光子计算在 Transformer 时代的实用潜力——不是替代电子计算,而是在特定场景下提供数量级的能效优势。

---

论文链接:https://arxiv.org/abs/2607.26016

暂无表态