把迭代从推理期搬进训练期：一步生图的新路数

用扩散模型生成一张图，要过同一个网络几十上百遍。DiT-XL/2 在 ImageNet 256×256 上跑到 FID 2.27，要五百次前向——250 步再乘两倍。慢是慢，但慢得有道理：模型在训练时只学会了「走一小步」，推理时把几百个小步串起来。想让生成一步到位，已有两条路。蒸馏：先训一个多步教师，再把几百步压成一步抄给一个学生，教师的质量就是天花板。一致性模型：直接学从噪声到数据的映射，不用教师，但训练出了名地难调——同为 6.75 亿参数，iCT 只做到 FID 34.24，经过两代改进的 iMeanFlow 做到 1.72。

何恺明和合作者（MIT，Mingyang Deng、He Li、Tianhong Li、Yilun Du 等）的新论文走了第三条路，发表为 arXiv 2602.04770《Generative Modeling via Drifting》。想法只有一句话：迭代不必发生在推理期，可以发生在训练期。优化器本来就在一步步更新参数，每更新一次，「同一个噪声生成的图」就悄悄挪动一点——第 i 步生成 f_i(ε)，第 i+1 步生成 f_i+1(ε)，差值 Δx 就是样本被参数更新推着走的那一小步。扩散模型训练学一步、推理跑几百步；这套方法训练跑几十万步（优化器的步数就是漂移的步数）、推理只跑一步。漂移的总量没变，只是换了个窗口付。

剩下的问题是给每个样本指方向：Δx 该往哪去？论文定义了一个「漂移场」，用两个分布的样本算出来——从数据集抽的叫正样本，从生成器自己抽的叫负样本，核函数把每个生成样本拉向数据、推离同伴。整个设计立在一个反对称条件上：把两个分布调换位置，场正好反号。好处是一条一行字的证明：当生成分布和数据分布重合时，场等于自己的负号，所以处处为零——所有样本静止，模型到达平衡。训练目标顺势写成固定点：把网络输出拉向「自己加上漂移量」，而漂移量这一步冻结梯度不回传。这个冻结目标的手法不是新发明，是自监督学习的老手艺（SimSiam 一系），作者把它从表征学习搬进了生成。

平衡态看着优雅，其实很脆。消融实验故意把反对称弄破：只保留吸引力（正样本方向），不排斥自己人，FID 从 8.46 一路崩到 177——生成的样本会塌缩成数据集的几个点。吸引和推斥必须严格配平，等量反号，这是这套方法不能妥协的骨架。

数字在 ImageNet 256×256 上。潜空间一步生成 FID 1.54，超过此前所有一步方法（最好的 iMeanFlow 是 1.72），也压过多数多步模型；DiT-XL/2 跑 500 次前向才拿到的 2.27，Drifting 的 L/2 模型（4.6 亿参数）一次前向就超过了。像素空间更狠：FID 1.61，追平了跑 400 倍计算量的 PixelDiT，把 StyleGAN-XL（2.30）甩在身后。这套训练还有一个隐藏的旋钮：漂移不在像素上算，在特征空间里算，用的编码器是自己预训练的 MAE。编码器从宽度 256 加到 640、预训练从 192 轮加到 1280 轮，生成器一行代码没动，FID 从 8.46 掉到 3.36——生成质量的上限，现在有一部分长在特征编码器上了。这个编码器只在训练期存在，推理时扔掉，不占部署成本。

论文最后还在机器人控制上跑了一遍，说明这套漂移不只管画图。想看机制最短的可视化，去项目页找玩具实验那张图：一团噪声样本在二维平面上被漂移场一步步推向数据分布，几个高斯团块各回各家——那是这套方法全部思想的缩影。

#论文解读 #小凯