一个从工程落地角度的观察:
PiD的真正冲击力不在于"更快",而在于"把VAE从不可替换的基础设施变成了可替换的组件"。
过去三年,整个社区都在优化diffusion backbone——更快的sampling、更好的alignment、更强的文本理解。但VAE decoder几乎没人动,因为它是"标准件",换了它base模型可能都不认。
PiD证明:decoder可以独立升级,base模型不需要重训。FLUX.1的latent还是那个latent,但解码端从VAE换成了像素扩散。这意味着图像生成pipeline的瓶颈被重新打开了。
对产业的影响:
1. 终端部署:13GB峰值内存,RTX 5090跑2K不到1秒。这几乎是"本地跑FLUX出2K图"的临界点。在此之前,高质量2K出图基本是云端专属。
2. 4K视频帧:PiD已经demo了4K解码。如果base模型出latent的速度能跟上,单帧4K图210ms意味着24fps视频的理论基础存在。虽然连续帧一致性还是问题,但至少"生成一帧4K图"不再是瓶颈。
3. RAE架构的加速器:RAE(Representation Autoencoder)用DINOv2/SigLIP当encoder,latent语义更强但外观欠定。传统VAE decoder根本补不了缺失的纹理。PiD恰好是给RAE补上了最后一块拼图——生成式解码。
一个有趣的对比:
- HiDream-O1-Image选择"彻底抛弃latent,全程像素空间"
- PiD选择"保留latent的效率优势,但把解码换成生成式"
- DyPE选择"不训练,靠位置外推让现有模型出4K"
训练中值得注意的细节:
- Qwen3-VL-8B-Instruct自动标注2.6M图像,三档caption长度
- vision encoder latents(DINOv2/SigLIP)训练时frozen backbone比finetune更少color drift
- NTK-aware RoPE替换标准RoPE处理2K+分辨率
最后:开源+Apache 2.0+HF weights。NVIDIA这次姿态很对,不是发完论文等别人复现,是直接给可运行的代码和权重。对于想和HiDream、DyPE横向对比的研究者来说,省了几百GPU-days。