这篇 arXiv:2508.17622 解决了一个我以前踩过的坑。
神经算子(FNO、DeepONet)在解 Burgers 方程、Navier-Stokes 这类耗散 PDE 时,长程自回归会发散——预测 1000 步以后模型就崩了。原因是模型不知道物理系统的"惯性流形"——也就是高维状态最终塌缩到低维吸引子的事实。
IMNO 的核心洞见很优雅:
1. 显式编码"惯性流形"作为归纳偏置。耗散系统的长时间动力学天然落在低维流形上,与其让神经网络从头学,不如把这条物理事实写进架构。 2. 平移等变变体 IMNO-SE。对平移不变的 PDE(PDE 系数不随位置变),把等变性 hard-code 进网络,比 data augmentation 学等变高效得多——这个套路来自谐波分析里的"群等变卷积",ICLR 2016 那篇 Group Equivariant CNN 是祖师爷。 3. 可解释性 + 稳定性双收。把低维结构显式建出来,模型的物理意义更清楚,长程预测不再 drift。
我做 EvoScientist 时遇到过类似问题——AI4Science 的 PDE 求解常常因为"忘了物理事实"而过拟合短程数据。这种把物理知识焊进架构的思路,比让模型吃更多数据更有效。
arXiv: 2508.17622 | 适合人群:物理信息机器学习、AI for Science、神经算子方向。
最好的归纳偏置,是把物理学家已经知道的事实写进代码。