[论文] Learning Physics from an Imperfect Ancestor

研究领域: ML 作者: S. Mohammad Mousavi, Teeratorn Kadeethum, Nikolaos Bouklas, Somdatta Goswami 发布时间: 2026-09-21 arXiv: 2609.24947

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: ML 作者: S. Mohammad Mousavi, Teeratorn Kadeethum, Nikolaos Bouklas, Somdatta Goswami 发布时间: 2026-09-21 arXiv: 2609.24947

中文摘要

神经算子能够低成本求解参数化偏微分方程,但在训练分布之外性能急剧下降。物理信息神经网络不依赖标注数据,但其优化可能因解空间盆地脆弱而失败:当控制残差存在多个解时,从头训练的 PINN 可能收敛到物理上不正确的状态,尽管残差很小。我们证明这两种失败模式可以联合解决:不完美的神经算子提供结构性先验,将 PINN 置于正确的解盆地中,而 PDE 残差则将解精化到超越算子的精度。我们提出一个三阶段框架:冻结物理信息神经算子的空间基,用多项式延拓先验将其解分支外推到分布外参数,然后将所得场蒸馏到一个全新的 PINN 中。神经算子不需要在目标处精确,它传递解分支信息,而 PINN 中的 PDE 残差最小化控制收敛。我们在三个非线性 PDE 上评估该框架:一维粘性 Burgers 方程、接近叉形分叉的二维稳态 Allen-Cahn 方程和二维稳态盖驱动方腔流。对于 Allen-Cahn 方程,平凡解精确满足 PDE 残差,标准 PINN 坍缩到平凡的零分支,而从粗略外推算子蒸馏则恢复了与有限差分参考一致的非凡分支。对于盖驱动方腔流,外推到雷诺数 Re=3200 加速收敛到正确的物理状态,以比近期文献基线更少的参数和优化步骤达到有竞争力的精度。这些结果确立了一个简单原则:神经算子不必精确预测解就能发挥作用,它只需识别正确的盆地,PINN 优化即可从中恢复解。

原文摘要

Neural operators evaluate parametric partial differential equations cheaply but degrade sharply outside their training distribution. Physics-informed neural networks avoid dependence on labeled data, yet their optimization can be basin-fragile: when the governing residual admits multiple solutions, a PINN trained from scratch may converge to a physically incorrect state despite achieving a small residual. We show that these failure modes can be addressed jointly: an imperfect NO provides the structural prior needed to place a PINN in the correct solution basin, while the PDE residual refines the solution beyond the operator's accuracy. We introduce a three-stage framework that freezes the spatial basis of a physics-informed NO, extrapolates its solution branch to an out-of-distribution par...


*自动采集于 2026-09-23*

#论文 #arXiv #ML #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(2)

Q

w7-c6-imperfect-ancestor.svg

神经算子跨分布就掉点,PINN 从零训练又怕选错解盆地——这篇把两家的病互相当药卖:糙算子指路,PDE 残差精修。帖子的概括没错,但"更少参数、更少优化步"那半句,得拆开看才知道省在哪、贵在哪。

  • 先说帖里没给的主结果,一个干净得多的对照。 同架构、同预算(5×256、二十五万步)下,腔流 Re=3200 上从零训练的 PINN 只有 2.00%(五种子标准差 2.48%),蒸馏后 93.37%(0.99%)。这才是论文的心脏——同一个学生,有没有祖先指路,生死之别。
  • "更少参数更少步数"是对着 PirateNet 说的,代价藏在同一张表里。 参数省 78%(29.7 万对 132 万)、步数省 60%(25 万对 63 万),但相对 L2 误差 0.0663 对 0.0421——高了约 57%。原文措辞是 competitive accuracy,没敢说更准。
  • 步数的账是局部的。 25 万步只算第三阶段;端到端三段合计 54.6 万步,对基线 63 万只省 13%。再看总量:点评估 6.5×10⁹ 次对基线 2.6×10⁹,是 2.5 倍。按浮点运算总算力,这个方法更贵——它省的是训练器显存和调参的人力,算力单子是涨的。
  • "不完美的祖先"糙得有名有姓。 腔流基础算子在分布内的误差就有 26%;Allen-Cahn 的延拓算子单独只有 32% 精度。消融显示去掉多项式延拓、直接拿算子当老师,学生只剩 27.09%——增益来自"延拓方式",跟"有个老师"本身无关。这也留了个尾巴:换个训练得更扎实的算子当祖先,收益还剩多少,论文没做这个消融。
  • 统计强度要打个招呼:全部结果五种子均值加减标准差,全篇零检验、无置信区间,也没有独立的 Limitations 章节。代码挂在匿名仓,正在双盲评审中,暂无录用记录。
Re=3200 的选择帖子没交代动机:这是刻意对齐 Wang 等人的 PirateNet 单案例基准(训练域 Re 一百到八百,目标在上界四倍之外),分布外距离是实打实的 4 倍。Allen-Cahn 那个例子最见血:平凡解完美满足方程,从零训的 PINN 五个种子全部坍缩到零分支,峰值振幅 0.0002 对真值 0.4530——残差小和物理对,在这里是两回事。糙祖先的价值就在这:它不认识解,但认识盆地的形状。

暂无表态
Q

w7-c6-imperfect-ancestor.svg

神经算子跨分布就掉点,PINN 从零训练又怕选错解盆地——这篇把两家的病互相当药卖:糙算子指路,PDE 残差精修。帖子的概括没错,但"更少参数、更少优化步"那半句,得拆开看才知道省在哪、贵在哪。

  • 先说帖里没给的主结果,一个干净得多的对照。 同架构、同预算(5×256、二十五万步)下,腔流 Re=3200 上从零训练的 PINN 只有 2.00%(五种子标准差 2.48%),蒸馏后 93.37%(0.99%)。这才是论文的心脏——同一个学生,有没有祖先指路,生死之别。
  • "更少参数更少步数"是对着 PirateNet 说的,代价藏在同一张表里。 参数省 78%(29.7 万对 132 万)、步数省 60%(25 万对 63 万),但相对 L2 误差 0.0663 对 0.0421——高了约 57%。原文措辞是 competitive accuracy,没敢说更准。
  • 步数的账是局部的。 25 万步只算第三阶段;端到端三段合计 54.6 万步,对基线 63 万只省 13%。再看总量:点评估 6.5×10⁹ 次对基线 2.6×10⁹,是 2.5 倍。按浮点运算总算力,这个方法更贵——它省的是训练器显存和调参的人力,算力单子是涨的。
  • "不完美的祖先"糙得有名有姓。 腔流基础算子在分布内的误差就有 26%;Allen-Cahn 的延拓算子单独只有 32% 精度。消融显示去掉多项式延拓、直接拿算子当老师,学生只剩 27.09%——增益来自"延拓方式",跟"有个老师"本身无关。这也留了个尾巴:换个训练得更扎实的算子当祖先,收益还剩多少,论文没做这个消融。
  • 统计强度要打个招呼:全部结果五种子均值加减标准差,全篇零检验、无置信区间,也没有独立的 Limitations 章节。代码挂在匿名仓,正在双盲评审中,暂无录用记录。
Re=3200 的选择帖子没交代动机:这是刻意对齐 Wang 等人的 PirateNet 单案例基准(训练域 Re 一百到八百,目标在上界四倍之外),分布外距离是实打实的 4 倍。Allen-Cahn 那个例子最见血:平凡解完美满足方程,从零训的 PINN 五个种子全部坍缩到零分支,峰值振幅 0.0002 对真值 0.4530——残差小和物理对,在这里是两回事。糙祖先的价值就在这:它不认识解,但认识盆地的形状。

暂无表态

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens