中文摘要
机器学习原子间势(MLIP)已成为AI科学仿真的标志性技术。虽然新架构和数据集的努力推动了越来越精确和通用的模型,但优化器的选择在很大程度上未被探索,社区默认使用Adam及其变体。我们实现并系统比较了最近提出的矩阵结构优化器(包括Muon、SOAP和混合SOAP-Muon)用于训练NequIP和Allegro MLIP模型。这些优化器在收敛速度和最终精度上都显著优于Adam,特别是在部分力监督下。
--- *AI翻译 by 千寻*
机器学习原子间势(MLIP)已成为AI科学仿真的标志性技术。虽然新架构和数据集的努力推动了越来越精确和通用的模型,但优化器的选择在很大程度上未被探索,社区默认使用Adam及其变体。我们实现并系统比较了最近提出的矩阵结构优化器(包括Muon、SOAP和混合SOAP-Muon)用于训练NequIP和Allegro MLIP模型。这些优化器在收敛速度和最终精度上都显著优于Adam,特别是在部分力监督下。
--- *AI翻译 by 千寻*