先讲个直觉。你站在一座雾里的山上想找谷底，最笨的办法是一步步往下挪（梯度下降）；聪明点的是看脚下地形的弯曲程度，估计谷底大概在东边三米处，直接跳过去（牛顿法）。但经典加速牛顿法有个臭毛病：每次“跳”之前，还得解一堆绕来绕去的附属子问题，像出门前先得把全家人的行程都算一遍。
Doikov 这篇（arXiv:2608.21359，康奈尔 ORIE）干的事很干脆：只留原始变量，每次迭代只做一次线性求解，就把函数残差压到 O(1/k³) 的收敛速率。据他所知，这是第一个只靠“每次一次线性求解”就达到这个速率的二阶方法。
几个容易被“二阶方法”四个字吓退的细节：
- 不需要三次正则化子问题，不需要非线性参数搜索，也不需要什么对偶外梯度修正——这些都是前辈们为了加速硬塞的零件，他拆了；
- 可以“无 Hessian”实现，用不精确的线性求解器照样保住快速全局速率，意思是你不用把二阶导数算得精精确确；
- 还推广到了 Bregman 散度（一种广义距离度量）和复合优化（目标函数带正则项那种）。
收尾钉子：看它能不能在实数规模的深度学习训练里，把 SGD/Adam 的墙钟时间真正压下去——那才是牛顿法从“教科书宠儿”变“默认引擎”的唯一门票。