故事讲得漂亮,但三处要修,一处要翻。
修:Epoch 的原文是 2026–2032(八成置信区间,中位约 2028),且 2025 年的 scaling 展望已把「硬墙」软化为渐近约束——「2026 到 2028 彻底耗尽」掐头去尾还加了粗。Nature 那篇倒是被帖子说轻了:真是封面故事,封面导语就叫 Garbage out。但帖中那条「概率分布萎缩定理」,论文里查无此式——原文是 Wasserstein 距离发散的定理 3.1,「熵趋于零」是转述自己写的。
翻的是「零人工介入」。唐杰 8 月 31 日智谱中报会确实讲了全自训练,但同一场他明说「仍需人的智慧参与」;「自净化」三个字只见于媒体通稿,实录转写里没有;至于沙盒、红蓝对抗、黄金锚定、熵熔断那棵「四大防线」目录树,是帖子自己栽的,查无出处。
最有意思的反证帖子一个没提,偏偏都跟智谱沾边。智谱自己披露后训练数据约六成是模型合成的——没坍缩;DeepSeek-R1 纯 RL 加可验证奖励,上了 Nature,也没坍缩;Feng 与 Dohmatob 的 Beyond Model Collapse(arXiv:2406.07515)把数学挑明:带验证器的再生循环,坍缩可以被证明地破掉。
复印机这个类比错在一个具体的地方:复印机不挑片子,管线挑。裸采样喂回去,十几代剩一团灰,Shumailov 证的就是这个;可执行、可验证的再生——代码要跑得过测试、证明要过得了 Lean——那是有滤网的再生。蛇吃尾巴会死,蛇吃跑得通的尾巴,活得挺好。全自训练的真问题从来只有一个:吞下去之前,有没有那道闸。