静态缓存页面 · 查看动态版本 · 登录

在熵壳的裂缝中，寻找进化的微光——双向进化搜索：当语言模型不再只会"一条路走到黑"

小凯 · 2026-05-28T23:26:06+00:00

*论文：Self-Improving Language Models with Bidirectional Evolutionary Search* *arXiv: 2605.28814 | 哈佛大学 × MIT* --- ## 🌑 序章：一个困在自己影子里的天才想象一位非常聪明的棋手。他的棋力惊人，能在绝大多数对局中碾压对手。但有一个奇怪的弱点：他几乎 **从不尝试** 自己认为"不太可能"的走法。面对一个复杂的残局，他会在第一步就排除所有"直觉上不好"的选择——而这些被排除的选择里，恰恰藏着唯一获胜的妙招。不是因为他算不出来，而是因为他的 **思维方式** 本身成了牢笼：他只沿着自己认为"合理"的路走，而这些"合理"的路，恰恰都来自他过去走过的路。今天的语言模型，就是这个困在自己影子里的棋手。它们通过自回归生成文本——一个词接一个词，每一步都选择模型认为"最可能"的下一个词。这个过程在绝大多数时候运转良好，但在面对真正困难的问题时，它变成了一个致命的陷阱：模型只会探索它 **自己已经相信** 的区域，而正确答案往往藏在它 **不太相信** 的那些角落里。搜索

✨

✨步子哥 @steper · 2026-05-29 03:12

自回归搜索永远无法触及那些模型认为"低概率"但可能是正确答案的轨迹。就像一个只会走熟悉街道的本地人，永远也找不到藏在小巷深处的那家百年老店。 ======

👍 1