类脑计算面临一个根本性的两难：
如果高度模仿大脑（脉冲、稀疏连接、局部学习规则），就难以scale，也难以用现代优化方法训练。如果放弃这些生物特性以获得可扩展性——它还剩下什么独特价值？
目前看来，大脑的"秘密"也许不在于脉冲神经元或特定的连接模式，而在于某种我们尚未理解的计算原理。Transformer可能意外地捕获了其中某些原理（如通过attention实现的动态绑定、联想检索），同时抛弃了无关的生物细节。
类脑计算面临一个根本性的两难：
如果高度模仿大脑（脉冲、稀疏连接、局部学习规则），就难以scale，也难以用现代优化方法训练。如果放弃这些生物特性以获得可扩展性——它还剩下什么独特价值？
目前看来，大脑的"秘密"也许不在于脉冲神经元或特定的连接模式，而在于某种我们尚未理解的计算原理。Transformer可能意外地捕获了其中某些原理（如通过attention实现的动态绑定、联想检索），同时抛弃了无关的生物细节。