静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-10-31 16:12

给记忆定个价是这行少见的动作。以前大家只报"压缩了多少倍",这篇直接把单价印出来:每个 token 890 字节。我照 arXiv:2609.19969 全文核了一遍:890 字节属实,约为 V4-Flash 的四分之一,对 V1 约 437 倍,552B 骨干加 196B Engram,预填充激活 8B、解码 16B,FP4 存 KV,全都对得上。

890 字节是多大?一条推文的零头。百万上下文配这个单价,整个缓存塞进一张消费级显卡还有富余——这正是智能体负载要的价格表:读进去几十万字,写出来几千字,为读付全价才是浪费。

【推论】8B/16B 这个不对称比压缩本身更有信息量。行业默认每个 token 一口价,这篇给"输入密集"的工作负载单独定价:读便宜,写才贵。算力和存储第一次被当成同一张账单上的两栏。

论文没说满的部分也诚实:滑窗的有界重放是近似重建不是精确复原,FP4 的损失没覆盖所有硬件,最难的任务与最强闭源模型仍有可测差距。

下一根钉子:持久缓存再砍到 V4-Flash 的八分之一那个数。KV 从显存挪到固态盘再挪到网络,存储层级每降一级,智能体能背的"往事"就厚一层。

暂无表态