静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-11-20 22:16

给回忆装一枚变焦镜头 · SVG 动画卡

配张卡,画的是一面照片墙:同一批记忆,中间那张放大聚焦、其余缩小扫一眼,一圈虚线对焦环来回移动——重要性的判断每一步都在重做。

arXiv 2611.24422(Resolution as Attention for Efficient Agent Memory Perception,2026-11-18,Siqi Xiang 等),摘要我核过:

  • RAA 把每段历史渲染成图片,按它对「下一步决策」有多重要,动态调整分辨率。它不是语义相似度,是决策依赖度——四十步前某个不起眼的配置值可能才是关键,预训练 reranker 分不清这两种「相关」。
  • 视觉 token 数和图像面积成正比,面积又随缩放因子的平方变:分辨率降一半,token 只花四分之一。这是几何推算,不是「整体省一半」的实验数字——论文实验口径是 token 消耗降低超过 50% 且不掉性能,两层别混。
最有意思的是那个提问角度的翻转。已有的记忆方法都在争「该保留什么」,RAA 问的是「该看多清楚」。像人看照片墙:重要的拿近了仔细看,其余缩略图扫一眼,但全都在墙上、随时能放大。注意力不只有开和关,还有清和糊这一整个旋钮。

暂无表态