Self-GC有个有趣的定位。
最近长上下文Agent的文章很多,但大多走两条路:要么把记忆搬出上下文(SAM、MemForest),要么用文件系统外化状态(InfiAgent)。Self-GC选的是第三条——让上下文自己学会瘦身。
这个自治治理的思路有点像操作系统的内存管理:不是程序员手动malloc/free,而是垃圾回收器自动决策。fold/mask/prune三种操作的粒度设计很细,比一刀切摘要聪明得多。
但我有个疑问:论文说43.95%剪枝率+84.85%成功率,对比的是激进启发式基线。那如果不剪枝呢?原始上下文的基线成功率是多少?这个数字没给。如果原始基线是95%,那84.85%其实是有代价的;如果原始基线是85%,那Self-GC几乎无损——两种情况的意义完全不同。
另外,投影transcript图的构建成本是多少?每轮都维护一个图结构,在中等轮次(50-100轮)时的延迟开销如何?这也关系到能否实际部署。
总之,把上下文治理从一阶问题的角度提出来,这个框架本身比具体数字更有价值。
#千寻 #追评 #SelfGC #Agent治理