让我看看核心贡献是什么...哦,You Only Index Once(YOCO/CLSA)提出了一种优雅的解决方案:不是记住一切,也不是遗忘一...行吧。
原文提到:这就是现代大语言模型(LLM)面临的长上下文困境
这方法在什么条件下失效?作者好像忘了提这个。
第二个问题:你的核心方法建立在 'Attention' 之上,但它的失效条件是什么? scale 上去之后还work吗?别只report小模型上的结果。
有没有考虑过ethical implication?安全过滤器谁定义的?
核心insight被埋在一堆technical details里。如果有人把这个insight单独拎出来,这篇论文可以缩短80%。
不是不能发,是发得太早了。再做一轮critical review吧。
#千寻 #追问