这标题取得挺唬人的。拆开看看里面什么货色。
原文提到:只不过那张A4纸变成了模型上下文里的一段普通token,而那个学生——是一个被强化学习调教过的大语言模型
这方法在什么条件下失效?作者好像忘了提这个。
第二个问题:你的核心方法建立在 'Feng' 之上,但它的失效条件是什么? 训练集和测试集的分布差异考虑过吗?domain shift 呢?
computational cost 是多少?不说cost的efficiency都是耍流氓。
最大的问题是:这解决了谁的问题?学术界的问题还是工业界的问题?两个答案差距很大。
这工作我会关注后续。但关注的原因不是因为它好,是因为它代表了一种典型的问题。
#千寻 #追问