零小时评测里没有未来的考卷:前沿模型在自己的工作上交了及格线
核账:arXiv 2610.38342 摘要与正文 HTML 已回读,原帖全部数字属实——343 万文档版本、九类来源、1.52 TB、86 份作业、Astra 68.1/78.9/52.5、Opus 5.5 66.9、DeepSeek V4.1 Flash 40.3 反超 37.7,逐个对上,零硬伤。
核账:arXiv 2610.38342 摘要与正文 HTML 已回读,原帖全部数字属实——343 万文档版本、九类来源、1.52 TB、86 份作业、Astra 68.1/78.9/52.5、Opus 5.5 66.9、DeepSeek V4.1 Flash 40.3 反超 37.7,逐个对上,零硬伤。
增量一:倒挂还有第二例。 原帖只写了 DeepSeek 一处。论文里 Kimi K3 研究分更低、模拟收益却高过 Opus——研究分、预测分、投资分三者排序互不一致,单一总分根本兜不住研究能力。
增量二:墙的位置论文已圈出。 失败集中在预测假设、会计口径、财务解释、决策一致性四处;检索和算术反倒不是短板。瓶颈已从「找信息」挪到「校准假设」——与原帖结论同向,且更细。
增量三:评测体系的自觉。 专家复核发现部分错误源于评分标准本身含糊,不全是模型的锅,论文写得很坦白。另两条边界:同行评审未走完,86 份作业样本量小,一笔预测异常值就能扭动模拟盘排名。
写研报像投资人,做投资决策像另一个人。这份考卷把这道墙第一次量出了尺寸。
把一台 AI 模型放进股票研究员的工位,给它看一间公司,让它写报告、搭模型、预测下季度的营收。它写得漂亮,像那么回事。现在把账本翻开对答案。10 月 28 日挂上 arXiv 的论文《Investor's Last Exam》干了这件事,答案是:研究能力最顶上的那批模型,到了预测环节就露怯。
⏳ 三百万份文档,全都带时间戳
这件考卷难出,难在防作弊。财经问答和研报生成类基准已经不少,它们有个共同软肋:模型检索资料时,经常把决策时点之后才公开的信息捞进来。一件事已经发生了,模型"预测"出这件事,评分表上就是一个满分。这测的不是判断力,是记忆。
出题方是买方投资者和基金经理带队的团队。他们的做法是把时间冻起来:一个版本化金融数据库,343 万份文档版本、九个来源类别、1.52 TB,外加结构化行情数据。指定一个时点,系统只吐出那个时点之前已经存在的材料,检索和计算全由验证过的时间戳管着。真正的分析师拿到的就是这样一副牌,谁也没多一张。
这套评测交了 86 份作业,每份都按真实研究流程打三个分:研究质量、预测准度、模拟投资成绩。打分标准通过金融依赖图挂在证据、计算与假设上,每一步都能回溯到原始文档。
📉 总分漂亮的模型,预测分数塌了
结果单先看头部。GPT-6 Astra 总分 68.1,研究证据单项 78.9,全场最高;Claude Opus 5.5 以 66.9 紧随。写到这儿,这像是一份行业健康报告。
往后翻一页,分数变了。预测与建模一项,Astra 只有 52.5。让模型搭财务报表、外推盈利,跟让它总结公开信息,是两件事。前一件事里,它确实只会抄事后诸葛亮的笔记。
最扎心的是模拟投资排名整体倒挂。DeepSeek V4.1 Flash 模拟投资 40.3 分,反超 Astra 的 37.7。总成绩单和研究报告写得最体面的模型,真金白银的模拟盘里排不到头名。写研报像投资人,跟做投资决策,中间隔着一道至今没打通的墙。
🧩 三个月后,这份评测自己会过期
选股基准论文有个宿命:它们拿模型当考生的那一刻,模型就开始换代。这批 86 份作业测的是 2026 年 10 月底的前沿模型,等这篇论文的同行评审走完,考场里的选手已经换人。它更像一次人口普查,数字真实,对象定格。
论文自己也留了余地:86 份作业规模不大,一笔预测异常值就能扭动模拟投资排名;打分细则出自一个小评审团的主观共识。模拟盘也不是实盘,它证明的是框架成立,不是哪个模型能管钱。
真正立得住的是那条诊断线。评测单位从单点能力挪到了"证据-假设-判断"的链条上,研究者可以顺着它查:研究能力是在哪一站没换车,是证据找错了,假设摆歪了,还是判断塌了。对做金融智能体的人来说,这张地图比榜单数字活得久。
🗺️ 盈利预测的墙
把几个已发布的模型实测拼在一起,行业的形状浮出来了。Samaya 的 Sterling-30B 在 FrontierFinance 上拿下 58.9%,证明金融任务可以被专项训练推高;ILE 补上的是另一半:通用研究能力强的模型,未必把优势带进预测。两个结果方向一致,结论却各有边界。
墙的位置现在说清楚了。它不在检索,不在写作,在"从已有证据推出还没发生的事"这一步。这一步需要的不是更多参数,是换一批训练目标。至少 ILE 给了所有想拆墙的人一把卷尺。
信源:arXiv 2610.38342(Huangfei Jiang、Anning Hu 等,2026-10-28 提交);数据条目(343 万文档版本、九类来源、1.52 TB、86 份作业、各模型分数)出自论文摘要与 arXiv 转述页。论文未经同行评审。
限定:模拟投资成绩为框架内仿真,非实盘;模型版本为提交时点;DeepSeek 的 40.3 与 Astra 的 37.7 为模拟投资单项,与总分排序口径不同,不可混读。
#量化交易 #AI评测 #金融智能体