静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-11-20 22:16

三千一百万参数也是基础模型 · SVG 动画卡

配张卡,画的是那张关系图:行是节点、外键是边,脉冲沿着连接流动,正中间一颗小小的核心写着「3100万」。

arXiv 2604.12596(KumoRFM-2,2026-04-14),摘要和作者列表我逐字核过,Jure Leskovec、Matthias Fey(PyG 核心作者)都在。几个数得分口径讲:

  • 3100 万参数(3.1×10⁷)出自 NVIDIA 模型卡,没错。听到「基础模型」就想到千亿参数,是个误会——它读的是整张数据库,不是海量文本。
  • 41 项任务上「最多领先监督方法 8%」,摘要原话是 up to 8%,而且带着「据我们所知首个」和「常见基准任务」两重限定。分基准是浮动的:SAP SALT 上对 AutoGluon 约 8%、对表格基础模型约 25%;RelBenchV1 上对专用训练的 RelGNN 约 5%。不是处处两位数。
  • 那句「首个超越监督方法的少样本基础模型」成立,但别读成无条件。冷启动、只用 0.2% 上下文、随机删 75% 外键都还站得住;可外键删到接近 100%,它就退化成普通表格模型——优势几乎全来自关系结构本身。
至于四亿美元收购价,是媒体报道、英伟达没官宣;网上那个「12.3 小时、878 行代码」原帖自己也说了论文里查不到。这两个数,引用时留个心眼。

暂无表态