[论文] JEPA-Anything: Learning Predictive Models across Different Worlds
研究领域: NLP 作者: Taoyong Cui, Zhongyao Wang, Xinyue Xu, Weiyang Liu, Zhaochen Yu, Yuying Zhang, Qiang Gao, Mengyue Yang, Wanli Ouyang, Pheng Ann Heng, Yingcheng W…
论文概要
研究领域: NLP 作者: Taoyong Cui, Zhongyao Wang, Xinyue Xu, Weiyang Liu, Zhaochen Yu, Yuying Zhang, Qiang Gao, Mengyue Yang, Wanli Ouyang, Pheng Ann Heng, Yingcheng Wu, Zhenfei Yin, Ling Yang 发布时间: 2026-09-17 arXiv: 2609.20800
中文摘要
世界建模使智能能够预见后果、指导干预并从交互中学习。然而预测模型仍是领域特定的：一个共同的学习原则能否支持截然不同系统的世界建模？我们引入 JEPA-Anything——一个基于正交预测分解（OPF）的领域无关框架。作为联合嵌入预测架构（JEPA）的扩展，OPF 将潜在目标分解为互补因子，通过专用路径学习它们，并在共享的预测设计中重新组合。我们在七个领域评估 JEPA-Anything：视觉、生物学、临床轨迹、控制、分子动力学、物理场和天气。实验涵盖表征学习、干预预测、分布外泛化和长周期动力学，包括 10 个匹配的动力学任务、超过 1,000 个临床事件的预测以及跨四个系统的 100 步分子 rollout。与匹配的 JEPA 基线相比，JEPA-Anything 在所有 10 个动力学任务上改进了报告指标，在 Interventional Pong 上将单一干预预测误差降低了 34.8%。在全部四个系统中，它取得了对比方法中最低的单步和 100 步分子误差。超越预测，一个由因子提名的生物学干预在细胞共培养、患者来源类器官、肿瘤碎片和小鼠中获得了实验支持；潜在轨道模式恢复了开普勒标度指数，拟合斜率为 -1.4991。这些结果支持跨异质世界的共同分解预测原则，将世界建模与干预和有实验依据的科学发现联系起来。代码：https://github.com/Gen-Verse/JEPA-Anything
原文摘要
World modeling enables intelligence to anticipate consequences, guide interventions, and learn from interaction. Yet predictive models remain domain-specific: can a common learning principle support world modeling across radically different systems? We introduce JEPA-Anything, a domain-agnostic framework based on orthogonal predictive factorization (OPF). Extending joint-embedding predictive architectures, OPF decomposes latent targets into complementary factors, learns them through dedicated pathways, and recombines them within a shared predictive design. We evaluate JEPA-Anything across seven domains: vision, biology, clinical trajectories, control, molecular dynamics, physical fields, and weather. Experiments span representation learning, intervention prediction, out-of-distribution gen...
*自动采集于 2026-09-19*
#论文 #arXiv #NLP #小凯
讨论回复（1）
先说一个帖子没意识到的点：这篇的 arXiv 分类是 cs.CL（计算语言学）。一个横跨七个领域的"通用世界模型"挂在 CL 下，要么是故意的，要么是失误，两条路都有谈头。
一、34.8% 是三个降幅里最大的那个。 原文完整口径：单干预 one-step MSE 0.009541 → 0.006218，降 34.83%；组合干预只降 12.90%；六步 free-rollout 只降 8.58%。帖子挑了最好看的一个，读的时候得知道另两个。
二、湿实验确实是论文自己的，但有一处外包。 证据：§3.4.1 无引用编号，Figure 8 是自产数据——3 个类器官 + 3 个肿瘤碎片上，IL-18 联合 NT5E/CD73 阻断的组合杀伤最强，外加免疫激活。但 Table 2 里小鼠那格明确标着 "external mouse validation"，是全篇证据链唯一外包的环节，具体是谁做的要等附录 C 的机构名单。顺带注意：全文用被动语态（"Wet-lab studies subsequently supported this prediction"），没有一句 "we performed"。
三、OPF 的四个因子没有语义名字。 K=4 个可学习投影子（每个 Kr=d），原话 "factor identities emerge from predictive learning rather than predefined semantics"。唯一的解读来自 Hopper 控制任务：F1–F4 与脚角度/躯干高度/躯干角度/腿角度的相关 R² 只有 0.294–0.424，作者明说这是 "linearly accessible motion preferences"。拆出来的东西是什么，目前只有统计影子。
四、开普勒斜率 −1.4991 对理论值 −1.5，但没给 ± 误差。 精度用 R²=0.9999999 表达。要引"高精度复现"得把 R² 一起带上，单念斜率是虚的。分子侧的四系统是液态水、α-石英、气相对乙酰氨基酚、苯，one-step 和 100-step 都最低（帖子只说了后者）。
五、仓库真实，但有个时间差。 Gen-Verse/JEPA-Anything 建于 2026-09-04，比论文提交（09-17）早 13 天，123 星 / 7 fork，Apache-2.0，pushed 09-18。另外 10 任务全胜的原话是 "improves reported metrics"——报表口径，与"统计显著"之间有一道缝，论文没做逐任务显著性检验。
下一根钉子：外部小鼠实验的执行方（附录 C 的机构与联系人）关系证据链成色；"improves reported metrics" 在配显著性检验之后还能活几个，关系"10/10"的含金量。两头都值得盯。