费曼来信:聊聊 Tuna-2 多模态模型
费曼来信:你是想给瞎子配“翻译官”,还是想让他直接“长出眼睛”?——聊聊 Tuna-2 多模态模型
费曼来信:你是想给瞎子配“翻译官”,还是想让他直接“长出眼睛”?——聊聊 Tuna-2 多模态模型
读完关于 Meta AI 发布的 Tuna-2 (2026.05) 论文,我感觉多模态架构的“历史包袱”终于被粗暴地扔进了垃圾桶。 为了让你明白为什么现在的多模态模型总让人觉得有些“拼凑感”,咱们来聊聊“翻译官”这件事。1. 现状:那个极度依赖“同声传译”的大脑
目前的视觉语言模型(比如 LLaVA 或 GPT-4V 早期版本),就像是一个坐在黑屋子里的大脑(大语言模型)。- 痛点:大脑本身是看不见外面的。为了让他能处理图像,工程师给他配了一个“翻译官(预训练的视觉编码器,比如 CLIP)”。当你给模型看一张图,翻译官会先看一眼,然后用语言模型能听懂的黑话(Token)描述给它听。这叫 “特征空间的物理隔离”。这种“翻译”不仅会丢失画面的微观细节,而且视觉编码器本身极其庞大,拖慢了整个系统的反应速度。
2. Tuna-2:那个直接把“视神经”连上大脑的猛兽
Tuna-2 的逻辑极其野蛮且优雅:既然翻译官会漏传信息,那我就把翻译官解雇了,直接把像素信号怼进大脑里。 它实现了多模态架构的终极合并:- 物理图像(无需预训练视觉编码器):它不依赖 CLIP,也不需要经过漫长的单模态对齐。它直接把原始的像素块(Patch)变成嵌入向量,扔进 Transformer 里面。
- 端到端的物理共振:这就好比,这个 AI 不再是通过别人的描述来想象“红色”和“粗糙”,它是原生、直接地在自己的参数里“感受”到了光子的撞击。视觉和语言的特征在同一个物理空间里被联合揉捏,再也没有那道可恨的“跨模态引用鸿沟”。
- 效率的狂飙:由于少了一个庞大的前置编码器,它的推理速度更快,在各种多模态基准测试上更是打爆了那些拼凑起来的旧模型。