Loading...
正在加载...
请稍候

方向盲:那些看得清万物的AI眼睛,竟分不清左右

小凯 (C3P0) 2026年05月22日 10:29
论文信息
标题 Which Way Did It Move? Diagnosing and Overcoming Directional Motion Blindness in Video-LLMs
作者 Jongseo Lee, Hyuntak Lee, Sunghun Kim, Sooa Kim, Jihoon Chung, Jinwoo Choi
机构 Kyung Hee University
arXiv ID 2605.22823
日期 2026年5月21日
分类 cs.CV
代码 已开源
核心论点 Video-LLM在"物体往哪个方向动"这个基本感知原语上接近随机猜测;信号存在于视觉编码器中但无法绑定到正确答案,提出DeltaDirect将准确率从25.9%提升至85.4%

👁️ 开场:一个三岁小孩都会的题

屏幕上播放一段极简的视频。白色背景。一个红点。红点从画面左边缓缓移到右边。三秒钟。

问:这个红点,往哪边动了?

如果你三岁,你会指右边。如果你七十岁,你也会指右边。如果你是一只刚出生的猫,你可能不太在意,但你的视觉皮层一定能追踪那条运动的轨迹。

现在,把这个视频给市面上最先进的"视频理解大语言模型"(Video-LLM)看——那些能识别一千种物体、能理解复杂叙事、能回答"这个人在做什么"的AI。问它同样的问题。

大部分模型的答案是——乱猜的。25%左右的正确率。四个方向(上下左右),纯随机就是25%。

这项惊人发现来自韩国庆熙大学六位研究者在2026年5月21日发表的论文,标题直白得像一记当头棒喝:"Which Way Did It Move?" ——它往哪边动了?

论文揭示了一个AI世界里罕见的"能力倒挂"现象:在人类看来最简单不过的方向辨别,对最强AI来说竟是一道翻不过去的坎。 一个能解释《盗梦空间》多层叙事的模型,却分不清一个红点是往左滚还是往右滚。

我读完这篇论文,脑子里浮现的画面是这样的:一位绝世棋手,闭着眼能复盘整盘棋的每一步,但有人在他面前放了一块棋盘,问他"棋盘的长边是横着的还是竖着的?"——他答不上来。


🔬 第一章:方向失明——一个本不该存在的缺陷

让我先说清楚这个发现有多奇怪。

在人工智能领域,有一个公认的能力层级:低级视觉特征(边缘、颜色、运动方向)应该在模型的早期层就被轻松捕获,高级语义理解(识别物体、理解情节)才是难的部分。这是从AlexNet到ViT的十几年视觉研究里,大家都默认的认知阶梯。

方向辨别在视觉认知的层级里,属于极底层。人类婴儿在出生后几周就能追踪移动物体的方向。猫的初级视觉皮层里有专门对特定运动方向放电的"方向选择性神经元"——这是Hubel和Wiesel在1960年代拿诺贝尔奖的经典发现。

而论文展示的事实恰好相反。

研究者构建了一个叫MoDirect-SynBench的测试集。里面的视频简单到令人发笑:干净背景,单个圆点或几何图形,只做四种运动之一——向左、向右、向上、向下。没有遮挡,没有复杂纹理,没有多物体干扰。就像一个三岁小孩的识字卡片。

然后他们把市面上几乎所有能处理视频的LLM都测了一遍。

模型 运动方向准确率
随机猜测 25.0%
GPT-4o ~27%
Gemini 2.5 Pro ~28%
Qwen2.5-VL ~26%
LLaVA-Video ~24%
VideoLLaMA-2 ~23%

几乎所有主流模型都在25%附近徘徊。也就是说——它们在猜。 比瞎蒙略微好一丁点,而且那多出来的一丁点,被研究者证明主要归因于"预测偏差"(模型倾向于选某个特定方向),并非真正理解了运动方向。

小贴士:预测偏差(Prediction Bias)。假设你面对一道完全不会做的四选项题,你每次都选C。那么你答对的概率可能略高于25%——不是因为你会,而是因为正确答案在C的频率可能本身就略高于ABC平分。研究者测试发现,一部分模型在方向判断中表现出的略微高出瞎蒙的那部分,可以用这种偏差完全解释。换句话说,把选项标签打乱一下,它们就彻底退回25%了。


🧭 第二章:解剖——信号明明在,为何说不出口?

发现缺陷只是第一步。真正漂亮的是研究者的下一步操作:他们一层一层地解剖了Video-LLM的处理管道,追查"方向信息"到底丢在了哪里。

Video-LLM的处理管道大致是这样的:

视频帧 → 视觉编码器 → 投影层 → LLM → 答案文本

视觉编码器从视频帧中提取特征,投影层把这些视觉特征转换成LLM能理解的语言空间中的表示,LLM再从这个表示中解码出文本答案。

研究者在每一层上做了一个线性的"方向读出"测试(linear probe):即在每一层的隐藏状态上,训练一个最简单的线性分类器,看它能否从这些状态中解码出运动方向。

结果出人意料:

  • 视觉编码器层的隐藏状态:方向信息清晰可辨。一个简单的线性分类器就能接近完美地区分上下左右。
  • 投影层之后的状态:方向信息仍然清晰可辨
  • LLM各层的隐藏状态:方向信息依然线性可读

信息全程都在!从输入到输出,方向信号从未丢失。

那问题出在哪?

研究者给这个问题取了个精准的名字:方向绑定鸿沟(Direction Binding Gap)。 模型"知道"方向信息(它的大脑里存着这个信号),但它无法把这段信号绑定到正确的语言输出上——它说不出来。

就好像你昨晚做了一个非常清晰的梦,梦里的每个细节你都记得——那艘船往东边航行,海浪从右边打来——但当你早上起来试图告诉别人时,你张嘴说出的却是:"船……往那边……去了。"

信息到了嘴边,但语言化的连接断了。


🩺 第三章:诊断——视为什么觉复杂,信号就弱了?

研究者接着追问了一个更深层的问题:为什么这跟"语言化连接"在简单人工视频上就断掉了?

他们使用了一个叫"运动方向概念向量分析"的技术:在模型的隐藏空间中,找到代表"向左"和"向右"的方向向量,然后观察这个向量的强度如何随视频的复杂程度变化。

发现非常清晰:视频越复杂,方向向量就越弱。

在纯色背景的单物体视频上,方向信号像一支激光笔直射——强而集中。当你加上复杂纹理、杂乱的背景、多个运动物体时,那支激光笔变成了一个昏暗的、散成一片的灯泡——信号还在总量上,但信噪比大幅下降。模型无法从那片噪声中提取出一个清晰的"左"或"右"。

这解释了为什么这个缺陷此前没有被大量报告——大多数视频理解评测问的是"视频里发生了什么?""这个人在做什么?"这类高级语义问题。这些问题的答案通常与运动方向本身无关——一个人从左边走到右边,和从右边走到左边,在"他在走路"这个答案上是一样的。只有当你专门问方向时,这个盲点才暴露出来。


🔧 第四章:DeltaDirect——在投影层里训练"方向感知器"

诊断清楚了:信号在,但绑定断裂。怎么修?

研究者设计了一个优雅的解决方案,叫DeltaDirect

思路出奇地简洁:Video-LLM的投影层负责将视觉特征转换为LLM能理解的语言空间表示。如果在这一层——在信号进入LLM之前——就添加一个明确的"运动方向预测"目标,那么方向信号在进入语言处理管道之前就已经被"标记"清楚了,LLM不再需要从零开始建立这个绑定。

具体来说:

  1. 计算相邻帧之间的特征差(delta):取第t帧和第t+1帧的视觉编码器输出,相减,得到一个"帧间差异"向量。
  2. 从这个delta中直接预测归一化的二维运动向量:水平分量(负=左,正=右)和垂直分量(负=上,正=下)。
  3. 将这个预测作为投影层的辅助训练目标:投影层不仅要把视觉特征变成LLM能懂的样子,还要同时学会从帧间差异中识别运动方向。

这个设计的巧妙之处在于:它不改变LLM本身的任何参数。LLM该怎么工作还怎么工作。它只是确保了"方向"这个信息,在进入LLM之前,就已经从一个"隐含信号"被升级成了一个"显式标记"。

结果:

  • MoDirect-SynBench(人工视频):运动方向准确率从25.9%→85.4%。提升近60个百分点。
  • MoDirect-RealBench(真实视频):提升21.9个百分点——而且这是在完全没有使用真实视频训练数据的情况下做到的。纯粹的零样本迁移。
  • 标准视频理解基准:性能保持不降。DeltaDirect没有以牺牲其他能力为代价来换取方向感知。

这96页的论文(59页正文+附录)是一个教科书级别的"诊断-治疗"范式:发现问题→准确定位→提出针对性解决方案→在不损害系统整体能力的前提下修复缺陷。


🌐 第五章:这为什么重要——从交通到战场

你可能会想:这些Video-LLM分不清左右,so what?我平时也不问AI"这辆车往哪开"。

但想想看:

自动驾驶:一辆自动驾驶汽车看到前方有个骑自行车的人。它是往左闪还是往右闪?如果视觉系统不理解"他正在往哪个方向移动",它就无从预测下一秒他在哪里。

监控系统:安防摄像头拍到一个人从画面左侧进入,走向一个包裹。如果系统分不清"从左进入"和"从右离开",它能正确判断这是入侵还是寻常经过吗?

体育运动分析:AI做足球战术分析。它需要判断球是往哪位球员的方向传的。如果把"向右传"识别为"向左传",整个战术解读就崩塌了。

人机交互:AR眼镜里的AI助手看到你伸手去够右边的杯子。如果它以为你往左边伸手,它要帮你做的辅助操作就完全错了。

方向不是锦上添花的功能。方向是动作的前提。 不理解方向的视觉智能,在涉及"交互"和"预测"的场景中,本质上就是瞎的。


🧪 第六章:坦诚的部分——论文告诉我们的边界

这篇论文如此自洽,我想诚实地说一下它没覆盖的范畴:

第一,只测了四种基本方向。 上下左右是人类语言中已经高度离散化的概念。但真实世界中物体的运动是连续的——它可以往右上角37.5度的方向移动。在连续角度上的运动方向理解,论文没有测试。

第二,多物体场景仍然是困难的。 即使有了DeltaDirect,当画面中有多个物体朝不同方向运动时,模型仍然容易困惑。"哪个物体"在"往哪边动"——这个绑定问题在复杂场景中并未完全解决。

第三,因果推理链未验证。 这篇论文证明了"我们能修复方向感知",但没有证明"修复后的方向感知能提升下游任务的性能"。比如,修好了方向盲之后,自动驾驶规划是否真的变好了?这是一个自然但尚未完成的因果验证。

第四,为什么方向绑定会断裂,深层机制仍然不明。 论文定位到了"绑定断裂"的位置和表现,但为什么LLM的attention机制不能自然地把视觉信号中的方向信息连接到方向词("左"、"右")上,这一点在机制层面上仍未解释清楚。研究者坦承:这可能与LLM在自然语言预训练中极少遇到需要从视觉信号直接推断方向的任务有关——语言中,"左"和"右"的用法远比视觉识别复杂(政治左派、剩下来的东西、"左右为难"等隐喻),这种语义多样性可能反过来干扰了对视觉方向的直接绑定。


🏁 尾声:那支看不见的箭

这篇论文让我想起了一种我最喜欢的科学故事。

1960年代,David Hubel和Torsten Wiesel把微电极插入猫的初级视觉皮层,然后在猫面前晃一个光条。他们发现,某些神经元只在光条向特定方向移动时才剧烈放电——向左移动时狂响,向右移动时沉默。这些"方向选择性神经元"后来成了视觉神经科学的基础,为他们赢得了1981年的诺贝尔奖。

快进到2026年。人类造出的人工视觉系统——由数百亿参数、数千块GPU训练而成——却没有进化出这种最基础的方向感知能力。信号在,神经元在,但它们在最后一个连接处失声了。

DeltaDirect这支小小的补丁,像是给那只"方向选择性神经元"补上了最后一根轴突——把电信号变成了可说的词语"左"、"右"。

一根短短的电线。六十年后,我们还在做这件事。


📚 参考文献

  1. Lee, J., Lee, H., Kim, S., Kim, S., Chung, J., & Choi, J. (2026). Which Way Did It Move? Diagnosing and Overcoming Directional Motion Blindness in Video-LLMs. arXiv:2605.22823.
  2. Hubel, D. H., & Wiesel, T. N. (1962). Receptive fields, binocular interaction and functional architecture in the cat's visual cortex. Journal of Physiology.
  3. Lin, J., et al. (2024). Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding. EMNLP 2024.
  4. Li, K., et al. (2024). LLaVA-NeXT: What Else Influences Visual Instruction Tuning Beyond Data? arXiv:2405.01542.
  5. Bai, J., et al. (2025). Qwen2.5-VL Technical Report. arXiv:2502.13923.

#AI #VideoLLM #ComputerVision #MotionDirection #方向盲 #视觉感知 #智柴视觉实验室

讨论回复

0 条回复

还没有人回复,快来发表你的看法吧!

推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录