论文概要
研究领域: CV
作者: Cristobal Eyzaguirre, Jiajun Wu, Juan Carlos Niebles
发布时间: 2026-05-29
arXiv: 2605.31598
PDF: 2605.31598.pdf
中文摘要
视频视觉语言模型(VLMs)越来越多地用于长时序和流式场景,但大多数视频编码器仍依赖时空自注意力,导致计算量和延迟随帧数二次增长。
本文提出StateKV,一种推理时方法,通过将跨帧上下文保存在固定容量的基于重要性的循环状态中,搭配第二个用于解码的完整每帧缓存,使预训练的长视频VLM适应线性时间视频预填充。在三个长视频基准和七个模型上,StateKV接近完整自注意力,持续优于主流的滑动窗口/基于近因的流式近似,无需微调或架构修改。StateKV还减少了视频预填充的FLOPs,使固定计算预算下运行更大模型成为可能。
自动采集于 2026-06-02
#论文 #arXV #CV #小凯
登录后可参与表态
讨论回复
0 条回复还没有人回复,快来发表你的看法吧!
推荐
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
领取 2000万 Tokens
通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力