MuKV: Multi-Grained KV Cache Compression for Long Streaming Video Question-Answering
University of Science and Technology of China（中国科学技术大学）；National University of Singapore（新加坡国立大学）
本文提出MuKV，一种多粒度KV缓存压缩方法，通过半分层检索方法提升长流视频问答的效率和准确性，实验表明其在答案准确率、内存使用和在线问答效率方面均优于基线方法。
2026-05-21 cs.AI cs.CV cs.MM
KVCapsule: Efficient Sequential KV Cache Compression for Vision-Language Models with Asymmetric Redundancy
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；AMD
本文提出KVCapsule，一种针对视觉语言模型的KV缓存压缩框架，通过轻量压缩和重建组件实现内存节省，提升吞吐量并减少内存占用，同时保持精度。
2026-05-14 cs.AI cs.CV
V-Rex: Real-Time Streaming Video LLM Acceleration via Dynamic KV Cache Retrieval
V-Rex通过动态KV缓存检索算法和硬件加速器，实现边缘设备上的实时视频LLM推理，显著提升速度和能效。
2025-12-24 cs.AI cs.AR cs.CV
AdaFocus: Adaptive Relevance-Diversity Sampling with Zero-Cache Look-back for Efficient Long Video Understanding
University of Electronic Science and Technology of China（电子科技大学）
本文提出AdaFocus框架，通过自适应相关性-多样性采样和零缓存回溯机制，有效平衡长视频理解中的时间覆盖、视觉细节和计算效率，实验表明其在效率-精度权衡上优于现有方法。
2026-05-13 cs.AI cs.CV
Multi-Cache Enhanced Prototype Learning for Test-Time Generalization of Vision-Language Models
Shanghai University（上海大学）；Beijing University of Chemical Technology（北京化工大学）；University of Minnesota（明尼苏达大学）
本文提出多缓存增强原型测试时自适应方法MCP及MCP++框架，通过熵缓存、对齐缓存和负缓存提升视觉-语言模型在分布偏移下的类内紧凑性与预测校准，在15个下游任务上取得最先进泛化性能。
2025-08-21 cs.AI cs.CV
Sharp Eyes and Memory for VideoLLMs: Information-Aware Visual Token Pruning for Efficient and Reliable VideoLLM Reasoning
SharpV通过自适应视觉标记修剪和键值缓存修剪，提升视频大语言模型的效率与可靠性，是首个无需暴露注意力分数的两阶段修剪框架。
2025-12-04 cs.AI cs.CV
CacheFlow: Compressive Streaming Memory for Efficient Long-Form Video Understanding
Rutgers University（罗切斯特大学）
针对长视频问答中视觉语言模型KV缓存随运行时长增长导致推理成本高的问题，提出无需训练的即插即用框架CacheFlow，结合动态令牌丢弃与压缩流式记忆，在两类VQA基准上性能优于强基线，最高减少87%令牌处理量。
2025-11-17 cs.CV
AirCache: Activating Inter-modal Relevancy KV Cache Compression for Efficient Large Vision-Language Model Inference
Alibaba Group（阿里巴巴集团）
本文提出AirCache，通过模态间相关性评估视觉KV缓存重要性并自适应分配逐层预算，在仅保留10%视觉缓存时保持性能，并将解码延迟降低29%至66%。
2025-07-23 cs.AI cs.CV
Cross-Self KV Cache Pruning for Efficient Vision-Language Inference
The University of Sydney（悉尼大学）；School of Computer Science（计算机学院）
针对视觉-语言模型中 KV 缓存剪枝受模态分布差异影响而误删关键视觉 token 的问题，本文提出免训练的 CSP，通过模态内/模态间注意力分解与 n-softmax 实现高效稳定推理。
2024-12-05 cs.AI cs.CV
LiveVLM: Efficient Online Video Understanding via Streaming-Oriented KV Cache and Retrieval
School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学学院）；College of Intelligent Robotics and Advanced Manufacturing, Fudan University（复旦大学智能机器人与先进制造学院）；Guizhou Provincial Laboratory of Big Data, College of Computer Science and Technology, Guizhou University（贵州大数据省实验室，贵州大学计算机科学与技术学院）
针对现有视频大语言模型忽略内存与响应速度的问题，提出免训练框架LiveVLM，通过面向流的KV缓存等技术实现在线视频高效理解，大幅提升处理帧数与响应速度且性能不降。
2025-05-21 cs.CV
VisCache: Visual KV Cache Pruning for Efficient Vision Large Language Model Inference
Shenzhen International Center for Industrial and Applied Mathematics（深圳国际工业与应用数学中心）；Shenzhen Research Institute of Big Data（深圳大数据研究院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Loop Area Institute（深圳河套学院）
VisCache是一种无需训练的即插即用视觉KV缓存剪枝框架，通过两阶段协同操作提升VLLM长上下文推理效率，实现最高2.35倍加速，建立效率与性能的新帕累托前沿。
2026-08-26 cs.AI cs.CV
STaR-KV: Spatio-Temporal Adaptive Re-weighting for KV Cache Compression in GUI Vision-Language Models
EPIC Lab, SJTU（上海交通大学EPIC实验室）；HKUST (GZ)（香港科技大学（广州））；The University of Sydney（悉尼大学）；UESTC（电子科技大学）；ZJU（浙江大学）
提出STaR-KV，一种无需训练的KV缓存压缩框架，通过子空间感知评分、时间稳定性折扣和熵驱动温度三个维度自适应校准令牌重要性，在GUI任务中实现高精度和近40%的峰值GPU内存节省。
2026-06-01 cs.AI cs.CV
CoRDS: Coreset-based Representative and Diverse Selection for Streaming Video Understanding
University of British Columbia（不列颠哥伦比亚大学）；Vector Institute（向量研究所）
本文提出CoRDS方法，通过核心集选择优化流视频理解中的缓存压缩，提升代表性与多样性，优于传统启发式方法。
2026-05-14 cs.CV
Going Down Memory Lane: Scaling Tokens for Video Stream Understanding with Dynamic KV-Cache Memory
University of Maryland, College Park（马里兰大学 College Park 分校）
MemStream通过扩展令牌预算和自适应选择策略，提升视频流理解的准确性和细粒度信息保留能力。
2026-02-20 cs.CV
KV-Efficient VLA: A Method to Speed up Vision Language Models with RNN-Gated Chunked KV Cache
University of Toronto（多伦多大学）；Tsinghua University（清华大学）
KV-Efficient VLA通过RNN门控分块KV缓存机制，有效降低视觉语言模型的计算和内存开销，提升推理效率。
2025-11-23 cs.AI cs.CV
VidLaDA: Bidirectional Diffusion Large Language Models for Efficient Video Understanding
Shanghai Jiao Tong University（上海交通大学）；Shanghai Innovation Institute（上海创新研究院）；Fudan University（复旦大学）；ZhongguanCun Academy（中关村学院）；Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
VidLaDA通过双向注意力和MARS-Cache技术，提升视频理解效率，实现比现有方法更优的性能与速度
2026-01-29 cs.AI cs.CV
MHA2MLA-VLM: Enabling DeepSeek's Economical Multi-Head Latent Attention across Vision-Language Models
DeepSeek
MHA2MLA-VLM通过参数高效的方法将现有视觉-语言模型转换为多头潜在注意力架构，减少缓存足迹并提升推理效率。
2026-01-16 cs.AI cs.CL cs.CV
StreamingTOM: Streaming Token Compression for Efficient Video Understanding
StreamingTOM通过双阶段框架解决流式视频视觉-语言模型中预-后LLM瓶颈，实现kv-cache压缩和低延迟，提升实时视频理解效率。
2026-03-14 cs.AI cs.CV
Rotation-Aligned Key Channel Pruning for Efficient Vision-Language Model Inference
Seoul National University（首尔国立大学）
本文提出旋转对齐的关键通道剪枝方法，通过压缩通道维度在固定KV缓存预算下保留更多视觉token，解决传统token剪枝在细粒度感知任务中的性能下降问题，同时提升解码效率。
2026-05-19 cs.AI cs.CV
Memory-efficient Streaming VideoLLMs for Real-time Procedural Video Understanding
Meta Reality Labs（Meta现实实验室）；FAIR, Meta（Meta人工智能研究机构）；National University of Singapore（新加坡国立大学）
提出ProVideLLM，一种内存高效的流式视频LLM，通过多模态缓存减少令牌数22倍，实现10FPS推理和25FPS对话，并在六个程序性任务上达到SOTA。
2025-04-10 cs.CV
VideoLLaMA 3: Frontier Multimodal Foundation Models for Image and Video Understanding
DAMO Academy, Alibaba Group（达摩院，阿里巴巴集团）；Hupan Lab（虎派实验室）
VideoLLaMA3 提出以视觉为中心的训练范式与框架设计，通过高质量图像-文本数据、四阶段训练及自适应视觉 token 编码，在图像和视频理解任务上取得显著性能提升。
2025-06-03 cs.CV
Quantized Keys Steal Attention: Bias Correction for KV-Cache Compression in Video Diffusion
Technical University of Munich（慕尼黑技术大学）；Tensordyne
针对视频扩散模型中KV缓存量化导致注意力权重系统性偏差的问题，提出基于Jensen偏差的在线逐注意力分数校正方法，在INT2量化下恢复接近BF16的视频质量，且内存减半。
2026-05-25 cs.AI cs.CV cs.GR
CORAL-KV: Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches
Advanced Micro Devices Inc. (AMD)（超威半导体公司）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
该研究针对自回归视频扩散模型的KV缓存内存瓶颈，提出Coral-KV跨层预测残差编码框架，在HY-WorldPlay、MAGI-1等数据集上相比QVG系列方法，实现了PSNR提升与缓存内存减少的双重效果，还降低了时间不连续性。
2026-10-12 cs.CV cs.LG
CHAI: CacHe Attention Inference for text2video
Georgia Institute of Technology（佐治亚理工学院）
CHAI通过引入缓存注意力机制，以减少延迟并保持视频质量，实现比OpenSora 1.2快1.65至3.35倍的推理速度。
2026-02-18 cs.CV cs.LG
QuantWM: Temporally Consistent 2-Bit KV Cache Quantization for Video World Models
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；National University of Singapore（新加坡国立大学）
QuantWM提出无需训练的2比特KV缓存量化框架，通过QSAC聚类和PSAC补偿保留注意力logits与token选择，解决视频生成中的时序闪烁，实现高达6.20倍压缩并提升视觉质量。
2026-09-29 cs.AI cs.CV
Past- and Future-Informed KV Cache Policy with Salience Estimation in Autoregressive Video Diffusion
Hangzhou Institute of Technology, Xidian University, Hangzhou, China（杭州理工大学，西安电子科技大学，中国杭州）；Xidian University, Xi'an, China（西安电子科技大学，中国西安）；Hohai University, Nanjing, China（河海大学，中国南京）
本文提出PaFu-KV策略，通过显著性估计优化KV缓存，提升视频生成的质量与效率。
2026-02-04 cs.CV
Latent Visual Cache for Video Reasoning
Tencent Youtu Lab（腾讯优图实验室）；Tsinghua University（清华大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
研究视频推理中视觉锚定衰减问题，提出潜在视频缓存Latent-VC插入解码器，通过监督对比缓存对齐等训练，在多视频基准测试中表现优于基线，能保留视觉证据提升推理。
2026-07-07 cs.CL cs.CV
VideoMLA: Low-Rank Latent KV Cache for Minute-Scale Autoregressive Video Diffusion
Virginia Tech（弗吉尼亚理工大学）；fal Project（fal项目）
本文提出VideoMLA，通过多头潜在注意力（MLA）将每头KV替换为共享低秩内容潜在和分离的3D-RoPE位置键，在视频扩散中减少92.7%的KV内存，并保持质量与吞吐量提升。
2026-05-28 cs.AI cs.CV
TempoKV: Predictive KV Cache Quantization for Autoregressive Video Generation
Shanghai Jiao Tong University（上海交通大学）；South China University of Technology（华南理工大学）；Alibaba Group（阿里巴巴集团）
TempoKV是一种无训练的预测型KV缓存量化框架，针对自回归视频生成设计，通过利用视频KV缓存的时空特性实现最高6.71倍压缩，且生成质量优于现有方法。
2026-10-14 cs.CV
In-Flight KV Cache with Clean Anchors for Faster Autoregressive Video Diffusion
FlashForward通过重用去噪阶段的飞行中KV缓存并辅以稀疏干净锚点，加速自回归视频扩散，实现多GPU并行，提升速度与质量。
2026-10-01 cs.AI cs.CV cs.LG
Future Forcing: Future-aware Training-free KV Cache Policy for Autoregressive Video Generation
BUAA（北京航空航天大学）；ZGCA（中广核人工智能研究院）；PKU（北京大学）；CASIA（中国科学院自动化研究所）；USTC（中国科学技术大学）；NUS（新加坡国立大学）
提出Future Forcing，一种无需训练的未来感知KV缓存策略，通过利用自回归视频模型中查询分布的平稳性来估计未来查询，从而改进长视频生成的一致性。
2026-05-28 cs.CV
PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache
Institute of Artificial Intelligence, University of Central Florida（人工智能学院，中央佛罗里达大学）
PackCache通过动态压缩KV缓存提升统一自回归视频生成效率，显著加速长序列生成。
2026-01-07 cs.CV
Test-Time Adaptation via Cache Personalization for Facial Expression Recognition in Videos
LIVIA, Dept. of Systems Engineering, ETS Montreal, Canada（LIVIA系统工程系，蒙特利尔工程学院，加拿大）；LIVIA, Dept. of Software and IT Engineering, ETS Montreal, Canada（LIVIA软件与信息工程系，蒙特利尔工程学院，加拿大）
本文提出TTA-CaP方法，通过缓存实现高效视频面部表情识别的模型个性化，减少计算开销并提升跨主体和环境变化的性能。
2026-09-07 cs.CV
Test-Time Adaptation with Online Personalized Energy-Based Cache for Fine-Grained Video Expression Recognition
针对视频FER的测试时自适应难题，提出EB-CaP方法，通过轻量级能量模型结合CLIP生成个性化缓存，在低开销下优于现有SOTA方法。
2026-08-10 cs.CV
Real2SAM2Real: Generative 3D Caches as Complementary Context for Video Diffusion
University of Maryland（马里兰大学）
提出Real2SAM2Real框架，通过3D提升模型提取可编辑的3D缓存作为几何支架，结合软空间对齐注入和微调策略，实现视频扩散模型对相机轨迹和多实体运动的精确解耦控制。
2026-10-14 cs.AI cs.CV
DeepCache: Principled Cache for Mobile Deep Vision
Peking University（北京大学）；Microsoft Research（微软研究院）
我们提出了DeepCache，这是一种用于连续移动视觉中深度学习推理的原则性缓存设计。DeepCache通过利用输入视频流中的时间局部性来提高模型执行效率。它解决了移动视觉提出的一个关键挑战：缓存必须在视频场景变化下运行，同时在可缓存性、开销和模型准确性损失之间进行权衡。在模型的输入端，DeepCache通过利用视频的内部结构来发现视频的时间局部性，为此它从视频压缩中借用了经过验证的算法; DeepCache通过利用模型的内部结构来传播可重用结果的区域。值得注意的是，DeepCache避免将视频几何学应用于模型内部，这些内部不是像素，而是高维，难以解释的数据。我们的DeepCache实现可与未经修改的深度学习模型一起工作，不需要开发人员的手动工作，因此可以立即部署在现成的移动设备上。我们的实验表明，DeepCache平均节省了18%的推理执行时间，最高可达47%。DeepCache平均降低20%的系统能耗。
2020-03-30 cs.CV
MORCA: Offline-to-Online Reinforcement Learning for Adaptive Cache Reuse in Video Diffusion Acceleration
Shanghai Jiao Tong University（上海交通大学）；Alibaba Cloud Computing（阿里云计算）；Alibaba Token Hub, Alibaba Group（阿里巴巴集团阿里Token Hub）
MORCA通过离线到在线强化学习训练缓存调度框架，在用户指定加速目标下做出潜在感知的复用/重计算决策，显著提升视频扩散生成的保真度。
2026-10-08 cs.CV
Fast Autoregressive Video Diffusion and World Models with Temporal Cache Compression and Sparse Attention
Hebrew University of Jerusalem（特拉维夫大学）；Google Research（谷歌研究）
提出FAST-AR框架，通过TempCache压缩KV缓存、AnnCA加速交叉注意力、AnnSA稀疏化自注意力，实现自回归视频扩散模型5-10倍加速，同时保持视觉质量并稳定GPU内存使用。
2026-06-15 cs.AI cs.CV
Plug-and-Play 1.x-Bit KV Cache Quantization for Video Large Language Models
Zhejiang University（浙江大学）；Westlake University（西湖大学）；Columbia University（哥伦比亚大学）；Rice University（Rice大学）；Salesforce AI Research（Salesforce人工智能研究）
本文提出即插即用的 VidKV，通过 key 混合精度与 value 逐通道 1.58-bit 量化，将 VideoLLM 的 KV cache 压缩至 1.x-bit，且在六个基准上几乎无损。
2025-09-29 cs.CV
Ca2-VDM: Efficient Autoregressive Video Diffusion Model with Causal Generation and Cache Sharing
Zhejiang University（浙江大学）；Manycore Tech Inc.（沐曦科技公司）；Xmax.AI Ltd.（Xmax.AI有限公司）；Nanyang Technological University（南洋理工大学）
针对现有自回归视频扩散模型存在的冗余计算、复杂度随自回归步数二次增长的问题，提出具备因果生成与缓存共享的Ca2-VDM，消除冗余计算、降低缓存成本，实现生成质量与速度的双重提升。
2025-05-21 cs.CV
AccKV: Towards Efficient Audio-Video LLMs Inference via Adaptive-Focusing and Cross-Calibration KV Cache Optimization
针对音视频大语言模型（AV-LLMs）因多模态时间维度导致KV缓存过大及模态处理问题，提出AccKV框架，通过层自适应聚焦与交叉校准技术优化KV缓存，在保持精度的同时显著提升推理效率。
2025-11-14 cs.CV cs.MM cs.SD
FrameFold: Response-Guided KV Cache Consolidation for Autoregressive Long Video Generation
ShanghaiTech University（上海科技大学）；vivo Mobile Communication Co., Ltd.（维沃移动通信有限公司）
FrameFold是一种无需训练的KV缓存整合方法，通过响应引导合并历史KV状态，在固定缓存预算下提升长视频生成的一致性与视觉质量，且长时间生成的质量下降程度低于基线。
2026-10-14 cs.CV
Salt: Self-Consistent Distribution Matching with Cache-Aware Training for Fast Video Generation
Hong Kong University of Science and Technology（香港科技大学）；Vivix Group Limited（Vivix集团有限公司）
本文提出Salt方法，通过自一致分布匹配和缓存感知训练，提升低推理预算下的视频生成质量，兼容多种KV缓存机制。
2026-07-02 cs.CV eess.IV
FilmWeaver: Weaving Consistent Multi-Shot Videos with Cache-Guided Autoregressive Diffusion
Kling Team, Kuaishou Technology（快手科技 Kling Team）
FilmWeaver通过缓存引导自回归扩散模型实现多镜头视频的一致性生成，支持灵活交互和多任务应用。
2025-12-12 cs.CV
Forcing-KV: Hybrid KV Cache Compression for Efficient Autoregressive Video Diffusion Models
ZJU（浙江大学）；Video Rebirth（视频重生）；HKUST（香港科技大学）；BJTU（北京理工大学）
本文提出Forcing-KV方法，通过混合KV缓存压缩技术，提升自回归视频扩散模型的生成速度和内存效率，实现高达2.82倍的速度提升。
2026-05-10 cs.CV
Pyramid Forcing: Head-Aware Pyramid KV Cache Policy for High-Quality Long Video Generation
Peking University（北京大学）；South China University of Technology（华南理工大学）；Xinjiang University（新疆大学）；Beihang University（北京航空航天大学）；Zhongguancun Academy（中关村学院）
本文提出Pyramid Forcing，通过识别不同头部类型并分配特定缓存策略，提升长视频生成质量，实验显示在VBench-Long上Self Forcing得分提升。
2026-05-13 cs.CV
RADC: Risk-Aware Dual Caching for Vision-Language Test-Time Adaptation
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Pengcheng Laboratory（鹏城实验室）；School of Intelligent Systems Engineering, Sun Yat-sen University（中山大学智能工程学院）
RADC通过语义前景缓存和高斯风险准入机制，解决视觉-语言测试时自适应中背景偏差与缓存准入不可靠问题，在跨域和分布外基准上取得最先进性能。
2026-10-07 cs.CV
4LC: 4D Latent Cache for Efficient Conditioning in Dynamic World Modeling
Shanghai Jiaotong University（上海交通大学）；Zhongguancun Academy（中关村学院）；Institute of Automation, Chinese Academy of Science（中国科学院自动化研究所）；Harbin Institute of Technology（哈尔滨工业大学）
本文提出4LC（4D潜在缓存），基于其开发的4LC-Video模型可高效复用动态世界建模中的静态与动态内容，为多类视频生成任务提供统一条件，无需任务微调即可实现高效条件获取与跨任务场景一致性。
2026-10-14 cs.AI cs.CV
Efficient Inference of Vision Instruction-Following Models with Elastic Cache
Tsinghua University（清华大学）；University of Washington（华盛顿大学）；Tencent（腾讯）；Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Allen Institute for AI（艾伦人工智能研究所）
本文提出 Elastic Cache 方法，通过在指令编码和输出生成阶段应用不同的加速策略，利用重要性驱动的缓存合并机制减少冗余，在提升 LVLMs 推理效率的同时显著优于现有修剪方法。
2024-07-25 cs.CV
AdaCorrection: Adaptive Offset Cache Correction for Accurate Diffusion Transformers
Columbia University（哥伦比亚大学）
本文提出AdaCorrection框架，通过自适应偏移缓存校正提升扩散变换器的生成质量与缓存复用效率，减少计算开销并保持高保真度。
2026-08-06 cs.AI cs.CV
Frequency-Step Cache: Separating Synchronization and Repair for Efficient Autoregressive Video Diffusion
Rice University（莱斯大学）
该研究提出频率步缓存（FSC），分离自回归视频扩散缓存的同步与修复角色，在多个数据集和骨干网络上改善了速度-保真度权衡，相比MotionCache实现了更高的加速比与更好的图像质量。
2026-10-14 cs.CV cs.LG
VLA-Cache: Efficient Vision-Language-Action Manipulation via Adaptive Token Caching
School of Computer Science, University of Sydney（悉尼大学计算机科学学院）；John Hopcropt Center for Computer Science, Shanghai Jiao Tong University（上海交通大学约翰·霍普克罗夫特计算机科学中心）
本文提出无需训练的 VLA-Cache，通过跨帧自适应缓存视觉 token、选择性重算任务关键 token 及层级动态复用，显著降低 VLA 模型推理开销并提升实时机器人控制效率。
2025-10-21 cs.CV cs.LG cs.RO
DeltaS: Reading the Gated Linear Attention State for KV Cache Eviction in Streaming Video
Maum AI Inc.（Maum AI公司）；Seoul National University（首尔国立大学）；Yonsei University（延世大学）
针对流式视频中KV缓存驱逐需在问题前决策的挑战，提出基于门控线性注意力状态漂移的查询无关、免训练方法DeltaS，以低开销显著提升长视频基准性能。
2026-09-24 cs.CL cs.CV cs.LG
FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion
Zhejiang University（浙江大学）；University of New South Wales (UNSW)（新南威尔士大学）；Data61/CSIRO；Baidu Inc（百度公司）
提出FadeMem，一种距离感知的KV记忆巩固机制，在固定缓存预算下将历史KV块组织成时间层次，通过幂律分配实现近密远疏的记忆，提升长视频生成中的主体一致性和时间连贯性。
2026-08-05 cs.CV
