Can Shuffling Video Benefit Temporal Bias Problem: A Novel Training Framework for Temporal Grounding
Beijing University of Posts and Telecommunications(北京邮电大学)
时间接地的目的是定位一个目标视频时刻,语义上对应于给定的句子查询在一个未修剪的视频。然而,最近的工作发现,现有的方法遭受严重的时间偏差问题。这些方法不基于视觉-文本语义对齐来推理目标时刻位置,而是过度依赖于训练集中查询的时间偏差。为此,本文提出了一种新的训练框架,用于接地模型使用混洗视频来解决时间偏差问题,而不会失去接地精度。我们的框架引入了两个辅助任务,跨模态匹配和时序判别,以促进接地模型训练。跨模态匹配任务利用混洗视频和原始视频之间的内容一致性来迫使基础模型挖掘视觉内容以在语义上匹配查询。时间顺序辨别任务利用时间顺序的差异来加强对长期时间背景的理解。Charades-STA和ActivityNet字幕上的大量实验表明,我们的方法可以有效地减轻对时间偏差的依赖,并增强模型对不同时间分布的泛化能力。代码可在https://github.com/haojc/ShufflingVideosForTSG上获得。
2022-08-05 cs.CV
Foresee-to-Ground: From Predictive Temporal Perception to Evidence-Driven Reasoning for Video Temporal Grounding
Qwen3-VL-8B-Instruct
本文提出了一种新的视频时间接地框架F2G,通过将时间接地问题重新表述为可验证的识别-测量问题,结合预测性时间感知和证据驱动推理,以提高时间接地的准确性和鲁棒性。
2026-05-21 cs.CV
Locate Anything in Videos: Rethinking Efficient Generative Spatio-Temporal Video Grounding
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);University of California, Merced(加州大学默塞德分校);Apertix(阿珀蒂克斯公司)
针对时空视频定位的自回归解码存在延迟高、误差易传播的问题,提出并行轨迹解码,在VidSTG等数据集上实现显著的延迟降低与吞吐量提升,且可零样本泛化到多项相关任务
2026-08-31 cs.CV
Invariant Grounding for Video Question Answering
National University of Singapore(新加坡国立大学);University of Science and Technology of China(中国科学技术大学)
视频问答(VideoQA)是回答关于视频的问题的任务。其核心是理解视频中的视觉场景与所讨论的语言语义之间的一致性,从而得出答案。在领先的视频问答模型中,典型的学习目标,经验风险最小化(ERM),锁定在视频问题对和答案之间的表面相关性作为对齐。然而,ERM可能存在问题,因为它倾向于过度利用与问题无关的场景和答案之间的虚假相关性,而不是检查问题关键场景的因果关系。因此,VideoQA模型遭受不可靠的推理。在这项工作中,我们首先采取的因果关系看视频QA,并认为不变的基础是排除虚假相关性的关键。为此,我们提出了一个新的学习框架,不变接地视频QA(IGV),接地的关键问题的场景,其因果关系与答案是不变的,在不同的干预措施的补充。通过IGV,VideoQA模型被迫屏蔽回答过程免受虚假相关的负面影响,这显着提高了推理能力。在三个基准数据集上的实验验证了IGV在准确性、视觉可解释性和泛化能力方面优于领先基线。
2022-06-06 cs.CV
RGNet: A Unified Clip Retrieval and Grounding Network for Long Videos
LMU Munich(慕尼黑大学);MCML(慕尼黑计算与机器学习中心);UNC Chapel Hill(北卡罗来纳大学教堂山分校)
针对长视频时序定位难题,提出将片段检索与定位深度融合的RGNet,通过RG-Encoder、稀疏注意力等设计,在MAD和Ego4D数据集上取得SOTA性能。
2024-07-13 cs.CV
SimBase: A Simple Baseline for Temporal Video Grounding
School of Electrical and Electronic Engineering, Nanyang Technological University(南洋理工大学电气与电子工程学院)
本文提出SimBase,一种用于时序视频定位的简单基线,通过轻量级一维时序卷积层和逐元素乘积替代复杂结构,在两个大规模数据集上取得最先进结果。
2024-11-12 cs.CV
VTimeCoT: Thinking by Drawing for Video Temporal Grounding and Reasoning
Shanghai Jiao Tong University(上海交通大学);Noah’s Ark Lab(诺亚实验室);Imperial College London(伦敦帝国理工学院)
VTimeCoT提出免训练框架,利用进度条视觉工具和视觉时间思维链,提升多模态大模型在视频时间定位与推理问答中的性能,实现组合式可解释推理。
2025-10-16 cs.CV
Look Closer to Ground Better: Weakly-Supervised Temporal Grounding of Sentence in Video
The University of Hong Kong(香港大学);Tencent AI Lab(腾讯人工智能实验室);Huazhong University of Science and Technology(华中科技大学)
本文研究了视频中句子的弱监督时间背景问题。具体来说,给定一个未修剪的视频和一个查询语句,我们的目标是在视频中定位一个在语义上与查询语句相对应的时间段,而不依赖于训练过程中的任何时间注释。我们提出了一个两阶段的模型来解决这个问题,在一个由粗到细的方式。在粗略阶段,我们首先使用多尺度滑动窗口生成一组固定长度的时间提案,并将其视觉特征与句子特征进行匹配,以确定最佳匹配的提案作为粗略的接地结果。在精细阶段,我们在最佳匹配建议中的帧的视觉特征和句子特征之间执行细粒度匹配,以定位精细接地结果的精确帧边界。在ActivityNet Captions数据集和Charades-STA数据集上的综合实验表明,我们的两阶段模型具有令人信服的性能。
2020-01-25 cs.CV
UniversalVTG: A Universal and Lightweight Foundation Model for Video Temporal Grounding
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出UniversalVTG,一种通用轻量视频时间定位模型,通过大规模跨数据集预训练实现高效长视频定位,优于专用模型且比大语言模型更轻量。
2026-04-09 cs.CV
TimeExpert: An Expert-Guided Video LLM for Video Temporal Grounding
Nanyang Technological University(南洋理工大学);ByteDance Inc.(字节跳动公司)
TimeExpert提出基于混合专家的视频大语言模型,通过动态路由任务特定令牌到专门专家,有效分解视频时间定位任务,在密集视频字幕、时刻检索和高光检测等任务上达到最先进性能。
2025-08-03 cs.CV
Pinpointing Trigger Moment for Grounded Video QA: Enhancing Spatio-temporal Grounding in Multimodal Large Language Models
KAIST(韩国科学技术院);Ewha Womans University(成均馆大学)
针对ICCV 2025 GVQA任务,提出三阶段流水线框架,核心引入基于CORTEX提示的触发时刻以定位目标最清晰帧作为锚点,实现0.4968的HOTA分数,显著超越去年成绩。
2025-11-04 cs.CV
Diffusion-grounded VideoLLM for Entity-aware temoporal grounding
本文提出Grounded VideoDiT,通过扩散时间潜在编码器、实体感知表示和离散时间标记三项创新,提升长视频理解中的细粒度时间定位与实体对齐能力,并在多个基准上取得领先结果。
2026-09-29 cs.CV
CoEvoWhen: Policy-Tool Coevolution for Ultra-Long Video Temporal Grounding
Zhejiang University(浙江大学)
针对超长视频时间定位中现有智能体方法依赖预定义策略和工具的问题,提出策略-工具协同进化框架,从VLM推理轨迹联合进化策略与工具,在不更新参数下提升定位精度并降低推理成本,实验验证其有效性与泛化性。
2026-10-01 cs.CV
HieraMamba: Video Temporal Grounding via Hierarchical Anchor-Mamba Pooling
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
HieraMamba通过分层锚点-Mamba池化结构,在长视频中实现精确的时间定位,解决了视频时间接地中的全局上下文与细粒度时间细节捕捉难题。
2026-03-31 cs.CV
Local-Global Video-Text Interactions for Temporal Grounding
POSTECH(浦项科技大学);Seoul National University(首尔国立大学)
本文讨论了文本到视频的时间接地问题,其目的是确定在视频语义相关的文本查询的时间间隔。我们使用一种新的基于回归的模型来解决这个问题,该模型学习为文本查询中的语义短语提取一组中级特征,这些特征对应于查询中描述的重要语义实体(例如,演员、对象和动作),并反映查询的语言特征与视频的多个级别的视觉特征之间的双模态交互。该方法通过利用双模交互过程中从局部到全局的上下文信息,有效地预测目标时间间隔。通过深入的消融研究,我们发现,在视频和文本交互中结合本地和全球背景对准确接地至关重要。我们的实验表明,所提出的方法优于Charades-STA和ActivityNet字幕数据集的最新技术水平,在Recall@tIoU=0.5度量时分别为7.44\%和4.61\%。代码可在https://github.com/JonghwanMun/LGI4temporalgrounding上找到。
2020-04-16 cs.CV
Scanning Only Once: An End-to-end Framework for Fast Temporal Grounding in Long Videos
Alibaba Group(阿里巴巴集团);Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Ant Group(蚂蚁集团)
本文提出端到端框架SOONet,通过单次网络执行和从粗到细的流程实现长视频快速时序定位,在MAD和Ego4d数据集上显著优于现有方法并大幅提升效率。
2023-03-22 cs.CV
Correlation-Guided Query-Dependency Calibration for Video Temporal Grounding
Sungkyunkwan University(成均馆大学)
本文提出CG-DETR,通过虚拟token自适应交叉注意力和细粒度片段-单词相关性引导,并引入时刻自适应显著性检测器,在视频时间定位多个基准上取得最先进结果。
2024-07-03 cs.CV
Moment Quantization for Video Temporal Grounding
Xi’an Jiaotong University(西安交通大学);Dolby Laboratories(杜比实验室)
本文提出基于时刻量化的视频时序定位方法MQVTG,通过维护可学习码本将视频量化为离散向量以增强相关与不相关时刻的区分度,作为即插即用组件在六个基准上显著优于现有方法。
2025-04-03 cs.CV
Learning Visual Affordance Grounding from Demonstration Videos
University of Science and Technology of China(中国科学技术大学);University of Sydney(悉尼大学)
视觉可供性基础旨在从图像/视频中分割人与物体之间所有可能的交互区域,这对于许多应用都是有益的,例如机器人抓取和动作识别。然而,现有的方法主要依赖于对象的外观特征来分割图像的每个区域,这面临着以下两个问题:(i)在一个对象中存在多个可能的与人交互的区域;(ii)在同一对象区域中存在多个可能的人交互。为了解决这些问题,我们提出了一个手辅助示能性接地网络(HAGNet),它利用演示视频中手的位置和动作提供的辅助线索来消除多种可能性,并更好地定位对象中的交互区域。具体而言,HAG-Net具有双分支结构来处理演示视频和对象图像。对于视频分支,我们引入了手部辅助注意力来增强每个视频帧中手部周围的区域,然后使用LSTM网络来聚合动作特征。对于对象分支,引入语义增强模块(SEM),使网络根据动作类聚焦于对象的不同部分,并利用蒸馏损失将对象分支的输出特征与视频分支的输出特征对齐,将视频分支中的知识传递到对象分支。两个具有挑战性的数据集的定量和定性评估表明,我们的方法已经取得了国家的最先进的结果启示接地。源代码将向公众开放。
2021-08-12 cs.CV
Think with Grounding: Curriculum Reinforced Reasoning with Video Grounding for Long Video Understanding
Tsinghua University(清华大学)
Video-TwG通过课程强化框架和接地范式提升长视频理解,采用双阶段策略和TwG-GRPO算法优化推理与接地质量。
2026-02-21 cs.AI cs.CV
A Simple Yet Effective Method for Video Temporal Grounding with Cross-Modality Attention
Tencent(腾讯)
语言引导的视频时间接地的任务是本地化特定的视频剪辑对应于未修剪的视频中的查询语句。虽然在这一领域不断取得进展,但仍有一些问题需要解决。首先,大多数现有的方法依赖于多个复杂模块的组合来解决任务。其次,由于两种不同模态之间的语义差距,在视频和语言之间以不同粒度(局部和全局)对齐信息是重要的,这是较少解决的。最后,以前的作品没有考虑由于动作边界的模糊性而不可避免的注释偏差。为了解决这些局限性,我们提出了一个简单的两个分支的跨模态注意力(CMA)模块与直观的结构设计,它交替调制两个模态,以更好地匹配本地和全球的信息。此外,我们引入了一个新的任务特定的回归损失函数,提高了时间接地的准确性,减轻注释偏见的影响。我们进行了大量的实验来验证我们的方法,结果表明,仅仅使用这个简单的模型,它就可以在Charades-STA和ActivityNet Captions数据集上超越最先进的技术。
2020-09-23 cs.CV
Video Evidence to Reasoning Efficient Video Understanding via Explicit Evidence Grounding
Department of Applied Mathematics, The Hong Kong Polytechnic University(应用数学系,香港理工大学)
本文提出CoE框架,通过显式证据接地模块和强化学习优化的锚定协议,提升视频推理的准确性和可靠性。
2026-08-21 cs.CV
Grounding with Confidence: Controllable Generative Video Temporal Grounding
Alibaba Group(阿里巴巴集团);Beihang University(北京航空航天大学);Fudan University(复旦大学)
本文提出一种可控生成式视频时序定位方法,通过轻量级置信度头在解码过程中为候选区间打分,支持排序、阈值筛选和拒绝,无需外部验证器,在OMTG-Bench上显著提升召回率。
2026-10-14 cs.CV
Grounding-MD: Grounded Video-language Pre-training for Open-World Moment Detection
Harbin Institute of Technology(哈尔滨工业大学);Pengcheng Laboratory(鹏城实验室);Peking University(北京大学)
Grounding-MD提出基于视频语言预训练的开放世界时刻检测框架,通过结构化提示整合任意数量自然语言查询,利用跨模态融合编码器和文本引导解码器实现视频-文本对齐,在四个基准数据集上取得零样本与监督设置下的最优性能。
2025-04-20 cs.CV
What, when, and where? -- Self-Supervised Spatio-Temporal Grounding in Untrimmed Multi-Action Videos from Narrated Instructions
Columbia University(哥伦比亚大学);Goethe University Frankfurt(法兰克福大学);University of Bonn(波恩大学);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Quality Match GmbH(Quality Match有限公司);IBM Research AI(IBM研究院人工智能部门);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
提出一种仅用视频和字幕监督训练的自监督时空定位框架,结合局部与全局表示学习,并在新基准上超越现有基线。
2024-05-28 cs.CV
VideoEvolve: Evolving Agent Harnesses for Video Temporal Grounding
Tsinghua University(清华大学);Columbia University(哥伦比亚大学);Harbin Engineering University(哈尔滨工程大学)
针对视频时间定位中智能体框架手动优化困难的问题,提出VideoEvolve框架,通过完形填空式表示和分支引导演化自动改进框架,实验证明其有效提升多个基准上的定位性能。
2026-10-02 cs.AI cs.CV
Conditional Multi-Event Temporal Grounding in Long-Form Video
University of Central Florida(中佛罗里达大学);Qualcomm AI Research(高通人工智能研究院)
提出CoMET-Bench基准和CoMET-Agent框架,解决长视频中基于组合时空条件定位所有事件的任务,F1@0.5提升6.1%。
2026-10-14 cs.CV
Multi-Scale Contrastive Learning for Video Temporal Grounding
Institute of Data Science (IDS), National University of Singapore(数据科学研究所(IDS),新加坡国立大学);Tongji University(同济大学);Nanyang Technological University (NTU)(南洋理工大学)
本文提出多尺度对比学习框架,通过多阶段视频编码器生成样本,无需数据增强或在线记忆库,提升视频时间定位的语义表达。
2026-04-26 cs.CV
Tree-Structured Policy based Progressive Reinforcement Learning for Temporally Language Grounding in Video
Sun Yat-sen University(中山大学);Beihang University(北京航空航天大学);DarkMatter AI Research(DarkMatter AI研究院)
未裁剪视频中的时间语言基础是视频理解领域的一个新课题。现有的方法大多效率低下,缺乏可解释性,偏离了人类的感知机制。受人类从粗到细的决策范式的启发,我们提出了一种新型的基于树结构策略的渐进式强化学习(TSP-PRL)框架,通过迭代细化过程顺序调节时间边界。语义概念被显式地表示为策略中的分支,这有助于有效地将复杂的策略分解为可解释的原始动作。渐进式强化学习通过两个任务导向的奖励机制提供正确的信用分配,鼓励树结构策略中的相互促进。我们在Charades-STA和ActivityNet数据集上对TSP-PRL进行了广泛的评估,实验结果表明,TSP-PRL与现有的最先进的方法相比具有竞争力的性能。
2020-01-18 cs.CV
Seq2Time: Sequential Knowledge Transfer for Video LLM Temporal Grounding
University of Central Florida(中佛罗里达大学);United Imaging Intelligence(联影智能);Northwestern University(西北大学)
针对视频大语言模型时间感知受限于长视频标注数据稀缺的问题,提出Seq2Time训练范式,通过图像/片段序列生成时间标注数据并统一时间表示,显著提升了时间定位相关任务性能。
2024-11-25 cs.CV
MINOTAUR: Multi-task Video Grounding From Multimodal Queries
Vector Institute for AI(向量人工智能研究所);Meta AI;University of British Columbia(不列颠哥伦比亚大学)
视频理解任务有多种形式,从动作检测到视觉查询定位和句子的时空基础。这些任务在输入类型(仅视频或视频查询对,其中查询是图像区域或句子)和输出(时间段或时空管)方面有所不同。然而,在他们的核心,他们需要相同的基本理解的视频,即,其中的参与者和对象,他们的行为和互动。到目前为止,这些任务都是通过单独的、高度专业化的架构来处理的,这些架构没有利用任务之间的相互作用。相比之下,在本文中,我们提出了一个单一的,统一的模型来处理长格式视频中基于查询的视频理解。特别是,我们的模型可以解决所有三个任务的自我4D情景记忆基准需要查询三种不同的形式:给定一个以自我为中心的视频和视觉,文本或活动查询,目标是确定何时何地可以看到答案的视频。我们的模型设计的灵感来自最近的基于查询的方法,时空接地,并包含特定于模态的查询编码器和特定于任务的滑动窗口推理,允许多任务训练与不同的输入模态和不同的结构化输出。我们详尽地分析了任务之间的关系,并说明跨任务学习导致每个单独的任务上的性能提高,以及推广到看不见的任务,如语言查询的zero-shot空间定位的能力。
2023-03-17 cs.CV
VTG-LLM: Integrating Timestamp Knowledge into Video LLMs for Enhanced Video Temporal Grounding
Tencent PCG(腾讯平台与内容事业群)
本文提出VTG-LLM,通过将时间戳知识融入视觉token、引入绝对时间token和轻量级槽位token压缩技术,增强视频大语言模型的时间定位能力,并构建重标注数据集VTG-IT-120K,在多种VTG任务上取得优于现有方法的性能。
2025-02-01 cs.CV
TAG: A Simple Yet Effective Temporal-Aware Approach for Zero-Shot Video Temporal Grounding
Sungkyunkwan University(顺天大学)
针对零样本视频时序定位中的语义碎片化、相似度分布倾斜及依赖昂贵LLM推理的问题,提出结合时间池化、时间相干性聚类和相似度调整的无训练方法TAG,在多个基准数据集上取得最优结果。
2025-08-11 cs.CV
ActPrompt: In-Domain Feature Adaptation via Action Cues for Video Temporal Grounding
Tongji University(同济大学);Microsoft Research Asia(微软亚洲研究院);Xidian University(西安电子科技大学)
针对预训练视觉语言模型难以适配视频时序定位任务的问题,提出高效域内预微调范式与动作线索注入时序提示学习方法ActPrompt,可提升多种现有方法的性能。
2024-08-13 cs.CV
Grounded Multi-Hop VideoQA in Long-Form Egocentric Videos
Shanghai Jiao Tong University(上海交通大学)
本文研究长视频第一人称多跳视频问答任务,构建了大规模数据集与基准MultiHop-EgoQA,并提出新架构GeLM,通过引入定位模块增强多模态大语言模型的时序证据检索能力,显著提升了多跳定位推理性能并达到SOTA。
2024-08-26 cs.CV
Unlocking the Potential of Grounding DINO in Videos: Parameter-Efficient Adaptation for Limited-Data Spatial-Temporal Localization
SGIT AI Lab, State Grid Corporation of China(国网SGIT人工智能实验室,国家电网公司);University of HongKong(香港大学);Zhejiang University of Technology(浙江工业大学)
本文提出ST-GD框架,通过冻结基础模型并注入轻量适配器,有效解决小数据下的视频空间时间定位问题,在HC-STVG v1/v2基准和VidSTG数据集上表现优异。
2026-04-14 cs.CV
Dr.V: A Hierarchical Perception-Temporal-Cognition Framework to Diagnose Video Hallucination by Fine-grained Spatial-Temporal Grounding
NUS(新加坡国立大学);UTD(德克萨斯大学达拉斯分校);WHU(武汉大学);HKUST(香港科技大学);NJU(南京大学);Monash(莫纳什大学);UCSB(加州大学圣塔芭芭拉分校)
提出层次化框架Dr.V,通过Dr.V-Bench基准和Dr.V-Agent智能体,利用细粒度时空定位与认知推理诊断大型视频模型的幻觉,提升可解释性与可靠性。
2025-09-15 cs.CV
UniVTG: Towards Unified Video-Language Temporal Grounding
Meta AI;Johns Hopkins University(约翰斯·霍普金斯大学);National University of Singapore(新加坡国立大学)
本文提出 UniVTG 统一框架,通过统一标签表述、可扩展伪监督和灵活定位模型,支持多类视频时序定位任务并实现大规模预训练与零样本定位。
2023-08-18 cs.CV
Structured Video-Language Modeling with Temporal Grouping and Spatial Grounding
Google Research(谷歌研究院);UCLA(加州大学洛杉矶分校)
本文提出结构化视频-语言框架 S-ViLM,通过片段间空间定位与片段内时间分组学习细粒度区域-对象对齐及时序特征,在四类下游任务上显著优于现有方法。
2024-09-07 cs.CV
Object-centric Video Question Answering with Visual Grounding and Referring
University of Amsterdam(阿姆斯特丹大学);SAI, Shanghai Jiao Tong University(上海交通大学SAI研究所);Xiaohongshu Inc(小红书公司)
本文提出支持视觉提示输入与对象定位输出的 VideoLLM,通过 STOM 传播跨帧视觉提示,并构建 VideoInfer 数据集,在12个基准上提升视频问答与分割性能。
2025-07-25 cs.CV
Number it: Temporal Grounding Videos like Flipping Manga
Southeast University(东南大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);WeChat Vision, Tencent Inc.(腾讯公司微信视觉部);University of California, Berkeley(加州大学伯克利分校)
针对视频大语言模型在视频时间定位任务上的能力短板,提出为每帧添加唯一数字标识的NumPro方法,无需额外成本即可提升模型性能,微调后刷新该任务最优指标。
2025-03-21 cs.CV
SpaceVLLM: Endowing Multimodal Large Language Model with Spatio-Temporal Video Grounding Capability
University of Science and Technology of China(中国科学技术大学);Renmin University of China(中国人民大学)
SpaceVLLM通过时空感知查询和查询引导空间解码器解决多模态大语言模型的时空视频定位难题,并构建Uni-STG数据集,在11个基准上取得最先进性能。
2025-04-11 cs.CV
Counterfactual Attention Policy Distillation for Temporal Video Grounding
Xiamen University(厦门大学);Fudan University(复旦大学);The Chinese University of Hong Kong(香港中文大学);University of the Chinese Academy of Sciences(中国科学院大学)
针对长视频中重复动作和相似上下文导致的时间定位困难,提出反事实注意力策略蒸馏(CAPD),通过掩蔽时间组校准教师注意力并加权蒸馏,在Qwen3-VL-8B上以2500样本训练,使TimeLens平均召回率相对提升12.0%。
2026-09-30 cs.CV
OmniVTG: A Large-Scale Dataset and Training Paradigm for Open-World Video Temporal Grounding
Wangxuan Institute of Computer Technology, Peking University(北京大学王轩计算机技术研究所);State Key Laboratory of General Artificial Intelligence, Peking University(北京大学通用人工智能国家重点实验室);Central Media Technology Institute, Huawei Technologies Ltd.(华为技术有限公司中央媒体技术研究所);PKU-WUHAN Institute for Artificial Intelligence, Peking University(北京大学武汉人工智能研究所)
本文提出OmniVTG数据集和Self-Correction Chain-of-Thought训练范式,通过语义覆盖迭代扩展管道构建大规模数据集,并利用多模态大语言模型的密集描述能力提升视频时间定位性能。
2026-04-28 cs.CV
Let Me Finish My Sentence: Video Temporal Grounding with Holistic Text Understanding
KAIST(韩国科学技术院);Sejong University(世宗大学)
本文针对视频时间定位中忽视查询句整体语义的问题,提出融合整体文本信息的帧级门控机制和跨模态对齐损失,在多个基准上超越现有方法。
2024-10-17 cs.CV
PG-Video-LLaVA: Pixel Grounding Large Video-Language Models
Mohamed bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学);Australian National University(澳大利亚国立大学);University of Central Florida(中佛罗里达大学);Linköping University(林雪平大学)
本文提出PG-Video-LLaVA,通过音频转录、现成跟踪器与新型定位模块,使大型视频-语言模型首次具备像素级物体定位能力,并提升视频对话表现。
2023-12-13 cs.AI cs.CV
$R^2$-Tuning: Efficient Image-to-Video Transfer Learning for Video Temporal Grounding
The Hong Kong Polytechnic University(香港理工大学);Tsinghua University(清华大学);Harvard University(哈佛大学);Boston College(波士顿学院)
提出$R^2$-Tuning,一种参数高效的图像到视频迁移学习方法,仅用1.5%参数实现从粗到细的时空建模,在六个基准上取得视频时间定位最先进性能。
2024-07-21 cs.CV
ChatVTG: Video Temporal Grounding via Chat with Video Dialogue Large Language Models
Institute of Information Science, Beijing Jiaotong University(北京交通大学信息科学研究所);JD Explore Academy(京东探索研究院);University of Science and Technology of China(中国科学技术大学);Horace Mann School(霍勒斯·曼学校)
提出ChatVTG方法,利用视频对话大语言模型生成多粒度描述并匹配查询,实现零样本视频时序定位,通过时刻细化提升精度,在多个数据集上超越现有零样本方法。
2024-10-01 cs.CV cs.MM
EVOQUER: Enhancing Temporal Grounding with Video-Pivoted BackQuery Generation
Pennsylvania State University(宾夕法尼亚州立大学);Kwai Inc(快手)
时间基础旨在预测对应于自然语言查询输入的视频剪辑的时间间隔。在这项工作中,我们提出了EVOQUER,一个时间接地框架,将现有的文本到视频接地模型和视频辅助查询生成网络。给定查询和未修剪的视频,时间基础模型预测目标间隔,并且通过生成输入查询的简化版本将预测的视频剪辑馈送到视频翻译任务中。EVOQUER通过将来自时间基础和查询生成的损失函数作为反馈来形成闭环学习。我们在两个广泛使用的数据集Charades-STA和ActivityNet上的实验表明,EVOQUER在R@0.7时实现了1.05和1.31的改进。我们还讨论了查询生成任务如何通过解释时间接地模型行为来促进错误分析。
2021-09-10 cs.AI cs.CL cs.CV
Where, How, and When: Query-Guided Grounding for Video Understanding
Indian Institute of Technology Jodhpur(印度理工学院焦特布尔分校)
本论文针对视频理解的空间、关系、时间维度,提出QDETRv、TOViT、关系定位模型、MATR等查询引导方法,完成三类查询引导grounding任务,提升了视频理解性能。
2026-10-16 cs.AI cs.CV
Grounded-VideoLLM: Sharpening Fine-grained Temporal Grounding in Video Large Language Models
University of California, Davis(加州大学戴维斯分校);Virginia Tech(弗吉尼亚理工大学);The Chinese University of Hong Kong(香港中文大学);NVIDIA;Adobe Research(Adobe研究);Fudan University(复旦大学);Meta AI
本文提出 Grounded-VideoLLM,通过额外时序流和离散时序 token 增强时间建模与时间戳表示,并采用多阶段训练及自动标注的 grounded VideoQA 数据集,显著提升视频大语言模型的细粒度时序定位能力。
2025-08-21 cs.AI cs.CV
ViQAgent: Zero-Shot Video Question Answering via Agent with Open-Vocabulary Grounding Validation
The Department of Electrical and Electronics Engineering(电气与电子工程系);Universidad de los Andes(亚利桑德大学)
提出ViQAgent,一种结合思维链与YOLO-World的LLM智能体,用于零样本视频问答,通过开放词汇接地验证增强对象跟踪与对齐,在多个基准上达到最先进性能。
2025-05-21 cs.CL cs.CV
Natural-Language Temporal Grounding in Hour-Long Videos is a Search Problem: A Benchmark and Empirical Decomposition
NAVER Cloud AI;KAIST AI(韩国科学技术院人工智能系)
针对小时级视频的自然语言时间定位,提出搜索是主要瓶颈而非识别,发布首个开放小时级定位基准ExtremeWhenBench,并通过检索-定位混合方法显著提升性能。
2026-06-11 cs.AI cs.CV
Enrich and Detect: Video Temporal Grounding with Multimodal LLMs
FAIR, Meta(FAIR、Meta);Johns Hopkins University(约翰霍普金斯大学);Northeastern University(东北大学)
提出 ED-VTG 两阶段视频时序定位方法,通过查询丰富化、轻量边界解码器和多示例学习选择查询,在多个基准上取得最先进性能。
2025-10-19 cs.CV cs.MM