Leveraging Video Coding Knowledge for Deep Video Enhancement
深度学习技术的最新进展显着提高了压缩视频的质量。然而,以前的方法没有充分利用压缩视频的运动特性,例如视频内容和压缩视频的分层编码结构之间的运动的剧烈变化。这项研究提出了一种新的框架,利用视频压缩的低延迟配置,以增强现有的最先进的方法,BasicVSR++。我们采用了上下文自适应的视频融合方法,以提高压缩视频的最终质量。所提出的方法已在NTIRE22挑战,视频恢复和增强的基准进行了评估,并实现了改进的定量指标和视觉质量相比,以前的方法。
2023-02-27 cs.CV eess.IV
Memory Storyboard: Leveraging Temporal Segmentation for Streaming Self-Supervised Learning from Egocentric Videos
New York University(纽约大学)
针对第一人称视角视频流的自监督学习问题,受人类事件分割机制启发提出Memory Storyboard框架,通过双层记忆层次进行时间分段与回放,显著提升了无监督持续学习的表示性能。
2025-08-11 cs.CV cs.LG
Leveraging Generative Language Models for Weakly Supervised Sentence Component Analysis in Video-Language Joint Learning
Bangladesh University of Engineering and Technology(孟加拉国工程技术大学);Netaji Subhas University of Technology(内塔吉·苏巴斯理工大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出利用预训练 LLM 生成针对句子成分的文本,并通过弱监督模块估计成分重要性,以提升视频-文本检索和视频时刻检索等联合学习任务性能。
2023-12-10 cs.CV cs.LG
Leveraging Bitstream Metadata for Fast, Accurate, Generalized Compressed Video Quality Enhancement
NVIDIA(英伟达);University of Maryland, College Park(马里兰大学学院公园分校)
本文提出一种利用视频码流中结构、运动及量化信息的深度学习架构,以单一模型实现多种压缩设置下的快速、准确且通用的压缩视频质量增强。
2023-10-30 cs.CV cs.LG eess.IV
Geo4D: Leveraging Video Generators for Geometric 4D Scene Reconstruction
Visual Geometry Group, University of Oxford(视觉几何组,牛津大学);Naver Labs Europe(Naver欧洲实验室)
Geo4D利用预训练视频扩散模型的动态先验,仅用合成数据训练即可零样本泛化,通过融合点图、视差图和射线图并采用滑动窗口推理,显著提升动态场景单目四维重建精度。
2025-08-19 cs.CV
NIL: No-data Imitation Learning by Leveraging Pre-trained Video Diffusion Models
ETH Zürich(苏黎世联邦理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文提出NIL框架,利用预训练视频扩散模型生成的2D视频并结合视频嵌入距离与帧相似度奖励,引导3D运动技能模仿学习,在人形机器人运动任务上优于使用3D动捕数据的基线。
2025-03-13 cs.AI cs.CV cs.LG
EcoLens: Leveraging Multi-Objective Bayesian Optimization for Energy-Efficient Video Processing on Edge Devices
Siebel School of Computing and Data Science(计算与数据科学学院)
本文提出EcoLens系统,通过离线配置画像与多目标贝叶斯优化在线动态调整CPU频率、帧过滤、差分阈值和视频比特率,在边缘设备上以最小能耗实现目标推理精度。
2025-05-31 cs.CV
FastVideoEdit: Leveraging Consistency Models for Efficient Text-to-Video Editing
McGill University(麦吉尔大学);The Chinese University of Hong Kong(香港中文大学)
FastVideoEdit利用一致性模型的自一致性特性,实现零样本高效文本到视频编辑,无需反演或额外条件提取,在保持生成质量的同时显著提升编辑速度。
2024-11-18 cs.CV
LIVE: Leveraging Image Manipulation Priors for Instruction-based Video Editing
Nankai University(南开大学);Pengcheng Laboratory(鹏城实验室);Kuaishou Technology(快手科技);Nankai International Advanced Research Institute (SHENZHEN·FUTIAN)(南开国际先进研究院(深圳·福田))
本文提出LIVE框架,结合大规模高质量图像编辑数据和视频数据提升编辑能力,通过帧级噪声策略和两阶段训练策略,构建包含60多项挑战性任务的评估基准,实验表明方法达到SOTA。
2026-04-18 cs.CV
Leveraging Procedural Knowledge and Task Hierarchies for Efficient Instructional Video Pre-training
Georgia Insitute of Technology(佐治亚理工学院);Google DeepMind(谷歌DeepMind)
该论文提出利用任务层级和程序性步骤作为先验知识,预训练模型Pivot以高效识别和预测教学视频中的任务与步骤,在数据与计算受限时优于基线,实现高效视频推荐。
2025-02-24 cs.CV
Leveraging Auxiliary Information in Text-to-Video Retrieval: A Review
University of Bristol(布里斯托大学)
本综述回顾了81篇利用辅助信息提升文本到视频检索性能的研究论文,详细分析了相关方法论、基准数据集结果及未来研究方向。
2025-05-29 cs.CV
Leveraging Motion Information for Better Self-Supervised Video Correspondence Learning
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院)
提出自监督视频对应学习框架MER,通过运动增强引擎和多簇采样策略捕捉动态运动信息,在视频对象分割和关键点跟踪任务上优于现有方法。
2025-04-30 cs.CV
AnyMoLe: Any Character Motion In-betweening Leveraging Video Diffusion Models
KAIST(韩国科学技术院)
AnyMoLe利用视频扩散模型和ICAdapt微调及运动-视频模仿优化,无需角色特定数据即可为任意关节结构角色生成平滑逼真的运动中间帧。
2025-03-11 cs.AI cs.CV cs.GR
LMP: Leveraging Motion Prior in Zero-Shot Video Generation with Diffusion Transformer
East China Normal University(华东师范大学)
针对现有扩散Transformer视频生成模型细粒度运动控制不足、图像到视频运动控制难的问题,提出LMP框架,通过前景背景解耦、重加权运动迁移和外观分离模块,实现零样本下参考运动视频的文本/图像到视频生成,性能达SOTA。
2025-05-20 cs.CV
FakeOut: Leveraging Out-of-domain Self-supervision for Multi-modal Video Deepfake Detection
Reichman University(赖希曼大学)
FakeOut利用多模态域外自监督骨干网络,适应视频深度伪造检测,在跨数据集泛化上达到最先进结果,证明域外训练可提升检测鲁棒性。
2024-02-07 cs.CV
Leveraging Multimodal LLM Descriptions of Activity for Explainable Semi-Supervised Video Anomaly Detection
Department of Electrical Engineering University of South Florida(电气工程系 佛罗里达州立大学);Mitsubishi Electric Research Laboratories (MERL)(三菱电机研究实验室(MERL))
本文提出利用多模态大语言模型描述活动,以实现可解释的半监督视频异常检测,有效检测复杂交互异常并提升模型可解释性。
2026-02-26 cs.CV
FashionFlow: Leveraging Diffusion Models for Dynamic Fashion Video Synthesis from Static Imagery
Brunel University London(布鲁内尔大学伦敦校区)
本文提出 FashionFlow,利用扩散模型结合伪三维卷积、VAE 和 CLIP 编码器,从静态时尚图像生成多角度高保真动态视频,以提升在线时尚购物体验。
2024-01-20 cs.AI cs.CV
UVCG: Leveraging Temporal Consistency for Universal Video Protection
Tsinghua University(清华大学);University of Oxford(牛津大学)
针对AI驱动视频编辑的安全风险,提出通用视频一致性保护(UVCG)方法,利用视频时间一致性嵌入目标视频内容作为不可察觉扰动,抑制恶意编辑,在LDM模型上验证了其有效性、可迁移性和效率。
2024-11-25 cs.AI cs.CV
Leveraging Endo- and Exo-Temporal Regularization for Black-box Video Domain Adaptation
Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院);School of Electrical and Electronic Engineering, NTU(南洋理工大学电气与电子工程学院)
为了使视频模型能够无缝地应用于不同环境中的视频任务,已经提出了各种视频无监督领域自适应(VUDA)方法来提高视频模型的鲁棒性和可移植性。尽管在模型鲁棒性方面有所改进,但这些VUDA方法需要访问源数据和源模型参数以进行自适应,从而引起严重的数据隐私和模型可移植性问题。为了解决上述问题,本文首先制定了黑盒视频领域自适应(BVDA)作为一个更现实的,但具有挑战性的情况下,源视频模型只提供作为一个黑盒预测。虽然在图像域中提出了一些黑盒领域自适应(BDA)方法,但这些方法不能应用于视频域,因为视频模态具有更复杂的时间特征,难以对齐。为了解决BVDA,我们提出了一种新的Endo和eXo-TEmporal正则化网络(EXTERN),通过应用掩码混合策略和视频定制的正则化:时间内正则化和时间外正则化,在剪辑和时间特征上执行,同时从黑箱预测器获得的预测中提取知识。实验结果表明,EXTERN在各种跨域闭集和部分集动作识别基准测试中的性能达到了最先进水平,甚至超过了大多数现有的具有源数据可访问性的视频领域自适应方法。
2022-11-09 cs.CV
Leveraging Video Descriptions to Learn Video Question Answering
National Tsing Hua University(台湾清华大学);Stanford University(斯坦福大学)
我们提出了一种可扩展的方法来学习基于视频的问答(QA):回答一个“自由形式的自然语言问题”的视频内容。我们的方法自动收集了大量在线免费提供的视频和描述。然后,大量的候选QA对自动生成的描述,而不是手动注释。接下来,我们使用这些候选QA对来训练许多基于视频的QA方法,这些方法是从MN(Sukhbaatar et al. 2015)、VQA(Antol et al. 2015)、SA(Yao et al. 2015)、SS(Venugopalan et al. 2015)扩展而来的。为了处理非完美的候选QA对,我们提出了一个自定进度的学习过程来迭代地识别它们并减轻它们在训练中的影响。最后,我们评估手动生成的基于视频的QA对的性能。结果表明,我们的自定进度的学习过程是有效的,和扩展的SS模型优于各种基线。
2016-12-19 cs.AI cs.CV cs.MM
Uni-Classifier: Leveraging Video Diffusion Priors for Universal Guidance Classifier
Shanghai Jiao Tong University(上海交通大学);University of Science and Technology of China(中国科学技术大学)
本文提出Uni-Classifier,通过利用视频扩散先验引导前序模型的去噪过程,提升生成质量,适用于视频和3D生成任务。
2026-03-20 cs.CV
SilhouetteTell: Practical Video Identification Leveraging Blurred Recordings of Video Subtitles
School of Computer Science University of Oklahoma(计算机科学学院 俄克拉荷马大学)
本文提出SilhouetteTell视频识别攻击,通过结合字幕轮廓的时空特征推断在线与离线视频,在40米距离内高效识别视频标题和片段,揭示隐私威胁。
2025-10-31 cs.CR cs.CV
Adversarial Video Generation on Complex Datasets
DeepMind
自然图像的生成模型已经通过规模的强大杠杆作用向高保真样本发展。我们试图通过展示在复杂的Kinetics-600数据集上训练的大型生成对抗网络能够产生比以前工作更高复杂度和保真度的视频样本,将这一成功带到视频建模领域。我们提出的模型,双视频鉴别器GAN(DVD-GAN),规模更长,更高分辨率的视频,利用计算效率的分解,其分辨率。我们对视频合成和视频预测的相关任务进行了评估,并实现了用于Kinetics-600预测的最新Fréchet Inception Distance,以及用于UCF-101数据集合成的最新Inception Score,同时为Kinetics-600的合成建立了强大的基线。
2019-09-25 cs.CV cs.LG stat.ML
CoPE-VideoLM: Leveraging Codec Primitives For Efficient Video Language Modeling
Microsoft Spatial AI Lab(微软空间人工智能实验室);Stanford University(斯坦福大学);ETH Zurich(苏黎世联邦理工学院)
本文提出CoPE-VideoLM,通过利用视频编解码器原语(如运动矢量和残差)减少计算开销,提升视频语言模型的效率和性能。
2026-03-30 cs.AI cs.CL cs.CV
Leveraging Transformers for Weakly Supervised Object Localization in Unconstrained Videos
ETS Montreal(蒙特利尔理工学院);Ericsson(爱立信)
针对弱监督视频目标定位中现有方法精度受限、时序信息利用困难的问题,提出基于Transformer的TrCAM-V方法,结合CLIP伪标签与CRF损失训练,在YouTube-Objects数据集上取得分类与定位精度的新SOTA。
2024-07-08 cs.CV cs.LG
Leveraging multimodal explanatory annotations for video interpretation with Modality Specific Dataset
Université Côte d’Azur(蔚蓝海岸大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究院)
该研究通过MOByGaze数据集研究概念感知监督的影响,提出概念模态特定数据集(CMSDs),提升了多模态视频理解模型性能,为可解释多模态学习提供了新方向。
2025-04-15 cs.CV cs.MM
Leveraging Modality Tags for Enhanced Cross-Modal Video Retrieval
School of Computer Science University of Bristol(计算机科学学院英国布里斯托尔大学)
针对视频检索的跨模态对齐问题,提出MAC-VR方法,利用基础模型提取的模态特定标签,结合辅助潜在概念的学习与对齐增强跨模态匹配,在多个数据集上取得优于或比肩现有SOTA的效果。
2025-08-31 cs.CV
Unmasking Deep Fakes: Leveraging Deep Learning for Video Authenticity Detection
BRAC University(布拉克大学)
针对Deepfake视频对数字媒体真实性的威胁,本文提出结合MTCNN人脸检测器与EfficientNet-B5编码器的深度学习检测方法,在Kaggle DFDC数据集上取得了93.80%的AUC与86.82%的F1值。
2025-06-15 cs.CV
MaViLS, a Benchmark Dataset for Video-to-Slide Alignment, Assessing Baseline Accuracy with a Multimodal Alignment Algorithm Leveraging Speech, OCR, and Visual Features
Karlsruhe University of Applied Sciences(卡尔斯鲁厄应用技术大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);University of Hohenheim(霍恩海姆大学)
本文提出用于讲座视频与幻灯片对齐的MaViLS基准数据集,并引入结合语音、OCR和图像特征的多模态动态规划对齐算法,以0.82准确率和11倍速度优于SIFT,证明了其鲁棒性与潜力。
2024-09-25 cs.AI cs.CV cs.LG
Leveraging LLMs with Iterative Loop Structure for Enhanced Social Intelligence in Video Question Answering
Keio University(庆应义塾大学)
本文提出循环视频辩论(LVD)框架,融合大语言模型与视觉信息,在Social-IQ 2.0基准上无需微调即达最先进性能,提升视频问答中的社会智能。
2025-03-27 cs.CV
Multi-View Video-Based Learning: Leveraging Weak Labels for Frame-Level Perception
RIKEN(理化学研究所)
本文提出一种利用序列级弱标签训练多视角视频基础模型的新框架,通过潜在损失函数获取各视角嵌入,提升下游帧级动作识别与检测的准确性。
2024-03-19 cs.CV
Clue Matters: Leveraging Latent Visual Clues to Empower Video Reasoning
Aerospace Information Research Institute, Chinese Academy of Sciences(中国科学院航天信息研究所)
本文提出ClueNet框架,通过两阶段监督微调方法,解决视频推理中视觉线索提取、过滤与推理对齐问题,提升视频问答的准确性和可解释性。
2026-03-16 cs.CV
Leveraging Temporal Contextualization for Video Action Recognition
Seoul National University(首尔大学);NAVER AI Lab(NAVER AI实验室)
提出视频理解框架 TC-CLIP,通过逐层时间信息注入机制 TC 提取跨帧上下文 token 进行特征编码,并利用 VP 模块生成文本提示,在多种动作识别设置中验证了有效性。
2024-07-24 cs.CV
Adversarial Attacks on Black Box Video Classifiers: Leveraging the Power of Geometric Transformations
University of California(加利福尼亚大学)
与图像分类模型相比,对视频分类模型的黑盒对抗攻击在很大程度上研究不足。这是可能的,因为对于视频,时间维度在梯度估计中提出了显著的额外挑战。查询高效的黑盒攻击依赖于有效地估计梯度,以最大限度地提高错误分类目标视频的概率。在这项工作中,我们证明了这样的有效梯度可以通过参数化的时间结构的搜索空间与几何变换。具体来说,我们设计了一种新的迭代算法几何变换扰动(GEO-TRAP),攻击视频分类模型。GEO-TRAP采用标准的几何变换操作,将有效梯度的搜索空间减少到搜索定义这些操作的一小组参数。这组参数描述了梯度的几何级数,从而导致减小的和结构化的搜索空间。我们的算法固有地导致成功的扰动,令人惊讶的是很少的查询。例如,从GEO-TRAP生成的对抗性示例具有更好的攻击成功率,与广泛使用的Jester数据集上的视频对抗攻击的最新方法相比,查询减少了约73.55%。总的来说,我们的算法暴露了不同视频分类模型的漏洞,并在两个大型数据集的黑盒设置下获得了新的最先进的结果。代码可在这里:https://github.com/sli057/Geo-TRAP
2021-10-26 cs.CV
Leveraging Compressed Frame Sizes For Ultra-Fast Video Classification
提出仅分析压缩比特流帧大小实现超快速视频分类的方法,无需解码,在29,000个视频数据集上准确率超80%,速度比实时快15,000倍。
2024-03-13 cs.CV cs.MM eess.IV
From Single to Multiple: Leveraging Multi-level Prediction Spaces for Video Forecasting
Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
尽管近年来视频预测已经成为一个广泛探索的话题,但现有的主流工作仍然将其模型限制在单一预测空间,而完全忽略了如何利用其模型与多预测空间。这项工作填补了这一空白。我们首次深入研究了在多预测空间中执行视频预测的多种策略,并将其结果融合在一起以提高性能。像素空间的预测通常缺乏保持视频语义和结构内容的能力,而高层特征空间的预测在约简和恢复过程中容易产生错误。因此,我们在不同的特征空间之间建立了一个循环连接,并将它们的生成纳入上采样过程。令人惊讶的是,这个简单的想法产生了比PhyDNet更显着的性能提升(MNIST-2数据集上的性能提高了32.1%MAE,KTH数据集上的性能提高了21.4%MAE)。在四个数据集上的定性和定量评价表明了该方法的泛化能力和有效性。我们表明,我们的模型显着减少了麻烦的失真和模糊的文物,并带来了显着的改善,在长期的视频预测的准确性。代码将很快发布。
2021-07-21 cs.CV
Leveraging Synthetic Data to Learn Video Stabilization Under Adverse Conditions
Lancaster University(兰卡斯特大学);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学)
视频稳定在提高视频质量方面起着核心作用。然而,尽管这些方法取得了重大进展,但它们主要是在标准天气和光照条件下进行测试,在不利条件下可能表现不佳。在本文中,我们提出了一种合成感知的恶劣天气鲁棒的视频稳定算法,不需要真实的数据,可以只训练合成数据。我们还介绍了银,一种新的渲染引擎,生成所需的训练数据与自动地面实况提取过程。我们的方法使用我们专门生成的合成数据来训练仿射变换矩阵估计器,避免了当前方法所面临的特征提取问题。此外,由于在不利条件下没有视频稳定数据集可用,我们提出了新的VSAC105Real数据集进行评估。我们比较我们的方法,五个国家的最先进的视频稳定算法使用两个基准。我们的研究结果表明,目前的方法在至少一种天气条件下表现不佳,即使在一个只有合成数据的小数据集上进行训练,我们在考虑所有天气条件时,在稳定性平均得分,失真得分,成功率和平均裁剪率方面也取得了最佳性能。因此,我们的视频稳定模型可以很好地推广到真实世界的视频,并且不需要大规模的合成训练数据来收敛。
2022-08-26 cs.CV cs.GR
AnyTalk: Speech Animation for Arbitrary Characters Leveraging a Video Generation Model
KAIST(韩国科学技术院)
AnyTalk是一种无需动画数据、利用视频扩散模型的新方法,可生成任意角色的3D语音动画,还能蒸馏出实时版本,降低了人工与数据需求。
2026-08-18 cs.CV cs.GR cs.MM
Unmasking Puppeteers: Leveraging Biometric Leakage to Expose Impersonation in AI-Based Videoconferencing
Drexel University(德雷克斯el大学);NVIDIA
本文提出一种基于姿态-表情潜在特征的对比编码器,通过分离持久身份线索来检测视频会议中的身份冒充行为,实验表明其在实时检测中性能优异。
2026-05-12 cs.AI cs.CV
A Novel Dataset for Video-Based Neurodivergent Classification Leveraging Extra-Stimulatory Behavior
Dept. of EECS University of Arkansas Fayetteville, United States(电子工程与计算机科学系 美国阿肯色大学富特海德分校);Dept. of Food Science University of Arkansas Fayetteville, United States(食品科学系 美国阿肯色大学富特海德分校)
本文提出Video ASD视频数据集,利用卷积和注意力图特征,结合GPU和普通摄像机实现ASD分类,并验证了模型泛化能力及基础模型在运动噪声下的表现。
2025-08-22 cs.CV
TeCoNeRV: Leveraging Temporal Coherence for Compressible Neural Representations for Videos
Department of Computer Science, University of Maryland, College Park, USA(计算机科学系,马里兰大学,College Park)
TeCoNeRV通过时间一致性正则化和残差存储方案,实现高效视频压缩,比基线提升PSNR并降低比特率和编码速度
2026-11-03 cs.CV
Leveraging Real Talking Faces via Self-Supervision for Robust Forgery Detection
Imperial College London(帝国理工学院);Meta AI
检测面部操纵视频的最紧迫挑战之一是推广到训练期间看不到的伪造方法,同时在压缩等常见腐败情况下保持有效。在本文中,我们研究了我们是否可以通过利用真实的说话面孔的视频来解决这个问题,这些视频包含关于自然面部外观和行为的丰富信息,并且可以在网上大量获得。我们的方法,称为RealForensics,由两个阶段组成。首先,我们利用真实视频中视觉和听觉模态之间的自然对应关系,以自我监督的跨模态方式学习时间密集的视频表示,这些视频表示捕捉面部运动,表情和身份等因素。其次,我们使用这些学习到的表示作为伪造检测器预测的目标,以及通常的二进制伪造分类任务;这鼓励它根据所述因素做出真实/虚假的决定。我们证明了我们的方法在交叉操作推广和鲁棒性实验上达到了最先进的性能,并研究了影响其性能的因素。我们的研究结果表明,利用自然和未标记的视频是一个有前途的方向,更强大的人脸伪造检测器的发展。
2022-10-21 cs.CV
CodecSight: Leveraging Video Codec Signals for Efficient Streaming VLM Inference
Beihang University(北京航空航天大学);Georgia Institute of Technology(佐治亚理工学院)
CodecSight通过利用视频编码器内嵌的时空结构信息,实现流式视频分析的高效推理,提升吞吐量并减少GPU计算量,同时保持高精度。
2026-09-16 cs.CV cs.DC cs.LG
Leveraging Motion Estimation for Efficient Bayer-Domain Video Convolutional Networks
本文提出 MEVC 框架,消除 ISP 并将滑动窗口运动估计集成至卷积层,直接在 Bayer 域加速视频视觉任务,在多基准上 FLOPs 减少超 70% 且精度损失极小。
2026-10-12 cs.CV eess.IV
IlluSign: Illustrating Sign Language Videos by Leveraging the Attention Mechanism
Reichman University(雷赫曼大学);University of Zurich(苏黎世大学);Tel Aviv University(特拉维夫大学)
针对手语视频动态性导致的学习研究困难及人工绘制插图成本高的问题,本研究提出IlluSign方法,利用生成模型的注意力机制将手语视频转换为静态插图,为教育提供补充资源,降低成本。
2025-04-15 cs.CV
Leveraging large multimodal models for audio-video deepfake detection: a pilot study
Tencent Youtu Lab(腾讯优图实验室);Fudan University(复旦大学)
本文提出AV-LMMDetect,利用大型多模态模型进行音频视频深度伪造检测,通过监督微调和分阶段训练,在多个数据集上达到新的性能水平。
2026-02-25 cs.CV cs.SD
Leveraging Pre-Trained Visual Models for AI-Generated Video Detection
Georgia Institute of Technology(佐治亚理工学院)
本文提出利用预训练视觉模型提取特征来检测通用内容的AI生成视频,无需额外训练即可达到平均90%以上的检测准确率,并在自建的包含约1.4万个视频的VID-AID数据集上验证了方法有效性。
2025-07-17 cs.CV
CFE-PPAR: Compression-friendly encryption for privacy-preserving action recognition leveraging video transformers
Graduate School of Informatics(信息研究生院);Faculty of System Design(系统设计学部);Chiba University(千叶大学);Tokyo Metropolitan University(东京 Metropolitan 大学)
本文提出CFE-PPAR,一种压缩友好的加密方法,通过视频变换器实现加密视频的高效识别,优于现有方法。
2026-05-07 cs.AI cs.CR cs.CV
ClawCraneNet: Leveraging Object-level Relation for Text-based Video Segmentation
Zhejiang University(浙江大学);Baidu Research(百度研究院);ReLER, University of Technology Sydney(悉尼科技大学ReLER实验室)
针对基于文本的视频分割中局部交互无法建模对象间关系的问题,提出自顶向下的ClawCraneNet,通过解析候选对象间的位置、语义和时间关系选择目标对象,在A2D Sentences和J-HMDB Sentences上大幅超越现有方法。
2024-01-19 cs.CV
Physics-Informed Video Flare Synthesis and Removal Leveraging Motion Independence between Flare and Scene
School of Artificial Intelligence, Beijing Normal University(人工智能学院,北京师范大学)
本文提出了一种基于物理引导的视频 flare 合成与去除方法,利用光流和 Mamba 模型提升时空一致性,构建首个视频 flare 数据集并验证方法有效性。
2025-12-12 cs.CV
LiFT: Leveraging Human Feedback for Text-to-Video Model Alignment
Fudan University(复旦大学);Shanghai Academy of Artificial Intelligence for Science(上海科学人工智能研究院);Australian Institute for Machine Learning, The University of Adelaide(阿德莱德大学澳大利亚机器学习研究院)
本文提出首个利用人类反馈进行文本到视频模型对齐的方法LiFT,通过构建含约1万条标注的数据集LiFT-HRA训练奖励模型LiFT-Critic,并最大化奖励加权似然优化T2V模型,使微调后的CogVideoX-2B在全部16项指标上超越CogVideoX-5B。
2025-03-05 cs.CV
CapST: Leveraging Capsule Networks and Temporal Attention for Accurate Model Attribution in Deep-fake Videos
Institute of Information Science, Academia Sinica(资讯研究所);Social Networks and Human-Centred Computing, Taiwan International Graduate Program(人本计算与社交网络,台湾国际研究生计划);Department of Computer Science, National Chengchi University(计算机科学系,国立成功大学);Member IEEE, National Chengchi University(IEEE会员,国立成功大学);Fellow IEEE, Institute of Information Science, Academia Sinica(IEEE会士,资讯研究所);Dire Dawa University(迪雷达瓦大学);Research Center for Information Technology Innovation, Academia Sinica(资讯科技创新研究中心,学术院)
针对深度伪造视频的模型归因需求,提出融合截断VGG19、胶囊网络与时空注意力的CapST模型,在两个数据集上实现了优于基线的归因准确率,且计算成本更低。
2025-06-12 cs.CV
Beyond Pixels: Leveraging the Language of Soccer to Improve Spatio-Temporal Action Detection in Broadcast Videos
Centre for Robotics, Mines Paris - PSL(机器人中心,巴黎 Mines - PSL 高等学院);Footovision(Footovision 公司)
本文提出通过引入去噪序列转换任务,利用足球战术规律提升广播视频中时空动作检测的精度和召回率。
2025-05-14 cs.CV
LLaVA-MLB: Mitigating and Leveraging Attention Bias for Training-Free Video LLMs
School of Software, Tsinghua University(清华大学软件学院);BNRist, Tsinghua University(清华大学BNRist);GRG Banking Equipment Co., Ltd.(广电运通金融电子股份有限公司);South China University of Technology(华南理工大学)
针对无需训练视频 LLM 的 token 限制与位置注意力偏差,本文提出压缩—扩展两阶段 token 选择方法,通过网格注意力池化缓解偏差并以视觉摘要尾部利用偏差,提升效率与准确率。
2025-03-14 cs.CV