Lights, Camera, Consistency: A Multistage Pipeline for Character-Stable AI Video Stories
BITS Pilani, Pilani Campus, India(印度比斯汉尼学院帕利尼校区)
本文提出了一种多阶段管道,通过生成详细剧本并利用视觉锚点来提升AI生成视频故事中角色的一致性。
2025-12-17 cs.AI cs.CV
Video Consistency Distance: Enhancing Temporal Consistency for Image-to-Video Generation via Reward-Based Fine-Tuning
LY Corporation(LY公司)
本文提出视频一致性距离(VCD)度量,通过基于奖励的微调增强图像到视频生成的时间一致性,实验证明该方法在多个数据集上显著提升一致性且不损害其他性能。
2025-10-23 cs.CV
A Survey: Spatiotemporal Consistency in Video Generation
School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳)计算机科学与技术学院);School of Computer Science and Engineering, Central South University(中南大学计算机科学与工程学院);Peng Cheng Laboratory(鹏城实验室);School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院)
本文综述了视频生成中时空一致性的最新进展,涵盖生成模型、特征表示、训练策略等,探讨了未来研究方向和挑战。
2026-02-18 cs.AI cs.CV
LSA: Localized Semantic Alignment for Enhancing Temporal Consistency in Traffic Video Generation
Mercedes-Benz AG(梅赛德斯-奔驰集团);ETH Zurich(苏黎世联邦理工学院);Friedrich-Alexander University Erlangen-Nuremberg(埃朗根-纽伦堡弗里德里希-亚历山大大学)
LSA通过局部语义对齐提升交通视频生成的时间一致性,无需外部控制信号。
2026-02-05 cs.AI cs.CV
Koala-36M: A Large-scale Video Dataset Improving Consistency between Fine-grained Conditions and Video Content
Shenzhen University(深圳大学);Tsinghua University(清华大学);Kuaishou Technology(快手科技)
为解决现有视频数据集在时间分割、字幕和质量过滤上的局限,本文提出大规模高质量数据集 Koala-36M,通过线性分类器优化时间分割、提供200词结构化字幕并开发VTSS评分筛选高质量视频,有效提升了细粒度条件与视频内容的一致性。
2025-04-26 cs.AI cs.CV
AVC-Reward: Event-Centric Audio-Video Consistency Evaluation
Zhejiang University(浙江大学);HiThink Research(HiThink 研究院);Fudan University(复旦大学);Lanzhou University(兰州大学)
针对现有音视频评估指标不适用于复杂场景的问题,提出以事件为中心的AVC-Reward框架,构建AVC-Benchmark基准,实现与人类判断的最优一致性,可提升联合音视频生成模型的一致性。
2026-11-13 cs.AI cs.CV
Consistency-Preserving Diverse Video Generation
University of California, Berkeley(加州大学伯克利分校)
提出一种联合采样框架,在保持时间一致性的同时提高文本到视频生成中批次内视频的多样性,通过轻量级潜在空间模型避免视频解码和反向传播。
2026-06-05 cs.CV
Visual Prompting for One-shot Controllable Video Editing without Inversion
Singapore University of Technology and Design(新加坡科技设计大学);Wuhan University(武汉大学);Institute for Infocomm Research, Agency for Science, Technology and Research, Singapore(新加坡资讯与通信研究院)
本文提出一种基于视觉提示的无需DDIM反演的一次性可控视频编辑方法,并引入内容一致性与时间一致性采样,确保编辑帧与源帧的内容及时间一致性。
2025-04-19 cs.AI cs.CV
Quantitative Video World Model Evaluation for Geometric-Consistency
Tsinghua University - IEI Lab(清华大学-IEI实验室);UW-Madison(威斯康星大学麦迪逊分校);Adobe Research(Adobe研究院)
本文提出PDI-Bench框架,通过分割与点跟踪获取物体中心观测,利用单目重建获取3D坐标,计算投影几何残差以评估生成视频的几何一致性,揭示视频生成器的特定失败模式。
2026-05-14 cs.AI cs.CV
LightMotion: A Light and Tuning-free Method for Simulating Camera Motion in Video Generation
Xiamen University(厦门大学)
本文提出LightMotion,一种在潜空间中通过置换、重采样和SNR偏移校正实现相机运动模拟的轻量级免调优视频生成方法,在定量和定性上均优于现有方法。
2025-03-11 cs.AI cs.CV
UniCtrl: Improving the Spatiotemporal Consistency of Text-to-Video Diffusion Models via Training-Free Unified Attention Control
University of Michigan(密歇根大学);University of Virginia(弗吉尼亚大学)
UniCtrl是一种免训练的即插即用方法,通过跨帧自注意力控制、运动注入和时空同步,提升文本到视频扩散模型的时空一致性和运动多样性。
2024-11-10 cs.CV
JVID: Joint Video-Image Diffusion for Visual-Quality and Temporal-Consistency in Video Generation
Imperial College London(伦敦帝国学院);Friedrich-Alexander-Universität(弗里德里希-亚历山大大学);University of Birmingham(伯明翰大学)
JVID通过联合潜在图像扩散模型与潜在视频扩散模型,在反向扩散过程中兼顾视觉质量与时间一致性,从而提升视频生成效果。
2024-09-27 cs.CV
Consistent and Editable: A Balanced Framework for Text-Guided Video Editing
USTC(中国科学技术大学)
针对视频编辑中时间一致性和可编辑性难以平衡的问题,提出EquiEdit框架。通过时间Mamba模块增强时间一致性,设计基于频谱变换的噪声注入策略提升可编辑性,实验证明该方法有效。
2026-07-07 cs.CV
CCTVBench: Contrastive Consistency Traffic VideoQA Benchmark for Multimodal LLMs
Technical University of Munich(慕尼黑技术大学);University of California, Los Angeles(加州大学洛杉矶分校)
CCTVBench通过真实事故视频与世界模型生成的反事实场景配对,提出对比一致性评估方法,揭示视频问答中对比一致性与标准指标间的显著差距,并引入C-TCD方法提升问答与一致性性能。
2026-04-22 cs.CV
CoNo: Consistency Noise Injection for Tuning-free Long Video Diffusion
University of Science and Technology of China(中国科学技术大学)
针对免调优长视频扩散中的场景一致性问题,本文提出 CoNo,通过“回看”机制和长时一致性正则化增强视频片段间细粒度过渡并抑制内容偏移,在单文本和多文本条件下均验证了有效性。
2024-06-07 cs.CV
Face Consistency Benchmark for GenAI Video
TCL Research Europe(TCL欧洲研究中心);TCL Research America(TCL美国研究中心)
针对AI生成视频难以保持角色外观和属性一致性的问题,本文提出人脸一致性基准FCB框架,通过标准化指标评估现有方案不足,推动更可靠方法开发,是提升AI视频生成角色一致性的关键一步。
2025-05-16 cs.CV cs.MM
ViDE: Tuning-Free Video Coherence via Temporal Attention Reweighting and Prompt Blending
National University of Singapore(新加坡国立大学);Yale University(耶鲁大学)
本文提出TiARA算法和PromptBlend流程,通过时频注意力重加权与提示对齐,在无需调优的情况下提升单提示和多提示长视频生成的一致性与连贯性。
2026-11-10 cs.AI cs.CV cs.LG
Training-Free Motion-Guided Video Generation with Enhanced Temporal Consistency Using Motion Consistency Loss
The University of Adelaide(阿德莱德大学);The University of New South Wales(新南威尔士大学)
针对免训练运动引导视频生成的时间一致性差、运动跟随不准问题,提出结合初始噪声方法与运动一致性损失的方案,通过捕获参考视频帧间特征相关模式、用损失梯度引导生成,在免训练前提下提升了时间一致性,树立了高效连贯视频生成的新基准。
2025-01-13 cs.CV
3DPhysVideo: Consistency-Guided Flow SDE for Video Generation via 3D Scene Reconstruction and Physical Simulation
KAIST(韩国科学技术院)
本文提出了一种无需训练的管道,通过3D场景重建和物理模拟生成逼真视频,利用一致性引导流SDE分解预测速度以确保条件输入的一致性,从而在多物体和流体交互场景中实现从单张图像到物理合理视频的过渡。
2026-05-16 cs.AI cs.CV cs.GR
GeCo: Evaluating Geometric Consistency for Video Generation via Motion and Structure
Harvard University(哈佛大学);Google DeepMind(谷歌DeepMind);MIT(麻省理工学院)
GeCo通过融合残差运动和深度先验,检测静态场景中的几何变形和遮挡不一致问题,并用于评估视频生成模型的性能与缺陷。
2026-08-20 cs.CV
ConsistI2V: Enhancing Visual Consistency for Image-to-Video Generation
University of Waterloo(滑铁卢大学);Vector Institute(矢量研究所)
ConsistI2V通过第一帧时空注意力与低频带噪声初始化增强图像到视频生成的视觉一致性,并提出I2V-Bench基准验证其优越性。
2024-07-01 cs.CV
FastVideoEdit: Leveraging Consistency Models for Efficient Text-to-Video Editing
McGill University(麦吉尔大学);The Chinese University of Hong Kong(香港中文大学)
FastVideoEdit利用一致性模型的自一致性特性,实现零样本高效文本到视频编辑,无需反演或额外条件提取,在保持生成质量的同时显著提升编辑速度。
2024-11-18 cs.CV
Learning Long-Term Style-Preserving Blind Video Temporal Consistency
L'Or\'eal Research
当试图独立地将图像训练算法应用于视频中的连续帧时,往往会出现有害的闪烁。最先进的后处理技术,旨在促进时间一致性,生成其他时间伪影,并在视觉上改变视频的风格。我们提出了一个后处理模型,不知道应用于视频的转换(例如,风格转移,使用GANs的图像操作等),以循环神经网络的形式。我们的模型使用乒乓过程及其相应的损失进行训练,最近引入了GAN视频生成,以及一种新颖的风格保留感知损失。前者改善了长期的时间一致性学习,而后者促进了风格的保持。我们在DAVIS和videvo.net数据集上评估了我们的模型,并表明我们的方法提供了关于闪烁去除的最先进的结果,并且比以前的方法更好地保持了视频的整体风格。
2021-03-12 cs.CV
Fréchet Video Motion Distance: A Metric for Evaluating Motion Consistency in Videos
University of British Columbia(不列颠哥伦比亚大学);Vector Institute for AI(向量人工智能研究所);Peking University(北京大学);University of Toronto(多伦多大学)
针对视频生成中运动一致性评估不足的问题,提出基于关键点跟踪和 Fréchet 距离的 FVMD 指标,实验证明其更符合人类感知且能提升 VQA 模型性能。
2024-07-23 cs.CV
DCDM: Divide-and-Conquer Diffusion Models for Consistency-Preserving Video Generation
Fudan University(复旦大学);Tencent(腾讯)
DCDM通过分而治之的扩散模型,解决视频生成中的语义、几何和身份一致性问题,提升视频生成的连贯性和可控性。
2026-02-14 cs.CV
Edit-A-Video: Single Video Editing with Object-Aware Consistency
Seoul National University(首尔大学)
提出Edit-A-Video框架,利用预训练文本到图像模型和单个文本-视频对实现视频编辑,通过两阶段扩展与反演及稀疏因果混合方法解决背景不一致问题,提升编辑质量。
2023-11-17 cs.CV
CoCoCo: Improving Text-Guided Video Inpainting for Better Consistency, Controllability and Compatibility
The Chinese University of Hong Kong(香港中文大学);International Digital Economy Academy (IDEA)(国际数字经济学院);The University of Hong Kong(香港大学);Tsinghua University(清华大学)
本文提出CoCoCo模型,通过运动捕获模块、实例感知区域选择和个性化模型注入,解决文本引导视频修复中的一致性、可控性和兼容性问题,实验证明其生成高质量视频。
2024-03-18 cs.CV
AI Powered High Quality Text to Video Generation with Enhanced Temporal Consistency
Microsoft(微软)
针对文本到视频生成中的时间一致性和细粒度控制问题,提出MOVAI分层框架,通过组合场景解析器、时间-空间注意力机制和渐进式视频精修模块,在多项指标上实现最先进性能。
2025-10-30 cs.AI cs.CV cs.IR
StoryAgent: Customized Storytelling Video Generation via Multi-Agent Collaboration
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);United Arab Emirates University(阿拉伯联合酋长国大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
StoryAgent提出多智能体协作框架,分解定制化叙事视频生成任务,结合LoRA-BE等方法提升角色与时间一致性,优于现有技术。
2024-11-11 cs.AI cs.CV cs.MA
GeoFlow: Enforcing Implicit Geometric Consistency in Video Generation
Stanford University(斯坦福大学);Google DeepMind(谷歌DeepMind)
本文提出GeoFlow,一种通过强化学习微调来增强视频生成中几何一致性的方法,通过引入几何一致性奖励,有效减少时间上的几何伪影,同时保持感知质量。
2026-05-18 cs.CV
VideoWeave: Unlocking Geometric Consistency in Video Generation via Joint Geometry-Video Modeling
Nanjing University(南京大学);Institute of Artificial Intelligence, China Telecom (TeleAI)(中国电信人工智能研究院(TeleAI));Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
提出VideoWeave,一种在潜在空间后训练框架,利用隐式几何模型特征约束生成分布,缓解几何重建误差,提升视频几何一致性。
2026-06-15 cs.CV
StableV2V: Stablizing Shape Consistency in Video-to-Video Editing
University of Science and Technology of China(中国科学技术大学)
StableV2V通过分解编辑流程并建立运动与提示的对齐,提升视频到视频编辑的形状一致性与效率。
2024-11-17 cs.CV
VidToMe: Video Token Merging for Zero-Shot Video Editing
Shanghai Jiao Tong University(上海交通大学);UC Merced(加州大学默塞德分校)
针对零样本视频编辑中时间一致性难保障、内存效率低的问题,提出VidToMe方法,通过跨帧自注意力令牌合并及分块的局部-全局合并策略,提升时间一致性并降低内存消耗,效果优于现有最优方法。
2023-12-19 cs.CV
SmoothVideo: Smooth Video Synthesis with Noise Constraints on Diffusion Models for One-shot Video Tuning
Zhejiang University(浙江大学);FABU Inc.(FABU公司);Tencent(腾讯)
针对一次性视频调优中视频不连贯问题,提出跨帧噪声约束损失以平滑潜在表示,并引入新评估指标,显著提升生成视频的一致性和平滑度。
2024-02-06 cs.CV
AnchorSync: Global Consistency Optimization for Long Video Editing
MoE Key Lab of Artificial Intelligence, AI Institute Shanghai Jiao Tong University Shanghai China(人工智能联合实验室,人工智能研究院,上海交通大学)
针对长视频编辑中全局一致性与时间连贯性难以兼顾的问题,提出基于扩散的AnchorSync框架,通过解耦锚帧编辑与中间帧插值并结合渐进去噪和多模态引导,实现高质量长视频编辑,性能超越现有方法。
2025-08-20 cs.CV
Unsupervised Coherent Video Cartoonization with Perceptual Motion Consistency
Institute of Computing Technology(计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Huawei Technologies(华为技术有限公司);University of Science and Technology of China(中国科学技术大学)
近年来,像风格转移和神经照片编辑这样的创意内容生成引起了越来越多的关注。其中,真实世界场景的卡通化在娱乐和工业中有着很好的应用。与注重提高生成图像风格效果的图像翻译不同,视频卡通化对时间一致性有额外的要求。在本文中,我们提出了一个空间自适应的语义对齐框架与感知运动一致性相干视频卡通化在无监督的方式。语义对齐模块的设计是为了恢复变形的语义结构所造成的空间信息丢失的编码器-解码器架构。此外,我们设计的时空相关地图作为一个风格独立的,全局感知的感知运动一致性的正则化。该算法通过对照片和卡通图像中的高层次特征进行相似性度量,获取光流中原始像素值以外的全局语义信息。此外,相似性度量从特定领域的风格属性中分离出时间关系,这有助于在不损害卡通图像风格效果的情况下规范时间一致性。定性和定量实验表明,我们的方法能够生成风格和时间高度一致的卡通视频。
2022-04-02 cs.CV
Tune-A-Video: One-Shot Tuning of Image Diffusion Models for Text-to-Video Generation
National University of Singapore(新加坡国立大学);Tencent PCG(腾讯平台与内容事业群)
为了复制文本到图像(T2 I)生成的成功,最近的工作采用大规模视频数据集来训练文本到视频(T2 V)生成器。尽管他们有希望的结果,这样的范例是计算昂贵的。在这项工作中,我们提出了一个新的T2 V生成设置$\unicode{x2014}$单次视频调谐,其中只有一个文本视频对。我们的模型是建立在最先进的T2 I扩散模型上的,这些模型是在大量图像数据上预先训练的。我们提出两个关键意见:1)T2 I模型可以生成表示动词术语的静态图像; 2)扩展T2 I模型以同时生成多个图像,表现出令人惊讶的良好内容一致性。为了进一步学习连续运动,我们引入了Tune-A-Video,它涉及一个定制的时空注意力机制和一个有效的一次性调谐策略。在推理方面,我们采用DDIM反演为采样提供结构指导。大量的定性和数值实验表明,我们的方法在各种应用程序的显着能力。
2023-03-17 cs.CV
StableVideo: Text-driven Consistency-aware Diffusion Video Editing
Microsoft Research Asia(微软亚洲研究院);Zhejiang University(浙江大学)
针对扩散模型编辑视频时对象外观时序不一致的问题,本文提出帧间传播机制并构建文本驱动框架 StableVideo,显著提升了视频编辑的一致性与效果。
2023-08-18 cs.CV
Measuring 3D Spatial Geometric Consistency in Dynamic Video Generation
Tongji University(同济大学);Tsinghua University(清华大学);University of California, Berkeley(加州大学伯克利分校)
本文提出SGC指标,用于评估动态生成视频中的3D空间几何一致性,通过分析多个相机姿态的分歧度来量化几何不一致问题,实验证实其能有效识别现有方法遗漏的关键故障。
2026-07-07 cs.CV
AnyV2V: A Tuning-Free Framework For Any Video-to-Video Editing Tasks
University of Waterloo(滑铁卢大学);Vector Institute(矢量研究所)
针对现有视频编辑模型质量不足、控制受限、依赖文本引导且需微调的问题,提出免调优框架AnyV2V,通过首帧编辑加时序特征注入的图像到视频生成实现多类编辑任务,在人工评估中视觉一致性表现更优。
2024-11-03 cs.AI cs.CV cs.MM
FreePCA: Integrating Consistency Information across Long-short Frames in Training-free Long Video Generation via Principal Component Analysis
MoE Key Laboratory of Brain-inspired Intelligent Perception and Cognition, University of Science and Technology of China(脑启发智能感知与认知联合实验室,中国科学技术大学)
提出免训练长视频生成范式FreePCA,利用主成分分析将全局与局部信息解耦为一致外观和运动强度特征并逐步整合,在保留局部质量的同时增强全局一致性,无需训练即可提升多种视频扩散模型的长视频生成效果。
2025-05-02 cs.CV
World Consistency Score: A Unified Metric for Video Generation Quality
Equal contribution(共同贡献)
本研究提出一种强调生成视频内部世界一致性的新型统一评估指标WCS,整合四个可解释子度量并通过人类偏好数据训练权重,经多基准验证可填补现有视频生成评估指标的空白。
2025-07-31 cs.CV
A Survey on Long-Video Storytelling Generation: Architectures, Consistency, and Cinematic Quality
本文综述了长视频叙事生成领域的研究进展,分析了32篇论文的架构与训练策略,并构建了现有方法的分类法与性能对比表。
2025-07-09 cs.CV
Sora Generates Videos with Stunning Geometrical Consistency
Nankai University(南开大学);ByteDance Inc(字节跳动公司);Wuhan University(武汉大学);Nankai International Advanced Research Institute (Shenzhen Futian)(南开大学国际高等研究院(深圳福田))
本文针对Sora生成视频缺乏物理保真度定量评估指标的问题,提出通过将生成视频重建为3D模型并以几何约束保真度作为代理指标的新基准,验证了Sora视频具有惊人的几何一致性。
2024-02-27 cs.CV
Jointly Harnessing Prior Structures and Temporal Consistency for Sign Language Video Generation
Zhejiang University(浙江大学);National University of Singapore(新加坡国立大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
手语是不同能力的人表达情感的窗口。然而,人们在短时间内学习手语仍然具有挑战性。为了解决这个现实世界的挑战,在这项工作中,我们研究的运动传输系统,它可以将用户的照片转换为特定单词的手语视频。具体地,输出视频的外观内容来自所提供的用户图像,而视频的运动是从指定的教程视频中提取的。我们观察到两个主要的限制,采用国家的最先进的运动转移方法,以签署语言生成:(1)现有的运动转移工程忽略了先验的几何知识的人体。(2)以往的图像动画方法在训练阶段仅以图像对作为输入,不能充分利用视频中的时间信息。针对上述局限性,本文提出了结构感知时间一致性网络(STCNet),用于手语视频生成中对人的先验结构和时间一致性进行联合优化。本文的主要贡献有两点。(1)我们利用细粒度的骨架检测器来提供身体关键点的先验知识。通过这种方式,我们保证了关键点的移动在一个有效的范围内,使模型变得更加可解释和鲁棒。(2)我们引入两个周期一致性损失,即,短期周期丢失和长期周期丢失,这是为了确保所生成的视频的连续性而进行的。我们以端到端的方式优化了两个损耗和关键点检测器网络。
2022-07-08 cs.CV
VideoGuide: Improving Video Diffusion Models without Training Through a Teacher's Guide
Kim Jaechul Graduate School of AI, KAIST(KAIST 金在哲人工智能研究生院)
针对文本到视频生成时序一致性难保障、现有改进方法存在画质下降等权衡问题,该研究提出无需训练的VideoGuide框架,通过推理早期引入引导模型的去噪样本插值,显著提升时序一致性与图像保真度,还可实现先验蒸馏增强文本连贯性。
2024-12-08 cs.AI cs.CV cs.LG
Beyond Consistency: Preserving Temporal Structure in Zero-Shot Video Editing
Anhui University(安徽大学);University of Surrey(萨里大学);University of Warwick(华威大学)
提出一种零样本视频编辑方法,通过自适应分割视频片段、选取锚帧和令牌合并策略,首次显式保留源视频的时间结构,平衡编辑保真度与计算效率。
2026-06-07 cs.CV
Temporal-Consistent Video Restoration with Pre-trained Diffusion Models
University of Minnesota(明尼苏达大学);Amazon.com, Inc.(亚马逊公司)
针对现有基于预训练扩散模型的零样本视频修复存在反向扩散近似误差、时间一致性不足及计算量大的问题,提出将反向过程视为函数、在种子空间参数化视频帧的MAP框架,并结合双层时间一致性策略,在多项VR任务上取得了更优的视觉质量与时间一致性。
2025-03-19 cs.CV
Ouroboros-Diffusion: Exploring Consistent Content Generation in Tuning-free Long Video Diffusion
针对免调优长视频扩散的长程一致性难题,提出Ouroboros-Diffusion框架,通过尾部潜在采样、主体感知跨帧注意力和自循环引导提升一致性,在VBench基准上表现优于现有方法。
2025-01-15 cs.CV
RDPO: Real Data Preference Optimization for Physics Consistency Video Generation
Fudan University(复旦大学);Shopee Inc(Shopee公司)
RDPO提出无需标注的框架,通过从真实视频反向采样构建偏好对并多阶段迭代训练,提升视频生成的物理一致性与动作连贯性。
2025-06-23 cs.CV
Learning Blind Video Temporal Consistency
UC Merced(加州大学默塞德分校);Virginia Tech(弗吉尼亚理工学院);Adobe Research(奥多比研究院);Argo AI;Google Cloud(谷歌云)
将图像处理算法独立地应用于视频的每一帧常常导致不期望的随时间不一致的结果。开发时间上一致的基于视频的扩展,但是,需要领域知识的个别任务,是无法推广到其他应用程序。在本文中,我们提出了一种基于深度递归网络的高效端到端方法,用于在视频中执行时间一致性。我们的方法将原始未处理和每帧处理的视频作为输入,以产生时间上一致的视频。因此,我们的方法是不可知的具体图像处理算法应用于原始视频。我们训练提出的网络,最大限度地减少短期和长期的时间损失,以及感知损失,以达到时间稳定性和感知相似性之间的平衡与处理的帧。在测试时,我们的模型不需要计算光流,从而实现实时速度,即使是高分辨率的视频。我们表明,我们的单一模型可以处理多个和看不见的任务,包括但不限于艺术风格转移,增强,着色,图像到图像的翻译和内在的图像分解。广泛的客观评价和主题研究表明,所提出的方法表现良好,对国家的最先进的方法对各种类型的视频。
2018-08-01 cs.CV
FED-NeRF: Achieve High 3D Consistency and Temporal Coherence for Face Video Editing on Dynamic NeRF
HKUST(香港科技大学);Dartmouth College(达特茅斯学院)
本文提出FED-NeRF,一种基于动态人脸GAN-NeRF的新型人脸视频编辑架构,通过恢复潜在编码和3D人脸几何实现多视角一致性,并利用稳定器保持连续帧表情平滑变化以解决抖动问题,实现时间连贯性。
2024-01-05 cs.CV
SHIFT: Motion Alignment in Video Diffusion Models with Adversarial Hybrid Fine-Tuning
Tsinghua University(清华大学);Ant Group(蚂蚁集团);University of Chinese Academy of Science(中国科学院大学)
针对视频扩散模型微调后运动保真度下降的问题,提出基于像素通量动力学的像素运动奖励和SHIFT框架(平滑混合微调),通过对抗优势改进收敛并缓解奖励黑客,有效解决动态度坍塌。
2026-06-29 cs.CV
DeCo: Decoupled Human-Centered Diffusion Video Editing with Motion Consistency
School of Software Engineering, South China University of Technology(华南理工大学软件学院);Nanyang Technological University(南洋理工大学);Peng Cheng Laboratory(鹏城实验室)
针对以人为中心的扩散视频编辑中人体处理难、一致性差等问题,提出DeCo框架,解耦编辑人体与背景,优化人体几何纹理并协调光照,在长视频等场景效果优于现有方法。
2024-08-14 cs.CV