PickStyle: Video-to-Video Style Transfer with Context-Style Adapters
Pickford AI;University of Toronto(多伦多大学);Vector Institute(向量研究所)
PickStyle是一种视频到视频风格迁移框架,通过在预训练视频扩散骨干中插入低秩适配器、构建合成训练片段并提出CS-CFG,实现了优于现有基线的视频风格迁移效果。
2026-08-18 cs.CV
Photorealistic Style Transfer for Videos
真实感风格转移是一种通过使用深度学习和优化技术将颜色从一个参考域转移到另一个域的技术。在这里,我们提出了一种技术,我们使用它来转移风格和颜色从参考图像到视频。
2018-07-01 cs.CV
In-Style: Bridging Text and Uncurated Videos with Style Transfer for Text-Video Retrieval
Goethe University Frankfurt(法兰克福大学);Max-Planck-Institute for Informatics(马克斯·普朗克信息学研究所);University of Bonn(波恩大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
本文提出In-Style方法,在仅使用未配对文本查询与未整理网络视频的新设定下,通过多风格对比训练将文本风格迁移到视频,提升零样本文本-视频检索性能。
2023-09-16 cs.CV
Dream-in-Style: Text-to-3D Generation Using Stylized Score Distillation
Trinity College Dublin(都柏林圣三一学院)
该研究提出Dream-in-Style方法,通过风格化分数蒸馏损失结合预训练文本到图像模型及其修改版,实现输入文本提示和风格参考图像后生成对应内容和风格的3D模型,视觉性能优于现有方法。
2025-02-13 cs.CV cs.GR
StyleMaster: Stylize Your Video with Artistic Generation and Translation
Hong Kong University of Science and Technology(香港科技大学);KuaiShou Technology(快手科技)
针对现有视频风格生成方法风格偏差大、内容泄露、视频迁移效果差的问题,提出StyleMaster方法,通过优化风格提取、引入对比学习和轻量运动适配器,显著提升风格相似度与时序连贯性,性能优于同类方法。
2024-12-10 cs.CV
VISTA: Triplet-Supervised Video Style Transfer with Diffusion Transformers
Show Lab, National University of Singapore(新加坡国立大学Show实验室);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Lovart AI(Lovart人工智能)
本文提出VISTA方法,通过引入大规模三元组数据和基于扩散变换器的框架,解决视频风格迁移中风格、内容和运动的联合建模与解耦问题,实现了高质量的风格迁移效果。
2026-05-17 cs.CV
Video Editing via Factorized Diffusion Distillation
Meta AI
本文提出Emu Video Edit (EVE)模型,通过分别训练图像与视频适配器并附加至文生图模型,引入无监督的Factorized Diffusion Distillation过程联合蒸馏知识,在无需监督数据下实现精确单帧编辑与时序一致的视频编辑新SOTA。
2024-03-24 cs.CV
Real-time Localized Photorealistic Video Style Transfer
Boston University(波士顿大学);Google Research(谷歌研究院);Google(谷歌)
我们提出了一种新的算法,用于将图像的语义上有意义的局部区域的艺术风格转移到目标视频的局部区域,同时保持其照片真实感。局部区域可以通过使用视频分割算法完全自动地从图像中选择,或者从随意的用户指导(例如涂鸦)中选择。我们的方法基于深度神经网络架构,灵感来自于最近在真实感风格转换方面的工作,是实时的【形】,并且可以在任意输入上工作,而无需在不同艺术风格数据集上进行运行时优化。通过使用嘈杂的语义标签增强我们的视频数据集,并联合优化风格,内容,掩码和时间损失,我们的方法可以处理输入中的各种缺陷,并生成时间上连贯的视频,而不会产生视觉伪影。我们在各种风格的图像和目标视频上演示了我们的方法,包括同时将不同风格转移到多个对象上的能力,以及及时在风格之间平滑过渡的能力。
2020-10-20 cs.CV
Learning Long-Term Style-Preserving Blind Video Temporal Consistency
L'Or\'eal Research
当试图独立地将图像训练算法应用于视频中的连续帧时,往往会出现有害的闪烁。最先进的后处理技术,旨在促进时间一致性,生成其他时间伪影,并在视觉上改变视频的风格。我们提出了一个后处理模型,不知道应用于视频的转换(例如,风格转移,使用GANs的图像操作等),以循环神经网络的形式。我们的模型使用乒乓过程及其相应的损失进行训练,最近引入了GAN视频生成,以及一种新颖的风格保留感知损失。前者改善了长期的时间一致性学习,而后者促进了风格的保持。我们在DAVIS和videvo.net数据集上评估了我们的模型,并表明我们的方法提供了关于闪烁去除的最先进的结果,并且比以前的方法更好地保持了视频的整体风格。
2021-03-12 cs.CV
Evolvement Constrained Adversarial Learning for Video Style Transfer
University at Albany, SUNY(纽约州立大学奥尔巴尼分校);JD Finance AI Lab(京东金融人工智能实验室);GE Global Research(通用电气全球研究中心)
视频风格转移对于诸如增强现实、非真实感渲染和交互式游戏之类的应用是有用的组件。许多现有的方法使用光流来保持合成视频的时间平滑性。然而,光流的估计对遮挡和快速运动敏感。因此,在这项工作中,我们引入了一种新的进化同步损失计算的进化,以取代光流。使用这种进化同步损失,我们建立了一个对抗学习框架,称为视频风格传输生成对抗网络(VST-GAN),它改进了MGAN图像风格传输方法,以实现更有效的视频风格传输。我们对我们的方法进行了广泛的实验评估,并显示了对最先进方法的定量和定性改进。
2018-11-06 cs.CV
StyleFaceV: Face Video Generation via Decomposing and Recomposing Pretrained StyleGAN3
Nanyang Technological University(南洋理工大学);The Chinese University of Hong Kong(香港中文大学);SenseTime Research(商汤科技研究院)
真实感生成式人脸视频合成一直是计算机视觉和图形学领域的研究热点。然而,现有的人脸视频生成方法往往会产生低质量的帧与漂移的面部身份和不自然的运动。为了应对这些挑战,我们提出了一个名为StyleFaceV的原则性框架,该框架可以生成具有生动动作的高保真身份保留人脸视频。我们的核心见解是分解外观和姿势信息,并在StyleGAN 3的潜在空间中重新组合它们,以产生稳定和动态的结果。具体来说,StyleGAN3为高保真面部图像生成提供了强大的先验知识,但潜在空间本质上是纠缠的。通过仔细研究其潜在的属性,我们提出了我们的分解和重组设计,允许面部外观和动作的解开组合。此外,一个时间相关的模型是建立在分解的潜在特征,并采样合理的运动序列,能够生成逼真的和时间上连贯的人脸视频。特别是,我们的管道是在静态图像和高质量的视频数据,这是更高的数据效率的联合训练策略进行训练。大量的实验表明,我们的框架实现了国家的最先进的人脸视频生成结果的定性和定量。值得注意的是,即使没有高分辨率的训练视频,StyleFaceV也能够生成逼真的$1024\times1024$面部视频。
2022-08-16 cs.CV
Inversion-Free Video Style Transfer with Trajectory Reset Attention Control and Content-Style Bridging
Nanjing University(南京大学)
本文提出轨迹重置注意力控制TRAC与风格介质概念,构建免调优框架,在降低计算成本的同时实现图像和视频的高质量、内容保持的风格迁移。
2025-03-10 cs.CV
DOLLAR: Few-Step Video Generation via Distillation and Latent Reward Optimization
Princeton University(普林斯顿大学);Adobe Research(Adobe研究)
本文提出结合变分分数蒸馏和一致性蒸馏的方法,实现高质量且多样化的少步视频生成,并通过潜在奖励模型微调提升生成性能,实现高效生成。
2026-05-06 cs.CV
ReCoNet: Real-time Coherent Video Style Transfer Network
The University of Hong Kong(香港大学);Deepwise AI Lab(深睿人工智能实验室)
基于卷积神经网络的图像风格传输模型在应用于视频时通常会出现高时间不一致性。已有的一些视频风格转换模型可以提高时间一致性,但它们不能同时保证快速的处理速度、良好的感知风格质量和高的时间一致性。在本文中,我们提出了一种新的实时的【形】视频风格转移模型,ReCoNet,它可以生成时间上连贯的风格转移视频,同时保持良好的感知风格。一种新的亮度扭曲约束被添加到输出级的时间损失,以捕获连续帧之间的亮度变化,并增加风格化的稳定性下的照明效果。我们还提出了一种新的特征图级的时间损失,以进一步提高可追踪对象的时间一致性。实验结果表明,我们的模型表现出优异的性能,定性和定量。
2018-11-01 cs.CV
DMM: Building a Versatile Image Generation Model via Distillation-Based Model Merging
Nanjing University(南京大学);Alibaba Group(阿里巴巴集团);Shanghai AI Lab(上海人工智能实验室)
针对T2I模型参数冗余和存储成本高的问题,提出基于分数蒸馏的模型合并范式DMM,通过风格提示管道整合多模型知识,实现可控任意风格生成,还重新定义了合并目标与评估协议。
2025-04-16 cs.CV
Artistic style transfer for videos
University of Freiburg(弗莱堡大学)
在过去,以某种艺术风格手动重新绘制图像需要专业的艺术家和很长的时间。一个人做一个视频序列是超出想象的。如今,计算机提供了新的可能性。我们提出了一种方法,将风格从一个图像(例如,绘画)到整个视频序列。我们利用最新的进展,在静态图像中的风格转移,并提出新的初始化和损失函数适用于视频。这使我们能够生成一致和稳定的风格化视频序列,即使在大运动和强遮挡的情况下。我们表明,所提出的方法明显优于简单的基线定性和定量。
2016-10-19 cs.CV
Coherent Online Video Style Transfer
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
训练前馈网络的快速神经风格的图像传输被证明是成功的。然而,逐帧处理视频的幼稚扩展容易产生闪烁结果。我们提出了第一个用于在线视频风格传输的端到端网络,该网络近实时地生成时间上连贯的风格化视频序列。两个关键的想法包括一个有效的网络,通过纳入短期的一致性,并传播短期的一致性,以长期,这确保了在更长的时间内的一致性。我们的网络可以包含不同的图像风格化网络。我们表明,所提出的方法明显优于每帧基线定性和定量。此外,它可以实现与基于优化的视频风格传输在视觉上相当的一致性,但在运行时快三个数量级。
2017-03-28 cs.CV
Two Birds, One Stone: A Unified Framework for Joint Learning of Image and Video Style Transfers
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);University of North Texas(北德克萨斯大学);University of Chinese Academy of Sciences(中国科学院大学)
针对图像和视频风格迁移需分别训练模型的问题,提出统一框架UniST,通过域交互变换器实现联合学习,利用视频时间信息与图像纹理相互促进,并采用轴向多头自注意力提升效率,在两项任务上均优于现有方法。
2023-09-02 cs.CV
AAD-1: Asymmetric Adversarial Distillation for One-Step Autoregressive Video Generation
University of Science and Technology of China(中国科学技术大学)
提出非对称对抗蒸馏框架AAD-1,通过打破生成器与判别器的对称性以及分阶段训练策略,解决一步自回归视频生成中的运动崩溃和训练不稳定问题,实现最先进性能。
2026-06-03 cs.CV
Towards One-step Causal Video Generation via Adversarial Self-Distillation
School of Computer Science, Wuhan University(武汉大学计算机学院);Tencent YouTu Lab(腾讯优图实验室);School of Artificial Intelligence, Wuhan University(武汉大学人工智能学院)
本文提出基于蒸馏的高效因果视频生成框架,通过对抗自蒸馏策略提升生成质量,结合首帧增强策略减少误差传播,实验表明在单步和双步视频生成中优于现有方法。
2026-03-18 cs.CV
Training-Free Video Editing via Optical Flow-Enhanced Score Distillation
本研究提出基于预训练文本到视频模型的分数蒸馏方法,通过迭代优化和光流增强技术,解决无需训练视频编辑中的内容保留与时间连续性问题。
2026-01-04 cs.CV
Artistic style transfer for videos and spherical images
University of Freiburg(弗莱堡大学)
以某种艺术风格手动重新绘制图像需要专业艺术家很长时间。单独为视频序列做这件事是超乎想象的。我们提出了两种计算方法,从一个图像(例如,绘画)的风格转移到整个视频序列。在我们的第一种方法中,我们采用Gatys等人基于能量最小化的原始图像风格转移技术来适应视频。我们引入了新的初始化方法和新的损失函数,即使在大运动和强遮挡的情况下,也能生成一致和稳定的风格化视频序列。我们的第二种方法制定视频风格化作为一个学习问题。我们提出了一个深度网络架构和训练程序,使我们能够以一致和稳定的方式,几乎实时的对任意长度的视频进行风格化。我们表明,所提出的方法明显优于简单的基线定性和定量。最后,我们提出了一种方法,以适应这些方法也360度的图像和视频,因为它们出现与最近的虚拟现实硬件。
2018-08-05 cs.CV
GPD: Guided Progressive Distillation for Fast and High-Quality Video Generation
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
GPD通过引导渐进蒸馏方法,减少视频生成的采样步骤,同时保持高质量输出。
2026-02-02 cs.CV
On-Policy Adversarial Flow Distillation for Autoregressive Video Generation
LIGHTSPEED;University College London(伦敦大学学院)
提出策略对抗流蒸馏(AFD)框架,通过策略内对抗性反馈和正向过程流匹配,实现从异构黑盒教师模型向自回归学生模型的高效蒸馏。
2026-05-25 cs.CV
TeleStyle: Content-Preserving Style Transfer in Images and Videos
TeleAI
TeleStyle通过课程持续学习框架实现图像和视频内容保持的风格迁移,提升风格相似性和内容一致性,达到最佳性能。
2026-01-28 cs.CV
Collaborative Distillation for Ultra-Resolution Universal Style Transfer
Zhejiang University(浙江大学);Notheastern University(东北大学);Adobe Research(奥多比研究院);UC Merced(加州大学默塞德分校);Google Research(谷歌研究院)
通用风格转换方法通常利用来自深度卷积神经网络(CNN)模型(例如,VGG-19)在大量图像集合上进行预训练。尽管其有效性,其应用程序受到很大的模型大小的限制,以处理有限内存的超分辨率图像。在这项工作中,我们提出了一种新的知识蒸馏方法(命名为协同蒸馏)的编码器-解码器为基础的神经风格转移,以减少卷积滤波器。其主要思想是由一个发现,编码器-解码器对构建一个排他性的合作关系,这被认为是一种新的知识风格转移模型的基础。此外,为了克服应用协同蒸馏时的特征大小不匹配,引入线性嵌入损失来驱动学生网络学习教师特征的线性嵌入。大量的实验表明,我们的方法适用于不同的通用风格转移方法(WCT和AdaIN)时,即使模型大小减少了15.5倍的有效性。特别是,在WCT上的压缩模型,我们首次在12 GB GPU上实现了超分辨率(超过4000万像素)的通用风格传输。对基于优化的风格化方案的进一步实验表明了该算法在不同风格化范式下的通用性。我们的代码和训练模型可以在https://github.com/mingsun-tse/collaborative-distillation上找到。
2020-03-24 cs.CV cs.LG eess.IV
Reward Lightning: Fast Video Generation via Homologous Preference Distillation
Tencent Hunyuan(腾讯混元)
研究视频扩散模型中同时进行偏好对齐和蒸馏加速的挑战,提出统一框架Reward Lightning,利用同源原理在共享表示中对齐和加速模型,介绍潜在奖励模型和同源偏好蒸馏,实验证明其有效性。
2026-07-07 cs.CV
PQDAST: Depth-Aware Arbitrary Style Transfer for Games via Perceptual Quality-Guided Distillation
The University of Sheffield(谢菲尔德大学)
针对游戏管线中任意风格迁移的内存与速度瓶颈,提出PQDAST,采用感知质量引导蒸馏与FLIP评估器压缩模型,结合深度和时间感知的合成数据训练,注入渲染管线,在保持风格质量的同时显著提升时间一致性。
2025-02-24 cs.CV eess.IV
Video Self-Distillation for Single-Image Encoders: A Step Toward Physically Plausible Perception
Nota AI GmbH
提出视频自蒸馏单图像编码器,通过当前帧预测下一帧表征注入时空先验,仅用2小时视频预训练即使ADE20K mIoU从35.0升至36.4。
2025-07-25 cs.CV
Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout
HKUST(GZ)(香港科技大学(广州));HKUST(香港科技大学);LIGHTSPEED;UCSD(加利福尼亚大学圣地亚哥分校);CUHK(SZ)(香港中文大学(深圳));NUS(新加坡国立大学)
针对自回归视频扩散蒸馏中的模式坍缩问题,提出双噪声掩码展开策略,通过随机掩码注入干净信号扰动学生自展开,提升多种蒸馏方法的视觉质量。
2026-09-09 cs.CV
DreamStyle: A Unified Framework for Video Stylization
Intelligent Creation Lab, ByteDance(字节跳动智能创作实验室)
DreamStyle通过统一框架支持文本、风格图像和第一帧引导的视频风格化,提升风格一致性和视频质量。
2026-01-06 cs.CV
Third Time's the Charm? Image and Video Editing with StyleGAN3
Hebrew University of Jerusalem(耶路撒冷希伯来大学);Adobe Research(Adobe研究院);Tel-Aviv University(特拉维夫大学)
StyleGAN可以说是最有趣和研究最充分的生成模型之一,在图像生成,反转和操作方面表现出令人印象深刻的性能。在这项工作中,我们探索了最近的StyleGAN 3架构,将其与其前身进行了比较,并研究了其独特的优势以及缺点。特别是,我们证明了虽然StyleGAN 3可以在未对齐的数据上进行训练,但仍然可以使用对齐的数据进行训练,而不会妨碍生成未对齐图像的能力。接下来,我们对StyleGAN 3不同潜在空间的解纠缠的分析表明,常用的W/W+空间比StyleGAN 2的对应空间更纠缠,强调了使用StyleSpace进行细粒度编辑的好处。考虑到图像反转,我们观察到现有的基于编码器的技术在对未对齐的数据进行训练时会遇到困难。因此,我们提出了一种编码方案,只训练对齐的数据,但仍然可以反转未对齐的图像。最后,我们介绍了一种新的视频反转和编辑工作流程,该工作流程利用了微调的StyleGAN 3生成器的功能,以减少纹理粘连并扩大编辑视频的视野。
2022-01-31 cs.CV
GAD: Geometry Attention Distillation for Consistent Video Generation
Tsinghua University(清华大学);Alibaba Group(阿里巴巴集团);BIGAI(北京智源人工智能研究院)
本文针对视频扩散模型跨帧几何与结构保留不足的问题,提出GAD方法,通过迁移几何模型注意力的对应关系提升视频一致性,在Wan2.2 5B上跨帧匹配准确率提升至少30%,无需额外推理模块。
2026-10-14 cs.CV
Joint Alignment and Distillation for Video Generation via Sample-Guided Distribution Matching
Tsinghua University(清华大学);Kuaishou Technology(快手科技);Harbin Institute of Technology (ShenZhen)(哈尔滨工业大学(深圳));Beijing University of Posts and Telecommunications(北京邮电大学)
该研究针对视频生成模型RL方法计算开销大、易致模型崩溃的问题,提出基于分布匹配的DM-Align单阶段框架,协同蒸馏与偏好引导梯度,提升生成质量与偏好对齐效果。
2026-09-07 cs.CV
Data-Forcing Distillation: Restoring Diversity and Fidelity in Few-Step Video Generation
University of Michigan(密歇根大学);NVIDIA(英伟达);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对分布匹配蒸馏(DMD)在少步视频生成中出现的模式坍塌和过饱和问题,提出数据强制蒸馏(DFD)框架,通过教师评分差异引导学生接近真实数据分布,仅需一行代码修改即可恢复多样性和保真度。
2026-06-24 cs.CV
LiveTalk: Real-Time Multimodal Interactive Video Diffusion via Improved On-Policy Distillation
SII SJTU GAIR
本文提出LiveTalk系统,通过改进的在线策略蒸馏实现实时多模态交互视频生成,显著提升效率和质量。
2025-12-29 cs.CV
Long-Horizon Streaming Video Generation via Hybrid Attention with Decoupled Distillation
The Hong Kong Polytechnic University(香港理工大学);ByteDance(字节跳动);City University of Hong Kong(香港城市大学)
本文提出混合强制方法,通过混合注意力设计联合优化时序信息保留与计算效率,采用轻量线性时序注意力和块稀疏注意力,实现高效稳定流式视频生成,实测在单块H100 GPU上达到29.5 FPS的实时832x480视频生成
2026-04-28 cs.CV
StyleHEAT: One-Shot High-Resolution Editable Talking Face Generation via Pre-trained StyleGAN
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Tencent AI Lab(腾讯人工智能实验室);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
单镜头说话人脸生成的目标是从任意的人像图像合成高质量的说话人脸视频,由视频或音频片段驱动。一个具有挑战性的质量因素是输出视频的分辨率:更高的分辨率传达更多的细节。在这项工作中,我们研究了预训练的StyleGAN的潜在特征空间,并发现了一些优秀的空间变换特性。根据观察结果,我们探索了使用预训练的StyleGAN突破训练数据集分辨率限制的可能性。我们提出了一种基于预训练的StyleGAN的新型统一框架,该框架实现了一组强大的功能,即,高分辨率视频生成,通过驱动视频或音频进行分离控制,以及灵活的面部编辑。我们的框架首次将合成的说话人脸的分辨率提高到1024*1024,即使训练数据集的分辨率较低。我们设计了一个基于视频的运动生成模块和一个基于音频的运动生成模块,它们可以单独或联合插入到框架中来驱动视频生成。预测的运动被用来转换StyleGAN的视觉动画的潜在特征。为了补偿变换失真,我们提出了一个校准网络,以及一个域的损失,以细化功能。此外,我们的框架允许两种类型的面部编辑,即,通过GAN反演进行全局编辑,并基于3D变形模型进行直观编辑。综合实验表明,优越的视频质量,灵活的可控性和可编辑性超过国家的最先进的方法。
2022-03-17 cs.CV
MoStGAN-V: Video Generation with Temporal Motion Styles
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文提出 MoStGAN-V,通过引入时间依赖的运动风格和 MoStAtt 运动风格注意力调制机制,解决了视频生成中时间一致性和运动多样性的问题,在四个基准上达到 SOTA。
2023-04-05 cs.CV
Comixify: Transform video into a comics
Warsaw University of Technology(华沙理工大学)
在本文中,我们提出了一个解决方案,将视频转换为漫画。我们使用基于生成对抗网络(GANs)的神经风格算法来完成这项任务。最近在神经风格转移领域的几项研究表明,以另一幅图像的风格制作一幅图像是可行的。在本文中,我们在这些工作的基础上,通过视频混合的工作应用程序扩展了现有的一组风格转换用例。为此,我们训练了一个端到端的解决方案,该解决方案将输入视频转换为两个阶段的漫画。在第一阶段,我们提出了一种最先进的关键帧提取算法,该算法从视频中选择帧的子集,以提供最全面的视频上下文,并使用图像美学估计引擎过滤这些帧。在第二阶段,选定的关键帧的风格被转换成漫画。为了提供最美观的结果,我们选择了最先进的风格传输解决方案,并在此基础上实现了我们自己的ComixGAN框架。我们工作的最后一个贡献是一个基于Web的视频comixification的工作应用程序,可在http://comixify.ii.pw.edu.pl上获得。
2018-12-09 cs.CV
Audio-driven High-resolution Seamless Talking Head Video Editing via StyleGAN
School of Film, Xiamen University(厦门大学电影学院);Xiamen Unisound Intelligence Technology Co.,Ltd.(厦门云知声智能科技股份有限公司)
针对现有音频驱动说话人头部视频编辑方法视觉效果差的问题,提出结合音频到面部关键点模块与基于StyleGAN的关键点编辑模块的方法,可生成高视觉质量的高分辨率无缝情绪编辑视频。
2024-07-08 cs.CV
DreamMotion: Space-Time Self-Similar Score Distillation for Zero-Shot Video Editing
Kim Jaechul Graduate School of AI, KAIST(KAIST金在哲人工智能研究生院);Dept. of Bio and Brain Engineering, KAIST(KAIST生物与脑工程系)
针对文本驱动扩散视频编辑的真实运动构建及结构运动偏差问题,提出时空自相似分数蒸馏方法,模型无关且适配两类扩散框架,保结构运动的同时改外观,性能优于主流方法。
2024-07-15 cs.AI cs.CV
ToonifyGB: StyleGAN-based Gaussian Blendshapes for 3D Stylized Head Avatars
Graduate Institute of Networking and Multimedia(网络与多媒体研究生院)
ToonifyGB通过改进的StyleGAN生成风格化视频并结合高斯混合形状,实现高效渲染多样化风格化的3D头身人偶。
2026-01-23 cs.CV
One-Shot Face Video Re-enactment using Hybrid Latent Spaces of StyleGAN2
University of Maryland(马里兰大学)
虽然最近的研究已经在StyleGAN的高保真肖像生成的帮助下逐步克服了单次面部视频再现的低分辨率约束,但这些方法依赖于以下中的至少一个:显式2D/3D先验、基于光流的变形作为运动描述符、现成的编码器等,这限制了它们的性能(例如,不一致的预测、不能捕捉精细的面部细节和附件、差的概括、伪像)。我们提出了一个端到端的框架,同时支持面部属性编辑,面部运动和变形,以及面部身份控制视频生成。它采用混合潜在空间,将给定帧编码为一对潜在:身份潜在$\mathcal{W}_{ID}$和面部变形潜在$\mathcal{S}_F$,它们分别位于StyleGAN 2的$W+$和$SS$空间中。因此,结合了$W+$令人印象深刻的可编辑性-失真权衡和$SS$的高解缠结特性。这些混合潜伏期采用StyleGAN 2生成器在$1024^2$上实现高保真度面部视频重演。此外,该模型支持生成具有其他基于潜在的语义编辑(例如,胡子、年龄、化妆等)。对国家的最先进的方法进行定性和定量分析表明所提出的方法的优越性。
2023-02-15 cs.CV
LocalStyleFool: Regional Video Style Transfer Attack Using Segment Anything Model
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Shandong University(山东大学);CSIRO’s Data61(联邦科学与工业研究组织数据61部);Ping An Technology(平安科技);Shenzhen Institute of Information Technology(深圳信息职业技术学院)
提出 LocalStyleFool,利用 SAM 进行区域分割与跟踪,将基于风格迁移的扰动叠加到选定区域,提升了对抗攻击的自然性与高分辨率下的可扩展性,同时保持欺骗率和查询效率。
2024-03-27 cs.CV
Streaming Autoregressive Video Generation via Diagonal Distillation
South China University of Technology(南方科技大学);Westlake University(西湖大学);Johns Hopkins University(约翰霍普金斯大学);University of California, Merced(加州大学默塞德分校);The Chinese University of Hong Kong(香港中文大学)
本文提出对角蒸馏方法,通过不对称生成策略和隐式光学流建模,在减少计算步骤的同时提升视频生成的运动质量和效率。
2026-03-11 cs.CV
Real Face Video Animation Platform
Harbin Institute of Technology(哈尔滨工业大学);Li Auto(理想汽车);Space AI(星纪元智能)
针对现有模型生成夸张动漫风格人脸表现力不足的问题,提出基于Gradio的真实人脸视频动画平台,支持多模型实时将真实人脸转换为动漫风格,并利用多模型处理HDTF数据集构建了动漫人脸视频数据集。
2024-07-12 cs.CV
An Overview of Color Transfer and Style Transfer for Images and Videos
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部)
图像或视频外观特征(例如,颜色、纹理、色调、亮度等)反映了一个人对图像或视频的视觉感知和直接印象。给定源图像(视频)和目标图像(视频),图像(视频)颜色转移技术旨在处理源图像或视频的颜色(注意,源图像或视频在一些文献中也被称为参考图像或视频),以使其看起来像目标图像或视频的颜色,即,将目标图像或视频的外观转换为源图像或视频的外观,从而可以改变人们对源图像或视频的感知。作为颜色转移的扩展,风格转移是指通过风格转移模型,利用风格样本或图像集以艺术家的风格渲染目标图像或视频的内容。作为一个新兴的研究领域,风格迁移的研究引起了大量研究者的关注。经过几十年的发展,它已经成为一个高度跨学科的研究与多种艺术表现风格可以实现。本文概述了过去几年来色彩转移和风格转移的方法。
2022-07-19 cs.CV cs.GR
NLUT: Neural-based 3D Lookup Tables for Video Photorealistic Style Transfer
Sobey Digital Technology Co., Ltd(索贝数码科技股份有限公司);Peng Cheng Laboratory(鹏城实验室)
视频真实感风格转换是生成具有与风格图像相似的真实感风格同时保持时间一致性的视频所期望的。然而,现有的方法通过逐帧进行真实感风格转换来获得风格化的视频序列,这是低效的,并且不能保证风格化视频的时间一致性。为了解决这个问题,我们使用基于神经网络的3D视频传输表(LUT)的逼真的视频传输,实现效率和效果之间的平衡。我们首先训练一个神经网络,用于在大规模数据集上生成真实感风格化的3D LUT;然后,当对特定视频进行真实感风格转换时,我们选择视频中的关键帧和风格图像作为数据源,并对神经网络进行微调;最后,我们查询由微调的神经网络生成的3D LUT以获得视频中的颜色,从而产生超快的照片级真实感风格转换,即使处理8 K视频也需要不到2毫秒每帧。实验结果表明,该方法不仅实现了任意风格图像的真实感风格转换,而且在视觉质量和一致性方面优于现有方法。项目页面:https://semchan.github.io/NLUT_Project。
2023-03-17 cs.CV eess.IV
StyleCrafter: Enhancing Stylized Text-to-Video Generation with Style Adapter
Tsinghua University(清华大学);Tencent AI Lab(腾讯AI实验室);The Chinese University of Hong Kong(香港中文大学)
针对文本生成视频模型风格表达难、保真度低的问题,提出StyleCrafter方法,通过风格适配器结合图像预训练与微调迁移,实现参考图像引导的高质量风格化视频生成,性能优于现有方法。
2024-09-12 cs.AI cs.CV
AnimateLCM: Computation-Efficient Personalized Style Video Generation without Personalized Video Data
Avolution AI;SenseTime Research(商汤科技研究院)
本文提出AnimateLCM方法,通过双层解耦学习策略,在无需个性化视频数据的情况下,将视频扩散模型的生成时间从25秒降至约1秒,同时保持性能并提升训练效率。
2024-10-16 cs.CV cs.LG
Style-A-Video: Agile Diffusion for Arbitrary Text-based Video Style Transfer
UCAS(中国科学院大学);Institute of Automation, CAS(中国科学院自动化研究所)
本文提出Style-A-Video,一种零样本视频风格化方法,利用生成式预训练Transformer和图像潜扩散模型,通过改进引导条件、采样优化和时间一致性模块,实现文本控制的视频风格迁移,在保持内容的同时降低资源消耗。
2023-05-09 cs.CV cs.MM
GVD: Guiding Video Diffusion Model for Scalable Video Distillation
Center for Research in Computer Vision, University of Central Florida(计算机视觉研究中心,中央佛罗里达大学);Cisco Research(思科研究)
针对大型视频数据集计算存储成本高的问题,提出首个基于扩散的视频蒸馏方法GVD,联合蒸馏时空特征生成高保真多样视频,在多个基准数据集上以极少帧数达到SOTA性能,还可低成本支持更高分辨率与IPC。
2025-07-30 cs.AI cs.CV
Adaptive Video Distillation: Mitigating Oversaturation and Temporal Collapse in Few-Step Generation
Peking University(北京大学);Kuaishou Technology(快手科技)
本文提出针对视频扩散模型的自适应蒸馏框架,通过动态回归损失、时间正则化损失和推理时帧插值策略,提升少步视频生成的稳定性和感知真实性。
2026-03-23 cs.AI cs.CV