Re-Attentional Controllable Video Diffusion Editing
Nanjing University of Science and Technology(南京理工大学);Kuaishou Technology(快手科技);City University of Hong Kong(香港城市大学);SeetaCloud(视拓云)
本文提出ReAtCo方法,通过重注意扩散和不变区域引导联合采样,实现无需训练的可控视频扩散编辑,解决物体错位和数量错误问题,提升编辑可控性与性能。
2024-12-16 cs.AI cs.CV
Coupled Diffusion Sampling for Training-Free Multi-View Image Editing
Stanford University(斯坦福大学);University of Maryland, College Park(马里兰大学学院公园分校)
提出一种免训练的耦合扩散采样方法,通过隐式3D正则化约束生成图像符合多视图分布,实现多视图一致的图像编辑,并在三个任务上验证了其有效性和通用性。
2025-10-16 cs.AI cs.CV
Personalized Image Editing in Text-to-Image Diffusion Models via Collaborative Direct Preference Optimization
Virginia Tech(弗吉尼亚理工大学)
本文提出协作直接偏好优化(C-DPO)框架,通过动态偏好图与图神经网络实现用户个性化嵌入,并整合到DPO目标中,使扩散模型的图像编辑更符合个体审美偏好,实验证明其优于基线方法。
2025-11-06 cs.AI cs.CV
OSVE: One Step Video Editing with One Step Diffusion Models
Korea University(韩国大学)
研究针对扩散模型文本引导视频编辑慢的问题,提出OSVE框架。通过训练可学习编码器预测初始噪声,引入UFE技术及滑动窗口策略保持一致性,实现高质量视频编辑,速度比现有方法快约155 - 171倍。
2026-07-23 cs.AI cs.CV
FADE: Frequency-Aware Diffusion Model Factorization for Video Editing
Department of Automation, Tsinghua University(自动化系,清华大学);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院,清华大学)
FADE提出一种无需训练的视频编辑方法,通过频率感知分解预训练视频扩散模型并引入频谱引导调制,在保持时空结构的同时实现高效、时序连贯的视频编辑。
2025-06-06 cs.AI cs.CV
Fuse Your Latents: Video Editing with Multi-source Latent Diffusion Models
Fudan University(复旦大学);National Institute of Informatics(信息学研究所);Tencent(腾讯)
针对文本到视频编辑存在的时间一致性差、结构不佳等问题,提出无需训练的FLDM框架,通过带调度超参数融合图像与视频潜变量,实现两类LDM互补,可作为通用插件提升现成模型的视频编辑质量,效果优于现有最优方法。
2024-10-08 cs.AI cs.CV
Accelerating Diffusion-based Video Editing via Heterogeneous Caching: Beyond Full Computing at Sampled Denoising Timestep
Nanyang Technological University(南洋理工大学);Shanghai Jiao Tong University(上海交通大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出HetCache框架,通过利用扩散基于掩码视频到视频生成中的异构性,减少冗余注意力运算,提升视频编辑效率与质量。
2026-03-25 cs.AI cs.CV
MagDiff: Multi-Alignment Diffusion for High-Fidelity Video Generation and Editing
Fudan University(复旦大学);Zhejiang University(浙江大学)
针对单一扩散模型难兼顾视频生成与编辑、文本驱动扩散模态对齐能力不足的问题,提出含三重对齐机制的MagDiff统一模型,在四个基准上表现优于现有方法。
2024-07-15 cs.AI cs.CV
Dual-Channel Attention Guidance for Training-Free Image Editing Control in Diffusion Transformers
iFLYTEK
本文提出双通道注意力引导方法,通过同时操控键通道和值通道实现无需训练的图像编辑控制,显著提升编辑保真度。
2026-02-25 cs.AI cs.CV
Effective Real Image Editing with Accelerated Iterative Diffusion Inversion
Oppo Mobile Telecommunications Corp.(OPPO移动通信有限公司)
针对现代生成模型在真实图像编辑中反演过程不稳定且计算效率低的问题,提出加速迭代扩散反演方法(AIDI),通过混合引导技术在极低额外开销下显著提升重建精度,实现快速鲁棒的图像编辑。
2023-09-10 cs.AI cs.CV
DiffusionAtlas: High-Fidelity Consistent Diffusion Video Editing
Academia Sinica(中央研究院);National Tsing Hua University(国立清华大学)
提出 DiffusionAtlas 框架,通过在扩散图集上直接编辑并结合图集约束损失与像素级扩散引导,实现高保真且帧间一致的视频对象外观编辑。
2023-12-05 cs.CV
Editing Massive Concepts in Text-to-Image Diffusion Models
The University of Hong Kong(香港大学);Tsinghua University(清华大学);Peking University(北京大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
提出两阶段方法EMCID,通过双重自蒸馏记忆优化和多层闭式模型编辑实现大规模概念编辑,并构建综合基准ICEB,支持编辑多达1,000个概念,为T2I扩散模型的快速调整与部署提供实用方案。
2024-03-20 cs.AI cs.CV cs.LG
PFB-Diff: Progressive Feature Blending Diffusion for Text-driven Image Editing
Shanghai Jiao Tong University(上海交通大学)
本文提出PFB-Diff方法,通过多层级渐进式特征混合和交叉注意力掩码机制,在无需训练的情况下实现高质量的文本驱动图像编辑,有效解决目标/背景替换和属性编辑任务中的伪影问题。
2025-07-21 cs.AI cs.CV cs.MM
Neutral Editing Framework for Diffusion-based Video Editing
Korea Advanced Institute of Science and Technology (KAIST)(韩国高等科学技术研究院(KAIST))
本文提出 NeuEdit 框架,通过“中性化”机制以模型无关方式增强扩散视频编辑流程,仅依赖视频和文本即可实现此前未被探索的人物/对象运动级复杂非刚性编辑。
2023-12-10 cs.CV
ConsistDreamer: 3D-Consistent 2D Diffusion for High-Fidelity Scene Editing
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Meta
本文提出 ConsistDreamer 框架,通过环绕视角输入、3D一致结构化噪声与自监督一致性训练,使2D扩散模型实现高保真3D一致的指令引导场景编辑。
2024-06-13 cs.AI cs.CV cs.LG
Diffusion Video Autoencoders: Toward Temporally Consistent Face Video Editing via Disentangled Video Encoding
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);NAVER AI Lab(NAVER人工智能实验室);AITRICS
受到最近人脸图像编辑方法令人印象深刻的性能的启发,自然提出了一些研究来将这些方法扩展到人脸视频编辑任务。这里的主要挑战之一是编辑帧之间的时间一致性,这仍然是未解决的。为此,我们提出了一种新的人脸视频编辑框架的基础上扩散自动编码器,可以成功地提取分解的功能-第一次作为一个人脸视频编辑模型-从一个给定的视频的身份和运动。这种建模允许我们通过简单地将时间不变特征操纵到所需的方向来编辑视频,以实现一致性。我们模型的另一个独特优势是,由于我们的模型基于扩散模型,因此它可以同时满足重建和编辑功能,并且与现有的基于GAN的方法不同,它对野生人脸视频中的角点情况(例如,遮挡人脸)具有鲁棒性。
2023-03-27 cs.AI cs.CV cs.LG
EffiVED:Efficient Video Editing via Text-instruction Diffusion Models
Alibaba Group(阿里巴巴集团)
本文提出基于扩散模型的高效视频编辑模型EffiVED,通过两种工作流收集数据构建高质量训练集,实现无需逐视频微调的指令引导视频编辑,在保证高质量的同时实现快速执行。
2024-06-05 cs.CV
High-Fidelity Diffusion-based Image Editing
University of Science and Technology of China(中国科学技术大学);ByteDance Research(字节跳动研究院)
针对扩散模型图像编辑中因条件马尔可夫性质导致的误差累积问题,提出引入整流器模块调制权重并采用类去噪分数匹配的训练范式,实现高保真重建与编辑。
2024-01-04 cs.CV
StableVideo: Text-driven Consistency-aware Diffusion Video Editing
Microsoft Research Asia(微软亚洲研究院);Zhejiang University(浙江大学)
针对扩散模型编辑视频时对象外观时序不一致的问题,本文提出帧间传播机制并构建文本驱动框架 StableVideo,显著提升了视频编辑的一致性与效果。
2023-08-18 cs.CV
PRedItOR: Text Guided Image Editing with Diffusion Prior
Adobe Applied Research(奥多比应用研究院)
扩散模型在生成高质量和创造性的文本图像方面表现出了卓越的能力。这种模型的一个有趣的应用是结构保持文本引导的图像编辑。现有的方法依赖于文本条件扩散模型,诸如稳定扩散或Imagen,并且需要文本嵌入的计算密集型优化或用于文本引导的图像编辑的模型权重的微调。我们探索文本引导的图像编辑与混合扩散模型(HDM)架构类似DALLE-2。我们的体系结构包括一个扩散先验模型,生成CLIP图像嵌入条件的文本提示和自定义潜空间扩散模型训练生成的图像条件的CLIP图像嵌入。我们发现,扩散先验模型可以用于在CLIP图像嵌入空间上执行文本引导的概念编辑,而无需任何微调或优化。我们将其与结构保持编辑的图像解码器使用现有的方法,如反向DDIM执行文本引导的图像编辑。我们的方法,PredItOR不需要额外的输入,微调,优化或目标,并显示出与基线相同或更好的结果。我们提供了进一步的分析和理解的扩散先验模型,并相信这开辟了新的可能性,在扩散模型的研究。
2023-03-20 cs.CV
Improving Diffusion-Based Image Editing Faithfulness via Guidance and Scheduling
Korea University(韩国大学)
针对图像编辑中可编辑性与保真度的权权衡问题,提出保真度引导与调度(FGS)方法,通过加强输入信息保留和引入调度策略解决错位,在维持可编辑性的同时显著提升保真度,且兼容多种编辑方法。
2025-06-26 cs.AI cs.CV cs.LG
Instruct 4D-to-4D: Editing 4D Scenes as Pseudo-3D Scenes Using 2D Diffusion
Zhejiang University(浙江大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出 Instruct 4D-to-4D,将4D场景视为伪3D场景,结合增强IP2P、光流传播与深度投影,实现时空一致的高质量指令引导动态场景编辑。
2024-06-13 cs.AI cs.CV cs.LG
Streaming Video Diffusion: Online Video Editing with Diffusion Models
Australian Institute for Machine Learning, The University of Adelaide(阿德莱德大学澳大利亚机器学习研究所);Zhejiang University(浙江大学);Monash University(莫纳什大学)
提出在线视频编辑任务以实现流式帧的时间一致性编辑,并构建SVDiff模型,通过整合空间感知时间递归到Stable Diffusion并采用分段级训练,在512x512分辨率下实现15.2 FPS的实时高质量长视频编辑。
2024-05-30 cs.CV
DiffEdit: Diffusion-based semantic image editing with mask guidance
Meta AI;Sorbonne Université(索邦大学)
图像生成最近取得了巨大的进步,扩散模型允许合成令人信服的图像,用于各种各样的文本提示。在这篇文章中,我们提出了DiffEdit,一种利用文本条件扩散模型进行语义图像编辑任务的方法,其目标是根据文本查询编辑图像。语义图像编辑是图像生成的扩展,具有生成的图像应尽可能与给定输入图像相似的附加约束。当前基于扩散模型的编辑方法通常需要提供遮罩,通过将其视为条件修复任务而使任务变得容易得多。相比之下,我们的主要贡献是能够自动生成一个掩码高亮区域的输入图像,需要进行编辑,通过对比预测的扩散模型条件不同的文本提示。此外,我们依靠潜在的推理来保留感兴趣区域中的内容,并与基于掩码的扩散显示出良好的协同作用。DiffEdit在ImageNet上实现了最先进的编辑性能。此外,我们使用COCO数据集的图像以及基于文本生成的图像,在更具挑战性的设置中评估语义图像编辑。
2022-10-20 cs.CV
Custom-Edit: Text-Guided Image Editing with Customized Diffusion Models
Seoul National University(首尔国立大学);NAVER AI Lab(NAVER人工智能实验室)
本文提出Custom-Edit方法,通过少量参考图像定制扩散模型并结合增强提示进行文本引导编辑,在保持源图像相似性的同时显著提升参考相似性。
2023-05-25 cs.CV
EditCrafter: Tuning-free High-Resolution Image Editing via Pretrained Diffusion Model
NC AI;Medipixel, Inc.(Medipixel公司);EverEx
本文提出EditCrafter,利用预训练文本到图像扩散模型实现无需调优的高分辨率图像编辑,解决了传统方法在处理任意宽高比和高分辨率图像时的局限性。
2026-04-11 cs.CV
Direct Inversion: Boosting Diffusion-based Editing with 3 Lines of Code
The Chinese University of Hong Kong (CUHK)(香港中文大学);International Digital Economy Academy (IDEA)(国际数字经济研究院)
本文提出Direct Inversion技术,通过解耦源和目标扩散分支仅需3行代码提升编辑效果,并发布PIE-Bench基准,在8种编辑方法上实现更优性能与近一个数量级加速。
2023-10-19 cs.CV
DNI: Dilutional Noise Initialization for Diffusion Video Editing
Korea Advanced Institute of Science and Technology(韩国科学技术院)
本文提出稀释噪声初始化(DNI)框架,通过向待编辑区域的潜在噪声添加额外噪声以软化结构刚性,实现扩散视频编辑中的非刚性编辑,如运动变化,实验证明其有效性。
2024-09-19 cs.CV
MoViE: Mobile Diffusion for Video Editing
Qualcomm AI Research(高通人工智能研究)
针对扩散视频编辑模型难以在移动端部署的问题,本研究通过架构优化、多模态无分类器引导蒸馏、对抗蒸馏减采样步等方案,实现移动端12帧/秒的高质量视频编辑。
2024-12-09 cs.CV
h-Edit: Effective and Flexible Diffusion-Based Editing via Doob's h-Transform
本文提出基于Doob的h-变换的扩散图像编辑框架h-Edit,将样本更新分解为重建项和编辑项,实现灵活的免训练复杂编辑,性能优于现有基线。
2025-03-04 cs.CV
DiT4Edit: Diffusion Transformer for Image Editing
Peking University(北京大学);The Hong Kong University of Science and Technology(香港科技大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
提出首个基于扩散Transformer的图像编辑框架DiT4Edit,利用DPM-Solver反演和统一注意力控制,实现高分辨率图像中更高质量、更快速的形状感知编辑。
2024-11-07 cs.CV
InstructRL4Pix: Training Diffusion for Image Editing by Reinforcement Learning
South China University of Technology(华南理工大学)
针对指令图像编辑中复杂场景定位不准的问题,本文提出 InstructRL4Pix,以注意力图距离为奖励并用 PPO 微调扩散模型,实现无监督、准确的自然语言图像编辑。
2024-06-14 cs.CV
PartEdit: Fine-Grained Image Editing using Pre-Trained Diffusion Models
King Abdullah University of Science and Technology (KAUST)(卡斯特国王科学与技术大学)
提出首个基于预训练扩散模型的对象部位细粒度图像编辑方法,通过学习特殊文本令牌生成定位掩码,结合特征融合与自适应阈值策略实现精准编辑,在自建基准上全面超越现有方法。
2025-06-27 cs.CV
Memory-V2V: Memory-Augmented Video-to-Video Diffusion for Consistent Multi-Turn Editing
Adobe Research(Adobe研究实验室);KAIST AI(韩国科学技术院人工智能研究所);Adobe Internship(Adobe实习);Project Lead(项目负责人)
Memory-V2V通过引入外部记忆模块,解决多轮视频编辑中的跨轮一致性问题,提升编辑连贯性并保持视觉质量,优于现有基线模型。
2026-08-27 cs.AI cs.CV cs.LG
Edit2Perceive: Image Editing Diffusion Models Are Strong Dense Perceivers
Peking University(北京大学);Show Lab, National University of Singapore(新加坡国立大学Show实验室)
Edit2Perceive通过统一的扩散框架,利用图像编辑模型实现更高效的密集感知任务,展示了在深度、法线和磨边任务上的最新成果。
2025-11-24 cs.CV
Videoshop: Localized Semantic Video Editing with Noise-Extrapolated Diffusion Inversion
University of Washington(华盛顿大学);Toyota Technological Institute at Chicago(芝加哥丰田技术学院)
本文提出免训练算法 Videoshop,通过噪声外推扩散反演将首帧局部编辑语义一致地传播到全视频,并在两项基准、十项指标上优于六个基线。
2024-10-24 cs.AI cs.CV cs.LG
Streamlining Image Editing with Layered Diffusion Brushes
University of British Columbia(不列颠哥伦比亚大学)
提出无训练的分层扩散画笔(LDB)框架,通过独立参数集和中间潜变量缓存实现快速、非破坏性的交互式图层编辑,在速度和质量上优于现有方法。
2025-10-12 cs.CV
Eta Inversion: Designing an Optimal Eta Function for Diffusion-based Real Image Editing
FuriosaAI(富里奥萨人工智能公司);Ajou University(明知大学)
针对现有扩散反演图像编辑方法难兼顾文本保真度与源图相似度的问题,提出基于DDIM采样方程η分析的自适应扩散反演技术,通过时空依赖η函数灵活控编辑程度,性能超现有方法并立新基准。
2024-07-15 cs.CV
Diffusion Brush: A Latent Diffusion Model-based Editing Tool for AI-generated Images
University of British Columbia(不列颠哥伦比亚大学)
本文提出基于潜在扩散模型的Diffusion Brush工具,通过在反向扩散过程中向目标区域注入新噪声,实现对AI生成图像局部区域的高效精准编辑,同时保持其余部分不变,并通过用户研究验证了其优于现有修复和编辑方法。
2023-10-27 cs.AI cs.CL cs.CV
Contrastive Denoising Score for Text-guided Latent Diffusion Image Editing
KAIST(韩国科学技术院)
本文提出对比去噪分数(CDS),通过在DDS框架中引入CUT损失并利用潜在扩散模型自注意力层特征,实现零样本图像转换与NeRF编辑中的结构对应和内容可控。
2024-04-01 cs.AI cs.CV cs.LG
When Test-Time Guidance Is Enough: Fast Image and Video Editing with Diffusion Guidance
CMAP, Ecole Polytechnique(巴黎综合理工学院CMAP实验室);Institute of Foundation Models(基础模型研究所);MBZUAI(穆罕默德·本·扎耶德人工智能大学);EPITA(法国高等信息技术学院);Sorbonne University(索邦大学);Lagrange Mathematics and Computing Research Center(拉格朗日数学与计算研究中心);EPITA Research Lab(EPITA研究实验室);KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出通过测试时指导实现高效的图像和视频编辑,理论分析并扩展了现有方法,证明测试时指导能与训练时方法媲美甚至超越。
2026-03-30 cs.AI cs.CV cs.LG
LayerDiffusion: Layered Controlled Image Editing with Diffusion Models
Tsinghua University(清华大学)
针对多操作图像编辑中主体与背景一致性难题,提出 LayerDiffusion 分层可控方法,结合分层扩散训练与迭代引导,实现高质量文本引导编辑并优于现有方法。
2023-05-30 cs.CV
Image Editing As Programs with Diffusion Models
National University of Singapore(新加坡国立大学)
本文提出IEAP框架,将复杂图像编辑指令分解为由VLM智能体编程的原子操作序列,基于共享DiT主干和轻量适配器实现,在多种编辑基准上显著超越现有方法。
2025-06-04 cs.CV
Efficient-NeRF2NeRF: Streamlining Text-Driven 3D Editing with Multiview Correspondence-Enhanced Diffusion Models
Apple(苹果公司);University at Buffalo(布法罗大学);UT Austin(得克萨斯大学奥斯汀分校)
提出将对应正则化引入扩散模型,利用多视图一致性加速文本驱动的3D编辑,实现10倍提速和2分钟内完成编辑。
2023-12-26 cs.CV
Self-Attention Decomposition For Training Free Diffusion Editing
ELLIS Institute Finland(芬兰ELLIS研究所);Department of Computer Science, Aalto University, Finland(芬兰奥卢大学计算机科学系)
本文提出了一种基于自注意力权重矩阵特征向量提取的扩散模型编辑方法,无需额外数据或微调,实现高效高质量的图像编辑。
2026-02-12 cs.CV
Training-free Geometric Image Editing on Diffusion Models
Huazhong University of Science and Technology(华中科技大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对现有扩散图像编辑方法处理大尺度复杂几何变换效果不佳的问题,提出解耦式无需训练的FreeFine方法,在自建GeoBench基准上取得优于现有最优方案的图像保真度与编辑精度。
2025-08-01 cs.CV
HairDiffusion: Vivid Multi-Colored Hair Editing via Latent Diffusion
School of Computer Science & Software Engineering, Shenzhen University(深圳大学计算机与软件学院);Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳市人工智能与机器人研究院);National Engineering Laboratory for Big Data System Computing Technology, Shenzhen University(深圳大学国家大数据系统计算技术工程实验室);Guangdong Provincial Key Laboratory of Intelligent Information Processing(广东省智能信息处理重点实验室)
本文提出HairDiffusion,利用LDMs和Multi-stage Hairstyle Blend分离头发颜色与发型控制,结合warping模块与微调CLIP,实现高质量多色头发编辑并保留面部属性。
2024-10-29 cs.CV
Diffusion Models are Geometry Critics: Single Image 3D Editing Using Pre-Trained Diffusion Priors
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院);Tsinghua University(清华大学)
本研究提出一种基于预训练扩散模型的单图像3D编辑技术,通过迭代新视图合成与几何对齐算法,利用扩散模型的外观先验与几何评判功能,实现大视角变换下的高质量3D感知编辑,提升开放域泛化能力。
2024-07-13 cs.CV
DiffUTE: Universal Text Editing Diffusion Model
Ant Group(蚂蚁集团);Nanjing University(南京大学)
提出通用自监督文本编辑扩散模型DiffUTE,通过修改网络结构引入字形和位置信息,并利用网络数据自监督学习,实现了高保真度的野外图像可控文本编辑。
2023-10-18 cs.CV
Diffusion Model-Based Video Editing: A Survey
College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院)
该综述系统梳理了基于扩散模型的视频编辑技术的理论基础、方法分类、新兴应用,通过新基准V2VBench完成对比,并指出未来研究的挑战与方向。
2026-10-07 cs.AI cs.CV cs.LG
MagicProp: Diffusion-based Video Editing via Motion-aware Appearance Propagation
ByteDance Inc.(字节跳动公司)
MagicProp提出两阶段扩散视频编辑框架,先编辑单帧外观,再通过PropDPM自回归传播,兼顾编辑灵活性与时间一致性。
2023-09-02 cs.CV
COVE: Unleashing the Diffusion Feature Correspondence for Consistent Video Editing
Tsinghua University(清华大学);HKUST(香港科技大学)
针对现有零样本视频编辑方法难以保持时间一致性的问题,提出COVE方法,利用扩散特征对应关系结合滑动窗口策略、时间维度token合并,无需额外训练即可实现高质量一致的视频编辑,性能达SOTA。
2024-12-08 cs.CV
The Curious Case of End Token: A Zero-Shot Disentangled Image Editing using CLIP
Virginia Tech(弗吉尼亚理工大学)
本文发现Stable Diffusion等扩散模型中常用的CLIP能以零样本方式实现解耦图像编辑,定性和定量实验表明该方法具竞争力,为图像和视频编辑提供了轻量高效的途径。
2024-06-01 cs.CV
Video Editing via Factorized Diffusion Distillation
Meta AI
本文提出Emu Video Edit (EVE)模型,通过分别训练图像与视频适配器并附加至文生图模型,引入无监督的Factorized Diffusion Distillation过程联合蒸馏知识,在无需监督数据下实现精确单帧编辑与时序一致的视频编辑新SOTA。
2024-03-24 cs.CV