Noise Conditional Variational Score Distillation
Department of Electronic Engineering, Shanghai Jiao Tong University, Shanghai, China(上海交通大学电子工程系);Department of Computer Science(计算机科学系);Engineering, Shanghai Jiao Tong University, Shanghai, China(工程系,上海交通大学)
本研究提出噪声条件变分分数蒸馏方法,利用无条件分数函数刻画去噪后验分数的特性,将预训练扩散模型蒸馏为兼具快速生成与迭代细化优势的生成式去噪器,在图像生成和逆问题任务上表现优异。
2025-06-11 cs.CV
ModeDreamer: Mode Guiding Score Distillation for Text-to-3D Generation using Reference Image Prompts
VinAI Research(VinAI研究院);Trinity College Dublin(都柏林大学圣三一学院)
提出名为ISD的图像提示分数蒸馏损失,利用IP-Adapter引导文本到3D优化至特定模式并降低分数估计方差,解决了现有SDS方法的过度平滑和低质量问题,显著提升了输出质量与优化速度。
2025-03-03 cs.CV
Acc3D: Accelerating Single Image to 3D Diffusion Models via Edge Consistency Guided Score Distillation
City University of Hong Kong(香港城市大学);Saint Francis University(圣弗朗西斯大学)
针对单图像3D生成扩散模型加速难题,提出Acc3D方法,通过边缘一致性引导分数蒸馏增强预训练模型,结合对抗提升生成质量,实现20倍以上效率提升且质量更优。
2025-03-20 cs.CV
RL Dreams: Policy Gradient Optimization for Score Distillation based 3D Generation
IIITD(印度德里英迪拉·甘地信息技术学院);Purdue University(普渡大学)
本文提出DDPO3D,将DDPO策略梯度与美学评分引入基于SDS的文本到3D生成,在DreamGaussian等方法上提升渲染质量并支持多种奖励函数。
2023-12-08 cs.CV
PaintHuman: Towards High-fidelity Text-to-3D Human Texturing via Denoised Score Distillation
University of Sydney(悉尼大学);Shanghai AI Laboratory(上海人工智能实验室);Nanyang Technological University(南洋理工大学)
PaintHuman提出去噪分数蒸馏(DSD)和深度图几何引导,解决SDS梯度不准确问题,实现高保真文本到三维人体纹理生成。
2023-10-14 cs.CV
Preference Score Distillation: Leveraging 2D Rewards to Align Text-to-3D Generation with Human Preference
Fudan University(复旦大学)
本文提出偏好分数蒸馏方法,利用2D奖励模型实现文本到3D生成的人类偏好对齐,无需3D训练数据,提升生成质量与扩展性。
2026-03-02 cs.CV
SwiftBrush: One-Step Text-to-Image Diffusion Model with Variational Score Distillation
VinAI Research(VinAI研究院)
针对文本到图像扩散模型采样慢且现有蒸馏方法需大量训练图像的问题,提出无图像蒸馏方案SwiftBrush,通过复用文本到3D合成的损失函数,将预训练多步模型蒸馏为单步生成网络,在COCO-30K上达到FID 16.67、CLIP 0.29,性能超越现有蒸馏技术。
2024-11-16 cs.CV
Score Distillation Sampling with Learned Manifold Corrective
Google Research(谷歌研究院)
本文分析了分数蒸馏采样损失中导致噪声梯度的固有问题,提出训练浅层网络模拟扩散模型的频率偏置以校正损失,并通过图像合成、编辑和文本到三维等实验验证了其有效性。
2024-07-04 cs.CV
A Decomposable Probe for Few-Step Diffusion Models: Prompt, Latent, and Score Selectivity across Backbone Families and Distillation Paradigms
Independent Researcher(独立研究者)
研究少步蒸馏扩散模型质量差距,用可分解探测器沿三层在三种模式六种强度下注入扰动,报告选择性比率。结果表明不同层读取不同因素,潜在层是整流流主干的近二元探测器。
2026-07-07 cs.CV
AnimatableDreamer: Text-Guided Non-rigid 3D Model Generation and Reconstruction with Canonical Score Distillation
Tongji University(同济大学);Tsinghua University(清华大学);ShengShu(商汤科技(注:此处为机构音译,原文为ShengShu));Xi’an Research Institute of High-Tech(西安高技术研究所);Fudan University(复旦大学);Zhejiang University(浙江大学);Didi(滴滴出行)
本文提出AnimatableDreamer文本到4D生成框架,通过规范得分蒸馏(CSD)从单目视频骨架生成非刚性可动画3D模型,并提升单目非刚性重建保真度。
2024-03-28 cs.CV
DreamMotion: Space-Time Self-Similar Score Distillation for Zero-Shot Video Editing
Kim Jaechul Graduate School of AI, KAIST(KAIST金在哲人工智能研究生院);Dept. of Bio and Brain Engineering, KAIST(KAIST生物与脑工程系)
针对文本驱动扩散视频编辑的真实运动构建及结构运动偏差问题,提出时空自相似分数蒸馏方法,模型无关且适配两类扩散框架,保结构运动的同时改外观,性能优于主流方法。
2024-07-15 cs.AI cs.CV
Distribution Matching Distillation without Fake Score Network
Department of Computer Science and Engineering, Seoul National University(首尔国立大学计算机科学与工程系);Department of Computer Science and Engineering, Sogang University(成均馆大学计算机科学与工程系)
本文提出无需假评分网络的分布匹配蒸馏(FSF-DMD),通过流图生成器自身诱导的伪速度替代传统假评分网络,实现了分布级校正,并在ImageNet-1K数据集上验证了其有效性。
2026-11-06 cs.CV
SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation
Beihang University(北京航空航天大学);SenseTime Research(商汤科技研究院);Hong Kong University of Science and Technology(香港科技大学)
针对分布匹配蒸馏在少步视频扩散中训练昂贵且运动动态保守的问题,提出得分梯度匹配蒸馏(SGMD),通过直接优化假得分朝向教师并使用教师停止梯度Fisher作为稳定目标,实现约3倍训练加速并显著提升运动动态。
2026-07-23 cs.CV cs.LG
InfiniDreamer: Arbitrarily Long Human Motion Generation via Segment Score Distillation
State Key Laboratory of Brain-Machine Intelligence(脑机智能国家重点实验室);ReLER Lab, CCAI, Zhejiang University(认知智能研究院、中国人工智能学会、浙江大学)
InfiniDreamer提出分段分数蒸馏方法,利用短片段运动先验生成任意长度连贯人体运动,解决长序列训练数据缺乏问题。
2025-10-24 cs.CV
Phased DMD: Few-step Distribution Matching Distillation via Score Matching within Subintervals
SenseTime Research(商汤科技研究院);Beihang University(北航大学)
本文提出Phased DMD,一种多步蒸馏框架,结合分步蒸馏与专家混合(MoE),提升模型容量并减少学习难度,通过分步分布匹配和子区间内分数匹配改进生成多样性与视觉保真度。
2026-03-25 cs.CV
EG4D: Explicit Generation of 4D Object without Score Distillation
USTC(中国科学技术大学);City University of Hong Kong(香港城市大学);Cornell University(康奈尔大学)
针对现有4D生成依赖分数蒸馏导致过饱和和Janus问题,本文提出DG4D多阶段框架,通过显式生成多视角视频并利用注意力注入、高斯泼溅重建和扩散先验细化,无需分数蒸馏即可生成高质量一致的4D资产。
2024-05-28 cs.CV
Semantic Score Distillation Sampling for Compositional Text-to-3D Generation
Peking University(北京大学);University of Oxford(牛津大学)
针对复杂组合文本到3D生成缺乏细粒度控制的问题,提出SemanticSDS方法,通过引入跨视图一致的语义嵌入生成语义图以指导特定区域的SDS过程,实现了高质量复杂3D内容生成。
2024-10-11 cs.CV
Training-Free Video Editing via Optical Flow-Enhanced Score Distillation
本研究提出基于预训练文本到视频模型的分数蒸馏方法,通过迭代优化和光流增强技术,解决无需训练视频编辑中的内容保留与时间连续性问题。
2026-01-04 cs.CV
Adversarial Distribution Matching for Diffusion Distillation Towards Efficient Image and Video Synthesis
Sun Yat-Sen University(中山大学);ByteDance Seed Vision(字节跳动种子视觉);Guangdong Provincial Key Laboratory of Information Security Technology(广东省信息安全技术重点实验室);Key Laboratory of Machine Intelligence and Advanced Computing, Ministry of Education, China(教育部机器智能与高级计算重点实验室);Pazhou Lab (HuangPu), Guangzhou, China(琶洲实验室(黄埔),广州,中国)
针对 DMD 因逆 KL 散度导致的模式崩溃问题,本文提出 ADM 对抗分布匹配及 DMDX 流程,在图像与视频生成模型上实现更高效的单步和多步蒸馏。
2025-07-24 cs.CV
Ground-A-Score: Scaling Up the Score Distillation for Multi-Attribute Editing
Kim Jaechul Graduate School of AI, KAIST(KAIST金在哲人工智能研究生院)
针对文本到图像扩散模型在复杂提示下易遗漏请求的问题,提出Ground-A-Score方法,通过在分数蒸馏中引入定位、新惩罚系数和对比损失精确定位编辑区域并保留源图像完整性,实现高质量的多属性图像编辑。
2024-03-20 cs.CV cs.LG
Dream-in-Style: Text-to-3D Generation Using Stylized Score Distillation
Trinity College Dublin(都柏林圣三一学院)
该研究提出Dream-in-Style方法,通过风格化分数蒸馏损失结合预训练文本到图像模型及其修改版,实现输入文本提示和风格参考图像后生成对应内容和风格的3D模型,视觉性能优于现有方法。
2025-02-13 cs.CV cs.GR
RL-Native Distillation: Exploiting Scored Trajectories for Few-Step Image Generation
Shanghai Jiao Tong University(上海交通大学);Taobao & Tmall group of Alibaba(阿里巴巴淘宝天猫集团)
该研究提出REST框架,将RL与蒸馏联合训练,通过AMD优化,实现少步无CFG图像生成,性能优于40步RL教师,成本低、迭代少。
2026-09-29 cs.AI cs.CV
DreamSampler: Unifying Diffusion Sampling and Score Distillation for Image Manipulation
KAIST(韩国科学技术院);Kim Jae Chul AI graduate school, KAIST(金在哲人工智能研究生院(韩国科学技术院))
本文提出DreamSampler框架,通过正则化潜在优化将逆向扩散采样与分数蒸馏无缝集成,解决现有方法需调整架构或易模式崩溃的问题,实现图像编辑与重建。
2024-09-23 cs.AI cs.CV cs.LG
Mean Flow Distillation: Robust and Stable Distillation for Flow Matching Models
National University of Singapore(新加坡国立大学);University of Science and Technology of China(中国科学技术大学)
提出平均流蒸馏(MFD)框架,通过时间低通滤波抑制优化噪声并保证轨迹一致性,实现流匹配模型的高保真单步生成。
2026-06-09 cs.CV
Text-to-3D with Classifier Score Distillation
The University of Hong Kong(香港大学);VAST;Tsinghua University(清华大学)
本文提出分类器分数蒸馏(CSD),发现仅凭无分类器引导即可实现有效的文本到三维生成,并在形状生成、纹理合成和形状编辑等任务上取得优于现有方法的性能。
2023-10-31 cs.AI cs.CV cs.GR
Harnessing the Power of Training-Free Techniques in Text-to-2D Generation for Text-to-3D Generation via Score Distillation Sampling
Pohang University of Science and Technology (POSTECH)(坡山科学技术大学)
本文通过文本到3D生成应用,研究训练无关技术(CFG和FreeU)对分数蒸馏采样的影响,发现尺度权衡并提出动态缩放策略,以平衡纹理细节与表面平滑度并减少几何缺陷。
2025-05-26 cs.CV
Hybrid Fourier Score Distillation for Efficient One Image to 3D Object Generation
School of Electronic and Computer Engineering, Peking University(北京大学电子与计算机工程学院);PengCheng Laboratory(鹏城实验室)
针对单图像到3D生成的欠约束问题,提出混合傅里叶分数蒸馏方法hy-FSD,融合两类扩散模型先验,开发出Fourier123流水线,实现一分钟内高质量快速3D生成。
2024-10-08 cs.CV
4D-fy: Text-to-4D Generation Using Hybrid Score Distillation Sampling
University of Toronto(多伦多大学);Vector Institute(矢量研究所);KAUST(阿卜杜拉国王科技大学);Snap Inc.(Snap公司);Stanford University(斯坦福大学);University of Michigan(密歇根大学);SFU(西蒙菲莎大学);Google(谷歌公司)
针对文本到4D生成中外观、3D结构与运动的三方权衡,提出混合分数蒸馏采样(hybrid SDS),通过交替优化融合多个预训练扩散模型的监督信号,实现高保真4D场景生成。
2024-05-26 cs.CV
Efficient Text-Guided 3D-Aware Portrait Generation with Score Distillation Sampling on Distribution
Tsinghua University(清华大学);Baidu Inc.(百度公司)
针对文本到3D方法需逐提示优化且成本高的问题,提出DreamPortrait,通过分布级分数蒸馏、分层条件适配器、GAN正则化和3D感知门控交叉注意力,实现单次前向的高一致性3D感知人像生成。
2023-06-03 cs.CV
Target-Balanced Score Distillation
针对现有得分蒸馏采样方法在3D生成中存在的纹理优化与形状保持的权衡问题,提出目标平衡得分蒸馏方法TBSD,通过多目标优化与自适应策略实现了兼具高保真纹理和精确几何形状的3D资产生成,性能超越现有最优方法。
2025-11-12 cs.CV eess.IV
Lasagna: Layered Score Distillation for Disentangled Object Relighting
Adobe(奥多比)
本文提出 Lasagna 方法,通过分层得分蒸馏从微调扩散模型中学习光照先验,并构建合成数据集 ReLiT,实现保持图像其他方面一致的文本引导物体重光照,在真实图像上优于现有方法。
2023-11-30 cs.CV
Score identity Distillation: Exponentially Fast Distillation of Pretrained Diffusion Models for One-Step Generation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Google(谷歌);The University of Florida(佛罗里达大学)
本文提出分数恒等式蒸馏(SiD),一种无数据方法,通过三个分数相关恒等式构建损失机制,利用生成器自身合成图像训练,实现预训练扩散模型向单步生成器的指数级快速蒸馏,FID接近或超过教师模型,并在四个基准数据集上超越现有蒸馏方法。
2024-05-24 cs.AI cs.CV cs.LG
Score Distillation of Flow Matching Models
Apple(苹果公司)
本文提出了一种适用于文本到图像流匹配模型的分数蒸馏方法,通过统一高斯扩散和流匹配模型,实现了高效的生成加速。
2025-12-03 cs.AI cs.CV cs.LG
Text-to-3D Generation using Jensen-Shannon Score Distillation
Trinity College Dublin(都柏林圣三一学院)
本文提出基于Jensen-Shannon散度的有界分数蒸馏目标,通过少数采样算法实现稳定优化,缓解模式寻求问题,在T3Bench上生成高质量且多样化的3D资产。
2025-08-21 cs.AI cs.CV
PlacidDreamer: Advancing Harmony in Text-to-3D Generation
Tsinghua University(清华大学);Kuaishou Technology(快手科技)
PlacidDreamer通过统一多视图扩散模型和平衡分数蒸馏算法,解决文本到3D生成中的方向冲突与过饱和问题,实现高质量3D资产生成。
2024-07-19 cs.CV
WaDi: Weight Direction-aware Distillation for One-step Image Synthesis
WaDi通过LoRaD方法实现一步扩散模型蒸馏,以更高效的方式生成图像,同时保持高质量输出。
2026-03-09 cs.CV
Diffusion Distillation With Direct Preference Optimization For Efficient 3D LiDAR Scene Completion
Zhejiang University(浙江大学);Peking University(北京大学);Zhejiang Green Zhixing Technology co., ltd(浙江绿智行科技有限公司)
针对扩散模型在3D LiDAR场景补全中采样慢的问题,提出Distillation-DPO框架,通过生成不同初始噪声的补全场景、以评估指标构建偏好样本对并优化学生模型,实现补全速度超5倍提升且性能更优,为偏好对齐蒸馏提供新方法。
2025-04-16 cs.CV
LUSD: Localized Update Score Distillation for Text-Guided Image Editing
VISTEC(泰国先进科学技术研究所);Siam Commercial Bank(暹罗商业银行);Faculty of Medicine Siriraj Hospital(诗里拉吉医学院附属医院);Pixiv(Pixiv公司)
本文提出LUSD方法,通过基于注意力的空间正则化和梯度过滤-归一化解决文本引导图像编辑中分数蒸馏梯度不稳定问题,在提示保真度和背景保留上优于现有技术。
2025-07-02 cs.CV cs.GR cs.LG
Score Forgetting Distillation: A Swift, Data-Free Method for Machine Unlearning in Diffusion Models
The University of Texas at Austin(得克萨斯大学奥斯汀分校)
本文提出 Score Forgetting Distillation (SFD) 方法,通过将不安全概念的条件分数与安全概念对齐,实现免数据的扩散模型机器遗忘,在加速遗忘不良信息的同时保留正常生成能力并提升生成速度。
2025-03-02 cs.CV cs.LG
ProlificDreamer: High-Fidelity and Diverse Text-to-3D Generation with Variational Score Distillation
Tsinghua-Bosch Joint ML Center(清华-博世联合机器学习中心);ShengShu;Pazhou Laboratory (Huangpu)(琶洲实验室(黄埔));Beijing Key Laboratory of Big Data Management and Analysis Methods(大数据管理与分析方法北京市重点实验室)
本文提出变分分数蒸馏(VSD)框架,将3D参数建模为随机变量,解决了SDS在文本到3D生成中的过饱和、过平滑和低多样性问题,实现了高保真与多样化的3D生成。
2023-11-22 cs.CV cs.LG
3D Paintbrush: Local Stylization of 3D Shapes with Cascaded Score Distillation
University of Chicago(芝加哥大学);Snap Research(Snap 研究院)
本文提出3D Paintbrush,通过级联分数蒸馏(CSD)在网格上自动生成局部语义区域的纹理,同时优化定位与风格化,提升纹理细节和分辨率,适用于多种形状。
2023-11-16 cs.CV cs.GR
MeshUp: Multi-Target Mesh Deformation via Blended Score Distillation
University of Chicago(芝加哥大学);University of Montreal(蒙特利尔大学);Adobe Research(奥多比研究院)
提出MeshUp技术,通过混合分数蒸馏(BSD)控制3D网格向多目标概念变形,支持文本/图像定义概念、顶点选区域,实验验证有效性,项目页公开。
2025-02-10 cs.CV cs.GR
Repulsive Latent Score Distillation for Solving Inverse Problems
Rice University(莱斯大学);NVIDIA Inc.(英伟达公司)
针对 SDS 在高维逆问题中的模式崩溃与潜在空间反演挑战,提出结合排斥机制与增广变分分布的框架,在保证计算效率的同时提升解的多样性与质量。
2024-10-12 cs.CV cs.LG
DOLLAR: Few-Step Video Generation via Distillation and Latent Reward Optimization
Princeton University(普林斯顿大学);Adobe Research(Adobe研究)
本文提出结合变分分数蒸馏和一致性蒸馏的方法,实现高质量且多样化的少步视频生成,并通过潜在奖励模型微调提升生成性能,实现高效生成。
2026-05-06 cs.CV
Guided Score identity Distillation for Data-Free One-Step Text-to-Image Generation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Google DeepMind(谷歌DeepMind);Atlassian(Atlassian公司)
本文提出一种无数据引导蒸馏方法,通过长短分类器无关引导增强分数恒等蒸馏,仅用合成图像训练单步生成器,在COCO-2014上实现FID 8.15的最先进性能。
2025-02-08 cs.AI cs.CL cs.CV
Adversarial Score identity Distillation: Rapidly Surpassing the Teacher in One Step
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Google(谷歌公司)
本文提出SiDA方法,通过引入真实图像和对抗损失改进分数身份蒸馏,利用分数网络编码器作为判别器,在单步生成中显著提升效率与质量,超越教师模型EDM2-XXL。
2024-12-24 cs.CV cs.LG
Collaborative Score Distillation for Consistent Visual Synthesis
KAIST(韩国科学技术院);Google Research(谷歌研究院)
本文提出协同分数蒸馏(CSD),将多张图像视为 SVGD 粒子并组合其分数函数,以实现全景图、视频和 3D 场景的一致视觉合成与编辑。
2023-07-04 cs.CV cs.LG
DreamPolish: Domain Score Distillation With Progressive Geometry Generation
Zhipu AI(智谱AI);Peking University(北京大学);Tsinghua University(清华大学)
本研究提出文本到3D生成模型DreamPolish,通过多神经表征+法线估计的渐进几何生成优化表面伪影,结合域分数蒸馏提升纹理真实感与一致性,效果优于现有SOTA方法。
2024-11-03 cs.AI cs.CV
Few-Step Diffusion via Score identity Distillation
UT Austin(德克萨斯大学奥斯汀分校);Google(谷歌);Google DeepMind(谷歌DeepMind);Microsoft(微软)
该研究优化无数据的分数恒等蒸馏(SiD)框架实现少步扩散生成,结合扩散GAN对抗损失与Zero-CFG、Anti-CFG两种引导策略,在SD1.5和SDXL模型的单/少步生成任务上取得SOTA性能,且对无真实图像场景具备鲁棒性。
2025-05-19 cs.CV cs.LG stat.ML
Animus3D: Text-driven 3D Animation via Motion Score Distillation
City University of Hong Kong(香港城市大学);Central Media Technology Institute, Huawei(华为中央媒体技术研究院)
Animus3D通过运动分数蒸馏技术实现文本驱动的3D动画生成,提升运动细节与视觉完整性。
2025-12-14 cs.CV cs.GR cs.LG
Hyper-SD: Trajectory Segmented Consistency Model for Efficient Image Synthesis
ByteDance(字节跳动)
针对扩散模型多步推理计算开销大及现有蒸馏方法性能退化或域偏移的问题,提出Hyper-SD框架,融合轨迹分段一致性蒸馏、人类反馈学习和分数蒸馏,并利用统一LoRA支持全步数推理,在SDXL和SD1.5上1至8步均达SOTA性能。
2024-11-04 cs.CV
Reward Lightning: Fast Video Generation via Homologous Preference Distillation
Tencent Hunyuan(腾讯混元)
研究视频扩散模型中同时进行偏好对齐和蒸馏加速的挑战,提出统一框架Reward Lightning,利用同源原理在共享表示中对齐和加速模型,介绍潜在奖励模型和同源偏好蒸馏,实验证明其有效性。
2026-07-07 cs.CV
Large Scale Diffusion Distillation via Score-Regularized Continuous-Time Consistency
Dept. of Comp. Sci. & Tech., BNRist Center, THU-Bosch ML Center, AI Institute, Tsinghua(清华大学计算机科学与技术系,BNRist中心,THU-Bosch机器学习中心,人工智能研究院);NVIDIA
本文提出分数正则化的连续时间一致性模型(rCM),通过引入分数蒸馏作为长跳正则化器,改进了sCM在细节生成和多样性方面的性能,适用于大规模图像和视频扩散任务。
2026-02-15 cs.CV cs.LG
ScaleDreamer: Scalable Text-to-3D Synthesis with Asynchronous Score Distillation
The Hong Kong Polytechnic University(香港理工大学);Center for Artificial Intelligence and Robotics, HKISI CAS(香港中文大学(深圳)人工智能与机器人中心(香港中文大学(深圳)先进光学电子研究院));Harbin Institute of Technology(哈尔滨工业大学);State Key Laboratory of Multimodal Artificial Intelligence Systems, CASIA(中国科学院自动化研究所多模态人工智能系统国家重点实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences, UCAS(中国科学院大学人工智能学院)
针对文本到3D生成难以扩展的问题,提出异步分数蒸馏ASD,通过前移扩散时间步稳定训练并扩展至100k提示。
2024-07-02 cs.AI cs.CV cs.MM