Moderating the Generalization of Score-based Generative Model
Hefei University of Technology(合肥工业大学);University College London(伦敦大学学院);San Diego State University(圣地亚哥州立大学);Beihang University(北航)
针对SGMs泛化滥用风险,提出首个受调节的生成模型MSGM,通过在随机微分方程过程中调整分数函数远离不良数据,有效抑制不良内容生成,同时保持高视觉质量,并兼容多种扩散架构与训练策略。
2025-06-26 cs.CV cs.LG
Image Quality Assessment Techniques Show Improved Training and Evaluation of Autoencoder Generative Adversarial Networks
Carleton University(卡尔顿大学)
我们提出了一种自动编码器生成对抗网络(GANs)的训练和评估方法,特别是边界平衡生成对抗网络(BEGAN),基于图像质量评估文献中的方法。我们的方法探讨了一个多维的评价标准,利用三个距离函数:一个$l_1$分数,梯度幅度相似性平均值(GMSM)分数,和色度分数。我们发现,每个不同的距离函数捕捉图像空间中的一组略有不同的属性,因此,需要自己的评估标准,以正确评估相关属性是否已经充分学习。我们证明了使用新距离函数的模型能够以预测的方式产生比原始BEGAN模型更好的图像。
2017-08-06 cs.CV cs.LG
Nearest Neighbour Score Estimators for Diffusion Generative Models
University of British Columbia(不列颠哥伦比亚大学);Inverted AI
本文提出一种基于最近邻的得分估计器,利用训练集多个样本降低方差,显著提升一致性模型的收敛速度与样本质量,并可替代扩散模型中学习网络进行概率流ODE积分。
2024-07-16 cs.CV cs.LG stat.ML
Accelerating Score-based Generative Models for High-Resolution Image Synthesis
Fudan University(复旦大学);University of Surrey(萨里大学);RIKEN(理化学研究所)
基于得分的生成模型是近年来新兴的一类生成模型。其关键思想是通过向高斯样本反复添加高斯噪声和梯度,直到收敛到目标分布,即,扩散采样。然而,为了确保采样收敛的稳定性和生成质量,该顺序采样过程必须采用小的步长和许多采样迭代(例如,2000年)。已经提出了几种加速方法,重点是低分辨率生成。在这项工作中,我们认为加速与SGM的高分辨率生成,一个更具挑战性,但更重要的问题。我们从理论上证明,这种缓慢的收敛缺点主要是由于目标分布的无知。此外,我们引入了一种新的目标分布感知采样(TDAS)方法,利用空间和频率域的结构先验。在CIFAR-10、CelebA、LSUN和FFHQ数据集上进行的大量实验验证了TDAS可以始终如一地加速最先进的SGM,特别是在更具挑战性的高分辨率(1024 x1024)图像生成任务上,速度高达18.4倍,同时在很大程度上保持了合成质量。通过较少的采样迭代,TDAS仍然可以生成高质量的图像。相比之下,现有的方法性能急剧下降,甚至完全失效
2022-06-10 cs.CV cs.LG
Unifying GANs and Score-Based Diffusion as Generative Particle Models
Criteo AI Lab(Criteo人工智能实验室);LIGM(LIGM实验室);Ecole des Ponts(巴黎路桥学院);Univ Gustave Eiffel(古斯塔夫·埃菲尔大学);CNRS(法国国家科学研究中心);ETH Zürich(苏黎世联邦理工学院)
本文提出统一粒子与对抗生成模型的框架,将生成器训练视为粒子模型的推广,并验证了在扩散模型中集成生成器及无生成器训练GAN的可行性。
2023-12-21 cs.CV cs.LG cs.NE
Symmetrical Flow Matching: Unified Image Generation, Segmentation, and Classification with Score-Based Generative Models
本文提出对称流匹配方法,通过联合建模正反向变换实现图像生成、分割和分类的统一,采用对称学习目标确保双向一致性并保留生成多样性,实验表明其在多个基准上取得SOTA性能。
2026-01-30 cs.AI cs.CV
DiffFlow: A Unified SDE Framework for Score-Based Diffusion Models and Generative Adversarial Networks
HKUST(香港科技大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
本文提出统一SDE框架DiffFlow,将SDMs和GANs的学习动力学纳入同一随机微分方程,通过调节分数权重实现两类模型平滑过渡,并给出具有精确似然推断的新算法。
2023-07-05 cs.CV cs.LG math.AP
Refining Generative Process with Discriminator Guidance in Score-based Diffusion Models
KAIST(韩国科学技术院);NAVER Cloud(NAVER云)
本文提出 Discriminator Guidance,在预训练分数扩散模型生成时加入判别器辅助项以校正分数估计,并在 ImageNet 256×256 上取得 FID 1.83 的最优结果。
2023-06-04 cs.AI cs.CV cs.LG
Adversarial score matching and improved sampling for image generation
University of Montreal(蒙特利尔大学);Microsoft Research Lab(微软研究院实验室)
去噪得分匹配与退火Langevin采样(DSM-ALS)最近发现在生成建模的成功。该方法的工作原理是首先训练一个神经网络来估计分布的分数,然后使用Langevin动力学从分数网络假设的数据分布中采样。尽管样本的视觉质量令人信服,但在Fréchet Inception Distance(生成模型的标准度量)下,这种方法的表现似乎比生成对抗网络(GANs)更差。我们表明,这种明显的差距消失时,使用分数网络去噪的最终Langevin样本。此外,我们提出了对DSM-ALS的两项改进:1)一致退火采样作为退火Langevin采样的更稳定的替代方案,以及2)混合训练公式,由去噪得分匹配和对抗目标组成。通过结合这两种技术和探索不同的网络架构,我们提升了分数匹配方法,并获得了与CIFAR-10上最先进的图像生成相竞争的结果。
2020-10-10 cs.CV cs.LG stat.ML
A Unified Measure-Theoretic View of Diffusion, Score-Based, and Flow Matching Generative Models
Center for Applied Scientific Computing(应用科学计算中心);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);University of California Merced(加州默塞德大学)
本文从测度论角度统一了扩散、基于分数和流匹配生成模型,探讨了时间依赖向量场诱导的边缘分布,并分析了采样、稳定性和计算的权衡。
2026-05-07 cs.CV cs.ET cs.IT
Conditional Vendi Score: Prompt-Aware Diversity Evaluation for Generative AI Models and LLMs
Department of Computer Science and Engineering, The Chinese University of Hong Kong(计算机科学与工程系,香港中文大学);Department of Information Engineering, The Chinese University of Hong Kong(信息工程系,香港中文大学)
针对文本提示引导的生成模型,提出条件 Vendi 和条件 RKE 分数,通过条件熵分离模型自身多样性,并证明收敛性及在多个任务中恢复真实多样性排序。
2026-10-12 cs.AI cs.CV cs.IT
Score-Based Generative Models for Medical Image Segmentation using Signed Distance Functions
本研究提出一种基于条件分数生成模型的医学图像分割框架,通过表征符号距离函数的分布生成带不确定性的分割掩码,在公开数据集上验证了其竞争力与应用潜力。
2023-07-21 cs.CV
Score Mismatching for Generative Modeling
South China University of Technology(华南理工大学)
本文提出一种基于分数不匹配的单步采样生成模型,通过训练独立生成器压缩扩散时间步,在CIFAR-10上优于一致性模型和去噪分数匹配方法。
2023-09-20 cs.CV
Can Score-Based Generative Modeling Effectively Handle Medical Image Classification?
University of Nevada, Reno(内华达大学雷诺分校)
本研究探索基于分数的生成模型作为医学图像分类器,在多个乳腺X光数据集上取得优越分类结果,并提出了一种新的图像分类方法。
2025-02-24 cs.CV
Traversing Distortion-Perception Tradeoff using a Single Score-Based Generative Model
The Chinese University of Hong Kong(香港中文大学);Shenzhen University(深圳大学);University of Electronic Science and Technology of China(电子科技大学)
本文提出利用单个预训练的基于分数的生成模型,通过引入方差缩放的反向扩散过程,灵活且最优地遍历失真-感知(DP)权衡,以解决去噪任务中目标变化需重训模型的问题。
2025-04-03 cs.CV
Hallucination Score: Towards Mitigating Hallucinations in Generative Image Super-Resolution
University of Waterloo(多伦多大学);AI Center – Toronto, Samsung Electronics(三星电子人工智能中心)
本文提出幻觉分数以衡量和减轻生成图像超分辨率中的幻觉问题,通过多模态大语言模型生成 HS 并用于模型微调。
2026-01-08 cs.CV
Unsupervised Visual Defect Detection with Score-Based Generative Model
Southeast University(东南大学);University of Massachusetts Dartmouth(马萨诸塞大学达特茅斯分校)
异常检测(AD)作为一个关键问题,一直受到广泛的关注.在本文中,我们专注于一个特定的问题,视觉缺陷检测(VDD),在许多工业应用。在实际应用中,缺陷图像样本非常稀少且难以采集,因此,本文针对无监督视觉缺陷检测和定位问题,提出了一种基于基于得分的生成模型的新框架,该框架通过随机微分方程(SDEs)迭代去噪合成真实图像。我们的工作受到这样一个事实的启发,即随着噪声注入到原始图像中,缺陷可以在去噪过程中变为正常情况(即,重建)。首先,基于异常数据位于正常数据分布的低概率密度区域的假设,我们解释了基于重建的方法应用于VDD时发生的常见现象:正常像素在重建过程中也会发生变化。第二,由于重建图像和原始图像之间的正常像素的差异,时间相关的梯度值(即,分数)被用作度量,而不是重建损失,以测量缺陷。第三,一种新的$T$尺度的方法,大大减少了所需的迭代次数,加快了推理过程。这些实践使我们的模型能够以无监督的方式概括VDD,同时保持相当好的性能。我们在几个数据集上评估了我们的方法,以证明其有效性。
2022-11-29 cs.CV
Metal Inpainting in CBCT Projections Using Score-based Generative Model
Friedrich-Alexander-Universit\"at Erlangen-N\"urnberg Pattern Recognition Lab Erlangen, Germany
在骨科手术期间,金属植入物或螺钉的插入通常在移动C形臂系统下进行。由于金属的高衰减,在三维重建中会出现严重的金属伪影,严重影响图像质量。为了减少金属伪影,已经开发了许多减少金属伪影的算法,其中投影域金属修复是必不可少的一步。在这项工作中,一个基于分数的生成模型的训练模拟膝盖投影和修复图像是通过去除噪声的条件恢复过程中获得。实验结果表明,与基于插值和CNN的方法相比,基于分数的生成模型修复的图像具有更丰富的细节信息,平均绝对误差最小,峰值信噪比最高。此外,基于分数的模型还可以恢复大圆形和矩形掩模的投影,显示了其在修复任务中的通用性。
2022-09-20 cs.CV eess.IV
Wavelet Score-Based Generative Modeling
ENS(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL University(巴黎文理研究大学);Collège de France(法兰西公学院);Flatiron Institute(弗莱提荣研究所)
基于得分的生成模型(SGM)通过运行漂移系数取决于某个概率分数的时间反演的随机微分方程(Stochastic Differential Equation,简称STD)来从高斯白噪声中合成新的数据样本。这种随机微分方程的离散化通常需要大量的时间步长,因此计算成本很高。这是因为我们在数学上分析的分数的病态属性。我们表明,SGMs可以大大加快,分解成跨尺度小波系数的条件概率的产品的数据分布。由此产生的小波基于得分的生成模型(WSGM)在所有尺度上以相同的时间步长合成小波系数,因此其时间复杂度随图像大小线性增长。这在高斯分布的数学上得到了证明,并在相变和自然图像数据集的物理过程中进行了数值计算。
2022-08-09 cs.CV cs.LG stat.ML
Score-based Generative Models for Photoacoustic Image Reconstruction with Rotation Consistency Constraints
ShanghaiTech University(上海科技大学);Tsinghua University(清华大学);Guangdong Academy of Medical Sciences(广东省医学科学院)
提出RCC-SGM,利用Langevin动力学与旋转一致性约束迭代采样恢复PAT图像,泛化性优于有监督方法。
2023-06-24 cs.CV eess.IV
Anomaly Score: Evaluating Generative Models and Individual Generated Images based on Complexity and Vulnerability
School of Integrated Technology, Yonsei University(延世大学融合技术学院)
本文研究生成图像评估问题,通过分析表示空间复杂性与特征脆弱性,提出异常分数 AS 及单图指标 AS-i,用于评估生成模型和个体生成图像。
2024-04-09 cs.CV cs.LG
Deep Generative Model using Unregularized Score for Anomaly Detection with Heterogeneous Complexity
Kobe University(神户大学)
自然图像数据集中异常样本的准确和自动检测可以通过用于图像的端到端建模的概率模型来完成。然而,这样的图像具有异质的复杂性,并且概率模型忽略了具有小异常的简单形状的对象。这是因为概率模型将不期望的较低可能性分配给形状复杂的对象,但这些对象与设定的标准一致。为了克服这个困难,我们提出了一个深度生成模型(DGMs)的非正则化分数,DGMs是利用深度神经网络的生成模型。我们发现,正则化条款的DGMs显着影响异常分数取决于样本的复杂性。通过删除这些项,我们获得了一个未正则化的分数,我们在玩具数据集和真实世界的制造数据集上进行了评估。实验结果表明,非正则化的分数是强大的样本的固有复杂性,可以用来更好地检测异常。
2018-09-04 cs.CV cs.LG stat.ML
A Novel Unified Conditional Score-based Generative Framework for Multi-modal Medical Image Completion
ShanghaiTech University(上海科技大学);Shanghai United Imaging Intelligence Co., Ltd.(上海联影智能科技有限公司);Northwestern Polytechnical University(西北工业大学)
多模态医学图像补全技术已被广泛应用于缓解大量多模态诊断任务中的模态缺失问题。然而,对于大多数现有的综合方法,他们的推理丢失的模态可以崩溃成一个确定性的映射,从可用的,忽略了固有的跨模态关系的不确定性。在这里,我们提出了统一的多模态条件评分生成模型(UMM-CSGM),以利用评分生成模型(SGM)的建模和随机采样的目标概率分布,并进一步扩展SGM跨模态条件合成在一个统一的框架中的各种丢失的模态配置。具体来说,UMM-CSGM采用了一种新的多输入多输出条件得分网络(mm-CSN),通过条件扩散和逆生成在完整的模态空间中学习一组全面的跨模态条件分布。通过这种方式,生成过程可以由所有可用信息准确地调节,并且可以在单个网络中拟合缺失模态的所有可能配置。在BrTS 19数据集上的实验表明,UMM-CSGM可以更可靠地合成肿瘤诱导病变中的不均匀增强和不规则区域,用于任何缺失的模态。
2022-07-07 cs.CV eess.IV
Score-Based Generative Classifiers
University of Tübingen(蒂宾根大学);Stanford University(斯坦福大学);Norwegian University of Science and Technology(挪威科技大学)
近年来生成模型的巨大成功提出了一个问题,即它们是否也可以用于执行分类。生成模型已被用作简单数据集(如MNIST)上的对抗鲁棒分类器,但在更复杂的数据集(如CIFAR-10)上尚未观察到这种鲁棒性。此外,在自然图像数据集上,以前的结果表明数据的可能性和分类精度之间的权衡。在这项工作中,我们研究了基于分数的生成模型作为自然图像的分类器。我们表明,这些模型不仅获得了有竞争力的似然值,但同时实现了CIFAR-10上的生成分类器的最先进的分类精度。然而,我们发现,这些模型只是稍微,如果在所有,更强大的区别性基线模型的基础上常见的图像损坏的分布任务。类似地,与以前的结果相反,我们发现,基于分数的倾向于最坏情况下的分布变化的形式对抗扰动。我们的工作强调,与标准判别模型相比,基于分数的生成模型正在缩小分类准确性的差距。虽然它们还没有实现对抗性和域外鲁棒性的承诺,但它们提供了一种不同的分类方法,值得进一步研究。
2021-12-11 cs.CV cs.LG stat.ML
Score-Based Multimodal Autoencoder
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对多模态 VAE 随模态增多而生成质量下降的问题,本文用 SBM 联合建模独立单模态 VAE 的潜空间,在保持生成质量的同时实现跨模态一致整合。
2024-12-10 cs.CV cs.LG
Score-based generative models learn manifold-like structures with constrained mixing
DeepMind
该研究通过线性近似和局部特征子空间分析,发现基于分数的生成模型在流形内使用非保守场混合样本,同时保持流形外法向去噪,从而灵活维持数据分布的流形类结构。
2023-11-16 cs.CV cs.LG stat.ML
High-Fidelity Image Compression with Score-based Generative Models
Google Research(谷歌研究院);Amsterdam(阿姆斯特丹);Reykjavík(雷克雅未克);Zürich(苏黎世);Mountain View(芒廷维尤);London(伦敦)
针对扩散模型难应用于图像压缩的问题,提出结合MSE自编码器与基于分数解码器的两阶段方法,在给定比特率下FID分数优于PO-ELIC和HiFiC,同时指出实现细节对效果影响显著。
2024-03-07 cs.CV cs.LG eess.IV
Discriminative Score Function: Turning Pretrained Models into Functional Generative Priors
Seoul National University(首尔大学)
该研究提出判别式评分函数(DSF),从预训练判别式模型的损失梯度几何提取生成场,可用于图像生成、编辑等任务,还能实现零样本量化校准,效果优于无数据基线。
2026-10-14 cs.CV cs.LG
Likelihood Regret: An Out-of-Distribution Detection Score For Variational Auto-encoder
University of Chicago(芝加哥大学)
深度概率生成模型能够对非常高维数据的可能性进行建模。生成建模的一个重要应用应该是通过设置可能性阈值来检测分布外(OOD)样本的能力。然而,最近的一些研究表明,概率生成模型可以,在某些情况下,分配较高的似然对某些类型的OOD样本,使OOD检测规则的基础上的似然阈值的问题。为了解决这个问题,已经针对深度生成模型提出了几种OOD检测方法。在本文中,我们观察到,这些方法中的许多失败时,应用到基于变分自动编码器(VAE)的生成模型。作为一种替代方案,我们提出了一个有效的OOD评分VAE的Likestival遗憾。我们基准我们提出的方法在现有的方法,和实证结果表明,我们的方法获得最佳的整体OOD检测性能时,应用于VAE。
2020-10-10 cs.CV cs.LG stat.ML
On Investigating the Conservative Property of Score-Based Generative Models
National Tsing Hua University(国立清华大学);NVIDIA Corporation(英伟达公司)
本文针对CSBMs架构受限与USBMs缺乏保守性的问题,提出QCSBMs,并通过Hutchinson迹估计器实现高效训练,在多个图像数据集上验证其有效性。
2023-06-04 cs.CV cs.LG
Solving Inverse Problems in Medical Imaging with Score-Based Generative Models
Stanford University(斯坦福大学)
从部分测量数据重建医学图像是计算机断层成像(CT)和磁共振成像(MRI)中的一个重要逆问题。基于机器学习的现有解决方案通常训练模型以利用成对图像和测量的训练数据集来将测量直接映射到医学图像。这些测量通常使用测量过程的固定物理模型从图像合成,这阻碍了模型对未知测量过程的泛化能力。为了解决这个问题,我们提出了一个完全无监督的逆问题解决技术,利用最近推出的基于分数的生成模型。具体来说,我们首先训练一个基于分数的生成模型的医学图像捕捉他们的先验分布。给定的测量和测量过程中的物理模型在测试时,我们引入了一种采样方法来重建与先前和观察到的测量一致的图像。我们的方法在训练过程中不假设固定的测量过程,因此可以在测试时灵活地适应不同的测量过程。从经验上讲,我们在CT和MRI的几个医学成像任务中观察到与监督学习技术相当或更好的性能,同时对未知测量过程表现出更好的泛化能力。
2022-06-16 cs.CV cs.LG eess.IV
Score-Based Generative Models for PET Image Reconstruction
University College London(伦敦大学学院);University of Bremen(不来梅大学);The Chinese University of Hong Kong(香港中文大学)
本文针对PET图像重建中的泊松噪声和宽动态范围问题,提出适用于2D和3D的基于分数的生成模型适配方法,并通过仿真实验验证其在无病灶及含病灶数据上的鲁棒性和重建潜力。
2024-01-23 cs.AI cs.CV cs.LG
High-dimensional Assisted Generative Model for Color Image Restoration
Nanchang University(南昌大学)
本文提出了一种无监督的深度学习方案,利用高维辅助的基于分数的生成模型进行彩色图像恢复任务。考虑到分数生成模型中样本数和内部维数对数据分布梯度估计的影响,提出了两种不同的高维方法:通道复制变换增加样本数和像素尺度变换降低可行空间维数。随后,一组由这些变换表示的高维张量被用来通过去噪得分匹配来训练网络。然后,通过退火Langevin动力学和替代数据一致性更新进行采样。此外,为了减轻学习高维表示的困难,提出了一种渐进的策略,以利用性能。与其他数据驱动方法相比,所提出的无监督学习和迭代恢复算法涉及预训练的生成网络以获得先验,具有透明和清晰的解释。去马赛克和修复的实验结果传达了显着的性能和多样性,我们提出的方法。
2021-08-14 cs.CV cs.LG eess.IV
Provable Probabilistic Imaging using Score-Based Generative Priors
California Institute of Technology(加州理工学院)
提出即插即用蒙特卡洛(PMC)框架,结合基于分数的生成先验,通过后验采样在求解逆问题中实现高质量图像重建与不确定性量化,并提供非渐近平稳性理论保证。
2024-08-28 cs.CV cs.LG eess.IV
MeshDiffusion: Score-based Generative 3D Mesh Modeling
Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zürich(苏黎世联邦理工学院);McGill University(麦吉尔大学);University of Cambridge(剑桥大学)
本文提出MeshDiffusion,利用可变形四面体网格表示三维网格并训练扩散模型,以解决现有方法生成表面过平滑或含噪声、缺乏几何细节的问题,并在多个生成任务上验证了有效性。
2023-04-15 cs.AI cs.CV cs.GR