作为自监督表示学习器的掩码扩散模型
Masked Diffusion as Self-supervised Representation Learner
AI总结：
该研究拆解扩散模型生成能力与表示学习能力的关联，提出用掩码机制替代传统高斯噪声的掩码扩散模型（MDM）作为自监督表示学习器，在医学与自然图像语义分割尤其是少样本场景下性能超越现有基准。
摘要：
去噪扩散概率模型近期展现出了最优的生成性能，也已被用作强大的像素级表示学习器。本文拆解了扩散模型固有生成能力与表示学习能力之间的相互关系。我们提出掩码扩散模型（MDM），这是一种面向语义分割的可扩展自监督表示学习器，用掩码机制替代了传统扩散模型中常规的加性高斯噪声。我们提出的方法显著超越了现有基准，在医学图像和自然图像的语义分割任务中，尤其是在少样本场景下，均展现出了显著的性能提升。
英文摘要：
Denoising diffusion probabilistic models have recently demonstrated state-of-the-art generative performance and have been used as strong pixel-level representation learners. This paper decomposes the interrelation between the generative capability and representation learning ability inherent in diffusion models. We present the masked diffusion model (MDM), a scalable self-supervised representation learner for semantic segmentation, substituting the conventional additive Gaussian noise of traditional diffusion with a masking mechanism. Our proposed approach convincingly surpasses prior benchmarks, demonstrating remarkable advancements in both medical and natural image semantic segmentation tasks, particularly in few-shot scenarios.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
