Spot the fake lungs: Generating Synthetic Medical Images using Neural Diffusion Models
College of Science and Engineering, Hamad Bin Khalifa University(哈马德·本·哈利法大学科学与工程学院);Manchester University NHS Foundation Trust(曼彻斯特大学国民保健服务基金会信托)
生成模型在医学图像的合成中越来越受欢迎。最近,神经扩散模型已经证明了生成物体的照片级逼真图像的潜力。然而,它们生成医学图像的潜力尚未被探索。在这项工作中,我们探讨了使用神经扩散模型合成医学图像的可能性。首先,我们使用预训练的DALLE2模型从输入文本提示中生成肺部X射线和CT图像。其次,我们训练一个稳定的扩散模型与3165 X射线图像,并产生合成图像。我们通过定性分析来评估合成图像数据,其中两名独立的放射科医生将从生成的数据中随机选择的样本标记为真实,虚假或不确定。结果表明,使用扩散模型生成的图像可以转换胸部X射线或CT图像中特定于某些医疗状况的特征。仔细调整模型可能非常有希望。据我们所知,这是第一次尝试使用神经扩散模型生成肺部X射线和CT图像。这项工作旨在为医学成像引入人工智能的新维度。鉴于这是一个新的课题,本文将作为一个介绍和研究社区的动机,探索医学图像合成的扩散模型的潜力。我们已经在https://www.kaggle.com/datasets/hazrat/awesomelungs上发布了合成图像。
2022-11-02 cs.AI cs.CV cs.LG
DiffusionWorldViewer: Exposing and Broadening the Worldview Reflected by Generative Text-to-Image Models
CSAIL MIT(麻省理工学院计算机科学与人工智能实验室);LIDS MIT(麻省理工学院信息与决策系统实验室)
本文提出DiffusionWorldViewer交互界面,揭示并拓宽文本到图像模型的世界观,通过用户研究证明其能帮助用户表达多样观点并挑战模型局限。
2024-02-05 cs.AI cs.CV cs.CY
In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking
University at Albany, SUNY(纽约州立大学奥尔巴尼分校)
深度生成网络的新发展显着提高了生成逼真假脸视频的质量和效率。在这项工作中,我们描述了一种新的方法来揭露假脸视频生成的神经网络。我们的方法是基于视频中眨眼的检测,这是一种在合成的假视频中没有很好呈现的生理信号。我们的方法在眨眼检测数据集的基准上进行了测试,并且在检测DeepFake生成的视频时也表现出了良好的性能。
2018-06-11 cs.CV
Exposing Deep Fakes Using Inconsistent Head Poses
University at Albany, State University of New York(纽约州立大学奥尔巴尼分校)
在本文中,我们提出了一种新的方法来暴露人工智能生成的假人脸图像或视频(通常称为Deep Fakes)。我们的方法是基于这样的观察,即深度假是通过将合成的面部区域拼接到原始图像中来创建的,并且在这样做的过程中,引入了从面部图像估计3D头部姿势时可以发现的错误。我们进行实验来证明这种现象,并进一步开发了一种基于此线索的分类方法。使用基于此线索的特征,使用一组真实面部图像和Deep Fakes来评估SVM分类器。
2018-11-13 cs.CV
Exposing AI-generated Videos: A Benchmark Dataset and a Local-and-Global Temporal Defect Based Detection Method
School of Cyber Science and Engineering, Sichuan University(四川大学网络空间安全学院);Carnegie Mellon University(卡内基梅隆大学);City University of Hong Kong(香港城市大学)
针对AI生成视频带来的安全风险,本文构建含退化样本的基准数据集,并提出融合局部运动与全局外观变化的时序缺陷检测框架,为相关方法提供基线。
2024-05-07 cs.CV
DeepRhythm: Exposing DeepFakes with Attentional Visual Heartbeat Rhythms
Kyushu University(九州大学);Nanyang Technological University(南洋理工大学);Alibaba Group(阿里巴巴集团);Tianjin University(天津大学)
随着基于GAN的人脸图像和视频生成技术(通常称为DeepFakes)变得越来越成熟和现实,对有效的DeepFakes检测器的需求越来越迫切。由于远程视觉光电容积描记术(PPG)是通过监测血液泵入面部引起的皮肤颜色的微小周期性变化而实现的,因此我们推测,在真实面部视频中发现的正常心跳节奏将在DeepFake视频中被破坏甚至完全打破,使其成为DeepFake检测的潜在强大指标。在这项工作中,我们提出了DeepRhythm,这是一种DeepFake检测技术,通过监测心跳节奏来暴露DeepFakes。DeepRhythm利用双时空注意力来适应动态变化的面部和假类型。在FaceForensics++和DFDC-preview数据集上进行的大量实验证实了我们的猜想,并证明了\emph{DeepRhythm}通过各种DeepFakes生成技术和各种具有挑战性的退化在不同数据集上的有效性和泛化能力。
2020-08-26 cs.CV
Towards Universal Fake Image Detectors that Generalize Across Generative Models
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文揭示现有真伪分类器对训练中未见生成模型失效的原因,并提出基于预训练视觉-语言模型特征空间的免学习最近邻检测方法,显著提升跨生成模型的伪造图像检测泛化能力。
2024-04-01 cs.CV cs.LG
Aligned Datasets Improve Detection of Latent Diffusion-Generated Images
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出通过LDMs自编码器重建真实图像来构建对齐数据集,训练检测器以聚焦生成模型伪影,从而改进潜在扩散生成图像的检测,并验证了其有效性。
2025-02-26 cs.CV
Fake it till you make it: Learning transferable representations from synthetic ImageNet clones
NAVER LABS Europe(NAVER欧洲实验室);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔国立理工学院)
最近的图像生成模型,如稳定扩散已经展示了令人印象深刻的能力,从一个简单的文本提示开始生成相当逼真的图像。这样的模型是否会使真实图像变得过时,无法用于训练图像预测模型?在本文中,我们通过调查在训练ImageNet分类模型时对真实图像的需求来回答这个挑衅性问题的一部分。仅提供用于构建数据集的类名,我们探索了Stable Diffusion生成ImageNet合成克隆的能力,并测量了这些克隆对于从头开始训练分类模型的有用性。我们表明,通过最小和类不可知的提示工程,ImageNet克隆能够缩小合成图像生成的模型与使用真实图像训练的模型之间的大部分差距,对于我们在本研究中考虑的几个标准分类基准。更重要的是,我们证明了在合成图像上训练的模型具有很强的泛化特性,并且与在真实数据上训练的模型表现相当。项目页面:https://europe.naverlabs.com/imagenet-sd/
2023-03-28 cs.CV cs.LG
Generative Adversarial Networks via a Composite Annealing of Noise and Diffusion
Chung-Ang University(中央大学);University of Haifa(海法大学)
生成对抗网络(GAN)是一个使用一组真实示例生成虚假数据的框架。然而,GAN在训练阶段不稳定。为了稳定GANs,噪声注入被用来以增加方差为代价来扩大真实分布和伪分布的重叠。扩散(或平滑)可以降低数据的内在潜在维度,但它抑制了GANs在训练过程中学习高频信息的能力。基于这些观察结果,我们提出了一种用于GAN训练的数据表示,称为噪声尺度空间(NSS),它递归地将平衡噪声的平滑应用于数据,以便用随机数据替换高频信息,从而实现GANs的粗到细训练。我们基于基准数据集使用DCGAN和StyleGAN2对NSS进行了实验,其中基于NSS的GANs在大多数情况下都优于最先进的技术。
2022-08-01 cs.CV cs.LG
Exposing Text-Image Inconsistency Using Diffusion Models
University at Buffalo, State University of New York(纽约州立大学布法罗分校)
针对文本-图像不一致性识别缺乏可解释性的问题,提出基于扩散模型的D-TIIL方法,通过文本嵌入和修改图像区域定位并可视化语义不一致,并构建1.4万对数据的TIIL数据集进行评估,提供了可扩展且基于证据的打击虚假信息框架。
2024-04-28 cs.CV
R$^2$BD: A Reconstruction-Based Method for Generalizable and Efficient Detection of Fake Images
State Key Laboratory of Blockchain and Data Security, Zhejiang University(区块链与数据安全国家重点实验室,浙江大学);Huawei International(华为国际)
R$^2$BD通过统一的重建模型和残差偏差计算模块,实现了高效且通用的假图像检测,检测精度和效率均优于现有方法。
2026-01-11 cs.AI cs.CV
SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation
Beihang University(北京航空航天大学);SenseTime Research(商汤科技研究院);Hong Kong University of Science and Technology(香港科技大学)
针对分布匹配蒸馏在少步视频扩散中训练昂贵且运动动态保守的问题,提出得分梯度匹配蒸馏(SGMD),通过直接优化假得分朝向教师并使用教师停止梯度Fisher作为稳定目标,实现约3倍训练加速并显著提升运动动态。
2026-07-23 cs.CV cs.LG
Transfer Learning of Real Image Features with Soft Contrastive Loss for Fake Image Detection
School of Cyber Science and Engineering, Wuhan University(武汉大学网络科学与工程学院);Nanyang Technological University(南洋理工大学);NSFOCUS(奇安信)
本文提出一种基于软对比损失的迁移学习方法,通过提取真实图像的自然痕迹特征来检测伪造图像,在泛化未知伪造技术和鲁棒性方面表现优异,具有实际应用价值。
2025-03-03 cs.CR cs.CV
DiffHDR: Re-Exposing LDR Videos with Video Diffusion Models
Eyeline Labs(Eyeline 实验室);Netflix
DiffHDR通过视频扩散模型的潜在空间将LDR视频转换为HDR,恢复过曝和欠曝区域的真实细节,提升动态范围和再曝光效果。
2026-09-02 cs.AI cs.CV cs.GR
Do CNNs Internally Represent Real and Fake Images Differently? A Hidden-Layer Analysis
Kansas State University(堪萨斯州立大学)
本研究通过场景识别实验证实,CNNs对真实与虚假图像的隐藏层激活存在可统计的差异,该差异无法仅用图像退化解释,为改进虚假图像检测提供了新思路。
2026-08-18 cs.CV
Parents and Children: Distinguishing Multimodal DeepFakes from Natural Images
University of Modena and Reggio Emilia(摩德纳和雷焦艾米利亚大学);University of Pisa(比萨大学);University of Florence(佛罗伦萨大学);IIT-CNR(意大利国家研究委员会信息科学与技术研究所)
本研究针对前沿扩散模型生成的多模态DeepFake检测展开系统分析,对比不同视觉特征的检测性能,提出基于对比学习的解耦方法分析语义与低层线索的作用,并发布含约120万张图像的COCOFake数据集。
2024-05-21 cs.AI cs.CV cs.MM
Exposing flaws of generative model evaluation metrics and their unfair treatment of diffusion models
Layer 6 AI(Layer 6人工智能公司)
本文通过大规模人类评估揭示现有生成模型指标与人类感知真实感相关性弱且对扩散模型不公平,提出使用DINOv2-ViT-L/14等自监督特征提取器改进评估,并指出当前指标无法有效检测数据记忆,同时发布数据集与评估库。
2023-10-30 cs.CV cs.LG stat.ML
Exposing DeepFakes via Hyperspectral Domain Mapping
针对现有RGB域深度伪造检测方法易遗漏微弱篡改伪影的问题,本文提出两阶段HSI-Detect框架,将RGB输入重建为31通道高光谱图像后开展检测,在FaceForensics++上性能优于RGB基线,验证了光谱域映射的检测价值。
2025-11-13 cs.CV
Fighting Deepfake by Exposing the Convolutional Traces on Images
University of Catania(卡塔尼亚大学)
人工智能和图像处理的进步正在改变人们与数字图像和视频交互的方式。像FACEAPP这样的广泛移动应用程序利用最先进的生成对抗网络(GAN)对人脸照片进行极端变换,如性别交换,老化等,结果非常逼真,即使对于非经验丰富的用户也非常容易被利用。这种媒体对象被命名为Deepfake,并在多媒体取证领域提出了一个新的挑战:Deepfake检测挑战。事实上,即使对于人眼来说,从真实图像中区分Deepfake也可能是一项艰巨的任务,但最近的工作正在尝试应用用于生成图像的相同技术来区分它们,初步效果良好,但有许多限制:所采用的卷积神经网络不是那么鲁棒,表现出特定于上下文,并且倾向于从图像中提取语义。本文提出了一种从图像中提取Deepfake指纹的新方法。该方法基于期望最大化算法,该算法经过训练以检测和提取代表GANs在图像生成期间留下的卷积迹(CT)的指纹。CT具有高鉴别力,在Deepfake检测任务中比最先进的技术取得了更好的结果,并且对不同的攻击具有鲁棒性。总体分类准确率超过98%,考虑到来自10种不同GAN架构的Deepfakes不仅涉及面部图像,CT证明是可靠的,并且不依赖于图像语义。最后,在FACEAPP生成的Deepfakes上进行的测试在虚假检测任务中达到了93%的准确率,证明了所提出的技术在真实情况下的有效性。
2020-08-07 cs.CV
Beyond Semantics: Uncovering the Physics of Fakes via Universal Physical Descriptors for Cross-Modal Synthetic Detection
SDIC Intelligence Information Technology Co., Ltd.(国投智能信息技术有限公司);Xia'men University(厦门大学)
本文提出通过通用物理描述符区分真实与AI生成图像,探索跨模态合成检测中的核心物理特征及多模态模型整合方法,实现高准确率检测。
2026-04-06 cs.CV
MPF-Net: Exposing High-Fidelity AI-Generated Video Forgeries via Hierarchical Manifold Deviation and Micro-Temporal Fluctuations
Nanchang University(南昌大学);Guangdong Provincial Key Laboratory of Intelligent Information Processing, Shenzhen Key Laboratory of Media Security(广东省智能信息处理重点实验室、深圳媒体安全重点实验室);SZU AFS Joint Innovation Center for AI Technology, Shenzhen University(SZU AFS人工智能技术联合创新中心、深圳大学);Huazhong University of Science(华中科技大学);University of North Texas(北卡罗来纳州立大学);The Smart City Research institute of China Electronics Technology Group Corporation, shenzhen(中国电子科技集团有限公司智慧城市研究院,深圳)
MPF-Net通过分层流形偏差和微时间波动检测高保真AI生成视频伪造。
2026-02-02 cs.CV
Privacy Distillation: Reducing Re-identification Risk of Multimodal Diffusion Models
King’s College London(伦敦国王学院);The University of Edinburgh(爱丁堡大学)
针对多模态扩散模型可能泄露患者可识别信息的问题,提出 Privacy Distillation 框架,通过真实数据训练、合成数据过滤和二次模型训练,在保持下游性能的同时降低再识别风险。
2023-06-02 cs.CR cs.CV cs.LG
AstroSpy: On detecting Fake Images in Astronomy via Joint Image-Spectral Representations
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
针对AI生成图像引发的天文图像真实性问题,提出融合光谱与图像特征的双路径混合模型AstroSpy,在约1.8万样本的数据集上训练,域内及跨域检测性能均显著优于基线,可用于应对天文领域的虚假信息。
2024-07-09 cs.CV
Detecting Origin Attribution for Text-to-Image Diffusion Models
University of Pennsylvania(宾夕法尼亚大学);Adobe Inc.(奥多比公司)
该研究针对文本到图像扩散模型生成图像的来源归因检测,分析了推理超参数、图像修改等可识别因素,发现初始化种子高度可检测,风格表示训练的归因器性能更优,表明虚假图像在多视觉粒度层面可归因。
2025-04-16 cs.CV
MMA-Diffusion: MultiModal Attack on Diffusion Models
The Chinese University of Hong Kong(香港中文大学);Huawei(华为);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Beijing Wenge Technology Co. Ltd(北京文格科技有限公司)
本文提出MMA-Diffusion框架,通过联合利用文本与视觉模态绕过提示过滤器和安全检查器,揭示T2I模型在生成NSFW内容方面的安全漏洞。
2024-03-30 cs.CR cs.CV
Generating and Detecting Various Types of Fake Image and Audio Content: A Review of Modern Deep Learning Technologies and Tools
Faculty of Artificial Intelligence and Cognitive Science, Imam Hossein Comprehensive University(伊玛目侯赛因综合大学人工智能与认知科学学院)
本文综述深度伪造生成与检测的前沿技术,梳理换脸、语音转换等多种方法及应用,分析生成与检测的“军备竞赛”及检测挑战,指明未来研究方向,助力应对深度伪造的安全威胁。
2025-01-07 cs.CR cs.LG
Beyond Known Fakes: Generalized Detection of AI-Generated Images via Post-hoc Distribution Alignment
School of Cyber Science and Technology, Shandong University(网络安全科学与技术学院,山东大学);State Key Laboratory of Cryptography and Digital Economy Security, Shandong University(密码与数字经济安全国家重点实验室,山东大学);Shandong Key Laboratory of Artificial Intelligence Security, Shandong University(人工智能安全山东省重点实验室,山东大学)
本文提出PDA框架,通过事后分布对齐实现对未知生成器AI图像的通用检测,实验显示其在16种生成模型上的检测准确率达96.69%。
2026-01-16 cs.AI cs.CR cs.CV
ASAP: Interpretable Analysis and Summarization of AI-generated Image Patterns at Scale
Arizona State University(亚利桑那州立大学);IBM Research(IBM研究院);University of Maryland(马里兰大学)
ASAP 是一个基于 CLIP 改编编码器和梯度注意力分析的可视化系统,用于大规模提取、量化和交互式探索 AI 生成图像中的欺骗性模式,并在多个基准数据集上验证了其检测扩散模型伪造人脸的能力。
2024-04-03 cs.AI cs.CV cs.HC
FakeChain: Exposing Shallow Cues in Multi-Step Deepfake Detection
Sungkyunkwan University Department of Artificial Intelligence Suwon Gyeonggi-do South Korea;Sungkyunkwan University Computer Science \& Engineering Department Suwon Gyeonggi-do South Korea;Sungkyunkwan University
本研究针对多步混合深度伪造对单步训练检测模型的挑战,推出大型基准FakeChain并开展分析,发现检测性能高度依赖最终篡改类型,凸显了考虑篡改序列及相关基准的重要性。
2025-09-30 cs.AI cs.CV
Towards More Accurate Fake Detection on Images Generated from Advanced Generative and Neural Rendering Models
Carnegie Mellon University(卡内基梅隆大学);The Hong Kong Polytechnic University(香港理工大学)
针对神经渲染技术生成图像的伪造检测难题,提出无监督频域特征提取方法,构建多模态检测器并建立首个3D神经渲染伪造图像数据库,显著提升检测泛化能力。
2024-11-13 cs.AI cs.CV
Text-image guided Diffusion Model for generating Deepfake celebrity interactions
The University of Western Australia(西澳大学)
本文改造 stable diffusion 并结合图像锚定潜变量与 Dreambooth,实现文本-图像提示控制的高逼真多人名人互动深度伪造生成。
2023-09-26 cs.CV
Unveiling the Truth: Exploring Human Gaze Patterns in Fake Images
University of Modena and Reggio Emilia(摩德纳与雷焦艾米利亚大学)
本研究利用人类语义知识和眼动追踪实验,收集扩散模型生成的部分操纵图像数据集,发现人类观看虚假图像时注视更集中,为虚假图像检测框架提供新思路。
2024-03-13 cs.AI cs.CV
Exposing Hidden Biases in Text-to-Image Models via Automated Prompt Search
University of Edinburgh(爱丁堡大学)
本文提出Bias-Guided Prompt Search框架,通过自动生成提示最大化图像偏见,揭示文本到图像模型中的隐藏偏见,提升公平性评估。
2026-06-08 cs.LG
Eyes Tell All: Irregular Pupil Shapes Reveal GAN-generated Faces
University at Albany, State University of New York(纽约州立大学奥尔巴尼分校);University at Buffalo, State University of New York(纽约州立大学布法罗分校);Keya Medical(科亚医疗)
生成对手网络(GAN)生成的高度逼真的人脸已被用作虚假社交媒体账户的个人资料图像,并且在视觉上很难与真实的人区分开来。在这项工作中,我们证明了GAN生成的人脸可以通过不规则的瞳孔形状暴露出来。这种现象是由于GAN模型中缺乏生理约束造成的。我们证明了这种伪影广泛存在于高质量的GAN生成的人脸中,并进一步描述了一种自动方法来提取两只眼睛的瞳孔并分析它们的形状以暴露GAN生成的人脸。我们的方法的定性和定量评估表明,它在区分GAN生成的人脸方面的简单性和有效性。
2022-05-31 cs.CV
Detecting AutoEncoder is Enough to Catch LDM Generated Images
St. Petersburg Federal Research Center of the Russian Academy of Sciences(俄罗斯科学院圣彼得堡联邦研究中心)
本文提出通过检测LDM自编码器引入的伪影来识别生成图像,无需训练于合成数据,降低了计算成本并提升了泛化能力,实验显示高精度与低误报率。
2024-11-10 cs.CR cs.CV cs.LG
Intriguing properties of synthetic images: from generative adversarial networks to diffusion models
University Federico II of Naples(那不勒斯费德里科二世大学);NVIDIA(英伟达)
本文系统研究了GAN、DM和VQ-GAN等不同系列图像生成器,发现合成图像在傅里叶域、自相关及中高频信号上具有可区分的取证特征。
2023-06-29 cs.CV
Few-Step Diffusion via Score identity Distillation
UT Austin(德克萨斯大学奥斯汀分校);Google(谷歌);Google DeepMind(谷歌DeepMind);Microsoft(微软)
该研究优化无数据的分数恒等蒸馏(SiD)框架实现少步扩散生成,结合扩散GAN对抗损失与Zero-CFG、Anti-CFG两种引导策略,在SD1.5和SDXL模型的单/少步生成任务上取得SOTA性能,且对无真实图像场景具备鲁棒性。
2025-05-19 cs.CV cs.LG stat.ML
When Understanding Becomes a Risk: Authenticity and Safety Risks in the Emerging Image Generation Paradigm
CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全中心);Xi’an Jiaotong University(西安交通大学);Flexera(Flexera公司)
本文研究了多模态大语言模型在图像生成中的安全性风险,发现其在语义理解能力上强于扩散模型,但生成不安全内容和伪造图像的风险更高,挑战现有检测方法。
2026-03-25 cs.AI cs.CR cs.CV
Exposing Fake Images with Forensic Similarity Graphs
Drexel University(德雷塞尔大学)
本研究提出取证相似性图表示,将图像伪造检测与定位重构为图社区检测问题,采用两种社区检测技术实现,实验证明其性能优于现有最先进方法。
2020-04-20 cs.CV eess.IV
Rethinking Streaming Video Diffusion Model: Context, Execution, and Training
University of Chinese Academy of Sciences(中国科学院大学)
本文提出统一分析框架研究流式视频扩散设计空间,发现渐进历史策略在VBench上得分最高且加速1.57-2.83倍,并证明LoRA适配可大幅减少参数,表明完全去噪历史并非必要。
2026-09-22 cs.AI cs.CV
Hierarchical Channel Stacking: A Structured Decision Framework for AI-Generated Image Detection
Missouri University of Science & Technology(密苏里科学技术大学);University of Houston(休斯顿大学);Cranium AI, Inc.(颅人工智能公司)
本文提出分层通道堆叠(HCS)框架,将CNN中间激活转为结构化60维表示,在涵盖GAN和扩散生成器的基准测试中获86.7%准确率,可用于AI生成图像检测及相关证据整合机制研究。
2026-09-04 cs.CV cs.LG
Level Up the Deepfake Detection: a Method to Effectively Discriminate Images Generated by GAN Architectures and Diffusion Models
University of Catania(卡塔尼亚大学);Banca d'Italia(意大利银行)
图像深度伪造检测任务已被科学界广泛解决,以区分真实图像与人工智能(AI)模型生成的图像:二进制分类任务。在这项工作中,通过收集由9种不同的生成对抗网络(GAN)架构和4种额外的扩散模型(DM)生成的原始图像和假图像的专用数据集来研究deepfake检测和识别任务。然后,引入了一种分层多层次方法来解决三种不同的深度伪造检测和识别任务:(i)生成的真实与AI;(ii)GANs与DM;(iii)AI特定架构识别。实验结果表明,在每种情况下,超过97%的分类准确率,优于最先进的方法。
2023-03-01 cs.CV
Community Forensics: Using Thousands of Generators to Train Fake Image Detectors
University of Michigan(密歇根大学)
本文构建含270万张图像、来自4803个生成模型的多样化数据集,用于研究并提升假图像检测器对未见生成模型的泛化能力。
2025-06-09 cs.CV
On quantifying and improving realism of images generated with diffusion
The University of Western Australia(西澳大利亚大学)
本文提出非学习的单图真实感指标 IRS,可跨模型与数据检测扩散及生成模型伪造图像,并用于优化 SDM 损失以提升生成质量,同时发布 Gen-100 数据集与代码。
2023-09-26 cs.CV
$μ$Flow: Leveraging Average Images for Improving Generalisation of Deepfake Faces Detectors
University of Catania(卡塔尼亚大学);University of Nottingham(诺丁汉大学)
提出仅用真实图像训练的单类深度伪造检测器$μ$Flow,通过平均图像放大生成痕迹并利用归一化流对齐特征分布,实现跨生成器类别的高泛化性能。
2026-08-17 cs.CV cs.LG
Training Diffusion Models with Federated Learning
Delft University of Technology(代尔夫特理工大学)
针对扩散模型中心化训练存在的隐私、版权等问题,提出适配FedAvg的联邦扩散训练方案,借助UNet骨干网络大幅降低交互参数量,同时保持与中心化训练相当的图像生成质量。
2024-06-18 cs.DC cs.LG
DepthFake: a depth-based strategy for detecting Deepfake videos
Sapienza University of Rome(罗马第一大学)
针对深度伪造视频检测问题,提出DepthFake方法,通过单目深度估计获取深度图结合RGB信息构建RGBD检测架构,在FaceForensic++数据集上实现最高11.7%的性能提升。
2022-08-23 cs.CV
Revoking Amnesia: RL-based Trajectory Optimization to Resurrect Erased Concepts in Diffusion Models
USTC(中国科学技术大学);Beihang University(北京航空航天大学);University of Manchester(曼彻斯特大学);NTU(南洋理工大学);FYUST(福建师范大学)
本研究发现现有扩散模型概念擦除仅为轨迹偏移造成的假象、本质可逆,提出基于GRPO的RL轨迹优化框架RevAm,无需改权重即可高效恢复被擦除概念,暴露了当前安全机制的漏洞。
2025-09-30 cs.CV cs.LG
Applying Guidance in a Limited Interval Improves Sample and Distribution Quality in Diffusion Models
Aalto University(阿尔托大学);NVIDIA(英伟达公司)
本文发现扩散模型采样链中引导仅在中间噪声水平有益,提出将引导限制在有限区间,显著提升ImageNet-512的FID(从1.81降至1.40),并在多种设置下验证了其通用性。
2024-11-06 cs.AI cs.CV cs.LG
CoDi: Co-evolving Contrastive Diffusion Models for Mixed-type Tabular Synthesis
Yonsei University(延世大学)
本文提出CoDi方法,通过两个互为条件且协同演化的扩散模型分别处理连续与离散变量,并引入对比学习与负采样强化二者关联,在11个数据集上验证了其在混合类型表格合成中的有效性。
2023-09-21 cs.AI cs.LG
Undercover Deepfakes: Detecting Fake Segments in Videos
National University of Singapore(新加坡国立大学);University of Melbourne(墨尔本大学)
针对现有检测方法对“仅轻微篡改片段的部分伪造视频”研究不足的问题,本文提出结合空间与时序Transformer的帧级+视频级检测方法,构建含细微过渡的新基准数据集,实验表现优异,可助力深度伪造精准审核。
2023-08-25 cs.CV
On the detection of synthetic images generated by diffusion models
University Federico II of Naples(那不勒斯费德里科二世大学);NVIDIA(英伟达)
在过去的十年中,在创建合成媒体方面取得了巨大的进步,这主要归功于基于生成对抗网络(GAN)的强大方法的发展。最近,基于扩散模型(DM)的方法已经获得了关注。除了提供令人印象深刻的照相现实主义水平外,它们还可以创建基于文本的视觉内容,在从艺术到视频游戏的许多不同应用领域开辟新的令人兴奋的机会。另一方面,这种属性是恶意用户手中的额外资产,他们可以生成和分发完全适应其攻击的虚假媒体,这对媒体取证社区构成了新的挑战。通过这项工作,我们试图了解区分由扩散模型生成的合成图像与原始图像的难度,以及当前最先进的检测器是否适合这项任务。为此,我们首先暴露扩散模型留下的取证痕迹,然后研究为GAN生成的图像开发的当前检测器如何在这些新的合成图像上执行,特别是在涉及图像压缩和加密的具有挑战性的社交网络场景中。数据集和代码可在github.com/grip-unina/DMimageDetection上获得。
2022-11-01 cs.CV
eval-unlearn: Benchmarking unlearning in Text-to-Image Diffusion Models
Imperial College London(伦敦帝国理工学院)
eval-unlearn是一个开源Python库,为文本到图像扩散模型的概念遗忘提供统一可复现的基准测试框架,集成12种遗忘技术和9种评估指标,并发布排行榜,揭示准确性-质量权衡。
2026-09-29 cs.AI cs.CV cs.LG