Modular MeanFlow: Towards Stable and Scalable One-Step Generative Modeling
Graduate School of Arts and Sciences, Columbia University, New York, USA(哥伦比亚大学艺术与科学研究生院);Department of Computer Science, University of Warwick, Coventry, UK(沃里克大学计算机科学系)
针对单步生成建模效率需求,提出模块化平均流(MMF)方法,通过微分恒等式损失、梯度调制及课程预热实现稳定训练,统一泛化现有方法并避免高阶导数,在多任务中展现高质量样本生成与鲁棒泛化能力。
2025-08-24 cs.LG
Modular Learning of Deep Causal Generative Models for High-dimensional Causal Inference
School of Electrical and Computer Engineering, Purdue University(普渡大学电气与计算机工程学院)
本文提出 Modular-DCM,通过模块化对抗训练并复用预训练条件生成模型,在潜在混杂下对高维数据的可识别因果查询进行可证明采样。
2024-10-27 cs.AI cs.IT cs.LG
Decision Stacks: Flexible Reinforcement Learning via Modular Generative Models
University of California Los Angeles(加州大学洛杉矶分校)
本文提出Decision Stacks框架,将目标条件策略智能体分解为三个可并行训练的生成模块,分别模拟观测、奖励和动作的时序演化,在多个MDP和POMDP离线策略优化任务中优于现有方法。
2023-10-29 cs.AI cs.LG
ConQuER: Modular Architectures for Control and Bias Mitigation in IQP Quantum Generative Models
本文提出模块化框架ConQuER,通过轻量级控制器电路和数据驱动优化,在保持经典可训练性的同时实现IQP量子生成模型的精确输出控制并显著缓解生成偏差。
2025-10-11 cs.AI cs.LG quant-ph
Provably robust deep generative models
Bosch Center for Artificial Intelligence(博世人工智能中心);Carnegie Mellon University(卡内基梅隆大学)
最近在对抗攻击方面的工作已经开发出可证明鲁棒的方法来训练深度神经网络分类器。然而,尽管它们经常在鲁棒性的背景下被提及,但深度生成模型本身在形式上分析其鲁棒性方面受到的关注相对较少。在本文中,我们提出了一种训练可证明鲁棒的生成模型的方法,特别是变分自动编码器(VAE)的可证明鲁棒版本。要做到这一点,我们首先正式定义一个(可证明的)鲁棒下界的似然变分下界,然后展示如何在训练过程中优化这个界,以产生一个鲁棒的VAE。我们在简单的例子上评估了该方法,并表明它能够产生对对抗攻击更加鲁棒的生成模型(即,对手试图扰乱输入,以便显著降低它们在模型下的可能性)。
2020-04-22 cs.LG stat.ML
GMem: A Modular Approach for Ultra-Efficient Generative Models
Research Center for Industries of the Future, Westlake University(西湖大学未来产业研究中心);School of Engineering, Westlake University(西湖大学工程学院);Zhejiang University(浙江大学)
针对扩散模型因需大网络记忆语义信息导致计算瓶颈的问题,提出GMem模块化方法,通过解耦记忆容量与模型并设独立记忆集,大幅提升训练/采样效率及生成多样性,在ImageNet上性能超越现有模型。
2025-02-11 cs.CV cs.LG
R2-D2: A Modular Baseline for Open-Domain Question Answering
Brno University of Technology(布尔诺理工大学)
本文提出了一种新的四阶段开放域QA流水线R2-D2(Rank两次,reaD两次)。该管道由检索器、通道重排序器、提取读取器、生成读取器和聚合来自所有系统组件的最终预测的机制组成。我们在三个开放领域的QA数据集上展示了它的实力:NaturalQuestions,TriviaQA和EfficientQA,在前两个数据集上超过了最先进的水平。我们的分析表明:(i)组合提取读取器和生成读取器产生高达5个精确匹配的绝对改进,并且它是具有不同参数的相同模型的后验平均集合的至少两倍有效,(ii)具有较少参数的提取读取器可以匹配生成读取器在提取QA数据集上的性能。
2021-09-08 cs.CL cs.IR cs.LG
Are Generative Classifiers More Robust to Adversarial Attacks?
Microsoft Research Cambridge(微软研究院剑桥分院);University of Cambridge(剑桥大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Eberhard Karls University of Tübingen(图宾根大学)
随着先进的攻击和防御技术的积极开发,人们对研究深度神经网络分类器对对手的鲁棒性越来越感兴趣。然而,最近的工作主要集中在判别分类器上,它只对给定输入的标签的条件分布进行建模。在本文中,我们提出并研究了深度贝叶斯分类器,它改进了经典的朴素贝叶斯与条件深度生成模型。我们进一步开发了对抗性示例的检测方法,这些方法在生成模型下拒绝低可能性的输入。实验结果表明,深度贝叶斯分类器比深度判别分类器更强大,并且所提出的检测方法对许多最近提出的攻击是有效的。
2019-05-27 cs.LG stat.ML
Understanding the Limitations of Conditional Generative Models
Vector Institute(向量研究所);University of Toronto(多伦多大学)
类条件生成模型有望克服其区别性对应模型的缺点。它们是以稳健的方式解决区分性任务的自然选择,因为它们联合优化了预测性能和输入分布的准确建模。在这项工作中,我们从理论和实践的角度研究了基于似然的生成模型的鲁棒分类,以研究它们是否可以兑现承诺。我们的分析集中在一系列鲁棒性属性上:(1)以对抗性示例的形式检测最坏情况下的离群值;(2)以模糊输入的形式检测平均情况下的离群值;(3)检测错误标记的分布输入。我们的理论结果表明,它是不可能的,以保证检测的不利扰动输入,即使是近最佳的生成分类器。实验上,我们发现,虽然我们能够训练强大的模型MNIST,鲁棒性完全崩溃CIFAR 10。我们将这种失败与各种不期望的模型属性联系起来,这些属性可以追溯到最大似然训练目标。尽管在文献中是一个常见的选择,我们的研究结果表明,基于似然的条件生成模型可能是令人惊讶的鲁棒分类无效。
2020-02-17 cs.LG stat.ML
Physics-Integrated Variational Autoencoders for Robust and Interpretable Generative Modeling
University of Applied Sciences and Arts Western Switzerland (HES-SO)(瑞士西部应用科学与艺术大学(HES-SO))
将物理模型集成到机器学习模型中,对于学习具有改进的可解释性和外推能力的鲁棒模型具有相当大的希望。在这项工作中,我们专注于将不完整的物理模型整合到深度生成模型中。特别是,我们介绍了一个架构的变分自编码器(VAE),其中的一部分的潜在空间是接地的物理。一个关键的技术挑战是在不完整的物理和可训练的组件(例如神经网络)之间取得平衡,以确保以有意义的方式使用物理部分。为此,我们提出了一种正则化学习方法,该方法控制可训练组件的效果,并保留基于物理的潜在变量的语义。我们不仅在一组合成和真实世界的数据集上展示了生成性能的改进,而且我们还展示了我们学习的鲁棒模型,这些模型可以以一种有意义的方式一致地外推到训练分布之外。此外,我们表明,我们可以控制生成过程中的一个可解释的方式。
2021-10-26 cs.LG stat.ML
MotionBricks: Scalable Real-Time Motions with Modular Latent Generative Model and Smart Primitives
NVIDIA;Simon Fraser University(西蒙·弗雷泽大学);The University of Texas at Austin(得克萨斯大学奥斯汀分校)
本文提出MotionBricks,通过模块化潜在生成模型和智能原语实现实时动作生成,解决工业应用中实时可扩展性和多模态控制的挑战,展示了高质量和实时性能。
2026-04-27 cs.AI cs.GR cs.LG
Robust Generative Adversarial Network
University of Liverpool(利物浦大学);Alibaba Group(阿里巴巴集团)
生成对抗网络(GANs)是一种强大的生成模型,但通常存在不稳定性和泛化问题,可能导致生成能力差。大多数现有的工作集中在稳定的训练,而忽略了泛化性能。在这项工作中,我们的目标是提高泛化能力的GANs的局部鲁棒性内的小邻域的训练样本。我们还证明了在训练集的小邻域内的鲁棒性可以导致更好的推广。特别是,我们设计了一个强大的优化框架,发电机和发电机相互竞争的\textit{worst-case}设置在一个小Wasserstein球。生成器尝试将\textit{the worst input distribution}(而不是大多数GANs中使用的高斯分布)映射到真实数据分布,而生成器尝试区分真实和虚假分布\textit{with the worst perturbation}。我们已经证明了我们的鲁棒方法可以在温和的假设下获得比传统GANs更严格的泛化上限,确保RGAN优于GANs的理论优势。在CIFAR-10,STL-10和CelebA数据集上的一系列实验表明,我们提出的鲁棒框架可以显著和一致地改善五个基线GAN模型。
2020-04-28 cs.LG stat.ML
Robust Inference via Generative Classifiers for Handling Noisy Labels
KAIST(韩国科学技术院);Google Brain(谷歌大脑);University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校);AItrics
大规模数据集可能包含相当大比例的噪声(不正确)类标签,并且众所周知,现代深度神经网络(DNN)很难从这种噪声训练数据集进行泛化。为了缓解这个问题,我们提出了一种新的推理方法,称为鲁棒生成分类器(RoG),适用于任何有区别的(例如,softmax)在噪声数据集上预训练的神经分类器。特别是,我们在预训练的DNN的隐藏特征空间之上引入了一个生成分类器,以获得更鲁棒的决策边界。通过使用最小协方差行列式估计器估计生成式分类器的参数,我们显着提高了分类精度,而无需重新训练深度模型,也无需改变其架构。假设特征为高斯分布,我们证明了RoG在噪声标签下比基线更好地推广。最后,我们提出了RoG的集成版本,通过研究DNN的逐层特性来提高其性能。我们广泛的实验结果证明了RoG的优越性,给出了通过多种训练技术优化的不同学习模型,以处理不同的噪声标签场景。
2019-05-13 cs.LG stat.ML
WAIC, but Why? Generative Ensembles for Robust Anomaly Detection
Google Inc.(谷歌公司)
当测试时看到的数据是从与用于生成训练数据的随机生成器不同的随机生成器生成时,机器学习模型会遇到分布外(OoD)错误。将OoD检测扩展到高维数据的一个建议是学习训练分布的易处理的似然近似,并使用它来拒绝不太可能的输入。然而,自然数据上的似然模型本身容易受到OoD错误的影响,甚至将大的似然分配给来自其他数据集的样本。为了缓解这个问题,我们提出了生成集成,鲁棒的密度为基础的OoD检测的方式估计认知的不确定性的似然模型。我们提出了一个令人困惑的观察需要一个解释-虽然可能性措施不能占典型的一组分布,因此不应该是适合自己的OoD检测,WAIC在实践中表现得令人惊讶的好。
2019-05-23 cs.LG stat.ML
StructuralDecompose: A Modular Framework for Robust Time Series Decomposition in R
University of Maryland, College Park(马里兰大学College Park分校)
本研究提出R包StructuralDecompose,将时间序列分解拆分为变点检测等多模块,兼顾灵活性与鲁棒性,经多数据集与前沿工具验证,可支撑可解释机器学习工作流。
2025-10-06 cs.LG
AuthorGAN: Improving GAN Reproducibility using a Modular GAN Framework
IBM Research AI(IBM研究院人工智能部门);IIIT Delhi(德里印度理工学院)
生成模型在文献中越来越受欢迎,生成对抗网络(GAN)是最成功的变体。随着这种需求的增长和普及,实现和使用GAN模型变得同样困难和具有挑战性。在47个从业者进行的定性用户调查显示,专家级技能需要使用GAN模型的给定任务,尽管存在各种开源库。在这项研究中,我们提出了一个新的系统称为AuthorGAN,旨在实现真正的民主化GAN创作。定义了GAN模型的高度模块化的库不可知表示,以实现GAN架构在Keras,Tensorflow和PyTorch等不同库之间的互操作性。使用node-red平台构建了一个直观的基于拖放的可视化设计器,以实现自定义架构设计,而无需编写任何代码。五种不同的GAN模型作为该框架的一部分实现,并使用基准MNIST数据集显示不同GAN模型的性能。
2019-11-26 cs.HC cs.LG
Policy Learning for Robust Markov Decision Process with a Mismatched Generative Model
Tsinghua University(清华大学);UT Austin(德克萨斯大学奥斯汀分校)
在医疗和自动驾驶等高风险场景中,在线收集实验数据来训练智能体是有风险的,甚至是不可行的。基于模拟的训练可以缓解这个问题,但可能会受到模拟器和真实环境的固有不匹配的影响。因此,必须利用模拟器来学习真实世界部署的强大策略。在这项工作中,我们考虑策略学习的鲁棒马尔可夫决策过程(RMDP),代理试图寻求一个强大的政策,对环境的意外扰动。具体来说,我们专注于训练环境可以被描述为生成模型的设置,并且在测试期间可以向模型添加约束扰动。我们的目标是确定一个接近最优的鲁棒性政策的扰动测试环境,这引入了额外的技术困难,因为我们需要同时估计样本的训练环境的不确定性,并找到最坏情况下的扰动测试。为了解决这个问题,我们提出了一个通用的方法,形式化的扰动作为一个对手,以获得一个两个玩家的零和游戏,并进一步表明,纳什均衡对应的鲁棒政策。我们证明了,从生成模型的多项式数量的样本,我们的算法可以找到一个接近最优的鲁棒策略,具有很高的概率。我们的方法是能够处理一般的扰动下,一些温和的假设,也可以扩展到更复杂的问题,如鲁棒的部分可观测马尔可夫决策过程,由于博弈论的制定。
2022-03-15 cs.LG stat.ML
Deep unfolding of MCMC kernels: scalable, modular & explainable GANs for high-dimensional posterior sampling
Maxwell Institute for Mathematical Sciences(麦克斯韦数学科学研究所);School of Mathematical and Computer Sciences, Heriot-Watt University(赫瑞-瓦特大学数学与计算机科学学院);School of Mathematics, University of Edinburgh(爱丁堡大学数学学院)
本文提出通过深度展开Langevin MCMC算法设计可扩展、模块化且可解释的GANs,用于高维后验采样,实现高效且稳定的采样性能。
2026-02-24 cs.LG
Principled Understanding of Generalization for Generative Transformer Models in Arithmetic Reasoning Tasks
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);ShanghaiTech University(上海科技大学);University of Hong Kong(香港大学);Fudan University(复旦大学)
本文提出统一理论框架,通过分析加法、乘法及模运算,揭示平移不变性与相对位置编码对长度泛化的作用,并经GPT系列实验验证,强调任务结构与数据分布的重要性。
2025-05-30 cs.AI cs.LG
Generative Robust Classification
University of Virginia(弗吉尼亚大学)
训练对抗性强的判别(即,softmax)分类器已经成为鲁棒分类的主要方法。基于最近在基于对抗训练(AT)的生成模型方面的工作,我们研究了使用AT来学习非规范化的类条件密度模型,然后执行生成鲁棒分类。结果表明,在模型容量相近的情况下,当测试数据干净或测试扰动大小有限时,生成式鲁棒分类器的性能与基线softmax鲁棒分类器相当,而当测试扰动大小超过训练扰动大小时,生成式鲁棒分类器的性能要优于基线softmax鲁棒分类器.生成分类器还能够生成更接近于训练数据的样本或反事实,这表明生成分类器可以更好地捕获类条件分布。与标准的判别对抗训练相比,高级数据增强技术只有在与权重平均相结合时才有效,我们发现应用高级数据增强来实现更好的鲁棒性是很简单的。我们的研究结果表明,生成分类器是一个有竞争力的替代强大的分类,特别是对有限数量的类的问题。
2022-12-14 cs.CV cs.LG
Implicit Generative Modeling of Random Noise during Training for Adversarial Robustness
Purdue University(普渡大学)
我们介绍了一种基于噪声的先验学习(NoL)方法,用于训练对对抗攻击具有内在鲁棒性的神经网络。我们发现,隐式生成建模的随机噪声与相同的损失函数在后验最大化,提高了模型的理解的数据流形进一步对抗的鲁棒性。我们评估了我们的方法的有效性,并使用主成分分析提供了一个简单的可视化工具来理解对抗性数据。我们的分析表明,一般来说,对抗性鲁棒性表现在沿着高排名主成分具有较高方差的模型中。我们表明,用我们的方法学习的模型在各种攻击中表现得非常好。此外,将NoL与最先进的对抗训练相结合,可以扩展模型的鲁棒性,甚至超出了白盒和黑盒攻击场景中对抗训练的范围。
2019-05-31 cs.CV cs.LG stat.ML
Diffusion-model approach to flavor models: A case study for $S_4^\prime$ modular flavor model
Department of Physics, Kyushu University(九州大学物理系)
利用扩散模型(一种生成式人工智能)提出一种数值方法,通过实验约束搜索味模型参数,并以$S_4^\prime$模味模型为例,构建神经网络再现夸克质量、CKM矩阵和Jarlskog不变量,发现新的现象学感兴趣参数区域,并确认自发CP破坏。
2026-08-18 cs.LG hep-ph hep-th
Distributionally Robust Optimization via Generative Ambiguity Modeling
Department of Computer Science University of Houston(计算机科学系 休斯顿大学)
本文提出了一种基于生成模型的分布鲁棒优化方法GAS-DRO,通过生成模糊集提升模型在对抗分布下的泛化能力。
2026-02-09 cs.LG
Label-Noise Robust Generative Adversarial Networks
The University of Tokyo(东京大学);RIKEN(理化学研究所)
生成对抗网络(GANs)是一个通过对抗训练学习生成分布的框架。最近,他们的类条件扩展(例如,条件GAN(cGAN)和辅助分类器GAN(AC-GAN)由于其学习解纠缠表示和提高训练稳定性的能力而受到广泛关注。然而,它们的训练需要大规模准确的类标记数据,这在现实世界中收集起来往往很费力或不切实际。为了解决这个问题,我们提出了一种新的GANs家族,称为标签噪声鲁棒GANs(rGANs),通过引入噪声过渡模型,即使在训练标签有噪声的情况下,也可以学习干净的标签条件生成分布。特别是,我们提出了两个变体:rAC-GAN,它是AC-GAN和标签噪声鲁棒分类模型之间的桥接模型,以及rcGAN,它是cGAN的扩展,可以在不依赖任何分类器的情况下解决这个问题。除了提供理论背景之外,我们还通过使用不同的GAN配置,各种噪声设置和多个评估指标(其中我们总共测试了402个条件)的广泛实验来证明我们的模型的有效性。我们的代码可在https://github.com/takuhirok/rGAN/上获得。
2019-05-02 cs.CV cs.LG stat.ML
Robust Gymnasium: A Unified Modular Benchmark for Robust Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校);California Institute of Technology(加州理工学院);Shanghai Jiao Tong University(上海交通大学);Virginia Tech(弗吉尼亚理工大学);Carnegie Mellon University(卡内基梅隆大学)
针对鲁棒强化学习缺乏标准化基准的问题,提出统一模块化基准Robust-Gymnasium,支持多种干扰,涵盖60多个任务环境,并基准测试现有算法,揭示其缺陷。
2025-02-27 cs.AI cs.LG cs.RO
Distributionally Robust Chance Constrained Programming with Generative Adversarial Networks (GANs)
College of Engineering, Cornell University(康奈尔大学工程学院)
提出了一种基于深度学习的数据驱动最优化方法。提出了一种基于数据驱动的分布式鲁棒机会约束规划框架的生成对抗网络(GAN)。GAN是应用于充分提取分布信息的历史数据中的非参数和无监督的方式,没有先验近似或假设。由于GAN利用深度神经网络,可以学习复杂的数据分布和模式,并且可以高效准确地建模不确定性。分布鲁棒机会约束规划考虑了不确定参数的模糊概率分布。为了解决计算上的挑战,采用样本平均近似方法,所需的数据样本由GAN通过可微网络以端到端的方式生成。然后将该框架应用于需求不确定条件下的供应链优化问题。所提出的方法的适用性说明通过一个县一级的空间明确的生物燃料供应链在伊利诺伊州的案例研究。
2020-02-28 cs.LG math.OC stat.ML
The Neural Division of Labor: Biologically-Inspired Modular Architectures for Robust Neuromorphic Computing
University of California San Diego(加州大学圣地亚哥分校);University of Alberta(阿尔伯塔大学);University of Alabama(阿拉巴马大学)
本文提出可分解脉冲神经网络(D-SNN),采用生物启发模块化架构,在减少参数与突触操作的同时,实现鲁棒性与决策透明性,为边缘神经形态计算提供高效方案。
2026-08-11 cs.LG
Statistically Accurate and Robust Generative Prediction of Rock Discontinuities with A Tabular Foundation Model
School of Engineering(工程学院);Technology, China University of Geosciences (Beijing)(技术学院,中国地质大学(北京));School of Geological Engineering(地质工程学院);Geomatics, Chang'an University(测绘学,长安大学);School of Engineering, China University of Geosciences (Wuhan)(工程学院,中国地质大学(武汉))
本文提出利用表格基础模型实现对岩体结构的统计准确且鲁棒的生成预测,通过小数据学习有效捕捉复杂分布模式,实验表明优于传统方法。
2025-12-01 cs.LG
Generative Adversarial Nets for Robust Scatter Estimation: A Proper Scoring Rule Perspective
University of Chicago(芝加哥大学);Hong Kong University of Science and Technology(香港科技大学)
稳健散布估计是统计学中的一项基本任务。Gao et al.(2018)最近关于鲁棒估计和生成对抗网络(GANs)之间的联系的发现表明,可以使用优化GANs的类似技术来计算类似深度的鲁棒估计器。在本文中,我们介绍了一个一般的学习通过分类框架的基础上适当的评分规则的概念。这个框架允许我们通过$f$的变分近似的透镜来理解矩阵深度函数和各种GANs-由适当的评分规则引起的发散。然后,我们提出了一类新的强大的散布估计在这个框架中仔细构造鉴别器与适当的神经网络结构。在Huber污染模型下,证明了这些估计量能达到极小极大散布率估计.我们的数值结果表明,在各种设置下对文献中的竞争对手的良好性能。
2019-03-05 cs.LG math.ST stat.ML
Robust Learning Meets Generative Models: Can Proxy Distributions Improve Adversarial Robustness?
Princeton University(普林斯顿大学);Caltech(加州理工学院);Purdue University(普渡大学)
虽然额外的训练数据提高了深度神经网络对对抗性示例的鲁棒性,但它带来了管理大量特定真实世界样本的挑战。我们通过使用来自高级生成模型学习的代理分布的额外数据来规避这一挑战。我们首先寻求正式理解的转移鲁棒性从代理分布训练的分类器的真实数据分布。我们证明了两个分布的分类器的鲁棒性之间的差异是上界的条件Wasserstein距离。接下来,我们使用代理分布来显著提高对抗训练在五个不同数据集上的性能。例如,我们在$\ell_{\infty}$和$\ell_2$威胁模型中将鲁棒准确性提高了7.5%和6.7%,超过了在CIFAR-10数据集上不使用代理分布的基线。我们还将CIFAR-10数据集的认证稳健准确率提高了7.6%。我们进一步证明了不同的生成模型在鲁棒训练中带来了不同的性能改善。我们提出了一个强大的判别方法来表征个体生成模型的影响,并进一步深入了解为什么当前基于扩散的生成模型是代理分布的更好选择,而不是生成对抗网络。
2022-03-03 cs.CR cs.CV cs.LG
Robust Speech Recognition Using Generative Adversarial Networks
Baidu Research(百度研究院)
本文描述了一个通用的,可扩展的,端到端的框架,使用生成对抗网络(GAN)的目标,使强大的语音识别。使用所提出的方法训练的编码器通过学习将嘈杂音频映射到与干净音频相同的嵌入空间来享受改进的不变性。与以前的方法不同,新框架不依赖于信号处理中经常需要的领域专业知识或简化假设,而是以数据驱动的方式直接鼓励鲁棒性。我们表明,新方法提高了香草序列到序列模型的模拟远场语音识别,而无需专门的前端或预处理。
2017-11-05 cs.CL cs.LG
Conditional Generative Models are Provably Robust: Pointwise Guarantees for Bayesian Inverse Problems
Humboldt-Universität zu Berlin(柏林洪堡大学);Technische Universität Berlin(柏林工业大学)
本文首次证明适当学习的条件生成模型在贝叶斯反问题中对单个观测值的扰动具有可证明的鲁棒性。
2024-07-19 cs.LG math.ST stat.TH
Towards Understanding the Generative Capability of Adversarially Robust Classifiers
Zhejiang University(浙江大学)
最近,一些工作发现了一个有趣的现象,对抗鲁棒分类器可以生成与生成模型相当的好图像。我们从能量的角度研究这一现象,并提供了一个新的解释。我们重新制定了对抗性示例生成,对抗性训练和图像生成的能量函数。我们发现,对抗性训练有助于获得一个平坦的能量函数,并且在真实数据周围具有较低的能量,这是生成能力的关键。基于我们的新理解,我们进一步提出了一种更好的对抗训练方法,联合能量对抗训练(JEAT),它可以生成高质量的图像,并在广泛的攻击下实现新的最先进的鲁棒性。JEAT生成的图像的初始得分(CIFAR-10)为8.80,远远优于原始的鲁棒分类器(7.50)。
2021-09-14 cs.CV cs.LG
Variational Outlier-Robust Gaussian Process Regression with Generative Modeling
Zunitech, LLC(祖尼特科技有限责任公司);Institute of Data Science, University of Engineering and Technology, Lahore, Pakistan(拉合尔工程技术大学数据科学学院)
针对离群值扭曲高斯过程回归的问题,提出带生成建模的变分离群值鲁棒高斯过程回归方法,经实验验证其预测精度优于多数基线且计算复杂度为立方级。
2026-08-18 cs.LG
Robust Compressed Sensing MRI with Deep Generative Priors
ECE, UT Austin(德克萨斯大学奥斯汀分校电子与计算机工程系)
CSGM框架(Bora-Jalal-Price-Dimakis'17)表明,深度生成先验可以成为解决逆问题的强大工具。然而,到目前为止,这个框架仅在某些数据集(例如人脸和MNIST数字)上取得了经验上的成功,并且已知它在分布外样本上表现不佳。在本文中,我们提出了第一个成功的应用CSGM框架的临床MRI数据。我们训练一个生成的前从fastMRI数据集的脑扫描,并通过朗之万动力学后采样实现高质量的重建。此外,我们的实验和理论表明,后验采样是强大的地面真理分布和测量过程中的变化。我们的代码和型号可从以下网址获得:\url{https://github.com/utcsilab/csgm-mri-langevin}。
2021-12-06 cs.CV cs.IT cs.LG
Mismatch-Robust Underwater Acoustic Localization Using A Differentiable Modular Forward Model
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Stony Brook University(石溪大学)
针对环境失配下的水下声学定位问题,提出在推理时优化预训练网络权重并引入物理启发的模块化正向模型,以端到端方式学习多径结构,有效缓解数据失配影响。
2025-03-30 cs.LG cs.SD eess.AS
On the Benefits of Inducing Local Lipschitzness for Robust Generative Adversarial Imitation Learning
NVIDIA Corporation(英伟达公司);Purdue University(普渡大学);The University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);The University of Texas at Austin(得克萨斯大学奥斯汀分校)
本文针对GAIL在观测噪声下性能下降的问题,提出在生成器和判别器中诱导局部Lipschitz性的正则化方法,并从理论和实验证明其能显著提升所学策略的鲁棒性,在MuJoCo噪声测试场景中优于现有最优GAIL算法。
2024-01-15 cs.LG
DeepFusion: A Robust and Modular 3D Object Detector for Lidars, Cameras and Radars
Robert Bosch GmbH(罗伯特·博世有限公司)
我们提出了DeepFusion,这是一种模块化的多模态架构,可以将激光雷达,摄像头和雷达以不同的组合融合在一起,用于3D目标检测。专业的特征提取器利用每种模态,并且可以轻松交换,使方法简单而灵活。提取的特征被转换成鸟瞰图作为一个共同的表示融合。在特征空间中融合模态之前执行空间和语义对齐。最后,检测头利用丰富的多模态特征来提高3D检测性能。激光雷达-相机、激光雷达-相机-雷达和相机-雷达融合的实验结果表明了该融合方法的灵活性和有效性。在这个过程中,我们研究了远距离汽车检测的基本上未探索的任务,最远可达225米,展示了我们的激光雷达相机融合的好处。此外,我们调查所需的密度的激光雷达点的三维目标检测,并说明在对恶劣天气条件下的鲁棒性的例子的影响。此外,我们的相机雷达融合烧蚀研究突出了准确的深度估计的重要性。
2022-09-27 cs.AI cs.CV cs.LG
Romanus: Robust Task Offloading in Modular Multi-Sensor Autonomous Driving Systems
University of California, Irvine(加州大学欧文分校)
由于自动驾驶应用的高性能和安全要求,现代自动驾驶系统(ADS)的复杂性一直在增长,因此需要更复杂的硬件,这可能会增加ADS平台的能源足迹。为了解决这个问题,边缘计算准备涵盖自动驾驶应用程序,使计算密集型的与安全相关的任务能够卸载,以便在具有计算能力的边缘服务器上进行处理。尽管如此,ADS平台复杂的硬件架构,加上严格的鲁棒性要求,为自动驾驶特有的任务卸载带来了复杂性。因此,我们提出了$ROMANUS$,一种强大的和有效的任务卸载模块化ADS平台与多传感器处理管道的方法。我们的方法需要两个阶段:(i)在所涉及的深度学习模型的执行路径上引入有效的卸载点,以及(ii)基于深度强化学习的运行时解决方案的实现,以根据感知的道路场景复杂性,网络连接性和服务器负载的变化来调整操作模式。在目标检测用例上的实验表明,我们的方法比纯本地执行高出14.99%的能效,同时从鲁棒不可知的卸载基线减少了77.06%的风险行为。
2022-07-18 cs.CV cs.DC cs.LG
Robust 1-bit Compressive Sensing with Partial Gaussian Circulant Matrices and Generative Priors
National University of Singapore(新加坡国立大学);Tencent(腾讯)
在1比特压缩感知中,每个测量被量化为单个比特,即未知向量的线性函数的符号,目标是准确地恢复向量。虽然最流行的是假设标准高斯感测矩阵用于1比特压缩感测,但是使用结构化感测矩阵(诸如部分高斯循环矩阵)由于其更快的矩阵运算而具有显著的实际重要性。在本文中,我们提供了一个基于相关性的鲁棒1位压缩感知的优化算法与随机签署的部分高斯循环矩阵和生成模型的恢复保证。在适当的假设下,我们匹配了以前只知道对i.i.d.~高斯矩阵,需要更多的计算。我们利用一个实用的迭代算法,并进行了数值实验上的图像数据集,以证实我们的理论结果。
2021-08-08 cs.IT cs.LG math.IT
Applications of Modular Co-Design for De Novo 3D Molecule Generation
NVIDIA;Department of Computational Biology, Carnegie Mellon University(计算生物学系,卡内基梅隆大学);Department of Chemistry, Carnegie Mellon University(化学系,卡内基梅隆大学)
本文提出可扩展Transformer模型家族Megalodon,通过等变层和联合去噪协同设计目标,在三维分子生成基准上达到最先进性能,参数翻倍至40M可生成49倍更多有效大分子且能量低2-10倍。
2025-05-23 cs.AI cs.LG q-bio.BM
Discriminatively-Tuned Generative Classifiers for Robust Natural Language Inference
University of Chicago(芝加哥大学);Toyota Technological Institute at Chicago(芝加哥丰田理工学院);Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室)
虽然判别式神经网络分类器通常是优选的,但是最近的工作已经显示出生成式分类器在数据效率和鲁棒性方面的优势。在本文中,我们专注于自然语言推理(NLI)。我们提出了GenNLI,一个用于NLI任务的生成分类器,并通过将其与五个基线进行比较来实证表征其性能,包括判别模型和大规模预训练语言表示模型,如BERT。我们探索了我们的生成分类器的区分微调的训练目标,显示了对先前工作的日志损失微调的改进。特别是,我们发现一个简单的无界修改日志损失,我们称之为“infinilog损失”强有力的结果。我们的实验表明,GenNLI在几个具有挑战性的NLI实验设置中,包括小训练集,不平衡的标签分布和标签噪声,都优于判别和预训练基线。
2020-10-08 cs.CL cs.LG
Functionally Modular and Interpretable Temporal Filtering for Robust Segmentation
Bosch Center for Artificial Intelligence(博世人工智能中心);University of Bonn(波恩大学)
自治系统的性能在很大程度上依赖于它们生成环境的鲁棒表示的能力。深度神经网络极大地改善了基于视觉的感知系统,但在具有挑战性的情况下仍然失败,例如传感器中断或恶劣天气。这些故障通常是由数据固有的扰动引入的,这显著减少了提供给感知系统的信息。我们提出了一个功能模块化的时间滤波器,它稳定了一个抽象的特征表示的单帧分割模型使用以前的时间步长的信息。我们的过滤器模块将过滤器任务拆分为多个不太复杂且更易于解释的子任务。滤波器的基本结构是由贝叶斯估计的预测和更新步骤组成的启发。为了使预测更加透明,我们使用几何投影来实现它并估计其参数。这另外使得能够将滤波器任务分解为静态表示滤波和低维运动滤波。我们的模型可以处理丢失的帧,并且可以以端到端的方式进行训练。使用逼真的,合成的视频数据,我们展示了所提出的架构,以克服数据固有的扰动的能力。实验特别突出了一个可解释的和明确的过滤器模块引入的优点。
2018-10-15 cs.CV cs.LG
Gradient Inversion Transcript: Leveraging Robust Generative Priors to Reconstruct Training Data from Gradient Leakage
提出GIT生成式方法,利用定制生成先验从泄漏梯度高效重建训练数据,加速优化收敛并提升质量,在多种挑战下鲁棒性优于现有方法。
2025-05-26 cs.AI cs.LG
COMPOSER: Scalable and Robust Modular Policies for Snake Robots
Carnegie Mellon University(卡内基梅隆大学)
针对蛇形机器人超冗余高维带来的控制难题,本研究提出基于协作MARL的COMPOSER模块化控制策略,结合自注意力与高层想象奖励,在5项任务中成功率最优,且鲁棒性和零样本泛化性更优。
2023-10-02 cs.LG cs.RO
GREAT Score: Global Robustness Evaluation of Adversarial Perturbation using Generative Models
The Chinese University of Hong Kong(香港中文大学);IBM Research(IBM研究院)
本文提出 GREAT Score 框架,利用生成模型估计数据分布上的平均认证抗扰动水平,实现高效、可扩展且支持黑盒远程审计的全局对抗鲁棒性评估。
2024-10-28 cs.AI cs.LG
Hidden Tree Markov Networks: Deep and Wide Learning for Structured Data
Università di Pisa(比萨大学)
本文介绍了隐树马尔可夫网络(HTN),神经概率混合融合的生成模型的表示能力与神经网络的增量和判别式学习能力的树木。我们提出了一种模块化架构,在该架构中,训练复杂度有限的多个生成模型来学习结构特征检测器,然后在稍后阶段将其输出组合并由神经层集成。在这方面,由于生成模型在输入结构上的展开,该模型既很深,又很宽,因为可以并行训练的生成模块可能很多。实验结果表明,该方法可以优于最先进的语法内核,以及生成内核建立在相同的概率模型的HTN。
2017-11-21 cs.AI cs.LG cs.NE
Robust Out-of-Distribution Detection on Deep Probabilistic Generative Models
Seoul National University(首尔国立大学)
在机器学习系统中,为了保证系统的可靠性和安全性,分发外(OOD)检测是一项重要的任务。深度概率生成模型通过估计数据样本的可能性来促进OOD检测。然而,这样的模型经常将可疑的高可能性分配给特定的离群值。最近的一些工作已经解决了这个问题,通过训练一个神经网络与辅助离群值,这是由扰动的输入数据。在本文中,我们发现,这些方法失败的某些OOD数据集。因此,我们提出了一个新的检测指标,没有离群暴露。我们观察到,我们的度量是强大的图像的各种变化相比,以前的离群暴露方法。此外,我们提出的分数既不需要辅助模型,也不需要额外的训练。相反,本文从一个新的角度利用似然比统计量从给定的单个深度概率生成模型中提取真正的属性。我们还采用了一种新的数值近似,使快速实施。最后,我们展示了各种概率生成模型的综合实验,并表明我们的方法达到了最先进的性能。
2021-06-15 cs.CV cs.LG
Robust Estimation for Nonparametric Families via Generative Adversarial Networks
University of California, Berkeley(加州大学伯克利分校)
我们提供了一个通用的框架来设计生成对抗网络(GANs),以解决高维鲁棒统计问题,其目的是估计未知参数的真实分布给定的对抗损坏的样本。以往的工作集中在鲁棒均值和协方差估计的问题时,真正的分布是在家庭的高斯分布或椭圆分布,并分析深度或评分规则的GAN损失的问题。我们的工作扩展到鲁棒均值估计,二阶矩估计和鲁棒线性回归时,真正的分布只有有界Orlicz范数,其中包括广泛的家庭的次高斯,次指数和有界矩分布。我们还为GAN损失工作提供了一组不同的充分条件:我们只需要它的诱导距离函数是某种轻尾分布的累积密度函数,这很容易由具有S形激活的神经网络满足。在技术方面,我们提出的GAN损失可以被视为平滑和广义的Kolmogorov-Smirnov距离,它克服了先前工作中使用的原始Kolmogorov-Smirnov距离的计算困难性。
2022-02-02 cs.LG eess.SP math.ST
Learning from Imperfect Data: Robust Inference of Dynamic Systems using Simulation-based Generative Model
POSTECH(POSTECH大学)
本文提出SiGMoID模型,通过结合物理指导神经网络和Wasserstein生成对抗网络,实现对动态系统在噪声数据下的稳健推断和参数估计。
2025-12-24 cs.LG math.DS
Generative Robust Optimisation
Department of Chemical Engineering, Sargent Centre for Process Systems Engineering, UCL (University College London)(伦敦大学学院化学工程系,萨金特过程系统工程中心)
提出生成式鲁棒优化(GRO)框架,用深度生成模型定义不确定性集,通过五点评分标准评估,结合Wasserstein对抗自编码器实现,在规划问题中验证其表达力与可解性。
2026-06-23 cs.AI cs.LG cs.SY
Exploring the Connection between Robust and Generative Models
Sapienza, University of Rome(罗马第一大学)
本文揭示对抗训练分类器内部隐含 EBM 生成结构,并据此解释、检测无目标对抗样本,提出能量接近真实数据的 High-Energy PGD 攻击。
2023-06-05 cs.CR cs.CV cs.LG
Exploring Speech Enhancement with Generative Adversarial Networks for Robust Speech Recognition
UC San Diego(加州大学圣地亚哥分校);Google(谷歌)
我们研究了生成对抗网络(GANs)用于语音增强的有效性,在提高自动语音识别(ASR)系统的噪声鲁棒性的背景下。先前的工作表明,GANs可以有效地抑制原始波形语音信号中的加性噪声,提高感知质量指标;然而,这种技术在ASR的背景下并不合理。在这项工作中,我们进行了详细的研究,以衡量GANs在增强受加性和混响噪声污染的语音的有效性。受图像处理最新进展的启发,我们提出在log-Mel滤波器组谱而不是波形上操作GANs,这需要更少的计算,并且对混响噪声更具鲁棒性。虽然GAN增强提高了干净训练的ASR系统对噪声语音的性能,但它达不到传统多风格训练(MTR)所实现的性能。通过将GAN增强功能附加到噪声输入和再训练,我们实现了相对于MTR系统7%的WER改善。
2018-10-31 cs.LG cs.NE cs.SD