Detecting Spiky Corruption in Markov Decision Processes
Dropout Labs（Dropout实验室）；ETH Zürich（苏黎世联邦理工学院）；Terrafuse（Terrafuse公司）
当前的强化学习方法在奖励函数不完善的情况下失败，即如果代理观察到的奖励与实际收到的奖励不同。我们研究这个问题的腐败报酬马尔可夫决策过程（CRMDPs）的形式主义。我们表明，如果CRMDP中的奖励腐败是足够的“尖峰”，环境是可解决的。我们充分刻画了一个尖峰CRMDP的遗憾界，并介绍了一种算法，能够检测其腐败的状态。我们表明，该算法可以用来学习任何常见的强化学习算法的最优策略。最后，我们研究了我们的算法在一对简单的网格世界环境中，发现我们的算法可以检测腐败的状态，并学习最优的政策，尽管腐败。
2019-06-30 cs.LG stat.ML
Corruption Robust Offline Reinforcement Learning with Human Feedback
University of Warwick（华威大学）；Max-Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Independent Researcher（独立研究员）
研究离线环境下人类反馈强化学习的数据鲁棒性，提出基于置信集和悲观策略的鲁棒方法，首次提供可证明的鲁棒性保证。
2026-07-01 cs.AI cs.LG
Efficient and Optimal Policy Gradient Algorithm for Corrupted Multi-armed Bandits
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research Asia（微软亚洲研究院）；Tsinghua University（清华大学）；Shanghai Qi Zhi Institute（上海期智研究院）
针对受对抗性污染的随机多臂老虎机问题，提出将策略梯度算法SAMBA应用于该场景，证明其计算高效且遗憾上界更优，仿真验证其性能优于现有基准。
2025-02-19 cs.LG
Sparse Offline Reinforcement Learning with Corruption Robustness
University of Warwick（沃里克大学）；MPI-SWS
本文研究了在强数据扰动下的稀疏离线强化学习鲁棒性，提出基于稀疏鲁棒估计器的actor-critic方法，提供首次非空保障。
2026-05-12 cs.LG stat.ML
Towards Robust Model-Based Reinforcement Learning Against Adversarial Corruption
The Hong Kong University of Science and Technology（香港科技大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对基于模型的强化学习中的对抗性腐败，提出CR-OMLE和CR-PMLE算法，利用基于总变差的信息比作为MLE权重，实现在线和离线设置下的最优或近最优遗憾保证。
2024-07-20 cs.LG stat.ML
Corruption-Robust Offline Reinforcement Learning
UW-Madison（威斯康星大学麦迪逊分校）；Cornell University（康奈尔大学）
研究了离线强化学习中的对抗鲁棒性问题。给定由元组$(s, a, r, s')$组成的批处理数据集，允许攻击者任意修改元组的$ε$部分。从损坏的数据集，学习器的目标是鲁棒地识别一个接近最优的策略。我们首先表明，最坏情况下的$Ω(dε)$最优间隙是不可避免的线性MDP的尺寸$d$，即使对手只损坏的奖励元素在元组。这与鲁棒监督学习中的无量纲结果和腐败在线RL设置中最著名的下限形成对比。接下来，我们提出了强大的变种的最小二乘值迭代（LSVI）算法，利用强大的监督学习神谕，实现接近匹配的性能，在有和没有完整的数据覆盖的情况下。该算法需要$ε$的知识来设计在无覆盖情况下的悲观奖金。令人惊讶的是，在这种情况下，$ε$的知识是必要的，因为我们表明，自适应未知的$ε$是不可能的。这再次与最近的结果腐败鲁棒的在线RL，并暗示鲁棒的离线RL是一个严格困难的问题。
2021-06-11 cs.LG
Corruption-robust Offline Multi-agent Reinforcement Learning From Human Feedback
MPI-SWS（马克斯·普朗克软件系统研究所）；University of Warwick（华威大学）；Visa（Visa公司）
本文研究了在强污染模型下，从人类反馈中进行离线多智能体强化学习（MARLHF）的鲁棒性问题，提出了一种鲁棒估计器和基于粗相关均衡的算法，解决了计算复杂性问题。
2026-04-09 cs.LG
On Optimal Robustness to Adversarial Corruption in Online Decision Problems
NEC Corporation（NEC公司）
本文考虑了两个基本的序贯决策问题：专家建议的预测问题和多臂强盗问题。我们专注于随机制度，对手可能会腐败的损失，我们调查什么水平的鲁棒性可以实现对抗性腐败。本文的主要贡献是表明，最佳的鲁棒性可以表示由腐败量的平方根依赖。更准确地说，我们表明，两类算法，任何时候对冲学习率下降和算法的二阶遗憾界，实现$O( \frac{\log N}Δ + \sqrt{ \frac{C \log N }Δ } )$ -遗憾，其中$N, Δ$，和$C$代表的专家，间隙参数，和腐败水平，分别。我们进一步提供了一个匹配的下限，这意味着这个遗憾界是紧到一个常数因子。对于多臂强盗问题，我们也提供了一个接近紧的下限对数因子。
2021-09-22 cs.LG stat.ML
Corruption-Robust Linear Bandits: Minimax Optimality and Gap-Dependent Misspecification
University of Virginia（弗吉尼亚大学）；University of Washington（华盛顿大学）；University of California Berkeley（加州大学伯克利分校）
本文系统研究线性老虎机中的奖励腐败问题，统一分析强腐败与弱腐败并刻画极小极大遗憾差距，同时通过通用归约和专门算法解决间隙依赖误设问题，首次将结果推广到强化学习中的线性 MDP。
2024-10-17 cs.LG stat.ML
Tackling Data Corruption in Offline Reinforcement Learning via Sequence Modeling
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；City University of Hong Kong（香港城市大学）；Rice University（莱斯大学）；University of Liverpool（利物浦大学）；Tencent Robotics X（腾讯Robotics X实验室）
针对离线强化学习中的数据损坏问题，提出结合嵌入dropout、高斯加权学习和迭代数据校正的Robust Decision Transformer（RDT），显著提升了序列建模在噪声数据下的鲁棒性和性能。
2025-03-02 cs.AI cs.LG
Robust Asynchronous Q-Learning under Reward and State Corruption via Batching
North Carolina State University（北卡罗来纳州立大学）
研究在奖励和状态受对抗性损坏反馈下学习最优策略问题，提出基于批处理的BR-Async-Q算法，通过划分数据流为批次及构建鲁棒估计来抵御数据损坏，给出高概率误差界，为异步Q学习提供首个鲁棒性保证。
2026-07-27 cs.LG cs.SY eess.SY
Towards Robust Offline Reinforcement Learning under Diverse Data Corruption
HKUST（香港科技大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Washington University (St. Louis)（圣路易斯华盛顿大学）；Tencent Robotics X（腾讯Robotics X实验室）；Peking University（北京大学）；CUHK (SZ)（香港中文大学（深圳））
该研究针对离线强化学习易受数据损坏影响的问题，发现隐式Q学习（IQL）鲁棒性较强，通过引入Huber损失和分位数估计器改进IQL，提出了更鲁棒的RIQL算法，在多种数据损坏场景下表现优异。
2024-03-09 cs.AI cs.LG
Robust Lipschitz Bandits to Adversarial Corruptions
University of California, Davis（加州大学戴维斯分校）；University of California, Los Angeles（加州大学洛杉矶分校）
研究对抗性扰动下的Lipschitz老虎机问题，提出首个在强弱两类对手下均能实现次线性遗憾的鲁棒算法，证明强对手场景下的最优性并通过实验验证有效性。
2023-10-08 cs.LG stat.ML
A Model Selection Approach for Corruption Robust Reinforcement Learning
University of Southern California（南加州大学）；Google Research（谷歌研究院）
本文提出一种模型选择方法，在未知腐败总量下为表格型和线性MDP实现最优遗憾界，并扩展至线性赌博机、上下文赌博机及一般函数逼近等设置。
2024-12-30 cs.LG stat.ML
Uncertainty-based Offline Variational Bayesian Reinforcement Learning for Robustness under Diverse Data Corruptions
University of Science and Technology of China（中国科学技术大学）
针对多样数据损坏导致离线强化学习智能体性能下降的问题，提出基于贝叶斯推理的TRACER方法，通过熵度量区分并降低损坏数据影响，在多种损坏场景下性能优于现有最优方法。
2024-11-01 cs.AI cs.LG
Robust Multi-Agent Reinforcement Learning for Small UAS Separation Assurance under GPS Degradation and Spoofing
George Washington University（乔治华盛顿大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文通过多智能体强化学习解决小型无人机在GPS退化和欺骗下的鲁棒分离保障问题，提出闭式表达式对抗扰动，实现线性时间评估，并在高密度无人机模拟中取得近零碰撞率。
2026-09-01 cs.AI cs.LG cs.RO
A Unified Theoretical Analysis of Private and Robust Offline Alignment: from RLHF to DPO
Wayne State University（韦恩州立大学）
该研究在线性建模假设下，通过归约框架统一分析RLHF与DPO在LTC、CTL两种隐私-损坏场景下的离线对齐问题，证明LTC挑战更大，同时推进了单一场景下的相关理论研究。
2025-05-21 cs.AI cs.LG
Improve Robustness of Reinforcement Learning against Observation Perturbations via $l_\infty$ Lipschitz Policy Networks
Shanghai Jiao Tong University（上海交通大学）
针对深度强化学习智能体易受观测扰动影响的问题，提出融入全局$l_\infty$利普希茨连续性的SortRL方法及配套训练框架，实验证明其在多类任务中均达当前最优鲁棒性。
2023-12-14 cs.LG
Corruption-Tolerant Asynchronous Q-Learning with Near-Optimal Rates
Electrical and Computer Engineering, North Carolina State University, Raleigh, NC, USA（北卡罗来纳州立大学电气与计算机工程系）
本文研究了在存在对抗性损坏奖励的情况下，在折扣无限时间 horizon 的强化学习设置中学习最优策略的问题。通过开发一种新的鲁棒Q学习变体，并在具有时间相关数据的挑战性异步采样模型下分析该算法，证明了在存在损坏的情况下，该方法的有限时间保证与现有界限相匹配，仅在加性项上与损坏样本的比例成比例。还建立了信息论下界，揭示了我们的保证是近最优的。值得注意的是，我们的算法对底层奖励分布不敏感，并为异步Q学习提供了首次有限时间鲁棒性保证。分析中的关键元素是针对近鞅的改进Azuma-Hoeffding不等式，这可能在研究强化学习算法时有更广泛的应用。
2026-05-21 cs.LG cs.SY eess.SY
Online Bandit Learning against an Adaptive Adversary: from Regret to Policy Regret
Toyota Technological Institute at Chicago（芝加哥丰田理工学院）；Microsoft Research（微软研究院）
在线学习算法被设计成即使在它们的输入由对手生成时也能学习。在线算法学习能力的广泛接受的正式定义是博弈论中的后悔概念。我们认为，后悔的标准定义变得不够，如果对手被允许适应在线算法的行动。我们定义的替代概念的政策遗憾，试图提供一个更有意义的方式来衡量一个在线算法的性能对自适应对手。集中在网上的强盗设置，我们表明，没有强盗算法可以保证一个次线性的政策后悔对自适应对手与无限的记忆。另一方面，如果对手的记忆是有界的，我们提出了一个一般的技术，转换成一个算法的次线性策略遗憾界的任何强盗算法与次线性遗憾界。我们将这一结果扩展到后悔的其他变体，如转换后悔，内部后悔和交换后悔。
2012-06-27 cs.LG stat.ML
Defending Against Image Corruptions Through Adversarial Augmentations
DeepMind
现代神经网络在图像分类方面表现出色，但它们仍然容易受到模糊、斑点噪声或雾等常见图像损坏的影响。最近专注于这个问题的方法，如AugMix和DeepAugment，引入了对图像损坏分布进行预期操作的防御。与此相反，$\ell_p$ -范数有界扰动的文献侧重于对最坏情况下的腐败的防御。在这项工作中，我们调和这两种方法，提出AdversarialAugment，一种技术，优化图像到图像模型的参数，以生成adversarially损坏的增强图像。我们从理论上激励我们的方法，并给出其理想化版本以及DeepAugment的一致性的充分条件。我们的分类器改进了CIFAR-10-C上预期进行的常见图像损坏基准测试的最新技术，并提高了CIFAR-10和ImageNet上针对$\ell_p$范数有界扰动的最坏情况性能。
2021-12-16 cs.CV cs.LG
Learning Robust Policy against Disturbance in Transition Dynamics via State-Conservative Policy Optimization
CAS Key Laboratory of Technology in GIPAS, University of Science and Technology of China（中国科学院空间信息处理与应用系统技术重点实验室，中国科学技术大学）；Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院）
由于源环境和目标环境之间的差异，深度强化学习算法在现实世界的任务中可能表现不佳。这种差异通常被视为过渡动力学中的扰动。许多现有的算法学习鲁棒策略建模的干扰，并将其应用到源环境在训练过程中，这通常需要先验知识的干扰和控制的模拟器。然而，这些算法可能会失败的情况下，来自目标环境的干扰是未知的或难以在模拟器中建模。为了解决这个问题，我们提出了一种新的无模型的演员-评论家算法-即，状态保守的策略优化（SCPO）-学习鲁棒的政策，而无需建模的干扰提前。具体来说，SCPO减少了在过渡动力学的状态空间中的干扰，然后近似它由一个简单的基于梯度的正则化。SCPO的吸引人的特点包括，它是简单的实施，不需要额外的知识，干扰或专门设计的模拟器。在几个机器人控制任务的实验表明，SCPO学习鲁棒的政策对过渡动力学的干扰。
2021-12-20 cs.LG stat.ML
Frequency-Based Vulnerability Analysis of Deep Learning Models against Image Corruptions
Ecole Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
针对现有图像损坏数据集覆盖不全的问题，提出MUFIA算法识别致模型失效的频率分量组合，发现SOTA鲁棒模型也难抵御其生成的低可见度损坏，凸显需更全面方法增强模型抗损坏鲁棒性。
2023-06-12 cs.AI cs.CR cs.CV
How Does Frequency Bias Affect the Robustness of Neural Image Classifiers against Common Corruption and Adversarial Perturbations?
Nanyang Technological University（南洋理工大学）；Agency for Science, Technology and Research（新加坡科技研究局）
模型鲁棒性对于机器学习模型在实际应用中的可靠部署至关重要。最近的研究表明，数据增强可能导致模型过度依赖低频域中的特征，从而牺牲低频损坏的性能，突出了频率和鲁棒性之间的联系。在这里，我们进一步通过其雅可比矩阵的镜头更直接地研究模型的频率偏差及其对模型鲁棒性的影响。为了实现这一点，我们提出了雅可比频率正则化模型的雅可比有一个更大的比例的低频分量。通过对四个图像数据集的实验，我们表明，将分类器偏向低（高）频分量可以带来针对高（低）频腐败和对抗性扰动的性能增益，尽管低（高）频腐败的性能有所折衷。我们的方法阐明了频率偏差和深度学习模型的鲁棒性之间更直接的联系。
2022-05-09 cs.CV cs.LG
A simple way to make neural networks robust against diverse image corruptions
University of Tübingen（蒂宾根大学）；International Max Planck Research School for Intelligent Systems（国际马克斯·普朗克智能系统研究学院）
人类的视觉系统对各种自然发生的变化和破坏（如雨或雪）非常强大。相比之下，现代图像识别模型的性能大大降低时，以前看不见的腐败进行评估。在这里，我们证明了一个简单但经过适当调整的加性高斯和斑点噪声训练可以令人惊讶地很好地推广到看不见的腐败，很容易达到腐败基准ImageNet-C（使用ResNet 50）和MNIST-C的最新技术水平。我们建立在这些强大的基线结果之上，并表明针对不相关的最坏情况噪声分布的识别模型的对抗性训练会导致性能的额外提高。这种正则化可以与以前提出的防御方法相结合，以进一步改进。
2020-07-22 cs.CV cs.LG stat.ML
CorrGAN: Input Transformation Technique Against Natural Corruptions
UT Dallas（德克萨斯大学达拉斯分校）；Siemens Corporation, Technology（西门子公司技术部）
由于深度神经网络（DNN）在不同任务上的准确性不断提高，许多实时的系统都在使用DNN。这些DNN容易受到对抗性干扰和破坏。具体来说，雾、模糊、对比度等自然损坏会影响自动驾驶汽车中DNN的预测。在实时的中，需要检测这些损坏，并且还需要对损坏的输入进行去噪以正确地预测。在这项工作中，我们提出了CorrGAN方法，它可以生成良性输入时，提供了一个损坏的输入。在这个框架中，我们训练生成对抗网络（GAN）与新的中间输出为基础的损失函数。GAN可以对损坏的输入进行降噪并生成良性输入。通过实验，我们发现高达75.2%的错误分类输入可以通过使用CorrGAN的DNN正确分类。
2022-04-19 cs.CV cs.LG
Delightful Distributed Policy Gradient
Google DeepMind（谷歌DeepMind）
本文提出Delightful Policy Gradient方法，通过门控机制分离高惊奇失败与成功，提升样本效率。在MNIST和Transformer任务中表现优异，有效处理数据不一致和罕见发现。
2026-05-13 cs.AI cs.LG math.OC
Mint: A Simple Test-Time Adaptation of Vision-Language Models against Common Corruptions
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对CLIP等视觉语言模型在输入损坏下性能下降的问题，提出Mint测试时自适应方法，通过最大化伪标签类间方差提升嵌入质量，在多个基准上有效。
2025-10-25 cs.CV cs.LG
Curriculum Loss: Robust Learning and Generalization against Label Corruption
Centre for Artificial Intelligence, University of Technology Sydney（悉尼科技大学人工智能中心）
深度神经网络（DNN）具有强大的表达能力，甚至可以记住带有错误标签的样本。在DNN中重申鲁棒性和泛化性对标签损坏至关重要。为此，本文研究了0-1损失，它与经验对手（重新加权）风险\citep{hu2016does}具有单调关系。虽然0-1损失具有一些鲁棒性，但难以优化。为了有效地优化0-1损失，同时保持其鲁棒性，我们提出了一种非常简单和有效的损失，即课程损失（CL）。我们的CL是一个更严格的上限的0-1损失相比，传统的总和为基础的替代损失。此外，CL可以自适应地选择用于模型训练的样本。因此，我们的损失可以被视为课程样本选择策略的一个新视角，它在课程学习和鲁棒学习之间架起了一座桥梁。基准数据集上的实验结果验证了所提出的损失的鲁棒性。
2020-02-21 cs.LG stat.ML
Benchmarking Robustness of 3D Point Cloud Recognition Against Common Corruptions
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；NVIDIA（英伟达）；ASU（亚利桑那州立大学（ASU））
基于3D点云数据的深度神经网络在现实世界中得到了广泛的应用，尤其是在安全关键型应用中。然而，他们对腐败的鲁棒性研究较少。在本文中，我们提出了ModelNet 40-C，这是第一个全面的3D点云腐败鲁棒性基准测试，包括15个常见和现实的腐败。我们的评估显示，ModelNet 40和ModelNet 40-C的最先进（SOTA）模型的性能之间存在显着差距。为了减少差距，我们提出了一个简单而有效的方法，通过结合PointCutMix-R和TENT评估了广泛的增强和测试时自适应策略。我们确定了一些关键的见解，为未来的研究腐败的鲁棒性点云识别。例如，我们揭示了具有适当训练配方的基于transformer的架构实现了最强的鲁棒性。我们希望我们的深入分析将推动在3D点云领域开发强大的训练策略或架构设计。我们的代码库和数据集包含在https://github.com/jiachens/ModelNet40-C中
2022-01-28 cs.AI cs.CV cs.LG
On the effectiveness of adversarial training against common corruptions
EPFL（洛桑联邦理工学院）
关于对常见腐败的鲁棒性的文献表明，对抗性训练是否可以提高这种情况下的性能没有达成共识。首先，我们表明，当使用适当选择的扰动半径时，$\ell_p$对抗训练可以作为一个强大的基线，以防止常见的腐败，提高准确性和校准。然后，我们解释了为什么对抗性训练比使用简单高斯噪声的数据增强表现更好，高斯噪声已被观察到是常见腐败的有意义的基线。与此相关，当高斯增强过拟合到用于训练的特定标准差时，我们识别出$σ$过拟合现象，这对常见的腐败准确性具有显著的不利影响。我们讨论了如何缓解这个问题，然后如何进一步提高$\ell_p$对抗训练，通过引入一个有效的放松对抗训练与学习感知图像补丁相似性的距离度量。通过在CIFAR-10和ImageNet-100上的实验，我们证明了我们的方法不仅提高了$\ell_p$对抗训练基线，而且通过AugMix、DeepAugment、ANT和SIN等数据增强方法获得了累积增益，从而在常见腐败问题上获得了最先进的性能。我们实验的代码可在https://github.com/tml-epfl/adv-training-corruptions上公开获得。
2022-01-04 cs.AI cs.CV cs.LG
AR2: Attention-Guided Repair for the Robustness of CNNs Against Common Corruptions
Zhejiang University（浙江大学）；Kyushu University（九州大学）
本文提出AR2方法，通过对齐干净与损坏图像的类激活图并迭代微调，无需改架构即可增强预训练CNN对常见损坏的鲁棒性，在多个基准上优于现有方法。
2025-07-08 cs.CV cs.LG cs.SE
Improving Robustness of LiDAR-Camera Fusion Model against Weather Corruption from Fusion Strategy Perspective
Nanyang Technological University（南洋理工大学）；East China Normal University（华东师范大学）；Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局）；New York University（纽约大学）
本文从融合策略角度评估并提升激光雷达-相机融合模型在恶劣天气下的鲁棒性，提出灵活加权特征融合方法，在多种模型上验证了其广泛适用性与有效性。
2024-02-05 cs.CV cs.LG
Effective and Robust Adversarial Training against Data and Label Corruptions
School of Information Technology & Electrical Engineering, the University of Queensland（昆士兰大学信息技术与电气工程学院）；School of Software, Shandong University（山东大学软件学院）
针对数据扰动与标签噪声共存问题，提出ERAT框架，通过混合对抗训练和类别重平衡的半监督样本选择提升模型鲁棒性，实验验证其优越性。
2024-05-07 cs.CV cs.LG
Certifiably Robust RAG against Retrieval Corruption
NVIDIA（英伟达）；Princeton University（普林斯顿大学）；University of California, Berkeley（加州大学伯克利分校）
本文提出RobustRAG，通过隔离-聚合策略有效防御检索污染攻击，并在三个数据集和三个LLM上验证了其在开放领域问答和自由文本生成中的有效性。
2026-04-01 cs.CL cs.CR cs.LG
Improving robustness against common corruptions by covariate shift adaptation
University of Tübingen（蒂宾根大学）；IMPRS-IS（国际马克斯·普朗克智能系统研究学院）；LMU Munich（慕尼黑大学）
当今最先进的机器视觉模型容易受到图像损坏（如模糊或压缩伪影）的影响，从而限制了它们在许多现实应用中的性能。我们在这里认为，流行的基准来衡量模型的鲁棒性对常见的腐败（如ImageNet-C）低估了模型的鲁棒性在许多（但不是所有）应用场景。关键的见解是，在许多情况下，多个未标记的腐败示例是可用的，并且可以用于无监督的在线自适应。用受损图像的统计数据替换训练集上通过批量归一化估计的激活统计数据，一致地提高了25种不同流行计算机视觉模型的鲁棒性。使用校正后的统计数据，ResNet-50在ImageNet-C上达到62.2%的mCE，而在没有自适应的情况下为76.7%。通过更强大的DeepAugment+AugMix模型，我们将ResNet 50模型的最新技术水平从53.6%mCE提高到45.4%mCE。即使适应单个样本也可以提高ResNet-50和AugMix模型的鲁棒性，32个样本足以提高ResNet-50架构的当前技术水平。我们认为，无论何时报告腐败基准和其他分布外泛化设置中的分数，都应包括适应统计数据的结果。
2020-10-23 cs.CV cs.LG stat.ML
Towards Improving Robustness Against Common Corruptions in Object Detectors Using Adversarial Contrastive Learning
Laboratory of Intelligent Systems（智能系统实验室）
本文提出对抗对比学习框架，通过生成实例级对抗样本并优化对比损失，同时增强目标检测器对对抗攻击和常见损坏的鲁棒性，以提升安全关键应用中的可靠性。
2023-11-14 cs.AI cs.CV cs.LG
RADAR: Defending RAG Dynamically against Retrieval Corruption
School of Intelligence Science and Technology, Nanjing University, Suzhou, China（南京大学智能科学与技术学院，中国，苏州）；City University of Hong Kong, Hong Kong, China（香港城市大学，中国，香港）；Institute of Automation, Chinese Academy of Sciences, Beijing, China（中国科学院自动化研究所，北京，中国）
RADAR通过将可靠的上下文选择建模为图基能最小化问题，利用最大流最小割算法进行精确求解，采用贝叶斯记忆节点递归更新信念状态，以平衡稳定性和对抗性攻击，同时适应真实知识变化，在动态数据集上实现了比基线方法更优越的鲁棒性和响应质量，且存储开销小。
2026-05-21 cs.CR cs.LG
Detecting corruption in single-bidder auctions via positive-unlabelled learning
HSE University（高等经济大学）
在研究和决策准则中，单一投标人投标率是公共采购中常用的腐败替代指标，但事实上，这不是腐败拍卖的证据，而是无竞争性拍卖的证据。虽然腐败的采购商试图隐瞒交易可能会导致无竞争性拍卖，但也可能是地理隔离、垄断者存在或其他结构性因素造成的。在本文中，我们使用积极的无标签分类，试图在俄罗斯联邦的公共采购拍卖分为拍卖，可能是公平的，那些可疑的。
2021-02-10 cs.GT cs.LG
Distributionally Robust Set Representation Learning Under Inference-Time Element Corruption
McGill University（麦吉尔大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
针对推理时元素损坏问题，提出SW-DRSO分布鲁棒优化框架，通过重心对抗近似最坏情况损失，在四个任务上验证了鲁棒性和性能。
2026-06-19 cs.LG
Benchmarking Large Multimodal Models against Common Corruptions
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Sea AI Lab（Sea AI 实验室）；ByteDance（字节跳动）；University of Chicago（芝加哥大学）
该报告提出 MMCBench 基准，系统评估超过 100 个多模态大模型在常见扰动下跨文本、图像和语音四类生成任务中的输出自洽性与可靠性。
2024-01-22 cs.CL cs.CR cs.CV
Co-Seg: An Image Segmentation Framework Against Label Corruption
Columbia University（哥伦比亚大学）；Imperial College London（帝国理工学院）；The University of Alabama（阿拉巴马大学）
受监督的深度学习性能与高质量标签的可用性密切相关。如果直接在噪声数据集上训练，神经网络会逐渐过拟合损坏的标签，导致测试时性能严重下降。在本文中，我们提出了一种新的深度学习框架，即Co-Seg，用于在包含低质量噪声标签的数据集上协作训练分割网络。我们的方法首先同时训练两个网络来筛选所有样本，并获得具有可靠标签的子集。然后，一个有效的但易于实现的标签校正策略，以丰富的可靠子集。最后，使用更新的数据集，我们重新训练分割网络以确定其参数。在两个有噪声的标签场景中的实验表明，我们提出的模型可以实现与无噪声标签上训练的监督学习所获得的结果相当的结果。此外，我们的框架可以很容易地在任何分割算法中实现，以增加其对噪声标签的鲁棒性。
2021-01-31 cs.CV cs.LG
Chain-of-Defensive-Thought: Structured Reasoning Elicits Robustness in Large Language Models against Reference Corruption
Department of Computer Science, University of Maryland, College Park, Maryland, USA（计算机科学系，马里兰大学，College Park，马里兰，美国）
本研究提出防御性思维链方法，通过提供结构化防御推理示例，显著提升大型语言模型在非推理任务中对抗参考数据损坏的鲁棒性，有效缓解了提示注入攻击导致的准确率下降。
2025-04-29 cs.AI cs.CL cs.LG
How does Disagreement Help Generalization against Label Corruption?
University of Technology Sydney（悉尼科技大学）；RIKEN-AIP（理化学研究所先进智能项目中心）；Alibaba Damo Academy（阿里巴巴达摩院）；University of Tokyo（东京大学）
带噪标签的学习是弱监督学习中最热门的问题之一。基于深度神经网络的记忆效应，在小损失实例上进行训练对于处理噪声标签变得非常有前途。这促进了最先进的方法“协同教学”，该方法使用小损失技巧交叉训练两个深度神经网络。然而，随着时代的增加，两个网络收敛到一个共识，合作教学减少到自我训练的MentorNet。为了解决这个问题，我们提出了一个强大的学习范式，称为合作教学+，它的桥梁“更新的分歧”的战略与原来的合作教学。首先，两个网络前馈并预测所有数据，但仅保留预测不一致的数据。然后，在这些不一致的数据中，每个网络选择其小损失数据，但是从其对等网络反向传播小损失数据并更新其自己的参数。在基准数据集上的实证结果表明，Co-teaching+在训练模型的鲁棒性方面远远优于许多最先进的方法。
2019-05-12 cs.LG stat.ML
Fourier-Based Augmentations for Improved Robustness and Uncertainty Calibration
MIT Lincoln Laboratory（麻省理工学院林肯实验室）
多样的数据增强策略是提高计算机视觉模型鲁棒性的自然方法，以应对数据分布中不可预见的变化。然而，定制这样的策略以使模型针对特定类别的腐败或攻击而不对其他类别的腐败造成实质性损失的能力仍然是难以捉摸的。在这项工作中，我们成功地强化了一个模型，以抵御基于傅立叶的攻击，同时在CIFAR-10-C和CIFAR-100-C数据集上产生优于AugMix的准确性和校准结果;对于一些高严重性的噪声和数字类型的损坏，分类误差降低了10个百分点以上。我们实现这一点，将傅立叶基扰动的AugMix图像增强框架。因此，我们证明了AugMix框架可以被定制为有效地针对特定的分布偏移，同时提高整体模型的鲁棒性。
2022-02-24 cs.CV cs.LG
Corruption-Robust Offline Two-Player Zero-Sum Markov Games
University of Warwick（华威大学）
研究离线双人零和马尔可夫博弈中数据腐败的鲁棒性，提出鲁棒悲观极小极大值迭代算法，在腐败数据或仅干净数据覆盖下实现近最优次优性差距，首次给出此类问题的刻画。
2024-03-04 cs.GT cs.LG
Towards Improving Robustness Against Common Corruptions using Mixture of Class Specific Experts
Laboratory of Intelligent Systems（智能系统实验室）
本文提出类特定专家混合架构，通过为每个类别训练专门网络片段并聚合输出，以增强神经网络对常见污染的鲁棒性，并强调使用常见污染基准进行全面评估的重要性。
2023-11-16 cs.AI cs.CV cs.LG
Model Failure or Data Corruption? Exploring Inconsistencies in Building Energy Ratings with Self-Supervised Contrastive Learning
ADAPT Centre（ADAPT中心）
本研究提出CLEAR方法，利用自监督对比学习检测建筑能效评级中的不一致性，并在爱尔兰建筑数据集上验证，发现测量数据损坏证据。
2024-04-14 cs.AI cs.LG
Noisy Learning for Neural ODEs Acts as a Robustness Locus Widening
Institut de Recherche Technologique SystemX（SystemX技术研究院）；Centre de Recherche en Informatique, Signal et Automatique de Lille（里尔计算机、信号与自动化研究中心）
我们调查的问题和挑战评估的鲁棒性微分方程为基础的（DE）网络对合成分布偏移。我们提出了一种新的和简单的精度度量，可用于评估固有的鲁棒性和验证数据集腐败模拟器。我们还提出了方法论建议，注定要评估神经DE的鲁棒性的许多方面，并严格比较它们与离散的同行。然后，我们使用这个标准来评估一种廉价的数据增强技术，作为一种可靠的方法来证明神经ODE对多个数据集上模拟图像损坏的自然鲁棒性。
2022-06-16 cs.LG
Exploring Corruption Robustness: Inductive Biases in Vision Transformers and MLP-Mixers
University of Pittsburgh（匹兹堡大学）
最近，为了解决卷积神经网络中的一些普遍弱点，已经开发了视觉Transformer和基于MLP的模型。由于Transformers与自注意力机制一起用于该领域的新颖性，因此仍然不清楚这些架构对损坏的鲁棒程度。尽管一些作品提出，数据增强仍然是必不可少的模型是强大的腐败，我们建议探索的影响，该架构对腐败的鲁棒性。我们发现，视觉Transformer架构本质上是更强大的腐败比ResNet-50和MLP混合器。我们还发现，参数比ResNet-50少5倍的视觉Transformer具有更多的形状偏差。我们的代码可以复制。
2021-07-03 cs.CV cs.LG
Performance Weighting for Robust Federated Learning Against Corrupted Sources
Information Sciences Institute（信息科学研究所）；University of Southern California（南加州大学）
联邦学习已经成为分布式机器学习的主要计算范例。其独特的数据隐私属性使我们能够协同训练模型，同时为参与客户提供某些隐私保护保证。然而，在实际应用中，联邦环境可能由善意和恶意客户端组成，后者的目的是破坏和降低联邦模型的性能。可以应用不同的损坏方案，例如模型中毒和数据损坏。在这里，我们关注后者，即联邦学习对各种数据破坏攻击的敏感性。我们发现，标准的全球聚合计划的本地权重是低效的，在存在损坏的客户端。为了缓解这个问题，我们提出了一类面向任务的基于性能的方法计算的分布式验证数据集的目标是检测和减轻损坏的客户端。具体来说，我们构建了一个强大的重量聚合计划的基础上几何平均值，并证明其有效性下的随机标签洗牌和有针对性的标签翻转攻击。
2022-05-02 cs.CR cs.LG
Trimmed Maximum Likelihood Estimation for Robust Learning in Generalized Linear Models
Google Research（谷歌研究院）
研究了对抗性腐败下广义线性模型的学习问题。我们分析了一个经典的启发式称为迭代修剪最大似然估计，这是已知的是有效的标签腐败在实践中。在标签损坏的情况下，我们证明了这个简单的估计在广泛的广义线性模型，包括高斯回归，泊松回归和二项式回归上实现了极大极小近似最优风险。最后，我们将估计量扩展到更具挑战性的标签和协变量腐败设置，并证明了其鲁棒性和最优性。
2022-10-23 cs.LG stat.ML
Robust Bayesian Optimisation with Unbounded Corruptions
University College London（伦敦大学学院）；University of Basel（巴塞尔大学）
本文提出RCGP-UCB算法，通过结合UCB与鲁棒高斯过程，实现对无限大小破坏的鲁棒贝叶斯优化，且在无异常值时保持与标准算法相当的性能。
2026-02-16 cs.LG stat.ML
Securing Multi-Agent Systems Against Corruptions via Node Contribution Backpropagation
Peking University（北京大学）
针对多智能体系统中对抗性智能体注入误导信息的问题，提出一种基于有向无环图的反向传播动态防御方法，通过计算每个智能体对最终决策的贡献来识别和隔离恶意智能体，实验表明该方法优于现有防御机制。
2026-05-26 cs.AI cs.CR cs.LG
