Improving Neural Network Robustness through Neighborhood Preserving Layers
NEC Laboratories America, Inc（NEC美国实验室公司）；Pennsylvania State University（宾夕法尼亚州立大学）
神经网络对对抗攻击的鲁棒性是机器学习领域的一个重要研究课题。我们观察到神经网络脆弱性的一个主要来源是过度参数化的全连接层。在本文中，我们提出了一个新的邻域保持层，可以取代这些全连接层，以提高网络的鲁棒性。我们展示了一种新的神经网络架构，可以将这些层，也可以有效地训练。我们从理论上证明了我们的模型对失真更鲁棒，因为它们有效地控制了梯度的大小。最后，我们的经验表明，我们设计的网络架构是更强大的对最先进的梯度下降为基础的攻击，如对基准数据集MNIST和CIFAR10的PGD攻击。
2021-01-29 cs.LG
ROPUST: Improving Robustness through Fine-tuning with Photonic Processors and Synthetic Gradients
LightOn（莱通公司）；LPENS, École Normale Supérieure（巴黎高等师范学院LPENS）；Facebook AI Research（脸书人工智能研究院）；Université Paris-Dauphine（巴黎多芬大学）
对对抗攻击的鲁棒性通常通过使用投影梯度下降的昂贵对抗训练来获得。在这里，我们介绍了ROPUST，这是一种非常简单而有效的方法，可以利用强大的预训练模型，并进一步提高其鲁棒性，而不会降低自然精度。我们的技术依赖于使用光学处理单元（OPU），光子协处理器，以及使用直接反馈对准（一种合成梯度训练方案）执行的微调步骤。我们在RobustBench中针对四种攻击在九种不同的模型上测试了我们的方法，不断提高最先进的性能。我们对我们的防御的单个组件进行了消融研究，表明鲁棒性来自参数混淆和替代训练方法。我们还引入了相位恢复攻击，专门用于增加攻击者对我们自己防御的威胁级别。我们表明，即使与国家的最先进的相位恢复技术，ROPUST仍然是一个有效的防御。
2021-07-06 cs.CV cs.LG
tidyHEBO: Improving the Robustness of Heteroskedastic Evolutionary Bayesian Optimization
针对实际异方差和非平稳问题，引入受HEBO启发的tidyHEBO模型，重构其设计理念并修订多方面内容。经多任务基准测试，该模型性能具竞争力且鲁棒性强，可作顺序实验实用工具和贝叶斯优化研究通用基准。
2026-10-15 cs.LG
Parseval Networks: Improving Robustness to Adversarial Examples
Facebook AI Research（Facebook人工智能研究院）
我们介绍了Parseval网络，这是一种深度神经网络，其中线性，卷积和聚合层的Lipschitz常数被限制为小于1。Parseval网络在经验和理论上都是通过分析深度神经网络在其输入受到对抗性扰动时所做预测的鲁棒性来激发的。Parseval网络最重要的特征是将线性和卷积层的权重矩阵保持为（近似）Parseval紧框架，这是正交矩阵到非方阵的扩展。我们描述了如何在SGD期间有效地维护这些约束。我们表明，Parseval网络在CIFAR-10/100和街景房屋号码（SVHN）的准确性方面与最先进的网络相匹配，同时在对抗性示例中比普通网络更强大。顺便说一句，Parseval网络也倾向于更快地训练并更好地利用网络的全部容量。
2017-05-02 cs.AI cs.CR cs.LG
Improving Robustness of Task Oriented Dialog Systems
Facebook Assistant（Facebook助手）；Google（谷歌）
对话系统中面向任务的语言理解通常使用意图（查询的任务）和槽（该任务的参数）来建模。意图检测和槽标记，反过来，分别使用句子分类和单词标记技术建模。与现有文献中讨论的计算机视觉模型的对抗攻击问题类似，这些意图槽标记模型通常对输入的微小变化过于敏感-当对查询进行微小更改时预测不同且通常不正确的标签，从而降低其准确性和可靠性。然而，评估模型对这些变化的鲁棒性对于语言来说更难，因为单词是离散的，并且对查询的自动变化（例如添加“噪声”）有时会改变查询的含义，从而改变查询的标签。在本文中，我们首先描述了如何创建一个对抗性测试集来衡量这些模型的鲁棒性。此外，我们引入并调整了对抗性训练方法以及使用反向翻译的数据增强来缓解这些问题。我们的实验表明，这两种技术大大提高了系统的鲁棒性，可以结合起来，以产生最好的结果。
2019-11-12 cs.AI cs.CL
Improving Neural Network Robustness via Persistency of Excitation
University of Pennsylvania（宾夕法尼亚大学）
提高神经网络的对抗鲁棒性仍然是一个重大挑战。从根本上说，通过梯度下降训练神经网络是一个参数估计问题。在自适应控制中，保持激励持续性（PoE）是确保动态系统中的参数估计收敛到其真实值的不可或缺的。我们表明，参数估计与梯度下降可以建模为一个自适应线性时变连续系统的采样。利用这个模型，并从模型参考自适应控制（MRAC）的灵感，我们证明了一个充分条件约束梯度下降更新参考持续激励轨迹收敛到真正的参数。当学习率小于损失函数梯度的Lipschitz常数的倒数时，得到了该充分条件。我们提供了一个有效的技术，估计相应的Lipschitz常数在实践中使用极值理论。我们在标准和对抗训练中的实验结果表明，使用PoE激励的学习率计划训练的网络具有相似的准确性，但对对抗攻击的鲁棒性明显高于使用当前最先进的算法训练的模型。
2021-10-15 cs.CV cs.LG cs.SY
Improving Intrinsic Exploration with Language Abstractions
Stanford University（斯坦福大学）；University of Washington（华盛顿大学）；Meta AI；University College London（伦敦大学学院）；Cohere（Cohere公司）
当奖励稀疏时，强化学习（RL）代理特别难以训练。一个常见的解决方案是使用内在奖励来鼓励代理探索他们的环境。然而，最近的内在探索方法通常使用基于状态的新颖性措施，奖励低层次的探索，可能无法扩展到需要更抽象技能的领域。相反，我们探索自然语言作为一个通用的媒体突出相关的抽象环境。与以前的工作不同，我们评估语言是否可以通过直接扩展（和比较）竞争性内在探索基线来改进现有的探索方法：AMIGo（Campero等人，2021）和NovelD（Zhang等人，2021年）。这些基于语言的变体在MiniGrid和MiniHack环境套件中的13个具有挑战性的任务中比非语言形式的性能高出47-85%。
2022-11-21 cs.AI cs.CL cs.LG
Optimization and Abstraction: A Synergistic Approach for Analyzing Neural Network Robustness
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Rice University（莱斯大学）
近年来，局部鲁棒性（或简称鲁棒性）的概念已经成为深度神经网络的理想属性。直观地说，鲁棒性意味着对输入的小扰动不会导致网络执行错误分类。提出了一种新的神经网络鲁棒性检验算法。我们的方法协同结合了基于梯度的优化方法的反例搜索与基于抽象的证明搜索，以获得一个健全的和（δ-）完整的决策过程。我们的方法还采用数据驱动的方法来学习验证策略，该策略在证明搜索期间指导抽象解释。我们已经实现了所提出的方法在一个工具，称为Charon和实验评估它的数百个基准。我们的实验表明，所提出的方法显着优于三个最先进的工具，即AI^2，Reluplex和Reluval。
2019-05-01 cs.LG cs.PL
Robustness Verification of Recurrent Neural Networks with Abstraction Refinement
National Science and Technology Council (NSTC), Taiwan（台湾国家科学与技术委员会）
提出抽象精化框架，通过分割预激活区间消除非线性松弛误差，并利用SHAP引导的时间步选择策略降低组合成本，显著提升RNN鲁棒性验证成功率。
2026-06-12 cs.LG
Operational Abstractions of Neural Network Concepts via Topological Representations
RPTU Kaiserslautern-Landau（莱茵兰-普法尔茨凯泽斯劳滕工业大学）；University of the Witwatersrand（威特沃特斯兰德大学）
提出拓扑概念表示（TCR），一种事后操作抽象，通过拓扑编码概念组织，统一干预框架，提升擦除方法最差组准确率21.89和概念迁移可恢复性5.54。
2026-10-06 cs.AI cs.LG
Improving the Universality and Learnability of Neural Programmer-Interpreters with Combinator Abstraction
School of Cyberspace Security, Beijing University of Posts and Telecommunications（北京邮电大学网络空间安全学院）；ColorfulClouds Technology Co., Ltd（彩云科技有限公司）
为了克服神经程序员解释器（NPI）在其通用性和可学习性方面的局限性，我们提出将组合子抽象纳入神经编程和一个新的NPI架构来支持这种抽象，我们称之为组合神经程序员解释器（CNPI）。组合器抽象极大地减少了需要由CNPI的核心控制器解释的程序的数量和复杂性，同时仍然允许CNPI通过核心与其他组件的协作来表示和解释任意复杂的程序。我们提出了一个小的四个组合子，以捕捉最普遍的编程模式。由于这个组合子集的有限性和简单性，以及从核心中卸下一些解释负担，我们能够构造一个CNPI，它对于所有可组合程序的集合是通用的，这足以解决大多数算法任务。此外，除了对执行轨迹的监督训练外，CNPI还可以通过策略梯度强化学习和适当设计的课程进行训练。
2018-02-08 cs.LG
RL-CFR: Improving Action Abstraction for Imperfect Information Extensive-Form Games with Reinforcement Learning
Tsinghua University（清华大学）；IIIS, Tsinghua University（清华大学交叉信息研究院）
针对不完美信息扩展式博弈中固定动作抽象性能次优的问题，提出基于强化学习的RL-CFR方法，通过MDP建模动态动作抽象，结合CFR求解策略，在单挑无限注德州扑克实验中显著优于现有基准模型且不增加求解时间。
2024-03-07 cs.GT cs.LG
Robustness Verification of Support Vector Machines
University of Padova（帕多瓦大学）
我们研究的问题，正式验证的鲁棒性对抗的例子支持向量机（SVM），一个主要的机器学习模型的分类和回归任务。在最近的一系列关于（深度）神经网络的正式鲁棒性验证的工作之后，我们的方法依赖于一个给定SVM分类器的合理抽象版本来检查其鲁棒性。这种方法是一个给定的数值抽象的真实值的参数，类似于神经网络的情况下，既不需要抽象的最小上界，也不扩大运营商在这个抽象。标准的区间域提供了一个简单的实例，我们的抽象技术，这是增强与域的减少仿射形式，这是一个有效的抽象zonotope抽象域。这种鲁棒性验证技术已经在基于线性和非线性（多项式和径向基函数）内核的SVM上完全实现和实验评估，这些内核已经在流行的MNIST图像数据集和最近更具挑战性的Fashion-MNIST数据集上进行了训练。我们的原型SVM鲁棒性验证器的实验结果似乎是令人鼓舞的：这种自动化验证是快速的，可扩展的，并显示出显着高百分比的MNIST测试集上的可证明的鲁棒性，特别是相比类似的可证明的鲁棒性的神经网络。
2019-04-26 cs.LG stat.ML
Learning logic programs by discovering higher-order abstractions
University of Oxford（牛津大学）；TU Delft（代尔夫特理工大学）
该研究提出高阶重构问题，开发了将其建模为约束优化问题的Stevie系统，可发现高阶抽象压缩逻辑程序，能提升归纳逻辑编程系统的学习性能，且发现的抽象可跨领域迁移。
2024-01-29 cs.AI cs.LG cs.PL
Toward Certified Robustness Against Real-World Distribution Shifts
Stanford University（斯坦福大学）；NRI Secure（NRI安全公司）；University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
我们考虑证明深度神经网络对现实世界分布偏移的鲁棒性的问题。要做到这一点，我们弥合手工制作的规范和现实的部署设置之间的差距，提出了一种新的神经符号验证框架，在该框架中，我们训练生成模型学习扰动数据和定义规范的输出学习模型。从这种设置中产生的一个独特的挑战是，现有的验证器不能紧密地近似sigmoid激活，这是许多最先进的生成模型的基础。为了解决这一挑战，我们提出了一个通用的元算法来处理sigmoid激活，它利用了经典的概念，反例指导的抽象细化。其关键思想是“懒惰地”细化sigmoid函数的抽象，以排除在先前抽象中发现的虚假反例，从而保证验证过程的进展，同时保持状态空间较小。在MNIST和CIFAR-10数据集上的实验表明，我们的框架在一系列具有挑战性的分布偏移方面显着优于现有方法。
2023-03-06 cs.AI cs.LG cs.LO
Softly Induced Functional Simplicity: Implications for Neural Network Generalisation, Robustness, and Distillation
European Organization for Nuclear Research (CERN)（欧洲核子研究中心（CERN））
本研究通过柔和对称性尊重的归纳偏置，揭示了低复杂度解决方案在高能物理分类任务中提升泛化、鲁棒性和蒸馏效率的机制。
2026-01-15 cs.LG hep-ex
Improving robustness and calibration in ensembles with diversity regularization
Technische Universität Darmstadt（达姆施塔特工业大学）
校准和不确定性估计是高风险环境中的关键问题。我们引入了一个新的多样性正则化分类任务，使用分布外的样本，并增加了整体的准确性，校准和分布外检测的合奏能力。继最近的兴趣在合奏的多样性，我们系统地评估显式正则化合奏多样性的可行性，以提高校准的分布数据，以及根据数据集转移。我们证明了多样性正则化在架构中是非常有益的，其中权重在各个成员之间部分共享，甚至允许使用更少的集成成员来达到相同的鲁棒性水平。在CIFAR-10、CIFAR-100和SVHN上的实验表明，正则化多样性可以对校准和鲁棒性以及分布外检测产生显著影响。
2022-01-26 cs.AI cs.LG
Learning Abstract and Transferable Representations for Planning
University of the Witwatersrand（威特沃特斯兰德大学）；Brown University（布朗大学）
我们关心的问题是，代理人如何从感官数据中获得自己的表征。我们将重点限制在学习长期规划的表示上，这是一类最先进的学习方法无法解决的问题。我们提出了一个框架，自主学习状态抽象的代理的环境，给定的一组技能。重要的是，这些抽象是独立于任务的，因此可以重用以解决新任务。我们演示了如何代理可以使用现有的一组选项，以获得表示自我和对象为中心的观察。这些抽象可以在新的环境中立即被相同的代理重用。我们将展示如何将这些便携式表示与特定问题相结合，以生成可用于抽象规划的特定任务的声音描述。最后，我们展示了如何自主构建一个多层次的层次结构，包括越来越抽象的表示。由于这些层次结构是可转移的，高阶概念可以在新任务中重用，从而使代理免于重新学习它们并提高样本效率。我们的研究结果表明，我们的方法允许代理转移以前的知识，以新的任务，提高样本效率的任务数量的增加。
2022-05-04 cs.AI cs.LG
ARDIR: Improving Robustness using Knowledge Distillation of Internal Representation
NTT Social Informatics Laboratories（NTT社会信息学实验室）
对抗性训练是针对对抗性样本学习鲁棒模型的最有前途的方法。最近的一项研究表明，相同架构之间的知识蒸馏在提高对抗训练的性能方面是有效的。利用知识蒸馏提高对抗训练水平是一种新的方法，受到了广泛的关注。但是，其性能仍然不足。因此，我们提出了具有内部表示的对抗性鲁棒蒸馏~（ARIDO），以更有效地利用知识蒸馏。除了教师模型的输出之外，ARPNET还使用教师模型的内部表示作为对抗训练的标签。这使得学生模型能够使用更丰富，信息更丰富的标签进行训练。因此，ARPNET可以学习更强大的学生模型。我们在实验中表明，ARPGIS优于以前的方法。
2022-11-01 cs.AI cs.LG
Learning Causal Abstractions of Linear Structural Causal Models
Università di Pisa（比萨大学）；University of Amsterdam（阿姆斯特丹大学）
针对线性因果模型的因果抽象条件不明及从数据学习因果抽象的难题，该研究刻画了高低层模型的约束关系，提出Abs-LiNGAM方法，在非高斯噪声假设下加速低层模型恢复，提升因果发现可扩展性。
2024-06-01 cs.AI cs.LG stat.ME
Improving Robustness In Sparse Autoencoders via Masked Regularization
Lawrence Livermore National Laboratory, CA, USA（劳伦斯利弗莫尔国家实验室，加利福尼亚州，美国）
本文提出掩码正则化方法，通过在训练中随机替换token以打破共现模式，提升稀疏自编码器的鲁棒性，减少特征吸收，增强可探查性能并缩小OOD差距。
2026-04-07 cs.AI cs.LG
SAMSON: Sharpness-Aware Minimization Scaled by Outlier Normalization for Improving DNN Generalization and Robustness
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Polytechnique Montreal（蒙特利尔综合理工学院）
节能的深度神经网络（DNN）加速器容易出现非理想性，从而在推理时降低DNN性能。为了减轻这种退化，现有方法通常在训练期间向DNN权重添加扰动，以模拟噪声硬件上的推理。然而，这通常需要了解目标硬件，并导致DNN性能和鲁棒性之间的权衡，降低前者以提高后者。在这项工作中，我们证明了通过优化损失值和损失锐度来应用锐度感知训练，可以显着提高推理时对噪声硬件的鲁棒性，而无需依赖于对目标硬件的任何假设。特别是，我们提出了一种新的自适应锐度感知方法，条件的最坏情况下的扰动，一个给定的权重不仅在其幅度，但也对范围的重量分布。这是通过执行由离群值最小化缩放的锐度感知最小化（SAMSON）来实现的。我们的方法在无噪声机制的模型泛化性能和噪声环境中的鲁棒性方面都优于现有的锐度感知训练方法，如在几种架构和数据集上测量的那样。
2023-03-21 cs.AI cs.LG
Learning Consistent Causal Abstraction Networks
本文提出了一种基于sheaf理论的因果抽象网络学习方法，通过高斯SCMs和构造性线性因果抽象的转置，实现因果知识的结构化学习与恢复。
2026-02-02 cs.AI cs.LG eess.SP
Improving Model Robustness by Adaptively Correcting Perturbation Levels with Active Queries
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
除了高精度之外，鲁棒性对于各种应用中的机器学习模型变得越来越重要。近年来，许多研究致力于通过噪声扰动训练来提高模型的鲁棒性。现有的研究大多假设所有训练样本的扰动水平是固定的，然而这在实际任务中很难成立。事实上，过多的扰动可能会破坏一个例子的区别性内容，而不足的扰动可能无法提供有用的信息，以提高鲁棒性。出于这种观察，我们建议在训练过程中自适应地调整每个示例的扰动水平。具体而言，提出了一种新的主动学习框架，允许模型交互式地查询人类专家的正确扰动水平。通过设计一个具有成本效益的抽样策略以及一个新的查询类型，可以显着提高鲁棒性与几个查询。理论分析和实验研究均验证了该方法的有效性。
2021-03-27 cs.LG
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning
University of California, Los Angeles（加州大学洛杉矶分校）
精心制作的对抗样本有效地利用了深度神经网络的弱点。对抗鲁棒性的标准方法假设一个框架来防御通过最小限度地扰动样本以使其相应的模型输出发生变化而制作的样本。这些敏感性攻击利用了模型对与任务无关的特征的敏感性。另一种形式的对抗性样本可以通过不变性攻击来制作，这种攻击利用模型低估相关特征的重要性。以往的文献表明，在严格的L_p有界防御中，防御两种类型的攻击是一种折衷。为了提高对超越欧几里得距离度量的两种类型攻击的鲁棒性，我们使用度量学习将对抗正则化框架作为最优传输问题。我们的初步结果表明，在我们的框架中，正则化不变扰动提高了不变和敏感性防御。
2022-11-04 cs.AI cs.CR cs.LG
Improving Robustness of Spectrogram Classifiers with Neural Stochastic Differential Equations
Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出利用神经常微分方程增强频谱图分类器在低信噪比和动态噪声环境下的鲁棒性，以解决智能电网感知、异常检测等关键基础设施领域现有视觉模型不适配的问题。
2024-09-03 cs.AI cs.CV cs.LG
Improving Robustness of Deep Convolutional Neural Networks via Multiresolution Learning
本文针对深度神经网络单分辨率训练导致鲁棒性不足的问题，提出多分辨率学习方法，在一维信号和二维图像预测任务上同时提升噪声、对抗及小样本鲁棒性，且无需牺牲标准准确率。
2023-09-28 cs.LG
Improving Analog Neural Network Robustness: A Noise-Agnostic Approach with Explainable Regularizations
Aston Institute of Photonic Technologies（阿斯顿光子技术研究所）；Aston University（阿斯顿大学）
针对深度模拟神经网络的硬件噪声问题，提出一种硬件无关的可解释正则化框架，通过揭示抗噪底层机制同时应对相关与非相关噪声，显著提升网络的噪声鲁棒性。
2024-09-13 cs.AI cs.LG physics.optics
When Should LLMs Be Less Specific? Selective Abstraction for Reliable Long-Form Text Generation
Technion（技术离子大学）；NVIDIA（英伟达）
针对LLM在长文本生成中因低置信度而丢弃有价值信息的问题，提出选择性抽象框架，通过原子级抽象替换不确定内容，在保持语义的同时提升准确性和可靠性。
2026-11-03 cs.AI cs.CL cs.LG
MixBoost: Improving the Robustness of Deep Neural Networks by Boosting Data Augmentation
Nanjing University（南京大学）
随着越来越多的人工智能（AI）技术从实验室走向现实应用，来自现实世界的数据所带来的开集性和鲁棒性挑战日益受到关注。数据增强是一种广泛使用的提高模型性能的方法，最近的一些工作也证实了它对AI模型鲁棒性的积极作用。然而，现有的数据增强方法大多是启发式的，缺乏对其内在机理的探索。本文应用可解释人工智能（XAI）方法，探讨了当前流行的数据增强方法的内在机理，分析了博弈交互与一些广泛使用的鲁棒性度量之间的关系，提出了一种新的开集环境下模型鲁棒性代理.在分析其内在机制的基础上，提出了一种基于掩码的数据增强方法，全面提高了人工智能模型的几种鲁棒性度量，并击败了现有的数据增强方法。实验表明，该方法可以广泛应用于许多流行的数据增强方法。与对抗性训练不同，我们的boosting方法不仅显著提高了模型的鲁棒性，而且提高了测试集的准确性。我们的代码可在\url{https://github.com/Anonymous_for_submission}上获得。
2022-12-08 cs.AI cs.CV cs.LG
Improving Offline Contextual Bandits with Distributional Robustness
Criteo AI Lab（科韬人工智能实验室）
本文扩展了分布式鲁棒优化（DRO）方法离线上下文土匪。具体来说，我们利用这个框架，介绍了一个凸的反事实风险最小化原则的重新制定。除了依赖于凸规划，我们的方法是兼容的随机最优化，因此可以很容易地适应大数据制度。我们的方法依赖于通过DRO框架的离线上下文土匪的渐近置信区间的建设。通过利用已知的稳健估计的渐近结果，我们还展示了如何自动校准这样的置信区间，这反过来又消除了超参数选择的负担，政策优化。我们提出了初步的实证结果支持我们的方法的有效性。
2020-11-13 cs.AI cs.LG stat.ML
Towards Improving Robustness Against Common Corruptions in Object Detectors Using Adversarial Contrastive Learning
Laboratory of Intelligent Systems（智能系统实验室）
本文提出对抗对比学习框架，通过生成实例级对抗样本并优化对比损失，同时增强目标检测器对对抗攻击和常见损坏的鲁棒性，以提升安全关键应用中的可靠性。
2023-11-14 cs.AI cs.CV cs.LG
Improving Robustness via Risk Averse Distributional Reinforcement Learning
Georgia Institute of Technology（佐治亚理工学院）
阻碍强化学习在现实应用中取得成功的一个主要障碍是训练策略缺乏鲁棒性，无论是对模型不确定性还是外部干扰。当在模拟而不是真实世界环境中训练策略时，鲁棒性至关重要。在这项工作中，我们提出了一个风险意识的算法来学习强大的政策，以弥合模拟训练和现实世界的实现之间的差距。我们的算法是基于最近发现的分布式RL框架。我们将CVaR风险度量引入基于样本的分布式策略梯度（SDPG）中，学习风险规避策略，以实现对系统扰动的鲁棒性。我们验证了风险感知SDPG在多个环境中的鲁棒性。
2020-05-01 cs.LG stat.ML
Quantifying and Improving the Robustness of Retrieval-Augmented Language Models Against Spurious Features in Grounding Data
Simon Fraser University（西蒙弗雷泽大学）；Microsoft（微软）；Atlassian；Tongji University（同济大学）；The University of Hong Kong（香港大学）；Canada-CIFAR AI Chair, Amii（加拿大-CIFAR人工智能主席，Amii）
本文研究检索增强语言模型对基础数据中虚假特征的鲁棒性问题，提出SURE框架用于量化和提升鲁棒性，分析虚假特征在RAG领域的广泛性与挑战性。
2026-04-25 cs.AI cs.CL cs.LG
Improving Robustness against Real-World and Worst-Case Distribution Shifts through Decision Region Quantification
University of Erlangen-Nürnberg（埃尔朗根-纽伦堡大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Hausdorff Center for Mathematics, University of Bonn（波恩大学豪斯多夫数学中心）；McGill University（麦吉尔大学）；Google Deepmind（谷歌DeepMind）
神经网络的可靠性对于它们在安全关键应用中的使用是至关重要的。现有方法通常旨在提高神经网络对真实世界分布偏移（例如，常见的破坏和扰动、空间变换和自然对抗示例）或最坏情况的分布偏移（例如，优化的对抗性示例）。在这项工作中，我们提出了决策区域量化（DRQ）算法，以提高任何可微的预训练模型对真实世界和最坏情况下的数据分布偏移的鲁棒性。DRQ分析给定数据点附近的局部决策区域的鲁棒性，以做出更可靠的预测。我们从理论上激励DRQ算法，它有效地平滑虚假的决策表面的局部极值。此外，我们提出了一个实现使用有针对性和无针对性的对抗攻击。一项广泛的实证评估表明，DRQ提高了对抗性和非对抗性训练模型对几个计算机视觉基准数据集上真实世界和最坏情况分布偏移的鲁棒性。
2022-05-19 cs.LG
Evaluating and Improving the Robustness of Speech Command Recognition Models to Noise and Distribution Shifts
本研究探究音频语音命令识别模型中分布内与分布外准确率的关联，通过基准测试不同神经架构，用公平性与鲁棒性指标量化噪声影响，发现噪声感知训练可在部分配置下提升模型鲁棒性。
2025-07-30 cs.LG
Mitigating Sampling Bias and Improving Robustness in Active Learning
Intel Labs（英特尔实验室）；Intel Corporation（英特尔公司）
本文提出了简单有效的方法，以减轻采样偏差在主动学习，同时实现最先进的精度和模型的鲁棒性。我们引入了监督对比主动学习，利用对比损失的主动学习在监督设置。我们提出了一个无偏的查询策略，选择信息丰富的数据样本的不同特征表示与我们的方法：监督对比主动学习（SCAL）和深度特征建模（DFM）。我们经验证明，我们提出的方法减少采样偏差，实现最先进的准确性和模型校准的主动学习设置与查询计算26倍的速度比贝叶斯主动学习的分歧和11倍的速度比CoreSet。所提出的SCAL方法在对数据集移位和分布外的鲁棒性方面有很大的优势。
2021-09-13 cs.LG
On the Identifiability of Causal Abstractions
Mila, McGill University（米拉-麦吉尔大学（Mila））
针对 CRL 中要求所有潜在变量可单独干预的限制，本文提出在任意子集可干预的现实设定下，量化潜在因果模型相对于高层抽象的可辨识程度的理论框架。
2025-03-13 cs.LG stat.ML
Improving Robustness of Reinforcement Learning for Power System Control with Adversarial Training
California Institute of Technology（加州理工学院）；CMU（卡内基梅隆大学）；LBL（劳伦斯伯克利国家实验室）；University of California San Diego（加州大学圣地亚哥分校）
由于可再生能源的大量使用及其固有的不确定性和随机性，当前的电力系统面临着严峻的运行挑战。来自强化学习（RL）的数据驱动决策算法为高效运营清洁能源系统提供了解决方案。虽然RL算法实现了有前途的性能相比，基于模型的控制模型，RL鲁棒性的安全关键的物理系统的研究有限。在这项工作中，我们首先表明，几个竞争获胜，国家的最先进的RL代理提出的电力系统控制容易受到对抗性攻击。具体来说，我们使用对手的马尔可夫决策过程来学习攻击策略，并通过在白盒和黑盒攻击设置下成功地攻击多个获胜代理来证明我们的攻击的效力。然后，我们建议使用对抗性训练来增加RL代理对攻击的鲁棒性，并避免不可行的操作决策。据我们所知，我们的工作是第一个突出网格控制RL算法的脆弱性，并有助于提高其鲁棒性和安全性的有效防御计划。
2021-10-19 cs.AI cs.LG cs.SY
Improving Hierarchical Adversarial Robustness of Deep Neural Networks
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
所有的对抗性例子都有相同的结果吗？自动驾驶系统将行人误认为汽车可能会导致比汽车更危险甚至可能致命的行为。为了更好地解决这一重要问题，我们引入了分层对抗鲁棒性的概念。给定一个数据集，其类可以被分组到粗级别标签中，我们将分层对抗示例定义为导致粗级别错误分类的示例。为了提高神经网络对分层攻击的抵抗力，我们引入了一种分层对抗鲁棒（HAR）网络设计，该设计将单个分类任务分解为一个粗分类任务和多个细分类任务，然后通过对抗防御技术进行专门训练。作为端到端学习方法的替代方案，我们证明了HAR显着提高了网络对CIFAR-10和CIFAR-100数据集上的$\ell_2$和$\ell_{\infty}$有界分层攻击的鲁棒性。
2021-02-17 cs.LG
Feedback Learning for Improving the Robustness of Neural Networks
Duke University（杜克大学）；Black Sesame Technologies Inc（黑芝麻科技有限公司）
最近的研究表明，神经网络容易受到对抗攻击。最先进的防御技术在训练中添加各种对抗性示例，以提高模型的对抗性鲁棒性。然而，这些方法并不通用，不能防御未知或非对抗性的逃避攻击。在本文中，我们分析了模型的鲁棒性在决策空间。然后提出了一种反馈学习方法，以了解模型的学习效果，并促进修复缺陷的再训练过程。根据一组基于距离的标准进行的评估表明，我们的方法可以显着提高模型的准确性和对不同类型的规避攻击的鲁棒性。此外，我们观察到类间不平等的存在，并建议通过改变在不同的类中生成的例子的比例来补偿它。
2019-09-12 cs.LG stat.ML
Improving Ensemble Robustness by Collaboratively Promoting and Demoting Adversarial Robustness
Monash University（莫纳什大学）；Defence Science and Technology Group（国防科技集团）
基于集合的对抗训练是实现对抗对抗攻击的鲁棒性的原则性方法。这种方法的一个重要技术是控制对抗性样本在集成成员之间的可转移性。在这项工作中，我们提出了一个简单而有效的策略，委员会模型之间的合奏模型进行合作。这是通过为给定样本上的每个模型成员定义的安全和不安全集合来实现的，因此有助于我们量化和规范可转移性。因此，我们提出的框架提供了灵活性，以减少对抗性的可转移性，以及促进合奏成员的多样性，这是我们的合奏方法更好的鲁棒性的两个关键因素。我们进行了广泛而全面的实验，以证明我们提出的方法优于最先进的集成基线，同时可以以近乎完美的准确度检测到各种各样的对抗性示例。我们的代码可在https://github.com/tuananhbui89/Crossing-Collaborative-Ensemble上获得。
2022-02-04 cs.CV cs.LG
Improving Model Robustness with Latent Distribution Locally and Globally
Duke Kunshan University（昆山杜克大学）；University of Liverpool（利物浦大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Xi’an Jiaotong-Liverpool University（西交利物浦大学）
在这项工作中，我们从全局流形的角度考虑深度神经网络对对抗攻击的模型鲁棒性。利用局部和全局潜在信息，我们提出了一种新的对抗性训练方法，通过鲁棒优化，以及一种易于处理的方法来生成潜在流形对抗性示例（LMAE），通过一个机器人和一个分类器之间的对抗性游戏。所提出的具有潜在分布的对抗性训练（ATLD）方法通过以无监督的方式用潜在流形制作LMAE来防御对抗攻击。ATLD保留了隐流形的局部和全局信息，提高了对对抗攻击的鲁棒性.为了验证我们提出的方法的有效性，我们在不同的数据集上进行了广泛的实验（例如，CIFAR-10、CIFAR-100、SVHN）与不同的对抗攻击（例如，PGD，CW），并表明我们的方法大大优于最先进的（例如，特征散射）在对抗鲁棒性方面具有很大的准确性。源代码可在https://github.com/LitterQ/ATLD-pytorch上获得。
2022-10-03 cs.LG
Towards A Unified Policy Abstraction Theory and Representation Learning Approach in Markov Decision Processes
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
策略的表示和优化是智能决策系统的核心问题。该问题的根本挑战是策略空间的大规模和高复杂性，这加剧了策略学习的难度，特别是在现实世界的场景中。近年来，低维隐空间中的策略表示方法在策略评估和优化方面显示出了巨大的潜力。在这些研究中涉及的关键问题是，我们应该根据什么标准抽象的政策空间所需的压缩和推广。然而，无论是策略抽象的理论还是策略表示学习的方法，在文献中的研究都较少。在这项工作中，我们首先努力填补空缺。首先，我们提出了一个统一的策略抽象理论，包含三种类型的策略抽象相关联的政策功能在不同的水平。然后，我们将它们概括为三个量化距离的策略度量（即，相似性），以便更方便地用于学习策略表示。此外，我们提出了一种基于深度度量学习的策略表示学习方法。在实证研究中，我们分别考察了所提出的政策度量和表示在表征政策差异和传达政策概括方面的功效。我们在策略优化和评估问题上进行了实验，包括信任域策略优化（TRPO），多样性引导的演化策略（DGES）和离策略评估（OPE）。有些自然，实验结果表明，没有一个普遍的最佳抽象的所有下游学习问题，而影响无关的政策抽象可以是一个普遍的首选。
2022-09-16 cs.LG cs.NE
Improving Deep Learning Model Robustness Against Adversarial Attack by Increasing the Network Capacity
Northumbria University（诺森比亚大学）
如今，我们越来越依赖于深度学习（DL）模型，因此保护这些系统的安全性至关重要。本文探讨了深度学习中的安全问题，并通过实验分析了构建更具弹性模型的前进方向。通过实验分析了一种新方法的优点和缺点，该方法可以提高DL模型对对抗攻击的鲁棒性。结果显示了改进和新的想法，可以作为研究人员和从业人员创建越来越好的DL算法的建议。
2022-04-24 cs.CR cs.LG cs.NI
Improving Robustness of Machine Translation with Synthetic Noise
Language Technologies Institute（语言技术研究所）；School of Computer Science（计算机科学学院）；Carnegie Mellon University（卡内基梅隆大学）
现代机器翻译（MT）系统在干净的域内文本上表现一贯良好。然而，大多数人类生成的文本，特别是在社交媒体领域，充满了错别字，俚语，方言，习语和其他噪音，这可能对输出翻译的准确性产生灾难性的影响。在本文中，我们利用机器翻译的噪声文本（MTNT）数据集，以提高机器翻译系统的鲁棒性，通过模仿自然发生的噪音，否则干净的数据。以这种方式合成噪声，我们最终能够使普通MT系统对自然发生的噪声有弹性，并部分减轻由此导致的准确性损失。
2019-04-10 cs.CL cs.LG
Improving Surrogate Model Robustness to Perturbations for Dynamical Systems Through Machine Learning and Data Assimilation
Department of Computational and Data Sciences, Indian Institute of Science（印度科学学院计算与数据科学系）
针对复杂ODE动力系统代理模型易受输入扰动影响的问题，提出结合机器学习和数据同化的框架，实验证明在图上建模的系统及神经ODE等替代模型中显著提升鲁棒性。
2025-02-25 cs.AI cs.CE cs.LG
Improving Adversarial Robustness by Contrastive Guided Diffusion Process
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出对比引导扩散过程（Contrastive-DP），通过对比损失增强生成数据的可区分性，从而提高对抗鲁棒性，并在理论和图像数据集实验中验证了其有效性。
2023-07-04 cs.CV cs.LG
On Connections between Regularizations for Improving DNN Robustness
Bytedance AI Lab（字节跳动人工智能实验室）；Peking University（北京大学）；Intel Labs China（英特尔中国研究院）；Tsinghua University（清华大学）
本文从理论角度分析了最近提出的用于提高深度神经网络（DNN）对抗鲁棒性的正则化项。具体来说，我们研究了几种有效的方法，包括输入梯度正则化，雅可比正则化，曲率正则化和交叉Lipschitz功能之间的可能联系。我们在具有一般整流线性激活的DNN上研究它们，DNN构成了图像分类和许多其他机器学习应用的最流行的模型家族之一。我们阐明了这些正则化的基本成分，并重新解释了它们的功能。通过我们的研究，在不久的将来可能会发明更有原则和更有效的正则化。
2020-07-04 cs.CR cs.CV cs.LG
Improving Adversarial Robustness via Promoting Ensemble Diversity
Tsinghua University（清华大学）；Tsinghua-Fuzhou Institute for Data Technology（清华-福州数据技术研究院）
虽然深度神经网络在各种任务上取得了重大进展，通常通过模型集成来增强，但现有的高性能模型可能容易受到对抗攻击的攻击。许多努力已经致力于增强个体网络的鲁棒性，然后构建简单的系综，例如，通过直接平均输出，忽略了网络之间的相互作用。本文提出了一种新的方法，探索个体网络之间的相互作用，以提高集成模型的鲁棒性。从技术上讲，我们将对抗环境中的集成多样性定义为个体成员的非最大预测之间的多样性，并提出了一种自适应多样性促进（ADP）正则化器来鼓励多样性，通过使对抗示例难以在个体成员之间传输，从而使集成具有更好的全局鲁棒性。我们的方法是计算效率和兼容的防御方法作用于个别网络。各种数据集上的实证结果验证了我们的方法可以提高对抗鲁棒性，同时保持正常示例的最新准确性。
2019-05-29 cs.LG stat.ML
Affine Variational Autoencoders: An Efficient Approach for Improving Generalization and Robustness to Distribution Shift
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）
在这项研究中，我们提出了仿射变分自编码器（AVAE），一个变种的变分自编码器（VAE），旨在提高鲁棒性，克服VAE无法推广到分布移位的仿射扰动的形式。通过优化仿射变换以最大化ELBO，所提出的AVAE将输入变换为训练分布，而不需要增加模型复杂度来对仿射变换的完整分布进行建模。此外，我们还引入了一个训练过程，通过学习训练分布的子集来创建一个有效的模型，并使用AVAE来提高测试时分布偏移的泛化能力和鲁棒性。仿射扰动实验表明，所提出的AVAE显着提高了泛化能力和鲁棒性的仿射扰动形式的分布移位，而不增加模型的复杂性。
2019-05-13 cs.CV cs.LG cs.NE
Improving the Robustness of Neural Multiplication Units with Reversible Stochasticity
University of Southampton（南安普顿大学）
多层感知器很难学习某些简单的算术任务。用于算术的专家神经模块可以在外推、可解释性和收敛速度方面优于经典架构，但对训练范围高度敏感。在本文中，我们证明了神经乘法单元（NMU）在给定不同的训练范围时，无法可靠地学习像将两个输入相乘这样简单的任务。失败的原因与诱导和输入偏置有关，这些偏置鼓励收敛到不期望的最优解。一个解决方案，随机NMU（sNMU），提出了应用可逆的随机性，鼓励避免这样的最优，同时收敛到真正的解决方案。从经验上讲，我们表明，随机性提供了改进的鲁棒性，有可能提高上游网络的数值和图像任务的学习表示。
2022-11-10 cs.LG cs.NE
Improving the Robustness of Deep Neural Networks via Adversarial Training with Triplet Loss
Nanjing University（南京大学）；JD AI Research（京东人工智能研究院）
最近的研究表明，深度神经网络（DNN）容易受到对抗性样本的影响。在本文中，我们通过利用距离度量学习技术来提高DNN的鲁棒性。具体来说，我们将最流行的距离度量学习方法之一Triplet Loss纳入对抗训练的框架中。我们提出的算法，对抗训练与三重损失（AT $^2$ L），替代对抗的例子对当前模型的锚三重损失，有效地平滑分类边界。此外，我们提出了一个集成版本的AT $^2$ L，聚合不同的攻击方法和模型结构，以更好的防御效果。我们的实证研究验证了所提出的方法可以显着提高DNN的鲁棒性，而不会牺牲准确性。最后，我们证明了我们专门设计的三重态损失也可以用作正则化项来增强其他防御方法。
2019-05-28 cs.LG stat.ML
Improving Calibration through the Relationship with Adversarial Robustness
Google Research（谷歌研究院）
神经网络缺乏对抗鲁棒性，即，它们容易受到对抗性示例的影响，这些示例通过对输入的小扰动导致不正确的预测。此外，当模型给出错误的预测时，信任就会受到破坏，即，预测的概率并不能很好地指示我们应该在多大程度上信任我们的模型。在本文中，我们研究了对抗鲁棒性和校准之间的联系，并发现模型对小扰动敏感（容易受到攻击）的输入更有可能具有校准不良的预测。基于这一见解，我们研究是否可以通过解决这些不利的不稳健的输入来改善校准。为此，我们提出了基于对抗鲁棒性的自适应标签平滑（AR-AdaLS），它将对抗鲁棒性和校准的相关性集成到训练中，根据对手攻击的容易程度自适应地软化标签。我们发现，我们的方法，考虑到分布数据的对抗性鲁棒性，导致更好的校准模型，即使在分布变化。此外，AR-AdaLS还可以应用于集合模型，以进一步改善模型校准。
2021-12-14 cs.LG stat.ML
