Instance-level Randomization: Toward More Stable LLM Evaluations
Meituan Group（美团集团）；Fudan University（复旦大学）
针对大语言模型评估中因随机因素微小变化导致的不稳定性与不公平比较问题，本文提出实例级随机化（ILR）方法，通过对每个实例随机化所有评估因素并取多次实验平均分，有效降低了方差并以不到一半的计算成本实现了与以往方法相似的鲁棒性。
2025-09-16 cs.AI cs.LG
Doubly Robust Instance-Reweighted Adversarial Training
The Ohio State University（俄亥俄州立大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
提出双重稳健实例重加权对抗训练框架，通过分布鲁棒优化和KL散度正则化获取重要性权重，提升最脆弱样本鲁棒性并具有理论收敛保证。
2023-08-01 cs.LG stat.ML
Adversarial Instance Generation and Robust Training for Neural Combinatorial Optimization with Multiple Objectives
LIACS, Leiden University, Leiden, The Netherlands（莱顿大学LIACS研究所，莱顿，荷兰）；Eindhoven University of Technology, Eindhoven, The Netherlands（埃因霍温理工大学，埃因霍温，荷兰）
提出面向多目标组合优化问题的偏好条件深度强化学习鲁棒性框架，通过偏好对抗攻击生成困难实例并量化影响，结合硬度感知偏好选择的对抗训练提升泛化性，在MOTSP、MOCVRP、MOKP上验证了攻击与防御的有效性。
2026-06-06 cs.AI cs.LG
Learnable and Instance-Robust Predictions for Online Matching, Flows and Load Balancing
Carnegie Mellon University（卡内基梅隆大学）；Zhejiang University（浙江大学）
我们提出了一个新的模型，要求他们正式学习和实例强大的预测增强算法。可学习性确保可以从合理数量的过去数据中有效地构建预测。实例鲁棒性确保预测对于问题输入中的适度变化是鲁棒的，其中变化的度量可以是特定于问题的。实例鲁棒性坚持作为变化的函数的性能的平滑降级。理想情况下，性能永远不会比最坏情况下的边界差。这也使得预测能够客观地进行比较。我们设计了在线算法，预测网络流量分配问题和限制分配最大完工时间最小化。对于这两个问题，建立了两个关键属性：高质量的预测可以从先前实例的小样本中学习，并且这些预测对于随着底层问题实例的变化而平滑降级的错误是鲁棒的。
2021-07-02 cs.DS cs.LG
RISAN: Robust Instance Specific Abstention Network
International Institute of Technology Hyderabad（海得拉巴国际信息技术学院）；Microsoft Research（微软研究院）
在本文中，我们提出了用于学习特定于实例的弃权（拒绝选项）二进制分类器的深度架构。所提出的方法使用Kulin Shah和Naresh Manwani在（“Online主动学习of Optional Classifiers”，AAAI，2020）中描述的双S形损失函数作为性能度量。我们表明，双S形损失的分类校准。我们还证明了0-d-1损失的超额风险的上界是双S形损失的超额风险。我们推导出的泛化误差界的建议架构拒绝选项分类。为了证明所提出的方法的有效性，我们用几个真实世界的数据集进行了实验。我们观察到，所提出的方法不仅表现出与最先进的方法相当，它对标签噪声也是鲁棒的。我们还提供了可视化来观察网络学习到的与弃权决策相对应的重要特征。
2021-07-07 cs.AI cs.LG
Neural Reasoning for Robust Instance Retrieval in $\mathcal{SHOIQ}$
Heinz Nixdorf Institute, Paderborn University（帕德博恩大学海因茨·尼克斯多夫研究所）
针对现有描述逻辑推理器对现实知识库中不一致和错误数据缺乏稳健性的问题，提出基于嵌入的神经推理器 EBR，仅需检索原子概念和存在限制的实例即可近似任意概念的实例集，实验证明其对缺失和错误数据更稳健。
2025-10-23 cs.AI cs.LG
Constrained Instance and Class Reweighting for Robust Learning under Label Noise
Google Research（谷歌研究院）
深度神经网络在监督学习中表现出令人印象深刻的性能，这是由于它们能够很好地适应所提供的训练数据。然而，它们的性能在很大程度上取决于训练数据的质量，并且在存在噪声的情况下经常会降低。我们提出了一个原则性的方法来处理标签噪声，目的是为单个实例和类标签分配重要性权重。我们的方法通过制定一类约束优化问题，这些重要性权重产生简单的封闭形式更新。所提出的优化问题是解决每个小批量，这消除了存储和更新整个数据集的权重的需要。我们的优化框架还提供了一个理论的角度对现有的标签平滑算法，以解决标签噪声（如标签自举）。我们在几个基准数据集上评估了我们的方法，并在存在标签噪声的情况下观察到相当大的性能增益。
2021-11-09 cs.LG stat.ML
Learning Perturbation Robust Policies for LLM Agents with Stable Optimization
University of Arizona（亚利桑那大学）
针对LLM智能体策略对扰动敏感的问题，提出SPrPO方法，在RL训练中引入自适应敏感性感知扰动，在ALFWorld和WebShop上验证了其提升鲁棒性并保持稳定优化。
2026-11-11 cs.AI cs.LG
DiffSmooth: Certifiably Robust Learning via Diffusion Models and Local Smoothing
UIUC（伊利诺伊大学厄巴纳-香槟分校）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；Carnegie Mellon University（卡内基梅隆大学）；Arizona State University（亚利桑那州立大学）
针对鲁棒训练平滑模型的认证鲁棒性提升问题，提出结合扩散模型对抗净化与局部平滑的DiffSmooth流程，理论支撑充分，在多个数据集上超越8个基线，刷新ImageNet认证准确率SOTA。
2023-08-28 cs.AI cs.LG
Feature-Based Instance Neighbor Discovery: Advanced Stable Test-Time Adaptation in Dynamic World
Tsinghua University（清华大学）；Shenzhen Technology University（深圳技术大学）；Sichuan Agricultural University（四川农业大学）
针对测试时适应中的动态多分布问题，本文提出FIND框架，通过LFD、FABN和S-FABN实现稳定高效的特征分区与归一化，准确率提升30%。
2025-06-07 cs.AI cs.CV cs.LG
Collaboration! Towards Robust Neural Methods for Routing Problems
Nanyang Technological University（南洋理工大学）；Eindhoven University of Technology（埃因霍温理工大学）；Singapore Management University（新加坡管理大学）；Shandong University（山东大学）
针对现有神经车辆路径问题方法鲁棒性不足的问题，提出基于集成的协作神经框架CNF，通过协作式对抗训练与神经路由器分配实例，兼具抗攻击能力与分布外泛化性。
2024-10-07 cs.AI cs.LG
On the Local Structure of Stable Clustering Instances
University of Copenhagen（哥本哈根大学）；Sapienza University of Rome（罗马大学）
我们研究了经典的$k$ -中位数和$k$ -均值聚类目标在超越最坏情况的情况下。我们考虑了三个旨在表征真实世界输入的结构化数据的概念：分布稳定性（由Awasthi，Blum和Sheffet介绍，FOCS 2010），谱可分性（由Kumar和Kannan介绍，FOCS 2010），扰动弹性（由Bilu和Linial介绍，ICS 2010）。我们证明结构的结果表明，满足至少一个条件的输入是固有的“本地”。也就是说，对于任何这样的输入，任何局部最优解在结构和目标值方面都接近全局最优解。作为一个推论，我们得到广泛使用的本地搜索算法具有很强的性能保证的任务，恢复底层的最佳聚类，并获得一个集群的小成本。这是理解集群应用程序中本地搜索策略成功的重要一步。
2017-08-10 cs.CG cs.DS cs.LG
Geometry-aware Instance-reweighted Adversarial Training
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；National University of Singapore（新加坡国立大学）；Hong Kong Baptist University（香港浸会大学）；The University of Tokyo（东京大学）
在对抗性机器学习中，人们普遍认为鲁棒性和准确性是互相伤害的。最近的研究挑战了这一信念，我们可以保持鲁棒性并提高准确性。然而，另一个方向，我们是否可以在提高鲁棒性的同时保持准确性，在概念上和实际上更有趣，因为对于任何模型，鲁棒准确性都应该低于标准准确性。在本文中，我们表明这一方向也是有希望的。首先，我们发现即使是过度参数化的深度网络也可能仍然没有足够的模型容量，因为对抗性训练具有压倒性的平滑效果。其次，考虑到有限的模型容量，我们认为对抗性数据应该具有不等的重要性：从几何上讲，更接近/更远离类边界的自然数据点更不健壮/更健壮，相应的对抗性数据点应该分配更大/更小的权重。最后，为了实现这个想法，我们提出了几何感知的实例重新加权对抗训练，其中权重基于攻击自然数据点的难度。实验表明，我们的建议提高了标准对抗训练的鲁棒性;结合两个方向，我们提高了标准对抗训练的鲁棒性和准确性。
2021-05-31 cs.AI cs.LG
X-Paste: Revisiting Scalable Copy-Paste for Instance Segmentation using CLIP and StableDiffusion
University of Science and Technology of China（中国科学技术大学）；Microsoft（微软）
本文提出X-Paste框架，利用CLIP零样本过滤和StableDiffusion生成大规模多样化实例，使复制-粘贴数据增强真正可扩展，在LVIS长尾类别上显著提升实例分割性能。
2023-05-31 cs.CV cs.LG
Benchmarking the Robustness of Instance Segmentation Models
Virginia Tech（弗吉尼亚理工大学）；Bilkent University（比尔肯特大学）
本文基准测试实例分割模型在图像损坏和域外数据上的鲁棒性与泛化性，发现组归一化提升鲁棒性、批量归一化提升泛化性，且多阶段检测器适应不同图像尺寸。
2025-03-28 cs.AI cs.CV cs.LG
Robustness Evaluation and Adversarial Training of an Instance Segmentation Model
General Motors Company（通用汽车公司）
为了评估非分类器模型的鲁棒性，我们提出了概率局部等价，基于随机平滑的概念，作为一种定量评估任意函数的鲁棒性的方法。此外，为了了解对抗训练对非分类器的影响，并研究在不降低训练分布性能的情况下可以获得的鲁棒性水平，我们将Fast is Better than Free对抗训练与TRADES鲁棒损失一起应用于实例分割网络的训练。在这个方向上，我们能够在TuSimple车道检测挑战中实现0.85的对称最佳骰子得分，优于标准训练网络的0.82得分。此外，我们能够在操作输入上获得0.49的F测量值，而标准训练网络的分数为0。我们证明了概率局部等价能够成功区分标准训练模型和逆向训练模型，提供了逆向训练模型鲁棒性提高的另一种观点。
2022-06-02 cs.CV cs.LG
StableDR: Stabilized Doubly Robust Learning for Recommendation on Data Missing Not at Random
Peking University（北京大学）；University of California, San Diego（加利福尼亚大学圣地亚哥分校）；Beijing Technology and Business University（北京工商大学）
针对推荐系统中非随机缺失数据下双重鲁棒方法不稳定、依赖外推致性能次优的问题，提出稳定双重鲁棒学习方法StableDR及循环更新策略，理论上保证有界偏差方差与泛化界，实验性能显著优于现有方法。
2023-08-23 cs.LG stat.ML
Improved Adversarial Training Through Adaptive Instance-wise Loss Smoothing
King’s College London（伦敦国王学院）
深度神经网络很容易被欺骗，通过对抗性扰动（人类无法感知的人工噪声）破坏输入来做出错误的预测。到目前为止，对抗性训练是对抗这种对抗攻击最成功的防御手段。这项工作的重点是改进对抗训练，以提高对抗鲁棒性。我们首先从实例的角度分析了对抗性脆弱性在对抗性训练过程中的演变。我们发现，在训练过程中，通过牺牲相当大比例的训练样本来更容易受到对抗攻击，从而导致数据中对抗脆弱性的不均匀分布，从而实现了对抗损失的整体减少。这种“不均匀的脆弱性”在几种流行的健壮训练方法中普遍存在，更重要的是，与对抗训练中的过度拟合有关。基于这一观察，我们提出了一种新的对抗训练方法：实例自适应平滑增强对抗训练（ISEAT）。它以一种自适应的、特定于实例的方式联合平滑输入和减肥景观，以增强具有较高对抗脆弱性的样本的鲁棒性。大量的实验表明，我们的方法优于现有的防御方法。值得注意的是，我们的方法，结合最新的数据增强和半监督学习技术，实现了最先进的鲁棒性对$\ell_{\infty}$范数约束攻击CIFAR 10的59.32%的宽ResNet 34 -10没有额外的数据，和61.55%的宽ResNet 28 -10与额外的数据。代码可在https://github.com/TreeLLi/Instance-adaptive-Smoothness-Enhanced-AT上获得。
2023-03-27 cs.AI cs.CV cs.LG
Efficient Point-to-Subspace Query in $\ell^1$ with Application to Robust Object Instance Recognition
Columbia University（哥伦比亚大学）
出于视觉任务，如鲁棒的人脸和物体识别，我们考虑以下一般问题：给定一个集合的低维线性子空间在高维环境（图像）空间，和一个查询点（图像），有效地确定最近的子空间查询$\ell^1$距离。与需要大规模线性规划的朴素穷举搜索相比，我们证明了一个简单的两阶段算法可以大大减少计算负担：（1）通过随机柯西矩阵将查询和数据库子空间投影到低维空间，并解决小规模距离计算（线性规划）在投影空间中定位最接近的候选者;（2）在（1）的独立重复之后，在候选者很少的情况下，回到高维空间并执行穷举搜索。为了以非平凡概率保持最近子空间的同一性，投影维数通常是子空间维数乘以子空间数目的对数的低阶多项式（定理2.1）。降低维数，因此复杂性，使所提出的算法特别相关的视觉应用，如鲁棒的人脸和对象实例识别，我们的经验调查。
2014-03-06 cs.CV cs.LG stat.ML
Balancing Bias and Variance for Active Weakly Supervised Learning
Rochester Institute of Technology（罗切斯特理工学院）
作为一种广泛使用的弱监督学习方案，现代多示例学习（MIL）模型在包级别上具有竞争力的性能。然而，实例级预测，这是必不可少的许多重要的应用程序，仍然在很大程度上不能令人满意。我们建议进行新的主动深度多实例学习，对信息实例的一小部分进行采样以进行注释，旨在显着提高实例级预测。设计了一个方差正则化的损失函数来平衡实例级预测的偏差和方差，旨在有效地适应MIL中高度不平衡的实例分布和其他基本挑战。而不是直接最小化的方差正则化的损失是非凸的，我们优化的分布鲁棒袋级的可能性作为其凸代理。鲁棒袋似然提供了一个很好的近似的方差为基础的MIL损失的强有力的理论保证。它还自动平衡偏差和方差，从而有效地识别潜在的积极实例以支持主动采样。鲁棒的袋似然性可以自然地与深度架构集成，以支持使用小批量正负袋对的深度模型训练。最后，一种新的P-F抽样函数的开发，结合概率向量和预测的实例得分，通过优化的强大的袋似然。通过利用关键的MIL假设，采样函数可以探索最具挑战性的袋子，并有效地检测它们的正实例进行注释，这显著提高了实例级预测。在多个真实世界数据集上进行的实验清楚地证明了所提出的模型所实现的最先进的实例级预测。
2022-06-12 cs.LG
Insta-RS: Instance-wise Randomized Smoothing for Improved Robustness and Accuracy
随机平滑（RS）是一种有效的和可扩展的技术，用于构建神经网络分类器，可证明是强大的对抗性扰动。大多数RS工作集中在训练一个良好的基础模型，以提高平滑模型的认证鲁棒性。然而，现有的RS技术对每个数据点都是相同的，即，用于形成平滑模型的高斯噪声的方差是预设的，并且对于所有训练和测试数据都是通用的。这种预设的通用高斯噪声方差是次优的，因为不同的数据点具有不同的裕度，并且基础模型的局部属性在输入示例中有所不同。在本文中，我们研究了自定义处理示例的影响，并提出了实例随机平滑（Insta-RS）-一种多开始搜索算法，将自定义高斯方差分配给测试示例。我们还设计了Insta-RS训练-一种新的两阶段训练算法，自适应地调整和定制每个训练样本的噪声水平，用于训练基础模型，从而提高实例高斯平滑模型的认证鲁棒性。通过在CIFAR-10和ImageNet上进行的大量实验，我们表明，与现有的最先进的可证明鲁棒的分类器相比，我们的方法显着提高了平均认证半径（ACR）和干净数据的准确性。
2021-09-17 cs.LG
AROID: Improving Adversarial Robustness Through Online Instance-Wise Data Augmentation
King’s College London（伦敦国王学院）；Imperial College London（帝国理工学院）；University of Luxembourg（卢森堡大学）
本研究提出首个针对对抗鲁棒性的自动化数据增强方法AROID，通过在线逐实例学习增强策略，大幅降低搜索成本，在多种架构和数据集上优于现有方法，还可与先进对抗训练结合进一步提升鲁棒性。
2024-08-14 cs.AI cs.CV cs.LG
SoftPQ: Robust Instance Segmentation Evaluation via Soft Matching and Tunable Thresholds
Harvard Medical School（哈佛医学院）
SoftPQ提出一种基于软匹配和可调IoU阈值的实例分割评估指标，将评估视为连续体，增强对结构性错误的稳健性，提供更平滑、更具信息量的反馈，优于现有指标。
2025-05-27 cs.AI cs.CV cs.LG
Towards More Efficient, Robust, Instance-adaptive, and Generalizable Sequential Decision making
The Chinese University of Hong Kong（香港中文大学）
本研究面向不确定性下的数据驱动序列决策，针对模型误设、对抗扰动、实例依赖性能及新环境泛化等挑战，发展高效、鲁棒、实例自适应且可泛化的RL与多臂老虎机算法。
2026-10-01 cs.LG
Active Robust Learning
Ferdowsi University of Mashhad（菲尔多西大学）
在学习算法的许多实际应用中，未标记的数据是廉价和丰富的，而标记的数据是昂贵的。主动学习算法的开发是为了以更低的成本获得更好的性能。在主动学习算法中，通常使用代表性和信息性。最近先进的主动学习方法考虑了这两个标准。尽管有大量的文献，但很少有主动学习方法考虑噪声实例，即标记噪声和离群值实例。同时，这些方法在计算代表性和信息量时没有考虑准确性。基于这些措施的不准确性和不考虑噪声的情况下，是一个硬币的两个方面的想法，是内在相关的，提出了一个新的损失函数。这种新的损失函数有助于减少噪声实例的影响，同时减少偏差。我们将“实例复杂性”定义为学习问题实例复杂性的新概念。证明了数据中的噪声实例（如果有的话）是具有最大实例复杂度的实例。在此损失函数的基础上，提出了一种新的分类器，称为“简单-复杂分类器”。在这个分类器中，有一个简单的函数和一个复杂的函数，复杂的函数负责选择有噪声的实例。由此产生的优化问题的学习和主动学习是高度非凸的，非常具有挑战性。为了解决这个问题，提出了一个凸松弛。
2016-08-25 cs.LG math.OC
Regularized Robustly Reliable Learners and Instance Targeted Attacks
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
本文针对实例定向投毒攻击，提出正则化鲁棒可靠学习器以解决原定义在灵活假设类下失效的问题，并利用动态算法设计技术实现亚线性训练时间的输出，弥补了Balcan等人（2022）工作的不足。
2025-05-08 cs.CR cs.DS cs.LG
Instance-Level Task Parameters: A Robust Multi-task Weighting Framework
Apple Inc.（苹果公司）
最近的研究表明，深度神经网络通过在多个相关任务之间学习共享表示来受益于多任务学习。然而，这种系统的性能取决于训练期间涉及的各种损失之间的相对权重。损失加权方案的先前工作假设实例对于所有任务都是同样容易或困难的。为了打破这个假设，我们让训练过程决定数据集中每个实例的任务的最佳权重。更具体地说，我们为数据集中的每个实例配备了一组可学习的参数（实例级任务参数），其中基数等于模型学习的任务数量。这些参数为实例的每个任务的权重建模。它们通过梯度下降更新，不需要手工制定规则。我们在SURREAL和CityScapes数据集上进行了广泛的实验，用于人体形状和姿势估计，深度估计和语义分割任务。在这些任务中，我们的方法优于最近的动态损失加权方法，例如在SURREAL上将表面估计误差减少了8.97%。当应用于一个或多个任务可能具有噪声注释的数据集时，所提出的方法学习优先考虑从给定任务的干净标签中学习，例如将表面估计误差减少高达60%。我们还表明，我们可以可靠地检测损坏的标签为一个给定的任务作为一个副产品，从学习的实例级任务参数。
2021-06-11 cs.CV cs.LG
Towards Robust Real-Time Hardware-based Mobile Malware Detection using Multiple Instance Learning Formulation
针对实时硬件恶意软件检测中良性片段被误标记导致假阳性增加的问题，本研究提出RT-HMD检测器，利用多示例学习框架和恶意判别得分细化时间序列表示，有效识别局部恶意行为，在保持召回率的同时提升了5%的精确率。
2024-04-19 cs.CR cs.LG
Interventional Multi-Instance Learning with Deconfounded Instance-Level Prediction
Shanghai Jiao Tong University（上海交通大学）；Renmin University of China（中国人民大学）；Beijing Key Laboratory of Big Data Management and Analysis Methods（北京大数据管理与分析方法重点实验室）；JD Explore Academy（京东探索研究院）
当应用多实例学习（MIL）对大量实例进行预测时，实例的预测精度通常不仅取决于实例本身，还取决于其在相应包中的上下文。从因果推理的角度来看，这种袋上下文先验作为一个混杂因素，并可能导致模型的鲁棒性和可解释性问题。针对这一问题，我们提出了一种新的介入式多实例学习（IMIL）框架来实现去基础的实例级预测。与传统的基于似然的策略不同，我们设计了一种基于因果干预的期望最大化（EM）算法，在训练阶段提供了一个强大的实例选择，并抑制了袋上下文先验造成的偏见。病理图像分析的实验表明，我们的IMIL方法大大减少了误报，并优于国家的最先进的MIL方法。
2022-04-22 cs.CV cs.LG
A robust approach for deep neural networks in presence of label noise: relabelling and filtering instances during training
University of Granada（格拉纳达大学）；Andalusian Research Institute in Data Science and Computational Intelligence（安达卢西亚数据科学与计算智能研究所）
深度学习在各种任务中的表现优于其他机器学习算法，因此，它被广泛使用。然而，与其他机器学习算法一样，深度学习，特别是卷积神经网络（CNN），在数据集存在标签噪声时表现更差。因此，开发有助于训练深度网络并将其推广到无噪声测试集的算法非常重要。在本文中，我们提出了一种针对标签噪声的鲁棒训练策略，称为RAFNI，可用于任何CNN。该算法基于骨干神经网络在训练过程中做出的预测及其概率来过滤和重新标记训练集的实例。这样，该算法就提高了CNN自身的泛化能力。RAFNI由三个机制组成：两个过滤实例的机制和一个重新标记实例的机制。此外，它不假设噪声率是已知的，也不需要估计。我们使用几种大小和特征的不同数据集来评估我们的算法。我们还将其与使用CIFAR10和CIFAR100基准测试的最先进模型在不同类型和速率的标签噪声下进行了比较，发现RAFNI在大多数情况下都取得了更好的结果。
2022-07-18 cs.LG cs.NE
The Computational Complexity of Almost Stable Clustering with Penalties
University of Regina（里贾纳大学）；University of Waterloo（滑铁卢大学）
本文研究小倍增维度下带惩罚 k-MEANS/k-MEDIAN 的几乎稳定实例，给出多项式可解特例，并在 ETH 下证明精确算法的超多项式下界。
2025-10-03 cs.CC cs.DS cs.LG
Evaluating the Robustness of Geometry-Aware Instance-Reweighted Adversarial Training
Sapienza University of Rome（罗马大学）；Department of Computer Science（计算机科学系）
在这份技术报告中，我们评估了一种名为“几何感知实例重新加权对抗训练”的最新方法的对抗鲁棒性[7]。GAIRAT报告了CIFAR-10数据集上防御对抗攻击的最新结果。事实上，我们发现用这种方法训练的网络，虽然比常规对抗训练（AT）有所改进，但通过重新调整损失，使模型偏向某些样本。事实上，这导致模型容易受到扩展logit的攻击。原始模型在AutoAttack下显示出59%的准确率-当使用带有伪标签的额外数据进行训练时。我们提供的分析显示了相反的情况。特别是，我们制作了一个PGD攻击，将logits乘以一个正标量，当只在CIFAR-10上训练时，将GAIRAT的准确率从55%降低到44%。在本报告中，我们严格评估了该模型，并深入分析了GAIRAT易受这种对抗攻击的原因。可在https://github.com/giuxhub/GAIRAT-LSA上获得重现我们评估的代码
2021-03-05 cs.CR cs.LG
DRAUC: An Instance-wise Distributionally Robust AUC Optimization Framework
SKLOIS, Institute of Information Engineering, CAS（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Key Lab. of Intelligent Information Processing, Institute of Computing Tech., CAS（中国科学院计算技术研究所）；School of Computer Science and Tech., University of Chinese Academy of Sciences（中国科学院大学计算机科学与技术学院）；School of Cyber Science and Tech., Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区网络空间安全学院）；BDKM, University of Chinese Academy of Sciences（中国科学院大学BDKM）
针对AUC优化与分布鲁棒优化直接结合存在求解困难及标签偏差问题，提出实例级分布鲁棒AUC代理损失与分布感知DRAUC框架，理论上证明泛化差距随训练集增大缩小，实验验证了方法有效性。
2023-11-06 cs.LG
Stress-Testing Neural Network Verifiers with Provably Robust Instances
Department of Statistics & Data Science, University of California, Los Angeles（统计与数据科学系，加州大学洛杉矶分校）；Department of Mathematics, University of California, Los Angeles（数学系，加州大学洛杉矶分校）；Max Planck Institute for Mathematics in the Sciences, Leipzig（科学数学研究所，莱比锡）
本文提出了一种生成具有已知真实稳健标签的验证实例的框架，揭示了现有验证器的数值容忍度问题和实现错误，并引入了验证难度轮廓以系统研究验证器失败模式，评估了五种最先进的验证器并展示了不同实例对验证流程不同方面的压力测试。
2026-05-16 cs.LG cs.LO math.OC
Lyapunov Robust Constrained-MDPs: Soft-Constrained Robustly Stable Policy Optimization under Model Uncertainty
Mitsubishi Electric Research Laboratories (MERL)（三菱电机研究实验室）
安全性和鲁棒性是任何强化学习算法的两个期望属性。CMDPs可以处理额外的安全约束，RMDPs可以在模型不确定性下表现良好。在本文中，我们建议将这两个框架结合起来，产生强大的约束MDPs（RCMDPs）。我们的动机是开发一个框架，可以满足安全约束，同时也提供鲁棒性模型的不确定性。我们开发了RCMDP目标，推导出梯度更新公式来优化这个目标，然后提出了基于策略梯度的算法。我们还独立地提出了基于李雅普诺夫的奖励塑造的RCMDPs，产生更好的稳定性和收敛性。
2021-08-05 cs.LG cs.SY eess.SY
Robustness Enhancement in Neural Networks with Alpha-Stable Training Noise
Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）；Tsinghua University（清华大学）
针对深度学习在非完美环境中的噪声鲁棒性问题，本文提出用alpha-stable噪声替代高斯噪声进行数据增强训练，实验证明该方法对脉冲噪声具有更强的鲁棒性。
2023-11-17 cs.LG eess.SP
Data-driven Prediction of Relevant Scenarios for Robust Combinatorial Optimization
University of Siegen（锡根大学）；University of Amsterdam（阿姆斯特丹大学）
研究了离散不确定性组合最优化问题的迭代法。我们提出了一种基于机器学习的启发式方法来确定提供强下界的起始场景。为此，我们设计维度无关的功能和训练随机森林分类器上的小尺寸的情况下。实验表明，我们的方法提高了解决方案的过程中包含在训练集中的更大的实例，也提供了一个功能的重要性分数，让洞察场景属性的作用。
2022-12-23 cs.LG math.OC
