Gradient Adversarial Training of Neural Networks
Magic Leap
我们提出了梯度对抗训练,这是一种适用于不同机器学习问题的辅助深度学习框架。在梯度对抗训练中,我们利用了一个先验的信念,即在许多情况下,同时进行的梯度更新应该在统计上彼此无法区分。我们使用一个辅助网络来实现这种一致性,该辅助网络对梯度张量的起源进行分类,而主网络除了执行标准的基于任务的训练之外,还充当辅助网络的对手。我们展示了三种不同场景的梯度对抗训练:(1)作为对抗示例的防御,我们对梯度张量进行分类,并将其调整为与其相应示例的类无关,(2)对于知识蒸馏,我们对来自学生或教师网络的梯度张量进行二进制分类,并调整学生梯度张量以模仿教师的梯度张量;以及(3)对于多任务学习,我们对从不同任务损失函数导出的梯度张量进行分类,并将它们调整为统计上不可区分的。对于这三种场景中的每一种,我们都展示了梯度对抗训练过程的潜力。具体而言,梯度对抗训练增加了网络对对抗攻击的鲁棒性,与软目标相比,能够更好地将知识从教师网络提取到学生网络,并通过对齐从任务特定的损失函数导出的梯度张量来增强多任务学习。总的来说,我们的实验表明,梯度张量包含有关正在训练的任何任务的潜在信息,并且当使用辅助网络通过对抗性智能引导时,可以支持各种机器学习问题。
2018-06-21 cs.CV cs.LG stat.ML
Consistency Regularization for Adversarial Robustness
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);AITRICS
对抗训练(AT)是目前获得深度神经网络对抗鲁棒性的最成功方法之一。然而,鲁棒过拟合现象,即,在AT期间鲁棒性开始显著降低,这是有问题的,不仅使从业者考虑一袋技巧来成功训练,例如,早期停止,但也会导致鲁棒性的显著泛化差距。在本文中,我们提出了一个有效的正则化技术,防止强大的过拟合优化辅助“一致性”正则化损失在AT。具体来说,我们发现,数据增强是一个非常有效的工具,以减轻过拟合AT,并开发了一个正则化,迫使预测分布攻击后,从两个不同的扩增相同的实例是彼此相似。我们的实验结果表明,这样一个简单的正则化技术带来了显着的改善,在测试中的鲁棒性的准确性范围广泛的AT方法。更值得注意的是,我们还表明,我们的方法可以显着帮助模型推广其对看不见的对手的鲁棒性,例如,其他类型或与训练期间使用的扰动相比更大的扰动。代码可在https://github.com/alinlab/consistency-adversarial上获得。
2021-12-22 cs.AI cs.LG
Causal Information Splitting: Engineering Proxy Features for Robustness to Distribution Shifts
California Institute of Technology(加州理工学院);Amazon Research(亚马逊研究院)
针对目标因果与反因果变量未被观测的分布偏移场景,基于信息论开发代理特征选择与工程技术,并利用辅助训练任务提取增强稳定性的信息,在合成与真实数据上验证了有效性。
2023-07-31 cs.AI cs.IT cs.LG
Improving the Robustness of Summarization Models by Detecting and Removing Input Noise
Google Research(谷歌研究院);Carnegie Mellon University(卡内基梅隆大学)
本文通过大规模实证研究量化了输入噪声对摘要模型性能的影响,并提出一种无需额外训练或先验知识的轻量级推理阶段去噪方法,可恢复最高11个ROUGE-1分的性能损失。
2023-12-04 cs.CL cs.LG
Red Teaming Language Model Detectors with Language Models
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文研究LLM检测器在对抗攻击下的鲁棒性,提出利用辅助LLM进行同义词替换和指令提示搜索两种攻击策略,实验证明这些攻击有效损害了所有检测器的性能,凸显了提升检测系统鲁棒性的迫切需求。
2023-10-19 cs.CL cs.LG
Enhancing Adversarial Robustness in Network Intrusion Detection: A Layer-wise Adaptive Regularization Approach
National Cyber Security Academy (NCSA)(国家安全学院(NCSA));Air University(空军大学);School of Science(科学学院)
本文提出LARAR方法,通过分层漏洞分析和自适应加权提升网络入侵检测系统对抗鲁棒性,实现95.01%的准确率并有效防御FGSM、PGD等攻击。
2026-05-09 cs.CR cs.LG
Enhancing Accuracy and Robustness through Adversarial Training in Class Incremental Continual Learning
KAIST(韩国科学技术院);GIST(光州科学技术院)
本文探讨了对抗训练在类增量持续学习(CICL)中因类不平衡导致的决策边界扭曲问题,提出外部对抗训练(EAT)方法,通过辅助外部模型生成对抗样本训练目标模型,显著提升了准确性与鲁棒性。
2023-05-23 cs.LG
FADE: Enabling Federated Adversarial Training on Heterogeneous Resource-Constrained Edge Devices
Duke University(杜克大学);Accenture(埃森哲)
针对资源受限异构边缘设备难以承担联邦对抗训练的问题,提出 FADE 框架,通过差异化模型解耦、单模块训练和辅助权重衰减降低内存与计算开销,并提供收敛及鲁棒性保证。
2023-04-26 cs.LG
Improving Group Robustness on Spurious Correlation via Evidential Alignment
University of Virginia(弗吉尼亚大学)
本文提出 Evidential Alignment 框架,利用不确定性量化和证据校准,在无需群体标注的情况下识别并抑制模型中的虚假相关,从而提升群体鲁棒性。
2025-07-20 cs.LG
EntProp: High Entropy Propagation for Improving Accuracy and Robustness
NTT(日本电报电话公司)
针对DNN难以泛化到分布外域的问题,提出高熵传播方法EntProp,通过数据增强和自由对抗训练生成高熵样本输入至含ABNs的网络,以更低训练成本提升了模型的准确性与鲁棒性。
2024-05-29 cs.AI cs.CV cs.LG
On Robust Prefix-Tuning for Text Classification
Institute for AI Industry Research(人工智能产业研究院);Tsinghua University(清华大学)
最近,前缀调整作为一种参数有效的微调方法,大规模预训练语言模型越来越受到关注。该方法保持预训练模型固定,只更新每个下游任务的前缀令牌参数。尽管是轻量级和模块化的,前缀调优仍然缺乏对文本对抗攻击的鲁棒性。然而,目前开发的大多数防御技术都需要辅助的模型更新和存储,这不可避免地阻碍了前缀调整的模块化和低存储。在这项工作中,我们提出了一个强大的前缀调整框架,保留了前缀调整的效率和模块化。我们的框架的核心思想是通过正确分类的训练数据作为额外前缀微调的标准,利用语言模型的逐层激活。在测试阶段,为每个批次调整一个额外的批次级前缀,并将其添加到原始前缀中以增强鲁棒性。在三个文本分类基准上进行的大量实验表明,我们的框架在几个强基线上大大提高了对五种不同类型的文本攻击的鲁棒性,同时在干净文本上保持了相当的准确性。我们也从最优控制的角度解释了我们的鲁棒前缀调整框架,并提出了未来研究的几个方向。
2022-03-19 cs.AI cs.CL cs.LG
Communication-Robust Multi-Agent Learning by Adaptable Auxiliary Multi-Agent Adversary Generation
Nanjing University(南京大学)
针对通信噪声或攻击下的多智能体强化学习鲁棒性问题,提出MA3C方法,通过协作式消息攻击建模和进化学习生成自适应攻击者种群,交替训练提升策略鲁棒性与泛化能力。
2023-05-09 cs.LG
Gradient-Regularized Out-of-Distribution Detection
Johns Hopkins University(约翰斯·霍普金斯大学)
针对OOD检测中辅助数据集局部信息未充分利用的问题,提出利用损失函数梯度信息进行正则化并开发基于能量的采样方法,在多个基准上显著提升检测性能。
2024-07-23 cs.CV cs.LG
Robust Model-Based Reinforcement Learning with an Adversarial Auxiliary Model
University of Antwerp(安特卫普大学);imec(校际微电子中心);IDLab(IDLab研究院)
本文针对强化学习策略在近似MDP中鲁棒性不足的问题,提出在RMDP框架下引入对抗更新的辅助悲观模型,并将其集成到RMBPO算法中,在MuJoCo任务上验证了该方法能显著提升策略鲁棒性。
2024-07-01 cs.AI cs.LG
Better Slots, Better Worlds: Representation Quality & Robustness in Object-Centric World Models
该研究通过受控实验分析以对象为中心的世界模型,发现槽质量与规划成功率正相关,槽绑定良好时可减少辅助输入,且在分布偏移下其鲁棒性优于LeWM,预训练特征是鲁棒性关键因素。
2026-08-13 cs.AI cs.CV cs.LG
A Geometric Probe of the Accuracy-Robustness Trade-off: Sharp Boundaries in Symmetry-Breaking Dimensional Expansion
Northwest Institute of Nuclear Technology(西北核技术研究院)
本文通过SBDE探测器揭示深度学习中精度与鲁棒性权衡的几何本质,发现模型通过在辅助轴上创建尖锐边界提升精度,但导致对非流形扰动的脆弱性。
2026-02-20 cs.LG
Protecting Feed-Forward Networks from Adversarial Attacks Using Predictive Coding
Cheriton School of Computer Science(谢里顿计算机科学学院);University of Waterloo(滑铁卢大学)
针对现有对抗防御依赖模型修改或大量对抗样本的问题,本研究提出将预测编码网络作为预处理步骤集成到前馈网络中,在MNIST、CIFAR10上分别实现约82%、65%的鲁棒性提升,为增强分类器安全性提供新方案。
2024-10-31 cs.AI cs.CR cs.CV
Toward Robustness against Label Noise in Training Deep Discriminative Neural Networks
D-Wave Systems Inc.(D-Wave系统公司)
收集带有高质量标签的大型训练数据集是昂贵且耗时的。本文提出了一种新的框架,用于从可以廉价获得的噪声标记数据集训练深度卷积神经网络。该问题使用无向图形模型来制定,该模型表示在半监督设置中训练的噪声和清洁标签之间的关系。在我们的公式中,对潜在清洁标签的推断是易于处理的,并且在训练期间使用辅助信息源进行正则化。将该模型应用于图像标记问题,并在CIFAR-10和MS COCO数据集上的训练中有效地标记未见过的图像以及减少标签噪声。
2017-11-03 cs.LG stat.ML
A Graph Neural Network with Auxiliary Task Learning for Missing PMU Data Reconstruction
Guangxi University(广西大学);Tsinghua University(清华大学);University of Electronic Science and Technology of China(电子科技大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出一种辅助任务学习方法,通过K跳图神经网络和互补图网络实现高缺失率下的PMU数据重建,提升系统鲁棒性和自适应性。
2025-12-31 cs.LG cs.SY eess.SY
MFAI: A Scalable Bayesian Matrix Factorization Approach to Leveraging Auxiliary Information
Department of Mathematics, The Hong Kong University of Science and Technology(香港科技大学数学系);Department of Biostatistics, City University of Hong Kong(香港城市大学生物统计学系)
MFAI通过整合梯度提升树的贝叶斯矩阵分解方法,有效利用辅助信息提升数据质量差下的建模能力。
2026-01-03 cs.LG stat.CO stat.ML
Deep Learning Optimization Using Self-Adaptive Weighted Auxiliary Variables
School of Mathematical Sciences, University of Electronic Science and Technology of China(电子科技大学数学科学学院);Department of Mathematics, Hong Kong Baptist University(香港浸会大学数学系)
本文针对深度学习中梯度下降因非凸性和梯度消失导致的低效问题,提出一种通过引入辅助变量分离网络层并重构损失函数的自适应加权优化框架,数值实验验证了其有效性和鲁棒性。
2025-04-30 cs.LG
Careful with that Scalpel: Improving Gradient Surgery with an EMA
Apple(苹果公司)
提出基于 EMA 的梯度手术方法 Bloop,通过正交投影结合训练与辅助梯度解决双层约束优化,在 NLP 和视觉实验中显著优于无 EMA 的方法。
2025-03-06 cs.LG stat.ML
Adaptive Sequential Experiments with Unknown Information Arrival Processes
Stanford University(斯坦福大学)
顺序实验的特点往往是探索-利用权衡,这是捕获的多臂强盗(MAB)框架。这一框架已被研究和应用,通常是在每个时间段只收到关于该时期选择的行动的反馈。然而,在许多实际的设置中,额外的数据可能在决策时期之间变得可用。我们引入了一个广义的MAB制定,它考虑了广泛的一类分布,是信息的平均奖励,并允许从这些分布的观察到达根据一个任意的和先验的未知到达过程。当它是已知的如何映射辅助数据的奖励估计,通过获得匹配的下限和上限,我们描述了这类问题的极大极小复杂度的频谱作为信息到达过程的函数,它捕获了这个过程的显着特征如何影响可实现的性能。在实现最佳性能方面,我们建立了置信上限和后验抽样政策具有自然的鲁棒性,相对于信息到达过程中没有任何调整,这揭示了这些流行的政策的一个新的属性,并进一步增加了他们的吸引力。当连接辅助数据和奖励的映射是一个先验未知的,我们的特征的必要和充分条件下,辅助信息允许性能提高。我们设计了一个新的政策,这是基于两个不同的置信上限(一个占辅助观察,一个不),并建立该政策的近最优。我们使用来自大型媒体网站的数据来分析通过利用辅助数据设计内容推荐在实践中可能捕获的价值。
2020-12-18 cs.LG stat.ML
Dual-granularity Sinkhorn Distillation for Enhanced Learning from Long-tailed Noisy Data
Microsoft Research Asia(微软亚洲研究院)
提出双粒度Sinkhorn蒸馏框架,通过整合分别针对类别不平衡和标签噪声的弱辅助模型,利用最优传输对齐预测和分布,提升长尾噪声数据学习的鲁棒性。
2025-10-09 cs.CV cs.LG
Consistency Regularization Can Improve Robustness to Label Noise
KTH(瑞典皇家理工学院)
一致性正则化是半监督学习和自监督学习的常用技术。它是一个辅助目标函数,鼓励网络的预测在观察到的训练样本附近相似。Hendrycks等人(2020)最近表明,这种正则化自然会为损坏的数据带来测试时的鲁棒性,并有助于校准。本文实证研究了一致性正则化对噪声标签的训练时间鲁棒性的相关性。首先,我们对在噪声数据集上使用标准交叉熵损失训练的网络的一致性进行了两个有趣且有用的观察:(i)在噪声数据上训练的网络的一致性低于在干净数据上训练的网络,以及(ii)在噪声标记的训练数据点周围的一致性比正确标记的数据点降低得更明显。然后,我们证明了一个简单的损失函数,鼓励一致性提高了模型的鲁棒性,以标记噪声的合成(CIFAR-10,CIFAR-100)和现实世界(WebVision)的噪声,以及不同的噪声率和类型,并达到最先进的结果。
2021-10-04 cs.CV cs.LG stat.ML
AuxBlocks: Defense Adversarial Example via Auxiliary Blocks
The Chinese University of HongKong,Shenzhen(香港中文大学(深圳))
深度学习模型容易受到对抗性示例的影响,这对其应用构成了无可争议的威胁。然而,最近的研究发现,如果攻击者能够实现这种防御,那么梯度掩蔽防御是自我欺骗的方法。本文提出了一种新的基于附加信息的防御方法。我们引入辅助块模型产生额外的输出作为一个自集成算法,并分析研究了辅助块的鲁棒性机制。我们在两种类型的白盒攻击中实证研究了我们的方法对对抗性示例的效率,发现即使在对手可以从防御模型中制作恶意示例的完全白盒攻击中,我们的方法在Cifar 10数据集上的精度约为54.6%,在Mini-Imagenet数据集上的精度约为38.7%。我们的方法的另一个优点是它能够保持分类模型对干净图像的预测精度,从而在实际应用中显示出很高的潜力
2019-02-18 cs.CR cs.LG
Intrinsically Motivated Self-supervised Learning in Reinforcement Learning
Peking University(北京大学);Tsinghua University(清华大学)
在基于视觉的强化学习(RL)任务中,为了获得更多的语义表示并提高样本效率,通常采用代理自监督损失来分配辅助任务。然而,由于表示学习部分和决策部分被分离,自监督辅助任务中的丰富信息被忽视。为了充分利用辅助任务中的信息,我们提出了一个简单而有效的想法,采用自我监督损失作为内在奖励,称为强化学习中的内在激励自监督学习(IM-SSR)。我们正式表明,自我监督的损失可以分解为探索新的状态和鲁棒性的提高,从滋扰消除。IM-SSR可以毫不费力地插入任何具有自监督辅助目标的强化学习,几乎没有额外的成本。结合IM-SSR,以前的底层算法在DeepMind控制套件的各种基于视觉的机器人任务中,特别是在奖励信号稀疏时,在样本效率和泛化方面都取得了显着的改进。
2022-05-13 cs.AI cs.LG
RMBRec: Robust Multi-Behavior Recommendation towards Target Behaviors
National University of Singapore(新加坡国立大学);Hefei University of Technology(合肥工业大学);University of Science and Technology of China(中国科学技术大学)
RMBRec通过信息论鲁棒性原则,结合表示鲁棒性模块和优化鲁棒性模块,提升多行为推荐的鲁棒性和稳定性。
2026-01-21 cs.IR cs.LG
Mind the Graph When Balancing Data for Fairness or Robustness
Google DeepMind(谷歌DeepMind)
本文研究数据平衡对公平性与鲁棒性的影响,指出若忽视任务因果图,平衡分布可能无法消除不期望依赖,反而引发失效并干扰正则化等方法。
2024-11-26 cs.LG
Automatic Self-supervised Learning for Social Recommendations
Jilin University(吉林大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出AusRec,通过自监督任务和元学习框架自动平衡贡献,提升社交推荐表示学习性能,在多个真实数据集上优于现有方法。
2026-04-10 cs.IR cs.LG
Pushing the Accuracy-Group Robustness Frontier with Introspective Self-play
Google Research(谷歌研究院);National University of Singapore(新加坡国立大学)
标准的经验风险最小化(ERM)训练可以产生平均准确但在代表性不足的人群亚组中表现不佳的深度神经网络(DNN)模型,特别是当长尾训练数据中存在不平衡的组分布时。因此,提高DNN模型的准确性-组鲁棒性权衡边界的方法(即在不牺牲平均准确性的情况下提高最差组准确性,反之亦然)至关重要。基于不确定性的主动学习(AL)可以通过优先采样代表性不足的子组来创建更平衡的训练数据集,从而潜在地改善前沿。然而,现代DNN的不确定性估计的质量往往会在存在虚假相关性和数据集偏差的情况下下降,从而损害了AL对尾组采样的有效性。在这项工作中,我们提出了内省自我发挥(ISP),一种简单的方法来改善数据集偏差下的深度神经网络的不确定性估计,通过添加一个辅助内省任务,除了标签之外,还需要一个模型来预测每个数据点的偏差。我们证明了ISP可证明地提高了模型表示和由此产生的不确定性估计的偏差意识。在两个现实世界的表格和语言任务中,ISP作为一个简单的“插件”用于AL模型训练,不断提高尾部组采样率和流行AL方法的最终准确性-公平性权衡边界。
2023-02-11 cs.LG stat.ML
A Gift from Label Smoothing: Robust Training with Adaptive Label Smoothing via Auxiliary Classifier under Label Noise
Kim Jaechul Graduate School of AI, KAIST(韩国科学技术院金宰澈人工智能研究生院);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
由于深度神经网络很容易过拟合噪声标签,因此在噪声标签存在的情况下进行鲁棒训练正在成为现代深度学习中的重要挑战。虽然现有的方法在各个方向上解决了这个问题,但它们仍然产生不可预测的次优结果,因为它们依赖于由被噪声标签损坏的特征提取器估计的后验信息。Lipschitz正则化通过训练鲁棒的特征提取器成功地解决了这个问题,但它需要更长的训练时间和昂贵的计算。受此启发,我们提出了一种简单而有效的方法,称为ALASCA,它有效地提供了一个强大的标签噪声下的特征提取。ALASCA集成了两个关键成分:(1)自适应标签平滑,基于我们的理论分析,标签平滑隐含地诱导Lipschitz正则化,以及(2)辅助分类器,使中间Lipschitz正则化的实际应用可以忽略不计的计算。我们对ALASCA进行了广泛的实验,并将我们提出的方法与以前的噪声鲁棒方法在几个合成和真实世界的数据集上相结合。实验结果表明,我们的框架一致提高了鲁棒性的特征提取器和现有的基线与效率的性能。我们的代码可在https://github.com/jongwooko/ALASCA上获得。
2022-11-29 cs.AI cs.LG
An Empirical Study on Robustness to Spurious Correlations using Pre-trained Language Models
Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);Amazon AI(亚马逊人工智能);New York University(纽约大学)
最近的工作表明,预先训练的语言模型(如BERT)提高了对数据集中虚假相关性的鲁棒性。被这些结果所吸引,我们发现他们成功的关键是从少量的反例中推广,其中虚假的相关性不成立。当这样的少数例子很少时,预先训练的模型表现得和从头开始训练的模型一样差。在极端少数的情况下,我们建议使用多任务学习(MTL)来提高泛化能力。我们对自然语言推理和释义识别的实验表明,MTL与正确的辅助任务显着提高了具有挑战性的例子的性能,而不会损害分布性能。此外,我们表明,从MTL的增益主要来自于改进的推广少数的例子。我们的研究结果突出了数据多样性的重要性,克服虚假的相关性。
2020-08-11 cs.CL cs.LG
Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data
JD AI Research, JD.com(京东集团京东人工智能研究院);Nanjing University(南京大学);University of California, Los Angeles(加州大学洛杉矶分校)
对抗性黑盒攻击旨在通过查询机器学习模型的输入输出对来制造对抗性扰动。它们被广泛用于评估预训练模型的鲁棒性。然而,黑盒攻击往往遭受的问题,查询效率低下,由于输入空间的高维性,从而招致一个错误的感觉模型的鲁棒性。在本文中,我们放宽了黑盒威胁模型的条件,并提出了一种新的技术称为跨越攻击。通过在低维子空间中通过生成辅助未标记数据集来约束对抗扰动,生成攻击显着提高了各种现有黑盒攻击的查询效率。大量的实验表明,该方法在软标签和硬标签黑盒攻击中都有良好的效果。我们的代码可在https://github.com/wangwllu/spanning_attack上获得。
2020-11-10 cs.LG stat.ML
Neuronal Self-Adaptation Enhances Capacity and Robustness of Representation in Spiking Neural Networks
Academy of Medical Engineering and Translational Medicine, Tianjin University, Tianjin, China(医学工程与转化医学研究院,天津大学,天津,中国)
本文提出KvLIF神经元模型,通过引入辅助电导状态提升SNN的表示容量和鲁棒性,实验表明其在图像和神经形态数据集上分类准确率和鲁棒性均优于传统LIF模型。
2026-11-06 cs.LG
RegMix: Adversarial Mutual and Generalization Regularization for Enhancing DNN Robustness
School of Computing Newcastle University(计算学院新castle大学)
本文针对对抗训练中MSE正则化导致的过度均匀优化问题,提出加权对抗互正则化和对抗泛化正则化两种策略,显著提升模型对抗鲁棒性。
2025-10-06 cs.CV cs.LG
Improving the trustworthiness of image classification models by utilizing bounding-box annotations
University of Arizona(亚利桑那大学)
我们研究利用训练数据中的辅助信息来提高机器学习模型的可信度。具体而言,在图像分类的上下文中,我们建议优化的训练目标,结合限界框信息,这是在许多图像分类数据集。初步的实验结果表明,该算法实现了更好的性能,准确性,鲁棒性和可解释性相比,基线。
2021-08-15 cs.CV cs.LG
Is Last Layer Re-Training Truly Sufficient for Robustness to Spurious Correlations?
University of Duisburg-Essen(杜伊斯堡-埃森大学);University of Marburg(马尔堡大学);University of Mannheim(曼海姆大学)
本文研究了DFR方法在医学领域现实数据中对虚假相关性的适用性,发现尽管重训练最后一层能提升最差组准确率,但仍易受虚假相关性影响。
2024-01-09 cs.CV cs.LG
Towards Robust Recommender Systems via Triple Cooperative Defense
University Of Science And Technology Of China(中国科学技术大学)
推荐系统通常容易受到精心制作的虚假配置文件的影响,从而导致有偏见的推荐。推荐系统的广泛应用使得对攻击防御的研究成为必要。在现有的防御方法中,基于数据处理的方法不可避免地排除正常样本,而基于模型的方法则难以同时享有泛化性和鲁棒性。考虑到上述局限性,本文提出将数据处理和鲁棒模型相结合,并提出了一种通用的三重协同防御框架(TCD),该框架通过三个模型的协同训练来提高模型的鲁棒性。具体来说,在每轮训练中,我们依次使用任意两个模型的高置信度预测评分(一致评分)作为剩余模型的辅助训练数据,三个模型协同提高推荐鲁棒性。值得注意的是,TCD添加伪标签数据而不是删除异常数据,这避免了正常数据的清洗,并且三个模型的协同训练也有利于模型的泛化。通过对三个真实世界数据集进行五次中毒攻击的广泛实验,结果表明TCD的鲁棒性提高显着优于基线。值得一提的是,TCD也有利于模型的推广。
2022-10-25 cs.CR cs.LG cs.SI
Benchmark for Uncertainty & Robustness in Self-Supervised Learning
Johns Hopkins University(约翰斯·霍普金斯大学)
自监督学习(SSL)对于现实世界的应用至关重要,特别是在医疗保健和自动驾驶汽车等数据饥渴的领域。除了缺乏标记数据之外,这些应用程序还受到分布变化的影响。因此,SSL方法应该在测试数据集中提供鲁棒的泛化和不确定性估计,以被认为是这种高风险领域中的可靠模型。然而,现有的方法往往侧重于泛化,而不评估模型的不确定性。因此,比较SSL技术来改善这些估计的能力对于自我监督模型的可靠性研究至关重要。在本文中,我们探索了SSL方法的变体,包括用于视觉的Jigsaw Puzzles、Context、Rotation、Geometric Transformations Prediction,以及用于语言任务的BERT和GPT。我们训练SSL用于视觉的辅助学习和语言模型的预训练,然后评估不同分布协变量偏移数据集(包括MNIST-C,CIFAR-10-C,CIFAR-10.1和MNLI)的泛化(输入-输出分类精度)和不确定性(预期校准误差)。我们的目标是创建一个具有实验输出的基准,为可靠机器学习中的新SSL方法提供一个起点。复制结果的所有源代码可在https://github.com/hamanhbui/reliable_ssl_baselines上获得。
2022-12-23 cs.CV cs.LG