Learning Robust Reasoning through Guided Adversarial Self-Play
University of Texas at Austin(德克萨斯大学奥斯汀分校);Honda Research Institute USA(本田美国研究院)
GASP通过引导对抗自博弈方法提升推理模型的鲁棒性,使其在面对误导和扰动上下文时保持稳定并提高准确度。
2026-01-30 cs.AI cs.LG
Enhanced Experience Replay Generation for Efficient Reinforcement Learning
Ericsson AB(爱立信公司)
将深度强化学习(RL)应用于真实系统会遇到数据采样缓慢的问题。我们提出了一个增强的生成对抗网络(EGAN)来初始化RL代理,以实现更快的学习。EGAN利用状态和动作之间的关系来提高由GAN生成的数据样本的质量。与没有预训练相比,使用EGAN预训练代理显示出更陡峭的学习曲线,在学习开始时训练时间提高了20%,并且与使用GAN训练相比提高了约5%,变化较小。对于具有稀疏和缓慢数据采样的实时的系统,EGAN可以用于加速训练过程的早期阶段。
2017-05-29 cs.AI
Bias-reduced Multi-step Hindsight Experience Replay for Efficient Multi-goal Reinforcement Learning
Tsinghua University(清华大学);Tencent AI Lab(腾讯人工智能实验室)
多目标强化学习在规划和机器人操作中有着广泛的应用。多目标强化学习的两个主要挑战是稀疏奖励和样本效率低下。后见之明经验重演(HER)旨在通过目标重新标记来解决这两个挑战。然而,HER相关的工作仍然需要数百万的样本和巨大的计算。在本文中,我们提出了多步后见之明经验重放(MHER),结合多步重新标记的回报的基础上$n$ -步骤重新标记,以提高样本效率。尽管$n$ -步骤重新标记的优点,我们从理论和实验上证明了由$n$ -步骤重新标记引入的政策外$n$-步骤偏差可能导致在许多环境中的性能差。为了解决上述问题,提出了两种降低偏置的MHER算法:MHER($λ$)和基于模型的MHER(MMHER)。MHER($λ$)利用了$λ$的回报,而MMHER则受益于基于模型的价值扩张。大量多目标机器人任务的实验结果表明,我们的解决方案可以成功地减轻政策外的$n$ -步骤的偏见,并实现显着更高的样本效率比HER和课程引导HER与HER以外的额外计算。
2022-09-26 cs.AI cs.LG cs.RO
Adversarially Guided Actor-Critic
Inria(法国国家信息与自动化研究所);Univ. Lille(里尔大学);CNRS(法国国家科学研究中心);Google Research(谷歌研究院)
尽管在深度强化学习问题上取得了一定的成功,但行动者-评论家算法在复杂环境中仍然面临样本效率低下的问题,特别是在有效探索是瓶颈的任务中。这些方法考虑了一个政策(演员)和一个价值函数(批评家),其各自的损失是使用不同的动机和方法建立的。本文介绍了第三个主角:对手。当对手通过最小化他们各自的动作分布之间的KL-分歧来模仿演员时,演员除了学习解决任务之外,还试图将自己与对手的预测区分开来。这个新的目标刺激行动者遵循以前的轨迹无法正确预测的策略,使其行为在奖励极其罕见的任务中具有创新性。我们的实验分析表明,由此产生的对抗引导演员评论(AGAC)算法导致更详尽的探索。值得注意的是,AGAC在一组各种硬探索和程序生成的任务上优于当前最先进的方法。
2021-02-08 cs.AI cs.LG stat.ML
Uncertainty Prioritized Experience Replay
本文提出利用认知不确定性为回放缓冲区中的转移排序,以抑制噪声导致的错误优先级,并在玩具任务和 Atari 上验证其优于 QR-DQN 基准。
2025-06-10 cs.LG
Red-Teaming Text-to-Image Models via In-Context Experience Replay and Semantic-Preserving Prompt Rewriting
CISPA Helmholtz Center for Information Security(CISPA 欧洲信息安全中心);IBM Research(IBM 研究院);National Yang Ming Chiao Tung University(国立阳明交通大学)
本文提出ICER框架,通过提示重写和上下文经验回放生成流畅的对抗性提示,有效提升图像生成模型的安全性测试能力,实验表明其在多个安全机制上优于现有方法。
2026-09-29 cs.CL cs.CR cs.CV
Defense without Forgetting: Continual Adversarial Defense with Anisotropic & Isotropic Pseudo Replay
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies(广东省新型安全智能技术重点实验室)
针对攻击序列导致持续对抗防御中的灾难性遗忘问题,提出AIR基线,通过各向同性与各向异性伪回放及正则化对齐新旧任务,性能逼近甚至超过联合训练上界。
2024-04-02 cs.AI cs.LG
Generative Replay Mitigates Sample Starvation in Quantum Architecture Search
Delft University of Technology(代尔夫特理工大学);QuTech(QuTech量子计算研究机构);Indian Institute of Technology (BHU)(印度理工学院(贝拿勒斯印度教大学));Halmstad University(哈尔姆斯塔德大学)
GenQAS通过张量网络引导的强化学习与生成式回放,缓解量子架构搜索中的样本匮乏,提高成功概率并减少资源消耗。
2026-09-11 cs.AI cs.ET cs.LG
PAGAR: Taming Reward Misalignment in Inverse Reinforcement Learning-Based Imitation Learning with Protagonist Antagonist Guided Adversarial Reward
Boston University(波士顿大学)
本文提出PAGAR半监督奖励设计范式,通过混合奖励函数训练策略,解决IRL中奖励错位导致的任务失败,并在复杂任务中优于标准IL基线。
2024-02-07 cs.LG
Evolutionary Strategy Guided Reinforcement Learning via MultiBuffer Communication
University of Galway(戈尔韦大学)
本文提出一种结合进化策略与TD3的进化强化学习模型,通过多缓冲区通信机制避免低质量轨迹污染回放缓冲区,在MuJoCo任务上超越CEM-RL。
2023-06-20 cs.AI cs.NE
Wasserstein Distance guided Adversarial Imitation Learning with Reward Shape Exploration
Tsinghua University(清华大学);Sun Yat-Sen University(中山大学)
生成式对抗模仿学习(GAIL)提供了一个对抗性学习框架,用于从高维连续任务的演示中模仿专家策略。然而,几乎所有的GAIL及其扩展都只设计了一种对数形式的奖励函数在对抗训练策略与Jensen-Shannon(JS)的分歧,为所有复杂的环境。固定对数类型的奖励函数可能难以解决所有复杂的任务,而JS发散引起的梯度消失问题将损害对抗学习过程。本文提出了一种新的Wasserstein距离引导的对抗性模仿学习(WDAIL)算法,以提高模仿学习(IL)的性能。该方法有三个改进:(a)在对抗训练过程中引入Wasserstein距离以获得更合适的度量;(b)在强化学习阶段使用近端策略优化(PPO),实现更简单,提高算法效率;(c)探索不同的奖励函数形状以适应不同的任务以提高性能。实验结果表明,该学习过程保持了显著的稳定性,在MuJoCo复杂的连续控制任务中取得了显著的效果。
2020-12-08 cs.LG cs.RO stat.ML
Can AI Agents Learn Their Way to the Top? Evaluating Heuristic Learning in a Long-Running Game Agent Competition
Tsinghua University(清华大学);College of AI, Tsinghua University(清华大学人工智能学院)
本研究在长期游戏智能体竞赛中评估启发式学习,提出对抗性启发式学习范式,构建AAArena基准,发现Opus5.5搭配Claude Code获6金,HL在对抗性游戏具潜力但存多项挑战。
2026-10-09 cs.AI cs.CL
Saliency-Guided Replay for Continual Learning in Deep Spiking Neural Networks
Sapienza University of Rome(罗马大学);Goethe University Frankfurt(法兰克福大学)
该研究针对深度脉冲神经网络的灾难性遗忘问题,提出结合VGG9 SNN与脉冲激活图(SAM)的显著性引导经验打包与重放策略,在Split CIFAR数据集上实现了更优的准确率-内存权衡。
2026-10-14 cs.AI cs.CV cs.LG
Prototype-Guided Memory Replay for Continual Learning
Deakin University(迪肯大学);Monash University(莫纳什大学)
持续学习(CL)是指一种机器学习范式,它在不忘记先前获得的知识的情况下持续学习。因此,CL的主要困难是由数据分布的变化引起的对先前任务的灾难性遗忘。现有的CL模型通常会保存大量的旧示例,并随机重新访问以前看到的数据以保留旧知识。然而,随着所见数据的积累,占用的存储器大小不断增大。因此,我们提出了一个内存有效的CL方法,通过存储一些样本,以实现良好的性能。我们设计了一个动态原型引导的记忆回放模块,并将其纳入在线元学习模型。我们对文本分类进行了广泛的实验,并研究了训练集顺序对CL模型性能的影响。实验结果证明了我们的方法在遗忘缓解和效率方面的优越性。
2023-03-04 cs.LG
Saliency Guided Experience Packing for Replay in Continual Learning
Purdue University(普渡大学)
人工学习系统渴望通过不断地从一系列任务中学习而不忘记过去的知识来模仿人类智能。实现这种学习的一种方法是将过去的经验以输入示例的形式存储在情景记忆中,并在学习新任务时重放它们。然而,这种方法的性能随着存储器的大小变得更小而受到影响。在本文中,我们提出了一种新的经验重放的方法,我们选择过去的经验,通过查看显着性图,为模型的决策提供视觉解释。在这些显着图的指导下,我们只将输入图像中对模型预测重要的部分或补丁装入内存。在学习新任务时,我们用适当的零填充来重放这些记忆补丁,以提醒模型过去的决定。我们在CIFAR-100,miniImageNet和CUB数据集上评估了我们的算法,并报告了比最先进方法更好的性能。通过定性和定量分析,我们表明,我们的方法捕捉更丰富的总结过去的经验,没有任何记忆增加,因此表现良好,小情景记忆。
2022-10-12 cs.CV cs.LG
Saliency-Guided Hidden Associative Replay for Continual Learning
Emory University(埃默里大学)
针对持续学习中回放方法内存开销大、现有局部数据检索机制不符合人类记忆规律的问题,提出结合联想记忆与回放策略的SHARC框架,通过稀疏编码存储显著片段、基于内容检索实现高效回忆,在多任务上验证了有效性。
2023-10-06 cs.LG
MGSER-SAM: Memory-Guided Soft Experience Replay with Sharpness-Aware Optimization for Enhanced Continual Learning
Tulane University(杜兰大学);Worcester Polytechnic Institute(伍斯特理工学院)
针对持续学习中的灾难性遗忘问题,提出结合SAM优化器、软logits与记忆梯度对齐的MGSER-SAM算法,在三类场景下均优于现有基线,显著提升准确率并降低遗忘率。
2024-05-15 cs.LG
Knowledge-guided Continual Learning for Behavioral Analytics Systems
Humanitarian Informatics Lab(人道主义信息学实验室);George Mason University(乔治·马歇尔大学)
针对在线行为分析模型因数据漂移和灾难性遗忘导致性能下降的问题,提出一种将外部知识整合到基于重放的持续学习框架中的新颖数据增强方法,并在三个异常行为分类数据集上验证其优于基线方法。
2025-11-01 cs.AI cs.LG
Adversarial Examples for Good: Adversarial Examples Guided Imbalanced Learning
Zhejiang University(浙江大学)
对抗性示例是攻击者设计的机器学习模型的输入,以导致模型出错。在本文中,我们证明了对抗性示例也可以用来改善不平衡学习的性能。我们为如何处理不平衡数据提供了一个新的视角:通过使用指导对抗示例(GAE)进行训练来调整有偏见的决策边界。我们的方法可以有效地提高少数类的准确性,而牺牲大多数类的准确性很小。我们的经验表明,在几个基准数据集上,我们提出的方法与最先进的方法相当。据我们所知,我们是第一个用对抗性例子来处理不平衡学习的人。
2022-08-30 cs.AI cs.LG
Online Continual Learning via Multiple Deep Metric Learning and Uncertainty-guided Episodic Memory Replay -- 3rd Place Solution for ICCV 2021 Workshop SSLAD Track 3A Continual Object Classification
Xi’an Jiaotong University(西安交通大学)
在线持续学习是机器学习中一项非常困难的任务。在线持续学习的非平稳性可能会导致神经网络的灾难性遗忘。具体而言,使用SODA 10 M数据集进行自动驾驶的在线持续学习在具有连续分布偏移的极长尾分布上表现出额外的问题。为了解决这些问题,我们提出了多个深度度量表示学习,通过对比和监督对比学习以及软标签蒸馏来提高模型的泛化能力。此外,我们利用修改后的类平衡的焦点损失敏感的惩罚类不平衡和硬容易的样本。我们还存储一些样本的指导下的不确定性度量排练和执行在线和定期的内存更新。我们提出的方法取得了相当大的推广,平均平均类准确率(AMCA)64.01%的验证和64.53%的AMCA测试集。
2021-11-04 cs.CV cs.LG
SEEKR: Selective Attention-Guided Knowledge Retention for Continual Learning of Large Language Models
Foundation Model Research Center, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所基础模型研究中心);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Chongqing University(重庆大学);Peng Cheng Laboratory(鹏城实验室);Wuhan AI Research(武汉人工智能研究院)
针对持续学习中的灾难性遗忘问题,提出SEEKR方法,通过选择性注意力蒸馏保留先前知识,仅需1/10重放数据即实现更优性能。
2024-11-09 cs.CL cs.LG
Guided-GAN: Adversarial Representation Learning for Activity Recognition with Wearables
The University of Adelaide(阿德莱德大学);Monash University(莫纳什大学)
人体活动识别是普适计算中的一个重要研究领域,大规模标记传感器数据的获取是繁琐、劳动密集和耗时的。为了减轻HAR中数据注释的负担而研究的最先进的无监督补救措施主要是探索训练自动编码器框架。在本文中:我们探索了生成对抗网络(GAN)范例,以从可穿戴传感器数据中学习无监督特征表示;并设计了一种新的GAN框架-几何引导GAN或引导GAN-用于该任务。为了证明我们的公式的有效性,我们评估了三个下游分类基准上以无监督方式由Guided-GAN学习的特征。我们的研究结果表明,Guided-GAN的性能优于现有的无监督方法,同时接近完全监督学习表示的性能。所提出的方法为弥合无监督和有监督的人类活动识别之间的差距铺平了道路,同时有助于降低人类数据注释任务的成本。
2021-10-12 cs.AI cs.LG
Prior-free Balanced Replay: Uncertainty-guided Reservoir Sampling for Long-Tailed Continual Learning
Shenzhen Research Institute of Big Data (SRIBD)(深圳大数据研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);The Hong Kong Polytechnic University(香港理工大学)
针对长尾持续学习中的灾难性遗忘问题,提出无先验平衡回放(PBR)框架,通过不确定性引导的蓄水池采样及边界与原型约束,在无需先验信息下有效减少遗忘并超越现有方法。
2024-08-27 cs.AI cs.CV cs.LG
Analysis and Improvement of Adversarial Training in DQN Agents With Adversarially-Guided Exploration (AGE)
Kansas State University(堪萨斯州立大学)
本文研究了对抗性训练在增强深度Q网络(DQN)策略对状态空间扰动的鲁棒性方面的有效性。我们首先提出了一个正式的分析DQN代理的对抗性训练及其性能的对抗性扰动的比例用于训练的名义观察。接下来,我们考虑了当前对抗训练技术的样本效率低下,并提出了一种新的基于$ε$ -贪心算法和玻尔兹曼探索的改进混合的对抗引导探索(AGE)机制。我们验证了这种探索机制的可行性,通过实验评估其性能与传统的衰减$ε$贪婪和参数空间噪声探索算法相比。
2019-06-03 cs.AI cs.CR cs.LG
AGFT: Alignment-Guided Fine-Tuning for Zero-Shot Adversarial Robustness of Vision-Language Models
Harbin Institute of Technology, Shenzhen, China(哈尔滨工业大学(深圳));Shenzhen Loop Area Institute, Shenzhen, China(深圳市环域研究所)
本文提出AGFT框架,通过概率预测进行文本引导对抗训练,提升视觉-语言模型的零样本对抗鲁棒性,同时保持跨模态语义结构。
2026-03-31 cs.AI cs.CV cs.LG
Explanation-Guided Adversarial Training for Robust and Interpretable Models
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Fuzhou University(福州大学);NLPR, MAIS, Institute of Automation, Chinese Academy of Sciences(神经网络与模式识别实验室、机器学习与智能系统研究所、自动化研究所,中国科学院)
EGAT结合对抗训练和解释引导学习,提升模型的预测性能、鲁棒性和解释质量,通过生成对抗示例并施加解释约束,在保持效率的同时增强模型的稳健性和可解释性。
2026-03-02 cs.AI cs.LG
Multiple Organ Failure Prediction with Classifier-Guided Generative Adversarial Imputation Networks
University of California, Santa Barbara(加州大学圣巴巴拉分校);UC, Davis Health(加州大学戴维斯分校医疗中心)
多器官功能衰竭(MOF)是重症监护病房(ICU)患者中的一种严重综合征,死亡率高。早期和精确的检测对于临床医生及时做出决定至关重要。将机器学习模型应用于电子健康记录(EHR)的一个重要挑战是缺失值的普遍存在。大多数现有的插补方法都涉及数据预处理阶段,无法捕捉数据和下游预测结果之间的关系。在本文中,我们提出了用于MOF预测的分类器引导的生成对抗性填补网络Classifier-GAIN,通过结合观察数据和标签信息来弥合这一差距。具体而言,分类器从生成器(输入器)获取输入值以预测任务结果,并通过联合训练向生成器提供额外的监督信号。分类器引导生成器在训练过程中使用标签意识来填补缺失值,从而提高分类器在推理过程中的性能。我们进行了大量的实验,表明我们的方法在一系列缺失数据场景和评估指标中始终优于经典和最先进的神经基线。
2021-06-22 cs.AI cs.LG
LADDER: Latent Boundary-guided Adversarial Training
Australian Artificial Intelligence Institute (AAII)(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学);Data61, CSIRO(联邦科学与工业研究组织Data61);The University of Sydney(悉尼大学)
深度神经网络(DNN)最近在许多分类任务中取得了巨大成功。不幸的是,它们容易受到对抗攻击的攻击,这些攻击会生成带有小扰动的对抗示例来欺骗DNN模型,特别是在模型共享场景中。对抗性训练被证明是将对抗性示例注入模型训练以提高DNN模型对对抗攻击的鲁棒性的最有效策略。然而,基于现有对抗性示例的对抗性训练未能很好地推广到标准的、未扰动的测试数据。为了在标准准确性和对抗鲁棒性之间实现更好的权衡,我们提出了一种新的对抗训练框架,称为潜在边界引导的aDvErsarial tRaining(LADDER),它在潜在边界引导的对抗示例上对抗性地训练DNN模型。与大多数在输入空间中生成对抗性示例的现有方法相反,LADDER通过向潜在特征添加扰动来生成大量高质量的对抗性示例。扰动沿着由具有注意力机制的SVM构造的决策边界的法线进行。我们从边界场的角度和可视化的角度分析了我们生成的边界引导对抗示例的优点。对MNIST、SVHN、CelebA和CIFAR-10的广泛实验和详细分析验证了LADDER在标准准确性和对抗鲁棒性之间实现更好权衡的有效性,与普通DNN和竞争基线相比。
2022-07-06 cs.LG
Online Class-Incremental Continual Learning with Adversarial Shapley Value
University of Toronto(多伦多大学);LG AI Research(LG人工智能研究院)
随着基于图像的深度学习在从手机到智能手表的每一种设备上变得普遍,越来越需要开发不断从数据中学习的方法,同时最大限度地减少内存占用和功耗。虽然记忆回放技术已经显示出对于这种持续学习任务的特殊承诺,但是选择回放哪些缓冲图像的最佳方法仍然是一个悬而未决的问题。在本文中,我们特别关注在线类增量设置,其中模型需要从在线数据流中不断学习新类。为此,我们贡献了一种新的对抗Shapley值评分方法,该方法根据记忆数据样本保留先前观察到的类的潜在决策边界的能力(以保持学习稳定性并避免遗忘),同时干扰正在学习的当前类的潜在决策边界(以鼓励新类边界的可塑性和最佳学习)。总的来说,我们观察到,我们提出的ASER方法提供了竞争力或改进的性能相比,国家的最先进的重放为基础的持续学习方法在各种数据集。
2021-03-22 cs.CV cs.LG stat.ML
GGT: Graph-Guided Testing for Adversarial Sample Detection of Deep Neural Network
Zhejiang University of Technology(浙江工业大学);National University of Defense Technology(国防科技大学);Monash University(莫纳什大学);Zhejiang University(浙江大学)
深度神经网络(DNN)容易受到对抗性样本的攻击,检测对抗性样本对于这些DNN模型的广泛应用至关重要。近年来,软件工程中提出了许多深度测试方法来发现DNN系统的脆弱性,其中之一,模型变异测试(MMT),被用来成功地检测各种对抗样本产生的不同类型的对抗攻击。然而,MMT中的突变模型在数量上总是巨大的(例如,超过100个模型)并且缺乏多样性(例如,可以很容易地被高置信度对抗样本规避),这使得它在实际应用中效率较低,在检测高置信度对抗样本时效果较差。在这项研究中,我们提出了用于对抗性样本检测的图引导测试(GGT)来克服上述挑战。GGT在图特征的指导下生成剪枝模型,每个剪枝模型的参数仅占MMT变异模型的5%左右,图指导模型具有更高的多样性。在CIFAR10和SVHN上的实验验证了GGT在有效性和效率方面都优于MMT。
2021-07-09 cs.AI cs.CR cs.LG
Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses
Indian Institute of Science(印度科学学院)
对抗攻击的发展是对抗性防御研究的基础。高效和有效的攻击对于可靠的防御评估以及开发健壮的模型至关重要。对抗攻击通常通过使用投影梯度下降(PGD)在约束集内最大化标准损失(诸如交叉熵损失或最大余量损失)来生成。在这项工作中,我们在标准损失中引入了一个松弛项,找到了更合适的梯度方向,提高了攻击效率,并导致了更有效的对抗训练。我们提出了引导的对抗性边缘攻击(GAMA),它利用干净图像的函数映射来引导对手的生成,从而产生更强的攻击。我们评估我们的攻击对多种防御,并显示出改进的性能相比,现有的攻击。此外,我们提出了引导对抗训练(GAT),它通过利用所提出的松弛项进行攻击生成和训练,在单步防御中实现了最先进的性能。
2020-11-30 cs.CV cs.LG
AdvEntuRe: Adversarial Training for Textual Entailment with Knowledge-Guided Examples
Carnegie Mellon University(卡内基梅隆大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们考虑了有限监督(5 K-10 K训练样本)的文本蕴涵模型的学习问题,并提出了两种互补的方法。首先,我们提出了知识引导的对抗性示例生成器,用于通过少数规则模板将大型词汇资源纳入蕴涵模型。其次,为了使蕴涵模型-一个机器人-更强大,我们提出了第一种GAN风格的方法,使用自然语言示例生成器来训练它,该示例生成器根据机器人的性能进行迭代调整。我们使用两个蕴涵数据集证明了有效性,其中所提出的方法在SciTail上将准确率提高了4.7%,在SNLI的1%训练子样本上提高了2.8%。值得注意的是,即使是一个手写的规则,否定,提高了6.1%的SNLI否定示例的准确性。
2018-05-12 cs.AI cs.CL cs.LG
Guided Interpolation for Adversarial Training
Zhejiang University(浙江大学);RIKEN Center for Advanced Intelligence Project (AIP)(理化学研究所先进智能项目中心);Shandong University(山东大学);The University of Tokyo(东京大学)
为了增强对抗性鲁棒性,对抗性训练在其自然数据生成的对抗性变体上学习深度神经网络。然而,随着训练的进行,训练数据变得越来越不可攻击,破坏了鲁棒性增强。一个简单的补救办法是合并更多的训练数据,但有时会产生无法承受的成本。在本文中,为了缓解这个问题,我们提出了引导插值框架(GIF):在每个时期,GIF采用前一个时期的Meta信息来指导数据的插值。与vanilla mixup相比,GIF能够提供更高比例的可攻击数据,这有利于增强鲁棒性;同时,GIF也缓解了模型类间的线性行为,线性行为有利于泛化,但不利于鲁棒性。因此,GIF鼓励模型在每个类的聚类中进行不变的预测。实验表明,GIF确实可以增强各种对抗训练方法和各种数据集的对抗鲁棒性。
2021-02-15 cs.LG
Guided Diffusion Model for Adversarial Purification from Random Noise
Yuanpei College(元培学院);Peking University(北京大学)
在本文中,我们提出了一种新的引导扩散净化方法,以提供一个强大的防御对抗攻击。在CIFAR-10数据集上,我们的模型在PGD-L_inf攻击(eps = 8/255)下达到了89.62%的鲁棒准确率。我们首先探讨无指导的扩散模型和随机平滑之间的基本相关性,使我们能够将模型应用于认证的鲁棒性。实验结果表明,当认证的L2半径r大于0.5时,我们的模型优于随机平滑5%。
2022-06-22 cs.CR cs.LG
Streaming Adversarial Robustness in Fuzzy ARTMAP: Mechanism-Aligned Evaluation, Progressive Training, and Interpretable Diagnostics
Department of Electrical and Computer Engineering(电气与计算机工程系);Kummer Institute Center for Artificial Intelligence and Autonomous Systems (KICAIAS)(人工智能与自主系统中心(KICAIAS));Missouri University of Science and Technology(密苏里科技大学)
本文研究模糊ARTMAP在流式学习中的对抗鲁棒性,提出WB-Softmax攻击代理,并展示渐进两阶段选择训练在无回放鲁棒性上的优势,同时通过显式类别几何实现可解释的诊断。
2026-05-07 cs.LG
Exploring Gradient-Guided Masked Language Model to Detect Textual Adversarial Attacks
School of Information and Communication Technology, Griffith University(格里菲斯大学信息与通信技术学院);School of Computer Science, University of Technology Sydney(悉尼科技大学计算机科学学院);College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院);School of Cyber Science and Engineering, Huazhong University of Science and Technology(华中科技大学网络空间科学与工程学院)
针对文本对抗样本威胁,基于对抗样本偏离正常文本流形的特性,提出MLMD方法利用掩码语言模型检测差异,再通过GradMLMD的梯度引导跳过非关键词,在保证性能的同时降低计算开销。
2025-04-08 cs.AI cs.CL cs.LG
Mode-Aware Continual Learning for Conditional Generative Adversarial Networks
Duke University(杜克大学)
针对条件GAN持续学习中新模式样本有限且易遗忘旧模式的问题,提出基于模式亲和度与标签加权生成、记忆回放的方法,在更少样本下优于现有方法。
2023-09-23 cs.LG stat.ML
Explainability-Guided Defense: Attribution-Aware Model Refinement Against Adversarial Data Attacks
本文提出属性感知模型细化方法,通过LIME引导训练以提升对抗鲁棒性和分布外泛化能力。
2026-01-02 cs.LG
HyperAttack: Multi-Gradient-Guided White-box Adversarial Structure Attack of Hypergraph Neural Networks
Central South University(中南大学);National University of Defence Technology(国防科技大学);Tsinghua University(清华大学)
超图神经网络(HGNN)在各种深度学习任务中表现出卓越的性能,利用高阶表示能力通过超边建模连接两个或更多节点来制定数据之间的复杂相关性。针对图神经网络的对抗性攻击已经得到了广泛的研究,但针对HGNN的对抗攻击研究较少,这对HGNN应用的安全性构成了威胁。在本文中,我们介绍了HyperAttack,第一个针对超图神经网络的白盒对抗攻击框架。HyperAttack通过在梯度和综合梯度的指导下扰动超边缘链路状态来进行白盒结构攻击。我们评估HyperAttack上广泛使用的Cora和PubMed数据集和三个超图神经网络与典型的超图建模技术。与GNN最先进的白盒结构化攻击方法相比,HyperAttack在时间效率上提高了10- 20倍,同时攻击成功率也提高了1.3%-3.7%。结果表明,HyperAttack可以实现有效的对抗攻击,平衡效率和时间成本。
2023-02-24 cs.AI cs.CR cs.LG
Guided Perturbation Sensitivity (GPS): Detecting Adversarial Text via Embedding Stability and Word Importance
University of Houston(休斯顿大学)
GPS通过嵌入稳定性与词重要性检测对抗文本,实现高准确率和低计算成本的攻击识别。
2026-01-28 cs.AI cs.CL cs.LG
Improving Fast Adversarial Training with Prior-Guided Knowledge
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent Inc.(腾讯公司);Beihang University(北京航空航天大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院);Sun Yat-sen University(中山大学)
针对快速对抗训练的灾难性过拟合问题,提出利用历史训练先验知识生成对抗初始化、正则化及集成模型权重的FGSM-PGK方法,在不增加训练成本下显著提升了模型鲁棒性。
2023-04-06 cs.CV cs.LG
Structure-Guided Adversarial Training of Diffusion Models
Peking University(北京大学)
针对现有扩散模型训练忽略小批次内样本结构信息的问题,提出结构引导对抗训练方法SADM,通过结构判别器与生成器的极小极大博弈学习样本流形结构,在12个数据集的图像生成等任务上刷新SOTA。
2024-03-04 cs.AI cs.CV cs.LG
CgAT: Center-Guided Adversarial Training for Deep Hashing-Based Retrieval
The Hong Kong University of Science and Technology(香港科技大学);The Hong Kong University of Science and Technology Shenzhen Research Institute(香港科技大学深圳研究院)
深度哈希算法由于其高效性和有效性,在海量图像检索中得到了广泛的应用。然而,深度哈希模型容易受到对抗性示例的攻击,因此开发对抗性防御方法用于图像检索至关重要。现有的解决方案实现了有限的防御性能,因为使用弱对抗性样本进行训练,并且缺乏区分性优化目标来学习鲁棒特征。在本文中,我们提出了一种基于最小-最大值的中心引导对抗训练,即CgAT,通过最差的对抗示例来提高深度哈希网络的鲁棒性。具体来说,我们首先制定的中心代码作为一个语义的歧视性代表的输入图像内容,它保留了语义相似性与积极的样本和不相似性与消极的例子。我们证明了一个数学公式可以立即计算出中心码。在深度哈希网络的每次优化迭代中获得中心码后,采用它们来指导对抗训练过程。一方面,CgAT通过最大化对抗样本的哈希码与中心码之间的汉明距离来生成最差的对抗样本作为增强数据。另一方面,CgAT通过最小化到中心码的汉明距离来学习减轻对抗样本的影响。在基准数据集上的大量实验证明了我们的对抗性训练算法在防御基于深度哈希的检索的对抗攻击方面的有效性。在FLICKR-25 K、NUS-WIDE和MS-COCO上,与当前最先进的防御方法相比,防御性能平均提高了18.61%、12.35%和11.56%。该代码可在https://github.com/xunguangwang/CgAT上获得。
2023-03-25 cs.AI cs.CR cs.CV
CAT: Closed-loop Adversarial Training for Safe End-to-End Driving
Tsinghua University(清华大学);University of California, Los Angeles(加州大学洛杉矶分校);The University of Edinburgh(爱丁堡大学)
本文提出闭环对抗训练框架CAT,通过概率分解重采样技术动态生成安全关键驾驶场景,以更低计算成本提升端到端驾驶智能体的安全性。
2023-10-19 cs.LG
Language Guided Adversarial Purification
Indraprastha Institute of Information Technology, Delhi, India(印度德里因陀罗普拉斯塔信息技术学院)
本文提出语言引导的对抗净化框架,利用预训练扩散模型和标签生成器提升对抗鲁棒性,无需专门训练即可优于现有方法。
2023-09-19 cs.CR cs.CV cs.LG
Latent Adversarial Defence with Boundary-guided Generation
University of Technology Sydney(悉尼科技大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);The University of Sydney(悉尼大学)
深度神经网络(DNN)最近在许多任务中取得了巨大的成功,这鼓励DNN在模型共享场景中作为机器学习服务被广泛使用。然而,攻击者可以很容易地生成带有小扰动的对抗性示例,以欺骗DNN模型来预测错误的标签。为了提高共享DNN模型对对抗攻击的鲁棒性,我们提出了一种称为潜在对抗防御(LAD)的新方法。所提出的LAD方法通过对生成的对抗性示例进行对抗性训练来提高DNN模型的鲁棒性。与目前流行的攻击方法只在输入空间中生成重复模式的对抗样本不同,LAD方法通过对带有注意力机制的SVM构造的决策边界的法线方向的潜在特征进行扰动,生成大量的对抗样本。一旦生成了对抗性示例,我们就通过用生成的对抗性示例增强训练数据来对抗性地训练模型。在MNIST、SVHN和CelebA数据集上的大量实验证明了我们的模型在防御不同类型的对抗攻击方面的有效性。
2019-07-16 cs.CR cs.LG
Instruct2Attack: Language-Guided Semantic Adversarial Attacks
Johns Hopkins University(约翰斯·霍普金斯大学);Carnegie Mellon University(卡内基梅隆大学);University of Maryland, College Park(马里兰大学帕克分校);City University of Hong Kong(香港城市大学)
提出 Instruct2Attack (I2A),一种语言引导的语义对抗攻击方法,利用潜在扩散模型和 GPT-4 自动生成指令,生成自然、多样且可控的对抗样本,能攻破强防御网络并具备高迁移性。
2023-11-27 cs.AI cs.CR cs.CV
Physics-Guided Adversarial Machine Learning for Aircraft Systems Simulation
Polytechnique Montréal(蒙特利尔综合理工学院);Bombardier Aerospace Inc.(庞巴迪宇航公司)
在飞行器系统性能评估的背景下,深度学习技术允许从实验测量快速推断模型,与基于物理的建模相比通常需要较少的详细系统知识。然而,这种廉价的模型开发也带来了关于模型可信度的新挑战。这项工作提出了一种新的方法,物理引导的对抗性机器学习(ML),提高了模型的物理一致性的信心。首先,该方法执行物理引导的对抗性测试阶段,以搜索揭示行为系统不一致性的测试输入,同时仍在可预见的操作条件范围内。然后,它继续进行物理信息对抗训练,通过迭代地减少先前未发现的反例上不需要的输出偏差来教授模型系统相关的物理领域预知。对两个飞机系统性能模型的实证评估表明,我们的对抗ML方法在暴露两个模型的物理不一致性和提高其与物理领域知识一致的倾向方面是有效的。
2022-09-07 cs.CE cs.LG cs.SY
Adversarial Consistency-Guided Representation Learning for Multi-view Clustering
Fujian Normal University(福建师范大学);McGill University(麦吉尔大学)
提出ACGRL框架,通过梯度反转判别器降低视图可识别性,冻结不变参考表示以分离视图特定信息,并在四个基准数据集上验证了优于现有方法的聚类性能。
2026-09-29 cs.LG
Defense-guided Transferable Adversarial Attacks
虽然深度神经网络可以出色地执行具有挑战性的任务,但它们容易受到对抗性示例的影响,这些示例通过对干净的输入施加人类无法感知的扰动来误导分类器。在无查询的黑盒场景下,对抗性示例很难转换到未知模型,已经提出了几种可转换性较低的方法。为了解决这个问题,我们设计了一个最大最小框架的启发输入转换,这是有益的对抗攻击和防御。在最小化过程中,我们利用输入的仿射变换来降低损失值作为防御;在最大化过程中,我们利用动量迭代算法来增加损失值作为攻击。为了进一步促进可转移性,我们用最大-最小理论确定转换值。在Imagenet上进行的大量实验表明,我们的防御引导可转移攻击在可转移性上实现了令人印象深刻的提高。实验表明,我们的对抗攻击的ASR平均达到58.38%,在正常训练的模型上比最先进的方法高出12.1%,在对抗训练的模型上高出11.13%。此外,我们还提供了关于提高可转移性的解释性见解,我们的方法有望成为评估深度模型鲁棒性的基准。
2020-11-04 cs.CV cs.LG
Dynamic Efficient Adversarial Training Guided by Gradient Magnitude
University of Exeter(埃克塞特大学);University of Liverpool(利物浦大学);Qufu Normal University(曲阜师范大学)
对抗训练是一种有效但耗时的训练健壮的深度神经网络的方法,可以承受强大的对抗攻击。作为对其低效率的回应,我们提出了动态高效对抗训练(DEAT),它在训练过程中逐渐增加对抗迭代。我们证明了梯度的大小与训练模型的损失景观的曲率相关,使其能够反映对抗训练的效果。因此,基于梯度的大小,我们提出了一种通用的加速策略,M+加速,它可以自动和高效地调整训练过程。M+加速计算效率高,易于实现。它适用于DEAT,并与大多数现有的对抗训练技术兼容。在CIFAR-10和ImageNet数据集上进行了大量实验,并使用各种训练环境。结果表明,提出的M+加速显著提高了现有对抗训练方法的训练效率,同时实现了相似的鲁棒性性能。这表明该策略具有高度的自适应性,并为自动对抗训练提供了有价值的解决方案。
2023-03-14 cs.CR cs.LG
Semi-supervised Semantics-guided Adversarial Training for Trajectory Prediction
Northwestern University(西北大学);University of California, Irvine(加州大学欧文分校)
预测周围物体的轨迹是自动驾驶汽车和许多其他自动驾驶系统的关键任务。最近的工作表明,对轨迹预测的对抗攻击,其中小的精心制作的扰动被引入到历史轨迹,可能会显着误导未来轨迹的预测,并诱导不安全的规划。然而,很少有工作已经解决了提高鲁棒性的这一重要的安全关键task.In本文中,我们提出了一种新的对抗训练方法的轨迹预测。与典型的图像任务对抗训练相比,我们的工作面临着更多随机输入的挑战,这些输入具有丰富的上下文和缺乏类标签。为了解决这些挑战,我们提出了一种基于半监督对抗自动编码器的方法,该方法利用领域知识对解纠缠的语义特征进行建模,并为对抗训练提供额外的潜在标签。不同类型攻击的大量实验表明,我们的半监督语义引导的对抗训练(SSAT)方法可以有效地减轻高达73%的对抗攻击的影响,并优于其他流行的防御方法。此外,实验表明,我们的方法可以显着提高系统的鲁棒性泛化看不见的攻击模式。我们相信,这种语义指导的架构和鲁棒泛化的进步是开发鲁棒预测模型和实现安全决策的重要一步。
2023-03-21 cs.CV cs.LG cs.RO
Improving Adversarial Robustness via Guided Complement Entropy
National Tsing-Hua University(国立清华大学);Electronic and Optoelectronic System Research Laboratories, ITRI(工业技术研究院电子与光电系统研究实验室);Google Research(谷歌研究院)
对抗鲁棒性已经成为深度学习中的一个重要主题,因为精心制作的攻击样本可以显著干扰模型的性能。许多最近的方法已经提出通过利用对抗训练或模型蒸馏来提高对抗鲁棒性,这为模型训练增加了额外的程序。在本文中,我们提出了一种新的训练范式,称为引导互补熵(GCE),能够实现“免费对抗防御”,在提高对抗鲁棒性的过程中不涉及额外的程序。除了最大化地面实况类(如交叉熵)上的模型概率外,我们还中和了不正确类上的概率,以及一个“引导”项来平衡这两个项。我们在实验中表明,我们的方法实现了更好的模型鲁棒性,甚至更好的性能相比,常用的交叉熵训练目标。我们还表明,我们的方法可以用于正交对抗训练跨众所周知的方法具有显着的鲁棒性增益。据我们所知,我们的方法是第一个提高模型鲁棒性而不影响性能的方法。
2019-08-07 cs.CV cs.LG cs.PF
Fisher-Guided Submodular Data Selection for Continual Pre-Training of Large Language Models
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Cisco Research(思科研究院)
提出Fisher引导的子模数据选择方法,通过分解梯度为锚定和前沿分量,在持续预训练中提升目标领域质量并控制遗忘,实现10倍令牌效率提升。
2026-10-05 cs.LG