Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses
Indian Institute of Science（印度科学学院）
对抗攻击的发展是对抗性防御研究的基础。高效和有效的攻击对于可靠的防御评估以及开发健壮的模型至关重要。对抗攻击通常通过使用投影梯度下降（PGD）在约束集内最大化标准损失（诸如交叉熵损失或最大余量损失）来生成。在这项工作中，我们在标准损失中引入了一个松弛项，找到了更合适的梯度方向，提高了攻击效率，并导致了更有效的对抗训练。我们提出了引导的对抗性边缘攻击（GAMA），它利用干净图像的函数映射来引导对手的生成，从而产生更强的攻击。我们评估我们的攻击对多种防御，并显示出改进的性能相比，现有的攻击。此外，我们提出了引导对抗训练（GAT），它通过利用所提出的松弛项进行攻击生成和训练，在单步防御中实现了最先进的性能。
2020-11-30 cs.CV cs.LG
Analysis and Improvement of Adversarial Training in DQN Agents With Adversarially-Guided Exploration (AGE)
Kansas State University（堪萨斯州立大学）
本文研究了对抗性训练在增强深度Q网络（DQN）策略对状态空间扰动的鲁棒性方面的有效性。我们首先提出了一个正式的分析DQN代理的对抗性训练及其性能的对抗性扰动的比例用于训练的名义观察。接下来，我们考虑了当前对抗训练技术的样本效率低下，并提出了一种新的基于$ε$ -贪心算法和玻尔兹曼探索的改进混合的对抗引导探索（AGE）机制。我们验证了这种探索机制的可行性，通过实验评估其性能与传统的衰减$ε$贪婪和参数空间噪声探索算法相比。
2019-06-03 cs.AI cs.CR cs.LG
Improving Fast Adversarial Training with Prior-Guided Knowledge
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Tencent Inc.（腾讯公司）；Beihang University（北京航空航天大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；Sun Yat-sen University（中山大学）
针对快速对抗训练的灾难性过拟合问题，提出利用历史训练先验知识生成对抗初始化、正则化及集成模型权重的FGSM-PGK方法，在不增加训练成本下显著提升了模型鲁棒性。
2023-04-06 cs.CV cs.LG
Defense-guided Transferable Adversarial Attacks
虽然深度神经网络可以出色地执行具有挑战性的任务，但它们容易受到对抗性示例的影响，这些示例通过对干净的输入施加人类无法感知的扰动来误导分类器。在无查询的黑盒场景下，对抗性示例很难转换到未知模型，已经提出了几种可转换性较低的方法。为了解决这个问题，我们设计了一个最大最小框架的启发输入转换，这是有益的对抗攻击和防御。在最小化过程中，我们利用输入的仿射变换来降低损失值作为防御;在最大化过程中，我们利用动量迭代算法来增加损失值作为攻击。为了进一步促进可转移性，我们用最大-最小理论确定转换值。在Imagenet上进行的大量实验表明，我们的防御引导可转移攻击在可转移性上实现了令人印象深刻的提高。实验表明，我们的对抗攻击的ASR平均达到58.38%，在正常训练的模型上比最先进的方法高出12.1%，在对抗训练的模型上高出11.13%。此外，我们还提供了关于提高可转移性的解释性见解，我们的方法有望成为评估深度模型鲁棒性的基准。
2020-11-04 cs.CV cs.LG
Dynamic Efficient Adversarial Training Guided by Gradient Magnitude
University of Exeter（埃克塞特大学）；University of Liverpool（利物浦大学）；Qufu Normal University（曲阜师范大学）
对抗训练是一种有效但耗时的训练健壮的深度神经网络的方法，可以承受强大的对抗攻击。作为对其低效率的回应，我们提出了动态高效对抗训练（DEAT），它在训练过程中逐渐增加对抗迭代。我们证明了梯度的大小与训练模型的损失景观的曲率相关，使其能够反映对抗训练的效果。因此，基于梯度的大小，我们提出了一种通用的加速策略，M+加速，它可以自动和高效地调整训练过程。M+加速计算效率高，易于实现。它适用于DEAT，并与大多数现有的对抗训练技术兼容。在CIFAR-10和ImageNet数据集上进行了大量实验，并使用各种训练环境。结果表明，提出的M+加速显著提高了现有对抗训练方法的训练效率，同时实现了相似的鲁棒性性能。这表明该策略具有高度的自适应性，并为自动对抗训练提供了有价值的解决方案。
2023-03-14 cs.CR cs.LG
AGFT: Alignment-Guided Fine-Tuning for Zero-Shot Adversarial Robustness of Vision-Language Models
Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳））；Shenzhen Loop Area Institute, Shenzhen, China（深圳市环域研究所）
本文提出AGFT框架，通过概率预测进行文本引导对抗训练，提升视觉-语言模型的零样本对抗鲁棒性，同时保持跨模态语义结构。
2026-03-31 cs.AI cs.CV cs.LG
Towards More Robust and Accurate Sequential Recommendation with Cascade-guided Adversarial Training
Rutgers University（罗格斯大学）；Salesforce Research（赛富时研究院）
针对序列推荐模型因级联效应和过度依赖时间信息而鲁棒性不足的问题，提出利用级联效应生成物品嵌入对抗扰动的级联引导对抗训练方法，在四个公开数据集上验证其能同时提升排序准确性和鲁棒性。
2024-01-16 cs.IR cs.LG
GGT: Graph-Guided Testing for Adversarial Sample Detection of Deep Neural Network
Zhejiang University of Technology（浙江工业大学）；National University of Defense Technology（国防科技大学）；Monash University（莫纳什大学）；Zhejiang University（浙江大学）
深度神经网络（DNN）容易受到对抗性样本的攻击，检测对抗性样本对于这些DNN模型的广泛应用至关重要。近年来，软件工程中提出了许多深度测试方法来发现DNN系统的脆弱性，其中之一，模型变异测试（MMT），被用来成功地检测各种对抗样本产生的不同类型的对抗攻击。然而，MMT中的突变模型在数量上总是巨大的（例如，超过100个模型）并且缺乏多样性（例如，可以很容易地被高置信度对抗样本规避），这使得它在实际应用中效率较低，在检测高置信度对抗样本时效果较差。在这项研究中，我们提出了用于对抗性样本检测的图引导测试（GGT）来克服上述挑战。GGT在图特征的指导下生成剪枝模型，每个剪枝模型的参数仅占MMT变异模型的5%左右，图指导模型具有更高的多样性。在CIFAR10和SVHN上的实验验证了GGT在有效性和效率方面都优于MMT。
2021-07-09 cs.AI cs.CR cs.LG
Semi-supervised Semantics-guided Adversarial Training for Trajectory Prediction
Northwestern University（西北大学）；University of California, Irvine（加州大学欧文分校）
预测周围物体的轨迹是自动驾驶汽车和许多其他自动驾驶系统的关键任务。最近的工作表明，对轨迹预测的对抗攻击，其中小的精心制作的扰动被引入到历史轨迹，可能会显着误导未来轨迹的预测，并诱导不安全的规划。然而，很少有工作已经解决了提高鲁棒性的这一重要的安全关键task.In本文中，我们提出了一种新的对抗训练方法的轨迹预测。与典型的图像任务对抗训练相比，我们的工作面临着更多随机输入的挑战，这些输入具有丰富的上下文和缺乏类标签。为了解决这些挑战，我们提出了一种基于半监督对抗自动编码器的方法，该方法利用领域知识对解纠缠的语义特征进行建模，并为对抗训练提供额外的潜在标签。不同类型攻击的大量实验表明，我们的半监督语义引导的对抗训练（SSAT）方法可以有效地减轻高达73%的对抗攻击的影响，并优于其他流行的防御方法。此外，实验表明，我们的方法可以显着提高系统的鲁棒性泛化看不见的攻击模式。我们相信，这种语义指导的架构和鲁棒泛化的进步是开发鲁棒预测模型和实现安全决策的重要一步。
2023-03-21 cs.CV cs.LG cs.RO
Physics-Guided Adversarial Machine Learning for Aircraft Systems Simulation
Polytechnique Montréal（蒙特利尔综合理工学院）；Bombardier Aerospace Inc.（庞巴迪宇航公司）
在飞行器系统性能评估的背景下，深度学习技术允许从实验测量快速推断模型，与基于物理的建模相比通常需要较少的详细系统知识。然而，这种廉价的模型开发也带来了关于模型可信度的新挑战。这项工作提出了一种新的方法，物理引导的对抗性机器学习（ML），提高了模型的物理一致性的信心。首先，该方法执行物理引导的对抗性测试阶段，以搜索揭示行为系统不一致性的测试输入，同时仍在可预见的操作条件范围内。然后，它继续进行物理信息对抗训练，通过迭代地减少先前未发现的反例上不需要的输出偏差来教授模型系统相关的物理领域预知。对两个飞机系统性能模型的实证评估表明，我们的对抗ML方法在暴露两个模型的物理不一致性和提高其与物理领域知识一致的倾向方面是有效的。
2022-09-07 cs.CE cs.LG cs.SY
Improving Adversarial Robustness via Guided Complement Entropy
National Tsing-Hua University（国立清华大学）；Electronic and Optoelectronic System Research Laboratories, ITRI（工业技术研究院电子与光电系统研究实验室）；Google Research（谷歌研究院）
对抗鲁棒性已经成为深度学习中的一个重要主题，因为精心制作的攻击样本可以显著干扰模型的性能。许多最近的方法已经提出通过利用对抗训练或模型蒸馏来提高对抗鲁棒性，这为模型训练增加了额外的程序。在本文中，我们提出了一种新的训练范式，称为引导互补熵（GCE），能够实现“免费对抗防御”，在提高对抗鲁棒性的过程中不涉及额外的程序。除了最大化地面实况类（如交叉熵）上的模型概率外，我们还中和了不正确类上的概率，以及一个“引导”项来平衡这两个项。我们在实验中表明，我们的方法实现了更好的模型鲁棒性，甚至更好的性能相比，常用的交叉熵训练目标。我们还表明，我们的方法可以用于正交对抗训练跨众所周知的方法具有显着的鲁棒性增益。据我们所知，我们的方法是第一个提高模型鲁棒性而不影响性能的方法。
2019-08-07 cs.CV cs.LG cs.PF
GAT: Guided Adversarial Training with Pareto-optimal Auxiliary Tasks
The University of Luxembourg（卢森堡大学）；RIKEN Center for Advanced Intelligence Project (AIP)（理化学研究所高级智能项目中心）；The University of Tokyo（东京大学）
本文提出引导式对抗训练GAT，通过在有限数据下引入自监督和领域知识辅助任务，将单任务扩展为多任务并利用梯度曲率正则化优化对抗训练，显著提升了医学影像和CIFAR-10上的鲁棒性能。
2023-05-25 cs.CR cs.CV cs.LG
Improving Adversarial Robustness by Contrastive Guided Diffusion Process
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出对比引导扩散过程（Contrastive-DP），通过对比损失增强生成数据的可区分性，从而提高对抗鲁棒性，并在理论和图像数据集实验中验证了其有效性。
2023-07-04 cs.CV cs.LG
Closing the sim-to-real gap in guided wave damage detection with adversarial training of variational auto-encoders
University of Florida（佛罗里达大学）
导波检测是监测基础设施结构完整性的常用方法。我们专注于损伤检测的主要任务，其中信号处理技术是常用的。波传播模型和实验波数据之间的不匹配的检测性能受到影响。外部变化，如温度，很难建模，也会影响性能。虽然深度学习模型可以作为替代检测方法，但通常缺乏真实世界的训练数据集。在这项工作中，我们通过仅在具有波动物理指导的对抗组件的模拟数据上训练变分自编码器的集合来应对这一挑战。我们建立了一个实验，非均匀的温度变化来测试的方法的鲁棒性。我们将我们的方案与现有的深度学习检测方案进行了比较，并在实验数据上观察到了优越的性能。
2022-01-26 cs.LG eess.AS eess.SP
Explanation-Guided Adversarial Training for Robust and Interpretable Models
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；Fuzhou University（福州大学）；NLPR, MAIS, Institute of Automation, Chinese Academy of Sciences（神经网络与模式识别实验室、机器学习与智能系统研究所、自动化研究所，中国科学院）
EGAT结合对抗训练和解释引导学习，提升模型的预测性能、鲁棒性和解释质量，通过生成对抗示例并施加解释约束，在保持效率的同时增强模型的稳健性和可解释性。
2026-03-02 cs.AI cs.LG
AdvEntuRe: Adversarial Training for Textual Entailment with Knowledge-Guided Examples
Carnegie Mellon University（卡内基梅隆大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们考虑了有限监督（5 K-10 K训练样本）的文本蕴涵模型的学习问题，并提出了两种互补的方法。首先，我们提出了知识引导的对抗性示例生成器，用于通过少数规则模板将大型词汇资源纳入蕴涵模型。其次，为了使蕴涵模型-一个机器人-更强大，我们提出了第一种GAN风格的方法，使用自然语言示例生成器来训练它，该示例生成器根据机器人的性能进行迭代调整。我们使用两个蕴涵数据集证明了有效性，其中所提出的方法在SciTail上将准确率提高了4.7%，在SNLI的1%训练子样本上提高了2.8%。值得注意的是，即使是一个手写的规则，否定，提高了6.1%的SNLI否定示例的准确性。
2018-05-12 cs.AI cs.CL cs.LG
AIM: Adversarial Information Masking for Faithfulness Evaluation of Saliency Maps
National Yang Ming Chiao Tung University（阳明交通大学）
本文提出AIM方法，通过对抗性信息遮蔽框架评估显著图的忠实性及遮蔽操作的可靠性，通过对比不同遮蔽方式下的退化效果，减少遮蔽诱导的偏差，并揭示不同模态下符号和非符号归因之间的差异。
2026-05-16 cs.CV cs.LG
Adversarially Guided Diffusion for LiDAR Range Image Synthesis
School of Electrical and Computer Engineering, National Technical University of Athens（雅典国立技术大学电气与计算机工程学院）；Industrial Systems Institute, Athena Research Center（雅典娜研究中心工业系统研究所）
研究针对二维距离图像分割的无限制对抗攻击，提出基于扩散并利用分割损失对抗引导的方法，在SemanticKITTI数据集实验，能跨架构转移，相比基线在有效性与现实性间有独特权衡，实现可控退化。
2026-07-14 cs.CV cs.LG
Efficient LLM Adversarial Training via Low-Rank Defense and Circuit-Guided Surrogates
Michigan State University（密歇根州立大学）
本研究针对大语言模型对抗训练计算成本高的问题，从防御侧优化表示微调、攻击侧构建轻量代理模型两方面提出策略，使每步对抗训练FLOPs降48.1%，仅需0.0118%可训练参数。
2026-09-29 cs.AI cs.LG
Get Fooled for the Right Reason: Improving Adversarial Robustness through a Teacher-guided Curriculum Learning Approach
Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）
目前的SOTA对抗鲁棒模型大多基于对抗训练（AT），并且仅在内部最大化或外部最小化步骤中的一些正则化器不同。由于在内部最大化步骤中本质上是重复的，它们需要大量的时间来训练。我们提出了一种非迭代法，在训练过程中执行以下想法。与自然训练的模型相比，对于对抗性鲁棒模型，属性图与图像中的实际对象更加对齐。此外，干扰图像（改变模型决策）的允许像素集应仅限于对象像素，这通过限制攻击空间来降低攻击强度。我们的方法在现有AT模型上只需付出一点额外的努力（10-20%）就可以实现显着的性能提升，并且在对抗性和自然准确性方面优于所有其他方法。我们对CIFAR-10、CIFAR-100和TinyImageNet数据集进行了广泛的实验，并报告了针对许多流行的强对抗攻击的结果，以证明我们方法的有效性。
2021-10-30 cs.CR cs.CV cs.LG
Instruct2Attack: Language-Guided Semantic Adversarial Attacks
Johns Hopkins University（约翰斯·霍普金斯大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Maryland, College Park（马里兰大学帕克分校）；City University of Hong Kong（香港城市大学）
提出 Instruct2Attack (I2A)，一种语言引导的语义对抗攻击方法，利用潜在扩散模型和 GPT-4 自动生成指令，生成自然、多样且可控的对抗样本，能攻破强防御网络并具备高迁移性。
2023-11-27 cs.AI cs.CR cs.CV
Veriphi: Attack-Guided Neural Network Verification with Dataset-Dependent Training Methods
TU Wien（维也纳工业大学）
提出Veriphi系统，结合快速对抗攻击与α,β-CROWN形式化边界验证，实验表明训练方法有效性依赖数据集特性，IBP在MNIST上有效但在CIFAR-10上失效，PGD对抗训练在小扰动下达到94%认证准确率，并实现5倍验证加速。
2026-06-18 cs.AI cs.LG
Exploring Gradient-Guided Masked Language Model to Detect Textual Adversarial Attacks
School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院）；School of Computer Science, University of Technology Sydney（悉尼科技大学计算机科学学院）；College of Computer and Information Science, Southwest University（西南大学计算机与信息科学学院）；School of Cyber Science and Engineering, Huazhong University of Science and Technology（华中科技大学网络空间科学与工程学院）
针对文本对抗样本威胁，基于对抗样本偏离正常文本流形的特性，提出MLMD方法利用掩码语言模型检测差异，再通过GradMLMD的梯度引导跳过非关键词，在保证性能的同时降低计算开销。
2025-04-08 cs.AI cs.CL cs.LG
CgAT: Center-Guided Adversarial Training for Deep Hashing-Based Retrieval
The Hong Kong University of Science and Technology（香港科技大学）；The Hong Kong University of Science and Technology Shenzhen Research Institute（香港科技大学深圳研究院）
深度哈希算法由于其高效性和有效性，在海量图像检索中得到了广泛的应用。然而，深度哈希模型容易受到对抗性示例的攻击，因此开发对抗性防御方法用于图像检索至关重要。现有的解决方案实现了有限的防御性能，因为使用弱对抗性样本进行训练，并且缺乏区分性优化目标来学习鲁棒特征。在本文中，我们提出了一种基于最小-最大值的中心引导对抗训练，即CgAT，通过最差的对抗示例来提高深度哈希网络的鲁棒性。具体来说，我们首先制定的中心代码作为一个语义的歧视性代表的输入图像内容，它保留了语义相似性与积极的样本和不相似性与消极的例子。我们证明了一个数学公式可以立即计算出中心码。在深度哈希网络的每次优化迭代中获得中心码后，采用它们来指导对抗训练过程。一方面，CgAT通过最大化对抗样本的哈希码与中心码之间的汉明距离来生成最差的对抗样本作为增强数据。另一方面，CgAT通过最小化到中心码的汉明距离来学习减轻对抗样本的影响。在基准数据集上的大量实验证明了我们的对抗性训练算法在防御基于深度哈希的检索的对抗攻击方面的有效性。在FLICKR-25 K、NUS-WIDE和MS-COCO上，与当前最先进的防御方法相比，防御性能平均提高了18.61%、12.35%和11.56%。该代码可在https://github.com/xunguangwang/CgAT上获得。
2023-03-25 cs.AI cs.CR cs.CV
Semantically Guided Adversarial Testing of Vision Models Using Language Models
Institute of Theoretical and Applied Informatics, Polish Academy of Sciences（波兰科学院理论与应用信息学研究所）；University of Lille, CNRS, Inria, Centrale Lille, UMR 9189 CRIStAL（里尔大学）
本文提出利用预训练语言与视觉-语言模型进行语义引导的对抗目标标签选择，实验证明其优于 WordNet 等静态资源，可用于构建可解释、标准化且可扩展的对抗基准。
2025-08-15 cs.CR cs.CV cs.LG
Saliency Guided Adversarial Training for Learning Generalizable Features with Applications to Medical Imaging Classification System
Wayne State University（韦恩州立大学）；Michigan State University（密歇根州立大学）
这项工作解决了一个中央机器学习问题的性能下降的分布（OOD）测试集。这个问题在基于医学成像的诊断系统中尤其突出，该诊断系统看起来是准确的，但在新的医院/数据集中测试时失败。最近的研究表明，系统可能会学习快捷和不相关的功能，而不是概括的功能，所谓的好功能。我们假设对抗性训练可以消除快捷功能，而显着性引导训练可以过滤掉不相关的功能;两者都是导致OOD测试集性能下降的讨厌功能。有了这些，我们为深度神经网络制定了一种新的模型训练方案，以学习分类和/或检测任务的良好特征，确保在OOD测试集上具有一致的泛化性能。实验结果定性和定量地证明了我们的方法使用基准CXR图像数据集的分类任务的优越性能。
2022-09-09 cs.CV cs.LG eess.IV
Soften to Defend: Towards Adversarial Robustness via Self-Guided Label Refinement
Hangzhou City University（杭州城市大学）；Zhejiang University of Technology（浙江工业大学）
针对对抗训练中的鲁棒过拟合问题，本文提出自引导标签细化方法，通过软化标签并融入自蒸馏知识，在多个基准上同时提升标准准确性与鲁棒性。
2024-03-14 cs.CR cs.CV cs.LG
Query-Efficient Black-box Adversarial Attacks Guided by a Transfer-based Prior
Tsinghua University（清华大学）；Pazhou Lab（琶洲实验室）
近年来，对抗攻击得到了广泛的研究，因为它们可以在部署之前识别深度学习模型的漏洞。在本文中，我们考虑黑盒对抗设置，其中对手需要在不访问目标模型的梯度的情况下制作对抗示例。以前的方法试图通过使用代理白盒模型的传递梯度或基于模型查询的反馈来近似真实梯度。然而，现有的方法不可避免地遭受低攻击成功率或低查询效率，因为它是难以估计的梯度在高维输入空间与有限的信息。为了解决这些问题，并改善黑盒攻击，我们提出了两个先验指导的随机梯度自由（PRGF）算法的基础上偏置采样和梯度平均，分别。我们的方法可以同时利用代理模型的梯度和查询信息给出的基于转移的先验。通过理论分析，在每种方法中，通过一个最优系数将基于迁移的先验知识与模型查询有机地结合起来。大量的实验表明，与其他国家的最先进的相比，我们的方法需要更少的查询攻击黑盒模型具有更高的成功率。
2022-03-13 cs.CV cs.LG stat.ML
Lightweight Safety Guardrails via Synthetic Data and RL-guided Adversarial Training
Apple（苹果公司）
本文提出一种轻量级语言模型安全护栏框架，通过高保真合成数据生成与强化学习引导的对抗训练，使小规模语言模型在内容审核中达到或超越大模型性能，同时降低计算开销并增强抗攻击能力。
2025-07-11 cs.AI cs.CL cs.LG
Discriminating Against Unrealistic Interpolations in Generative Adversarial Networks
Lund University（隆德大学）
深度生成模型的潜在空间中的插值是合成生成样本的语义上有意义的混合的标准工具之一。由于生成函数是非线性的，通常使用的潜在空间中的线性插值不会产生样本空间中的最短路径，从而导致非光滑插值。因此，最近的工作配备了一个合适的度量的潜在空间，以执行最短路径的流形上生成的样本。然而，这些通常容易偏离真实样本的流形，导致平滑但不切实际的生成，需要额外的方法来评估样本质量。生成对抗网络（GANs）通过构建，使用其网络来衡量样本质量。在本文中，我们建立了，可以有效地使用，以避免沿最短路径的低样本质量的区域。通过重用神经网络来修改潜在空间上的度量，我们提出了一种轻量级的解决方案，用于改进预训练GANs中的插值。
2022-03-02 cs.LG
Enhancing Data-Free Adversarial Distillation with Activation Regularization and Virtual Interpolation
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）
知识蒸馏是指将知识从大型学习模型或学习模型的集合转移到小型模型的技术。这种方法依赖于对原始训练集的访问，而原始训练集可能并不总是可用的。一个可能的解决方案是无数据对抗蒸馏框架，它部署了一个生成网络来将教师模型的知识转移到学生模型。然而，在无数据对抗蒸馏中，数据生成效率较低。我们增加了激活正则化器和虚拟插值方法，以提高数据生成效率。激活正则化器使学生能够在激活边界和决策边界附近匹配教师的预测。虚拟插值方法可以在决策边界之间生成虚拟样本和标签。我们的实验表明，我们的方法超越了最先进的无数据蒸馏方法。在没有任何原始训练数据的情况下，学生模型在CIFAR-10和CIFAR-100上的准确率分别达到95.42%和77.05%。我们的模型的准确性比CIFAR-100上最先进的无数据方法高出13.8%。
2021-02-23 cs.AI cs.LG
Understanding and Improving Interpolation in Autoencoders via an Adversarial Regularizer
Google Brain（谷歌大脑）
自动编码器提供了一个强大的框架，通过编码所有的信息来重建一个潜在的代码中的数据点，学习压缩表示。在某些情况下，自动编码器可以“插值”：通过解码两个数据点的潜在代码的凸组合，自动编码器可以产生一个输出，该输出在语义上混合了数据点的特征。在本文中，我们提出了一个正则化过程，通过欺骗一个已经训练过的批评网络来从插值数据中恢复混合系数，从而鼓励插值输出看起来更真实。然后，我们开发了一个简单的基准测试任务，在那里我们可以定量测量各种自动编码器可以插值的程度，并表明我们的正则化器在这种情况下显着提高了插值。我们还证明了经验，我们的正则化产生的潜在代码是更有效的下游任务，这表明插值能力和学习有用的表示之间可能存在联系。
2018-07-23 cs.LG stat.ML
Adversarial Consistency-Guided Representation Learning for Multi-view Clustering
Fujian Normal University（福建师范大学）；McGill University（麦吉尔大学）
提出ACGRL框架，通过梯度反转判别器降低视图可识别性，冻结不变参考表示以分离视图特定信息，并在四个基准数据集上验证了优于现有方法的聚类性能。
2026-09-29 cs.LG
A law of adversarial risk, interpolation, and label noise
ETH Zurich（苏黎世联邦理工学院）；ETH AI Center（苏黎世联邦理工学院人工智能中心）
在监督学习中，已经证明数据中的标签噪声可以插值，而不会影响测试准确性。我们表明，插值标签噪声诱导对抗脆弱性，并证明了第一定理显示标签噪声和任何数据分布的对抗风险之间的关系。如果我们不对学习算法的归纳偏差做任何假设，我们的结果几乎是紧的。然后，我们研究这个问题的不同组成部分如何影响这个结果，包括分布的属性。我们还讨论了非均匀的标签噪声分布，并证明了一个新的定理，表明均匀的标签噪声诱导几乎一样大的敌对风险的最坏的中毒具有相同的噪声率。然后，我们提供了理论和经验证据，均匀的标签噪声比典型的现实世界的标签噪声更有害。最后，我们将展示如何感应偏置放大标签噪声的影响，并认为需要在这个方向上的未来工作。
2023-03-13 cs.CR cs.LG stat.ML
PAGAR: Taming Reward Misalignment in Inverse Reinforcement Learning-Based Imitation Learning with Protagonist Antagonist Guided Adversarial Reward
Boston University（波士顿大学）
本文提出PAGAR半监督奖励设计范式，通过混合奖励函数训练策略，解决IRL中奖励错位导致的任务失败，并在复杂任务中优于标准IL基线。
2024-02-07 cs.LG
Adversarial Examples for Good: Adversarial Examples Guided Imbalanced Learning
Zhejiang University（浙江大学）
对抗性示例是攻击者设计的机器学习模型的输入，以导致模型出错。在本文中，我们证明了对抗性示例也可以用来改善不平衡学习的性能。我们为如何处理不平衡数据提供了一个新的视角：通过使用指导对抗示例（GAE）进行训练来调整有偏见的决策边界。我们的方法可以有效地提高少数类的准确性，而牺牲大多数类的准确性很小。我们的经验表明，在几个基准数据集上，我们提出的方法与最先进的方法相当。据我们所知，我们是第一个用对抗性例子来处理不平衡学习的人。
2022-08-30 cs.AI cs.LG
Guided Diffusion Model for Adversarial Purification from Random Noise
Yuanpei College（元培学院）；Peking University（北京大学）
在本文中，我们提出了一种新的引导扩散净化方法，以提供一个强大的防御对抗攻击。在CIFAR-10数据集上，我们的模型在PGD-L_inf攻击（eps = 8/255）下达到了89.62%的鲁棒准确率。我们首先探讨无指导的扩散模型和随机平滑之间的基本相关性，使我们能够将模型应用于认证的鲁棒性。实验结果表明，当认证的L2半径r大于0.5时，我们的模型优于随机平滑5%。
2022-06-22 cs.CR cs.LG
OD-Gear: Online Decomposition and Group Sampling for Expert-Guided Adversarial Routing in Scalable Capacitated Vehicle Routing
School of Information Science（信息科学学院）；Guangdong Provincial Key Laboratory of Brain-Inspired Intelligent Computation, Department of CSE, SUSTech, Shenzhen 518055, P. R. China（脑启发智能计算广东省重点实验室、计算机科学与工程系、南方科技大学、深圳518055，中华人民共和国）
OD-DEAL通过结合混合遗传搜索和在线重心聚类分解，利用对抗学习实现高保真知识蒸馏，从而在大规模CVRP问题中实现高效、高质量的实时推断。
2026-08-11 cs.LG
Enforcing constraints for interpolation and extrapolation in Generative Adversarial Networks
Pacific Northwest National Laboratory（太平洋西北国家实验室）；University of California Santa Barbara（加州大学圣巴巴拉分校）
我们提出了在生成对抗网络（GAN）生成器的输出中执行给定约束的方法，用于内插和外推（预测）。对于动力系统的情况下，给定一个时间序列，我们希望训练GAN发电机，可用于预测从给定的初始条件开始的轨迹。在该设置中，约束可以是代数和/或微分形式。尽管我们主要对外推的情况感兴趣，但我们将看到内插和外推的任务是相关的。但是，需要区别对待。对于插值的情况，约束的结合被构建到GAN的训练中。约束的结合尊重GAN的主要博弈论设置，因此它可以与现有算法相结合。然而，它可能会加剧GANs众所周知的训练过程中的不稳定问题。我们建议添加小噪声的约束作为一个简单的补救措施，在我们的数值实验中表现良好。外推（预测）的情况更为复杂。在训练过程中，GAN生成器学习插值数据的噪声版本，我们强制执行约束。这种方法与模型简化有关，我们可以利用它来提高训练的效率和准确性。根据约束的形式，我们也可以通过投影步骤在预测期间强制执行它们。我们提供线性和非线性微分方程组的例子来说明各种结构。
2019-06-19 cs.LG stat.ML
Guided-GAN: Adversarial Representation Learning for Activity Recognition with Wearables
The University of Adelaide（阿德莱德大学）；Monash University（莫纳什大学）
人体活动识别是普适计算中的一个重要研究领域，大规模标记传感器数据的获取是繁琐、劳动密集和耗时的。为了减轻HAR中数据注释的负担而研究的最先进的无监督补救措施主要是探索训练自动编码器框架。在本文中：我们探索了生成对抗网络（GAN）范例，以从可穿戴传感器数据中学习无监督特征表示;并设计了一种新的GAN框架-几何引导GAN或引导GAN-用于该任务。为了证明我们的公式的有效性，我们评估了三个下游分类基准上以无监督方式由Guided-GAN学习的特征。我们的研究结果表明，Guided-GAN的性能优于现有的无监督方法，同时接近完全监督学习表示的性能。所提出的方法为弥合无监督和有监督的人类活动识别之间的差距铺平了道路，同时有助于降低人类数据注释任务的成本。
2021-10-12 cs.AI cs.LG
Latent Adversarial Defence with Boundary-guided Generation
University of Technology Sydney（悉尼科技大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61）；The University of Sydney（悉尼大学）
深度神经网络（DNN）最近在许多任务中取得了巨大的成功，这鼓励DNN在模型共享场景中作为机器学习服务被广泛使用。然而，攻击者可以很容易地生成带有小扰动的对抗性示例，以欺骗DNN模型来预测错误的标签。为了提高共享DNN模型对对抗攻击的鲁棒性，我们提出了一种称为潜在对抗防御（LAD）的新方法。所提出的LAD方法通过对生成的对抗性示例进行对抗性训练来提高DNN模型的鲁棒性。与目前流行的攻击方法只在输入空间中生成重复模式的对抗样本不同，LAD方法通过对带有注意力机制的SVM构造的决策边界的法线方向的潜在特征进行扰动，生成大量的对抗样本。一旦生成了对抗性示例，我们就通过用生成的对抗性示例增强训练数据来对抗性地训练模型。在MNIST、SVHN和CelebA数据集上的大量实验证明了我们的模型在防御不同类型的对抗攻击方面的有效性。
2019-07-16 cs.CR cs.LG
DeepNNK: Explaining deep models and their generalization using polytope interpolation
University of Southern California（南加州大学）
基于神经网络的现代机器学习系统在学习复杂数据模式方面取得了巨大成功，同时能够对看不见的数据点进行良好的预测。然而，这些系统的有限的可解释性阻碍了进一步的进展和应用到现实世界中的几个领域。这种困境体现在耗时的模型选择和预测可解释性面临的困难，特别是在存在对抗性例子的情况下。在本文中，我们采取了一个步骤，更好地理解神经网络通过引入局部多面体插值方法。提出的深度非负核回归（NNK）插值框架是非参数的，理论上简单，几何直观。我们展示了基于实例的深度学习模型的可解释性，并开发了一种方法来识别具有良好泛化特性的模型，使用留一估计。最后，我们从机器学习的插值观点出发，对不可避免的对抗性和生成性示例进行了合理化。
2020-07-20 cs.LG stat.ML
Language Guided Adversarial Purification
Indraprastha Institute of Information Technology, Delhi, India（印度德里因陀罗普拉斯塔信息技术学院）
本文提出语言引导的对抗净化框架，利用预训练扩散模型和标签生成器提升对抗鲁棒性，无需专门训练即可优于现有方法。
2023-09-19 cs.CR cs.CV cs.LG
Non-Parametric Priors For Generative Adversarial Networks
Arizona State University（亚利桑那州立大学）；Intel Corporation（英特尔公司）
生成对抗网络（GAN）的出现使合成、插值和数据增强方面的新能力成为可能，迄今为止这些能力被认为是非常具有挑战性的。然而，大多数GAN架构中的一个常见假设是简单参数潜在空间分布的假设。虽然易于实现，但简单的潜在空间分布对于插值等用途可能存在问题。这是由于样本在潜在空间中插值时的分布失配。我们提出了一个简单的形式化这个问题，使用概率论和现成的优化工具的基本结果，我们开发的方法来达到适当的非参数先验。所获得的先验表现出不寻常的定性性质，在其形状方面，和定量的好处，在较低的分歧与其中点分布。我们证明，我们设计的先验有助于提高图像生成沿任何欧几里德直线插值过程中，定性和定量，没有任何额外的培训或架构修改。拟议的提法相当灵活，为对潜在空间统计施加新的限制铺平了道路。
2019-05-16 cs.CV cs.LG
AdvDiffuser: Generating Adversarial Safety-Critical Driving Scenarios via Guided Diffusion
School of Computer Science and Engineering, Sun Yat-Sen University（中山大学计算机科学与工程学院）；School of Computer Science, Wuhan University（武汉大学计算机学院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Mechanical and Automotive Engineering, Qingdao University of Technology（青岛理工大学机械与汽车工程学院）
提出AdvDiffuser框架，通过结合扩散模型和轻量级引导模型生成对抗性安全关键驾驶场景，解决了现有方法跨系统可迁移性不足的问题，并在真实性和多样性上表现更优。
2024-10-11 cs.LG cs.RO
Feature Distillation With Guided Adversarial Contrastive Learning
Nanyang Technological University（南洋理工大学）
深度学习模型被证明容易受到对抗性示例的影响。虽然对抗性训练可以增强模型的鲁棒性，但典型的方法在计算上是昂贵的。最近的研究提出了通过软标签将对对抗攻击的鲁棒性转移到不同的任务或模型上，与软标签相比，特征包含了丰富的语义信息，具有应用于不同下游任务的潜力。在本文中，我们提出了一种新的方法，称为引导对抗对比蒸馏（GACD），有效地将对抗鲁棒性从教师转移到具有特征的学生。我们首先将这一目标表述为对比学习，并将其与互信息联系起来。有了一个训练有素的教师模型作为锚点，学生们有望提取出与教师相似的特征。然后考虑到教师可能造成的误差，提出了样本重加权估计，以消除教师的负面影响。通过GACD，学生不仅学会了提取鲁棒的特征，而且还从老师那里获取了结构知识。通过在CIFAR-10、CIFAR-100和STL-10等流行数据集上的大量实验，我们证明了我们的方法可以有效地在不同模型甚至不同任务之间传递鲁棒性，并取得与现有方法相当或更好的结果。此外，我们提供了各种方法的详细分析，表明我们的方法产生的学生从教师那里捕获更多的结构知识，并在对抗攻击下学习到更多的鲁棒特征。
2020-09-21 cs.LG stat.ML
Physics-guided generative adversarial network to learn physical models
The University of Tokyo（东京大学）
本文提出物理引导生成对抗网络PG-GAN，利用GAN架构和物理方程判别网络输出是否符合物理，以克服PINN需内嵌方程残差且残差难收敛的问题，并在简单问题上验证其可用性。
2023-04-22 cs.LG physics.comp-ph
Spectrum-Guided Adversarial Disparity Learning
University of New South Wales（新南威尔士大学）；University of Technology Sydney（悉尼科技大学）；Griffith University（格里菲斯大学）
在活动识别领域精确地描绘组内差异一直是一个重大挑战，因为它需要每个活动类别的受试者特异性变化之间的相关性的鲁棒表示。在这项工作中，我们提出了一种新的端到端知识导向的对抗性学习框架，该框架使用两种竞争性编码分布来描绘类条件的类内差异，并通过对学习到的差异进行去噪来学习纯化的潜在代码。此外，领域知识以无监督的方式结合，以指导优化，并进一步提高性能。在四个HAR基准数据集上的实验表明，我们提出的方法在一组国家的最先进的鲁棒性和推广。我们进一步证明了自动领域知识纳入性能增强的有效性。
2020-07-14 cs.LG stat.ML
Observation-guided Interpolation Using Graph Neural Networks for High-Resolution Nowcasting in Switzerland
European Centre for Medium-Range Weather Forecasts (ECMWF), Reading, UK（欧洲中期天气预报中心（ECMWF）、Reading、英国）
本文提出基于图神经网络的观测引导插值方法，用于瑞士高分辨率现在预报，结果显示该方法在多数变量和预报时间上优于现有NWP系统。
2025-10-19 cs.LG physics.ao-ph
Self-training Guided Adversarial Domain Adaptation For Thermal Imagery
Aselsan Inc（阿瑟尔桑公司）；Middle East Technical University（中东技术大学）；NOROM Neuroscience and Neurotechnology Excellency Center（NOROM神经科学与神经技术卓越中心）
在大规模RGB图像数据集上训练的深度模型已经取得了巨大的成功。重要的是将这种深层模型应用于现实世界的问题。然而，这些模型在光照变化下受到性能瓶颈的影响。热红外相机对这种变化更鲁棒，因此对现实世界的问题非常有用。为了研究结合特征丰富的可见光谱和热图像模态的有效性，我们提出了一种无监督的领域自适应方法，该方法不需要RGB到热图像对。我们采用大规模的RGB数据集MS-COCO作为源域和热数据集FLIR ADAS作为目标域来展示我们的方法的结果。虽然对抗性领域自适应方法旨在对齐源域和目标域的分布，但是简单地对齐分布不能保证对目标域的完美泛化。为此，我们提出了一种自训练引导的对抗性领域自适应方法，以提高对抗性领域自适应方法的泛化能力。为了执行自训练，将伪标签分配给目标热域上的样本，以学习目标域的更一般化的表示。大量的实验分析表明，我们提出的方法取得了更好的结果比国家的最先进的对抗性领域自适应方法。代码和模型是公开的。
2021-06-14 cs.CV cs.LG
Physics-Guided Multi-Objective Deep Learning for Ultrasound RF Data Interpolation in Resource-Constrained Imaging
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对资源受限超声成像中稀疏数据导致的栅瓣伪影问题，提出物理引导的多目标深度学习框架，结合射频域与波束形成域损失及随机跳跃掩蔽，实现高保真插值，平均SSIM约0.95。
2026-09-25 cs.LG eess.IV
AEGIS: Adversarial Entropy-Guided Immune System -- Thermodynamic State Space Models for Zero-Day Network Evasion Detection
Vixero Technology Enterprise（Vixero科技企业）
本文提出AEGIS，一种基于热力学方差引导超流体状态空间模型的对抗熵引导免疫系统，通过非欧几里得庞加莱流形实现高效检测零日网络攻击。
2026-04-02 cs.CR cs.LG
Wasserstein Distance guided Adversarial Imitation Learning with Reward Shape Exploration
Tsinghua University（清华大学）；Sun Yat-Sen University（中山大学）
生成式对抗模仿学习（GAIL）提供了一个对抗性学习框架，用于从高维连续任务的演示中模仿专家策略。然而，几乎所有的GAIL及其扩展都只设计了一种对数形式的奖励函数在对抗训练策略与Jensen-Shannon（JS）的分歧，为所有复杂的环境。固定对数类型的奖励函数可能难以解决所有复杂的任务，而JS发散引起的梯度消失问题将损害对抗学习过程。本文提出了一种新的Wasserstein距离引导的对抗性模仿学习（WDAIL）算法，以提高模仿学习（IL）的性能。该方法有三个改进：（a）在对抗训练过程中引入Wasserstein距离以获得更合适的度量;（b）在强化学习阶段使用近端策略优化（PPO），实现更简单，提高算法效率;（c）探索不同的奖励函数形状以适应不同的任务以提高性能。实验结果表明，该学习过程保持了显著的稳定性，在MuJoCo复杂的连续控制任务中取得了显著的效果。
2020-12-08 cs.LG cs.RO stat.ML
Multiple Organ Failure Prediction with Classifier-Guided Generative Adversarial Imputation Networks
University of California, Santa Barbara（加州大学圣巴巴拉分校）；UC, Davis Health（加州大学戴维斯分校医疗中心）
多器官功能衰竭（MOF）是重症监护病房（ICU）患者中的一种严重综合征，死亡率高。早期和精确的检测对于临床医生及时做出决定至关重要。将机器学习模型应用于电子健康记录（EHR）的一个重要挑战是缺失值的普遍存在。大多数现有的插补方法都涉及数据预处理阶段，无法捕捉数据和下游预测结果之间的关系。在本文中，我们提出了用于MOF预测的分类器引导的生成对抗性填补网络Classifier-GAIN，通过结合观察数据和标签信息来弥合这一差距。具体而言，分类器从生成器（输入器）获取输入值以预测任务结果，并通过联合训练向生成器提供额外的监督信号。分类器引导生成器在训练过程中使用标签意识来填补缺失值，从而提高分类器在推理过程中的性能。我们进行了大量的实验，表明我们的方法在一系列缺失数据场景和评估指标中始终优于经典和最先进的神经基线。
2021-06-22 cs.AI cs.LG
