Asymmetric Bias in Text-to-Image Generation with Adversarial Attacks
University of California Riverside（加州大学河滨分校）
本研究实证分析文本到图像模型对抗攻击的成功率，发现实体交换存在不对称性，并提出探测指标以预测攻击成功率。
2024-07-17 cs.CR cs.LG
LatentBreak: Jailbreaking Large Language Models through Latent Space Feedback
University of Cagliari（卡利亚里大学）；Centre for AI Governance（人工智能治理中心）；Foundation AI – Cisco Systems Inc.（AI基金会——思科系统公司）
针对现有越狱攻击易被基于困惑度的过滤检测的问题，本文提出白盒攻击LatentBreak，通过最小化潜在空间距离来替换词语生成低困惑度自然对抗提示，在多个安全模型上有效规避防御并优于现有算法。
2025-10-30 cs.AI cs.CL cs.LG
Iterative Self-Tuning LLMs for Enhanced Jailbreaking Capabilities
University of California San Diego（加州大学圣迭戈分校）；Microsoft Research（微软研究院）；University of Virginia（弗吉尼亚大学）
本文提出ADV-LLM迭代自微调框架，以低计算成本构建高越狱能力的对抗性LLM，在开源模型上实现近100%攻击成功率，并具备向GPT-3.5和GPT-4等闭源模型的强迁移性。
2025-11-07 cs.CL cs.LG
Greedy Coordinate Diffusion: Effective and Semantically Coherent Adversarial Attacks via Diffusion Guidance
University of Maryland（马里兰大学）；University of California, Berkeley（加州大学伯克利分校）
提出贪婪坐标扩散方法，利用扩散模型引导生成语义连贯的对抗样本，在保持自然性的同时实现高攻击成功率。
2026-06-17 cs.CR cs.LG
LoFT: Local Proxy Fine-tuning For Improving Transferability Of Adversarial Attacks Against Large Language Model
Carnegie Mellon University（卡内基梅隆大学）
本文提出局部微调（LoFT）方法，通过在有害查询的词汇语义邻域内微调公开代理模型以减小其与私有目标模型的差异，从而提升对抗攻击的迁移性，在 ChatGPT、GPT-4 和 Claude 上分别将攻击成功率提高了 39%、7% 和 0.5%。
2023-10-21 cs.AI cs.CL cs.LG
Adversarial Suffix Filtering: a Defense Pipeline for LLMs
Department of Computer Science and Technology（计算机科学与技术系）
本文提出轻量、模型无关的 ASF 输入预处理流水线，通过检测并过滤对抗性后缀，在黑盒与白盒设置下将先进攻击成功率降至 4% 以下，且基本不影响正常能力。
2025-05-14 cs.CR cs.LG
Encoder-Decoder Generative Adversarial Nets for Suffix Generation and Remaining Time Prediction of Business Process Models
The University of Melbourne（墨尔本大学）
本文提出了一种基于生成对抗网络（GANs）的编码器-解码器架构，该架构以端到端的方式生成活动序列及其时间戳。GANs可以很好地处理图像等可区分的数据。然而，后缀是一系列分类项。为此，我们使用Gumbel-Softmax分布来获得可微连续近似。训练的工作原理是在两个玩家的游戏中让一个神经网络对抗另一个（因此具有“对抗”性质），这导致生成接近地面事实的后缀。从实验评估中可以看出，该方法在预测后缀和相应剩余时间的准确性方面优于基线，尽管使用了朴素的特征编码，并且仅基于控制流和事件完成时间的工程特征。
2020-10-19 cs.LG stat.ML
Detecting Fluent Optimization-Based Adversarial Prompts via Sequential Entropy Changes
Department of Electronic and Electrical Engineering, University College London, London, United Kingdom（电子与电气工程系，伦敦大学学院，伦敦，英国）
本文提出了一种基于在线变化点检测的对抗性后缀检测方法CPD，通过标准化用户令牌熵并应用单侧CUSUM统计量，提高了对优化基于对抗性提示的检测性能，同时在多个大型语言模型上实现了更高的F1分数和AUC性能。
2026-05-19 cs.AI cs.LG
Beyond the Bidirectional Promise: Re-evaluating the Robustness of Diffusion Language Models
Microsoft（微软公司）
该研究评估了扩散语言模型的鲁棒性，发现其虽能抵御部分对抗攻击但易受自然噪声影响，存在过度自信问题，脆弱性源于解码器路由故障，需将鲁棒性整合入迭代解码循环。
2026-07-31 cs.AI cs.LG
Breadth Beats Depth: Improving GCG-Based Jailbreak Optimization with Breadth-Oriented Suffix Search
School of Information Science and Technology（信息科学与技术学院）；Guangdong University of Foreign Studies（广东外语外贸大学）
该研究针对GCG越狱优化易忽视后缀空间具前景区域的问题，提出即插即用框架BOSS，采用广度导向后缀搜索，提升攻击成功率并缩短优化时间。
2026-09-03 cs.CL cs.LG
Route to Rome Attack: Directing LLM Routers to Expensive Models via Adversarial Suffix Optimization
Key Laboratory of Symbolic Computation and Knowledge Engineering, MoE, Jilin University（符号计算与知识工程重点实验室，MoE，吉林大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出R$^2$A方法，通过对抗性后缀优化误导黑盒LLM路由器选择昂贵模型，解决现有攻击在黑盒场景下的不足。
2026-04-16 cs.AI cs.CL cs.CR
Decision-Aware Suffix Prediction and Reasoning of Business Processes
Technical University of Munich（慕尼黑工业大学）
本文提出一种结合决策挖掘的神经符号后缀预测框架，通过决策规则推理改进短前缀和稀有变体的预测，并增强可解释性。
2026-09-09 cs.AI cs.LG
An Uncertainty-Aware ED-LSTM for Probabilistic Suffix Prediction
Technical University of Munich（慕尼黑工业大学）
本文提出基于 U-ED-LSTM 与 MC 后缀采样的概率后缀预测方法，同时建模认知与偶然不确定性，并在多个事件日志和超参数设置下验证其性能与校准效果。
2025-06-06 cs.AI cs.LG
Optimizing Against Safety Representations: Activation-Guided Adversarial Suffixes and the Geometry of Refusal
研究大语言模型安全表示，引入激活引导的对抗后缀攻击方法，如Activation-Guided GCG和Soft-GCG，发现安全表示分布特点，不同规模模型的抗性不同，结果阐明安全机制编码及破解方式，为设计对齐策略提供指导。
2026-07-13 cs.LG
Strengthening the Internal Adversarial Robustness in Lifted Neural Networks
Chalmers University of Technology（查尔姆斯理工大学）
本文研究提升神经网络的内部对抗鲁棒性，通过仅修改训练损失增强鲁棒性，并提出结合有目标与无目标对抗扰动的新型训练损失。
2025-03-10 cs.LG
Advancing Adversarial Suffix Transfer Learning on Aligned Large Language Models
National University of Singapore（新加坡国立大学）
针对大语言模型对抗后缀搜索算法GCG效率低的问题，提出两阶段迁移学习框架DeGCG及其交错变体i-DeGCG，通过解耦搜索流程提升效率，在HarmBench基准上实现了攻击成功率的显著提升。
2024-10-05 cs.CL cs.CR cs.LG
TopoReformer: Mitigating Adversarial Attacks Using Topological Purification in OCR Models
TopoReformer通过拓扑净化技术提升OCR模型对对抗攻击的鲁棒性，无需显式梯度正则化，有效缓解扰动并保持文本结构完整性。
2025-11-19 cs.AI cs.LG
Certifying LLM Safety against Adversarial Prompting
Harvard University（哈佛大学）；University of Maryland（马里兰大学）
本文提出首个可认证安全保证的防御框架 erase-and-check，通过逐个擦除 token 并检查子序列来抵御对抗性提示攻击，并给出三种高效经验性防御变体，在有害提示上取得强认证安全保证。
2025-02-04 cs.AI cs.CL cs.CR
Hijacking Large Language Models via Adversarial In-Context Learning
Wayne State University（韦恩州立大学）；Oakland University（奥克兰大学）
本文提出一种针对上下文学习（ICL）的可迁移提示注入攻击方法，通过向演示附加对抗性后缀劫持大型语言模型，并设计了基于干净演示的防御策略，揭示了 ICL 的安全漏洞。
2025-05-29 cs.CL cs.CR cs.LG
Generating Structured Adversarial Attacks Using Frank-Wolfe Method
University of Central Florida（中佛罗里达大学）；Centre de Recherche INRIA de Paris（法国国家信息与自动化研究所巴黎研究中心）
白盒对抗扰动是通过迭代优化算法生成的，最常见的是通过最小化原始图像的$\ell_p$邻域（所谓的失真集）上的对抗损失。用不同的规范约束对抗性搜索会产生结构合理的对抗性示例。在这里，我们探索几个失真集与结构增强算法。对抗性示例的这些新结构可能会为可证明和经验性的鲁棒机制带来挑战。由于对抗鲁棒性仍然是一个经验领域，防御机制也应该合理地评估不同结构的攻击。此外，这些结构化对抗扰动可以允许比它们的$\ell_p$对应部分更大的失真大小，同时保持不可感知或可感知为图像的自然失真。我们将在这项工作中证明，所提出的结构化对抗性示例可以显着降低对抗性训练分类器的分类准确性，同时显示低$\ell_2$失真率。例如，在ImagNet数据集上，结构化攻击将对抗模型的准确性降低到接近零，只有50%的$\ell_2$失真使用白盒攻击（如PGD）生成。作为副产品，我们在结构化对抗性示例上的发现可以用于模型的对抗性正则化，以使模型更鲁棒或提高其在结构不同的数据集上的泛化性能。
2021-02-15 cs.AI cs.CV cs.LG
Towards the Worst-case Robustness of Large Language Models
Tsinghua Univerisity（清华大学）；Peking University（北京大学）
本研究通过白盒攻击和背包求解器，为大型语言模型的最坏情况鲁棒性提供上下界，并验证了均匀核平滑在平均ℓ0扰动2.02或后缀长度6.41下的鲁棒性。
2026-11-09 cs.LG
Should Adversarial Attacks Use Pixel p-Norm?
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
对抗攻击旨在混淆机器学习系统，同时保持人类几乎无法感知。对图像分类系统的攻击通常根据像素特征空间中的$p$范数失真来衡量。我们进行了行为研究，表明像素$p$ -规范的任何$0\le p \le \infty$，和几个替代措施，包括推土机的距离，结构相似性指数，和深网嵌入，不适合人类的感知。我们的研究结果有可能提高对对抗攻击和防御策略的理解。
2019-06-06 cs.CR cs.LG stat.ML
Scaling Adversarial Training via Data Selection
Northeastern University（东北大学）
本文提出选择性对抗训练方法，通过数据选择减少计算成本，提升对抗鲁棒性。
2025-12-26 cs.LG
Constructing Semantics-Aware Adversarial Examples with a Probabilistic Perspective
University of Cambridge（剑桥大学）；University College London（伦敦大学学院）
本文提出一种概率视角下的语义感知对抗样本生成方法，在保持图像整体语义的同时进行大规模像素修改，从而在难以被人类察觉的情况下更有效地绕过对抗防御机制。
2024-11-24 cs.CR cs.LG stat.ML
Universal Adversarial Attack on Deep Learning Based Prognostics
TCS Research（TCS研究院）
基于深度学习的时间序列模型正在工程和制造业中广泛用于过程控制和优化、资产监控、诊断和预测性维护。这些模型在预测工业设备的剩余使用寿命（RUL）方面有很大的改进，但存在固有的对抗攻击脆弱性。这些攻击很容易被利用，并可能导致关键工业设备的灾难性故障。通常，针对输入数据的每个实例计算不同的对抗性扰动。然而，由于更高的计算要求和缺乏对输入数据的不间断访问，这对于攻击者来说难以实时的实现。因此，我们提出了通用对抗性扰动的概念，这是一种特殊的不可感知的噪声，用于欺骗基于回归的RUL预测模型。攻击者可以很容易地利用通用对抗扰动进行实时攻击，因为连续访问输入数据和对抗扰动的重复计算不是其先决条件。我们使用NASA涡轮风扇发动机数据集评估通用对抗攻击的效果。我们发现，除了普遍对抗扰动的任何情况下的输入数据增加了模型预测的输出误差。据我们所知，我们是第一个研究普遍对抗扰动对时间序列回归模型的影响。我们进一步证明了扰动强度的变化对RUL预测模型的影响，并发现模型精度随着通用对抗攻击扰动强度的增加而降低。我们还展示了通用对抗扰动可以在不同的模型中转移。
2021-09-15 cs.AI cs.CR cs.LG
Trace-Norm Adversarial Examples
University of Central Florida（中佛罗里达大学）；École Normale Supérieure（巴黎高等师范学院）；INRIA（法国国家信息与自动化研究所）
白盒对抗性扰动是通过迭代优化算法来寻求的，最常见的是最小化原始图像的$l_p$邻域（所谓的失真集）上的对抗性损失。用不同的规范约束对抗性搜索会产生结构合理的对抗性示例。在这里，我们探索几个失真集与结构增强算法。对抗性示例的这些新结构，在优化中普遍存在，例如，对于对抗性理论认证来说是一个挑战，该理论认证再次仅提供$l_p$证书。由于对抗鲁棒性仍然是一个经验领域，防御机制也应该合理地评估不同结构的攻击。此外，这些结构化对抗扰动可以允许比它们的$l_p$对应部分更大的失真大小，同时保持不可感知或可感知为图像的自然轻微失真。最后，它们允许对对抗性扰动的生成进行一些控制，如（局部）模糊。
2020-07-02 cs.CV cs.LG stat.ML
Criticality Leveraged Adversarial Training (CLAT) for Boosted Performance via Parameter Efficiency
Duke University（杜克大学）；University of California, Berkeley（加利福尼亚大学伯克利分校）
本文提出 CLAT 方法，通过动态识别并微调鲁棒性关键层、冻结其余参数，在减少约 95% 可训练参数的同时，有效缓解对抗过拟合并提升模型对抗鲁棒性。
2024-12-23 cs.CV cs.LG
PatchKV: Efficient KV Cache Recovery for Dynamically Edited LLM Contexts
Tianjin University（天津大学）
PatchKV通过配置文件引导的脏区域预测和块级精度恢复，实现动态编辑上下文中KV缓存的高效恢复，显著加速长上下文问答。
2026-09-23 cs.DC cs.LG
Crafting Adversarial Examples for Deep Learning Based Prognostics (Extended Version)
University of Missouri（密苏里大学）
在制造业中，意外故障被认为是主要的运营风险，因为它们会阻碍生产力并造成巨大损失。最先进的预测和健康管理（PHM）系统结合了深度学习（DL）算法和物联网（IoT）设备，以确定设备的健康状态，从而减少停机时间，降低维护成本并提高生产率。不幸的是，物联网传感器和DL算法都容易受到网络攻击，因此对PHM系统构成了重大威胁。在本文中，我们采用了对抗性的例子制作技术从计算机视觉领域，并将其应用到PHM领域。具体来说，我们使用快速梯度符号方法（FGSM）和基本迭代法（BIM）制作对抗性示例，并将其应用于基于长短期记忆（LSTM），门控递归单元（GRU）和卷积神经网络（CNN）的PHM模型。我们使用NASA的涡轮风扇发动机数据集评估了对抗攻击的影响。结果表明，所有评估的PHM模型都容易受到对抗攻击，并可能导致剩余使用寿命估计的严重缺陷。所获得的结果还表明，精心制作的对抗性示例具有高度的可转移性，并且可能对PHM系统造成重大损害。
2020-09-28 cs.AI cs.CR cs.LG
Attack Agnostic Detection of Adversarial Examples via Random Subspace Analysis
The Johns Hopkins University Applied Physics Laboratory（约翰斯·霍普金斯大学应用物理实验室）
虽然对抗攻击检测受到了相当大的关注，但从两个角度来看，它仍然是一个具有根本挑战性的问题。首先，虽然威胁模型可以很好地定义，但攻击者的策略在这些约束条件下仍然可能有很大的不同。因此，检测应该被认为是一个开集的问题，站在目前大多数检测方法的对比。这些方法采用闭集视图并训练二进制检测器，从而使检测偏向于检测器训练期间看到的攻击。第二，在测试时可用的信息有限，并且通常被包括图像的标签和底层内容的讨厌因素混淆。我们通过一种基于随机子空间分析的新策略来解决这些挑战。我们提出了一种技术，利用随机投影的属性来表征不同子空间集合中干净和对抗性示例的行为。模型激活的自一致性（或不一致性）被用来区分干净的和敌对的例子。性能评估表明，我们的技术（$AUC\in[0.92, 0.98]$）优于竞争的检测策略（$AUC\in[0.30,0.79]$），同时保持真正的不可知的攻击策略（有针对性/无针对性的攻击）。它还需要比竞争方法少得多的校准数据（仅由干净的示例组成）来实现此性能。
2021-11-03 cs.AI cs.CR cs.CV
A Theoretical Perspective on Subnetwork Contributions to Adversarial Robustness
University of Maine（缅因大学）；Pacific Northwest National Lab（太平洋西北国家实验室）
本文提出半鲁棒性概念及理论框架，证明鲁棒子网络在足够层间依赖下可保证全网络鲁棒性，并通过多架构、多数据集和多攻击实验验证了该机制。
2023-07-07 cs.LG
Adversarial Recommendation: Attack of the Learned Fake Users
University of Minnesota（明尼苏达大学）
用于推荐的机器学习模型是否容易被愚弄？虽然这个问题已经在人工设计的假用户简档中得到了回答，但还没有在机器学习的对抗攻击中进行探索。本文试图缩小这一差距。我们提出了一个框架，用于生成假的用户简档，其中，当被纳入一个推荐系统的训练，可以实现一个敌对的意图，同时保持与真实的用户简档无法区分。我们将这个过程表述为两个参与者之间的重复一般和博弈：一个不经意的推荐系统$R$和一个对抗性的假用户生成器$A$，有两个目标：（G1）伪用户的评级分布需要接近真实用户，以及（G2）对攻击意图进行编码的某个客观$f_A$，诸如针对用户子集的前K推荐质量的$R$，需要优化。我们提出了一个学习框架来实现这两个目标，并提供了广泛的实验，考虑多种类型的攻击突出的脆弱性推荐系统。
2018-09-21 cs.IR cs.LG stat.ML
Real-Time Adversarial Attacks
University of Notre Dame（圣母大学）
近年来，许多研究表明，现代机器学习算法容易受到对抗攻击的攻击，在这种攻击中，对输入的微小但精心设计的扰动可能会使它们失败。虽然这些攻击方法非常有效，但它们只关注目标模型采用静态输入的场景，即，攻击者可以观察整个原始样本，然后在样本的任何点添加扰动。这些攻击方法不适用于目标模型采用流输入的情况，即，攻击者仅能够观察过去的数据点，并将扰动添加到输入的剩余（未观察到的）数据点。针对流输入的机器学习模型，提出了一种实时的【形】对抗攻击方案.
2019-06-22 cs.CR cs.LG cs.SD
Learning to Unlearn: Instance-wise Unlearning for Pre-trained Classifiers
New York University（纽约大学）；LG AI Research（LG人工智能研究院）；Seoul National University（首尔大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文研究预训练模型的实例级遗忘问题，提出利用对抗样本和权重重要性度量两种方法，在删除指定实例信息的同时减少对剩余数据的遗忘，并在多种图像分类基准上验证了其有效性。
2024-01-15 cs.LG
Robotic and Generative Adversarial Attacks in Offline Writer-independent Signature Verification
Nottingham Trent University（诺丁汉特伦特大学）
本研究探讨如何机器人和生成方法可以用来安装成功的虚假接受对抗攻击签名验证系统。最初，探索和调整了卷积神经网络拓扑结构和数据增强策略，为2,640个人类签名的验证产生了87.12%的准确率模型。然后，两个机器人的任务是伪造50个签名，其中25个用于验证攻击，其余25个用于调整模型以抵御它们。对系统的对抗攻击表明存在信息安全风险; Line-us机器人手臂可以在24%的时间内欺骗系统，iDraw 2.0机器人可以在32%的时间内欺骗系统。一个有条件的GAN发现了类似的成功，大约30%的伪造签名被误分类为真实签名。在对机器人和生成数据进行微调迁移学习之后，机器人和GAN都将对抗攻击降低到模型阈值以下。据观察，调整模型可以将机器人攻击的风险降低到8%和12%，当呈现25张图像时，条件生成对抗攻击可以降低到4%，当呈现1000张图像时，可以降低到5%。
2022-04-14 cs.CV cs.LG cs.RO
HGAN-SDEs: Learning Neural Stochastic Differential Equations with Hermite-Guided Adversarial Training
本文提出HGAN-SDEs框架，利用神经Hermite函数构建高效判别器，解决传统方法计算成本高和训练不稳定的问题，理论分析显示其能逼近广泛SDE驱动分布，实验表明在合成和现实系统中样本质量与学习效率优于现有生成模型。
2026-03-15 cs.LG
Evasion Attacks Against Bayesian Predictive Models
Inst. Math. Sciences, Spanish Nat. Research Council（数学科学研究所，西班牙国家研究理事会）；Universidad Autónoma de Madrid, Escuela de Doctorado（马德里自治大学，博士学院）；CUNEF Universidad Madrid, Spain（CUNEF马德里大学，西班牙）
针对贝叶斯预测模型对抗攻击脆弱性研究不足的问题，本文提出了设计最优规避攻击的通用方法，针对两类对抗目标提出基于梯度的新型攻击并分析其在不同计算设置下的特性。
2025-06-11 cs.LG stat.ML
AdvPC: Transferable Adversarial Perturbations on 3D Point Clouds
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学（KAUST））
深度神经网络容易受到对抗攻击的攻击，在这种攻击中，对其输入的不可感知的扰动会导致错误的网络预测。这种现象在图像领域已经得到了广泛的研究，最近才扩展到3D点云。在这项工作中，我们提出了新的数据驱动的对抗攻击对三维点云网络。我们的目标是解决当前3D点云对抗攻击中的以下问题：它们在不同网络之间不能很好地传输，并且它们很容易通过简单的统计方法进行防御。在这种程度上，我们开发了一种新的点云攻击（称为AdvPC），它利用输入数据分布，在自动编码器重建后，通过添加对抗性损失来优化目标。AdvPC导致对当前防御具有弹性的扰动，同时与最先进的攻击相比保持高度可转移性。我们使用四种流行的点云网络测试AdvPC：PointNet，PointNet++（MSG和SSG）和DGCNN。我们提出的攻击将那些转移到看不见的网络（可转移性）的攻击成功率提高了40%，同时在被攻击的网络上保持了较高的成功率。与ModelNet40数据集上的其他基线相比，AdvPC还将突破防御的能力提高了38%。
2020-07-16 cs.CR cs.CV cs.LG
Adversarial Robustness of Traffic Classification under Resource Constraints: Input Structure Matters
本文通过HW-NAS设计轻量交通分类模型，在资源受限下探讨输入结构对对抗鲁棒性的影响，发现时间序列输入在对抗攻击下鲁棒性显著提升。
2025-12-01 cs.CR cs.LG cs.NI
Adversarial training approach for local data debiasing
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Ecole Polytechnique（巴黎综合理工学院）；Université de Montréal（蒙特利尔大学）
在我们社会的许多领域，自动化决策过程的广泛使用引发了严重的道德问题，涉及过程的公平性和可能导致的歧视。在这项工作中，我们提出了一种称为GANSAN的新方法，其目标是防止任何歧视的可能性，即，直接的和间接的），通过去除属性本身以及与剩余属性的现有相关性。我们的消毒算法GANsan部分受到生成对抗网络（特别是Cycle-GAN）的强大框架的启发，该框架提供了一种灵活的方法来经验性地学习分布或在两种不同的分布之间转换。与以前的工作相比，我们的方法的优势之一是，通过尽可能少地修改其他属性，在与原始数据相同的空间中执行消毒，从而保持消毒数据的可解释性。因此，一旦消毒器被训练，它可以被应用到新的数据，例如，本地由个人在他的个人资料之前释放它。最后，在一个真实的数据集上的实验证明了所提出的方法的有效性，以及公平性和实用性之间可实现的权衡。
2020-09-03 cs.CR cs.LG stat.ML
VIP: Visual Information Protection through Adversarial Attacks on Vision-Language Models
Univ. Rennes, INSA Rennes, CNRS, IETR - UMR 6164（里昂大学、里昂国家理工学院、国家科学研究中心、IETR - UMR 6164）
本研究将视觉语言模型的隐私保护构建为对抗攻击问题，提出VIP策略选择性地隐藏图像指定感兴趣区域的信息，有效阻止模型访问敏感内容，同时保持图像其余部分的语义完整性。
2025-07-11 cs.CV cs.LG eess.IV
BACE-RUL: A Bi-directional Adversarial Network with Covariate Encoding for Machine Remaining Useful Life Prediction
School of Software Engineering, Sun Yat-Sen University（中山大学软件学院）；School of Computer Science and Technology, China University of Mining and Technology（中国矿业大学计算机科学与技术学院）；National University of Singapore（新加坡国立大学）
本文提出BACE-RUL模型，通过双向对抗网络和协变量编码，利用当前传感器数据预测机器剩余寿命，优于现有方法。
2026-03-05 cs.AI cs.LG
Zero-Shot Machine Unlearning with Proxy Adversarial Data Generation
University of Queensland（昆士兰大学）；City University of Macau（澳门城市大学）；University of Technology Sydney（悉尼科技大学）
针对零样本机器遗忘场景下仅能获取待遗忘样本、易出现过度遗忘的问题，提出ZS-PAG框架，通过生成对抗样本近似剩余数据、在特定子空间执行遗忘并结合基于影响的伪标记策略，有效避免过度遗忘且性能优于基线方法。
2025-07-29 cs.AI cs.LG
Time-Series Regeneration with Convolutional Recurrent Generative Adversarial Network for Remaining Useful Life Estimation
Peking University（北京大学）；Singapore University of Technology and Design（新加坡科技设计大学）
对于健康预测任务，越来越多的努力集中在基于机器学习的方法上，这些方法能够在不探索退化机制的情况下为工业设备或部件产生准确的剩余使用寿命（RUL）估计。确保这些方法成功的先决条件取决于大量的运行至故障数据，然而，运行至故障数据在实践中可能是不够的。也就是说，进行大量的破坏性实验不仅成本高昂，而且可能造成灾难性的后果。基于这种考虑，本文首次提出了一种针对非循环和循环退化模式的数据自生成的增强型RUL框架。它旨在以数据驱动的方式丰富数据，生成逼真的时间序列以增强当前的RUL方法。首先，通过所提出的卷积递归生成对抗网络（CR-GAN）确保高质量的数据生成，该网络采用双通道融合卷积递归神经网络。接下来，提出了一个分层框架，将生成的数据结合到当前的RUL估计方法中。最后，通过非循环和循环退化系统验证了所提出的方法的有效性。利用改进的RUL框架，采用三种典型的RUL模型对航空发动机系统进行了非循环退化试验。最先进的RUL估计结果是通过用生成的时间序列增强胶囊网络来实现的。具体而言，估计误差的指标评分函数已分别减少了21.77%，和32.67%的两个工作条件，分别。此外，估计误差降低到零的锂离子电池系统，这是周期性退化。
2021-01-11 cs.AI cs.LG
Generalized multiscale feature extraction for remaining useful life prediction of bearings with generative adversarial networks
KIST Europe（韩国科学技术研究院欧洲分院）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Korea Institute of Science and Technology Europe Forschungsgesellschaft mbH（韩国科学技术研究院欧洲研究有限公司）
轴承是工业机械中的关键部件，其故障可能导致不必要的停机时间和经济损失。因此，有必要预测轴承的剩余使用寿命（RUL）。传统的数据驱动的RUL预测方法需要专家领域知识来进行手动特征提取，并且可能遭受训练数据和测试数据之间的数据分布差异。在这项研究中，我们提出了一种新的广义多尺度特征提取方法与生成对抗网络。对抗训练从不同的方位学习训练数据的分布，并被引入健康阶段划分和RUL预测。为了从一维振动信号中捕获序列特征，我们采用了一种U-Net架构，该架构可以重构特征，以便在对抗网络的生成器中使用多尺度层来处理它们。为了验证所提出的方法，在两个旋转机械数据集上进行了综合实验，以预测RUL。实验结果表明，该特征提取方法能够有效地预测规则语言，优于传统的基于深度神经网络的规则语言预测方法。实现代码可在https://github.com/opensuh/GMFE上获得。
2021-09-26 cs.CV cs.LG
On an Application of Generative Adversarial Networks on Remaining Lifetime Estimation
The University of Sheffield（谢菲尔德大学）
结构健康监测的一个主要问题是结构的损伤预测和剩余使用寿命的确定。这两项任务都依赖于许多参数，其中许多参数往往是不确定的。许多模型已被开发用于上述任务，但它们要么是确定性的，要么是随机性的，只考虑结构的有限数量的过去状态。在目前的工作中，生成模型，提出了为了对结构的损伤演化的预测。该模型能够执行基于人口的SHM（PBSHM）框架，考虑到许多过去的状态的损坏的结构，将不确定性的建模过程中，并产生潜在的损伤演化结果，根据从结构获得的数据。该算法进行了测试模拟损伤演化的例子，结果表明，它是能够提供相当有信心的预测人口内的结构的剩余使用寿命。
2022-08-18 cs.LG eess.SP stat.ML
Online Shift Detection and Conformal Adaptation for Deployed Safety Classifiers
University of California, Berkeley（加州大学伯克利分校）
提出在线监测系统，使用校准序列统计检测分布漂移，并通过共形弃权层自适应阈值恢复目标错误率，在800个实验单元中实现86.6%有效检测。
2026-10-27 cs.CR cs.LG stat.ML
What Averages Do Not Tell -- Predicting Real Life Processes with Sequential Deep Learning
Eindhoven University of Technology（埃因霍温理工大学）
深度学习被证明是一种有效的建模工具，如自然语言，计算机视觉和信号处理的成功所示。流程挖掘涉及从支持信息系统记录的业务流程执行数据中发现有关业务流程的见解。记录的数据（事件日志）由对应于进程执行的事件序列（跟踪）组成。许多深度学习技术已经成功地适用于预测流程挖掘，旨在预测流程结果，剩余时间，下一个事件，甚至是运行轨迹的后缀。流程挖掘中的痕迹是多模态序列，其结构与自然语言句子或图像非常不同。这可能需要不同的处理方法。到目前为止，对这些差异和所带来的挑战关注甚少。将后缀预测视为这些任务中最具挑战性的任务，深度学习模型的性能仅在平均测量和少量真实事件日志中进行评估。由于不同的预处理和评价策略，比较论文之间的结果是困难的。可能相关的挑战是跟踪长度分布的偏斜度和真实事件日志中活动分布的偏斜度。我们提供了一个端到端的框架，使七个国家的最先进的顺序架构在常见的设置的性能进行比较。结果表明，对于大多数更复杂的数据集，序列建模仍然有很大的改进空间。需要进一步的研究和见解，以获得一致的性能，不仅在平均措施，而且在所有前缀。
2021-10-31 cs.LG
Thompson Sampling for Adversarial Bit Prediction
Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
我们研究了汤普森采样算法在对抗设置，特别是对抗比特预测。我们描述的位序列的最小和最大的预期遗憾。在具有$k < \frac{T}{2}$ 0的长度为$T$的序列中，最大遗憾的序列由交替的0和1以及随后的1组成，并且最小遗憾的序列由1以及随后的0组成。我们也限制了这些序列的遗憾，最坏情况序列有遗憾$O(\sqrt{T})$，最好情况序列有遗憾$O(1)$。我们将我们的结果扩展到假阳性和假阴性错误具有不同权重的模型。我们刻画了最大期望遗憾序列的特征，并推导出它们的遗憾界。我们还发现，有序列与$O(1)$遗憾。
2019-12-28 cs.LG stat.ML
Can deep neural networks learn process model structure? An assessment framework and analysis
KU Leuven（鲁汶大学）；Ghent University（根特大学）
预测性流程监控关注的是对（业务）流程中正在进行的案例的预测。预测任务通常集中在剩余时间，结果，下一个事件或完整的情况下后缀预测。近年来，针对这些任务提出了各种使用机器和深度学习的方法。特别是诸如长短期记忆网络（LSTM）的递归神经网络（RNN）已经变得流行。但是，没有研究关注这种基于神经网络的模型是否能够真正学习底层过程模型的结构。例如，这样的神经网络能有效地学习并行行为或循环吗？因此，在这项工作中，我们提出了一个评估方案，补充了新的健身，精度和泛化指标，专门针对测量深度学习模型学习过程模型结构的能力。我们将这个框架应用到几个简单的控制流行为的过程模型，下一个事件预测的任务。我们的研究结果表明，即使是这样简单的模型，仔细调整过拟合对策，需要让这些模型学习过程模型结构。
2022-02-24 cs.LG
Beyond Gradients: Exploiting Adversarial Priors in Model Inversion Attacks
Institute for Artificial Intelligence in Medicine（医学人工智能研究所）；Technical University of Munich（慕尼黑工业大学）；Imperial College London（帝国理工学院）
像联邦学习这样的协作机器学习设置可能容易受到对抗性干扰和攻击。一类这样的攻击被称为模型反演攻击，其特征在于对手对模型进行逆向工程以提取表示，从而公开训练数据。这种攻击的先前实现通常只依赖于捕获的数据（即共享梯度），而不利用对手自己控制的数据作为训练联盟的一部分。在这项工作中，我们提出了一种新的模型反演框架，该框架建立在基于梯度的模型反演攻击的基础上，但还依赖于将重建图像的特征和风格与对手控制的数据相匹配。我们的技术在质量和数量上都优于现有的基于梯度的方法，同时仍然保持相同的诚实但好奇的威胁模型，允许对手在保持隐蔽的同时获得增强的重建。
2022-03-01 cs.CR cs.LG
Deep Adversarial Domain Adaptation Based on Multi-layer Joint Kernelized Distance
The Hong Kong Polytechnic University（香港理工大学）
领域自适应是指将从源数据中学习到的模型应用于类别相同但分布不同的目标数据的学习场景。在广泛应用的同时，源数据与目标数据的分布差异会严重影响自适应性能。这个问题最近已经解决了采用对抗性学习和独特的适应性能已被报道。提出了一种基于多层联合核化距离度量的深度对抗性领域自适应模型。通过利用从深度网络提取的抽象特征，计算预测为$m$第类的$j$第类目标数据与$m'$第类的所有源数据之间的多层联合核化距离（MJKD）。在MJKD的基础上，在每个类别中使用类平衡的选择策略，选择最有可能被正确分类的目标数据，并使用其伪标签将其视为标记数据。然后使用对抗架构来绘制新生成的标记训练数据和剩余的目标数据彼此接近。以这种方式，目标数据本身提供有价值的信息以增强领域自适应。实验结果表明，该方法可以实现更好的性能比一些国家的最先进的方法。
2020-10-09 cs.LG
Playing to Learn Better: Repeated Games for Adversarial Learning with Multiple Classifiers
U. S. Naval Research Laboratory（美国海军研究实验室）
我们考虑在对抗性学习环境中通过称为学习者的机器学习算法进行预测的问题。学习器的任务是正确地预测作为查询传递给它的数据的类别。然而，除了包含干净数据的查询外，学习者还可能收到来自对手的恶意或敌对查询。对手的目标是通过发送导致学习者错误的类预测的对抗查询来逃避学习者的预测机制，而学习者的目标是在不降低干净查询的预测质量的情况下减少这些对抗查询的不正确预测。我们提出了一种基于博弈论的技术，称为重复贝叶斯序贯博弈，学习者反复与对手的模型进行交互，使用自我游戏来确定对抗性查询与干净查询的分布。然后，它从一组预先训练的分类器中策略性地选择一个分类器，该分类器平衡了查询的正确预测的可能性以及降低使用分类器的成本。我们已经使用基于深度神经网络的分类器使用干净和对抗性文本数据评估了我们提出的技术，并表明学习者可以选择与查询类型（干净或对抗性）相称的适当分类器，同时仍然知道使用分类器的成本。
2020-02-10 cs.LG stat.ML
Predictive Business Process Monitoring via Generative Adversarial Nets: The Case of Next Event Prediction
The University of Melbourne（墨尔本大学）
预测过程监控旨在预测正在进行的过程案例的未来特征，例如案例结果或剩余时间戳。最近，已经提出了几种基于深度学习的预测过程监控方法，例如长短期记忆或卷积神经网络，以解决下一个事件预测的问题。然而，由于训练数据不足或次优网络配置和架构，这些方法不能很好地概括手头的问题。本文提出了一种新的对抗训练框架来解决这一缺点，基于生成对抗网络（GANs）对顺序时态数据领域的适应。训练的工作原理是在两个玩家的游戏中让一个神经网络与另一个神经网络对抗（因此具有对抗性），这导致预测与地面事实无法区分。我们正式表明，所提出的方法的最坏情况下的准确性至少等于在非对抗性设置中实现的准确性。从实验评估中可以看出，尽管使用了简单的网络架构和朴素的特征编码，但该方法在预测的准确性和早期性方面系统地优于所有基线。此外，该方法更鲁棒，因为其准确性不受案例长度波动的影响。
2020-04-01 cs.LG stat.ML
