Reinforcement Learning based Cyberattack Model for Adaptive Traffic Signal Controller in Connected Transportation Systems
The University of Alabama(阿拉巴马大学)
在连接的运输系统中,自适应交通信号控制器(ATSC)利用通过无线连接从车辆接收的实时车辆轨迹数据(即,连接的车辆)来调节绿灯时间。然而,这种无线连接的ATSC增加了网络攻击面,并增加了它们对各种网络攻击模式的脆弱性,这些网络攻击模式可以被利用来引起道路网络中的严重拥堵。攻击者可能会获得经济利益,从而为特定道路造成这种拥堵。其中一种模式是“sybil”攻击,攻击者通过生成模仿实际联网车辆遵守道路交通规则的虚假基本安全消息(BSM),在网络中创建虚假车辆。攻击者的最终目标将是通过以使得信号定时和相位变化发生而不标记车辆数量的任何突然变化的速率生成假车辆或“sybil”车辆来阻断路线。由于车辆到达率和ATSC算法的高度非线性和不可预测性,很难找到一个最佳的速度sybil车辆,这将是从不同的方法注入一个交叉口。因此,有必要开发一个智能网络攻击模型来证明这种攻击的存在。在这项研究中,一个基于强化学习的网络攻击模型开发的等待时间为基础的ATSC。具体而言,RL代理被训练以学习sybil车辆注入的最佳速率,从而为一个或多个方法造成拥堵。我们的分析表明,RL代理可以学习创建智能攻击的最佳策略。
2022-10-31 cs.AI cs.CR cs.LG
AdapTools: Adaptive Tool-based Indirect Prompt Injection Attacks on Agentic LLMs
College of Computing(计算学院);Data Science, Nanyang Technological University, Singapore(数据科学,南洋理工大学,新加坡);School of Computer Science, Peking University, China(计算机科学学院,北京大学,中国)
AdapTools通过自适应工具和提示生成,提升间接提示注入攻击成功率2.13倍,同时降低系统效用1.78倍,有效应对现代AI代理的快速演变特性。
2026-02-24 cs.AI cs.CR
AdaDoS: Adaptive DoS Attack via Deep Adversarial Reinforcement Learning in SDN
Data61, CSIRO(Data61,CSIRO);National University of Singapore(国立新加坡大学);Alibaba Group(阿里巴巴集团)
本文提出AdaDoS,一种基于深度对抗强化学习的自适应DoS攻击模型,通过POMDP和互惠学习模块动态调整策略,以规避SDN中基于规则和机器学习的检测器。
2025-10-23 cs.AI cs.CR
The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections
OpenAI;Anthropic;Google DeepMind(谷歌DeepMind);HackAPrompt;Northeastern University(东北大学);ETH Zürich(苏黎世联邦理工学院);AI Sequrity Company(AI安全公司);MATS Main contributors(MATS主要贡献者)
本文指出当前语言模型防御评估存在缺陷,通过系统调整和扩展通用优化技术构建自适应攻击,成功绕过12种近期防御(成功率多超90%),证明未来防御工作必须考虑更强攻击才能可靠验证鲁棒性。
2025-10-10 cs.CR cs.LG
Adaptive Trust Consensus for Blockchain IoT: Comparing RL, DRL, and MARL Against Naive, Collusive, Adaptive, Byzantine, and Sleeper Attacks
Artificial Intelligence Northeastern University(人工智能东北大学);Information Technology Dwarkadas J. Sanghvi College of Engineering(信息技术达沃拉吉·桑格维工程学院)
本文通过比较RL、DRL和MARL在区块链物联网中对抗不同攻击的效果,发现MARL在对抗攻击中表现最佳,而所有智能体均能抵御Byzantine攻击,但时间延迟污染攻击对所有智能体均造成严重威胁。
2025-12-28 cs.CR cs.LG cs.MA
Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment
University of Waterloo(滑铁卢大学);Zhejiang University(浙江大学);KTH Royal Institute of Technology(皇家理工学院)
提出RETA方法,通过基于用户任务的多目标强化学习训练防御器,利用思维链推理验证行动一致性,并采用字典学习多样性奖励生成对抗样本,在六种自适应攻击下平均攻击成功率低于4%。
2026-06-16 cs.AI cs.CR
HoneyIoT: Adaptive High-Interaction Honeypot for IoT Devices Through Reinforcement Learning
The Pennsylvania State University(宾夕法尼亚州立大学)
针对物联网设备异构性导致高交互蜜罐易被检测的问题,提出HoneyIoT,利用强化学习与差分分析生成高保真响应,有效绕过预攻击检查并诱导攻击者上传恶意软件。
2023-05-10 cs.AI cs.CR
Adaptive Instruction Composition for Automated LLM Red-Teaming
Capital One, AI Foundations(Capital One人工智能基础研究)
本文提出自适应指令生成框架,通过强化学习平衡探索与利用,提升红队测试的攻击效果与多样性,优于随机组合和现有方法。
2026-04-22 cs.AI cs.CL cs.CR
RADAMS: Resilient and Adaptive Alert and Attention Management Strategy against Informational Denial-of-Service (IDoS) Attacks
New York University(纽约大学)
利用人类注意力脆弱性的攻击对网络安全构成了严重威胁。在这项工作中,我们确定并正式定义了一种新型的主动注意攻击,称为信息拒绝服务(IDoS)攻击,产生大量的佯攻超载人类操作员和隐藏真正的攻击之间的佯攻。我们将人为因素(例如,专业水平、压力和效率)和经验心理学结果(例如,Yerkes-Dodson定律和沉没成本谬误)来模拟操作员的注意力动态和他们的决策过程以及实时警报监视和检查。为了帮助人类操作员及时准确地消除假动作并升级真正的攻击,我们开发了一种弹性和自适应的数据驱动警报和注意力管理策略(RADAMS),该策略根据警报的抽象类别标签选择性地减轻警报。RADAMS使用强化学习为各种人类操作员和不断发展的IDoS攻击实现定制和可转移的设计。综合建模和理论分析导致注意力的产品原则(PPoA),基本限制,以及关键的人力和经济因素之间的权衡。实验结果证实,该策略优于默认策略,可以降低IDoS风险高达20%。此外,该策略对成本、攻击频率和人类注意力能力的大变化具有弹性。我们已经认识到有趣的现象,如注意力风险等效性,攻击者的困境,和半真半假的最佳攻击策略。
2022-07-21 cs.AI cs.CR cs.HC
When Critics Disagree: Adaptive Reward Poisoning Attacks in RIS-Aided Wireless Control System
Department of Computer and Software Engineering(计算机与软件工程系)
本文提出了一种基于分歧引导的奖励中毒攻击(DGRP),用于攻击Soft Actor-Critic(SAC)智能体,以评估RIS辅助网络中深度强化学习(DRL)的鲁棒性。
2026-05-19 cs.AI cs.LG
Active Attacks: Red-teaming LLMs via Adaptive Environments
KAIST(韩国科学技术院);Mila – Québec AI Institute(魁北克人工智能研究所);LawZero;Omelet;Université de Montréal(蒙特利尔大学)
该研究提出基于强化学习的红队测试算法Active Attacks,通过定期安全微调受害大语言模型迫使攻击者探索新漏洞,形成易到难的探索课程,以更低计算成本大幅提升了多样化攻击的成功率。
2025-10-04 cs.AI cs.LG
Adaptive Discounting of Implicit Language Models in RNN-Transducers
Indian Institute of Technology Bombay(印度理工学院孟买分校);IBM Research(IBM研究院)
RNN-Transducer(RNN-T)模型已经成为流媒体端到端ASR系统的同义词。虽然它们在许多评估类别上具有竞争力,但稀有词对RNN-T模型构成了严峻的挑战。对稀有词的性能下降的一个主要原因是RNN-Ts内部的语言模型(LM)可能变得过于自信,并导致与潜在语音在声学上不一致的幻觉预测。为了解决这个问题,我们提出了一种轻量级的自适应LM折扣技术AdaptLMD,它可以与任何RNN-T架构一起使用,而不需要任何外部资源或额外的参数。AdaptLMD使用双管齐下的方法:1)随机屏蔽预测网络输出,以鼓励RNN-T不要过度依赖其输出。2)基于最近预测的令牌的稀有性以及ILM和隐式声学模型(IAM)分数之间的差异,动态选择何时对隐式LM(ILM)进行折扣。将AdaptLMD与具有竞争力的RNN-T基线进行比较,我们在会话,代码混合的印地语-英语ASR任务中分别获得了总体WER和稀有词PER的4%和14%的相对降低。
2022-02-21 cs.CL cs.LG
An RL-Based Adaptive Detection Strategy to Secure Cyber-Physical Systems
Dept. of Computer Science and Engineering(计算机科学与工程系);Indian Institute of Technology(印度理工学院)
本文提出基于强化学习的自适应检测策略,通过学习攻击场景经验来优化检测器参数,以提高检测率并减少误报,同时保持控制性能。
2021-03-04 cs.CR cs.LG
Learning to Attack and Defend: Adaptive Red Teaming of Language Models via GRPO
Microsoft AI Red Team(微软AI红队);Microsoft Azure(微软Azure)
提出AdvGRPO框架,通过密集多通道奖励和分离优势归一化实现GRPO在攻击者-防御者联合优化中的稳定训练,产生高效可迁移攻击,防御者优于基线。
2026-10-09 cs.AI cs.CL cs.LG
Adversarial jamming attacks and defense strategies via adaptive deep reinforcement learning
Syracuse University(雪城大学)
随着深度强化学习(Deep Reinforcement Learning,DRL)在无线通信中应用的不断深入,基于DRL的无线通信策略对对抗性攻击的敏感性开始引起越来越多的关注。为了解决这种敏感性和减轻由此产生的安全问题,我们在本文中考虑受害者用户执行基于DRL的动态信道接入,和攻击者执行基于DRL的干扰攻击,以破坏受害者。因此,受害者和攻击者都是DRL代理,可以相互交互,重新训练他们的模型,并适应对手的策略。在这种情况下,我们首先开发了一个对抗性的干扰攻击策略,旨在最大限度地减少受害者的动态信道接入的决策的准确性。随后,我们设计的防御策略,对这样的攻击者,并提出了三种防御策略,即多样化的比例积分微分(PID)控制的防御,多样化的防御与模仿攻击者,防御通过正交的政策。我们设计这些策略,以最大限度地提高攻击受害者的准确性,并评估他们的表现。
2020-07-12 cs.LG eess.SP
Robust Deep Reinforcement Learning in Robotics via Adaptive Gradient-Masked Adversarial Attacks
The University of Hong Kong(香港大学);Fudan University(复旦大学);Xihua University(西华大学);Southwest Jiaotong University(西南交通大学);Tsinghua University(清华大学)
提出自适应梯度掩码强化(AGMR)攻击,通过动态识别关键状态维度并优化对抗策略,有效降低DRL智能体性能并增强其鲁棒性。
2025-03-26 cs.AI cs.LG cs.NI
CoER: Defending against Adaptive Indirect Prompt Injection via Adversarial Co-Evolution and Refinement
School of Software Engineering, South China University of Technology(华南理工大学软件学院)
针对工具增强语言代理的间接提示注入,提出基于验证器的协同进化强化学习框架CoRL,通过攻击者SFT、双边Co-PPO和防御者SFT三阶段训练,将攻击成功率降至0.0%并提升效用至76.3%。
2026-10-01 cs.LG
A Queueing-Theoretic Framework for Dynamic Attack Surfaces: Data-Integrated Risk Analysis and Adaptive Defense
Korea University(韩国大学);The Ohio State University(俄亥俄州立大学);University at Buffalo (SUNY)(布法罗大学(SUNY))
本文提出一个排队论框架来建模网络攻击面的动态变化,通过引入AI放大因子分析自动化对攻击和防御动态的影响,并开发基于强化学习的自适应防御策略以减少成功攻击和缓解长尾队列事件。
2026-04-16 cs.AI cs.CR cs.LG
RAT: Reinforcement-Learning-Driven and Adaptive Testing for Vulnerability Discovery in Web Application Firewalls
Shahrood University of Technology(沙赫鲁德工业大学)
针对现有WAF黑盒漏洞测试效率低的问题,提出结合强化学习与自适应搜索的RAT方法,通过攻击样本聚类高效发现绕过模式,在绕过载荷发现数量和首枚载荷发现效率上均显著优于现有最优方法。
2023-12-13 cs.AI cs.CR cs.IR
Adaptive patch foraging in deep reinforcement learning agents
University of Alberta(阿尔伯塔大学);DeepMind(深度思维);Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所(Amii))
该研究在生态斑块觅食任务中训练深度强化学习智能体,发现其能自适应觅食并在时间折扣下接近最优策略,且内部动态类似灵长类神经记录。
2023-04-21 cs.AI q-bio.NC
Efficiency and Equity are Both Essential: A Generalized Traffic Signal Controller with Deep Reinforcement Learning
University of Freiburg(弗莱堡大学);Toyota Research Institute(丰田研究所)
交通信号控制器在当今的交通系统中起着至关重要的作用。然而,他们中的大多数目前是不够灵活或适应性,以产生最佳的交通时间表。在本文中,我们提出了一种方法,学习政策的信号控制器使用深度强化学习,旨在优化交通流。我们的方法使用了一种新的配方的奖励功能,同时考虑效率和公平。此外,我们提出了一种通用的方法来找到所提出的公平因子的界限,我们引入了自适应贴现方法,极大地稳定了学习,并有助于保持绿灯持续时间的高度灵活性。模拟和真实世界的数据的实验评估表明,我们提出的算法实现了最先进的性能(以前举行的传统非学习方法)在广泛的交通情况。
2020-12-27 cs.LG eess.SP stat.ML
Adaptive Attacks Break Defenses Against Indirect Prompt Injection Attacks on LLM Agents
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Nirma University(尼尔玛大学)
本文评估了针对 LLM 智能体间接提示注入攻击的八种防御机制,发现自适应攻击能绕过所有防御并保持超 50% 成功率,揭示了现有防御的脆弱性,强调了引入自适应攻击评估的必要性。
2025-03-04 cs.CR cs.LG
Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols
MATS;EPFL(瑞士联邦理工学院);ELLIS Institute Tübingen & Max Planck Institute for Intelligent Systems(图宾根ELLIS研究所及图宾根马克斯·普朗克智能系统研究所);Tübingen AI Center(图宾根人工智能中心);University of Tübingen(图宾根大学)
本文提出针对AI控制协议中监控模型的自适应攻击方法,通过嵌入提示注入技术规避监控并完成恶意任务,揭示了当前控制协议的安全漏洞。
2026-03-02 cs.AI cs.CR cs.LG
Leveraging Optimization for Adaptive Attacks on Image Watermarks
University of Waterloo(滑铁卢大学)
本文将图像水印自适应攻击形式化为优化问题,利用可微替代密钥复制秘密水印密钥并优化攻击参数,在 Stable Diffusion 上以不到 1 GPU 小时攻破五种水印方法。
2024-01-20 cs.CR cs.LG
Robust Federated Learning with Attack-Adaptive Aggregation
The Hong Kong University of Science and Technology(香港科技大学)
联邦学习容易受到各种攻击,如模型中毒和后门攻击,即使使用一些现有的防御策略。为了应对这一挑战,我们提出了一种攻击自适应聚合策略,以抵御各种攻击的鲁棒联邦学习。所提出的方法是基于训练一个神经网络的注意力机制,学习联邦学习模型的脆弱性,从一组看似合理的攻击。据我们所知,我们的聚合策略是第一个可以以数据驱动的方式防御各种攻击的策略。在图像和文本数据集上的联邦学习任务中,我们的方法在防御模型中毒和后门攻击方面取得了有竞争力的性能。
2021-08-06 cs.CR cs.LG
On Adversarial Robustness of 3D Point Cloud Classification under Adaptive Attacks
University of Michigan(密歇根大学);University of California, Irvine(加利福尼亚大学尔湾分校)
3D点云在各种安全关键型应用中发挥着关键作用,例如自动驾驶,这需要底层的深层神经网络对对抗性扰动具有鲁棒性。虽然已经提出了一些对抗性点云分类的防御措施,但它们是否对自适应攻击具有真正的鲁棒性仍然是未知的。为此,我们进行了第一次安全分析的国家的最先进的防御和设计自适应评估。我们100%的自适应攻击成功率表明,目前的对策仍然很脆弱。由于对抗训练(AT)被认为是最强大的防御,我们提出了第一个深入的研究,显示AT在点云分类中的行为,并确定所需的对称函数(池化操作)对AT下3D模型的鲁棒性至关重要。通过我们的系统分析,我们发现默认使用的固定池(例如,MAX池化)通常会削弱AT在点云分类中的有效性。有趣的是,我们进一步发现,基于排序的参数池可以显着提高模型的鲁棒性。基于上述见解,我们提出了DeepSym,一种深度对称池化操作,在不牺牲标称精度的情况下,在AT下从架构上将鲁棒性提高到47.0%,在PointNet中分别比原始设计和强基线高出28.5%($\sim 2.6 \times$)和6.5%。
2021-04-06 cs.AI cs.CR cs.LG
CARE: Ensemble Adversarial Robustness Evaluation Against Adaptive Attackers for Security Applications
针对网络安全中集成防御能否抵御自适应攻击缺乏综合评估平台的问题,本文提出通用CARE平台以系统评估集成对抗攻击与防御。
2024-01-20 cs.CR cs.LG
On Adaptive Attacks to Adversarial Example Defenses
Stanford University(斯坦福大学);Google(谷歌);University of Tübingen(蒂宾根大学);MIT(麻省理工学院)
自适应攻击已经(理所当然地)成为评估对抗性示例防御的事实标准。然而,我们发现,典型的自适应评估是不完整的。我们证明了最近在ICLR,ICML和NeurIPS上发表的13种防御措施-并选择用于说明和教学目的-尽管试图使用自适应攻击进行评估,但仍然可以规避。虽然之前的评估论文主要集中在最终结果上-表明防御是无效的-但本文的重点是制定执行自适应攻击所需的方法和途径。我们希望这些分析能够指导如何正确地对对抗性示例进行自适应攻击,从而使社区能够在构建更强大的模型方面取得进一步的进展。
2020-10-23 cs.CR cs.LG stat.ML
Dashed Line Defense: Plug-And-Play Defense Against Adaptive Score-Based Query Attacks
Harbin Institute of Technology(哈尔滨工业大学)
本文提出Dashed Line Defense,一种即插即用的后处理方法,有效抵御自适应分数查询攻击,通过引入损失与对抗强度的模糊性,阻止攻击者适应策略,提升模型安全性。
2026-02-09 cs.CR cs.LG
Adaptive Domain Inference Attack with Concept Hierarchy
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文提出自适应领域推断攻击(ADI),利用概念层次结构和自适应算法,在仅访问未命名模型函数的条件下估计训练数据子集,显著提升模型反转攻击性能,且收敛最快、访问次数最少。
2025-01-27 cs.CR cs.LG
Learning to Invert: Simple Adaptive Attacks for Gradient Inversion in Federated Learning
Meta AI;Cornell University(康奈尔大学)
针对联邦学习中现有梯度压缩等防御被认为能有效抵御梯度反演攻击的结论,本文提出一种基于辅助数据训练模型的简单自适应攻击,可攻破视觉与语言任务下的现有防御,揭示被低估的隐私风险。
2023-06-09 cs.CR cs.LG
Deep Learning-Based Speech and Vision Synthesis to Improve Phishing Attack Detection through a Multi-layer Adaptive Framework
The University of Texas at El Paso(德克萨斯大学埃尔帕索分校)
针对复杂网络钓鱼攻击难以检测的问题,提出结合深度学习、Randon Forest 与 NLP 的多层自适应框架,通过图像读取和 deep-fake 视频语音合成提升检测性能。
2024-02-27 cs.AI cs.CR cs.CV
Constrained Adaptive Attack: Effective Adversarial Attack Against Deep Neural Networks for Tabular Data
University of Luxembourg(卢森堡大学);LIST / RIKEN AIP(LIST / 理化学研究所人工智能项目)
针对表格数据深度模型对抗鲁棒性评估的空白,本文提出自适应梯度攻击CAPGD及结合MOEVA的高效规避攻击CAA,在多数实验设置下显著降低模型准确率且速度快,建议将其作为表格机器学习防御的最低测试标准。
2024-06-02 cs.CR cs.LG
Adaptive Backdoor Attacks with Reasonable Constraints on Graph Neural Networks
Xidian University(西安电子科技大学);University of Kent(肯特大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Innopolis University(因诺波利斯大学)
本文提出首个具有合理约束的自适应后门攻击 ABARC,针对 GNN 图级和节点级任务动态选择触发器并施加相似性与特征约束,结合自适应边剪枝机制,在保持高攻击成功率的同时显著提升隐蔽性。
2025-03-12 cs.CR cs.LG
Meta Stackelberg Game: Robust Federated Learning against Adaptive and Mixed Poisoning Attacks
New York University(纽约大学);Tulane University(杜兰大学)
本文将混合攻击下的对抗联邦学习建模为贝叶斯斯塔克尔伯格马尔可夫博弈,提出结合预训练与在线自适应的元强化学习防御,并证明其收敛性与实验优势。
2024-10-22 cs.CR cs.GT cs.LG
Adaptive Adversarial Attack on Scene Text Recognition
University of Florida(佛罗里达大学);Tongdun Technology(同盾科技)
最近的研究表明,最先进的深度学习模型容易受到小扰动输入的影响(对抗性示例)。我们在对抗性示例中观察到两个关键障碍:(i)强对抗攻击(例如,C&W攻击)需要手动调整超参数,并需要很长的时间来构建一个对抗的例子,使其不切实际的攻击实时系统;(ii)大多数的研究集中在非顺序的任务,如图像分类,但只有少数考虑顺序的任务。在这项工作中,我们加快了对抗攻击,特别是在顺序学习任务中。通过利用每个任务的不确定性,我们直接学习自适应多任务权重,而无需手动搜索超参数。一个统一的架构开发和评估非顺序任务和顺序的。为了验证该方法的有效性,我们以场景文本识别任务为例进行了研究。据我们所知,我们提出的方法是第一次尝试对抗攻击的场景文本识别。与最先进的对抗攻击相比,自适应攻击的成功率超过99.9\%,加速比为3- 6倍。
2020-04-01 cs.CR cs.CV cs.LG
Sharpening the Spear: Adaptive Expert-Guided Adversarial Attack Against DRL-based Autonomous Driving Policies
针对DRL自动驾驶策略,提出自适应专家引导对抗攻击方法,利用模仿学习与混合专家架构提升攻击稳定性与效率,实验证明优于现有方法。
2025-06-23 cs.AI cs.LG
Reasoning as a Weapon: Adaptive Dual-Path Jailbreak Attack on Large Language Models
Zhejiang Gongshang University(浙江工商大学);Zhejiang University(浙江大学);Binjiang Institute of Zhejiang University(浙江大学滨江研究院)
针对大语言模型现有越狱攻击多依赖输入欺骗、忽视推理阶段有害意图生成的问题,提出推理引导双路径越狱框架ReDPJ,通过双模态对抗锚点自适应操纵推理重构有害意图,在多款前沿LLMs上实现82%以上的高攻击成功率。
2026-08-24 cs.AI cs.CL cs.CR
FTA: Stealthy and Adaptive Backdoor Attack with Flexible Triggers on Federated Learning
Delft University of Technology(代尔夫特理工大学)
针对联邦学习后门易被范数裁剪和参数差异检测的问题,提出FTA,利用可跨轮次自适应学习的生成式灵活触发器隐藏目标标签特征,在八种防御下验证了攻击的有效性与隐蔽性。
2023-09-28 cs.CR cs.LG
A Note on Implementation Errors in Recent Adaptive Attacks Against Multi-Resolution Self-Ensembles
Google DeepMind(谷歌DeepMind)
本文指出近期自适应攻击实现中的错误导致扰动超出界限20倍,修正后多分辨率自集成防御仍具鲁棒性,且正确有界攻击与人类感知一致,引发对抗鲁棒性度量反思。
2025-01-24 cs.CR cs.CV cs.LG
Improved Robustness Against Adaptive Attacks With Ensembles and Error-Correcting Output Codes
Institute Intelligence and Data (IID), Université Laval(拉瓦尔大学智能与数据研究所(IID));Mila(米拉研究所)
神经网络集成已经在对抗鲁棒性的背景下被广泛研究,并且大多数基于集成的方法仍然容易受到自适应攻击。在本文中,我们研究的鲁棒性的纠错输出码(ECOC)集成,通过结构的改进和集成多样性的促进。我们对自适应攻击进行了全面的鲁棒性评估,并研究了集成多样性和鲁棒性之间的关系。我们的研究结果表明,与卷积神经网络(CNN)的常规集成相比,ECOC集成对对抗鲁棒性的好处,并显示了为什么以前实现的鲁棒性是有限的。我们还提出了一种针对ECOC集成的对抗性训练方法,可以进一步提高对自适应攻击的鲁棒性。
2023-03-04 cs.LG
Defending Against Model Stealing Attacks with Adaptive Misinformation
Georgia Institute of Technology(佐治亚理工学院)
深度神经网络(DNN)容易受到模型窃取攻击的影响,这使得数据有限的对手在不了解训练数据集的情况下,仅通过使用黑盒查询访问来克隆目标模型的功能。这种攻击通常通过使用合成生成的或从代理数据集采样的输入来查询目标模型以构建标记数据集来执行。对手可以使用这个标记的数据集来训练克隆模型,从而实现与目标模型相当的分类精度。我们提出了“自适应错误信息”来抵御这种模型窃取攻击。我们发现,所有现有的模型窃取攻击总是查询目标模型与外的分布(OOD)的输入。通过选择性地发送OOD查询的错误预测,我们的防御大大降低了攻击者克隆模型的准确性(高达40%),同时对良性用户的准确性影响最小(<0.5%)。与现有的防御相比,我们的防御具有更好的安全性与准确性权衡,并产生最小的计算开销。
2019-11-16 cs.CR cs.LG stat.ML
Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents
LaunchSafe Research(LaunchSafe研究院)
本文组织带外防御(如CaMeL、Progent)为经典完整性保护与引用监视实例,并在AgentDojo上对Qwen2.5-7B代理进行自适应评估,结果显示Progent将攻击成功率从25.8%降至4.2%,手工自适应攻击未提升成功率。
2026-06-26 cs.AI cs.CL cs.CR
Adaptive Intrusion Detection for Evolving RPL IoT Attacks Using Incremental Learning
Istanbul Technical University, Faculty of Computer(伊斯坦布尔技术大学计算机学院);Memorial University(纪念大学)
本文研究了RPL网络中针对新兴攻击的增量学习方法,通过评估五种模型家族,证明增量学习能恢复新攻击检测性能并减少训练时间,提升物联网网络的鲁棒性。
2025-11-14 cs.CR cs.LG
An Adaptive Pruning Algorithm for Spoofing Localisation Based on Tropical Geometry
National Technical University of Athens(雅典国立技术大学)
随着数字系统变得越来越普遍,欺骗攻击的问题变得越来越重要。因此,这种攻击的检测和攻击者的本地化一直是最近的研究对象。在检测到攻击后,已经提出了各种算法来定位攻击者。在这项工作中,我们提出了一个新的自适应修剪算法的启发,传统的维特比修剪算法的热带和几何分析,以解决本地化问题。特别是,所提出的算法试图通过适应宽大参数的基础上估计的状态的解决方案空间来定位攻击者。这些估计源于封闭的体积和熵的解决方案空间,因为他们在我们以前的工作中介绍。
2018-11-01 cs.CR cs.LG stat.ML
Adaptive Model Inversion Attacks Generalize a Privacy-Robustness Tradeoff
Dartmouth College(达特茅斯学院)
本文通过自适应攻击调整揭示标准模型反演攻击评估低估隐私泄露,并发现重建泄露与对抗鲁棒性紧密相关,提出鲁棒性可作为重建脆弱性的广泛代理。
2026-10-07 cs.CR cs.LG
Adaptive Attractors: A Defense Strategy against ML Adversarial Collusion Attacks
National University of Singapore(新加坡国立大学)
针对多买方合谋导致固定吸引子防御失效的问题,本文提出由U形曲线调节权重的自适应吸引子,使合谋攻击成功率收敛至约15%。
2023-06-02 cs.CR cs.LG
TraceGuard: Adaptive Multimodal Poison Filtering through Cross-Feature Rank Agreement
The Hong Kong Polytechnic University(香港理工大学);Commonwealth Scientific and Industrial Research Organisation (CSIRO)(联邦科学与工业研究组织(CSIRO))
TraceGuard提出基于跨特征排名一致性的自适应过滤方法,利用六个语料级特征识别投毒样本,在19种攻击配置下平均移除98.4%投毒示例,残余攻击指标低至1%。
2026-09-25 cs.CR cs.LG
Towards Adversarially Robust Recommendation from Adaptive Fraudster Detection
The Hong Kong Polytechnic University(香港理工大学)
针对推荐系统在节点注入攻击下的鲁棒性问题,提出明确考虑标签不确定性的自适应欺诈者检测模块,构建鲁棒框架PDR,有效抵御投毒攻击MetaC并提升对抗鲁棒性。
2023-05-20 cs.AI cs.CR cs.IR
Zero-shot learning approach to adaptive Cybersecurity using Explainable AI
Persistent Systems, Ltd.(Persistent Systems有限公司)
网络安全是一个攻击模式不断变化的领域,我们需要方法来使我们的网络安全系统更适应于处理新的攻击并进行分类以采取适当的行动。我们提出了一种新的方法来处理网络安全系统,如安全信息和事件管理(SIEM)和入侵检测(IDS)所面临的警报泛滥问题。我们将零样本学习方法应用于机器学习(ML),通过利用对ML模型生成的异常预测的解释。这种方法具有巨大的潜力,可以自动检测SIEM中生成的警报标签,并将它们与特定的攻击类型相关联。在这种方法中,在没有任何关于攻击的先验知识的情况下,我们尝试识别它,破译有助于分类的特征,并尝试使用可解释的AI将攻击分解为特定类别。分析为我们提供了可衡量的因素,以确定哪些特征会影响网络攻击的预测以及影响程度。这些基于博弈论生成的解释用于根据其对特定预测的影响将信用分配给特定特征。使用这种分配的信用,我们提出了一种新的zero-shot方法来分类新的攻击到特定的新类的基础上的功能的影响。由此产生的系统将能够很好地将攻击流量与正常流量分开,并根据导致攻击的特征自动生成攻击标签。这些自动生成的标签可以呈现给SIEM分析师,并且足够直观,可以确定攻击的性质。我们将这种方法应用于网络流数据集,并展示了特定攻击类型的结果,如IP扫描,拒绝服务,远程到本地等。
2021-06-21 cs.CR cs.LG
Geometrically Adaptive Dictionary Attack on Face Recognition
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
基于CNN的人脸识别模型带来了显着的性能改善,但它们容易受到对抗性扰动的影响。最近的研究表明,即使对手只能访问模型的硬标签输出,他们也可以欺骗模型。然而,由于需要许多查询来发现不可感知的对抗性噪声,因此减少查询的数量对于这些攻击至关重要。在本文中,我们指出了现有的基于决策的黑盒攻击的两个局限性。我们观察到它们浪费了背景噪声优化的查询,并且它们没有利用为其他图像生成的对抗性扰动。我们利用三维人脸对齐来克服这些限制,并提出了一个通用的策略,查询效率的黑盒攻击的人脸识别命名为几何自适应字典式攻击(GADA)。我们的核心思想是在UV纹理贴图中创建一个对抗性扰动,并将其投影到图像中的人脸上。该算法通过将扰动搜索空间限制在人脸区域内,并有效地回收以前的扰动,极大地提高了查询效率。我们将GADA策略应用于两种现有的攻击方法,并在LFW和CPLFW数据集上的实验中显示出压倒性的性能改善。此外,我们还提出了一种新的攻击策略,可以规避查询相似性为基础的状态检测,确定基于查询的黑盒攻击的过程。
2021-11-08 cs.CR cs.CV cs.LG
An Innovative Attack Modelling and Attack Detection Approach for a Waiting Time-based Adaptive Traffic Signal Controller
The University of Alabama(阿拉巴马大学)
自适应交通信号控制器(ATSC)结合联网车辆(CV)概念,使用实时车辆轨迹数据来调节绿灯时间,并能够显著减少交叉口等待时间,从而改善信号走廊中的行驶时间。然而,基于CV的ATSC增加了易受潜在网络攻击的表面的大小,允许攻击者在道路网络中产生灾难性的交通拥堵。攻击者可以通过以缓慢的速度维持交通和车辆跟随规则来生成假车辆,从而使信号定时和相位变化而不会使车辆数量发生任何突然变化,从而堵塞路线。由于ATSC的自适应性,这是一个挑战,建模这种攻击,也制定了检测策略。针对基于等待时间的ATSC算法提出了一种新型的“慢中毒”网络攻击方法,并给出了相应的检测策略。因此,本文的目标是:(i)为ATSC开发“慢中毒”攻击生成策略,以及(ii)使用递归神经网络开发基于预测的“慢中毒”攻击检测策略--即,长短期记忆模型。我们已经产生了一个“慢中毒”的攻击建模策略,使用微观交通模拟器-模拟城市流动性(SUMO)-并使用模拟生成的数据来开发攻击模型和检测模型。我们的分析表明,攻击策略是有效的,在一个方法和检测策略是能够标记的攻击。
2021-08-19 cs.LG
Data Poisoning Attacks on Stochastic Bandits
The Ohio State University(俄亥俄州立大学)
随机多臂强盗形成了一类在线学习问题,在在线推荐系统、自适应医疗等许多方面有重要应用。尽管对这些学习算法的潜在攻击可能会劫持它们的行为,在现实世界的应用中造成灾难性的损失,但对强盗算法的对抗攻击知之甚少。本文提出了一个基于凸优化的离线攻击的框架,研究了基于凸优化的离线攻击对几种流行的Bandit算法的攻击。我们表明,攻击者可以迫使强盗算法拉目标手臂的概率很高,通过轻微的操纵数据中的奖励。然后研究了一种对bandit算法的在线攻击形式,提出了一种在不知道bandit算法的情况下对任意bandit算法的自适应攻击策略。我们的自适应攻击策略可以劫持的行为的强盗算法遭受线性遗憾只有对数成本的攻击。我们的研究结果表明,一个显着的安全威胁随机土匪。
2019-05-16 cs.CR cs.LG stat.ML
Minimally distorted Adversarial Examples with a Fast Adaptive Boundary Attack
University of Tübingen(图宾根大学)
对基于神经网络的分类器的对抗性操纵的鲁棒性的评估主要用经验攻击来测试,因为用于精确计算的方法,即使可用,也不能扩展到大型网络。针对$p \in \{1,2,\infty\}$提出了一种新的基于$l_p$ -范数的白盒对抗攻击,目的是寻找改变给定输入的类所需的最小扰动.它具有直观的几何意义,快速产生高质量的结果,最大限度地减少扰动的大小(因此,它在每个阈值处都可以通过单次运行返回鲁棒精度)。它表现得更好或类似于部分专用于一个$l_p$ -范数的最先进的攻击,并且对梯度掩蔽现象具有鲁棒性。
2020-07-20 cs.CR cs.CV cs.LG