Exposing Vulnerabilities in RL: A Novel Stealthy Backdoor Attack through Reward Poisoning
本文提出通过奖励污染对强化学习代理进行隐秘后门攻击，展示了在不同环境中攻击的有效性和隐蔽性。
2025-11-27 cs.CR
Unveiling Vulnerabilities of Contrastive Recommender Systems to Poisoning Attacks
Chongqing University（重庆大学）；The University of Queensland（昆士兰大学）；Peking University（北京大学）
本文揭示对比推荐系统因InfoNCE损失导致的表示均匀分布而易受投毒攻击，提出双目标攻击框架（分散促进与排名提升），并在四个数据集上验证其威胁，旨在推动更鲁棒的CL推荐系统发展。
2024-05-25 cs.CR cs.IR cs.LG
Decoding Deception: Understanding Automatic Speech Recognition Vulnerabilities in Evasion and Poisoning Attacks
本文研究了自动语音识别系统在逃避和污染攻击中的漏洞，提出了一种成本高效白盒攻击和不可转移黑盒攻击方法，揭示了对抗性示例对语音识别系统的影响。
2025-11-20 cs.AI cs.CR cs.SD
From Untrusted Input to Trusted Memory: A Systematic Study of Memory Poisoning Attacks in LLM Agents
University of California, Berkeley（加州大学伯克利分校）
本文系统研究了基于LLM的智能体中的内存投毒攻击，识别了四种内存写入通道和九种结构漏洞，提出了六类攻击的分类法，并设计了评估基准MPBench，发现更积极读写内存的智能体更易被利用，且现有提示注入防御无法覆盖内存投毒攻击。
2026-06-23 cs.AI cs.CR
Dataset Security for Machine Learning: Data Poisoning, Backdoor Attacks, and Defenses
University of Maryland（马里兰大学）；Massachussetts Institute of Technology（麻省理工学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）
随着机器学习系统规模的增长，其训练数据需求也在增长，迫使从业者自动化和外包训练数据的管理，以实现最先进的性能。在数据汇集过程中缺乏可靠的人工监督会使组织暴露于安全漏洞;训练数据可以被操纵以控制和降低学习模型的下游行为。这项工作的目标是系统地分类和讨论广泛的数据集漏洞和利用，防御这些威胁的方法，以及该领域的一系列开放问题。除了描述各种中毒和后门威胁模型以及它们之间的关系之外，我们还开发了它们的统一分类法。
2021-03-31 cs.AI cs.CR cs.CV
Federated Learning Under Attack: Exposing Vulnerabilities through Data Poisoning Attacks in Computer Networks
Ravensbourne University London (RUL)（伦敦 Ravensbourne 大学）；Bahcesehir University (BAU)（巴赫切谢希尔大学）；University of Portsmouth（朴茨茅斯大学）；University of Padua（帕多瓦大学）；Delft University of Technology（代尔夫特理工大学）
本研究针对计算机网络领域联邦学习易受数据投毒攻击的问题，以新颖方式实施标签翻转和特征投毒攻击，在CIC、UNSW数据集上实验发现特征投毒攻击隐蔽性强、欺骗效果显著，暴露了联邦学习的相关脆弱性。
2024-03-05 cs.AI cs.CR cs.CY
BadJudge: Backdoor Vulnerabilities of LLM-as-a-Judge
University of California, Davis（加利福尼亚大学戴维斯分校）；University of Southern California（南加利福尼亚大学）
本文揭示了LLM-as-a-Judge评估机制的后门漏洞，攻击者通过控制候选与评估模型实现分数虚高，并提出利用模型合并作为低成本的防御方案以保持性能并降低攻击成功率。
2025-03-01 cs.AI cs.CL cs.CR
Rethinking Backdoor Data Poisoning Attacks in the Context of Semi-Supervised Learning
Embedded Intelligence（嵌入式智能公司）
半监督学习方法可以用传统监督学习所需的标记训练样本的一小部分来训练高精度的机器学习模型。此类方法通常不涉及对未标记的训练样本的仔细审查，这使它们成为数据投毒攻击的诱人目标。本文研究了半监督学习方法对未标记样本的后门数据投毒攻击的脆弱性。我们表明，影响中毒样本预测标签分布的简单中毒攻击非常有效-平均攻击成功率高达96.9%。我们引入了一个广义的攻击框架，针对半监督学习方法，以更好地理解和利用其局限性，并激励未来的防御策略。
2022-12-05 cs.CR cs.LG
Exposing Citation Vulnerabilities in Generative Engines
QueryLift Inc.（QueryLift公司）；Keio University（庆应义塾大学）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
本文研究生成引擎中引用来源的投毒风险，通过分析引用来源的出版属性评估内容注入障碍，发现美国政治答案比日本更易受投毒攻击。
2026-03-02 cs.CL cs.CR cs.IR
Data Poisoning Vulnerabilities Across Healthcare AI Architectures: A Security Threat Analysis
Karolinska Institutet（卡罗林斯卡学院）；KTH Royal Institute of Technology（KTH皇家理工学院）；Karolinska University Hospital（卡罗林斯卡大学医院）；University of Borås（布罗斯大学）；Universidad Politécnica de Madrid（马德里理工大学）
医疗AI面临数据中毒威胁，需多层防御措施和可解释系统以提高安全性。
2025-11-14 cs.AI cs.CR
Fake Resume Attacks: Data Poisoning on Online Job Platforms
本文首次揭示在线求职平台匹配任务易受数据投毒攻击，提出虚假简历生成框架 FRANCIS，通过三种攻击场景扭曲求职者与公司的匹配结果，并实证验证其有效性。
2024-02-21 cs.CR
Universal Vulnerabilities in Large Language Models: Backdoor Attacks for In-context Learning
Nanyang Technological University（南洋理工大学）；Beijing Institute of Technology（北京理工大学）；Guangzhou University（广州大学）
本研究针对大语言模型上下文学习的安全漏洞，提出无需微调、通过投毒示范上下文的ICLAttack后门攻击方法，在多规模模型上实现了高攻击成功率且隐蔽性强。
2024-10-09 cs.AI cs.CL cs.CR
MISA: Unveiling the Vulnerabilities in Split Federated Learning
Huazhong University of Science and Technology（华中科技大学）；Griffith University（格里菲斯大学）；National Engineering Research Center for Big Data Technology and System（国家大数据技术与系统工程技术研究中心）；Services Computing Technology and System Lab（服务计算技术与系统实验室）；Hubei Key Laboratory of Distributed System Security（湖北省分布式系统安全重点实验室）；Hubei Engineering Research Center on Big Data Security（湖北省大数据安全工程技术研究中心）；Cluster and Grid Computing Lab（集群与网格计算实验室）
针对拆分联邦学习（SFL）被认为抗投毒鲁棒性强的认知，提出新型投毒攻击MISA，通过同时投毒上下层模型致全局模型错位、准确率骤降，揭示SFL的安全脆弱性。
2023-12-19 cs.CR cs.DC cs.LG
Bi-Level Poisoning Attack Model and Countermeasure for Appliance Consumption Data of Smart Homes
Jashore University of Science and Technology（杰索尔科技大学）；Deakin University（迪肯大学）；RMIT University（皇家墨尔本理工大学）
准确的建筑物能量预测在从建筑物能量自动化和管理到最佳存储控制的各种应用中是有用的。然而，在设计建筑物能源预测模型时应考虑漏洞，因为智能攻击者可以使用复杂的攻击模型故意影响模型性能。这些可能因此降低预测准确性，这可能影响建筑物能量管理系统的效率和性能。在本文中，我们调查的影响，从家用电器的能量使用的回归模型的双级中毒攻击。此外，针对预测模型的中毒攻击，本文提出了一种有效的对策。在基准数据集上评估攻击和防御。实验结果表明，智能网络攻击者可以毒化预测模型来操纵决策。然而，我们提出的解决方案成功地确保了防御这种中毒攻击有效地与其他基准技术相比。
2021-07-01 cs.CR cs.LG
From Vulnerabilities to Remediation: A Systematic Literature Review of LLMs in Code Security
Department of Computer Science, Örebro University（奥雷布罗大学计算机科学系）
本文系统综述了LLMs在代码安全中的应用，探讨其引入漏洞类型、漏洞检测与修复能力及提示策略影响，以及数据中毒攻击对其性能的影响。
2026-03-17 cs.AI cs.CL cs.CR
Instructions as Backdoors: Backdoor Vulnerabilities of Instruction Tuning for Large Language Models
Harvard（哈佛大学）；UCLA（加利福尼亚大学洛杉矶分校）；USC（南加利福尼亚大学）；University of Wisconsin, Madison（威斯康星大学麦迪逊分校）；UC, Davis（加利福尼亚大学戴维斯分校）
本文揭示LLM指令微调的后门风险，证明仅约1000个恶意指令即可实现逾90%攻击成功率，并评估投毒迁移、指令迁移与持续微调抵抗性。
2024-04-03 cs.AI cs.CL cs.CR
Hiding Backdoors within Event Sequence Data via Poisoning Attacks
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）；Innotech（因诺泰克公司）；BIMSA（北京雁栖湖应用数学研究院）
本文提出了一种在金融事件序列数据中引入隐藏后门的投毒攻击方法，通过替换为感知后门的投毒模型或修改模型权重，在不改变未受污染数据功能的前提下制造漏洞，并在三个数据集和 LSTM、CNN、Transformer 架构上验证了攻击有效性。
2024-08-25 cs.CR cs.LG
Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain
ServiceNow Research；Mila - Qu\'ebec AI Institute
研究探讨了在交互数据上微调AI代理时引入的安全漏洞，提出三种供应链威胁模型，证明通过污染少量演示即可使代理泄露用户信息。
2026-08-05 cs.AI cs.CR cs.LG
Exploring Vulnerabilities and Protections in Large Language Models: A Survey
Zscaler, Inc.（奇安信公司）
本综述系统考察了大型语言模型在提示词攻击和对抗性攻击两大领域的安全漏洞，探讨了各类威胁的原理与影响，并提出了相应的防御策略与稳健框架，为构建能抵御复杂攻击的弹性AI系统提供了重要参考。
2024-06-01 cs.CL cs.CR cs.LG
PoisonCatcher: Revealing and Identifying LDP Poisoning Attacks in IIoT
针对资源受限 IIoT 边缘难以防御 LDP 投毒的问题，本文揭示攻击模式与影响，并提出聚合端 PoisonCatcher，利用时间序列检测和潜在偏差特征识别投毒数据，F2 分数超过 90.7%。
2025-05-13 cs.CR
Multi-Faceted Studies on Data Poisoning can Advance LLM Development
Michigan State University（密歇根州立大学）；University of Arizona（亚利桑那大学）；University of Georgia（佐治亚大学）
本文提出应超越将数据投毒仅视为安全威胁的视角，从威胁评估、可信性增强和机制理解三方面利用投毒研究推动更安全、鲁棒且可解释的 LLM 发展。
2025-02-20 cs.CR cs.LG
Are My Optimized Prompts Compromised? Exploring Vulnerabilities of LLM-based Optimizers
Tsinghua University（清华大学）；Microsoft（微软）
研究发现基于 LLM 的提示优化存在重大安全漏洞，提出假奖励攻击及轻量级防御措施，揭示优化流程为重要攻击目标。
2026-01-13 cs.AI cs.CL cs.CR
Weight Poisoning Attacks on Pre-trained Models
Carnegie Mellon University（卡内基梅隆大学）
最近，NLP使用大型预训练模型的情况激增。用户下载在大型数据集上预先训练的模型的权重，然后在他们选择的任务上微调权重。这就提出了一个问题，即下载不受信任的预训练权重是否会构成安全威胁。在本文中，我们证明了可以构建“权重中毒”攻击，其中预先训练的权重被注入漏洞，这些漏洞在微调后暴露“后门”，使攻击者能够简单地通过注入任意关键字来操纵模型预测。我们表明，通过应用正则化方法（我们称之为RIPPLe）和初始化过程（我们称之为嵌入手术），即使对数据集和微调过程的了解有限，这种攻击也是可能的。我们在情感分类、毒性检测和垃圾邮件检测上的实验表明，这种攻击具有广泛的适用性，并构成严重的威胁。最后，我们概述了针对此类攻击的实际防御措施。复制我们实验的代码可在https://github.com/neulab/RIPPLe上获得。
2020-04-14 cs.CL cs.CR cs.LG
Poisoning Attacks on Algorithmic Fairness
Universitat Pomepu Fabra（庞培法布拉大学）；Università degli Studi di Cagliari（卡利亚里大学）
对抗性机器学习的研究已经表明，即使将一小部分中毒点注入训练数据，机器学习模型的性能也会受到严重影响。虽然这种中毒攻击对模型准确性的影响已被广泛研究，但其对其他模型性能指标的潜在影响仍有待评估。在这项工作中，我们引入了一个优化框架中毒攻击对算法公平性，并开发了一个基于梯度的中毒攻击，旨在引入不同群体之间的分类差异的数据。我们的经验表明，我们的攻击是有效的，不仅在白盒设置，其中攻击者可以完全访问目标模型，但也在一个更具挑战性的黑盒情况下，其中的攻击是针对替代模型进行优化，然后转移到目标模型。我们相信，我们的研究结果为定义一组全新的针对不同场景中算法公平性的对抗攻击铺平了道路，并且调查此类漏洞将有助于在未来设计更强大的算法和对策。
2020-06-26 cs.CR cs.CY cs.LG
Poisoning the Unlabeled Dataset of Semi-Supervised Learning
Google（谷歌公司）
半监督机器学习模型从一组（小）标记的训练样本和一组（大）未标记的训练样本中学习。最先进的模型可以达到完全监督训练的几个百分点，同时需要的标记数据减少100倍。我们研究了一类新的漏洞：修改未标记数据集的中毒攻击。为了有用，未标记的数据集比标记的数据集得到的审查要少得多，因此对手可以很容易地毒害它们。通过插入恶意制作的未标记的示例，其总数仅为数据集大小的0.1%，我们可以操纵在此中毒数据集上训练的模型，以便在测试时对任意示例进行错误分类（作为任何所需的标签）。我们的攻击在数据集和半监督学习方法中非常有效。我们发现，更准确的方法（因此更有可能被使用）更容易受到中毒攻击，因此更好的训练方法不太可能防止这种攻击。为了解决这个问题，我们探索了防御空间，并提出了两种方法来减轻我们的攻击。
2021-08-10 cs.CR cs.CV cs.LG
Backdoor Vulnerabilities in Normally Trained Deep Learning Models
Purdue University（普渡大学）；Rutgers University（罗格斯大学）
我们对正常训练的深度学习模型中的后门漏洞进行了系统的研究。它们与数据投毒注入的后门一样危险，因为两者都可以被同样利用。我们利用文献中20种不同类型的注入式后门攻击作为指导，并在正常训练的模型中研究它们的对应关系，我们称之为自然后门漏洞。我们发现自然后门广泛存在，大多数注入的后门攻击具有自然对应关系。我们对这些自然后门进行了分类，并提出了一个通用的检测框架。它在从互联网下载的56个正常训练的模型中发现了315个自然后门，涵盖了所有不同的类别，而现有的为注入后门设计的扫描器最多只能检测到65个后门。我们还研究了自然后门的根本原因和防御。
2022-11-29 cs.CR cs.LG
Poisoning Attacks and Defenses in Recommender Systems: A Survey
本综述从攻击者视角系统梳理了推荐系统中的投毒攻击流程（含设定目标、评估能力、分析架构与实施策略），并将防御策略分为数据过滤与鲁棒训练，指出了现有局限与未来方向。
2024-06-05 cs.CR cs.IR
Rethinking the Vulnerabilities of Face Recognition Systems:From a Practical Perspective
本文从实践视角重新审视人脸识别系统脆弱性，提出注册阶段面部身份后门攻击 FIBA，通过投毒特征数据库使特定触发器成为通用绕过钥匙，突破了传统攻击在资源、特权和泛化性上的限制。
2024-06-08 cs.CR
An Investigation of Large Language Models and Their Vulnerabilities in Spam Detection
本文研究基于GPT2和BERT微调的LLM垃圾信息检测系统，通过在Enron、LingSpam和SMSspamCollection数据集上的实验，揭示其在对抗性攻击和数据投毒攻击下的脆弱性，为信息安全应用提供参考。
2025-04-14 cs.CR
A Targeted Attack on Black-Box Neural Machine Translation with Parallel Data Poisoning
University of Melbourne（墨尔本大学）；Facebook AI（脸书人工智能研究院）
随着现代神经机器翻译（NMT）系统的广泛部署，其安全漏洞需要密切关注。最近，NMT系统被发现容易受到有针对性的攻击，导致它们产生特定的，未经请求的，甚至有害的翻译。这些攻击通常在白盒环境中被利用，在白盒环境中，针对已知的目标系统发现导致目标翻译的对抗性输入。然而，当目标系统是黑箱并且对手不知道时，这种方法不太可行（例如，商业系统）。在本文中，我们表明，有针对性的攻击黑盒NMT系统是可行的，中毒的一小部分并行训练数据的基础上。我们表明，这种攻击实际上可以实现通过有针对性的腐败网络文件爬取，形成系统的训练数据。然后，我们分析了两种常见的NMT训练场景中的目标中毒的有效性：从头开始训练和预训练和微调范式。我们的结果令人震惊：即使在用大量并行数据（数千万）训练的最先进的系统上，攻击在令人惊讶的低毒化预算（例如，0.006%）。最后，我们讨论了潜在的防御措施，以应对此类攻击。
2021-02-15 cs.CL cs.CR
VertexSerum: Poisoning Graph Neural Networks for Link Inference
Northeastern University（东北大学）
针对GNNs中图链接的隐私泄露问题，提出图投毒攻击VertexSerum，通过放大连通性泄露并嵌入注意力机制提升链接推断准确度，在多数据集和GNN结构上AUC平均提升9.8%，且适用于黑盒与在线学习场景。
2023-08-02 cs.AI cs.CR cs.LG
RAG Safety: Exploring Knowledge Poisoning Attacks to Retrieval-Augmented Generation
School of Computer Science and Technology,Xi'an Jiaotong University（西安交通大学计算机科学与技术学院）；Department of Computer Science, The University of Manchester（曼彻斯特大学计算机科学系）；School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院）；National University of Singapore（新加坡国立大学）
本文首次系统研究了基于知识图谱的检索增强生成（KG-RAG）的安全风险，提出了一种隐蔽的知识中毒攻击策略，通过在知识图谱中插入扰动三元组完成误导推理链，实验证明该攻击能以极小扰动有效降低系统性能。
2025-07-09 cs.CL cs.CR
Poisoning Attacks and Defenses on Artificial Intelligence: A Survey
Khalifa University of Science and Technology（哈利法科学技术大学）；Macao Polytechnic Institute（澳门理工学院）
机器学习模型已经在多个领域被广泛采用。然而，最近的研究表明，攻击存在几个漏洞，可能危及模型的完整性，这为网络安全提供了一个新的研究机会。本次调查的主要目的是突出与机器学习（ML）分类器背景下的安全漏洞相关的最相关信息;更具体地涉及针对数据投毒攻击的训练过程，所述数据中毒攻击表示包括在训练阶段期间篡改馈送到模型的数据样本的攻击类型，导致在推断阶段期间模型准确性的降低。这项工作汇编了最新的现有文献中关于这类攻击的最相关的见解和发现。此外，本文还介绍了几种防御技术，这些技术承诺可行的检测和缓解机制，能够为目标模型提供一定程度的鲁棒性以对抗攻击者。对所审查的作品进行了全面的评估，比较了数据投毒对现实世界条件下各种ML模型的影响，进行了定量和定性分析。本文分析了每种方法的主要特征，包括性能成功指标，所需的超参数和部署复杂性。此外，本文强调了攻击者和防御者所考虑的基本假设和限制，以及它们的内在属性，如：可用性，可靠性，隐私性，问责制，可解释性等。最后，本文总结了一些主要的现有研究趋势，为网络安全领域未来的研究方向提供了途径。
2022-02-22 cs.AI cs.CR
Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems
Sungkyunkwan University（成均馆大学）；University College London（伦敦大学学院）；University of Edinburgh（爱丁堡大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；BlackRock, Inc.（贝莱德集团）；Google（谷歌公司）；University of Florida（佛罗里达大学）；LinqAlpha；UNIST（蔚山国家科学技术研究院）
该研究针对多智能体交易系统，将敌手限制为仅可访问源数据与提示，分解交易角色并评估通信拓扑，发现无架构具内在鲁棒性，为安全交易系统设计提供见解。
2026-10-30 cs.AI cs.CE cs.CR
Partner in Crime: Boosting Targeted Poisoning Attacks against Federated Learning
Virginia Tech（弗吉尼亚理工大学）；Kryptowire Labs（Kryptowire实验室）
本研究提出增强联邦学习定向投毒攻击的BoTPA方法，通过预训练阶段构建放大器集并篡改标签强化攻击，在多种防御机制下均显著提升攻击成功率。
2025-03-21 cs.CR cs.LG
Characterizing Improper Input Validation Vulnerabilities of Mobile Crowdsourcing Services
移动众包服务（MCS）能够实现快速、经济的大规模数据采集，并在各种领域中找到应用。先前的研究表明，Foursquare和Waze（一种基于位置的导航MCS）容易受到不同类型的数据投毒攻击。这种攻击可能令人不安，甚至是危险的，特别是当它们被用来注入不正确的输入来误导用户时。然而，迄今为止，还没有对不当输入验证（IIV）漏洞的程度及其在跨域MCS中利用的可行性进行全面研究。在这项工作中，我们利用MCS通过移动应用程序与参与者进行交互的事实，设计了一个端到端反馈驱动的分析框架中体现的工具和新方法，我们使用该框架来研究五个不同领域中的10个流行的和以前未开发的服务。使用我们的框架，我们发送了数万个API请求，并自动生成输入值来表征其IIV攻击面。令人震惊的是，我们发现其中大多数（8/10）都存在严重的IIV漏洞，这些漏洞允许对手大规模发动数据投毒攻击：7400个伪造的API请求成功伪造了抢劫，枪击和其他危险事件的在线帖子，伪造了具有超自然速度和距离的健身活动。最后，我们讨论了易于实施和部署的缓解策略，可以大大减少IIV攻击面，并主张将其作为一种必要的补充措施，致力于可信的移动众包服务。
2021-10-19 cs.CR
ADMIT: Few-shot Knowledge Poisoning Attacks on RAG-based Fact Checking
Deakin University（德金大学）；Fudan University（复旦大学）；City University of Hong Kong（香港城市大学）
ADMIT提出一种无需访问目标模型的少样本攻击方法，通过注入真实证据来翻转事实核查决策，实验显示其在多种系统中成功率达86%，揭示了RAG事实核查系统的重大漏洞。
2026-05-15 cs.AI cs.CL cs.CR
Defending Against Weight-Poisoning Backdoor Attacks for Parameter-Efficient Fine-Tuning
Nanyang Technological University（南洋理工大学）；Hong Kong University of Science and Technology（香港科技大学）；Jinan University（暨南大学）；Sony Research（索尼研究院）；Zhejiang University（浙江大学）；Beijing Institute of Technology（北京理工大学）
本文揭示了参数高效微调（PEFT）更易遭受权重投毒后门攻击，并提出基于置信度的投毒样本识别模块PSIM，在文本分类任务上实现了接近100%的攻击成功率验证及具有竞争力的防御效果。
2024-03-29 cs.AI cs.CL cs.CR
Benchmarking Poisoning Attacks against Retrieval-Augmented Generation
Nankai University（南开大学）；University of Louisville（路易斯安那大学）；University of North Texas（北卡罗来纳州立大学）
该研究提出首个针对检索增强生成（RAG）投毒攻击的综合性基准框架，涵盖5个标准QA数据集及10个扩展变体、13种攻击方法和7种防御机制，发现现有攻击在扩展数据集上效果显著下降，且多种先进RAG架构仍易受攻击，现有防御缺乏稳健性。
2025-05-24 cs.CR cs.IR cs.LG
Backdoor Attacks on Speech Emotion Recognition via TTS-Generated Poisoning
首次系统研究基于投毒的后门攻击对语音情感识别的影响，利用TTS生成音频嵌入隐蔽低能量声学触发器，实现高成功率攻击并揭示自监督表示的脆弱性。
2026-09-03 cs.AI cs.CR cs.SD
Poisoning Attacks to Local Differential Privacy Protocols for Trajectory Data
National Taiwan University（台湾大学）；National Yang Ming Chiao Tung University（国立阳明交通大学）；Chang Gung University（长庚大学）
本文首次分析代表性LDP轨迹协议的投毒攻击漏洞，提出基于前缀-后缀方法的启发式算法TraP以优化虚假轨迹选择，实验证明少量虚假用户即可显著提升目标模式出现频率。
2025-03-06 cs.CR cs.LG
Poisoning the Pixels: Revisiting Backdoor Attacks on Semantic Segmentation
University of Technology Sydney（悉尼科技大学）；Griffith University（格里菲斯大学）；City University of Macau（澳门城市大学）；Data61, CSIRO, Australia（澳大利亚联邦科学与工业研究组织数据61）
本文研究了语义分割中的后门攻击，提出四种粗粒度攻击向量和两种细粒度攻击向量，通过BADSEG框架验证攻击有效性，并发现现有防御措施无法有效缓解攻击，揭示了语义分割的安全漏洞。
2026-03-17 cs.CR
Explaining Vulnerabilities to Adversarial Machine Learning through Visual Analytics
Arizona State University（亚利桑那州立大学）；University of Virginia（弗吉尼亚大学）
机器学习模型目前被部署在各种现实世界的应用程序中，其中模型预测用于做出有关医疗保健，银行贷款和许多其他关键任务的决策。随着人工智能技术的部署变得无处不在，对手已经开始开发操纵机器学习模型的方法以获得优势也就不足为奇了。虽然可视化分析社区已经开发了打开机器学习模型黑匣子的方法，但很少有工作专注于帮助用户了解他们在对抗攻击背景下的模型漏洞。在本文中，我们提出了一个可视化的分析框架，用于解释和探索对抗攻击的模型漏洞。我们的框架采用了多方面的可视化方案，旨在支持分析的数据投毒攻击的角度模型，数据实例，功能和本地结构。我们证明了我们的框架，通过两个案例研究二进制分类器和说明模型的漏洞，不同的攻击策略。
2019-10-03 cs.CR cs.HC cs.LG
Learning to Poison Large Language Models for Downstream Manipulation
Department of Computer Science, Wayne State University（韦恩州立大学计算机科学系）；Computer Science and Engineering Department, Oakland University（奥克兰大学计算机科学与工程系）；College of Innovation and Technology, University of Michigan-Flint（密歇根大学弗林特分校创新与技术学院）
本研究提出一种针对LLM监督微调过程的梯度引导后门触发器学习（GBTL）算法，通过高效识别对抗性触发器实现数据投毒攻击，并验证了上下文学习和持续学习两种防御策略的有效性。
2025-05-29 cs.CL cs.CR cs.LG
Selection-Based Vulnerabilities: Clean-Label Backdoor Attacks in Active Learning
本研究提出ALA框架，首次利用主动学习中的采集函数作为投毒攻击面，通过优化不可察觉的投毒输入使其具有高不确定性分数以增加被选中概率，在低投毒预算下实现高达94%的攻击成功率，揭示主动学习存在安全漏洞。
2025-08-05 cs.AI cs.CR
Token by Token, Compromised: Backdoor Vulnerabilities in Unified Autoregressive Models
TU Darmstadt（图宾根大学）
本文研究了统一自回归模型中的后门漏洞问题，提出了一种名为Token by Token Backdoor Attack (ToBAC)的攻击方法，展示了如何通过数据和模型污染策略在多模态生成中引发有害行为。
2026-10-09 cs.AI cs.CR
The Stronger the Diffusion Model, the Easier the Backdoor: Data Poisoning to Induce Copyright Breaches Without Adjusting Finetuning Pipeline
School of Computing, National University of Singapore（新加坡国立大学计算机学院）
本研究提出后门攻击方法SilentBadDiffusion，通过数据投毒诱发扩散模型版权侵权，无需控制训练流程，且模型越强攻击越易成功。
2024-05-26 cs.AI cs.CR
Forcing Generative Models to Degenerate Ones: The Power of Data Poisoning Attacks
Carnegie Melon University（卡内基梅隆大学）；IBM Research（IBM研究院）
本文系统研究针对自然语言生成任务的数据投毒攻击，提出评估成功率与隐蔽性的指标，证明仅用1%调优数据即可在微调阶段污染LLM。
2023-12-07 cs.AI cs.CL cs.CR
RLHFPoison: Reward Poisoning Attack for Reinforcement Learning with Human Feedback in Large Language Models
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Washington University in St. Louis（圣路易斯华盛顿大学）；University of California, Davis（加州大学戴维斯分校）
该研究提出针对RLHF的投毒攻击方法RankPoison，通过操纵偏好排名数据投毒，可诱导大语言模型生成更长token且不破坏原有安全对齐，还能实现后门攻击，揭示了RLHF的安全隐患与鲁棒对齐的必要性。
2024-06-19 cs.AI cs.CL cs.CR
On Evaluating the Poisoning Robustness of Federated Learning under Local Differential Privacy
Nanjing University（南京大学）
针对本地差分隐私联邦学习（LDPFL）抗模型投毒攻击鲁棒性研究不足的问题，提出适配LDPFL的自适应投毒攻击框架，实验验证其能显著降低全局模型性能，凸显了强化相关防御的必要性。
2025-09-05 cs.CR cs.LG
Double Backdoored: Converting Code Large Language Model Backdoors to Traditional Malware via Adversarial Instruction Tuning Attacks
本研究提出MalInstructCoder框架，通过自动化数据投毒和对抗性指令微调攻击（干净提示投毒攻击和后门攻击），揭示了Code LLM在编程任务中的网络安全漏洞，实验表明仅投毒0.5%-1%数据即可使攻击成功率高达86%，凸显了构建防御机制的紧迫性。
2025-03-07 cs.CR
Prompt Injection Attacks on Agentic Coding Assistants: A Systematic Analysis of Vulnerabilities in Skills, Tools, and Protocol Ecosystems
本文系统分析了代理编码助手的提示注入攻击漏洞，提出三维分类法并揭示防御不足，强调需架构级防护而非碎片化措施。
2026-01-24 cs.CR
MM-PoisonRAG: Disrupting Multimodal RAG with Local and Global Poisoning Attacks
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California Los Angeles（加州大学洛杉矶分校）
提出MM-PoisonRAG框架，通过局部投毒攻击（LPA）和全局投毒攻击（GPA）两种策略，系统研究多模态检索增强生成（RAG）在知识投毒下的脆弱性，实验表明攻击成功率高达56%且能绕过现有防御。
2026-05-27 cs.AI cs.CR cs.CV
Poisoning Federated Recommender Systems with Fake Users
University of Science and Technology of China（中国科学技术大学）；Duke University（杜克大学）
本文提出了一种名为PoisonFRS的新型虚假用户投毒攻击方法，无需额外信息即可在联邦推荐系统中推广攻击者选定的目标项目，实验证明其效果优于依赖额外信息的现有基准。
2024-02-18 cs.CR cs.IR cs.LG
