PoisonForge: Task-Level Targeted Poisoning Benchmark for Instruction-Tuned LLMs
Department of Computer Science(计算机科学系)
提出PoisonForge基准,通过参数化四维威胁(偏差类型、投毒模式、出现次数、目标输出长度)评估12个开源LLM在1%投毒预算下的任务级投毒攻击成功率,发现11个模型ASR超过70%且非目标任务泄露低于0.5%。
2026-05-22 cs.AI cs.CR cs.LG
Hiding in Plain Sight: Decoupling Pretext from Actuation for Skill Poisoning in LLM Agents
Beihang University(北京航空航天大学);Baidu Inc(百度公司);Wilfrid Laurier University(威尔弗里德·劳雷尔大学)
本研究提出一种针对LLM智能体的技能投毒攻击范式,将恶意执行与情境借口解耦,通过上游接地技能伪造理由,使下游完整执行隐藏于合法任务中,并开发自动化框架实现高成功率攻击,暴露安全审计盲点。
2026-10-01 cs.AI cs.CR
Systematization of Knowledge: Security and Safety in the Model Context Protocol Ecosystem
Tribhuvan University(特里布文大学);University of North Dakota(北达科他大学);Youngstown State University(亚当斯州立大学);University of Missouri(密苏里大学);University of Toledo(托莱多大学)
本文系统化分析了模型上下文协议生态系统中的安全与安全风险,提出了全面的风险分类,并探讨了从对话聊天机器人到自主代理操作系统安全过渡的路线图。
2025-12-13 cs.AI cs.CR
On the Feasibility of Poisoning Text-to-Image AI Models via Adversarial Mislabeling
University of Chicago(芝加哥大学)
本文研究了通过对抗性扰动误导视觉语言模型生成错误描述,从而向文本到图像模型训练流程注入“脏标签”毒化样本的攻击可行性,实验证明该攻击在黑盒商业场景下成功率超73%,且现有防御易被自适应攻击者规避。
2025-06-27 cs.AI cs.CR
The AI Accountability Ecosystem in the Era of Language Models
University of Warwick(华威大学);City St George’s, University of London(伦敦大学城市圣乔治学院)
本文针对大型语言模型带来的新风险,更新了人工智能问责制生态系统框架,提出三项关联更新,推动问责制向分布式、持续化、制度化转变。
2026-10-06 cs.AI cs.CY
A Solvable Theory of Pre-training Data Poisoning: Regime-Dependent Scaling Exponents
该论文提出可解理论,证明预训练数据投毒导致的性能退化指数取决于极限顺序,并解释非整数标度指数源于重尾奇异结构。
2026-09-29 cs.AI cs.LG
Architectural Backdoors in Vision-Language Model Supply Chains via Representation Steering
Sapienza University of Rome(罗马智慧大学);University of Genoa(热那亚大学);University of Trieste(的里雅斯特大学);University of Cagliari(卡利亚里大学)
研究视觉语言模型供应链安全问题,提出通过表示引导植入架构后门的攻击方法,该方法不影响训练数据等,通过触发控制模型表示转向攻击者目标,评估表明其损害模型多项性能,还提出审计防御方法。
2026-07-29 cs.AI cs.CR cs.LG
Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain
ServiceNow Research;Mila - Qu\'ebec AI Institute
研究探讨了在交互数据上微调AI代理时引入的安全漏洞,提出三种供应链威胁模型,证明通过污染少量演示即可使代理泄露用户信息。
2026-08-05 cs.AI cs.CR cs.LG
GenAI-Driven Approach to RISC-V Supply Chain Exploration
Chair of Robotics, Artificial Intelligence and Real-Time Systems(机器人、人工智能与实时系统教授会);Technical University of Munich(慕尼黑技术大学)
本文提出利用LLM和VLM的供应链分析流程,结合MDE技术提升对异构数据的分析能力,通过知识图谱揭示供应链组件间的依赖关系,支持供应链韧性评估。
2026-05-13 cs.AI cs.AR
Customization under Fire: Plugin Poisoning in Text-to-Image Ecosystem
Zhejiang University(浙江大学);The Hong Kong Polytechnic University(香港理工大学);Tianjin University(天津大学)
针对文本到图像生态系统中LoRA插件的供应链风险,提出PoisonLoRA方法,实现概念劫持和任务注入两种攻击,在多个数据集上达到近100%攻击成功率且难以被检测。
2026-06-08 cs.CR
The Art of Hide and Seek: Making Pickle-Based Model Supply Chain Poisoning Stealthy Again
本文首次系统揭示基于 Pickle 的模型供应链投毒面,从模型加载路径和危险函数两个视角发现大量扫描器遗漏,并提出 EOP 绕过技术,实现对现实扫描器的高效隐蔽绕过。
2025-08-27 cs.CR
Large Language Model Supply Chain: Open Problems From the Security Perspective
The University of Tokyo(东京大学);Singapore Management University(新加坡管理大学);Tianjin University(天津大学);University of Alberta(阿尔伯塔大学)
本文从安全视角系统审视大型语言模型供应链,识别各组件及集成中的12项安全风险,并提出构建更安全LLM系统的指导性建议。
2024-11-03 cs.AI cs.CR cs.SE
The Corroboration Illusion: When More News Makes LLM Forecasts Less True
Peking University(北京大学);University of Central Florida(中佛罗里达大学)
研究发现,攻击者仅通过发布新闻文章即可系统操纵LLM概率预测,单篇文章使56%预测翻转,且现有防御均可被廉价绕过,揭示了LLM预测对信息供应链的脆弱性。
2026-09-22 cs.AI cs.CL
AgentWorm: Self-Propagating Attacks Across LLM Agent Ecosystems
Peking University(北京大学);Sun Yat-sen University(中山大学);Wuhan University(武汉大学);Tsinghua University(清华大学);Singapore Management University(新加坡管理学院)
研究提出ClawWorm,首个自主传播的LLM代理框架攻击,通过单条消息实现持久化感染与多跳传播,揭示模型安全姿态差异及防御策略。
2026-07-17 cs.AI cs.CR cs.LG
Model Supply Chain Poisoning: Backdooring Pre-trained Models via Embedding Indistinguishability
Chongqing University(重庆大学);Nanyang Technological University(南洋理工大学)
本文提出 TransTroj 后门攻击,通过两阶段优化实现嵌入不可区分性,使预训练模型中的后门在供应链微调后仍能高效迁移,在多数下游任务上达到近 100% 攻击成功率。
2025-02-04 cs.CR cs.CV cs.LG
An LLM-based Quantitative Framework for Evaluating High-Stealthy Backdoor Risks in OSS Supply Chains
Zihe Yan 1(燕子和1);Kai Luo 2(罗凯2);Haoyu Yang 3(杨浩远3);Yang Yu 3(于洋3);Zhuosheng Zhang 1(张卓生1);Guancheng Li 3(李冠成3)
针对开源软件供应链高隐蔽性后门攻击风险,本文提出基于大语言模型的细粒度量化评估框架,从攻击者视角分阶段设计指标,通过LLM语义评估弥补静态分析不足,在Debian高优先级包上验证了其风险识别能力。
2025-11-17 cs.AI cs.SE
Securing the AI Supply Chain: What Can We Learn From Developer-Reported Security Issues and Solutions of AI Projects?
School of Computer Science;Information Technology,\ University Adelaide Australia;Information Technology,\ University \&\ Systems Adelaide Australia;Information Technology,\ University;Information Technology,\ University \&\ Systems
本文通过分析开发者报告的安全问题和解决方案,揭示AI供应链中安全问题的细粒度分类及解决挑战,为开发者和研究人员提供实证指导。
2026-01-09 cs.AI cs.CR cs.HC
Conjunctive Poisoning in AI Supply-Chain Applications
University of Central Florida(中佛罗里达大学)
本研究提出AI供应链中的联合中毒攻击,通过包装器与元数据的交互改变模型行为,提出TIF-BAH防御,揭示AI部署中存在未被现有防御覆盖的部署时行为风险。
2026-08-18 cs.CR
Towards Robust Detection of Open Source Software Supply Chain Poisoning Attacks in Industry Environments
针对 NPM 与 PyPI 供应链投毒,本文提出 OSCAR 动态检测流水线,结合沙箱执行、模糊测试和方面级行为监控,在工业部署中显著降低误报并发现大量恶意包。
2024-09-14 cs.CR cs.SE
Propagation-Based Vulnerability Impact Assessment for Software Supply Chains
National University of Singapore(新加坡国立大学)
提出基于分层工作列表的算法和VPSS动态指标,实现全生态系统调用图级漏洞传播分析,并在Java Maven生态系统的100个真实漏洞上验证了有效性。
2025-10-09 cs.CR cs.SE
Detect, Unlearn, Restore: Defending Text Summarization Models Against Data Poisoning
The University of Texas at Arlington(德克萨斯大学阿灵顿分校)
提出统一的后验防御框架,通过影响函数分析或行为审计检测微调阶段的数据投毒,并利用梯度上升遗忘恢复模型性能,在多种攻击下实现85-92%检测精度和96%行为恢复。
2026-06-25 cs.CL cs.CR
IoT Supply Chain Security: Overview, Challenges, and the Road Ahead
供应链正在成为快速发展的物联网生态系统中的下一个威胁前沿。与传统的ICT系统相比,它从根本上更加复杂。我们分析了物联网系统中的供应链风险及其独特的方面,讨论了供应链安全的研究挑战,并确定了未来的研究方向。
2019-07-21 cs.CR cs.NI
Hidden Amplifiers: Cross-Level Risk in Software Supply Chains
Colorado State University(科罗拉多州立大学)
研究现代软件供应链中现有分析工具的分离问题,提出跨级别风险传播框架,通过统一风险公式联系代码级与生态系统级风险,评估发现隐藏放大器,揭示跨级别分析对供应链安全的新意义。
2026-07-08 cs.CR cs.SE
"Your Robot Was Trained on a Lie": Collision Mesh Poisoning Attacks on Robotic Manipulation
Hong Kong University of Science and Technology(香港科技大学);Zhejiang University(浙江大学)
针对机器人操作,利用视觉与碰撞网格差异,提出碰撞网格投毒攻击,使策略在模拟中正常但真实部署时失效,现有防御不足。
2026-09-18 cs.CR cs.RO
Orchestrating Product Provenance Story: When IOTA ECOSYSTEM Meets The Electronics Supply Chain Space
针对电子供应链中的数据孤岛问题,提出基于许可制IOTA账本和MAM通道的溯源框架,实现透明可追溯且防篡改的产品旅程记录,并评估了不同载荷下的构建时间。
2020-05-13 cs.CR
Software Supply Chain Smells: Lightweight Analysis for Secure Dependency Management
KTH Royal Institute of Technology(皇家理工学院);Université de Montréal(蒙特利尔大学)
本文提出软件供应链异味概念,设计评估Dirty-Waters工具,通过实证研究揭示Maven和NPM生态中依赖项安全问题的差异。
2026-03-30 cs.CR cs.SE
PyPitfall: Dependency Chaos and Software Supply Chain Vulnerabilities in Python
New Jersey Institute of Technology(新泽理工学院)
PyPitfall通过分析PyPI生态系统的依赖结构,揭示了Python软件供应链中脆弱依赖的广泛存在及其安全影响。
2025-07-24 cs.CR
Towards Multi-Stakeholder Vulnerability Notifications in the Ad-Tech Supply Chain
University of California, Davis(加州大学戴维斯分校);University of Iowa(爱荷华大学)
本文研究了广告技术供应链中多利益相关者漏洞通知的有效性,通过九个月的自动化通知研究,发现通知能有效减少暗池漏洞,尤其针对广告网络时效果显著,且发送者声誉对学术和活动人士的通知响应无显著影响。
2026-04-02 cs.CR cs.CY cs.MA
Handcrafted Backdoors in Deep Neural Networks
Oregon State University(俄勒冈州立大学);Google Brain(谷歌大脑)
当机器学习训练外包给第三方时,$backdoor$ $attacks$变得实用,因为训练模型的第三方可能会恶意地将隐藏的行为注入到原本准确的模型中。到目前为止,注入后门的机制仅限于$poisoning$。我们认为,供应链攻击者有更多的攻击技术,通过引入$handcrafted$攻击,直接操纵模型的权重。这种直接修改给我们的攻击者更多的自由度相比,中毒,我们表明它可以用来逃避许多后门检测或删除防御有效。在四个数据集和四个网络架构中,我们的后门攻击成功率保持在96%以上。我们的研究结果表明,需要进一步的研究来了解供应链后门攻击的完整空间。
2022-11-15 cs.CR cs.LG
TRUSTDESC: Preventing Tool Poisoning in LLM Applications via Trusted Description Generation
The Pennsylvania State University(宾夕法尼亚州立大学)
TRUSTDESC通过生成可信工具描述防止LLM中的工具污染攻击,采用三阶段流程提取代码片段、生成描述并动态验证,提升任务完成率并抑制隐式攻击。
2026-04-08 cs.CR
BadSkill: Backdoor Attacks on Agent Skills via Model-in-Skill Poisoning
Huazhong University of Science and Technology(华中科技大学);Lehigh University(里海大学)
研究针对代理技能中嵌入的模型提出后门攻击,通过污染技能中的模型实现隐蔽攻击,验证了在不同模型规模和扰动类型下的有效性,并指出模型承载技能作为代理生态系统中的新型供应链风险。
2026-04-10 cs.AI cs.CR
GoSurf: Identifying Software Supply Chain Attack Vectors in Go
本研究针对Go语言供应链安全风险,提出含12种攻击向量的专属分类体系,并开发静态分析工具GoSurf,经真实Go包验证,可为Go生态供应链安全审计提供支撑。
2024-09-17 cs.CR
Measuring the Security of the Evolving Software Supply Chain: a Research Agenda
CrySyS Lab Budapest Univ. of Technology and Economics(布达佩斯技术与经济大学 CrySyS 实验室)
本文提出研究议程,通过知识系统化识别依赖建模与漏洞传播的不足,主张统一测量跨生态系统依赖结构,并应对AI辅助开发带来的新依赖模式挑战。
2026-09-09 cs.CR cs.SE
Oracle Poisoning: Corrupting Knowledge Graphs to Weaponise AI Agent Reasoning
Microsoft(微软);UNSW Canberra(新南威尔士大学堪培拉分校);SAP;OWASP Gen AI Security Project(OWASP生成式人工智能安全项目)
本文研究了通过污染知识图谱来破坏AI代理推理的攻击方法,展示了六个针对生产级代码知识图谱的攻击场景,揭示了攻击者熟练度对信任度的影响,并评估了多种防御措施的有效性。
2026-05-10 cs.AI cs.CR
Benchmarking Security Risk Detection and Verification in Open Agentic Skill Ecosystems
University of Texas at El Paso(德克萨斯理工大学);Southern Illinois University-Carbondale(南方伊利诺伊大学卡本代尔分校);Purdue University(普渡大学)
提出SkillVetBench,一个两阶段安全审查基准,通过语义审查和沙箱执行检测与验证开放智能体技能生态系统中的恶意技能。
2026-05-30 cs.AI cs.CR
Machine Learning Models Have a Supply Chain Problem
Google(谷歌);Google DeepMind(谷歌DeepMind)
本文指出开放机器学习模型生态系统存在重大供应链风险,并探讨了如何利用Sigstore解决方案为开放ML模型带来透明度,使发布者能对模型签名并证明数据集属性。
2025-05-28 cs.CR cs.LG
Software Supply Chain Security of Web3
KTH Royal Institute of Technology(皇家理工学院)
研究Web3生态系统中软件供应链安全问题,分析威胁并提出缓解策略以增强安全性。
2025-11-15 cs.CR cs.SE
Distributed Denial of Science: How Indirect Data Poisoning of AI Systems Can Industrialize Scientific Fraud
Institute for Complex Social Dynamics, Carnegie Mellon University(卡内基梅隆大学复杂社会动力学研究所);Carnegie Mellon University(卡内基梅隆大学)
研究探讨人工智能时代科学欺诈新形式,即间接数据投毒。对手 corrupt 开放数据集上传,使自主研究代理处理后传播欺诈。通过多话题、多系统实验发现投毒成功率高而检测率低。提出科学家角色和数据溯源审计措施,后者可有效降低攻击成功率。
2026-07-14 cs.AI cs.CR cs.DL
An Empirical Study of Vulnerable Package Dependencies in LLM Repositories
本文实证分析 52 个开源 LLM 的第三方依赖漏洞及维护活动,并与 Python 生态系统比较,揭示漏洞披露滞后和配置文件普遍含脆弱依赖的问题。
2025-08-29 cs.CR cs.SE
US Microelectronics Packaging Ecosystem: Challenges and Opportunities
本文针对美国本土先进封装供应链,分析异构集成带来的设计安全挑战及海外OSAT依赖风险,旨在识别瓶颈与薄弱环节,为建立安全、高效、有韧性的美国半导体供应链提供支撑。
2023-10-30 cs.CR cs.SY eess.SY
Mining the YARA Ecosystem: From Ad-Hoc Sharing to Data-Driven Threat Intelligence
Polytechnique Montréal(蒙特利尔理工学院);Concordia University(康考迪亚大学)
研究通过分析840万条规则揭示YARA生态系统高度集中且存在运营问题,提出需从随意收集转向严格规则工程。
2026-03-15 cs.CR cs.SE
Operational Runtime Behavior Mining for Open-Source Supply Chain Security
University of Glasgow(格拉斯哥大学)
提出HeteroGAT-Rank系统,通过异构图注意力学习挖掘开源软件运行时行为模式,辅助人工威胁调查。
2026-05-25 cs.CR
SOK: A Taxonomy of Attack Vectors and Defense Strategies for Agentic Supply Chain Runtime
Independent Researcher(独立研究者)
本文系统化了现有研究,提出统一的运行时框架,区分数据和工具供应链攻击,并识别出病毒代理循环现象,主张采用零信任运行时架构。
2026-04-19 cs.AI cs.CR
Beyond the Payload: How User Invocation Shapes Coding Agent Vulnerability to Repository Poisoning
Zhejiang University(浙江大学);Tsinghua University(清华大学)
该研究推出首个针对编码代理仓库中毒漏洞的基准CIPR,发现漏洞高度依赖用户提示级配置,任务类型可使攻击成功率产生4.5倍差异,测试执行任务为隐蔽攻击面,不明确或嘈杂提示会间接改变风险。
2026-09-01 cs.CL cs.CR
Pinning Is Futile: You Need More Than Local Dependency Versioning to Defend against Supply Chain Attacks
本文通过反事实分析与模拟量化 npm 生态中版本锁定的安全与维护影响,发现锁定直接依赖反而可能增加恶意包暴露风险,并提出集体锁定策略及对 npm 的具体改进建议。
2025-02-10 cs.CR cs.SE
Prompt Injection Attacks on Agentic Coding Assistants: A Systematic Analysis of Vulnerabilities in Skills, Tools, and Protocol Ecosystems
本文系统分析了代理编码助手的提示注入攻击漏洞,提出三维分类法并揭示防御不足,强调需架构级防护而非碎片化措施。
2026-01-24 cs.CR
Beyond Training-time Poisoning: Component-level and Post-training Backdoors in Deep Reinforcement Learning
Cardiff University(卡迪夫大学);The Alan Turing Institute(艾伦·图灵研究所)
本文揭示DRL供应链中可在更低权限下植入后门的漏洞,提出组件级持久后门攻击TrojanentRL和无需训练数据的训练后攻击InfrectroRL,在六个Atari环境中达到与训练时攻击相当的效果,并能规避现有防御。
2025-07-07 cs.AI cs.CR cs.LG
RIoTS: Risk Analysis of IoT Supply Chain Threats
保障信息和通信技术(信通技术)供应链的安全最近已成为国家安全和完整性的一个关键问题。随着物联网(IoT)设备的激增及其在控制现实世界基础设施方面的作用越来越大,需要在现有的安全分析之外分析网络系统中的风险。文献中的现有方法通常利用攻击和故障树来分析恶意活动及其影响。在本文中,我们开发了RIoTS,一个安全风险评估框架借用系统可靠性理论,将供应链。我们还分析了供应商内部分组的影响,这些分组可能会对恶意供应链参与者的系统构成隐藏的风险。结果表明,所提出的分析能够揭示潜在供应商勾结对物联网生态系统构成的隐藏威胁。
2019-11-28 cs.CR
Weaponizing Ground Truth: Data Poisoning Attacks by Exploiting Boundary Misalignment Between Antivirus Software and Learning-Based Detectors
Nankai University(南开大学);Singapore Management University(新加坡管理大学);University of Liverpool(利物浦大学)
针对ML恶意软件检测依赖AV标签的弱点,提出Bi-Iocane黑盒投毒框架,通过修改AV敏感字节翻转标签,以极低投毒预算使下游模型对92.08%目标误分类,且现有防御效果有限。
2026-09-28 cs.CR
Inference-Time Backdoors via Chat Templates: From LLM Supply Chains to Agentic System Compromise
Fujitsu Research of Europe(富士通欧洲研究)
提出一种通过恶意修改聊天模板实现推理时后门攻击的方法,无需修改模型权重或训练数据,在LLM、代理和多代理系统层面均能成功攻击,且能绕过现有防御。
2026-05-24 cs.CR cs.LG
GoLeash: Mitigating Golang Software Supply Chain Attacks with Runtime Policy Enforcement
KTH Royal Institute of Technology(皇家理工学院);Gran Sasso Science Institute(格兰萨索科学研究所)
针对Go语言生态的软件供应链攻击风险,研究提出包级最小权限策略执行系统GoLeash,比传统沙箱检测更精准,抗混淆且开销可接受。
2026-10-16 cs.CR cs.SE
Targeting World Models to Compromise Robot Learning Pipelines
Northeastern University(东北大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出针对世界模型的新型数据投毒攻击方法,通过注入恶意提示或转换动态,在看似安全的数据中生成危险训练轨迹,导致下游策略不安全。
2026-10-08 cs.AI cs.CR cs.RO
S3C2 Summit 2024-03: Industry Secure Supply Chain Summit
本文总结了2024年3月S3C2举办的行业安全供应链峰会,该峰会召集开源生态14位相关从业者探讨供应链安全现状,分享见解以推动合作与改进。
2024-05-14 cs.CR
Towards A Sustainable and Ethical Supply Chain Management: The Potential of IoT Solutions
本文探讨了全球化背景下供应链管理(SCM)面临的复杂挑战,提出物联网(IoT)技术通过提供安全性和可追溯性建立参与者间的信任,从而解决各行业供应链中的安全、跟踪、可追溯性及仓库等问题。
2023-03-30 cs.CR