Semantic Intent Fragmentation: A Single-Shot Compositional Attack on Multi-Agent AI Pipelines
语义意图碎片化:一种针对多智能体AI流水线的单次组合攻击
机构 * Department of Computer Science, University of Texas at El Paso(德克萨斯理工大学计算机科学系) ; School of Computing, Southern Illinois University Carbondale(南方伊利诺伊大学卡本代尔分校计算机学院) ; Hanyang University(翰阳大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
AI总结 本文提出语义意图碎片化攻击,通过单个合法请求导致任务分解为看似无害但联合违反安全策略的子任务,利用OWASP LLM06:2025框架实现无注入内容、无系统修改的攻击,验证了组合安全漏洞的可修复性。
Comments This paper got accepted for AAAI 2026 Summer Symposium