AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories
Northern Arizona University(北亚利桑那大学)
AgentDrift是一个分步标注的基准,包含12,536条LLM智能体工具调用轨迹,逐步标记注入点与劫持步骤,用于检测间接提示注入攻击。
2026-09-09 cs.AI cs.CR cs.LG
Attention Hijacking: Response Manipulation Across Queries in Vision-Language Models
Hong Kong University of Science and Technology(香港理工大学);Shanghai Jiao Tong University(上海交通大学);Beihang University(北京航空航天大学)
本文研究了视觉-语言模型中跨查询响应操控问题,提出了一种新的对抗攻击方法Attention Hijacking,通过引导内部注意力分布保持图像主导模式,提高攻击在不同查询下的有效性。
2026-05-17 cs.AI cs.CV
Blind PRNG Hijacking: An Undetectable Integrity-Preserving Attack Against LLM Watermarking
Fujian Provincial Key Laboratory of Automotive Electronics and Electric Drive(福建省汽车电子与电力驱动重点实验室);School of Electronic, Electrical and Physics(电子、电气与物理学院);Fujian University of Technology(福建理工大学);School of Humanities(人文学院);Institute of Applied Physics and Materials Engineering(应用物理与材料工程学院);University of Macau(澳门大学)
提出SeedHijack攻击,通过替换伪随机数生成器(PRNG)在供应链层面对LLM水印进行盲攻击,同时保持完整性并规避检测。
2026-05-27 cs.AI cs.CR
Seed Hijacking of LLM Sampling and Quantum Random Number Defense
School of Electronic, Electrical and Physics, Fujian University of Technology(福建工程学院电子、电气与物理系);School of Humanities, Fujian University of Technology(福建工程学院人文学院);Department of Investigation, Fujian Police College(福建警察学院调查系);Institute of Applied Physics and Materials Engineering, University of Macau(澳门大学应用物理与材料工程研究院)
本文提出SeedHijack攻击,通过操控PRNG输出实现指定token注入,提出基于量子随机数生成器的防御方案,解决LLM采样层的关键漏洞。
2026-05-08 cs.AI cs.CR cs.LG
The Ranking Blind Spot: Decision Hijacking in LLM-based Text Ranking
Northeastern University(东北大学);Oregon State University(俄勒冈州立大学);University of Macau(澳门大学)
本文揭示了LLM文本排序中的“排名盲点”,提出决策目标劫持和决策标准劫持两种攻击方法,实证表明其可迫使排序器偏好特定段落,且更强的LLM更易受攻击。
2025-09-23 cs.AI cs.IR
Beyond the Benchmark: Innovative Defenses Against Prompt Injection Attacks
Dept. of CS, SDS BRAC University(计算机科学系,BRAC大学);Dept. of CSE, SDS BRAC University(计算机工程系,BRAC大学)
本文提出创新防御机制,通过迭代优化防御提示,有效缓解LLM中的目标劫持漏洞,提升小型开源模型的安全性与部署效率。
2025-12-18 cs.AI cs.CR
Automating Agent Hijacking via Structural Template Injection
Tsinghua University \& Ant Group Hangzhou China;Tsinghua University Beijing China;Zhongguancuan Laboratory Beijing China;Tsinghua University \& Ant Group;Tsinghua University;Zhongguancuan Laboratory
本文提出Phantom框架,通过结构模板注入自动化代理劫持,提升攻击成功率和效率,揭示结构模板劫持的严重性。
2026-02-18 cs.AI cs.LG
ImportSnare: Directed "Code Manual" Hijacking in Retrieval-Augmented Code Generation
The University of Hong Kong(香港大学)
本文提出ImportSnare攻击框架,利用投毒文档劫持检索增强代码生成,通过位置感知束搜索和多语言归纳建议提升恶意依赖推荐,实验显示对流行库攻击成功率超50%,揭示供应链风险。
2025-09-09 cs.AI cs.CR
In-Context Representation Hijacking
Mentaleap;Independent Researcher(独立研究者);UC Berkeley(加州大学伯克利分校)
Doublespeak通过替换有害关键词为无害标记,使模型内部表示收敛至有害语义,从而绕过安全对齐。
2025-12-04 cs.AI cs.CL cs.CR
Chaining Skills to Hijack LLM Agents
The University of Hong Kong(香港大学);Shandong University(山东大学);Shanghai Jiao Tong University(上海交通大学);Southeast University(东南大学)
提出APEX方法,通过构建对抗性技能链,利用技能间信息传递携带虚假用户批准声明,诱导LLM智能体执行攻击者选定操作,在SkillsBench上成功率高达74.2%,并揭示现有防御的局限性。
2026-10-02 cs.AI cs.CR
Convergent Detour Hijacking: Task-Preserving Resource Amplification in Skill-Based LLM Agents
Shenzhen University(深圳大学);The Chinese University of Hong Kong(香港中文大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
该研究提出收敛式绕路劫持攻击,耦合LLM智能体技能选择与规划阶段,可放大任务资源消耗,在DeepSeek-V4-Pro上80.02%的任务会被选中攻击者控制的协调器,任务完成率不变但成本显著提升。
2026-08-13 cs.AI cs.CR
Image-based Prompt Injection: Hijacking Multimodal LLMs through Visually Embedded Adversarial Instructions
Northern Arizona University(北亚利桑那大学)
研究提出基于图像的提示注入攻击方法,通过视觉嵌入对抗性指令,成功操控多模态大语言模型输出,揭示了该攻击的有效性和潜在威胁。
2026-03-04 cs.AI cs.CR cs.CV
Whose Narrative is it Anyway? A KV Cache Manipulation Attack
本文针对大语言模型KV缓存的安全风险,提出History Swapping块级攻击方法,通过预计算缓存覆盖实现无提示词修改的生成内容劫持,在Qwen3上验证了攻击效果并揭示了KV缓存的结构编码特性。
2025-11-16 cs.AI cs.CR
A First Look at the Security Issues in the Model Context Protocol Ecosystem
University of Delaware, USA(德克萨斯大学)
本文首次研究了模型上下文协议生态系统中的跨实体安全问题,揭示了注册表层面的漏洞和代码层面的攻击风险,提出了MCPInspect工具检测漏洞和可疑元数据。
2026-04-27 cs.AI cs.CR
Adversarial Images Hijack Web Agents from Visual Grounding to Browser Execution
University of Utah(犹他大学)
针对视觉定位网页代理,提出WebMirage框架,通过局部视觉扰动实现端到端劫持,平均攻击成功率91.9%,显著优于基线,且能抵御多种防御。
2026-10-08 cs.AI cs.CL cs.CR
Hijacking Robots with a Piece of Paper: A Systematic Study of Physical Prompt Injection in VLM-Controlled Robots
该研究针对VLM控制的分拣机器人,系统分析了四类物理提示注入攻击的成功率,发现其存在显著脆弱性,且三种简单防御措施可大幅降低风险。
2026-08-07 cs.AI cs.RO
VisualTrap: A Stealthy Backdoor Attack on GUI Agents via Visual Grounding Manipulation
University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学);East China University of Science and Technology(东华大学)
针对GUI智能体的视觉定位漏洞,提出VisualTrap后门攻击方法,通过少量中毒数据隐蔽劫持定位,且攻击可泛化至下游任务和不同环境。
2025-09-24 cs.AI cs.CL
Ignore Previous Prompt: Attack Techniques For Language Models
AE Studio(AE工作室)
基于转换器的大语言模型(LLM)为大规模面向客户的应用程序中的自然语言任务提供了强大的基础。然而,研究,探讨他们的漏洞出现恶意用户交互是稀缺的。通过提出一个基于掩码的迭代对抗提示组合的promptInject对齐框架,我们研究了GPT-3,生产中部署最广泛的语言模型,如何很容易被简单的手工输入对齐。特别是,我们调查了两种类型的攻击-目标劫持和即时泄漏-并证明,即使是低资质,但足够恶意的代理,可以很容易地利用GPT-3的随机性,创造长尾风险。可在https://github.com/agencyenterprise/PromptInject上获得用于注入的代码。
2022-11-17 cs.AI cs.CL
Make Split, not Hijack: Preventing Feature-Space Hijacking Attacks in Split Learning
Tampere University(坦佩雷大学);RISE Research Institutes of Sweden(瑞典RISE研究院)
本研究针对拆分学习易受特征空间劫持等攻击、隐私保护不足的问题,提出结合拆分学习与函数秘密共享的混合方法,通过随机掩码与秘密份额处理实现数据隐私保护,兼具高准确率、低通信开销与训练效率优势。
2024-04-14 cs.AI cs.CR
Decision Hijacking: Prompt Injection Attacks on Jev's Typed Probabilistic Decisions
Nanyang Technological University(南洋理工大学)
研究提示注入对非生成式决策模型Jev的影响,发现恶意内容改变动作概率但少致目标选择,自适应攻击提升成功率,表明模式化输出未消除风险。
2026-09-25 cs.AI cs.CR
Pre-hijacked accounts: An Empirical Study of Security Failures in User Account Creation on the Web
用户帐户在网站和在线服务中的普遍存在使得帐户劫持成为一个严重的安全问题。虽然以前的研究已经研究了攻击者可以访问受害者帐户的各种技术,但对帐户创建过程的关注相对较少。目前的联合身份验证趋势(例如,单点登录)增加了额外的复杂性,因为许多服务现在既支持用户直接设置密码的经典方法,也支持用户通过身份提供者进行身份验证的联合方法。受先前关于抢先帐户劫持的工作的启发[Ghasemisharif等人,USENIX SEC 2018],我们发现存在一类帐户预劫持攻击。这些攻击的显著特征是,攻击者在受害者创建帐户之前执行某些操作,这使得攻击者在受害者创建/恢复帐户之后获得访问权限变得微不足道。假设一个现实的攻击者只知道受害者的电子邮件地址,我们确定并讨论了五种不同类型的帐户预劫持攻击。为了确定这些漏洞在野外的普遍性,我们分析了75个流行的服务,发现其中至少有35个容易受到一个或多个帐户预劫持攻击。虽然其中一些可能会被细心的用户注意到,但从受害者的角度来看,其他人完全无法察觉。最后,我们调查了这些漏洞的根本原因,并提出了一套安全要求,以防止此类漏洞在未来出现。
2022-05-20 cs.CR
Merge Hijacking: Backdoor Attacks to Model Merging of Large Language Models
本文提出首个针对大型语言模型合并的后门攻击 Merge Hijacking,通过构建恶意模型使合并后的模型继承后门且保持效用,实验证明其对多种模型、算法及防御手段均有效。
2025-05-29 cs.CR
Reasoning Hijacking: The Fragility of Reasoning Alignment in Large Language Models
School of Computing, National University of Singapore(新加坡国立大学计算机学院)
本文指出现有安全研究忽视了推理对齐的脆弱性,提出新的对抗性提示攻击方法'推理劫持',通过注入虚假决策标准影响模型推理逻辑,实验表明即使先进模型也易受此类攻击影响。
2026-09-29 cs.CR
Semantic-Preserving Prompt Hijacking: A Black-Box Adversarial Attack on Auto-Prompt Optimization
Jiangsu universities(江苏大学);NSFC(国家自然科学基金委员会);RDF-24-01-016
提出一种黑盒条件下的自适应贪婪局部搜索方法,通过层次化分解输入文本、掩码关键语言单元并动态调整候选词,在保持语义相似度的同时最大化模型输出与原始意图的偏差,在2400+测试用例中取得更高攻击成功率。
2026-06-16 cs.CL cs.CR
Hijacking Bitcoin: Routing Attacks on Cryptocurrencies
作为迄今为止最成功的加密货币,比特币成为攻击者的首选目标。虽然已经发现了许多攻击媒介,但有一个重要的媒介被遗漏了:通过互联网路由基础设施本身攻击货币。事实上,通过操纵路由广告(BGP劫持)或自然拦截流量,自治系统(AS)可以拦截和操纵大部分比特币流量。本文介绍了路由攻击的第一种分类及其对比特币的影响,考虑了针对单个节点的小规模攻击和针对整个网络的大规模攻击。虽然具有挑战性,但我们证明了两个关键属性使路由攻击变得实用:(i)路由操纵的效率;(ii)比特币在采矿和路由方面的显著集中化。具体来说,我们发现任何网络攻击者都可以劫持几个(<100个)BGP前缀来隔离约50%的挖矿能力-即使考虑到矿池是严重多宿主的。我们还表明,路径上的网络攻击者可以通过干扰一些关键的比特币消息来大大减缓块传播。我们证明了对部署的比特币软件的每个攻击的可行性。我们还使用从比特币超级节点收集的数据结合BGP路由数据来量化它们对当前比特币拓扑的有效性。比特币的潜在危害令人担忧。通过隔离网络的部分或延迟块传播,攻击者可以导致大量的挖掘能力被浪费,导致收入损失,并实现广泛的漏洞利用,如双重支出。为了在实践中防止这种影响,我们提供了短期和长期的对策,其中一些可以立即部署。
2017-03-24 cs.CR cs.NI
Cloudy with a Chance of Cyberattacks: Dangling Resources Abuse on Cloud Platforms
本文首次在真实云平台上识别出大规模资源劫持,发现攻击者主要劫持可通过自由文本确定的记录而非 IP 地址,并提出多源数据分析方法,揭示 75% 的滥用为黑帽搜索引擎优化。
2024-03-28 cs.CR cs.NI
Image Hijacks: Adversarial Images can Control Generative Models at Runtime
Harvard University(哈佛大学);Cambridge University(剑桥大学);University of California, Berkeley(加利福尼亚大学伯克利分校)
该研究发现可控制视觉语言模型推理行为的“图像劫持”对抗样本,提出行为匹配及提示匹配算法生成劫持图像,针对LLaVA的四类攻击成功率超80%,且攻击自动化、仅需微小图像扰动。
2024-09-17 cs.CL cs.CR cs.LG
Breaking MCP with Function Hijacking Attacks: Novel Threats for Function Calling and Agentic Models
IBM Research Europe(IBM欧洲研究院);Trinity College Dublin(三一学院都柏林);Imperial College London(帝国理工学院伦敦);ADAPT Research Centre(ADAPT研究中心)
本文提出了一种新的函数劫持攻击,通过操纵代理模型的工具选择过程,迫使调用特定攻击者选择的函数,展示了代理模型在函数调用接口上的新漏洞。
2026-09-01 cs.AI cs.CL cs.CR
HOWLR: A Client-Driven Approach to BGP Hijack Detection
Princeton University(普林斯顿大学)
提出客户端驱动的BGP劫持检测方法HOWLR,利用同前缀下多个TLS认证服务作为见证者,通过客户端无法认证见证者来检测攻击,保护了89%的Tor中继前缀和75%的比特币矿池网关前缀。
2026-06-23 cs.CR cs.NI
Is Crunching Public Data the Right Approach to Detect BGP Hijacks?
本文针对 DFOH 与 BEAM 等基于公共 BGP 数据和机器学习的劫持检测系统,通过大规模仿真证明少量伪造通告即可实施数据投毒并规避检测。
2025-07-27 cs.CR cs.NI
Maven-Hijack: Software Supply Chain Attack Exploiting Packaging Order
KTH Royal Institute of Technology(皇家理工学院);Universtité de Montréal(蒙特利尔大学)
本文提出利用Maven依赖打包顺序和JVM类解析机制的新型供应链攻击Maven-Hijack,通过真实项目验证可行性,并评估得出带重复类检测的Maven Enforcer插件是当前最实用有效的防御方案。
2025-10-29 cs.CR cs.SE
Flipping Minds by Flipping Bits: Decision-Level Cognitive Hijacking of Large Language Models
Information Engineering University(信息工程大学);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);State Key Laboratory of Information Security, Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所信息安全国家重点实验室)
研究大语言模型在高风险决策场景中的决策级劫持问题,提出CogBias框架,利用位翻转攻击,通过可微情感评估器等将主观偏好转化为优化信号,经实验验证该方法能在少量位翻转下诱导目标主题立场转变,破坏模型价值对齐。
2026-10-20 cs.CR cs.LG
ShadowCoT: Cognitive Hijacking for Stealthy Reasoning Backdoors in LLMs
School of Communication and Information Engineering, Shanghai University(上海大学通信与信息工程学院);College of Computer Science and Information Technology, IAU(国际应用技术大学计算机科学与信息学院);Center for AI Research (CAIR), University of Agder (UiA)(阿格德大学人工智能研究中心)
ShadowCoT提出一种新型攻击框架,通过操控模型认知推理路径,实现多步推理链的劫持,产生逻辑连贯但对抗性的结果,实验显示其攻击成功率高达94.4%。
2025-04-08 cs.CL cs.CR
Hijacking Large Language Models via Adversarial In-Context Learning
Wayne State University(韦恩州立大学);Oakland University(奥克兰大学)
本文提出一种针对上下文学习(ICL)的可迁移提示注入攻击方法,通过向演示附加对抗性后缀劫持大型语言模型,并设计了基于干净演示的防御策略,揭示了 ICL 的安全漏洞。
2025-05-29 cs.CL cs.CR cs.LG
Off the Rails: Hijacking the Scoring Head in Generative End-to-End Driving Planners with Safety-Violating Adversarial Perturbations
University of California, Irvine(加利福尼亚大学尔湾分校)
针对生成式端到端自动驾驶规划器中评分头的攻击面,提出Derail对抗框架,通过安全违规目标扰动使轨迹选择从安全候选翻转为不安全候选,评分下降39-80%,碰撞率高达50%。
2026-07-01 cs.CR cs.CV cs.RO
Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias
本文提出利用LLM的抽象偏见进行代码分析的攻击方法,通过注入熟悉模式攻击来劫持LLM的控制流,揭示了LLM在静态分析中的安全漏洞。
2025-12-18 cs.CR cs.LG
Towards Action Hijacking of Large Language Model-based Agent
本文提出新型攻击AI²,利用LLM应用数据库的动作感知知识构造语义无害的恶意提示,在三个真实应用中实现84.30%平均攻击成功率,可高效绕过常见及专用安全防御。
2025-06-12 cs.CR
Off-Path TCP Exploits of the Mixed IPID Assignment
在本文中,我们发现了一种新的off-path TCP劫持攻击,可用于终止受害者TCP连接或通过操纵新的混合IPID分配方法向受害者TCP连接注入伪造数据,该方法广泛用于Linux内核版本4.18及更高版本,以帮助抵御TCP劫持攻击。攻击有三个步骤。首先,偏离路径攻击者可以将TCP数据包的IPID分配从更安全的基于每个套接字的策略降级为不太安全的基于散列的策略,从而构建一个共享IPID计数器,在受害者上形成侧通道。其次,攻击者通过观察受害者上的共享IPID计数器来检测TCP连接的存在。第三,攻击者通过观察共享IPID计数器的边信道来推断检测到的连接的序列号和确认号。因此,攻击者可以完全劫持连接,即,重置连接或破坏数据流。我们评估这种偏离路径的TCP攻击在现实世界中的影响。我们的案例研究SSH拒绝服务,操纵Web流量,并中毒BGP路由表显示其对广泛的应用程序的威胁。实验结果表明,我们的离线TCP攻击可以在215秒内构建,成功率超过88%。最后,我们分析了利用的根本原因,并开发了一种新的IPID分配方法来击败这种攻击。我们原型我们的防御在Linux 4.18,并确认其有效性,通过广泛的评估在互联网上的实际应用。
2020-08-29 cs.CR
AuthGuard-R: Safety-Compliant Mission Hijacking and Dual-Gate Defense for LLM-Controlled Robots
National Institute of Technology Warangal(瓦朗加尔国立理工学院)
针对LLM控制机器人可能被物理安全但违反用户授权任务劫持的问题,提出MissionPAIR攻击框架和AuthGuard-R双门防御授权层,通过形式化验证和实验证明其能有效阻止未授权动作。
2026-09-28 cs.CR cs.RO
Exploiting Sequence Number Leakage: TCP Hijacking in NAT-Enabled Wi-Fi Networks
本文揭示启用NAT的Wi-Fi路由器中TCP侧信道与映射重建漏洞,提出离路径TCP劫持攻击,并通过多厂商路由器和真实网络测量验证其危害。
2024-04-06 cs.CR
VirusCascade: Hijacking Collaborative Reflection in LLM-Powered Recommender Agents
Nanyang Technological University(南洋理工大学);College of Computing and Data Science(计算与数据科学学院)
针对LLM驱动推荐智能体的协作反思机制,提出首个黑盒定向推广攻击VirusCascade,利用反思持久性与跨智能体传播实现系统级劫持,在四个数据集上达到最优定向曝光效果。
2026-10-01 cs.CR cs.LG cs.MA
WebMCP Tool Surface Poisoning: Runtime Manipulation Attacks on LLM Agents
National Yang Ming Chiao Tung University(国立阳明交通大学)
本文提出一种新的威胁——会话中工具注入(MSTI),通过第三方脚本在活跃会话中注入恶意工具,并细分为工具劫持和工具框架两类,实验证明可破坏WebMCP功能,最后给出缓解方向和安全设计建议。
2026-06-04 cs.CR
Adversarial Attacks on Stochastic Bandits
UW-Madison(威斯康星大学麦迪逊分校);Google Brain(谷歌大脑)
我们研究了对抗攻击,操纵奖励信号来控制随机多臂强盗算法选择的行动。我们提出了第一个攻击两个流行的强盗算法:$ε$ -贪婪和UCB,\emph{without}知识的平均回报。攻击者只能花费对数的努力,乘以一个特定于问题的参数,随着强盗问题变得更容易攻击,这个参数会变得更小。结果意味着攻击者可以轻松地劫持强盗算法的行为,以促进或阻碍某些行为,例如特定的医疗。随着土匪在实践中的使用越来越广泛,我们的研究暴露了一个重大的安全威胁。
2018-10-29 cs.AI cs.CR cs.LG
The Vulnerability of LLM Rankers to Prompt Injection Attacks
The University of Queensland(昆士兰大学);CSIRO(澳大利亚联邦科学与工业研究组织)
本文研究了大语言模型排序器对提示注入攻击的脆弱性,通过实验证明不同架构和设置下的攻击效果,并揭示了编码器-解码器架构的抗性。
2026-02-18 cs.CR
How Agentic AI Coding Assistants Become the Attacker's Shell
Singapore Management University(新加坡管理大学);Huazhong University of Science and Technology(华中科技大学);Monash University(莫纳什大学)
本文研究了自主AI编码助手因依赖未审查外部工件而面临提示注入攻击的风险,分析了攻击机制、流行程度、现有防御的局限,并提出了未来研究方向。
2026-05-25 cs.CR cs.SE
Trigger the Straggler: Load Hijack on Mixture-of-Experts LLMs
University of Electronic Science and Technology of China(电子科技大学)
该研究提出针对混合专家大型语言模型的负载劫持攻击,通过修改路由器权重,使触发令牌集中于特定GPU的专家,造成该GPU成为掉队者,验证了中毒路由器可作为触发器控制的调度器,推动相关审计。
2026-08-12 cs.CR
Data Poisoning Attacks in Contextual Bandits
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Google Brain(谷歌大脑)
我们研究离线数据投毒攻击上下文土匪,一类强化学习的问题,在在线推荐和自适应医疗等重要应用。我们提供了一个基于凸优化的通用攻击框架,并表明通过稍微操纵数据中的奖励,攻击者可以迫使强盗算法为目标上下文向量拉一个目标手臂。目标手臂和目标上下文向量都由攻击者选择。也就是说,攻击者可以劫持上下文强盗的行为。我们还调查了这种攻击的可行性和副作用,并确定了未来的防御方向。仿真和真实数据实验验证了算法的有效性。
2018-08-24 cs.CR cs.LG stat.ML
AccEar: Accelerometer Acoustic Eavesdropping with Unconstrained Vocabulary
Shandong University(山东大学);George Mason University(乔治梅森大学)
随着基于语音的应用的日益普及,声学窃听已经成为对用户隐私的严重威胁。虽然在智能手机上访问麦克风需要明确的用户许可,但声学窃听攻击可以依赖于运动传感器(如加速度计和陀螺仪),其访问不受限制。然而,这种攻击的先前实例只能识别有限的一组预先训练的单词或短语。在本文中,我们提出了AccEar,一种基于加速度计的声学窃听攻击,可以重建智能手机扬声器上播放的任何音频,具有不受约束的词汇。我们证明了攻击者可以使用条件生成对抗网络(cGAN)从低频加速度计信号中重建高保真音频。所提出的cGAN模型通过频谱图增强从低频加速度计信号中学习重新创建用户语音的高频分量。我们评估了AccEar攻击的可行性和有效性,在一组完整的实验中使用来自16个公众人物的音频。如客观和主观评估的结果所示,AccEar在不同的场景中成功地从加速度计信号重建用户语音,包括不同的采样率、音频音量、设备模型等。
2022-12-02 cs.CR cs.SD eess.AS
Your Mailbox Is Mine: Prompt Injection Attacks Against Real-World LLM Email Agents
Sun Yat-sen University(中山大学);Simon Fraser University(西蒙菲莎大学);Harbin Institute of Technology(哈尔滨工业大学);Fudan University(复旦大学)
针对LLM邮件智能体,提出邮件特定提示注入(ESPI)攻击范式,通过伪装邮箱操作状态实现高成功率劫持,揭示真实生态安全漏洞。
2026-09-22 cs.CR
Poisoning the Watchtower: Prompt Injection Attacks Against LLM-Augmented Security Operations Through Adversarial Log Content
DigitalOcean;Arizona State University(亚利桑那州立大学)
研究攻击者控制的日志字段如何向LLM注入指令(日志基底提示注入),提出四类攻击分类,并评估不同防御下的攻击成功率。
2026-05-23 cs.CR cs.LG
Adversarial Attacks on Adversarial Bandits
Microsoft Azure AI(微软Azure人工智能);Amazon(亚马逊)
我们研究了一个对抗性多臂强盗的安全威胁,其中攻击者扰动损失或奖励信号来控制受害者强盗玩家的行为。我们表明,攻击者能够误导任何无悔对抗强盗算法选择一个次优的目标臂,但在每一个次线性(T-o(T))轮数,而只会产生次线性(o(T))的累积攻击成本。这一结果意味着在现实世界中基于强盗的系统中存在严重的安全问题,例如,在在线推荐中,攻击者可能能够劫持推荐系统并推销所需的产品。我们提出的攻击算法只需要知道的遗憾率,因此是不可知的受害者玩家所采用的具体的强盗算法。我们还推导出了一个理论上的下限的累积攻击成本,任何受害者不可知的攻击算法必须承担。下界与我们的攻击所达到的上界相匹配,这表明我们的攻击是渐进最优的。
2023-01-30 cs.CR cs.LG
A framework for securing email entrances and mitigating phishing impersonation attacks
针对现有防护偏重邮件内容而忽视邮箱入口与设置的问题,本文提出在发送按钮加入安全码并保护转发设置,以缓解账户劫持和内部钓鱼冒充攻击。
2023-12-07 cs.CR