Attackers Strike Back? Not Anymore -- An Ensemble of RL Defenders Awakens for APT Detection
New York University, NYUAD, Division of Science（纽约大学、NYUAD、科学学院）
本文提出一个融合深度学习、强化学习和主动学习的自适应框架，利用自编码器与多智能体集成防御者，通过主动学习和加权投票机制，实现稳健的APT检测。
2025-08-26 cs.AI cs.CR cs.LG
BRANCH: Bypassing Multi-Scanner AI Guardrails
Mindgard；Lancaster University（兰卡斯特大学）
针对多扫描器AI护栏系统，提出BRANCH分支树搜索绕过方法，可在减少查询量与时间的同时实现100%攻击成功率，且绕过可迁移至多数未见过的护栏。
2026-10-09 cs.AI cs.CR
Adversarial Explainability: Utilizing Explainable Machine Learning in Bypassing IoT Botnet Detection Systems
提出一种利用模型可解释性在黑盒设置下生成对抗样本的攻击，仅修改一个特征即可使训练后的 IoT 僵尸网络检测系统检测率降至 0%。
2023-09-29 cs.CR
AI Model Extraction Attacks: Bypassing Single-Client Assumptions in Defenses
ETH Zurich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）；University of Tübingen（图宾根大学）
本文通过提出CerberusAI框架，系统性地证明模型提取攻击中的单客户端假设（SCA）在高级持续性威胁（APT）等协同攻击者面前无效，并展示基本轮询查询分布策略即可绕过PRADA等防御机制，呼吁转向无状态、独立于身份的防御架构。
2026-06-02 cs.AI cs.CR
Cache Bypassing and Checkpointing to Circumvent Data Security Attacks on STTRAM
自旋转移力矩随机存储器（STTRAM）是一种很有前途的高速缓存应用。然而，它带来了新的数据安全问题，这些问题在易失性存储器对应物中没有，例如静态RAM（SRAM）和嵌入式动态RAM（eDRAM）。这主要是由于这种存储器技术对环境参数（例如磁场和温度）的基本依赖性，这些参数可以用来篡改存储的数据。在本文中，我们提出了三种技术，使无错计算，而不会停止系统，（a）停止在攻击过程中，系统停止;（b）在逐渐斜坡攻击过程中，最后一级高速缓存（LLC）被绕过，上层高速缓存直接与主存储器交互的高速缓存旁路;以及（c）在突然攻击期间检查点设置以及旁路，其中周期性地保存处理器状态，并且以规则的间隔写回LLC。在攻击期间，系统返回到最后一个检查点，并使用绕过的缓存继续计算。我们进行了模拟不同的持续时间和频率的攻击SPLASH基准套件和结果显示，平均下降8%的IPC的一次攻击持续50%的执行时间。对于持续整个执行期间的攻击，能量开销为2%。
2016-03-20 cs.CR
Virus: Harmful Fine-tuning Attack for Large Language Models Bypassing Guardrail Moderation
Georgia Institute of Technology（佐治亚理工学院）
本文提出名为Virus的有害微调攻击方法，通过微调修改有害数据绕过护栏审核，泄漏率达100%且攻击性能优异，揭示了依赖护栏审核无法解决LLMs固有的安全问题。
2025-01-29 cs.AI cs.CL cs.CR
Bypassing Prompt Injection Detectors through Evasive Injections
Centre for Secure Information Technologies（安全信息技术中心）；Queen's University Belfast（贝尔法斯特女王大学）
本文提出了一种多探针规避攻击，通过优化后缀同时欺骗所有层间漂移检测器，实验显示其在Phi-3和Llama-3上成功绕过检测器的高成功率，提出基于对抗后缀增强的防御方法。
2026-04-01 cs.AI cs.CR
MemPoison: Bypassing Selective Memory Mechanisms to Plant Backdoors in LLM Agents
North China Electric Power University（华北电力大学）；Tencent（腾讯）；Tsinghua University（清华大学）
提出MemPoison攻击方法，通过语义关系桥、实体伪装和联合嵌入优化绕过选择性记忆机制，在LLM Agent长期记忆中注入触发器后门，实现高达0.95的攻击成功率。
2026-09-29 cs.AI cs.CR
Fooling Reward Models with Gibberish: Adversarial Examples Beyond the Semantic Regime
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Independent Researcher（独立研究员）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文提出Token Mapping Perturbation Attack（TOMPA）框架，通过在标记空间中进行对抗优化，发现非语言标记模式以提升奖励模型性能，揭示了当前RLHF流程的关键漏洞。
2026-11-03 cs.AI cs.LG
Physical-Layer Signal Injection Attacks on EV Charging Ports: Bypassing Authentication via Electrical-Level Exploits
Tsinghua University（清华大学）；Beihang University（北京航空航天大学）
本文研究了电动汽车充电协议的安全性，揭示了通过物理信号注入攻击绕过认证的漏洞，并提出PORTulator硬件验证攻击可行性，通过增强认证电路设计提升安全性。
2025-06-19 cs.CR
An Empirical Case Study of Prompt Engineering Strategies for Bypassing Multi-Layer Agent Security Defenses
本文通过OpenClaw攻防挑战开展实证研究，分析提示工程策略对多层智能体安全防御的绕过效果，发现指令安全性与攻击准确率存在权衡，多层防御可大幅限制提示工程的作用。
2026-10-14 cs.CR
SurrogatePrompt: Bypassing the Safety Filter of Text-to-Image Models via Substitution
Zhejiang University（浙江大学）
本文提出SurrogatePrompt框架，通过战略性替换高风险部分并利用大语言模型等模块自动化生成攻击提示词，成功绕过Midjourney安全过滤器生成不安全图像，揭示了闭源模型的安全漏洞。
2024-10-17 cs.CR cs.CV
FragFuse: Bypassing Access Control of Large Language Model Agents via Memory-Based Query Fragmentation and Fusion
University of Georgia（佐治亚大学）；University of Chicago（芝加哥大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出FragFuse攻击，利用LLM智能体的长期记忆机制，将违禁内容碎片化存储后融合重构，绕过访问控制，平均绕过成功率达86.3%。
2026-06-16 cs.AI cs.CR
Peak + Accumulation: A Proxy-Level Scoring Formula for Multi-Turn LLM Attack Detection
提出一种基于峰值和累积的代理层评分公式，用于多轮LLM攻击检测，实现高召回率和低误报率。
2026-03-05 cs.AI cs.CR
Distillability of LLM Security Logic: Predicting Attack Success Rate of Outline Filling Attack via Ranking Regression
本文通过排序回归方法，研究LLM安全逻辑的可蒸馏性，提出改进的轮廓填充攻击以预测攻击成功率，实验表明代理模型在预测安全边界方面具有较高准确性。
2025-11-27 cs.AI cs.CR
AVA: Inconspicuous Attribute Variation-based Adversarial Attack bypassing DeepFake Detection
Shandong University（山东大学）；City University of Hong Kong（香港城市大学）
本文提出 AVA 对抗攻击，通过高斯先验与语义判别器在属性潜在空间施加人类难察的语义变化，可绕过现有 DeepFake 检测防御，并在九种检测器及两个商用系统上取得高攻击成功率。
2023-12-14 cs.CR cs.CV
ProxyPrompt: Securing System Prompts against Prompt Extraction Attacks
Saarland University（萨尔兰大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）；CISPA Helmholtz Center for Information Security（CISPA赫尔霍夫信息安全中心）
本文提出ProxyPrompt，通过替换原始提示以防止提示泄露，有效保护94.70%的提示免受提取攻击，优于现有防御方法。
2026-04-29 cs.CR
A Proxy Attack-Free Strategy for Practically Improving the Poisoning Efficiency in Backdoor Attacks
Nanjing University of Information Science and Technology（南京信息工程大学）；University of Science and Technology of China（中国科学技术大学）；Huawei Technologies Co. Ltd.（华为技术有限公司）；Huazhong University of Science and Technology（华中科技大学）；China Academic of Electronics and Information Technology（中国电子信息产业发展研究院）
本文提出无代理攻击策略PFS，利用干净样本与投毒样本的相似性及投毒集多样性高效选择投毒样本，在提升后门攻击效率的同时大幅加快样本选择速度。
2024-09-30 cs.CR cs.CV
TokenBreak: Bypassing Text Classification Models Through Token Manipulation
HiddenLayer
本文提出 TokenBreak 攻击，利用文本分类模型的分词差异操纵输入以绕过安全防护，并给出一种无需重训的防御层。
2025-06-09 cs.CR cs.LG
Bypassing memory safety mechanisms through speculative control flow hijacks
在过去的几十年中，内存损坏漏洞的流行导致了许多防御措施，如堆栈金丝雀，控制流完整性（CFI）和内存安全语言。这些防御可以防止整个类别的漏洞，并有助于提高程序的安全状态。在本文中，我们表明，内存损坏防御可以绕过使用投机执行攻击。我们研究了Go中的堆栈保护器，CFI和边界检查的情况，演示了在何种条件下它们可以通过一种形式的投机控制流劫持绕过，依赖于控制流数据的投机或架构重写。通过将受害者的推测控制流重定向到访问秘密数据并充当侧通道发送的小工具，信息被泄露。我们还首次证明，这可以通过将多个小工具拼接在一起来实现，这是一种投机性的面向回报的编程攻击。我们讨论并实施软件缓解措施，显示出中等的性能影响。
2021-04-19 cs.CR
Super Suffixes: Bypassing Text Generation Alignment and Guard Models Simultaneously
MITRE（MITRE公司）；Worcester Polytechnic Institute（沃斯顿理工学院）
本文提出超后缀技术，通过联合优化绕过Llama Prompt Guard 2，同时提出DeltaGuard检测方法提升对抗性提示防御效果。
2025-12-12 cs.AI cs.CR
Trojan-Speak: Bypassing Constitutional Classifiers with No Jailbreak Tax via Adversarial Finetuning
University College London（伦敦大学学院）
本文提出Trojan-Speak方法，通过结合课程学习和GRPO混合强化学习，利用对抗微调规避Anthropic的宪法分类器，实现99%以上的分类器规避，同时保持低的推理能力下降。
2026-03-30 cs.AI cs.CL cs.CR
Bypassing Prompt Guards in Production with Controlled-Release Prompting
UC Berkeley（加州大学伯克利分校）；zkBricks Inc（zkBricks公司）；Ethereum Foundation（以太坊基金会）；NYU Shanghai（纽约大学上海分校）
针对AI对齐的提示过滤存在理论上的不可能性，本文提出受控释放提示攻击，利用轻量级输入过滤器与主模型之间的资源不对称性，在实际部署的大语言模型系统中成功绕过提示守卫。
2026-06-11 cs.CR cs.LG
Bypassing Copyright Protection in Diffusion-based Customization via Two-Stage Latent Feature Optimization
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）
提出两阶段潜在特征优化（TS-LFO）攻击方法，通过潜在去噪和重建阶段恢复被防御破坏的映射，有效绕过扩散模型定制中的版权保护。
2026-06-06 cs.AI cs.CR cs.CV
Reverse Proxy Framework using Sanitization Technique for Intrusion Prevention in Database
随着互联网在我们日常生活中的重要性越来越大，Web应用程序中的数据安全变得非常重要。随着在线实时的事务服务的日益增多，与数据库安全相关的问题也日益增多。攻击者使用非法和未经授权的方法劫持机密信息，如用户名，密码和其他重要细节。因此，实时的事务需要针对基于web的攻击的安全性。SQL注入和跨站脚本攻击是最常见的应用层攻击。SQL注入攻击者通过Web应用程序输入字段、URL或隐藏参数传递SQL语句，并访问数据库或更新数据库。攻击者利用用户提供的数据，将用户输入作为SQL代码处理。利用此漏洞，攻击者可以直接在数据库上执行SQL命令。SQL注入攻击是最严重的威胁，它将用户输入集成到SQL查询中。反向代理是一种用于清理可能转化为数据库攻击的用户输入的技术。在该技术中，数据重定向程序在用户输入被发送到应用服务器之前将其重定向到代理服务器。在代理服务器处，使用净化应用程序来触发数据清理算法。在这个框架中，我们包括检测和净化被发送到数据库的污染信息，并创新一个新的原型。
2013-11-26 cs.CR cs.DB
PAL: Proxy-Guided Black-Box Attack on Large Language Models
UC Berkeley（加州大学伯克利分校）；New York University（纽约大学）
本文提出PAL，首个在纯黑盒查询设置下基于优化的LLM攻击方法，利用代理模型和专为现实API设计的损失函数，在GPT-3.5-Turbo上实现84%攻击成功率，并提出了GCG++和RAL基线，助力LLM安全测试。
2024-02-15 cs.AI cs.CL cs.CR
ASPIRER: Bypassing System Prompts With Permutation-based Backdoors in LLMs
本文提出名为ASPIRER的基于排列触发器的LLM后门攻击，可绕过系统提示词防护，在5个主流模型上实现最高99.50%的攻击成功率，揭示了LLM部署供应链的安全漏洞。
2024-10-05 cs.CR
Advancing Jailbreak Strategies: A Hybrid Approach to Exploiting LLM Vulnerabilities and Bypassing Modern Defenses
Purdue University（普渡大学）
本文提出 GCG + PAIR 和 GCG + WordGame 两种混合越狱方法，整合 token 与 prompt 级别技术，在提升无防御模型攻击成功率的同时保持强迁移性，成功穿透多种现代防御，揭示了现有安全体系的脆弱性。
2025-06-27 cs.AI cs.CL cs.CR
Cascading and Proxy Membership Inference Attacks
Purdue University（普渡大学）；NVIDIA Research（NVIDIA研究）
针对成员推断攻击，提出自适应场景下的级联攻击（CMIA）和非自适应场景下的代理攻击（PMIA），利用成员依赖性或代理样本行为提升推断性能，在低假阳性率下显著优于现有方法。
2025-09-07 cs.CR cs.LG
PURPOSE: Poisoning Conflict Resolution in RAG via Proxy-Fact-Grounded Updates
School of Computer Science, Nanjing University（南京大学计算机科学学院）；State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
本文提出PURPOSE黑盒中毒攻击，通过基于代理事实的非矛盾性更新实现对RAG冲突解决机制的有效攻击，在多数实验设置中攻击成功率显著优于现有方法。
2026-08-06 cs.AI cs.CR
Bypassing LLM Watermarks with Color-Aware Substitutions
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对LLM水印鲁棒性评估的开放问题，提出首个“颜色感知”攻击方法SCTS，通过策略性提示获取颜色信息并用非绿色词元替换绿色词元，以更少编辑次数成功规避检测，并理论上和实验上证明其能移除任意长文本的水印。
2024-03-19 cs.CR cs.CV cs.LG
Humanizing the Machine: Proxy Attacks to Mislead LLM Detectors
The Pennsylvania State University（宾夕法尼亚州立大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Nanjing University（南京大学）；University of Virginia（弗吉尼亚大学）；NEC Laboratories America（美国NEC实验室）
本研究提出一种基于强化学习微调拟人化SLM的代理攻击策略，可在白盒与黑盒设置下误导主流LLM检测器，大幅降低其AUROC，同时保留模型生成质量。
2025-02-22 cs.CL cs.CR cs.LG
HTTP Request Synchronization Defeats Discrepancy Attacks
针对Web代理处理差异导致的缓存中毒和请求走私攻击，提出首个系统性防御方案HTTP Request Synchronization，通过标准HTTP扩展记录请求处理历史，使各代理验证处理一致性，并在5种主流代理上实现验证。
2025-10-11 cs.CR
Cross-Agent Campaign Attribution: Linking Asynchronous Attacks Across LLM Agents
Tynapse
研究跨大语言模型智能体的异步攻击归因问题，提出异步归因指纹向量（$A^2FV$）协议，构建SCD-v1基准，实验表明$A^2FV$在活动关联上表现良好，确立跨智能体活动归因作为保护大语言模型智能体的独特评估层。
2026-07-22 cs.AI cs.CR
Keep on Swimming: Real Attackers Only Need Partial Knowledge of a Multi-Model System
HiddenLayer Inc.（隐层公司）
针对多模型组合系统对抗攻击需全量代理模型的难题，提出仅需最终黑盒模型代理的攻击方法，在有监督图像任务上成功率达80%、扰动更小，且可推广至多类多模型场景。
2024-10-30 cs.AI cs.CR cs.CV
Evaluating Practical Enumeration and Blocking Attacks on the Snowflake Circumvention System
University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）；The Tor Project（Tor项目）
本文通过真实测量与模拟，评估了针对 Snowflake 规避系统的枚举与封锁攻击，发现代理更换限制枚举效果，但封锁顶级自治系统可影响超30%的Snowflake，并提出了已部分集成的缓解措施。
2026-09-14 cs.CR
Flow-based detection and proxy-based evasion of encrypted malware C2 traffic
已知最先进的深度学习技术容易受到规避攻击，其中从恶性样本生成对抗样本并将其误分类为良性。基于TCP/IP流特征的加密恶意软件命令和控制流量的检测可以被构造为学习任务，因此容易受到规避攻击。然而，与例如在图像处理中所生成的对抗样本可以直接映射到图像不同，从流特征到实际TCP/IP分组需要制作分组序列，而没有建立用于这种制作的方法以及对这种制作允许的可修改特征集的限制。在本文中，我们讨论了生成和制作的对抗样本之间的差距的学习和逃避后果。我们使用一个在公共C2流量数据集上训练的深度神经网络检测器，白盒对抗学习和一种基于代理的方法来制作更长的流量。我们的研究结果表明：1）当使用精心制作的对抗样本时，通过在检测器上使用生成的对抗样本获得的高逃避率可以显着降低; 2）通过模型硬化对抗对抗样本的鲁棒性根据精心制作的方法和相应的攻击允许的可修改特征集而变化; 3）用对抗性样本递增地训练硬化模型可以产生一个公平的竞争环境，其中没有检测器对所有攻击都是最好的，也没有攻击对所有检测器都是最好的，在给定的攻击和检测器中。据我们所知，这是第一次在加密的C2恶意软件流量检测中分析公平竞争的功能集和迭代硬化。
2020-09-02 cs.CR
Recovering WPA-3 Network Password by Bypassing the Simultaneous Authentication of Equals Handshake using Social Engineering Captive Portal
本研究提出通过中间人攻击和社会工程学强制门户绕过 WPA3-SAE 握手以恢复网络密码，发现未实施受保护管理帧时可成功获取密码，且部分设备无法兼容 WPA3 过渡网络。
2024-12-19 cs.CR
A Secure Proxy-based Access Control Scheme for Implantable Medical Devices
随着医疗设备的快速发展，越来越多的患者将植入式医疗设备（IMD）安装在他们的身体中，用于诊断、监测和治疗目的。IMD在计算能力和电池容量方面非常有限。同时，IMD必须与外部编程器设备（即，IMD编程器）通过无线信道，这使他们面临未经授权的访问和恶意无线攻击的风险。在本文中，我们提出了一种基于代理的IMD细粒度访问控制方案，该方案可以通过将访问控制计算委托给代理设备（例如，智能手机）。在我们的方案中，代理通过音频电缆与IMD编程器进行通信，该音频电缆能够抵抗许多无线攻击。此外，我们使用密文策略基于属性的加密（CP-ABE），以加强细粒度的访问控制。所提出的方案是在真实的仿真设备上实现的，并通过实验测试进行评估。实验结果表明，该方案是轻量级的、有效的.
2018-06-30 cs.CR
The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search
Georgia Institute of Technology（佐治亚理工学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Tsinghua University（清华大学）；University of California San Diego（加利福尼亚大学圣迭戈分校）；National Taiwan University（台湾大学）；IBM Research（IBM研究院）
通过无害提示编织和自适应树搜索，研究提出CKA-Agent攻击方法，成功绕过商业大语言模型的安全防护，揭示了知识分解攻击的严重性。
2026-10-08 cs.CR
Numerical Evaluation of Cloud-Side Shuffling Defenses against DDoS Attacks on Proxied Multiserver Systems
我们考虑一个基于云的多服务器系统，这可能是基于云的，由一组副本应用程序服务器背后的一组代理（间接）服务器，直接与客户端在互联网上进行交互。我们提供云端主动式和被动式防御，以抵御可能针对此系统的DDoS攻击。DDoS攻击是地方性的，去年秋天发生了一些值得注意的攻击。容量攻击可能以代理为目标，而“低容量”攻击可能以副本为目标。在审查现有的和建议的防御，如改变代理IP地址（一个“移动目标”的技术，以打击僵尸网络的侦察阶段）和过载服务器的裂变，我们专注于评估防御的基础上洗牌客户端到服务器的分配，可以是主动和被动的DDoS攻击。我们的评估是基于一个二项分布模型，以及同意模拟和初步实验的原型，也描述。
2017-08-02 cs.CR
Smart False Data Injection attacks against State Estimation in Power Grid
本文研究了一种新的针对电网状态估计的网络攻击。这类攻击被称为虚假数据注入攻击。我们表明，利用系统配置的知识，攻击者可以成功地将虚假数据注入到某些状态变量中，同时绕过现有的不良数据检测技术。在第一节中，我们考虑了这种攻击的可行性和成功避免检测的必要条件。之后，我们表明，与知识的系统配置，某些线路流量测量可以被操纵，导致有利可图的不当行为。通过控制区域输电组织（RTO）对系统潮流和拥塞的看法，攻击者可以根据先前的投标操纵目标总线的LMP。此外，在本文中，我们展示了虚假数据注入攻击的实现。所考虑的数值例子被应用到恶意数据检测算法，该算法是在微控制器上设计的。仿真结果表明了在电网状态估计中引入虚假量测的有效性。
2018-09-19 cs.CR
Decoupling Reentrancy Protection from Smart Contract Implementation Logic
David R. Cheriton School of Computing University of Waterloo（滑铁卢大学大卫·R·切里顿计算机学院）
提出一种基于代理的通用重入攻击防御方案Sentinel，通过将重入逻辑集成到代理层，实现对多种重入攻击类型的100%覆盖，性能优于现有方案40%以上。
2026-05-24 cs.CR cs.ET
Agentic Copyright Watermarking against Adversarial Evidence Forgery with Purification-Agnostic Curriculum Proxy Learning
Graduate University for Advanced Studies, SOKENDAI（高等研究生院（总研究大学））；National Institute of Informatics（情报学研究所）
针对AI模型版权保护需求，本文提出自认证黑盒水印协议、对抗证据伪造攻击研究、纯化防御及纯化无关课程代理学习方法，有效提升水印模型的安全性、可靠性与性能。
2025-01-13 cs.CR cs.CV
Reasoning-Style Poisoning of LLM Agents via Stealthy Style Transfer: Process-Level Attacks and Runtime Monitoring in RSV Space
college of computer science, National University of Defense Technology（计算机科学学院，国防科技大学）
本研究提出推理风格污染攻击，通过隐蔽方式改变LLM代理的推理风格，导致性能下降并绕过内容过滤，提出运行时监控方法应对该漏洞。
2025-12-16 cs.AI cs.CR
Adversarial Prompting Framework for AI Safety Assessment
Microsoft（微软）
针对人工智能尤其是生成式人工智能应用增加带来的安全问题，提出对抗性提示框架，通过生成多复杂程度的对抗性提示评估模型弹性，在企业环境中实现自动化测试并获定量指标及差异结果。
2026-07-16 cs.AI cs.CR
Virtual camera detection: Catching video injection attacks in remote biometric systems
Department of Research and Development, Verigram（研发部）
本研究提出了一种基于机器学习的虚拟摄像机检测方法，通过训练真实用户会话的元数据，有效识别视频注入攻击并降低恶意绕过风险。
2025-12-11 cs.CR cs.LG
A Learning-Based Attack Framework to Break SOTA Poisoning Defenses in Federated Learning
本文提出一种基于优化的攻击框架，通过绕过裁剪或过滤策略打破联邦学习中新型鲁棒聚合器的SOTA投毒防御，并在多数据集和威胁模型下验证有效性，呼吁开发新型防御措施。
2024-07-25 cs.CR
Penny Wise, Pixel Foolish: Bypassing Price Constraints in Multimodal Agents via Visual Adversarial Perturbations
City University of Hong Kong（香港城市大学）；Peking University（北京大学）
研究发现多模态大语言模型在价格受限环境下易受视觉误导，提出PriceBlind攻击框架，通过语义解耦损失提升图像嵌入精度，实现80%的攻击成功率，并展示鲁棒编码和防御机制对攻击的抑制效果。
2026-04-15 cs.CR cs.CV cs.LG
Towards Effective Prompt Stealing Attack against Text-to-Image Diffusion Models
Nanyang Technological University, Singapore（南洋理工大学）；National University of Singapore, Singapore（新加坡国立大学）；Tsinghua University, China（清华大学）；Agency for Science, Technology and Research (A*STAR), Singapore（科学技术研究局）
Prometheus通过动态修饰符和上下文匹配算法，实现无需训练的提示窃取攻击，有效提升对多种扩散模型的攻击成功率。
2026-01-21 cs.CR
CACHE SNIPER : Accurate timing control of cache evictions
在过去的几年里，微架构侧信道攻击在安全研究中非常突出。高速缓存一直是一个杰出的隐蔽通道，因为它们提供高分辨率和通用的跨核泄漏，即使是简单的用户模式代码执行权限。为了防止这些通用的跨核攻击，所有主要的加密库现在都提供了通过跨核缓存攻击来阻止密钥提取的对策，例如避免秘密相关访问模式和预取数据。在本文中，我们表明，旨在防止简单的缓存攻击的“足够好”的对策保护的实现仍然是脆弱的。我们提出了一种新的攻击，使用一种特殊的定时技术来确定何时开始加密，然后在所需的时刻准确地驱逐数据。这种新的攻击不需要特殊权限，也不需要攻击者和受害者之间的显式同步。我们的攻击的一个关键改进是一种方法，通过利用TSX的瞬时功能并依赖于最近反向工程的L3替换策略，在没有共享内存的情况下，通过单次内存访问从缓存中驱逐数据。我们证明了效率，通过执行异步最后一级缓存攻击，以提取RSA密钥从最新的SSL库，这已特别适应，以避免泄漏的访问模式，并通过提取AES密钥从S盒实现包括在OpenSSL绕过每轮预取打算作为对缓存攻击的保护。
2020-08-27 cs.CR
Investigating Vulnerabilities and Defenses Against Audio-Visual Attacks: A Comprehensive Survey Emphasizing Multimodal Models
Jilin University（吉林大学）；Shanghai Jiao Tong University（上海交通大学）；Nanyang Technological University（南洋理工大学）；Northeastern University（东北大学）
本文针对现有视听攻击综述覆盖类型不全、未涉及最新视听多模态大语言模型攻击的问题，系统综述了对抗、后门、越狱三类视听攻击及相关MLLMs攻击，并提出未来研究的挑战与趋势。
2025-06-13 cs.AI cs.CR cs.MM
Your Voice Assistant is Mine: How to Abuse Speakers to Steal Information and Control Your Phone
以前关于Android平台上基于传感器的攻击的研究主要集中在访问或控制敏感设备组件，如摄像头，麦克风和GPS。这些方法直接从传感器获取数据，需要相应的传感器调用权限。本文提出了一种新的方法（GVS-Attack），通过扬声器从零权限Android应用程序（VoicEmployer）发起权限绕过攻击。GVS-Attack的思想利用了Android系统内置的语音助手模块-- Google Voice Search。通过Android Intent机制，VoicEmployer将Google语音搜索触发到前台，然后在后台播放准备好的音频文件（如“呼叫号码1234 5678”）。谷歌语音搜索可以识别这个语音命令，并执行相应的操作。我们的GVS-Attack设计巧妙，可以伪造短信/电子邮件，访问隐私信息，传输敏感数据，并实现远程控制，无需任何许可。此外，我们还发现了Google Search应用程序中的状态检查漏洞，即使手机已使用密码安全锁定，GVS攻击也可以利用该漏洞拨打任意号码。一个原型的VoicEmployer已经实现，以证明GVS攻击在现实世界中的可行性。理论上，几乎所有配备Google Services Framework的Android设备都可能受到GVS攻击的影响。这项研究可能会启发应用程序开发人员和研究人员重新思考零权限并不意味着安全，扬声器可以被视为新的攻击面。
2014-07-18 cs.CR
Foreseeing Reconstruction Quality of Gradient Inversion: An Optimization Perspective
KAIST（韩国科学技术院）
本文从优化视角提出损失感知漏洞代理（LAVP），利用Hessian特征值预测梯度反演攻击的重建质量，优于传统梯度范数，提升联邦学习安全性。
2023-12-19 cs.CR cs.CV cs.LG
