Ellipsoid Control: A White-list Jailbreak Defense via Benign Latent Modeling
University of Technology Sydney(悉尼科技大学)
提出一种基于白名单视角的测试时防御方法Ellipsoid Control,通过拟合良性数据的各向异性椭球约束投影梯度下降,在任意输入上触发拒绝同时最小化良性潜在几何的扭曲,从而在增强安全性的同时保持模型效用。
2026-05-23 cs.CR
Training with More Confidence: Mitigating Injected and Natural Backdoors During Training
Rutgers University(罗格斯大学)
后门或木马攻击是对深度神经网络(DNN)的严重威胁。研究人员发现,在良性数据和设置上训练的DNN也可以学习后门行为,这被称为自然后门。现有的反后门学习工作是基于弱观察,即后门和良性行为可以在训练过程中区分。具有缓慢中毒的自适应攻击可以绕过这种防御。此外,这些方法不能保护自然后门。我们发现了后门相关神经元和良性神经元之间的根本区别:后门相关神经元形成一个超平面,作为所有受影响标签的输入域的分类表面。通过进一步分析训练过程和模型架构,我们发现分段线性函数导致了这个超平面表面。在本文中,我们设计了一种新的训练方法,迫使训练避免生成这样的超平面,从而去除注入的后门。我们在五个数据集上针对五种最先进的攻击进行了广泛的实验,并且进行了良性训练,结果表明我们的方法可以超越现有的最先进的防御方法。平均而言,使用NONE训练的模型的ASR(攻击成功率)在标准中毒后门攻击下比未防御的模型低54.83倍,在自然后门攻击下低1.75倍。我们的代码可在https://github.com/RU-System-Software-and-Security/NONE上获得。
2022-10-27 cs.AI cs.CR cs.LG
CloudShield: Real-time Anomaly Detection in the Cloud
Princeton University(普林斯顿大学)
在云计算中,如果可以通过自动异常检测系统来检测可疑活动,则是期望的。尽管异常检测在过去已经被研究过,但是在云计算中它仍然是未解决的。挑战是:描述云服务器的正常行为,区分良性和恶意异常(攻击),并防止由于错误警报而导致的警报疲劳。我们提出了CloudShield,一个实用的和通用的实时的【形】异常和攻击检测系统的云计算。Cloudshield使用具有不同云工作负载的通用预训练深度学习模型来预测正常行为,并通过检查模型重建误差分布来提供实时的【形】连续检测。一旦检测到异常,为了减少警报疲劳,CloudShield会通过检查预测误差分布来自动区分良性程序、已知攻击和零日攻击。我们在代表性的云基准上评估了建议的CloudShield。我们的评估表明,使用模型预训练的CloudShield可以适用于广泛的云工作负载。特别是,我们观察到CloudShield可以检测最近提出的投机执行攻击,例如,幽灵和熔毁攻击,以毫秒计。此外,我们还表明,CloudShield可以准确地区分已知攻击和潜在的零日攻击与良性程序并确定其优先级。因此,它可以显著减少高达99.0%的误报。
2021-08-25 cs.CR cs.LG
ConfuGuard: Using Metadata to Detect Active and Stealthy Package Confusion Attacks Accurately and at Scale
针对现有包混淆攻击防御存在误报率高、覆盖生态有限等问题,研究提出ConfuGuard检测器,利用包元数据识别良性包,支持7类注册表,误报率降至28%,已在工业场景检出630起真实攻击。
2025-08-01 cs.CR cs.SE
Differential Analysis of Triggers and Benign Features for Black-Box DNN Backdoor Detection
New York University(纽约大学);New York University Abu Dhabi(纽约大学阿布扎比分校);NYUAD Research Institute(纽约大学阿布扎比分校研究院)
针对黑盒场景下DNN后门攻击检测问题,提出基于触发器与良性特征影响差异的五项指标,结合多个新颖性检测器及元检测器实现高效检测,仅需极小干净数据集且可增量改进。
2023-07-14 cs.CR cs.LG
Bayesian Estimation of Differential Privacy
Microsoft Research(微软研究院);Microsoft(微软公司);University College London(伦敦大学学院)
差分私有SGD等算法能够训练具有正式隐私保证的机器学习模型。然而,这些算法在理论上保证的保护与它们在实践中提供的保护之间存在差异。一个新兴的工作链经验性地估计由不同的私人训练提供的保护,作为用于训练模型的隐私预算$\varepsilon$的置信区间。现有方法从成员推断攻击的假阳性和假阴性率的置信区间导出$\varepsilon$的置信区间。不幸的是,使用这种方法获得$ε$的窄高置信区间需要不切实际的大样本量和训练与样本一样多的模型。我们提出了一种新的贝叶斯方法,大大减少了样本量,并适应和验证了启发式绘制一个以上的样本每个训练模型。我们的贝叶斯方法利用假设检验解释的差分隐私获得后$\varepsilon$(不只是一个置信区间)的联合后的假阳性和假阴性率的成员推断攻击。对于相同的样本量和置信度,我们推导出$\varepsilon$的置信区间比之前的工作窄40%左右。我们从仅标签DP中改编的启发式方法可以用于进一步减少获得足够样本所需的训练模型数量,最多可减少2个数量级。
2022-06-15 cs.CR cs.LG
Rethinking Fraud Safety Evaluation: Multi-Round Attacks Reveal Safety-Utility Tradeoffs in Graph-Context LLM Defenders
Curtin University(科廷大学)
本文通过多轮攻击评估欺诈防御系统,发现图上下文防御在早期安全拒绝方面优于纯文本基线,但同时产生更多的良性误报,揭示了安全与效用之间的权衡。
2026-05-20 cs.CR
Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics
Huazhong University of Science and Technology(华中科技大学);Changsha University of Science and Technology(长沙理工大学);Xiangtan University(湘潭大学);City University of Macau(澳门城市大学);Griffith University(格里菲斯大学)
提出流形轨迹动力学(MTK)方法,通过分析提示词在模型层间的邻域结构演化来检测越狱攻击,在伪恶意提示和自适应攻击下均表现鲁棒。
2026-06-05 cs.CR
The Price of Safety: Benign-Case Utility and Token Overhead of Memory-Poisoning Defenses in LLM Agents
本研究测量LLM智能体记忆投毒防御在良性流量下的效用与Token开销,发现写入时防御无显著成本,而读取时重排序器导致准确率下降和误隔离,拦截位置决定代价。
2026-11-06 cs.AI cs.CR
SA-DRL: Security-Aware Deep Reinforcement Learning for Ransomware Detection with Asymmetric Reward Design
School of Computing, Mathematics and Engineering, Charles Sturt University(查尔斯史都华大学计算、数学与工程学院);AI and Cyber Futures Center, Charles Sturt University(查尔斯史都华大学人工智能与网络未来中心)
研究针对勒索软件检测中误报和漏报后果不同的问题,提出SA-DRL框架,通过非对称奖励设计及SOMS标准等,利用深度强化学习智能体进行检测,实验表明该方法能提升检测性能,凸显奖励函数设计的重要性。
2026-07-09 cs.CR
Latent Adversarial Detection: Adaptive Probing of LLM Activations for Multi-Turn Attack Detection
Mountain View, CA(山景城,加利福尼亚州)
本文通过分析LLM激活层的轨迹特征,提出对抗性不稳定性概念,提升多轮攻击检测精度,验证了模型家族间的信号一致性及数据分布对泛化能力的影响。
2026-04-30 cs.AI cs.CR
Attacks Meet Interpretability: Attribute-steered Detection of Adversarial Samples
Purdue University(普渡大学)
对抗性样本攻击会干扰良性输入,从而导致DNN的错误行为。最近的研究表明,这类攻击的广泛存在和破坏性后果。现有的防御技术要么假设特定攻击的先验知识,要么由于其基本假设而无法在复杂模型上很好地工作。我们认为,对抗性样本攻击与DNN模型的可解释性深深纠缠在一起:虽然良性输入的分类结果可以根据人类可感知的特征/属性进行推理,但对抗性样本的结果很难解释。因此,我们提出了一种新的对抗性样本检测技术的人脸识别模型,基于可解释性。它具有一种新的属性和内部神经元之间的双向对应推理,以识别对单个属性至关重要的神经元。关键神经元的激活值被增强以放大计算的推理部分,而其他神经元的值被减弱以抑制不可解释部分。将变换后的分类结果与原模型的分类结果进行比较,从而检测出攻击者。结果表明,我们的技术对7种不同类型的攻击可以达到94%的检测准确率,对良性输入的误报率为9.91%。相比之下,最先进的特征挤压技术只能达到55%的准确率,23.3%的误报率。
2018-10-27 cs.AI cs.CR cs.LG
When Embedding-Based Defenses Fail: Rethinking Safety in LLM-Based Multi-Agent Systems
Rice University(稻属大学);University of Virginia(弗吉尼亚大学)
研究探讨了基于嵌入的防御在多智能体系统中的失效模式,提出利用置信度信号提升系统鲁棒性,通过实验验证了早期干预的重要性。
2026-07-01 cs.CR cs.LG cs.MA
Do Agents Dream of False Memories? Black-box Visual Attacks on Long-term Memory in Multimodal AI Agents
University of California, Irvine(加州大学尔湾分校)
研究针对多模态人工智能智能体长期记忆的黑盒视觉攻击,提出Lucid框架,通过制作扰动实现记忆中毒和注入两种攻击模式,在多种对话领域和架构上评估,揭示了多模态记忆管道的结构漏洞。
2026-07-20 cs.CR cs.CV cs.LG
Utility Under Attack: Agent Memory Poisoning and the Limits of Content Screening and Provenance Ranking
Quantify Labs Ltd(Quantify实验室有限公司)
该研究针对智能体记忆投毒问题,测试了内容筛选和来源排序的防御效果,发现仅内容筛选无法抵御投毒,来源加权检索也存在局限,主张采用有限占用约束并发布了相关资源。
2026-08-24 cs.AI cs.CR
FedSurrogate: Backdoor Defense in Federated Learning via Layer Criticality and Surrogate Replacement
The University of Manchester, UK(英国曼彻斯特大学);Institute for Infocomm Research, A*STAR, Singapore(新加坡信息通信研究所);Monash University, Australia(澳大利亚墨尔本大学);COSIC, KU Leuven, Belgium(比利时列日大学COSIC实验室)
FedSurrogate通过双向梯度对齐过滤与层适应性异常检测,有效降低非独立同分布数据下的误报率,同时提升主任务准确率和攻击成功率控制。
2026-05-11 cs.CR cs.LG
COGNIT-Guard: Calibrated Standalone Direct-Decision Guardrails with Heterogeneous CPU-NPU Confidence Cascading under Explicit Latency and False-Positive Constraints
Guangdong Polytechnic Normal University(广东技术师范大学)
COGNIT-Guard提出CPU快速门控与NPU直接决策模型级联的护栏,在延迟约束下实现校准决策,降低假阳性并提升OOD鲁棒性。
2026-09-29 cs.CR cs.LG
Cross-Domain Joint DDoS Detection in Multi-Controller SDN via Confidence-Based Entropy Fusion
National Engineering Research Center for Mobile Network Technologies, Beijing University of Posts and Telecommunications(北京邮电大学移动通信国家重点实验室)
针对多控制器SDN中基于熵的DDoS检测器存在的汇聚偏差问题,提出跨域置信度融合框架,有效降低汇聚控制器误报率并提升F1分数。
2026-08-19 cs.CR
FALCON-C: Flow-based Analysis and Labeling for Connected Vehicular Network Cybersecurity
Mississippi State University(密西西比州立大学)
提出FALCON-C框架,利用自编码器对CICEVSE2024数据集中的少量良性流进行异常检测,通过重构误差识别恶意流,实现100%准确率,并通过优化决策边界将性能提升8.6%。
2026-05-22 cs.CR
Feature-level Malware Obfuscation in Deep Learning
我们考虑用深度学习模型检测恶意软件的问题,其中恶意软件可能与大量的良性代码相结合。这方面的例子包括对系统的捎带和特洛伊木马攻击,其中恶意行为隐藏在有用的应用程序中。这种增加恶意软件的灵活性使得代码混淆明显增加。因此,我们专注于静态功能的使用,特别是Intents、API和API调用,我们认为这些功能最终无法在Android系统中隐藏,而只能增加更多这样的功能。我们首先使用良性和恶意软件样本的特征来训练用于恶意软件分类的深度神经网络分类器。然后,我们证明了假阴性率的急剧增加(即,攻击成功),只需将良性应用程序的功能随机添加到恶意软件即可。最后,我们测试了使用数据增强来强化分类器以抵御此类攻击。我们发现,对于API调用,可以拒绝绝大多数攻击,而使用Intents或Intent则不太成功。
2020-02-10 cs.CR cs.LG stat.ML
With False Friends Like These, Who Can Notice Mistakes?
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics(南京航空航天大学计算机科学与技术学院);MIIT Key Laboratory of Pattern Analysis and Machine Intelligence(工业和信息化部模式分析与机器智能重点实验室);College of Computer Science, Chongqing University(重庆大学计算机学院);JD AI Research(京东人工智能研究院)
在机器学习中,由显式对手制作的对抗性示例引起了人们的极大关注。然而,潜在的假朋友所带来的安全风险在很大程度上被忽视了。在本文中,我们揭示了虚伪的例子的威胁-输入最初被错误分类,但被虚假的朋友干扰,以迫使正确的预测。虽然这种扰动的例子似乎是无害的,但我们第一次指出,它们可能被恶意地用来掩盖不合格的错误(即,不像要求的那样好)模型。一旦部署人员相信了这种虚伪的性能,并将“表现良好”的模型应用到实际应用中,即使在良性环境中也可能发生意外的故障。更严重的是,这种安全风险似乎无处不在:我们发现许多类型的不合格模型很容易受到多个数据集上的虚伪示例的影响。此外,我们提供了第一次尝试,以描述的威胁与度量称为虚伪的风险,并试图规避它通过几个对策。结果表明,对策的有效性,而风险仍然是不可忽视的,即使在自适应鲁棒训练。
2021-12-13 cs.CR cs.LG
Detection of False-Reading Attacks in the AMI Net-Metering System
Tennessee Tech. University(田纳西理工大学);Idaho State University(爱达荷州立大学);Umm Al-Qura University(乌姆·库拉大学)
在智能电网中,恶意客户可能会危及他们的智能电表(SM)报告虚假读数,以非法获取经济利益。报告错误的读数不仅会给公用事业造成巨大的经济损失,而且还可能降低电网性能,因为报告的读数用于能源管理。本文是第一个工作,研究这个问题的净计量系统,其中一个SM是用来报告之间的差异,消耗的功率和发电量。首先,我们通过处理真实的功耗和发电数据集来为净计量系统准备一个良性的数据集。然后,我们提出了一套新的攻击网络计量系统创建恶意数据集。之后,我们分析了数据,发现了净仪表读数之间的时间相关性,以及读数与从可靠来源(如太阳辐照度和温度)获得的相关数据之间的相关性。在数据分析的基础上,提出了一种通用的基于多数据源深度混合学习的检测器来识别伪读攻击。我们的检测器除了来自可信来源的数据外,还根据所有客户的净仪表读数进行训练,以通过学习它们之间的相关性来提高检测器性能。这里的基本原理是,虽然攻击者可以报告错误的读数,但他不能操纵太阳辐照度和温度值,因为它们超出了他的控制范围。实验结果表明,该检测器能够以较高的检测率和较低的虚警率识别出虚假阅读攻击。
2020-12-02 cs.CR cs.LG
GateDrain: Availability Attacks and Admission-Side Defense for Confidence-Gated Edge-Cloud Inference
Hofstra University(霍夫斯特拉大学);Norwegian University of Science and Technology(挪威科技大学)
GateDrain揭示置信度门控边缘-云推理的可用性漏洞,通过扰动降低置信度将请求重定向至云队列造成延迟恶化,并提出结合准入预算与优先级的Bounded Escalation防御策略。
2026-09-29 cs.CR
ALIBI: Adversarial Legitimacy Injection in Binary Input against LLM Malware Analyzers
ResearchLab(78研究实验室)
提出ALIBI攻击,通过向二进制文件注入虚假安全叙述的只读节,使LLM恶意软件分析器将恶意样本误判为良性,并验证了跨模型与格式的迁移性,强调需来源检查防御。
2026-09-18 cs.CR cs.LG
PDF-Malware: An Overview on Threats, Detection and Evasion Attacks
Université Polytechnique Hauts-De-France(上法兰西理工大学);CNRS(法国国家科学研究中心)
近年来,可移植文档格式(Portable Document Format,简称PDF)已成为文档交换和传播的民主化标准。这种趋势是由于其灵活性和跨平台可移植性等特性。PDF的广泛使用在良性用户中建立了固有安全的错误印象。然而,PDF的特性促使黑客利用各种类型的漏洞,克服安全保障措施,从而使PDF格式成为最有效的恶意代码攻击载体之一。因此,有效地检测恶意PDF文件是至关重要的信息安全。在文献中已经提出了几种分析技术,无论是静态的还是动态的,以提取允许区分恶意软件文件和良性文件的主要特征。由于经典的分析技术在零日的情况下可能受到限制,因此基于机器学习的技术最近已经作为能够从一组训练样本中概括的自动PDF恶意软件检测方法出现。这些技术本身面临着规避攻击的挑战,其中恶意PDF被转换为看起来是良性的。在这项工作中,我们给出了一个概述的PDF恶意软件检测问题。我们对新的挑战和新兴的解决方案提出了看法。
2021-07-27 cs.AI cs.CR
SelfGrader: LLM Jailbreak Detection via Anchored Token-Level Logits
Department of Computer Science and Engineering, University of Nevada, Reno(内华达大学里诺分校计算机科学与工程系);Oak Ridge National Laboratory(橡树岭国家实验室)
提出SelfGrader方法,利用锚定令牌级对数概率将越狱检测转化为数值评分问题,实现低延迟、低误报率的鲁棒检测。
2026-05-28 cs.AI cs.CR
A False Sense of Security? Revisiting the State of Machine Learning-Based Industrial Intrusion Detection
RWTH Aachen University(亚琛工业大学);Fraunhofer FKIE(弗劳恩霍夫通信、信息处理与人机工程研究所)
基于异常的入侵检测通过对系统行为进行建模,并在出现异常时发出相应的警报,从而检测出对工业控制系统的新型或未知攻击。由于人工创建这些行为模型既繁琐又容易出错,因此研究重点集中在机器学习上,自动训练这些行为模型,检测率达到99%以上。然而,这些方法通常不仅在良性流量上训练,而且在攻击上训练,然后针对用于训练的相同类型的攻击进行评估。因此,它们在未知(未接受过训练)攻击上的实际真实表现仍不清楚。反过来,报告的基于机器学习的入侵检测近乎完美的检测率可能会产生虚假的安全感。为了评估这种情况并阐明基于机器学习的工业入侵检测的真正潜力,我们开发了一种评估方法,并从文献中检查了多种方法对未知攻击的性能(排除在训练之外)。我们的研究结果强调了检测未知攻击的无效性,对于某些类型的攻击,检测率下降到3.2%至14.7%之间。展望未来,我们提出了对基于机器学习的方法进行进一步研究的建议,以确保其检测未知攻击的能力的清晰度。
2022-05-18 cs.CR cs.LG
An Adaptive Black-box Defense against Trojan Attacks (TrojDef)
New Jersey Institute of Technology(新泽西理工学院);Jordan University of Science & Technology(约旦科技大学);Qatar Computing Research Institute(卡塔尔计算研究所);HBKU(哈马德·本·哈利法大学)
特洛伊木马后门是一种针对神经网络(NN)分类器的中毒攻击,其中对手试图利用(高度期望的)模型重用属性,通过中毒的训练过程将特洛伊木马植入后门漏洞的模型参数中。大多数针对木马攻击的防御措施都假设白盒设置,其中防御者可以访问NN的内部状态,也可以通过它运行反向传播。在这项工作中,我们提出了一个更实用的黑盒防御,称为TrojDef,它只能运行NN的前向传递。TrojDef尝试识别和过滤特洛伊输入(即,当输入被随机噪声反复扰动时,通过监视预测置信度的变化,来检测用特洛伊触发器增强的输入)。我们推导出一个函数的基础上的预测输出,这是所谓的预测置信界,以决定是否输入的例子是木马或没有。直觉是,特洛伊输入更稳定,因为错误分类仅取决于触发器,而良性输入在由于分类特征的扰动而增加噪声时会受到影响。通过数学分析,我们表明,如果攻击者是完美的注入后门,木马感染模型将被训练学习适当的预测置信区间,这是用来区分木马和良性输入下的任意扰动。然而,由于攻击者在注入后门方面可能并不完美,因此我们引入了一种非线性变换来预测置信区间,以提高实际设置中的检测精度。广泛的实证评估表明,TrojDef的性能明显优于最先进的防御,并且在不同的设置下非常稳定,即使分类器架构,训练过程或超参数发生变化。
2022-09-05 cs.CR cs.CV
ConfGuard: A Simple and Effective Backdoor Detection for Large Language Models
针对现有LLM后门防御方法性能差、延迟高的问题,提出基于“序列锁定”现象的ConfGuard方法,通过监控token置信度滑动窗口检测后门,实现近100%TPR、可忽略FPR且实时无额外延迟。
2025-11-11 cs.CL cs.CR
NeuroArmor: Safe-Variant-Guided Representation Consistency for Selective Re-Anchoring in Jailbreak Defense
University of Science and Technology of China(中国科学技术大学)
提出NeuroArmor白盒运行时防御方法,通过为每个提示构建安全变体作为局部安全参考,在隐藏状态空间进行一致性检查并路由异常,有效降低恶意攻击成功率同时保持低误报率。
2026-06-02 cs.AI cs.CR
Defenses Against Prompt Attacks Learn Surface Heuristics
University of Southern California(南加州大学);University of California, Berkeley(加州大学伯克利分校);Washington University in St. Louis(圣路易斯华盛顿大学);Amazon(亚马逊公司);Johns Hopkins University(约翰霍普金斯大学)
本文研究了对抗提示攻击防御中表面启发式的问题,发现现有方法易受表面模式影响,提出受控数据集和系统评估以揭示监督微调的局限性。
2026-01-12 cs.AI cs.CR
An Empirical Analysis of CodeQL False Positives and Query Refinements for Java Vulnerabilities
College of Computing & Informatics Drexel University(德雷塞尔大学计算与信息学院);Department of Computer Science Cornell University(康奈尔大学计算机科学系)
该研究分析Java漏洞的CodeQL误报模式,实现查询优化可减少大量误报,还验证了智能编码工具能将优化模式适配新项目,支持以优化为导向的SAST工作流以降低排查工作量。
2026-09-16 cs.CR cs.PL cs.SE
Automated Alert Classification and Triage (AACT): An Intelligent System for the Prioritisation of Cybersecurity Alerts
Sophos(Sophos公司);Flare
本文提出AACT智能系统,通过学习分析师分诊决策实时自动关闭良性警报并优先处理关键警报,在真实SOC中六个月减少61%分析师可见警报,漏报率仅1.36%。
2025-05-14 cs.CR cs.LG stat.AP
Full-range Binary Classifier Calibration for Stable Model Updates in Production
Cisco AI Defense(思科人工智能防御)
针对对抗环境中检测模型面临的问题,引入基于现有校准原语的方法,使模型输出分数有一致FPR含义,降低FPR误差,且交付工件小,为生产中模型稳定更新提供了有效解决方案。
2026-07-08 cs.AI cs.CR cs.LG
AdaSteer: Your Aligned LLM is Inherently an Adaptive Jailbreak Defender
Harbin Institute of Technology(哈尔滨工业大学);Singapore Management University(新加坡管理大学);National University of Singapore(国立新加坡大学)
AdaSteer 提出一种基于激活引导的自适应越狱防御方法,利用拒绝定律和危害性定律动态调整引导系数,在多个 LLM 上实现优于基线的防御效果且几乎不影响模型实用性。
2025-09-19 cs.CL cs.CR
Adversarial Trust Poisoning in Vehicular Collaborative Perception
Connected and Autonomous Vehicles(连接与自动驾驶车辆);Collaborative Perception(协同感知)
该研究提出TrustFlip攻击,利用一致性防御机制污染对良性车辆的信任评分,导致系统感知能力下降甚至安全故障,同时提出TrustReflect作为缓解措施。
2026-09-01 cs.AI cs.CR
Uncovering and Understanding FPR Manipulation Attack in Industrial IoT Networks
本文揭示了工业物联网网络中的一种新型FPR操纵攻击,通过利用MQTT协议知识对良性流量进行扰动,导致NIDS误判,并通过实验验证了其高成功率及对安全运营的影响。
2026-01-20 cs.CR cs.LG
DITTO: A Context-aware Pickle-based Pre-Trained Model Scanner for Effective Security Audits
Polytechnique Montreal(蒙特利尔理工学院);University of Liverpool(利物浦大学);Université de Montréal(蒙特利尔大学);University of Calgary(卡尔加里大学)
DITTO是首个基于栈的上下文感知Pickle预训练模型扫描器,通过跟踪虚拟机状态转换与语义分析,在PickleBench基准上实现100%覆盖、0漏报,显著提升安全审计性能。
2026-10-09 cs.CR cs.SE
Representation Transitions Reveal Emerging Safety Risks in Multi-Turn LLM Agents
Singapore Management University(新加坡管理大学);National University of Singapore(新加坡国立大学)
针对多轮LLM智能体攻击,提出DART运行时框架,通过去噪表示转变检测并归因有害行为,在六个模型上将攻击成功率从84%降至25%,优于现有防御。
2026-10-02 cs.AI cs.CR cs.LG
When Modalities Fail to Tango: Conformal Backdoor Detection in Multimodal Contrastive Learning
University of Macau(澳门大学);University of Electronic Science and Technology of China(电子科技大学)
针对多模态对比学习后门检测方法的缺陷,提出CASCADE两阶段共形框架,在CC3M数据集上实现高TPR下低FPR与高AUROC,可应对自适应攻击。
2026-08-06 cs.CR cs.CV cs.LG
SkillScreen: High-Recall Screening of Malicious Agent Skills with Decision Models
University of British Columbia(不列颠哥伦比亚大学);University of Toronto(多伦多大学);Rutgers University(罗格斯大学)
针对合法与恶意智能体技能相似的安全挑战,提出SkillScreen决策模型,在MaliciousSkillBench上实现99%召回率的同时仅标记20%-25%良性技能,泛化能力优于对比模型,验证了任务训练决策模型的高召回率筛查价值。
2026-11-17 cs.AI cs.CL cs.CR