Recommendations for Model-Driven Paradigms for Integrated Approaches to Cyber Defense
北大西洋公约组织（NATO）探索小组会议，“网络防御综合方法的模型驱动范例”，由NATO科学技术组织（STO）信息系统和技术（IST）小组组织，并在2016年期间进行了会议和电子交流。本报告描述了团队工作的进展和结果。网络战和信息保障领域的许多防御活动基本上依赖于临时技术。网络界认识到，全面、系统、基于原则的建模和仿真更有可能为防御性网络行动提供长期、持久、可重复使用的方法。模型驱动范式的前提是建立和验证对任务受评估的组织、任务本身以及支持任务的网络脆弱系统进行建模的机制。无论如何，这都是一个复杂的社会技术系统（系统的），这类问题的详细程度从主机和网络事件到系统功能再到企业功能。解决这类问题的难度是中等到高等，可以部分借鉴系统工程（SE）的进步。这种基于模型的方法和分析可用于探索多种替代缓解和变通战略，并选择最佳缓解行动方案。此外，应用于网络作战的模型驱动范式可能会使网络防御的传统学科受益，如安全、漏洞分析、入侵防御、入侵检测、分析、取证、归因和恢复。
2017-03-09 cs.CR
Feature Distillation: DNN-Oriented JPEG Compression Against Adversarial Examples
Flordia International University（佛罗里达国际大学）；Northeastern University（东北大学）
基于图像压缩的方法来防御对抗性的例子攻击，威胁到深度神经网络（DNN）的安全使用，最近已经研究。然而，现有的工作主要依赖于直接调整压缩率等参数，盲目地减少图像特征，从而在应用防御方法后，缺乏对防御效率（即污染图像的准确性）和良性图像的分类准确性的保证。为了克服这些限制，我们提出了一个基于JPEG的防御性压缩框架，即“特征蒸馏”，以有效地纠正对抗性的例子，而不会影响良性数据的分类准确性。我们的框架使用两步方法显着提升了防御效率和边际精度降低：首先，我们通过在JPEG压缩或解压缩的频域中开发防御性量化来最大化恶意输入扰动的恶意特征过滤，由半解析方法指导;其次，我们通过面向DNN的量化细化过程来抑制良性特征的失真以恢复分类精度。我们的实验结果表明，提出的“特征蒸馏”可以显着超过最新的输入转换为基础的缓解，如绗缝和电视最小化在三个方面，包括防御效率（提高分类精度从$\sim20\%$到$\sim90\%$对抗的例子），防御后的良性图像的准确性（$\le1\%$准确性下降），和处理时间每幅图像（$\sim259\times$加速）。此外，我们的解决方案也可以提供最好的防御效率（$\sim60\%$准确性）对最近的适应性攻击与最小的准确性降低（$\sim1\%$）良性图像相比，其他基于输入变换的防御方法。
2019-04-16 cs.CR cs.CV
A Lifecycle-Oriented Detection and Defense Framework for Price Manipulation Attacks in DeFi
Hainan University（海南大学）
该研究针对DeFi价格操纵攻击，基于预言机生命周期构建三层攻击树，结合Fuzzy-AHP与VaR量化风险，开发基于Slither的自动检测工具，提出多层防御策略，有效降低价格偏差且检测性能优于现有工具。
2026-08-18 cs.CR
When Autonomous Intelligent Goodware will Fight Autonomous Intelligent Malware: A Possible Future of Cyber Defense
在未来几年，军事作战的未来将包括，一方面，人工智能-优化复杂的指挥，控制，通信，计算机，情报，监视和侦察（C4 ISR）和网络，另一方面，自主智能物联网以快速的速度与自主智能物联网作战。从这个角度来看，敌军将试图禁用或干扰我们的自主物和我们复杂的基础设施和系统。我们防御系统的自主性、规模和复杂性将引发新的网络攻击策略，而自主智能恶意软件（AIM）将是其中的一部分。如果这些网络攻击成功，而人类操作员由于任务、系统或攻击的速度、规模或复杂性而没有意识到或无法做出足够快的反应，那么任务将失败，我们的网络和C4 ISR将受到严重破坏，指挥和控制将被禁用。因此，需要新的网络防御理论和技术。自主网络防御（ACyD）是一个新的研究和技术领域，由国防部门推动，以应对未来军事基础设施、系统和行动面临的威胁。它将通过成群的自主智能网络防御代理（AICA）来实现，这些代理将在我们的网络和系统中对抗AIM。本文介绍了这种网络防御技术的未来，在这一领域的技术现状和它的主要挑战。首先，我们回顾ACyD概念及其相关AICA技术的基本原理。然后，我们目前的研究成果，从北约的IST-152研究任务组的AICA参考架构。然后，我们开发了未来几年必须解决的12个主要技术挑战，以及道德和政治问题。
2019-11-25 cs.CR
Cyber Deception for Mission Surveillance via Hypergame-Theoretic Deep Reinforcement Learning
Department of Computer Science, Virginia Tech（弗吉尼亚理工大学计算机科学系）；Computer Network Information Center, Chinese Academy of Sciences（中国科学院计算机网络信息中心）；Department of Computer Science, North Carolina State University（北卡罗来纳州立大学计算机科学系）；US Army Research Laboratory（美国陆军研究实验室）
本文提出基于超博弈深度强化学习的网络欺骗策略，通过诱饵无人机有效防御DDoS攻击，提升任务性能并降低能耗。
2026-03-21 cs.AI cs.CR cs.GT
Reformulation is All You Need: Addressing Malicious Text Features in DNNs
Zhejiang University（浙江大学）；Guizhou Medical University（贵州医科大学）
针对DNN在NLP任务中易受对抗性和后门攻击的问题，提出基于重构模块的统一自适应防御框架，处理恶意文本特征并保持语义，实验证明优于现有基线。
2025-09-25 cs.CL cs.CR cs.LG
How Few-shot Demonstrations Affect Prompt-based Defenses Against LLM Jailbreak Attacks
Peking University（北京大学）
本文研究少样本演示对基于提示的LLM防御策略的影响，发现其对RoP和ToP产生相反效果，提出实用部署建议。
2026-02-04 cs.AI cs.CL cs.CR
Return Oriented Programming - Exploit Implementation using functions
面向返回的编程在十年前首次出现，并通过以小工具的形式重用系统代码来克服缓冲区利用防御机制，如ASLR，DEP（或W^ X），这些小工具被缝合在一起以进行图灵完整攻击。而要实现图灵完全攻击则需要付出更大的努力，这是相当复杂的，并且很少有研究可用于实现图灵完全攻击。因此，在这个项目中，我们将现有研究的知识系统化，这些知识可用于执行图灵完全ROP攻击。
2017-06-26 cs.CR
Approaches to Modeling the Impact of Cyber Attacks on a Mission
一个商业任务的成功在很大程度上取决于支持该任务的通信和信息系统（CIS）。任务影响评估（MIA）旨在帮助将商业或军事行动与网络防御相结合，特别是在弥合作战决策者和网络防御者之间的认知差距方面。近年来，人们对模型驱动的MIA方法越来越感兴趣。这种方法涉及任务、系统和攻击情景模型的构建和模拟，以了解攻击的影响，包括其性质、所涉依赖关系和后果的程度。本文讨论了模型驱动的方法MIA的最新研究的代表性的例子，强调其潜在的价值和严重的剩余挑战的警告。
2017-10-11 cs.CR
Ares: A System-Oriented Wargame Framework for Adversarial ML
Stony Brook University（石溪大学）；IBM Research（IBM研究院）
自从近十年前发现针对机器学习模型的对抗攻击以来，对抗机器学习的研究已经迅速演变成防御者和对手之间的永恒战争，防御者寻求提高ML模型对对抗攻击的鲁棒性，而对手则寻求开发能够削弱或击败这些防御的更好攻击。然而，这个领域几乎没有得到ML从业者的认可，他们既不公开担心这些攻击会影响他们在现实世界中的系统，也不愿意牺牲模型的准确性来追求对这些攻击的鲁棒性。在本文中，我们激励了Ares的设计和实现，Ares是对抗性ML的评估框架，允许研究人员在现实的战争游戏环境中探索攻击和防御。Ares将攻击者和防御者之间的冲突框定为具有相反目标的强化学习环境中的两个代理。这允许引入系统级评估指标，如故障时间和复杂策略的评估，如移动目标防御。我们提供了我们的初步探索的结果，涉及一个白盒攻击者对adversarially训练的后卫。
2022-10-24 cs.AI cs.CR cs.LG
Shakedown: compiler-based moving target protection for Return Oriented Programing attacks on an industrial IoT device
网络犯罪分子使用面向返回的编程技术来攻击系统和物联网设备。虽然已经开发了防御措施，但并非所有防御措施都适用于受限设备。我们介绍了Shakedown，这是一个编译时随机构建工具，它创建了几个版本的二进制文件，每个版本都有不同的内存布局。针对一个设备开发的攻击不会在具有不同内存布局的另一个设备上起作用。我们在一个工业物联网设备上测试了Shakedown，结果表明，在阻止漏洞利用的同时，其正常功能保持不变。
2018-10-11 cs.CR
Non-control-Data Attacks and Defenses: A review
本文综述了非控制数据攻击的分类、防御策略及未来研究方向，指出其破坏性与图灵完备性带来的安全威胁。
2025-03-27 cs.CR
Machine Learning Attack and Defense on Voltage Over-scaling-based Lightweight Authentication
在资源受限的物联网应用中部署轻量级安全协议是一项具有挑战性的任务。针对这一问题，提出了一种基于电压过缩放（VOS）过程中产生的设备签名的面向硬件的轻量级认证协议。基于VOS的认证采用诸如加法器的计算单元来生成与过程变化相关的误差，该误差与秘密密钥相结合以创建双因素认证协议。在本文中，机器学习（ML）为基础的建模攻击，以打破这种认证。我们还提出了一种基于密钥的动态混淆机制（DOMK），用于基于VOS的认证以抵抗ML攻击。实验结果表明，ANN，RNN和CMA-ES可以克隆基于VOS的认证的挑战-响应行为，预测准确率高达99.65%，而部署我们提出的ML弹性技术后，预测准确率低于51.2%。
2018-10-18 cs.CR
Adversarial Attacks on Speech Recognition Systems for Mission-Critical Applications: A Survey
Deakin University（迪肯大学）
机器关键型应用程序是一个系统，它对特定和敏感的操作（如搜索和恢复，救援，军事和应急管理行动）的成功至关重要。机器学习、自然语言处理、话音识别和语音处理技术的最新进展自然允许开发和部署基于语音的会话接口以与各种机器关键应用交互。虽然这些对话界面允许用户发出语音命令来执行战略和关键活动，但它们对对抗攻击的鲁棒性仍然不确定和不清楚。事实上，对抗性人工智能（AI）是指一组试图用欺骗性数据欺骗机器学习模型的技术，是AI和机器学习研究界日益增长的威胁，特别是对于机器关键型应用程序。对抗攻击最常见的原因是在机器学习模型中造成故障。对抗攻击可能需要将不准确或伪造的样本作为模型的训练数据，或者引入恶意设计的数据来欺骗已经训练好的模型。在专注于机器关键型应用的语音识别的同时，在本文中，我们首先回顾了现有的语音识别技术，然后，我们调查了对抗攻击和防御这些系统的有效性，然后概述了研究挑战，防御建议和未来的工作。本文旨在为研究人员和从业人员提供参考，以帮助他们了解所面临的挑战，定位自己，并最终帮助他们改善现有的语音识别模型的关键任务的应用程序。关键词：关键任务应用，对抗性人工智能，语音识别系统。
2022-02-22 cs.CR cs.LG cs.SD
How to Kill Symbolic Deobfuscation for Free; or Unleashing the Potential of Path-Oriented Protections
代码混淆是保护软件知识产权免受逆向工程或代码篡改等攻击的主要工具。然而，最近提出的（自动）攻击的基础上动态符号执行（DSE）显示出非常有前途的结果，从而威胁到软件的完整性。目前的防御措施并不完全令人满意，要么对符号推理效率不高，要么对运行时性能影响太大，要么太容易被发现。我们提出并研究了一类新的反DSE的保护，作为面向路径的保护针对DSE的最薄弱环节，即路径探索。我们提出了一个轻量级的，高效的，耐和分析证明类混淆算法，旨在阻止基于DSE的攻击。广泛的评估表明，这些方法严格地对抗符号去混淆，同时只产生非常轻微的开销。
2019-08-07 cs.CR
BlueSTAR: Tiered Agentic Architecture for Autonomous Cyber Defense
Northeastern University（东北大学）；Dartmouth College（达特茅斯学院）；Vanderbilt University（范德堡大学）；Punch Cyber
BlueSTAR提出分层智能体架构，将安全遥测转为紧凑指标并引入韧性指标，在实时靶场上成功防御多种复杂攻击，兼顾快速遏制与上下文推理。
2026-09-11 cs.CR
BeniFul: Backdoor Defense via Middle Feature Analysis for Deep Neural Networks
Xidian University（西安电子科技大学）
本文提出基于DNN中间特征分析的后门防御方法BeniFul，利用变分自编码器重构距离和特征距离损失实现灰盒后门输入检测与白盒后门消除，在CIFAR-10和Tiny ImageNet上验证了其卓越防御能力。
2024-10-15 cs.CR cs.LG
Building an Emulation Environment for Cyber Security Analyses of Complex Networked Systems
计算机网络正经历着惊人的增长，这是由构成网络的节点数量的快速增加所驱动的。与此同时，互联网和内联网网络上的安全威胁数量不断增长，网络防御解决方案的测试和实验需要单独的测试环境，以最好地模拟真实系统的复杂性。这些环境支持部署和监控复杂的任务驱动的网络场景，从而能够在真实和可控的流量和攻击场景下研究网络防御策略。在本文中，我们提出了一种方法，利用网络和安全评估的技术相结合，并使用云技术来建立一个仿真环境，与实际的参考网络或计划中的系统具有可调程度的亲和力。作为一个副产品，从一个特定的研究案例开始，我们收集了一个由完整的网络跟踪组成的数据集，其中包括良性和恶意流量，该数据集功能丰富且公开可用。
2018-10-23 cs.CR cs.NI
Block Oriented Programming: Automating Data-Only Attacks
随着控制流完整性（CFI）的广泛部署，控制流劫持攻击以及代码重用攻击变得更加困难。CFI将控制流限制在已知位置，从而严格限制任意代码的执行。在高级控制流劫持防御（如CFI和影子堆栈）下评估应用程序的剩余攻击面仍然是一个悬而未决的问题。我们引入BOPC，一种自动评估攻击者是否可以在使用CFI/影子堆栈防御加固的二进制文件上执行任意代码的机制。BOPC根据以图灵完备的高级语言SPL编写的有效载荷规范计算目标程序的漏洞利用，SPL抽象了体系结构和程序特定的细节。SPL有效负载被编译成在目标二进制文件上执行所需行为的程序跟踪。BOPC的输入是SPL有效载荷、起始点（例如，来自模糊器崩溃）和允许应用程序状态损坏的任意存储器写入原语。为了将SPL有效载荷映射到程序跟踪，BOPC引入了面向块编程（BOP），这是一种新的代码重用技术，它利用整个基本块作为程序中有效执行路径上的小工具，即，而不违反CFI或影子堆栈策略。我们发现有效负载到程序轨迹的映射问题是NP难的，所以BOPC首先通过修剪不可行路径来减少搜索空间，然后使用启发式算法来引导搜索到可能的路径。BOPC将BOP有效负载编码为一组内存写入。我们执行13 SPL有效载荷应用于10个流行的应用程序。BOPC成功地发现了有效载荷和复杂的执行跟踪-这可能不会通过手动分析发现-同时在81%的情况下，在理想的CFI策略下遵循目标的控制流图。
2018-10-23 cs.CR
A Case-Control Measurement Study of OSINT Source Effectiveness for Critical Infrastructure Defense
The University of Baltimore（巴尔的摩大学）；Cox Automotive Inc（考克斯汽车公司）
本研究通过病例对照方法分析2010-2024年54起关键基础设施网络攻击及空案例，将OSINT来源分为三类，发现2类来源覆盖92.6%攻击，k=3贪心组合表现优于随机子集，相关数据与规则已公开。
2026-08-25 cs.CR
MCP-DPT: A Defense-Placement Taxonomy and Coverage Analysis for Model Context Protocol Security
Old Dominion University（老道明大学）
本文提出MCP-DPT框架，分析模型上下文协议的安全性，识别防御点并揭示架构不匹配导致的安全漏洞。
2026-04-08 cs.AI cs.CR
Breaking and Fixing Destructive Code Read Defenses
即时返回导向编程（JIT-ROP）是一种强大的内存破坏攻击，它绕过了各种形式的代码随机化。只执行内存（XOM）可以防止这些攻击，但需要源代码。相反，破坏性代码读取（DCR）提供了安全性和遗留兼容性之间的折衷。通常认为，如果与高熵代码随机化相结合，DCR可以提供强大的保护。本文的贡献是双重的：首先，我们证明了DCR可以被绕过，无论潜在的代码随机化方案。为此，我们展示了新颖的，通用的攻击，推断高度随机化的程序代码的代码布局。其次，我们提出了BGDX（字节粒度DCR和XOM），一种新的缓解技术，保护传统的二进制代码推理攻击的设计和实现。BGDX在字节粒度级别上强制执行内存权限，允许我们将DCR和XOM结合起来用于传统的现成二进制文件。我们的评估表明，BGDX不仅是有效的，但效率很高，施加的几何平均性能开销仅为3.95%的SPEC。
2020-07-05 cs.CR
Reconstructive Neuron Pruning for Backdoor Defense
Xidian University（西安电子科技大学）；Fudan University（复旦大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；University of Copenhagen（哥本哈根大学）；Sony AI（索尼人工智能）；University of Illinois at Urbana–Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对DNN后门防御中难以定位并移除后门神经元的问题，本文提出RNP，通过神经元级反学习与滤波器级恢复的非对称重构流程暴露并剪枝后门神经元，达到最先进防御效果，并可增强多类后门防御任务。
2023-12-08 cs.CR cs.LG
MTD-Playground: An Attacker-Aware Evaluation Framework for Network Moving Target Defense
AICSIL Research Lab, CACS（CACS AICSIL研究实验室）
本文针对现有移动目标防御评估的碎片化问题，提出MTD-Playground评估框架，在企业多阶段攻击场景下，用复合评估方法分析基于SDN的路径随机化MTD技术，通过实验得出变异间隔与攻击成功率、完成时间、吞吐量等的关系，证明该技术可实际部署并扰乱攻击进程。
2026-07-15 cs.CR
Toward Robust Recommendation via Real-time Vicinal Defense
University of Science and Technology of China（中国科学技术大学）
针对推荐系统投毒攻击现有防御通用性不足的问题，提出推理阶段利用邻近数据实时微调的 RVD，可跨模型防御定向投毒且不损失准确率。
2023-09-29 cs.CR cs.IR cs.LG
From Static to Adaptive Defense: Federated Multi-Agent Deep Reinforcement Learning-Driven Moving Target Defense Against DoS Attacks in UAV Swarm Networks
School of Cyber Science and Engineering, Southeast University, Purple Mountain Laboratories, and Jiangsu Province Engineering Research Center of Security for Ubiquitous Network（网络信息安全学院，东南大学，紫金山实验室，江苏省 ubiquitous 网络安全工程研究中心）
本文提出基于联邦多智能体深度强化学习的移动目标防御框架，用于无人机蜂群网络中的DDoS攻击防护，通过动态防御策略提升网络韧性。
2025-11-20 cs.AI cs.CR cs.LG
Speculative Buffer Overflows: Attacks and Defenses
利用推测执行的实际攻击可以通过微架构侧通道泄漏机密信息。最近演示的Spectre攻击利用推测性加载来规避访问检查以读取内存驻留的秘密，使用缓存定时或其他隐蔽通信通道将其传输给攻击者。我们介绍了Spectre1.1，这是一个新的Spectre-v1变体，它利用推测性存储来创建推测性缓冲区溢出。与经典的缓冲区溢出非常相似，推测性越界存储可以修改数据和代码指针。数据值攻击可以直接或通过重定向控制流绕过某些Spectre-v1缓解措施。控制流攻击允许任意推测性代码执行，这可以绕过栅栏指令和所有其他软件缓解以前的推测性执行攻击。构建可用于构建替代攻击有效载荷的面向返回的编程（ROP）小工具很容易。我们还介绍了Spectre1.2：在不强制执行读/写保护的CPU上，推测性存储可以覆盖只读数据和代码指针，以突破沙箱。我们强调了这些漏洞带来的新风险，讨论了可能的软件缓解措施，并概述了可以作为硬件防御的微架构机制。我们尚未评估我们提出的软件和硬件缓解措施的性能影响。我们仅详细描述了突出的漏洞特征和其他假设攻击场景，以指导硬件和软件供应商进行威胁分析和缓解。我们建议用户参考更用户友好的供应商建议，以缓解投机性缓冲区溢出或可用的补丁。
2018-07-10 cs.CR
Automated jailbreak attack targeting multiple defense strategies
East China Normal University（东华大学）；Shanghai Innovation Institute（上海创新研究院）；University of Southampton（南安普顿大学）；Shanghai Jiao Tong University（上海交通大学）；Software Engineering Institute, East China Normal University（东华大学软件工程研究院）
提出UNIATTACK框架，从防御视角提取攻击特征并优化，实现跨模型和类别的单次黑盒攻击，显著提升成功率并降低开销。
2026-06-16 cs.AI cs.CR
Wireless Backdoor Attack and Defense for Semantic Communications over Multiple Access Channel
Nexcepta；The Ohio State University（俄亥俄州立大学）；University of Maryland, College Park（马里兰大学学院公园分校）
针对多址接入信道的语义通信系统，提出一种选择性无线后门攻击，通过低功率触发波形操纵单一发射机的语义推理，并开发触发感知防御机制以保持正确语义标签。
2026-06-29 cs.CR cs.IT cs.LG
HardScope: Thwarting DOP with Hardware-assisted Run-time Scope Enforcement
存储器不安全程序设计语言的广泛使用（例如，C和C++）使许多系统容易受到内存损坏攻击。已经提出了各种防御来减轻利用存储器错误来劫持运行时间处的代码的控制流的攻击，例如，（细粒度）随机化或控制流完整性。然而，最近在面向数据编程（DOP）方面的工作表明，即使在这些最先进的防御措施存在的情况下，也存在高度表达性（图灵完备）的攻击。虽然已经证明了多个真实世界的DOP攻击，但还没有有效的防御。我们提出了运行时间范围实施（RSE），一种新的方法，旨在通过实施编译时内存安全约束（例如，可变可见性规则）。我们提出了HardScope，这是一种用于新RISC-V开放指令集架构的硬件辅助RSE的概念验证实现。我们讨论了我们的系统的实证评估HardScope表明，它可以减轻所有目前已知的DOP攻击，并在嵌入式基准测试的3.2%的真实世界的性能开销。
2018-03-12 cs.CR
A Lightweight Moving Target Defense Framework for Multi-purpose Malware Affecting IoT Devices
University of Zurich（苏黎世大学）；University of Murcia（穆尔西亚大学）；armasuisse Science & Technology（瑞士联邦国防采购局科学与技术部）
针对IoT设备易受多用途恶意软件攻击且现有MTD方案不足的问题，提出四种改变设备网络、数据和运行时环境的MTD机制及轻量级IoT导向MTD框架，并在真实场景中验证了其效率和有效性。
2022-10-14 cs.CR cs.LG
BT-MTD: Bus Traversal-based Moving Target Defense for Smart Grid
College of Computer Engineering and Science, Shanghai University（上海大学计算机工程与科学学院）；School of Future Technology, Shanghai University（上海大学未来技术学院）；Purple Mountain Laboratories（紫金山实验室）
提出BT-MTD算法，通过理论分析识别无效支路，基于母线遍历优化导纳修改，在IEEE标准系统上验证了其在有效性、效率和计算成本上的优越性能。
2026-06-16 cs.CR cs.SY eess.SY
Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation
State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学）；Technical University of Munich（慕尼黑技术大学）
本文通过生命周期、系统导向的框架，综合247篇论文，围绕信息流、委托权限和持久状态，系统梳理了LLM智能体的威胁面、攻击、防御与评估，指出提示注入和工具控制流劫持仍是主要威胁，持久状态损坏和多智能体传播成为新兴关注点。
2026-08-25 cs.AI cs.CR
SecureLearn -- An Attack-agnostic Defense for Multiclass Machine Learning Against Data Poisoning Attacks
College of Computing, Birmingham City University, Birmingham, United Kingdom（计算学院，伯明翰城市大学，伯明翰，英国）
针对多类机器学习模型的数据投毒攻击，提出两层与攻击无关的防御SecureLearn，结合数据清洗与特征对抗训练，在多种算法和数据集上保持高准确率与鲁棒性。
2025-10-25 cs.CR cs.LG
Cybersecurity of Teleoperated Quadruped Robots: A Systematic Survey of Vulnerabilities, Threats, and Open Defense Gaps
Department of Informatics, Bioengineering, Robotics；Systems Engineering (DIBRIS) University of Genoa Genoa, Italy
本文系统性调查了远程操控四足机器人面临的网络安全威胁与防御缺口，提出了六层攻击分类法及技术成熟度分析，为安全防护提供指导。
2026-02-26 cs.CR cs.RO cs.SY
Secure Goal-Oriented Communication: Defending against Eavesdropping Timing Attacks
University of Padova（帕多瓦大学）
针对目标导向通信（GoC）调度存在的时序侧信道窃听风险，本文构建了攻击有效性理论框架，提出两种启发式防御方法，可在仅小幅损失GoC性能的前提下将信息泄露量减半。
2025-07-15 cs.CR cs.SY eess.SY
A Stealthy Wrongdoer: Feature-Oriented Reconstruction Attack against Split Learning
本文提出针对拆分学习的半诚实数据重构攻击FORA，利用公开辅助样本和特征级迁移学习构建替代客户端以模仿受害客户端的表示偏好，隐蔽且有效地重构私有数据，性能优于现有方法。
2024-12-20 cs.CR
SecurityLingua: Efficient Defense of LLM Jailbreak Attacks via Security-Aware Prompt Compression
Microsoft Corporation（微软公司）；University of Surrey（塞夫尔大学）
本研究提出SecurityLingua方法，通过训练安全感知提示压缩器识别输入提示真实意图并结合系统提示传递给大语言模型，以极低开销高效防御越狱攻击，同时保障模型效用与用户体验。
2025-06-15 cs.CL cs.CR
Semantic Denial of Service in LLM-controlled robots
Swarms & AI Lab (SAIL) University of Haifa（群集与人工智能实验室（SAIL）海法大学）
本文研究了LLM控制机器人中语义拒绝服务攻击，发现通过注入安全可信的短语可触发安全推理中断，提出防御策略需平衡攻击抑制与真实危险响应，强调系统架构而非提示级别的重要性。
2026-04-25 cs.AI cs.CR
CPInj: Uncovering Prompt Injection Risks in Textual Collaborative Prompt Optimization
University of British Columbia（不列颠哥伦比亚大学）；Vector Institute（向量研究所）；McMaster University（麦斯特大学）
研究文本协作式提示优化（TCPO）中提示注入风险，提出协作式提示注入攻击CPInj，用恶意指令污染全局提示，降低下游任务性能，现有防御方法无效；还提出防御导向聚合方法APAgg，实验表明TCPO存在关键漏洞，攻击有待更强大防御。
2026-08-03 cs.AI cs.CR
Send a SCOUT First: Pre-hoc Reasoning for Adaptive Detector Allocation in Prompt-Injection Defense
UC San Diego（加州大学圣迭戈分校）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对提示注入检测器异构且不可靠的问题，提出SCOUT框架，通过预测每个检测器对每个样本的可靠性和延迟，动态分配检测器，实现安全性与效率的权衡。
2026-08-27 cs.CR cs.LG
A Simple and Efficient Jailbreak Method Exploiting LLMs' Helpfulness
The Harbin Institute of Technology（哈尔滨工业大学）；The Hong Kong Polytechnic University（香港理工大学）；Shenzhen University（深圳大学）；Shenzhen Loop Area Institute（深圳河套学院）
本研究提出了一种利用大语言模型帮助性的简单高效逃逸方法，通过重构范式HILL在多种模型上实现高攻击成功率，揭示了安全机制的局限性。
2026-02-24 cs.CL cs.CR
The never ending war in the stack and the reincarnation of ROP attacks
面向返回的编程（ROP）是一种技术，攻击者可以通过这种技术在易受攻击的程序中诱导任意行为，而无需注入恶意代码。目前部署的针对ROP的防御措施持续失败，使其再次成为最强大的内存损坏攻击之一。ROP也被认为是最灵活的攻击之一，它的灵活程度不同于其他代码重用攻击，可以达到图灵完备性。已经进行了一些努力来研究这种威胁，并提出更好的防御机制（缓解或预防），但其中大多数都没有深入审查，也没有正式实施。此外，类似的研究表明，提出的技术，以防止基于ROP的漏洞通常会产生较高的误报率和误报率，更不用说他们引入到受保护的程序的开销。本研究工作的第一部分旨在深入分析当前可用的防ROP解决方案（已部署和已提出），重点检查其防御逻辑并总结其弱点和问题。这项工作的第二部分旨在介绍我们提出的妥协指标（IOCs），可用于提高ROP攻击的检测率。这三个建议的指标可以检测这些攻击在运行时通过检查一些工件在目标程序的执行过程中的存在。
2020-05-25 cs.CR
PromptSleuth: Detecting Prompt Injection via Semantic Intent Invariance
针对提示词注入攻击，本文构建了包含多任务场景的新基准，并提出基于语义意图不变性的防御框架PromptSleuth，通过推理任务级意图有效检测攻击，在保持运行时和成本效率的同时显著优于现有防御方法。
2025-09-16 cs.CR
Steroids for DOPed Applications: A Compiler for Automated Data-Oriented Programming
广泛采用的系统防御措施，如代码、堆栈和堆的随机化，提高了代码重用攻击的门槛。因此，攻击者利用网络浏览器等目标程序中的脚本引擎来准备代码重用链，例如，重新定位小工具地址或执行即时小工具搜索。然而，许多类型的程序不提供攻击者可以使用的这种执行上下文。面向数据编程（DOP）的最新进展探索了一种滥用内存损坏漏洞的正交方法，并证明攻击者可以在不修改应用程序中的代码指针的情况下实现图灵完全计算。到目前为止，构建DOP漏洞需要大量的手工工作。在本文中，我们提出了新的技术来自动生成DOP漏洞的过程。我们实现了一个名为Steroids的编译器，它将我们的高级语言SLANG编译为低级DOP数据结构，从而在运行时间驱动恶意计算。这使攻击者能够以独立于应用程序和可扩展性的方式指定其意图，以最大限度地提高可重用性。我们证明了我们的技术和原型实现的有效性，通过指定四个程序的不同复杂性的SLANG计算Levenshtein距离，遍历指针链窃取私钥，重新定位ROP链，并执行JIT-ROP攻击。Steroids将这些程序中的每一个编译为针对包括GStreamer、Wireshark和ProFTPd在内的五个不同应用程序的低级DOP数据结构，这些应用程序具有截然不同的漏洞和DOP实例。最终，这表明我们的编译器是通用的，可用于32位和64位应用程序，跨错误类工作，并在缺乏脚本引擎的应用程序中无需传统的代码注入或代码重用…
2020-07-05 cs.CR
CToMP: A Cycle-task-oriented Memory Protection Scheme for Unmanned Systems
针对无人系统难以防御内存破坏攻击（MCAs）的问题，本文对MCAs进行建模分类，提出面向周期任务的内存保护方案CToMP，通过控制流保护、随机内存地址安全栈等机制有效抵御return2libc、return2shellcode及ROP攻击，且系统开销低。
2023-09-12 cs.CR
Using LLMs to Elicit Security Requirements for Service-Oriented Cyber Ranges
Norwegian University of Science and Technology（挪威科技大学）
该研究采用SEBoK指导的流程，将安全目标、利益相关者需求等作为提示输入5款LLMs，生成并整合27条安全需求，经专家评估后证实LLMs可辅助安全需求提取早期阶段，但需人工审核优化。
2026-09-02 cs.CR
On Large Language Models in Mission-Critical IT Governance: Are We Ready Yet?
University of Oulu（奥卢大学）；Multitel di Lerede Alessandro & C. s.a.s.（穆尔蒂尔·迪·莱雷德·亚历山德罗合伙公司）
本文通过调查安全从业者，研究将LLM等生成式AI用于关键任务IT系统治理的经验、担忧与期望，并提出跨学科协作及监管、透明、统一框架建议。
2025-01-10 cs.AI cs.CR cs.ET
Revisiting Transferable Adversarial Images: Systemization, Evaluation, and New Insights
Georgia Institute of Technology（佐治亚理工学院）；Twentieth Century Fox（二十世纪福克斯）；Starfleet Academy（星舰学院）
本文系统化评估了23种迁移攻击对11种防御的效果，指出现有评估在迁移性和隐蔽性上的不足，并得出早期攻击DI表现优异、白盒防御DiffPure易受黑盒攻击等挑战共识的新见解。
2025-09-16 cs.CR cs.CV cs.LG
Detecting Data Poisoning in Code Generation LLMs via Black-Box, Vulnerability-Oriented Scanning
University of Connecticut（康涅狄格大学）；Visa Research（Visa研究）
本文提出CodeScan框架，通过分析多生成代码的结构相似性，结合抽象语法树规范化，检测代码生成模型中的安全漏洞，实现高准确率的数据中毒检测。
2026-09-25 cs.AI cs.CR cs.SE
