Cyber-Physical Security Vulnerabilities Identification and Classification in Smart Manufacturing -- A Defense-in-Depth Driven Framework and Taxonomy
本文针对智能制造中传统漏洞定义忽视物理与人员维度的问题，提出基于漏洞与防御二元性的制造专用纵深防御模型，并据此建立首个智能制造网络物理漏洞分类法，为系统与过程层面的漏洞治理提供结构化框架。
2025-06-04 cs.CR
An Empirical Case Study of Prompt Engineering Strategies for Bypassing Multi-Layer Agent Security Defenses
本文通过OpenClaw攻防挑战开展实证研究，分析提示工程策略对多层智能体安全防御的绕过效果，发现指令安全性与攻击准确率存在权衡，多层防御可大幅限制提示工程的作用。
2026-10-14 cs.CR
Social Engineering in Cybersecurity: A Domain Ontology and Knowledge Graph Application Examples
社会工程对网络空间安全构成了严重威胁。为了防止社会工程攻击，一项基本工作是了解社会工程的构成。本文首先建立了网络安全社会工程领域本体，并应用知识图谱进行本体评价。领域本体定义了11个重要组成或影响社会工程领域的核心实体的概念，以及描述这些实体如何相互关联的22种关系。它为社会工程领域知识的理解、分析、重用和共享提供了一种形式化、明确化的知识模式。在此基础上，构建了基于15个社会工程攻击事件和场景的知识图谱。7个知识图谱应用实例（在6个分析模式中）证明本体与知识图谱一起有助于1）理解和分析社会工程攻击场景和事件，2）找到排名靠前的社会工程威胁元素（例如，最常被利用的人类漏洞和最常使用的攻击媒介），3）发现对受害者的潜在社会工程威胁，4）发现社会工程攻击者的潜在目标; 5）发现从特定攻击者到特定目标的潜在攻击路径; 6）分析同源攻击。
2021-05-28 cs.CR
TRYLOCK: Defense-in-Depth Against LLM Jailbreaks via Layered Preference and Representation Engineering
AI/ML Security Researcher（人工智能与机器学习安全研究员）
TRYLOCK通过分层偏好和表征工程实现对LLM劫持的纵深防御，结合DPO、RepE、自适应侧车和输入规范化，有效降低攻击成功率并提升安全性与易用性的平衡。
2026-01-06 cs.CR cs.LG
Arms Race in Adversarial Malware Detection: A Survey
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；Nanjing University of Science and Technology（南京理工大学）；Case Western Reserve University（凯斯西储大学）；University of Colorado Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
恶意软件（malware）是一种主要的网络威胁，必须使用机器学习（ML）技术来解决，因为每天都有数百万个新的恶意软件示例注入网络空间。然而，ML容易受到被称为对抗性示例的攻击。在本文中，我们通过假设，攻击，防御和安全属性的统一概念框架的镜头来调查和系统化对抗性恶意软件检测（AMD）领域。这不仅使我们能够将攻击和防御映射到偏序结构，还使我们能够清楚地描述AMD背景下的攻击-防御军备竞赛。我们得出了一些见解，包括：知道防御者的特征集是成功的转移攻击的关键;实际规避攻击的有效性在很大程度上取决于攻击者在问题空间中进行操纵的自由度;知道攻击者的操纵集是防御者成功的关键;对抗训练的效果取决于防守者识别最强攻击的能力。我们还讨论了一些未来的研究方向。
2021-08-31 cs.CR cs.LG
The Panacea Threat Intelligence and Active Defense Platform
IHMC（佛罗里达人机认知研究所）；UNCC（北卡罗来纳大学夏洛特分校）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；SUNY（纽约州立大学）
我们描述的灵丹妙药，一个系统，支持自然语言处理（NLP）组件的积极防御社会工程攻击。我们部署了一系列人类语言技术，包括询问和成帧检测、命名实体识别、对话工程和文体学。Panacea通过插件架构处理现代消息格式，以适应消息分析、知识表示和对话生成的创新方法。Panacea系统的新颖之处在于使用NLP进行网络防御，并使用机器人来吸引攻击者，以获取攻击者的证据，并浪费攻击者的时间和资源。
2020-04-20 cs.CL cs.CR
UNSEEN: A Cross-Stack LLM Unlearning Defense against AR-LLM Social Engineering Attacks
Hubei University（湖北大学）；University of Southern California（南加州大学）；Huazhong University of Science and Technology（华中科技大学）
针对AR-LLM社会工程攻击，提出UNSEEN跨栈防御机制，结合AR访问控制层、基于F-RMU的LLM去学习和运行时代理防护，通过用户研究验证其有效性。
2026-04-25 cs.AI cs.CR
A Zero Trust Framework for Realization and Defense Against Generative AI Attacks in Power Grid
Old Dominion University（奥多明尼昂大学）；Virginia Tech（弗吉尼亚理工大学）；University of Houston（休斯顿大学）
针对电网供应链中的生成式AI攻击，本文提出零信任框架，结合GAN攻击生成、尾部风险度量、持续信任验证和集成学习检测，实现攻击识别与防御。
2024-03-11 cs.CR cs.LG
Exploiting Physical Dynamics to Detect Actuator and Sensor Attacks in Mobile Robots
Pennsylvania State University（宾夕法尼亚州立大学）
移动机器人是网络空间和物理世界紧密耦合的网络物理系统。对移动机器人的攻击可以超越网络防御，并在物理世界中升级为灾难性后果。在本文中，我们专注于主动攻击，能够直接影响机器人任务操作的检测。通过利用移动机器人的物理动力学，我们开发的RIDS，一种新的机器人入侵检测系统，可以检测致动器攻击以及传感器攻击的非线性移动机器人随机噪声。我们实现和评估的RIDS Khepera移动机器人对具体的攻击情况下，通过各种攻击渠道，包括信号干扰，传感器欺骗，逻辑炸弹，物理损坏。对20个实验结果的评价表明，假阳性率和假阴性率的平均值均小于1%。每次攻击的平均检测延迟保持在0.40秒以内。
2017-08-06 cs.CR cs.RO
Reverse Engineering of Integrated Circuits: Tools and Techniques
消费者和国防系统需要设计和制造性能更高的电子产品。随着这些系统在众多领域中变得无处不在，它们的应用面增加了，从而使它们成为对手的目标。因此，随着性能的提高，安全性方面需要设计师更多的关注。研究界充斥着通过利用漏洞针对机密设计细节的攻击的广泛细节。攻击者可以针对半导体芯片的物理设计，或者通过提取密钥来破坏密码算法，这些攻击将在本文中讨论。本文主要介绍了集成电路逆向工程攻击和针对密码系统的攻击。此外，本文还介绍了我对所讨论的攻击的防御的贡献。集成电路（IC）供应链的全球化使低成本和高性能的IC在市场上的优势为最终用户所接受。但这也使得设计在制造和制造后过程中容易受到过度生产、IP盗版、逆向工程攻击和硬件恶意软件的影响。过去已经提出了逻辑锁定方案来克服设计信任问题，但新的最先进的攻击（如SAT）已被证明是一个更大的威胁。这项工作突出了逆向工程攻击和建议的加固平台及其框架。
2022-08-18 cs.CR
Countering Autonomous Cyber Threats
University of Cambridge（剑桥大学）
本文评估最先进可下载基础模型在隔离网络中自主实施攻击的能力，发现其可比肩领先专有模型，并验证防御性提示注入可阻断恶意智能体工作流。
2024-10-23 cs.AI cs.CR cs.CY
The Shadow of Fraud: The Emerging Danger of AI-powered Social Engineering and its Possible Cure
本文综述了AI驱动的社会工程学攻击的演变，提出“3E阶段”分类框架，并强调构建风险评估体系以指导防御策略开发。
2024-07-22 cs.CR
Fit and Vulnerable: Attacks and Defenses for a Health Monitoring Device
社交网络和可穿戴传感器的融合正变得越来越流行，像Fitbit这样的系统可以自动报告和分享用户健身数据的过程。在本文中，我们表明，虽然引人注目的，健康数据集成到社交网络充满了隐私和安全漏洞。举个例子，通过对通信协议、存储细节和操作码进行逆向工程，我们发现了Fitbit中的几个漏洞。我们已经构建了FitBite，这是一套利用这些漏洞对Fitbit发起广泛攻击的工具。除了窃听、注入和拒绝服务之外，还有几种攻击可以导致奖励和经济收益。我们已经建立了FitLock，这是一个轻量级的防御系统，可以保护Fitbit，同时只需要很小的开销。我们在BeagleBoard和Xperia设备上的实验表明，FitLock的端到端开销仅为Fitbit的2.4%。
2013-04-20 cs.CR
Compilation as a Defense: Enhancing DL Model Attack Robustness via Tensor Optimization
Lancaster University（兰卡斯特大学）；Mindgard（Mindgard公司）
针对对抗性机器学习侧信道攻击，本文提出利用模型编译中的张量优化作为无需重构模型的防御手段，并证明其可使攻击相对有效性最高降低 43%。
2023-09-20 cs.CR cs.LG
Deep-Fake CAPTCHA: Mitigating Next-Generation Social Engineering Attacks
Ben-Gurion University（本-古里安大学）
针对实时深度伪造冒充，提出DF-CAPTCHA主动挑战-响应验证框架，通过真实性、身份一致性、任务完成度和响应时间四标准检测，在音频和视频模态均达高准确率，有效防御下一代社会工程攻击。
2026-09-11 cs.AI cs.CR
Short Message Service (SMS) Phishing Attacks and Defenses: A Systematic Review
Tennessee Tech University（田纳西理工大学）；University of Colorado at Colorado Springs（科罗拉多大学斯普林斯分校）
本文系统回顾了短信钓鱼攻击及其防御措施，探讨了用户感知、攻击特征、防御策略及相关数据集四个研究领域，提出未来缓解短信钓鱼攻击的新方向。
2026-04-13 cs.CR
Backdoor Attacks and Defenses on Semantic-Symbol Reconstruction in Semantic Communications
针对语义通信中的语义符号重建，提出后门攻击范式BASS及相应防御策略，包括训练框架、逆向工程和剪枝方法，仿真验证其有效性。
2024-04-20 cs.CR eess.IV eess.SP
Jailbreaking Generative AI: Multivector Phishing Threats and Transformer based Defenses
Indian Institute of Technology Jammu（印度技术学院贾穆分校）
本文研究了ChatGPT-4o-Mini的劫持漏洞，显示初学者可通过绕过防护生成多向钓鱼攻击，并提出基于Transformer的检测框架以应对风险。
2026-04-01 cs.CR
Backdoor Attacks and Defenses in Computer Vision Domain: A Survey
本综述系统梳理计算机视觉后门攻击与防御，提出多维度分类法，总结代表性方法，识别供应链与硬件威胁等研究空白，并给出威胁感知评估与分层防御的实用指南。
2025-09-09 cs.CR
SoK: A Literature and Engineering Review of Regular Expression Denial of Service (ReDoS)
本文对正则表达式拒绝服务（ReDoS）进行文献与工程综述，梳理现有检测、防御方法及引擎防御实现情况，指出文献缺乏真实系统攻击评估、主流引擎防御使威胁模型过时等问题，并明确未来评估新兴防御、支持引擎迁移等研究方向。
2025-08-26 cs.CR cs.SE
A Representation Engineering Perspective on the Effectiveness of Multi-Turn Jailbreaks
msft（微软）
本文从表示工程视角分析 Crescendo 多轮越狱，发现安全对齐模型会将其响应表征为良性，从而解释单轮防御失效的原因，并呼吁开发针对多轮攻击泛化差距的缓解方法。
2025-06-29 cs.AI cs.CR
Ellipsoid Control: A White-list Jailbreak Defense via Benign Latent Modeling
University of Technology Sydney（悉尼科技大学）
提出一种基于白名单视角的测试时防御方法Ellipsoid Control，通过拟合良性数据的各向异性椭球约束投影梯度下降，在任意输入上触发拒绝同时最小化良性潜在几何的扭曲，从而在增强安全性的同时保持模型效用。
2026-05-23 cs.CR
When Bots Take the Bait: Exposing and Mitigating the Emerging Social Engineering Attack in Web Automation Agent
Fudan University（复旦大学）；Zhongguancun Laboratory（中关村实验室）；Shanghai Innovation Institute（上海创新研究院）；Tsinghua University（清华大学）
研究提出AgentBait攻击范式，揭示网络自动化代理的社会工程威胁，并设计SUPERVISOR模块有效缓解此类攻击。
2026-01-12 cs.AI cs.CR
Simulating Cyberattacks through a Breach Attack Simulation (BAS) Platform empowered by Security Chaos Engineering (SCE)
Department of Information and Communications Engineering, University of Murcia（信息与通信工程系，穆尔西亚大学）；School of Engineering, Science and Technology, Universidad del Rosario（工程、科学与技术学院，罗萨里奥大学）；Department of Computers Engineering and Technology, University of Murcia（计算机工程与技术系，穆尔西亚大学）
本文提出通过由安全混沌工程赋能的入侵攻击模拟平台，利用对手资料和能力进行自动化攻击序列模拟，提升攻击模拟的有效性。
2026-02-15 cs.AI cs.CR
A Systematic Review of Machine Learning Enabled Phishing
本综述系统评估了机器学习在钓鱼攻击中的应用，提出风险框架，并回答了ML赋能钓鱼用例的高风险性及其与传统钓鱼的差异问题。
2023-05-24 cs.CR
Stealthy Poisoning Attacks Bypass Defenses in Regression Settings
IBM Research Europe, Portal, First Floor Trinity Business School, Trinity College Dublin（IBM欧洲研究院，波特尔大楼，特里尼蒂商务学校，特里尼蒂学院都柏林）；Imperial College London, South Kensington Campus（伦敦帝国理工学院，南肯辛顿校区）；Universidad de Alcalá de Henares, Escuela Politécnica Superior（阿尔卡萨大学，工程技术学院）；Defence Science and Technology Laboratory (DSTL), Porton Down, Salisbury（国防科学与技术实验室（DSTL），波特恩道，萨里）
本文提出了一种隐秘污染攻击的新方法，并开发了BayesClean防御机制，以提升回归模型在面对隐秘攻击时的鲁棒性。
2026-03-02 cs.AI cs.CR cs.LG
Human Cognition through the Lens of Social Engineering Cyberattacks
社会工程网络攻击是一个主要威胁，因为它们往往是复杂和毁灭性网络攻击的前奏。社会工程网络攻击是一种心理攻击，利用人类认知功能的弱点。充分防御社会工程网络攻击需要更深入地了解这些网络攻击利用了人类认知的哪些方面，为什么人类容易受到这些网络攻击，以及我们如何最大限度地减少或至少减轻其损害。这些问题已经得到了一定程度的关注，但最先进的理解是肤浅的，分散在文献中。在本文中，我们通过社会工程网络攻击的镜头来回顾人类认知。然后，我们提出了一个扩展的人类认知功能框架，以适应社会工程网络攻击。我们将现有的关于社会工程网络攻击各个方面的研究纳入扩展框架，同时绘制了一些代表当前理解的见解，并阐明了未来的研究方向。扩展的框架可能会激发未来的研究努力，走向一个新的子领域，可以被称为网络安全认知心理学，它将认知心理学的原则调整或适应网络安全领域，同时拥抱网络安全领域特有的新概念和概念。
2020-07-10 cs.CR
PhantomSeal: Proactive Deepfakes Defense with Identity/Context Protection and Forensic Tracing
The University of Kansas（堪萨斯大学）；University of Louisville（路易斯维尔大学）；The University of Chicago（芝加哥大学）
针对深度伪造尤其是面部交换攻击挑战，提出幻影封印主动防御，用新颖伪装技术嵌入身份作标识符，引导生成类似所选身份内容，防止面部交换并支持取证追踪，经实验验证其有效性和鲁棒性。
2026-08-05 cs.CR
Adversarial Suffix Filtering: a Defense Pipeline for LLMs
Department of Computer Science and Technology（计算机科学与技术系）
本文提出轻量、模型无关的 ASF 输入预处理流水线，通过检测并过滤对抗性后缀，在黑盒与白盒设置下将先进攻击成功率降至 4% 以下，且基本不影响正常能力。
2025-05-14 cs.CR cs.LG
Synthetic Trust Attacks: Modeling How Generative AI Manipulates Human Decisions in Social Engineering Fraud
AAAI Pakistan Chapter（AAAI巴基斯坦分会）；PureDesigners Ltd.（PureDesigners有限公司）；IBM Watson
本文提出合成信任攻击（STA）作为正式威胁类别，引入STAM模型，涵盖从敌手侦察到事后利用的完整攻击链，探讨人类决策层的防御策略。
2026-04-02 cs.AI cs.CR
Adversarial Learning in Statistical Classification: A Comprehensive Review of Defenses Against Attacks
School of EECS, Pennsylvania State University（宾夕法尼亚州立大学电气与计算机工程学院）
对抗性学习（AL）攻击对基于机器学习的系统造成损害的可能性很大。在本文中，我们提供了一个当代调查AL，特别是集中在防御攻击统计分类。在介绍了相关的术语和攻击者和防御者的目标和可能的知识范围后，我们调查了最近的工作，测试时间规避（TTE），数据投毒（DP），和逆向工程（RE）攻击，特别是对相同的防御。在这样做的时候，我们区分强大的分类从异常检测（AD），无监督的监督，和统计假设为基础的防御从那些没有明确的零（无攻击）假设;我们确定的超参数特定的方法需要，它的计算复杂性，以及性能指标，它被评估和获得的质量。然后，我们深入挖掘，提供新的见解，挑战传统的人工智能智慧和目标的未解决的问题，包括：1）强大的分类与AD作为一种防御策略; 2）攻击成功的信念与攻击强度增加，忽略了易感性AD; 3）小扰动测试时间逃避攻击：谬论或要求？4)TTE攻击者知道要攻击的示例的地面实况类的普遍假设的有效性; 5）黑盒、灰盒或白盒攻击作为防御评估的标准; 6）基于查询的RE对AD防御的敏感性。我们还讨论了对训练数据隐私的攻击。然后，我们提出了几个防御TTE，RE和后门DP攻击图像的基准比较。本文最后讨论了未来的工作。
2019-12-02 cs.CR cs.LG stat.ML
Cybercrime and Prevention: Colonel Blotto in Social Engineering
CrySyS Lab, Budapest University of Technology and Economics（布达佩斯科技经济大学）；Virginia Tech（弗吉尼亚理工大学）
本文通过Colonel Blotto游戏模型探讨如何优化防御资源分配以防范社会工程攻击，结合 Routine Activity Theory 和 VIVA 框架，分析国家与组织层面的防御策略。
2026-05-11 cs.CR cs.GT
FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning
Purdue University（普渡大学）；IBM Research（IBM研究院）；Rutgers University（罗格斯大学）
联邦学习（FL）是一种分布式学习范式，它使不同的各方能够一起训练模型，以实现高质量和强大的隐私保护。在这种情况下，单个参与者可能会受到危害，并通过毒化数据（或梯度）来执行后门攻击。现有的工作健壮的聚合和认证的FL鲁棒性不研究如何硬化良性客户端可以影响全局模型（和恶意客户端）。在这项工作中，我们从理论上分析了交叉熵损失，攻击成功率和清洁精度之间的联系。此外，我们提出了一个触发逆向工程为基础的防御，并表明我们的方法可以实现鲁棒性的改善与保证（即，降低攻击成功率）而不影响良性准确性。我们在不同的数据集和攻击设置中进行了全面的实验。我们的研究结果对8个竞争SOTA防御方法显示，我们的方法在单发和连续FL后门攻击的经验优势。代码可在https://github.com/KaiyuanZh/FLIP上获得。
2023-02-27 cs.AI cs.CR cs.LG
"I Strongly Suspect This Website Is a Scam": Benchmarking PII Leakage and Detection without Defense in Autonomous Web Agents
KIIT Bhubaneshwar（KIIT布巴内什瓦尔）；BITS Pilani（比特斯理工学院）；Lam Research（拉姆研究）
本文通过构建包含91个攻击者控制环境和10个良性孪生基线的基准Scammer4U，评估前沿自主网络代理在社交工程攻击下的PII泄露风险，发现关键PII泄露率高达54-93%，并揭示了代理检测到攻击但仍有35.9%概率提交PII的检测-行动差距。
2026-10-27 cs.CL cs.CR
Cybersecurity of High-Altitude Platform Stations: Threat Taxonomy, Attacks and Defenses with Standards Mapping - DDoS Attack Use Case
Ecole Polytechnique de Tunisie（突尼斯高等理工学院）；Technology Innovation Institute（技术创新研究所）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
本文针对非地面网络新兴节点HAPS的网络安全问题，提出适配平流层的威胁分类体系，梳理可行防御方案并映射相关标准，通过OMNeT++/INET仿真分析DDoS攻击影响，为实际部署提供工程参考。
2025-11-16 cs.CR cs.NI
Test-Time Detection of Backdoor Triggers for Poisoned Deep Neural Networks
Pennsylvania State University（宾夕法尼亚州立大学）
后门（特洛伊木马）攻击是针对深度神经网络（DNN）的新兴威胁。每当来自任何源类的测试样本嵌入后门模式时，被攻击的DNN将预测攻击者想要的目标类;同时正确分类干净（无攻击）的测试样本。现有的后门防御在检测DNN是否受到攻击以及在“后训练”机制中对后门模式进行逆向工程方面取得了成功：防御者可以访问要检查的DNN和独立收集的小而干净的数据集，但无法访问DNN的（可能中毒的）训练集。然而，这些防御既不能在触发后门映射的行为中抓住罪犯，也不能在测试时减轻后门攻击。在本文中，我们提出了一个“飞行中”防御后门攻击的图像分类，1）检测使用后门触发器在测试时，和2）推断类的起源（源类）检测到的触发器的例子。我们的防御的有效性进行了实验证明，对不同的强大的后门攻击。
2021-12-06 cs.CR cs.LG
Detecting Backdoor Attacks Against Point Cloud Classifiers
Pennsylvania State University（宾夕法尼亚州立大学）；Shanghai Jiao Tong University（上海交通大学）
后门攻击（BA）是对深度神经网络分类器的新兴威胁。被攻击的分类器将预测攻击者的目标类时，测试样本从源类嵌入后门模式（BP）。最近，第一个针对点云（PC）分类器的BA被提出，对包括自动驾驶在内的许多重要应用造成了新的威胁。这种PC BA由于其特殊的BP嵌入机制而无法被现有的BA防御检测到。在本文中，我们提出了一个反向工程防御，推断PC分类器是否受到后门攻击，而无需访问其训练集或任何干净的分类器作为参考。我们的防御的有效性证明在基准ModeNet40数据集的PC。
2021-10-20 cs.CR cs.CV cs.LG
PP3D: An In-Browser Vision-Based Defense Against Web Behavior Manipulation Attacks
本文提出浏览器端端到端框架 PP3D，利用扩展内视觉模型实时检测并防御 Web 行为操纵攻击，在低误报、低开销下实现高检测率和良好泛化性。
2025-10-21 cs.CR
Guarding Machine Learning Hardware Against Physical Side-Channel Attacks
机器学习（ML）模型由于其开发成本而可能是商业机密。因此，他们需要针对恶意形式的逆向工程（例如，IP盗版）。随着ML越来越多地转移到边缘设备，部分是为了性能，部分是为了隐私利益，这些模型已经变得容易受到所谓的物理侧信道攻击的影响。与密码学相比，ML是一个相对较新的目标，在缺乏出版文献的背景下提出了侧信道分析的问题。新兴的基于边缘的ML设备与为它们提供侧通道安全性的充分防御研究之间的差距激发了我们的研究。我们的工作为硬件模块中的ML模型开发并结合了不同风格的侧通道防御。我们提出并优化了基于布尔掩码的第一道防线。我们首先实现所有屏蔽的硬件块。然后，我们提出了一个加法器优化，以减少面积和延迟开销。最后，我们将其与基于洗牌的防御相结合。我们量化的面积延迟开销的掩蔽范围从5.4 $\times$到4.7 $\times$取决于所使用的加法器拓扑结构，并证明了一阶侧通道安全的数百万电源跟踪。此外，shuffle对策阻止了对我们的一阶掩码实现的直接二阶攻击。
2021-09-01 cs.CR
Assessing the Understandability and Acceptance of Attack-Defense Trees for Modelling Security Requirements
本文通过25名受试者的实验，从绩效与感知两方面评估攻击-防御树（ADTs）的可理解性与用户接受度，首次实证支持ADTs具有良好可理解性，为安全需求工程理论提供依据。
2024-04-09 cs.CR cs.SE
SENet: Visual Detection of Online Social Engineering Attack Campaigns
University of Georgia（佐治亚大学）；Georgia Institute of Technology（佐治亚理工学院）；Louisiana State University（路易斯安那州立大学）
本文提出 SEShield 框架，通过 SECrawler 爬取野外社会工程攻击样本，训练深度学习图像分类器 SENet 识别攻击页面视觉特征，并嵌入浏览器实现实时检测，检测率达 99.6%。
2024-01-10 cs.CR cs.LG
Adversarial Text Purification: A Large Language Model Approach for Defense
Arizona State University（亚利桑那州立大学）
本文提出一种利用大语言模型和提示工程净化对抗文本的防御方法，无需显式表征离散噪声，在多种分类器上平均将受攻击准确率提升超65%。
2024-02-05 cs.AI cs.CL cs.CR
BELT: Old-School Backdoor Attacks can Evade the State-of-the-Art Defense with Backdoor Exclusivity Lifting
Fudan University（复旦大学）
提出后门排他性概念及BELT技术，通过抑制后门与模糊触发器的关联，使老派后门攻击能以几乎不损失成功率和效用的代价规避多种最先进防御。
2024-04-25 cs.AI cs.CR
AI-Driven Cybersecurity Threats: A Survey of Emerging Risks and Defensive Strategies
Bharat Institute of Engineering and Technology（印度海得拉尔邦坦达瓦纳技术工程学院）；Vellore Institute of Technology（印度维洛雷技术学院）
本文调研了人工智能在网络安全中的新兴威胁与防御策略，分析了深度伪造、对抗性AI攻击等风险，并提出混合检测和基准框架等研究方向。
2026-01-06 cs.AI cs.CR
Targeting the Weakest Link: Social Engineering Attacks in Ethereum Smart Contracts
以太坊以以太加密货币和ERC-20代币的形式持有数十亿美元，数百万部署的智能合约通过算法操作这些资金。毫不奇怪，以太坊智能合约的安全性一直受到严格的审查。近年来，已经开发了许多防御工具来检测不同类型的智能合约代码漏洞。当利用代码漏洞的机会减少时，攻击者开始诉诸社会工程攻击，其目的是影响人类-通常是系统中最薄弱的环节。以太坊中唯一已知的一类社会工程攻击是蜜罐，它为试图利用现有漏洞的攻击者设置隐藏的陷阱，从而只针对一小部分潜在受害者。在这项工作中，我们探索了智能合约蜜罐之外新的社会工程攻击的可能性和存在性。我们提出了两类新的以太坊社会工程攻击-地址操纵和同形异义词-并开发了六种零日社会工程攻击。为了展示如何在流行的编程模式中使用攻击，我们对五种流行的智能合约进行了案例研究，这些智能合约的总市值超过290亿美元，并将我们的攻击模式整合到其源代码中，而不改变其现有功能。此外，我们发现这些攻击在测试阶段保持休眠状态，但仅在最终的生产部署中激活其恶意逻辑。我们进一步分析了85，656个开源智能合约，发现其中1，027个可用于拟议的社会工程攻击。我们对来自七家智能合约审计公司的专家进行了专业意见调查，证实了暴露的社会工程攻击对智能合约系统带来了重大威胁。
2021-05-29 cs.CR
Defense Against Indirect Prompt Injection via Tool Result Parsing
Harbin Institute of Technology（哈尔滨工业大学）
本文提出通过工具结果解析来防御间接提示注入，有效过滤恶意代码并降低攻击成功率。
2026-01-08 cs.AI cs.CL cs.CR
Adversarial Threats in Quantum Machine Learning: A Survey of Attacks and Defenses
Pennsylvania State University（宾夕法尼亚州立大学）
本文综述了量子机器学习在NISQ时代面临的对抗性威胁，涵盖模型窃取、数据投毒等攻击向量及基于量子特性的防御机制，为构建稳健可信的QML系统提供了研究路线图。
2025-06-27 cs.CR cs.LG quant-ph
SybilControl: Practical Sybil Defense with Computational Puzzles
许多分布式系统都受到Sybil攻击，其中对手通过模拟多个不同节点的行为来破坏系统操作。解决这个问题的最新工作利用社交网络来建立用户之间的信任关系。然而，社交网络的使用并不适合所有系统，因为它们可以被社会工程技术颠覆，需要P2P网络中的节点来维护和意识到社交网络信息，并且可能需要对社交链接的快速混合性质过于乐观的假设。本文探讨了另一种方法。我们提出了SybilControl，一种新的，分散的计划，用于控制Sybil攻击的程度。SybilControl是分布式系统中节点的准入控制机制，要求它们定期解决计算难题。SybilControl包括一个分布式协议，允许节点集体验证其他节点的计算工作，以及防止不执行计算工作的行为不端节点的恶意影响的机制。我们调查的实际问题，涉及到现有的DHT部署SybilControl，特别是弹性查找协议。我们通过模拟评估SybilControl，发现SybilControl保留低开销和延迟。此外，即使对手控制了20%的系统计算资源，启用SybilControl的DHT也可以配置为使用低通信开销将查找性能保持在99%以上的成功率。
2012-01-13 cs.CR cs.NI
Rethinking the Reverse-engineering of Trojan Triggers
Rutgers University（罗格斯大学）
深度神经网络易受木马（或后门）攻击。逆向工程方法可以重建触发器，从而识别受影响的模型。现有的逆向工程方法仅考虑输入空间约束，例如，输入空间中的触发器大小。实际上，它们假设触发器是输入空间中的静态模式，并且无法检测具有特征空间触发器（例如图像样式转换）的模型。我们观察到，输入空间和特征空间木马与特征空间超平面。基于这一观察，我们设计了一种新的逆向工程方法，利用特征空间约束的逆向工程木马触发器。对四个数据集和七种不同攻击的结果表明，我们的解决方案有效地防御输入空间和特征空间木马。它在木马模型检测和缓解任务方面优于最先进的逆向工程方法和其他类型的防御。平均而言，我们的方法的检测精度为93%。对于木马缓解，我们的方法可以减少ASR（攻击成功率），只有0.26%的BA（良性准确性）保持几乎不变。我们的代码可以在https://github.com/RU-System-Software-and-Security/FeatureRE上找到。
2022-10-27 cs.AI cs.CR cs.CV
LSP Framework: A Compensatory Model for Defeating Trigger Reverse Engineering via Label Smoothing Poisoning
School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院）；National Computer network Emergency Response technical Team/Coordination Center of China（国家计算机网络应急技术处理协调中心）
提出LSP框架，通过标签平滑投毒操纵后门样本分类置信度，以击败触发器逆向工程防御，实验证明其有效性与兼容性。
2024-04-19 cs.CR cs.CV cs.LG
Social Media Networks Attacks and their Preventive Mechanisms: A Review
我们生活在一个虚拟的世界里，真实的生活方式被复制。全世界对社交媒体网络的使用日益依赖，导致对信息安全的极大关切。使社交媒体平台流行起来的因素之一是它们如何将世界各地的人们联系起来，以进行互动，分享内容，并参与跨越地理边界的共同兴趣的相互互动。在所有这些令人难以置信的收益背后，是威胁物理社会化的数字犯罪等同。犯罪分子和黑客正在利用社交媒体平台（SMP）进行许多邪恶的活动来伤害他人。随着检测工具的发展来控制这些犯罪，黑客的战术和技术也在不断发展。黑客不断开发新的攻击工具和黑客策略，以获得对系统的恶意访问并攻击社交媒体网络，从而使安全管理员和组织难以开发和实施防止黑客攻击所需的适当策略和程序。社交媒体平台上网络攻击的增加要求采取紧急和更智能的安全措施，以提高社交媒体平台的有效性。本文探讨了黑客攻击社交媒体的模式和策略，以及如何防止他们对用户的活动，以确保安全的社交网络空间，提高虚拟社交。首先对社交媒体平台进行了简要的分类，然后重点介绍了各种类型的攻击，最后提出了当前最先进的防范机制，以克服研究工作中提出的攻击，最后提出了社交媒体入侵检测机制作为打击社交媒体网络网络犯罪的第二道防线
2022-01-10 cs.CR cs.SI
Survival of~the~Stealthiest: Evolving Low-Entropy Ransomware via~Genetic Algorithms
JCT, Israel（JCT）；HIT, Israel（HIT）；EPITA（EPITA；斯特拉斯堡大学）；Université de Strasbourg, France（阿里埃勒大学）；Ariel University, Israel
本研究将勒索软件执行建模为SBSE优化问题，通过GA演化低熵勒索软件，使其能规避行为监控，为自动化软件防御带来新挑战。
2026-08-21 cs.CR
BaDExpert: Extracting Backdoor Functionality for Accurate Backdoor Input Detection
Princeton University（普林斯顿大学）；Zhejiang University（浙江大学）
本研究提出新型后门防御方法BaDExpert，通过逆向工程微调后门模型提取仅识别后门输入的后门专家模型，结合辅助模型集成策略，可有效缓解17种主流后门攻击且对干净样本效用影响极小，已在多数据集和模型架构上验证有效。
2023-10-05 cs.AI cs.CR cs.CV
OASIS: Offsetting Active Reconstruction Attacks in Federated Learning
University of Florida（佛罗里达大学）；National Renewable Energy Laboratory（国家可再生能源实验室）；Saudi Electronic University（沙特电子大学）
本文提出基于图像增强的防御机制OASIS，通过揭示并破坏梯度反转原理，有效抵御联邦学习中由恶意服务器发起的主动重构攻击，同时保持模型性能。
2024-06-03 cs.AI cs.CR
