Modeling Behavioral Preferences of Cyber Adversaries Using Inverse Reinforcement Learning
THINC Lab, School of Computing, University of Georgia(THINC实验室,计算学院,佐治亚大学)
本文提出用逆强化学习从审计日志取证数据中学习网络攻击者的行为偏好,首次证明低层级取证数据可自动揭示对手固有偏好,并可作为独特行为签名改进威胁归因。
2025-05-02 cs.AI cs.CR cs.LG
Learning About Simulated Adversaries from Human Defenders using Interactive Cyber-Defense Games
本文提出使用对抗算法和交互式网络防御游戏(IDG)研究防御者学习策略,发现参与者能学会预判Beeline对手并增加主动防御,为加速网络安全分析师训练提供了启示。
2023-04-03 cs.CR cs.HC
Quantifying Loss Aversion in Cyber Adversaries via LLM Analysis
USC Institute for Creative Technologies(南加州大学创意技术研究所);Northeastern University(东北大学);University of Southern California(南加州大学);Carnegie Mellon University(卡内基梅隆大学);Simmons University(西蒙斯大学)
本文提出利用大语言模型从黑客攻击行为中量化损失厌恶认知偏差,通过关联持久化机制与操作触发因素,为基于行为的实时网络防御提供新方法。
2025-08-18 cs.AI cs.CR
Cyberattack Action-Intent-Framework for Mapping Intrusion Observables
具有讽刺意味的是,网络对手使用的技术和战术正变得越来越复杂,因为防御越来越强大,违规成本不断上升。了解对手的思维过程和行为是非常具有挑战性的,因为高调的甚至业余的攻击者都没有动机分享与他们的非法活动相关的交易。观察对手执行的操作的一个机会是通过使用入侵检测系统(IDS),该系统在检测到可疑行为的情况下生成警报。这些系统发出的警报通常通过攻击“签名”的形式描述可疑操作,但不一定揭示攻击者执行操作的真实意图。同时,存在几个高级框架来描述对手可能执行的动作类型的序列或链。然而,这些框架并没有将动作类型与标准入侵检测系统的可观测值联系起来,也没有描述对抗性动作的合理意图。为了解决这些差距,这项工作提出了攻击意图框架(AIF),以补充现有的网络攻击杀死链和攻击分类。AIF在两个描述级别上定义了一组攻击意图状态(AIS):宏AIS描述了攻击者试图实现的“什么”,而微AIS描述了预期目标“如何”实现。一个完整的描述,这两个宏提供了一套指导原则,如何AIS是派生和添加到框架。
2020-02-21 cs.CR
Bounty Hunter: Autonomous, Comprehensive Emulation of Multi-Faceted Adversaries
Fraunhofer FKIE(弗劳恩霍夫FKIE);RWTH Aachen University(亚琛工业大学)
Bounty Hunter是一种自动化对手模拟工具,通过Caldera平台实现自主、全面的多面对手模拟,提升安全评估和入侵检测研究的效率与真实性。
2026-09-10 cs.CR
Automatic Identification of Indicators of Compromise using Neural-Based Sequence Labelling
Tencent(腾讯)
危害指示器(IOC)是在网络上或操作系统中观察到的伪像,其可用于指示计算机入侵并在早期阶段检测网络攻击。因此,它们在网络安全领域发挥着重要作用。然而,最先进的IOC检测系统严重依赖于具有网络安全专业知识的手工特征,并且需要大量的监督训练语料库来训练IOC分类器。在本文中,我们提出使用基于神经的序列标记模型来自动识别网络安全报告中的IOC,而无需网络安全的专业知识。我们的工作是第一个应用端到端的序列标记的任务,在IOCs的识别。通过使用一个注意力机制和几个令牌拼写特征,我们发现,该模型能够识别网络安全报告中包含的长句中的低频IOC。实验表明,该模型优于其他序列标记模型,实现超过88%的平均F1分数。
2018-10-24 cs.AI cs.CR
Fake or Compromised? Making Sense of Malicious Clients in Federated Learning
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Adobe Research(奥多比研究院)
针对联邦学习投毒攻击安全领域因攻击者模型假设不一产生的认知混乱,该研究提出混合攻击者模型串联现有模型,梳理攻击与防御的统一框架,明确FL系统设计需考虑的威胁谱系与未来研究方向。
2024-03-10 cs.CR cs.LG
Adversarial Genetic Programming for Cyber Security: A Rising Application Domain Where GP Matters
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
网络安全的对手和交战无处不在,永无止境。我们描绘了对抗性遗传编程的网络安全,一个研究课题,通过遗传编程(GP),复制和研究网络对手的行为和他们的参与动态。对抗性遗传编程的网络安全包括现存的和直接的研究工作在一个重要的问题领域,可以说占据了一个位置,在前沿GP的问题。此外,它通过表达不同的抽象与GP和机会重新连接到机器学习,人工生命,基于代理的建模和网络安全社区,围绕不断发展的复杂行为提出研究问题。我们提出了一个框架,称为RIVALS支持网络安全军备竞赛的研究。它的目标是通过计算建模和模拟来阐明受到攻击的网络网络的动态。
2020-04-07 cs.AI cs.CR cs.LG
Controllable Fake Document Infilling for Cyber Deception
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
最近的作品在网络欺骗研究如何阻止恶意入侵,通过生成多个伪造版本的关键文件,强加成本的对手谁需要识别正确的信息。然而,现有的方法是上下文不可知的,导致次优和不变的输出。我们提出了一种新的上下文感知模型,假文件填充(FDI),通过将问题转化为一个可控的掩模,然后填充过程。外国直接投资掩盖了文件中不同长度的重要概念,然后考虑到过去和未来的背景,填充了一个现实但虚假的替代方案。我们对技术文档和新闻报道进行全面评估。结果表明,FDI在生成高度可信的伪造品方面优于基线,这些伪造品经过适度修改以保护关键信息并欺骗对手。
2022-10-28 cs.AI cs.CR
To Defend Against Cyber Attacks, We Must Teach AI Agents to Hack
Monash University(墨尔本大学);University of California, Los Angeles(加州大学洛杉矶分校);University of California, Santa Barbara(加州大学圣巴巴拉分校);National University of Singapore(新加坡国立大学)
本文主张AI代理驱动的网络攻击不可避免,需转变防御策略,提出构建全面基准、发展训练代理发现漏洞及实施治理限制进攻性AI能力,以负责任地掌握进攻性AI能力作为防御基础设施。
2026-02-01 cs.AI cs.CR cs.CY
ISADM: An Integrated STRIDE, ATT&CK, and D3FEND Model for Threat Modeling Against Real-world Adversaries
University of New South Wales (UNSW)(新南威尔士大学);Bangladesh University of Business and Technology (BUBT)(孟加拉商业与技术大学);Anchoram’s Cyber Security Practice(Anchoram网络安全实践);RMIT University(皇家墨尔本理工大学)
ISADM是一种整合STRIDE、ATT&CK和D3FEND的威胁建模方法,用于提升金融科技对现实世界对手的防御能力。
2025-12-21 cs.CR
Dead Man's PLC: Towards Viable Cyber Extortion for Operational Technology
本文针对OT领域常规恢复可抵御加密勒索的现状,提出将环境整体作为勒索对象、资产互检防篡改的DM-PLC勒索方法,并在测试平台验证了其恶意效力。
2023-07-18 cs.CR
Multi-Modal Attack Detection for Cyber-Physical Additive Manufacturing
网络物理增材制造(AM)根据其数字表示逐层构建物理3D对象,并已广泛应用于快速原型设计和跨领域功能性最终产品的制造。传统生产过程的计算机化推动了这些技术进步;然而,这也带来了新的脆弱性,需要研究对这些系统的网络攻击。AM破坏攻击是一种源自网络领域的动态网络攻击,最终可能导致物理损坏,伤害甚至死亡。通过在AM数字过程链的任何特定过程中引入不显眼但具有破坏性的更改,攻击者可以以人类观察者不可见的方式损害制造组件的结构完整性。如果制造的对象对其系统至关重要,这些攻击甚至可能危及整个系统的结构完整性,并对其用户构成严重的安全风险。例如,在拉伸试样的3D设计中放置一个不显眼的空隙(尺寸小于1 mm)可以使其屈服载荷降低14%。然而,安全研究主要集中在保护数字资产,忽视了AM系统是CPS的事实。
2021-10-05 cs.CR
n-m-Variant Systems: Adversarial-Resistant Software Rejuvenation for Cloud-Based Web Applications
Web服务器是攻击者的热门目标,因为它们可以公开访问,并且经常容易受到攻击。妥协可能会被忽视几个月,如果不是几年,恢复往往涉及一个完整的系统重建。在本文中,我们提出了n-m-Variant系统,一个基于云的Web应用程序的抗对抗性软件复兴框架。我们通过引入一个变量m来改进最先进的技术,该变量为管理员提供了一个调节环境的旋钮,以平衡资源使用、性能开销和安全保证。使用m,安全保证可以调整为秒、分钟、天或完全抵抗。我们设计并实现了一个n-m-Variant系统原型,以保护Mediawiki PHP应用程序从外部SQL持久存储提供动态内容。我们的性能评估显示,在适当的资源分配下,对复杂的对手进行108秒的抵抗和12天的抵抗,吞吐量减少了65%和83%。此外,我们使用理论分析和仿真来表征系统参数的影响,对对手的弹性。通过这些努力,我们的工作演示了基于云的服务器的属性如何增强Web服务器的完整性。
2019-10-18 cs.CR
Privacy-Preserving Resilience of Cyber-Physical Systems to Adversaries
网络物理系统(CPS)预计将对多种类型的对手具有弹性。在本文中,我们考虑一个CPS,必须满足线性时序逻辑(LTL)的目标存在两种对手。第一个对手有能力篡改CPS的输入,以影响LTL目标的满足。CPS与这个对手的相互作用被建模为一个随机博弈。我们合成一个控制器的CPS,以最大限度地满足LTL目标的概率在任何政策下,这个对手。第二个对手是一个窃听者谁可以观察标记的轨迹的CPS产生的前一步。然后,它可以利用这些信息发动其他类型的攻击。标记轨迹是一系列标签,其中标签与状态相关联,并与该状态下LTL目标的满足程度相关联。我们使用差分隐私来量化当窃听者看到标记的轨迹时彼此相关的状态之间的不可分割性。如果两个相等长度的轨迹在沿着各自轨迹的每个状态处是差分私有的,则它们将是差分私有的。我们使用一个倾斜的Kantorovich度量计算概率分布之间的距离,导致从选择的行动,根据政策从相关的国家,以量化差异隐私。此外,我们这样做的方式,不影响LTL目标的满意度概率。我们验证了我们的方法在模拟的无人机,以满足LTL目标在对抗性环境中。
2020-07-27 cs.CR cs.LO cs.SY
Distortion based Light-weight Security for Cyber-Physical Systems
在信息物理系统(CPS)中,基于通信数据的推理具有重要意义,因为它可以用于操纵或破坏对手的控制操作。由于控制系统越来越多地分布在更大的地理区域上,这就需要有效的数据安全传输机制。基于失真的安全性,最近提出的CPS中的安全传输的候选人之一,不仅更适合这些应用程序,但也相当节俭的共享密钥的事先要求。在本文中,我们提出了基于失真的度量来保护CPS通信,并表明只需几位预共享密钥就可以混淆对手。特别是,我们将表明,一个线性动力系统可以传达其状态的方式,防止窃听者准确地学习状态。
2020-06-25 cs.CR cs.IT math.IT
Honeyquest: Rapidly Measuring the Enticingness of Cyber Deception Techniques with Code-based Questionnaires
针对网络欺骗技术定义模糊、有效性验证需耗时实现落地的问题,研究提出开源工具Honeyquest,以机器可读规范快速评估技术诱骗性,实验复现了既往结论并证实欺骗手段可平均降低约22%的真实风险被发现概率。
2024-08-20 cs.CR cs.CY
Deception-As-Defense Framework for Cyber-Physical Systems
Coordinated Science Laboratory, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校协调科学实验室)
本文提出了一种欺骗信号框架,用于对抗网络物理系统中的高级攻击者。通过战略性地控制可被攻击者获取的信息,间接地引导攻击者行为以利于系统,而无需显式强制。基于博弈论分层均衡的解决方案概念,得到一个半定规划问题,等价于防御者在选择最佳策略时面临的无限维优化问题,无论信息是否为高斯分布,双方是否具有二次成本函数。同时展示了线性信号规则在通信场景中的最优性,并计算了控制场景中的最优线性信号规则。
2019-02-04 cs.CR cs.SY eess.SY
Detection of Compromised Smart Grid Devices with Machine Learning and Convolution Techniques
智能电网概念将传统电网转变为一个庞大的网络物理系统,该系统依赖于先进的双向通信基础设施来集成无数不同的智能设备。虽然网络组件的引入使电网变得更加灵活和高效,拥有如此多的智能设备,但它也扩大了电网的攻击面。特别是,受损的设备对智能电网的健康运行构成了巨大的危险。例如,攻击者可以控制设备来改变网格的行为,并可以影响测量。在本文中,检测这种行为不端的恶意智能电网设备,我们提出了一个机器学习和卷积为基础的分类框架。我们的框架专门利用系统和库调用列表在资源有限和资源丰富的智能电网设备,如RTU,PLC,PMU和IED的操作系统的内核级别。通过对系统调用的类型和其他有价值的特征进行分析,该框架能够成功地识别恶意智能电网设备。为了测试所提出的框架的有效性,我们建立了一个具有代表性的测试床符合IEC-61850协议套件,并评估其性能与不同的系统调用。所提出的框架在不同的评估方案产生非常高的准确性(平均。91%),这表明该框架是有效的,以克服妥协的智能电网设备的问题。
2018-04-13 cs.CR
AdaptoNet: Modular Foundation-Adaptive Neural Networks for Cyber-Physical Attack Detection in Power Grids
University of Rhode Island(罗德岛大学);United States Coast Guard Academy(美国海岸警卫队学院)
针对数据拒绝攻击使电网标准数据驱动检测方法失效的问题,提出模块化神经网络AdaptoNet,通过条件控制适配测量可用性,在四组IEEE测试系统上大幅提升检测F1分数。
2026-08-04 cs.CR
TagZilla: Automated Owner and Abuse Type Tagging for Indicators of Compromise in Threat Reports
IMDEA Software Institute(IMDEA软件研究所)
TagZilla是基于LLM的IoC自动标注平台,采用开放与闭世界分类法,在100份含1534个IoC的报告上F1值达0.94和0.93,可标注多行为者报告并生成IoC档案。
2026-08-31 cs.CR
Elevating Cyber Threat Intelligence against Disinformation Campaigns with LLM-based Concept Extraction and the FakeCTI Dataset
Gran Sasso Science Institute(格兰萨索科学研究所)
本文提出基于LLM概念提取的CTI框架及FakeCTI数据集,从虚假新闻中提取高级语义指标,以可扩展方式追踪和对抗虚假信息活动。
2025-10-17 cs.CR
Towards Causal Models for Adversary Distractions
The MITRE Corporation(MITRE公司)
自动化对手模拟正在成为网络安全运营商测试和评估其网络防御的不可或缺的工具。与此同时,它暴露了对手通过网络传播的速度。虽然研究已经取得了很大的进展,质量诱饵生成愚弄人类对手,我们可能需要不同的策略来减缓计算机代理。在本文中,我们表明,诱饵代可以减缓自动代理的决策过程,但它被抑制的程度在很大程度上取决于所使用的对象的类型。这表明需要明确评估诱饵生成和放置策略,以应对快速移动的自动化对手。
2021-04-21 cs.AI cs.CR
Cybonto: Towards Human Cognitive Digital Twins for Cybersecurity
University of Arizona(亚利桑那大学)
网络防御是反应性和缓慢的。平均而言,补救时间是妥协时间的数百倍。为了应对日益复杂的威胁形势,数字孪生(DT),特别是人类数字孪生(HDT)提供了跨多个知识领域运行大规模模拟的能力。模拟结果可以提供对对手行为和战术的深入了解,从而制定更好的主动网络防御策略。本文首次通过Cybonto概念框架提案巩固了DT和HDT对网络安全的愿景。本文还贡献了Cybonto本体,正式记录了108个结构和数千个基于20个经过时间考验的心理学理论的认知相关路径。最后,本文应用了20个网络中心性算法对108个结构进行了分析。确定的十大结构要求扩展当前的数字认知架构,为DT的未来做准备。
2021-08-05 cs.AI cs.CR
A Machine Learning based Empirical Evaluation of Cyber Threat Actors High Level Attack Patterns over Low level Attack Patterns in Attributing Attacks
International Islamic University Islamabad (IIUI)(国际伊斯兰大学伊斯兰堡分校);Seoul National University(首尔大学)
针对网络威胁归因中低层IOC有效性缺乏实证评估、高层IOC数据集难直接训练模型的问题,本研究构建专用真实数据集开展对比实验,证实高层IOC训练的归因模型准确率达95%,远高于低层IOC模型的40%。
2023-07-17 cs.CR cs.LG
Intelligent Systems Design for Malware Classification Under Adversarial Conditions
U.S. Military Academy(美国军事学院)
使用机器学习和智能系统已成为恶意软件检测和网络威胁预防领域的既定做法。在以广泛的可访问性和大数据为特征的环境中,在不使用基于人工智能的技术的情况下进行恶意软件分类的可行性已经呈指数级下降。对抗性机器学习的威胁也是当前自动化智能恶意软件检测领域的特征。攻击者正在寻找负责恶意软件分类功能的底层数据和/或算法,以映射其行为或破坏其功能。这些对手的目的是绕过网络安全措施并提高恶意软件的有效性。本研究的重点是设计一个智能系统的方法,使用机器学习,可以准确和鲁棒地分类恶意软件在对抗条件下。这样的结果最终依赖于增加的灵活性和适应性,以建立一个足够强大的模型来识别对底层算法的攻击。
2019-07-06 cs.CR cs.LG stat.ML
Inference-Time Backdoors via Chat Templates: From LLM Supply Chains to Agentic System Compromise
Fujitsu Research of Europe(富士通欧洲研究)
提出一种通过恶意修改聊天模板实现推理时后门攻击的方法,无需修改模型权重或训练数据,在LLM、代理和多代理系统层面均能成功攻击,且能绕过现有防御。
2026-05-24 cs.CR cs.LG
The Threat of Offensive AI to Organizations
Ben-Gurion University(本-古里安大学);University of Cagliari(卡利亚里大学);Microsoft(微软);Nanyang Technological University(南洋理工大学);Purdue(普渡大学);Georgia Institute of Technology(佐治亚理工学院);Pluribus One(Pluribus One公司)
人工智能为我们提供了自动化任务的能力,从大量数据中提取信息,并合成与真实事物几乎无法区分的媒体。然而,积极的工具也可以用于消极的目的。特别是,网络对手可以使用人工智能(如机器学习)来增强攻击并扩大活动。尽管过去已经讨论过攻击性人工智能,但仍然需要在组织的背景下分析和理解威胁。例如,具有AI能力的对手如何影响网络杀戮链?AI对攻击者的好处比对防御者的好处多吗?组织目前面临的最大的AI威胁是什么,它们对未来的影响是什么?在这项调查中,我们探讨了攻击性人工智能对组织的威胁。首先,我们介绍背景,并讨论人工智能如何改变对手的方法,策略,目标和整体攻击模型。然后,通过文献回顾,我们确定了33种攻击性AI功能,对手可以使用这些功能来增强他们的攻击。最后,通过跨行业和学术界的用户研究,我们对AI威胁进行了排名,并提供了对对手的见解。
2021-06-30 cs.AI cs.CR cs.CY
Reinforcement Learning for Industrial Control Network Cyber Security Orchestration
Stanford University(斯坦福大学);Johns Hopkins University(约翰斯·霍普金斯大学)
保护计算机网络免受网络攻击需要基于不完美的妥协指标协调多个节点的行动,同时最小化对网络操作的中断。高级攻击可以在执行前几个月内几乎没有可观察到的信号。由此产生的顺序决策问题具有较大的观察和行动空间以及较长的时间范围,使得难以用现有方法解决。在这项工作中,我们提出了扩展深度强化学习的技术,以解决大型工业控制网络的网络安全编排问题。我们提出了一种新的基于注意力的神经结构,其大小复杂度对受保护的网络的大小是不变的。提出了一个预训练课程,以克服早期探索的困难。仿真实验表明,该方法在学习样本复杂度和策略收敛性能上都优于基线方法。
2021-06-09 cs.CR cs.LG
Btech thesis report on adversarial attack detection and purification of adverserially attacked images
INDIAN INSTITUTE OF TECHNOLOGY KHARAGPUR(印度理工学院克勒格布尔分校)
这是Btech关于检测和净化广告攻击图像的论文报告。深度学习模型在某些训练样本上进行训练,用于各种任务,如分类、回归等。通过训练,调整权重,使得模型不仅在由特定度量判断的训练样本上很好地执行任务,而且还具有在通常称为测试数据的其他未见过的样本上进行概括的出色能力。尽管机器学习模型在广泛的任务上取得了巨大的成功,但多年来,安全性受到的关注要少得多。各种潜在网络攻击的鲁棒性也应该是机器学习模型准确性的一个度量标准。这些网络攻击可能会对使用机器学习的现实世界敏感应用(如医疗和运输系统)造成各种负面影响。因此,有必要保护系统免受此类攻击。在这份报告中,我专注于一类被称为对抗攻击的网络攻击,其中原始输入样本被小扰动修改,使得它们在视觉上看起来仍然与人类相同,但机器学习模型被这些输入愚弄。在这份报告中,我讨论了使用AutoEncoders对抗对抗攻击的两种新方法,1)通过检测对手的存在,2)净化这些对手,使目标分类模型对此类攻击具有鲁棒性。
2022-05-09 cs.CR cs.LG
Controller Synthesis for Linear Time-varying Systems with Adversaries
University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了一种针对存在对抗者的离散时间可达-避免问题的控制器合成算法,通过线性动态和对抗者预算的L2范数,利用线性控制理论结果分解可达状态,结合SMT求解器生成符号控制器。
2015-01-18 cs.CR cs.SY eess.SY
Towards an Approach to Contextual Detection of Multi-Stage Cyber Attacks in Smart Grids
电网面临着受到高影响力的网络安全威胁的风险,例如协调的定时攻击。要驾驭这一新的威胁格局,需要深入了解能源信息系统中的潜在风险和复杂的攻击过程,这反过来又需要难以管理的手动工作来及时处理大量跨域信息。为了在协调网络攻击的情况下提供充分的基础来评估和了解智能电网的情况,我们需要一种系统和一致的方法来识别网络事件。在本文中,我们提出了一种方法,收集和相关的跨域网络威胁信息,以检测多阶段的网络攻击的能源信息系统。我们调查的相关性方法的适用性和性能,并讨论结果,以突出领域特定的检测机制的挑战。
2021-09-06 cs.CR cs.NI cs.SY
Can You Still See Me?: Reconstructing Robot Operations Over End-to-End Encrypted Channels
University of Strathclyde(思克莱德大学)
互联机器人在工业4.0中发挥着关键作用,为许多工业工作流程提供自动化和更高的效率。不幸的是,这些机器人可能会将有关这些操作工作流程的敏感信息泄露给远程对手。虽然在这种情况下,有使用端对端加密进行数据传输的规定,但被动的对手完全有可能对正在进行的整个工作流程进行指纹识别和重建,从而了解设施的运作方式。在本文中,我们研究了远程攻击者是否可以准确地识别机器人的动作,并最终重建操作工作流程。使用神经网络方法进行流量分析,我们发现可以预测TLS加密的移动,准确率约为60%,在现实网络条件下提高到近乎完美的准确性。此外,我们还发现攻击者可以重建仓储工作流程,并取得类似的成功。最终,仅仅采用最佳网络安全实践显然不足以阻止即使是弱小(被动)的对手。
2022-09-21 cs.CR cs.LG cs.RO
TinyML-Driven Cybersecurity for Autonomous Spacecraft: Latency-Accuracy Analysis for SPARTA RF and Cyber Threat Detection
Virginia Tech(弗吉尼亚理工学院);Hampton University(哈姆普顿大学)
针对自主航天器,基于SPARTA攻击模型分析TinyML兼容经典模型(随机森林、逻辑回归、SVM、MLP)在检测多种网络射频威胁时的延迟-精度权衡,发现逻辑回归在微秒级推理下仅比随机森林精度低1%,适合作为机载自主基线。
2026-06-04 cs.AI cs.CR stat.ML