Benchmarking Misuse Mitigation Against Covert Adversaries
University of Pennsylvania(宾夕法尼亚大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出BSD基准测试,用于评估对抗隐蔽攻击的防御策略,通过生成两个拒绝前沿模型的难数据集,揭示分解攻击的有效性及状态化防御的潜力。
2026-04-20 cs.AI cs.CR
Design of Transport Layer Based Hybrid Covert Channel Detection Engine
信息战争使得计算机网络具有不可预测性,容易受到各种攻击。这种对网络的攻击损害了最重要的属性,隐私。大多数此类攻击都是使用称为“隐蔽信道”的特殊通信信道设计的。“隐蔽”一词代表隐藏或不透明。网络隐蔽通道是合法网络通信中的隐藏通信路径,明显违反了规定的安全策略。隐蔽信道中的非透明性也被称为陷门。暗门是在合法通信中无意中设计的,其座右铭是泄露信息。阈下通道是隐蔽通道的一种变体,其工作原理类似,只是在密码算法中设置了陷门。隐通道与阈下通道的一种组合是“混合隐通道”。混合隐通道是两个或多个隐通道变体的同质或异质混合,它们在同一时刻或不同时刻活动。检测此类恶意通道活动在消除对合法网络的威胁方面起着至关重要的作用。本文研究了多陷门隐蔽通道,设计了一种基于TCP和SSL的传输层混合隐蔽通道检测引擎。
2010-12-30 cs.CR
Covert Communication Based on the Poisoning Attack in Federated Learning
Sichuan Normal University(四川师范大学)
针对联邦学习模型聚合破坏客户端嵌入信息的问题,提出一种基于投毒攻击的隐蔽通信方法,实现两客户端间100%准确传输,并证明其隐蔽、鲁棒且现有防御难以应对。
2023-06-02 cs.CR cs.LG
IREXF: Data Exfiltration from Air-gapped Networks by Infrared Remote Control Signals
红外遥控技术在人们的日常生活中有着广泛的应用。在安全级别最高的地方也适用。红外遥控信号被认为是一种简单、安全、清洁的资源,可以帮助我们控制附近的电器。在本文中,我们建立IREXF,一种新的红外光学隐蔽通道,从一个良好的保护空气间隙网络通过恶意红外模块植入到键盘。在气隙PC中预先安装的恶意软件接收来自恶意红外模块的数据,以研究气隙网络中的红外环境。一旦找到合适的电器,红外遥控指令将在适当的时间发送。随着物联网技术的发展,越来越多的家电产品可以接入互联网。这些红外命令信号泄漏出的空气间隙网络可以被接收的设备没有任何恶意的配置。在我们的实验中,通过一个智能电视机顶盒,隐蔽通道的速率可以高达2.62比特每秒没有任何进一步的优化。最后给出了检测和消除这种隐蔽信道的对策。
2018-01-10 cs.CR
Detection of Malicious and Low Throughput Data Exfiltration Over the DNS Protocol
在存在安全对策的情况下,设计用于数据泄露的恶意软件必须使用隐蔽通道来实现其目标。在现有的隐蔽通道中有域名系统(DNS)协议。虽然在过去的十年中,DNS上的隐蔽通道的检测已经得到了深入的研究,以前的研究涉及一个特定的隐蔽通道的子类,即DNS隧道。虽然隧道检测的重要性没有被削弱,但一类低吞吐量DNS渗透恶意软件仍然被忽视。本研究的目标是提出一种方法,用于检测隧道和低吞吐量的数据泄露的DNS。为此,我们提出了一个解决方案,包括一个监督特征选择方法,和一个可互换的,可调整的异常检测模型训练的合法流量。在第一步中,应用单类分类器来检测不符合正常行为的特定于域的流量。然后,在第二步中,为了减少由于尝试检测低吞吐量数据泄漏而导致的误报率,我们应用基于规则的过滤器,该过滤器过滤合法服务使用的DNS上的数据交换。我们的解决方案在中等规模的递归DNS服务器日志上进行了评估,涉及超过75,000次合法使用和近2,000次攻击。评估结果表明,虽然DNS隧道覆盖至少99%的召回率和小于0.01%的误报率,低吞吐量的渗透检测是比较困难的。虽然不能完全阻止它,但我们的解决方案在DNS语法的限制下(相当于每小时5个信用卡详细信息或10个用户凭据)限制了恶意软件试图避免检测的最多1 kb/h有效负载,这降低了攻击的有效性。
2018-06-18 cs.CR
LLM: LSTM Look-Ahead Moving Target Defense Based on Historical Malicious Scan
提出LLM方法,利用LSTM网络预测攻击者可能扫描的目标地址,结合集成学习和动态变异机制,提升IP shuffling的安全性和降低开销。
2026-06-16 cs.CR
Turning Federated Learning Systems Into Covert Channels
IMT School for Advanced Studies(IMT高等研究学院);Sapienza University of Rome(罗马智慧大学)
本文提出一种将联邦学习系统用作隐蔽信道的攻击模型,恶意发送方通过精心构造样本毒化全局模型且不影响整体性能,恶意接收方则通过观察模型变化来传输单比特信息,从而实现隐蔽通信。
2024-02-23 cs.CR cs.LG
SDD: Self-Degraded Defense against Malicious Fine-tuning
Zixuan Chen(陈子轩);Weikai Lu(卢伟凯);Xin Lin(林鑫);Ziqian Zeng(曾子谦)
针对开源大语言模型易被恶意微调绕过安全防护的问题,提出自降解防御框架SDD,通过让模型对有害提示生成高质量无关回复,使恶意微调后模型通用能力大幅下降而无法执行有害指令,实验验证了其防御有效性。
2025-07-27 cs.AI cs.CR
Pool-Party: Exploiting Browser Resource Pools as Side-Channels for Web Tracking
我们确定类隐蔽通道的浏览器,不减轻目前的防御,我们称之为“池党”的攻击。池方攻击允许站点通过操纵有限但未分区的资源池来创建隐蔽通道。这类攻击是已知的,但在这项工作中,我们表明,它们都更普遍,更实用的利用,并允许以更多的方式利用,比以前确定的。这些隐蔽通道具有足够的带宽,可以在实际和现实条件下跨站点边界传递cookie和标识符。我们在所有流行的浏览器中识别池方攻击,并表明它们是实用的跨站点跟踪技术(即,Chrome和Edge中的攻击时间为0.6秒,Firefox和Tor浏览器中的攻击时间为7秒)。在本文中,我们做了以下贡献:首先,我们描述了池方隐蔽通道攻击,利用限制在浏览器中的应用层资源池。其次,我们证明了池党的攻击是实用的,并可用于跟踪用户在所有流行的浏览器,我们还分享了开源实现的攻击,并评估他们通过一个有代表性的网络抓取。第三,我们证明了在基于Gecko的浏览器(包括Tor浏览器)中,池方攻击也可以用于跨配置文件跟踪(例如,在正常和私人浏览会话之间链接用户行为)。最后,我们讨论了可能的缓解策略和防御措施
2023-03-21 cs.CR
AiR-ViBeR: Exfiltrating Data from Air-Gapped Computers via Covert Surface ViBrAtIoNs
气隙隐蔽通道是一种特殊类型的隐蔽通信通道,使攻击者能够从孤立的、无网络的计算机中窃取数据。多年来,人们已经证明了各种类型的气隙隐蔽通道,包括电磁通道、磁通道、声学通道、光学通道和热通道。在本文中,我们介绍了一种新型的振动(地震)隐蔽通道。我们观察到,计算机振动的频率与其内部风扇的转速相关。这些听不见的振动会影响计算机所在的整个结构。我们的方法是基于恶意软件的能力,控制由计算机产生的振动,通过调节其内部风扇的速度。我们表明,恶意软件产生的隐蔽振动可以通过附近的智能手机通过集成的,敏感的\textit{accelerometers}。值得注意的是,智能手机中的加速计传感器可以被任何应用程序访问,而无需用户权限,这使得这种攻击具有高度的规避性。我们实现了AiR-ViBeR,这是一种对二进制信息进行编码的恶意软件,并通过低频振动载波对其进行调制。然后,数据被放置在同一表面上的智能手机上的恶意应用程序解码(例如,在桌子上)。我们讨论了攻击模型,提供技术背景,并提出了实施细节和评估结果。我们的研究结果表明,使用AIR-ViBeR,数据可以通过振动从空气间隙的计算机泄露到同一张桌子上附近的智能手机,甚至是相邻的桌子。最后,我们提出了一套针对这种新型攻击的对策。
2020-04-13 cs.CR
No Free Charge Theorem: a Covert Channel via USB Charging Cable on Mobile Devices
越来越多的人经常使用移动和电池供电的手机,如智能手机和平板电脑。与此同时,由于技术创新和用户的高需求,这些设备正在集成广泛的功能,开发人员正在编写消耗电池的应用程序,这导致这些设备的能耗激增。这种情况导致许多人经常寻找机会在公共充电站为他们的设备充电:这种充电站的存在已经在酒店,购物中心,机场,健身房和博物馆等公共区域周围非常突出,预计未来将显着增长。虽然大多数时候电源是免费的,但不能保证充电站不会被攻击者恶意控制,目的是从连接到它的设备中泄露数据。在本文中,我们首次说明了攻击者如何利用恶意控制的充电站通过USB充电线从智能手机中泄露数据(即,而不使用数据传输功能),控制在设备上运行的简单应用,并且不需要用户授予任何许可来将数据发送到设备之外。我们通过Android中的原型实现展示了所提出的攻击的可行性,该原型实现能够发送潜在的敏感信息,如IMEI、联系人的电话号码和图片。
2016-09-09 cs.CR
The Mason Test: A Defense Against Sybil Attacks in Wireless Networks Without Trusted Authorities
无线网络容易受到Sybil攻击,在这种攻击中,恶意节点为了获得不成比例的影响力而冒充尽可能多的身份。存在许多基于无线信道的空间可变性的防御,但是依赖于详细的多抽头信道估计(在商品802.11设备上没有暴露的东西)或来自多个可信源的有效RSSI观测,例如,企业接入点-在具有潜在恶意邻居的自组织和延迟容忍网络中无法直接获得的东西。我们扩展这些技术是实用的商品802.11设备的无线ad hoc网络。具体来说,我们提出了两种有效的方法,用于分离的行为节点的有效RSSI观测伪造的恶意参与者。此外,我们注意到,以前的signalprint方法很容易被移动攻击者击败,并开发了适当的挑战-响应防御。最后,我们提出了梅森测试,这些技术的商品802.11设备的ad hoc和延迟容忍网络的第一个实现。我们说明了它的性能在几个现实世界的场景。
2014-03-24 cs.CR
Dynamic Malicious Skills in Agentic AI
Duke University(杜克大学)
研究智能体AI中通过自然语言文档注入恶意指令实现动态恶意技能的攻击方法,并提出基于操作系统内核只读挂载的系统级防御。
2026-06-17 cs.CR
Trojan of Things: Embedding Malicious NFC Tags into Common Objects
我们提出了一种名为Trojan of Things(ToT)的新型概念验证攻击,旨在攻击支持NFC的移动设备,如智能手机。ToT攻击的关键思想是将恶意编程的NFC标签秘密嵌入日常生活中经常遇到的常见物体,如钞票,衣服或家具,这些物体不被视为NFC接触点。为了充分探讨ToT的威胁,我们开发了两种引人注目的技术,即ToT设备和Phantom touch generator。这些技术使攻击者能够在无意中将设备靠近ToT的设备所有者不知情的情况下执行各种严重和复杂的攻击。我们讨论了攻击的可行性以及可能的对策对ToT攻击的威胁。
2017-02-23 cs.CR
Rigid-Covert GNSS Spoofing of UAV Swarms: A Structural Blind Spot, Its Detection Limit, and Absolute-Anchor Defenses
Jeonbuk National University(国立全北大学)
针对无人机群相对几何防御的刚性隐蔽GNSS欺骗盲点,提出基于绝对锚点的拜占庭鲁棒恢复方法,在仿真及ArduPilot、Gazebo实验中实现高精度位置恢复,明确了相关检测与防御极限。
2026-08-10 cs.CR cs.RO
TrojanPuzzle: Covertly Poisoning Code-Suggestion Models
University of California, Santa Barbara(加州大学圣塔芭芭拉分校);Microsoft Corporation(微软公司);University of Virginia(弗吉尼亚大学)
本文提出 COVERT 与 TROJANPUZZLE 两种代码模型数据投毒攻击,通过文档字符串及拆分有效载荷绕过静态分析与数据集清洗,并在两种规模模型上验证其威胁。
2024-01-24 cs.CR cs.LG
An Active Defense Mechanism for TCP SYN flooding attacks
对公共服务器的分布式拒绝服务攻击最近已经成为一个严重的问题。为了保证网络服务不会被中断,更有效的防御机制来防止恶意流量,特别是SYN洪水。检测SYN洪水流量的一个问题是服务器节点或防火墙无法区分正常TCP连接的SYN数据包和SYN洪水攻击的SYN数据包。另一个问题是单点防御(例如防火墙)缺乏处理攻击流量增加所需的可扩展性。我们设计了一种新的防御机制来检测SYN洪水攻击。首先,我们引入了一种机制,通过考虑到达流量的时间变化来更准确地检测SYN洪水流量。我们调查的统计数据的正常TCP SYN数据包和SYN洪水攻击数据包的到达率。然后,我们描述了一个新的检测机制,基于这些统计。通过跟踪驱动的方法,收到警报消息的防御节点可以识别合法流量,并通过委托SYN/ACK数据包阻止恶意流量。
2012-01-10 cs.CR
xLED: Covert Data Exfiltration from Air-Gapped Networks via Router LEDs
在本文中,我们展示了攻击者如何秘密泄露数据(例如,通过LAN交换机和路由器等网络设备中的一排状态LED,从高度安全或空气隔离的网络中获取加密密钥、密码和文件)。虽然已知一些网络设备发出与设备正在处理的信息相关的光信号(“侧通道”),但以前从未研究过有意控制状态LED以携带任何类型的数据(“隐蔽通道”)。在LAN交换机或路由器上执行恶意代码,从而完全控制状态LED。敏感数据可以通过LED的闪烁进行编码和调制。然后,所产生的信号可以由各种类型的远程摄像机和光学传感器记录。我们提供了交换机和路由器内部架构的技术背景(在硬件和软件层面),使这种类型的攻击。我们还提出了基于幅度和频率的调制和编码方案,以及一个简单的传输协议。我们实现了一个原型的泄漏恶意软件,并讨论其设计和实施。我们用几个路由器和不同类型的LED来评估这种方法。此外,我们还测试了各种接收器,包括远程摄像头,安全摄像头,智能手机摄像头和光学传感器,并讨论了不同的检测和预防对策。我们的实验表明,敏感数据可以通过交换机和路由器的状态LED以每个LED 10 bit/sec到超过1 Kbit/sec的比特率秘密泄漏。
2017-06-04 cs.CR
Quantifying Psychological Sophistication of Malicious Emails
本文提出基于心理技术与心理策略的框架,通过对1,036封恶意邮件的专家评估,量化其心理复杂性并揭示常见与差异模式,为改进恶意邮件防御提供依据。
2024-08-22 cs.CR
RogueRFM: Attacking Refresh Management for Covert-Channel and Denial-of-Service
该研究发现DDR5的RFM刷新管理接口存在跨存储体干扰副作用,据此构建了带宽最高31.3KB/s的隐蔽信道和最高致性能下降67%的拒绝服务攻击,并探讨了相应防御对策。
2025-01-11 cs.AR cs.CR
VisiSploit: An Optical Covert-Channel to Leak Data through an Air-Gap
近年来,已经提出了各种带外隐蔽通道,这些通道证明了在不需要网络连接的情况下将数据泄漏出计算机的可行性。提出的方法基于不同类型的电磁、声和热发射。然而,光学通道在很大程度上被认为是不那么隐蔽的:因为它们对人眼可见,因此可以被检测到,所以它们受到研究人员的关注较少。在本文中,我们介绍了VisiSploit,一种新型的光学隐蔽通道,不同于其他光学方法,也是隐形的。我们的方法利用人类视觉感知的局限性,以不引人注目地通过标准的计算机LCD显示器泄漏数据。我们的实验表明,非常低的对比度或快速闪烁的图像是不可见的人类主体,可以恢复从相机拍摄的照片。因此,我们表明,在一个受感染的计算机上的恶意代码可以获得敏感数据(例如,图像,加密密钥,密码),并将其投影到计算机LCD屏幕上,用户不可见且不知情,允许攻击者使用附近(可能隐藏)相机拍摄的照片重建数据。为了证明这种攻击的可行性并评估通道的隐身性,我们对40名人类进行了一系列测试。我们还检查了通道的边界下的各种参数,不同类型的编码对象,在几个距离,并使用几种相机。我们的研究结果表明,二进制数据可以通过我们的隐蔽通道泄漏。进一步的研究和讨论可能会扩大这一领域的范围,超越其目前的边界,产生新的攻击范式,利用人类视觉感知的微妙机制。
2016-07-19 cs.CR
Disguising Topology and Side-Channel Information through Covert Gate- and ML-Enabled IP Camouflaging
University of Florida(佛罗里达大学)
本文提出了一种基于伪装欺骗的IP伪装方法,通过结构和视觉伪装使IP外观不同,有效抵御侧信道攻击和逆向工程。
2026-03-26 cs.CR
Improving DGA-Based Malicious Domain Classifiers for Malware Defense with Adversarial Machine Learning
Tennessee Technological University(田纳西理工大学)
对手使用域生成算法(DGAs)在网络攻击期间建立命令和控制(C\&C)服务器通信。已知/识别的C\&C域的黑名单通常被用作防御机制之一。然而,由于黑名单是静态的,并且是通过基于签名的方法生成的,因此它们既不能跟上也不能检测到从未见过的恶意域名。由于黑名单域检查的这一缺点,机器学习算法已被用于在一定程度上解决该问题。然而,当使用有限的数据集进行训练时,算法可能无法检测到新的DGA变体。为了缓解这一弱点,我们成功地应用了一个基于DGA的恶意领域分类器,使用了长短期记忆(LSTM)方法和一种新的特征工程技术。我们的模型的性能表现出更高的准确性水平相比,以前报道的模型从以前的研究。此外,我们提出了一种新的方法,使用对抗性机器学习来生成以前从未见过的恶意软件相关的域家庭,可以用来说明机器学习算法在这方面的缺点。接下来,我们用新的样本来增强训练数据集,使得机器学习模型的训练在检测从未见过的恶意域名变体方面更有效。最后,为了保护恶意域名的黑名单不被泄露和篡改,我们设计了安全的数据容器,存储黑名单,并保证其免受敌对访问和修改。
2021-01-02 cs.AI cs.CR
Real-time ML-based Defense Against Malicious Payload in Reconfigurable Embedded Systems
University of South Carolina(南卡罗来纳大学)
针对FPGA可重构系统中恶意比特流的安全威胁,提出基于静态字节级特征的监督式机器学习检测方法,无需源码或网表即可实时检测,在122样本数据集上随机森林宏F1达0.97并成功部署到PYNQ平台。
2025-09-02 cs.AI cs.CR
Leaky Buddies: Cross-Component Covert Channels on Integrated CPU-GPU Systems
图形处理单元(GPU)是当今计算平台范围内无处不在的组件,从手机和平板电脑,到个人计算机,再到高端服务器类平台。随着图形和视频工作负载的重要性日益增加,最近的处理器与集成在同一芯片上的GPU设备一起发货。集成的GPU与CPU共享一些资源,因此,存在从GPU到CPU的微架构攻击的可能性,反之亦然。我们相信这种类型的攻击,跨越组件边界(GPU到CPU,反之亦然)是新颖的,引入了独特的挑战,但也为攻击者提供了新的功能,当我们在这些环境中设计针对微架构攻击的防御时,必须考虑这些功能。具体来说,我们考虑了来自共享微架构组件(如缓存)或通过共享争用域(例如,公共汽车)。我们说明了这两种类型的通道,通过开发两个可靠的隐蔽通道攻击。第一个隐蔽通道使用英特尔集成GPU架构中的共享LLC缓存。第二个是基于竞争的通道,目标是将CPU和GPU连接到LLC的环形总线。跨组件通道引入了许多我们必须克服的新挑战,因为它们发生在使用不同计算模型的异构组件之间,并且使用非对称存储层次结构互连。我们还利用GPU并行性来增加通信的带宽,即使不依赖于一个共同的时钟。基于LLC的信道以2%的低出错率实现120 kbps的带宽,而基于竞争的信道以0.8%的出错率提供高达400 kbps的带宽。
2020-11-19 cs.CR
Passwords and FIDO2 Are Meant To Be Secret: A Practical Secure Authentication Channel for Web Browsers
University of Tennessee(田纳西大学);Brigham Young University(杨百翰大学)
本文针对密码管理器自动填充和FIDO2协议面临本地攻击的问题,提出并实现两种防御方案,在Firefox中验证可防XSS和恶意扩展,兼容性高。
2025-10-15 cs.CR
A Few Steps Further: Why Defenses Against Malicious Finetuning Erode Under Continued Training
Ben-Gurion University of the Negev(贝纳-约瑟夫大学);Amrita Vishwa Vidyapeetham(阿米塔维莎瓦迪耶佩塔)
本文通过分析15种近期防御机制,发现它们共享一个弱点:仅掩盖或误导有害行为路径而未消除行为本身,并开发了一种统一的自适应攻击,成功突破了所有防御机制。
2026-10-14 cs.AI cs.CR cs.LG
Defense Strategies Against Modern Botnets
僵尸网络是由带有恶意代码的受损计算机组成的网络,这些计算机受到远程控制,用于启动分布式拒绝服务(DDoS)攻击、发送大量电子邮件(SPAM)和其他类型的攻击。防御现代僵尸网络是一个真正的挑战。本文提供了几种防御僵尸网络的策略,并列出和描述了建立成功防御所应采取的措施和活动。本文还提供了并行预览的战略,其优点和缺点,认为根据不同的标准。
2009-06-23 cs.CR
Tracing Back the Malicious Clients in Poisoning Attacks to Federated Learning
Duke University(杜克大学);University of Louisville(路易斯维尔大学);University of California, Los Angeles(加州大学洛杉矶分校)
针对联邦学习投毒攻击,提出首个投毒取证方法FLForensics,在训练防御失效后追溯恶意客户端,理论保证区分良恶,实验验证五个基准数据集上的有效性。
2025-10-14 cs.CR cs.CV
RECESS Vaccine for Federated Learning: Proactive Defense Against Model Poisoning Attacks
针对联邦学习中模型投毒攻击防御效果差、难区分良性离群值与恶意梯度的问题,提出主动防御方法RECESS,通过主动查询检测恶意客户端、多轮关联信任评分实现鲁棒聚合,实验证明其防御效果优于现有经典和前沿方法。
2023-10-09 cs.CR
COVID-bit: Keep a Distance of (at least) 2m From My Air-Gap Computer!
由于处理的是敏感信息,空气隔离系统与Internet隔离。本文介绍了COVID位,一种新的COVert信道攻击,通过空中从高度隔离的系统泄漏敏感信息。这些信息从空气间隙的计算机在空中传播到2米或更远的距离,并可以被附近的内部人员或间谍用手机或笔记本电脑获取。恶意软件可以通过在目标系统上执行精心编制的代码来生成无线电波。恶意代码利用现代计算机的动态功耗,并操纵CPU内核上的瞬时负载。这种技术允许恶意软件控制计算机的内部使用,并在0 - 60 kHz频段产生低频电磁辐射。敏感信息(例如,文件、加密密钥、生物统计数据和键盘记录)可以在所发出的信号上被调制,并由附近的移动电话以1000比特/秒的最大速度接收。我们表明,恶意内部人员或访问者携带的带有1美元天线的智能手机或笔记本电脑可以用作隐蔽接收器。值得注意的是,该攻击是高度规避的,因为它从普通的用户级进程执行,不需要root权限,甚至在虚拟机(VM)中也有效。我们将讨论攻击模型并提供技术细节。实现了文本和文件的气隙传输,并给出了信号的产生和数据的调制。我们测试了隐蔽通道并显示了评估结果。最后,我们提出了一套对策,这种气隙攻击。
2022-12-07 cs.CR
FL-PLAS: Federated Learning with Partial Layer Aggregation for Backdoor Defense Against High-Ratio Malicious Clients
Beijing Electronic Science and Technology Institute(北京电子科学技术研究所);University of Louisiana at Lafayette(路易斯安那大学拉弗雷特分校)
针对高比例恶意客户端后门攻击,本文提出FL-PLAS,仅聚合特征提取器并保留本地分类器,在90%恶意用户下无需辅助数据集即可保持高主任务准确率和低后门准确率。
2025-05-17 cs.CR cs.LG
CP-Guard+: A New Paradigm for Malicious Agent Detection and Defense in Collaborative Perception
City University of Hong Kong(香港城市大学);University of Electronic Science and Technology of China(电子科技大学);Lingnan University(岭南大学)
针对协作感知(CP)系统易受恶意攻击的问题,提出特征层面恶意智能体检测新范式,构建首个综合数据集CP-GuardBench,并开发基于双中心对比损失(DCCLoss)的CP-Guard+防御方法,实验证明其优越性。
2026-11-20 cs.AI cs.CR cs.CV
Stealth by Conformity: Evading Robust Aggregation through Adaptive Poisoning
针对联邦学习鲁棒聚合的投毒攻击,提出CHAMP自适应逃避策略,利用聚合侧信道反馈动态调整损失,在两个数据集上对九种防御平均提升攻击成功率47.07%。
2025-09-03 cs.CR
Your Model Is Leaking: Covert Information Transfer through LLM Residual Streams
University of Turku(图尔库大学);City University of Macau(澳门城市大学);University of Technology Sydney(悉尼科技大学);CSIRO(澳大利亚联邦科学与工业研究组织);Edith Cowan University(伊迪丝·考恩大学)
本研究提出一种针对LLM残差流的隐蔽信道攻击,利用受损害的运行时钩子将敏感信息注入中间激活,在不修改模型或控制出口的情况下实现信息泄露,且现有检测器难以识别。
2026-09-24 cs.CR
I Know What You Sync: Covert and Side Channel Attacks on File Systems via syncfs
操作系统使用进程、容器和隔离技术等抽象来强制逻辑隔离,以保护系统免受恶意代码或错误代码的攻击。在本文中,我们展示了通过打破这种逻辑隔离的文件系统的新型侧通道。文件系统在操作系统中起着至关重要的作用,它管理应用程序层和物理存储设备之间的所有I/O活动。我们观察到文件系统实现是共享的,这导致了在使用公共I/O系统调用时的时序泄漏。具体来说,我们发现现代操作系统利用任何刷新操作(将内存中的缓存块保存到SSD或磁盘)来刷新所有I/O缓冲区,甚至是其他隔离域使用的I/O缓冲区。因此,通过测量syncfs的延迟,攻击者可以推断受害程序的I/O行为。然后,我们演示了一个syncfs隐蔽通道攻击多个文件系统,包括Linux本地文件系统和Windows文件系统,实现了最大带宽为5 Kbps的出错率为0.15%的Linux和7.6 Kbps的出错率为1.9%的Windows。此外,我们构建了三个侧信道攻击,针对Linux和Android设备。在Linux设备上,我们通过跟踪临时缓冲文件的写入模式来实现网站指纹攻击和视频指纹攻击。在Android设备上,我们设计了一种应用程序指纹攻击,在启动期间泄漏应用程序写入模式。攻击达到90%以上的F1得分,精确度和召回率。最后,我们证明了这些攻击可以利用跨容器实现容器检测技术和跨容器隐蔽通道攻击。
2025-04-26 cs.CR
Preventing Jailbreak Prompts as Malicious Tools for Cybercriminals: A Cyber Defense Perspective
Université de Sherbrooke(谢布鲁克大学);University of Kinshasa(金沙萨大学);Harrisburg University of Science and Technology(哈里斯堡科技大学)
本文从网络防御视角分析越狱提示对大型语言模型的威胁,揭示提示注入和上下文操纵等攻击技术及其危害,并提出高级提示分析、动态安全协议和持续模型微调等防御策略,以增强AI系统韧性。
2024-11-25 cs.CL cs.CR
LocalAlign: Enabling Generalizable Prompt Injection Defense via Generation of Near-Target Adversarial Examples for Alignment Training
Wuhan University(武汉大学);Nanyang Technological University(南洋理工大学)
LocalAlign通过生成接近正确响应但错误的对抗示例,提升提示注入防御的泛化能力,采用margin-aware对齐算法增强训练效果。
2026-10-26 cs.CR
An Evasion and Counter-Evasion Study in Malicious Websites Detection
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
恶意网站是一种主要的网络攻击载体,有效检测恶意网站是一项重要的网络防御任务。在这方面,主要的防御模式是防御者使用某种机器学习算法来训练检测模型,然后使用该模型对有问题的网站进行分类。与其他设置不同,以下问题是恶意网站检测问题所固有的:攻击者基本上可以访问防御者用于训练其检测模型的相同数据。这种“对称性”可以被攻击者利用,至少在原则上,以逃避防御者的检测模型。在本文中,我们提出了一个框架来描述攻击者和防御者之间的逃避和反逃避互动,攻击者试图通过利用这种对称性来逃避防御者的检测模型。在这个框架内,我们表明,自适应攻击者可以使恶意网站逃避强大的检测模型,但主动训练可以是一个有效的反规避防御机制。该框架是面向流行的检测模型的决策树,但可以适应其他分类器。
2014-08-08 cs.AI cs.CR
The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching
Technical University of Darmstadt(达姆施塔特工业大学);Graz University of Technology(格拉茨工业大学)
本文提出LLMLeak攻击,利用LLM的网页抓取功能建立隐蔽信道,使本地恶意软件通过嵌入秘密的URL向攻击者泄露数据,在11个模型中成功率达79.7%。
2026-10-02 cs.CR cs.LG
Mitigating Malicious Attacks in Federated Learning via Confidence-aware Defense
Queen Mary University of London(伦敦玛丽女王大学);University of Oxford(牛津大学);Huazhong University of Science and Technology(华中科技大学);Shandong University of Technology(山东理工大学)
针对联邦学习易受恶意投毒攻击、现有防御方法适配性不足的问题,提出置信度感知防御框架CAD,以本地模型置信度为判断依据,可有效抵御各类投毒攻击,提升系统鲁棒性与模型性能。
2024-08-16 cs.CR cs.CV cs.DC
Reformulation is All You Need: Addressing Malicious Text Features in DNNs
Zhejiang University(浙江大学);Guizhou Medical University(贵州医科大学)
针对DNN在NLP任务中易受对抗性和后门攻击的问题,提出基于重构模块的统一自适应防御框架,处理恶意文本特征并保持语义,实验证明优于现有基线。
2025-09-25 cs.CL cs.CR cs.LG
NVBleed: Covert and Side-Channel Attacks on NVIDIA Multi-GPU Interconnect
本研究逆向分析NVIDIA NVLink互连的两类泄漏源,实现跨GPU隐蔽信道与侧信道攻击,验证云端跨虚拟机泄漏风险,并提出相应防御思路。
2025-03-22 cs.CR
Heckler: Breaking Confidential VMs with Malicious Interrupts
本文提出Heckler攻击,利用不可信hypervisor注入恶意非定时器中断并操纵CVM寄存器状态,在AMD SEV-SNP与Intel TDX上绕过认证并破坏多语言应用完整性。
2024-04-04 cs.CR
FLTG: Byzantine-Robust Federated Learning via Angle-Based Defense and Non-IID-Aware Weighting
Hunan University of Technology and Business(湖南工程大学);Xiangjiang Laboratory(湘江实验室);Shenzhen Institute for Advanced Study(深圳先进研究 institute);University of Electronic Science and Technology of China(电子科技大学)
针对联邦学习中拜占庭攻击鲁棒性不足及非独立同分布数据敏感问题,提出融合角度防御与动态参考加权的FLTG算法,在高恶意占比与极端数据偏差下均优于现有最优方法。
2025-05-19 cs.AI cs.CR
Hybrid Design of Multiplicative Watermarking for Defense Against Malicious Parameter Identification
提出混合乘法水印方案,通过定期更新参数并利用PWA混合系统不可观测状态,防御恶意参数识别,保持稳定性并增加窃听者重建难度。
2023-09-05 cs.CR cs.MM cs.SY
SPECWANDS: An Efficient Priority-based Scheduler Against Speculation Contention Attacks
本文提出SPECWANDS调度方案,通过三种基于优先级的调度策略防御易失型瞬态执行攻击中的竞争隐蔽信道,在保留推测执行和资源共享性能优势的同时,显著优于现有方案。
2023-04-16 cs.AR cs.CR
Characterizing the Evolution of Psychological Tactics and Techniques Exploited by Malicious Emails
本文提出一种方法,用于刻画恶意电子邮件中利用的心理战术与心理技术的演化,并通过真实数据集案例揭示其利用频率,为设计心理学原理的防御方案提供方向。
2024-08-21 cs.CR
Prompt Injection Attack to Tool Selection in LLM Agents
本研究提出ToolHijacker新型提示注入攻击,通过注入恶意工具文档操纵LLM智能体工具选择以选恶意工具,实验证明其优于现有攻击且现有防御不足,凸显新防御策略开发的迫切性。
2025-08-24 cs.CR
Cross-Domain AI for Early Attack Detection and Defense Against Malicious Flows in O-RAN
本文针对O-RAN中攻击检测数据集匮乏的问题,提出利用跨域AI结合传输网络与RAN数据训练流量分类器,实现93%准确率的早期攻击检测。
2024-01-17 cs.CR cs.NI
SecurityLingua: Efficient Defense of LLM Jailbreak Attacks via Security-Aware Prompt Compression
Microsoft Corporation(微软公司);University of Surrey(塞夫尔大学)
本研究提出SecurityLingua方法,通过训练安全感知提示压缩器识别输入提示真实意图并结合系统提示传递给大语言模型,以极低开销高效防御越狱攻击,同时保障模型效用与用户体验。
2025-06-15 cs.CL cs.CR
CPA-RAG:Covert Poisoning Attacks on Retrieval-Augmented Generation in Large Language Models
针对RAG系统的黑盒投毒攻击框架CPA-RAG,通过生成查询相关文本操纵检索过程,在多个数据集上实现超90%攻击成功率,并成功攻破商业平台,凸显了RAG安全防护的紧迫性。
2025-05-26 cs.CR
When Clients Are Orchestrated: Strategic Gradient Manipulation to Defeat Federated Learning Servers with Efficient Defense
Washington State University(华盛顿州立大学)
本文提出Fed-ADR攻击框架,揭示动态自适应客户端协作可绕过联邦学习防御,并设计检测与恢复机制,在几轮内恢复准确率至90%以上,计算开销降低至少20倍。
2026-09-24 cs.AI cs.CR
Shadows in the Code: Exploring the Risks and Defenses of LLM-based Multi-Agent Software Development Systems
本文研究了基于LLM的多智能体软件开发系统中的安全风险,提出IMBIA攻击及Adv-IMBIA防御机制,揭示了恶意智能体对软件开发过程的威胁及防御策略。
2025-11-23 cs.AI cs.CL cs.CR