Verifying Integrity of Deep Ensemble Models by Lossless Black-box Watermarking with Sensitive Samples
Shanghai University(上海大学)
随着深度神经网络(DNN)在许多领域的广泛应用,保护DNN模型免受知识产权(IP)侵害的研究越来越多。现有的许多方法使用数字水印来保护DNN模型。它们中的大多数要么直接将水印嵌入到内部网络结构/参数中,要么通过微调要用一组所谓的触发样本保护的模型来插入零比特水印。虽然这些方法工作得很好,但它们是为单个DNN模型设计的,不能直接应用于组合多个DNN模型以做出最终决策的深度集成模型(DEM)。本文提出了一种新的数字高程模型黑盒水印算法,用于验证数字高程模型的完整性。该方法通过模拟真实世界中的DEM攻击,并分析未受攻击的DEM和受攻击的DEM的子模型在精心制作的数据集上的预测结果,精心选择一定数量的敏感样本。通过分析目标DEM在这些精心制作的敏感样本上的预测结果,我们能够验证目标DEM的完整性。与以往的许多方法不同,该方法不修改要保护的原始DEM,这表明该方法是无损的。实验结果表明,即使只有一个子模型受到攻击,DEM的完整性可以得到可靠的验证,具有良好的应用潜力。
2022-05-10 cs.CR cs.LG
Lockdown: Dynamic Control-Flow Integrity
用没有类型或内存安全的低级语言编写的应用程序特别容易出现内存损坏。攻击者通过这些应用程序获得代码执行能力,尽管当前部署了所有防御措施,但攻击者利用内存损坏漏洞。控制流完整性(CFI)是一种很有前途的防御机制,它将开放的控制流传输限制在一组静态的已知位置。我们提出了锁定,动态CFI的方法,保护遗产,二进制的可执行文件和库。Lockdown使用来自可信动态加载器的信息自适应地学习正在运行的进程的控制流图。Lockdown的沙盒组件通过实施细粒度的CFI检查,将不同共享对象之间的交互限制为导入和导出函数。我们的原型实现表明,动态CFI的结果在低性能开销。
2014-07-02 cs.CR cs.PL
Cryptographically Enforced Control Flow Integrity
最近的Pwn2Own竞赛已经证明了控制劫持攻击的持续有效性,尽管部署了包括堆栈金丝雀和ASLR在内的对策。一个强大的防御称为控制流完整性(CFI)提供了一个原则性的方法来防止这种攻击。然而,先前的CFI实现使用静态分析并且必须限制保护以保持实用。这些限制使攻击所有已知的CFI系统,在最近的工作中证明。本文提出了一种既细粒度又实用的控制流完整性(CCFI)加密方法:使用消息认证码(MAC)来保护返回地址、函数指针和vtable指针等控制流元素。这些元素上的MAC甚至可以防止对内存进行随机读/写访问的强大攻击者篡改程序控制流。我们在Clang/LLVM中实现了CCFI,利用了最近可用的加密CPU指令。我们在几个大型软件包(包括nginx,Apache和memcache)以及它们的所有依赖项上评估我们的系统。保护成本范围从3-18%的请求率下降。
2014-08-07 cs.CR cs.PL
Securing Federated Learning with Control-Flow Attestation: A Novel Framework for Enhanced Integrity and Resilience against Adversarial Attacks
本研究提出一种基于控制流证明的联邦学习安全框架,通过数字签名和加密哈希验证模型更新完整性,在MNIST和CIFAR-10上实现100%验证成功率并增强抗攻击韧性。
2024-03-15 cs.CR
SFIP: Coarse-Grained Syscall-Flow-Integrity Protection in Modern Systems
现代应用程序的代码库不断增长,导致漏洞数量稳步增加。控制流完整性(CFI)是一种很有前途的缓解措施,越来越广泛地部署,并防止许多漏洞。CFI只专注于一个安全域。也就是说,用户空间和内核空间之间的转换不受CFI保护。此外,如果用户空间CFI被绕过,系统和内核接口仍然不受保护,攻击者可以运行任意转换。在本文中,我们介绍了系统调用流完整性保护(SFIP)的概念,它补充了CFI的概念与用户内核转换的完整性。我们的概念验证实现依赖于编译期间的静态分析来自动提取可能的系统调用转换。应用程序可以通过将提取的信息提供给内核以用于运行时实施来选择加入SFIP。这个概念建立在三个完全自动化的支柱上:首先,一个系统调用状态机,根据系统调用有向图模型表示可能的转换。第二,系统调用-起源映射,它将系统调用映射到它们可能出现的位置。第三,在修改后的Linux内核中有效地实施系统调用流完整性。在我们的评估中,我们表明,SFIP可以应用于大规模的应用程序与最小的减速。在微基准测试和宏基准测试中,它分别只引入了13.1%和1.8%的开销。在安全性方面,我们讨论并证明了它在防止控制流劫持攻击在现实世界中的应用程序的有效性。最后,为了突出攻击面的减少,我们对几个真实世界应用程序的状态机和系统调用起源映射进行了分析。平均而言,与seccomp相比,SFIP将可能的转换数量减少了38.6%,在没有应用保护时减少了90.9%…
2022-02-28 cs.CR
GPT Conjecture: Understanding the Trade-offs between Granularity, Performance and Timeliness in Control-Flow Integrity
性能/安全性权衡是CFI研究中广泛关注的问题,然而,我们观察到,并不是每个CFI方案都受到权衡。在关键观察的启发下,我们提出三个问题。虽然这三个问题可能无法直接回答,但它们是鼓舞人心的。我们发现,更深入地了解权衡的性质将有助于回答这三个问题。因此,我们提出了GPT猜想,以确定在设计CFI方案,这说,最多两个三个属性(细粒度,可接受的性能,和预防性保护)可以实现的权衡。
2021-01-10 cs.CR
Survey of Control-Flow Integrity Techniques for Embedded and Real-Time Embedded Systems
计算系统,包括实时的【形】嵌入式系统,正变得越来越连接,以允许更先进和更安全的操作。这样的嵌入式系统是资源受限的,诸如与如台式机或服务器的通用计算系统相比较低的处理能力。然而,允许这样的嵌入式系统的外部接口增加了它们对攻击者的暴露。随着对嵌入式系统的攻击的增加,从家用电器到操作具有硬实时的【形】要求的关键设备的工业控制系统,必须创建明确考虑这种资源和实时的【形】形状约束的防御机制。控制流完整性(CFI)是一系列防止攻击者修改执行流的防御机制。我们调查CFI技术,从基本的到最先进的,是为嵌入式系统和实时的【形】嵌入式系统,发现有一个缺乏,特别是对于实时的【形】嵌入式系统,CFI机制。然后,我们向社区提出公开挑战,以帮助推动这一领域的研究。
2021-11-22 cs.CR
DeepCheck: A Non-intrusive Control-flow Integrity Checking based on Deep Learning
College of Computer Science and Electronic Engineering(计算机科学与电子工程学院);Hunan University(湖南大学)
代码重用攻击(CRA)是一种利用已有代码劫持程序控制流的攻击方法。控制流完整性(CFI)是防止CRA攻击的最常用机制之一.然而,目前的CFI技术很难部署在实际应用中,由于遭受一些问题,如修改二进制文件或编译器,扩展指令集体系结构(ISA)和招致不可接受的运行时开销。为了解决这些问题,我们提出了第一个基于深度学习的CFI技术,名为DeepCheck,其中控制流图(CFG)被拆分为链,用于深度神经网络(DNN)训练。DNN通过学习CFG的完整性特征来检测异常控制流。DeepCheck不会中断应用程序,因此不会产生任何运行时开销。在Adobe Flash Player、Nginx、Proftpd和Firefox上的实验结果表明,DeepCheck的平均检测准确率高达98.9%。此外,使用ROPGadget和Ropper创建的64个ROP漏洞来进一步测试有效性,结果表明检测成功率达到100%。
2019-05-06 cs.CR cs.LG
Fragile Model Watermark for integrity protection: leveraging boundary volatility and sensitive sample-pairing
East China Normal University(华东师范大学);Guangxi Normal University(广西师范大学);Shenzhen Research Institute of Big Data, The Chinese University of Hong Kong(香港中文大学深圳大数据研究院)
针对神经网络易受篡改的问题,提出利用边界波动与敏感样本配对的脆弱水印方法,通过最大化logits使模型决策敏感变化,实现高效且高敏感度的完整性保护。
2024-06-13 cs.AI cs.CR
Poster: Control-Flow Integrity in Low-end Embedded Devices
本文针对低端嵌入式设备缺乏运行时安全的问题,在低成本主动信任根CASU基础上扩展影子栈和控制流完整性监视器,以抵御ROP等运行时攻击,证明以极小硬件开销即可在低端设备上实现CFI。
2023-09-20 cs.CR
CVA6-CFI: A First Glance at RISC-V Control-Flow Integrity Extensions
University of Bologna(博洛尼亚大学);Barcelona Supercomputing Center(巴塞罗那超级计算中心)
CVA6-CFI通过集成控制流完整性扩展,提供硬件级的控制流保护,实现低开销的反劫持防御。
2026-02-12 cs.AR cs.CR
Control-Flow Integrity: Precision, Security, and Performance
C/C++程序中的内存损坏错误仍然是当今系统中最常见的安全漏洞来源。控制流劫持攻击利用内存损坏漏洞将程序执行从预期的控制流转移。研究人员已经花了十多年的时间研究和改进基于控制流完整性(CFI)的防御,这项技术现在已经集成到几个生产编译器中。然而,到目前为止,还没有研究系统地比较了各种拟议的CFI机制,也没有任何协议,如何比较这些机制。我们比较了广泛的CFI机制使用统一的命名法的基础上(i)定性讨论的概念安全保证,(ii)定量的安全评估,和(iii)在相同的测试环境中的性能的经验评估。对于每种机制,我们评估(i)控制流传输的保护类型,(ii)前向和后向边缘的保护精度。对于基于开源编译器的实现,我们还评估(iii)生成的等价类和目标集,以及(iv)运行时性能。
2017-01-27 cs.CR cs.PL
Design-Time Quantification of Integrity in Cyber-Physical-Systems
在软件系统中,可以通过分析源代码中的信息流来量化泄露或损坏的信息量。在网络物理系统中,信息流不仅存在于数字层面,也存在于物理层面,并在这两个层面之间来回流动。在这项工作中,我们提供了一种方法来正式分析一个网络物理系统复合模型(结合物理和控制)使用信息流理论的方法。我们使用这种方法来量化系统的脆弱性水平,相对于具有不同能力的攻击者。我们通过一个配水案例研究来说明我们的方法。
2017-08-16 cs.CR
Control-Flow Integrity at RISC: Attacking RISC-V by Jump-Oriented Programming
RISC-V是最近为嵌入式实时系统开发的开放式指令集架构。为了在这些系统上实现持久的安全性并设计有效的对策,必须更好地了解新的和潜在的未来攻击的漏洞。本文证明了RISC-V对跳转导向编程是敏感的,这是一类复杂的代码重用攻击,能够绕过现有的保护。我们提供了对RISC-V系统可被此类攻击利用的攻击面的第一次分析,并展示了如何将它们链接在一起以构建全面的攻击。我们使用一个保守的假设,利用寄存器和指令模式,在一种方法,我们称之为保留寄存器。这种方法在一个易受攻击的RISC-V应用程序上实现,并成功应用于暴露AES 256秘密。
2022-11-26 cs.CR
EC-CFI: Control-Flow Integrity via Code Encryption Counteracting Fault Attacks
故障攻击使对手能够操纵安全关键应用程序的控制流。通过将目标故障引入CPU,软件的调用图可以被转义,控制流可以被重定向到程序内部的任意函数。为了保护控制流免受这些攻击,通常会部署专用的故障控制流完整性(CFI)对策。然而,这些方案要么具有高检测延迟,要么需要侵入式硬件改变。在本文中,我们提出了EC-CFI,一个基于软件的加密强制CFI计划,利用最近的英特尔平台的硬件功能,没有检测延迟。我们的EC-CFI原型旨在通过在执行前使用不同的密钥加密每个函数来防止对手使用错误逃离程序的调用图。在运行时,被插装的程序动态地导出解密密钥,确保只有当程序遵循预期的调用图时,代码才能被成功解密。为了在英特尔商用系统上实现这种级别的保护,我们引入了扩展页表(EPT)别名,通过结合英特尔的TME-MK和虚拟化技术,使我们能够实现功能粒度加密。我们开源了基于LLVM的自定义工具链,该工具链使用EC-CFI自动保护任意程序。此外,我们使用SPEC CPU 2017和Embench-IoT基准测试评估了我们的EPT别名方法,并讨论和评估了潜在的TME-MK硬件更改,以最大限度地减少运行时开销。
2023-03-24 cs.CR
Nonmalleable Information Flow: Technical Report
非干扰是一种流行的语义安全条件,因为它提供了强大的端到端保证,它本质上是组合的,并且可以使用简单的安全类型系统来强制执行。不幸的是,它对实际系统的限制太多。需要降级信息的机制来捕获真实世界的安全需求,但是降级消除了不干扰的强组合安全保证。我们引入不可延展的信息流,一个新的正式的安全条件,概括不干扰,允许控制降级的机密性和完整性。虽然以前关于鲁棒解密的工作可以防止对手利用机密性的降级,但我们的关键见解是透明认可,这是一种降低完整性的机制,同时可以抵御敌对性的利用。稳健解密似乎打破了机密性和完整性的二元性,使机密性取决于完整性,但透明背书使完整性取决于机密性,恢复了这种二元性。我们展示了如何扩展一个安全类型的程序设计语言与透明背书,并证明了这种静态类型系统强制执行不可延展的信息流,一个新的安全属性,包括强大的解密和透明背书。最后,我们描述了这种类型的系统的火焰,流限制的授权格拉斯哥Haskell的插件的上下文中的实现。
2017-08-31 cs.CR cs.PL
SoK: Runtime Integrity
本文系统梳理控制流完整性与控制流证明机制,比较其目标、假设与设计空间,评估其在运行时防御中的优劣与共存可能,并指出未来研究方向。
2024-10-21 cs.CR
EILID: Execution Integrity for Low-end IoT Devices
针对低端IoT设备运行时动态安全防护不足的问题,提出基于CASU混合信任根的EILID架构,通过半自动代码插桩和安全影子栈实现细粒度控制流完整性,保障软件执行完整性。
2025-01-16 cs.CR
Execution Integrity with In-Place Encryption
指令集随机化(ISR)最初是为了对抗代码注入攻击而提出的。然而,ISR似乎已经失去了吸引力,因为代码注入攻击变得不那么有吸引力,因为保护机制,如数据执行预防(DEP)以及代码重用攻击变得更加普遍。在本文中,我们表明,ISR可以扩展到也防止代码重用攻击,同时提供类似的软件多样性,控制流的完整性和信息隐藏的安全保证。我们提出了Scylla方案,该方案部署了一种新的就地代码加密技术来隐藏随机二进制的代码布局,并将控制流限制在良性执行路径。这使我们能够i)隐式地将控制流目标限制为基本块条目,而无需提取控制流图,ii)在合法的基本块内实现执行完整性,以及iii)在对程序的恶意读访问下隐藏底层代码布局。我们的分析表明,Scylla能够防止最先进的攻击,如即时返回导向编程(JIT-ROP)和抗崩溃导向编程(CROP)。我们广泛评估我们的原型实现的锡拉,并显示可行的性能开销。我们还详细介绍了如何通过专用硬件支持显著降低此开销。
2017-03-08 cs.CR
OAT: Attesting Operation Integrity of Embedded Devices
由于IoT/CPS系统的广泛采用,嵌入式设备(IoT前端)变得越来越连接和关键任务,这反过来又吸引了高级攻击(例如,控制流劫持和仅数据攻击)。不幸的是,物联网后端无法检测到在从物联网设备接收数据、服务请求或操作状态时是否发生了此类攻击。因此,目前物联网后端被迫盲目信任与之交互的物联网设备。为了填补这一空白,我们首先制定了一个新的嵌入式设备的安全属性,称为“操作执行完整性”或OEI。然后,我们设计并构建了一个系统,OAT,使远程OEI认证基于ARM的裸金属嵌入式设备。我们的OEI公式捕获了操作执行中涉及的控制流和关键数据的完整性。因此,满足OEI需要操作执行不受现有证明方法无法检查的意外控制和数据操纵。我们的设计OAT罢工之间的证明者的约束(嵌入式设备的有限的计算能力和存储)和验证者的要求(完全可验证性和取证援助)的平衡。OAT使用了一种新的控制流测量方案,可以实现轻量级和空间高效的测量收集(与基于跟踪的方法相比,空间减少了97%)。OAT通过抽象执行完成远程控制流验证,具有快速、确定性强的特点。OAT还具有针对关键数据的轻量级完整性检查功能(比以前的工作减少了74%)。我们的安全分析表明,OAT允许远程验证器或物联网后端检测影响物联网设备上操作执行的控制流劫持和仅数据攻击。在我们使用真实嵌入式程序的评估中,OAT的运行时开销为2.7%。
2019-10-01 cs.CR
Analyzing Control Flow Integrity with LLVM-CFI
控制流劫持攻击被用来执行恶意计算。目前的解决方案用于评估攻击面后控制流完整性(CFI)政策的应用只能测量间接转移平均在最好的情况下,没有提供任何见解w.r.t.每个呼叫站点的绝对呼叫目标减少量以及gad-get可用性。此外,工具比较是欠发达或根本不可能。CFI已被证明是最有前途的防止控制流劫持攻击的方法之一,因此人们已经在各种方面做出了许多努力来改进CFI。然而,缺乏对现有的CFI保护的系统评估。在本文中,我们提出了LLVM-CFI,一个静态源代码分析框架,用于分析基于Clang/LLVM编译器框架的最先进的静态CFI保护。LLVM-CFI通过精确地建模CFI策略,然后在统一的方法中对其进行评估。LLVM-CFI有助于确定不同CFI保护提供的安全级别,在部署CFI保护之后,从而向开发/预防和更强的防御迈出了重要的一步。我们已经使用LLVM-CFI评估了八种最先进的静态CFI防御在现实世界的程序,如Google Chrome和Apache Httpd上。LLVM-CFI提供了对剩余攻击面的精确分析,并相应地对CFI策略进行了排名。LLVM-CFI还成功地为构建类似于COOP的代码重用攻击铺平了道路,并通过在八种限制性CFI策略下披露受保护的调用目标来消除剩余的攻击面。
2019-10-02 cs.CR
DIALED: Data Integrity Attestation for Low-end Embedded Devices
在低端微控制器单元(MCU)中的软件执行的可重构完整性是众所周知的公开问题。核心挑战是如何以最小的开销安全地检测软件漏洞,因为这些MCU是为低成本、低能耗和小尺寸而设计的。最近的一些工作产生了廉价的硬件/软件协同设计,用于远程验证代码和执行完整性。特别是,提出了一种检测未经授权的代码修改和控制流攻击的方法,分别称为远程证明(RA)和控制流证明(CFA)。尽管取得了这一进展,但对仅数据攻击的检测仍然难以捉摸。这种攻击利用软件漏洞来破坏存储在数据存储器中的中间计算结果,既不改变程序代码也不改变其控制流。由于缺乏任何检测这些攻击的当前技术(用于低端MCU),在本文中,我们提出,实现和评估DIALED,这是第一个适用于资源受限的嵌入式设备(例如,TI MSP430)。DIALED与同伴CFA方案协同工作,以相当低的成本检测所有(目前已知)类型的运行时软件漏洞。
2021-03-24 cs.AR cs.CR
On the Effectiveness of Type-based Control Flow Integrity
控制流完整性(CFI)在社区中受到了极大的关注,以对抗存在内存损坏漏洞的控制劫持攻击。创建实用CFI的挑战导致了基于运行时类型检查(RTC)的新型CFI的开发。基于RTC的CFI已经在最近的一些实际工作中实现,例如GRSecurity重用攻击保护器(RAP)和LLVM-CFI。虽然有一些以前的努力,研究了其他类型的CFI技术的优势和局限性,很少有人做了评估的RTC为基础的CFI。本文从安全性和实用性两个方面对RTC的有效性进行了研究。从安全的角度来看,我们观察到,类型冲突是丰富的足够大的代码库,但利用它们来建立一个功能性的攻击是不简单的。然后,我们展示了攻击者如何使用尊重类型检查的ROP攻击变体(称为TROP)成功绕过RTC技术,并构建了两个概念验证漏洞,一个针对Nginx Web服务器,另一个针对Nginx邮件服务器。我们还讨论了实施RTC的实际挑战。我们的研究结果表明,虽然RTC对于将CFI应用于大型代码库更实用,但在面对有动机的攻击者时,其策略不够强大。
2020-02-14 cs.CR
In-Kernel Control-Flow Integrity on Commodity OSes using ARM Pointer Authentication
本文提出了一种内核中,基于硬件的控制流完整性(CFI)保护,称为PAL,利用ARM的指针认证(PA)。与商业的、最先进的基于PA的CFI(如iOS)相比,它提供了三个重要的好处:1)通过自动细化技术提高CFI精度,2)解决PA在内核中使用的事后问题,如抢先劫持和暴力攻击,以及3)通过后验证确保算法或实现的正确性。PAL以与操作系统无关的方式实现了这些目标,因此可以应用于Linux和FreeBSD等商业操作系统。如果用户选择,可以调整CFI保护的精度以获得更好的性能,或者以最小的工程工作量改进CFI保护的精度以获得更好的安全性。我们的评估表明,PAL引起的性能开销可以忽略不计:例如,在最新的Mac mini(M1)上,Apache基准测试的开销小于1%,Linux perf基准测试的开销为3~5%。我们的后验证方法可以帮助我们确保在内核中安全使用PA所需的安全不变式,这也揭示了iOS内核上的新攻击向量。PAL以及受CFI保护的内核将开源。
2021-12-14 cs.CR cs.OS
SciIntBench: Measuring LLM Compliance with Research Integrity Norms Under Adversarial Framing
Department of Computer Science University of Colorado Boulder(计算机科学系,科罗拉多大学博尔德分校)
提出SciIntBench对抗性基准,通过810个提示评估16个LLM在10个RCR类别中的框架敏感拒绝与帮助行为,发现模型对显性不当行为拒绝可靠,但对隐性违规(尤其是压力驱动的捷径)拒绝不足。
2026-10-19 cs.AI cs.CR
ARM Pointer Authentication based Forward-Edge and Backward-Edge Control Flow Integrity for Kernels
代码重用攻击仍然是软件和系统安全的一大威胁。控制流完整性是一种很有前途的技术,以防止这种攻击。然而,由于不准确的控制流图和以安全换取性能的实用策略,其有效性已被削弱。近年来,CPU供应商已经集成了硬件功能作为对策。例如,在ARMV 8-A架构中引入了ARM指针认证(简称PA)。它可以有效地为地址生成认证码,该认证码编码在地址的未使用位中。取消引用地址时,将检查身份验证代码以确保其完整性。虽然已有系统采用PA来加固用户程序,但如何有效地使用PA来保护操作系统内核仍然是一个开放的研究问题。在本文中,我们阐明了如何利用PA保护控制流,包括函数指针和返回地址,Linux内核。具体来说,为了保护函数指针,我们将身份验证代码嵌入其中,跟踪它们的传播,并在从内存加载或分支到目标时验证它们的值。为了进一步防御指针替换攻击,我们使用函数指针地址作为其上下文,并采取一种干净的设计,通过将其捎带到指针值中来传播地址。我们已经实现了一个原型系统与LLVM识别函数指针,添加认证代码和验证函数指针发出新的机器指令。我们将该系统应用到Linux内核中,解决了许多实际问题,例如,函数指针比较和算术运算。安全性分析表明,该系统能够保护Linux内核中所有的函数指针和返回地址。
2020-10-12 cs.CR cs.OS
Prompt Flow Integrity to Prevent Privilege Escalation in LLM Agents
Seoul National University(首尔国立大学)
针对LLM智能体易受权限提升攻击的问题,提出提示流完整性(PFI)系统安全方案,通过智能体隔离、安全数据处理和权限提升护栏三种技术有效防御攻击并保持智能体效用。
2025-04-21 cs.AI cs.CR cs.MA
PROPYLA: Privacy Preserving Long-Term Secure Storage
当今越来越多的敏感信息被电子地存储,并且该信息的实质部分(例如,健康记录、税务数据、法律文件)必须长时间保留(例如,几十年甚至几百年)。当存储敏感数据时,必须保护完整性和机密性,以确保可靠性和隐私性。然而,常用的加密方案并不是为在如此长的时间段内保护数据而设计的。最近,提出了第一个将长期完整性与长期机密性保护相结合的存储架构(AsiaCCS'17)。然而,该架构仅处理简化的存储场景,其中部分存储数据无法单独访问和验证。然而,如果这是允许的,则不仅数据内容本身,而且对数据的访问模式(即,在什么时间访问哪些数据项的信息)可以是敏感信息。在这里,我们提出了第一个长期的安全存储体系结构,提供长期的访问模式隐藏的安全性,除了长期的完整性和长期的机密性保护。为了实现这一点,我们结合信息理论的秘密共享,可再生的时间戳,可再生的承诺与信息理论的不经意的随机访问机。我们提出的架构的性能分析表明,实现长期的完整性,机密性和访问模式隐藏安全是可行的。
2019-04-27 cs.CR
Prompt Control-Flow Integrity: A Priority-Aware Runtime Defense Against Prompt Injection in LLM Systems
University of Rajshahi(拉杰沙希大学);Marshall University(马歇尔大学);University of Aizu(会津大学)
本文提出Prompt Control-Flow Integrity,一种优先级感知的运行时防御机制,通过结构化组合系统、开发者、用户和检索文档片段来防范提示注入攻击,实现零误报率和低开销。
2026-03-19 cs.CR
Review of Data Integrity Attacks and Mitigation Methods in Edge computing
近年来,边缘计算以其独特的实时计算和并行处理的特点成为一种极具发展前景的技术。它们提供更接近数据源的计算和存储能力,并绕过与云的远程链接。边缘数据分析处理边缘层上无处不在的数据,为应用程序提供实时交互。但是,此过程可能容易受到安全威胁,例如获得恶意访问或操纵敏感数据。这可能导致入侵者控制、更改或添加错误的数据,影响数据的完整性和分析效率。由于利益相关者处理边缘数据缺乏透明度,识别漏洞具有挑战性。关于边缘层的数据安全问题,有许多评论;但是,它们并不专门解决完整性问题。因此,本文仅关注直接影响边缘数据分析的数据完整性威胁。现有工作中的进一步不足之处是确定了几个研究方向。
2021-12-06 cs.CR
GuaranTEE: Introducing Control-Flow Attestation for Trusted Execution Environments
大多数云提供商为用户提供了部署可信执行环境(TEE)的可能性,以保护其数据和流程免受高特权对手的攻击。此服务旨在解决用户在将关键任务迁移到云中时的担忧。然而,TEE只允许在启动时证明环境的完整性。为了在运行时证明TEE的完整性,我们提出了Guarantee。Guarantee使用控制流证明来确保在TEE内运行的服务的完整性。通过将Guarantee的所有组件额外放置在TEE中,我们不仅能够检测到受损的目标,还能够保护自己免受恶意管理员的攻击。我们通过对基于Microsoft Azure中的英特尔SGX的原型进行详细的性能和安全评估,展示了Guarantee的实用性。我们的评估表明,需要在TEE和额外的验证过程之间传输信息,在高CPU负载下增加了相当大的开销。然而,我们能够通过安全地缓存收集的信息并通过与执行应用程序并行地执行分析来减少这种开销。总之,我们的研究结果表明,Guarantee为云用户提供了一个实用的解决方案,专注于在运行时保护其数据和流程的完整性。
2022-05-06 cs.CR
System M: A Program Logic for Code Sandboxing and Identification
执行不受信任代码的安全敏感应用程序通常通过将代码的语法与已知的正确值进行比较来检查代码的完整性,或者对代码进行沙箱化以包含其影响。系统M是一种新的程序逻辑,用于推理这种安全敏感的应用程序。系统M扩展了Hoare类型论(HTT)来追踪安全属性,并包含两个新的推理原则。首先,它的类型系统将逻辑相等内在化,便于对检查代码完整性的应用程序进行推理。第二,限制规则仅基于计算的沙箱的知识将效应类型分配给计算。我们证明了系统M相对于一个步骤索引的基于跟踪的语义模型的可靠性。我们说明了这两个新的推理原则的系统M通过验证Memoir,以前提出的可信计算系统,以确保状态的连续性隔离的安全敏感的应用程序的设计的主要完整性属性。
2015-01-22 cs.CR cs.LO cs.PL
Integrating Differential Privacy and Contextual Integrity
本研究提出首个整合差分隐私(DP)与语境完整性(CI)的框架,实现DP的语境化参数调优与CI的应用范围拓展,并以美国人口普查局的DP应用为案例验证价值。
2024-01-28 cs.CR cs.CY
Synergia: Hardening High-Assurance Security Systems with Confidential and Trusted Computing
高保证安全系统需要与不受信任的世界紧密隔离,以保护它们处理的安全敏感或隐私敏感数据。现有法规强制要求此类系统必须在可信赖的操作系统(OS)中执行,以确保它们不与可能对其可用性或安全性产生负面影响的不可信软件搭配。然而,现有的技术来证明操作系统的完整性下降,由于布谷鸟攻击。在本文中,我们首先提出了一种新的防御机制,对布谷鸟攻击,我们正式证明了它,然后,我们实现了它的一部分,完整性监测和执法框架,证明可信的操作系统从3.7倍到8.5倍的速度比现有的完整性监测系统。我们证明了它的实用性,通过保护现实世界的电子健康应用程序的执行,执行微观和宏观基准,并评估安全风险。
2022-05-12 cs.CR
A Leak-Resilient Dual Stack Scheme for Backward-Edge Control-Flow Integrity
对堆栈上返回地址的操作是对用内存不安全语言编写的程序进行各种攻击的基础。保护返回地址的双栈方案保证了对此类攻击的有效防御。通过引入第二个安全堆栈来将返回地址与潜在的不安全堆栈对象分开,它们可以防止攻击,例如通过溢出缓冲区来恶意修改返回地址。然而,双栈的安全性是基于安全栈在内存中的隐蔽性。不幸的是,当前所有双堆栈方案都容易受到信息泄露攻击,这些攻击能够泄露安全堆栈位置,从而有效地破坏其承诺的安全属性。在本文中,我们提出了一个新的,泄漏弹性双栈方案能够抵御复杂的信息泄露攻击。我们仔细研究了以前的双堆栈计划,并系统地开发了一种新的堆栈分离设计,消除了导致安全堆栈泄露的缺陷。我们展示了我们的方法的可行性和实用性,提出了一个完整的集成到LLVM编译器框架,支持x86-64和ARM 64架构。在x86-64上平均为2.7%,在ARM 64上为0.0%,我们实现的性能开销可以忽略不计。
2018-06-25 cs.CR
TitanCFI: Toward Enforcing Control-Flow Integrity in the Root-of-Trust
本文提出TitanCFI,一种在现代RISC-V SoC的可信根中强制执行控制流完整性的新方法,通过修改内核提交阶段将控制流指令流式传输至RoT固件执行策略,复用硬件资源并利用防篡改存储保护元数据,实现1%的极低面积开销。
2024-01-04 cs.AR cs.CR
CI-Work: Benchmarking Contextual Integrity in Enterprise LLM Agents
Huazhong University of Science and Technology(华中科技大学);Microsoft(微软)
CI-Work基准测试评估企业LLM代理在密集检索中传达关键内容并隐藏敏感信息的能力,揭示隐私泄露普遍且高任务效用与隐私违规正相关,需转向以情境为中心的架构。
2026-04-23 cs.CL cs.CR
HCIC: Hardware-assisted Control-flow Integrity Checking
近年来,代码重用攻击(CRA),如面向返回编程(ROP)和面向跳转编程(JOP),已成为一类新的巧妙的安全威胁。攻击者可以利用CRA劫持程序的控制流来执行恶意操作,而无需注入任何代码。已经提出了许多防御方法,分为基于软件的和基于硬件的。然而,基于软件的方法很难部署在实际系统中,由于高性能开销。基于硬件的方法可以降低性能开销,但可能需要扩展指令集架构(ISA)和修改编译器或遭受密钥泄漏的脆弱性。针对这些问题,提出了一种新的基于硬件的控制流检测方法,在不扩展ISA、不修改编译器、不泄露加解密密钥的情况下,以可忽略的性能开销抵抗CRA。关键技术涉及两种控制流检查机制。第一个是物理不可克隆函数(PUF)响应和返回地址之间的加密汉明距离(EHD)匹配,只要PUF响应是秘密的,就可以防止攻击者在小工具之间返回,从而抵抗ROP攻击。第二种方法是在PUF响应与call和jmp指令的目标地址处的指令之间进行线性加/解密操作(XOR),以抵抗JOP攻击。使用动态密钥更新方法可以防止高级的基于返回的全功能重用攻击。基准测试的实验结果表明,所提出的方法引入了可以忽略不计的0.95%的运行时开销和0.78%的二进制大小的开销平均。
2018-09-19 cs.AR cs.CR
Public Ledger for Sensitive Data
Satoshi Nakamoto的区块链允许建立可公开验证且几乎不可变的分类账,但有时隐私必须考虑在内。在这项工作中,提出了一个原始协议,允许敏感数据存储在分类账上,其完整性可以公开验证,但其隐私得到保护,所有者可以通过有效的撤销来严格管理其信息的共享。
2020-07-09 cs.CR
The VACCINE Framework for Building DLP Systems
传统的数据泄露防护(DLP)系统存在以下主要缺点:定义数据泄露构成要素的隐私策略无法在异构通信形式中无缝定义和执行。管理员有双重负担:(1)手动自解释手册中的策略以指定规则(这是容易出错的);(2)从异构通信协议中提取相关信息流并执行策略以确定哪些流应该是可接受的。为了解决这些问题,我们提出了可验证和可操作的上下文完整性规范引擎(VACCINE),这是一个用于构建适应性和模块化DLP系统的框架。VACCINE依赖于(1)上下文完整性理论,以提供适合于指定可重用的协议不可知的泄漏预防规则的抽象层,以及(2)程序设计语言技术,以针对正确性属性检查这些规则,并在DLP系统实现中忠实地执行这些规则。我们将VACCINE应用于《家庭教育权利和隐私法》和安然公司隐私法规。我们表明,通过使用上下文完整性与验证技术相结合,我们可以有效地创建可重用的隐私规则与特定的正确性保证,并检查这些规则的信息流的完整性。我们在模拟企业环境中的实验表明,VACCINE改进了当前的DLP系统设计方法,可以部署在涉及数万名参与者的企业中。
2017-11-07 cs.CR
Physics-Constrained Digital Twins for Sensor Integrity in Urban Pedestrian Flow: Detecting Stealthy False Data Injection with Conformal Guarantees
Universidad de Extremadura(埃斯特雷马杜拉大学)
针对城市行人计数系统中隐蔽虚假数据注入攻击,提出物理约束数字孪生方法,利用流量守恒残差与自适应一致性校准检测异常,在墨尔本数据上实现0.54攻击裕度。
2026-09-17 cs.AI cs.CR
Privacy and Integrity Preserving Computations with CRISP
在数字时代,用户与服务提供商共享他们的个人数据以获得一些效用,例如,获得优质服务。然而,诱导的信息流引起了隐私和完整性的担忧。因此,谨慎的用户可能希望通过最小化他们向好奇的服务提供商披露的信息量来保护他们的隐私。服务提供商对验证用户数据的完整性感兴趣,以改进其服务并为其业务获得有用的知识。在这项工作中,我们提出了一个通用的解决方案,隐私,完整性和实用性之间的权衡,通过实现数据的真实性验证已被加密卸载到服务提供商。基于基于格的同态加密和承诺,以及零知识证明,我们的建设使服务提供商能够处理和重用第三方签署的数据在一个隐私友好的方式与完整性保证。我们在不同的用例上评估我们的解决方案,例如智能计量,疾病易感性和基于位置的活动跟踪,从而显示其多功能性。我们的解决方案实现了广泛的通用性,量子电阻,并放宽了一些假设的国家的最先进的解决方案,而不影响性能。
2021-01-12 cs.CR
SFP: Providing System Call Flow Protection against Software and Fault Attacks
随着计算技术的进步,物联网中的边缘设备变得更加复杂。这些复杂系统的使能器技术是具有操作系统支持(如Linux)的功能强大的应用程序核心处理器。虽然通过操作系统隔离应用程序可以提高安全性,但内核接口却构成了新的威胁。不同的攻击媒介,包括故障攻击和内存漏洞,利用内核接口升级权限并接管系统。在这项工作中,我们提出了SFP,一种机制,以保护执行系统调用对软件和故障攻击提供完整的用户内核转换。SFP通过两步链接方法提供系统调用流完整性,该方法将系统调用及其源链接到控制流完整性状态。内核中的第二个链接步骤确保在内核中执行正确的系统调用。将这两个链接步骤结合起来可以确保只有正确的系统调用才能在程序中的正确位置执行,并且不能被跳过。此外,SFP提供了动态CFI插装和一个新的CFI检查策略,在内核边缘验证用户程序进入内核之前的控制流状态。我们将SFP集成到FIPAC中,FIPAC是一种利用ARM指针认证的CFI保护方案。我们的原型基于一个定制的基于LLVM的工具链,该工具链具有一个仪表化的运行时库,该库与一个定制的Linux内核相结合,以保护系统调用。基于SPEC 2017的微观和宏观基准测试的评估显示,平均运行时开销为1.9%和20.6%,仅比普通控制流保护增加1.8%。这一对性能的小影响表明了SFP在保护所有系统调用和为用户-内核转换提供完整性方面的效率。
2023-01-12 cs.CR cs.OS
Hypervisor-Based Active Data Protection for Integrity and Confidentiality of Dynamically Allocated Memory in Windows Kernel
操作系统安全性的主要问题之一是在不受信任的环境中提供受信任的代码执行。内核模式驱动程序在执行过程中动态分配内存来存储和处理其数据:Windows核心内核结构、用户隐私信息和第三方驱动程序的敏感数据。所有这些数据都可以被内核模式恶意软件篡改。对基于Windows的计算机的攻击不仅会导致隐藏恶意软件驱动程序、进程权限升级和窃取私人数据,还会导致工业数控机床故障。Windows内置的安全性和现有的方法不提供第三方驱动程序分配内存的完整性和机密性。拟议的基于虚拟机管理程序的系统(AllMemPro)保护分配的数据不被修改或窃取。AllMemPro可以防止访问哪怕是1字节的已分配数据,实时的适应新分配的内存,并在没有源代码的情况下保护驱动。AllMemPro在最新的Windows 10 1709 x64上运行良好。
2018-05-30 cs.CR
The Duality of Information Flow: Reconciling Robust Downgrading with Non-Interference
Carnegie Mellon University(卡内基梅隆大学)
研究信息流中稳健降级与非干扰的协调问题,引入参数化信息流,利用模态类型理论见解,通过二元逻辑关系论证展示非干扰,实现兼顾保密性和完整性的单一框架,揭示降级机制与抽象、模块化机制的兼容性。
2026-07-21 cs.CR cs.PL
LLM-IFT: LLM-Powered Information Flow Tracking for Secure Hardware
本文提出LLM-IFT,利用大语言模型的结构化推理对硬件设计进行层次化依赖分析,在Trust-Hub测试用例上实现了100%的机密性与完整性信息流追踪准确率。
2025-04-09 cs.CR
Android Permissions Remystified: A Field Study on Contextual Integrity
由于智能手机应用程序可能访问的数据量很大,平台强制执行权限系统,允许用户管理应用程序访问受保护资源的方式。如果用户被要求在良性情况下过于频繁地做出安全决策,他们可能会变得习惯并批准所有未来的请求而不考虑后果。如果他们被要求做出的安全决策太少,他们可能会担心平台泄露了太多的敏感信息。为了探索这种权衡,我们对Android平台进行了检测,以收集有关智能手机应用程序访问受权限限制的受保护资源的频率和情况的数据。我们进行了一项36人的实地研究,以探索“上下文完整性”的概念,也就是说,有多少经常是应用程序访问受保护的资源时,用户不期望它?基于我们收集的2700万个数据点和对参与者的离职访谈,我们研究了用户希望拒绝应用程序访问受保护资源的能力的情况。我们发现,至少80%的参与者更愿意阻止至少一个权限请求,总体而言,他们认为超过三分之一的请求是入侵性的,并希望有一种机制来阻止它们。
2015-04-15 cs.CR
EPIC: Efficient Privacy-Preserving Scheme with E2E Data Integrity and Authenticity for AMI Networks
在高级计量基础设施(AMI)网络中,智能电表应向电力公司发送细粒度的功耗读数,以执行实时监控和能源管理。然而,这些读数可能泄露关于消费者活动的敏感信息。已经为AMI网络提出了用于收集细粒度读数的各种隐私保护方案。这些方案聚合各个读数并将聚合读数发送到实用程序,但它们广泛使用涉及大量计算/通信开销的非对称密钥加密。此外,它们没有解决端到端(E2 E)数据完整性,真实性和基于动态价格计算电费的问题。在本文中,我们提出了EPIC,一个有效的和隐私保护的数据汇集计划与E2 E数据完整性验证的AMI网络。使用有效的加密操作,每个仪表应该向公用事业发送屏蔽读数,使得在聚合所有仪表的屏蔽读数之后取消所有屏蔽,并且因此公用事业只能获得聚合读数以保护消费者的隐私。该实用程序可以在不访问单个读数的情况下验证聚合读数的完整性,以保护隐私。它还可以通过使用细粒度的读数来识别攻击者并有效地计算电费,而不会侵犯隐私。此外,EPIC可以抵抗共谋攻击,其中公用事业公司与中继节点共谋以提取仪表的读数。采用形式化证明、概率分析等方法对EPIC的安全性进行了评估,并使用ns-3实现了EPIC,对网络性能进行了评估。此外,我们比较EPIC现有的数据汇集计划的开销和安全/隐私功能。
2018-10-03 cs.CR
Predicting sensitive information leakage in IoT applications using flows-aware machine learning approach
本文提出了一种识别易受攻击的物联网应用程序的方法。该方法侧重于一类漏洞,导致敏感信息泄漏,可以通过使用污点流分析来识别。污染流漏洞受程序结构和代码中语句顺序的影响很大,设计检测此类漏洞的方法需要考虑这些信息,以便提供精确的结果。在本文中,我们提出并开发了一种方法FlowsMiner,除了程序的语句顺序之外,还可以从与程序结构相关的代码中挖掘功能,例如控制语句和方法。FlowsMiner,以污染流的形式生成特征。我们开发了Flows2Vec,这是一个将FlowsMiner恢复的特征转换为向量的工具,然后通过提供流的感知模型构建过程来帮助机器学习。由此产生的模型是能够准确地将应用程序分类为脆弱的,如果该漏洞是通过改变源代码中的语句顺序来表现的。实验结果表明,与基本的词袋(BagofWords,BoW)方法相比,该方法提高了所有算法的预测模型的AUC,其中Corpus1数据集的最佳情况从0.91提高到0.94,Corpus2数据集的最佳情况从0.56提高到0.96
2022-01-07 cs.CR cs.SE
WarpGuard: Protected-Site Control-Flow Integrity for CUDA SASS Binaries
International University of La Rioja(里奥哈国际大学)
针对 GPU 内存漏洞可导致设备端控制流破坏的问题,提出 WarpGuard,首个在已执行 SASS 上实施安全点 CFI 的系统,通过认证返回地址、验证前向目标等机制,在 77 个 CUDA 程序上分类 51621 个控制流点并执行 5220 万次动态检查,有效防御控制流攻击。
2026-06-11 cs.CR
Selection Integrity for LLM Graph Memory: An Accumulability Criterion for Information-Flow-Blind Retrieval
University of Technology Sydney(悉尼科技大学);National University of Singapore(新加坡国立大学);University of Sheffield(谢菲尔德大学);University of New South Wales(新南威尔士大学)
针对图记忆检索中信息流控制盲区,提出可累积性准则,证明无源结构写入可导致不可逆转账被误导,并通过重分配性而非依赖性预测漏洞,提出认证子图重计算防御。
2026-06-11 cs.CR
Fairness, Integrity, and Privacy in a Scalable Blockchain-based Federated Learning System
University of Bayreuth(拜罗伊特大学);FIM Research Center(FIM研究中心);Fraunhofer FIT(弗劳恩霍夫应用信息技术研究所)
联邦机器学习(FL)允许在敏感数据上集体训练模型,因为只需要共享客户端的模型,而不需要共享其训练数据。然而,尽管对外语的研究已经引起了人们的关注,但这一概念在实践中仍然缺乏广泛的采用。其中一个关键原因是实施FL系统的巨大挑战,同时为所有参与客户实现公平,完整性和隐私保护。为了解决这个问题,我们的论文提出了一个融合区块链技术、局部差分隐私和零知识证明的FL系统。我们使用多元线性回归实现的概念验证表明,这些最先进的技术可以结合到FL系统中,该系统可以在可扩展和透明的系统中调整经济激励,信任和保密要求。
2021-11-11 cs.AI cs.CR cs.DC
MVD: Memory-Related Vulnerability Detection Based on Flow-Sensitive Graph Neural Networks
与内存相关的漏洞对现代软件的安全构成了严重威胁。尽管基于深度学习的通用漏洞检测方法取得了成功,但在应用于检测内存相关漏洞时,它们仍然受到流信息利用不足的限制,导致高误报。本文提出了一种基于流敏感图神经网络(FS-GNN)的语句级内存相关漏洞检测方法MVD。采用FS-GNN来联合嵌入非结构化信息(即,源代码)和结构化信息(即,控制流和数据流)来捕获隐式存储器相关的漏洞模式。我们在包含4,353个真实内存相关漏洞的数据集上评估MVD,并将我们的方法与三种最先进的基于深度学习的方法以及五种流行的基于静态分析的内存检测器进行比较。实验结果表明,MVD具有更好的检测精度,优于基于DL和基于静态分析的方法。此外,MVD在准确性和效率之间做出了很大的权衡。
2022-03-05 cs.CR cs.SE
Securing LLM Agents Need Intent-to-Execution Integrity
National University of Singapore(新加坡国立大学);University of California, Los Angeles(加州大学洛杉矶分校);University of California, Berkeley(加州大学伯克利分校)
本文提出了一种新的正确性属性,用于定义LLM代理在执行时如何忠实反映用户的意图,同时提出了四个必须同时满足的完整性属性,以确保代理的安全性。
2026-05-16 cs.CR