I Send, Therefore I Leak: Information Leakage in Low-Power Wide Area Networks
诸如LoRa之类的低功率广域网(LPWAN)正迅速成为大规模物联网部署(例如,智慧城市)。由于长通信距离和超低功耗,支持LPWAN的传感器如今被部署在无线传输敏感信息的各种应用场景中。在这项工作中,我们研究了LPWAN的隐私保证,特别是LoRa。我们表明,虽然无线电通信的基于事件的占空比,即,只有当事件发生时才传输无线电信号,节省电力,它本身就泄露了信息。这种信息泄漏与所实现的密码原语无关。我们确定了两种类型的信息泄漏,并表明,这是很难完全防止泄漏,而不会产生显着的额外通信和计算成本。
2019-11-24 cs.CR
Measuring Data Leakage in Machine-Learning Models with Fisher Information
Facebook AI Research(Facebook人工智能研究院)
机器学习模型包含关于它们被训练的数据的信息。这些信息通过模型本身或模型所做的预测泄露。因此,当训练数据包含敏感属性时,评估信息泄漏量是至关重要的。我们提出了一种方法来量化这种泄漏使用Fisher信息的模型的数据。与差分隐私的最坏情况的先验保证不同,Fisher信息损失测量数据集中特定示例、属性或子群体的泄漏。我们通过Cramér-Rao界激励Fisher信息损失,并描绘了隐含的威胁模型。我们提供了有效的方法来计算输出扰动广义线性模型的Fisher信息损失。最后,我们实证验证了Fisher信息损失作为信息泄露的有用衡量标准。
2021-08-23 cs.CR cs.LG
On Secure Transmission Design: An Information Leakage Perspective
信息泄漏率是反映无线通信系统安全水平的一个直观指标,但目前将其考虑在内的研究还很少。现有的工作有两个主要的局限性,由于泄漏率的复杂表达式:1)的解析和数值计算结果给出的系统吞吐量和信息泄漏率之间的权衡很少的见解; 2)和相应的传输速率的最优设计是不解析听话。为了克服这些限制,并获得在安全的无线通信中的信息泄漏率的深入了解,我们提出了一个近似的平均信息泄漏率在固定速率传输方案。与文献中复杂的信息泄漏率表达式不同,本文提出的近似表达式复杂度较低,便于进一步分析。基于我们的近似,相应的近似最优传输速率的两种传输方案具有不同的设计目标。通过分析和数值计算,我们发现在信息泄漏率受限的情况下,系统吞吐量最大化时,吞吐量是安全约束的上凸非减函数,安全约束过松不利于提高吞吐量;而对于受吞吐量约束的最小化信息泄漏率的系统,平均信息泄漏率是吞吐量约束的下凸增函数。
2018-07-20 cs.CR cs.IT math.IT
Quantifying Information Leakage in Finite Order Deterministic Programs
信息流分析是一种功能强大的技术,用于推理程序执行过程中暴露的敏感信息。虽然过去的工作已经提出了信息理论度量(例如,香农熵、最小熵、猜测熵等)为了量化这样的信息泄漏,我们认为,这些措施中的一些不仅会导致违反直觉的泄漏措施,而且在比较两个程序P1和P2时固有地倾向于冲突-比如香农熵预测程序P1的泄漏更高,而猜测熵预测程序P2的泄漏更高。本文提出了第一次尝试解决这种冲突,并推导出解决方案的有限阶确定性程序的无冲突比较。
2010-09-20 cs.CR cs.IT math.IT
Minimizing Information Leakage under Padding Constraints
攻击者可以通过分析网络流量来获取用户的信息。传输数据的大小会泄露有关正在传输的文件或正在使用的服务的信息,当攻击者具有有关可用于传输的文件或服务的背景知识时,这一点尤其明显。为了防止这种情况,服务器可能会使用填充方案来填充它们的文件,改变文件大小并防止任何人唯一地猜测它们的身份。这项工作的重点是找到最佳的填充方案,保持隐私和带宽增加的成本之间的平衡。我们认为Rényi-min泄漏作为我们的主要措施的隐私,因为它是直接关系到一个简单的攻击者的成功,并比较我们的算法与现有的解决方案,最大限度地减少香农泄漏。我们提供了改进我们的算法,以优化平均总填充和香农泄漏,同时最大限度地减少Rényi-min泄漏。此外,我们的算法被设计为处理一个更一般和重要的情况下,多个服务器希望计算填充方案的方式,保护服务器的身份,除了文件的身份。
2022-09-09 cs.CR
PILOT: Password and PIN Information Leakage from Obfuscated Typing Videos
本文基于对屏幕或投影仪上指示击键的掩蔽字符形式的打字反馈的观察,研究用户密码和PIN的泄露。为此,我们开发了一种名为密码和PIN信息泄漏的攻击。我们的攻击从用户在计算机上键入密码或在ATM机上键入PIN时显示的密码掩蔽字符的视频中提取了时间间隔信息。我们在各种攻击场景中进行了几次实验。结果表明,虽然在某些情况下泄漏是轻微的,但在其他情况下则相当严重。PILOT通过利用密码间计时,只需19次尝试即可恢复8个字符的字母数字密码。当猜测PIN时,PILOT显着改善了随机猜测和我们先前工作中采用的攻击策略[4]。特别是,我们能够在10次尝试中猜出大约3%的PIN。与随机猜测相比,这相当于26倍的改进。我们的研究结果强烈表明,安全的密码屏蔽GUI必须考虑本文中确定的信息泄漏。
2019-04-09 cs.CR
Personal Information Leakage During Password Recovery of Internet Services
在本文中,我们将研究大型互联网服务(如Gmail,Facebook和Twitter)的标准密码恢复过程。尽管这些服务中的大多数都试图维护用户隐私,但关于用户提供的注册信息和其他个人信息,我们证明了未经授权的个人或攻击者仍然可以获得个人信息。这些信息包括完整(或部分)的电子邮件地址,电话号码,朋友列表,地址等,我们研究不同的情况下,并演示如何在密码恢复过程中透露的细节可以用来推断有关用户的更多信息。
2016-08-04 cs.CR
Behavioral Information Leakage in Darknet Traffic: A Multi-Channel Analysis Across Anonymity Networks
School of Computing, Mathematics and Engineering, Charles Sturt University(查尔斯斯特特大学计算、数学与工程学院);AI and Cyber Futures Center, Charles Sturt University(查尔斯斯特特大学人工智能与网络未来中心)
本文提出行为信息泄露框架,分析Tor等四种匿名网络的暗网流量,发现不同网络行为泄露差异显著,明确主要泄露机制及服务变异性,为暗网流量分类提供新视角。
2026-08-06 cs.CR
KLEESPECTRE: Detecting Information Leakage through Speculative Cache Attacks via Symbolic Execution
2018年初披露的Spectre攻击通过缓存侧通道暴露了数据泄漏场景。具体地,由于分支误预测而推测地执行的路径可能将秘密数据带入高速缓存中,然后即使在推测执行被压制之后,这些秘密数据也经由高速缓存侧通道被暴露。符号执行是一种众所周知的测试生成方法,用于覆盖应用软件级别的程序路径。在本文中,我们扩展了符号执行与建模的缓存和推测执行。我们的工具KLEESPECTRE,建立在KLEE符号执行引擎之上,因此可以提供一个测试引擎来检查通过缓存侧通道的数据泄漏,如通过Spectre攻击所示。我们的符号缓存模型可以验证是否敏感的数据泄漏,由于投机执行可以观察到攻击者在一个给定的程序点。实验结果表明,KLEESPECTREE可以有效地检测沿推测执行路径的数据泄漏,我们的缓存模型可以进一步使泄漏检测更精确。
2019-09-02 cs.CR
PrivTru: A Privacy-by-Design Data Trustee Minimizing Information Leakage
本文提出数据受托方实例 PrivTru,通过计算响应查询所需的最小信息量,在保持数据效用前提下可证明地最小化信息泄露。
2025-06-06 cs.CR
Quantifying Dynamic Leakage: Complexity Analysis and Model Counting-based Calculation
如果一个程序没有向一个可观察的输出泄露任何秘密信息,那么它就是非可观察的。然而,在许多实际情况下,无干扰过于严格,定量信息流(QIF)已经提出并深入研究。最初,QIF被定义为在所有程序执行期间秘密信息泄漏量的平均值。然而,一个脆弱的程序,执行泄漏整个秘密,但有小的平均泄漏可以被认为是安全的。这种反直觉提出了对特定运行的信息泄漏的新定义的需要,即,动态泄漏如[5]中所讨论的,基于熵的定义不能很好地动态量化信息泄漏;另一方面,基于信念的定义适用于确定性程序,但不适用于概率性程序。在本文中,我们提出了新的简单的概念,动态泄漏的熵的基础上,这是兼容现有的QIF定义的确定性程序,但合理的概率程序的意义[5]。我们还研究了计算三类布尔程序的动态泄漏的复杂性。我们还实现了一个工具QIF计算使用模型计数工具布尔公式。在QIF研究的流行基准测试上的实验结果表明了该框架的灵活性。最后,我们讨论了所提出的方法的性能和可扩展性的改进以及更一般的情况下的扩展。
2019-03-09 cs.CR
Measuring Quantum Information Leakage Under Detection Threat
提出温和量子泄漏作为窃听者规避检测场景下的信息泄漏度量,满足公理并受全局去极化噪声抑制,基于非对称近似克隆给出下界,以BB84编码示例验证。
2024-03-18 cs.CR cs.IT cs.SY
Quantitative Analysis of Information Leakage in Probabilistic and Nondeterministic Systems
本论文讨论了形式化方法在安全性,特别是匿名性方面的应用。更具体地说,我们开发的框架,规范的匿名性,并提出算法,其验证。由于在实践中匿名协议总是会泄漏一些信息,我们专注于定量属性,它捕获协议泄漏的信息量。这篇论文的主要贡献是cpCTL,第一个时间逻辑,允许规范和验证的条件概率(这是大多数匿名属性的关键成分)。此外,我们已经考虑了几个突出的信息泄漏的定义,并开发了第一个算法,使我们能够计算(甚至近似)的匿名协议的信息泄漏根据这些定义。我们还研究了分布式匿名协议规范和分析中的一个众所周知的问题,即全信息调度。为了克服这个问题,我们提出了另一种概念的调度和相应的调整几个匿名属性的文献。我们的最后一个主要贡献是一个调试技术,有助于检测安全协议中的缺陷。
2011-11-09 cs.CR
Maximal Information Leakage from Quantum Encoding of Classical Data
本文定义了经典数据量子编码的最大量子泄漏度量,表示观察量子态测量后正确猜测数据函数概率的乘法增加,并证明其满足后处理不等式与独立性属性,同时界定了可访问信息及去极化噪声的影响。
2024-01-02 cs.CR cs.IT math.IT
Information Leakage in Index Coding
研究了一般消息分布下索引编码对猜测对手的信息泄漏问题。在这两个消失的错误和零错误解码的假设下,我们开发的最佳泄漏率,这是基于由对手试图猜测的消息集引起的子问题的广播速率的上下限。当消息独立且均匀分布时,下限和上限匹配,从而在两个速率之间建立等效。
2022-05-22 cs.CR cs.IT math.IT
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念,拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中,我们发现,差分隐私没有考虑的线性性质的查询,导致意外的信息泄漏。具体地,线性属性使得可以将一个查询划分成两个查询,诸如$q(D)=q(D_1)+q(D_2)$(如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$)。如果攻击者试图获得$q(D)$的答案,只要他们知道$D_2$,他们不仅可以发出查询$q(D)$,而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分,攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而,从攻击者的角度和从差分隐私机制的角度来看,如果分割设计得很巧妙,则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数,因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏,我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
Barycentric and Pairwise Renyi Quantum Leakage
本文提出重心与成对Renyi量子泄漏度量,用于量子系统隐私分析,具有良好性质且可计算,并证明其限制信息泄漏,同时给出量子机器学习中的隐私-效用权衡公式。
2024-02-09 cs.CR cs.IT math.IT
Information Leakage in Zero-Error Source Coding: A Graph-Theoretic Perspective
研究了零差错信源编码中对猜测对手的信息泄漏问题。信源编码问题是由一个混淆图来定义的,该图描述了信源符号之间的可混淆性。信息泄漏是衡量的比率的对手的成功猜测概率窃听前和窃听后的码字,最大化所有可能的源分布。在基本对抗模型下,对手进行单一猜测并且不允许其估计量与真实序列之间的失真,这种测量在文献中被称为最大最小熵泄漏或最大泄漏。我们开发了一个单字母的基本对抗模型下的最佳归一化泄漏的表征,以及最佳实现标量随机映射方案。一个有趣的观察是,最佳归一化泄漏等于固定长度源代码的最佳压缩率,这两者可以通过一些确定性编码方案同时实现。然后,我们将泄漏测量扩展到广义对抗模型,其中对手进行多次猜测,并允许一定程度的失真,我们推导出单字母的下限和上限。
2021-02-03 cs.CR cs.IT math.IT
Measuring Information Leakage in Non-stochastic Brute-Force Guessing
我们提出了一个可操作的措施,在非随机设置的信息泄漏,正式对暴力猜测对手的隐私。我们使用不确定变量,随机变量的非概率对应物,构建一个猜测框架,在该框架中,对手有兴趣根据不确定的报告确定私人信息。我们认为蛮力试错猜测,其中对手可以潜在地检查所有的可能性的私人信息是兼容的可用输出,以找到实际的私人实现。在输出存在的情况下和在没有输出的情况下,对手的猜测的最坏情况的数量的比率捕获对手的猜测复杂性的降低,因此被用作私人信息泄漏的度量。我们调查之间的关系,新开发的信息泄漏措施与现有的非随机极大极小信息和随机最大泄漏,出现在一次猜测。
2021-01-28 cs.CR cs.IT cs.SY
Computing Maximal Per-Record Leakage and Leakage-Distortion Functions for Privacy Mechanisms under Entropy-Constrained Adversaries
Lanzhou University of Finance and Economics(兰州财经大学);Key Laboratory of Smart Commerce of Gansu Province(甘肃省智慧商务重点实验室);China Mobile Group Design Institute Co., Ltd.(中国移动集团设计院有限公司);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文研究在熵约束攻击者模型下,最大单记录泄露、泄露-失真权衡及失真最小化问题,提出高效交替优化算法并验证其在二元对称信道和模数求和查询中的有效性。
2026-03-26 cs.CR
TrappeD: DRAM Trojan Designs for Information Leakage and Fault Injection Attacks
在本文中,我们调查先进的电路功能,如在动态RAM(DRAM)存储器的外围设备中使用的WL-(WL)下驱动(防止保留故障)和辅助写入(辅助写入)从安全的角度来看。在理想的环境中,这些功能可确保快速可靠的读写操作。但是,攻击者可以通过插入特洛伊木马程序来重新利用它们,以便在攻击者激活时提供恶意有效负载,例如故障注入、拒绝服务(DoS)和信息泄漏攻击。仿真结果表明,DRAM存储器中的DoS攻击可以通过增加DRAM电压来引起保持失败,从而发起DoS攻击。此外,通过利用DRAM的刷新操作,两条字线或位线可能被短路以泄漏信息或注入故障。我们展示了一个信息泄漏系统利用在RocketChip SoC上实现TrappeD。
2020-01-03 cs.AR cs.CR
Studying Maximum Information Leakage Using Karush-Kuhn-Tucker Conditions
当研究程序或协议中的信息泄漏时,一个自然的问题出现了:“最坏的情况是什么?”".识别最大泄漏的这个问题可以被看作是信息理论意义上的信道容量问题。在本文中,通过结合两个强大的理论:信息论和Karush-Kuhn-Tucker条件,我们证明了一个非常普遍的解决方案的信道容量问题。给出的例子来说明我们的解决方案可以应用到实际的程序和匿名协议的情况下,以及如何推广以前的方法来解决这个问题。
2009-10-21 cs.CR cs.IT cs.LO
Information flow based defensive chain for data leakage detection and prevention: a survey
移动和物联网应用通过提供便捷和智能的服务极大地丰富了我们的日常生活。然而,这些智能应用程序一直是攻击者窃取敏感数据的主要目标。它对用户的身份安全、资金安全甚至生命安全都构成了至关重要的威胁。研究界和工业界提出了许多信息流控制(IFC)技术来检测和防止数据泄漏,包括安全建模、类型系统、静态分析、动态分析、\textit{etc}等。根据应用程序的开发生存周期,虽然大多数攻击是在应用程序的执行阶段进行的,但数据泄露漏洞从设计阶段就开始引入。本调查以生命周期保护为重点,回顾了最近在不同阶段采用的代表性作品。我们提出了一个基于信息流的防御链,它提供了一个新的框架,系统地了解各种IFC技术,用于移动和物联网应用中的数据泄漏检测和预防。根据应用程序生存周期的各个阶段,对每项审查工作的技术、性能和局限性进行了全面研究。研究的挑战和未来的方向也指出了考虑防御链的完整性。
2021-06-09 cs.CR
Information Leakage in Index Coding With Sensitive and Non-Sensitive Messages
研究了索引编码中部分消息敏感而部分消息不敏感的情况下,对猜测对手的信息泄漏问题。非敏感消息可以由服务器像密钥一样使用,以减轻敏感消息向对手的泄漏。我们构建了一个确定性线性编码方案,该方案是从基于拟合矩阵的秩最小化方法(Bar-Yossef et al. 2011)发展而来的。线性方案导致了一个新的上界的最佳信息泄漏率,这是证明了紧的所有确定性标量线性码。我们还得到了一个相反的结果,从图论的角度来看,这在一般情况下,所有的确定性和随机编码方案。
2022-05-22 cs.CR cs.IT math.IT
Towards Blockchain-Assisted Privacy-Aware Data Sharing For Edge Intelligence: A Smart Healthcare Perspective
Data61, CSIRO(联邦科学与工业研究组织数据61研究所);Victoria University(维多利亚大学);University of Electronic Science and Technology of China(电子科技大学);University of Technology Sydney(悉尼科技大学);CNPIEC KEXIN LTD(中国图书进出口科信有限公司);Xidian University(西安电子科技大学)
针对智能医疗网络中数据共享的隐私泄露和投毒攻击风险,提出基于信任级别的个性化差分隐私模型,利用马尔可夫过程解耦噪声并构建区块链社区模型,有效抵御链接攻击与投毒攻击。
2023-06-29 cs.AI cs.CR
Quantifying Privacy Leakage in Split Inference via Fisher-Approximated Shannon Information Analysis
College of Computer Science and Artificial Intelligence, Fudan University(复旦大学计算机科学与人工智能学院);Information Sciences & Technology Department, Pennsylvania State University(宾夕法尼亚州立大学信息与技术系)
针对拆分推理的隐私泄露量化难题,本文提出基于Fisher信息的隐私度量FSInfo与对应防御机制FSInfoGuard,可精准量化隐私风险,实现优于现有方案的隐私-效用权衡。
2025-11-18 cs.CR
Modelling and Quantifying Membership Information Leakage in Machine Learning
University of Melbourne(墨尔本大学);Macquarie University(麦考瑞大学)
机器学习模型已被证明易受成员推断攻击的攻击,即,推断个人数据是否被用于训练模型。缺乏对这些攻击成功的因素的理解激发了使用信息理论对成员信息泄漏进行建模以及调查可以减少成员信息泄漏的机器学习模型和训练算法的属性的需要。我们使用条件互信息泄漏来测量训练机器学习模型中关于训练数据集中个体存在的信息泄漏量。我们设计了一个上限,这种措施的信息泄漏使用Kullback-Leibler分歧,更适合于数值计算。我们证明了Kullback-Leibler成员信息泄漏和假设测试对手检查特定数据记录是否属于机器学习模型的训练数据集的成功概率之间的直接关系。我们证明了互信息泄漏是训练数据集大小和正则化权重的递减函数。我们还证明,如果机器学习模型(定义在相对于模型参数的适应度的导数方面)的灵敏度高,则可能泄漏更多的成员信息。这表明,与具有较少自由度的简单模型相比,复杂模型(如深度神经网络)更容易受到成员推断攻击的影响。我们发现,当使用高斯$(ε,δ)$-差分私有加性噪声时,通过$\mathcal{O}(\log^{1/2}(δ^{-1})ε^{-1})$减少了成员信息泄漏量。
2020-04-28 cs.CR cs.IT cs.LG
Measuring and Controlling Split Layer Privacy Leakage Using Fisher Information
Pennsylvania State University(宾夕法尼亚州立大学);Meta AI;Georgia Institute of Technology(佐治亚理工学院);Cornell University(康奈尔大学)
拆分学习和推理建议运行跨客户端设备和云拆分的大型模型的训练/推理。然而,这样的模型分割强加了隐私问题,因为流经分割层的激活可能泄漏关于客户端的私有输入数据的信息。目前还没有好的方法来量化有多少私人信息通过分离层泄露,也没有好的方法来将隐私提高到所需的水平。在这项工作中,我们提出使用Fisher信息作为隐私度量来测量和控制信息泄漏。我们表明,费舍尔信息可以提供一个直观的理解有多少私人信息泄漏通过分裂层,在一个无偏重建攻击者的错误界的形式。然后,我们提出了一个隐私增强技术,ReFIL,可以强制执行用户所需的水平的费舍尔信息泄漏在分裂层,以实现高隐私,同时保持合理的效用。
2022-09-21 cs.CR cs.LG
Information Leakage Games: Exploring Information as a Utility Function
UFMG(米纳斯吉拉斯联邦大学);University of Athens(雅典大学);CNRS(法国国家科学研究中心);AIST(日本产业技术综合研究所);Inria Saclay(法国国家信息与自动化研究所萨克莱分院);École Polytechnique(巴黎综合理工学院)
安全信息流和隐私领域的一个共同目标是建立有效的防御措施,防止不必要的信息泄漏。为此,必须能够推理潜在的攻击及其与可能的防御的相互作用。在本文中,我们提出了一个博弈论的框架,形式化的信息泄漏的背景下,攻击者和防御者的策略,并提供了一个基础,开发最佳的防御方法。我们的游戏的一个新颖之处是,它们的效用是由信息泄漏,在某些情况下,可能会表现在一个非线性的方式。这导致了与经典博弈论的显著偏离,在经典博弈论中,效用函数与参与者的策略是线性的。因此,本文的一个重要贡献是建立了信息泄漏博弈的基础。我们考虑两种类型的游戏,这取决于考虑泄漏的概念。第一种是QIF博弈,它是为定量信息流(QIF)理论量身定制的。第二种是DP-博弈,对应于差分隐私(DP)。
2022-01-28 cs.AI cs.CR cs.GT
Quantitative information flow under generic leakage functions and adaptive adversaries
我们提出了一个基于行动的随机化机制模型,分析定量信息流(QIF)下的通用泄漏功能,并在可能的适应性对手。该模型包含了迄今为止提出的许多QIF模型。我们的主要贡献包括:(1)我们确定了泄漏函数上的温和的一般条件,在此条件下,可以导出自适应QIF的一般和有意义的结果;(2)我们比较了自适应和非自适应策略的效率,表明后者在长度上与前者一样有效,直到可用动作数的扩展因子;(3)我们证明了在有限时间范围内,策略上的最大信息泄漏可以用Bellman方程表示。这可以用来计算一个最佳的有限策略递归,通过诉诸标准的方法,如逆向归纳。
2015-11-09 cs.CR cs.LO
A Quantitative Metric for Privacy Leakage in Federated Learning
Ping An Technology (Shenzhen) Co., Ltd.(平安科技(深圳)有限公司)
在联邦学习系统中,参数梯度在参与者和中央调制器之间共享,而原始数据永远不会离开其受保护的源域。然而,梯度本身可能携带足够的信息来精确推断原始数据。通过向中央服务器报告其参数梯度,客户端数据集暴露于来自对手的推理攻击。本文提出了一种基于互信息的定量度量方法,用于客户评估其梯度中的信息泄漏潜在风险。在过去的几年里,互信息在机器学习和数据采掘社区中受到越来越多的关注。然而,现有的互信息估计方法不能处理高维变量。本文提出了一种新的方法来近似高维梯度和批量输入数据之间的互信息。实验结果表明,该度量方法能够可靠地反映联邦学习中的信息泄漏程度。此外,使用所提出的度量,我们调查的风险水平的影响因素。研究表明,信息泄漏风险与任务模型的状态以及固有的数据分布有关。
2021-02-24 cs.CR cs.LG
In Defense of Information Leakage in Concept-based Models
本文重新审视基于概念模型中的信息泄露问题,提出良性泄露概念,通过优化训练目标,在概念不完整时利用泄露提升准确性和可干预性。
2026-06-09 cs.AI cs.CR cs.LG
Layer-wise Characterization of Latent Information Leakage in Federated Learning
Imperial College London(伦敦帝国理工学院)
通过联邦学习训练深度神经网络允许客户端共享仅在其数据上训练的模型,而不是原始数据。先前的工作已经表明,在实践中,客户端的私人信息,无关的主要学习任务,可以发现从模型的梯度,这妥协承诺的隐私保护。然而,仍然没有正式的方法来量化私人信息通过共享更新模型或梯度的泄漏。在这项工作中,我们分析属性推断攻击,并定义两个指标的基础上(i)的经验$\mathcal{V}$ -信息的适应,和(ii)使用雅可比矩阵的敏感性分析,使我们能够测量相对于潜在信息的梯度变化。我们展示了我们提出的指标在以分层方式本地化私人潜在信息方面的适用性,以及在两种设置中(i)我们有或(ii)我们不知道攻击者的能力。我们使用三个基准模型评估了三个真实数据集上的信息泄漏量化指标。
2021-05-29 cs.AI cs.CR
Analyzing Information Leakage of Updates to Natural Language Models
Microsoft(微软);University of Melbourne(墨尔本大学)
为了不断提高质量并反映数据的变化,机器学习应用程序必须定期重新训练和更新其核心模型。我们表明,差异分析的语言模型快照之前和之后的更新可以揭示一个令人惊讶的数量的详细信息的变化,在训练数据。我们提出了两个新的度量- \emph{differential score}和\emph{differential rank} -用于分析由于自然语言模型更新而导致的泄漏。我们使用这些指标对使用不同方法和配置在几个不同数据集上训练的模型进行泄漏分析。我们讨论我们的研究结果的隐私影响,提出缓解策略,并评估其效果。
2021-08-05 cs.CL cs.CR cs.LG
Data Encoding For Healthcare Data Democratisation and Information Leakage Prevention
University of Oxford(牛津大学);IIIT Delhi(德里印度理工学院)
针对医疗领域数据民主化不足与模型信息泄露问题,提出基于随机投影和随机量子编码的不可逆数据编码方案,在保留数据语义的同时降低模型信息泄露风险。
2023-05-05 cs.CR cs.LG
Channel Leakage, Information-Theoretic Limitations of Obfuscation, and Optimal Privacy Mask Design for Streaming Data
New York University(纽约大学)
在本文中,我们首先引入了信道泄漏的概念,作为信道输入和信道输出之间的最小互信息。正如其名称所示,信道泄漏量化了对恶意接收器的最小信息泄漏。从广义上讲,它可以被看作是信道容量的双重概念,它表征了到目标接收机的最大信息传输。我们得到明确的公式的信道泄漏的情况下,白色高斯,有色高斯的情况下,和衰落的情况下。然后,我们利用这一概念调查的基本限制混淆的隐私失真权衡(以及隐私权权衡)的流数据,特别是,我们推导出分析权衡方程的固定的情况下,非固定的情况下,和有限时间的情况下。我们的研究结果还明确指出,如何设计的隐私面具在一个最佳的方式。
2020-09-29 cs.CR cs.IT cs.LG
On the Compositionality of Dynamic Leakage and Its Application to the Quantification Problem
传统的定量信息流(QIF)定义为所有可行程序运行过程中信息泄漏的期望值,它不能识别只有有限次数的运行泄漏大量信息的脆弱程序。正如Bielova(2016)所讨论的,需要一个好的动态泄漏概念和一种有效的计算泄漏的方法。为了解决这个问题,作者已经提出了两个动态泄漏的概念和一种基于模型计数的量化动态泄漏的方法。灵感来自Kawamoto et. al.(2017),本文提出了两种计算动态泄漏的有效方法,一种是结合程序顺序结构的组合方法,另一种是基于值域分解的并行计算。对于前者,我们还研究了精确和近似计算。从实现的角度来看,我们利用二叉决策图(BDD)和确定性可分解否定范式(d-DNNF)来表示模型计数中的布尔公式。最后,我们展示了几个例子的实验结果。
2019-05-11 cs.CR cs.IT math.IT
HyperGI: Automated Detection and Repair of Information Flow Leakage
在软件中保持机密信息控制是一个持久的安全问题,失败意味着秘密可以通过程序行为泄露。传统上,信息流控制技术是基于静态或符号分析的--可伸缩性有限,并且专用于特定的语言。当程序确实泄漏秘密时,没有方法可以自动修复它们,除非泄漏导致功能测试失败。我们提出了我们对HyperGI的愿景,这是一个检测、定位和修复信息泄漏的遗传改进框架。HyperGI的关键要素包括(1)使用两个正交测试套件,(2)估计和定位潜在泄漏的动态泄漏检测方法,以及(3)使用遗传改进产生候选补丁的修复组件。我们证明了成功使用HyperGI的几个程序,没有失败的功能测试。我们手动检查生成的补丁,并确定权衡和未来方向,以充分实现我们的愿景。
2021-08-27 cs.CR cs.SE
Nonmalleable Progress Leakage
本文融合进展敏感安全与安全降级,提出 NMPL 概念及支持受控进展泄漏的信息流类型系统,并在 Rocq 中完成定理验证。
2025-05-18 cs.CR cs.PL
ContextLeak: Auditing Leakage in Private In-Context Learning Methods
University of Southern California(南加州大学)
本文提出ContextLeak框架,用于评估私有上下文学习中信息泄露的最坏情况,通过插入标记检测敏感信息,并揭示现有方法在隐私与效用之间的权衡不足。
2026-04-20 cs.CL cs.CR
Measuring Privacy Leakage for IDS Rules
提出了一种入侵检测系统(IDS)警报隐私泄漏的度量方法。采用信息流定量分析方法,建立了基于信息熵的入侵检测规则隐私泄露理论模型。这一理论模型随后被验证经验的基础上模拟和实验研究。分析表明,该指标是能够区分IDS规则,没有或低预期的隐私泄漏和IDS规则泄漏敏感信息,例如用户行为的重大风险。该分析是基于测量的IDS警报,数据长度和数据熵的IDS规则的相关部分(例如有效载荷)的数量。这是一种很有前途的方法,为托管安全服务提供商的隐私基准测试开辟了道路。
2013-08-25 cs.CR cs.IT math.IT
Towards learning to explain with concept bottleneck models: mitigating information leakage
J.P. Morgan AI Research(摩根大通人工智能研究院)
概念瓶颈模型通过首先预测人类提供的概念列表中的哪些关于数据点是正确的来执行分类。然后,下游模型使用这些预测的概念标签来预测目标标签。预测的概念充当目标预测的基本原理。当使用软概念标签时,模型信任问题出现在这种范式中:以前已经观察到有关数据分布的额外信息泄漏到概念预测中。在这项工作中,我们将展示如何使用蒙特卡罗Dropout来实现不包含泄漏信息的软概念预测。
2022-11-07 cs.CR cs.LG
Information Leakage Envelopes
Inria(法国国家信息与自动化研究所);KTH Royal Institute of Technology(瑞典皇家理工学院);École Polytechnique(巴黎综合理工学院)
本文研究了在点wise最大泄露(PML)框架下满足两个要求的隐私保障:对后处理具有鲁棒性,并上界限制信息泄露超过给定阈值的概率。作者分析了两种受差分隐私启发的定义,发现它们无法同时满足这两个要求。接着引入PML包络概念,用于量化在任意后处理后的机理输出中关于秘密的信息泄露最大量。包络满足两个要求,并讨论其基本结构属性如单调性,推导通用上下界。进一步分析PML极值机制和随机响应两种常用隐私机制的包络。本文将PML包络确立为一种自然且具有操作意义的定义,用于提供在任意下游转换中保持的隐私保障。
2026-05-20 cs.CR cs.IT math.IT
A new measure for dynamic leakage based on quantitative information flow
Federal University of Minas Gerais(米纳斯吉拉斯联邦大学);Macquarie University(麦考瑞大学)
本文提出一种新的动态信息泄漏度量,将对手信念与基线分布解耦,满足信息论公理并与静态视角兼容,用于评估系统运行中的实时泄漏。
2025-10-23 cs.CR cs.IT math.IT
A Graph Symmetrisation Bound on Channel Information Leakage under Blowfish Privacy
School of Computing and Information Systems, University of Melbourne(墨尔本大学计算与信息系统学院);Australian Tax Office(澳大利亚税务局);School of Mathematics and Statistics, University of Melbourne(墨尔本大学数学与统计学院)
Blowfish隐私是差分隐私的最新概括,它可以提高效用,同时保持具有语义保证的隐私策略,这是推动计算机科学中差分隐私流行的一个因素。本文将Blowfish隐私与通信理论界提出的一种度量信息通道隐私损失的重要方法:最小熵泄漏联系起来。输入数据相邻关系中的对称性对于差分隐私和最小熵泄漏之间的已知连接是中心的。但是,虽然差分隐私具有很强的对称性,Blowfish相邻关系对应于任意简单的图形,由于该框架的灵活的隐私政策。要绑定的最小熵泄漏的河豚私人机制,我们组织我们的分析对称分区对应的轨道图自同构群。一个满足我们的渐近相等界的构造证明了紧性。
2021-10-13 cs.CR cs.IT cs.LG
Information Theoretic Evaluation of Privacy-Leakage, Interpretability, and Transferability for Trustworthy AI
Software Competence Center Hagenberg(哈根贝格软件能力中心);University of Rostock(罗斯托克大学)
为了开发考虑到可信AI的指导方针和原则的机器学习和深度学习模型,引入了一种新的信息理论可信AI框架。一个统一的方法,“隐私保护的可解释性和可转移的学习”被认为是研究和优化隐私,可解释性和可转移性方面之间的权衡。变分成员映射贝叶斯模型用于分析近似的定义的信息理论措施的隐私泄漏,可解释性和可转让性。该方法包括近似的信息理论的措施,通过最大限度地利用变分优化的下限。该研究提出了一种统一的信息理论方法,以严格的分析方式研究可信AI的不同方面。该方法是通过大量的实验基准数据集和现实世界的生物医学应用程序有关的个人使用心率变异性分析的精神压力的检测证明。
2022-04-12 cs.AI cs.CR cs.LG