An Operational Approach to Information Leakage
给定两个随机变量$X$和$Y$,采取一种操作方法来量化从$X$到$Y$的信息“泄漏”。所得到的测量值$\mathcal{L}(X \!\! \to \!\! Y)$被称为\emph{maximal leakage},并且被定义为在观察$Y$时正确猜测$X$的随机化函数的概率的乘法增加,在所有这样的随机化函数上最大化。对于离散的$X$和$Y$给出了$\mathcal{L}(X \!\! \to \!\! Y)$的一个封闭形式的表达式,并将其推广到处理一大类随机变量.由此产生的属性被证明是一致的泄漏测量的公理视图,和定义被证明是强大的设置中的变化。此外,一个变体的香农密码系统进行了研究,其中的加密方案的性能进行测量,使用最大泄漏。(归一化)最大泄漏的最佳极限的单字母特征推导和渐近最优加密方案的证明。此外,从数据估计最大泄漏的样本复杂性的特点是次多项式的因素。最后,\emph{guessing}框架用于定义最大泄漏是用来给常用的泄漏措施,如香农容量,最大相关性,和本地差分隐私的操作解释。
2018-07-20 cs.IT math.IT
Pointwise Maximal Leakage
本文提出逐点最大泄露这一隐私度量,研究其复合、预处理与后处理性质,并据此构建可适配多种场景的隐私风险评估框架。
2023-08-15 cs.IT math.IT
Unifying Privacy Measures via Maximal $(α,β)$-Leakage (M$α$beL)
本文提出由 $α,β$ 参数化的最大 $(α,β)$-泄露(M$α$beL),给出可计算表达式与隐私性质,并统一最大泄露、LDP、LRDP及差分隐私等度量。
2024-04-05 cs.IT math.IT
Tunable Measures for Information Leakage and Applications to Privacy-Utility Tradeoffs
我们引入了一个可调的信息泄漏措施,称为最大α泄漏。该度量量化了对手从数据的发布中推断数据集的任何(潜在随机)函数的最大收益。对手的推理能力,反过来,量化的一类对抗损失函数,我们引入$α$ -损失,$α\in[1,\infty]$。$α$的选择决定了具体的对抗行动,范围从细化$α=1$的信念(关于数据的任何函数)到猜测$α=\infty$的最可能值,同时细化介于两者之间的$α$的信念的$α^{th}$矩。最大α泄漏然后量化在数据的所有可能函数上的$α$损失下的对抗增益。特别地,对于$α=1$和$α=\infty$的极值,最大α泄漏分别简化为互信息和最大泄漏。对于$α\in(1,\infty)$,该测量被示出为阶为$α$的Arimoto信道容量。我们表明,最大的α-泄漏满足数据处理不等式和次加性属性,从而允许一个弱的组合物的结果。在这些属性的基础上,我们使用最大α泄漏作为隐私措施和研究的问题,数据发布的隐私保证,其中发布的数据的效用是通过一个硬失真约束确保。与平均失真不同,硬失真提供了保真度的确定性保证。我们表明,在硬失真约束下,对于$α>1$的最佳机制是独立的$α$,因此,得到的最佳折衷是相同的所有值的$α>1$。最后,最大阿尔法泄漏作为隐私措施的可调性也说明了平均汉明失真作为实用措施的二进制数据。
2019-08-19 cs.IT math.IT
An Alphabet of Leakage Measures
我们引入了一个家庭的信息泄漏措施,称为最大$α,β$泄漏,参数化的实数$α$和$β$。该措施是正式通过一个操作的定义,涉及一个对手猜测一个未知的功能的数据给定的发布数据。我们得到了一个简单的,可计算的表达式的措施,并表明,它满足几个基本性质,如单调性$β$为固定的$α$,非负性,数据处理不等式,和添加剂在独立的版本。最后,我们强调了这个家庭的相关性,它桥接了几个已知的泄漏措施,包括最大$α$ -泄漏$(β=1)$,最大泄漏$(α=\infty,β=1)$,局部差分隐私$(α=\infty,β=\infty)$和局部Renyi差分隐私$(α=β)$。
2022-11-28 cs.IT math.IT
Optimal Maximal Leakage-Distortion Tradeoff
大多数用于发布具有隐私保证的数据的方法将随机性引入数据集,这降低了所发布数据的实用性。在本文中,我们研究了隐私-效用权衡,以最大泄漏的隐私措施和期望汉明失真的效用措施。我们研究三个不同但相关的问题。首先,我们假设数据生成分布(即,先验)是已知的,并且我们找到了最优的隐私机制,该机制在最大泄漏的约束下实现了最小的失真。然后,我们假设先验属于某个分布集,我们制定了一个最小-最大问题,以找到最坏情况下的先验在集合中可实现的最小失真,受到最大泄漏约束。最后,我们定义了一个偏序隐私机制的基础上产生的最大失真。我们的研究结果表明,当先验分布是已知的,最佳的隐私机制充分披露的符号与最大的先验概率,并抑制符号与最小的先验概率。此外,我们发现,包含更均匀的分布的先验集合导致更大的失真,而更均匀地分布在符号上的隐私预算的隐私机制会产生更小的最坏情况下的失真。
2021-05-03 cs.IT math.IT
Successive Refinement of Shannon Cipher System Under Maximal Leakage
该研究将Shannon密码系统的点对点率失真威胁模型推广到多终端逐次细化场景,刻画了两种可靠性约束下的渐近最优归一化最大泄露区域,证明了特定条件下两类约束的泄露区域一致。
2024-04-18 cs.IT math.IT
Perturbation Analysis of Maximal Quantum Leakage
University of Melbourne(墨尔本大学)
研究量子编码扰动下最大量子泄漏的敏感性,建立其与迹距离的连续性界,推导基于保真度和相对熵的条件界定其变化,通过实例和数值说明相关情况。
2026-07-17 cs.IT math.IT quant-ph
Measuring Information Leakage in Non-stochastic Brute-Force Guessing
本文提出了一种非随机信息泄漏的操作措施,以形式化的隐私对暴力猜测对手。这些信息是由不确定变量的非概率不确定性来度量的,这些不确定变量是随机变量的非随机对应物。对于与已发布数据$Y$相关的$X$,非随机蛮力泄漏通过由对手穷尽地检查$X$的私有属性$U$的所有可能性的复杂度来测量。复杂度是指成功猜测$U$的试验次数。在所有可能的私有属性$U$上最大化该泄漏产生最大(即,最坏情况)非随机蛮力猜测泄漏。这被证明是完全由给定$Y$的$X$的最小非随机不确定性确定的,这也确定了最坏情况的属性$U$,如果$Y$被公开,则该属性指示最高的隐私风险。最大的非随机蛮力猜测泄漏被证明是成比例的非随机可识别性的$X$给定$Y$和上界现有的最大极小信息。后者量化了当对手必须通过$Y$一次性完全猜测$U$时的信息泄漏。实验被用来证明最大非随机蛮力猜测泄漏和数据效用(测量的最大量化误差)之间的权衡,并说明最大最小信息和随机一次性最大泄漏之间的关系。
2021-07-02 cs.IT math.IT
Maximal Leakage of Masked Implementations Using Mrs. Gerber's Lemma for Min-Entropy
本文针对任意阶掩码实现,利用最大泄漏和条件最小熵,通过主化不等式推广了有限阿贝尔群中的 Mrs. Gerber 引理,为侧信道攻击成功概率提供上界。
2023-05-10 cs.CR cs.IT math.IT
Bounds on Maximal Leakage over Bayesian Networks
Purdue University(普渡大学)
本文研究了贝叶斯网络上最大泄露量的界限,通过耦合特征分析并提出更一般的条件,展示了其在有限字母表下的应用效果。
2025-12-04 cs.IT math.IT math.PR
A Tunable Measure for Information Leakage
介绍了一种可调的信息泄漏度量\textit{maximal $α$-leakage}。该度量量化了对手在改进其对以所公开的数据集为条件的数据集的任何(潜在随机)函数的先验信念的倾斜版本时的最大增益。$α$的选择决定了具体的对抗行为,从精炼$α=1$的信念到猜测$α= \infty$的最佳后验,对于这些极值,该度量分别简化为互信息(MI)和最大泄漏(MaxL)。对于所有其他$α$,该测量被示出为Arimoto信道容量。证明了该度量的几个性质,包括:(i)原始数据集和公开数据集之间的映射中的准凸性;(ii)数据处理不等式;以及(iii)组合性质。
2018-06-08 cs.IT math.IT
Maximal Information Leakage from Quantum Encoding of Classical Data
本文定义了经典数据量子编码的最大量子泄漏度量,表示观察量子态测量后正确猜测数据函数概率的乘法增加,并证明其满足后处理不等式与独立性属性,同时界定了可访问信息及去极化噪声的影响。
2024-01-02 cs.CR cs.IT math.IT
Worst-Case Utility Privacy Mechanism via Pointwise Maximal Leakage
KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出了一种利用新型隐私度量点最大泄露(PML)的离散隐私机制,研究在满足PML隐私保证的同时最大化最坏情况效用的机制设计问题,展示了在输出支持集有额外约束的情况下,具有低计算复杂度的效用安全机制是优化最坏情况效用问题的最优解。
2026-05-19 cs.IT math.IT
Maximal $α$-Leakage for Quantum Privacy Mechanisms
本文提出最大 $α$-泄漏以量化量子 adversary 在量子隐私机制下获取敏感信息的能力,证明其由 measured Rényi entropy 和 capacity 决定,并建立了数据处理不等式、组合性质及正则化形式。
2024-03-21 cs.CR cs.IT math.IT
A Variational Formula for Infinity-Rényi Divergence with Applications to Information Leakage
给出了无穷阶Rényi发散的一个变分刻画.我们的特征是猜测:目标功能是一个比率的最大期望值的增益函数适用于正确猜测一个未知的随机变量的概率。我们的变分表征的一个重要方面是,它仍然不可知的特定的增益函数考虑,只要它满足一些正则性条件。此外,我们定义了两个变量的可调措施的信息泄漏,最大的$α$泄漏,并获得这些信息的措施,利用我们的变分表征的封闭形式的表达式。
2022-05-02 cs.IT math.IT
Extremal Mechanisms for Pointwise Maximal Leakage
本文研究逐点最大泄漏(PML)隐私度量与凸效用函数下的隐私-效用权衡,推导了最优权衡的闭式解,并提出计算PML最优机制的线性规划。
2024-08-27 cs.IT eess.SP math.IT
Generalization Error Bounds for Noisy, Iterative Algorithms via Maximal Leakage
American University of Beirut(贝鲁特美国大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Institute of Science and Technology Austria(奥地利科学技术研究所)
该研究采用信息论框架,用最大泄露指标分析迭代含噪学习算法的泛化行为,推导了相关上界并阐释了更新函数对最优噪声选择的影响。
2023-07-19 cs.IT cs.LG math.IT
Privacy Guarantee for Nash Equilibrium Computation of Aggregative Games Based on Pointwise Maximal Leakage
KTH Royal Institute of Technology(皇家理工学院);Southeast University(东南大学)
针对差分隐私在相关数据集上隐私度量不足的问题,提出逐点最大泄露框架,利用先验知识给出纳什均衡计算中隐私泄露的精确上界,实验表明其优于差分隐私。
2026-06-09 cs.GT cs.IT math.IT
Pointwise Maximal Leakage on General Alphabets
本文将逐点最大泄漏(PML)隐私度量从有限离散场景推广到任意概率空间上的随机变量,通过引入基于离散函数猜测和基于增益函数期望最大化的两种新定义,提出了一种无需对底层概率空间作任何假设且适用范围更广的 PML 形式。
2023-04-16 cs.CR cs.IT math.IT
Maximal Information Leakage based Privacy Preserving Data Disclosure Mechanisms
通常需要向公共领域公开训练数据,同时保护某些敏感标签的隐私。我们使用信息理论的措施来开发这样的隐私保护数据披露机制。我们的机制涉及扰动的方式,在隐私效用权衡的平衡的数据向量。我们使用输出数据向量和机密标签之间的最大信息泄漏作为我们的隐私度量。我们首先研究了理论上的Bernoulli-Gaussian模型,并研究了只有高斯分布的平均值可以被扰动时的隐私效用权衡。我们表明,最佳的解决方案是相同的情况下,当使用错误的概率在对手的效用进行测量。然后,我们考虑将该框架应用于数据驱动的环境,并提供对Sibson互信息的经验近似。通过对MNIST和FERG数据集进行实验,我们表明,我们提出的框架实现了相当于或更好的隐私比以前的方法的基础上互信息。
2019-04-04 cs.CR cs.IT math.IT
Evaluating Differential Privacy on Correlated Datasets Using Pointwise Maximal Leakage
本文利用逐点最大泄漏(PML)定量评估相关数据集上的差分隐私(DP),证明纯DP机制的PML可任意接近无扰动释放机制,从而揭示DP在相关数据场景下的根本局限。
2025-02-08 cs.CR cs.IT math.IT
Generalization Error Bounds Via Rényi-, $f$-Divergences and Maximal Leakage
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);American University of Beirut(贝鲁特美国大学)
在这项工作中,在某种联合分布下事件的概率是有界的,通过测量它与边际的乘积(这通常更容易分析)以及两个随机变量之间的相关性来衡量。这些结果在自适应数据分析中找到应用,其中引入了多个依赖关系,并且在学习理论中,它们可以用于限制学习算法的泛化误差。根据Sibson互信息、$α-$分歧、Hellinger分歧和$f-$分歧给出了边界。特别感兴趣的情况是最大泄漏(或无穷阶的Sibson互信息),因为该测量对后处理是鲁棒的并且自适应地合成。相应的界可以看作是经典界的推广,如Hoeffding不等式和McDiarmid不等式,对于相依随机变量的情况。
2020-10-21 cs.IT cs.LG math.IT
Rethinking Disclosure Prevention with Pointwise Maximal Leakage
该研究基于逐点最大泄露(PML)重构披露预防,提出按秘密特征熵区分披露与隐藏的效用—隐私框架,证明可提供独立于敌手先验的推断隐私保证,并兼容差分隐私、支持灵活机制设计。
2024-10-25 cs.CR cs.IT math.IT
A New Approach to Adaptive Data Analysis and Learning via Maximal Leakage
EPFL(洛桑联邦理工学院);American University of Beirut(贝鲁特美国大学)
人们越来越担心,目前发表的大多数研究结果都是错误的。主要原因似乎在于数据分析中理论与实践之间的根本脱节。前者通常依赖于统计独立性,而后者是一个内在的适应性过程:新的假设是根据以前的分析结果制定的。最近的一系列工作试图通过实施约束来缓解这些问题,例如差分隐私,这些约束自适应地组成,同时优雅地降级,从而即使在自适应环境中也能提供统计保证。我们的贡献包括在引入一种新的方法,最大泄漏,信息泄漏的信息理论措施的概念的基础上。的主要结果使我们能够比较的事件发生的概率时,被认为是自适应相对于非自适应的情况。我们推导出的界限代表了非自适应场景中使用的界限的泛化(例如,用于$c$敏感函数的McDiarmid不等式、经由显著性水平的错误发现错误控制等),并允许我们在某些制度下复制甚至改进使用最大信息或差异隐私获得的结果。与Dwork等人开始的工作相比,我们的结果不依赖于差分隐私,但原则上适用于具有有界泄漏的每个算法,包括差分隐私算法和具有短描述长度的算法。
2019-03-05 cs.IT cs.LG math.IT
On the Generalization Error of Differentially Private Algorithms via Typicality
Imperial College London(帝国理工学院);University of British Columbia(不列颠哥伦比亚大学)
本文从信息论角度研究随机学习算法的泛化误差,改进互信息和最大泄露的界,为差分隐私算法提供更精确的泛化误差保证。
2026-04-17 cs.IT math.IT