Privacy-Utility Trade-offs Under Multi-Level Point-Wise Leakage Constraints
KTH（皇家理工学院）；UNSW Canberra（新南威尔士大学堪培拉分校）
本文提出了一种在多级点wise泄露约束下最大化隐私与效用权衡的机制设计方法，通过信息几何近似和矩阵奇异值分解实现高效隐私保护。
2026-01-08 cs.IT math.IT
Optimal Maximal Leakage-Distortion Tradeoff
大多数用于发布具有隐私保证的数据的方法将随机性引入数据集，这降低了所发布数据的实用性。在本文中，我们研究了隐私-效用权衡，以最大泄漏的隐私措施和期望汉明失真的效用措施。我们研究三个不同但相关的问题。首先，我们假设数据生成分布（即，先验）是已知的，并且我们找到了最优的隐私机制，该机制在最大泄漏的约束下实现了最小的失真。然后，我们假设先验属于某个分布集，我们制定了一个最小-最大问题，以找到最坏情况下的先验在集合中可实现的最小失真，受到最大泄漏约束。最后，我们定义了一个偏序隐私机制的基础上产生的最大失真。我们的研究结果表明，当先验分布是已知的，最佳的隐私机制充分披露的符号与最大的先验概率，并抑制符号与最小的先验概率。此外，我们发现，包含更均匀的分布的先验集合导致更大的失真，而更均匀地分布在符号上的隐私预算的隐私机制会产生更小的最坏情况下的失真。
2021-05-03 cs.IT math.IT
Optimal Utility-Privacy Trade-off with Total Variation Distance as a Privacy Measure
总变化距离被提出作为一个隐私措施在信息披露的情况下，当目标是揭示一些可用的数据在返回的效用的信息，同时保留某些敏感的潜在变量从合法的接收器的隐私。引入总变差距离作为隐私泄露的度量，证明了：1）总变差距离满足后处理不等式和链接不等式，这使得它与隐私度量的直观概念一致; 2）当总变差距离作为隐私度量时，最优效用-隐私权衡可以通过标准线性规划求解; iii）它提供了由互信息、最大泄漏或具有有界代价函数的推理攻击的改进测量的隐私泄漏的界限。
2019-03-04 cs.IT math.IT
On Privacy Mechanism Design Under a Bounded $α$-Lift Leakage Constraint with $χ^2$-Utility
Department of Information Science and Engineering, KTH Stockholm（瑞典皇家理工学院信息与工程学院）；Telstra Sydney（澳大利亚电信悉尼分公司）；School of Engineering and Technology, UNSW Canberra（新南威尔士大学堪培拉校区工程与技术学院）
该研究在有界α-提升泄漏约束下，设计最大化χ²-信息的隐私机制，推导相关界与闭式解，推广至Rényi散度隐私并给出任意泄漏矩阵的精确公式与数值评估。
2026-10-12 cs.IT math.IT
The Economics of Privacy and Utility: Investment Strategies
由于个人信息的不受限制的披露，不可避免的隐私泄露激发了对健壮的隐私保护机制的广泛研究。然而，现有的研究大多局限于在静态环境下解决问题，而忽略了随着时间的推移隐私泄漏。不幸的是，这种隐私处理在实际环境中是不够的，在实际环境中，用户随着时间的推移连续地公开他们的个人信息，导致用户的敏感信息的累积泄漏。在本文中，我们考虑在有限的时间范围内的隐私泄漏和调查的最佳策略，以最大限度地提高所披露的数据的效用，同时限制有限的地平线隐私泄漏。我们认为一个简单的隐私机制，涉及压缩用户的数据之前，每次披露，以满足未来的隐私所需的约束。我们进一步激励几种算法来优化动态隐私效用权衡，并通过广泛的综合性能测试来评估它们的性能。
2022-07-04 cs.CR cs.GT cs.IT
A Case for Maximal Leakage as a Side Channel Leakage Metric
侧通道代表了广泛的一类安全漏洞，已被证明存在于许多应用程序中。因为完全消除侧信道通常导致过高的开销，所以需要在成本和泄漏之间进行原则性的权衡。在本文中，我们使用最大泄漏的情况下，分析这种权衡。最大泄漏是为侧通道设计的操作上可解释的泄漏度量。我们提出了最有用的理论特性，最大泄漏从以前的工作和经验表明，传统的指标，如互信息和信道容量低估了边信道所构成的威胁，而最大泄漏不。我们还研究了使用最大泄漏的优化问题的成本泄漏权衡。我们证明，这个问题不仅可以表示为一个线性规划，但也可以实现最佳保护，使用最多两个确定性计划的组合。
2020-04-17 cs.CR cs.IT math.IT
Trade Reliability for Security: Leakage-Failure Probability Minimization for Machine-Type Communications in URLLC
如何提供信息安全同时满足超可靠性和低延迟要求是实现下一代超可靠和低延迟通信服务（xURLLC）的主要关注点之一，特别是在机器类型通信中。在这项工作中，我们通过定义泄漏故障概率，这是一个度量，共同表征短数据包传输的可靠性和安全性能的可靠性和安全性的权衡。我们发现，系统的性能可以通过反直观地分配更少的资源与有限块长度（FBL）码的传输来提高。为了解决相应的优化问题的联合资源分配，我们提出了一个优化框架，利用下界近似的解码错误概率在FBL制度。我们刻画了重构问题的凸性，并建立了一个有效的迭代搜索方法，其收敛性是有保证的。为了展示该框架的可扩展性，我们进一步讨论了具有可靠安全性能的实际要求的块长度分配方案，以及具有统计信道状态信息（CSI）的传输。数值结果验证了所提出的方法的准确性，并展示了各种设置下的可靠性和安全性的权衡。
2023-03-08 cs.IT math.IT
A Generalization of the Stratonovich's Value of Information and Application to Privacy-Utility Trade-off
Stratonovich的信息值（VoI）是衡量在信息泄漏约束下，从扰动样本中获得多少推理增益的量。在本文中，我们引入了一个广义的VOI一般损失函数和一般的信息泄漏。然后，我们推导出广义VoI的上界。此外，对于经典的损失函数，我们给出了一个上界可达的条件，该条件比以往研究中的弱。由于VoI可以被看作是一个制定的隐私效用权衡（PUT）的问题，我们提供了一个解释，可实现的条件下，在PUT的上下文中。
2022-01-27 cs.IT math.IT
Robust Privacy-Utility Tradeoffs under Differential Privacy and Hamming Distortion
一个隐私效用权衡开发的任意一组有限字母表源分布。隐私量化使用差分隐私（DP），和效用量化使用预期的汉明失真最大化的一组分布。源分布集（源集）的家庭被分为三类，根据他们捕获的先验知识的不同水平。对于其凸包包含均匀分布的源集合，对称DP机制是最佳的。对于概率值具有固定单调排序的源集合，非对称DP机制是最佳的。对于所有其他的源集，一般的最佳隐私泄漏的上限和下限的开发和紧密性的充分必要条件。不同的隐私泄漏是互信息（MI）泄漏的上限：这两个标准进行了比较分析和数值说明采用更强的隐私标准的效果。
2018-08-01 cs.IT math.IT
Privacy Leakage over Dependent Attributes in One-Sided Differential Privacy
在许多现实应用中，提供可证明的隐私保证，同时保持数据的实用性是一项具有挑战性的任务。最近，引入了一种称为单边差分隐私（OSDP）的新框架，其扩展了现有的差分隐私方法。OSDP通过利用并非所有记录都是敏感的这一事实来提高数据的实用性。然而，先前的工作假设所有记录在统计上彼此独立。本文以楼宇管理系统中的占用数据为背景，扩展了现有的单边差分隐私框架。在本文中，我们量化的整体隐私泄漏时，对手的记录之间的依赖信息。此外，我们展示了如何构建一个优化问题，有效地权衡效用和隐私。
2021-12-17 cs.CR cs.IT math.IT
On the Information Leakage in Private Information Retrieval Systems
我们考虑了私有信息检索（PIR）系统中的信息泄漏问题。信息泄漏可以用单个信息泄漏或总泄漏来衡量。单独消息泄露或简单地单独泄露被定义为用户可以从任何未被请求的单独消息中获取的信息量，而总泄露被定义为用户可以获取的有关所有其他消息的信息量除了被请求的消息之外。在这项工作中，我们的特点之间的权衡最小的下载成本和个人的泄漏，并为总泄漏，分别。提出了新的代码，以实现这些最佳的权衡，这也被证明是最佳的消息大小方面。我们进一步刻画了最小量的共同随机性和总泄漏之间的最佳权衡。此外，我们表明，在个人泄漏，共同的随机性实际上是不必要的，当有两个以上的消息。
2020-03-14 cs.IR cs.IT math.IT
Information Leakage Games: Exploring Information as a Utility Function
UFMG（米纳斯吉拉斯联邦大学）；University of Athens（雅典大学）；CNRS（法国国家科学研究中心）；AIST（日本产业技术综合研究所）；Inria Saclay（法国国家信息与自动化研究所萨克莱分院）；École Polytechnique（巴黎综合理工学院）
安全信息流和隐私领域的一个共同目标是建立有效的防御措施，防止不必要的信息泄漏。为此，必须能够推理潜在的攻击及其与可能的防御的相互作用。在本文中，我们提出了一个博弈论的框架，形式化的信息泄漏的背景下，攻击者和防御者的策略，并提供了一个基础，开发最佳的防御方法。我们的游戏的一个新颖之处是，它们的效用是由信息泄漏，在某些情况下，可能会表现在一个非线性的方式。这导致了与经典博弈论的显著偏离，在经典博弈论中，效用函数与参与者的策略是线性的。因此，本文的一个重要贡献是建立了信息泄漏博弈的基础。我们考虑两种类型的游戏，这取决于考虑泄漏的概念。第一种是QIF博弈，它是为定量信息流（QIF）理论量身定制的。第二种是DP-博弈，对应于差分隐私（DP）。
2022-01-28 cs.AI cs.CR cs.GT
Extremal Mechanisms for Pointwise Maximal Leakage
本文研究逐点最大泄漏（PML）隐私度量与凸效用函数下的隐私-效用权衡，推导了最优权衡的闭式解，并提出计算PML最优机制的线性规划。
2024-08-27 cs.IT eess.SP math.IT
On the Privacy-Utility Trade-off With and Without Direct Access to the Private Data
我们研究了信息理论隐私机制设计问题的两种情况下，私人数据是可观察的或隐藏的。在每种情况下，我们首先考虑有界的互信息作为隐私泄漏的标准，然后我们使用两个不同的每个字母的隐私约束。在第一种情况下，代理观察到与私有数据$X$相关的有用数据$Y$，并且希望向用户公开有用信息。设计了一种隐私机制以生成公开数据$U$，其在满足有界隐私泄露约束的同时最大化关于$Y$的公开信息。在第二种情况下，代理还可以访问私有数据。为此，我们首先通过放松独立性条件来扩展函数表示引理和强函数表示引理，从而允许一定的泄漏找到具有不同隐私泄漏约束的第二种情况的下界。此外，在第一种情况下，考虑到不同的隐私约束的上限和下限。特别是，对于不允许泄漏的情况下，我们的上限和下限改进了以前的边界。此外，考虑有界互信息隐私约束，我们表明，如果$X$和$Y$之间的公共信息和互信息是相等的，那么在第二种情况下，所获得的上界是紧的。最后，研究了具有优先级的私有数据的隐私-效用权衡，其中部分$X$，即，$X_1$比其余部分更私密，即，$X_2$，我们提供了下限和上限。
2022-12-23 cs.IT math.IT
Differential Privacy: on the trade-off between Utility and Information Leakage
差分隐私是数据库社区中非常流行的隐私概念。粗略地说，这个想法是，如果两个相邻数据集给出相同答案的概率之比受e^n约束，则随机化查询机制提供了足够的隐私保护。在信息流领域，存在对控制信息泄漏的类似关注，即限制从可观察量推断秘密信息的可能性。近年来，研究人员提出用Rényi min互信息来量化泄漏，这是一个与贝叶斯风险严格相关的概念。在本文中，我们将展示如何建模的查询系统中的信息理论的渠道，我们比较的概念差分隐私与互信息。我们发现，差分隐私意味着一个界上的互信息（但不是反之亦然）。此外，我们证明了我们的界是紧的。然后，我们考虑随机化机制的效用，它表示随机化答案平均与真实答案的接近程度。我们表明，差分隐私的概念意味着效用上的界限，也紧，我们提出了一种方法，在一定条件下建立一个最佳的随机化机制，即提供最佳效用的机制，同时保证差分隐私。
2011-08-25 cs.CR cs.DB cs.IT
Privacy Under Hard Distortion Constraints
我们研究的问题，数据披露的隐私保证，其中所披露的数据的效用是通过一个\emph{hard distortion}约束确保。与平均失真不同，硬失真提供了保真度的确定性保证。对于隐私度量，我们使用一个可调的信息泄漏度量，即\textit{maximal $α$-leakage}（$α\in[1,\infty]$），并制定隐私效用权衡问题。由此产生的解决方案强调，在硬失真约束下，解决方案的性质对于本地和非本地隐私要求保持不变。更准确地说，我们表明，最佳机制和最佳权衡是不变的任何$α>1$ ;即，可调泄漏测量仅表现为两个极值中的任一个，即，$α=1$的互信息和$α=\infty$的最大泄漏。
2018-05-31 cs.IT math.IT
A Practical Approach to Navigating the Tradeoff Between Privacy and Precise Utility
由于最近在线社交网络的流行，加上人们倾向于披露个人信息，以努力实现一定的满足感，导航隐私和效用之间的权衡问题吸引了很多最近的兴趣，并产生了丰富的研究。解决问题的一个关键先决条件是在问题表述中适当地捕捉隐私和效用方面。现有的研究大多集中在隐私的概念上，而效用损失通常被视为隐私机制引入的对真实数据的不期望但必要的扭曲。相比之下，我们感兴趣的是不同的建模效用，通过将其与用户的特定属性相关联，就像隐私与文献中的特定私人属性相关联一样。我们的效用模型有助于更好和更精确的隐私机制，并实现更好的隐私效用权衡。我们进一步纳入到我们的问题制定一个实际的约束条件，可接受的损失，在公用事业的每单位收益的隐私，它允许用户自定义的隐私机制，以占相对值，每个用户关联到自己的隐私和实用程序。本文讨论了我们的效用模型的复杂性和相应的隐私效用权衡，并介绍了一个启发式的贪心算法来解决这个问题。
2020-03-10 cs.IT math.IT
Data Privacy and Utility Trade-Off Based on Mutual Information Neural Estimator
在大数据和物联网（IoT）时代，数据所有者需要在不安全的环境中与预期接收者共享大量数据，这就提出了用户隐私和数据效用之间的权衡问题。通过基于互信息的隐私漏斗来促进隐私效用权衡。然而，在样本量小或分布函数未知的情况下，准确地表征互信息是具有挑战性的。在这篇文章中，我们提出了一个隐私漏斗的基础上互信息神经估计器（MINE），以优化隐私效用权衡估计互信息。与传统的计算互信息的方法不同，我们使用MINE来估计它，MINE以训练的方式获得估计的互信息，确保估计结果尽可能精确。我们采用估计的互信息作为隐私和效用的度量，然后形成一个问题，通过训练一个神经网络，而估计的隐私话语小于一个阈值，以优化数据效用。仿真结果还表明，从MINE估计的互信息工作得很好，近似的互信息，即使在有限数量的样本，量化隐私泄漏和数据效用保留，以及优化隐私效用权衡。
2021-12-17 cs.IT math.IT
Maximal Information Leakage based Privacy Preserving Data Disclosure Mechanisms
通常需要向公共领域公开训练数据，同时保护某些敏感标签的隐私。我们使用信息理论的措施来开发这样的隐私保护数据披露机制。我们的机制涉及扰动的方式，在隐私效用权衡的平衡的数据向量。我们使用输出数据向量和机密标签之间的最大信息泄漏作为我们的隐私度量。我们首先研究了理论上的Bernoulli-Gaussian模型，并研究了只有高斯分布的平均值可以被扰动时的隐私效用权衡。我们表明，最佳的解决方案是相同的情况下，当使用错误的概率在对手的效用进行测量。然后，我们考虑将该框架应用于数据驱动的环境，并提供对Sibson互信息的经验近似。通过对MNIST和FERG数据集进行实验，我们表明，我们提出的框架实现了相当于或更好的隐私比以前的方法的基础上互信息。
2019-04-04 cs.CR cs.IT math.IT
Secure Distributed Storage: Optimal Trade-Off Between Storage Rate and Privacy Leakage
针对分布式存储中数据可恢复性与隐私泄露的权衡问题，本文推导了存储大小与隐私水平间的基本权衡及编码器局部随机性的最优量，并给出了斜坡秘密共享方案份额大小的最优下界。
2024-03-15 cs.CR cs.IT math.IT
Statistic Maximal Leakage
本文提出统计最大泄漏这一隐私度量（最大泄漏的扩展，保护单个已知秘密），证明其满足组合性和后处理性质，给出确定性机制下的高效计算方法，分析量化机制和随机响应，发现前者隐私-效用权衡更优。
2024-11-27 cs.IT math.IT
Privacy-Utility Trade-Off
在本文中，我们研究的隐私效用权衡（PUT）问题，它考虑了最小的隐私损失在一个固定的费用效用。研究了PUT问题中的几种不同的隐私，包括差分隐私、近似差分隐私、最大信息、最大泄漏、Renyi差分隐私、Sibson互信息和互信息。平均汉明距离被用来衡量隐私机制所造成的失真。我们考虑两种情况：全球隐私和本地隐私。在全局隐私框架下，隐私失真函数的上界为特定机制的隐私损失，下界为任意可能先验输入分布下的最优隐私损失。在局部隐私的框架下，我们推广了一个着色方法的PUT问题。
2022-04-26 cs.IT math.IT
The Right to Be Forgotten under Correlation: Privacy-Utility Tradeoffs
Technical University of Munich（慕尼黑工业大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Rutgers University（罗格斯大学）
该研究针对关联数据集的隐私保护算法，分析局部机制与二元马尔可夫关联下隐私-效用的最优权衡，将机制设计分解为序列局部问题，最优机制为有限时域确定性马尔可夫决策过程的解。
2026-10-14 cs.CR cs.IT math.IT
Utility-Privacy Tradeoff in Databases: An Information-theoretic Approach
确保电子数据源的有用性，同时提供必要的隐私保障，是一个尚未解决的重要问题。这个问题驱动了对分析框架的需求，该分析框架可以量化个人身份信息的安全性（隐私），同时仍然为多个合法的信息消费者提供可量化的利益（效用）。本文提出了一个信息理论框架，承诺一个分析模型，保证有多少效用是可能的一个给定的隐私水平，反之亦然的紧边界。具体贡献包括：i）用于分类和数值数据的随机数据模型; ii）效用-隐私折衷区域和针对这两种类别及其实际相关性实现它们的编码（sanization）方案;以及iii）在用户和/或数据源处的先验知识的建模以及针对这两种情况的最佳编码方案。
2013-01-21 cs.IT math.IT
Unified Expression of Utility-Privacy Trade-off in Privacy-Constrained Source Coding
隐私受限的信源编码问题近来变得越来越重要，并且已经针对各种系统研究了效用-隐私权衡。Yamamoto（1983）在两种情况下发现了编码率、隐私和效用的理论极限：（i）公共和私人信息都被编码;（ii）只有公共信息被编码。然而，在更一般的情况下，理论上的限制还没有得到表征;（三）编码的消息包括公共信息和私人信息的一部分。然后在本文中，我们使用率失真理论来描述情况（iii）中的权衡关系。所得到的可达域的表达式是一个“统一表达式”，因为它包括情况（i）和（ii）中的特殊情况。数值结果还表明，情况（i）和（ii）都不是最好的情况下，它是重要的是要选择适当的编码信息的情况（iii）。
2022-05-09 cs.IT math.IT
Privacy Against Brute-Force Inference Attacks
隐私保护数据发布是关于披露有用数据的信息，同时保留敏感数据的隐私。假设敏感数据受到暴力攻击者的威胁，我们将猜测泄漏定义为一种隐私度量，基于猜测的概念。在研究了该测度的性质后，我们通过一个线性规划，以任意$f$-信息作为效用测度，得到了最优效用-隐私权衡，并证明了最优效用是隐私泄露预算的凹分段线性函数.
2019-02-01 cs.CR cs.IT math.IT
The Capacity of Single-Server Weakly-Private Information Retrieval
私有信息检索（PIR）协议保证用户可以私有地检索存储在数据库中的文件，而不会泄露关于所请求文件的身份的任何信息。现有的信息理论PIR协议确保完美的隐私，即，零信息泄漏到存储数据库的服务器，但代价是高下载。在这项工作中，我们提出了弱私人信息检索（WPIR）计划，权衡完美的隐私，以提高下载成本时，数据库存储在一个单一的服务器上。我们研究了下载成本和信息泄漏的互信息（MI）和最大泄漏（MaxL）隐私度量之间的权衡。通过将WPIR问题与率失真理论相关联，引入了下载泄漏函数，该函数被定义为对于给定的信息泄漏水平和固定的文件大小，所有单服务器WPIR方案所需的最小下载成本。通过表征MI和MaxL度量的下载泄漏函数，充分描述了单服务器WPIR的容量。
2021-01-30 cs.IT math.IT
Privacy-Utility Tradeoff in a Guessing Framework Inspired by Index Coding
本文研究了隐私和实用性的权衡在一个单一的试验多终端猜测（估计）框架使用的系统模型，启发索引编码。在数据管理者处存在$n$独立的离散源。有$m$合法用户和一个对手，每个对手都有一些关于源的辅助信息。数据管理者向合法用户广播源的扭曲函数，这也被对手偷听到。在效用方面，每个合法用户希望完美地重建一些未知源，并在剩余未知源的估计正确性方面获得一定的增益。在隐私方面，数据管理者希望最大限度地减少最大泄漏：在接收到广播数据后，对手在估计其未知源的任何目标函数时的最坏情况猜测增益。给定的系统设置，我们得到基本的性能下限的最大泄漏的对手，这是由混淆图的概念和性能界限的索引编码问题的启发。我们还详细介绍了一个贪婪的隐私增强机制，它的灵感来自凝聚聚类算法的信息瓶颈和隐私漏斗问题。
2020-06-18 cs.IT math.IT
Rethinking Disclosure Prevention with Pointwise Maximal Leakage
该研究基于逐点最大泄露（PML）重构披露预防，提出按秘密特征熵区分披露与隐藏的效用—隐私框架，证明可提供独立于敌手先验的推断隐私保证，并兼容差分隐私、支持灵活机制设计。
2024-10-25 cs.CR cs.IT math.IT
Privacy-Utility Tradeoff Based on $α$-lift
针对以$\alpha$-lift为隐私度量、互信息为效用度量的隐私-效用权衡优化难题，结合$\alpha=\infty$最优解与$\alpha$-lift凸性提出启发式估计算法，数值实验验证了算法有效性并给出性能良好的参数范围。
2024-06-21 cs.IT math.IT
Privacy-Utility Tradeoffs under Constrained Data Release Mechanisms
隐私保护数据发布机制旨在同时最小化敏感数据的信息泄漏和有用数据的失真。敏感数据和有用数据之间的重复性导致了隐私-效用权衡，这与广义率失真问题有很强的联系。在这项工作中，我们研究了最佳的隐私效用权衡区域是如何影响的数据，直接作为输入的释放机制的约束。特别是，我们只考虑敏感数据的可用性，只考虑有用数据的可用性，以及两者（完整数据）。我们表明，一般的层次结构举行：权衡区域只敏感的数据是不大于该区域只提供有用的数据，这反过来又是显然不大于该区域的敏感和有用的数据。此外，我们确定的条件下，只给出有用的数据与给定的全部数据相吻合的权衡区域。这些都是基于敏感数据和有用数据之间的共同信息。我们建立这些结果一般家庭的隐私和实用措施，满足某些自然属性所需的任何合理的措施的隐私或实用。我们还发现了一个新的，微妙的方面的数据处理不平等的一般非对称隐私措施，并讨论其操作的相关性和影响。最后，我们推导出精确的封闭解析形式表达式的隐私效用权衡对称依赖的敏感和有用的数据下互信息和汉明失真作为各自的隐私和效用的措施。
2017-10-25 cs.CR cs.IT math.IT
Between Close Enough to Reveal and Far Enough to Protect: a New Privacy Region for Correlated Data
针对相关数据共享导致隐私泄露的问题，提出与数据相关的局部删改机制，利用数据相关泄露度量提升效用，优于与数据无关机制。
2025-06-20 cs.IT math.IT
Channel Leakage, Information-Theoretic Limitations of Obfuscation, and Optimal Privacy Mask Design for Streaming Data
New York University（纽约大学）
在本文中，我们首先引入了信道泄漏的概念，作为信道输入和信道输出之间的最小互信息。正如其名称所示，信道泄漏量化了对恶意接收器的最小信息泄漏。从广义上讲，它可以被看作是信道容量的双重概念，它表征了到目标接收机的最大信息传输。我们得到明确的公式的信道泄漏的情况下，白色高斯，有色高斯的情况下，和衰落的情况下。然后，我们利用这一概念调查的基本限制混淆的隐私失真权衡（以及隐私权权衡）的流数据，特别是，我们推导出分析权衡方程的固定的情况下，非固定的情况下，和有限时间的情况下。我们的研究结果还明确指出，如何设计的隐私面具在一个最佳的方式。
2020-09-29 cs.CR cs.IT cs.LG
Arbitrarily Strong Utility-Privacy Tradeoff in Multi-Agent Systems
网络中的每个代理都进行与一组公共和私有参数线性相关的局部观察。代理将其观察结果发送到融合中心，以允许其估计公共参数。为了防止私有参数的泄漏，每个代理首先使用本地隐私机制对其本地观察进行消毒，然后将其发送到融合中心。我们调查的公共和私人参数估计的Cramér-Rao下界方面的效用隐私权衡。我们研究了一类由线性压缩和噪声扰动给出的隐私机制，并推导出在多智能体系统中实现任意强效用-隐私权衡的充要条件，分别适用于先验信息可用和不可用的情况。我们还提供了一种方法来找到最大的估计隐私可实现的效用不妥协，并提出了一个交替的算法来优化的情况下，任意强的效用隐私权衡是无法实现的效用隐私权衡。
2020-08-11 cs.IT cs.SY eess.SY
Privacy-Utility Tradeoff for Hypothesis Testing Over A Noisy Channel
我们研究了在噪声信道中具有隐私约束的假设检验问题，并推导了在Neyman-Pearson准则下的最优检验性能。感兴趣的基本限制是隐私效用权衡（PUT）之间的指数的类型II错误概率和泄漏的信息源受到恒定的约束类型I错误概率。我们提供了一个精确的表征的渐近放置任何非零I型错误概率。我们的结果意味着容忍较大的I类错误概率不能提高PUT。这样的结果被称为强逆定理或强不可能定理。为了证明强逆定理，我们应用了最近在（Tyagi和Watanabe，2020）中提出的技术，并进一步证明了它的通用性。几个问题的强逆定理，如假设检验对噪声信道的独立性（Sreekumar和Gündüz，2020）和假设检验与通信和隐私约束（Gilani \emph{et al.}，2020），建立或恢复为我们的结果的特殊情况。
2021-05-27 cs.IT math.IT
Measuring Information Leakage in Non-stochastic Brute-Force Guessing
本文提出了一种非随机信息泄漏的操作措施，以形式化的隐私对暴力猜测对手。这些信息是由不确定变量的非概率不确定性来度量的，这些不确定变量是随机变量的非随机对应物。对于与已发布数据$Y$相关的$X$，非随机蛮力泄漏通过由对手穷尽地检查$X$的私有属性$U$的所有可能性的复杂度来测量。复杂度是指成功猜测$U$的试验次数。在所有可能的私有属性$U$上最大化该泄漏产生最大（即，最坏情况）非随机蛮力猜测泄漏。这被证明是完全由给定$Y$的$X$的最小非随机不确定性确定的，这也确定了最坏情况的属性$U$，如果$Y$被公开，则该属性指示最高的隐私风险。最大的非随机蛮力猜测泄漏被证明是成比例的非随机可识别性的$X$给定$Y$和上界现有的最大极小信息。后者量化了当对手必须通过$Y$一次性完全猜测$U$时的信息泄漏。实验被用来证明最大非随机蛮力猜测泄漏和数据效用（测量的最大量化误差）之间的权衡，并说明最大最小信息和随机一次性最大泄漏之间的关系。
2021-07-02 cs.IT math.IT
The Hidden Cost of Correlation: Rethinking Privacy Leakage in Local Differential Privacy
本文系统分析本地差分隐私中相关性引发的隐私泄露，揭示现有假设的不足，并提出首个面向一般近似LDP机制的CPL量化算法框架及新基准，以优化真实数据治理中的隐私-效用权衡。
2025-08-18 cs.CR cs.IT math.IT
Notes on Information-Theoretic Privacy
我们研究隐私和效用之间的权衡的情况下，隐私和效用的互信息来衡量。对于二进制的情况下，我们充分刻画了这种权衡的情况下，完美的隐私，也给了一个上限的情况下，一些隐私泄漏是允许的。然后，我们引入了一个新的量，它量化了可观察数据中包含的私人信息的量，然后将其连接到隐私和效用之间的最佳权衡。
2015-10-08 cs.IT math.IT
Information-Theoretic Privacy with General Distortion Constraints
School of Electrical, Computer, and Energy Engineering, Arizona State University（亚利桑那州立大学电气、计算机与能源工程学院）
本文研究了隐私与效用的权衡问题，通过最小化隐私泄露度来确定最优隐私机制，并分析了不同失真约束下的渐近最优泄露率。
2026-05-10 cs.IT math.IT
Multi-User Privacy Mechanism Design with Non-zero Leakage
从信息论的角度研究了隐私机制设计问题。在这项工作中，一个代理观察有用的数据$Y=(Y_1,...,Y_N)$是相关的私人数据$X=(X_1,...,X_N)$被认为是也可由代理访问。这里，我们考虑$K$用户，其中用户$i$需要$Y$的子向量，由$C_{i}$表示。工程师希望向用户$i$公开$C_{i}$。由于$C_{i}$与$X$相关，因此不能直接公开。隐私机制被设计为生成公开的数据$U$，其最大化用户效用的线性组合，同时在互信息方面满足有界隐私约束。在类似的工作中，它已被假定为$X_i$是$Y_i$的确定性函数，但在这项工作中，我们让$X_i$和$Y_i$是任意相关的。首先，通过一个特殊的变换，利用函数表示引理和强函数表示引理得到了隐私-效用权衡的上界，然后证明了该上界可以分解为$N$并行问题.其次，利用函数表示引理和强函数表示引理推导了隐私-效用权衡的下界。上界在常数内是紧的，下界断言所披露的数据是独立的所有$\{X_j\}_{i=1}^N$，除了我们分配给它的最大允许泄漏。最后，在特殊情况下，所获得的界限进行了研究。
2022-11-28 cs.IT math.IT
An Algorithm for Enhancing Privacy-Utility Tradeoff in the Privacy Funnel and Other Lift-based Measures
针对隐私漏斗这一非凸隐私-效用权衡优化难题，提出比提升度宽松、比互信息严格且可高效求解的隐私度量，结合启发式算法，在相同隐私预算下提升效用，并拓展至其他基于提升度的度量，经数值与理论验证有效。
2024-08-19 cs.IT math.IT
Utility and Privacy of Data Sources: Can Shannon Help Conceal and Reveal Information?
私有信息从无数大型集中式可搜索数据存储库中“泄漏”（无意中或通过恶意设计）的问题推动了对分析框架的需求，该分析框架明确量化私有数据的安全程度（隐私），同时仍为多个合法信息消费者提供有用的利益（实用程序）。率失真理论被证明是开发这样的框架的自然选择，该框架包括以下内容：数据源的建模，开发独立于应用的效用和隐私度量，量化效用-隐私权衡而不管数据源的类型或提供隐私的方法，开发用于处理外部知识问题的边信息模型，研究了多查询数据源的连续泄露问题。
2010-02-06 cs.IT math.IT
Asymmetric Local Information Privacy and the Watchdog Mechanism
本文提出了一种新的看门狗私有化方案，通过推广本地信息隐私（LIP），以提高数据的效用。为了保护与某些有用数据$X$相关的敏感特征$S$，LIP限制了访问$X$前后$S$上的提升、后验信念与先验信念的比值。对于每个$x$，敏感特征的最大和最小提升都是发布此符号的隐私风险的度量，出于保护隐私的目的，应加以限制。以前的作品强制执行相同的限制最大升降机和最小升降机。然而，经验观察表明，最小升力通常比最大升力小得多。在这项工作中，我们推广了LIP定义，以考虑最大和最小升力的不相等值，即，考虑最大提升和最小提升的不同界限。这个新的定义被应用于看门狗隐私机制。我们证明了在局部差分隐私上的给定隐私约束下，效用得到了增强。与此同时，由此产生的最大升力较低，因此严格限制了其他隐私泄露，例如，互信息、最大泄漏和$α$ -泄漏。
2022-05-29 cs.IT math.IT
Bottlenecks CLUB: Unifying Information-Theoretic Trade-offs Among Complexity, Leakage, and Utility
University of Geneva（日内瓦大学）；Harvard University（哈佛大学）；Imperial College London（帝国理工学院）
瓶颈问题是近年来在机器学习和信息论领域受到越来越多关注的一类重要的优化问题。它们被广泛应用于生成模型、公平机器学习算法、隐私保护机制的设计，并作为信息论性能界出现在各种多用户通信问题中。在这项工作中，我们提出了一个一般的优化问题，称为复杂性泄漏效用瓶颈（CLUB）模型，它（i）提供了一个统一的理论框架，概括了大多数最先进的文献中的信息理论隐私模型，（ii）建立了一个新的解释流行的生成和歧视模型，（iii）构建了新的见解生成压缩模型，以及（iv）可以用于公平生成模型。我们首先制定的CLUB模型作为一个复杂性约束的隐私效用优化问题。然后，我们将其与密切相关的瓶颈问题，即信息瓶颈（IB），隐私漏斗（PF），确定性IB（DIB），条件熵瓶颈（CEB）和条件PF（CPF）联系起来。我们表明，俱乐部模型概括了所有这些问题，以及大多数其他信息理论的隐私模型。然后，我们构建了深变分CLUB（DVCLUB）模型，采用神经网络参数化相关的信息量的变分近似。在这些信息量的基础上，我们提出了监督和无监督DVCLUB模型的统一目标。在无监督设置中利用DVCLUB模型，然后将其与最先进的生成模型连接起来，例如变分自动编码器（VAE），生成对抗网络（GANs）以及Wasserstein GAN（WGAN），Wasserstein自动编码器（WAE）和对抗自动编码器（AAE）模型通过最优传输（OT）问题。然后，我…
2022-07-11 cs.CR cs.IT cs.LG
Rate-Privacy-Storage Tradeoff in Federated Learning with Top $r$ Sparsification
我们研究了在联邦学习（FL）中使用顶级$r$稀疏化的速率，隐私和存储之间的权衡，其中FL系统中的用户和服务器仅分别共享FL过程中更新和参数的最重要的$r$和$r'$部分，以降低通信成本。我们提出的计划，保证信息理论的隐私值和索引的稀疏更新发送的用户在一个较大的存储成本为代价。为此，我们推广的计划，以减少存储成本，允许一定量的信息泄漏。因此，我们提供的通信成本，存储成本和信息泄漏之间的一般权衡私人FL与顶部$r$稀疏化，沿着两个建议的计划。
2022-12-19 cs.CR cs.IT cs.NI
Privacy-Utility Trade-Offs Against Limited Adversaries
我们研究的隐私效用权衡，用户与服务提供商分享隐私相关的有用信息，以获得一些实用程序。服务提供商是对抗性的，因为它可以根据共享的有用信息推断用户的隐私信息。为了最大限度地减少隐私泄漏，同时保持所需的效用水平，用户仔细扰动有用的信息，通过概率隐私映射之前sharingit. We专注于设置中的对手试图推断攻击用户的隐私有潜在的偏见的信息之间的统计相关性的私人和有用的变量。在相同的效用要求下，用户和有限对手之间的这种信息不对称导致比全知对手的情况下更好的隐私保证。我们首先确定对对手信息的假设，以便推理成本是明确且有限的。然后，我们描述了信息不对称的影响，并表明它增加了对手的推理成本。我们进一步制定的隐私映射的设计，对有限的对手使用凸函数的差异计划，并通过凹凸过程解决它。当对手的信息是不准确的，我们采用贝叶斯的观点，并表示对手的信息的概率分布。在这种情况下，对手的预期成本不允许一个封闭的形式的表达，我们建立和最大化的预期成本的下限。我们提供了一个关于人口普查数据集的数值例子来说明理论结果。
2021-06-18 cs.IT math.IT math.OC
Privacy Against Statistical Inference
我们提出了一个通用的统计推断框架，以捕捉隐私的威胁所引起的用户发布的数据，一个被动的，但好奇的对手，公用事业的限制。我们表明，应用这个一般框架的设置，对手使用的自我信息成本函数自然会导致一个非渐近信息理论的方法来表征最佳可实现的隐私效用约束。基于这些结果，我们引入了两个隐私度量，即平均信息泄漏和最大信息泄漏。我们证明，在这两个指标下，得到的设计问题，找到最佳的映射从用户的数据到隐私保护输出可以被铸造作为一个修改后的率失真问题，反过来，可以制定为一个凸规划。最后，我们比较了我们的框架与差分隐私。
2012-10-08 cs.CR cs.IT math.IT
Federated Learning with Local Differential Privacy: Trade-offs between Privacy, Utility, and Communication
联邦学习（FL）由于其分散的结构允许私下训练大量的数据。随机梯度下降（SGD）由于其良好的经验性能而通常用于FL，但是仍然可以从FL迭代期间共享的权重更新推断敏感的用户信息。我们考虑高斯机制，以保持局部差分隐私（LDP）的用户数据在FL模型与SGD。用户隐私，全球效用和传输速率之间的权衡证明通过定义适当的指标FL与LDP。与已有的结果相比，LDP中使用的查询敏感度被定义为一个变量，并应用更严格的隐私计费方法。建议的效用界允许所有用户的异构参数。我们的界限特征有多少效用减少和传输速率增加，如果一个更强的隐私制度的目标。此外，给定一个目标隐私级别，我们的研究结果保证一个显着更大的效用和更小的传输速率相比，现有的隐私会计方法。
2021-02-09 cs.CR cs.DC cs.IT
Barycentric and Pairwise Renyi Quantum Leakage
本文提出重心与成对Renyi量子泄漏度量，用于量子系统隐私分析，具有良好性质且可计算，并证明其限制信息泄漏，同时给出量子机器学习中的隐私-效用权衡公式。
2024-02-09 cs.CR cs.IT math.IT
Privacy-Utility Trade-off of Linear Regression under Random Projections and Additive Noise
UCLA（加利福尼亚大学洛杉矶分校）
数据隐私是机器学习中的一个重要问题，并且从根本上与训练有用的学习模型的任务不一致，这通常需要获取大量的私有用户数据。在保护用户隐私的同时完成机器学习任务的一种可能的方法是在数据的变换的噪声版本上训练模型，这不会直接向训练过程揭示数据本身。在这项工作中，我们分析了两个这样的计划的线性回归问题的隐私效用权衡：加性噪声和随机投影。与以前的工作相比，我们考虑了最近提出的差分隐私的概念是基于条件互信息（MI-DP），这是强于传统的$(ε, δ)$ -差分隐私，并使用相对客观误差作为效用度量。我们发现，在添加噪声之前将数据投影到低维子空间通常会获得更好的权衡。我们还建立了隐私问题和（非相干）SIMO之间的联系，SIMO在无线通信中已被广泛研究，并使用工具进行分析。我们提出的数值结果表明该计划的性能。
2019-02-13 cs.CR cs.IT cs.LG
Privacy-Utility Tradeoffs in Quantum Information Processing
Department of Mathematics, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校数学系）
本文研究了量子信息处理中隐私与效用的权衡，提出通过去极化机制优化隐私-效用平衡，并展示了私有学习可观测量期望值所需的样本数与隐私和准确性参数的关系。
2026-02-11 cs.CR cs.IT cs.LG
A Graph Symmetrisation Bound on Channel Information Leakage under Blowfish Privacy
School of Computing and Information Systems, University of Melbourne（墨尔本大学计算与信息系统学院）；Australian Tax Office（澳大利亚税务局）；School of Mathematics and Statistics, University of Melbourne（墨尔本大学数学与统计学院）
Blowfish隐私是差分隐私的最新概括，它可以提高效用，同时保持具有语义保证的隐私策略，这是推动计算机科学中差分隐私流行的一个因素。本文将Blowfish隐私与通信理论界提出的一种度量信息通道隐私损失的重要方法：最小熵泄漏联系起来。输入数据相邻关系中的对称性对于差分隐私和最小熵泄漏之间的已知连接是中心的。但是，虽然差分隐私具有很强的对称性，Blowfish相邻关系对应于任意简单的图形，由于该框架的灵活的隐私政策。要绑定的最小熵泄漏的河豚私人机制，我们组织我们的分析对称分区对应的轨道图自同构群。一个满足我们的渐近相等界的构造证明了紧性。
2021-10-13 cs.CR cs.IT cs.LG
Active Privacy-utility Trade-off Against a Hypothesis Testing Adversary
Imperial College London（帝国理工学院）
我们认为用户释放她的数据包含一些个人信息，以换取服务。我们将用户的个人信息建模为两个相关的随机变量，其中一个被称为秘密变量，是要保持私有，而另一个被称为有用变量，是要公开的效用。我们考虑主动顺序数据发布，其中在每个时间步，用户从有限的一组发布机制中进行选择，每个机制都揭示了关于用户个人信息的一些信息，即，真实的假设，尽管有不同的统计数据。用户以在线方式管理数据发布，使得关于潜在有用变量的最大量的信息被揭示，同时敏感变量的置信度被保持在预定义水平以下。对于效用，我们考虑了有用变量的正确检测概率和有用变量与发布数据之间的互信息（MI）。我们将这两个问题表示为马尔可夫决策过程（MDP），并通过优势行动者-批评者（A2 C）深度强化学习（RL）进行数值求解。
2021-02-18 cs.CR cs.IT cs.LG
