Robust Privacy-Utility Tradeoffs under Differential Privacy and Hamming Distortion
一个隐私效用权衡开发的任意一组有限字母表源分布。隐私量化使用差分隐私(DP),和效用量化使用预期的汉明失真最大化的一组分布。源分布集(源集)的家庭被分为三类,根据他们捕获的先验知识的不同水平。对于其凸包包含均匀分布的源集合,对称DP机制是最佳的。对于概率值具有固定单调排序的源集合,非对称DP机制是最佳的。对于所有其他的源集,一般的最佳隐私泄漏的上限和下限的开发和紧密性的充分必要条件。不同的隐私泄漏是互信息(MI)泄漏的上限:这两个标准进行了比较分析和数值说明采用更强的隐私标准的效果。
2018-08-01 cs.IT math.IT
Information-Theoretic Privacy with General Distortion Constraints
School of Electrical, Computer, and Energy Engineering, Arizona State University(亚利桑那州立大学电气、计算机与能源工程学院)
本文研究了隐私与效用的权衡问题,通过最小化隐私泄露度来确定最优隐私机制,并分析了不同失真约束下的渐近最优泄露率。
2026-05-10 cs.IT math.IT
Secure Computation of Randomized Functions: Further Results
我们考虑两个用户之间的随机化函数的安全计算,其中两个用户(Alice和Bob)都有输入,Alice通过速率受限的无噪声链路向Bob发送消息,然后Bob产生输出。我们研究两个案例:(i)当仅针对Bob需要隐私条件时,Bob试图从消息中了解更多关于Alice的输入而不是通过他自己的输入和输出可以推断的内容,以及(ii)当没有隐私要求时。对于这两个问题,我们给出了最优速率的单字母表达式。对于第一个问题,我们还明确描述了安全可计算的随机函数时,输入有充分的支持,这导致了一个更简单的表达式的最佳速率。最近,Data(ISIT 2016)研究了剩下的两种情况(第一,当隐私条件对两个用户都不利时;第二,当隐私条件只对Alice不利时),并获得了两种情况下最佳费率的单字母表达式。
2017-05-19 cs.IT math.IT
Differential Privacy for Binary Functions via Randomized Graph Colorings
我们提出了一个框架,通过数据集的图形表示为二进制函数设计差分私有(DP)机制。数据集是图中的节点,任何两个相邻的数据集都由边连接。我们想要近似的真二进制函数为数据集分配一个值(或真颜色)。随机DP机制则等同于图的随机着色。我们使用的一个关键概念是图的边界。任何两个相邻的数据集分配不同的真彩色属于边界。在这个框架下,我们发现,固定在边界的机制行为诱导一个唯一的最优机制。此外,如果该机构是有一个均匀的行为在边界上,我们提出了一个封闭的表达式的最佳机构,这是通过一个\emph{pullback}操作的最佳机构的线图。对于平衡机制,不偏向于一个二进制值而不是另一个二进制值,最佳$(ε,δ)$ -DP机制采用特别简单的形式,仅取决于到边界的最小距离、$ε$和$δ$。
2021-02-09 cs.IT math.IT
Rényi Rate-Distortion-Perception-Privacy Tradeoff under Indirect Observation
本文提出R-RDPP框架,研究在间接源编码中率、失真、感知和隐私的权衡,揭示传统隐私度量对合法语义恢复的惩罚,并引入条件隐私度量和改进的可实现界限。
2026-07-27 cs.IT math.IT
Universal Randomized Guessing Subjected to Distortion
在本文中,我们考虑的问题,猜测一个序列的失真约束。具体来说,我们假设Alice和Bob之间的博弈如下:Alice有一个长度为$n$的序列$\bx$。Bob希望猜测$\bx$,然而他满足于找到在来自$\bx$的给定失真$D$内的任何序列$\hat{\bx}$。因此,他连续地向爱丽丝提交查询,直到收到肯定的回答,说明他的猜测在所需的失真范围内。找到最小化猜测次数的猜测策略(\emph{guesswork}),并分析其属性(例如,其$ρ$ -第阶矩)在信息安全、信源和信道编码中具有若干应用。当考虑当代的生物统计安全系统时,受失真约束的猜测特别有用,其中保护数据的“密码”不是单个的固定向量,而是以某个$\bx$为中心的\emph{ball of feature vectors},并且球内的任何特征向量都导致接受。在\emph{four different setups}中,我们正式定义了失真条件下的猜测问题:无记忆信源、通过噪声信道猜测、有记忆信源和单个序列。我们建议一个随机猜测策略,这是渐近最佳的所有设置,是\emph{five--fold universal},因为它是独立的源统计,信道,时刻要优化,失真措施和失真水平。
2021-12-27 cs.CR cs.DC cs.IT
Privacy-Constrained Remote Source Coding
我们认为,通过一个紧凑的表示,以有效和安全的方式揭示/共享数据的问题。该表示应确保所需特征/属性的可靠重建,同时仍保留数据的秘密部分的隐私。该问题被制定为一个远程有损信源编码与隐私约束的远程源包括公共和秘密部分。给出了压缩率、失真和隐私泄漏率的最佳折衷区域的内界和外界,并在某些特殊情况下证明了它们是一致的。当将失真度量专门化为对数损失函数时,对于相同边信息的情况,所得到的速率-失真-泄漏折衷形成了对应于所谓的信息瓶颈的“安全”版本的优化问题。
2016-05-06 cs.IT math.IT
Outer Bounds on the CEO Problem with Privacy Constraints
本文研究带隐私约束和被动窃听者的CEO问题的率-失真-泄露区域,提出新引理推导通用失真下的外界,并针对对数损失失真的不同场景给出紧界或外界,失真较大时内外界重合。
2025-01-19 cs.CR cs.IT math.IT
Interactive Secure Function Computation
我们考虑两个用户之间的随机化函数的交互式计算与以下隐私要求:交互不应该透露给任何一个用户任何额外的信息,其他用户的输入和输出以外,可以推断出从用户自己的输入和输出。我们还考虑的情况下,需要对只有一个用户的隐私。对于这两种情况,我们给出了单字母表达式的可行性和最佳通信速率。然后,我们讨论的作用,共同的随机性和相互作用的隐私设置。我们还研究了完全安全的非交互式计算时,只有一个用户计算一个随机函数的基础上,从其他用户的单一传输。我们的随机函数,可以完全安全地计算在这个模型中,并获得严格的界限上的最佳消息长度在所有的隐私设置。
2020-03-09 cs.IT math.IT
Lossy Source Coding with Reconstruction Privacy
我们考虑的问题,有损信源编码与边信息的隐私约束下,在解码器的重建序列应保持一定程度的秘密,从另一个终端,如窃听者,发送者,或帮助。我们感兴趣的是在一个特定的终端重建隐私约束如何影响率失真权衡。在这项工作中,我们允许解码器使用随机映射,并给出内部和外部边界的率失真模糊区域的不同情况下,边信息是非因果关系和因果关系在解码器。在每个重构符号仅依赖于源描述和当前边信息符号的特殊情况下,提供了完整的率失真模糊区域。一个二进制的例子说明了一个新的权衡,由于新的隐私约束,并从使用随机解码器的增益。
2014-06-24 cs.IT math.IT
Low Influence, Utility, and Independence in Differential Privacy: A Curious Case of $3 \choose 2$
我们研究了随机化低影响函数和差分私有机制之间的关系。我们的主要目的是正式确定是否差异私人机制是低影响力,以及是否低影响力的随机功能可以差异私人。我们表明,差分隐私并不一定意味着低影响力在正式意义上。然而,低影响意味着近似的差分隐私。这些结果适用于独立和非独立的随机机制,其中前者的一个重要实例是广泛使用的加性噪声技术在差分隐私文献。我们的研究还揭示了有趣的动态之间的效用,低影响力和独立性的差异私人机制。正如本文的名称所示,我们表明,任何两个这样的功能是同时可能的。然而,为了有一个差异私人机制,既有效用和低的影响力,即使在一个非常温和的效用条件下,一个必须采用非独立的机制。
2021-02-07 cs.CR cs.IT math.IT
Privacy-guaranteed Two-Agent Interactions Using Information-Theoretic Mechanisms
本文介绍了一个多轮的互动问题与隐私的两个代理之间的约束,观察相关的数据。代理交替地彼此共享数据总共K轮,使得每个代理在K/2轮上发起共享。交互被建模为K个随机机制(映射)的集合,每轮一个。我们的目标是共同设计的K个私人机制,以确定所有可实现的失真泄漏对在每个代理。论证了基于互信息的泄漏度量可以适用于流数据设置,本文:(i)确定所有可实现的失真泄漏元组的集合:(ii)表明K机制允许在K轮上精确地组成总隐私预算而没有损失;和(ii)开发条件下的相互作用减少净泄漏在两个代理商和说明它为一个特定类别的源。然后,本文重点讨论了对数损失失真,以更好地理解使用学习理论中常用的效用度量对泄漏的影响。由此产生的相互作用问题导致一个非凸的总和泄漏失真优化问题,可以被看作是一个互动版本的信息瓶颈问题。一个新的合并和搜索算法,扩展了经典的凝聚信息瓶颈算法的互动设置,以确定一个可证明的局部最优解。最后,对数损失下的相互作用的好处说明了特定的源类和最优性的一杆证明高斯源下均方和对数损失失真的约束。
2016-10-03 cs.IT math.IT
Randomized Nested Polar Subcode Constructions for Privacy, Secrecy, and Storage
我们考虑极化子码(PSC),其是具有动态冻结符号的极化码(PC),以与对应的PC相比增加最小距离。提出了一种随机嵌套PSC结构,它由一个低速率PSC和一个高速率PC组成,可用于列表和顺序连续消除解码器。该代码构造旨在利用边信息执行有损压缩。嵌套PSC被用于具有物理标识符的密钥协商问题。与具有相同列表大小的嵌套PC相比,在秘密密钥与存储速率比率方面的增益被示出以表明嵌套PSC在嵌套PC上显着改善。嵌套的PSC的性能提高较大的列表大小,这是不是嵌套PC的情况下考虑。
2020-07-29 cs.CR cs.IT cs.MM
Minimax Binary Counting under Shuffle Privacy: Poisson Limits and Randomized-Response Optimality
本文研究了洗牌隐私的非高斯极限,通过泊松、斯凯拉姆和复合泊松模型,揭示了局部随机器集中度对隐私保护的影响。
2026-10-15 cs.IT math.IT math.PR
Randomized Distributed Function Computation (RDFC): Ultra-Efficient Semantic Communication Applications to Privacy
Technische Universität Dortmund(多特蒙德工业大学);Linköping University(林雪平大学)
RDFC通过随机化方法实现隐私保护的高效语义通信,其在无共享随机性时仍优于无损传输,且在有限块长下隐私性能显著提升。
2026-03-10 cs.CR cs.DC cs.IT
Tunable Measures for Information Leakage and Applications to Privacy-Utility Tradeoffs
我们引入了一个可调的信息泄漏措施,称为最大α泄漏。该度量量化了对手从数据的发布中推断数据集的任何(潜在随机)函数的最大收益。对手的推理能力,反过来,量化的一类对抗损失函数,我们引入$α$ -损失,$α\in[1,\infty]$。$α$的选择决定了具体的对抗行动,范围从细化$α=1$的信念(关于数据的任何函数)到猜测$α=\infty$的最可能值,同时细化介于两者之间的$α$的信念的$α^{th}$矩。最大α泄漏然后量化在数据的所有可能函数上的$α$损失下的对抗增益。特别地,对于$α=1$和$α=\infty$的极值,最大α泄漏分别简化为互信息和最大泄漏。对于$α\in(1,\infty)$,该测量被示出为阶为$α$的Arimoto信道容量。我们表明,最大的α-泄漏满足数据处理不等式和次加性属性,从而允许一个弱的组合物的结果。在这些属性的基础上,我们使用最大α泄漏作为隐私措施和研究的问题,数据发布的隐私保证,其中发布的数据的效用是通过一个硬失真约束确保。与平均失真不同,硬失真提供了保真度的确定性保证。我们表明,在硬失真约束下,对于$α>1$的最佳机制是独立的$α$,因此,得到的最佳折衷是相同的所有值的$α>1$。最后,最大阿尔法泄漏作为隐私措施的可调性也说明了平均汉明失真作为实用措施的二进制数据。
2019-08-19 cs.IT math.IT
Secure Rate-Distortion-Perception: A Randomized Distributed Function Computation Approach for Realism
Security Laboratory (ITSL), Link \"o ping University, Sweden
本文研究了在噪声less和广播信道中实现安全的速率-失真-感知贸易平衡,证明了在有共同随机性时分离信源-信道编码的最优性,并展示了共同随机性可显著降低安全速率-失真设置下的通信速率。
2026-04-22 cs.CR cs.CV cs.IT
Robust Machine Learning via Privacy/Rate-Distortion Theory
Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Tufts University(塔夫茨大学);Arizona State University(亚利桑那州立大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
强大的机器学习公式已经出现,以解决深度神经网络对对抗性示例的普遍脆弱性。我们的工作绘制了最优鲁棒学习和隐私效用权衡问题之间的联系,这是率失真问题的推广。通过求解最大条件熵问题,可以找到鲁棒分类器和对抗性扰动之间博弈的鞍点。这种信息理论的观点揭示了鲁棒性和干净的数据性能之间的基本权衡,这最终源于底层数据分布和扰动约束的几何结构。
2021-05-18 cs.CR cs.GT cs.IT
Successive Refinement of Privacy
University of California, Los Angeles(加州大学洛杉矶分校);University of California, San Diego(加州大学圣地亚哥分校)
这项工作探讨了一个新的问题:有多少随机性需要实现本地差分隐私(LDP)?一个激励场景是使用\emph{same}(随机化)输出向多个分析师提供{ \em多个隐私级别},用于分布或用于重量级人物估计。我们将此设置称为\emph{successive refinement of privacy},因为它提供了对具有不同隐私级别的原始数据的分层访问。例如,相同的随机化输出可以使一个分析师能够重建输入,而另一个分析师只能估计服从LDP要求的分布。这将经典的Shannon(窃听)安全设置扩展到本地差分隐私。我们提供(顺序)紧特性的隐私效用随机性权衡分布估计,包括随机性约束下的标准LDP设置在几种情况下。我们还提供了一个非平凡的多层次隐私的隐私机制。此外,我们表明,随着时间的推移,我们不能重用随机密钥,同时保护每个用户的隐私。
2020-05-24 cs.CR cs.IT cs.LG
Local Differential Privacy for Molecular Communication Networks
University of Cambridge(剑桥大学);Koç University(科奇大学)
本文提出了一种基于扩散的分子通信网络中实现局部差分隐私的方法,通过隐私化处理用户测量数据并结合优化编码技术,提升了隐私保护下的数据聚合分析可靠性。
2026-10-28 cs.IT math.IT
The Critical Renyi Order for Sharp Minimax Channel Design
Independent Researcher, Haifa, Israel
本文提出基于锚定仿射似然比定律的几何框架,研究匿名洗牌实验中的隐私保护与低成本设计问题,证明二元随机响应在隐私保护中的最优性及低成本设计的理论保证。
2026-10-27 cs.IT math.IT
Privacy Constrained Information Processing
本文研究的通信场景中,发射机和接收机有不同的目标,由于隐私问题,在索贝尔和克劳福德的战略信息传输(SIT)模型的变化的背景下。我们首先制定的问题作为一个共同的失真最小化的发射机和接收机受到隐私约束的发射机。我们证明了这个配方的等价性的Stackelberg平衡的SIT问题。假设一个基于熵的隐私措施,二次失真措施和联合高斯变量,我们描述了Stackelberg均衡。接下来,我们考虑渐近最优压缩在发射机固有地提供一定程度的隐私,并研究平衡条件。最后,我们分析了存在的平均功率约束的高斯通信信道的发送器和接收器之间的平衡条件的影响。
2015-10-13 cs.GT cs.IT math.IT
Locally Differentially-Private Randomized Response for Discrete Distribution Learning
Centre Tecnològic de Telecomunicacions de Catalunya (CTTC/CERCA)(加泰罗尼亚电信技术中心(CTTC/CERCA));Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
我们考虑这样一种安排。来自未知有限支持分布$\boldsymbol{p}$的样本$X_1,\dotsc,X_n$通过离散私有化信道(也称为$n$)的$n$拷贝。机制)产生输出$Y_1,\dotsc,Y_n$。信道法则保证了$ε$的局部差分隐私。根据规定的隐私级别$ε$,最佳信道应该被设计为使得基于信道输出$Y_1,\dotsc,Y_n$的源分布的估计尽可能快地收敛到精确值$\boldsymbol{p}$。为此,我们研究了三个分布距离度量:$f$ -发散,均方误差和总变差的收敛到零。我们推导出相应的归一化一阶收敛项(作为$n\to\infty$),其对于给定的目标隐私$ε$表示经验法则因子,通过该经验法则因子,样本大小必须被增大,以便实现与非随机化信道相同的估计精度。我们制定的隐私保真度权衡问题是最小化隐私约束下的一阶项$ε$。我们进一步确定了一个标量,捕捉这种权衡的本质,并证明了这个数量的界限和数据处理不等式。对于隐私-保真度权衡问题的一些特定实例,我们推导出最佳权衡曲线的内外界。
2018-11-29 cs.IT cs.LG math.IT
Privacy-Utility Tradeoffs under Constrained Data Release Mechanisms
隐私保护数据发布机制旨在同时最小化敏感数据的信息泄漏和有用数据的失真。敏感数据和有用数据之间的重复性导致了隐私-效用权衡,这与广义率失真问题有很强的联系。在这项工作中,我们研究了最佳的隐私效用权衡区域是如何影响的数据,直接作为输入的释放机制的约束。特别是,我们只考虑敏感数据的可用性,只考虑有用数据的可用性,以及两者(完整数据)。我们表明,一般的层次结构举行:权衡区域只敏感的数据是不大于该区域只提供有用的数据,这反过来又是显然不大于该区域的敏感和有用的数据。此外,我们确定的条件下,只给出有用的数据与给定的全部数据相吻合的权衡区域。这些都是基于敏感数据和有用数据之间的共同信息。我们建立这些结果一般家庭的隐私和实用措施,满足某些自然属性所需的任何合理的措施的隐私或实用。我们还发现了一个新的,微妙的方面的数据处理不平等的一般非对称隐私措施,并讨论其操作的相关性和影响。最后,我们推导出精确的封闭解析形式表达式的隐私效用权衡对称依赖的敏感和有用的数据下互信息和汉明失真作为各自的隐私和效用的措施。
2017-10-25 cs.CR cs.IT math.IT
Privacy-Preserving Wireless Federated Learning Exploiting Inherent Hardware Impairments
我们考虑了一个无线联邦学习系统,其中多个数据持有者边缘设备通过与诚实但好奇的参数服务器共享参数更新来协作训练全局模型。我们证明了固有的硬件引起的失真扰动的边缘设备的模型更新可以被利用作为一种隐私保护机制。特别是,我们的失真模型为功率依赖的加性高斯噪声,并提出了一个功率分配策略,提供隐私保证的框架内的差分隐私。我们进行数值实验,以评估所提出的功率分配方案的性能在不同程度的硬件损伤。
2021-08-29 cs.IT eess.SP math.IT
Function Computation Under Privacy, Secrecy, Distortion, and Communication Constraints
本文针对带噪声测量的远程信源,扩展了带隐私、保密、存储约束的函数计算问题,提出新的泄露度量与失真计算方案,推导了双节点无损/有损计算的速率区域界并简化特殊情形下的结果。
2022-07-29 cs.CR cs.DC cs.IR
Fundamental Limits of Obfuscation for Linear Gaussian Dynamical Systems: An Information-Theoretic Approach
New York University(纽约大学)
在本文中,我们研究的基本限制混淆的隐私失真权衡线性高斯动力系统通过信息论的方法。特别是,我们得到的分析公式,捕捉基本的隐私失真权衡时,隐私掩码被添加到动态系统的输出,同时明确指出如何设计的隐私掩码在一个最佳的方式:隐私掩码应该是彩色高斯与功率谱形状具体基于系统和噪声属性。
2020-10-29 cs.CR cs.IT cs.LG
Differentially Private Community Detection in $h$-uniform Hypergraphs
本文研究了在h-均匀超图中实现差分隐私的社区检测,分析了不同隐私机制的精确恢复阈值及隐私预算的影响。
2025-12-12 cs.IT eess.SP math.IT
Leveraging Prior Knowledge Asymmetries in the Design of Location Privacy-Preserving Mechanisms
移动设备和基于位置的服务(LBS)的普及使得位置隐私保护机制(LPPM)的研究成为必要。然而,LPPM由于它们向用户位置添加的噪声而降低了LBS的效用。在这里,我们考虑重新映射技术,它假设对手有一个完美的统计模型的用户位置。我们认为这一假设,并表明,在实际的假设对手的知识,重新映射技术泄漏隐私不仅关于真实的位置数据,而且关于统计模型。最后,我们介绍了一种新的解决方案,称为“随机重映射”作为对策。
2019-12-04 cs.IT eess.SP math.IT
Generative Adversarial User Privacy in Lossy Single-Server Information Retrieval
Simula UiB(Simula UiB(卑尔根大学Simula研究中心));New Jersey Institute of Technology(新泽西理工学院)
我们建议扩展私人信息检索的概念,允许在检索过程中的失真,并放宽了完美的隐私要求,在同一时间。特别是,我们研究了下载速率,失真和用户隐私泄露之间的权衡,并表明,在大文件大小的限制,这种权衡可以通过一种新的信息理论公式与已知的分布数据集捕获。此外,对于数据集的统计数据未知的情况,我们提出了一个新的深度学习框架,利用生成对抗网络方法,允许用户从数据本身学习有效的方案。我们评估了该计划的性能上的合成高斯数据集以及MNIST,CIFAR-10,和LSUN数据集。对于MNIST,CIFAR-10和LSUN数据集,数据驱动的方法显着优于基于非学习的方案,该方案将信源编码与多个文件的下载相结合。
2022-10-19 cs.IT cs.LG math.IT
Local Differential Privacy Is Equivalent to Contraction of $E_γ$-Divergence
Harvard University(哈佛大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
研究了随机隐私机制的局部差分隐私(LDP)保证.我们首先表明,LDP约束可以等价地投在收缩系数的$E_γ$发散。然后,我们使用这个等价的公式来表示LDP保证的隐私机制的任意$f$ -分歧的收缩系数。当结合标准的估计理论工具(如Le Cam和Fano的逆方法),这一结果使我们能够研究隐私和效用之间的权衡在几个测试和极大极小和贝叶斯估计问题。
2021-02-02 cs.IT cs.LG math.IT
Local Privacy and Minimax Bounds: Sharp Rates for Probability Estimation
我们提供了一个详细的研究估计的概率分布-离散和连续-在一个严格的设置中,数据是保密的,甚至从统计学家。我们给尖锐的极小极大收敛率估计在这些本地私人的设置,隐私和收敛速度之间表现出根本的权衡,以及提供的工具,让运动沿隐私统计效率连续。我们的研究结果的后果之一是,华纳的经典工作随机响应是一个最佳的方式进行调查抽样,同时保持受访者的隐私。
2013-05-26 cs.CR cs.IT math.IT