Perfect Subset Privacy in Polynomial Computation via Reed-Muller Information Super-sets
本文针对编码计算中服务提供商整体不可信的问题,利用完美子集隐私和Reed-Muller译码技术,提出并扩展了在无掉队者及有掉队者系统中实现隐私保护多项式计算的方案。
2024-11-20 cs.IT math.IT
Non-Stochastic Private Function Evaluation
我们认为私人功能评估提供查询响应的基础上的多个不受信任的实体的私人数据的方式,每个人都不能学习一些实质性的新的关于其他人的数据。首先,我们引入完美的非随机隐私的两方场景。完全隐私相当于查询响应的条件无关性和其他个体的私有不确定变量以给定实体的不确定变量为条件。我们表明,完美的隐私可以实现查询的功能,共同的不确定变量,一个推广的共同随机变量。我们计算不采用这种形式的查询的最接近的近似。为了在隐私和实用性之间进行权衡,我们放宽了完美隐私的概念。我们定义几乎完美的隐私,并表明,这个新的定义等同于使用条件的分离,而不是条件无关的完美隐私的定义。然后,我们将定义推广到多方函数评估(两个以上的数据实体)。我们证明了查询响应的均匀量化,其中量化分辨率是查询的隐私预算和敏感性的函数(参见,差分隐私),实现功能评价隐私。
2020-10-20 cs.CR cs.IT math.IT
Almost Perfect Privacy for Additive Gaussian Privacy Filters
我们研究的最大互信息的一个随机变量$Y$(代表非私人信息)显示通过加性高斯信道时,保证只有$ε$位的信息被泄露的随机变量$X$(代表私人信息),与$Y$。用$g_ε(X,Y)$表示这个量,我们表明,对于完美的隐私,即,对于任意一对绝对连续的随机变量$ε=0$,我们得到了$g_0(X,Y)=0$,然后导出了小的$ε$的$g_ε(X,Y)$的二阶近似。这种近似被证明是有关的强数据处理不等式的联合分布$P_{XY}$在适当的条件下的互信息。接下来,出于对数据隐私的操作解释,我们制定了隐私效用权衡在相同的设置使用估计理论的数量,并获得明确的界限$ε$是足够小的时候,这个权衡使用的近似公式推导出$g_ε(X,Y)$。
2016-08-13 cs.CR cs.IT math.IT
Perfect Privacy for Discriminator-Based Byzantine-Resilient Federated Learning
School of Computation, Information and Technology(计算、信息与技术学院)
针对联邦学习的隐私与安全挑战,提出ByITFL和LoByITFL两种方案,结合判别器、拉格朗日编码计算等技术,在保障拜占庭弹性的同时实现信息论级隐私,各有通信成本与部署条件的权衡,并提供理论与实验验证。
2025-06-16 cs.DC cs.IT cs.LG
Information Bottleneck under Perfect Privacy
Laboratoire des Signaux et Systèmes (L2S)(信号与系统实验室(L2S));CNRS(法国国家科学研究中心);CentraleSupélec(中央理工-高等电力学院);Université Paris-Saclay(巴黎萨克雷大学)
该研究针对完美隐私下的信息瓶颈问题,提出基于ADMM的定制化优化方法,在正则性条件下证明其全局收敛性并表征收敛速率,扩展至不精确块更新分析,解决了经典速率-相关性权衡外的隐私约束优化问题。
2026-08-12 cs.IT cs.LG math.IT
Cache-Aided Variable-Length Coding with Perfect Privacy
针对数据库与私有属性相关导致缓存分发泄露信息的问题,提出结合隐私感知压缩与编码缓存的无损可变长度方案,并利用最小熵耦合和贪心熵算法改进已有结果。
2025-06-16 cs.IT math.IT
Answering Count Queries for Genomic Data with Perfect Privacy
本文研究在完美隐私约束下回答基因组数据计数查询的问题,提出了本地和中心两种机制,在实现敏感基因型零信息泄露的同时最小化查询误差,并推导出错误概率下界且机制性能接近该下界。
2023-07-03 cs.CR cs.IT math.IT
Notes on Information-Theoretic Privacy
我们研究隐私和效用之间的权衡的情况下,隐私和效用的互信息来衡量。对于二进制的情况下,我们充分刻画了这种权衡的情况下,完美的隐私,也给了一个上限的情况下,一些隐私泄漏是允许的。然后,我们引入了一个新的量,它量化了可观察数据中包含的私人信息的量,然后将其连接到隐私和效用之间的最佳权衡。
2015-10-08 cs.IT math.IT
Information-Theoretic Privacy in Federated Submodel learning
我们考虑联邦子模型学习中的信息论隐私,其中全局服务器具有多个子模型。与传统联邦子模型学习中采用安全聚合来保证隐私的隐私性相比,信息论隐私性对本地机器的子模型选择提供了更强的保护。我们提出了一个可实现的计划,部分采用传统的私人信息检索(PIR)计划,实现最小的下载量。关于计算和通信开销,我们比较了可实现的计划与一个天真的方法,联邦子模型学习与信息理论的隐私。
2020-08-17 cs.IT math.IT
Information-Theoretic Approaches to Differential Privacy
本教程研究差分隐私和各种信息理论的措施之间的关系,通过使用几个选择性的文章。特别是,我们提出了这些连接可以提供新的解释,在信息理论框架中部署差分隐私的系统中的隐私保证。为此,本教程提供了对现有文献的广泛总结,这些文献利用信息理论的度量和工具,如互信息,最小熵,Kullback-Leibler散度和率失真函数,用于在各种设置中量化和表征差分隐私。
2023-03-28 cs.IT math.IT
Perfectly-Private Analog Secure Aggregation in Federated Learning
Department of Electrical Engineering, Chalmers University of Technology, Sweden(瑞典查尔姆斯理工大学电子工程系);Department of Mathematics and Systems Analysis, Aalto University, Finland(芬兰阿尔托大学数学与系统分析系)
本文提出一种基于环面的联邦学习安全参数聚合方法,利用环面均匀分布实现完美隐私且避免精度损失,实验表明其性能优于有限域方案。
2025-09-17 cs.IT cs.LG math.IT
On the Relationship Between Information-Theoretic Privacy Metrics And Probabilistic Information Privacy
基于$f$ -分歧的信息理论(IT)措施最近获得了兴趣作为隐私泄露的措施,因为它们允许仅使用单值表征来权衡隐私与效用。然而,它们在隐私方面的操作解释并不清楚。在本文中,我们涉及的概率信息隐私(IP)的概念,几个IT隐私度量的基础上$f$分歧。我们解释概率IP下的检测和估计框架,并将其链接到差分隐私,从而允许这些IT隐私指标的精确的操作解释。我们发现,$χ^2$分歧隐私度量是强于那些基于总变异距离和Kullback-Leibler分歧。因此,我们进一步开发了一个基于$χ^2$ -发散隐私度量的数据驱动的经验风险框架,并使用深度神经网络实现。该框架对于对抗攻击模型是不可知的。实证实验证明了我们的方法的有效性。
2023-01-20 cs.IT math.IT
An Information-theoretic Approach to Privacy
确保电子数据源的有用性,同时提供必要的隐私保障,是一个尚未解决的重要问题。这个问题促使我们需要一个总体的分析框架,可以量化个人身份信息(隐私)的安全性,同时仍然提供了一个可量化的好处(效用),多个合法的信息消费者。最先进的方法主要集中在隐私上。本文提出了第一个信息理论的方法,承诺一个分析模型,保证有多少效用是可能的一个给定的隐私水平,反之亦然的紧边界。
2010-10-01 cs.IT math.IT
On Perfect Obfuscation: Local Information Geometry Analysis
我们考虑的问题,隐私保护的数据发布的一个特定的实用程序任务下完美的混淆约束。我们建立的必要和充分条件,以提取功能的原始数据,携带尽可能多的信息的效用属性,而不透露任何信息的敏感属性。这个问题公式概括了信息瓶颈和隐私漏斗问题。我们采用了一个本地信息几何分析,提供了有用的洞察信息耦合和轨道建设的球扰动的概率质量函数。这种分析使我们能够构建的联合分布,发散传递矩阵,和互信息的模态分解。通过将互信息分解为正交模式,在满足完全混淆约束的情况下,得到了关于效用属性的局部充分统计量。在欧氏信息几何中,基于$χ^2$ -散度和Kullback-Leibler散度,提出了完全混淆的概念.
2020-09-09 cs.CR cs.IT math.IT
Efficient Private Storage of Sparse Machine Learning Data
我们考虑的问题,保持稀疏性在私人分布式存储的机密机器学习数据。在许多应用中,例如,在人脸识别中,机器学习算法中使用的数据由可以被有效地存储和处理的稀疏矩阵表示。然而,保持完美的信息理论隐私的机制需要将稀疏矩阵编码成随机稠密矩阵。已经表明,在对存储节点的某些限制下,稀疏性可以以放松完美的信息理论隐私要求为代价来维持,即,允许一些信息泄漏。在这项工作中,我们解除了对存储节点的限制,并表明稀疏性和可实现的隐私保证之间存在权衡。我们专注于设置的非勾结节点,并构建了一个编码方案,编码的稀疏输入矩阵到矩阵所需的稀疏度,同时限制信息泄漏。
2022-06-14 cs.IT math.IT
Privacy-Utility Trade-offs Under Multi-Level Point-Wise Leakage Constraints
KTH(皇家理工学院);UNSW Canberra(新南威尔士大学堪培拉分校)
本文提出了一种在多级点wise泄露约束下最大化隐私与效用权衡的机制设计方法,通过信息几何近似和矩阵奇异值分解实现高效隐私保护。
2026-01-08 cs.IT math.IT
On the Robustness of Information-Theoretic Privacy Measures and Mechanisms
考虑由私有和非私有特性组成的数据集的数据发布设置。出版商使用经验分布,根据$n$ i.i.d.估计。样本,设计一个隐私机制,该机制适用于新的新鲜样本之后。在本文中,我们研究的隐私效用保证的经验分布之间的差异,用于设计隐私机制,和真实的分布,在实践中经历的隐私机制。我们首先表明,对于任何隐私机制,这些差异消失的速度$O(1/\sqrt{n})$与高概率。这些界限遵循我们的主要技术成果的Lipschitz连续性所考虑的信息泄漏措施。然后证明了经验分布下的最优隐私机制随着样本量$n$的增加而逼近真实分布下的相应机制,从而建立了最优隐私机制的统计一致性。最后,我们介绍和研究统一的隐私机制,通过建设,提供隐私的估计分布的邻域内的所有分布,从而保证隐私的真实分布的概率很高。
2020-03-19 cs.IT math.IT
Worst-Case Utility Privacy Mechanism via Pointwise Maximal Leakage
KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出了一种利用新型隐私度量点最大泄露(PML)的离散隐私机制,研究在满足PML隐私保证的同时最大化最坏情况效用的机制设计问题,展示了在输出支持集有额外约束的情况下,具有低计算复杂度的效用安全机制是优化最坏情况效用问题的最优解。
2026-05-19 cs.IT math.IT
Utility-Privacy Tradeoff in Databases: An Information-theoretic Approach
确保电子数据源的有用性,同时提供必要的隐私保障,是一个尚未解决的重要问题。这个问题驱动了对分析框架的需求,该分析框架可以量化个人身份信息的安全性(隐私),同时仍然为多个合法的信息消费者提供可量化的利益(效用)。本文提出了一个信息理论框架,承诺一个分析模型,保证有多少效用是可能的一个给定的隐私水平,反之亦然的紧边界。具体贡献包括:i)用于分类和数值数据的随机数据模型; ii)效用-隐私折衷区域和针对这两种类别及其实际相关性实现它们的编码(sanization)方案;以及iii)在用户和/或数据源处的先验知识的建模以及针对这两种情况的最佳编码方案。
2013-01-21 cs.IT math.IT
Differentially Private Secure Multiplication: Hiding Information in the Rubble of Noise
Georgia Institute of Technology(佐治亚理工学院);Pennsylvania State University(宾夕法尼亚州立大学);University of California, Santa Barbara(加州大学圣巴巴拉分校);Harvard University(哈佛大学)
该研究针对诚实节点占少数的分布式多方乘法场景,融合差分隐私与Shamir秘密共享思路提出分层噪声分布的编码方案,给出了该场景下隐私-准确性权衡的紧致刻画。
2025-01-17 cs.CR cs.DC cs.IT
Information-theoretic metrics for Local Differential Privacy protocols
本地差分隐私(LDP)协议允许聚合器获得关于用户群的敏感数据的人口统计,同时保护各个用户的隐私。为了理解聚合器效用和用户隐私之间的权衡,我们引入了新的信息理论度量效用和隐私。与其他LDP指标相反,这些指标突出了这样一个事实,即用户和聚合器对根本不同的信息域感兴趣。我们展示了我们的指标如何与$\varepsilon$ -LDP,\emph{de facto}标准的隐私度量,给后者的信息理论解释。此外,我们使用我们的指标来定量研究一些流行的协议的隐私效用权衡。
2019-10-17 cs.CR cs.IT math.IT
Differentially Private Secure Multiplication: Beyond Two Multiplicands
School of Electrical and Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院)
本文提出了一种基于编码多项式和分层噪声注入的安全乘法框架,扩展了差分隐私下多乘数乘法的隐私-准确性权衡分析。
2026-03-11 cs.IT math.IT
Pufferfish Privacy: An Information-Theoretic Study
本文提出河豚鱼隐私的信息论表述(MI PP),证明其与常规PP的关系,建立凸性、组合性等性质,推导高斯和拉普拉斯机制的噪声水平,并应用于审计、推断和稳定性。
2023-05-04 cs.IT math.IT
Leveraging Prior Knowledge Asymmetries in the Design of Location Privacy-Preserving Mechanisms
移动设备和基于位置的服务(LBS)的普及使得位置隐私保护机制(LPPM)的研究成为必要。然而,LPPM由于它们向用户位置添加的噪声而降低了LBS的效用。在这里,我们考虑重新映射技术,它假设对手有一个完美的统计模型的用户位置。我们认为这一假设,并表明,在实际的假设对手的知识,重新映射技术泄漏隐私不仅关于真实的位置数据,而且关于统计模型。最后,我们介绍了一种新的解决方案,称为“随机重映射”作为对策。
2019-12-04 cs.IT eess.SP math.IT
On Information Theoretic Fairness: Compressed Representations With Perfect Demographic Parity
本文从信息论视角研究设计具有完美人口统计平价和隐私的表示的基本极限,通过扩展 Functional Representation Lemma 等工具,在约束压缩率或无关信息的条件下最大化任务相关信息,并证明了所得界限的紧致性。
2024-08-23 cs.IT math.IT
Competitive Privacy in the Smart Grid: An Information-theoretic Approach
传感和通信能力的进步以及电力行业放松管制正在推动智能电网中区域输电组织(RTO)级别的分布式状态估计的需求。这导致了RTO之间新的竞争隐私问题,因为在共享数据以确保网络可靠性(对所有RTO的效用/益处)与出于盈利和隐私原因而扣留数据之间存在紧张关系。效用之间的权衡,通过在每个RTO的状态估计的保真度量化,和隐私,通过在其他RTO的一个RTO的状态的泄漏量化,精确地捕获使用两个RTO网络的有损信源编码问题制定。对于两个RTO模型,它表明,所有可行的效用隐私对的集合可以通过一个单一的一轮通信时,每个RTO考虑到在两个RTO的测量数据之间的相关性进行通信。有损信源编码的问题和解决方案,这里也是独立的利益。
2011-08-10 cs.IT math.IT
Weak Private Information Retrieval for Graph-based Storage under $ε$-privacy
本研究针对基于图存储的场景,在ε-隐私度量下研究弱私有信息检索(G-WPIR),调整现有方案分析其性能,建立下载成本下界并推导完全图的速率上界,揭示两类图的速率-隐私权衡关系。
2026-10-15 cs.IT math.IT
An Information-Theoretic Privacy Criterion for Query Forgery in Information Retrieval
在以前的工作中,我们提出了一个新的信息理论隐私准则查询伪造领域的信息检索。我们的标准衡量隐私风险之间的分歧用户和人口的查询分布,并考虑作为一个特定的情况下,用户的分布熵。在这项工作中,我们做出了双重贡献。首先,我们彻底解释和证明我们以前的工作中提出的隐私度量,阐述了著名的熵最大化方法和使用熵和分歧作为隐私的措施之间的密切联系。其次,我们试图弥合隐私和信息理论社区之间的差距,通过大量调整我们原来的工作,以达到更广泛的受众,不熟悉信息论和类型的方法的一些技术。
2011-11-17 cs.CR cs.IT math.IT
Privacy-Utility Tradeoff in a Guessing Framework Inspired by Index Coding
本文研究了隐私和实用性的权衡在一个单一的试验多终端猜测(估计)框架使用的系统模型,启发索引编码。在数据管理者处存在$n$独立的离散源。有$m$合法用户和一个对手,每个对手都有一些关于源的辅助信息。数据管理者向合法用户广播源的扭曲函数,这也被对手偷听到。在效用方面,每个合法用户希望完美地重建一些未知源,并在剩余未知源的估计正确性方面获得一定的增益。在隐私方面,数据管理者希望最大限度地减少最大泄漏:在接收到广播数据后,对手在估计其未知源的任何目标函数时的最坏情况猜测增益。给定的系统设置,我们得到基本的性能下限的最大泄漏的对手,这是由混淆图的概念和性能界限的索引编码问题的启发。我们还详细介绍了一个贪婪的隐私增强机制,它的灵感来自凝聚聚类算法的信息瓶颈和隐私漏斗问题。
2020-06-18 cs.IT math.IT
On Properties and Optimization of Information-theoretic Privacy Watchdog
研究了数据共享中的隐私保护问题,其中$S$是需要保护的敏感变量,$X$是与$S$相关的非敏感有用变量.变量$X$随机分配到变量$Y$中,变量$Y$将根据$p_{Y|X}(y|x)$进行共享或发布。我们通过\emph{information privacy}(在文献中也称为\emph{log-lift})来测量隐私泄露,它保证了互信息隐私和差分隐私(DP)。令$\Xepsc \subseteq \X$包含$X$的字母表中的元素,其中对数提升的绝对值(简称为abs-log-lift)大于期望阈值$\eps$。当元素$x\in \Xepsc$被随机化为$y\in \Y$时,我们推导出跨结果对$(s,y)$的abs-log-lift的最佳上限。然后,我们证明了这个界限是通过\emph{$X$-invariant}随机化$p(y|x) = R(y)$为$x,y\in\Xepsc$。然而,由互信息$I(X;Y)$测量的效用在对abs-log-lift施加严格的上限$\eps$时严重受损。为了弥补这一点,并受到概率($\eps$,$δ$)-DP的启发,我们提出了一个宽松的($\eps$,$δ$)-日志升降机框架。为了实现这一放松,我们引入了一个贪婪的算法,免除随机化$\Xepsc$中的一些元素,只要他们的abs-log-lift是有界的$\eps$概率$1-δ$。数值结果表明,该算法在实现更好的…
2020-10-19 cs.IT math.IT
Unified Expression of Utility-Privacy Trade-off in Privacy-Constrained Source Coding
隐私受限的信源编码问题近来变得越来越重要,并且已经针对各种系统研究了效用-隐私权衡。Yamamoto(1983)在两种情况下发现了编码率、隐私和效用的理论极限:(i)公共和私人信息都被编码;(ii)只有公共信息被编码。然而,在更一般的情况下,理论上的限制还没有得到表征;(三)编码的消息包括公共信息和私人信息的一部分。然后在本文中,我们使用率失真理论来描述情况(iii)中的权衡关系。所得到的可达域的表达式是一个“统一表达式”,因为它包括情况(i)和(ii)中的特殊情况。数值结果还表明,情况(i)和(ii)都不是最好的情况下,它是重要的是要选择适当的编码信息的情况(iii)。
2022-05-09 cs.IT math.IT
Information-Theoretic Privacy for Smart Metering Systems with a Rechargeable Battery
智能计量系统几乎实时地向公用事业提供商报告用户的用电量。这可能会将用户的私人信息泄露给公用事业提供商。在这项工作中,我们调查使用可充电电池,以提供隐私的用户。我们假设用户负载序列是一个一阶马尔可夫过程,电池满足理想的电荷守恒,和隐私使用归一化的互信息(泄漏率)之间的用户负载和电池输出测量。我们认为电池充电政策在这个设置中,满足可行性约束。我们提出了一系列的减少原来的问题,并最终重铸它作为一个马尔可夫决策过程(MDP),可以使用动态程序来解决。在i.i.d.的特殊情况下。的需求,我们明确地描述了最优策略,并表明,相关的泄漏率可以表示为一个单字母的互信息的表达。在这种情况下,我们表明,最佳的收费政策承认一个直观的解释,保持一定的不变性的状态。有趣的是,可以提供一种替代的最优性证明,它不依赖于MDP方法,而是基于纯粹的信息论约简。
2017-09-15 cs.IT math.IT
Coded Caching with Private Demands and Caches
本文研究同时保护用户需求与缓存隐私的编码缓存,提出利用双服务器 PIR 构造私有方案,并反向由 MAN 方案构造阶最优 PIR,还给出放松缓存隐私时的负载阶增益方案。
2023-11-02 cs.IT math.IT
On the Leaky Private Information Retrieval with Side Information
Huawei Singapore Research Center(华为新加坡研究中心);University of Bergen(卑尔根大学)
本文提出了一种统一的概率框架,用于在ε-差分隐私变体下设计具有侧信息的泄露隐私信息检索方案,并推导了下载成本的上界,揭示了泄露隐私与效用之间的权衡。
2026-01-19 cs.IT math.IT
Mechanisms for Hiding Sensitive Genotypes with Information-Theoretic Privacy
Rutgers University(罗格斯大学);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所)
受个人基因组学服务日益可用性的启发,我们研究了共享基因组数据时出现的信息理论隐私问题:用户希望共享他或她的基因组序列,同时将基因型隐藏在某些位置,否则可能会泄露关键的健康相关信息。擦除(掩蔽)所选基因型的直接解决方案不能确保隐私,因为附近位置之间的相关性可能泄露掩蔽的基因型。我们引入了一个基于擦除的隐私机制与完善的信息理论的隐私,从而释放的序列是统计独立的敏感基因型。我们的机制可以被解释为一个局部最优的贪心算法的序列位置的给定的处理顺序,其中的效用是由没有擦除释放的位置的数量来衡量。我们发现,找到一个最佳顺序是NP-困难的一般,并提供了一个上限的最佳效用。对于遗传学中的标准建模方法隐马尔可夫模型中的序列,我们提出了一种有效的算法实现我们的机制,序列长度的复杂性多项式。此外,我们说明了该机制的鲁棒性,从错误的先验分布的隐私泄漏的边界。我们的工作是朝着更严格控制基因组数据共享中的隐私迈出的一步。
2021-10-14 cs.IT cs.LG math.IT
Achieving Dalenius' Goal of Data Privacy with Practical Assumptions
School of Information Engineering and Artificial Intelligence, Lanzhou University of Finance and Economics(兰州财经大学信息工程与人工智能学院);Gansu Province Key Laboratory of Smart Commerce(甘肃省智慧商务重点实验室);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文提出基于信息论的隐私框架,通过有限知识约束实现Dalenius安全,改进效用-隐私权衡并增强抗相关攻击能力。
2025-12-29 cs.CR cs.IT math.IT
On the Information Privacy Model: the Group and Composition Privacy
如何以保护数据集中包含其数据的个人隐私的方式查询数据集是一个重要的问题。信息隐私模型是香农信息理论模型的一种变体,通过控制每个对手从查询输出中获得的个人数据的信息量来保护个人的隐私。该模型还假设每个对手对查询数据集的不确定性不是很小,以提高数据的效用。在本文中,我们证明了该模型的组隐私和组合隐私性质的一些结果,其中组隐私保证了一组个体的隐私被保护,而组合隐私保证了多个查询也保护了一个个体的隐私。我们将这两个性质的证明归结为两个信道容量之差的估计。我们的证明大大受益于一些信息理论的工具和方法。
2019-07-22 cs.CR cs.IT math.IT
Asymmetric Leaky Private Information Retrieval
私人信息检索(PIR)问题的信息理论公式进行了研究,在各种情况下。对称私有信息检索(SPIR)是一种变体,其中用户能够从$N$非共谋复制数据库中私有地检索$K$消息中的一个消息,而无需了解关于其余$K-1$消息的任何信息。然而,完美隐私的目标对于某些应用程序来说可能过于繁重。在本文中,我们调查,如果信息理论容量的SPIR(相当于最小下载成本的倒数)可以通过放宽用户和DB隐私的定义。这种放松在可以用隐私换取通信效率的应用中是相关的。我们介绍并研究了非对称泄漏PIR(AL-PIR)模型,在每个方向上具有不同的隐私泄漏预算。对于用户隐私泄漏,我们绑定的概率比之间的所有可能实现的DB查询的一个非负常数$ε$的函数。对于DB隐私,我们通过非负常数$δ$的函数来绑定不期望的消息、查询和答案之间的互信息。我们提出了一个通用的AL-PIR方案,实现了上限的最佳下载成本为任意$ε$和$δ$。我们证明了AL-PIR的最优下载成本是上界为$D^{*}(ε,δ)\leq 1+\frac{1}{N-1}-\frac{δe^ε}{N^{K-1}-1}$。其次,我们得到了一个信息理论的下载成本的下限为$D^{*}(ε,δ)\geq 1+\frac{1}{Ne^ε-1}-\fracδ{(Ne^ε)^{K-1}-1}$。两个边界之间的差距分析表明,我们的AL-PIR方案是最佳的,当$ε=0$,即,并且对于任何$(ε…
2020-06-04 cs.DB cs.IR cs.IT
Taking a Lesson from Quantum Particles for Statistical Data Privacy
隐私正受到前所未有的丰富数据推动的人工智能革命的威胁。差分隐私是一种隐私保护的候选方案,但由于缺乏系统的参数设置方法(称为隐私预算),它容易受到对抗攻击的影响,行为保守,并导致错误实现。另一种方法是使用熵的信息理论隐私,其缺点是需要私有数据的先验分布。在这里,通过使用Fisher信息,信息理论的隐私框架进行了扩展,以避免不必要的假设的私人数据。通过最小化Fisher信息提取的最佳隐私保护加性噪声必须遵循与时间无关的薛定谔方程。隐私和效用之间的一个基本的权衡也被证明,让人想起海森堡不确定性原理。
2019-08-14 cs.CR cs.IT math.IT
Measuring Privacy Leakage for IDS Rules
提出了一种入侵检测系统(IDS)警报隐私泄漏的度量方法。采用信息流定量分析方法,建立了基于信息熵的入侵检测规则隐私泄露理论模型。这一理论模型随后被验证经验的基础上模拟和实验研究。分析表明,该指标是能够区分IDS规则,没有或低预期的隐私泄漏和IDS规则泄漏敏感信息,例如用户行为的重大风险。该分析是基于测量的IDS警报,数据长度和数据熵的IDS规则的相关部分(例如有效载荷)的数量。这是一种很有前途的方法,为托管安全服务提供商的隐私基准测试开辟了道路。
2013-08-25 cs.CR cs.IT math.IT
Constrained Colluding Eavesdroppers: An Information-Theoretic Model
研究了合谋窃听者附近的保密容量。相反,在以前的作品完美的共谋假设,我们的新的信息理论模型认为,在共谋的约束。我们推导出可实现的安全率(完美的保密能力的下限),无论是离散无记忆和高斯信道。我们还比较了建议率的非串通和完美的串通情况。
2013-12-11 cs.CR cs.IT math.IT
Weakly Private Information Retrieval Under Rényi Divergence
私有信息检索(PIR)是一种保证与数据库通信的用户隐私的协议。用户想要下载存储在数据库中的消息之一,同时隐藏所需消息的身份。最近,人们研究了通过削弱隐私要求可以获得的好处,但弱隐私的定义需要详细说明。在本文中,我们试图量化弱隐私(即,信息泄漏)的PIR问题,通过使用推广Kullback-Leibler分歧的Rényi分歧。通过在现有PIR问题中引入Rényi散度,利用凸优化方法刻画了隐私(信息泄露)与PIR性能(下载代价)之间的权衡关系.此外,我们提出了一种替代的PIR计划与更小的消息大小比田孙陈(TSC)计划。由于TSC方案的消息长度是实现PIR容量的最小值,因此该方案不能实现完全隐私的PIR容量。然而,我们表明,该计划可以优于TSC计划在弱PIR设置,特别是在低下载成本制度。
2021-05-17 cs.IT eess.SP math.IT
Privacy-Preserving Distributed Maximum Consensus Without Accuracy Loss
针对传统分布式最大共识隐私保护方法加噪导致精度下降的问题,提出基于增广图虚拟节点与特殊初始化的分布式优化方法,可在完美保护隐私的同时保持精度,优于现有噪声类方法。
2024-09-16 cs.CR cs.DC cs.IT
Generative Adversarial User Privacy in Lossy Single-Server Information Retrieval
Simula UiB(Simula UiB(卑尔根大学Simula研究中心));New Jersey Institute of Technology(新泽西理工学院)
我们建议扩展私人信息检索的概念,允许在检索过程中的失真,并放宽了完美的隐私要求,在同一时间。特别是,我们研究了下载速率,失真和用户隐私泄露之间的权衡,并表明,在大文件大小的限制,这种权衡可以通过一种新的信息理论公式与已知的分布数据集捕获。此外,对于数据集的统计数据未知的情况,我们提出了一个新的深度学习框架,利用生成对抗网络方法,允许用户从数据本身学习有效的方案。我们评估了该计划的性能上的合成高斯数据集以及MNIST,CIFAR-10,和LSUN数据集。对于MNIST,CIFAR-10和LSUN数据集,数据驱动的方法显着优于基于非学习的方案,该方案将信源编码与多个文件的下载相结合。
2022-10-19 cs.IT cs.LG math.IT
Provable Privacy Advantages of Decentralized Federated Learning via Distributed Optimization
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Aalborg University(奥尔堡大学);University of Twente(特温特大学);Netherlands Defence Academy(荷兰国防学院);Delft University of Technology(代尔夫特理工大学)
针对去中心化联邦学习是否更具隐私收益的争议,本文通过信息论分析证明分布式优化可使隐私损失不超过中心化FL,并以逻辑回归和深度神经网络案例验证复杂模型风险更低。
2024-11-30 cs.AI cs.IT cs.LG
Maximal Information Leakage based Privacy Preserving Data Disclosure Mechanisms
通常需要向公共领域公开训练数据,同时保护某些敏感标签的隐私。我们使用信息理论的措施来开发这样的隐私保护数据披露机制。我们的机制涉及扰动的方式,在隐私效用权衡的平衡的数据向量。我们使用输出数据向量和机密标签之间的最大信息泄漏作为我们的隐私度量。我们首先研究了理论上的Bernoulli-Gaussian模型,并研究了只有高斯分布的平均值可以被扰动时的隐私效用权衡。我们表明,最佳的解决方案是相同的情况下,当使用错误的概率在对手的效用进行测量。然后,我们考虑将该框架应用于数据驱动的环境,并提供对Sibson互信息的经验近似。通过对MNIST和FERG数据集进行实验,我们表明,我们提出的框架实现了相当于或更好的隐私比以前的方法的基础上互信息。
2019-04-04 cs.CR cs.IT math.IT
Fundamental Limits of Obfuscation for Linear Gaussian Dynamical Systems: An Information-Theoretic Approach
New York University(纽约大学)
在本文中,我们研究的基本限制混淆的隐私失真权衡线性高斯动力系统通过信息论的方法。特别是,我们得到的分析公式,捕捉基本的隐私失真权衡时,隐私掩码被添加到动态系统的输出,同时明确指出如何设计的隐私掩码在一个最佳的方式:隐私掩码应该是彩色高斯与功率谱形状具体基于系统和噪声属性。
2020-10-29 cs.CR cs.IT cs.LG
An Information-Theoretic Analysis of The Cost of Decentralization for Learning and Inference Under Privacy Constraints
King’s College London(伦敦国王学院)
在垂直联邦学习(FL)中,数据样本的特征分布在多个代理中。因此,智能体间的协作不仅在学习阶段是有益的,就像标准水平FL的情况一样,而且在推理阶段也是有益的。在这种情况下,一个基本的理论问题是如何量化学习和/或推理的分散化的成本或性能损失。在本文中,我们认为一般的监督学习问题与任何数量的代理,并提供了一个新的信息理论量化的成本分散在隐私的限制存在下,在贝叶斯框架内的智能体通信。分散的学习和/或推理的成本被证明是量化的条件互信息条款,涉及功能和标签变量。
2021-10-11 cs.CR cs.IT cs.LG
Privacy-Preserving State Estimation with Crowd Sensors: An Information-Theoretic Respective
University of Melbourne(墨尔本大学)
本文研究了使用群体传感器进行线性时不变动态系统隐私保护状态估计问题,通过设计具有信息论视角的隐私保护噪声,实现隐私与效用的平衡。
2025-09-21 cs.CR cs.IT cs.SY
Private Counterfactual Retrieval
Department of Electrical and Computer Engineering(电气与计算机工程系);University of Maryland(马里兰大学);College Park;MD 20742
本文针对反事实解释中的隐私风险,提出基于PIR的精确最近邻反事实检索方案,保障用户信息论隐私并量化、降低数据库泄漏,同时支持用户属性偏好并通过真实数据集验证权衡。
2025-07-24 cs.CR cs.IT cs.LG
On the Price of Differential Privacy for Spectral Clustering over Stochastic Block Models
Nokia Bell Labs(诺基亚贝尔实验室);Princeton University(普林斯顿大学)
本文研究随机块模型下社区检测的边差分隐私谱聚类方法,提出隐私算法并刻画隐私预算与恢复准确性之间的权衡,同时给出信息论保证。
2025-05-09 cs.CR cs.IT cs.LG
Privacy Implies Stability: Information-Theoretic Generalization Bounds for Quantum Learning
Indian Statistical Institute, Kolkata(印度统计研究院,科希玛);School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学深圳校区数据科学学院);International Quantum Academy, Futian District, Shenzhen(深圳未来科技学院);Graduate School of Mathematics, Nagoya University(名古屋大学数学研究生院)
提出信息论框架连接量子学习算法的稳定性、隐私与泛化,证明量子差分隐私可直接导出泛化保证,并发现量子非正交性使信息论可容许性与隐私兼容。
2026-06-05 cs.IT cs.LG math.IT
Context-Aware Generative Adversarial Privacy
Arizona State University(亚利桑那州立大学);Stanford University(斯坦福大学)
保护已发布数据集的实用性,同时提供可证明的隐私保证是一个众所周知的挑战。一方面,上下文无关的隐私解决方案,如差分隐私,提供了强有力的隐私保障,但往往导致效用显著降低。另一方面,上下文感知隐私解决方案,如信息理论隐私,实现了改进的隐私-效用权衡,但假设数据持有者可以访问数据集统计数据。我们通过引入一种称为生成对抗隐私(GAP)的新颖的上下文感知隐私框架来规避这些限制。GAP利用生成对抗网络(GANs)的最新进展,允许数据持有者从数据集本身学习私有化方案。在GAP下,学习隐私机制被制定为两个参与者之间的约束极大极小博弈:一个私有化器以限制对个人私有变量的推断攻击风险的方式对数据集进行净化,另一个对手试图从净化的数据集推断私有变量。为了评估GAP的性能,我们研究了两个简单的(但规范的)统计数据集模型:(a)二进制数据模型,和(b)二进制高斯混合模型。对于这两种模型,我们推导出博弈理论上的最优极大极小隐私机制,并表明从数据中学习的隐私机制(以生成对抗的方式)与理论上的最优隐私机制相匹配。这表明我们的框架可以很容易地应用于实践,即使在没有数据集统计的情况下。
2017-12-03 cs.AI cs.CR cs.GT
Channel Leakage, Information-Theoretic Limitations of Obfuscation, and Optimal Privacy Mask Design for Streaming Data
New York University(纽约大学)
在本文中,我们首先引入了信道泄漏的概念,作为信道输入和信道输出之间的最小互信息。正如其名称所示,信道泄漏量化了对恶意接收器的最小信息泄漏。从广义上讲,它可以被看作是信道容量的双重概念,它表征了到目标接收机的最大信息传输。我们得到明确的公式的信道泄漏的情况下,白色高斯,有色高斯的情况下,和衰落的情况下。然后,我们利用这一概念调查的基本限制混淆的隐私失真权衡(以及隐私权权衡)的流数据,特别是,我们推导出分析权衡方程的固定的情况下,非固定的情况下,和有限时间的情况下。我们的研究结果还明确指出,如何设计的隐私面具在一个最佳的方式。
2020-09-29 cs.CR cs.IT cs.LG