Statistical Data Privacy: A Song of Privacy and Utility
为了量化开放数据共享需求的增长和对敏感信息泄露的担忧之间的权衡,统计数据隐私(SDP)方法分析了基于机密数据的净化输出的数据发布机制。目前存在两个主要框架:统计披露控制(SDC)和最近的差分隐私(DP)。尽管框架不同,但SDC和DP在核心上都有相同的统计问题。对于推理问题,我们可以设计满足披露风险界限的最佳释放机制和相关估计,或者我们可以调整现有的净化输出以创建新的最佳估计。这两个问题都依赖于评估风险和效用的不确定性量化。在这篇评论中,我们讨论了共同的统计基础,SDC和DP,强调SDP的主要发展,并提出了令人兴奋的开放式研究问题的私人推理。
2022-05-06 cs.CR stat.ME
Adjusting Queries to Statistical Procedures Under Differential Privacy
我们认为一个数据集$S$持有的机构,和一个矢量查询的兴趣,$f(S) \in \mathbb{R}^k$,由分析师提出,其中包含所需的信息,某些计划的统计推断。该机构使用众所周知的高斯机制发布所请求的带有噪声的向量查询,该噪声保证给定级别的差分隐私- DP $(\varepsilon,δ)$。分析师可以选择提出向量查询$f(S)$,或者通过适当的转换来调整它,这可以使机构的响应更具信息性。对于任何给定级别的隐私DP $(\varepsilon,δ)$决定的机构,我们研究自然的情况下,分析师可以实现更好的统计推断,通过调整查询一个合适的简单的显式变换。
2021-10-12 cs.CR
Statistical Privacy
本文提出统计隐私模型,针对攻击者仅知数据分布而不知具体条目的场景,分析属性查询下隐私参数与分布熵的关系,给出精确公式及数值近似,并比较差分隐私,探讨噪声与子采样对隐私效用权衡的影响。
2025-02-28 cs.CR
Parallel Composition for Statistical Privacy
Universität zu Lübeck(吕贝克大学)
本文提出了一种基于子采样和随机划分数据库的隐私机制,首次在不额外限制数据库的情况下,通过考虑分布熵来提升隐私和精度保证。
2026-02-10 cs.CR
Statistical Privacy Guarantees of Machine Learning Preprocessing Techniques
Imperial College London(帝国理工学院);ConsenSys Health
差分隐私为机器学习应用提供了强大的隐私保证。最近的许多工作都集中在开发差异私有模型上,但是在机器学习管道的其他阶段,特别是在预处理阶段,存在差距。我们的贡献是双重的:我们采用基于统计方法的隐私侵犯检测框架,以经验性地测量机器学习管道的隐私级别,并应用新创建的框架来表明,在处理不平衡数据集时使用的恢复技术导致所得模型泄漏更多隐私。这些结果突出了开发私有预处理技术的必要性。
2021-09-06 cs.CR cs.LG
Metric-based local differential privacy for statistical applications
局部差分隐私(LPD)是差分隐私(DP)的分布式变体,其中敏感信息的模糊化在个体记录的级别完成,并且通常用于净化出于统计目的收集的数据。LPD的优点是不需要假设可信的第三方。另一方面,LDP通常需要比DP更多的噪声来实现相同的保护水平,对公用事业产生负面影响。在实践中,只有在非常大的数据集合中,效用才能被接受,这就是LDP在苹果和谷歌等大公司中特别成功的原因,这些公司可以依靠大量的用户。在本文中,我们提出了一个变种的LDP适合度量空间,如位置数据或能源消耗数据,我们表明,它提供了一个更好的实用程序相同的隐私水平。
2018-05-03 cs.CR
Suboptimal Provision of Privacy and Statistical Accuracy When They are Public Goods
凭借庞大的数据库,私营科技公司可以与公共统计机构竞争提供人口统计数据。然而,私营公司在提供高质量统计数据和保护数据使用者的隐私方面面临着不同的激励。当隐私保护和统计准确性都是公共品时,私人提供者往往会提供至少一种次优产品,但不清楚是哪一种。我们模拟了一家在保证差异隐私的情况下发布统计数据的公司。我们证明,在这个框架中,由私人公司提供的数据质量低效率的结果。
2019-06-21 cs.CR cs.DB econ.TH
From Statistical Disclosure Control to Fair AI: Navigating Fundamental Tradeoffs in Differential Privacy
Purdue University(普渡大学)
本文探讨了差分隐私中隐私、效用和公平之间的基本权衡,通过系统分析展示了三者之间的帕累托前沿,并提供了实际指导以帮助决策。
2026-01-25 cs.CR
Testing Lipschitz Property over Product Distribution and its Applications to Statistical Data Privacy
在这项工作中,我们提出了Lipschitz属性测试和差分隐私的一个宽松的概念之间的连接,我们假设数据集是从一个域根据一些分布定义它。具体来说,我们表明,测试是否是私人的算法可以减少到测试Lipschitz属性在分布设置。我们还开始了分布Lipschitz检验的研究。当相对于产物分布测量“到属性的距离”时,我们提出了一个高效的超立方体域Lipschitz测试器。大多数以前的函数性质测试工作(包括以前的Lipschitz测试工作)与均匀分布。
2012-09-18 cs.CR
Statistical Quantification of Differential Privacy: A Local Approach
在这项工作中,我们介绍了一种新的方法,统计量化的差分隐私在黑盒设置。我们提出了一个随机算法$A$的最佳隐私参数的估计和置信区间,以及其他关键变量(如“以数据为中心的隐私级别”)。我们的估计是基于当地的隐私特性,并在相关文献中避免了“事件选择”的过程中,隐私验证的一个主要障碍。这使得我们的方法易于实现和用户友好。我们证明了估计的快速收敛速度和置信区间的渐近有效性。各种算法的实验研究证实了我们的方法的有效性。
2022-05-02 cs.CR math.ST stat.ME
Statistical-Based Privacy-Preserving Scheme with Malicious Consumers Identification for Smart Grid
随着智能电网的普及和广泛实施,保护消费者的隐私变得越来越重要。智能电网中的发电和定价依赖于从消费者那里不断收集的信息。然而,查阅与每名个别用户的用电量有关的数据,与其隐私权有恩怨。保护隐私的一种常见方法是汇总不同消费者的数据,并使用他们的智能电表计算账单。但在这种方法中,无法识别发送错误数据以利用或破坏智能电网的恶意消费者。在本文中,我们提出了一个新的基于数据的数据收集和计费方案,其中消费者的隐私得到保护,并在同一时间,如果任何消费者与错误的数据可以被检测到。我们的模拟结果验证了这些问题。
2019-05-15 cs.CR eess.SP
A Statistical Overview on Data Privacy
随着大量和各种数据的收集和处理的增加,大数据的爆发导致了科学,工程,医学,商业,刑事司法和国家安全方面的突破性发现和创新,这在过去是不可能的。虽然收集和使用大数据有很多好处,但公众对收集哪些个人信息以及如何使用这些信息的担忧也越来越多。除了法律政策和条例外,还存在促进和保护个人隐私的技术工具和统计战略,同时发布和分享有用的人口信息。在这篇综述中,我介绍了其中的一些方法,以及统计数据隐私研究和应用中存在的挑战和机遇,以更好地满足隐私保护和信息共享的实际需求。
2020-07-01 cs.CR stat.OT
Privacy Against Statistical Inference
我们提出了一个通用的统计推断框架,以捕捉隐私的威胁所引起的用户发布的数据,一个被动的,但好奇的对手,公用事业的限制。我们表明,应用这个一般框架的设置,对手使用的自我信息成本函数自然会导致一个非渐近信息理论的方法来表征最佳可实现的隐私效用约束。基于这些结果,我们引入了两个隐私度量,即平均信息泄漏和最大信息泄漏。我们证明,在这两个指标下,得到的设计问题,找到最佳的映射从用户的数据到隐私保护输出可以被铸造作为一个修改后的率失真问题,反过来,可以制定为一个凸规划。最后,我们比较了我们的框架与差分隐私。
2012-10-08 cs.CR cs.IT math.IT
Taking a Lesson from Quantum Particles for Statistical Data Privacy
隐私正受到前所未有的丰富数据推动的人工智能革命的威胁。差分隐私是一种隐私保护的候选方案,但由于缺乏系统的参数设置方法(称为隐私预算),它容易受到对抗攻击的影响,行为保守,并导致错误实现。另一种方法是使用熵的信息理论隐私,其缺点是需要私有数据的先验分布。在这里,通过使用Fisher信息,信息理论的隐私框架进行了扩展,以避免不必要的假设的私人数据。通过最小化Fisher信息提取的最佳隐私保护加性噪声必须遵循与时间无关的薛定谔方程。隐私和效用之间的一个基本的权衡也被证明,让人想起海森堡不确定性原理。
2019-08-14 cs.CR cs.IT math.IT
Preserving Statistical Privacy in Distributed Optimization
我们提出了一个分布式的优化协议,保护代理的本地成本函数的统计隐私,对被动的对手,腐败的一些代理在网络中。该协议是一个分布式的“{ \em零和}”混淆协议,混淆代理的本地成本函数,和一个标准的非私有分布式优化方法的组合。我们表明,我们的协议保护统计隐私的代理商的本地成本函数对一个被动的对手,腐败到$t$任意代理,只要通信网络有$(t+1)$顶点连接。"{ \em zero-sum}”混淆协议保留了代理的局部成本函数的总和,因此确保了计算解决方案的准确性。
2020-12-29 cs.CR cs.DC
Local Privacy, Data Processing Inequalities, and Statistical Minimax Rates
在一个隐私模型下,即使从统计学家那里,数据仍然是私有的,我们研究了隐私保证和所产生的统计估计的效用之间的权衡。我们证明了信息理论的数量,包括互信息和Kullback-Leibler分歧,这取决于隐私保证的界限。当结合标准的极大极小技术,包括Le Cam,Fano和Assouad方法,这些不平等允许在本地隐私约束下的统计率的精确表征。我们提供了几个典型的家庭的问题:平均估计,参数估计在固定设计回归,多项式概率估计,和非参数密度估计的治疗。对于所有这些家庭,我们提供的下限和上界,匹配常数因子,并展示新的(最佳)隐私保护机制和计算效率的估计,实现界限。
2014-08-27 cs.CR cs.IT math.IT
A Privacy-Preserving Data Collection Method for Diversified Statistical Analysis
针对现有隐私保护方法难以支持实值数据分布与多样化统计分析的问题,提出 RVNS 实值负向调查模型,通过偏离真实值采样、分布优化和差分隐私保障实现高效隐私数据收集。
2025-07-23 cs.CR
Distribution-Invariant Differential Privacy
Carlson School of Management, University of Minnesota(明尼苏达大学卡尔森管理学院);School of Statistics, University of Minnesota(明尼苏达大学统计学院)
差分隐私正在成为保护公开共享数据隐私的黄金标准。它被广泛应用于社会科学、数据科学、公共卫生、信息技术和美国十年一次的人口普查。然而,为了保证差分隐私,现有的方法可能会不可避免地改变原始数据分析的结论,因为私有化往往会改变样本分布。这种现象被称为隐私保护和统计准确性之间的权衡。在这项工作中,我们减轻了这种权衡,通过开发一个分布不变的私有化(DIP)的方法来调和高统计精度和严格的差分隐私。因此,任何下游统计或机器学习任务都会产生与使用原始数据基本相同的结论。从数值上看,在同样严格的隐私保护下,DIP在广泛的模拟研究和真实世界的基准测试中实现了卓越的统计准确性。
2022-06-06 cs.CR cs.LG stat.ME
Privacy of synthetic data: a statistical framework
隐私保护数据分析正在成为一个具有深远影响的挑战性问题。特别是,合成数据是解决数据隐私和数据共享之间的严重冲突的一个有前途的概念。然而,已知准确地生成某些种类的私有合成数据是NP难的。我们开发了一个统计框架差异私人合成数据,这使我们能够规避计算困难的问题。我们认为真实数据是根据某种未知密度从总体Ω中抽取的随机样本。然后,我们用一个更小的随机子集Ω ^* 来代替Ω,我们根据某个已知的密度对它进行采样。通过拟合从真实数据获得的指定线性统计量,我们在缩减空间Omega^* 上生成合成数据。为了确保隐私,我们使用常见的拉普拉斯机制。采用Renyi条件数的概念,它衡量如何以及抽样分布与人口分布的相关性,我们得到明确的界限所提出的方法提供的隐私和准确性。
2021-09-03 cs.CR math.ST stat.TH
PP-STAT: An Efficient Privacy-Preserving Statistical Analysis Framework using Homomorphic Encryption
NAVER Cloud \& Sungkyunkwan University Seongnam South Korea;NAVER Cloud \& Sungkyunkwan University
本文提出基于同态加密的 PP-STAT 框架,通过 Chebyshev 近似和预归一化缩放优化,在加密数据上安全高效地完成多项统计分析并保持高精度。
2025-10-04 cs.CR
Noise Addition for Individual Records to Preserve Privacy and Statistical Characteristics: Case Study of Real Estate Transaction Data
本文提出了一种新的方法,通过加入噪声来扰动主变量,从而使回归分析的结果不受影响。可以使用单个参数来控制扰动的程度,这简化了实际扰动应用。数值实验的结果的基础上,我们建议一个适当的值的参数,可以实现足够的扰动,以掩盖原始值和扰动和原始数据之间的足够的一致性。
2015-08-07 cs.CR stat.ME
A Statistical Viewpoint on Differential Privacy: Hypothesis Testing, Representation and Blackwell's Theorem
University of Pennsylvania(宾夕法尼亚大学)
本文从统计视角重新解读差分隐私,基于Blackwell定理证明其所有定义可从假设检验视角推导,提出f-差分隐私统一框架并分析其在多领域应用中的优势,论证假设检验是推理差分隐私的恰当语言。
2024-10-29 cs.CR cs.LG math.ST
Deciding Differential Privacy for Programs with Finite Inputs and Outputs
差分隐私是对包含私有数据的数据库进行统计计算的事实标准。差分隐私的优势在于严格的数学定义,既保证了个人隐私,又允许准确的统计结果。由于其数学定义,差分隐私也是形式分析的自然目标。一个广泛的工作线使用逻辑方法来证明隐私。然而,这些方法并不完整,只是部分自动化。最近的一项补充工作是使用统计方法来发现侵犯隐私的行为。然而,这些方法只提供统计保证(但没有证据)。我们提出了第一个决策过程检查的差分隐私的非平凡类的概率计算。我们的程序作为输入的程序P参数化的隐私预算$ε$,并证明差分隐私的所有可能的值$ε$或生成一个反例。此外,我们的过程适用于$ε$ -差分隐私和$(ε,δ)$ -差分隐私。从技术上讲,决策过程是基于一个新的和明智的编码的语义程序在我们的类到一个可判定的片段的一阶理论的实数与指数。我们实现了我们的程序,并使用它来证明隐私边界的许多著名的例子,包括随机响应,直方图,报告噪声最大值和稀疏向量。
2020-05-01 cs.CR cs.LO cs.PL
Byzantine-Robust Federated Learning with Optimal Statistical Rates and Privacy Guarantees
UC Berkeley(加州大学伯克利分校);Google(谷歌);Carnegie Mellon University(卡内基梅隆大学);HKUST(香港科技大学)
我们提出了拜占庭鲁棒的联邦学习协议,具有接近最优的统计率。与以前的工作相比,我们提出的协议提高了维度依赖性,并实现了严格的统计率方面的所有参数的强凸损失。我们对竞争协议的基准,并显示所提出的协议的经验优势。最后,我们注意到,我们的协议与桶可以自然地与隐私保证程序相结合,以引入半诚实服务器的安全性。https://github.com/wanglun1996/secure-robust-federated-learning中提供了评估代码。
2023-03-18 cs.AI cs.CR cs.DC
HDMM: Optimizing error of high-dimensional statistical queries under differential privacy
在这项工作中,我们描述了高维矩阵机制(HDMM),差分私人算法回答谓词计数查询的工作量。HDMM使用紧凑的隐式矩阵表示来表示查询工作负载,并利用该表示来有效地优化差分私有算法的空间(的子集),以获得无偏的并且以低预期误差回答输入查询工作负载的算法。HDMM可以被部署用于$ε$ -差分隐私(具有拉普拉斯噪声)和$(ε, δ)$ -差分隐私(具有高斯噪声)两者,尽管核心技术对于每一个稍微不同。我们的经验表明,HDMM可以有效地回答查询,比最先进的技术具有更低的预期错误,在某些情况下,它几乎匹配现有的下限为我们考虑的特定类别的机制。
2021-06-23 cs.CR cs.DB
Encrypted statistical machine learning: new privacy preserving methods
University of Oxford(牛津大学)
我们提出了两种新的统计机器学习方法,旨在学习全同态加密(FHE)数据。继Gentry(2009)之后,FHE方案的引入开辟了隐私保护统计机器学习分析和加密数据建模的前景,而不会损害安全约束。我们提出了量身定制的算法,用于应用极端随机森林,涉及一个新的加密随机分数估计器,以及朴素贝叶斯,涉及类决策边界的半参数模型,并展示了它们如何用于从加密数据中学习和预测。我们证明了这些技术在各种分类数据集上具有竞争力,并提供了有关这些和其他FHE方法的计算实用性的详细信息。
2015-08-27 cs.CR cs.LG stat.ME
Differentially Private Algorithms for Statistical Verification of Cyber-Physical Systems
University of Florida(佛罗里达大学);University of California, Berkeley(加州大学伯克利分校);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
统计模型检验是一类顺序算法,其可以验证信息物理系统的集合上的感兴趣的规范(例如,是否99%的汽车从一批满足要求的能源效率)。这些算法通过抽取足够数量的独立同分布样本来推断具有可证明的统计保证的系统满足给定规格的概率。在统计模型检验的过程中,样本的值(例如,用户的汽车能量效率)可能被入侵者推断,引起消费者级应用中的隐私问题(例如,汽车和医疗设备)。本文从差分隐私的角度研究了统计模型检验算法的隐私问题。这些算法是连续的,绘制样本直到满足其值的条件。我们表明,透露抽取的样本数量可能会侵犯隐私。我们还表明,标准的指数机制,随机化的算法的输出,以实现差分隐私未能做到这一点的上下文中的顺序算法。相反,我们放松了保守的要求,在差分隐私的算法的输出的灵敏度应该是有界的任何数据集的任何扰动。本文提出了一种新的差分隐私概念,我们称之为期望差分隐私。然后,我们提出了一种新的预期灵敏度分析的顺序算法,并提出了相应的指数机制,随机终止时间,以实现预期的差分隐私。我们提出的机制,统计模型检验算法,以保护隐私的样本,他们提请。所提出的算法的效用证明在一个案例研究。
2022-06-27 cs.CR cs.LG stat.ML
Empirical Analysis of Randomness Quality in Differential Privacy Mechanisms
Università degli Studi dell’Insubria(因苏布里亚大学);Random Power Srl(Random Power公司)
本研究实证分析随机性质量对差分隐私机制的影响,发现熵退化可被检测,但统计异常不等同于隐私泄露。
2026-09-18 cs.CR
Statistical Verification of Traffic Systems with Expected Differential Privacy
交通系统是一个多智能体的网络物理系统,其性能与人类福祉密切相关。它们在开放的环境中工作,并且受到来自各种来源的不确定性的影响,使得它们的性能难以通过传统的基于模型的方法进行验证。或者,统计模型检验(SMC)可以通过顺序地抽取样本数据来验证它们的性能,直到可以以期望的统计精度推断性能规范的正确性。这项工作旨在验证具有隐私的交通系统,其动机是所使用的数据可能包括个人信息(例如,每日行程),并通过观察SMC算法的执行而无意中泄露。为了在SMC中形式化地捕获数据隐私,我们引入了期望差分隐私(EDP)的概念,它约束了当数据发生变化时,算法执行在期望意义上可以改变多少。相应地,我们引入了一个指数随机化机制的SMC算法,以实现EDP。我们的案例研究交通路口的Vissim仿真表明,高精度的SMC在交通模型验证,而不显着牺牲计算效率。案例研究还表明,EDP成功地绑定算法输出,以保证隐私。
2023-02-28 cs.CR cs.SY eess.SY
Privacy-Preserving Data Analysis for the Federal Statistical Agencies
政府统计机构收集有关国家人口和商业活动的大量宝贵数据。广泛获取这些数据可以促进循证决策,支持改善社会的新研究,促进对学生进行数据科学培训,并为公众提供资源,以更好地了解和参与社会。这些数据也影响到私营部门。例如,美国劳工统计局发布的《美国就业形势》就牵动着市场。尽管如此,政府机构正面临越来越大的压力,要求限制对数据的访问,因为人们越来越了解对数据隐私和机密性的威胁。“去识别化”-去除明显的标识符,如姓名、地址和身份证号码-在现代计算和信息资源面前已经被发现是不够的。不幸的是,这个问题甚至延伸到发布汇总数据统计。这种违反直觉的现象被称为信息恢复的基本定律。它说,对太多统计数据过于准确的估计可能会完全破坏隐私。人们可能会认为这是千刀万剐。从数据集中计算出的每个统计量都会泄露关于数据集中每个成员的少量信息-一个微小的切口。即使为了保护隐私,统计数据的确切值有点失真,这也是正确的。但是,尽管每次统计数据的发布对任何个人的隐私风险来说都是一个几乎无害的小削减,但累积效应可能会完全损害某些个人的隐私。
2017-01-03 cs.CR cs.CY
On the Statistical Complexity of Estimation and Testing under Privacy Constraints
Univ. Lyon(里昂大学);ENS Lyon(里昂高等师范学院);UCBL(里昂第一大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LIP(里昂计算机科学实验室)
该研究推导了差分隐私下统计估计与检验的极小极大下界,通过输运问题刻画检验功效并得到Le Cam型和Fano型不等式,验证了问题类别对隐私效用损失的影响,且证明DP-SGLD算法可实现接近最优的隐私最大似然估计。
2024-09-18 cs.CR cs.LG
On the Benefits of Sampling in Privacy Preserving Statistical Analysis on Distributed Databases
我们考虑一个问题,其中相互不信任的管理者拥有垂直分区数据库的部分,其中包含有关一组个人的信息。我们的目标是使授权方能够从数据库中获得汇总(统计)信息,同时保护个人的隐私,我们使用差分隐私将其形式化。这个过程可以通过不受信任的服务器来促进,该服务器提供存储和处理服务,但不应该了解有关数据库的任何信息。这项工作描述了一种数据发布机制,该机制采用后随机化(PRAM),加密和随机采样来维护隐私,同时允许授权方对数据进行准确的统计分析。加密确保存储服务器不会获得有关数据库的任何信息,而PRAM和采样确保针对授权方维护个人隐私。我们描述了与单独使用PRAM相比,随机采样与PRAM的组合增加了系统的差分隐私。我们还分析了我们的系统的统计效用,通过限制估计误差-真实经验分布和估计分布之间的预期l2范数误差-作为样本数,PRAM噪声和其他系统参数的函数。我们的分析显示了增加PRAM噪声与减少样本数量之间的权衡,以保持所需的隐私水平,我们确定了平衡这种权衡并最大化效用的最佳样本数量。在UCI“成人数据集”和综合生成的数据的实验模拟中,我们确认理论预测的最佳样本数确实接近最小经验误差,并且我们的分析误差范围与经验结果匹配良好。
2013-04-16 cs.CR cs.DB cs.DS
Detecting Violations of Differential Privacy
差分隐私的广泛接受导致了许多用于保护隐私的复杂算法的出版。然而,由于这种隐私定义的微妙性质,许多这样的算法都有错误,使它们违反了他们声称的隐私。在本文中,我们考虑的问题,产生反例,这种不正确的算法。反例被设计得简短且易于理解,以便反例生成器可以在开发过程中使用-开发人员可以快速探索算法的变化并调查它们在哪里失败。我们的方法是统计性质的。它多次运行候选算法,并使用统计测试来尝试检测对差分隐私的侵犯。对各种不正确的算法的评估验证了我们的方法的有用性:它正确地拒绝不正确的算法,并在几秒钟内为他们提供反例。
2019-09-05 cs.CR
A Bias-Accuracy-Privacy Trilemma for Statistical Estimation
该研究揭示统计估计中偏差、准确率与隐私的固有三难困境,证明强DP下无偏均值估计不可行,同时指出对称分布下近似DP可实现无偏均值估计。
2024-10-07 cs.CR cs.DS math.ST
Quantum Local Differential Privacy and Quantum Statistical Query Model
School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文证明局部模型下量子统计查询与量子差分隐私等价,推导相关强数据处理不等式并应用于假设检验,还验证量子多方计算中奇偶函数可高效学习,优于经典场景的样本需求。
2023-08-21 cs.CR cs.DS cs.LG
Statistical Properties of Sanitized Results from Differentially Private Laplace Mechanism with Univariate Bounding Constraints
在发布和共享数据和信息时,保护个人隐私是一个共同关注的问题。差分隐私(DP)形式化隐私的概率条款,而不做假设的背景知识的数据入侵者,从而提供了一个强大的隐私保护的概念。DP的实际应用涉及开发差异隐私机制,以在预先指定的隐私预算中生成经过消毒的结果。对于具有诸如比例和相关系数之类的公共已知边界的统计数据的净化,边界约束将需要被并入差分私有机制中。有很少的工作检查的后果的边界约束的准确性的消毒结果和统计推断的人口参数的基础上消毒的结果。在本文中,我们形式化的差分私人截断和边界膨胀截断(BIT)的程序发布统计与公开已知的边界约束。截断和BIT拉普拉斯程序的统计精度和有效性的消毒统计的影响进行了评估,通过模拟研究的理论和经验。
2019-05-26 cs.CR stat.ME
Statistical Privacy in Distributed Average Consensus on Bounded Real Inputs
University of Maryland, College Park(马里兰大学帕克分校)
本文提出了一种隐私协议,用于在有界实值输入上实现分布式平均一致性算法,该协议在通信网络中不构成顶点割的情况下,能够保证诚实代理的输入统计隐私。这表明,如果通信网络的连通性至少为t+1,则可以保护代理输入的隐私,其中t是任意合谋代理的数量。
2019-03-20 cs.CR cs.IT cs.SY
Differential Privacy of Gaussian Process Posterior Sampling
School of Mathematics, University of Bristol(布里斯托大学数学学院)
研究高斯过程后验样本路径的隐私性,通过Rényi-DP界分离后验均值与协方差泄露,揭示有效岭正则化的关键作用,并验证成员推断攻击与正则化的依赖关系。
2026-09-15 cs.CR cs.LG stat.ML
Statistical Feature-based Personal Information Detection in Mobile Network Traffic
School of Computer, National University of Defense Technology(国防科技大学计算机学院)
随着智能手机的普及,移动应用(app)已经渗透到人们的日常生活中。虽然应用程序提供了丰富的功能,但它们也同时访问大量的个人信息。因此,隐私问题引起了关注。为了了解应用程序收集了哪些个人信息,提出了许多解决方案来检测应用程序中的隐私泄露。近年来,基于流量监测的隐私泄漏检测方法表现出良好的性能和较强的可扩展性。但是,它仍然有一些缺点。首先,它遭受检测个人信息的泄漏与混淆。其次,它不能发现未定义类型的隐私泄漏。针对上述问题,提出了一种基于流量监测的个人信息检测方法。本文设计了个人信息的统计特征来刻画个人信息在流量中的出现模式,包括局部模式和全局模式。然后基于机器学习算法训练检测器,以发现具有相似模式的潜在个人信息。由于统计特征与个人信息的值和类型无关,因此经过训练的检测器能够识别各种类型的隐私泄漏和混淆的隐私泄漏。据我们所知,这是第一个基于统计特征检测个人信息的工作。实验结果表明,该方法能够取得比现有方法更好的性能。
2021-12-23 cs.CR cs.LG
Convergence Rates for Differentially Private Statistical Estimation
University of California, San Diego(加利福尼亚大学圣迭戈分校);Microsoft Research(微软研究院)
差分隐私是一种基于密码学的隐私定义,在过去几年中受到了广泛的关注。差分隐私解决方案通过将随机噪声添加到对数据计算的函数来增强隐私,设计此类算法的挑战是控制添加的噪声,以优化隐私-准确性-样本大小的权衡。本文研究了差分私有统计估计,给出了差分私有近似统计估计收敛速度的上界和下界。我们的研究结果揭示了差分隐私和稳健统计中的粗差敏感性(GES)概念之间的正式联系,通过显示任何差分隐私近似估计的收敛速度,在一个大类的分布是准确的增长与GES的估计。然后,我们提供了一个上界的收敛速度的差分私人近似估计有界范围和有界GES。我们表明,有界范围条件是必要的,如果我们希望确保严格形式的差分隐私。
2012-06-27 cs.CR cs.LG stat.ML
Statistical Inference in the Differential Privacy Model
在现代数据分析环境中,我们可能会在本质上敏感的数据集上运行算法。然而,经典的机器学习和统计算法在设计时并没有考虑到这些风险,并且已经证明它们可能会泄露个人信息。这些担忧会抑制个人提供数据的积极性,甚至更糟的是,鼓励故意提供虚假数据。为了缓解这些担忧,我们将差分隐私的约束引入到统计推断中,许多人认为这是数据隐私的黄金标准。本文旨在量化保证差分隐私的成本,即,了解在差分隐私的约束下执行数据分析需要多少附加数据。尽管差分隐私的文献已经成熟,但在一些最基本的设置中仍然存在不足的理解。特别是,我们在以下问题上取得了进展:$\bullet$ DP假设检验的样本复杂度是多少?$\bullet$我们能否以可忽略不计的代价私下估计分布特性?$\bullet$私人分布估计的基本极限是什么?$\bullet$我们如何设计算法来私下估计随机图?$\bullet$私人假设选择中样本复杂性和交互性之间的权衡是什么?
2021-08-11 cs.CR cs.DS cs.IT
Conformal Privacy Auditing: Calibrated Re-identification Attacks with Statistical Guarantees
Monash University(莫纳什大学);The University of Melbourne(墨尔本大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文提出保形隐私审计(CPA),一种无分布校准框架,为每个发布文档提供针对LLM赋能攻击者的重识别风险统计证书,通过保形模糊集实现校准覆盖,并揭示不同配置下的可识别性变化。
2026-09-21 cs.CL cs.CR
Robustness Implies Privacy in Statistical Estimation
本文提出从差分隐私到对抗鲁棒性的黑盒归约,并基于 Sum-of-Squares 高维高斯鲁棒估计器,构造均值与协方差估计的近最优多项式时间私有且鲁棒算法。
2024-06-15 cs.CR cs.DS cs.IT
Secure Random Sampling in Differential Privacy
差分隐私是保护敏感数据隐私的最突出的技术之一,这归因于其强大的数学保证和对大量数据计算的普遍适用性,包括统计分析和机器学习。以前的工作表明,具体实施的差分隐私机制是容易受到统计攻击。此漏洞是由实数值近似为浮点数造成的。本文提出了一种实用的解决方案,有限精度浮点漏洞,其中拉普拉斯分布的逆变换采样本身可以被反转,从而使攻击的原始值可以检索到不可忽视的优势。所提出的解决方案具有推广到任何无限可分的概率分布的优点,并在现代架构中的简单实现。最后,该解决方案已被设计为使侧信道攻击不可行,因为固有的指数,在域的大小,蛮干攻击。
2021-11-24 cs.CR
Perturbed M-Estimation: A Further Investigation of Robust Statistics for Differential Privacy
差分隐私(DP)提供了一个优雅的数学框架,用于定义任意对手存在时的可证明披露风险;它保证了无论个人是否在数据库中,DP过程的结果在概率分布方面应该是相似的。虽然DP机制在保护隐私方面被证明是有效的,但它们通常对作为这些机制的输出的查询响应、统计和/或分析的效用产生负面影响。为了解决这个问题,我们使用稳健统计领域的想法,旨在减少离群观测对统计推断的影响。基于差分隐私与鲁棒统计之间的联系,我们利用一个新的有界函数来修正目标扰动机制,定义了一个具有足够统计性质的有界M估计.由此产生的隐私机制,命名为“扰动M-估计”,显示出重要的潜力,在改进的统计效用的输出,建议一些初步的结果。因此,这些结果支持需要进一步调查使用强大的统计工具的差分隐私。
2021-08-05 cs.CR math.ST stat.AP
Dithered Gaussian Mechanism for Randomness-Efficient Differential Privacy
Institute of Science and Technology Austria(奥地利科学与技术研究所);BARC University of Copenhagen(哥本哈根大学BARC)
研究提出抖动高斯机制用于差分隐私,将离散化用于隐私输出,继承高斯机制隐私保证且避免浮点漏洞。该机制随机性高效,通过分离随机性来源减少随机比特数,应用于模型训练可实现安全噪声生成且开销适度。
2026-10-02 cs.CR cs.LG
Efficient, Differentially Private Point Estimators
差分隐私是统计数据库的一个新的隐私概念,它提供了严格的、有意义的机密性保证,即使在攻击者可以访问任意边信息的情况下也是如此。我们证明了,对于一个大类的参数概率模型,可以构造一个差分私人估计,其分布收敛于最大似然估计。特别是,它是有效的和渐近无偏的。这一结果提供了(进一步)令人信服的证据表明,在统计数据库中,严格的隐私概念可以与统计上有效的推断相一致。
2008-09-27 cs.CR cs.DS
Statistical Analysis of Privacy and Anonymity Guarantees in Randomized Security Protocol Implementations
UC Berkeley(加州大学伯克利分校)
安全协议通常使用随机化来实现概率非确定性。这种非确定性反过来又用于混淆可观察值对秘密数据的依赖性。由于安全协议的正确性非常重要,安全协议的形式化分析在文献中得到了广泛的研究。随机安全协议也被分析使用形式化技术,如进程演算和概率模型检验。在本文中,我们考虑的问题,验证实现的随机化协议。与以前的方法,把协议作为一个白盒,我们的方法试图验证一个实现提供了一个黑盒。我们的目标是通过统计技术推断安全协议提供的保密性保证。我们学习的概率依赖的可观察的输出秘密输入使用贝叶斯网络。然后,这被用来近似秘密的泄漏。为了评估我们的统计方法的准确性,我们比较了我们的技术与概率模型检验技术的两个例子:人群协议和餐饮密码学家的协议。
2009-06-27 cs.CR cs.LG
N-output Mechanism: Estimating Statistical Information from Numerical Data under Local Differential Privacy
Korea University(韩国大学)
本文提出 N-output 机制,通过构建优化问题最小化估计方差,填补了 LDP 下任意输出大小数值数据收集缺乏最优通用机制的空白,在低通信成本下实现了高精度的均值、方差与分布估计。
2025-10-13 cs.CR
Differentially Private Oblivious RAM
在这项工作中,我们调查,如果统计隐私可以提高性能的ORAM机制,同时提供严格的隐私保证。我们提出了一个正式的和严格的框架,用于开发具有统计安全性的ORAM协议,差分专用ORAM(DP-ORAM)。我们提出根ORAM,家庭的DP-ORAM,提供了一个可调的,多维的权衡所需的带宽开销,本地存储和系统安全性。我们从理论上分析根ORAM来量化其安全性和性能。我们通过实验证明了根ORAM的好处,并发现(1)根ORAM可以将本地存储开销降低约2倍,以获得合理的隐私预算值,显著增强内存有限平台(如可信执行环境)的性能,以及(2)根ORAM允许带宽,存储和隐私之间的可调权衡,将带宽开销减少2 - 10倍(以增加存储/统计隐私为代价),从而显著减少云环境的ORAM访问权限。我们还通过香农熵和最小熵的信息理论度量的镜头分析了DP-ORAMs的隐私保证[16]。最后,Root ORAM非常适合具有类似访问模式的应用程序,我们通过私有信息检索应用程序展示了它的实用性。
2018-07-15 cs.CR
Adaptive Statistical Learning with Bayesian Differential Privacy
Carnegie Mellon University(卡内基梅隆大学);Nanyang Technological University(南洋理工大学)
在统计学习中,数据集通常被划分为两个部分:训练集和保持集(即,测试)集合。例如,训练集用于学习预测器,然后保持集用于估计预测器在真实分布上的准确性。然而,在实践中,经常会重复使用保持数据集,并且基于先前估计的结果自适应地选择在保持数据集上测试的估计,导致预测器可能变得依赖于保持集。因此,可能会发生过拟合,并且学习的模型可能无法很好地推广到看不见的数据集。先前的研究已经建立了学习算法的稳定性和它的泛化能力之间的联系,但传统的泛化是不鲁棒的自适应组合。最近,Dwork等人在NIPS,STOC和Science 2015中表明,来自i.i.d.如果使用为差分隐私开发的技术来扰动和协调估计,则数据样本可以在自适应统计学习中被重新使用,差异隐私是量化隐私的广泛使用的概念。然而,Dwork等人的结果仅适用于i.i.d.的情况。样品相比之下,数据样本之间的相关性存在,因为用户之间的各种行为,社会和遗传关系。我们在自适应统计学习中的结果推广了Dwork等人的结果。数据样本到任意相关的数据。具体来说,我们证明了相关样本的holdout数据集可以在自适应统计学习中重用,如果使用贝叶斯差分隐私开发的技术对估计进行扰动和协调,这是Yang等人最近在SIGMOD 2015中引入的隐私概念,以拓宽数据记录相关时差分隐私的应用场景。
2019-11-02 cs.CR cs.CY cs.LG
DPpack: An R Package for Differentially Private Statistical Analysis and Machine Learning
University of Notre Dame(圣母大学)
本文开发了开源R包DPpack,集成Laplace、Gaussian和指数机制,提供差分隐私描述性统计、逻辑回归、SVM、线性回归及超参数调优工具,使差分隐私在常规统计分析中易于使用。
2023-09-19 cs.CR cs.LG stat.ML
Optimizing error of high-dimensional statistical queries under differential privacy
在敏感数据库上回答谓词计数查询集的差分私有算法有许多应用。收集个人层面数据的组织,如统计机构和医疗机构,使用它们来安全地发布汇总表。然而,现有的技术仅在一小部分查询工作负载上是准确的,或者是非常慢的,特别是当分析数据的多于一个或两个维度时。在这项工作中,我们提出了HDMM,一个新的差分私人算法回答谓词计数查询的工作量,这是特别有效的高维数据集。HDMM使用隐式矩阵表示来表示查询工作负载,并利用这种紧凑表示来有效地搜索差分私有算法的空间(的子集),以获得以高精度回答输入查询工作负载的算法。我们的经验表明,HDMM可以有效地回答各种低维和高维数据集上的查询,比最先进的技术具有更低的错误。
2018-08-10 cs.CR cs.DB
UN Handbook on Privacy-Preserving Computation Techniques
本文介绍了隐私保护的统计分析方法。它描述了用于敏感数据统计分析的隐私保护方法的动机,提供了此类方法可能适用的用例示例,并描述了确保隐私保护同时仍允许分析敏感数据的相关技术能力。我们的重点是在数据处理过程中保护数据隐私的方法,而不仅仅是在系统上静止或在系统之间传输时。本文档中的信息旨在供统计学家和数据科学家、数据管理者和架构师、IT专家以及安全和信息保障专家使用,因此我们明确避免介绍我们所描述的技术的加密技术细节。
2023-01-15 cs.CR cs.CY