Pain-Free Random Differential Privacy with Sensitivity Sampling
University of Melbourne(墨尔本大学);Ruhr-Universität Bochum(波鸿鲁尔大学)
差分隐私的流行方法,如拉普拉斯和指数机制,通过目标非私有函数的全局敏感性来校准随机平滑。限制这种灵敏度通常是非常复杂的分析计算。作为一种替代方案,我们提出了一个简单的采样估计非私有机制的敏感性。由于我们的敏感性估计以高概率成立,因此在有界全局敏感性下将是$(ε,δ)$ -差分隐私的任何机制自动实现$(ε,δ,γ)$ -随机差分隐私(Hall等人,2012年),不需要任何具体目标的计算。我们演示工作的例子学习者如何使用我们的方法采用自然放松的隐私保证,同时实现更准确的释放,即使是非私人功能的黑盒计算机程序。
2017-06-08 cs.CR cs.DB cs.LG
Widespread Underestimation of Sensitivity in Differentially Private Libraries and How to Fix It
我们确定了一类新的漏洞的实施差分隐私。具体来说,它们出现在计算基本统计数据(如求和)时,这是由于使用有限数据类型(即int或float)实现的算术与实数或整数上的理想算术之间的差异。这些差异导致所实施的统计数据的敏感性(即,一个人的数据能对结果产生多大的影响)要比我们预期的灵敏度大得多。因此,基本上所有的差分隐私库都未能引入足够的噪音来满足差分隐私的要求,并且我们表明这可能会在现实攻击中被利用,可以从私人查询系统中提取个人级别的信息。除了提出这些漏洞,我们还提供了一些解决方案,修改或限制的方式,其中总和的实施,以恢复理想化或接近理想化的界限的敏感性。
2022-11-10 cs.CR
Road Network-Aware Personalized Trajectory Protection with Differential Privacy under Spatiotemporal Correlations
China University of Mining and Technology(中国矿业大学);Wuhan University(武汉大学)
本文提出了一种基于道路网络的个性化轨迹保护机制,结合差分隐私与地理不可区分性,通过动态分配隐私预算和Permute-and-Flip机制,在保护隐私的同时维持服务质量。
2025-11-26 cs.CR
Counting Distinct Elements Under Person-Level Differential Privacy
本文研究个人级差分隐私下不同元素计数问题,通过最大流求解有界敏感度查询,并优化敏感度界以平衡噪声与近似误差。
2023-10-27 cs.CR cs.DS
An automatic differentiation system for the age of differential privacy
Technical University of Munich(慕尼黑工业大学);Imperial College London(帝国理工学院);University of Oxford(牛津大学);OpenMined;IIIT Hyderabad(海得拉巴国际信息技术学院)
我们介绍了氚,一个基于自动微分的灵敏度分析框架的差异私有(DP)机器学习(ML)。在此设置中的最佳噪声校准需要有效的雅可比矩阵计算和L2灵敏度的严格界限。我们的框架实现了这些目标,依赖于一个功能分析为基础的敏感性跟踪方法,我们简要概述。这种方法与基于静态图的自动微分自然无缝地互操作,与以前的工作相比,它可以在编译时间上实现数量级的改进。此外,我们证明,优化整个计算图的灵敏度,一次产生实质上更严格的估计相比,区间界限传播技术的真实灵敏度。我们的工作自然适合DP的最新发展,如个人隐私会计,旨在提供改进的隐私效用权衡,并代表了一个步骤,可访问的机器学习工具与先进的隐私会计系统的集成。
2022-04-05 cs.CR cs.LG
A unified interpretation of the Gaussian mechanism for differential privacy through the sensitivity index
Technical University of Munich(慕尼黑工业大学);Imperial College London(帝国理工学院)
高斯机制是实现差分隐私的一种普遍采用的工具,大量的研究工作都致力于它的分析。我们认为,三个流行的解释GM,即$(\varepsilon, δ)$ -DP,f-DP和雷尼DP可以表示通过使用一个单一的参数$ψ$,我们的术语的敏感性指数。$ψ$通过封装GM的两个基本量来唯一地表征GM及其属性:查询的灵敏度和噪声扰动的幅度。与ROC曲线和DP的假设检验解释有很强的联系,$ψ$为从业者提供了一个强大的方法来解释,比较和交流高斯机制的隐私保证。
2021-09-22 cs.CR cs.IT cs.LG
Privacy-Preserving Gradient Boosting Decision Trees
National University of Singapore(新加坡国立大学);The University of Western Australia(西澳大学)
梯度提升决策树(GBDT)是近年来流行的用于各种任务的机器学习模型。本文研究如何在保证差分隐私的前提下提高GBDT的模型精度。敏感性和隐私预算是差异化私有模型有效性的两个关键设计方面。现有的具有差分隐私的GBDT解决方案由于过于宽松的敏感性界限和无效的隐私预算分配(特别是在GBDT模型中的不同树之间)而遭受显著的准确性损失。宽松的敏感度界限导致更多的噪声,以获得固定的隐私级别。无效的隐私预算分配加剧了准确性损失,特别是当树的数量很大时。因此,我们提出了一种新的GBDT训练算法,实现更严格的灵敏度界限和更有效的噪声分配。具体而言,通过调查梯度的属性和GBDTs中每棵树的贡献,我们提出了自适应控制的梯度训练数据的每次迭代和叶节点裁剪,以收紧灵敏度界限。此外,我们设计了一个新的提升框架,以分配树之间的隐私预算,使准确性损失可以进一步减少。我们的实验表明,我们的方法可以实现更好的模型精度比其他基线。
2022-10-10 cs.CR cs.LG stat.ML
Differentially Private Naive Bayes Classifier using Smooth Sensitivity
Purdue University(普渡大学)
随着用户数据收集的不断增加,保护个人隐私受到了越来越多的关注。差分隐私是保护个人的一个强有力的概念。朴素贝叶斯是一种流行的机器学习算法,被用作许多任务的基线。在这项工作中,我们提供了一个差分私有朴素贝叶斯分类器,它添加了与其参数的平滑敏感度成比例的噪声。我们将我们的结果与Vaidya,Shafiq,Basu和Hong进行了比较,他们将噪声缩放到参数的全局灵敏度。在真实数据集上的实验结果表明,该方法在保持$\varepsilon$-差分隐私的同时,准确率有了显著提高.
2021-07-19 cs.CR cs.LG
Geo-Graph-Indistinguishability: Location Privacy on Road Networks Based on Differential Privacy
近年来,随着基于位置的服务(LBS)的普及,人们对位置隐私的担忧日益增加。在过去的几十年里,已经提出了许多保护位置隐私的方法。特别是基于Geo-I的扰动方法,它将真实位置随机扰动为伪位置,由于继承了差分隐私的强隐私保证而受到关注。然而,Geo-I基于欧几里德平面,即使许多LBS基于道路网络(例如,乘车共享服务)。这导致了不必要的噪声,因此在道路网络上的LBS的实用性和隐私性之间的权衡不足。为了解决这个问题,我们提出了一个新的隐私概念,地理图不可侵犯性(GG-I),道路网络上的位置,以实现更好的权衡。我们提出了图指数机制(GEM),它满足GG-I。此外,我们形式化的优化问题,以找到最佳的创业板的权衡。然而,计算复杂性的一个天真的方法来找到最佳的解决方案是禁止的,所以我们提出了一个贪心算法找到一个近似的解决方案,在可接受的时间。最后,我们的实验表明,我们提出的机制优于Geo-I的机制的权衡。
2020-10-26 cs.CR
Sensitivity estimation for differentially private query processing
针对含连接操作的复杂查询敏感度难以计算的问题,本文提出基于采样和草图的高效敏感度估计方法,在保证准确性的同时显著降低计算开销。
2023-04-19 cs.CR cs.DB
Spatial K-anonymity: A Privacy-preserving Method for COVID-19 Related Geospatial Technologies
作为COVID-19相关问题的解决方案,许多地理空间技术越来越需要考虑空间隐私问题。虽然已经推出了有效的地理空间技术,但大多数技术都为了实用而牺牲了隐私。在本文中,我们探讨空间k-匿名,隐私保护的方法,可以解决这个不必要的权衡提供最好的隐私和效用。在评估其过去在地理空间用例中的影响后,我们提出了空间k-匿名在数据共享和管理COVID-19接触追踪技术以及显示用户旅行历史的热图中的应用。然后,我们证明我们的主张通过比较空间k-匿名与其他几个空间隐私的方法,包括差分隐私,地理不可侵犯性,和手动同意基于编辑。我们的希望是提高人们对与空间隐私相关的日益增长的风险的认识,以及如何通过空间K匿名来解决这些风险。
2021-01-04 cs.CR
Geometry of Sensitivity: Twice Sampling and Hybrid Clipping in Differential Privacy with Optimal Gaussian Noise and Application to Deep Learning
本文研究差分隐私高维敏感性集合的最优高斯噪声几何,提出混合裁剪下的样本级与坐标级二次采样方法,并通过闭式RDP分析证明其隐私放大改进。
2023-09-28 cs.CR cs.IT math.IT
Protecting Locations with Differential Privacy under Temporal Correlations
随着GPS设备和基于位置的应用程序的快速发展,对位置隐私的担忧经常出现。虽然空间变换技术,如位置扰动或泛化已被广泛研究,大多数技术依赖于语法隐私模型没有严格的隐私保证。它们中的许多只考虑静态场景或在单个时间戳处扰动位置,而不考虑移动用户位置的时间相关性,因此容易受到各种推断攻击。虽然差分隐私已经被接受为隐私保护的标准,但是在基于位置的应用中应用差分隐私提出了新的挑战,因为保护需要针对单个用户即时地实施,并且需要结合用户位置之间的时间相关性。在本文中,我们提出了一个系统的解决方案,以保护位置隐私,严格的隐私保证。首先,我们提出了一个新的定义,“$δ$ -位置集”为基础的差分隐私,占在位置数据的时间相关性。其次,我们证明了著名的$\ell_1$ -范数敏感性不能捕捉多维空间中的几何敏感性,并提出了一个新的概念,敏感性壳,基于该概念,差分隐私的误差是有界的。第三,为了获得最佳效用,我们提出了一个平面各向同性机制(PIM)的位置扰动,这是第一个机制实现的差分隐私的下限。在真实数据集上的实验也表明,PIM在数据效用上明显优于基线方法。
2015-11-04 cs.CR cs.DB
Geographic Differential Privacy for Mobile Crowd Coverage Maximization
对于基于位置的广告和空间众包等现实世界的移动应用程序,成功的关键是瞄准在未来一段时间内可以最大限度地覆盖某些位置的移动用户。为了找到最佳的用户组,现有的方法通常需要关于用户的移动历史的信息,这可能导致隐私泄露。在本文中,我们提出了一种方法,以最大限度地提高移动人群的未来位置覆盖下,有保证的位置隐私保护计划。在我们的方法中,用户只需要上传他们经常访问的位置之一,更重要的是,上传的位置使用地理差分隐私策略进行混淆。我们对这个问题提出了分析和实际的解决方案。在真实用户移动数据集上的实验表明,该方法在相同的隐私保护水平下,具有更高的覆盖率,显著优于现有的地理差分隐私方法.
2017-11-18 cs.CR
Approximate Differential Privacy of the $\ell_2$ Mechanism
本研究针对近似差分隐私下的$d$维有界$\u2113_2$敏感度统计计算场景,探究$\u2113_2$机制的性能,发现其误差优于Laplace与Gaussian机制,且在维度变化时呈现相应的误差匹配与趋近特性。
2025-02-21 cs.CR
Optimal Geo-Indistinguishable Mechanisms for Location Privacy
我们认为地理不可侵犯性的位置隐私的方法,和权衡效用。我们表明,给定一个理想的程度的地理不可分割性,它是可以构建一个机制,最大限度地减少服务质量损失,使用线性规划技术。此外,我们表明,在一定的条件下,这种机制也提供了最佳的隐私的意义上的Shokri等人。此外,我们提出了一种方法,以减少约束的线性规划的数量从三次到二次,保持隐私的保证,而不影响显着的效用所产生的机制。这大大减少了求解线性规划所需的时间,从而大大扩大了可以计算最佳机构的位置集。
2014-08-24 cs.CR
DDUO: General-Purpose Dynamic Analysis for Differential Privacy
差分隐私允许对数据进行一般统计分析,并在个人层面提供隐私保护的正式保证。帮助数据分析师利用差分隐私的工具经常采用程序设计语言和库的形式。然而,设计用于差分隐私的组合验证的许多现有程序设计语言对程序员施加显著负担(以复杂类型注释的形式)。基于现有通用语言的隐私分析补充库支持更有用,但无法普及敏感性分析和隐私组合的端到端实施。我们介绍了DDUO,一个动态分析,以加强差分隐私。DDUO可供非专家使用:它的分析是自动的,不需要额外的类型注释。DDUO可以实现为现有的程序设计语言的库,我们提出了一个参考实现在Python中,具有适度的运行时开销在现实的工作负载。我们包括对现代机器学习程序中常用的几种数据类型、距离度量和操作的支持。我们还提供初始支持,用于跟踪流行Python库中数据转换的敏感性,以进行数据分析。我们形式化的DDUO系统的新的核心,并证明它的声音灵敏度分析通过一个逻辑关系度量保存。我们还通过各种案例研究来说明DDUO的可用性和灵活性,这些案例研究实现了最先进的机器学习算法。
2021-03-16 cs.CR cs.PL
Differentially Private Multi-objective Selection: Pareto and Aggregation Approaches
针对多目标差分隐私选择问题,提出PrivPareto和PrivAgg两种机制,支持局部与全局敏感度,实验证明局部敏感度方法在效用上显著更优。
2025-02-01 cs.CR
Geo-Indistinguishability: Differential Privacy for Location-Based Systems
基于位置的系统越来越流行,允许未知/不可信的服务器轻松收集大量关于用户位置的信息,最近开始引起严重的隐私问题。在本文中,我们研究地理不可侵犯性,一个正式的概念,隐私的基于位置的系统,保护用户的确切位置,同时允许近似的信息-通常需要获得一定的期望的服务-被释放。我们的隐私定义形式化的直观概念,保护用户的位置半径r内的隐私水平,取决于r,并对应于一个广义版本的众所周知的概念差分隐私。此外,我们提出了一种扰动技术,通过添加受控的随机噪声到用户的位置,实现地理不变性。我们证明了我们的技术在LBS应用程序的适用性。最后,我们比较了我们的机制与其他文献中。它变成我们的,我们的机制提供了最好的隐私保证,对于相同的效用,在所有那些不依赖于先验。
2014-02-20 cs.CR
Sensitivity analysis in differentially private machine learning using hybrid automatic differentiation
Technical University of Munich(慕尼黑工业大学);OpenMined;Imperial College London(帝国理工学院)
近年来,出现了能够部署到数据驱动任务(如机器学习(ML))的隐私保护的正式方法,如差分隐私(DP)。要用个体隐私损失的原则性分析所需的封闭式推理来验证大规模ML,需要引入新的工具来进行自动敏感性分析,并通过计算流程跟踪个人数据及其特征。为此,我们引入了一种新的\textit{hybrid}自动微分(AD)系统,它结合了反向模式AD的效率,能够获得一个封闭形式的表达式中的任何给定的数量的计算图。这使得能够对任意可微函数组合的敏感性进行建模,例如在私有数据上训练神经网络。我们通过分析统计数据库查询的个人DP保证来证明我们的方法。此外,我们调查我们的技术的应用程序的DP神经网络的训练。我们的方法可以使原则推理的隐私损失的数据处理的设置,并进一步发展的自动敏感性分析和隐私预算系统。
2021-08-17 cs.CR cs.LG cs.SC
Privacy risk in GeoData: A survey
本综述针对位置数据广泛收集带来的隐私风险,分析了各类地理掩码隐私保护技术,提出多维度分类体系,指出现有技术不足并给出未来研究方向,为数据保管者选择适配的隐私机制提供参考。
2024-09-13 cs.CR
Revisiting Certified Defense with Differential Privacy on Vision Transformers
SHOU(上海海洋大学);Tongji University(同济大学)
本文重新审视视觉Transformer中基于差分隐私的认证防御,发现补丁嵌入后注入噪声时拉普拉斯机制因灵敏度约束几何形状而崩溃,改用谱范数约束并推导无维度隐私保证以解决失效问题。
2026-11-03 cs.CR stat.AP
Towards Sensitivity-Aware Language Models
University of Luxembourg(卢森堡大学);L3S Research Center(L3S研究中心)
本文提出了一种方法,通过监督微调提升四比特量化LLMs的敏感性感知能力,使其在隐私保护方面表现更优,同时保持其他任务性能。
2026-01-28 cs.CR
Understanding the Error Sensitivity of Privacy-Aware Computing
本文研究同态加密对位故障的脆弱性,表征 CKKS 的错误敏感性,并分析 RNS 与 NTT 对其鲁棒性的影响,填补相关研究空白。
2025-06-09 cs.AR cs.CR
A model for system developers to measure the privacy risk of data
在本文中,我们提出了一个模型,可用于系统开发人员来衡量隐私风险时,他们透露数据到软件系统的用户感知。我们首先推导出一个模型来衡量感知的隐私风险的基础上现有的知识,然后我们测试我们的模型通过调查151名参与者。我们的研究结果表明,用户感知的隐私风险随着数据敏感性和可见性而单调增加,随着数据与应用程序的相关性而单调减少。此外,当用户披露数据时,默认情况下数据在应用程序中的可见程度对感知的隐私风险影响最大。该模型将使开发人员能够衡量用户与数据项相关的感知隐私风险,这将有助于他们了解如何在系统设计中处理不同的数据。
2018-09-28 cs.CR
User Customizable and Robust Geo-Indistinguishability for Location Privacy
由现有系统生成的用于确保位置隐私的位置混淆功能是单一的,并且不允许用户定制其混淆范围。这可能导致用户被映射到不期望的位置(例如,阴暗的街区)到位置请求服务。修改由用户侧的集中式服务器生成的混淆函数可能导致隐私性差,因为原始函数对这种更新不鲁棒。用户本身可能会发现理解模糊机制中涉及的参数很有挑战性(例如,位置表示的混淆范围和粒度),因此难以在隐私、实用性和定制之间设置现实的折衷。在本文中,我们提出了一个新的框架称为,CORGI,即,CustOmizable鲁棒的地理不可侵犯性,它生成的位置模糊功能对用户自定义是鲁棒的,同时基于地理不可侵犯性范式提供强大的隐私保证。CORGI利用给定区域的树表示来帮助用户指定他们的隐私和定制要求。CORGI的服务器端将这些需求作为输入,并生成一个模糊函数,该函数满足Geo-Incredibility需求,并且对用户端的定制具有鲁棒性。混淆函数被返回给用户,用户然后可以选择更新混淆函数(例如,混淆范围、位置表示的粒度)。在真实数据集上的实验结果表明,CORGI可以有效地产生混淆矩阵,更强大的用户定制。
2022-10-01 cs.CR
A Privacy-Preserving, Accountable and Spam-Resilient Geo-Marketplace
具有丰富功能的移动设备可以沿着用户轨迹记录视频、交通参数或空气质量读数。虽然这些数据可能很有价值,但用户很少因收集这些数据而获得奖励。新兴的数字市场允许所有者向感兴趣的买家宣传他们的数据。我们专注于地理市场,买家根据地理标签搜索数据。这些市场带来了重大挑战。首先,如果所有者上传带有暴露的地理标签的数据,他们将面临严重的隐私风险。其次,所有者必须对广告数据负责,并且不得允许随后更改地理标签。第三,这样的系统可能容易受到密集的垃圾邮件活动的影响,其中不诚实的所有者用虚假广告淹没系统。我们提出了一个地理市场,解决所有这些问题。我们采用可搜索加密、数字承诺和区块链来保护所有者的位置隐私,同时纳入问责制和垃圾邮件弹性机制。我们实现了一个原型,两种替代设计,获得不同的信任假设和性能之间的权衡。我们在真实位置数据上的实验表明,可以实现上述设计目标,具有实用的性能和合理的财务开销。
2019-09-30 cs.CR
A note on privacy preserving iteratively reweighted least squares
University of Amsterdam(阿姆斯特丹大学)
迭代加权最小二乘(IRLS)是机器学习中广泛使用的估计广义线性模型参数的方法。特别是,在线性模型下的L1最小化的IRLS在每个步骤中提供了一个封闭形式的解决方案,这是一个简单的乘法之间的逆加权二阶矩矩阵和加权一阶矩向量。然而,当处理隐私敏感数据时,开发隐私保护IRLS算法面临两个挑战。首先,由于二阶矩矩阵的求逆,通常的灵敏度分析在差分隐私纳入一个单一的数据点扰动变得复杂,往往需要不切实际的假设。其次,由于其迭代性质,会发生显著的累积隐私丢失。然而,添加高水平的噪声来补偿隐私损失会阻碍获得准确的估计。在这里,我们开发了一种实用的算法,克服了这些挑战,并输出私有化和准确的IRLS解决方案。在我们的方法中,我们分别分析每个时刻的灵敏度,并处理矩阵求逆和乘法作为一个后处理步骤,这简化了灵敏度分析。此外,我们应用{ \it{concentrated differential privacy} }形式主义,一个更宽松的版本的差分隐私,这需要增加一个显着更少的噪音量相同水平的隐私保证,相比传统的和先进的组合物的差异隐私机制。
2016-05-24 cs.AI cs.CR stat.AP
Private Count Release: A Simple and Scalable Approach for Private Data Analytics
本研究提出一种无需依赖ℓ₀敏感度贡献边界的差分隐私计数发布数据分析系统,仅需少量接入工作与超参数调优,就能发布更多更准确的结果,可推动差分隐私在更多数据分析场景的规模化应用。
2024-03-08 cs.CR
Mind the Third Eye! Benchmarking Privacy Awareness in MLLM-powered Smartphone Agents
该研究针对MLLM驱动的智能手机智能体隐私意识不足问题,构建了含7138个场景的大规模基准,测试发现主流智能体隐私意识普遍较差,闭源模型表现更优,为平衡智能体效用与隐私提供参考。
2025-09-03 cs.CR cs.CV
Personalized 3D Spatiotemporal Trajectory Privacy Protection with Differential and Distortion Geo-Perturbation
China University of Mining and Technology(中国矿业大学);Hefei University of Technology(合肥工业大学);University of Padua(帕多瓦大学);Peking University(北京大学);University of Houston(休斯顿大学);Kyung Hee University(庆熙大学)
针对3D时空轨迹中攻击者利用时空相关性和高度信息导致隐私泄露的问题,提出3DSTPM机制,结合3D地理不可区分性和失真隐私,通过窗口自适应隐私预算分配和PF扰动,平衡隐私保护与服务质量。
2026-06-09 cs.CR
Differentially Private Selection using Smooth Sensitivity
针对差分隐私选择中全局敏感度方法噪声过大的问题,提出利用平滑敏感度的SNM机制,其预期误差上限更紧,在百分位数选择等三个应用中准确性优于现有方法。
2025-04-10 cs.CR cs.DB cs.LG
Privacy-Preserving ECG Data Analysis with Differential Privacy: A Literature Review and A Case Study
本文综述差分隐私在ECG分析中的应用研究,提出六步流程实现心律失常数据库的差分隐私查询发布并给出参数选择等指导,同时指出该应用的不足与挑战。
2024-06-19 cs.CR
Flexible Accuracy for Differential Privacy
差分隐私(DP)已成为隐私保护数据分析的黄金标准。虽然它提供了最严格的隐私概念之一,但在许多情况下,它的适用性有限。我们的主要贡献是用{ \em Flexible Accuracy}增强差分隐私,这允许输入中的小失真(例如,丢弃异常值),从而允许将DP机制扩展到高灵敏度功能。我们提出的机制,可以帮助实现这一概念的功能,以前没有有意义的差异私有机制。特别是,我们说明了一个应用程序的差异私人直方图,这反过来又产生机制,揭示支持的数据集或数据中的极值。我们的结构分析利用新的多功能组成定理,促进模块化设计。所有上述扩展使用我们的新定义框架,这是在“有损Wasserstein距离”-分布的2参数误差测量。这可能是独立的利益。
2021-10-18 cs.CR
Privacy Protection of Automotive Location Data Based on Format-Preserving Encryption of Geographical Coordinates
针对汽车位置数据共享中的隐私泄露风险,提出基于地理坐标格式保留加密的高精度隐私保护机制,通过密钥映射降低精度损失,实验显示解密恢复精度达100%。
2025-10-23 cs.CR
Geo-MOEA: A Multi-Objective Evolutionary Algorithm with Geo-obfuscation for Mobile Crowdsourcing Workers
移动互联网和共享经济的快速发展带来了空间众包的繁荣。SC应用根据任务请求者和外包工人(如滴滴、美团和Uber)上报的位置信息分配各种任务。然而,SC服务器通常不值得信赖,并且暴露用户的位置会引起隐私问题。在本文中,我们设计了一个框架称为Geo-MOEA(多目标进化算法与地理混淆),以保护在移动网络环境中的工作人员参与SC平台的位置隐私。我们提出了一种自适应的区域化混淆方法与推理误差界的基础上的地理不可侵犯性(一个强的概念,差分隐私),这是适合于大规模的位置数据和任务分配的情况下。这使得每个工作者能够报告利用个性化推断误差阈值自适应地生成的伪位置。此外,作为一种流行的计算智能方法,MOEA被引入到SC服务可用性和隐私保护之间的权衡优化,同时确保理论上的最一般的条件下保护位置集更大的搜索空间。最后,在两个公共数据集上的实验结果表明,我们的Geo-MOEA方法在保证差分和地理失真位置隐私的同时,实现了高达20%的服务质量损失减少。
2022-11-17 cs.CR
Practical Differentially Private Top-$k$ Selection with Pay-what-you-get Composition
我们研究了在用户级差分隐私的大域上的顶级$k$选择问题。通常,指数机制或报告噪声最大值是用于解决此问题的算法。然而,这些算法需要查询数据库以获得每个域元素的计数。我们专注于设置数据域是未知的,这是不同的设置频繁项集的一个先验类型的算法可以帮助修剪域元素的空间查询。我们设计的算法,确保(近似)$(ε,δ>0)$ -差分隐私,只需要访问真正的顶部$\bar{k}$元素的数据为任何选择的$\bar{k} \geq k$。这是使差分隐私实用的非常期望的特征,因为算法不需要域的知识。我们既考虑了用户的数据可以将任意数量的计数修改至多1的设置,即不受限制的灵敏度,也考虑了用户的数据可以将某个小的固定数量的计数修改至多1的设置,即受限制的灵敏度。此外,我们还提供了一个为我们的算法绑定的付费隐私组合。也就是说,我们的算法在查询顶部$k$元素时可能返回少于$k$的元素,但总体隐私预算仅随结果集的大小而减少。
2019-09-18 cs.CR
Designing Incentive Schemes For Privacy-Sensitive Users
企业(零售商)通常希望向个人(消费者)提供个性化的广告(优惠券),但有可能引起消费者的强烈反应,这些消费者想要定制的购物体验,但觉得他们的隐私受到了侵犯。现有的隐私模型,如差分隐私或信息论试图量化隐私风险,但没有捕捉到的主观经验和隐私敏感性的异质表达。我们提出了一个马尔可夫决策过程(MDP)模型来捕获(i)不同的消费者隐私敏感度通过随时间变化的状态;(ii)不同的优惠券类型(动作集)的零售商;(iii)的动作和状态相关的成本感知隐私侵犯。对于简单的情况下,两个状态(“正常”和“警报”),两个优惠券(有针对性的和非有针对性的)模型,和消费者的行为统计已知的零售商,我们表明,一个固定的阈值为基础的政策是最佳的优惠券提供策略的零售商,希望最大限度地减少其预期的折扣成本。阈值是所有模型参数的函数;如果零售商认为消费者处于“警报”状态,则零售商提供有针对性的优惠券。我们扩展这个两状态模型的消费者与多个隐私敏感性的状态,以及优惠券依赖的状态转移概率。此外,我们研究了不完美的(噪声)的消费者的成本反馈和不确定的初始信念状态的情况下。
2015-09-23 cs.CR cs.GT
PrivDPR: Synthetic Graph Publishing with Deep PageRank under Differential Privacy
本文提出PrivDPR,一种基于深度PageRank的差分隐私合成图发布方法,通过向特定权重梯度加噪并利用权重归一化缓解高敏感性与隐私预算分割问题,实验证明其在多个图结构属性上保持高效用。
2025-01-04 cs.CR cs.DB
Is Geo-Indistinguishability What You Are Looking for?
自2013年提出以来,地理不可侵犯性已被巩固为位置隐私的正式概念,并在此基础上产生了丰富的文献。大多数后续工作的一个问题是,他们盲目地依赖于地理不可侵犯性来提供位置隐私,而忽略了这种隐私保证的数值解释。在本文中,我们提供了另一种表述的地理不可侵犯性作为一个对手的错误,并用它来表明,隐私与~可以获得的效用权衡并不像文献所暗示的那样吸引人。我们还表明,虽然地理不可分割性保证了对手的错误的下限,这是在实现比其他噪声生成机制的平均误差方面的性能较差的成本,并使暴露的混淆位置是无用的从服务质量的角度来看的可能性。
2017-09-19 cs.CR
Heterogeneous Differential Privacy
个人化系统大量收集个人数据,使保护个人隐私变得越来越困难。在个性化系统中保护隐私的大多数方法通常在用户之间统一解决这个问题,从而忽略了用户有不同的隐私态度和期望(甚至在他们自己的个人数据中)的事实。在本文中,我们建议考虑这种非均匀性的隐私期望,通过引入异构差分隐私的概念。这一概念既捕捉了用户之间隐私期望的变化,也捕捉了与同一用户相关的不同信息之间的变化。我们还描述了一个明确的机制,实现异构差分隐私,这是一个修改的拉普拉斯机制Dwork,McSherry,Nissim和Smith。简而言之,该机制通过在输入域上使用线性变换来操纵函数的灵敏度来实现异构差分隐私。最后,我们在真实数据集上评估了所提出的机制对语义聚类任务的影响。我们的实验结果表明,异构差分隐私可以解释不同的隐私态度,同时保持了良好的实用性水平的语义聚类任务的召回。
2015-04-27 cs.CR
Near Instance-Optimality in Differential Privacy
Stanford University(斯坦福大学)
我们开发了两个概念的实例最优性差分隐私,经典统计理论的启发:一个通过定义一个本地极大极小风险和其他考虑无偏机制和类比的Cramer-Rao界,我们表明,本地模的连续性的估计的兴趣完全决定了这些数量。我们还开发了一个互补的收集机制,我们称之为逆灵敏度机制,这是实例最优(或近实例最优)的一大类被估量。此外,这些机制在每个实例上对于几个感兴趣的函数类(包括实值连续函数)都一致优于平滑灵敏度框架。我们仔细地提出了两个实例的机制,中位数和强大的回归估计与相应的实验。
2020-05-16 cs.CR cs.LG stat.ML
Differentially Private Deep Learning with Smooth Sensitivity
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Salesforce Research(Salesforce研究院)
确保用于训练现代机器学习模型的敏感数据的隐私性在许多实践领域都至关重要。研究这些问题的一种方法是通过差分隐私的镜头。在此框架中,隐私保证通常通过以使得用于训练模型的数据的细节变得模糊的方式扰动模型来获得。这种方法的一个特定实例是通过“教师-学生”框架,其中拥有敏感数据的教师向学生提供有用但嘈杂的信息,希望允许学生模型在给定任务上表现良好,而无需访问敏感数据的特定特征。因为更强的隐私保障通常涉及教师方面更大的干扰,部署现有的框架从根本上涉及学生的表现和隐私保障之间的权衡。在以前的作品中使用的最重要的技术之一涉及教师模型的合奏,返回信息的基础上嘈杂的投票程序的学生。在这项工作中,我们提出了一种新的投票机制,具有平滑的灵敏度,我们称之为不可变的噪声ArgMax,在一定条件下,可以承受非常大的随机噪声从老师,而不影响有用的信息传递给学生。与以前的工作相比,我们的方法提高了国家的最先进的方法的所有措施,并扩展到更大的任务,更好的性能和更强的隐私($ε\approx 0$)。这个新提出的框架可以应用于任何机器学习模型,并为需要在大量数据上训练的任务提供了一个有吸引力的解决方案。
2020-03-01 cs.AI cs.CR cs.LG
Local Sensitivity in Exponential Selection: Failure Modes and Valid Calibrations
University of Texas at San Antonio(圣安东尼奥德克萨斯大学);University of Virginia(弗吉尼亚大学)
本文研究私有选择中用依赖数据集的局部敏感性替代全局敏感性的可行性,提出三种含高概率后悔界的有效方法,包括局部敏感性上界、PTR变体及平滑敏感性相关设计,均满足差分隐私要求。
2026-10-09 cs.CR cs.DS
Renyi Differential Privacy of Propose-Test-Release and Applications to Private and Robust Machine Learning
Princeton University(普林斯顿大学);Virginia Tech(弗吉尼亚理工大学)
提议-测试-发布(PTR)是一个差分隐私框架,它使用函数的局部敏感性,而不是它们的全局敏感性。该框架通常用于以差异化的私有方式发布稳健的统计数据,例如中位数或修剪均值。虽然PTR是十多年前引入的一个通用框架,但在鲁棒SGD等需要许多自适应鲁棒查询的应用程序中使用它是具有挑战性的。这主要是由于缺乏Renyi差分隐私(RDP)分析,这是差异隐私深度学习的矩会计方法的基本成分。在这项工作中,我们推广了标准PTR,并推导出第一RDP界时,目标函数具有有界的全局灵敏度。我们表明,我们的RDP约束PTR产生更严格的DP保证比直接分析的$(\eps, δ)$ -DP。我们还推导出算法特定的隐私放大界限的PTR下采样。我们表明,我们的界是更严格的比一般的上限和接近下限。我们的RDP界限,使更严格的隐私损失计算组成的许多自适应运行的PTR。作为我们的分析的应用,我们表明,PTR和我们的理论结果可以用来设计不同的私人变量拜占庭强大的训练算法,使用强大的统计梯度聚合。我们在不同的数据集和架构上对标签,特征和梯度腐败的设置进行了实验。我们表明,基于PTR的私人和强大的训练算法显着提高了效用相比,基线。
2022-09-16 cs.CR cs.LG
Deep Learning under Fractional-Order Differential Privacy
MESA Lab, Dept. of EECS University of California, Merced(加州大学默塞德分校电子工程与计算机科学系MESA实验室);Dept. of Applied Mathematics University of California, Merced(加州大学默塞德分校应用数学系)
本文提出FO-DP-SGD,通过引入分数记忆机制改进隐私保护,实验显示在SVHN、CIFAR-10和CIFAR-100上提升了隐私与效用性能。
2026-05-11 cs.CR cs.LG
Differentially Private Relational Learning with Entity-level Privacy Guarantees
Georgia Institute of Technology(佐治亚理工学院);Purdue University(普渡大学)
本文提出了一种具有实体级差分隐私保证的关系学习框架,通过自适应梯度裁剪和隐私放大分析,实现对关系数据的隐私保护与模型训练的平衡。
2026-02-03 cs.CR cs.LG
The Relative Gaussian Mechanism and its Application to Private Gradient Descent
CNRS(法国国家科学研究中心);LJK(让·昆廷诺实验室);CMAP(应用数学中心);École Polytechnique(巴黎综合理工学院);Inria(法国国家信息与自动化研究所);Université de Montpellier(蒙彼利埃大学)
本文提出相对高斯机制(RGM),基于相对L2敏感性假设,使噪声方差依赖于输出范数,并证明其RDP紧致界限,应用于私有梯度下降以提供紧致隐私保证。
2024-03-19 cs.CR cs.LG math.OC
Don't Send What You Don't Need: Question-Guided Token Pruning as a Privacy Defense for Vision-Language Models
Southern Illinois University Carbondale(南伊利诺伊大学卡本代尔分校)
提出QPriv-VL框架,利用动态阈值预测器基于问题相关性剪枝视觉令牌,在联邦/分割学习中防御隐私攻击,以约40%令牌保持准确率并显著降低攻击成功率。
2026-09-15 cs.AI cs.CR cs.CV
Privacy Amplification by Subsampling in Time Domain
University of California, San Diego(加州大学圣迭戈分校)
聚合时间序列数据,如交通流量和站点占用率,会在一段时间内重复从人群中采样统计数据。这些数据对于了解特定人群的趋势非常有用,但也会带来重大的隐私风险,可能会揭示,例如,花时间在哪里。由于单个参与者可能对序列产生很大影响,因此产生满足差分隐私(DP)标准定义的时间序列的私有版本是具有挑战性的:如果个人可以对每个时间步做出贡献,则满足隐私所需的加性噪声量随采样的时间步数线性增加。因此,如果信号持续时间长或过采样,则必须添加过量的噪声,淹没潜在的趋势。然而,在许多应用中,个人实际上不能参与每个时间步骤。在这种情况下,我们观察到单个参与者的影响(敏感性)可以通过时间上的子采样和/或过滤来减少,同时仍然满足隐私要求。使用一种新的分析,我们表明这种显着降低敏感性,并提出了相应的一类隐私机制。我们用真实世界和合成时间序列数据实证证明了这些技术的效用。
2022-01-13 cs.AI cs.CR cs.LG
Spatial Privacy Pricing: The Interplay between Privacy, Utility and Price in Geo-Marketplaces
University of Southern California(南加州大学);Microsoft Research AI(微软研究院人工智能)
地理市场允许用户为他们的位置数据付费。关心隐私的用户可能希望对准确定位他们位置的数据收取更多费用,但可能对更模糊的数据收取更少费用。买家更愿意将数据成本降至最低,但可能不得不花费更多来获得必要的准确性。我们将隐私、效用和价格之间的这种相互作用称为\emph{spatial privacy pricing}。我们形式化的问题,数学与买方决定是否要打开一个餐厅,通过购买位置数据,以确定潜在的客户数量是否足以打开一个示例问题。这个问题被表达为一个顺序决策问题,其中买方首先做出一系列关于购买哪些数据的决定,并最终决定是否开设餐厅。我们提出了两种算法来解决这个问题,包括实验表明,它们的性能优于基线。
2020-09-04 cs.AI cs.CR
Concentrated Geo-Privacy
本文提出集中式地理隐私(CGP)作为几何数据的隐私概念,具备机制简单、高维低噪声和高级组合等优势,并设计了身份查询、k近邻和凸包的隐私保护机制。
2023-09-08 cs.CG cs.CR cs.DS
Metric geometry of the privacy-utility tradeoff
本文利用度量隐私和度量几何,提出用“熵尺度”刻画最优隐私-精度权衡,并通过多种度量空间示例验证该框架的适用性。
2024-05-01 cs.CR cs.DS math.PR
The Fair Value of Data Under Heterogeneous Privacy Constraints in Federated Learning
UC Berkeley(加州大学伯克利分校);UC Santa Barbara(加州大学圣巴巴拉分校)
本文基于公理化公平性(沙普利值)提出首个考虑隐私约束的数据公平补偿概念,并研究异构联邦学习中平台在不同隐私敏感度下的激励设计策略。
2024-02-04 cs.CR cs.GT cs.LG