FedXGBoost: Privacy-Preserving XGBoost for Federated Learning
Technical University of Munich(慕尼黑工业大学);Bytedance Inc.(字节跳动公司);Massachusetts Institute of Technology(麻省理工学院)
联邦学习是一种分布式机器学习框架,它支持多方协作训练,同时确保数据隐私。XGBoost是最先进的树提升框架,由于传统隐私保护方法的高成本,XGBoost对联邦学习的实际适应仍然有限。为了解决这个问题,我们提出了两种具有隐私保证的联邦XGBoost变体:FedXGBoost-SMM和FedXGBoost-LDP。我们的第一个协议FedXGBoost-SMM部署了增强的安全矩阵乘法方法,以无损的准确性和较低的开销比基于防御的技术来保护隐私。第二个协议FedXGBoost-LDP是独立开发的,它是用噪声扰动为本地差分隐私设计的,并在真实世界和合成数据集上进行了经验评估。
2021-08-12 cs.CR cs.LG
Statistical Indistinguishability of Learning Algorithms
National Technical University of Athens(雅典国立技术大学);Yale University(耶鲁大学);Google Research(谷歌研究院);Technion(以色列理工学院)
本文通过分布的Total Variation距离研究学习规则的相似性,定义了TV不可区分性,并证明其与可复制性、近似差分隐私等算法稳定性概念的信息论等价性,同时提供了统计放大和提升算法。
2023-05-23 cs.DS cs.LG stat.ML
Privacy Preserving Machine Learning for Electronic Health Records using Federated Learning and Differential Privacy
University of Washington(华盛顿大学)
针对电子健康记录的高敏感属性,为保障机器学习模型分析患者数据时的隐私安全,提出结合联邦学习与差分隐私的隐私保护技术方案。
2024-06-23 cs.CR cs.ET cs.LG
A generic framework for privacy preserving deep learning
Imperial College London(帝国理工学院);DeepMind(深度思维);University of Oxford(牛津大学);Case Western Reserve University(凯斯西储大学)
我们详细介绍了一个用于隐私保护的新框架深度学习并讨论了其资产。该框架重视数据的所有权和安全处理,并引入了基于命令链和张量的有价值的表示。这种抽象允许实现复杂的隐私保护结构,如联邦学习,安全多方计算和差分隐私,同时仍然向最终用户公开熟悉的深度学习API。我们报告了波士顿住房和皮马印第安人糖尿病数据集的早期结果。虽然除了差分隐私之外的隐私特征不影响预测准确性,但是框架的当前实现引入了显著的性能开销,这将在开发的稍后阶段解决。我们相信这项工作是一个重要的里程碑,为隐私保护深度学习引入了第一个可靠的通用框架。
2018-11-13 cs.CR cs.LG stat.ML
FedREP: A Byzantine-Robust, Communication-Efficient and Privacy-Preserving Framework for Federated Learning
Nanjing University(南京大学)
联邦学习(FL)是近年来的研究热点,其中拜占庭鲁棒性、通信效率和隐私保护是FL的三个重要方面。然而,这三个方面之间的紧张关系使得很难同时考虑到所有这些方面。鉴于这一挑战,我们从理论上分析了通信压缩方法应满足的条件,以兼容现有的拜占庭鲁棒方法和隐私保护方法。受分析结果的启发,我们提出了一种新的通信压缩方法,称为共识稀疏化(ConSpar)。据我们所知,ConSpar是第一种通信压缩方法,旨在兼容拜占庭鲁棒方法和隐私保护方法。在ConSpar的基础上,我们进一步提出了一个新的FL框架FedREP,它是拜占庭式的鲁棒性,通信效率和隐私保护。我们从理论上证明了FedREP的拜占庭鲁棒性和收敛性。实证结果表明,FedREP可以显着优于通信效率的隐私保护基线。此外,与拜占庭强大的通信效率基线相比,FedREP可以实现相当的准确性,并具有隐私保护的额外优势。
2023-03-09 cs.CR cs.DC cs.LG
Combined Use of Federated Learning and Image Encryption for Privacy-Preserving Image Classification with Vision Transformer
Tokyo Metropolitan University(东京都立大学)
近年来,深度学习的隐私保护方法已经成为一个迫切的问题。因此,我们提出了联邦学习(FL)和加密图像的隐私保护图像分类下使用的视觉Transformer(ViT)的组合使用。所提出的方法不仅允许我们在多个参与者之间进行训练模型而不直接共享原始数据,而且还首次保护了测试(查询)图像的隐私。此外,它还可以保持与正常训练模型相同的精度。在一个实验中,所提出的方法被证明是很好的工作,没有任何性能下降的CIFAR-10和CIFAR-100数据集。
2023-03-03 cs.CR cs.CV cs.LG
Private Dataset Generation Using Privacy Preserving Collaborative Learning
Technische Hochschule Ingolstadt(英戈尔施塔特应用技术大学)
随着深度学习算法在许多应用中的使用越来越多,与隐私和对抗攻击相关的新研究问题正在出现。然而,深度学习算法的改进需要越来越多的数据在研究社区内共享。联邦学习、差分隐私、附加秘密共享等方法提供了一种在边缘上训练机器学习模型而不从边缘移动数据的方法。然而,它是非常计算密集型的,并且容易受到对抗攻击。因此,这项工作引入了一个隐私保护FedCollabNN框架,用于在边缘训练机器学习模型,该框架具有计算效率和对对抗攻击的鲁棒性。使用MNIST数据集的仿真结果表明了该框架的有效性。
2020-04-28 cs.CR cs.LG stat.ML
Privacy-preserving Decentralized Federated Learning over Time-varying Communication Graph
Lancaster University(兰卡斯特大学)
确定一组学习者如何以完全分散的(点对点,没有协调员)方式提供隐私保护的联邦学习是一个开放的问题。我们提出了第一个隐私保护的基于共识的算法,分布式学习器,以实现分散的全球模型聚合的环境中的高流动性,学习器之间的通信图可能会有所不同,连续轮的模型聚合。特别地,在每一轮全局模型聚合中,Metropolis-Hastings方法被应用于基于当前通信拓扑来更新加权邻接矩阵。此外,Shamir的秘密共享方案的整合,以促进隐私达成共识的全球模型。本文建立了该算法的正确性和隐私属性。通过建立在联邦学习框架上的仿真实验,对算法的计算效率进行了评估。
2022-10-01 cs.CR cs.LG cs.MA
FedPass: Privacy-Preserving Vertical Federated Deep Learning with Adaptive Obfuscation
Webank(微众银行);HKUST(香港科技大学)
垂直联邦学习(VFL)允许具有标记特征的主动方利用被动方的辅助特征来提高模型性能。在VFL的训练和推理过程中,私有特征和标签泄漏问题引起了广泛的研究关注。在本文中,我们提出了一个通用的隐私保护垂直联邦深度学习框架FedPass,它利用自适应混淆来同时保护特征和标签。从理论上证明了私有特征和标签的强隐私保护能力(定理1和定理2)。不同数据集和网络架构的广泛实验结果也证明了FedPass相对于现有方法的优越性,因为它在隐私和模型性能之间接近最佳的权衡。
2023-01-31 cs.CR cs.DC cs.LG
A Privacy-Preserving and Trustable Multi-agent Learning Framework
Bennett University(贝内特大学);Syracuse University(雪城大学)
分布式多智能体学习使智能体能够合作训练模型,而不需要共享它们的数据集。虽然这种设置确保了一定程度的隐私,但已经表明,即使当数据不直接共享时,训练过程也容易受到隐私攻击,包括数据重建和模型反演攻击。此外,在反向标签或随机数据上进行训练的恶意代理可能会任意削弱全局模型的准确性。本文解决了这些挑战,并提出了隐私保护和可信赖的分布式学习(PT-DL),这是一个完全分散的框架,依赖于差分隐私来保证代理数据的强大隐私保护,以及以太坊智能合约来确保可信赖性。本文表明,PT-DL是弹性高达50%的共谋攻击,具有很高的概率,在恶意的信任模型和实验评估说明了所提出的模型的好处,作为一个隐私保护和可信的分布式多智能体学习系统的几个分类任务。
2021-06-02 cs.AI cs.CR cs.LG
Cascading Bandit under Differential Privacy
Shanghai Jiao Tong University(上海交通大学);University of Michigan(密歇根大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
研究了级联强盗中的\emph{differential privacy (DP)}和\emph{local differential privacy (LDP)}。在DP下,我们提出了一个算法,它保证$ε$ -不变性和遗憾的$\mathcal{O}((\frac{\log T}ε)^{1+ξ})$为任意小的$ξ$。这是对$\mathcal{O}(\frac{\log^3 T}ε)$以前工作的一个重大改进。在($ε$,$δ$)-LDP下,通过权衡隐私预算$ε$和错误概率$δ$,我们放松了$K^2$依赖性,得到了一个遗憾值$\mathcal{O}(\frac{K\log (1/δ) \log T}{ε^2})$,其中$K$是手臂子集的大小.通过对组分的分析,这一结果对高斯机制和拉普拉斯机制都成立。我们的结果扩展到组合半强盗。我们显示了DP和LDP级联土匪各自的下界。大量的实验证实了我们的理论发现。
2021-06-04 cs.LG
Privacy Preserving in Non-Intrusive Load Monitoring: A Differential Privacy Perspective
Tsinghua University(清华大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
智能电表设备可以更好地了解需求,避免私人信息泄露的潜在风险。减轻这种风险的一种有希望的解决方案是将噪声注入到仪表数据中以实现一定水平的差分隐私。在本文中,我们投一次性的非侵入式负载监测(NILM)的压缩感知框架,并弥合NILM推理的理论精度和差分隐私的参数之间的差距。然后,我们推导出有效的理论界提供见解的差分隐私参数如何影响NILM的性能。此外,我们推广了我们的结论,提出了层次框架来解决多镜头NILM问题。数值实验验证了我们的分析结果,并提供更好的物理见解的差分隐私在各种实际情况下。这也说明了我们的工作对一般隐私保护机制设计的意义。
2020-11-12 cs.CR cs.LG cs.SY
Geo-Graph-Indistinguishability: Location Privacy on Road Networks Based on Differential Privacy
近年来,随着基于位置的服务(LBS)的普及,人们对位置隐私的担忧日益增加。在过去的几十年里,已经提出了许多保护位置隐私的方法。特别是基于Geo-I的扰动方法,它将真实位置随机扰动为伪位置,由于继承了差分隐私的强隐私保证而受到关注。然而,Geo-I基于欧几里德平面,即使许多LBS基于道路网络(例如,乘车共享服务)。这导致了不必要的噪声,因此在道路网络上的LBS的实用性和隐私性之间的权衡不足。为了解决这个问题,我们提出了一个新的隐私概念,地理图不可侵犯性(GG-I),道路网络上的位置,以实现更好的权衡。我们提出了图指数机制(GEM),它满足GG-I。此外,我们形式化的优化问题,以找到最佳的创业板的权衡。然而,计算复杂性的一个天真的方法来找到最佳的解决方案是禁止的,所以我们提出了一个贪心算法找到一个近似的解决方案,在可接受的时间。最后,我们的实验表明,我们提出的机制优于Geo-I的机制的权衡。
2020-10-26 cs.CR
Is Geo-Indistinguishability What You Are Looking for?
自2013年提出以来,地理不可侵犯性已被巩固为位置隐私的正式概念,并在此基础上产生了丰富的文献。大多数后续工作的一个问题是,他们盲目地依赖于地理不可侵犯性来提供位置隐私,而忽略了这种隐私保证的数值解释。在本文中,我们提供了另一种表述的地理不可侵犯性作为一个对手的错误,并用它来表明,隐私与~可以获得的效用权衡并不像文献所暗示的那样吸引人。我们还表明,虽然地理不可分割性保证了对手的错误的下限,这是在实现比其他噪声生成机制的平均误差方面的性能较差的成本,并使暴露的混淆位置是无用的从服务质量的角度来看的可能性。
2017-09-19 cs.CR
Geo-Indistinguishability: Differential Privacy for Location-Based Systems
基于位置的系统越来越流行,允许未知/不可信的服务器轻松收集大量关于用户位置的信息,最近开始引起严重的隐私问题。在本文中,我们研究地理不可侵犯性,一个正式的概念,隐私的基于位置的系统,保护用户的确切位置,同时允许近似的信息-通常需要获得一定的期望的服务-被释放。我们的隐私定义形式化的直观概念,保护用户的位置半径r内的隐私水平,取决于r,并对应于一个广义版本的众所周知的概念差分隐私。此外,我们提出了一种扰动技术,通过添加受控的随机噪声到用户的位置,实现地理不变性。我们证明了我们的技术在LBS应用程序的适用性。最后,我们比较了我们的机制与其他文献中。它变成我们的,我们的机制提供了最好的隐私保证,对于相同的效用,在所有那些不依赖于先验。
2014-02-20 cs.CR
Voice-Indistinguishability: Protecting Voiceprint in Privacy-Preserving Speech Data Release
Kyoto University(京都大学);National Institute of Information and Communications Technology(国立信息与通信技术研究所)
随着亚马逊Echo和苹果HomePod等智能设备的发展,语音数据已经成为大数据的一个新维度。然而,隐私和安全问题可能会阻碍真实世界语音数据的收集和共享,这些数据包含说话者的可识别信息,即,声纹,被认为是一种生物识别。目前关于声纹隐私保护的研究既没有提供一个有意义的隐私-效用权衡,也没有提供一个正式和严格的隐私定义。在这项研究中,我们设计了一个新的和严格的隐私度量声纹隐私,这是所谓的声音不可否认性,通过扩展差分隐私。我们还提出了隐私保护语音数据发布满足语音不可否认性的机制和框架。在公开数据集上的实验验证了所提方法的有效性和效率。
2020-04-16 cs.CR cs.SD eess.AS
User Customizable and Robust Geo-Indistinguishability for Location Privacy
由现有系统生成的用于确保位置隐私的位置混淆功能是单一的,并且不允许用户定制其混淆范围。这可能导致用户被映射到不期望的位置(例如,阴暗的街区)到位置请求服务。修改由用户侧的集中式服务器生成的混淆函数可能导致隐私性差,因为原始函数对这种更新不鲁棒。用户本身可能会发现理解模糊机制中涉及的参数很有挑战性(例如,位置表示的混淆范围和粒度),因此难以在隐私、实用性和定制之间设置现实的折衷。在本文中,我们提出了一个新的框架称为,CORGI,即,CustOmizable鲁棒的地理不可侵犯性,它生成的位置模糊功能对用户自定义是鲁棒的,同时基于地理不可侵犯性范式提供强大的隐私保证。CORGI利用给定区域的树表示来帮助用户指定他们的隐私和定制要求。CORGI的服务器端将这些需求作为输入,并生成一个模糊函数,该函数满足Geo-Incredibility需求,并且对用户端的定制具有鲁棒性。混淆函数被返回给用户,用户然后可以选择更新混淆函数(例如,混淆范围、位置表示的粒度)。在真实数据集上的实验结果表明,CORGI可以有效地产生混淆矩阵,更强大的用户定制。
2022-10-01 cs.CR
Privacy-preserving Federated Learning for Residential Short Term Load Forecasting
FINATRAX, University of Luxembourg(卢森堡大学FINATRAX);University of Luxembourg(卢森堡大学)
由于间歇性发电和动态需求模式的高水平,对住宅负荷的准确预测变得至关重要。智能电表在进行这些预测时可以发挥重要作用,因为它们提供详细的负荷数据。然而,由于数据隐私要求,使用智能电表数据进行负荷预测具有挑战性。本文研究了如何通过结合联邦学习和隐私保护技术(如差分隐私和安全聚合)来满足这些要求。在我们的分析中,我们使用了大量的住宅负载数据,并模拟了不同的联邦学习模型和隐私保护技术如何影响性能和隐私。我们的模拟表明,结合联邦学习和隐私保护技术可以确保高预测准确性和接近完全的隐私。具体来说,我们发现,这种组合使高水平的信息共享,同时确保隐私的处理负荷数据和预测模型。此外,我们确定并讨论了应用联邦学习,差分隐私和安全聚合住宅短期负荷预测的挑战。
2022-09-19 cs.AI cs.LG cs.SY
Channel Chart Location Privacy Based on Geo-Indistinguishability
ENSEA, CY Cergy Paris University(巴黎塞吉-蓬图瓦兹大学);CNRS(法国国家科学研究中心);Pontifical Catholic University of Rio de Janeiro (PUC-Rio)(里约热内卢天主教大学);York University(约克大学);Barkhausen Institut gGmbH(巴伐利亚研究所)
针对信道制图中的位置隐私问题,提出基于马氏范数平面拉普拉斯机制的图表位置不可区分性框架,在保护隐私的同时保持信道图拓扑结构。
2026-06-02 cs.CR cs.IT math.IT
Multi-user Pufferfish Privacy
University of Auckland(奥克兰大学);Sophgo Technology Co., Ltd.(算能科技有限公司);Beijing Institute of Technology(北京理工大学)
本文研究了在多用户系统中通过水鱼隐私实现个体不可区分的方法,推导了在四种秘密对集上达到统计不可区分的充分条件,利用Kantorovich方法(Wasserstein度量)进行分析。
2026-04-21 cs.CR
Optimal Geo-Indistinguishable Mechanisms for Location Privacy
我们认为地理不可侵犯性的位置隐私的方法,和权衡效用。我们表明,给定一个理想的程度的地理不可分割性,它是可以构建一个机制,最大限度地减少服务质量损失,使用线性规划技术。此外,我们表明,在一定的条件下,这种机制也提供了最佳的隐私的意义上的Shokri等人。此外,我们提出了一种方法,以减少约束的线性规划的数量从三次到二次,保持隐私的保证,而不影响显着的效用所产生的机制。这大大减少了求解线性规划所需的时间,从而大大扩大了可以计算最佳机构的位置集。
2014-08-24 cs.CR
Differentially Private Location Privacy in Practice
随着手持设备(例如,智能手机、平板电脑)的广泛采用,大量基于位置的服务(也称为LBS)已经蓬勃发展,为移动用户提供移动中的实时和上下文信息。考虑到用户提供的位置信息量,这些服务能够跟踪用户,无论他们去哪里,并了解有关他们的敏感信息(例如,他们的兴趣点,包括家庭,工作,经常访问的宗教或政治场所)。在过去的几年中,已经提出了许多解决方案来保护用户的位置信息,同时仍然允许他们享受地理定位服务。其中最强大的解决方案是那些将流行的差分隐私概念应用于位置隐私(例如地理不可侵犯性)的解决方案,承诺在有限的准确性损失的情况下提供强大的理论隐私保证。虽然这些理论上的保证很有吸引力,但最终用户或从业者可能很难评估它们在野外的有效性。在本文中,我们进行了一个实际的研究,使用真实的移动轨迹来自两个不同的数据集,以评估地理不可感知性,以保护用户的兴趣点(POI)的能力。我们发现,一个好奇的LBS收集移动用户发送的模糊位置信息仍然能够推断出大多数用户的兴趣点与合理的地理和语义精度。此精度取决于地理不可分辨性应用的模糊程度。然而,后者也对移动设备上产生的开销产生影响,从而导致隐私与开销的权衡。最后,我们在我们的研究中表明,POI构成了移动用户的准标识符,使用地理不可混淆性混淆它们是不够的,因为攻击者能够重新识别至少63%的用户,尽管有很高的混淆程度。
2014-10-28 cs.CR
Constructing elastic distinguishability metrics for location privacy
随着手持设备的日益普及,基于位置的应用程序和服务可以获得准确和实时的位置信息,这对其用户提出了严重的隐私问题。最近引入的地理不可侵犯性的概念试图通过将众所周知的差分隐私的概念适应于基于位置的系统的领域来解决这个问题。虽然地理不可分割性呈现出各种吸引人的方面,但它存在以统一的方式处理空间的问题,在地图上的每个地方都添加了相同数量的噪音。在本文中,我们提出了一种新的弹性可伸缩性度量,扭曲的几何距离,捕捉不同程度的密度的每个区域。因此,所获得的机制适应噪声的水平,同时实现相同程度的隐私无处不在。我们还展示了这样一个弹性指标可以很容易地将“地理围栏”的概念,通常用于保护用户的高度经常性的位置,如他的家或工作。我们进行了广泛的评估,我们的技术建立一个弹性的度量巴黎的大都市区,使用语义信息从OpenStreetMap数据库。我们比较所得到的机制对平面拉普拉斯机制满足标准的地理不可分割性,使用两个真实世界的数据集从Gowalla和基于位置的社交网络。结果表明,弹性机制很好地适应了每个区域的语义,当我们离开市中心时,调整了噪音,从而提供了更好的整体隐私。
2015-05-21 cs.CR
Privacy-preserving Travel Time Prediction with Uncertainty Using GPS Trace Data
GPS技术和移动设备的快速发展导致了位置数据的大量积累,为个人和社会带来了可观的好处。这些数据的主要用途之一是旅行时间预测,这是GPS导航设备和应用程序提供的典型服务。与此同时,个人位置数据的不断收集和分析也带来了前所未有的隐私威胁。我们利用地理不可侵犯性的概念,差分隐私的位置隐私设置的扩展,并提出了一个程序,隐私保护的旅行时间预测,而不收集实际的个人GPS跟踪数据。我们提出了新的概念来研究基于地理不可感知性的消毒对GPS轨迹有用性的影响,并为隐私保护旅行时间预测提供分析和实验效用分析。我们还提出了新的指标来衡量对手的错误,从收集的消毒数据学习个人GPS轨迹。我们的实验结果表明,所提出的程序提供了旅行时间预测与令人满意的准确性在合理的小隐私成本。
2021-05-07 cs.CR
Enhanced Privacy Bound for Shuffle Model with Personalized Privacy
针对shuffle模型在个性化本地隐私设置下隐私界不紧致的问题,通过假设检验精确推导克隆生成概率,并在$f$-DP框架下利用分布凸性分析不可区分性,提出一般且更紧致的隐私界,显著优于现有结果。
2024-07-25 cs.CR cs.DB
Hush! Protecting Secrets During Model Training: An Indistinguishability Approach
针对模型训练中的秘密保护问题,提出基于秘密重构后验概率界限的新定义及线性规划与Poisson采样算法,显著优于DP-SGD基线。
2025-05-30 cs.CR
Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型,因为它提供了强大的隐私保证,即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而,在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用,从而降低了差异隐私结果的分析效用。在试图解决这个缺点,差分隐私的几个放宽已被提出,权衡隐私保证改善数据效用。在这项工作中,我们认为,标准的形式化的差分隐私是严格的比所需的直观的隐私保证,它寻求。特别地,标准形式化要求结果在任何相邻数据集对之间的不相容性,而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力,从而导致严重的准确性损失。在这方面,我们提出了个人差分隐私,一个替代的差分隐私的概念,为他们提供了相同的隐私保证标准差分隐私的个人(即使不是个人群体)。这个新概念允许数据控制器根据实际数据集调整失真,从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私,我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
Privacy-Preserving 3-Layer Neural Network Training
针对仅同态加密设置下的神经网络隐私保护训练问题,结合并扩展现有技术,实现了该设置下回归与分类任务的三层神经网络训练。
2025-04-15 cs.CR cs.LG
Privacy Preserving Machine Learning: Threats and Solutions
Iowa State University(爱荷华州立大学);University of South Florida(南佛罗里达大学)
为了在当前的机器学习系统中充分解决隐私问题,必须弥合机器学习社区和隐私社区之间的知识差距。本文旨在介绍这两个领域的交叉点,特别强调用于保护数据的技术。
2018-03-27 cs.CR cs.LG
On the differential privacy of dynamic location obfuscation with personalized error bounds
本文分析了动态位置混淆机制 PIVE 的差分隐私缺陷,证明其无法在自适应保护位置集上提供所声称的隐私保证,并提出修正方法并分析其隐私特性与优缺点。
2022-06-30 cs.CR cs.DB
Bounding the Invertibility of Privacy-preserving Instance Encoding using Fisher Information
Pennsylvania State University(宾夕法尼亚州立大学);Meta AI;Georgia Institute of Technology(佐治亚理工学院);Cornell University(康奈尔大学)
本文提出基于Fisher信息的理论化隐私度量,用于界定隐私保护实例编码的可逆性,兼具直观性与实用性,并在理论与实证层面验证其有效性。
2023-05-06 cs.CR cs.LG
trasgoDP: An Open Source Framework for Releasing Noised Tabular Microdata under Local Differential Privacy
Instituto de Física de Cantabria (IFCA), CSIC-UC(坎塔布里亚物理研究所 (IFCA),西班牙国家研究委员会-坎塔布里亚大学)
trasgoDP是开源Python框架,用于在局部差分隐私下发布表格微数据等。它能探索隐私-效用权衡,实现多种机制和度量,为评估相关数据发布方法提供可重现的开源基线。
2026-07-27 cs.CR cs.DB
DPIVE: A Regionalized Location Obfuscation Scheme with Personalized Privacy Levels
网络物理系统的普及正在推动基于位置的服务的快速增长。这带来了位置隐私泄露的风险。有效的隐私保护对于各种移动应用程序来说是最重要的。最近,地理不变性和预期的推理误差被提出来限制位置泄漏。在本文中,我们认为,个性化意味着区域化的地理不变性,我们提出了一个区域化的位置混淆机制,称为DPIVE与个性化的效用敏感性。这实质上纠正了Yu等人在NDSS 2017上提出的PIVE框架的差异和失真隐私问题。我们开发DPIVE分为两个阶段。在第一阶段,我们通过划分所有可能的位置来确定不相交的集合,使得同一集合中的不同位置共享保护位置集合(PLS)。在第二阶段,我们构造了一个概率分布矩阵,其中对应于同一PLS的行有自己的效用灵敏度(PLS直径)。此外,通过设计QK-means算法在二维空间中获得更多的搜索空间,我们改进了DPIVE,细化了位置划分,提出了细粒度的个性化,使每个位置都有自己的隐私级别,并赋予定制的隐私预算。两个公共数据集的实验表明,我们的机制具有优越的性能,通常在倾斜的位置。
2022-10-08 cs.CR cs.DB
Privacy-Preserving Generative Models: A Comprehensive Survey
De Montfort University(德蒙福特大学);University of Basel(巴塞尔大学)
本文通过分析100篇文献,系统综述了隐私保护生成模型,提出GANs和VAEs的隐私与效用指标新分类体系,并指出当前挑战与未来研究方向。
2025-02-05 cs.CR cs.LG
SoK: Privacy-Preserving Collaborative Tree-based Model Learning
Laboratory for Data Security -- EPFL(数据安全实验室 -- 洛桑联邦理工学院)
基于树的模型因其准确性、可解释性和简单性而成为当今数据采掘最有效的机器学习技术之一。最近对更多数据和隐私保护的正交需求要求协作隐私保护解决方案。在这项工作中,我们调查了文献的分布式和隐私保护训练的基于树的模型,我们系统化的知识的基础上的四个轴:学习算法,协作模型,保护机制,和威胁模型。我们用它来识别这些作品的优点和局限性,并首次提供了一个框架,分析分布式基于树的模型学习中发生的信息泄漏。
2021-06-18 cs.CR cs.LG
A privacy preserving querying mechanism with high utility for electric vehicles
针对电动汽车充电查询中的位置隐私与效用权衡问题,提出近似地理不可区分性(AGeoI)机制,结合虚拟数据生成与迭代贝叶斯更新,在保护隐私的同时实现高准确率的充电站占用预测,且效用损失极小。
2022-11-18 cs.CR
Kantorovich Mechanism for Pufferfish Privacy
河豚隐私在所公开的数据中的一组秘密对上实现了$ε$ -不可验证性。研究了如何利用指数机制实现$ε$ -pufferfish的隐私保护。指数机制是一种推广了Laplace噪声的加性噪声方案。它示出,所公开的数据是$ε$ -河豚私人的,如果噪声被校准到Kantorovich最优运输计划的灵敏度。这样的计划可以直接从以秘密为条件的数据统计中获得,系统的先验知识。充分条件进一步放宽,以降低噪声功率。证明了基于Kantorovich方法的高斯机制达到了$ε$ -河豚隐私的$δ$ -近似.
2022-02-21 cs.CR stat.AP
Privacy-preserving recommender system using the data collaboration analysis for distributed datasets
University of Tsukuba(筑波大学);Hosei University(法政大学)
本研究针对分布式数据集共享中的隐私保护问题,建立了一个基于数据协作分析的隐私保护推荐系统框架,数值实验表明该方法能提高评分预测准确率。
2024-05-24 cs.CR cs.IR cs.LG
Perturbation Methods for Protection of Sensitive Location Data: Smartphone Travel Survey Case Study
基于智能手机的出行数据汇集已成为交通系统分析的重要工具。近年来,随着各国政府的“开放数据倡议”寻求允许公众使用这些数据,并希望能够将他们的调查结果和分析贡献给公共领域,对共享旅行调查数据的兴趣越来越普遍。公开发布此类精确信息,特别是居住地等位置数据,会带来侵犯隐私的风险。同时,为了使这些数据有用,尽可能多的空间分辨率对于交通应用和出行需求建模中的效用是期望的。本文评估了地理随机扰动方法(即地理不可测性和甜甜圈geomask)在保护受访者的隐私,其住宅位置可能会被公布。我们测量位置隐私方法的性能,保存的效用和随机性的扰动距离的分布与不同的参数。结果发现,这两种方法产生的空间扰动分布,符合密切共同的概率分布,因此,可以推断出的原始位置与信息少,精度高。还发现,虽然实现的K-估计匿名性与所需的匿名性的甜甜圈geomask线性增加,地理不可侵犯性是高度依赖于其隐私预算因子(ESTA),并不是很有效地确保所需的实现的K-估计匿名性。
2019-08-12 cs.CR
Vulnerabilities in the use of similarity tables in combination with pseudonymisation to preserve data privacy in the UK Office for National Statistics' Privacy-Preserving Record Linkage
在隐私保护记录联系的调查过程中,我们回顾了英国国家统计局(ONS)在其系列报告“2011年以后”中所采取的方法。我们的审查确定了一些令人关切的问题。发现的一些问题严重到足以对隐私构成风险。
2017-12-04 cs.CR
Interpretable Machine Learning for Privacy-Preserving Pervasive Systems
University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
我们与普适系统的日常交互会生成跟踪,这些跟踪捕获人类行为的各个方面,并使机器学习算法能够提取有关用户的潜在信息。在本文中,我们提出了一个机器学习可解释性框架,使用户能够理解这些生成的痕迹如何侵犯他们的隐私。
2019-06-04 cs.CR cs.LG stat.ML
Privacy-preserving schemes for Ad Hoc Social Networks: A survey
在本文中,我们回顾了自组织社交网络(包括移动社交网络(MSN)和车载社交网络(VSN))的隐私保护方案的最新进展。具体而言,我们选择并详细研究了33个隐私保护计划的开发或应用的背景下,特设社交网络。这些计划于2008年至2016年期间公布。在此基础上,本文综述了隐私保护模型,包括位置隐私、身份隐私、匿名性、可追踪性、兴趣隐私、后向隐私和面向内容的隐私。以表格的形式总结了VSN和MSNs中最近发生的重要的隐私泄露攻击、对策和博弈论方法。此外,还概述了进一步研究的建议。通过本调查,读者可以更全面地了解ad hoc社交网络隐私保护方案的研究趋势
2016-10-19 cs.CR
Privacy Games: Optimal User-Centric Data Obfuscation
在本文中,我们设计了以用户为中心的混淆机制,施加最小的效用损失,以保证用户的隐私。我们优化效用的联合保证差分隐私(不可否认性)和失真隐私(推理错误)。这种双重保护屏蔽通过混淆机制和后验推理限制了信息泄漏。我们表明,通过联合差分失真机制对最优攻击实现的隐私是一样大的最大隐私,可以通过这些机制分别实现。它们的效用成本也不大于差分或失真机制所施加的成本。我们将优化问题建模为混淆机制的设计者与潜在对手之间的领导者-追随者博弈,并设计自适应机制来预测和保护最优推理算法。因此,混淆机制对于任何推理算法都是最佳的。
2015-05-27 cs.CR cs.GT
Spatial K-anonymity: A Privacy-preserving Method for COVID-19 Related Geospatial Technologies
作为COVID-19相关问题的解决方案,许多地理空间技术越来越需要考虑空间隐私问题。虽然已经推出了有效的地理空间技术,但大多数技术都为了实用而牺牲了隐私。在本文中,我们探讨空间k-匿名,隐私保护的方法,可以解决这个不必要的权衡提供最好的隐私和效用。在评估其过去在地理空间用例中的影响后,我们提出了空间k-匿名在数据共享和管理COVID-19接触追踪技术以及显示用户旅行历史的热图中的应用。然后,我们证明我们的主张通过比较空间k-匿名与其他几个空间隐私的方法,包括差分隐私,地理不可侵犯性,和手动同意基于编辑。我们的希望是提高人们对与空间隐私相关的日益增长的风险的认识,以及如何通过空间K匿名来解决这些风险。
2021-01-04 cs.CR
Towards Split Learning-based Privacy-Preserving Record Linkage
University of Macedonia(马其顿大学)
本文研究如何利用分割学习实现隐私保护记录链接,提出基于公开参考集的新型训练方法,在保护数据隐私的同时取得与集中式SVM方法接近的匹配效果。
2024-09-02 cs.CR cs.DB cs.LG
Privacy- and Utility-Preserving Textual Analysis via Calibrated Multivariate Perturbations
Amazon(亚马逊)
准确地从用户数据中学习,同时提供可量化的隐私保证,这为在维护用户信任的同时构建更好的ML模型提供了机会。本文提出了一种形式化的方法来进行隐私保护文本扰动使用的概念dx隐私设计,以实现地理位置数据的不可否认性。我们的方法适用于仔细校准的噪音,以向量表示的话,在一个高维空间定义的词嵌入模型。我们提出了一个隐私证明,满足DX隐私的隐私参数提供保证相对于由词嵌入空间定义的距离度量。我们演示了如何通过分析GloVe和fastText嵌入的大规模分析支持的似是而非的可否认性统计数据来选择。我们对2个基线模型进行隐私审计实验,并在3个数据集上进行效用实验,以证明不同任务类型上不同值的隐私和效用之间的权衡。我们的研究结果证明了实用性(训练二进制分类器的效用损失< 2%),同时提供了比基线模型更好的隐私保证。
2019-10-20 cs.CL cs.CR cs.LG
Privacy-preserving and yet Robust Collaborative Filtering Recommender as a Service
Luxembourg Institute of Science and Technology (LIST)(卢森堡科学技术研究院(LIST))
协同过滤服务器以牺牲最终用户的隐私为代价提供有效的个性化服务。随着社会对隐私保护的日益关注和隐私保护法规的日益严格,设计一种既能保护隐私又能为隐私敏感用户提供推荐服务的鲁棒的推荐器成为一个迫切的研究挑战。我们的分析表明,现有的解决方案在几个方面存在不足,包括缺乏对最终用户的精确输出的关注和忽略相关的鲁棒性问题。在本文中,我们提供了一个通用的系统结构,潜在因素为基础的协同过滤过滤器,制定他们的模型训练和预测计算阶段,还描述了一个新的安全模型。针对务实的解决方案,我们首先展示了如何构建隐私保护,但强大的模型训练阶段的基础上现有的解决方案。然后,我们提出了两个密码协议来实现隐私保护的预测计算阶段,这取决于是否涉及额外的代理。与标准的Top-k推荐不同,作为我们隐私设计策略的结果,我们让最终用户检索预测高于阈值的未评级项目。实验结果表明,我们的新协议是相当有效的。
2019-10-09 cs.CR cs.IR cs.LG
PCAL: A Privacy-preserving Intelligent Credit Risk Modeling Framework Based on Adversarial Learning
信用风险建模已经渗透到我们的日常生活中。大多数银行和金融公司使用这种技术来模拟客户的可信度。虽然机器学习越来越多地用于这一领域,但由此产生的大规模用户私人信息收集重新激发了隐私辩论,考虑到每年由未经授权的黑客造成的数十起数据泄露事件,以及(可能更多)授权方的信息误用/滥用。为了解决这些关键问题,本文提出了一个基于对抗学习的隐私保护信用风险建模框架(PCAL)。PCAL旨在通过(迭代)权衡隐私风险损失和面向实用性的损失,掩盖原始数据集内的私人信息,同时保留目标预测任务性能的重要实用信息。在实用性和隐私保护方面,将PCAL与现成的选项进行比较。实验结果表明,PCAL可以从用户数据中学习到一种有效的、无隐私的表示方法,为信用风险分析中隐私保护的机器学习提供了坚实的基础。
2020-10-06 cs.CR cs.CV cs.LG
Verifiable Privacy-Preserving Member and Order Queries on a List
我们介绍了一个正式的模型,成员和顺序查询的隐私保护认证名单。在这个模型中,查询是在存储在云中的列表上执行的,其中必须维护数据的完整性和隐私。然后,我们提出了一个有效的构造的隐私保护认证列表的基础上双线性映射和双线性映射,分析了性能,并证明了这种结构的完整性和隐私广泛接受的假设。
2014-08-19 cs.CR
Privacy-Preserving Distributed Parameter Estimation for Probability Distribution of Wind Power Forecast Error
Tsinghua University(清华大学);Bytedance(字节跳动)
建立风电预测误差的条件概率分布对风电场(WF)和独立系统运营商(ISO)都有利。建立风电功率的联合概率分布和相应的空间相关WFs预测数据是推导条件概率分布的基础。传统的概率分布参数估计方法需要收集所有工作流的历史数据。然而,在多区域互联电网的背景下,出于隐私或竞争考虑,区域ISO和WF都不能收集其他区域WF的原始数据。因此,本文首先提出了一种基于高斯混合模型的隐私保护分布式期望最大化算法来估计联合概率分布的参数。该算法由两种新颖的方法组成:(1)隐私保护的分布式求和算法和(2)隐私保护的分布式内积算法。然后,我们推导出每个WF的预测误差的条件概率分布的联合之一。通过该算法,工作流只需要进行局部计算和保护隐私的邻居通信就可以实现整体参数估计。这些算法进行了验证,使用风积分数据集公布的NREL。
2020-02-29 cs.CR cs.DC cs.LG
Privacy Preserving PageRank Algorithm By Using Secure Multi-Party Computation
在这项工作中,我们研究了PageRank算法的隐私保护计算问题。其思想是利用Paillier方案的同态加密迭代实现算法的安全多方计算。在所提出的PageRank计算中,用户使用非对称加密方法加密自己的图数据,以隐私保护的方式将数据集发送到不同的方。每一方都计算自己的加密实体,但对其他方的数据一无所知。
2016-11-07 cs.CR
Open, privacy-preserving protocols for lawful surveillance
政府机构如何能够在不干扰无辜方的电子活动的情况下获得关于合法但未知目标的可操作的有用信息,这一问题极为重要。我们通过提供实验证据来解决这个问题,这些证据表明,确实可以以保护无辜方隐私的方式获得可操作的有用信息,并使政府机构负责。特别是,我们提出了实用的,隐私保护协议的两个操作,执法和情报机构已有效地使用:设置交集和联系人链。我们的协议的实验表明,隐私保护联系人链接可以执行3跳隐私保护图遍历,在两分钟内产生27,000个密文。这些密文可以通过隐私保护集合交集在10分钟内在总共15万个密文中找到潜在的未知目标,而不会暴露非目标的个人信息。
2016-07-13 cs.CR
Privacy-preserving Analytics for Data Markets using MPC
数据市场有潜力培育新的数据驱动型应用程序,并帮助发展数据驱动型企业。在实践中建立和部署此类市场时,欧盟《通用数据保护条例》(GDPR)等法规对这些市场施加了约束和限制,特别是在处理个人或隐私敏感数据时。在本文中,我们提出了一个候选人的隐私保护个人数据市场的架构,依赖于密码原语,如多方计算(MPC)能够执行隐私保护计算的数据。除了指定这样一个数据市场的架构,我们还提出了一个隐私风险分析的市场以下LINDDUN方法。
2021-03-05 cs.CR
Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology(孟加拉国工程技术大学)
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统,利用高斯机制输出扰动和 Rényi 差分隐私,在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG