PriMaL: A Privacy-Preserving Machine Learning Method for Event Detection in Distributed Sensor Networks
本文介绍了PriMaL,一种通用的隐私保护机器学习方法,用于降低通过网络传输的信息的隐私成本。分布式传感器网络通常用于高风险情况下的异常事件的自动分类和检测,例如建筑物中的火灾,地震或人群灾难。这种网络可能会传输隐私敏感信息,例如智能手机的GPS位置,如果网络受到损害,这些信息可能会被披露。隐私问题可能会减缓该技术的采用,特别是在参与是自愿的社交感测场景中,因此需要在不损害事件检测准确性的情况下提高隐私的解决方案。PriMaL被实现为一个机器学习层,它在现有的事件检测算法之上工作。实验运行在一个通用的仿真框架,几个网络拓扑结构和参数值。国家的最先进的事件检测算法的隐私足迹进行比较,在所提出的框架。结果表明,PriMaL是能够降低隐私成本的分布式事件检测算法低于相应的集中式算法,在一些假设的范围内的协议。而且分布式算法的性能在统计上并不比集中式算法差。
2017-03-21 cs.CR cs.DC
Distributed Generalized Linear Models: A Privacy-Preserving Approach
Centro de Matemática, Universidade do Minho(米尼奥大学数学中心);DEI-FEUP & INESC TEC, Universidade do Porto(波尔图大学DEI-FEUP与INESC TEC);Universidade do Minho(米尼奥大学);Universidade do Porto(波尔图大学)
提出一种隐私保护的分布式广义线性模型方法,通过数据流或分布式计算实现模型训练,并扩展到GLM框架,数值实验验证了其在联邦环境中的有效性。
2025-03-19 cs.DC stat.CO
A privacy-preserving, distributed and cooperative FCM-based learning approach for cancer research
Universidad Pablo de Olavide(巴勃罗·德·奥拉维德大学);Tessella(泰塞拉公司)
本文提出一种隐私保护的分布式协作式FCM学习方法,通过联邦学习提升癌症检测模型性能,在保障数据隐私合规的同时取得与文献相当的成果。
2025-03-05 cs.AI cs.DC
Preserving Statistical Privacy in Distributed Optimization
我们提出了一个分布式的优化协议,保护代理的本地成本函数的统计隐私,对被动的对手,腐败的一些代理在网络中。该协议是一个分布式的“{ \em零和}”混淆协议,混淆代理的本地成本函数,和一个标准的非私有分布式优化方法的组合。我们表明,我们的协议保护统计隐私的代理商的本地成本函数对一个被动的对手,腐败到$t$任意代理,只要通信网络有$(t+1)$顶点连接。"{ \em zero-sum}”混淆协议保留了代理的局部成本函数的总和,因此确保了计算解决方案的准确性。
2020-12-29 cs.CR cs.DC
Designing for Privacy and Confidentiality on Distributed Ledgers for Enterprise (Industry Track)
分布式账本技术为企业环境中的应用程序提供了许多理想的属性。然而,随着共享平台上的分布式数据和分散式计算,隐私和机密性挑战出现了。企业系统的任何设计都需要仔细地满足特定于用例的隐私和机密性需求。为了促进企业解决方案的设计,本文旨在提供一个指南,以指导和帮助围绕防止私人和机密信息泄露的常见要求和机制做出决策。为了进一步了解关键概念,设计指南随后应用于三种企业DLT协议:Hyperledger Fabric,Corda和Quorum。
2019-12-05 cs.CR cs.DC
Distributed Sketching Methods for Privacy Preserving Regression
Stanford University(斯坦福大学)
在这项工作中,我们研究了大规模回归问题的分布式草图绘制方法。我们利用多个随机草图,减少问题的尺寸,以及保护隐私和提高离散弹性异步分布式系统。我们得到新的近似保证经典的草图绘制方法和分析的精度分布草图的参数平均。我们考虑的随机矩阵,包括高斯,随机Hadamard,均匀抽样和杠杆分数抽样分布设置。此外,我们提出了一个混合的方法相结合的采样和快速随机投影更好的计算效率。我们说明了分布式草图的性能在无服务器计算平台与大规模的实验。
2020-06-20 cs.CR cs.DC cs.LG
Preserving Differential Privacy Between Features in Distributed Estimation
Disney Research(迪士尼研究中心)
隐私在机器学习的许多应用中至关重要。法律、道德和社会问题限制了敏感数据的共享,使得很难从多方之间划分的数据集中学习。这种分布式设置的一个重要实例是,当数据集中每个记录的信息由不同的数据所有者持有时(设计矩阵是“垂直分区的”)。在这种情况下,很少有出于统计估计目的而共享私人数据的方法,并且具有准备数据的“可信管理者”的差异隐私的经典设置不适用。我们的工作与$(ε,δ)$的概念-分布式差分隐私扩展到分布式的,垂直分区的情况下,单方差分隐私。我们提出了PriDE,一个可扩展的框架,分布式估计,每一方通信扰动随机投影的本地举行的功能,确保$(ε,δ)$ -分布式差分隐私被保存。对于$\ell_2$ -惩罚监督学习问题,PriDE有界估计误差相比,在非分布式设置中没有隐私约束的最优估计。我们在现实世界和合成数据集上证实了这一点。
2017-06-27 cs.CR cs.DC cs.LG
Privacy-Preserving Distributed Clustering for Electrical Load Profiling
电力负荷分析支持零售商和配电网络运营商更好地了解消费者的消费行为。然而,传统的用于负载分析的聚类方法是集中式的,并且需要访问所有智能电表数据,从而导致消费者和零售商的隐私问题。为了解决这个问题,我们提出了一个隐私保护的分布式集群框架的负载分析,通过开发一个隐私保护的加速平均共识(PP-AAC)算法证明收敛。使用所提出的框架,我们修改了几个常用的聚类方法,包括k-均值,模糊C-均值,高斯混合模型,提供隐私保护的分布式聚类方法。通过这种方式,可以仅通过本地计算和相邻数据所有者之间的信息共享来执行负载分析,而不会牺牲隐私。同时,与传统的集中式聚类方法相比,每个数据所有者消耗的计算时间显著减少。分析了所提出的隐私保护分布式聚类框架的隐私性和复杂性。使用真实世界的爱尔兰住宅数据集验证了所提出的框架和建议的PP-AAC算法的正确性,效率,有效性和隐私保护功能。
2020-02-26 cs.DC cs.SY eess.SP
Secure and Distributed Assessment of Privacy-Preserving Releases of GWAS
全基因组关联研究(GWAS)确定遗传变异与可观察特征(如疾病)之间的相关性。以前的工作提出了隐私保护分布式算法的基因组数据持有者的联合会,跨越多个机构和立法领域,以安全地计算GWAS的结果。然而,这些算法的适用性有限,因为它们仍然需要集中实例来决定GWAS结果是否可以安全披露,这违反了GDPR等隐私法规。在这项工作中,我们介绍了GenDPR,一个分布式中间件,利用可信执行环境(TEE)安全地确定一个子集的潜在GWAS统计数据,可以安全地发布。GenDPR实现了与集中式解决方案相同的准确性,但需要传输的数据显著减少,因为TEE只交换中间结果,而不交换基因组。此外,GenDPR可以被配置为容忍除了一个诚实但好奇的联盟成员之外的所有成员勾结,目的是暴露正确成员的基因组。
2022-09-20 cs.CR cs.DC
Differential Privacy Preserving Distributed Quantum Computing
本文针对量子分布式计算中的隐私泄露问题,提出量子 Rényi 差分隐私(QRDP)概念,通过引入参数 α 实现精细隐私保护,并分析噪声机制、推导最低隐私预算及验证量子参数影响。
2025-01-06 cs.DC quant-ph
Privacy-Preserving Distributed Maximum Consensus Without Accuracy Loss
针对传统分布式最大共识隐私保护方法加噪导致精度下降的问题,提出基于增广图虚拟节点与特殊初始化的分布式优化方法,可在完美保护隐私的同时保持精度,优于现有噪声类方法。
2024-09-16 cs.CR cs.DC cs.IT
Privacy-Preserving Distributed Parameter Estimation for Probability Distribution of Wind Power Forecast Error
Tsinghua University(清华大学);Bytedance(字节跳动)
建立风电预测误差的条件概率分布对风电场(WF)和独立系统运营商(ISO)都有利。建立风电功率的联合概率分布和相应的空间相关WFs预测数据是推导条件概率分布的基础。传统的概率分布参数估计方法需要收集所有工作流的历史数据。然而,在多区域互联电网的背景下,出于隐私或竞争考虑,区域ISO和WF都不能收集其他区域WF的原始数据。因此,本文首先提出了一种基于高斯混合模型的隐私保护分布式期望最大化算法来估计联合概率分布的参数。该算法由两种新颖的方法组成:(1)隐私保护的分布式求和算法和(2)隐私保护的分布式内积算法。然后,我们推导出每个WF的预测误差的条件概率分布的联合之一。通过该算法,工作流只需要进行局部计算和保护隐私的邻居通信就可以实现整体参数估计。这些算法进行了验证,使用风积分数据集公布的NREL。
2020-02-29 cs.CR cs.DC cs.LG
On the Privacy-Robustness-Utility Trilemma in Distributed Learning
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本文首次对分布式学习中同时满足差分隐私和对抗鲁棒性的算法误差进行紧致分析,揭示隐私-鲁棒性-效用的根本权衡,并提出一种高维鲁棒聚合算法实现匹配上界。
2023-05-29 cs.CR cs.DC cs.LG
Tailoring Gradient Methods for Differentially-Private Distributed Optimization
本文针对分布式优化中的隐私泄露问题,提出两种定制梯度方法,在保证ε-差分隐私的同时实现最优解收敛,并首次同时达成有限隐私预算与几乎必然收敛。
2024-01-31 cs.DC math.OC
Trustworthy Distributed AI Systems: Robustness, Privacy, and Governance
Fordham University(福特汉姆大学);Georgia Institute of Technology(佐治亚理工学院)
本文综述了可信分布式AI在鲁棒性、隐私保护、公平性治理三方面的技术与理论,梳理了分布式学习的架构与脆弱性,提出应对措施分类体系,并指出该领域的开放挑战与未来方向。
2024-02-02 cs.AI cs.CR cs.DC
Preserving Privacy in Personalized Models for Distributed Mobile Services
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
移动设备的普及导致了向其用户提供个性化和上下文感知内容的移动服务的激增。现代移动服务分布在终端设备(如智能手机)和驻留在云中的远程服务器之间。这些服务的蓬勃发展取决于它们预测未来上下文的能力,以预取内容或提出特定于上下文的建议。一种越来越常见的预测未来上下文(如位置)的方法是通过机器学习(ML)模型。最近在上下文预测方面的工作集中在ML模型个性化上,其中为每个单独的用户学习个性化模型,以便根据用户的移动行为定制预测或建议。虽然个性化模型的使用提高了移动服务的效率,但我们认为它增加了隐私风险,因为个性化模型编码了每个用户独有的上下文行为。为了证明这些隐私风险,我们提出了几种基于属性推理的隐私攻击,并表明这种攻击可以泄露隐私,前3名预测的有效性高达78%。我们介绍了Pelican,这是一个用于上下文感知移动服务的隐私保护个性化系统,它利用设备和云资源来个性化ML模型,同时最大限度地降低用户隐私泄露的风险。我们评估鹈鹕使用真实世界的痕迹位置感知移动服务,并表明鹈鹕可以大大减少隐私泄露高达75%。
2021-04-21 cs.DC cs.LG
Privacy-Preserving Distributed Nonnegative Matrix Factorization
Norwegian University of Science and Technology(挪威科技大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织数据61部门)
针对ad-hoc网络中分布式非负矩阵分解(NMF)的隐私泄露问题,提出一种利用Paillier密码系统保护智能体间信息交换的全分布式NMF算法,实现了在保护本地数据隐私前提下的矩阵因子协同估计。
2024-03-27 cs.CR cs.DC cs.LG
Providing Privacy, Safety, and Security in IoT-Based Transactive Energy Systems using Distributed Ledgers
由于可再生能源的快速增长和电池技术的改进,电网正在发生重大变化。虽然这些变化提高了可持续性和效率,但随着电力系统复杂性的增加,它们也带来了重大的管理挑战。为了应对这些挑战,分散的物联网(IoT)解决方案正在出现,它将当地社区安排到交互式微电网中。在交互式微电网中,“产消者”(即,具有能量产生和存储能力的消费者)可以彼此交易能量,从而使用本地供应平滑主电网上的负载。然而,在分散和交易的能源系统中很难提供安全,安全和隐私。一方面,必须保护产消者的个人信息不被其贸易伙伴和系统运营商获取。另一方面,必须保护系统免受粗心或恶意交易的影响,这可能会破坏整个电网的稳定。本文介绍了隐私保护能源交易(PETra),这是一种安全可靠的交易微电网解决方案,使消费者能够在不牺牲隐私的情况下进行能源交易。PETra建立在分布式账本(如区块链)上,并为通信、投标和交易提供匿名性。
2017-09-27 cs.CR cs.DC
PIVODL: Privacy-preserving vertical federated learning over distributed labels
University of Surrey(萨里大学);Delft University of Technology(代尔夫特理工大学)
联邦学习(FL)是一种新兴的隐私保护机器学习协议,其允许多个设备协作地训练共享全局模型而不泄露它们的私有本地数据。像梯度提升决策树(GBDT)这样的非参数模型通常用于垂直分区数据的FL。然而,所有这些研究都假设所有的数据标签只存储在一个客户端上,这对于现实世界的应用程序来说可能是不现实的。因此,在这项工作中,我们提出了一个安全的垂直FL框架,名为PIVODL,训练GBDT与分布在多个设备上的数据标签。采用同态加密和差分隐私两种方法防止标签信息通过传输的梯度和叶值泄露。我们的实验结果表明,所提出的PIVODL的信息泄漏和模型性能下降是可以忽略的。
2021-08-25 cs.AI cs.CR cs.DC
HyDiscGAN: A Hybrid Distributed cGAN for Audio-Visual Privacy Preservation in Multimodal Sentiment Analysis
Tongji University(同济大学);DeepBlue Academy of Sciences(深蓝科学院);Beijing Institute of Technology(北京理工大学);University of Oxford(牛津大学)
针对多模态情感分析中音频和视觉模态的隐私泄露风险,提出混合分布式条件生成对抗网络HyDiscGAN,利用去标识化文本生成虚假音视频特征,在保护隐私的同时保持或提升性能。
2024-04-18 cs.DC cs.MM cs.SD
A chaotic maps-based privacy-preserving distributed deep learning for incomplete and Non-IID datasets
Universidad Pablo de Olavide(巴勃罗·德·奥拉维德大学);CUNEF Universidad(库内夫大学);Universidad Autónoma de Chile(智利自治大学)
本研究提出一种安全的联邦学习方法,通过增加差分隐私或基于混沌的加密隐私层来解决non-IID数据挑战,实验证明该方法能提升深度神经网络在IID和non-IID数据下的平均性能。
2024-02-15 cs.CR cs.DC cs.LG
Dynamical Privacy in Distributed Computing -- Part II: PPSC Gossip Algorithms
The Australian National University(澳大利亚国立大学);Zhejiang University(浙江大学);The University of Sydney(悉尼大学)
本文研究了分布式计算协议中针对局部或全局动态窃听者的计算隐私风险,提出了一种隐私保护求和一致(PPSC)机制作为基于共识的分布式计算的通用隐私加密子程序,并展示了传统确定性和随机扩散算法可用于在给定网络上实现PPSC机制,通过证明在窃听者拥有完整网络知识的情况下无法从扩散基于PPSC机制的输出重建网络输入,并展示了PPSC机制可以在任意隐私水平下实现差分隐私。
2019-02-19 cs.DC cs.SY eess.SY
A Distributed Privacy Preserving Model for the Detection of Alzheimer's Disease
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种符合HIPAA的多模态垂直联邦学习框架,通过在分布式医疗数据上进行协作训练,在保护患者隐私的同时提升了阿尔茨海默病检测的鲁棒性和准确率。
2024-09-26 cs.AI cs.CV cs.DC
A Distributed Trust Framework for Privacy-Preserving Machine Learning
Blockpass Identity Lab(Blockpass身份实验室);Edinburgh Napier University(爱丁堡龙比亚大学)
在训练机器学习模型时,研究人员必须充分了解数据和模型。然而,这导致数据所有者和数据科学家之间缺乏信任。数据所有者显然不愿意将私人信息的控制权交给第三方。隐私保护技术分布计算,以确保数据在学习发生时仍处于所有者的控制之下。然而,分布在多个代理之间的架构引入了一组全新的安全和信任复杂性。其中包括数据投毒和模型盗窃。本文概述了一种分布式基础设施,用于促进分布式代理之间的对等信任,协同执行的隐私保护工作流。我们概述的原型将行业看门人和治理机构设置为证书颁发者。在参与分布式学习工作流之前,恶意行为者必须首先协商有效的凭据。我们详细介绍了使用Hyperledger Aries,分散式标识符(DID)和可验证凭据(VC)在隐私保护机器学习实验期间建立分布式信任架构的概念证明。具体而言,我们利用安全和认证的DID通信渠道,以促进与心理健康护理数据相关的联邦学习工作流程。
2020-06-03 cs.CR cs.CY cs.DC
Privacy-preserving quantum federated learning via gradient hiding
JPMorgan Chase(摩根大通);Global Technology Applied Research(全球技术应用研究部)
针对联邦学习中服务器通过梯度反演泄露客户端数据的问题,本文利用量子态隐藏梯度,提出基于隐私内积估计和增量学习的两种量子联邦学习协议,以低通信开销增强隐私保护。
2023-12-07 cs.CR cs.DC cs.LG
Privacy-preserving Distributed Machine Learning via Local Randomization and ADMM Perturbation
State Key Lab. of Industrial Control Technology, Zhejiang University(浙江大学工业控制技术国家重点实验室);Dept. of Computer Science, Tokyo Institute of Technology(东京工业大学计算机科学系)
随着训练数据的激增,分布式机器学习(DML)越来越适合大规模学习任务。然而,在DML中必须优先考虑隐私问题,因为训练数据可能包含用户的敏感信息。在本文中,我们提出了一个隐私保护的ADMM为基础的DML框架有两个新的功能:首先,我们删除了文献中常见的假设,用户信任的服务器收集他们的数据。其次,该框架根据数据的敏感级别和服务器的信任度为用户提供异构隐私。具有挑战性的问题是保持ADMM迭代中隐私损失的累积最小。在该框架中,采用局部随机化方法,这是差异隐私,为用户提供自我控制的隐私保证的最敏感信息。此外,ADMM算法的扰动,通过一个组合的噪声添加方法,这同时保留用户的敏感信息的隐私,并加强了最敏感信息的隐私保护。根据训练模型的泛化误差,对训练模型的性能进行了详细的分析。最后,我们使用真实世界的数据集进行了广泛的实验,以验证理论结果,并评估所提出的框架的分类性能。
2019-09-09 cs.CR cs.DC cs.LG