A Privacy-preserving Method to Optimize Distributed Resource Allocation
我们考虑一个资源分配问题,涉及大量的代理人与个人的隐私约束,和一个中央运营商,其目标是优化全球,可能是非凸的,成本,同时满足代理人的约束,例如能源运营商负责管理的能源消费灵活性的许多个人消费者。我们提供了一个隐私保护算法,计算资源的最优分配,避免每个代理透露她的私人信息(约束和个人解决方案)既不中央运营商,也不向第三方。我们的方法依赖于一个聚合过程:我们迭代计算的全球资源分配,并逐步确保存在的解聚,即个人档案满足代理的私人约束,通过一个协议,涉及到生成多面体切割和安全多方计算(SMC)。为了获得这些削减,我们使用一种替代投影方法,该方法由每个代理在本地实现,以保护她的隐私需求。我们特别强调的情况下,当地和全球的限制,定义一个运输多面体。然后,我们提供了理论上的收敛性估计与数值结果,表明该算法可以有效地用于解决分配问题在高维,同时解决隐私问题。
2020-06-22 cs.CR cs.MA math.OC
Dynamic Privacy Allocation for Locally Differentially Private Federated Learning with Composite Objectives
KTH Royal Institute of Technology(KTH皇家理工学院)
本文提出一种局部差分隐私联邦学习算法,通过动态分配时变噪声方差以最小化优化误差上界,在隐私预算约束下同时实现隐私保护与效用,无需调整迭代次数且性能优于现有方法。
2023-08-02 cs.CR cs.DC cs.LG
Differential Privacy-Based Online Allocations towards Integrating Blockchain and Edge Computing
本文针对区块链物联网中边缘服务器分配问题,提出基于差分隐私的在线多物品双向拍卖机制,在保证在线性、诚实性和隐私安全的同时适应复杂现实场景,并通过理论与仿真验证其有效性。
2021-01-08 cs.CR cs.GT
Fine-Tuning Language Models with Differential Privacy through Adaptive Noise Allocation
Queen’s University(女王大学);Ingenuity Labs Research Institute(Ingenuity Labs 研究院);J.P. Morgan AI Research(摩根大通人工智能研究院)
本文提出ANADP算法,根据参数重要性自适应分配差分隐私噪声,在保持隐私约束的同时缩小了常规微调与差分隐私微调的性能差距。
2024-10-03 cs.AI cs.CL cs.CR
Sampling-Free Privacy Accounting for Matrix Mechanisms under Random Allocation
Machine Learning Research, Morgan Stanley(摩根士丹利机器学习研究部);Institute of Science and Technology Austria(奥地利科学与技术研究院)
本文提出基于Rényi散度和条件组合的无采样界限,用于矩阵分解下随机分配的差分隐私放大,解决了采样方法的高概率保证和随机放弃问题,适用于任意带状和非带状矩阵。
2026-11-10 cs.CR cs.LG stat.ML
Private Matchings and Allocations
我们考虑一个私人变量的经典分配问题:给定k个商品和n个代理人与个人,私人的价值函数的捆绑的商品,我们如何分配的代理人之间的货物,以最大限度地提高社会福利?一个重要的特殊情况是当每个代理人最多只需要一种商品,并为每种商品指定她的(私人)价值:在这种情况下,问题就是二分图中的最大权重匹配问题。私人匹配和分配问题在差分隐私文献中没有被考虑,并且有很好的理由:它们显然不可能在差分隐私下解决。非正式地说,分配必须使代理人与他们偏好的商品相匹配,以使社会福利最大化,但这种偏好正是代理人希望隐藏的。因此,我们考虑联合差分隐私的放松约束下的问题:对于任何代理i,没有联盟的代理,除了i应该能够了解代理i的估值函数。在这种设置下,不再发布全部分配-相反,每个代理都被告知要获得什么好处。我们首先表明,每个好的相同的副本的数量很少,它是可以有效地和准确地解决最大权重匹配问题,同时保证联合差分隐私。然后,我们考虑更一般的分配问题,当投标人的估值满足总替代品的条件。最后,我们证明了在联合差分隐私下,如果不需要每种类型的好的多个副本,分配问题不能解决到非平凡的精度。
2016-08-19 cs.CR cs.DS cs.GT
A proposal to increase data utility on Global Differential Privacy data based on data use predictions
本文提出通过预测分析师对差分隐私统计数据的使用方式来优化隐私预算分配,从而在汇总统计场景下提升全局差分隐私数据的效用,并给出相应优化度量指标。
2024-01-12 cs.CR cs.DB
A Distributed Differentially Private Algorithm for Resource Allocation in Unboundedly Large Settings
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
我们介绍了一个实用的和可扩展的算法(PALMA),用于解决多代理系统的基本问题之一-找到匹配和分配-在无限大的设置(例如,城市环境中的资源分配、按需移动系统等),同时提供强有力的最坏情况隐私保证。PALMA是去中心化的,在设备上运行,不需要智能体通信,并且在合理的假设下在恒定的时间内收敛。我们评估PALMA在移动按需和纸张分配的情况下,使用真实的数据,并证明它提供了一个强大的隐私级别($\varepsilon \leq 1$和中位数低至$\varepsilon = 0.5$跨代理)和高质量的匹配(高达$86\%$的非私人最佳,甚至优于隐私保护的集中式最大权重匹配基线)。
2022-03-13 cs.AI cs.CR cs.MA
Towards Distributed Privacy-Preserving Prediction
在隐私保护的机器学习中,由于隐私问题,各方不愿意共享其敏感的训练数据。即使是训练的模型参数或预测也可能造成严重的隐私泄露。为了解决这些问题,我们展示了一个普遍适用的分布式隐私保护预测(DPPP)框架,在该框架中,不受信任的聚合器不会共享更敏感的数据或模型参数,而是在可证明的隐私保证下仅组合多个模型的预测。我们的框架集成了两种主要技术来保证个人隐私。首先,我们引入了改进的二项式机制和离散高斯机制来实现分布式差分隐私。其次,我们利用同态加密,以确保聚合器学习什么,但嘈杂的聚合预测。实验结果表明,我们的框架具有可比的性能,非私有的框架,并提供更好的结果比本地差分私有框架和独立的框架。
2020-09-03 cs.CR
Privacy Amplification Without Independence: How Far Negative Dependence Carries the Guarantees of Poisson Subsampling
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
该研究针对结构化参与场景,明确负关联下隐私放大的条件,揭示整数阶限制、随机分配的优势反转规律及泊松优势的失效阈值,为隐私核算提供严谨替换规则。
2026-09-03 cs.CR
Privacy-preserving Travel Time Prediction with Uncertainty Using GPS Trace Data
GPS技术和移动设备的快速发展导致了位置数据的大量积累,为个人和社会带来了可观的好处。这些数据的主要用途之一是旅行时间预测,这是GPS导航设备和应用程序提供的典型服务。与此同时,个人位置数据的不断收集和分析也带来了前所未有的隐私威胁。我们利用地理不可侵犯性的概念,差分隐私的位置隐私设置的扩展,并提出了一个程序,隐私保护的旅行时间预测,而不收集实际的个人GPS跟踪数据。我们提出了新的概念来研究基于地理不可感知性的消毒对GPS轨迹有用性的影响,并为隐私保护旅行时间预测提供分析和实验效用分析。我们还提出了新的指标来衡量对手的错误,从收集的消毒数据学习个人GPS轨迹。我们的实验结果表明,所提出的程序提供了旅行时间预测与令人满意的准确性在合理的小隐私成本。
2021-05-07 cs.CR
CANAL: Channel-Aware Noise Allocation for Differentially Private Feature Distillation in Medical Image Segmentation
University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
针对医学图像分割中差分隐私特征蒸馏的噪声分配问题,提出基于任务梯度能量的闭式注水分配方法CANAL,实现每图像单次发布与诚实预算分割,在三个基准上优于均匀噪声。
2026-09-15 cs.CR cs.CV cs.LG
Differentially Private Fair Division
该研究聚焦不可分割资源公平分配的隐私问题,基于差分隐私框架提出满足近似无嫉妒性与比例性的算法,同时给出不同相邻实例定义下两类公平准则的强否定结果。
2022-11-23 cs.CR cs.GT
FedMABA: Towards Fair Federated Learning through Multi-Armed Bandits Allocation
The Chinese University of Hong Kong(香港中文大学)
针对联邦学习中统计异构导致的客户端性能不公平问题,本文提出基于对抗性多臂老虎机分配的FedMABA算法,并在多种Non-I.I.D.场景下验证其公平性提升效果。
2024-10-26 cs.CR cs.LG
Efficient Error Prediction for Differentially Private Algorithms
差分隐私是一种强数学隐私概念。尽管如此,在真实数据汇集中使用差分隐私时的一个突出挑战是理解和抵消差分隐私造成的准确性损失。因此,差分隐私的准确性/隐私权衡需要在个案基础上进行平衡。文献中的应用往往只关注分析精度界限,不包括误差预测中的数据,或使用任意设置来凭经验测量误差。为了填补文献中的空白,我们提出了一种新的应用因子实验,以创建数据感知的错误预测。基本上,因素实验提供了一个系统的方法来进行实证实验。为了证明我们的方法在行动中,我们进行了一个案例研究,错误是依赖于任意复杂的树结构。我们首先构造了一个工具来模拟民意调查数据。接下来,我们使用模拟数据构建最小二乘模型来预测误差。最后,我们展示了如何验证模型。因此,我们的贡献是一种方法,用于构建数据感知的错误预测模型。
2021-08-21 cs.CR
Auditing Private Prediction
本文提出首个用于审计私有预测的框架,通过实例化不同投毒和查询能力的对手,评估四种私有预测算法的隐私泄露,发现隐私分析可改进且投毒易感性影响泄露程度。
2024-02-14 cs.CR
Privacy Preserving Ultra-Short-term Wind Power Prediction Based on Secure Multi Party Computation
挖掘风电场输出数据的时空相关性有利于提高超短期风电功率预测的精度。然而,如果风电场由独立的实体拥有,由于隐私问题以及业务管理法规政策,他们可能不愿意直接分享他们的数据。虽然在数据共享过程中已经设计了加密方法来保护隐私,但是在机器学习过程中,在提取多个风电场之间的非线性关系的同时对原始数据进行加密仍然是一个具有挑战性的问题。本文介绍了一种基于机器学习树模型和安全多方计算(SMPC)的技术,可以成功地提取复杂的关系,同时保护数据隐私。提出了一种基于最大平均差异(MMD)的方案,有效地选择相邻的候选风电场参与协同模型训练,从而提高了模型训练的准确性,减轻了数据采集的负担。在中国内蒙古的一组风电场收集的真实世界数据上,对所提出的方法进行了评估,表明它能够在保护隐私的同时实现相当大的效率和性能改进
2023-01-31 cs.CR
Trading Location Data with Bounded Personalized Privacy Loss
由于个人数据已经成为数字时代的新石油,因此将个人数据视为商品的趋势越来越明显。虽然有些人愿意用他们的个人数据来换取金钱,但他们可能仍然期望有限的隐私损失,而最大可容忍的隐私损失因个人而异。在本文中,我们提出了一个框架,使个人能够交易他们的个人数据与有限的个性化隐私损失,这提出了在预算分配和仲裁自由方面的技术挑战。为了应对这些挑战,我们提出了两种具有不同优势的无仲裁交易机制。
2019-10-24 cs.CR cs.DB
Privacy-Preserving Link Prediction
考虑两个数据保持器,ABC和XYZ,具有图形数据(例如,社交网络、电子商务、电信和生物信息学)。ABC可以看到节点A链接到节点B,XYZ可以看到节点B链接到节点C。节点B是A和C的共同邻居,但两个网络都不能自己发现这一事实。在本文中,我们提供了一个两方计算,ABC和XYZ可以运行,以发现共同的邻居在他们的图数据的联合,但任何一方都没有透露他们的明文图给对方。基于私有集的交集,我们实现了我们的解决方案,提供测量,并量化隐私的部分泄漏。我们还提出了一个重量级的解决方案,泄漏零信息的基础上添加同态加密。
2022-10-04 cs.CR
SSM-Attack: Learning Where to Perturb for Black-Box Face Privacy
Sabanci University(萨班哲大学)
本研究提出基于Selective State Space Models的黑盒人脸隐私框架SSM-Attack,通过预测扰动预算空间分配实现高效攻击,在三个数据集上取得最高黑盒攻击成功率,且性能优于均匀分配方法。
2026-10-14 cs.CR cs.CV cs.LG
A Privacy-Preserving QoS Prediction Framework for Web Service Recommendation
基于服务质量的Web服务推荐为用户提供高质量的服务,近年来受到了广泛的关注。为了促进这样的建议,现有的研究建议使用协同过滤技术的个性化QoS预测。这些方法,通过利用部分观察到的QoS值从用户,可以实现高精度的QoS预测的未观察到的。然而,要求收集用户的QoS数据可能会使用户的隐私处于危险之中,从而使他们不愿意贡献他们的使用数据的Web服务推荐系统。因此,隐私成为一个关键的挑战,在开发实用的Web服务推荐系统。在本文中,我们第一次尝试,以应付隐私问题的Web服务推荐。具体来说,我们提出了一个简单而有效的隐私保护框架,通过应用数据混淆技术,并进一步开发两个代表性的隐私保护QoS预测方法在此框架下。一个公开的真实世界的Web服务的QoS数据集的评估结果表明,我们的隐私保护的QoS预测方法的可行性和有效性。我们相信我们的工作可以作为一个很好的起点,激发更多的研究工作的隐私保护Web服务推荐。
2015-05-02 cs.CR cs.IR
Post-processing of Differentially Private Data: A Fairness Perspective
Georgia Institute of Technology(佐治亚理工学院);Syracuse University(雪城大学)
后处理免疫性是差分隐私的一个基本属性:它使任意数据独立的转换到差异隐私输出,而不影响其隐私保证。后处理通常用于数据发布应用程序,包括普查数据,然后用于产生重大社会影响的分配。本文表明,后处理会对个人或群体产生不同的影响,并分析了两个关键设置:发布差异化的私有数据集,以及将这些私有数据集用于下游决策,例如美国人口普查数据所告知的资金分配。在第一种设置中,本文提出了传统后处理机制的不公平性的严格界限,为决策者提供了一个独特的工具来量化其发布所带来的不同影响。在第二种情况下,本文提出了一种新的后处理机制,是(近似)在不同的公平性指标下的最佳,无论是减少公平性问题大大降低或降低隐私的成本。人口普查数据的数值模拟的理论分析的补充。
2022-01-24 cs.AI cs.CR
Pricing Private Data with Personalized Differential Privacy and Partial Arbitrage Freeness
将个人数据视为商品的趋势越来越明显。现有的研究已经建立了框架和理论,如何确定一个给定的查询的无仲裁的价格,根据隐私损失量化的差分隐私。然而,这些研究假设数据购买者可以购买查询答案,而数据所有者的任意隐私损失,这在严格的隐私法规和数据所有者日益增加的隐私问题下可能是无效的。在本文中,我们研究了如何授权数据所有者控制数据交易中的隐私损失。首先,我们提出了一个交易个人数据的框架,使数据所有者能够限制他们的个性化隐私损失。其次,由于有界隐私损失表明查询答案的效用有界,因此我们提出了一种合理的无套利放松,称为部分无套利,即,仅对有限范围的公用事业保证无仲裁定价,这为我们的市场设计提供了更多的可能性。第三,为了避免套利,我们提出了一种通用的方法,以确保在个性化差分隐私的套利自由。第四,为了充分利用数据所有者的个性化隐私损失范围,我们提出了隐私预算分配技术来分配隐私损失的查询下套利自由。最后,我们进行实验来验证我们提出的交易协议的有效性。
2021-11-23 cs.CR cs.DB
Privacy-Preserving Credit Risk Prediction with Alternative Data
School of Management and Economics, The Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen)(香港中文大学(深圳)管理学院);School of Management, Fudan University(复旦大学管理学院);Lerner College of Business and Economics, University of Delaware(特拉华大学勒纳商学院)
针对信用风险预测中替代数据共享导致的隐私泄露问题,提出PrivacyCredit方法,在保护消费者隐私、模型保密性和无损性能约束下,实现与传统明文数据组合相同的预测性能。
2026-06-09 cs.CR cs.LG
Gaze3P: Gaze-Based Prediction of User-Perceived Privacy
本文提出首个用于研究用户感知隐私的注视数据集Gaze3P,并训练机器学习模型从眼动中动态预测隐私,进而优化差分隐私机制参数,以提升与用户期望的契合度。
2025-09-10 cs.CR cs.HC
Differentially Private Auditing Under Strategic Response
University of Bath(巴斯大学)
本文研究了在审计方与开发者战略响应下,差分隐私审计的设计问题,提出了一种考虑福利权重、审计误判概率、检测弹性及缓解成本曲率的四因素平衡模型,通过开发者KKT系统提出SPAD算法。
2026-08-03 cs.CR cs.GT cs.LG
Dynamic Private Task Assignment under Differential Privacy
数据汇集对于空间众包服务,如资源分配、政策制定和科学探索是不可或缺的。然而,隐私问题使得用户在获得足够的补偿之前分享他们的信息具有挑战性。差分隐私(Differential Privacy,DP)是一种在保护个人隐私的同时发布有用信息的机制。然而,大多数DP机制只考虑对每个用户的隐私损失的固定补偿。在本文中,我们设计了一个任务分配方案,允许工人动态地提高他们的效用与动态距离隐私泄漏。具体来说,我们提出了两种解决方案,以提高任务分配结果的总效用,即私人效用消除(PUCE)的方法和私人博弈论(PGT)的方法,分别。我们证明,PUCE实现更高的效用比国家的最先进的作品。我们证明了我们的PUCE和PGT方法的效率和有效性的真实和合成数据集相比,最近的基于距离的方法,私人距离消除(PDCE)。PUCE总是略优于PDCE。PGT比PDCE快50%到63%,并且当工人范围足够大时,平均可以提高16%的效用。
2023-02-19 cs.CR cs.DB
Federated Learning for Multi-Center Sepsis Early Prediction with Privacy-Preserving
University of Science and Technology of China(中国科学技术大学)
针对多中心医疗数据的隐私和分布式特性,提出基于联邦学习的分布式协作建模方法,实现与集中式模型相当的预测精度并避免隐私泄露。
2026-06-03 cs.CR cs.LG
Privacy-Preserving Customer Churn Prediction Model in the Context of Telecommunication Industry
Bangladesh University of Engineering and Technology(孟加拉工程技术大学)
针对电信行业客户流失预测中的数据隐私问题,提出结合GANs和自适应证据权重的隐私保护框架,在云环境中生成合成数据训练,实现高预测性能并显著提升准确率和F值。
2024-11-03 cs.CR cs.LG
Privacy-Aware Human Mobility Prediction via Adversarial Networks
Imperial College London(帝国理工学院);University of Washington(华盛顿大学)
随着各种移动设备和基于位置的服务在不同的智慧城市场景和应用中越来越多地发展,由于地理定位的数据汇集和共享,出现了许多意想不到的隐私泄露。虽然这些地理定位数据可以提供对人类移动模式的丰富理解并解决各种社会研究问题,但对用户敏感信息的隐私问题限制了其利用。在本文中,我们设计并实现了一种新的基于LSTM的对抗机制与表示学习,以达到一个隐私保护的功能表示的原始地理定位数据(移动数据)的共享目的。我们量化了移动数据集在轨迹重建风险、用户重新识别风险和移动可预测性方面的效用-隐私权衡。我们提出的架构报告的帕累托前沿分析,使用户能够评估这种权衡作为一个函数的拉格朗日损失重量参数。在四个有代表性的移动数据集上的广泛比较结果表明了我们提出的架构的优越性和所提出的隐私保护特征提取器的效率。我们的研究结果表明,通过探索帕累托最优设置,我们可以同时增加隐私(45%)和效用(32%)。
2022-01-19 cs.CR cs.LG
Private Topic Modeling
提出了一种求解潜在狄利克雷分配问题的私有化随机变分推断方法。随机变分推断的迭代本质带来了挑战:需要多次迭代才能获得准确的后验分布,但每次迭代都会增加必须添加的噪音量,以实现合理程度的隐私。我们提出了一个实用的算法,克服了这一挑战相结合:(1)一个改进的差分隐私的组合方法,称为时刻会计师,它提供了一个严格的约束上的隐私成本的多个变分推断迭代,从而显着降低了加性噪声的量;和(2)隐私放大导致的大规模数据的二次采样。针对共轭指数族模型,在我们的私有变分推断中,所有的后验分布都将通过简单地扰动期望的充分统计量来私有化。使用维基百科的数据,我们说明了我们的算法对大规模数据的有效性。
2018-12-03 cs.CR stat.ML
PRICURE: Privacy-Preserving Collaborative Inference in a Multi-Party Setting
University of Michigan, Dearborn(密歇根大学迪尔伯恩分校)
当处理私有数据的多方致力于诸如医疗图像分类之类的协作预测任务时,它们通常受到数据保护法规的约束并且在协作方之间缺乏信任。如果以隐私保护的方式进行,预测分析可以受益于多方在同一机器学习任务上持有互补数据集的集体预测能力。本文介绍了PRICURE,一个系统,它结合了安全多方计算(SMPC)和差分隐私(DP)的互补优势,使隐私保护的多个模型所有者之间的协作预测。SMPC允许与非合谋安全服务器秘密共享私有模型和客户端输入,以计算预测而不会泄漏模型参数和输入。DP通过噪声聚集掩盖真实的预测结果,以阻止可能发起成员推断攻击的半诚实客户端。我们在包括基准医学图像分类数据集在内的四个数据集上对神经网络进行了PRICURE评估。我们的研究结果表明,PRICURE保证了数十个模型所有者和客户的隐私,并具有可接受的准确性损失。我们还表明,DP减少了成员推断攻击暴露,而不损害准确性。
2021-02-19 cs.CR cs.LG
Privacy Preserving Charge Location Prediction for Electric Vehicles
Queensland University of Technology(昆士兰科技大学);CSIRO’s Data61(联邦科学与工业研究组织Data61);School of Computer Science(计算机学院);School of Electrical Engineering and Robotics(电气工程与机器人学院)
为解决电动汽车充电位置预测中的隐私泄露问题,提出联邦学习Transformer网络(FLTN),通过客户端仅共享模型权重及点对点权重共享机制,在保护数据隐私的同时实现了高达92%的预测准确率。
2025-01-31 cs.AI cs.CR
Privacy-Preserving Taxi-Demand Prediction Using Federated Learning
Osaka University(大阪大学);Tanta University(坦塔大学)
本文提出使用联邦学习进行出租车需求预测,在保护多方数据隐私的同时,实现与集成数据训练的单一模型相比误差在1%以内的准确预测。
2023-05-21 cs.CR cs.LG
On the Privacy Guarantees of Gossip Protocols in General Networks
近年来,信息传播协议的隐私性保证问题引起了人们越来越多的研究兴趣,其中gossip协议在各种信息交换应用中具有重要的地位。本文从差分隐私和预测不确定性两个方面研究了一般网络中流言协议的隐私保证。首先,在一般网络中的同步和异步设置的差分隐私保证的下界推导出八卦协议。在统一先验条件下,确定了源节点的预测不确定性。对于隐私流言算法,推导了差分隐私和预测不确定性保证的封闭形式。此外,考虑到这两个度量在某些情况下可能是限制性的,提出了放松的变体。研究发现,在一般网络环境下,源匿名性与网络的一些关键结构参数密切相关。然后,我们研究了无线网络中不可靠通信的信息传播,并量化了差分隐私保证和信息传播效率之间的权衡。最后,考虑到攻击者可能在信息传播过程的开始阶段并不在场,研究了延迟监控的场景,并评估了相应的差分隐私保证。
2021-02-05 cs.CR cs.DC
Measure-Observe-Remeasure: An Interactive Paradigm for Differentially-Private Exploratory Analysis
提出Measure-Observe-Remeasure交互范式,通过可视化界面支持分析者在差分隐私探索性分析中高效分配隐私预算,用户研究表明参与者能相对成功使用该工作流并最大化效用。
2024-06-04 cs.CR cs.DB cs.HC
Privacy Risk Predictions Based on Fundamental Understanding of Personal Data and an Evolving Threat Landscape
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种基于身份生态系统图的隐私风险预测框架,通过分析身份盗窃和欺诈案例,利用图神经网络预测个人数据泄露的可能性。
2026-03-03 cs.CR cs.LG cs.SI
Differentially Private ADMM-Based Distributed Discrete Optimal Transport for Resource Allocation
最优运输(OT)是一个框架,可以指导设计有效的资源分配策略,在网络的多个来源和目标。为了降低大规模运输设计的计算复杂性,我们首先开发了一个分布式算法的交替方向乘法器(ADMM)的基础上。然而,这样的分布式算法是脆弱的敏感信息泄漏时,攻击者拦截在分布式ADMM更新期间节点之间传送的传输决策。为此,我们提出了一种基于输出变量扰动的隐私保护分布式机制,通过在每个更新实例与其他相应节点共享之前,向每个节点的决策添加适当的随机性。我们表明,开发的计划是差分私人,这可以防止对手从推断节点的机密信息,即使知道的运输决策。最后,我们通过案例研究证实了所设计的算法的有效性。
2022-11-30 cs.CR cs.SI cs.SY
Privacy-preserving Traffic Flow Prediction: A Federated Learning Approach
Southern University of Science and Technology(南方科技大学);Heilongjiang University(黑龙江大学);Nanyang Technological University(南洋理工大学)
基于政府和组织收集的大量数据集,通过深度学习模型的现有交通流预测方法取得了出色的成功。然而,这些数据集可能包含大量的用户的隐私数据,这是挑战目前的预测方法,用户隐私是呼吁公众关注,在最近几年。因此,如何在保护隐私的同时开发准确的流量预测是一个需要解决的重要问题,这两个目标之间存在权衡。为了解决这一挑战,我们引入了一种名为联邦学习的隐私保护机器学习技术,并提出了一种基于联邦学习的门控递归单元神经网络算法(FedGRU)的交通流预测。FedGRU与当前的集中式学习方法不同,它通过安全的参数聚合机制来更新通用学习模型,而不是直接在组织之间共享原始数据。在安全的参数聚合机制中,我们采用了一种联合平均算法来减少模型参数传输过程中的通信开销。此外,我们设计了一个联合公告协议,以提高FedGRU的可扩展性。我们还提出了一个集成聚类为基础的交通流预测方案,通过分组的组织成集群之前,应用FedGRU算法。通过对真实世界数据集的大量案例研究表明,FedGRU的预测准确率比高级深度学习模型高出90.96%,这证实了FedGRU可以在不影响原始数据隐私和安全的情况下实现准确及时的流量预测。
2020-03-19 cs.CR cs.LG stat.ML
Explainable Link Prediction for Privacy-Preserving Contact Tracing
IBM Research India(IBM印度研究院)
接触追踪已被用于识别与SARS-Cov 2冠状病毒感染者密切接触的人。已经引入了一些数字合同追踪应用程序,以促进或补充物理接触追踪。然而,在实施合同追踪应用程序时存在一些隐私问题,这使得人们不愿意在这些应用程序上安装或更新其感染状态。在这篇概念论文中,我们提出了来自图神经网络和可解释性的想法,这可以提高对这些应用程序的信任,并鼓励人们采用。
2020-12-10 cs.AI cs.CR cs.LG
Gaussian Processes with Differential Privacy
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学)
高斯过程(GP)是一种非参数贝叶斯模型,广泛用于各种预测任务。先前通过差分隐私(DP)向GP添加强隐私保护的工作仅限于保护预测目标(模型输出)的隐私而不保护输入。我们打破了这一限制,引入GP与DP保护模型的输入和输出。我们实现了这一点,通过使用稀疏GP方法和出版的私人变分近似已知的诱导点。调整近似协方差以近似地考虑来自DP噪声的增加的不确定性。该近似可用于使用标准稀疏GP技术计算任意预测。我们提出了一种超参数学习的方法,使用私人选择协议应用于验证集对数似然。实验结果表明,在足够的数据量下,该方法可以在强隐私保护下生成准确的模型。
2021-11-11 cs.CR cs.LG stat.ML
Secure Distributed/Federated Learning: Prediction-Privacy Trade-Off for Multi-Agent System
University of Southern California(南加州大学)
分散学习是一种有效的新兴范式,用于提高多个有界计算代理的计算能力。在大数据时代,在分布式和联邦学习(DL和FL)框架内执行推理,中央服务器需要处理大量数据,同时依赖各种代理执行多个分布式训练任务。考虑到分布式计算的拓扑结构,隐私已经成为一个首要的问题。此外,假设代理的信息处理能力有限,需要一个复杂的\textit{privacy-preserving decentralization}来确保有效的计算。为此,我们研究的\textit{privacy-aware server to multi-agent assignment}问题受到信息处理的限制与每个代理,同时保持隐私和确保学习信息的消息,通过分布式私人联邦学习(DPFL)的方法收到代理全球终端。为了找到一个分散的计划,两个代理系统,我们制定了一个优化问题,平衡隐私和准确性,考虑到与每个代理相关联的压缩约束的质量。我们提出了一个迭代收敛算法交替自洽方程。我们还对所提出的解决方案进行了数值评估,以显示隐私预测的权衡,并证明了新方法在确保DL和FL隐私方面的有效性。
2022-04-24 cs.CR cs.IT cs.LG
When Fairness Meets Privacy: Exploring Privacy Threats in Fair Binary Classifiers via Membership Inference Attacks
University of Technology Sydney(悉尼科技大学);City University of Macau(澳门城市大学);Data61 CSIRO
针对公平性增强二分类模型对基于分数的成员推理攻击存在抵抗力的现象,提出利用原始模型与公平性增强模型预测差异及预测差距作为攻击线索的高效攻击方法FD-MIA,并验证了其有效性。
2024-08-27 cs.AI cs.CR cs.LG
Chasing Your Long Tails: Differentially Private Prediction in Health Care Settings
University of Toronto(多伦多大学);Vector Institute(向量研究所)
医疗保健中的机器学习模型通常部署在保护患者隐私非常重要的环境中。在这种情况下,差分隐私(DP)学习的方法提供了一种通用的方法来学习模型的隐私保证。DP学习的现代方法通过审查被判断为过于独特的信息的机制来确保隐私。因此,由此产生的隐私保护模型忽略了数据分布尾部的信息,导致准确性损失,可能会不成比例地影响小群体。在本文中,我们研究了DP学习在医疗保健中的作用。我们使用最先进的DP学习方法来训练临床预测任务中的隐私保护模型,包括X射线图像分类和时间序列数据中的死亡率预测。我们使用这些模型对隐私、效用、对数据集转移的鲁棒性和公平性之间的权衡进行了全面的实证调查。我们的研究结果突出了医疗保健中DP学习方法的鲜为人知的局限性,在隐私和实用性之间表现出陡峭的权衡的模型,以及其预测受到训练数据中大型人口群体不成比例影响的模型。我们讨论的成本和收益的差异私人学习在医疗保健。
2020-10-13 cs.CR cs.CY cs.LG
Differential Privacy-Driven Framework for Enhancing Heart Disease Prediction
School of Computer Science and Technology(计算机科学与技术学院);Algoma University(阿尔戈马大学);School of Electrical Engineering and Computer Science(电气工程与计算机科学学院);University of Ottawa(渥太华大学)
本文提出基于差分隐私和联邦学习的框架,用于在保护患者隐私的同时提高心脏病预测的准确性。
2025-04-25 cs.AI cs.CR cs.LG
Differentially Private Distribution Release of Gaussian Mixture Models via KL-Divergence Minimization
State Key Laboratory of Internet of Things for Smart City and the Department of Electrical and Computer Engineering, University of Macau(物联网智能城市国家重点实验室和澳门大学电子与计算机工程系);Department of Electrical and Computer Engineering, Cornell Tech, Cornell University(电气与计算机工程系,康奈尔科技,康奈尔大学);Computing Sciences Research, Lawrence Berkeley National Laboratory(计算科学研究所,劳伦斯伯克利国家实验室)
本文提出通过KL散度度量高斯混合模型发布精度,结合差分隐私机制,在保证隐私安全的同时保持模型效用。
2026-10-16 cs.CR cs.IT cs.LG