Can collaborative learning be private, robust and scalable?
Technical University of Munich（慕尼黑工业大学）；Imperial College London（伦敦帝国学院）；Helmholtz Zentrum München（慕尼黑亥姆霍兹中心）
在用于医学图像分析的联邦学习中，学习协议的安全性至关重要。这样的设置通常会被攻击者破坏，攻击者的目标要么是联盟使用的私有数据，要么是模型本身的完整性。这就要求医学成像界开发出一种机制来训练协作模型，这种模型是私有的，并且对对抗性数据具有鲁棒性。为了应对这些挑战，我们提出了一个实用的开源框架来研究差分隐私，模型压缩和对抗性训练相结合的有效性，以提高模型对对抗性样本在训练和推理时间攻击下的鲁棒性。使用我们的框架，我们实现了有竞争力的模型性能，显着减少模型的大小和改进的经验对抗鲁棒性没有严重的性能下降，在医学图像分析中至关重要。
2022-08-08 cs.CR cs.LG
CaPS: Collaborative and Private Synthetic Data Generation from Distributed Sources
针对分布式数据持有者不愿或无法将原始数据交给中央实体的问题，本文提出CaPS框架，用安全多方计算和差分隐私替代可信聚合器，实现协作式且私密的表格合成数据生成，并在MWEM+PGM和AIM上验证了其适用性与可扩展性。
2024-06-08 cs.CR
Differentially Private Learning with Per-Sample Adaptive Clipping
Tsinghua University（清华大学）；Peking University（北京大学）；Ant Group（蚂蚁集团）
针对差分隐私学习中恒定裁剪需调参、归一化方法偏差大的问题，提出基于非单调权重的DP-PSAC算法，在保障隐私的同时降低更新偏差，理论与实验均验证其性能优于现有最优方法。
2023-05-02 cs.AI cs.CR cs.LG
Outsourcing Private Machine Learning via Lightweight Secure Arithmetic Computation
在几个实际感兴趣的设置中，双方寻求使用公共机器学习模型来协作地对他们的私有数据执行推断。例如，几家医院可能希望共享患者的医疗记录，以增强诊断和疾病预测，但由于隐私问题，可能无法明确共享数据。在这项工作中，我们提出了一个积极的安全协议外包安全和私人机器学习计算。关于这个问题的最近的工作主要集中在被动安全协议，其安全性对被动（“半诚实”）方，但可能会完全崩溃，在存在的主动（“恶意”）方谁可以偏离协议。基于安全神经网络的分类算法可以被视为整数算术计算的实例化。我们展示了我们的协议的效率，通过将其应用到现实世界的算术神经网络计算的实例，包括一个网络训练执行协作疾病预测。
2018-12-04 cs.CR
CaPC Learning: Confidential and Private Collaborative Learning
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；The Chinese University of Hong Kong（香港中文大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Northwestern University（西北大学）
机器学习受益于大型训练数据集，这些数据集可能并不总是能够由任何单个实体收集，特别是在使用隐私敏感数据时。在许多情况下，例如医疗保健和金融，独立的各方可能希望合作并从彼此的数据中学习，但由于隐私法规而无法这样做。一些法规通过在中央位置加入数据集（机密性）来防止各方之间的明确共享数据。其他一些也限制了数据的隐式共享，例如，通过模型预测（隐私）。目前还没有一种方法能够在这样的设置中实现机器学习，其中需要保护机密性和隐私性，以防止数据的显式和隐式共享。联邦学习只提供机密性，而不是隐私，因为共享的梯度仍然包含私人信息。差异私人学习假设不合理的大数据集。此外，这两种学习范式都产生了一个中央模型，其架构是事先商定的所有各方，而不是使合作学习，每一方学习和改进自己的本地模型。我们介绍了保密和私人协作（CaPC）学习，第一种方法可证明在协作环境中实现保密性和隐私性。我们利用安全多方计算（MPC），同态加密（HE）和其他技术与私人聚合教师模型相结合。我们演示了CaPC如何允许参与者进行协作，而无需明确加入他们的训练集或训练中心模型。每一方都能够提高其模型的准确性和公平性，即使在每一方都有一个在自己的数据集上表现良好的模型，或者当数据集不是IID并且模型架构在各方之间是异构的时，也是如此。
2021-03-19 cs.CR cs.LG
Collaborative Learning From Distributed Data With Differentially Private Synthetic Twin Data
Aalto University（阿尔托大学）；University of Helsinki（赫尔辛基大学）；University of Manchester（曼彻斯特大学）
本文提出各方共享差分隐私合成孪生数据以进行协作学习的框架，并在UK Biobank健康数据上验证其可行性，证明该方法能提升统计估计准确性，尤其惠及小型异构数据集和代表性不足群体，为隐私受限的分布式生物医学研究提供了可行方案。
2023-08-09 cs.CR cs.LG
Private Dataset Generation Using Privacy Preserving Collaborative Learning
Technische Hochschule Ingolstadt（英戈尔施塔特应用技术大学）
随着深度学习算法在许多应用中的使用越来越多，与隐私和对抗攻击相关的新研究问题正在出现。然而，深度学习算法的改进需要越来越多的数据在研究社区内共享。联邦学习、差分隐私、附加秘密共享等方法提供了一种在边缘上训练机器学习模型而不从边缘移动数据的方法。然而，它是非常计算密集型的，并且容易受到对抗攻击。因此，这项工作引入了一个隐私保护FedCollabNN框架，用于在边缘训练机器学习模型，该框架具有计算效率和对对抗攻击的鲁棒性。使用MNIST数据集的仿真结果表明了该框架的有效性。
2020-04-28 cs.CR cs.LG stat.ML
Fairness-aware Differentially Private Collaborative Filtering
Etsy Inc（Etsy公司）；Rutgers University（罗格斯大学）；University at Albany, SUNY（纽约州立大学奥尔巴尼分校）
最近，越来越多地采用差分隐私引导算法用于隐私保护机器学习任务。然而，这种算法的使用伴随着算法公平性方面的权衡，这已经被广泛承认。具体来说，我们已经经验性地观察到，经典的协同过滤方法，训练的差分私人随机梯度下降（DP-SGD），结果在不同的用户参与度方面的不同影响用户组。这反过来又导致原来的不公平模型对不活跃用户的偏见更大。为了解决上述问题，我们提出了\textbf{DP-Fair}，一个两阶段的框架为基础的协同过滤算法。具体而言，它将差分隐私机制与公平性约束相结合，在保证推荐公平的同时保护用户隐私。基于Amazon数据集和Etsy（最大的电子商务平台之一）收集的用户历史日志的实验结果表明，与vanilla DP-SGD相比，该方法在浅层和深层推荐模型上的整体准确性和用户组公平性方面都具有更好的性能。
2023-03-16 cs.CR cs.IR cs.LG
Auditing and Mitigating Privacy Leakage in Cloud-Edge Collaborative Decoding
The Hong Kong Polytechnic University（香港理工大学）；Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究院）；School of Software, Tsinghua University（清华大学软件学院）
本文针对云边协同解码范式的隐私风险提出防御机制CoVeil，可降低数据泄露最多87.2%且准确率损失极小，改善了隐私-效用权衡。
2026-09-01 cs.AI cs.CR
SafeNet: The Unreasonable Effectiveness of Ensembles in Private Collaborative Learning
Northeastern University（东北大学）；Google Research（谷歌研究院）
已经提出了安全多方计算（MPC）以允许多个互不信任的数据所有者在其组合数据上联合训练机器学习（ML）模型。然而，通过设计，MPC协议忠实地计算训练功能，对抗性ML社区已经证明这会泄露私人信息，并且可以在中毒攻击中被篡改。在这项工作中，我们认为在我们称为SafeNet的框架中实现的模型集成是一种高度MPC兼容的方式，可以避免许多对抗性的ML攻击。MPC训练中所有者之间的数据自然分区允许这种方法在训练时具有高度可扩展性，提供可证明的中毒攻击保护，并可证明地防御许多隐私攻击。我们在端到端和迁移学习场景中训练的几个机器学习数据集和模型上展示了SafeNet的效率、准确性和中毒恢复能力。例如，SafeNet显著降低了后门攻击的成功率，同时实现了$39\times$更快的训练和比Dalskov等人的四方MPC框架更少的通信$36 \times$。我们的实验表明，即使在许多非iid设置中，集成也保留了这些好处。集成的简单性，廉价的设置和鲁棒性使其成为MPC中私下训练ML模型的首选。
2022-09-08 cs.CR cs.LG
Differentially Private Collaborative Intrusion Detection Systems For VANETs
车载自组织网络（VANET）是现代交通系统中提供安全和有价值信息的一种使能技术，但它容易受到从被动窃听到主动干扰等多种攻击。入侵检测系统是通过检测恶意行为来缓解威胁的重要设备。此外，车辆之间的合作，在VANELS可以提高检测精度，通过交流他们的经验之间的节点。为此，分布式机器学习是一个合适的框架，可扩展的和可实现的协同检测算法的设计在VANESTO。协作学习的一个基本障碍是节点之间交换数据时的隐私问题。恶意节点可以通过从观测数据中推断来获取其他节点的敏感信息。在本文中，我们提出了一个隐私保护的机器学习为基础的协同入侵检测系统（PML-CIDS）的VANESTUDIO。该算法将交替方向乘子法（ADMM）应用于一类经验风险最小化（ERM）问题，并训练分类器来检测VAN中的入侵。我们使用差分隐私来捕获PML-CIDS的隐私标记，并提出了一种双变量扰动的方法来提供动态的差分隐私。我们分析了理论性能，并描述了PML-CIDS的安全性和隐私性之间的基本权衡。我们还使用NSL-KDD数据集进行了数值实验，以证实检测精度，安全隐私权衡和设计的结果。
2020-05-02 cs.CR eess.SP
Private and Collaborative Kaplan-Meier Estimators
提出两种差分隐私方法和合成数据集生成技术，支持在严格隐私保证下联合估计Kaplan-Meier曲线，实验证明其全局估计器在隐私标准$\varepsilon=1$下与非隐私集中式估计器无显著偏差。
2024-07-29 cs.CR stat.AP
Over-Threshold Multiparty Private Set Intersection for Collaborative Network Intrusion Detection
University of Waterloo（滑铁卢大学）
提出一种单收集者超阈值隐私集合求交协议，通过新哈希方案大幅降低计算复杂度，使其能应用于真实网络日志，并提供两种适应不同安全与通信需求的部署选项。
2025-10-14 cs.CR cs.NI
Privacy-preserving Security Inference Towards Cloud-Edge Collaborative Using Differential Privacy
云边缘协同推理方法将深度神经网络（DNN）分为两部分，在资源受限的边缘设备和云服务器上协同运行，旨在最大限度地减少推理延迟并保护数据隐私。然而，即使来自边缘设备的原始输入数据没有直接暴露给云，针对协作推理的最先进的攻击仍然能够从暴露的本地模型的中间输出重建原始私有数据，从而引入严重的隐私风险。本文提出了一种用于云-边缘协作的安全隐私推理框架CIS，该框架支持根据动态变化的网络带宽自适应地划分网络，充分释放边缘设备的计算能力。为了减轻由私有扰动引入的影响，CIS提供了一种通过向卸载到云的中间层特征图添加细化噪声来实现差分隐私保护的方法。同时，在给定总隐私预算的情况下，通过不同卷积滤波器生成的特征图秩大小合理分配预算，使得云中的推理对数据扰动具有鲁棒性，从而有效地平衡了隐私性和可用性之间的冲突问题.最后，我们构建了一个真实的云边缘协同推理计算场景，以验证资源受限的边缘设备上的推理延迟和模型划分的有效性。最后，采用最新的云边缘协同重构攻击方法，对CIS提供的端到端隐私保护机制的实际可用性进行了评估。
2022-12-13 cs.CR
Pencil: Private and Extensible Collaborative Learning without the Non-Colluding Assumption
Tsinghua University（清华大学）；Zhongguancun Laboratory（中关村实验室）
Pencil提出首个无需非共谋假设的私有协作学习框架，基于高效两方协议实现多方扩展，同时保障数据与模型隐私，吞吐量提升10~260倍，通信量降低两个数量级。
2024-03-17 cs.CR cs.LG
UTrace: Poisoning Forensics for Private Collaborative Learning
Northeastern University（东北大学）；ETH Zurich（苏黎世联邦理工学院）；University of Toronto（多伦多大学）
针对隐私保护机器学习中恶意投毒难溯源的问题，提出UTrace用户级溯源框架，结合梯度相似度检测与用户级遗忘技术，在MPC隐私保障下实现高精度投毒归因。
2025-09-30 cs.CR cs.LG
Privacy-Preserving Data Linkage Across Private and Public Datasets for Collaborative Agriculture Research
Case Western Reserve University（凯斯西储大学）；Georgia Institute of Technology（佐治亚理工学院）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本文提出隐私保护框架，在保护农场数据的同时联动私有农业数据与公共政策数据，并基于真实 Farmer's Market 数据验证其可支持定价与粮食不安全分析。
2024-09-09 cs.CR cs.CY cs.LG
Private Collaborative Edge Inference via Over-the-Air Computation
Imperial College London（伦敦帝国学院）；The Alan Turing Institute（阿兰·图灵研究所）
针对无线边缘协同推理的准确率与本地模型隐私需求，提出基于空中计算的集成及多视图分类推理方法，在更少资源下实现更优性能与隐私保障，且代码已开源。
2025-01-14 cs.AI cs.CR cs.IT
Analog Multi-Party Computing: Locally Differential Private Protocols for Collaborative Computations
针对去中心化场景中多方计算因离散化导致精度损失的问题，提出在模拟域执行计算的本地差分隐私协议A-MPC，在保证数据隐私的同时将可容忍共谋客户端数量提升三倍，且模型精度接近集中式训练。
2023-10-18 cs.CR cs.DC cs.IT
Differentially Private Empirical Cumulative Distribution Functions
本文针对联邦学习场景，提出计算差分隐私经验分布函数的通用策略和基于秘密共享的专用策略，证明隐私保证并分析计算成本，通过实验验证其应用价值。
2025-02-10 cs.CR
Split Learning for Distributed Collaborative Training of Deep Learning Models in Health Informatics
Vanderbilt University（范德堡大学）；Vanderbilt University Medical Center（范德堡大学医学中心）；TripleBlind（TripleBlind公司）；UTHealth（得克萨斯大学健康科学中心）
针对医疗机构数据孤岛与隐私约束下的跨机构模型训练难题，提出基于拆分学习的隐私保护分布式学习框架，在性能接近集中式与联邦学习方案的同时提升计算效率、降低隐私风险。
2023-08-21 cs.CR cs.LG
Power Mechanism: Private Tabular Representation Release for Model Agnostic Consumption
MIT（麻省理工学院）；MBZUAI（穆斯林人工智能研究所）；EPFL（苏黎世联邦理工学院）
提出一种联合学习隐私编码网络与效用生成网络的方法，生成具有差分隐私保证的嵌入，实现模型无关的私有表格表示发布，仅需一轮通信且客户端计算量更少。
2025-10-07 cs.CR cs.LG
Performance and Cost Evaluation of Smart Contracts in Collaborative Health Care Environments
区块链作为一种解决方案出现在不同的应用程序中，用于数据完整性，不可否认性和可用性。数据敏感的场景，如医疗保健，也可以从这些区块链属性中受益。因此，不同的研究提出了在医疗保健应用中采用区块链。然而，很少有人讨论的激励方法，以吸引新用户，以及激励系统或应用程序的使用现有的最终用户。此外，很少讨论区块链中代码执行期间的性能。为了解决这些问题，这项工作提出了对TokenHealth的初步评估，这是一个通过游戏化和基于令牌的激励措施进行协作健康实践监测的应用程序。拟议的解决方案是通过以太坊区块链中使用Solidity的智能合约实现的。我们评估了Ropsten测试网络和私有实例中的性能。初步结果显示，不同智能合约的完整周期，智能合约的执行时间不到一分钟。此外，我们还讨论了使用私有实例和公共以太坊主网络的成本。
2019-12-20 cs.CR cs.PF
PRICURE: Privacy-Preserving Collaborative Inference in a Multi-Party Setting
University of Michigan, Dearborn（密歇根大学迪尔伯恩分校）
当处理私有数据的多方致力于诸如医疗图像分类之类的协作预测任务时，它们通常受到数据保护法规的约束并且在协作方之间缺乏信任。如果以隐私保护的方式进行，预测分析可以受益于多方在同一机器学习任务上持有互补数据集的集体预测能力。本文介绍了PRICURE，一个系统，它结合了安全多方计算（SMPC）和差分隐私（DP）的互补优势，使隐私保护的多个模型所有者之间的协作预测。SMPC允许与非合谋安全服务器秘密共享私有模型和客户端输入，以计算预测而不会泄漏模型参数和输入。DP通过噪声聚集掩盖真实的预测结果，以阻止可能发起成员推断攻击的半诚实客户端。我们在包括基准医学图像分类数据集在内的四个数据集上对神经网络进行了PRICURE评估。我们的研究结果表明，PRICURE保证了数十个模型所有者和客户的隐私，并具有可接受的准确性损失。我们还表明，DP减少了成员推断攻击暴露，而不损害准确性。
2021-02-19 cs.CR cs.LG
Secrecy: Secure collaborative analytics on secret-shared data
我们提出了一个关系MPC框架，用于在没有信息泄漏的情况下对私有数据进行安全的协作分析。我们的工作目标是具有挑战性的用例，其中数据所有者可能没有私人资源参与计算，因此，他们需要将数据分析安全地外包给不受信任的第三方。我们定义了一组不经意的运营商，解释他们所依赖的安全原语，并分析其成本方面的操作和各方之间的通信。我们展示了如何组成这些运营商可以形成端到端的不经意的查询，我们引入逻辑和物理优化，大大减少了查询执行过程中的空间和通信需求，在某些情况下，从二次到线性或从线性到对数相对于基数的输入。我们实现了我们的框架上的复制秘密共享在一个名为Secondary的系统，并评估它使用真实的查询从几个MPC应用领域。我们的实验表明，与基线方法相比，所提出的优化可以减少超过1000倍的执行时间，使Secondary能够超越最先进的框架，并在数百万个输入行上计算MPC查询，每方只有一个线程。
2022-02-03 cs.CR cs.DB
How to Democratise and Protect AI: Fair and Differentially Private Decentralised Deep Learning
National University of Singapore（新加坡国立大学）；The University of Melbourne（墨尔本大学）；IBM Singapore Lab（IBM新加坡实验室）；Monash University（莫纳什大学）；Deakin University（迪肯大学）
本文首先考虑了协作式深度学习中在保证隐私的前提下的公平性研究问题。提出了一种新的信誉系统，通过数字令牌和本地可信度来保证公平性，并结合差分隐私来保证隐私。特别是，我们构建了一个公平和差异私有的去中心化深度学习框架FDPDDL，它使各方能够通过使用我们开发的两阶段方案以公平和私有的方式获得更准确的局部模型：在初始化阶段，由差异私有生成对抗网络（DPGAN）生成的人工样本用于相互基准测试各方的局部可信度并生成初始令牌;在更新阶段，使用差分隐私SGD（DPSGD）来促进协作隐私保护深度学习，并且根据单独发布的梯度的质量和数量来更新每一方的本地可信度和令牌。在三个真实环境下的基准数据集上的实验结果表明，FDPDDL实现了很高的公平性，产生了与集中式和分布式框架相当的准确性，并提供了比独立框架更好的准确性。
2020-07-18 cs.CR cs.DC cs.LG
Privacy-Preserving Tensor Factorization for Collaborative Health Data Analysis
Emory University（埃默里大学）；UT Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心）
张量因子分解已被证明是一种有效的计算表型分析方法，可以将大量电子健康记录（EHR）转换为简洁且有意义的临床概念。虽然将张量因式分解任务分布到本地站点可以避免直接的数据共享，但它仍然需要交换可能泄露敏感患者信息的中间结果。因此，挑战是如何在严格和原则性的隐私约束下联合分解张量，同时仍然支持模型的可解释性。我们提出了DPFact，一个隐私保护的协同张量因式分解方法，用于使用EHR进行计算表型分析。它将先进的隐私保护机制与协作学习相结合。医院可以保持其EHR数据库的私密性，但也可以通过共享不同的私密中介结果来协作学习有意义的临床概念。此外，DPFact使用结构化稀疏项解决异质患者群体。在我们的框架中，每个医院分解其本地张量，并每隔几次迭代将更新的中间结果与输出扰动发送到生成表型的半可信服务器。对真实世界和合成数据集的评估表明，在严格的隐私约束下，我们的方法比最先进的基线方法更准确，通信效率更高。
2019-11-01 cs.CR cs.LG stat.ML
Geometric Data Perturbation with Noisy-Anchor Alignment for Privacy-Preserving Collaborative Learning
University of Tsukuba（筑波大学）；Graduate School of Science and Technology, University of Tsukuba（筑波大学大学院理工学研究科）；Institute of Systems and Information Engineering, University of Tsukuba（筑波大学系统情报工程学系）；Center for Artificial Intelligence Research, Tsukuba Institute for Advanced Research (TIAR), University of Tsukuba（筑波大学筑波高等研究院人工智能研究中心）
该研究针对隐私保护协同学习，提出带噪锚点对齐的几何数据扰动方法，在MNIST、CelebA实验中，其隐私-效用权衡优于对私有数据添加噪声的方案。
2026-10-05 cs.CR cs.LG
Accuracy and Privacy Evaluations of Collaborative Data Analysis
University of Tsukuba（筑波大学）
分布式数据分析，而不透露个人的数据，最近在几个应用程序中引起了极大的关注。非模型共享型联邦学习提出了一种通过共享降维数据表示的协同数据分析方法。本文分析了这种新的框架的准确性和隐私评估。在精度分析中，给出了协同数据分析与集中式降维分析等价的充分条件。在隐私分析中，我们证明了协作用户的私有数据集受到双重隐私层的保护，可以抵御内部和外部的攻击。
2021-01-27 cs.CR cs.LG
Real-time Cyberattack Detection with Collaborative Learning for Blockchain Networks
本文针对区块链网络中的交易洪泛和暴力破解等攻击，提出一种基于实验室真实攻击数据集的实时协作学习检测模型，在保护节点数据隐私的同时实现高达97%的检测准确率。
2024-07-04 cs.CR
Defense Against Prompt Inversion Attacks: An Information-Theoretic Approach for LLM Collaborative Inference
University of California, Los Angeles（加州大学洛杉矶分校）
提出信息论防御框架，通过最小化中间激活与输入提示的互信息来学习隐私表示，实现隐私-效用-延迟权衡，攻击成功率降低35%。
2026-06-11 cs.CR
Locally Differentially Private Embedding Models in Distributed Fraud Prevention Systems
Featurespace；University of Cambridge（剑桥大学）；University of Nottingham（诺丁汉大学）
本文提出了一种基于本地差分隐私和变长交易序列潜在嵌入的协作深度学习框架，用于分布式欺诈预防系统，在保障数据隐私的同时实现了对外部模型的安全数据共享，并在真实数据集上验证了其对推理时攻击的鲁棒性及效用-隐私权衡。
2024-01-03 cs.CR cs.LG
Deep Models Under the GAN: Information Leakage from Collaborative Deep Learning
University of Rome - La Sapienza（罗马大学）；Stevens Institute of Technology（史蒂文斯理工学院）
深度学习最近在机器学习中变得非常流行，在存在高度结构化和大型数据库的情况下，它在分类准确性方面提供了显着的改进。研究人员还考虑了深度学习对隐私的影响。模型通常以集中的方式进行训练，所有数据都由相同的训练算法处理。如果数据是用户私人数据的集合，包括习惯、个人照片、地理位置、兴趣等，则集中式服务器将有权访问可能被错误处理的敏感信息。为了解决这个问题，最近提出了协作深度学习模型，其中各方在本地训练他们的深度学习结构，并且仅共享参数的子集，以试图保持他们各自的训练集私有。参数也可以通过差分隐私（DP）进行混淆，使信息抽取更具挑战性，如Shokri和Shmatikov在CCS '15上提出的。不幸的是，我们发现任何保护隐私的协作深度学习都容易受到我们在本文中设计的强大攻击。特别是，我们证明了分布式、联合式或去中心化的深度学习方法从根本上被打破，并且不能保护诚实参与者的训练集。我们开发的攻击利用了学习过程的实时性，允许对手训练生成对抗网络（GAN），该网络生成目标训练集的原型样本，该样本本来是私有的（GAN生成的样本来自与训练数据相同的分布）。有趣的是，我们表明，记录级DP应用于模型的共享参数，如在以前的工作中所建议的，是无效的（即，记录级别的DP不是为了解决我们的攻击而设计的）。
2017-09-14 cs.CR cs.LG stat.ML
Privacy-Preserving Machine Learning for Collaborative Data Sharing via Auto-encoder Latent Space Embeddings
Los Andes University（洛斯安第斯大学）；Rappi（Rappi公司）；Amazon（亚马逊）
数据共享过程中的隐私保护机器学习是一项至关重要的任务，它可以在不需要共享原始数据源的情况下实现机器学习（ML）模型的协作训练。当组织必须确保敏感数据在整个ML管道中保持私有时，这一点尤其重要，即，训练和推理阶段。本文提出了一个创新的框架，使用表示学习通过自动编码器生成隐私保护的嵌入式数据。因此，组织可以共享数据表示，以提高机器学习模型在具有用于共享的预测下游任务的多个数据源的场景中的性能。
2022-11-11 cs.CR cs.LG
Differentially Private Secure Multi-Party Computation for Federated Learning in Financial Applications
Georgia Institute of Technology（佐治亚理工学院）；J.P. Morgan AI Research（摩根大通人工智能研究院）
联邦学习使一群客户端能够与受信任的服务器一起协作学习共享的机器学习模型，同时将每个客户端的数据保存在自己的本地系统中。这降低了暴露敏感数据的风险，但仍然有可能从通信的模型参数中对有关客户端私有数据集的信息进行逆向工程。因此，大多数联邦学习系统使用差分隐私来将噪声引入参数。这增加了任何试图揭示私人客户端数据的不确定性，但也降低了共享模型的准确性，限制了隐私保护噪声的有用规模。一种系统，通过还包括安全多方计算，可以进一步降低协调服务器恢复私人客户端信息的能力，而没有额外的准确性损失。结合这两种技术的方法与金融公司特别相关，因为它为协作学习提供了新的可能性，而不会暴露敏感的客户数据。这可以为重要任务（如最佳交易执行、信贷发放或欺诈检测）生成更准确的模型。本文的主要贡献是：我们提出了一个隐私保护的联邦学习协议的非专业观众，证明它使用逻辑回归在现实世界中的信用卡欺诈数据集，并评估它使用一个开源的模拟平台，我们已经适应了联邦学习系统的发展。
2020-10-12 cs.AI cs.CR cs.MA
Decentralised, Collaborative, and Privacy-preserving Machine Learning for Multi-Hospital Data
University of Toronto（多伦多大学）；University Health Network（大学健康网络）；Vector Institute（矢量研究所）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Simon Fraser University（西蒙菲莎大学）；St. Michael’s Hospital（圣迈克尔医院）；Unity Health Toronto（多伦多团结医疗）；Institute of Health Policy, Management and Evaluation, University of Toronto（多伦多大学卫生政策、管理与评价研究所）；Temerty Faculty of Medicine, University of Toronto（多伦多大学特梅蒂医学院）
提出去中心化协作隐私保护框架DeCaPH，支持多方无需共享私有数据或中心服务器即可训练模型，在三项真实医疗任务中展现出更优的效用-隐私权衡与泛化能力。
2024-04-28 cs.CR cs.LG
Private Hierarchical Clustering and Efficient Approximation
Amazon Web Services（亚马逊网络服务）；Hong Kong University of Science and Technology（香港科技大学）；Northeastern University（东北大学）；Stevens Institute of Technology（斯蒂文斯理工学院）
在协作学习中，多方贡献他们的数据集，以联合推断用于许多预测任务的全局机器学习模型。尽管其有效性，这种学习范式未能涵盖涉及高度敏感数据的关键应用领域，例如医疗保健和安全分析，其中隐私风险限制实体仅使用自己的数据集单独训练模型。在这项工作中，我们的目标是隐私保护的协作层次聚类。我们引入了一个正式的安全定义，旨在实现效用和隐私之间的平衡，并提出了一个双方协议，证明满足它，然后我们扩展我们的协议：（i）一个优化的版本的单链接聚类，和（ii）可扩展的近似变量。我们实现了我们所有的计划，并在合成和真实数据集上实验评估了它们的性能和准确性，获得了非常令人鼓舞的结果。例如，对于超过1M的10维数据样本，我们的安全近似协议的端到端执行需要35秒的计算，并达到97.09%的准确率。
2021-10-01 cs.AI cs.CR cs.DB
Private Federated Learning with Domain Adaptation
Oracle Labs（甲骨文实验室）
联邦学习（FL）是一种分布式机器学习（ML）范式，它使多方能够联合重新训练共享模型，而无需与任何其他方共享他们的数据，从而在规模和隐私方面都具有优势。我们提出了一个框架，以增加这种合作模式的建设与每个用户的领域自适应。我们表明，这种技术提高了模型的准确性，为所有用户，使用真实和合成数据，这种改善是更加明显的差分隐私边界施加在FL模型。
2019-12-13 cs.CR cs.LG stat.ML
Differentially Private Feature Release for Wireless Sensing: Adaptive Privacy Budget Allocation on CSI Spectrograms
Kocaeli University（科贾埃利大学）；Sakarya University（萨卡里亚大学）；Yildiz Technical University（伊尔迪兹理工大学）；Istanbul Technical University (ITU)（伊斯坦布尔科技大学）
本文提出了一种针对CSI频谱图的自适应隐私预算分配机制，通过改进的隐私-效用平衡提升无线传感特征发布的安全性与性能。
2025-12-29 cs.CR
DPSR: Differentially Private Sparse Reconstruction via Multi-Stage Denoising for Recommender Systems
Columbia University Irving Medical Center（哥伦比亚大学伊文思医疗中心）
DPSR通过多阶段去噪框架在推荐系统中实现差分隐私保护，有效提升推荐质量，优于现有隐私保护机制。
2025-12-22 cs.CR cs.LG
Ensembler: Protect Collaborative Inference Privacy from Model Inversion Attack via Selective Ensemble
University at Buffalo（布法罗大学）
本文提出可扩展框架Ensembler，通过在对抗服务器上利用选择性模型集成来混淆客户端私有信息重建，有效抵御模型反演攻击，在仅产生4.8%推断时间开销下，结构相似性比基线最多提升43.5%。
2024-12-23 cs.CR cs.LG
Temporal Gradient Inversion Attacks with Robust Optimization
Shanghai Jiao Tong University（上海交通大学）；WeBank（微众银行）
针对联邦学习中单次迭代梯度反转攻击因梯度维度不足等无法重建私有数据的问题，提出无需先验知识、利用多时序梯度结合鲁棒统计的TGIAs-RO攻击方法，经理论与多数据集实验验证性能更优，为隐私保护研究提供启发。
2023-06-13 cs.CR cs.LG
Compression Boosts Differentially Private Federated Learning
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；BME-HIT（布达佩斯技术与经济大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立高等物理、数学与信息学院）
联邦学习允许分布式实体协作地训练公共模型，而无需共享它们自己的数据。虽然它通过仅交换参数更新来防止数据汇集和聚合，但是它仍然容易受到各种推断和重建攻击，其中恶意实体可以从捕获的梯度中学习关于参与者的训练数据的私有信息。差分隐私是用来获得理论上健全的隐私保证，对这种推理攻击的噪声交换的更新向量。然而，增加的噪声与模型大小成比例，对于现代神经网络，模型大小可以非常大。这可能导致模型质量差。在本文中，压缩感知被用来减少模型的大小，从而提高模型的质量，而不牺牲隐私。我们使用2个数据集进行了实验，结果表明，与传统的非私有联邦学习方案相比，我们的隐私保护方案可以减少高达95%的通信成本，而性能损失可以忽略不计。
2020-11-10 cs.CR cs.LG
FedPerm: Private and Robust Federated Learning by Parameter Permutation
Oracle Labs（甲骨文实验室）
联邦学习（FL）是一种分布式学习范例，其使得相互不信任的客户端能够协作地训练公共机器学习模型。客户端数据隐私在FL中至关重要。同时，必须保护模型免受敌对客户端的中毒攻击。现有的解决方案孤立地解决了这两个问题。我们提出FedPerm，一个新的FL算法，解决这两个问题，通过结合一种新的模型内参数洗牌技术，放大数据隐私，与私人信息检索（PIR）为基础的技术，允许加密聚合客户端的模型更新。这些技术的组合进一步帮助联合服务器约束来自客户端的参数更新，以便减少敌对客户端的模型中毒攻击的影响。我们进一步提出了FedPerm的独特的超参数，可以有效地用于权衡模型效用的计算开销。我们对MNIST数据集的实证评估表明，FedPerm的有效性超过现有的差分隐私（DP）在FL的执法解决方案。
2022-08-16 cs.CR cs.LG
Supporting Regularized Logistic Regression Privately and Efficiently
Beijing Key Laboratory of Information Service Engineering, Beijing Union University（北京联合大学信息服务业工程北京市重点实验室）；Vanderbilt University（范德堡大学）
正则化逻辑回归模型作为最流行的统计和机器学习模型之一，在生物医学、社会科学、信息技术等领域得到了广泛的应用，这些领域往往涉及到受严格隐私保护的人类数据。对数据隐私的日益关注使得协调和开展大规模合作研究变得越来越困难，这些研究通常依赖于跨机构的数据共享和联合分析。我们在这里的工作重点是保护正则化逻辑回归，这是一种在各个学科中广泛使用的机器学习模型，同时还没有从数据安全和隐私的角度进行研究。我们认为一个常见的使用场景的多机构的合作研究，如在研究联盟或网络的形式，广泛见于遗传学，流行病学，社会科学等，使我们的隐私增强解决方案的实用，我们展示了一个非传统的和计算效率高的方法，利用分布式计算和强大的密码学提供全面的保护个人层面和汇总数据。对几项研究的广泛实证评估验证了我们的建议的隐私保障，效率和可扩展性。我们还讨论了我们的解决方案的大规模研究和应用的实际意义，从不同的学科，包括遗传和生物医学研究，智能电网，网络分析等。
2015-10-01 cs.CR cs.LG q-bio.GN
An Overview of Federated Deep Learning Privacy Attacks and Defensive Strategies
Delft University of Technology（代尔夫特理工大学）
随着对数据隐私的关注和立法的增加，正在开发协作机器学习（ML）算法，以确保用于处理的私人数据得到保护。联邦学习（FL）是这些方法中最流行的一种，它通过促进共享模型的协作训练来提供隐私保护，而无需与集中式服务器交换任何私有数据。相反，以机器学习模型更新的形式发送数据的抽象。最近的研究表明，这种模型更新仍然可能泄露私人信息，因此需要进行更有条理的风险评估。在本文中，我们分析了FL现有的漏洞，随后进行了文献综述可能的攻击方法targetingFL隐私保护能力。然后，这些攻击方法通过基本分类法进行分类。此外，我们提供了一个文献研究的最新防御策略和算法，FL旨在克服这些攻击。这些防御战略按其各自的基本防御原则分类。论文的结论是，单一防御策略的应用不足以为所有可用的攻击方法提供足够的保护。
2020-04-01 cs.CR cs.LG stat.ML
SPECIAL: Synopsis Assisted Secure Collaborative Analytics
提出SPECIAL系统，首个同时确保有界隐私损失、高级查询规划与无损处理的安全协作分析系统，通过摘要辅助安全处理模型实现复杂查询快80倍、内存省900倍且隐私损失降89倍。
2025-09-17 cs.CR cs.DB
Applying l-Diversity in anonymizing collaborative social network
到目前为止，由不同方联合发布一个巨大的社交网络是一种更容易的协作方法。收集这些社交网络数据的机构和研究人员通常对允许他人分析数据有着强烈的兴趣。在许多情况下，数据描述的关系是私人的，完全共享数据可能会导致不可接受的披露。因此，保护隐私而不泄露社交网络中的敏感信息是一个严重的问题。使用匿名化技术保护隐私的最新发展仅集中在关系数据上。在社交网络中保护隐私以防止邻居攻击是一个新的尝试，它使用了称为k-匿名的隐私定义。k-匿名社交网络在同质性和背景知识攻击的情况下仍然可能泄露隐私。为了克服这个问题，我们找到了一个地方，使用一个新的实用和有效的定义隐私称为ldiversity。在本文中，我们采取了进一步的保护隐私的协同社会网络数据的算法和分析的效用的数据的社会网络分析的影响。
2010-07-02 cs.CR cs.CY
Collaborative Mean Estimation over Intermittently Connected Networks with Peer-To-Peer Privacy
Stanford University（斯坦福大学）；Princeton University（普林斯顿大学）；Bar-Ilan University（巴伊兰大学）
这项工作考虑的问题，分布式均值估计（DME）在网络与间歇性连接，其目标是学习一个全球性的统计数据样本本地化的分布节点的帮助下，一个中央服务器。为了减轻间歇性链接的影响，节点可以与邻居合作计算本地共识，并将其转发到中央服务器。在这样的设置中，任何节点对之间的通信必须满足本地差分隐私约束。我们研究了节点之间额外的数据共享导致的协作中继和隐私泄露之间的权衡，随后提出了一种新的差分隐私协作算法来实现最佳权衡。最后，我们提出了数值模拟，以证实我们的理论研究结果。
2023-02-28 cs.CR cs.DC cs.IT
Unveiling Client Privacy Leakage from Public Dataset Usage in Federated Distillation
Case Western Reserve University（凯斯西储大学）
本文首次系统分析了公共数据集辅助联邦蒸馏（PDA-FD）的隐私风险，提出标签分布推断攻击和基于LiRA的成员推断攻击，在FedMD、DS-FL和Cronus上验证了其有效性，揭示了现有框架的隐私脆弱性。
2025-06-04 cs.CR cs.LG
LanFL: Differentially Private Federated Learning with Large Language Models using Synthetic Samples
Northwestern University（西北大学）
针对大语言模型联邦学习中参数不可访问及计算通信成本高的问题，提出黑盒提示式LanFL，通过差分隐私合成样本生成与提示优化实现跨参与者知识共享和本地隐私保护。
2024-10-24 cs.CR cs.LG
SoK: Enhancing Cryptographic Collaborative Learning with Differential Privacy
SAP SE（SAP公司）
本文系统分析了加密与差分隐私结合的协同学习，提出统一框架并探讨安全噪声采样技术的权衡与优化。
2026-01-14 cs.AI cs.CR cs.LG
Distributed collaborative anomalous sound detection by embedding sharing
Hitachi Ltd.（日立公司）
本文提出一种基于嵌入共享的分布式协作异常声音检测方法，各客户端使用通用预训练模型计算嵌入并在服务器聚合，通过离群点暴露进行检测，使异常声音检测的AUC平均提升6.8%。
2024-03-25 cs.CR cs.LG cs.SD
Collaborative analysis of genomic data: vision and challenges
近年来，DNA测序的成本导致大量遗传数据被用于改善科学研究、临床程序和医疗服务。由于人类基因组可以唯一地识别一个人，这一特征也引起了安全和隐私问题。为平衡风险与收益，本集团已建立包括监管及道德控制的管治机制，但该等机制容易出现人为错误，并对合作造成阻碍。在过去的十年里，技术方法也在迎头赶上，可以负责任地支持关键发现。在本文中，我们探讨了法规和道德准则，并提出了我们的安全/私人基因组数据存储/处理/共享平台的愿景。然后，我们提出了一些可用的技术和概念系统模型，可以支持我们的愿景。最后，我们强调需要进一步调查的开放问题。
2022-02-10 cs.CR cs.CY
