An Improved Privacy and Utility Analysis of Differentially Private SGD with Bounded Domain and Smooth Losses
UST
本文改进了差分隐私随机梯度下降的隐私和效用分析，针对有界域和光滑损失函数，揭示了隐私损失收敛机制及隐私效用权衡的理论界。
2026-01-15 cs.CR cs.LG stat.ML
PrivTune: Efficient and Privacy-Preserving Fine-Tuning of Large Language Models via Device-Cloud Collaboration
City University of Hong Kong（香港城市大学）；City University of Hong Kong (Dongguan)（香港城市大学（东莞））；University of Melbourne（墨尔本大学）
PrivTune通过分割学习框架，在设备-云协作中实现高效且隐私保护的大型语言模型微调，有效降低攻击成功率并保持性能。
2026-01-21 cs.AI cs.CR cs.LG
Gradient Sparsification Can Improve Performance of Differentially-Private Convex Machine Learning
The University of Melbourne（墨尔本大学）
我们使用梯度稀疏化来减少差分隐私噪声对私有机器学习模型性能的不利影响。为此，我们采用压缩感知和加性拉普拉斯噪声来评估差分私有梯度。噪声隐私保护梯度用于执行随机梯度下降以训练机器学习模型。通过将最小梯度项设置为零来实现的稀疏化可以降低训练算法的收敛速度。然而，通过稀疏化和压缩感知，可以降低所传递的梯度的维数和加性噪声的幅度。这些效应之间的相互作用决定了梯度稀疏化是否提高了差分私有机器学习模型的性能。我们在论文中对此进行了分析研究。我们证明，对于小的隐私预算，压缩可以提高隐私保护机器学习模型的性能。然而，对于大的隐私预算，压缩不一定提高性能。直观地说，这是因为隐私保护噪声的影响在大隐私预算制度中是最小的，因此梯度稀疏化的改进不能补偿其较慢的收敛。
2020-12-01 cs.CR cs.LG math.OC
Convex Optimization for Linear Query Processing under Approximate Differential Privacy
South China University of Technology（华南理工大学）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）；Illinois at Singapore Pte. Ltd（伊利诺伊大学新加坡私人有限公司）；Foshan University（佛山科学技术学院）
差分隐私使组织能够收集敏感数据的准确聚合，并对个人隐私提供强有力的严格保证。先前的工作已经发现，在差分隐私下，使用适当的\emph{strategy}将多个相关聚集作为一批计算，可能比独立地计算它们中的每一个产生更高的准确性。然而，找到最大化结果准确性的最佳策略是不平凡的，因为它涉及到解决复杂的约束优化程序，似乎是非线性和非凸的。因此，在过去的许多努力一直致力于解决这个非凸优化程序。现有的方法包括各种复杂的几何学和昂贵的数值解。然而，它们都不能保证找到这个优化问题的最优解。本文指出，在（$ε$，$δ$）-差分隐私下，通过求解一个简单而优雅的凸优化程序，可以令人惊讶地找到上述寻找合适策略的约束优化问题的最优解.然后，我们提出了一个有效的算法的基础上牛顿的方法，我们证明了总是收敛到最优解的线性全局收敛速度和二次局部收敛速度。实证评估表明，所提出的解决方案的准确性和效率。
2016-05-16 cs.DB cs.LG stat.ML
Differential Privacy Dynamics of Langevin Diffusion and Noisy Gradient Descent
National University of Singapore（新加坡国立大学）
当迭代随机学习算法的内部状态为\emph{private}时，算法关于训练数据的信息泄漏是什么？每个特定的训练时期对通过发布模型的信息泄漏的贡献有多大？我们研究了这个问题的噪声梯度下降算法，并在整个训练过程中建模的Rényi差分隐私损失的\emph{dynamics}。我们的分析追踪了一个可证明的\emph{tight}边界，该边界位于在相邻数据集上训练的模型参数上的一对概率分布之间的Rényi发散上。我们证明了隐私损失指数收敛速度快，光滑和强凸损失函数，这是一个显着的改进组合定理（高估了隐私损失的上限，其总价值超过所有中间梯度计算）。对于Lipschitz，光滑，强凸损失函数，我们证明了噪声梯度下降算法的最佳效用与一个小的梯度复杂性。
2022-09-09 cs.CR cs.LG stat.ML
Characterizing the Accuracy-Communication-Privacy Trade-off in Distributed Stochastic Convex Optimization
Carnegie Mellon University（卡内基梅隆大学）；Cornell University（康奈尔大学）
本文研究分布式差分隐私随机凸优化中的精度—通信—隐私权衡，提出基于 Vaidya 平面切割法的新算法与匹配下界，给出完整刻画。
2025-01-06 cs.IT cs.LG math.IT
Shifted Interpolation for Differential Privacy
UPenn（宾夕法尼亚大学）
本文通过构造移位插值过程，在 $f$-差分隐私框架下建立了迭代隐私放大现象的紧致刻画，首次给出强凸优化下的精确隐私分析，并推广到多种优化设定，恢复了指数机制的 $f$-DP 刻画。
2024-06-12 cs.CR cs.LG math.OC
Privacy-preserving Federated Primal-dual Learning for Non-convex and Non-smooth Problems with Model Sparsification
Institute of Communications Engineering, National Tsing Hua University（国立清华大学通信工程研究所）；University of Electronic Science and Technology of China（电子科技大学）；Singapore University of Technology and Design（新加坡科技设计大学）；Yonsei University（延世大学）
针对非凸非光滑联邦学习中通信效率与隐私保护的冲突，提出带双向模型稀疏化和差分隐私保证的联邦原始-对偶算法，并通过收敛分析与真实数据实验验证其优越性。
2024-04-03 cs.LG
A Differentially Private Framework for Deep Learning with Convexified Loss Functions
Macquarie University（麦考瑞大学）；Defence Science & Technology Group（国防科学技术集团）
差分隐私（DP）已被应用于深度学习中，用于保护底层训练集的隐私。现有的动态规划方法可分为三类：目标扰动、梯度扰动和输出扰动.他们面临三个主要问题。首先，目标函数的条件限制了一般深度学习任务中的目标扰动。第二，梯度扰动没有实现令人满意的隐私效用的权衡，由于在每个时期的过度注入噪声。第三，由于作为噪声尺度参数的训练模型参数的全局灵敏度的上界较松，不能保证输出扰动方法的高效用。为了解决这些问题，我们分析了模型参数全局灵敏度的更严格上限。在黑盒设置下，基于这种全局灵敏度，为了控制整体噪声注入，我们提出了一种新的输出扰动框架，通过将DP噪声注入到用凸化损失函数训练的基线非私有神经网络的输出层的随机采样神经元中（通过指数机制）。我们经验比较隐私效用权衡，衡量的准确性损失基线非私人模型和隐私泄漏对黑盒成员推断（MI）攻击，我们的框架和开源的差分私人随机梯度下降（DP-SGD）的方法在六个常用的现实世界的数据集。实验评估表明，当基线模型有可观察到的隐私泄漏MI攻击下，我们的框架实现了更好的隐私效用权衡比现有的DP-SGD实现，给定的整体隐私预算$ε\leq 1$大量的查询。
2022-04-03 cs.CR cs.LG
Asynchronous Federated Learning with Differential Privacy for Edge Intelligence
Imperial College London（帝国理工学院）
联邦学习因其在解决大规模机器学习中的数据隔离问题方面的巨大潜力，已成为打通人工智能最后一公里的有效方法。特别是考虑到实际边缘计算系统的异构性，基于异步边缘云协作的联邦学习可以显著降低离散者效应，进一步提高学习效率。尽管异步联邦学习（AFL）没有原始数据共享，但其开放的体系结构和广泛的协作仍然为一些恶意参与者提供了大量机会来推断其他参与者的训练数据，从而导致严重的隐私问题。为了实现具有高实用性的严格隐私保证，研究了具有差分隐私的异步边缘云协同联邦学习，重点研究了差分隐私对AFL模型收敛的影响.形式上，我们给出了第一次分析的模型收敛的AFL下DP和提出了一个多阶段的可调整的隐私算法（MAPA），以改善模型的效用和隐私之间的权衡，通过动态调整噪声规模和学习率。通过广泛的模拟和现实世界的实验与边缘可以测试床，我们证明，MAPA显着提高了模型的准确性和收敛速度，有足够的隐私保证。
2019-12-17 cs.LG math.OC stat.ML
Differentially Private Distributed Convex Optimization
Argonne National Laboratory（阿贡国家实验室）
本文考虑分布式优化（DO），多个代理合作，以最小化一个全球目标函数，表示为一个地方的目标，受到一些限制。在DO中，每个代理迭代地求解由其自己的数据构造的局部最优化模型，并传达一些信息（例如，局部解），直到获得全局解。即使本地存储的数据不与其他代理共享，仍然可以从代理之间通信的信息重建数据，这可能限制DO在具有敏感数据的应用中的实际使用。为了解决这个问题，我们提出了一个隐私保护的DO算法的约束凸优化模型，它提供了一个数据隐私的统计保证，称为差分隐私，和一个序列的迭代收敛到一个最优解的期望。该算法推广了线性化的交替方向法的乘法器，通过引入多个本地更新技术，以减少通信成本，并将一个客观的扰动法的局部最优化模型计算和通信的随机可行的本地解决方案，不能被用来重建本地数据，从而保护数据隐私。在凸约束的存在下，我们表明，虽然这两种算法提供了相同水平的数据隐私，所提出的算法中使用的客观扰动可以提供更好的解决方案比广泛采用的输出扰动法，随机化的局部解决方案，通过添加一些噪声。我们提出的隐私和收敛性分析的细节，并通过将其应用于两个不同的应用程序，即分布式控制的潮流和联邦学习，数据隐私是关注的数值证明了该算法的有效性。
2023-02-28 cs.CR cs.LG math.OC
Linear Model Against Malicious Adversaries with Local Differential Privacy
University of Florida（佛罗里达大学）；Northeastern University（东北大学）
科学合作受益于分布式资源的协作学习，但当数据敏感时仍然难以实现。近年来，隐私保护技术得到了广泛的研究，以分析跨不同机构的分布式数据，同时保护敏感信息。大多数现有的隐私保护技术都是为了抵抗半诚实的对手，并需要密集的计算来执行数据分析。安全的协作学习是显着困难的恶意对手谁可能偏离安全协议的存在。另一个挑战是在隐私保护的情况下保持高计算效率。本文利用矩阵加密技术对数据进行加密，使安全方案能够抵抗选择明文攻击、已知明文攻击和合谋攻击。该加密方案还实现了局部差分隐私。此外，交叉验证研究，以防止过度拟合，而不增加通信成本。在真实数据集上的实验结果表明，与现有的恶意攻击和半诚实模型相比，所提出的方案具有更高的计算效率。
2022-06-29 cs.CR cs.LG stat.ML
Federated Model Distillation with Noise-Free Differential Privacy
Lehigh University（理海大学）；Ant Group（蚂蚁集团）
传统的联邦学习直接对模型权重进行平均，这只适用于具有同构架构的模型之间的协作。共享预测而不是权重消除了这一障碍，并消除了传统联邦学习中白盒推理攻击的风险。然而，来自本地模型的预测是敏感的，并且会将训练数据隐私泄露给公众。为了解决这个问题，一种简单的方法是将差分私有随机噪声添加到预测中，然而这在隐私预算和模型性能之间带来了实质性的权衡。在本文中，我们提出了一种新的框架称为FEDMD-NFDP，它适用于无噪声差分隐私（NFDP）机制到联邦模型蒸馏框架。我们在各种数据集上的大量实验结果验证了FEDMD-NFDP不仅可以提供相当的效用和通信效率，而且还提供了无噪声的差分隐私保证。我们还通过考虑IID和非IID设置，异构模型架构以及来自不同分布的未标记公共数据集来证明我们的FEDMD-NFDP的可行性。
2021-05-21 cs.CR cs.LG stat.ML
The Cost of Privacy in Asynchronous Differentially-Private Machine Learning
University of Melbourne（墨尔本大学）；Macquarie University（麦考瑞大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织 Data61）；Australian National University（澳大利亚国立大学）
我们考虑使用位于具有不同隐私设置的多个私有和地理上分散的服务器上的训练数据来训练机器学习模型。由于数据的分布式性质，同时与所有合作的私人数据所有者进行通信可能具有挑战性或完全不可能。在本文中，我们开发了差分私有异步算法，用于在多个私有数据集上协作训练机器学习模型。算法的异步性质意味着，中央学习器与私有数据所有者一对一地交互，只要它们可用于通信，而不需要聚合查询响应来构建整个适应度函数的梯度。因此，该算法有效地扩展到许多数据所有者。我们将隐私成本定义为隐私保护机器学习模型的适应度与在没有隐私问题的情况下训练的机器学习模型的适应度之间的差异。我们证明，我们可以预测所提出的隐私保护异步算法的性能。我们证明了隐私成本的上限与训练数据集平方和隐私预算平方之和的组合大小成反比。我们验证了金融和医疗数据集上的实验的理论结果。实验表明，与仅在其中一个数据集上孤立训练的模型相比，具有至少10，000条隐私预算大于或等于1的记录的10多个数据所有者之间的协作产生了更好的机器学习模型，说明了协作的价值和隐私的成本。如果隐私预算较高，则可以降低协作数据集的数量。
2020-06-29 cs.CR cs.LG eess.SP
A Privacy-Preserving Framework Using Remote Data Science for Inter-Institutional Student Retention Prediction
Concordia University（康科迪亚大学）；Wisconsin Marquette University（威斯康星麦基大学）；Marquette University（麦基大学）；Georgetown University（乔治城大学）
提出基于PySyft和半气隙架构的远程数据科学框架，实现三所大学在不直接访问敏感数据的情况下协作预测学生保留率，验证了隐私保护机器学习在教育场景的可行性。
2026-06-12 cs.CR cs.LG
Oracle Efficient Private Non-Convex Optimization
University of Pennsylvania（宾夕法尼亚大学）；University of Minnesota（明尼苏达大学）
目标扰动是差分私有学习和优化的最有效算法之一。这种方法是在给定的优化问题（如ERM问题）上增加一个随机线性项，然后精确求解。然而，到目前为止，这种方法的分析主要依赖于目标函数的凸性和光滑性，限制了它的通用性。我们给出了两个算法，大大扩展了这种方法。第一种算法只要求损失函数有界，并在离散域上运行。它的隐私性和准确性保证甚至在不假设凸性的情况下也成立。这给出了在任意离散域上的Oracle高效优化算法，其一般性与指数机制相当。第二种算法在连续域上操作，仅要求损失函数有界且Lipschitz为其连续参数。它的隐私分析不需要凸性。它的精度分析确实需要凸性，但不需要二阶条件，如光滑性。即使没有凸性，该算法也可以作为一种通用的Oracle高效优化算法，并根据经验评估其精度。我们补充我们的理论结果与非凸的情况下，我们使用整数规划求解器作为我们的优化预言机的经验评估。我们发现，对于学习线性分类器的问题，使用我们的方法直接优化0/1损失可以优于在Adult数据集上私下优化凸代理损失函数的更标准方法。
2020-12-29 cs.CR cs.LG stat.ML
Differential Privacy for Sparse Classification Learning
Northwest University（西北大学）；Macau University of Science and Technology（澳门科技大学）
在本文中，我们提出了一个差分隐私版本的凸和非凸稀疏分类方法。基于交替方向乘子法（ADMM）算法，将稀疏问题的求解转化为多步迭代过程。然后，我们添加指数噪声稳定的步骤，以实现隐私保护。该方法利用差分隐私的后处理保持特性，在原问题不稳定的情况下，仍能满足$ε-$差分隐私.此外，我们提出了理论上的隐私界的差分隐私分类算法。具体地说，我们的算法的隐私边界控制的算法迭代次数，隐私参数，损失函数的参数，ADMM预选参数，和数据大小。最后，我们将我们的框架应用于具有$L_1$正则化的逻辑斯谛回归和具有$L_{1/2}$正则化的逻辑斯谛回归。数值实验表明，该方法在敏感数据分析中具有良好的性能。
2019-08-02 cs.CR cs.LG stat.ML
Protecting Confidentiality, Privacy and Integrity in Collaborative Learning
Nokia Bell Labs（诺基亚贝尔实验室）；HKUST（香港科技大学）；KAUST（阿卜杜拉国王科技大学）
针对协同机器学习训练中数据集、模型、代码的机密性及用户隐私保护不足的问题，提出Citadel++系统，通过增强差分隐私机制与虚拟机级TEEs等技术，同时实现多维度保护，且性能显著优于现有方案。
2025-04-17 cs.CR cs.DC cs.LG
Empowering Digital Agriculture: A Privacy-Preserving Framework for Data Sharing and Collaborative Research
Department of Computer and Data Sciences（计算机与数据科学系）；Case Western Reserve University（凯斯西储大学）；School of Computer Science（计算机科学学院）；Georgia Institute of Technology（佐治亚理工学院）；Department of Planning and Landscape Architecture（规划与景观建筑系）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
针对农民因隐私担忧不愿共享农业数据的问题，提出一种结合降维技术与差分隐私的框架，支持安全数据共享、识别合作者及通过联邦学习训练模型，在保护隐私的同时实现与集中式系统相当的效用。
2025-06-25 cs.CR cs.LG
Federated Inference: Toward Privacy-Preserving Collaborative and Incentivized Model Serving
Department of Electrical Engineering and Computer Science, University of Stavanger（电子工程与计算机科学系，斯塔万格大学）；Department of Data Science, The Catholic University of Korea（数据科学系，韩国天主大学）
本文提出联邦推断作为一种隐私保护的协作与激励化模型服务范式，探讨其系统行为及关键挑战。
2026-03-04 cs.AI cs.CR cs.LG
Privacy-Enhancing Collaborative Information Sharing through Federated Learning -- A Case of the Insurance Industry
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Intel Corporation（英特尔公司）；Tsinghua University（清华大学）；Colorado State University（科罗拉多州立大学）
本文提出利用联邦学习在保险行业实现隐私增强的协作信息共享，在不共享原始数据的前提下跨多个数据集训练统一模型，提升索赔损失预测效果，并基于OpenFL框架为保险及相关领域的隐私保护机器学习协作奠定基础。
2024-02-22 cs.CR cs.LG q-fin.RM
Gradient Perturbation is Underrated for Differentially Private Convex Optimization
The School of Data and Computer Science, Sun Yat-sen University（中山大学数据与计算机学院）；Microsoft Research Asia（微软亚洲研究院）；Guangdong Key Laboratory of Big Data Analysis and Processing（广东省大数据分析与处理重点实验室）
梯度扰动，广泛用于差分隐私优化，注入噪声在每次迭代更新，以保证差分隐私。以前的工作首先确定的噪声水平，可以满足隐私的要求，然后在非私人的情况下，分析噪声梯度更新的效用。相反，我们探讨隐私噪声如何影响优化性能。我们发现，差分私人凸优化，差分私人（随机）梯度下降的效用保证是由一个\emph{expected curvature}，而不是最小曲率。表示优化路径上的平均曲率的\emph{expected curvature}通常比最小曲率大得多。通过使用的\emph{expected curvature}，我们表明，梯度扰动可以实现显着提高效用保证，可以在理论上证明梯度扰动优于其他扰动方法的优势。最后，我们广泛的实验表明，梯度扰动与先进的合成方法确实优于其他扰动方法的大幅度，匹配我们的理论研究结果。
2020-10-26 cs.LG stat.ML
To Drop or Not to Drop: Robustness, Consistency and Differential Privacy Properties of Dropout
Microsoft Research（微软研究院）；Stony Brook University（石溪大学）；Yahoo Labs（雅虎实验室）；Apple Inc（苹果公司）
训练深度信念网络（DBN）需要优化具有大量参数的非凸函数。自然地，现有的基于梯度下降（GD）的方法倾向于任意差的局部最小值。在本文中，我们严格表明，这种局部极小值可以避免（近似误差），通过使用辍学技术，广泛使用的启发式在这一领域。特别是，我们表明，通过随机删除一个隐藏层神经网络的几个节点，训练目标函数，达到一定的近似误差，减少了乘法因子。另一方面，我们表明，对于训练凸经验风险最小化器（ERM），dropout实际上充当了“稳定器”或正则化器。也就是说，一个简单的基于辍学的GD方法凸ERMs是稳定的，在面对任意变化的任何一个训练点。使用上述断言，我们表明，辍学提供快速的泛化误差学习（凸）广义线性模型（GLM）。此外，利用上述的dropout的稳定性，我们设计了基于dropout的差分隐私算法来解决ERM。因此，学习的GLM保留了每个单独训练点的隐私，同时为新的测试点提供准确的预测。最后，我们在凸ERM的背景下实证验证了我们对dropout的稳定性断言，并令人惊讶地表明，对于几个基准数据集，dropout的性能显着优于（就预测准确性而言）基于L2正则化的方法。
2015-03-06 cs.LG cs.NE stat.ML
Federated Learning in Chemical Engineering: A Tutorial on a Framework for Privacy-Preserving Collaboration Across Distributed Data Sources
SVKM's Dwarkadas J. Sanghvi College of Engineering（SVKM's 德瓦卡达斯·J.桑格维工程学院）；Davidson School of Chemical Engineering, Purdue University（普渡大学戴维森化学工程学院）；Federal University of Rio de Janeiro（里约热内卢联邦大学）
本研究为化学工程界提供联邦学习（FL）的易懂入门教程，基于Flower等框架构建实践工具，探讨其在化工相关任务的应用，通过实验证明FL在保护隐私的同时维持或提升模型性能，并展望了未来挑战。
2025-02-12 cs.DC cs.LG cs.NE
When Differential Privacy Meets Wireless Federated Learning: An Improved Analysis for Privacy and Convergence
School of Informatics, Xiamen University, China（厦门大学信息学院，中国）；Internet of Things Thrust, Hong Kong University of Science and Technology (Guangzhou), China（香港科技大学（广州）物联网研究组，中国）
本文研究了差分隐私无线联邦学习中隐私损失的精确表征及收敛性，提出通用非凸损失目标下的分析方法，明确设备选择与小批量采样影响，证明隐私损失可收敛于常数，建立梯度裁剪下的收敛保证及隐私-效用权衡。
2026-08-04 cs.LG
Provable Mutual Benefits from Federated Learning in Privacy-Sensitive Domains
INSAIT, Sofia University（INSAIT索菲亚大学）；ETH Zurich（苏黎世联邦理工学院）；High School of Mathematics Burgas（布尔加斯数学高中）
本文研究隐私敏感领域中联邦学习的互利性，提出互利协议存在条件、最大化客户总效用及最终模型精度的协议，并通过合成实验验证其益处。
2024-11-07 cs.CR cs.GT cs.LG
Privacy-preserving Graph Analytics: Secure Generation and Federated Learning
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Arizona State University（亚利桑那州立大学）
直接从国土安全企业的安全相关的应用程序的动机，我们专注于图数据的隐私保护分析，它提供了重要的能力来表示丰富的属性和关系。特别是，我们讨论了两个方向，即隐私保护图生成和联邦图学习，这可以共同实现每个拥有私有图数据的多方之间的协作。对于每一个方向，我们都确定了“速赢”和“难题”。最后，我们展示了一个用户界面，可以促进模型的解释，解释和可视化。我们相信，在这些方向上开发的技术将大大提高国土安全企业应对和减轻各种安全风险的能力。
2022-06-30 cs.CR cs.LG
DP-UTIL: Comprehensive Utility Analysis of Differential Privacy in Machine Learning
University of Michigan, Dearborn（密歇根大学迪尔伯恩分校）
差分隐私（DP）已经成为一种严格的形式主义，用于推理可量化的隐私泄露。在机器学习（ML）中，DP已被用于限制训练样本的推断/公开。之前的工作在整个ML管道中利用DP，尽管是孤立的，但通常集中在梯度扰动等机制上。在本文中，我们提出了DP-UTIL，一个跨ML管道的DP整体效用分析框架，重点关注输入扰动，目标扰动，梯度扰动，输出扰动和预测扰动。给定一个关于隐私敏感数据的ML任务，DP-UTIL使ML隐私从业者能够对DP在这五个扰动点的影响进行全面的比较分析，从模型效用损失、隐私泄露和真正揭示的训练样本数量方面进行衡量。我们使用两种代表性的学习算法（逻辑回归和深度神经网络）对成员推断攻击进行评估，在视觉，医疗和金融数据集上对DP-UTIL进行分类任务作为案例研究攻击。我们结果的亮点之一是预测扰动在所有数据集的所有模型上始终实现最低的效用损失。在逻辑回归模型中，与其他扰动技术相比，客观扰动导致最低的隐私泄露。对于深度神经网络，梯度扰动导致最低的隐私泄漏。此外，我们的研究结果显示，真实的记录表明，隐私泄漏的增加，差异私人模型揭示了更多的成员样本。总的来说，我们的研究结果表明，为了做出关于使用哪种扰动机制的明智决定，ML隐私从业者需要检查优化技术（凸与非凸），扰动机制，类的数量和隐私预算之间的动态关系。
2021-12-24 cs.CR cs.LG
The Privacy Price of Tail-Risk Learning: Effective Tail Sample Size in Differentially Private CVaR Optimization
School of Engineering, Institute of Science Tokyo（东京工学部科学研究所）
研究揭示差分隐私对CVaR学习有效样本量的影响，提出隐私代价分解方法，推导出标量估计和有限类别的学习速率，并指出隐私学习在有效尾样本量上的核心挑战。
2026-05-15 cs.LG stat.ML
Private Federated Learning Without a Trusted Server: Optimal Algorithms for Convex Losses
University of Southern California（南加州大学）
本文研究跨孤岛联邦学习中不信任服务器场景下的隐私保护问题，提出ISRL-DP框架，并针对凸/强凸损失给出紧致上下界，通过加速算法在更少通信轮数内达到最优界，同时借助安全混洗器在实用信任假设下实现最优中心DP速率。
2024-11-24 cs.CR cs.LG math.OC
Secure and Verifiable Data Collaboration with Low-Cost Zero-Knowledge Proofs
National University of Singapore（新加坡国立大学）
本文提出安全可验证数据协作方案 RiseFL，通过概率完整性检查与混合承诺方案降低零知识证明成本并满足拜占庭鲁棒性，同时保障联邦学习中的输入隐私与完整性，计算效率显著优于现有基线。
2023-11-26 cs.CR cs.DB cs.DC
Stochastic Adaptive Line Search for Differentially Private Optimization
University of Georgia（佐治亚大学）
私有的基于梯度的优化算法的性能高度依赖于步长（或学习率）的选择，这通常需要非平凡量的调整。在本文中，我们介绍了一个经典的回溯线搜索算法，满足Rényi差分隐私的随机变体。具体而言，该算法自适应地选择步长satsisfying的Armijo条件（具有高概率）使用噪声梯度和函数估计。此外，为了提高所选择的步长满足条件的概率，该算法在运行时根据噪声梯度的可靠性来调整每次迭代的隐私预算。回溯搜索算法的幼稚实现可能最终使用不可接受的大隐私预算，因为自适应步长选择的能力是以额外的函数评估为代价的。该算法利用稀疏向量技术结合最近的隐私放大引理避免了这个问题。我们还引入了一个隐私预算自适应策略，该算法自适应地增加预算时，它检测到，连续梯度指向的方向是截然不同的。在凸和非凸问题上的大量实验表明，自适应选择的步长使该算法能够有效地利用隐私预算，并与现有的私有优化器相比表现出竞争力。
2020-08-27 cs.LG stat.ML
The Power of Bias: Optimizing Client Selection in Federated Learning with Heterogeneous Differential Privacy
College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机与软件学院）；Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ), Shenzhen University（深圳大学广东省人工智能与数字经济实验室（SZ））；School of Computing, Faculty of Science and Engineering, Macquarie University（麦考瑞大学科学与工程学院计算学院）；Institute for Network Sciences and Cyberspace, Tsinghua University（清华大学网络科学与网络空间研究院）；School of Computing Science, Simon Fraser University（西蒙菲莎大学计算科学学院）
针对异构差分隐私联邦学习中客户端选择需兼顾数据质量与DP噪声影响的问题，通过收敛分析将其建模为凸优化问题，提出DPFL-BCS算法，实验证明其显著提升模型效用。
2024-08-16 cs.LG
Towards Sharper Utility Bounds for Differentially Private Pairwise Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Renmin University of China（中国人民大学）
成对学习专注于具有成对损失函数的学习任务，依赖于成对的训练实例，并且自然适合于对样本之间的关系建模。本文针对成对学习的隐私问题，提出了一种新的基于梯度扰动的差分隐私算法。除了隐私保证，我们还分析了超额人口风险，并给出了相应的界限在期望和高概率条件下。我们分别用\textit{on-average stability}和\textit{pairwise locally elastic stability}理论分析了期望界和高概率界。此外，我们分析的效用界不需要凸的成对损失函数，这意味着我们的方法是一般的凸和非凸的条件。在这种情况下，效用界类似于（或优于）以前的凸性或强凸性假设下的界，这是有吸引力的结果。
2021-06-01 cs.LG
Training Fair Models in Federated Learning without Data Privacy Infringement
McMaster University（麦克马斯特大学）；East China University of Science and Technology（华东理工大学）；Huawei Technologies Canada（华为技术加拿大公司）
针对联邦学习中难以在保护隐私的前提下训练公平模型的问题，提出联邦公平性评估方法与FedFair框架，可在不侵犯隐私的同时训练高性能公平模型，经三个真实数据集验证效果优异。
2024-11-01 cs.CY cs.LG
Differential Privacy Guarantees for Stochastic Gradient Langevin Dynamics
INRIA（法国国家信息与自动化研究所）；ENS（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；PSL University（巴黎文理研究大学）
我们分析噪声随机梯度下降的隐私泄漏建模雷尼发散动力学与朗之万扩散。最近的非随机算法的工作的启发，我们得到类似的理想性质的随机设置。特别是，我们证明了隐私损失指数收敛速度快的平滑和强凸目标下恒定的步长，这是一个显着的改进，比以前的DP-SGD分析。我们还将我们的分析扩展到任意序列的不同步长，并推导出新的效用界。最后，我们提出了一个实现和我们的实验表明，我们的方法相比，经典的DP-SGD库的实际效用。
2022-02-05 cs.LG stat.ML
Improving the Privacy and Practicality of Objective Perturbation for Differentially Private Linear Learners
UC Santa Barbara（加州大学圣塔芭芭拉分校）；Nokia Bell Labs（诺基亚贝尔实验室）
本文针对差分隐私线性学习器，通过更紧致的隐私分析和新的计算工具改进了目标扰动机制，使其在无约束凸广义线性问题上的性能与DP-SGD相当，同时降低了简单模型的隐私开销和计算复杂度。
2023-12-31 cs.CR cs.LG
Unified Enhancement of Privacy Bounds for Mixture Mechanisms via $f$-Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）；Shenzhen Research Institute of Big Data（深圳大数据研究院）；National University of Singapore（新加坡国立大学）
本文利用 $f$-DP 分析洗牌与随机初始化 DP-GD 等混合机制，提出权衡函数不等式并推导闭式隐私界，证明随机初始化可增强隐私。
2023-11-01 cs.CR cs.LG math.ST
Synthetic Data Privacy Metrics
本文针对合成数据经验隐私度量缺乏标准化的问题，综述含对抗攻击模拟的常用隐私指标优劣，以及差分隐私等增强生成模型数据隐私的最佳实践。
2025-01-07 cs.AI cs.LG
Gradient Descent with Linearly Correlated Noise: Theory and Applications to Differential Privacy
EPFL（瑞士洛桑联邦理工学院）；Google Research（谷歌研究院）
本文研究差分隐私优化中线性相关噪声对梯度下降的影响，提出简化分析框架并给出更紧的理论界，据此设计新的矩阵分解方法以提升差分隐私优化性能。
2024-01-15 cs.LG
A Privacy-Preserving Hybrid Federated Learning Framework for Financial Crime Detection
Michigan State University（密歇根州立大学）；University of Calgary（卡尔加里大学）；Coinbase Global, Inc.（Coinbase全球公司）
针对跨机构金融犯罪检测中的数据隐私与分布式样本、特征协作难题，提出兼具安全学习推理与抗攻击能力的混合联邦学习框架，并通过实验验证其检测及隐私保护性能。
2023-04-18 cs.LG
Local Differential Privacy in Decentralized Optimization
MIT（麻省理工学院）；KTH（瑞典皇家理工学院）
敏感数据的隐私问题正受到越来越多的关注。本文研究了交互式分散优化中的局部差分隐私问题。通过构建随机本地聚合器，我们提出了一个框架，以放大LDP的常数。本文以乘子的交替方向法和分散梯度下降法为例，通过实验验证了理论的正确性。在一个渐近的观点，我们解决以下问题：在LDP下，是否有可能设计一个分布式的私人最小的任意封闭凸约束与效用损失不显着依赖于维数？作为一个附属的结果，我们还表明，仅仅线性秘密共享，信息理论的隐私是可以实现的有界合谋代理。
2019-06-01 cs.CR cs.LG math.OC
Optimality of Staircase Mechanisms for Vector Queries under Differential Privacy
CIMAT（墨西哥应用数学研究所）；IIMAS（墨西哥国家理工学院）；McMaster University（麦马斯特大学）
本文证明在ε-差分隐私下，存在最优的阶梯机制用于向量查询，解决了相关猜想并解释了阶梯机制在隐私保护中的作用。
2026-01-21 cs.AI cs.CR cs.IT
ImprovDML: Improved Trade-off in Private Byzantine-Resilient Distributed Machine Learning
针对分布式机器学习中拜占庭攻击与隐私泄露的联合挑战，提出ImprovDML框架，利用弹性向量共识和多元高斯噪声，在保证隐私与鲁棒性的同时提升模型准确率，并给出更紧的误差界，实现更优权衡。
2025-06-18 cs.LG
A Theoretical Perspective on Differentially Private Federated Multi-task Learning
Ant Group（蚂蚁集团）
在大数据时代，通过数据共享来扩大数据量以提高模型性能的需求已变得越来越迫切。因此，有效的协作学习模式需要开发的隐私和实用性的关注。在这项工作中，我们提出了一种新的联邦多任务学习方法，有效的参数传输与差分隐私，以保护梯度在客户端级别。具体而言，网络的较低层在所有客户端之间共享以捕获可转移的特征表示，而网络的顶层是针对客户端个性化的特定任务。我们提出的算法自然解决了联邦网络中的统计异质性问题。据我们所知，我们是第一个为这样一个拟议的联邦算法提供隐私和效用保证的。在非凸、凸和强凸条件下，证明了Lipschitz光滑目标函数的收敛性。在不同数据集上的实验结果验证了该算法的有效性和理论研究结果的意义。
2020-11-14 cs.CR cs.DC cs.LG
On the Inherent Privacy of Zeroth Order Projected Gradient Descent
Department of Computer Science University of Southern California（计算机科学系美国南加州大学）
本文证明零阶梯度下降的固有噪声不足以保证差分隐私，即使在随机初始化下，其隐私损失也可能随迭代次数超线性增长。
2025-07-09 cs.LG math.OC stat.ML
Quadratic Objective Perturbation: Curvature-Based Differential Privacy
Mathematical Institute, University of Oxford（牛津大学数学研究所）
本文提出二次目标扰动(QOP)，通过引入随机二次形式扰动目标函数，利用曲率特性实现强凸性和稳定性，从而在较弱假设下实现$(\varepsilon, δ)$-差分隐私，并提供实用性和数值比较。
2026-07-31 cs.LG math.OC
Characterizing Privacy-Audit Alignment in Behavioral Audit of Machine Unlearning
University of Pittsburgh（匹兹堡大学）；Cisco（思科）
本文证明，在互不信任的模型所有者和审计者场景下，仅依赖模型行为查询的审计方案无法在不泄露保留集成员信息的情况下识别未充分遗忘的模型，揭示了隐私与审计之间的固有权衡。
2026-09-09 cs.LG
Harnessing Wireless Channels for Scalable and Privacy-Preserving Federated Learning
Deakin University（迪肯大学）；University of Oulu（奥卢大学）
无线连接对于实现可扩展的联邦学习（FL）至关重要，但无线信道给模型训练带来了挑战，其中信道随机性会干扰每个工人的模型更新，而多个工人的更新在有限的带宽下会产生严重干扰。为了解决这些挑战，在这项工作中，我们制定了一个新的约束优化问题，并提出了一个FL框架利用无线信道扰动和干扰，以提高隐私，带宽效率和可扩展性。该算法基于模拟传输和交替方向乘法器（ADMM），被称为模拟联邦ADMM（A-FADMM）。在A-FADMM中，所有工作者通过模拟传输使用单个通道将其模型更新上传到参数服务器（PS），在此期间，所有模型都被扰动并通过空中聚合。这不仅节省了通信带宽，而且还对包括诚实但好奇的PS在内的任何窃听者隐藏了每个工作者的确切模型更新轨迹，从而保护了数据隐私，免受模型反演攻击。我们正式证明的收敛性和隐私保证的A-FADMM凸函数下的时变信道，并数值显示的有效性A-FADMM噪声信道和随机非凸函数，在收敛速度和可扩展性，以及通信带宽和能源效率。
2020-11-17 cs.IT cs.LG cs.NI
Privacy-Preserving Generation Fraud Detection for Distributed Photovoltaic Systems: A Solar Irradiance-Fused Federated Learning Framework
School of Computer Science and Technology, University of Electronic Science and Technology of China（电子科技大学计算机科学与技术学院）；Department of Data Science and AI, Faculty of IT, Monash University（墨尔本大学信息技术学院数据科学与人工智能系）；Monash Energy Institute, Monash University（墨尔本大学莫纳什能源研究所）；Shenzhen Institute for Advanced Study of UESTC（电子科技大学深圳研究院）
本文提出了一种基于联邦学习的隐私保护分布式光伏系统发电欺诈检测框架，通过融合太阳能辐照度数据和天气数据，利用共注意机制检测关键异常，有效解决了光伏发电欺诈检测中的间歇性和不确定性问题，并在真实世界数据集上验证了方法的有效性。
2026-05-16 cs.CE cs.LG
An Information-Theoretic Analysis of The Cost of Decentralization for Learning and Inference Under Privacy Constraints
King’s College London（伦敦国王学院）
在垂直联邦学习（FL）中，数据样本的特征分布在多个代理中。因此，智能体间的协作不仅在学习阶段是有益的，就像标准水平FL的情况一样，而且在推理阶段也是有益的。在这种情况下，一个基本的理论问题是如何量化学习和/或推理的分散化的成本或性能损失。在本文中，我们认为一般的监督学习问题与任何数量的代理，并提供了一个新的信息理论量化的成本分散在隐私的限制存在下，在贝叶斯框架内的智能体通信。分散的学习和/或推理的成本被证明是量化的条件互信息条款，涉及功能和标签变量。
2021-10-11 cs.CR cs.IT cs.LG
Quantization enabled Privacy Protection in Decentralized Stochastic Optimization
Clemson University（克莱姆森大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
分散式随机最优化通过使多个智能体在没有中央协调器的情况下协作解决全局最优化问题，在机器学习、控制和传感器网络等领域获得越来越多的关注。由于相关数据通常包含敏感信息，如用户位置和个人身份，隐私保护已成为分散随机最优化实现的关键需求。在本文中，我们提出了一个分散的随机最优化算法，即使在存在侵略性的量化误差，量化输入的幅度成比例的情况下，能够保证可证明的收敛精度。结果适用于凸和非凸目标函数，并使我们能够利用积极的量化方案来混淆共享信息，从而使隐私保护，而不会失去可证明的优化精度。实际上，通过使用一个{随机}三进制量化方案，将任意值量化到三个数值水平，我们在分散随机最优化中实现了基于量化的严格差分隐私，这在以前还没有报道过。结合所提出的量化方案，所提出的算法确保，第一次，严格的差分隐私分散随机最优化，而不失去可证明的收敛精度。分布式估计问题的仿真结果以及在基准机器学习数据集上进行分散学习的数值实验证实了所提出方法的有效性。
2022-08-07 cs.CR cs.LG cs.SY
Federated Knowledge Recycling: Privacy-Preserving Synthetic Data Sharing
Politecnico di Milano（米兰理工大学）
本文提出FedKR方法，通过本地合成数据和动态聚合实现隐私保护的跨孤岛联邦学习，显著减少攻击面并在数据稀缺场景下提升4.24%准确率。
2024-07-30 cs.AI cs.CV cs.LG
Privacy-preserving recommender system using the data collaboration analysis for distributed datasets
University of Tsukuba（筑波大学）；Hosei University（法政大学）
本研究针对分布式数据集共享中的隐私保护问题，建立了一个基于数据协作分析的隐私保护推荐系统框架，数值实验表明该方法能提高评分预测准确率。
2024-05-24 cs.CR cs.IR cs.LG
