An Adaptive Gradient Clipping and Noise Injection Mechanism for Differentially Private Federated Learning
Université Paris Cité(巴黎大学)
本文提出DDP-SA-adaptive自适应梯度裁剪与噪声注入机制,可改善差分隐私联邦学习的隐私-精度-效率权衡,在联邦回归任务上较静态基线提升训练效率与模型精度,且隐私预算更低。
2026-08-18 cs.CR cs.LG
Almost Instance-optimal Clipping for Summation Problems in the Shuffle Model of Differential Privacy
本文研究差分隐私 shuffle 模型下的求和估计问题,提出一种单轮通信协议,在保持实例最优误差界的同时,将每个用户的消息开销降至 $1+o(1)$,并扩展至高维求和与稀疏向量聚合。
2024-08-30 cs.CR cs.DS
DC-SGD: Differentially Private SGD with Dynamic Clipping through Gradient Norm Distribution Estimation
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Ant Group(蚂蚁集团);School of Engineering, University of Virginia(弗吉尼亚大学工程学院)
本文提出动态裁剪差分隐私框架DC-SGD,通过差分隐私直方图估计梯度范数分布并动态调整裁剪阈值C,显著降低超参数调优负担,在多项任务中实现最高9倍加速并在CIFAR10上提升10.62%准确率。
2025-04-01 cs.AI cs.CR cs.LG
DP-SGD with weight clipping
MAGNET INRIA
针对差分隐私梯度下降中传统梯度裁剪的偏差问题,提出利用模型Lipschitz值公开上界和搜索域位置实现精细化噪声调整的新算法,实证显示其差分隐私保证更优且实践性能超过现有方法。
2025-02-10 cs.CR cs.LG
Mitigating Disparate Impact of Differentially Private Learning through Bounded Adaptive Clipping
Department of Computer Science, University of Helsinki(计算机科学系,赫尔辛基大学);Department of Electrical and Computer Engineering, American University of Beirut(电气与计算机工程系,贝鲁特美国大学)
针对差分隐私学习中梯度裁剪对少数群体造成的不公平影响,提出有界自适应裁剪方法,通过引入可调下界防止过度梯度抑制,在Skewed和Fashion MNIST上最差类准确率提升超过10个百分点。
2026-06-11 cs.CR cs.LG stat.ML
Differentially Private SGD Without Clipping Bias: An Error-Feedback Approach
University of Minnesota(明尼苏达大学);Amazon AI(亚马逊人工智能);Carnegie Mellon University(卡内基梅隆大学)
针对DPSGD-GC因梯度裁剪恒定偏差导致性能下降、最优裁剪阈值难选的问题,提出基于误差反馈的DP算法,支持任意裁剪阈值,在同等隐私保证下实现更高准确率。
2024-04-17 cs.CR cs.LG
DP-SGD-Global-Adapt-V2-S: Triad Improvements of Privacy, Accuracy and Fairness via Step Decay Noise Multiplier and Step Decay Upper Clipping Threshold
University of Louisiana at Lafayette(路易斯安那大学拉斐特分校);College of Saint Benedict and Saint John’s University(圣本笃学院与圣约翰大学);Mississippi State University(密西西比州立大学)
本文针对DP-SGD效用与公平性下降问题,提出DP-SGD-Global-Adapt-V2-S,通过步进衰减噪声乘子和上裁剪阈值,在多个数据集上同时提升隐私保护下的准确率与公平性。
2025-02-05 cs.CR cs.LG
Private and Communication-Efficient Federated Learning based on Differentially Private Sketches
Cyberspace Institute of Advanced Technology, Guangzhou University(广州大学网络空间先进技术研究院)
针对联邦学习中的隐私泄露和通信低效问题,提出基于差分隐私草图的DPSFL方法及其采用自适应裁剪策略的增强版DPSFL-AC,在保障隐私与通信效率的同时提升了模型准确率。
2024-10-10 cs.CR cs.LG
Privacy of SGD under Gaussian or Heavy-Tailed Noise: Guarantees without Gradient Clipping
Inria, CNRS, Ecole Normale Supérieure PSL Research University(法国国家科学研究中心、巴黎高等师范学院PSL研究大学);Department of Management Science and Information Systems(管理科学与信息系统系);Faculty of Engineering and Natural Sciences(工程与自然科学学院);Department of Mathematics(数学系)
本文研究重尾噪声 SGD 的差分隐私,证明 $α$-稳定扰动可在无需梯度裁剪下为非凸损失实现 $(0,O(1/n))$-DP。
2025-05-12 cs.CR cs.LG math.ST
Differentially Private Learning with Per-Sample Adaptive Clipping
Tsinghua University(清华大学);Peking University(北京大学);Ant Group(蚂蚁集团)
针对差分隐私学习中恒定裁剪需调参、归一化方法偏差大的问题,提出基于非单调权重的DP-PSAC算法,在保障隐私的同时降低更新偏差,理论与实验均验证其性能优于现有最优方法。
2023-05-02 cs.AI cs.CR cs.LG
DP-Adam-AC: Privacy-preserving Fine-Tuning of Localizable Language Models Using Adam Optimization with Adaptive Clipping
Georgetown University(乔治城大学)
针对LLM微调的隐私与网络攻击风险,提出DP-Adam-AC优化器,结合自适应梯度裁剪增强差分隐私,成功应用于可本地化小模型,实验显示损失改进。
2025-10-06 cs.AI cs.CR cs.LG
FedFDP: Fairness-Aware Federated Learning with Differential Privacy
East China Normal University(华东师范大学);Stevens Institute of Technology(史蒂文斯理工学院);Nanyang Technological University(南洋理工大学)
FedFDP通过引入差分隐私和公平感知梯度裁剪技术,提升联邦学习在公平性和隐私保护方面的性能
2026-01-07 cs.CR
Benchmarking the Utility of Privacy-Preserving Cox Regression Under Data-Driven Clipping Bounds: A Multi-Dataset Simulation Study
Kyoto University Hospital, Kyoto, Japan(京都大学医院);School of Interdisciplinary Mathematical Sciences, Meiji University, Tokyo, Japan(明治大学理工融合数学科学学院)
本文评估了数据驱动截断界限下隐私保护对Cox回归模型统计效用的影响,通过多数据集模拟研究发现,高ε值下显著性保真度要求较高,且输入扰动对模型性能有显著影响。
2026-04-23 cs.CR stat.AP stat.ME
DP-SGD Without Clipping: The Lipschitz Neural Network Way
IRIT, Université Paul Sabatier(保罗萨巴蒂尔大学IRIT研究所);IRT Saint Exupéry(圣埃克苏佩里技术研究院);Inria(法国国家信息与自动化研究所);Université de Montpellier(蒙彼利埃大学)
本文提出用Lipschitz约束网络替代梯度裁剪,通过约束各层关于参数的Lipschitz常数来提供敏感度上界,从而在保证差分隐私的同时避免梯度偏差和高昂计算开销。
2024-02-22 cs.CR cs.LG
A Huber Loss Minimization Approach to Mean Estimation under User-level Differential Privacy
Zhejiang Lab(浙江实验室);University of California, Davis(加州大学戴维斯分校);Sun Yat-Sen University(中山大学);Zhejiang University(浙江大学)
针对用户级差分隐私均值估计中裁剪偏差、重尾分布及用户样本量不均衡问题,提出自适应 Huber 损失最小化方法,并给出隐私噪声与均方误差界及实验验证。
2024-10-24 cs.CR cs.LG
AdaCliP: Adaptive Clipping for Private SGD
UC San Diego(加州大学圣地亚哥分校);Google Research(谷歌研究院)
隐私保护机器学习算法对于在用户数据上学习模型以保护敏感信息至关重要。受此启发,已经提出了用于训练机器学习模型的差分私有随机梯度下降(SGD)算法。在每一步,这些算法修改梯度并添加与修改的梯度的灵敏度成比例的噪声。在这个框架下,我们提出了AdaCliP,一个理论上激励差分私人SGD算法,可证明增加了更少的噪声相比,以前的方法,通过使用坐标明智的自适应裁剪的梯度。我们的经验表明,AdaCliP减少了增加的噪声量,并产生更好的准确性模型。
2019-10-23 cs.CR cs.LG stat.ML
Dynamic Differential-Privacy Preserving SGD
Ant Group(蚂蚁集团);Shanghai Jiao Tong University(上海交通大学);University of Minnesota(明尼苏达大学)
普通的差分私有随机梯度下降(DP-SGD),包括DP-Adam和其他变体,通过在训练步骤中均匀分布隐私成本来确保训练数据的隐私。当与非DP对应物相比时,通过在每个步骤中维持相同的梯度裁剪阈值和噪声功率来控制的等效隐私成本导致不稳定的更新和较低的模型精度。在本文中,我们提出了动态DP-SGD(以及动态DP-Adam等),以减少性能损失的差距,同时保持隐私,通过动态调整限幅阈值和噪声功率,同时坚持总隐私预算约束。对各种深度学习任务(包括图像分类、自然语言处理和联邦学习)的广泛实验表明,与普通DP-SGD相比,所提出的动态DP-SGD算法稳定了更新,因此显著提高了强隐私保护区域的模型准确性。我们还进行了理论分析,以更好地理解动态DP-SGD的隐私-效用权衡,并了解为什么动态DP-SGD可以优于普通DP-SGD。
2022-01-17 cs.CR cs.LG
Enhancing DPSGD via Per-Sample Momentum and Low-Pass Filtering
针对DPSGD中DP噪声与裁剪偏差难以同时缓解的问题,本文提出DP-PMLF方法,融合逐样本动量与无额外隐私消耗的低通滤波,理论上提升收敛速度,实证上优化了隐私-效用权衡。
2025-11-11 cs.AI cs.CR cs.LG
Differentially Private Deep Learning with ModelMix
MIT(麻省理工学院)
训练具有有意义/可用的差分隐私安全保证的大型神经网络是一项艰巨的挑战。在本文中,我们解决这个问题,通过重新访问差分私有随机梯度下降(DP-SGD)中的两个关键操作:1)迭代扰动和2)梯度裁剪。我们提出了一个通用的优化框架,称为{ \em ModelMix},它执行随机聚合的中间模型状态。该算法利用训练轨迹的熵来加强复合隐私分析,将$(ε, δ)$ DP安全参数提高了一个数量级。我们对ModelMix的效用保证和隐私放大都进行了严格的分析。特别是,我们提出了一个正式的研究DP-SGD中的梯度裁剪的效果,这提供了理论指导,应该如何选择超参数。我们还引入了一种改进的梯度裁剪方法,当与ModelMix结合时,它可以进一步锐化私人学习中的隐私损失。彻底的实验与显着的隐私/实用程序的改进,以支持我们的理论。我们在CIFAR 10上训练一个Resnet-20网络,通过ModelMix在给定$(ε=8, δ=10^{-5})$ DP预算的情况下使用$70.4\%$准确度,与相同性能但使用$(ε=145.8,δ=10^{-5})$使用常规DP-SGD相比;在额外的公共低维梯度嵌入的帮助下,与相同性能但使用$(ε=111.2, δ=10^{-5})$而不使用ModelMix相比,可以进一步提高$79.1\%$与$(ε=6.1, δ=10^{-5})$ DP预算的准确度。
2022-10-07 cs.CR cs.LG
A Bias-Accuracy-Privacy Trilemma for Statistical Estimation
该研究揭示统计估计中偏差、准确率与隐私的固有三难困境,证明强DP下无偏均值估计不可行,同时指出对称分布下近似DP可实现无偏均值估计。
2024-10-07 cs.CR cs.DS math.ST
Generalizing DP-SGD with Shuffling and Batch Clipping
CWI(荷兰数学与计算机科学研究院);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Connecticut(康涅狄格大学);eBay(易贝);IBM Research(IBM研究院)
提出一个通用差分隐私框架,支持任意一阶优化器与批量裁剪及洗牌采样,通过$f$-DP分析得到组隐私的$\sqrt{g E}$依赖关系。
2023-07-25 cs.CR cs.LG
Just Fine-tune Twice: Selective Differential Privacy for Large Language Models
Columbia University(哥伦比亚大学);Virginia Tech(弗吉尼亚理工大学);Google Research(谷歌研究院)
随着大语言模型在现实产品中的广泛采用,保护其免受隐私泄露变得越来越重要。然而,应用差分隐私(DP),一个规范的概念与可证明的隐私保证的机器学习模型,这些模型仍然具有挑战性,由于模型效用和隐私损失之间的权衡。利用语言数据中的敏感信息往往是稀疏的这一事实,Shi等人(2021)形式化了一种称为选择性差分隐私(SDP)的DP概念扩展,以仅保护由策略函数定义的敏感令牌。然而,他们的算法只适用于基于RNN的模型。在本文中,我们开发了一种新的框架,Just Fine-tune Twice(JFT),可以为最先进的大型变压器模型实现SDP。我们的方法很容易实现:它首先使用编辑的域内数据微调模型,然后使用私有训练机制使用原始域内数据再次微调模型。此外,我们还研究了策略函数执行不完善而丢失敏感令牌的情况,并开发了系统的方法来处理它。实验表明,与以前的基线相比,我们的方法具有很强的实用性。我们还分析了SDP隐私保证经验与金丝雀插入攻击。
2022-10-27 cs.AI cs.CL cs.CR
On Improving the Composition Privacy Loss in Differential Privacy for Fixed Estimation Error
针对数据异构场景下数据集不相交子集统计量的隐私发布问题,提出一种基于抑制用户贡献的迭代算法,在固定最坏估计误差下有效降低了标准Laplace机制的组合隐私损失退化。
2025-03-25 cs.CR cs.IT math.IT
Local Differential Privacy for Number of Paths and Katz Centrality
本文提出一种基于本地差分隐私的算法,通过多轮通信与裁剪技术发布路径数量与Katz中心性,有效控制噪声增长,其偏差与方差显著低于无裁剪算法,并能召回90%的最高Katz中心性节点。
2023-10-21 cs.CR cs.SI
Enabling Differentially Private Federated Learning for Speech Recognition: Benchmarks, Adaptive Optimizers and Gradient Clipping
Apple(苹果公司);Purdue University(普渡大学)
本文提出首个在端到端ASR中应用差分隐私联邦学习的基准测试,通过每层裁剪和层间梯度归一化技术,在强隐私保障下实现高精度语音识别。
2025-11-25 cs.CR cs.LG stat.ML
Privacy at a Price: Exploring its Dual Impact on AI Fairness
Commonwealth Scientific and Industrial Research Organisation(英联邦科学与工业研究组织)
该研究探究差分隐私对AI公平性的非单调影响,发现隐私增强初期准确性差异增大、高隐私水平更高时差异减小,且梯度裁剪可缓解DP噪声对公平性的负面影响。
2024-04-15 cs.AI cs.CR cs.CY
Lap2: Revisiting Laplace DP-SGD for High Dimensions via Majorization Theory
Iowa State University(爱荷华州立大学);University of Connecticut(康涅狄格大学);University of Kansas(堪萨斯大学)
Lap2通过主导理论解决高维下拉普拉斯DP-SGD的裁剪限制,提升隐私保护下的模型性能。
2026-03-07 cs.CR cs.LG
Fine-Tuning Large Language Models with User-Level Differential Privacy
Google Research(谷歌研究院);IIT Madras(印度马德拉斯理工学院)
该研究针对大语言模型训练的用户级隐私保护问题,提出适配的DP核算器并对比两种DP-SGD变体,验证了用户级采样方案在强隐私或高计算预算场景下的优势,可支撑大规模模型与用户数据的隐私训练。
2024-07-10 cs.CL cs.CR cs.DC
Smoothed Normalization for Efficient Distributed Private Optimization
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学)
针对光滑非凸分布式优化缺乏差分隐私方法的问题,本文提出结合平滑归一化与误差反馈的 α-NormEC,并扩展至 DP 设置,首次给出可证明收敛保证且实验收敛稳健。
2025-02-19 cs.CR cs.DC cs.LG
Disparate Impact in Differential Privacy from Gradient Misalignment
Layer 6 AI
随着机器学习在整个社会中变得越来越普遍,必须仔细考虑数据隐私和公平性等方面,这对于在高度监管的行业中部署至关重要。不幸的是,隐私增强技术的应用可能会加剧模型中的不公平趋势。特别地,用于私有模型训练的最广泛使用的技术之一,差分私有随机梯度下降(DPSGD),经常加剧对数据中的组的不同影响。在这项工作中,我们研究了细粒度的原因DPSGD的不公平,并确定梯度错位,由于不公平的梯度裁剪作为最重要的来源。这一观察使我们提出了一种新的方法,通过防止DPSGD中的梯度不对准来减少不公平性。
2023-02-23 cs.AI cs.CR cs.LG
Clip Body and Tail Separately: High Probability Guarantees for DPSGD with Heavy Tails
Renmin University of China(中国人民大学);Tokyo Institute of Technology(东京工业大学);Emory University(埃默里大学)
针对DPSGD在重尾梯度下裁剪损失过大的问题,提出判别性裁剪(DC-DPSGD),通过子空间识别区分主体与尾部梯度并采用不同裁剪阈值,在非凸条件下降低经验梯度范数,实验显示准确率最多提升9.72%。
2024-05-27 cs.CR cs.LG
Efficient and Scalable Implementation of Differentially Private Deep Learning without Shortcuts
Department of Computer Science, University of Helsinki, Finland(计算机科学系,赫尔辛基大学);CSC – IT Center for Science, Finland(芬兰IT研究中心);NVIDIA(NVIDIA公司)
本文提出了一种基于JAX的高效DP-SGD实现,利用泊松子采样并结合PyTorch的高效裁剪优化,提升了差分隐私深度学习的计算效率和扩展性。
2026-01-13 cs.CR cs.DC cs.LG
Differentially Private Generation of Small Images
Pionic(Pionic公司)
我们探索了具有差分隐私的生成对抗网络的训练,以匿名化图像数据集。在MNIST上,我们使用来自$ε$ - $δ$差分隐私和初始分数的参数来数值地测量隐私-效用权衡。我们的实验揭示了一个饱和的训练机制,其中增加隐私预算几乎没有增加生成图像的质量。我们还解释了为什么差分私人亚当优化是独立的梯度裁剪参数。此外,我们还强调了我们在最近的文献中发现的关于差异私有深度学习的先前工作中的常见错误。在整个主题的处理过程中,我们希望防止将来对匿名性的错误估计。
2020-05-06 cs.CR cs.LG stat.ML
Deep Learning under Fractional-Order Differential Privacy
MESA Lab, Dept. of EECS University of California, Merced(加州大学默塞德分校电子工程与计算机科学系MESA实验室);Dept. of Applied Mathematics University of California, Merced(加州大学默塞德分校应用数学系)
本文提出FO-DP-SGD,通过引入分数记忆机制改进隐私保护,实验显示在SVHN、CIFAR-10和CIFAR-100上提升了隐私与效用性能。
2026-05-11 cs.CR cs.LG
Impact of Privacy Parameters on Deep Learning Models for Image Classification
University of Georgia(佐治亚大学)
本研究针对CIFAR-10数据集构建差分隐私图像分类模型,实现5种深度学习模型与3种监督分类器并测试不同参数下的性能,最终EfficientNet取得59.63%的最优测试准确率,明确了隐私参数对模型效果的影响。
2024-12-09 cs.CR cs.LG
Robustness Threats of Differential Privacy
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Huawei MRC(华为莫斯科研究中心);Lomonosov MSU(罗蒙诺索夫莫斯科国立大学)
差分隐私(DP)是数据分析中度量和保证隐私的黄金标准概念。众所周知,在深度学习模型中加入DP的代价是其准确性。然而,目前尚不清楚它如何影响模型的鲁棒性。标准的神经网络对不同的输入扰动都不鲁棒:无论是对抗攻击还是普通的破坏。在本文中,我们经验性地观察到一个有趣的权衡隐私和神经网络的鲁棒性。我们通过实验证明,与非私有版本相比,使用DP训练的网络在某些情况下可能更加脆弱。为了探索这一点,我们广泛研究了不同的鲁棒性测量,包括FGSM和PGD对手,距离线性决策边界,曲率轮廓,并在损坏的数据集上的性能。最后,我们研究了差分私有神经网络训练的主要成分,如梯度裁剪和噪声添加,如何影响(减少和增加)模型的鲁棒性。
2021-08-25 cs.CR cs.LG
NeuralDP Differentially private neural networks by design
差分隐私在深度神经网络训练中的应用有望允许大规模(分散)使用敏感数据,同时为个人提供严格的隐私保证。对神经网络进行差分私有训练的主要方法是DP-SGD,它依赖于基于范数的梯度裁剪作为限制灵敏度的方法,然后添加适当校准的高斯噪声。在这项工作中,我们提出了NeuralDP,一种用于私有化神经网络中某些层的激活的技术,该技术通过差分隐私的后处理特性产生差异隐私网络。我们在两个数据集(MNIST和儿科肺炎数据集(PPD))上进行了实验,与DP-SGD相比,我们的方法提供了大幅改善的隐私-效用权衡。
2021-08-10 cs.CR cs.LG
Look Twice before You Leap: A Rational Framework for Localized Adversarial Anonymization
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院);School of Information, Renmin University of China(中国人民大学信息学院)
本文提出RLAA框架,通过引入仲裁者机制解决现有对抗匿名化方法的理性问题,实现隐私与效用的平衡。
2026-04-12 cs.CL cs.CR
(Nearly) Optimal Private Linear Regression via Adaptive Clipping
Google(谷歌)
我们研究了差分私有线性回归问题,其中每个数据点都是从一个固定的亚高斯分布中采样的。我们提出并分析了一个单通道小批量随机梯度下降方法(DP-AMBSSGD),在每次迭代中的点被采样而不替换。为DP添加噪声,但在线估计噪声标准偏差。与现有的具有次优误差界的$(ε, δ)$ -DP技术相比,DP-AMBSSGD能够在关键参数方面提供接近最优的误差界,所述关键参数如维度$d$、点的数量$N$和观测中的噪声的标准偏差$σ$。例如,当对$d$维协变量进行i.i.d.采样时,根据正态分布,则由于隐私引起的DP-AMBSSGD的超额误差是$\frac{σ^2 d}{N}(1+\frac{d}{ε^2 N})$,即,当样本数为线性回归的标准操作方案$N= Ω(d \log d)$时,误差是有意义的。相比之下,现有的有效方法在这种情况下的误差界限是:$\mathcal{O}\big(\frac{d^3}{ε^2 N^2}\big)$,即使是$σ=0$。也就是说,对于常数$ε$,现有技术需要$N=Ω(d\sqrt{d})$来提供非平凡结果。
2022-07-12 cs.CR cs.LG math.OC
DP-BART for Privatized Text Rewriting under Local Differential Privacy
本文提出DP-BART系统,通过新颖裁剪、迭代剪枝和内部表示进一步训练大幅减少差分隐私噪声,在五个数据集上优于现有局部差分隐私文本重写方法。
2023-06-06 cs.CL cs.CR
Differential Privacy Has Disparate Impact on Model Accuracy
Cornell Tech(康奈尔科技校区)
差分隐私(DP)是一种用于训练机器学习模型的流行机制,其具有关于训练数据中特定点的存在的有界泄漏。差分隐私的代价是模型准确性的降低。我们证明,在使用差分私有随机梯度下降(DP-SGD)训练的神经网络中,这种成本并不相等:DP模型的准确性对于代表性不足的类和子群下降得更多。例如,使用DP-SGD训练的性别分类模型对黑人面孔的准确性比白人面孔低得多。关键的是,DP模型中的这个差距比非DP模型中的大,即,如果原模型是不公平的,则应用DP后,不公平性变得更糟。我们证明了这种效果的各种任务和模型,包括文本的情感分析和图像分类。然后,我们解释了为什么DP训练机制,如梯度裁剪和噪声添加对代表性不足和更复杂的子组具有不成比例的影响,导致模型准确性的不同降低。
2019-10-27 cs.CR cs.LG stat.ML
Revisiting ML Training under Fully Homomorphic Encryption: Convergence Guarantees, Differential Privacy, and Efficient Algorithms
University of Maryland, College Park, MD(马里兰大学 College Park 分校);AlgoCRYPT CoE(算法密码学中心)
本文首次对全同态加密下的机器学习训练进行理论收敛性分析,结合适用于加密计算的差分隐私训练算法,通过多项式近似激活函数和损失函数实现近似梯度下降的收敛,并采用无逐样本梯度裁剪的差分隐私机制提升计算效率。
2026-05-27 cs.CR cs.LG
PATE-TripleGAN: Privacy-Preserving Image Synthesis with Gaussian Differential Privacy
South-East University(东南大学)
针对CGANs的隐私泄露及DPCGAN依赖标签数据、梯度裁剪损害精度的问题,提出PATE-TripleGAN框架,结合分类器预分类和混合梯度脱敏算法,在保护隐私的同时生成高质量带标签图像。
2024-04-19 cs.CR cs.CV cs.LG
Privacy-Preserving Gradient Boosting Decision Trees
National University of Singapore(新加坡国立大学);The University of Western Australia(西澳大学)
梯度提升决策树(GBDT)是近年来流行的用于各种任务的机器学习模型。本文研究如何在保证差分隐私的前提下提高GBDT的模型精度。敏感性和隐私预算是差异化私有模型有效性的两个关键设计方面。现有的具有差分隐私的GBDT解决方案由于过于宽松的敏感性界限和无效的隐私预算分配(特别是在GBDT模型中的不同树之间)而遭受显著的准确性损失。宽松的敏感度界限导致更多的噪声,以获得固定的隐私级别。无效的隐私预算分配加剧了准确性损失,特别是当树的数量很大时。因此,我们提出了一种新的GBDT训练算法,实现更严格的灵敏度界限和更有效的噪声分配。具体而言,通过调查梯度的属性和GBDTs中每棵树的贡献,我们提出了自适应控制的梯度训练数据的每次迭代和叶节点裁剪,以收紧灵敏度界限。此外,我们设计了一个新的提升框架,以分配树之间的隐私预算,使准确性损失可以进一步减少。我们的实验表明,我们的方法可以实现更好的模型精度比其他基线。
2022-10-10 cs.CR cs.LG stat.ML
Synthetic Data Generation and Differential Privacy using Tensor Networks' Matrix Product States (MPS)
Bundesdruckerei GmbH(联邦印刷厂有限公司)
本文提出利用张量网络的矩阵积态生成高质量隐私保护合成数据,通过噪声注入和梯度裁剪实现差分隐私,展示了MPS在保真度和隐私保护方面的优越性能。
2025-11-22 cs.AI cs.CR cs.LG
Towards hyperparameter-free optimization with differential privacy
Amazon(亚马逊);Emory University(埃默里大学)
本研究将自动学习率调度与自动逐样本梯度裁剪结合,适配于任意模型和优化器的差分隐私优化,显著降低超参数调优成本,同时实现最先进的DP性能。
2025-03-02 cs.CL cs.CR cs.CV
Differentially Private Variational Inference for Non-conjugate Models
Helsinki Institute for Information Technology (HIIT)(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学)
许多机器学习应用程序都是基于从人们那里收集的数据,例如他们的口味和行为以及生物特征和遗传数据。无论应用程序有多重要,都必须确保个人身份或数据隐私在分析中不会受到损害。差分隐私构成了一个强大的框架,可以防止从计算输出中违反数据主体隐私。许多重要的贝叶斯推断方法的不同的私有版本已经被提出,但缺乏一个有效的统一的方法适用于任意模型。在这方面的贡献,我们提出了一个差异私人变分推断方法具有非常广泛的适用性。它是建立在双随机变分推断,最近的进展,提供了一个变分解决方案的一大类模型。通过对梯度的裁剪和扰动,将微分隐私加入到双随机变分推断中。该算法通过子采样的隐私放大,提高了算法的效率。我们证明了该方法可以达到接近非私人水平的准确性下,合理的强隐私保证,明显改善了以前的采样为基础的替代品,特别是在强隐私制度。
2017-04-10 cs.CR cs.LG stat.ME
Adaptive Methods Are Preferable in High Privacy Settings: An SDE Perspective
University of Basel(巴塞尔大学);University of Zürich(苏黎世大学)
通过SDE分析发现,在高隐私或大批次噪声场景中,自适应方法在隐私-效用权衡和学习率调整上更具优势。
2026-03-03 cs.CR cs.LG
Delving into Differentially Private Transformer
The Hebrew University of Jerusalem(耶路撒冷希伯来大学);College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院);Hong Kong University of Science and Technology(香港科技大学);Changan Automobile(长安汽车);Changan Technology Co., Ltd(长安科技有限公司);Rutgers University(罗格斯大学)
本文探讨了差分隐私 Transformer 训练问题,通过模块化归约思想,针对注意力分散与梯度裁剪不兼容两大难点,提出 Re-Attention Mechanism 和 Phantom Clipping 两种方法,为该领域研究提供了新视角。
2024-08-26 cs.CR cs.LG
Duet: An Expressive Higher-order Language and Linear Type System for Statically Enforcing Differential Privacy
在过去的十年中,差分隐私已经成为保护个人隐私的黄金标准。然而,验证特定程序提供差分隐私通常仍然是要由本领域专家完成的手动任务。已经提出了通过类型系统设计完全自动证明差分隐私的基于数据的技术,然而这些结果已经落后于差异隐私算法的进步,在可以自动验证的程序中留下了明显的差距,同时还提供了最先进的隐私界限。我们提出了Duet,一个表达高阶语言,线性类型系统和工具,用于自动验证通用高阶程序的差分隐私。除了通用编程之外,Duet还支持编码机器学习算法,如随机梯度下降,以及常见的辅助数据分析任务,如裁剪,归一化和超参数调整-其中每一个都特别具有挑战性,在静态验证的差分隐私框架中进行编码。给出了Duet语言和线性类型系统的核心设计,并完成了关于好类型程序隐私性的关键证明。然后,我们展示了如何扩展Duet,以支持现实的机器学习应用程序和最近的变种差分隐私,从而提高了许多实际的差异隐私算法的准确性。最后,我们实现了几个差异私人机器学习算法在Duet从来没有自动验证的基于语言的工具,我们提出的实验结果表明Duet的语言设计的好处,在训练机器学习模型的准确性。
2019-09-05 cs.CR cs.PL
The Cost of Privacy: Rates of Convergence for Parameter Estimation with Differential Privacy
University of Pennsylvania(宾夕法尼亚大学);Rutgers University(罗格斯大学)
本文研究差分隐私下均值估计与线性回归的极小极大收敛速率,给出隐私代价项,并证明稀疏情形下有效隐私熵的阶,提出达到下界的估计器。
2026-09-18 cs.CR cs.DS cs.LG
Random Gradient Masking as a Defensive Measure to Deep Leakage in Federated Learning
UC Berkeley(加州大学伯克利分校);Keimyung University(启明大学)
针对联邦学习中梯度深度泄漏攻击的隐私威胁,实验评估四种防御方法,发现随机梯度掩码防御效果优异且与裁剪法均几乎不影响训练性能。
2024-08-15 cs.CR cs.LG
Differential Privacy with Higher Utility by Exploiting Coordinate-wise Disparity: Laplace Mechanism Can Beat Gaussian in High Dimensions
本文提出跨坐标独立非同分布(i.n.i.d.)噪声机制,利用坐标间敏感度差异优化隐私-准确性权衡,理论分析和实验证明其在高维下优于i.i.d.机制,且拉普拉斯机制可超越高斯机制。
2025-01-25 cs.CR eess.SP
ULDP-FL: Federated Learning with Across Silo User-Level Differential Privacy
Kyoto University(京都大学);Emory University(埃默里大学);Hokkaido University(北海道大学);Osaka Seikei University(大阪成蹊大学)
针对用户数据跨多个筒仓分布时缺乏用户级差分隐私保证的问题,提出Uldp-FL框架,通过逐用户加权裁剪、增强加权策略和隐私协议实现更优隐私-效用权衡。
2024-06-16 cs.CR cs.LG