Bayesian Adversarial Privacy
Department of Statistics, University of Warwick, UK（沃里克大学统计系）
本文提出了一种基于贝叶斯决策理论的新型隐私定义，强调在数据被观察时仍从先验视角做出披露决策，以提供更明确和严谨的隐私保护框架。
2026-09-10 cs.CR cs.LG math.ST
Differentially Private Confidence Intervals for Proportions under Stratified Random Sampling
针对调查抽样场景下缺乏差分隐私置信区间严谨方法的问题，本文提出三种分层随机抽样下比例的差分隐私置信区间算法，分析其隐私保障与渐近性质，并通过模拟和1940年人口普查数据应用验证有效性。
2024-04-11 cs.CR stat.ME
FLVoogd: Robust And Privacy Preserving Federated Learning
Delft University of Technology（代尔夫特理工大学）；University of Greenwich（格林威治大学）
在这项工作中，我们提出了FLVoogd，一个更新的联邦学习方法，其中服务器和客户端协作消除拜占庭攻击，同时保护隐私。特别是，服务器使用自动的基于密度的空间聚类的应用程序与噪声（DBSCAN）结合S2 PC集群的良性大多数，而不获取敏感的个人信息。同时，客户端建立双模型，并进行基于测试的距离控制，以调整他们的本地模型向全球之一，以实现个性化。我们的框架是自动和自适应的，服务器/客户端不需要在训练过程中调整参数。此外，我们的框架利用安全多方计算（SMPC）操作，包括乘法，加法和比较，不需要昂贵的操作，如除法和平方根。对来自图像分类领域的一些常规数据集进行评价。实验结果表明，FLVoogd在大多数情况下都能有效地拒绝恶意上传，同时避免了服务器端的数据泄露。
2022-06-24 cs.AI cs.CR cs.LG
Privacy Protection in Prosumer Energy Management Based on Federated Learning
Shenzhen University（深圳大学）
本文提出FedClusAvg算法，通过聚类分层采样、参数加权平均和三层框架解决联邦学习中的Non-IID问题，在保护产消者隐私的同时提升模型精度并减少通信轮次。
2025-03-09 cs.LG
Impacts of Census Differential Privacy for Small-Area Disease Mapping to Monitor Health Inequities
美国人口普查局将在公开发布的2020年人口普查数据上实施新的隐私保护披露回避系统（DAS），其中包括差异隐私的应用。有人担心，DAS可能会偏向小地区和人口分层的人口计数，这在公共卫生研究和政策中发挥着关键作用，在估计疾病/死亡率方面发挥着重要作用。采用三个DAS示范产品，我们量化的错误归因于依赖DAS保护的放大器在标准的小面积疾病映射模型表征卫生不公平。我们进行模拟研究和真实数据分析的不公平过早死亡率在马萨诸塞州的人口普查区水平。结果表明，种族化群体和经济贫困水平的不公平的总体模式不受DAS的影响。虽然DAS的早期版本在死亡率估计中引起的错误对于黑人比对于非西班牙裔白人群体更大，但是这个问题在较新的DAS版本中得到改善。
2023-03-30 stat.AP
Differentially Private Shapley Values for Data Evaluation
University of Edinburgh（爱丁堡大学）
Shapley值已被提出作为机器学习中许多应用的解决方案，包括对数据的公平估值。Shapley值在计算上是昂贵的，并且涉及整个数据集。对一个点的Shapley值的查询也可能损害其他数据点的统计隐私。我们观察到，在机器学习问题，如经验风险最小化，并在许多学习算法（如那些具有一致稳定性），收益递减属性，其中每个数据点的边际效益随着数据样本大小迅速下降。基于这一性质，我们提出了一种新的分层逼近方法，称为分层Shapley算法。我们证明了这种方法的小（O（\polylog（n）的随机样本的数据和小尺寸（$O(\log n)$）联盟，以达到保证概率精度的结果，并可以修改，将差分隐私。实验结果表明，该算法正确地识别高值数据点，提高验证精度，和差分私人评价保持近似排名的数据。
2022-06-01 cs.CR cs.LG
Differential privacy and noisy confidentiality concepts for European population statistics
本文件旨在概述目前正在为官方人口统计和普查讨论的基于随机噪声的统计披露控制的各种办法。一个特别的重点是对影响讨论的不同概念之间的严格划分：我们明确区分风险措施，噪声分布和输出机制-将这些概念纳入范围并相互联系。在概括了差异隐私作为一种风险度量之后，本文还评论了一些特定输出机制和参数设置的效用和风险方面，特别关注官方人口统计中相当典型的静态输出。特别是，有人认为，无界噪声分布，如平原拉普拉斯，可能会危及关键的独特的普查功能，没有明确的需要从风险的角度来看。另一方面，有界噪声分布，如截断拉普拉斯或细胞键方法，可以设置，以保持独特的普查功能，同时控制披露风险，在类似普查的输出。最后，本文分析了一些典型的攻击场景，以限制通用噪声参数范围，这表明2021年欧盟人口普查输出场景具有良好的风险/效用折衷。分析还表明，严格差别私有机制将受到严重限制，在这种情况下。
2020-12-17 cs.CR stat.ME
Insight into bias in time-stratified case-crossover studies
病例交叉设计的使用在流行病学和短暂关联的医学研究中已变得普遍。然而，最流行的参考选择策略，时间分层模式，是不是一个合适的解决方案，控制偏倚的病例交叉研究。为了证明这一点，我们进行了时间序列分解每日臭氧（O3）的记录;审查的能力的时间分层模式控制的年度，月度和每周的时间趋势;并发现它未能控制每周的时间趋势。基于这一发现，我们提出了一种新的逻辑斯谛回归方法，在该方法中，我们对每周的时间趋势进行了调整。通过仿真比较了传统模型和所提出的方法。进行了一项实证研究，以探讨空气污染物和急性心肌梗死住院之间的潜在联系。总之，时间分层模式提供了有效的控制每年和每月的时间趋势，但不是每周的时间趋势。因此，从传统的逻辑回归估计基本上揭示了每周的时间趋势的影响，而不是瞬态效应。相比之下，建议的逻辑斯谛回归调整每周的时间趋势，可以有效地消除系统偏差的情况下，交叉研究。
2020-01-18 stat.ME
Differential Privacy Personalized Federated Learning Based on Dynamically Sparsified Client Updates
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；No.208 Research Institute of China Ordnance Industries（中国兵器工业第二〇八研究所）
针对差分隐私个性化联邦学习中个性化不足及隐私与性能平衡欠佳的问题，提出DP-pFedDSU方法，通过重参数化和自适应范数动态稀疏化客户端更新，有效减少噪声并提升模型性能。
2025-04-27 cs.CR cs.LG
Differentially Private Variational Dropout
Boğaziçi University（海峡大学）
具有大量参数的深度神经网络是高度灵活的学习系统。这种网络的高度灵活性带来了一些严重的问题，如过拟合，正则化被用来解决这个问题。目前流行的一种有效的正则化技术是dropout。通常，神经网络所需的大量数据集合包含敏感信息，例如患者的病史，并且应该保护训练数据的隐私。在本文中，我们修改了最近提出的变分辍学技术，提供了一个优雅的贝叶斯解释辍学，并表明，在变分辍学的固有噪声可以利用，以获得一定程度的差分隐私。训练神经网络的迭代性质对隐私保护估计提出了挑战，因为多次迭代增加了添加的噪声量。我们克服了这一点，使用一个宽松的概念，差分隐私，称为集中差分隐私，它提供了更严格的估计整体隐私损失。我们在基准数据集上证明了我们的隐私保护变分丢弃算法的准确性。
2017-12-16 cs.LG stat.ML
Max-Information, Differential Privacy, and Post-Selection Hypothesis Testing
University of Pennsylvania（宾夕法尼亚大学）；The Pennsylvania State University（宾夕法尼亚州立大学）
在本文中，我们开始了一个原则性的研究，如何推广属性的近似差分隐私可以用来执行自适应假设检验，同时给出统计上有效的$p$值的更正。我们这样做，通过观察，有界近似最大信息的算法的保证是足够的，以纠正$p$ -值的自适应选择的假设，然后通过证明，算法，满足$(ε,δ)$ -差分隐私有界近似最大信息时，他们的输入是从产品分布。这实质上扩展了差分隐私和最大信息之间的已知联系，其先前仅已知适用于（纯）$(ε,0)$ -差分隐私。它还扩展了我们对最大信息作为控制自适应数据分析泛化特性的部分统一度量的理解。我们还展示了一个下界，证明（尽管强大的最大信息的组合属性），当数据是从产品分布，$(ε,δ)$差分私有算法可以首先在一个组合与其他算法满足最大信息的界限，但不一定是第二个，如果该组合本身需要满足一个非平凡的最大信息的界限。特别地，这意味着$(ε,δ)$ -差分隐私和最大信息之间的连接仅适用于从产品分发中提取的输入，而不像$(ε,0)$ -差分隐私和最大信息之间的连接。
2016-09-09 cs.LG
Learning to Generate Image Embeddings with User-level Differential Privacy
Google Research（谷歌研究院）
针对大类别空间下用户级差分隐私图像嵌入模型训练的难题，提出DP-FedEmb联邦学习算法，通过虚拟客户端和部分聚合等技术在保障隐私的同时实现更优效用。
2023-03-31 cs.CR cs.CV cs.LG
Utility-Optimized Synthesis of Differentially Private Location Traces
Koç University（科奇大学）；Georgia Institute of Technology（佐治亚理工学院）
差分隐私位置轨迹合成（DPLTS）最近出现作为一种解决方案，以保护移动用户的隐私，同时使他们的位置轨迹的分析和共享。DPLTS中的一个关键挑战是最好地保留位置跟踪数据集中的效用，考虑到数据集的高维性、复杂性和异质性以及效用的不同类型和概念，这是不平凡的。在本文中，我们提出了OptaTrace：一个实用程序优化和有针对性的方法DPLTS。给定真实跟踪数据集D、控制隐私保护强度的差分隐私参数E1和感兴趣的效用/误差度量Err; OptaTrace使用贝叶斯优化来优化DPLTS，使得输出误差（根据给定度量Err测量）最小化，同时满足E1-差分隐私。此外，OptaTrace还引入了一个实用程序模块，其中包含用于实用程序基准测试和选择Err的几个内置错误度量，以及用于可访问和交互式DPLTS服务的前端Web界面。实验表明，OptaTrace的优化输出可以产生实质性的效用改善和错误减少相比，以前的工作。
2020-09-14 cs.CR cs.DB cs.LG
Sequential Change Detection for Multiple Data Streams with Differential Privacy
University of Minnesota（明尼苏达大学）；University of Georgia（佐治亚大学）
本文研究了在差分隐私约束下多数据流的顺序变化点检测问题，提出DP-SUM-CUSUM方法，通过汇总各流CUSUM统计量并注入校准的拉普拉斯噪声，实现隐私保护下的高效检测。
2026-04-14 cs.CR math.ST stat.TH
PPGAN: Privacy-preserving Generative Adversarial Network
Heilongjiang University（黑龙江大学）；Southern University of Science and Technology（南方科技大学）
生成对抗网络（GAN）及其变体作为数据生成模型的完美代表，为研究人员提供了大量高质量的生成数据。它们说明了一个有希望的方向，研究有限的数据可用性。当GAN从数据集中学习语义丰富的数据分布时，生成的分布的密度倾向于集中在训练数据上。由于深度神经网络的梯度参数包含了训练样本的数据分布，它们可以很容易地记住训练样本。当GAN应用于私人或敏感数据时，例如，患者的医疗记录，因为私人信息可能会泄漏。为了解决这个问题，我们提出了一个隐私保护生成对抗网络（PPGAN）模型，在该模型中，我们通过在模型学习过程中向梯度中添加精心设计的噪声来实现GANs中的差分隐私。此外，在PPGAN训练过程中引入了Moments Accountant策略，通过控制隐私丢失来提高模型的稳定性和兼容性。并给出了差分隐私策略的数学证明。通过对基准数据集的广泛案例研究，我们证明了PPGAN可以生成高质量的合成数据，同时在合理的隐私预算下保留所需的数据。
2019-10-04 cs.LG stat.ML
Multi-Hop Privacy Propagation for Differentially Private Federated Learning in Social Networks
School of Artificial Intelligence, Sun Yat-sen University, China（人工智能学院，中山大学）
本文研究社交网络中联邦学习的隐私外部性问题，提出一种社会感知的隐私保护机制，通过多跳传播模型量化间接隐私泄露，并利用两阶段Stackelberg博弈和平均场估计器优化客户端隐私预算，实验证明该方法在保持模型性能的同时显著提升了客户端效用并降低了服务器成本。
2025-08-11 cs.DC cs.GT cs.LG
Differentially Private Over-the-Air Federated Learning Over MIMO Fading Channels
The Chinese University of Hong Kong（香港中文大学）；Cornell University（康奈尔大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
针对MIMO衰落信道空中联邦学习的隐私放大问题，本文分析收敛与隐私损失，提出基于交替优化的收发器设计算法，实现更优隐私-学习权衡。
2023-12-25 cs.CR cs.IT cs.LG
Differentially Private Estimation and Inference in High-Dimensional Regression with FDR Control
The University of Hong Kong（香港大学）；Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Rutgers University（罗格斯大学）
本文提出新的方法进行高维线性回归中的差分隐私估计与推断。引入DP-BIC选择未知稀疏性参数，开发DP去偏差算法，通过稀疏性进行隐私保护推断，并通过DP多重检验控制FDR。
2026-04-10 stat.ME
Differentially Private False Discovery Rate Control
Harvard University（哈佛大学）；University of Pennsylvania（宾夕法尼亚大学）；Google Research（谷歌研究院）
差分隐私为隐私保护数据分析提供了一个严格的框架。本文提出了第一个差分隐私过程中控制的错误发现率（FDR）的多假设检验。受Benjamini-Hochberg过程（BHq）的启发，我们的方法是首先重复地将噪声添加到$p$ -值的序列中以确保差分隐私，并在每次迭代中选择近似最小的$p$ -值作为有希望的候选;所选择的$p$ -值进一步提供给BHq，并且我们的私有过程仅释放被拒绝的值。此外，我们开发了一种新的技术，这是基于一个后向下鞅证明FDR控制的广泛的一类多个测试程序，包括我们的私人程序，和BHq步升和步降程序。作为一个新的方面，证明工程的任意依赖之间的真空和假空检验统计量，而FDR控制保持到一个小的乘法因子。
2021-07-03 cs.LG math.ST stat.TH
Differentially Private Database Release via Kernel Mean Embeddings
我们为新的数据库发布机制奠定了理论基础，这些机制允许第三方构建人口统计的相合估计量，同时确保为数据库做出贡献的每个人的隐私受到保护。拟议的框架基于两个主要想法。首先，释放生成随机变量的数据的核均值嵌入（的估计），而不是数据库本身，仍然允许第三方构建广泛类别的人口统计的相合估计量。其次，该算法可以满足差分隐私的定义，通过基于完全合成的数据点的释放核均值嵌入，同时通过再生核希尔伯特空间中可用的度量来控制精度。我们描述了两个实例的建议框架，适合在不同的情况下，并证明理论结果保证差分隐私的算法和一致性的估计从他们的输出构建。
2018-05-31 stat.ML
LEFL: Low Entropy Client Sampling in Federated Learning
Iowa State University（爱荷华州立大学）
提出LEFL联邦学习客户端采样策略，基于模型高层特征对客户端进行一次性隐私保护聚类并分层采样，降低数据相对熵，使全局模型收敛率最高提升7.4%并减少通信轮次。
2024-02-13 cs.LG
How much does your data exploration overfit? Controlling bias via information usage
Columbia University（哥伦比亚大学）；Stanford University（斯坦福大学）
现代数据是混乱和高维的，通常不清楚应该提出什么样的问题。相反，分析师通常需要使用数据来搜索要执行的有趣分析和要测试的假设。这是一个自适应过程，其中接下来要执行的分析的选择取决于先前对相同数据的分析结果。最终，报告的结果可能会受到数据的严重影响。人们普遍认识到，这一过程，即使是善意的，也可能导致偏见和错误的发现，导致科学的可重复性危机。但是，尽管探索的适应性本质使标准统计理论失效，但经验表明，不同类型的探索性分析可能导致不同程度的偏差，而偏差的程度也取决于数据集的细节。在本文中，我们提出了一个通用的信息使用框架来量化和可证明的约束任意探索性分析的偏差和其他错误度量。我们证明，我们的互信息为基础的界限是紧在自然环境中，然后用它来提供严格的见解时，常用的程序做或不导致实质性的偏见估计。通过信息使用的镜头，我们分析了特定的探索程序，如过滤，排名选择和聚类的偏见。我们的一般框架也自然地激励随机化技术，可证明减少探索偏差，同时保持数据分析的效用。我们讨论了我们的方法与差分隐私和盲数据分析的相关想法之间的联系，并用说明性模拟补充了我们的结果。
2019-10-08 cs.LG stat.ML
Stratify: Rethinking Federated Learning for Non-IID Data through Balanced Sampling
Department of Artificial Intelligence, Universiti Malaya（人工智能系，马来亚大学）
针对非IID数据下联邦学习性能下降的问题，本文提出Stratify框架，通过分层标签调度平衡类别和特征分布，结合标签感知客户端选择与高频更新，在多种数据集上实现与IID基线相当的性能并降低计算成本。
2025-04-18 cs.LG
Efficient Propose-Test-Release for Optimal Differentially Private Estimation
提出高效提议-测试-发布(ePTR)流程，通过用户设计的安全下界测试数据集，基于局部灵敏度概率性发布估计量，实现简单且最优的差分隐私估计。
2026-07-01 stat.ME
Approximate independence of permutation mixtures
本文提出控制χ²散度的新方法，证明了高维可交换混合分布与其独立同分布对应物的统计距离界限，并得出新的de Finetti风格定理及差分隐私等统计结果。
2025-09-16 cs.IT math.IT math.PR
A Comparative Study of Sampling Methods with Cross-Validation in the FedHome Framework
University of Oklahoma（俄克拉荷马大学）
本文在FedHome框架下结合分层K折交叉验证，比较了六种过采样技术解决健康数据类别不平衡问题的效果，发现SMOTE-ENN在200轮训练中表现出最稳定的测试准确率，能显著提升个性化健康监测系统的可靠性。
2024-06-04 cs.AI cs.CY cs.LG
Differentially Private and Scalable Estimation of the Network Principal Component
ESAT-STADIUS KU Leuven（KU莱顿ESAT-STADIUS研究所）；Department of Computer Science University of Virginia（弗吉尼亚大学计算机科学系）
本文提出了一种基于Propose-Test-Release框架的差分隐私主成分估计方法，通过实例特定机制在保证隐私的同时提升计算效率和实用性，首次解决了Densest-k-subgraph问题。
2026-03-05 cs.DS cs.LG
Generative Model Unlearning: A Survey through Target Events, Unlearning Operators, and Evaluation Protocols
Zhejiang University（浙江大学）；Hangzhou Dianzi University（杭州电子科技大学）
本文针对生成模型遗忘（GenMU）的碎片化问题，提出目标约束分布投影框架，综述其应用并指出未来方向，为该领域提供统一视角。
2026-08-18 cs.LG
