A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University（罗格斯大学）；Duke University（杜克大学）；University of California, Irvine（加州大学欧文分校）
本文提出融合联邦学习与差分隐私的广告个性化框架，通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术，在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
Privacy Preserving Machine Learning for Electronic Health Records using Federated Learning and Differential Privacy
University of Washington（华盛顿大学）
针对电子健康记录的高敏感属性，为保障机器学习模型分析患者数据时的隐私安全，提出结合联邦学习与差分隐私的隐私保护技术方案。
2024-06-23 cs.CR cs.ET cs.LG
Mitigating Privacy-Utility Trade-off in Decentralized Federated Learning via $f$-Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）；Xiamen University（厦门大学）
本文提出两种基于$f$-差分隐私的核算方法（PN-$f$-DP和Sec-$f$-LDP），用于去中心化联邦学习，通过捕获隐私放大获得更紧的隐私界并提升效用。
2025-10-22 cs.CR cs.LG math.ST
FedREP: A Byzantine-Robust, Communication-Efficient and Privacy-Preserving Framework for Federated Learning
Nanjing University（南京大学）
联邦学习（FL）是近年来的研究热点，其中拜占庭鲁棒性、通信效率和隐私保护是FL的三个重要方面。然而，这三个方面之间的紧张关系使得很难同时考虑到所有这些方面。鉴于这一挑战，我们从理论上分析了通信压缩方法应满足的条件，以兼容现有的拜占庭鲁棒方法和隐私保护方法。受分析结果的启发，我们提出了一种新的通信压缩方法，称为共识稀疏化（ConSpar）。据我们所知，ConSpar是第一种通信压缩方法，旨在兼容拜占庭鲁棒方法和隐私保护方法。在ConSpar的基础上，我们进一步提出了一个新的FL框架FedREP，它是拜占庭式的鲁棒性，通信效率和隐私保护。我们从理论上证明了FedREP的拜占庭鲁棒性和收敛性。实证结果表明，FedREP可以显着优于通信效率的隐私保护基线。此外，与拜占庭强大的通信效率基线相比，FedREP可以实现相当的准确性，并具有隐私保护的额外优势。
2023-03-09 cs.CR cs.DC cs.LG
Combined Use of Federated Learning and Image Encryption for Privacy-Preserving Image Classification with Vision Transformer
Tokyo Metropolitan University（东京都立大学）
近年来，深度学习的隐私保护方法已经成为一个迫切的问题。因此，我们提出了联邦学习（FL）和加密图像的隐私保护图像分类下使用的视觉Transformer（ViT）的组合使用。所提出的方法不仅允许我们在多个参与者之间进行训练模型而不直接共享原始数据，而且还首次保护了测试（查询）图像的隐私。此外，它还可以保持与正常训练模型相同的精度。在一个实验中，所提出的方法被证明是很好的工作，没有任何性能下降的CIFAR-10和CIFAR-100数据集。
2023-03-03 cs.CR cs.CV cs.LG
Privacy-preserving Federated Learning for Residential Short Term Load Forecasting
FINATRAX, University of Luxembourg（卢森堡大学FINATRAX）；University of Luxembourg（卢森堡大学）
由于间歇性发电和动态需求模式的高水平，对住宅负荷的准确预测变得至关重要。智能电表在进行这些预测时可以发挥重要作用，因为它们提供详细的负荷数据。然而，由于数据隐私要求，使用智能电表数据进行负荷预测具有挑战性。本文研究了如何通过结合联邦学习和隐私保护技术（如差分隐私和安全聚合）来满足这些要求。在我们的分析中，我们使用了大量的住宅负载数据，并模拟了不同的联邦学习模型和隐私保护技术如何影响性能和隐私。我们的模拟表明，结合联邦学习和隐私保护技术可以确保高预测准确性和接近完全的隐私。具体来说，我们发现，这种组合使高水平的信息共享，同时确保隐私的处理负荷数据和预测模型。此外，我们确定并讨论了应用联邦学习，差分隐私和安全聚合住宅短期负荷预测的挑战。
2022-09-19 cs.AI cs.LG cs.SY
SecretGen: Privacy Recovery on Pre-Trained Models via Distribution Discrimination
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Arizona State University（亚利桑那州立大学）
通过使用预训练模型的迁移学习已经成为机器学习社区的一个增长趋势。因此，许多预先训练的模型被在线发布，以促进进一步的研究。然而，这引起了广泛的关注，这些预先训练的模型是否会泄漏其训练数据的隐私敏感信息。因此，在这项工作中，我们的目标是回答以下问题：“我们能否有效地从这些预先训练的模型中恢复私人信息？检索此类敏感信息的充分条件是什么？“我们首先探索不同的统计信息，这些信息可以将私人训练分布与其他分布区分开来。根据我们的观察，我们提出了一种新的私有数据重建框架，SecretGen，有效地恢复私人信息。与以前可以通过目标恢复实例的地面真实预测来恢复私有数据的方法相比，SecretGen不需要这样的先验知识，使其更加实用。我们在不同的场景下对不同的数据集进行了广泛的实验，以将SecretGen与其他基线进行比较，并提供一个系统的基准，以更好地了解不同辅助信息和优化操作的影响。我们表明，在没有关于真实类预测的先验知识的情况下，SecretGen能够恢复与利用这种先验知识的数据相比具有类似性能的私有数据。如果给出先验知识，SecretGen将显著优于基线方法。我们还提出了几个量化指标来进一步量化预训练模型的隐私脆弱性，这将有助于隐私敏感应用的模型选择。我们的代码可在https://github.com/AI-secure/SecretGen上获得。
2022-07-25 cs.CR cs.LG
Subverting Privacy-Preserving GANs: Hiding Secrets in Sanitized Images
NYU Tandon School of Engineering（纽约大学坦登工程学院）
前所未有的数据汇集和共享加剧了对隐私的担忧，并导致人们对隐私保护工具的兴趣日益增加，这些工具可以从图像中删除敏感属性，同时为其他任务保留有用的信息。目前，最先进的方法使用隐私保护生成对抗网络（PP-GAN）来实现这一目的，例如，在不泄露用户身份的情况下实现可靠的面部表情识别。然而，PP-GAN并不提供隐私的正式证明，而是依赖于使用基于深度学习（DL）的鉴别器的敏感属性上的分类准确性来实验性地测量信息泄漏。在这项工作中，我们通过颠覆现有的面部表情识别隐私保护GANs来质疑这种检查的严格性。我们表明，可以将敏感的识别数据隐藏在这种PP-GAN的经过消毒的输出图像中，以便以后提取，这甚至可以允许重建整个输入图像，同时满足隐私检查。我们通过基于PP-GAN的架构展示了我们的方法，并使用两个公共数据集提供定性和定量评估。我们的实验结果提出了关于需要对PP-GAN进行更严格的隐私检查的基本问题，并提供了对这些问题的社会影响的见解。
2020-09-19 cs.AI cs.CR cs.CV
Practical Privacy-Preserving Gaussian Process Regression via Secret Sharing
Harbin Institute of Technology（哈尔滨工业大学）；Peng Cheng Laboratory（鹏城实验室）
本文提出了一种基于秘密共享的隐私保护高斯过程回归方法，通过“混淆-校正”思想和Cholesky分解设计了新的指数运算与矩阵求逆算法，在保护模型输入输出隐私的同时实现了合理的准确性和效率。
2023-06-26 cs.CR cs.LG
Privacy-preserving Logistic Regression with Secret Sharing
University of Groningen（格罗宁根大学）；UTHealth School of Biomedical Informatics, The University of Texas（得克萨斯大学健康科学中心生物医学信息学院）
逻辑回归（LR）是一种广泛使用的分类方法，用于在许多医疗数据分类任务中对二元结果进行建模。收集和组合来自不同数据托管人和司法管辖区的数据集的研究可以从增加的统计能力中受益，以支持其分析目标。然而，将来自这些不同来源的数据组合在一起会产生需要解决的重大隐私问题。在本文中，我们提出了基于秘密共享的隐私保护逻辑回归协议使用牛顿-拉夫森方法。我们提出的方法是基于安全的多方计算（MPC）与不同的安全设置来分析数据所拥有的几个数据持有人。我们在合成数据和真实数据集上进行了实验，并将它们与普通逻辑回归模型的效率和准确性进行了比较。实验结果表明，该协议是高效和准确的。本研究以隐私保护的方式引入迭代算法来简化逻辑回归模型的联邦训练。我们的实现结果表明，我们的改进方法可以处理用于安全地训练来自多个源的逻辑回归的大型数据集。
2021-05-14 cs.LG
Statistical Analysis of Privacy and Anonymity Guarantees in Randomized Security Protocol Implementations
UC Berkeley（加州大学伯克利分校）
安全协议通常使用随机化来实现概率非确定性。这种非确定性反过来又用于混淆可观察值对秘密数据的依赖性。由于安全协议的正确性非常重要，安全协议的形式化分析在文献中得到了广泛的研究。随机安全协议也被分析使用形式化技术，如进程演算和概率模型检验。在本文中，我们考虑的问题，验证实现的随机化协议。与以前的方法，把协议作为一个白盒，我们的方法试图验证一个实现提供了一个黑盒。我们的目标是通过统计技术推断安全协议提供的保密性保证。我们学习的概率依赖的可观察的输出秘密输入使用贝叶斯网络。然后，这被用来近似秘密的泄漏。为了评估我们的统计方法的准确性，我们比较了我们的技术与概率模型检验技术的两个例子：人群协议和餐饮密码学家的协议。
2009-06-27 cs.CR cs.LG
Secure PAC Bayesian Regression via Real Shamir Secret Sharing
Aalborg University（奥尔堡大学）
本文针对多方数据隐私保护下的线性回归问题，提出基于实数 Shamir 秘密共享的安全 PAC 贝叶斯回归协议，并给出安全求逆与安全高斯消元两种求解方法，在保护数据隐私的同时实现模型学习。
2023-04-17 cs.CR cs.LG
Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统，利用高斯机制输出扰动和 Rényi 差分隐私，在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG
Rethinking Privacy Preserving Deep Learning: How to Evaluate and Thwart Privacy Attacks
WeBank AI Lab（微众银行人工智能实验室）；University of Malaya（马来亚大学）；Hong Kong Univ. of Science and Tech.（香港科技大学）
本文研究了隐私保护深度学习（PPDL）机制对抗各种形式的隐私攻击的能力。首先，我们建议定量衡量模型的准确性和隐私损失所造成的重建，跟踪和成员攻击之间的权衡。其次，我们将重建攻击表述为求解一个噪声线性方程组，并证明了如果条件（2）不满足，则保证攻击被击败。第三，在理论分析的基础上，提出了一种新的秘密极化网络（SPN）来抵御隐私攻击，这对现有的PPDL方法提出了严峻的挑战。大量的实验表明，在数据隐私得到满意保护的情况下，与基线机制相比，模型准确性平均提高了5-20%。
2020-06-23 cs.CR cs.DC cs.LG
Privacy-Preserving 3-Layer Neural Network Training
针对仅同态加密设置下的神经网络隐私保护训练问题，结合并扩展现有技术，实现了该设置下回归与分类任务的三层神经网络训练。
2025-04-15 cs.CR cs.LG
Privacy Preserving Machine Learning: Threats and Solutions
Iowa State University（爱荷华州立大学）；University of South Florida（南佛罗里达大学）
为了在当前的机器学习系统中充分解决隐私问题，必须弥合机器学习社区和隐私社区之间的知识差距。本文旨在介绍这两个领域的交叉点，特别强调用于保护数据的技术。
2018-03-27 cs.CR cs.LG
Bounding the Invertibility of Privacy-preserving Instance Encoding using Fisher Information
Pennsylvania State University（宾夕法尼亚州立大学）；Meta AI；Georgia Institute of Technology（佐治亚理工学院）；Cornell University（康奈尔大学）
本文提出基于Fisher信息的理论化隐私度量，用于界定隐私保护实例编码的可逆性，兼具直观性与实用性，并在理论与实证层面验证其有效性。
2023-05-06 cs.CR cs.LG
Privacy-Preserving Generative Models: A Comprehensive Survey
De Montfort University（德蒙福特大学）；University of Basel（巴塞尔大学）
本文通过分析100篇文献，系统综述了隐私保护生成模型，提出GANs和VAEs的隐私与效用指标新分类体系，并指出当前挑战与未来研究方向。
2025-02-05 cs.CR cs.LG
Active Privacy-Utility Trade-off Against Inference in Time-Series Data Sharing
Imperial College London（帝国理工学院）
物联网（IoT）设备，如智能电表，智能扬声器和活动监视器，由于它们提供的服务而变得非常受欢迎。然而，除了它们的许多好处之外，它们还引起了隐私问题，因为它们与不受信任的第三方共享细粒度的时间序列用户数据。在这项工作中，我们认为用户释放她的数据包含个人信息，从一个诚实但好奇的服务提供商（SP）的服务回报。我们将用户的个人信息建模为两个相关的随机变量（r. v.的），其中一个称为秘密变量，是要保持私有的，而另一个称为有用变量，是为了实用而公开的。我们考虑主动顺序数据发布，其中在每个时间步，用户从有限的一组发布机制中进行选择，每个机制都揭示了关于用户个人信息的一些信息，即，r. v.的真实值。尽管统计数据不同。用户以在线方式管理数据发布，使得尽可能快地揭示关于潜在有用变量的最大量的信息，同时敏感变量的置信度保持在预定义水平以下。对于隐私性度量，我们考虑了正确检测秘密的真实值的概率和秘密与发布数据之间的互信息。我们将这两个问题表示为部分可观察马尔可夫决策过程（POMDPs），并通过优势行动者-批评者（A2 C）深度强化学习（DRL）进行数值求解。我们评估了所提出的策略在合成数据和吸烟活动数据集上的隐私-效用权衡（PUT），并通过测试由长短期记忆（LSTM）神经网络建模的SP的活动检测准确性来证明其有效性。
2022-02-11 cs.CR cs.IT cs.LG
SecretFan: Synthesizing Realistic Data without Breaking Privacy
CISPA Helmholtz Center for Information Security（CISPA赫尔姆霍尔茨信息安全部）；Saarland University（萨尔兰州大学）
提出将合成数据生成视为引导测试生成问题，结合生成对抗网络（GAN）的判别器和模糊测试生成器，在保护隐私的同时生成高可用性合成数据。
2026-06-05 cs.LG
Privacy-preserving recommender system using the data collaboration analysis for distributed datasets
University of Tsukuba（筑波大学）；Hosei University（法政大学）
本研究针对分布式数据集共享中的隐私保护问题，建立了一个基于数据协作分析的隐私保护推荐系统框架，数值实验表明该方法能提高评分预测准确率。
2024-05-24 cs.CR cs.IR cs.LG
Privacy-Preserving Graph Convolutional Networks for Text Classification
图卷积网络（GCN）是用于对自然地作为图出现的文档进行表示学习的强大架构，例如，引用或社交网络。然而，敏感的个人信息，例如以人们的个人资料或关系为边缘的文档，很容易发生隐私泄露，因为经过训练的模型可能会泄露原始输入。虽然差分隐私（DP）提供了一个有充分依据的隐私保护框架，GCN提出了理论和实践的挑战，由于他们的培训细节。我们通过将基于差异私有梯度的训练适应于GCN来解决这些挑战，并使用两种优化器在两种语言的五个NLP数据集上进行实验。我们提出了一个简单而有效的方法，基于随机图分裂，不仅提高了基线隐私边界的2.7倍，同时保留竞争力的F1分数，但也提供了强大的隐私保证，？= 1.0。我们表明，在某些建模选择下，隐私保护GCN执行高达90%的非私有变体，同时正式保证强大的隐私措施。
2022-05-02 cs.CL cs.CR cs.LG
PAT: Privacy-Preserving Adversarial Transfer for Accurate, Robust and Privacy-Preserving EEG Decoding
Hubei Key Laboratory of Brain-inspired Intelligent Systems, School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（华中科技大学人工智能与自动化学院脑启发智能系统湖北省重点实验室）；Shenzhen Huazhong University of Science and Technology Research Institute（深圳华中科技大学研究院）；Zhongguancun Academy（中关村学院）
本文提出PAT框架，结合数据对齐、对抗训练和隐私保护迁移，提升EEG解码的准确性、鲁棒性和隐私保护，实验表明其在多个数据集上优于现有方法。
2026-04-11 cs.HC cs.LG eess.SP
Privacy Preserving ID3 over Horizontally, Vertically and Grid Partitioned Data
Hasselt University（哈瑟尔特大学）；Transnational University Limburg（林堡跨国大学）；Eindhoven University of Technology（埃因霍温理工大学）
在训练数据水平或垂直分布的情况下，我们考虑通过ID3的隐私保护决策树归纳。此外，我们考虑同样的问题的情况下，数据是水平和垂直分布的，我们称之为网格分区数据的情况。我们给出了一个隐私保护算法ID3水平分割数据涉及两个以上的缔约方。对于网格划分的数据，我们讨论了两种不同的评估方法来保护隐私ID3，即先水平合并，然后垂直发展或先垂直合并，然后水平发展。其次，介绍了隐私保护数据采掘网格划分的数据，本文的主要贡献是，我们表明，通过复杂性分析，前评估方法是更有效的。
2008-03-11 cs.DB cs.LG
Privacy-Preserving Distributed Learning Framework for 6G Telecom Ecosystems
Fraunhofer HHI（弗劳恩霍夫HHI研究所）；Photonic Networks and Systems（光子网络与系统）
我们为6G时代的电信生态系统提供了一个保护隐私的分布式学习框架，该框架实现了ML模型的共享所有权和治理愿景，同时保护了数据所有者的隐私。我们通过将其应用于多域多供应商光网络中的传输质量（QoT）估计的用例来展示其优点，其中没有与网络管理系统（NMS）共享单个域的数据。
2020-08-17 cs.LG cs.NI
