A Middle Path for On-Premises LLM Deployment: Preserving Privacy Without Sacrificing Model Confidentiality
Shanghai Jiao Tong University（上海交通大学）；National University of Defense Technology（国防科技大学）；Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳））；Tsinghua University（清华大学）
本文提出SOLID框架，通过安全保护少量底层并优化层数权衡，在本地部署中平衡模型机密性与定制化，实验验证其优于基线。
2025-10-07 cs.AI cs.CR cs.LG
UMO: Scaling Multi-Identity Consistency for Image Customization via Matching Reward
UXO Team, Intelligent Creation Lab, ByteDance（字节跳动智能创作实验室）
UMO提出统一多身份优化框架，通过多对多匹配和强化学习，解决图像定制中的身份混淆，提升身份一致性，并开源数据集和指标。
2025-09-08 cs.CV cs.LG
Model-based Large Language Model Customization as Service
National University of Singapore（新加坡国立大学）；WeBank；The Hong Kong University of Science and Technology（香港理工大学）
Llamdex 提出了一种基于模型的 LLM 定制服务框架，通过客户端上传预训练的领域模型并结合差分隐私保护，提升领域特定任务的准确率并保持推理效率。
2026-02-15 cs.AI cs.CR cs.LG
A Critical Overview of Privacy-Preserving Approaches for Collaborative Forecasting
INESC TEC（葡萄牙机电工程与计算机科学研究所）；Faculty of Sciences of the University of Porto（波尔图大学理学院）；Technical University of Denmark（丹麦技术大学）
不同数据所有者之间的合作可能会提高预测质量-例如，通过利用地理上分布的时间序列中的时空依赖性。由于业务竞争因素和个人数据保护问题，所述数据所有者可能不愿意共享其数据，这增加了对协作隐私保护预测的兴趣。分析了向量自回归（VAR）模型在保证数据隐私方面的研究现状，揭示了现有方法的不足。本文还提供了数学证明和数值分析来评估现有的隐私保护方法，将它们分为三组：数据转换，安全多方计算和分解方法。分析表明，最先进的技术在保护数据隐私方面存在局限性，例如隐私和预测准确性之间的权衡，而迭代模型拟合过程中的原始数据，其中中间结果是共享的，可以在一些迭代后推断出来。
2020-10-10 cs.LG stat.ML
JAX-Privacy: A library for differentially private machine learning
JAX-Privacy 是一个用于差分隐私机器学习的库，提供模块化原语和最新研究成果，兼顾研究者和实践者的不同需求。
2026-02-19 cs.LG
A generic framework for privacy preserving deep learning
Imperial College London（帝国理工学院）；DeepMind（深度思维）；University of Oxford（牛津大学）；Case Western Reserve University（凯斯西储大学）
我们详细介绍了一个用于隐私保护的新框架深度学习并讨论了其资产。该框架重视数据的所有权和安全处理，并引入了基于命令链和张量的有价值的表示。这种抽象允许实现复杂的隐私保护结构，如联邦学习，安全多方计算和差分隐私，同时仍然向最终用户公开熟悉的深度学习API。我们报告了波士顿住房和皮马印第安人糖尿病数据集的早期结果。虽然除了差分隐私之外的隐私特征不影响预测准确性，但是框架的当前实现引入了显著的性能开销，这将在开发的稍后阶段解决。我们相信这项工作是一个重要的里程碑，为隐私保护深度学习引入了第一个可靠的通用框架。
2018-11-13 cs.CR cs.LG stat.ML
Interpretable Machine Learning for Privacy-Preserving Pervasive Systems
University College London（伦敦大学学院）；The Alan Turing Institute（艾伦·图灵研究所）
我们与普适系统的日常交互会生成跟踪，这些跟踪捕获人类行为的各个方面，并使机器学习算法能够提取有关用户的潜在信息。在本文中，我们提出了一个机器学习可解释性框架，使用户能够理解这些生成的痕迹如何侵犯他们的隐私。
2019-06-04 cs.CR cs.LG stat.ML
Privacy-preserving Active Learning on Sensitive Data for User Intent Classification
Amazon Research（亚马逊研究院）
主动学习有望在保持合理模型性能的同时显著降低数据注释成本。但是，它需要将数据发送给注释器进行标记。当训练集包括敏感的用户数据时，这存在可能的隐私泄漏。在本文中，我们描述了一种方法进行隐私保护主动学习与量化的保证。我们评估我们的方法，显示隐私，实用程序和注释预算之间的权衡二进制分类任务中的主动学习设置。
2019-03-26 cs.CL cs.LG stat.ML
Private Dataset Generation Using Privacy Preserving Collaborative Learning
Technische Hochschule Ingolstadt（英戈尔施塔特应用技术大学）
随着深度学习算法在许多应用中的使用越来越多，与隐私和对抗攻击相关的新研究问题正在出现。然而，深度学习算法的改进需要越来越多的数据在研究社区内共享。联邦学习、差分隐私、附加秘密共享等方法提供了一种在边缘上训练机器学习模型而不从边缘移动数据的方法。然而，它是非常计算密集型的，并且容易受到对抗攻击。因此，这项工作引入了一个隐私保护FedCollabNN框架，用于在边缘训练机器学习模型，该框架具有计算效率和对对抗攻击的鲁棒性。使用MNIST数据集的仿真结果表明了该框架的有效性。
2020-04-28 cs.CR cs.LG stat.ML
Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统，利用高斯机制输出扰动和 Rényi 差分隐私，在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG
Rethinking Privacy Preserving Deep Learning: How to Evaluate and Thwart Privacy Attacks
WeBank AI Lab（微众银行人工智能实验室）；University of Malaya（马来亚大学）；Hong Kong Univ. of Science and Tech.（香港科技大学）
本文研究了隐私保护深度学习（PPDL）机制对抗各种形式的隐私攻击的能力。首先，我们建议定量衡量模型的准确性和隐私损失所造成的重建，跟踪和成员攻击之间的权衡。其次，我们将重建攻击表述为求解一个噪声线性方程组，并证明了如果条件（2）不满足，则保证攻击被击败。第三，在理论分析的基础上，提出了一种新的秘密极化网络（SPN）来抵御隐私攻击，这对现有的PPDL方法提出了严峻的挑战。大量的实验表明，在数据隐私得到满意保护的情况下，与基线机制相比，模型准确性平均提高了5-20%。
2020-06-23 cs.CR cs.DC cs.LG
Turn That Frown Upside Down: FaceID Customization via Cross-Training Data
The University of Melbourne（墨尔本大学）；Zhejiang University（浙江大学）；Nanyang Technological University（南洋理工大学）
提出首个大规模公开数据集CrossFaceID，通过交叉训练使FaceID定制模型在保持身份保真度的同时，显著提升面部表情和角度等特征的修改能力。
2025-01-26 cs.AI cs.CV cs.LG
Privacy-Preserving Synthetic Educational Data Generation
Inria Saclay（法国国家信息与自动化研究所萨克莱分院）
机构收集大量的学习痕迹，但出于隐私问题，它们可能不会披露。合成数据的产生为教育研究开辟了新的机会。在本文中，我们提出了一个生成模型的教育数据，可以保护参与者的隐私，并比较合成数据发电机的评估框架。我们将展示如何天真的匿名化可以导致重新识别的威胁，并建议技术，以保证隐私。我们评估我们的方法对现有的大量教育开放数据集。
2022-07-07 cs.AI cs.CR cs.CY
Efficient Privacy-Preserving Stochastic Nonconvex Optimization
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；University of Virginia（弗吉尼亚大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
虽然许多解决方案的隐私保护凸经验风险最小化（ERM）已经开发，隐私保护非凸ERM仍然是一个挑战。我们研究非凸ERM，它采取的形式是最小化有限和的非凸损失函数的训练集。我们提出了一个新的差分私人随机梯度下降算法的非凸ERM，有效地实现强隐私保证，并提供了一个严密的分析其隐私和效用的保证，以及其梯度的复杂性。我们的算法降低了梯度复杂度，同时提高了Wang等人给出的最佳效用保证（NeurIPS 2017）。我们在基准非凸ERM问题上的实验表明，与以前使用相同隐私预算的差分隐私方法相比，在训练成本和效用增益方面具有优异的性能。
2023-02-02 cs.CR cs.LG math.OC
PAT: Privacy-Preserving Adversarial Transfer for Accurate, Robust and Privacy-Preserving EEG Decoding
Hubei Key Laboratory of Brain-inspired Intelligent Systems, School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（华中科技大学人工智能与自动化学院脑启发智能系统湖北省重点实验室）；Shenzhen Huazhong University of Science and Technology Research Institute（深圳华中科技大学研究院）；Zhongguancun Academy（中关村学院）
本文提出PAT框架，结合数据对齐、对抗训练和隐私保护迁移，提升EEG解码的准确性、鲁棒性和隐私保护，实验表明其在多个数据集上优于现有方法。
2026-04-11 cs.HC cs.LG eess.SP
Privacy-Preserving 3-Layer Neural Network Training
针对仅同态加密设置下的神经网络隐私保护训练问题，结合并扩展现有技术，实现了该设置下回归与分类任务的三层神经网络训练。
2025-04-15 cs.CR cs.LG
Striking the Perfect Balance: Preserving Privacy While Boosting Utility in Collaborative Medical Prediction Platforms
Center for Intelligent Decision-Making and Machine Learning, School of Management, Xi’an Jiaotong University（智能决策与机器学习中心，管理学院，西安交通大学）
本文针对协作医疗预测平台中的隐私与预测质量问题，提出了一种集成隐私保护机制的一次性分布式学习框架，在满足特定隐私要求下实现最优预测性能，并通过模拟和真实数据实验验证了其有效性。
2025-07-15 cs.LG
Privacy Preserving ID3 over Horizontally, Vertically and Grid Partitioned Data
Hasselt University（哈瑟尔特大学）；Transnational University Limburg（林堡跨国大学）；Eindhoven University of Technology（埃因霍温理工大学）
在训练数据水平或垂直分布的情况下，我们考虑通过ID3的隐私保护决策树归纳。此外，我们考虑同样的问题的情况下，数据是水平和垂直分布的，我们称之为网格分区数据的情况。我们给出了一个隐私保护算法ID3水平分割数据涉及两个以上的缔约方。对于网格划分的数据，我们讨论了两种不同的评估方法来保护隐私ID3，即先水平合并，然后垂直发展或先垂直合并，然后水平发展。其次，介绍了隐私保护数据采掘网格划分的数据，本文的主要贡献是，我们表明，通过复杂性分析，前评估方法是更有效的。
2008-03-11 cs.DB cs.LG
When Crowdsensing Meets Federated Learning: Privacy-Preserving Mobile Crowdsensing System
School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算与信息系统学院）；College of Mathematics and Computer Science, Fuzhou University（福州大学数学与计算机科学学院）；Peng Cheng Laboratory（鹏城实验室）；School of Computer Science and Engineering, South China University of Technology（华南理工大学计算机科学与工程学院）
移动众测是一种新兴的感知数据汇集模式，具有可扩展性、低部署成本和分布式等特点。传统的MCS系统受到隐私问题和公平奖励分配的影响。此外，现有的隐私保护MCS解决方案通常关注数据汇集的隐私保护，而不是数据处理的隐私保护。为了解决MCS面临的问题，本文将联邦学习（FL）融入MCS，提出了一种隐私保护的MCS系统\textsc{CrowdFL}。具体来说，为了保护隐私，参与者通过联邦学习在本地处理传感数据，只上传加密的训练模型。特别地，提出了一种隐私保护的联邦平均算法来平均加密的训练模型。为了减少抑制丢弃参与者的计算和通信开销，设计了丢弃和重传策略。此外，设计了一种隐私保护的发布定价激励机制，试图打破隐私保护和数据评估的困境。理论分析和实际MCS应用的实验结果表明，所提出的\textsc{CrowdFL}能够有效地保护参与者的隐私，是可行和有效的。
2021-02-20 cs.CR cs.LG
Privacy Preserving Machine Learning: Threats and Solutions
Iowa State University（爱荷华州立大学）；University of South Florida（南佛罗里达大学）
为了在当前的机器学习系统中充分解决隐私问题，必须弥合机器学习社区和隐私社区之间的知识差距。本文旨在介绍这两个领域的交叉点，特别强调用于保护数据的技术。
2018-03-27 cs.CR cs.LG
Reliability Check via Weight Similarity in Privacy-Preserving Multi-Party Machine Learning
Sangmyung University（祥明大学）
多方机器学习是一种范例，其中多个参与者协作地训练机器学习模型以实现共同的学习目标，而无需共享他们私有的数据。该范式最近受到了研究界的广泛关注，旨在解决其相关的隐私问题。在这项工作中，我们专注于解决与隐私保护多方机器学习相关的数据隐私，模型隐私和数据质量问题，即，我们提出了一个隐私保护的合作学习，检查参与者的数据质量，同时保证数据和模型的隐私计划。特别是，我们提出了一种新的度量称为权重相似性，安全地计算和用于检查是否可以被归类为一个可靠的参与者（持有高质量的数据）或没有。通过在方案中引入同态加密和上传加密权值，分别解决了模型和数据隐私问题，防止了对服务器和恶意参与者的泄漏。我们的计划的分析和实验评估表明，它是准确的，并确保数据和模型的隐私。
2021-01-14 cs.LG
Towards a More Reliable Privacy-preserving Recommender System
National Taiwan University（国立台湾大学）；Academia Sinica（中央研究院）；National Cheng Kung University（国立成功大学）
本文提出了一个隐私保护的分布式推荐框架，安全分布式协同过滤（SDCF），以保护隐私的价值，模型和存在。也就是说，在我们的框架中，不仅用户对项目的评分，而且评分的存在以及学习的推荐模型都是保密的。我们的解决方案依赖于分布式客户端-服务器架构和两阶段随机响应算法，以及流行的推荐模型矩阵分解（MF）的实现。我们进一步证明SDCF满足差分隐私的保证，使客户端可以指定任意的隐私级别。数值评分预测和一类评分行为预测的实验表明，SDCF不会牺牲太多的准确性隐私。
2017-11-22 cs.LG
Privacy-Preserving Distributed Learning Framework for 6G Telecom Ecosystems
Fraunhofer HHI（弗劳恩霍夫HHI研究所）；Photonic Networks and Systems（光子网络与系统）
我们为6G时代的电信生态系统提供了一个保护隐私的分布式学习框架，该框架实现了ML模型的共享所有权和治理愿景，同时保护了数据所有者的隐私。我们通过将其应用于多域多供应商光网络中的传输质量（QoT）估计的用例来展示其优点，其中没有与网络管理系统（NMS）共享单个域的数据。
2020-08-17 cs.LG cs.NI
Privacy Preserving Machine Learning for Electronic Health Records using Federated Learning and Differential Privacy
University of Washington（华盛顿大学）
针对电子健康记录的高敏感属性，为保障机器学习模型分析患者数据时的隐私安全，提出结合联邦学习与差分隐私的隐私保护技术方案。
2024-06-23 cs.CR cs.ET cs.LG
Bounding the Invertibility of Privacy-preserving Instance Encoding using Fisher Information
Pennsylvania State University（宾夕法尼亚州立大学）；Meta AI；Georgia Institute of Technology（佐治亚理工学院）；Cornell University（康奈尔大学）
本文提出基于Fisher信息的理论化隐私度量，用于界定隐私保护实例编码的可逆性，兼具直观性与实用性，并在理论与实证层面验证其有效性。
2023-05-06 cs.CR cs.LG
A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University（罗格斯大学）；Duke University（杜克大学）；University of California, Irvine（加州大学欧文分校）
本文提出融合联邦学习与差分隐私的广告个性化框架，通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术，在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
Privacy-preserving recommender system using the data collaboration analysis for distributed datasets
University of Tsukuba（筑波大学）；Hosei University（法政大学）
本研究针对分布式数据集共享中的隐私保护问题，建立了一个基于数据协作分析的隐私保护推荐系统框架，数值实验表明该方法能提高评分预测准确率。
2024-05-24 cs.CR cs.IR cs.LG
Privacy-Preserving Adversarial Networks
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Mitsubishi Electric Research Laboratories（三菱电机研究实验室）；Boston University（波士顿大学）
我们提出了一个数据驱动的框架，优化隐私保护的数据发布机制，以达到信息理论上的最佳折衷之间的失真最小化的有用数据和隐藏特定的敏感信息。我们的方法采用对抗训练的神经网络实现随机机制，并执行变分近似的互信息隐私。我们通过对离散和连续合成数据以及MNIST手写数字数据集的概念验证实验来验证我们的隐私保护对抗网络（PPAN）框架。对于合成数据，我们的模型无关的PPAN方法实现了非常接近于从模型知识中解析得出的最佳权衡的权衡点。在MNIST数据的实验中，我们直观地展示了最小化像素级失真与隐藏写入数字之间的权衡。
2019-06-12 cs.CR cs.GT cs.IT
Privacy-preserving Federated Learning for Residential Short Term Load Forecasting
FINATRAX, University of Luxembourg（卢森堡大学FINATRAX）；University of Luxembourg（卢森堡大学）
由于间歇性发电和动态需求模式的高水平，对住宅负荷的准确预测变得至关重要。智能电表在进行这些预测时可以发挥重要作用，因为它们提供详细的负荷数据。然而，由于数据隐私要求，使用智能电表数据进行负荷预测具有挑战性。本文研究了如何通过结合联邦学习和隐私保护技术（如差分隐私和安全聚合）来满足这些要求。在我们的分析中，我们使用了大量的住宅负载数据，并模拟了不同的联邦学习模型和隐私保护技术如何影响性能和隐私。我们的模拟表明，结合联邦学习和隐私保护技术可以确保高预测准确性和接近完全的隐私。具体来说，我们发现，这种组合使高水平的信息共享，同时确保隐私的处理负荷数据和预测模型。此外，我们确定并讨论了应用联邦学习，差分隐私和安全聚合住宅短期负荷预测的挑战。
2022-09-19 cs.AI cs.LG cs.SY
FedREP: A Byzantine-Robust, Communication-Efficient and Privacy-Preserving Framework for Federated Learning
Nanjing University（南京大学）
联邦学习（FL）是近年来的研究热点，其中拜占庭鲁棒性、通信效率和隐私保护是FL的三个重要方面。然而，这三个方面之间的紧张关系使得很难同时考虑到所有这些方面。鉴于这一挑战，我们从理论上分析了通信压缩方法应满足的条件，以兼容现有的拜占庭鲁棒方法和隐私保护方法。受分析结果的启发，我们提出了一种新的通信压缩方法，称为共识稀疏化（ConSpar）。据我们所知，ConSpar是第一种通信压缩方法，旨在兼容拜占庭鲁棒方法和隐私保护方法。在ConSpar的基础上，我们进一步提出了一个新的FL框架FedREP，它是拜占庭式的鲁棒性，通信效率和隐私保护。我们从理论上证明了FedREP的拜占庭鲁棒性和收敛性。实证结果表明，FedREP可以显着优于通信效率的隐私保护基线。此外，与拜占庭强大的通信效率基线相比，FedREP可以实现相当的准确性，并具有隐私保护的额外优势。
2023-03-09 cs.CR cs.DC cs.LG
Can large language models be privacy preserving and fair medical coders?
Dalhousie University（达尔豪斯大学）；Vector Institute（矢量研究院）
本研究探讨将差分隐私应用于大语言模型医疗编码任务的两大权衡，发现隐私保护会导致MIMIC-III数据集上前50标签微F1降超40%，且男女患者召回率差距扩大3%以上，为现实部署提供参考。
2024-12-07 cs.CR cs.LG
SoK: Privacy-Preserving Collaborative Tree-based Model Learning
Laboratory for Data Security -- EPFL（数据安全实验室 -- 洛桑联邦理工学院）
基于树的模型因其准确性、可解释性和简单性而成为当今数据采掘最有效的机器学习技术之一。最近对更多数据和隐私保护的正交需求要求协作隐私保护解决方案。在这项工作中，我们调查了文献的分布式和隐私保护训练的基于树的模型，我们系统化的知识的基础上的四个轴：学习算法，协作模型，保护机制，和威胁模型。我们用它来识别这些作品的优点和局限性，并首次提供了一个框架，分析分布式基于树的模型学习中发生的信息泄漏。
2021-06-18 cs.CR cs.LG
FedXGBoost: Privacy-Preserving XGBoost for Federated Learning
Technical University of Munich（慕尼黑工业大学）；Bytedance Inc.（字节跳动公司）；Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种分布式机器学习框架，它支持多方协作训练，同时确保数据隐私。XGBoost是最先进的树提升框架，由于传统隐私保护方法的高成本，XGBoost对联邦学习的实际适应仍然有限。为了解决这个问题，我们提出了两种具有隐私保证的联邦XGBoost变体：FedXGBoost-SMM和FedXGBoost-LDP。我们的第一个协议FedXGBoost-SMM部署了增强的安全矩阵乘法方法，以无损的准确性和较低的开销比基于防御的技术来保护隐私。第二个协议FedXGBoost-LDP是独立开发的，它是用噪声扰动为本地差分隐私设计的，并在真实世界和合成数据集上进行了经验评估。
2021-08-12 cs.CR cs.LG
Combined Use of Federated Learning and Image Encryption for Privacy-Preserving Image Classification with Vision Transformer
Tokyo Metropolitan University（东京都立大学）
近年来，深度学习的隐私保护方法已经成为一个迫切的问题。因此，我们提出了联邦学习（FL）和加密图像的隐私保护图像分类下使用的视觉Transformer（ViT）的组合使用。所提出的方法不仅允许我们在多个参与者之间进行训练模型而不直接共享原始数据，而且还首次保护了测试（查询）图像的隐私。此外，它还可以保持与正常训练模型相同的精度。在一个实验中，所提出的方法被证明是很好的工作，没有任何性能下降的CIFAR-10和CIFAR-100数据集。
2023-03-03 cs.CR cs.CV cs.LG
Towards Split Learning-based Privacy-Preserving Record Linkage
University of Macedonia（马其顿大学）
本文研究如何利用分割学习实现隐私保护记录链接，提出基于公开参考集的新型训练方法，在保护数据隐私的同时取得与集中式SVM方法接近的匹配效果。
2024-09-02 cs.CR cs.DB cs.LG
Privacy-Preserving Graph Convolutional Networks for Text Classification
图卷积网络（GCN）是用于对自然地作为图出现的文档进行表示学习的强大架构，例如，引用或社交网络。然而，敏感的个人信息，例如以人们的个人资料或关系为边缘的文档，很容易发生隐私泄露，因为经过训练的模型可能会泄露原始输入。虽然差分隐私（DP）提供了一个有充分依据的隐私保护框架，GCN提出了理论和实践的挑战，由于他们的培训细节。我们通过将基于差异私有梯度的训练适应于GCN来解决这些挑战，并使用两种优化器在两种语言的五个NLP数据集上进行实验。我们提出了一个简单而有效的方法，基于随机图分裂，不仅提高了基线隐私边界的2.7倍，同时保留竞争力的F1分数，但也提供了强大的隐私保证，？= 1.0。我们表明，在某些建模选择下，隐私保护GCN执行高达90%的非私有变体，同时正式保证强大的隐私措施。
2022-05-02 cs.CL cs.CR cs.LG
Privacy-preserving and yet Robust Collaborative Filtering Recommender as a Service
Luxembourg Institute of Science and Technology (LIST)（卢森堡科学技术研究院（LIST））
协同过滤服务器以牺牲最终用户的隐私为代价提供有效的个性化服务。随着社会对隐私保护的日益关注和隐私保护法规的日益严格，设计一种既能保护隐私又能为隐私敏感用户提供推荐服务的鲁棒的推荐器成为一个迫切的研究挑战。我们的分析表明，现有的解决方案在几个方面存在不足，包括缺乏对最终用户的精确输出的关注和忽略相关的鲁棒性问题。在本文中，我们提供了一个通用的系统结构，潜在因素为基础的协同过滤过滤器，制定他们的模型训练和预测计算阶段，还描述了一个新的安全模型。针对务实的解决方案，我们首先展示了如何构建隐私保护，但强大的模型训练阶段的基础上现有的解决方案。然后，我们提出了两个密码协议来实现隐私保护的预测计算阶段，这取决于是否涉及额外的代理。与标准的Top-k推荐不同，作为我们隐私设计策略的结果，我们让最终用户检索预测高于阈值的未评级项目。实验结果表明，我们的新协议是相当有效的。
2019-10-09 cs.CR cs.IR cs.LG
Privacy Preserving in Non-Intrusive Load Monitoring: A Differential Privacy Perspective
Tsinghua University（清华大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
智能电表设备可以更好地了解需求，避免私人信息泄露的潜在风险。减轻这种风险的一种有希望的解决方案是将噪声注入到仪表数据中以实现一定水平的差分隐私。在本文中，我们投一次性的非侵入式负载监测（NILM）的压缩感知框架，并弥合NILM推理的理论精度和差分隐私的参数之间的差距。然后，我们推导出有效的理论界提供见解的差分隐私参数如何影响NILM的性能。此外，我们推广了我们的结论，提出了层次框架来解决多镜头NILM问题。数值实验验证了我们的分析结果，并提供更好的物理见解的差分隐私在各种实际情况下。这也说明了我们的工作对一般隐私保护机制设计的意义。
2020-11-12 cs.CR cs.LG cs.SY
Privacy-preserving Decentralized Federated Learning over Time-varying Communication Graph
Lancaster University（兰卡斯特大学）
确定一组学习者如何以完全分散的（点对点，没有协调员）方式提供隐私保护的联邦学习是一个开放的问题。我们提出了第一个隐私保护的基于共识的算法，分布式学习器，以实现分散的全球模型聚合的环境中的高流动性，学习器之间的通信图可能会有所不同，连续轮的模型聚合。特别地，在每一轮全局模型聚合中，Metropolis-Hastings方法被应用于基于当前通信拓扑来更新加权邻接矩阵。此外，Shamir的秘密共享方案的整合，以促进隐私达成共识的全球模型。本文建立了该算法的正确性和隐私属性。通过建立在联邦学习框架上的仿真实验，对算法的计算效率进行了评估。
2022-10-01 cs.CR cs.LG cs.MA
FedPass: Privacy-Preserving Vertical Federated Deep Learning with Adaptive Obfuscation
Webank（微众银行）；HKUST（香港科技大学）
垂直联邦学习（VFL）允许具有标记特征的主动方利用被动方的辅助特征来提高模型性能。在VFL的训练和推理过程中，私有特征和标签泄漏问题引起了广泛的研究关注。在本文中，我们提出了一个通用的隐私保护垂直联邦深度学习框架FedPass，它利用自适应混淆来同时保护特征和标签。从理论上证明了私有特征和标签的强隐私保护能力（定理1和定理2）。不同数据集和网络架构的广泛实验结果也证明了FedPass相对于现有方法的优越性，因为它在隐私和模型性能之间接近最佳的权衡。
2023-01-31 cs.CR cs.DC cs.LG
PCAL: A Privacy-preserving Intelligent Credit Risk Modeling Framework Based on Adversarial Learning
信用风险建模已经渗透到我们的日常生活中。大多数银行和金融公司使用这种技术来模拟客户的可信度。虽然机器学习越来越多地用于这一领域，但由此产生的大规模用户私人信息收集重新激发了隐私辩论，考虑到每年由未经授权的黑客造成的数十起数据泄露事件，以及（可能更多）授权方的信息误用/滥用。为了解决这些关键问题，本文提出了一个基于对抗学习的隐私保护信用风险建模框架（PCAL）。PCAL旨在通过（迭代）权衡隐私风险损失和面向实用性的损失，掩盖原始数据集内的私人信息，同时保留目标预测任务性能的重要实用信息。在实用性和隐私保护方面，将PCAL与现成的选项进行比较。实验结果表明，PCAL可以从用户数据中学习到一种有效的、无隐私的表示方法，为信用风险分析中隐私保护的机器学习提供了坚实的基础。
2020-10-06 cs.CR cs.CV cs.LG
A Privacy-Preserving and Trustable Multi-agent Learning Framework
Bennett University（贝内特大学）；Syracuse University（雪城大学）
分布式多智能体学习使智能体能够合作训练模型，而不需要共享它们的数据集。虽然这种设置确保了一定程度的隐私，但已经表明，即使当数据不直接共享时，训练过程也容易受到隐私攻击，包括数据重建和模型反演攻击。此外，在反向标签或随机数据上进行训练的恶意代理可能会任意削弱全局模型的准确性。本文解决了这些挑战，并提出了隐私保护和可信赖的分布式学习（PT-DL），这是一个完全分散的框架，依赖于差分隐私来保证代理数据的强大隐私保护，以及以太坊智能合约来确保可信赖性。本文表明，PT-DL是弹性高达50%的共谋攻击，具有很高的概率，在恶意的信任模型和实验评估说明了所提出的模型的好处，作为一个隐私保护和可信的分布式多智能体学习系统的几个分类任务。
2021-06-02 cs.AI cs.CR cs.LG
Privacy-Preserving Distributed Parameter Estimation for Probability Distribution of Wind Power Forecast Error
Tsinghua University（清华大学）；Bytedance（字节跳动）
建立风电预测误差的条件概率分布对风电场（WF）和独立系统运营商（ISO）都有利。建立风电功率的联合概率分布和相应的空间相关WFs预测数据是推导条件概率分布的基础。传统的概率分布参数估计方法需要收集所有工作流的历史数据。然而，在多区域互联电网的背景下，出于隐私或竞争考虑，区域ISO和WF都不能收集其他区域WF的原始数据。因此，本文首先提出了一种基于高斯混合模型的隐私保护分布式期望最大化算法来估计联合概率分布的参数。该算法由两种新颖的方法组成：（1）隐私保护的分布式求和算法和（2）隐私保护的分布式内积算法。然后，我们推导出每个WF的预测误差的条件概率分布的联合之一。通过该算法，工作流只需要进行局部计算和保护隐私的邻居通信就可以实现整体参数估计。这些算法进行了验证，使用风积分数据集公布的NREL。
2020-02-29 cs.CR cs.DC cs.LG
Attacks on Image Encryption Schemes for Privacy-Preserving Deep Neural Networks
隐私保护机器学习是一个活跃的研究领域，通常依赖于同态加密或安全多方计算等技术。最近，Tanaka和Sirichotedumrong、Kinoshita和Kiya提出了使用深度神经网络对图像执行机器学习的新加密技术。我们提出了新的选择明文和密文的攻击对这两个建议的图像加密方案，并证明了攻击的有效性的几个例子。
2020-04-29 cs.CR cs.CV cs.LG
