Streaming Submodular Maximization with Differential Privacy
Khoury College of Computer Sciences, Northeastern University（东北大学胡里计算机科学学院）
在这项工作中，我们研究的问题，私人最大化的子模函数在流设置。广泛的工作已经做了私人最大化的子模函数在一般情况下，当功能依赖于个人的私人数据。然而，当从目标函数的域中提取的数据流的大小很大或到达非常快时，必须在流设置的约束内私下优化目标。我们建立基本的差异私人基线这个问题，然后得到更好的权衡隐私和实用程序的特殊情况下，可分解的子模块功能。子模函数是可分解的，当它可以被写为子模函数的和;这种结构自然出现时，每个被加数函数模型的效用的个人和目标是研究总效用的整个人口在著名的组合公共项目问题。最后，我们补充我们的理论分析与实验证实。
2022-10-25 cs.CR cs.DS cs.LG
Improved Communication-Privacy Trade-offs in $L_2$ Mean Estimation under Streaming Differential Privacy
Stanford University（斯坦福大学）；Google Research（谷歌研究院）；Yonsei University（延世大学）；University of Washington（华盛顿大学）
本文针对流式差分隐私下的L_2均值估计，提出将稀疏化随机性纳入DP噪声的新隐私核算方法，并扩展至矩阵分解框架，在DP-SGD上实现至少100倍压缩改进。
2024-05-02 cs.CR cs.LG
An Inversion Theorem for Buffered Linear Toeplitz (BLT) Matrices and Applications to Streaming Differential Privacy
Google Research（谷歌研究）；Wadhwani School of Data Science & AI, IIT Madras（瓦德哈尼数据科学与人工智能学院，印度理工学院马德拉斯）
本文提出了缓冲线性Toeplitz（BLT）矩阵的逆定理，证明其逆矩阵仍为BLT矩阵，并给出一种高效可微的 $O(d^3)$ 算法计算逆矩阵参数，从而支持通过自动微分直接优化流式差分隐私机制的BLT参数。
2025-04-30 cs.CR cs.LG eess.SP
Towards Sparse Federated Analytics: Location Heatmaps under Distributed Differential Privacy with Secure Aggregation
Cornell Tech（康奈尔理工学院）；Google（谷歌）
我们设计了一种可扩展的算法，可以在来自数百万用户设备的分散数据上私下生成位置热图。它旨在确保数据对服务提供商可见之前的差分隐私，同时保持高数据准确性并最大限度地减少用户设备上的资源消耗。为了实现这一目标，我们重新分布式差分隐私的基础上，最近的结果在安全多方计算，我们设计了一个可扩展的和自适应的分布式差分隐私的位置分析方法。对公共位置数据集的评估表明，这种方法成功地从数百万用户样本中生成了大都市规模的热图，最坏情况下的客户端通信开销明显小于现有的最先进的私有协议。
2022-06-26 cs.CR cs.LG
A Hybrid Approach to Privacy-Preserving Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；IBM Research Almaden（IBM阿尔马登研究中心）
联邦学习促进了模型的协作训练，而无需共享原始数据。然而，最近的攻击表明，在训练过程中简单地维护数据局部性并不能提供足够的隐私保证。相反，我们需要一个联邦学习系统，能够防止对训练期间交换的消息和最终训练模型的推断，同时确保最终模型也具有可接受的预测准确性。现有的联邦学习方法要么使用易受推断影响的安全多方计算（SMC），要么使用差分隐私，这可能导致低准确性，因为大量的参与方各自具有相对少量的数据。在本文中，我们提出了一种替代方法，利用差分隐私和SMC来平衡这些权衡。将差分隐私与安全多方计算相结合，使我们能够在不牺牲隐私的情况下减少噪声注入的增长，同时保持预定义的信任率。因此，我们的系统是一种可扩展的方法，可以防止推理威胁，并生成高精度的模型。此外，我们的系统可以用于训练各种机器学习模型，我们验证了3种不同的机器学习算法的实验结果。我们的实验表明，我们的方法优于最先进的解决方案。
2019-08-14 cs.LG stat.ML
PrivFairFL: Privacy-Preserving Group Fairness in Federated Learning
Mila – Quebec AI Institute（Mila – 魁北克人工智能研究所）；HEC Montréal（蒙特利尔高等商学院）；University of Washington Tacoma（华盛顿大学塔科马分校）；Ghent University（根特大学）
群体公平性确保了基于机器学习（ML）的决策系统的结果不会偏向于由敏感属性（如性别或种族）定义的特定人群。在联邦学习（FL）中实现群体公平性是具有挑战性的，因为减轻偏见本质上需要使用所有客户端的敏感属性值，而FL的目的正是通过不允许访问客户端的数据来保护隐私。正如我们在本文中所示，在FL中的公平性和隐私性之间的冲突可以通过将FL与安全多方计算（MPC）和差分隐私（DP）相结合来解决。在这样做的过程中，我们提出了一种在完整和正式的隐私保证下在跨设备FL中训练组公平ML模型的方法，而不需要客户端公开其敏感属性值。
2022-08-26 cs.CR cs.LG
Gap-Free Streaming PCA Beyond Rank-One Updates: Near-Optimal Rates and Applications to Differential Privacy
University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出无特征间隙假设下流式PCA的Oja算法新分析，仅需二阶矩界实现近最优速率，并扩展至差分隐私应用，解决开放猜想。
2026-09-23 cs.DS cs.LG stat.ML
A generic framework for privacy preserving deep learning
Imperial College London（帝国理工学院）；DeepMind（深度思维）；University of Oxford（牛津大学）；Case Western Reserve University（凯斯西储大学）
我们详细介绍了一个用于隐私保护的新框架深度学习并讨论了其资产。该框架重视数据的所有权和安全处理，并引入了基于命令链和张量的有价值的表示。这种抽象允许实现复杂的隐私保护结构，如联邦学习，安全多方计算和差分隐私，同时仍然向最终用户公开熟悉的深度学习API。我们报告了波士顿住房和皮马印第安人糖尿病数据集的早期结果。虽然除了差分隐私之外的隐私特征不影响预测准确性，但是框架的当前实现引入了显著的性能开销，这将在开发的稍后阶段解决。我们相信这项工作是一个重要的里程碑，为隐私保护深度学习引入了第一个可靠的通用框架。
2018-11-13 cs.CR cs.LG stat.ML
Secure Byzantine-Robust Distributed Learning via Clustering
Coordinated Sciences Laboratory（协同科学实验室）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
联邦学习系统，共同保持拜占庭的鲁棒性和隐私仍然是一个开放的问题。健壮的聚合是拜占庭攻击的标准防御，通常需要服务器访问个人更新或非线性计算-因此与隐私保护方法（例如通过多方计算的安全聚合）不兼容。为此，我们提出了共享（安全分层鲁棒聚合），一个分布式学习框架，旨在以加密方式保护客户端更新的隐私和鲁棒性拜占庭对手同时。其关键思想是在通过强大的聚合过滤恶意更新之前，在随机群集的客户端之间进行安全平均。实验表明，SHARE具有与现有技术相似的鲁棒性保证，同时增强隐私。
2021-10-06 cs.AI cs.CR cs.LG
Privacy Preserving PCA for Multiparty Modeling
University of Science and Technology of China（中国科学技术大学）；Ant Financial Services Group（蚂蚁金融服务集团）
在本文中，我们提出了一个一般的多方建模范式与隐私保护主成分分析（PPPCA）的水平分区数据。PPPCA可以在保证明文数据本地化的前提下实现PCA的多方协同执行。我们还提出了使用两种技术的实现，即，同态加密和秘密共享。PPPCA的输出可以直接发送给数据消费者，以构建任何机器学习模型。我们在三个UCI基准数据集和一个真实世界的欺诈检测数据集上进行了实验。实验结果表明，基于PPPCA建立的模型与基于集中式明文数据建立的PCA模型具有相同的精度。
2020-03-12 cs.CR cs.LG
HybridAlpha: An Efficient Approach for Privacy-Preserving Federated Learning
University of Pittsburgh（匹兹堡大学）；IBM Almaden Research Center（IBM阿尔马登研究中心）
联邦学习已经成为一种很有前途的协作和隐私保护学习方法。联邦学习过程中的参与者通过交换模型参数而不是实际的训练数据来合作地训练模型，他们可能希望保持私有。然而，参数交互和所得到的模型仍然可能泄露关于所使用的训练数据的信息。为了解决这些隐私问题，已经提出了基于差分隐私和安全多方计算（SMC）等的若干方法。它们通常会导致大量的通信开销和缓慢的训练时间。在本文中，我们提出了HybridAlpha，隐私保护的联邦学习采用基于功能加密的SMC协议的方法。该协议简单，高效，对参与者退出具有弹性。我们评估我们的方法，关于训练时间和数据量交换使用联邦学习过程训练一个CNN的MNIST数据集。对现有基于加密的SMC解决方案的评估表明，HybridAlpha可以将训练时间平均减少68%，数据传输量平均减少92%，同时提供与现有解决方案相同的模型性能和隐私保证。
2019-12-12 cs.CR cs.LG
PPCA: Privacy-preserving Principal Component Analysis Using Secure Multiparty Computation(MPC)
隐私保护数据采掘已成为一个重要的课题。人们已经建立了一些基于多方计算（MPC）的框架来提供理论上有保证的隐私，但现实世界中的算法性能不佳一直是一个挑战。使用主成分分析（PCA）作为一个例子，我们表明，通过考虑MPC平台的独特的性能特征，我们可以设计高效的算法级优化，如更换昂贵的运营商和级联。我们实现了约200 $\times$性能提升现有的隐私保护PCA算法具有相同的隐私保证水平。此外，使用真实世界的数据集，我们表明，通过结合多方数据，我们可以获得更好的训练结果。
2021-05-17 cs.CR cs.DS
Efficient and Near-Optimal Noise Generation for Streaming Differential Privacy
Google DeepMind（谷歌DeepMind）；Google Research（谷歌研究院）；IIT Madras（马德拉斯印度理工学院）
本文针对差分隐私连续计数提出两种近最优且空间高效的噪声生成方案，通过Toeplitz矩阵流式乘法和低阶有理函数逼近平方根，仅需对数或多项式对数空间即可实现高实用性。
2024-05-06 cs.CC cs.CR cs.DS
Privacy-Preserving Distributed Learning for Residential Short-Term Load Forecasting
University of Liverpool（利物浦大学）；KU Leuven（鲁汶大学）；EnergyVille（能源城研究院）；COSIC（计算机与安全工业密码学研究中心）；The University of Manchester（曼彻斯特大学）
针对居民负荷预测中的数据隐私问题及联邦学习模型易受梯度泄露、投毒攻击且安全聚合方案鲁棒性不足的缺陷，提出基于马尔可夫切换的分布式训练框架，兼具隐私性、鲁棒性与可扩展性。
2024-02-02 cs.AI cs.CR cs.DC
Meta-Generalization for Multiparty Privacy Learning to Identify Anomaly Multimedia Traffic in Graynet
在分布式服务系统、多代网络和未来的万物互联中，识别网络空间中的异常多媒体流量是一个巨大的挑战。这封信探讨了灰网中多方隐私学习模型的元泛化，以提高异常多媒体流量识别的性能。灰网中的多方隐私学习模型是一个全局共享的模型，它通过多方参数更新交换来进行分区、分布和训练，并保留隐私数据。元泛化是指发现学习模型的内在属性，以减少其泛化误差。在实验中，三个元泛化原则测试如下。通过改变字节级嵌入维数，降低了灰网多方隐私学习模型的泛化误差。之后，通过调整用于提取分组级特征的深度来减少误差。最后，通过调整支持集的大小对流量级数据进行预处理，减小了误差。实验结果表明，该建议优于国家的最先进的学习模型识别异常多媒体流量。
2022-12-14 cs.AI cs.CR cs.LG
Privacy-Preserving Machine Learning for IoT: A Cross-Paradigm Survey and Future Roadmap
School of CSE, University of NSW（新南威尔士大学计算机科学与工程学院）
本文综述了物联网中隐私保护机器学习的跨范式方法，分析了隐私保障、计算复杂度、异构设备参与下的可扩展性及威胁抵御能力，并探讨了无线物联网环境中的部署限制与开放挑战。
2026-03-30 cs.CR cs.LG
Data Analytics with Differential Privacy
Technical University of Crete（克里特理工大学）
本论文研究分布式和流式数据场景下的差分隐私数据分析方法，提出三种分布式贝叶斯网络学习算法和两种改进的流式密度估计方案，并在理论和实验上验证了其隐私保护效果。
2023-07-20 cs.CR cs.DB cs.LG
Federated Learning in MIMO Satellite Broadcast System
联邦学习（FL）是一种在无线边缘的分布式机器学习，它可以保护客户端数据的隐私不受对手甚至中央服务器的侵犯。现有的联邦学习方法要么使用（i）安全多方计算（SMC），这是容易受到推理或（ii）差分隐私，这可能会降低测试的准确性，因为大量的各方，每个相对少量的数据。为了解决文献中现有方法的问题，本文将联邦学习引入MIMO系统的内部工作中。
2023-03-29 cs.LG eess.SP
Leveraging Secure Multiparty Computation in the Internet of Things
物联网中的集中式系统--无论是本地中间件还是基于云的服务--都无法从根本上解决所收集数据的隐私问题。我们提出了一个架构，其核心是安全多方计算，以实现数据处理系统已经纳入支持隐私保护的架构。
2018-06-06 cs.CR
Fast Privacy-Preserving Text Classification based on Secure Multiparty Computation
University of Campinas（坎皮纳斯大学）；University of Washington Tacoma（华盛顿大学塔科马分校）；Monash University（莫纳什大学）；Aarhus University（奥胡斯大学）
我们提出了一个隐私保护的朴素贝叶斯分类器，并将其应用于私人文本分类问题。在此设置中，一方（Alice）持有文本消息，而另一方（Bob）持有分类器。在协议结束时，Alice只会学习应用于她的文本输入的分类器的结果，而Bob什么也不会学到。我们的解决方案是基于安全多方计算（SMC）。我们的Rust实现为非结构化文本的分类提供了一个快速安全的解决方案。将我们的解决方案应用于垃圾邮件检测的情况（该解决方案是通用的，并且可以在可以采用朴素贝叶斯分类器的任何其他场景中使用），在Bob的模型的字典大小包括所有单词（n = 5200）并且Alice的SMS具有至多m = 160个一元词的情况下，我们可以在小于340 ms内将SMS分类为垃圾邮件或火腿。在n = 369和m = 8（数据库中垃圾短信的平均值）的情况下，我们的解决方案只需要21毫秒。
2021-06-08 cs.CR cs.LG
Privacy-Preserving Multiparty Learning For Logistic Regression
近年来，机器学习技术被广泛应用于天气预报、金融数据分析、垃圾邮件过滤和医疗预测等众多应用中。与此同时，从多个来源生成的海量数据进一步提高了机器学习工具的性能。然而，来自多个源的数据共享为这些源带来隐私问题，因为在此过程中可能泄漏敏感信息。在本文中，我们提出了一个框架，使多方能够在分布式数据集上协作且准确地训练学习模型，同时保证数据源的隐私。具体地说，我们考虑逻辑回归模型的数据训练，并提出了两种方法来扰动目标函数，以保持ε-差分隐私。所提出的解决方案在真实数据集上进行了测试，包括银行营销和信用卡违约预测。实验结果表明，提出的多方学习框架是高效和准确的。
2018-10-04 cs.CR
An Algorithm for Streaming Differentially Private Data
University of California, Davis（加州大学戴维斯分校）；University of California, Irvine（加州大学尔湾分校）
针对现有差分隐私算法应用于数据流时存在隐私失效或效用差的问题，提出面向空间数据集的差分隐私合成流式数据生成算法及在线选择性计数通用框架，经真实与模拟数据集验证有效。
2024-01-31 cs.DB cs.IT cs.LG
Efficient Differentially Private Secure Aggregation for Federated Learning via Hardness of Learning with Errors
University of Vermont（佛蒙特大学）；MassMutual（万通互惠）；Raytheon（雷神公司）
联邦机器学习利用边缘计算从网络用户数据开发模型，但联邦学习中的隐私仍然是一个重大挑战。已经提出了使用差分隐私的技术来解决这个问题，但也带来了自己的挑战--许多技术需要可信的第三方，否则会增加太多的噪音来产生有用的模型。使用多方计算的\emph{secure aggregation}的最新进展消除了对第三方的需要，但计算成本高，特别是在规模上。我们提出了一个新的联邦学习协议，利用一种新的差分私有，恶意的安全聚合协议的基础上，从错误的学习技术。我们的协议优于当前最先进的技术，经验结果表明，它可以扩展到大量的缔约方，具有最佳的准确性，任何差异私人联邦学习计划。
2021-12-13 cs.CR cs.LG
Privacy-Preserving Feature Selection with Secure Multiparty Computation
University of Washington（华盛顿大学）；Monash University（莫纳什大学）；Ghent University（根特大学）
关于使用安全多方计算（MPC）进行隐私保护机器学习的现有工作几乎完全集中在模型训练和对训练模型的推理上，从而忽略了重要的数据预处理阶段。在这项工作中，我们提出了第一个MPC为基础的协议，私人特征选择的基础上的过滤器的方法，这是独立的模型训练，并可以与任何MPC协议的组合使用排名功能。为此，我们提出了一个有效的特征评分协议的基础上基尼杂质。为了证明我们的方法在实际数据科学中的可行性，我们在常用的机器学习即服务配置中使用所提出的MPC协议进行特征选择实验，其中计算外包给多个服务器，具有半诚实和恶意对手。关于有效性，我们表明，安全的特征选择与建议的协议提高了分类器的准确性，在各种现实世界的数据集，而不会泄露信息的特征值，甚至哪些功能被选中。关于效率，我们记录了从几秒到一小时的运行时间，以完成我们的协议，这取决于数据集的大小和安全设置。
2021-02-06 cs.CR cs.LG
Zone-Based Privacy-Preserving Billing for Local Energy Market Based on Multiparty Computation
针对本地能源市场投标偏差计费中的隐私问题，提出结合电网分区与多方计算的去中心化账单协议，并通过安全分析和5000用户实验验证其效率与部署可行性。
2023-07-17 cs.CR
PrivacyFL: A simulator for privacy-preserving and secure federated learning
Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种使分布式客户端能够协作学习共享的机器学习模型，同时保持其训练数据本地化的技术。这降低了数据隐私风险，然而，隐私问题仍然存在，因为有可能从训练模型的权重或参数中泄露有关训练数据集的信息。建立一个联邦学习环境，特别是有安全和隐私保证的环境，是一个耗时的过程，有许多配置和参数可以操作。为了帮助客户确保协作是可行的，并检查它是否提高了他们的模型准确性，需要一个真实世界的隐私保护和安全的联邦学习模拟器。在本文中，我们介绍PrivacyFL，这是一个可扩展的，易于配置和可扩展的模拟器的联邦学习环境。它的主要特性包括延迟模拟、对客户端离开的鲁棒性、对集中式和分散式学习的支持，以及基于差分隐私和安全多方计算的可配置隐私和安全机制。在本文中，我们激发了我们的研究，描述了模拟器和相关协议的架构，并讨论了其在众多场景中的评估，这些场景强调了其广泛的功能及其优势。我们的论文解决了一个重要的现实问题：检查在各种情况下参与联邦学习环境的可行性。它还具有很强的实际影响，因为医院、银行和研究机构等拥有大量敏感数据并希望进行协作的组织将从一个能够以隐私保护和安全的方式进行协作的系统中受益匪浅。
2020-07-08 cs.CR cs.DC cs.LG
Private Multiparty Perception for Navigation
Columbia University（哥伦比亚大学）
我们引入了一个框架，通过将多个摄像头连接在一起，同时保护隐私，在混乱的环境中导航。大型环境中的遮挡和障碍物对于导航代理来说通常是具有挑战性的情况，因为环境不能从单个相机视图完全观察到。给定环境的多个摄像机视图，我们的方法学习生成只能用于导航的多视图场景表示，可以证明防止一方推断输出任务之外的任何内容。在我们将公开发布的一个新的导航数据集上，实验表明，私人多方表示允许在复杂场景和障碍物周围导航，同时共同保护隐私。我们的方法可以扩展到任意数量的相机视点。我们认为，开发保护隐私的视觉表示对于导航等许多应用越来越重要。
2022-12-02 cs.CR cs.CV cs.LG
Privacy-preserving Decentralized Deep Learning with Multiparty Homomorphic Encryption
分散式深度学习由于其具有吸引力的特性，包括容忍高网络延迟和不太容易发生单点故障，在协作模型训练中发挥着关键作用。不幸的是，与其他分布式训练框架相比，这种训练模式更容易受到数据隐私泄露的影响。现有的努力专门使用差分隐私作为减轻数据隐私威胁的基石。然而，由于差分隐私的内在矛盾，它是否能为模型训练提供一个令人满意的效用-隐私权衡仍然是不清楚的。为了解决这个问题，我们提出了D-MHE，这是第一个具有无损精度的安全高效的分散训练框架。受同态加密技术最新发展的启发，我们设计了一个多方版本的Brakerski-Fan-Vercauteren（BFV），并使用它来实现用户局部模型的私有梯度更新。D-MHE可以将一般安全多方计算（MPC）任务的通信复杂性从用户数的二次方降低到线性，使其非常适合于大规模分散学习系统。此外，D-MHE提供严格的语义安全保护，即使大多数用户是不诚实的共谋。我们在MNIST和CIFAR-10数据集上进行了大量的实验，以证明D-MHE在模型精度，计算和通信成本方面的优越性。
2022-07-11 cs.CR
Privacy-Preserving Analytics for Smart Meter (AMI) Data: A Hybrid Approach to Comply with CPUC Privacy Regulations
Department of Economics, University of California, Irvine（加州大学欧文分校经济学系）
本文面向 AMI 智能电表数据的 CPUC 合规需求，综合匿名化、差分隐私、联邦学习、合成数据与密码学方法，提出支持机器学习和计量分析的混合隐私保护架构。
2025-05-13 cs.CR cs.LG stat.ML
Over-the-Air Federated Learning In Broadband Communication
针对现有联邦学习在安全多方计算易受推理攻击、差分隐私降低准确率方面的不足，本文提出将 FL 无缝集成到 MIMO 系统内部的空中联邦学习方法。
2023-06-03 cs.LG
Unlinkable content playbacks in a multiparty DRM system
针对多方数字版权管理方案中的隐私侵犯问题，提出了一种解决方案。（漫游）用户从内容提供方购买内容许可证，并在任何附近的内容分发者处执行。我们的方法不需要任何可信的第三方-与大多数保护隐私的DRM相关工作相反-基于在任何移动Android设备上运行的重新加密方案。只有一个次要的安全关键部分需要在设备的SIM卡上执行，例如，SIM卡。
2013-04-30 cs.CR
Can One Safety Loop Guard Them All? Agentic Guard Rails for Federated Computing
Division of Cancer Registry of Norway, Norwegian Institute of Public Health, Oslo, Norway（挪威癌症登记处，挪威公共卫生研究所，奥斯陆）；Department of Physics and Technology, The Arctic University of Norway, Tromsø, Norway（挪威极地大学物理与技术系）
提出面向隐私保护联邦计算的双层框架Guardian-FC，通过DSL插件和智能体AI控制平面将安全护栏与隐私机制解耦，实现跨密码学与统计后端的统一安全执行与可审计性。
2025-06-24 cs.CR cs.DC cs.LG
Towards Vertical Privacy-Preserving Symbolic Regression via Secure Multiparty Computation
针对纵向数据划分场景下符号回归的隐私保护空白，提出基于安全多方计算的联合建模方法，实现与集中式方案相当的性能同时保障数据隐私。
2023-07-22 cs.CR stat.ML
SaFL: Sybil-aware Federated Learning with Application to Face Recognition
Universidad Autonoma de Madrid（马德里自治大学）
针对联邦学习（FL）存在的投毒攻击等安全威胁，提出女巫感知联邦学习方法SaFL，通过时变聚合方案最小化女巫节点影响，以提升FL安全性并可应用于人脸识别。
2024-12-01 cs.CR cs.CV cs.LG
Deep Transfer Hashing for Adaptive Learning on Federated Streaming Data
Faculty of Computer Science and Business Information Systems, TUAS Würzburg-Schweinfurt（维尔zburg-施魏因富应用科学大学计算机科学与商务信息系统学院）；Faculty of Technology, Bielefeld University（比勒费尔德大学技术学院）；Center for Artificial Intelligence and Robotics Würzburg（维尔zburg人工智能与机器人中心）
本文提出将联邦学习与深度迁移哈希结合，通过服务器预训练与客户端微调及隐私保护的哈希码共享，实现高效、可扩展且隐私安全的分布式预测，应用于Car2X交通事件预测。
2024-09-19 cs.CR cs.DC cs.LG
Cluster Based Secure Multi-Party Computation in Federated Learning for Histopathology Images
University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）；Mayo Clinic（梅奥诊所）
联邦学习（FL）是一种分散的方法，使医院能够协作学习模型，而无需共享私人患者数据进行训练。在FL中，参与医院定期与中央服务器交换训练结果而不是训练样本。然而，访问模型参数或梯度可能会暴露私有训练数据样本。为了解决这个问题，我们采用安全多方计算（SMC）建立一个隐私保护的联邦学习框架。在我们提出的方法中，医院被划分为集群。在本地训练之后，每个医院将其模型权重分配给同一集群中的其他医院，使得没有一家医院可以单独检索其他医院的权重。然后，所有医院将收到的权重相加，将结果发送到中央服务器。最后，中央服务器汇总结果，检索模型权重的平均值并更新模型，而无需访问各个医院的权重。我们在一个公开的数据库--癌症基因组图谱（TCGA）上进行实验。我们比较了所提出的框架与差分隐私和联邦平均作为基线的性能。实验结果表明，与差分隐私相比，该框架能够以较高的通信开销为代价，在不存在隐私泄露风险的情况下获得更高的准确率.
2022-08-21 cs.AI cs.CR cs.LG
Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation
如何在分布式环境中实现差分隐私，其中数据集分布在不信任的各方，是一个重要的问题。我们考虑在什么条件下协议可以继承它计算的函数的差分隐私性质。问题的核心是随机函数的安全多方计算。引入了\emph{obliviousness}的概念，它捕获了在分布式环境中从确定性函数计算随机化函数时的关键安全问题。通过这一观察，给出了由确定性函数计算随机化函数的一个充要条件。上述结果不仅可以用来判断计算差分私有函数的协议是否安全，而且可以用来构造安全的差分私有函数协议。证明了如果协议秘密地计算一个函数，则计算该函数的协议可以继承该函数的差分隐私性质，并给出了差分隐私协议的合成定理。我们还构造了一些协议，以产生随机变量的分布设置，如均匀随机变量和反演方法。利用这些基本协议，我们构造了高斯机制、拉普拉斯机制和指数机制的协议。重要的是，所有这些协议都满足遗忘性，因此可以通过基于模拟的方式证明是安全的。给出了分布情形下计算随机函数的复杂性界。最后，为了证明我们的研究结果对多方差分隐私协议的有效性，我们构造了一个差异隐私的经验风险最小化协议。
2016-04-11 cs.CR cs.DB
Achieving Secure and Differentially Private Computations in Multiparty Settings
由于安全和隐私问题，在从医疗保健到金融的分布式环境中共享和处理敏感数据是一项重大挑战。安全多方计算（SMC）是一个可行的灵丹妙药，它允许分布式各方进行计算，而各方对他们的数据一无所知，但最终的结果。尽管SMC在此类分布式环境中发挥着重要作用，但它并不能保证不向对手泄露有关个人的任何信息。差分隐私（DP）可以用来解决这个问题;然而，实现SMC与DP也不是一个微不足道的任务。在本文中，我们提出了一种新的安全多方分布式差分私有（SM-DDP）协议，以实现安全和私有的计算在多方环境中。具体来说，我们的协议，我们同时实现SMC和DP在分布式设置集中在线性回归水平分布的数据。也就是说，各方看不到彼此的数据，并且进一步地，不能从最终构建的统计模型推断关于个人的信息。任何允许独立计算局部统计的统计模型函数都可以通过我们的协议计算。该协议实现了SMC的同态加密和DP的功能机制，以达到预期的安全性和隐私保证。在这项工作中，我们首先介绍了SM-DDP协议的理论基础，然后在两个不同的数据集上评估其有效性和性能。我们的研究结果表明，一个可以实现个人级别的隐私，通过建议的协议与分布式DP，这是独立地适用于每一方在一个分布式的方式。此外，我们的研究结果还表明，SM-DDP协议产生的计算开销最小，是可扩展的，并提供安全和隐私保证。
2017-07-06 cs.CR
Data Querying and Access Control for Secure Multiparty Computation
在物联网和智能环境中，从分布式传感器收集的数据通常由中央中间件存储和处理。这允许应用程序查询它们提供进一步服务所需的数据。然而，数据的集中化导致了一些隐私威胁：中间件成为必须信任的第三方，来自不同上下文的数据的链接和关联成为可能，数据主体失去了对数据的控制。因此，应考虑集中处理以外的其他办法。在这里，安全多方计算是一个有前途的候选人，安全和隐私保护的计算发生在接近数据源。为了使SMC适合在这些情况下的应用程序，我们扩展SMC作为一个服务：我们提供的元素，允许第三方查询计算数据从一组同行执行SMC。此外，我们建立细粒度的访问控制的个人数据查询的水平，产生数据保护的计算结果。通过添加措施来通知数据源有关请求及其数据的使用情况，我们展示了如何在SMC的基础上构建完全隐私保护的服务。
2019-01-09 cs.CR cs.NI
Cryptographically secure multiparty evaluation of system reliability
系统的精确设计可能被视为应受保护的商业机密，而同时组件制造商有时不愿发布完整的测试数据（可能仅提供平均故障时间数据）。在这种情况下，既要进行准确的可靠性评估，又要满足各方的隐私要求，这似乎是不切实际的。然而，我们提出了密码学的最新发展，当结合最近开发的生存签名的可靠性理论，允许几乎完全的隐私，以保持在一个密码强大的方式，正是在这种设置。因此，系统设计者不必透露他们的商业秘密设计，并且组件制造商可以在内部保留组件测试数据。
2016-04-18 cs.CR stat.ME
A Secure and Privacy-preserving Protocol for Smart Metering Operational Data Collection
在本文中，我们提出了一种新的协议，允许供应商和电网运营商收集用户的聚合计量数据在一个安全和隐私保护的方式。我们使用安全多方计算来确保隐私保护。此外，我们提出了三种不同的数据聚合算法，提供不同的隐私保护和性能之间的平衡。我们的协议是专为一个现实的情况下，数据需要发送到不同的方，如电网运营商和供应商。此外，它还有助于以保护隐私的方式准确计算输电、配电和电网平衡费用。我们还提出了我们的协议的安全性分析和性能评估的基础上著名的多方计算算法实现的C++。
2019-03-14 cs.CR
Federated learning: Applications, challenges and future directions
Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）；Cincinnati Children's Hospital Medical Center（辛辛那提儿童医院医疗中心）；University of Cincinnati College of Medicine（辛辛那提大学医学院）；University of Cincinnati（辛辛那提大学）
联邦学习（FL）是一种系统，其中中央聚合器协调多个客户端的努力来解决机器学习问题。此设置允许分散训练数据以保护隐私。本文的目的是提供FL系统的概述，重点是医疗保健。FL是基于它的框架，架构和应用程序进行评估。这里显示，FL通过中央聚合器服务器使用共享的全局深度学习（DL）模型解决了上述问题。本文探讨了最近的发展，并提供了一个全面的清单，未解决的问题，受到快速增长的外语研究的启发。在FL的上下文中，描述了几种隐私方法，包括安全多方计算、同态加密、差分隐私和随机梯度下降。此外，各种FL类，如水平和垂直FL和联邦迁移学习的审查，提供。FL在无线通信、服务推荐、智能医疗诊断系统、医疗保健等方面有着广泛的应用，本文对这些应用进行了讨论。我们还提出了一个彻底的审查现有FL的挑战，如隐私保护，通信成本，系统异构性，不可靠的模型上传，其次是未来的研究方向。
2022-06-24 cs.AI cs.IT cs.LG
A Multiparty Homomorphic Encryption Approach to Confidential Federated Kaplan Meier Survival Analysis
Norwegian Institute of Public Health（挪威公共卫生研究所）；Norwegian Computing Center（挪威计算中心）；The Arctic University of Norway（挪威北极大学）
本文提出基于阈值CKKS加密的隐私保护联邦Kaplan-Meier框架，实现加密聚合计数和近似浮点计算，通过加密向量和部分共享恢复明文，确保隐私安全的同时实现高保真生存估计。
2026-04-11 cs.AI cs.CR cs.LG
Towards a Novel Privacy-Preserving Distributed Multiparty Data Outsourcing Scheme for Cloud Computing with Quantum Key Distribution
本研究提出集成量子密钥分发、CRYSTALS Kyber与零知识证明的框架，旨在解决云计算区块链系统面临的量子安全威胁，性能评估证实其在真实云环境中的效率与可扩展性。
2024-07-09 cs.CR
Learning Privately from Multiparty Data
The Ohio State University（俄亥俄州立大学）；University of California, San Diego（加州大学圣地亚哥分校）
从多方收集的私有数据中学习分类器是一个重要的问题，具有许多潜在的应用。我们如何在不访问任何一方的私有数据的情况下，通过组合来自不同方的本地训练的分类器来构建一个准确的、有差异的私有全局分类器？我们建议通过首先从辅助未标记数据创建标记数据，然后训练全球$ε$差分私有分类器来转移本地分类器集成的“知识”。我们表明，多数表决是过于敏感，因此提出了一个新的风险加权类概率估计的合奏。相对于非私有解，我们的私有解具有由$O(ε^{-2}M^{-2})$限定的泛化误差，其中$M$是参与方的数量。当$M$较大时，例如在人群感知应用中，这允许强隐私而不损失性能。我们展示了我们的方法与现实的任务活动识别，网络入侵检测和恶意URL检测的性能。
2016-02-10 cs.CR cs.LG
Revolutionizing Medical Data Sharing Using Advanced Privacy Enhancing Technologies: Technical, Legal and Ethical Synthesis
多站点医学数据共享在现代临床实践和医学研究中至关重要。面临的挑战是进行数据共享，保护个人隐私和数据可用性。传统隐私增强技术的缺点意味着机构依赖于定制的数据共享合同。这些合同增加了数据共享的效率，并可能抑制重要的临床治疗和医学研究。本文提供了两种新的高级隐私增强技术（PET）：同态加密和安全多方计算（统称为多方同态加密或MHE）之间的综合。这些PET提供隐私的数学保证，其中MHE提供优于单独使用HE或SMC的性能优势。我们认为，MHE符合《通用数据保护条例》（GDPR）对医疗数据共享的法律要求，该条例为数据保护设定了全球基准。具体而言，使用MHE处理和共享的数据可以被视为匿名数据。我们解释如何MHE可以减少机构之间的定制合同措施的依赖。该方法可以加快医学研究的步伐，同时为医疗保健和研究机构采用通用数据互操作性标准提供额外的激励。
2020-10-27 cs.CR cs.CY
PrivaLog: a privacy-aware logic programming language
逻辑编程（LP）是声明式编程的一个子类别，被认为对非程序员来说相对简单。LP开发人员专注于描述逻辑推导的事实和规则，而不需要考虑实际实现推导的算法。安全多方计算（MPC）是一种加密技术，它允许在不实际看到数据的情况下对私有数据执行计算。在本文中，我们汇集了MPC和LP的概念，允许用户编写的逻辑程序设计语言的隐私保护应用程序。
2021-05-17 cs.CR
MTSP-LDP: A Framework for Multi-Task Streaming Data Publication under Local Differential Privacy
Xi’an Jiaotong University（西安交通大学）
MTSP-LDP通过最优隐私预算分配和数据自适应二进制树结构，提升多任务流数据发布下的隐私保护与效用。
2025-12-31 cs.CR
DPI: Ensuring Strict Differential Privacy for Infinite Data Streaming
本文提出DPI技术，通过限制无限数据流中每个用户的总隐私泄露，并利用增强机制提高准确性，实现严格差分隐私下的高实用性数据收集与分析。
2024-07-20 cs.CR
(Unconditional) Secure Multiparty Computation with Man-in-the-middle Attacks
在安全多方计算$n$中，各方在存在对手的情况下联合评估$n$变量函数$f$，所述对手可以破坏直到$t$方。迄今为止，几乎所有出现在文献中的作品都假定当事人之间存在经过认证的渠道。这种假设是不现实的。从放松这个（强）假设已经承担了两个方向的研究：（a）对手是几乎无所不能的，可以控制所有的通信信道在网络中，（b）只有部分连接的拓扑结构的认证通道是保证和对手控制的一个子集的通信信道在网络中。这项工作介绍了一个新的设置（无条件）安全多方计算问题，这是一个有趣的中间模型，相对于上述研究模型的文献（通过共享一个显着的特点，从上述两个模型）。我们认为（无条件）安全多方计算的问题时，“一些”的通信渠道连接各方可以被动地以及主动地被损坏。对于这种设置，一些诚实方可能通过损坏的信道连接到其他几个诚实方，并且可能无法与他们进行真实通信。这些当事人可能无法得到正确性或隐私的规范保证。我们提出了这个新的无条件多方计算的中间模型的安全性的定义。我们将展示如何适应协议（无条件）安全多方计算实现的定义，并认为我们取得的结果的紧密性。
2010-05-27 cs.CR
Differentially Private Streaming Data Release under Temporal Correlations via Post-processing
本文提出一种后处理框架，通过将差分隐私数据发布建模为最大后验估计并转化为非线性约束规划，显著提升了时间相关性下差分隐私流数据的效用和准确性。
2023-06-26 cs.CR cs.DB
Improved Pan-Private Stream Density Estimation
差分隐私是对隐私的严格定义，它保证对敏感数据集执行的任何分析都不会泄露有关其中包含数据的个人的信息。在这项工作中，我们开发了新的差分隐私算法来分析流数据。具体来说，我们考虑的问题，估计的密度流的用户（或，更一般地说，元素），这表示所有用户的比例，实际上出现在流中。我们专注于流媒体模型最强的隐私保证之一，即用户级泛隐私，它确保任何用户的隐私得到保护，即使对手在罕见的情况下观察算法的内部状态。我们提出的算法采用最佳的所有分配的隐私预算，是专门为流媒体模型，因此，在理论上和实验上优于传统的基于采样的方法。
2021-11-16 cs.CR cs.DB cs.DS
PSGraph: Differentially Private Streaming Graph Synthesis by Considering Temporal Dynamics
针对现有差分隐私方法忽略流图相邻时间动态关系导致性能受限的问题，提出首个集成时间动态的差分隐私流图合成框架PSGraph，通过自适应调整隐私预算分配和跨时间戳信息聚合及后处理技术，在四个真实数据集上验证了其优越性。
2025-05-30 cs.CR
Differential Privacy in Privacy-Preserving Big Data and Learning: Challenge and Opportunity
差分隐私（Differential Privacy，DP）以其强大的保护功能和坚实的数学基础，成为隐私保护的事实标准，被广泛应用于大数据分析、图数据处理、机器学习、深度学习、联邦学习等不同领域。虽然DP已经成为一个活跃和有影响力的领域，但它并不是解决不同场景下所有隐私问题的最佳解决方案。此外，DP在具体应用中也存在一些误解、误用和巨大挑战。在本文中，我们指出了相应的研究领域的一系列限制和开放的挑战。此外，我们提供了潜在的新的见解和途径，结合差分隐私与其他有效的降维技术和安全多方计算，以明确定义各种隐私模型。
2021-12-03 cs.CR
