Enhancing Privacy in Federated Learning: Secure Aggregation for Real-World Healthcare Applications
Inria（法国国家信息与自动化研究所）；EURECOM（欧洲数字与网络研究中心）；Université Côte d’Azur（蔚蓝海岸大学）
本文在 Fed-BioMed 框架中实现并比较 JL 和 LOM 两种安全聚合协议，通过四个医疗数据集的实验证明其能在几乎不影响准确率的前提下有效保护隐私，验证了安全聚合在真实医疗场景中的可行性。
2024-09-02 cs.AI cs.CR
Towards Fair and Privacy Preserving Federated Learning for the Healthcare Domain
本文针对医疗领域的数据异构性问题，提出了一种在异构条件下评估公平性感知联邦学习（FAFL）机制的基准方法，发现不同FAFL方案对数据异构性的响应差异显著，且隐私保护条件会显著增加网络通信成本和延迟。
2023-08-03 cs.CR
Advances in Privacy Preserving Federated Learning to Realize a Truly Learning Healthcare System
本文提出将隐私保护联邦学习（PPFL）整合进医疗生态系统，以解决数据共享与隐私保护难题，实现医学研究所定义的真正学习型医疗系统。
2024-09-29 cs.CR cs.DC
FedBlockHealth: A Synergistic Approach to Privacy and Security in IoT-Enabled Healthcare through Federated Learning and Blockchain
University of Technology Sydney（悉尼科技大学）；University of Haripur（哈里普尔大学）；Thapar University Patiala（帕蒂亚拉塔帕尔大学）；Abdul Wali Khan University（阿卜杜勒·瓦利·汗大学）
本文提出FedBlockHealth框架，融合联邦学习与区块链，通过公钥密码保障本地模型更新安全，在EMNIST数据集上验证了物联网医疗场景下的隐私保护、安全性与计算效率。
2023-04-16 cs.AI cs.CR cs.LG
Robust Aggregation for Adaptive Privacy Preserving Federated Learning in Healthcare
联邦学习（FL）使来自多个数据拥有方的协作训练模型成为可能，而无需共享数据。考虑到患者医疗数据的隐私法规，医疗保健中基于学习的系统可以从隐私保护FL方法中受益匪浅。然而，典型的模型聚合方法在FL是敏感的局部模型更新，这可能会导致在学习一个强大的和准确的全局模型失败。在这项工作中，我们实现和评估不同的强大的聚合方法在FL应用于医疗数据。此外，我们表明，这种方法可以检测和丢弃错误或恶意的本地客户端在训练过程中。我们使用两个真实世界的医疗数据集进行两组实验，用于训练医疗诊断分类任务。每个数据集被用来模拟三种不同的鲁棒FL聚合策略面对不同的中毒攻击时的性能。结果表明，隐私保护方法可以成功地应用在一起拜占庭鲁棒聚合技术。我们特别观察到使用差分隐私（DP）不会显著影响不同聚合策略的最终学习收敛。
2020-09-17 cs.CR
Federated Learning in Healthcare: Model Misconducts, Security, Challenges, Applications, and Future Research Directions -- A Systematic Review
Islamic University（伊斯兰大学）；University of Oklahoma（俄克拉荷马大学）；Government College of Applied Human Science（应用人文科学政府学院）；IIIT Delhi（德里印度信息技术学院）
本系统综述评估了联邦学习在医疗保健中的应用，分析了模型安全实践、挑战及应用，并指出了提升数据隐私和扩展应用范围的未来研究方向。
2024-05-22 cs.AI cs.CR cs.LG
Towards Privacy-Preserving Data-Driven Education: The Potential of Federated Learning
University of Bergen（卑尔根大学）
本文通过教育数据预测实验比较联邦学习与传统非联邦方法，证明其准确率相当且在对抗攻击下更具韧性，为教育隐私保护提供可行路径。
2025-03-16 cs.AI cs.CR cs.LG
A Privacy-Preserving Subgraph-Level Federated Graph Neural Network via Differential Privacy
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）；Beijing Jiaotong University（北京交通大学）
目前，联邦图神经网络（GNN）由于其在不违反隐私法规的情况下在现实中的广泛应用而引起了人们的广泛关注。在所有的隐私保护技术中，差分隐私（DP）由于其有效性和较小的计算开销是最有前途的一个。然而，基于DP的联邦GNN还没有得到很好的研究，特别是在子图级的设置，如推荐系统的场景。联邦GNN面临的最大挑战是如何在保证隐私的同时解决非独立同分布（non-IID）数据。在本文中，我们提出了DP-FedRec，一个基于DP的联邦GNN来填补这一空白。利用私有集交叉（PSI）来扩展每个客户端的局部图，从而解决非IID问题。最重要的是，DP不仅应用于PSI的权重，还应用于PSI的交集图的边缘，以充分保护客户端的隐私。测试结果表明，DP-FedRec在图形扩展方面取得了更好的性能，DP只引入了很少的计算开销。
2022-06-07 cs.AI cs.CR cs.LG
A blockchain-orchestrated Federated Learning architecture for healthcare consortia
ConsenSys Health；Imperial College London（帝国理工学院）；UC San Diego（加州大学圣地亚哥分校）；Johns Hopkins Berman Institute of Bioethics（约翰斯·霍普金斯大学伯曼生物伦理研究所）
我们提出了一种新的架构，联邦学习在医疗联盟。该解决方案的核心是隐私保护技术的独特集成，建立在以太坊生态系统中可用的本地企业区块链组件之上。我们展示了医疗联盟的具体特征和挑战如何影响我们的设计选择，特别是一个新的安全聚合协议的概念，该协议由受保护的硬件组件和以太坊本地的加密工具包组成。我们的架构还引入了隐私保护审计跟踪，记录网络中的事件，而不会泄露身份。
2019-10-12 cs.CR cs.CY cs.LG
Multi-Continental Healthcare Modelling Using Blockchain-Enabled Federated Learning
School of Computing, Newcastle University（新castle大学计算机学院）；Department of Computing, Imperial College London（伦敦帝国理工学院计算机系）；Institute of Health Informatics, University College London（伦敦大学学院健康信息学研究所）；Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University（上海智能自主系统研究所，同济大学）；College of Electronics and Information Engineering, Tongji University（同济大学电子与信息工程学院）；University College London Hospital（伦敦大学学院医院）
本文提出一种基于区块链联邦学习的多洲医疗建模框架，在不共享本地数据的情况下利用欧洲、北美和亚洲数据集进行血糖管理预测，实验证明其有效、高效且保护隐私，性能优于局部模型并接近集中式训练。
2025-10-09 cs.AI cs.CR cs.LG
Security and Privacy for Healthcare Blockchains
医疗区块链提供了一种创新的方式来存储医疗信息，执行医疗交易，并在分散的开放医疗网络环境中建立医疗数据共享和数据集成的信任。尽管医疗区块链技术已经引起了工业界、政府和学术界的广泛兴趣和关注，但在医疗行业从业务运营到研究合作的信息共享中部署区块链时，安全和隐私问题仍然是争论的焦点。本文重点介绍了区块链技术在医疗数据共享中的安全和隐私需求，全面分析了安全和隐私风险和需求，并给出了技术解决方案和策略。首先，我们讨论了通过部署医疗保健区块链实现电子医疗数据共享所需的安全和隐私要求以及属性。其次，我们将现有的努力分为三个参考区块链使用场景，用于电子医疗数据共享，并讨论在医疗区块链的三种使用场景中实现这些安全和隐私属性的技术，例如匿名签名，基于属性的加密，零知识证明，智能合约安全验证技术。最后，我们讨论了区块链在医疗保健领域的其他潜在应用场景。我们推测，这项调查将帮助医疗保健专业人员、决策者和医疗保健服务开发人员从概念、风险、需求、开发和部署技术和系统方面获得对医疗保健区块链安全性和隐私性的技术和直观见解。
2021-06-11 cs.CR
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
Federated Learning and Differential Privacy: Software tools analysis, the Sherpa.ai FL framework and methodological guidelines for preserving data privacy
Andalusian Research Institute in Data Science and Computational Intelligence, University of Granada（格拉纳达大学安达卢西亚数据科学与计算智能研究所）
边缘人工智能服务的高需求也保护了数据隐私，推动了对符合这些需求的新型机器学习范式的研究。联邦学习的目标是通过分布式学习方法来保护数据隐私，这些方法将数据保存在数据孤岛中。同样，差分隐私通过测量联邦学习的元素之间的通信中的隐私损失来实现对数据隐私的保护。联邦学习和差分隐私与数据隐私保护挑战的前瞻性匹配导致了几个支持其功能的软件工具的发布，但它们缺乏对这些技术所需的统一愿景，以及支持其使用的方法工作流程。因此，我们提出了Sherpa.ai联邦学习框架，该框架建立在联邦学习和差分隐私的整体视图上。它源于对如何使机器学习范式适应联邦学习的研究，以及基于联邦学习和差分隐私开发人工智能服务的方法指南的定义。我们展示了如何通过分类和回归用例来遵循Sherpa.ai联邦学习框架的方法指南。
2020-10-06 cs.AI cs.CR cs.LG
Blockchain-based Federated Learning with SMPC Model Verification Against Poisoning Attack for Healthcare Systems
针对联邦学习易受恶意更新与投毒攻击且难以兼顾隐私保护的问题，本文提出结合区块链、SMPC 加密推理验证和安全聚合的医疗系统框架，并在多个医学数据集上评估。
2023-04-26 cs.CR
Federated $f$-Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
联邦学习（FL）是一种训练范式，其中客户端通过重复共享信息来协作学习模型，而不会对其本地敏感数据的隐私造成太大影响。在本文中，我们介绍了联邦$f$ -差分隐私，一个新的概念，专门为联邦设置，高斯差分隐私的框架的基础上。联合$f$ -差异隐私在记录级别上运行：它为一个客户端数据的每个单独记录提供隐私保证，以对抗对手。然后，我们提出了一个通用的私人联邦学习框架{PriFedSync}，可容纳一个大家庭的国家的最先进的FL算法，可证明实现联邦$f$差分隐私。最后，我们实证地展示了在计算机视觉任务中由{PriFedSync}训练的模型的隐私保证和预测性能之间的权衡。
2021-02-22 cs.AI cs.CR cs.CV
Enhancing Privacy via Hierarchical Federated Learning
联邦学习存在几个与隐私相关的问题，这些问题使参与者面临各种威胁。这些问题中的许多问题因联邦学习的集中式架构而加剧。在本文中，我们讨论了将联邦学习应用于分层体系结构作为一种潜在的解决方案。我们介绍的机会，更灵活的分散控制的培训过程及其对参与者的隐私的影响。此外，我们调查的可能性，以提高效率和有效性的防御和验证方法。
2020-04-23 cs.CR
Privacy Threats Analysis to Secure Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Ant Group（蚂蚁集团）
联邦学习是一种机器学习技术，它可以在多个分散的参与方之间训练模型。它以保护隐私而闻名，因为数据永远不会离开计算设备，最近的方法通过隐藏加密传输的消息来进一步增强其隐私性。然而，我们发现，尽管做出了努力，联邦学习仍然存在隐私威胁，因为它具有跨各方的交互性。本文分析了工业级安全计算联邦学习框架中的隐私威胁，揭示了此类威胁广泛存在于线性回归、逻辑回归和决策树等典型机器学习模型中。对于线性和逻辑回归，我们通过理论分析表明，攻击者可以在很少的信息下反转受害者的整个私人输入。对于决策树模型，我们发动攻击来推断受害者的私有输入的范围。所有攻击都在流行的联邦学习框架和真实世界的数据集上进行评估。
2021-06-24 cs.AI cs.CR cs.LG
BACSA: A Bias-Aware Client Selection Algorithm for Privacy-Preserving Federated Learning in Wireless Healthcare Networks
针对无线医疗网络中联邦学习因非IID数据偏见导致性能下降的问题，提出偏见感知客户端选择算法BACSA，通过检测偏见并优化客户端选择，提升收敛性和准确性，兼顾隐私、公平与网络约束。
2024-11-01 cs.AI cs.CR cs.LG
Shuffled Differentially Private Federated Learning for Time Series Data Analytics
Beijing Institute of Technology（北京理工大学）
针对时间序列数据联邦学习中的隐私保护与时间依赖性学习干扰问题，提出结合本地差分隐私与混洗技术的隐私放大算法，在五种数据集上验证其准确率损失极小且优于集中式差分隐私方法。
2023-07-30 cs.AI cs.CR cs.LG
Fairness and Privacy in Federated Learning and Their Implications in Healthcare
University of Virginia（弗吉尼亚大学）
本文综述医疗场景下公平联邦学习的生命周期，提出更新的公平性分类，并分析隐私保护、非iid数据、通信开销与客户端异构性带来的实现挑战。
2023-08-15 cs.CR cs.LG
Towards Privacy-Aware Causal Structure Learning in Federated Setting
Hefei University of Technology（合肥工业大学）；Shanxi University（山西大学）
针对联邦学习中的隐私保护需求，提出FedPC算法，通过逐层聚合与一致分离集策略实现无需集中数据的因果结构学习。
2023-09-06 cs.AI cs.CR cs.LG
An Adaptive Differential Privacy Method Based on Federated Learning
Beijing Electronic Science and Technology Institute（北京电子科技学院）；State Information Center（国家信息中心）
针对联邦学习中固定隐私预算致精度下降、现有调整方法不合理的问题，提出基于多因素自适应调整隐私预算的差分隐私方法，可在精度基本不变的情况下降低约16%的隐私预算。
2024-08-13 cs.AI cs.CR cs.DC
Collusion Resistant Federated Learning with Oblivious Distributed Differential Privacy
Bowdoin College（鲍登学院）；Massachusetts Institute of Technology（麻省理工学院）；J.P. Morgan AI Research（摩根大通人工智能研究院）
隐私保护联邦学习使分布式客户端能够共同学习共享模型，同时保持客户端训练数据的私密性，即使来自不受信任的服务器。先前的工作没有提供有效的解决方案，防止共谋攻击，其中各方合作，以暴露一个诚实的客户端的模型参数。我们提出了一个有效的机制，基于不经意的分布式差分隐私，这是第一个防止这种客户端勾结，包括“西比尔”攻击，其中服务器优先选择受损的设备或模拟假设备。我们利用新的隐私机制，构建一个安全的联邦学习协议，并证明该协议的安全性。我们得出结论，在5,000个分布式网络客户端的现实模拟的两个数据集上的协议的执行速度，学习精度和隐私性能的实证分析。
2022-02-20 cs.AI cs.CR cs.MA
Survey of Privacy Threats and Countermeasures in Federated Learning
Secure System Platform Research Laboratories, NEC Corporation（NEC公司安全系统平台研究实验室）
本文综述横向、纵向和迁移联邦学习中的隐私威胁及防护对策，弥补现有研究对不同类型联邦学习共性与特有威胁缺乏系统分类的不足。
2025-08-29 cs.CR cs.LG
Anonymizing Data for Privacy-Preserving Federated Learning
IBM Research Cambridge（IBM剑桥研究院）；IBM Watson Health（IBM沃森健康）；IBM T. J. Watson Research Center（IBM T. J.沃森研究中心）；Massachusetts Institute of Technology（麻省理工学院）
联邦学习能够从分布在多个站点的数据中训练全局机器学习模型，而无需移动数据。这在医疗保健应用中尤其重要，因为数据中充斥着个人的、高度敏感信息，并且数据分析方法必须可证明符合监管准则。尽管联邦学习阻止了原始数据的共享，但仍然有可能对训练过程中暴露的模型参数或生成的机器学习模型发起隐私攻击。在本文中，我们提出了在联邦学习的背景下提供隐私的第一种语法方法。与最先进的基于差分隐私的框架不同，我们的方法旨在最大限度地提高效用或模型性能，同时支持GDPR和HIPAA所要求的可防御的隐私级别。我们使用100万患者的真实电子健康数据对医疗保健领域的两个重要问题进行了全面的实证评估。结果表明，我们的方法在实现高模型性能，同时提供所需的隐私水平的有效性。通过比较研究，我们还表明，对于不同的数据集，实验设置和隐私预算，我们的方法在联邦学习中提供了比基于差分隐私的技术更高的模型性能。
2020-02-21 cs.AI cs.CR cs.LG
Towards Privacy-Preserving Medical Imaging: Federated Learning with Differential Privacy and Secure Aggregation Using a Modified ResNet Architecture
Istanbul University-Cerrahpasa（伊斯坦布尔大学-切尔拉帕萨分校）；Queen’s University（女王大学）
本文提出结合本地差分隐私、安全多方计算安全聚合与 DPResNet 的联邦医学影像分类框架，并在 BloodMNIST 跨医院场景中验证其可在严格保密下取得接近非隐私模型的性能。
2024-12-01 cs.CR cs.LG
A Unified Learn-to-Distort-Data Framework for Privacy-Utility Trade-off in Trustworthy Federated Learning
Huazhong University of Science and Technology（华中科技大学）
该研究提出统一的Learn-to-Distort-Data框架，通过将隐私保护机制的失真建模为可学习变量并与模型参数联合优化，实现联邦学习的隐私-效用均衡，可结合多领域技术设计相关算法。
2024-07-09 cs.AI cs.CR cs.LG
Leveraging Generative AI Models for Synthetic Data Generation in Healthcare: Balancing Research and Privacy
San Jose State University（圣何塞州立大学）；University of Florida（佛罗里达大学）
本文探讨利用GAN和VAE等生成式AI模型生成合成患者数据，以平衡医疗研究中数据访问与隐私保护，并分析其应用、优势、挑战及未来方向。
2023-05-09 cs.AI cs.CR cs.LG
Healthcare Data Governance, Privacy, and Security -- A Conceptual Framework
针对医疗数据管理不当引发的隐私与安全风险，本文全面评估医疗数据链，提出一个由隐私和安全驱动的医疗数据治理概念框架。
2024-03-26 cs.CR
Integration of Federated Learning and Blockchain in Healthcare: A Tutorial
Montreal Blockchain Lab, University of Montreal（蒙特利尔区块链实验室，蒙特利尔大学）；School of Electrical Engineering and Computer Science, University of Ottawa（渥太华大学电气与计算机工程学院）
本文探讨联邦学习与区块链在医疗领域的整合，通过三种架构平衡去中心化、可扩展性和可靠性，提升数据安全性和协作效率。
2024-04-15 cs.CR
Private Data Leakage in Federated Human Activity Recognition for Wearable Healthcare Devices
本文针对可穿戴设备联邦人类活动识别的隐私隐患，提出含恶意参数服务器的联邦架构，研究基于模型泛化差异的成员推理攻击，在5个公开HAR数据集上攻击准确率达92%，证实了相关隐私风险。
2024-06-20 cs.CR
A Secure Healthcare 5.0 System Based on Blockchain Technology Entangled with Federated Learning Technique
National College of Business Administration and Economics（国家工商经济学院）；Riphah International University（里法哈国际大学）；Skyline University College（天际线大学学院）；Universiti Kebangsaan Malaysia（马来西亚国民大学）；Gachon University（加川大学）；Slovak University of Technology in Bratislava（布拉迪斯拉发斯洛伐克理工大学）；Obuda University（欧布达大学）；TU-Dresden（德累斯顿工业大学）
近年来，全球医疗物联网（IoMT）行业以惊人的速度发展。由于IoMT网络的巨大规模和部署，安全和隐私是IoMT的关键问题。机器学习（ML）和区块链（BC）技术显著增强了医疗5.0的功能和设施，催生了一个名为“智能医疗”的新领域。“通过及早发现问题，智能医疗保健系统可以帮助避免长期损害。这将提高患者的生活质量，同时减少他们的压力和医疗费用。IoMT在信息技术领域实现了一系列功能，其中之一是智能和交互式医疗保健。然而，将医疗数据组合到单个存储位置以训练强大的机器学习模型引起了对隐私、所有权和更大集中的合规性的担忧。联邦学习（FL）通过使用集中式聚合服务器来传播全局学习模型来克服上述困难。同时，本地参与者控制患者信息，确保数据的机密性和安全性。本文对区块链技术与医疗保健领域的联邦学习纠缠在一起的研究结果进行了全面分析。5.0.本研究的目的是通过利用区块链技术和入侵检测系统（IDS）来构建医疗保健5.0中的安全健康监测系统，以检测医疗保健网络中的任何恶意活动，并使医生能够通过医疗传感器监测患者，并通过预测疾病定期采取必要的措施。
2022-09-16 cs.CR cs.LG
Mitigating Data Reconstruction Attacks in Federated Learning: Conditions, Bounds, and Theoretical Guarantees
Huazhong University of Science and Technology（华中科技大学）
本文从线性代数与优化理论两个角度对联邦学习中的隐私泄露进行理论分析，证明了Jacobian矩阵不满秩时存在产生相同更新的不同批次以确保隐私，推导了防数据重构攻击的批大小充分条件并建立了隐私泄露上界，为设计隐私保护算法提供了理论基础。
2026-10-20 cs.AI cs.CR cs.LG
WebFed: Cross-platform Federated Learning Framework Based on Web Browser with Local Differential Privacy
The University of Aizu（会津大学）；Sun Yat-sen University（中山大学）
对于数据孤岛和隐私问题，联邦学习引起了广泛的兴趣，因为它允许客户使用本地数据协作训练全球模型，而无需与第三方共享任何数据。然而，现有的联邦学习框架总是需要复杂的条件配置（例如，独立图形卡（如NVIDIA、编译环境）驱动程序配置复杂，给大规模开发和部署带来诸多不便。为了促进联邦学习的部署和相关应用的实现，我们创新性地提出了WebFed，一种新颖的基于浏览器的联邦学习框架，它利用浏览器的特性（例如，跨平台、JavaScript编程特性），并通过本地差分隐私机制增强隐私保护。最后，我们在异构设备上进行实验，以评估所提出的WebFed框架的性能。
2021-10-22 cs.AI cs.CR cs.DC
Towards Explainable Privacy Preservation in Federated Learning via Shapley Value-Guided Noise Injection
School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机学院）
本文提出FedSVA，一种基于Shapley值动态校准噪声注入的可解释差分隐私机制，通过量化属性对模型训练的影响，提供严格隐私保障并最小化效用损失。
2026-04-01 cs.CR
Privacy-Preserving Prompt Injection Detection for LLMs Using Federated Learning and Embedding-Based NLP Classification
Wayamba University of Sri Lanka（斯里兰卡瓦亚姆巴大学）
针对LLM提示注入攻击检测需集中数据导致隐私风险的问题，提出基于联邦学习和嵌入分类的隐私保护检测框架，通过联邦逻辑回归模型实现与集中式相当的检测性能且无需暴露原始数据。
2025-11-15 cs.CR
Digital Healthcare in The Metaverse: Insights into Privacy and Security
本文研究元宇宙数字医疗中的隐私与安全问题，涵盖AI/ML安全、社交隐私及PHYSec、SMC、DP、AML等机制，并提出分布式差分隐私方案，在BCWD上验证隐私与效用权衡。
2023-08-10 cs.CR
A Survey on Security and Privacy Issues in Modern Healthcare Systems: Attacks and Defenses
计算系统和无线通信的最新进展使医疗保健系统比以前更有效。现代医疗设备可以自动监测和管理患者的不同健康状况，而无需医疗专业人员的任何手动干预。此外，医疗系统中植入式医疗设备（IMD）、体域网（BAN）和物联网（IoT）技术的使用改善了整体患者监测和治疗过程。然而，这些系统在软件和硬件方面都很复杂，并且在安全、隐私和治疗之间进行优化对于医疗保健系统至关重要，因为任何安全或隐私侵犯都可能对患者的治疗和整体健康状况产生严重影响。事实上，由于医疗设备和应用程序中存在许多设计缺陷以及缺乏适当的安全措施，医疗保健领域正面临越来越多的安全挑战和威胁。在本文中，我们探讨了医疗保健系统的各种安全和隐私威胁，并讨论了这些威胁的后果。我们对不同的潜在攻击进行了详细的调查，并讨论了它们的影响。此外，我们审查了现有的安全措施，提出了医疗保健系统，并讨论其局限性。最后，我们总结了未来的研究方向，以确保医疗保健系统对常见的漏洞。
2020-05-15 cs.CR
Towards Practical Privacy-Preserving Analytics for IoT and Cloud Based Healthcare Systems
现代医疗保健系统现在依赖于先进的计算方法和技术，例如物联网（IoT）设备和云，以前所未有的规模和深度收集和分析个人健康数据。患者、医生、医疗服务提供者和研究人员依赖于从这些数据源导出的分析模型来远程监控患者、早期诊断疾病并找到个性化的治疗和药物。然而，如果没有适当的隐私保护，进行数据分析就会成为隐私噩梦的根源。在这篇文章中，我们提出了在医疗保健信息系统中开发实用的隐私保护分析的研究挑战。该研究基于kHealth --一种正在开发和测试用于疾病监测的个性化数字医疗信息系统。我们分析了相关各方的数据和分析要求，确定了隐私资产，分析了现有的隐私基板，并讨论了隐私，效率和模型质量之间的潜在权衡。
2018-04-11 cs.CR cs.CY
RSPP: A Reliable, Searchable and Privacy-Preserving e-Healthcare System for Cloud-Assisted Body Area Networks
云计算和物联网（IoT）的集成通过在患者参与、生产力和风险缓解方面提供全面改进，正在迅速成为医疗保健行业数字化转型的关键推动因素。这种模式的转变虽然为医疗保健组织带来了许多好处和新的机会，但也引发了许多安全和隐私问题。在本文中，我们提出了一个可靠的，可搜索的和隐私保护的电子医疗系统，它利用新兴的云存储和物联网基础设施，使医疗服务提供商（HSP）实现远程病人监护在一个安全的和符合法规的方式。我们的系统是建立在一个新的动态搜索对称加密方案与前向隐私和委托验证定期生成的医疗保健数据。虽然前向隐私是通过在物联网网关处为每个关键字维护递增的计数器来实现的，但数据所有者委托的可验证性来自布隆过滤器和聚合消息认证代码的组合。此外，我们的系统能够通过数据所有者协助或授权来支持多个HSP。详细的安全性分析以及大量的模拟上的一个大型数据集，数百万条记录证明了实际的效率，所提出的系统，为现实世界的医疗保健应用。
2017-02-11 cs.CR
On the Security & Privacy in Federated Learning
最近的隐私意识举措，如欧盟通用数据保护条例，使机器学习（ML）屈服于隐私和安全评估。联邦学习（FL）提供了一个隐私驱动的分散训练方案，可以提高ML模型的安全性。业界对FL技术的快速适应和安全评估暴露了各种威胁FL机密性、完整性或可用性的漏洞。这项工作通过审查最先进的（SoTA）并创建一个包含攻击的表面，敌对行为者，能力和目标的威胁模型来评估FL的CIA。我们提出了第一个统一的攻击和防御分类，并提供了有前途的未来研究方向。
2022-03-16 cs.CR
Privacy-Preserving Patient Identity Management Framework for Secure Healthcare Access
Institut national de la recherche scientifique（国家科学研究院）
本文提出一种隐私保护的患者身份管理框架，旨在满足医疗保健的操作和监管需求，通过根信任锚、匿名假名和条件可追溯机制，在确保操作可靠性的同时提供强隐私保护。
2026-03-07 cs.CR
PPT: A Privacy-Preserving Global Model Training Protocol for Federated Learning in P2P Networks
联邦学习（FL）的概念已经作为机器学习、信息和通信技术的融合而出现。它对机器学习的发展至关重要，预计机器学习将完全分散，隐私保护，安全和健壮。然而，一般的联邦学习设置与一个中央服务器不能满足分散的环境中的要求。在本文中，我们提出了一个分散的，安全的和隐私保护的全局模型训练协议，命名为PPT，联邦学习在对等（P2P）网络。PPT采用单跳通信方式聚合局部模型更新参数，并采用对称密码体制保证安全性。值得一提的是，PPT修改了Eschenauer-Gligor（E-G）方案来分发加密密钥。在隐私保护方面，PPT产生随机噪声干扰局部模型更新参数。最终消除了噪声，与FL中其他基于噪声的隐私保护方法（例如，差分隐私。PPT还采用了博弈论来抵抗合谋攻击。通过广泛的分析，我们证明了PPT的各种安全威胁和保护用户隐私.巧妙的实验证明了实用性和效率。
2021-08-09 cs.CR
Differentially Private Federated Learning: A Systematic Review
Stevens Institute of Technology（史蒂文斯理工学院）；University of Connecticut（康涅狄格大学）；Tongji University（同济大学）；Northeastern University（东北大学）；The Hong Kong Polytechnic University（香港理工大学）；East China Normal University（华东师范大学）；Institute of Science Tokyo（东京科学研究所）
该研究针对现有差分隐私联邦学习系统综述的不足，提出基于隐私模型定义、保障特性与联邦场景的新分类体系，梳理相关应用，为隐私保护联邦学习提供研究参考与未来方向。
2025-10-02 cs.CR cs.LG
FedXGBoost: Privacy-Preserving XGBoost for Federated Learning
Technical University of Munich（慕尼黑工业大学）；Bytedance Inc.（字节跳动公司）；Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种分布式机器学习框架，它支持多方协作训练，同时确保数据隐私。XGBoost是最先进的树提升框架，由于传统隐私保护方法的高成本，XGBoost对联邦学习的实际适应仍然有限。为了解决这个问题，我们提出了两种具有隐私保证的联邦XGBoost变体：FedXGBoost-SMM和FedXGBoost-LDP。我们的第一个协议FedXGBoost-SMM部署了增强的安全矩阵乘法方法，以无损的准确性和较低的开销比基于防御的技术来保护隐私。第二个协议FedXGBoost-LDP是独立开发的，它是用噪声扰动为本地差分隐私设计的，并在真实世界和合成数据集上进行了经验评估。
2021-08-12 cs.CR cs.LG
Vision Through the Veil: Differential Privacy in Federated Learning for Medical Image Classification
Indian Institute of Technology Roorkee（印度理工学院鲁尔基分校）
本研究提出一种新颖的差分隐私联邦学习模型用于医学图像分类，证明通过策略性校准隐私预算，可在维持稳健分类性能的同时提供实质性隐私保护。
2023-06-30 cs.CR cs.LG
PrivFL: Practical Privacy-preserving Federated Regressions on High-dimensional Data over Mobile Networks
联邦学习（FL）使大量用户能够共同学习由集中式服务器协调的共享机器学习（ML）模型，其中数据分布在多个设备上。这种方法使服务器或用户能够使用梯度下降来训练和学习ML模型，同时将所有训练数据保持在用户的设备上。我们考虑在移动网络上训练ML模型，其中用户辍学是一种常见现象。虽然联邦学习旨在降低数据隐私风险，但ML模型隐私并没有受到太多关注。在这项工作中，我们提出了PrivFL，这是一个隐私保护系统，用于训练（预测）线性和逻辑回归模型以及联邦设置中的不经意预测，同时保证数据和模型隐私，并确保用户退出网络的鲁棒性。基于加性同态加密（HE）方案和聚合协议，设计了两种隐私保护协议用于训练线性和逻辑回归模型。利用联邦学习的训练算法，在我们的训练协议的核心是一个安全的多方全局梯度计算活用户的数据。我们分析了我们的训练协议对半诚实的对手的安全性。只要聚合协议在聚合隐私博弈下是安全的，并且加性HE方案是语义安全的，PrivFL保证了用户对服务器的数据隐私，以及服务器对用户的回归模型隐私。我们展示了PrivFL在真实数据集上的性能，并展示了它在联邦学习系统中的适用性。
2020-04-05 cs.CR
Privacy-preserving Federated Learning based on Multi-key Homomorphic Encryption
本文提出基于多密钥同态加密协议xMK-CKKS的隐私保护联邦学习方案，通过聚合公钥加密模型更新并需多方协作解密，在抵御合谋的同时保持模型精度并降低计算成本，适用于物联网场景。
2021-04-14 cs.CR
A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University（罗格斯大学）；Duke University（杜克大学）；University of California, Irvine（加州大学欧文分校）
本文提出融合联邦学习与差分隐私的广告个性化框架，通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术，在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
Federated Learning for Privacy Preservation in Smart Healthcare Systems: A Comprehensive Survey
University of Quebec（魁北克大学）；ETS（高等技术学院）；Princeton University（普林斯顿大学）
电子设备和通信基础设施的最新进展已经通过使用IoMT设备将传统医疗保健系统彻底改变为智能医疗保健系统。然而，由于人工智能（AI）的集中式训练方法，移动和可穿戴IoMT设备的使用引起了关于医院和最终用户之间已经通信的信息的隐私问题。IoMT设备传递的信息是高度机密的，可能会暴露给对手。在这方面，联邦学习（FL），一种分布式AI范式，为IoMT中的隐私保护开辟了新的机会，而无需访问参与者的机密数据。此外，FL为最终用户提供隐私，因为在训练期间仅共享梯度。针对FL的这些特定属性，本文提出了IoMT中的隐私相关问题。之后，我们介绍了FL在IoMT网络中用于隐私保护的作用，并介绍了一些先进的FL架构，包括深度强化学习（DRL），数字孪生和生成对抗网络（GANs）用于检测隐私威胁。随后，我们提出了FL在智能医疗系统中的一些实际机会。最后，我们通过为FL提供可用于未来智能医疗保健系统的开放研究挑战来结束本次调查
2022-03-18 cs.CR cs.LG cs.SY
Federated Learning for Privacy-Preserving Open Innovation Future on Digital Health
Australian Department of Health（澳大利亚卫生部）；University of Technology Sydney（悉尼科技大学）
隐私保护是人工智能领域一个备受关注的伦理问题。联邦学习是一种新的机器学习范式，用于在用户或组织之间学习共享模型，而无需直接存取数据。它有很大的潜力成为下一个通用的AI模型训练框架，提供隐私保护，因此对数字健康和医疗保健信息学的未来具有广泛的影响。在医疗保健行业实施开放式创新框架，即开放式医疗，旨在通过与合作伙伴组织和研究界建立下一代合作框架，提高医疗保健相关组织的创新和创造能力。特别是，这个改变游戏规则的协作框架提供了来自不同数据的知识共享，同时保护了隐私。本章将讨论联邦学习如何在人工智能的支持下实现开放的健康生态系统的发展。将讨论联邦学习的现有挑战和解决方案。
2021-08-24 cs.AI cs.CR cs.DC
Privacy and Fairness in Federated Learning: on the Perspective of Trade-off
University of Technology Sydney（悉尼科技大学）；City University of Macau（澳门城市大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文综述了联邦学习中隐私与公平的相互作用，分析了FL环境下的独特挑战与解决方案，并揭示了二者相互竞争的权衡关系，为公平与隐私联邦学习指明了新研究方向。
2023-06-25 cs.AI cs.CR cs.CY
Bridging Local and Federated Data Normalization in Federated Learning: A Privacy-Preserving Approach
Bilkent University（比尔肯特大学）
本文针对联邦学习中现有归一化方法的缺陷，定义联邦归一化并基于多方全同态加密提出隐私保护实现方案，可在不泄露隐私的前提下达到池化归一化的性能。
2025-11-14 cs.CR
FedFDP: Fairness-Aware Federated Learning with Differential Privacy
East China Normal University（华东师范大学）；Stevens Institute of Technology（史蒂文斯理工学院）；Nanyang Technological University（南洋理工大学）
FedFDP通过引入差分隐私和公平感知梯度裁剪技术，提升联邦学习在公平性和隐私保护方面的性能
2026-01-07 cs.CR
