Trustworthy Privacy-preserving Hierarchical Ensemble and Federated Learning in Healthcare 4.0 with Blockchain
本文提出一种基于安全多方计算与区块链的集成联邦学习方法,解决医疗4.0中因隐私限制和机构异构性导致的AI应用滞后问题,实现异构模型协作学习并保障数据完整性与可审计性。
2023-05-16 cs.AI cs.CR
Secure Aggregation Is Not All You Need: Mitigating Privacy Attacks with Noise Tolerance in Federated Learning
National Taiwan University(台湾大学)
联邦学习是一种协作方法,旨在创建AI模型的同时保护数据隐私。当前的联邦学习方法往往严重依赖于安全聚合协议来保护数据隐私。然而,在某种程度上,这样的协议假设编排联邦学习过程的实体(即,服务器)并非完全恶意或不诚实。我们调查安全聚合的漏洞,如果服务器是完全恶意的,并试图获得访问私人,潜在的敏感数据可能会出现。此外,我们还提供了一种方法来进一步防御这种恶意服务器,并证明了在联邦学习设置中重建数据的已知攻击的有效性。
2022-11-10 cs.AI cs.CR
A multiagent based framework secured with layered SVM-based IDS for remote healthcare systems
University of Tabriz(大不里士大学)
由于在医院和医疗中心的老年人和患者数量不断增加,提供高效的远程医疗服务显得非常重要。目前,大多数这样的系统受益于多智能体系统的分布和自治特性和无线传感器网络的结构。一方面,保护远程医疗系统的数据是最重要的问题之一;特别是最近关于远程医疗系统安全性的研究,使其免受窃听和数据修改。另一方面,现有的远程医疗系统仍然容易受到医疗网络的其他常见攻击,例如拒绝服务(DoS)和用户到根(U2 R)攻击,因为它们是远程管理的并且基于互联网。因此,在本文中,我们提出了一个安全的框架,包括两个阶段的远程医疗系统。首先,我们设计了一个基于多智能体技术的医疗保健系统,从传感器网络中收集数据。然后,在第二阶段,一个分层的入侵检测系统的架构,使用支持向量机学习的网络流量的行为。基于我们的框架,我们实现了一个安全的远程医疗系统,并评估该系统对医疗网络的频繁攻击,如蓝精灵,缓冲区溢出,海王星,和Pod攻击。最后,通过对入侵检测系统分层结构的评价参数,验证了该框架的有效性和正确性。
2021-04-13 cs.AI cs.CR
FedSecureFormer: A Fast, Federated and Secure Transformer Framework for Lightweight Intrusion Detection in Connected and Autonomous Vehicles
Department of Computer Science and Information Systems, BITS Pilani, Pilani Campus(计算机科学与信息系统系,比斯汉学院);Department of Systems and Computer Engineering, Carleton University(系统与计算机工程系,卡尔顿大学)
FedSecureFormer是一种基于联邦学习的轻量级入侵检测框架,采用快速且安全的Transformer结构,适用于连接和自动驾驶车辆场景。
2025-12-30 cs.AI cs.CR
Security and Privacy Issues and Solutions in Federated Learning for Digital Healthcare
Sungkyunkwan University(成均馆大学)
本文针对数字医疗中联邦学习因服务器与客户端多轮通信而扩大的攻击面,系统梳理其脆弱性、攻击方式与防御方案,并指出未来构建更鲁棒联邦学习的研究方向。
2024-01-16 cs.AI cs.CR
Enhancing Guardrails for Safe and Secure Healthcare AI
Ethriva Inc.(Ethriva公司)
本文针对医疗AI中幻觉和错误信息等安全挑战,提出增强Nvidia NeMo Guardrails等现有护栏框架,以确保AI在医疗领域的安全、可靠和准确使用,从而提高患者安全性。
2024-09-25 cs.AI cs.CR
MedHE: Communication-Efficient Privacy-Preserving Federated Learning with Adaptive Gradient Sparsification for Healthcare
Independent Researcher, USA(独立研究者)
针对医疗联邦学习的隐私与通信效率需求,提出MedHE框架,结合自适应梯度稀疏化(含动态阈值与误差补偿)与CKKS加密,实现97.5%通信量减少、ε≤1.0的差分隐私及与标准联邦学习相当的准确率,支持合规且可扩展的医疗部署。
2025-11-12 cs.AI cs.CR
Buffered Asynchronous Secure Aggregation for Cross-Device Federated Learning
National Key Laboratory for Novel Software Technology(计算机软件新技术国家重点实验室);Nanjing University(南京大学)
本文提出缓冲异步安全聚合协议BASA,使异步联邦学习在无需用户间同步交互和额外硬件条件下实现安全聚合,并在训练效率和可扩展性上优于现有协议。
2024-06-05 cs.AI cs.CR cs.LG
FedSOV: Federated Model Secure Ownership Verification with Unforgeable Signature
Sun Yat-sen University(中山大学);University of Electronic Science and Technology of China(电子科技大学);WeBank(微众银行);The Hong Kong University of Science and Technology(香港科技大学)
针对联邦学习所有权验证中客户端规模受限和易受歧义攻击的问题,提出基于不可伪造数字签名的FedSOV方案,支持大量客户端嵌入凭证并验证所有权,实验证明其有效性及密码学安全性。
2023-05-10 cs.AI cs.CR
Blockchain Integrated Federated Learning in Edge-Fog-Cloud Systems for IoT based Healthcare Applications A Survey
本文综述了区块链与联邦学习在边缘-雾-云物联网系统中的集成架构、功能及其在医疗保健应用中的实现,以应对数据孤岛和隐私限制问题。
2024-06-08 cs.CR
Towards Fair and Privacy Preserving Federated Learning for the Healthcare Domain
本文针对医疗领域的数据异构性问题,提出了一种在异构条件下评估公平性感知联邦学习(FAFL)机制的基准方法,发现不同FAFL方案对数据异构性的响应差异显著,且隐私保护条件会显著增加网络通信成本和延迟。
2023-08-03 cs.CR
Advances in Privacy Preserving Federated Learning to Realize a Truly Learning Healthcare System
本文提出将隐私保护联邦学习(PPFL)整合进医疗生态系统,以解决数据共享与隐私保护难题,实现医学研究所定义的真正学习型医疗系统。
2024-09-29 cs.CR cs.DC
Secure Multi-Party Computation based Privacy Preserving Data Analysis in Healthcare IoT Systems
Istanbul Medipol University(伊斯坦布尔梅迪波尔大学);Simula Research Laboratory(西穆拉研究实验室)
最近,通过快速发展的物联网(IoT)技术,医疗保健领域经历了许多创新,为卫生部门提供了重大发展和设施,并改善了人类的日常生活。物联网连接了人与信息技术并加快了购物速度。由于这些原因,物联网技术已经开始大规模使用。由于物联网技术在健康服务中的应用,慢性病监测、健康监测、快速干预、早期诊断和治疗等促进了健康服务的提供。然而,传输到数字环境中的数据构成了隐私泄露的威胁。未经授权的人使用了它们,并对个人的健康和隐私进行了恶意攻击。在这项研究中,它的目的是提出一个模型来处理隐私问题的基础上联邦学习。此外,我们采用安全多方计算。我们提出的模型提供了广泛的隐私和数据分析,并实现了高性能。
2021-09-29 cs.AI cs.CR
Robust Aggregation for Adaptive Privacy Preserving Federated Learning in Healthcare
联邦学习(FL)使来自多个数据拥有方的协作训练模型成为可能,而无需共享数据。考虑到患者医疗数据的隐私法规,医疗保健中基于学习的系统可以从隐私保护FL方法中受益匪浅。然而,典型的模型聚合方法在FL是敏感的局部模型更新,这可能会导致在学习一个强大的和准确的全局模型失败。在这项工作中,我们实现和评估不同的强大的聚合方法在FL应用于医疗数据。此外,我们表明,这种方法可以检测和丢弃错误或恶意的本地客户端在训练过程中。我们使用两个真实世界的医疗数据集进行两组实验,用于训练医疗诊断分类任务。每个数据集被用来模拟三种不同的鲁棒FL聚合策略面对不同的中毒攻击时的性能。结果表明,隐私保护方法可以成功地应用在一起拜占庭鲁棒聚合技术。我们特别观察到使用差分隐私(DP)不会显著影响不同聚合策略的最终学习收敛。
2020-09-17 cs.CR
Pocket Diagnosis: Secure Federated Learning against Poisoning Attack in the Cloud
联邦学习由于其在多个卫生机构(即数据岛(DI))之间训练联合模型的有效性而在医学诊断中变得普遍。然而,越来越多的大规模DI级别中毒攻击揭示了联邦学习中的漏洞,这些攻击将有毒数据注入某些DI,以破坏联邦模型的可用性。以前关于联邦学习的工作不足以确保DI的隐私和最终联邦模型的可用性。在本文中,我们设计了一个安全的联邦学习机制,多个密钥,以防止DI级中毒攻击的医疗诊断,称为SFPA。具体地说,SFPA通过多密钥安全计算提供了隐私保护的基于随机森林的联邦学习,保证了DI相关信息的机密性。同时,针对DI级中毒攻击,提出了一种加密本地提交模型的安全防御策略。最后,我们的形式化安全分析和公共云平台上的实证测试表明,SFPA的安全性和效率,以及它的抵抗DI级中毒攻击的能力。
2020-09-23 cs.CR
Federated Learning in Healthcare: Model Misconducts, Security, Challenges, Applications, and Future Research Directions -- A Systematic Review
Islamic University(伊斯兰大学);University of Oklahoma(俄克拉荷马大学);Government College of Applied Human Science(应用人文科学政府学院);IIIT Delhi(德里印度信息技术学院)
本系统综述评估了联邦学习在医疗保健中的应用,分析了模型安全实践、挑战及应用,并指出了提升数据隐私和扩展应用范围的未来研究方向。
2024-05-22 cs.AI cs.CR cs.LG
Secure Bayesian Federated Analytics for Privacy-Preserving Trend Detection
Xayn AG(Xayn公司);Imperial College London(帝国理工学院)
联合分析在边缘计算中有许多应用,它的使用可以为服务提供、产品开发和用户体验带来更好的决策。我们提出了一种贝叶斯方法的趋势检测,其中一个关键字是时髦的概率,给定一个数据集,通过贝叶斯定理计算;数据集的概率,给定一个关键字是时髦的,通过安全的聚合这样的条件概率在本地数据集的用户计算。我们提出了一个名为SAFE的贝叶斯联邦分析协议,为生产级用例提供足够的隐私,并减少用户和聚合器的计算负担。我们用一个趋势检测实验来说明这种方法,并讨论如何进一步扩展这种方法,使其为生产做好准备。
2021-07-28 cs.AI cs.CR cs.LG
A blockchain-orchestrated Federated Learning architecture for healthcare consortia
ConsenSys Health;Imperial College London(帝国理工学院);UC San Diego(加州大学圣地亚哥分校);Johns Hopkins Berman Institute of Bioethics(约翰斯·霍普金斯大学伯曼生物伦理研究所)
我们提出了一种新的架构,联邦学习在医疗联盟。该解决方案的核心是隐私保护技术的独特集成,建立在以太坊生态系统中可用的本地企业区块链组件之上。我们展示了医疗联盟的具体特征和挑战如何影响我们的设计选择,特别是一个新的安全聚合协议的概念,该协议由受保护的硬件组件和以太坊本地的加密工具包组成。我们的架构还引入了隐私保护审计跟踪,记录网络中的事件,而不会泄露身份。
2019-10-12 cs.CR cs.CY cs.LG
Multi-Continental Healthcare Modelling Using Blockchain-Enabled Federated Learning
School of Computing, Newcastle University(新castle大学计算机学院);Department of Computing, Imperial College London(伦敦帝国理工学院计算机系);Institute of Health Informatics, University College London(伦敦大学学院健康信息学研究所);Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(上海智能自主系统研究所,同济大学);College of Electronics and Information Engineering, Tongji University(同济大学电子与信息工程学院);University College London Hospital(伦敦大学学院医院)
本文提出一种基于区块链联邦学习的多洲医疗建模框架,在不共享本地数据的情况下利用欧洲、北美和亚洲数据集进行血糖管理预测,实验证明其有效、高效且保护隐私,性能优于局部模型并接近集中式训练。
2025-10-09 cs.AI cs.CR cs.LG
Privacy Threats Analysis to Secure Federated Learning
Shanghai Jiao Tong University(上海交通大学);Ant Group(蚂蚁集团)
联邦学习是一种机器学习技术,它可以在多个分散的参与方之间训练模型。它以保护隐私而闻名,因为数据永远不会离开计算设备,最近的方法通过隐藏加密传输的消息来进一步增强其隐私性。然而,我们发现,尽管做出了努力,联邦学习仍然存在隐私威胁,因为它具有跨各方的交互性。本文分析了工业级安全计算联邦学习框架中的隐私威胁,揭示了此类威胁广泛存在于线性回归、逻辑回归和决策树等典型机器学习模型中。对于线性和逻辑回归,我们通过理论分析表明,攻击者可以在很少的信息下反转受害者的整个私人输入。对于决策树模型,我们发动攻击来推断受害者的私有输入的范围。所有攻击都在流行的联邦学习框架和真实世界的数据集上进行评估。
2021-06-24 cs.AI cs.CR cs.LG
Blockchain-based Federated Learning with SMPC Model Verification Against Poisoning Attack for Healthcare Systems
针对联邦学习易受恶意更新与投毒攻击且难以兼顾隐私保护的问题,本文提出结合区块链、SMPC 加密推理验证和安全聚合的医疗系统框架,并在多个医学数据集上评估。
2023-04-26 cs.CR
B^2SFL: A Bi-level Blockchained Architecture for Secure Federated Learning-based Traffic Prediction
Research & Development Institute of Northwestern Polytechnical University in Shenzhen(西北工业大学深圳研究院);Xi’an Jiaotong-Liverpool University(西交利物浦大学);University of Delaware(特拉华大学)
本文提出了一种双层区块链架构B^2SFL,结合分布式同态加密联邦平均(DHFA)方案,解决了联邦学习交通预测中由恶意参与者和中心化服务器带来的安全与隐私问题,实验证明其能有效实现安全去中心化的实际交通预测。
2023-10-23 cs.AI cs.CR cs.DC
Eluding Secure Aggregation in Federated Learning via Model Inconsistency
EPFL(洛桑联邦理工学院);Aarhus University(奥胡斯大学);George Mason University(乔治梅森大学)
安全聚合是一种加密协议,它安全地计算其输入的聚合。在联邦学习中,它是保持模型更新私密性的关键。事实上,使用安全聚合可以防止服务器了解用户提供的单个模型更新的值和来源,从而阻碍推理和数据归因攻击。在这项工作中,我们表明,恶意服务器可以很容易地逃避安全聚合,如果后者没有到位。我们设计了两种不同的攻击,能够推断个人私人训练数据集上的信息,独立于参与安全聚合的用户数量。这使得它们在大规模、真实世界的联邦学习应用中成为具体的威胁。无论使用何种安全聚合协议,攻击都是通用的,同样有效。他们利用了联邦学习协议的一个漏洞,该漏洞是由安全聚合的不正确使用和缺乏参数验证引起的。我们的工作表明,目前实现的联邦学习与安全聚合只提供了一个“虚假的安全感”。
2022-09-06 cs.CR cs.LG
SAFELearning: Enable Backdoor Detectability In Federated Learning With Secure Aggregation
Stevens Institute of Technology(史蒂文斯理工学院)
本文提出SAFELearning框架,通过遗忘随机分组和部分参数披露两个新原语,在联邦学习的安全聚合中实现后门检测,显著降低后门模型准确率且不损害主任务,同时具备高效性和鲁棒性。
2021-09-03 cs.AI cs.CR cs.DC
Efficient Vertical Federated Learning with Secure Aggregation
University of Cambridge(剑桥大学)
针对纵向联邦学习中的梯度交换隐私泄露风险,提出一种利用最先进安全聚合模块实现安全高效训练的新方法,在不影响训练性能的同时比同态加密加速9.1e2至3.8e4倍。
2023-05-18 cs.AI cs.CR cs.LG
BACSA: A Bias-Aware Client Selection Algorithm for Privacy-Preserving Federated Learning in Wireless Healthcare Networks
针对无线医疗网络中联邦学习因非IID数据偏见导致性能下降的问题,提出偏见感知客户端选择算法BACSA,通过检测偏见并优化客户端选择,提升收敛性和准确性,兼顾隐私、公平与网络约束。
2024-11-01 cs.AI cs.CR cs.LG
Fairness and Privacy in Federated Learning and Their Implications in Healthcare
University of Virginia(弗吉尼亚大学)
本文综述医疗场景下公平联邦学习的生命周期,提出更新的公平性分类,并分析隐私保护、非iid数据、通信开销与客户端异构性带来的实现挑战。
2023-08-15 cs.CR cs.LG
Secure Stateful Aggregation: A Practical Protocol with Applications in Differentially-Private Federated Learning
针对不可信单服务器下难以实现DP-FTRL的问题,提出安全有状态聚合协议,在保障隐私的同时提升了差分隐私联邦学习的效用,且开销极小。
2024-10-15 cs.CR
CHEM: Efficient Secure Aggregation with Cached Homomorphic Encryption in Federated Machine Learning Systems
虽然同态加密可以被合并到神经网络层中以保护机器学习任务,例如在联邦学习中对加密数据样本和加密本地模型的机密推断,但计算开销一直是致命弱点。本文提出了一种缓存协议,即CHEM,张量密文可以从一个池的缓存的基数,而不是执行昂贵的加密操作构建。从理论的角度来看,我们证明了CHEM是语义安全的,并可以在实际的假设下进行简单的分析参数化。在三种常用的公共数据集上的实验结果表明,采用CHEM算法仅产生亚秒级的加密开销,但在机密推理中对输入数据样本进行编码时,加密代价降低了48%~ 89%,在联邦学习中对局部模型进行编码时,加密代价降低了67%~ 87%.
2022-12-22 cs.CR
Towards Privacy-Preserving Medical Imaging: Federated Learning with Differential Privacy and Secure Aggregation Using a Modified ResNet Architecture
Istanbul University-Cerrahpasa(伊斯坦布尔大学-切尔拉帕萨分校);Queen’s University(女王大学)
本文提出结合本地差分隐私、安全多方计算安全聚合与 DPResNet 的联邦医学影像分类框架,并在 BloodMNIST 跨医院场景中验证其可在严格保密下取得接近非隐私模型的性能。
2024-12-01 cs.CR cs.LG
Secure Communication Model For Quantum Federated Learning: A Post Quantum Cryptography (PQC) Framework
School of Information Technology(信息技术学院);Deakin University(迪肯大学)
针对量子联邦学习的安全通信问题,提出融合后量子密码学与动态服务器选择的PQC-QFL框架,并分析其收敛性与安全条件,代码及结果已公开。
2023-04-26 cs.CR cs.LG
Secure Federated XGBoost with CUDA-accelerated Homomorphic Encryption via NVIDIA FLARE
本文提出Secure Federated XGBoost,通过同态加密保护中间梯度统计信息,并利用NVIDIA FLARE插件接口集成CPU与CUDA加速HE插件,在垂直联邦场景实现高达30倍加速,兼顾数据隐私与高性能。
2025-04-04 cs.CR cs.DC cs.ET
Softwarization of Internet of Things Infrastructure for Secure and Smart Healthcare
我们提出了一个灵活的软件化基础设施,用于灵活,经济高效,安全和隐私保护的物联网(IoT)部署,用于智能医疗保健应用和服务。它集成了物联网,雾和云领域的最先进的网络和虚拟化技术,采用区块链,Tor和消息代理为患者和医疗保健提供商提供安全和隐私。我们提出了一个新的平台,使用机器对机器(M2M)的消息和基于规则的信标无缝数据管理,并讨论了数据和决策融合的作用,分别在云和雾,智能医疗应用和服务。
2018-05-28 cs.CR cs.CY
Efficient Differentially Private Secure Aggregation for Federated Learning via Hardness of Learning with Errors
University of Vermont(佛蒙特大学);MassMutual(万通互惠);Raytheon(雷神公司)
联邦机器学习利用边缘计算从网络用户数据开发模型,但联邦学习中的隐私仍然是一个重大挑战。已经提出了使用差分隐私的技术来解决这个问题,但也带来了自己的挑战--许多技术需要可信的第三方,否则会增加太多的噪音来产生有用的模型。使用多方计算的\emph{secure aggregation}的最新进展消除了对第三方的需要,但计算成本高,特别是在规模上。我们提出了一个新的联邦学习协议,利用一种新的差分私有,恶意的安全聚合协议的基础上,从错误的学习技术。我们的协议优于当前最先进的技术,经验结果表明,它可以扩展到大量的缔约方,具有最佳的准确性,任何差异私人联邦学习计划。
2021-12-13 cs.CR cs.LG
Integration of Federated Learning and Blockchain in Healthcare: A Tutorial
Montreal Blockchain Lab, University of Montreal(蒙特利尔区块链实验室,蒙特利尔大学);School of Electrical Engineering and Computer Science, University of Ottawa(渥太华大学电气与计算机工程学院)
本文探讨联邦学习与区块链在医疗领域的整合,通过三种架构平衡去中心化、可扩展性和可靠性,提升数据安全性和协作效率。
2024-04-15 cs.CR
Private Data Leakage in Federated Human Activity Recognition for Wearable Healthcare Devices
本文针对可穿戴设备联邦人类活动识别的隐私隐患,提出含恶意参数服务器的联邦架构,研究基于模型泛化差异的成员推理攻击,在5个公开HAR数据集上攻击准确率达92%,证实了相关隐私风险。
2024-06-20 cs.CR
A Secure Healthcare 5.0 System Based on Blockchain Technology Entangled with Federated Learning Technique
National College of Business Administration and Economics(国家工商经济学院);Riphah International University(里法哈国际大学);Skyline University College(天际线大学学院);Universiti Kebangsaan Malaysia(马来西亚国民大学);Gachon University(加川大学);Slovak University of Technology in Bratislava(布拉迪斯拉发斯洛伐克理工大学);Obuda University(欧布达大学);TU-Dresden(德累斯顿工业大学)
近年来,全球医疗物联网(IoMT)行业以惊人的速度发展。由于IoMT网络的巨大规模和部署,安全和隐私是IoMT的关键问题。机器学习(ML)和区块链(BC)技术显著增强了医疗5.0的功能和设施,催生了一个名为“智能医疗”的新领域。“通过及早发现问题,智能医疗保健系统可以帮助避免长期损害。这将提高患者的生活质量,同时减少他们的压力和医疗费用。IoMT在信息技术领域实现了一系列功能,其中之一是智能和交互式医疗保健。然而,将医疗数据组合到单个存储位置以训练强大的机器学习模型引起了对隐私、所有权和更大集中的合规性的担忧。联邦学习(FL)通过使用集中式聚合服务器来传播全局学习模型来克服上述困难。同时,本地参与者控制患者信息,确保数据的机密性和安全性。本文对区块链技术与医疗保健领域的联邦学习纠缠在一起的研究结果进行了全面分析。5.0.本研究的目的是通过利用区块链技术和入侵检测系统(IDS)来构建医疗保健5.0中的安全健康监测系统,以检测医疗保健网络中的任何恶意活动,并使医生能够通过医疗传感器监测患者,并通过预测疾病定期采取必要的措施。
2022-09-16 cs.CR cs.LG
Privacy of federated QR decomposition using additive secure multiparty computation
University of Southern Denmark(南丹麦大学)
联邦学习(FL)是一种隐私感知的数据采掘策略,它将私有数据保存在所有者的机器上,从而对其保密。客户端计算本地模型并将其发送到计算全局模型的聚合器。在混合FL中,使用安全聚合对本地参数进行额外屏蔽,使得仅全局聚合统计数据以明文形式可用,而不是客户端特定更新。联邦QR分解尚未在跨筒仓联邦学习的上下文中得到广泛研究。在这篇文章中,我们调查了三个QR分解算法的适用性跨筒仓FL,并提出了一个隐私感知QR分解方案的基础上,Gram-Schmidt算法,不公然泄漏原始数据。我们应用该算法以联邦方式计算线性回归。
2022-10-12 cs.CR cs.LG
Watermarking in Secure Federated Learning: A Verification Framework Based on Client-Side Backdooring
Peking University(北京大学);Central South University(中南大学);Fuzhou University(福州大学);Jinan University(暨南大学);Loughborough University(拉夫堡大学)
联邦学习(FL)允许多个参与者在不直接共享数据的情况下协作构建深度学习(DL)模型。因此,FL中的版权保护问题变得重要,因为不可靠的参与者可能会访问联合训练的模型。在安全FL框架中应用同态加密(HE)技术,防止中心服务器访问明文模型。因此,使用现有的水印方案在中央服务器处嵌入水印不再可行。在本文中,我们提出了一种新的客户端FL水印方案,以解决版权保护问题的安全FL与HE。据我们所知,这是第一个在安全FL环境下将水印嵌入到模型中的方案。我们设计了一个基于客户端后门的黑盒水印方案,通过梯度增强的嵌入方法将预先设计的触发器集嵌入到FL模型中。此外,我们提出了一个触发器集的建设机制,以确保水印不能伪造。实验结果表明,我们提出的方案提供了出色的保护性能和鲁棒性对各种水印去除攻击和歧义攻击。
2023-03-03 cs.AI cs.CR cs.LG
Efficient Sparse Secure Aggregation for Federated Learning
Owkin Inc.(Owkin公司)
联合学习使人们能够跨持有敏感数据集的分布式客户端联合训练机器学习模型。在现实世界中,这种方法受到昂贵的通信和隐私问题的阻碍。这两个挑战都已经得到了单独解决,从而导致了相互竞争的优化。在这篇文章中,我们第一次同时处理它们。更确切地说,我们适应基于压缩的联邦技术添加剂秘密共享,导致一个有效的安全聚合协议,具有自适应的安全级别。我们证明了它的隐私对恶意的对手和它的正确性,在半诚实的设置。在深度卷积网络上的实验表明,我们的安全协议以低通信成本实现了高准确性。与以前的安全聚合工作相比,我们的协议具有较低的通信和计算成本,类似的准确性。
2021-10-18 cs.CR cs.LG stat.ML
FL-DECO-BC: A Privacy-Preserving, Provably Secure, and Provenance-Preserving Federated Learning Framework with Decentralized Oracles on Blockchain for VANETs
本文提出FL-DECO-BC框架,结合区块链去中心化预言机与联邦学习,为VANETs提供隐私保护、可证明安全和数据来源可追溯的分布式机器学习方案。
2024-07-30 cs.CR
A Study of Secure Algorithms for Vertical Federated Learning: Take Secure Logistic Regression as an Example
National Taiwan University(台湾大学)
针对大数据下企业数据共享与隐私保护的矛盾,本文研究纵向联邦学习框架下的安全模型训练,以加密域执行的方式保障数据隐私,为合规的跨企业联合建模提供思路。
2024-10-30 cs.CR cs.LG
SPOT: Secure and Privacy-preserving prOximiTy protocol for e-healthcare systems
本文介绍了SPOT,一个安全的和隐私保护的prOximity为基础的电子医疗系统的协议。它依赖于一个分布式的基于代理的方法来保护用户的隐私和一个半可信的计算服务器,以确保数据的一致性和完整性。所提出的协议确保了安全性,隐私性和可扩展性之间的平衡。据我们所知,在安全性方面,SPOT是第一个防止恶意用户串通产生误报的。在隐私方面,SPOT既支持与受感染者接近的用户匿名,也支持同一用户发布的联系信息不可链接。提出了一个基于结构保持签名和NIWI证明的具体构造,并对SPOT进行了详细的安全性和隐私性分析,证明了SPOT在标准假设下是安全的。在可扩展性方面,SPOT的程序和算法的实现,以显示其效率和实际可用性与可接受的计算和通信开销。
2022-12-01 cs.CR
Practical and Secure Federated Recommendation with Personalized Masks
Hong Kong University of Science and Technology(香港科技大学);Clustar;Peking University(北京大学);Fuzhou University(福州大学)
联合推荐解决了推荐系统的数据孤岛和隐私问题。目前的联合推荐系统主要利用密码学或混淆方法来保护原始评分不被泄露。然而,前者带来了额外的通信和计算成本,后者损害了模型的准确性。这两种方法都不能同时满足推荐系统的实时反馈和精确个性化的要求。在本文中,我们提出了联邦屏蔽矩阵分解(FedMMF),以保护联邦推荐系统中的数据隐私,而不牺牲效率和效果。更详细地说,我们介绍了新的思想,个性化的面具只产生从本地数据,并将其应用在FedMMF。一方面,个性化口罩为参与者的私人数据提供了保护,而不会损失有效性。另一方面,结合自适应安全聚合协议,个性化掩码可以进一步提高效率。从理论上分析了个性化口罩的安全性。从经验上讲,我们还显示了所设计的模型在不同的现实世界的数据集上的优越性。
2022-06-20 cs.AI cs.CR cs.IR
Secure Wearable Apps for Remote Healthcare Through Modern Cryptography
针对可穿戴设备远程医疗的患者隐私风险,研究应用现代密码学的解决方案,实现从边缘端到云端的数据机密性、完整性与真实性保护。
2024-10-10 cs.CR
Large-Scale Secure XGB for Vertical Federated Learning
Ant Group(蚂蚁集团)
近年来,隐私保护机器学习受到越来越多的关注,特别是随着各种隐私保护法规的出台。在这种情况下,联邦学习(FL)似乎有助于在多方之间进行隐私保护的联合建模。虽然许多联邦算法已经被广泛研究,但仍然缺乏安全和实用的梯度树提升模型(例如,XGB)在文学中。在本文中,我们的目标是建立大规模的安全XGB垂直联邦学习设置。我们从三个方面保障数据隐私。具体来说,(i)我们采用安全的多方计算技术,以避免在训练过程中泄漏中间信息,(ii)我们以分布式方式存储输出模型,以最小化信息释放,以及(iii)我们提供了一种新的算法,用于安全的XGB预测与分布式模型。此外,通过提出安全的置换协议,我们可以提高训练效率并使框架可扩展到大数据集。我们在公共数据集和真实数据集上进行了广泛的实验,结果表明,我们提出的XGB模型不仅具有竞争力的准确性,而且具有实用性能。
2021-09-02 cs.CR cs.LG stat.ML
On the relationship between (secure) multi-party computation and (secure) federated learning
这篇短文的贡献包括以下两个部分:在第一部分中,我们能够证明Kairouz等人提出的联邦成员学习(FL)过程\cite{Kairouz1901}是一个随机过程。也就是说,可以在多方计算(MPC)的上下文中定义FL过程的$m$元功能;此外,根据Kairouz等人的的定义可被视为所定义的$m$元功能的实现。因此,FL过程的实例也是MPC协议的实例。简而言之,FL是MPC的子集。为了私密地计算所定义的FL(m-ary)功能,已经部署了各种技术,诸如同态加密(HE)、安全多方计算(SMPC)和差分隐私(DP)。在第二部分中,我们能够证明,如果底层FL实例在基于模拟的框架中私下计算定义的$m$ -ary功能,则基于模拟的FL解决方案也是SMPC的实例。因此,SFL是SMPC的子集。
2020-08-06 cs.CR
Secure Federated Matrix Factorization
Hong Kong University of Science and Technology(香港科技大学);Clustar;Peking University(北京大学);WeBank(微众银行)
为了保护用户隐私并满足法律法规的要求,联邦(机器)学习近年来受到了广泛的关注。联邦学习的关键原则是训练一个机器学习模型,而不需要知道每个用户的个人原始私人数据。在本文中,我们提出了一个安全的矩阵分解框架下的联邦学习设置,称为FedMF。首先,我们设计了一个用户级分布式矩阵分解框架,当每个用户只上传梯度信息(而不是原始偏好数据)到服务器时,可以学习模型。虽然梯度信息似乎是安全的,但我们证明它仍然可能泄漏用户的原始数据。为此,我们用同态加密增强了分布式矩阵分解框架。我们实现了FedMF的原型,并使用一个真实的电影评级数据集对其进行了测试。结果验证了FedMF的可行性。我们还讨论了在实践中应用FedMF的挑战,为未来的研究。
2019-06-12 cs.CR cs.LG
Federated Learning for Privacy Preservation in Smart Healthcare Systems: A Comprehensive Survey
University of Quebec(魁北克大学);ETS(高等技术学院);Princeton University(普林斯顿大学)
电子设备和通信基础设施的最新进展已经通过使用IoMT设备将传统医疗保健系统彻底改变为智能医疗保健系统。然而,由于人工智能(AI)的集中式训练方法,移动和可穿戴IoMT设备的使用引起了关于医院和最终用户之间已经通信的信息的隐私问题。IoMT设备传递的信息是高度机密的,可能会暴露给对手。在这方面,联邦学习(FL),一种分布式AI范式,为IoMT中的隐私保护开辟了新的机会,而无需访问参与者的机密数据。此外,FL为最终用户提供隐私,因为在训练期间仅共享梯度。针对FL的这些特定属性,本文提出了IoMT中的隐私相关问题。之后,我们介绍了FL在IoMT网络中用于隐私保护的作用,并介绍了一些先进的FL架构,包括深度强化学习(DRL),数字孪生和生成对抗网络(GANs)用于检测隐私威胁。随后,我们提出了FL在智能医疗系统中的一些实际机会。最后,我们通过为FL提供可用于未来智能医疗保健系统的开放研究挑战来结束本次调查
2022-03-18 cs.CR cs.LG cs.SY
Towards a Secure and Reliable Federated Learning using Blockchain
Université de Sherbrooke(舍布鲁克大学);GREYC CNRS(法国国家科学研究中心灰西实验室);ENSICAEN(法国国立卡昂高等工程师学院);Normandie University(诺曼底大学);University of Technology of Troyes(特鲁瓦技术大学)
联邦学习(FL)是一种分布式机器学习(ML)技术,它支持协作训练,其中设备使用本地数据集执行学习,同时保护其隐私。这种技术确保了隐私、通信效率和资源节约。尽管有这些优点,FL仍然遭受与可靠性相关的若干挑战(即,训练中不可靠的参与设备),易处理性(即,大量训练的模型)和匿名性。为了解决这些问题,我们提出了一个为FL量身定制的安全可信的区块链框架(SRB-FL),它使用区块链功能以完全分布式和可信的方式实现协作模型训练。特别是,我们设计了一个基于区块链分片的安全FL,以确保数据的可靠性,可扩展性和可信度。此外,我们引入了一个激励机制,以提高可靠性的FL设备使用主观多权重逻辑。实验结果表明,我们提出的SRB-FL框架是有效的和可扩展的,使其成为一个有前途的和合适的解决方案,联邦学习。
2022-01-27 cs.AI cs.CR cs.LG
FL-DABE-BC: A Privacy-Enhanced, Decentralized Authentication, and Secure Communication for Federated Learning Framework with Decentralized Attribute-Based Encryption and Blockchain for IoT Scenarios
提出融合DABE、HE、SMPC与区块链的FL-DABE-BC框架,在物联网设备端实现去中心化认证加密,并通过雾层安全聚合与差分隐私保护模型训练。
2024-10-26 cs.CR
Privacy-Preserving Patient Identity Management Framework for Secure Healthcare Access
Institut national de la recherche scientifique(国家科学研究院)
本文提出一种隐私保护的患者身份管理框架,旨在满足医疗保健的操作和监管需求,通过根信任锚、匿名假名和条件可追溯机制,在确保操作可靠性的同时提供强隐私保护。
2026-03-07 cs.CR
Practical Secure Aggregation for Federated Learning on User-Held Data
安全聚合协议允许相互不信任的各方的集合,每个人都持有一个私有值,以协作方式计算这些值的总和,而不会泄露这些值本身。我们考虑在联邦学习模型中训练深度神经网络,在移动设备上的用户持有的训练数据中使用分布式随机梯度下降,其中安全聚合保护每个用户的模型梯度。我们设计了一种新颖的,通信效率高的安全聚合协议,允许高达1/3的用户无法完成协议的高维数据。对于16位输入值,我们的协议为$2^{10}$用户和$2^{20}$维向量提供了1.73倍的通信扩展,为$2^{14}$用户和$2^{24}$维向量提供了1.98倍的扩展。
2016-11-14 cs.CR stat.ML
SSHealth: Toward Secure, Blockchain-Enabled Healthcare Systems
医疗保健系统的未来正在通过整合新兴的技术创新来塑造,以推动患者护理的新模式。通过在不同系统级别获取、集成、分析和交换医疗数据,可以引入新的实践,从而从根本上改善医疗服务。本文提出了一种新型的智能安全医疗保健系统(ssHealth),该系统利用边缘计算和区块链技术的进步,允许流行病发现,远程监控和快速应急响应。所提出的系统还允许在本地医疗保健实体之间进行安全的医疗数据交换,从而实现多个国家和国际实体的集成,并实现关键医疗事件的相关性,例如,新出现的流行病的管理和控制。特别是,我们开发了一种基于区块链的架构,并实现了灵活的配置,从而优化了不同健康实体之间的医疗数据共享,并满足ssHealth可能需要的不同级别的服务质量(QoS)。最后,我们强调了建议的ssHealth系统的好处和未来研究的可能方向。
2020-06-18 cs.CR cs.CY cs.NI