Effective Intrusion Detection in Heterogeneous Internet-of-Things Networks via Ensemble Knowledge Distillation-based Federated Learning
针对异构IoT网络中集中式IDS的高延迟、隐私泄露和数据异构问题，提出FLEKD联邦学习框架，以集成知识蒸馏实现灵活聚合，提升检测速度、性能及未知攻击识别能力。
2024-01-22 cs.CR
A Review of Privacy-preserving Federated Learning for the Internet-of-Things
Keele University（基尔大学）
物联网（IoT）产生大量数据，其中大部分可归因于个人的活动和行为。收集个人数据并在中央位置对这些数据执行机器学习任务，会给个人带来重大的隐私风险，也会给将这些数据传输到云端带来挑战。然而，基于机器学习，特别是深度学习的分析可以从大量数据中受益匪浅，以开发高性能预测模型。这项工作回顾了联邦学习作为一种方法，用于对分布式数据执行机器学习，其目标是保护用户生成的数据的隐私，以及减少与数据传输相关的通信成本。我们调查了各种各样的论文，涵盖了通信效率，客户端异构性和隐私保护方法，这些方法对于物联网环境中的联邦学习至关重要。在这篇综述中，我们确定了应用于联邦学习的不同方法的优点和缺点，最后，我们概述了隐私保护联邦学习研究的未来方向，特别是专注于物联网应用。
2020-09-08 cs.CR cs.LG stat.ML
Differentially Private Federated Learning for Resource-Constrained Internet of Things
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；Air Force Research Laboratory（空军研究实验室）
随着物联网（IoT）时代具有内置传感器、互联网连接和可编程计算能力的智能设备的激增，在网络边缘产生了大量数据。联邦学习能够分析来自一组分布式智能设备的大量数据，而无需将数据上传到中心位置。然而，常用的联邦学习算法是基于随机梯度下降（SGD）的，并且由于其高通信资源要求而不适合于资源受限的IoT环境。此外，智能设备上敏感数据的隐私已成为一个关键问题，需要严格保护。本文提出了一种新的联邦学习框架DP-PASGD，用于从物联网中资源受限的智能设备存储的数据中有效地训练机器学习模型，同时保证差分隐私。将DP-PASGD的最优方案设计转化为一个优化问题，在满足资源代价和隐私损失限制的前提下，最大化学习性能，并基于DP-PASGD的收敛性分析，提出了一种近似求解方法，有效地解决了该优化问题.基于真实数据集的数值结果验证了DP-PASGD格式的有效性。
2020-03-28 cs.CR cs.LG stat.ML
Blockchained Federated Learning for Internet of Things: A Comprehensive Survey
University of Technology Sydney（悉尼科技大学）；Harbin Institute of Technology（哈尔滨工业大学）；Data61, CSIRO（联邦科学与工业研究组织数据61研究所）；Xidian University（西安电子科技大学）
本综述系统比较了区块链联邦学习（BlockFL）在个人、工业、车辆和健康物联网四类场景中的表现，分析其安全、隐私、信任、效率及数据异构性优势与挑战，并梳理可受益的现有技术，为应用选型提供决策参考。
2023-05-08 cs.CR cs.LG
FairVFL: A Fair Vertical Federated Learning Framework with Contrastive Adversarial Learning
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）；Sony AI（索尼人工智能）；USTC（中国科学技术大学）；Shenzhen University（深圳大学）；Zhongguancun Laboratory（中关村实验室）
垂直联邦学习（Vertical Federated Learning，VFL）是一种隐私保护的机器学习范式，它可以以隐私保护的方式从分布在不同平台上的特征中学习模型。由于在现实世界的应用程序中，数据可能包含对公平敏感特征的偏见（例如，性别），VFL模型可能从训练数据继承偏差，并且对于某些用户组变得不公平。然而，现有的公平机器学习方法通常依赖于公平敏感特征的集中存储来实现模型公平性，这通常不适用于联邦场景。本文提出了一种公平的垂直联邦学习框架（FairVFL），该框架可以提高VFL模型的公平性。FairVFL的核心思想是以隐私保护的方式基于分散的特征字段学习样本的统一和公平表示。具体来说，每个具有公平性不敏感特征的平台首先从本地特征学习本地数据表示。然后，这些本地表示被上传到服务器，并聚合成目标任务的统一表示。为了学习公平的统一表示，我们将其发送到存储公平敏感特征的每个平台，并应用对抗学习来消除从有偏差数据继承的统一表示中的偏差。此外，为了保护用户隐私，我们进一步提出了一种对比对抗学习方法，在将隐私信息发送到保持公平敏感特征的平台之前，将隐私信息从服务器的统一表示中删除。在三个真实数据集上的实验表明，该方法能有效地提高模型的公平性，同时很好地保护用户隐私。
2022-10-31 cs.CR cs.CY cs.LG
Blockchain-based Federated Learning with Secure Aggregation in Trusted Execution Environment for Internet-of-Things
针对工业物联网联邦学习中本地模型易被篡改的问题，提出结合区块链与 Intel SGX TEE 的安全聚合框架，通过可信执行、共识验证和分布式账本保障全局模型完整性，并以多组 CNN 与数据集实验评估性能。
2023-04-25 cs.AI cs.CR
FedMABA: Towards Fair Federated Learning through Multi-Armed Bandits Allocation
The Chinese University of Hong Kong（香港中文大学）
针对联邦学习中统计异构导致的客户端性能不公平问题，本文提出基于对抗性多臂老虎机分配的FedMABA算法，并在多种Non-I.I.D.场景下验证其公平性提升效果。
2024-10-26 cs.CR cs.LG
IronForge: An Open, Secure, Fair, Decentralized Federated Learning
CSIRO Data61（联邦科学与工业研究组织数据61所）；University of Technology Sydney（悉尼科技大学）；Harbin University of Technology（哈尔滨工业大学）；Zhejiang Lab（之江实验室）
联邦学习（FL）提供了一种有效的机器学习（ML）架构，以分布式方式保护数据隐私。然而，不可避免的网络混乱、对中心协调者的过度依赖以及缺乏公开公平的激励机制等因素共同阻碍了其进一步发展。我们提出了\textsc{IronForge}，新一代的FL框架，具有一个有向无环图（DAG）为基础的数据结构，并消除了需要中央协调员，以实现完全分散的操作。\textsc{IronForge}运行在公共开放的网络中，通过实现DAG中的状态一致性来启动公平的激励机制，使系统适应训练资源分布不均匀的网络。此外，针对当前流行的激励公平性和数据隐私性FL攻击，提出了专门的防御策略，以确保\textsc{IronForge}的安全性。基于新开发的FLSim测试平台的实验结果突出了\textsc{IronForge}在性能、公平性和安全性方面优于现有的流行FL框架。据我们所知，\textsc{IronForge}是第一个安全且完全分散的FL框架，可以应用于具有真实网络和训练设置的开放网络。
2023-01-07 cs.CR cs.LG
Local Differential Privacy based Federated Learning for Internet of Things
Nanyang Technological University（南洋理工大学）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-新加坡南洋理工大学联合研究院）
车联网（IoT）是物联网的一个很有前途的分支。车联网模拟了Waze、Uber、Amazon Mechanical Turk等多种众包应用，这些应用的用户将实时交通信息上报到云服务器，云服务器根据用户上报的交通信息训练机器学习模型，实现智能交通管理。然而，众包应用程序所有者可以很容易地推断出用户的位置信息，这引起了严重的位置隐私的用户的关注。此外，随着车辆数量的增加，车辆与云服务器之间的频繁通信会产生意想不到的通信成本。为了避免隐私威胁和降低通信成本，本文提出将联邦学习和局部差分隐私（LDP）相结合，以便于众包应用实现机器学习模型。具体来说，我们提出了四个LDP机制来扰动车辆产生的梯度。提出了三输出机制，该机制引入了三种不同的输出可能性，以在隐私预算较小时提供高准确性。三路输出的输出可能性可以用两位编码，以降低通信成本。此外，当隐私预算较大时，为了最大化性能，提出了一种最优分段机制（PM-OPT）。我们进一步提出了一种次优机制（PM-OPT），它具有简单的公式和与PM-OPT相当的效用。然后，我们将三输出和PM-OPT相结合，构建了一种新的混合机制。
2020-12-22 cs.CR cs.LG
Towards Communication-efficient and Attack-Resistant Federated Edge Learning for Industrial Internet of Things
Heilongjiang University（黑龙江大学）；Tencent Jarvis Lab（腾讯 Jarvis 实验室）；Nanyang Technological University（南洋理工大学）；Lakehead University（湖首大学）
联邦边缘学习（Federated Edge Learning，FEL）允许边缘节点协同训练全局深度学习模型，用于工业物联网（IIoT）中的边缘计算，显著推动工业4.0的发展。然而，FEL面临两个关键挑战：通信开销和数据隐私。FEL在训练大规模多节点模型时会产生昂贵的通信开销。此外，由于自由电子激光的梯度泄漏和标签翻转攻击的脆弱性，全局模型的训练过程很容易受到对手的破坏。为了应对这些挑战，我们提出了一个用于IIoT边缘计算的通信高效和隐私增强的异步FEL框架。首先，我们引入了一个异步的模型更新方案，以减少计算时间，边缘节点等待全局模型聚合。其次，我们提出了一个异步的本地差分隐私机制，提高了通信效率，并减轻梯度泄漏攻击，通过添加精心设计的噪声边缘节点的梯度。第三，设计了云端恶意节点检测机制，通过检测本地模型质量来检测恶意节点。这种机制可以避免恶意节点参与训练，以减轻标签翻转攻击。在两个真实数据集上进行的大量实验研究表明，该框架不仅可以提高通信效率，而且可以减少恶意攻击，同时其准确性与传统的FEL框架相当。
2020-12-08 cs.CR cs.DC cs.LG
Evaluating Federated Learning for Intrusion Detection in Internet of Things: Review and Challenges
University of Murcia（穆尔西亚大学）；European Commission, Joint Research Centre（欧盟委员会联合研究中心）
将机器学习（ML）技术应用于著名的入侵检测系统（IDS）是通过有效和高效的检测过程来应对日益复杂的网络安全攻击的关键。在物联网（IoT）的背景下，大多数支持ML的IDS方法使用集中式方法，其中IoT设备与数据中心共享其数据以进行进一步分析。为了减轻与集中式方法相关的隐私问题，近年来，联邦学习（FL）的使用在不同领域引起了极大的兴趣，包括医疗保健和交通系统。然而，基于FL的物联网入侵检测系统的开发还处于起步阶段，仍然需要各个领域的研究工作，以确定在现实场景中部署的主要挑战。在这个方向上，我们的工作评估了基于多类分类器的FL启用的IDS方法，该方法考虑了物联网场景中检测不同攻击的不同数据分布。特别是，我们使用三种不同的设置，这些设置是通过根据物联网设备的IP地址和攻击类型对最近的ToN\_IoT数据集进行分区而获得的。此外，我们评估不同的聚合功能的影响，根据这样的设置，使用最近的IBMFL框架FL实现。此外，我们确定了一组挑战和未来的方向，根据现有的文献和我们的评估结果的分析。
2021-08-02 cs.CR cs.LG cs.NI
Privacy-preserving gradient-based fair federated learning
TU Dortmund University（多特蒙德工业大学）
本文提出一种基于同态加密、仅使用局部梯度的公平且隐私保护的联邦学习方案，以提高可用性并支持控制应用。
2024-07-18 cs.CR cs.LG cs.SY
Edge-assisted U-Shaped Split Federated Learning with Privacy-preserving for Internet of Things
Beijing Wuzi University（北京物资学院）；Beijing University of Technology（北京工业大学）
针对物联网设备算力不足、数据传输易拥塞及隐私风险问题，提出边缘辅助U型拆分联邦学习框架EUSFL，结合联邦学习与拆分学习优势，搭配LabelDP噪声机制，在保障隐私的同时提升训练效率、降低设备开销。
2023-11-08 cs.AI cs.CR cs.LG
