ARES: Scalable and Practical Gradient Inversion Attack in Federated Learning through Activation Recovery
Griffith University(格里菲斯大学);Swinburne University of Technology(斯winburne技术大学);City University of Macau(澳门城市大学);City University of Hong Kong(香港城市大学)
本文提出ARES攻击,通过稀疏恢复技术在不修改架构的情况下实现高保真样本重建,理论分析和实验表明其在大规模批量和真实联邦学习场景中优于现有方法,揭示中间激活带来的隐私风险。
2026-03-18 cs.CR cs.LG
Provable Sparse Inversion and Token Relabel Enhanced One-shot Federated Learning with ViTs
Shenzhen Campus of Sun Yat-Sen University(中山大学深圳校区);University of Science and Technology of China(中国科学技术大学);Shantou University(汕头大学)
本文提出FedMITR框架,通过稀疏模型反向和令牌重标记解决非IID数据下的联邦学习问题,提升模型泛化能力。
2026-05-11 cs.AI cs.LG
Cascading Gradient Inversion via LT-Code Inspired Peeling in Federated Learning
University of Isfahan(伊斯法罕大学)
本文通过建立梯度反演与纠删码理论的联系,提出LT码启发的剥离攻击,在单轮FedSGD中精确恢复整个批次及标签,大幅超越先前攻击,揭示联邦学习隐私泄露被严重低估。
2026-09-10 cs.AI cs.CR cs.LG
Enhancing Privacy against Inversion Attacks in Federated Learning by using Mixing Gradients Strategies
JPMorgan Chase(摩根大通)
联邦学习降低了信息泄露的风险,但仍然容易受到攻击。我们研究了几个神经网络设计决策可以抵御梯度反转攻击。我们发现,重叠的梯度提供了数值阻力梯度反演的高度脆弱的致密层。具体来说,我们建议利用梯度最大化的混合,通过选择一个适当的损失函数和绘制相同的标签。我们表明,否则,它是可能的,直接恢复所有的向量在一个小批量没有任何数值优化,由于交叉熵损失的去混合性质。为了准确地评估数据恢复,我们引入了一个绝对变化距离(AVD)度量图像中的信息泄漏,来自总变差。与标准度量(例如均方误差或结构相似性指数)相比,AVD提供了一种用于在噪声图像中提取信息的连续度量。最后,我们对各种反转攻击和训练性能的信息恢复的实证结果支持我们的防御策略。这些策略也被证明对深度卷积神经网络(如用于图像识别的LeNET)有用。我们希望,这项研究将有助于指导进一步的战略,实现信任的联邦政策的发展。
2022-04-26 cs.AI cs.CR cs.CY
No More Guessing: a Verifiable Gradient Inversion Attack in Federated Learning
Inria, France(法国国家信息与自动化技术研究所);CNRS, France(法国国家科学研究中心)
本文提出一种可验证梯度反向攻击,通过几何视角检测激活边界区域中的单个记录,实现精确样本恢复,提升联邦学习中数值表格数据的隐私保护。
2026-04-16 cs.AI cs.CR cs.LG
Surrogate Model Extension (SME): A Fast and Accurate Weight Update Attack on Federated Learning
KU Leuven(鲁汶大学)
本文提出代理模型扩展SME,利用二维梯度流特性与本地更新低秩性,将梯度反演攻击扩展到联邦学习权重更新,达到SOTA且速度最高提升100倍。
2023-05-31 cs.CR cs.LG
ResSFL: A Resistance Transfer Framework for Defending Model Inversion Attack in Split Federated Learning
Arizona State University(亚利桑那州立大学);Shanghai Jiao Tong University(上海交通大学)
针对分裂联邦学习(SFL)的模型反演(MI)攻击问题,提出了一种新的模型反演算法. SFL是最近的分布式训练方案,其中多个客户端发送中间激活(即,特征图)而不是原始数据发送到中央服务器。虽然这样的方案有助于减少客户端的计算负荷,但它本身对从服务器的中间激活重建原始数据开放。现有的保护SFL的工作只考虑推理,不处理训练过程中的攻击。因此,我们提出了ResSFL,这是一个分裂的联邦学习框架,旨在在训练过程中抵抗MI。它基于通过攻击者感知训练导出抵抗特征提取器,并使用此提取器在标准SFL训练之前初始化客户端模型。这种方法有助于降低由于在客户端对抗训练中使用强反演模型以及在早期训练时期发起的攻击的脆弱性而导致的计算复杂性。在CIFAR-100数据集上,我们提出的框架成功地减轻了对VGG-11模型的MI攻击,与基线系统获得的0.005相比,重建均方误差为0.050。该框架实现了67.5%的准确率(只有1%的准确率下降),具有非常低的计算开销。代码发布于:https://github.com/zlijingtao/ResSFL。
2022-05-09 cs.LG
SPEAR:Exact Gradient Inversion of Batches in Federated Learning
INSAIT;Sofia University "St. Kliment Ohridski"(索非亚大学 "圣·克利门特·奥赫里德斯基");ETH Zurich(苏黎世联邦理工学院)
针对联邦学习中现有梯度反演攻击仅能精确重构批量大小为1的私有数据的问题,提出结合梯度低秩结构、采样算法与ReLU梯度稀疏性过滤的SPEAR算法,可精确重构更大批量的高维数据,并给出理论扩展结论。
2024-12-09 cs.CR cs.DC cs.LG
GI-SMN: Gradient Inversion Attack against Federated Learning without Prior Knowledge
College of Information and Technology, Jinan University(暨南大学信息科学技术学院);Guangdong Key Laboratory of Data Security and Privacy Protection(广东省数据安全与隐私保护重点实验室);School of Computer Science, Beijing University of Posts and Telecommunications(北京邮电大学计算机学院)
本文提出基于风格迁移网络的梯度反演攻击GI-SMN,无需修改模型或获取先验知识即可高相似度重建联邦学习用户数据,并优于现有攻击且能突破梯度剪枝和差分隐私防御。
2024-05-06 cs.LG
Do Gradient Inversion Attacks Make Federated Learning Unsafe?
NVIDIA(英伟达)
联邦学习(FL)允许人工智能模型的协作训练,而无需共享原始数据。这一功能使其对于医疗保健应用特别感兴趣,因为在这些应用中,患者和数据隐私是最重要的。然而,最近关于从模型梯度反演深度神经网络的工作引起了人们对FL在防止训练数据泄漏方面的安全性的担忧。在这项工作中,我们表明,在文献中提出的这些攻击是不切实际的FL用例中,客户端的培训涉及更新的批量归一化(BN)的统计数据,并提供了一个新的基线攻击,适用于这种情况。此外,我们提出了新的方法来衡量和可视化潜在的数据泄漏FL。我们的工作是一个步骤,建立可重复的方法测量数据泄漏FL,可以帮助确定隐私保护技术,如差分隐私,和模型的准确性之间的最佳权衡基于可量化的指标。代码可在https://nvidia.github.io/NVFlare/research/quantifying-data-leakage上获得。
2023-01-30 cs.CR cs.CV cs.DC
A Path Integral Surrogate for Multi-Step Gradient Inversion in Federated Learning
Indian Institute of Technology Kharagpur(印度理工学院卡哈拉格普尔分校)
提出路径积分替代模型扩展(PI-SME),通过高斯-勒让德求积近似梯度场路径积分,在CIFAR-100和FEMNIST上更忠实地重建联邦学习中的私有输入。
2026-10-05 cs.DC cs.LG
Geminio: Language-Guided Gradient Inversion Attacks in Federated Learning
School of Computing and Data Science(计算与数据科学学院);The University of Hong Kong(香港大学)
Geminio利用视觉语言模型将联邦学习中的梯度反演攻击转化为语义定向攻击,通过自然语言描述目标数据并优先重建高价值样本,实现高效且不影响正常训练的隐私窃取。
2025-08-02 cs.AI cs.CR cs.LG
TIP: Resisting Gradient Inversion via Targeted Interpretable Perturbation in Federated Learning
Shanxi Key Laboratory of Industrial Internet Security, College of Computer Science and Technology(工业互联网安全山西省重点实验室,计算机科学与技术学院);Taiyuan University of Technology(太原科技大学)
TIP通过针对性可解释扰动在联邦学习中有效抵御梯度逆向攻击,同时保持模型准确性并优于现有隐私保护方法。
2026-02-12 cs.LG
FuSeFL: Fully Secure and Scalable Federated Learning
Department of Computer Science and Engineering(计算机科学与工程系);University of California, Riverside(加州大学河滨分校)
FuSeFL通过轻量级MPC实现去中心化训练,保障数据、模型和更新的完整保密性,同时提升训练效率和降低服务器资源消耗。
2026-02-06 cs.CR cs.LG
AGIC: Approximate Gradient Inversion Attack on Federated Learning
Delft University of Technology(代尔夫特理工大学)
联邦学习是一种私有设计的分布式学习范例,其中客户端在中央服务器聚合其本地更新以计算全局模型之前,在其自己的数据上训练本地模型。根据所使用的聚合方法,局部更新是局部学习模型的梯度或权重。最近的重建攻击对单个小批量的梯度更新应用梯度反转优化,以重建客户端在训练期间使用的私有数据。由于最先进的重建攻击只关注单个更新,因此忽略了现实的对抗场景,例如对多个更新的观察和从多个小批量训练的更新。一些研究考虑了更具挑战性的对抗性场景,其中只有基于多个小批量的模型更新是可观察的,并采用计算昂贵的模拟来解开每个局部步骤的底层样本。在本文中,我们提出了AGIC,这是一种新的近似梯度反转攻击,可以有效地从模型或梯度更新中重建图像,并跨越多个时期。简而言之,AGIC(i)从模型更新中近似使用的训练样本的梯度更新,以避免昂贵的仿真过程,(ii)利用从多个时期收集的梯度/模型更新,以及(iii)相对于神经网络结构为重建质量向层分配增加的权重。我们在三个数据集上广泛评估了AGIC,CIFAR-10,CIFAR-100和ImageNet。我们的研究结果表明,AGIC增加峰值信噪比(PSNR)高达50%相比,两个代表国家的最先进的梯度反转攻击。此外,AGIC比最先进的基于模拟的攻击更快,例如,在攻击FedAvg时,在模型更新之间有8个本地步骤,速度快了5倍。
2022-07-14 cs.DC cs.LG
Improving Response Time of Home IoT Services in Federated Learning
Chungnam National University(忠南国立大学)
对于具有传感器和机器学习的智能家居物联网服务,我们需要将物联网数据上传到无法共享私有数据的云服务器进行训练。最近的一种机器学习方法称为联邦学习,它将用户数据保存在分布式计算环境中的设备上。虽然联邦学习对于保护隐私很有用,但它在家庭物联网服务的端到端响应时间方面表现不佳,因为物联网设备通常由云中的远程服务器控制。此外,由于数据不足问题和模型反演攻击,很难实现联邦学习模型的高精度。在本文中,我们提出了一种本地物联网控制方法,用于联邦学习家庭服务,快速准确地识别家庭网络中的用户行为。我们提出了一个具有迁移学习和差分隐私的联邦学习客户端,以解决数据稀缺和数据模型反转攻击问题。从实验中,我们表明,本地控制家庭物联网设备的用户认证和控制消息传输的联邦学习客户端提高了响应时间小于1秒。此外,我们证明了联邦学习与迁移学习在9,000个样本下达到了97%的准确率,这与集中式学习的差异只有2%。
2022-02-28 cs.LG
Scale-MIA: A Scalable Model Inversion Attack against Secure Federated Learning via Latent Space Reconstruction
Virginia Polytechnic Institute and State University(弗吉尼亚理工大学);University of South Florida(南佛罗里达大学);University of Kentucky(肯塔基大学)
针对联邦学习中现有模型反演攻击难以扩展或易被检测的问题,提出Scale-MIA,通过潜空间重构的两步法从聚合模型更新中高效准确重构本地样本,在安全聚合协议下仍表现优异,性能优于现有方法。
2024-11-27 cs.LG
Profiling Privacy Preservation Against Gradient Inversion Attacks in Tabular Federated Learning
Department of Computing(计算系);Jönköping University(琼堡大学);Scaleout Systems;University of Haifa(海法大学)
本研究通过评估不同联邦学习协议、客户端批量大小、训练阶段、攻击者假设、模型架构及任务类型下梯度反转攻击对表格数据的恢复能力,发现小批量更新最易受攻击,而FT-Transformer架构比MLP更难反转,并指出聚合重建精度可能高估完整记录恢复。
2026-05-31 cs.LG
Beyond Gradients: Exploiting Adversarial Priors in Model Inversion Attacks
Institute for Artificial Intelligence in Medicine(医学人工智能研究所);Technical University of Munich(慕尼黑工业大学);Imperial College London(帝国理工学院)
像联邦学习这样的协作机器学习设置可能容易受到对抗性干扰和攻击。一类这样的攻击被称为模型反演攻击,其特征在于对手对模型进行逆向工程以提取表示,从而公开训练数据。这种攻击的先前实现通常只依赖于捕获的数据(即共享梯度),而不利用对手自己控制的数据作为训练联盟的一部分。在这项工作中,我们提出了一种新的模型反演框架,该框架建立在基于梯度的模型反演攻击的基础上,但还依赖于将重建图像的特征和风格与对手控制的数据相匹配。我们的技术在质量和数量上都优于现有的基于梯度的方法,同时仍然保持相同的诚实但好奇的威胁模型,允许对手在保持隐蔽的同时获得增强的重建。
2022-03-01 cs.CR cs.LG
Shadow defense against gradient inversion attack in federated learning
Bioengineering Department, Imperial College London, London W12 0BZ, UK;School of Computer Engineering;Science, Shanghai university, Shanghai 200444, China;Bioengineering Department;Imperial-X, Imperial College London, London W12 7SL, UK;Lung Institute, Imperial College London, London SW7 2AZ, UK;Cardiovascular Research Centre, Royal Brompton Hospital, London SW3 6NP, UK;School of Biomedical Engineering \& Imaging Sciences, King's College London, London WC2R 2LS, UK
针对联邦学习中的梯度反演攻击,提出利用可解释阴影模型识别敏感区域并注入样本特异性噪声的防御框架,在医学图像上实现有效保护且对模型性能影响极小。
2025-05-30 cs.AI cs.CR cs.CV
RAIFLE: Reconstruction Attacks on Interaction-based Federated Learning with Adversarial Data Manipulation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出RAIFLE攻击框架,通过中央服务器主动操纵用户交互物品特征,在交互式联邦学习中实现高效的私有数据重构,揭示了现有隐私风险并探讨了防御对策。
2025-03-02 cs.CR cs.LG
Cocktail Party Attack: Breaking Aggregation-Based Privacy in Federated Learning using Independent Component Analysis
Georgia Institute of Technology(佐治亚理工学院);Meta AI;Pennsylvania State University(宾夕法尼亚州立大学);Virginia Tech(弗吉尼亚理工大学);Cornell University(康奈尔大学)
联邦学习(FL)旨在对多个数据所有者持有的分布式数据执行隐私保护机器学习。为此,FL要求数据所有者在本地进行训练,并与中央服务器共享梯度更新(而不是私有输入),然后在多个数据所有者之间进行安全聚合。虽然聚合本身并不能提供隐私保护,但先前的工作表明,如果批量足够大,它可能就足够了。在本文中,我们提出了鸡尾酒会攻击(CPA),相反,事先的信念,是能够恢复的私人输入从梯度聚集在一个非常大的批量大小。CPA利用了关键的洞察力,即来自全连接层的聚合梯度是其输入的线性组合,这将我们引导到帧梯度反演作为盲声源分离(BSS)问题(非正式地称为鸡尾酒会问题)。我们采用独立分量分析(ICA)-BSS问题的经典解决方案-来恢复完全连接和卷积网络的私有输入,并表明CPA显着优于先前的梯度反转攻击,扩展到ImageNet大小的输入,并适用于高达1024的大批量。
2022-09-12 cs.AI cs.CR cs.LG
Privacy Preserving Federated Learning with Convolutional Variational Bottlenecks
Technische Universität Ilmenau(伊尔梅瑙工业大学)
本文揭示 PRECODE 防御梯度反转的随机梯度机制及其失效攻击,并提出可早置于网络、参数与开销更低的卷积变分瓶颈 CVB。
2023-09-08 cs.AI cs.CR cs.LG
Practical Defences Against Model Inversion Attacks for Split Neural Networks
Tessella(泰塞拉);OpenMined;Edinburgh Napier University(爱丁堡龙比亚大学);Apheris
我们描述了一个威胁模型下,分裂的基于网络的联邦学习系统容易受到恶意计算服务器的模型反演攻击。我们证明了攻击者可以成功地执行有限的知识的数据分布。我们提出了一个简单的加性噪声方法来抵御模型反演,发现该方法可以显着降低攻击效率在一个可接受的精度权衡MNIST。此外,我们表明,NoPeekNN,现有的防御方法,保护不同的信息暴露,这表明一个组合的防御是必要的,以充分保护私人用户数据。
2021-04-21 cs.CR cs.DC cs.LG
Extracting Spatiotemporal Data from Gradients with Large Language Models
Tokyo Institute of Technology(东京工业大学);The University of Tokyo(东京大学);Xidian University(西安电子科技大学);National Institute of Information and Communications Technology(日本信息通信研究机构);Osaka Seikei University(大阪成蹊大学)
本文针对时空联邦学习中的梯度反演隐私风险,提出ST-GIA及结合大语言模型的ST-GIA+攻击方法,并设计自适应防御策略,在三个真实数据集上验证了其能在保护隐私的同时保持模型效用。
2024-10-21 cs.CR cs.LG
SPEAR++: Scaling Gradient Inversion via Sparsely-Used Dictionary Learning
ETH Zurich(苏黎世联邦理工学院);INSAIT, Sofia University "St. Kliment Ohridski"(INSAIT,索菲亚大学"圣克莱门特·欧赫里迪斯基")
本研究针对现有SPEAR梯度反演攻击运行时间随批次大小指数增长的局限,结合稀疏使用字典学习前沿技术提出SPEAR++攻击,在保留原攻击对DP噪声、FedAvg聚合鲁棒性的同时,支持大10倍的批次规模,提升了梯度反演攻击的实际可行性。
2025-10-28 cs.CR cs.DC cs.LG
Federated Learning Nodes Can Reconstruct Peers' Image Data
本研究揭示联邦学习中诚实但好奇的客户端可通过梯度反转、借助扩散模型利用连续更新的稀释信息重构对等节点私有图像,指出需更鲁棒的隐私机制防范客户端侧隐蔽攻击。
2025-06-12 cs.CR cs.LG
FedML-HE: An Efficient Homomorphic-Encryption-Based Privacy-Preserving Federated Learning System
University of Southern California(南加州大学);Carnegie Mellon University(卡内基梅隆大学);University of California Irvine(加州大学欧文分校);FedML Inc.(FedML公司)
针对同态加密联邦学习开销过高的问题,本文提出 FedML-HE,通过选择性加密敏感参数实现安全聚合,并在 ResNet-50 和 BERT 上分别取得约10倍和最高约40倍的开销降低。
2024-06-17 cs.CR cs.LG
FLShield: A Validation Based Federated Learning Framework to Defend Against Poisoning Attacks
Penn State University(宾夕法尼亚州立大学)
本文提出FLShield框架,利用参与者良性数据验证本地模型以防御投毒和后门攻击,无需服务器访问干净数据集,同时保护本地数据隐私。
2023-08-10 cs.CR cs.LG
One-Shot Federated Ridge Regression: Exact Recovery via Sufficient Statistic Aggregation
Zahir Alsulaimawi(独立研究者)
本文提出了一种无需迭代通信的联邦岭回归方法,通过一次聚合实现精确恢复,显著降低通信开销并提升隐私保护。
2026-01-13 cs.CR cs.LG
Asynchronous Byzantine Federated Learning
Delft University of Technology(代尔夫特理工大学);University of Neuchâtel(纳沙泰尔大学)
针对现有拜占庭容错联邦学习多依赖同步、易受掉队客户端延迟等问题,提出无需辅助服务器数据集的异步拜占庭弹性联邦学习算法,在多种攻击下训练速度和准确率均优于现有方案。
2024-06-20 cs.DC cs.LG
CENSOR: Defense Against Gradient Inversion via Orthogonal Subspace Bayesian Sampling
Purdue University(普渡大学);IBM Research(IBM研究院)
针对联邦学习中梯度反演攻击泄露私有数据的问题,提出一种针对大型神经网络模型的防御方法CENSOR,通过在正交子空间内利用冷后验扰动梯度,在防御攻击的同时保持模型效用。
2025-01-27 cs.CR cs.LG
Recovering Labels from Local Updates in Federated Learning
University of Texas at Austin(得克萨斯大学奥斯汀分校)
本文提出标签恢复方案RLU,通过最小二乘问题分析标签与输出层更新的相关性,在现实联邦学习设置中实现高精度标签恢复,并提升梯度反演攻击的图像重建质量。
2024-05-02 cs.CR cs.LG
Expressive variational quantum circuits provide inherent privacy in federated learning
JPMorgan Chase(摩根大通);The University of Melbourne(墨尔本大学)
本文提出用富表达力编码映射与过参数化拟设构建变分量子电路联邦学习模型,借助高阶 Chebyshev 系统求解困难及攻击模型欠参数化,证明其可固有抵御梯度反演导致的数据泄漏。
2023-09-25 cs.CR cs.LG quant-ph
pFedGPA: Diffusion-based Generative Parameter Aggregation for Personalized Federated Learning
Tsinghua University(清华大学);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院);The Chinese University of Hong Kong(香港中文大学)
针对联邦学习中线性参数聚合忽略参数空间复杂性的问题,提出基于扩散模型的生成式参数聚合框架pFedGPA,通过服务器端扩散模型整合参数分布并结合参数反演生成个性化参数,在多数据集上性能优于基线方法。
2025-02-11 cs.AI cs.LG
On the (In)security of Peer-to-Peer Decentralized Machine Learning
SPRING Lab(SPRING实验室);EPFL(洛桑联邦理工学院)
本文首次深入分析去中心化学习的隐私性,提出新型攻击,证明其安全性不优于联邦学习,且增加攻击面,隐私保护配置需全连接网络,丧失实际优势。
2023-11-10 cs.CR cs.LG
Privacy-Preserving Federated Learning with Differentially Private Hyperdimensional Computing
University of Connecticut(康涅狄格大学);University of California Irvine(加州大学欧文分校)
针对动态IoT场景下差分隐私联邦学习噪声累积致准确率下降的问题,提出融合神经符号计算与DP的FedHDPrivacy框架,主动监控累积噪声仅按需补充,在制造监测场景中性能优于主流联邦框架最高37%。
2025-03-22 cs.AI cs.CR cs.LG
A Survey of What to Share in Federated Learning: Perspectives on Model Utility, Privacy Leakage, and Communication Efficiency
Hong Kong University of Science and Technology(香港科技大学);Hong Kong Polytechnic University(香港理工大学)
本文从“共享什么”的新视角系统综述了联邦学习,提出基于共享模型、合成数据和知识的新分类法,分析了隐私攻击脆弱性与防御机制,并通过实验比较了不同共享方式的学习性能、通信开销及隐私泄露情况。
2024-02-18 cs.CR cs.LG
Concealing Sensitive Samples against Gradient Leakage in Federated Learning
Monash University(莫纳什大学)
针对联邦学习中梯度泄露导致的模型反转攻击隐私风险,提出基于合成隐藏样本混淆敏感数据梯度的防御策略,在保障防护强度的同时维持联邦学习性能。
2023-12-14 cs.CR cs.CV cs.LG
Tazza: Shuffling Neural Network Parameters for Secure and Private Federated Learning
College of Computing, Yonsei University, Department of Mobile Systems Engineering, Dankook University(延世大学计算机学院, Dankook大学移动系统工程系)
Tazza通过神经网络参数洗牌技术,同时解决联邦学习中的安全性和隐私保护问题,提升系统鲁棒性并提高模型准确性。
2025-12-30 cs.AI cs.LG
Secure and Privacy-Preserving Federated Learning for Next-Generation Underground Mine Safety
2 School of Engineering;Applied Science, Washington State University, Richland, WA 99354, USA;3 Computer Science Department, Missouri University of Science;4 Explosive \& Mining Engineering Department, Missouri University of Science
FedMining通过去中心化功能加密和平衡聚合机制,解决地下采矿中隐私保护和模型收敛问题,实现安全高效的联邦学习应用。
2025-12-09 cs.CR cs.LG
The More is not the Merrier: Investigating the Effect of Client Size on Federated Learning
College of William & Mary(威廉玛丽学院);Appalachian State University(阿巴拉契亚州立大学);UNC Greensboro(北卡罗来纳大学格林斯伯勒分校)
本文研究联邦学习中客户端数量对FedAvg准确率的不利影响,提出知识型客户端插入(KCI)方法,通过引入少量拥有大量数据样本的客户端,在普通FedAvg聚合下显著提升学习准确率并增强隐私保护。
2025-04-11 cs.CR cs.LG
Proof of Reasoning for Privacy Enhanced Federated Blockchain Learning at the Edge
Department of Computing(计算系);Department of Surgery and Cancer(外科与癌症系);Hamlyn Centre(哈姆林中心);Imperial College London(帝国理工学院伦敦分校)
本文提出PoR共识机制,通过屏蔽自动编码器和边缘端分类器提升边缘联邦学习的隐私保护与聚合效率。
2026-01-12 cs.CR cs.CV cs.LG
SVDefense: Effective Defense against Gradient Inversion Attacks via Singular Value Decomposition
City University of Hong Kong(香港城市大学);Singapore University of Technology and Design(新加坡科技设计大学)
针对联邦学习中梯度反转攻击的现有防御存在开销高、效用差、易被绕过的问题,提出基于截断SVD的SVDefense框架,通过三项创新实现强隐私保护与高精度平衡,且适配嵌入式平台。
2025-10-01 cs.CR cs.LG
Differentially private federated learning with Byzantine-robust aggregation: A cross-domain framework for secure model training in banking and healthcare systems
LTIMindtree Research(LTIMindtree研究院)
本文提出DP-BR-FedAvg框架,结合差分隐私与拜占庭鲁棒聚合,在跨机构分类任务中平衡隐私保护与模型鲁棒性,解决联邦学习的隐私泄露和恶意更新问题。
2026-09-04 cs.CR cs.LG
Evaluating Selective Encryption Against Gradient Inversion Attacks
Information Networking Institute(信息网络研究所);Carnegie Mellon University(卡内基梅隆大学);TensorOpera AI;Department of Electrical and Computer Engineering(电气与计算机工程系)
本文系统评估了选择性加密在对抗梯度反演攻击中的效果,提出基于距离的重要性分析框架,并发现梯度幅度是普遍有效的度量,同时为不同模型和隐私需求提供了策略选择指南。
2025-08-06 cs.CR cs.LG
Towards Eliminating Hard Label Constraints in Gradient Inversion Attacks
School of Artificial Intelligence, University of Chinese Academy of Sciences (UCAS)(中国科学院大学人工智能学院);Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所)
本研究聚焦梯度反转攻击的硬标签约束问题,提出首个可从单输入梯度同时恢复增强软标签与全连接层输入特征的算法,给出分析类标签恢复的必要条件,实验验证其标签恢复准确率及对图像重建的增益。
2024-04-15 cs.CR cs.CV cs.LG
Privacy in Federated Learning with Spiking Neural Networks
Centre for Secure Information Technologies (CSIT)(安全信息科技中心)
本文首次研究了SNN在联邦学习中的梯度泄露问题,发现其非可微性和替代梯度训练降低了隐私风险,凸显了神经形态计算的隐私保护潜力。
2025-11-26 cs.AI cs.DC cs.LG
GI-PIP: Do We Require Impractical Auxiliary Dataset for Gradient Inversion Attacks?
School of Cyber Science and Technology, Beihang University(北京航空航天大学网络空间科学与技术学院);School of Electronics and Information Engineering, Beihang University(北京航空航天大学电子信息工程学院)
本文提出GI-PIP方法,利用异常检测模型从少量辅助数据中提取图像先验分布,并以异常分数损失调控梯度反转攻击,仅用ImageNet 3.8%的数据即实现16.12 dB PSNR恢复,显著降低了对辅助数据量和分布的要求。
2024-04-01 cs.AI cs.CR cs.LG
DictPFL: Efficient and Private Federated Learning on Encrypted Gradients
University of Central Florida(佛罗里达中央大学);Florida State University(佛罗里达州立大学);Old Dominion University(旧 Dominion 大学);University of Texas Health Science Center at Houston(德克萨斯大学健康科学中心休斯顿分校)
DictPFL通过分解权重和加密感知剪枝,实现全梯度加密的联邦学习,通信成本降低402-748倍,训练加速28-65倍,性能接近明文FL。
2025-10-24 cs.CR cs.LG
Enhancing Federated Learning with Adaptive Differential Privacy and Priority-Based Aggregation
Isfahan University of Technology(伊斯法罕理工大学)
本文提出一种个性化差分隐私联邦学习框架,根据客户端影响因子注入噪声并考虑异质性进行聚合,分析固定与自适应影响因子下的收敛边界。
2024-06-26 cs.CR cs.DC cs.LG
Foreseeing Reconstruction Quality of Gradient Inversion: An Optimization Perspective
KAIST(韩国科学技术院)
本文从优化视角提出损失感知漏洞代理(LAVP),利用Hessian特征值预测梯度反演攻击的重建质量,优于传统梯度范数,提升联邦学习安全性。
2023-12-19 cs.CR cs.CV cs.LG
FedHide: Federated Learning by Hiding in the Neighbors
Qualcomm AI Research(高通人工智能研究中心)
针对单类别客户端联邦学习的隐私保护问题,提出FedHide方法,通过真实原型与最近邻线性组合生成代理原型共享,兼具判别性与隐私性,经多数据集验证有效且抗梯度反转攻击。
2024-09-12 cs.LG
Temporal Gradient Inversion Attacks with Robust Optimization
Shanghai Jiao Tong University(上海交通大学);WeBank(微众银行)
针对联邦学习中单次迭代梯度反转攻击因梯度维度不足等无法重建私有数据的问题,提出无需先验知识、利用多时序梯度结合鲁棒统计的TGIAs-RO攻击方法,经理论与多数据集实验验证性能更优,为隐私保护研究提供启发。
2023-06-13 cs.CR cs.LG