Enhancing Accuracy-Privacy Trade-off in Differentially Private Split Learning
本文研究差分隐私分割学习在多客户端不同隐私要求下的准确率下降问题,提出审查其他客户端DP噪声分布、在较后本地层引入噪声及减小粉碎数据大小的方法,优化了准确率与隐私的权衡并降低通信开销。
2024-10-16 cs.CR
Data Cooperatives for Identity Attestations
本文提出数据合作社中通过法律实体会签的盲认证机制,移除成员身份以保护隐私,适用于数字资产交易和去中心化社交网络等场景。
2023-10-29 cs.CR
A Stealthy Wrongdoer: Feature-Oriented Reconstruction Attack against Split Learning
本文提出针对拆分学习的半诚实数据重构攻击FORA,利用公开辅助样本和特征级迁移学习构建替代客户端以模仿受害客户端的表示偏好,隐蔽且有效地重构私有数据,性能优于现有方法。
2024-12-20 cs.CR
CURE: Privacy-Preserving Split Learning Done Right
Koç University(博阿齐奇大学);Bilkent University(比尔肯特大学)
针对分割学习中服务器与客户端交换中间输出导致隐私泄露的问题,提出基于同态加密的CURE系统,通过加密模型服务器端和先进打包技术,在保持精度的同时将运行效率提升16倍。
2026-07-23 cs.CR
Robust Client-Server Watermarking for Split Federated Learning
East China Normal University(华东师范大学);Hunan University(湖南大学);China University of Petroleum(中国石油大学)
针对拆分联邦学习中客户端与服务器共同训练导致的知识产权归属模糊问题,提出RISE非对称协同水印方案,实现双方所有权验证,水印检测率超95%且抗攻击、无互扰。
2025-11-17 cs.AI cs.CR
Split Learning without Local Weight Sharing to Enhance Client-side Data Privacy
本文提出无本地权重共享的隐私增强分割学习(P-SL)及其并行化和缓存训练变体,以减少客户端数据泄露达50%,并在动态环境下保持准确性、降低计算通信成本。
2024-07-21 cs.CR cs.DC
Split Ways: Privacy-Preserving Training of Encrypted Data Using Split Learning
分裂学习(SL)是一种新的协作学习技术,其允许参与者(例如,客户端和服务器)在客户端不共享原始数据的情况下训练机器学习模型。在此设置中,客户端首先将其部分机器学习模型应用于原始数据以生成激活图,然后将其发送到服务器以继续训练过程。该领域的先前工作表明,重构激活图可能导致客户端数据的隐私泄露。除此之外,克服SL隐私泄露的现有缓解技术证明在准确性方面明显更差。在本文中,我们通过构建一个基于U形SL的协议来改进以前的工作,该协议可以对同态加密数据进行操作。更准确地说,在我们的方法中,客户端在将激活映射发送到服务器之前对其应用同态加密(HE),从而保护用户隐私。与其他基于SL的作品相比,这是减少隐私泄露的重要改进。最后,我们的结果表明,在最佳参数集下,与在明文上训练相比,在U形SL设置中使用HE数据进行训练仅使准确率降低2.65%。此外,原始训练数据隐私被保留。
2023-01-20 cs.CR cs.LG
UnSplit: Data-Oblivious Model Inversion, Model Stealing, and Label Inference Attacks Against Split Learning
Koç University(科奇大学);Bilkent University(比尔肯特大学)
训练深度神经网络通常会迫使用户在分布式或外包环境中工作,并伴随着隐私问题。分裂学习旨在通过在客户端和服务器之间分发模型来解决这个问题。该方案据称提供隐私,因为服务器无法看到客户端的模型和输入。我们表明,这是不正确的,通过两个新的攻击。(1)我们表明,一个诚实但好奇的分裂学习服务器,只配备了客户端神经网络架构的知识,可以恢复输入样本,并获得功能相似的模型,客户端模型,而不会被检测到。(2)我们表明,如果客户端只隐藏模型的输出层以“保护”私有标签,诚实但好奇的服务器可以以完美的准确度推断标签。我们使用各种基准数据集测试我们的攻击,并针对建议的隐私增强扩展来分割学习。我们的研究结果表明,明文分割学习可能会带来严重的风险,从数据(输入)隐私到知识产权(模型参数),并且只会提供虚假的安全感。
2022-09-16 cs.CR cs.LG
FedVS: Straggler-Resilient and Privacy-Preserving Vertical Federated Learning for Split Models
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
本文提出FedVS框架,通过秘密共享方案同时解决拆分垂直联邦学习中掉队客户端导致的性能下降和嵌入上传引发的隐私泄露问题,并在多种数据集上验证了其优势。
2023-07-06 cs.CR cs.IT cs.LG
SafeSplit: A Novel Defense Against Client-Side Backdoor Attacks in Split Learning (Full Version)
Technical University of Darmstadt(达姆施塔特工业大学)
SafeSplit是针对分割学习中客户端后门攻击的首个防御方法,通过循环反向分析和双重检测(频域静态分析与旋转距离动态度量)识别并过滤恶意客户端,在保持模型效用的同时有效缓解后门攻击。
2025-02-24 cs.CR cs.DC cs.LG
Tri-LLM Cooperative Federated Zero-Shot Intrusion Detection with Semantic Disagreement and Trust-Aware Aggregation
SWAT Laboratory, Polytechnique Montréal(Polytechnique Montréal SWAT 实验室);Department of Computer and Software Engineering, Polytechnique Montréal(Polytechnique Montréal 计算机与软件工程系)
本文提出基于三LLM的联邦IDS框架,通过语义监督实现零日入侵检测,提升对未知攻击行为的识别能力,同时增强对异构和不可靠客户端的鲁棒性。
2026-01-30 cs.AI cs.CR
ZORRO: Zero-Knowledge Robustness and Privacy for Split Learning (Full Version)
University of California San Diego(加州大学圣地亚哥分校);Technical University of Darmstadt(达姆施塔特技术大学)
本文提出ZORRO,一种基于交互式零知识证明的分割学习防御方案,通过强制客户端正确执行防御算法并验证本地模型良性,将后门攻击成功率降至6%以下且开销极低。
2025-09-11 cs.AI cs.CR
Love or Hate? Share or Split? Privacy-Preserving Training Using Split Learning and Homomorphic Encryption
Tampere University(坦佩雷大学);RISE Research Institutes of Sweden(瑞典RISE研究院);Nokia Bell Labs(诺基亚贝尔实验室)
本文提出一种基于U形拆分学习和同态加密的隐私保护训练协议,客户端对激活图加密后再发送给服务器,在保护原始数据隐私的同时,相比明文训练准确率仅下降2.65%。
2023-09-19 cs.CR cs.LG
Make Split, not Hijack: Preventing Feature-Space Hijacking Attacks in Split Learning
Tampere University(坦佩雷大学);RISE Research Institutes of Sweden(瑞典RISE研究院)
本研究针对拆分学习易受特征空间劫持等攻击、隐私保护不足的问题,提出结合拆分学习与函数秘密共享的混合方法,通过随机掩码与秘密份额处理实现数据隐私保护,兼具高准确率、低通信开销与训练效率优势。
2024-04-14 cs.AI cs.CR
Unleashing the Tiger: Inference Attacks on Split Learning
EPFL(洛桑联邦理工学院);George Mason University(乔治梅森大学);Institute of Applied Computing, CNR(意大利国家研究委员会应用计算研究所)
我们研究了分裂学习的安全性--一种新颖的协作机器学习框架,它通过最小的资源消耗来实现峰值性能。在本文中,我们暴露的协议的漏洞,并证明其固有的不安全性,通过引入一般的攻击策略,针对客户端的私人训练集的重建。更突出的是,我们发现恶意服务器可以主动劫持分布式模型的学习过程,并将其带入不安全状态,从而对客户端数据进行推理攻击。我们实现了不同的攻击适应,并在各种数据集以及现实的威胁场景中进行测试。我们证明,我们的攻击是能够克服最近提出的防御技术,旨在提高分裂学习协议的安全性。最后,我们还说明了协议的不安全性对恶意客户端扩展以前设计的攻击联邦学习。为了使我们的结果可重复,我们在https://github.com/pasquini-dario/SplitNN_FSHA上提供了我们的代码。
2021-11-04 cs.CR cs.LG
Can We Use Split Learning on 1D CNN Models for Privacy Preserving Training?
Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);Cyber Security CRC(网络安全合作研究中心);Sungkyunkwan University(成均馆大学)
最近引入了一种新的协作学习,称为分裂学习,旨在保护用户数据隐私,而不向服务器泄露原始输入数据。它协同运行一个深度神经网络模型,其中模型分为两个部分,一个用于客户端,另一个用于服务器。因此,服务器不能直接存取在客户端处理的原始数据。到目前为止,分割学习被认为是保护客户端原始数据的一种有前途的方法;例如,在医疗图像应用中,使用2D卷积神经网络(CNN)模型保护客户端数据。然而,目前还不清楚分裂学习是否可以应用于其他深度学习模型,特别是1D CNN。在本文中,我们研究了分裂学习是否可以用于对1D CNN模型进行隐私保护训练。为了回答这个问题,我们首先设计并实现了一个分裂学习下的1D CNN模型,并使用医学ECG数据验证其在检测心脏异常方面的有效性。我们观察到,分裂学习下的1D CNN模型可以达到与原始(非分裂)模型相同的98.9\%的准确率。然而,我们的评估表明,分裂学习可能无法保护1D CNN模型上的原始数据隐私。为了解决分裂学习中观察到的隐私泄漏,我们采用了两种隐私泄漏缓解技术:1)在客户端添加更多的隐藏层和2)应用差分隐私。虽然这些缓解技术有助于减少隐私泄露,但它们对模型准确性有重大影响。因此,基于这些结果,我们得出结论,单独的分裂学习不足以保持1D CNN模型中原始序列数据的机密性。
2020-03-16 cs.CR cs.LG cs.NE
Split Without a Leak: Reducing Privacy Leakage in Split Learning
Tampere University(坦佩雷大学);RISE Research Institutes of Sweden(瑞典RISE研究院)
针对分割学习中的隐私泄露问题,提出结合同态加密的混合方法,加密激活图防止服务器重建输入,在MIT-BIH数据集上训练快6倍、通信开销降160倍。
2023-08-30 cs.CR cs.LG
Comparison of Privacy-Preserving Distributed Deep Learning Methods in Healthcare
DeepTek Inc(DeepTek公司);Singapore Bioimaging Consortium - A*Star(新加坡生物成像联盟——新加坡科技研究局)
在本文中,我们比较了三种隐私保护分布式学习技术:联邦学习,分裂学习和SplitFed。我们使用这些技术来开发用于从胸部X射线检测结核病的二进制分类模型,并在分类性能,通信和计算成本以及训练时间方面对其进行比较。我们提出了一种新的分布式学习架构SplitFedv3,在我们的实验中,它的性能优于分裂学习和SplitFedv2。我们还提出了交替小批量训练,这是一种用于分割学习的新训练技术,它比交替客户端训练(客户端轮流训练模型)性能更好。
2020-12-23 cs.CR cs.LG
Server-Enforced Watermarking in U-Shaped Split Federated Learning
Software Engineering Institute, East China Normal University(东华大学软件工程学院);College of Computer Science and Electronic Engineering, Hunan University(湖南大学计算机科学与电子工程学院);College of Control Science and Engineering, China University of Petroleum (East China)(中国石油大学(华东)控制科学与工程学院)
针对U型拆分联邦学习中能力受限服务器易遭模型窃取、现有水印方案不可用或不可行的问题,本文提出强制水印框架Sigil,通过梯度注入嵌入水印并搭配自适应梯度裁剪机制,经实验验证其具备良好的保真度、鲁棒性与隐蔽性。
2026-09-29 cs.AI cs.CR cs.LG
PRSI: Privacy-Preserving Recommendation Model Based on Vector Splitting and Interactive Protocols
School of computer Science and Engineering Sun Yat-sen University(中山大学计算机科学与工程学院)
针对联邦推荐系统(FedRec)的隐私泄露问题及单用户交互数据下的训练挑战,本文提出PRSI隐私保护推荐系统,通过预处理模块、两阶段交互协议实现隐私保护,并验证其安全性、准确性和通信成本。
2024-11-27 cs.AI cs.CR
Exploring the Privacy-Energy Consumption Tradeoff for Split Federated Learning
本文系统分析分割联邦学习中切分层选择对客户端能耗与隐私的影响,并通过示例展示在能量预算约束下降低原始数据重建风险的权衡策略。
2024-05-03 cs.AI cs.CR cs.LG
Advancements of federated learning towards privacy preservation: from federated learning to split learning
CSIRO Data61(澳大利亚联邦科学与工业研究组织Data61)
在分布式协作机器学习(DCML)范式中,联邦学习(FL)最近因其在健康,金融以及工业4.0和智能汽车等最新创新中的应用而备受关注。FL通过设计提供隐私。它在多个分布式客户端(从两个到数百万个)(如手机)上协作训练机器学习模型,而不与任何其他参与者共享原始数据。在实际场景中,并非所有客户端都具有足够的计算资源(例如,物联网),机器学习模型具有数百万个参数,并且在训练/测试时其在服务器和客户端之间的隐私是主要关注的(例如,竞争对手)。在这方面,FL是不够的,所以引入了分裂学习(SL)。SL在这些场景中是可靠的,因为它将模型分成多个部分,将它们分布在客户端和服务器之间,并训练/测试它们各自的模型部分以完成完整的模型训练/测试。在SL中,参与者不与任何其他方共享数据及其模型部分,并且通常将较小的网络部分分配给数据所在的客户端。最近,引入了FL和SL的混合,称为splitfed learning,以提升FL(更快的训练/测试时间)和SL(模型分割和训练)的优势。根据从外语到外语的发展,并考虑到外语的重要性,本章旨在提供外语及其变体的广泛覆盖。覆盖面包括基本面,现有的调查结果,与隐私措施,如差分隐私,开放的问题,和代码实现的集成。
2020-11-25 cs.AI cs.CR cs.LG
HierSFL: Local Differential Privacy-aided Split Federated Learning in Mobile Edge Computing
Deakin University(迪肯大学);University of Alabama in Huntsville(阿拉巴马大学亨茨维尔分校);VinUniversity;Royal Melbourne Institute of Technology University(皇家墨尔本理工大学)
本文提出HierSFL算法,通过边缘与云分层聚合和本地差分隐私机制,在保护隐私的同时降低移动边缘计算中分割联邦学习的训练时间与通信开销,并在CIFAR-10和MNIST上验证了其优于标准联邦学习的性能。
2024-01-16 cs.CR cs.CV cs.DC
LSTMSPLIT: Effective SPLIT Learning based LSTM on Sequential Time-Series Data
ENNEW Digital Research Institute, ENN Group(新奥集团新智数字研究院);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院);National University of Singapore(新加坡国立大学)
联邦学习(FL)和分裂学习(SL)是两种流行的分布式机器学习(ML)方法,它们提供了一些数据隐私保护机制。在时间序列分类问题中,许多研究人员通常使用基于SL方法的1D卷积神经网络(1DCNN)与单个客户端,以减少客户端的计算开销,同时仍然保护数据隐私。另一种方法,递归神经网络(RNN),用于顺序分区的数据,其中多段顺序数据的段分布在各个客户端上。然而,据我们所知,这仍然是不多的工作,在SL与长短期记忆(LSTM)网络,即使是LSTM网络是实际有效的处理时间序列数据。在这项工作中,我们提出了一种新的方法,LSTMSPLIT,它使用SL架构和LSTM网络来对多个客户端的时间序列数据进行分类。采用差分隐私(DP)技术解决数据隐私泄露问题。与使用心电图数据集和人类活动识别数据集的Split-1DCNN方法相比,所提出的方法LSTMSPLIT已经实现了更好或合理的准确性。此外,所提出的方法,LSTMSPLIT,也可以达到良好的准确性后,应用差分隐私,以保护用户的隐私层的LSTMSPLIT。
2022-03-08 cs.AI cs.CR cs.LG
SplitAMC: Split Learning for Robust Automatic Modulation Classification
Yonsei University(延世大学)
本文提出基于分割学习框架的SplitAMC,通过交换粉碎数据及梯度保护隐私、降低延迟并增强抗噪性,在所有SNR下准确率和延迟均优于CentAMC与FedeAMC。
2023-04-17 cs.CR cs.DC cs.IT
Feature Space Hijacking Attacks against Differentially Private Split Learning
LiveRamp
拆分学习和差分隐私技术在帮助分布式数据集进行隐私合规高级分析方面具有越来越大的潜力。对分裂学习的攻击是一种重要的评估工具,最近受到越来越多的研究关注。这项工作的贡献是应用最近的特征空间劫持攻击(FSHA)的分裂神经网络的学习过程中增强了差分隐私(DP),使用客户端现成的DP优化器。FSHA攻击在任意设置的DP攻击级别下以低出错率获得客户端的私有数据重建。我们还尝试了降维作为一种潜在的攻击风险缓解,并表明它可能在一定程度上有所帮助。我们讨论了为什么差分隐私在这种情况下不是一种有效的保护,并提到潜在的其他风险缓解方法的原因。
2022-01-14 cs.AI cs.CR
Coded Cooperative Data Exchange for a Secret Key
我们考虑一个编码的合作数据交换问题的目标是产生一个秘密密钥。具体来说,我们调查的公共传输所需的一组客户端同意秘密密钥的概率为1,受到的约束,它仍然是私人的窃听者。虽然问题是密切相关的,我们证明了秘密密钥的生成与最少的线性传输次数是NP-难的,而它是已知的,在传统的合作数据交换类似的问题可以解决在多项式时间。在这样做的时候,我们完全描述了线性编码方案的最佳性能,并且还证明了线性码可以是严格次优的。最后,我们扩展了单密钥的结果来表征所需的最小数量的公共传输生成所需的整数个统计独立的秘密密钥。
2014-07-01 cs.CR cs.IT math.IT
Measuring and Controlling Split Layer Privacy Leakage Using Fisher Information
Pennsylvania State University(宾夕法尼亚州立大学);Meta AI;Georgia Institute of Technology(佐治亚理工学院);Cornell University(康奈尔大学)
拆分学习和推理建议运行跨客户端设备和云拆分的大型模型的训练/推理。然而,这样的模型分割强加了隐私问题,因为流经分割层的激活可能泄漏关于客户端的私有输入数据的信息。目前还没有好的方法来量化有多少私人信息通过分离层泄露,也没有好的方法来将隐私提高到所需的水平。在这项工作中,我们提出使用Fisher信息作为隐私度量来测量和控制信息泄漏。我们表明,费舍尔信息可以提供一个直观的理解有多少私人信息泄漏通过分裂层,在一个无偏重建攻击者的错误界的形式。然后,我们提出了一个隐私增强技术,ReFIL,可以强制执行用户所需的水平的费舍尔信息泄漏在分裂层,以实现高隐私,同时保持合理的效用。
2022-09-21 cs.CR cs.LG
On Feasibility of Server-side Backdoor Attacks on Split Learning
Radboud University(拉德堡德大学)
本文首次研究分割学习中的服务器端后门攻击,提出代理客户端和自编码器两种注入方法,通过761次实验证明分割学习对此类投毒攻击具有高度鲁棒性。
2023-05-26 cs.AI cs.CR
Split-and-Denoise: Protect large language model inference with local differential privacy
National University of Singapore(新加坡国立大学);North China Electric Power University(华北电力大学);University of South California(南加利福尼亚大学)
本文提出Split-N-Denoise(SnD)隐私推理框架,通过在客户端执行嵌入层并引入噪声,在服务器端处理后去噪,有效保护LLM推理隐私,在相同隐私预算下性能平均提升超10%。
2024-08-27 cs.AI cs.CR
What Gradients Add to Text Leakage in Split Language Models, Counted per Token and per Document
本研究量化了分割学习中梯度对文本泄露的额外贡献,发现按文档计数时泄露显著增加,并建议同时按词元和文档报告泄露,将分割模型发送的数据视为与文本同等敏感。
2026-10-06 cs.CL cs.CR cs.LG
LLM-Based Schema-Aware Split Learning for Privacy-Preserving Mental Distress Prediction Across Heterogeneous Surveys
Southern Illinois University Carbondale(南伊利诺伊大学卡本代尔分校)
提出一种基于LLM的架构感知分裂学习框架,通过语义编码统一异构调查数据,在保护隐私的同时实现高效协作学习,显著提升准确率并降低客户端计算开销。
2026-09-15 cs.AI cs.CR cs.LG