PPFL: Privacy-preserving Federated Learning with Trusted Execution Environments
Imperial College London(帝国理工学院);Telefónica Research(西班牙电信研究院)
我们提出并实现了一个隐私保护的联邦学习($PPFL$)框架的移动系统,以限制隐私泄漏的联邦学习。利用高端和移动设备中广泛存在的可信执行环境(TEE),我们在客户端上利用TEE进行本地训练,并在服务器上进行安全聚合,以便对对手隐藏模型/梯度更新。由于当前TEE的内存大小有限,我们利用贪婪逐层训练来训练可信区域内的每个模型的层,直到其收敛。我们的实现的性能评估表明,$PPFL$可以显着提高隐私,同时在客户端产生小的系统开销。特别地,$PPFL$可以成功地保护训练模型免受数据重构、属性推断和成员推断攻击。此外,与完整模型的标准联邦学习相比,它可以实现具有更少的通信轮数(0.54 $\times$)和类似的网络流量(1.002 $\times$)的可比模型效用。这是在$PPFL$的客户端中仅引入高达~15%的CPU时间、~18%的内存使用和~21%的能耗开销的情况下实现的。
2021-06-28 cs.CR cs.DC cs.LG
Voltran: Unlocking Trust and Confidentiality in Decentralized Federated Learning Aggregation
针对现有区块链赋能的去中心化联邦学习存在的模型机密性不足、计算资源有限的问题,提出结合TEE与区块链的Voltran混合平台,通过链下TEE聚合、链上验证及多SGX并行策略,在保障安全的同时实现低开销与高加速比。
2024-08-13 cs.CR
Secure Aggregation for Buffered Asynchronous Federated Learning
University of Southern California (USC)(南加利福尼亚大学);University of California, Riverside(加州大学河滨分校)
联邦学习(FL)通常依赖于同步训练,由于离散者,这是缓慢的。虽然异步训练有效地处理了掉队者,但由于与安全聚合协议的不兼容性,它不能确保隐私。最近提出了一种称为FedBuff的缓冲异步训练协议,该协议弥合了同步和异步训练之间的差距,以减轻掉队者,同时也确保隐私。FedBuff允许用户异步发送他们的更新,同时通过将更新存储在支持可信执行环境(TEE)的私有缓冲区中来确保隐私。然而,TEE具有有限的存储器,这限制了缓冲区大小。出于这种限制,我们开发了一个缓冲的异步安全聚合(BASecAgg)协议,不依赖于TEE。传统的安全聚合协议不能应用于缓冲的异步设置中,因为缓冲器可能具有对应于不同轮次的本地模型,因此用户用来保护其模型的掩码可能不会抵消。BASecAgg通过仔细设计掩码来解决这一挑战,即使它们对应于不同的轮,它们也会相互抵消。我们的收敛性分析和实验表明,BASecAgg几乎有相同的收敛保证FedBuff不依赖于TEE。
2021-10-05 cs.CR cs.DC cs.IT
Shielding Federated Learning Systems against Inference Attacks with ARM TrustZone
INSA Lyon(里昂国立应用科学学院);Ecole nationale Supérieure d’Informatique(国立高等计算机学院);CNRS(法国国家科学研究中心);University of Neuchâtel(纳沙泰尔大学)
联邦学习(FL)为训练机器学习模型开辟了新的视角,同时将个人数据保存在用户的场所。具体地,在FL中,模型在用户设备上训练,并且仅模型更新(即,梯度)被发送到中央服务器用于聚集目的。然而,近年来发布的一长串从梯度中泄漏私人数据的推理攻击强调了设计有效保护机制以激励大规模采用FL的必要性。虽然存在减轻服务器侧上的这些攻击的解决方案,但是几乎没有做什么来保护用户免受在客户端侧上执行的攻击。在这种情况下,在客户端使用可信执行环境(TEE)是最具建议性的解决方案之一。然而,现有的框架(例如,DarkneTZ)需要静态地将大部分机器学习模型放入TEE中,以有效地抵御复杂攻击或攻击组合。我们提出了GradSec,一种解决方案,允许在TEE中仅静态或动态地保护机器学习模型的敏感层,因此与最先进的竞争对手相比,TCB大小和总训练时间分别减少了30%和56%。
2022-10-15 cs.AI cs.CR
Toward provably private analytics and insights into GenAI use
Google(谷歌)
提出一种基于TEE的联邦分析系统,通过加密上传、受限处理步骤和密钥管理服务实现可验证隐私,支持LLM处理非结构化数据并自动调优差分隐私,已生产部署。\n
2025-10-24 cs.CR
TeeDAO: A Decentralized Autonomous Organization for Heterogeneous TEEs
City University of Hong Kong(香港城市大学);Shanghai Jiao Tong University(上海交通大学);Southern University of Science and Technology(南方科技大学)
提出TeeDAO三层框架,通过BFT排序治理与异构感知的分布式主动秘密共享和多方安全计算,实现异构TEE实例的自动组织与长期安全保证。
2026-06-03 cs.CR
TeeRollup: Efficient Rollup Design Using Heterogeneous TEE
Southern University of Science and Technology(南方科技大学)
TEERollup通过利用异构TEE实现高效rollup,降低gas成本和提款延迟,优于零知识rollup。
2025-11-30 cs.CR
End-to-End Security for Distributed Event-Driven Enclave Applications on Heterogeneous TEEs
本文提出一个集成开源框架,基于异构TEE扩展安全原语,在较小可信计算基上保障分布式事件驱动应用端到端的真实性、完整性、机密性与可用性。
2023-06-29 cs.CR
A Fast, Performant, Secure Distributed Training Framework For Large Language Model
Ant Group(蚂蚁集团)
针对分布式LLM训练中的参数与数据窃取风险,提出基于模型切片、TEE、轻量加密、拆分微调及SPF与LoRA结合的安全框架,在保障安全的同时维持下游任务准确率。
2024-01-19 cs.CR cs.LG
Separation of Powers in Federated Learning
IBM Research(IBM研究院)
联邦学习(FL)使相互不信任的各方能够进行协作培训。模型更新,而不是训练数据,被集中和融合在一个中央聚合服务器中。FL中的一个关键安全挑战是不可信或受损的聚合过程可能导致不可预见的信息泄漏。由于最近证明的攻击已经从表面上"净化"的模型更新重建了大部分训练数据,因此这一挑战尤其严峻。在本文中,我们介绍了TRUDA,一个新的跨筒仓FL系统,采用了一个值得信赖的和分散的聚合体系结构,打破了信息集中在一个单一的聚合器。基于模型融合算法的独特计算特性,TRUDA中所有交换的模型更新都以参数粒度进行分解,并重新拼接为指定用于多个受TEE保护的聚合器的随机分区。因此,每个聚合器只具有模型更新的片段和混合视图,并且不注意模型架构。我们的新安全机制可以从根本上减轻训练重建攻击,同时仍然保持训练模型的最终准确性并保持低性能开销。
2021-05-19 cs.CR cs.LG
Physical and Software Based Fault Injection Attacks Against TEEs in Mobile Devices: A Systemisation of Knowledge
本文系统梳理了针对移动设备TEE的物理与软件故障注入攻击方法,重点分析EMFI等非侵入性技术的威胁与案例,并提出动态异常检测等对策以增强TEE韧性。
2024-11-22 cs.CR
Verification of Lightning Network Channel Balances with Trusted Execution Environments (TEE)
Stillmark;IBEX Mercado;Lexe;Hoseki
本文提出利用可信执行环境和零知识传输层安全技术,通过硬件保障验证闪电网络通道余额,以提高安全性与可靠性。
2025-12-17 cs.CR
FedMPQ: Secure and Communication-Efficient Federated Learning with Multi-codebook Product Quantization
Hunan University(湖南大学)
本文提出FedMPQ,一种基于多共享码本乘积量化的联邦学习上行通信压缩方法,通过前一轮更新生成鲁棒码本并结合TEE或TTP实现安全聚合,在non-IID数据场景下将上行通信减少90-95%且保持99%基线准确率。
2024-04-21 cs.AI cs.CR
Blockchain-based Federated Learning with Secure Aggregation in Trusted Execution Environment for Internet-of-Things
针对工业物联网联邦学习中本地模型易被篡改的问题,提出结合区块链与 Intel SGX TEE 的安全聚合框架,通过可信执行、共识验证和分布式账本保障全局模型完整性,并以多组 CNN 与数据集实验评估性能。
2023-04-25 cs.AI cs.CR
CrowdGuard: Federated Backdoor Detection in Federated Learning
Technical University of Darmstadt(达姆施塔特工业大学);University of Würzburg(维尔茨堡大学)
针对联邦学习易受后门攻击且现有防护存在局限的问题,提出CrowdGuard防御机制,结合客户端反馈、隐藏层神经元分析与迭代剪枝,依托TEE保障隐私,在多场景下实现100%检测准确率且可抵御自适应攻击。
2023-08-22 cs.CR cs.LG
Characterization of GPU TEE Overheads in Distributed Data Parallel ML Training
本文深入表征了使用 GPU TEE 进行分布式数据并行机器学习训练的性能开销,揭示了 ring-all-reduce 通信中的加密与认证机制导致显著性能下降,在四 GPU TEE 环境下单次迭代运行时间平均增加 8 倍,最高达 41.6 倍。
2025-08-13 cs.CR cs.DC
TEE-X: TEE-aware Acceleration Framework for Large Vision Models at the Edge
North Carolina State University(北卡罗来纳州立大学);Binghamton University (SUNY)(宾汉姆顿大学(纽约州立大学系统));Florida International University(佛罗里达国际大学);Intel(英特尔公司)
该研究提出TEE-X框架,在Arm TrustZone的OP-TEE上验证,可在NVIDIA Jetson AGX Xavier上实现大视觉模型的安全高效边缘推理,兼顾性能与安全性。
2026-08-25 cs.AI cs.CR
Protecting CPU AI On Edge TEEs: WebAssembly's Promise and Practical Challenges
Ghent University - imec(根特大学-艾梅克研究所);Aalto University(阿尔托大学)
本研究针对边缘TEE上AI模型IP易遭窃取的问题,提出基于WebAssembly和WAMR在OP-TEE中运行未修改AI模型的方案,评估显示其开销与延迟可控,具有应用前景但仍存挑战。
2026-10-09 cs.CR cs.SE
A Holistic Approach for Trustworthy Distributed Systems with WebAssembly and TEEs
本文提出并实现了一种基于WebAssembly和Intel SGX的可移植、全 attestation 的MQTT发布/订阅中间件,通过扩展TLS保护attestation信息隐私,并实验评估了其安全可信通信的性能开销。
2023-12-01 cs.CR cs.DC
Enabling Trustworthy Federated Learning via Remote Attestation for Mitigating Byzantine Threats
Virginia Tech(弗吉尼亚理工大学)
针对联邦学习易受拜占庭攻击、现有数据驱动防御误报率高的问题,提出基于远程证明的Sentinel方案,通过代码插桩和TEE可信记录器验证客户端训练完整性,在低开销下保障训练可信。
2025-08-30 cs.AI cs.CR
Proof of Luck: an Efficient Blockchain Consensus Protocol
在本文中,我们提出了多个区块链共识原语和一个新的区块链系统的设计,所有这些都基于使用可信执行环境(TEE),例如支持Intel SGX的CPU。首先,我们展示了如何使用TEE为现有的工作量证明方案可以通过防止使用ASIC来公平地分配挖掘。接下来,我们使用时间证明和所有权证明共识原语扩展设计,以提高挖掘的能源和时间效率。进一步改进这些设计,我们提出了一个使用运气证明共识协议的区块链。我们的运气证明区块链使用TEE平台的随机数生成来选择共识领导者,它提供低延迟的交易验证,确定性的确认时间,可忽略的能耗和公平分布的挖掘。最后,我们讨论了一个潜在的保护高达一个恒定数量的妥协的TEE。
2017-03-16 cs.CR cs.DC
Mixed Fault Tolerance Protocols with Trusted Execution Environment
区块链系统是在存在故障的情况下设计、构建和运行的。有两种主要的故障模式,即崩溃故障和拜占庭故障。拜占庭容错(Byzantine fault tolerance,BFT)协议提供了更强的安全保障,因此被广泛应用于区块链系统。然而,它们的安全性保证是以牺牲性能和可扩展性为代价的。一些工作已经改进了BFT协议,可信执行环境(TEE)已被证明是一个有效的解决方案。然而,现有的这样的作品通常假设每个参与节点配备有TEE。对于其中参与者通常具有不同硬件配置的区块链系统,即,一些节点以TEE为特征,而其他节点不以TEE为特征,现有的基于TEE的BFT协议是不适用的。这项工作研究的设置,其中不是所有的参与节点功能TEE,根据我们提出了一个新的故障模型称为混合故障。在混合故障模型下,我们探索了一种设计高效分布式容错协议的新方法。通常,混合容错(MFT)协议假设$n$节点的网络,其中多达$f = \frac{n-2}{3}$可以经受混合故障。我们确定了两个关键原则,设计高效的MFT协议,即(i)优先考虑非模棱两可的节点在领导的协议,(ii)提倡使用公钥密码原语,允许认证的消息被聚合。我们通过规定MFT协议(即MRAft)来展示这些设计原则。我们使用英特尔SGX实现了MRAFT的原型,将其集成到CCF区块链框架中,进行了实验,并表明MFT协议可以获得与BFT协议相同的安全保证,同时仍然提供更好的性能(交…
2022-08-03 cs.CR cs.DC
A Survey of Secure Computation Using Trusted Execution Environments
Singapore Management University(新加坡管理大学);Xidian University(西安电子科技大学);Chongqing University(重庆大学);Jinan University(暨南大学)
作为支撑可信计算的一项重要技术,可信执行环境(TEE)允许在本地和异地数据上启动计算任务,同时确保机密性和完整性。本文提供了一个系统的审查和比较基于TEE的安全计算协议。我们首先提出了一个分类法,将安全计算协议分为三大类,即安全外包计算,安全分布式计算和安全多方计算。为了使这些协议的公平比较,我们还提出了全面的评估标准,就四个方面:设置,方法,安全性和性能。基于这些标准,我们回顾,讨论和比较最先进的基于TEE的安全计算协议的通用计算功能和专用的,如隐私保护机器学习和加密数据库查询。据我们所知,这篇文章是第一次调查,审查基于TEE的安全计算协议和全面的比较可以作为一个指南,选择合适的协议部署在实践中。最后,我们还讨论了几个未来的研究方向和挑战。
2023-02-23 cs.AI cs.CR cs.DB
Parallel Distributed Logistic Regression for Vertical Federated Learning without Third-Party Coordinator
Baidu, Inc.(百度公司)
联邦学习是一种新的分布式学习机制,它允许在不同数据提供者拥有的分散数据的大型语料库上进行模型训练,而不会共享或泄漏原始数据。根据数据分发的特点,通常可以将其分为三大类:水平联邦学习、垂直联邦学习和联邦迁移学习。在本文中,我们提出了一种解决方案,用于垂直联邦学习的并行分布逻辑回归。与现有的作品相比,第三方协调员的作用是删除在我们提出的解决方案。该系统建立在参数服务器体系结构上,目的是在大容量训练数据的情况下,通过利用服务器集群来加快模型训练。我们还评估了并行分布式模型训练的性能,实验结果表明该系统具有很好的可扩展性。
2019-11-22 cs.CR cs.DC cs.LG
Distributed systems and trusted execution environments: Trade-offs and challenges
计算机系统中的安全和隐私问题随着连接设备的普遍存在而变得越来越重要。TEE基于硬件内置的的密码构造提供安全保证。特别是英特尔软件防护扩展(SGX),它实现了强大的机制,可以保护敏感数据,即使是对系统软件具有完全控制权的特权用户也可以保护。在这项工作中,我们主要探讨了使用英特尔SGX作为基石设计安全分布式系统所面临的一些挑战。我们这样做的设计和实验评估几个基本的系统,从通信和处理中间件的对等隐私保护的解决方案。我们从自然适合云部署场景的支持系统开始,即基于内容的路由,路由和流处理框架。我们实现了原型,并使用它们来分析SGX固有的内存使用问题。接下来,我们的目标是保护非常敏感的数据:加密密钥。通过利用TEE,我们设计的组数据共享协议,具有较低的计算复杂性比传统的方法。作为奖励,我们的建议允许大量节省元数据量和加密操作的处理时间,所有这些都具有同等的安全保证。最后,我们提出了隐私保护系统对既定的服务,如网络搜索引擎。我们的评估表明,我们提出了最强大的系统相比,现有的解决方案,用户重新识别率和结果的准确性在一个可扩展的方式。总的来说,本论文提出了新的机制,利用分布式系统架构的TEE。我们通过基于英特尔SGX的实证方法展示了应用于分布式通信和处理、加密协议和私有Web搜索的不同设计的利弊。
2020-03-11 cs.CR cs.DC cs.PF