Toward provably private learning from federated data
提出基于可信执行环境的联邦学习系统，首次提供外部可验证的中心化差分隐私保证，提升隐私-效用权衡并已投入生产用于Gboard模型训练。
2026-10-01 cs.CR
Oblivious Sampling Algorithms for Private Data Analysis
University of Waterloo（滑铁卢大学）；Microsoft（微软公司）；The University of Melbourne（墨尔本大学）
我们研究安全和隐私保护的数据分析的基础上执行的查询样本从数据集。可信执行环境（TEE）可用于在查询计算期间保护数据的内容，而在TEE中支持差分私有（DP）查询在查询输出被揭示时提供记录隐私。由于\emph{privacy amplification}，对基于样本的查询的支持是有吸引力的，因为不是所有的数据集都被用来回答查询，而只是一个小的子集。然而，提取数据样本与TEE，同时证明强大的DP保证是不平凡的样本索引的秘密必须得到保护。为此，我们设计了有效的安全变种常见的采样算法。实验表明，对于MNIST和CIFAR-10的差异隐私模型，使用洗牌和采样训练的模型的准确性是相同的，而采样提供了比洗牌更强的隐私保证。
2020-09-28 cs.CR cs.DS cs.LG
PrivacyGuard: Enforcing Private Data Usage Control with Blockchain and Attested Off-chain Contract Execution
丰富多样的数据正在推动大数据分析的许多变革性应用，这些应用具有深远的社会影响。然而，人们也越来越担心个人数据所有者的私人数据被不当使用。在本文中，我们提出了PrivacyGuard，这是一个利用区块链智能合约和可信执行环境（TEE）的系统，可以让个人控制其私人数据的访问和使用。智能合约用于指定数据使用策略，即，谁可以在什么条件下使用什么数据以及执行什么分析，而分布式区块链分类账用于保持不可逆和不可否认的数据使用记录。为了解决链上合同执行的效率问题，并防止在公开可见的区块链上暴露私人数据，PrivacyGuard结合了一种新型的基于TEE的链下合同执行引擎以及一种协议，以安全地将执行结果提交到区块链上。我们已经使用以太坊和英特尔SGX构建并部署了PrivacyGuard原型。我们的实验结果表明，PrivacyGuard实现了承诺的隐私目标，并支持对来自大量数据所有者的数据进行分析。
2020-07-16 cs.CR
EnclaveTree: Privacy-preserving Data Stream Training and Inference Using TEE
数据流上的分类服务正在成为云提供商的重要产品，但由于隐私问题，用户在提供敏感数据时可能会遇到障碍。虽然可信执行环境（TEE）是保护私有数据的有前途的解决方案，但它们仍然容易受到由数据相关访问模式引起的侧信道攻击的攻击。我们提出了一个隐私保护的数据流训练和推理方案，称为EnclaveTree，它为用户的数据和目标模型提供了保密性，以防止受到损害的云服务提供商。我们设计了一个基于矩阵的训练和推理过程来训练Hoeffding Tree（HT）模型，并在可信区域内对训练好的模型进行推理，从而有效地防止了基于访问模式的攻击。性能评估表明，EnclaveTree对于处理具有少量或中等特征的数据流是实用的。当二进制特征少于63个时，EnclaveTree在训练和推理上分别比naïve oblivious solution快${\thicksim}10{\times}$和${\thicksim}9{\times}$。
2022-03-02 cs.CR
Verification of Lightning Network Channel Balances with Trusted Execution Environments (TEE)
Stillmark；IBEX Mercado；Lexe；Hoseki
本文提出利用可信执行环境和零知识传输层安全技术，通过硬件保障验证闪电网络通道余额，以提高安全性与可靠性。
2025-12-17 cs.CR
Slalom: Fast, Verifiable and Private Execution of Neural Networks in Trusted Hardware
Stanford University（斯坦福大学）
随着机器学习（ML）应用于安全关键或敏感领域，外包ML计算的完整性和隐私性需求日益增长。一个实用的解决方案来自可信执行环境（TEE），它使用硬件和软件保护将敏感计算与不可信的软件堆栈隔离开来。然而，与不受信任的替代方案相比，这些隔离保证在性能上是有代价的。本文通过在可信设备和不可信设备之间有效地划分深度神经网络（DNN）计算，启动了TEE中DNN的高性能执行研究。基于矩阵乘法的有效外包方案，我们提出了Slalom，这是一个框架，可以安全地从TEE（例如，英特尔SGX或Sanctum）到更快但不受信任的协同定位处理器。我们通过在英特尔SGX安全区中运行DNN来评估Slalom，该安全区选择性地将工作委托给不受信任的GPU。对于规范DNN（VGG16，MobileNet和ResNet变体），我们获得了6倍至20倍的可验证推理吞吐量增加，以及4倍至11倍的可验证和私有推理吞吐量增加。
2019-02-27 cs.CR cs.LG stat.ML
Trusted Model Environment for Private Semantic Computations
Vector Institute（Vector 研究所）；University of Waterloo（滑铁卢大学）
针对私有语义计算缺乏高效原语的问题，提出可信模型环境（TME），在TEE内执行生成模型并控制输出泄漏，兼具有效性、机密性、可验证性等，经三个应用验证满足要求。
2026-09-25 cs.CR
SpliTEE: Fast and Private LLM Inference by Coupling GPU-Assisted Trusted Execution Environments with Differential Privacy
Macquarie University（麦考瑞大学）
SpliTEE通过差分隐私保护中间表示，将LLM推理分割到TEE和GPU，实现比CPU推理快近两倍且比加密方案更快的安全加速。
2026-10-07 cs.AI cs.CR cs.LG
Graph in the Vault: Protecting Edge GNN Inference with Trusted Execution Environment
Northeastern University（东北大学）
针对边缘部署GNN的模型知识产权与数据隐私风险，提出基于TEE的GNNVault部署方案，采用训练前划分与私有整流器设计，在Intel SGX上实现，可抵御链路窃取攻击且准确率损失极小。
2025-02-20 cs.AI cs.CR
PTTS: Zero-Knowledge Proof-based Private Token Transfer System on Ethereum Blockchain and its Network Flow Based Balance Range Privacy Attack Analysis
本文提出基于零知识证明的以太坊私有代币转账系统PTTS，并建模为网络流问题分析余额范围隐私攻击，实验评估了Gas消耗、证明时间及攻击有效性。
2023-08-29 cs.CR
Agentic Witnessing: Pragmatic and Scalable TEE-Enabled Privacy-Preserving Auditing
Advanced Research and Invention Agency (ARIA)（先进研究与发明机构）
本文提出Agentic Witnessing框架，通过可信执行环境实现隐私保护审计，利用代理进行逻辑验证，避免数据泄露，验证代码库是否符合论文描述。
2026-04-27 cs.AI cs.CR cs.ET
Verifiable Computation with Trusted Execution Environments and On-Chain Digital Rights Tokens
Frankfurt School of Finance & Management（法兰克福金融管理学院）；University of Cape Town（开普敦大学）
提出利用TEE和链上数字版权令牌实现数据池的可验证计算，通过受限计算权限保护隐私，并在Solana上验证了可行性。
2026-09-21 cs.CR cs.DC
Flatee: Federated Learning Across Trusted Execution Environments
联邦学习允许我们分布式训练机器学习模型，其中多方共享本地模型参数，而无需共享私有数据。然而，参数交换仍然可能泄漏信息。已经提出了几种方法来克服这一点，基于多方计算、全同态加密等;这些协议中的许多协议对于现实世界的使用来说是缓慢和不切实际的，因为它们涉及大量的密码操作。在本文中，我们提出了使用可信执行环境（TEE），它提供了一个平台，隔离执行的代码和数据处理，为此目的。我们描述了Flatee，一个有效的隐私保护联邦学习框架跨TEE，大大减少了培训和通信时间。我们的框架可以处理恶意方（虽然我们描述了一种初步的处理方法，但我们并没有原生地解决对抗性数据投毒）。
2021-11-12 cs.CR
Too Private to Tell: Practical Token Theft Attacks on Apple Intelligence
The Ohio State University（俄亥俄州立大学）
本文研究了Apple Intelligence的令牌发行机制，揭示了可能的漏洞。提出Serpent攻击，首次实现了跨设备令牌重放攻击，允许攻击者窃取令牌并用于其他设备，且使用受限。成功攻击最新macOS 26 Tahoe，证明即使耗尽自身配额，攻击者可立即恢复访问。
2026-04-17 cs.CR
Training a Tokenizer for Free with Private Federated Learning
Cornell Tech（康奈尔科技校区）；Apple（苹果公司）
具有差分隐私的联邦学习，即私有联邦学习（PFL），使得可以在分布在用户设备上的私有数据上训练模型而不损害隐私。PFL对于诸如神经网络之类的模型是有效的，这些模型具有固定数量的参数，因此具有固定维度的梯度向量。这样的模型包括神经网络语言模型，但不包括本文的主题--标记器。训练分词器需要来自无限词汇表的单词的频率，并且用于查找无限词汇表的现有方法需要单独的隐私预算。一种解决方法是根据公开可用的数据对标记器进行训练。然而，在本文中，我们首先表明，与访问用户数据的违反隐私的“oracle”令牌化器相比，在不匹配的数据上训练的令牌化器会导致更差的模型性能，困惑度增加了20%。我们还表明，子词tokenizers更适合联邦上下文比字级的，因为他们可以编码新的单词，虽然每个单词有更多的令牌。其次，我们提出了一种新的方法来获得一个标记器，而不使用任何额外的隐私预算。在语言模型的私有联邦学习过程中，我们从模型中采样，在采样序列上训练新的标记器，并更新模型嵌入。然后，我们继续进行私有联邦学习，并获得“oracle”标记器的1%以内的性能。由于此过程仅间接地在私有数据上训练令牌化器，因此我们可以使用差分隐私的“后处理保证”，从而不使用额外的隐私预算。
2022-03-15 cs.CL cs.CR cs.LG
Towards Confidential and Efficient LLM Inference with Dual Privacy Protection
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院）；State Key Laboratory of Cyberspace Security Defense（网络空间安全防御国家重点实验室）
本文提出CMIF框架，通过将嵌入层部署在客户端TEE、后续层在GPU上，并优化Report-Noisy-Max机制，在保护隐私的同时降低LLM推理开销。
2025-09-11 cs.AI cs.CR
Function Secret Sharing for PSI-CA:With Applications to Private Contact Tracing
在这项工作中，我们描述了一个基于令牌的解决方案，通过分布式点函数（DPF），更一般地说，功能秘密共享（FSS）的接触跟踪。该解决方案背后的关键思想是，FSS本机支持对原始关键字集的安全关键字搜索，而不需要通过用于集合成员资格的数据结构来处理关键字集。此外，FSS功能使得能够将与多个匹配相关联的数字有效载荷相加，而无需额外的交互。这些功能使FSS成为一个有吸引力的工具，用于在属于受感染个体的令牌数据库上进行轻量级隐私保护搜索。
2020-12-24 cs.CR
CipherPrune: Efficient and Scalable Private Transformer Inference
University of Central Florida（中佛罗里达大学）；University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；Ant Research（蚂蚁集团研究院）；Indiana University Bloomington（印第安纳大学伯明顿分校）
提出CipherPrune框架，通过加密令牌剪枝和多项式降低协议及网络优化，解决私有Transformer推理的效率与可扩展性问题，大幅降低执行开销。
2025-03-05 cs.CR cs.LG
HOT Protocol
HOT Labs（HOT实验室）
HOT 协议通过在可信执行环境中运行MPC节点，为智能合约提供安全的私钥管理基础设施，并与NEAR协议的去中心化州层结合，实现跨多个区块链网络的密钥管理。
2025-12-01 cs.CR
Towards Runtime Customizable Trusted Execution Environment on FPGA-SoC
本文针对FPGA-SoC可信执行环境缺乏安全运行时定制的问题，提出RCTEE框架，通过新增CrloadIP、CexecIP和CremoAT三个组件实现IP核的动态加载、安全执行及远程可信验证。
2023-09-13 cs.AR cs.CR
QoS-Aware Token Scheduling and Private Data Valuation for Multi-Modal Agentic Networks
University of British Columbia（不列颠哥伦比亚大学）；Lazai Network（Lazai网络）
针对去中心化代理系统中数据异构和资源受限问题，提出基于差分隐私的多模态表示与公平令牌分配方案，在保障服务质量的同时提升数据隐私和贡献公平性。
2026-06-17 cs.AI cs.CR
DataSeal: Ensuring the Verifiability of Private Computation on Encrypted Data
DataSeal结合ABFT低开销与FHE机密性，为加密数据上的私有计算提供高效可验证性，相比MAC、ZKP和TEE等方法显著降低开销，且随问题规模增大开销趋于可忽略。
2024-10-19 cs.CR
Privacy and Integrity Preserving Training Using Trusted Hardware
University of Southern California（南加州大学）
随着机器学习进入不同的应用领域，隐私和安全相关的问题越来越多。数据持有者希望使用私有数据进行训练，同时利用托管在云中的GPU等加速器。然而，云系统容易受到攻击者的攻击，这些攻击者会损害数据的隐私性和计算的完整性。这项工作介绍了DarKnight，这是一个大型DNN训练框架，同时保护输入隐私和计算完整性。DarKnight依赖于可信执行环境（TEE）和加速器之间的合作执行，其中TEE提供隐私和完整性验证，而加速器执行计算繁重的线性代数运算。
2021-05-01 cs.AR cs.CR cs.LG
Privacy preserving layer partitioning for Deep Neural Network models
针对TEEs运行ML模型推理性能开销高的问题，提出层划分技术将计算拆分至TEE与GPU执行，同时验证了该方法可抵御c-GAN输入重建攻击，在多个常用模型与数据集上完成评估。
2024-04-11 cs.CR
TEESlice: Protecting Sensitive Neural Network Models in Trusted Execution Environments When Attackers have Pre-Trained Models
Peking University（北京大学）；Key Laboratory of High-Confidence Software Technologies (MOE)（高可信软件技术教育部重点实验室）；School of Computer Science, Peking University（北京大学计算机学院）
本文提出了一种训练前分区策略 TEESlice，在攻击者拥有预训练模型的场景下，有效分离隐私敏感权重，以较低计算成本实现 DNN 和大语言模型的完整保护。
2024-11-15 cs.AI cs.CR cs.LG
OLIVE: Oblivious Federated Learning on Trusted Execution Environment against the risk of sparsification
Kyoto University（京都大学）；Hokkaido University（北海道大学）
本研究分析联邦学习中服务器端可信执行环境的漏洞，揭示稀疏化梯度导致的内存访问模式泄露风险，并提出一种 oblivious 的高效聚合算法以防御该攻击，实验验证了其实际规模下的有效性。
2023-06-19 cs.CR cs.LG
PermLLM: Private Inference of Large Language Models within 3 Seconds under WAN
PermLLM通过安全随机排列加速非线性函数，结合优化的秘密共享和同态加密，在广域网下实现ChatGLM-6B模型约3秒/token的私有推理，大幅提升效率。
2024-05-29 cs.CR
ReCIT: Reconstructing Full Private Data from Gradient in Parameter-Efficient Fine-Tuning of Large Language Models
提出ReCIT隐私攻击方法，通过恶意微调增强模型记忆并采用基于过滤的token提取与配对机制，从PEFT梯度中高保真重建完整私有数据，PII恢复率提升达10倍。
2025-04-29 cs.CR
Gyokuro: Source-assisted Private Membership Testing using Trusted Execution Environments
ETH Zurich（苏黎世联邦理工学院）
本文提出Gyokuro，通过可信执行环境实现高效、可扩展且隐私保护的成员测试，无需泄露用户兴趣信息，适用于大规模数据库。
2026-03-24 cs.CR
TEE-based decentralized recommender systems: The raw data sharing redemption
EPFL - Swiss Federal Institute of Technology Lausanne（洛桑联邦理工学院）
推荐器在今天的许多应用中是核心。最有效的推荐方案，例如基于协同过滤（CF）的那些，利用用户简档之间的相似性来进行推荐，但是潜在地暴露隐私数据。联邦学习和分散式学习系统通过让数据留在用户的机器上来保护隐私来解决这个问题：每个用户都对本地数据进行训练，并且只共享模型参数。然而，在网络上共享模型参数仍然可能导致隐私泄露。在本文中，我们提出了REX，第一个基于飞地的分散CF推荐。REX利用可信执行环境（TEE），如英特尔软件防护扩展（SGX），在处理器内提供屏蔽环境，以提高收敛性，同时保护隐私。首先，REX支持原始数据共享，这最终会加快收敛速度并降低网络负载。其次，REX完全保护隐私。我们分析了原始数据共享在深度神经网络（DNN）和矩阵分解（MF）算法中的影响，并展示了可信环境在REX全面实施中的好处。我们的实验结果表明，通过原始数据共享，REX与仅共享参数的标准分散方法相比，将训练时间显著减少了18.3倍，网络负载减少了2个数量级，同时通过利用值得信赖的硬件飞地以非常小的开销来充分保护隐私。
2022-06-01 cs.CR cs.DC cs.IR
ISA-Based Trusted Network Functions And Server Applications In The Untrusted Cloud
如今，企业在云中广泛部署网络功能（NF）和服务器应用程序。然而，敏感数据的处理和可信执行不能安全地部署在不可信云中。云提供商本身可能会意外泄露私人信息（例如，由于配置错误）或流氓用户可以利用供应商系统的漏洞来破坏执行完整性，对内部企业和客户数据的机密性构成威胁。在本文中，我们确定了（i）可应用可信执行的NF和服务器应用用例的数量，（ii）损害每个用例的私有数据和执行完整性的资产和影响，以及（iii）我们利用英特尔的Software Guard Extensions（SGX）架构为基于云的NF和服务器应用设计可信执行环境（TEE）。我们将SGX与数据平面开发工具包（DPDK）相结合，针对多种应用场景（针对普通和加密流量的第2层帧和第3层数据包处理、流量负载平衡和后端服务器处理）对我们的TEE进行原型设计和评估。我们的结果表明，涉及普通流量的NF可以实现几乎原生的性能（例如，对于64字节帧的第3层转发，每秒约2200万个数据包），而涉及加密流量和服务器处理的NF仍然可以实现有竞争力的性能（例如，对于64字节帧，服务器处理速度约为每秒1200万个数据包）。
2018-02-20 cs.CR cs.NI
Adaptively Private Next-Token Prediction of Large Language Models
University of Southern California（南加州大学）
本文提出自适应私有解码框架AdaPMixED，通过带噪筛选机制和数据依赖分析，在保持模型实用性的同时将隐私损失降低16倍，解决了PMixED固定隐私水平难以扩展的问题。
2024-10-02 cs.CR cs.LG
Tokenized Key-Gated Adapter Routing: A Secure Access Control Mechanism Against Private Data Leakage in LLMs
Washington State University（华盛顿州立大学）
提出Locket框架，通过键控入口令牌和LoRA适配器实现LLM生成中的细粒度访问控制，在正确令牌下保持效用，缺失或无效时减少PII泄露。
2026-10-02 cs.AI cs.CL cs.CR
Primer: Fast Private Transformer Inference on Encrypted Data
为基于Transformers的云服务启用隐私保护推理越来越重要。后量子密码技术，例如，全同态加密（FHE）和多方计算（MPC）是支持私有Transformer推理的流行方法。然而，现有的作品仍然遭受禁止计算和通信开销。在这项工作中，我们提出，引物，使一个快速，准确的Transformer加密数据的自然语言处理任务。特别是，引物是由一个混合密码协议优化的注意力为基础的Transformer模型，以及包括计算合并和令牌优先密文包装的技术。在加密语言建模上的综合实验表明，Primer算法达到了最高的准确率，推理延迟比已有方法降低了90.6%~97.5%。
2023-03-23 cs.CR
Differentially Private Next-Token Prediction of Large Language Models
University of Southern California（南加州大学）
针对DP-SGD在黑盒场景下高估对手能力的问题，提出模型无关的私有预测协议PMixED，利用下一词元采样的随机性和公共模型实现差分隐私，在隐私预算ε=8下优于DP-SGD。
2024-04-26 cs.CL cs.CR cs.LG
An Efficient Private GPT Never Autoregressively Decodes
Shanghai Jiao Tong University（上海交通大学）；Shanghai Qizhi Institute（上海期智研究院）
针对GPT安全推理隐私保护下的性能开销问题，提出公共解码加私有模型安全验证的方法，通过优化私有采样协议与知识蒸馏对齐提升接受率，实现2.1~6.0倍加速且保障隐私与生成质量。
2025-05-21 cs.CR cs.LG
DarKnight: An Accelerated Framework for Privacy and Integrity Preserving Deep Learning Using Trusted Hardware
University of Southern California（南加州大学）
随着机器学习进入不同的应用领域，隐私和安全相关的问题越来越多。数据持有者希望利用私有数据进行训练或推断，同时利用托管在云中的加速器（如GPU）。云系统容易受到攻击者的攻击，这些攻击者会损害数据的隐私性和计算的完整性。要应对这样的挑战，需要将理论上的隐私算法与硬件安全功能统一起来。DarKnight是一个大型DNN训练框架，同时保护输入隐私和计算完整性。DarKnight依赖于可信执行环境（TEE）和加速器之间的协作执行，其中TEE提供隐私和完整性验证，而加速器执行大部分线性代数计算以优化性能。特别是，DarKnight使用基于矩阵掩码的自定义数据编码策略在TEE中创建输入混淆。然后将混淆的数据卸载到GPU以进行快速线性代数计算。DarKnight的数据混淆策略在云服务器中提供可证明的数据隐私和计算完整性。虽然以前的作品解决了推理隐私，不能用于训练，但DarKnight的编码方案旨在支持训练和推理。
2022-06-30 cs.AR cs.CR cs.LG
How to Democratise and Protect AI: Fair and Differentially Private Decentralised Deep Learning
National University of Singapore（新加坡国立大学）；The University of Melbourne（墨尔本大学）；IBM Singapore Lab（IBM新加坡实验室）；Monash University（莫纳什大学）；Deakin University（迪肯大学）
本文首先考虑了协作式深度学习中在保证隐私的前提下的公平性研究问题。提出了一种新的信誉系统，通过数字令牌和本地可信度来保证公平性，并结合差分隐私来保证隐私。特别是，我们构建了一个公平和差异私有的去中心化深度学习框架FDPDDL，它使各方能够通过使用我们开发的两阶段方案以公平和私有的方式获得更准确的局部模型：在初始化阶段，由差异私有生成对抗网络（DPGAN）生成的人工样本用于相互基准测试各方的局部可信度并生成初始令牌;在更新阶段，使用差分隐私SGD（DPSGD）来促进协作隐私保护深度学习，并且根据单独发布的梯度的质量和数量来更新每一方的本地可信度和令牌。在三个真实环境下的基准数据集上的实验结果表明，FDPDDL实现了很高的公平性，产生了与集中式和分布式框架相当的准确性，并提供了比独立框架更好的准确性。
2020-07-18 cs.CR cs.DC cs.LG
Bridging Sapling: Private Cross-Chain Transfers
互操作性是区块链技术的主要挑战之一，这些技术通常被设计为独立的系统。以隐私为中心的区块链的互操作性方案特别难以设计：它们必须与底层区块链的独特隐私功能相结合，以便在旨在混淆交易的协议中证明有关特定交易的声明。这导致用户被迫削弱其隐私，例如通过使用集中式交易所将资产从一个链转移到另一个链。我们提出了ZCLAIM，这是一个基于Zcash隐私保护协议的无信任跨链资产迁移框架。ZCLAIM与Zcash的Sapling版本的实现集成在一个支持智能合约的发行链上，以实现私有的跨链转账。我们表明，可以通过一组抵押中介创建代币化表示，而无需依赖或向任何第三方透露总额。
2022-04-22 cs.CR
Epione: Lightweight Contact Tracing with Strong Privacy
接触者追踪是遏制COVID-19等传染病的重要工具。许多国家和研究团体已经推出或宣布了移动应用程序，通过记录用户之间的联系来促进联系人追踪，并考虑到一些隐私问题。大部分焦点都集中在使用随机令牌上，这些令牌在遭遇过程中交换并本地存储在用户的手机上。现有系统允许用户搜索所发布的令牌，以便了解他们最近是否在已经被诊断患有该疾病的用户附近。然而，现有方法在令牌的收集和查询中不提供端到端隐私。特别是，这些方法容易受到用户使用令牌元数据的链接攻击、服务器的链接攻击或用户的错误报告。在这项工作中，我们介绍了Epione，一个轻量级的系统，具有强大的隐私保护的接触跟踪。Epione在用户的任何联系人被诊断出患有这种疾病时直接向用户发出警报，同时保护用户联系人的隐私不受中央服务和其他用户的侵犯，并提供防止虚假报告的保护。作为一个关键的构建块，我们提出了一个新的加密工具，安全的两方私有集交集基数（PSI-CA），它允许双方，每个持有一组项目，学习两个私有集的交集大小，而不透露交集项目。我们专门针对大规模联系人跟踪的情况进行了定制，其中客户端的输入集很小，而服务器的令牌数据库要大得多。
2020-05-02 cs.CR
Differentially Private Learned Indexes
Indiana University（印第安纳大学）；UMass Dartmouth（马萨诸塞大学达特茅斯分校）；Binghamton University（宾汉姆顿大学）
针对加密数据库中传统差分隐私索引存储成本高的问题，提出结合学习型索引构建更紧凑的差分隐私索引，在保障隐私的同时提升查询效率。
2024-10-28 cs.CR cs.DB cs.LG
Differentially Private Health Tokens for Estimating COVID-19 Risk
本文提出基于差分隐私的健康令牌，通过随机化个人检测结果来估计群体 COVID-19 传播风险，在避免免疫歧视的同时保持估计可用性。
2020-07-08 cs.CR cs.CY
DP-ES: Differentially Private Evolution Strategies for Prompt Optimization
National University of Defense Technology（国防科技大学）；CRRC Zhuzhou Electric Locomotive Research Institute Co., Ltd.（中车株洲电力机车研究所有限公司）；China Academy of Railway Sciences（中国铁道科学研究院）
针对DP提示优化在严格隐私预算下的不稳定性，提出DP-ES方法，通过种群进化和仅对评估加噪，在GSM8K等基准上显著提升准确率并降低方差，且更高效。
2026-10-06 cs.CL cs.CR
ObfuscaTune: Obfuscated Offsite Fine-tuning and Inference of Proprietary LLMs on Private Datasets
Huawei Munich Research Center（华为慕尼黑研究中心）
针对专有LLM异地微调推理时的模型与数据机密性问题，提出结合混淆技术与低占比TEE机密计算的ObfuscaTune方法，在GPT-2模型和NLP基准上验证了效用保留效果与低条件数随机矩阵的必要性。
2025-01-12 cs.AI cs.CL cs.CR
Cascade: Token-Sharded Private LLM Inference
Ritual；Stanford University（斯坦福大学）；Columbia University（哥伦比亚大学）
针对第三方大语言模型推理的隐私问题，提出Cascade协议，通过序列维度令牌分片平衡隐私与性能，可抵抗特定攻击且速度远超现有方案，为大语言模型安全部署提供实用方法。
2025-07-07 cs.CR cs.LG
Private prediction for large-scale synthetic text generation
Google（谷歌公司）
本研究针对现有差分隐私合成文本生成方法数据产出量极低的问题，通过改进隐私分析、优化隐私选择机制并结合稀疏向量技术复用公共预测，实现了数千个高质量差分隐私合成文本的生成，拓展了应用场景。
2024-10-09 cs.CL cs.CR cs.LG
GenomeOcean Anywhere: Private WebGPU Inference for Genome MoEs
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）
本研究提出GenomeOcean Anywhere系统，利用WebGPU和拉格朗日编码计算，在浏览器上分布式运行150亿参数基因组MoE模型，实现私有推理，保持数值精度并防止单设备泄露序列。
2026-10-05 cs.CR cs.LG q-bio.GN
Clustering and Median Aggregation Improve Differentially Private Inference
Google Research（谷歌研究院）；University of Southern California（南加州大学）
针对差分隐私文本生成中均匀采样导致质量下降的问题，本文提出先聚类再选取推理批次，并通过私下计算中位数聚合词元统计量，以更低隐私成本生成更高质量的合成数据。
2025-06-05 cs.AI cs.CL cs.CR
Towards Secure and Private AI: A Framework for Decentralized Inference
Nesa Research（Nesa研究院）
针对AI模型关键应用中的安全隐私及去中心化系统的数据风险问题，提出融合零知识证明、共识验证、分割学习、TEE硬件安全的去中心化推理框架，提升多模态AI的安全性、可靠性与可持续性。
2024-12-12 cs.AI cs.CR
What Hard Tokens Reveal: Exploiting Low-confidence Tokens for Membership Inference Attacks against Large Language Models
Florida International University（佛罗里达国际大学）；California State Polytechnic University, Pomona（加州州立理工大学波莫纳分校）
本文提出HT-MIA方法，通过分析低置信度token的概率改进，提升对大型语言模型的成员推断攻击效果，并探讨差分隐私训练作为防御机制。
2026-01-27 cs.CR
AEGIS: Attention-Embedding Gradient Isolation Shield - Triple-Channel Gradient Masking for Privacy-Preserving Federated LLM Fine-Tuning
Central Queensland University（中昆士兰大学）；Griffith University（格里菲斯大学）
AEGIS是一种轻量级联邦大语言模型微调防御措施，通过三通道梯度掩码关闭私有令牌信息泄露通道，可将梯度反演攻击的令牌恢复率降至接近零，同时保留或提升模型效用。
2026-08-21 cs.CR
Differentially Private and Communication Efficient Large Language Model Split Inference via Stochastic Quantization and Soft Prompt
Zhejiang University, Hangzhou, China（浙江大学）；University of Science and Technology of China, Anhui, China（中国科学技术大学）
本文提出DEL框架，通过随机量化和软提示实现差分隐私和通信高效的LLM分拆推理，有效平衡隐私与效用。
2026-02-12 cs.AI cs.CR
Distributed systems and trusted execution environments: Trade-offs and challenges
计算机系统中的安全和隐私问题随着连接设备的普遍存在而变得越来越重要。TEE基于硬件内置的的密码构造提供安全保证。特别是英特尔软件防护扩展（SGX），它实现了强大的机制，可以保护敏感数据，即使是对系统软件具有完全控制权的特权用户也可以保护。在这项工作中，我们主要探讨了使用英特尔SGX作为基石设计安全分布式系统所面临的一些挑战。我们这样做的设计和实验评估几个基本的系统，从通信和处理中间件的对等隐私保护的解决方案。我们从自然适合云部署场景的支持系统开始，即基于内容的路由，路由和流处理框架。我们实现了原型，并使用它们来分析SGX固有的内存使用问题。接下来，我们的目标是保护非常敏感的数据：加密密钥。通过利用TEE，我们设计的组数据共享协议，具有较低的计算复杂性比传统的方法。作为奖励，我们的建议允许大量节省元数据量和加密操作的处理时间，所有这些都具有同等的安全保证。最后，我们提出了隐私保护系统对既定的服务，如网络搜索引擎。我们的评估表明，我们提出了最强大的系统相比，现有的解决方案，用户重新识别率和结果的准确性在一个可扩展的方式。总的来说，本论文提出了新的机制，利用分布式系统架构的TEE。我们通过基于英特尔SGX的实证方法展示了应用于分布式通信和处理、加密协议和私有Web搜索的不同设计的利弊。
2020-03-11 cs.CR cs.DC cs.PF
Real-Time Privacy Risk Measurement with Privacy Tokens for Gradient Leakage
School of Information, Renmin University of China（中国人民大学信息学院）；School of Computer and Big Data, Minjiang University（闽江学院计算机与大数据学院）
针对深度学习训练中梯度泄露的隐私风险，提出从私有梯度提取的隐私令牌结合数据特征，以互信息为指标实现实时风险度量，实验验证其有效性，推动隐私监控进步与模型安全部署。
2025-02-12 cs.CR cs.LG
