Efficient and Encrypted Inference using Binarized Neural Networks within In-Memory Computing Architectures
针对内存计算中二值化神经网络参数易受窃取的问题,提出利用物理不可克隆函数密钥变换权重实现加密推理,无密钥时准确率低于15%,验证了该策略在保障安全的同时保持高效。
2025-10-27 cs.AI cs.CR
FFConv: Fast Factorized Convolutional Neural Network Inference on Encrypted Data
Singapore Management University(新加坡管理大学)
同态加密(HE)允许对加密数据(密文)进行计算而无需首先对其进行解密,从而为云中的隐私保护应用程序提供安全但速度非常慢的卷积神经网络(CNN)推理。为了减少推理延迟,一种方法是将多个消息打包到单个密文中,以便减少密文的数量并支持密文之间的同态乘法累加(HMA)操作的大规模并行性。尽管HECNN推理速度更快,但主流打包方案密集打包(DensePack)和卷积打包(ConvPack)引入了昂贵的旋转开销,这降低了HECNN用于更深和更宽的CNN架构的推理延迟。在本文中,我们提出了一种低秩分解方法FFConv专用于有效的密文包装,以减少旋转开销和HMA操作。FFConv使用低秩分解卷积来近似d x d卷积层,其中具有较少通道的d x d低秩卷积之后是1 x 1卷积以恢复通道。使用DensePack的d x d低秩卷积显著减少了旋转操作,而使用ConvPack的1 x 1卷积的旋转开销接近于零。据我们所知,FFConv是第一个能够同时减少DensePack和ConvPack所产生的旋转开销的工作,而不会向HECNN推理管道中引入额外的特殊块。与现有技术的LoLa和Falcon相比,我们的方法分别将推理延迟降低了88%和21%,并且在MNIST和CIFAR-10上具有相当的准确性。
2022-06-22 cs.AI cs.CR
TFHE-Coder: Evaluating LLM-agentic Fully Homomorphic Encryption Code Generation
University of Central Florida(中佛罗里达大学)
本文提出编译器集成框架TFHE-Coder,系统评估开源与闭源LLM生成TFHE逻辑门和ReLU代码的能力,并验证RAG、少样本提示等智能体优化可降低错误、改善可编译性与代码保真度。
2025-03-15 cs.CR cs.LG
PrivSpike: Employing Homomorphic Encryption for Private Inference of Deep Spiking Neural Networks
STAM Center, Ira A. Fulton Schools of Engineering, Arizona State University(STAM中心、伊拉·A·福鲁顿工程学院、亚利桑那州立大学);Faculty of Technical Sciences, University of Novi Sad(技术科学学院、诺维萨德大学)
针对脉冲神经网络的数据隐私问题,提出基于CKKS同态加密的PRIVSPIKE隐私推理框架,通过两种激活函数评估算法实现高精度加密推理,在多个数据集和模型上验证了其有效性与效率优势。
2025-10-05 cs.AI cs.CR
TGHE: Template-based Graph Homomorphic Encryption for Privacy-Preserving GNN Inference in Edge-Cloud Systems
University of Wollongong(沃林贡大学)
提出TGHE框架,利用交易图中局部计算树的模板现象,通过边缘端规范化ego-graph并打包相同结构的树进行SIMD并行加密推理,实现大规模图上的高效隐私保护GNN推理。
2026-06-26 cs.AI cs.CR
Glyph: Fast and Accurately Training Deep Neural Networks on Encrypted Data
Indiana University Bloomington(印第安纳大学伯明顿分校)
大数据是启用和训练深度神经网络(DNN)的基石之一。由于缺乏专业知识,为了从他们的数据中获益,普通用户不得不依赖并将他们的私人数据上传到他们可能不信任的大数据公司。由于合规性、法律或隐私的限制,大多数用户只愿意贡献他们的加密数据,而缺乏兴趣或资源来参与云DNN的训练。为了以完全非交互的方式在加密数据上训练DNN,最近的工作提出了一种基于全同态加密(FHE)的技术,该技术通过基于\textit{Brakerski-Gentry-Vaikuntanathan (BGV)}的查找表来实现神经网络中的所有激活。然而,这种低效的基于查找表的激活显著延长了隐私保护DNN的训练延迟。在本文中,我们提出了一种基于FHE的方案,通过在TFHE(环面上的快速全同态加密)和BGV密码系统之间切换,在加密数据上快速准确地训练DNN。Glencore使用逻辑运算友好的TFHE实现非线性激活,而采用矢量算术友好的BGV执行乘累加(MAC)运算。Glencore进一步将迁移学习应用到DNN的训练上,以提高测试精度,减少卷积层密文与密文之间的MAC操作次数。我们的实验结果表明,Gladium获得了最先进的测试精度,但减少了$99\%$的训练延迟比现有的FHE为基础的技术在各种加密数据集。
2020-10-22 cs.LG stat.ML
HEMET: A Homomorphic-Encryption-Friendly Privacy-Preserving Mobile Neural Network Architecture
Indiana University Bloomington(印第安纳大学伯明顿分校)
最近,同态加密(HE)被用于实现隐私保护神经网络(PPNN),该网络直接对加密数据执行推理而无需解密。以前的PPNN采用移动网络架构,如SqueezeNet,以减少计算开销,但我们发现,天真地将移动网络架构用于PPNN并不一定能实现更短的推理延迟。尽管具有较少的参数,但移动网络架构通常引入更多的层并增加PPNN的HE乘法深度,从而延长其推理延迟。在本文中,我们提出了一个\textbf{HE} -友好的隐私保护\textbf{M}神经n \textbf{ET}工作架构,\textbf{HEMET}。实验结果表明,与SOTA PPNN相比,HEMET的推理延迟降低了$59.3\%\sim 61.2\%$,推理精度提高了$0.4 \% \sim 0.5\%$ .
2021-05-31 cs.AI cs.CR
Scalable privacy-preserving cancer type prediction with homomorphic encryption
Tandon School of Engineering New York University(纽约大学坦登工程学院);New York University Abu Dhabi(纽约大学阿布扎比分校);Yale University(耶鲁大学)
机器学习(ML)解决了高维数据分析的挑战,并改善了医疗保健等关键应用的决策制定。如果识别出癌症类型之间的可区分模式,则来自高维基因突变数据的有效癌症类型可用于癌症诊断和治疗。与此同时,高维数据的分析在计算上是昂贵的,并且通常外包给云服务。外包ML中的隐私问题,特别是在遗传学领域,促使使用加密计算,如同态加密(HE)。但加密计算的限制性开销阻碍了它的使用。在这项工作中,我们探索了隐私保护癌症检测的挑战,使用一个真实世界的数据集,包括超过200万个遗传信息的几种癌症类型。由于数据本质上是高维的,因此我们探索了用于癌症预测的较小ML模型,以实现隐私保护领域的快速推理。我们开发了一种隐私保护癌症推断的解决方案,该解决方案首先利用关于体细胞突变的领域知识来有效地编码基因突变,然后使用统计测试进行特征选择。我们的逻辑回归模型,使用我们的新的编码方案,实现了0.98微平均曲线下面积与13%的测试精度比类似的研究。我们通过分析模型使用的基因来彻底测试模型的预测能力。此外,我们提出了一个快速矩阵乘法算法,可以有效地处理高维数据。实验结果表明,即使有40,000个特征,与标准矩阵乘法相比,我们提出的矩阵乘法算法可以将多个个体的并发推理速度提高约10倍,将单个个体的推理速度提高约550倍。
2022-04-12 cs.AI cs.CR
PRISM: Sensitivity-Aware PolynoMial PRuning for EffIcient Neural Network Encryption
Humboldt University of Berlin(柏林洪堡大学);Tallinn University of Technology(塔林理工大学)
研究在同态加密下神经网络结构化剪枝对模型可靠性的影响,提出多项式灵敏度感知剪枝方法PSAP,通过共同评分滤波器集中剪枝于容错区,实验表明其在提升模型可靠性同时兼具效率优势。
2026-07-22 cs.AI cs.AR cs.CR
Pruned Traffic Trees: Native Semantic Compression with a Protocol-Structured Model Family for Encrypted Traffic Classification
School of Cyber Science and Engineering, Southeast University(东南大学网络科学与工程学院);School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院)
该研究提出PTT模型族,将协议结构作为压缩单元,在加密流量分类任务中实现了性能与效率的有效权衡,PTT-Lite在大幅减少参数和计算量的同时保持了较高分类性能。
2026-08-25 cs.AI cs.NI
Inhibitor Transformers and Gated RNNs for Torus Efficient Fully Homomorphic Encryption
RISE, Research Institutes of Sweden(瑞典研究机构RISE);Zama, Machine Learning Group(Zama机器学习组);Luleå University of Technology(卢勒奥技术大学)
本文提出抑制器设计用于变换器和门控RNN,通过替换乘法和激活函数为加法和ReLU操作,提升加密推理效率并保持学习能力。
2026-03-23 cs.LG
Efficient Encrypted Inference on Ensembles of Decision Trees
IBM Research AI(IBM研究院AI部门);Mohamed Bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学);University at Buffalo, SUNY(纽约州立大学布法罗分校);Microsoft Research(微软研究院)
数据隐私问题通常会阻止将基于云的机器学习服务用于敏感的个人数据。虽然同态加密(HE)通过实现对加密数据的计算提供了潜在的解决方案,但挑战在于获得在分级HE方案的乘法深度约束内工作的准确的机器学习模型。用于加密推断的现有方法或者对预先训练的模型进行特别简化(例如,用软比较器替换决策树中的硬比较),或者使用原始训练集直接训练新的深度约束模型。在这项工作中,我们提出了一个框架,将复杂的决策树集成提取的知识转移到浅层神经网络(简称DTNets),这是非常有利于加密推理。我们的方法通过搜索在给定深度约束内运行的最佳DTNet架构,并仅使用从训练数据分布中采样的合成数据来训练该DTNet,从而最大限度地减少了精度损失。在真实世界数据集上进行的大量实验表明,这些特征对于确保DTNet的准确性接近原始树集成的准确性至关重要。我们的系统是高度可扩展的,可以执行有效的推理批量加密(134位的安全)的数据与摊销时间毫秒。这比在集成树的内部节点处应用软比较的标准方法快大约三个数量级。
2021-03-05 cs.AI cs.CR cs.LG
Towards Deep Encrypted Training: Low-Latency, Memory-Efficient, and High-Throughput Inference for Privacy-Preserving Neural Networks
STAM Center, Ira A. Fulton Schools of Engineering(STAM中心,伊拉·A·福克森工程学院);Arizona State University(亚利桑那州立大学)
本文提出优化算法和流水线架构,提升加密神经网络的批量处理效率,实现低延迟、内存高效和高吞吐量的隐私保护推理。
2026-04-18 cs.CR cs.LG
SentinelLMs: Encrypted Input Adaptation and Fine-tuning of Language Models for Private and Secure Inference
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出SentinelLMs方法,通过对分词器和词元嵌入进行不可逆变换并微调,使语言模型能直接处理加密输入,在保护隐私的同时保持与原始模型相当的性能。
2023-12-28 cs.AI cs.CL cs.CR
LinGCN: Structural Linearized Graph Convolutional Network for Homomorphically Encrypted Inference
University of Rochester(罗切斯特大学);Indiana University Bloomington(印第安纳大学伯明顿分校);Northeastern University(东北大学);North Carolina State University(北卡罗来纳州立大学);University of Connecticut(康涅狄格大学);University of Massachusetts Dartmouth(马萨诸塞大学达特茅斯分校)
针对同态加密下GCN推理计算开销大的问题,提出LinGCN框架,通过结构线性化、多项式激活替换与增强HE方案降低乘法深度,在NTU-XVIEW数据集上延迟较CryptoGCN提升14.2倍且保持75%准确率。
2023-10-04 cs.AI cs.CR cs.LG
SEALion: a Framework for Neural Network Inference on Encrypted Data
University of Amsterdam(阿姆斯特丹大学);Deeptrace;CSIRO Data61(联邦科学与工业研究组织Data61)
我们提出了SEALion:一个可扩展的框架,隐私保护机器学习与同态加密。它允许人们学习深度神经网络,可以无缝地用于加密数据的预测。该框架由两层组成:第一层基于TensorFlow和SEAL构建,并公开了标准代数和深度学习原语;第二层实现了类似Keras的语法,用于使用神经网络进行训练和推理。给定所需的安全级别,用户可以从编码和加密方案的细节中抽象出来,从而允许快速原型化。我们提出了两个应用程序,举例说明了我们的建议,这也是独立的利益的可扩展性:i)提高效率的神经网络推理的活动稀疏和ii)通过查询服务器端的变分自编码器,可以处理加密数据的迁移学习。
2019-04-29 cs.CR cs.LG stat.ML
Efficient Skip Connections Realization for Secure Inference on Encrypted Data
IBM Research - Israel(IBM研究院以色列分部)
针对同态加密下深度学习推理中跳跃连接计算成本高的问题,提出用Dirac参数化和共享源跳跃连接替换中期跳跃连接的方案,在精度不变时实现1.3倍计算性能提升。
2023-06-11 cs.CR cs.LG
Layer-Parallel Inference Reduces Encrypted Nonlinear Depth in Transformers
MBZUAI IFM(穆罕默德·本·扎耶德人工智能大学智能未来研究院);Red Hat AI Innovation(红帽人工智能创新实验室);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);Core AI, IBM(IBM核心人工智能部门);University of Texas at Dallas(德克萨斯大学达拉斯分校)
研究结构化牛顿层并行性(SNLP)能否使Transformer层间组合更适合全同态加密(FHE),通过基于切比雪夫多项式近似的模拟框架测量误差积累,结果表明SNLP可减少推理步骤并降低误差放大。
2026-07-14 cs.CR cs.LG
FHE-Agent: Automating CKKS Configuration for Practical Encrypted Inference via an LLM-Guided Agentic Framework
University of Minnesota -- Twin Cities(明尼苏达大学-双城分校);North Carolina State University(北卡罗来纳州立大学)
FHE-Agent通过LLM引导的代理框架自动化CKKS配置,提升加密推断的精度与效率
2025-11-23 cs.AI cs.CR cs.LG
CryptoGCN: Fast and Scalable Homomorphically Encrypted Graph Convolutional Network Inference
Lehigh University(理海大学);Microsoft(微软);Florida International University(佛罗里达国际大学)
最近,基于云的图卷积网络(GCN)在许多隐私敏感的应用(如个人医疗保健和金融系统)中表现出巨大的成功和潜力。尽管其在云上具有很高的推理准确性和性能,但在GCN推理中维护数据隐私对这些实际应用至关重要,但在很大程度上尚未探索。在本文中,我们采取了初步的尝试,并开发了$\textit{CryptoGCN}$ -一个同态加密(HE)的GCN推理框架。我们的方法成功的关键是减少HE操作的巨大计算开销,这可能比明文空间中的对应操作高出几个数量级。为此,我们开发了一种方法,可以有效地利用GCN推理中矩阵运算的稀疏性,以显着降低计算开销。具体而言,我们提出了一种新的AMA数据格式化方法和相关的空间卷积方法,它可以利用复杂的图形结构,并在HE计算中执行高效的矩阵-矩阵乘法,从而大大减少HE操作。我们还开发了一个协同优化框架,可以探索的准确性,安全级别和计算开销之间的权衡,明智的修剪和多项式近似的激活模块的GCN。基于NTU-XVIEW骨骼关节数据集,即,就我们所知,同态评估的最大数据集,我们的实验结果表明,$\textit{CryptoGCN}$在等待时间和同态操作的数量方面优于现有技术的解决方案,即,在等待时间上实现多达3.10 $\times$的加速,并且将总同态操作计数减少77.4%,具有1-1.5 $\%$的小准确度损失。
2022-10-26 cs.AI cs.CR cs.LG
PRISM: Privacy-preserving Inference System with Homomorphic Encryption and Modular Activation
针对机器学习模型部署中数据隐私与非线性激活函数不兼容同态加密的问题,提出PRISM框架,用同态兼容近似函数替代非线性激活并重构CNN架构,在CIFAR-10上实现94.4%准确率,平衡了隐私保护与计算效率。
2025-11-11 cs.AI cs.CR cs.LG
Efficient Decoding Methods for Language Models on Encrypted Data
IBM Research(IBM研究院);Bar-Ilan University(巴伊兰大学);Tel Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(人工智能研究院)
针对同态加密下大语言模型解码的性能瓶颈,本文提出HE友好的cutmax算法及首个兼容HE的top-p采样方法,具备可证明隐私性与收敛性,可将推理延迟降低24-35倍,推进安全文本生成落地。
2025-11-17 cs.AI cs.CR cs.LG
Encrypt What Matters: When Selective Homomorphic Inference Is Efficient
Massachusetts Institute of Technology(麻省理工学院)
本文研究选择性同态推理,仅加密敏感区域,发现局部性架构可大幅加速,全局混合架构无加速,局部性是关键属性。
2026-09-10 cs.CR cs.LG
Enabling Homomorphically Encrypted Inference for Large DNN Models
Barcelona Supercomputing Center (BSC)(巴塞罗那超级计算中心);Intel Corporation(英特尔公司)
过去几年中,机器学习服务的激增引发了人们对数据隐私的担忧。同态加密(HE)支持使用加密数据进行推理,但它会导致100倍至10,000倍的内存和运行时开销。使用HE的安全深度神经网络(DNN)推理目前受到计算和存储器资源的限制,框架需要数百GB的DRAM来评估小模型。为了克服这些限制,在本文中,我们探讨了利用混合存储器系统的DRAM和持久性存储器组成的可行性。特别是,我们探索了最近发布的英特尔Optane PMem技术和英特尔HE-Transformer nGraph,以运行大型神经网络,如MobileNetV 2(最大的变体)和ResNet-50,这在文献中尚属首次。我们提出了一个深入的分析与不同的硬件和软件配置的执行效率。我们的研究结果得出结论,DNN推理使用HE招致友好的访问模式,这种内存配置,产生有效的执行。
2021-04-29 cs.CR cs.LG cs.PF
PrivFT: Private and Fast Text Classification with Homomorphic Encryption
A*STAR(新加坡科技研究局);Inferati Inc(Inferati公司);Microsoft Research(微软研究院)
由于隐私风险的严重性,对隐私保护分析的需求比以往任何时候都要高,并且要遵守新的隐私法规,这导致对试图在隐私和实用性之间取得平衡的隐私保护技术的兴趣被放大。在这项工作中,我们提出了一种有效的方法,文本分类,同时保护隐私的内容使用全同态加密(FHE)。我们的系统(命名为\textbf{Priv} ate \textbf{F} ast \textbf{T} ext(PrivFT))执行两个任务:1)使用明文模型对加密的用户输入进行推理,2)使用加密的数据集训练有效的模型。对于推理,我们训练一个监督模型,并概述了一个系统的同态推理加密用户输入的预测精度为零损失。在第二部分中,我们展示了如何使用完全加密的数据来训练模型以生成加密模型。我们提供了一个GPU实现的千金金宋(CKKS)FHE计划,并将其与现有的CPU实现,以实现1至2个数量级的加速在各种参数设置。我们在GPU中实现PrivFT,以实现每次推理的运行时间小于0.66秒。在相对较大的加密数据集上进行训练的计算量更大,需要5.04天。
2019-11-18 cs.CR cs.LG
SHE: A Fast and Accurate Deep Neural Network for Encrypted Data
Indiana University Bloomington(印第安纳大学伯明顿分校)
同态加密(HE)是新兴的机器学习即服务(MLaaS)的最有前途的安全解决方案之一。提出了支持分层HE(LHE)的卷积神经网络(LHECNN)来实现MLaaS以避免大的自举开销。然而,由于其多项式近似激活和池化,先前的LHECNN必须支付显著的计算开销,但仅实现低推理精度。在网络中堆叠许多多项式近似激活层大大降低了推理精度,因为多项式近似激活误差导致下一个批量归一化层的输出分布的低失真。因此,多项式逼近的激活和池化问题成为LHECNN快速、准确建模的障碍。在本文中,我们提出了一种基于移位累积的LHE支持的深度神经网络(SHE),用于对加密数据进行快速准确的推断。我们使用二进制操作友好的环形分层快速同态加密(LTFHE)加密方案来实现ReLU激活和最大池化。我们还采用对数量化来加速推理,用廉价的LTFHE移位代替昂贵的LTFHE乘法。我们提出了一种混合位宽累加器来加速累加。由于LTFHE ReLU激活、最大池化、移位和累加具有较小的乘法深度开销,因此SHE可以实现具有更多卷积和激活层的更深的网络架构。实验结果表明,SHE在MNIST和CIFAR-10上取得了最佳的推理精度,并将推理延迟降低了76.21% ~ 94.23%。SHE的源代码可在https://github.com/qianlou/SHE上获得。
2019-11-16 cs.CR cs.LG
Privacy preserving Neural Network Inference on Encrypted Data with GPUs
Georgia State University(佐治亚州立大学);Charles River Analytics Inc.(查尔斯河分析公司)
近年来,机器学习即服务(MLaaS)已经成为一种增长趋势,并且目前提供了几种这样的服务。MLaaS本质上是一组服务,提供机器学习工具和功能,作为云计算服务的一部分。在这些设置中,云具有部署的预训练模型和大计算能力,而客户端可以使用这些模型进行预测,而不必担心维护模型和服务。然而,MLaaS的主要问题是客户端数据的隐私。尽管在文献中已经提出了几种在加密数据上运行机器学习模型的方法,但其性能仍然远远不能满足实际使用。在本文中,我们的目标是使用全同态加密(FHE),卷积神经网络(CNN)和图形处理单元(GPU)的组合来加速对加密数据运行机器学习的性能。我们使用了一些优化技术,并有效的基于GPU的实现,以实现高性能。我们评估了一个CNN,其架构类似于AlexNet,以分类来自汽车开销上下文(COWC)数据集的同态加密样本。据我们所知,这是第一次在加密数据上评估如此复杂的网络和大型数据集。我们的方法实现了合理的分类准确率为95%的COWC数据集。在性能方面,我们的结果表明,我们可以实现几千倍的速度时,我们实现GPU加速的FHE运算加密的浮点数。
2019-11-26 cs.CR cs.CY cs.LG
Public-Decay Homomorphic State Space Models for Private Sequence Inference
School of Technology and Management (ESTG-IPVC) Polytechnic Institute of Viana do Castelo(技术与管理学院(ESTG-IPVC)葡萄牙维亚纳多卡斯托尔理工大学)
本文提出公共衰减同态状态空间模型(HSSMs),通过加密-明文公共衰减更新状态,实现隐私序列推断,在保持加密状态的同时提升效率和准确性。
2026-05-15 cs.CR cs.LG
Power-Softmax: Towards Secure LLM Inference over Encrypted Data
IBM Research(IBM研究院)
提出HE友好的自注意力变体Power-Softmax,构建首个超十亿参数的多项式LLM,实现安全加密推理且性能媲美标准Transformer。
2024-10-12 cs.CR cs.LG
I can't see it but I can Fine-tune it: On Encrypted Fine-tuning of Transformers using Fully Homomorphic Encryption
Georgia State University(佐治亚州立大学);Old Dominion University(老道明大学)
针对隐私法规限制下的数据共享难题,本文提出隐私保护微调系统 BlindTuner,支持仅在同态加密数据上训练 transformer 进行图像分类,准确率媲美未加密模型,速度较先前工作提升 1.5 至 600 倍。
2024-02-14 cs.AI cs.CR cs.LG
LLMs Can Understand Encrypted Prompt: Towards Privacy-Computing Friendly Transformers
Tsinghua University(清华大学);Sudo Privacy(Sudo隐私公司)
针对大语言模型隐私推理框架开销过高的问题,本文提出用隐私计算友好的近似算子替换Transformer中密集型算子,相比Iron实现5倍计算加速与80%通信开销降低,且准确率几乎不变。
2023-12-15 cs.CL cs.CR cs.LG
Privacy-Preserving Graph-Based Machine Learning with Fully Homomorphic Encryption for Collaborative Anti-Money Laundering
Nanyang Technological University(南洋理工大学)
本研究提出利用全同态加密的隐私保护图机器学习方法,实现跨机构协作反洗钱,开发了GNN和XGBoost两条流水线,在加密推理下保持高精度,并显著提升不平衡数据的F1分数。
2024-11-11 cs.CR cs.LG
Traveling Salesman-Based Token Ordering Improves Stability in Homomorphically Encrypted Language Models
针对同态加密下LLM文本生成不稳定的问题,提出基于旅行商问题的令牌重排序策略及后处理步骤,防止崩溃并提升连贯性,实现隐私保护的LLM推理。
2025-10-14 cs.CR cs.LG
Efficient privacy-preserving inference for convolutional neural networks
University of Cambridge(剑桥大学)
使用深度学习模型处理敏感用户数据是最近获得关注的一个领域。现有的工作已经利用同态加密(HE)方案来实现对加密数据的计算。早期的工作是CryptoNets,它需要250秒进行一次MNIST推理。这种方法的主要限制是对HE加密的密文执行操作所需的昂贵的FFT类操作。其他人已经提出使用模型修剪和有效的数据表示来减少所需的HE操作的数量。我们专注于改进现有的工作,提出改变中间张量的表示在CNN推理。我们在MNIST和CIFAR-10数据集上构建和评估私有CNN,并将用于CryptoNets架构推理的操作数量减少了两倍以上。
2022-08-26 cs.CR cs.LG
CipherPrune: Efficient and Scalable Private Transformer Inference
University of Central Florida(中佛罗里达大学);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校);Ant Research(蚂蚁集团研究院);Indiana University Bloomington(印第安纳大学伯明顿分校)
提出CipherPrune框架,通过加密令牌剪枝和多项式降低协议及网络优化,解决私有Transformer推理的效率与可扩展性问题,大幅降低执行开销。
2025-03-05 cs.CR cs.LG
Cryptotree: fast and accurate predictions on encrypted structured data
Microsoft(微软)
将机器学习算法应用于私人数据(如财务或医疗数据),同时保持其机密性是一项艰巨的任务。同态加密(HE)因其允许对加密数据进行计算的能力而得到认可,其中输入和输出都被加密,因此这使得能够对私有数据进行安全推断。尽管如此,由于他的限制,如无法评估非多项式函数或执行任意矩阵乘法有效,只有线性模型的推理似乎在实践中可用的HE范式到目前为止。在本文中,我们提出了密码树,一个框架,使使用随机森林(RF),一个非常强大的学习过程相比,线性回归,在他的上下文中。为此,我们首先将常规RF转换为神经RF,然后将其调整为适合HE方案CKKS,该方案允许对实值进行HE操作。通过SIMD操作,我们能够对加密数据进行比原始RF更好的快速推理和预测结果。
2020-06-15 cs.LG stat.ML
Bi-CryptoNets: Leveraging Different-Level Privacy for Encrypted Inference
National Key Laboratory for Novel Software Technology(计算机软件新技术国家重点实验室);School of Artificial Intelligence, Nanjing University(南京大学人工智能学院)
本文提出Bi-CryptoNets,将输入数据按隐私性分为敏感与不敏感部分,分别用同态加密和扰动处理,通过双分支网络及知识蒸馏实现高效加密推理。
2024-02-02 cs.CR cs.CV cs.LG
DeepReDuce: ReLU Reduction for Fast Private Inference
New York University(纽约大学)
最近对隐私问题的担忧导致研究人员设计出私人神经推理的方法-直接在加密数据上进行推理,而不会看到输入。私有推理面临的主要挑战是,对加密数据进行计算会带来不切实际的高延迟惩罚,主要来自ReLU等非线性运算符。实现实用和私有的推理需要新的优化方法,以最大限度地减少网络ReLU计数,同时保持准确性。本文提出了DeepReduce:一组明智地删除ReLU以减少私有推理延迟的优化。关键的见解是,并非所有的ReLU对准确性的贡献都是一样的。我们利用这一洞察力从经典网络中删除或删除ReLU,以显著降低推理延迟并保持高准确性。给定一个目标网络,DeepReduce输出一个网络的帕累托边界,权衡ReLU的数量和准确性。与最先进的私有推理相比,DeepReduce提高了准确性,并将ReLU计数分别减少了3.5%(iso-ReLU计数)和3.5 $\times$(iso-accuracy)。
2021-06-22 cs.CR cs.LG
Efficient CNN Building Blocks for Encrypted Data
Center for Data Sciences, International Institute of Information Technology, Bangalore(班加罗尔国际信息技术学院数据科学中心);Mohamed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);University at Buffalo, SUNY(纽约州立大学布法罗分校);IBM Systems(IBM系统部);Microsoft(微软)
对加密数据的机器学习可以解决与不可信的服务提供商共享敏感数据的隐私和合法性相关的问题。全同态加密(FHE)是一种很有前途的技术,可以实现机器学习和推理,同时提供严格的信息泄漏保证。由于深度卷积神经网络(CNN)已成为若干应用中的首选机器学习工具,因此已进行了若干尝试来利用CNN从加密数据中提取见解。然而,现有的工作只注重确保数据的安全性,而忽略了模型参数的安全性。他们还报告了高级实现,但没有提供对CNN的通用原语运算符(如卷积、非线性激活和池化)的FHE实现中涉及的准确性、安全性和速度权衡的严格分析。在这项工作中,我们考虑一个机器学习作为一个服务(MLaaS)的情况下,输入数据和模型参数都使用FHE的安全。使用CKKS计划在开源HElib库中,我们表明,所选择的FHE方案的操作参数,如分圆多项式的程度,底层分层HE方案的深度限制,以及计算精度参数对机器学习模型的设计有重大影响(特别是,激活函数和池化方法的选择)。我们的实证研究表明,上述设计参数的选择结果之间的准确性,安全级别,和计算时间显着的权衡。MNIST数据集上的加密推理实验表明,其他设计选择,如密文打包策略和使用多线程的并行化,在确定推理过程的吞吐量和延迟方面也很关键。
2021-01-30 cs.CR cs.LG
Privacy-Preserving XGBoost Inference
AWS Cryptography Algorithm(AWS密码算法);Yale University(耶鲁大学)
虽然机器学习(ML)被广泛用于预测任务,但在一些重要的场景中,ML无法使用或至少无法充分发挥其潜力。采用的一个主要障碍是预测查询的敏感性。个人用户可能缺乏足够丰富的数据集来本地训练准确的模型,但也不愿意将敏感的查询发送到出售此类模型的商业服务。隐私保护机器学习(PPML)的一个核心目标是使用户能够向远程ML服务提交加密查询,接收加密结果,并在本地对其进行解密。我们的目标是为现实世界的隐私保护ML推理问题开发实用的解决方案。在本文中,我们提出了一种隐私保护的XGBoost预测算法,我们已经在AWS SageMaker上实施并进行了经验评估。实验结果表明,我们的算法是有效的,足以用于实际的ML生产环境。
2020-11-24 cs.CR cs.LG
HE-MAN -- Homomorphically Encrypted MAchine learning with oNnx models
MCI Management Center Innsbruck(因斯布鲁克管理中心);Fraunhofer Austria Research GmbH(弗劳恩霍夫奥地利研究有限公司);SCCH Software Competence Center Hagenberg(哈根贝格软件能力中心)
本文提出开源两方机器学习工具集HE-MAN,利用全同态加密在ONNX模型上实现隐私保护推理,支持Concrete和TenSEAL两种方案,在保证准确率与明文模型相当的同时无需用户具备密码学专业知识。
2023-02-16 cs.CR cs.LG
Robust Federated Learning via Byzantine Filtering over Encrypted Updates
本文提出结合同态加密和元分类器的联邦学习方法,通过加密更新上的拜占庭过滤提升鲁棒性,实验表明在多个基准上有效识别拜占庭攻击。
2026-02-06 cs.LG
Tracking without Seeing: Geospatial Inference using Encrypted Traffic from Distributed Nodes
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出GraySense框架,通过分析加密无线视频传输流量中的包大小,实现无原始数据的地理物体跟踪,实验显示在无原始信号访问情况下,跟踪误差达2.33米。
2026-03-29 cs.CV cs.LG cs.NI
High-Resolution Convolutional Neural Networks on Homomorphically Encrypted Data via Sharding Ciphertexts
The Johns Hopkins University Applied Physics Laboratory(约翰霍普金斯大学应用物理实验室)
本研究拓展同态加密下的深度卷积神经网络评估方法,通过密文分片、优化行优先矩阵打包及训练正则化,实现高分辨率图像高效隐私推理,在ImageNet和CIFAR-10上分别取得80.2%和98.3%的准确率。
2024-01-29 cs.CR cs.LG
Towards the AlexNet Moment for Homomorphic Encryption: HCNN, theFirst Homomorphic CNN on Encrypted Data with GPUs
深度学习即服务(DLaaS)是基于云的推理应用程序的一个有前途的解决方案。在这种设置中,云具有预先学习的模型,而用户具有她想要运行模型的样本。如果输入样本是敏感数据,DLaaS最大的问题是用户隐私。我们在这里提供了一个高效的隐私保护系统,通过采用高端技术,如全同态加密(FHE),卷积神经网络(CNN)和图形处理单元(GPU)。FHE以其在加密数据上计算的众所周知的特性,为广泛的隐私相关应用提供了支持。这需要很高的成本,因为它需要巨大的计算能力。在本文中,我们展示了如何使用GPU加速在加密数据上运行CNN的性能。我们评估了两个CNN对MNIST和CIFAR-10数据集进行同态分类。我们的解决方案实现了足够的安全级别(> 80位)和合理的分类精度(99%)和(77.55%)MNIST和CIFAR-10,分别。在延迟方面,MNIST和CIFAR-10分别可以在5.16秒和304.43秒内对图像进行分类。我们的系统还可以对一批图像(> 8,000)进行分类,而无需额外的开销。
2020-08-18 cs.CR cs.LG
CGF-Softmax: A Cumulant-Based Softmax Reformulation for Efficient Inference under Homomorphic Encryption
Pohang University of Science and Technology (POSTECH)(釜山科学技术大学);LG Electronics R&D Center(LG电子研发中心);Inha University(inha大学);Daegu Gyeongbuk Institute of Science and Technology (DGIST)(大邱广开府科学技术院)
本文提出CGF-softmax,通过累积生成函数重参数化softmax分母,消除了同态除法和显式最大减法,降低乘法深度并保持softmax关键属性,在视觉Transformer和大语言模型中实现高效准确的加密推理。
2026-05-08 cs.CR cs.LG
Audit and Improve Robustness of Private Neural Networks on Encrypted Data
University of Central Florida(中佛罗里达大学);Kent State University(肯特州立大学);Texas Tech University(得克萨斯理工大学);University of Houston(休斯顿大学);Drexel University(德雷塞尔大学)
在不解密的情况下对加密数据执行神经网络推理是使隐私保护神经网络(PNet)成为服务的一种流行方法。与部署用于机器学习即服务的常规神经网络相比,PNet需要额外的编码,例如,量化精度数字和多项式激活。加密输入也带来了新的挑战,如对抗性鲁棒性和安全性。据我们所知,我们是第一个研究问题的人,包括(i)PNet是否比常规神经网络对对抗性输入更鲁棒?(ii)如何在不解密的情况下设计一个鲁棒的PNet?我们提出了PNet-Attack来生成黑盒对抗示例,这些示例可以成功地以目标和非目标方式攻击PNet。攻击结果表明,PNet对对抗性输入的鲁棒性需要提高。这不是一个简单的任务,因为PNet模型所有者无法访问输入值的明文,这阻止了现有检测和防御方法的应用,如输入调优,模型规范化和对抗训练。为了解决这个问题,我们提出了一种新的快速和准确的噪声插入方法,称为RPNet,设计鲁棒和私有神经网络。我们的综合实验表明,PNet-Attack减少至少$2.5\times$查询比以前的作品。我们从理论上分析了我们的RPNet方法,并证明了RPNet可以降低$\sim 91.88\%$攻击的成功率。
2022-09-20 cs.CR cs.LG
CryptoNN: Training Neural Networks over Encrypted Data
University of Pittsburgh(匹兹堡大学)
新兴的基于神经网络的机器学习技术(诸如深度学习及其变体)已经在许多应用领域中显示出巨大的潜力。然而,当从用户收集的数据用于训练神经网络模型以支持预测任务时,由于高度隐私敏感数据的泄漏风险,它们引起了严重的隐私问题。为了解决这种严重的隐私问题,在文献中已经提出了几种隐私保护方法,这些方法使用安全多方计算(SMC)或同态加密(HE)作为底层机制。然而,这些加密方法都没有提供有效的解决方案来构建隐私保护机器学习模型,以及支持训练和推理阶段。为了解决上述问题,我们提出了一个CryptoNN框架,该框架通过使用新兴的函数加密方案而不是SMC或HE来支持在加密数据上训练神经网络模型。我们还构造了一个函数加密方案的基本算术计算,以支持建议的CryptoNN框架的要求。我们提出了性能评估和安全性分析的基础加密方案,并通过我们的实验表明,CryptoNN达到的准确性是类似的基准神经网络模型的MNIST数据集。
2019-04-26 cs.CR cs.LG
Static Bootstrap Placement for Encrypted Language Model Decoding
Koç University(科奇大学)
针对同态加密下语言模型解码的服务器端循环问题,提出AR-HE系统,通过静态自举放置规则和加密缓存优化,将GPT-2小规模令牌生成成本从4715秒降至544秒。
2026-10-06 cs.CR cs.DC cs.LG
Homomorphic WiSARDs: Efficient Weightless Neural Network training over encrypted data
University of Campinas(坎皮纳斯大学);IMDEA Software Institute(IMDEA软件研究所);Aarhus University(奥胡斯大学)
本文提出对 WiSARD 及无权神经网络进行同态评估,实现加密数据上的高效训练与推理,在 MNIST 和 HAM10000 上相比现有方法 Glyph 实现最高 1200 倍加速且精度损失极小。
2024-03-29 cs.CR cs.LG
Training Large Scale Polynomial CNNs for E2E Inference over Homomorphic Encryption
IBM Research(IBM研究院);Bar-Ilan University(巴伊兰大学);AI2(艾伦人工智能研究所)
该研究提出新型训练方法,实现可在同态加密下运行的大规模多项式CNN训练,在ImageNet上取得可观精度,还优化了HE评估效率,并通过多项式适配CLIP实现安全零样本预测。
2023-06-11 cs.AI cs.CR cs.LG
FEnc$^2$: Unifying Data Packing for Efficient Private Inference via Convolution and Architecture-Aware Fragment Encoding
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
提出FEnc$^2$框架,通过卷积感知编码和架构感知密文压缩优化CKKS加密推理中的密文打包,减少旋转和密文数量,实现端到端加速高达228倍。
2026-06-16 cs.CR cs.LG
PPFL-RDSN: Privacy-Preserving Federated Learning-based Residual Dense Spatial Networks for Encrypted Lossy Image Reconstruction
Department of Informatics and Networked Systems, University of Pittsburgh(信息学与网络系统系,匹兹堡大学)
针对多协作方中心化图像重建的隐私风险与高成本问题,提出融合联邦学习、本地差分隐私和鲁棒水印的PPFL-RDSN框架,在加密有损图像重建任务中性能比肩中心化最优方法,同时保障数据安全与模型真实,适用于隐私保护的协作视觉场景。
2025-10-27 cs.CR cs.LG
Privacy-Preserving GNN Inference on Financial Transaction Graphs via Homomorphic Encryption
Delft University of Technology(代尔夫特理工大学);Sabancı University(萨班哲大学)
本文针对多银行金融场景,提出基于CKKS同态加密的以边为中心的GNN推理框架,在保护交易特征隐私的同时,在IBM AML基准上达到与明文基线相当的性能,端到端分类延迟低至5.31秒。
2026-10-15 cs.CR cs.LG