TimeClave: Oblivious In-enclave Time series Processing System
提出TimeClave，一个基于Intel SGX和读优化ORAM的飞地内遗忘式时间序列处理系统，在保护数据安全的同时实现了低延迟和高吞吐量。
2023-06-29 cs.CR
ObliviSync: Practical Oblivious File Backup and Synchronization
不经意RAM（ORAM）协议是一种强大的技术，它可以隐藏客户端的数据以及不受信任的服务提供商的访问模式。我们提出了一个不经意的云存储系统，ObliviSync，专门针对最广泛使用的个人云存储范例之一：同步和备份服务，其中流行的例子是Dropbox，iCloud Drive和Google Drive。这种设置提供了一个独特的机会，因为上述隐私属性可以通过称为只写ORAM的更简单形式的ORAM来实现，与相关工作相比，它可以显著提高效率。我们的解决方案是渐近最优的，实际上是有效的，与非私有文件存储相比，大约4倍的小恒定开销，仅取决于根据使用率选择的总数据大小和参数，而不是单个文件的数量或大小。我们的建设还提供了对定时通道攻击的保护，这在ORAM协议中以前没有考虑过。我们构建并评估了ObliviSync的完整实现，该实现支持多个并发只读客户端和一个并发读/写客户端，其编辑自动无缝地传播到读者。我们表明，我们的系统在高工作负载下的功能，与现实的文件大小分布，并与小的额外延迟（与基线加密文件系统相比）时，与Dropbox作为同步服务配对。
2016-12-02 cs.CR
FOBNN: Fast Oblivious Inference via Binarized Neural Networks
提出基于二值化神经网络的快速不经意推理框架FOBNN，通过位长限制和逐层位累加算法优化不经意位计数瓶颈，在不泄露数据的前提下显著提升线性操作效率，并在基准测试和生物信息学中验证其优越性。
2025-08-10 cs.CR
Oblivis: A Framework for Delegated and Efficient Oblivious Transfer
Newcastle University（纽卡斯尔大学）；The University of Texas at Dallas（德克萨斯大学达拉斯分校）
Oblivis提出了一种新的秘密传输协议框架，支持委托查询和隐私保护，通过多接收者OT和Supersonic OT实现高效安全的数据检索，适用于云和边缘计算场景。
2026-03-15 cs.CR cs.DB
Oblivious Sampling Algorithms for Private Data Analysis
University of Waterloo（滑铁卢大学）；Microsoft（微软公司）；The University of Melbourne（墨尔本大学）
我们研究安全和隐私保护的数据分析的基础上执行的查询样本从数据集。可信执行环境（TEE）可用于在查询计算期间保护数据的内容，而在TEE中支持差分私有（DP）查询在查询输出被揭示时提供记录隐私。由于\emph{privacy amplification}，对基于样本的查询的支持是有吸引力的，因为不是所有的数据集都被用来回答查询，而只是一个小的子集。然而，提取数据样本与TEE，同时证明强大的DP保证是不平凡的样本索引的秘密必须得到保护。为此，我们设计了有效的安全变种常见的采样算法。实验表明，对于MNIST和CIFAR-10的差异隐私模型，使用洗牌和采样训练的模型的准确性是相同的，而采样提供了比洗牌更强的隐私保证。
2020-09-28 cs.CR cs.DS cs.LG
Visor: Privacy-Preserving Video Analytics as a Cloud Service
UC Berkeley（加州大学伯克利分校）；Microsoft Research（微软研究院）
视频分析即服务正在成为云提供商的重要产品。这种服务的一个关键问题是正在分析的视频的隐私。虽然可信执行环境（TEE）是用于防止私人视频内容的直接泄漏的有希望的选择，但是它们仍然容易受到侧信道攻击。我们介绍了Visor，这是一个为用户的视频流以及ML模型提供机密性的系统，它存在一个受损的云平台和不受信任的合作伙伴。Visor在跨越CPU和GPU的混合TEE中执行视频管道。它保护流水线免受视频模块的数据相关访问模式引起的侧信道攻击，并且还解决了CPU-GPU通信信道中的泄漏。Visor达到$1000\times$的速度比幼稚的遗忘解决方案快，并且其相对于非遗忘基线的开销限于$2\times$ -- $6\times$。
2020-06-23 cs.CR cs.CV
Obscure: Information-Theoretically Secure, Oblivious, and Verifiable Aggregation Queries on Secret-Shared Outsourced Data -- Full Version
尽管密码学取得了令人兴奋的进展，但外包数据的安全和高效查询处理仍然是一个公开的挑战。我们开发了一个通信效率和信息理论上的安全系统，题为模糊的聚合查询与合取或析取谓词，使用秘密共享。模糊是强安全的（即，无论对手的计算能力如何都是安全的），并防止网络以及（对抗）服务器学习用户的查询、结果或数据库。此外，Obscure还提供了额外的安全功能，例如隐藏访问模式（即，隐藏满足查询的元组的身份）和隐藏查询模式（即，隐藏哪两个查询是相同的）。此外，Obscure不需要在查询执行之前/期间/之后存储秘密共享数据的任何两个服务器之间的任何通信。此外，我们的技术处理由单个或多个数据库所有者外包的秘密共享数据，以及允许可能不是数据库所有者的用户对秘密共享数据执行查询。我们进一步开发了（非强制性的）隐私保护结果验证算法，用于检测恶意行为，并通过实验验证了Obscure在大型数据集上的效率，而之前的秘密共享或多方计算系统的方法还没有扩展到这种规模。
2020-04-27 cs.CR cs.DB cs.IR
Utility-aware and privacy-preserving mobile query services
基于位置的查询为移动道路网络旅行者提供基本服务。虽然基于位置的服务（LBS）的好处很多，但将移动旅行者的位置信息暴露给不受信任的LBS提供商可能会导致隐私泄露。在本文中，我们提出了StarCloak，一个实用程序感知和攻击弹性的方法来建立一个隐私保护的查询系统，移动用户在道路网络上行驶。StarCloak有几个令人满意的特性。首先，StarCloak支持用户定义的k用户匿名性和l段不可否认性，以及用户指定的空间和时间效用约束，以实现效用感知和个性化的位置隐私。其次，与传统的解决方案，是漠不关心的基础道路网络结构，StarCloak使用的概念，明星，并提出了有效的位置隐藏在道路网络的伪装图。第三，StarCloak通过随机的星选择和修剪，实现了对重放和查询注入攻击的强大攻击弹性。最后，为了实现高吞吐量的可扩展查询处理，StarCloak通过考虑查询评估和网络通信成本来做出成本感知的星选择决策。我们评估StarCloak在两个真实世界的道路网络数据集下的各种隐私和效用的限制。结果表明，StarCloak与其最相关的竞争对手XStar相比，提高了查询成功率和吞吐量，减少了匿名化时间和网络使用量，并具有更高的攻击弹性。
2019-07-15 cs.CR
Cerberus: Query-driven Scalable Vulnerability Detection in OAuth Service Provider Implementations
本研究针对OAuth服务提供商库安全性缺乏自动检测的问题，形式化OAuth规范并设计查询驱动的静态分析工具Cerberus，在热门库中发现47个漏洞（24个新漏洞），获8个开发团队认可及3个CVE编号。
2023-08-29 cs.CR
Integrity Authentication for SQL Query Evaluation on Outsourced Databases: A Survey
在云计算发展的推动下，最近对数据库即服务（DaaS）范例产生了相当大的兴趣。缺乏专业知识或计算资源的用户可以将其数据和数据库管理需求外包给第三方服务提供商。然而，外包提出了一个重要的结果完整性问题：客户端如何以轻量级开销验证服务提供者返回的查询结果是正确的（即，与本地查询执行的结果相同）？本次调查的重点是对DaaS模型中SQL查询评估结果完整性的当前方法进行分类和审查。该调查还包括一些潜在的未来研究方向的结果完整性验证的外包计算。
2018-08-24 cs.CR
Symmetric Blind Decryption with Perfect Secrecy
盲解密方案使用户能够从解密服务器查询解密，而不泄露关于明文消息的信息。这样的方案例如对于隐私保护加密文件存储和支付系统的实现是有用的。就功能而言，盲解密接近于不经意传输。对于无噪声信道，信息理论上安全的不经意传输是不可能的。然而，在本文中，我们表明，这是不是盲解密的情况下。我们制定了对称盲解密的完美保密的定义如下设置：最多一个计划的参与者是一个恶意的观察者。我们还设计了一个对称盲解密方案的基础上模运算环$\mathbb{Z}_{p^2}$，其中$p$是一个素数，并证明它满足我们的概念的完美保密。
2015-10-21 cs.CR
P4QS: A Peer to Peer Privacy Preserving Query Service for Location-Based Mobile Applications
基于位置的服务提供了网络世界和物理世界的有趣组合。但是，它们也可能威胁到用户的隐私。现有的隐私保护协议需要可信节点，存在严重的安全和计算瓶颈。提出了一种基于对等网络结构的分布式匿名协议。每个移动节点负责匿名化特定区域。移动节点在匿名查询中进行协作，而不需要访问关于彼此的任何信息。在提议的协议中，每个请求将与随机选择的票一起发送。服务器生成的加密响应基于此票证的哈希值通过网络发送到特定的移动节点（称为代理节点）。用户将查询代理以获得响应。消息的所有部分都是加密的，除了匿名器和代理所需的字段。这将保护P2P网络上的数据包交换。实验结果表明，该协议能够有效地实现位置服务中的用户隐私保护。
2016-06-08 cs.CR
Secure k-NN as a Service Over Encrypted Data in Multi-User Setting
为了安全地利用云计算的优势，近年来在“加密数据上的安全查询处理”领域进行了大量的研究。作为一个具体的用例，已经提出了许多加密方案，用于在外包设置中安全地处理加密数据上的k最近邻（SkNN）。最近Zhu et al[25].提出了一种SkNN解决方案，声称满足以下四个属性：（1）数据隐私，（2）密钥机密性，（3）查询隐私性和（4）查询可控性。然而，在本文中，我们提出了一种攻击，打破了他们的计划的查询可控性索赔。此外，我们提出了一个新的SkNN解决方案，它满足所有现有的四个属性以及查询检查验证的附加基本属性。我们分析了我们提出的方案的安全性，并给出了详细的实验结果，以展示在现实世界中的效率。
2018-01-15 cs.CR
SONNI: Secure Oblivious Neural Network Inference
本文揭示了隐私保护MLaaS协议中易受Silver Platter模型窃取攻击的弱点，并提出一种新颖的结果检查协议，在抵御恶意串谋的同时保护数据与模型隐私。
2025-04-26 cs.CR
Building Confidential and Efficient Query Services in the Cloud with RASP Data Perturbation
随着公共云计算基础设施的广泛部署，利用云承载数据查询服务因其可扩展性和成本节约等优势而成为一种极具吸引力的解决方案。然而，一些数据可能是敏感的，数据所有者不想移动到云，除非数据机密性和查询隐私得到保证。另一方面，安全查询服务仍应提供高效的查询处理，并显著减少内部工作量，以充分实现云计算的优势。我们提出了RASP数据扰动方法，为云中受保护的数据提供安全高效的范围查询和kNN查询服务。RASP数据扰动方法结合了保序加密、维数扩展、随机噪声注入和随机投影，对扰动数据和查询的攻击提供了强大的弹性。它还保留了多维范围，这允许应用现有的索引技术来加速范围查询处理。kNN-R算法被设计为与RASP范围查询算法一起处理kNN查询。我们在精确定义的威胁模型和现实的安全假设下仔细分析了对数据和查询的攻击。大量的实验表明，这种方法在效率和安全性方面具有优势。
2013-01-09 cs.CR cs.DB
AuthPDB: Query Authentication for Outsourced Probabilistic Databases
在云计算等发展的推动下，数据管理外包的努力越来越多。缺乏专业知识和计算资源的公司（数据所有者）可以将其数据外包给第三方服务提供商（服务器），该服务提供商提供对外包数据的存储和查询评估服务。外包范例的一个安全问题是外包数据上返回的查询结果的完整性。本文考虑概率数据库的外包，其查询评估具有很高的复杂性。一个不诚实的服务器可能会返回廉价的（和不正确的）查询答案，希望具有较弱计算能力的客户端无法捕获不正确的结果。为了解决这个问题，我们设计了高效的完整性验证方法，用于外包概率数据库上的所有答案和top-k查询评估。我们的实证结果证明了我们的验证方法的有效性和效率。
2019-01-07 cs.CR
Oblivious DNS over HTTPS (ODoH): A Practical Privacy Enhancement to DNS
域名系统（DNS）是人类可用的互联网的基础，响应客户端对具有相应IP地址和记录的主机名的查询。传统DNS也是未加密的，会将用户信息泄露给网络运营商。最近使用DNS over TLS（DoT）和DNS over HTTPS（DoH）来保护DNS的努力已经获得了越来越多的关注，表面上保护了流量并隐藏了旁观者的内容。然而，对DoT和DoH的批评之一是由于少量的大规模部署（例如，Comcast，Google，Cloudflare）：DNS解析器可以将查询内容与IP地址形式的客户端身份相关联。不经意DNS over HTTPS（ODoH）可防止此问题。在本文中，我们问什么将采取使ODoH实用？我们描述ODoH，一个实用的DNS协议，旨在解决这个问题，保护客户端的内容和身份。我们实现和部署协议，并进行测量，以表明ODoH具有与DoH和DoT等协议相当的性能，这些协议正在获得广泛采用，同时提高客户端隐私，使ODoH成为DNS使用的实用隐私增强替代品。
2020-11-19 cs.CR cs.NI
Search Me If You Can: Privacy-preserving Location Query Service
随着智能手机和社交网络服务（SNS）的迅猛发展，基于位置的服务（LBS）变得越来越流行，其丰富的上下文功能吸引了大量用户。许多LBS提供商使用用户的位置信息为他们提供方便和有用的功能。然而，由于位置本身包含了大量信息，LBS可能会严重侵犯个人隐私。因此，保护位置隐私，同时实现效用，它仍然是一个具有挑战性的问题。本文通过设计一套新颖的细粒度隐私保护位置查询协议（PLQP）来解决这一重要挑战。我们的协议允许不同用户对加密位置信息进行不同级别的位置查询，并且它足够高效，可以应用于移动平台。
2013-04-11 cs.CR cs.SI
MOBIUS: Model-Oblivious Binarized Neural Networks
Osaka University（大阪大学）；Panasonic Corporation（松下公司）；National Institute of Advanced Industrial Science and Technology（国立先进工业科学技术研究所）
一种隐私保护框架，其中计算资源提供者从客户端接收加密数据并返回预测结果而不解密数据，即，不经意神经网络或加密预测已经在提供预测服务的机器学习中被研究。在这项工作中，我们提出了MOBIUS（模型不经意二进制神经网络），一个新的系统，结合了二进制神经网络（BNN）和基于秘密共享的安全计算作为可扩展和快速隐私保护机器学习的工具。BNN通过将训练中的值二进制化为$-1$和$+1$来提高计算性能，而基于秘密共享的安全计算通过具有短比特长度的模运算在加密形式下提供快速和各种计算。然而，组合这些工具并不简单，因为它们的运算具有不同的代数结构，并且BNN的使用通常会降低预测精度。MOBIUS使用改进的BNN程序和安全计算，具有兼容的代数结构，而不会降低预测精度。我们使用ABY库（NDSS 2015）在C++中创建了MOBIUS的实现。然后，我们使用MNIST数据集进行了实验，结果显示MOBIUS可以在0.76秒内返回预测，比SecureML快6倍（IEEE S\& P 2017）。MOBIUS允许客户端请求加密预测，并允许训练者将加密模型不经意地发布到由计算资源提供商提供的云，即，而不向提供者揭示原始模型本身。
2018-11-29 cs.AI cs.CR
ObCLIP: Oblivious CLoud-Device Hybrid Image Generation with Privacy Preservation
TikTok Inc.（TikTok公司）；National University of Singapore（新加坡国立大学）
针对扩散模型云侧推理的提示词隐私泄露问题，提出即插即用的ObCLIP云-端混合生成框架，通过候选提示词混淆、分步去噪及缓存加速实现严格隐私保障与接近云端的生成效用。
2025-10-05 cs.CR cs.LG
Revisiting a Privacy-Preserving Location-based Service Protocol using Edge Computing
基于位置的服务越来越受欢迎。寻找附近的商店，基于邻近的营销，道路上的服务援助等，是一些使用基于位置的服务的服务。在基于位置的服务中，用户身份、用户查询和位置等用户信息必须受到保护。Ma等人（INFOCOM-BigSecurity 2019）提出了一种使用某种同态加密（SHE）的隐私保护基于位置的服务。他们的协议使用边缘节点计算SHE加密的位置数据，并确定$k$ -包含在基于位置的服务器（LBS）中的最近的兴趣点，而不会向LBS泄露原始用户坐标，因此，确保用户位置的隐私。在这项工作中，我们表明，上述协议由马等。有一个严重的缺陷。特别是，我们证明了他们的安全比较协议有一个正确性问题，因为它不会导致正确的比较。此缺陷的一个主要后果是，修复此问题的直接方法将使其协议不安全。也就是说，LBS将能够在每个查询中恢复用户的实际位置。
2022-11-21 cs.CR
Enabling Secure Database as a Service using Fully Homomorphic Encryption: Challenges and Opportunities
至少在过去的十年里，数据库社区一直在努力查询加密数据，这将使安全的数据库作为服务解决方案。密码学界最近（2009年）的一项突破与全同态加密（FHE）有关，表明对加密数据的任意计算是可能的。然而，成功地采用FHE进行查询处理仍然是一个遥远的梦想，并且必须解决许多挑战。一个挑战是如何执行加密数据的代数查询处理，其中我们产生加密的中间结果，并且可以组合对加密数据的操作。在本文中，我们描述了加密数据的代数查询处理的解决方案，还概述了其他几个需要解决的挑战，同时还描述了可以从数据库社区查询加密数据的十年工作中吸取的教训。
2013-02-11 cs.CR cs.DB
Hiding in the Clouds and Building a Stealth Communication Network
社交网络、即时消息和文件共享系统是朋友、家人、同事等之间的常见通信手段。由于对个人隐私、身份盗窃、数据滥用、言论自由和政府监视的关注，在线社交或通信网络为用户提供了保护或控制他或她的个人数据的各种选项。然而，对于大多数这些服务，用户数据仍然可以由服务提供商访问，这可能导致如果在服务器侧发生数据泄露和网络管理员滥用数据的责任问题。为了防止服务提供商访问用户数据，必须提供安全的端到端用户通信，例如WhatsApp提供的通信。另一方面，由这种通信网络提供的服务仍然可能受到权威机构的干扰。为了使通信网络具有隐身性，以下特征是必不可少的：（1）不经意的服务，（2）完全的用户控制和灵活性，以及（3）轻量级。在本文中，我们首先讨论了隐形通信网络（SNET）的特点和好处，然后我们提出了一个理论框架，可以通过实现SNET。通过利用该框架和现有的公开可用的云存储，我们提出了SNET的一个实例，名为Secret-Share的实现细节。最后，我们讨论了当前Secret-Share的局限性及其潜在的扩展。
2019-01-29 cs.CR
Adding Query Privacy to Robust DHTs
近年来，对分布式哈希表（DHT）上的匿名通信的兴趣有所增加。然而，几乎所有已知的解决方案都只针对在DHT查询中实现发送者或请求者匿名。在许多应用场景中，关键是查询的密钥对中间对等体保持秘密，这些中间对等体（帮助）将查询路由到其目的地。在本文中，我们满足这一要求，提出了一种方法，提供隐私的关键在DHT查询。我们使用不经意传输（OT）的概念，在通信中的DHT保留查询隐私，而不影响垃圾邮件的抵抗。虽然我们的OT为基础的方法可以工作在任何分布式哈希表，我们专注于强大的分布式哈希表，可以容忍拜占庭故障和抵制垃圾邮件的通信。我们选择最知名的强大的DHT建设，并采用一个有效的OT协议非常适合实现我们的目标，获得查询隐私的强大的DHT。最后，我们比较了我们的隐私保护协议的性能与他们的隐私侵犯同行。我们观察到消息复杂度没有增加，计算复杂性只有很小的开销。
2012-04-03 cs.CR cs.DC
Imitation Privacy
近年来，已经有许多基于云的机器学习服务，其中通过预测API在按查询付费方案上向用户提供经过良好训练的模型。这些服务的出现激发了这项工作，我们将开发一个称为模仿隐私的模型隐私的一般概念。我们展示了模仿隐私在经典的查询-响应MLaaS场景和新的多组织学习场景中的广泛适用性。我们还讨论了模仿隐私和通常的数据级隐私之间的根本区别。
2020-08-30 cs.CR
RemoteRAG: A Privacy-Preserving LLM Cloud RAG Service
本文提出RemoteRAG，一种隐私保护的云RAG服务，通过$(n,ε)$-DistanceDP扰动嵌入并限制搜索范围，在保护用户查询隐私的同时实现高效、准确的检索，并抵抗嵌入反转攻击。
2024-12-17 cs.CR cs.IR
Data Querying and Access Control for Secure Multiparty Computation
在物联网和智能环境中，从分布式传感器收集的数据通常由中央中间件存储和处理。这允许应用程序查询它们提供进一步服务所需的数据。然而，数据的集中化导致了一些隐私威胁：中间件成为必须信任的第三方，来自不同上下文的数据的链接和关联成为可能，数据主体失去了对数据的控制。因此，应考虑集中处理以外的其他办法。在这里，安全多方计算是一个有前途的候选人，安全和隐私保护的计算发生在接近数据源。为了使SMC适合在这些情况下的应用程序，我们扩展SMC作为一个服务：我们提供的元素，允许第三方查询计算数据从一组同行执行SMC。此外，我们建立细粒度的访问控制的个人数据查询的水平，产生数据保护的计算结果。通过添加措施来通知数据源有关请求及其数据的使用情况，我们展示了如何在SMC的基础上构建完全隐私保护的服务。
2019-01-09 cs.CR cs.NI
Mutualized oblivious DNS ($μ$ODNS): Hiding a tree in the wild forest
本文提出一种基于多中继的互化 oblivious DNS（$μ$ODNS）方案，通过用户相互共享可信中继并随机选择后续中继，有效防止中继与解析器串通导致用户身份泄露，在保护隐私的同时保持与现有方案相当的性能。
2021-06-07 cs.CR cs.NI
Reclaiming Privacy and Performance over Centralized DNS
域名系统（DNS）既是用户体验质量（QoE）的关键决定因素，也是他们的品味、偏好甚至他们拥有的设备的隐私。对用户隐私和QoE的日益关注带来了许多替代DNS服务，从公共DNS到加密和不经意DNS。在提供有价值的功能的同时，这些DNS变体由少数提供商运营，加强了集中化的趋势，引发了对隐私，竞争，弹性和Web QoE的担忧。这项工作的目标是让用户在不牺牲隐私或性能的情况下利用第三方DNS服务。我们遵循Wheeler的建议，使用端系统DNS解析器Onoma添加另一个间接级别，以提高隐私性，通过在解析器之间插入和分片请求来避免基于DNS的用户重新识别，并通过在解析器之间运行解析竞赛和恢复内容分发网络依赖的客户端-解析器邻近假设来提高性能。虽然可能不存在对所有地方的所有客户端的理想服务，但是Onoma动态地为任何给定位置找到最佳服务。
2023-02-26 cs.CR cs.NI
A Quantum-based Database Query Scheme for Privacy Preservation in Cloud Environment
针对云数据库查询中的双方隐私与通信开销问题，提出结合不经意传输、oracle、改进Grover迭代和偏移加密的量子查询方案，并验证其正确性、隐私性与效率。
2020-02-01 cs.CR quant-ph
Efficient and Secure Range Counting over Distributed Geographic Data with Query Range Protection
Xi’an Jiaotong University（西安交通大学）；China Mobile System Integration Co., Ltd（中国移动系统集成有限公司）
研究分布式地理数据范围计数隐私问题，提出PPRC协议。核心方法有支持高效点在范围内评估并保护查询范围的PRP技术，及高效安全聚合重叠数据组织部分结果的OLC方案。贡献是满足隐私、效率和准确性要求。
2026-07-07 cs.CR cs.DS
Enc2DB: A Hybrid and Adaptive Encrypted Query Processing Framework
针对云数据库中的密文查询问题，本文提出 Enc2DB 混合自适应框架，结合密码学与 TEE 动态选择执行路径，并设计兼容优化器的密文索引，TPC-C 实验显示其性能优于现有方案。
2024-04-10 cs.CR cs.DB
Location Privacy Protection Game against Adversary through Multi-user Cooperative Obfuscation
研究多用户在LBS中如何利用相互服务灵活性协同对抗最优推断攻击，提出极大极小博弈、线性规划及常数复杂度二元混淆方案，并给出最优查询顺序指导。
2023-02-17 cs.CR cs.GT
Model Extraction Warning in MLaaS Paradigm
IBM India Research Lab（IBM印度研究院）；Indian Institute of Technology, Kanpur（印度理工学院坎普尔分校）
云供应商越来越多地提供机器学习服务，作为其平台和服务组合的一部分。这些服务支持在云上部署机器学习模型，这些模型以按查询付费的方式提供给应用程序开发人员和最终用户。然而，最近的工作表明，托管模型容易受到提取攻击。攻击者可能会发起查询以窃取模型，并危及未来的查询支付或训练数据的隐私。在这项工作中，我们提出了一个基于云的提取监视器，可以通过观察个人和勾结对抗用户的查询和响应流来量化模型的提取状态。我们提出了一种新的技术，使用信息增益来衡量模型的学习率的查询次数增加的用户。此外，我们提出了一种替代技术，保持智能查询摘要，以衡量学习率相对于存在勾结的输入特征空间的覆盖范围。这两种方法都具有较低的计算开销，并且可以很容易地作为服务提供给模型所有者，以警告他们可能来自对手的提取攻击。我们使用开源数据集和不同的对抗攻击策略，为部署在BigML MLaaS平台上的决策树模型提供了这些方法的性能结果。
2017-11-20 cs.CR cs.DC cs.LG
MLCapsule: Guarded Offline Deployment of Machine Learning as a Service
Stanford University（斯坦福大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Max Planck Institute for Informatics（马克斯·普朗克计算机科学研究所）
随着机器学习（ML）技术的广泛使用，ML作为一种服务变得越来越受欢迎。在这种情况下，ML模型驻留在服务器上，用户可以通过API使用他们的数据查询它。然而，如果用户的输入是敏感的，那么将其发送到服务器是不可取的，有时甚至在法律上是不可能的。同样，服务提供者也不想通过将模型发送给客户机来共享模型，以保护其知识产权和按查询付费的业务模型。在本文中，我们提出了MLCapsule，这是一种将机器学习作为服务的有保护的离线部署。MLCapsule在用户端本地执行模型，因此数据永远不会离开客户端。同时，MLCapsule为服务提供商提供了与常用的服务器端执行相同的控制和安全级别。此外，MLCapsule适用于需要本地执行的离线应用程序。除了防止直接模型访问之外，我们还将安全的离线部署与对机器学习模型的高级攻击（如模型窃取、逆向工程和成员推断）的防御相结合。
2019-02-06 cs.AI cs.CR cs.LG
MeanCache: User-Centric Semantic Caching for LLM Web Services
Virginia Tech（弗吉尼亚理工大学）；Cisco（思科）；University of Minnesota（明尼苏达大学）
MeanCache提出用户中心语义缓存，利用联邦学习训练查询相似性模型，识别语义相似查询，减少LLM重复推理成本，相比最先进方法F分数提升17%，精度提升20%，存储降低83%。
2025-03-07 cs.AI cs.CL cs.CR
