Sensitivity estimation for differentially private query processing
针对含连接操作的复杂查询敏感度难以计算的问题,本文提出基于采样和草图的高效敏感度估计方法,在保证准确性的同时显著降低计算开销。
2023-04-19 cs.CR cs.DB
Privacy-Preserving Querying in Sensor Networks
无线传感器网络(WSNs)通过许多配备无线收发器的小型自治设备提供传感和监测服务。随着无线传感器网络的大规模和/或长期部署,不仅传统的安全,而且隐私问题必须考虑在内。此外,当网络运营商提供按需访问传感器测量到他们的客户端,查询机制应该理想地既不泄漏客户端的利益,也不查询模式。在本文中,我们提出了一个隐私保护的WSN查询机制,使用标准的密码技术。除了防止未经授权的实体访问传感器读数外,它还最大限度地减少了有关用户查询目标和模式的(潜在敏感)信息的泄漏。
2009-05-13 cs.CR
From One Query to Many: A Critical Survey of Privacy Accounting in RAG
本综述针对RAG的隐私核算问题,将现有方法分为三类,提出三维度解释框架,指出ε需结合三个要素才具有效保障。
2026-10-26 cs.CR
Differential Privacy Via a Truncated and Normalized Laplace Mechanism
当查询包含敏感信息的数据库时,必须保证存储在数据库中的个人的隐私。这种保证是由差分私有机制提供的,该机制向查询响应添加受控噪声。然而,大多数这样的机制不考虑所提出的查询的有效范围。因此,可能会产生落在该范围之外的噪声响应。为了纠正这一点,从而提高该机制的效用,可以将常用的拉普拉斯分布截断到查询的有效范围,然后进行归一化。然而,这种数据相关的归一化操作泄漏了关于真实查询响应的附加信息,从而违反了差分隐私保证。在这里,我们提出了一种新的方法,它保留了差分隐私保证通过仔细确定一个适当的缩放参数的拉普拉斯分布。我们还概括的拉普拉斯分布的上下文中的隐私保证占数据相关的归一化因子,并研究这种保证不同类别的范围约束配置。我们提供了最佳缩放参数的推导(即,保留差分隐私的最小值)或提供其近似值。作为这项工作的结果,人们可以使用拉普拉斯分布来回答查询的范围遵守和差异隐私的方式。
2020-08-25 cs.CR cs.DB
Pricing Private Data with Personalized Differential Privacy and Partial Arbitrage Freeness
将个人数据视为商品的趋势越来越明显。现有的研究已经建立了框架和理论,如何确定一个给定的查询的无仲裁的价格,根据隐私损失量化的差分隐私。然而,这些研究假设数据购买者可以购买查询答案,而数据所有者的任意隐私损失,这在严格的隐私法规和数据所有者日益增加的隐私问题下可能是无效的。在本文中,我们研究了如何授权数据所有者控制数据交易中的隐私损失。首先,我们提出了一个交易个人数据的框架,使数据所有者能够限制他们的个性化隐私损失。其次,由于有界隐私损失表明查询答案的效用有界,因此我们提出了一种合理的无套利放松,称为部分无套利,即,仅对有限范围的公用事业保证无仲裁定价,这为我们的市场设计提供了更多的可能性。第三,为了避免套利,我们提出了一种通用的方法,以确保在个性化差分隐私的套利自由。第四,为了充分利用数据所有者的个性化隐私损失范围,我们提出了隐私预算分配技术来分配隐私损失的查询下套利自由。最后,我们进行实验来验证我们提出的交易协议的有效性。
2021-11-23 cs.CR cs.DB
Optimal error of query sets under the differentially-private matrix mechanism
隐私研究的一个共同目标是发布满足正式隐私保证的合成数据,并可由分析师使用以代替原始数据。为了达到合理的准确性,必须调整合成数据集以准确地支持指定的查询集,牺牲其他查询的保真度。这项工作认为,在差分隐私下产生合成数据的方法,并调查是什么使一组查询“容易”或“难以”回答。我们考虑使用矩阵机制回答线性计数查询集,这是一种最近的差分私有机制,可以通过添加适应指定工作负载的复杂相关噪声来减少错误。我们的主要结果是一个新的下限的最小总错误所需的同时释放一组工作量查询的答案。该界限揭示了查询工作负载的硬度与工作负载的谱特性有关,当它以矩阵形式表示时。该界限对于$(ε,δ)$ -差分隐私是最具信息性的,但也适用于$ε$ -差分隐私。
2012-12-17 cs.CR cs.DB
Utility-aware and privacy-preserving mobile query services
基于位置的查询为移动道路网络旅行者提供基本服务。虽然基于位置的服务(LBS)的好处很多,但将移动旅行者的位置信息暴露给不受信任的LBS提供商可能会导致隐私泄露。在本文中,我们提出了StarCloak,一个实用程序感知和攻击弹性的方法来建立一个隐私保护的查询系统,移动用户在道路网络上行驶。StarCloak有几个令人满意的特性。首先,StarCloak支持用户定义的k用户匿名性和l段不可否认性,以及用户指定的空间和时间效用约束,以实现效用感知和个性化的位置隐私。其次,与传统的解决方案,是漠不关心的基础道路网络结构,StarCloak使用的概念,明星,并提出了有效的位置隐藏在道路网络的伪装图。第三,StarCloak通过随机的星选择和修剪,实现了对重放和查询注入攻击的强大攻击弹性。最后,为了实现高吞吐量的可扩展查询处理,StarCloak通过考虑查询评估和网络通信成本来做出成本感知的星选择决策。我们评估StarCloak在两个真实世界的道路网络数据集下的各种隐私和效用的限制。结果表明,StarCloak与其最相关的竞争对手XStar相比,提高了查询成功率和吞吐量,减少了匿名化时间和网络使用量,并具有更高的攻击弹性。
2019-07-15 cs.CR
Multi-Analyst Differential Privacy for Online Query Answering
大多数差异私有机制都是为单个分析员设计的。然而,在现实中,通常有多个利益相关者,他们的优先级不同,甚至可能相互冲突,他们必须分担相同的隐私损失预算。这激发了多分析者差分隐私的公平共享问题。我们以前的工作定义的desiderata,在这个空间中的任何机制都应该满足和介绍的方法,在离线的情况下,查询是已知的。我们扩展我们以前的工作多分析师差异私人查询回答的情况下,在线查询回答,查询进来一次,必须回答以下查询的知识。我们证明,在网上的情况下,查询的未知顺序的结果在一个基本的限制,可以回答,同时满足desiderata的查询的数量。作为回应,我们开发了两种机制,一种是满足在所有情况下的desiderata,但受到的基本限制,另一种是随机的输入顺序,确保现有的在线查询应答机制可以满足desiderata。
2022-12-19 cs.CR cs.CY cs.DB
Private Approximate Query over Horizontal Data Federation
针对水平联邦多维数据的范围查询,本文结合AQP与DP,提出数据分布感知的在线采样方法,在保证精度与形式化隐私的同时实现最高8倍加速。
2024-06-17 cs.CR cs.DB
Towards Privacy-Preserving Range Queries with Secure Learned Spatial Index over Encrypted Data
School of Artificial Intelligence and Computer Science, Jiangnan University(江南大学人工智能与计算机学院);College of Big Data and Information Engineering, Guizhou University(贵州大学大数据与信息工程学院);College of Big Data Engineering, Kaili University(凯里学院大数据工程学院);School of Mathematics and Statistics, Guizhou University(贵州大学数学与统计学院)
本文提出了一种基于Secure Learned Spatial Index的隐私保护范围查询方案,通过加密数据域中的高效查询加速和安全计算,实现了强隐私保护和高效率。
2025-12-03 cs.CR cs.DB
Survey and Open Problems in Privacy Preserving Knowledge Graph: Merging, Query, Representation, Completion and Applications
Ant Group(蚂蚁集团);Macquarie University(麦考瑞大学)
知识图谱(KG)因其能够以有意义的方式连接不同类型的数据,并支持丰富的数据服务,受到越来越多企业的关注。然而,数据隔离问题限制了KG的性能,并阻碍了其进一步发展。即是说,多个机构都有自己的幼儿园,但基于规管或竞争的理由,不能共用。因此,如何进行隐私保护的幼儿园成为一个重要的研究课题。也就是说,多方在保护多个幼儿园隐私的基础上协同进行幼儿园相关任务。到目前为止,很少有解决上述KG隔离问题的工作。在本文中,为了填补这一空白,我们总结了开放的问题,隐私保护KG在数据隔离设置,并提出了可能的解决方案。具体而言,我们从四个方面总结了隐私保护KG中存在的问题,即,合并、查询、表示和完成。我们详细介绍了这些问题,并提出了可能的技术解决方案。此外,我们提出了三个隐私保护KG感知的应用程序,并简单地描述了如何将我们提出的技术应用到这些应用程序。
2020-11-20 cs.CR cs.DB cs.LG
Differential Privacy: An Estimation Theory-Based Method for Choosing Epsilon
差分隐私是通过在查询响应中引入拉普拉斯噪声来实现的,从而在差分隐私级别和数据库响应的准确性之间建立精确的权衡(通过引入的噪声量)。然而,要添加的噪声量通常通过拉普拉斯分布的尺度参数来定义,其使用可能不那么直观。在本文中,我们建议使用两个参数,而不是相关的概念,区间估计,这提供了一个更直观的图片,如何精确的计数查询的真实输出可以衡量从噪声污染的(因此,多少个人的隐私受到保护)。
2015-10-04 cs.CR cs.DB
Achieve Efficient Position-Heap-based Privacy-Preserving Substring-of-Keyword Query over Cloud
最初用于缓解数据爆炸性增长的云计算技术,已被要求同时考虑数据隐私和用户查询功能。对称可搜索加密(SSE)是一种流行的解决方案,用于支持对云中加密数据的有效关键字查询。然而,大多数现有的SSE方案集中在精确的关键字查询上,并且当用户只记得关键字的子串时,即,关键字子串查询。本文旨在研究这个问题,提出了一个有效的和隐私保护的substring-of-keyword查询方案在云。首先,我们采用位置堆技术来设计一种新的基于树的索引,以匹配子串与相应的关键字。在基于树的索引的基础上,我们介绍了我们的关键字子串查询方案,它包含两个连续的阶段。第一阶段查询与给定子字符串匹配的关键字,第二阶段查询与人们真正感兴趣的关键字匹配的文件。此外,详细的安全性分析和实验结果表明,我们提出的方案的安全性和效率。
2021-03-15 cs.CR
Cache Me If You Can: Accuracy-Aware Inference Engine for Differentially Private Data Exploration
差分隐私(DP)允许数据分析师查询包含用户敏感信息的数据库,同时向用户提供可量化的隐私保证。最近的交互式DP系统,如APEx提供的查询响应的准确性保证,但无法支持大量的查询与有限的总隐私预算,因为他们独立于过去的查询处理传入的查询。我们提出了一个交互式的,准确的DP查询引擎,CacheDP,它利用了过去的响应差分私人缓存,以较低的隐私预算来回答当前的工作量,同时满足严格的准确性保证。我们将复杂的DP机制与我们的结构化缓存,通过新的缓存感知DP成本优化。我们的全面评估表明,CacheDP可以准确地回答各种工作负载序列,同时降低隐私损失相比,相关的工作。
2022-11-28 cs.CR cs.DB
AHEAD: Adaptive Hierarchical Decomposition for Range Query under Local Differential Privacy
为了保护用户的隐私数据,利用本地差分隐私(LDP)提供隐私保护范围查询,从而支持进一步的统计分析。然而,现有的基于LDP的范围查询方法受到其属性的限制,即,根据预定义的结构收集用户数据。这些静态框架会导致向聚合数据添加过多的噪声,特别是在低隐私预算设置中。在这项工作中,我们提出了一个自适应分层分解(AHEAD)协议,自适应和动态控制建立的树结构,使注入的噪声得到很好的控制,保持高效用。此外,我们得出了一个指导方针,为AHEAD适当选择参数,使整体效用可以始终具有竞争力,同时严格满足LDP。利用多个真实和合成数据集,我们广泛地展示了AHEAD在低维和高维范围查询场景中的有效性,以及其相对于最先进方法的优势。此外,我们提供了一系列有用的观察部署AHEAD在实践中。
2021-10-14 cs.CR
Search Me If You Can: Privacy-preserving Location Query Service
随着智能手机和社交网络服务(SNS)的迅猛发展,基于位置的服务(LBS)变得越来越流行,其丰富的上下文功能吸引了大量用户。许多LBS提供商使用用户的位置信息为他们提供方便和有用的功能。然而,由于位置本身包含了大量信息,LBS可能会严重侵犯个人隐私。因此,保护位置隐私,同时实现效用,它仍然是一个具有挑战性的问题。本文通过设计一套新颖的细粒度隐私保护位置查询协议(PLQP)来解决这一重要挑战。我们的协议允许不同用户对加密位置信息进行不同级别的位置查询,并且它足够高效,可以应用于移动平台。
2013-04-11 cs.CR cs.SI
An Information-Theoretic Privacy Criterion for Query Forgery in Information Retrieval
在以前的工作中,我们提出了一个新的信息理论隐私准则查询伪造领域的信息检索。我们的标准衡量隐私风险之间的分歧用户和人口的查询分布,并考虑作为一个特定的情况下,用户的分布熵。在这项工作中,我们做出了双重贡献。首先,我们彻底解释和证明我们以前的工作中提出的隐私度量,阐述了著名的熵最大化方法和使用熵和分歧作为隐私的措施之间的密切联系。其次,我们试图弥合隐私和信息理论社区之间的差距,通过大量调整我们原来的工作,以达到更广泛的受众,不熟悉信息论和类型的方法的一些技术。
2011-11-17 cs.CR cs.IT math.IT
A Differential Privacy Mechanism Design Under Matrix-Valued Query
Princeton University(普林斯顿大学)
传统上,差分隐私机制设计已经针对标量值查询函数进行了定制。虽然诸如拉普拉斯和高斯机制的许多机制可以通过添加i.i.d.噪声到矩阵的每个元素,这种方法往往是次优的,因为它丧失了利用通常与矩阵分析相关联的结构特性的机会。在这项工作中,我们考虑的差分隐私机制的设计,专门为矩阵值查询功能。所提出的解决方案是利用矩阵变量噪声,而不是传统的标量值噪声。特别是,我们提出了一种新的差分隐私机制称为矩阵变量高斯(MVG)机制,它增加了一个矩阵值的噪声从矩阵变量高斯分布。我们证明了MVG机制保留$(ε,δ)$ -差分隐私,并表明它允许自然地利用矩阵值查询函数的结构特征。此外,由于MVG机制和矩阵值查询的多维性质,我们引入了方向噪声的概念,可以利用它来减轻噪声对查询效用的影响。最后,我们展示了MVG机制的性能和方向噪声的优势,使用三个矩阵值查询三个隐私敏感的数据集。我们发现,MVG机制显着优于四个以前的国家的最先进的方法,并提供了可比的实用程序的非私人基线。因此,我们的工作提出了一个很好的前景,未来的研究和实现的差分隐私矩阵值查询函数。
2018-02-26 cs.CR cs.LG
An Effective Clustering Approach to Web Query Log Anonymization
Web查询日志数据包含对研究有用的信息;然而,此类数据的发布可以重新识别发出查询的搜索引擎用户。这些隐私问题远远超出了删除姓名和地址等明确识别信息的范围,因为非识别个人数据可以与公开信息相结合,以确定个人。在这项工作中,我们的Web查询日志建模为非结构化的交易数据,并提出了一种新的交易匿名技术的基础上聚类和泛化技术,以实现k-匿名隐私。我们对AOL查询日志数据进行了广泛的实验。我们的研究结果表明,这种方法导致更高的数据效用相比,最先进的交易匿名化方法。
2010-12-03 cs.CR cs.DB
Optimizing Histogram Queries under Differential Privacy
差分隐私是一种强大的隐私标准,已成功应用于一系列数据分析任务。尽管最近的工作,回答相关查询的集合的最佳策略是不知道的。我们研究的问题,设计一组策略查询,提交和回答私人,这将支持一个给定的查询工作量的答案。我们提出了一个一般的框架,在该框架中,查询策略是由计数查询的线性组合形成的,我们描述了一种最佳方法,用于从策略查询的答案中获得新的查询答案。使用这个框架,我们的错误的战略几何特征,我们提出了解决问题的最佳策略。
2010-09-06 cs.CR cs.DB
Adjusting Queries to Statistical Procedures Under Differential Privacy
我们认为一个数据集$S$持有的机构,和一个矢量查询的兴趣,$f(S) \in \mathbb{R}^k$,由分析师提出,其中包含所需的信息,某些计划的统计推断。该机构使用众所周知的高斯机制发布所请求的带有噪声的向量查询,该噪声保证给定级别的差分隐私- DP $(\varepsilon,δ)$。分析师可以选择提出向量查询$f(S)$,或者通过适当的转换来调整它,这可以使机构的响应更具信息性。对于任何给定级别的隐私DP $(\varepsilon,δ)$决定的机构,我们研究自然的情况下,分析师可以实现更好的统计推断,通过调整查询一个合适的简单的显式变换。
2021-10-12 cs.CR
Equivalence-based Security for Querying Encrypted Databases: Theory and Application to Privacy Policy Audits
出于同时保护外包给第三方云的数据的机密性和可用性的问题,我们提出了两种不同的数据库加密方案,它们在很大程度上隐藏了数据,但揭示了足够的信息来支持广泛的关系查询。我们提供了一个数据库加密的安全定义,从对手的角度来看,捕获的数据库的等效概念的基础上的机密性。作为一个具体的应用程序,我们适应现有的算法,发现违反隐私政策的运行在我们的计划下加密的日志,并观察低到中等的开销。
2015-08-10 cs.CR
A Blockchain-Based Approach for Saving and Tracking Differential-Privacy Cost
越来越多的用户的敏感信息现在被收集用于分析目的。为了保护用户的隐私,差分隐私在文献中得到了广泛的研究。具体来说,差分隐私算法将噪声添加到查询的真实答案中以生成噪声响应。因此,由噪声输出泄漏的关于数据集的信息受隐私参数的约束。通常,数据集需要用于回答多个查询(例如,用于多个分析任务),因此隐私保护的级别可能随着回答更多的查询而降低。因此,跟踪隐私支出是至关重要的,这些支出不应超过给定的隐私预算。此外,如果查询之前已经被回答并且在同一数据集上再次被询问,则我们可以将先前的噪声响应重新用于当前查询以节省隐私成本。鉴于此,我们设计并实现了一个基于区块链的跟踪和节省差分隐私成本的系统。区块链提供了一个分布式的不可变分类账,记录每个查询的类型,用于回答每个查询的噪声响应,添加到真实查询结果中的相关噪声水平,以及我们系统中剩余的隐私预算。此外,由于区块链记录了用于回答每个查询的噪声响应,因此我们还设计了一种算法,如果重复询问相同的查询,则可以重用以前的噪声响应。具体来说,考虑到同一查询的不同请求可能有不同的隐私要求,我们的算法(通过严格的证明)能够设置旧的噪声响应的最佳重用比例,并添加新的噪声(如果需要),以最大限度地减少累积的隐私成本。实验结果表明,该算法在不影响数据准确性的前提下,可以显著降低隐私代价。
2020-12-22 cs.CR cs.SY eess.SY
A Differentially Private Algorithm for Range Queries on Trajectories
我们提出了一种新的算法,以确保$ε$ -差分隐私回答范围查询的轨迹数据。为了保证隐私,差分隐私机制在数据或查询中加入噪声,从而在查询中引入错误,并潜在地降低信息的效用。与最先进的方法相比,我们的方法实现了显着降低的错误,因为它是第一个数据和查询感知的方法,这样的查询。私下回答关于轨迹数据的范围查询的关键挑战是确保准确的计数。简单地将轨迹表示为点的集合而不是点的\emph{sequence}通常将导致高度不准确的查询答案,因为它忽略了轨迹中的位置点的顺序依赖性,即,会破坏弹道数据的一致性此外,轨迹通常不均匀地分布在整个城市中,并且均匀地添加噪声通常会导致较差的效用。为了实现差分隐私,我们的算法自适应地添加噪声的输入数据,根据给定的查询集。它首先将数据空间私有地划分成均匀的区域,并计算每个区域的流量密度。区域和它们的密度,除了给定的查询集,然后被用来估计在查询空间的轨迹的分布,这确保了给定的查询集的高精度。我们展示了我们的算法的准确性和效率,使用广泛的经验评估真实和合成数据集。
2019-07-18 cs.CR cs.DB
Adding Query Privacy to Robust DHTs
近年来,对分布式哈希表(DHT)上的匿名通信的兴趣有所增加。然而,几乎所有已知的解决方案都只针对在DHT查询中实现发送者或请求者匿名。在许多应用场景中,关键是查询的密钥对中间对等体保持秘密,这些中间对等体(帮助)将查询路由到其目的地。在本文中,我们满足这一要求,提出了一种方法,提供隐私的关键在DHT查询。我们使用不经意传输(OT)的概念,在通信中的DHT保留查询隐私,而不影响垃圾邮件的抵抗。虽然我们的OT为基础的方法可以工作在任何分布式哈希表,我们专注于强大的分布式哈希表,可以容忍拜占庭故障和抵制垃圾邮件的通信。我们选择最知名的强大的DHT建设,并采用一个有效的OT协议非常适合实现我们的目标,获得查询隐私的强大的DHT。最后,我们比较了我们的隐私保护协议的性能与他们的隐私侵犯同行。我们观察到消息复杂度没有增加,计算复杂性只有很小的开销。
2012-04-03 cs.CR cs.DC
Every Query Counts: Analyzing the Privacy Loss of Exploratory Data Analyses
Technische Universität Berlin(柏林工业大学);anacision GmbH(anacision有限公司)
探索性数据分析是每个数据分析师获得见解、评估数据质量和(如果需要)选择机器学习模型进行进一步处理的重要步骤。虽然保护隐私的机器学习正在兴起,但这种初始分析通常不会计入隐私预算。在本文中,我们量化了基本统计功能的隐私损失,并强调了在计算机器学习方法的隐私损失预算时将其考虑在内的重要性。
2020-08-27 cs.CR cs.LG stat.ML
A Quantum-based Database Query Scheme for Privacy Preservation in Cloud Environment
针对云数据库查询中的双方隐私与通信开销问题,提出结合不经意传输、oracle、改进Grover迭代和偏移加密的量子查询方案,并验证其正确性、隐私性与效率。
2020-02-01 cs.CR quant-ph
Empowering Evolving Social Network Users with Privacy Rights
在社交网络上存在着对隐私的相当大的关注,并且关于如何扩展用户需要的构件以有效地保护他们的隐私权的巨大争论持续存在。虽然已经提出了许多有趣的想法,但似乎没有一种方法足够全面,可以成为领跑者。在本文中,我们提出了一个全面的和新颖的参考概念模型的隐私在不断发展的社交网络,并建立其新颖性,通过简要对比它与当代的研究。我们还提出了一个可能的查询语言,我们可以开发的参考模型的理想功能的轮廓,并参考一个新的查询语言,{ \em PiQL},开发的基础上,这个模型的目的是支持用户驱动的隐私政策的创作和执行。我们的模型的优势在于,通过开发适当的语言结构作为查询语言(如SQL)的一部分,这种扩展现在是可能的,正如PiQL中所展示的那样。
2013-12-01 cs.CR cs.DB cs.SI
No-Go Theorems for Data Privacy
受控查询评估(CQE)是保证数据库和知识库系统数据隐私的一种方法。CQE系统的特征在于可以扭曲查询的答案以隐藏敏感信息的审查功能。我们介绍了一个高层次的形式化的控制查询评估和定义CQE系统的几个理想的属性。最后,我们建立了两个不去定理,这表明这些属性的某些组合不能得到。
2020-05-28 cs.CR cs.LO
P4QS: A Peer to Peer Privacy Preserving Query Service for Location-Based Mobile Applications
基于位置的服务提供了网络世界和物理世界的有趣组合。但是,它们也可能威胁到用户的隐私。现有的隐私保护协议需要可信节点,存在严重的安全和计算瓶颈。提出了一种基于对等网络结构的分布式匿名协议。每个移动节点负责匿名化特定区域。移动节点在匿名查询中进行协作,而不需要访问关于彼此的任何信息。在提议的协议中,每个请求将与随机选择的票一起发送。服务器生成的加密响应基于此票证的哈希值通过网络发送到特定的移动节点(称为代理节点)。用户将查询代理以获得响应。消息的所有部分都是加密的,除了匿名器和代理所需的字段。这将保护P2P网络上的数据包交换。实验结果表明,该协议能够有效地实现位置服务中的用户隐私保护。
2016-06-08 cs.CR
HDMM: Optimizing error of high-dimensional statistical queries under differential privacy
在这项工作中,我们描述了高维矩阵机制(HDMM),差分私人算法回答谓词计数查询的工作量。HDMM使用紧凑的隐式矩阵表示来表示查询工作负载,并利用该表示来有效地优化差分私有算法的空间(的子集),以获得无偏的并且以低预期误差回答输入查询工作负载的算法。HDMM可以被部署用于$ε$ -差分隐私(具有拉普拉斯噪声)和$(ε, δ)$ -差分隐私(具有高斯噪声)两者,尽管核心技术对于每一个稍微不同。我们的经验表明,HDMM可以有效地回答查询,比最先进的技术具有更低的预期错误,在某些情况下,它几乎匹配现有的下限为我们考虑的特定类别的机制。
2021-06-23 cs.CR cs.DB
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念,拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中,我们发现,差分隐私没有考虑的线性性质的查询,导致意外的信息泄漏。具体地,线性属性使得可以将一个查询划分成两个查询,诸如$q(D)=q(D_1)+q(D_2)$(如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$)。如果攻击者试图获得$q(D)$的答案,只要他们知道$D_2$,他们不仅可以发出查询$q(D)$,而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分,攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而,从攻击者的角度和从差分隐私机制的角度来看,如果分割设计得很巧妙,则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数,因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏,我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
Cloud-Based Approximate Constrained Shortest Distance Queries Over Encrypted Graphs With Privacy Protection
约束最短距离(CSD)查询是基本的图查询原语之一,其在总成本不超过给定阈值的约束下找到图中从原点到目的地的最短距离。CSD查询具有广泛的应用,例如电信和运输中的路由。随着云计算范例的日益流行,图所有者希望将他们的图外包给云服务器。为了保护敏感信息,这些图在外包到云端之前通常会被加密。然而,这对加密图上的CSD查询提出了很大的挑战。由于执行约束过滤是一个棘手的任务,现有的工作主要集中在无约束的最短距离查询。加密图上的CSD查询是一个开放的研究问题。在本文中,我们提出了康纳,一种新的图形加密方案,使近似CSD查询。Connor是基于一个高效的、基于树的密文比较协议构建的,并利用了密钥原语和有点同态加密,使其在计算上高效。使用Connor,图所有者可以首先加密隐私敏感的图,然后将它们外包给云服务器,从而在不失去查询能力的情况下实现必要的隐私。在真实数据集上的大量实验证明了所提出的图加密方案的有效性和效率。
2018-09-21 cs.CR
SPECIAL: Synopsis Assisted Secure Collaborative Analytics
Indiana University(印第安纳大学);Boston University(波士顿大学);Tufts University(塔夫茨大学)
提出SPECIAL系统,首个同时确保有界隐私损失、高级查询规划与无损处理的安全协作分析系统,通过摘要辅助安全处理模型实现复杂查询快80倍、内存省900倍且隐私损失降89倍。
2025-09-17 cs.CR cs.DB
$π$QLB: A Privacy-preserving with Integrity-assuring Query Language for Blockchain
本文提出πQLB查询语言,利用函数秘密共享实现查询输入机密性,并通过扩展FSS验证机制保证结果完整性,同时支持对区块链数据进行类SQL查询,解决了轻量级设备上的隐私与完整性问题。
2024-10-17 cs.CR
Differentially Private Query Learning: from Data Publishing to Model Publishing
随着大数据和云数据共享的发展,隐私保护数据发布成为近十年来最重要的研究课题之一。差分隐私作为最有影响力的隐私定义之一,为数据发布提供了严格的、可证明的隐私保障。不同的私有交互发布在许多应用中实现了良好的性能;然而,在大数据时代,策展人必须批量发布大量查询或合成数据集。为了在差分隐私的约束下提供准确的非交互式发布结果,需要解决两个挑战:一个是如何降低大查询集之间的相关性,另一个是如何预测新的查询。传统的差分隐私机制难以解决这两个问题。本文将数据发布问题转化为机器学习问题,将查询视为训练样本,发布的是预测模型,而不是查询结果或合成数据集。当模型发布时,它可以用来回答当前提交的查询,并预测来自公众的新查询的结果。与传统方法相比,该预测模型提高了非交互式出版查询结果的准确性。实验结果表明,该方案在大规模查询集上的平均绝对值方面优于传统的差分隐私。这也表明学习模型可以成功地保留已发布查询的实用性,同时保护隐私。
2017-10-13 cs.CR
Optimizing error of high-dimensional statistical queries under differential privacy
在敏感数据库上回答谓词计数查询集的差分私有算法有许多应用。收集个人层面数据的组织,如统计机构和医疗机构,使用它们来安全地发布汇总表。然而,现有的技术仅在一小部分查询工作负载上是准确的,或者是非常慢的,特别是当分析数据的多于一个或两个维度时。在这项工作中,我们提出了HDMM,一个新的差分私人算法回答谓词计数查询的工作量,这是特别有效的高维数据集。HDMM使用隐式矩阵表示来表示查询工作负载,并利用这种紧凑表示来有效地搜索差分私有算法的空间(的子集),以获得以高精度回答输入查询工作负载的算法。我们的经验表明,HDMM可以有效地回答各种低维和高维数据集上的查询,比最先进的技术具有更低的错误。
2018-08-10 cs.CR cs.DB
Universally Optimal Privacy Mechanisms for Minimax Agents
发布敏感数据的聚合信息的方案必须解决信息消费者的效用和数据库参与者的隐私之间的权衡。差分隐私是一个完善的隐私定义--这是一个针对所有攻击者的通用保证,无论他们的侧信息或意图如何。在本文中,我们提出了一个通用的治疗效用的基础上,从决策理论的标准极大极小规则(相对于效用模型,这是贝叶斯)。在我们的模型中,信息消费者是极大极小(风险厌恶)代理,每个拥有一些查询的边信息,每个赋予一个损失函数模型的容忍不准确。此外,信息消费者是理性的,因为他们积极地将来自机制的信息与他们的辅助信息以最小化损失的方式结合起来。在这种理性行为的假设下,我们证明了对于每个固定计数的查询,一定的几何机制是普遍最优的所有极大极小信息消费者。此外,我们的解决方案使得有可能在多个级别的隐私在一个抗共谋的方式发布查询结果。
2010-01-15 cs.CR cs.DB cs.DS
Synthetic Query Generation for Privacy-Preserving Deep Retrieval Systems using Differentially Private Language Models
Stanford University(斯坦福大学);Google Inc.(谷歌公司);Google Research(谷歌研究院);Google DeepMind(谷歌DeepMind)
针对深度检索系统直接差分隐私训练困难的问题,提出先用差分隐私语言模型生成私有合成查询,再用于训练,显著提升检索质量并保持隐私保证。
2024-05-23 cs.CL cs.CR cs.IR
Quantum Privacy-preserving Two-party Circle Intersection Protocol Based on Phase-encoded Query
针对量子隐私保护几何相交中网格编码复杂度高的问题,提出基于相位编码查询的双方圆相交协议,通过分解Oracle算子为量子算术运算实现多项式复杂度并保障隐私安全。
2023-09-29 cs.CR cs.ET quant-ph
Federated Visualization: A Privacy-preserving Strategy for Aggregated Visual Query
我们提出了一种新的隐私保护策略去中心化可视化。其关键思想是模仿联邦学习框架的流程图,并在联邦基础设施中重新制定可视化过程。通过利用共享的全局模块来实现可视化的联合,该全局模块在本地模块中组成数据片的转换的视觉特征的加密外部化。我们设计了两个联邦可视化的实现:一个基于预测的计划,和一个基于查询的计划。我们证明了我们的方法的有效性与一组视觉形式,并验证其鲁棒性的评价。我们报告了联合可视化在真实场景中的价值,并进行了专家评审。
2022-02-09 cs.CR cs.GR cs.HC
IncShrink: Architecting Efficient Outsourced Databases using Incremental MPC and Differential Privacy
在本文中,我们考虑安全外包增长的数据库,支持基于视图的查询回答。这些数据库允许不受信任的服务器私下维护物化视图,使得它们可以仅使用物化视图来处理查询请求,而不是访问从中导出视图的原始数据。为了解决这个问题,我们设计了一个新的基于视图的安全外包增长数据库框架,Incshrink。该解决方案的主要特点是:(i)Incshrink使用增量MPC操作器维护视图,无需预先使用可信的第三方,以及(ii)为了确保高性能,Incshrink保证在存在更新的情况下泄漏满足DP。据我们所知,没有现有的系统具有这些属性。我们展示了Incshrink的实际可行性,在效率和准确性方面,对真实世界的数据集和TPC-DS基准进行了广泛的实证评估。评估结果表明,Incshrink在隐私、准确性和效率保证方面提供了三方面的权衡,并且与不支持基于视图的查询范式的标准安全外包数据库相比,提供了至少7,800倍的性能优势。
2022-03-09 cs.CR cs.DB
Octopus: Privacy-Preserving Collaborative Evaluation of Loan Stacking
随着网络借贷的兴起,贷款堆积问题已经成为金融行业的一个重大问题。打击这一现象的关键步骤之一是从同行贷款人那里查询借款人的贷款历史。这在没有可信征信机构的市场中尤为重要。为了保护参与者的隐私和商业利益,我们希望对贷款发起人隐藏借款人身份和贷款人数据,同时验证借款人是否授权查询。在本文中,我们提出了八达通,一个分布式系统来执行查询,同时满足所有上述安全要求。理论上,章鱼是健全的。实际上,它集成了多种优化,以减少通信和计算开销。评估表明,Octopus可以在800个地理分布的服务器上运行,平均可以在0.5秒内执行查询。
2020-07-05 cs.CR
Imitation Privacy
近年来,已经有许多基于云的机器学习服务,其中通过预测API在按查询付费方案上向用户提供经过良好训练的模型。这些服务的出现激发了这项工作,我们将开发一个称为模仿隐私的模型隐私的一般概念。我们展示了模仿隐私在经典的查询-响应MLaaS场景和新的多组织学习场景中的广泛适用性。我们还讨论了模仿隐私和通常的数据级隐私之间的根本区别。
2020-08-30 cs.CR
$\mathcal{E}\text{psolute}$: Efficiently Querying Databases While Providing Differential Privacy
随着组织努力处理大量信息,将敏感数据外包给第三方成为必要。为了保护数据,外包数据库系统中使用了各种加密技术,以确保数据隐私,同时允许高效查询。出现了大量针对此类系统的攻击。即使有强大的加密技术,仅仅是通信量或访问模式就足以让对手成功。在这项工作中,我们提出了一个模型的差异私人外包数据库系统和具体的建设,$\mathcal{E}\text{psolute}$,可证明隐藏上述泄漏,同时保持高效和可扩展性。在我们的解决方案中,差分隐私被保留在记录级别,即使是针对控制数据和查询的不受信任的服务器。$\mathcal{E}\text{psolute}$结合了不经意的RAM和不同的私有消毒器,以创建通用和高效的构造。我们更进一步,提出了一系列改进,使解决方案的效率和实用性,为现实世界的采用。我们描述了并行化操作的方法,最大限度地减少噪音量,减少网络请求的数量,同时保持隐私保证。我们已经运行了一组广泛的实验,数十台服务器处理多达1000万条记录,并编写了详细的结果分析,证明了我们解决方案的效率和可扩展性。在提供强大的安全性和隐私保证的同时,我们比MySQL和PostgreSQL等非安全纯文本优化的RDBMS的范围查询执行慢不到一个数量级。
2021-09-27 cs.CR
MVG Mechanism: Differential Privacy under Matrix-Valued Query
Princeton University(普林斯顿大学)
传统上,差分隐私机制设计是针对纯量值查询函数量身定制的。虽然诸如拉普拉斯和高斯机制的许多机制可以通过添加i.i.d.噪声的矩阵的每个元素,这种方法往往是次优的,因为它丧失了一个机会,利用结构特征,通常与矩阵分析。为了解决这个问题,我们提出了一种新的差分隐私机制称为矩阵变量高斯(MVG)机制,它增加了一个矩阵值的噪声从矩阵变量高斯分布,我们严格证明了MVG机制保持$(ε,δ)$ -差分隐私。此外,我们引入了方向噪声的概念,通过MVG机制的设计成为可能。定向噪声允许噪声对矩阵值查询函数的效用的影响被缓和。最后,我们实验证明了我们的机制使用三个矩阵值查询三个隐私敏感的数据集的性能。我们发现,MVG机制显着优于四个以前的国家的最先进的方法,并提供了可比的实用程序的非私人基线。
2018-10-16 cs.CR cs.LG stat.ML
Privacy-Enhanced Database Synthesis for Benchmark Publishing (Technical Report)
本文提出基于和积网络的差分隐私数据库合成框架PrivBench,用于基准发布场景,在保护隐私的同时保持数据分布与查询运行时间的高保真度。
2025-04-10 cs.CR cs.DB
Differentially Private Distance Query with Asymmetric Noise
针对社交图距离发布的隐私保护需求,本文提出基于边差分隐私的非对称噪声距离查询机制,结合平滑敏感性提升效用,实验验证其可将误差降至0.0862。
2025-01-14 cs.CR
Privacy Vulnerabilities of Dataset Anonymization Techniques
政府、公司和个人每天都在收集关于人们的各种类型的大量信息。当用户注册或使用在线应用程序、接受健康相关服务、使用移动电话、使用搜索引擎或进行日常活动时,会收集这些信息。因此,有大量的私人拥有的记录,描述个人的财务,兴趣,活动和人口统计。这些记录通常包括敏感数据,如果发布可能会侵犯用户的隐私。保护用户信息或一般数据的常用方法是通过使用身份验证和授权协议来限制对存储(通常是数据库)的访问。这样,只有具有合法权限的用户才能访问用户数据。然而,在许多情况下,发布用于统计分析和研究的用户数据对于学术和商业用途(例如统计研究和推荐系统)都是非常有益的。为了维护用户隐私,当这样的发布发生时,许多数据库采用匿名化技术,无论是在查询结果还是数据本身。在本文中,我们将研究2种这样的技术,“数据扰动”和“查询集大小控制”的变体,并讨论它们的漏洞。数据扰动处理更改数据集中记录的值,同时保持结果查询的准确性。我们专注于一个相对较新的数据扰动方法称为NeNDS显示可能的部分知识攻击其隐私。查询集大小控制允许根据具有满足查询参数的记录的最小集大小k来发布查询结果。我们展示了一些依赖于这种方法的查询类型仍然可以用来提取隐藏的信息,并证明了其他人即使使用多个查询也可以保持隐私。
2019-05-28 cs.CR
Multi-tier Differential Private Query Release
Guangzhou University(广州大学);Sun Yat-sen University(中山大学)
针对不同隐私预算下的相同查询,提出一种多层差分隐私查询发布框架,通过噪声分布特征函数和模板策略,在控制累积隐私损失的同时实现最优效用。
2026-06-18 cs.CR
Beyond Direct Identifiers: Probabilistic Privacy Risk Estimation for Privacy-Conscious LLM Query Delegation
Columbia University(哥伦比亚大学)
该研究针对注重隐私的LLM查询委托问题,提出概率变体PCD,结合LLM驱动的k-匿名性估计,创建PUPA-SD数据集,发现PAPILLON在Llama-3.2-3B上实现最佳隐私-效用平衡,k-匿名性是有用辅助指标。
2026-08-11 cs.CL cs.CR
PII-Bench: Evaluating Query-Aware Privacy Protection Systems
Institute of Fintech, Fudan University(复旦大学金融科技学院);Shanghai Key Laboratory of Data Science, School of Computer Science, Fudan University(复旦大学数据科学上海重点实验室);Laboratory of Data Analytics and Security, Fudan University(复旦大学数据安全分析实验室)
PII-Bench通过评估查询感知隐私保护系统,揭示当前模型在识别PII相关性方面的不足,提出改进方向。
2026-02-17 cs.AI cs.CL cs.CR
Towards Plugging Privacy Leaks in Domain Name System
隐私泄露是一个不幸的和当前互联网域名解析的一个组成部分。用户生成的每个DNS查询向一个或多个DNS服务器揭示该查询的来源和目标。随着时间的推移,用户的浏览行为可能会暴露给几乎不信任或不信任的实体。目前的DNS隐私泄露源于基本的DNS功能,并且不容易通过简单的补丁修复。此外,DNS安全工作(即DNSSEC)忽视了隐私问题,因此可能会传播到未来版本的DNS中。针对当前DNS存在的隐私问题,提出了一种隐私保护域名系统(PPDNS),该系统在域名解析过程中维护隐私。PPDNS基于分布式哈希表(DHT)(一种替代命名基础结构)和计算私有信息检索(cPIR)(一种高级加密构造)。PPDNS利用DHT的索引结构来提高名称解析查询的隐私性,同时利用cPIR来减少带宽敏感客户端的通信开销。我们的分析表明,PPDNS是一个可行的方法,获得更高程度的隐私名称解析查询。PPDNS也是将先进的系统技术与加密技术相结合的示范。
2010-06-19 cs.CR
Need to Know: Contextual-Integrity-Grounded Query Rewriting for Privacy-Conscious LLM Delegation
Sun Yat-sen University(中山大学)
针对LLM委托中查询隐私泄露问题,提出基于语境完整性的查询重写框架,通过CI引导的强化学习训练重写器,在保留任务关键信息的同时抑制非必要敏感披露,实现最佳隐私-效用权衡。
2026-06-02 cs.AI cs.CR