Private Information Disclosure from Web Searches. (The case of Google Web History)
随着存储在远程服务提供商处的个人信息量的增加,数据被盗的危险也在增加。当在明文中建立到远程服务的连接并使用HTTP cookie保持经过身份验证的会话时,数据窃取变得非常容易实现。在本文中,我们研究了世界上最大的服务提供商的架构,即,Google.首先,除了一些只能通过HTTPS访问的服务(例如,Gmail),我们发现许多Google服务仍然容易受到简单会话劫持的攻击。接下来,我们将介绍Historiographer,这是一种新型攻击,可以重建Google用户的网络搜索历史,即,Google的Web历史记录,尽管这样的服务应该受到更严格的访问控制策略的保护。历史学家使用一种重建技术,从谷歌搜索引擎提供的个性化建议中推断搜索历史。我们验证我们的技术,通过实验进行了真实的网络流量,并讨论可能的对策。我们的攻击是通用的,而不仅仅是针对Google的,并且强调了使用安全和不安全连接的混合架构的隐私问题。
2010-03-23 cs.CR
Constant-weight PIR: Single-round Keyword PIR via Constant-weight Equality Operators
相等运算符是安全计算任务(如私有信息检索)中的基本构建块。在私有信息检索(PIR)中,用户查询数据库,使得服务器不知道查询了哪个元素。在这项工作中,我们提出了\emph{equality operators for constant-weight codewords}。恒重码是共享相同汉明权重的码字的集合。常数权重相等运算符的乘法深度仅取决于代码的汉明权重,而不取决于元素的位长。在我们的实验中,我们展示了这些相等运算符是如何比现有的相等运算符快10倍。此外,我们提出了PIR使用恒定权重的等式运算符或\emph{constant-weight PIR},这是一个PIR协议,使用以前被认为是不切实际的方法。我们发现,对于大型流数据的私人检索,恒定权重PIR具有较小的通信复杂性和较低的运行时间相比,SEALPIR和MulPIR,分别是两个国家的最先进的解决方案PIR。此外,我们展示了如何恒定权重PIR可以扩展到关键字PIR。在关键字PIR中,通过与所寻找的项目有关的唯一标识符来检索期望的元素,例如,一个文件的名字。先前的关键字PIR解决方案需要一轮或多轮通信来将问题减少到正常PIR。我们发现,恒定权重PIR是第一个实用的单轮解决方案,单服务器关键字PIR。
2022-02-16 cs.CR
Efficient Asynchronous Byzantine Agreement without Private Setups
高效的异步拜占庭协议(BA)协议主要是使用私有设置进行研究的,例如,预置门限密码系统。在没有这种设置的情况下,减少大量通信的挑战仍然存在。最近,Abraham等人(PODC'21)提出了第一个异步验证的BA(BRA),其具有预期的$O(n^3)$消息和$O(1)$轮,仅依赖于公钥基础设施(PKI)设置,但是该设计仍然花费$O(λn^3 \log n)$比特。这里,$n$是参与方的数量,而$λ$是加密安全参数。在本文中,我们减少了私有设置自由异步BA的通信预期的$O(λn^3)$位。在我们的设计的核心,我们给出了一个系统的处理常见的随机性协议在异步网络中,并继续进行:-我们给出了一个有效的合理公平的共同硬币协议在异步设置只有PKI设置。它只消耗$O(λn^3)$位和$O(1)$轮,并确保至少有1/3的概率,所有诚实的当事人可以输出一个共同的位,好像随机翻转。这直接使得具有预期的$O(λn^3)$位和$O(1)$轮的更有效的私有设置自由异步二进制协议(ABA)。- 然后,我们举起我们共同的硬币,通过使用单个ABA来达到完美的一致。这给了我们一个合理公平的随机领导选举协议,预期$O(λn^3)$通信和预期的常数轮。它在所有现有的VoIP协议中都是可插拔的(例如,Cachin等人,美国专利商标局'01; Abraham等人,PODC'19; Lu等人,PODC'20)来移除所需的私有设置或…
2022-04-27 cs.CR cs.DC
Fluent: Round-efficient Secure Aggregation for Private Federated Learning
Yangzhou University(扬州大学);Fujian Normal University(福建师范大学);City University of Macau(澳门城市大学);Nanyang Technological University(南洋理工大学);Griffith University(格里菲斯大学)
本研究针对现有联邦学习单服务器安全聚合方案轮次与通信复杂度高的问题,提出Fluent方案,通过复用秘密份额、合并校验与解掩码步骤等创新,在恶意服务器场景下实现最少通信轮次,显著降低客户端计算与通信成本,并支持动态客户端加入。
2024-03-10 cs.AI cs.CR
Flamingo: Multi-Round Single-Server Secure Aggregation with Applications to Private Federated Learning
University of Pennsylvania(宾夕法尼亚大学);Microsoft Research(微软研究院);J.P. Morgan AI Research(摩根大通人工智能研究院);AlgoCRYPT CoE(AlgoCRYPT卓越中心)
本文提出Flamingo,一种用于联邦学习的多轮单服务器安全聚合系统,通过消除每轮设置、引入轻量级客户端退出恢复协议及本地选择客户端邻域的新方法,显著减少了交互次数与端到端运行时间,并在MNIST和CIFAR-100上实现无损精度的安全训练。
2024-10-13 cs.CR cs.LG
Multiround Private Information Retrieval: Capacity and Storage Overhead
能力最近已被表征为私人信息检索(PIR)的问题,以及它的几个变种。在每种情况下,都假设所有查询都是由用户同时生成的。在这里,我们考虑多轮PIR,其中允许每轮中的查询依赖于前一轮中收到的答案。我们表明,多轮PIR的容量是相同的单轮PIR的容量(结果被推广到还包括$T$ -隐私约束)。结合以前的结果,这表明,有没有从多轮单轮计划,非线性的线性计划或从$ε$ -错误的零错误计划的容量优势。然而,我们通过一个例子表明,在存储开销方面有一个优势。我们提供了一个多轮,非线性,$ε$错误PIR计划,需要严格小于最好的单轮,线性,零错误PIR计划的存储开销的例子。
2016-11-07 cs.CR cs.IR cs.IT
X-Search: Revisiting Private Web Search using Intel SGX
搜索引擎对用户搜索查询的利用是其经济模式的核心。因此,提供私人网络搜索功能是必不可少的用户谁关心他们的隐私。目前,还没有令人满意的方法来使用户能够以隐私保护的方式访问搜索引擎。现有的解决方案要么由于大量使用密码机制(例如,私有信息检索协议),易受攻击(例如,Tor,TrackMeNot,GooPIR)或依赖弱对抗模型(例如,PEAS)。本文介绍了X-Search,一种新的私有Web搜索机制,建立在英特尔提出的破坏性软件保护扩展(SGX)。我们使用真实网络搜索查询的数据集将X-Search与其最接近的竞争对手Tor和PEAS进行比较。我们的评估表明:(1)X-Search提供了比竞争对手更强的隐私保障,因为它在更强的对抗模型下运行;(2)它更好地抵御了最先进的重新识别攻击;(3)从性能角度来看,X-Search在延迟和吞吐量方面都超过了竞争对手。
2018-05-04 cs.CR cs.DC
LOCKS: User Differentially Private and Federated Optimal Client Sampling
随着隐私法的变化,客户端数据通常需要保留在设备上,而不是发送到服务器。因此,大多数处理发生在设备上,只有更改的元素被发送到服务器。这种机制是通过利用差分隐私和联邦学习开发的。差分隐私向客户端输出添加了噪声,因此降低了每次迭代的质量。这种分布式设置增加了一层复杂性以及额外的通信和性能开销。这些成本是每轮的附加成本,因此我们需要减少迭代次数。在这项工作中,我们提供了一个分析框架,研究基于梯度的分布式算法的收敛保证。我们表明,我们的私人算法最大限度地减少了预期的梯度方差约$d^2$轮,其中d是模型的维数。我们讨论并提出了新的方法来提高收敛速度,以尽量减少使用重要性采样(IS)和梯度多样性的开销。最后,我们提供了替代框架,可能更适合利用客户端采样技术,如IS和梯度多样性。
2022-12-26 cs.CR
On the Round Complexity of the Shuffle Model
Ben-Gurion University(本-古里安大学);Tel-Aviv University(特拉维夫大学);Georgetown University(乔治敦大学);Google Research(谷歌研究院)
提出了差分隐私的混洗模型,作为一种可行的分布式差异隐私计算模型。非正式地说,该模型由一个不受信任的分析器组成,该分析器通过shuffle功能接收参与方发送的消息,后者可能会将消息与他们的消息分离。以前的工作集中在一轮差分隐私洗牌模型协议,证明了功能,如添加和直方图可以在这个模型中执行的准确性水平类似于馆长模型的差分隐私,其中计算是由一个完全信任的一方。针对洗牌模型的轮复杂度,我们提出了在两轮差分隐私洗牌模型中可以计算什么。Ishai等人[FOCS 2006]展示了如何使用一轮洗牌在每两方之间建立密钥。使用该原语模拟一般的安全多方协议,使其轮复杂度增加1。我们展示了双方如何可以使用一轮的洗牌发送秘密消息,而不必首先建立一个秘密密钥,从而保留轮的复杂性。将此原语与Applebaun等人的两轮半诚实协议相结合。[TCC 2018],我们得到每个随机功能都可以在洗牌模型中计算,其中诚实的大多数仅需两轮。这包括任何差异私有计算。然后,我们开始研究洗牌模型中的差分私有计算,(i)不需要假设诚实的多数,或者(ii)不承认单轮协议,即使是诚实的多数。为此,我们引入了两个计算任务:公共元素问题和嵌套公共元素问题,我们展示了一轮和两轮协议之间的分离。
2020-09-28 cs.CR cs.DS cs.LG
Nash Incentive-compatible Online Mechanism Learning via Weakly Differentially Private Online Learning
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文提出一种结合弱差分隐私在线学习与承诺机制的随机选择方法,在无需智能体类型先验的情况下实现多轮激励兼容在线机制学习,并在对抗环境中获得随远视程度和机制类大小优雅扩展的遗憾界。
2026-11-11 cs.CR cs.DS cs.GT
CYCLOSA: Decentralizing Private Web Search Through SGX-Based Browser Extensions
通过定期查询Web搜索引擎,用户(无意识地)在搜索查询中披露了大量个人数据,其中一些可能会披露敏感信息(例如健康问题、性、政治或宗教偏好)。存在允许用户查询搜索引擎同时改进隐私保护的若干解决方案。然而,这些解决方案受到许多限制:一些受到用户重新识别攻击,而另一些则缺乏可扩展性或无法提供准确的结果。本文介绍了CYCLOSA,一个安全的,可扩展的和准确的私人Web搜索解决方案。CYCLOSA依靠英特尔SGX提供的可信执行环境(TEE)提高安全性。此外,CYCLOSA提出了一种新颖的自适应隐私保护解决方案,降低了用户重新识别的风险。CYCLOSA向搜索引擎发送虚假查询,并根据用户查询的敏感性动态调整其计数。此外,CYCLOSA满足可扩展性,因为它是完全分散的,分散了在其他节点之间分发假查询的负载。最后,CYCLOSA实现了Web搜索的准确性,因为它分别处理真实查询和虚假查询,与其他现有的解决方案相比,混合虚假和真实的查询结果。
2018-07-27 cs.CR cs.DC
Differentially Private Triangle and 4-Cycle Counting in the Shuffle Model
子图计数是分析图数据中的连接模式或聚类趋势的基础。最近的研究已经将LDP(局部差分隐私)应用于子图计数,以保护用户隐私,即使是针对社交网络中的数据收集器。然而,现有的本地算法遭受极大的估计误差或假设用户和数据收集器之间的多轮交互,这需要大量的用户努力和同步。在本文中,我们专注于一轮的互动,并提出准确的子图计数算法,通过引入最近研究的洗牌模型。首先,我们提出了一个基本的技术,称为楔形洗牌发送楔形信息,几个子图的主要组成部分,小噪音。然后,我们应用我们的楔形洗牌计数三角形和4-循环-分析聚类趋势的基本子图-与几个额外的技术。我们还显示了每个算法的估计误差的上限。我们通过全面的实验表明,我们的一轮洗牌算法在准确性方面显着优于一轮本地算法,并在合理的隐私预算下实现小的估计误差,例如,小于1 in edge DP。
2022-08-26 cs.CR cs.DB
Scalable Private Partition Selection via Adaptive Weighting
研究差分隐私分区选择问题,提出自适应重路由权重的MAD算法及两轮版本MAD2R,在保持隐私的同时最大化输出项数,可扩展至数千亿项数据集。
2025-08-08 cs.CR cs.DS
Private Webmail 2.0: Simple and Easy-to-Use Secure Email
Private Webmail 2.0(Pwm 2.0)通过增加普通用户安全电子邮件的可用性和实际安全性,改进了当前的技术水平。更多的用户能够发送和接收加密的电子邮件,而不会错误地泄露敏感信息。在本文中,我们描述了对Pwm2.0的可用性和安全性有积极影响的用户界面特征:(1)加密的人工延迟增强了用户对Pwm2.0的信心,同时指导用户谁可以阅读他们加密的消息;(2)修改的组合界面有助于保护用户避免错误地以明文发送敏感信息;(3)一个带注释的安全电子邮件撰写界面,指导用户如何正确使用安全电子邮件;(4)内联的上下文敏感教程,将教程的浏览率从早期系统的不到10%提高到Pwm 2.0的90%以上。在一项涉及51名参与者的用户研究中,我们验证了这些界面修改,并表明使用手动加密对可用性或安全性没有影响。
2016-08-09 cs.CR cs.HC
Tighter Bounds on Multi-Party Coin Flipping via Augmented Weak Martingales and Differentially Private Sampling
在他的开创性工作中,Cleve [STOC '86]证明了任何$r$轮硬币翻转协议都可以通过$Θ(1/r)$有效地偏置。Moran、Naor和Segev [Journal of Cryptology '16]在两方情况下满足了这个下限,Haitner和Tsfadi [SICOMP '17]在三方情况下(直到$polylog$因子)满足了这个下限,Buchbinder、Haitner、Levi和Tsfadia [SODA '17]在$n< loglog r$时,$n$协议也接近了这个下限。然而,对于$n> loglog r$,$n$方硬币翻转方案的最佳偏倚仍然是由Awerbuch、Blum、Chor、Goldwasser和Micali的多数方案实现的$O(n/\sqrt{r})$ [Mandarpt '85]。我们的主要结果是一个更严格的硬币翻转协议的偏差的下限,表明,对于每一个恒定的$ε>0$,$r^ε$党$r$轮硬币翻转协议可以有效地偏置$\widetildeΩ(1/\sqrt{r})$。据我们所知,这是Cleve界的第一次改进,距离Awerbuch等人的上界只有$n=r^ε$(乘法)远。
2021-05-03 cs.CR
DECO: Liberating Web Data Using Decentralized Oracles for TLS
本文提出DECO,一种无需可信硬件或服务器端修改的去中心化预言机系统,使用户能够以零知识方式证明通过TLS获取的数据来源及属性,从而将数据从中心化服务中解放出来,并展示了三个典型应用。
2024-08-02 cs.CR
Private Link Exchange over Social Graphs
目前,大多数在线社交网络(OSN)以集中的方式保密其数据。研究人员被允许抓取底层的社交图谱(和数据),但速度有限,导致只能看到真实社交图谱的部分视图。为了克服这个限制,我们可以从用户的角度出发,OSN的贡献者。更准确地说,如果用户谨慎地彼此合作,他们可以使用OSN的基础设施与邻居进行多轮的嘈杂朋友列表交换。最后,他们可以构建本地子图,也称为真实社交图的本地视图。在本文中,我们提出了这样的协议的问题,\textit{private link exchange}在社会图。这个问题是独特的,因为通过链接传播的数据就是链接本身。然而,这一模式的可行性存在根本性问题。第一个问题是如何为链接交换过程定义简单有效的隐私概念。第二个问题来自于交换中的大量链接列表,这些列表可能会一轮又一轮地呈指数级增长。虽然存储和计算复杂性对于台式PC来说可能是负担得起的,但通信成本却不小。我们通过一个简单的$(α,β)$交换使用布隆过滤器来解决这两个问题。
2016-09-06 cs.CR cs.SI
Bloom Filter Look-Up Tables for Private and Secure Distributed Databases in Web3 (Revised Version)
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本研究提出了一种基于BFLUT算法的去中心化数据库方案,通过安全编码和分布密钥以实现隐私保护和安全管理。
2026-02-13 cs.CR cs.DC
Exponential Separations in Local Differential Privacy
University of Pennsylvania(宾夕法尼亚大学);Google Research(谷歌研究院)
我们证明了两个玩家游戏的通信复杂性和他们的多玩家本地私人类似物的样本复杂性之间的一般连接。我们使用这种连接来证明样本复杂性下限的本地差分私有协议作为直接的推论的结果从通信复杂性。特别地,我们1)使用隐藏层问题的通信下界来证明顺序交互式和完全交互式局部私有协议之间的指数样本复杂度分离,以及2)使用指针追逐问题的通信下界来证明对于每个$k$,$k$轮和$k+1$轮顺序交互式局部私有协议之间的指数样本复杂度分离。
2019-10-29 cs.CR cs.LG stat.ML
Surfing the Web quicker than QUIC via a shared Address Validation
QUIC是一种性能优化的安全传输协议,也是即将推出的HTTP/3标准的构建块。为了防止拒绝服务攻击,QUIC服务器需要验证其客户端声称的IP地址。到目前为止,QUIC协议使用验证令牌分别对每个主机名进行地址验证。在这项工作中,我们回顾了这种做法,并引入了一个新的QUIC传输参数,以允许跨主机名的共享地址验证。此参数向客户端指示,当连接到特定的其他主机名时,可以使用已颁发的验证令牌来验证地址验证。基于真实世界的主机名之间的信任关系,我们评估我们的建议的性能优势。我们的研究结果表明,在平均网站的第一次加载过程中,共享地址验证节省了近60%的往返时间。假设一个典型的跨大西洋连接,往返时间为90毫秒。我们发现,部署我们的建议减少了延迟开销,以建立所有所需的连接,平均为142.2ms的网站。
2019-03-22 cs.CR
An Adaptive Gradient Clipping and Noise Injection Mechanism for Differentially Private Federated Learning
Université Paris Cité(巴黎大学)
本文提出DDP-SA-adaptive自适应梯度裁剪与噪声注入机制,可改善差分隐私联邦学习的隐私-精度-效率权衡,在联邦回归任务上较静态基线提升训练效率与模型精度,且隐私预算更低。
2026-08-18 cs.CR cs.LG
Attacks on Local Searching Tools
Google桌面搜索是一个索引工具,目前处于beta测试阶段,旨在让用户快速,直观地搜索本地文件。通过支持与Google.com的正常网页类似的界面的本地web服务器提供主要界面。本地文件的索引在系统空闲时发生,并理解许多常见的文件类型。一个可选功能是Google Desktop可以将本地搜索结果的简短摘要与Google.com Web搜索集成。此摘要包括本地文件的30-40个字符的片段。我们发现了一个漏洞,该漏洞会将私有本地数据释放给未经授权的远程实体。使用两种不同的攻击,我们将私有本地数据的小片段暴露给远程第三方。
2011-08-12 cs.CR
Finding Collisions in Interactive Protocols -- Tight Lower Bounds on the Round and Communication Complexities of Statistically Hiding Commitments
我们研究了各种密码协议的轮复杂性和通信复杂性。我们给出了严格的下限轮和通信复杂性的任何完全黑盒减少统计隐藏承诺计划从单向排列,从陷门排列。作为一个推论,我们得出了类似的紧下界的其他几个密码协议,如单服务器私人信息检索,交互式哈希,和不经意的传输,保证统计安全的一方。我们的技术扩展的碰撞发现神谕由于西蒙(EUROCITY PT '98)的交互式协议的设置和重建范式的Gennaro和Trevisan(FOCS '00)。
2021-05-04 cs.CR
Differentially Private Federated Learning With Time-Adaptive Privacy Spending
University of Toronto(多伦多大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
针对联邦学习中隐私预算均匀消耗的假设,提出时间自适应DP-FL框架,按轮次和客户端非均匀分配隐私预算,在早期节省预算用于后期细粒度学习,理论证明并实验验证了隐私-效用权衡的改善。
2025-02-25 cs.CR cs.DC cs.LG
Fast and Fuzzy Private Set Intersection
私有集合交集(PSI)通常被实现为成对用户之间的加密轮序列,而本工作以更简单的方式实现PSI:每个集合只需要加密一次,之后每对用户只需要一个普通的集合比较。这通常比普通PSI快几个数量级,代价是匹配中的一些“延迟”,尽管如此,这可能是可容忍的,甚至是期望的。这在集合由用WordNet处理的英语单词组成的情况下得到了证明。
2014-05-21 cs.CL cs.CR
Collecting Telemetry Data Privately
许多软件公司定期执行对来自用户设备的遥测数据的收集和分析。遥测数据收集改善了用户体验,但对用户隐私构成重大风险。局部差异隐私(LDP)算法最近已经成为允许数据收集器估计各种人口统计数据,同时保护隐私的主要工具。由这样的算法提供的保证通常对于单轮遥测数据收集是非常强的,但是当定期收集遥测数据时会迅速降级。特别是,现有的LDP算法不适合重复收集计数器数据,例如每日应用程序使用统计数据。在本文中,我们开发了新的LDP机制,面向计数器数据的重复收集,即使在执行了任意长的时间后,也有正式的隐私保证。对于两个基本的分析任务,平均值估计和直方图估计,我们的LDP重复数据汇集机制提供了与现有的单轮LDP收集机制相当甚至相同的准确性估计。我们在真实世界的计数器数据集上进行了实证评估,以验证我们的理论结果。我们的机制已被微软部署,用于收集数百万台设备的遥测数据。
2017-12-05 cs.CR cs.DS
Balancing Privacy and Performance for Private Federated Learning Algorithms
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文针对联邦学习中差分隐私机制损害收敛性能的问题,证明了强凸优化下ScaffNew算法DP版本的最优本地步数与通信轮数平衡关系,并通过实验验证了该理论结论。
2023-08-18 cs.CR cs.CV cs.LG
Private Attacks in Longest Chain Proof-of-stake Protocols with Single Secret Leader Elections
最近有人提出了单一秘密领导者选举,作为权益证明(PoS)区块链的改进领导者选举机制。然而,它们提供的安全收益尚未量化。在这项工作中,我们提出了一个基于单一秘密领导人选举(SSLE)的PoS最长链协议的比较-每轮选举一个领导人-与基于概率领导人选举(PLE)的协议-其中一个领导人是根据预期选出的。我们的分析表明,当考虑私有攻击时-最长链协议上最严重的攻击-使用SSLE获得的安全性是实质性的:对于33%或25%的对手,解决时间减少了大约25%。此外,当考虑研磨攻击,我们发现,安全阈值增加了10%(从0.26在PLE的情况下,0.36在SSLE的情况下)和结算时间减少了大约70%,为20%的对手在SSLE的情况下。
2021-09-15 cs.CR
LISA: LIghtweight single-server Secure Aggregation with a public source of randomness
本文提出LISA协议,利用公共随机源将安全聚合的每用户开销和交互轮数降至两轮,渐近达到非隐私协议的通信效率,并在理论与实验中验证了其性能优势。
2023-08-04 cs.CR
Position: Considerations for Differentially Private Learning with Large-Scale Public Pretraining
ETH Zurich(苏黎世联邦理工学院);University of Waterloo(滑铁卢大学);Vector Institute(向量研究所);Google DeepMind(谷歌DeepMind)
本文批判性审视大规模公共预训练用于差分隐私学习,质疑其隐私保护性、基准适用性及大模型部署的隐私损失,并探讨未来方向。
2024-07-17 cs.CR cs.LG stat.ML
Private Multi-party Matrix Multiplication and Trust Computations
本文研究分布式矩阵乘法。每个参与者只拥有两个矩阵的一行,并且希望了解乘积矩阵的一个不同行,而不向其他参与者透露其输入。首先,我们改进了一个加权平均协议,以安全地计算一个点积的二次通信量和线性轮数。我们还提出了一个协议与五轮通信,使用一个Paillier类似的基本同态公钥密码系统,这是安全的半诚实模型或安全的高概率在恶意的对手模型。使用ProVerif,一个密码协议验证工具,我们能够检查协议的安全性,并提供了一个对策,对工具发现的每一个攻击。我们还提出了一种避免合谋攻击的随机化方法。作为一个应用程序,我们表明,该协议使一个分布式的和安全的评估网络中的信任关系,为一大类的信任评估计划。
2016-07-13 cs.CR cs.SC
Differentially Private Ad Conversion Measurement
本研究利用差分隐私开发了一个正式的隐私广告转化测量框架,定义了归因规则等操作有效配置,并完整刻画了实践中常见配置,揭示了归因与隐私间的微妙相互作用。
2024-03-22 cs.CR cs.DS
Typer vs. CAPTCHA: Private information based CAPTCHA to defend against crowdsourcing human cheating
众包人工解决或在线打字攻击是破坏性的问题。然而,对这些主题的研究一直有限。在本文中,我们专注于这种攻击,所有的验证码可以简单地打破,因为它的设计目的。本文在对验证码的Typer现象和攻击机制进行全面分析的基础上,提出了一种新的验证码设计原则,以区分人(Typer)和人(user)。其核心思想是验证码的挑战过程应该包含具有私有属性的唯一信息。我们的想法是基于人类之间的信息不对称。如果没有这些私人信息,即使他们识别出CAPTCHA中的所有字符,Typers也无法完成攻击。我们形式化,设计和实现两个例子,我们提出的原则,一个字符为基础的,基于数据报的情况下,根据Web交互和密码处理程序。我们要求用户从密码序列中没有的随机字符中选择密码,或者将随机排序的序列放入正确的顺序。提出了一种新的基于模糊匹配的生成算法,增加了人工容错能力和随机猜测攻击的难度。与其他解决方案不同,我们的方法不需要修改主身份验证协议、用户界面和典型Web服务的体验。几项用户研究的结果表明,我们提出的方法既简单(人类可以在不到20秒的时间内准确解决)又高效(Typer只能部署随机猜测攻击,成功率非常低)。
2019-04-29 cs.CR
The Exploitation of Web Navigation Data: Ethical Issues and Alternative Scenarios
如今,用户在互联网上的浏览活动并不完全是私人的,因为许多实体收集和使用这些数据,无论是出于合法还是非法的目的。其影响是严重的,从一个人无意识地将他的私人信息暴露给一个未知的第三方实体,到一个公司无法控制其信息向外界传播。因此,用户失去了对互联网上私人数据的控制。在本文中,我们提出了用户的数据汇集和使用所涉及的实体。然后,我们强调了用户、公司、科学家和政府所面临的伦理问题。最后,我们提出了一些替代方案和建议的实体来解决这些道德问题。
2016-05-02 cs.CR cs.CY cs.NI
Locally Differentially Private Analysis of Graph Statistics
图的差分私有分析被广泛用于从敏感图中发布统计信息,同时仍然保护用户隐私。然而,大多数现有的算法都处于集中式隐私模型中,其中可信的数据管理员拥有整个图。由于该模型提出了许多隐私和安全问题-例如,策展人的可信度和数据泄露的可能性,因此需要考虑在更分散的本地模型中的算法,其中没有服务器保存整个图。在这项工作中,我们考虑了一个本地模型,并提出算法计算子图-一个基本的任务,分析图中的连接模式-与LDP(本地差分隐私)。对于三角形计数,我们提出的算法,使用一轮和两轮的相互作用,并表明,额外的一轮可以显着提高效用。对于$k$ -星计数,我们提出了一种算法,实现了非交互式局部模型的阶最优估计误差。我们提供了新的下界估计误差一般图统计,包括三角形计数和$k$ -星计数。最后,我们在两个真实数据集上进行了大量的实验,并表明在局部差分隐私模型中确实可以准确地估计子图计数。
2021-02-11 cs.CR cs.DB
Necessary Conditions in Multi-Server Differential Privacy
我们考虑的协议,用户与多个服务器进行通信,对用户的数据进行计算。对手对许多参与方施加半诚实的控制,但相对于诚实的用户,它的观点是不同的隐私。先前的工作描述了需要多轮交互或提供隐私以对抗计算受限对手的协议。我们的工作提出了限制非交互式协议,提供隐私对无限的对手。我们表明,这些协议需要指数更多的样本,一些学习和估计任务比中央私人同行。这意味着要实现中心模型的性能,需要交互性或计算差分隐私,或两者兼而有之。
2022-08-17 cs.CR
PrE-Text: Training Language Models on Private Federated Data in the Age of LLMs
Carnegie Mellon University(卡内基梅隆大学);Meta;Coldrays(科尔德雷公司)
本文提出PrE-Text方法,通过生成差分隐私合成文本数据替代端侧训练,在降低通信和计算开销的同时提升小模型与LLM在私有数据上的性能。
2024-10-17 cs.AI cs.CL cs.CR
Private Aggregate Queries to Untrusted Databases
本文提出了一种通用的信息论PIR框架,支持在单轮交互中对不可信数据库执行隐私保护的复杂聚合查询,且不增加额外开销。
2024-03-20 cs.CR
NetShaper: A Differentially Private Network Side-Channel Mitigation System
针对加密网络协议无法防范的网络侧信道泄漏问题,提出基于流量整形的NetShaper系统,可在提供差分隐私保障的同时适配负载与拥塞,支持隐私与开销的权衡,已实现中间盒版本并验证了在视频流和网页服务中的适用性。
2023-10-10 cs.CR
Least Privilege Access for Persistent Storage Mechanisms in Web Browsers
本文针对浏览器持久存储中第三方脚本权限过大的问题,提出基于标签的最小权限访问机制,并在Firefox上实现,能有效阻止未授权域的脚本访问cookie、localStorage和IndexedDB。
2024-11-23 cs.CR
InviCloak: An End-to-End Approach to Privacy and Performance in Web Content Distribution
提出InviCloak系统,利用现有DNS分发新公钥,在不改变TLS或升级CDN的前提下,实现端到端安全通信,且页面加载开销低于现有TEE方案。
2025-03-06 cs.CR cs.NI
Lightweight Self-Bootstrapping Multiparty Computations of Time-Series Data with Custom Collusion Tolerance
在这项工作中,我们比较了两个最近的多方计算(MPC)协议的私人求和的性能。这两个协议都允许从各方在初始阶段生成的同一组公钥进行多轮聚合。我们实例化的协议与一个快速的椭圆曲线,并提供了一个实验比较其性能的不同阶段的协议。此外,我们引入了一种技术,允许这两个协议的计算负载减少的代价,防止合谋容忍。我们证明了这两个协议仍然是安全的,这种技术,并评估其对共谋容忍度和支持的轮数的影响。
2014-02-28 cs.CR
Modulated learning for private and distributed regression with just a single sample per client device
MIT(麻省理工学院)
针对每个客户端仅有一个样本的分布式学习场景,提出一种通过注入校准噪声并共享后处理表示来实现隐私保护的全局模型学习方法,在期望上匹配非私有中心化梯度更新。
2026-05-25 cs.CR cs.LG stat.ML
Locally Private $k$-Means Clustering with Constant Multiplicative Approximation and Near-Optimal Additive Error
Northeastern University(东北大学)
给定$d'$维欧几里德空间中大小为$n$的数据集,$k$均值问题要求一组$k$点(称为中心),使得大小为$n$的给定数据集的点与$k$中心集之间的$\ell_2^2$距离之和最小.最近的工作在这个问题上的本地私人设置实现了常数乘法近似与添加剂的错误$\tilde{O} (n^{1/2 + a} \cdot k \cdot \max \{\sqrt{d}, \sqrt{k} \})$,并证明了一个下界的$Ω(\sqrt{n})$的添加剂的错误的任何解决方案具有恒定的轮数。在这项工作中,我们弥合了$n$的指数之间的差距,在上界和下界的附加误差与两个新的算法。给定任何$α>0$,我们的第一个算法实现了乘法近似保证,这是最多的$(1+α)$因子大于任何非私有的$k$ -均值聚类算法与$k^{\tilde{O}(1/α^2)} \sqrt{d' n} \mbox{poly}\log n$添加剂错误。给定任何$c>\sqrt{2}$,我们的第二个算法实现$O(k^{1 + \tilde{O}(1/(2c^2-1))} \sqrt{d' n} \mbox{poly} \log n)$加法误差与常数乘法近似。这两种算法都超越了$Ω(n^{1/2 + a})$的因素,发生在任意小的参数$a$在以前的工作中的添加剂错误,第二个算法,特别是第一次表明,它是可能的解决本地私人$k$ -手段的问题,在一个恒…
2021-05-31 cs.CR cs.DS cs.LG
Voting-based Approaches For Differentially Private Federated Learning
University of California, Santa Barbara(加州大学圣巴巴拉分校);NEC Laboratories America(NEC美国实验室);University of California, San Diego(加州大学圣迭戈分校)
差分私有联邦学习(DPFL)是一个新兴的领域,有着广泛的应用前景。基于梯度平均的DPFL方法需要昂贵的通信轮次,并且由于其添加的噪声的显式维度依赖性,几乎不能与大容量模型一起工作。在这项工作中,灵感来自知识转移非联邦隐私学习Papernot等人。(2017; 2018),我们设计了两个新的DPFL方案,通过从每个局部模型返回的数据标签之间的投票,而不是平均的梯度,这避免了维度依赖,并显着降低了通信成本。从理论上讲,通过应用安全多方计算,我们可以指数放大(数据依赖)的隐私保证时,投票分数的利润率很大。大量的实验表明,我们的方法显着提高了DPFL的国家的最先进的隐私效用权衡。
2021-02-16 cs.CR cs.LG
Distributed Private Data Analysis: On Simultaneously Solving How and What
我们研究了隐私领域中两个方向的组合,涉及分布式私有输入的计算-安全函数评估(SFE)和差分隐私。虽然两者的目标都是私下评估个人输入的某些功能,但隐私要求却截然不同。SFE的一般可行性结果提出了一个自然的范例,用于分布式地实现差异私有分析:首先选择要计算的内容,即,差异私有分析;然后决定如何计算它,即,构建用于此分析的SFE协议。我们开始检查是否有一个范例的优势,这两个决定是同时作出的。特别是,我们调查的准确性要求下,它是有益的,以适应这种模式计算的功能,包括二进制和,差距阈值,近似中位数查询的集合。我们的结果意味着,当计算$n$分布输入的二进制和时,则:* 当我们要求误差为$o(\sqrt{n})$且轮数为常数时,在新的范例中没有好处。* 当我们允许$O(\sqrt{n})$的错误时,当我们考虑计算对称函数的协议时,新的范例产生更有效的协议。我们的研究结果还产生了新的分离的本地和全球模型的计算私人数据分析。
2011-03-14 cs.CR cs.DC
Asymmetric Private Set Intersection with Applications to Contact Tracing and Private Vertical Federated Machine Learning
Morfix;OpenMined;École Supérieure en Informatique, Sidi Bel Abbès(西迪贝勒阿巴斯高等计算机学院);Bitdefender(比特梵德);Edinburgh Napier University(爱丁堡龙比亚大学);apheris AI;University of California Los Angeles(加利福尼亚大学洛杉矶分校);Humboldt-Universität zu Berlin(柏林洪堡大学);Tessella
我们提出了一个多语言,跨平台,开源的非对称私有集交集(PSI)和PSI-Cardinality(PSI-C)库。我们的协议结合了传统的基于DDH的PSI和PSI-C协议与基于Bloom过滤器的压缩,有助于减少非对称设置中的通信。目前,我们的库支持C++,C,Go,WebAssembly,JavaScript,Python和Rust,并在传统硬件(x86)和浏览器目标上运行。我们进一步将我们的库应用于两个用例:(i)与现有方法兼容的隐私保护联系人跟踪协议,但提高了它们的隐私保证,以及(ii)垂直分区数据上的隐私保护机器学习。
2020-11-18 cs.CR cs.LG
Singularity Blockchain Key Management via non-custodial key management
本文提出一种非托管密钥管理方法,允许用户通过Google OAuth等第三方登录方式备份和恢复私钥,从而降低助记词管理负担和资产丢失风险。
2025-06-02 cs.CE cs.CR
Secure Aggregation is Not Private Against Membership Inference Attacks
Chalmers University of Technology(查尔姆斯理工大学);AI Sweden(瑞典人工智能研究院)
该研究针对联邦学习中被广泛认为具备隐私保护能力的SecAgg机制,通过将其视为LDP机制开展隐私审计,设计单轮训练下的攻击实验,证明其高维场景下对成员推理攻击隐私防护薄弱,凸显需补充额外隐私增强机制的必要性。
2024-07-15 cs.CR cs.LG
When Ads Become Profiles: Uncovering the Invisible Risk of Web Advertising at Scale with LLMs
The University of New South Wales(新南威尔士大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Queensland University of Technology(昆士兰理工大学)
利用LLMs揭示广告流中的隐私信息泄露风险,展示其在大规模数据中的高精度推断能力。
2026-01-29 cs.AI cs.CR cs.CY
Communication-Efficient and Differentially Private Vertical Federated Learning with Zeroth-Order Optimization
Elmore Family School of Electrical and Computer Engineering, Purdue University(电气与计算机工程学院,普渡大学);Department of Computer Science and Engineering, Yonsei University(计算机科学与工程系,延世大学)
本文提出DPZV框架,通过零阶优化实现通信高效且具有差分隐私的垂直联邦学习,有效降低通信开销并提升隐私保护。
2025-12-26 cs.AI cs.CR cs.DC
Fast Private Adaptive Query Answering for Large Data Domains
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);TikTok;Penn State University(宾夕法尼亚州立大学)
本文提出了一种基于残差查询的快速私有自适应查询回答机制,通过多维数组框架、惰性更新和自适应优化,显著提升效率和可扩展性。
2026-02-25 cs.CR cs.DB
Privacy Profiles for Private Selection
Nokia Bell Labs(诺基亚贝尔实验室);UC Santa Barbara(加州大学圣巴巴拉分校)
本文提出一种基于隐私轮廓的方案,利用基础算法的隐私轮廓界定 ReportNoisyMax 和 PrivateTuning 的隐私轮廓,在数值上优于基于 RDP 的核算,并在端到端私有学习实验中取得实质性收益。
2024-02-09 cs.CR cs.LG
Quantization Enables Private Dense Retrieval against Malicious Service Providers
École de technologie supérieure(高等技术学院);Mila(米拉研究所);Eurecom(欧洲通信学院);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
针对恶意服务器,提出两轮密码协议实现私有稠密检索,利用低比特量化降低计算成本,实验表明三比特量化在分钟级延迟下保持检索质量。
2026-09-30 cs.AI cs.CR