Differentially Private Multi-party Computation: Optimality of Non-Interactive Randomized Response
我们研究了在差分隐私设置(即,即使在给出交互的转录和所有其他方的比特时,在任何特定方的比特中仍然存在不确定性)。每一方都对计算一个函数感兴趣,这个函数可能因方而异,并且可能有一个中心观察者对计算一个单独的函数感兴趣。每一方和中央观察员的表现是通过计算函数的准确性来衡量的。我们允许一个任意的成本函数来衡量真实和计算函数值之间的失真。我们的主要结果是一个简单的非交互式协议的确切的最优性:每一方随机化(充分),并发布自己的位。换句话说,非交互式随机化响应是最优的。然后,每一方和中心观察者分别计算各自的函数,以最大化其准确性度量的适当概念。最优性是非常普遍的:它适用于所有类型的函数,各方的异构隐私条件,所有类型的成本度量,以及平均和最坏情况(在输入上)的准确性度量。最后,最优性结果是同时的,在最大限度地提高精度在每一方和中央观察员。
2014-10-07 cs.CR
Multi-Party Private Set Operations from Predicative Zero-Sharing
本文提出一种基于谓词零共享的多方私有集合操作(MPSO)统一框架,支持多方安全计算任意集合公式,在标准半诚实模型下实现线性复杂度,且其实例化协议在线性能超越或匹配现有技术水平。
2025-04-10 cs.CR
Implementing Support for Pointers to Private Data in a General-Purpose Secure Multi-Party Compiler
最近的编译器允许将处理私有数据的通用程序(以传统的程序设计语言编写)翻译成相应功能的安全分布式实现。由此产生的程序,然后保证可证明保护私人数据使用安全的多方计算技术。这种编译器的目标是通用性、可用性和效率,但是现有的编译器迄今为止还不支持现代程序设计语言的完整特征集。特别是,最近的编译器PICCO和两方ANSI C编译器努力将任何C程序翻译成其安全的多方实现,但目前缺乏对指针和动态内存分配的支持,这是许多C程序的重要组成部分。在这项工作中,我们减轻了限制,并增加了对私有数据的指针的支持,从而为PICCO编译器提供动态内存分配,使其能够处理私有数据上更多样化的程序集。因为这样做开辟了一个新的设计空间,我们调查使用指针的私有数据(与已知以及存储在他们的私人位置)在程序中,并报告我们的发现。除了动态内存分配,我们研究其他重要的主题与常见的指针使用,如指针/地址引用,铸造,并建立各种数据结构的安全多方计算的上下文中。这使得编译器能够自动将使用指向私有数据的指针的用户程序转换为其分布式实现,从而在整个计算过程中可证明地保护私有数据。我们经验评估的建设和报告的代表性方案的性能。
2017-06-30 cs.CR cs.PL
Differentially Private Multi-Party Data Release for Linear Regression
Cornell University(康奈尔大学);ByteDance Inc.(字节跳动公司)
差分隐私(DP)数据发布是一种很有前途的技术,可以在不损害数据主体隐私的情况下传播数据。然而,大多数先前的工作都集中在一方拥有所有数据的情况下。在本文中,我们专注于多方设置,其中不同的利益相关者拥有属于同一组数据主体的不相交的属性集。在线性回归的背景下,允许所有各方训练模型的完整数据,没有能力推断私人属性或身份的个人,我们开始直接应用高斯机制,并显示它有小特征值问题。我们进一步提出了我们的新方法,并证明它渐近收敛到最佳(非私有)的解决方案,随着数据集的大小。我们通过在人工和真实世界数据集上的实验证实了理论结果。
2022-06-18 cs.CR cs.LG
Selective MPC: Distributed Computation of Differentially Private Key-Value Statistics
键值数据是一种自然出现的数据类型,尚未在本地信任模型中进行彻底的研究。现有的本地差分私有(LDP)解决方案用于计算键值数据上的统计数据,其受到每个用户添加其自己的噪声的固有精度限制。多方计算(MPC)保持比LDP更好的准确性,同样不需要可信的中央方。然而,天真地将MPC应用于键值数据会导致非常昂贵的计算成本。在这项工作中,我们提出了选择性多方计算,一种新的分布式计算方法,利用DP泄漏有效地和准确地计算统计的键值数据。通过向每一方提供数据的随机子集的视图,我们可以捕获减法噪声。我们证明了我们的协议满足纯DP和DP/MPC组合模型是可证明安全的。我们的经验评估表明,我们可以在20秒内计算超过10,000个密钥的统计数据,并且可以扩展到30台服务器,同时在不到一秒的时间内获得单个密钥的结果。
2022-08-30 cs.CR
A Distributed k-Secure Sum Protocol for Secure Multi-Party Computations
私有数据输入的安全和计算是安全多方计算(SMC)的一个有趣的例子,它吸引了许多研究人员来设计具有较低数据泄漏概率的安全协议。在本文中,我们提供了一个新的协议,计算个人数据输入的总和与零概率的数据泄漏时,两个邻居方勾结知道中间方的数据。在计算之前,我们将每一方的数据块分成若干段,并在各方之间重新分配这些段。这些步骤创造了一个场景,在这个场景中,半诚实的一方不可能知道另一方的私人数据。
2010-03-22 cs.CR
Privacy-Preserving Trust Management Mechanisms from Private Matching Schemes
密码原语是构建隐私保护通信机制的基础。在某些情况下,互不相识的两方需要在Internet上交换敏感信息。信任管理机制利用数字凭证和证书来在这些陌生人之间建立信任。我们解决了选择交换哪些凭证的问题。在这个过程中,除了建立信任所严格要求的信息之外,每一方都不应该了解另一方的偏好。我们提出了一种方法,以达成协议的凭证交换,保护各方的隐私。我们的方法是基于安全的两方计算协议的集合相交。也就是说,它是从私人匹配方案。
2013-08-11 cs.CR
Changing Neighbors k Secure Sum Protocol for Secure Multi Party Computation
私有数据输入的安全和计算是安全多方计算(SMC)的一个重要组成部分,本文提出了一个计算私有数据输入和的协议。在我们提出的协议中,我们打破了每一方的输入成段数,并改变各方的安排,这样,在每一轮的计算的邻居被改变。在这个协议中,半诚实的一方不可能知道另一方的私人数据。
2010-02-11 cs.CR
Raziel: Private and Verifiable Smart Contracts on Blockchains
Raziel结合了安全的多方计算和携带证明的代码,为区块链上的智能合约提供隐私,正确性和可验证性保证。有效地解决了DAO和Gyges攻击,本文描述了一种实现,并给出了示例来证明其实际可行性(例如,私人和可验证的众筹和投资基金)。此外,我们展示了如何使用证明的零知识证明(即,Proof-Carrying Code证书)在智能合约执行之前向第三方证明其有效性,而不会泄露任何其他信息。最后,我们展示了矿工如何通过为安全多方计算生成预处理数据而获得奖励。
2020-02-13 cs.CR
C2PI: An Efficient Crypto-Clear Two-Party Neural Network Private Inference
本文通过 IDPA 与增强的 DINA 经验评估隐私,提出仅让神经网络前几层运行 MPC 的两方框架 C2PI,在 LAN/WAN 下显著提升 PI 速度并降低通信成本。
2023-04-26 cs.CR
Authenticated Private Set Intersection: A Merkle Tree-Based Approach for Enhancing Data Integrity
针对 PSI 协议的数据完整性漏洞,本文定义 PSI 完整性并将 Merkle 树融入 volePSI 与 mPSI,提出两种认证型方案并实现评估。
2025-09-30 cs.CR
Optimal Accuracy-Privacy Trade-Off for Secure Multi-Party Computations
安全多方计算的目的是使协议参与者能够计算他们的私人输入的公共函数,同时保持他们的输入秘密,而不求助于任何可信的第三方。然而,公开这些计算的公共输出不可避免地会揭示一些关于私有输入的信息。我们提出了一个措施,推广Renyi熵和g-熵,以量化这种信息泄漏。为了控制和抑制这种信息流,我们引入了函数替换的概念,用一个近似函数的计算来代替一个揭示敏感信息的函数的计算。我们展示了这种方法提供的隐私增益的理论界限,并通过实验表明,这提高了输入的机密性,同时控制计算输出值的失真。最后,我们调查固有的妥协之间的准确性的计算和隐私的输入,我们演示了如何实现这种最佳的权衡。
2018-03-01 cs.CR
Multi-Party Private Set Intersection: An Information-Theoretic Approach
研究了多方私有集的交集问题。在MP-PSI中,存在$M$方,每个方在$N_i$复制和非共谋数据库上存储数据集$\mathcal{p}_i$,并且我们希望计算数据集$\cap_{i=1}^M \mathcal{p}_i$的交集,而不向任何一方泄漏集合交集之外的任何信息。我们考虑一个特定的通信协议,其中一方,称为领导者党,发起的MP-PSI协议发送查询,其余各方被称为客户端。客户端不允许相互通信。我们提出了一个信息理论的计划,私下计算的交集$\cap_{i=1}^M \mathcal{p}_i$与$D = \min_{t \in \{1, \cdots, M\}} \sum_{i \in \{1, \cdots M\}\setminus {t}} \left\lceil \frac{|\mathcal{p}_t|N_i}{N_i-1}\right\rceil$的下载成本。类似于2方PSI问题,我们的计划建立在PSI问题和多消息对称私有信息检索(MM-SPIR)问题之间的联系。我们的计划是一个非平凡的推广2方PSI计划,因为它需要一个复杂的设计共享的共同随机性。有趣的是,在下载成本方面,我们的计划不会招致任何惩罚,由于更严格的隐私限制的MP-PSI问题相比,2方PSI问题。
2020-08-17 cs.CR cs.DB cs.IT
On the relationship between (secure) multi-party computation and (secure) federated learning
这篇短文的贡献包括以下两个部分:在第一部分中,我们能够证明Kairouz等人提出的联邦成员学习(FL)过程\cite{Kairouz1901}是一个随机过程。也就是说,可以在多方计算(MPC)的上下文中定义FL过程的$m$元功能;此外,根据Kairouz等人的的定义可被视为所定义的$m$元功能的实现。因此,FL过程的实例也是MPC协议的实例。简而言之,FL是MPC的子集。为了私密地计算所定义的FL(m-ary)功能,已经部署了各种技术,诸如同态加密(HE)、安全多方计算(SMPC)和差分隐私(DP)。在第二部分中,我们能够证明,如果底层FL实例在基于模拟的框架中私下计算定义的$m$ -ary功能,则基于模拟的FL解决方案也是SMPC的实例。因此,SFL是SMPC的子集。
2020-08-06 cs.CR
zkHawk: Practical Private Smart Contracts from MPC-based Hawk
近年来,随着第一个加密货币比特币的发布,加密货币受到了大量的研究关注。随着加密货币交易的增加,对智能合约的需求也在增加。简而言之,智能合约是数字执行的合约,其中一些方执行共同的目标。当前大多数智能合约的主要问题是,无论是区块链还是其他方,对合约的一方输入都没有隐私。我们的研究建立在Hawk项目的基础上,该项目提供交易隐私以及对智能合约的支持。然而,Hawk依赖于一个被称为管理者的特殊受信任方,该管理者必须被信任不会泄露每一方对智能合约的输入。在本文中,我们提出了一种实用的私有智能合约协议,该协议用MPC协议代替管理器,使得MPC协议执行的功能相对较轻,涉及到对智能合约功能添加的很少开销,并使用实际的sigma协议和同态承诺向区块链证明智能合约的传入余额之和与传出余额之和相匹配。平衡。
2022-05-15 cs.CR
CrypTen: Secure Multi-Party Computation Meets Machine Learning
Facebook AI Research(脸书人工智能研究院)
安全多方计算(MPC)允许各方对数据执行计算,同时保持数据的私密性。这种能力对机器学习应用有很大的潜力:它有助于在不同方拥有的私有数据集上训练机器学习模型,使用另一方的私有数据评估一方的私有模型等。安全MPC的采用受到缺乏灵活的软件框架的阻碍,这些框架可以“说机器学习研究人员和工程师的语言”。为了促进安全MPC在机器学习中的采用,我们提出了CrypTen:一个软件框架,通过现代机器学习框架中常见的抽象来暴露流行的安全MPC原语,例如张量计算,自动微分和模块化神经网络。本文介绍了CrypTen的设计,并衡量其性能的最先进的模型,文本分类,语音识别和图像分类。我们的基准测试表明,CrypTen的GPU支持和(任意数量的)各方之间的高性能通信使其能够在半诚实的威胁模型下对现代机器学习模型进行有效的私人评估。例如,使用CrypTen的双方可以使用Wav2Letter比实时更快地安全地预测语音记录中的音素。我们希望CrypTen将促进安全MPC在机器学习社区中的采用。
2022-09-15 cs.CR cs.LG
Differentially-Private Two-Party Egocentric Betweenness Centrality
University of Melbourne(墨尔本大学)
我们描述了一种新的协议,用于计算一个节点的自我中心的介数中心性时,相关的边缘信息传播在两个相互不信任的双方,如两个电信提供商。虽然每个节点属于一个网络或另一个网络,但其自我网络可能包括其网络提供商未知的边。我们开发了一个协议的差分私有机制,以隐藏每个网络的内部边缘结构,从其他贡献一个新的两阶段分层采样器的时间和空间效率的指数改善。几个开放图形数据集的实证结果表明,实际的相对出错率,同时提供强大的隐私保证,如16%的错误Facebook数据集。
2019-01-16 cs.CR cs.LG cs.SI
Breaking Free: Efficient Multi-Party Private Set Union Without Non-Collusion Assumptions
针对多方私有集合并集协议依赖非合谋假设且复杂度超线性的问题,本文分别提出基于不经意传输/对称密钥的半诚实安全协议和线性复杂度公钥协议,显著提升速度与通信效率。
2024-09-08 cs.CR
IDCloak: A Practical Secure Multi-party Dataset Join Framework for Vertical Privacy-preserving Machine Learning
提出首个无需非共谋辅助服务器的安全多方数据集连接框架IDCloak,通过结合OKVS和OPRF的cmPSI协议及高效安全混淆协议实现隐私保护,在效率和安全性上显著优于现有方法。
2025-06-01 cs.CR
Beyond Yao's Millionaires: Secure Multi-Party Computation of Non-Polynomial Functions
本文提出基于Shamir秘密共享的无条件安全N方比较方案,在不泄露私有输入和中间结果的前提下确定最大值,并可扩展计算最小值、中位数、秩等非多项式函数,计算复杂度低于现有方案,适用于联邦学习等场景。
2024-10-22 cs.CR cs.IT math.IT
Dancing in the Dark: Private Multi-Party Machine Learning in an Untrusted Setting
University of British Columbia(不列颠哥伦比亚大学);University of Toronto(多伦多大学);University of California, San Diego(加利福尼亚大学圣地亚哥分校)
如今,分布式机器学习(ML)系统使用简单的威胁模型:数据源必须信任中央ML进程。我们提出了一个代理的学习抽象,允许数据源在不可信的环境中为全球共享模型做出贡献,并提供可证明的隐私保证。我们通过构建联邦学习(多方机器学习的最新技术)来实现这种抽象,以构建TorMentor:一种支持私有多方机器学习的匿名隐藏服务。我们通过在代理学习环境中描述、开发和评估新攻击以及针对这些攻击的新防御来定义新的威胁模型。我们表明,TorMentor有效地保护数据提供者免受已知的ML攻击,同时为他们提供模型准确性和隐私之间的可调权衡。我们通过Azure/Tor上的本地和地理分布部署评估TorMentor。在一个有200个客户端和每个客户端14 MB数据的实验中,我们的原型在65秒内使用随机梯度下降训练了一个逻辑回归模型。代码可在:https://github.com/DistributedML/TorML
2019-02-24 cs.CR cs.DC cs.LG
Differentially Private Summation with Multi-Message Shuffling
在最近的工作中,Cheu等人(Eurocrypt 2019)提出了一种在差分隐私的洗牌模型中使用$O_{ε, δ}(1)$错误和每方$Θ(ε\sqrt{n})$一位消息的$n$ -方实数求和的协议。相反,每个用于实求和的局部模型协议都必须产生错误$Ω(1/\sqrt{n})$,并且存在与此下限匹配的协议,其每方仅需要一位通信。Cheu等人对消息数量上的这种差距是否必要还没有定论。在本说明中,我们给出了一个带有$O(1/ε)$错误的协议,并且每一方的$O(\log(n/δ))$消息大小为$O(\log(n))$。该方案基于Ishai等人的工作。(FOCS 2006)展示了如何从安全洗牌实现分布式求和,以及观察到这允许在洗牌模型中模拟拉普拉斯机制。
2019-08-21 cs.CR stat.ML
Function-private Conditional Disclosure of Secrets and Multi-evaluation Threshold Distributed Point Functions
有条件的秘密披露(CDS)允许多方向第三方披露秘密,当且仅当满足某些预先确定的条件时。在这项工作中,我们通过引入功能私有CDS,其中预先决定的条件是永远不会透露给第三方的CDS的隐私保证。我们还得到了一个函数秘密共享方案,从我们的函数私有CDS解决方案。我们考虑的第二个问题涉及阈值分布点函数,它允许一个分裂点函数,使得至少需要阈值数量的份额来评估它在任何给定的输入。我们考虑一个设置,其中一个点函数是分裂的一组当事人,使多个评估不泄漏不可忽略的信息it.Finally,我们提出了一个可证明的最佳程序来执行阈值函数秘密共享的任何多项式在有限域。
2021-10-08 cs.CR
Mostree : Malicious Secure Private Decision Tree Evaluation with Sublinear Communication
Mostree协议通过结合不经意选择、树编码和三方安全计算,在恶意敌手模型下以次线性通信实现高效私有决策树评估,实验证明其性能接近半诚实方案。
2023-09-29 cs.CR
Differentially Private Linear Optimization for Multi-Party Resource Sharing
针对多方资源共享中的隐私保护问题,提出基于分解方案与局部差分隐私算法的两步法,在保证数据隐私的同时提供最优性偏差界限,并验证其在生产规划等领域的适用性。
2024-01-04 cs.CR math.OC
Verifiable and Collusion-Resistant Multi-Party Quantum Private Set Operations
School of Mathematics, Renmin University of China(中国人民大学数学学院);Great Bay University(大湾区大学)
提出一种基于旋转量子构造的多方阈值私有交集协议,通过隐藏标签测量和OLE内积实现阈值判定,无需第三方解释结果,并利用IBM Qiskit验证可行性。
2026-06-29 cs.CR quant-ph
Practical Traceable Over-Threshold Multi-Party Private Set Intersection
School of Cyber Science and Technology, University of Science and Technology of China(中国科学技术大学网络空间安全学院);Fujian Provincial Key Laboratory of Network Security and Cryptology, College of Computer and Cyber Security, Fujian Normal University(福建师范大学计算机与网络安全学院);NIO Inc.(蔚来汽车)
本文提出两种新型可追溯阈值多方私有集合交集协议,分别在效率和安全性上优于现有方法。
2025-12-31 cs.CR
Quantum Multi-Party Threshold Private Set Intersection with Explicit Cardinality Testing
School of Mathematics, Renmin University of China(中国人民大学数学学院);Great Bay University(大湾区大学)
提出一种基于旋转的量子多方TPSI协议,通过隐藏标签测量和OLE内积实现显式基数测试,仅揭示交集是否达到阈值。
2026-06-29 cs.CR quant-ph
An Attack to Break Permutation-Based Private Third-Party Inference Schemes for LLMs
Ritual;Stanford University(斯坦福大学);Columbia University(哥伦比亚大学)
本研究提出一种攻击方法,能近乎完美地从隐藏状态重建提示并逆转排列,破解三种基于排列的LLM私有推理方案,揭示其安全性证明缺陷,强调严格安全分析的必要性。
2025-05-23 cs.CR cs.LG
Private measurement of nonlinear correlations between data hosted across multiple parties
MIT(麻省理工学院)
我们引入了一种差分私有方法来测量跨两个实体托管的敏感数据之间的非线性相关性。我们提供我们的私人估计器的效用保证。我们的是第一个这样的非线性相关性的私人估计,据我们所知,在多方设置。我们考虑的非线性相关的重要措施是距离相关。除了探索性数据分析外,这项工作还可以直接应用于私人特征筛选,私人独立性测试,私人k样本测试,私人多方因果推理和私人数据合成。代码访问:补充文件中提供了公开访问代码的链接。
2021-11-08 cs.CR cs.LG stat.CO
Channels of Small Log-Ratio Leakage and Characterization of Two-Party Differentially Private Computation
考虑一个PPT两方协议$π=(A,B)$,其中各方没有私有输入并获得输出$O^A,O^B\in \{0,1\}$,并让$V^A$和$V^B$表示各方的个人观点。如果是$Pr[O^A=O^B]=1/2+α$,则协议$π$具有$α$ -协议。$π$的泄漏是一方获得的关于事件$\{O^A=O^B\}$的信息量;也就是说,泄漏$ε$是$V^P|OA=OB$和$V^P|OA\neq OB$之间的距离在$P\in\{A,B\}$上的最大值。通常,这个距离是以统计距离来测量的,或者在计算环境中,是以计算不可测性来测量的。对于这种选择,Wullschleger [TCC 09]表明,如果使用$α>>ε$,则该方案可以转换为OT方案。我们考虑用对数比距离(在差分隐私框架中得到推广)来度量协议泄漏。域Ω上X,Y之间的对数比距离是最小$ε>0$,对于每个$v\inΩ$,$log(Pr[X=v]/Pr[Y=v])\in [-ε,ε]$。在计算设置中,我们使用具有对数比距离$ε$的计算不变性。我们表明,一个协议(显着)的准确性$α\inΩ(ε^2)$可以转化为OT协议(请注意,这允许$ε>>α$)。我们完成了图片,在这方面,显示一个协议与$α\in o(ε^2)$并不一定意味着OT。我们的结果适用于信息论和计算环境,可以被看作是一个“细粒度”的方法“弱OT放大”。然后,我们使用上述结果来充分表征XOR函数的…
2021-05-09 cs.CC cs.CR
A Multi-Server Information-Sharing Environment for Cross-Party Collaboration on A Private Cloud
本文针对BIM跨方协作中数据所有权与隐私问题,提出私有云多服务器信息共享方法,通过全局控制器跟踪数据位置与权限,并结合子模型提取与集成机制,在保障数据控制权的同时实现跨方共享与协作。
2024-11-15 cs.CR cs.DC
RRNet: Towards ReLU-Reduced Neural Network for Two-party Computation Based Private Inference
University of Connecticut(康涅狄格大学);Northeastern University(东北大学);Lehigh University(理海大学);Duke University(杜克大学);University of Rochester(罗切斯特大学)
深度学习(DL)的普及导致了隐私和安全问题的出现。为了解决这些问题,已经提出了安全双方计算(2 PC)作为实现隐私保护DL计算的手段。然而,在实践中,2 PC方法往往会产生很高的计算和通信开销,这可能会阻碍它们在大规模系统中的使用。为了应对这一挑战,我们引入了RRNet,这是一个系统框架,旨在共同降低MPC比较协议的开销,并通过硬件加速来加速计算。我们的方法将加密构建块的硬件延迟集成到DNN损失函数中,从而提高了能效、准确性和安全性。此外,我们提出了一个加密的硬件调度器和相应的性能模型的现场可编程门阵列(FPGA),以进一步提高我们的框架的效率。实验表明,RRNet在CIFAR-10数据集上实现了比所有SOTA作品更高的ReLU约简性能。
2023-02-22 cs.CR cs.LG
Computationally Differentially Private Inner Product Protocols Imply Oblivious Transfer
本文证明任何能在±1域上以O(n^{1/6})加性误差估计内积的计算差分隐私协议都可构造不经意传输,从而确立次多项式准确性协议与不经意传输的等价性,改进前人仅证明密钥协商必要性的结果。
2025-07-07 cs.CR
Private Multi-party Matrix Multiplication and Trust Computations
本文研究分布式矩阵乘法。每个参与者只拥有两个矩阵的一行,并且希望了解乘积矩阵的一个不同行,而不向其他参与者透露其输入。首先,我们改进了一个加权平均协议,以安全地计算一个点积的二次通信量和线性轮数。我们还提出了一个协议与五轮通信,使用一个Paillier类似的基本同态公钥密码系统,这是安全的半诚实模型或安全的高概率在恶意的对手模型。使用ProVerif,一个密码协议验证工具,我们能够检查协议的安全性,并提供了一个对策,对工具发现的每一个攻击。我们还提出了一种避免合谋攻击的随机化方法。作为一个应用程序,我们表明,该协议使一个分布式的和安全的评估网络中的信任关系,为一大类的信任评估计划。
2016-07-13 cs.CR cs.SC
Combinatorial Privacy: Private Multi-Party Bitstream Grand Sum by Hiding in Birkhoff Polytopes
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学);Massachusetts Institute of Technology (MIT)(麻省理工学院)
PolyVeil通过将私有位编码为Birkhoff多面体中的排列矩阵,实现k个客户端的隐私布尔求和,其双层架构提供完美安全性,但完整与压缩变体在隐私保证与低维性间存在根本矛盾。
2026-03-30 cs.CR cs.LG
Decentralized Certificate Authorities
TLS的安全性取决于对证书颁发机构的信任,而这种信任源于它们保护和控制私有签名密钥使用的能力。签名密钥是证书颁发机构(CA)的关键资产,其值基于对主要由浏览器供应商分发的相应公钥的信任。CA私钥的泄漏代表可能造成灾难性后果的单点故障,因此CA会竭尽全力保护和控制其私钥的使用。然而,密钥有时会被泄露,并且可能会被内部人员意外或故意滥用。我们建议分裂CA的私钥在多方之间,并使用一个通用的安全多方计算协议,从来没有暴露实际的签名密钥产生签名。这可以由单个CA使用,以降低其签名密钥被泄露或滥用的风险。它还可以启用新的证书生成模型,其中多个CA需要在生成新证书之前达成一致并进行合作,或者甚至证书生成需要CA和证书接收者(主体)之间的合作。虽然更有效的解决方案是可能的自定义协议,我们证明了使用通用的两方安全计算协议实现一个分散的CA的可行性与评估的原型实现,使用安全的两方计算生成使用ECDSA签署的证书曲线secp192k1。
2017-10-10 cs.CR
Scalable Information-Flow Analysis of Secure Three-Party Affine Computations
安全多方计算中的精心设计的协议使几个参与者能够计算他们自己的私人输入的公共函数,同时确保没有关于私人输入的不期望的信息泄漏,并且不求助于任何可信的第三方。然而,计算的公共输出不可避免地泄露了一些关于私有输入的信息。最近的作品已经引入了一个框架,并提出了一些技术来量化这种信息流。然而,由于它们的复杂性,这些方法不能扩展到可能涉及大输入空间的实际情况。这里报告的工作的主要贡献是正式调查的信息流捕获的最小熵的特定情况下,安全的三方计算的仿射函数,以使其量化可扩展到现实的场景。为此,我们在数学上推导出一个明确的公式,这个熵下一致的先验信念的输入。我们表明,这种封闭形式的表达式可以计算的时间常数的输入大小和对数的仿射函数的系数。最后,我们制定了一些理论界限,这种隐私泄漏的存在下,非统一的先验信念。
2019-01-03 cs.CR cs.IT math.IT
Private, Efficient, and Accurate: Protecting Models Trained by Multi-party Learning with Differential Privacy
Fudan University(复旦大学);Ant Group(蚂蚁集团)
安全的基于多方计算的机器学习,简称为MPL,已经成为一种重要的技术,利用来自多方的数据与隐私保护。虽然MPL为计算过程提供了严格的安全保证,但MPL训练的模型仍然容易受到仅依赖于访问模型的攻击。差分隐私可以帮助抵御此类攻击。然而,差分隐私带来的准确性损失和安全多方计算协议的巨大通信开销使得在隐私、效率和准确性之间进行3方面的权衡具有很大的挑战性。在本文中,我们的动机,以解决上述问题,提出了一个解决方案,被称为PEA(私人,高效,准确),其中包括一个安全的DPSGD协议和两个优化方法。首先,我们提出了一个安全的DPSGD协议,在基于秘密共享的MPL框架中实施DPSGD。其次,为了减少差分隐私噪声和MPL巨大的通信开销导致的准确率损失,提出了两种MPL训练过程的优化方法:(1)数据无关的特征提取方法,旨在简化训练模型结构;(2)基于局部数据的全局模型初始化方法,旨在加快模型训练的收敛速度。我们在两个开源MPL框架中实现了PEA:TF加密和Queqiao。在不同数据集上的实验结果证明了PEA的效率和有效性。例如,当$ε$ = 2时,我们可以在LAN设置下在7分钟内训练针对CIFAR-10的具有88%准确度的差分私有分类模型。这一结果明显优于CryptGPU(一个SOTA MPL框架)的结果:在CIFAR-10上训练一个非私有深度神经网络模型需要超过16个小时,并且精度相同。
2022-08-18 cs.CR cs.LG
CaPC Learning: Confidential and Private Collaborative Learning
University of Toronto(多伦多大学);Vector Institute(向量研究所);The Chinese University of Hong Kong(香港中文大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Northwestern University(西北大学)
机器学习受益于大型训练数据集,这些数据集可能并不总是能够由任何单个实体收集,特别是在使用隐私敏感数据时。在许多情况下,例如医疗保健和金融,独立的各方可能希望合作并从彼此的数据中学习,但由于隐私法规而无法这样做。一些法规通过在中央位置加入数据集(机密性)来防止各方之间的明确共享数据。其他一些也限制了数据的隐式共享,例如,通过模型预测(隐私)。目前还没有一种方法能够在这样的设置中实现机器学习,其中需要保护机密性和隐私性,以防止数据的显式和隐式共享。联邦学习只提供机密性,而不是隐私,因为共享的梯度仍然包含私人信息。差异私人学习假设不合理的大数据集。此外,这两种学习范式都产生了一个中央模型,其架构是事先商定的所有各方,而不是使合作学习,每一方学习和改进自己的本地模型。我们介绍了保密和私人协作(CaPC)学习,第一种方法可证明在协作环境中实现保密性和隐私性。我们利用安全多方计算(MPC),同态加密(HE)和其他技术与私人聚合教师模型相结合。我们演示了CaPC如何允许参与者进行协作,而无需明确加入他们的训练集或训练中心模型。每一方都能够提高其模型的准确性和公平性,即使在每一方都有一个在自己的数据集上表现良好的模型,或者当数据集不是IID并且模型架构在各方之间是异构的时,也是如此。
2021-03-19 cs.CR cs.LG
Cascade: Token-Sharded Private LLM Inference
Ritual;Stanford University(斯坦福大学);Columbia University(哥伦比亚大学)
针对第三方大语言模型推理的隐私问题,提出Cascade协议,通过序列维度令牌分片平衡隐私与性能,可抵抗特定攻击且速度远超现有方案,为大语言模型安全部署提供实用方法。
2025-07-07 cs.CR cs.LG
Differentially Private Secure Multi-Party Computation for Federated Learning in Financial Applications
Georgia Institute of Technology(佐治亚理工学院);J.P. Morgan AI Research(摩根大通人工智能研究院)
联邦学习使一群客户端能够与受信任的服务器一起协作学习共享的机器学习模型,同时将每个客户端的数据保存在自己的本地系统中。这降低了暴露敏感数据的风险,但仍然有可能从通信的模型参数中对有关客户端私有数据集的信息进行逆向工程。因此,大多数联邦学习系统使用差分隐私来将噪声引入参数。这增加了任何试图揭示私人客户端数据的不确定性,但也降低了共享模型的准确性,限制了隐私保护噪声的有用规模。一种系统,通过还包括安全多方计算,可以进一步降低协调服务器恢复私人客户端信息的能力,而没有额外的准确性损失。结合这两种技术的方法与金融公司特别相关,因为它为协作学习提供了新的可能性,而不会暴露敏感的客户数据。这可以为重要任务(如最佳交易执行、信贷发放或欺诈检测)生成更准确的模型。本文的主要贡献是:我们提出了一个隐私保护的联邦学习协议的非专业观众,证明它使用逻辑回归在现实世界中的信用卡欺诈数据集,并评估它使用一个开源的模拟平台,我们已经适应了联邦学习系统的发展。
2020-10-12 cs.AI cs.CR cs.MA
DDH-based schemes for multi-party Function Secret Sharing
University of Twente(特文特大学);Inria(法国国家数字科学与技术研究所);Carl von Ossietzky Universität Oldenburg(奥尔登堡卡尔·冯·奥西茨基大学)
本文提出基于DDH的多方函数秘密分享方案,将密钥大小降低至O(N^(1/3)),并在实际问题规模上比现有方案小10倍,并扩展至支持比较函数的方案。
2026-03-18 cs.CR
Efficient Differentially Private Secure Aggregation for Federated Learning via Hardness of Learning with Errors
University of Vermont(佛蒙特大学);MassMutual(万通互惠);Raytheon(雷神公司)
联邦机器学习利用边缘计算从网络用户数据开发模型,但联邦学习中的隐私仍然是一个重大挑战。已经提出了使用差分隐私的技术来解决这个问题,但也带来了自己的挑战--许多技术需要可信的第三方,否则会增加太多的噪音来产生有用的模型。使用多方计算的\emph{secure aggregation}的最新进展消除了对第三方的需要,但计算成本高,特别是在规模上。我们提出了一个新的联邦学习协议,利用一种新的差分私有,恶意的安全聚合协议的基础上,从错误的学习技术。我们的协议优于当前最先进的技术,经验结果表明,它可以扩展到大量的缔约方,具有最佳的准确性,任何差异私人联邦学习计划。
2021-12-13 cs.CR cs.LG
DP-PSI: Private and Secure Set Intersection
对用于安全2方计算的私有集合交集(PSI)进行分类的一种方式是交集是(a)向双方揭示还是(b)对双方隐藏,而仅暴露匹配的有效载荷的计算功能。两者都旨在提供加密安全性,同时避免暴露对方的不匹配元素。然而,在一个实际场景中,它们可能不足以实现安全和隐私:当需要交叉点并且必须出于法律、道德和竞争原因考虑通过功能输出泄露的信息时。诸如广告商和广告供应商的两方持有用于PSI计算的用户集合,例如,以在联合营销应用中向广告供应商揭示共同用户。除了标准PSI所要求的安全保证以保护不匹配的元素之外,任何一方都不允许“挑出”元素/用户是否属于另一方,即使联合广告需要共同用户。这是一个令人着迷的问题,没有一种PSI技术提供了解决方案。鉴于这一缺点,我们将差分隐私(DP)和S2 PC组合起来,以提供两全其美的效果,并提出了差异隐私PSI(DP-PSI),这是一种新的隐私模型,它共享PSI的强大安全保护,同时遵守GDPR最近的形式化概念,即排除各方的“信号输出”攻击,除非概率很低。
2022-08-28 cs.CR cs.IT math.IT
Distributed and Secure ML with Self-tallying Multi-party Aggregation
隐私保护多方计算在医学、在线广告等领域有着广泛的应用。在这项工作中,我们提出了一个在不受信任的个人之间进行分布式、安全的机器学习的框架。该框架由两部分组成:基于同态加法的两步训练协议和用于数据有效性的零知识证明。通过结合这两种技术,我们的框架提供了每个用户数据的隐私,防止恶意用户贡献损坏的数据的共享池,使每个用户能够自行计算的算法的结果,而不依赖于外部可信的第三方,并要求用户组之间没有私人通道。我们展示了不同的ML算法,如潜在狄利克雷分配,朴素贝叶斯,决策树等,适合我们的分布式,安全计算的框架。
2018-11-26 cs.CR
Private Aggregation from Fewer Anonymous Messages
考虑这样的设置,其中$n$各方都被给予一个数字$x_i \in \mathbb{F}_q$,并且目标是以安全的方式并且利用尽可能少的通信来计算总和$\sum_i x_i$。我们研究这个问题的匿名模型Ishai等人(FOCS 2006),其中每一方可能会在一个不安全的信道上广播匿名消息。我们提出了一个新的分析的一轮“分裂和混合”协议的Ishai等人。为了实现相同的安全参数,我们的分析减少了所需的消息数的$Θ(\log n)$乘法因子。我们补充我们的积极结果与下界显示,依赖的消息的数量上的域的大小,当事人的数量,和安全参数基本上是紧的。使用Balle et al.(2019)的简化,我们对Ishai et al.协议的改进分析在同一模型中产生了一个$\left(\varepsilon, δ\right)$ -用于聚合的差分私有协议,对于任何恒定的$\varepsilon > 0$和任何$δ= \frac{1}{\mathrm{poly}(n)}$,只会产生恒定的错误,并且只需要每一方恒定数量的消息。以前,这样的协议仅为每一方的$Ω(\log n)$消息所知。
2019-10-15 cs.CR cs.DS
PRIVMARK: Private Large Language Models Watermarking with MPC
Télécom SudParis(电信南方理工学院);National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学)
PRIVMARK通过MPC技术实现大语言模型的隐私保护水印,无需暴露模型权重,有效抵御攻击并保持性能。
2025-09-29 cs.CR
Introducing a Framework to Enable Anonymous Secure Multi-Party Computation in Practice (Extended Version)
安全多方计算(SMPC)允许一组各方以分布式方式安全地计算功能,而无需任何可信的外部方。通常,假设各方彼此认识并且已经在彼此之间建立了认证信道。然而,在实践中,当事人有时必须保持匿名。在本文中,我们概念化的框架,使重复执行的SMPC协议为一个给定的功能,使各方可以保持他们的参与在协议执行的私人,并在同一时间可以肯定的是,只有授权方可以参加协议执行。我们确定了我们的框架的实现必须满足的安全属性,并介绍了实现这些属性的框架的第一个实现。
2023-01-19 cs.CR
Secure Multi-Party Computation Based Privacy Preserving Extreme Learning Machine Algorithm Over Vertically Distributed Data
TÜBİTAK BİLGEM(土耳其科学技术研究理事会 信息与信息安全研究中心);Cyber Security Institute(网络安全研究所)
特别是在大数据时代,不同分类方法的使用日益增多。这些分类方法的成功取决于学习方法的有效性。极限学习机(ELM)分类算法是一种基于前馈神经网络的相对较新的学习方法。ELM分类算法是一种简单快速的方法,可以从高维数据集创建模型。传统的ELM学习算法隐含地假设对整个数据集的完全访问。这在大多数情况下是一个重要的隐私问题。出于安全考虑,禁止共享私人数据(即医疗记录)。在这项研究中,我们提出了一个有效的和安全的隐私保护学习算法ELM分类数据之间的垂直分区。新的学习方法保留了数值属性的隐私性,在不共享隐私数据的情况下建立分类模型,同时不向他人泄露各方的数据。
2016-02-09 cs.CR cs.LG
Cocktail Party Attack: Breaking Aggregation-Based Privacy in Federated Learning using Independent Component Analysis
Georgia Institute of Technology(佐治亚理工学院);Meta AI;Pennsylvania State University(宾夕法尼亚州立大学);Virginia Tech(弗吉尼亚理工大学);Cornell University(康奈尔大学)
联邦学习(FL)旨在对多个数据所有者持有的分布式数据执行隐私保护机器学习。为此,FL要求数据所有者在本地进行训练,并与中央服务器共享梯度更新(而不是私有输入),然后在多个数据所有者之间进行安全聚合。虽然聚合本身并不能提供隐私保护,但先前的工作表明,如果批量足够大,它可能就足够了。在本文中,我们提出了鸡尾酒会攻击(CPA),相反,事先的信念,是能够恢复的私人输入从梯度聚集在一个非常大的批量大小。CPA利用了关键的洞察力,即来自全连接层的聚合梯度是其输入的线性组合,这将我们引导到帧梯度反演作为盲声源分离(BSS)问题(非正式地称为鸡尾酒会问题)。我们采用独立分量分析(ICA)-BSS问题的经典解决方案-来恢复完全连接和卷积网络的私有输入,并表明CPA显着优于先前的梯度反转攻击,扩展到ImageNet大小的输入,并适用于高达1024的大批量。
2022-09-12 cs.AI cs.CR cs.LG
Privacy-Preserving Multi-Party Contextual Bandits
Facebook AI Research(Facebook人工智能研究)
情境强盗是在线学习者,给定输入,选择一个手臂并获得该手臂的奖励。他们将奖励作为学习信号,旨在最大化输入的总奖励。上下文强盗通常用于解决推荐或排名问题。本文考虑了一种学习环境,在这种环境中,多方以私人的方式训练一个上下文强盗:各方的目标是最大化总回报,但不想与其他各方分享他们拥有的任何相关信息。具体而言,多方可以访问可能使学习者受益但不能与其他方共享的(不同)功能。其中一方拉动手臂,但其他方可能不知道哪个手臂被拉动。一方收到奖励,但其他方可能无法学习奖励值。本文开发了一个隐私保护的多方上下文的学习设置相结合的安全多方计算与差分私有机制的基础上ε贪婪的探索。
2020-02-13 cs.CR cs.LG stat.ML
Quantum Private Comparison: A Review
本文综述量子隐私比较(QPC)协议,按量子实现机制分为量子密码学、超密编码和纠缠交换三类,分析其进展、设计思想与特征,并展望应用及三个研究方向。
2013-12-19 cs.CR
TPMDP: Threshold Personalized Multi-party Differential Privacy via Optimal Gaussian Mechanism
本文提出阈值个性化多方差分隐私框架TPMDP,通过最优高斯机制和线性规划高效求解,在支持个性化隐私预算和合谋阈值的同时实现低效用损失。
2023-05-30 cs.CR cs.MA