arXiv 2202.034002022-02-07cs.ITcs.CRcs.NIeess.SPmath.IT

存储受限数据库的专用读更新写（PRUW）

Private Read Update Write (PRUW) with Storage Constrained Databases

Sajani Vithana, Sennur Ulukus

摘要：

我们研究了存储受限数据库中与联邦子模型学习（FSL）相关的私有读更新写（PRUW）问题。在PRUW中，用户私下从包含$M$子模型的$N$数据库系统中读取子模型，在本地更新它，并将更新写回数据库，而不泄露子模型索引或更新的值。在这个问题中考虑的数据库只允许存储由任意存储约束指定的给定量的信息。我们提供了一个存储机制，确定每个数据库的内容之前的应用程序的PRUW计划，使总的通信成本最小化。我们表明，所提出的存储方案实现了较低的总成本相比，通过使用\emph{coded storage}或\emph{divided storage}，以满足给定的存储约束。

英文摘要：

We investigate the problem of private read update write (PRUW) in relation to federated submodel learning (FSL) with storage constrained databases. In PRUW, a user privately reads a submodel from a system of $N$ databases containing $M$ submodels, updates it locally, and writes the update back to the databases without revealing the submodel index or the value of the update. The databases considered in this problem are only allowed to store a given amount of information specified by an arbitrary storage constraint. We provide a storage mechanism that determines the contents of each database prior to the application of the PRUW scheme, such that the total communication cost is minimized. We show that the proposed storage scheme achieves a lower total cost compared to what is achieved by using \emph{coded storage} or \emph{divided storage} to meet the given storage constraint.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

异构数据库的私有读更新写（PRUW）

Private Read Update Write (PRUW) With Heterogeneous Databases

研究了联邦子模型学习中异构存储受限数据库的私有读更新写问题。在FSL中，机器学习（ML）模型根据用于训练它的不同类型的数据被划分为多个子模型。给定的用户根据用户的本地数据类型下载、更新并将更新上传回感兴趣的单个子模型。使用PRUW，执行读取（下载）和写入（上传）的过程，从而保证更新子模型索引和更新值的信息理论隐私。我们考虑的实际情况下，子模型存储在数据库中的任意（异构）存储约束，并提供一个PRUW计划的存储机制，利用子模型分区和编码，以尽量减少通信成本。

2023-02-07cs.CRcs.ITcs.NI

联邦子模型学习（FSL）中的私有读更新写（PRUW）：有和没有稀疏化的通信有效方案

Private Read Update Write (PRUW) in Federated Submodel Learning (FSL): Communication Efficient Schemes With and Without Sparsification

我们研究了与私有联邦子模型学习（FSL）相关的私有读更新写（PRUW）问题，其中机器学习模型根据用于训练模型的不同类型的数据被划分为多个子模型。在PRUW中，每个用户在读取阶段下载所需的子模型而不显示其索引，并在写入阶段上传子模型的更新而不显示子模型索引或更新的值。在这项工作中，我们首先提供了一个基本的通信效率PRUW计划，并研究通过稀疏化进一步降低通信成本的手段。梯度稀疏化是学习应用中广泛使用的概念，其中仅下载和更新选定的一组参数，这显著降低了通信成本。在本文中，我们研究如何稀疏化的概念可以被纳入私人FSL的目标是降低通信成本，同时保证信息理论的隐私更新的子模型索引以及更新的值。为此，我们介绍了两种方案：PRUW与顶部$r$稀疏和PRUW与随机稀疏。前者仅在服务器和用户之间传送最重要的参数/更新，而后者传送随机选择的参数/更新集。这两个建议的计划引入了新的技术，如参数/更新（噪声）置换处理的额外来源的信息泄漏在PRUW所造成的稀疏化。这两种方案的结果显着降低通信成本相比，基本（非稀疏）PRUW计划。

2022-09-09cs.CRcs.ITcs.NI

联邦子模型学习中私有读更新写的率失真折衷

Rate Distortion Tradeoff in Private Read Update Write in Federated Submodel Learning

我们调查的率失真权衡私人读更新写（PRUW）联邦子模型学习（FSL）。在FSL中，机器学习（ML）模型基于用于训练的不同类型的数据被划分为多个子模型。每个用户只下载和更新与其本地数据相关的子模型。下载和更新所需的子模型，同时保证子模型索引和更新值的隐私的过程被称为PRUW。在这项工作中，我们研究如何PRUW的通信成本可以降低时，一个预先确定的失真量是允许在读取（下载）和写入（上传）阶段。我们的特点率失真权衡PRUW随着一个计划，实现了最低的通信成本，同时在给定的失真预算下工作。

2022-06-07cs.CRcs.ITcs.NI

基于稀疏化的私有联邦子模型学习

Private Federated Submodel Learning with Sparsification

University of Maryland, College Park（马里兰大学帕克分校）

研究了稀疏化联邦子模型学习中的私有读更新写问题。在FSL中，机器学习模型被划分为多个子模型，其中每个用户仅更新与用户的本地数据相关的子模型。PRUW是通过读取和写入所需的子模型而不泄露子模型索引或数据库更新值来私下执行FSL的过程。稀疏化是学习中广泛使用的概念，其中用户仅更新一小部分参数以减少通信成本。揭示这些选定（稀疏）更新的坐标会泄露用户的隐私。我们展示了如何PRUW在FSL可以进行稀疏化。我们提出了一种新的方案，私人读取和写入任意参数的任何给定的子模型，而不透露子模型索引，更新值，或坐标的稀疏更新，数据库。所提出的方案实现了显着降低读写成本相比，实现没有稀疏化。

2022-05-31cs.CRcs.ITcs.LG

私人信息检索及其应用：导论、开放问题与未来方向

Private Information Retrieval and Its Applications: An Introduction, Open Problems, Future Directions

本文综述PIR的基本模型、信息论隐私变体及PSI、PSU、PRUW等概念扩展，并探讨其在分布式学习隐私保护中的应用与未来研究方向。

2023-04-27cs.CRcs.ITcs.NI

基于$r$稀疏化的高效联邦学习中信息泄漏可控的私有读-更新-写

Private Read-Update-Write with Controllable Information Leakage for Storage-Efficient Federated Learning with Top $r$ Sparsification

在联邦学习（FL）中，机器学习（ML）模型由大量用户使用他们在本地设备中的私有数据集体训练。通过FL中的顶级$r$稀疏化，用户仅上传更新的最重要的$r$部分，并且服务器仅向用户发送参数的最重要的$r'$部分，以便降低通信成本。然而，稀疏更新的值和索引泄漏了关于用户的私有数据的信息。在这项工作中，我们考虑FL设置，其中$N$非共谋数据库存储要训练的模型，用户从其中下载并私下更新稀疏参数，而不向数据库透露更新的值或其索引。我们提出了四种具有不同属性的方案来执行这项任务，同时实现最小的通信成本，并表明稀疏更新的值和位置的信息理论隐私可以得到保证。然而，这是以相当大的存储成本来实现的。为了缓解这一点，我们推广的计划，以这样一种方式，存储成本降低了一定量的信息泄漏的代价，使用模型分割机制。在一般情况下，我们提供的通信成本，存储成本和信息泄漏之间的权衡在私人FL与顶部$r$稀疏。

2023-03-07cs.CRcs.ITcs.NI

更多相关论文收起更多论文

两位消息足以在易崩溃系统中实现原子读/写寄存器

Two-Bit Messages are Sufficient to Implement Atomic Read/Write Registers in Crash-prone Systems

原子寄存器无疑是计算科学中最基本的对象。它们在一个n进程异步消息传递系统上的实现受到了很多关注。已经表明，t \textless{} n/2（其中t是可能崩溃的进程的最大数量）是在易崩溃的异步消息传递系统之上构建原子寄存器的必要且充分的要求。考虑到这种情况，本文提出了一种算法，实现了一个单写多读原子寄存器只有四个消息类型，其中没有消息需要携带控制信息，除了它的类型。因此，两个比特足以捕获由所有实现消息携带的所有控制信息。此外，两种类型的消息需要携带数据值，而另外两种类型的消息根本不携带值。据我们所知，该算法是第一个具有这样的最优性质的消息携带的控制信息的大小。从时间复杂度的角度来看，它也特别有效。

2016-02-08cs.DCcs.ITmath.IT

利用写电压的动态分配延长闪存寿命

Using Dynamic Allocation of Write Voltage to Extend Flash Memory Lifetime

闪存单元的读取通道在重复编程和擦除（P/E）操作之后退化。这种退化通常被建模为P/E周期数的函数。与此相反，本文模型的退化作为一个功能的累积效应的电荷写入和擦除的单元。基于这种建模方法，本文动态分配电压使用较低的电压写入阈值在器件寿命的开始，并增加阈值，以保持互信息的读取通道在面对退化。本文介绍了一个理想化的设置中的技术，然后删除信道知识和可用的电压分辨率的理想假设，得出结论与一个实用的方案，性能接近的理想化设置。

2016-10-11cs.ITmath.IT

$X$ -安全的$T$ -具有弹性丢弃恢复能力的私有联邦子模型学习

$X$-Secure $T$-Private Federated Submodel Learning with Elastic Dropout Resilience

最近的兴趣在联邦子模型学习的动机，这项工作探讨了基本的问题，私人读取和写入数据库组成的$K$文件（子模型），存储在$N$分布式服务器根据$X$ -安全的阈值秘密共享计划。一个接一个地，各种用户希望检索他们想要的文件，本地处理信息，然后更新分布式数据库中的文件，同时保持他们想要的文件的身份对任何一组多达$T$的串通服务器是私有的。服务器的可用性随着时间的推移而变化，因此需要弹性的丢包恢复能力。这项工作的主要贡献是一个自适应方案，称为ACSA-RW，它利用所有当前可用的服务器来降低其通信成本，在每次写入操作后完全更新数据库，即使数据库由于服务器退出而只能部分访问，并确保网络的无记忆操作，在这个意义上，存储结构被保留，未来的用户可以保持对过去的遗忘服务器退出的历史记录。ACSA-RW构造建立在最初为XSTPIR引入的CSA代码的基础上，并且已被证明是安全分布式矩阵乘法问题的自然解决方案。ACSA-RW实现了所需的私有读和写功能，具有弹性的丢包恢复能力，与PIR文献中私有读的最佳结果相匹配，在私有写的可用基线基础上进行了显著改进，揭示了上传和下载成本之间的惊人对称性，并利用冗余存储尺寸来容纳高达特定阈值的任意读写丢包服务器。它还肯定地回答了Kairouz等人提出的一个开放性问题。通过利用私有读写操作的联合设计的协同收益。

2021-03-22cs.ITmath.IT

最佳准格雷码：字母表很重要

Optimal Quasi-Gray Codes: The Alphabet Matters

在字母表$Σ$上的维度为$n$且长度为$\ell$的准格雷码是与$Σ^n$不同的字的序列$w_1,w_2,\dots,w_\ell$，使得对于某个固定常数$c>0$，任何两个连续字在至多$c$坐标上不同。在本文中，我们感兴趣的读和写的复杂性准格雷码的位探测模型，在那里我们测量的符号的数量读取和写入，以便将任何字$w_i$到它的继任者$w_{i+1}$。本文在三进制字母表$\{0,1,2\}$上构造了维数为$n$、长度为$3^n$的准格雷码，其最坏读复杂度为$O(\log n)$，写复杂度为$2$ .这推广到任意奇数大小的字母表。对于二进制字母表，我们提出了准格雷码的尺寸$n$和长度至少$2^n - 20n$与最坏情况下的读复杂度$6+\log n$和写复杂度$2$。这补充了Raskin [Raskin '17]最近的一个结果，他表明任何长度为$2^n$的二进制字母表上的准格雷码都具有读取复杂度$Ω(n)$。我们的研究结果显着改善以前已知的建设和奇数大小的字母表，我们打破了$Ω(n)$最坏情况下的障碍，空间最优（非冗余）的准格雷码与恒定数量的写入。我们通过代数工具的新应用以及催化计算的原理获得了我们的结果[Buhrman et al. '14，Ben-Or and Cleve '92，Barrington '89，Coppersmith and Grossman '75]。

2018-07-17cs.CCcs.DScs.IT