Storage Space Allocation Strategy for Digital Data with Message Importance
本文主要从信息重要性的角度研究了在有限的总存储空间内,重构数据追求失真最小时的有损压缩存储问题。为此,我们将这个问题转化为一个优化的重要性加权重建误差的数据重建。在此基础上,提出了一种限制性注水的数字数据存储优化分配策略。也就是说,它是一种高效的自适应压缩策略,因为它可以合理地利用所有的存储空间。它还表征了相对加权重建误差和可用存储大小之间的权衡。此外,本文还提出了用户的偏好和数据分布的特殊性都可以触发小概率事件场景,即只有一小部分数据可以覆盖绝大多数用户的兴趣。无论是上述原因之一,具有高度聚集的消息重要性的数据有利于压缩存储。与此相反,具有均匀信息分布的数据是不可压缩的,这与信息论中的结论是一致的。
2020-02-20 cs.DS cs.IT math.IT
Private Information Delivery with Coded Storage
在私人信息传递(PID)问题中,存在跨$N$服务器存储的$K$消息,每个服务器都能够存储$M$消息和用户。服务器希望将其中一条$K$消息传递给用户,而不泄露所传递消息的标识(索引)。PID问题的容量被定义为所需消息的最大比特数,可以私下传送,每比特的总通信,给用户。对于复制系统的受限情况,不允许编码消息或将一个消息拆分到多个服务器,Hua Sun在"Private Information Delivery,IEEE Transactions on Information Theory,December 2020"中根据$K, N$和$M.$描述了PID的容量。对于一类称为{\it双正则PID}的问题,我们描述了$N=K/M$和$N>K/M$的容量,我们提供了一个可实现的方案。在这两种情况下,所实现的速率都高于复制系统所实现的速率。
2022-02-08 cs.IT math.IT
Focusing on a Probability Element: Parameter Selection of Message Importance Measure in Big Data
针对大数据异常检测,本文提出一种聚焦特定概率元素的 MIM 参数选择方法,分析其性质并验证带先验概率时在统计处理模型中的可用性。
2018-11-11 cs.IT math.IT
On the Capacity of Distributed Quantum Storage
University of North Texas(北德克萨斯大学);University of California Irvine(加州大学尔湾分校)
本文研究分布式量子存储的容量,通过将解码集表示为存储图超边,利用量子CSS码与经典安全存储的关联及量子信息不等式,刻画了多种图的容量。
2025-10-12 cs.IT math.IT quant-ph
The Capacity Region of Distributed Multi-User Secret Sharing
研究了分布式多用户秘密共享问题,其中包括可信主节点、$N\in \mathbb{N}$存储节点和$K$用户,每个用户都可以访问存储节点子集的内容.每个用户都有一个独立的秘密消息,具有一定的速率,定义为由存储节点的大小归一化的消息的大小。在访问秘密消息的情况下,可信主节点将编码的份额放置在存储节点中,使得(i)每个用户可以从其可以访问的存储节点的内容恢复其自己的消息,(ii)每个用户不能获得关于任何其他用户的消息的任何信息。我们描述了分布式多用户秘密共享的容量区域,定义为所有可实现的速率元组的集合,受正确性和隐私约束。在可实现的方案中,对于每个用户,主节点形成次数等于其可访问存储节点的数量减一的多项式,其中该多项式在某些点处的值被存储为编码份额。该用户的消息被嵌入在多项式的一些系数中。剩余系数被确定为使得每个存储节点的内容用作具有对该存储节点的访问权的所有用户的编码份额。
2021-03-02 cs.CR cs.IT math.IT
Private Information Retrieval from Storage Constrained Databases -- Coded Caching meets PIR
专用信息检索(PIR)允许用户从来自$N$数据库的$K$可能消息中检索所需消息,而不泄露所需消息的身份。大多数现有的作品PIR假设存在复制的数据库,每个存储所有的$K$消息。在这项工作中,我们考虑的问题,PIR从存储受限的数据库。每个数据库具有$μKL$位的存储容量,其中$K$是消息的数量,$L$是每个消息的位大小,$μ\in [1/N, 1]$是标准化存储。在存储受限的PIR问题中,有两个关键的设计问题:a)如何在存储受限的情况下跨每个数据库存储内容;以及b)构造允许通过存储受限的数据库进行高效PIR的方案。这项工作的主要贡献是一个通用的可实现的计划PIR从存储约束数据库的任何存储值。特别是,对于任何$(N,K)$,与规范化存储$μ= t/N$,其中参数$t$可以采取整数值$t \in \{1, 2, \ldots, N\}$,我们表明,我们提出的PIR方案实现了$\left(1+ \frac{1}{t}+ \frac{1}{t^{2}}+ \cdots + \frac{1}{t^{K-1}}\right)$的下载成本。当$μ=1$(即,$t=N$)对应于具有完整存储的复制数据库的设置。对于这个极端的设置,我们的计划恢复的信息理论上的最优下载成本,其特征在于太阳和贾法尔为$\left(1+ \frac{1}{N}+ \cdots + \frac{1}{N^{K-1}}\right…
2017-11-14 cs.CR cs.DC cs.IT
Transmission and Scheduling Aspects of Distributed Storage and Their Connections with Index Coding
索引编码通常在假设单个信源具有接收者请求的所有消息的情况下进行研究。我们将其称为\emph{centralized}索引编码。相反,本文侧重于\emph{distributed}索引编码和解决以下问题:如何在分布式源(存储节点)的消息的可用性影响的解决方案和可实现的索引编码率?Arbabjolfaei等人在ISIT 2013中的工作的扩展,当分布式源通过半确定性多址信道(MAC)与同时接收器通信时。一些例子进行了讨论,显示整个网络的消息分布和冗余的影响,可实现的索引编码率和激励未来的研究设计实用的网络存储代码,提供高索引编码率。
2015-12-18 cs.IT math.IT
A New Design of Private Information Retrieval for Storage Constrained Databases
专用信息检索(PIR)允许用户从$N$数据库下载$K$消息之一,而不向任何数据库透露正在下载哪个$K$消息。通常,数据库可以是存储受限的,其中每个数据库最多只能存储$μK L$位,其中$\frac{1}{N} \leq μ\leq 1$和$L$是每个消息的位大小。让$t= μN$,最近的工作表明,存储约束PIR(SC-PIR)的容量是$\left( 1+ \frac{1}{t} + \frac{1}{t^2} + \cdots + \frac{1}{t^{K-1}} \right)^{-1}$,这是通过一个存储布局方案的启发内容布局方案在文献中的编码缓存和原始PIR计划。毫不奇怪,这种可实现的方案要求每个消息的长度为$L = {N \choose t}t^K$位,这可能是不切实际的。在本文中,没有试图使SC-PIR和编码缓存问题之间的联系,基于全存储PIR(FS-PIR)问题($μ= 1$)和SC-PIR问题之间的一般联系,我们提出了一个新的SC-PIR设计思想,使用新的存储布局方案。所提出的方案显着降低了消息大小的要求,同时仍然满足容量的SC-PIR。特别地,与现有技术的$L = {N \choose t}t^K$相比,所提出的SC-PIR方案要求每个文件的大小仅为$L = Nt^{K-1}$。因此,我们得出结论,PIR可能不符合编码缓存时,$L$的大小受到约束。
2019-01-22 cs.IT math.IT
On the Asymptotic Capacity of $X$-Secure $T$-Private Information Retrieval with Graph Based Replicated Storage
Raviv、Tamo和Yaakobi最近提出了基于图的复制存储的私有信息检索问题。它的能力在几乎所有情况下都是开放的。在这项工作中,研究了该问题的渐进(大量消息)容量及其概括,以包括任意$T$ -隐私和$X$ -安全约束,其中用户的隐私必须受到保护,免受任何一组高达$T$的勾结服务器的影响,并且必须保护存储数据的安全性,免受任何一组高达$X$的勾结服务器的影响。一个通用的可实现的计划,为任意的存储模式,实现率$(ρ_{\min}-X-T)/N$,其中$N$是服务器的总数,每个消息被复制至少$ρ_{\min}$倍。值得注意的是,该方案利用了一种特殊的结构,灵感来自对偶广义里德所罗门(GRS)码。一个一般的逆也提出。这两个边界显示为匹配许多设置,包括对称存储模式。最后,渐近容量的情况下,没有安全约束$(X=0)$任意存储模式的充分特征在于,每个消息被复制不超过$T+2$倍。作为该结果的示例,考虑具有任意基于图的存储($T=1, X=0$)的PIR,其中每个消息都精确地在$3$服务器上复制。对于此$3$ -复制存储设置,渐近容量等于$2/ν_2(G)$,其中$ν_2(G)$是存储图$G[V,E]$中$2$ -匹配的最大大小。在该无向图中,顶点$V$对应于服务器集合,并且仅当消息的子集在服务器$u$和$v$两者处被复制时,在顶点$u,v$之间存在边$uv\in E$。
2019-04-11 cs.IT math.IT
The Capacity of Private Information Retrieval from Uncoded Storage Constrained Databases
私有信息检索(PIR)允许用户从一组数据库中检索所需的消息,而不泄露所需消息的身份。Sun和Jafar在2016年考虑了复制数据库场景,其中$N$数据库可以完全存储相同的$K$消息。提出了一种PIR方案,以实现$\left(1+ \frac{1}{N}+ \frac{1}{N^{2}}+ \cdots + \frac{1}{N^{K-1}}\right)$给出的最优下载代价。在这项工作中,我们考虑的问题,PIR从存储受限的数据库。每个数据库具有$μKL$位的存储容量,其中$L$是每个消息的位大小,$μ\in [1/N, 1]$是标准化存储。在一个极端情况下,$μ=1$是复制数据库的情况。另一方面,当使用$μ= 1/N$时,为了私下检索消息,用户必须从数据库下载所有消息,从而实现$1/K$的下载成本。我们的目标是表征的最佳下载成本与存储权衡范围内的任何存储容量$μ\in [1/N, 1]$。对于任何$(N,K)$,我们表明,存储,$μ$和下载成本,$D(μ)$之间的最佳权衡,给出了由下凸包的$N$对$\left(μ= \frac{t}{N},D(μ) = \left(1+ \frac{1}{t}+ \frac{1}{t^{2}}+ \cdots + \frac{1}{t^{K-1}}\right)\right)$为$t=1,2,\ldots, N$。为了证明这一结果,我们首先提出了任…
2018-10-23 cs.CR cs.DB cs.IR
Differential Message Importance Measure: A New Approach to the Required Sampling Number in Big Data Structure Characterization
Tsinghua National Laboratory for Information Science and Technology(清华大学信息科学技术国家重点实验室);Department of Electronic Engineering, Tsinghua University(清华大学电子工程系)
本文提出差分信息重要性度量(DMIM)用于大数据结构表征中所需采样数的确定,通过分析信息收集过程,提供无分布假设的判定标准,并证明DMIM变化可描述样本分布与理论分布的差距。
2018-01-22 cs.IT cs.NA math.IT
Low Complexity Secure Code (LCSC) Design for Big Data in Cloud Storage Systems
在大数据时代,降低数据中心服务器的计算复杂性将是一个重要目标。我们提出了低复杂度安全代码(LCSC),专门设计用于在云分布式存储系统中提供信息理论安全。与为纠错能力而设计的传统编码方案不同,这些代码仅被设计为以低解码复杂度提供安全性。这些稀疏码能够提供类似于香农密码的(渐近)完美保密性。低解码复杂度和完美保密性的同时承诺使得这些代码非常适合具有大量数据的云存储系统。该设计特别适合于大尺寸的档案数据,如电影和图片。这些代码的复杂性与传统的加密技术进行了比较。
2018-04-06 cs.IT math.IT
Bilinear Generalized Vector Approximate Message Passing
我们引入了双线性广义向量近似消息传递(BiG-VAMP)算法,该算法通过概率观测模型从噪声乘积中联合恢复两个矩阵U和V。BiG-VAMP提供了最大和积循环置信传播(BP)的计算高效的近似实现。我们展示了如何建议的BiG-VAMP算法恢复不同类型的结构化矩阵,并克服了其他国家的最先进的方法的双线性恢复问题,如BiG-AMP,BAd-VAMP和LowRAMP的根本限制。本质上,BiG-VAMP适用于更广泛的实际应用,涉及一般形式的结构化矩阵。为了理论性能预测,我们还进行了状态演化(SE)分析所提出的算法,并显示其与渐近经验均方误差(MSE)的一致性。各种应用程序,如矩阵分解,字典学习和矩阵完成的数值结果表明,明确提出的BiG-VAMP算法的有效性和其优越性比国家的最先进的算法。使用开发的SE框架,我们还检查(作为一个例子)的矩阵完成问题的相变图,从而揭示了一个低检测区域对应的低信噪比(SNR)制度。
2020-09-15 cs.IT math.IT
The Capacity of Private Information Retrieval with Private Side Information Under Storage Constraints
我们考虑对来自$N$复制和非共谋数据库的$K$消息中的单个消息进行私有信息检索(PIR)的问题,其中缓存大小$S$的启用缓存的用户(检索器)拥有数据库未知的消息的未编码部分形式的辅助信息。这些辅助信息消息的身份需要对数据库保密,即,我们考虑具有私有侧信息(PSI)的PIR。在存储约束$S$下,我们将此PIR-PSI问题的最优归一化下载成本表征为$D^*=1+\frac{1}{N}+\frac{1}{N^2}+\dots+\frac{1}{N^{K-1-M}}+\frac{1-r_M}{N^{K-M}}+\frac{1-r_{M-1}}{N^{K-M+1}}+\dots+\frac{1-r_1}{N^{K-1}}$,其中$r_i$是与$\sum_{i=1}^M r_i=S$一起缓存的$i$ th边信息消息的一部分。基于这个容量结果,我们证明了两个事实:首先,对于固定的内存大小$S$和固定数量的可访问消息$M$,统一缓存实现了最低的归一化下载成本,即,对于$i=1,\dots, M$,$r_i=\frac{S}{M}$是最佳的。第二,对于固定存储器大小的$S$,在所有可能的$K-\left \lceil{S} \right \rceil+1$统一高速缓存方案中,高速缓存$M=K$消息的统一高速缓存方案实现最低的归一化下载成本。
2018-06-04 cs.CR cs.IT math.IT
Improved Storage for Efficient Private Information Retrieval
本文研究了从$N$ \emph{storage-constrained}数据库中进行私有信息检索的问题。在该问题中,用户希望从$M$消息(大小为$L$)中检索单个消息,而不向各个数据库泄露关于消息的身份的任何信息。每个数据库存储$μML$符号,即,整个文库的$μ$部分,其中$\frac{1}{N} \leq μ\leq 1$ .我们的目标是表征存储成本(由$μ$捕获)和归一化下载成本($D/L$)的最佳折衷曲线。我们表明,下载成本可以降低采用混合存储方案,结合\emph{MDS coding}的想法与\emph{uncoded partial replication}的想法。当没有编码时,我们的方案减少到Attia-Kumar-Tandon存储方案,这是最初由Maddah-Ali-Niesen在缓存问题的上下文中引入的,当没有未编码的部分复制时,我们的方案减少到Banawan-Ulukus存储方案;一般来说,我们的方案优于两者。
2019-08-29 cs.CR cs.DB cs.IT
Communication Cost for Updating Linear Functions when Message Updates are Sparse: Connections to Maximally Recoverable Codes
我们考虑一个通信问题,其中更新的源消息需要传达到一个或多个远程接收器,有兴趣在保持特定的线性函数的源消息。该设置是其中更新本质上是稀疏的设置,并且其中源和接收器都不知道确切的{ \em差向量},而仅知道存在于差向量中的稀疏量。在这种情况下,我们感兴趣的是设计线性编码和解码方案,使所涉及的通信成本最小化。我们表明,这个问题的最佳解决方案是密切相关的概念,最大限度地恢复代码(MRC),这是最初介绍的存储系统编码的上下文中。在存储的上下文中,当系统被部分地约束为在存储节点之间具有本地奇偶校验关系时,MRC保证最佳擦除保护。在我们的问题中,我们证明了最优解存在的充要条件是某些类型的MRC(由所需的线性函数确定)存在。我们考虑点对点和广播版本的问题,并确定这些设置下的连接到MRC。对于点对点的设置,我们表明,我们的线性编码器为基础的可实现的计划是最佳的,即使非线性编码是允许的。该理论在更新擦除编码存储节点的上下文中示出。我们提出的例子的基础上,现代存储代码,如最小带宽再生码。
2018-08-05 cs.IT math.IT
A Coded Shared Atomic Memory Algorithm for Message Passing Architectures
本文考虑了分布式消息传递系统中模拟原子(可线性化)多写多读共享内存的通信和存储开销。本文的主要贡献有三个:(1)提出了一种原子共享存储仿真算法,我们称之为编码原子存储(CAS)。该算法使用纠删编码方法。在存储系统中的$N$服务器是弹性的$f$服务器故障,我们表明,CAS的通信成本是$\frac{N}{N-2f}$。CAS的存储成本是无限的。(2)我们提出了一个修改的CAS算法称为CAS与垃圾回收(CASGC)。CASGC算法由整数$δ$参数化,并且具有有限的存储成本。我们表明,在每一个执行的写操作是并发的读操作的数量不大于$δ$,参数$δ$的CASGC算法满足原子性和活性。我们明确地描述了CASGC的存储成本,并表明它具有相同的通信成本CAS。(3)我们描述了一种算法称为通信成本最优原子存储(CCOAS)算法,实现了比CAS和CASGC更小的通信成本。具体地,CCOAS引起$\frac{N}{N-f}$的读写通信成本,该成本是根据对象值的数量来测量的。并讨论了CCOAS与CAS和CASGC相比的不足之处。
2014-07-15 cs.DC cs.IT math.IT
Multi-Message Private Information Retrieval using Product-Matrix MSR and MBR Codes
多消息私有信息检索(MPIR)是PIR的一个有趣的变体,其允许用户从数据库下载多个消息而不泄露所需消息的身份。显然,用户可以重复使用单消息PIR方案,但我们希望有一种更有效的方法来降低下载成本。在文献[1]中,Banawan和Ukulus研究了具有复制数据库的多消息PIR问题。在本文中,我们考虑多消息PIR计划,其中数据库存储使用最小存储再生(MSR)或最小带宽再生(MBR)代码,这是类最佳再生代码提供有效的修复时,系统中的一个节点发生故障。本文分析了存贮、检索和修理费用之间的关系,并给出了利用文献[2]中的MSR和MBR码的显式方案,它们都能达到最佳的折衷曲线。据我们所知,我们的工作是第一个探索多消息PIR与编码数据库。
2018-08-06 cs.IT math.IT
$X$-secure $T$-private Information Retrieval from MDS Coded Storage with Byzantine and Unresponsive Servers
本文研究了$X$ -安全的$T$ -从MDS编码存储中的私有信息检索问题,其中用户希望从分布在$N$服务器上的独立于$K$的消息中私有地检索一个消息,这些消息根据MDS编码.保证任何多达$X$的合谋服务器组都不了解消息,并且任何多达$T$的合谋服务器组都不了解所需消息的身份。提出了一种基于\emph{cross-subspace alignment}和干扰消除策略的连续解码的新方案,证明了可达速率的下界。对于大量的消息$(K\rightarrow\infty)$的实现率,我们推测是最佳的,提高了最好的已知的速率之前在文献中报告的Raviv和Karpuk,并推广了MDS-TPIR之前发现的Freij-Hollanti等人的可实现的速率。然后扩展该设置以允许无响应和拜占庭服务器。最后,该计划被应用到找到一个新的下凸包(下载,上传)对安全和私人的分布式矩阵乘法,推广,并在一定的渐近设置严格提高了最知名的先前结果。
2019-08-28 cs.IT math.IT
A Non-Asymptotic Framework for Approximate Message Passing in Spiked Models
the Wharton School(沃顿商学院);University of Pennsylvania(宾夕法尼亚大学)
近似消息传递(AMP)是解决高维统计问题的一种有效的迭代范式。然而,以前的AMP理论-主要集中在高维渐近-未能预测AMP动态时,迭代次数超过$o\big(\frac{\log n}{\log\log n}\big)$(与$n$的问题维度)。为了解决这一不足,本文开发了一个非渐近的框架,了解AMP的尖峰矩阵估计。基于AMP更新和可控残差项的新分解,我们提出了一种分析方法来表征AMP在独立初始化存在下的有限样本行为,并进一步推广到允许谱初始化。作为所提出的分析配方的两个具体结果:(i)当求解$\mathbb{Z}_2$同步时,我们预测了高达$O\big(\frac{n}{\mathrm{poly}\log n}\big)$迭代的谱初始化AMP的行为,表明该算法成功而不需要后续的细化阶段(如\citet{celentano2021local}最近所述);(ii)我们在稀疏PCA(在尖峰Wigner模型中)中描述了AMP在宽范围的信噪比下的非渐近行为。
2023-03-17 cs.IT cs.LG eess.SP
Private Information Retrieval With Arbitrary Privacy Requirements for Graph-Based Storage
University of Maryland, College Park(马里兰大学帕克分校)
本文重新定义了私有信息检索中隐私的定义,以适应灵活的隐私需求。通过路径图和环形图两种存储设置,探讨了不同隐私设置下的容量界限或精确容量。
2026-05-11 cs.CR cs.IT cs.NI
Natural Data Storage: A Review on sending Information from now to then via Nature
数字数据爆炸推动了对稳健和可靠的数据存储介质的需求。开发更好的数字存储设备来累积将在不久的将来产生的Zetta字节(1 ZB = $10^{21}$字节)的数据是一个很大的挑战。考虑到当今数字存储设备的局限性,数据科学家很快将面临一个巨大的挑战,即提供可靠的数据。经济实惠的高密度存储介质。作为替代方案,研究人员使用天然存储介质,如DNA,细菌和蛋白质作为信息存储系统。本文详细讨论了基于DNA的信息存储系统,并概述了细菌和蛋白质数据存储系统。
2015-05-19 cs.ET cs.IT math.IT
The Capacity of Private Information Retrieval from Coded Databases
研究分布式存储系统中的私有信息检索问题。存储系统由$N$非共谋数据库组成,每个数据库存储$M$消息的编码版本。在PIR问题中,用户希望检索一个可用的消息,而不向任何单独的数据库透露消息身份。我们推导出这个问题的信息理论容量,它被定义为所需的消息,可以私下检索每一位下载的信息的最大位数。我们表明,在这种情况下的PIR容量是$C=\left(1+\frac{K}{N}+\frac{K^2}{N^2}+\cdots+\frac{K^{M-1}}{N^{M-1}}\right)^{-1}=(1+R_c+R_c^2+\cdots+R_c^{M-1})^{-1}=\frac{1-R_c}{1-R_c^M}$,其中$R_c$是所使用的$(N,K)$代码的速率。容量是码率和消息数量的函数,而与存储代码的显式结构无关。结果表明,最优检索成本和存储成本之间的基本权衡。该结果将复制数据库的经典PIR的可解性和逆结果推广到编码数据库的情况。
2016-09-26 cs.CR cs.IT math.IT
Bilinear Generalized Approximate Message Passing
我们扩展的广义近似消息传递(G-AMP)的方法,最初提出的高维广义线性回归的压缩感知的背景下,广义双线性的情况下,使其应用到矩阵完成,鲁棒PCA,字典学习,以及相关的矩阵分解问题。在本文的第一部分中,我们推导出我们的双线性G-AMP(BiG-AMP)算法作为和-积置信传播算法在高维极限的近似,其中中心极限定理参数和泰勒级数近似适用,并在具有已知先验的统计独立矩阵项的假设下。此外,我们提出了一个自适应阻尼机制,艾滋病在有限的问题规模下的收敛,期望最大化(EM)为基础的方法来自动调整参数的假设先验,和两个排名选择策略。在本文的第二部分中,我们讨论了EM-BiG-AMP对矩阵完成,鲁棒PCA和字典学习问题的专业化,并将EM-BiG-AMP与每个问题的最先进算法进行了广泛的实证研究。我们使用合成和真实世界数据集的数值结果表明,EM-BiG-AMP具有出色的重建精度(通常是同类最佳),同时保持有竞争力的运行时间并避免调整算法参数的需要。
2014-06-05 cs.IT math.IT
Private Function Retrieval
云计算服务的广泛使用提出了一个问题,即如何将处理任务委托给不受信任的分布式方,而不侵犯其数据和算法的隐私。出于算法的隐私问题在分布式计算系统中,在本文中,我们介绍了私人功能检索(PFR)的问题,用户希望有效地检索一个线性函数的$K$消息从$N$非通信复制服务器,同时保持隐藏的功能,从每个单独的服务器。目标是找到一个具有最小通信成本的方案。为了表征通信成本的基本限制,我们将PFR问题的容量定义为可以私下检索的消息的大小(这是一个文件的大小)归一化到所需的下载信息位。我们首先表明,对于PFR问题的$K$消息,$N=2$服务器和一个线性函数与二进制系数的能力是$C=\frac{1}{2}\Big(1-\frac{1}{2^K}\Big)^{-1}$。有趣的是,这是从$N=2$服务器检索其中一个$K$消息的能力,同时保持对每个单独的服务器隐藏所请求消息的索引,这个问题被称为私有信息检索(PIR)。然后,我们将所提出的可实现方案推广到任意数目的服务器和系数的情况下,在字段$GF(q)$与任意$q$和获得$R=\Big(1-\frac{1}{N}\Big)\Big(1+\frac{\frac{1}{N-1}}{(\frac{q^K-1}{q-1})^{N-1}}\Big)$。
2017-11-15 cs.CR cs.IT math.IT
The Asymptotic Capacity of $X$-Secure $T$-Private Linear Computation with Graph Based Replicated Storage
本文研究基于图复制存储的 GXSTPLC 渐近容量,通过将其归约为非对称 Asymm-GXSTPLC 并利用 Cauchy 矩阵 Vandermonde 分解构造可达方案,证明已有线性规划上界紧,并确定 GXSLC 有限消息数的确切容量。
2023-08-13 cs.IT math.IT
Amplifying Inter-message Distance: On Information Divergence Measures in Big Data
本文提出参数化 M-I 散度及其性质与估计算法,可放大相邻分布间信息距离,并用于大数据异常检测中的聚类和分类决策。
2017-09-12 cs.IT math.IT
Compound Secure Groupcast: Key Assignment for Selected Broadcasting
复合安全组播问题被认为是,在$K$接收机的关键变量的设计,使发送器可以安全地组播消息的任何$N$出的$K$接收机通过无噪声的广播信道。该度量是密钥存储$α$之间的信息理论折衷,即,每个消息比特的密钥变量的比特数,以及广播带宽$β$,即,每个消息比特的广播信息的比特数。我们有三个主要结果。首先,当广播带宽被最小化时,即,当$β= 1$时,我们证明了最小密钥存储是$α= N$ .第二,当密钥存储最小化时,即,当$α= 1$时,我们表明广播带宽$β= \min(N, K-N+1)$是可实现的,并且如果是$N=2$或$K-1$,则是最优的(最小值)。第三,当$N=2$时,最优密钥存储和广播带宽折衷被表征为$α+β\geq 3, α\geq 1, β\geq 1$。
2020-04-30 cs.CR cs.IT math.IT
Private Information Retrieval With Arbitrary Privacy Requirements: Introduction and Capacity Results
University of Maryland, College Park(马里兰大学帕克分校)
本文提出任意隐私要求下的私有信息检索问题,在基于图的存储系统中推导容量界限,并引入金字塔存储图以建模服务器存储。
2026-09-15 cs.CR cs.IT cs.NI
How to Read and Update Coded Distributed Storage Robustly and Optimally?
本文研究稳健动态编码分布式存储(RDCDS)问题,推导出更新阈值、读取下载成本和更新上传成本的最优下界,并基于阶梯码思想构造了同时达到这些下界的方案。
2024-08-21 cs.IT math.IT
Breaking the MDS-PIR Capacity Barrier via Joint Storage Coding
从使用最大距离可分离(MDS)码编码的数据库中进行私有信息检索(PIR)的能力先前已由Banawan和Ulukus表征,其中假定消息被编码并可分离地存储到数据库中。在文献中的其他相关工作中也通常采用这种假设,并且这种容量通常被通俗地称为MDS-PIR容量。在这项工作中,我们考虑的问题,如果以及何时可以通过联合编码和存储的消息,打破这一能力障碍。我们的主要结果是两类新的代码结构,允许联合编码以及相应的PIR协议,这确实优于单独的MDS编码系统。此外,我们表明,一个简单但新颖的扩展技术,使我们能够推广这两类代码,从而在更广泛的情况下,这种能力的障碍可以被打破。
2019-08-19 cs.IT math.IT
Detecting Algebraic Manipulation in Leaky Storage Systems
代数操作检测(AMD)代码检测添加到编码消息并存储在对对手不透明的存储中的对抗性噪声。我们研究AMD码时的存储可以泄漏高达ρ \log |G|位的信息的存储码字,其中G是组中存储的码字的生活和ρ是一个常数。我们提出了ρ-AMD码,在这种新的设置提供保护,并定义弱和强ρ-AMD码,提供安全的随机和任意的消息,分别。我们得到具体的和渐近的界限,这些代码的效率具有1-ρ的强码的速率上限。我们还定义了一类ρ^{LV}-AMD码,提供保护时,泄漏是在一个码字分量的数量的形式,并给出了具有强的ρ^{LV}-AMD码,渐近实现率1-ρ的结构。我们描述了ρ-AMD码的应用,(i)鲁棒斜坡秘密共享方案,(ii)窃听II信道时,对手可以窃听的码字分量的ρ分数和篡改的码字的所有组件。
2016-07-07 cs.IT math.IT
On the Capacity of Erasure-prone Quantum Storage with Erasure-prone Entanglement Assistance
University of North Texas(北德克萨斯大学);University of California Irvine(加州大学尔湾分校)
研究了有擦除倾向量子存储容量,考虑擦除倾向的存储节点和纠缠辅助节点,提出容量表征方法并分析了不同擦除情况下的容量限制。
2025-12-08 cs.IT math.IT quant-ph
Information Measure Similarity Theory: Message Importance Measure via Shannon Entropy
在异常检测、安全系统等大数据应用场景中,罕见事件引起了人们的广泛关注。为了从概率的角度刻画稀有事件的重要性,提出了消息重要性度量(MIM)作为一种语义分析工具。与Shannon熵相似,MIM在信息处理中有其特殊的功能,其中MIM的参数$\varpi$起着至关重要的作用。实际上,参数$\varpi$支配MIM的性质,基于此,MIM具有三个工作区域,其中对应的参数分别满足$ 0 \le \varpi \le 2/\max\{p(x_i)\}$、$\varpi > 2/\max\{p(x_i)\}$和$\varpi < 0$。此外,在$ 0 \le \varpi \le 2/\max\{p(x_i)\}$的情况下,MIM和Shannon熵在信息压缩和传输方面具有相似性,这为信息论提供了一个新的视角。本文首先构建了一个具有消息重要性度量的系统模型,提出了消息重要性损失的概念,丰富了信息处理策略。此外,我们提出了消息重要性损失容量来衡量信息的重要性收获在传输。此外,提出了消息重要性失真函数,给出了基于消息重要性测度的信息压缩的上界。此外,研究了信息重要性损失约束下的比特率传输问题,拓宽了Shannon信息论的适用范围。
2019-01-04 cs.IT math.IT math.ST
Storage-Rate Trade-off in A-XPIR
University of Maryland, College Park(马里兰大学帕克分校)
研究非对称X安全私密信息检索中的存储-下载权衡,刻画了4服务器2消息非重叠通信集的可达区域,并推导了任意服务器和消息数的一般边界。
2026-06-23 cs.CR cs.IT cs.NI
A non-asymptotic distributional theory of approximate message passing for sparse and robust regression
The Chinese University of Hong Kong(香港中文大学);University of Pennsylvania(宾夕法尼亚大学)
本文针对稀疏与稳健回归,首次建立了可容纳多项式迭代次数的AMP有限样本非渐近分布理论,改进了高斯近似精度并增强了Lasso与稳健M-估计器的分布刻画。
2024-01-08 cs.IT cs.LG eess.SP
Secure Determinant Codes for Distributed Storage Systems
研究了以$(n,k=d,d,\ell)$为参数的分布式存储系统信息论安全精确修复再生码。我们考虑分布式存储系统的$n$节点,其中的原始数据可以从任何子集的$k=d$节点恢复,和任何节点的内容可以从任何$d$助手节点检索。此外,我们考虑两个保密约束,即,类型I,其中的消息仍然是安全的,对窃听者访问的任何子集的内容多达$\ell$节点,和类型II,其中的消息仍然是安全的,对窃听者谁可以观察到传入的修复数据从所有可能的节点到一个固定的,但未知的子集多达$\ell$受损的节点。本文提出了两类安全的行列式码,它们分别适用于第一类和第二类保密约束。每一个建议的代码可以被设计为每个节点的存储容量和修复带宽的任何系统参数的范围。它们导致了两个可实现的保密权衡,即类型I和类型II安全性。
2022-12-30 cs.CR cs.DC cs.IT
Generic Secure Repair for Distributed Storage
本文研究了秘密共享方案的修复问题,将消息编码到分配给$n$节点的$n$份额中的方案,使得任何$n-r$节点可以解码消息,但是任何串通的$z$节点不能推断关于消息的任何信息。在节点故障使得故障节点所持有的份额丢失的情况下,系统需要通过重建并将丢失的份额重新分配给故障(或替换)节点来修复。这可以通过一个值得信赖的第三方来实现,该第三方接收可用节点的份额,重新计算并重新分配丢失的份额。论文中研究的一个有趣的问题是,如何在没有值得信赖的第三方的情况下进行修复。出现的主要问题是修复安全性:如何保持任何串通$z$节点,包括失败的节点,不能学习任何信息的消息,在修复过程中和之后的要求?我们从安全多方计算的角度解决了这个安全修复问题。具体来说,我们设计了通用的修复方案,可以安全地修复任何(标量或矢量)线性秘密共享方案。我们证明了安全修复方案的修复带宽的一个下界,并证明了当$n$优于$z$,或者当被修复的秘密共享方案具有最优速率时,所提出的安全修复方案达到最优修复带宽直到一个小的常数因子.我们采用了正式的信息理论的方法在我们的分析和界限。在我们的计划的一个主要思想是允许一个更灵活的修复模型比简单的一轮修复模型隐含地假设现有的安全再生代码。特别地,所提出的安全修复方案是简单有效的两轮协议。
2017-06-01 cs.CR cs.IT math.IT
Private Information Retrieval from Non-Replicated Databases
我们考虑的问题,私人信息检索(PIR)的一个单一的消息出$K$消息从$N$非共谋和非复制数据库。与大多数现有文献不同的是,现有文献考虑了复制数据库的情况,其中所有数据库以所有$K$消息的形式存储相同的内容,在这里,我们考虑了特殊非复制结构下的非复制数据库的情况,其中每个数据库存储$K$消息中的$M$,并且每个消息存储在$R$不同的数据库中。这将为存储系统生成一个$R$规则图结构,其中图的顶点是消息,边是数据库。我们推导出一个通用的上限$M=2$,依赖于图形结构。然后,我们专门的存储系统描述的两种特殊类型的图形结构的问题:循环图和\emph{fully-connected graphs}。证明了循环图的PIR容量为$\frac{2}{K+1}$,全连通图的PIR容量为$\min\{\frac{2}{K},\frac{1}{2}\}$ .为此,我们提出了新的可实现的计划,这两个图形结构的能力实现。这两种方案的核心思想是在提交给不包含所需消息的数据库的查询中引入依赖性,以便可以压缩请求。在这两种情况下,结果显示由于非复制,PIR容量严重下降。
2018-12-31 cs.CR cs.IT math.IT
XORing Elephants: Novel Erasure Codes for Big Data
大型集群的分布式存储系统通常使用复制来提供可靠性。最近,纠删码被用来减少三复制系统的巨大存储开销。Reed-Solomon码是标准的设计选择,其高维修成本通常被认为是为高存储效率和高可靠性付出的不可避免的代价。本文介绍了如何克服这一局限性。我们提出了一种新的家庭擦除码,有效地修复,并提供更高的可靠性相比,里德-所罗门码。我们分析表明,我们的代码是最佳的最近确定的局部性和最小距离之间的权衡。我们在Hadoop HDFS中实现了我们的新代码,并与当前部署的使用Reed-Solomon代码的HDFS模块进行了比较。我们修改后的HDFS实现在修复磁盘I/O和修复网络流量上减少了大约2倍。新的编码方案的缺点是,它需要14%以上的存储相比,里德-所罗门码,一个开销被证明是信息理论上最优的获得局部性。由于新代码修复故障更快,因此提供了更高的可靠性,与复制相比,可靠性高出几个数量级。
2013-01-16 cs.DC cs.IT cs.NI
Weakly Secure Regenerating Codes for Distributed Storage
我们考虑\emph{weak security}范式下的安全分布式数据存储问题,其中没有\emph{meaningful information}被泄露给窃听者。更具体地说,窃听者无法获得关于任何单个消息文件或一小组文件的任何信息。弱安全模式的主要好处是它不会损失存储容量,这使得它具有实际吸引力。在本文中,我们提出了一种编码方案,使用陪集编码的外码和乘积矩阵最小带宽再生码(由Rashmi等人提出)。作为内码,当窃听者可以观察任何单个存储节点时,实现弱安全性。我们表明,建议的建设具有良好的安全性能,并需要小的有限域大小。
2014-05-12 cs.IT math.IT
Secure Repairable Fountain Codes
在这封信中,我们提供了可修复的喷泉码(RFC)的分布式存储系统的信息理论上是安全的,对窃听者,可以访问存储在一个子集的存储节点和下载的数据来修复一个额外的存储节点子集的数据。安全性是通过向消息中添加随机符号来实现的,然后通过Gabidulin码和RFC的级联来编码。我们比较了安全的最小存储再生码和安全的局部可修复码的可实现的码率。
2016-05-26 cs.IT math.IT
Big Data Meets Telcos: A Proactive Caching Perspective
移动蜂窝网络的管理正变得越来越复杂,而经典的部署/优化技术和当前的解决方案(即,细胞致密化,获得更多的频谱等)成本效益低,因此被视为权宜之计。这需要开发新的方法,这些方法利用存储/内存、上下文感知、边缘/云计算的最新进展,并落入大数据的框架中。然而,大数据本身是另一个需要处理的复杂现象,并伴随着臭名昭著的4V:速度,贪婪,数量和多样性。在这项工作中,我们通过基站主动缓存的概念来解决5G无线网络优化中的这些问题。特别是,我们调查的收益主动缓存的回程卸载和请求满意度,同时处理大量的可用数据的内容流行度估计。为了估计内容受欢迎程度,我们首先从土耳其电信运营商的几个基站收集用户的移动流量数据,以小时为间隔。然后,在本地大数据平台上进行分析,并通过数值模拟研究基站主动缓存的收益。事实证明,根据可用信息的级别和存储大小,可能会有几个收益。例如,在10%的内容评级和15.4 GB的存储大小(总目录大小的87%)的情况下,主动缓存实现了100%的请求满足率,并在考虑16个基站时卸载了98%的回程。
2016-02-19 cs.IT cs.NI math.IT
Improving the Secrecy of Distributed Storage Systems using Interference Alignment
针对无线干扰信道,采用干扰对齐的方法生成再生码,实现了分布式存储系统的割集界。这些代码提供了数据的可靠性,并执行有效的精确的节点修复时,一些节点失败。干扰对齐作为一个概念,对于提高最小存储再生(MSR)码中失效节点的修复效率尤为重要。此外,它可以提高存储的数据在被动入侵者存在的安全性。在本文中,我们构建了一个新的代码弹性的威胁模型,一个被动的窃听者可以访问存储在一个子集的节点和下载的数据在修复过程中的一个子集的故障节点的数据。我们实现了一个最佳的保密容量的新显式构造的MSR干扰对齐码。因此,我们表明,窃听者获得零信息从存储在分布式存储的原始消息,我们实现了完美的保密。
2018-01-05 cs.IT math.IT
Optimal Codes Correcting a Single Indel / Edit for DNA-Based Data Storage
插入缺失是指单个插入或缺失,而编辑是指单个插入、缺失或取代。在本文中,我们调查的代码,打击无论是一个单一的indel或一个单一的编辑,并提供线性时间算法,编码二进制消息到这些代码的长度为n。在四进制字母表上,我们提供了两个线性时间编码器。一个用log n + O(log log n)冗余位校正单个编辑,而另一个用log n + 2冗余位校正单个插入缺失。这两个编码器是阶数最优的。前一个编码器是第一个已知的阶数最优编码器,它可以纠正单个编辑,而后一个编码器(纠正单个插入缺失)将Tenengolts(1984)的最佳编码器的冗余减少了至少四位。在DNA字母表上,我们施加了一个额外的约束:GC平衡约束,并要求任何DNA码字的一半符号是C或G。特别是,通过修改克努特的平衡技术,我们提供了一个线性时间映射,将二进制消息转换为GC平衡的码字,得到的码本是能够纠正一个单一的插入缺失或一个单一的编辑。这些是第一个已知的GC平衡编码的结构,它可以纠正单个indel或单个编辑。
2019-10-15 cs.IT math.IT
Kernel Code for DNA Digital Data Storage
针对DNA存储中维持稳定性及避免反向互补碱基对的挑战,本文通过选择群同态并利用核码编写存储检索算法,降低了算法复杂度并能构造所需大小和反向互补距离的代码。
2023-04-10 cs.IT math.IT
Blind Sensor Calibration using Approximate Message Passing
近似稀疏数据的普遍存在使得各种社区对压缩感知算法产生了极大的兴趣。虽然这些对于具有加性噪声的线性测量是非常成功的并且被很好地理解,但是如果不完美的感测设备引入由传感器失准或故障引起的与该理想信号采集过程的偏差,则将它们应用于实际数据可能是有问题的。我们提出了一种消息传递算法,称为校准近似消息传递(Cal-AMP),可以处理各种传感器引起的缺陷。除了推导算法的一般形式,我们数值研究两个特定的设置。在第一种情况下,一小部分传感器出现故障,给出与信号无关的读数。在第二种方法中,传感器被去校准,并且每个传感器向测量引入不同的乘法增益。Cal-AMP共享近似消息传递的可扩展性,允许处理这些问题的大规模实例,并且实验性地展示了成功和失败域之间的相变。
2016-07-26 cs.IT math.IT
Multilinear Algebra for Minimum Storage Regenerating Codes
$(n, k, d, α)$ -MSR(最小存储再生)代码是一组用于存储文件的$n$节点。对于总大小为$kα$的文件,每个节点存储$α$符号,任何$k$节点恢复该文件,并且任何$d$节点可以通过各自发送出$α/(d-k+1)$符号来修复任何其他节点。在这项工作中,我们探索了使用斜对称矩阵、多项式、对称代数和外代数重新表达臭名昭著的积矩阵构造的各种方法。然后,我们引入了一个多线性代数的基础上产生$\bigl(n, k, \frac{(k-1)t}{t-1}, \binom{k-1}{t-1}\bigr)$ -MSR码一般$t\geq2$。在$t=2$端,它们包括乘积矩阵构造作为特例。在$t=k$端,我们恢复模式$m=k$的行列式代码;对$n=k+1$的进一步限制使其与MSR点处的分层代码相同。我们的编码的子分组级$α$独立于$n$,并且很小。它小于$L^{2.8(d-k+1)}$,其中$L$是Alrabiah-Guruswami关于$α$的下界。此外,它是小于其他MSR码的$α$的一个子集的实际参数。我们提供了代码如何一次修复多个故障的提示。
2020-06-30 cs.IT math.AC math.IT
An Overview of Codes Tailor-made for Better Repairability in Networked Distributed Storage Systems
当今社会产生的数字数据量不断增加,需要更好的存储解决方案。本调查着眼于专门为分布式网络存储系统的需求而设计的新一代编码技术,试图在存储空间效率、容错和维护开销之间达到最佳折衷。四个家庭的代码量身定制的分布式设置,即-金字塔,层次,再生和自修复代码-在高层次上,强调这些代码背后的主要思想,并讨论其利弊,最后与它们之间的定量比较。这项调查故意排除了代码的技术细节,也没有提供众多作品的详尽摘要。相反,它通过展示分布式存储解决方案编码技术进步的全貌,以广泛受众易于访问的方式概述了主要代码家族。
2013-01-30 cs.DC cs.IT math.IT
Minor probability events detection in big data: An integrated approach with Bayesian testing and MIM
小概率事件检测是大数据中的一个关键问题。这些事件往往包括很少发生的现象,应仔细检测和监测。在给定事件的先验概率和观测值的条件分布的情况下,贝叶斯检测可以应用于估计观测值后面的事件。证明了贝叶斯检测在平均意义下具有最小的总体测试误差。然而,当检测事件的先验概率很小,条件贝叶斯检测会导致高的漏测率。针对这一问题,提出了一种基于贝叶斯检测和消息重要性度量的改进检测方法,该方法能够在检测概率较小的事件的情况下降低误测率。该结果有助于挖掘大数据中的小概率事件。
2018-07-16 cs.IT eess.SP math.IT
RADON: Repairable Atomic Data Object in Networks
擦除码为异步分布式存储系统中实现原子存储服务时降低存储和通信开销提供了一种有效的方法。在本文中,我们提供了擦除代码为基础的算法,具有额外的能力来执行后台修复崩溃的节点。处于崩溃状态的节点的修复操作在外部触发,并且由相关节点经由与系统中的其他活动节点的消息交换来执行。修复完成后,节点重新进入活动状态,并恢复参与正在进行的和未来的读取、写入和修复操作。为了同时保证活跃性和原子性,现有的作品假设存在具有稳定存储的节点,或者存在在执行期间从不崩溃的节点。这两样我们都不要求;相反,我们考虑一种自然但实际的网络稳定性条件$N1$,其仅限制在任何消息的广播期间处于崩溃/修复状态的节点的数量。我们提出了一个基于擦除码的算法$RADON_C$,它总是活的,并保证原子性,只要条件$N1$持有。在并发写入数量有限的情况下,与基于复制的算法$RADON_R$相比,$RADON_C$显著改善了存储和通信成本,基于复制的算法也在$N1$下工作。我们进一步展示了如何一个稍强的网络稳定性条件$N2$可以用来构建算法,从来没有违反原子性。原子性的保证是以在读写操作期间具有额外的阶段为代价的。
2016-11-21 cs.DC cs.IT math.IT