Assembly Theory is an approximation to algorithmic complexity based on LZ compression that does not explain selection or evolution
本文证明装配理论等价于基于LZ压缩的香农熵近似,其装配指数可归入算法复杂度理论,且无法提供超越香农熵或经典信息论的选择与演化解释。
2024-04-01 cs.IT math.IT q-bio.BM
Fractional Graph Coloring for Functional Compression with Side Information
我们描述了一种合理的方法,以减少计算和通信复杂性的无损点到点压缩计算与边信息。传统的方法依赖于构建一个特征图,该特征图具有表示源符号的顶点和将源符号分配给独立集合的边缘,以区分功能的精确恢复。我们的方法使用分数着色的b-折叠着色的特征图提供了一个线性规划放松传统的着色方法,并实现了编码在细粒度的粒度。通过推广Körner的图熵的概念,我们推导出压缩的基本下界,由分数特征图熵给出。通过一个计算实例,我们证明了分数着色相对于传统着色的编码增益。对于给定的特征图,我们猜想分数染色与传统染色的完整性差距接近于使分数色数损失表示独立集的最小b,直到线性标度是分数色数的函数.
2022-06-05 cs.IT math.IT
A Universal Lossless Compression Method applicable to Sparse Graphs and Heavy-Tailed Sparse Graphs
图形数据自然地出现在若干现代应用中,包括但不限于互联网图、社交网络、基因组学和蛋白质组学。图形数据的典型大尺寸论证了为此类数据设计通用压缩方法的重要性。在大多数应用中,图形数据是稀疏的,这意味着图中边的数量比$n^2$缩放得更慢,其中$n$表示顶点的数量。尽管在某些应用中,边的数量与$n$成线性比例,但在其它应用中,边的数量远小于$n^2$,但看起来与$n$成超线性比例。我们称前者为稀疏图,后者为重尾稀疏图。本文介绍了一种同时适用于这两类的通用无损压缩方法。我们这样做,采用局部弱收敛框架稀疏图和稀疏图子框架重尾稀疏图。
2021-07-18 cs.IT math.IT math.PR
Distributed Compression of Graphical Data
与时间序列相比,图形数据是由图的顶点和边索引的数据。诸如互联网、社交网络、基因组学和蛋白质组学之类的现代应用生成图形数据,通常是大规模的。大规模的数据需要压缩存储和后续处理。由于这些数据可能在不同的位置有多个组件,因此研究图形数据的分布式压缩也很重要。在本文中,我们推导出一个率区域,这是一个对应的Slepian-Wolf定理。当分布式图形数据的统计描述可以被建模为两种类型之一时,我们将速率区域表征为标记稀疏Erdos-Renyi系综序列的成员或标记配置模型系综序列的成员。我们的结果是Bordenave和Caputo在稀疏图的局部弱极限研究中引入的熵概念的推广。此外,我们给出了一个推广的Erdos-Renyi和配置模型系综与两个以上的源。
2021-08-20 cs.IT math.IT
Automata and Graph Compression
自动机在语音处理和其他自然语言处理任务中有着广泛的应用。该框架扩展到图形压缩。类似于平稳遍历过程,我们制定了一个概率过程的图形和自动机生成,捕捉现实世界的现象,并提供了一个通用的压缩方案LZA这个概率模型。此外,我们表明,LZA显着优于其他压缩技术,如gzip和UNIX压缩命令的几个合成和真实的数据集。
2015-02-25 cs.DS cs.FL cs.IT
Lossy compression of weighted graph adjacency matrices by transform coding
The University of Osaka(大阪大学);Kansai University(关西大学);University of Southern California(南加州大学)
研究加权图邻接矩阵的有损压缩,核心方法是先将无加权图转换为线图,再用图滤波器组变换边权值向量并量化编码,还提出边平滑度衡量压缩难度,实验验证了该方法相较于现有方法的有效性。
2026-07-17 cs.IT eess.SP math.IT
Pool-based Active Learning as Noisy Lossy Compression: Characterizing Label Complexity via Finite Blocklength Analysis
Waseda University(早稻田大学)
本文通过信息论框架将基于池的主动学习视为噪声性有损压缩问题,推导出标签复杂性和泛化误差的理论下界,为该领域提供了新的理论视角。
2026-02-05 cs.IT cs.LG math.IT
Graph Compression with Side Information at the Decoder
针对解码器端存在相关图或结构作为边信息的压缩问题,论文基于熵谱框架刻画了相关 Erdős-Rényi 加权图的最优压缩速率,并将图对齐用于无权图的最优解码。
2025-01-17 cs.IT math.IT
Survey and Taxonomy of Lossless Graph Compression and Space-Efficient Graph Representations
诸如web或社交网络之类的各种图可以包含多达数万亿条边。压缩这些数据集可以通过减少I/O访问量和内存子系统上的压力来加速图形处理。然而,选择一个合适的压缩方法是具有挑战性的,因为存在着大量的技术,算法,域,和压缩图的方法。为了促进这一点,我们提出了一个调查和分类的无损图压缩,这是第一个,尽我们所知,详尽地分析这一领域。此外,我们的调查不仅对现有方案进行了分类,而且还解释了关键思想,讨论了选定作品中的正式基础,并使用三个维度描述了现有压缩方案的空间:研究领域(例如,压缩web图),技术(例如,间隙编码),以及特征(例如,无论给定方案是否以动态图为目标)。我们的调查可以作为一个指导,选择最好的无损压缩方案在给定的设置。
2019-04-27 cs.DM cs.DS cs.IT
Universal Lossless Compression of Graphical Data
图形数据由在其边和顶点上具有标记的图组成。该标记指示与相应边或顶点相关联的某些属性的值。这种数据的例子出现在社交网络、分子和系统生物学、网络图以及其他几个应用领域。我们的目标是设计方案,可以有效地压缩这种图形数据,而不对它的随机特性的假设。也就是说,我们希望开发一个通用的压缩算法的图形数据源。为了形式化这一目标,我们采用的框架,局部弱收敛,也被称为客观的方法,它提供了一种技术,认为一个标记图作为一种平稳的随机过程,相对于图的顶点之间的运动是平稳的。在最近的工作中,我们已经推广了熵的概念,在这个框架中,由于Bordenave和Caputo,标记图的情况下,未标记的图形。我们使用这个概念来评估压缩方案的效率。我们提出的无损压缩方案,在本文中,然后被证明是普遍最优的,在一个精确的技术意义。它还能够以压缩形式执行本地数据查询。
2019-09-21 cs.IT math.IT math.PR
An Information-theoretic Framework for the Lossy Compression of Link Streams
Centre national de la recherche scientifique(法国国家科学研究中心);Laboratoire d’informatique de Paris 6(巴黎第六大学计算机实验室)
图压缩是一种数据分析技术,包括用更一般的结构模式替换图的部分,以减少其描述长度。它为研究真实的、大规模的和复杂的图形提供了有趣的探索工具,而这些图形是乍一看无法掌握的。本文提出了一个时间图压缩的框架,即压缩随时间演化的图。这个框架首先建立在一个简单的和有限的计划,利用结构等价的静态图的无损压缩,然后将其推广到有损压缩的链接流,最近的形式主义的时间图的研究。这种概括依赖于(二维)关系数据的自然扩展,通过添加第三个时间维度。此外,我们引入了一个信息理论的措施来量化和控制在压缩过程中丢失的信息,以及可能的压缩模式的空间的代数表征,以提高初始压缩方案的表现力。这些贡献导致定义的组合优化问题,即有损多流压缩问题,我们提供了一个精确的算法。
2018-07-18 cs.AI cs.DS cs.IT
A measure of compression gain for new symbols in data-compression
霍夫曼编码通常通过使用分组码来改进,例如3-block将是由三个字符的每个可能组合组成的字母表。我们采取的方法是从一个基本的字母表开始,并将其扩展到包括频繁出现的符号集合。我们证明了压缩消息长度的变化,通过引入一个新的聚合符号可以表示为两个熵的差异,仅依赖于引入的符号的概率和长度。该表达式独立于字母表中所有其他符号的概率。对于一个新的符号,这种信息增益的测量可以应用于数据压缩方法中。我们还表明,聚合符号字母表,而不是相互排斥的字母表有可能提供良好的压缩水平,一个简单的实验。最后,本文中定义的压缩增益也可用于特征选择。
2016-11-06 cs.IT math.IT
Structure induction by lossless graph compression
这项工作的动机是需要自动化的结构发现在庞大的和不断增长的关系数据的集合通常表示为图形,例如基因组网络。一种新的算法,被称为Graphitour,结构诱导的无损图压缩,并说明了一个明确的和广泛已知的情况下,嵌套结构的DNA分子。这项工作扩展到图形一些成熟的方法,语法推理以前只适用于字符串。自底向上图压缩问题与最大基数(非二分)最大基数匹配问题有关。该算法接受各种图形类型,包括有向图和带有标记节点和弧的图。由此产生的结构可以用于表示和分类的图。
2007-03-27 cs.DS cs.IT cs.LG
Compression and Symmetry of Small-World Graphs and Structures
出于各种目的,特别是在数据压缩的背景下,可以在三个级别上检查图。它的结构可以描述为图的未标记版本;然后可以添加其结构的标记;最后,给定结构和标记,可以描述标记的内容。确定每个层次上存在的信息量并量化它们之间的依赖程度,需要研究对称性,图形自同构,熵和图形压缩性。本文研究了一类小世界图。这些是几何随机图,其中顶点首先连接到圆上最近的邻居,然后根据距离相关的概率分布连接非邻居对。我们建立了该模型的度分布,并利用它证明了模型在适当的参数范围内的不对称性。然后,我们推导出这些随机图的相关熵和结构熵,与图压缩。
2021-11-23 cs.IT math.CO math.IT
Zuckerli: A New Compressed Representation for Graphs
Zuckerli是一个可扩展的压缩系统,适用于大型真实世界的图形。众所周知,图是一种具有挑战性的结构,由于它们的链接性质,很难将它们分成更小,更紧凑的组件。因此,在处理可能具有数十亿个节点和边的大型图时,有效的压缩至关重要。此外,一个好的压缩系统应该给用户快速和合理灵活的访问压缩数据的部分,而不需要完全解压缩,这可能是不可行的,在他们的系统。Zuckerli通过使用先进的压缩技术和新颖的启发式图算法,改进了WebGraph的多个方面,WebGraph是当前压缩真实世界图的最先进技术。它可以产生一个压缩表示存储和一个允许快速直接存取的压缩图的邻接表,而不解压整个图。我们验证了Zuckerli在具有多达10亿个节点和900亿条边的真实世界图形上的有效性,对压缩密度和解压缩性能进行了广泛的实验评估。我们发现,Zuckerli压缩的图小10%至29%,在大多数情况下,超过20%,用于解压缩的资源使用量与WebGraph相当。
2020-09-02 cs.DS cs.IT math.IT
Graph Transform Optimization with Application to Image Compression
在本文中,我们提出了一种新的基于图的变换,并说明其潜在的应用信号压缩。我们的方法依赖于精心设计的图形,通过有效的基于图形的变换优化整体率失真性能。我们介绍了一种新的图形估计算法,它揭示了图形信号值之间的连通性,同时考虑到编码的信号和图形的拓扑结构的率失真方面。特别是,我们引入了一种新的编码解决方案的图通过治疗的边缘权重作为另一个图信号,在于对偶图。然后,通过最小化对偶图上的图傅里叶变换(GFT)系数的稀疏性,将图描述的代价引入优化问题。通过这种方式,我们得到一个凸优化问题,其解决方案定义了一个有效的变换编码策略。所提出的技术是一个通用的框架,可以应用于不同类型的信号,我们展示了两个可能的应用领域,即自然图像编码和分段平滑图像编码。实验结果表明,无论是对自然图像还是对分段光滑图像,本文提出的基于图的变换都优于DCT等经典固定变换。在深度图编码的情况下,所获得的结果甚至可以与专门针对深度图图像设计的最先进的基于图形的编码方法相媲美。
2019-07-30 cs.IT eess.IV math.IT
Universal Graph Compression: Stochastic Block Models
针对随机块模型图数据,本文通过二维变换与Krichevsky–Trofimov压缩器提出多项式时间的通用无损压缩方案,在四个基准数据集上显著优于现有算法。
2024-05-21 cs.DB cs.IT math.IT
Deterministic Compression with Uncertain Priors
我们考虑当信息源和目的地在先验上不一致时的信息压缩任务,即,从其中生成信息的分布。Kalai等人(ICS 2011)之前考虑过这种设置,他们认为这是人类交流的自然模型,有效的压缩方案可以深入了解自然语言的行为。Kalai等人给出了一个性能接近最优的压缩方案,假设源和目的地共享一些均匀的随机性。在这项工作中,我们探讨了这种随机性的需要,并给出了一些非平凡的上界确定性通信复杂性这个问题。在这个过程中,我们引入了一个新的家庭的结构图的常数分数色数的(积分)色数原来是一个关键组成部分,在分析的通信复杂性。我们提供了这些图的色数的一些非平凡上界来获得我们的上界,同时使用这些图的变体的下界来证明一些解决通信复杂性问题的自然方法的下界。我们的问题的通信复杂性和底层图的色数的紧密分析仍然是开放的。
2012-11-25 cs.CC cs.IT math.IT
Partition and Code: learning how to compress graphs
Imperial College London(帝国理工学院);EPFL(洛桑联邦理工学院);Twitter(推特(Twitter)公司)
本文提出可学习的无损图压缩框架“Partition and Code”,通过分区、字典映射与熵编码三阶段以梯度下降联合训练,在理论上证明其压缩增益随顶点数线性或二次增长,并在真实网络数据上取得显著改进。
2021-11-03 cs.IT cs.LG cs.SI