Kolmogorov complexity and computably enumerable sets
我们研究的可计算可列集方面：（a）Kolmogorov复杂性的初始段;（b）Kolmogorov复杂性的有限程序时，他们被用作神谕。我们提出了一个扩展的讨论现有的研究就这一主题，随着最近的事态发展和开放的问题。除了这个调查，我们的主要原始结果是以下特征的可计算的集合与平凡的初始段前缀自由的复杂性。一个可计算可积集$A$是$K$ -平凡的当且仅当复杂度以$A$的复杂度为界的集合族是由停机问题一致可计算的。
2013-11-27 cs.IT math.IT math.LO
Quantum Kolmogorov Complexity Based on Classical Descriptions
我们发展了一个理论的算法信息位包含在一个单独的纯量子态。这将经典的柯尔莫哥洛夫复杂性扩展到量子域，保留经典的描述。量子Kolmogorov复杂性与经典域上的经典Kolmogorov复杂性一致。量子柯尔莫哥洛夫复杂度是有上限的，并且在一定条件下可以有效地从上面近似。量子物体很有可能是不可压缩的。导出了单个纯量子态的多个拷贝的量子复杂度的上、下界，并对量子态的不可克隆性提供了一些启示。在量子情形中，复杂性不是次加性的。我们讨论了与"不可克隆“和"近似克隆”性质的一些关系。
2001-10-09 cs.CC cs.IT math.IT
Kolmogorov Complexity and Information Content
在本文中，我们重新审视柯尔莫哥洛夫复杂性的一个中心概念，其中一个等同于程序大小的复杂性与信息内容。尽管柯尔莫哥洛夫复杂度已经被广泛接受为字符串信息量的客观度量，但它一直是许多批评的主题，包括逻辑学家和哲学家对信息的统计和语义理论的基本批评，这是关于混淆对象及其名称。在本文中，我们澄清了一些微妙的问题，在这场辩论的中心。
2017-09-17 cs.CC cs.IT math.IT
Topological arguments for Kolmogorov complexity
我们提出了几个应用程序的简单拓扑参数的问题的柯尔莫哥洛夫复杂性。基本上，我们使用拓扑中的标准事实，即磁盘是简单连接的。它被证明足以构造具有一些非平凡算法性质的字符串。
2015-01-26 cs.CC cs.DM cs.IT
Kolmogorov Complexity and Solovay Functions
Solovay证明了无前缀Kolmogorov复杂度函数K存在一个可计算的上界f，使得对于无穷多个x，f（x）= K（x）。本文考虑一类可计算函数f，使得对所有x，K（x）≤ f（x）+O（1），对无穷多个x，f（x）≤ K（x）+ O（1），我们称之为Solovay函数.我们发现，Solovay函数提出有趣的连接与随机性的概念，如马丁-洛夫随机性和K-平凡。
2009-02-06 cs.CC cs.IT math.IT
Kolmogorov Complexity in perspective. Part II: Classification, Information Processing and Duality
我们调查不同的方法来的信息的概念：从香农熵Kolmogorov复杂性。Kolmogorov复杂性的两个主要应用：随机性和分类。该调查分为两部分，在同一卷中出版。第二部分致力于逻辑和信息系统之间的关系，在柯尔莫哥洛夫算法信息论的范围内。我们提出了一个最近的应用程序Kolmogorov复杂性：分类使用压缩，一个想法与挑衅性的实现作者，如贝内特，Vitanyi和Cilibrasi。这强调了柯尔莫哥洛夫复杂性除了是随机性的基础之外，还与分类有关。还考虑了另一种分类方法：所谓的“谷歌分类”。它使用了另一个原始的和有吸引力的想法，这是连接到使用压缩分类和柯尔莫哥洛夫复杂性从概念的角度来看。我们提出并统一这些不同的方法来分类自下而上与自上而下的操作模式，我们指出的基本原则和潜在的二元性。我们看看这两种双重模式是如何在不同的方法中使用的信息系统，特别是关系模型的数据库介绍了Codd在70年代。这允许指出一个基本的二元性的不同形式。这些操作模式也重新解释的背景下的理解模式的公理集合论ZF。这使我们发展如何Kolmogorov的复杂性与内涵，抽象，分类和信息系统。
2010-10-13 cs.CC cs.IT cs.LO
List approximation for increasing Kolmogorov complexity
不可能有效地修改字符串以增加其柯尔莫哥洛夫复杂度。但是，是否有可能构造一些不长于输入字符串的字符串，使它们中的大多数具有更大的复杂性？我们证明答案是肯定的。我们提出了一个算法，输入一个字符串$x$的长度$n$返回一个列表与$O(n^2)$许多字符串，所有的长度$n$，使99\%的人是更复杂的比$x$，提供的复杂性$x$小于$n - \log \log n - O(1)$。我们得到类似的结果，其他参数，包括多项式时间的建设。
2017-02-06 cs.CC cs.IT math.IT
Coding in the fork network in the framework of Kolmogorov complexity
经典信息论（香农熵理论）中的许多陈述在算法信息论（在柯尔莫哥洛夫复杂性的框架中）中有自然的对应物。在本文中，我们讨论了一个简单的例子之间的并行香农和Kolmogorov的理论：我们证明了在设置Kolmogorov复杂性的版本沃尔夫的表征可容许率的叉网络。
2016-05-02 cs.IT math.IT
Kolmogorov complexity and entropy of amenable group actions
Brudno证明了动力系统的熵与Kolmogorov复杂性是紧密相关的。我们推广他的结果的情况下，任意可计算的顺从的群体行动。也就是说，对于遍历移位作用，典型点的渐近Kolmogorov复杂度等于作用的Kolmogorov-Sinai熵。对于拓扑移位作用，每个点的渐近Komogorov复杂性由拓扑熵自上而下有界，并且有一个点达到这个界。
2020-04-27 cs.IT math.DS math.IT
Adjusted Kolmogorov Complexity of Binary Words with Empirical Entropy Normalization
本文提出了一种基于经验熵归一化的二进制词复杂性度量，以分离内在描述复杂性与符号不平衡的组合效应，并探讨其在随机性测试和结构数据分析中的应用。
2025-12-24 cs.CC cs.IT math.IT
Asymmetry of the Kolmogorov complexity of online predicting odd and even bits
信息对称性表明$C(x) + C(y|x) = C(x,y) + O(\log C(x))$。我们发现，在线Kolmogorov复杂性的类似关系并不成立。设n位字符串$x_1x_2... x_n$的偶（在线柯尔莫哥洛夫）复杂度是在输入$x_1$上计算$x_2$、在输入$x_1x_2x_3$上计算$x_4$等的最短程序的长度;对于奇复杂度也类似。我们发现，对于所有的n存在一个n位的x，使得奇数和偶数的复杂性几乎一样大的柯尔莫哥洛夫复杂性的整个字符串。此外，翻转奇数和偶数比特以获得序列$x_2x_1x_4x_3\ldots$，将奇数和偶数复杂度之和降低到$C(x)$。
2014-01-08 cs.IT math.IT
Game interpretation of Kolmogorov complexity
柯尔莫哥洛夫复杂性函数K可以用任何预言机A相对化，并且K的大多数性质对于相对化的版本仍然成立。在第1节中，我们通过给出博弈论解释来解释这一观察结果，并表明所有“自然”属性要么对所有足够强大的神谕都是真的，要么对所有足够强大的神谕都是假的。这个结果是马丁决定性定理的一个简单推论，但它的证明是有指导意义的：它展示了如何通过构造一个特殊的博弈和这个博弈中的获胜策略来证明关于柯尔莫哥洛夫复杂性的陈述。这种技术通过几个例子（总条件复杂度，双射复杂度，随机性提取，对比平原和前缀复杂度）来说明。
2010-03-24 cs.GT cs.IT math.IT
On the Kolmogorov-Chaitin Complexity for short sequences
Kolmogorov-Chaitin复杂度（K）作为从s到产生s的最短程序的函数的缺点是它的不可计算性，这限制了它的适用范围。此外，当字符串很短时，K对特定通用图灵机U的依赖性可以是任意的。在实践中，可以通过可计算的压缩方法来近似它。但是，这种压缩方法并不总是提供有意义的近似值--例如，对于比典型编译器长度更短的字符串。在本文中，我们提出了一个经验的方法来克服这个困难，并获得一个稳定的定义短序列的Kolmogorov-Chaitin复杂性。此外，分布频率方面的相关性被发现在两个模型的抽象机器，即一维元胞自动机和确定性图灵机的输出。
2010-12-17 cs.CC cs.IT math.IT
Kolmogorov Complexity of Categories
Kolmogorov复杂性理论用于判断字符串的算法信息内容是什么。它被定义为描述字符串的最短程序的长度。我们提出了一种编程语言，可用于描述类别，函子，和自然变换。有了这个在手，我们定义这些分类结构的信息内容作为描述这种结构的最短程序。我们的定义的一些基本后果，包括事实上，等价类别具有相等的柯尔莫哥洛夫复杂性。我们还证明了不同的定理，什么可以和不能描述我们的编程语言。
2013-06-11 cs.IT cs.LO cs.PL
There is a parallelism between Shannon information theory and algorithmic information theory. In particular, the same linear inequalities are true for Shannon entropies of tuples of random variables and Kolmogorov complexities of tuples of strings (Hammer et al., 1997), as well as for sizes of subgroups and projections of sets (Chan, Yeung, Romashchenko, Shen, Vereshchagin, 1998--2002). This parallelism started with the Kolmogorov-Levin formula (1968) for the complexity of pairs of strings with logarithmic precision. Longpré (1986) proved a version of this formula for space-bounded complexitie…
2022-09-09 cs.IT math.IT math.LO
Two sources are better than one for increasing the Kolmogorov complexity of infinite sequences
一个无限二进制序列的随机率由Kolmogorov复杂度与序列初始段长度之比的序列来表征。已知没有统一有效的方法将一个输入序列转换成另一个具有更高随机率的序列。相比之下，我们展示了这样一个统一的有效的程序，作为输入两个独立的序列，积极的，但任意小的恒定随机率。此外，该变换是一个真值表约简，输出具有任意接近1的随机率。
2007-12-11 cs.CC cs.IT math.IT
Shannon Information and Kolmogorov Complexity
我们比较了香农信息和Kolmogorov复杂性的基本理论，在何种程度上，他们有一个共同的目的，以及他们是根本不同的。我们讨论并联系这两种理论的基本概念：香农熵与柯尔莫哥洛夫复杂度，两者与通用编码的关系，香农互信息与柯尔莫哥洛夫（“算法”）互信息，概率充分统计与算法充分统计（与香农理论中的有损压缩相对于柯尔莫哥洛夫理论中的有意义信息有关），以及率失真理论与Kolmogorov结构函数。部分材料以前曾出现在印刷品中，分散在各种出版物中，但这是第一次全面系统的比较。最后提到的关系是新的。
2004-10-01 cs.IT math.IT
Space-bounded online Kolmogorov complexity is additive
本文证明了具有空间界 $s + 6n + O(1)$ 的有界空间对话复杂度至多为 $\mathrm C^{s}(x) + O(\log (sn))$，表明有界空间的在线柯尔莫哥洛夫复杂度具有可加性。
2025-07-14 cs.CC cs.IT math.IT
Kolmogorov complexity as a combinatorial tool
本研究提出Kolmogorov复杂度可作为精妙的组合工具，给出了用其证明自然组合博弈必胜策略存在性的意外示例，补充了该复杂度理论在组合领域的应用场景。
2024-05-15 cs.DM cs.IT math.CO
Kolmogorov Complexity and the Garden of Eden Theorem
假设$τ$是服从群和有限字母表上的元胞自动机。著名的伊甸园定理指出，$τ$的预内射性等价于伊甸园配置的不存在。在本文中，我们将证明，施加一些温和的限制，我们可以添加另一个等价的断言：伊甸园配置的不存在等价于渐近Kolmogorov复杂性的保存下的元胞自动机的行动。它产生的元胞自动机，保持渐近Kolmogorov复杂性的一个特征。
2012-12-09 cs.IT math.IT nlin.CG
Around Kolmogorov complexity: basic notions and results
数学信息论研究描述的复杂性和随机性，现在是理论计算机科学和数理逻辑的一个众所周知的领域。有几本教科书和专着致力于这一理论，人们可以找到许多困难的结果以及历史参考的详细论述。然而，它似乎是一个简短的调查，其基本概念和主要结果，这些概念相互关联，是失踪。本报告试图填补这一空白，并涵盖了算法信息论的基本概念：柯尔莫哥洛夫复杂性（平原，条件，前缀），所罗门诺夫普遍先验概率，随机性的概念（马丁-洛夫随机性，米塞斯-丘奇随机性），有效豪斯多夫维数。我们证明了它们的基本性质（信息的对称性，先验概率与前缀复杂性的关系，用复杂性表示随机性的准则，有效维数的复杂性刻画），并给出了它们的一些应用（计算复杂性理论中的不可压缩性方法，不完备性定理）.它是根据作者在乌普萨拉大学的一门课程的讲义。
2015-04-20 cs.IT math.IT math.LO
On a conditional inequality in Kolmogorov complexity and its applications in communication complexity
Romashchenko和Zimand~ \cite{rom-zim:c:mutualinfo}已经证明，如果我们将$n$位串的$(x,y)$对的集合划分为组合矩形，则$I(x:y) \geq I(x:y \mid t(x,y)) - O(\log n)$，其中$I$表示Kolmogorov复杂度意义上的互信息，并且$t(x,y)$是包含$(x,y)$的矩形。我们观察到，这个不等式可以扩展到覆盖与矩形可能重叠。新的不等式本质上指出，在覆盖与组合矩形，$I(x:y) \geq I(x:y \mid t(x,y)) - \log ρ- O(\log n)$的情况下，其中$t(x,y)$是任何矩形包含$(x,y)$和$ρ$是覆盖的厚度，这是矩形重叠的最大数量。我们讨论的应用程序的通信复杂性的协议是不确定的，或随机的，或亚瑟-梅林，以及交互式协议的信息复杂性。
2019-05-01 cs.CC cs.IT math.IT
Conditional Kolmogorov Complexity and Universal Probability
L.A.的编码定理Levin将无条件前缀Kolmogorov复杂度与离散普适分布联系起来。有条件的版本中提到的几个出版物，但尚未有书面证明英文。我们在这里提供这些证据。他们使用的定义与离散普遍分布的条件版本的标准定义不同。在条件概率的经典定义下，编码定理没有条件版本。
2013-01-22 cs.IT math.IT
On the Gaussianity of Kolmogorov Complexity of Mixing Sequences
令$ K(X_1, \ldots, X_n)$和$H(X_n | X_{n-1}, \ldots, X_1)$表示平稳遍历过程$\{X_i\}_{i=-\infty}^\infty$的Kolmogorov复杂度和Shannon熵率。已证明\[ \frac{K(X_1, \ldots, X_n)}{n} - H(X_n | X_{n-1}, \ldots, X_1) \rightarrow 0, \]几乎肯定。本文研究了这一渐近结果的收敛速度。特别是，我们表明，如果该过程满足一定的混合条件，则存在$σ<\infty$，使$$\sqrt{n}\left(\frac{K(X_{1:n})}{n}- H(X_0|X_1,\dots,X_{-\infty})\right) \rightarrow_d N(0,σ^2).$$此外，我们表明，在稍强的混合条件下，可以获得非渐近浓度边界的柯尔莫哥洛夫复杂性。
2017-02-04 cs.IT math.IT
Extracting the Kolmogorov Complexity of Strings and Sequences from Sources with Limited Independence
一个无限二进制序列的随机率至少为$σ$，如果对于几乎每个$n$，其长度为$n$的前缀的柯尔莫哥洛夫复杂度至少为$σn$。已知对于每个有理$σ\in (0,1)$，一方面存在随机率为$σ$的序列不能有效地变换为随机率高于$σ$的序列，另一方面任意两个随机率为$σ$的独立序列都可以变换为随机率高于$σ$的序列。我们表明，后者的结果，即使两个输入序列具有线性依赖性（这，非正式地说，意味着所有前缀的长度$n$的两个序列有共同的一个常数部分的信息）。研究了有限弦的类似问题。它表明，从任何两个字符串具有足够大的柯尔莫哥洛夫复杂性和足够小的依赖性，可以有效地构建一个字符串是随机的，甚至由任何一个输入字符串的条件。
2009-02-12 cs.CC cs.IT math.IT
Causal Inference via Conditional Kolmogorov Complexity using MDL Binning
Northeastern University（东北大学）；GE Global Research（通用电气全球研究中心）
最近的发展已经将因果推理与数学信息论联系起来，并且已经开发了利用条件柯尔莫哥洛夫复杂性来确定两个随机变量之间的因果关系的方法。我们提出了一种方法来推断因果方向之间的连续变量使用MDL装箱技术的数据离散化和复杂性计算。我们的方法捕获数据的形状，并使用它来确定哪个变量具有更多关于另一个变量的信息。它的高预测性能和鲁棒性在几个真实世界的用例中得到了证明。
2019-11-06 cs.IT cs.LG math.IT
Entropy and Quantum Kolmogorov Complexity: A Quantum Brudno's Theorem
在经典信息论中，熵率和每个符号的Kolmogorov复杂度通过Brudno定理联系在一起。在本文中，我们证明了这个定理的量子版本，连接冯诺伊曼熵率和量子柯尔莫哥洛夫复杂性的两个概念，都基于量子比特串的最短量子比特描述，由通用量子图灵机运行，将它们作为输出。
2006-10-17 cs.IT math-ph math.DS
All Kolmogorov complexity functions are optimal, but are some more optimal?
本文探讨Kolmogorov复杂度定义中编程语言选择问题，分析最优性要求及更强的普适性条件，证明后者在许多情况下不改变复杂度函数集合。
2025-06-19 cs.IT math.IT
Towards a stable definition of Kolmogorov-Chaitin complexity
虽然信息内容在加法常数之前是不变的，但适用于程序设计语言的可能加法常数的范围是如此之大，以至于在实际计算K（s）时，它起着重要的作用，K（s）是字符串s的Kolmogorov-Chaitin复杂度。人们曾试图通过诉诸语言的“自然性”来达到一个足够稳定的框架，以给出K的具体定义，而不依赖于程序设计语言下的任何常数。本文的目的是提出一种方法来克服这个问题，通过寻找一组模型的计算收敛在输出概率分布，这样，“自然性”可以推断，从而提供了一个框架下的收敛模型的计算K的稳定定义。
2010-06-01 cs.CC cs.IT math.IT
A look at the Kolmogorov complexity of finite groupoids and algebras
本文利用不可压缩性方法探讨有限广群与代数的 Kolmogorov 复杂度，发现几乎所有广群均非对称且简单，仅存在平凡或常值同态，而高度随机的广群则通过子广群限制揭示内在结构性质，并进一步探讨了允许随机性的等式恒等式。
2024-07-23 cs.IT math.IT
Rate Distortion and Denoising of Individual Data Using Kolmogorov complexity
我们从Kolmogorov复杂性的角度研究了畸变球家族的结构。特别注意的是，返回的最小Kolmogorov复杂性的所有失真球包含一个词的约束，其基数的源字的典型率失真函数。该规范率失真函数与针对给定失真度量的更标准算法率失真函数相关。例如列表失真，汉明失真和欧几里德失真。算法率失真函数可以表现得与香农的率失真函数不同。为此，我们表明，典型的率失真函数可以，并承担了广泛的一类形状（不像香农的）;我们将低算法互信息与低Kolmogorov复杂度联系起来（并因此表明香农率失真函数的互信息公式的某些方面与使用算法互信息的类似公式表现不同）;我们探讨了包含给定单词的低Kolmogorov复杂度失真球捕获该单词的有趣特性的概念（这在香农理论中很难形式化），这提出了一种去噪方法;最后，我们表明，在对源字进行平均之后，各个源字的率失真曲线的不同行为在一定程度上消失。
2009-11-26 cs.IT math.IT
An additively optimal interpreter for approximating Kolmogorov prefix complexity
研究使用IMP2语言逼近Kolmogorov前缀复杂度，证明其作为CTM参考机的解释器最优性，发现与低级模型相关性差异，但与复杂度上界强相关，支持CTM作为细粒度逼近方法的有效性。
2024-07-30 cs.IT math.IT
Relating and contrasting plain and prefix Kolmogorov complexity
在[3]中给出了一个简短的证明，证明了某些字符串具有最大的简单Kolmogorov复杂度，但不具有最大的无前缀复杂度。证明使用了Levin的信息对称性，Levin的公式与简单和前缀复杂度有关，以及Gacs的定理，即给定字符串的复杂度可以很高。我们认为，证明技术和上述结果是有用的，以简化现有的证明和解决开放的问题。我们给出了Solovay的结果[21]的一个简短证明，该结果与普通复杂度和前缀复杂度有关：$K (x) = C (x) + CC (x) + O(CCC (x))$和$C (x) = K (x) - KK (x) + O(KKK (x))$（这里$CC(x)$表示$C(C(x))$等）。我们证明了存在$ω$使得$\liminf C(ω_1\dots ω_n) - C(n)$是无限的，而$\liminf K(ω_1\dots ω_n) - K(n)$是有限的，即无穷常C-平凡实数与无穷常K-平凡实数不相同（即[1，问题1]）. Solovay表明，对于无穷多个$x$，我们有$|x| - C (x) \le O(1)$和$|x| + K (|x|) - K (x) \ge \log^{(2)} |x| - O(\log^{(3)} |x|)$，（这里$|x|$表示$x$和$\log^{(2)} = \log\log$的长度，等等）。我们证明了这一结果适用于某些2-随机序列的前缀…
2014-05-07 cs.CC cs.IT math.IT
Prefix and plain Kolmogorov complexity characterizations of 2-randomness: simple proofs
Joseph Miller [16]和Andre Nies，Frank Stephan和Repubtiaan Terwijn [18]独立地给出了2-随机序列的复杂性特征，即简单的Kolmogorov复杂度C：它们是具有无限多个初始段的序列，具有O（1）-最大简单复杂度（在相同长度的字符串中）。后来Miller [17]表明前缀复杂度K也可以以类似的方式使用：一个序列是2-随机的当且仅当它有无穷多个初始段，其最大前缀复杂度为O（1）（对于长度为n的字符串，其复杂度为n + K（n））。这些结果的已知证明是相当复杂的，在本文中，我们提供了简单的直接证明。在[16]中，Miller也给出了第一个结果的定量版本：序列ω的0 '-随机性亏损等于lim inf [n-C（ω1 . . .ωn）] + O（1）. (Our也可以使用简化的证明来证明这一点。我们证明（这似乎是一个新的结果），一个类似的定量结果也适用于前缀复杂性：0 '-随机性不足等于lim inf [n + K（n）-- K（ω1 . . .ωn）] + O（1）.
2013-10-19 cs.IT math.IT
It is well known that normality can be described as incompressibility via finite automata. Still the statement and the proof of this result as given by Becher and Heiber (2013) in terms of "lossless finite-state compressors" do not follow the standard scheme of Kolmogorov complexity definition (an automaton is used for compression, not decompression). We modify this approach to make it more similar to the traditional Kolmogorov complexity theory (and simpler) by explicitly defining the notion of automatic Kolmogorov complexity and using its simple properties. Using this characterization and a …
2020-08-24 cs.FL cs.IT math.IT
Kolmogorov complexity in the USSR (1975--1982): isolation and its end
这些回忆是关于苏联算法信息论的“黑暗时代”。在1960年代和1970年代初对这一主题产生极大兴趣之后，苏联在这一领域工作的人数显着减少。当时洛杉矶莱文发表了一系列对现代算法信息论具有开创性意义的论文。然后他离开了苏联，新的兴趣浪潮是由A.N.的谈话引发的。Kolmogorov在莫斯科国立（罗蒙诺索夫）大学数学系（逻辑和算法司）研讨会由他组织;几个年轻的研究人员获得了一些新的成果，算法信息论。
2019-07-11 cs.GL cs.IT math.IT
Kolmogorov complexity and the asymptotic bound for error-correcting codes
在具有$q$字母的固定字母表上的所有纠错分组码的集合确定具有坐标$(R,δ)$：=（相对传输速率，相对最小距离）的单位正方形中的有理点的递归可重复集合。这个集合的极限点形成一个闭子集，定义为$R\le α_q(δ)$，其中$α_q(δ)$是一个连续递减函数，称为渐近界。它的存在被证明的第一-命名的作者在1981年（[曼1]），但没有办法计算这个功能是已知的，在[曼5]，它甚至建议，这个功能可能是不可计算的意义上的建设性分析。在本说明中，我们表明，渐近界成为可计算的协助下，一个神谕生产代码的顺序，其不断增长的柯尔莫哥洛夫复杂性。此外，一个自然的分区函数，涉及复杂性，使我们能够解释的渐近界作为一条曲线划分两个不同的热力学阶段的代码。
2012-12-17 cs.IT math.IT
The entropy functional, the information path functional's essentials and their connections to Kolmogorov's entropy, complexity and physics
本文介绍受控扩散过程轨迹上的熵泛函和信息路径泛函的最新结果，分析它们与柯尔莫哥洛夫熵、复杂性和李雅普诺夫特征的关系，并研究IPF极值方程的奇异性及生成的不变关系。
2011-07-08 cs.IT cs.SY eess.SY
The Kolmogorov Complexity of Irish traditional dance music
University of Galway（戈尔韦大学）；Dundalk Institute of Technology（邓多克理工学院）
本文用Lempel-Ziv压缩估计爱尔兰传统舞曲旋律的柯尔莫哥洛夫复杂度，以区分简单与困难曲调，并比较里尔舞曲和吉格舞曲的复杂度差异。
2024-06-14 cs.CL cs.CV cs.IR
Minimum Description Length Induction, Bayesianism, and Kolmogorov Complexity
建立了贝叶斯方法和最小描述长度方法之间的关系。我们锐化和澄清的一般建模原则MDL和MML，抽象为理想MDL原则，定义从贝叶斯规则的Kolmogorov复杂性。应用理想原理的基本条件被概括为基本不等式，广义地说，当数据相对于每个预期的假设是随机的，并且这些假设相对于（普遍的）先验是随机的时，该原理是有效的。基本上，理想原理指出，与假设相关的先验概率应该由算法普适概率给出，并且模型的对数普适概率加上给定模型的数据概率的对数之和应该最小化。如果我们将模型类限制在有限集上，那么理想原理的应用就变成了柯尔莫哥洛夫最小充分统计量。在一般情况下，我们表明，数据压缩几乎总是最好的策略，无论是在假设识别和预测。
1999-01-27 cs.AI cs.CC cs.IT
Kakeya Conjecture and Conditional Kolmogorov Complexity
Booth School of Business, University of Chicago（芝加哥大学布斯商学院）；Muma College of Business, University of South Florida（南佛罗里达大学穆马商学院）
本文提出一个信息论框架，探讨在纤维化几何集中标注信息对残余描述长度的压缩影响，通过算法维度和Lutz点到集原理，证明点的复杂性可分解为纤维标签和沿纤维残余复杂性之和，解决Kakeya猜想在高维空间中的挑战。
2026-03-26 cs.IT math.CA math.IT
Low Complexity Kolmogorov-Smirnov Modulation Classification
Institute of Network Coding, CUHK（香港中文大学网络编码研究所）；State Key Laboratory of Rail Traffic Control and Safety, BJTU（北京交通大学轨道交通控制与安全国家重点实验室）
本文将一种非参数的拟合优度检验方法Kolmogorov-Smirnov（K-S）检验应用于自动调制分类（AMC）。基本过程包括计算从接收信号导出的一些决策统计的经验累积分布函数（ECDF），并将其与每个候选调制格式下的信号的CDF进行比较。首先针对AWGN信道设计了基于K-S的调制分类器，然后将其应用于OFDM-SDMA系统中消除多用户干扰。针对K-S调制分类算法的复杂度问题，提出了一种基于K-S分类器鲁棒性的低复杂度方法。大量的仿真结果表明，与传统的基于累积量的分类器相比，所提出的K-S分类器提供了优越的分类性能，并需要较少的信号样本数（因此是快速的）。
2011-03-03 cs.IT cs.LG math.IT
Random noise increases Kolmogorov complexity and Hausdorff dimension
考虑长度为$n$的二进制串$x$，其柯尔莫哥洛夫复杂度对于某些$α<1$是$αn$。我们希望通过更改$x$中的一小部分位来增加$x$的复杂性。这总是可能的：Buhrman、Fortnow、Newman和Vereshchagin（2005）表明，对于大的$n$，增加可以至少是$δn$（其中$δ$是取决于$α$和允许的改变位的分数的某个正数）。我们考虑一个相关的问题：当我们随机改变一小部分比特（以一定的概率$τ$独立地改变每个比特）时，$x$的复杂性会发生什么？事实证明，复杂性的线性增加发生的概率很高，但这种增加比任意变化的情况下要小。我们注意到，增加的量取决于$x$（相同复杂度的字符串可能表现不同），并给出了此增加的精确下限和上限（具有$o(n)$精度）。证明使用了组合和概率技术，可以追溯到Ahlswede，Gács和Körner（1976）。为了读者的方便（也因为我们需要一个稍微强有力的声明），我们提供了一个简化的说明这种技术，所以这篇论文是自成一体的。
2019-01-16 cs.IT math.IT
Two-Dimensional Kolmogorov Complexity and Validation of the Coding Theorem Method by Compressibility
我们提出了一个措施的基础上的基本理论概念，算法信息论，提供了一个自然的方法来评估$n$维复杂性的问题，通过使用一个$n$维确定性图灵机。该技术是有趣的，因为它提供了一个自然的算法过程，对称性破缺产生复杂的$n$维结构，从完全对称和完全确定性的计算规则产生的分布模式所描述的算法概率。数学概率还巧妙地将模式的出现频率与其算法复杂度联系起来，从而有效地提供对所生成模式的复杂度的估计。实验验证这些概念的基础上的算法复杂性的估计，表明该措施是稳定的，在面对计算形式主义的一些变化，结果是一致的，使用无损压缩算法时，这两种方法在其适用范围内重叠的结果。然后，我们使用的二维图灵机的集合的输出频率进行分类的基本细胞自动机的时空演化的算法复杂性。
2015-08-26 cs.CC cs.IT math.IT
On Algorithmic Statistics for space-bounded algorithms
数学统计学研究对观测数据的解释，这些解释在算法意义上是好的：解释应该是简单的，即应该具有小的柯尔莫哥洛夫复杂度，并捕获数据中所有算法可解释的参数。然而，这个想法不能在实践中使用，因为Kolmogorov复杂性是不可计算的。在本文中，我们开发的算法统计使用空间有界Kolmogorov复杂性。我们证明了一个模拟的主要结果之一的“经典”算法统计（最优性和随机性之间的连接缺陷）。我们证明的主要工具是Nisan-Wigderson生成器。
2017-07-13 cs.CC cs.IT math.IT
From Gauss to Kolmogorov: Localized Measures of Complexity for Ellipses
高斯宽度是概率论、统计学和几何学中的一个基本量，已知是估计和假设检验的内在困难的基础。在这项工作中，我们将展示如何高斯宽度，当本地化到任何给定的点的椭圆，可以控制的Kolmogorov宽度的一组类似本地化。这种连接导致一个明确的特征的最小二乘回归的估计误差作为一个函数的真实回归向量内的椭圆。误差衰减的速率随位置的变化而变化：作为一个具体的例子，在光滑度$α$的Sobolev椭圆中，我们展示了从对应于经典全局速率的$(σ^2)^{\frac{2 α}{2 α+ 1}}$到更快速率$(σ^2)^{\frac{4 α}{4 α+ 1}}$的速率。我们还展示了如何本地Kolmogorov宽度可以与本地度量熵。
2018-03-21 cs.IT math.IT math.ST
Correlation of Automorphism Group Size and Topological Properties with Program-size Complexity Evaluations of Graphs and Complex Networks
我们表明，应用于图邻接矩阵的Kolmogorov复杂性（K）的数值近似捕捉到了从代谢网络到社交网络的图和经验网络的一些群论和拓扑性质。K和图的自同构群的大小是相关的，这为计算几何中的问题开辟了有趣的联系，从而将复杂性科学中的几个度量和概念联系起来。我们表明，K的合成和自然网络的生成机制的近似，分配较低的算法随机性复杂的网络模型（Watts-Strogatz和Barabasi-Albert网络）和高Kolmogorov复杂性（随机）Erdos-Renyi图。我们通过两种不同的Kolmogorov复杂性近似方法应用于图和网络的邻接矩阵得到这些结果。所使用的方法是传统的无损压缩方法的柯尔莫哥洛夫复杂性，和一个规范化版本的块分解方法（BDM）的措施，基于算法概率论。
2014-02-23 cs.CC cs.CG cs.IT
Time Series Correlations and Kolmogorov Complexity: A Hausdorff Dimension Perspective
本文从豪斯多夫维度角度探讨时间序列相关性，指出科莫哥洛夫复杂性能有效避免虚假正相关，通过耦合逻辑映射和多变量分数布朗运动模型验证低复杂度序列更易产生虚假正相关。
2026-04-01 cs.CC cs.IT math.DS
We consider the network consisting of three nodes $1, 2, 3$ connected by two open channels $1\rightarrow 2$ and $1\rightarrow 3$. The information present in the node 1 consists of four strings $x,y,z,w$. The nodes $2, 3$ know $x,w$ and need to know $y,z$, respectively. We want to arrange transmission of information over the channels so that both nodes $2$ and $3$ learn what they need and the disclosure of information is as small as possible. By information disclosure we mean the amount of information in the strings transmitted through channels about $x,y,z,w$ (or about $x,w$). We are also inte…
2021-08-05 cs.IT math.IT
Recommendation via matrix completion using Kolmogorov complexity
一种常用的方法来模拟推荐系统是作为一个矩阵完成问题。有几种矩阵补全方法，通常使用优化方法或协同过滤。大多数方法假设矩阵是低秩的，或者有少量的隐变量编码整个问题。在这里，我们提出了一种新的推荐系统的矩阵完成算法，没有任何假设的秩，这是无模型的，即，不假定条目是某些潜在变量的函数。相反，我们使用一种类似于信息论的技术。我们的方法进行混合邻域为基础的协同过滤使用柯尔莫哥洛夫复杂性。它将矩阵完备化问题转化为每个用户的向量完备化问题。因此，对一个用户的推荐独立于对其他用户的推荐。这使得算法具有可扩展性，因为计算是高度并行化的。我们的结果与合成和真实世界数据集基准的最先进方法相比具有竞争力。
2017-07-19 cs.IR cs.IT math.IT
Neural Weight Norm = Kolmogorov Complexity
ETH Zürich（苏黎世联邦理工学院）
论文证明在固定精度下，循环神经网络输出二进制字符串的最小权值范数等于该字符串的柯尔莫戈洛夫复杂度，揭示了权值衰减与 Solomonoff 先验的联系。
2026-05-11 cs.IT cs.LG math.IT
Calculating Kolmogorov Complexity from the Output Frequency Distributions of Small Turing Machines
借鉴各种概念，从理论计算机科学，我们提出了一种新的数值方法，算法概率的概念的动机，近似的Kolmogorov-Chaitin复杂性的短字符串的问题。该方法是传统无损压缩算法的一种替代方法，它可以补充传统的无损压缩算法，这两种算法都适用于不同的字符串长度。我们提供了一个彻底的分析所有$\sum_{n=1}^{11} 2^n$二进制字符串的长度$n<12$和大多数字符串的长度$12\leq n \leq16$通过运行所有的$\sim 2.5 \times 10^{13}$图灵机与5个状态和2个符号（$8\times 22^9$与减少技术）使用最标准的形式主义的图灵机，用于例如忙碌的海狸问题。我们解决的问题的稳定性和误差估计，更广泛的覆盖面和更好的准确性的方法的继续应用的敏感性，并提供统计证据表明鲁棒性。与压缩算法一样，这项工作有望提供一系列应用，并提供对有限（和短）字符串复杂性计算问题的深入了解。
2014-05-07 cs.CC cs.IT math.IT
The Extremum Stack is a Minimal Sufficient Statistic for Rate-Independent Functionals: A Kolmogorov Complexity Characterisation
The Metrology and Biomedical Engineering Institute, Faculty of Mechatronics, Warsaw University of Technology（计量与生物医学工程研究所，机械电子学系，华沙理工大学）
本文证明了离散序列的极值栈是所有可计算、因果、速率无关函数的最小充分统计量，从柯尔莫哥洛夫复杂性的角度出发。具体来说，建立了K(Pi_n) - O(1) ≤ K_R(u_{0:n}) ≤ K(Pi_n) + O(1)，其中K_R(u_{0:n})是回答类别R中所有查询的最短程序长度，O(1)的开销与序列长度n和栈深度k无关。充分性源于Preisach滞回操作符的经典擦除性质。最小性通过一个有限指示族的速率无关性得到验证。因此，任何保留完整类别R的滞回驱动流压缩必须至少保留K(Pi_n) - O(1)位；由结果隐含的基于栈的压缩算法具有柯尔莫哥洛夫最优性保证，而标准时间序列压缩方法均无法提供。
2026-05-16 cs.AI cs.CC cs.IT
Strongly Universal Quantum Turing Machines and Invariance of Kolmogorov Complexity
我们证明了存在一个通用的量子图灵机（UQTM），它可以模拟每一个其他的QTM，直到其他QTM已经停止，然后以概率1停止自己。这扩展了Bernstein和Vazirani的工作，他们已经证明存在一个UQTM，可以模拟任意但预先分配的时间步长的每一个其他QTM。作为这个结果的推论，我们给出了严格的证明，量子Kolmogorov复杂性定义的Berthiaume等人。是不变的，即取决于选择的UQTM只有一个附加常数。我们的证明是基于一个新的数学框架QTM，包括彻底分析其停机行为。我们引入相互正交的停顿空间的概念，并表明，在输入量子比特串编码的信息总是可以有效地分解成一个经典的和量子的一部分。
2007-08-11 cs.IT math-ph math.IT
