Kolmogorov complexity and symmetric relational structures
本文研究了有限关系结构类的Fra 'ıssé极限的划分,其中划分是由Kolmogorov,Chaitin和Solomonoff意义下随机的无限二元序列编码的.它表明,划分由Fra\"ıssé极限的随机序列保持的极限性质的对象。
2004-02-16 cs.CC cs.DM
A Computable Measure of Algorithmic Probability by Finite Approximations with an Application to Integer Sequences
鉴于广泛使用的无损压缩算法近似算法(Kolmogorov-Chaitin)的复杂性,以及无损压缩算法在表征模式以外的统计模式没有不同的熵估计,在这里,我们探索一种替代和补充的方法。本文研究了由小型图灵机的输出分布计算的Levin测度$m$的形式性质。我们介绍和证明有限的近似$m_k$,已被用于在某些应用中作为替代无损压缩算法近似算法(柯尔莫哥洛夫-柴廷)的复杂性。我们提供的相关性质的$m$和$m_k$的证明,并比较他们莱文的普遍分布。给出了$m_k$相对于$m$的误差估计。最后,我们提出了一个应用程序的整数序列的在线百科全书的序列,这表明我们的AP为基础的措施可能会表征非统计模式,我们报告有趣的相关性与文字,功能和程序描述长度的序列。
2017-08-14 cs.CC cs.FL cs.IT
Hardness of Ruling Out Short Proofs of Kolmogorov Randomness
一个元复杂性假设,可行的Chaitin不完备性(FCI),断言排除长度$t$证明字符串$x$是Kolmogorov随机的困难(例如$x{\in}R$),通过类比Chaitin的结果,证明$x{\in}R$通常是不可能的。通过断言,有效地排除短证明要求排除任何证明,这是不可能的。FCI具有很强的含义:(i)随机选择的$x$通常对于任何给定的证明系统以高概率产生重言式困难,密集地证明其非最优性;(ii)证明$x{\in}R$的平均情况不可能性意味着证明重言式和Feige假设的平均情况困难;以及(iii)自然语言是$\textbf{NP}$ -中间-“$x{\in}R$缺少长度$t$证明”的稀疏补(其中$R$的补数是稀疏的)--并且尽管不在$\textbf{P}$中,但具有$\textbf{P/poly}$电路。FCI及其变体有力地断言:(1)不可计算性事实转化为困难性假设;(2)许多开放的复杂性问题都有预期的答案(例如,$\textbf{PH}$的非崩溃),因此一个总体猜想包含了许多问题;(3)某些不可证明和难以证明的句子之间的隐式映射是同构。进一步的研究可以将FCI与其他开放问题和困难假设联系起来;考虑$R$是否会挫败条件程序逻辑,从而暗示FCI;并考虑扩展同构是否将任何真正的不可证明句子映射到难以证明的句子。
2023-03-16 cs.CC math.LO
Is Randomness "Native" to Computer Science?
我们调查柯尔莫哥洛夫的方法,通过柯尔莫哥洛夫复杂性理论的随机性的概念。Kolmogorov最初的动机是放弃信息的定量定义。在这个理论中,一个对象是随机的,因为它有很大的信息量。之后,我们提出了马丁-洛夫,Schnorr,Chaitin和莱文的部分工作,这些工作提供了从60年代到最近的各种理论中随机性的数学概念。
2008-01-01 cs.CC math.LO
The Frequent Paucity of Trivial Strings
1976年的蔡廷定理可以用来证明长度为n的任意稠密集都缺乏平凡的弦(只有有限数量的长度为n的弦具有平凡的低简单柯尔莫哥洛夫复杂度)。我们用概率的方法给出了这一事实的新证明。这个证明比以前发表的证明简单得多,它给出了一个更严格的贫界。
2014-05-07 cs.CC
Calculating Kolmogorov Complexity from the Output Frequency Distributions of Small Turing Machines
借鉴各种概念,从理论计算机科学,我们提出了一种新的数值方法,算法概率的概念的动机,近似的Kolmogorov-Chaitin复杂性的短字符串的问题。该方法是传统无损压缩算法的一种替代方法,它可以补充传统的无损压缩算法,这两种算法都适用于不同的字符串长度。我们提供了一个彻底的分析所有$\sum_{n=1}^{11} 2^n$二进制字符串的长度$n<12$和大多数字符串的长度$12\leq n \leq16$通过运行所有的$\sim 2.5 \times 10^{13}$图灵机与5个状态和2个符号($8\times 22^9$与减少技术)使用最标准的形式主义的图灵机,用于例如忙碌的海狸问题。我们解决的问题的稳定性和误差估计,更广泛的覆盖面和更好的准确性的方法的继续应用的敏感性,并提供统计证据表明鲁棒性。与压缩算法一样,这项工作有望提供一系列应用,并提供对有限(和短)字符串复杂性计算问题的深入了解。
2014-05-07 cs.CC cs.IT math.IT
Key-agreement exists if and only if the "interactive vs non interactive Kolmogorov problem" is not in ioBPP: a short proof
本文推广了密钥协商存在性与交互式Kolmogorov复杂度问题困难性的等价性,并给出了困难方向的简短证明。
2025-04-22 cs.CC cs.IT math.IT
How incomputable is Kolmogorov complexity?
柯尔莫哥洛夫复杂度是一个文件最终压缩版本的长度(也就是说,任何可以放入计算机的东西)。从形式上讲,它是一个最短的程序的长度,文件可以从该长度重新构建。我们讨论了不可计算的Kolmogorov复杂性,这给我们留下了正式的漏洞,最近的方法来计算或近似Kolmogorov复杂性,哪些方法是有问题的,哪些方法是可行的。
2020-03-22 cs.CC cs.IT math.IT
A Short Introduction to Kolmogorov Complexity
这是对Kolmogorov复杂性的一个简短介绍。感兴趣的读者可以参考Cover & Thomas以及Li & Vítanyi的教科书,这些教科书深入地涵盖了信息论和Kolmogorov复杂性领域,并具有所有必要的严谨性。
2010-05-14 cs.CC
Correspondence and Independence of Numerical Evaluations of Algorithmic Information Measures
我们表明,实值近似Kolmogorov-Chaitin(K_m)使用的算法编码定理计算的输出频率的一个大的一组小的确定性图灵机与多达5个状态(和2个符号),是在协议所使用的指令数的图灵机生产s,这是符合严格的整数值程序大小的复杂性。尽管如此,K_m被证明是一个更细粒度的测量和一个潜在的替代方法的无损压缩算法的小实体,压缩失败。我们还表明,K_m和所使用的指令数与Bennett的逻辑深度LD(s)没有任何相关性,而不是理论所预测的。理论和数值计算之间的协议表明,尽管这些理论措施的不可判定性,近似是稳定的和有意义的,即使是小程序和短字符串。我们还宣布了第一个测试版的在线数学复杂度计算器(OACC),基于理论概念的组合,作为编码定理方法的数值实现。
2013-02-13 cs.CC cs.FL cs.IT
The axiomatic power of Kolmogorov complexity
著名的G奥德尔不完备性定理指出,对于每一个相容的充分丰富的形式理论T,存在在T中不可证明的真陈述。这样的陈述很自然地会被添加为公理,但我们如何才能获得它们呢?一个经典的(并且研究得很好的)方法是给某个理论T加上一个公理,这个公理要求T的相容性。在本文中,我们讨论了另一种方法的动机Chaitin的版本G奥德尔定理,其中公理声称随机性(或不可压缩性)的一些字符串的概率增加,并表明它是不是真的有用,在这个意义上,这并不能帮助我们证明新的有趣的定理。这个结果回答了Lipton最近提出的一个问题。如果我们考虑到证明的规模,情况就会发生变化:随机选择的公理可能有助于使证明变得更短,除非NP=PSPACE。然后,我们研究的公理化权力的声明类型的“柯尔莫哥洛夫复杂性x超过n”一般。它们是皮亚诺算术的一种普遍量化的陈述。我们证明,通过添加所有真的这种类型的陈述,我们得到了一个理论,证明所有真的E_1-陈述,也提供了一个更详细的分类。特别是,如果字符串是以特殊的方式选择的,那么为了导出所有真的n-1-语句,对每个n(甚至对无穷多个n)添加一个这种类型的语句就足够了。另一方面,人们可以对大多数长度为n的x(对每一个n)添加这种类型的陈述,并且仍然得到一个弱理论。我们还研究了与“随机公理”相关的其他逻辑问题。最后,我们考虑一个理论,声称马丁-L一个给定的无限二进制序列的随机性。这一主张可以用不同的方…
2013-01-15 cs.CC math.LO
A Short Introduction to Model Selection, Kolmogorov Complexity and Minimum Description Length (MDL)
对模型选择中的过拟合概念进行了解释,并举例说明。在介绍了信息论和Kolmogorov复杂度的一些背景知识之后,我们对最小描述长度和错误最小化进行了简短的解释。最后,我们讨论了模型选择中过拟合的典型特征。
2010-05-14 cs.CC cs.LG
Relating and contrasting plain and prefix Kolmogorov complexity
在[3]中给出了一个简短的证明,证明了某些字符串具有最大的简单Kolmogorov复杂度,但不具有最大的无前缀复杂度。证明使用了Levin的信息对称性,Levin的公式与简单和前缀复杂度有关,以及Gacs的定理,即给定字符串的复杂度可以很高。我们认为,证明技术和上述结果是有用的,以简化现有的证明和解决开放的问题。我们给出了Solovay的结果[21]的一个简短证明,该结果与普通复杂度和前缀复杂度有关:$K (x) = C (x) + CC (x) + O(CCC (x))$和$C (x) = K (x) - KK (x) + O(KKK (x))$(这里$CC(x)$表示$C(C(x))$等)。我们证明了存在$ω$使得$\liminf C(ω_1\dots ω_n) - C(n)$是无限的,而$\liminf K(ω_1\dots ω_n) - K(n)$是有限的,即无穷常C-平凡实数与无穷常K-平凡实数不相同(即[1,问题1]). Solovay表明,对于无穷多个$x$,我们有$|x| - C (x) \le O(1)$和$|x| + K (|x|) - K (x) \ge \log^{(2)} |x| - O(\log^{(3)} |x|)$,(这里$|x|$表示$x$和$\log^{(2)} = \log\log$的长度,等等)。我们证明了这一结果适用于某些2-随机序列的前缀…
2014-05-07 cs.CC cs.IT math.IT
Algorithmic complexity for psychology: A user-friendly implementation of the coding theorem method
Kolmogorov-Chaitin复杂度长期以来被认为是不可能近似的,当它涉及到短序列(例如长度为5-50)。然而,使用新开发的\emph{coding theorem method},长度为2-11的字符串的复杂性现在可以进行数值估计。我们提出了短字符串算法复杂性(ACSS)的理论基础,并描述了一个R包,该包提供了基于ACSS的函数,将满足心理学家的需求,并以三种方式改进以前的方法:(1)ACSS现在不仅可用于二进制字符串,而且可用于基于多达9个不同符号的字符串,(2)ACSS不再需要耗时的计算,(3)基于ACSS的一种新方法给出了任意长度字符串复杂度的估计。最后,三个说明性的例子表明这些工具可以应用于心理学。
2015-02-19 cs.CC stat.AP
Coding-theorem Like Behaviour and Emergence of the Universal Distribution from Resource-bounded Algorithmic Probability
University of Oxford(牛津大学);LABORES
由于其强大的特性及其作为归纳/推理问题的最佳解决方案的广泛应用,先前在科学文献中被称为“奇迹”,概率(AP)和相关的普遍分布(近似)在科学中是(或应该是)最重要的。在这里,我们调查的出现,出现和收敛的速度,和编码定理的行为,AP在图灵次通用模型的计算。我们调查的经验分布的计算模型在乔姆斯基层次。我们引入的措施,算法的概率和算法的复杂性的基础上资源有限的计算,在以前彻底调查的分布产生的输出分布的图灵机。这种方法允许在计算层次结构的每个级别上对基于算法(Kolmogorov-Chaitin)复杂性的估计进行数值近似。我们证明,所有这些估计是相关的排名,他们收敛的排名和值作为计算能力的函数,尽管计算模型之间的根本差异。在由于有限的资源和物理退化而在图灵普遍水平以下运行的自然过程的背景下,对算法规则产生的自然偏差的调查可能会揭示结果的分布。我们发现,高达60%的简单性/复杂性偏差的分布,即使是最弱的计算模型可以占的概率在其近似的普遍分布。
2018-04-13 cs.AI cs.CC cs.IT
The Extremum Stack is a Minimal Sufficient Statistic for Rate-Independent Functionals: A Kolmogorov Complexity Characterisation
The Metrology and Biomedical Engineering Institute, Faculty of Mechatronics, Warsaw University of Technology(计量与生物医学工程研究所,机械电子学系,华沙理工大学)
本文证明了离散序列的极值栈是所有可计算、因果、速率无关函数的最小充分统计量,从柯尔莫哥洛夫复杂性的角度出发。具体来说,建立了K(Pi_n) - O(1) ≤ K_R(u_{0:n}) ≤ K(Pi_n) + O(1),其中K_R(u_{0:n})是回答类别R中所有查询的最短程序长度,O(1)的开销与序列长度n和栈深度k无关。充分性源于Preisach滞回操作符的经典擦除性质。最小性通过一个有限指示族的速率无关性得到验证。因此,任何保留完整类别R的滞回驱动流压缩必须至少保留K(Pi_n) - O(1)位;由结果隐含的基于栈的压缩算法具有柯尔莫哥洛夫最优性保证,而标准时间序列压缩方法均无法提供。
2026-05-16 cs.AI cs.CC cs.IT
On the Running Time of the Shortest Programs
字w的柯尔莫哥洛夫复杂度等于程序Z与其输入x的最短级联的长度,通用图灵机U利用该最短级联计算字w。本文介绍的问题是:最短的程序运行多长时间?
2009-09-07 cs.CC
Short lists for shortest descriptions in short time
有没有可能找到一个二进制字符串的最短描述?众所周知的答案是“不,柯尔莫哥洛夫复杂性是不可计算的。“面对这一障碍,人们可能会寻求一个简短的候选人名单,其中包括简洁的描述。值得注意的是,这样的近似值是存在的。本文提出了一种有效的算法,它产生一个多项式大小的列表包含一个最佳的描述,为一个给定的输入字符串。一路上,我们采用扩展图和随机性分散获得一个显式的二分图的在线匹配定理和Muchnik的条件复杂性定理的改进。我们的主要结果扩展了Bauwens,Mahklin,Vereschchagin和Zimand最近的工作。
2014-02-12 cs.CC
Kolmogorov complexity and generalized length functions
Kolmogorov复杂度根据$σ$的最短描述$σ^*$的长度来测量有限二进制串$σ$的算法复杂度。传统上,字符串的长度用来衡量字符串中包含的信息量。然而,我们也可以将$σ$的长度看作是产生$σ$的成本的度量,这允许人们推广长度的概念,其中产生0或1的成本可以以某种规定的方式变化。在这篇文章中,我们开始研究这种推广的长度基于上述信息成本的解释。我们还修改了Kolmogorov复杂度的定义,使用这样的广义长度函数,而不是标准长度。我们进一步调查的条件下,定义在一个给定的广义长度函数的复杂性的概念保持一些基本性质的柯尔莫哥洛夫复杂性。我们专注于一类特定的广义长度函数,是密切相关的伯努利$p$措施的一个特定的子集,即那些对应于唯一的可计算的真正的$p\in(0,1)$,使$p^k=1-p$,整数$k\geq 1$。然后,我们研究随机性等措施,通过证明一个推广版本的经典莱文Schnorr定理,涉及$k$长度的功能,然后证明后续的结果,涉及有效的尺寸和熵。
2019-06-12 cs.CC math.LO
Upper bound by Kolmogorov complexity for the probability in computable POVM measurement
我们将算法信息论应用于量子力学,以揭示量子力学中固有的算法结构。有两种等价的方法来定义给定的经典有限二进制串s的(经典)柯尔莫哥洛夫复杂度K(s)。在标准方式中,K(s)被定义为通用自定界图灵机输出s的最短输入字符串的长度。另一种方法是先引入所谓的普适概率m,然后定义K(s)为-log_2m(s),而不使用程序大小的概念。我们将普适概率推广到一个矩阵值函数,并将此函数与一个POVM(正算子值测度)相识别。在此基础上,我们研究了有限维量子系统上具有可数测量结果的可计算POVM测量。我们表明,直到乘法常数,2^{-K(s)}是这样的POVM测量中每个测量结果s的概率的上限。在下文中,上界2^{-K(s)}在某种意义上是最优的。
2002-12-11 cs.CC quant-ph
Compression Complexity
x的柯尔莫哥洛夫复杂度,记为C(x),是生成x的最短程序的长度。对于这样一个简单的定义,Kolmogorov复杂性有着丰富而深刻的理论,以及在学习理论、复杂性下界和SAT算法等各种主题中的应用。Kolmogorov复杂度通常集中在解压缩,从压缩的程序到原始字符串。本文提出了压缩的双重概念,即从字符串到其压缩版本的映射。典型的无损压缩算法(如Lempel-Ziv或Huffman编码)总是产生一个将恢复到原始的字符串。我们定义了一个一般的压缩概念的基础上,这一观察。对于每个m,我们展示了长度约为m的单个压缩算法q,对于n和长度n >= m的字符串x,q的输出将具有C(x)的n-m+O(1)位内的长度。我们还证明了这个界是强紧的,对于每个n >= m,有一个长度为n的x,C(x)约为m,使得大小略小于m的压缩程序根本不能压缩x。我们还考虑了一个多项式时间有界版本的压缩复杂性,并表明,类似的结果,这个版本将排除密码单向函数。
2017-02-15 cs.CC
Complexity of complexity and strings with maximal plain and prefix Kolmogorov complexity
Peter Gacs证明(Gacs 1974),对于每一个n,存在一个长度为n的位串x,其简单复杂度C(x)相对于x几乎具有最大条件复杂度,即,C(C(x))|x)> logn-log ^(2)n-O(1). (Here log ^(2)i = log log i.)在Elena Kalinina(Kalinina 2011)之后,我们提供了一个简单的基于博弈的证明;修改她的论点,我们得到了一个更好的(和紧的)界log n-O(1)。我们也展示了相同的无前缀复杂性的界限。Robert Solovay(Solovay 1975)证明了无限多个字符串x具有最大的普通复杂度,但不是最大的前缀复杂度(在相同长度的字符串中):对于某个c,存在无限多个x使得|x|-C(x)<c和|x| + K(|x|)-K(x)> log ^(2)|x|-c log ^(3)|x|。事实上,Solovay和Gacs的结果是密切相关的。利用上述结果,我们对Solovay的结果给出了一个简短的证明.我们还推广了它,证明了对某些c和对所有n,存在长度为n的字符串x,使得n-C(x)<c和n + K(n)-K(x)> K(K(n)).| n)-3 K(K(K(n)|n)的范围|n)-c.我们还证明了一个封闭的上界K(K(n))|n)+O(1).最后,我们提供了一个直接的游戏证明约瑟夫米勒的推广(米勒2006年)相同的…
2013-05-03 cs.CC
Variations on Muchnik's Conditional Complexity Theorem
Muchnik关于简单条件描述的定理指出,对于所有字符串$a$和$b$,存在一个将$a$转换为$b$的短程序$p$,该程序具有最小的可能长度,并且是对$b$的简单条件。本文给出了这个定理的两个新的证明。第一种是基于二部图的在线匹配算法。第二个,基于提取器,可以推广到证明一个版本的Muchnik定理的空间有界Kolmogorov复杂性。
2011-03-18 cs.CC
Witness Complexity of Short Descriptions: A Cryptographic Perspective
本文提出见证复杂度γ(x)衡量通用图灵机上近最短描述的最小运行时间,证明其与Kolmogorov复杂度不同,并给出多项式不变性、条件分离及与P vs NP问题的联系,用于评估密钥和证书的可用性。
2026-07-01 cs.CC cs.CR