On the Algorithmic Content of Quantum Measurements
我们表明,给定的量子测量,对于绝大多数纯态,没有产生有意义的信息。这与量子测量结果的数量无关。由于守恒不等式,这种随机噪声不能被处理成相干数据。
2021-05-14 cs.CC quant-ph
A statistical mechanical interpretation of algorithmic information theory
我们开发了一个统计力学的解释算法信息论通过引入热力学量的概念,如自由能,能量,统计力学熵,比热,到算法信息论。我们调查这些数量的属性,通过程序大小的复杂性,从算法的随机性的角度来看。然后发现,在解释中,温度起着所有这些热力学量的值的压缩率的作用,其中包括温度本身。反映这种自参考性质的压缩率的温度,我们得到不动点定理的压缩率。
2008-01-28 cs.CC cs.IT math.IT
The Importance of the Algorithmic Information Theory to Construct a Possible Example Where NP # P - II: An Irreducible Sentence
在这篇简短的通讯中,讨论了解纠缠态和算法信息论之间的关系,旨在构建一个不可约的句子,其长度随着量子比特数的增加以非多项式的方式增加。
2006-12-01 cs.CC cs.IT math.IT
The probability of a computable output from a random oracle
考虑一个通用的图灵机,它根据在计算过程中对二进制查询的回答产生部分或全部函数(或二进制流)。我们研究的概率,机器将产生一个可计算的功能时,它被赋予一个随机的比特流作为其查询的答案。令人惊讶的是,我们发现这些概率是(0,1)中的整个实数类,可以写为相对于停机问题的两个停机概率之差。特别地,存在通用的图灵机,其产生具有恰好1/2的概率的可计算输出。我们的研究结果对比了大量的事实(最著名的是Chaitin的停机概率的随机性),见证了最大的初始段复杂性的概率与通用机器。我们的证明使用了算法随机性的最新进展。
2017-04-27 cs.CC
Low complexity, low probability patterns and consequences for algorithmic probability applications
开发新的方法来估计概率可能对科学,统计学和工程学有价值。通过考虑不同的输出模式的信息内容,最近的工作调用算法信息论表明,先验概率预测模式的复杂性的基础上,可以在一个广泛的类的输入输出映射。这些算法概率预测不依赖于输出模式如何产生的详细知识或历史统计数据。虽然在数量上相当准确,但这些预测的主要缺点是它们是作为模式概率的上限给出的,但许多低复杂性,低概率模式发生,上限几乎没有预测价值。在这里,我们研究这种低复杂性,低概率的现象,通过查看示例地图,即有限状态转换器,自然时间序列数据,RNA分子结构和多项式曲线。一些机制导致低复杂性,低概率的行为被确定,我们认为这种行为应被假定为默认在现实世界中的算法概率研究。此外,我们还研究了算法概率的一些应用,并讨论了低复杂性,低概率模式的几个研究领域,包括简单的物理学和生物学,先验概率预测,所罗门诺夫归纳和奥卡姆剃刀,机器学习,和密码猜测的一些影响。
2022-07-06 cs.CC cs.IT math.IT
Algorithmic Information Theory: a brief non-technical guide to the field
本文是算法信息论(AIT)领域的简要指南,它的基本哲学和最重要的概念。AIT是通过混合信息论和计算理论来获得个体对象中客观和绝对的信息概念而产生的,这样做就产生了个体对象随机性的客观和鲁棒的概念。这与基于随机变量和通信的经典信息论形成对比,并且与单个对象的信息和随机性无关。在简要概述之后,介绍了该领域的主要子领域、应用、历史和地图。
2007-03-06 cs.CC cs.IT math.IT
Entropy Measures vs. Algorithmic Information
数学熵和香农熵是两种概念上不同的信息度量,前者基于程序的大小,后者基于概率分布。然而,众所周知,对于任何递归概率分布,算法熵的期望值等于其香农熵,直到一个仅取决于分布的常数。我们研究了$α$阶的Rényi和Tsallis熵是否存在类似的关系,表明它只适用于1阶的Rényi和Tsallis熵(即,Shannon entropy)。关于时间有界的模拟关系,我们表明,对于分布,使累积概率分布是可计算的时间$t(n)$,时间有界的算法熵(其中分配的时间是$nt(n)\log (nt(n))$)的预期值是在同一范围内的无界版本。因此,对于这些分布,香农熵捕获了计算可访问信息的概念。证明了对于普适时间有界分布$\m^t(x)$,Tsallis熵和Rényi熵收敛当且仅当$α$大于1.
2010-06-02 cs.CC cs.IT math.IT
Algorithmic Complexity in Minority Game
在本文中,我们介绍了一种新的方法来研究的复杂性行为的少数者游戏使用的工具,算法的复杂性,物理熵和信息论。我们表明,物理复杂性和互信息函数强烈依赖于内存大小的代理,并产生更多的信息比波动性本身的复杂功能的流的二进制结果的游戏。
1999-06-01 adap-org chao-dyn cond-mat.stat-mech
The normalized algorithmic information distance can not be approximated
已知归一化算法信息距离$N$不可计算且不可半计算。我们表明,对于所有的$ε< 1/2$,有没有半可计算的功能,从$N$不同的最多~ $ε$。此外,对于任何可计算函数$f$使得$|\lim_t f(x,y,t) - N(x,y)| \le ε$和对于所有$n$,存在长度为$n$使得$\sum_t |f(x,y,t+1) - f(x,y,t)| \ge Ω(\log n)$的字符串$x,y$。这是最佳的常数因子。我们还证明了$N$的极限近似的最大振荡数是$Ω(n/\log n)$。这加强了来自[K]的$ω(1)$下界。Ambos-Spies,W. Merkle和S.A. Terwijn,2019,归一化信息距离和振荡层次,见arXiv:1708.03583。
2020-02-16 cs.CC cs.IT math.IT
Algorithmic information, plane Kakeya sets, and conditional dimension
我们用公式表示给定y的x在精度r处的条件柯尔莫哥洛夫复杂度,其中x和y是欧几里得空间中的点,r是自然数。我们从两个方面证明了这一概念的实用性。1.我们证明了一个点到集的原则,使人们能够使用(相对化,建设性)的一个点在一个欧几里德空间中的集合E的维数,以建立一个下界(经典)的Hausdorff维数E。然后,我们使用这一原则,连同条件柯尔莫哥洛夫复杂性在欧几里得空间,给一个新的证明已知的,二维情况下的挂谷猜想。这个定理的几何措施理论,证明了戴维斯在1971年,说,每一个平面集包含一个单位线段在每一个方向有豪斯多夫维数2。2.我们使用欧氏空间中的条件Kolmogorov复杂性来开发上下条件维数dim(x| y)和Dim(x| y),其中x和y是欧几里得空间中的点。直觉上,这些是以y中的信息为条件的x的上、下渐近算法信息密度。我们证明了这些条件维数是鲁棒的,并且它们与已研究的维数dim(x)和Dim(x)以及互维数mdim(x:y)和Mdim(x:y)具有正确的信息论关系。
2016-12-01 cs.CC
Fractal Intersections and Products via Algorithmic Dimension
分形维数量化了各个点的算法信息密度,并且可以根据柯尔莫哥洛夫复杂度来定义。这项工作使用这些尺寸约束的经典豪斯多夫和包装维数的交叉和笛卡尔积的分形在欧几里德空间。这种方法表明,两个突出的,基本的结果,关于维度的博雷尔或分析集也适用于任意集。
2021-03-01 cs.CC math.MG
Information in propositional proofs and algorithmic proof search
我们从证明复杂性的角度研究(非正式)证明搜索问题:是否有一个最佳的方法来搜索命题证明?我们注意到,对于任何固定的证明系统,存在一个时间最优的证明搜索算法。利用经典的证明复杂性的反射原理的结果,我们证明了一个时间最优的证明搜索算法存在不限制证明系统当且仅当一个p-最优证明系统存在。为了精确地描述单个公式所需的时间证明搜索算法,我们引入了一种新的基于算法信息概念的证明复杂性度量。特别地,对于证明系统$P$,我们附加{ \bf信息效率函数} $i_P(τ)$,将重言式分配给自然数,并且我们表明:- $i_P(τ)$表征任何$P$证明搜索算法必须在$τ$上使用的时间,并且对于固定的$P$,存在这样的信息最优算法,-证明系统是信息效率最优的当且仅当它是p最优的,- 对于不可自动化的系统$P$,存在具有短证明但具有大信息测度$i_P(τ)$的公式$τ$。我们隔离和激励的问题,建立无条件的超对数下限$i_P(τ)$没有超多项式大小的下限是已知的。我们还指出了新的措施与其他证明搜索的证明复杂性的一些主题的连接。
2021-09-05 cs.CC math.LO
Algorithmic statistics: forty years later
统计学有两种不同的(几乎是正交的)动机。从哲学的角度来看,它试图形式化统计如何工作,以及为什么一些统计模型比其他模型更好。在引入“好模型”的概念之后,一个自然的问题出现了:对于某些数据,可能没有好模型?如果是,这些坏的(“非随机”)数据“在现实生活中“出现的频率是多少?另一个更技术性的动机来自算法信息论。在这个理论中,引入了有限对象的复杂性(=这个对象中的信息量)的概念;它为每个对象分配了一些数字,称为其算法复杂性(或柯尔莫哥洛夫复杂性)。数学统计提供了一种更细粒度的分类:对于每个有限对象,定义了一些曲线来表征其行为。事实证明,几个不同的定义给出(近似)相同的曲线。在这个调查中,我们试图提供一个在该领域的主要成果(包括最重要的充分证明),以及一些历史评论的阐述。我们假设读者熟悉算法信息(Kolmogorov复杂度)理论的主要概念。
2017-03-07 cs.CC cs.IT math.IT
Distributed compression through the lens of algorithmic information theory: a primer
分布式压缩是由多个参与方压缩相关数据的任务,每个参与方拥有一段数据并单独行动。经典的Slepian-Wolf定理(D. Slepian,J.K. Wolf,IEEE Transactions on Inf. Theory,1973)表明,如果数据是由来自联合分布的独立抽取生成的,即由无记忆随机过程生成的,则当各方一起行动时,分布式压缩可以实现与集中式压缩相同的压缩率。最近,作者(M。Zimand,STOC 2017)在数学信息论(也称为Kolmogorov复杂性)的框架中获得了Slepian-Wolf定理的模拟版本。与经典定理相比,AIT版本适用于单个字符串,没有任何关于生成过程的假设。唯一的要求是各方知道输入字符串的复杂性概况,这是数据相关性的简单定量度量。本文的目标是以一种可访问的形式呈现,省略了参考文献(M。Zimand,STOC 2017)。
2017-06-26 cs.CC cs.IT math.IT
An algorithmic complexity interpretation of Lin's third law of information theory
代替静态熵,我们断言静态结构(如固体)的柯尔莫哥洛夫复杂性是无序(或混沌)的适当度量。在周围完全随机的宇宙中,一个静态结构充当了一个干扰实体,它在随机性中引入了局部破坏。这通过选择规则$R$来建模,该选择规则选择命中结构的随机输入序列的子序列。通过随机二元序列随机性和混沌性的不等式,我们认为Lin的稳定性概念对应于所选子序列中1的频率的稳定性。这就解释了为什么更复杂的静态结构更不稳定。林的第三定律被表述为静态结构朝着符合宇宙的完美随机性所经历的必然变化。
2008-03-16 cs.CC cs.IT math.IT
Correspondence and Independence of Numerical Evaluations of Algorithmic Information Measures
我们表明,实值近似Kolmogorov-Chaitin(K_m)使用的算法编码定理计算的输出频率的一个大的一组小的确定性图灵机与多达5个状态(和2个符号),是在协议所使用的指令数的图灵机生产s,这是符合严格的整数值程序大小的复杂性。尽管如此,K_m被证明是一个更细粒度的测量和一个潜在的替代方法的无损压缩算法的小实体,压缩失败。我们还表明,K_m和所使用的指令数与Bennett的逻辑深度LD(s)没有任何相关性,而不是理论所预测的。理论和数值计算之间的协议表明,尽管这些理论措施的不可判定性,近似是稳定的和有意义的,即使是小程序和短字符串。我们还宣布了第一个测试版的在线数学复杂度计算器(OACC),基于理论概念的组合,作为编码定理方法的数值实现。
2013-02-13 cs.CC cs.FL cs.IT
An operational characterization of mutual information in algorithmic information theory
我们表明,互信息,在柯尔莫哥洛夫复杂度的意义下,任何一对字符串$x$和$y$是相等的,达到对数精度,最长的秘密密钥的长度,双方,一个有$x$和对的复杂度配置文件,另一个有$y$和对的复杂度配置文件,可以通过概率协议与公共信道上的交互建立。对于$\ell > 2$,可以由$\ell$方从字符串$(x_1, \ldots , x_\ell)$的元组建立的最长共享秘密(每一方具有元组的一个分量和元组的复杂度简档)等于元组的复杂度减去将元组分发给所有方所需的最小通信,直到对数精度。对于具有公共随机性的秘密密钥协商协议,建立了产生最大长度的秘密密钥协商协议的通信复杂性.我们还表明,如果通信复杂性低于既定的阈值下降,那么只有很短的密钥可以得到。
2019-04-29 cs.CC cs.IT math.IT
Symmetry and Algorithmic Complexity of Polyominoes and Polyhedral Graphs
我们引入了算法对称性的定义,能够捕捉几何对称性的基本方面。我们回顾,研究和应用一种方法来近似算法的复杂性(也称为Kolmogorov-Chaitin复杂性)的图形和网络的基础上的概念的概率(AP)。AP是一个概念(和方法),能够递归枚举所有的可计算(因果)性质的统计性质之外。我们探索算法的复杂性-理论和数值-与几何属性主要是对称性和拓扑结构从(算法)信息理论的角度来看。我们表明,近似算法的复杂性,通过无损压缩和基于概率的方法可以表征性质的多项式,多面体,规则和准规则多面体以及多面体网络,从而证明其剖析能力。
2018-02-24 cs.CC cs.CG cs.DM