非线性动力学在信号分析中发挥着重要作用。置换熵（Permutation Entropy）是一种应用广泛、易于解释的非线性度量指标。近期它已被拓展用于图信号分析，从而为不规则域采样数据的非线性分析提供了框架。本文中，我们提出了连续版本的置换熵，将其拓展至图域，并开发了一种类似神经网络激活函数的序数激活函数。这是迈向序数深度学习（Ordinal Deep Learning）的一步，后者是一个颇具潜力、近期才被提出的概念。我们还将序数对比正式拓展到图域，同时提出了长度为3的连续版本序数对比，并通过实验验证了其优势。我们还整合了用于图像分析的特定对比模式，证明其能很好地泛化到图域，可将以图信号形式表示的图像映射到一个类似熵-复杂度平面的二维空间中表示。在分形模式、常见非线性映射等合成数据以及真实磁共振成像（MRI）数据上的应用结果，验证了这些新型拓展方法的有效性，以及相较于现有前沿方法的潜在优势。通过将近期提出的置换熵相关概念拓展到图域，我们期望能加速更多基于图的熵方法的发展，以实现对更广泛类型数据的非线性分析，并建立其与数据科学领域新兴思路的关联。
英文摘要：
Nonlinear dynamics play an important role in the analysis of signals. A popular, readily interpretable nonlinear measure is Permutation Entropy. It has recently been extended for the analysis of graph signals, thus providing a framework for non-linear analysis of data sampled on irregular domains. Here, we introduce a continuous version of Permutation Entropy, extend it to the graph domain, and develop a ordinal activation function akin to the one of neural networks. This is a step towards Ordinal Deep Learning, a potentially effective and very recently posited concept. We also formally extend ordinal contrasts to the graph domain. Continuous versions of ordinal contrasts of length 3 are also introduced and their advantage is shown in experiments. We also integrate specific contrasts for the analysis of images and show that it generalizes well to the graph domain allowing a representation of images, represented as graph signals, in a plane similar to the entropy-complexity one. Applications to synthetic data, including fractal patterns and popular non-linear maps, and real-life MRI data show the validity of these novel extensions and potential benefits over the state of the art. By extending very recent concepts related to permutation entropy to the graph domain, we expect to accelerate the development of more graph-based entropy methods to enable nonlinear analysis of a broader kind of data and establishing relationships with emerging ideas in data science.
The permutation entropy rate equals the metric entropy rate for ergodic information sources and ergodic dynamical systems
置换熵量化了随机或确定性系统可以采用的值的可能排序的多样性，因为香农熵量化了值的多样性。我们表明，度量和置换熵率-新的无序每新的观察值的措施-是相等的遍历有限字母表信息源（离散时间平稳随机过程）。有了这个结果，我们证明了这同样适用于由$n$ %维区间上的遍历映射定义的确定性动力系统。该结果推广了实数线上的分段单调区间映射的先前结果（Bandt，Keller和Pompe，“Entropy of interval maps via permutations”，\textit{Nonlinearity} \textbf{15}，1595-602，（2002）），代价是要求遍历性并且使用在两个极限的量级上不同的置换熵率的定义。非遍历有限字母表源的情况下，也进行了研究和发展的不等式。最后，当熵按通常的方式被微分熵代替时，置换熵率和度量熵率的相等性被推广到遍历非离散信源。
Permutation Complexity and Coupling Measures in Hidden Markov Models
在[Haruna，T.和Nakajima，K.，2011. Physica D 240，1370-1377]，作者引入了值（词）和序（排列）之间的对偶性，作为讨论有限字母表平稳随机过程的信息论测度与其排列类似物之间关系的基础。利用它给出了任意有限字母平稳随机过程的熵率与置换熵率相等的简单证明，并给出了有限字母平稳遍历马氏过程的过剩熵和转移熵的一些结果。在本文中，我们扩展我们以前的结果隐马尔可夫模型，并显示各种信息理论的复杂性和耦合措施和它们的置换类似物之间的平等。特别地，我们在具有遍历内部过程的隐马尔可夫模型的范围内证明了以下两个结果：转移熵的两个置换类似物，符号转移熵和秩向量上的转移熵，如果它们被认为是速率，则它们都等价于转移熵，并且有向信息理论可以通过置换熵方法来捕获。
Permutation Complexity via Duality between Values and Orderings
基于值与值之间的序的对偶性，研究了有限状态平稳随机过程的置换复杂性。首先，我们建立了一个固定长度的所有单词的集合和相同长度的所有排列的集合之间的对偶。其次，在此基础上，给出了有限态平稳随机过程的置换熵率与熵率相等的初等证明，[Amigo，J.M.，Kennel，M. B、科卡列夫湖，2005. Physica D 210，77-95]。第三，我们表明，进一步的信息之间的关系的结构的价值观和结构的有序的有限状态平稳随机过程超出熵率可以从建立的对偶。特别是，我们证明了置换过剩熵等于过剩熵，这是一个衡量的整体相关性存在于一个平稳的随机过程，有限状态平稳遍历马尔可夫过程。
Symbolic transfer entropy rate is equal to transfer entropy rate for bivariate finite-alphabet stationary ergodic Markov processes
传递熵是联合分布随机过程之间信息流大小和方向的度量。近年来，它的置换类似物在文献中被认为是通过计数值的排序出现的次数来估计转移熵，而不是值本身。已经表明，置换的方法是易于实现，计算成本低，并适用于现实世界的时间序列数据时，对噪声的鲁棒性。在本文中，我们提出了相应的速率的理论处理。特别是，我们认为转移熵率和它的置换模拟，符号转移熵率，并表明，他们是平等的任何二元有限字母平稳遍历马尔可夫过程。这个结果是[T. Haruna和K. Nakajima，Physica D 240，1370（2011）]。我们还讨论了转移熵率、时延互信息率以及它们的置换类比之间的关系。
