Max-sliced Wasserstein concentration and uniform ratio bounds of empirical measures on RKHS
本文研究无界RKHS中真实测度与经验测度的最大切片Wasserstein距离，推导其集中性与期望上界，证明在一般假设下可达到近参数化速率。
2024-05-21 math.ST stat.ML stat.TH
Making Sense of Dependence: Efficient Black-box Explanations Using Dependence Measure
IRT Saint Exupery（圣埃克苏佩里技术研究院）；Artificial Natural Intelligence Toulouse Institute（图卢兹人工与自然智能研究所）；Université de Toulouse（图卢兹大学）；Carney Institute for Brain Science, Brown University（布朗大学卡尼脑科学研究所）
提出了一种基于再生核希尔伯特空间的相关性测度--希尔伯特-施密特独立性准则的黑盒属性估计方法。HSIC测量输入图像的区域与基于分布的核嵌入的模型的输出之间的依赖性。因此，它提供了丰富的RKHS表示能力的解释。HSIC可以非常有效地估计，与其他黑盒归因方法相比，显着降低了计算成本。我们的实验表明，HSIC是高达8倍的速度比以前最好的黑盒归因方法，同时是忠实的。事实上，我们改进或匹配的黑盒和白盒归因方法的几个保真度指标与最近的各种模型架构的最先进的Imagenet。重要的是，我们表明，这些进步可以被转换为有效和忠实地解释目标检测模型，如YOLOv 4。最后，我们扩展了传统的归因方法，提出了一个新的内核，使ANOVA的正交分解的重要性分数的基础上HSIC，使我们不仅可以评估每个图像补丁的重要性，但也是他们的成对相互作用的重要性。我们的实现可以在https://github.com/paulnovello/HSIC-Attribution-Method上获得。
2022-09-27 cs.CV stat.ML stat.OT
Fast and Strong Convergence of Online Learning Algorithms
Zhejiang University（浙江大学）；Fudan University（复旦大学）
本文研究了无显式正则化项的在线学习算法。该算法实质上是再生核Hilbert空间（RKHS）中的随机梯度下降算法。每次迭代中多项式衰减的步长可以起到正则化的作用，保证在线学习算法的泛化能力。提出了一种新的基于容量的在线学习算法性能分析方法。本文的贡献是双重的。首先，我们很好的分析可以导致标准均方距离的收敛速度，这是迄今为止最好的。其次，我们建立，第一次，强收敛的最后一个多项式衰减步长在RKHS规范。我们证明了本文建立的理论分析充分利用了底层RKHS的精细结构，从而可以导致在线学习算法的尖锐的误差估计。
2017-10-10 cs.LG stat.ML
On Distance and Kernel Measures of Conditional Independence
测量条件独立性是统计推断中的重要任务之一，并且是因果发现、特征选择、降维、贝叶斯网络学习等的基础。在这项工作中，我们探讨了度量空间和再生核希尔伯特空间（RKHS）的再生核的距离诱导的条件独立性措施之间的连接。对于一定的距离和内核对，我们显示的距离为基础的条件独立的措施是等价的，基于内核的措施。另一方面，我们还表明，一些流行的-在机器学习-核条件独立性措施的基础上的希尔伯特-施密特范数的某一交叉条件协方差算子，没有一个简单的距离表示，除了在某些限制情况下。因此，这篇论文表明条件独立性的距离和核度量不完全等同，这与Sejdinovic等人（2013）所示的联合独立性不同。
2020-08-17 math.ST stat.ML stat.TH
Kernel Integrated $R^2$: A Measure of Dependence
Department of Statistics（统计学系）；London School of Economics（伦敦经济学院）；Department of Decision Analytics and Operations（决策分析与运营系）；City University of Hong Kong（香港城市大学）；Chair of Information Systems（信息系统教授职位）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本文提出核集成R²作为依赖性度量，结合局部归一化与RKHS灵活性，适用于多变量、函数型和结构化数据，展示在非线性和结构化关系中的竞争力。
2026-02-26 cs.IT cs.LG math.IT
Discussion of "Functional Models for Time-Varying Random Objects'' by Dubey and Müller
讨论的重点是度量协方差，度量空间中成对随机对象之间的一种新的关联测度，由Dubey和Müller开发，以及它与以前文献中出现的其他类似概念的关系，包括Székely等人的距离协方差，以及依赖于再生核希尔伯特空间（RKHS）形式主义的推广。
2020-01-10 stat.ME
D2KE: From Distance to Kernel and Embedding
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）；College of William and Mary（威廉与玛丽学院）
对于许多机器学习问题设置，特别是对于诸如对象序列或对象集合之类的结构化输入，可以比特征表示更自然地指定输入之间的距离度量。然而，大多数标准的机器模型都是为具有向量特征表示的输入而设计的。在这项工作中，我们认为估计的功能$f:\mathcal{X} \rightarrow \R$完全基于输入之间的相异性测量$d:\mathcal{X}\times\mathcal{X} \rightarrow \R$。特别是，我们提出了一个一般的框架，从一个给定的相异性措施，其中包括广泛使用的\emph{representative-set method}作为一个特殊的情况下，并涉及到众所周知的\emph{distance substitution kernel}在一个限制的情况下，家庭的\emph{positive definite kernels}。我们证明了相应的再生核Hilbert空间（RKHS）中的函数是Lipschitz连续的w.r.t.给定的距离度量。我们提供了一个易于处理的算法来估计这个RKHS函数，并表明它享有更好的推广比最近邻估计。我们的方法借鉴了随机特征的文献，但不是从现有的内核中导出特征映射，而是从随机特征映射中构建新的内核，我们指定给定的距离度量。我们进行分类实验，如字符串，时间序列和向量集，我们提出的框架相比，有利的是现有的基于距离的学习方法，如$k$ -最近邻，距离替代内…
2018-05-25 cs.LG stat.ML
Equivalence of distance-based and RKHS-based statistics in hypothesis testing
University College London（伦敦大学学院）；University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Institute of Statistical Mathematics（统计数学研究所）
我们提供了一个统一的框架，连接两类统计用于双样本和独立性测试：一方面，从统计文献的能量距离和距离协方差;另一方面，最大均值差异（MMD），即嵌入的分布之间的距离再生核希尔伯特空间（RKHS），建立在机器学习。在使用负类型的半度量计算能量距离的情况下，可以定义一个正定核（称为距离核），使得MMD精确对应于能量距离。相反，对于任何正定核，我们可以将MMD解释为关于某个负型半度量的能量距离。这种等价性很容易扩展到使用乘积空间上的核的距离协方差。我们确定一类概率分布的检验统计量是一致的对所有的替代品。最后，我们调查的距离内核在两个样本和独立性测试的家庭的性能：我们特别表明，最常用的统计能量距离只是一个成员的参数家庭的内核，从这个家庭的其他选择可以产生更强大的测试。
2013-11-12 cs.LG math.ST stat.ME
Hilbert space embeddings and metrics on probability measures
最近提出了一种用于概率测度的Hilbert空间嵌入，其应用包括降维、同质性检验和独立性检验。该嵌入将任何概率测度表示为再生核希尔伯特空间（RKHS）中的平均元素。概率测度空间上的伪度量可以定义为分布嵌入之间的距离：我们将其表示为$γ_k$，由定义RKHS中内积的核函数$k$索引。我们提出了$γ_k$的三个理论性质。首先，我们考虑确定$γ_k$是度量的核$k$上的条件的问题：这样的$k$被表示为{ \em特征核}。与伪度量不同，只有当两个分布重合时度量才为零，从而确保RKHS嵌入唯一地映射所有分布（即，嵌入是单射的）。虽然以前公布的条件可能只适用于有限的情况下（例如在紧域），很难检查，我们的条件是直接和直观的：有界连续严格正定核的特点。或者，如果一个有界连续核在$\bb{R}^d$上是平移不变的，那么它是特征的当且仅当它的傅里叶变换的支集是整个$\bb{R}^d$。其次，我们证明了在$γ_k$中存在任意接近的不同分布。第三，要了解$γ_k$引起的拓扑结构的性质，我们将$γ_k$与概率测度上的其他流行度量相关联，并在$γ_k$度量弱拓扑结构的内核$k$上给出条件。
2010-01-30 math.ST stat.ML stat.TH
Gaussian Processes and Reproducing Kernel Hilbert Spaces: Connections and Equivalences
本专著研究机器学习等领域中基于正定核的高斯过程概率方法与再生核希尔伯特空间非概率方法的联系与等价性，建立统一视角以衔接相关研究。
2026-09-10 cs.LG cs.NA math.NA
Another Look at DWD: Thrifty Algorithm and Bayes Risk Consistency in RKHS
距离加权判别（DWD）是一种基于边缘的分类器，具有有趣的几何动机。DWD最初被提出作为支持向量机（SVM）的一个更好的替代方案，然而DWD与SVM相比尚未流行。主要原因有两方面。首先，解决DWD的最先进的算法是基于二阶锥规划（SOCP），而SVM是一个二次规划问题，这是更有效地解决。其次，目前的DWD统计理论主要集中在高维低样本设置和数据堆积的线性DWD，而SVM的学习理论主要集中在核SVM的贝叶斯风险一致性。事实上，DWD的贝叶斯风险一致性在原始DWD论文中被作为一个开放问题提出。在这项工作中，我们推进目前的理解DWD从计算和理论的角度。我们提出了一种新的有效的算法来解决DWD，我们的算法可以比现有的国家的最先进的算法的基础上的SOCP快几百倍。此外，我们的算法可以处理广义DWD，而SOCP算法只适用于一个特殊的DWD，而不是广义DWD。在此基础上，我们考虑了再生核Hilbert空间中的自然核DWD，并建立了核DWD的贝叶斯风险相容性。我们比较了DWD和SVM在几个基准数据集上的分类精度，结果表明两者具有可比性，但配备了我们的新算法的DWD的计算速度比SVM快得多。
2015-08-24 stat.ML
Adaptive Geo-Topological Independence Criterion
Columbia University（哥伦比亚大学）
在有限样本的基础上测试两个潜在的多元变量的统计依赖性是一个根本的统计挑战。在这里，我们探索了一系列测试，这些测试适应变量之间关系的复杂性，有望在各种场景中发挥强大的作用。建立在距离相关性，我们引入了一个家庭的自适应独立性标准的非线性单调变换的距离。我们发现，这些标准，如距离相关性和RKHS为基础的标准，提供依赖指标。我们提出了一类自适应（多阈值）检验统计量，形成置换检验的基础。这些检验在经验上优于一些已建立的检验，在一系列单变量和多变量关系的平均和最坏情况下的统计敏感性，提供了有用的见解的数据，可能值得进一步探索。
2020-10-22 cs.AI cs.LG math.ST
Unsupervised classification of children's bodies using currents
Universitat Jaume I（海梅一世大学）
根据物体的形状和大小对其进行分类在许多科学领域中是非常重要的。这项工作的重点是一个对象的大小和形状的情况下，其特征在于由电流}。电流是一个数学对象，它已经被证明与几何数据（如子流形）的建模有关，通过沿它们积分矢量场。作为选择向量值再生核希尔伯特空间（RKHS）作为积分流形的测试空间的结果，可以认为形状嵌入在这个希尔伯特空间中。向量值RKHS是向量场的希尔伯特空间;因此，可以计算形状的平均值，或计算两个流形之间的距离。这种嵌入使我们能够考虑大小和形状分类算法。这些算法被应用到一个3D数据库，从西班牙儿童人口的人体测量调查与潜在的应用，童装的在线销售。
2016-06-06 cs.CV stat.AP stat.ME
On Hypothesis Transfer Learning of Functional Linear Models
Department of Statistics, The Pennsylvania State University（统计学系，宾夕法尼亚州立大学）；Amazon Science（亚马逊科学）
本文在 RKHS 框架下研究函数型线性回归的假设迁移学习，提出已知正源和基于聚合的两种稳健迁移算法，并建立匹配的渐近上下界。
2025-06-09 cs.LG stat.ML
Unbounded Characteristic and Universal Kernels
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；London School of Economics（伦敦政治经济学院）
本文针对无界核情形，在温和假设下建立了特征核、$L_p$-通用核和积分严格正定核等表达性概念之间的关系，填补了该领域的理论空白。
2026-10-08 cs.LG math.ST stat.ML
Learning nonparametric ordinary differential equations from noisy data
TGen（TGen转化基因组学研究所）；Portland State University（波特兰州立大学）；Galois Inc.（Galois公司）
针对含噪数据下的非参数常微分方程组学习，提出基于再生核希尔伯特空间的惩罚方法，利用表示定理与欧拉近似求解，并给出泛化界及实验验证。
2023-11-13 cs.LG stat.ML
Sample Complexity of Sinkhorn divergences
最佳传输（OT）和最大平均差异（MMD）现在经常用于机器学习来比较概率度量。本文主要研究\emph{Sinkhorn divergences}（SD），它是OT距离的正则化变体，可以根据正则化强度$\varepsilon$在OT（$\varepsilon=0$）和MMD（$\varepsilon=\infty$）之间进行插值。虽然现在在计算上很好地理解了由该正则化引起的折衷（OT、SD和MMD分别需要$O(n^3\log n)$、$O(n^2)$和$n^2$操作，给定样本大小$n$），但是在使用有限样本\emph{vs.}评估它们各自的密度时，就它们的\emph{sample complexity}而言，即这些量之间的间隙，知之甚少。事实上，虽然OT和MMD的样本复杂性处于两个极端，在维度$d$中OT的$1/n^{1/d}$和MMD的$1/\sqrt{n}$，SD的样本复杂性仅被经验研究。在本文中，我们\emph{(i)}得出的近似误差与SD时，近似OT作为一个功能的正则化$\varepsilon$，\emph{(ii)}证明，正则化OT的优化有界的Sobolev（RKHS）球独立的两个措施和\emph{(iii)}提供的第一个样本复杂性的SD界，获得的SD，通过重新制定的最大化问题，在RKHS。因此，我们获得了$1/\sqrt{n}$（如MMD）的缩放，但常数取决于$\varep…
2019-02-05 math.ST stat.TH
Distribution regression model with a Reproducing Kernel Hilbert Space approach
本文介绍了一种新的概率分布的分布回归模型。该模型基于再生核希尔伯特空间（RKHS）回归框架，其中通用核是使用Wasserstein距离为属于W 2的分布（$Ω$）构建的，并且$Ω$是R的紧致子空间.我们证明了这种内核的通用内核属性，并使用此设置来执行函数回归。不同的回归模型进行了比较，提出了一个模拟功能数据。然后，我们将我们的回归模型应用于瞬态诱发耳声发射（TEOAE）分布响应和年龄的真实预测。
2019-10-04 math.ST stat.TH
RFN: A Random-Feature Based Newton Method for Empirical Risk Minimization in Reproducing Kernel Hilbert Spaces
Northeastern University（东北大学）
在使用核方法的监督学习中，我们经常遇到再生核希尔伯特空间（RKHS）上的大规模有限和极小化问题。大规模的有限和问题可以使用牛顿法的有效变体来解决，其中Hessian通过数据的子样本来近似。然而，在RKHS中，惩罚函数对内核的依赖使得标准的子采样方法不适用，因为gram矩阵不容易以低秩形式获得。在本文中，我们观察到，对于这类问题，人们可以很自然地使用核近似来加速牛顿方法。针对核函数逼近的随机特性，提出了一种新的二阶算法，该算法具有局部超线性收敛性和全局线性收敛性（具有高概率）。我们推导出理论上的下界的随机特征的数量所需的近似Hessian接近真正的Hessian在规范意义上。我们对真实数据的数值实验验证了我们的方法相比，几个基准的效率。
2022-06-06 cs.LG stat.ML
Estimating Feature-Label Dependence Using Gini Distance Statistics
University of Mississippi（密西西比大学）
识别特征和标签之间的统计依赖关系是监督学习的一个基本问题。本文提出了一个框架，用于估计之间的依赖关系的数值特征和分类标签使用广义基尼距离，再生核希尔伯特空间（RKHS）的能量距离。两个基于基尼距离的依赖性措施进行了探讨：基尼距离协方差和基尼距离相关。与皮尔逊协方差和相关性不同，它们不表征独立性，上述基于基尼距离的度量定义了随机变量的依赖性和独立性。检验统计量计算简单，不需要概率密度估计。得到了检验统计量的一致收敛界和渐近界。提供了与距离协方差统计的比较。结果表明，基尼距离统计收敛速度比距离协方差统计的一致收敛界，因此更严格的上界的类型I和类型II的错误。此外，基尼距离协方差统计量表现不佳的距离协方差统计量在第二类错误的概率下降到0指数随着样本量的增加。大量的实验结果证明了所提出的方法的性能。
2019-06-05 cs.LG stat.ML
Adaptive Kernel Selection for Kernelized Diffusion Maps
CY Cergy Paris University（塞纳-圣但尼大学）；Institut Polytechnique de Paris（巴黎理工学院）；California Institute of Technology（加州理工学院）；The Alan Turing Institute（阿兰·图灵研究所）；Imperial College London（伦敦帝国学院）
本文提出两种自适应核选择方法，通过变分外循环学习连续核参数，并利用随机傅里叶特征提升可扩展性，以提高扩散图核估计的准确性与稳定性。
2026-04-20 math.DS stat.ML
A One-Sample Test for Normality with Kernel Methods
提出了再生核希尔伯特空间（RKHS）中一种新的单样本正态性检验方法。也就是说，我们测试属于一个给定的家庭高斯分布的零假设。因此，我们的程序可以应用于测试数据的正态性或测试参数（平均值和协方差），如果数据假设为高斯。我们的测试基于与MMD（最大平均离散度）相同的原理，MMD通常用于双样本测试，如同质性或独立性测试。我们的方法利用一种特殊的参数引导（典型的拟合优度检验），这是计算效率比标准的参数引导。此外，II型误差的上界突出了对影响量的依赖。实验说明了我们的测试在高维设置中常见的正态性测试是已知失败的实际改进。我们还考虑通过一个顺序的程序协方差秩选择的应用程序。
2015-07-10 math.ST stat.TH
Sliced Wasserstein Kernel for Persistence Diagrams
持久性图在拓扑数据分析中起着重要的作用，常用于描述复杂形状的拓扑性质。PD具有很强的稳定性，并已证明其在各种学习环境中的实用性。然而，它们并不生活在一个自然具有希尔伯特结构的空间中，通常与特定的距离进行比较，例如瓶颈距离。为了将PD合并到学习流水线中，已经针对PD提出了几种内核，其中强烈强调RKHS距离w.r.t. PD的干扰。在这篇文章中，我们使用Wasserstein距离的切片Wasserstein近似SW来定义PD的新内核，它不仅是可证明稳定的，而且是可证明判别的（取决于PD中的点数）。PD之间的Wasserstein距离$d_1$。我们还证明了它的实用性，通过开发一种近似技术，以减少内核的计算时间，并表明我们的建议相比，有利的PD在几个基准现有的内核。
2017-11-09 cs.CG math.AT stat.ML
Kernel Distribution Embeddings: Universal Kernels, Characteristic Kernels and Kernel Metrics on Distributions
核均值嵌入最近引起了机器学习社区的关注。他们将测度$μ$从某个集合$M$映射到具有核$k$的再生核希尔伯特空间（RKHS）中的函数。两个映射度量的RKHS距离是$M$上的半度量$d_k$。我们研究三个问题。(I)对于给定的内核，可以嵌入哪些集合$M$？(II)什么时候嵌入在$M$上是单射的（在这种情况下$d_k$是一个度量）？(III)与$M$上的其他拓扑相比，$d_k$诱导的拓扑如何？现有的机器学习文献已经在$M$是有限正则Borel测度（的子集）的情况下解决了这些问题。我们统一，改进和推广这些结果。我们的方法自然会导致（Schwartz-）分布的连续甚至可能是内射嵌入，即，一般的措施，但读者可以自由地只关注措施。特别是，我们systematives和扩展各种（部分已知）之间的不同概念的通用，特征和严格正定核的等价性，并表明，在一个潜在的局部紧Hausdorff空间，$d_k$度量概率测度的弱收敛当且仅当$k$是连续的和特征。
2019-12-17 math.FA math.PR stat.ML
A simpler condition for consistency of a kernel independence test
可以使用希尔伯特-施密特独立性准则（HSIC）作为检验统计量来构建独立性的统计检验。HSIC被定义为在再生核希尔伯特空间（RKHS）中联合分布的嵌入与边缘的乘积的嵌入之间的距离。先前已经表明，当用于定义联合嵌入的核是特征的（即，联合分布到特征空间的嵌入是单射的）时，则基于HSIC的测试是一致的。特别地，对于单个域上的核的乘积在联合域上是特征性的就足够了。在本文中，通过Lyons（2013）的结果建立了基于HSIC的独立性测试是一致的，当边缘上的核在其各自的域上是特征时，即使核的乘积在联合域上不是特征。
2015-01-25 stat.ML
Reproducing Kernel Hilbert Space, Mercer's Theorem, Eigenfunctions, Nyström Method, and Use of Kernels in Machine Learning: Tutorial and Survey
University of Waterloo（滑铁卢大学）
这是一篇关于内核、核方法和相关领域的教程和综述论文。我们首先回顾核函数分析和机器学习的历史。然后，Mercer核，Hilbert和Banach空间，再生核Hilbert空间（RKHS），Mercer定理及其证明，常用的核，核构造距离度量，重要的核类别（包括有界，整体正定，泛，平稳，和特征核），核中心化和归一化，和特征函数进行了详细的解释。然后，我们介绍了核在机器学习中的使用类型，包括核方法（如核支持向量机），半定规划核学习，Hilbert-Schmidt独立性准则，最大均值差异，核均值嵌入和核降维。我们还涵盖了核矩阵的秩和因子分解以及使用Nystr{<$}m方法对特征函数和核的近似。这篇论文可以用于各种科学领域，包括机器学习，降维，数学中的泛函分析和量子力学中的数学物理。
2021-06-15 cs.LG math.FA stat.ML
Dependence and dependence structures: estimation and visualization using the unifying concept of distance multivariance
距离多变量是一种多变量相关性度量，它可以检测任意数量的随机向量之间的相关性，每个随机向量可以具有不同的维度。在这里，我们讨论了几个新的方面，提出了一个简洁的概述，并使用它作为基础上的几个新的结果和概念：特别是，我们表明，距离多变量统一（和扩展）距离协方差和希尔伯特-施密特独立准则HSIC，此外还经典的线性相关措施：协方差，皮尔逊相关性和RV系数出现的限制情况。基于距离多变量定义了几个新的措施：一个多相关，它满足一个自然集的多元相关性测量公理和$m$ -多变量，这是一个依赖措施产生测试成对独立性和独立性的高阶。这些测试在计算上是可行的，并且在非常温和的力矩条件下，它们与所有备选方案一致。此外，提出了一个一般的可视化方案，高阶依赖关系，包括一致的估计（基于距离多变量）的依赖结构。提供了许多说明性的例子。在应用程序中使用距离多变量的所有函数都发布在R软件包“多变量”中。
2019-08-06 math.PR math.ST stat.ME
SCMD: A Kernel-Based Distance for Structural Causal Models to Quantify Transferability Across Environments
Univ Grenoble Alpes, CNRS, Grenoble INP, LIG（格勒诺布尔阿尔卑斯大学，法国国家科学研究中心，格勒诺布尔理工学院，信息学实验室）
本文提出结构因果模型距离（SCMD），一种基于核的距离度量，结合分布比较与干预比较，量化跨环境因果结构差异，为评估因果可迁移性提供理论保证与实验验证。
2025-10-23 math.ST stat.TH
Measuring and testing dependence by correlation of distances
距离相关是一种新的度量随机向量之间相关性的方法。距离协方差和距离相关性类似于积矩协方差和相关性，但与相关性的经典定义不同，距离相关性仅在随机向量独立时为零。经验距离依赖性度量基于样本元素之间的某些欧几里得距离，而不是样本矩，但具有类似于经典协方差和相关性的紧凑表示。讨论了渐近性质及其在独立性检验中的应用。实施的测试和Monte Carlo结果也被提出。
2008-03-28 math.ST stat.TH
Notes on the interpretation of dependence measures
除了经典的相关性和相关性的区别之外，许多相关性度量在其应用和解释中存在进一步的陷阱。本文的目的是明确讨论皮尔逊相关性和多元依赖措施：距离相关性，距离多相关性和Copula版本，以提高和回忆意识的一些限制。讨论的方面包括依赖的类型，经验措施的偏差，边缘分布和尺寸的影响。一般来说，建议使用适当的相关性度量，而不是Pearson相关性。此外，一个无分布（至少在某种意义上）的测量可以帮助避免某些系统误差。然而，在一个真正的多变量设置中，只有相应的独立性检验的p值总是提供具有不容置疑的解释的值。
2020-04-16 math.ST stat.ME stat.TH
Goodness-of-Fit Testing for Time Series Models via Distance Covariance
在许多统计建模框架中，通常对估计残差进行拟合优度检验。在时间序列设置中，使用样本自相关函数评估残差的白度。对于许多时间序列模型，特别是那些用于金融时间序列的模型，关于残差的关键假设是它们实际上是独立的，而不仅仅是不相关的。在本文中，我们应用自距离协方差函数（ADCV）来评估估计残差的序列相关性。距离协方差可以区分两个随机向量的相依性和独立性。对于一般的一类时间序列模型，导出了基于ADCV的检验统计量的极限行为。该理论的一个关键方面是调整由于参数估计而产生的相关性。无论型号规格如何，该调整基本上具有相同的形式。我们在模拟的例子中说明了结果。
2019-03-02 math.ST stat.ME stat.TH
Generalizing Distance Covariance to Measure and Test Multivariate Mutual Dependence
我们提出了三种多个随机向量之间相互依赖的度量。所有测度为零当且仅当随机向量相互独立。第一个度量将距离协方差从成对依赖推广到相互依赖，而另外两个度量是距离协方差的平方和。所有的措施共享类似的性质和渐近分布的距离协方差，并捕捉非线性和非单调的相互依赖的随机向量。受完全和不完全V-统计量的启发，我们定义了经验测度和简化的经验测度，作为检验相互独立性时复杂性和功效之间的权衡。仿真结果和实际数据的例子证明了测试的实施。
2018-02-25 math.ST stat.AP stat.CO
Copula versions of distance multivariance and dHSIC via the distributional transform -- a general approach to construct invariant dependence measures
多变量Hilbert-Schmidt-Independence-Criterion（dHSIC）和距离多变量允许测量和测试任意数量的具有任意维度的随机向量的独立性。在这里，我们定义的版本，只依赖于一个潜在的copula。该方法是基于分布变换，产生的依赖措施，总是具有自然的不变性缩放和翻译。此外，它不需要分布假设，即，分布可以是纯类型的或者离散和连续分布的任何混合，并且（在我们的设置中）不需要存在矩。经验估计和测试，这是一致的对所有的替代品，提供基于蒙特卡罗分布变换。特别是，它表明，新的估计继承了原估计的精确极限分布特性。实例表明，测试的基础上的新措施，可以更强大的测试的基础上，其他Copula依赖措施。
2020-03-10 math.PR math.ST stat.ME
A geometric view on Pearson's correlation coefficient and a generalization of it to non-linear dependencies
测量两个随机变量之间的统计相关性的强度或程度是许多领域中的常见问题。Pearson相关系数$ρ$是线性相关性的准确度量。我们表明，$ρ$是一个规范化的，欧氏型距离联合概率分布的两个随机变量，当他们的独立性，同时保持其边缘分布。归一化常数是两个最大距离的几何平均值，每个最大距离在假设完全线性相关而保持各自的边缘分布时的联合概率分布与假设独立时的联合概率分布之间。它的使用仅限于线性依赖，因为它基于通常不是度量的欧几里得类型距离，并且认为完全依赖是线性的。因此，我们认为，如果使用合适的距离度量，同时考虑所有可能的最大依赖，那么它可以测量任何非线性依赖。但是，我们必须定义所有的完全依赖性。Hellinger距离是一种度量，可以用来度量概率分布之间的距离，并得到离散情况下$ρ$的推广。
2018-04-21 math.ST stat.TH
Quantifying Long-Range Dependence in Object-Valued Time Series
University of Sydney（悉尼大学）；Macquarie University（麦考瑞大学）
针对缺乏线性结构的对象值时间序列，提出基于负类型度量空间等距嵌入与滞后协方差算子迹的内在框架，定义并估计长记忆参数，通过距离度量实现估计，模拟验证偏差减少，并在外汇和发电数据中发现长记忆证据。
2026-11-10 math.ST stat.ME stat.TH
Distance multivariance: New dependence measures for random vectors
我们引入了两个新的措施，$n \ge 2$随机变量的相关性：距离多元和总距离多元。这两种测量都是基于与底层随机变量的特征函数相关的量的加权$L^2$ -距离。这些扩展的距离协方差（介绍了Székely，Rizzo和Bakirov）从对随机变量的$n$ -元组的随机变量。我们表明，总距离多变量可以用来检测$n$随机变量的独立性，并有一个简单的有限样本表示的距离矩阵的样本点，距离是由一个连续的负定函数。在一些温和的时刻条件下，这导致了测试的独立性的多个随机向量，这是一致的对所有的替代品。
2018-10-17 math.PR math.ST stat.TH
Correlation bounds, mixing and m-dependence under random time-varying network distances with an application to Cox-Processes
该研究针对动态网络下的多元随机过程，提出基于相关性、时变β-混合与条件独立性的三类弱依赖概念并证明相关结果，还将其用于动态交互网络拟合优度检验的渐近分析及共享单车数据建模。
2020-08-17 math.ST stat.TH
Dependence uncertainty bounds for the energy score and the multivariate Gini mean difference
能量距离和能量分数是近年来多元统计和多元概率预测的重要工具。它们都是基于两个独立样本的期望距离。在本文中，我们研究的依赖不确定性界这些量的假设下，我们知道的边际，但不知道的依赖结构。我们发现了一些有趣的尖锐的解析界，其中之一是获得一个不寻常的球对称Copula。这些结果应该有助于更好地理解这些措施的敏感性，在Copula误指定。
2020-04-24 math.PR math.ST stat.ME
Measures of Dependence based on Wasserstein distances
Luiss University, Italy（卢伊斯大学）；Bocconi University, Italy（博科尼大学）
本文综述了基于Wasserstein距离的随机变量相依性度量方法，涵盖两种主要途径及关键性质，并提出度量偏离最大相依性的新视角。
2026-09-24 math.PR math.ST stat.TH
Applications of Distance Correlation to Time Series
使用经验特征函数解决推理问题，包括在某些特殊参数设置下的估计和拟合拟合优度检验，有着悠久的历史，可以追溯到70年代（例如，参见Feuerverger和Mureika（1977），Csorgo（1981 a，1981 b，1981 c），Feuerverger（1993））。最近，在其他推理设置中使用经验特征函数已经重新引起了人们的兴趣。由Szekely和Rizzo（2009）开发的用于测量两个随机向量之间的依赖性和测试独立性的距离协方差和相关性，可能是对此最著名的说明。我们将这些想法应用到平稳的单变量和多元时间序列来测量时间序列中的滞后自相关性和交叉相关性。在强混合假设下，我们建立了样本自相关函数和交叉距离相关函数的渐近理论。我们也将自距离相关函数（ADCF）应用于自回归过程的残差，作为拟合拟合优度的检验。在自回归模型为真的情况下，经验ADCF的极限分布与基于iid序列的极限分布有很大不同。我们说明了使用的经验自动和交叉距离相关函数测试的依赖性和交叉依赖的时间序列在各种不同的情况下。
2016-06-17 math.ST stat.TH
Why the 1-Wasserstein distance is the area between the two marginal CDFs
我们阐明了为什么1-Wasserstein距离$W_1$与两个边缘累积分布函数（CDF）之间的区域相吻合。我们首先描述的Wasserstein距离的Copula，然后表明，$W_1$与欧几里德距离的$M$ Copula。由$M$ Copula给出相关性的两个随机变量表现出完全（正）相关性。如果我们用它们的CDF来表示随机变量，则直观地看到两个这样的随机变量之间的距离与两个CDF之间的面积一致。
2021-11-05 math.PR math.ST stat.TH
Detecting independence of random vectors: generalized distance covariance and Gaussian covariance
距离协方差是度量两个随机向量之间相关性的一个量。我们表明，最初的概念介绍和发展的Székely，Rizzo和Bakirov可以嵌入到一个更一般的框架的基础上对称Lévy措施和相应的实值连续负定函数。Lévy测度取代了距离协方差原始定义中使用的权函数。距离协方差的所有基本属性都保留在这个新的框架。从实际的角度来看，这允许对基础随机变量的限制性较小的矩条件，并且可以使用除了欧几里得距离之外的其他距离函数，例如Minkowski距离。最重要的是，它作为距离多变量的基本构建块，距离多变量是测量和估计多个随机向量的相关性的量，这在后续论文[距离多变量：随机向量的新相关性测量（提交）]中介绍。arXiv的修订版本：1711.07775v1]。
2018-10-23 math.PR math.ST stat.TH
Mutual Dependence: A Novel Method for Computing Dependencies Between Random Variables
在数据科学中，经常需要估计不同数据源之间的依赖关系。这些依赖性通常使用皮尔逊相关性、距离相关性和/或互信息来计算。然而，这些措施都不满足所有的格兰杰公理的“理想措施”。格兰杰自己提出的一个这样的理想度量，计算联合密度函数（pdf）和边际pdf的乘积之间的巴塔查里亚距离。我们称这种度量为相互依赖。然而，迄今为止，这一措施还不能直接从数据中计算出来。在本文中，我们使用我们最近推出的最大似然非参数估计带限PDF，计算的相互依赖直接从数据。我们构建了相互依赖的估计，并通过计算收敛速度，计算复杂性和捕获非线性依赖关系的能力，将其性能与不同已知PDF的标准度量（Pearson和距离相关性）进行比较。我们的相互依赖估计器需要更少的样本来收敛到理论值，计算速度更快，并且比标准度量捕获更复杂的依赖关系。
2015-06-01 math.ST stat.ML stat.TH
Eigenvalue distribution of a high-dimensional distance covariance matrix with application
本文提出了一种新的随机矩阵模型--距离协方差阵，它的归一化迹等价于距离协方差。我们首先推导出当向量的维数和样本量同时趋于无穷大时，距离协方差阵的特征值分布的确定性极限。当向量通过有限秩扰动独立或弱相关时，该极限是有效的。它也是通用的，并且与向量分布的细节无关。此外，该距离协方差阵的顶部特征值服从一个精确的相变时的向量的依赖是有限秩。这一发现使得一个新的检测器的建设，这种弱的依赖性，经典的方法的基础上大样本协方差阵或样本典型的相关性可能会失败，在所考虑的高维框架。
2021-05-17 math.ST stat.TH
Improved distance correlation estimation
本文针对距离相关性估计中V统计量有偏、U统计量在独立或近独立情形下因负值不可计算的问题，提出一种凸线性组合估计方法，在不同依赖结构下均取得良好效果并兼顾计算效率。
2024-05-03 math.ST stat.CO stat.TH
