Covariance Estimation for Matrix-variate Data via Fixed-rank Core Covariance Geometry
Duke University(杜克大学)
研究固定秩核心协方差流形的几何结构,提出部分各向同性核心收缩估计器。
2026-04-11 math.DG stat.ME
Nonnegative Low-rank Matrix Recovery Can Have Spurious Local Minima
Dept. of Electrical and Computer Engineering University of Illinois at Urbana-Champaign(电气与计算机工程系伊利诺伊大学厄巴纳-香槟分校)
研究发现非负低秩矩阵恢复在特定条件下存在虚假局部极小值,挑战了非凸方法的经验成功解释。
2026-01-21 cs.LG math.OC stat.ML
Bergsma--Dassios sign covariance with ties: a nonnegative decomposition and sharp bounds
London School of Economics and Political Science(伦敦政治经济学院)
本文证明了 Bergsma--Dassios 符号协方差非负性猜想,通过平局对称化分解为两个非负分量,并给出锐利不等式界。
2026-09-11 math.ST stat.TH
Active covariance estimation by random sub-sampling of variables
University of Southern California(南加州大学)
研究部分观测随机向量的协方差阵估计问题,其中不同样本包含不同的向量坐标子集。每个观测值都是目标变量与$0-1$伯努利随机变量的乘积。在此模型下,我们分析了一个无偏协方差估计,并推导出一个误差界,揭示了子采样概率和协方差阵的元素之间的关系。我们将我们的分析应用在主动学习框架中,其中观测变量的预期数量与感兴趣的向量的维度相比很小,并提出了最优子采样概率的设计和主动协方差阵估计算法。
2018-04-04 cs.LG stat.ML
On Block Cholesky Decomposition for Sparse Inverse Covariance Estimation
本文提出分块 Cholesky 分解(BCD),在仅已知组间排序、组内无排序的条件下估计稀疏逆协方差矩阵,统一修正 Cholesky 分解与 Graphical lasso,并保证正定性和可解释性。
2023-08-18 stat.ME
Fast Multichannel Source Separation Based on Jointly Diagonalizable Spatial Covariance Matrices
Center for Advanced Intelligence Project (AIP), RIKEN(理化学研究所先进智能项目中心);Graduate School of Informatics, Kyoto University(京都大学信息学研究生院);National Institute of Advanced Industrial Science and Technology (AIST)(产业技术综合研究所)
本文介绍了一种通用的方法,加速多通道声源分离方法的基础上满秩空间建模。多通道声源分离的一种流行方法是将空间模型与源模型相结合,用于估计每个声源在时频域中的空间协方差矩阵(SCM)和功率谱密度(PSD)。这种方法最成功的例子之一是基于满秩空间模型和低秩源模型的多通道非负矩阵分解(MNMF)。然而,MNMF是计算昂贵的,往往工作不佳,由于估计的无约束满秩SCM的困难。而不是限制的SCM秩-1矩阵的空间建模能力的严重损失,在独立的低秩矩阵分析(ILRMA),我们限制的SCM的每个频率箱联合对角化,但仍然满秩矩阵。对于这样一个快速版本的MNMF,我们提出了一个计算效率和收敛保证算法,是类似的形式ILRMA。同样,我们提出了一种基于深度语音模型和低秩噪声模型的最先进语音增强方法的快速版本。实验结果表明,快速版本的MNMF和深度语音增强方法的速度是几倍,甚至比这些方法的原始版本更好。
2019-03-08 cs.LG cs.SD eess.AS
Limit theorems for long memory stochastic volatility models with infinite variance: Partial Sums and Sample Covariances
长记忆随机波动率(LMSV)模型捕捉了金融数据的两个标准化特征:对数收益率是不相关的,但它们的平方或绝对值是(高度)相关的,并且它们可能具有厚尾。引入了EGESTAR和相关模型来模拟杠杆,即以前的回报与未来波动之间的负相关性。部分和、样本方差和样本协方差的极限定理是研究长记忆和重尾现象及其后果的基本工具。本文推广了已有文献中关于无穷方差情形下长记忆随机波动率模型部分和与样本协方差的渐近性态。我们还考虑了具有杠杆的模型,我们的结果在无限方差的情况下是全新的。根据尾部行为和依赖强度之间的相互作用,可以出现两种类型的收敛速率和极限分布。特别是,我们表明,部分和的渐近行为是相同的LMSV和杠杆模型,而有一个至关重要的区别时,样本协方差被认为是。
2012-03-22 math.ST stat.TH
Information Geometry and Asymptotics for Kronecker Covariances
本文研究了 Kronecker 结构协方差估计量的信息几何与渐近行为,发现 partial trace 估计量渐近无效,提出了渐近有效的重缩放估计量与正交参数化方法,并证明了高维一致性及维度红利。
2023-08-04 math.ST stat.TH
Graph quilting: graphical model selection from partially observed covariances
图形模型选择是一个看似不可能的任务时,许多对变量从来没有联合观察;这需要推断的条件依赖关系,没有相应的边际依赖关系的观察。例如,当在非同时会话中记录不同的部分重叠的神经元子集时,神经成像中出现了这种未被探索的统计问题。我们把这个统计挑战称为“图绗缝”问题。我们研究这个问题的背景下,稀疏逆协方差学习,并专注于高斯图形模型,我们表明,缺失的部分的协方差阵产生一个无法识别的精度矩阵指定的图形。尽管如此,我们表明,在温和的条件下,有可能正确地识别连接所观察到的节点对的边缘。此外,我们表明,我们可以恢复一个最小的超集的边缘连接变量,从来没有共同观察。因此,即使边缘关系未被观察到,人们也可以推断出条件关系,这是一个令人惊讶的结果!为了实现这一点,我们提出了一个$\ell_1$正则化的部分观察基于似然图估计,并提供性能保证人口和高维有限样本设置。我们使用合成数据说明我们的方法,以及从钙成像数据学习功能神经连接。
2023-02-15 math.ST stat.TH
Towards Conditional Path Analysis
本文推广了通径分析,给出了由两个随机变量的协方差计算其偏协方差的充分条件。这具体是通过用某些偏方差比的乘积来校正协方差来完成的。因此,偏协方差保留了协方差的显著特征,即在两个感兴趣的变量之间的路径中的边缘上进行因子分解。
2020-12-21 math.ST stat.ME stat.TH
Partial estimation of covariance matrices
精确估计p变量正态分布协方差矩阵的经典方法是抽取一个大小为n > p的样本,并形成一个样本协方差阵。然而,许多现代应用程序操作的小得多的样本量,从而要求在制度n <<p的估计保证。我们表明,一个样本的大小n = O(m log^6 p)是足够的,以准确地估计在运营商范数的任意对称部分组成的m < n个条目每行。这是由估计Hadamard积M. M的一般结果得出的,其中M是任意对称矩阵。
2011-02-11 math.PR math.ST stat.TH
Bergsma--Dassios Sign Covariance Characterises Independence for Arbitrary Real-Valued Bivariate Laws
Shanghai Institute of Nutrition and Health, Chinese Academy of Science(中国科学院上海营养与健康研究所)
该研究证明Bergsma--Dassios符号协方差τ*=0可刻画任意实值二元分布的独立性,通过标记路径树等方法推导定量不等式,还得到二元系统发育树四分距离的渐近2/3上界。
2026-09-01 math.ST stat.TH
Partial Distance Correlation with Methods for Dissimilarities
距离协方差和距离相关是表征随机向量在任意维度上独立性的标量系数。最近的文献中讨论了距离相关的性质、扩展和应用,但定义部分距离相关的问题仍然是一个相当感兴趣的公开问题。部分距离相关的问题比部分相关更复杂,部分原因是平方距离协方差在通常的线性空间中不是内积。对于部分距离相关的定义,我们引入了一个新的希尔伯特空间,其中平方距离协方差是内积。我们定义的部分距离相关统计的帮助下,这个希尔伯特空间,并开发和实现零部分距离相关性的测试。我们的中间结果提供了一个无偏估计量的平方距离协方差,和一个整洁的解决方案的问题的距离相关性相异性,而不是距离。
2014-07-08 math.ST stat.ME stat.TH
Parameter Estimation for Partially Observed Affine and Polynomial Processes
Christian-Albrechts-Universität zu Kiel(基尔大学)
针对部分观测多项式状态空间模型,利用多项式结构显式计算高斯拟似然估计及其渐近协方差矩阵,证明了估计序列的一致性和渐近正态性。
2026-06-17 math.ST stat.TH
Learning partial correlation graphs and graphical models by covariance queries
ICREA(加泰罗尼亚研究与高级研究所);Pompeu Fabra University(庞培法布拉大学);Barcelona School of Economics(巴塞罗那经济学院);LIRMM(蒙彼利埃计算机科学与微电子实验室);CNRS(法国国家科学研究中心);Université de Montpellier(蒙彼利埃大学);University of Gothenburg(哥德堡大学);Hebrew University of Jerusalem(耶路撒冷希伯来大学)
我们研究的问题,恢复大高斯图形模型的结构,或更一般地说,偏相关图。在高维问题中,存储整个样本协方差阵的成本往往太高。我们提出了一个新的输入模型,其中可以查询的协方差阵的单个条目。我们证明了它是可能的,以较低的查询和计算复杂性恢复逆协方差阵的支持。我们的算法工作在一个政权时,这种支持是由树状图,更一般地说,小树宽的图形。我们的研究结果表明,对于大类的图,相应的偏相关图的结构可以确定得更快,甚至比计算经验的协方差阵。
2021-10-12 cs.DS cs.LG math.ST
Linear spectral statistics of sequential sample covariance matrices
独立$p$ -具有独立复值或实值项的维向量,使得$\mathbb{E} [\mathbf{x}_i] = \mathbf{0}$、${\rm Var } (\mathbf{x}_i) = \mathbf{I}_p$、$i=1, \ldots,n$,令$\mathbf{T }_n$为$p \times p$厄密非负定矩阵,$f $为给定函数。我们证明了一个适当的标准化版本的随机过程$ \big ( {\operatorname{tr}} ( f(\mathbf{B}_{n,t}) ) \big )_{t \in [t_0, 1]} $对应的线性谱统计的顺序经验协方差估计$$ \big ( \mathbf{B}_{n,t} )_{t\in [ t_0 , 1]} = \Big ( \frac{1}{n} \sum_{i=1}^{\lfloor n t \rfloor} \mathbf{T }^{1/2}_n \mathbf{x}_i \mathbf{x}_i ^\star \mathbf{T }^{1/2}_n \Big)_{t\in [ t_0 , 1]} $$弱收敛到一个非标准的高斯过程$n,p\to\infty$。作为一个应用程序,我们使用这些结果来开发一种新的方法,用于监测在高维框架中的球形假设,即使底层数据的维度大于样本大小。
2021-07-23 math.PR math.ST stat.TH
No Eigenvalues Outside the Support of the Limiting Spectral Distribution of Large Dimensional noncentral Sample Covariance Matrices
设$ \bbB_n =\frac{1}{n}(\bbR_n + \bbT^{1/2}_n \bbX_n)(\bbR_n + \bbT^{1/2}_n \bbX_n)^* $,其中$ \bbX_n $是具有独立标准化随机变量的$ p \times n $矩阵,$ \bbR_n $是$ p \times n $非随机矩阵,$ \bbT_{n} $是$ p \times p $非随机、非负定厄米特矩阵。矩阵$\bbB_n$被称为信息加噪声型矩阵,其中$\bbR_n$包含信息,而$\bbT^{1/2}_n \bbX_n$是具有协方差矩阵$\bbT_{n} $的噪声矩阵。我们知道,作为$ n \to \infty $,如果$ p/n $收敛到一个正数,那么在某些温和的条件下,$ \bbB_n $的经验谱分布几乎必然收敛到一个非随机极限。在本文中,我们证明了,在一定的条件下的特征值的$ \bbR_n $和$ \bbT_n $,对于任何封闭的区间以外的支持的限制谱分布,概率为1,将有没有特征值落在这个区间的所有$ n $足够大。
2023-03-22 math.PR math.ST stat.TH
Time series forecasting from partial observations via Non-negative Matrix Factorization
Institut Camille Jordan, Ecole Centrale Lyon(让-卡米尔·约当研究所,中央理工大学);Institut Universitaire de France(法国大学研究院)
提出滑动掩码方法(SMM)结合非负矩阵补全进行多非负时间序列预测,通过掩码原型矩阵分解(mAMF)和掩码归一化非负矩阵分解(mNMF)实现,理论证明恢复误差与噪声成比例,实验优于Transformer、LSTM等方法。
2026-06-09 cs.LG math.ST stat.ML
Modeling of Stationary Periodic Time Series by ARMA Representations
这是一个调查的一些最近的结果理性循环协方差扩展问题:给定一个部分序列$(c_0,c_1,\dots,c_n)$的协方差滞后$c_k=\mathbb{E}\{y(t+k)\overline{y(t)}\}$源自一个平稳的周期过程$\{y(t)\}$与周期$2N>2n$,找到所有可能的合理的谱函数$\{y(t)\}$的程度最多$2n$,或等价地,所有双边和单边ARMA模型的阶最多$n$,有这个偏协方差序列。每个表示作为一对对偶凸优化问题的解而获得。这个理论,然后重新制定的循环矩阵和互惠过程的连接和协方差选择问题的解释。接下来,它是如何理论可以扩展到多变量的情况下。最后给出了一个在图像处理中的应用。
2015-12-17 math.ST stat.TH
Adaptive Functional Thresholding for Sparse Covariance Function Estimation in High Dimensions
Covariance function estimation is a fundamental task in multivariate functional data analysis and arises in many applications. In this paper, we consider estimating sparse covariance functions for high-dimensional functional data, where the number of random functions p is comparable to, or even larger than the sample size n. Aided by the Hilbert--Schmidt norm of functions, we introduce a new class of functional thresholding operators that combine functional versions of thresholding and shrinkage, and propose the adaptive functional thresholding estimator by incorporating the variance effects o…
2022-07-14 math.ST stat.ME stat.TH
Partial Separability and Functional Graphical Models for Multivariate Gaussian Processes
多元函数数据的协方差结构可能非常复杂,特别是如果多元维度很大,这使得将标准多元数据的统计方法扩展到函数数据设置具有挑战性。例如,高斯图形模型最近已被扩展到设置多元函数数据,通过应用多元方法截断基展开的系数。然而,与多变量数据相比,一个关键的困难是协方差算子是紧凑的,因此不可逆。在本文中的方法解决了一般问题的协方差建模的多元函数数据,特别是功能高斯图形模型。作为第一步,提出了一个新的概念的多元函数数据的协方差算子的可分性,称为部分可分性,导致一个新的Karhunen-Loève型扩展这样的数据。接下来,部分可分性结构被证明是特别有用的,以提供一个定义良好的功能高斯图形模型,可以确定与一系列的有限维图形模型,每个相同的固定尺寸。这促使一个简单而有效的估计程序,通过联合图形套索的应用。通过模拟和分析运动任务期间的功能性大脑连接来评估图形模型估计方法的经验性能。通过模拟和分析运动任务期间的功能性大脑连接来评估用于图形模型估计的方法的经验性能。
2022-01-04 math.ST stat.ME stat.ML
Exact Separation of Eigenvalues of Large Dimensional Noncentral Sample Covariance Matrices
本文研究大维非中心样本协方差矩阵的极限谱分布,证明在极限谱支撑之外的区间上存在精确分离现象,即特征值以概率一按正确数量分布于区间两侧。
2023-08-13 math.PR math.ST stat.TH