Online Covariance Matrix Estimation in Stochastic Gradient Descent
University of Chicago(芝加哥大学);New York University(纽约大学)
随机梯度下降(SGD)算法被广泛应用于参数估计,特别是大数据集和在线学习。虽然这种递归算法是流行的计算和内存效率,量化的可变性和随机性的解决方案很少被研究。本文旨在在线环境下对基于SGD的估计值进行统计推断。特别是,我们提出了一个完全在线估计协方差阵的平均SGD迭代(ASGD)只使用从SGD迭代。我们正式建立我们的在线估计的一致性,并表明收敛速度与离线同行。基于ASGD的经典渐近正态性结果,构造了模型参数的渐近有效置信区间。在接收到新的观测值后,我们可以快速更新协方差阵估计值和置信区间。这种方法适合在线设置,并充分利用SGD:计算和内存效率。
2021-06-22 cs.LG stat.ML
The covariance matrix of Green's functions and its application to machine learning
Kogakuin University(工学院大学)
本文提出并实现了一种基于格林函数理论的回归算法。本文首先综述了二阶线性常微分方程Dirichlet边值问题的Green函数,它是一个合适的Hilbert空间的再生核。接下来我们考虑一个由归一化格林函数组成的协方差阵,它被认为是一个概率密度函数。通过支持贝叶斯方法,协方差阵给出了预测分布,该分布具有预测均值$μ$和置信区间[ $μ$-2 s,$μ$ +2 s],其中s代表标准差。
2020-04-14 cs.LG stat.ML
Further Results on Controlling the False Discovery Rate in Two-Sided Gaussian Mean Testing
Temple University(天普大学)
本文针对任意依赖下双侧高斯均值检验,推导了BH程序FDR的依赖自适应界,提出了协方差未知时具有限样本FDR保证的置信界移位BH程序,验证了其性能优势。
2026-08-25 math.ST stat.ME stat.TH
Covariance Regression with High-Dimensional Predictors
本文提出融合数据分割、变量选择、低维估计聚合与稳健方差估计的高维协方差回归推断方法,可构建可靠置信区间,并在模拟和HCP衰老脑影像研究中验证有效。
2024-04-10 math.ST stat.ME stat.TH
Optimal rates for estimating the covariance kernel from synchronously sampled functional data
研究同步离散观测随机过程的协方差核在上确界范数下的估计问题,给出极小极大最优速率、下界及置信集理论基础,并扩展至偏导数与异步设计。
2025-09-01 math.ST stat.ME stat.TH
Confidence Intervals for Low-Dimensional Parameters in High-Dimensional Linear Models
本文的目的是提出用高维数据对低维参数进行统计推断的方法。我们专注于构建置信区间的个别系数和线性组合的几个线性回归模型,虽然我们的想法是适用于更广泛的背景下。本文给出的理论结果为估计量的渐近正态性提供了充分条件,并给出了有限维协方差阵矩阵的相合估计量.这些充分条件允许变量的数量远远超过样本量。仿真结果证明了所提出的置信区间的覆盖概率的准确性,有力地支持了理论结果。
2012-11-02 stat.ME
Local Quadratic Spectral and Covariance Matrix Estimation
本文重新讨论了多元时间序列谱密度矩阵$f(w)$的估计问题,特别着重讨论了频率$w=0$和$w=π$。认识到在这两个边界点的谱密度矩阵的条目是实值的,我们提出了一个新的估计构造从本地多项式回归的实部的多元周期图。$w=0$情况特别重要,因为$f(0)$与样本均值的大样本协方差阵相关;因此,估计$f(0)$对于对均值进行任何类型的统计推断至关重要。我们通过理论和模拟来探索局部多项式估计的性质,并讨论其在通货膨胀和失业问题中的应用。
2022-12-05 stat.ME
Confidence bands for Horvitz-Thompson estimators using sampled noisy functional data
当函数数据的集合太大而无法穷尽地观察时,调查抽样技术提供了一种有效的方法来估计全局量,如总体平均函数。假设功能数据收集从一个有限总体根据概率抽样方案,与测量是离散的时间和噪声,我们建议首先平滑的采样轨迹与本地多项式,然后估计的平均函数与Horvitz-Thompson估计。在对总体规模、观测次数、轨迹的正则性、采样方案和平滑带宽等条件较弱的情况下,证明了连续函数空间中的一个中心极限定理.我们还建立了一个协方差函数估计的一致相合性,并应用前面的结果来建立均值函数的置信带。频带达到标称覆盖,并通过高斯过程模拟条件下的估计协方差函数。为了选择带宽,我们提出了一种交叉验证方法,占抽样权重。仿真研究评估我们的方法的性能,并强调采样方案和带宽选择的影响。
2013-12-11 math.ST stat.ME stat.TH
Semiparametric estimation of spectral density function for irregular spatial data
空间过程协方差结构的估计在空间统计学中具有重要意义。在文献中,几个非参数和半参数的方法已经发展到估计的协方差结构的基础上的频谱表示的协方差函数。然而,他们要么忽略了频谱密度的高频特性,这是必不可少的,以确定性能的插值程序,如克里格,或缺乏理论依据。提出了一种新的半参数方法来估计各向同性空间过程的谱密度。在低频率的谱密度函数估计使用平滑样条,而在高频率的谱密度的参数模型,和参数估计的方法的时刻的方法的基础上的经验变异函数在小滞后。我们推导出所提出的估计的偏差和方差的渐近界。仿真研究表明,我们的方法优于现有的非参数估计的几个性能标准。
2015-08-27 stat.ME
Statistical Inferences Using Large Estimated Covariances for Panel Data and Factor Models
虽然大多数文献中关于高维协方差阵的收敛性结果关注估计协方差阵(和精度矩阵)的准确性,但相对较少了解估计大协方差对统计推断的影响。我们研究两个重要的模型:因子分析和交互效应的面板数据模型,重点研究了基于大协方差估计的结构参数的统计推断和估计效率。为了有效地估计,这两个模型都需要加权主成分(WPC),它依赖于一个高维的权重矩阵。本文使用Fan et al.(2013)的协方差阵估计量导出了一个有效可行的WPC。然而,我们证明了现有的结果大协方差估计的基础上绝对收敛是不适合的统计推断的结构参数。所需要的是一些加权的一致性和相关的收敛速率,这是本文得到的。最后,将该方法应用于美国离婚率数据。我们发现,有效的WPC识别离婚率的离婚法改革的显着影响,它提供了更准确的估计和更严格的置信区间比现有的方法。
2013-11-12 math.ST stat.TH
Asymptotic properties of the first principal component and equality tests of covariance matrices in high-dimension, low-sample-size context
高维数据的一个共同特点是数据维数高,但样本量相对较低。我们称这种数据为HDLSS数据。本文研究了HDLSS下第一主成分的渐近性质,并将其应用于高维数据集协方差阵的相等性检验。当样本量固定和样本量趋于无穷大时,我们考虑HDLSS渐近理论的维数增长。我们引入了一个特征值估计的降噪方法,并提供渐近分布的HDLSS上下文中的最大特征值。我们构造了第一贡献率的置信区间。我们给出了第一PC方向和PC分数的渐近性质。我们将研究结果应用于HDLSS上下文中两个协方差阵的相等性检验。我们给出了数值结果,并讨论了第一个PC的估计和两个协方差阵的相等性检验的性能。
2015-03-25 math.ST stat.TH
Fast and Fair Simultaneous Confidence Bands for Functional Parameters
使用置信区域量化不确定性是统计推断的中心目标。尽管如此,与估计和假设检验相比,功能数据分析中的置信带方法仍然不发达。在这项工作中,我们提出了一个新的方法来构建同时的功能参数估计的置信带。我们的团队拥有许多积极的品质:(1)它们不基于重采样,因此计算速度快,(2)它们是在频带域的分区上的平衡假阳性率的公平性约束下构造的,这有助于典型的全局解释,但也有助于新颖的局部解释,以及(3)它们不需要对全协方差函数的估计,因此可以用于片段函数数据的情况。模拟显示了优秀的有限样本行为,我们的乐队相比,现有的替代品。我们的乐队的实际用途是证明在两个案例研究运动生物力学和片段的增长曲线。
2022-11-11 math.ST stat.ME stat.TH
Cluster on the Subject, Not the Record: Confidence Intervals and Simultaneous Bands for Additive-Hazards Sequential Trial Emulation
University of British Columbia(不列颠哥伦比亚大学);St. Paul’s Hospital(圣保罗医院)
该研究针对加性风险序贯试验模拟,指出行级稳健方差存在反保守性,提出受试者聚类方差和乘子自助法可改善置信区间覆盖率,并通过模拟和实际数据验证了方法有效性,相关代码已整合至steCI R包。
2026-08-04 stat.AP stat.ME
Time-uniform, nonparametric, nonasymptotic confidence sequences
置信序列是在无限时间范围内一致有效的置信区间序列。我们的工作发展的置信度序列的宽度为零,与非渐近覆盖的非参数条件下的保证。我们绘制指数浓度的Cramér-Schiff方法,迭代对数(LIL)定律和序贯概率比检验之间的联系-我们的置信序列是第一个时间一致的扩展;提供第二个紧密的,非渐近的特征;并将第三个推广到非参数设置,包括次高斯和伯恩斯坦条件,自归一化过程和矩阵鞅。我们说明了我们的证明技术的一般性,通过推导出一个numerical-Bernstein界增长的LIL率,以及一个新的上LIL的随机矩阵的总和的最大特征值。最后,我们将我们的方法应用于协方差阵估计和Neyman-Rubin潜在结果模型下的样本平均治疗效果估计。
2022-08-06 math.PR math.ST stat.ME
Edgeworth corrections for the spiked eigenvalues of non-Gaussian sample covariance matrices with applications
KLASMOE and School of Mathematics and Statistics, Northeast Normal University(东北师范大学数学与统计学院)
本文为非高斯数据下的单尖刺和多尖刺场景建立了尖刺特征值的一阶 Edgeworth 展开,借此构建更准确的置信区间并估计尖刺数量,在稳健性和准确性上优于现有方法。
2026-09-24 math.PR math.ST stat.ME
Non-asymptotic approximations for Pearson's chi-square statistic and its application to confidence intervals for strictly convex functions of the probability weights of discrete distributions
本文提出非渐近局部正态近似,用于Pearson卡方统计量,并推导全变差界及分位数耦合不等式,进而为离散分布的负熵等严格凸函数构建置信区间。
2023-09-05 math.PR math.ST stat.ML
The coverage probabililty of confidence intervals in regression after a preliminary F test
考虑一个线性回归模型,其中回归参数beta=(beta_1,.,beta_p)和独立正态误差。假设感兴趣的参数是theta = a^T beta,其中a是指定的。定义s维参数向量tau = C^T beta - t,其中指定C和t。假设我们对原假设H_0:tau = 0和备择假设H_1:tau不等于0进行初步F检验。通常的统计实践是使用相同的数据,基于所选模型已先验地提供给我们(作为真实模型)的假设,然后构建具有标称覆盖率1-α的theta的置信区间。我们称之为θ的朴素1-alpha置信区间。这个假设是错误的,它可能导致这个置信区间的最小覆盖概率远低于1-alpha,使其完全不充分。我们的目标是计算这个最小覆盖概率。很容易找到这个置信区间的覆盖概率的表达式,它是s+1维的多重积分。然而,我们推导出一个新的优雅和计算方便的公式,这个覆盖概率。对于s=2,这个公式是一个三重积分和一个二重积分的和,对于所有s>2,这个公式是一个四重积分和一个二重积分的和。这使得计算朴素置信区间的最小覆盖概率变得容易,而不管s有多大。这个公式的一个非常重要的实际应用是协方差分析。在这种情况下,τ可以被定义为使得H_0表达“平行性”的假设。应用统计学家通常建议对这一假设进行初步的F检验。我们说明了我们的公式的应用与现实生活中的协方差数据集的分析和初步的F检验的“平行性”。我们表明,天真的0.95置信区间具有…
2010-03-11 math.ST stat.TH
On Second-Order Statistics of the Log-Average Periodogram for Gaussian Processes
该研究针对零均值平稳高斯过程,推导了对数平均周期图协方差的近似式,拓展了已有对数周期图协方差研究,同时给出非中心卡方分布非整数阶矩的简洁表达式。
2024-10-09 math.ST stat.TH
Robust Confidence Intervals for Meta-Regression with Interaction Effects
荟萃分析是一种重要的统计技术,用于综合关于同一或密切相关研究问题的多项研究的结果。所谓的荟萃回归通过解释研究水平的协变量来扩展荟萃分析模型。混合效应元回归模型通过适当考虑研究间异质性,为证据合成提供了一个强大的工具。事实上,根据随机效应和调节因子对研究效应进行建模不仅可以检查调节因子的影响,而且通常可以更准确地估计所涉及的参数。然而,由于对特定研究主题的研究数量往往很少,因此在元回归中往往忽略了交互作用。在这项工作中,我们考虑的研究问题(i)如何调节交互影响推理的混合效应元回归模型和(ii)是否有些推理方法比其他更可靠。在这里,我们回顾稳健的方法,置信区间的荟萃回归模型,包括交互作用。这些方法是基于稳健夹心估计的应用,用于估计模型系数向量的方差-协方差阵。此外,我们比较了这些强大的估计在一个广泛的模拟研究的不同版本。因此,我们调查的覆盖范围和长度的七个不同的置信区间在不同的条件下。最后,我们提出一些切实可行的建议。
2023-02-21 stat.AP stat.CO stat.ME
Profile likelihoods for parameters in Gaussian geostatistical models
针对高斯地质统计学模型中方差矩阵分解计算负担大导致剖面似然难以应用的问题,提出利用Matern相关函数族、重新参数化与GPU并行计算的剖面似然方法,证明其参数置信区间覆盖率优于传统Wald型区间。
2023-07-03 stat.CO stat.ME
Estimation of the number of spiked eigenvalues in a covariance matrix by bulk eigenvalue matching analysis
尖峰协方差模型在高维数据分析中得到越来越多的应用。一个基本的问题是确定尖峰特征值的数量,$K$。对于$K$的估计,大多数注意力都集中在使用样本协方差阵的$top$特征值,很少有研究如何利用$bulk$特征值来估计$K$。我们提出了一个原则性的方法,将批量特征值的估计$K$。我们的方法对残差协方差阵施加了一个工作模型,该矩阵被假设为对角矩阵,其条目来自Γ分布。在此模型下,整体特征值渐近接近固定参数分布的分位数。这促使我们提出了一个两步的方法:第一步使用批量特征值来估计这个分布的参数,第二步利用这些参数来帮助估计$K$。所得到的估计量$\hat{K}$将信息聚集在大量的批量特征值中。我们证明了标准加标协方差模型下$\hat{K}$的一致性。我们还提出了一个置信区间估计$K$。我们广泛的仿真研究表明,该方法是强大的,优于现有的方法在一系列的情况下。我们将所提出的方法应用于肺癌微阵列数据集和1000个基因组数据集的分析。
2021-01-06 stat.ME
Fingerprint Analysis for Climate Change Detection and Attribution under a Latent Factor Model
Auburn University(奥本大学)
针对气候变化检测与归因中的最优指纹法,提出尖峰最优指纹框架,利用尖峰协方差估计与变率膨胀调整,改善高维推断,产生更短且校准更好的置信区间,并在多区域得出不同归因结论。
2026-09-15 stat.AP stat.ME
De-biased graphical Lasso for high-frequency data
本文提出了一种新的高维高频数据精度矩阵的统计推断理论。重点不仅在于点估计,而且在于精密度矩阵条目的区间估计和假设检验。为了实现这一目的,我们建立了一个抽象的渐近理论的加权图形Lasso和它的去偏版本没有指定的形式的初始协方差估计。我们还扩展了理论的范围的情况下,一个已知的因素结构是存在于数据中。将所发展的理论应用到可以使用已实现协方差阵作为初始协方差估计量的具体情形中,得到了构造精度阵项的(同时)置信区间和(多重)检验的可行渐近分布理论.
2019-05-04 math.ST stat.TH
Accuracy Assessment for High-dimensional Linear Regression
本文考虑随机设计下高维线性回归中估计量$\ell_q$损失的点估计和区间估计。我们建立了估计$\ell_{q}$损失的Minimax率和回归向量的率最优估计的$\ell_{q}$损失的Minimax期望置信区间长度,包括常用的估计,如Lasso,scaled Lasso,square-root Lasso和Dantzig Lasso。还研究了$\ell_{q}$损失的置信区间的自适应性。研究了同一性设计协方差阵和已知噪声水平的设置以及未知设计协方差阵和未知噪声水平的设置。结果显示,使用$1\le q <2$估计$\ell_2$损失和$\ell_q$损失之间以及两种设置之间存在有趣且显著的差异。新的技术工具的开发,以建立率急剧下降的最小最大估计误差和预期长度的最小和自适应置信区间的$\ell_q$损失。损失估计与传统的参数估计的一个显著区别在于,损失估计的约束条件是回归向量估计量的性能,而下界则是估计其$\ell_q$损失的难度。本文中开发的技术工具也可以是独立的兴趣。
2016-09-24 math.ST stat.TH
Corrected confidence intervals for secondary parameters following sequential tests
修正的置信区间的平均值的二元正态过程中的第二个组件时,被连续监测。这是通过构造一个枢轴量的第一近似值,然后使用非常弱的展开来确定校正项来实现的。在协方差阵已知和未知两种情况下,建立了重正化关键量的渐近抽样分布。所得的近似值具有简单的形式和两个著名的序贯检验的模拟研究的结果表明,它们是非常准确的。通过一个二元数据的实例说明了该方法的实用性。文中给出了主要结果的详细证明。
2006-11-22 math.ST stat.TH
A Geometric Approach to Confidence Regions and Bands for Functional Parameters
功能数据分析,FDA,现在是一个完善的统计学科,其核心概念和观点到位。尽管如此,仍然有一些基本的统计问题得到的关注相对较少。其中之一是功能参数的置信区域的系统构建。这项工作涉及开发,理解和可视化这些区域。我们提供了一个一般的策略,用于构建置信区域在一个真正的可分希尔伯特空间使用超椭圆和超矩形。然后,我们提出了具体的实施,特别是在实践中工作。它们提供了强大的假设检验和有用的可视化工具,而无需使用任何模拟。我们还证明了负面的结果,几乎所有的地区,包括我们自己的,有零覆盖时,与经验协方差。为了克服这一挑战,我们提出了一个新的范例评估置信区域之间的距离估计区域和所需的区域(具有适当的覆盖范围)趋于零的速度比区域收缩到一个点。我们称这种现象为重影,并将经验区域称为重影区域。我们说明了所提出的方法在模拟研究和应用程序的分数各向异性道剖面数据。
2016-08-10 math.ST stat.ME stat.TH
Unbiased Statistical Estimation and Valid Confidence Intervals Under Differential Privacy
提出一种基于BLB和CoinPress广义算法的差分隐私方法,可在高维下生成无偏参数估计和有效置信区间。
2024-02-14 cs.CR math.ST stat.ME
Quantifying deviations from separability in space-time functional processes
时空数据的协方差算子的估计在许多应用中只有在简化的假设下才是计算上可行的,例如协方差可分离为严格的时间和空间因子,文献中已经提出了对这种假设的强有力的检验。然而,由于现实世界的系统,如气候数据是众所周知的不可分割的,通过统计测试来验证这一假设,似乎本质上是有问题的。在本文中,我们提出了一种替代方法:凭借可分性措施,我们量化如何强烈的数据的协方差算子偏离一个可分离的近似。置信区间用统计保证将这些度量局部化。该方法为用户提供了一个灵活的工具,以权衡可分离模型的计算增益与相关的偏差增加。作为可分离的逼近,我们考虑了部分迹和部分乘积的已有方法,并发展了相应估计量的弱收敛原理。此外,我们还证明了这样的结果,估计的最佳,可分离的近似,这可以说是最感兴趣的应用。特别是,我们第一次提出了统计推断这个对象,这一直局限于估计以前。除了置信区间,我们的结果包括近似可分性的测试。本文提出的所有方法都是免费的冗余参数,既不需要计算昂贵的恢复程序,也不需要估计的冗余参数。模拟研究强调了我们的方法的优点,其适用性证明了德国年度温度数据的调查。
2020-03-26 math.ST stat.TH
Confidence Sets under Generalized Self-Concordance
本文从非渐近理论观点$\unicode{x2013}$重新审视统计推断中的一个基本问题--置信集的构造。我们建立了一个有限样本界的估计,其渐近行为的非渐近方式。我们的界限的一个重要特征是,它的维度依赖性是由有效维度$\unicode{x2013}$捕获的,有效维度是极限三明治协方差$\unicode{x2013}$的迹,在某些情况下,它可以比参数维度小小于多。然后,我们说明了如何可以使用的界限,以获得一个置信集,其形状是适应的优化景观诱导的损失函数。不同于以往的作品,严重依赖于强凸性的损失函数,我们只假设海森是下界在最佳状态,并允许它逐渐退化。这个性质是形式化的广义自协调的概念,起源于凸优化。此外,我们展示了如何有效的尺寸可以估计数据和表征其估计精度。我们将我们的结果应用于广义线性模型的极大似然估计,指数族的分数匹配,和Rao的分数检验的假设检验。
2022-12-31 math.ST stat.ML stat.TH
Enhancing Signal Proportion Estimation Through Leveraging Arbitrary Covariance Structures
North Carolina State University(北卡罗来纳州立大学)
本文提出一种利用变量间任意协方差信息的新信号比例估计器,改进了不同稀疏性和依赖结构下的性能,通过理论分析和模拟验证其在估计精度和弱信号检测上的优势。
2026-05-14 math.ST stat.ME stat.ML
Estimation, Confidence Intervals, and Large-Scale Hypotheses Testing for High-Dimensional Mixed Linear Regression
研究了高维混合线性回归模型,其中输出变量来自两个线性回归模型之一,且混合比例未知,随机协变量的协方差结构未知.基于一个高维的期望最大化算法,我们提出了一个迭代过程来估计两个回归向量,并建立其收敛速度。基于迭代估计,我们进一步构造了去偏估计,并证明了它们的渐近正态性。对于单个坐标,构造以去偏估计量为中心的置信区间。此外,提出了一个大规模的多重检验程序来检验的回归系数,并示出控制的错误发现率(FDR)渐近。仿真研究进行了检查所提出的方法的数值性能和现有的方法相比,其优越性。所提出的方法进一步说明,通过分析的数据集的多重图像细胞仪,其中调查的细胞表型,包括20个表位或标记物的组合的表达水平之间的相互作用网络。
2020-11-06 stat.ME stat.ML
Statistical Inference under Adaptive Sampling with LinUCB
本文研究了LinUCB算法在自适应采样下的统计推断问题,证明其满足稳定性性质,从而建立渐近正态性,并提出更紧的置信区间和检验方法。
2025-11-28 cs.LG math.ST stat.ME
Confidence Intervals for the Number of Components in Factor Analysis and Principal Components Analysis via Subsampling
因子分析(FA)和主成分分析(PCA)是总结和解释多元数据集变异性的常用统计方法。默认情况下,FA和PCA假设已知的分量或因子数为\emph{a priori}。然而,在实践中,用户首先估计因子或分量的数量,然后使用点估计进行FA和PCA分析。因此,在实践中,用户忽略因子或分量数量的点估计中的任何不确定性。对于点估计值中的不确定性不可验证的数据集,谨慎的做法是对因子或组分数量的置信区间中的正整数值范围进行FA和PCA分析。我们解决这个问题,提出了一个基于子采样的数据密集型方法估计置信区间的FA和PCA的组件的数量。我们研究了建议的置信区间的覆盖概率,并提供非渐近理论保证的准确性的置信区间。作为一个副产品,我们推导出一阶\emph{Edgeworth expansion}的尖峰特征值的样本协方差阵时,数据矩阵下产生的因素模型。我们还证明了我们的方法的有用性,通过数值模拟和应用我们的方法估计置信区间的基因分型数据集的人类基因组多样性计划的因素的数量。
2022-05-14 math.ST stat.ME stat.TH
Unlocking Insights: Enhanced Analysis of Covariance in General Factorial Designs through Multiple Contrast Tests under Variance Heteroscedasticity
本文将多重对比检验程序(MCTP)扩展至协方差分析,以在方差非齐性下同时检验全局和个体零假设,并提供兼容的同时置信区间,通过多元t分布和Wild-bootstrap方法实现小样本下的准确推断。
2024-04-23 stat.ME
Confidence regions for entries of a large precision matrix
精度矩阵在许多实际应用中起着重要的作用。受现代社会和科学研究中时间相关的多元数据的启发,我们考虑高维时间相关观测的精度矩阵的统计推断。具体来说,我们提出了一个数据驱动的过程来构建一类同时置信区域的精度系数内的索引集的兴趣。置信区域可用于检验精度矩阵的特定结构,并恢复其非零分量。我们首先通过惩罚节点方式的回归构建了底层精度矩阵的估计量,然后在估计精度矩阵和真实精度矩阵之间的最大差异上建立高斯近似结果。一个计算上可行的参数引导算法来实现所提出的过程。理论结果表明,该方法不需要对数据作二阶跨时平稳假设,也不需要对估计的长期协方差作稀疏结构条件。通过对标准普尔500指数收益率数据的仿真研究和实例分析,验证了该方法的有效性。
2018-03-27 stat.ME
Hypothesis tests and model parameter estimation on data sets with missing correlation information
Johannes Gutenberg University Mainz(约翰内斯·古腾堡美因茨大学)
本文提出了一种稳健的检验统计量和算法,用于处理具有缺失相关性信息的数据集中的假设检验和模型参数估计问题。
2025-03-12 astro-ph.IM hep-ph physics.data-an
Implementing MCMC: Multivariate estimation with confidence
本文探讨估计马尔可夫链中心极限定理渐近协方差的关键挑战,总结分批、谱和初始序列等估计技术,针对现代MCMC模拟中正相关导致的负偏问题提出实用建议,并讨论大迭代次数下可行的计算高效方法以提升输出的可靠性与准确性。
2024-08-27 stat.AP stat.CO
A Bures-Wasserstein Formulation of Matrix Decomposition Structural Equation Modeling
Graduate School of Psychology, Kansai University(关西大学心理学研究生院)
该研究提出用Bures-Wasserstein公式化矩阵分解结构方程模型,建立其与协方差结构方程模型的等价关系,证明了估计量的理论性质,且其有限样本性能、数值稳定性优于传统估计量。
2026-08-05 stat.ME
On the mixed-model analysis of covariance in cluster-randomized trials
该研究针对整群随机试验的混合模型ANCOVA方法,证明其在模型任意设定偏误下估计平均处理效应仍具一致性与渐近正态性,明确了特定条件下方差估计与置信区间的有效性,并对比了不同ANCOVA方法的精度,为实践方法选择提供依据。
2023-10-09 stat.ME
Inference for Sparse Conditional Precision Matrices
给予$n$ i.i.d.本文研究了随机向量$(X,Z)$的条件逆协方差阵$Ω(z) = (E[(X-E[X \mid Z])(X-E[X \mid Z])^T \mid Z=z])^{-1}$的估计问题,其中$X$是一个高维向量,$Z$是一个低维指标变量.我们开发了一种新的方法,结合局部常数平滑和组Lasso的思想来估计条件逆协方差阵。采用近似迭代光滑算法求解相应的凸优化问题。我们证明,我们的程序恢复的条件独立性假设的分布$X \mid Z$具有很高的概率。这一结果是建立一个统一的偏差范围的高维条件协方差阵从其人口的对应,这可能是独立的利益。此外,我们开发逐点置信区间的条件逆协方差阵的各个元素。我们进行了广泛的模拟研究,我们证明,我们提出的程序优于明智的竞争对手。我们说明了我们的建议,标准普尔500指数的股票价格数据集。
2014-12-24 stat.ML
Parametric Bootstrap Confidence Intervals for the Multivariate Fay-Herriot Model
多变量Fay-Herriot模型在通过相关变量的小区域调查估计值或相同变量的历史调查估计值或两者之间的相关性来组合信息方面非常有效。虽然小面积估计的文献已经非常丰富,从多元模型的二阶有效置信区间的建设迄今为止很少受到关注。在本文中,我们发展了一个参数bootstrap方法,用于构造一个二阶有效的置信区间的一般线性组合的小面积均值使用多元Fay-Herriot正常模型。提出的参数自助法取代了困难和繁琐的解析推导的高效算法和高速计算机的力量。此外,该方法比解析方法更通用,因为参数自助法可以很容易地应用于任何模型参数估计方法和多元Fay-Herriot模型的方差-协方差阵的任何特定结构,避免了解析方法所需的所有繁琐和耗时的计算。我们应用我们提出的方法在构建置信区间的四口之家的收入中位数为美国的50个州和哥伦比亚特区。我们的数据分析表明,所提出的参数bootstrap方法通常提供更短的置信区间相比,相应的传统的直接方法。此外,从多变量模型得到的置信区间一般比相应的单变量模型短,这表明利用四人家庭的中位数收入与三人和五人家庭的中位数收入的相关性的潜在优势。
2020-06-26 stat.ME
Online Covariance Estimation in Nonsmooth Stochastic Approximation
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(H. Milton Stewart工业与系统工程学院,佐治亚理工学院);Department of Statistics, Texas A&M University(统计学系,德克萨斯大学安德森分校);Department of Statistics, University of California, Davis(统计学系,加州大学戴维斯分校);Wharton Department of Statistics and Data Science, University of Pennsylvania(沃顿统计与数据科学系,宾夕法尼亚大学);Department of Mathematics, University of Washington(数学系,华盛顿大学)
本文研究非光滑且可能非凸变分包含问题中SA方法极限协方差矩阵的在线估计,证明其收敛速率与光滑强凸情况相当,支持渐近统计推断。
2025-08-12 cs.LG math.OC stat.ML
A Beta-Based Heteroskedasticity-Consistent Covariance Matrix Estimator
Universidade Federal de Pernambuco(伯南布哥联邦大学);Universidade Federal da Paraíba(帕拉伊巴联邦大学)
该研究针对普通最小二乘回归,提出用基于贝塔分布的数据驱动校正取代传统杠杆率调整来估计异方差一致协方差矩阵,经模拟和实证验证其优势,还开发了开源R包,能准确推断并适应异质杠杆率模式。
2026-11-03 stat.ME
Accurate confidence interval estimation for non-centrality parameters and effect size indices
我们最近提出了一个稳健效应量指数(RESI),它与检验统计量的非中心性参数有关。RESI优于普通索引,因为(1)它广泛适用于许多类型的数据;(2)它可以依赖于一个强大的协方差估计;(3)它可以适应滋扰参数的存在。我们为RESI提供了一个相合估计量,但是,没有为RESI建立置信区间(CI)估计程序。在这里,我们使用统计理论和模拟来评估几个CI估计程序的RESI的三个估计。我们的研究结果表明:(1)与常见的效应量相比,稳健估计对真实效应量是一致的;(2)非中心性参数效应量的常见CI程序无法覆盖名义水平的真实效应量。使用鲁棒估计器以及所提出的自助CI通常是准确的,适用于对RESI进行一致的估计和有效的推断,特别是当模型假设可能被违反时。基于RESI,我们提出了一个通用的效应量分析框架,使得效应量和置信区间可以很容易地以方差分析(ANOVA)表格格式报告,适用于各种模型
2021-11-10 stat.ME
Optimal detection of general moment changes: Simultaneous mean and covariance change detection and beyond
University of Notre Dame(圣母大学);University of California, San Diego(加利福尼亚大学圣地亚哥分校);Auburn University(奥本大学);Washington University in St. Louis(华盛顿大学圣路易斯分校)
本文提出一种基于张量表示的统一方法,用于检测多元时间序列中高达固定阶数的所有矩变化,实现与极小极大下界匹配的定位误差率,并验证了其有效性。
2026-09-30 math.ST stat.ME stat.ML
Riemannian Simultaneous Inference for Tangent Vector Field Regression
Nanyang Technological University(南洋理工大学);Shanghai University of Finance and Economics(上海财经大学)
针对黎曼流形上的切向量场回归,提出基于平行移动和体积校正的核估计器,推导其渐近性质并构建联合置信管,模拟与风数据验证了方法的有效性。
2026-09-24 cs.LG stat.ME stat.ML
Localizing differences in smooths with simultaneous confidence bounds on the true discovery proportion
本研究提出一种基于真实发现比例(TDP)同时置信界的方法,通过Simes局部检验的闭合检验定位两个光滑函数的差异区域,证明了相关统计量的PRDS性质,借助低次惩罚B样条协方差的非对角衰减结构实现良好功效,经仿真和脑瘫步态研究验证有效。
2024-10-31 stat.ME
ROCKET: Robust Confidence Intervals via Kendall's Tau for Transelliptical Graphical Models
无向图模型广泛用于生物和社会科学中,以编码变量之间的条件独立模式,其中两个节点$a$和$b$之间不存在边指示在控制所有其他测量变量之后,相对应的两个变量$X_a$和$X_b$被认为是条件独立的。在高斯情况下,条件独立性对应于精度矩阵$Ω$(协方差阵$Σ$的逆)中的零项。真实数据往往表现出严重的尾部变量之间的依赖性,这不能被常用的高斯或非paranormal(高斯copula)图形模型捕捉。在本文中,我们研究了transelliptical模型,椭圆copula模型,广义高斯和nonparanormal模型的分布更广泛的家庭。我们提出了火箭方法,它构造了一个估计的$Ω_{ab}$,我们证明是渐近正常的温和的假设下。从经验上讲,ROCKET在实现对模拟数据的准确推断方面优于非超自然模型和高斯模型。我们还比较了这三种方法的实际数据(每日股票收益率),并发现火箭估计是唯一的方法,其行为在子样本同意的分布理论预测。
2017-09-01 cs.LG math.ST stat.TH
Learning Safety Filters for Unknown Discrete-Time Linear Systems
University of Melbourne(墨尔本大学);Defence Science and Technology (DST) Group(澳大利亚国防科学与技术(DST)集团);Australian National University(澳大利亚国立大学)
针对模型未知的离散时间线性系统,提出基于学习的鲁棒优化安全滤波器,通过收紧约束确保高概率安全,且收紧幅度随数据增多而减小。
2023-05-08 cs.LG cs.SY eess.SY
Time-dynamic inference for non-Markov transition probabilities under independent right-censoring
本文建立了Titman(2015)的一般非Markov状态转移概率估计的弱收敛性,但到目前为止,这一弱收敛性还没有得到其他一般非Markov估计的验证。一个类似的定理示出的引导,产生重采样为基础的推理方法的统计泛函。详细给出了所涉及的协方差函数的计算公式。特定的应用包括在特定状态下的条件预期停留时间,给定过去占领另一个状态,以及为转移概率构建时间同步置信带。比较Andersen等(1993)的双样本肝硬化数据集中的预期住院时间,并构建其差异的置信区间。与安慰剂组相比,治疗组具有临界显著性,考虑到较早的疾病状态职业,治疗组在健康状态下的预期停留时间延长。相比之下,基于Aalen-Johansen估计的置信区间依赖于马尔可夫假设,导致完全不同的结论。此外,转移概率置信带的图形说明证明了该数据示例中Aalen-Johansen估计量的偏倚。这些结果的可靠性进行了评估,在模拟研究。
2019-01-04 math.ST stat.TH
Confounder-adjusted Covariances of System Outputs and Applications to Structural Health Monitoring
本文提出基于非参数核估计的条件协方差矩阵方法,显式量化系统输出协方差变化,应用于结构健康监测中的混杂因素调整,结合马氏距离和主成分分析生成更可靠的损伤检测诊断值并减少误报。
2024-09-26 eess.SP stat.AP