A comparison of Hurst exponent estimators in long-range dependent curve time series
Hurst指数是自相似长程相依随机过程的最简单的数值概括。研究了长相依曲线时间序列中Hurst指数的估计问题。我们的估计方法首先通过构建一个长期协方差函数的估计，我们使用，通过动态功能主成分分析，在估计的正交函数跨越占主导地位的子空间的功能时间序列。在函数自回归分数积分滑动平均模型的背景下，我们比较了几种时域和频域Hurst指数估计的有限样本偏差、方差和均方误差，并提出了我们的建议。
2020-03-17 math.ST stat.AP stat.TH
Fast calibration of weak FARIMA models
本文研究了弱FARIMA模型的Le Cam一步估计的渐近性质。对于这些模型，噪声是不相关的，但既不一定是独立的，也不一定是鞅差误差。我们证明了在一些正则性假设下，一步估计是强相合的，渐近正态的，具有与最小二乘估计相同的渐近方差。我们通过模拟表明，建议的估计减少了计算时间相比，最小二乘估计。提出了一种为时间序列提供远程计算指标的应用。
2022-06-20 math.ST stat.TH
A comparison of estimators of mean and its functions in finite populations
本文在标准抽样设计下比较了有限总体均值及其函数的多种估计量，基于渐近均方误差构造等价类，发现SRSWOR下PEML估计量及其插入式估计量表现最优，而高熵πPS设计下基于Hájek估计量的插入式估计量渐近MSE最低。
2023-05-24 math.ST stat.ME stat.TH
Information Criterion-Based Rank Estimation Methods for Factor Analysis: A Unified Selection Consistency Theorem and Numerical Comparison
本文研究了因子模型中基于信息准则的秩估计量的选择一致性，建立了统一的选择一致性定理，并通过数值模拟验证了间隙条件对秩选择一致性的决定性作用，同时比较了不同估计量的优劣。
2024-07-29 math.ST stat.TH
A comparison of pivotal sampling and unequal probability sampling with replacement
我们证明了关键抽样的任何实现都比多项式抽样更有效。这个性质需要Horvitz-Thompson估计的弱相合性和保守方差估计的存在性。一个小的模拟研究支持我们的发现。
2016-09-13 math.ST stat.AP stat.ME
A new method for fast computing unbiased estimators of cumulants
我们提出了新的算法生成$k$ -统计，多元$k$ -统计，polykays和多元polykays。由此产生的计算时间是非常快的文献中现有的程序相比。这种加速是通过一个象征性的方法所产生的经典的阴影演算。经典的本影演算是一种轻型语法，它只涉及管理数字或多项式序列的基本规则。这里介绍的程序的基石是一个随机变量和一个合适的复合泊松随机变量的累积量之间的连接。这种联系也适用于多元随机变量。
2008-07-31 math.CO math.ST stat.CO
A comparison of Bayesian and frequentist interval estimators in regression that utilize uncertain prior information
考虑一个具有回归参数β和正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta，其中a是指定的向量。定义参数tau = c^T beta - t，其中c和t是指定的，并且a和c是线性无关的。还假设我们有不确定的先验信息tau = 0。Kabaila和Giri，2009年，JSPI，描述了一种新的频率论1-alpha置信区间的θ，利用这种不确定的先验信息。我们比较这个置信区间与贝叶斯1-alpha等尾和最短的可信区间θ，从先验密度τ是一个混合的矩形“板”和狄拉克δ函数“尖峰”，结合非信息先验密度的模型的其他参数。我们表明，这些频率和贝叶斯区间估计依赖于数据在非常不同的方式。我们还考虑了这种先验分布，导致贝叶斯和频率区间估计更大的相似性的一些密切的变化。尽管如此，正如我们所展示的，这些区间估计量之间仍然存在很大的差异。
2014-01-14 math.ST stat.ME stat.TH
Bayesian MISE convergence rates of Polya urn based density estimators: asymptotic comparisons and choice of prior parameters
混合模型以其通用性而闻名，贝叶斯范式是混合分析的合适平台，特别是当组分数量未知时。Bhattacharya（2008）介绍了一种基于狄利克雷过程的混合模型，其中需要指定组分的未知数的上界。在这里，我们考虑一个贝叶斯渐近框架，客观地指定的上界，我们假设依赖于样本量。特别是，我们定义了一个贝叶斯模拟的平均积分平方误差（贝叶斯MISE），并选择该形式的上界，以及该形式的精度参数的基础狄利克雷过程，贝叶斯MISE的一个特定的密度估计，这是一个合适的修改的Polya-urn基于先验预测模型，收敛在所需的速率。作为我们方法的副产品，我们研究了传统Dirichlet过程混合模型精度参数的渐近选择;我们在这里考虑的密度估计是Escobar & West（1995）与Polya瓮模型相关的先验预测分布的修改。与上述两种混合物有关的各种渐近问题，包括比较性能，也进行了研究。
2018-11-13 math.ST stat.TH
Learning the distribution of latent variables in paired comparison models with round-robin scheduling
本文考虑的配对比较数据来源于夫妇中大量N个个体的比较。数据集是两个人之间的比赛结果的集合，每个人都面对n个对手，其中n比N大得多。个体由独立同分布的随机参数表示，本文研究了参数分布的极大似然估计。分析依赖于一个图形模型的建设，编码的条件依赖的观察，这是第一个n比赛的结果，每个人都参与。这个图形模型允许证明几何损失的记忆性能和推导出的似然函数的渐近行为。本文的重点是从这些比赛的循环调度得到的图形模型。在学习理论的经典结构，渐近似然用来衡量性能的最大似然估计。该估计量的风险界最后由应用于图模型的马尔可夫链的次高斯偏差结果得到。
2020-02-13 math.PR math.ST stat.TH
Efficient Estimation in NPIV Models: A Comparison of Various Neural Networks-Based Estimators
Harvard Business School（哈佛商学院）；Harvard University（哈佛大学）；Cowles Foundation for Research in Economics（考尔斯经济学研究基金会）；Yale University（耶鲁大学）
人工神经网络（ANN）可以被看作是非线性筛子，它可以比线性筛子更有效地逼近高维变量的复杂函数。我们研究了各种人工神经网络在非参数工具变量（NPIV）模型中的性能，这些模型是与经验经济学相关的。我们提出了两个有效的估计和推断加权平均导数（WAD）的程序：一个正交化的插件与最优加权筛选最小距离（OP-OSMD）程序和筛选有效的分数（ES）程序。这两个估计WAD使用人工神经网络筛近似未知的NPIV功能，是根N渐近正常和一阶等效。我们提供了一个详细的从业者的食谱，实现这两个有效的程序。我们比较了它们在各种模拟设计中的有限样本性能，这些模拟设计涉及多达13个连续协变量的平滑NPIV函数，不同的非线性和协变量相关性。一些蒙特卡罗的发现包括：1）调整和优化是更微妙的人工神经网络估计; 2）适当的调整，两个人工神经网络估计与各种架构可以执行良好; 3）更容易调整人工神经网络OP-OSMD估计比人工神经网络ES估计; 4）稳定的推论是更难以实现与人工神经网络（比样条）估计; 5）目前的实现和近似理论之间存在差距。最后，我们应用人工神经网络NPIV估计平均偏导数在两个经验需求的例子与多元协变量。
2022-10-05 cs.LG econ.EM math.ST
Uncertainty quantification in the Bradley-Terry-Luce model
Bradley-Terry-Luce（BTL）模型是用于个体之间的成对比较的基准模型。尽管最近几个流行的程序的一阶渐近的进展，在BTL模型的不确定性量化的理解仍然很大程度上是不完整的，特别是当底层的比较图是稀疏的。在本文中，我们通过关注最近备受关注的两种估计量来填补这一空白：最大似然估计量（MLE）和谱估计量。使用一个统一的证明策略，我们得到尖锐的和统一的非渐近展开估计在稀疏可能的制度（一些多对数因子）的基本比较图。这些扩展使我们能够获得：（i）有限维中心极限定理的两个估计;（ii）建设的置信区间为个人的行列;（iii）最佳常数的$\ell_2$估计，这是实现的极大似然估计，但不是由谱估计。我们的证明是基于一个自洽方程的二阶剩余向量和一个新的留两出分析。
2022-08-10 math.ST stat.ML stat.TH
Finite sample properties of multiple imputation estimators
研究了线性回归模型下多重插补估计的有限样本性质。给出了多重插补方差估计量的精确偏差。提出了一种减小偏差的方法，并进行了仿真比较。我们还表明，建议的方法可以用于一般类的线性估计。
2004-06-23 math.ST stat.TH
Estimating the Null and the Proportion of non-Null effects in Large-scale Multiple Comparisons
Efron在大规模多重比较的背景下提出的一个重要问题是，在许多应用中，通常假设零分布是已知的是不正确的，看似可以忽略的零差异可能会导致后续研究中的巨大差异。这表明，对零值的估计进行仔细的研究是必不可少的。在本文中，我们考虑零正态分布的估计问题，和一个密切相关的问题，估计的比例，非零效应。我们发展了一种基于经验特征函数和傅里叶分析的方法。估计是一致一致的，在广泛的一类参数。使用模拟和真实数据的估计的数值性能进行了研究。特别是，我们将我们的程序应用于乳腺癌和HIV微阵列数据集的分析。与现有方法相比，估计器表现良好。
2006-11-04 math.ST stat.TH
Design-based theory for covariate adjustment in generalized pairwise comparisons
Mississippi State University（密西西比州立大学）；Yale School of Public Health（耶鲁公共卫生学院）
本文提出了一种基于设计的推断框架，用于估计随机实验中的广义因果效应，并探讨了回归调整和方差估计的稳健性。
2026-10-14 math.ST stat.ME stat.TH
Relative Density-Ratio Estimation for Robust Distribution Comparison
基于密度比的直接近似而不经过分子和分母密度的单独近似的发散估计已经成功地应用于涉及分布比较的机器学习任务，如离群值检测、迁移学习和两样本同质性检验。然而，由于密度比函数往往具有很大的波动性，在实际应用中，发散度的估计仍然是一个具有挑战性的任务。在本文中，我们建议使用相对分歧的分布比较，这涉及到相对密度比的近似。由于相对密度比总是比相应的普通密度比更平滑，我们提出的方法在非参数收敛速度方面是有利的。此外，我们表明，所提出的发散估计具有渐近方差独立的模型的复杂性下的参数设置，这意味着所提出的估计很难过拟合，即使与复杂的模型。通过实验，我们证明了所提出的方法的实用性。
2011-06-23 math.ST stat.ME stat.ML
Fast Mean Estimation with Sub-Gaussian Rates
UC Berkeley（加州大学伯克利分校）
我们提出了一个估计的平均值的随机向量在$\mathbb{R}^d$，可以计算在时间$O(n^4+n^2d)$为$n$ i.i.d.~样本，并且具有与亚高斯情况匹配的误差界。我们对数据分布的唯一假设是它具有有限的均值和协方差;特别是，我们对高阶矩没有任何假设。与Hopkins在2018年引入的基于平方和层次结构的多项式时间估计器一样，我们的估计器在这种具有挑战性的环境中实现了最佳的统计效率，但它具有更快的运行时间和更简单的分析。
2019-02-06 cs.DS cs.LG math.ST
Fast Distribution To Real Regression
Carnegie Mellon University（卡内基梅隆大学）
我们研究的问题，分布到实值回归，其中一个的目的是回归映射$f$，需要在一个分布输入协变量$P\in \mathcal{I}$（对于一个非参数的家庭分布$\mathcal{I}$）和输出一个实值响应$Y=f(P) + ε$。最近研究了这种设置，并引入了“核-核”估计，并证明具有多项式收敛速度。但是，使用核-核估计量评估新预测时，尺度为$Ω(N)$。这导致困难的情况，其中大量的数据可能是必要的低估计风险，但估计的计算成本变得不可行时，数据集太大。为此，我们提出了双基估计器，它希望从两个方面缓解这个大数据问题：首先，当在训练后评估新的预测时，双基估计器的计算复杂度与实例$N$的数量无关;其次，双基估计器对于一般映射类$f\in\mathcal{F}$具有快速收敛速度。
2014-03-09 cs.LG math.ST stat.ML
Noise contrastive estimation: asymptotics, comparison with MC-MLE
当一个统计模型的似然函数包含一个难以处理的归一化常数时，该模型被称为非归一化模型。这些模型的参数推断的两种流行的方法是MC-MLE（蒙特卡罗极大似然估计），和NCE（噪声对比估计）;这两种方法都依赖于模拟人工数据点来近似归一化常数。虽然MC-MLE的渐近性已在一般假设下建立（Geyer，1994），但NCE并非如此。在较弱的假设下，我们建立了NCE估计的相合性和渐近正态性。我们比较NCE和MC-MLE下几个渐近制度。特别地，我们证明了，当m趋于无穷大而n是固定的（m和n分别是人工数据点和实际数据点的数量），这两个估计量是渐近等价的。反之，当人工数据点为IID，且n趋于无穷大，m/n收敛于一个正常数时，NCE估计量的渐近方差总是小于相应MC-MLE估计量的渐近方差.我们通过数值研究说明了NCE带来的方差减少。
2018-01-31 math.ST stat.TH
Comparison bewteen multi-task and single-task oracle risks in kernel ridge regression
在本文中，我们研究了多任务核岭回归，并试图了解多任务过程中表现得比单任务的平均二次风险。为了做到这一点，我们比较了风险的估计与完美的校准，\emph{oracle risk}。我们能够给出明确的设置，有利于多任务的过程中，多任务的预言机比单任务的表现更好。在多任务过程被证明执行不好的情况下，我们也显示了预言机这样做。然后，我们完成了我们的研究与模拟的例子，在那里我们可以比较两个甲骨文风险在更自然的情况下。我们的结果的一个后果是，多任务岭估计有一个较低的风险比任何单任务估计，在有利的情况下。
2013-07-19 math.ST stat.TH
Discrete-time inference for slow-fast systems driven by fractional Brownian motion
研究了小噪声扰动下分数布朗运动驱动慢运动的多尺度动力系统的统计推断。我们开发的赫斯特指数，以及在模型中的一个单一的时间序列的观察，从缓慢的过程的基础上的未知参数的向量的统计估计。我们证明了这些估计是一致的和渐近正常的扰动和时间尺度分离参数的幅度趋于零。数值模拟验证了理论结果。
2021-03-25 math.DS math.PR math.ST
Weighted M-estimators for multivariate clustered data: theory and simulation results
研究了$\mathbb{R}^d$值聚类数据的加权M-估计，给出了其相合性的充分条件。通过对渐近协方差阵的估计，建立了它们的渐近正态性。我们解决这些估计的鲁棒性方面的崩溃点。与未加权的情况下进行了比较，一些数值研究。他们强调，最佳权重最大化的相对效率有坏的影响的崩溃点。
2016-01-13 math.ST stat.TH
Concentration study of M-estimators using the influence function
利用影响函数的工具，给出了$\mathbb{R}^d$中位置的M-估计的一种新的有限样本分析。特别地，我们证明了M-估计的偏差可以通过它的影响函数（或它的得分函数）来控制，然后，我们利用M-估计的浓度不等式研究了在有界和无界得分函数的腐败环境（对抗腐败环境）下高维均值的稳健估计.对于大小为$n$协方差阵$Σ$的样本，我们在重尾设置中以大于$1-δ$的概率获得极大极小速度$\sqrt{Tr(Σ)/n}+\sqrt{\|Σ\|_{op}\log(1/δ)/n}$。与最近提出的方法相比，我们的方法的主要优点之一是，我们的估计是易于处理和快速计算，即使在非常高的维度与$O(nd\log(Tr(Σ)))$的复杂性，其中$n$是样本量和$Σ$是内点的协方差阵。实际上，我们为本文提供的代码被证明非常快。
2022-08-22 math.ST stat.TH
Fast computation and theoretical guarantees for the NPMLE in exponential family mixtures
University of Toronto（多伦多大学）
提出数据压缩策略将NPMLE计算中似然评估成本降至样本量的多对数阶，并证明一类近似NPMLE的边际密度估计达到近乎参数收敛速度。
2026-06-15 math.ST stat.CO stat.TH
Risk comparison theorems and application to deep learning of diffusion coefficients
Laboratoire de Mathématiques et Modélisation d’Evry, CNRS, Univ Evry, Université Evry Paris-Saclay（埃夫里数学与建模实验室）；Graduate School of Mathematical Sciences, University of Tokyo（东京大学大学院数理科学研究科）；The Institute of Statistical Mathematics（统计数学研究所）
本文针对随机微分方程中扩散矩阵的非参数估计，提出基于一般函数类的两步估计框架，并建立经验风险与泛化风险之间的通用比较定理，适用于深度神经网络估计器。
2026-09-16 math.ST stat.TH
On the Finite-Sample Analysis of $Θ$-estimators
在现代大规模数据分析中，一阶最优化方法通常被用来获得高维数据的稀疏估计。本文对这样定义的一类基于迭代阈值的估计量进行了理论分析。Oracle不等式的建立，以显示在一种新的类型的正则性条件下，这种估计的近极大极小率最优性。此外，序列的迭代被发现能够接近的最佳统计精度内的统计真理几何快速。我们的研究结果还揭示了不同的好处所带来的凸和非凸类型的收缩。
2016-10-08 math.ST stat.TH
A Kiefer--Wolfowitz comparison theorem for Wicksell's problem
我们将Wicksell问题的保序分析推广到估计一个回归函数，这是由天文学中估计暗物质分布的问题引起的。主要结果是一个版本的基弗-沃尔福威茨定理比较的经验分布，其最小凹优，但收敛速度$n^{-1}\log n$快于$n^{-2/3}\log n$。主要结果是有用的估计，如保序估计和光滑估计的渐近分布。
2007-10-18 math.ST stat.TH
Fast estimation of Kendall's Tau and conditional Kendall's Tau matrices under structural assumptions
本文提出在块结构假设下通过对成对估计值进行平均化来快速估计 Kendall's tau 和条件 Kendall's tau 矩阵的新方法，显著降低了计算成本和渐近方差，并在模拟和大型股票投资组合风险价值估计中验证了性能提升。
2024-12-27 math.ST q-fin.ST stat.ME
