Efficiency of estimators for locally asymptotically normal quantum statistical models
本文为局部渐近正态量子统计模型建立渐近表示定理,借此研究量子估计量的渐近效率并得出超越独立同分布假设的普适紧致下界,为弱量子局部渐近正态性理论奠定基础。
2024-11-13 math.ST quant-ph stat.TH
Estimators, escort probabilities, and phi-exponential families in statistical physics
将Cramer和Rao的下界推广到两个概率分布族,其中一个族是护送到另一个族的.这个界对于某些族是最优的,在本文中称为φ指数。对它们的二元结构进行了探讨。
2004-02-04 math-ph math.MP math.ST
Marcinkiewicz-Zygmund and ordinary strong laws for empirical distribution functions and plug-in estimators
导出了一般统计泛函插入估计的Marcinkiewicz-Zygmund强大数定律(MZ-SLLN)和普通强大数定律(SLLN)。它被用来,如果一个统计功能是“足够的规则”,那么一个(MZ-)SLLN的未知分布函数的估计产生一个(MZ-)SLLN的相应的插件估计。特别是证明了许多L-、V-和风险泛函是“充分正则的”,并改进了关于α-混合随机变量的经验过程强收敛性的已知结果.所提出的方法不仅涵盖了一些已知的结果,而且还提供了一些新的强法律插件估计的特定的统计泛函。
2013-01-04 math.ST stat.TH
Discrete Statistical Models with Rational Maximum Likelihood Estimator
离散统计模型是概率单纯形的子集。它的最大似然估计(MLE)是从单纯形到模型的收缩。我们刻画了所有的模型,这种回缩是一个有理函数。这是一个贡献,通过真正的代数几何取决于结果由于Huh和Kapranov霍恩均匀化。我们提出了一个算法,合理的MLE构建模型,我们证明了它的一系列实例。我们的重点在于统计学家熟悉的模型,如贝叶斯网络,可分解的图形模型和阶段树。
2020-06-15 math.AG math.ST stat.TH
Non-Asymptotic Guarantees for Robust Statistical Learning under Infinite Variance Assumption
University of Macau(澳门大学);Zhuhai UM Science & Technology Research Institute(珠海澳大科技研究院);Peking University(北京大学)
在统计学和机器学习中,对于具有重尾和有界方差数据的模型,人们对开发鲁棒估计器的兴趣激增,而很少有工作施加无界方差。本文提出了两类稳健估计:岭对数截尾M估计和弹性网对数截尾M估计。第一个估计器应用于凸回归,如分位数回归和广义线性模型,而另一个估计器应用于高维非凸学习问题,如通过深度神经网络的回归。模拟和实际数据分析证明了对数截尾估计相对于标准估计的稳健性。
2022-10-11 cs.LG math.ST stat.ML
Statistical properties of matrix decomposition factor analysis
本文针对矩阵分解因子分析(MDFA)估计量,证明了其一致性和渐近正态性,揭示其本质为基于Bures-Wasserstein距离的MDF估计量,并为包括PCA在内的成分分析提供统一视角。
2025-06-20 math.ST stat.TH
Auxiliary Learning and its Statistical Understanding
本文针对高维小样本估计难题,提出利用共享协变量的辅助任务构建加权最小二乘估计量,推导最优权重并扩展至广义线性模型,且通过数值实验与智能售货机实例验证。
2025-01-07 math.ST stat.TH
Statistical inference for discrete-time samples from affine stochastic delay differential equations
研究了一类仿射随机时滞微分方程离散观测值的统计推断问题。主要的重点是最大伪似然估计,这是很容易计算的实践。一类更一般的预测为基础的估计功能的调查。特别地,导出了基于最优预测的估计函数和估计量的渐近性质。最大伪似然估计量是一个特殊的情况下,并找到一个表达式的效率损失时,使用最大伪似然估计量,而不是计算更涉及最优预测为基础的估计。在模拟研究中的伪似然估计的分布进行了研究。详细考虑了仿射随机时滞方程的两个例子。
2013-03-20 math.ST stat.TH
Domains of weak continuity of statistical functionals with a view toward robust statistics
许多标准的估计,如几个最大似然估计或经验估计的任何法律不变凸风险措施是不(定性)在经典意义下的鲁棒性。然而,这些估计量可能仍然满足相关分布集的弱(Krätschmer/Schied/Zähle 2012,2014)或局部(Zähle 2016)鲁棒性。我们的论文的一个目的是确定本地鲁棒性的集合,并解释这些集合的知识的好处。例如,我们将能够证明许多极大似然估计在其自然参数域上是稳健的。第二个目标是在扩展的一般理论的鲁棒估计我们的本地框架。特别是,我们提供了一个相应的汉佩尔型定理连接的局部鲁棒性的插件估计与一定的连续性条件。
2016-06-20 math.ST stat.TH
Optimal cleaning for singular values of cross-covariance matrices
本文给出了一种估计两个高维信号$X\in\mathbb{R}^n$,$Y\in \mathbb{R}^p$的互协方差矩阵$\mathbb{E} XY'$的新算法,其中观测值对$(X,Y)$的观测值个数$T$较大,但不要求$n/T$和$p/T$较小.在$n,p,T$很大的渐近状态下,该算法对于旋转不变估计量中的Frobenius范数是最优的,即通过清除奇异值,同时保持奇异向量不变,从经验估计量得到的估计量。
2021-11-18 math.PR math.ST stat.TH
Strong consistency of an estimator by the truncated singular value decomposition for an errors-in-variables regression model with collinearity
Hosei University(法政大学)
本文通过截断奇异值分解证明了在存在共线性的情况下,误差在变量回归模型中估计器的强一致性,扩展了总最小二乘法的理论。
2023-11-29 cs.NA math.NA math.ST
Spatially inhomogeneous linear inverse problems with possible singularities
本文的目的是引入空间非齐次线性反问题的概念,其中算子$Q$的不适定性程度不仅取决于尺度,而且还取决于位置。在这种情况下,收敛速度是由四个参数的相互作用,光滑性和空间均匀性的未知函数$f$和不适定性和空间不均匀性的运营商$Q$的程度。本文中得到的估计是基于小波分解(如果所有的小波分解的范数是有限的)或小波分解和Galerkin方法的混合(如果在奇点附近的小波分解的范数是无限的)。混合估计器是在奇异点附近的线性部分和非线性块阈值小波估计器的组合。为了获得自适应性,最佳分辨率水平的线性,奇异性影响,部分估计是使用Lepski [理论Probab。35(1990)454 - 466和36(1991)682 - 697]方法,并且随后用作非线性小波估计器的最低分辨率水平。我们证明了混合估计的收敛速度在最优极小极大收敛速度的对数因子内。本文中提出的理论是补充反卷积的例子与空间非均匀的内核和反卷积的存在下,局部极端噪声或极不均匀的设计。前两个问题通过有限的模拟研究,证明了混合估计的优势时,空间不均匀性的程度是高的。此外,我们将该技术应用于通过幅度调制传输的卷积信号的恢复。
2013-12-04 math.FA math.ST stat.TH
On the Finite-Sample Analysis of $Θ$-estimators
在现代大规模数据分析中,一阶最优化方法通常被用来获得高维数据的稀疏估计。本文对这样定义的一类基于迭代阈值的估计量进行了理论分析。Oracle不等式的建立,以显示在一种新的类型的正则性条件下,这种估计的近极大极小率最优性。此外,序列的迭代被发现能够接近的最佳统计精度内的统计真理几何快速。我们的研究结果还揭示了不同的好处所带来的凸和非凸类型的收缩。
2016-10-08 math.ST stat.TH
Convergence of Statistical Estimators via Mutual Information Bounds
ESSEC Business School(ESSEC商学院)
本文为统计模型引入一种新的互信息界,该界改进了贝叶斯非参数中分数后验的收缩速率,并可应用于变分推断和最大似然估计等多种方法,推进了对统计推断基本极限的理解。
2026-10-06 cs.LG math.ST stat.ML
Statistical estimation in the proportional hazards model with risk set sampling
回归参数的Thomas偏似然估计被广泛应用于Cox模型嵌套病例对照数据的分析。本文提出了回归参数的一种新的估计,它是相合的且渐近正态的。它的渐近方差比Thomas的估计量离零点的渐近方差小于。与其他一些现有的估计,建议的估计不依赖于任何更多的数据比严格必要的托马斯估计,是很容易计算的封闭形式的估计方程的唯一的解决方案。方差估计是以估计函数的导数的倒数的负来获得的,因此推断是容易获得的。最后给出了一个数值例子来支持理论。
2004-10-05 math.ST stat.TH
Statistical Inference in Parametric Preferential Attachment Trees
偏好依恋(PA)模型是对动态社交网络(如协作网络)建模的一种流行方法。假设PA函数为参数形式,我们提出并研究了参数的极大似然估计。利用一个超临界连续时间分支过程框架,我们证明了该估计量的几乎必然相合性和渐近正态性。我们还提供了一个估计,只依赖于网络的最终快照,并证明其一致性,其渐近正态性在一般情况下。我们在一个小的模拟研究中的估计的性能进行比较的非参数估计。
2022-08-16 math.PR math.ST stat.TH
Projection to Fairness in Statistical Learning
Massachusetts Institute of Technology(麻省理工学院);University Toulouse 3(图卢兹第三大学)
在回归的背景下,我们考虑的基本问题是使估计公平,同时尽可能保持其预测精度。为此,我们将其对公平性的投影定义为反映预测准确性的最接近公平估计量。我们的方法利用最优运输工具来有效地构建任何给定估计量的公平性投影,作为一个简单的后处理步骤。此外,我们的方法精确地量化了公平性的成本,以预测准确性衡量。
2020-06-25 cs.LG math.ST stat.ML
An Interpretation of the Moore-Penrose Generalized Inverse of a Singular Fisher Information Matrix
证明了在非贝叶斯参数估计问题中,如果Fisher信息矩阵是奇异的,则未知参数的无偏估计不存在。Cramer-Rao界(CRB),一个流行的工具来下界的无偏估计的方差,似乎不适用于这种情况。本文证明了奇异矩阵的Moore-Penrose广义逆可以解释为在所有最小约束函数的选择中方差最小的CRB。这一结果保证了当矩阵奇异时,应用矩阵的Moore-Penrose广义逆作为协方差下界的逻辑正确性.此外,该结果可作为约束函数和无偏估计联合设计的性能界。
2012-08-06 cs.IT math.IT math.ST
Statistical Barriers to Affine-equivariant Estimation
UC Berkeley(加州大学伯克利分校);Massachusetts Institute of Technology(麻省理工学院)
研究仿射等变估计器在鲁棒均值估计中的定量性能,证明仿射等变性会导致恢复误差恶化 $\sqrt{d}$ 倍,并提出一种近乎匹配下界的新型仿射等变估计器。
2023-10-16 cs.DS cs.LG math.ST
Statistical Analysis of Multi-Relational Network Recovery
在本文中,我们建立了一类大规模多关系网络潜变量模型的渐近理论。特别是,我们建立的一致性结果和渐近误差界的(惩罚)最大似然估计时,网络的大小趋于无穷大。其基本方法是通过对随机场的大偏差分析,得到极大似然估计的非渐近误差界。我们还表明,这些估计是接近最优的极小极大风险。
2020-08-29 math.ST stat.TH
Asymptotic Analysis of Statistical Estimators related to MultiGraphex Processes under Misspecification
本文在模型错误设定下研究源自MultiGraphex过程的统计估计量的渐近性质,在弱假设下将参数估计极限与真实稀疏性常数关联,并证明贝叶斯后验渐近正态性。
2022-05-25 math.ST stat.TH
Geometric sensitivity of random matrix results: consequences for shrinkage estimators of covariance and related statistical methods
协方差的收缩估计是现代应用统计和理论统计中的一个重要工具。它们在正则化估计问题中起着关键作用,例如岭回归(又名Tykhonov正则化),正则化判别分析和各种最优化问题。在本文中,我们带来承担随机矩阵理论的工具,以了解他们的行为,特别是,二次型涉及这些估计的逆,这在实践中是很重要的。我们使用非常温和的假设相比,通常的假设在随机矩阵理论,只需要温和的条件,我们的随机向量的线性和二次型的时刻。特别是,我们表明,我们的结果适用于例如对数正态数据,这是金融应用的兴趣。我们的研究突出了随机矩阵结果(及其实际后果)的几何假设,这往往是隐含的随机矩阵理论家,可能不相关的数据分析实践中的相对敏感性。
2011-05-07 math.ST stat.TH
Statistical inference for multi-regime threshold Ornstein-Uhlenbeck processes
本文研究阈值Ornstein-Uhlenbeck过程的参数估计,提出最小二乘估计量和修正二次变差估计量,证明了其渐近性质,并验证了其在多机制情形下优于广义矩方法。
2024-03-27 math.ST stat.TH
A Second-Order Extension of Hájek's Convolution Theorem with Statistical Applications
Nanzan University(南山大学);Waseda University(早稻田大学);Institute of Information Theory and Automation, Czech Academy of Sciences(捷克科学院信息理论与自动化研究所)
本文为Hájek卷积定理提供二阶扩展,引入二阶正则估计量并证明其渐近分布为二阶有效与残差分布的卷积,进而定义二阶稳健性,应用于时间序列模型中的贝叶斯与最小对比估计量,比较极大似然与Whittle估计量的稳健性。
2026-09-29 math.ST stat.TH
Estimating the conditional density by histogram type estimators and model selection
提出了独立同分布数据条件密度的一种新的估计方法。我们的程序的目的是使用的数据中选择一个函数任意(最可数)的候选人的集合。通过使用一个确定性的Hellinger距离作为损失,我们证明了所选择的函数满足一个非渐近的预言型不等式在统计设置的最小假设。我们推导出一个自适应分段常数估计随机分区,达到预期的收敛速率(可能是非齐次和各向异性)小正则Besov空间。此外,我们表明,这个预言不等式可能会导致一个一般的模型选择定理在非常温和的假设下的统计设置。该定理保证了在条件密度的各种假设下(如光滑性或结构性假设),估计量的存在性具有良好的统计性质。
2016-10-25 math.ST stat.TH
A statistical theory for the measurement and estimation of Rayleigh fading channel
在本文中,我们提出了一个统计理论的测量和估计的瑞利衰落信道在无线通信中,并提供完整的解决方案的基本问题:什么是最佳的估计与瑞利衰落信道的统计参数,以及有多少测量是足够的估计这些参数与规定的误差幅度和置信水平?我们提出的统计理论建议使用两个不同强度的测试信号。最大似然(ML)估计器获得的瑞利衰落信道的统计参数的估计,这是充分和完全统计量。此外,ML估计量是实际上达到Cramer-Rao下界的最小方差(MV)估计量。
2007-07-02 math.PR math.ST stat.AP
Statistical inference for continuous-time locally stationary processes using stationary approximations
我们建立了$M$ -估计量的渐近性质,定义在一个对比函数和观察从连续时间局部平稳过程。利用序列的平稳逼近、$θ$ -弱依赖和遗传性质,给出了对比函数的充分条件,保证了$M$ -估计的相合性和渐近正态性.作为例子,我们得到了时变Lévy驱动的Ornstein-Uhlenbeck过程序列观测值的局部最小二乘估计的相合性和渐近正态性.此外,对于一个序列的时变Lévy驱动的状态空间模型,我们证明了一个本地化的Whittle估计和$M$估计,是基于准最大似然对比的一致性。仿真研究表明,估计程序的适用性。
2021-05-10 math.PR math.ST stat.TH
Statistical generalized derivative applied to the profile likelihood estimation in a mixture of semiparametric models
在纵向和生存数据的联合模型中,很难找到轮廓似然估计量的方差估计。我们通过引入“统计广义导数”来解决这个困难。导数用于显示估计量的渐近正态性,而不假设模型中密度函数的二阶导数存在。
2018-07-20 math.ST stat.TH
Sparsistency of $\ell_1$-Regularized $M$-Estimators
我们考虑模型选择的一致性或稀疏性的广泛的一组$\ell_1$ -正则化$M$ -估计的线性和非线性统计模型在一个统一的方式。为此,我们提出了局部结构光滑条件(LSSC)的损失函数。我们提供了一个一般的结果,给出确定性的充分条件稀疏的正则化参数,周围的尺寸,稀疏水平,和测量的数量。我们发现,几个重要的统计模型的$M$ -估计,确实满足LSSC,因此,稀疏保证相应的$\ell_1$ -正则化$M$ -估计可以推导出简单的应用程序,我们的主要定理。
2014-10-28 math.ST stat.TH
Divergence rates of Markov order estimators and their application to statistical estimation of stationary ergodic processes
有限字母表的平稳遍历过程估计的有限记忆过程从一个样本,一个n-长度的实现的过程,其中的记忆深度的估计过程也估计从样本使用惩罚最大似然(PML)。在连续率和非零性的假设下,得到了关于$\bar{d}$ -距离收敛速率,并给出了显式常数.结果需要分析不一定是有限记忆过程的PML Markov阶估计量的发散性。这个发散问题的研究更一般性的三个信息标准:贝叶斯信息标准与广义惩罚项产生的PML,和归一化的最大似然和Krichevsky-Trofimov码长度。得到了估计阶数的上下界上界。利用预言序估计的概念,将相容马尔可夫序估计的概念推广到无限记忆过程,并给出了PML马尔可夫序估计的广义相容性.
2013-07-24 math.ST stat.TH
A Statistical Learning Assessment of Huber Regression
University at Albany(奥尔巴尼大学);Middle Tennessee State University(中田纳西州立大学)
Huber回归作为稳健统计学的一个里程碑,在稳健推断和估计中发挥着重要作用。它在机器学习中也有各种各样的应用。在参数设置中,它已被广泛研究。然而,在统计学习的背景下,一个函数通常是在一个非参数的方式学习,仍然缺乏理论上的理解如何Huber回归估计学习的条件均值函数,以及为什么它的作品在没有轻尾噪声假设。为了解决这些基本问题,我们从统计学习的角度对Huber回归进行了评估。首先,我们证明了通常在机器学习中追求的Huber回归估计的风险一致性属性,不能保证它们在均值回归中的可学习性。其次,我们认为,Huber回归应实现自适应的方式进行均值回归,这意味着一个需要调整的尺度参数根据样本量和噪声的时刻条件。第三,与自适应选择的尺度参数,我们证明了Huber回归估计可以渐近平均回归校准下$(1+ε)$矩条件($ε>0$)。最后,在相同的矩条件下,我们建立了Huber回归估计的几乎必然收敛速度。注意,$(1+ε)$矩条件适用于响应变量具有无穷大方差的特殊情况,因此所建立的收敛速度证明了Huber回归估计量的稳健性。在上述意义上,本研究提供了一个系统的统计学习评估的Huber回归估计,并证明其优点的鲁棒性从理论的角度来看。
2020-09-27 cs.LG math.ST stat.ML
A Scheme for Molecular Computation of Maximum Likelihood Estimators for Log-Linear Models
我们提出了一个新的分子计算方案的统计推断。我们专注于研究的统计推断问题的计算最大似然估计的对数线性模型。我们的方案采取对数线性模型的反应系统,和观测数据的初始条件,使相应的平衡每个反应系统编码相应的极大似然估计。其主要思想是利用热力学熵和统计熵之间的一致性。我们将最大似然估计的最大熵特征映射到反应系统的平衡浓度的最大熵特征上。这允许对问题进行有效的编码,并揭示了反应网络非常适合统计推理任务。这样的方案也可以提供一个模板,以了解体内生物化学信号通路如何整合有关其环境和历史的广泛信息。
2016-06-10 cs.NE math.ST q-bio.MN
Demystifying statistical learning based on efficient influence functions
治疗效果和更一般的被估量的评价通常是通过参数建模来实现的,这是不令人满意的,因为模型可能会错误指定。数据自适应模型构建(例如统计/机器学习)通常用于降低错误指定的风险。然而,这种方法的简单使用提供的估计量的偏差可能会随着样本量的减小而过慢,从而使推理方法(包括基于自助法的方法)表现良好。偏差的出现是因为标准的数据自适应方法被调整到最小的预测误差,而不是例如估计器中的最小MSE。这可能会导致过度的可变性,这是很难承认的,由于这种战略的复杂性。在非参数统计结果的基础上,目标学习和去偏机器学习通过使用非参数模型下被估计量的有效影响函数构建估计量来克服这些问题。这些日益流行的方法通常假设有效的影响函数是给定的,或者读者熟悉它的推导。在本文中,我们专注于推导出有效的影响函数,并解释它是如何被用来构建基于统计/机器学习的估计。我们讨论的必要条件,这些估计执行良好,并使用不同的例子来传达理论的广泛适用性。
2021-12-01 math.ST stat.TH
Statistical thresholds for Tensor PCA
本研究确定了高斯随机张量秩一变形中检验与估计的相同尖锐阈值,并证明极大似然估计在阈值之上达到最大相关性,且呈现不连续的BBP型相变。
2019-08-08 math.PR math.ST stat.TH
Penalized estimation for non-identifiable models
对于可辨识性可能破坏且参数真值位于参数空间边界上的奇异模型,我们得到了惩罚估计的渐近性质。估计量的选择一致性也得到了验证。真值落在边界上的问题,除了惩罚估计和非遍历统计量外,我们以前的结果也适用于奇异模型。为了克服不可识别性,我们考虑了一个合适的惩罚,如非凸桥和自适应Lasso,稳定估计的渐近行为和收缩非活动参数。然后,估计器收敛到所有真值中最简约的值之一。特别地,即使奇异模型的参数结构如此复杂,使得用于模型选择的似然比检验执行起来是劳动密集型的,也可以获得预言性质。在许多潜在的应用中,本文中处理的例子是:(i)参数比例风险模型的叠加和(ii)具有多共线性协变量的强度的计数过程。
2023-01-22 math.ST stat.TH
Statistical inference in sparse high-dimensional additive models
本文讨论了非参数可加模型$Y=f_1(X_1) + ...+ f_q(X_q) + ε$的非参数分量$f_1$的估计。我们允许添加剂成分的数量$q$增长到无穷大,我们对非零添加剂成分的数量进行稀疏性假设。我们比较了这个估计问题的估计$f_1$在Oracle模型$Z= f_1(X_1) + ε$,其中添加剂成分$f_2,\dots,f_q$是已知的。我们构造了$f_1$的两步预光滑和再光滑估计,并给出了我们的估计与Oracle模型中的一些光滑估计$\hat f_1^{\text{(oracle)}}$之间的差异的有限样本界。在渐近设置这些界限可以用来显示渐近等价的估计和Oracle估计,从而表明,渐近,在足够强的稀疏性条件下,知识$f_2,\dots,f_q$估计精度没有影响。我们的第一步是估计$f_1$与欠平滑估计的基础上,近正交投影组拉索偏差校正。然后,我们构建伪响应$\hat Y$通过评估我们的欠平滑估计$f_1$在设计点的去偏修改。在第二步中,将Oracle估计量$\hat f_1^{\text{(oracle)}}$的平滑方法应用于具有响应$\hat Y$和协变量$X_1$的非参数回归问题。我们的数学阐述主要集中在建立premoothing估计的属性。我们目前的模拟结果表明,我们的估计在实际应用中接近预言机的性能。
2019-10-18 math.ST stat.TH
Statistical Inference in Fractional Poisson Ornstein-Uhlenbeck Process
本文研究了泊松分数噪声驱动的离散Ornstein-Uhlenbeck模型的参数估计问题。基于噪声的随机游动逼近,研究了最小二乘估计和极大似然估计。因此,估计的渐近行为进行,并示出了一个模拟研究来说明我们的结果。
2017-12-14 math.ST stat.TH
Differential Equations for Gaussian Statistical Models with Rational Maximum Likelihood Estimator
该研究建立了具有有理MLE的多元高斯统计模型与一阶非线性PDE解的一一对应,重新解读已知模型并发现新模型,还关联双有理几何的homaloidal多项式,为该类模型分类提供新思路。
2025-09-02 math.AG math.ST stat.TH
Debiased Nonparametric Regression for Statistical Inference and Distributionally Robustness
The University of Tokyo(东京大学)
本文提出一种无模型的非参数回归去偏方法,通过加入估计条件期望残差的校正项,使估计量在温和条件下具备风险收敛与渐近正态性,从而支持统计推断并提升协变量偏移下的鲁棒性。
2025-03-17 cs.LG econ.EM math.ST
Generalized SURE for optimal shrinkage of singular values in low-rank matrix denoising
我们考虑的问题,估计低秩的信号矩阵的数据矩阵的分布属于指数族的假设下,从噪声测量。在这种情况下,我们推导出广义斯坦的无偏风险估计(SURE)公式,适用于任何频谱估计收缩或阈值的奇异值的数据矩阵。这导致了新的数据驱动的谱估计,其最优性进行了讨论,使用随机矩阵理论的工具,并通过数值实验。在尖峰人口模型和渐近设置的数据矩阵的维度是让去无穷大,我们的方法的一些理论性质进行了比较,最近的结果渐近最优的收缩规则高斯噪声。它也导致新的程序奇异值收缩在有限维矩阵去噪的伽玛分布和泊松分布的测量。
2017-10-02 math.ST stat.TH
Statistical learning with Lipschitz and convex loss functions
我们得到的风险界的经验风险最小化(ERM)和最小最大均值(MEN)估计的基础上损失函数,这是Lipschitz和凸。ERM的结果来自没有假设的输出和subgaussian假设的设计和一个新的“本地伯恩斯坦假设”的预测类。类似的结果表明,在一个封闭的设置,设计只应该满足矩假设,放松亚高斯假设所需的ERM的最小最大的估计。最小最大极小化估计量的分析不是基于小球假设(SBA),因为它是在最小最大极小化估计量的第一次分析的情况下。特别是,非参数统计的基本示例,其中学习类是局部基的线性跨度,不满足SBA现在可以处理。最后,在局部Bernstein条件也被丢弃的情况下,分析了Minmax估计。在保证所有对象存在的最小假设条件下,得到了一个具有指数大概率的预言不等式。
2019-06-28 math.ST stat.TH
Statistical estimation of the Oscillating Brownian Motion
研究了一类称为振荡布朗运动的随机微分方程中二值不连续扩散系数估计的渐近性态。利用后一个过程与斜布朗运动的关系,我们提出了两个自然相容的估计,这是综合波动率估计的变种,并考虑到占用时间。我们证明了重正化误差估计对某些高斯混合的稳定收敛性,可能通过依赖于当地时间的项进行校正。这些限制源于遍历性的缺乏以及过程在零时的本地时间的行为。我们测试这两个估计的模拟过程中,找到一个完全符合理论预测。
2017-01-09 math.PR math.ST stat.TH
Estimating the Spot Covariation of Asset Prices - Statistical Theory and Empirical Evidence
本文提出了一种新的估计方法,用于估计具有噪声和非同步观测的多维连续半鞅对数资产价格过程的现货协方差阵。该估计器是基于块式参数谱协方差估计的局部平均值构造的。后者起源于最近推出的局部矩量法(LMM)。我们证明了一致性和逐点稳定的中心极限定理建议现货协方差估计在一个非常一般的设置随机波动,杠杆效应和一般的噪声分布。此外,我们扩展了LMM估计器对自相关噪声的鲁棒性,并提出了一种自适应推断自相关数据的方法。基于模拟,我们提供了经验指导的有效实施的估计,并将其应用到高频数据的纳斯达克蓝筹股的横截面。采用估计量估计现货协方差,相关性和波动率在正常的,但也不寻常的时期产生新的见解日内协方差和相关动态。我们发现,日内(共同)变化(i)遵循基本的周期性模式,(ii)揭示了大量的日内变化与(共同)变化风险,(iii)可以强烈,几乎瞬间增加,如果新的信息到达。
2017-07-08 math.ST stat.TH
Application of fused graphical lasso to statistical inference for multiple sparse precision matrices
本文利用融合图套索(FGL)方法同时估计多个总体的多个精度矩阵。FGL模型中的套索惩罚是对精度矩阵稀疏性的约束,并且对来自不同组的两个精度矩阵的适度惩罚抑制了多个组之间的相似结构。在高维情形下,给出了FGL估计的一个预言不等式,这是建立中心极限律所必需的。本文不仅研究了精度矩阵的点估计问题,而且研究了多个精度矩阵元素的线性组合的假设检验问题。受Jankova a和van de Geer的启发[用于高维逆协方差估计的置信区间,Electron. J. Stat. 9(1)(2015)1205-1229.],为了实现统计推断,研究了一种去偏技术以获得一个新的具有已知分布的相容估计,我们将统计推断问题推广到多总体,并提出了去偏FGL估计。给出了相应的去偏FGL估计量的渐近性质。仿真研究表明,所提出的测试工程以及在高维的情况下。
2023-03-02 math.ST stat.TH
Pac-bayesian bounds for sparse regression estimation with exponential weights
我们考虑稀疏回归模型,其中参数$p$的数量大于样本量$n$。当考虑高维问题的困难是提出估计实现统计和计算性能之间的良好折衷。BIC估计器例如从统计观点\cite{BTW07}表现良好,但仅可针对至多几十的$p$的值来计算。Lasso估计是凸最小化问题的解,因此对于$p$的大值是可计算的。然而,严格的设计条件,需要建立快速收敛速度的估计。Dalalyan和Tsybakov \cite{arnak}提出了一种在问题的统计和计算方面实现良好折衷的方法。他们的估计可以计算合理的大$p$,并满足良好的统计性质弱假设下的设计。然而,\cite{arnak}提出的稀疏预言不等式的期望,经验超额风险。在本文中,我们提出了一个聚合过程类似的\cite{arnak},但具有改进的统计性能。我们的主要理论结果是一个稀疏预言不等式的概率为真的超额风险的一个版本的指数加权估计。我们还提出了一个MCMC方法来计算我们的估计合理的大值的$p$。
2011-03-14 math.ST stat.CO stat.TH
Brillinger mixing of determinantal point processes and statistical applications
证明了定常的决定点过程是Brillinger混合过程。这个属性是一个重要的一步渐近统计这些过程。作为一个重要的例子,建立了一类广泛的行列式点过程泛函的中心极限定理。这一结果特别产生了平稳行列式点过程的强度估计及其对相关的核估计的渐近正态性。
2015-07-23 math.ST stat.TH
Double shrinkage priors for a normal mean matrix
本文针对Frobenius损失下正态均值矩阵估计,提出两种双重收缩先验,在奇异值收缩基础上增加标量或列向收缩,改进广义贝叶斯估计器并降低风险,同时给出预测密度的平行结果。
2024-04-18 math.ST stat.TH
Regularized M-estimators with nonconvexity: Statistical and algorithmic theory for local optima
我们提供了新的理论结果,局部最优的正则化$M$估计,允许非凸性损失和罚函数。在损失的约束强凸性和惩罚的适当正则性条件下,证明了复合目标函数的\emph{any stationary point}将落在底层参数向量的统计精度范围内.我们的理论涵盖了许多感兴趣的非凸目标函数,包括变量误差线性模型的校正Lasso;具有非凸惩罚的广义线性模型的回归,如SCAD,MCP和capped- $\ell_1$ ;以及高维图形模型估计。我们量化统计准确性,通过提供界限上的$\ell_1$ -,$\ell_2$ -,和预测误差之间的固定点和人口水平的最佳。我们还提出了一个简单的修改复合梯度下降,可以用来获得一个接近全局最优的统计精度$ε$内的$\log(1/ε)$步骤,这是最快的速度任何一阶方法。我们提供模拟研究,说明我们的理论结果的清晰度。
2015-01-01 cs.IT math.IT math.ST
Statistical analysis of Wasserstein GANs with applications to time series forecasting
我们在依赖观察的框架下为有条件和无条件Wasserstein生成对抗网络(WGAN)提供了统计理论。我们证明了上界的WGAN估计相对于修改Wasserstein型距离的超额贝叶斯风险。此外,我们形式化,并推导出报表上的弱收敛的估计,并使用它们来开发置信区间的新的观察。该理论被应用到高维时间序列预测的特殊情况。我们分析了基于合成数据的模拟中估计器的行为,并研究了一个真实的温度数据示例。数据的依赖性用绝对规则的β混合系数量化。
2020-11-05 math.ST stat.ML stat.TH
Statistical inference of random graphs with a surrogate likelihood function
本文提出一种新颖的替代似然函数用于随机点积图的统计推断,该方法兼具可分离与对数凹结构,从频率派和贝叶斯双重视角建立理论并证明其优于基线谱估计量。
2025-08-11 math.ST stat.ME stat.TH
New $\sqrt{n}$-consistent, numerically stable higher-order influence function estimators
高阶影响函数(HOIF)为在包括流行病学、经济学和社会科学在内的实质性领域中出现的一大类低维(平滑)统计泛函/参数(有时甚至是无限维函数)提供了一个统一的理论来构造速率最优估计。自Robins等人(2008年)引入HOIF以来,它们主要被视为理论基准,而不是统计实践的有用工具。旨在翻转剧本的作品很少,但最近的几篇论文Liu et al.(2017,2021 b)取得了一些部分进展。在本文中,我们采取了新的尝试,在实现这一目标,通过构建新的,数值稳定的HOIF估计(或sHOIF估计,简称为“s”代表“稳定”)与可证明的统计,数值和计算保证。这类新的sHOIF估计量(高达二阶)在Liu等人(2020 a)进行的合成实验中有所预示。
2023-02-16 econ.EM math.ST stat.ME
A Variational View on Statistical Multiscale Estimation
我们提出了一个统一的观点,各种统计估计技术,包括惩罚,变分和阈值方法。这些估计量将在统计线性逆问题的背景下进行分析,包括非参数和变点回归,以及高维线性模型作为示例。我们的方法揭示了许多看似无关的估计方案作为特殊的情况下,一般类的变分多尺度估计,名为MIND(MultIscale Nemirovskii-Dantzig)。这些估计量是在凸约束下最小化某些正则化泛函的结果,这些凸约束可以被看作是对局部假设的多个统计检验。为了计算的目的,我们重铸MIND在更简单的无约束优化问题,通过拉格朗日罚函数以及Fenchel对偶。几个MIND的性能证明数值例子。
2021-06-10 math.ST stat.CO stat.ME
Linear estimators for Gaussian random variables in Hilbert spaces
Albert Ludwig University of Freiburg(弗赖堡阿尔伯特·路德维希大学);University of Wuppertal(伍珀塔尔大学)
本文研究了无限维高斯随机变量的线性估计方法,推导了均值和方差的估计器,并探讨了置信区间、假设检验及线性回归问题。
2024-06-07 math.FA math.PR math.ST
Stabilized Higher-Order Influence Functions: Statistical Theory of a Class of Bilinear Forms
School of Mathematical Sciences, Shanghai Jiao Tong University(上海交通大学数学科学学院);Department of Statistics, University of Virginia(弗吉尼亚大学统计学系);Department of Statistics and Data Science, Tsinghua University(清华大学统计与数据科学系);Institute of Natural Sciences, MOE–LSC, CMA–Shanghai, SJTU–Yale Joint Center for Biostatistics and Data Science, Shanghai Jiao Tong University(上海交通大学自然科学研究院、教育部数学天元基金管理中心-上海数学中心、上海交通大学-耶鲁大学生物统计与数据科学联合中心)
研究提出稳定的高阶估计器,无需样本分割,相比经验高阶估计器有限样本性能更稳定,且证明该类高阶估计器有类似统计保证,解决了原估计器的不足。
2026-09-22 econ.EM math.ST stat.ME