Bayesian bandwidth estimation and semi-metric selection for a functional partial linear model with unknown error density
This study examines the optimal selections of bandwidth and semi-metric for a functional partial linear model . Our proposed method begins by estimating the unknown error density using a kernel density estimator of residuals, where the regression function , consisting of parametric and nonparametric components, can be estimated by functional principal component and functional Nadayara-Watson estimators. The estimation accuracy of the regression function and error density crucially depends on the optimal estimations of bandwidth and semi-metric. A Bayesian method is utilized to simultaneously e…
2020-02-24 stat.AP stat.ME
Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation
RMIT University(RMIT大学);Amazon(亚马逊公司);Deakin University(迪肯大学);Chongqing University(重庆大学);University of Adelaide(阿德莱德大学)
针对贝叶斯优化中高斯过程超参数未知且估计有偏的问题,本文提出结合EXP3多臂老虎机随机采样与一致性训练损失函数的新方法,在保证次线性全局收敛的同时实现优于现有方法的性能。
2024-06-06 cs.LG stat.ML
Improve Uncertainty Estimation for Unknown Classes in Bayesian Neural Networks with Semi-Supervised /One Set Classification
虽然深度神经网络(DNN)已经取得了许多最先进的结果,估计DNN模型和数据中存在的不确定性是一项具有挑战性的任务。与不确定性相关的问题,例如将未知类别(未出现在训练数据中的类别)数据分类为具有高置信度的已知类别,在安全域领域(例如,自动驾驶、医疗诊断)中受到严重关注。在本文中,我们表明,单独应用当前的贝叶斯神经网络(BNN)技术不能有效地捕捉不确定性。为了解决这个问题,我们引入了一种简单的方法来改进BNN,通过使用一个类分类(在本文中,我们使用术语“集合分类”代替)。我们经验性地显示了我们的方法在实验上的结果,该实验涉及三个数据集:MNIST,notMNIST和FMNIST。
2018-05-16 cs.LG stat.ML
Minimax approach to the estimation problem for homogeneous random fields
Taras Shevchenko National University of Kyiv(基辅塔拉斯舍甫琴科国立大学)
针对噪声观测下多维齐次随机场线性泛函的均方最优估计问题,采用极小极大方法处理谱密度未知但给定容许集的情况,推导出最不利谱密度和极小极大谱特征的公式。
2026-06-29 math.ST stat.TH
Minimax Estimation Problem for Periodically Correlated Stochastic Processes
本文研究周期相关随机过程线性泛函的最优线性估计问题,给出谱密度已知和未知两类场景下估计的均方误差与谱特性计算公式,并推导最不利谱密度及极小极大鲁棒谱特性的确定公式。
2025-10-28 math.ST stat.TH
On minimax estimation problem for stationary stochastic sequences from observations in special sets of points
研究了随机平稳序列的未知值所依赖的线性泛函的均方最优估计问题。在谱确定的条件下,当序列的谱密度精确已知时,导出了泛函的最优线性估计的均方误差和谱特征的计算公式.极小极大(鲁棒)估计方法适用于谱密度的情况下,不知道确切的序列,而一些集的容许谱密度。对于某些特殊的容许密度集,导出了确定最不利谱密度和极小极大谱特征的公式。
2021-10-17 math.ST stat.TH
Admissibility of the usual confidence set for the mean of a univariate or bivariate normal population: The unknown-variance case
在高斯线性回归模型(均值和方差未知)中,我们证明了一个或两个回归系数的标准置信集在Joshi(1969)意义下是可容许的。这解决了数理统计中一个长期存在的开放问题,这对现代推理程序后模型选择或后收缩的性能具有重要影响,特别是在参数数量大于样本量的情况下。作为独立兴趣的技术贡献,我们引入了一类新的共轭先验的高斯位置尺度模型。
2018-09-21 math.ST stat.TH
Estimation of the $l_2$-norm and testing in sparse linear regression with unknown variance
本文研究了方差未知的稀疏线性回归的$l_2$ -范数和平方$l_2$ -范数的估计问题,以及在$l_2$分离的稀疏替代下回归参数为零的假设检验问题.我们建立了这三个问题的最优估计率(分别为检验率)。
2020-10-26 math.ST stat.TH
Estimation of the shift parameter in regression models with unknown distribution of the observations
研究了观测时间分布未知时半参数回归模型中偏移参数的估计问题。因此,我们建议使用一个随机算法,考虑到估计的分布的观察时间。证明了估计量的几乎必然收敛性和渐近正态性。本文的主要结果是,在对回归函数的正则性作很少假设的情况下,所得到的渐近方差与已知分布时的渐近方差相同。在这个意义上,我们改进了Bercu和Fraysse最近的工作。
2013-12-20 math.ST stat.TH
A sharp boundary for SURE-based admissibility for the Normal means problem under unknown scale
考虑了多元正态分布均值的Stein型收缩估计的拟容许/不容许性,其中协方差阵是单位元的未知倍数.拟容许/不容许定义在不存在/存在的微分不等式的解决方案的基础上斯坦的无偏风险估计(SURE)。我们发现一个尖锐的边界之间的准容许和准不可接受的估计有关的最佳James-Stein估计。我们还发现了一类先验相关的Strawderman类在已知方差的情况下,准容许性和准不可容许性之间的边界对应于在已知方差的情况下,容许性和不可容许性之间的边界。此外,我们还简要地考虑了一般球对称分布的情况下,残留向量的推广。
2016-09-12 math.ST stat.TH
Variance reduction for estimation of Shapley effects and adaptation to unknown input distribution
Shapley效应是全局敏感性指数:它们量化模型中每个输入变量对输出变量的影响。在这项工作中,我们提出了新的估计这些敏感性指数。当输入分布是已知的,我们调查已经存在的估计,并建议一个新的具有较低的方差。然后,当输入的分布是未知的,我们扩展这些估计。最后,我们给出了本文所研究的估计量的渐近性质。
2020-02-13 math.ST stat.TH
Nonparametric denoising Signals of Unknown Local Structure, II: Nonparametric Regression Estimation
我们考虑的问题恢复连续多维函数的噪声观测在规则的网格。我们的重点是在自适应估计的情况下,该函数可以很好地恢复使用线性滤波,这可以取决于未知函数本身。在配套文件“非参数降噪的信号与未知的局部结构,我:甲骨文不等式”,我们已经表明的情况下,当存在一个自适应的时不变滤波器,局部恢复“以及”的未知信号,有一个数字上有效的建设自适应滤波器恢复信号“几乎一样”。在本文中,我们研究的应用所提出的估计技术在非参数回归设置。也就是说,我们提出了一个自适应估计程序“本地良好过滤”的信号(一些典型的例子是平滑信号,调制平滑信号和调和函数),并表明,这种信号的恢复率在网格上的$\ell_p$ -范数基本上是相同的速率与非均匀平滑的常规信号。
2009-03-05 math.ST stat.TH
Adaptive estimation in circular functional linear models
考虑圆泛函线性回归中斜率参数的估计问题,其中标量响应Y1,.,Yn依赖于1周期的二阶平稳随机函数X1,.,Xn.我们考虑一个正交系列估计的斜率函数,通过取代第一个m理论系数的发展,在三角函数的基础上,适当的估计。weproposed一个模型选择程序m在一组允许的值,通过定义一个对比度函数最小化我们的估计和理论罚函数,这第一步假设不适定性的程度是已知的。然后,我们推广的过程中,一个随机集容许的m的和一个随机的罚函数。由此产生的估计是完全数据驱动的,并自动达到什么是已知的最佳极小极大收敛速率,在一般加权L2风险。这意味着我们提供了自适应估计的斜率函数及其衍生物。
2009-08-24 math.ST stat.TH
Rate optimal estimation of quadratic functionals in inverse problems with partially unknown operator and application to testing problems
我们考虑高斯序列模型中的二次泛函的估计,假设特征值是未知的,只能通过噪声观测。施加平滑假设的信号和序列的特征值,我们开发了一个极大极小理论这个问题。我们提出了一个截断序列估计,并表明,它达到最佳的收敛速率,如果截断参数选择适当。测试问题的反问题的后果同样讨论:特别是,极大极小率测试信号检测和拟合优度测试。
2019-07-14 math.ST stat.TH
High dimensional matrix estimation with unknown variance of the noise
提出了一种新的估计高维矩阵的关键方法。假设我们观察到被噪声破坏的未知矩阵$A\_0$的一小组项或项的线性组合。我们提出了一种新的方法来估计$A\_0$,它不依赖于知识或噪声$σ$的标准差的估计。我们的估计达到,对数因子,最佳的收敛速度下的Frobenius风险,因此,具有相同的预测性能,如以前提出的估计依赖于知识的$σ$。我们的方法是基于一个凸优化问题的解决方案,这使得它的计算吸引力。
2015-01-31 math.ST stat.TH
Estimation for Monotone Sampling: Competitiveness and Customization
随机样本是有损汇总,其允许通过对样本应用适当的估计器来近似对数据提出的查询。然而,抽样的有效性取决于估计量的选择。估计量的选择受到全局要求的约束,例如估计值的无偏性和范围限制,理想情况下,我们寻求的估计量既能有效地推导和应用,又能{ \em容许}(在方差方面不被其他估计量所支配)。然而,对于给定的数据域,抽样方案和查询,有许多可接受的估计。本文研究了单调抽样方案中可容许非负无偏估计的选择问题。单调抽样方案隐含在大量数据集分析的许多应用中。我们的主要贡献是一般导子的可容许估计与理想的性质。我们提出了一个建设{ \em订单最优}估计,最小化方差根据{ \em任何}指定的优先级在数据域。顺序最优性允许我们自定义推导出我们可以在数据中学习或观察到的常见模式。当我们优先考虑较低的价值时(例如,当估计差异时,数据集的相似性更大),我们得到了L $^*$估计,它是唯一单调可容许估计。我们证明了L $^*$估计是4-竞争的,并且优于经典的Horvitz-Thompson估计.这些属性使L $^*$估计量成为自然的默认选择。我们还提出了U $^*$估计器,它优先考虑大值(例如,更少的相似数据集)。我们的估计量构造既易于应用,又具有理想的性质,使我们能够充分利用汇总的数据。
2014-04-09 cs.DB math.ST stat.TH
Estimation for linear parabolic SPDEs in two space dimensions with unknown damping parameters
针对二维空间中由两类Q-Wiener过程驱动的线性抛物型SPDE,基于高频时空数据,利用已实现二次变差、最小对比法及近似坐标过程估计阻尼参数等未知参数,并开展了数值模拟研究。
2025-04-14 math.ST stat.TH
Minimax estimation in linear models with unknown design over finite alphabets
本文给出了矩阵值线性模型Y = FW + Z中F和W的一个极小极大最优估计方法,其中参数矩阵W和设计矩阵F都是未知的,但后者取值于一个已知的有限集.所提出的有限字母表线性模型在从信号处理到癌症遗传学的各种应用中是合理的。我们表明,这允许分离F和W唯一弱可识别性条件下,这是不可行的,在一般情况下的任务。为此,我们在无噪声的情况下,也就是说,Z = 0,Y的扰动范围,以获得稳定的恢复F和W量化。在此基础上,我们推导出一个迭代Lloyd型估计过程,该过程对高斯误差矩阵Z获得W和F的极小极大估计率。与最小二乘解相比,估计过程可以有效地计算,并且与观测总数线性地成比例。我们在模拟研究中证实了我们的理论结果,并以基因测序数据为例进行了说明。
2021-02-18 math.ST stat.TH
Generative model for optimal density estimation on unknown manifold
提出一种生成模型,基于几何Whitney问题解法,在未知低维流形上实现极小极大最优密度估计,并对所有γ≥1的Hölder IPMs同时最优,实验验证优于或媲美WGAN和基于分数的模型。
2025-06-24 math.ST stat.TH
Estimation and tests for models satisfying linear constraints with unknown parameter
我们介绍了通过散度最小化模型满足线性约束与未知参数的估计和测试程序。给出了一些统计实例和动机。这些程序扩展了经验似然(EL)方法,并与广义经验似然(GEL)共享共同特征。本文讨论了符号有限测度集上概率测度的发散投影的存在性和特征。我们的方法允许研究的估计下误设。利用散度的对偶表示和散度投影的显式形式,研究了所提出的估计的渐近性态。从多个方面讨论了分歧的选择问题。此外,我们处理效率和鲁棒性的最小散度估计。仿真研究表明,Hellinger发散具有良好的效率和鲁棒性。
2008-11-21 math.ST stat.TH
Optimal adaptive estimation of linear functionals under sparsity
考虑高斯序列模型中线性泛函的估计问题,其中R^d中的未知向量θ属于一类s-稀疏向量,且s未知.我们建议一个自适应估计实现非渐近收敛速率,不同于最大极小率的对数因子。我们还表明,这种最佳的自适应率不能提高时,s是未知的。此外,我们还讨论了同时适应s和噪声方差σ ^2的问题。我们提出了一个估计器,当s和σ ^2都未知时,它可以达到最优的自适应速率。
2017-10-06 math.ST stat.TH
On the density estimation problem for uncertainty propagation with unknown input distributions
在这篇文章中,我们研究的问题,量化的不确定度在实验中的技术系统。我们提出了新的密度估计相结合的技术系统的观测数据和模拟数据从(不完美的)模拟模型的基础上估计的输入分布。我们分析了这些估计的收敛速度收敛速率。有限的样本量的估计性能说明将它们应用到模拟数据。新提出的估计的实际用途证明,通过使用它们来预测的不确定性的横向振动衰减系统与压电弹性支持。
2020-12-18 math.ST stat.TH
Rate-optimal estimation for a general class of nonparametric regression models with unknown link functions
本文讨论了一种自然推广神经网络模型的非参数回归模型。该模型是基于有限数量的一维变换,可以估计与一维收敛速率。该模型包含了链接函数未知的广义可加模型作为特例。对于这种情况下,它示出的添加剂成分和链接函数可以估计与最佳速率由平滑样条,这是一个惩罚最小二乘标准的解决方案。
2008-03-20 math.ST stat.TH
A Note on Improved Multivariate Normal Mean Estimation With Unknown Covariance When p Is Greater Than n
本研究指出一篇p>n下协方差未知的多元正态均值估计经典论文的定理2证明存在重大错误,并在方差-协方差矩阵估计量秩的合理假设下修正了相关证明。
2024-06-24 math.ST stat.TH
Parameter estimation for ergodic linear SDEs from partial and discrete observations
考虑线性随机微分方程描述的状态空间模型的参数估计问题。我们假设一个不可观测的Ornstein-Uhlenbeck过程通过线性随机微分方程驱动另一个可观测的过程,并且这两个过程依赖于一些未知参数.我们构造了未知参数的拟似然估计(QMLE),并证明了该估计的渐近性质。
2022-03-24 math.ST stat.TH
Adaptive quantile estimation in deconvolution with unknown error distribution
对反褶积问题中的分位数估计进行了全面的研究。特别是,更现实的设置未知的误差分布覆盖。我们的插件方法是基于反卷积密度估计,是最小和自然条件下的最小最大最优。这填补了文献中的一个重要空白。通过数据驱动的带宽选择获得最佳自适应估计。作为一个侧面的结果,我们获得了最佳率的插入估计的分布函数与未知的误差分布。该方法被应用到一个真实的数据的例子。
2016-01-15 math.PR math.ST stat.TH
Optimal Permutation Estimation in Crowd-Sourcing problems
出于众包应用程序,我们考虑一个模型,其中我们有部分观察到一个二元保序n × d矩阵与一个未知的置换$π$ * 作用于其行。专注于恢复置换$π$ * 和估计未知矩阵的孪生问题,我们介绍了一个多项式时间的过程,实现这两个问题的极大极小风险,这对于所有可能的值n,d,和所有可能的采样努力。一路上,我们建立,在某些制度,恢复未知的置换$π$ * 是相当简单的估计矩阵。
2023-03-30 math.ST stat.TH
Nonparametric intensity estimation from noisy observations of a Poisson process under unknown error distribution
本文研究了圆形模型中Poisson点过程强度函数的间接观测非参数估计$N_1,\ldots,N_n$。这些观察出现从隐藏的点过程实现与目标强度通过污染与添加剂的错误。在误差分布只能从一个额外的样本$Y_1,\ldots,Y_m$估计的情况下,我们推导出极小极大收敛率相对于样本量$n$和$m$在抽象光滑条件下,并提出了一个正交系列估计,达到最佳的收敛速率。估计器的性能取决于维度参数的正确规范,其最佳选择取决于强度和误差密度的平滑特性。我们提出了一个基于模型选择的数据驱动的维度参数的选择,并表明自适应估计达到最小最大最优速率。
2019-02-17 math.ST stat.TH
Improved multivariate normal mean estimation with unknown covariance when p is greater than n
本文研究了当协方差未知时,在不变二次损失$(δ-θ)'Σ^{-1}(δ-θ)$下,p-变量正态$(θ,Σ)$分布的均值向量的估计问题.我们提出了一类新的估计,占主导地位的通常估计$δ^0(X)=X$。所提出的$θ$的估计依赖于X和一个独立的n自由度Wishart矩阵S,但当p>n时,S几乎必然是奇异的.控制的证明涉及到对p>n的情形发展一些新的风险无偏估计。我们还发现了控制量与n和p的大小之间的一些关系。
2013-02-27 math.ST stat.TH
Efficient estimation in the accelerated failure time model under cross sectional sampling
考虑在加速失效时间模型中,当数据通过横截面抽样获得时,回归参数的估计。它表明,它是可能的正则性下的模型,以构建一个有效的估计未知的欧氏回归参数,如果协变量向量的分布是已知的,也如果它是未知的消失的意思。
2003-05-16 math.ST stat.TH
Density estimation on an unknown submanifold
研究了欧氏空间$\mathbb R^D$中$n$ -样本的密度估计,当数据由一个未知维数$d < D$的未知子流形$M$支持时.我们研究了点态损失的非参数核方法,数据驱动的带宽,通过局部尺寸估计,结合了一些学习的几何形状。当$f$具有Hölder光滑性$β$且$M$具有正则性$α$时,我们的估计量达到了速率$n^{-α\wedge β/(2α\wedge β+d)}$且不依赖于环境维数$D$,并且对于$α\geq β$是渐近极小极大的.根据Lepski的原则,带宽选择规则,以实现平滑适应。我们还调查的情况下$α\leq β$:通过估计在某种意义上的基本几何的$M$,我们建立在维度$d=1$的极大极小率是$n^{-β/(2β+1)}$特别证明,它不依赖于规律性的$M$。最后,数值实施进行了一些案例研究,以确认我们的估计的实际可行性。
2020-10-30 math.ST stat.TH
On Minimax Estimation Problems for Periodically Correlated Stochastic Processes
本文研究了周期相关随机过程的最小最大估计问题,提出计算最优线性估计的公式,并分析了最不利频谱密度和鲁棒频谱特征。
2025-11-21 math.ST stat.TH
On estimation states of hidden markov models in condition of unknown transition matrix
在本文中,我们开发的非线性滤波和预测的马尔可夫链的有限集的状态。该马尔可夫链控制AR(p)模型的系数。在概率转移阵未知的情况下,利用AR(p)模型产生的观测值,我们需要估计马尔可夫链的状态。在转移阵已知的情况下,通过仿真比较了所提出的非参数算法和最优算法。
2015-03-08 math.PR math.ST stat.TH
Logistic regression with unknown sizes
在生物和医学科学中经常出现未知大小的二项数据。以前的方法要么使用泊松近似或准似然方法。提出了一种全似然方法,将未知尺寸作为潜在变量。这种方法简化了分析,因为可以应用极大似然估计。它还有助于我们更多地了解模型之间的效率损失和模型内的估计精度。仿真评估所提出的模型的性能。存活的空肠隐窝数据的应用进行了讨论。所提出的方法不仅与以往的方法具有竞争力,而且也给出了一个适当的解释膨胀的变化的期望大小。
2006-09-20 math.ST stat.TH
On Parameter Estimation of Hidden Ergodic Ornstein-Uhlenbeck Process
考虑部分可观测线性随机微分方程的参数估计问题。我们假设不可观测的Ornstein-Uhlenbeck过程依赖于某个未知参数,并同时估计不可观测过程和未知参数。我们构造了参数估计的两步MLE过程,并描述了它的大样本渐近性质,包括相合性和渐近正态性。使用卡尔曼-布西滤波方程,我们构造的状态和参数的递归估计。
2019-02-22 math.ST stat.TH
Minimax Rate of Distribution Estimation on Unknown Submanifold under Adversarial Losses
从高维低维结构数据中进行统计推断的研究近年来引起了人们的广泛关注。在机器学习中,深度生成建模方法通过从底层分布创建新样本来隐式地估计复杂对象的分布,并且在生成合成的逼真图像和文本方面取得了巨大成功。这些方法中的关键步骤是提取潜在特征或表示(编码),这些特征或表示可用于准确重建原始数据(解码)。换句话说,低维流形结构被隐含地假设并用于分布建模和估计。为了理解低维流形结构在生成建模中的好处,我们建立了一个通用的极小极大框架,用于在对抗损失下对未知子流形进行分布估计,并对目标分布和流形进行适当的平滑假设。所建立的极大极小率阐明了各种问题特征,包括数据的内在维数和目标分布和流形的平滑程度,如何影响高维分布估计的基本限制。为了证明极大极小上界,我们构建了一个估计的基础上的混合本地拟合生成模型,这是出于从微分几何的单位分解技术,是必要的,以涵盖的情况下,底层的数据流形不承认一个全球参数化。我们还提出了一个数据驱动的自适应估计,同时达到在一个对数因子的最佳速率在一个大的集合的分布类。
2022-02-18 math.ST stat.TH
Exact Asymptotic Estimation of Unknown Parameters of Perturbed LRE with Application to State Observation
针对现有线性回归方程参数辨识律在加性扰动下仅能保证误差有界的问题,提出满足特殊平均条件时可实现参数估计误差渐近收敛的新辨识律,并成功应用于状态重构,经数值仿真验证。
2024-02-02 cs.SY eess.SY math.ST
Bayesian Predictive Density Estimation for a Chi-squared Model Using Information from a Normal Observation with Unknown Mean and Variance
本文考虑了在Kullback-Leibler散度下,基于另一个卡方变量和一个正态变量的观测值估计另一个卡方变量的密度函数的问题.我们假设这些变量有一个共同的未知尺度参数,并且正态变量的均值也是未知的。我们比较了两个贝叶斯预测密度的风险函数:一个相对于一个分层收缩先验,另一个基于无信息先验。分层贝叶斯预测密度依赖于正态变量,而基于无信息先验的贝叶斯预测密度不依赖于正态变量。得到了前者优于后者的充分条件。这些预测密度进行了比较模拟。
2020-07-19 math.ST stat.ME stat.TH
Filtering of Multidimensional Stationary Sequences with Missing Observations
针对带噪声和缺失观测的多维平稳序列,研究线性泛函的均方最优线性估计,在谱已知时给出精确公式,谱不确定时采用极小极大稳健方法并确定最不利谱密度。
2018-04-12 math.PR math.ST stat.TH
Statistical Inference for Random Unknowns via Modifications of Extended Likelihood
本文通过修正扩展似然提出h-似然和h-置信,用于含随机未知量的统计模型,实现点估计、区间估计与预测,并达到广义Cramér-Rao下界。
2025-02-28 math.ST stat.ME stat.TH
Avoid Estimating the Unknown Function in a Semiparametric Nonignorable Propensity Model
我们研究的问题估计的功能或参数的上下文中,结果是受不可分割的missingness。我们完全避免建模的回归关系,而允许的倾向,以半参数的逻辑关系,依赖于协变量是未指定的。我们发现了一个令人惊讶的现象,在倾向模型中的参数估计以及功能估计可以进行,而不需要评估缺失对协变量的依赖性。这使我们能够提出一个一般类的模型参数估计和功能估计,包括估计结果的平均估计估计。估计的鲁棒性是非标准的,严格建立通过理论推导,并支持模拟和数据应用。
2021-08-10 math.ST stat.ME stat.TH
Nonparametric Estimation of Variance Function for Functional Data
本文研究均值函数未知时函数型数据方差函数的非参数估计。我们得到的核估计的平方残差的基础上的渐近结果。与有限维情形类似,我们的渐近结果表明未知均值函数的光滑性对收敛速度有影响。仿真结果表明,基于残差的估计量比基于响应的条件二阶矩的估计量有更好的性能。
2008-12-14 math.ST stat.ME stat.TH
Framework for state and unknown input estimation of linear time-varying systems
Delft University of Technology(代尔夫特理工大学)
本文提出了一种双模型自适应估计方法,用于解决不存在存在条件的未知输入滤波问题,实现了状态和未知输入的估计与解耦。
2016-06-26 cs.IT cs.SY eess.SY
Minimax Linear Estimation at a Boundary Point
本文在高斯白噪声模型中,在未知函数的一阶导数为Lipschitz连续(二阶Hölder类)的条件下,刻画了未知函数在其定义域边界点处的值的Minimax线性估计.然后将所得结果应用于构造断点回归设计模型的极小极大最优估计,其中感兴趣的参数涉及边界点处的函数值。
2017-10-18 econ.EM math.ST stat.TH
Near-Optimal Mean Estimation with Unknown, Heteroskedastic Variances
本文针对未知异方差高斯数据的共同均值估计问题,提出一种直观高效且在信号子集模型下达到近最优误差的算法,将所需方差有界样本数从 Ω̃(n^{1/2}) 降至 Õ(n^{1/4}),并推广到多维情形。
2023-12-05 cs.DS math.ST stat.ML
Towards Optimal Estimation of Bivariate Isotonic Matrices with Unknown Permutations
Yale University(耶鲁大学);UC Berkeley(加州大学伯克利分校)
许多应用,包括秩聚合、群标记和图子估计,可以根据具有作用于其行和/或列的未知排列的二元保序矩阵来建模。我们考虑的问题,估计一个未知的矩阵在这类中,基于噪声观测(可能是一个子集)的条目。我们设计和分析多项式时间算法,提高了两个不同的指标,特别是最小最大优化,计算效率的估计是在某些设置中实现的。一路上,我们证明了匹配的上限和下限的极小极大半径的某些锥测试问题,这可能是独立的利益。
2019-10-27 cs.IT cs.LG math.IT
Efficient learning of hidden state LTI state space models of unknown order
本文的目的是解决两个相关的隐藏状态线性时不变(LTI)的状态空间系统的设置时,隐藏状态的维数是未知的估计问题。也就是说,任何有限数量的系统的马尔可夫参数的估计和系统的最小实现的估计,两者都来自单个轨迹的部分观测。对于这两个问题,我们提供了各种形式的估计误差上界,$\rank$恢复条件,和样本复杂性估计的统计保证。具体而言,我们首先表明,低$\rank$解决方案的汉克尔惩罚最小二乘估计满足估计误差$S_p$ -规范的$p \in [1,2]$,捕获的效果比现有的运营商规范上界的简单的最小二乘的系统顺序。然后,我们提供了一个稳定性分析的估计过程的基础上的一个变体的Ho-Kalman算法,提高了对维数和马尔可夫参数的汉克尔矩阵的最小奇异值的依赖。最后,我们提出了一个估计算法的最小实现,使用汉克尔惩罚最小二乘估计和Ho-Kalman估计过程,并保证与高概率,我们恢复正确的顺序的系统,并满足一个新的快速率在$S_2$ -范数多项式减少的依赖的尺寸和其他参数的问题。
2022-02-03 math.PR math.ST stat.ML
Dimension Reduction in Statistical Estimation of Partially Observed Multiscale Processes
我们考虑部分观测的多尺度扩散模型,指定到一个未知的向量参数。我们建立了一个非常一般的一类检验函数,过滤器的原始模型收敛到一个过滤器的减少的维度。然后,这个结果被用来证明统计估计的未知参数的基础上减少的维度,但使用原始的可用数据的模型。这允许在较低维度下工作时学习感兴趣的未知参数,而不是使用原始的高维系统。仿真研究支持并说明了理论结果。
2017-11-26 math.PR math.ST q-fin.ST
Statistical and Computational Efficiency for Smooth Tensor Estimation with Unknown Permutations
University of Wisconsin – Madison(威斯康星大学麦迪逊分校)
针对未知置换下的结构化张量去噪问题,提出通用光滑张量模型族,证明约束最小二乘估计达极小极大误差界并揭示相变现象,还提出高效Borda计数算法,经模拟和真实数据验证有效。
2025-01-11 cs.LG math.ST stat.ME
Tackling small eigen-gaps: Fine-grained eigenvector estimation and inference under heteroscedastic noise
本文研究了低秩矩阵的特征向量估计和推断中的两个基本问题:(1)当特征间隙不确定时,如何估计未知的特征向量(即,相关联的本征值与频谱的其余部分之间的间隔)特别小;(2)如何对特征向量的线性泛函进行估计和推断--一种“细粒度”的统计推理,远远超出了通常的$\ell_2$分析。我们研究如何解决这些挑战的设置中,未知的$n\times n$矩阵是对称的,加性噪声矩阵包含独立的(和非对称的)条目。基于非对称数据矩阵的特征分解,我们提出了一个未知的特征向量的估计和不确定性量化程序,这进一步使我们能够推理关于一个未知的特征向量的线性泛函。所提出的程序和相应的理论享有几个重要的特点:(1)分布自由(即不需要有关噪声分布的先验知识);(2)自适应异方差噪声;(3)最小最大最优高斯噪声。一路上,我们建立了最佳的程序来构建置信区间的未知特征值。所有这一切都是保证,即使在一个小的本征间隙(高达$O(\sqrt{n/\mathrm{poly}\log (n)})$倍小于在现有理论的要求),这大大超出了一般的矩阵扰动理论所提供的存在。
2021-09-07 cs.IT cs.NA eess.SP