Estimator selection: a new method with applications to kernel density estimation
估计量的选择已成为非参数估计中的一个关键问题。两种广泛使用的方法是惩罚经验风险最小化(如惩罚对数似然估计)或成对比较(如Lepski方法)。我们在本文中的目的是双重的。首先,我们解释一些关于估计量选择方法的校准问题的一般想法。我们回顾了一些已知的结果,把重点放在最小惩罚的概念,这是有助于设计数据驱动的选择标准。其次,我们提出了一种新的方法,在核密度密度估计的框架内的带宽选择,这是在某种意义上这两个主要的方法之间的上述。我们提供了一些理论结果,导致一些完全数据驱动的选择策略。
2017-10-18 math.ST stat.TH
Bandlet Image Estimation with Model Selection
为了估计白噪声模型中的几何正则的图像,并获得自适应的近渐近极大极小结果,我们考虑了一种基于模型选择的带估计器。该带估计器结合了模型选择的最佳基选择行为和带字典的近似性质。我们推导出它的近渐近极小极大几何正则的图像作为一个例子的模型选择与一般字典的正交基。因此,本文也是一个独立的教程模型选择与正交基字典。
2009-12-12 math.ST stat.TH
Data-driven neighborhood selection of a Gaussian field
研究了格点上观测到的平稳高斯场X的非参数协方差估计。为了解决这个问题,最近引入了一个社区选择程序。该过程相当于通过惩罚方法选择邻域m,并估计具有邻域m的高斯马尔可夫随机场(GMRF)空间中X的协方差。这样的策略,以满足甲骨文不等式以及极大极小自适应性能。然而,它有几个缺点,这使得该方法难以在实践中应用。一方面,惩罚取决于一些未知量。另一方面,该过程仅针对环形晶格定义。目前的贡献是三方面的。提出了一种数据驱动的罚函数整定算法。此外,该程序被扩展到非环形晶格。最后通过数值算例验证了该方法的有效性。这些模拟表明,高斯马尔可夫随机场选择往往是一个很好的替代变差函数估计。
2009-09-02 math.ST stat.TH
Optimal model selection in density estimation
我们建立惩罚最小二乘估计,使用斜率启发式和reservation处罚。证明了首项常数渐近等于1的选择估计量的预言不等式。我们比较这些方法的实际性能在一个简短的模拟研究。
2010-07-26 math.ST stat.TH
Bayesian Variable Selection and Estimation for Group Lasso
本文重新访问贝叶斯群体套索,并使用穗和板坯先验组变量选择。在这个过程中,我们的模型与惩罚回归的连接被证明,并指出后中值阈值的作用。证明了在正交设计下,后验中位数估计对组变量的选择和估计具有预言性质,而当变量选择达到一致时,组Lasso估计具有次优的渐近估计率.接下来,我们考虑两个层次的选择问题,并提出了贝叶斯稀疏组选择再次与穗和板坯先验选择变量在组水平和组内。我们通过模拟证明,我们的尖峰和平板模型的后验中值估计具有优良的性能,无论是变量的选择和估计。
2015-12-03 math.ST stat.TH
Universal pointwise selection rule in multivariate function estimation
本文研究多元函数的点态估计问题。我们开发了一个一般的逐点估计过程,是基于从一个大的参数化集合中选择估计。逐点风险的上界的建立,它表明,建议的选择程序专门为不同的集合的估计导致极大极小和自适应极大极小估计在各种设置。
2008-11-17 math.ST stat.TH
The Brouwer Lecture 2005: Statistical estimation with model selection
本文的目的是解释的兴趣和重要性的(近似)模型和模型选择的统计。从非常基本的例子直方图,我们提出了一个一般的概念,有限维模型的统计估计,我们解释了什么类型的风险范围可以预期从使用这样的模型。然后,我们从一个家庭这样的模型的性能合适的模型选择程序。我们说明了我们的观点,两个主要的例子:从一个n样本的直方图设计的分区的选择和高斯回归的背景下的变量选择的问题。
2006-05-13 math.ST stat.TH
Optimal rates for parameter estimation of stationary Gaussian processes
利用Wiener空间中的优化工具,研究了一般平稳和非平稳高斯序列泛函的部分和的中心极限定理的收敛速度.我们将所得结果应用于分数阶布朗运动驱动的一类随机微分方程的漂移参数估计问题.
2016-03-15 math.ST stat.TH
General model selection estimation of a periodic regression with a Gaussian noise
本文研究了在具有未知相关函数的平稳加性高斯噪声的连续时间回归模型中周期函数的估计问题。提出了一种基于任意投影估计的通用模型选择方法,该方法不需要已知噪声相关函数。在较弱的噪声条件下,得到了二次风险(oracle不等式)的一个非渐近上界。对于Ornstein-Uhlenbeck噪声的风险上界是一致的冗余参数。在高斯白噪声情况下,与基于最小二乘估计(LSE)的方法相比,所构造的方法具有一些优点。证明了估计的渐近极小极大性。所提出的模型选择方案也扩展到基于离散数据的估计问题,适用于不能提供高频采样的情况。
2010-11-05 math.ST stat.TH
Multiple Testing and Error Control in Gaussian Graphical Model Selection
图形模型为探索多元依赖模式提供了一个框架。图和统计模型之间的连接是通过识别具有观察到的变量的图的顶点,并将图中的边的模式转换为施加在变量的联合分布上的条件独立性的模式来实现的。聚焦高斯模型,我们回顾经典的图形模型。对于这些模型,定义的条件独立性等同于与图中不存在的各个边相关联的某些(部分)相关系数的消失。因此,高斯图形模型选择可以通过对关于消失(部分)相关系数的假设进行多次测试来执行。我们展示并分析了这种方法如何在控制不正确边缘包含的差错率的同时进行模型选择。
2008-02-05 math.ST stat.TH
Asymptotics and optimal bandwidth selection for highest density region estimation
我们研究了最高密度区域(HDR)的核估计。我们的主要贡献有两方面。首先,我们推导出一个均匀的带宽渐近近似的风险,是适当的HDR估计。这种近似,然后使用推导出的带宽选择规则HDR估计具有吸引力的渐近性质。我们还提出了数值研究的结果,说明了我们的理论和方法的好处。
2010-10-04 math.ST stat.TH
Maximum likelihood estimation for a bivariate Gaussian process under fixed domain asymptotics
本文研究了在固定区域渐近条件下,具有可分离指数协方差模型的二元高斯过程数据的极大似然估计。我们首先刻画了该模型下高斯测度的等价性。然后建立了微遍历参数的相合性和渐近分布。模拟研究,以比较有限样本的最大似然估计与给定的渐近分布的行为。
2016-03-30 math.ST stat.TH
Minimum Mean Square Error Estimation Under Gaussian Mixture Statistics
本文研究了当x和n独立且服从高斯混合分布时,给定观测值y = Hx+n,x的最小均方误差(MMSE)估计. GM分布的引入,代表了对更为常见和简单的高斯信号和高斯噪声情况的推广。我们提出了必要的理论基础,并推导出x的MMSE估计的封闭形式。此外,我们还给出了其均方误差(MSE)的上界和下界。这些界限是通过蒙特卡罗模拟验证。
2011-08-17 math.ST stat.TH
On the Information-theoretic Limits of Graphical Model Selection for Gaussian Time Series
考虑了基于有限长观测值的多元平稳离散时间高斯随机过程的条件独立图的推断问题。使用信息论的方法,我们推导出一个下界的错误概率的任何学习计划的底层进程CIG。这个界限,反过来,产生一个最小的所需的样本大小,这是必要的任何算法,无论其计算复杂性,可靠地选择真正的基础CIG。此外,通过分析一个简单的选择方案,我们表明,信息理论的限制可以实现的一个子类的过程具有稀疏CIG。我们不假设所观察到的过程的参数模型,但要求它有一个足够光滑的谱密度矩阵(SDM)。
2014-03-05 math.ST stat.TH
Stein estimation for the drift of Gaussian processes using the Malliavin calculus
本文考虑了高斯过程漂移的非参数函数估计,分别用极大极小估计和贝叶斯估计。在这种情况下,我们构造超有效的估计Stein型的漂移使用Malliavin的分部积分法公式和超调和函数的高斯空间。我们的结果通过数值模拟得到了验证,并推广了Berger和Wolpert [J. Multivariate Anal. 13(1983)401- 424]。
2008-11-07 math.ST stat.TH
On improved estimation in a conditionally Gaussian regression
本文考虑了二次损失下多元条件正态分布的$p\geq2$维均值向量的估计问题。当估计具有由布朗运动和复合泊松过程的混合驱动的非高斯Ornstein-Uhlenbeck过程的连续时间回归模型中的参数时,出现了这种类型的问题。
2011-05-25 math.ST stat.TH
On minimax nonparametric estimation of signal in Gaussian noise
对于高斯噪声中信号的非参数估计问题,我们指出了线性估计的极大集上的强渐近Minimax估计(见\cite{ker93,rio})。结果表明,Pinsker估计在该极大集上的收敛速度的阶比线性估计类在该极大集上的收敛速度的阶差.证明了索伯列夫空间中的球是Pinsker估计的极大集。
2017-11-05 math.ST stat.TH
Adaptive density estimation for clustering with Gaussian mixtures
高斯混合模型被广泛用于研究聚类问题。这些基于模型的聚类方法需要通过高斯混合来准确估计未知数据密度。在Maugis和Michel(2009)中,提出了一种惩罚极大似然估计,用于自动选择混合成分的数量。本文考虑了对数局部β-Hölder的单变量密度集在矩和尾条件下的情形.我们证明了这种惩罚估计是极小极大自适应的β规律性的密度在Hellinger意义。
2011-10-14 math.ST stat.TH
Penalized quasi likelihood estimation for variable selection
将惩罚方法应用于随机微分方程模型的拟似然分析。本文讨论了一类多项式型大偏差不等式成立的拟似然函数及相应的统计随机场。则罚项不扰动多项式型大偏差不等式。这一性质保证了相关估计量的矩的收敛性,这对于估计模型选择不正确的概率的上界起着重要的作用。
2019-10-28 math.ST stat.TH
Bandwidth selection in kernel density estimation: Oracle inequalities and adaptive minimax optimality
通过核估计量的选择,解决了具有$\mathbb{L}_s$ -损失的密度估计问题.我们开发了一个选择过程,并推导出相应的$\mathbb{L}_s$ -风险预言不等式。结果表明,建议的选择规则导致的估计是极小极大自适应的各向异性的Nikol'skii类的规模。在我们的推导中使用的主要技术工具是最近由Goldenshluger和Lepski开发的经验过程的$\mathbb{L}_s$ -范数的统一界限[Ann. Probab.(2011年)。
2012-11-22 math.ST stat.TH
Nonparametric estimation of covariance functions by model selection
提出了一种多维随机过程协方差估计的模型选择方法。在非常一般的假设下,在固定的观测点观测过程的独立同分布重复,我们通过将过程扩展到基函数的集合上来构造协方差函数的估计。我们研究了这个估计的非渐近性质,并给出了一个易于处理的方法来选择最好的估计之间的一组可能的候选人。通过一个预言不等式证明了该过程的最优性,从而保证了最佳模型的选择。
2009-09-28 math.ST stat.TH
Adaptive asymptotically efficient estimation in heteroscedastic nonparametric regression via model selection
本文讨论了作者在2007年的论文中提出的估计未知非参数回归的自适应过程的渐近性质。我们证明了该方法对于二次风险是渐进有效的,即该方法的渐进二次风险与Pinsker常数一致,该常数给出了所有可能估计量的二次风险的精确下界。
2008-10-07 math.ST stat.TH
Estimation of sub-Gaussian random vectors using the method of moments
亚高斯稳定分布是一种重尾椭圆型分布,在信号处理和金融数学中有着重要的应用。这项工作解决的问题,可行的估计分布。我们提出了一种方法的基础上的应用程序的矩量法的经验特征函数。此外,我们证明了我们的估计的几乎必然收敛,发现他们的极限分布,并证明了他们的有限样本性能。
2022-08-03 math.ST stat.TH
Joint rank and variable selection for parsimonious estimation in a high-dimensional finite mixture regression model
本文研究了高维多元响应回归模型的有限混合模型的降维技术。响应的维数和预测变量的数量都允许超过样本量。我们考虑预测器的选择和降秩,以获得低维近似。引入了一类具有快速收敛速率的估计量。我们将此结果应用于[11]中介绍的特定程序,其中相关预测因子由Group-Lasso选择。
2017-02-16 math.ST stat.TH
On The Asymptotic Efficiency of Selection Procedures for Independent Gaussian Populations
离散事件模拟和优化技术的领域促使研究人员调整经典的排名和选择(R&S)程序的设置中的人口数量很大。我们使用的见解,从极值理论,以揭示渐近性质的R&S程序。也就是说,我们推广的渐近结果罗宾斯和Siegmund关于选择从独立的高斯人口与已知的恒定方差的手段,选择一个子集的大小不同的情况下,一组给定的人口。此外,我们重新审视的问题,选择人口中的最高均值独立高斯人口未知,可能不同的方差。特别是,我们推导出Dudewicz和Dalal的和Rinott的程序的相对渐近效率,表明前者可以渐近优于一个乘法因子大于1,但这个因素可能会减少通过适当的选择参数。我们还使用我们的渐近结果表明,在两个程序的第一阶段的样本量应对数的人口数量。
2017-11-23 math.ST stat.TH
Estimator selection in the Gaussian setting
我们考虑的问题估计的平均值$f$的高斯向量$Y$与共同的未知方差$σ^{2}$的独立成分。我们的估计过程是基于估计量的选择。更确切地说,我们开始与一个任意的,可能是无限的集合$\FF$的估计$f$的基础上$Y$和相同的数据$Y$,目的是在$\FF$中选择一个估计最小的欧几里德风险。未对估计量进行任何假设,且其与$Y$的相关性可能未知。我们建立了一个非渐近风险界所选择的估计。作为特殊情况下,我们的方法允许处理的聚集和模型选择的问题,以及那些选择一个窗口和一个内核估计的回归函数,或调整参数中涉及的惩罚标准。当$\FF$由线性估计组成时,我们也得到了预言型不等式。为了说明,我们进行了两个模拟研究。一个目的是比较我们的程序交叉验证选择一个调整参数。另一个展示了如何在实践中实现我们的方法来解决变量选择问题。
2011-06-22 math.ST stat.TH
Parameter estimation for SDEs related to stationary Gaussian processes
本文研究一般平稳高斯场泛函的部分和的中心极限定理和非中心极限定理。我们应用所得结果研究了与平稳高斯过程有关的随机微分方程的漂移参数估计问题。
2015-01-20 math.PR math.ST stat.TH
Improved estimation via model selection method for semimartingale regressions based on discrete data
研究了半鞅噪声下连续时间回归模型中观测到的周期函数的鲁棒自适应非参数估计问题。
2020-05-23 math.PR math.ST stat.TH
Model Selection for Gaussian Mixture Models
本文讨论了有限混合模型中的一个重要问题,即混合组分数的选择。提出了一种新的惩罚似然方法用于有限多元高斯混合模型的模型选择。所提出的方法被证明是统计上一致的,在确定的组件的数量。提出了一种改进的期望最大化算法,它可以同时选择混合分量的个数和估计混合权重,即混合概率和高斯分布的未知参数。仿真和实际数据分析,以说明所提出的方法的性能。
2013-01-16 math.ST stat.ME stat.ML
An adaptive sequential optimum design for model selection and parameter estimation in non-linear nested models
这篇论文已被作者撤回,因为它已被大幅修改。
2011-12-20 math.ST stat.ME stat.TH
Estimation error for blind Gaussian time series prediction
我们解决的问题的盲预测的高斯时间序列。为此,我们构建了一个投影算子,通过将经验协方差估计插入投影仪的Schur补分解来构建。然后使用该运算符计算预测值。给出了估计的收敛速度。
2011-07-05 math.ST stat.ME stat.TH
Variable Selection Consistency of Gaussian Process Regression
贝叶斯非参数回归下的重标高斯过程先验提供了平滑自适应函数估计与近极小极大最优差错率。这种方法的分层扩展,配备了随机变量选择,也适应于未知的内在尺寸的稀疏真正的回归函数。但目前还不清楚这种扩展是否提供了变量选择的一致性,即,如果重要变量的真实子集可以从数据中一致地学习。它在这里示出,变量的一致性确实可以实现与这样的模型,至少当真正的回归函数具有有限的平滑度,以引起一个多项式更大的惩罚列入假阳性预测。我们的结果涵盖了高维渐近设置的预测维度是允许增长的样本量。证明利用施瓦茨理论建立错误选择的后验概率渐近消失。一个必要的和具有挑战性的技术发展涉及提供尖锐的上限和下界小球概率在所有重新缩放水平的高斯过程之前,一个结果,可能是独立的利益。
2020-12-12 math.ST stat.ME stat.TH
Nonparametric estimation of linear multiplier in SDEs driven by general Gaussian processes
研究了一般高斯过程驱动的随机微分方程模型中线性乘子的核型非参数估计的渐近性质。
2022-09-05 math.PR math.ST stat.TH
Concentration bounds for intrinsic dimension estimation using Gaussian kernels
Uppsala University(乌普萨拉大学)
本文提出了一种基于高斯核的维度估计方法,推导了集中界并提出了带宽选择策略,通过数值实验验证了方法的有效性。
2026-02-23 math.ST stat.ML stat.TH
Gaussian Volterra processes: asymptotic growth and statistical estimation
研究了推广分数布朗运动的三参数自相似Gaussian Volterra过程.我们研究了这类过程的渐近增长性以及长程和短程依赖的性质。然后我们考虑了高斯Volterra过程驱动的Ornstein-Uhlenbeck过程的漂移参数估计问题。我们构造了一个强相合估计,并研究了它的渐近性质。也就是说,我们证明了它具有柯西渐近分布。
2023-02-07 math.PR math.ST stat.TH
An Information-Theoretic Approach to Nonparametric Estimation, Model Selection, and Goodness of Fit
本文将新近公理化的最优信息原理(在所有相关信息的约束下最小化Kullback-Leibler信息)应用于非参数密度估计,为最大熵密度估计提供了理论基础和计算算法。这种估计量称为最优信息估计量,它可以任意地逼近真密度。作为一个副产品,我得到的参数模型(有条件和无条件)的拟合拟合优度和模型选择的绝对标准的措施,而不是其他传统的方法,如AIC和BIC这是相对的措施。
2011-03-25 math.ST stat.ME stat.TH
Stochastic analysis on Gaussian space applied to drift estimation
本文考虑高斯过程漂移的Paley-Wiener和Karhunen-Loève展开式的非参数泛函估计。我们构造有效的估计,这样的过程中的漂移,并证明其minimaxity使用贝叶斯估计。我们还构造超有效的估计Stein型的漂移使用Malliavin的分部积分法公式和随机分析高斯空间,其中超调和泛函的过程路径发挥了特殊的作用。我们的结果通过数值模拟得到了验证,推广了Berger和Wolper关于高斯过程的James-Stein型估计的构造.
2018-08-17 math.PR math.ST stat.TH
Multivariate Intensity Estimation via Hyperbolic Wavelet Selection
我们提出了一个新的统计过程,能够以某种方式克服灾难的维数没有结构性假设的功能估计。它依赖于一个最小二乘类型的惩罚标准和一个新的收集建立双曲双正交小波基的模型。我们研究它的性质,在一个统一的强度估计框架,其中一个预言型不等式和适应混合光滑举行。此外,我们描述了一个算法实现的估计具有相当合理的复杂性。
2016-11-24 math.ST stat.AP stat.TH
Maximum likelihood estimation for Gaussian processes under inequality constraints
本文研究了高斯过程在固定域渐近性条件下,在不等式约束(有界性、单调性或凸性)下的协方差参数估计。本文讨论了Matérn和Wendland协方差函数的方差参数估计和微遍历参数估计。首先,我们证明了(无约束)极大似然估计具有相同的渐近分布,无条件和条件的事实,高斯过程满足不等式约束。然后,我们研究了最近提出的约束极大似然估计。我们表明,它具有相同的渐近分布(无约束)的最大似然估计。此外,我们在模拟中表明,约束最大似然估计一般是更准确的有限样本。最后,我们提供了扩展预测和噪声观测。
2019-07-15 math.PR math.ST stat.TH
Local bandwidth selection for kernel density estimation in bifurcating Markov chain model
本文提出了一个关于$\mathbb R^d$上分叉马尔可夫链平稳分布的自适应估计。分支马尔可夫链(BMC)是一类以正则二叉树为索引的随机过程。提出了一种核估计器,其带宽由Goldenshluger和Lepski [18]的工作启发的方法选择。从跳维模型选择方法中得到启发,我们还提供了一个算法来选择惩罚中的最佳常数。
2017-06-21 math.PR math.ST stat.TH
Marginal likelihood and model selection for Gaussian latent tree and forest models
高斯潜在树模型,或更一般地说,高斯潜在森林模型具有费舍尔信息矩阵,该矩阵沿着有趣的子模型(即对应于子森林的模型)变得奇异。对于这些奇异点,我们计算真实的对数正则阈值(也称为随机复杂度或学习系数),这些阈值量化了贝叶斯推理中边际似然的大样本行为。这提供了所需的信息,最近推出的推广贝叶斯信息标准。我们的数学发展对待拉普拉斯积分的相位函数是单项式和常数之间的平方差的总和的一般设置。我们澄清如何在这种情况下,真正的对数正则阈值可以使用多面体几何计算,我们展示了如何将一般理论与高斯潜在树和森林模型的拉普拉斯积分。在模拟和数据示例中,我们演示了如何将数学知识应用于模型选择。
2015-12-23 math.ST stat.ME stat.ML
Adaptive Random Matrices in Gaussian Bandits: Spectral Universality and Selection-Induced Outliers
Abstract Math Institute(抽象数学研究所)
本文研究高斯老虎机中自适应臂选择对观测谱的影响,证明在臂数对数次线性增长时谱收敛于Marchenko-Pastur定律,并揭示选择诱导的离群值与方向效应。
2026-09-28 cs.LG math.PR math.ST
Dimension adaptability of Gaussian process models with variable selection and projection
现在已知的是,配备有重新缩放的扩展高斯过程模型可以适应许多非参数贝叶斯分析中函数值参数的不同平滑度水平,提供对于真实函数所属的平滑度类而言是最优的(直到对数因子)后验收敛速度。该最佳速率还取决于函数的域的维度,并且可以通过将分析投射在不等于关于真实函数的任何信息的损失的较低维度子空间中来潜在地获得更快的收敛收敛速率。一般来说,这样的子空间不是先验已知的,但可以通过为模型配备变量选择或线性投影来探索。我们证明了,对于非参数回归,分类,密度估计和密度回归,配备变量选择或线性投影的重新缩放高斯过程模型提供了一个后验收敛速度是最佳的(对数因子)的最低维中,分析可以铸造没有任何信息的损失的真实功能。这种降维功能的理论探索出现新颖的贝叶斯非参数模型,或没有高斯过程。
2011-12-04 math.ST stat.ME stat.ML
Trade-off between predictive performance and FDR control for high-dimensional Gaussian model selection
本文研究高维高斯线性回归中的变量选择,提出了一种超参数校准算法,以在控制预测风险的同时控制错误发现率,并验证了其有效性及对无序变量的扩展。
2024-06-28 math.ST stat.AP stat.ME
Maximum entropy estimation of probability distributions with Gaussian conditions
利用最大熵原理,在局部条件由高斯函数给出的条件下,给出了一元随机变量的密度函数的计算估计方法.确定了参数的估计误差和最优值。给出了实验结果。如果使用足够大的选择,通常至少1000个值,则该方法可以很好地估计分布。与熵最大化的经典方法相比,局部条件允许局部地改进估计。该方法非常适合于启发式优化方法。
2012-06-19 math.ST stat.CO stat.ME
Performance Bounds for Sparse Parametric Covariance Estimation in Gaussian Models
我们考虑估计的稀疏参数向量,确定高斯随机向量的协方差矩阵通过稀疏扩展到已知的“基矩阵”。利用再生核Hilbert空间的理论,我们得到了一个给定的均值函数的估计方差的下界。这包括作为特殊情况的无偏估计。我们还提出了一个数值比较我们的下限与两个标准估计(硬阈值估计和最大似然估计)的方差。
2011-01-20 cs.IT math.IT math.ST
Non-Bayesian Post-Model-Selection Estimation as Estimation Under Model Misspecification
针对模型选择后估计问题,提出三种非贝叶斯解释,并开发误设最大似然估计器与Cramér-Rao型下界,仿真显示选择性推断解释具有最低均方误差。
2023-08-22 cs.IT eess.SP math.IT
Model selection in the space of Gaussian models invariant by symmetry
我们考虑多变量中心高斯模型的随机变量$Z=(Z_1,\ldots, Z_p)$,不变的作用下的一个子群的排列组$\{1,\ldots, p\}$。利用实数域上对称群的表示论,得到了协方差参数$Σ$的最大似然估计的分布以及精度参数$K=Σ^{-1}$的Diaconis-Ylvisaker共轭先验的归一化常数的解析表达式.因此,我们可以在完全高斯模型类中进行贝叶斯模型选择,该完全高斯模型不受对称群的子群的作用的影响,我们也可以称之为完全RCOP模型。我们说明了我们的结果与玩具的尺寸$4$和几个例子循环群内的选择,包括一个高维的例子与$p=100$的例子。
2022-05-16 math-ph math.MP math.RT
Non-Linear Transformations of Gaussians and Gaussian-Mixtures with implications on Estimation and Information Theory
本文研究了随机变量非线性变换的统计性质,旨在为估计和信息论建立有用的工具。具体而言,本文侧重于线性回归分析的NLT输出,并推导出充分的一般条件,以建立当输入-输出回归系数等于\emph{partial}回归系数的输出相对于(添加剂)的一部分输入。一个特殊的情况是零均值高斯输入,作为其他零均值高斯随机变量的总和。本文展示了如何这一性质可以推广到高斯混合物的非线性变换的回归系数。由于其通用性,以及高斯和高斯混合物的广泛使用,统计建模的几个现象,这种理论框架可以在多个学科,如通信,估计,和信息论,当非线性变换输入的一部分是感兴趣的量,另一部分是噪声的应用。特别是,该文件显示了如何利用所述属性可以简化封闭形式的计算的信号噪声比(SNR),估计均方误差(MSE),并在加性非高斯(可能是非线性)信道上的互信息的界限,也建立它们之间的关系。
2013-05-10 cs.IT math.IT math.PR