Model-based clustering via skewed matrix-variate cluster-weighted models
加权模型(CWM)扩展了有限混合回归(FMR),以允许协变量的分布有助于聚类过程。在矩阵变量框架中,最近引入了矩阵变量正态CWM。然而,当数据在响应、协变量或两者中表现出偏态或其他偏离正态性时,可能会遇到问题。因此,我们引入了一个家庭的24矩阵变量CWM,这是通过允许的响应和协变量进行建模,通过使用现有的四个偏态矩阵变量分布或矩阵变量正态分布。我们的矩阵变量CWM具有更大的灵活性,能够以更合适的方式处理这类数据。作为副产品,四个斜矩阵变量FMR也被引入。极大似然参数估计使用期望条件最大化算法。参数恢复,分类评估,和贝叶斯信息标准的能力,以检测潜在的群体进行了研究,使用模拟数据。最后,我们的矩阵变量CWM,随着矩阵变量正常CWM和矩阵变量FMR,被应用到两个真实的数据集进行说明。
2021-11-29 stat.AP stat.ME
Matrix-Variate Regression Model for Multivariate Spatio-Temporal Data
Federal University of Sao Carlos(圣卡洛斯联邦大学);University of Connecticut(康涅狄格大学)
本文提出一种矩阵变量回归模型,利用Kronecker积可分离协方差结构高效建模多元时空数据,并通过模拟和巴西农牧业生产数据验证了其参数恢复能力和实际应用价值。
2025-11-06 stat.ME
Deep Bayesian Supervised Learning given Hypercuboidally-shaped, Discontinuous Data, using Compound Tensor-Variate & Scalar-Variate Gaussian Processes
我们进行贝叶斯学习系统参数向量和可观察之间的高维函数关系,即在一般张量值。最终的目标是贝叶斯逆预测的系统参数,在测试数据被记录。我们尝试这样的学习给定的超立方体形状的数据,显示强烈的不连续性,渲染学习具有挑战性。我们使用张量变量高斯过程(GP)对所寻求的高维函数进行建模,并使用三种独立的方法来学习所得似然的协方差阵,这是张量正态的。我们证明了不连续的数据要求实现协方差内核是非平稳的-通过建模每个内核超参数,作为调用的张量变量GP的样本函数的函数来实现。每个这样的函数可以被证明是时间上不断演变的,并被视为一个不同的标量变量GP的实现,通过整理来自所选样本大小的历史样本集的信息来自适应地描述协方差。我们证明了使用2个“层”的深度学习是足够的,其中外层包括张量变量GP,与“内层”中的多个标量变量GP复合,并使用Metropolis-within-Gibbs进行推理。我们将我们的方法应用于一个长方体形状的,不连续的,真实的数据集,然后执行前向预测,从我们的模型中生成数据,给出我们的结果-执行模型检查。
2018-04-16 stat.CO stat.ME
Clustering Three-Way Data with Outliers
Department of Mathematics & Statistics, Trent University, Ontario, Canada(数学与统计学系,特伦特大学,安大略,加拿大);Department of Mathematics & Statistics, McMaster University, Ontario, Canada(数学与统计学系,麦斯特大学,安大略,加拿大)
针对含离群值的矩阵变量正态数据,本文将OCLUST算法扩展至该类数据,利用子集对数似然分布,采用迭代方法检测并修剪离群值,实现聚类。
2026-09-03 cs.LG stat.ME stat.ML
A Matrix-Variate Log-Normal Model for Covariance Matrices
Sapienza University of Rome(罗马大学)
本文提出了一种基于矩阵变量对数正态分布的协方差矩阵建模方法,通过简洁的规范和偏差校正,有效处理时间变化协方差矩阵问题。
2026-01-29 stat.ME
An efficient EM algorithm for both element-wise and structural missingness in matrix-variate normal mixture models
University of British Columbia(不列颠哥伦比亚大学)
针对矩阵正态混合模型的元素级与结构性缺失,提出高效部分EM算法,可减少计算时间并实现高光谱图像的同步插补与聚类。
2026-09-02 stat.CO stat.ME stat.ML
Robust classification via finite mixtures of matrix-variate skew t distributions
针对真实矩阵变量数据的不对称性,提出矩阵变量偏 t 分布(MVST)并扩展至有限混合模型,通过 EM 型算法估计参数,实验验证了其在聚类和分类中处理非对称数据的有效性。
2024-07-29 stat.ME
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断,和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵,并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋,我们表明,我们的方法提供了准确的推断尺寸高达512 × 512的格子,并优于两个流行的方法:复合似然和谱近似。
2014-02-18 stat.CO stat.ME
Scalable likelihood-based estimation and variable selection for the Cox model with incomplete covariates
针对含随机缺失协变量的Cox回归模型,本文开发了一种仅需一维积分的可扩展EM算法进行非参数极大似然估计,并扩展以容纳LASSO惩罚实现变量选择,在大规模模拟与癌症基因组研究中验证了其优势。
2024-10-15 stat.CO stat.ME
Core Shrinkage Covariance Estimation for Matrix-variate Data
随机矩阵的可分离协方差模型提供了矩阵行与列之间的协方差的简约描述,并允许以非常小的样本量进行基于似然的推断。然而,在许多应用中,精确可分性的假设不太可能得到满足,并且使用可分离模型的数据分析可能会忽略或歪曲数据中的重要依赖模式。在这篇文章中,我们提出了一个折衷的可分离和非结构化的协方差估计。我们展示了如何设置的协方差阵可以唯一参数化的一组可分离的协方差阵和一个互补的“核心”协方差阵,其中的核心可分离的协方差阵的单位矩阵。该参数化定义了协方差阵的克罗内克核分解。通过经验Bayes方法对样本协方差阵的核进行收缩,得到了一个能适应总体协方差阵可分性的估计量.
2022-07-25 stat.ME
Maximum likelihood recursive state estimation in state-space models: A new approach based on statistical analysis of incomplete data
本文回顾了Rauch等人(1965)的工作,并提出了一种新的递归极大似然粒子滤波方法。新方法是基于对系统不完全观测值的统计分析。引入了不完全观测/数据的评分函数和条件观测信息,并讨论了它们的分布性质。导出了不完全数据的得分函数和信息矩阵的一些恒等式。利用评分函数和观测信息矩阵给出了状态向量的极大似然估计。特别是,为了处理非线性状态空间,开发了一种序贯蒙特卡罗方法。它由EM-梯度-粒子滤波递归地给出,该EM-梯度-粒子滤波扩展了Lange(1995)的状态估计工作。为了推导状态估计误差的协方差阵,提出了观测信息矩阵的显式形式。它将Louis(1982)关于同一矩阵的一般公式推广到状态向量估计。在状态转移概率分布的Neumann边界条件下,该矩阵的逆与无偏状态估计器的估计误差的协方差阵的Cramer-Rao下界一致。在线性模型的情况下,该方法表明Kalman滤波器是一种完全有效的状态估计器,其估计误差的协方差阵满足Cramer-Rao下界。最后通过数值算例验证了主要结果。
2022-11-09 cs.IT cs.SY eess.SY
Heritability Estimation in Matrix-Variate Mixed models -- A Bayesian Approach
自全基因组关联研究(genome-wide association studies,GWASs)出现以来,线性混合模型方法被广泛应用于单核苷酸多态性(single nucleotide polymorphisms,SNPs)解释的狭义遗传力的估计。与大多数GWAS一样,大多数遗传力分析使用单变量方法进行,即独立考虑每个表型。在本研究中,我们提出了一种贝叶斯矩阵变量混合模型,除了通常通过相关性矩阵建模的个体之间的遗传相关性之外,还考虑了表型之间的遗传相关性。我们发现,当使用所有全基因组SNP估计相关矩阵时,我们的模型相当于效应量上具有矩阵正态先验的矩阵正态回归。使用真实数据,我们证明,当表型联合建模时(增加25-35%),遗传力会有所提高。事实上,基于其标准误,联合建模提供了比单变量建模更准确的遗传力估计。此外,与极大似然方法相比,我们的贝叶斯方法提供了略高的遗传力估计值。另一方面,虽然我们的方法在表型预测中表现不太好,但我们注意到初始插补步骤相对提高了预测准确性。
2015-07-30 stat.ME
The AI&M Procedure for Learning from Incomplete Data
Aalborg Universitet(奥尔堡大学)
我们研究的方法参数学习不完整的数据,是随机缺失。基于似然性的方法则需要考虑所有可能的缺失机制的简档似然性的优化。优化此配置文件的可能性提出了两个主要的困难:多个(局部)最大值,其非常高维的参数空间。在本文中,提出了一种新的方法来优化的轮廓可能性,解决了第二个困难:在建议的AI&M(调整插补和最大化)过程中的优化是通过在数据完成的空间中的操作,而不是直接在参数空间的轮廓可能性。我们将AI&M方法应用于贝叶斯网络的参数学习。该方法进行了比较保守的推断,考虑到每个可能的数据完成,并对EM。结果表明,基于似然的推理仍然是可行的,在未知的缺失机制的情况下,保守的推理是不必要的弱。另一方面,我们的结果也提供了证据,期望最大化算法仍然是相当有效的数据时,不是随机缺失。
2012-06-27 cs.AI cs.LG stat.ME
Optimal quasi-Bayesian reduced rank regression with incomplete response
降秩回归的目的是将多个响应变量与多个预测变量联系起来。该模型非常受欢迎,特别是在生物统计学中,可以重复使用对个体的多个测量来预测多个输出。不幸的是,在这样的数据集中经常存在缺失数据,使得难以使用标准估计工具。本文研究了响应矩阵不完备的降秩回归问题。我们提出了一个准贝叶斯方法来解决这个问题,在这个意义上的可能性被取代的准可能性。我们给出了一个紧的预言不等式,证明了我们的方法是自适应的系数矩阵的秩。我们描述了一个朗之万蒙特卡罗算法的后验均值的计算。对合成数据和真实数据的数值比较表明,我们的方法是有竞争力的国家的最先进的,其中的排名是通过交叉验证,有时会导致改进。
2022-06-17 math.ST stat.CO stat.ME
Maximum Likelihood for Logistic Regression Model with Incomplete and Hybrid-Type Covariates
本文针对混合型协变量存在缺失时的逻辑回归参数估计问题,提出一种新的期望最大化算法,并通过模拟和实际应用验证其优于传统方法的准确性与可靠性。
2025-06-03 eess.SP stat.ME
Maximum a Posteriori Estimation of Dynamic Factor Models with Incomplete Data
本文给出了不完全数据动态因子模型参数的极大后验估计方法。我们通过以明尼苏达先验风格应用参数收缩,将Baiderbura & Modugno(2014)的极大似然期望最大化迭代扩展到惩罚对应方,同时考虑动态加载到变量上的因素。一个启发式的和自适应的收缩计划被认为是。该算法适用于任何任意模式的缺失数据,包括不同的出版日期,样本长度和频率。该方法在蒙特卡罗研究中进行了评估,一般表现良好,至少是极大似然。
2022-10-13 stat.CO stat.ME
Some results on maximum likelihood from incomplete data: finite sample properties and improved M-estimator for resampling
本文给出了不完全数据的极大似然估计的一些结果。建立了条件观测信息矩阵的有限样本性质。它们具有正定性和与期望信息矩阵相同的Loewner偏序。观测的费舍尔信息(OFI)的显式形式推导出的ML估计的标准误的计算。它简化了Louis(1982)的OFI矩阵的一般公式。为了避免由于OFI矩阵的稀疏性和规模过大而导致求逆矩阵的错误,给出了求逆矩阵的单调收敛递归方程,推广了Hero和Fessler(1994)求Cramér-Rao下界的算法.为了提高估计,特别是当应用重复采样不完整的数据,一个强大的M-估计。提出了一种协方差阵的封闭型三明治估计量,以提供M-估计量的标准误。由于有限样本不完全数据中的信息损失,三明治估计量产生的M估计量的标准误比ML估计量小。在完全信息或不存在重采样的情况下,M估计量与ML估计量一致。最后讨论了在状态转换条件马尔可夫跳过程的参数估计中的应用。仿真研究证实了M-估计的准确性和渐近性质。
2022-07-25 cs.IT math.IT q-fin.ST
A computationally efficient, high-dimensional multiple changepoint procedure with application to global terrorism incidence
在具有许多变量的数据集中检测变点是一个越来越重要的数据科学挑战。从全球恐怖主义数据库中检测恐怖主义发生率变化的问题,我们提出了一种新的方法来检测多变量时间序列中的多个变点。我们的方法,我们称之为SUBSET,是一种基于模型的方法,它使用惩罚的可能性来检测各种参数设置的变化。我们提供的理论,指导选择的处罚使用SUBSET,并表明它有很高的权力,以检测变化,无论是只有几个变量或许多变量的变化。实证结果表明,SUBSET优于许多现有的方法来检测高斯数据中的均值变化;此外,与这些替代方法不同,它可以很容易地扩展到非高斯设置,例如适合于对恐怖事件进行建模计数。
2021-03-26 stat.AP stat.ME
Neural Parameter Estimation with Incomplete Data
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);University of New South Wales(新南威尔士大学);University of Wollongong(伍伦贡大学)
本文提出基于蒙特卡洛EM算法的神经网络参数估计方法,以解决不完整数据下的统计推断问题,相较于传统掩码方法更具效率和鲁棒性。
2026-02-24 stat.ME stat.ML
Maximum likelihood smoothing estimation in state-space models: An incomplete-information based approach
Victoria University of Wellington(惠灵顿维多利亚大学)
本文回顾了Rauch(1963,et al.1965)的经典工作,提出了一种新的基于不完全信息/数据的随机状态空间系统的极大似然(ML)平滑估计方法。引入了不完全数据的评分函数和条件观测信息矩阵,建立了它们的分布恒等式。利用这些恒等式,给出了ML平滑器$\widehat{x}_{k\vert n}^s =\argmax_{x_k} \log f(x_k,\widehat{x}_{k+1\vert n}^s, y_{0:n}\vertθ)$,$k\leq n-1$.结果表明,ML平滑器比ML状态估计器$x_k$具有更好的对数似然性和更小的标准误差,并具有$\widehat{x}_{n\vert n}^s=\widehat{x}_n$ .递归估计的EM梯度粒子算法,扩展了工作的\cite{Lange} ML平滑估计。该算法有一个显式的迭代更新,缺乏(\cite{Ramadan})EM算法的平滑。一个序贯蒙特卡罗方法的评分函数和观察到的信息矩阵的估值。推导了估计误差协方差矩阵的递推公式,用于计算标准误差。在线性系统的情况下,该方法表明,Rauch-Tung-Striebel(RTS)平滑器是一个完全有效的平滑状态估计,其协方差矩阵符合Cramér-Rao下界,期望信息矩阵的逆。此外,RTS平滑器与具有较少协方差矩阵的卡尔曼滤波器一致。进行数值研究,确认的主要结果的准确性。
2023-03-29 cs.IT cs.LG cs.SY
Stochastic blockmodels with growing number of classes
我们提出了渐近和有限样本的结果使用随机块模型的网络数据的分析。我们表明,当允许类的数量作为网络大小的根而增长并且平均网络度在此大小下至少呈多对数增长时,在最大似然拟合下,错误分类的网络节点比例以概率收敛到零。我们还建立了有限样本的置信区间上的最大似然块模型参数估计的数据,包括独立的伯努利随机变量,这些结果保持一致的类分配。我们提供了模拟验证我们的结果的充分条件,并得出结论,通过拟合随机块模型的logit参数化与协变量的网络数据的例子,包括一个集合的Facebook配置文件,导致块估计,揭示剩余结构。
2011-04-30 cs.SI math.ST stat.ME
Graph Estimation Based on Neighborhood Selection for Matrix-variate Data
针对矩阵型数据,提出基于回归和邻域选择的图估计方法,利用偏相关与回归系数关系及原始-对偶见证技术,实现高概率精确恢复边集,并在模拟和EEG数据上验证。
2025-08-07 stat.ME
Speeding Up MCMC by Efficient Data Subsampling
我们提出了子采样MCMC,马尔可夫链蒙特卡罗(MCMC)框架,其中$n$观测的似然函数是从$m$观测的随机子集估计的。我们引入了一个高效的基于控制变量的对数似然的无偏估计量,使得计算成本比标准MCMC中的完全对数似然小得多。的似然估计是偏置校正,并在两个依赖的伪边缘算法从扰动后,我们推导出的渐近误差相对于$n$和$m$,分别采样。我们提出了一个实用的估计误差,并表明,即使是一个非常小的$m$在我们的应用程序中的错误是可以忽略不计的。我们证明,子采样MCMC是更有效的抽样效率,对于一个给定的计算预算比标准的MCMC,它优于其他子采样方法MCMC在文献中提出的。
2018-01-01 stat.CO stat.ME stat.ML
Penalized Likelihood Regression in Reproducing Kernel Hilbert Spaces with Randomized Covariate Data
经典的惩罚似然回归问题处理的情况下,独立的变量数据是确切已知的。然而,在实践中,观察具有不完整协变量信息的数据是常见的。我们关注的是一个非常重要的情况,其中一些观测值并不代表确切的协变量信息,而只是一个概率分布。在这种情况下,最大惩罚似然法仍然可以用来估计回归函数。我们首先证明了极大惩罚似然估计在一个温和的条件下存在。在计算中,我们提出了一个降维技术,以尽量减少惩罚的可能性,并推导出一个广义近似交叉验证(GACV)选择平滑参数。我们的方法被扩展到处理更复杂的不完全数据问题,如协变量测量误差和部分缺失的协变量。
2010-08-02 stat.AP stat.ME
A penalized likelihood approach for robust estimation of isoform expression
超高通量转录组测序(RNA-Seq)使得能够在个体亚型水平上准确估计基因表达。然而,在测序和作图过程中引入的系统性偏差以及转录本注释数据库的不完整性可能导致异构体丰度的估计不可靠,并且在某些情况下高度不准确。本文介绍了一种惩罚似然方法来检测和纠正这种偏见,在一个强大的方式。我们的模型扩展了以前提出的通过引入偏差参数读取。一个L1惩罚用于选择非零偏置参数。我们介绍了一个有效的算法模型拟合和分析所提出的模型的统计特性。我们在模拟和真实数据集上的实验研究表明,该模型有潜力提高异构体特异性基因表达估计和识别不完全注释的基因模型。
2013-10-01 stat.ME
Unified Method for Markov Chain Transition Model Estimation Using Incomplete Survey Data
未来老年人模型和相关的微观模拟被建模为马尔可夫链。这些模拟依赖于纵向调查数据来估计它们的过渡模型。调查数据的使用带来了一些数据不完整的问题,包括粗略和不规则的访谈间隔,从子样本收集数据,以及随着时间的推移调查的结构变化。采用期望最大化算法,建立了一种不完全数据下马尔可夫链转移模型的极大似然估计方法。该方法被证明是一个简化版本的未来老年人模型。
2017-07-09 stat.CO stat.ME
Gaussian orthogonal latent factor processes for large incomplete matrices of correlated data
我们引入高斯正交潜在因子过程的建模和预测大的相关数据。为了处理计算的挑战,我们首先分解的似然函数的高斯随机场与多维输入域的密度在正交分量与低维输入的乘积。连续时间卡尔曼滤波器的实现有效地计算似然函数,而无需进行近似。我们还证明了因子过程的后验分布是独立的,这是因子过程和正交因子载荷矩阵的先验独立性的结果。对于大样本量的研究,我们提出了一种灵活的方法来建模的平均值,我们推导出边缘后验分布,以解决可识别性问题,在这些参数的采样。模拟和实际数据的应用证实了这种方法的出色性能。
2021-11-27 stat.AP stat.CO stat.ME
Correlated Wishart Matrices Classification via an Expectation-Maximization Composite Likelihood-Based Algorithm
正定矩阵变量数据在计算机视觉中越来越流行。区域协方差描述子(Region Covariance Descriptor,RCD)是计算机视觉数据描述子的正定矩阵,它提取图像的关键特征。RCD被广泛用于图像集分类。一些分类方法处理RCD Wishart分布的随机矩阵被提出。然而,大多数当前方法排除了由所谓的非体素信息(例如,受试者的年龄和鼻子宽度等)。由于相关Wishart矩阵的联合密度函数难以获得,因此相关Wishart矩阵的建模是困难的。在本文中,我们提出了一个期望最大化复合似然算法的Wishart矩阵来解决这个问题。给出了基于合成数据和真实数据(芝加哥人脸数据集)的数值研究,我们提出的算法比不考虑所谓的非体素信息引起的相关性的替代方法表现得更好。所有这些都证明了我们的算法在未来的图像集分类中具有令人信服的潜力。
2022-12-10 stat.ME
The Bias and Efficiency of Incomplete-Data Estimators in Small Univariate Normal Samples
分析缺失数据的广泛使用的方法在小样本中可能有偏差。为了理解这些偏差,我们详细评估了一个小的单变量正态样本的情况,随机缺失的值,使用数据最大似然(ML)或多重插补(MI)进行分析。我们评估两种类型的MI:通常的贝叶斯方法,我们称之为后验抽取(PD)插补,和一个很少使用的替代方法,我们称之为ML插补,其中值是有条件地插补ML估计。我们发现,数据挖掘ML是更有效的,具有较低的均方误差比任何类型的MI。在两种类型的MI之间,ML插补比PD插补更有效,ML插补在小样本中偏倚的可能性也较小。通过改变先验知识可以改善PD插补的偏倚和效率。
2013-06-20 math.ST stat.ME stat.TH
Spectral subsampling MCMC for Lévy-driven continuous-time ARMA models with expensive likelihood contributions
Human Technology Institute, University of Technology Sydney(悉尼科技大学人类技术研究所);School of Mathematical and Physical Sciences, University of Technology Sydney(悉尼科技大学数理科学学院);School of Economics, University of New South Wales(新南威尔士大学经济管理学院);Guanghua School of Management, Peking University(北京大学光华管理学院)
针对连续时间过程频谱推断中Whittle似然因混叠需求和移频分量导致计算昂贵的问题,提出谱子采样MCMC方法,通过数据子采样和高效控制变量估计对数似然,有效降低计算成本。
2026-05-29 stat.CO stat.ME
Transposable regularized covariance models with an application to missing data imputation
缺失数据估计是以矩阵形式排列的高维数据的重要挑战。通常,这个数据矩阵是可转置的,这意味着行、列或两者都可以被视为特征。为了对可转置数据进行建模,我们提出了一种改进的矩阵-变量正态分布,即均值约束矩阵-变量正态分布,其中行和列都有一个单独的均值向量和协方差阵。通过对行和列的逆协方差矩阵施加附加惩罚,这些所谓的可转置正则化协方差模型允许对均值和非奇异协方差阵进行极大似然估计。使用这些模型,我们制定EM型算法的缺失数据插补在多变量和转座框架。我们目前的理论结果,利用我们的转座模型,使这些模型和插补方法被应用到高维数据的结构。对微阵列数据和Netflix数据的模拟和结果表明,这些插补技术通常优于现有方法,并提供更大程度的灵活性。
2010-11-09 stat.AP stat.ME stat.ML
MIWAE: Deep Generative Modelling and Imputation of Incomplete Data
IT University of Copenhagen(哥本哈根信息技术大学)
本文研究了深层潜变量模型处理缺失数据的问题。首先,我们提出了一个简单的技术,训练DLVM时,训练集包含随机丢失的数据。我们的方法,称为MIWAE,是基于重要性加权自动编码器(IWAE),并最大限度地提高了一个潜在的紧密的下限的对数似然观测数据。与原IWAE算法相比,我们的算法不会因缺失数据而引起任何额外的计算开销。我们还开发了蒙特卡罗技术,使用DLVM训练的不完整的数据集上的单重和多重插补。我们通过在包含50%缺失像素的MNIST静态二进制化上训练卷积DLVM来说明我们的方法。利用多重插补,在这些不完整数字上训练的卷积网络具有与在完整数据上训练的卷积网络相似的测试性能。在各种连续和二进制数据集上,我们还表明MIWAE提供了准确的单插补,并且与最先进的方法相比具有很强的竞争力。
2019-02-04 cs.LG stat.ME stat.ML
Linked factor analysis
University of Notre Dame(圣母大学)
本文提出关联因子分析(LINFA)框架,通过共同参数链接多个因子模型,解决不完整数据下的因子模型估计问题,并提供高效的算法和统计检验方法。
2026-02-23 stat.ME
Extreme deconvolution: Inferring complete distribution functions from noisy, heterogeneous and incomplete observations
我们推广了众所周知的混合物的高斯方法密度估计和随之而来的期望-最大化技术的混合物的极大似然参数的情况下,每个数据点携带一个单独的$d$维不确定性协方差,并具有独特的缺失数据属性。该算法重构所有样本共有的误差反卷积或“底层”分布函数,即使当各个数据点是来自不同分布的样本时,也是通过将底层分布与数据点的异方差不确定性分布进行卷积并投影出缺失数据方向来获得的。我们展示了如何这个基本算法可以扩展共轭先验的所有模型参数和“分裂和合并”的程序,旨在避免局部最大值的可能性。我们证明了完整的方法,将其应用到太阳附近的恒星从嘈杂的二维,横向速度测量依巴谷卫星的三维速度分布推断的问题。
2011-07-29 astro-ph.GA physics.data-an stat.AP
Statistical inference for a stochastic generalized logistic differential equation
本文针对随机广义Logistic微分方程,利用最大似然法和二次变差过程估计三个未知参数,并证明估计量的强相合性,同时在完整与不完整数据情形下通过期望最大化算法进行验证。
2024-05-06 math.PR math.ST stat.ME
New Confidence Intervals and Bias Comparisons Show that Maximum Likelihood Can Beat Multiple Imputation in Small Samples
在分析不完全数据时,使用多重插补(MI)还是全信息极大似然(ML)更好?在大样本情况下,ML显然更好,但在小样本情况下,ML的有用性受到限制,因为ML通常使用正态检验统计量和置信区间,这需要大样本。我们提出了小样本的基于t的ML置信区间,具有良好的覆盖率,并短于基于t的置信区间下MI。我们还表明,ML点估计是更少的偏见和更有效的比MI点估计在小样本的二元正态数据。使用我们新的置信区间,ML应优于MI,即使在小样本中,只要两种选择都可用。
2015-08-20 stat.ME
Registration for Incomplete Non-Gaussian Functional Data
考虑相位变异性是函数数据分析中的一个关键挑战。为了将其与幅度变化分离,记录功能数据,即,它们观察到的域弹性变形,使得所得函数与模板函数对齐。目前,大多数可用的配准方法仅限于具有高斯噪声的完整和密集测量曲线的数据集。然而,许多真实世界的函数数据集不是高斯的,并且包含不完整的曲线,其中底层过程没有在其整个域上记录。在这项工作中,我们扩展和完善了一个框架,联合似然为基础的注册和潜在的高斯过程为基础的广义功能主成分分析,能够处理不完整的曲线。我们的方法是伴随着复杂的开源软件,允许其应用程序在不同的非高斯数据设置和公共代码库再现所有结果。我们注册的地震应用程序,包括空间索引,不完整的地面速度时间序列与一个高度不稳定的伽玛结构的数据。我们描述,实施和评估这种不完整的非高斯函数数据的方法,并将其与现有的例程进行比较。
2021-08-12 stat.ME
General and Feasible Tests with Multiply-Imputed Datasets
多重插补(MI)是专门为处理公共数据集中的缺失数据而设计的一种技术。它允许分析人员通过使用数据集所有者发布的几个已经估算的数据集来直接执行不完整数据推断。然而,现有的MI检验要么需要对缺失数据机制进行限制性假设,称为缺失信息的等几率(EOMI),要么需要无限数量的插补。其中一些还要求分析人员能够访问限制性或非标准的计算机子程序。此外,现有的MI检验方法只包括Wald检验和似然比检验,而没有Rao评分检验,因此,这些MI检验方法不够通用。此外,MI Wald检验和MI似然比检验在程序上并不相同,因此分析师需要采用不同的算法来实现。本文提出了一种通用的多元估计方法,称为堆叠多重插补(SMI),用统一的算法进行Wald检验、似然比检验和Rao评分检验。SMI既不需要EOMI,也不需要无限数量的估算。对于分析人员来说,这是特别可行的,因为他们只需要使用一个完整的数据测试设备来执行相应的不完整数据测试。
2021-12-30 stat.ME
Variational Gibbs Inference for Statistical Model Estimation from Incomplete Data
University of Edinburgh(爱丁堡大学)
针对不完整数据导致标准变分推断需处理指数级条件分布的问题,本文提出通用的变分 Gibbs 推断(VGI),并在合成与真实任务上验证其可有效估计 VAE 和归一化流,性能媲美或超过专用方法。
2023-08-15 cs.LG stat.ME stat.ML
Score and Information for Recursive Exponential Models with Incomplete Data
Aalborg University(奥尔堡大学);Microsoft Research(微软研究院)
递归图模型通常是基于贝叶斯网络的概率专家系统统计建模的基础。本文定义了这些模型的一个版本,表示为递归指数模型,这已经演变的愿望,施加复杂的领域知识的局部片段的模型。除了由给定模型指定的结构知识之外,统计建模还可以包括关于模型中的参数值的专家意见。它示出了如何翻译成近似共轭先验分布的不精确的专家知识。基于可能不完整的数据,这些模型的得分和观察到的信息。这说明了传统得分和观测信息(作为对数似然的导数导出)以及后验得分和观测信息(作为对数后验分布的导数导出)。在整个文件的递归图形模型的专业化占一个简单的例子。
2013-02-06 cs.AI stat.ME
A fresh look at ignorability for likelihood inference
当数据不完整时,用于数据处理的随机向量Y与用于导致缺失数据的处理的二进制随机向量R一起被联合建模。我们回顾了R可以被忽略的条件,以得出关于Y分布的似然推断。Rubin(1976)和Kristan et.(2013)Statistist.科学,28:2 pp. 257- 268精确地模拟了完全数据方法,并指导研究者选择一个完全模型,其中随机缺失(MAR)和不同的参数保持不变,如果目标不是使用一个完全模型。另一种解释的可验证性潜伏在文献中考虑可验证的似然估计独立于任何模型的条件分布R给定Y。我们讨论的标准方法的缺点,并认为,替代提供了“正确”的条件,因为它对待的问题,其优点,而不是模仿的方法时,调查员拥有的所有数据。
2019-03-28 stat.ME
Likelihoods for fixed rank nomination networks
许多收集社交网络数据的研究使用的调查方法会导致信息被审查、缺失或不完整。例如,流行的固定排名提名(FRN)计划,经常用于学校和企业的研究,要求研究参与者提名和排名最多的联系人或朋友,离开其他关系的存在不确定。然而,大多数统计模型都是根据完全可观察的二元网络来制定的。使用此类模型对FRN数据进行统计分析忽略了数据的删失和排序性质,可能导致误导性统计推断。为了研究这种可能性,我们将从完全二进制网络的可能性中获得的参数估计值与从FRN方案中获得的可能性进行比较,因此认识到数据的排名和删失性质。我们通过分析和模拟表明,二元似然性可以提供误导性的推断,至少对于某些模型参数,这些参数将网络关系与个体和个体对的特征联系起来。我们还比较了这些不同的可能性在几个青少年社交网络的数据分析。对于其中的一些网络,从二进制和FRN似然参数估计导致不同的结论,表明FRN数据分析的方法,占FRN调查设计的重要性。
2012-12-26 stat.ME
Compatible Imputation for Hierarchical Linear Models with Incomplete Data: Interaction Effects of Continuous and Categorical Covariates MAR
针对连续协变量C与分类协变量D存在交互效应的MAR不完全数据,提出兼容Gibbs采样器解决小样本下HLM贝叶斯估计问题,可直接从精确后验分布抽取参数与缺失值,提升估计性能。
2025-02-10 stat.ME
Bayesian Estimation of Hierarchical Linear Models from Incomplete Data: Cluster-Level Interaction Effects and Small Sample Sizes
针对小样本和部分观测数据下HLM的估计问题,提出一种直接从精确后验分布填补参数与缺失值的兼容Gibbs采样器,通过模拟证明其优于现有方法。
2025-01-31 stat.ME
Estimating Intractable Posterior Distributions through Gaussian Process regression and Metropolis-adjusted Langevin procedure
针对昂贵且含噪/不完整数据下的贝叶斯校准难题,提出用 Gaussian Process Regression 序贯代理对数似然并结合 Metropolis-Adjusted Langevin Algorithm 高效推断后验。
2025-06-16 stat.ME
Relational models for contingency tables
本文认为一般乘法模型的完整和不完整的列联表,推广对数线性和其他几个模型,是完全坐标自由。给出了这些模型下存在最大似然估计的充分条件,并证明了多项式和泊松似然之间的等价性当且仅当模型中存在整体效应时成立.如果不假设这样的效应,则模型变成曲线指数族,并且给出依赖于非齐次优势比的相关混合参数化。几个例子来说明这些模型的属性和使用。
2011-03-03 stat.ME
False Discovery Rates to Detect Signals from Incomplete Spatially Aggregated Data
有许多方法可以测试在完全观察到的高分辨率图像中是否存在空间信号。其中之一是一个强大的非参数程序称为增强错误发现率(EFDR)。EFDR的一个缺点是它需要在矩形空间域中的规则像素上定义数据。在这里,我们开发了一个EFDR程序可能不完整的数据定义的不规则的小区域。受统计学习的启发,我们使用条件模拟(CS)对可用数据进行条件化,并以其最佳分辨率多次模拟完整的矩形图像(例如M)。然后将EFDR应用于这些模拟中的每一个,得到信号的M个估计值和M个统计相关的p值。对这些估计值求平均会产生一个可能信号的单一组合估计值,但需要进行推断以确定是否真的存在信号。我们通过使用copula和复合似然将M个p值组合成单个p值来测试没有信号的原始原假设。如果没有信号的原假设被拒绝,我们使用组合估计。我们称之为EFDR-CS的新程序,为了证明其有效性,我们显示了模拟研究的结果;一个实验,我们在亚太地区的温度变化数据中引入聚合和不完整性;和应用程序,从中东,阿富汗和巴基斯坦西部地区的卫星遥感数据的总柱二氧化碳。
2020-10-18 stat.ME
A Flexible Quasi-Copula Distribution for Statistical Modeling
针对分组数据参数估计的挑战,基于 Tonda 工作推导出一类新的概率密度函数,支持显式计算矩、边际与条件分布及最大似然估计所需信息,并在 UK-Biobank 三变量全基因组关联分析中验证了其灵活性与计算可扩展性。
2024-10-14 stat.ME
Bayesian inference for the multivariate skew-normal model: a Population Monte Carlo approach
基于多变量偏正态模型的频率主义和似然推理方法在使用该模型时遇到了一些技术困难。尽管这类密度的普及,有没有广泛满意的解决方案的估计和测试问题。提出了一种一般群体的蒙特卡罗算法,该算法利用了偏态随机变量的潜在结构随机表示,对模型进行了完整的贝叶斯分析,并考虑了参数空间中的约束条件。所提出的方法可以被定义为弱信息,因为先验分布近似于形状参数向量的实际参考先验。与现有的经典解决方案的结果进行了比较,并通过仿真研究和实际数据的例子说明了该算法的实际实施。对具有偏正态误差的矩阵变量回归模型进行了推广。
2013-02-05 stat.AP stat.ME
Handling Missingness and Censoring in Dirichlet Mixture Models
本文提出一种保留单纯形结构的狄利克雷混合模型似然方法,通过EM类算法同时完成参数估计与插补,经仿真及捕虏体、PM₂.₅真实数据验证,可有效处理成分数据的缺失与删失问题。
2026-07-31 stat.CO stat.ME