The maximum likelihood degree of mixtures of independence models
最大似然度(ML度)度量统计学中基本最优化问题的代数复杂性:极大似然估计。在这个问题中,一个最大化的似然函数的统计模型。模型的ML度是似然函数的局部极值数目的上界,并且可以表示为欧拉示性数的加权和。众所周知,独立模型(即概率单纯形上的秩为1的矩阵)具有ML度为1,这意味着它们是似然函数的唯一局部最大值。然而,对于独立模型的混合(即概率单纯形上的秩为2的矩阵),ML度如何表现是一个悬而未决的问题。本文利用欧拉示性数证明了第一作者Hauenstein和Sturmfels提出的一个著名猜想,给出了独立混合模型ML度的递归表达式和封闭形式表达式.
2017-02-10 math.AG math.AT math.ST
Predictive Coresets
University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对大规模数据集传统推理算法计算困难、传统核心集方法在非参数模型中不适定的问题,提出一种基于随机后验和预测递归的变分方法,可匹配完整与精简数据集的后验预测分布,适用于非参数先验并在多问题上验证了性能。
2025-02-08 cs.LG stat.CO
Predictive Hypothesis Identification
RSISE;ANU(澳大利亚国立大学);SML;NICTA(澳大利亚国家信息与通信技术研究院)
虽然统计学专注于假设检验和估计真实抽样分布(的属性),但在机器学习中,学习算法对未来数据的性能是主要问题。在本文中,我们用一个通用原则(PHI)来弥合这一差距,该原则确定了具有最佳预测性能的假设。这包括预测点和区间估计,简单和复合假设检验,(混合)模型选择,以及其他特殊情况。对于具体的实例,我们将恢复众所周知的方法,其变化,和新的。PHI很好地证明,调和和混合(重新参数化不变的变化)MAP,ML,MDL和矩估计。PHI的一个特别的特点是它可以真正处理嵌套的假设。
2008-09-08 cs.LG math.ST stat.ML
GGMPs: Generalized Gaussian Mixture Processes
GGMPs是一种基于高斯过程的多模态条件密度估计方法,通过局部混合拟合和异方差训练提升非高斯数据的分布近似能力。
2026-03-11 cs.LG stat.ML
On efficient prediction and predictive density estimation for spherically symmetric models
假设$X,U,Y$是具有密度$$η^{d +k/2} \, f\left(η(\|x-θ|^2+ \|u\|^2 + \|y-cθ\|^2 ) \right)\,,$$的球对称分布,其中参数$θ\in \mathbb{R}^d$和$η>0$未知,并且密度$f$和常数$c >0$已知。基于观察$X=x,U=u$,我们考虑的问题,获得一个预测密度$\hat{q}(y;x,u)$ $Y$作为测量的预期Kullback-Leibler损失。一个基准程序是最小风险等变密度$\hat{q}_{mre}$,这是广义贝叶斯关于前$π(θ, η) = η^{-1}$。对于$d \geq 3$,我们得到了$\hat{q}_{mre}$的改进,并进一步表明,优势同时适用于所有$f$有限矩和有限风险条件。我们还得到,贝叶斯预测密度的谐波前$π_h(θ, η) =η^{-1} \|θ\|^{2-d}$占主导地位的$\hat{q}_{mre}$同时为所有规模的混合法线$f$。
2018-07-12 math.ST stat.TH
A nonparametric empirical Bayes framework for large-scale multiple testing
我们提出了一个灵活的和可识别的版本的两组模型,出于分层贝叶斯的考虑,其特点是一个经验空和半参数混合模型的非空情况。我们使用一个计算效率高的预测递归边际似然方法来估计模型参数,甚至非参数混合分布。这导致了一个非参数的经验贝叶斯检验过程,我们称之为PR测试,阈值的基础上估计的本地错误发现率。仿真和实际数据的例子表明,与现有的方法相比,PR测试的非零密度的仔细处理可以得到一个更好的适合在尾部的混合分布,这反过来,可以导致更现实的结论。
2011-10-01 stat.CO stat.ME
Permutation-based uncertainty quantification about a mixing distribution
基于混合模型数据的混合分布的非参数估计是一个具有挑战性的问题。除了估计之外,还有对不确定性量化的兴趣,例如,混合分布特征的置信区间。本文着重于通过预测递归算法估计,在这里,我们利用这个估计的看似不可取的依赖于数据排序,以获得一个基于置换的近似抽样分布,可用于量化的不确定性。理论和数值结果证实,所提出的方法导致有效的置信区间,至少近似。
2019-06-12 stat.ME
Predictive Power Analysis of Multiple Test Procedures Under Arbitrary Dependence
University of Illinois-Chicago(伊利诺伊大学芝加哥分校)
本文提出了一种基于贝叶斯预测方法的新方法,用于在任意依赖情况下计算多重检验程序的统计功效和样本量,同时通过模拟方法展示了该方法在铅暴露研究中的应用。
2026-05-19 stat.ME
Adaptive Sequential Change Detection using Mixtures of Predictive Distributions
Aalto University(阿尔托大学);Princeton University(普林斯顿大学)
针对后变化分布未知的独立观测序列变化检测问题,提出一种基于滑动窗口预测分布混合的PM-CuSum算法,实现一阶渐近最优性且渐近延迟余项更小。
2026-06-18 math.ST stat.TH
Quasi-Bayes properties of a recursive procedure for mixtures
Bocconi University(博科尼大学)
本文提出了一种递归过程在非参数混合模型中的近似贝叶斯性质方法,通过重新解释为预测规则,展示了其渐近贝叶斯特性,并提供了后验分布和可信区间。
2026-02-17 math.ST stat.ME stat.TH
Predictive Concordance for Parameter Optimisation and Mixture Synthesis
International Monetary Fund(国际货币基金组织);Johns Hopkins University(约翰斯·霍普金斯大学);Board of Governors of the Federal Reserve System(联邦储备系统理事会);Duke University(杜克大学)
基于期望误分类率(EMR)提出概率一致性度量,通过最大化EMR或其正则化变体优化参数,并应用于宏观经济政策情景预测中的混合合成。
2026-06-15 math.ST stat.ME stat.TH
Horseshoe Predictive Inference
Booth School of Business, The University of Chicago(芝加哥大学布斯商学院)
本文研究了在连续混合先验(马蹄先验)下预测推断的理论性质,提出新的理论结果证明预测贝叶斯估计在稀疏性已知时的渐近最优性,并展示了在稀疏性未知时的自适应性能。
2026-04-17 math.ST stat.ME stat.TH
Computing Bayesian predictive distributions: The K-square and K-prime distributions
考虑了两个离散混合不完全β函数的贝叶斯预测分布的计算问题。对于这些分布,迭代次数很容易变得很大,因此结果的准确性可能是有问题的。因此,现有的算法,这类混合物的改进,通过引入舍入误差计算的停止规则。提出了另一个简单的修改,以处理可能会阻止正常工作的复发的可能下溢。
2006-11-14 math.ST stat.TH
Bayesian inference and prediction for mean-mixtures of normal distributions
本文研究了多元正态分布均值混合的预测密度估计的频率风险性质,其中包含一个未知的位置参数$θ\in \mathbb{R}^d$,并且包含多元斜正态分布.我们提供明确的表示贝叶斯后验和预测密度,包括基准最小风险同变(MRE)密度,这是极大极小和广义贝叶斯相对于一个不适当的均匀密度$θ$。对于四个维度或更多,我们得到的贝叶斯密度,提高均匀的MRE密度下Kullback-Leibler损失。我们还提供插件类型的改进,调查的影响,某些类型的参数限制$θ$,并说明和评论的结果的基础上数值评估。
2022-02-01 math.ST stat.TH
Bayesian estimation and prediction for certain mixtures
对于两个庞大的家庭的混合分布和一个给定的先验,我们提供了统一的表示后验和预测分布。模型的应用包括标记为Kibble型,非中心卡方和F分布,分布的$R^2$在多元回归,方差混合正态分布,混合物的位置-规模指数分布,包括多变量Lomax分布的伽玛Γ分布的二元混合物。重点也放在分析表示和现有的分布和几个hypergometric函数的一个或两个变量的主机的关系。
2020-09-07 math.ST stat.TH
Bayesian MISE convergence rates of Polya urn based density estimators: asymptotic comparisons and choice of prior parameters
混合模型以其通用性而闻名,贝叶斯范式是混合分析的合适平台,特别是当组分数量未知时。Bhattacharya(2008)介绍了一种基于狄利克雷过程的混合模型,其中需要指定组分的未知数的上界。在这里,我们考虑一个贝叶斯渐近框架,客观地指定的上界,我们假设依赖于样本量。特别是,我们定义了一个贝叶斯模拟的平均积分平方误差(贝叶斯MISE),并选择该形式的上界,以及该形式的精度参数的基础狄利克雷过程,贝叶斯MISE的一个特定的密度估计,这是一个合适的修改的Polya-urn基于先验预测模型,收敛在所需的速率。作为我们方法的副产品,我们研究了传统Dirichlet过程混合模型精度参数的渐近选择;我们在这里考虑的密度估计是Escobar & West(1995)与Polya瓮模型相关的先验预测分布的修改。与上述两种混合物有关的各种渐近问题,包括比较性能,也进行了研究。
2018-11-13 math.ST stat.TH
Sliced Space-filling Design with Mixtures
Zhongnan University of Economics and Law(中南财经政法大学);Central China Normal University(华中师范大学)
本文针对混合物成分提出切片空间填充设计的构造方法,基于代表性点和能量距离分解理论,给出三种构造算法及收敛性证明,所提设计在子设计规模上更灵活,适用约束区域更广,数值实验显示其空间填充和预测精度优势明显。
2025-09-26 math.ST stat.TH
Dirichlet Process Mixtures of Trees with Gaussian Process Splits: A Bayesian Nonparametric Framework with Posterior Contraction Rate
Indian Statistical Institute(印度统计研究所)
提出一种基于狄利克雷过程先验的贝叶斯非参数回归树混合模型,利用高斯过程分裂规则统一多种树方法,实现数据驱动的集成规模选择,并证明后验收敛率,在多个基准和应用中优于现有方法。
2026-09-24 cs.LG math.ST stat.ME