Nonparametric estimation of the tree structure of a nested Archimedean copula
嵌套阿基米德copula(也称为层次阿基米德copula)的固有特征之一是它们的根树结构。一个非参数的,基于秩的方法来估计这个结构。其思想是将目标结构表示为一组三变量结构,每个结构都可以轻松地单独估计。事实上,对于任何三个变量,只有四种可能的有根树结构,并且基于样本,可以通过在三个变量的经验分布的三个二元边际之间进行比较来做出选择。然后可以使用该组估计的三变量结构来构建目标结构的估计。这种估计方法的优点是,它不需要任何参数假设的生成函数在节点的树。
2013-12-17 stat.ME
Kullback-Leibler Consistency of $p$-dimensional Pólya Tree Posteriors and Differential Entropy Estimation
Institute of Mathematics and Statistics, University of São Paulo(圣保罗大学数学与统计学院)
本文研究了$p$-维Pólya树后验的Kullback-Leibler一致性,并提出了一种在大维度下具有一致性的微分熵估计方法。
2026-01-05 math.ST stat.TH
Discrete minimax estimation with trees
McGill University(麦吉尔大学)
我们提出了一个简单的递归数据为基础的分区计划,产生分段常数或分段线性密度估计的间隔,并显示该计划可以确定一些离散的非参数类的最佳$L_1$极大极小率。
2019-06-27 cs.LG math.ST stat.TH
Maximum Likelihood Estimation for Brownian Motion Tree Models Based on One Sample
本文研究了布朗运动树模型(BMTM)上的单样本极大似然估计($n=1$)问题。BMTM通常在单样本遗传学中用作空模型,其中单样本制度很常见。具体来说,我们表明,几乎可以肯定,单样本BMTM极大似然估计(MLE)存在,是唯一的,并对应于一个完全观察到的树。此外,我们提供了一个多项式时间算法的精确计算。我们还考虑了单样本情况下所有可能的BMTM树结构上的MLE,并表明它几乎肯定存在,它与对角占优势的M矩阵上的MLE一致,并且它存在唯一的封闭形式解,对应于路径图。最后,我们通过数值实验探讨了单样本BMTM极大似然估计的统计特性。
2022-11-24 math.ST stat.ME stat.TH
A One-Class Classification Decision Tree Based on Kernel Density Estimation
University of Mons(蒙斯大学)
一类分类(OCC)是机器学习的一个领域,它解决了基于不平衡数据集的预测问题。基本上,OCC算法通过单个类样本实现训练,可能还有一些额外的反例。目前的OCC模型在性能方面令人满意,但越来越需要开发可解释的模型。在目前的工作中,我们提出了一个一类模型,解决了性能和可解释性的问题。我们的混合OCC方法依赖于密度估计作为基于树的学习算法的一部分,称为一类决策树(OC树)。在一个贪婪和递归的方法,我们的建议依赖于内核密度估计分裂的基础上的一个或几个感兴趣的区间的数据子集。因此,OC树将数据封装在可以由一组规则描述的感兴趣的超矩形内。相对于最先进的方法,如聚类支持向量数据描述(ClusterSVDD),单类支持向量机(OCSVM)和隔离森林(iForest),OC树在一系列基准数据集上表现良好。此外,我们提出了一个真正的医疗应用程序,OC树已经证明了它的有效性,通过处理基于不平衡数据集的可解释诊断辅助的能力。
2020-03-20 cs.LG stat.ML
Variance Estimation for Tree Order Restricted Models
本文讨论了几个正态总体的共同方差的树序约束均值估计。我们讨论了当总体数趋于无穷大时方差的最大似然估计量的渐近性质。我们考虑了几种情况下的各种顺序的样本量和方差的最大似然估计可能是或可能不是一致的或渐近正态的。
2014-07-23 math.ST stat.TH
Density Estimation Trees as fast non-parametric modelling tools
密度估计树(DET)是在多变量数据集上训练的决策树,用于估计其概率密度函数。虽然在准确性方面无法与内核技术竞争,但它们非常快,非常并行,并且在存储到磁盘时相对较小。这些属性使得DET在LHC数据分析的资源昂贵的视野中具有吸引力。可能的应用包括选择优化、快速模拟和快速检测器校准。在这方面的贡献,我描述的算法,提供给HEP社区的RooFit实现。LHCb协作中讨论的一组应用程序也简要说明。
2016-07-22 stat.AP
Tree density estimation
Budapest University of Technology and Economics(布达佩斯技术与经济大学);Ben-Gurion University of the Negev(本-古里安大学);Ariel University(阿里埃勒大学)
研究了随机向量$f(\boldsymbol x)$的密度估计问题。对于在顶点集$\{1,\dots ,d\}$上定义的生成树$T$,树密度$f_{T}$是二元条件密度的乘积。最优生成树使$f$和$f_{T}$之间的Kullback-Leibler分歧最小化。从内务部。数据,我们识别最优树$T^*$并有效地构造树密度估计$f_n$,使得在密度$f$上没有任何规律性条件的情况下,具有$\lim_{n\to \infty} \int |f_n(\boldsymbol x)-f_{T^*}(\boldsymbol x)|d\boldsymbol x=0$ a.s.对于Lipschitz有界支撑$f$,$\mathbb E \left\{ \int |f_n(\boldsymbol x)-f_{T^*}(\boldsymbol x)|d\boldsymbol x\right\}=O\big(n^{-1/4}\big)$,无量纲速率。
2022-09-22 cs.LG math.ST stat.ML
Simultaneous Learning of Trees and Representations for Extreme Classification and Density Estimation
New York University(纽约大学);Massachussets Institute of Technology(麻省理工学院)
我们考虑多类分类的预测有一个层次结构,允许在训练和测试时间的标签数量非常大。这种模型的预测能力在很大程度上取决于树的结构,尽管过去的工作展示了如何学习树结构,但它期望特征向量保持静态。我们提供了一种新的算法,同时进行表示学习的输入数据和学习的hierarchi- cal预测。我们的方法优化了一个目标函数,有利于平衡和容易分离的多路节点分区。我们从理论上分析了这一目标,表明它会产生一个助推风格的属性和分类错误的约束。接下来我们展示如何将该算法扩展到条件密度估计。我们分别在文本分类和语言建模方面对这两种变体进行了经验验证,并表明它们在准确性和运行时间方面优于常见基线。
2017-03-02 cs.CL cs.LG stat.ML
Adaptive Conditional Distribution Estimation with Bayesian Decision Tree Ensembles
提出了一种基于贝叶斯加性回归树(BART)的条件分布估计的贝叶斯非参数模型。我们使用的生成模型是基于从基本模型的拒绝抽样。典型的BART模型,我们的模型是灵活的,有一个默认的先验规范,是计算方便。为了解决我们提出的BART模型中响应的杰出作用,我们进一步引入了一种有针对性的平滑方法,这可能是BART模型的独立兴趣。我们从理论上研究了该模型,并提供了充分条件的后验分布集中在接近极大极小最优率自适应光滑类在高维制度,其中许多预测是无关的。为了适应我们的模型,我们提出了一个数据增强算法,允许现有的BART采样器进行扩展,以最小的努力。我们说明了我们的方法在模拟数据上的性能,并使用医疗支出小组调查(MEPS)的数据来研究教育程度和身体质量指数之间的关系。
2022-02-01 stat.ME
Estimation of cell lineage trees by maximum-likelihood phylogenetics
CRISPR技术通过在生物体发育过程中突变合成基因组条形码,为复杂的多细胞生物体实现了大规模细胞谱系追踪。然而,这些复杂的生物学工具目前使用特别和过时的计算方法来从突变的条形码重建细胞谱系树。由于这些方法对生物机制是不可知的,因此它们无法充分利用数据的结构。我们提出了一个统计模型的突变过程,并开发了一个程序来估计树的拓扑结构,分支长度和突变参数,通过迭代应用惩罚最大似然估计。与现有技术相比,我们的方法估计沿每个分支的时间,而不是突变事件的数量,从而提供了组织类型分化的详细说明。通过模拟,我们证明了我们的方法比现有的方法更准确。我们重建的树也更好地概括了斑马鱼发育的已知方面,并在鱼类复制品中重现了类似的结果。
2019-03-29 q-bio.QM stat.AP
Tree-dependent Component Analysis
University of California(加利福尼亚大学)
我们提出了一个泛化的独立分量分析(ICA),而不是寻找一个线性变换,使数据组件独立,我们寻找一个变换,使数据组件很好地适合树结构的图形模型。作为一个半参数统计问题处理的问题,我们发现,最佳的变换是通过最小化的对比度函数的基础上互信息,一个功能,直接扩展用于经典ICA的对比度函数。我们提供了两个近似的对比度函数,一个使用核密度估计,另一个使用核广义方差。这种树依赖的成分分析框架自然导致一个有效的一般多变量密度估计技术,其中只需要进行双变量密度估计。
2012-12-12 cs.LG stat.ML
Phase transition on the convergence rate of parameter estimation under an Ornstein-Uhlenbeck diffusion on a tree
树上的扩散过程通常用于进化生物学中,以模拟跨物种的连续性状(如体重)的联合分布。估计这些过程的参数,从尖端值提出了挑战,因为共享的进化历史所产生的观测之间的内在相关性,从而违反了标准的大样本理论的独立性假设。例如,Ho和Ané \cite{HoAne13}最近证明了,如果树的高度是有界的,则树上的Ornstein-Uhlenbeck过程的平均值(在本文中也称为选择最优值)不能从越来越多的尖端观测值中一致地估计。在这里,使用一个富有成效的连接到所谓的重建问题在概率论中,我们研究的参数估计在无界高度的情况下的收敛速度。对于该过程的均值,我们给出了极大似然估计(MLE)的一致性的充分必要条件,并根据树的生长建立了其收敛速度的相变。特别是,我们表明,损失的$\sqrt{n}$一致性(即,MLE的方差变为$Ω(n^{-1})$,其中$n$是尖端的数目)。对于协方差参数,我们给出了一种新的,有效的估计方法,实现$\sqrt{n}$ -一致性自然假设下的树。
2016-05-25 cs.CE math.PR math.ST
Forest Density Estimation
本文研究了高维空间中的图估计和密度估计,利用一类基于森林结构无向图模型的密度估计。对于密度估计,我们不假设真实分布对应于森林;相反,我们形成二元和单变量边缘的核密度估计,并应用Kruskal算法来估计最优森林。我们证明了一个预言不等式的超额风险的估计相对于最好的森林的风险。对于图估计,我们考虑的问题,估计森林与限制树的大小。我们证明了寻找一个最大重量生成森林与限制树的大小是NP-困难的,并开发了一个近似算法。将树的大小作为一个复杂性参数,我们使用数据分裂选择森林,并证明了该过程的超额风险和结构选择一致性的界限。模拟数据和微阵列数据的实验表明,该方法是一个实用的替代高斯图形模型。
2010-10-20 stat.ML
Maximum likelihood estimation for spinal-structured trees
针对类型不可观测的脊柱结构两类型 Galton–Watson 树,论文研究出生分布的最大似然估计,并给出可区分性与可估计性的增长率—散度条件。
2024-07-18 math.PR math.ST stat.TH
Statistical estimation of a growth-fragmentation model observed on a genealogical tree
我们通过分段确定性马尔可夫分支树来模拟细胞群体的生长。每个细胞分裂成两个后代,分裂速率$B(x)$取决于其大小$x$。每个细胞的大小随时间呈指数级增长,增长速度因人而异。我们发现,平均经验措施的模型满足增长破碎型方程,如果结构的大小和增长率作为状态变量。我们构造了一个非参数估计的分裂率$B(x)$的基础上观察的人口超过不同的抽样方案的大小$n$的系谱树。我们的估计几乎达到率$n^{-s/(2s+1)}$在平方损失误差渐近。当生长速率被假设为是相同的每个细胞,我们检索经典的增长碎片模型和我们的估计提高了在\cite{DHRR, DPZ}通过间接观察计划获得的速率$n^{-s/(2s+3)}$。我们的方法是一致的数字测试和实施{ \it大肠杆菌}数据。
2015-05-28 math.PR math.ST q-bio.QM
Density estimation using cellular binary trees and an application to monotone densities
本文提出基于细胞二叉树的直方图密度估计,复杂度一估计具有普遍一致性,复杂度二估计能以最优误差O(n^{-1/3})估计单调密度。
2025-04-22 math.PR math.ST stat.TH
Modeling electrical distribution networks with inhomogeneous Galton-Watson trees
本文利用非齐次Galton-Watson树对配电网络建模,推导顶点数、叶数和树高的矩及有限性条件,并提出两种混合后代分布,采用最大似然估计。
2025-05-08 stat.AP
BooST: Boosting Smooth Trees for Partial Effect Estimation in Nonlinear Regressions
Columbia University(哥伦比亚大学);Pontifical Catholic University of Rio de Janeiro (PUC-Rio)(里约热内卢天主教大学);University of California, Irvine(加州大学尔湾分校)
在本文中,我们介绍了一种新的机器学习(ML)模型的非线性回归称为提升平滑过渡回归树(BooST),这是一个组合的提升算法与平滑过渡回归树。BooST模型的主要优点是可以估计非常一般的非线性模型的导数(部分效应)。因此,与其他基于树的模型(如随机森林)相比,该模型可以提供更多关于协变量和因变量之间映射的解释。我们提出了几个例子,模拟和真实的数据。
2020-07-28 cs.LG econ.EM stat.ME
Staged Event Trees for Transparent Treatment Effect Estimation
University of Valencia(瓦伦西亚大学);IE University(IE大学)
本文提出在分段事件树框架内刻画并实现经典因果推断估计量,以可解释、可视化的方式利用观测数据估计处理效应,并检验正定性等假设。
2025-09-30 stat.ME stat.ML
A Nonparametric Bayesian Approach to Copula Estimation
提出了一种新的基于Dirichlet的Copula的Pólya树(D-P树)先验,以及基于D-P树先验的非参数贝叶斯推断方法.通过理论分析和仿真,我们能够表明,D-P树先验的灵活性,确保其在copula估计的一致性,从而能够检测到更微妙和复杂的copula结构比早期的非参数贝叶斯模型,如高斯copula混合。此外,所施加的D-P树先验的连续性导致copula估计比经典频率论方法更有利的平滑效果,特别是对于小的观测集。我们还将该方法应用于2007-08年金融危机期间标准普尔500指数和IBM股票价格之间的Copula预测,发现基于D-P树的方法在这种不规则的市场行为下具有较强的鲁棒性和灵活性。
2017-02-23 stat.ME
XGBoostPP: Tree-based Estimation of Point Process Intensity Functions
本研究提出基于树的集成方法XGBoostPP,通过两种泊松似然损失函数拓展梯度提升回归树至点过程强度估计,搭配高效贪心搜索算法,在高维协变量场景下性能优于现有方法。
2024-01-31 stat.ME
A Tree-based Model Averaging Approach for Personalized Treatment Effect Estimation from Heterogeneous Data Sources
University of Pittsburgh(匹兹堡大学);Southwestern University of Finance and Economics(西南财经大学)
准确估计研究中心内的个性化处理效应(例如,一家医院)由于有限的样本量而具有挑战性。此外,隐私方面的考虑和资源的缺乏也阻止了一个网站利用来自其他网站的主题级数据。我们提出了一种基于树的模型平均方法,以提高估计精度的条件平均处理效应(CATE)在目标网站利用模型来自其他潜在的异质网站,而不共享受试者水平的数据。据我们所知,目前还没有针对分布式数据的既定模型平均方法,重点是改善处理效应的估计。具体来说,在分布式数据网络下,我们的框架提供了一个可解释的基于树的集成CATE估计器,连接跨研究站点的模型,同时通过站点分区积极建模数据源的异质性。这种方法的性能是由一个真实世界的研究证明的因果关系的氧疗对医院的生存率,并支持全面的模拟结果。
2022-06-15 cs.LG stat.ME stat.ML
Bayesian Causal Effect Estimation for Categorical Data using Staged Tree Models
School of Science and Technology, IE University(IE大学科学与技术学院);Department of Statistics and Operational Research, University of Valencia(瓦伦西亚大学统计与运筹学系)
本文提出基于分阶段树模型的完全贝叶斯因果推断方法,通过灵活先验和分裂-合并MCMC算法处理多变量分类数据中的结构与参数不确定性,并推导平均处理效应及不确定性度量。
2025-11-05 stat.ME
The Estimation of Causal Effects of Multiple Treatments in Observational Studies Using Bayesian Additive Regression Trees
目前缺乏适当的方法来估计多种治疗的因果关系时,结果是二元的。对于这样的设置,我们建议使用非参数贝叶斯建模,贝叶斯加性回归树(BART)。我们进行了一项广泛的模拟研究,将BART与几种现有的基于倾向得分的方法进行比较,并在估计治疗患者的平均处理效应时确定其操作特征。BART始终表现出低偏倚和均方误差。我们通过对一个大型数据集的比较有效性分析来说明BART的使用,该数据集来自最新的SEER-Medicare链接,针对通过机器人辅助手术,视频辅助胸外科手术或开胸手术进行手术的患者。
2020-02-27 stat.ME
Direct domain estimation via regression-tree-assisted estimators in the production of official statistics
Facultad de Ciencias Económicas y de Administración, Universidad de la República(乌拉圭共和国大学经济与管理学院)
本文在模型辅助估计框架下,从设计角度研究使用回归树作为辅助模型对非计划域进行直接估计,提出两种策略并证明其保持单权属性和可加性,模拟显示域特定模型可显著降低方差。
2026-06-06 stat.ME
Tree based credible set estimation
随着维数的增加,估计多变量后验密度的联合最高后验密度可信集是一个挑战。单变量边缘的可信区间通常是为了便于计算和可视化。通常有两层近似,因为我们可能需要为目标密度计算一个可信的集合,该目标密度本身只是真实后验密度的近似。我们获得了Li et al.(2016)给出的密度估计树的联合最高后验密度可信集,该树将截断的密度近似为R^d的紧致子集,因为这比copula构造更可取。这些树近似的联合后验分布从后验样本使用一个分段常数函数定义的顺序二进制分裂。我们使用一个相合估计量来衡量我们的可信集估计和目标密度样本的真实HPD集之间的对称差异。该质量度量可以在不需要知道真实集合的情况下计算。我们展示了如何真实的后验覆盖的近似可信的一组估计的近似目标密度估计在双重棘手的情况下,后验样本不可用。我们说明我们的方法与模拟研究,发现我们的估计是有竞争力的与现有的方法。
2021-05-27 stat.ME
Pattern-Based Analysis of Time Series: Estimation
虽然物联网(IoT)设备和传感器创建连续的信息流,但大数据基础设施被认为可以实时处理大量数据。这种连续信息流的一种类型是时间序列数据。由于时间序列中信息的丰富性和概括统计量对封装这些数据中的结构和模式的不足,开发新的方法来学习时间序列是令人感兴趣的。在本文中,我们提出了一种新的方法,称为模式树,学习模式的时间序列使用一个二进制结构的树。虽然模式树可以用于许多目的,如无损压缩,预测和异常检测,在本文中,我们专注于它在时间序列估计和预测的应用。与其他方法相比,我们提出的模式树方法改善了估计的均方误差。
2020-05-02 cs.IT eess.SP math.IT
A Tree-based Semi-Varying Coefficient Model for the COM-Poisson Distribution
我们提出了一个基于树的半变系数模型的Conway-Maxwell- Poisson(CMP或COM-Poisson)分布,这是一个两个参数的推广的泊松分布,是足够灵活的,以捕捉欠分散和过度分散的计数数据。基于树的方法的优点是它们对高维数据的可伸缩性。我们开发CMPMOB,半变系数模型的估计过程,使用基于模型的递归分割(MOB)。所提出的框架比现有的MOB框架更广泛,因为它允许将节点不变的影响包括在模型中。为了简化原MOB算法中穷举搜索的计算量,借鉴变点估计方法,提出了一种新的分裂点估计方法。所提出的方法仅使用估计的得分函数,而不为每个分裂点拟合模型,因此,计算更简单。由于基于树的方法只提供了一个分段常数近似的底层光滑函数,我们提出了CMPBoost半变系数模型,使用梯度提升过程进行估计。所提出的方法的实用性说明了使用模拟研究和一个真正的例子,从一个自行车共享系统在华盛顿特区。
2020-04-24 stat.ME
Tree Estimation and Saddlepoint-Based Diagnostics for the Nested Dirichlet Distribution: Application to Compositional Behavioral Data
Stephen F. Austin State University(斯蒂芬·F·奥斯汀州立大学);Southern Methodist University(南方卫理公会大学);Northern Arizona University(北亚利桑那大学)
本文提出了一种数据驱动的树寻找算法和基于鞍点的诊断工具,用于改进嵌套狄利克雷分布对组合行为数据的建模与评估。
2026-01-14 stat.ME
Posterior Representations for Bayesian Context Trees: Sampling, Estimation and Convergence
我们重新审视贝叶斯上下文树(BCT)建模框架的离散时间序列,这是最近发现是非常有效的,在许多任务,包括模型选择,估计和预测。一种新的表示形式的诱导后验分布的模型空间中的一个简单的分支过程,并在理论和实践中探讨了一些后果。首先,它示出的分支过程表示导致一个简单的可变维的蒙特卡罗采样器的联合后验分布的模型和参数,它可以有效地产生独立的样本。这个采样器被发现是更有效的比以前的MCMC采样器相同的任务。然后,分支过程表示被用来建立BCT后验的渐近一致性,包括推导的几乎必然收敛速度。最后,对诱导贝叶斯熵估计的性能进行了广泛的研究。它的效用说明通过模拟实验和现实世界的应用程序,它被发现优于几个国家的最先进的方法。
2023-03-20 cs.IT math.IT math.ST