A Semiparametric Bayesian Extreme Value Model Using a Dirichlet Process Mixture of Gamma Densities
在本文中,我们提出了一个Dirichlet过程混合的伽玛密度在阈值以下的大部分和广义Pareto密度在尾部的极值估计模型。所提出的模型是简单和灵活的,允许我们的后验密度估计和后验推理的高分位数。该模型工作良好,即使小样本量和在没有先验信息。我们通过仿真研究评估所提出的模型的性能。最后,将该模型应用于一个实际的环境数据。
2013-04-02 stat.AP stat.ME stat.ML
Dirichlet-based Gaussian Processes for Large-scale Calibrated Classification
EURECOM(欧洲通信学院);University of Genoa(热那亚大学);IIT(意大利理工学院);MIT(麻省理工学院)
在本文中,我们研究的问题,得出快速和准确的分类算法与不确定性量化。高斯过程分类提供了一种原则性的方法,但相应的计算负担在大规模问题中几乎是不可持续的,并且设计有效的替代方案是一个挑战。在这项工作中,我们研究了直接应用于分类标签的高斯过程回归是否以及如何用于解决这个问题。虽然在这种情况下,训练时间明显更快,但预测需要针对分类和不确定性估计进行校准。为此,我们提出了一种新的方法的基础上解释的Dirichlet分布的输出标签。大量的实验结果表明,所提出的方法提供了基本相同的精度和不确定性量化的高斯过程分类,而只需要一小部分的计算资源。
2018-05-28 cs.LG stat.ML
Dirichlet Fragmentation Processes
树结构在许多领域的数据中无处不在,许多数据集自然地由未观察到的树结构建模。在本文中,我们首先回顾了随机碎片过程的理论[Bertoin,2006],以及一些现有的建模树的方法,包括流行的嵌套中餐厅过程(nCRP)。然后,我们定义了一类一般的概率分布在树上:Dirichlet碎裂过程(DFP)通过一个新的组合的理论Dirichlet过程和随机碎裂过程。这个DFP呈现出一个断棒构造,并且与nCRP的关系与狄利克雷过程与中国餐馆过程的关系相同。此外,我们开发了一种新的分层混合模型与DFP,并实证比较新的模型在机器学习类似的模型。实验表明,DFP混合模型令人信服地优于现有的国家的最先进的分层聚类和密度建模方法。
2015-09-16 stat.ML
Clustering consistency with Dirichlet process mixtures
Dirichlet过程混合模型是一种灵活的非参数模型,特别适合于密度估计和概率聚类。在这项工作中,我们研究的后验分布引起的Dirichlet过程的混合物作为样本量的增加,更具体地说,集中在一致性为未知数的集群时,观察到的数据是从一个有限的混合物。至关重要的是,我们考虑的情况下,事先放置在浓度参数的基础Dirichlet过程。文献中以前的研究结果表明,狄利克雷过程的混合物通常是不一致的集群的数量,如果浓度参数是固定的,数据来自有限的混合物。在这里,我们表明,如果浓度参数是适应在一个完全贝叶斯的方式,在实践中通常做的,可以实现集群的数量的一致性。我们的研究结果来自来自一类有限混合物的数据,温和的假设上的浓度参数和混合物的似然核的各种选择的先验。
2022-05-25 math.ST stat.ME stat.ML
Dirichlet process mixture models for non-stationary data streams
Basque Center for Applied Mathematics(巴斯克应用数学中心)
近年来,我们已经看到了一些关于非平稳数据流上的推理算法的工作。鉴于其灵活性,贝叶斯非参数模型是这些情景的良好候选者。然而,在概念漂移现象下的可靠流推理仍然是这些模型的一个开放问题。在这项工作中,我们提出了一个变分推断算法的Dirichlet过程混合模型。我们的建议处理的概念漂移,包括指数遗忘在先前的全局参数。我们的算法允许自动适应学习模型的概念漂移。我们在合成和真实数据中进行了实验,表明该模型在密度估计问题上与最先进的算法具有竞争力,并且在聚类问题上优于它们。
2022-10-13 cs.LG stat.ML
Cooperative Hierarchical Dirichlet Processes: Superposition vs. Maximization
University of Technology Sydney(悉尼科技大学)
协同层次结构是文本挖掘(作者-论文-词)和多标签分类(标签-实例-特征)等领域中常见的重要数据结构。著名的贝叶斯方法的合作层次结构建模大多是基于主题模型。然而,这些方法存在一个严重的问题,即隐藏主题/因子的数量需要预先确定,并且不适当的数量可能导致过拟合或欠拟合。解决这个问题的一个优雅的方法是贝叶斯非参数学习,但在这方面的现有工作仍然不能适用于合作的层次结构建模。在本文中,我们提出了一个合作的层次狄利克雷过程(CHDP),以填补这一空白。在一个合作的层次结构中的每个节点被分配一个Dirichlet过程来模拟其权重的无限隐藏的因素/主题。结合层次Dirichlet过程的测度继承,讨论了两种测度合作,即,叠加和最大化被定义为捕获协作分层结构中的多对多关系。此外,两个建设性的表示CHDP,即,断棒和国际餐厅的过程中,旨在方便模型的推理。对具有协同层次结构的合成数据和真实数据的实验表明了CHDP的协同层次结构建模的特性和能力及其在实际应用中的潜力。
2017-07-18 cs.LG stat.ML
A Dirichlet Mixture Model of Hawkes Processes for Event Sequence Clustering
Georgia Institute of Technology(佐治亚理工学院)
基于一类特殊但重要的点过程-- Hawkes过程的Dirichlet混合模型,提出了一种有效的事件序列聚类方法.在该模型中,属于一个集群的每个事件序列都是通过具有特定参数的相同Hawkes过程生成的,不同的集群对应不同的Hawkes过程。Hawkes过程的先验分布由Dirichlet分布控制。我们通过最大似然估计(MLE)学习模型,并提出了一个有效的变分贝叶斯推理算法。我们具体分析了EM型算法的上下文中的内外迭代,并讨论了几个内部迭代分配策略。我们的模型的可识别性,我们的学习方法的收敛性,其样本的复杂性进行了分析,在理论和实证的方式,这表明我们的方法优于其他竞争对手。所提出的方法自动学习聚类的数量,并且对模型误指定具有鲁棒性。在合成数据和真实数据上的实验表明,该方法可以学习到异步事件序列中隐藏的不同触发模式,并在聚类纯度和一致性方面取得了令人鼓舞的性能。
2017-09-21 cs.LG stat.ML
Graphical Dirichlet Process for Clustering Non-Exchangeable Grouped Data
针对非可交换分组数据的聚类问题,提出 graphical Dirichlet process 这一 Bayesian nonparametric 方法,利用 directed acyclic graph 联合建模组间依赖的随机测度并实现聚类共享。
2023-07-31 stat.ME stat.ML
The semi-hierarchical Dirichlet Process and its application to clustering homogeneous distributions
评估分布的均匀性是一个老问题,已受到相当大的关注,特别是在非参数贝叶斯文献。为此,我们提出了半分层Dirichlet过程,这是一种新的分层先验,它扩展了Teh et al.(2006)的分层Dirichlet过程,并避免了Camerlenghi et al.(2019 a)最近描述的嵌套过程的退化问题。我们超越了简单的是/否答案的同质性问题,并嵌入在随机分区模型的建议之前,这个过程使我们能够给一个更全面的回答上述问题,事实上,找到群体的内部同质时,我大于或等于2这样的人口被认为是。我们研究的理论性质的半分层Dirichlet过程和贝叶斯因子的齐性检验时,I = 2。广泛的模拟研究和应用教育数据进行了讨论。
2021-06-16 stat.ME
Distributional Results Relating to the Posterior of a Dirichlet Process Prior
本文的目的是寻找Dirichlet过程的Sethuraman(1994)表示中后验参数的分布结果。这些结果可以用来简单地推导狄利克雷过程的后验。
2015-10-25 math.ST stat.TH
Large sample asymptotics for the two-parameter Poisson--Dirichlet process
本文在两种情形下研究了双参数$(α,θ)$ Poisson-Dirichlet过程的大样本性质。在贝叶斯估计未知概率测度的背景下,将此过程看作Dirichlet过程的自然扩张,研究了两参数Poisson-Dirichlet后验过程的相合性和弱收敛性.我们还建立了适当中心的两参数Poisson-Dirichlet过程的大$θ+nα.$的弱收敛。后者的结果补充了大$θ$结果的Dirichlet过程和Poisson-Dirichlet序列,并补充了最近的结果大偏差原则的两参数Poisson-Dirichlet过程。我们的研究结果的一个重要组成部分是使用分布的身份,在其他情况下可能是有用的。
2008-05-21 math.PR math.ST stat.TH
The Dirichlet Process as sampling distribution
Department of Statistics, ITAM Mexico(墨西哥拉美美洲理工学院统计系)
该研究针对狄利克雷过程作为采样分布的特性及参数推断空白,将其作为数据生成模型,对中心测度和精度参数做贝叶斯推断,结合模拟与真实数据集验证方法。
2026-10-30 stat.AP stat.ME
On the Variational Posterior of Dirichlet Process Deep Latent Gaussian Mixture Models
Orange Labs(Orange实验室);Institute Mines-Telecom Atlantique(大西洋矿业电信学院)
由于重新参数化技巧,深度潜在高斯模型最近在学习潜在表示方面取得了巨大的成功。然而,将它们与非参数先验(如狄利克雷过程(DP))耦合的能力由于其不可参数化的性质而没有看到类似的成功。本文提出了Dirichlet过程深潜高斯混合模型(DP-DLGMM)变分后验的另一种处理方法,证明了β分布和聚类隐变量的先验聚类参数和变分后验可以以封闭形式更新.这导致了一个标准的重新参数化技巧高斯隐变量知道集群分配。我们在标准基准数据集上展示了我们的方法,我们表明我们的模型能够为获得的每个聚类生成真实的样本,并在半监督设置中表现出竞争力。
2020-07-27 cs.AI cs.LG stat.ML
Dirichlet Process Mixtures of Generalized Linear Models
我们提出了狄利克雷过程混合广义线性模型(DP-GLM),一种新的非参数回归方法,可容纳连续和分类的输入,和响应,可以模拟的广义线性模型。我们证明了DP-GLM回归均值函数估计的渐近无偏性的条件。我们还给出了当这些条件成立时的例子,包括紧支持的连续分布模型和具有连续协变量和分类响应的模型。我们实证分析的DP-GLM的属性,为什么它提供了更好的结果比现有的Dirichlet过程混合物回归模型。我们评估DP-GLM的几个数据集,比较它的现代非参数回归方法,如CART,贝叶斯树和高斯过程。与现有技术相比,DP-GLM提供了一个单一的模型(和相应的推理算法),在许多回归设置中表现良好。
2010-07-15 stat.ML
On Simulations from the Two-Parameter Poisson-Dirichlet Process and the Normalized Inverse-Gaussian Process
在本文中,我们开发了简单,但有效的,两参数泊松-狄利克雷过程和归一化逆高斯过程的采样近似的程序。我们比较了新的近似的效率,相应的棒打破近似,在其中,我们表现出实质性的改善。
2012-09-24 stat.CO
Adaptive Convergence Rates of a Dirichlet Process Mixture of Multivariate Normals
结果表明,一个简单的Dirichlet过程混合的多元常态提供贝叶斯密度估计与自适应后收敛速度。为此,一种新的非参数混合密度的筛子进行了探索,并证明了其率适应性的各种光滑类的密度在任意维。这种筛的建设,预计将提供一个实质性的技术进步,在研究贝叶斯非参数混合模型的基础上,棒断裂先验。
2011-11-17 math.ST stat.ME stat.TH
A Dirichlet Process Mixture Model of Discrete Choice
我们提出了一个混合多项logit(MNL)模型,它利用截断棒打破过程表示的狄利克雷过程作为一个灵活的非参数混合分布。该模型是一个狄利克雷过程混合模型,并容纳离散表示的异质性,像一个潜在的类MNL模型。然而,与潜在类MNL模型不同,建议的离散选择模型不需要分析师在估计之前固定混合成分的数量,因为离散混合分布的复杂性是从证据中推断出来的。对于离散选择的Dirichlet过程混合模型的后验推理,我们给出了一个期望最大化算法。在模拟研究中,我们证明了所提出的模型框架可以灵活地捕获不同形状的口味参数分布。此外,我们实证验证了模型框架的案例研究中的驾驶员的路线选择偏好,并发现建议的离散选择的Dirichlet过程混合模型优于一个潜在的类MNL模型和混合MNL模型与常见的参数混合分布的样本内拟合和样本外的预测能力。与现有的建模方法相比,建议的离散选择模型大大简化了规格搜索,因为它依赖于较少的限制性参数假设,并不需要分析师指定的离散混合分布的复杂性之前估计。
2018-01-19 econ.EM stat.AP stat.CO
On Dependent Dirichlet Processes for General Polish Spaces
我们研究了基于Dirichlet过程的预测依赖的概率分布的集合的模型,其中域和预测空间是一般的波兰空间。我们推广的依赖Dirichlet过程的定义,最初构造在欧几里得空间,更一般的波兰空间。我们提供了充分条件,在此条件下,依赖Dirichlet过程有吸引力的性质,关于连续性(弱和强),关联结构,和支持(在不同的拓扑结构)。在独立同分布下,我们还给出了由依赖Dirichlet过程诱导的混合模型具有强连续性、关联结构、支持度和弱相合性的充分条件.响应和预测变量的抽样。结果可以很容易地推广到更一般的相依断棒过程。
2022-05-11 math.ST stat.TH
Probabilistic Trajectory Segmentation by Means of Hierarchical Dirichlet Process Switching Linear Dynamical Systems
Technische Universität Darmstadt(达姆施塔特工业大学)
使用运动基元库是使机器人能够解决更复杂任务的有效手段。为了建立这些运动库,目前的算法需要事先分割的演示轨迹。一种有前途的方法是将轨迹建模为由一组切换线性动态系统生成,并通过检查切换动态特征的过渡点来推断有意义的分割。关于学习,采用非参数贝叶斯方法,利用吉布斯采样器。
2020-03-01 cs.LG cs.RO stat.ML
Dynamic Hierarchical Dirichlet Process for Abnormal Behaviour Detection in Video
本文提出了一种新的动态分层Dirichlet过程主题模型,考虑连续观测之间的依赖性。传统的后验推理算法需要对整个数据进行多次处理。对于海量或连续的数据,它在计算上是难以处理的。我们设计了基于吉布斯抽样的批量和在线推理算法。它允许处理连续数据,通过新的观察增量更新模型。该模型被应用于视频序列中的异常行为检测。提出了一种新的异常性度量方法。将该方法与基于非动态分层Dirichlet过程的方法进行了比较,并推导了基于非动态分层Dirichlet过程的在线Gibbs采样器和异常测度。与合成和真实数据的结果表明,在主题模型中的动态考虑提高了异常行为检测的分类性能。
2016-06-27 stat.ML
Compound Dirichlet Processes
复合Poisson过程和Dirichlet过程分别是更新理论和贝叶斯非参数理论的支柱结构。这两个过程都有许多有用的扩展,以满足从业者对数据结构特殊性建模的需求。因此,在这篇文章中,我们加入了他们的原始思想,构造复合Dirichlet过程和复合Dirichlet过程混合。因此,这些新的过程有一个富有成效的结构来模拟事件之间的时间发生,也有一个灵活的结构上的到达变量。这些模型具有对其后验估计的直接贝叶斯解释,并且易于实现。我们得到的表达式的后验分布,非条件分布和期望值。特别是要找到这些公式,我们分析了随机变量与狄利克雷过程先验的总和。我们通过将我们的模型应用于传染性人畜共患病的真实数据示例来评估我们的方法。
2019-05-15 math.ST stat.AP stat.TH
DPMM-CFL: Clustered Federated Learning via Dirichlet Process Mixture Model Nonparametric Clustering
Dept. of Electrical \& Computer Engineering, Northeastern University, Boston, MA, USA
DPMM-CFL通过非参数贝叶斯推断自动确定聚类数量和客户端分配,实现更灵活的联邦学习框架。
2026-01-29 cs.DC cs.LG stat.ML
Bayesian Multivariate Quantile Regression Using Dependent Dirichlet Process Prior
在这篇文章中,我们考虑了一个非参数贝叶斯方法的多元分位数回归。给定单变量协变量X的响应向量Y的相关条件分布的集合使用依赖狄利克雷过程(DDP)先验建模。DDP用于引入跨x的依赖性。由于Dirichlet过程先验的实现几乎肯定是离散的,我们需要将其与内核卷积。为了尽可能灵活地建模误差分布,我们使用多维正态分布的可数混合作为我们的内核。对于后验计算,我们使用DDP的截断棒断裂表示。这种近似使我们能够只处理1000个参数。我们使用一个块吉布斯采样器估计模型参数。我们用模拟研究和实际数据应用说明了我们的方法。最后,我们通过后验一致性为所提出的方法提供了理论依据。我们提出的方法是新的,即使当响应是单变量的。
2020-07-01 stat.ME
A Dirichlet Process Mixture Model for Directional-Linear Data
方向数据需要专门的概率模型,因为它们的域的非欧几里德和周期性。当方向变量与线性变量联合观察时,对它们的依赖性进行建模会增加额外的复杂性。本文提出了一种新的贝叶斯非参数方法的基础上的Dirichlet过程的方向线性数据。我们首先扩展了投影正态分布模型的线性变量和任意维的方向变量的联合分布作为一个高维的增广多元正态分布(MVN)的投影。我们称之为半投影正态分布(SPN)的新分布,它具有类似于MVN的属性。然后,SPN被用作Dirichlet过程模型中的混合分布,以获得更灵活的一类模型的方向线性数据。我们提出了一个正常的条件逆Wishart分布作为先验分布的一部分,以解决从投影正常继承的可识别性问题,并保持共轭与SPN分布。为后验推理提供了一种吉布斯抽样算法。在合成数据和Berkeley图像数据库上的实验表明,与其他方向性线性模型相比,Dirichlet过程SPN混合模型(DPSPN)在聚类方面具有更好的性能。我们还建立了一个分层的Dirichlet过程模型与SPN开发的似然比的方法来血迹模式分析使用DPSPN模型的密度估计,以估计一组训练数据的可能性,一个给定的模式。
2022-12-21 stat.ME
A stochastic diffusion process for Lochner's generalized Dirichlet distribution
本文利用Fokker-Planck方程的势解方法,建立了N个随机变量的联合概率的迁移方程,该方程满足Lochner广义Dirichlet分布(R.H. Lochner,贝叶斯寿命测试中的广义Dirichlet分布,皇家统计学会杂志,B系列,37(1):pp。103-113,1975)作为其渐近解。从随机微分方程系统获得的离散系综的各个样本,等效于这里开发的福克-普朗克方程,在所有时间都满足单位和约束,并确保有界样本空间,类似于(J. Bakosi,J.R. Ristorcelli,Dirichlet分布的随机扩散过程,Int. J. Stoch.肛门,Article ID,842981,2013)的Dirichlet分布。因此,广义狄利克雷扩散过程可以用来表示受守恒原理约束的N个变量的波动系综的实现。与Dirichlet分布和过程相比,广义Dirichlet分布的附加参数允许用更一般的协方差矩阵来建模更一般的一类物理过程。
2013-09-13 math-ph math.MP math.PR
Dirichlet Posterior Sampling with Truncated Multinomial Likelihoods
我们考虑的问题,从后验分布下形成的Dirichlet先验和截断多项式似然,我们的意思是一个多项式似然函数,我们的条件下,一个或多个计数为零的先验。对该后验分布进行采样在基于狄利克雷分布或狄利克雷过程的分层贝叶斯模型的推理算法中是有意义的,特别是分层狄利克雷过程隐半马尔可夫模型的吉布斯抽样算法。我们提供了一个数据增强采样算法,易于实现,快速混合和执行,并易于扩展到许多维度。我们证明了该算法的优势,一个通用的大都市黑斯廷斯抽样算法在几个数值实验。
2012-09-03 stat.ME
Functionals of Dirichlet processes, the Cifarelli-Regazzini identity and Beta-Gamma processes
设P_θ(g)是Dirichlet过程的线性泛函,其形状为θH,其中θ>0是总质量,H是固定的概率测度.本文介绍了如何使用著名的贝叶斯先验的Dirichlet过程的后验分析,和后验演算伽玛过程,以确定性质的线性泛函的Dirichlet过程。特别是,结合伽玛恒等式,我们很容易地表明,广义柯西-斯蒂尔切斯变换的线性泛函的狄利克雷过程是等价的拉普拉斯功能的一类,我们定义为,β-伽玛过程。这代表了Cifarelli和Regazzini的恒等式的推广,也被称为Dirichlet过程的平均泛函的Markov-Krein恒等式。这些结果也为文献中的结果提供了新的解释和解释。这些恒等式类似于Beta和Gamma随机变量的非常有用的恒等式。我们给出了一个结果,它可以用来确定规格H的Dirichlet功能是Beta分布。这避免了需要一个反演公式,这些情况下,并指出特殊性质的狄利克雷过程,实际上功能β-伽玛演算在本文中开发。
2005-05-27 math.ST stat.TH
The Dirichlet Process with Large Concentration Parameter
Ferguson的Dirichlet过程在非参数贝叶斯推理中起着重要的作用。设$P_a$是$\mathbb{R}$中的Dirichlet过程,具有一个基概率测度$H$和一个浓度参数$a>0.$本文证明了$\sqrt {a} \big(P_a((-\infty,t]) -H((-\infty,t])\big)$收敛于一个布朗桥,即$a \to \infty.$,并得到了关于Dirichlet过程的一个Glivenko-Cantelli定理.利用泛函δ方法,还得到了分位数过程的弱收敛性。当统计学家过于强调他/她的先验猜测时,就会出现大浓度参数。当样本量较大且使用后验进行推断时,也会发生这种情况。
2011-12-13 math.ST stat.TH
Scalable Bayesian nonparametric measures for exploring pairwise dependence via Dirichlet Process Mixtures
在这篇文章中,我们提出了新的贝叶斯非参数方法,使用Dirichlet过程混合(Dirichlet Process Mixture)模型来检测随机变量之间的成对依赖关系,同时考虑潜在分布形式的不确定性。一个关键的标准是,这些程序应该扩展到大型数据集。在这方面,我们发现,正式计算的贝叶斯因子的依赖与。独立联合概率测度在计算上是不可行的。为了解决这个问题,我们提出了贝叶斯诊断措施,对成对独立的“空模型”的特征证据。在模拟研究中,以及一个真正的数据分析,我们表明,我们的方法提供了一个有用的工具,探索性的非参数贝叶斯分析的大型多元数据集。
2016-04-27 stat.ME
Tolerance Intervals Using Dirichlet Processes
本文提出基于狄利克雷过程的贝叶斯非参数容忍区间方法,以提高对分布假设的鲁棒性和计算效率。
2025-12-01 stat.CO stat.ME
Dirichlet Process Mixture Models with Shrinkage Prior
我们提出了Dirichlet过程混合(Dirichlet Process Mixture)模型的预测和集群明智的变量选择,基于两种选择的收缩基线先验分布的线性回归系数,即马蹄先验和正态伽玛先验。我们在模拟研究中表明,这两个建议的ESTA模型往往优于标准ESTA模型的基础上的非收缩正常的先验,在预测,变量选择和聚类精度。这对于马蹄模型尤其如此,并且当协变量的数量超过群内样本量时。一个真实的数据集进行了分析,以说明所提出的建模方法,两个建议的预测模型再次获得更好的预测精度。
2021-02-25 stat.AP stat.ME
The Dependent Dirichlet Process and Related Models
标准回归方法假设一些有限数量的响应分布特征,如位置和尺度,作为预测因子的(参数或非参数)函数而变化。然而,假设位置/尺度表示并不总是合适的,其中误差分布在预测器空间上具有不变的形状。事实上,它经常发生在应用研究中的响应分布的变化与预测的方式,不能合理地表示一个有限维的功能形式。这可能严重影响对感兴趣的科学问题的回答,因此确实需要更普遍的方法。这引起了对完全非参数回归模型的研究。我们回顾了一些主要的贝叶斯方法,已被用来定义概率模型,其中完整的响应分布可能会随预测变量而灵活变化。我们专注于发展的基础上修改的狄利克雷过程,历史上称为依赖狄利克雷过程,和一些已提出的扩展,以解决这个一般性的问题,使用非参数的方法。
2020-07-12 stat.ME
dirichletprocess: An R Package for Fitting Complex Bayesian Nonparametric Models
University of Edinburgh(爱丁堡大学);University College London(伦敦大学学院);IIT Kanpur(坎普尔印度理工学院)
该研究介绍了一个R包,提供灵活的Dirichlet过程对象,允许用户无需编程即可进行非参数贝叶斯分析,支持自定义模型和MCMC采样。
2026-05-02 stat.CO
An Imputation model by Dirichlet Process Mixture of Elliptical Copulas for Data of Mixed Type
基于Copula的方法为建立混合类型多元数据的缺失数据插补模型提供了一种灵活的方法。然而,Copula函数的选择是一个悬而未决的问题。我们考虑了贝叶斯非参数方法,通过使用无限混合的椭圆copula诱导的Dirichlet过程的混合物,以建立一个灵活的copula函数。采用切片采样算法对无限维参数空间进行采样。为了克服多峰分布中的混合问题,我们将有限混合模型中的先验并行调和方法推广到Dirichlet过程混合模型.使用模拟,我们证明了无限混合Copula模型提供了一个更好的整体拟合相比,他们的单组分同行,并执行更好地捕捉尾部依赖功能的数据。仿真结果进一步表明,我们提出的模型实现了更准确的填补,特别是对连续变量和更好的推理结果在一些分析模型。该模型被应用于澳大利亚急性中风患者的医疗数据集。
2019-10-12 stat.ME
A Semiparametric Bayesian Approach for Extreme Values Using Dirichlet Process Mixture of Gamma and Generalized Pareto Densities
对于极值估计,我们建议使用一个Dirichlet过程混合的伽玛密度的中心和广义帕累托密度的尾部模型。由于中心的随机性和尾部的重尾密度,高分位数的密度估计和后验推断是可能的。该方法可以在正实数上以“默认”方式使用,因为它在先验信息不可用时有效。该模型易于实现,并进行了敏感性分析。我们将所提出的模型应用于模拟和真实数据集。
2013-03-28 math.ST stat.ME stat.TH
Simple approximate MAP Inference for Dirichlet processes
狄利克雷过程混合(Dirichlet process mixture,简称DMM)是一种普遍存在的、灵活的贝叶斯非参数统计模型。然而,在这个模型中的完全概率推理是分析上难以处理的,因此需要计算密集型技术,如吉布斯采样。因此,基于DPM的方法,这有相当大的潜力,被限制在应用程序中的计算资源和时间的推理是丰富的。例如,它们对于嵌入式硬件上的数字信号处理是不实用的,其中计算资源非常宝贵。在这里,我们开发简化但统计严格的近似最大后验概率(MAP)推理算法的DPM。该算法与K-means聚类一样简单,在实验中表现得与Gibb采样一样好,同时只需要一小部分计算量。与相关的小方差渐近性不同,我们的算法是非退化的,因此继承了Dirichlet过程的“富人更富有”的性质。它还保留了一个非退化的封闭形式的可能性,使标准的工具,如交叉验证被使用。这是一个很好的近似的MAP解决方案的概率ESTA模型。
2014-11-04 stat.ML
Ferguson's Dirichlet Process Breakthrough: A Lasting Legacy
Bocconi University(博科尼大学);The Education University of Hong Kong(香港教育大学)
回顾费格森1973年提出的狄利克雷过程的三种构造,强调其大支撑和解析可处理性,并指出该过程已成为贝叶斯非参数统计的基石。
2026-06-24 math.ST stat.TH
IID Sampling from Posterior Dirichlet Process Mixtures
Dirichlet过程混合的影响在贝叶斯非参数文献中是普遍存在的。但是,尽管出现了各种马尔可夫链蒙特卡罗方法,但从其后验分布中采样仍然是一个挑战。主要的挑战是无限维的设置,即使将无限维的随机测度整合出来,高维性和离散性仍然是难以处理的问题。在这篇文章中,利用Bhattacharya(2021 b)中提出的关键思想,我们提出了一种新的方法来从Dirichlet过程混合的后验中绘制iid实现。我们特别关注Bhattacharya(2008)的更通用和灵活的模型,以便这里开发的方法简单地适用于传统的狄利克雷过程混合物。我们说明了我们的想法,众所周知的酶,酸度和星系数据集,这通常被认为是混合应用程序的基准数据集。在我们的并行实现中,从Bhattacharya(2008)的Dirichlet过程混合后验生成10,000个iid实现,分别需要19分钟、8分钟和5分钟。
2022-06-18 math.ST stat.CO stat.TH
A Bayesian View of the Poisson-Dirichlet Process
NICTA(澳大利亚国家信息与通信技术研究院);Australian National University(澳大利亚国立大学)
双参数泊松-狄利克雷过程(PDP)是狄利克雷过程的推广,越来越多地用于语言技术、生物信息学和图像分析等离散领域的概率建模。关于PDP及其衍生分布,如中国餐馆过程(CRP),有丰富的文献。本文回顾了离散问题贝叶斯建模的一些基本理论和主要结果,包括先验、后验和计算细节。PDP允许在可数分区上构建分布。PDP有两个其他显着的属性:第一,它是部分共轭本身,这使得人们可以建立层次结构的PDP,第二,使用边缘化的相对CRP,一个得到的碎片和聚类属性,让一层分区,以建立树。本文介绍了理解划分和分布概念的基本理论,PDP和CRP,以及共轭,分裂和聚类的重要性质,以及一些关键的相关性质,如一致性和收敛性。本文还提出了一个贝叶斯解释的泊松-狄利克雷过程的基础上不适当的和无限维狄利克雷分布。这意味着我们可以将这个过程理解为另一个狄利克雷过程,因此它的所有采样性质都自然出现。PDP的理论通常是针对连续分布(更一般地称为非原子分布)提出的,然而,当应用于离散分布时,其显着的共轭性质出现。这方面的基本结果,以及技术计算二阶斯特林数发生在后验的离散分布。
2012-02-15 cs.LG math.PR math.ST
Beta-Product Poisson-Dirichlet Processes
时间序列数据可以随时间表现出聚类,并且在多个时间序列上下文中,聚类行为可以跨序列而不同。本文的动机是贝叶斯非参数建模的聚类结构之间的依赖性和不同的时间序列的分布。我们遵循Dirichlet过程混合方法,并引入了一类新的多元相关Dirichlet过程(DDP)。建议的DDP表示的向量的棒断裂过程与相关的权重。权重是β随机向量,其确定沿着DDP向量的维度的不同且相关的聚类效应。本文讨论了后验计算的一些理论性质,并给出了一种有效的蒙特卡罗马尔可夫链算法。通过对美国和欧盟工业生产指数的仿真研究和应用,说明了该方法的有效性。
2011-09-22 math.PR math.ST stat.CO
Are Gibbs-type priors the most natural generalization of the Dirichlet process?
离散随机概率测度及其引入的可交换随机划分是解决贝叶斯推理中各种估计和预测问题的关键工具。事实上,许多流行的非参数先验,如Dirichlet和Pitman-Yor过程先验,几乎肯定会选择离散的概率分布,因此,自动诱导可交换的随机分区。在这里,我们专注于家庭吉布斯型先验,最近和优雅的推广狄利克雷和皮特曼-约尔过程先验。这些随机概率测度共享从理论和应用的观点都吸引人的属性:(i)它们承认在它们的预测结构方面的直观表征,证明它们在学习机制上的精确假设方面的使用是合理的;(ii)它们在数学易处理性方面突出;(iii)除了Dirichlet过程和Pitman-Yor过程外,它们还包括几个有趣的特例。我们的论文的目标是提供一个系统和统一的吉布斯型先验的治疗,并强调其影响贝叶斯非参数推断。我们将处理其分布特性,由此产生的估计,频率渐近验证和建设的时间依赖的版本。应用程序,主要涉及分层混合模型和物种抽样,将有助于传达的主要思想。这类先验所固有的直觉和由此推导出的简洁结果使人们怀疑它是否真的代表了狄利克雷过程的最自然的推广。
2015-02-28 math.ST stat.ME stat.TH
A Note on Bayesian Nonparametric Inference for Spherically Symmetric Distribution
在本文中,我们描述了一个贝叶斯非参数方法进行推断的二元球对称分布。我们考虑所有二元球对称分布集合上的狄利克雷不变过程先验,并推导出狄利克雷不变过程后验。实际上,我们的方法是一个扩展的Dirichlet不变过程的对称分布的实数线上的一个二元球对称分布,其中的基础分布是不变的有限群的旋转。此外,我们还得到了无限变换群的Dirichlet不变过程后验,并证明了它逼近Dirichlet过程。
2018-07-31 math.ST stat.TH
Conditional distributions for the nested Dirichlet process via sequential imputation
针对嵌套狄利克雷过程后验分布计算复杂的问题,提出基于序贯插补的新方法,以高效确定条件分布。
2025-10-09 math.PR math.ST stat.TH
A probability for classification based on the mixture of Dirichlet process model
在本文中,我们提供了一个明确的概率分布分类的目的。它是从贝叶斯非参数混合狄利克雷过程模型,但适当的修改,删除不适当的方面的分类基于这个模型。由此产生的方法,然后更接近类似于一个经典的层次分组规则,因为它取决于相邻值的平方和。建议的概率模型分类依赖于一个模拟算法,这将是基于一个可逆的MCMC算法来确定的概率,我们提供了数值例子与替代的想法进行分类比较。
2009-05-02 stat.AP
Shared Differential Clustering across Single-cell RNA Sequencing Datasets with the Hierarchical Dirichlet Process
针对单细胞RNA测序数据分析受数据收集问题与偏差影响的难题,本研究构建集成贝叶斯模型同时处理归一化、插补、批次效应并跨数据集非参数聚类细胞,还开发了基于HDP有限维近似的Gibbs采样器用于后验推断。
2023-12-13 q-bio.GN stat.ME
A Spatio-Temporal Dirichlet Process Mixture Model on Linear Networks for Crime Data
Yonsei University(延世大学);Seoul National University(首尔大学);University Jaume I(海梅一世大学);Sam Houston State University(山姆休斯顿州立大学)
本文提出了一种基于线性网络的时空Dirichlet过程混合模型,用于分析犯罪事件并识别空间时间聚类,同时探讨聚类中心与城市设施的关系。
2026-01-19 stat.AP
Bayesian test of normality versus a Dirichlet process mixture alternative
本文提出基于狄利克雷过程混合备择模型的贝叶斯正态性检验方法,利用潜在聚类标量参数化和序贯重要性采样计算贝叶斯因子,在保持正态性成立时不误判的同时有效检测非正态性。
2019-11-14 math.ST stat.CO stat.ME
PReMiuM: An R Package for Profile Regression Mixture Models using Dirichlet Processes
PReMiuM是最近开发的R包贝叶斯聚类使用Dirichlet过程混合模型。该模型是回归模型的替代模型,通过聚类成员关系将响应向量与协变量数据非参数化地联系起来。该软件包支持Bernoulli、Binomial、Poisson、Normal和分类响应,以及Normal和离散协变量。此外,可以对响应进行预测,并处理协变量的缺失值。几个采样器和标签切换移动与诊断工具一起实施,以评估收敛。还提供了一些用于输出后处理的R函数。除了拟合混合物之外,还可能需要确定哪些协变量主动驱动混合物成分。这在包中作为变量选择实现。
2014-04-25 stat.CO
Distributions of linear functionals of two parameter Poisson--Dirichlet random measures
本文给出了两参数Poisson-Dirichlet过程$\operatorname {PD}(α,θ)$的线性泛函的概率分布的精确表达式。我们得到了这些泛函的密度函数的精确形式的分布结果。此外,通过利用Poisson-Dirichlet过程的均值与适当的Dirichlet过程的均值之间的对应关系,获得了几个有趣的积分等式。最后证明了混合表示的一些分布特征。文中所含结果的实用性是通过一些说明性的例子来证明的。事实上,我们的公式是相关的占领时间的现象与布朗运动和更一般的贝塞尔过程,以及贝叶斯非参数统计中产生的模型。
2008-03-31 math.PR math.ST stat.TH
Posterior concentration rates for empirical Bayes procedures, with applications to Dirichlet Process mixtures
在本文中,我们提供了一般的条件来检查模型和先验数据依赖先验(或经验贝叶斯方法)的后验集中率。我们的目标是提供与Ghosal和van der Vaart(2007 a)的开创性论文中提供的条件接近的条件。然后,我们将一般定理应用到两个不同的设置:使用Dirichlet过程混合高斯随机变量的密度估计与基础措施取决于一些经验量和估计的强度下的Aalen模型的计数过程。非齐次泊松过程的模拟研究也说明了我们的结果。在前一种情况下,我们也得到一些结果的估计的混合密度和反卷积问题。在后者中,我们提供了一个一般定理后的浓度率计数过程与Aalen乘法强度与先验不依赖于数据。
2014-06-17 math.ST stat.CO stat.TH
Conjugacy properties of time-evolving Dirichlet and gamma random measures
我们将Dirichlet过程和Gamma随机测度先验下的后验分布的经典特征推广到动态框架。本文研究了贝叶斯非参数理论中两类时变过程的间接学习问题:第一类是由Fleming-Viot模型驱动的时变Dirichlet过程,数据是离散时刻过程状态的随机样本;第二个是由Dawson-Watanabe模型驱动的相关伽马随机测量的集合,并且根据泊松点过程收集数据,其中强度由离散时间的过程状态给出。这两个驱动过程是扩散的离散措施,其支持随时间变化的空间中的值,是固定的和可逆的狄利克雷和伽玛先验分别。一个共同的方法来获得封闭形式的时间边际后验给定的过去和现在的数据。这些被证明属于类的Dirichlet过程和伽马随机措施的两个模型分别有限的混合物,产生共轭这些类的类型,我们考虑的数据。我们提供了明确的结果的参数的混合物成分和混合权重,这是随时间变化的,并推动混合物对各自的先验在没有进一步的数据。显式算法提供递归计算的混合物的参数。我们的结果是基于信号的射影性质和投影的某些对偶性质。
2016-08-30 math.PR math.ST stat.CO
Conditional Dirichlet Processes and Functional Condition Models
本文研究条件狄利克雷过程在泛函条件模型中的应用,推导参数与分布的后验及两个极限定理,提出计算算法,并证明杰弗里斯替代似然为边际后验极限。
2025-06-19 math.ST stat.TH
Semi-parametric Bayesian change-point model based on the Dirichlet process
在这项工作中,我们介绍了一个半参数贝叶斯变点模型,定义其时间动态作为一个潜在的马尔可夫过程的基础上的狄利克雷过程。我们将变点的数目视为一个随机变量,并在模型拟合过程中对其进行估计。后验推理进行了使用马尔可夫链蒙特卡罗算法的基础上边缘化的版本所提出的模型。该模型是用模拟的例子和两个真实的数据集,即煤矿灾害,这是一个广泛使用的数据集说明的目的,和室内氡记录的数据集。通过仿真实例,我们证明了该模型能够恢复参数和变点的数量,并将我们的结果与最先进的模型进行了比较,在变点识别方面有了明显的改善。对煤矿开采灾害和氡数据的分析结果与以往文献一致。
2018-08-24 stat.CO
Multilinear Dirichlet Processes
Ainstein AI(安斯坦人工智能)
依赖狄利克雷过程(DDP)已被广泛应用于模型的数据分布的措施,以某种方式相关的集合。另一方面,近年来,机器学习和数据采掘中越来越多的研究努力致力于处理涉及来自两个或更多个因素的交互的数据。然而,很少有研究者使用DDP技术来处理多因素调制所带来的数据异质性关系。在本文中,我们提出了一种新的技术,多线性狄利克雷过程(MLDP),通过结合DP与最先进的因子分析技术,多线性因子分析器(MLFA)来构建DDP。我们已经在不同应用的真实数据集上评估了MLDP,并取得了最先进的性能。
2021-06-16 cs.LG stat.ML