Nonparametric Deconvolution Models
Duke University（杜克大学）；Princeton University（普林斯顿大学）
我们描述了非参数反卷积模型（NDM），一个家庭的贝叶斯非参数模型的收集数据，其中每个观察是平均的异质粒子的功能。例如，这些类型的数据可以在选举中找到，我们观察每个候选人或投票措施（特征）的个人公民投票（粒子）的选区级投票计数（观察），其中每个选民都是特定选民群体或人口统计（因素）的一部分。与分层狄利克雷过程一样，NDM依赖于两层狄利克雷过程来解释具有未知数量潜在因子的数据;每个观测值都被建模为这些潜在因子的加权平均值。与现有的模型不同，NDM恢复了每个观测的因子分布如何局部变化。这使得NDM不仅可以将每个观测值反卷积为其组成因子，还可以描述每个观测值的特定因子分布如何在观测值之间变化，以及如何偏离相应的全局因子。我们提出了变分推理技术，这一系列的模型，并研究其性能的模拟数据和投票数据从加利福尼亚州。我们表明，包括局部因素，提高了全球因素的估计，并提供了一个新的支架探索数据。
2020-03-17 cs.LG stat.ML
Learning beyond Predefined Label Space via Bayesian Nonparametric Topic Modelling
Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在现实世界的机器学习应用程序中，测试数据可能包含一些有意义的新类别，这些类别在标记的训练数据中尚未出现。为了同时识别新的数据类别并为实际来自已知类别的数据分配最合适的类别标签，现有模型假设未知新类别的数量是预先指定的，尽管很难提前确定。在本文中，我们提出了一个贝叶斯非参数主题模型来自动推断这个数字，基于层次Dirichlet过程和潜在Dirichlet分配的概念。精确推理在我们的模型是棘手的，所以我们提供了一个有效的折叠吉布斯抽样算法的近似后验推理。在不同文本数据集上的大量实验表明：（a）与使用预先指定的新类别真实数量的参数方法相比，所提出的非参数方法可以产生相当的性能;（b）当新类别的确切数量不可用时，即参数方法对新类别只有一个粗略的概念，我们的方法具有明显的性能优势。
2019-10-10 cs.LG stat.ML
Analytical Results for Two Exponential Family Distributions in Hierarchical Dirichlet Processes
Tsinghua University（清华大学）
本文研究了HDP框架中泊松和正态分布的解析结果，推导了对应的共轭对的闭式表达式，扩展了HDP的应用范围。
2026-02-13 cs.LG
A survey of non-exchangeable priors for Bayesian nonparametric models
Dartmouth College（达特茅斯学院）；Carnegie Mellon University（卡内基梅隆大学）
相依非参数过程扩展了测度上的分布，如狄利克雷过程和贝塔过程，以给出测度集合上的分布，通常由某些协变量空间中的值索引。当汇率假设不成立时，这样的模型是合适的先验，相反，我们希望我们的模型随着一些协变量的变化而变化。自MacEachern [1]提出相依非参数过程的概念以来，统计学和机器学习文献中提出并使用了许多模型。这些模型中有许多表现出潜在的相似性，我们希望对这些相似性的理解将有助于选择适当的先验，开发新模型和利用推理技术。
2012-11-20 cs.LG stat.ML
S2: An Efficient Graph Based Active Learning Algorithm with Application to Nonparametric Classification
Carnegie Mellon University（卡内基梅隆大学）；University of Wisconsin, Madison（威斯康星大学麦迪逊分校）
本文研究了图上二值标签预测的主动学习问题。我们引入了一个简单的和标签效率的算法称为S2的这项任务。在每一步中，S2根据图的结构和所有先前收集的标签选择要标记的顶点。具体来说，S2查询将任何一对相反标记的顶点之间的 * 最短最短 * 路径平分的顶点的标签。我们提出了一个理论估计的查询S2的数量需要在一个新的参数化的二进制函数图的复杂性。我们还提出了实验结果，证明了真实和合成数据上的S2的性能。虽然其他基于图的主动学习算法在实践中表现出了希望，我们的算法是第一个既有良好的性能和理论保证。最后，我们展示了S2算法的影响，非参数主动学习的理论。特别是，我们证明了S2实现了一个重要的非参数分类问题类的最优超额风险附近的极大极小。
2015-06-29 cs.LG stat.ML
Data-Driven DRO and Economic Decision Theory: An Analytical Synthesis With Bayesian Nonparametric Advancements
本文提出一种融合数据驱动分布鲁棒优化与经济决策理论的统一框架，并利用贝叶斯非参数方法（如DP和HDP）构建新DRO模型，通过过滤异常观测提升预测准确性与稳定性。
2025-02-26 cs.LG stat.ML
Nonparametric Bayes Pachinko Allocation
University of Massachusetts（马萨诸塞大学）；Princeton University（普林斯顿大学）
最近的进展，主题模型探索了复杂的结构化分布来表示主题相关性。例如，弹球盘分配模型（PAM）使用有向无环图（DAG）捕获主题之间的任意、嵌套和可能稀疏的相关性。虽然PAM比以前的模型（如潜在狄利克雷分配（LDA））提供了更大的灵活性和更强的表达能力，但它也更难以为特定数据集确定适当的主题结构。在本文中，我们提出了一个非参数贝叶斯先验PAM的基础上的一个变种的分层狄利克雷过程（HDP）。虽然HDP可以捕获由嵌套数据结构定义的主题相关性，但它不能从非结构化数据中自动发现这种相关性。通过假设PAM的基于HDP的先验，我们能够了解主题的数量以及主题之间的相关性。我们在合成和真实世界的文本数据集上评估了我们的模型，并表明非参数PAM在不手动调整主题数量的情况下实现了与PAM最佳性能相匹配的性能。
2012-06-20 cs.IR cs.LG stat.ML
Spectral Methods for Nonparametric Models
Carnegie Mellon University（卡内基梅隆大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Amazon Web Services（亚马逊云服务）
非参数模型是通用的，虽然计算昂贵，建模混合模型的工具。在本文中，我们介绍了两个最流行的非参数模型的谱方法：印度巴菲特过程（IBP）和分层Dirichlet过程（HDP）。我们表明，使用谱方法的非参数模型的推断计算和统计效率。特别是，我们推导出了IBP和HDP的低阶矩，提出了两种模型的谱算法，并为算法提供了重建保证。对于HDP，我们进一步表明，应用分层模型的数据集与分层结构，可以解决与广义谱HDP，产生更好的解决方案，平面模型的似然性能。
2017-03-31 cs.LG stat.ML
A Sufficient Statistics Construction of Bayesian Nonparametric Exponential Family Conjugate Models
The Ohio State University（俄亥俄州立大学）；Boston University（波士顿大学）
无穷维空间上的共轭分布对在统计学习理论中很突出，特别是由于贝叶斯非参数方法广泛应用于许多模型和应用。在学习社区中，现有的许多文献都集中在具有某种形式的计算上易处理的共轭性的过程上，例如beta和gamma过程（以及通过归一化的Dirichlet过程）。对于这些过程，共轭性的证明和必要的推导后验密度参数的明确计算公式是特质的随机过程的问题。因此，贝叶斯非参数模型目前可用于有限数量的共轭对，例如狄利克雷多项式和贝塔伯努利过程对。在上述每种情况下，似然过程都属于离散指数族分布。从贝叶斯非参数共轭模型的已知情况中排除连续似然分布是研究人员工具箱中的一个差异。在本文中，我们首先解决的问题，获得一个一般的建设先验分布在无限维空间具有分布性质服从共轭。其次，我们桥接离散和连续的可能性之间的鸿沟，说明了一个典型的建设随机过程的Levy测量密度是从正指数家庭，然后证明这些过程实际上形成的前，可能性，和后的共轭家庭。我们的规范建设包括已知的后验密度参数的计算公式的情况下，其中的可能性是从一个离散分布属于一个指数家庭。
2016-01-10 cs.LG stat.ML
Hilbert Space Embedding for Dirichlet Process Mixtures
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
本文通过Sethuraman的一个破棒构造，提出了Dirichlet过程混合模型的一个Hilbert空间嵌入.虽然贝叶斯非参数提供了一个强大的方法来构建一个先验，避免了需要明确指定模型的大小/复杂性，一个精确的推理往往是棘手的。另一方面，频率论方法，如核机器，它遭受的模型选择/比较问题，往往受益于有效的学习算法。本文以Dirichlet过程混合模型为例，探讨了将两个世界的优点结合起来的可能性。
2012-10-16 cs.LG stat.ML
Dirichlet Process Mixtures of Trees with Gaussian Process Splits: A Bayesian Nonparametric Framework with Posterior Contraction Rate
Indian Statistical Institute（印度统计研究所）
提出一种基于狄利克雷过程先验的贝叶斯非参数回归树混合模型，利用高斯过程分裂规则统一多种树方法，实现数据驱动的集成规模选择，并证明后验收敛率，在多个基准和应用中优于现有方法。
2026-09-24 cs.LG math.ST stat.ME
Bayesian Nonparametrics Meets Data-Driven Distributionally Robust Optimization
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文结合贝叶斯非参数与平滑模糊厌恶偏好，提出数据驱动的分布鲁棒优化准则，与岭回归和LASSO相关，具备统计保证和可处理近似，适用于多种任务。
2024-11-07 cs.LG stat.ML
Nonparametric Sparse Tensor Factorization with Hierarchical Gamma Processes
University of Utah（犹他大学）
我们提出了一个稀疏观测张量的非参数因子分解方法。稀疏性并不意味着零值条目是大量的或占优势的。相反，它意味着观察到的条目非常少，随着张量的增长甚至更少;这在实践中是普遍存在的。与已有的工作相比，我们的模型不仅利用了观察到的入口指数的结构信息，而且提供了额外的可解释性和灵活性-它可以同时估计一组关于张量节点内在属性的位置因子，以及另一组反映其与他人互动时的外向活动的社交性因子;用户可以自由选择这两类因素之间的折衷。具体来说，我们使用分层Gamma过程和泊松随机测度来构造一个张量值过程，该过程可以自由地对两种类型的因子进行采样以生成张量，并且始终保证渐近稀疏性。然后，我们规范化张量过程，以获得分层Dirichlet过程采样每个观察到的条目索引，并使用一个高斯过程采样的条目值作为一个非线性函数的因素，以便捕获的稀疏结构属性和复杂的节点关系。为了有效的推理，我们使用Dirichlet过程的有限样本分区，密度变换和随机功能，开发一个随机变分估计算法。我们证明了我们的方法在几个基准数据集的优势。
2021-11-03 cs.LG stat.ML
Subset Labeled LDA for Large-Scale Multi-Label Classification
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
标记潜在狄利克雷分配（LLDA）是标准无监督潜在狄利克雷分配（LDA）算法的扩展，用于解决多标记学习任务。以前的工作表明，它的性能与其他最先进的多标签方法相当。尽管如此，随着标签集大小的增加，LLDA遇到了可伸缩性问题。在这项工作中，我们引入了Subset LLDA，标准LLDA算法的一个简单变体，不仅可以有效地扩展到数十万个标签的问题，而且还可以改进LLDA的最新技术。我们在八个数据集上进行了广泛的实验，标签集大小从数百到数十万，将我们提出的算法与以前提出的LLDA算法（Prior-LDA，Dep-LDA）以及极端多标签分类的最新技术进行比较。实验结果表明，该方法与其他LLDA算法相比具有稳定的优势，与极端多标签分类算法相比具有竞争力。
2017-09-16 cs.LG stat.ML
Distributed, partially collapsed MCMC for Bayesian Nonparametrics
Princeton University（普林斯顿大学）
贝叶斯非参数（BNP）模型提供了用于发现数据集中潜在特征的优雅方法，但此类模型中的推理可能很慢。我们利用的事实，完全随机措施，常用的模型，如狄利克雷过程和β-伯努利过程可以表示为，可分解成独立的子措施。我们使用这种分解的潜在措施划分成一个有限的措施，只包含实例化的组件，和一个无限的措施，包含所有其他组件。然后，我们选择不同的推理算法的两个组件：未塌陷的采样器混合以及有限的措施，而塌陷的采样器混合以及无限的，稀疏占用的尾巴。由此产生的混合算法可以应用于广泛的一类模型，并可以很容易地分布，以允许可扩展的推理，而不牺牲渐近收敛保证。
2020-03-04 cs.LG stat.ML
Disentangled Sticky Hierarchical Dirichlet Process Hidden Markov Model
Columbia University（哥伦比亚大学）；Jane Street（简街）
层次狄利克雷过程隐马尔可夫模型（HDP-HMM）作为经典隐马尔可夫模型的自然贝叶斯非参数扩展，在序列和时间序列数据学习中得到了广泛的应用。为了增强HDP-HMM的自持续概率，提出了一种粘性扩展。然而，粘性HDP-HMM将自持续先验和转换先验的强度纠缠在一起，限制了其表达能力。在这里，我们提出了一个更一般的模型：解纠缠粘性HDP-HMM（DS-HDP-HMM）。我们开发了新的吉布斯抽样算法，在这个模型中的有效推理。我们表明，解纠缠粘性HDP-HMM优于粘性HDP-HMM和HDP-HMM的合成和真实数据，并应用新的方法来分析神经数据和分段行为视频数据。
2020-06-22 cs.LG stat.ML
Detecting Spacecraft Anomalies Using LSTMs and Nonparametric Dynamic Thresholding
NASA Jet Propulsion Laboratory（美国国家航空航天局喷气推进实验室）；California Institute of Technology（加州理工学院）
随着航天器发回越来越多的遥测数据，需要改进异常检测系统，以减轻操作工程师的监测负担并降低操作风险。目前的航天器监测系统仅针对异常类型的子集，并且由于涉及规模和复杂性的挑战，通常需要昂贵的专业知识来开发和维护。我们证明了长短期记忆（LSTMs）网络，一种递归神经网络（RNN），在克服这些问题，使用专家标记的遥测异常数据从土壤水分主动被动（SMAP）卫星和火星科学实验室（MSL）漫游车，Currency。我们还提出了一个补充的无监督和非参数异常阈值的方法，在试点实施的异常检测系统SMAP，并提供误报缓解策略以及其他关键的改进和发展过程中吸取的经验教训。
2018-06-06 cs.LG stat.ML
Probabilistic Trajectory Segmentation by Means of Hierarchical Dirichlet Process Switching Linear Dynamical Systems
Technische Universität Darmstadt（达姆施塔特工业大学）
使用运动基元库是使机器人能够解决更复杂任务的有效手段。为了建立这些运动库，目前的算法需要事先分割的演示轨迹。一种有前途的方法是将轨迹建模为由一组切换线性动态系统生成，并通过检查切换动态特征的过渡点来推断有意义的分割。关于学习，采用非参数贝叶斯方法，利用吉布斯采样器。
2020-03-01 cs.LG cs.RO stat.ML
Hierarchical Dirichlet Scaling Process
KAIST（韩国科学技术院）
我们提出了\textit{hierarchical Dirichlet scaling process}（HDSP），贝叶斯非参数混合隶属度模型。HDSP推广了层次狄利克雷过程（HDP）来建模语料库中的元数据和混合成分之间的相关结构。我们构建的HDSP的基础上的归一化伽玛表示的狄利克雷过程，这种结构允许将一个缩放函数，控制的成员资格概率的混合物组件。我们开发了两种缩放方法来证明不同的建模假设可以在HDSP中表达。我们还推导出相应的近似后验推理算法使用变分贝叶斯。通过对新闻通讯、医学期刊文章、会议论文集和产品评论数据集的实验，我们表明HDSP的预测性能优于标记LDA、部分标记LDA和作者主题模型，而负面评论分类性能优于监督主题模型和SVM。
2015-02-11 cs.LG
Borrowing strengh in hierarchical Bayes: Posterior concentration of the Dirichlet base measure
University of Michigan（密歇根大学）
本文研究了Dirichlet测度的基概率测度在给定采样Dirichlet过程的观测值时，当观测值个数趋于无穷大时的后验集中性态.基础测量本身被赋予另一个狄利克雷先验，一种被称为分层狄利克雷过程的构造（Teh等人[J. Amer. Statist. 101（2006）1566-1581]）。收敛速度是在传输距离中建立的（即，Wasserstein度量）在各种条件下对真基测度的支持几何的研究。作为该理论的结果，我们证明了在多组数据的推断中“借用力量”的好处-这是一种经常被用来激励分层建模的强大洞察力。在某些设置中，由于潜在的层次结构，效率的增益可以是显著的，从标准的非参数速率提高到参数的收敛速率。开发的工具包括运输距离的非参数贝叶斯层次的随机措施，存在的狄利克雷措施的测试，和几何性质的支持狄利克雷措施。
2016-03-24 cs.LG math.PR math.ST
Nonparametric Bayesian Topic Modelling with the Hierarchical Pitman-Yor Processes
The Australian National University（澳大利亚国立大学）；Data61/NICTA；Monash University（莫纳什大学）；Duke University（杜克大学）
Dirichlet过程及其扩展Pitman-Yor过程是以概率分布为参数的随机过程。这些过程可以堆叠起来形成分层非参数贝叶斯模型。在这篇文章中，我们提出了有效的方法来使用这些过程在这个层次的背景下，并将其应用到文本分析的潜变量模型。特别是，我们提出了一个通用的框架来设计这些贝叶斯模型，这被称为主题模型在计算机科学界。然后，我们提出了一个特定的非参数贝叶斯主题模型从社交媒体的文本建模。我们在这篇文章中关注tweets（Twitter上的帖子），因为它们易于访问。我们发现，我们的非参数模型比现有的参数模型在拟合优度和现实世界中的应用。
2016-09-22 cs.CL cs.LG stat.ML
Sample Complexity of Nonparametric Semi-Supervised Learning
Carnegie Mellon University（卡内基梅隆大学）
我们研究了半监督学习（SSL）的样本复杂性，并引入了新的假设的基础上从未标记的数据学习的混合模型和真正的混合模型（未知）类条件分布引起的不匹配。在这些假设下，我们建立了一个$Ω(K\log K)$标记的样本复杂性界，而不施加参数假设，其中$K$是类的数量。我们的研究结果表明，即使在非参数设置，它是可以学习一个接近最佳的分类器，只使用几个标记的样本。不同于以往的理论工作，侧重于二进制分类，我们认为一般的多类分类（$K>2$），这需要解决一个困难的排列学习问题。这种排列定义了一个分类器，其分类误差由混合措施之间的Wasserstein距离控制，我们提供了有限样本的结果，表征了这种分类器的过度风险的行为。最后，我们描述了三种算法计算这些估计的基础上连接到二分图匹配，并进行实验，以说明的优越性的MLE的多数票估计。
2018-09-10 cs.AI cs.LG math.ST
Inferring Hierarchical Mixture Structures: A Bayesian Nonparametric Approach
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学）；Maynooth University（梅努斯大学）
本文主要研究数据集的层次非重叠聚类问题。在这样的聚类中，每个数据项与恰好一个叶节点相关联，并且每个内部节点与存储在其下的子树中的所有数据项相关联，使得层次结构的每个级别对应于数据集的分区。提出了一种新的贝叶斯非参数方法，该方法结合了嵌套中餐厅过程（nCRP）和分层狄利克雷过程（HDP）。与其他现有的贝叶斯方法相比，我们的解决方案处理的数据与复杂的潜在的混合特征，以前没有在文献中探索。我们讨论的模型和推理过程的细节。此外，在三个数据集上的实验表明，与现有的算法相比，我们的方法取得了坚实的经验结果。
2021-05-25 cs.AI cs.LG stat.ML
Gamma Processes, Stick-Breaking, and Variational Inference
The Ohio State University（俄亥俄州立大学）
虽然机器学习中的大多数贝叶斯非参数模型都集中在狄利克雷过程、贝塔过程或它们的变体上，但伽马过程最近已经成为一种有用的非参数先验。目前的推理方案涉及伽马过程的模型仅限于MCMC为基础的方法，这限制了它们的可扩展性。在本文中，我们提出了一个变分推断框架，涉及伽玛过程先验模型。我们的方法是基于一个新的坚持打破建设性的定义的伽玛过程。我们证明了这个棒断裂过程的正确性，通过使用的伽马过程作为一个完全随机的措施（CRM）的特征，我们明确推导出我们的建设使用泊松过程机器的速率测量。我们还推导出误差界截断的无限过程所需的变分推断，类似于截断分析的基础上的狄利克雷和β过程的其他非参数模型。然后，我们的表示是用来推导出一个特定的贝叶斯非参数潜在的结构制定被称为无限伽玛泊松模型，其中的潜变量是从一个伽玛过程之前与泊松似然的变分推断算法。最后，我们提出的结果，我们的算法上的非负矩阵分解任务的文档语料库，并表明，我们比较有利的抽样为基础的技术和变分方法的基础上β-伯努利先验。
2014-10-04 cs.AI cs.LG stat.ML
Fast nonparametric clustering of structured time-series
University of Sheffield（谢菲尔德大学）；University of Manchester（曼彻斯特大学）
在本出版物中，我们结合了两个贝叶斯非参数模型：高斯过程（GP）和狄利克雷过程（DP）。我们在GP模型中的创新是引入GP先验的变化，使我们能够对结构化时间序列数据进行建模，即包含我们希望对组间和组内变异性进行建模的组的数据。我们在DP模型中的创新是一种新的快速折叠变分推理过程的实现，它使我们能够比标准VB方法更快地优化变分逼近。在生物时间序列应用中，我们展示了我们的模型如何更好地捕捉数据的显著特征，从而与现有的生物分类保持更好的一致性，而相关的推理算法提供了基于EM的变分推理的两倍加速。
2014-04-14 cs.CV cs.LG stat.ML
Quasi-Bayesian Nonparametric Density Estimation via Autoregressive Predictive Updates
University of Oxford（牛津大学）；Novo Nordisk（诺和诺德）；University College London（伦敦大学学院）
贝叶斯方法是一种流行的选择，统计推断在小数据制度，由于正则化效应引起的先验。在密度估计的背景下，标准的非参数贝叶斯方法是针对Dirichlet过程混合模型的后验预测。通常，后验预测的直接估计是棘手的，因此方法通常求助于近似后验分布作为中间步骤。然而，最近发展的准贝叶斯预测copula更新，使得有可能进行易于处理的预测密度估计，而不需要后验近似。虽然这些估计在计算上是有吸引力的，但它们往往在非光滑数据分布上挣扎。这是由于提出的copula更新所依据的似然模型的相对限制性形式。为了解决这个问题，我们考虑了一个贝叶斯非参数模型与自回归似然分解和高斯过程先验。虽然这样的模型的预测更新通常是棘手的，我们得到一个准贝叶斯预测更新，实现国家的最先进的结果在小数据制度。
2023-02-18 cs.LG stat.ME stat.ML
Bayesian nonparametric Plackett-Luce models for the analysis of preferences for college degree programmes
University of Oxford（牛津大学）；University College Dublin（都柏林大学学院）
在本文中，我们提出了一个贝叶斯非参数模型的聚类部分排名数据。我们首先开发一个贝叶斯非参数扩展流行的Plackett-Luce选择模型，可以处理无限数量的选择项。我们的框架是基于随机原子措施的理论，事先指定的一个完全随机的措施。我们对给定数据的后验分布进行了拟合，并导出了一个简单有效的Gibbs抽样器用于后验模拟。然后，我们开发了一个Dirichlet过程混合扩展我们的模型，并将其应用于调查爱尔兰中学毕业生之间的大学学位课程的偏好集群。建立了对学位课程有类似偏好的申请人集群，我们确定第三级机构的主题和地理位置符合这些集群。
2014-08-01 cs.LG stat.ME stat.ML
Inference for multiple object tracking: A Bayesian nonparametric approach
Arizona State University（亚利桑那州立大学）
近年来，多目标跟踪（MOT）问题引起了人们的关注，并在各个研究领域得到了广泛的研究。然而，一些具有挑战性的问题，包括时间相关的基数，无序的测量集，和对象标记仍然不清楚。本文提出了一种稳健的非参数方法来对MOT问题的状态先验进行建模。这些模型被证明是更灵活和强大的现有方法相比。特别是，整体方法估计时间相关的对象基数，提供对象标记，并识别对象相关的测量。此外，我们提出的框架动态竞争的出生/死亡和生存的对象通过依赖的非参数过程。我们提出了推理算法，证明了实用程序的依赖非参数模型的跟踪。我们采用蒙特卡罗采样方法来证明所提出的算法有效地学习对象的轨迹从噪声测量。计算结果显示了所提出的算法的性能和比较，不仅在彼此之间，而且在所提出的算法和标记的多伯努利跟踪器之间。
2019-09-16 cs.LG math.ST stat.ML
Nonparametric Spherical Topic Modeling with Word Embeddings
MIT（麻省理工学院）；Harvard University（哈佛大学）
传统的主题模型没有考虑语言中的语义相关性。最近的分布表示的话表现出语义一致性的方向度量，如余弦相似性。然而，现有的主题模型中使用的分类或高斯观测分布都不适合利用这种相关性。在本文中，我们建议使用冯米塞斯-费舍尔分布模型的密度字在一个单位球。这种表示非常适合于方向数据。我们使用分层狄利克雷过程为我们的基本主题模型，并提出了一个有效的推理算法的基础上随机变分推理。该模型使我们能够自然地利用词嵌入的语义结构，同时灵活地发现主题的数量。实验表明，我们的方法优于竞争对手的方法在两个不同的文本语料库的主题一致性，同时提供有效的推理。
2016-04-01 cs.CL cs.IR cs.LG
Powered Dirichlet Process for Controlling the Importance of "Rich-Get-Richer" Prior Assumptions in Bayesian Clustering
Université de Lyon（里昂大学）；ERIC EA 3083
贝叶斯聚类中最常用的先验之一是Dirichlet先验。它可以被描述为一个中国餐馆的过程。这个过程允许在划分数据集时对聚类数进行非参数估计。它的关键特征是“富-更富”属性，该属性假设集群具有线性依赖于人口的先验概率。在本文中，我们表明，这种先验并不总是最好的选择模型数据。我们从狄利克雷-多项分布的修改版本中推导出动力中餐厅过程来回答这个问题。然后，我们开发它的一些基本属性（预期的集群数量，收敛性）。与这方面的最新努力不同，这一新的提法允许直接控制“富-更富”优先的重要性。
2021-04-26 cs.DM cs.LG
