Exchangeable Sequence Models Quantify Uncertainty Over Latent Concepts
Columbia University(哥伦比亚大学)
本研究提出可交换序列模型,通过回归De Finetti经典预测视角实现对潜在概念的不确定性量化,证明其等价于贝叶斯模型,还提出数据增强等编码可交换性的方法。
2024-11-28 cs.LG stat.ML
On the extendibility of partially and Markov exchangeable binary sequences
在[Fortini等人,Stoch. Proc.Appl.100(2002),147- 165]证明了Diaconis和Freedman意义下的常返Markov可交换过程本质上是de Finetti意义下的部分可交换过程.在有限序列的情况下,不存在这样的等价性。我们分析了有限部分可交换和有限马尔可夫可交换二元序列,并在这两种情况下制定了可扩展的充要条件。
2009-10-06 math.PR math.ST stat.TH
Computable de Finetti measures
证明了实随机变量可交换序列的de Finetti定理的一个可计算版本。其结果是,可交换的随机过程表示的概率函数编程语言可以被自动重写为不修改非局部状态的过程。一路上,我们证明了单位区间上的分布是可计算的,当且仅当它的矩是一致可计算的。
2011-12-19 cs.LO cs.PL math.LO
Causal de Finetti: On the Identification of Invariant Causal Structure in Exchangeable Data
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学)
本文提出因果 de Finetti 定理,证明可交换数据蕴含更丰富的条件独立性结构,并据此开发算法,通过条件独立性检验从独立因果机制生成过程中唯一识别因果结构,适用于多环境数据。
2024-05-24 cs.LG math.ST stat.ME
Truncated Simulation and Inference in Edge-Exchangeable Networks
边可交换概率网络模型将边生成为i.i.d.~序列的离散测量,提供了一个简单的手段统计推断潜在的网络属性。该度量通常使用贝叶斯非参数(BNP)离散先验的实现的自积来构造;但与标准BNP模型不同,自积积测度先验不与可能性共轭,阻碍了精确模拟和推理算法的发展。通过有限截断的离散测量的近似是一个简单的替代方案,但会引起未知的近似误差。在本文中,我们开发的方法,前向模拟和后验推理的随机自乘积测度模型的截断的基础上,并提供理论保证的质量的截断水平的函数的结果。我们提出的技术是通用的,并扩展到更广泛的类离散贝叶斯非参数模型。
2021-09-13 math.ST stat.TH
Predictive Characterization of Mixtures of Markov Chains
预测构造是一种强有力的方法,可以用某些形式的不变性来表征随机过程的概率律,例如交换律或马尔可夫交换律。当de Finetti表示定理可用时,预测表征隐含地定义了先验分布,从对可观测量的假设开始;此外,它通常有助于设计有效的计算策略。本文给出了离散值过程X的预测分布序列刻画马氏可交换概率律的充要条件。在常返性下,马氏可交换过程是马尔可夫链的混合.因此,我们的研究结果有助于检查时,一个预测方案的特点是事先贝叶斯推断的一个马尔可夫链的未知转移矩阵。我们的预测条件在某种意义上是马尔可夫交换的最小充分条件,我们还提供了预测条件的复发。我们说明了它们的应用在相关的例子,从文献和小说的建设。
2015-11-13 math.PR stat.ME
Relational exchangeability
关系可交换结构是一种随机组合结构,其规则相对于重新标记其关系而不是其元素是不变的。除了可交换随机划分,例子包括边可交换随机图和超图,路径可交换过程,以及一系列其他在统计应用中出现的网络结构。我们证明了一般类关系可交换结构的de Finetti型结构定理。
2017-04-28 math.ST stat.TH
Exchangeable lower previsions
我们推广了de Finetti的[Ann.Inst.H. Poincaré 7(1937)1- 68]的概念交换到有限和可数序列的变量,当一个主题的信念,他们的模型使用连贯的较低的预测,而不是(线性)预测。我们推导出表示定理在有限和可数的情况下,在采样没有和更换,分别。
2009-09-07 math.PR math.ST stat.TH
Exchangeable lower previsions
我们扩展了de Finetti(1937)的概念交换有限和可数序列的变量,当一个主题的信念对他们建模使用连贯的较低的预测,而不是(线性)预测。我们证明表示定理,在有限和可数的情况下,在采样没有和更换,分别。我们还建立了可交换序列的样本均值的收敛性结果。最后,我们研究并解决了可交换自然扩张问题:如何找到最保守的(逐点最小的)一致的和可交换的下预测,它优于一个给定的下预测。
2008-01-08 math.PR math.ST stat.ME
De Finetti's Theorem in Categorical Probability
我们提出了一种新的证明de Finetti定理的特点置换不变的概率测度的无穷序列的变量,所谓的可交换措施。证明是措辞的语言马尔可夫类别,提供了一个抽象的分类框架的概率和信息流。论证的图解和抽象性质使证明直观且易于理解。我们还表明如何通常的测量理论版本的德Finetti的定理标准Borel空间是一个例子,这一结果。
2021-09-16 cs.LO math.CT math.PR
Rates of convergence for Gibbs sampling in the analysis of almost exchangeable data
受de Finetti的几乎可交换阵列表示定理的启发,我们希望从密度与$\exp(-A^2\sum_{i<j}c_{ij}(p_i-p_j)^2)$成比例的分布中采样$\mathbf p \in [0,1]^d$,其中$A$很大,$c_{ij}$是非负权重。我们分析的收敛速率的坐标吉布斯采样器用于模拟从这些措施。我们发现,对于每个非零固定矩阵$C=(c_{ij})$,和足够大的$A$,混合发生在$Θ(A^2)$步骤在一个合适的Wasserstein距离。下界是明确的,并取决于矩阵$C$通过几个相关的光谱参数。
2020-12-21 math.PR math.ST stat.TH
Exchangeable random permutations with an application to Bayesian graph matching
University of Bergamo(贝加莫大学);North Carolina State University(北卡罗来纳州立大学);University of Maryland, College Park(马里兰大学帕克分校)
本文提出了一种基于可交换随机排列的贝叶斯图匹配框架,结合新先验模型和节点-wise阻塞吉布斯采样器,实现对排列结构的建模与不确定性量化。
2026-02-02 math.ST stat.ME stat.TH
Generalizing the de Finetti--Hewitt--Savage theorem
本研究利用非标准分析工具,将de Finetti–Hewitt–Savage定理推广至任意豪斯多夫空间上的Radon分布可交换序列,还给出非标准分析入门介绍及Prokhorov定理的新推广。
2025-03-20 math.LO math.PR math.ST
Finite and infinite weighted exchangeable sequences
Columbia University(哥伦比亚大学)
针对分布偏移下的预测推断问题,该研究提出两种方法近似有限加权可交换序列,推导相关界并扩展有限可交换序列的已有结果,还得到无限加权可交换序列的德菲内蒂定理版本。
2026-08-12 math.ST stat.TH
Restricting exchangeable nonparametric distributions
具有无限多列的可交换矩阵上的分布,如印度抖振过程,在构建非参数潜变量模型时很有用。然而,由这样的模型暗示的在由每个数据点展示的特征的数量上的分布可能不太适合于许多建模任务。本文提出了一类可交换的非参数先验,它是通过限制已有模型的定义域而得到的。这样的模型允许我们指定每个数据点的特征数量的分布,并且可以在原始分布没有很好地建模特征数量的数据集上实现更好的性能。
2012-09-05 stat.ME stat.ML
Grand canonical ensembles of sparse networks and Bayesian inference
最大熵网络集成在稀疏网络拓扑建模和解决具有挑战性的推理问题方面非常成功。然而,迄今为止提出的稀疏最大熵网络模型具有固定的节点数量,并且通常不可交换。在这里,我们考虑可交换网络的层次模型在稀疏的限制,即与链接的总数与节点的总数线性缩放。该方法是巨正则的,即网络的节点数不是先验固定的:它是有限的,但可以是任意大的。通过这种方式,巨正则网络系综规避了处理无限稀疏可交换网络的困难,根据Aldous-Hoover定理,这些网络必须为零。该方法可以处理具有给定度分布的网络,也可以处理具有给定潜变量分布的网络。当只有一个子图所引起的一个子集的节点是已知的,该模型允许贝叶斯估计的网络规模和程度序列(或序列的潜变量)的整个网络,可用于网络重建。
2022-04-26 cond-mat.dis-nn cs.SI math.ST
Composite likelihood inference in a discrete latent variable model for two-way "clustering-by-segmentation" problems
我们考虑一个离散的潜在变量模型的双向数据阵列,它允许一个同时产生集群沿一个数据维度(例如可交换的观测单位或功能)和连续的组,或段,沿其他(例如连续排序的时间或位置)。该模型依赖于一个隐马尔可夫结构,但由于其复杂性,不能完全最大似然估计。因此,我们引入复合似然方法的基础上考虑不同的数据子集。所提出的方法说明了模拟,并与基因组数据的应用程序。
2015-06-27 math.ST stat.ME stat.TH
Beta-Negative Binomial Process and Exchangeable Random Partitions for Mixed-Membership Modeling
采用整数值随机过程-β负二项过程(BNBP)将计数向量划分为潜在随机计数矩阵。由于支配分组数据的可交换随机分区的BNBP的边缘概率分布尚未被开发,BNBP的当前推断必须截断beta过程的原子数。本文引入了一个可交换分区的概率函数来明确地描述BNBP如何将每个组的数据点聚类成一个随机数的可交换分区,这些分区在所有组之间共享。一个完全崩溃的吉布斯采样器开发的BNBP,导致一种新的非参数贝叶斯主题模型,是不同于现有的,具有简单的实现,快速收敛,良好的混合,和国家的最先进的预测性能。
2014-12-31 stat.ME stat.ML
Exchangeable Laws in Borel Data Structures
受统计实践的启发,范畴论术语用于介绍Borel数据结构并在抽象框架中研究交换。推广的de Finetti定理和自然变换被用来目前的功能表示定理(FRT)。后者的证明是基于D.N.Hoover的一个经典结果,该结果为整数的有限元组索引的可交换数组提供了一个函数表示,以及Borel数据结构的普遍性结果。Borel数据结构的一个特殊类别是数组型数据结构,它是使用索引系统的新概念引入的。研究自然变换映射到数组中给出了FRT的显式版本,在示例中,其与众所周知的Aldous-Hoover-Kallenberg型FRT(联合)可交换数组相一致。抽象的“指数算术”提出了统一和概括的技术参数中常见的文献交换理论。最后,范畴论的方法是用来概述如何一个抽象的概念,分离交换可以得出,再次从统计实践的动机。
2022-08-23 math.PR math.ST stat.TH
Architectural and Inferential Inductive Biases For Exchangeable Sequence Modeling
Columbia Business School(哥伦比亚商学院)
本文研究了可交换序列建模的推断与架构归纳偏置,发现多步自回归推断能更好地区分不确定性并提升下游决策性能,同时证明近期定制的Transformer架构无法保证可交换性且劣于标准因果掩码。
2025-03-03 cs.LG stat.ML
Exchangeable Random Measures for Sparse and Modular Graphs with Overlapping Communities
本文提出基于可交换点过程和完全随机测度向量的稀疏网络统计模型,用于建模重叠社区结构,并开发了模拟与后验推断方法,在真实大规模网络上验证了其可解释性和可扩展性。
2017-08-23 cs.SI physics.soc-ph stat.ME
Generalized Species Sampling Priors with Latent Beta reinforcements
Harvard University(哈佛大学);Universita di Pavia(帕维亚大学);University of Kent(肯特大学);MD Anderson Cancer Center(MD安德森癌症中心)
许多流行的贝叶斯非参数先验可以用可交换物种采样序列来表征。然而,在某些应用中,交换机可能不合适。我们引入了一个新的和概率相干的家庭的非交换物种的采样序列,其特征在于一个易于处理的预测概率函数的权重驱动的一系列独立的Beta随机变量。我们比较了它们与Dirichlet过程和双参数Poisson-Dirichlet过程的理论聚类性质。拟议的建设提供了一个完整的联合过程的特点,不同于现有的工作。然后,我们提出了使用这样的过程,如先验分布的分层贝叶斯建模框架,我们描述了一个马尔可夫链蒙特卡洛采样器的后验推理。我们评估的性能的先验和鲁棒性的推断在模拟研究中,提供了一个比较流行的Dirichlet过程的混合物和隐马尔可夫模型。最后,我们开发了一个应用程序,利用阵列CGH数据检测乳腺癌染色体畸变。
2014-08-01 cs.LG math.ST stat.ME
Smoothing Graphons for Modelling Exchangeable Relational Data
University of Technology Sydney(悉尼科技大学);University of New South Wales(新南威尔士大学);Fudan University(复旦大学)
可交换关系数据的建模可以用\textit{graphon theory}来描述。大多数用于可交换关系数据建模的贝叶斯方法都可以通过利用不同形式的图子来归因于这个框架。然而,现有的贝叶斯方法所采用的图子要么是分段常数函数,这是不够灵活的关系数据的准确建模,或者是复杂的连续函数,这会产生沉重的计算成本的推断。在这项工作中,我们引入了一个平滑过程,分段常数图子形成{ \em平滑图子},它允许连续的强度值描述的关系,但没有不切实际地增加计算成本。特别是,我们专注于贝叶斯随机块模型(SBM),并演示如何适应分段常数SBM图子的平滑版本。我们首先提出了集成平滑图子(ISG),它引入一个平滑参数的SBM图子产生连续的关系强度值。然后,我们开发了潜在特征平滑图子(LFSG),它通过引入辅助隐藏标签来分解ISG强度的计算并实现有效的推理,从而改进了ISG。在真实数据集上的实验结果验证了将平滑策略应用于随机块模型的优势,表明平滑图子可以在不增加计算复杂度的情况下大大提高AUC和链接预测精度。
2020-02-25 cs.LG stat.ML
From Partial Exchangeability to Predictive Probability: A Bayesian Perspective on Classification
本文提出一种结合高斯过程先验与狄利克雷过程先验的贝叶斯非参数分类模型,扩展了de Finetti表示定理框架,并在模拟数据上验证其优于标准逻辑回归。
2025-08-22 stat.ME stat.ML
Bayesian Graphical Entity Resolution Using Exchangeable Random Partition Priors
实体解析(记录链接或重复数据删除)是识别和链接数据库中重复记录的过程。在本文中,我们提出了一个贝叶斯图形化的实体决议,链接记录潜在的实体,在链接结构的先验表示是可交换的。首先,我们采用了灵活和听话的先验知识的链接结构,这对应于一类特殊的随机划分模型。其次,我们提出了一个更现实的失真模型的分类/离散记录属性,纠正与标准的命中-未命中模型的逻辑不一致。第三,我们结合hyperpriors来提高灵活性。第四,我们采用了部分塌陷吉布斯采样器的推理加速。使用选择的私人和非私人的数据集,我们调查我们的建模贡献的影响,并比较我们的模型与两个替代贝叶斯模型。此外,我们进行了模拟研究家庭调查数据,在那里我们不同的失真,重复率和数据集的大小。我们发现,我们的模型在各种场景中的表现比替代方案更一致,并且通常达到最高的实体分辨率准确度(F1得分)。开源软件可用于我们提出的方法,我们提供了关于我们的工作和未来方向的讨论。
2023-01-08 cs.DB stat.ME
Dirichlet moment tensors and the correspondence between admixture and mixture of product models
University of Chicago(芝加哥大学);Duke University(杜克大学);University of Michigan(密歇根大学)
本文通过动量张量分解,建立了admixture模型与product mixture模型的等价性,从而在更弱的条件下推导了两类模型的可识别性和后验收缩率。
2025-12-19 math.ST stat.TH
A class of dependent Dirichlet processes via latent multinomial processes
我们描述了一个程序,介绍一般的依赖结构的一组Dirichlet过程。依赖性可以是在一个方向上以定义时间序列,或者是在两个方向上以定义空间依赖性。也可以考虑更多的方向。依赖性是通过一组潜在的过程诱导,并利用Dirichlet和多项式过程之间的共轭性质,以确保该集合的每个元素的边际法是一个Dirichlet过程。依赖性的特点是任何两个元素之间的相关性。当我们使用Dirichlet过程的集合作为先验分布时,我们得到了一个非参数背景下的后验分布。后验预测分布诱导广义Pólya urs定义的部分可交换序列。最后给出了一个数值例子。
2021-10-14 stat.ME
Why we should interpret density matrices as moment matrices: the case of (in)distinguishable particles and the emergence of classical reality
我们介绍了量子理论(QT)作为一个一般的概率理论,但通过准期望算子(QEOs)表示的制定。这个公式提供了一个直接的解释密度矩阵作为准矩矩阵。使用QEO,我们将提供一系列表示定理,a' la de Finetti,将经典概率质量函数(满足某些对称性)与准期望算子联系起来。我们将表明,QT的可区分和不可区分的粒子可以用这种方式制定。虽然粒子的不可分割性被认为是一种真正的“怪异”量子现象,但它并不特殊。我们将证明经典骰子的可交换概率和QT一样奇怪。利用这种联系,我们将通过可交换随机变量的经典统计概念重新推导玻色子QT中的第一和第二量子化。使用这种方法,我们将展示经典实在如何随着全同玻色子数量的增加而出现在QT中(类似于经典骰子的掷数可交换序列所发生的情况)。
2022-03-09 math.PR math.ST quant-ph
Weak continuity of predictive distribution for Markov survival processes
我们探讨了一致的可交换生存过程的概念-生存时间的联合分布,其中风险集演化为具有齐次转移率的连续时间马尔可夫过程。我们展示了一个对应的de Finetti的方法构建一个可交换的生存过程,通过生成iid生存时间的条件下,一个完全独立的危险措施。我们描述了几个具体的过程,展示了在每种情况下,捆绑故障时间的块的数量如何随着个体的数量渐近增长。特别是,我们表明,弱连续预测分布的马尔可夫生存过程的集合可以由一个二维的家庭称为调和过程的特点。最后,我们将这些方法应用到数据中,展示了它们如何轻松地扩展到处理删失。
2015-08-06 math.ST stat.TH
Knockoffs for exchangeable categorical covariates
针对支撑在有限集上的可交换类别协变量,本文推导了 knockoff 联合分布的显式公式,证明了关于 de Finetti 测度的稳健性,并经数值实验表明其在错误发现率上优于连续近似方法。
2024-10-13 math.ST stat.ME stat.TH
Bayesian Out-Trees
Columbia University(哥伦比亚大学)
提供了一种用于非iid数据的潜在有向图结构的贝叶斯处理,其中每个子数据被采样为具有对单个未知父数据的有向条件依赖。潜图的结构被假定为位于家庭的有向出树图,从而导致有效的贝叶斯推理。数据的潜在似然性及其梯度可以通过Tutte的有向矩阵树定理使用外拉普拉斯算子的行列式和逆以封闭形式计算。这种新的似然包含iid似然,是可交换的,并产生有效的无监督和半监督学习算法。除了处理分类学和系统发育数据集外,外树假设在标准iid数据集上作为半参数密度估计器表现得令人惊讶。在各种UCI和分类数据集上显示了无监督和半监督学习的实验。
2012-06-13 cs.LG stat.ML
Guaranteed Model Order Estimation and Sample Complexity Bounds for LDA
如何确定混合模型(如潜在狄利克雷分配(LDA))中独立潜在因子(主题)的个数具有重要的实际意义。在大多数应用程序中,主题的确切数量是未知的,并且取决于应用程序和数据集的大小。贝叶斯非参数方法可以避免主题数选择的问题,但它们在大样本量时速度慢得不切实际,并且容易陷入局部最优。我们开发了一个有保证的程序,主题数恢复,不需要事先学习模型的潜在参数。我们的程序依赖于适应随机矩阵理论的结果。我们的主题数恢复程序的性能优于hLDA,一种非参数方法。我们还讨论了我们的研究结果的样本的复杂性和流行的谱学习算法的LDA的准确性的一些影响。我们的结果和过程可以扩展到其他可交换混合模型以及隐马尔可夫模型的谱学习算法。
2014-01-21 stat.ML
The Functional Neural Process
University of Amsterdam(阿姆斯特丹大学);TNO Intelligent Imaging(TNO智能成像);Bosch Center for Artificial Intelligence(博世人工智能中心);UvA-Bosch Delta Lab(阿姆斯特丹大学-博世Delta实验室);Qualcomm(高通)
本文提出了一类新的可交换随机过程,即功能神经过程。FNP通过在给定数据集中的点的潜在表示之上学习依赖关系图来对函数上的分布进行建模。在这样做时,他们定义了一个贝叶斯模型,而没有显式地设定潜在全局参数的先验分布;相反,他们采用给定数据集的关系结构的先验,这是一项简单得多的任务。我们展示了如何从数据中学习这些模型,证明它们可以通过小批量优化扩展到大型数据集,并描述了如何通过后验预测分布对新点进行预测。我们实验评估FNP的玩具回归和图像分类的任务,并表明,相比基线,采用全球潜在参数,他们提供了竞争力的预测,以及更强大的不确定性估计。
2019-11-04 cs.LG stat.ML
NP-LEAP: Nonparametric Latent Exchangeability Prior for Model-Lean Borrowing from Historical Data
Quantitative Sciences Innovation GSK(GSK 定量科学创新中心);Department of Mathematics Statistics University of New Mexico(新墨西哥大学数学统计系)
针对贝叶斯动态借用依赖参数化结局模型易误设的问题,提出NP-LEAP非参数潜在可交换先验框架,可进行个体层面可交换性评估,经模拟和实际案例验证其性能优于相关方法。
2026-08-18 stat.AP stat.ME
Approximate independence of permutation mixtures
本文提出控制χ²散度的新方法,证明了高维可交换混合分布与其独立同分布对应物的统计距离界限,并得出新的de Finetti风格定理及差分隐私等统计结果。
2025-09-16 cs.IT math.IT math.PR
Shrinkage through multiple identifiability
Instituto de Ciencias Matemáticas, CSIC(数学科学研究所,西班牙高等科学研究委员会);Departamento de Matemáticas, Universidad Autónoma de Madrid(马德里自治大学数学系)
本文提出一个经验贝叶斯框架,用于聚合来自同一因果参数的多个识别函数的估计值,通过后验均值合并渐近线性估计量,建立在精确可识别性和非嵌套 regime 中的稳健性,提供频率学置信区间和贝叶斯预测区间。
2026-07-07 stat.ME
Detecting Conflicts in Evidence Synthesis Models Using Score Discrepancies
MRC Biostatistics Unit, University of Cambridge(剑桥大学 MRC 生物统计学单元);Department of Statistics and Data Science, Institute of Operations Research and Analytics, National University of Singapore(新加坡国立大学统计与数据科学系运筹与分析研究所)
针对证据合成模型中的数据冲突检测难题,提出基于评分差异的通用框架,扩展先验-数据冲突诊断至层次模型潜在空间,模拟和流感模型应用验证其有效性与互补性。
2026-09-15 stat.CO stat.ME
The Attraction Indian Buffet Distribution
我们提出了吸引力印度自助餐分布(AIBD),分布的二进制特征矩阵的两两相似性信息的影响。在贝叶斯模型中使用二进制特征矩阵来揭示潜在变量(即,解释观察到的数据。Indian buffet过程(IBP)是一种流行的潜在特征矩阵的可交换先验分布。然而,在有更多信息的情况下,汇率假设是不合理或不可取的。AIBD可以合并成对的相似性信息,但它保留了IBP的许多属性,包括特征总数的分布。因此,人们对IBP的许多解释和直觉直接延续到AIBD。温度参数控制相似性信息影响观测之间的特征共享的程度。与其他用于特征分配的不可交换分布不同,AIBD的概率质量函数具有易于处理的归一化常数,使用标准MCMC方法直接对超参数进行后验推断。针对IBP和AIBD提出了一种新的后验采样算法。我们证明了AIBD作为特征分配模型中的先验分布的可行性,并在模拟和应用中比较了竞争方法的性能。
2021-07-16 stat.ME
Confidence sets for network structure
潜变量模型经常被用来识别二分网络数据的结构,部分原因是它们产生了伯努利乘积似然,这是很好理解的,并且与可交换随机图的概念一致。在这篇文章中,我们提出了保守的置信度集,这些置信度集相对于这些底层的伯努利参数作为网络节点的任何给定分区的函数,使我们能够评估“剩余”网络结构的估计,即,不能用已知协变量解释的结构,因此不能通过手动检查轻松验证。我们证明了所提出的方法,通过分析学生的友谊网络从全国青少年健康纵向调查,包括种族,性别和学年作为协变量。我们采用随机期望最大化算法来拟合逻辑斯谛回归模型,该模型包括这些解释变量以及潜在的随机块模型组件和附加的节点特定效应。虽然最大似然估计不出现在这种情况下一致的,我们能够评估置信度集作为不同的块模型分区的函数,这使我们能够定性地评估估计的残差网络结构相对于基线的意义,模型协变量,但缺乏块结构。
2011-05-31 cs.SI physics.soc-ph stat.ME
Nondiagonal Mixture of Dirichlet Network Distributions for Analyzing a Stock Ownership Network
the University of Tokyo(东京大学);Rikkyo University(立教大学);National Institute of Informatics(国立信息学研究所);The Canon Institute for Global Studies(佳能全球研究所)
块模型在复杂网络研究中有着广泛的应用。基石模型是随机块模型(SBM),在过去几十年中被广泛使用。然而,SBM在分析复杂网络时受到限制,因为该模型本质上是一个随机图模型,无法再现许多复杂网络的基本属性,例如稀疏性和重尾度分布。在本文中,我们提供了一个边缘可交换块模型,结合这些基本功能,同时推断出一个给定的复杂网络的潜在块结构。我们的模型是一个贝叶斯非参数模型,它灵活地估计块的数量,并考虑到看不见的节点的可能性。使用一个合成数据集和一个现实世界的股票所有权数据集,我们表明,我们的模型优于国家的最先进的SBM的举行了链接预测任务。
2020-11-01 cs.LG cs.SI stat.ML
Hierarchical shot-noise Cox process mixtures for clustering across groups
Politecnico di Milano(米兰理工大学);University of Milano–Bicocca(米兰比可卡大学)
本文提出分层shot-noise Cox过程混合模型,通过核共享中心实现跨组聚类与密度估计的平衡,并开发条件MCMC算法,在模拟和星系数据上优于分层Dirichlet过程。
2025-10-16 stat.ME
A tree-based kernel for densities and its applications in clustering DNase-seq profiles
Department of Statistics & Data Science Institute, University of Chicago(芝加哥大学统计与数据科学研究所);Department of Human Genetics, University of Chicago(芝加哥大学人类遗传学系)
本文提出一种非参数密度核,用于在分层框架中建模多重采样密度,以捕捉TF足迹的复杂空间依赖性,提升聚类准确性。
2026-05-15 stat.AP stat.ME
Tractably Modelling Dependence in Networks Beyond Exchangeability
我们提出了一个通用的框架,旨在描述方面的非交换网络的网络数据建模。条件的潜在(未观察到的)变量,网络的边缘产生的有限的增长历史(与潜在的订单),而边际概率的邻接矩阵的建模由一个推广的图形极限函数(或graphon)。特别是,我们研究的估计,聚类和网络的度行为在我们的设置。我们确定(一)极小极大估计的复合图子相对于平方误差损失;(二)谱聚类是能够一致地检测潜在的成员资格时,块式常数复合图子被认为是在额外的条件下;和(iii)我们能够构建模型的重尾经验度在特定的场景和参数选择。这将探讨为什么以及在一般条件下,不可交换的网络数据可以描述的随机块模型。新的建模框架能够捕获网络数据的重要经验特征,例如稀疏性与重尾度分布相结合,并增加对生成机制的理解。关键词:统计网络分析,可交换数组,随机块模型,非线性随机过程。
2020-07-28 math.ST stat.ML stat.TH
Bayesian nonparametric inference on a Fréchet class
本研究在具有指定边际约束的Fréchet概率测度类上构建贝叶斯非参数先验,推导可交换序列下的后验分布,并将结果拓展至单边边际约束的情形,为约束型双变量分布推断提供理论框架。
2025-02-22 stat.ME
A Complete Characterization of Projectivity for Statistical Relational Models
Aalborg University(奥尔堡大学);Simon Fraser University(西蒙弗雷泽大学)
关系数据的生成概率模型由不同大小的域上的关系结构的概率分布族组成。在大多数现有的统计关系学习(SRL)框架中,这些模型在大小为$k<n$的诱导子结构上的大小- $n$结构的分布的边缘等于大小- $k$结构的给定分布的意义上不是投射的。投射性是非常有益的,因为它可以直接从子采样的关系结构中进行提升推理和统计一致性学习。在早期的工作中,一些简单的片段SRL语言已被确定为代表投射模型。然而,没有完整的表征,并表示框架的投影模型已经给出。在本文中,我们填补了这一空白:利用无限可交换数组的表示定理,我们引入了一类有向图形潜变量模型,精确对应于一类投影关系模型。作为一个副产品,我们还获得了一个表征时,一个给定的分布在尺寸-$k$结构是统计频率分布的尺寸- $k$子结构在大得多的尺寸- $n$结构。这些结果揭示了新的光到旧的开放问题,如何应用Halpern等人。的“随机世界方法”的概率推理一般关系签名。
2020-06-22 cs.AI cs.LG stat.ML
Latent nested nonparametric priors
离散随机结构是贝叶斯非参数化的重要工具,由此产生的模型已被证明是有效的密度估计,聚类,主题建模和预测等。在本文中,我们考虑嵌套过程,并研究它们诱导的依赖结构。依赖性介于同质性(对应于完全交换)和最大异质性(对应于样本之间的(无条件)独立性)之间。流行的嵌套狄利克雷过程退化到完全可交换的情况下,有跨样本的关系在观察到的或潜在的水平。为了克服这个缺点,固有的嵌套一般离散随机措施,我们引入了一类新的潜在嵌套过程。这些是通过添加共同的和特定于组的完全随机的措施,然后,规范化,以产生相关的随机概率测度。我们提供了结果的分区分布引起的潜在嵌套过程,并开发了一个马尔可夫链蒙特卡罗抽样贝叶斯推断。作为副产品获得各组间分布均匀性检验。结果及其推理影响在合成数据和真实数据上展示。
2018-01-15 math.ST stat.ME stat.TH
Monte Carlo testing: non-asymptotic guarantees without joint exchangeability
University of Chicago(芝加哥大学);Carnegie Mellon University(卡内基梅隆大学)
研究假设检验中蒙特卡罗检验问题,针对常见计算程序不足,给出有限样本保证。条件是观测数据和副本在给定潜在变量下条件独立同分布,对任意统计量和副本数成立,解释有限样本振荡行为,还为其他推断问题提供见解。
2026-07-28 math.ST stat.ME stat.TH
Exact inference via quasi-conjugacy in two-parameter Poisson-Dirichlet hidden Markov models
University of Torino(都灵大学);Stern School of Business, NYU Abu Dhabi(纽约大学阿布扎比分校斯特恩商学院);Department of Statistics, University of Warwick(华威大学统计系)
本文提出了一种非参数模型,用于从离散时间数据中推断时间演变的未观察概率分布,数据由无标签的划分组成。潜在过程是双参数泊松-狄利克雷扩散过程,观测通过可交换抽样产生。应用包括社会和遗传数据,其中仅观察到聚类汇总信息。为了解决不可行的似然,我们开发了一个可计算的推断框架,避免了标签枚举和直接模拟潜在状态。我们利用扩散过程与在划分上的纯死亡过程之间的对偶性,以及编码新数据影响的凝集算子,从而得到前向和后向推断的闭式递归更新。我们计算了任意时间点潜在状态的精确后验分布和未来或插值划分的预测分布。这使我们能够进行在线和离线推断和预测,并完全量化不确定性,绕过MCMC和序列蒙特卡罗方法。与粒子滤波相比,我们的方法在准确性、方差和计算效率方面都有显著优势。我们通过合成实验和社会网络应用展示了该方法,恢复了时间变化异质性的可解释模式。
2026-05-18 math.PR math.ST q-bio.PE