Asymptotically efficient estimators for stochastic blockmodels: the naive MLE, the rank-constrained MLE, and the spectral
当平均度以$n$中的$ω(\sqrt{n})$的速率增长时,我们建立了利用谱嵌入估计随机块模型图中块概率矩阵$\mathbf{B}$的渐近正态性结果。作为推论,我们证明了当$\mathbf{B}$是满秩时,由谱嵌入得到的$\mathbf{B}$的估计是渐近有效的。当$\mathbf{B}$是奇异的谱嵌入得到的估计可以有更小的均方误差比那些从最大化的对数似然无秩假设下得到的,而且,可以几乎一样有效的真正的MLE假设已知的$\mathrm{rk}(\mathbf{B})$。我们的研究结果表明,在随机块模型图的背景下,谱嵌入不仅是计算上容易处理的,但由此产生的估计也是容许的,即使相比,据称是最佳的,但计算上难以处理的极大似然估计下没有秩的假设。
2017-10-30 stat.ME
Regularized Spectral Clustering under the Degree-Corrected Stochastic Blockmodel
UW-Madison(威斯康星大学麦迪逊分校)
谱聚类是一种快速而流行的网络聚类算法。最近,Chaudhuri等人(2012)和Amini等人(2013)在2014年发表了关于生物多样性的论文。(2012)提出了算法的灵感变化,人为地增加节点度以提高统计性能。目前的文件扩展了以前的统计估计结果,更规范的谱聚类算法的方式,删除任何假设的最小程度,并提供指导的调谐参数的选择。此外,我们的研究结果表明,“星形”的特征向量-经验网络的一个共同特征-可以解释度校正随机块模型和扩展种植分区模型,两个统计模型,允许高度异构度。在整个过程中,本文的特点和理由的谱聚类算法的变化,这些模型。
2013-09-16 cs.LG math.ST stat.ML
Non-asymptotic goodness-of-fit tests and model selection in valued stochastic blockmodels
本文针对有值随机块模型提出非渐近拟合优度检验方法,推导马尔可夫基移动并定义统计量,验证功效与错误率,并应用于生态网络以选择块数量,结论与文献不同。
2025-10-15 cs.SI math.ST stat.ME
Community detection in multi-relational data with restricted multi-layer stochastic blockmodel
近年来,人们对一组实体之间具有多种类型关系的数据的统计分析越来越感兴趣。这种多关系数据可以表示为多层图,其中顶点集表示实体,多种类型的边表示它们之间的不同关系。对于多层图中的社区检测,我们考虑了两种随机图模型,多层随机块模型(MLSBM)和一种具有受限参数空间的模型,受限多层随机块模型(RMLSBM)。我们得出社区分配的极大似然估计(MLEs)在这两个模型中,MLSBM被假定为是真正的模型,无论是节点的数量或边缘的类型或两者的数量增长的一致性结果。我们比较了两个模型中的MLE与其他基线方法,如层的单独建模,聚合层和多数表决。RMLSBM被证明具有优势MLSBM时,无论是社区的数量的增长率是高的,或在多重图中的组件图的平均度的增长率是低的。我们还推导出极大极小的错误率和尖锐的阈值,以实现在这两个模型中的社区检测的一致性,然后用于比较多层模型与基线模型,聚合随机块模型。仿真研究和实际数据应用证实了与基线程序相比,多层方法的优越性能。
2016-01-21 stat.ML
A Unified Framework for Community Detection and Model Selection in Blockmodels
The Pennsylvania State University(宾夕法尼亚州立大学);North Carolina State University(北卡罗来纳州立大学)
本文提出了一种统一框架,用于在块模型层次结构中同时进行社区检测和模型选择,通过双重损失函数实现高精度识别和模型选择。
2025-12-22 stat.ME
Maximum likelihood degree of the $β$-stochastic blockmodel
本文基于马尔可夫基的近期结果,推导出β-随机块模型最大似然度的闭式公式,并证明其可分解为欧拉数的乘积。
2024-10-08 math.ST stat.TH
On inference for modularity statistics in structured networks
本文针对具有社区结构的大规模网络,提出多种模块度统计量并建立其渐近分布理论,为网络差异检验及随机块模型推断提供支持,并通过模拟与精神分裂症脑网络数据验证了方法的有效性。
2024-02-23 math.ST stat.ME stat.TH
Graph model selection by edge probability sequential inference
图被广泛用于描述由许多相互作用的组件组成的系统,并用于理解它们相互作用的结构。存在各种统计模型,它们将这种结构描述为约束和随机性的组合的结果。%模型选择技术需要自动识别最佳模型,以及给定图形的最佳参数集。为了做到这一点,大多数作者依赖于最小描述长度范式,并通过考虑定义在图集成上的概率分布的熵将其应用于图。在本文中,我们介绍了边缘概率序贯推理,一种新的方法来执行模型选择,它依赖于边缘集成的概率分布。从理论的角度来看,我们表明,这种方法提供了一个更一致的理由统计推断与现有的技术,由于事实上,它依赖于多个实现的随机变量。它还提供了更好的保证,防止过度拟合,使之有可能降低模型的参数数量低于观察的数量。实验上,我们说明了这种方法在两种情况下的好处:推断随机块模型的分区,并确定最相关的模型之间的随机块模型和配置模型的给定图形。
2021-06-25 cs.SI stat.ME
Mixed membership stochastic blockmodels
Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
由对对象对的关系的测量组成的观察出现在许多环境中,例如蛋白质相互作用和基因调控网络、作者-接收者电子邮件的集合以及社交网络。用概率模型分析这些数据可能会很微妙,因为许多样板模型所基于的简单交换假设不再成立。在本文中,我们描述了这样的数据的潜变量模型称为混合成员随机块模型。该模型将关系数据的块模型扩展到捕获混合成员潜在关系结构的块模型,从而提供特定于对象的低维表示。本文提出了一种快速近似后验推理的一般变分推断算法。我们探索社会和蛋白质相互作用网络的应用。
2007-05-30 cs.LG math.ST physics.soc-ph
Role of normalization in spectral clustering for stochastic blockmodels
谱聚类是一种使用元素(可能归一化)相似性矩阵的前几个特征向量对元素进行聚类的技术。谱聚类的质量与这些主特征向量的收敛特性密切相关。在最近的随机矩阵理论文献中,这种收敛速度对于正规化和非正规化变量都是相同的。然而,谱聚类的归一化通常被认为是有益的[Stat. Comput. 17(2007)395-416]。事实上,我们的实验表明,归一化提高了预测精度。在本文中,对于流行的随机块模型,我们从理论上表明,规范化收缩的点在一个广泛的参数制度下的一个恒定的分数类的蔓延。作为我们工作的副产品,我们还获得了从随机块模型生成的图的经验主特征值的尖锐偏差界。
2015-06-25 math.ST stat.ML stat.TH
Vintage Factor Analysis with Varimax Performs Statistical Inference
心理学家开发了多因素分析,将多变量数据分解为少量可解释的因素,而无需任何关于这些因素的先验知识。在这种形式的因子分析中,方差最大“因子旋转”是使因子可解释的关键步骤。查尔斯·斯皮尔曼和许多其他人反对因子旋转,因为因子似乎是旋转不变的。这些反对意见仍然报告在所有当代多元统计教科书。这是一个工程,因为这种老式的因素分析形式已经幸存下来,并广泛流行,因为从经验上讲,因素轮换往往使因素更容易解释。我们认为,旋转使因素更容易解释,因为事实上,方差最大因子旋转执行统计推断。我们表明,主成分分析(PCA)与方差最大旋转提供了一个统一的谱估计策略,为广泛的一类现代因素模型,包括随机块模型和自然变化的潜在狄利克雷分配(即,“主题建模”)。此外,我们表明,瑟斯顿的广泛采用的稀疏诊断隐含评估一个关键的“尖峰”的条件,使旋转统计识别在这些模型。总的来说,这表明老式因素分析的诀窍执行统计推断,扭转了近一个世纪的统计思想的主题。使用稀疏特征值求解器,具有方差最大的PCA是快速和稳定的。结合Thurstone的直接诊断,这种老式的方法适用于各种现代应用。
2020-04-20 math.ST stat.ME stat.TH
Joint Spectral Clustering in Multilayer Degree-Corrected Stochastic Blockmodels
本文研究多层度校正随机块模型中的社区检测问题,提出联合谱聚类算法,并证明其误聚类率随网络层数增加呈指数下降,在异质性强的多层网络场景下优于现有方法。
2025-06-03 math.ST stat.ME stat.TH
Spectral clustering and the high-dimensional stochastic blockmodel
网络或图可以很容易地表示以交互单元或参与者为特征的各种数据源。社交网络代表了人们之间的交流,就是一个例子。由高度关联的行为者组成的社区或集群构成了若干经验网络结构的一个基本特征。谱聚类是一种流行的和计算上可行的方法来发现这些社区。随机块模型[社交网络5(1983)109- 137]是一个具有明确定义的社区的社会网络模型;每个节点是一个社区的成员。对于从随机块模型生成的网络,我们通过谱聚类来限制“误聚类”的节点数量。本文中的渐近结果是第一个聚类结果,允许模型中的簇的数量随着节点的数量而增长,因此命名为高维。为了研究随机块模型下的谱聚类,我们首先证明了在更一般的潜在空间模型下,归一化图拉普拉斯算子的特征向量渐近收敛到“总体”归一化图拉普拉斯算子的特征向量。除了对谱聚类的影响外,这还提供了对图形可视化技术的深入了解。本文研究随机矩阵特征向量的方法是新颖的。
2011-12-13 math.ST stat.ML stat.TH
Co-clustering for directed graphs: the Stochastic co-Blockmodel and spectral algorithm Di-Sim
有向图具有非对称连接,然而当前的图聚类方法不能识别这些非对称的潜在全局结构。我们给出了一个光谱算法称为DI-SIM,建立在一个双重措施的相似性,对应于如何一个节点(i)发送和(ii)接收边缘。使用DI-SIM,我们分析了安然电子邮件,政治博客和线虫神经连接体网络中的全球不对称性。在每个示例中,一小部分节点具有持久的不对称性;这些节点与一个集群发送边,但与另一个集群接收边。以前的方法会将这些非对称节点分配给一个集群,无法识别它们的发送/接收不对称性。正则化和"投影"是谱聚类算法在实际应用中必不可少的两个步骤。理论结果表明,这些步骤使算法在度校正的随机co-Blockmodel下弱一致,该模型将随机Blockmodel推广到允许(i)度异质性和(ii)我们打算检测的全局不对称性。理论结果对最小度节点没有任何假设。相反,该定理要求平均度增长足够快,弱一致性仅适用于杠杆分数足够大的节点子集。所得结果也适用于二部图.
2015-01-08 math.ST stat.ML stat.TH
Consistent model selection for the Degree Corrected Stochastic Blockmodel
本文针对度修正随机块模型(DCSBM)社区数量估计的难题,证明了带惩罚的边际似然估计量在稠密或半稀疏网络中具有强一致性,且允许社区数量无界至节点总数。
2023-02-07 math.PR math.ST stat.TH
Statistical Inference for Low-Rank Tensors: Heteroskedasticity, Subgaussianity, and Applications
本文针对高维低Tucker秩张量,基于HOOI算法建立异方差次高斯噪声下的非渐近推断理论,构建最优置信域,并将其应用于混合成员块模型检验等任务,方法数据驱动且功效更优。
2024-10-08 math.ST stat.ME stat.TH
Inference for multiple heterogeneous networks with a common invariant subspace
多个异构网络数据模型的开发在统计网络理论和跨多个应用领域都是至关重要的。虽然单图推理得到了很好的研究,但多图推理在很大程度上尚未探索,部分原因是适当建模图差异并保持足够的模型简单性以使估计可行所固有的挑战。本文正是针对这一差距,通过引入一个新的模型,共同子空间独立边(COSIE)多随机图模型,它描述了一个异构的收集网络的顶点上的共享潜在结构,但可能不同的连接模式为每个图。COSIE模型包含许多流行的网络表示,包括随机块模型。该模型既足够灵活,可以有意义地解释重要的图形差异,又足够易于处理,可以在多个网络中进行准确的推理。特别是,一个联合频谱嵌入的邻接矩阵-多个邻接频谱嵌入(MASE)-导致,在COSIE模型中,同时一致的估计每个图的基本参数。在适当的附加假设下,MASE估计满足渐近正态性,并改进了图特征值估计和假设检验。在模拟和真实数据中,COSIE模型和MASE嵌入可以部署用于许多后续的网络推理任务,包括降维、分类、假设检验和社区检测。具体而言,当MASE应用于通过扩散磁共振成像构建的连接体数据集时,结果是患者对脑扫描的准确分类和对不同受试者扫描的异质性的有意义的确定。
2020-08-22 cs.SI math.ST stat.ME
On spectral algorithms for community detection in stochastic blockmodel graphs with vertex covariates
Johns Hopkins University(约翰斯·霍普金斯大学);University of Pittsburgh(匹兹堡大学)
在网络推理应用中,通常需要检测社区结构,即根据某种相似性度量将顶点聚类成组或块。除了邻接矩阵之外,许多真实网络还涉及顶点协变量,这些协变量携带关于图中底层块结构的关键信息。为了评估这些协变量对块恢复的影响,我们提出了一个比较分析的两个基于模型的谱算法的顶点聚类随机块模型图与顶点协变量。第一种算法只使用邻接矩阵,直接估计块分配。第二种算法将邻接矩阵和顶点协变量结合到块分配的估计中,并且量化了顶点协变量对块分配的估计结果的显式影响。我们采用的分析比较算法的性能,并获得信息理论的分析比为某些模型的兴趣。分析结果和模拟表明,第二种算法往往是首选:我们往往可以更好地估计诱导块分配,首先估计顶点协变量的影响。此外,实际数据的例子也表明,第二种算法具有揭示底层块结构和考虑观察到的顶点异构性在实际应用中的优势。我们的研究结果强调了区分观察到的和未观察到的因素,可以影响图中的块结构的重要性。
2021-08-04 cs.LG cs.SI math.ST
Asymptotic inference for a stochastic differential equation with uniformly distributed time delay
研究了具有均匀分布时滞的仿射随机微分方程的似然函数的局部渐近性质。对于不同的参数值,证明了局部渐近正态性、局部渐近混合正态性、周期局部渐近混合正态性或局部渐近二次性。给出了连续样本下参数极大似然估计的渐近性质的应用。
2015-09-09 math.ST stat.TH
Network histograms and universality of blockmodel approximation
在本文中,我们介绍了网络直方图:网络交互的统计摘要,用作探索性数据分析的工具。通过将随机块模型拟合到网络数据集的单个观测值来获得网络直方图。边缘的块扮演直方图箱的角色,并且社区大小是直方图带宽或箱大小的角色。正如标准直方图允许不同的带宽,不同的块模型估计都可以被认为是底层概率模型的有效表示,受到带宽限制。在这里,我们提供了自动带宽选择的方法,通过该方法,网络直方图近似于产生可交换随机图的生成机制。这使得块模型成为无标签图的通用网络表示。有了这个洞察力,我们讨论的事实,许多不同的社区分配都可以给这样一个网络的一个同样有效的表示网络社区的解释。为了证明考虑不同数量和大小的社区所固有的一致性与可解释性的权衡,我们分析了两个公开的网络-政治博客和学生的友谊-并讨论了如何解释网络直方图时,与节点和边缘标签相关的附加信息。
2014-09-01 cs.SI math.CO math.ST
The blessing of transitivity in sparse and stochastic networks
传递性和稀疏性之间的相互作用,经验网络中的两个常见特征,意味着大型稀疏网络中存在密集的局部区域。我们称之为传递性的祝福,它对建模和推理都有影响。现有的研究表明,当边缘稀疏时,随机块模型的统计推断更加困难。然而,这一结论是混淆的事实,在所有以前的研究中的渐近极限不仅是稀疏的,而且是非传递的。为了保持传递性,块的增长速度不能超过预期的度。因此,在稀疏模型中,块必须保持渐近小。\n以前的算法研究表明,与“全局”图分区相比,小的“局部”聚类更易于计算、可视化和解释。本文提供了第一个统计结果,证明这些小的传递集群也更适合统计估计。定理2表明,“本地”聚类算法可以以很高的概率检测到嵌入在大型图中的固定大小(例如30个节点)的可传递随机块。对环境图的唯一约束是它是大而稀疏的-它可以随机生成或由对手生成-这表明了对局部聚类算法的鲁棒经验性能的理论解释。
2013-08-01 stat.ML
Information Recovery in Shuffled Graphs via Graph Matching
虽然许多多图推理方法在图的顶点集上的显式顶点对应是已知的隐式假设下操作,但实际上这些对应可能仅部分或错误地已知。在这里,我们提供了一个信息理论的基础,了解错误观察到的顶点对应的实际影响,可以对后续的推理,图匹配方法的能力,以恢复丢失的顶点对齐和推理性能。工作在相关的随机块模型设置,我们建立了一个对偶之间的损失的互信息,由于错误观察顶点对应和图匹配算法的能力,以恢复真正的对应关系的图形。在这个过程中,我们建立了一个相变的图匹配在图之间的相关性,我们推测类似的相变的相对信息损失,由于洗牌顶点标签。我们通过两个样本图假设检验和联合谱图聚类的示例,展示了图重排和匹配对后续推理的实际影响。
2017-09-27 cs.IT math.CO math.IT
Hypothesis Testing for Automated Community Detection in Networks
University of California, Berkeley(加州大学伯克利分校)
网络中的社区检测是一个关键的探索性工具,在不同的领域中有着广泛的应用,从在社会和生物网络中寻找社区到在万维网中识别链接农场。在网络中寻找社区或簇的问题受到了统计学、物理学和计算机科学的广泛关注。然而,大多数聚类算法假设知道聚类数k。在本文中,我们提出了自动确定k生成的图从随机块模型。我们的主要贡献是双重的,首先,我们在理论上建立了适当的中心和缩放邻接矩阵的主特征值的极限分布,并使用该分布进行假设检验。其次,我们利用这个测试设计了一个递归二分算法。在真实网络上使用可量化的分类任务,我们证明了我们的算法在学习重叠集群方面优于现有的概率模型,并且在未标记的网络上,我们发现了嵌套的社区结构。
2013-11-20 cs.LG cs.SI math.ST
Statistical inference on errorfully observed graphs
图上的统计推断是一个新兴的领域,在应用和理论统计社区,以及整个更广泛的世界的科学,工程,商业等,在许多应用中,我们面临着错误的观察图的现实。也就是说,两个顶点之间的边的存在是基于一些不完美的评估。本文考虑图$G = (V,E)$ .我们希望执行一个推理任务--这里考虑的推理任务是“顶点分类”。然而,我们不观察$G$ ;相反,对于每个潜在的边缘$uv \in {{V}\choose{2}}$,我们观察一个“边缘特征”,我们使用它来将$uv$分类为边缘/非边缘。因此,当我们观察图$\widetilde{G} = (V,\widetilde{E})$时,我们错误地观察到$G$,因为$\widetilde{E}$中的边来自“边特征”的分类,并且预期是错误的。此外,我们面临的数量/质量的权衡,我们观察到的边缘功能-更多的信息的边缘功能是更昂贵的,因此,可以评估的潜在边缘的数量减少与边缘功能的质量。我们研究了这个问题,制定了数量/质量权衡一类简单的随机图模型,即随机块模型。然后,我们考虑一个简单的,但最佳的顶点分类分类器分类$v$,我们得出的最佳数量/质量的操作点,随后的图形推理,面对这种权衡。数量/质量权衡的最佳操作点是令人惊讶的,并说明了中间任务的方法应选择最终推理任务的性能最大化的问题。最后,我们研究了{ \it C.\ elegans}连接体图。
2014-07-21 stat.ML
Statistical inference for epidemic processes in a homogeneous community (Part IV of the book Stochastic Epidemic Models and Inference)
本文是由Tom Britton和Etienne Pardoux编辑的《Stochastic Epidemic Models with Inference》一书的第四部分。它是由凯瑟琳·拉雷多写的,第四章由越南志陈贡献。流行病数据提出了具有挑战性的统计问题,首先是处理缺失信息这一反复出现的问题。我们回顾的方法,如MCMC,ABC或基于扩散近似的方法。本文件计划:1)观测与渐近框架; 2)马尔可夫链传染病模型的推断; 3)传染病模型基于扩散近似的推断; 4)连续时间SIR模型的推断。
2020-04-16 math.PR stat.AP
Fast and reliable inference algorithm for hierarchical stochastic block models
网络聚类揭示了网络或相应复杂系统的组织,其中元素表示为顶点,交互表示为(有向,加权)图中的边。虽然集群的概念可能有点松散,但网络集群或组通常被认为是具有丰富交互和共享共同模式的边缘的节点。统计推断通常将群体视为潜在变量,观察到的网络由潜在群体结构生成,称为随机块模型。无论定义如何,统计推断都可以转化为模块化最大化,这可证明是NP完全问题。在这里,我们提出了可扩展的和可靠的算法,恢复分层随机块模型快速,准确。我们的算法在边缘数量上几乎是线性扩展的,并且推断出的模型比其他可扩展的方法更准确。
2017-11-14 stat.ML
A Theoretical Case Study of Structured Variational Inference for Community Detection
平均场变分推理在大规模贝叶斯推理中有着广泛的应用。然而,MFVI,它假设一个产品分布的潜在变量,往往会导致目标函数与许多局部最优,优化算法敏感的初始化。本文研究了两类随机块模型的结构变分推理的优越性。变分分布被构造成在网络的节点上具有成对依赖结构。我们证明,在一个广泛的密度制度和一般的随机初始化,不像MFVI,类标签估计从我们的方法收敛到地面真理的概率很高,当模型参数是已知的,在一个合理的范围内估计或联合优化的变分参数。此外,经验上,我们证明结构化VI是更强大的MFVI相比,当图形是稀疏的,信噪比低。本文采取的第一步,了解社区检测变分推理的依赖结构的重要性。
2020-03-01 math.ST stat.TH
Edge coherence in multiplex networks
本文介绍了一个非参数框架的设置,其中多个网络被观察到在同一组节点,也被称为多路复用网络。我们的目标是提供一个简单的参数化,明确捕捉网络的不同层之间的线性相关性。对于非欧几里德观测,如形状和图形,“线性”的概念必须适当定义。从随机过程的表示和类比的多变量谱表示的随机过程与联合交换的伯努利阵列的灵感,我们引入边相干的概念,作为一种措施的线性依赖在图极限空间。边缘相干性定义为来自任意两个网络层的边缘对,并且是关键的新参数。我们通过引出简单的模型,如相关的随机块模型和相关的非齐次图极限模型来说明我们的方法的实用性。
2022-02-18 math.ST stat.ME stat.OT
Co-clustering separately exchangeable network data
本文建立了随机块模型的性能,在解决划分一个二进制数组成子集的共聚类问题,假设只有数据是由一个非参数的过程,满足单独的交换条件。我们提供甲骨文不等式的收敛速率$\mathcal{O}_P(n^{-1/4})$对应的配置文件似然最大化和均方误差最小化,并表明,块模型可以解释在这种设置作为一个最佳的分段常数近似生成的非参数模型。我们还表明,对于大样本量,在这样的数据中的共簇的检测表明,具有高概率的存在的共簇的大小相等,并在基本的生成过程中渐近等价的连接。
2014-01-16 cs.SI math.CO math.ST
Nonparametric graphon estimation
我们提出了一个非参数的网络分析框架,基于一个自然的限制对象称为graphon。我们证明了在一般条件下图子估计的一致性,给出了稀疏网络的重要实用设置。我们的研究结果涵盖了密集和稀疏的随机块模型与越来越多的类,模型误指定。我们使用轮廓似然方法,并将我们的结果连接到逼近论,非参数函数估计和图极限理论。
2013-09-23 math.CO math.PR math.ST
Inference for stochastic volatility models using time change transformations
利用马尔可夫链蒙特卡罗(MCMC)方法研究了扩散驱动随机波动模型的参数估计问题。为了避免退化问题,我们引入了一个创新的reparametrisation定义通过转换操作的时间尺度上的扩散。提出了一种新的MCMC方案,克服了时变变换的固有困难。该算法实现速度快,适用于具有随机波动率的模型。该方法通过模拟实验进行了测试,并说明了美国国债利率组成的数据。
2007-11-10 math.ST q-fin.CP stat.CO