Weak recovery, hypothesis testing, and mutual information in stochastic block models and planted factor graphs
本研究证明稀疏随机块模型中弱恢复与检测任务除临界点外等价,给出检测不可行时的高效低次最优检验,还证明渐近互信息在弱恢复阈值处存在相变,且结果可推广至超图块模型与植入因子图。
2025-02-21 cs.IT cs.SI math.CO
Exact Recovery of Community Detection in k-Community Gaussian Mixture Model
University of Connecticut(康涅狄格大学)
本文研究了高斯混合模型上的社区发现问题,其中顶点被划分为$k\geq 2$不同的社区.我们模型的主要区别在于,对于观测矩阵中的不同条目,高斯扰动的强度是不同的,并且我们不假设每个社区都有相同数量的顶点。我们明确地找到最大似然估计的精确恢复的阈值。应用包括超图上的社区发现。
2020-08-29 cs.LG cs.SI math.PR
Sharp exact recovery threshold for two-community Euclidean random graphs
本文针对双社区几何隐藏社区模型,证明精确恢复阈值是紧的,并提出两阶段线性时间算法实现精确恢复,扩展至种植稠密子图等问题。
2025-01-22 cs.SI math.PR
Achieving Exact Cluster Recovery Threshold via Semidefinite Programming: Extensions
解决了Abbe,Bandeira和Hall的猜想,作者最近证明了半定规划(SDP)放松的极大似然估计达到了尖锐的阈值,准确地恢复社区结构下的二进制随机块模型的两个大小相等的集群。对于单个聚类和离群值的情况也显示了相同的情况。扩展证明技术,本文证明了SDP松弛在以下情况下也达到了尖锐的恢复阈值:(1)具有两个大小与网络大小成比例但不一定相等的簇的二进制随机块模型;(2)具有固定数量的大小相等的簇的随机块模型;(3)背景图为Erdens-Rényi的二进制删失块模型。此外,一个充分条件的SDP程序,以实现精确的恢复的一般情况下,一个固定数量的集群加离群值。这些结果表明,SDP松弛作为一个简单的,通用的,计算上可行的社区检测方法的通用性。
2016-06-15 cs.SI math.PR stat.ML
Community detection in general stochastic block models: fundamental limits and efficient recovery algorithms
随机块模型是两个非重叠对称社区的特殊情况,最近发现了新的相变现象。这特别提出了由阈值驱动的新算法挑战。本文探讨了是否有一个普遍的现象发生在多个社区,而不强加对称性。在一般的随机块模型$\text{SBM}(n,p,Q)$中,$n$顶点被分成大小为$\{p_i\}_{i \in [k]}$的$k$社区,社区中的顶点$i$和$j$以概率$\{Q_{i,j}\}_{i,j \in [k]}$独立连接.本文研究了一般SBM(在常数和对数度制度)的社区的部分和精确恢复,并使用结果的一般性来解决重叠社区。该论文的贡献包括:(i)根据新的发散函数$D_+$的一般SBM中的恢复阈值的明确表征,该新的发散函数推广了Hellinger发散和Bauffff发散,并且向类似于信道编码定理中的KL发散的发散函数提供了操作意义,(ii)开发一种算法,该算法将社区一直恢复到最佳阈值,并在准线性时间内运行,表明精确恢复对于多个社区没有信息理论到计算差距,与4个以上群落的检测结果相反;注意该算法在达到阈值和具有准线性复杂度方面都是最优的,(iii)发展一种有效的算法,在常数度范围内检测社区,并具有明确的准确性界限,当指定信号-信噪比(根据$\diag(p)Q$的光谱定义)趋于无穷大。
2015-04-04 cs.IT cs.SI math.IT
Community Detection and Stochastic Block Models
本专著综述了随机块模型(SBM)中社区检测的基本极限,涵盖信息论与计算权衡及精确、部分、弱恢复要求,并系统推导了图分割、半定规划、置信传播及谱方法等主要算法。
2023-10-25 cs.CC cs.IT cs.SI
On the Price of Differential Privacy for Spectral Clustering over Stochastic Block Models
Nokia Bell Labs(诺基亚贝尔实验室);Princeton University(普林斯顿大学)
本文研究随机块模型下社区检测的边差分隐私谱聚类方法,提出隐私算法并刻画隐私预算与恢复准确性之间的权衡,同时给出信息论保证。
2025-05-09 cs.CR cs.IT cs.LG
Exact Label Recovery in Euclidean Random Graphs
Northwestern University(西北大学)
研究加权欧几里得随机图中顶点标签的精确恢复问题,提出基于Chernoff-Hellinger散度的信息论阈值,并设计两阶段高效算法实现阈值可达。
2026-06-16 cs.SI math.PR
Community Detection: Exact Recovery in Weighted Graphs
在社区发现中,主要研究了边缘取自Bernoulli分布的一般随机块模型下社区(簇)的精确恢复问题。本文考虑了完全图中社区的精确恢复,其中图的边来自一组具有社区依赖均值和方差的高斯分布,或一组具有社区依赖均值的指数分布。对于每种情况下,我们引入了一个新的半度量,描述了充分和必要条件的精确恢复。充分必要条件是渐近紧的。分析也扩展到不完全的,完全连接的加权图。
2021-02-08 cs.IT cs.SI eess.SP
Query-Limited Community Recovery in Stochastic Block Models
Microsoft Research(微软研究院);Indraprastha Institute of Information Technology(英德拉普拉斯塔信息技术学院);University of Liverpool(利物浦大学);Aalto University(阿尔托大学)
研究在有限且带噪的网络数据访问下,通过自适应查询策略实现两社区随机块模型的精确社区恢复,并证明自适应查询可突破非自适应基准的信息论极限。
2026-06-01 cs.IT cs.LG cs.SI
Stochastic block models with many communities and the Kesten--Stigum bound
Massachusetts Institute of Technology(麻省理工学院);Brown University(布朗大学);University of California, Davis(加州大学戴维斯分校)
本文研究社区数随顶点数增长的随机块模型,证明KS界之上可高效恢复,KS界之下q≪√n时低度困难、q≫√n时基于非回溯游走的算法可高效恢复,还确定了新阈值及信息论阈值,改进了图估计结果。
2026-08-25 cs.SI math.PR math.ST
Harnessing Multiple Correlated Networks for Exact Community Recovery
Northwestern University(西北大学)
针对从多个相关网络中学习潜在社区结构的问题,本文推导了使用任意常数数量相关图进行精确社区恢复的信息论阈值,解决了两图以上场景的信息聚合挑战,刻画了K≥3时仅K图可恢复而K-1图不可的参数区域。
2024-12-03 cs.IT cs.LG cs.SI
Optimal Cluster Recovery in the Labeled Stochastic Block Model
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);KTH, The Royal Institute of Technology(KTH皇家理工学院)
我们考虑了标记随机块模型(LSBM)中的社区检测或聚类问题,其中有限个$K$簇的大小随项目$n$的全局人口线性增长。每对项目都是随机独立标记的,并且标签$\ell$以$p(i,j,\ell)$的概率出现在分别由$i$和$j$索引的聚类中的两个项目之间。我们的目标是从这些随机标签的观察重建集群。基于SBM及其扩展的聚类算法近年来引起了人们的广泛关注。大多数现有的工作旨在表征的一组参数,以便有可能推断集群正相关的真实集群,或与消失的比例错误分类的项目,或完全匹配的真实集群。我们发现的参数集,使得存在一个聚类算法,最多$s$误分类项目的平均下一般的LSBM和任何$s=o(n)$,解决了一个开放的问题提出了\cite{abbe2015community}。我们进一步开发了一种算法,基于简单的谱方法,实现了这一基本性能限制内的$O(n \mbox{polylog}(n))$计算,没有先验知识的模型参数。
2016-05-21 cs.LG cs.SI math.PR
Information-theoretic bounds for exact recovery in weighted stochastic block models using the Renyi divergence
我们推导出精确恢复的社区在加权随机块模型,观察收集的形式加权邻接矩阵,每个边缘的权重独立于由其端点的社区成员资格所确定的分布而产生的尖锐阈值。我们的主要结果,表征成功和失败的最大似然估计边缘权重时,从离散分布之间的精确边界,涉及Renyi发散的顺序$\frac{1}{2}$之间的分布内社区和社区之间的边缘。当Renyi散度高于某个阈值时,意味着边缘分布充分分离,最大似然法成功,概率趋于1;当Renyi散度低于阈值时,最大似然法失败,概率远离0。在图形通道的语言中,Renyi分歧指出了具有二进制输入的离散图形通道的信息理论容量。我们的研究结果概括了以前建立的阈值,专门为未加权块模型,并支持一个重要的自然直觉有关的内在硬度社区估计的边缘分类的问题。一路上,我们建立了一个一般的关系之间的Renyi分歧和成功的概率的最大似然估计的任意边缘重量分布。最后,我们讨论的后果,我们的界限的相关问题的截尾块模型和子矩阵本地化,这可能被视为特殊情况下,我们的文件中开发的框架。
2015-09-21 cs.IT cs.SI math.IT
Matrix Concentration for Random Signed Graphs and Community Recovery in the Signed Stochastic Block Model
本文针对随机符号图建立邻接矩阵与拉普拉斯矩阵的强集中不等式,并应用于符号随机块模型,证明谱隙集中于2s且第一特征向量符号可弱一致地恢复平衡社区结构。
2024-12-29 cs.LG cs.SI stat.ML
Exact Community Recovery in Bipartite Networks
Chongqing University of Technology(重庆理工大学)
本文针对二部网络中的社区检测问题,提出基于对角删除Gram矩阵的谱聚类算法,证明其在温和条件下可实现精确恢复,并扩展到度校正模型,实验验证了理论结果。
2026-09-14 cs.SI math.ST stat.ML
Community Recovery in the Geometric Block Model
Cornell University(康奈尔大学);University of California, San Diego(加利福尼亚大学圣迭戈分校);Google Research(谷歌研究院)
提出几何块模型以捕捉社区检测的几何特征,利用随机环图连通性结果证明简单三角形计数算法在该模型中近最优,并在对数度数区间内理论和实验表现优异。
2023-11-18 cs.DM cs.IT cs.LG
Dynamic Network Sampling for Community Detection
我们提出了一个动态的网络采样计划,以优化块恢复随机块模型(SBM)的情况下,它是昂贵的,以观察整个图。从理论上讲,我们提供了我们提出的最佳动态采样方案的理由,通过最佳动态采样信息。实际上,我们评估的性能,块恢复,我们的方法在几个真正的数据集从不同的域。理论和实践结果表明,我们的方法可以确定的顶点,有最大的块结构的影响,使人们可以只检查它们之间是否有边缘,以节省大量的资源,但仍然恢复块结构。
2022-12-16 cs.SI math.ST stat.CO
Exact Community Recovery under Side Information: Optimality of Spectral Algorithms
Northwestern University(西北大学);Toyota Technological Institute at Chicago (TTIC)(芝加哥丰田理工学院)
本文针对带节点属性边信息的一般双社区块模型,提出一种结合边信息与观测矩阵特征向量的谱算法,并证明其能达到信息论最优的精确社区恢复性能。
2025-03-10 cs.LG cs.SI
Revisiting Instance-Optimal Cluster Recovery in the Labeled Stochastic Block Model
针对 LSBM 的隐藏社区恢复,提出无需模型参数的两阶段 IAC 算法,在期望和高概率下均达到实例特定下界,并保持近线性复杂度。
2025-08-29 cs.LG cs.SI stat.ML
Exact Community Recovery over Signed Graphs
The Chinese University of Hong Kong(香港中文大学);University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
符号图编码了具有正边和负边的不同实体之间的相似性和相异性关系。本文研究了具有两个相等社团的符号随机块模型(SSBM)生成的符号图上的社团恢复问题。我们的方法是基于SSBM的最大似然估计(MLE)。与许多现有的方法不同,我们的公式表明,一个有符号的图的正负边应该被不平等地对待。然后,我们提出了一个简单的两阶段迭代算法求解正则化极大似然估计。结果表明,在对数度的制度,该算法可以准确地恢复潜在的社区在近线性时间在信息理论的限制。合成和真实数据的数值结果报告,以验证和补充我们的理论发展,并证明所提出的方法的有效性。
2022-02-22 cs.LG cs.SI math.OC
Strong Consistency, Graph Laplacians, and the Stochastic Block Model
University of California at Davis(加州大学戴维斯分校);New York University Shanghai(上海纽约大学)
谱聚类已经成为数据聚类和社区发现中最流行的算法之一。我们研究了经典的两步谱聚类的性能,通过图拉普拉斯学习随机块模型。我们的目标是回答以下问题:通过图拉普拉斯算子的谱聚类何时能够实现强一致性,即,隐藏社区的确切恢复情况我们的工作提供了一个entrywise分析(一个$\ell_{\infty}$ -范数扰动界)的非规范化和规范化的拉普拉斯算子与随机块模型采样的邻接矩阵相关联的菲尔德特征向量。我们证明了谱聚类是能够实现准确的恢复种植的社区结构的条件下,符合信息理论的限制。
2020-04-21 cs.LG cs.SI stat.ML