Stochastic Blockmodels meet Graph Neural Networks
Duke University(杜克大学);IIT Kanpur(印度理工学院坎普尔分校)
随机块模型(SBM)及其变体$e.g.$,混合隶属度和重叠随机块模型,是基于潜在变量的图的生成模型。他们已经被证明是成功的各种任务,如发现社区结构和链接预测的图形结构的数据。最近,图神经网络,$e.g.$,图卷积网络,也已经出现作为一个有前途的方法来学习强大的表示(嵌入)的图中的节点,通过利用图形属性,如局部性和不变性。在这项工作中,我们统一了这两个方向,开发一个\emph{sparse}变分自编码器的图形,保留了SBM的可解释性,同时也享有良好的预测性能的图形神经网络。此外,我们的框架还伴随着一个快速识别模型,该模型可以快速推断节点嵌入(这对于SBM及其变体的推断具有独立的意义)。虽然我们开发了一个特定类型的SBM,即\emph{overlapping}随机块模型的框架,所提出的框架可以很容易地适应其他类型的SBM。多个基准测试的实验结果表明,在学习可用于社区发现的可解释潜在结构的同时,在链接预测方面取得了令人鼓舞的结果。
2019-05-14 cs.LG cs.SI stat.ML
Entropy of stochastic blockmodel ensembles
随机块模型是生成网络模型,其中顶点被分成离散的组,并且两个顶点之间存在边的概率仅由它们的组成员关系确定。在本文中,我们推导出表达式的随机块模型集成的熵。我们考虑了几种集成变体,包括传统模型以及新引入的度校正版本[Karrer et al. Phys. Rev. E 83,016107(2011)],除了块结构之外,该版本还对顶点施加了度序列。所施加的度序列被实现为“软”约束和“硬”约束两者,在“软”约束中,仅施加预期的度,在“硬”约束中,它们被要求在集合的所有样本上相同。我们还考虑了多重图和有向图的推广。我们说明了这种措施的许多应用之一,直接从熵表达式导出一个对数似然函数,并使用它来推断潜在的块结构中观察到的数据。由于所考虑的合奏的一般性质,该方法适用于合奏与内在的程度相关性(即熵的起源)以及外在的程度相关性,这超出了块结构。
2013-11-11 cond-mat.stat-mech cs.SI physics.data-an
Consistency of regularized spectral clustering in degree-corrected mixed membership model
China University of Mining and Technology(中国矿业大学);Nankai University(南开大学)
网络分析中的社区发现是近年来的一个研究热点。在度校正混合隶属度(DCMM)模型下,提出了一种基于正则化拉普拉斯矩阵的混合正则化谱聚类(Mixed-RSC)方法.基于种群正则化Laplacian矩阵的特征分解的变体的理想锥结构,设计了混合RSC。我们证明了该算法是渐近一致的温和条件下,通过提供每个节点的推断成员向量的误差界。作为我们界限的副产品,我们提供了正则化参数τ的理论最佳选择。为了证明我们的方法的性能,我们将其与以前的基准方法一起应用于模拟和真实网络。据我们所知,这是第一个工作,设计的混合隶属度社区发现问题DCMM模型下的谱聚类算法的基础上应用正则化拉普拉斯矩阵。
2021-08-27 cs.LG cs.SI stat.ML
Mixed membership distribution-free model
School of Economics and Finance, Chongqing University of Technology(重庆理工大学经济金融学院)
本文提出混合隶属分布自由模型,用于重叠加权网络社区检测,并设计谱算法、模糊加权模块度及社区数量确定方法,通过模拟和实际数据验证其有效性。
2024-04-05 cs.LG cs.SI physics.soc-ph
Learning Mixed Membership Community Models in Social Tagging Networks through Tensor Methods
University of California, Irvine(加州大学欧文分校);University of Southern California(南加州大学)
图中的社区发现在理论和应用上都得到了广泛的研究。然而,在超图中检测社区更具挑战性。在本文中,我们提出了一个张量分解方法,保证学习的社区在一类特殊的超图建模社会标签系统或大众分类。一个大众分类法是一个由(用户,标签,资源)超边组成的三方3-均匀超图。我们构造了一个概率混合成员社区模型,并证明了张量方法在有效的样本复杂度和分离要求下一致地学习社区。
2015-04-22 cs.LG cs.SI stat.ML
Mixed-SCORE+ for mixed membership community detection
Mixed-SCORE是Jin等人(2017)提出的混合成员社区发现的最新方法,是SCORE(Jin,2015)的扩展。在Jin et al.(2018)的注释中,作者提出SCORE+作为SCORE的改进,以处理弱信号网络。本文在Mixed-SCORE和SCORE+的基础上,提出了Mixed-SCORE+,从而继承了Mixed-SCORE和SCORE+的优点。在所提出的方法中,我们考虑K+1个特征向量时,有K个社区检测弱信号网络。并构造了顶点搜索和成员关系重构步骤,解决了混合成员关系社区发现问题。数值结果表明,与几种基准方法相比,Mixed-SCORE+在Polblogs网络和两种弱信号网络Simmons和Caltech上的性能有了显著的改善,错误率分别为出错率54/1222、125/1137和94/590。此外,Mixed-SCORE+在SNAP自我网络上具有出色的性能。
2020-12-07 cs.SI stat.ML
A Tensor Approach to Learning Mixed Membership Community Models
University of California, Irvine(加州大学欧文分校);Princeton University(普林斯顿大学);Microsoft Research, New England(微软研究院新英格兰分院)
社区发现是从观察到的交互中发现隐藏社区的任务。有保证的社区发现到目前为止主要限于具有非重叠社区的模型,例如随机块模型。在本文中,我们删除了这一限制,并提供保证社区发现的概率网络模型与重叠的社区,被称为混合成员Dirichlet模型,首先介绍了Airoldi等人。该模型允许节点在多个社区的分数成员资格,并假设社区成员资格是从Dirichlet分布。此外,它包含随机块模型作为一种特殊情况。我们提出了一个统一的方法来学习这些模型通过张量谱分解方法。我们的估计是基于观测网络的低阶矩张量,由3星计数组成。我们的学习方法是快速的,并且基于简单的线性代数运算,例如奇异值分解和张量幂迭代。我们提供保证恢复社区成员和模型参数,并提出了一个仔细的有限样本分析我们的学习方法。作为一个重要的特殊情况下,我们的研究结果匹配的(齐次)随机块模型的最知名的缩放要求。
2013-10-24 cs.LG cs.SI stat.ML
Co-evolution of Selection and Influence in Social Networks
许多网络是复杂的动态系统,其中节点的属性和网络的拓扑结构(链路结构)都可以随时间而变化。我们提出了一个协同演化网络模型,其中节点属性和网络结构在相互影响下演化。具体来说,我们考虑一个混合成员随机块模型,其中观察到两个节点之间的链接的概率取决于它们当前的成员向量,而这些成员向量本身在节点之间存在链接的情况下演变。因此,网络是由描述节点的随机过程的相互作用形成的,而过程本身受到网络结构变化的影响。我们推导出一个有效的变分推理程序,我们的模型,并验证模型的合成和真实世界的数据。
2011-06-14 cs.SI physics.soc-ph stat.ML
Estimating Mixed Memberships with Sharp Eigenvector Deviations
我们考虑的问题,估计社区成员的节点在网络中,每个节点都与一个向量,确定其在每个社区的成员程度。现有的可证明一致的算法往往需要强有力的假设人口,计算昂贵,只提供了一个整体的错误界为整个社区成员矩阵。本文提供了统一的收敛速度的推断社区成员向量的每个节点在网络中产生的混合成员随机块模型(MMSB),据我们所知,这是第一次工作,建立每个节点的重叠社区检测率网络。我们通过建立MMSB的行特征向量偏差界限来实现这一点。基于人口矩阵的特征分解中固有的单纯形结构,我们建立在优化社区的角点发现算法来推断社区成员向量。我们的研究结果保持在一个广泛的参数制度,平均度只增长poly-dimensionally与节点的数量。使用模拟和真实数据集的实验表明,我们的方法比竞争方法具有更低的可变性,并且在数十秒内处理多达100,000个节点的真实网络。
2019-11-24 cs.SI math.ST physics.soc-ph
Optimal Noise Reduction in Dense Mixed-Membership Stochastic Block Models under Diverging Spiked Eigenvalues Condition
针对稠密 MMSB 中的重叠社区关系重建问题,论文建立估计误差极小极大下界,并提出达到该下界的最优估计量,且通过实验验证理论。
2025-06-11 cs.LG cs.SI stat.ML
Non-asymptotic goodness-of-fit tests and model selection in valued stochastic blockmodels
本文针对有值随机块模型提出非渐近拟合优度检验方法,推导马尔可夫基移动并定义统计量,验证功效与错误率,并应用于生态网络以选择块数量,结论与文献不同。
2025-10-15 cs.SI math.ST stat.ME
Inference and Visualization of Community Structure in Attributed Hypergraphs Using Mixed-Membership Stochastic Block Models
Graduate School of Systems Design, Tokyo Metropolitan University(东京 Metropolitan 大学系统设计研究生院);Principles of Informatics Research Division, National Institute of Informatics(国家信息研究所信息原理研究部门)
本文提出HyperNEO框架,结合混合成员随机块模型与降维方法,在保留节点社区成员关系的前提下实现带属性超图社区结构的推断与可视化。
2025-05-04 cs.LG cs.SI
Estimating mixed memberships in multi-layer networks
针对传统多层网络社区检测假设节点单社区归属的局限,提出基于三种聚合矩阵特征分解的谱方法估计混合成员身份,给出理论保证与实验验证,并提出两种模块度指标用于现实网络社区质量量化。
2024-09-12 cs.SI stat.ML
An improved spectral clustering method for mixed membership community detection
社区发现近年来得到了很好的研究,但更现实的情况下,混合成员社区发现仍然是一个挑战。在这里,我们开发了一个有效的频谱算法Mixed-ISC的基础上,应用超过K个特征向量聚类给定K个社区,估计社区成员的度校正的混合成员(DCMM)模型。我们证明了该算法是渐近相容的。模拟网络和许多经验网络的数值实验表明,混合ISC表现良好的混合成员社区发现的基准方法相比。特别是,混合ISC在弱信号网络上提供了令人满意的性能。
2020-12-11 cs.SI
Dynamic Behavioral Mixed-Membership Model for Large Evolving Networks
Purdue University(普渡大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
大多数真实世界的网络是动态的并且非常大(例如,互联网流量、Twitter、Facebook等)。为了理解这些大型动态网络中节点的结构行为,可能有必要对代表主要连接模式的行为角色随时间的动态进行建模。在本文中,我们提出了一个动态的行为混合成员模型(DBMM),捕捉图中的节点的角色,以及它们如何随着时间的推移而演变。与其他以节点为中心的模型不同,我们的模型是可扩展的,用于分析大型动态网络。此外,DBMM是灵活的,无参数,没有函数形式或参数化,并且是可解释的(识别可解释的模式)。性能结果表明,我们的方法可以应用于非常大的网络,而实验结果表明,我们的模型揭示了这些网络的动态有趣的模式。
2012-05-09 cs.LG cs.SI physics.soc-ph
Bipartite mixed membership distribution-free model. A novel model for community detection in overlapping bipartite weighted networks
针对重叠二分加权网络缺乏建模方法的问题,提出无分布的 BiMMDF 模型及一致性估计算法,支持符号网络与缺失边,并在合成和八个真实网络上验证优势。
2024-04-05 cs.SI physics.data-an stat.ML
Mixed membership estimation for categorical data with weighted responses
针对含连续或负加权响应的分类数据,本文提出更通用的 WGoM 模型及混合隶属度估计算法,并通过模糊加权模块度确定类别数 K。
2025-08-29 cs.SI stat.ML
Finding mixed memberships in categorical data
本文针对分类数据中重叠潜在类别的挑战,采用隶属度模型寻找主体的潜在混合隶属关系,提出了两种基于正则化拉普拉斯矩阵奇异值分解的高效光谱算法,并引入评估指标确定最佳潜在类别数,在合成与真实数据集上验证了方法的实用性。
2024-06-05 cs.SI
Dynamic Mixed Membership Stochastic Block Model for Weighted Labeled Networks
Université de Lyon(里昂大学);Lyon 2(里昂第二大学)
本文提出动态混合成员随机块模型,通过引入时间先验推断动态标签网络,在极少训练数据下仍保持鲁棒性能,拓展了机器学习在社会科学等小数据领域的应用。
2023-04-12 cs.IR cs.LG cs.SI
Link Fraction Mixed Membership Reveals Community Diversity in Aggregated Social Networks
Leiden University(莱顿大学);University of Amsterdam(阿姆斯特丹大学)
本文提出Link Fraction Mixed Membership方法,用于分析聚合社会网络中的社区多样性,通过保留不同尺度下的社区成员身份总和,揭示地理区域社区结构的变化及城市枢纽的融合作用。
2026-10-09 cs.SI physics.soc-ph
Serialized Interacting Mixed Membership Stochastic Block Model
Université de Lyon(里昂大学)
最近几年,在推荐系统中使用随机块模型(SBM)的兴趣又恢复了。这些模型被视为能够处理标记数据的张量分解技术的灵活替代方案。最近的工作提出了解决离散推荐问题,通过SBM考虑更大的上下文作为输入数据,并通过添加上下文的相关元素之间的二阶交互。在这项工作中,我们表明,这些模型都是一个单一的全球框架的特殊情况下:串行交互混合成员随机块模型(SIMSBM)。它允许对任意大的上下文以及任意高阶的交互进行建模。我们证明了SIMSBM概括了最近几个基于SBM的基线。此外,我们还证明了我们的公式可以在六个真实世界的数据集上提高预测能力。
2022-09-16 cs.IR cs.LG cs.SI
Mixed-Membership Stochastic Block-Models for Transactional Networks
Acadia University(阿卡迪亚大学)
transmitting网络数据可以被认为是一对多通信的列表(例如,电子邮件)。大多数社交网络模型将这种类型的数据转换为节点对之间的二元关系。我们开发了一个潜在的混合成员资格模型,能够建模更丰富的形式的交易网络数据,包括两个以上的节点之间的关系。该模型能够实现节点的聚类和事务的预测。该模型的块模型性质意味着可以以非常一般的方式描述群体。这种灵活的组结构概念使得能够在事务网络中发现丰富的结构。通过变分期望最大化算法完成估计和推断。仿真结果表明,该学习算法能够恢复正确的生成模型。在安然电子邮件数据集和从Reddit网站提取的另一个数据集中发现了有趣的结构。Reddit数据的分析是通过一种新的性能指标来比较两个软集群的。新模型在发现组中的混合成员和预测事务方面更优越。
2010-10-07 cs.AI cs.SI stat.AP
A Mixed-Membership Model for Social Network Clustering
该研究提出一种用于社交网络聚类的混合隶属度模型,采用灵活函数衡量实体亲和度,支持多隶属身份并能准确推断网络结构,通过MCMC算法估计参数,在真实与合成数据集上验证了有效性。
2023-08-24 cs.SI physics.soc-ph stat.AP
Accurate and scalable social recommendation using mixed-membership stochastic block models
Universitat Rovira i Virgili(罗维拉-威尔吉利大学);Institució Catalana de Recerca i Estudis Avançats (ICREA)(加泰罗尼亚研究与高级研究院);Santa Fe Institute(圣塔菲研究所)
随着在线信息量的不断增加,建模和预测个人偏好(例如书籍或文章)变得越来越重要。良好的预测使我们能够改进对用户的建议,并更好地理解决定这些偏好的社会心理过程。我们已经开发了一个协同过滤模型,与相关的可扩展的算法,使个人的偏好准确的预测。我们的方法基于明确的假设,即存在由个人和物品组成的群体,并且个人对物品的偏好仅由他们的群体成员身份决定。重要的是,我们允许每个人和每个项目同时属于不同群体的混合物,与许多流行的方法不同,如矩阵分解,我们不隐含或明确地假设每个群体中的个人更喜欢一组项目中的项目。由此产生的重叠组和预测的偏好可以用期望最大化算法来推断,该算法的运行时间线性缩放(每次迭代)。我们的方法使我们能够预测大型数据集中的个人偏好,并且比目前针对此类大型数据集的算法准确得多。
2016-04-06 cs.IR cs.LG cs.SI
The Nonparametric Metadata Dependent Relational Model
Brown University(布朗大学)
我们介绍了非参数元数据依赖关系(NMDR)模型,贝叶斯网络数据的非参数随机块模型。NMDR允许与每个节点相关联的实体在潜在社区的无界集合中具有混合成员资格。学习回归模型允许这些成员资格依赖于任意节点元数据,并根据任意节点元数据进行预测。我们开发了有效的MCMC算法学习NMDR模型部分观察到的节点关系。回顾MCMC方法允许我们的采样器直接与NMDR的无限棒断裂表示,避免了有限截断的需要。我们的研究结果表明,从现实世界的社会和生态网络中恢复有用的潜在社区,以及元数据在链接预测任务中的有用性。
2012-06-27 cs.LG cs.SI stat.ML
Scalable Community Detection in Massive Networks Using Aggregated Relational Data
针对大规模网络下MMSB社区检测计算不可行的问题,提出基于聚合关系数据的小批量策略与并行随机变分推理方法,在超大规模引文网络与模拟网络上均取得良好效果。
2024-05-23 cs.SI
PriME: Privacy-aware Membership profile Estimation in networks
Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学);The Ohio State University(俄亥俄州立大学)
PriME通过隐私保护机制实现网络中社区成员资格的准确估计,结合对称边翻转与谱聚类,提供最优隐私保护下的估计方法。
2025-11-25 cs.SI math.ST stat.ME
The SCORE normalization, especially for highly heterogeneous network and text data
SCORE是一种用于网络社区发现的谱方法。由于许多网络具有严重的度异质性,普通的谱聚类(OSC)方法的社区发现可能无法令人满意的表现。SCORE通过在谱域引入新的归一化思想来缓解度异质性的影响,使OSC更加有效。SCORE易于使用,计算速度快。它很容易适应新的方向,并在实践中看到越来越多的兴趣。本文综述了SCORE的基本原理,SCORE在网络混合隶属度估计和主题建模中的应用,以及SCORE在实际数据中的应用,包括两个统计学家发表的数据集。我们还回顾了SCORE的理论“意识形态”。我们表明,在谱域中,SCORE转换一个单纯锥到一个单纯形,并提供了一个简单而直接的联系之间的单纯形和网络成员。SCORE算法在社区发现中具有指数级的检测率和尖锐的相变,在混合隶属度估计和主题建模中具有最优的检测率。
2022-04-23 cs.SI stat.ME
HM-LDM: A Hybrid-Membership Latent Distance Model
复杂网络建模的核心目标是准确地嵌入网络,以检测结构并预测链路和节点属性。潜在空间模型(LSM)已经成为嵌入网络的重要框架,其中包括潜在距离(LDM)和特征模型(LEM)作为最广泛使用的LSM规范。对于潜在的社区发现,LDM中的嵌入空间被赋予了聚类模型,而LEM被限制为基于部分的非负矩阵分解(NMF)启发的表示,以促进社区发现。目前,我们调和LSM与潜在的社区发现的LDM表示的D-单纯形形成的混合成员潜在距离模型(HM-LDM)。我们表明,对于足够大的单纯体积,这可以实现而不损失的表达能力,而通过扩展模型平方欧几里德距离,我们恢复LEM制定与约束促进部分为基础的表示类似于NMF。重要的是,通过系统地减少单纯形的体积,该模型变得独特,并最终导致节点到单纯形角的硬分配。我们通过实验证明了所提出的HM-LDM如何在确保可识别性和有效社区提取的制度中承认准确的节点表示。重要的是,HM-LDM自然地调和软和硬社区发现与网络嵌入探索一个简单的连续优化过程的体积约束的单纯形,允许硬和混合成员社区发现之间的权衡系统的调查。
2022-07-20 cs.SI
Revisiting Role Discovery in Networks: From Node to Edge Roles
Intel Labs(英特尔实验室);Palo Alto Research Center(帕洛阿尔托研究中心)
以前的网络分析工作集中在对图中节点角色的混合成员关系建模,而不是对边的角色建模。我们介绍了边缘角色发现问题,并提出了一个可推广的框架,学习和提取边缘角色从任意图自动。此外,虽然现有的以节点为中心的角色模型主要集中在简单的程度和egonet功能,这项工作还探讨了角色发现的graphlet功能。此外,我们还开发了一种方法,自动学习和提取重要的和有用的边缘功能,从任意图。实验结果表明,从各种问题域的各种图形的网络分析任务的边缘角色的效用。
2016-11-07 cs.LG cs.SI stat.ML
Overlapping community detection in weighted networks
本文提出加权度修正混合成员(WDCMM)生成模型,将DCMM扩展到加权网络,结合谱算法与重叠加权模块度,实现重叠社区检测并确定社区数,在模拟和真实网络中验证优势。
2025-10-07 cs.SI physics.data-an
Bilinear Mixed-Effects Models for Affiliation Networks
关系网络是一种特殊类型的双模式社交网络,由一组“行为者”和一组“事件”组成,其中关系表示行为者参与事件。虽然网络描述了各种后果的社会结构,统计方法研究隶属关系网络的方法不如研究单模式,或演员演员,网络的发展。分析联系网络的一种方法是考虑从联系网络导出的单模式网络矩阵,但这种方法可能会导致数据的重要结构特征丢失。最全面的方法是同时研究行为者和事件。在本文中,我们扩展了双线性混合效应模型,一种类型的潜在空间模型开发的单模式网络,通过考虑的依赖模式之间的相互作用的演员和事件的关系网络设置,并描述了马尔可夫链蒙特卡罗算法的贝叶斯推断。我们用我们的模型来探索在中西部大都市地区的种族多元化的高中学生的课外活动成员的模式。使用技术从空间点模式分析,我们展示了我们的模型可以提供洞察种族隔离的模式,在自愿的课外活动参与配置文件的青少年。
2015-06-10 cs.SI stat.ME