Measuring and Relieving the Over-smoothing Problem for Graph Neural Networks from the Topological View
Peking University(北京大学);Tencent Inc.(腾讯公司)
图神经网络(GNN)在广泛的基于图的任务上取得了令人满意的性能。尽管它们取得了成功,但GNN的一个严重限制是过度平滑问题(不同类中节点的不可区分表示)。在这项工作中,我们提出了一个系统的和定量的研究GNNs的过平滑问题。首先,我们引入了两个量化指标,MAD和MADGap,分别衡量图节点表示的光滑性和过光滑性。然后,我们验证了平滑是GNN的本质,导致过度平滑的关键因素是节点接收到的消息的低信噪比,这部分由图拓扑决定。最后,我们提出了两种方法来缓解拓扑视图中的过度平滑问题:(1)MADReg,它将基于MADGap的正则化器添加到训练目标中;(2)AdaGraph,它根据模型预测优化图拓扑。在7个广泛使用的图数据集和10个典型的GNN模型上进行的实验表明,所提出的两种方法能够有效地缓解过度平滑问题,从而提高各种GNN模型的性能。
2019-11-18 cs.LG cs.SI stat.ML
Measuring Network Resilience via Geospatial Knowledge Graph: a Case Study of the US Multi-Commodity Flow Network
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
量化粮食系统的复原力对粮食安全问题很重要。在这项工作中,我们提出了一个地理空间知识图谱(GeoKG)为基础的方法来衡量多商品流网络的弹性。具体而言,我们开发了一个CFS-GeoKG本体来全面描述多商品流网络的地理空间语义,并设计了弹性度量,用于测量食品供应链中单源、远距离或非相邻供应商/客户的节点级和网络级依赖性。我们进行了一个案例研究,美国国家一级的农业多商品流网络与层次商品类型。结果表明,通过利用GeoKG,我们的方法支持跨空间和时间测量节点级和网络级的弹性,也有助于发现农业资源在不同地理尺度的空间网络中的集中模式。
2022-10-09 cs.AI cs.SI
Miuz: measuring the impact of disconnecting a node
在这篇文章中,我们提出了Miuz,一个复杂网络的鲁棒性指标。Miuz测量从网络断开节点的影响,同时比较剩余连接组件的大小。严格地说,节点的Miuz定义为最大连通分量的大小除以其余连通分量的大小之和的倒数。我们在攻击策略中测试了我们的索引,其中节点以指定度量的降序断开连接。我们考虑了Miuz和其他著名的中心性度量,如介数、度和调和中心性。所有这些指标进行了比较的鲁棒性(R指数)在攻击过程中的行为。为了模拟互联网骨干网,攻击是在具有幂律度分布的复杂网络(无标度网络)中进行的。初步结果表明,基于断开几个节点Miuz的攻击比基于其他中心性措施的攻击更危险(降低鲁棒性)。我们相信,Miuz以及其他基于最大连通分量大小的度量方法,为复杂网络的其他鲁棒性度量提供了很好的补充。
2016-09-02 cs.SI physics.soc-ph
Certifiable Robustness to Graph Perturbations
Technical University of Munich(慕尼黑工业大学)
尽管人们对图神经网络有着爆炸性的兴趣,但很少有人去验证和提高它们的鲁棒性。考虑到最近的研究结果表明它们在图结构和节点属性上都极易受到对抗攻击,这一点更加令人担忧。我们提出了第一种方法来验证可证明的(非)鲁棒性图扰动的一般类模型,包括图神经网络和标签/特征传播。通过利用与PageRank和Markov决策过程的连接,我们的证书可以有效地(并且在许多威胁模型下准确地)计算。此外,我们研究了强大的训练程序,增加了可证明的强大节点的数量,同时保持或提高清洁的预测精度。
2019-12-19 cs.CR cs.LG cs.SI
Modeling and Measuring Graph Similarity: The Case for Centrality Distance
复杂网络拓扑结构的研究已经吸引了研究者们几十年的时间,今天我们已经对许多不同的复杂网络的类型和重现特性有了相当好的了解。然而,令人惊讶的是,今天对比较复杂图形的模型知之甚少,并定量地测量它们的相似性。本文提出了一种复杂网络的自然相似性度量:中心性距离,即两个图之间关于给定节点中心性的差异。中心距离允许考虑网络中不同节点的特定角色,并有许多有趣的应用。作为一个案例研究,我们考虑了更详细的接近中心,并表明,接近中心距离可以有效地区分随机生成的和实际的两个动态社交网络的进化路径。
2014-06-20 cs.DS cs.SI physics.soc-ph
Measuring Segregation via Analysis on Graphs
本文利用图的分析方法研究了偏析的定量度量。我们专注于一个经典的统计数据,从地理和城市社会学文献被称为莫兰的我,这在我们的语言是一个分数相关的一个图上的实值函数,计算相对于一个空间权重矩阵,如相邻矩阵相关的地理单位,瓷砖一个城市。我们的结果表征极值行为的我说明了重要的作用,基本的图形结构,特别是度分布,在解释的分数。除了标准的空间权重矩阵编码单元邻接之外,我们考虑拉普拉斯算子L和双随机近似M。这些替代方案使我们能够将I与傅立叶分析和随机游动的思想联系起来。我们提供了我们的理论结果与程式化的合成例子和真实的地理/人口数据的混合插图。
2022-05-18 cs.DM cs.SI math.FA
Transferring Robustness for Graph Neural Network Against Poisoning Attacks
Pennsylvania State University(宾夕法尼亚州立大学);University of Central Florida(中佛罗里达大学)
图神经网络(GNNs)在许多应用中得到了广泛的应用。然而,它们对对抗攻击的鲁棒性受到批评。先前的研究表明,对图拓扑或节点特征进行不明显的修改会显着降低GNN的性能。设计抗中毒攻击的鲁棒图神经网络是一个非常具有挑战性的问题,人们已经做了很多努力。现有工作的目的是减少不利的边缘的负面影响,只有中毒的图,这是次优的,因为他们无法区分不利的边缘从正常的。另一方面,来自与目标中毒图相似的域的干净图通常在现实世界中可用。通过扰动这些干净的图,我们创建监督知识来训练检测对抗边缘的能力,从而提高GNN的鲁棒性。然而,这种潜在的干净的图形被忽略了现有的工作。为此,我们研究了一个新的问题,通过探索干净的图来提高GNNs对中毒攻击的鲁棒性。具体来说,我们提出了PA-GNN,它依赖于惩罚聚合机制,通过为它们分配较低的注意力系数来直接限制对抗边缘的负面影响。为了针对中毒图优化PA-GNN,我们设计了一种元优化算法,该算法训练PA-GNN使用干净图及其对抗图来惩罚扰动,并转移这种能力以提高PA-GNN在中毒图上的鲁棒性。在四个真实数据集上的实验结果证明了PA-GNN对图中毒攻击的鲁棒性。代码和数据可以在这里找到:https://github.com/tangxianfeng/PA-GNN。
2020-02-26 cs.CR cs.LG cs.SI
Structure-Aware Robustness Certificates for Graph Classification
University of Oxford(牛津大学)
针对图分类器现有鲁棒性证书因各向同性噪声限制而过于悲观的问题,提出基于各向异性噪声分布的随机平滑方法,生成可在不同图结构间变化的感知结构证书,并在合成与真实实验中验证其优势。
2023-06-24 cs.AI cs.LG cs.SI
Measuring changes in polarisation using Singular Value Decomposition of network graphs
本文提出基于随机点积图和奇异值分解的社交网络极化测量方法,通过嵌入维度下降检测极化,并在Twitter讨论和随机块模型网络中验证其有效性。
2025-06-24 cs.SI physics.soc-ph
Graph measures and network robustness
网络鲁棒性研究的目的是寻找一种度量网络鲁棒性的方法。一旦建立了这样的衡量标准,我们将能够比较网络,改进现有网络,并设计新的网络,这些网络在遇到故障或攻击时能够继续表现良好。本文综述了简单、无向和无权图上的大量鲁棒性度量,旨在为网络管理员提供一种评估和提高网络鲁棒性的工具。本文讨论的措施是基于连通性(包括可靠性多项式),距离,介数和聚类的概念。一些其他的测量是来自谱图理论的概念,更准确地说,它们是拉普拉斯特征值的函数。除了调查这些图的措施,本文还包含了讨论其功能作为衡量拓扑网络的鲁棒性。
2013-11-07 cs.DM cs.SI math.CO
Measuring and Modeling Bipartite Graphs with Community Structure
网络科学是分析从社会学到工程学再到生物学等领域复杂系统的有力工具。本文主要研究大规模二部图(也称为双向图或双模网络)的生成模型。我们提出了两个生成模型,可以轻松调整以再现现实世界网络的特征,不仅是定性的,而且是定量的。我们考虑的特征是度分布和变态系数。变态系数是聚类系数的二分类似物,是参与长度为4的循环的长度为3的路径的比例。变态系数高是群落结构紧密的必要条件。我们定义了边,节点和度变态系数,使更详细的了解的二分连接,这是不能解释的程度分布单独。我们的第一个模型,二分Chung-Lu(CL),能够再现真实世界的度分布,我们的第二个模型,二分块两级Erdös-Rényi(BTER),再现度分布以及度变态系数。我们证明了这些模型的有效性在几个现实世界的数据集。
2016-10-29 cs.SI physics.soc-ph
Identification of Authoritative Nodes and Dismantling of Illicit Networks Using a Novel Metric for Measuring Strength of a Graph
本文针对网络瓦解中强度度量忽视人类感知的问题,提出一种融合结构属性与人类感知的新型图强度度量,并通过实验证明其在识别权威节点和瓦解合成及真实网络方面优于传统方法。
2025-07-17 cs.SI
Minimal Construction of Graphs with Maximum Robustness
University of Michigan(密歇根大学)
本文提出通过构造γ-和(γ,γ)-最小边鲁棒图实现最大鲁棒性,以在资源受限条件下提高网络的稳健一致性。
2026-09-07 cs.SI cs.SY eess.SY
Measuring Node Contribution to Community Structure with Modularity Vitality
社区感知中心性是网络科学中的一个新兴研究领域,关注节点对社区结构的重要性。测度是网络结构和给定分区的函数。以前的方法扩展了经典的中心性措施,占社区结构与社区发现理论的联系不大。相比之下,我们提出了集群质量的活力措施,即,模块化活力,这是一个社区意识的衡量标准,它充分基于中心性和社区发现理论。模块化活力量化了节点对社区结构的积极和消极贡献,表明节点作为社区桥梁或枢纽的作用。我们推导出一个计算效率高的方法,计算模块化生命力的所有节点在O(M + NC)的时间,其中C是社区的数量。我们通过移除中心节点来系统地分割网络,并发现模块化活力始终优于现有的社区感知中心性措施。在百万节点的基础设施网络上,模块化活力的效率是次优方法的8倍以上。这一结果并不适用于社交媒体通信网络,社交媒体通信网络对所有社区感知中心攻击都表现出极强的鲁棒性。这种稳健性表明,以用户为基础的干预措施,以减轻错误信息的传播将是无效的。最后,我们证明了模块化的生命力提供了一种新的方法来社区欺骗。
2021-01-07 cs.SI
On the strengths of connectivity and robustness in general random intersection graphs
随机交图在近二十年来受到了广泛的关注,目前在无线传感器网络的密钥预分配和社交网络建模等方面有着广泛的应用。本文研究了一般随机交图模型的连通性和鲁棒性。具体地说,我们建立了尖锐的渐近0 - 1法律的$k$ -连接和$k$ -鲁棒性,以及渐近精确概率的$k$ -连接,任何正整数$k$。$k$ -连通性属性量化了图的连通性对节点或边故障的弹性。另一方面,$k$ -鲁棒性度量了在存在行为不端节点的情况下在图上传播信息的局部扩散策略(不使用全局图拓扑信息)的有效性。除了给出一般随机交图模型下的结果外,我们还考虑了一般模型的两种特殊情况,即二项式随机交图和均匀随机交图,这两种情况也有许多应用。对于这两个特殊的图,我们的结果的渐近精确概率的$k$ -连通性和渐近0 - 1法律的$k$ -鲁棒性也是新的文献。
2014-09-21 cs.DM cs.SI math.CO
Topologically-Stabilized Graph Neural Networks: Empirical Robustness Across Domains
University of Belgrade, Faculty of Mathemtatics, Studentski trg
本文提出了一种结合持续同调特征和稳定性正则化的图神经网络方法,通过多尺度拓扑特征提升模型在跨领域数据集上的鲁棒性,同时保持较高的准确性。
2025-12-15 cs.LG cs.SI
Graph Vulnerability and Robustness: A Survey
网络鲁棒性的研究是表征和理解复杂互联系统(如基础设施、通信和社交网络)的重要工具。虽然在所有这些领域都进行了大量研究,但在调查文献中仍然存在空白。关键问题的答案目前分散在多个科学领域和众多论文中。在这项调查中,我们提取了许多领域的关键发现,并通过以下方式为研究人员提供了重要信息的关键访问:(1)总结和比较最近和经典的图鲁棒性度量;(2)探索哪些鲁棒性度量最适用于不同类别的网络(例如,社会,基础设施;(3)回顾常见的网络攻击策略,并总结哪些攻击在不同的网络拓扑结构中最有效;以及(4)广泛讨论如何选择防御技术来减轻各种网络中的攻击。该调查指导研究人员和从业人员在网络鲁棒性的广阔领域中导航,同时总结关键问题的答案。最后,我们强调目前的研究方向和开放的问题。
2022-03-30 cs.DS cs.SI
The Infinity Mirror Test for Analyzing the Robustness of Graph Generators
图生成器从源图中学习模型,以便生成具有许多相同属性的新图。每个学习模型都内置的了隐式和显式偏差,理解在生成新图形时所做的假设非常重要。当然,新图和原始图之间的差异,通过任何数量的图属性进行比较,是任何建模任务中固有偏差的重要指标。但是这些关键的差异是微妙的,使用标准的性能指标并不能立即显现出来。因此,我们引入无限远镜测试来分析图生成器的性能和鲁棒性。这种压力测试通过反复递归地将模型拟合到自身来进行。一个完美的图形生成器不会偏离原始或理想的图形,然而,各种模型中隐含的偏见和假设被无限镜像测试夸大了,允许以前没有的新见解。我们表明,通过数百个实验6现实世界的图形,几个常见的图形生成器退化有趣和翔实的方式。我们相信,观察到的退化模式是未来开发更好的图形模型的线索。
2016-06-14 cs.SI physics.soc-ph
A Novel Metric Shows the Robustness of the Graph Communities to Brain-Tractography False-Positives
本文提出两种新度量评估脑纤维束成像质量,并证明图社区估计对连接性高估具有较强鲁棒性。
2020-03-24 cs.SI q-bio.NC
Robustness of shallow graph embedding methods for community detection
Advanced Computing, Mathematics, and Data Division, Pacific Northwest National Laboratory(太平洋西北国家实验室高级计算、数学与数据部门);Department of Mathematics, Indiana University(印第安纳大学数学系);Computer Science and Mathematics Division, Oak Ridge National Laboratory(橡树岭国家实验室计算机科学与数学部门)
本研究通过节点删除扰动实验,比较了矩阵分解与随机游走两类浅层图嵌入方法在社区检测中的鲁棒性,发现node2vec和LLE表现最优,并指出网络规模、社区强度及扰动类型影响鲁棒性。
2026-09-10 cs.LG cs.SI physics.data-an
Robustness of Complex Networks with Implications for Consensus and Contagion
University of Waterloo(滑铁卢大学)
研究图论中的鲁棒性属性,证明在常见复杂网络随机图模型中,鲁棒性与连通性、最小度等属性一致,但判定给定图的鲁棒性是coNP完全的。
2013-08-17 cs.SI cs.SY eess.SY