Rate-optimal graphon estimation
网络分析正成为统计学中最活跃的研究领域之一。近年来,网络分析的理论、方法和算法的发展取得了重大进展。然而,对最优估计的基础研究却很少。本文建立了图子估计的最优收敛速度。对于$k$簇的随机块模型,我们证明了在均方误差下的最优速率是$n^{-1}\log k+k^2/n^2$。极大极小上界通过求解二次方程的技巧改进了文献中已有的结果。当$k\leq\sqrt{n\log n}$时,随着集群$k$数量的增长,极大极小化率缓慢增长,仅具有对数阶$n^{-1}\log k$。建立下界的一个关键步骤是构造一个新的参数空间的子集,然后应用Fano引理,从中我们看到了一个明显的区别,从经典的非参数回归,由于缺乏可识别的节点的顺序在可交换的随机图模型的非参数图子估计问题。作为一个直接的应用,我们考虑非参数graphon估计的Hölder类光滑$α$。当光滑$α\geq1$时,最优收敛速度是$n^{-1}\log n$,与$α$无关,而对于$α\in(0,1)$,速度是$n^{-2α/(α+1)}$,令人惊讶的是,这与经典的非参数速度相同。
2015-11-17 math.ST stat.TH
Change-point detection in dynamic networks via graphon estimation
我们提出了一种通用的方法在动态网络中的变点检测。所提出的方法是无模型的,并涵盖了广泛的动态网络。我们的方法背后的关键思想是有效地利用网络结构设计变点检测算法。这是通过图子估计的初始步骤来完成的,在这里我们提出了一个改进的邻域平滑算法来估计动态网络的链路概率矩阵。在初始图子估计的基础上,提出了一种动态网络多变点检测的筛选和阈值算法。的收敛速度和一致性的变化点检测过程中,以及MMBS。当节点的数量很大时~(例如,超过时间点的数量),我们的方法产生更快的收敛速度,在检测变化点相比,简单地采用平均信息的动态网络在整个时间的算法。数值实验表明,所提出的算法的鲁棒性能的变化点检测在各种类型的动态网络,并观察到优于现有的方法。一个真实的数据例子来说明该程序的有效性和实际影响。
2019-08-05 math.ST stat.ME stat.TH
Learning Graphon Autoencoders for Generative Graph Modeling
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Tencent AI Lab(腾讯人工智能实验室)
图子是一种非参数模型,它可以生成任意大小的图,并且可以很容易地从图中导出。基于此模型,我们提出了一个新的算法框架称为\textit{graphon autoencoder},建立一个可解释和可扩展的图生成模型。该框架将观察到的图作为函数空间中的诱导图子,并通过聚合切布雪夫图子过滤器的编码器导出其潜在表示。线性图子分解模型作为解码器,利用潜在表示来重建诱导图子(以及相应的观察图)。我们开发了一个有效的学习算法来学习编码器和解码器,最小化模型和数据分布之间的Wasserstein距离。该算法以不同图子条件下的图分布的KL散度为基础距离,得到了一个奖励增强的极大似然估计。图子自动编码器提供了一种新的图形表示和生成方法,具有良好的通用性和可移植性。
2021-05-29 cs.LG cs.SI stat.ML
Parameter estimation for graphon-interacting particle systems from discrete observations
Universitat Pompeu Fabra(庞佩法布拉大学);Barcelona School of Economics(巴塞罗那经济学院);University of Padova(帕多瓦大学)
本文针对图论加权平均场框架下异质粒子系统,提出基于伪似然的对比函数,在离散观测下联合估计漂移和扩散系数,证明估计量的一致性和渐近正态性。
2026-09-21 math.PR math.ST stat.TH
Nonparametric Two-Sample Test for Networks Using Joint Graphon Estimation
本研究针对网络统计推断比较问题,采用平滑graphon非参数模型,通过EM型算法实现多网络联合建模与广义对齐,构建卡方检验判断网络结构等价性,经模拟和实例验证了策略适用性。
2023-03-28 stat.ME
A Spectral Framework for Graph Neural Operators: Convergence Guarantees and Tradeoffs
Applied Mathematics and Statistics(应用数学与统计学);Johns Hopkins University(约翰霍普金斯大学)
本文提出统一谱框架,分析图神经算子在无正则性、全局Lipschitz连续和分段Lipschitz连续假设下的收敛率与权衡。
2026-05-24 cs.LG eess.SP stat.ML
Optimal Estimation and Completion of Matrices with Biclustering Structures
数据矩阵中的双聚类结构首先在John Hartigan(1972)的一篇开创性论文中正式化,其中试图同时聚类案例和变量。这种结构在网络的块建模中也很普遍。在本文中,我们开发了一个统一的理论估计和完成矩阵的双聚类结构,其中的数据是一个部分观察和噪声污染的数据矩阵具有一定的双聚类结构。特别是,我们表明,约束最小二乘估计实现最小最大速率最优性能在几个最重要的情况下。为此,我们得到统一的高概率上界的所有子高斯数据,并提供匹配的极大极小下界在高斯和二进制的情况下。由于图子与随机块模型的密切联系,我们的一般结果的直接后果是稀疏图子的极小极大率最优估计。
2018-10-22 math.ST stat.ML stat.TH
Distributional Limits for Eigenvalues of Graphon Kernel Matrices
Department of Mathematical Sciences, University of Cincinnati(辛辛那提大学数学科学系)
本文研究了图核矩阵特征值的分布极限,揭示了非退化和退化情形下的不同波动行为,扩展了经典算子级论证的范围。
2026-10-14 math.PR math.ST stat.TH
Bootstrap estimators for the tail-index and for the count statistics of graphex processes
Graphex过程解决了传统随机图模型中的一些问题,特别是提供了既可投射又允许稀疏的模型。大多数关于graphex过程的文献从概率的角度研究它们。用于推断这些过程的参数的技术--所谓的\textit{graphon} --仍然是边缘性的;例外的是考虑参数化的图子族的一些论文。非参数估计仍然未被考虑。在本文中,我们提出了一个选定的选择泛函的graphon估计。我们的估计源自graphex过程的子抽样理论,因此可以被看作是一种形式的自助程序。
2021-01-04 math.ST stat.TH
Entropy of Exchangeable Random Graphs
本文提出一套 graphon 熵估计器以量化可交换随机图的复杂度,建立其收敛速率与中心极限定理,并通过仿真和实际应用验证其有效性。
2025-03-13 cs.IT math.CO math.IT
Stochastic blockmodel approximation of a graphon: Theory and consistent estimation
Harvard University(哈佛大学)
基于可交换图模型(ExGM)的网络数据非参数分析方法最近引起了人们的兴趣。定义ExGM的关键对象通常称为graphon。网络建模的这种非参数化的观点提出了一个具有挑战性的问题,即如何对观察到的网络数据的底层图进行推断。在本文中,我们提出了一个计算效率高的过程来估计一个图子从一组观察到的网络从它产生。这个过程是基于随机块模型近似(SBA)的图子。我们表明,通过近似的graphon与随机块模型,graphon可以一致地估计,也就是说,估计误差消失的大小的图接近无穷大。
2013-11-08 cs.LG cs.SI physics.data-an
On the Estimation of Network Complexity: Dimension of Graphons
Laboratoire de Mathématiques d’Orsay(奥赛数学实验室);Université Paris-Saclay(巴黎萨克雷大学)
网络复杂性的研究已经有半个多世纪的历史,并得到了广泛的应用。已经开发了许多方法来表征和估计网络的复杂性。然而,很少有统计保证的研究。在本文中,我们开发了一个一般模型的随机图,所谓的graphon模型的图的复杂性的统计理论。给定一个图子,我们赋予节点的潜在空间以邻域距离,该距离度量两个节点与相似节点连接的倾向。然后,我们的复杂性指数基于这个度量空间(的纯化版本)的覆盖数和Minkowski维数。虽然潜在空间是不可识别的,但这些指标是可识别的。这个复杂性的概念在随机图的流行例子中有简单的解释:它匹配随机块模型中的社区数量;随机几何图中欧氏空间的维数;霍德尔图子模型中链接函数的正则性。从一个单一的观察图,我们构建了一个估计的邻域距离,并显示其风险的普遍非渐近界,匹配极大极小下界。基于这个估计的距离,我们计算相应的覆盖数和Minkowski维数,我们提供了这两个插件估计的最佳非渐近误差界。
2021-01-12 cs.LG cs.SI math.ST
Graphon Estimation from Partially Observed Network Data
Indian Statistical Institute(印度统计研究所);Indian Institute of Technology, Kanpur(印度理工学院坎普尔分校)
我们考虑在没有观测到整个网络--只有一些重叠的子图--的情况下,估计由图子模型生成的网络的边概率矩阵。我们将Zhang等人(2017)的邻域平滑(NBS)算法扩展到这种缺失数据设置,并通过实验表明,对于各种各样的图子,扩展的NBS算法实现了比标准图子估计算法(如香草邻域平滑(NBS),通用奇异值阈值(USVT),块模型近似,矩阵完成,我们还表明,扩展的NBS算法是更强大的缺失数据。
2019-06-27 cs.LG stat.ME stat.ML
An iterative step-function estimator for graphons
可交换图是通过采样过程从称为图子的可测函数中产生的。一个自然的估计问题是,我们可以恢复一个图子给定的一个单一的图从它的采样。一个一般的框架,用于估计一个图子使用的步骤函数,通过分区的图的节点根据一些聚类算法获得。我们提出了一个迭代的阶梯函数估计(ISFE),给定一个初始分区,迭代集群节点的基础上,他们的边缘密度相对于前一次迭代的分区。我们分析了ISFE,并证明其性能与其他graphon估计技术相比。
2015-05-12 math.ST stat.CO stat.ML
Reducing Crowdsourcing to Graphon Estimation, Statistically
以无监督的方式基于多个嘈杂的答案推断二元任务的正确答案已经成为微任务众包或更一般地聚合意见的典型问题。在图子估计中,人们感兴趣的是使用图实现的单个快照来估计节点之间的边缘强度或概率。在最近的文献中,这两个主题都有令人兴奋的发展。在众包的背景下,关键的智力挑战是了解是否可以通过聚合从其他不同任务收集的答案来更准确地对给定任务进行降噪。在图子估计的背景下,精确的信息限制和估计算法仍然感兴趣。在本文中,我们利用从众包到图子估计的统计减少来推进这两个挑战的最新技术。我们使用的概念,从图子估计设计一个算法,实现更好的性能比{ \em多数表决}计划的设置,超越了在文献中考虑的{ \em秩一}模型。我们使用已知的明确的众包下限,以提供精细的图子估计的下限。
2019-07-26 stat.ML
Graphon-aided Joint Estimation of Multiple Graphs
Rice University(莱斯大学)
我们考虑从节点观测估计多个网络的拓扑结构的问题,其中这些网络被假定为从相同的(未知的)随机图模型绘制。我们采用一个graphon作为我们的随机图模型,这是一个非参数模型,从该模型中可以绘制出可能不同大小的图。图子的多功能性使我们能够解决联合推理问题,即使在要恢复的图包含不同数量的节点并且缺乏跨图的精确对齐的情况下。我们的解决方案是基于结合的极大似然惩罚与graphon估计方案,并可用于增强现有的网络推理方法。我们验证我们提出的方法,通过比较其性能与竞争的方法在合成和真实世界的数据集。
2022-02-11 cs.LG eess.SP stat.ML
Leave-One-Out Neighborhood Smoothing for Graphons: Berry--Esseen Bounds and Edge-Wise Confidence Intervals
University of Cincinnati(辛辛那提大学)
本文提出留一法邻域平滑方法,通过解耦邻域选择与边平均,恢复条件独立性,从而实现对图ons中单个边概率的置信区间估计和诚实调参。
2026-10-29 stat.ME
Maximum Likelihood Estimation of Sparse Networks with Missing Observations
连接概率矩阵的估计是研究稀疏网络的关键问题之一。在这项工作中,我们考虑稀疏图子模型和非齐次随机图模型下产生的网络与丢失的观察。使用随机块模型作为参数代理,我们限制了网络连接概率的极大似然估计的风险,并证明了它是极小极大最优的。当风险以Frobenius范数度量时,在多项式时间内运行的估计器都不能达到这个问题的最小最大最优收敛速率。因此,极大似然估计是特别感兴趣的,因为在文献中已经提出了对它的计算有效的近似,并且经常在实践中使用。
2021-04-27 math.ST stat.TH
Towards Optimal Estimation of Bivariate Isotonic Matrices with Unknown Permutations
Yale University(耶鲁大学);UC Berkeley(加州大学伯克利分校)
许多应用,包括秩聚合、群标记和图子估计,可以根据具有作用于其行和/或列的未知排列的二元保序矩阵来建模。我们考虑的问题,估计一个未知的矩阵在这类中,基于噪声观测(可能是一个子集)的条目。我们设计和分析多项式时间算法,提高了两个不同的指标,特别是最小最大优化,计算效率的估计是在某些设置中实现的。一路上,我们证明了匹配的上限和下限的极小极大半径的某些锥测试问题,这可能是独立的利益。
2019-10-27 cs.IT cs.LG math.IT
Distributed Cartesian Power Graph Segmentation for Graphon Estimation
UC Davis(加州大学戴维斯分校);UC Berkeley(加州大学伯克利分校)
本文研究了图像上的全变分去噪方法在笛卡尔幂图上的推广及其在非参数网络模型估计中的应用。功率图融合套索(PGFL)通过在行和列上利用已知的图形结构$G$来分割矩阵。我们的主要结果表明,对于任何连通图,在subGaussian噪声下,PGFL实现了相同的均方误差率为2D的有界变化的信号的全变分去噪。我们研究使用PGFL去噪观察到的网络$H$,在那里我们学习的图形$G$的$K$-最近的邻域图的估计度量的顶点。我们提供了理论和实证结果估计图子,非参数交换网络模型,并比较最先进的图子估计方法。
2018-05-25 cs.LG stat.ME stat.ML
Estimation of dense stochastic block models visited by random walks
我们感兴趣的是恢复信息的随机块模型从子图发现的探索随机游动。随机块模型对应于被构造成有限数量的类型的群体,其中两个个体通过独立于其他对的边缘连接,并且概率取决于它们的类型。我们在这里考虑稠密的情况下,随机网络可以近似的graphon。这个问题的动机是从链转介调查的研究,每个受访者提供她/他在社交网络中的联系人的信息。首先,我们写出由随机游动发现的子图的似然性:由于枢纽和多数类型更有可能被采样,因此出现了偏差。即使在类型被观测的情况下,极大似然估计也不再是显式的。当顶点的类型是不可观察的,我们使用SAEM算法来最大化的可能性。其次,我们提出了一个不同的估计策略,使用新的结果Athreya和Roellin。它包括在去偏的最大似然估计在Daudin等人提出的。
2021-06-07 math.PR math.ST stat.ML
Graph Neural Tangent Kernel: Convergence on Large Graphs
Simons Institute for the Theory of Computing(西蒙斯计算理论研究所)
本文借助graphon定义graphon神经网络与graphon NTK,证明GNTK及其谱随图规模增大收敛,并通过节点回归与分类实验验证中等规模GNTK可推断大规模GNN学习动态。
2023-05-31 cs.LG math.ST stat.AP
Private graphon estimation via sum-of-squares
ETH Zürich(苏黎世联邦理工学院);BIDSA, Bocconi University(博科尼大学BIDSA);National Taiwan University(台湾大学)
本文提出首个纯节点差分隐私算法,用于随机块模型和图on估计,运行时间为多项式,统计效用与指数时间最优机制相当,基于平方和松弛的指数机制,并包含距离刻画、收敛结果和Lipschitz扩展方法。
2024-04-18 cs.CC cs.DS cs.LG
Consistent polynomial-time unseeded graph matching for Lipschitz graphons
The Ohio State University(俄亥俄州立大学)
我们提出了一个一致的多项式时间方法的非种子节点匹配问题的网络具有光滑的底层结构。尽管研究界广泛认为结构化图匹配问题比其最坏情况的对应问题要容易得多,众所周知是NP-难的,但该问题的统计版本仍然面临着挑战,即抵制任何可证明和多项式时间的解决方案。最接近的现有工作需要准多项式时间。我们的方法是基于最新进展的graphon估计技术和经验的瓦瑟斯坦距离的浓度分析。它的核心是一个简单而非传统的采样和匹配方案,将问题从非种子减少到种子。我们的方法允许灵活的效率,便于分析,并可能扩展到更一般的设置。我们的工作使丰富多样的后续估计和推断。
2018-07-29 cs.CC cs.LG math.ST
Joint Network Topology Inference via a Shared Graphon Model
Rice University(莱斯大学)
我们考虑从节点观测估计多个网络的拓扑结构的问题,其中这些网络被假定为从相同的(未知的)随机图模型绘制。我们采用一个graphon作为我们的随机图模型,这是一个非参数模型,从该模型中可以绘制出可能不同大小的图。图子的多功能性使我们能够解决联合推理问题,即使在要恢复的图包含不同数量的节点并且缺乏跨图的精确对齐的情况下。我们的解决方案是基于结合的极大似然惩罚与graphon估计方案,并可用于增强现有的网络推理方法。提出的联合网络和graphon估计进一步增强了引入噪声图采样信息的鲁棒性方法。我们验证我们提出的方法,通过比较其性能与竞争的方法在合成和真实世界的数据集。
2022-09-17 cs.LG eess.SP stat.ML
Gradient flows on graphons: existence, convergence, continuity equations
Sewoong Oh Paul G. Allen School of Computer Science \& Engineering University of Washington Seattle WA 98195, USA Email;Soumik Pal Department of Mathematics University of Washington Seattle WA 98195, USA Email;Raghav Somani Paul G. Allen School of Computer Science \& Engineering University of Washington Seattle WA 98195, USA Email;Raghavendra Tripathi Department of Mathematics University of Washington Seattle WA 98195, USA Email
本文研究了图上梯度流的连续极限,证明了欧几里得梯度流在边权重上的收敛性,并探讨了图上空间上的最大坡度曲线。
2023-06-29 cs.LG math.PR stat.ML
Nonparametric estimation of time-varying network connections by multi-stage smoothing
University of Minnesota, Twin Cities(明尼苏达大学双城分校)
本文提出多阶段平滑估计方法,用于估计时间变化网络的边概率,结合时间局部平滑和节点域平滑,通过模拟和实际数据验证其在捕捉时间演变和结构模式上的有效性。
2026-05-07 stat.ME stat.ML
Low-Complexity and Consistent Graphon Estimation from Multiple Networks
Sorbonne Université(索邦大学);AgroParisTech(巴黎高等师范学院农业学院)
本文提出了一种低复杂度的图on估计方法,通过联合对齐所有网络的节点,实现高精度估计,尤其在小规模和变大小网络数据集中表现优异,且计算效率更高。
2026-03-16 stat.ME stat.ML
Explicit Bounds on the Entropy of Piecewise Hölder Graphon Models
该研究针对分段赫尔德连续图生成的随机图,推导了随机块模型与随机几何图模型熵的显式定量界,给出归一化熵收敛速率结果,补充了此前仅有的渐近表述。
2026-10-09 cs.SI math.PR stat.ML
Rate of convergence in the maximum likelihood estimation for partial discrete parameter, with applications to the cluster analysis and philology
考虑了当样本上的分布参数的一部分是离散的(如整数)时,这些参数的估计问题。我们证明了在自然条件下,分布密度的极大似然估计的收敛速率是指数快的。
2014-02-26 math.ST stat.TH
Analyticity, Convergence and Convergence Rate of Recursive Maximum Likelihood Estimation in Hidden Markov Models
本文研究隐马尔可夫模型中递推极大似然估计的渐近性质。本文主要讨论对数似然函数的渐近性态以及递推极大似然估计的点收敛性和收敛速度。利用解析延拓原理,证明了解析参数隐马尔可夫模型的渐近对数似然函数的解析性。根据这一事实和微分几何的一些结果(Lojasiewicz不等式),证明了递归极大似然算法的几乎必然点收敛性,并给出了其收敛速度的严格界.与已有的关于隐马尔可夫模型中极大似然估计的渐近性质的结果不同,本文的结果是在不假设对数似然函数有一个孤立的极大值且Hessian在该极大值处是严格负定的情况下得到的.
2009-09-24 math.ST stat.TH
On the Weak Convergence and Central Limit Theorem of Blurring and Nonblurring Processes with Application to Robust Location Estimation
本文研究了模糊过程和非模糊过程的弱收敛性及相应的中心极限定理。然后将它们应用于位置参数的估计。仿真研究表明,基于模糊过程收敛点的位置估计比基于非模糊过程收敛点的位置估计具有更好的鲁棒性和更高的效率。
2015-01-27 math.PR math.ST stat.TH
Path convergence of Markov chains on large graphs
本文研究有限无标号图上两类随机过程(欧几里得优化与修正Metropolis链)在大图极限下的路径收敛,证明其轨迹收敛至测度值图限空间上的确定性曲线,并揭示Metropolis链与图限梯度流的新联系及指数收敛速率。
2023-10-15 math.PR stat.ML
From Moments to Models: Graphon-Mixture Learning for Mixup and Contrastive Learning
University of Michigan(密歇根大学)
提出一个统一框架,将图数据建模为图模型(graphon)混合,利用图矩(motif密度)聚类并估计混合成分,进而提出图模型感知的混合(GMAM)和对比学习(MGCL)方法,在监督和无监督任务上取得最优或竞争性能。
2026-05-29 cs.LG stat.ML
Graphons of Line Graphs
本文提出通过将稀疏图映射为线图来估计图极限,证明满足平方度性质的稀疏图(如星图)会产生稠密线图和非零 graphon,从而克服原始稀疏图收敛到零 graphon 的问题。
2026-10-09 cs.DM cs.LG math.CO
Hawkes Processes on Graphons
Renmin University of China(中国人民大学);Beijing Institute of Technology(北京理工大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
我们提出了一个新的框架,用于建模多个多变量点过程,每个异构事件类型共享一个底层空间,并遵守相同的生成机制。专注于霍克斯过程及其与格兰杰因果关系图相关的变体,我们的模型利用不可数事件类型空间,并从称为{ \it graphon}的非参数模型中抽取不同大小的图。给定这些图,我们可以生成相应的Hawkes过程并模拟事件序列。学习这种基于图子的霍克斯过程模型有助于1)推断不同霍克斯过程共享的潜在关系; 2)模拟具有不同事件类型但相似动力学的事件序列。我们通过最小化生成的事件序列和观察到的事件序列之间的分层最优传输距离来学习所提出的模型,从而得到一种新的奖励增强的最大似然估计方法。我们深入分析了模型的性质,并从理论和实验两方面证明了模型的合理性和有效性。
2021-02-04 cs.LG stat.ML
A Generative Model for Controllable Feature Heterophily in Graphs
Johns Hopkins University(约翰霍普金斯大学);Yale University(耶鲁大学);University of Rochester(罗切斯特大学)
提出结合 Lipschitz graphon 随机图与谱滤波 Gaussian 特征的生成框架,实现图特征异配性的显式可调,并给出收敛理论与实验验证。
2025-09-27 cs.LG eess.SP stat.ML