Consistent nonparametric estimation for heavy-tailed sparse graphs
我们研究了图子作为随机块模型的非参数推广,并展示了如何在这个框架下获得稀疏网络的紧表示估计。我们的算法和分析在几个方面超越了以前的工作。首先,我们放松了生成图子的有界性假设,转而处理任意可积图子,这样我们就可以处理度分布中具有长尾的网络。其次,再次激发现实世界中的应用,我们放松通常的假设,即graphon定义在单位区间,允许潜在的位置图,其中潜在的位置生活在一个更一般的空间,我们表征这些graphon和他们的底层位置空间的可识别性。我们分析了三种算法。首先是一个最小二乘算法,它给出了一个近似,我们证明是一致的所有平方可积的graphons,与最好的随机块模型近似生成graphon方面表示的错误。接下来,我们分析一个基于割范数的推广,它适用于任何可积图子(不一定是平方可积的)。最后,我们表明,基于度的聚类工作时,底层的度分布是无原子的。与前两个算法不同,第三个算法在多项式时间内运行。
2016-02-24 math.PR math.ST stat.TH
Rates of Convergence of Spectral Methods for Graphon Estimation
Krannert School of Management, Purdue University(普渡大学克兰纳特管理学院)
本文研究了网络的生成机制--grahpon模型的估计问题。图子估计在许多应用中出现,例如预测网络中的缺失链接和在推荐系统中学习用户偏好。图子模型处理$n$顶点的随机图,使得每对两个顶点$i$和$j$以概率$ρ\times f(x_i,x_j)$独立地连接,其中$x_i$是顶点$i$的未知$d$维标签,$f$是未知对称函数,并且$ρ$是表征图稀疏性的缩放参数。最近的研究已经确定了极小极大错误率估计的graphon从一个单一的实现的随机图。然而,存在着一个很大的差距之间的已知的错误率的计算有效的估计程序和极小极大最优错误率。在这里,我们分析了谱方法,即通用奇异值阈值(USVT)算法,在相对稀疏的制度与平均顶点度$nρ=Ω(\log n)$。当$f$属于Hölder或Sobolev空间且光滑度为$α$时,我们证明了USVT的错误率至多为$(nρ)^{ -2 α/ (2α+d)}$,随着$α$的增加,USVT的错误率接近于$d=1$的极小极大最优错误率$\log (nρ)/(nρ)$.当$f$是解析的时,我们证明了USVT的错误率至多为$\log^d (nρ)/(nρ)$。在$k$块的随机块模型的特殊情况下,USVT的错误率至多为$k/(nρ)$,它比极小极大最优错误率至多大一个乘法因子$k/\log k$。这与观察到的社区检测的计算差距相吻合。我们分析的一个关键步骤是使用图子函数$f$的…
2017-09-10 cs.LG cs.SI math.ST
Private Graphon Estimation for Sparse Graphs
我们设计了一个算法,用于将高维统计模型拟合到一个大型稀疏网络中,而不会泄露单个成员的敏感信息。给定一个稀疏输入图$G$,我们的算法输出一个节点差分私有非参数块模型近似。通过node-differentially-private,我们的意思是我们的输出隐藏了顶点及其所有邻边的插入或删除。如果$G$是从生成非参数模型中获得的网络的实例,该生成非参数模型根据图子$W$定义,则我们的模型保证一致性,在这个意义上,随着顶点数趋于无穷大,我们的算法的输出收敛到$L_2$范数的适当版本中的$W$。特别是,这意味着我们可以估计$G$中所有多路切割的大小。只要$W$是有界的,$G$的平均度至少像顶点数的对数一样增长,并且块数以适当的速率趋于无穷大,我们的结果就成立.我们给出了明确的误差界的参数的模型,在几个设置,我们的界限改善或匹配已知的非私有的结果。
2015-06-19 cs.CR cs.DS math.ST
On the Estimation of Network Complexity: Dimension of Graphons
Laboratoire de Mathématiques d’Orsay(奥赛数学实验室);Université Paris-Saclay(巴黎萨克雷大学)
网络复杂性的研究已经有半个多世纪的历史,并得到了广泛的应用。已经开发了许多方法来表征和估计网络的复杂性。然而,很少有统计保证的研究。在本文中,我们开发了一个一般模型的随机图,所谓的graphon模型的图的复杂性的统计理论。给定一个图子,我们赋予节点的潜在空间以邻域距离,该距离度量两个节点与相似节点连接的倾向。然后,我们的复杂性指数基于这个度量空间(的纯化版本)的覆盖数和Minkowski维数。虽然潜在空间是不可识别的,但这些指标是可识别的。这个复杂性的概念在随机图的流行例子中有简单的解释:它匹配随机块模型中的社区数量;随机几何图中欧氏空间的维数;霍德尔图子模型中链接函数的正则性。从一个单一的观察图,我们构建了一个估计的邻域距离,并显示其风险的普遍非渐近界,匹配极大极小下界。基于这个估计的距离,我们计算相应的覆盖数和Minkowski维数,我们提供了这两个插件估计的最佳非渐近误差界。
2021-01-12 cs.LG cs.SI math.ST
Tractably Modelling Dependence in Networks Beyond Exchangeability
我们提出了一个通用的框架,旨在描述方面的非交换网络的网络数据建模。条件的潜在(未观察到的)变量,网络的边缘产生的有限的增长历史(与潜在的订单),而边际概率的邻接矩阵的建模由一个推广的图形极限函数(或graphon)。特别是,我们研究的估计,聚类和网络的度行为在我们的设置。我们确定(一)极小极大估计的复合图子相对于平方误差损失;(二)谱聚类是能够一致地检测潜在的成员资格时,块式常数复合图子被认为是在额外的条件下;和(iii)我们能够构建模型的重尾经验度在特定的场景和参数选择。这将探讨为什么以及在一般条件下,不可交换的网络数据可以描述的随机块模型。新的建模框架能够捕获网络数据的重要经验特征,例如稀疏性与重尾度分布相结合,并增加对生成机制的理解。关键词:统计网络分析,可交换数组,随机块模型,非线性随机过程。
2020-07-28 math.ST stat.ML stat.TH
Rate-optimal graphon estimation
网络分析正成为统计学中最活跃的研究领域之一。近年来,网络分析的理论、方法和算法的发展取得了重大进展。然而,对最优估计的基础研究却很少。本文建立了图子估计的最优收敛速度。对于$k$簇的随机块模型,我们证明了在均方误差下的最优速率是$n^{-1}\log k+k^2/n^2$。极大极小上界通过求解二次方程的技巧改进了文献中已有的结果。当$k\leq\sqrt{n\log n}$时,随着集群$k$数量的增长,极大极小化率缓慢增长,仅具有对数阶$n^{-1}\log k$。建立下界的一个关键步骤是构造一个新的参数空间的子集,然后应用Fano引理,从中我们看到了一个明显的区别,从经典的非参数回归,由于缺乏可识别的节点的顺序在可交换的随机图模型的非参数图子估计问题。作为一个直接的应用,我们考虑非参数graphon估计的Hölder类光滑$α$。当光滑$α\geq1$时,最优收敛速度是$n^{-1}\log n$,与$α$无关,而对于$α\in(0,1)$,速度是$n^{-2α/(α+1)}$,令人惊讶的是,这与经典的非参数速度相同。
2015-11-17 math.ST stat.TH
Computational Lower Bounds for Graphon Estimation via Low-degree Polynomials
该研究通过低次多项式理论严格证明了graphon估计存在计算壁垒,给出多项式时间估计器的误差下界,还拓展到社区检测、稀疏graphon估计和双聚类场景,为相关计算猜想提供新证据。
2024-08-12 cs.CC cs.DS math.ST
Unified Fourier transform on graphs sampled from stochastic block models
University of Delaware(特拉华大学);Dalhousie University(达尔豪斯大学)
提出一种基于图论的傅里叶变换方法,用于从随机块模型采样的图,通过块大小和块概率矩阵计算傅里叶基,并利用扰动理论分析基对块大小变化的敏感性。
2026-05-26 cs.IT eess.SP math.IT
Entropy of Exchangeable Random Graphs
本文提出一套 graphon 熵估计器以量化可交换随机图的复杂度,建立其收敛速率与中心极限定理,并通过仿真和实际应用验证其有效性。
2025-03-13 cs.IT math.CO math.IT
Revealing Network Structure, Confidentially: Improved Rates for Node-Private Graphon Estimation
出于对确保社交网络隐私的日益关注,我们开发了新的算法和不可能的结果,用于将复杂的统计模型拟合到受到严格隐私保证的网络数据。我们考虑所谓的节点差分私有算法,该算法计算关于图或网络的信息,同时可证明几乎没有关于图中特定节点的存在或不存在的信息。我们提供了一个流行的和富有表现力的网络模型:随机块模型及其推广,图子的节点差分私人估计的新算法。我们的算法改进以前的工作,减少他们的错误二次和匹配,在许多制度,最佳的非私有算法。我们还表明,对于最简单的随机图模型($G(n,p)$和$G(n,m)$),节点私有算法可以在定性上比更复杂的模型更准确--收敛速度为$\frac{1}{ε^2 n^{3}}$,而不是$\frac{1}{ε^2 n^2}$。这一结果使用了一个新的扩展引理差分隐私算法,我们希望这将是广泛有用的。
2018-10-04 cs.CR cs.DS math.PR
Hybrid of node and link communities for graphon estimation
针对网络生成机制建模的分辨率限制问题,提出结合节点与链接社区的 stochastic shape model 进行 graphon 估计,通过多分辨率权衡偏差与方差实现速率最优,提供更简约可解释的多尺度网络结构表示。
2024-01-10 math.PR math.ST stat.ME
Optimal Estimation and Completion of Matrices with Biclustering Structures
数据矩阵中的双聚类结构首先在John Hartigan(1972)的一篇开创性论文中正式化,其中试图同时聚类案例和变量。这种结构在网络的块建模中也很普遍。在本文中,我们开发了一个统一的理论估计和完成矩阵的双聚类结构,其中的数据是一个部分观察和噪声污染的数据矩阵具有一定的双聚类结构。特别是,我们表明,约束最小二乘估计实现最小最大速率最优性能在几个最重要的情况下。为此,我们得到统一的高概率上界的所有子高斯数据,并提供匹配的极大极小下界在高斯和二进制的情况下。由于图子与随机块模型的密切联系,我们的一般结果的直接后果是稀疏图子的极小极大率最优估计。
2018-10-22 math.ST stat.ML stat.TH
Uniform estimation in stochastic block models is slow
我们明确量化的经验观察到的现象,估计下的随机块模型(SBM)是困难的,如果模型包含类是相似的。更确切地说,我们考虑估计的随机图所产生的SBM的某些泛函。SBM可以是或可以不是稀疏的,并且类的数量可以是固定的或随着顶点的数量而增长。沿着特定的子模型的Minimax下限和上界的估计。结果是非渐近的,并意味着一个单一的连接参数的一致估计是远远低于预期的渐近逐点速率。具体地说,均匀二次速率不按边的数量缩放,而仅按顶点的数量缩放。下界在任何可能的SBM周围是局部的。对一类光滑图子的泛函也得到了类似的结果。
2022-04-26 math.ST stat.TH
Estimation of dense stochastic block models visited by random walks
我们感兴趣的是恢复信息的随机块模型从子图发现的探索随机游动。随机块模型对应于被构造成有限数量的类型的群体,其中两个个体通过独立于其他对的边缘连接,并且概率取决于它们的类型。我们在这里考虑稠密的情况下,随机网络可以近似的graphon。这个问题的动机是从链转介调查的研究,每个受访者提供她/他在社交网络中的联系人的信息。首先,我们写出由随机游动发现的子图的似然性:由于枢纽和多数类型更有可能被采样,因此出现了偏差。即使在类型被观测的情况下,极大似然估计也不再是显式的。当顶点的类型是不可观察的,我们使用SAEM算法来最大化的可能性。其次,我们提出了一个不同的估计策略,使用新的结果Athreya和Roellin。它包括在去偏的最大似然估计在Daudin等人提出的。
2021-06-07 math.PR math.ST stat.ML
Model-based clustering of multiple networks with a hierarchical algorithm
本文针对顶点集不同的多网络聚类问题,提出基于有限混合随机块模型的层次凝聚聚类算法,通过对比graphon解决标签切换问题,可自动选最优聚类数,在合成数据和生态网络上验证了有效性。
2023-11-06 math.ST stat.TH
Maximum Likelihood Estimation of Sparse Networks with Missing Observations
连接概率矩阵的估计是研究稀疏网络的关键问题之一。在这项工作中,我们考虑稀疏图子模型和非齐次随机图模型下产生的网络与丢失的观察。使用随机块模型作为参数代理,我们限制了网络连接概率的极大似然估计的风险,并证明了它是极小极大最优的。当风险以Frobenius范数度量时,在多项式时间内运行的估计器都不能达到这个问题的最小最大最优收敛速率。因此,极大似然估计是特别感兴趣的,因为在文献中已经提出了对它的计算有效的近似,并且经常在实践中使用。
2021-04-27 math.ST stat.TH
On optimal spatial subsample size for variance estimation
我们考虑的问题,确定最佳的块(或子样本)大小的空间子采样方法观察到的规则网格上的空间过程。我们推导出的子采样方差估计,这产生一个表达式的理论上最佳的块大小的均方误差的扩展。示出的最佳块的大小取决于在一个复杂的方式上的空间采样区域的几何形状以及底层的随机场的特性。最优块大小的最终表达式利用了凸集移位中的格点计数的一些非平凡估计。最佳的块大小计算采样区域的一些常见的形状。数值研究进行比较二次抽样方法以及估计理论上最好的块大小的程序。
2005-03-29 math.ST stat.TH
Stochastic block models with many communities and the Kesten--Stigum bound
Massachusetts Institute of Technology(麻省理工学院);Brown University(布朗大学);University of California, Davis(加州大学戴维斯分校)
本文研究社区数随顶点数增长的随机块模型,证明KS界之上可高效恢复,KS界之下q≪√n时低度困难、q≫√n时基于非回溯游走的算法可高效恢复,还确定了新阈值及信息论阈值,改进了图估计结果。
2026-08-25 cs.SI math.PR math.ST
Optimal hypothesis testing for stochastic block models with growing degrees
本文考虑在图的平均度随图的大小n而增长的渐近状态下检验Erdos-Renyi随机图模型与随机块模型。我们的主要兴趣在于那些情况下,其中的信噪比是在一个恒定的水平。针对对称的两块择一问题,首先在零择一和局部择一假设下,得到了适当重标度图邻接矩阵的幂函数线性谱统计量的联合中心极限定理.线性谱统计中的功率被允许与图的大小一起增长到无穷大。此外,我们发现,线性谱统计的切比雪夫多项式是密切相关的签署周期的增长长度,确定的渐近似然比检验的假设检验问题的兴趣。这使我们能够构建一个序列的测试统计量,达到确切的最佳渐近功率内$O(n^3 \log n)$时间复杂度在连续制度时,$n^2 p_{n,av}^3 \to\infty$其中$p_{n,av}$是平均连接概率。我们进一步提出了一类自适应测试,计算上易于处理,完全数据驱动。他们实现了非平凡的权力,在连续制度和一致性的奇异制度时,$n p_{n,av} \to\infty$。这些测试仍然是强大的替代品时,成为一个更一般的随机块模型,两个以上的块。
2017-08-10 cs.SI math.PR math.ST
Graph Quasirandomness for Hypothesis Testing of Stochastic Block Models
本文基于图拟随机性理论,研究随机块模型与均匀随机图的假设检验问题,证明在若干条件下,可用星形图和4环的带符号计数作为检验统计量,并猜想加入三角形后可推广至任意图极限。
2025-04-24 math.CO math.PR math.ST