Inference of rankings planted in random tournaments
本文研究从随机竞赛图中推断隐藏排序的问题,确立了检测与恢复的计算统计阈值,发现检测-恢复差距,并提出达到最优性能的简单多项式与出度算法。
2024-07-23 cs.CC cs.DS math.CO
Statistical-Computational Tradeoffs in Planted Problems and Submatrix Localization with a Growing Number of Clusters and Submatrices
我们考虑两个密切相关的问题:种植聚类和子矩阵本地化。种植聚类问题假设一个随机图是基于节点的一些底层聚类生成的;任务是在给定图的情况下恢复这些聚类。子矩阵局部化问题涉及到在一个大的实值随机矩阵中定位具有提升均值的隐藏子矩阵。特别令人感兴趣的是允许集群/子矩阵的数量随着问题大小无限增长的设置。这些公式涵盖了几个经典的模型,如种植集团,种植denatrium子图,种植分区,种植着色,和随机块模型,这些模型被广泛用于研究社区检测和聚类/双聚类。对于这两个问题,我们表明,空间的模型参数,(簇/子矩阵大小、簇密度和子矩阵平均值)可以被划分成四个不相交的区域,对应于降低的统计和计算复杂性:(1)\emph{impossible}区域,其中所有算法都失败;(2)\emph{hard}区域,其中计算昂贵的极大似然估计(MLE)成功;(3)\emph{easy}机制,其中多项式时间凸化的MLE成功;(4)\emph{simple}机制,其中简单的计数/阈值处理过程成功。此外,我们证明了这些算法中的每一个都在以前的更难的制度中失败。我们的定理建立了极大极小恢复极限,这是紧到常数,并与越来越多的集群/子矩阵,并提供了一个更强的性能保证比以前已知的多项式时间算法。我们的研究表明,统计和计算的考虑之间的权衡,并建议,极大极小恢复限制可能无法实现多项式时间算法。
2015-03-13 math.ST stat.ML stat.TH
The planted matching problem: Sharp threshold and infinite-order phase transition
我们研究的问题,重建一个完美匹配的$M^*$隐藏在随机加权$n\times n$二部图。边集合以概率$d/n$独立地包括$M^*$中的每个节点对和不在$M^*$中的每个$n(n-1)$节点对。每个边$e$的权重独立地从分布$\mathcal{P}$(如果是$e \in M^*$)和$\mathcal{Q}$(如果是$e \notin M^*$)中提取。我们表明,如果$\sqrt{d} B(\mathcal{P},\mathcal{Q}) \le 1$,其中$B(\mathcal{P},\mathcal{Q})$代表巴塔查里亚系数,重建误差(平均分数的错误分类边缘)的最大似然估计$M^*$收敛到$0$作为$n\to \infty$。相反,如果$\sqrt{d} B(\mathcal{P},\mathcal{Q}) \ge 1+ε$对于任意小的常数$ε>0$,则在稀疏和密集模型下,任何估计量的重建误差都与$0$有界,解决了[Moharrami et al. 2019,Semerjian et al. 2020]中的猜想。此外,在具有$d=n$,$\mathcal{P}=\exp(λ)$和$\mathcal{Q}=\exp(1/n)$的完全指数加权图的特殊情况下,尖锐阈值简化为$λ=4$,我们证明了当$λ\le 4-ε$时,最佳重建误差为$\exp\left( - Θ(1/\sqrtε)…
2021-03-17 cs.IT math.CO math.IT
Geometric planted matchings beyond the Gaussian model
UC Berkeley(加州大学伯克利分校);IMPA(巴西纯数学和应用数学研究所)
研究随机点集与其扰动点集之间未知匹配的恢复问题,利用随机几何图中的匹配推导极小极大下界,并证明最小化欧氏距离平方和的估计器在固定维度下达到最优,在高维条件下以高概率无差错。
2026-06-09 cs.DB cs.DM math.CO
Hidden Clique Inference in Random Ising Model II: the planted Sherrington-Kirkpatrick model
本文研究了植入式SK模型中 $k$-团簇铁磁均值偏移的检验与恢复问题,通过提供极小化极大最优速率确定相图,证明了非高斯耦合下的普适性,并建立了新的浓度界与中心极限定理。
2024-03-21 math.ST stat.TH
Statistical inference of a ranked community in a directed graph
针对有向图中植入排序子图的检测与恢复问题,建立统计与计算阈值,确定对数密度设置下的精确指数阈值,并给出两种极端情况的细粒度结果,为该类排序社区推断提供理论基础。
2024-11-18 cs.CC cs.DS math.CO
Detecting Planted Structure in Circular Data
University of Illinois(伊利诺伊大学)
研究在环形数据中检测植入结构,通过两种设置分析信号分布,推导出信息论相变条件。
2026-01-09 cs.IT math.IT math.ST
Hidden Clique Inference in Random Ising Model I: the planted random field Curie-Weiss model
本文研究植入随机场Curie-Weiss模型中隐$k$-团簇铁磁相关性的检验与恢复问题,建立了极小极大最优检测率与恢复率,揭示了7个检验相和3个精确恢复相,并为离散数据稀疏PCA提供了新理论视角。
2024-03-21 math.ST stat.TH
Is it easier to count communities than find them?
研究在计算上难以寻找社区时是否仍能推断其性质,证明在低次多项式框架下检验不同社区结构模型与寻找社区一样困难,并给出检验两种植入分布的首个计算下界。
2025-06-27 cs.CC cs.DS math.CO
Spectral recovery of a planted triangle-dense subgraph
School of Mathematics, Georgia Institute of Technology(佐治亚理工学院数学学院)
针对最坏情况计算困难的三角密集k子图问题,提出基于局部带符号三角计数的谱算法和半定规划,在Erdős-Rényi随机图中恢复种植的三角密集子图,并揭示统计-计算间隙。
2026-06-17 cs.DS math.PR math.ST
Achieving Exact Cluster Recovery Threshold via Semidefinite Programming
二进制对称随机块模型处理的随机图的$n$顶点划分成两个大小相等的集群,使得每对顶点是独立连接的概率$p$内集群和$q$跨集群。在渐近制度的$p=a \log n/n$和$q=b \log n/n$固定$a,b$和$n \to \infty$,我们表明,半定规划松弛的极大似然估计达到最佳阈值,准确地恢复分区从图的概率趋于一,解决了一个猜想的Abbe等。\cite{Abbe14}。此外,我们表明,半定规划松弛也达到了最佳的恢复阈值种植密集子图模型包含一个单一的集群的大小成正比的$n$。
2016-01-05 cs.DS math.PR stat.ML
Planted Bipartite Graph Detection
Tel Aviv university(特拉维夫大学)
该研究针对随机图中隐藏植入二分子图的检测问题,刻画其统计与计算壁垒,推导稠密/稀疏情形下的信息论下界并设计匹配最优算法,还基于低度猜想证明多项式时间检验的计算下界以佐证统计-计算鸿沟。
2024-03-06 cs.DS cs.IT cs.LG
Detection-Recovery Gap for Planted Dense Cycles
本文研究植入稠密环的检测与恢复问题,刻画低度多项式算法的计算阈值,并揭示特定参数区域(如 $n^{-3/4} \ll τ\ll n^{-1/2}$)中检测易而恢复难的计算差距。
2023-06-21 cs.DS math.ST stat.ML
Planted clique recovery in random geometric graphs
研究随机几何图中嵌入 clique 的识别问题,比较基于顶点度数和共同邻居的两种算法,发现共同邻居算法在特定参数下能以高概率准确恢复,尤其在连通性 regime 中能有效检测小 clique。
2026-04-09 cs.DS math.PR
Exact recovery of planted cliques in semi-random graphs
Indian Institute of Science, Bangalore(印度科学学院)
本文提出了一种基于SDP的算法,用于在半随机图中精确恢复种植的团,并展示了该算法的保证性能。
2025-12-07 cs.DS
Optimal Spectral Recovery of a Planted Vector in a Subspace
在$\mathbb{R}^N$的$n$维随机子空间中恢复种植向量$v$是与机器学习和统计中的许多问题相关的通用任务,例如字典学习、子空间恢复、主成分分析和非高斯成分分析。在这项工作中,我们研究了计算效率的估计和检测种植矢量$v$的$\ell_4$规范不同的高斯矢量具有相同的$\ell_2$规范。例如,在$v$是具有Bernoulli-Gaussian或Bernoulli-Rademacher条目的$N ρ$稀疏向量的特殊情况下,我们的结果包括以下内容:(1)我们对Hopkins,Schramm,Shi和Steurer(2016)提出的谱方法的轻微变体进行了改进分析,表明它在$n ρ\ll \sqrt{N}$中以高概率近似恢复$v$。该条件包含了先前工作所需的条件$ρ\ll 1/\sqrt{n}$或$n \sqrtρ \lesssim \sqrt{N}$,直到多对数因子。我们实现了$\ell_\infty$误差界的频谱估计通过留一法分析,从它遵循一个简单的阈值处理程序,准确地恢复$v$与伯努利-Rademacher条目,即使在密集的情况下$ρ= 1$。(2)我们研究了相关的检测问题,并表明,在该制度$n ρ\gg \sqrt{N}$,任何光谱方法从一个大类(更一般地说,任何低次多项式的输入)未能检测到种植向量。这与恢复的条件相匹配,并且提供了以下证据:当$n ρ\gg \sqrt{N…
2022-10-13 cs.DS math.ST stat.ML
Is the space complexity of planted clique recovery the same as that of detection?
Stanford University(斯坦福大学)
We study the planted clique problem in which a clique of size k is planted in an Erdős-Rényi graph G(n, 1/2), and one is interested in either detecting or recovering this planted clique. This problem is interesting because it is widely believed to show a statistical-computational gap at clique size k=sqrt{n}, and has emerged as the prototypical problem with such a gap from which average-case hardness of other statistical problems can be deduced. It also displays a tight computational connection between the detection and recovery variants, unlike other problems of a similar nature. This wide in…
2020-11-23 cs.CC cs.DS cs.IT
Finding Planted Cliques in Sublinear Time
我们研究种植集团问题,其中一个集团的大小k种植在一个Erdos-Renyi图G(n,1/2)和一个有兴趣恢复这个种植集团。人们普遍认为,当计算效率等同于多项式时间算法的存在时,它表现出一个计算-计算差距。我们在更细粒度的计算镜头下研究这个问题,并考虑以下两个问题。1.是否存在用于恢复种植集团的次线性时间算法?2.什么是最小的运行时间任何算法可以希望有?我们表明,由于一个众所周知的团完成属性,非常基本的次线性时间恢复算法确实存在团大小k = ω(\sqrt{n})。这表明了一个更强的定性计算差距。种植集团恢复问题甚至可以在不查看Θ(\sqrt{n})阈值以上的大部分输入的情况下解决,并且不能通过低于它的任何有效算法来解决。恢复问题的运行时间下限可以很容易地从[RS 19]的结果中得出,这意味着我们的恢复算法在k = Ω(n^{2/3})时是最优的。然而,对于k = o(n^{2/3}),我们的算法上限和[RS 19]所暗示的信息论下限之间存在差距。与一些警告,我们展示了更强的检测下限的基础上种植集团猜想的自然,但限制类的算法。其关键思想是将用于检测大种植集团的非常快速的次线性时间算法与用于检测小种植集团的多项式时间算法相关联。
2022-10-17 cs.CC cs.DS cs.IT
Bayesian inference of planted matchings: Local posterior approximation and infinite-volume limit
Yale University(耶鲁大学);Georgia Institute of Technology(佐治亚理工学院)
本文研究了在特定缩放条件下,嵌入匹配的贝叶斯推断问题,探讨了局部后验近似和无限体积极限的性质,指出在部分匹配中后验可被局部算法近似,而在精确匹配中需全局排序才能实现局部近似。
2026-03-09 cs.DS math.PR math.ST
Semidefinite Programs for Exact Recovery of a Hidden Community
我们研究了一个半定规划(SDP)松弛的最大似然估计精确恢复一个隐藏的社区的基数$K$从$n \times n$对称数据矩阵$A$,其中不同的指标$i,j$,$A_{ij} \sim P$,如果$i, j$都在社区和$A_{ij} \sim Q$否则,对于两个已知的概率分布$P$和$Q$。我们确定了一个充分条件和SDP的一般模型的成功的必要条件。对于伯努利的例子($P={\rm Bern}(p)$和带有$p>q$的$Q={\rm Bern}(q)$)和高斯情况($P=\mathcal{N}(μ,1)$和$Q=\mathcal{N}(0,1)$ with $μ>0$),分别对应于种植稠密子图的恢复问题和子矩阵的定位问题,得到了如下结论:(1)如果$K=ω( n /\log n)$,SDP达到了具有尖锐常数的信息论恢复极限;(2)如果是$K=Θ(n/\log n)$,则SDP是阶次最优的,但严格地是次最优的,但相差一个常数因子;(3)如果是$K=o(n/\log n)$和$K \to \infty$,则SDP是阶次最优的.相同的关键缩放$K$被发现持有,直到常数因子,SDP的性能随机块模型的$n$顶点划分成多个社区的大小相等的$K$。必要条件证明的一个关键组成部分是一个原始可行解的真实集群矩阵的随机扰动的基础上建设。
2016-06-03 cs.IT cs.SI math.IT
Semi-Random Graphs with Planted Sparse Vertex Cuts: Algorithms for Exact and Approximate Recovery
计算图的顶点扩张问题是一个NP难问题。用于计算图的顶点扩展的当前最佳最坏情况近似保证是由Feige、Hajiaghayi和Lee提出的$O(\sqrt{\log n})$ -近似算法[SIAM J. Comp.,2008],并且由于Louis、Raghavendra和Vempala [FOCS 2013],$O(\sqrt{OPT \log d})$界于顶点度最多为$d$的图中。研究了具有稀疏割点的自然半随机图模型。在一定的参数范围内,我们给出了一个算法,以恢复种植的稀疏顶点割。对于更大的参数范围,我们给出了一个常数因子双准则近似算法来计算图的平衡点展开。我们的算法是基于研究一个半定规划松弛的平衡顶点扩张的图。除了作为一个家庭的实例,这将有助于我们更好地理解计算的复杂性的顶点扩展,我们的模型也可以用于社区发现的研究,只有少数节点从每个社区与其他社区的节点进行交互。关于具有稀疏边割的随机图和半随机图的研究已经有很多。据我们所知,我们的模型的半随机图种植稀疏顶点割还没有被研究过。
2018-05-24 cs.DS
Random Graph Matching in Geometric Models: the Case of Complete Graphs
本文研究了两个边权通过潜在几何相关的完全图的匹配问题,将最近的一系列关于边权独立的随机图匹配的研究扩展到几何模型。具体地,给定具有噪声参数$σ$的$[n]$上的随机置换$π^*$和$n$ iid $\mathbb{R}^d$中的相关高斯向量对$\{X_{π^*(i)}, Y_i\}$,对于某个链接函数$κ$,边权重由$A_{ij}=κ(X_i,X_j)$和$B_{ij}=κ(Y_i,Y_j)$给出。目标是根据$A$和$B$的观测值恢复隐藏顶点对应$π^*$。在低维区域的$d=o(\log n)$中,我们重点研究了基于$κ(x,y)=\langle x, y \rangle$的点积模型和基于$κ(x,y)=\|x-y\|^2$的欧氏距离模型,其中基本的几何结构是最明显的.我们推导出一个近似的最大似然估计,它可证明实现,具有高概率,完美的$π^*$恢复时,$σ=o(n^{-2/d})$和几乎完美的恢复时,$σ=o(n^{-1/d})$的错误消失的分数。此外,即使观察到潜在坐标$\{X_i\}$和$\{Y_i\}$,这些条件也被证明是信息理论上最优的,补充了[DCK 19]和[KNW22]在种植二分匹配问题的几何模型中的最新结果。作为一个侧面的发现,我们证明了著名的谱算法[Ume88]作为几何模型中最大似然的进一步近似而出现。
2022-02-23 math.PR math.ST stat.ML
The Planted Matching Problem: Phase Transitions and Exact Results
本文研究了随机加权完全二部图$K_{n,n}$中的种植匹配恢复问题。对于某些未知的完美匹配$M^*$,如果$e \in M^*$,则从一个分布$P$中提取边的权重,如果$e \notin M^*$,则从另一个分布$Q$中提取边的权重。我们的目标是推断$M^*$,准确或近似,从边的权重。在本文中,我们采取$P=\exp(λ)$和$Q=\exp(1/n)$,在这种情况下,$M^*$的最大似然估计是最小权匹配$M_{\text{min}}$。我们获得了关于$M^*$和$M_{\text{min}}$之间重叠的精确结果,即,它们共有的边的比例。对于$λ\ge 4$,我们有几乎完美的恢复,具有高概率的重叠$1-o(1)$。对于$λ< 4$,期望的重叠是一个显式函数$α(λ) < 1$:我们通过推广Aldous对未种植模型的$ζ(2)$猜想的著名证明来计算它,使用局部弱收敛将$K_{n,n}$与一种加权无限树联系起来,然后从这棵树上的消息传递算法推导出一个微分方程组。
2020-11-09 cond-mat.stat-mech cs.DS math.CO
Gaussian Database Alignment and Gaussian Planted Matching
Georgia Institute of Technology(佐治亚理工学院);Pennsylvania State University(宾夕法尼亚州立大学);Ecole Polytechnique Federale de Lausanne(洛桑联邦理工学院)
本文研究高斯特征下的数据库对齐与植入匹配问题,证明高维条件下两者性能阈值收敛,并通过线性规划松弛分析给出可达性与逆界,揭示几乎精确与精确对齐阈值的关系。
2023-07-05 cs.DB cs.DS cs.IT
Information Recovery in Shuffled Graphs via Graph Matching
虽然许多多图推理方法在图的顶点集上的显式顶点对应是已知的隐式假设下操作,但实际上这些对应可能仅部分或错误地已知。在这里,我们提供了一个信息理论的基础,了解错误观察到的顶点对应的实际影响,可以对后续的推理,图匹配方法的能力,以恢复丢失的顶点对齐和推理性能。工作在相关的随机块模型设置,我们建立了一个对偶之间的损失的互信息,由于错误观察顶点对应和图匹配算法的能力,以恢复真正的对应关系的图形。在这个过程中,我们建立了一个相变的图匹配在图之间的相关性,我们推测类似的相变的相对信息损失,由于洗牌顶点标签。我们通过两个样本图假设检验和联合谱图聚类的示例,展示了图重排和匹配对后续推理的实际影响。
2017-09-27 cs.IT math.CO math.IT
Exact recovery algorithm for Planted Bipartite Graph in Semi-random Graphs
在给定的图中寻找最大导出平衡二部子图的问题是NP-困难的。这个问题与寻找最小奇循环transmittance的问题密切相关。在这项工作中,我们考虑以下模型的实例:从一组顶点$V$开始,选择一组$k$顶点$S \subseteq V$,并在其上添加一个任意的$d$ -正则二部图; $S \times (V \setminus S)$和$(V \setminus S) \times (V \setminus S)$中的顶点对之间的边以概率$p$添加。由于对于$d=0$,问题简化为恢复种植的独立集,因此我们不期望$k=o(\sqrt{n})$的有效算法。这个问题是一个推广的种植平衡biclique问题的二分图诱导$S$是一个完全的二分图; [Lev 18]给出了一个算法恢复$S$在这个问题时,$k=Ω(\sqrt{n})$。我们的主要结果是一个有效的算法,恢复(w. h. p.)种植二分图时,$k=Ω_p(\sqrt{n \log n})$的参数范围很大。我们的研究结果也适用于一个自然的半随机模型的情况下,其中涉及的单调对手的存在。我们的证明表明,一个自然的SDP松弛的问题是通过构建一个适当的解决方案,它的对偶制定积分。我们的主要技术贡献是一种新的方法来构建对偶解决方案,我们校准的特征向量的邻接矩阵的对偶矩阵的特征向量。我们相信,这种方法也可以应用于半随机模型中的其他恢复问题。当有$k=…
2022-05-12 cs.DS
Statistical and computational thresholds for the planted $k$-densest sub-hypergraph problem
ETH Zürich(苏黎世联邦理工学院);Purdue University(普渡大学)
在这项工作中,我们考虑了恢复一个种植的$k$ -$d$ -均匀超图上最稠密的子超图的问题。这个基本问题出现在不同的背景下,例如,社区发现、平均情况复杂性和作为张量PCA问题的结构变体的神经科学应用。我们提供严格的\emph{information-theoretic}上限和下限的确切恢复阈值的最大似然估计,以及\emph{algorithmic}边界的基础上近似的消息传递算法。这个问题表现出一个典型的几何计算差距,观察类似的稀疏设置,扩大与问题的稀疏性。边界表明,信号结构影响的统计和计算相变的位置,已知的现有的张量PCA模型的边界不捕捉。这种效应是由于后一种模型处理的通用植入信号。
2021-01-28 cs.DS cs.IT cs.LG
Geometric planted matchings in high dimensions: The power of multiple views
Georgia Institute of Technology(佐治亚理工学院);Yale University(耶鲁大学)
研究\(\mathbb{R}^d\)中\(n\)个点与噪声置换版本的对应关系恢复问题,高维下\(b = 2\)是阈值。证明\(b < 2\)时无估计器能有效恢复。多视图推广中,\(b > K/(K - 1)\)时简单过程可恢复匹配,打破\(b = 2\)障碍。
2026-07-13 cs.DS math.PR math.ST
Parallel Tempering for the planted clique problem
种植集团问题的理论信息阈值是$2\log_2(N)$,然而,没有已知的多项式算法来恢复大小为$O(N^{1/2-ε})$、$ε>0$的种植集团。在本文中,我们将应用一个标准的方法,无序模型的分析,的Pupel-Tempering(PT)算法,团的问题,数值计算表明,它的时间尺度在硬区确实是多项式的分析大小。我们还将PT应用于一个不同的但连接的模型,稀疏种植独立集问题。在这种情况下,阈值应该更尖锐,有限大小的校正应该不那么重要。同样在这种情况下,PT示出了用于恢复的硬区域中的多项式缩放。
2019-01-08 cond-mat.dis-nn cs.DS
Mismatching as a tool to enhance algorithmic performances of Monte Carlo methods for the planted clique model
过度参数化是推理和机器学习领域最近发展的一个关键因素。然而,解释这一成功的好理论仍然缺乏。在本文中,我们研究了一个非常简单的情况下,不匹配的过参数化算法应用于一个最研究的推理问题:种植集团问题。我们分析了著名的Jerrum算法同类的Monte Carlo(MC)算法。我们展示了如何MC算法是在一般次优的种植集团的恢复。然而,我们展示了如何通过添加一个(不匹配的)参数来提高其性能:温度;我们在数值上发现,这种过参数化的算法版本可以达到种植集团问题的假设算法阈值。
2021-11-19 cond-mat.dis-nn cond-mat.stat-mech cs.DS
Computational Barriers to Estimation from Low-Degree Polynomials
高维统计的一个基本目标是检测或恢复隐藏在噪声数据中的植入结构(如低秩矩阵)。越来越多的研究工作将低次多项式作为此类问题的受限计算模型:在各种设置中,已经证明数据的低次多项式可以与最知名的多项式时间算法的统计性能相匹配。先前的工作已经研究了用于检测隐藏结构的存在的任务的低次多项式的功率。在这项工作中,我们扩展这些方法来解决问题的估计和恢复(而不是检测)。对于一个大类的“信号加噪声”的问题,我们给出了一个用户友好的下界的最佳可能的均方误差可实现的任何程度的D多项式。据我们所知,这些是第一个结果,以建立低程度的硬度恢复问题,相关的检测问题很容易。作为应用,我们给出了一个紧密的表征的低度最小均方误差的种植子矩阵和种植稠密子图的问题,解决(在低度框架)开放的问题,在这两种情况下的恢复的计算复杂性。
2022-06-18 cs.CC cs.DS math.ST
On statistical inference when fixed points of belief propagation are unstable
许多统计推断问题对应于从稀疏观测值中恢复一组隐变量的值。例如,在诸如种植3-SAT的种植约束满足问题中,子句是要从中恢复隐藏分配的稀疏观测。在随机块模型的社区发现问题中,社区标签是从图的边恢复的隐变量。受统计物理学思想的启发,信念传播的稳定不动点的存在已被广泛证明是这些问题的计算易处理性的特征。对于随机块模型中的社区发现,这些预测中的许多已经被严格证实。在这项工作中,我们考虑一个一般模型的统计推断问题,包括社区发现随机块模型,和所有种植约束满足问题的特殊情况。我们进行腔方法计算统计物理计算的参数,检测和恢复应该是算法上听话的政权。在预测的易于处理的制度,我们给:(一)一个一般的多项式时间算法的检测问题:区分一个输入与种植的信号从一个没有;(二)一个一般的多项式时间算法的恢复问题:输出一个向量,与隐藏的分配显着优于随机猜测。
2021-07-17 cs.DS math.PR
Subsampled Power Iteration: a Unified Algorithm for Block Models and Planted CSP's
我们提出了一个算法,恢复种植的解决方案,在两个著名的模型,随机块模型和种植约束满足问题,通过一个共同的推广随机二分图。我们的算法匹配到一个常数因子的边缘(或约束)的数量完美的恢复所需的最知名的界限,其运行时间是线性的边缘使用的数量。该方法的时间复杂度明显优于基于频谱和基于SDP的方法。该算法的主要贡献是在大小不等的情况下的bipartition(对应于奇均匀CSP)。在这里,我们的算法成功地在一个显着较低的密度比谱的方法,超越了障碍的基础上的谱范数的随机矩阵。算法和分析的其他重要特征包括:(i)关键使用子采样的幂迭代,这可能是独立的兴趣;其分析需要跟踪演化解决方案的多个范数;(ii)它可以统计地实现,即,在对输入分布的访问非常有限的情况下(iii)该算法实现起来非常简单,并且在线性时间内运行,因此即使对于非常大的实例也是实用的。
2015-04-28 cs.DS math.CO math.PR
On the Complexity of Random Satisfiability Problems with Planted Solutions
在给定与分配一致的随机$k$公式的情况下识别种植分配的问题表现出大的算法差距:虽然种植解决方案变得唯一并且可以在给定具有$O(n\log n)$子句的公式的情况下被识别,但是在子句上存在分布,对于这些分布,最知名的有效算法需要$n^{k/2}$子句。我们提出并研究了一个统一的模型种植$k$ -SAT,它捕获了著名的特殊情况。一个实例由一个种植的赋值$σ$和一个带有$k$文字的子句分布来描述。我们将其分布复杂性定义为最大的$r$,其分布不是$r$独立的($1 \le r \le k$用于具有种植分配的任何分布)。我们的主要结果是一个无条件的下限,紧对数因子,统计(查询)算法[Kearns 1998,Feldman et. al 2012],匹配已知的上限,如我们所示,可以使用统计算法来实现。由于已知的用于分布问题的方法具有统计类似物(谱、MCMC、基于梯度、凸优化等),该下限提供了对所观察到的算法差距的严格解释。证明引入了一个新的一般技术的统计查询算法的分析。它还指出了所有种植作业空间中的几何配对现象。我们描述的后果,我们的下界费格的反驳假设[费格2002年]和下界一般凸方案,解决种植$k$ -SAT。我们的边界也扩展到其他种植的$k$ -CSP模型,特别是,提供了具体的证据Goldreich的单向函数和相关的伪随机发生器的安全性时,使用一个足够硬的谓词[Goldreich 2000…
2018-03-06 cs.CC cs.DM cs.DS
Reducibility and Computational Lower Bounds for Problems with Planted Sparse Structure
典型的高维统计问题需要在噪声中找到结构化信号。这些问题中的许多都表现出一个有趣的现象:所有已知的计算效率高的算法所需的数据量远远超过搜索所有可能结构的低效算法所需的数据量。Berthet和Rigollet在2013年发起的一系列工作旨在通过减少计算机科学中的数学上困难的平均情况问题来解释这些数学计算差距。然而,平均情况下减少的微妙性质限制了这种方法的适用性。在这项工作中,我们引入了几种新的技术,给一个网络的平均情况下减少显示强大的计算下限的基础上种植集团猜想使用自然问题作为中间体。这些包括种植独立集,种植稠密子图,稀疏尖峰维格纳,稀疏PCA,随机块模型的子图变体和稀疏PCA的有偏变体的紧下界。我们还给出了算法匹配我们的下限,并确定我们考虑的模型的信息理论的限制。
2019-11-18 cs.CC cs.DS cs.IT
List Decodable Subspace Recovery
从存在离群值的数据中学习是统计学中的一个基本问题。在这项工作中,我们研究了强大的统计存在压倒性的离群值的子空间恢复的基本问题。给定一个数据集,其中数据的$α$分数(小于一半)均匀分布在$d$维度中的未知$k$维度子空间中,并且对剩余数据没有附加假设,目标是恢复$O(\frac{1}α)$子空间的简洁列表,其中一个子空间与种植子空间非平凡相关。我们提供了第一个多项式时间算法的“列表解码子空间恢复”的问题,并submanned它在一个更一般的框架下的列表解码分布是“可证明弹性”捕获状态的最先进的结果列表解码均值估计和回归。
2020-02-07 cs.DS math.ST stat.TH
Is Planted Coloring Easier than Planted Clique?
我们研究了两个相关问题的计算复杂性:在$G(n,1/2)$中恢复种植的$q$ -着色,以及找到非$q$ -可着色性的有效可验证的证人(a.k.a.反驳)在$G(n,1/2)$中。我们的主要结果表明,这两个问题的限制,但功能强大的一类算法的基础上计算低次多项式的输入的硬度。恢复种植$q$ -着色的问题等价于恢复覆盖所有顶点的不相交的种植$q$集团--这是一个可能更容易的已被充分研究的种植集团问题的变体。我们的第一个结果表明,这种变体与低次多项式计算模型中的原始种植集团问题一样困难:每个集团需要具有大小$k \gg \sqrt{n}$才能进行有效恢复。对于相关的变种,其中集团覆盖的顶点的$(1-ε)$分数,我们还显示硬度减少种植集团。我们的第二个结果表明,反驳$q$-$G(n,1/2)$的可着色性是很难的低次多项式模型时,$q \gg n^{2/3}$,但很容易时,$q \lesssim n^{1/2}$,我们离开关闭这个差距,为今后的工作。我们的证明是更微妙的种植集团比类似的结果,并涉及到构建一个非标准分布在$q$ -着色图。我们注意到,虽然与几个以前的作品,这是第一个明确制定反驳问题的低次多项式模型的工作。我们的主要结果的证明涉及到一个适当构造的分布对之间的假设检验的硬度低。对于反驳,我们展示了这种方法的完备性:在低度模型中,反驳任务与最难的关联测试问题一样难,即,证明反驳的困难性…
2023-03-01 cs.CC cs.DS
Algorithmic Contiguity from Low-Degree Heuristic II: Predicting Detection-Recovery Gaps
School of Mathematical Sciences, Peking University(北京大学数学科学学院)
本文提出了一种通用方法,通过轻度控制低次测试优势来获得恢复问题的条件计算下界,结合算法连续性和交叉验证减少,为多个高维推断问题提供了新的计算阈值证据。
2026-04-19 cs.DS math.ST stat.ML
The Planted Spanning Tree Problem
本文研究在完全随机加权图中检测和恢复隐藏种植生成树的问题,分析最小生成树算法的恢复性能,建立渐近平均权重并推广Frieze的ζ(3)结果,进而设计出能以趋于零误差区分种植与未种植模型的有效检验。
2025-07-04 cs.DM cs.DS
Fast spectral algorithms from sum-of-squares proofs: tensor decomposition and planted sparse vectors
Cornell University(康奈尔大学);UC Berkeley(加州大学伯克利分校)
我们考虑了机器学习应用中出现的两个问题:在随机线性子空间中恢复种植稀疏向量的问题和分解随机低秩过完备3-张量的问题。对于这两个问题,最著名的保证是基于平方和方法。我们开发新的算法的启发分析的平方和方法。我们的算法实现了相同或类似的保证,这些问题的平方和,但运行时间显着更快。对于种植稀疏向量问题,我们给出了一个算法的运行时间近似线性的输入大小,近似恢复种植稀疏向量的一个随机子空间的$\mathbb R^n$的维数高达$\tilde Ω(\sqrt n)$的相对稀疏度为常数。这些恢复保证与Barak,Kelner和Steurer(STOC 2014)最知名的恢复保证匹配,最高可达对数因子。对于张量分解,我们给出了一个算法的运行时间接近线性的输入大小(与指数$\approx 1.086$),近似恢复一个组件的随机3张量在$\mathbb R^n$的秩高达$\tilde Ω(n^{4/3})$。由于Ge和Ma(RANDOM 2015),此问题的最佳先前算法可达到$\tilde Ω(n^{3/2})$的秩,但需要准多项式时间。
2016-02-03 cs.CC cs.DS cs.LG
The Lovász Theta Function for Recovering Planted Clique Covers and Graph Colorings
University of Southern California(南加州大学);National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学);Archimedes/Athena RC, Greece(希腊阿基米德/雅典研究中心);Centre for Quantum Technologies, National University of Singapore(新加坡国立大学量子技术中心)
本文研究了洛瓦兹θ函数在随机图中恢复嵌入clique覆盖结构的能力,证明了其在特定模型下的有效性。
2026-02-04 cs.DS cs.IT math.CO
Subexponential-Time Algorithms for Sparse PCA
我们研究了恢复种植在随机矩阵中的单位范数稀疏主成分$x \in \mathbb{R}^n$的计算成本,无论是Wigner或Wishart尖峰模型(观察$W + λxx^\top$与$W$从高斯正交系综,或$N$独立样本从$\mathcal{N}(0, I_n + βxx^\top)$,分别)。先前的工作已经表明,当信噪比(分别为$λ$或$β\sqrt{N/n}$)是一个小常数,并且种植向量中的非零条目的分数是$\|x\|_0 / n = ρ$时,如果$ρ\lesssim 1/\sqrt{n}$,则可以在多项式时间内恢复$x$。虽然在较弱的条件$ρ\ll 1$下可以在指数时间内恢复$x$,但是认为多项式时间恢复是不可能的,除非$ρ\lesssim 1/\sqrt{n}$。我们通过探索次指数时间算法的能力来研究在"可能但困难"的机制$1/\sqrt{n} \ll ρ\ll 1$中恢复所需的精确时间,即,在时间$\exp(n^δ)$中运行的算法对于某个常数$δ\in (0,1)$。对于任何$1/\sqrt{n} \ll ρ\ll 1$,我们给出了一个恢复算法的运行时间大致$\exp(ρ^2 n)$,展示了稀疏性和运行时间之间的平滑权衡。我们的家庭的算法之间插入顺利现有的两个算法:多项式时间对角阈值算法和$\exp(ρn)$时间穷举搜索算法。此外,通过分析低度似然比,我们给出了严格的证据表…
2022-06-23 cs.CC cs.DS math.ST
Aligning Multiple Inhomogeneous Random Graphs: Fundamental Limits of Exact Recovery
本文研究了多个相关图恢复对应关系的基本极限,提出一种先两两部分匹配再利用传递性合并的算法,证明了其在齐次图设定下达到信息论阈值,并揭示了利用多图实现精确匹配的场景。
2025-06-29 cs.DM cs.DS math.ST
BalLOT: Balanced $k$-means clustering with optimal transport
Department of Mathematics, The Ohio State University(数学系,俄亥俄州立大学);Translational Data Analytics Institute, The Ohio State University(转化数据分析研究所,俄亥俄州立大学)
BalLOT通过最优传输方法实现平衡k均值聚类,提供快速有效解决方案,并在理论和实验上证明了其在聚类恢复中的有效性。
2026-10-02 cs.DS cs.IT cs.LG
Robust Algorithms for Finding Cliques in Random Intersection Graphs via Sum-of-Squares
Hasso Plattner Institute, University of Potsdam(波茨坦大学哈索·普拉特纳研究所)
本文提出高效算法以恢复随机交集图中的聚类结构,能够处理重叠聚类并具备抗噪声和对抗攻击的能力,适用于k远大于√(n log n)的情况。
2026-04-10 cs.DS
Sharp bounds for population recovery
Northwestern University(西北大学);Carnegie Mellon University(卡内基梅隆大学);Columbia University(哥伦比亚大学)
种群恢复问题是噪声无监督学习中的一个基本问题,近年来引起了广泛的研究关注[WY12,DRWY12,MS13,BIMP13,LZ15,DST 16]。已经研究了这个问题的许多不同变体,通常是在未知分布的假设下(例如它具有有限的支持大小)。在这项工作中,我们研究的样本复杂性和算法的复杂性的最一般的版本的问题,在这两个位翻转噪声和擦除噪声模型。我们基本上匹配的上,下样本的复杂性界限的噪声模型,和有效的算法匹配这些样本的复杂性界限多项式的因素。
2017-03-04 cs.DS cs.LG math.ST
The Power of Two Matrices in Spectral Algorithms for Community Recovery
本文针对删失随机块模型的精确社区恢复问题,提出融合同一图两种矩阵编码谱信息的双矩阵谱算法,证明其可达信息论阈值,而单矩阵算法通常次优。
2024-10-24 cs.DS math.ST stat.TH
Achieving Almost Exact Recovery in Almost Quadratic Time: Rank-Based Graph Matching via Local Tree Correlation Tests
University of Michigan(密歇根大学)
研究相关ER图对模型下的图匹配,提出基于局部树相关性测试、用基于秩算法匹配顶点对的图匹配算法,在特定假设下有$n^{2+o(1)}$时间复杂度,能高概率几乎精确恢复,是该$\lambda$范围首个近二次时间算法。
2026-07-24 cs.DS math.ST stat.ML
The Kikuchi Hierarchy is Sharp for $k$XOR
Center for Theoretical Physics, MIT(麻省理工学院理论物理中心);Microsoft Station Q(微软Station Q)
针对稀疏$k$XOR的谱分析存在多对数因子损失的问题,提出归一化Kikuchi层级实现紧的信号-时间权衡,给出匹配下界与量子加速,并用于证明超图Moore界猜想。
2026-08-03 cs.CC cs.DS quant-ph
Improved Certificates for Independence Number in Semirandom Hypergraphs
Princeton University(普林斯顿大学);Indian Institute of Science, Bengaluru(印度科学研究所班加罗尔分院);University of California, Berkeley(加州大学伯克利分校)
针对半随机超图独立数上界认证问题,通过度-2ℓ SoS松弛和随机混沌矩阵范数分析,消除了n的对数因子,几乎达到最优阈值O(√n/p^{1/ℓ}),并构造了低度不可区分的安静种植分布。
2026-06-16 cs.DS
Learning Communities in the Presence of Errors
Microsoft Research(微软研究院);TTIC(丰田理工学院);Northwestern University(西北大学)
研究了存在建模误差时的学习社区问题,并给出了随机块模型(SBM)的鲁棒恢复算法。该模型也被称为种植分区模型(Planted Partition Model),广泛用于各种领域中的社区发现和图分区,包括机器学习、统计学和社会科学。在随机块模型中,存在许多用于学习社区的算法,但它们在存在错误的情况下不能很好地工作。在本文中,我们开始研究鲁棒算法的部分恢复SBM建模误差或噪声。我们考虑根据随机块模型生成的图,然后由对手修改。我们允许两种类型的对抗性错误,Feige-Kilian或单调错误和边缘离群值错误。Mossel、Neeman和Sly(STOC 2015)提出了一个开放性问题,即当允许对手添加$o(n)$边时,是否可能实现几乎精确的恢复。我们的工作肯定地回答了这个问题,即使是在$k>2$社区的情况下。然后,我们表明,我们的算法不仅工作时的实例来自SBM,但也工作时的实例来自任何分布的图是$εm$接近SBM的Kullback-Leibler分歧。这个结果在对抗性错误的情况下也有效。最后,我们为两个社区提供了几乎严格的下限。
2016-06-24 cs.DS cs.LG math.ST
Semi-Random Sparse Recovery in Nearly-Linear Time
MIT(麻省理工学院);Microsoft Research(微软研究院);Stanford University(斯坦福大学)
稀疏恢复是反问题中最基本和研究最多的问题之一。标准的统计公式的问题可证明解决一般凸规划技术和更实用,快速(近线性时间)迭代法。然而,这些后者的“快速算法”先前已被观察到在各种现实世界的设置是脆弱的。我们研究快速稀疏恢复算法的脆性生成模型的变化,通过研究他们的鲁棒性的镜头,一个“有用的”半随机对手,一个框架,测试算法是否过拟合输入假设。我们考虑下面的基本模型:让$\mathbf{A} \in \mathbb{R}^{n \times d}$是一个测量矩阵,其中包含一个未知的子集行$\mathbf{G} \in \mathbb{R}^{m \times d}$有界,并满足限制等距属性(RIP),但在其他方面是任意的。让$x^\star \in \mathbb{R}^d$是$s$ -稀疏的,并给出精确的测量$b = \mathbf{A} x^\star$或噪声测量$b = \mathbf{A} x^\star + ξ$,我们设计算法恢复$x^\star$信息-理论上最佳地在近线性时间。我们扩展我们的算法,以保持较弱的生成模型放松我们种植RIP假设一个自然的加权变量,并表明我们的方法的保证自然插值的测量矩阵的质量,在某些参数制度,运行在次线性时间。我们的方法不同于以前的快速迭代法与半随机生成模型下的可证明保证:自然条件的子矩阵,使稀疏恢复易于验证的NP-难。我们设计了一个新的迭代法适合于稀…
2022-03-08 cs.DS cs.LG math.OC
Quantum Sparse Recovery and Quantum Orthogonal Matching Pursuit
Munich Center for Quantum Science and Technology (MCQST)(慕尼黑量子科学与技术中心)
针对非正交过完备字典中的量子稀疏恢复问题,提出量子正交匹配追踪算法,在多项式时间内恢复K-稀疏状态,并应用于稀疏量子层析成像,实现查询复杂度加速。
2025-10-08 cs.DS cs.LG quant-ph