Tight Kernel Query Complexity of Kernel Ridge Regression and Kernel $k$-means Clustering
Carnegie Mellon University(卡内基梅隆大学)
我们提出了严格的下界的核评估所需的数量近似解决内核岭回归(KRR)和内核$k$ -均值聚类(KKMC)的$n$输入点。对于KRR,我们的相对误差逼近目标函数的最小值的界是$Ω(nd_{\mathrm{eff}}^λ/\varepsilon)$,其中$d_{\mathrm{eff}}^λ$是有效的统计维数,它紧到$\log(d_{\mathrm{eff}}^λ/\varepsilon)$因子。对于KKMC,我们找到一个$k$ -聚类实现目标函数的相对误差近似的界限是$Ω(nk/\varepsilon)$,这是紧到一个$\log(k/\varepsilon)$因素。我们的KRR结果解决了El Alaoui和Mahoney的一个开放问题的变体,即有效统计维度是否是抽样复杂性的下限。此外,对于重要的实际情况下,当输入是高斯的混合,我们提供了一个KKMC算法绕过上述下限。
2019-05-15 cs.DS cs.LG
Tight FPT Approximations for $k$-Median and $k$-Means
研究了一般度量空间中经典的$k$ -median / $k$ -means聚类问题的细粒度近似复杂性.我们展示了如何使用在固定参数时间内运行的算法,分别提高$(1+2/e+\varepsilon)$和$(1+8/e+\varepsilon)$的近似因子。此外,我们表明,我们不能做得更好的FPT时间,模最近的复杂性理论的示意图。
2019-04-28 cs.DS
Towards Tight Bounds on the Sample Complexity of Average-reward MDPs
Stanford University(斯坦福大学)
我们证明了新的上界和下界的样本复杂性,找到一个$ε$最优的政策的无限地平线平均回报马尔可夫决策过程(MDP)访问生成模型。当所有策略的概率转移矩阵的混合时间最多为$t_\mathrm{mix}$时,我们提供了一种算法,该算法使用每个状态-动作对的$\widetilde{O}(t_\mathrm{mix} ε^{-3})$(不经意)样本来解决该问题。此外,我们提供了一个下限表明,在最坏的情况下,任何算法计算不经意的样本的线性依赖于$t_\mathrm{mix}$是必要的。我们得到我们的结果,通过建立无限地平线平均回报MDP和折扣MDP可能进一步的效用之间的连接。
2021-06-13 cs.DS cs.LG math.OC
Tight query complexity bounds for learning graph partitions
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Blueqat Research(Blueqat研究院)
给定一个图划分为连通的组件,成员资格预言机断言图的任何两个顶点是否位于同一个组件中。我们证明了对于$n\ge k\ge 2$,学习$n$ -顶点隐藏图的$k$组件的组件至少需要$(k-1)n-\binom k2$成员查询。我们的结果改进了$Ω(n\log k)$查询的最佳信息理论界,并且完全匹配[Reyzin和Srivastava,2007]针对该问题引入的算法的查询复杂度。此外,我们引入了一个甲骨文,访问它可以学习的组件数量的$G$在渐近较少的查询比学习完整的分区,从而回答了另一个问题所提出的相同的作者。最后,我们介绍了一个更适用的版本,这个预言,并证明了渐近紧界的$\widetildeΘ(m)$查询的学习和验证的$m$边隐藏图$G$使用它。
2022-06-17 cs.DS cs.LG
On the Average Complexity of Moore's State Minimization Algorithm
我们证明,对于任何任意的有限字母表和均匀分布的确定性和可访问的自动机与n个国家,摩尔的状态最小化算法的平均复杂性是在O(n log n)。此外,在一元utomata的情况下,这个界是紧的。
2009-02-06 cs.CC cs.DS
Tight Bounds for Set Disjointness in the Message Passing Model
在多方消息传递通信模型中,存在$k$参与者。每个玩家都有一个私人输入,他们通过私人渠道互相发送消息进行通信。虽然该模型已被广泛用于分布式计算和多方计算中,但该模型和相关模型中的通信复杂性的下限一直有些稀缺。在最近的工作\cite{phillips12,woodruff12,woodruff13}中,消息传递模型中的几个函数得到了$Ω(n \cdot k)$形式的强下界;然而,经典的集合不相交问题的下界仍然难以捉摸。本文证明了消息传递模型中集合不相交性问题的$Ω(n \cdot k)$形式的紧下界。我们的界限是通过在消息传递模型中开发信息复杂性工具,然后证明集合不相交性的信息复杂性下界得到的。作为一个推论,我们显示了一个严格的下界的任务分配问题\cite{DruckerKuhnOshman}通过减少从集不相交。
2013-05-21 cs.DS
Tight Conditional Lower Bounds for Vertex Connectivity Problems
本文在寻找4-clique的猜想下证明顶点连通性问题无法全部归入近线性时间,并给出稠密图及一般密度图中各类顶点连通性问题的紧复杂度下界。
2023-04-16 cs.DS
Tight Bound for the Number of Distinct Palindromes in a Tree
对于一个无向树的$n$边缘标记单字母,我们考虑它的子串,这是简单的路径对节点之间的标签。我们证明了存在$O(n^{1.5})$不同的回文子串。这解决了Brlek,Lafrenière和Provençal(DLT 2015)的一个开放问题,他们给出了一个匹配的下界构造。因此,我们解决了$Θ(n^{1.5})$的最大回文复杂度的树的紧界。对于标准字符串,即,对于路径,回文复杂度为$n+1$。我们还提出了$O(n^{1.5} \log{n})$时间算法报告所有不同的回文在一个无向树与$n$边缘。
2020-11-26 cs.DS
The non-adaptive query complexity of testing k-parities
我们证明了Theta(k log k)查询的紧界,用于非自适应地测试函数f:{0,1}^n -> {0,1}是否是k-奇偶校验或远离任何k-奇偶校验。下界结合了Blais、Brody和Matulef [BBM 11]的最新方法,以获得用于从通信复杂性测试的下界,其中Omega(k \log k)下界用于k-不相交性的单向通信复杂性。
2013-07-03 cs.CC cs.DS
Submodular Streaming in All its Glory: Tight Approximation, Minimum Memory and Low Adaptive Complexity
Yale University(耶鲁大学);Google Research(谷歌研究院)
流算法通常通过其解决方案的质量、存储器占用和计算复杂性来判断。本文研究了具有基数约束$k$的流环境中单调子模函数的最大化问题。我们首先提出Sieve-Streaming ++,它只需要一次通过数据,只保留$O(k)$元素,并实现紧密的$(1/2)$近似保证。先前已知的最佳流算法或者利用$Θ(k)$存储器实现次优$(1/4)$-近似,或者利用$O(k\log k)$存储器实现最优$(1/2)$-近似。接下来,我们表明,通过缓冲流的一小部分,并应用一个仔细的过滤过程,可以大大减少自适应计算轮数,从而大大降低计算复杂性的Sieve-Streaming ++。然后,我们将我们的结果推广到更具挑战性的多源流设置。我们展示了如何可以实现紧密的$(1/2)$近似保证与$O(k)$共享内存,同时最大限度地减少不仅所需的计算轮次,但也通信位的总数。最后,我们证明了我们的算法在真实世界的数据摘要任务的多源流的推文和YouTube视频的效率。
2019-05-13 cs.DS cs.LG stat.ML
Upper Dominating Set: Tight Algorithms for Pathwidth and Sub-Exponential Approximation
上支配集是图的最小支配集。在\textsc{Upper Dominating Set}问题中,目标是找到最大尺寸的上支配集。我们研究了\textsc{Upper Dominating Set}的参数化算法的复杂性,以及它的次指数近似。首先,我们证明,在ETH下,\textsc{$k$-Upper Dominating Set}不能解决时间$O(n^{o(k)})$(改进$O(n^{o(\sqrt{k})})$),并在同一时间,我们表明在相同的复杂性假设下,对于任何恒定比例$r$和任何$\varepsilon > 0$,没有$r$ -近似算法运行在时间$O(n^{k^{1-\varepsilon}})$。然后,我们解决了问题的复杂性参数的路径宽度通过给出一个算法运行的时间$O^*(6^{pw})$(改进当前最好的$O^*(7^{pw})$),和一个下界表明,我们的算法是最好的,我们可以得到的SETH。此外,我们得到一个简单的次指数近似算法这个问题:一个算法,产生一个$r$近似时间$n^{O(n/r)}$,任何所需的近似比$r < n$。最后,我们证明了这种时间近似的权衡是紧密的,直到第二指数中的任意小常数:在随机ETH下,对于任何比例的$r > 1$和$\varepsilon > 0$,没有算法可以输出时间上的$r$近似$n^{(n/r)^{1-\varepsilon}}$。因此,我…
2021-01-19 cs.CC cs.DS
Tight Euler tours in uniform hypergraphs - computational aspects
本文证明判定3-均匀超图是否存在紧欧拉环游是NP完全的,并给出时间复杂度匹配下界、空间多项式、可计数紧欧拉环游的精确指数算法。
2017-09-12 cs.CC cs.DS
Tight Space Lower Bound for Pseudo-Deterministic Approximate Counting
该研究针对流算法中的近似计数问题,分析其伪确定性复杂度,证明了紧的Ω(log N)空间下界,解决了Goldwasser等人提出的相关问题,补充了伪确定性流算法的空间复杂度理论。
2024-10-05 cs.CC cs.DS
Counting list homomorphisms from graphs of bounded treewidth: tight complexity bounds
这项工作的目标是给出精确的计数复杂性的一个家庭的广义着色问题(列表同态)有界树宽图。给定图$G$、$H$和每个$v\in V(G)$的列表$L(v)\subseteq V(H)$,{ \em列表同态}是保留边的函数$f:V(G)\to V(H)$(即,$uv\in E(G)$意味着$f(u)f(v)\in E(H)$)并遵守列表(即,$f(v)\in L(v))$。标准技术表明,如果$G$是用宽度为$t$的树分解给出的,则列表同态的数量可以在时间上计数$|V(H)|^t\cdot n^{\mathcal{O}(1)}$。我们的主要结果是确定,对于每一个固定的图$H$,有多少基本$|V(H)|$在运行时间可以提高。对于一个连通图$H$,我们定义$\operatorname{irr}(H)$如下:如果$H$有一个循环或者是非二分的,那么$\operatorname{irr}(H)$是一个集合$S\subseteq V(H)$的最大尺寸,其中任何两个顶点有不同的邻域;如果$H$是二分的,那么$\operatorname{irr}(H)$是这样一个集合的最大尺寸,它完全在一个二分类中。对于不连通的$H$,我们定义$\operatorname{irr}(H)$为$H$的每个连通分量$C$上的$\operatorname{irr}(C)$的最大值。我们发现,对于每个固定的图$H$,列表同态从$…
2021-10-29 cs.CC cs.DS
Learning CNF Formulas from Uniform Random Solutions: Near-Tight Sample Complexity for Valiant's Algorithm
The University of Hong Kong(香港大学);Nanjing University(南京大学)
本文重新分析 Valiant 算法在局部引理条件下从均匀随机解学习 CNF 公式的样本复杂度,证明其在 $t>1$ 时达到匹配下界,在 $t=1$ 时对数因子内最优。
2026-09-15 cs.DS cs.LG
A relation between additive and multiplicative complexity of Boolean functions
本文证明了在基{+,*,1}上用电路实现的布尔函数的加法复杂度和乘法复杂度之间的渐近紧关系。
2013-03-18 cs.DS
Tight Bounds for Single-Pass Streaming Complexity of the Set Cover Problem
我们解决了单通道流算法的空间复杂度近似经典的集合覆盖问题。为了找到一个$α$ -近似集覆盖(任何$α= o(\sqrt{n})$)使用单通道流算法,我们表明,$Θ(mn/α)$空间是充分和必要的(高达$O(\log{n})$的因素),这里$m$表示的集合数和$n$表示宇宙的大小。这为Indyk等人(2015)提出的关于使用次线性空间的小近似因子的单遍算法的可能性的开放问题提供了一个强有力的否定答案。我们进一步研究的问题,估计的最小集覆盖的大小(而不是找到实际的集),并建立一个额外的因素$α$节省的空间是可以实现的,在这种情况下,这是最好的可能。换句话说,我们表明,$Θ(mn/α^2)$空间是足够的和必要的(对数因子)估计的最小集覆盖范围内的一个因素$α$的大小。我们的算法实际上适用于估计覆盖整数规划的最优值的更一般的问题。另一方面,我们的下界甚至对于集合以随机顺序呈现的集合覆盖实例也成立。
2016-03-17 cs.DS
Tight Bounds on the Message Complexity of Distributed Tree Verification
研究分布式树验证的消息复杂度,提出通用框架建立紧致下界,揭示生成树与最小生成树验证复杂度的多项式分离,并分析其对网络规模近似质量和BFS树拉伸参数的敏感性。
2025-04-30 cs.DC cs.DS
Tight Bounds for Parallel Randomized Load Balancing
我们探讨了分布式balls-into-bins算法的基本限制。我们提出了一个自适应对称算法,实现了一个二进制负载在log* n+O(1)通信轮使用O(n)的消息。较大的仓负载可以换取较小的时间复杂度。我们证明了对称算法的时间复杂度的匹配下界为(1-o(1))log* n,该算法保证了小bin负载的渐近最优消息复杂度为O(n)。对于每一个假设的下限,我们提供了一个算法违反它,反过来实现恒定的最大仓负载在恒定的时间。作为应用,我们考虑以下问题。给定一个由n个节点组成的全连通图,其中每个节点需要发送和接收多达n条消息,并且在每一轮中,每个节点可以通过每条链路发送一条消息,将所有消息尽快传递到目的地。我们给出了一个简单的和强大的算法的时间复杂度O(log* n)为这项任务,并提供了一个概括的情况下,所有节点最初持有任意组的消息。一个不太实用的算法在渐近最优O(1)轮内终止。所有这些界限都以很高的概率成立。
2011-02-26 cs.CC cs.DC cs.DS
Simple and tight complexity lower bounds for solving Rabin games
本文提出从 Permutation SAT 出发的更简单归约,在 ETH 下证明 Rabin 博弈胜者判定的 $2^{o(k\log k)}n^{O(1)}$ 下界,并统一推出 Muller 与多维 parity 博弈的类似下界。
2023-10-31 cs.DS cs.FL
Tight tradeoffs for approximating palindromes in streams
我们考虑在流模型中计算长度为$n$的文本中的最长回文,其中字符一个接一个地到达,并且我们没有随机访问输入。虽然在这样的设置中不可能使用次线性记忆精确地计算答案,但仍然可以希望有一个良好的近似保证。我们专注于两个最自然的变体,我们的目标是最长回文长度的加法或乘法近似。我们首先表明,有没有考虑拉斯维加斯算法在这样的设置点,因为他们不能实现次线性空间复杂度。对于蒙特卡罗算法,我们提供了一个下界的$Ω(\frac{n}{E})$位近似的答案与添加剂错误$E$,和$Ω(\frac{\log n}{\log(1+\varepsilon)})$位近似的答案与乘法错误$(1+\varepsilon)$的二进制字母表。然后,我们构建了一个通用的蒙特卡罗算法,通过适当地选择参数,实现空间复杂度匹配的对数因子的两个变量。这大大改进了Berenbrink等人(STACS 2014)的先前结果,并基本解决了空间复杂度。
2016-04-07 cs.DS
ETH-Tight Complexity of Optimal Morse Matching on Bounded-Treewidth Complexes
Chennai Mathematical Institute(金奈数学研究所);Western Norway University of Applied Sciences (HVL)(西挪威应用科学大学)
针对最优Morse匹配问题,提出了一种在任意有限正则CW复形上运行时间为$2^{O(k \log k)} n$的算法,并证明除非指数时间假说(ETH)失败,否则不存在$2^{o(k \log k)} n^{O(1)}$时间的算法。
2026-06-02 cs.CC cs.CG cs.DM
Tight lower bound for the channel assignment problem
我们研究了信道分配问题的复杂性。一个主要的开放性问题是,信道分配是否允许一个$O(c^n)$时间算法,对于一个恒定的$c$独立的边缘上的权重。我们回答这个问题的否定,即我们表明,没有$2^{o(n\log n)}$时间算法解决信道分配,除非指数时间假设失败。请注意,目前最著名的算法工作在时间$O^*(n!) = 2^{O(n\log n)}$,所以我们的下限是紧的。
2014-07-26 cs.DS
The Sketching Complexity of Graph and Hypergraph Counting
子图计数是图处理中的基本原语,其应用于社会网络分析(例如,估计图的聚类系数)、数据库处理等领域。子图计数的空间复杂度已经在文献中得到了广泛的研究,但许多自然设置仍然没有得到很好的理解。在本文中,我们重新审视子图(和超图)计数问题的草图模型,算法的状态,因为它处理流的更新图是一个线性函数的流。该模型最近在文献中得到了很多关注,并已成为解决动态图流问题的标准模型。在本文中,我们给出了一个严格的界限计数的出现次数的一个小子图$H$在有界度图$G$的边缘更新流的草图复杂度。具体来说,我们表明,问题的空间复杂度是由图$H$的分数顶点覆盖数。我们的子图计数算法实现了一个自然的顶点采样方法,采样概率由$H$的顶点覆盖。我们的主要技术贡献在于我们开发了一套新的傅立叶分析工具,用于分析同时通信模型中的多人通信协议,使我们能够证明一个严格的下限。我们相信,我们的技术很可能在其他环境中找到应用。除了给出所有图$H$的紧边界外,我们的算法和下界都扩展到超图设置,尽管在空间复杂度上有一些损失。
2018-08-15 cs.DS
Fine-Grained Complexity of Computing Degree-Constrained Spanning Trees
该研究针对三类度约束下的最小代价生成树计算问题,结合经典图参数给出了不同参数化下的紧复杂度界与算法,完善了该问题的细粒度复杂度研究。
2025-03-19 cs.DS
Supporting Ruled Polygons
我们探讨了几个问题有关的规则多边形。给定多边形$P$的一条划线,考虑由该划线诱导的$P$的Reeb图.我们定义了$P$的Reeb复杂度,它大致等于支持$P$所需的最小点数。我们给出了渐近紧界的Reeb复杂性,也紧到一个小的附加常数。当限制到一组并行规则,我们表明,Reeb复杂性可以计算在多项式时间。
2017-07-04 cs.CG cs.DS
Tight Lower Bounds for Data-Dependent Locality-Sensitive Hashing
我们证明了一个紧的下界指数$ρ$的数据依赖的局部敏感哈希方案,最近用于设计有效的解决方案的$c$ -近似最近邻搜索。特别是,我们的下界匹配$\ell_1$空间的$ρ\le \frac{1}{2c-1}+o(1)$的界,通过最近的算法从[Andoni-Razenshteyn,STOC'15]获得。近年来,人们发现,当散列函数与数据无关时,数据相关散列严格优于经典的局部敏感散列。在后一种设置中,最佳指数已经知道:对于$\ell_1$空间,紧边界是$ρ=1/c$,上限来自[Indyk-Motwani,STOC'98],匹配的下限来自[O' Donnell-Wu-Zhou,ITCS'11]。我们证明,即使散列是数据相关的,它必须持有的$ρ\ge \frac{1}{2c-1}-o(1)$。为了证明这个结果,我们需要形式化数据相关哈希的确切概念,它也捕获了哈希函数的复杂性(除了它们的冲突属性)。如果不限制这种复杂性,我们将允许明显不可行的解决方案,如数据集的沃罗诺伊图。为了排除这种解决方案,我们要求哈希函数简洁。所有已知的算法结果都满足这个条件。
2015-07-15 cs.CC cs.CG cs.DS
Tight Lower Bounds for Locally Differentially Private Selection
我们证明了一个严格的下限(常数因子)的样本复杂性的任何非交互式本地差分私有协议优化的线性函数的单纯形。这个下限也意味着一个严格的下限(再次,常数因子)的样本复杂性的任何非交互式本地差分私有协议实现指数机制。这些结果表明,这些问题的任何本地协议具有指数更差的依赖于维数比相应的算法在中心模型。在此之前,Kasiviswanathan等人(FOCS 2008)证明了PAC学习奇偶函数类的局部和中心模型算法之间的指数分离。相比之下,我们的下限在数量上是紧的,适用于一个简单而自然的线性优化问题,我们的技术可以说是更简单。
2021-05-14 cs.CR cs.DS cs.LG
The I/O complexity of hybrid algorithms for square matrix multiplication
本文导出了一类计算$n \times n$方阵乘积的混合算法的I/O复杂度的渐近紧下界,该混合算法结合了具有计算复杂度$Θ{n^{\log_2 7}}$的“\emph{Strassen-like}”快速矩阵乘法方法和具有计算复杂度$Ω\left(n^3\right)$的“\emph{standard} "矩阵乘法算法.我们提出了一个新的和紧密的$Ω\left(\left(\frac{n}{\max\{\sqrt{M},n_0\}}\right)^{\log_2 7}\left(\max\{1,\frac{n_0}{M}\}\right)^3M\right)$下界的I/O复杂性的一类"\emph{uniform, non-stationary}“混合算法时,执行在一个两级存储层次结构与$M$字的快速存储器,其中$n_0$表示的阈值大小的子问题,使用标准算法计算的代数复杂性$Ω\left(n^3\right)$。下限实际上是为更一般的“\emph{non-uniform, non-stationary}”混合算法类推导的,这种混合算法允许递归调用具有不同的结构,即使它们涉及相同大小和相同递归级别的矩阵乘法,尽管定量表达式变得更加复杂。我们的研究结果是第一个I/O下界为这些类的混合算法。所有提出的下界适用,即使重新计算的部分结果是允许的,是渐近紧。证明技术结合分析的格里戈里耶夫流的矩阵乘…
2019-04-29 cs.DS
A Probabilistic Approach to Problems Parameterized Above or Below Tight Bounds
我们介绍了一种新的方法来建立固定参数的问题的参数化以上紧下界的易处理性。为了说明这种方法,我们考虑由Mahajan,Raman和Sikdar(J. Comput.系统科学75,2009)。我们证明了其中一个问题的推广和另外两个问题的非平凡特殊情况是固定参数易处理的。
2009-08-18 cs.DM cs.DS
Tight Analysis of Randomized Greedy MIS
我们提供了一个严密的分析,解决了研究充分的并行随机贪婪MIS算法的轮复杂性,从而回答了Blelloch,Fineman和Shun [SPAA'12]的主要公开问题。并行/分布式随机贪婪最大独立集(MIS)算法的工作原理如下。顶点的顺序是均匀随机选择的。然后,在每一轮中,按顺序出现在其邻居之前的所有顶点都被添加到独立集,并与其邻居一起从图中删除。感兴趣的主要问题是直到图为空所需的轮数。该算法自1987年以来一直在研究,由Coppermith,Raghavan和Tompa [FOCS'87]发起,以前最知名的边界是Calkin和Frieze [Random Struc. & Alg. '90]和$O(\log^2 n)$轮具有高概率的一般图由Blelloch,Fineman和Shun [SPAA'12]。我们证明了$O(\log n)$算法在一般图上的轮复杂度的一个高概率上界,并且这个上界是紧的。这也表明并行随机贪婪MIS与著名的Luby算法[STOC'85,JALG'86]一样快。
2019-05-16 cs.DS
Tight complexity lower bounds for integer linear programming with few constraints
我们考虑ILP可行性问题:给定一个整数线性规划$\{Ax = b, x\geq 0\}$,其中$A$是一个具有$k$行和$\ell$列的整数矩阵,$b$是$k$整数的向量,我们问是否存在满足$Ax = b$的$x\in\mathbb{N}^\ell$.我们的目标是研究ILP可行性的复杂性,当$k$,约束的数量($A$的行),和$\|A\|_\infty$,在$A$的最大绝对值,是小的。Papadimitriou [J. ACM,1981]是第一个给出在这种设置下ILP可行性的固定参数算法,运行时间为$\left((\|A\mid b\|_\infty) \cdot k\right)^{O(k^2)}$。最近Eisenbrand和Weismantel [SODA 2018]对此进行了改进,他们使用Steinitz引理设计了一种具有运行时间$(k\|A\|_\infty)^{O(k)}\cdot \|b\|_\infty^2$的算法,随后Jansen和Rohwedder [2018]将其改进为$O(k\|A\|_\infty)^{k}\cdot \log \|b\|_\infty$。我们证明了对于$\{0,1\}$ -矩阵$A$,对$k$的依赖可能是最优的:一个运行时间为$2^{o(k\log k)}\cdot (\ell+\|b\|_\infty)^{o(k)}$的算法将与ETH相矛…
2019-07-23 cs.DS
A unified complexity bound for logconcave sampling
University of Texas at Austin(得克萨斯大学奥斯汀分校)
本文通过In-and-Out算法与指数提升,给出了从热启动采样任意对数凹分布的简单、统一且近乎紧的界,主要创新是提升了提升分布的Poincaré常数界。
2026-06-12 cs.DS cs.LG math.PR
Towards Tight Bounds for Spectral Sparsification of Hypergraphs
图的切割和谱稀疏化有许多应用,包括例如加速切割算法和拉普拉斯求解器。这些强大的概念最近被扩展到超图,这是更丰富,并可能提供新的应用。然而,目前超图稀疏器的大小界限并不像图的相应界限那样严格。我们的第一个结果是一个多项式时间算法,给定一个超图的$n$顶点的最大超边大小$r$,输出一个$ε$ -频谱稀疏与$O^*(nr)$超边,其中$O^*$抑制$(ε^{-1} \log n)^{O(1)}$因素。该大小界限改进了先前的两个界限:$O^*(n^3)$ [Soma和Yoshida,SODA'19]和$O^*(nr^3)$ [Bansal,Svensson和Trevisan,FOCS'19]。我们的主要技术工具是一个新的方法证明浓度的非线性模拟的二次形式的拉普拉斯超图扩展。我们补充这一点上的任何压缩方案,$(1+ε)$ -近似在一个给定的超图中的所有削减的位复杂性的下限,因此也对每个$ε$ -削减/频谱稀疏的位复杂性。这些下界基于Ruzsa-Szemerédi图,并且特定的实例化即使对于固定常数$ε$也会产生比特复杂度的$Ω(nr)$下界。这是紧到多对数因子在$n$,由于最近超图削减稀疏的[陈,Khanna和Nagda,FOCS'20]。最后,对于有向超图,我们提出了一个算法,计算一个$ε$ -谱稀疏与$O^*(n^2r^3)$超弧,其中$r$是一个超弧的最大尺寸。对于小$r$,这比从[S…
2021-04-12 cs.DS
Streaming Complexity of SVMs
Columbia University(哥伦比亚大学);Nanyang Technological University(南洋理工大学);Toyota Technological Institute at Chicago(芝加哥丰田工业大学);Carnegie Mellon University(卡内基梅隆大学)
研究了流模型下求解偏正则化支持向量机问题的空间复杂度。这是一个经典的监督学习问题,已经引起了很多关注,包括开发近似解决问题的快速算法。用于近似优化SVM目标的最广泛使用的算法之一是随机梯度下降(SGD),其仅需要$O(\frac{1}{λε})$随机样本,并且其立即产生使用$O(\frac{d}{λε})$空间的流算法。对于相关的问题,更好的流算法只知道光滑函数,不像我们在这项工作中关注的SVM目标。我们开始调查的空间复杂性都找到一个近似的最佳的这个目标,并为相关的"点估计“问题的草图的数据集,以评估任何查询$(θ, b)$的功能值$F_λ$。我们表明,对于这两个问题,对于尺寸$d=1,2$,可以获得流算法的空间多项式小于$\frac{1}{λε}$,这是复杂的SGD强凸函数,如偏置正则化SVM,这是众所周知的是紧的一般,即使是$d=1$。我们还证明了点估计和优化的多项式下界。特别是,对于点估计,我们得到了一个紧界的$Θ(1/\sqrtε)$的$d=1$和$\widetildeΩ(d/ε^2)$的$d = Ω( \log(1/ε))$的近紧下界。最后,对于优化,我们证明了一个$Ω(1/\sqrtε)$下界为$d = Ω( \log(1/ε))$,并显示类似的界限时,$d$是常数。
2020-07-07 cs.CC cs.CG cs.DS
Algorithms and Almost Tight Results for 3-Colorability of Small Diameter Graphs
尽管关于几个基本参数的3-着色问题已经有了广泛的研究,但小直径图(即直径为2或3的图)上的3-着色问题的复杂性状态一直是一个长期存在且具有挑战性的公开问题。对于直径为2的图,我们提供了第一个次指数算法的复杂性$2^{O(\sqrt{n\log n})}$,这是渐近相同的,目前最好的已知的时间复杂度的图同构(GI)的问题。证明了直径为2的3-可着色图的图同构问题是GI-完全的。此外,我们提出了一个子类的图直径为2,承认多项式算法的3-着色。对于直径为3的图,我们证明了对于每一个$\varepsilon \in [0,1)$,直径为3,半径为2,顶点为$n$,最小度为$δ=Θ(n^{\varepsilon})$的无三角形图的3-染色是NP-完全的。此外,假设ETH,我们提供了三个不同的放大我们的硬度结果,以获得每个$\varepsilon \in [0,1)$次指数下界的复杂性,3-着色的三角形自由图直径为3和最小度$δ=Θ(n^{\varepsilon})$。最后,我们给出了一个直径为3的图的3-着色算法$2^{O(\min\{δΔ,\frac{n}δ\logδ\})}$,其中$δ$(resp. $Δ$)是最小值(分别为最大)度。据我们所知,该算法是第一个次指数算法的图与$δ=ω(1)$和图与$δ=O(1)$和$Δ=o(n)$。由于3-着色复杂度的上述下界,当输入图为$δ=Θ(n^{…
2012-10-17 cs.DM cs.DS math.CO
Tight algorithms for connectivity problems parameterized by clique-width
涉及全局约束的问题的复杂性通常比仅涉及局部约束的问题的复杂性更难理解。全局约束的一种自然形式是连通性约束。我们从细粒度参数化的角度研究连通性问题。Cygan等人(TALG 2022)通过引入切割和计数技术,首次获得了单指数运行时间c^{tw} n^O(1)的连通性问题的算法。在强指数时间假设(SETH)下,证明了所得到的基c是最优的.然而,由于只有稀疏图可能承认小树宽,我们缺乏知识的细粒度的复杂性,连接问题的密集结构。衡量密集结构的最流行的图形参数可以说是cuble-width,它直观地衡量了通过重复添加biclique来构建图形的容易程度。Bergougnoux和Kanté(TCS 2019)已经使用基于秩的方法证明,许多连通性问题也可以通过candle-width参数化来实现单指数算法。不幸的是,在SETH下获得的运行时间远不是最佳的。我们展示了如何获得最佳的运行时间参数化的两个基准连接问题,即连接顶点覆盖和连接支配集的宽度。这是第一个紧密的结果,连接问题的candle宽度和这些结果是通过开发新的算法的基础上的切割和计数技术和新的下界建设。精确地说,我们证明了存在单侧误差的Monte-Carlo算法,给定一个k-团表达式,在时间6^kn ^O(1)上求解连通顶点覆盖,在时间5^kn ^O(1)上求解连通支配集。这两个结果被证明是严格的SETH下。
2023-02-07 cs.DS
Tight Bounds and Faster Algorithms for Directed Max-Leaf Problems
有向图$D$的出树$T$是所有弧从根向外定向的有根树子图。外分支是一棵生成外树。用$l(D)$和$l_s(D)$分别表示$D$的所有外树和外分支上的最大叶数。给出了判定有向图$D$在$n$顶点上是否为$l_s(D)\geq k$和是否为$l(D)\geq k$的固定参数易处理算法,其时间复杂度均为$2^{O(k\log k)} \cdot n^{O(1)}$ .这分别改进了具有复杂度$2^{O(k^3\log k)} \cdot n^{O(1)}$和$2^{O(k\log^2 k)} \cdot n^{O(1)}$的先前算法。为了得到的复杂性界的情况下,出分支,我们证明了,当所有的弧$D$的一部分,至少有一个出分支,$l_s(D)\geq l(D)/3$。第二个界限,我们证明在本文中指出,强连通有向图$D$的最小度为3,$l_s(D)\geq Θ(\sqrt{n})$,其中以前$l_s(D)\geq Θ(\sqrt[3]{n})$是最知名的界限。这个界是紧的,并且对于最小入度为3的较大类有向图也成立,其中每个弧是至少一个出分支的一部分。
2008-04-12 cs.DM cs.DS
A Tight Lower Bound on Distributed Random Walk Computation
我们考虑在分布式网络中执行随机行走的问题。给定带宽限制,问题的目标是最小化获得随机游走样本所需的轮数。Das Sarma等人[PODC'10]表明,在直径为$D$的网络上,长度为$\ell$的随机游走可以在$\tilde O(\sqrt{\ell D}+D)$时间内执行。一个主要的问题是是否存在一个更快的算法,特别是$\sqrt{\ell}$和$\sqrt{D}$的乘法是否是必要的。在本文中,我们证明了一个严格的无条件下界的时间复杂度的分布随机游动计算。具体来说,我们表明,对于任何$n$、$D$和$D\leq \ell \leq (n/(D^3\log n))^{1/4}$,在直径为$D$的$n$节点网络上执行长度为$Θ(\ell)$的随机游走需要$Ω(\sqrt{\ell D}+D)$时间。该界限是{ \em无条件},即,它适用于任何(可能是随机的)算法。据我们所知,这是第一个下限,直径发挥作用的乘法因子。我们的界限表明,算法的Das Sarma等。是时间最优的。我们的证明技术引入了{ \em有界循环}通信复杂度和分布式算法下限之间的新联系,其中$D$作为权衡参数,加强了Das Sarma等人的先前研究。[STOC'11]。特别是,我们利用指针追逐问题的有界循环通信复杂性。我们的技术可以是独立的利益,并可能是有用的,在显示非平凡的其他基本分布式计算问题的复杂性的下限。
2011-10-15 cs.DC cs.DS
A Tighter Complexity Analysis of SparseGPT
Stevens Institute of Technology(史蒂文斯理工学院);The University of Hong Kong(香港大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);The Simons Institute for the Theory of Computing at the University of California, Berkeley(加州大学伯克利分校西蒙斯理论计算研究所)
本文通过分析迭代维护问题中的惰性更新行为,将 SparseGPT 的运行时间从 $O(d^{3})$ 改进到 $O(d^{2.53})$,给出了更紧的复杂度上界。
2024-10-18 cs.AI cs.CL cs.DS
Unconstrained Submodular Maximization with Constant Adaptive Complexity
Yale Institute for Network Science, Yale University(耶鲁大学耶鲁网络科学研究所);The Open University of Israel(以色列开放大学)
本文研究了无约束次模极大化问题。我们提出了这个问题,实现了紧密的$(1/2-\varepsilon)$近似保证使用$\tilde{O}(\varepsilon^{-1})$自适应轮和线性数量的函数评估的第一个算法。对于这个问题,没有先前已知的算法使用少于$Ω(n)$轮的自适应性来实现比$1/3$更好的近似比,其中$n$是基集的大小。此外,我们的算法很容易扩展到最大化的非负连续DR-子模函数的框约束,并实现了紧密的$(1/2-\varepsilon)$近似保证这个问题,同时保持相同的自适应和查询的复杂性。
2018-11-19 cs.DS cs.LG
Tight Lower Bound for Linear Sketches of Moments
估计数据流的频率矩的问题已经吸引了大量的关注,因为流算法的开始[AMS 99]。虽然近似计算$p^{\rm th}$矩的空间复杂度,对于$p\in(0,2]$已经解决[KNW10],对于$p>2$的精确复杂性仍然是开放的。对于$p>2$,当前最佳算法使用空间字的$O(n^{1-2/p}\log n)$ [AKO 11,BO 10],而下限是$Ω(n^{1-2/p})$ [BJKS 04]。在本文中,我们显示了一个紧的下限$Ω(n^{1-2/p}\log n)$字的算法类的基础上线性草图,其中存储的只是一个草图$Ax$的输入向量$x$和一些(可能是随机的)矩阵$A$。我们注意到,这个问题的所有已知算法都是线性草图。
2013-06-26 cs.DS cs.IT math.IT
Tight Bounds on the Round Complexity of the Distributed Maximum Coverage Problem
我们研究了最大$k$ -集覆盖问题在以下分布式设置。集合$S_1,\ldots,S_m$在整个$[n]$上的集合在$p$机器上划分,目标是找到其并集覆盖最多元素的$k$集合。计算在同步循环中进行。在每一轮中,所有机器同时向中央协调器发送一条消息,然后中央协调器向所有机器返回一个摘要,以指导下一轮的计算。最后,协调器输出答案。在这种情况下,效率的主要衡量标准是返回的解决方案的近似比,每台机器的通信成本,以及计算的轮数。我们的主要结果是一个渐近紧界的权衡这些措施之间的分布式最大覆盖问题。我们首先表明,任何$r$轮协议,这个问题要么招致通信成本的$ k \cdot m^{Ω(1/r)}$或仅达到一个近似因子的$k^{Ω(1/r)}$。这意味着同时实现良好近似比($O(1)$近似)和良好通信成本(每台机器的$\widetilde{O}(n)$通信)的任何协议本质上需要对数(以$k$为单位)轮数。我们补充我们的下限结果表明,存在一个$r$轮协议,实现了$\frac{e}{e-1}$近似(基本上是最好的可能)的通信成本为$k \cdot m^{O(1/r)}$,以及一个$r$轮协议,实现了$k^{O(1/r)}$近似与每个机器只有$\widetilde{O}(n)$通信(基本上是最好的可能)。我们进一步使用我们的结果在这个分布式设置中获得新的边界的最大覆盖问题的其他两个主要模型的计算大规模数据…
2018-08-23 cs.DC cs.DS
Tight Query Complexity Lower Bounds for PCA via Finite Sample Deformed Wigner Law
UC Berkeley(加州大学伯克利分校)
我们证明了一个\emph{query complexity}下界近似顶$r$维特征空间的矩阵。我们考虑一个Oracle模型,给定一个对称矩阵$\mathbf{M} \in \mathbb{R}^{d \times d}$,一个算法$\mathsf{Alg}$允许$\mathsf{T}$精确查询的形式$\mathsf{w}^{(i)} = \mathbf{M} \mathsf{v}^{(i)}$ $\{1,...,\mathsf{T}\}$中的$i$,其中$\mathsf{v}^{(i)}$是从一个分布,它任意依赖于过去的查询和测量$\{\mathsf{v}^{(j)},\mathsf{w}^{(i)}\}_{1 \le j \le i-1}$。我们表明,对于每个$\mathtt{gap} \in (0,1/2]$,存在一个分布在矩阵$\mathbf{M}$,其中1)$\mathrm{gap}_r(\mathbf{M}) = Ω(\mathtt{gap})$(其中$\mathrm{gap}_r(\mathbf{M})$是$r$和$r+1$之间的归一化间隙-$\mathbf{M}$的第一个最大幅度的特征向量),和2)任何算法$\mathsf{Alg}$,需要少于$\mathrm{const} \times \frac{r \log d}{\sqrt{\mathtt{gap}}}$查询失…
2020-06-27 cs.DS cs.IT cs.LG
Nearly Tight Bounds on Testing of Metric Properties
本文研究了判定距离矩阵是否为一般度量、树度量和超度量的性质测试问题,提出了近似紧致的查询与样本复杂度上下界。
2024-11-13 cs.DM cs.DS
Tight bounds for learning a mixture of two gaussians
IBM Research Almaden(IBM阿尔马登研究中心);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们考虑从一个独立的随机样本序列中识别两个任意$d$维高斯的未知混合模型的参数的问题。我们的主要结果是上界和下界,给出了一个计算效率高的基于矩的估计,具有最佳收敛速度,从而解决了Pearson(1894)提出的一个问题。由$σ^2$的未知混合物的方差表示,我们证明了$Θ(σ^{12})$样本是必要的和足够的估计每个参数恒定的附加误差时,$d=1.$我们的上限扩展到任意尺寸$d>1$的对数损失在$d$使用一种新的-但简单的--降维技术。我们进一步确定了几个有趣的特殊情况下,样本的复杂性是显着小于我们的最佳最坏情况下的界限。例如,如果两个分量的均值由$Ω(σ)$分离,则样本复杂度降低到$O(σ^2)$,并且这又是最优的。我们的研究结果也适用于学习混合物的每个组成部分,总变化距离的小误差,我们的算法在样本复杂性方面比以前的工作有很大的改进。我们还扩展了我们的下限$k$高斯的混合物,表明$Ω(σ^{6k-2})$样本是必要的,以估计每个参数恒定的附加误差。
2015-05-17 cs.DS cs.LG stat.ML
Nearly Tight Bounds for Robust Proper Learning of Halfspaces with a Margin
University of Wisconsin, Madison(威斯康星大学麦迪逊分校);University of California, San Diego(加利福尼亚大学圣地亚哥分校);University of California, Berkeley(加利福尼亚大学伯克利分校);Google Research(谷歌研究院)
研究了不可知PAC模型中{ \em properly}学习大边界半空间的问题.更详细地说,我们研究了在误分类误差$α\cdot \mathrm{OPT}_γ + ε$内正确学习单位球上的$d$维半空间的复杂性,其中$\mathrm{OPT}_γ$是最优的$γ$边缘误差率,$α\geq 1$是近似比.我们给这个问题的学习算法和计算硬度的结果,所有的近似比$α\geq 1$的值,这是接近匹配的参数范围。具体来说,自然设置$α$是任何常数大于1,我们提供了一个本质上紧的复杂性表征。在积极的一面,我们给出了一个$α= 1.01$近似适当的学习器,使用$O(1/(ε^2γ^2))$样本(这是最佳的),并运行在时间$\mathrm{poly}(d/ε) \cdot 2^{\tilde{O}(1/γ^2)}$。在消极的一面,我们表明,{ \em任何}常数因子近似适当的学习有运行时$\mathrm{poly}(d/ε) \cdot 2^{(1/γ)^{2-o(1)}}$,假设指数时间假设。
2019-08-29 cs.DS cs.LG stat.ML