Faster Sinkhorn's Algorithm with Small Treewidth
计算最佳运输(OT)距离(例如推土机的距离)是机器学习、统计学和计算机视觉中的基本问题。本文研究了两个离散尺寸分布$n$之间的一般OT距离的近似问题。给定代价矩阵$C=AA^\top$其中$A \in \mathbb{R}^{n \times d}$,当矩阵$A$具有树宽$τ$时,我们提出了一种快速的Sinkhorn算法来近似OT距离.为了近似OT距离,我们的算法将最先进的结果[Dvurechensky,Gasnikov和Kroshnin ICML 2018]从$\widetilde{O}(ε^{-2} n^2)$时间改进为$\widetilde{O}(ε^{-2} n τ)$时间。
2023-01-17 cs.DS
Finding Approximate Local Minima Faster than Gradient Descent
我们设计了一个非凸的二阶优化算法,保证返回一个近似的局部极小值的时间尺度线性的基本尺寸和训练的例子的数量。我们的算法的时间复杂性找到一个近似的局部极小值值甚至比梯度下降找到一个临界点。我们的算法适用于一般类的最优化问题,包括训练神经网络和机器学习中出现的其他非凸目标。
2017-04-24 cs.DS cs.NE math.OC
Faster Approximate Pattern Matching in Compressed Repetitive Texts
受即将增长的大规模,高度冗余的基因组数据库,我们研究的问题,压缩字符串数据库,同时支持快速随机访问,子串提取和模式匹配的基础字符串(S)。Bille等人(2011)最近展示了如何给定一个具有$r$规则的直线程序,用于长度为$n$的字符串$s$,我们可以构建一个$\Oh{r}$ -word数据结构,允许我们在$\Oh{\log n + m}$时间内提取长度为$m$的任何子串。他们还展示了,给定长度为$m$和编辑距离(k \leq m)的模式$p$,他们的数据结构如何支持在$\Oh{r (\min (m k, k^4 + m) + \log n) + \occ}$时间内找到$s$中与$p$近似匹配的所有\occ。Rytter(2003)和Charikar et al.(2005)证明了$r$总是至少是$s$的LZ 77解析中短语的个数$z$,并给出了用$\Oh{z \log n}$规则构建直线程序的算法。在本文中,我们给出了一个简单的$\Oh{z \log n}$字的数据结构,需要同样的时间为子串提取,但只有$\Oh{z \min (m k, k^4 + m) + \occ}$时间近似模式匹配。
2012-10-31 cs.DS
Faster MPC Algorithms for Approximate Allocation in Uniformly Sparse Graphs
本文针对低树荫度图中的分配问题,在MPC模型中提出$(1+ε)$近似算法,通过重新分析已有LOCAL算法将轮复杂度从$O(\log n)$改进为$O(\log λ)$,并实现亚线性单机空间和$\tilde{O}(λn)$总空间。
2025-06-05 cs.DS
Faster Exact and Approximate Algorithms for $k$-Cut
在$k$ -割问题中,我们给出一个边权图$G$和一个整数$k$,并且必须去掉一组总权最小的边,使得$G$至少有$k$连通分支.目前最好的算法是Karger和Stein提出的$O(n^{(2-o(1))k})$随机算法和Thorup提出的$\smash{\tilde{O}}(n^{2k})$确定性算法。此外,几个$2$近似算法是已知的问题(由于Saran和Vazirani,Naor和Rabani,以及Ravi和Sinha)。如何提高精确算法的运行时间和获得更好的近似算法一直是一个悬而未决的问题。在本文中,我们提出了一个$O(k^{O(k)} \, n^{(2ω/3 + o(1))k})$ -时间算法的$k$ -削减。此外,我们展示了一个$(1+ε)$近似算法,运行在时间$O((k/ε)^{O(k)} \,n^{k + O(1)})$,和一个$1.81$近似固定参数的时间$O(2^{O(k^2)}\,\text{poly}(n))$。
2019-03-21 cs.DS
Faster Parallel Algorithm for Approximate Shortest Path
我们提出了第一个$m\,\text{polylog}(n)$工作,$\text{polylog}(n)$时间算法的PRAM模型,计算$(1+ε)$近似单源最短路径的加权,无向图。这改进了Cohen~[JACM'00]实现$O(m^{1+ε_0})$工作和$\text{polylog}(n)$时间的突破性结果。虽然大多数以前的方法,包括科恩的,利用跳集的力量,我们的算法建立在最近的发展\emph{continuous optimization},研究最短路径问题的密切相关的\emph{minimum transshipment}问题的镜头。为了获得我们的算法,我们证明了一系列的近似线性的工作,多任务时间减少之间的问题的近似最短路径,近似转运,和$\ell_1$ -嵌入,并建立一个递归算法,循环通过这三个问题,并减少每个周期的图形大小。因此,我们也获得了更快的并行算法近似转运和$\ell_1$ -嵌入与多对数失真。最小转运算法是对Sherman~[SODA'17]的最佳$m^{1+o(1)}$工作顺序算法的改进。为了提高可读性,这篇论文几乎是完全独立的,除了算法和组合学中的几个主要定理。
2022-05-31 cs.DC cs.DS
Xor Filters: Faster and Smaller Than Bloom and Cuckoo Filters
布隆过滤器提供快速近似集合成员资格,同时使用很少的内存。工程师经常使用这些过滤器来避免磁盘或网络访问等缓慢操作。作为替代,布谷鸟过滤器可能需要比布隆过滤器更少的空间,并且它更快。Chazelle等人提出了一种称为Bloomier filter的Bloom filter。Dietzfelbinger和Pagh描述了Bloomier过滤器的一种变体,可以有效地用于近似成员查询。据我们所知,它从未经过经验检验。我们回顾了他们的方法的有效实现,我们称之为异或过滤器。我们发现,异或过滤器可以比布鲁姆和布谷鸟过滤器更快,同时使用更少的内存。我们进一步表明,一个更紧凑的版本的xor滤波器(xor+)可以使用更少的空间比高度紧凑的替代品(例如,Golomb压缩序列),同时提供与Bloom过滤器竞争的速度。
2020-01-27 cs.DS
$(1-ε)$-approximate fully dynamic densest subgraph: linear space and faster update time
我们考虑的问题,保持$(1-ε)$ -近似的denatrium子图(DSG)的无向多重图,因为它经历了边插入和删除(全动态设置)。Sawlani和Wang [SW 20]开发了一种数据结构,对于任何给定的$ε> 0$,该数据结构保持$(1-ε)$近似,其中边缘操作的$O(\log^4 n/ε^6)$最差情况更新时间和报告密度值的$O(1)$查询时间。他们的数据结构是第一个实现接近最佳近似的,并改进了以前的工作,在摊销多对数更新时间[BHNT 15]中保持了$(1/4 - ε)$近似。在本文中,我们开发了一个数据结构的$(1-ε)$ -近似DSG,从两个方面改进了[SW 20]。首先,该数据结构使用线性空间,通过对数因子改善[SW 20]中的空间界限。第二,数据结构在每次更新的分摊$O(\log^2 n/ε^4)$时间中保持$(1-ε)$近似,同时保证最坏情况更新时间是$O(\log^3 n \log \log n/ε^6)$。我们相信,空间和更新时间的改善是有价值的,目前大规模的图形数据集。该数据结构以自然的方式扩展到超图,并在空间和更新时间方面优于建立在[SW 20]基础上的最近工作[BBCG 22]。
2022-10-06 cs.DS
Fast and sensitive read mapping with approximate seeds and multiple backtracking
我们目前的马赛,读取映射器代表的最先进的速度和灵敏度。我们的工具比RazerS 3和mrFAST快一个数量级,比Bowtie 2和BWA快2- 3倍,更准确。我们的读映射器的新颖之处是过滤近似种子和多个回溯的方法。与精确种子相比,近似种子在保持灵敏度的同时提高了过滤特异性。多重回溯通过利用下一代测序数据的重复性来分摊搜索大量种子的成本。结合在一起,这两种方法显着加快基因组数据集上的近似搜索。Masai是使用SeqAn库在C++中实现的。源代码在BSD许可下分发,Linux、Mac OS X和Windows的二进制文件可以从http://www.seqan.de/projects/masai免费下载。
2012-08-21 cs.DS
Deterministic Algorithms for Decremental Approximate Shortest Paths: Faster and Simpler
在递减$(1+ε)$ -近似单源最短路径(SSSP)的问题,我们给出了一个图$G=(V,E)$与$n = |V|, m = |E|$,经历边缘删除,和一个杰出的源$s \in V$,我们被要求有效地处理边缘删除和回答查询的距离估计$\widetilde{\mathbf{dist}}_G(s,v)$为每个$v \in V$,在任何阶段,使$\mathbf{dist}_G(s,v) \leq \widetilde{\mathbf{dist}}_G(s,v) \leq (1+ ε)\mathbf{dist}_G(s,v)$。在递减$(1+ε)$ -近似所有对最短路径(APSP)问题中,我们被要求回答查询的距离估计$\widetilde{\mathbf{dist}}_G(u,v)$为每个$u,v \in V$。在这篇文章中,我们考虑无向,无权图的问题。针对总更新时间为$O(mn^{0.5 + o(1)})$的递减$(1+ε)$ -近似SSSP问题,提出了一种新的\emph{deterministic}算法.我们的算法改进了目前最好的稠密图算法,由Stahik和Bernstein [STOC 2016],总更新时间为$\tilde{O}(n^2)$,以及最好的稀疏图算法,运行时间为$\tilde{O}(n^{1.25}\sqrt{m})$ [SODA 2017],无论何时$m = O(n^{…
2020-01-29 cs.DS
Approximate Gomory-Hu Tree Is Faster Than $n-1$ Max-Flows
Gomory-Hu树或割树(Gomory and Hu,1961)是一种经典的数据结构,用于报告无向图中所有顶点对$s$和$t$的$(s,t)$最小割(以及通过对偶,$(s,t)$最大流的值)。Gomory和Hu证明了它可以使用$n-1$精确最大流计算来计算。令人惊讶的是,这仍然是最好的算法Gomory-Hu树超过50年后,* 即使是近似mincut *。在本文中,我们打破了这个长期存在的障碍,并给出了一个算法计算$(1+ε)$ -近似Gomory-Hu树使用$\text{polylog}(n)$最大流计算。具体来说,我们获得了下面描述的运行时边界。我们得到一个随机(蒙特卡罗)算法无向,加权图,运行在$\tilde O(m + n^{3/2})$时间,并返回一个$(1+ε)$ -近似Gomory胡树算法w. h. p.以前,已知的最佳运行时间是$\tilde O(n^{5/2})$,这是通过运行Gomory和胡的原始算法上的削减稀疏的图形。接下来,我们得到一个随机(蒙特卡罗)算法的无向,未加权的图形,运行在$m^{4/3+o(1)}$时间,并返回一个$(1+ε)$近似Gomory-Hu树算法w. h. p.这提高了我们的第一个结果稀疏图,即$m = o(n^{9/8})$。以前,对于未加权图已知的最佳运行时间是精确Gomory-Hu树的$\tilde O(mn)$(Bhalgat等…
2021-11-03 cs.DS
Fast Succinct Retrieval and Approximate Membership using Ribbon
一种用于静态函数$f:S\rightarrow \{0,1\}^r$的检索数据结构支持返回任何$x \in S$的$f(x)$的查询。检索数据结构可用于实现静态近似成员关系查询数据结构(AMQ),即,布隆过滤器替代方案,具有假阳性率$2^{-r}$。这两个任务的信息论下限都是$r|S|$位。虽然使用$(1+o(1))r|S|$比特的简洁的理论构造是已知的,但是这些在实践中不能实现非常小的开销,因为它们具有隐藏在渐近成本中的不利的空间-时间权衡,或者因为小的开销仅在物理上不可能的输入大小下才能达到。通过碰撞带检索(BuRR),我们提出了第一个实用的简洁检索数据结构。在广泛的实验评估中,BuRR实现的空间开销远低于1.1%,同时比大多数先前使用的检索数据结构更快(通常空间开销至少大一个数量级),并且比经典的布隆过滤器更快(具有空间开销$\geq 44\,\%$)。这种效率,包括有利的常数,源于简单性,字并行性和高局部性的组合。我们还描述了均匀带式过滤器AMQ,它甚至更简单,更快,但空间开销略大。
2022-02-05 cs.DS
Approximate Maximum Flow on Separable Undirected Graphs
我们提出了更快的算法,在无向图中的近似最大流具有良好的分离器结构,如有界亏格,未成年人自由,几何图形。给定这样一个具有$n$顶点、$m$边以及递归$\sqrt{n}$ -顶点分隔符结构的图,我们的算法在时间上找到$1-ε$近似最大流$\tilde{O}(m^{6/5} \poly{ε^{-1}})$,忽略多对数项。对于具有较大大小分隔符的可分离图,也实现了类似的加速,尽管具有较大的运行时间。这些界限也适用于二维和三维的图像问题。我们的算法的关键是一个中间问题,我们称之为分组$L_2$流,它存在于最大流和电流之间。我们的算法还利用频谱顶点稀疏,以消除顶点,同时保持电力流的能量耗散。我们还给出了更快的谱顶点稀疏算法分离良好的图,这可能是独立的利益。
2012-10-18 cs.DS
A Note on Max $k$-Vertex Cover: Faster FPT-AS, Smaller Approximate Kernel and Improved Approximation
在Maximum $k$ -Vertex Cover(Max $k$ -VC)中,输入是边加权图$G$和整数$k$,目标是找到$k$顶点的子集$S$,该子集最大化由$S$覆盖的边的总权重。在这里,我们说边被$S$覆盖,只要它的至少一个端点位于$S$中。我们提出了一个FPT近似方案(FPT-AS),运行在$(1/ε)^{O(k)} poly(n)$时间的问题,这改善了古普塔等人。的$(k/ε)^{O(k)} poly(n)$ -时间FPT-AS [SODA'18,FOCS'18]。我们的算法很简单:只需使用蛮力来找到最好的$k$ -顶点子集的$O(k/ε)$顶点与最大的加权度。我们的算法自然地产生$O(k/ε)$顶点的有效近似核化方案;先前,$O(k^5/ε^2)$ -顶点近似核仅对于Max $k$ -VC的未加权版本是已知的[Lokshtanov等人,STOC'17]。有趣的是,这有一个参数化复杂性之外的应用:使用我们的近似核化作为预处理步骤,我们可以直接应用Raghavendra和Tan的基于SDP的算法,用于具有基数约束的2SAT [SODA'12],以在多项式时间内给出Max $k$ -VC的$0.92$ -近似。这改进了Feige和Langberg的算法[J. Algorithms'01],该算法对某些(未指定的)常数$δ> 0$产生$(0.75 + δ)$ -近似。我们还…
2018-10-09 cs.DS
Faster Approximate Pattern Matching: A Unified Approach
近似模式匹配是字符串上一个自然且研究得很好的问题:给定一个文本$T$,一个模式$P$,和一个阈值$k$,找到$T$中距离$P$最多为$k$的所有子串(的起始位置)。我们考虑两个最基本的字符串度量:汉明距离和编辑距离。在汉明距离下,我们搜索$T$的子串,这些子串最多与$P$有$k$不匹配,而在编辑距离下,我们搜索$T$的子串,这些子串可以通过最多的$k$编辑转换为$P$。$P$在$T$中的精确出现有一个非常简单的结构:如果我们为了简单起见假设$|T| \le 3|P|/2$和修剪$T$,使得$P$既作为$T$的前缀又作为其后缀出现,那么$P$和$T$都是周期性的,具有共同的周期。然而,直到最近Bringmann等人[SODA'19]才证明了具有高达$k$错配的出现的结构的类似表征:或者在$T$中存在$P$的$O(k^2)$ $k$ -错配出现,或者$P$和$T$都在与具有共同周期$O(m/k)$的弦的汉明距离$O(k)$处。我们通过表明当模式不是(近似)周期性时存在$O(k)$ $k$ -失配发生来收紧该表征,并且我们将其提升到编辑距离设置,其中我们在非周期性情况下通过$O(k^2)$来紧密地约束$k$ -编辑发生的数量。我们的证明是建设性的,让我们得到一个统一的框架,为两个考虑的距离近似模式匹配。我们展示了我们的框架的一般性与结果的完全压缩设置(其中$T$和$P$作为一个直线程序)…
2020-11-16 cs.DS
Faster Average Case Low Memory Semi-External Construction of the Burrows-Wheeler Transform
Burrows Wheeler变换在数据压缩以及全文索引中有应用。尽管其重要的应用和各种现有的算法方法的构造的变换的大数据集仍然是具有挑战性的。本文提出了一种新的构造Burrows Wheeler变换的半外存储算法。如果有足够的内部存储器可用于保存输入文本的固定部分,则它能够在平均时间$O(n\log^2\log n)$的有限字母表上构造长度为$n$的输入文本的变换。在最坏的情况下,运行时是$O(n\log n \log\log n)$。算法在外部存储器中使用的空间量为$O(n)$位。在串行算法的基础上,我们还提出了一种在$p$处理器可用的情况下平均按时间运行的共享内存并行算法$O(\frac{n}{p}\max\{\log^2\log n+\log p\})$。
2016-04-22 cs.DS
Un-regularizing: approximate proximal point and faster stochastic algorithms for empirical risk minimization
Stanford University(斯坦福大学);Microsoft Research, New England(微软新英格兰研究院);MIT(麻省理工学院)
我们开发了一个家庭的加速随机算法,最小化凸函数的总和。我们的算法提高了最快的运行时间经验风险最小化(ERM),特别是线性最小二乘回归,在广泛的问题设置。为了实现这一点,我们建立了一个框架的基础上,经典的邻近点算法。也就是说,我们提供了几个算法,减少了一个强凸函数的最小化的函数的正则化的近似最小化。使用这些结果,我们加速最近的快速随机算法在一个黑盒的方式。从经验上讲,我们证明,由此产生的算法表现出的稳定性,在实践中是有利的概念。无论是在理论上还是在实践中,所提供的算法都获得了增加一个大的强凸正则化项的计算优势,而不会对原始问题产生相应的偏差。
2015-06-24 cs.DS cs.LG stat.ML
Faster Separators for Shallow Minor-Free Graphs via Dynamic Approximate Distance Oracles
Plotkin,Rao,and Smith(SODA'97)证明了任何具有$m$边和$n$顶点的图,如果不将$K_h$作为深度$O(\ell\log n)$ -minor,则具有大小为$O(n/\ell + \ell h^2\log n)$的分隔符,并且可以在$O(mn/\ell)$时间中找到这样的分隔符。随后给出了任何恒定$ε> 0$的$O(m + n^{2+ε}/\ell)$的时间界限(W.,FOCS'11),这是对非稀疏图的改进。我们给出了三个新的算法。第一个具有相同的分隔符大小和运行时间$O(\mbox{poly}(h)\ell m^{1+ε})$。这对于小型$h$和$\ell$是一个显著的改进。如果$\ell = Ω(n^{ε'})$对于任意小的常数$ε' > 0$,我们得到$O(\mbox{poly}(h)\ell n^{1+ε})$的时间界。第二种算法实现了相同的分隔符大小(对$h$的多项式依赖性稍大)和运行时间$O(\mbox{poly}(h)(\sqrt\ell n^{1+ε} + n^{2+ε}/\ell^{3/2}))$,当$\ell = Ω(n^{ε'})$。我们的第三个算法有运行时间$O(\mbox{poly}(h)\sqrt\ell n^{1+ε})$时,$\ell = Ω(n^{ε'})$。它找到一个大小为$O(n/\ell) + \tilde O(\…
2014-07-25 cs.DS
Improved Approximate String Matching and Regular Expression Matching on Ziv-Lempel Compressed Texts
我们研究了近似字符串匹配和正则表达式匹配问题的情况下,待搜索的文本被压缩的Ziv-Lempel自适应字典压缩方案。我们提出了一个时间-空间的权衡,导致算法提高了以前已知的复杂性这两个问题。特别是,我们显着改善的空间界限,这在实际应用中很可能是一个瓶颈。
2007-05-03 cs.DS
Faster Least Squares Approximation
最小二乘近似是一种技术,用于找到没有精确解的线性方程组的近似解。在典型的设置中,让$n$为约束的数量,$d$为变量的数量,其中$n \gg d$。然后,现有的精确方法在$O(nd^2)$时间内找到解向量。我们提出了两个随机算法,提供非常准确的相对误差近似的最佳值和最小二乘近似问题的解向量更快地比现有的精确算法。我们的两个算法预处理的数据与随机阿达玛变换。然后,一个均匀随机采样约束,并解决这些约束上的较小问题,另一个执行稀疏随机投影,并解决这些投影坐标上的较小问题。在这两种情况下,解决较小的问题提供了相对误差近似,并且如果$n$充分大于$d$,则近似解可以在$O(nd \log d)$时间内计算。
2010-09-26 cs.DS
Faster Maximal Exact Matches with Lazy LCP Evaluation
针对 MONI 索引中 LCE 查询耗时问题,提出惰性评估 LCP 的变体,使处理时间由 MEM 数量界定并保持对数延迟。
2023-11-08 cs.DS
Rethinking Warm-Starts with Predictions: Learning Predictions Close to Sets of Optimal Solutions for Faster $\text{L}$-/$\text{L}^\natural$-Convex Function Minimization
The University of Tokyo(东京大学)
一项新兴的工作表明,机器学习的预测对于离散优化问题(如二分匹配)的热启动算法是有用的。以前的研究表明,时间复杂度的界限成正比的预测和最优解之间的距离,我们可以近似地最小化从过去的最优解学习预测。然而,当存在多个最佳解决方案时,这种保证可能没有意义。事实上,二分匹配的对偶问题,更一般地说,$\text{L}$ -/ $\text{L}^\natural$ -凸函数最小化有任意多个最优解,使得这种预测相关的边界任意大。为了解决这个理论上的关键问题,我们提出了一个新的热启动与预测框架$\text{L}$ -/ $\text{L}^\natural$ -凸函数最小化。我们的框架提供了时间复杂度的界限成比例的预测和所有最优解的集合之间的距离。主要的技术难点在于学习的预测,可证明接近所有的最优解,为此,我们提出了一个在线梯度下降为基础的方法。因此,我们给出了第一个多项式时间可学习的预测,可以证明热启动算法,无论多个最优解。
2023-02-02 cs.DS cs.LG
Faster fully compressed pattern matching by recompression
本文研究了一个完全压缩的模式匹配问题。压缩由直线程序(SLP)表示,即一种上下文无关文法,只生成一个字符串;该术语完全意味着模式和文本都以压缩形式给出。使用最近开发的局部再压缩技术来处理这个问题:重构SLP,使得模式和文本的子串以相同的方式在两个SLP中编码。为此,SLP被本地解压缩,然后以统一的方式重新压缩。该技术产生用于压缩模式匹配的O((n+m)log M)算法,假设M适合O(1)机器字,其中n(m)是文本(模式)的压缩表示的大小,而M是解压缩模式的大小。如果只有m+n适合O(1)机器字,则运行时间增加到O((n+m)log M log(n+m))。算法复杂度为O(n^2m)。
2013-06-25 cs.DS
A Faster Approximation Algorithm for the Gibbs Partition Function
我们考虑的问题估计的配分函数$Z(β)=\sum_x \exp(-β(H(x))$的吉布斯分布与汉密尔顿$H(\cdot)$,或更准确地说,对数的比率$q=\ln Z(0)/Z(β)$。它最近已被证明如何近似$q$与高概率假设存在的一个oracle,产生样本的吉布斯分布为一个给定的参数值在$[0,β]$。由于Huber [9],当前最著名的方法平均使用$O(q\ln n\cdot[\ln q + \ln \ln n+\varepsilon^{-2}])$ oracle调用,其中$\varepsilon$是所需的近似精度,并且假定$H(\cdot)$位于$\{0\}\cup[1,n]$中。改进了$O(q\ln n\cdot\varepsilon^{-2})$ oracle调用的复杂度。我们还表明,可以实现相同的复杂性,如果确切的预言机被替换为近似采样预言机,在$O(\frac{\varepsilon^2}{q\ln n})$变化距离从确切的预言机。最后,我们证明了$Ω(q\cdot \varepsilon^{-2})$ oracle调用在自然计算模型下的一个下界。
2017-12-27 cs.DS
Output-sensitive approximate counting via a measure-bounded hyperedge oracle, or: How asymmetry helps estimate $k$-clique counts faster
本文推广了DLM归约,提出度量有界超边预言机,实现输出敏感的$k$-团、$k$-支配集和$k$-和近似计数算法,在见证数少时显著提速。
2025-03-27 cs.DS
Computing Generalized Convolutions Faster Than Brute Force
在本文中,我们考虑卷积的一般概念。设$D$是一个有限域,$D^n$是$D$的$n$长度向量(元组)的集合。令$f : D \times D \to D$为函数,并令$\oplus_f$为$f$的坐标式应用。$f$ -两个函数$g,h : D^n \to \{-M,\ldots,M\}$的卷积对于每个$\textbf{v} \in D^n$都是$$(g \otimes_f h)(\textbf{v}) := \sum_{\substack{\textbf{v}_g,\textbf{v}_h \in D^n\\ \text{s.t. } \textbf{v}_g \oplus_f \textbf{v}_h}} g(\textbf{v}_g) \cdot h(\textbf{v}_h)$$。该问题推广了子集卷积、异或积、覆盖积、填充积等基本卷积,对于任意函数$f$和定义域$D$,可以在$\widetilde{O}(|D|^{2n}\mathrm{polylog}(M))$时间内通过穷举法计算$f$ -卷积。我们的主要结果是这个天真的算法的改进。当$D$具有偶数基数时,我们证明了对于常数$c := 3/4$,$f$ -卷积可以在$\widetilde{O}((c \cdot |D|^2)^{n}\mathrm{polylog}(M))$中精确计算。我们的主要观察是,一个\emph{cycl…
2023-01-30 cs.DS
Coordinate Methods for Accelerating $\ell_\infty$ Regression and Faster Approximate Maximum Flow
我们提供了更快的算法近似解决$\ell_{\infty}$回归,一个基本的问题,在组合和连续优化。特别是,我们提供了加速坐标下降的方法,能够证明利用动态措施的坐标平滑度,并将它们应用到$\ell_\infty$回归框给算法收敛在$k$迭代在$O(1/k)$率。我们的算法可以被视为Sherman [She 17]最近突破性结果的替代方法,该方法实现了与经典算法方法(即平滑和梯度下降)相似的运行时间改进,这些算法要么以$O(1/\sqrt{k})$速率收敛,要么运行时间对问题参数的依赖性更差。我们的运行时在广泛的参数范围内与[She 17]相匹配,并在某些结构化情况下实现了改进。我们证明了我们的结果的有效性,提供更快的算法研究的最大流问题。直接利用我们的加速$\ell_\infty$回归算法意味着一个$\tilde{O}\left(m + \sqrt{mn}/ε\right)$运行时来计算一个$ε$ -近似最大流的无向图与$m$边和$n$顶点,一般改善了以前最好的已知运行时的$\tilde{O}\left(m/ε\right)$在[She 17]每当图是稍微密集。我们进一步设计了一个算法,适应于最大流引起的回归问题的结构,获得运行时间的$\tilde{O}\left(m + \max(n, \sqrt{ns})/ε\right)$,其中$s$是平方$\ell_2$规范的任何最优流的拥塞…
2020-04-02 cs.DS math.OC
Natasha 2: Faster Non-Convex Optimization Than SGD
Microsoft Research(微软研究院)
我们设计了一个随机算法来训练任何光滑的神经网络$\varepsilon$ -近似局部极小值,使用$O(\varepsilon^{-3.25})$反向传播。最好的结果基本上是SGD的$O(\varepsilon^{-4})$。更广泛地说,它发现$\varepsilon$ -近似局部极小值的任何光滑非凸函数率$O(\varepsilon^{-3.25})$,只有oracle访问随机梯度。
2018-06-11 cs.DS cs.LG cs.NE
Faster Min-Cost Flow and Approximate Tree Decomposition on Bounded Treewidth Graphs
本文针对有界树宽图提出基于鲁棒内点法的更快最小费用流算法,将运行时间从 $\widetilde{O}(m τ^{(ω+1)/2})$ 改进为 $\widetilde{O}(m\sqrtτ + S)$,并由此得到近似树分解的快速算法。
2024-07-01 cs.DS
Faster Wavelet Tree Queries
针对非二进制字母表文本的rank和select查询,本文通过将小波树改为四叉树、结合预测模型预取数据减少缓存未命中,使查询速度较SDSL实现提升2至3倍。
2023-11-08 cs.DS
Move-rb: Faster Bi-Directional r-indexes and Approximate Pattern Matching
TU Dortmund(多特蒙德工业大学)
Move-rb 是一种基于 Move-r 的双向 r 索引,通过优化索引操作和搜索方案,在近似模式匹配中比现有方法快 1-4 个数量级,内存更小,支持快速扩展和方向切换。
2026-09-25 cs.DS
Faster Exponential-Time Approximate Counting via Bounded Self-Reductions
University of Queensland(昆士兰大学);UNSW Sydney(新南威尔士大学)
针对多项式时间近似不可行且精确指数时间计数昂贵的计数问题,提出新随机近似算法。通过分解后取平方根等方法,改进了一般图独立集计数等问题的时间界限,还能实现黑盒量子加速,提升了相关计数问题的求解效率。
2026-07-08 cs.DS
New Partitioning Techniques and Faster Algorithms for Approximate Interval Scheduling
区间排序问题是算法论中的一个基本问题,也是组合优化中的一个经典课题。我们开发了一套技术,用于分区和分组作业的开始和结束时间的基础上,使我们能够查看一个实例的间隔调度的许多工作作为一个工会的多个间隔调度实例,每个只包含几个工作。实例化这些技术在动态和本地设置的计算导致几个新的结果。对于单机上$n$作业调度的$(1+\varepsilon)$ -近似问题,我们提出了一个带有$O(\frac{\log{n}}{\varepsilon})$更新和$O(\log{n})$查询最坏情况时间的全动态算法.此外,我们设计了一个本地计算算法,只使用$O(\frac{\log{N}}{\varepsilon})$查询时,所有的作业长度至少$1$和$[0,N]$内的开始/结束时间。我们的技术也适用于工作有奖励/权重的环境。对于这种情况下,我们设计了一个完全动态的确定性算法,其最坏情况下的更新和查询时间是$\operatorname{poly}(\log n,\frac{1}{\varepsilon})$。等价地,这是第一个算法,该算法在$\operatorname{poly}(\log n,\frac{1}{\varepsilon})$时间更新/查询中维护加权区间集合的最大独立集的$(1+\varepsilon)$近似。这是$1/\varepsilon$在Henzinger,Neumann和Wiese …
2023-02-23 cs.DS
Faster Algorithms for Semi-Matching Problems
我们考虑的问题,发现\textit{semi-matching}在二分图,这也是广泛研究的各种名称在调度文献。我们给更快的算法加权和未加权的情况下。对于加权情形,我们利用问题的几何结构给出了一个$O(nm\log n)$时间算法,其中$n$是顶点数,$m$是边数.这改进了Horn [Operations Research 1973]和Bruno、Coffman和Sethi [Communications of the ACM 1974]的经典$O(n^3)$算法。对于未加权的情况,界限可以进一步改进。我们给出了一个简单的分治算法,运行在$O(\sqrt{n}m\log n)$时间,改进了两个以前的$O(nm)$时间算法亚伯拉罕[硕士论文,格拉斯哥大学2003年]和哈维,Ladner,Lovász和塔米尔[WADS 2003年和算法杂志2006年]。我们还扩展了该算法,以在$O(\sqrt{n}m\log n)$时间内解决\textit{Balance Edge Cover}问题,改进了Harada、Ono、Sadakane和Yamashita [ISAAC 2008]先前的$O(nm)$时间算法。
2012-06-13 cs.DS
Faster Approximate Lossy Generalized Flow via Interior Point Algorithms
Yale University(耶鲁大学)
提出一种基于内点算法和对称M矩阵线性系统近线性时间求解器的算法,对有损广义网络流问题实现加性ε近似,时间复杂度为Õ(m^(3/2) log(1/ε)),相比先前算法改进约m^(1/2)因子。
2008-04-07 cs.DS cs.NA math.NA
Faster Semi-streaming Matchings via Alternating Trees
提出一种基于交替树的确定性半流式算法,以O(ε⁻⁶)次遍历求解(1+ε)近似最大匹配,显著优于先前O(ε⁻¹⁹)复杂度,并推广至MPC和CONGEST模型。
2025-04-22 cs.DS
Suffix Trays and Suffix Trists: Structures for Faster Text Indexing
后缀树和后缀数组是文本索引中使用最广泛的两种数据结构。每一个都使用线性空间,并且可以在线性时间内为多项式大小的字母表构造。然而,当涉及到回答具有最坏情况确定性时间边界的查询时,先验在$O(m\log|Σ|)$时间内这样做,其中$m$是查询大小,$|Σ|$是字母表大小,而后者在$O(m+\log n)$时间内这样做,其中$n$是文本大小。如果想要输出查询的所有外观,则$O(occ)$时间的附加成本就足够了,其中$occ$是输出的大小。我们提出了一种新的方式结合成,我们称之为,一个{ \em后缀托盘}。空间和构造时间保持线性,并且对于任意常数$c$,查询时间从线性范围(即,$Σ\subset \{1,\cdots, cn\}$)提高到整数字母表的$O(m+\log|Σ|)$。构造和查询是确定性的。这里,如果期望输出查询的所有外观,则附加的$O(occ)$时间也是足够的。我们还考虑了在线版本的索引,其中文本到达在线,一次一个字符,索引查询是串联回答的。在这个变体中,我们在后缀树和后缀列表(后缀数组的动态变体)之间创建了一个交叉,称为{ \em suffix trist};它支持$O(m+\log|Σ|)$时间查询。后缀trist也使用线性空间。此外,如果存在线性空间后缀树的在线构造,使得添加字符的成本是最坏情况确定性$f(n,|Σ|)$($n$是当前文本的大小),则可以在$O(f(n,|…
2013-11-07 cs.DS
Two simple full-text indexes based on the suffix array
我们提出了两个后缀数组启发全文索引。一种称为SA哈希,它用一个哈希表来增加后缀数组,以加快模式搜索,因为在二进制搜索阶段之前搜索间隔大大缩小。另一种称为FBCSA,是一种紧凑的数据结构,类似于M{ä}kinen的紧凑后缀数组,但工作在固定大小的块上。在Pizza~\&~Chili 200\,MB数据集上的实验表明,SA散列在模式搜索(计数)方面比标准后缀数组快2- 3倍,代价是需要$0.2n-1.1n$字节的额外空间,其中$n$是文本长度,并设置最小模式长度。FBCSA在单个单元访问中相对较快(在大约相同或更好的压缩下比相关索引快几倍),但如果要提取许多连续单元,则没有竞争力。尽管如此,对于提取的任务,例如,10个连续的细胞,其时空关系仍然是有吸引力的。
2016-05-23 cs.DS
Faster Approximate Linear Matroid Intersection
Research Institute for Mathematical Sciences, Kyoto University(京都大学数学科学研究所)
本文提出一种更高效的近似线性矩阵族交集算法,改进了现有算法的时间复杂度,适用于无权和加权情况。
2026-04-13 cs.DS
Revisiting Tardos's Framework for Linear Programming: Faster Exact Solutions using Approximate Solvers
在突破性的工作,塔尔多斯(歌剧。Res. '86)给出了一种基于邻近度的框架,用于仅依赖于位复杂度模型中的约束矩阵来求解时间上的线性规划(LP)。在Tardos的框架中,将求解LP $\min \langle c,{x}\rangle$、$Ax=b$、$x \geq 0$、$A \in \mathbb{Z}^{m \times n}$简化为使用任何精确LP算法求解具有小整数系数目标和右侧的$A$中的$O(nm)$ LP。这就产生了一个LP算法的时间聚$(n,m\logΔ_A)$,其中$Δ_A$是最大的子行列式的$A$。Vavasis和Ye(Math. Prog. '96),给出了一个专门的内点方法,该方法在时间上运行$(n,m,\log\barχ_A)$,取决于Stewart的$\barχ_A$,一个研究得很好的条件数。在这项工作中,我们扩展了Tardos的原始框架,以获得这样的运行时间依赖。特别是,我们取代了精确的LP解决近似的,使我们能够直接利用最近的巨大的算法进步近似线性规划。更确切地说,我们表明,需要准确地解决任何LP在$A$的基本“精度”是逆多项式在$n$和$\log\barχ_A$。插入van den Brand(SODA '20)的最新算法,我们的方法使用${O}(m n^{ω+1} \log (n)\log(\barχ_A+n))$算术运算计算最优原始和对偶解,优于…
2020-09-10 cs.DS math.OC
A Faster Generalized Two-Stage Approximate Top-K
University of Washington, Seattle(华盛顿大学);New York University(纽约大学);Google DeepMind(谷歌DeepMind)
本文提出一种改进的两阶段近似Top-K算法,通过调整第一阶段的分区策略,减少第二阶段输入规模并提升效率,同时保持相同预期召回率。
2026-05-13 cs.DS cs.LG
Faster Deterministic Distributed MIS and Approximate Matching
$ \renewcommand{\tilde}{\widetilde} $针对最大独立集问题提出了一个$\tilde{O}(\log^2 n)$轮确定性分布式算法。通过已知的简化,该轮复杂性还扩展到最大匹配、$Δ+1$顶点着色和$2Δ-1$边着色。这四个问题是分布式图算法中最核心的问题之一,在过去的四十年里得到了广泛的研究。这种改进的轮复杂度更接近最大独立集和最大匹配的$\tildeΩ(\log n)$下限[Balliu et al. FOCS '19]。以前最著名的确定性复杂度为所有这些问题是$Θ(\log^3 n)$。通过粉碎技术,改进也渗透到相应的随机复杂性,例如,$Δ+1$顶点着色的新随机化复杂度现在是$\tilde{O}(\log^2\log n)$轮。我们的方法是先前已知的两种方法的新颖组合,用于开发针对这些问题的确定性算法,即通过网络分解的全局去随机化(例如,[Rozhon,Ghaffari STOC '20; Ghaffari,Grunau,Rozhon SODA' 21; Ghaffari等人SODA '23])和分数解的局部舍入(参见例如,[Fischer DISC '17; Harris FOCS' 19; Fischer,Ghaffari,Kuhn FOCS '17; Ghaffari,Kuhn FOCS' 21; Faour等人SODA '23])。我们考…
2023-03-28 cs.DC cs.DS
Faster Distributed Shortest Path Approximations via Shortcuts
最近的一系列成果和突破导致了更快和更好的分布式近似算法的单源最短路径(SSSP)和CONGEST模型中的相关问题。然而,所有这些算法的运行时间都是$\tildeΩ(\sqrt{n})$,与网络拓扑无关,即使是在具有(多)对数网络直径$D$的良好网络上。虽然这对于某些病态网络是必要的,但大多数感兴趣的拓扑结构都不是这种类型。我们给出了第一个分布式的最短路径问题的近似算法,调整到拓扑结构上运行,从而实现显着更快的运行时间在许多感兴趣的拓扑结构。我们的算法的运行时间依赖于并接近于$Q$,其中$Q$是给定拓扑结构的最佳捷径的质量。虽然$Q = \tildeΘ(\sqrt{n} + D)$用于病理最坏情况的拓扑,但许多感兴趣的拓扑具有$Q = \tildeΘ(D)$,这导致我们的算法在给定平凡$Ω(D)$下限的情况下接近实例最优运行时间。我们考虑的问题如下:(1)近似的最短路径树和SSSP距离,(2)每个节点的多对数大小距离标签,使得仅从任何两个节点的标签可以确定它们的距离(近似),以及(3)转运问题的(近似)最优流。我们的算法有一个可调的运行时间和近似比之间的权衡。我们最快的算法有一个任意好的多项式近似保证和一个基本上最佳的$\tilde{O}(Q)$运行时间。另一方面,我们在$\tilde{O}(Q \cdot n^ε)$轮中实现了对任何$ε> 0$的多对数近似。
2018-08-07 cs.DC cs.DS
Faster Exact Search using Document Clustering
我们展示了如何全文搜索的基础上,倒排索引可以加速聚类的文件,而不会丢失结果(SeCluD - SEarch与CLUSSTERED文件)。我们开发了一个快速的多级聚类算法,明确使用查询成本的合取查询作为目标函数。根据输入的不同,我们可以比非集群搜索快四倍。所得到的聚类对于数据压缩和在多台机器上分配工作也很有用。
2014-11-05 cs.DS cs.IR
Faster 3-coloring of small-diameter graphs
研究了小直径图的3- \textsc{Coloring}问题。在2013年,Mertzios和Spirakis证明了对于$n$ -顶点直径为2的图,这个问题可以在次指数时间$2^{\mathcal{O}(\sqrt{n \log n})}$内解决。该问题是否能在多项式时间内求解,是算法图论领域的一个著名的开放问题。本文提出了一个求解$n$-顶点直径为2的图中3- \textsc{Coloring}的时间算法$2^{\mathcal{O}(n^{1/3} \log^{2} n)}$ .这是在一般情况下对Mertzios和Spirakis算法的第一次改进,即,而不对实例图施加任何进一步的限制。除了标准的分支和减少问题的实例2- \textsc{Sat},我们的算法的关键构件是一个组合观察3-着色直径2图,这是证明使用概率参数。作为一个副结果,我们证明了3- \textsc{Coloring}在$n$ -顶点直径为3的图中可以在时间$2^{\mathcal{O}( (n \log n)^{2/3})}$中求解.我们还推广我们的算法的问题,找到一个列表同态从一个小直径图的循环。
2021-04-28 cs.DM cs.DS
Randomized Block Krylov Methods for Stronger and Faster Approximate Singular Value Decomposition
Massachusetts Institute of Technology(麻省理工学院)
本文提出了一种随机块Krylov方法,该方法在理论上和实验上均优于现有的随机同时幂迭代方法,能够以更少的迭代次数提供更优的低秩近似,并解决了传统Krylov子空间方法依赖奇异值间隙的问题。
2015-10-30 cs.DS cs.LG cs.NA
Faster Exponential-Time Approximation Algorithms Using Approximate Monotone Local Search
CISPA Helmholtz Center for Information Security(CISPA 赫尔姆霍兹信息安全中心);Simon Fraser University(西蒙菲莎大学);Max Planck Institute for Informatics(马克斯·普朗克 informatics 研究所)
本文提出了一种基于近似单调局部搜索的方法,改进了多个NP难问题的指数时间近似算法,如顶点覆盖问题。
2026-01-11 cs.CC cs.DS
Faster subsequence recognition in compressed strings
压缩字符串计算是处理海量数据集的关键方法之一。我们考虑的字符串压缩直线程序(SLP),这是密切相关的Lempel-Ziv压缩的局部子序列识别问题。对于长度为$\bar m$的SLP压缩文本和长度为$n$的未压缩模式,C{é}gielski等人给出了一种在时间上运行的局部子序列识别算法$O(\bar mn^2 \log n)$。我们将运行时间提高到$O(\bar mn^{1.5})$。我们的算法也可以用来计算一个压缩文本和一个未压缩的模式之间的时间$O(\bar mn^{1.5})$的最长共同子序列;压缩模式的相同问题是已知的NP-难。
2008-01-18 cs.CC cs.DM cs.DS
Randomized and quantum approximate matrix multiplication
本文统一随机化矩阵乘法为均值估计,改进经典算法并提出更快的单一算法,并利用量子均值估计实现量子加速。
2025-10-09 cs.DS quant-ph
Natasha: Faster Non-Convex Stochastic Optimization Via Strongly Non-Convex Parameter
Princeton University(普林斯顿大学);Institute for Advanced Study(高等研究院)
给定一个非凸函数,它是$n$光滑函数的平均值,我们设计随机一阶方法来找到它的近似稳定点。我们的新方法的收敛性取决于Hessian的最小(负)特征值$-σ$,这是一个描述函数非凸性的参数。我们的方法优于已知的结果的范围内的参数$σ$,并可以用来找到近似的局部极小。我们的结果意味着一个有趣的二分法:存在一个阈值$σ_0$,使目前最快的方法$σ>σ_0$和$σ<σ_0$有不同的行为:前者规模与$n^{2/3}$和后者规模与$n^{3/4}$。
2018-09-27 cs.DS cs.LG math.OC
Faster Detours in Undirected Graphs
本文研究无向图中的k-Detour参数化路径问题,提出利用二分划子图约束检测给定长度路径的新方法,将随机化与确定性运行时间分别提升至1.853^k poly(n)和4.082^k poly(n),并推广改进k-Longest Detour算法。
2023-07-04 cs.DM cs.DS
CAGRA: Highly Parallel Graph Construction and Approximate Nearest Neighbor Search for GPUs
NVIDIA(英伟达)
针对现有近似最近邻搜索算法对GPU等并行硬件利用不足的问题,提出CAGRA并行近邻图构建与搜索算法,在图构建速度、大小批量查询吞吐量上均显著优于现有CPU及GPU最优方法,同时保持精度相当。
2024-07-09 cs.CV cs.DB cs.DC
Approximate all-pairs Hamming distances and 0-1 matrix multiplication
本文给出算术0-1矩阵乘法到汉明空间全对距离的线性时间归约,提出近似全对距离与0-1矩阵乘法的快速随机算法、输出敏感的最小生成树算法,以及更快的(2+ε)近似聚类算法。
2025-04-20 cs.CC cs.DS
Faster Approximate Distance Queries and Compact Routing in Sparse Graphs
距离预言机是图的最短距离矩阵的紧凑表示。它可以被查询以近似任何一对顶点之间的最短路径。任何返回最坏情况拉伸(2k-1)的路径的距离预言机都必须为n个节点的图要求空间$Ω(n^{1 + 1/k})$。然而,强制这个下限的困难情况是平均度为Ω(n^{1/k})的相当稠密的图。我们提出的距离预言,稀疏图,大大打破了下限障碍的代价是更高的查询时间。对于任何1个\leq α \leq n,我们的距离预言机可以使用O(m + n^2/α)空间返回拉伸2条路径,并使用O(m + n^2/α^2)空间拉伸3条路径,以O(αm/n)查询时间为代价。通过设置适当的α值,我们得到了第一个距离预言机,它们的大小与图的大小成线性关系,并且在非平凡的查询时间内返回常数拉伸路径。查询时间可以进一步减少到O(α),通过为我们所有的距离预言机使用额外的O(m α)空间,或者以一个小的常数加法拉伸为代价。我们使用我们的拉伸2距离预言机,提出了第一个紧凑的路由方案与最坏情况的拉伸2。任何紧凑的路由方案,拉伸小于2必须在某些节点上,即使是稀疏图的线性内存,因此,我们的计划,实现了最佳的拉伸与非平凡的内存需求。此外,支持大规模的模拟图,包括AS级互联网图,我们认为,我们的拉伸2计划将是简单而有效的实现作为一个分布式紧凑的路由协议。
2012-01-12 cs.DC cs.DS cs.NI