Faster Linear Algebra for Distance Matrices
$n$点的数据集$X$相对于距离函数$f$的距离矩阵表示由$f$引起的$X$中的点之间的所有成对距离。由于其广泛的适用性,距离矩阵和相关的矩阵族已成为许多最近的算法工作的焦点。我们继续这条线的研究,并采取广泛的观点,算法设计的距离矩阵的目标是设计快速算法,这是专门为距离矩阵,基本线性代数原语。我们的研究结果包括有效的算法计算矩阵矢量产品的广泛的距离矩阵,如$\ell_1$度量,我们得到一个线性的运行时间,以及$Ω(n^2)$下限的任何算法计算矩阵矢量产品的$\ell_{\infty}$的情况下,显示分离的$\ell_1$和$\ell_{\infty}$度量之间。我们的上界结果,结合矩阵向量查询模型的最新工作,有许多进一步的下游应用,包括用于计算由$\ell_1$和$\ell_2^2$函数引起的距离矩阵的相对误差低秩近似的最快算法,以及用于计算$\ell_2$度量的加性误差低秩近似的最快算法,除了用于快速矩阵乘法的应用之外。我们还给出了算法构造距离矩阵,并表明,可以构建一个近似的$\ell_2$距离矩阵的时间比约翰逊-林登施特劳斯引理所暗示的界限更快。
2022-10-27 cs.DS
A faster hafnian formula for complex matrices and its benchmarking on a supercomputer
我们介绍了新的和简单的算法计算复杂的加权,无向图的完美匹配的数量有和没有循环。我们的紧凑的公式为$n \times n $复杂的矩阵的循环和循环的循环在$O(n^3 2^{n/2})$时间运行,是并行化的,据我们所知,是最快的精确算法来计算这些数量。尽管我们的高度优化的算法,泰坦超级计算机上的矩阵大小$56 \times 56$的数值基准表明,一个将需要288000 CPU的这台机器约一个半月的时间来计算$100 \times 100$矩阵的牛顿。
2019-05-01 cs.DS quant-ph
Subset Selection for Matrices with Fixed Blocks
矩阵的子集选择是从具有$m>n$的给定矩阵$B\in\mathbb{R}^{n\times m}$中提取列子矩阵的任务,使得采样矩阵的伪逆具有尽可能小的Frobenius或谱范数。在本文中,我们考虑一个更一般的问题,子集选择矩阵,允许一个块是固定的开始。在此设置下,我们提供了一个确定性的方法,从$B$中选择一个列子矩阵。我们还提出了一个界的采样矩阵的伪逆的Frobenius和谱范数,表明该界是渐近最优的。证明这一结果的主要技术是由Marcus,Spielman和Srivastava开发的交错多项式族。这个想法也导致了一个确定性的贪婪选择算法,产生的子矩阵,我们的结果承诺。
2020-03-03 cs.DS
Equal-Subset-Sum Faster Than the Meet-in-the-Middle
在等子集和问题中,我们给出了一个由$n$个整数组成的集合$S$,问题是判断是否存在两个不相交的非空集$A,B \subseteq S$,其元素和为相同的值. 这是一个NP-完备问题.最先进的算法在$O^{*}(3^{n/2}) \le O^{*}(1.7321^n)$时间内运行,并基于中间相遇技术。本文对该算法进行了改进,给出了$O^{*}(1.7088^n)$最坏情况蒙特卡罗算法。这就回答了沃根格的启发性调查中的一个公开问题。此外,我们还分析了多项式空间的等子集和算法。$O^{*}(3^n)$时间上等子集和运算朴素多项式空间算法通过对指数随机位的只读访问,我们展示了一个在$O^{*}(2.6817^n)$时间和多项式空间中运行的随机算法。
2019-07-03 cs.DS
A Faster Pseudopolynomial Time Algorithm for Subset Sum
给定一个正整数集合$n$和一个目标整数$t$,子集和问题是判断是否存在一个和为$t$的$S$子集.我们提出了一个新的分治算法,计算所有可实现的子集和$\widetilde{O}\!\left(\min\{\sqrt{n}u,u^{4/3},σ\}\right)$中的整数$u$,其中$σ$是$S$中所有元素的总和和$\widetilde{O}$隐藏多对数因子。该结果改进了在$O(nu)$时间内运行的标准动态规划算法。据我们所知,新算法是最快的一般算法为这个问题。我们还提出了一个改进的算法,它计算所有的可实现的子集和内的循环群在$\widetilde{O}\!\left(\min\{\sqrt{n}m,m^{5/4}\}\right)$时间,其中$m$是组的顺序。
2016-12-12 cs.DS
A note on "Approximation schemes for a subclass of subset selection problems", and a faster FPTAS for the Minimum Knapsack Problem
Pruhs和Woeginger证明了FPTAS的存在性的一般类的最小化和最大化子集选择问题。在不失去一般性的情况下,从原来的框架,我们证明了如何更好的渐近最坏情况下的运行时间可以实现,如果一个$ρ$ -近似算法是可用的,特别是我们获得匹配的最大化和最小化子集选择问题之间的运行时间。我们直接将此结果应用于最小背包问题,其中原始框架产生一个FPTAS与运行时间$O(n^5/ε)$,其中$ε$是所需的精度和$n$是项目的数量,并获得一个FPTAS与运行时间$O(n^3/ε)$,从而提高了运行时间的二次因子在最坏的情况下。
2016-07-27 cs.CC cs.DS
Faster and Simpler Minimal Conflicting Set Identification
设C是N个元素的有限集,R = r_1,r_2,.,r_m是C的M个子集的族。R的子集X证明连续一性质(C1 P),如果存在C的置换P使得X中的每个ri是P的区间。最小连续集(MCS)S是R的子集,它不证明C1 P,但它的任何真子集都证明C1 P。本文提出了一种新的判定R中给定元素r是否至少属于一个MCS的算法,该算法简单而快速。我们的算法运行时间为O(N^2M^2 + NM^7),大大改进了[Blin { \em et al},CSR 2011]的当前O(M^6N^5(M+N)^2 log(M+N))最快算法。新算法是基于另一种方法,考虑最小禁止诱导子图的区间图,而不是塔克矩阵。
2012-01-26 cs.DS
Faster Exact Algorithms for Equal-Subset-Sum
The University of Tokyo(东京大学)
研究等和子集问题的精确算法,通过改进算法提升时间和空间效率,改进多项式空间运行时间,并研究时空权衡,在多方面取得更好结果。
2026-07-13 cs.DS
Faster Algorithms for Bounded-Difference Min-Plus Product
两个$n\times n$矩阵的最小乘积是算法研究中的一个基本问题。众所周知,它相当于APSP,而且一般来说它没有真正的亚立方算法。本文主要研究一类特殊的矩阵--$δ$ -有界差矩阵的最小乘积,其中任意两个相邻元素之间的差都是以$δ=O(1)$为界的.我们的算法运行在随机时间$O(n^{2.779})$的快速矩形矩阵乘法算法[Le Gall \& Urrutia 18],优于$\tilde{O}(n^{2+ω/3})=O(n^{2.791})$($ω<2.373$ [Alman \& V. V. Williams 20])。这改进了先前$\tilde{O}(n^{2.824})$的结果[Bringmann et al. 16]。当$ω=2$在理想情况下,我们的复杂性是$\tilde{O}(n^{2+2/3})$,改进Bringmann等人。的结果。
2022-02-02 cs.DS
Faster Deterministic Modular Subset Sum
考虑模子集和问题:给定一个由$\mathbb{Z}_m$和一个目标整数$t$组成的集合$X$,判断是否存在一个$X$的子集,其和等于$t \pmod{m}$ .红衣主教和Iacono(SOSA'21),Axiotis等人(SOSA'21)最近的独立工作提供了简单的和近线性的算法,这个问题。Cardinal和Iacono给出了在$O(m \log m)$时间内运行的随机算法,而Axiotis等人给出了在$O(m \text{ polylog } m)$时间内运行的确定性算法。这两个结果的工作减少到一个文本的问题,这是解决使用动态字符串数据结构。在这项工作中,我们开发了一个简单的数据结构,专门设计用于处理模块子集和算法中出现的文本问题。我们的数据结构,我们称之为移位树,是段树的一个简单变体。我们提供了一个基于散列和确定性的移位树的变体。然后将我们的数据结构应用于模子集和问题,得到了两个算法。第一种算法是蒙特卡罗随机化的,并且与Cardinal和Iacono的Las-Vegas算法的$O(m \log m)$运行时相匹配。第二种算法是完全确定性的,并且在$O(m \log m \cdot α(m))$时间内运行,其中$α$是逆阿克曼函数。
2021-07-03 cs.DS
Approximating Subset Sum Ratio faster than Subset Sum
本研究提出子集和比率问题的近似方案,运行时间$O(n/\varepsilon^{0.9386})$,首次同时实现线性$n$和次线性$1/\varepsilon$依赖,快于子集和问题的已知方案,并避免推翻强指数时间假设。
2023-10-11 cs.DS
Faster Space-Efficient Algorithms for Subset Sum, k-Sum and Related Problems
我们提出了空间有效的Monte Carlo算法,解决子集和背包实例与$n$项目使用$O^*(2^{0.86n})$时间和多项式空间,其中$O^*(\cdot)$符号抑制因素多项式的输入大小。这两种算法都假定对随机位的随机只读访问。模这个温和的假设,这解决了一个长期存在的开放问题,在精确算法的NP难问题。这些结果可以推广到求解$n$变量上的二元线性规划问题,在相似的运行时间内,约束条件较少。我们还表明,对于任何恒定的$k\geq 2$,$k$ -Sum的随机实例可以解决使用$O(n^{k-0.5}polylog(n))$时间和$O(\log n)$空间,而不需要随机访问随机位的假设。这些结果的基础是一个算法,该算法确定两个给定的列表的长度$n$与整数由一个多项式在$n$共享一个共同的值。假设随机只读访问随机位,我们表明,这个问题可以解决使用$O(\log n)$空间显着快于平凡的$O(n^2)$时间算法,如果没有值经常出现在同一列表中。
2017-06-24 cs.CC cs.CR cs.DS
Faster spectral sparsification and numerical algorithms for SDD matrices
我们研究算法的谱图稀疏化。输入是具有$n$顶点和$m$边的图$G$,并且输出是在代数意义上近似$G$的稀疏图$\tilde{G}$。具体地,对于所有向量$x$和任何$ε>0$,$\tilde{G}$满足$$ (1-ε) x^T L_G x \leq x^T L_{\tilde{G}} x \leq (1+ε) x^T L_G x, $$,其中$L_G$和$L_{\tilde{G}}$分别是$G$和$\tilde{G}$的拉普拉斯算子。我们发现,已知的最快的算法计算的稀疏与$O(n\log n/ε^2)$边缘实际上可以运行在$\tilde{O}(m\log^2 n)$的时间,$O(\log n)$因子比以前更快。我们还提出了更快的稀疏化算法略密图。具体来说,我们给出了一个算法,运行在$\tilde{O}(m\log n)$时间和生成一个稀疏与$\tilde{O}(n\log^3{n}/ε^2)$边缘。这意味着,一个稀疏与$O(n\log n/ε^2)$边缘可以计算在$\tilde{O}(m\log n)$时间的图与$O(n\log^4 n)$边缘以上。我们还给出了一个$\tilde{O}(m)$时间算法的图有多个$n\log^5 n (\log \log n)^3$边的多项式有界的重量,和一个$O(m)$算法的未加权图有多个$n\log^8 n (\log \log n)^3 $边和…
2013-11-16 cs.DS
Faster and Simpler Width-Independent Parallel Algorithms for Positive Semidefinite Programming
本文研究半正定规划的$(1+ε)$ -近似解的求法问题。这些是半定规划,其中约束和目标中的所有矩阵都是半正定的,并且所有标量都是非负的。我们提出了一个更简单的\NC并行算法,在输入$n$约束矩阵,需要$O(\frac{1}{ε^3} log^3 n)$迭代,其中每一个只涉及简单的矩阵运算和计算矩阵指数和半正定矩阵的乘积的迹。此外,给定因子分解形式的正SDP,我们的算法的总工作在因子分解中的非零条目的数量上是近线性的。
2016-02-22 cs.DC cs.DS
Faster-Than-Native Alternatives for x86 VP2INTERSECT Instructions
我们提出了比本机更快的替代完整的AVX 512-VP 2 INTERSECT指令子集使用基本AVX 512 F指令。这些替代方案仅计算输出掩码中的一个,这对于计算两个整数的排序列表的交集或计算这样的交集的大小的典型情况是足够的。虽然朴素的实现(将第一个输入向量与第二个输入向量的所有旋转进行比较)比本机指令慢,但我们表明,通过同时旋转第一个和第二个操作数,可以显著节省向量旋转的总数,从而使仿真比本机指令快,适用于VP 2 INTERSECT子集中的所有指令。此外,仿真可以很容易地扩展到其他类型的输入(例如,16位整数的打包向量),对于这些输入,本地指令不可用。
2022-04-16 cs.DS cs.PF
$XX^{t}$ Can Be Faster
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳市大数据研究院)
本研究提出RXTX新算法,结合基于机器学习的搜索与组合优化,实现矩阵转置乘积$XX^t$运算比现有最优算法减少5%的乘法与总运算量,且大小矩阵均适用。
2025-05-16 cs.AI cs.DS cs.LG
Dense Subset Sum may be the hardest
子集求和问题询问给定的$n$正整数集合是否包含元素的子集,这些元素的总和等于给定的目标$t$。Horowitz和Sahni [J. ACM 1974]提出的子集和的$O^*(2^{n/2})$时间算法是否能在最坏情况下被“真正更快”的、具有某些恒定$δ> 0$的$O^*(2^{(0.5-δ)n})$时间算法击败,这是一个悬而未决的问题。继续早期的工作[STACS 2015],我们研究了由最大bin大小$β$参数化的Subset Sum,$β$定义为产生相同总和的$n$输入整数的最大子集数量。对于每一个$ε> 0$,我们给出了一个真正更快的算法的实例与$β\leq 2^{(0.5-ε)n}$,以及实例与$β\geq 2^{0.661n}$。因此,我们也得到了一个表征流行的密度参数$n/\log_2 t$:如果所有的密度至少$1.003$的实例承认一个真正更快的算法,那么这样做的每一个实例。这违背了目前的直觉,即密度1的实例是最难的,因此是朝着肯定回答开放问题迈出的一步。我们的研究结果源于新的组合早期算法子集和研究的极值问题添加剂组合连接到问题的唯一可解码的代码对信息论。
2015-08-25 cs.CC cs.DM cs.DS
Low Rank Approximation of Binary Matrices: Column Subset Selection and Generalizations
低秩矩阵逼近是机器学习中的一个重要工具。给定一个数据矩阵,低秩近似有助于找到因子,模式,并提供数据的简洁表示。低秩近似的研究通常集中在实矩阵上。然而,在许多应用中,数据是二进制的(分类的)而不是连续的。这就引出了二元矩阵的低秩近似问题。这里我们给出一个$d \times n$二元矩阵$A$和一个小整数$k$。目标是找到大小分别为$d \times k$和$k \times n$的两个二元矩阵$U$和$V$,使得$A - U V$的Frobenius范数最小化。这个问题有两个模型,取决于二进制向量的点积的定义:$\mathrm{GF}(2)$模型和布尔半环模型。不像实矩阵的低秩近似可以通过奇异值分解有效地解决,二元矩阵的逼近是$NP$ -困难的,即使对于$k=1$。本文研究数据矩阵的$k$列必须构成一个低秩矩阵的列子集选择问题。我们刻画了CSS对二元矩阵的逼近比。对于$GF(2)$模型,我们证明了CSS的逼近比以$\frac{k}{2}+1+\frac{k}{2(2^k-1)}$为界,并且这个界是渐近紧的.对于布尔模型,事实证明CSS不再足以获得边界。然后,我们开发了一个广义CSS(GCSS)的过程中,一个低秩矩阵的列生成的布尔运算公式按位列的数据矩阵。我们证明了GCSS的逼近比受$2^{k-1}+1$的约束,并且对$k$的指数依赖性是固有的。
2017-04-20 cs.CC cs.DS
A Faster Algorithm for Pigeonhole Equal Sums
本文针对鸽巢等和问题提出改进算法,利用少解实例的结构特征而非表示法,将时间复杂度从 O^*(2^{n/2}) 降至 O^*(2^{0.4n}),并给出 O^*(2^{0.75n}) 的多项式空间算法。
2024-03-28 cs.DS
Quantum implementation of circulant matrices and its use in quantum string processing
字符串问题通常可以通过使用特殊的数据结构(例如后缀)更快地解决,在许多情况下,后缀结构是树和数组。在本文中,我们表明,在这些数据结构中使用的后缀可以通过使用循环矩阵作为量子运算符,可以在对数时间内实现。因此,如果字符串被给定为量子态,则使用所提出的电路实现可以在量子计算机上有效地进行字符串处理。
2023-02-20 cs.DS quant-ph
Breaking the Barrier of Self-Concordant Barriers: Faster Interior Point Methods for M-Matrices
针对矩阵缩放和带非负约束的二次最小化问题,证明当输入为M-矩阵时,自适应步长内点法的迭代复杂度可突破至 $\widetilde{O}(n^{1/3})$,并借此构建了更快的 $\ell_{2}$ 流扩散算法。
2025-04-29 cs.DS math.OC
pylspack: Parallel algorithms and data structures for sketching, column subset selection, regression and leverage scores
我们提出了并行算法和数据结构的三个基本操作在数值线性代数:(一)高斯和CountSketch随机投影及其组合,(二)计算的革兰氏矩阵和(三)计算的平方行范数的产品的两个矩阵,特别关注“高和瘦”矩阵,这出现在许多应用中。我们提供了一个详细的分析无处不在的CountSketch变换及其与高斯随机投影相结合,占内存需求,计算复杂性和工作负载平衡。我们还演示了如何将这些结果应用于列子集选择,最小二乘回归和杠杆分数计算。这些工具已经在pylspack中实现,pylspack是一个公开可用的Python包(https://github.com/IBM/pylspack),其核心是用C++编写的,并与OpenMP并行化,并且与SciPy和NumPy的标准矩阵数据结构兼容。大量的数值实验表明,所提出的算法的规模以及显着优于现有的库高和瘦矩阵。
2022-08-04 cs.DC cs.DS cs.MS
Faster Sublinear Algorithms using Conditional Sampling
MIT(麻省理工学院)
概率分布D的条件采样预言机返回来自限制于域的指定子集的D的条件分布的样本。最近的一系列工作(Chakraborty et al. 2013和Cannone et al. 2014)表明,访问这样的条件抽样oracle只需要多对数甚至常数数量的样本来解决分布测试问题,如同一性和均匀性。这大大改善了标准采样模型,其中多项式许多样本是必要的。受这些结果的启发,我们引入了一个计算模型的基础上,条件采样开发次线性算法与指数更快的运行时间相比,标准的次线性算法。本文主要研究高维欧氏空间中点集上的几何优化问题。访问这些点是通过一个有条件的采样预言机提供的,该预言机将域的子集的简洁表示作为输入,并输出该子集中的均匀随机点。我们研究了两个很好的研究问题:k-均值聚类和估计的最小生成树的重量。与经典模型的已有算法相比,我们的算法具有时间、空间和样本复杂度,即维数为多项式,点数为多对数。最后,我们评论了该模型的适用性,并与现有的流,并行和分布式计算模型。
2016-08-16 cs.DS cs.LG
A Faster Algorithm for the Maximum Even Factor Problem
给定一个有向图$G = (VG,AG)$,一个\emph{even factor} $M \subseteq AG$是一个弧的子集,它可以分解成一个节点不相交的路径和偶圈的集合。Geleen和Cunningham在有向图中引入了偶因子,推广了无向图中的路匹配.在一般有向图中寻找最大基数的偶因子是NP-难的,但对于\emph{odd-cycle symmetric}类有向图,这个问题是多项式可解的。到目前为止,唯一已知的用于此任务的组合算法是由于Pap;它具有$O(n^4)$的运行时间(以下$n$代表$G$中的节点数)。在本文中,我们提出了一种新的\emph{sparse recovery}技术,并设计了一个$O(n^3 \log n)$ -时间算法,以寻找一个最大基数偶因子的奇循环对称有向图。
2010-04-14 cs.DS math.CO
The power of block-encoded matrix powers: improved regression techniques via faster Hamiltonian simulation
我们将Low和Chuang(以标准形式)引入的块编码框架应用于量子机器学习算法的研究,并得出适用于各种输入模型的一般结果,包括稀疏矩阵预言机和存储在数据结构中的矩阵。我们在块编码框架内开发了几种工具,例如块编码矩阵的奇异值估计,以及使用块编码的量子线性系统求解器。所提出的结果给出了非稀疏矩阵的哈密顿模拟的新技术,这可能与某些量子化学应用相关,并且这反过来意味着非稀疏矩阵的量子线性系统求解器对精度的依赖性的指数改进。此外,我们还开发了一种基于Ambainis的可变时间幅度放大技术的可变时间幅度估计技术,我们也能够在该框架内应用该技术。作为应用,我们设计了以下算法:(1)求解量子加权最小二乘问题的量子算法,与Kerenkash和Prakash的最佳算法相比,该算法对条件数的依赖性有6次方的改进,对精度的依赖性有指数级的改进;以及(3)用于估计电网量(包括有效电阻和耗散功率)的量子算法,改进了之前的工作。
2018-09-03 cs.DS quant-ph
Fast binary embeddings with Gaussian circulant matrices: improved bounds
我们考虑的问题,编码成一个小数目的比特的向量的有限集合,同时近似地保留信息的向量之间的角距离。通过推导与二进制高斯循环嵌入相关的改进的方差界,我们在很大程度上修复了最知名的快速二进制嵌入方法的证明中的一个空白。我们的界限还表明,良好的传播假设的数据向量,这是需要在早期的工作方差界,是不必要的。此外,我们提出了一种新的二进制嵌入,在稀疏数据上具有更快的运行时间。
2017-12-26 cs.DS cs.IT math.IT
Efficient Structured Matrix Recovery and Nearly-Linear Time Algorithms for Solving Inverse Symmetric $M$-Matrices
在本文中,我们将展示如何恢复一个谱近似的结构矩阵的广泛的类别,只使用一个多对数的自适应线性测量矩阵或其逆。利用这一结果,我们得到更快的算法,各种线性代数问题。主要成果包括:$\bullet$一种近似线性时间算法,用于求解对称$M$ -矩阵的逆,对称矩阵是拉普拉斯算子和SDD矩阵的严格超集。$\bullet$一种用于求解$n \times n$线性系统的$\tilde{O}(n^2)$时间算法,该线性系统是拉普拉斯算子或更一般的SDD矩阵的常数谱近似。$\bullet$一种$\tilde{O}(n^2)$算法,用于仅使用$\tilde{O}(1)$矩阵向量乘以其拉普拉斯矩阵来恢复$n$ -顶点图的谱近似。以前每个问题的最佳结果要么使用少量的查询来精确地恢复矩阵,要么使用少量的$O(n^ω)$运行时间,其中$ω$是矩阵乘法常数。我们通过推广Lee和Sun(2017)最近基于半定规划的线性大小稀疏器结果,并提供受Kapralov,Lee,Musco,Musco和Sidford(2014)的半流稀疏化结果启发的迭代法以及Li,Miller和Peng(2013)的输入稀疏时间线性系统求解结果来实现这些结果。我们希望,通过启动这些自然问题的研究,扩大最近的近线性时间线性系统求解研究的鲁棒性和范围,并提供一般的矩阵恢复机器这项工作可以作为更快的算法的垫脚石。
2018-12-15 cs.DS math.OC math.ST