Sub-string/Pattern Matching in Sub-linear Time Using a Sparse Fourier Transform Approach
我们考虑查询长度为$N$位的字符串(或数据库)的问题,以确定长度为$M$的子串(查询)出现的所有位置,或者恰好在$K$与查询的汉明距离内。我们假设原始信号的草图可以离线计算并存储。使用稀疏傅立叶变换计算为基础的方法介绍了Pawar和Ramchandran,我们表明,所有这样的匹配可以确定在次线性时间的高概率。具体来说,如果查询长度$M = O(N^μ)$和匹配$L=O(N^λ)$的数量,我们表明,$λ< 1-μ$的所有匹配的位置可以确定的概率接近1的$N \rightarrow \infty$为$K \leq \frac{1}{6}M$。更重要的是,我们的方案具有仅为$O\left(\max\{N^{1-μ}\log^2 N, N^{μ+λ}\log N \}\right)$的最坏情况的计算复杂度,这意味着对于$λ<1-μ$,我们可以在{ \it次线性}时间内恢复所有匹配位置。这是对Andoni { \em et al.}的用于恢复一个匹配位置的$O\left(N^{1-0.359 μ} \right)$的最佳已知计算复杂度的实质性改进。\cite{andoni2013shift}。此外,需要计算、存储和访问的傅立叶变换系数的数量,即,该算法的绘制复杂度仅为$O\left(N^{1-μ}\log N\right)$。几个扩展的主要主题也进行了讨论。
2017-04-25 cs.DS cs.IT math.IT
A Robust Sparse Fourier Transform in the Continuous Setting
近年来,一些作品已经研究了在次线性时间内计算傅立叶变换的方法,如果输出是稀疏的。大多数这些都集中在离散设置,即使在许多应用中的输入信号是连续的和朴素的离散化显着的稀疏水平。我们提出了一种算法,用于鲁棒计算稀疏傅立叶变换的连续设置。令$x(t) = x^*(t) + g(t)$,其中$x^*$具有$k$稀疏傅立叶变换,并且$g$是任意噪声项。给定样本访问$x(t)$的一段时间$T$,我们展示了如何找到一个$k$ -傅立叶稀疏重建$x'(t)$与$$\frac{1}{T}\int_0^T |x'(t) - x(t) |^2 \mathrm{d} t \lesssim \frac{1}{T}\int_0^T | g(t)|^2 \mathrm{d}t.$$样本的复杂性是线性的$k$和对数的信噪比和频率分辨率。具有类似样本复杂性的先前结果不能容忍无限小的i.i.d.。高斯噪声,甚至具有更高样本复杂度的算法都以多项式因子增加了噪声。我们也给出了新的结果如何精确的个人频率的$x^*$可以恢复。
2016-09-04 cs.DS
Computing a k-sparse n-length Discrete Fourier Transform using at most 4k samples and O(k log k) complexity
给定$n$长度的输入信号$\mbf{x}$,众所周知,其离散傅立叶变换(DFT)$\mbf{X}$可以使用快速傅立叶变换(FFT)以$O(n \log n)$复杂度计算.如果谱$\mbf{X}$恰好是$k$ -稀疏的(其中$k<<n$),我们能做得更好吗?当$k$在$n$中是次线性时,我们证明了在$k$和$n$中是渐近的(精确地,$k \propto n^δ$,其中$0 < δ<1$),并且非零DFT系数的支持是均匀随机的,我们可以以两种基本方式利用这种稀疏性(i){ \bf {样本复杂度}}:我们仅需要$M=rk$确定性地选择的输入信号$\mbf{x}$的样本(其中当$0 < δ< 0.99$时为$r < 4$);以及(ii){ \bf {计算复杂度}}:我们可以使用$O(k \log k)$运算来可靠地计算DFT $\mbf{X}$,其中大Oh中的常数很小,并且与计算长度近似等于稀疏参数$k$的少量DFT中所涉及的常数有关。我们的算法成功的概率很高,与失败的概率渐近消失到零的样本数量,$M$。
2015-01-26 cs.DS cs.IT cs.MM
Fourier-sparse interpolation without a frequency gap
我们考虑的问题,估计一个傅里叶稀疏信号的噪声样本,采样是在一些间隔$[0, T]$和频率可以是“离网”。以前解决这个问题的方法要求频率之间的间隔大于1/T,这是鲁棒地识别各个频率所需的阈值。我们表明,频率间隙是没有必要估计的信号作为一个整体:对于任意的$k$ -傅立叶稀疏信号下$\ell_2$有界噪声,我们展示了如何估计信号的噪声和样本复杂性多项式在$k$和对数的带宽和信噪比的常数因子增长。作为一种特殊情况,我们得到了一个算法来插值度$d$多项式从噪声测量,使用$O(d)$样本和增加噪声由一个常数因子在$\ell_2$。
2016-09-06 cs.DS
Sparse Fourier Transform in Any Constant Dimension with Nearly-Optimal Sample Complexity in Sublinear Time
我们考虑的问题,计算$k$稀疏近似的傅立叶变换的长度$N$信号。我们的主要结果是一个随机算法计算这样的近似(即实现$\ell_2/\ell_2$稀疏恢复保证使用傅立叶测量)使用$O_d(k\log N\log\log N)$样本的信号在时域中运行的时间$O_d(k\log^{d+3} N)$,其中$d\geq 1$是傅立叶变换的维数。样本复杂度与非自适应算法的$Ω(k\log (N/k))$的下限匹配,这是由于对于任何$k\leq N^{1-δ}$的\cite{DIPW},对于恒定的$δ>0$,直到$O(\log\log N)$因子。在我们的工作之前,具有可比的样本复杂性$k\log N \log^{O(1)}\log N$和次线性运行时间的结果是已知的傅立叶变换线上的\cite{IKP},但对于任何维度$d\geq 2$以前已知的技术要么遭受多对数因子损失的样本复杂性或所需的$Ω(N)$运行时间。
2016-04-04 cs.DS
Sparse Fast Fourier Transform for Exactly and Generally K-Sparse Signals by Downsampling and Sparse Recovery
快速傅立叶变换(FFT)是数字信号处理中最重要的工具之一。FFT变换长度为N的信号的成本为O(N \log N)。最近,稀疏傅里叶变换(SFT)已经成为一个关键的问题,解决如何计算一个压缩的傅里叶变换的信号与复杂性有关的稀疏频谱。本文提出了一种新的SFT算法,它适用于精确K-稀疏信号(具有K个非零频率)和一般K-稀疏信号(具有K个有效频率),假设非零频率的分布是均匀的。核心思想是在开始时对输入信号进行下采样;然后,后续处理在下采样信号下进行,其中信号长度与O(K)成比例。然而,下采样可能导致“混叠”。利用DFT的移位特性,我们将混叠问题转化为复数的BCH码,并通过伴随式译码来解决。所提出的针对精确K稀疏信号的SFT算法在K=O(N)的情况下计算复杂性O(\log K)和至少1-O(\frac{c} τ)^{τK}的概率恢复1-τ频率,其中c是用户控制的参数。对于一般的K-稀疏信号,由于BCH码对噪声敏感的事实,我们结合了一部分的伴随式解码与压缩感知为基础的求解器,以获得$K$的重要频率。该算法的计算复杂性为\max \left(O(K \log K),O(N)\right),其中O(N)的Big-O常数非常小,仅一个简单的运算就需要O(N)。我们的模拟表明,O(N)并不主导sFFT-DT的计算成本。
2015-05-22 cs.DS
Fast Fourier Sparsity Testing
函数$f : \mathbb{F}_2^n \to \mathbb{R}$是$s$ -稀疏的,如果它至多具有$s$非零傅立叶系数。出于应用程序的快速稀疏傅立叶变换在$\mathbb{F}_2^n$,我们研究有效的算法的问题,近似的$\ell_2$ -距离从一个给定的功能,最接近的$s$ -稀疏功能。虽然以前的作品(例如,Gopalan等人,SICOMP 2011)研究了在汉明距离下区分$s$ -稀疏函数与远离$s$ -稀疏的那些函数的问题,据我们所知,没有现有工作明确地集中在$\ell_2$设置中的距离估计的更一般的问题上,这对于有噪声的傅立叶谱特别有意义。考虑到对效率的关注,我们的主要结果是一个算法,解决了这个问题的查询复杂性$\mathcal{O}(s)$恒定的准确性和错误参数,这是只有二次差于适用的下限。
2019-10-13 cs.DS
On the Design of Deterministic Matrices for Fast Recovery of Fourier Compressible Functions
我们提出了一个一般类的压缩感知矩阵,然后证明有相关的次线性时间稀疏近似算法。然后,我们开发的方法来构建专门的矩阵,从这一类是稀疏的乘以离散傅里叶变换矩阵。最终,这些考虑改进了先前的确定性稀疏傅里叶变换方法的采样要求。
2011-05-30 cs.DS cs.NA math.NA
Dimension-independent Sparse Fourier Transform
离散傅立叶变换(DFT)是基本的计算原语,并且用于计算DFT的最快已知算法是FFT(快速傅立叶变换)算法。FFT的一个显著特征是其运行时间仅取决于输入向量的大小$N$,而不取决于输入域的维数:FFT在时间$O(N\log N)$中运行,而不管所讨论的DFT是在$\mathbb{Z}_N$上还是在某些$d>1$的$\mathbb{Z}_n^d$上,其中$N=n^d$。稀疏FFT的现有技术,即计算在傅立叶域中至多具有$k$非零值的信号的DFT的问题,是非常不同的:用于稀疏FFT的次线性时间计算的所有当前技术在运行时引起对维度$d$的指数依赖。在本文中,我们给出的第一个算法,计算DFT的$k$稀疏信号在时间$\text{poly}(k, \log N)$在任何维度$d$,避免了灾难的维数固有的所有以前已知的技术。我们的主要工具是一类新的滤波器,我们称之为自适应混叠滤波器:这些滤波器允许使用时域中的$O(k)$样本和每个频率的$O(k\log N)$运行时间,在任何维度$d$中隔离$k$ -傅立叶稀疏信号的频率。我们还研究了输入信号的自然平均情况模型:(1)具有随机系数的傅立叶域中的最坏情况支持和(2)具有最坏情况系数的傅立叶域中的随机位置。我们的技术导致前者的$\widetilde O(k^2)$时间算法和后者的$\widetilde O(k)$时间算法。
2019-02-27 cs.DS
An Adaptive Sublinear-Time Block Sparse Fourier Transform
快速近似计算矢量$X$的$k$主傅立叶系数并且在时域中使用少量样本的问题被称为稀疏傅立叶变换(稀疏FFT)问题。关于稀疏FFT的一长串工作已经产生了具有$O(k\log n\log (n/k))$运行时间的算法[Hassanieh等人,STOC '12]和$O(k\log n)$样本复杂度[Indyk等人,FOCS '14]。使用非自适应算法证明了这些结果,并且后一个$O(k\log n)$样本复杂度结果基本上是单独在稀疏性假设下的最佳可能结果。本文重新审视稀疏FFT问题,增加了扭曲,稀疏系数近似服从$(k_0,k_1)$块稀疏模型。在该模型中,信号频率被聚集在傅立叶空间中具有宽度$k_1$的$k_0$间隔中,其中$k= k_0k_1$是总稀疏度。在应用中出现的信号通常通过该模型与$k_0\ll k$很好地近似。我们的主要结果是第一个稀疏FFT算法$(k_0, k_1)$块稀疏信号的样本复杂度为$O^*(k_0k_1 + k_0\log(1+ k_0)\log n)$在恒定的信号-噪声比,和次线性运行时间。类似的样本复杂度先前在使用随机高斯测量的基于模型的压缩感测的工作中实现,但是使用了$Ω(n)$运行时。据我们所知,我们的结果是基于模型的压缩感知的第一个次线性时间算法,以及第一个稀疏FFT结果,低于$O(k\log n)$样本复杂度界限。我们的算法至关重要地使用{\em adap…
2017-04-11 cs.DS
Reconstruction under outliers for Fourier-sparse functions
我们考虑的问题学习一个未知的$f$稀疏傅立叶频谱中存在的离群噪声。特别地,该算法可以访问(未知的)$f$的噪声预言,使得(i)$f$的傅立叶谱是$k$ -稀疏的;(ii)在任何查询点$x$,预言返回$y$,使得概率为$1-ρ$,$|y-f(x)| \le ε$。然而,对于概率$ρ$,误差$y-f(x)$可以任意大。我们研究傅立叶稀疏函数的离散立方体$\{0,1\}^n$和环面$[0,1)$和这两个域,我们设计了有效的算法,可以容忍任何$ρ<1/2$分数的离群值。我们注意到,低次多项式的类似问题最近已经在几个作品中进行了研究[AK 03,GZ 16,KKP 17],并且在该设置中已知类似的算法保证。虽然我们的主要结果涉及的情况下,异常值的位置,即,$x$使得$|y-f(x)|>ε$是随机分布的,我们还研究了异常值位于相反位置的情况。特别是,我们表明,在环面上,假设傅立叶变换满足一定的\emph{granularity}条件,有一个样本有效的算法容忍$ρ=Ω(1)$分数的离群值和进一步,这是不可能的,没有这样的粒度条件。最后,虽然不是主要的推力,但我们的技术还允许我们在存在对抗性离群噪声的情况下在超立方体上学习低次函数$f$。我们的技术结合了压缩感知,稀疏傅立叶变换,链接参数和复杂分析的各种工具。
2019-10-04 cs.DS
Improved Lower Bounds for the Restricted Isometry Property of Subsampled Fourier Matrices
令$A$是$\mathbb{F}_p^{\log{N}/\log{p}}$上的$N \times N$傅立叶矩阵,其中有某个素数$p$。我们改进了已知的下限为$A$,必须进行采样,使得到的矩阵$M$满足有限等距属性$k$稀疏向量的行数。该性质表明,对于所有$k$ -稀疏向量$v$,$\|Mv\|_2^2$近似为$\|v\|_2^2$。特别是,如果$k = Ω( \log^2{N})$,我们表明,$Ω(k\log{k}\log{N}/\log{p})$行必须进行采样,以满足限制等距属性与恒定的概率。
2019-03-28 cs.DS cs.IT math.IT
Super-resolution and Robust Sparse Continuous Fourier Transform in Any Constant Dimension: Nearly Linear Time and Sample Complexity
分辨被成像物体的细节的能力,以分辨率命名,是成像系统的核心参数。超分辨率是一种能够提高成像系统分辨率,甚至超越系统衍射极限的技术。尽管在应用中取得了巨大的成功,但在理论方面,特别是对于任何维度的$d \geq 2$,超分辨率还没有得到很好的理解。具体地,为了恢复$k$稀疏信号,所有先前的结果受到聚$(k)$样本或运行时间的任一者/两者的影响。我们在发展稀疏傅里叶变换(Sparse FT)中的一些新技术的基础上,设计了强噪声模型下任意(常)维的鲁棒算法,如鲁棒线性系统的反演、“蛋壳”采样方案以及高维的划分和投票方法。这些算法是第一个实现运行时间和样本复杂度(几乎)线性的源点的数量和对数的带宽为任何恒定的维度,我们相信在工作中开发的技术可以找到他们的进一步应用的超分辨率和稀疏FT问题。
2022-10-12 cs.DS
Improved Reconstruction for Fourier-Sparse Signals
针对傅里叶稀疏信号重建,提出统一框架,实现无维度依赖的样本最优恢复及高精度插值,突破先前近似障碍。
2023-11-17 cs.DS
Nearly Optimal Quantum Sample Complexity of Learning Fourier-Sparse Boolean Functions
College of Computer and Data Science, Fuzhou University(福州大学计算机与数据科学学院)
该研究针对至多有k个非零傅里叶系数的布尔函数,提出了样本复杂度为\\(\widetilde{O}(k)\\)的量子学习算法,改进了此前的上界,并推导得到紧的经典样本复杂度\\(\Theta(nk)\\)。
2026-10-14 cs.CC cs.DS quant-ph
Traversing the FFT Computation Tree for Dimension-Independent Sparse Fourier Transforms
我们认为,研究稀疏傅立叶变换问题,其中一个目的是快速恢复近似傅立叶$k$ -稀疏向量$\widehat{x} \in \mathbb{C}^{n^d}$从观察其时域表示$x$。在精确的$k$ -稀疏情况下,最好的已知的维度无关算法在$k$中以接近立方时间运行,并且不清楚是否可能有更快的算法,如在低维度中。除此之外,所有已知的方法要么遭受对维度$d$的指数依赖性,要么只能容忍微不足道的噪声量。这与Cooley和Tukey的经典FFT形成鲜明对比,后者是稳定的,对输入向量的维数完全不敏感:它的运行时间是$O(N\log N)$,在任何维数$d$中,对于$N=n^d$。我们的工作旨在解决上述问题。首先,我们提供了一个翻译/减少正是$k$稀疏FT问题的具体树探索任务,要求恢复$k$叶在一个完整的二叉树在一定的探索规则。随后,我们提供了(a)一个几乎二次的$k$时间算法的这项任务,和(b)证据表明,通过这种方法的稀疏FT的强次二次时间可能是不可能的。我们通过证明稀疏多项式多点评估(经典的非等间距稀疏FT)的条件二次时间下限来实现后者,这是上述翻译中的核心例程。因此,我们的结果相结合,可以看作是一个几乎完整的理解这种方法,这是唯一已知的方法,产生次线性时间维无关的稀疏FT算法。随后,我们提供了我们的算法的鲁棒性,产生一个强大的立方时间算法下有界$\ell_2$噪声。这就需要证明新的结构特性,最…
2023-01-22 cs.DS
Optimal Extrapolation Bounds for Sparse Fourier Sums
Purdue University(普渡大学)
研究任意实频率上\(k\)稀疏傅里叶和的最优外推界,给出相关不等式改进前人结果。作为算法结果,提高了聚类频率恢复算法的聚类中心分辨率,还获得稀疏傅里叶特征空间的外部杠杆得分和转移界。
2026-07-14 cs.DS cs.NA math.CA
Fourier Sparse Leverage Scores and Approximate Kernel Learning
Texas A&M University(德克萨斯农工大学);UMass Amherst(马萨诸塞大学阿默斯特分校);New York University(纽约大学)
我们证明了新的明确的上界的杠杆分数的傅立叶稀疏函数下的高斯和拉普拉斯措施。特别是,我们研究$s$ -稀疏函数的形式$f(x) = \sum_{j=1}^s a_j e^{i λ_j x}$的系数$a_j \in \mathbb{C}$和频率$λ_j \in \mathbb{R}$。在各种度量下的傅立叶稀疏杠杆分数在近似理论中具有纯数学意义,我们的工作扩展了统一度量的现有结果[Erd 17,CP 19 a]。实际上,我们的边界是由两个重要的应用在机器学习的动机:1。核近似他们产生一个新的随机傅立叶特征算法近似高斯和柯西(有理二次)核矩阵。对于低维数据,我们的方法使用一个接近最佳数量的功能,其运行时间是多项式的近似核矩阵的$statistical\ dimension$。这是第一个“不经意的素描方法”,除了多项式核之外,任何核都具有此属性,解决了[AKM+17,AKK+20 b]的公开问题。2.主动学习。当数据服从高斯或拉普拉斯分布时,它们可以用作鲁棒主动学习的非均匀采样分布。使用[AKM+19]的框架,我们为带限和多带插值以及高斯过程回归提供了基本上最优的结果。这些结果推广了现有的工作,只适用于均匀分布的数据。
2021-07-08 cs.DS cs.LG math.CA
Learning Fourier-Sparse Signals and Multiband Signals
University of Science and Technology of China(中国科学技术大学);Hefei National Laboratory(合肥国家实验室)
该研究提出了无需先验频带位置的多频带信号高效恢复与插值算法,并证明k傅里叶稀疏信号存在多频带近似,给出了采样复杂度达统计上界量级的插值算法。
2026-11-04 cs.DS
Sample Efficient Estimation and Recovery in Sparse FFT via Isolation on Average
快速计算其频谱由少量$k$频率支配的信号的傅立叶变换并且在时域中使用信号的少量样本的问题(稀疏FFT问题)最近受到了极大的关注。已知如何在$\approx k\log^2 n$时间中近似计算$k$ -稀疏傅立叶变换[Hassanieh等人的“STOC”12],或者在时域中使用样本的最佳数量$O(k\log n)$ [Indyk等人的“FOCS”14],或者同时进入这两个界限的$(\log\log n)^{O(1)}$因子内,但是没有已知在次线性时间中实现最佳$O(k\log n)$界限的算法。在本文中,我们提出了一种新的技术来分析噪声散列方案中出现的稀疏FFT,我们称之为隔离平均。我们将这种技术应用于稀疏FFT中的两个问题:使用少量样本估计频率列表的值和计算稀疏FFT本身,在$k\log^{O(1)} n$时间内实现样本最优结果。我们认为,我们的方法可能会在设计傅立叶采样方案更一般的设置(例如,基于模型的稀疏FFT)的兴趣。
2017-08-17 cs.DS
An in-place truncated Fourier transform
我们表明,简单的修改范德胡芬的正向和逆截断傅立叶变换允许的算法进行到位,只有一个线性开销的复杂性。
2021-01-22 cs.CC cs.DS
Discrete and Fast Fourier Transform Made Clear
快速傅里叶变换被《科学与工程计算》列入20世纪十大算法。本文用初等线性代数的方法给出了离散傅立叶变换和快速傅立叶变换的一种新的简便推导方法。我们通过引入向量的卷积积开始论述,由循环矩阵表示,并推导出离散傅立叶变换作为对角化循环矩阵的基矩阵的变化。我们还推广我们的方法,以获得任何有限阿贝尔群上的傅立叶变换,在布尔立方体上的傅立叶变换的情况下,在理论计算机科学中的许多应用是特别重要的。
2019-08-17 cs.DM cs.DS math.CO
The Fourier Transform of Restrictions of Functions on the Slice
本文研究布尔超立方体切片上的傅里叶变换。证明了切片上函数的傅里叶系数与其限制条件的傅里叶系数之间的关系。作为应用,我们证明了一个Goldreich-Levin定理的切片上的函数的基础上的Kushilevitz-Mansour算法的布尔超立方体。
2021-11-05 cs.CC cs.DS math.CO