Improved Sublinear-time Moment Estimation using Weighted Sampling
本研究针对加权采样下的矩估计问题，给出了t>1/2的亚线性算法与t≤1/2的不可行性证明，明确了t≥2时的最优样本复杂度，还提出矩密度参数并分析了混合采样的性能边界。
2025-02-21 cs.DS
New Sublinear Algorithms and Lower Bounds for LIS Estimation
估计数组中最长递增子序列的长度是一个非常重要的问题。尽管LIS估计问题的重要性和它所受到的关注，但这个问题的一些重要方面还没有完全理解。对于LIS估计，没有比测试单调性（对于自适应或非自适应算法）所暗示的明显界限更好的下限。在本文中，我们给出了第一个非平凡的下限的LIS估计的复杂性，也提供了新的算法，补充我们的下限。具体而言，对于每个常数$ε\in (0,1)$，每个输出长度$n$的阵列中LIS的长度估计值在$ε\cdot n$的附加误差内的非自适应算法都必须进行$\log^{Ω(\log (1/ε))} n)$查询。接下来，我们设计了非自适应LIS估计算法，其复杂度随着阵列中不同值$r$的数量减少而降低。我们首先提出了一个简单的算法，使$\tilde{O}(r/ε^3)$查询和近似的LIS长度与$εn$有界的附加误差。然后，我们用它来构建一个非自适应算法的查询复杂度$\tilde{O}(\sqrt{r} \cdot \text{poly}(1/λ))$，一个数组的LIS长度至少$λn$，输出一个乘法$Ω(λ)$近似LIS长度。最后，我们描述了一个非自适应擦除弹性测试排序，查询复杂性$O(\log n)$。我们的研究结果表明，非自适应容忍测试严格比非自适应擦除弹性测试的单调性的自然属性。
2021-02-11 cs.DS
Simple and Optimal Sublinear Algorithms for Mean Estimation
研究 d 维欧几里得空间中的次线性多元均值估计，给出匹配上下界及两种最优样本复杂度估计量，并用快速梯度下降与实验验证几何中位数均值方法最优。
2025-10-04 cs.DS
Down the Rabbit Hole: Robust Proximity Search and Density Estimation in Sublinear Space
对于$\Re^d$中的一组$n$点，以及参数$k$和$\eps$，我们提出了一种数据结构，可以在对数时间内回答$(1+\eps,k)$ - \ANN查询。令人惊讶的是，数据结构使用的空间是$\Otilde (n /k)$ ;也就是说，如果$k$足够大，则所使用的空间在输入大小上是次线性的。我们的方法提供了一种新的方式来总结几何数据，这样有意义的接近查询的数据可以使用这个草图。使用这一点，我们提供了一个次线性空间数据结构，可以估计密度的点集下的各种措施，包括：\begin{inparaenum}[(i)] \item sum of distances of $k$ closest points to the query point, and \item sum of squared distances of $k$ closest points to the query point. \end{inparaenum}我们的方法推广到其他距离为基础的估计密度相似的味道。我们还研究了使用采样时近似这些数量的问题。特别是，我们表明，一个样本的大小$\Otilde (n /k)$是足够的，在某些限制的情况下，估计上述数量。值得注意的是，样本量与维度只有线性关系。
2013-04-09 cs.CG cs.DS
Faster Sublinear Maximal Independent Set Size
University of Vienna（维也纳大学）；University of Warwick（华威大学）
本文提出一种次线性时间算法估计最大独立集大小，将运行时间从$\ ilde{O}(n^{1+1/2})$改进至$\ ilde{O}(n^{1+1/3})$，并由此改进次线性度量斯坦纳森林，同时将$k$-中心双准则估计归约到该问题。
2026-10-05 cs.DS
Distance Estimation Between Unknown Matrices Using Sublinear Projections on Hamming Cube
使用几何技术，如投影和降维，我们证明了存在一个随机次线性时间算法，可以估计两个矩阵之间的汉明距离。考虑大小为$n \times n$的两个矩阵${\bf A}$和${\bf B}$，其维度对于算法是已知的，但条目是未知的。矩阵的元素是实数。对任何矩阵的访问都是通过一个oracle来实现的，该oracle计算矩阵的行（或列）在$\{0,1\}^n$中的向量上的投影。我们将此查询oracle称为{ \sc内积} oracle（简称为{ \sc IP}）。我们表明，我们的算法返回一个$(1\pm ε)$近似${\bf D}_{\bf M} ({\bf A},{\bf B})$的概率很高，通过${\cal O}\left(\frac{n}{\sqrt{{\bf D}_{\bf M} ({\bf A},{\bf B})}}\mbox{poly}\left(\log n, \frac{1}ε\right)\right)$ Oracle查询，其中${\bf D}_{\bf M} ({\bf A},{\bf B})$表示汉明距离（相应的条目中，${\bf A}$和${\bf B}$不同的数量）之间的两个矩阵${\bf A}$和${\bf B}$的大小$n \times n$。我们还显示了一个匹配的下限，这样的{ \sc IP}查询所需的数量。虽然我们的主要结果是估计${\bf D}_{\bf M}…
2021-07-06 cs.DS
Sublinear algorithms for local graph centrality estimation
我们研究了局部图中心性估计的复杂性，目标是近似给定目标节点的中心性得分，同时只探索图的次线性数量的节点/弧，并执行次线性数量的基本操作。我们开发了一种技术，我们适用于PageRank和热核中心，通过局部探索的图形，建立一个低方差的分数估计。我们得到了一个算法，给定任何节点在任何图的$m$弧，概率$(1-δ)$计算一个乘法$(1\pmε)$ -近似的分数只检查$\tilde{O}(\min(m^{2/3} Δ^{1/3} d^{-2/3},\, m^{4/5} d^{-3/5}))$节点/弧，其中$Δ$和$d$分别是最大和平均出度的图形（省略可读性$\operatorname{poly}(ε^{-1})$和$\operatorname{polylog}(δ^{-1})$因素）。计算复杂度也有类似的界限。我们还证明了$Ω(\min(m^{1/2} Δ^{1/2} d^{-1/2}, \, m^{2/3} d^{-1/3}))$的查询复杂度和计算复杂度的下界。此外，我们的技术为[Brautbar et al.，2010年]，广泛用于社会网络挖掘，我们表明，该算法是最佳的次对数因子。这些是第一个算法产生最坏情况下的次线性边界一般有向图和任何选择的目标节点。
2018-08-04 cs.DS cs.IR cs.SI
Sublinear-Time Algorithms for Counting Star Subgraphs with Applications to Join Selectivity Estimation
我们研究的问题估计值的形式$S_p \triangleq \sum \binom{x_i}{p}$的总和时，一个有能力的样本$x_i \geq 0$与概率成比例的幅度。当$p=2$，这个问题相当于估计选择性的数据库系统中的自连接查询时，可以随机抽样行。我们还研究了$\{x_i\}$是图的度序列时的特殊情况，这对应于当一个图有能力随机采样边缘时，计算图中$p$ -星的数量。我们的算法的$(1 \pm \varepsilon)$ -乘近似的$S_p$查询和时间复杂度$Ø(\frac{m \log \log n}{ε^2 S_p^{1/p}})$。这里，$m=\sum x_i/2$是图中的边数，或者等价地，是数据库表中记录数的一半。类似地，$n$是图中的顶点数和数据库表中唯一值的数量。我们还提供了严格的下限（多对数因子）在几乎所有情况下，即使$\{x_i\}$是一个度序列，并允许使用图的结构，试图得到一个更好的估计。我们不知道任何先前的下限问题的连接选择性估计。对于图的问题，以前的工作，假设采样能力只有\emph{vertices}一致给出了算法与匹配的下限[戈恩，罗恩，和沙维特。\textit{SIAM J. Comput.}，25（2011），pp. 1365-1411]。与随机采样边缘的能力，我们表明，可以实现更快的算法近似的星星子图的数量，绕过在此之前的工作的下限。例如，在$S_…
2016-01-17 cs.DS
Differential privacy and Sublinear time are incompatible sometimes
该研究首次探索同时满足差分隐私与次线性时间的算法下界，证明一般情况下二者不可兼容，并以基于单向边际分布的简单问题为例验证了该结论。
2025-01-13 cs.CR cs.DS
Sublinear Time Spectral Density Estimation
我们提出了一个新的次线性时间算法来近似的谱密度（特征值分布）的$n\times n$规范化图邻接或拉普拉斯矩阵。该算法在给定样本访问图的情况下，在$O(n\cdot \text{poly}(1/ε))$时间内以Wasserstein-1距离恢复高达$ε$精度的频谱。这一结果对David Cohen-Steiner，Weihao Kong，Christian Sohler和Gregory Valiant（2018）最近的工作表示赞赏，该工作获得了一个与$n$无关的运行时间的解决方案，但在$1/ε$中呈指数增长。我们推测，尺寸依赖性和精度之间的权衡是固有的。我们的方法是简单的，实验效果很好。它是基于Chebyshev多项式矩匹配方法，雇员随机估计矩阵迹。我们证明，对于任何厄米的$A$，这矩匹配方法返回一个$ε$近似的谱密度，只使用$O({1}/ε)$矩阵矢量产品与$A$。通过利用切比雪夫多项式三项递归的稳定性，我们证明了该方法是适合使用粗糙的近似矩阵向量乘积。我们的次线性时间算法如下结合这一结果与一种新的采样算法近似矩阵向量产品与归一化图形邻接矩阵。独立的利益，我们表现出类似的结果，广泛使用的\emph{kernel polynomial method}（KPM），证明这种实用的算法几乎匹配我们的矩匹配方法的理论保证。我们的分析使用的工具，从杰克逊的开创性工作的近似与积极的多项式内核。
2022-04-14 cs.DS cs.NA math.NA
Sublinear Sketches for Approximate Nearest Neighbor and Kernel Density Estimation
Department of Computer Science & Engineering, Indian Institute of Technology Bombay（计算机科学与工程系，印度理工学院班加罗尔）
本文提出针对动态数据流的次线性草图算法，用于近似最近邻搜索和核密度估计，在内存与误差间实现接近最优权衡，并首次给出滑动窗口下A-KDE的次线性保证。
2026-09-15 cs.DS cs.LG stat.ML
Sublinear-Space Streaming Algorithms for Estimating Graph Parameters on Sparse Graphs
本文针对稀疏图类设计了次线性空间流算法，用于估计最大独立集、最小支配集和最大匹配这三个可能具有线性规模的图参数，从而在严格空间限制下实现有效的参数估计。
2023-05-26 cs.DB cs.DS
Learning-based Support Estimation in Sublinear Time
Massachusetts Institute of Technology（麻省理工学院）；Microsoft Research（微软研究院）
我们考虑的问题估计的数量不同的元素在一个大的数据集（或，等价地，支持大小的分布诱导的数据集）从一个随机样本的元素。这个问题出现在许多应用中，包括生物学、基因组学、计算机系统和语言学。过去十年的一系列研究产生了从大小为$O(\log^2(1/\varepsilon) \cdot n/\log n)$的样本中估计高达$ \pm \varepsilon n$的支持的算法，其中$n$是数据集大小。不幸的是，这个界限是已知的紧，限制了进一步改善这个问题的复杂性。在本文中，我们考虑使用基于机器学习的预测器增强的估计算法，该预测器在给定任何元素的情况下都会返回其频率的估计。我们表明，如果预测是正确的一个常数的近似因子，那么样本的复杂性可以显着降低，\[ \ \log (1/\varepsilon) \cdot n^{1-Θ(1/\log(1/\varepsilon))}. \]我们评估所提出的算法的数据集的集合，使用神经网络为基础的估计{Hsu等人，ICLR'19}作为预测。我们的实验表明，与最先进的算法相比，估计精度有了很大的提高（高达3倍）。
2021-06-15 cs.DS cs.LG math.ST
Sublinear Time Estimation of Degree Distribution Moments: The Degeneracy Connection
我们重新讨论了经典的无向图的度分布矩估计问题。考虑具有$n$顶点的无向图$G=(V,E)$，并定义（对于$s > 0$）$μ_s = \frac{1}{n}\cdot\sum_{v \in V} d^s_v$。我们的目的是估计$μ_s$的乘法误差内的$(1+ε)$（对于一个给定的近似参数$ε>0$）在次线性时间。我们考虑稀疏图模型，允许访问：均匀随机顶点，查询任何顶点的程度，查询任何顶点的邻居。对于$s=1$（平均度）的情况，$\widetilde{O}(\sqrt{n})$查询足以满足任何常数$ε$（Feige，SICOMP 06和Goldreich-Ron，RSA 08）。Gonen-Ron-Shavitt（SIMMA 11）通过设计执行$\widetilde{O}(n^{1-1/(s+1)})$查询的算法，将该结果扩展到所有整数$s > 0$。我们为这个问题设计了一个新的，明显更简单的算法。在最坏的情况下，它完全符合Gonen-Ron-Shavitt的边界，并且有一个更简单的证明。更重要的是，该算法的运行时间与$G$的简并性有关。这是（本质上）导出子图的最大密度。对于退化度最多为$α$的图族，它的查询复杂度为$\widetilde{O}\left(\frac{n^{1-1/s}}{μ^{1/s}_s} \Big(α^{1/s} + \min\{α,μ^{1/s}_s\}\Bi…
2017-02-16 cs.DM cs.DS
A Simple Sublinear-Time Algorithm for Counting Arbitrary Subgraphs via Edge Sampling
在子图计数问题中，我们给定一个输入图$G(V, E)$和一个目标图$H$ ;目标是估计$H$在$G$中出现的次数。我们在这里的重点是设计次线性时间算法，用于近似计数$H$在$G$中的出现，在该算法被赋予查询访问$G$的设置。这个问题已经在最近的几篇论文中进行了研究，这些论文主要集中在特定的图族$H$上，例如三角形、团和星形。然而，不太了解近似计数任意图$H$。这与密切相关的子图枚举问题形成鲜明对比，后者在数据库社区中受到了极大的关注，如数据库连接问题。AGM界表明，在具有$m$边的图$G$中，任何任意子图$H$的最大出现次数是$O(m^{ρ(H)})$，其中$ρ(H)$是$H$的分数边覆盖，并且具有匹配运行时间的枚举算法对于任何$H$是已知的。我们通过设计一个子线性时间算法来弥合子图计数和子图枚举之间的差距，该算法可以估计$G$中任何任意子图$H$（用$\#H$表示）的数量，使其在$(1\pm ε)$ -近似值范围内。在$O(\frac{m^{ρ(H)}}{\#H}) \cdot poly(\log{n},1/ε)$时间。我们的算法是允许的一般图，即度查询，对查询和邻居查询的标准集，加上一个额外的边样本查询，返回随机均匀选择的边。我们的算法的性能与Eden等人的性能相匹配。[FOCS 2015，STOC 2018]用于计算三角形和团，并在边样本查询的附加假设下将其扩展到子图$H$的…
2018-11-19 cs.DS
Sublinear Least-Squares Value Iteration via Locality Sensitive Hashing
Rice University（莱斯大学）；Institute for Advanced Study（高等研究院）；Princeton University（普林斯顿大学）
我们提出了第一个可证明的最小二乘值迭代（LSVI）算法，具有运行时复杂度次线性的行动的数量。我们制定的价值函数估计过程中的值迭代近似的最大内积搜索问题，并提出了一个局部敏感哈希（LSH）[Indyk和Motwani STOC'98，Andoni和Razenshteyn STOC'15，Andoni，Laarhoven，Razenshteyn和Waingarten SODA'17]类型的数据结构来解决这个问题的次线性时间复杂度。此外，我们建立了近似最大内积搜索理论和强化学习的后悔分析之间的联系。我们证明，我们的近似因子的选择，我们的次线性LSVI算法保持相同的遗憾，同时减少运行时的复杂性，以次线性的动作的数量的原始LSVI算法。据我们所知，这是第一个将LSH与强化学习相结合的工作，从而带来了可证明的改进。我们希望我们的新方法相结合的数据结构和迭代算法将打开大门，进一步研究成本降低优化。
2021-06-08 cs.DS cs.LG stat.ML
Bidirectional PageRank Estimation: From Average-Case to Worst-Case
我们提出了一种新的算法，用于估计的个性化PageRank（PPR）之间的源和目标节点的无向图，次线性运行时间保证在最坏情况下的源和目标节点的选择。我们的工作建立在最近的工作线上的双向估计PPR，获得次线性运行时间的保证，但在平均情况下，目标节点的均匀随机选择。至关重要的是，我们展示了如何利用无向网络上随机游走的可逆性将平均情况转换为最坏情况的保证。过去的双向方法将正向随机游走与反向本地推送相结合，而我们的算法将正向本地推送与反向随机游走相结合。我们还讨论了如何修改我们的方法，以估计任何长度分布的随机行走概率，从而获得快速算法估计一般图扩散，包括热核，无向网络。
2015-12-15 cs.DM cs.DS
Sublime: Sublinear Error & Space for Unbounded Skewed Streams
University of Toronto（多伦多大学）；KTH Royal Institute of Technology（皇家理工学院）；BARC, University of Copenhagen（哥本哈根大学 BARC）
Sublime框架通过动态扩展计数器和优化内存使用，提升频率估计精度与效率，适用于处理偏斜数据流的场景。
2026-04-28 cs.DB cs.DS cs.IT
Sublinear Random Access Generators for Preferential Attachment Graphs
针对 BA 优先连接图和随机递归树，论文提出按需即时生成的随机访问算法，使每查询的时间、空间和随机比特复杂度均为 polylog(n)。
2025-09-01 cs.DS
Streaming and Sublinear Approximation of Entropy and Information Distances
在数据采掘和机器学习的许多问题中，需要聚类或分类的数据项不是高维空间中的点，而是分布（高维单纯形上的点）。对于分布，距离的自然度量不是$\ell_p$范数和变体，而是信息论度量，如Kullback-Leibler距离、Hellinger距离等。这些距离的有效估计是操纵分布算法的关键组成部分。因此，次线性资源约束，无论是在时间（属性测试）或空间（流）是至关重要的。我们首先解决两个悬而未决的问题，关于属性测试的分布。首先，我们展示了一个紧界估计有界的，对称的f-分布之间的分歧在一般属性测试（次线性时间）框架（所谓的组合预言模型）。这就产生了用于估计诸如詹森-香农发散和海林格距离等众所周知的距离的最佳算法。其次，我们关闭了一个$(\log n)/H$的上限和下限之间的差距估计熵$H$在这个模型。在一个流设置（次线性空间），我们给出了第一个算法估计的熵的分布。我们的算法运行在多对数空间，并产生一个渐近常数因子近似计划。我们还提供了沿空间/时间/近似权衡曲线的其他结果。
2005-08-29 cs.DS cs.IT math.IT
Data Structures for Density Estimation
Massachusetts Institute of Technology（麻省理工学院）；Columbia University（哥伦比亚大学）
本文提出首个次线性时间和样本的数据结构用于密度估计，并改进了现有算法，实验显示操作数显著减少。
2023-06-20 cs.DS cs.LG stat.ML
On Triangle Estimation using Tripartite Independent Set Queries
图中三角形个数的估计是次线性算法中最基本的问题之一。在这项工作中，我们提供了一个算法，近似计数的三角形的数量在一个图中只使用多对数查询时，\emph{the number of triangles on any edge in the graph is polylogarithmically bounded}。我们的查询oracle { \em三分独立集}（TIS）将三个不相交的顶点集$A$、$B$和$C$作为输入，并回答是否存在在这三个集合中的每一个中具有一个端点的三角形。我们的查询模型通常属于\emph{group queries}类（Ron和Tsur，ACM ToCT，2016; Dell和Lapinskas，STOC 2018），特别是受到Beame的{ \em二分独立集}（BIS）查询oracle { \em et al.}的启发。(ITCS 2018年）。我们扩展了Beame { \em et al.}的算法框架，用\tis代替\bis，用于近似计数图形中的三角形。
2020-07-31 cs.DS
Provable and practical approximations for the degree distribution using sublinear graph samples
度分布是用于分析大量图的最基本的性质之一。有大量关于图抽样的文献，其目标是通过一个小的随机样本来估计大型图的属性（特别是度分布）。由于度分布的重尾性质和度的大方差，度分布估计构成了一个重大挑战。我们设计了一个新的算法，鞍，这个问题，使用最近的数学技术从次线性算法领域。SADDLES算法为度分布的所有值提供了可证明的准确输出。为了分析，我们定义了两个肥胖度的程度分布，称为$h$指数和$z$指数。我们证明了，当这些指标是大的，SADDLES是次线性的图的大小。这个结果的一个推论是一个可证明的次线性算法的任何程度分布下有界的幂律。我们将我们的新算法部署在各种真实数据集上，并展示了其出色的经验行为。在所有情况下，通过观察最多$1\%$的顶点，我们可以得到度分布中所有值的非常精确的近似。这是对最先进的采样算法的重大改进，最先进的采样算法通常对多于$10\%$的顶点进行采样以给出可比较的结果。我们还观察到实图的$h$和$z$ -指数都很大，验证了我们的理论分析。
2018-08-28 cs.DS cs.SI math.ST
Robust Sparse Estimation Tasks in High Dimensions
MIT（麻省理工学院）
在本文中，我们开始研究稀疏估计任务是否可以有效地在高维度，在强大的设置，其中一个$\eps$ -分数的样本被破坏adversarally。本文研究了两个经典稀疏估计问题，即稀疏均值估计和稀疏PCA在尖峰协方差模型中的自然鲁棒性。对于这两个问题，我们提供了第一个有效的算法，提供非平凡的误差保证，在存在噪声的情况下，只使用一些样本，这是类似于这些问题所需的数量没有噪声。特别是，我们的样本复杂度在环境维度$d$中是次线性的。我们的工作还表明，这些问题（类似于没有噪声的稀疏PCA）的新的计算与统计差距的证据，只出现在噪声的存在。
2017-02-28 cs.DS cs.LG
Sample Efficient Estimation and Recovery in Sparse FFT via Isolation on Average
快速计算其频谱由少量$k$频率支配的信号的傅立叶变换并且在时域中使用信号的少量样本的问题（稀疏FFT问题）最近受到了极大的关注。已知如何在$\approx k\log^2 n$时间中近似计算$k$ -稀疏傅立叶变换[Hassanieh等人的“STOC”12]，或者在时域中使用样本的最佳数量$O(k\log n)$ [Indyk等人的“FOCS”14]，或者同时进入这两个界限的$(\log\log n)^{O(1)}$因子内，但是没有已知在次线性时间中实现最佳$O(k\log n)$界限的算法。在本文中，我们提出了一种新的技术来分析噪声散列方案中出现的稀疏FFT，我们称之为隔离平均。我们将这种技术应用于稀疏FFT中的两个问题：使用少量样本估计频率列表的值和计算稀疏FFT本身，在$k\log^{O(1)} n$时间内实现样本最优结果。我们认为，我们的方法可能会在设计傅立叶采样方案更一般的设置（例如，基于模型的稀疏FFT）的兴趣。
2017-08-17 cs.DS
A Sublinear-Time Quantum Algorithm for Approximating Partition Functions
我们提出了一种新的量子算法估计吉布斯配分函数在次线性时间相对于对数的状态空间的大小。这是第一次在Štefankovi，Vempala和Vigoda [JACM，2009]的开创性近线性时间算法上获得这种类型的加速。我们的结果也保留了二次加速精度和频谱间隙在以前的工作中取得的利用量子马尔可夫链的性质。作为一个应用程序，我们获得了新的多项式改进的最知名的算法计算的伊辛模型的配分函数，计数的$k$ -着色，匹配或独立集的一个图形，并估计凸体的体积。我们的方法依赖于开发量子相位和幅度估计算法的新变体，这些算法返回具有低方差的几乎无偏的估计，并且不破坏它们的初始量子态。我们将这些子程序扩展到一个几乎无偏的量子平均估计，减少方差平方比经典的经验平均更快。在我们的工作之前，没有这样的估计器。这些属性，这是普遍感兴趣的，导致更好的收敛保证内的范例模拟退火计算配分函数。
2023-01-07 cs.CC cs.DS math.ST
On Sketching Trimmed Statistics
Carnegie Mellon University（卡内基梅隆大学）
研究频率向量的修剪统计量（包括 top-k 坐标的 F_p 矩和修剪-k 向量）的草图化问题，首次在次线性空间设置中研究，对于 p∈[0,2] 给出了 poly(log n/ε) 空间算法，并确定了次线性空间可行的精确结构阈值。
2026-05-31 cs.DS
Optimal non-adaptive algorithm for edge estimation
该研究提出了一种非适应随机算法，通过度数和随机边查询以亚线性复杂度估计无向图的边数，并证明了算法的最优性。
2025-12-12 cs.DS math.CO
Symmetric Norm Estimation and Regression on Sliding Windows
滑动窗口模型概括了标准流模型，并且通常在最近的数据比在某个时间之前到达的数据更重要或更准确的应用中表现得更好。我们研究了滑动窗口模型中近似对称范数（$\mathbb{R}^n$上的范数，在符号翻转和坐标置换下是不变的）的问题，其中只有$W$最近的更新定义了潜在的频率向量。滑动窗口的标准范数估计算法依赖于Braverman和Ostrovsky（FOCS 2007）的平滑直方图框架，而分析一般对称范数的平滑性似乎是一个具有挑战性的障碍。相反，我们观察到，对称规范流算法的布雷弗曼等。（STOC 2017）可以简化为识别和近似许多子流中重量级人物的频率。我们引入了一个重量级的算法，给出了一个$(1+ε)$ -近似的滑动窗口模型中的每个报告的频率，从而获得第一个算法的一般对称模估计的滑动窗口模型。我们的算法是一个通用的草图，同时近似所有的对称规范在一个参数化类，也提高了平滑直方图框架估计$L_p$规范，大$p$的范围。最后，我们考虑了损失函数是Orlicz范数的情况下的过约束线性回归问题，Orlicz范数是一种对称范数，可以解释为$M$ -估计的尺度不变版本。我们给出了第一个次线性空间算法，产生$(1+ε)$近似解的线性回归问题的损失函数是Orlicz规范的流和滑动窗口模型。
2021-09-03 cs.DS
Sublinear-Time Algorithms for Diagonally Dominant Systems and Applications to the Friedkin-Johnsen Model
School of Computing and Data Science, The University of Hong Kong, China（香港大学计算机与数据科学学院）；School of Computer Science and Technology, University of Science and Technology of China, China（中国科学技术大学计算机科学与技术学院）
研究求解对角占优线性系统的次线性时间随机算法，基于概率递推分析突破了仅适用于对称矩阵的限制，并应用于改进 Friedkin-Johnsen 模型的意见估计。
2025-09-16 cs.DS cs.LG cs.SI
Edge Sampling and Graph Parameter Estimation via Vertex Neighborhood Accesses
在本文中，我们考虑的问题，从该地区的次线性时间算法的边缘采样，边缘计数，三角形计数。我们的贡献的一部分是，我们考虑三种不同的设置，不同的方式，其中一个可以访问一个给定的顶点的邻域。在以前的工作中，人们已经考虑了索引邻居访问，查询返回给定顶点的第$i$个邻居。全邻域访问模型，它具有一个查询，以单位成本返回整个邻域，最近被认为是在应用社区。在这些之间，我们提出了散列排序的邻居访问，灵感来自协调采样，其中我们有一个全局完全随机的散列函数，并可以访问邻居的顺序，他们的散列值，为每个访问的邻居支付一个常数。对于边缘采样和计数，我们的新下限是最强大的全邻域访问模型。我们提供了较弱的哈希顺序的邻居访问模型的匹配上限。我们新的更快的算法可以在外部存储器中的大量图形上有效地实现，并且使用当前的API，例如，Twitter或维基百科。对于三角形计数，我们提供了一个分离：一个更好的上限与完整的邻居访问比已知的下限与索引邻居访问。本文的技术核心是边缘采样算法，其他结果都依赖于该算法。
2022-04-12 cs.DS
Double-Hashing Algorithm for Frequency Estimation in Data Streams
元素的频率估计是数据流分析和机器学习应用的重要任务。该问题通常通过使用具有次线性空间数据结构的流算法来解决。这些算法允许在使用有限的数据存储的同时处理大数据。常用的流式算法，如count-min sketch，有很多优点，但没有考虑到性能优化的数据流的属性。在本文中，我们介绍了一种新的双哈希算法，提供了灵活性，优化流算法取决于给定流的属性。在双散列方法中，首先采用标准流算法来获得元素频率的估计。该估计值是使用流的一部分导出的，并且允许识别重打击者。接下来，它使用修改的哈希表，其中重命中者被映射到各个桶中，而其他流元素被映射到剩余的桶中。最后，基于所构造的哈希表在整个数据流上利用任何流算法来估计元素频率。我们证明了合成数据和互联网查询日志数据集，我们的方法是能够提高频率估计，由于从哈希过程中删除重打击者，从而减少冲突的哈希表。我们的方法避免了采用额外的机器学习模型来识别重量级人物，从而降低了算法复杂度并简化了实现。此外，因为它不依赖于流元素的特定特征来识别重打击者，所以它适用于各种各样的流。此外，我们提出了一个程序，如何动态调整建议的双哈希算法时，流中的元素的频率随时间而变化。
2022-04-01 cs.DS
Sublinear Algorithms for Wasserstein and Total Variation Distances: Applications to Fairness and Privacy Auditing
Équipe Scool, Univ. Lille, Inria, CNRS, Centrale Lille, UMR 9189- CRIStAL（Lille大学、Inria、CNRS、Centrale Lille、UMR 9189-CRIStAL）；Indian Statistical Institute Kolkata, India（印度统计研究所（加尔各答））
提出次线性空间算法，从流式样本估计次韦布尔分布的Wasserstein与全变差距离，并用于公平性与隐私审计，显著优于现有方法。
2026-10-14 cs.CY cs.DS cs.LG
Sublinear Time Eigenvector Approximation via Column Sampling
Manning College of Information and Computer Sciences, University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校曼宁信息科学与工程学院）；Databricks（达布里克公司）
该研究提出基于列采样的次线性时间特征向量近似算法，可高效近似大矩阵离群特征向量，成果可应用于量子启发算法框架，还给出基于截断Nyström方法的替代方案。
2026-08-14 cs.DS cs.NA math.NA
Faster Kernel Matrix Algebra via Density Estimation
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；Massachusetts Institute of Technology（麻省理工学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Microsoft Research（微软研究院）
研究了半正定核矩阵$K \in \mathbb{R}^{n \times n}$对应于$n$点$x_1,\ldots,x_n \in \mathbb{R}^d$的基本性质的快速算法。特别地，我们考虑估计核矩阵项的和，以及其顶部特征值和特征向量。我们表明，矩阵项的总和可以估计为$1+ε$相对误差在时间$sublinear$在$n$和线性在$d$许多流行的内核，包括高斯，指数，和合理的二次内核。对于这些内核，我们还表明，顶部特征值（和近似特征向量）可以近似为$1+ε$相对误差在时间$subquadratic$在$n$和线性$d$。我们的算法代表了这些问题的最知名的运行时的显着进步。他们利用了核矩阵的正定性，以及最近关于有效核密度估计的工作。
2021-06-17 cs.DS cs.LG cs.NA
Sublinear Time Quantum Algorithm for Attention Approximation
Simons Institute for the Theory of Computing, UC Berkeley（Simons理论计算研究所，伯克利大学）；New York University（纽约大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种量子算法，以亚线性时间近似注意力矩阵的行，利用量子Nyström近似、均值估计和杠杆得分采样技术。
2026-01-31 cs.DS cs.LG quant-ph
Distribution Testing Meets Sum Estimation
本文研究在非递增权重假设下，利用非自适应条件采样以亚线性样本估计元素总和，并扩展到单峰分布及支持集大小估计，算法匹配下界。
2025-04-21 cs.DS
Learning Structured Distributions From Untrusted Batches: Faster and Simpler
Massachusetts Institute of Technology（麻省理工学院）；Microsoft Research AI（微软研究院人工智能部门）
我们重新讨论了由Qiao和Valiant [QV 17]引入的从不可信批次中学习的问题。最近，Jain和Orlitsky [JO 19]给出了一个简单的半定规划方法，该方法基于割范数，在多项式时间内实现了基本上信息理论上的最优误差。同时，Chen等人[CLM 19]考虑了问题的一个变体，其中假设$μ$是结构化的，例如对数凹、单调风险率、$t$ -模态等。在这种情况下，可以在$n$中实现样本复杂度次线性的相同误差，并且他们使用Haar小波展示了一种准多项式时间算法。在本文中，我们找到了一种有吸引力的方法来综合[JO 19]和[CLM 19]的技术，以提供两全其美的效果：一种在多项式时间内运行的算法，可以利用底层分布中的结构来实现次线性样本复杂度。一路上，我们简化了[JO 19]的方法，避免了SDP舍入的需要，并通过软滤波的镜头对其进行了更直接的解释，软滤波是一种强大的高维鲁棒估计技术。我们验证了我们的算法在初步的实验评估的有用性。
2020-06-07 cs.DS cs.LG stat.ML
Sub-quadratic Algorithms for Kernel Matrices via Kernel Density Estimation
Carnegie Mellon University（卡内基梅隆大学）；MIT（麻省理工学院）；CMU（卡内基梅隆大学）；UC Berkeley（加州大学伯克利分校）；Rice University（莱斯大学）
核矩阵以及由它们表示的加权图是机器学习、统计学和其他相关领域中普遍存在的对象。使用内核方法（使用内核矩阵进行学习和推理）的主要缺点是效率--给定$n$输入点，大多数基于内核的算法需要在执行任何后续计算之前具体化完整的$n \times n$内核矩阵，从而导致$Ω(n^2)$运行时。因此，打破这个二次障碍的各种问题，一直是一个广泛的研究工作的主题。我们打破了二次障碍，并获得$\textit{subquadratic}$时间算法的几个基本的线性代数和图形处理原语，包括近似的顶部特征值和特征向量，谱稀疏，解决线性系统，局部聚类，低秩近似，荫度估计和计数加权三角形。我们建立在最近的核密度估计框架上，该框架（在$n$中的时间次二次预处理后）可以返回核矩阵的行/列和的估计。特别是，我们开发了有效的减少从$\textit{weighted vertex}$和$\textit{weighted edge sampling}$的内核图，$\textit{simulating random walks}$的内核图，和$\textit{importance sampling}$的矩阵核密度估计，并表明，我们可以生成样本从这些分布在$\textit{sublinear}$（在支持的分布）的时间。我们的还原是我们每个应用程序的核心成分，我们相信它们可能是独立的利益。我们凭经验证明了我们的算法对低秩近似（LR…
2022-12-01 cs.DS cs.LG
Approximating Edit Distance in Truly Subquadratic Time: Quantum and MapReduce
两个字符串之间的编辑距离定义为将一个字符串转换为另一个字符串所需的最小插入、删除和替换次数。在次二次时间内近似编辑距离是“组合模式匹配领域最大的未解决问题之一“。我们的主要结果是一个量子常数近似算法计算的编辑距离在真正的次二次时间。更准确地说，我们给出了一个$O(n^{1.858})$量子算法，近似的编辑距离内的一个因素$7$。我们进一步扩展这一结果的$O(n^{1.781})$量子算法，在一个较大的常数因子内近似的编辑距离。我们的解决方案是基于一个框架，在并行设置近似编辑距离。这个框架需要一个黑盒算法，它可以同时计算几个较小字符串的距离。对于一个量子算法，我们减少了黑盒\textit{metric estimation}，并提供有效的算法来近似它。我们进一步表明，这个框架使我们能够近似编辑距离在分布式设置。为此，我们提供了一个MapReduce算法近似编辑距离内的一个因素$3$，次线性许多机器和次线性内存。此外，我们的算法运行在对数轮数。
2018-04-25 cs.DC cs.DS quant-ph
Faster Spectral Density Estimation and Sparsification in the Nuclear Norm
Stanford University（斯坦福大学）；New York University（纽约大学）
针对无向图归一化邻接矩阵的谱密度估计，论文提出核稀疏化及随机算法，将复杂度降至 O(nε^{-3}) 时间，并给出最优稀疏化界与首个线性扩展的确定性算法。
2024-06-11 cs.DS cs.LG
Bounded Space Differentially Private Quantiles
估计大数据集的分位数是流算法文献和差分隐私文献中的基本问题。然而，所有现有的用于分布无关分位数计算的私有机制都需要输入大小$n$中至少线性的空间。在这项工作中，我们设计了一个差分隐私算法的分位数估计问题，具有强次线性空间复杂度，在一次和连续观察设置。我们的基本机制估计任何$α$ -近似分位数的长度$n$流在数据宇宙$\mathcal{X}$概率$1-β$使用$O\left( \frac{\log (|\mathcal{X}|/β) \log (αεn)}{αε} \right)$空间，同时满足$ε$ -差分隐私在一个单一的时间点。我们的方法建立在确定性流算法的非私人分位数估计实例化的指数机制，使用的效用函数定义的草图项目，而（私人）从定义的间隔采样的草图。我们还提出了另一种算法的基础上直方图，特别适合于多个分位数的情况下。我们实现了我们的算法，并在合成和真实世界的数据集上进行了实验评估。
2022-01-10 cs.CR cs.DB cs.DS
A Framework for Adversarially Robust Streaming Algorithms
我们研究了流媒体算法的对抗鲁棒性。在这种情况下，算法被认为是鲁棒的，如果它的性能保证保持，即使流是由对手自适应地选择的，该对手沿着流观察算法的输出，并可以在线方式作出反应。虽然确定性流算法具有固有的鲁棒性，但流文学中的许多中心问题不承认子线性空间确定性算法;另一方面，这些问题的经典空间有效随机算法通常不具有对抗性鲁棒性。这就提出了一个自然的问题，是否存在有效的adversarially强大的（随机）流算法，这些问题。在这项工作中，我们的答案是积极的各种重要的流问题中的插入只模型，包括不同的元素和更一般的$F_p$ -估计，$F_p$ -沉重的打击者，熵估计，和其他。对于所有这些问题，我们开发adversarially强大的$(1+\varepsilon)$近似算法，其所需的空间匹配的最知名的非鲁棒算法的$\text{poly}(\log n, 1/\varepsilon)$乘法因子（在某些情况下，甚至到一个常数因子）。为此，我们开发了几个通用的工具，允许一个有效地将一个非鲁棒的流算法转化为一个强大的在各种情况下。
2021-11-04 cs.CR cs.DS
Graph Streaming Lower Bounds for Parameter Estimation and Property Testing via a Streaming XOR Lemma
Cheriton School of Computer Science, University of Waterloo（滑铁卢大学 Cheriton 计算机科学学院）；Department of Computer Science, Rutgers University（罗格斯大学计算机科学系）
该研究开发新下界技术，通过流式异或引理证明图流式参数估计与性质测试问题的空间-遍历次数权衡下界，其结果渐近最优且可强化现有下界，还可用于其他流式下界研究。
2026-08-18 cs.CC cs.DS
Sample Efficient Toeplitz Covariance Estimation
Weizmann Institute of Science（魏茨曼科学研究所）；Microsoft Research（微软研究院）；UMass Amherst（马萨诸塞大学阿默斯特分校）；New York University（纽约大学）
在假设$T$是Toeplitz的情况下，研究了估计$d$维向量上分布$\mathcal{D}$的协方差矩阵$T$的样本复杂性.这种假设出现在许多信号处理问题中，其中任何两个测量之间的协方差仅取决于这些测量之间的时间或距离。我们感兴趣的估计策略，可以选择只查看每个矢量样本$x \sim \mathcal{D}$中的条目的子集，这往往等同于减少从无线信号处理到高级成像的应用中的硬件和通信要求。我们的目标是最小化1）从$\mathcal{D}$提取的向量样本的数量和2）在每个样本中访问的条目的数量。我们提供了这些样本的复杂性措施，利用$T$的Toeplitz结构，并通过这样做，显着改善通用协方差矩阵的结果的一些第一非渐近界。我们的界限来自对经典和广泛使用的估计算法（以及一些新的变体）的新分析，包括根据所谓的稀疏规则从每个向量样本中选择条目的方法。在许多情况下，我们将上界与匹配或几乎匹配的下界配对。除了对任何Toeplitz $T$都成立的结果外，我们还进一步研究了当$T$接近低秩时的重要设置，这在实践中是经常发生的。我们表明，稀疏统治者的基础上的方法在这种情况下表现得更好，样本复杂度缩放次线性$d$。受这一发现的启发，我们开发了一种新的协方差估计策略，进一步改善了所有现有的方法在低秩的情况下：当$T$是秩- $k$或近秩- $k$，它实现了样本复杂度多项式依赖于$k$和只有代数上的$d$…
2019-10-30 cs.DS cs.LG eess.SP
Better Sum Estimation via Weighted Sampling
给定一个大集合$U$，其中每个项目$a\in U$具有权重$w(a)$，我们希望以某个恒定概率$>1/2$估计总权重$W=\sum_{a\in U} w(a)$在$1\pm\varepsilon$的因子内。由于$n=|U|$很大，我们不想查看整个$U$集。在传统的设置中，我们被允许从$U$中均匀地采样元素，采样$Ω(n)$项是必要的，以提供任何非平凡的估计保证。因此，我们在不同的设置中研究这个问题：在\emph{proportional}设置中，我们可以以与权重成比例的概率对项目进行采样，而在\emph{hybrid}设置中，我们可以按比例和均匀地进行采样。这些设置有应用，例如，在次线性时间算法和分布测试。Motwani、Panigrahy和Xu之前已经考虑过比例和混合设置中的和估计[ICALP，2007]。在他们的论文中，他们给出了$n$的上下界。它们的边界在$n$方面接近匹配，但在$\varepsilon$方面不匹配。在本文中，我们改进了它们的上界和下界。我们的边界在两种设置下都匹配到常数因子，即$n$和$\varepsilon$。以前不知道依赖于$\varepsilon$的下限。在比例设置中，我们将他们的$\tilde{O}(\sqrt{n}/\varepsilon^{7/2})$算法改进为$O(\sqrt{n}/\varepsilon)$。在混合设置中，我们将$\tilde…
2021-10-28 cs.DS math.PR math.ST
A Quantum-inspired Algorithm for General Minimum Conical Hull Problems
University of Sydney（悉尼大学）；University of Technology Sydney（悉尼科技大学）
通过最大后验估计解决的广泛的基本机器学习任务可以被简化为一般的最小圆锥壳问题。解决一般最小锥壳问题的最著名的解决方案是分治锚定学习方案（DCA），其运行时复杂度是多项式大小。然而，大数据正在将这些多项式算法推向其性能极限。在本文中，我们提出了一个次线性的经典算法来解决一般的最小锥壳问题时，输入已存储在一个基于样本的低开销数据结构。该算法的运行时间复杂度是多项式的秩和多对数的大小。该算法实现了指数加速比DCA，因此，高维问题提供了优势。
2019-07-16 cs.CG cs.DS cs.LG
Statistical-Computational Trade-offs for Density Estimation
University of Copenhagen（哥本哈根大学）；Columbia University（哥伦比亚大学）；MIT（麻省理工学院）；Citadel Securities（城堡证券）；UW-Madison（威斯康星大学麦迪逊分校）
本研究针对离散域密度估计问题，证明了一类多项式空间数据结构在采样复杂度次线性时查询时间需接近分布数线性级的统计-计算权衡下界，并给出匹配上界的高效数据结构。
2024-10-30 cs.DS cs.LG stat.ML
