Generalizing Greenwald-Khanna Streaming Quantile Summaries for Weighted Inputs
估计分位数,如中位数或分位数,是数据采掘和数据科学中的一项基本任务。(流式)分位数摘要是一种数据结构,其可以以流式方式处理n个元素的集合S,并且在最后,对于(0,1]中的任何phi,返回S的phi分位数直到eps错误,即,返回一个phi '-分位数,其中phi'= phi +- eps。我们特别感兴趣的是基于比较的总结,这些总结只比较了全序下的宇宙元素,否则就完全忽略了宇宙。最著名的确定性分位数摘要是20年前的Greenwald-Khanna(GK)摘要,它使用O((1/eps)log(eps n))空间[SIGMOD'01]。这个界限最近被证明是最佳的所有确定性的比较为基础的总结Cormode和Veslewald [PODS'20]。在本文中,我们研究加权分位数,一个推广的分位数问题,其中每个元素到达一个正整数的权重表示该元素的副本被插入的数量。通过GK摘要处理加权输入的唯一已知方法是将每个加权元素分解为多个未加权项目并将其逐个馈送到摘要的天真方法,这导致了非常大的更新时间(与输入元素的最大权重成比例)。我们给出了第一个非平凡的扩展GK摘要加权输入,并表明它需要O((1/eps)log(eps n))空间和O(log(1/eps)+ log log(eps n))更新时间每个元素来处理长度为n的流(在一些相当温和的假设范围内的权重和eps)。在此过程中,我们还简化了未加权分位数的…
2023-03-11 cs.DS
Streaming Algorithms for Graph k-Matching with Optimal or Near-Optimal Update Time
针对图k匹配问题,提出仅插入和动态流模型下的单遍算法,空间复杂度最优,更新时间分别达到O(1)和O(polylog(n)),显著优于此前结果。
2023-10-16 cs.DS
An Efficient Streaming Algorithm for the Submodular Cover Problem
本文首先研究了数据流模型中的经典次模块覆盖问题,称之为流次模块覆盖问题。我们表明,任何单通流算法使用次线性内存的大小的流将无法提供任何非平凡的近似保证SSC。因此,我们考虑一个宽松的版本的SSC,我们只寻求找到一个部分覆盖。我们设计了第一个有效的双准则子模块覆盖流(ESC-Streaming)算法,并提供了理论保证,其性能支持的数值证据。我们的算法找到的解决方案是有竞争力的接近最佳的离线贪心算法,尽管只需要一个单一的数据流通过。在我们的数值实验中,我们评估的性能ESC流的活动集选择和大规模的图覆盖问题。
2016-11-25 cs.DS
Weighted Matchings via Unweighted Augmentations
我们设计了一个通用的方法,找到加权匹配的任务,找到短增广路径在未加权图。这种方法使我们能够提供有效的实现近似加权匹配的流模型和大规模并行计算(MPC)模型。在流的背景下,随机边缘到达,我们的技术产生一个$(1/2+c)$近似算法,从而打破了$1/2$的天然屏障。对于多通道流和MPC模型,我们表明,任何算法计算$(1-δ)$ -近似不加权匹配的二分图可以被翻译成一个算法,计算一个$(1-\varepsilon(δ))$ -近似最大加权匹配。此外,这种转换在复杂度中仅引起恒定因子(其取决于$\varepsilon> 0$)开销。使用当前最佳的多通道流和MPC算法对未加权匹配进行实例化,对于最大加权匹配产生以下结果:* 使用$O_\varepsilon(1)$通道和$O_\varepsilon(n\, \text{poly} (\log n))$存储器的$(1-\varepsilon)$ -近似流算法。这是第一个用于加权匹配的$(1-\varepsilon)$近似流算法,它使用恒定的传递次数(仅取决于$\varepsilon$)。* MPC模型中的一种$(1 - \varepsilon)$近似算法,使用$O_\varepsilon(\log \log n)$轮、每轮$O(m/n)$机器和每机器$O_\varepsilon(n\, \text{poly}(\log n))$内存。这改进了以…
2018-11-07 cs.DC cs.DS
Weighted Matching in the Random-Order Streaming and Robust Communication Models
本文研究随机序半流式与鲁棒通信模型中的最大权匹配问题,提出了近似比分别为 $(2/3-ε)$ 和 $(5/6-ε)$ 的算法,显著缩小了与无权版本已知最佳算法之间的性能差距。
2024-08-27 cs.DS
A Simple $(1-ε)$-Approximation Semi-Streaming Algorithm for Maximum (Weighted) Matching
提出一种简单的半流算法,通过乘法权重更新和原始-对偶分析,在 $O(\log(n)/ε)$ 轮内实现二分及一般图加权匹配的 $(1-ε)$ 近似。
2025-07-31 cs.DC cs.DS
Optimal Space and Time for Streaming Pattern Matching
在这项工作中,我们研究了最长公共子串,模式匹配,并在非对称流模型的最长模式匹配。在这个流模型中,我们对一个字符串进行随机访问,对另一个字符串进行流访问。我们提出了流算法与可证明的保证,这三个基本问题。特别是,我们的算法模式匹配提高了上界和击败随机和确定性流算法的内存上的无条件下限。除此之外,我们提出了在非对称流模型中具有最佳空间和时间的双模式匹配算法。
2021-07-09 cs.DS
Streaming Submodular Maximization under Matroid Constraints
最近的进展(半)流算法的单调子模函数最大化导致了一个简单的基数约束紧的结果。然而,目前的技术未能给出类似的理解自然的推广,包括拟阵约束。本文旨在缩小这一差距。对于秩为$k$的单个拟阵(即,任何解决方案具有至多$k$的基数),我们的主要结果是:1)使用$\widetilde{O}(k)$存储器并实现$0.3178$的近似保证的单遍流式算法,以及2)使用$\widetilde{O}(k)$存储器并通过在流上采取恒定(取决于$\varepsilon$)遍数来实现$(1-1/e - \varepsilon)$的近似保证的多遍流式算法。这改进了先前分别用于单通道和多通道流算法的$1/4$和$1/2$的最佳近似保证。事实上,我们的多通道流算法是严格的,因为任何具有比$1/2$更好的保证的算法都必须通过流进行多次传递,并且任何超过我们对$1-1/e$的保证的算法都必须进行线性多次传递(以及指数数量的值oracle查询)。此外,我们展示了如何使用的方法,多通道流可以进一步加强,如果流的元素到达均匀随机顺序,这意味着一个改进的结果为$p$ -matchoid约束。
2022-02-16 cs.DM cs.DS
Semi-Streaming Algorithms for Weighted $k$-Disjoint Matchings
针对 NP 难的最大权 $k$-不相交匹配问题,提出两种单遍半流式算法,显著降低内存与运行时间,并在大规模图上保持接近离线最优的权重。
2024-07-06 cs.DS
Weighted Min-Cut: Sequential, Cut-Query and Streaming Algorithms
考虑下面的2-尊重最小割问题。给定一个赋权图$G$及其生成树$T$,求$T$中最多包含两条边的割中的最小割。这个问题是Karger著名的随机近线性时间最小割算法[STOC'96]中的一个重要子程序。我们提出了一种新的方法,可以很容易地实现在许多设置,导致以下随机最小切割算法的加权图。* $O(m\frac{\log^2 n}{\log\log n} + n\log^6 n)$ -时间顺序算法:当输入图不是非常稀疏或密集时,这改进了Karger的$O(m \log^3 n)$和$O(m\frac{(\log^2 n)\log (n^2/m)}{\log\log n} + n\log^6 n)$边界。Karger边界的改进以前仅在输入图是简单的相当强的假设下才知道[Henzinger et al. SODA'17; Ghaffari et al. SODA'20]。对于具有平行边的无权图,我们的界可以改进为$O(m\frac{\log^{1.5} n}{\log\log n} + n\log^6 n)$。* 一个需要$\tilde O(n)$ cut查询来计算加权图的最小割的算法:这回答了Rubinstein等人ITCS'18的一个公开问题,他们获得了简单图的类似界限。* 需要$\tilde O(n)$空间和$O(\log n)$通道来计算最小割的流算法:在此设置中,唯一先前的非平凡精…
2021-02-18 cs.DS
Improved Multi-Pass Streaming Algorithms for Submodular Maximization with Matroid Constraints
我们给出了改进的多通道流算法的问题,最大化的单调或任意非负的子模函数的一般$p$ -matchoid约束的模型中,在该模型中,地面集的元素到达一个在一个时间流。我们考虑的约束族推广了$p$任意拟阵约束的交集和$p$ -一致超图匹配。对于单调子模函数,我们的算法使用$O(p/\varepsilon)$ -通道保证$p+1+\varepsilon$,并且只需要存储$O(k)$元素,其中$k$是可行解的最大大小.这立即给出了一个$O(1/\varepsilon)$ -通过$(2+\varepsilon)$ -近似算法的单调子模极大化的拟阵和$(3+\varepsilon)$ -近似单调子模匹配。我们的算法不注意选择$\varepsilon$,并且可以在任何次数的通过后停止,从而提供适当的保证。我们扩展我们的技术,以获得第一个多通流算法的一般,非负的子模函数受到$p$ -matchoid约束,通过独立的地面集和$k$的大小。我们表明,一个随机的$O(p/\varepsilon)$ -通过算法存储$O(p^3k\log(k)/\varepsilon^3)$元素给出了一个$(p+1+\barγ+O(\varepsilon))$ -近似,其中$\bar{gamma}$是保证最知名的离线算法相同的问题。
2021-02-18 cs.DS
Fast and Quality-Guaranteed Data Streaming in Resource-Constrained Sensor Networks
在许多新兴的应用中,数据流在网络环境中被监控。由于有限的通信带宽和其他资源的限制,一个关键的和实际的需求是在线压缩数据流连续的质量保证。虽然已经开发了许多数据压缩和数字信号处理方法来减少数据量,但是它们的超线性时间和超过常数的空间复杂度阻止它们直接应用于数据流,特别是在资源受限的传感器网络上。在本文中,我们解决了使用快速线性近似(即,使用线段来近似时间序列)。从技术上讲,我们解决两个版本的问题,探讨不同形式的质量保证。我们开发的在线算法具有线性时间复杂度和恒定的空间成本。我们的算法是最佳的,在这个意义上,他们产生的最小数量的段,近似的时间序列所需的质量保证。为了满足传感器网络中的资源限制,我们还开发了一个快速算法,创建连接段非常简单的计算。我们的方法的低成本性质导致了在大规模和快速流媒体环境、低带宽网络和计算能力严重受限的节点的应用上的独特优势。我们实现和评估我们的方法在声学无线传感器网络的应用。
2008-11-28 cs.DS cs.MM
Streaming k-PCA: Efficient guarantees for Oja's algorithm, beyond rank-one updates
Institute for Advanced Study(高等研究院)
我们分析Oja的算法流$k$ -PCA,并证明它达到的性能接近匹配的最佳离线算法。如果能得到一系列的身份识别。$d \times d$对称矩阵,我们表明,Oja的算法可以获得一个准确的近似的子空间的顶部$k$特征向量的期望使用的样本数,规模与$d$。以前,这样的结果仅在更新具有排名1的情况下才知道。我们的分析是基于最近开发的矩阵浓度工具,这使我们能够证明强边界的随机矩阵的尾部出现在算法的执行过程中。
2021-02-06 cs.DS cs.LG math.PR
Optimal Streaming Algorithms for Graph Matching
我们提出了参数化流算法的动态和插入只模型中的图匹配问题。对于动态流模型,我们提出了一个一次通过算法,以高概率,计算一个最大权重$k$ -匹配的加权图在$\tilde{O}(Wk^2)$空间,并有$\tilde{O}(1)$更新时间,其中$W$是不同的边缘权重的数量和符号$\tilde{O}()$隐藏在输入大小的多对数因子。对于只插入流模型,我们提出了一个一次通过的算法,运行在$O(k^2)$空间,并有$O(1)$更新时间,并以高概率,计算最大权重$k$匹配的加权图。在动态模型中,我们的算法对于未加权的$k$ -匹配和在只插入模型中,我们的算法对于加权的$k$ -匹配的空间复杂度和更新时间复杂度都是最优的。本文的一个显著贡献是,所提出的算法{ \it不}依赖于先验知识/承诺,即输入图的\emph{every}最大权匹配的基数是由参数$k$上界的。这一承诺在以前的工作中一直是一个关键条件,要解除它需要开发新的工具和技术。
2021-02-25 cs.CC cs.DS
Streaming Algorithms for Connectivity Augmentation
本文研究了单遍流式模型下的 $k$-连通性增强问题,提出了紧致的 $(2+ε)$-近似算法,并推广至完全流式模型,基于改进的加权 spanner 结果给出了最优近似,最后应用于 STAP、$k$-ECSS 和 SNDP 等网络设计问题。
2024-02-16 cs.DS
Semi-Streaming Algorithms for Hypergraph Matching
针对NP难的超图匹配问题,提出两种单通流式算法,分别基于栈存储潜在匹配边和动态更新单个匹配,在保证特定近似比的同时降低内存消耗,实验表明其解质量和运行时间优于朴素流式及离线贪心算法。
2025-07-07 cs.DS
Optimal Streaming Algorithms for Submodular Maximization with Cardinality Constraints
研究了流模型中非单调次模函数在基数约束下的最大化问题。我们的主要贡献是一个单通(半)流算法,使用大致$O(k / \varepsilon^2)$内存,其中$k$的大小约束。在流的末尾,我们的算法使用任何子模最大化的离线算法对其数据结构进行后处理,并获得近似保证为$\fracα{1+α}-\varepsilon$的解,其中$α$是离线算法的近似。如果我们使用精确(指数时间)后处理算法,这将导致$\frac{1}{2}-\varepsilon$近似(这几乎是最佳的)。如果我们使用Buchbinder和Feldman的算法(OR 2019数学)进行后处理,该算法实现了$α=0.385$的最先进离线近似保证,则我们获得了多项式时间内的$0.2779$近似,优于Feldman等人(NeurIPS 2018)之前$0.1715$的最佳多项式时间近似。值得一提的是,我们的算法是组合的和确定性的,这是罕见的非单调子模最大化算法,并享有快速的更新时间$O(\frac{\log k + \log (1/α)}{\varepsilon^2})$每个元素。
2020-08-10 cs.DS
Spectral Guarantees for Adversarial Streaming PCA
UT Austin(德克萨斯大学奥斯汀分校)
本文研究对抗性流式 PCA 中谱比 R 所需的下界,证明可合并摘要需 R=Ω(√d),并提出 Oja 算法变体在 R=O(log n log d) 时达到 o(1) 误差,为首次谱界应用。
2024-08-19 cs.DS cs.LG
Streaming PCA: Matching Matrix Bernstein and Near-Optimal Finite Sample Guarantees for Oja's Algorithm
Microsoft Research India(微软印度研究院);UC Berkeley(加州大学伯克利分校);University of Washington(华盛顿大学);Microsoft Research New England(微软新英格兰研究院)
这项工作提供了改进的保证流主成分分析(PCA)。给定独立于满足$Σ\succeq \mathbf{0}$的$\mathbb{E}[A_i] = Σ$的分布采样的$A_1, \ldots, A_n\in \mathbb{R}^{d\times d}$,本文提供了一种用于估计$Σ$的顶部特征向量的$O(d)$ -空间线性-时间单通流算法。该算法几乎匹配(并且在某些情况下改进)通过标准批处理方法获得的准确性,该方法计算通过矩阵Bernstein不等式分析的经验协方差$\frac{1}{n} \sum_{i \in [n]} A_i$的顶部特征向量。此外,为了实现恒定的准确性,我们的算法提高了最好的以前已知的样本复杂性的流算法的$O(d)$或$1/\mathrm{gap}$的乘法因子,其中$\mathrm{gap}$是$Σ$的前两个特征值之间的相对距离。这些结果是通过对经典Oja算法的新分析来实现的,Oja算法是最古老和最流行的流PCA算法之一。特别是,这项工作表明,简单地挑选一个随机的初始点$w_0$和应用更新规则$w_{i + 1} = w_i + η_i A_i w_i$足以准确地估计顶部特征向量,与适当的选择$η_i$。我们相信,我们的结果揭示了如何有效地执行流PCA在理论和实践中,我们希望我们的分析可以作为分析的基础上,流PCA的许多变种和扩展。
2016-03-28 cs.DS cs.LG cs.NE
Semi-Streaming Set Cover
研究了半流模型下的集合覆盖问题。底层集合系统被形式化为一个超图$G = (V, E)$,其边是一个接一个到达的,目标是构造一个边覆盖$F \subseteq E$,目标是最小化$F$的基数(或加权情况下的成本)。我们考虑这个问题的参数化松弛,其中给定一些$0 \leq ε< 1$,目标是构造边$(1 - ε)$ -覆盖,即,除了$ε$ -分数的顶点(或它们的利益在加权的情况下)的一个子集的边事件。对算法施加的关键限制是其空间被限制为每个顶点的(多)几何位。我们的主要结果是$ε$和近似比之间的渐近紧密权衡:我们设计了一个半流算法,该算法在输入图$G$上构造一个简洁的数据结构$\mathcal{D}$,使得对于每个$0 \leq ε< 1$,可以从$\mathcal{D}$中提取一个在$f(ε, n)$的一个因子内逼近最优边\mbox{($1$-)cover}的边$(1 - ε)$ -覆盖(有效地,没有额外的空间要求),其中\[ f(ε, n) = \left\{ \begin{array}{ll} O (1 / ε), & \text{if } ε> 1 / \sqrt{n} \\ O (\sqrt{n}), & \text{otherwise} \end{array} \right. \, . \]特别是对于传统的集合覆盖问题,我们获得了$O(\sqrt{n})$ -近似。通过建立…
2014-05-08 cs.DS
Streaming Non-monotone Submodular Maximization: Personalized Video Summarization on the Fly
需要对快速产生的数据流进行实时的分析(例如,视频和图像流)激发了流算法的设计,该流算法可以有效地从“动态”的大量数据中提取和总结有用的信息。此类问题通常可以简化为在各种约束下最大化子模集函数。虽然最近已经开发了用于单调子模最大化的高效流传输方法,但是在诸如视频摘要的广泛应用中,底层效用函数是非单调的,并且通常存在对优化问题施加的各种约束以考虑隐私或个性化。我们开发的第一个有效的单通流算法,流本地搜索,任何流单调子模块最大化算法与近似保证$α$下的独立系统${\cal I}$的集合,提供了一个恒定的$1/\big(1+2/\sqrtα+1/α+2d(1+\sqrtα)\big)$近似保证最大化的非单调子模块功能下的交集${\cal I}$和$d$背包约束。我们的实验表明,对于视频摘要,我们的方法运行速度比以前的工作快1700倍以上,同时保持几乎相同的性能。
2017-12-26 cs.DS cs.IR
Streaming k-mismatch with error correcting and applications
针对模式匹配中最基本的问题之一的$k$ -Mismatch问题,提出了一种新的流算法.给定一个模式和一个文本,任务是找到文本的所有子串,这些子串与模式的汉明距离最大为$k$。我们的算法增强了一个重要的新功能,称为纠错,其复杂性为$k=1$和一般的$k$是可比的$k$ -不匹配问题的解决方案由Porat和Porat(FOCS 2009)和Clifford等人。(SODA 2016)。与我们的研究并行,Clifford等人开发了一种更有效的具有纠错功能的$k$ -失配问题算法(SODA 2019)。利用流多模式匹配的新功能和最近的工作,我们开发了一系列的流算法的模式匹配加权字符串,这是一种常用的表示不确定序列的分子生物学。我们还表明,这些算法是空间最优的polylog因素。这项工作的初步版本在DCC 2017会议上发表。
2019-04-23 cs.DS
Adversarially Robust Streaming Algorithms via Differential Privacy
Bar-Ilan University(巴伊兰大学);Google(谷歌);Tel Aviv University(特拉维夫大学);Ben-Gurion University(本-古里安大学)
如果即使在数据流被自适应对手恶意选择时也能保持其准确性保证,则流算法被称为对抗鲁棒的。我们建立了一个连接对抗鲁棒性的流媒体算法和差分隐私的概念。这种连接使我们能够设计新的对抗强大的流算法,优于目前的最先进的结构,许多有趣的制度的参数。
2020-04-13 cs.DS cs.LG
Faster Streaming algorithms for graph spanners
给定一个无向图$G=(V,E)$,其顶点、边和整数$t\ge 1$为$n$,一个子图$(V,E_S)$,$E_S\subseteq E$称为$t$ -图,如果对于任意一对顶点$u,v \in V$,它们在子图中的距离至多是$t$乘以实际距离。我们提出了流算法计算的$t$ -基本上是最佳的大小拉伸权衡任何无向图。我们的第一个算法是经典的流模型和作品的未加权图。该算法对边缘流执行单次通过,并且需要$O(m)$时间来处理整个边缘流。这极大地改进了先前用于计算$t$的最佳单通道流算法,该算法需要$θ(mn^{\frac{2}{t}})$时间来处理流,并且计算大小略大于最佳值的$θ(mn^{\frac{2}{t}})$。我们的第二个算法是针对Aggarwal等人[FOCS 2004]引入的{ \em StreamSort}模型,该模型是用排序原语扩展的流模型。{ \em StreamSort}模型已被证明是一个更强大的,仍然是非常现实的模型比流模型的大规模数据集的应用程序。我们的算法也适用于加权图,仅使用工作内存的$O(\log n)$位执行$O(t)$通道。我们的两个算法都需要基本的数据结构。
2006-11-06 cs.DS
The Adversarial Robustness of Sketching and Streaming Algorithms
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院);Texas A&M University(德克萨斯农工大学)
探讨草图绘制和流算法在处理海量数据集时的对抗鲁棒性,综述其最新进展,包括相关技术、与差分隐私联系及加密方法等,讨论基本限制,还探索了核心问题,突出交叉领域的新兴工具与挑战。
2026-07-17 cs.DS
Streaming Algorithms for Gaussian Kernel Density Statistics
Indiana University(印第安纳大学)
针对生成数据驱动的相似性感知统计,本文证明在高斯核下,利用向量几何结构可实现单遍次线性空间流式近似算法,并给出下界,揭示几何结构能改变流式复杂性。
2026-09-10 cs.DS
Learned Interpolation for Better Streaming Quantile Approximation with Worst-Case Guarantees
Massachusetts Institute of Technology(麻省理工学院);Anthropic(Anthropic公司);Amazon AWS(亚马逊云科技);Microsoft Research(微软研究院)
本文提出将插值技术应用于流式分位数问题,在保持与 KLL 类似的最坏情况保证的同时,在真实数据上获得优于 KLL 的近似效果,以弥补 KLL 实际表现不佳而 t-digest 缺乏最坏情况保证的不足。
2023-04-15 cs.DB cs.DS cs.LG
Polynomial Pass Lower Bounds for Graph Streaming Algorithms
我们提出了新的下界,表明多项式数量的通行证是必要的,解决一些基本的图形问题的流模型的计算。例如,我们表明,任何流算法,找到一个加权最小$s$削减$t$顶点无向图需要$n^{2-o(1)}$空间,除非它使$n^{Ω(1)}$通过流。为了证明我们的下限,我们引入并分析了一个新的四人通信问题,我们称之为隐藏指针追逐问题。这是一个标准的指针追逐问题的精神与关键的区别,在这个问题中的指针是隐藏的球员,找到他们中的每一个需要解决另一个通信问题,即集合相交问题。我们的下界图的问题,然后获得减少隐藏指针追逐问题。我们的隐藏指针追踪问题看起来足够灵活,可以找到其他应用程序,因此本身就很有趣。为了展示这一点,我们进一步提出了一个有趣的应用程序,这个问题超出流算法。使用减少隐藏指针追逐,我们证明了任何算法的次模函数最小化需要使$n^{2-o(1)}$值查询的功能,除非它有一个多项式程度的自适应。
2019-04-09 cs.DS
Deterministic Near-Optimal P2P Streaming
我们认为流在一个对等网络中的同质节点,其中一个单一的源广播的数据流在系统中的所有用户。对等体被允许任意地(对抗性地)进入或离开系统。在这种情况下,以前的流式传输方法要么使用随机分布图,要么使用具有随机维护算法的结构化树。随机图处理对等体流失很好,但有穷人的连通性保证,而结构化树有良好的连通性,但已被证明难以维持对等体流失。我们提出了一种新的分布式结构,一个确定性和分布式算法的对等体流失下的维护改进这两种方法,我们的结果是最近的工作提出确定性算法的谣言传播图的启发。我们的方法的一个关键创新是在分销结构中有冗余链接。虽然这会导致最大流率可能减少,我们表明,所使用的冗余量,所提出的算法的延迟保证是接近最佳的。我们引入了一个宽容的参数,捕捉最坏情况下的瞬时流速率接收的同行在流失事件和速率,延迟和宽容之间的基本权衡的特点。确定性算法的自然推广实现了这种折衷接近最优。最后,所提出的确定性算法是足够强大的,以处理各种概括:能够处理异构节点容量的同行和更复杂的流模式,多个源传输存在。
2014-07-08 cs.DS cs.NI
Weighted Matching in a Poly-Streaming Model
本文提出多流计算模型,并设计单遍算法实现最大权重匹配的(2+ε)近似,在共享内存和分层架构下均保持高效的时间、空间与通信性能,实验验证其显著加速与内存节省。
2025-07-18 cs.DC cs.DS
Submodular Streaming in All its Glory: Tight Approximation, Minimum Memory and Low Adaptive Complexity
Yale University(耶鲁大学);Google Research(谷歌研究院)
流算法通常通过其解决方案的质量、存储器占用和计算复杂性来判断。本文研究了具有基数约束$k$的流环境中单调子模函数的最大化问题。我们首先提出Sieve-Streaming ++,它只需要一次通过数据,只保留$O(k)$元素,并实现紧密的$(1/2)$近似保证。先前已知的最佳流算法或者利用$Θ(k)$存储器实现次优$(1/4)$-近似,或者利用$O(k\log k)$存储器实现最优$(1/2)$-近似。接下来,我们表明,通过缓冲流的一小部分,并应用一个仔细的过滤过程,可以大大减少自适应计算轮数,从而大大降低计算复杂性的Sieve-Streaming ++。然后,我们将我们的结果推广到更具挑战性的多源流设置。我们展示了如何可以实现紧密的$(1/2)$近似保证与$O(k)$共享内存,同时最大限度地减少不仅所需的计算轮次,但也通信位的总数。最后,我们证明了我们的算法在真实世界的数据摘要任务的多源流的推文和YouTube视频的效率。
2019-05-13 cs.DS cs.LG stat.ML
Sublinear Estimation of Weighted Matchings in Dynamic Data Streams
本文提出了一种通过扩充任意一个未加权匹配大小的估计程序来估计最大加权匹配的权值的算法。该算法可在包括动态图流在内的任何流模型中实现。我们还给出了平面图(或任何有界荫度的图)的动态图流中的最大匹配大小的第一个常数估计使用$\tilde{O}(n^{4/5})$空间,也扩展到加权匹配。利用Kapralov,Khanna和Sudan(2014)的先前结果,我们分别获得了随机顺序流中使用$\mathrm{polylog}(n)$空间的一般图的$\mathrm{polylog}(n)$近似。此外,我们给出了一个空间下界的$Ω(n^{1-\varepsilon})$的任何随机算法估计的最大匹配的大小为一个$1+O(\varepsilon)$因素的对抗流。
2015-07-09 cs.DS
On Regularity Lemma and Barriers in Streaming and Dynamic Matching
我们提出了一种新的方法,通过建立在Szemerédi著名的正则引理,在稠密图中找到匹配。这使我们能够获得非平凡的,虽然在流和动态图的匹配长期边界略有改善。特别是,我们建立了以下结果$n$ -顶点图:* 一个确定性的单通道流算法,找到一个$(1-o(1))$ -近似匹配的$o(n^2)$位的空间。这构成了第一个单通算法,这个问题在次线性空间,提高了$\frac{1}{2}$近似的贪心算法。* 一种随机化全动态算法,其以高概率在每次边插入或删除的$o(n)$最坏情况更新时间中保持$(1-o(1))$近似匹配。该算法的作品,甚至对适应性对手。这是第一个$o(n)$更新时动态算法,具有任意接近1的近似保证。由于正则性引理的使用,我们的算法在平凡界上得到的改进仅是一些$(\log^*{n})^{Θ(1)}$因子。然而,在每一种情况下,他们表明,问题的“正确”答案不是由以前的界限所决定的。最后,在流模型中,我们给出了一个随机的$(1-o(1))$ -近似算法,其空间可以由某些Ruzsa-Szemerédi(RS)图的密度上界.虽然RS图现在已被广泛用于证明流下界,我们是第一个使用它们作为设计改进的流算法的上限工具。
2022-07-19 cs.DS
A Framework for Adversarial Streaming via Differential Privacy and Difference Estimators
Ben-Gurion University(本-古里安大学);Google Research(谷歌研究院);Tel Aviv University(特拉维夫大学)
经典的流算法在(并不总是合理的)假设输入流是预先固定的情况下运行。最近,有越来越多的兴趣,在设计强大的流算法,提供可证明的保证,即使当输入流选择自适应的执行进展。我们提出了一个新的鲁棒流框架,该框架结合了Hassidim等人[NeurIPS 2020]和Woodruff和Zhou [FOCS 2021]最近提出的两个框架的技术。这些最近提出的框架依赖于非常不同的想法,每个都有自己的优点和缺点。我们将这两个框架结合成一个单一的混合框架,获得了“两全其美”,从而解决了伍德拉夫和周的一个问题。
2022-09-26 cs.DS cs.LG
Parameterized Streaming Algorithms for Vertex Cover
随着图表规模的不断增长,我们寻求有效处理此类数据的方法。流图处理的模型,其中一个紧凑的摘要保持为每个边插入/删除观察,是一个有吸引力的。然而,很少有结果是已知的优化问题,这样的动态图流。在本文中,我们介绍了一种新的方法来处理图流,而不是寻求解决方案的参数化版本的这些问题,我们给出了一个参数$k$和目标是决定是否有一个解决方案的$k$有界。通过将核化技术与随机草图结构相结合,我们获得了顶点覆盖问题的参数化版本的第一个流算法。我们考虑以下三个模型用于$n$节点上的图流:1.只能添加边的仅插入模型。2.可以插入和删除边的动态模型。3.在\emph{promised}动态模型中,我们保证在每个时间戳上都有一个大小最多为$k$的解。在这三个模型中,我们都能够为顶点覆盖问题设计参数化的流算法。我们还能够显示匹配的下限为我们的算法的空间复杂度。(Due arXiv限制为1920个字符的抽象字段,请参阅论文摘要中对我们结果的详细描述)
2014-07-23 cs.DS
Streaming Coresets for Symmetric Tensor Factorization
IIT Gandhinagar(印度理工学院甘地纳格尔分校)
分解张量最近已经成为许多机器学习管道中的重要优化模块,特别是在潜变量模型中。我们展示了如何在流媒体设置中有效地做到这一点。给定一组$n$向量,每个在$\mathbb{R}^d$,我们提出的算法来选择一个次线性数量的这些向量作为coreset,同时保证CP分解的$p$矩张量的coreset近似相应的分解的$p$矩张量计算的完整的数据。我们介绍了两种新的算法技术:在线过滤和核化。使用这两个,我们提出了六个算法,实现不同的权衡coreset大小,更新时间和工作空间,击败或匹配各种最先进的算法。在矩阵($2$有序张量)的情况下,我们的在线行采样算法保证了$(1 \pm ε)$相对误差谱近似。我们展示了我们的算法在学习单主题建模中的应用。
2020-07-13 cs.DS cs.LG stat.ML
Auction-Based Algorithms for Matroid Intersection: Near-Linear Query Complexity and Constant-Pass Semi-Streaming
CNRS, DIENS, PSL(法国国家科学研究中心、信息系研究所、巴黎文理研究大学);Kyoto University(京都大学)
本文提出基于拍卖的拟阵交框架,实现秩预言机模型下近线性查询复杂度的$(1-\u03b5)$近似算法,并首次获得常数遍半流式及确定性离线算法。
2026-10-01 cs.DS
Streaming Property Testing of Visibly Pushdown Languages
在语言识别的背景下,我们证明了流属性测试程序对流算法和属性测试程序的优越性,当它们不相结合时。由Feigenbaum等人发起,流式特性测试器是在特性测试近似下识别语言的流式算法:它必须将语言的输入与那些远离它的$\varepsilon$区分开,同时使用最小可能的存储器(而不是限制其输入查询的数量)。我们的主要结果是一个流$\varepsilon$ -属性测试明显下推语言(VPL)与单侧错误使用内存空间$\mathrm{poly}((\log n) / \varepsilon)$。这种结构依赖于一个(非流)属性测试仪加权正则语言的基础上,以前的测试仪由阿隆等人。我们提供了一个简单的应用程序,这个测试仪流测试特殊情况下的VPL已经很难流算法和属性测试。我们的主要算法是一个原始的模拟相结合的明显下推自动机使用堆栈的高度小,但可能的线性大小的项目。在第二步中,这些项目被小草图取代。这些草图依赖于我们引入的后缀采样的概念。这种采样是将我们的流测试器算法连接到属性测试器的关键思想。
2015-11-03 cs.CC cs.DS
Streaming and Distributed Algorithms for Robust Column Subset Selection
我们给出了第一个单通道流算法列子集选择相对于条目的$\ell_p$ -范数与$1 \leq p < 2$。我们研究了$\ell_p$范数损失,因为它通常被认为比标准的Frobenius范数对噪声更鲁棒。给定一个输入矩阵$A \in \mathbb{R}^{d \times n}$($n \gg d$),我们的算法实现了一个乘法$k^{\frac{1}{p} - \frac{1}{2}}\text{poly}(\log nd)$ -近似的最佳可能的列子集的大小$k$的错误。此外,流传输算法的空间复杂度是最佳的对数因子。我们的流算法也自然扩展到一个1轮分布式协议,几乎最佳的通信成本。在我们的算法中的一个关键成分是减少列子集选择的$\ell_{p,2}$ -规范,这对应于$A$的每一列的欧几里得范数的向量的$p$ -规范。这使我们能够利用强coreset结构的欧几里德范数,这以前没有在这种情况下应用。我们还给出了第一个可证明的保证贪婪列子集选择的$\ell_{1, 2}$规范,它可以作为一个替代,在我们的算法的实用子程序。最后,我们证明了我们的算法在现实世界的数据分析任务中具有显着的实际优势。
2021-07-16 cs.DS
k-Means for Streaming and Distributed Big Sparse Data
我们提供了第一个流算法,用于计算$k$的可证明近似值-稀疏大数据的方法。这里,稀疏大数据是$\mathbb{R}^d$中的一组$n$向量,其中每个向量具有$O(1)$非零条目和$d\geq n$。例如,在一个示例中,图的邻接矩阵、网络链接、社交网络、文档术语或图像特征矩阵。我们的流算法存储在内存中的最多$\log n\cdot k^{O(1)}$输入点。如果流分布在$M$机器之间,则运行时间减少$M$的因子,同时在机器之间传送总共$M\cdot k^{O(1)}$(稀疏)输入点。我们的主要技术结果是用于计算稀疏$(k,ε)$ -核心集的确定性算法,该稀疏$(k,ε)$-核心集是$k^{O(1)}$输入点的加权子集,其近似于从$n$输入点到每个$k$中心的平方距离的和,对于任何给定的常数$ε>0$,直到$(1\pmε)$因子。这是第一个与$d$和$n$大小无关的核心集。现有的算法在$d$中使用大小至少为多项式的核心集,或者将输入点投影到降低其稀疏性的子空间上,因此即使对于$k=2$也需要存储器和通信$Ω(d)=Ω(n)$。在真实公共数据集上的实验结果表明,该算法即使在离线环境下也能有效地提高算法的性能。开放代码是为了重现性。
2016-02-07 cs.DS
Parallel and Streaming Algorithms for K-Core Decomposition
Google Research(谷歌研究院)
$k$ -核心分解是许多机器学习和数据采掘应用中的基本原语。我们提出了第一个分布式和第一个流算法来计算和维护一个近似的$k$核心分解与可证明的保证。我们的算法实现了严格的界限上的空间复杂度,同时边界的通过或计算轮数。我们这样做,提出了一个新的强大的草图技术$k$核心分解,然后通过显示它可以有效地计算流和MapReduce模型。最后,我们证实了我们的素描技术的有效性经验上的一些公开的图形。
2018-11-23 cs.DC cs.DS cs.LG
Improved Weighted Matching in the Sliding Window Model
我们考虑的最大权重匹配(MWM)问题的流滑动窗口模型的计算。在该模型中,输入由大小为$n$的给定顶点集$V$上的加权边序列组成。我们的目标是保持一个近似的最大权重匹配的图中所跨越的$L$最近的边缘,为一些整数$L$,使用尽可能少的空间。在我们的工作之前,最先进的结果是Biabani等人[ISAAC'21]的MWM的$(3.5+\varepsilon)$近似算法和Crouch等人[ESA'13]的(未加权)最大匹配(MM)的$(3+\varepsilon)$近似。这两种算法都使用空间$\tilde{O}(n)$。我们得到以下结果:1.本文给出了在空间$\tilde{O}(\sqrt{nL})$上的MWM的$(2+\varepsilon)$ -近似算法.在每个滑动窗口中的边所跨越的图是简单的合理假设下,我们的算法使用空间$\tilde{O}(n \sqrt{n})$。2.在$\tilde{O}(n)$空间域中,我们给出了MWM的一个$(3+\varepsilon)$ -近似算法,从而缩小了MWM和MM的最佳近似比之间的差距。的MWM算法,我们的算法都执行多个实例的$(2+\varepsilon)$ -近似$\tilde{O}(n)$ -空间流算法的MWM的帕兹和施瓦茨曼[SODA'17]上的不同部分的流。我们的改进是通过不同地选择这些子流来获得的。此外,我们的$(2+\varepsil…
2023-01-10 cs.DS
Nearly-Linear Time and Streaming Algorithms for Outlier-Robust PCA
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of California, San Diego(加州大学圣地亚哥分校)
针对标准PCA易受离群点干扰、现有鲁棒PCA算法存在时间复杂度高或误差保证次优的问题,提出兼具近最优误差保证的近线性时间鲁棒PCA算法,以及内存与维度近线性相关的单遍流算法。
2023-05-04 cs.DS cs.LG math.ST
Sub-linear RACE Sketches for Approximate Kernel Density Estimation on Streaming Data
Rice University(莱斯大学)
核密度估计是一种简单有效的方法,是许多重要机器学习应用的核心。不幸的是,核方法对于大型高维数据集的扩展性很差。近似核密度估计具有过高的存储器和计算成本,特别是在流设置中。最近的高维密度采样算法可以降低计算成本,但不能在线操作,而流算法不能处理高维数据集,由于维数灾难。我们提出了RACE,一个高效的素描算法内核密度估计高维流数据。RACE将一组N个高维向量压缩到一个小的整数计数器数组中。这个数组足以估计一大类核的核密度。我们的设想是切实可行的,并有强有力的理论保证。我们在真实世界的高维数据集上评估了我们的方法,并表明我们的草图与竞争方法相比压缩效果好10倍。
2019-12-04 cs.DS cs.LG
Streaming Attention Approximation via Discrepancy Theory
EPFL(苏黎世联邦理工学院);KAIST(韩国科学技术院);Google Research(谷歌研究)
本文提出BalanceKV算法,基于几何过程选择平衡的Key和Value token,实现流式注意力近似,理论和实验均优于现有方法。
2026-03-24 cs.AI cs.DS cs.LG
$(1-ε)$-Approximate Maximum Weighted Matching in Distributed, Parallel, and Semi-Streaming Settings
针对CONGEST模型中一般图的最大权匹配问题,本文提出确定性$\text{poly}(1/ε, \log n)$轮$(1-ε)$-近似算法,并扩展至CREW PRAM和半流式设置,解决了该领域的开放问题。
2023-05-17 cs.DC cs.DS
Improved Pan-Private Stream Density Estimation
差分隐私是对隐私的严格定义,它保证对敏感数据集执行的任何分析都不会泄露有关其中包含数据的个人的信息。在这项工作中,我们开发了新的差分隐私算法来分析流数据。具体来说,我们考虑的问题,估计的密度流的用户(或,更一般地说,元素),这表示所有用户的比例,实际上出现在流中。我们专注于流媒体模型最强的隐私保证之一,即用户级泛隐私,它确保任何用户的隐私得到保护,即使对手在罕见的情况下观察算法的内部状态。我们提出的算法采用最佳的所有分配的隐私预算,是专门为流媒体模型,因此,在理论上和实验上优于传统的基于采样的方法。
2021-11-16 cs.CR cs.DB cs.DS
Streaming Robust Submodular Maximization: A Partitioned Thresholding Approach
我们研究了经典的问题,最大化的单调子模函数的基数约束k,有两个额外的曲折:(i)元素到达流的方式,和(ii)从算法的内存中删除m项流完成后。我们开发了一个强大的次模算法STAR-T。它是基于一种新的分区结构和指数下降阈值规则。STAR-T对数据进行一次遍历,并保留一个简短但可靠的摘要。我们表明,从所获得的摘要中删除任何m个元素后,一个简单的贪心算法STAR-T-GREEDY,运行在剩余的元素实现了恒定因子近似保证。在两个不同的数据摘要任务中,我们证明了它匹配或优于现有的贪婪和流方法,即使他们被允许提前知道删除的子集的好处。
2017-11-07 cs.DS stat.ML
A Framework for Adversarially Robust Streaming Algorithms
我们研究了流媒体算法的对抗鲁棒性。在这种情况下,算法被认为是鲁棒的,如果它的性能保证保持,即使流是由对手自适应地选择的,该对手沿着流观察算法的输出,并可以在线方式作出反应。虽然确定性流算法具有固有的鲁棒性,但流文学中的许多中心问题不承认子线性空间确定性算法;另一方面,这些问题的经典空间有效随机算法通常不具有对抗性鲁棒性。这就提出了一个自然的问题,是否存在有效的adversarially强大的(随机)流算法,这些问题。在这项工作中,我们的答案是积极的各种重要的流问题中的插入只模型,包括不同的元素和更一般的$F_p$ -估计,$F_p$ -沉重的打击者,熵估计,和其他。对于所有这些问题,我们开发adversarially强大的$(1+\varepsilon)$近似算法,其所需的空间匹配的最知名的非鲁棒算法的$\text{poly}(\log n, 1/\varepsilon)$乘法因子(在某些情况下,甚至到一个常数因子)。为此,我们开发了几个通用的工具,允许一个有效地将一个非鲁棒的流算法转化为一个强大的在各种情况下。
2021-11-04 cs.CR cs.DS
Streaming Quantiles Algorithms with Small Space and Update Time
Amazon(亚马逊);Yahoo Research(雅虎研究院);Johns Hopkins University(约翰斯·霍普金斯大学)
流数据上的近似分位数和分布已经研究了大约二十年。最近,Karnin,Lang和Liberty提出了第一个渐进最优算法。这份手稿补充了他们的理论结果,提供了一个实用的变种,他们的算法与改进的常数。对于一个给定的草图大小,我们的技术证明减少了上界的草图误差的两个因素。实验验证了这些改进。我们修改后的分位数草图也通过将最差情况下的更新时间从$O(1/\varepsilon)$减少到$O(\log (1/\varepsilon))$来改善延迟。我们还提出了两个算法的加权项流提供改进的渐近更新时间相比,天真的扩展。最后,我们为这些草图提供了一个专门的数据结构,从而减少了它们的内存占用和更新时间。
2019-06-29 cs.DB cs.DS cs.LG
A Deterministic Streaming Sketch for Ridge Regression
University of Utah(犹他大学)
我们提供了一个确定性的空间有效算法估计岭回归。对于具有$d$特征和足够大的正则化参数的$n$数据点,我们仅使用$O(d/\varepsilon)$空间提供了$\varepsilon$ L $_2$误差内的解决方案。这是第一个$o(d^2)$空间确定性流算法,保证解决这个经典问题的错误和风险界。该算法通过频繁方向的变体来勾画协方差矩阵,这意味着它可以在仅插入流和各种分布式数据设置中操作。在合成和真实世界的数据集上的随机草图算法相比,我们的算法具有较少的经验误差,使用较少的空间和相似的时间。
2021-03-10 cs.DS cs.LG stat.ML
Online and Streaming Algorithms for Constrained $k$-Submodular Maximization
Boston University(波士顿大学);Northeastern University(东北大学)
本文针对基数约束和背包约束下的单调与非单调 k-子模最大化问题,提出了具有常数因子近似保证的单遍流式和在线组合算法,在近似比、空间和运行时间上均达到最优,并在广告分配等应用中验证了其高效性和可扩展性。
2023-05-25 cs.DS cs.LG
Do Less, Get More: Streaming Submodular Maximization with Subsampling
Open University of Israel(以色列开放大学);Yale University(耶鲁大学)
在本文中,我们开发了第一个单程流算法子模块最大化,不评估整个流,甚至一次。通过仔细地对数据流的每个元素进行子采样,我们的算法在各种设置中享有最严格的近似保证,同时具有最小的内存占用和最少的函数求值次数。更具体地说,对于单调子模函数和$p$ -拟阵约束,我们的随机算法实现了$4p$近似比(预期)与$O(k)$内存和每个元素的$O(km/p)$查询($k$是最大可行解的大小和$m$是用于定义约束的拟阵的数量)。对于非单调的情况下,我们的近似比仅略微增加到$4p+2-o(1)$。据我们所知,我们的算法是第一个以一种新颖的方式结合流和子采样的优点,以便真正将子模块最大化扩展到大规模机器学习问题。为了展示其实用性,我们经验性地评估了我们的算法在视频摘要应用程序上的性能,并观察到它比最先进的算法性能高出50倍,同时保持几乎相同的实用性。
2018-02-20 cs.DS cs.LG
Streaming Algorithms for High-Dimensional Robust Statistics
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of California, San Diego(加利福尼亚大学圣迭戈分校)
针对高维鲁棒统计算法内存占用高的问题,提出首批近最优内存的高效流式算法,核心解决强化版Huber污染模型下的鲁棒均值估计,还可推广到协方差估计、回归等更复杂任务。
2023-05-03 cs.DS cs.LG math.ST