Streaming Graph Partitioning in the Planted Partition Model
图数据规模的急剧增加已经引起了人们对开发高效的分布式图处理框架的极大兴趣。流行的现有框架,如Graphlab和Pregel依赖于平衡图分区,以最大限度地减少通信并实现工作平衡。在这项工作中,我们有助于流图分区\cite{stantonstreaming,stanton,fennel}计算一个近似平衡的$k$ -分区的顶点集的图形流使用度为基础的标准,使用一个单一的通过最近的研究线。这个图划分框架非常适合处理大规模和动态图。在这项工作中,我们介绍了使用更长的步行流图分区,并表明,它们的使用会产生一个小的计算成本,可以显着提高图形分区的质量。我们使用种植分区模型\cite{condon2001algorithms,mcsherry2001spectral}对我们的算法进行平均情况分析。我们补充斯坦顿\cite{stantonstreaming}的最近结果表明,我们提出的方法恢复真正的分区具有很高的概率,即使当差距的模型趋于零的大小的图形的增长。此外,在众多的选择中,我们发现建议的长度是最佳的。最后,我们进行了实验,验证了所提出的方法的价值。
2014-08-20 cs.DC cs.DS
Submodular Maximization over Sliding Windows
在本文中,我们研究的数据流模型中的子模块最大化形式的代表元素的提取。与以往的流次模最大化问题不同,我们只对最近的数据感兴趣,并研究了滑动窗口上的最大化问题。我们提供了一个一般的减少从滑动窗口模型的标准流模型,因此我们的方法适用于一般的约束条件,只要有一个相应的流算法在标准流模型。因此,我们得到的第一个算法在滑动窗口模型的基数和拟阵约束下的单调/非单调子模函数最大化。我们还提出了几种算法,并在现实世界的数据集上显示了它们的效率。
2016-11-01 cs.DS
Evolutionary Acyclic Graph Partitioning
有向图被广泛用于流应用中的数据流和执行依赖性建模。这使得利用图分区算法的问题,并行计算的多处理器架构。然而,由于资源的限制,分区上的非循环约束是必要的映射流应用程序时,嵌入式多处理器。在这里,我们贡献了一个多级算法的无环图划分问题。在此基础上,我们设计了一个进化算法,以进一步降低通信成本,以及改善负载均衡和调度的最大完工时间的嵌入式多处理器架构。
2017-09-25 cs.DS cs.NE
Streaming Hypergraph Partitioning Algorithms on Limited Memory Environments
许多众所周知的现实世界的问题都涉及到描述实体之间关系的动态数据。超图是一种强大的组合结构,经常用于对此类数据进行建模。对于今天的许多以数据为中心的应用程序来说,这些数据是流式的;新的项目不断到达,数据随着时间的推移而增长。随着物联网和边缘计算等范例的出现,这些应用变得更加自然和实用。在这项工作中,我们假设一个流模型,其中数据被建模为一个超图,这是在边缘生成的。然后,这些数据被分区,并通过在内存受限的设备(如单板的计算机)上运行的算法发送到远程节点。这种划分通常通过考虑连接性度量来执行,以最小化将以分布式方式执行的后续分析的通信成本。虽然有许多离线工具可以很好地划分静态超图,但用于流设置的算法很少。我们分析了一个著名的算法从文献中,并显着提高其运行时间,通过改变其内部数据结构。例如,在一个中等规模的超图上,新算法将运行时间从17800秒减少到10秒。然后,我们提出了基于草图和散列的算法,以及那些可以利用额外的内存来存储一小部分数据,以便在可能的情况下细化分区的算法。我们实验分析这些算法的性能,并报告其运行时间,连接度量分数,和内存使用的高端服务器和四个不同的单板计算机体系结构。
2021-03-09 cs.DC cs.DS
Partitioning Trillion Edge Graphs on Edge Devices
针对大规模图划分内存开销高的问题,提出StreamCPI框架,通过游程压缩降低流式划分器内存,改进LA-vector支持追加,实现边缘设备上万亿边图的高质量划分。
2024-10-10 cs.DS
Streaming, Local, and Multi-Level (Hyper)Graph Decomposition
本论文研究(超)图分解问题,提出流式、局部和多级算法,分别用于图/超图划分、局部社区检测及进程映射和符号图聚类,实验证明优于现有方法。
2023-08-29 cs.DS
Sliding window order statistics in sublinear space
我们扩展的多通道流模型的滑动窗口问题,并解决问题的顺序统计量的计算固定大小的滑动窗口,在多通道流模型以及密切相关的通信复杂性模型。在$2$ -通过流模型,我们表明,在输入长度$N$与范围$[0,R]$和长度$K$的窗口中的值,滑动窗口最小值可以在$\widetilde{O}(\sqrt{N})$中计算。我们表明,这是接近最佳的(任何常数的通行证)时,$R \geq K$,但可以改善时,$R = o(K)$ $\widetilde{O}(\sqrt{NR/K})$。此外,我们表明,有一个$(l+1)$通过流算法计算$l^\text{th}$ -最小元素在$\widetilde{O}(l^{3/2} \sqrt{N})$空间。在通信复杂性模型中,我们描述了一个简单的$\widetilde{O}(pN^{1/p})$算法来计算奇数$p$的$p$轮通信中的最小值,以及一个更复杂的算法来计算$l^\text{th}$ -$\widetilde{O}(pl^2 N^{1/(p-2l-1)})$空间中的最小元素。最后,我们证明了布尔流的多数统计量不能在次线性空间中计算,这意味着$l^\text{th}$ -最小元素不能在$N$中的次线性空间和独立于$l$的空间中计算。
2018-07-12 cs.DS
Fair Clustering in the Sliding Window Model
研究滑动窗口模型中的比例公平聚类流式算法,证明严格公平下无法实现有限乘法比率,但放宽约束后存在空间高效的近似算法,并在真实数据集上验证了理论。
2025-03-07 cs.DS
Streaming Max-Cut in General Metrics
Peking University(北京大学);University of Science and Technology of China(中国科学技术大学)
本文研究了在一般度量空间中流式处理最大割问题,提出了一种仅需对数空间的近似算法,并在动态流式设置中给出了多项式空间的下界,展示了与欧几里得空间的不同之处。
2026-04-30 cs.DS
A Unified Approach for Clustering Problems on Sliding Windows
我们探讨了一般度量空间和欧氏空间中的流滑动窗口模型的聚类问题。我们提出了第一个多对数空间$O(1)$ -近似的度量$k$ -中位数和度量$k$ -意味着问题的滑动窗口模型,回答了主要的开放问题所提出的巴布科克,数据,Motwani和O 'Callaghan,这仍然没有回答了十多年。我们的算法使用$O(k^3 \log^6 n)$空间和$\operatorname{poly}(k, \log n)$更新时间。这是一个指数级的改进,由于Babcock等人的技术所需的空间。我们引入了一个数据结构,扩展了光滑的直方图介绍了Braverman和Ostrovsky操作更广泛的一类功能。特别是,我们表明,仅使用多对数空间,我们可以保持当前窗口的摘要,从该窗口中,我们可以构建一个$O(1)$近似聚类解决方案。合并归约是计算几何中的一种通用方法,用于使离线算法适应仅插入流模型。几个著名的coreset结构主要是在插入只流模型使用这种方法,包括著名的coreset技术的$k$ -中位数,$k$ -手段在低维和高维欧氏空间。之前的工作已经将这些技术应用于插入-删除模型,但将它们转化为滑动窗口模型仍然是一个挑战。我们给出的第一个算法,给定一个插入只流coreset建设的空间$s$,保持一个$(1\pmε)$ -近似coreset的滑动窗口模型使用$O(s^2ε^{-2}\log n)$空间。对于聚类问题,…
2015-04-21 cs.DS
Linear-Time Multilevel Graph Partitioning via Edge Sparsification
本文提出一种线性时间多级图划分算法,通过边稀疏化保证几何缩减,集成到KaMinPar中,实现平均1.49倍加速且质量损失仅1%。
2025-04-24 cs.DS
Parallel Streaming Random Sampling
本文研究了从一个潜在的无休止的数据流的元素被揭示在一系列的元素序列(minibatches)的并行随机抽样。虽然从流中采样被广泛研究,但在并行上下文中探索的并不多,先前的并行随机采样算法集中在静态批处理模型上。我们提出了并行算法的小批量流采样在两种设置:(1)滑动窗口,它从一个预先指定的数量的最近观察到的元素,和(2)无限窗口,它从所有收到的元素中提取样本。我们的算法是计算和内存效率:他们的工作匹配最快的顺序对应,他们的并行深度是小的(多对数),他们的内存使用匹配最知名的。
2019-06-10 cs.DS
Tight Bounds for Adversarially Robust Streams and Sliding Windows via Difference Estimators
在对抗性鲁棒流模型中,元素流被呈现给算法,并且被允许在流期间的较早时间依赖于算法的输出。在经典的数据流只插入模型中,Ben-Eliezer et.(PODS 2020,最佳论文奖)展示了如何将非鲁棒算法转换为具有大致$1/\varepsilon$因子开销的鲁棒算法。这随后被Hassidim等人改进为$1/\sqrt{\varepsilon}$因子开销。(NeurIPS 2020,口头报告),抑制对数因子。对于一般的功能,后者是已知的最好的可能性,由卡普兰等人的结果。等人(美国专利商标局2021)。我们将展示如何绕过这一不可能的结果,通过开发数据流算法的一大类流问题,没有开销的近似因子。我们的流问题类包括最充分研究的问题,如$L_2$ -重击球手问题,$F_p$ -矩估计,以及经验熵估计。我们大大提高了所有以前的工作,这些问题,给出了第一个最佳的依赖于近似因子。在以前的工作中,我们得到了一个一般的变换,适用于任何非鲁棒流算法,并依赖于所谓的扭曲数。然而,关键的技术创新是,我们将转换应用于我们称之为流问题的差异估计器,而不是流问题本身的估计器。然后,我们开发了广泛的问题的第一个差异估计。我们的差异估计方法不仅适用于adversarially强大的模型,但其他流模型的时间属性的数据发挥了核心作用。(摘要缩短以满足arXiv限制。)
2022-10-21 cs.DS
Improved Sliding Window Algorithms for Clustering and Coverage via Bucketing-Based Sketches
流计算在大规模数据分析中起着重要的作用。滑动窗口模型是一种流计算模型,它还捕获数据的新近性。在此模型中,数据一次到达一个项目,但对于特定问题,只考虑最新的$W$数据项目。目标是通过在流期间维护一个小摘要,在流的结尾输出一个好的解决方案。在这项工作中,我们提出了一个新的算法框架,设计有效的滑动窗口算法,通过桶为基础的草图。基于这个新的框架,我们开发了空间有效的滑动窗口算法的$k$覆盖,$k$聚类和多样性最大化问题。对于上述每一个问题,我们的算法实现了$(1\pm \varepsilon)$ -近似。与以往的工作相比,它提高了逼近比和空间。
2021-10-29 cs.DS
How to Catch L_2-Heavy-Hitters on Sliding Windows
在流数据中找到重元素(heavy-hitters)是一个核心的、众所周知的任务。尽管这个问题的重要性,当考虑流的滑动窗口模型(其中元素最终到期)时,寻找L_2重元素的问题仍然是完全开放的,尽管多篇论文和相当大的成功,在寻找L_1重元素。本文提出了滑动窗口模型中寻找L_2重元素的第一个多对数记忆算法。由于L_2重元素在许多基本流问题(如频率矩)中起着核心作用,我们相信我们的方法对许多滑动窗口算法和应用是非常有用的。例如,我们的方法不仅可以在滑动窗口上找到L_2重元素,而且可以找到关于任意L_p(0<p<2)的重元素。因此,我们的论文完全解决了对于p的所有值具有多对数记忆的滑动窗口寻找L_p重元素的问题,因为众所周知,对于p>2,这一任务是不可能的。我们的方法也可以有其他应用。我们展示了更广泛的适用性,我们的新颖而简单的方法上两个额外的例子:我们展示了如何获得滑动窗口近似的其他属性,如两个流的相似性,或元素的分数,正好出现在窗口内指定的次数(罕见的问题)。在我们的方法的这两个说明性的例子中,我们用最坏情况下的界限替换当前预期的内存界限。
2013-04-16 cs.DS
Symmetric Norm Estimation and Regression on Sliding Windows
滑动窗口模型概括了标准流模型,并且通常在最近的数据比在某个时间之前到达的数据更重要或更准确的应用中表现得更好。我们研究了滑动窗口模型中近似对称范数($\mathbb{R}^n$上的范数,在符号翻转和坐标置换下是不变的)的问题,其中只有$W$最近的更新定义了潜在的频率向量。滑动窗口的标准范数估计算法依赖于Braverman和Ostrovsky(FOCS 2007)的平滑直方图框架,而分析一般对称范数的平滑性似乎是一个具有挑战性的障碍。相反,我们观察到,对称规范流算法的布雷弗曼等。(STOC 2017)可以简化为识别和近似许多子流中重量级人物的频率。我们引入了一个重量级的算法,给出了一个$(1+ε)$ -近似的滑动窗口模型中的每个报告的频率,从而获得第一个算法的一般对称模估计的滑动窗口模型。我们的算法是一个通用的草图,同时近似所有的对称规范在一个参数化类,也提高了平滑直方图框架估计$L_p$规范,大$p$的范围。最后,我们考虑了损失函数是Orlicz范数的情况下的过约束线性回归问题,Orlicz范数是一种对称范数,可以解释为$M$ -估计的尺度不变版本。我们给出了第一个次线性空间算法,产生$(1+ε)$近似解的线性回归问题的损失函数是Orlicz规范的流和滑动窗口模型。
2021-09-03 cs.DS
Online Learning with Recency: Algorithms for Sliding-window Streaming Multi-armed Bandits
Johns Hopkins University(约翰霍普金斯大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);Texas A&M University(德克萨斯农工大学)
针对在线学习中的近因效应,研究单遍滑动窗口流式多臂老虎机问题,提出纯探索和遗憾最小化算法,并给出记忆-遗憾权衡。
2026-06-08 cs.DS cs.LG
More Recent Advances in (Hyper)Graph Partitioning
Georgia Institute of Technology(佐治亚理工学院);Sandia National Laboratories(桑迪亚国家实验室);Heidelberg University(海德堡大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Humboldt-Universität zu Berlin(柏林洪堡大学);Apple Inc.(苹果公司)
近年来,在平衡(超)图划分算法的设计和评估方面取得了重大进展。我们调查的趋势,在过去十年中的实际算法平衡(超)图分割与未来的研究方向。我们的工作是对以前关于这一主题的调查的更新。特别是,该调查扩展了以前的调查,还包括超图分区和流算法,并有一个额外的重点放在并行算法。
2022-06-30 cs.DS cs.LG
Almost-Smooth Histograms and Sliding-Window Graph Algorithms
我们研究算法的滑动窗口模型,一个重要的变种的数据流模型,其中的目标是计算一些函数的一个固定长度的后缀的流。我们将Braverman和Ostrovsky(FOCS 2007)的平滑直方图框架扩展到几乎平滑函数,其中包括所有次可加函数。具体来说,我们表明,如果次加性函数可以在仅插入流模型中近似为$(1+ε)$,那么它也可以在滑动窗口模型中近似为$(2+ε)$,其中空间复杂度增加了因子$O(ε^{-1}\log w)$,其中$w$是窗口大小。我们展示了我们的框架如何产生新的近似算法,相对较少的努力,不承认平滑直方图技术的各种问题。例如,在频率向量模型中,一个对称范数是次可加的,因此我们得到了它的滑动窗口$(2+ε)$ -近似算法;另一个例子是对于流矩阵,我们得到了Schatten $4$ -范数的一个新的滑动窗口$(\sqrt{2}+ε)$ -近似算法。然后,我们考虑图形流,并表明,许多图形问题是次加性的,包括最大次模匹配,最小顶点覆盖,最大$k$ -覆盖,从而得出滑动窗口$O(1)$近似算法,他们几乎是免费的(使用已知的只插入算法)。最后,我们为每个$d\in (1,2]$设计了一个基于最大匹配尺寸的人工函数,其几乎光滑参数正好是$d$。
2022-05-24 cs.DS
Multilevel Acyclic Hypergraph Partitioning
有向无环超图是有向无环图的一个推广概念,其中每个超边可以包含任意数量的头和尾。有向超图可用于对流应用中的数据流和执行依赖性进行建模。因此,超图分割算法可以用来获得有效的多处理器架构的并行化。然而,分区上的非循环约束是必要的映射流应用程序时,嵌入式多处理器由于这种类型的硬件资源限制。无环超图划分问题是将有向无环超图的超节点划分为给定数量的大小大致相等的块,使得相应的商图是无环的,同时最小化分区上的目标函数。在这里,我们贡献的第一个n级算法的无圈超图划分问题。我们的重点是无圈超图的超边可以有一个头和任意多个尾巴。在此基础上,我们设计了一个模因算法,以进一步降低通信成本,以及提高嵌入式多处理器架构上的调度最大完工时间。实验表明,我们的算法优于以前的算法,专注于有向无环图的情况下,以前已在应用领域。此外,我们的实验表明,这种类型的应用程序使用有向超图模型产生一个显着较小的完工时间。
2020-10-15 cs.DC cs.DS cs.NE
New Streaming Algorithms for High Dimensional EMD and MST
我们研究了两个基本几何问题的流算法:计算$n$ -点集$X \subset \{1,2,\dots,Δ\}^d$的最小生成树(MST)的成本,以及计算大小为$n$的两个多集$A,B \subset \{1,2,\dots,Δ\}^d$之间的地球移动器距离(EMD)。我们考虑旋转栅门模型,其中点可以添加和删除。我们给出了MST的一次流算法和EMD的两次流算法,两者都实现了$\tilde{O}(\log n)$的近似因子,并且只使用polylog $(n,d,Δ)$ -空间。此外,我们的算法EMD可以压缩到一个小的附加误差的单程。以前,用于任一问题的最著名的子线性空间流算法实现了$O(\min\{ \log n , \log (Δd)\} \log n)$的近似[Andoni-Indyk-Krauthgamer '08,Backurs-Dong-Indyk-Razenshteyn-Wagner '20]。对于MST,我们还证明了任何恒定空间流算法只能实现$Ω(\log n)$的近似,类似于[Andoni-Indyk-Krauthgamer '08]的EMD的$Ω(\log n)$下限。我们的算法是基于改进的分析递归空间划分方法一般称为四叉树。具体来说,我们表明,四叉树实现了EMD和MST的$\tilde{O}(\log n)$近似,改进了[Andoni-Indyk-Krauthgame…
2021-11-05 cs.DS
Interval Selection in Sliding Windows
本文研究了滑动窗口模型下的区间选择问题,提出了单位长度和任意长度区间的近似算法及空间下界,并通过改进平滑直方图技术将任意长度区间的近似比从4提升至11/3。
2024-11-12 cs.DS
Dolha - an Efficient and Exact Data Structure for Streaming Graphs
流图是由具有时间戳的传入边的序列形成的图。与静态图不同,流图是高度动态的和时间相关的。在现实世界中,互联网流量数据、社交网络通信数据、金融转账数据等大量高速流图数据对传统的图数据结构提出了挑战。本文提出了一种新的数据结构:双正交表哈希表(Dolha),它是一种适用于流图的高速、高存储效率的图结构。Dolha算法对单个边具有恒定的时间开销和近似线性的空间开销,因此我们可以在内存大小中包含数十亿条边信息,并在纳秒内处理一条传入的边。Dolha还具有用于邻域查询的线性时间成本,这使得它可以支持图中的大多数算法而无需额外成本。我们还提出了一个持久的结构Dolha的基础上,有能力处理滑动窗口更新和时间相关的查询。
2019-01-24 cs.DS
Streaming Maximum-Minimum Filter Using No More than Three Comparisons per Element
运行最大-最小(max-min)过滤器计算大小为w的运行窗口上的最大值和最小值。该滤波器在信号处理和时间序列分析中有许多应用。我们提出了一个易于实现的在线算法,在最坏的情况下,每个元素需要不超过3个比较。相比之下,在最坏的情况下,没有已知的算法可以在每个元素1.5次比较中计算运行最大(或最小)过滤器。我们的算法减少了延迟和内存使用。
2007-03-22 cs.DS
kMatrix: A Space Efficient Streaming Graph Summarization Technique
随着互联网的出现,数据存储库中收集的信息量大大增加。由于这些海量数据流的庞大数量和传入数据的吞吐量,处理这些海量数据流变得越来越复杂。这些数据流中的许多都被映射到图中,这有助于发现它们的一些属性。然而,由于处理大量流图的困难,它们被汇总,使得它们的属性可以使用汇总来近似评估。gSketch、TCM和gMatrix是一些主要的流图摘要技术。我们的主要贡献是设计kMatrix,这是更有效的内存比现有的流图摘要技术。我们通过使用原始图形流的样本对分配的内存进行分区来实现这一点。通过实验,我们表明,kMatrix可以实现一个显着减少错误的查询使用相同的空间,TCM和gMatrix。
2021-05-12 cs.DS cs.IR
Submodular Optimization Over Streams with Inhomogeneous Decays
基数约束下的子模函数最大化问题是数据采掘和机器学习应用中的一个关键问题,它的目标是选择一个最大值为$k$的子集来最大化单调子模效用函数.当数据作为流给出时,需要流传输子模块优化(SSO)技术。现有的SSO技术只能应用于其中每个元素具有无限寿命的仅插入流,以及其中每个元素具有相同寿命的滑动窗口流(即,窗口大小)。然而,一些数据流中的元素可能具有任意不同的寿命,这需要在具有连续衰减的流上解决SSO(SSO-ID)。这项工作制定的SSO-ID问题,并提出了三个算法:BasicStreaming是一个基本的流算法,实现了一个$(1/2-ε)$近似因子; HistApprox显着提高了效率,实现了一个$(1/3-ε)$近似因子; HistStreaming是HistApprox的流版本,并使用语法,以进一步提高效率。在真实数据上进行的实验表明,HistStreaming可以找到高质量的解决方案,并且比朴素的贪心算法快两个数量级。
2018-11-14 cs.DS
Preconditioned Spectral Clustering for Stochastic Block Partition Streaming Graph Challenge
局部最优块预条件共轭梯度(LOBPCG)被证明可以有效地解决谱聚类中出现的图拉普拉斯算子的特征值问题。对于静态图分区,在没有预处理的情况下,LOBPCG的10-20次迭代导致约10倍的错误减少,足以实现具有已知真值分区的所有挑战数据集的100%正确性,例如,对于具有5 K/.1M(50 K/1 M)顶点/边的图形,只需2(7)秒,而基线Python代码需要超过5,000(30,000)秒。我们的Python代码使用10 GB(50 GB)内存在270(1,700)秒内从具有0.5M(2 M)顶点的Challenge静态图中100%正确地确定了98(160)个聚类。我们的单精度MATLAB代码在一半的时间和内存中计算相同的聚类。对于流图分区,LOBPCG是用已经为先前图计算的图拉普拉斯算子的近似特征向量来启动的,与静态情况相比,在许多情况下减少了所需LOBPCG迭代次数的2-3倍。我们的谱聚类是通用的,即假设没有特定的块模型或流,用于生成挑战的图形,与基本代码相反。尽管如此,在与5 K图的基本代码的10阶段流比较中,我们的集群的质量从阶段4(7)开始类似或更好,用于新兴边缘(滚雪球)流,而计算速度快了100-1000。
2017-08-21 cs.DC cs.DS cs.MS
Streaming Robust Submodular Maximization: A Partitioned Thresholding Approach
我们研究了经典的问题,最大化的单调子模函数的基数约束k,有两个额外的曲折:(i)元素到达流的方式,和(ii)从算法的内存中删除m项流完成后。我们开发了一个强大的次模算法STAR-T。它是基于一种新的分区结构和指数下降阈值规则。STAR-T对数据进行一次遍历,并保留一个简短但可靠的摘要。我们表明,从所获得的摘要中删除任何m个元素后,一个简单的贪心算法STAR-T-GREEDY,运行在剩余的元素实现了恒定因子近似保证。在两个不同的数据摘要任务中,我们证明了它匹配或优于现有的贪婪和流方法,即使他们被允许提前知道删除的子集的好处。
2017-11-07 cs.DS stat.ML
Counting Triangles in Real-World Graph Streams: Dealing with Repeated Edges and Time Windows
真实世界的图形通常表现为大量的边的时间流。实时分析这种大型图形流的需求导致了低内存、单通道流式图形算法的进展。这些算法是为简单图设计的,假设边在流中不重复。然而,真实的图流几乎总是多重图,即,它们包含许多重复的边。没有重复边缘的假设需要一个额外的通道 * 存储所有边缘 *,仅用于重复数据删除,这违背了小内存算法的目的。我们描述了一个算法,用于估计三角形计数的多重图流的边缘。我们表明,所有以前的流算法三角形计数失败的多重图流,尽管他们令人印象深刻的精度为简单的图形。重复边产生的偏差是一个主要问题,并导致这些算法误入歧途。我们的算法通过仔细的去偏策略避免了这些偏差,并具有可证明的理论保证和出色的经验性能。我们的算法建立在前面介绍的楔形抽样方法。分析时间图的另一个挑战是找到正确的时间窗口大小。我们的算法无缝地处理多个时间窗口,并且不需要先验地承诺任何窗口大小。我们应用我们的算法,发现迷人的传递性和三角形的趋势,在现实世界的图形流。
2014-10-14 cs.DM cs.DS cs.SI
sGrapp: Butterfly Approximation in Streaming Graphs
本文研究了二部流图中的蝶形(即(2,2)-bicliques)计数问题。与单部图中的三角形类似,枚举蝴蝶对于理解二部图的结构至关重要。这有利于许多应用程序,其中研究图形形状数据中的内聚性特别感兴趣。例子包括研究计算图或算法输入图的结构,以及复杂实图上的动态现象和分析任务。蝴蝶计数在计算上是昂贵的,并且已知的技术不能扩展到大型图;在流图中,问题甚至更难。在本文中,以下数据驱动的方法,我们首先进行实证分析,揭示时间组织原则的蝴蝶在真实的流图,然后我们介绍了一个近似的自适应窗口为基础的算法,sGrapp,计数蝴蝶,以及其优化版本sGrapp-x。sGrapp被设计为在具有任何时间行为的任何图形流上高效且有效地操作。sGrapp和sGrapp-x的实验研究在准确性和效率方面表现出优异的性能。
2021-02-03 cs.DB cs.DS
Automata theory on sliding windows
在最近的一篇论文中,我们分析了流算法的空间复杂度,其目标是确定滑动窗口到固定语言的成员资格。对于正则语言类,我们证明了一个空间分割定理:对于每一个正则语言,最优空间界要么是常数的,要么是对数的,要么是线性的。在本文中,我们继续这条研究路线:我们提出了自然特征的常数和对数空间类,并建立紧密的关系,语言增长的概念。我们还分析了自动机大小的空间复杂度,并证明了几乎匹配的上下界。最后,我们考虑的决定问题是否由DFA/NFA给定的语言承认使用对数/常数空间的滑动窗口算法。
2018-01-05 cs.DS cs.FL
k-Center Clustering with Outliers in Sliding Windows
University of Padova(帕多瓦大学)
度量$k$ -中心聚类是基本的无监督学习原语。虽然被广泛使用,但该原语受到数据中噪声的严重影响,因此更合理的变体寻求忽略数据集的给定数量$z$的点(称为离群值)的最佳解决方案。我们提供了有效的算法,在滑动窗口设置下的流模型中的这个重要的变体,其中,在每个时间步,要聚类的数据集是窗口$W$的最近的数据项。我们的算法实现了$O(1)$近似,值得注意的是,需要一个工作记忆的线性$k+z$和对数的$|W|$。作为一个副产品,我们展示了如何估计的有效直径的窗口$W$,这是一个衡量的窗口点的传播,忽略了一个给定的分数的噪声距离。我们还提供了我们的理论结果的实际可行性的实验证据。
2022-01-07 cs.DS cs.LG
Streaming Graph Challenge: Stochastic Block Partition
分析真实世界图的一个重要目标是在大型流图上实现可扩展的性能。一个具有挑战性和相关的例子是图划分问题。作为一个组合问题,图划分是NP-难的,但现有的松弛方法提供了合理的近似解决方案,可以扩展到大型图。事实证明,竞争基准和挑战是推进最先进性能和促进社区协作的有效手段。本文描述了一个图分区的挑战与基线分区算法的次二次复杂性。该算法采用严格的贝叶斯推理方法的基础上的统计模型,捕捉现实世界的图形的特征。这种强大的基础使算法能够解决众所周知的图划分方法的局限性,如模块化最大化。本文介绍了这一挑战的各个方面,包括:(1)数据集和流图生成器,(2)具有伪代码的基线划分算法,(3)关于并行化贝叶斯推理的正确性的论证,(4)不同的并行计算策略,诸如基于节点的并行和基于矩阵的并行,(5)用于划分正确性和计算要求的评估度量,(6)基于Python的演示代码和开放源代码C++代码的初步定时,以及(7)以流方式划分图的考虑。该算法的数据集和源代码以及指标,以及详细的文档可在GraphChallenge. org上获得。
2017-08-25 cs.DC cs.DS cs.PF