Correlation Clustering with a Fixed Number of Clusters
我们继续调查的问题，相关聚类或聚类的定性信息，这是一个聚类公式，最近已经研究。这里的基本设置是，我们给出一个n个节点（对应于要聚类的节点）上的完全图作为输入，其边被标记为+（对于相似的项目对）和-（对于不相似的项目对）。因此，我们只有作为输入的定性信息的相似性和项目之间没有定量的距离测量。聚类的质量是根据其协议数来衡量的，协议数简单地说就是它正确分类的边的数量，即它将端点放置在不同聚类中的-边的数量加上它将端点放置在同一聚类中的+边的数量之和。在本文中，我们研究的问题，找到聚类，最大限度地提高协议的数量，和互补的最小化版本，我们寻求聚类，最大限度地减少分歧的数量。我们专注于当集群的数量被规定为一个小常数k的情况。我们的主要结果是，对于每一个k，有一个多项式时间的近似计划，最大限度地提高协议和最小化分歧。(The对于每个k >= 2，问题都是NP难的。主要的技术工作是最小化版本，因为用于最大化协议的PTAS遵循Max k-CUT的属性测试器的路线。相比之下，当集群的数量没有指定时，最小化分歧的问题被证明是APX困难的，即使最大化版本允许PTAS。
2005-04-06 cs.DS
Polynomial Time Approximation Schemes for Clustering in Low Highway Dimension Graphs
我们研究聚类问题，如k-Median，k-Means，和设施位置的低维公路图，这是一个图形参数建模的交通网络。之前已经证明了这些问题的近似方案存在，它们可以在准多项式时间内运行（假设高速公路维度恒定）[Feldmann et al. SICOMP 2018]，也可以在FPT时间内运行（通过聚类数$k$、高速公路维度和近似因子进行参数化）[Becker et al. ESA~2018，Braverman et al. 2020]。在本文中，我们表明，多项式时间近似方案（PTAS）存在（假设恒定的公路尺寸）。我们还表明，所考虑的问题是NP-困难的公路维数为1的图。
2021-05-31 cs.DS
Approximation Schemes for Capacitated Clustering in Doubling Metrics
受选区重划中的应用启发，我们考虑了有界加倍度量下的一致能力约束的k-中值和一致能力约束的k-均值问题。我们为这两个问题提供了第一个QPTAS，并为R^2中的点的一致容量限制k-中位数问题提供了第一个PTAS。这是对Arora，Raghavan，Rao [STOC 1998]的低维欧氏空间中容量限制k-中值的双准则QPTAS的第一次改进（1 + ε-近似，1 + ε-容量违反），并且可以说是非平凡度量的第一个多项式时间近似算法。
2019-11-06 cs.CG cs.DS
On Variants of k-means Clustering
\textit{Clustering problems}通常出现在像数据挖掘、机器学习等领域中，以将对象的集合分组为关于相似性（或相异性）度量的相似组。在聚类问题中，特别是\textit{$k$-means}聚类得到了研究者的广泛关注。尽管事实上，$k$ -手段是一个非常好的研究问题，其地位在飞机上仍然是一个悬而未决的问题。特别是，它是否允许PTAS在飞机上是未知的。在多项式时间内最著名的近似界是$9+\eps$。在本文中，我们考虑以下变体的$k$ -手段。给定$\mathcal{R}^d$中的点的集合$C$和一个实数$f > 0$，找到$\mathcal{R}^d$中使数量$f*|F|+\sum_{p\in C} \min_{q \in F} {||p-q||}^2$最小的点的有限集合$F$。对于任意固定维数的$d$，我们设计了一个局部搜索PTAS。我们还给出了一个“双准则”的局部搜索算法$k$ -手段，它使用$(1+\eps)k$中心，并产生一个解决方案，其成本是最多$(1+\eps)$倍的成本的最佳$k$ -手段解决方案。该算法在多项式时间内运行任何固定的维度。本文的贡献是双重的。一方面，我们能够以一种优雅的方式处理距离的平方，这产生了接近最佳的近似界。这使我们对$k$ -means问题有了更好的理解。另一方面，我们对局部搜索的分析也可能对其他几何问题有用。这是很重要的，考虑…
2015-12-09 cs.CG cs.DS
Clustering Algorithms for the Centralized and Local Models
我们重新审视了寻找具有差分隐私的最小封闭球的问题：给定欧几里得空间$\mathbb{R}^d$和整数$t\leq n$中的一组$n$点，目标是找到一个最小半径$r_{opt}$的球，该球至少包含$t$输入点。这个问题的动机是它的各种应用差分隐私，包括样本和聚合技术，私人数据探索，聚类。在没有隐私问题的情况下，最小封闭球具有多项式时间近似方案（PTAS），其计算半径几乎为$r_{opt}$的球（该问题是NP-难精确求解的）。相反，在差分隐私下，直到这项工作，只有$O(\sqrt{\log n})$ -近似算法是已知的。我们提供了新的构造差分隐私算法的最小封闭球实现恒定因子近似$r_{opt}$在集中式模型（其中一个可信的馆长收集的敏感信息，并分析它与差分隐私）和本地模型（其中每个受访者随机她的答案的数据馆长，以保护她的隐私）。我们演示了如何使用我们的算法作为一个积木近似$k$ -意味着在这两个模型。
2017-07-15 cs.DS
Coresets for Clustering with Missing Values
我们提供了第一个coreset聚类点在$\mathbb{R}^d$有多个缺失值（坐标）。以前的核心层构造只允许一个坐标缺失。此设置中的挑战在于，目标函数（如$k$ -均值）仅在可用（非缺失）坐标集上进行评估，该坐标集在各点之间变化。回想一下，大型数据集的$ε$核心集是一个小的代理，通常是重新加权的点子集，$(1+ε)$ -近似每个可能的中心集的聚类目标。我们的$k$ -Means和$k$ -Median聚类的核心集具有大小$(jk)^{O(\min(j,k))} (ε^{-1} d \log n)^2$，其中$n$是数据点的数量，$d$是维度，$j$是每个数据点缺失坐标的最大数量。我们进一步设计了一种算法来在近线性时间内构建这些核心集，从而改进了最近的二次时间PTAS，用于$k$ -具有缺失值的均值[Eiben等人，SODA 2021]到近线性时间。我们验证我们的核心集建设，这是基于重要性采样，易于实现，在各种真实的数据集。我们的coreset表现出灵活的coreset大小和精度之间的权衡，一般优于均匀采样基线。此外，它显著加快了Lloyd's风格的启发式$k$ -具有缺失值的均值。
2021-11-11 cs.DS
The Power of Uniform Sampling for Coresets
出于实际推广的经典$k$ -中位数和$k$ -手段的目标，如集群的大小限制，公平聚类，和Wasserstein重心，我们引入了一个元定理设计约束聚类问题的核心集。元定理减少了coreset建设的任务，一个有界数量的环的实例与一个非常宽松的添加剂错误。这种减少使我们能够使用均匀采样来构造核心集，而不是广泛使用的重要性采样，因此我们可以很容易地处理约束目标。值得注意的是，也许令人惊讶的是，这种更简单的采样方案可以产生其大小与$n$（输入点的数量）无关的核心集。我们的技术产生较小的核心集，有时是第一个核心集，大量的约束聚类问题，包括容量限制聚类，公平聚类，欧几里德Wasserstein重心，在未成年人排除图聚类，和多边形聚类下Fréchet和Hausdorff距离。最后，我们的技术也产生较小的coreset的$1$ -中位数在低维欧氏空间，特别是大小$\tilde{O}(\varepsilon^{-1.5})$在$\mathbb{R}^2$和$\tilde{O}(\varepsilon^{-1.6})$在$\mathbb{R}^3$。
2022-09-18 cs.DS
Information theoretical clustering is hard to approximate
杂质度量$I: \mathbb{R}^d \mapsto \mathbb{R}^+$是将$d$维向量${\bf v}$分配给非负值$I({\bf v})$的函数，使得相对于其坐标值的${\bf v}$越均匀，其杂质越大。一个众所周知的杂质度量的例子是熵杂质。研究了基于不纯测度的聚类问题。令$V$是$n$的集合，该集合包括许多具有非负分量的$d$维向量。给定$V$和杂质量度$I$，目标是找到将$V$划分为$k$基团$V_1,\ldots,V_k$的分区${\mathcal P}$，以便使${\cal P}$中基团的杂质总和最小化，即，$I({\cal P})= \sum_{i=1}^{k} I\bigg(\sum_{ {\bf v} \in V_i} {\bf v} \bigg).$杂质最小化已被广泛用作概率分布聚类（KL-发散）以及分类聚类中的质量评估指标。然而，在基于度量的聚类的情况下，目前的知识的近似性和不可近似性的结果是非常有限的杂质措施为基础的聚类。在这里，我们有助于改变这种情况下，证明了熵杂质措施的问题不承认PTAS，即使所有的向量有相同的$\ell_1$规范。这一结果解决了一个问题，仍然是开放的，在以前的工作就这一主题[Chaudhuri和麦格雷戈COLT 08;阿克曼等。11]。
2019-11-16 cs.DS
Adaptive Sampling for Minimum-Norm $k$-Clustering
Cornell University（康奈尔大学）；University of Waterloo（滑铁卢大学）
研究最小范数k聚类问题，提出自适应采样算法，设计出首个基于此的双准则常数因子近似算法，对一般最小范数k聚类适用，对特殊的\(\text{Top}_\ell\)范数产生\(O(\log k)\)近似算法，扩展了自适应采样处理问题的范围。
2026-07-15 cs.DS
Local Search Yields a PTAS for k-Means in Doubling Metrics
University of Alberta（阿尔伯塔大学）
在几乎每一个科学分支中遇到的最著名和最普遍的聚类问题无疑是$k$ -意思是：给定一组数据点和一个参数$k$，选择$k$中心，并将数据点划分为围绕这些中心的$k$簇，以便点到其簇中心的距离平方和最小化。通常，这些数据点位于某些$d\geq 2$的$\mathbb{R}^d$。$k$ -在20世纪50年代引入了它的方法和第一个算法。从那时起，有数百篇论文研究了这个问题，并提出了许多算法，最常用的算法是PDMAT-Forgy，也被称为“$k$ -means算法”，它的各种扩展在实践中通常都能很好地工作。然而，他们可能会产生的解决方案，其成本是任意大相比，最佳的解决方案。Kanungo等人[2004]分析了一个简单的局部搜索启发式算法，以获得一个多项式时间算法，该算法对欧氏空间中的$k$ -均值的任何固定$ε>0$具有近似比$9+ε$。寻找一个更好的近似保证算法一直是这一领域最大的开放问题之一，特别是是否可以得到一个真正的PTAS固定维欧氏空间。我们解决这个问题表明，一个简单的本地搜索算法提供了一个PTAS的$k$ -手段在$\mathbb{R}^d$为任何固定的$d$。更确切地说，对于任何误差参数$ε>0$，一次考虑多达$ρ=d^{O(d)}\cdotε^{-O(d/ε)}$中心的交换的局部搜索算法找到精确地使用$k$中心的解决方案，其成本至多是比最优值大$(1+ε)$因子。最后，我们提…
2017-01-09 cs.AI cs.CG cs.DS
Approximate Correlation Clustering Using Same-Cluster Queries
Ashtiani等人（NIPS 2016）介绍了一种半监督聚类框架（SSAC），允许学习者进行相同的聚类查询。更具体地说，在他们的模型中，有一个查询预言机，它回答以下形式的查询：给定任何两个顶点，它们是否属于同一个最优聚类？Ashtiani等人通过给出一个多项式时间算法来解决k均值聚类问题，其中输入数据集满足一些分离条件，从而展示了这种查询框架的有用性。Ailon等人将上述工作扩展到近似设置，针对任何小\eps > 0和SSAC框架内的任何数据集，给出了k均值的有效（1+ \eps）近似算法。在这项工作中，我们将这条线的研究相关聚类问题。相关聚类是一个图聚类问题，其中每对顶点都有成对的相似性（或相异性）信息，目标是将顶点划分为聚类，使作为输入的成对信息的不一致性最小化（或一致性最大化）。这些问题通常被称为MinDisAgree和MaxAgree问题，MinDisAgree[k]和MaxAgree[k]是这些问题的版本，其中最佳集群的数量最多为k。存在MinDisAgree[k]和MaxAgree[k]的多项式时间近似方案（PTAS），其中对于任何小的\eps，近似保证是（1+ \eps），并且运行时间在输入参数中是多项式的，但在k和1/ \eps中是指数的。我们得到了一个（1+ \eps）-近似算法的任何小\eps的运行时间是多项式的输入参数，也在k和1/ \eps。我们还给出了非…
2017-12-19 cs.DS
The Effectiveness of Uniform Sampling for Center-Based Clustering with Outliers
University of Science and Technology of China（中国科学技术大学）
聚类在计算机科学中有许多重要的应用，但现实世界的数据集往往包含离群值。此外，离群值的存在会使聚类问题更具挑战性。为了降低复杂性，在过去的几年中，已经提出了各种采样方法。也就是说，我们从输入中取一个小样本（均匀或非均匀），并对该样本运行现有的近似算法。与现有的非均匀采样方法相比，均匀采样方法具有几个显著的优点。例如，它只需要在一次通过中读取数据，并且在实践中非常容易实现。因此，均匀抽样在孤立点聚类中的有效性是一个自然的和基本的问题，值得在理论和实践中研究。本文提出了一个新的统一的框架来分析均匀抽样对三种典型的基于中心的离群点聚类问题的有效性，即$k$ -中心/中值/均值离群点聚类。我们引入了一个“显著性”准则，并证明了均匀采样的性能取决于给定实例的显著程度。特别是，我们表明，样本大小可以是独立的比例$n/z$和维数。更重要的是，据我们所知，我们的方法是第一个统一的采样方法，允许丢弃正是$z$离群值为这三个基于中心的聚类离群值的问题。本文的结果也可以看作是以前的次线性时间算法的普通聚类问题（无离群点）的推广。实验结果表明，均匀采样方法可以达到与其他现有方法相当的聚类结果，但大大减少了运行时间。
2020-05-01 cs.DS cs.LG
Approximation Schemes for Clustering with Outliers
聚类问题在数据科学、运筹学和计算机科学等领域都得到了很好的研究。这些问题包括中心位置问题的变体，$k$ -中位数和$k$ -均值，仅举几例。在某些情况下，并非所有数据点都需要聚类;有些数据点可能会因各种原因而被丢弃。我们研究离群点的聚类问题。更具体地说，我们查看无容量限制设施点位置（UFL）、$k$ -中位数和$k$ -均值。在具有离群值的UFL中，我们必须开放一些中心，丢弃$\cal X$的$z$点，并将每隔一个点分配给最近的开放中心，使总分配成本加上中心开放成本最小化。在$k$ -中位数和$k$ -平均值中，我们必须向$k$中心开放，但没有开放成本。在$k$ -Means中，将$j$分配给$i$的开销为$δ^2(j,i)$。我们提出了几个结果。我们的主要重点是$δ$是一个加倍度量或最短路径度量的图从一个小的封闭的图形家庭的情况下。对于均匀成本UFL与离群值等指标，我们表明，一个简单的多窗口本地搜索启发式产生PTAS。随着更多的工作，我们扩展到双准则近似的$k$ -中位数和$k$ -意味着问题在相同的指标，对于任何恒定的$ε> 0$，我们可以找到一个解决方案，使用$(1+ε)k$中心的成本是最多的$(1+ε)$ -因素的最佳和使用最多$z$离群值。我们还表明，自然的本地搜索算法，不违反$k$ -中位数（或$k$ -手段）的集群和离群值的数量将有无界的差距，即使在欧几里德度量。此外…
2017-07-13 cs.DS
A Fixed Parameter Sublinear Time Approximation Scheme for Metric Min-Sum Clustering
Rutgers University（罗格斯大学）；University of Michigan（密歇根大学）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Aarhus University（奥胡斯大学）；Texas A&M University（德克萨斯农工大学）
本文针对k适度增大时的度量k-最小和聚类问题，提出了固定参数可处理的子线性时间近似方案，还证明了k-中位数等相关问题不存在类似算法，首次将分布式PCP框架应用于聚类问题。
2026-10-14 cs.CC cs.DS
Wedge Sampling for Computing Clustering Coefficients and Triangle Counts on Large Graphs
图用于在各种上下文中对交互进行建模，并且越来越需要快速评估此类图的结构。一些最有用的图形指标是基于三角形的，比如那些衡量社会凝聚力的指标。计算它们的算法可能非常昂贵，即使是只有数百万条边的中等大小的图。以前的工作已经考虑了节点和边缘采样;相比之下，我们考虑楔形采样，它提供了比竞争技术更快，更准确的近似。此外，楔形采样能够估计局部聚类系数、度聚类系数、均匀三角形采样和定向三角形计数。我们的方法为所有计算提供了可证明和实用的概率误差估计。我们提供了大量的结果，表明我们的方法比最先进的替代方案更准确，更快。
2014-01-14 cs.DS cs.SI
Clustering Boolean Tensors
Max-Planck-Institut für Informatik（马克斯·普朗克 informatics 研究所）
本文研究了布尔张量分解的计算复杂性，提出了一种新的聚类算法，该算法能处理高维数据，并在合成和实际数据集上表现出良好的可扩展性、相似性和泛化能力。
2015-01-04 cs.DS cs.NA math.NA
Structure-Aware Spectral Sparsification via Uniform Edge Sampling
Department of Computer Science（计算机科学系）；Purdue University（普渡大学）
本文证明在强可聚类图（结构比大）中，均匀边采样即可保持谱聚类所需的特征子空间，无需有效电阻估计，为结构保持的谱聚类提供首个理论保证。
2025-10-14 cs.DS cs.LG
Sensitivity Sampling with Predictions for k-Means Clustering
University of Padova（帕多瓦大学）
研究k均值聚类问题，利用预测近似输入点重要性以降低基于敏感性的方法运行时间，证明相关理论对更粗敏感性近似成立，提出自然预测器并通过实验验证其优势。
2026-07-07 cs.DS cs.LG
Near-optimal Coresets for Robust Clustering
我们考虑$\mathbb{R}^d$中的鲁棒聚类问题，特别是$k$ -聚类问题（例如，$k$ -中位数和$k$ -具有$m$离群值的均值，其中给定中心集$C \subset \mathbb{R}^d$的成本聚合了从$C$到除最远$m$数据点以外的所有数据点的距离，而不是像经典聚类中那样聚合了所有点。我们专注于$ε$ -coreset强大的聚类，一个小的代理数据集，保留聚类成本内的$ε$ -相对误差的所有中心集。我们的主要结果是一个大小为$O(m + \mathrm{poly}(k ε^{-1}))$的$ε$核集，它可以在近线性时间内构造。这显著地改进了先前的结果，先前的结果要么对$(m + k)$具有指数依赖性[Feldman和Schulman，SODA'12]，要么具有较弱的双标准保证[Huang等人，FOCS'18]。此外，我们表明这种依赖性在$m$是接近最优的，它是孤立的，从其他因素的事实可能是至关重要的处理大量的离群值。我们通过适应最近框架的离群值来构建我们的核心集[Braverman et al.，FOCS'22]，克服了成本中的参与项，特别是被排除的$m$离群点依赖于中心集$C$的新挑战。我们在各种数据集上验证了我们的核心集，与包括均匀采样和敏感性采样在内的流行基线相比，我们观察到了一个优越的尺寸精度权衡。我们还实现了显着的加速现有的近似算法强大的聚类使用我们的核心集。
2022-10-19 cs.DS
Coresets for Clustering in Excluded-minor Graphs and Beyond
核心集是现代数据简化工具，广泛用于数据分析，以提高运行时间，空间和通信复杂性方面的效率。我们的主要结果是一个快速算法来构建一个小coreset的k-中位数（最短路径度量）的排除子图。具体来说，我们给出了第一个coreset的大小，只依赖于$k$，$ε$和排除的次要大小，我们的运行时间是准线性的（在输入图的大小）。我们的新算法的主要创新之处在于它是迭代的;它首先将$n$输入点简化为大致$O(\log n)$重新加权的点，然后简化为$O(\log\log n)$，依此类推，直到大小与$n$无关。这种迭代大小缩减中的每一步都基于Feldman和Langberg（STOC 2011）的重要性采样框架，通过采用终端嵌入（其中仅对从每个终端到所有其他点的距离保证低失真）来减少\emph{distinct points}的数量。我们的终端嵌入技术上涉及，并依赖于最短路径分隔符，一个标准的工具，在平面和排除未成年人的图形。此外，我们的新算法也适用于欧几里得度量，只需使用Narayanan和Nelson最近的终端嵌入结果（STOC 2019），它扩展了Johnson-Lindenstrauss引理。因此，我们在高维欧几里得空间中获得了一个有效的coreset构造，从而匹配和简化了最先进的结果（Sohler和Woodruff，FOCS 2018; Huang和Vishnoi，STOC 2020）。此外…
2020-07-15 cs.DS
Correlation Clustering in Data Streams
聚类是分析大型数据集的基本工具。大量的工作致力于设计数据流算法的相关优化问题，如$k$ -中心，$k$ -中位数，和$k$ -手段。这样的算法需要在时间和空间上都有效。本文研究了动态数据流模型中的相关聚类问题。该流包括对$n$节点上的图的边权重的更新，并且目标是找到节点分区，使得负权重边的端点通常在不同的集群中，而正权重边的端点通常在相同的集群中。我们提出了多项式时间，$O(n\cdot \ \mbox{polylog}~n)$空间近似算法自然出现的问题。我们首先开发基于线性草图的数据结构，它允许测量给定节点分区的“质量”。然后，我们结合这些数据结构与凸规划和采样技术来解决相关的近似问题。不幸的是，标准的LP和SDP公式在$O(n\cdot \mbox{polylog}~n)$ -空间中显然是不可解的。我们的工作提出了空间有效的算法所需的凸规划，以及方法来减少采样的自适应性。
2018-12-05 cs.DS
A Differentially Private Linear-Time fPTAS for the Minimum Enclosing Ball Problem
最小包围球（MEB）问题是聚类中最基本的问题之一，在运筹学、统计学和计算几何中有着广泛的应用。在这项工作中，我们给出了最小封闭球问题的第一个差分私有（DP）fPTAS，改进了Ghazi等人（2020）最知名的DP-PTAS的运行时间和效用界。给定$\R^d$中被球$B(θ_{opt},r_{opt})$覆盖的$n$点，我们的简单迭代DP算法返回一个球$B(θ,r)$，其中$r\leq (1+γ)r_{opt}$，并且在$\tilde O(\nicefrac n {γ^2})$时间中最多留下$\tilde O(\frac{\sqrt d}{γε})$点未被覆盖。我们还给出了我们算法的局部模型版本，该版本最多保留$\tilde O(\frac{\sqrt {nd}}{γε})$点，改进了Nissim和Stemmer（2018）的$n^{0.67}$界（以牺牲其他参数为代价）。此外，我们测试我们的算法经验，并讨论未来的开放问题。
2022-12-23 cs.DS
On the Furthest Hyperplane Problem and Maximal Margin Clustering
Yahoo! Research（雅虎研究院）；IAS（高等研究院）；Technion Institute of Technology（以色列理工学院）；Princeton University（普林斯顿大学）
本文介绍了一种无监督的支持向量机的对应算法--Furmart-Hyperplane问题。给定Rd中的一组n个点，目标是产生使分离裕度最大化的超平面（通过原点），即超平面与任何输入点之间的最小距离。据我们所知，这是第一篇关于FHP的论文。我们提供的下限和上限，这个NP难问题。首先，我们给出了一个简单的随机算法，其运行时间为n^O（1/θ^2），其中θ是最优分离间隔。我们证明了它对1/θ^2的指数依赖性是紧的，直到次多项式因子，假设SAT不能在次指数时间内求解。其次，我们给出了一个有效的近似算法。对于任何α \in [0，1]，算法产生一个超平面，该超平面到至少1 - 5α分数的点的距离至少是最佳分离裕度的α倍。最后，我们表明，FHP不承认PTAS提出了一个间隙保持减少从一个特定版本的PCP定理。
2012-02-02 cs.CC cs.DS cs.LG
Data-Efficient Learning via Clustering-Based Sensitivity Sampling: Foundation Models and Beyond
Google Research（谷歌研究院）；ISTA（IST奥地利科学技术研究所）；CNRS（法国国家科学研究中心）；Carnegie Mellon University（卡内基梅隆大学）
本文提出一种基于k-means聚类与敏感性采样的数据选择方法，可证明选出代表性小子集以近似整体平均损失，并在基础模型微调和线性回归中表现优于或匹配现有方法。
2024-02-27 cs.DS cs.LG
Coresets for Clustering in Euclidean Spaces: Importance Sampling is Nearly Optimal
给定$\mathbb{R}^d$中的$n$点的集合，$(k,z)$聚类问题的目标是找到$k$“中心”的子集，该子集使每个点到最近中心的欧几里得距离的$z$次幂之和最小化。$(k,z)$ -聚类问题的特殊情况包括$k$ -中位数和$k$ -均值问题。我们的主要结果是一个统一的两阶段重要性采样框架，构建了一个$\varepsilon$ -coreset的$(k,z)$ -聚类问题。与[Feldman和Langberg，STOC 2011]中的$(k,z)$聚类结果相比，我们的框架在核心集大小中节省了一个$\varepsilon^2 d$因子。与[Sohler and Woodruff，FOCS 2018]中的$(k,z)$聚类结果相比，我们的框架在核心集大小中节省了一个$\operatorname{poly}(k)$因子，并在构建时间中避免了$\exp(k/\varepsilon)$项。具体而言，我们的$k$ -中位数（$z=1$）的coreset具有大小$\tilde{O}(\varepsilon^{-4} k)$，与[Sohler and Woodruff，STOC 2018]中的结果相比，在coreset大小中节省了一个$k$因子。我们的算法结果依赖于一个新的降维技术，连接两个著名的形状拟合问题：子空间近似和聚类，并可能是独立的利益。我们还提供了$(k,z)$ -聚类的$0.01…
2020-05-14 cs.CG cs.DC cs.DS
Approximating Fair $k$-Min-Sum-Radii in Euclidean Space
本文针对欧氏空间中常数 k 的公平 k-最小半径和问题，提出首个 PTAS 近似算法，将 k-最小半径和的研究从无约束情形扩展到多种群体公平约束情形。
2024-09-30 cs.DS cs.LG
Approximation Schemes for Low-Rank Binary Matrix Approximation Problems
University of Bergen（卑尔根大学）
我们提供了一个随机的线性时间近似方案的一个通用问题的二进制向量的聚类受到额外的约束。新的约束聚类问题包括一些问题，并通过解决它，我们得到了一些研究良好的基本问题，关于二进制向量的聚类和低秩逼近的二进制矩阵的第一线性时间近似计划。我们的方法可以解决的问题包括\textsc{Low GF(2)-Rank Approximation}、\textsc{Low Boolean-Rank Approximation}和各种版本的\textsc{Binary Clustering}。例如，对于\textsc{Low GF(2)-Rank Approximation}问题，其中对于$m\times n$二进制矩阵$A$和整数$r>0$，我们寻找$GF_2$秩至多为$r$的二进制矩阵$B$，使得矩阵$A-B$的$\ell_0$范数最小，我们的算法对于时间上的任何$ε>0$ $ f(r,ε)\cdot n\cdot m$，其中$f$是某个可计算函数，输出概率至少为$(1-\frac{1}{e})$的$(1+ε)$近似解。我们的近似算法大大提高了以前的作品的运行时间和近似因子。我们还给出了这些问题在时间上运行的（确定性）PTASes $n^{f(r)\frac{1}{ε^2}\log \frac{1}ε}$，其中$f$是依赖于问题的一些函数。我们的算法的约束聚类问题是基于一个新的采样引理，这是有趣的。
2018-07-18 cs.CC cs.DS cs.LG
k-Means Clustering of Lines for Big Data
$k$ -median for lines问题的输入是$\mathbb{R}^d$中的$n$线的集合$L$，目标是计算$\mathbb{R}^d$中的一组$k$中心（点），以最小化$L$中每条线与其最近中心之间的平方距离之和。这是$k$ -中值问题的直接推广，其中输入是一组$n$点而不是线。我们建议第一个PTAS计算$(1+ε)$ -对于任何常数逼近误差$ε\in (0, 1)$和常数整数$k, d \geq 1$，在时间上对该问题进行逼近$O(n \log n)$。这是通过证明在$L$中总是存在$dk^{O(k)}\log (n)/ε^2$线的加权子集（称为coreset），其近似于从$L$到任何给定的$k$点集的平方距离之和。使用传统的合并-归约技术，该coreset意味着使用$n$中接近对数的存储器、更新时间和通信，以及删除任何行但使用线性空间，在一次通过（例如，云）中将行的流集合（可能是无限的）到$M$机器的结果。这些结果适用于其他距离函数，例如$k$ -中位数（距离总和）或忽略距离给定中心最远的$m$线以处理离群值。在Amazon EC2云上的10台机器上进行的实验结果表明，该算法在实际应用中表现良好。所有的算法和实验的开放源代码也提供。本文是以下已接受论文的扩展：“$k$ -Means Clustering of Lines for Big Data”，作者Yair M…
2019-11-25 cs.CG cs.DS
Efficient Parallel Algorithms for k-Center Clustering
k-中心问题是几个经典的NP-难聚类问题之一。对于当代的海量数据集，基于RAM的算法变得不切实际。虽然有很好的顺序算法的k-中心，他们是不容易并行化。在本文中，我们设计并实现了并行近似算法为这个问题。我们观察到，冈萨雷斯的贪心算法可以有效地并行化在几个MapReduce轮，在实践中，我们发现，两轮是足够的，导致4-近似。我们将此与现有的k-中心并行算法进行对比，该算法在恒定数量的轮中运行，并提供10-近似。深入的运行时分析表明，这种方案通常很慢，并且其采样过程仅在k相对于输入大小足够小时才运行。为了在运行时间和近似保证之间进行权衡，我们对该采样算法进行了参数化，并在实验中发现该算法不仅速度更快，而且有时更有效。然而，Gonzalez的并行版本比其顺序版本和并行采样算法快约100倍，几乎不影响解决方案质量。
2016-04-12 cs.DC cs.DS
Settling Time vs. Accuracy Tradeoffs for Clustering Big Data
Aarhus University（奥胡斯大学）；Université Paris Cité（巴黎西岱大学）；CNRS（法国国家科学研究中心）
本文研究大数据 k-means 和 k-median 聚类的运行时间与准确性权衡，证明可在近线性时间内通过敏感度采样构造 coreset，并系统比较各类采样策略，为不同数据规模下的有效聚类提供理论与实践指导。
2024-04-02 cs.DS cs.LG
Adversarial Robustness of Streaming Algorithms through Importance Sampling
Google（谷歌）；MIT（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）
在本文中，我们介绍了中央机器学习和算法任务，如回归和聚类，以及他们更一般的同行，子空间嵌入，低秩近似，和coreset建设的adversarially强大的流算法。对于回归和其他数值线性代数相关的任务，我们考虑行到达流模型。我们的研究结果是基于一个简单的，但强大的，观察到许多重要性采样为基础的算法产生对抗性的鲁棒性，这是在对比素描为基础的算法，这是非常普遍的流媒体文学，但遭受对抗攻击。此外，我们表明，著名的合并和减少流的范例是adversarially强大的。由于合并和减少范例允许coreset建设在流设置，因此，我们获得强大的算法$k$ -手段，$k$ -中位数，$k$ -中心，布雷格曼聚类，投影聚类，主成分分析（PCA）和非负矩阵分解。据我们所知，这些是第一个对抗性强的结果，这些问题还不需要新的算法实现。最后，我们经验性地证实了我们的算法对各种对抗攻击的鲁棒性，并证明了相比之下，一些常见的现有算法是不鲁棒的。（摘要缩短以满足arXiv限制）
2021-10-26 cs.DS cs.LG
Provably faster randomized and quantum algorithms for $k$-means clustering via uniform sampling
JPMorganChase（摩根大通）
本文提出基于均匀采样的随机化小批量与量子 $k$-均值算法，其最坏情况复杂度显著优于先前基于范数采样的方法，核心贡献在于利用均匀采样保留问题对称性以实现可证明加速。
2025-10-13 cs.DS cs.LG quant-ph
Optimal Time Bounds for Approximate Clustering
University of Texas at Austin（德克萨斯大学奥斯汀分校）
聚类问题是无监督学习中的一个基本问题，作为混合模型的学习问题和优化问题得到了广泛的研究。在本文中，我们研究聚类方面的K-中位数的目标函数，一个自然的公式，聚类中，我们试图最大限度地减少平均距离聚类中心。本文的主要贡献之一是一个简单但功能强大的采样技术，我们称之为连续采样，可以独立的利益。我们表明，我们的采样过程可以快速识别一个小的点集（大小为O（klog{n/k}）），总结了输入点的聚类目的。使用连续采样，我们开发了一个算法的k-中位数的问题，运行在O（nk）的时间为广泛的k值，并保证，以高概率，返回一个解决方案的成本最多一个常数因子倍最优。我们还建立了一个下界的欧米茄（nk）的任何随机常数因子近似算法的k-中位数的问题，即使是一个可以忽略不计的（说1/100）的概率成功。因此，我们建立了一个严格的时间界限θ（nk）的k-中位数问题的k值范围很广。这个问题的最好的上界是O（nk），其中O符号隐藏了n和k中的多对数因子。最好的前一个下界的O（nk）只适用于确定性的k-中位数算法。虽然我们将重点放在k-median目标上，但我们所有的上限也适用于k-means目标。在这种情况下，我们的算法相比，毫不逊色广泛使用的k-均值启发式，它需要O（nk）的时间，只有一个迭代，并没有提供有用的近似保证。
2012-12-12 cs.DS cs.LG stat.ML
Communication-Aware Processor Allocation for Supercomputers
本文给出了处理器分配算法，最大限度地减少分配的处理器之间的平均通信跳数的网格架构，在占用细胞的存在。在自由网格上分配处理器的简单问题已经由Karp，McKellar和Wong研究过，他们证明了解决方案具有非平凡结构;他们留下了问题的复杂性。相关的聚类问题如下：给定Re^d中的n个点，找到k个使它们的平均成对L1距离最小的点。我们提出了一个自然的近似算法，并表明它是一个7/4近似的二维网格。对于d维空间，近似保证是2-（1/2d），这是紧的。我们还给出了一个多项式时间近似计划（PTAS）的常数维d，并报告实验结果。
2005-12-06 cs.DC cs.DS
Relax and Merge: A Simple Yet Effective Framework for Solving Fair $k$-Means and $k$-sparse Wasserstein Barycenter Problems
University of Science and Technology of China（中国科学技术大学）
针对带组比例公平约束的$k$-均值聚类难题，提出“松弛与合并”框架，取得更优近似比，还可拓展至$k$-稀疏Wasserstein重心问题，实验效果优于基线。
2024-12-07 cs.DS cs.LG stat.ML
