Coresets for Vertical Federated Learning: Regularized Linear Regression and $K$-Means Clustering
Nanjing University（南京大学）；Carnegie Mellon University（卡内基梅隆大学）；Fudan University（复旦大学）；Princeton Univeristy（普林斯顿大学）
垂直联邦学习（Vertical Federated Learning，VFL）是机器学习的一个重要研究领域，它将数据特征分布存储在多方。然而，VFL的通信复杂性通常非常高。在本文中，我们提出了一个统一的框架，通过构建coresets在一个分布式的方式通信效率的VFL。我们研究了两个重要的学习任务中的VFL设置：正则化线性回归和$k$均值聚类，并将我们的coreset框架，这两个问题。我们从理论上表明，使用coresets可以大大降低通信复杂性，而几乎保持解决方案的质量。数值实验证实了我们的理论研究结果。
2022-10-26 cs.CG cs.DC cs.DS
Coresets for $k$-median clustering under Fréchet and Hausdorff distances
当聚类中心被限制为低复杂度时，我们给出了计算多边形曲线（在离散和连续的Fréchet距离下）和点集（在Hausdorff距离下）的$(1+\varepsilon)$ -近似$k$ -中值聚类的核心集的算法。我们是第一个这样的结果，其中coreset的大小与要聚类的输入曲线/点集的数量无关（尽管它仍然取决于每个输入对象的最大复杂度）。具体来说，对于任何$δ> 0$，核心集的大小都是$Θ\left(\frac{k^3lm^δd}{\varepsilon^2}\log\left( \frac{kl}{\varepsilon}\right)\right)$，其中$d$是环境维度，$m$是输入曲线/点集中的最大点数，而$l$是聚类中心允许的最大点数。我们正式描述了一个一般条件的限制空间的集群中心-这有助于我们推广和应用的重要性采样框架，这是由Langberg和Schulman用于计算coresets的$k$ -中值聚类的$d$ -维点的赋范空间在$\mathbb{R}^d$，聚类曲线和点集使用的Fréchet和Hausdorff度量的问题。粗略地说，该条件对簇中心的有限空间可以击中的度量球的不同组合的数量设置了上限。我们还推导出下限的coreset的大小，给定的限制，coreset必须是一个子集的输入对象。
2021-04-25 cs.CG
Coresets for Clustering with Fairness Constraints
EPFL（洛桑联邦理工学院）；Weizmann Institute of Science（魏茨曼科学研究所）；Yale University（耶鲁大学）
在最近的一项工作中，[19]研究了经典聚类问题的以下“公平”变体，例如$k$ -means和$k$ -median：给定$\mathbb{R}^d$中的一组$n$数据点和与每个数据点相关的二进制类型，目标是对点进行聚类，同时确保每个聚类中每个类型的比例与其基本比例大致相同。随后的工作集中在将此设置扩展到每个数据点具有多个非分离的敏感类型（如种族和性别）时[6]，或者解决上述工作中的聚类算法无法很好地扩展的问题。本文的主要贡献是一种公平性约束的聚类方法，涉及多个，非不相交的类型，这也是可扩展的。我们的方法是基于新的构造coreset：为$k$ -中位数目标，我们构建了一个$\varepsilon$ -coreset的大小$O(Γk^2 \varepsilon^{-d})$，其中$Γ$是不同的集合的组，一个点可能属于的数量，并为$k$ -手段目标，我们展示了如何构建一个$\varepsilon$ -coreset的大小$O(Γk^3\varepsilon^{-d-1})$。前一个结果是针对具有$k$ -中值目标的公平聚类问题的第一个已知核心集构造，后一个结果消除了对完整数据集大小的依赖性，如[39]中所述，并将其推广到多个非不相交类型。将我们的核心集插入现有的公平聚类算法中，如[5]，在几种情况下会产生最快的算法。从经验上讲，我们评估我们的方法在\textbf{Adult}，\text…
2019-12-17 cs.CG cs.DS cs.LG
Coresets for $(k, \ell)$-Median Clustering under the Fréchet Distance
提出了一种在Fréchet距离下计算$ε$ -coresets的算法，用于$\mathbb{R}^d$中多边形曲线的$(k, \ell)$-median聚类.这种类型的聚类是欧几里德$k$ -中值聚类的一种适应：我们在$\mathbb{R}^d$中给出一组$n$多边形曲线，每个曲线的复杂度（顶点数）最多为$m$，并且希望计算$k$中值曲线，使得从给定曲线到其最近中值曲线的距离之和最小。此外，我们限制的中位数曲线的复杂性，最多$\ell$每个，以抑制过度拟合，一个特定的问题，连续的数据。我们的算法在$n$中具有线性的运行时间，在$m$中具有次四次的运行时间，在$ε^{-1}$中具有二次的运行时间。它以高概率返回$ε$ -在$ε^{-1}$中大小为平方的核心集，在$n$和$m$中大小为对数的核心集。我们通过将Langberg和Feldman的改进的$ε$ -coreset框架应用于任意度量空间上的广义$k$ -median问题来实现这一结果。随后我们将这个结果与Driemel等人最近关于度量球在Fréchet距离下的VC维数的结果相结合。此外，我们的框架产生$ε$ -coresets的任何广义$k$ -median问题，其中的范围空间所导致的开放度量球的基础空间有界VC维，这是独立的兴趣。最后，我们表明，我们的$ε$ -coresets可以用来改善现有的近似算法的运行时间$(1,\el…
2021-11-19 cs.CG
Coresets for Clustering Under Stochastic Noise
Nanjing University（南京大学）；Singapore Management University（新加坡管理大学）；Yale University（耶鲁大学）；Princeton University（普林斯顿大学）
针对随机噪声下聚类核心集构建问题，提出一种新误差度量及算法，实现更小核心集和更紧的真实成本保证，核心集大小可改进多项式因子。
2025-10-27 cs.CG cs.DS cs.LG
Towards Tight Robust Coresets for $k$-Medians Clustering
Nanjing University（南京大学）；Nanyang Technological University（南洋理工大学）
针对含离群点的鲁棒 $k$-中位数问题，提出在VC/倍增维度量空间和欧氏空间中大小接近最优的核心集构造，并推广到鲁棒 $(k,z)$-聚类。
2026-06-12 cs.CG cs.DM cs.DS
Coresets for Time Series Clustering
Tsinghua University（清华大学）；Yale University（耶鲁大学）
研究了时间序列数据聚类问题的核心集构造问题。由于传感器的激增促进了实时测量和存储成本的快速下降，这个问题在包括生物学、医学和经济学在内的许多领域都变得越来越重要。特别是，我们考虑的设置，其中$N$实体上的时间序列数据是从高斯混合模型生成的自相关在$\mathbb{R}^d$中的$k$集群。我们的主要贡献是一个算法来构建这个混合模型的最大似然目标coresets。我们的算法是有效的，并在一个温和的有界性假设的基础高斯的协方差矩阵，coreset的大小是独立的实体$N$的数量和每个实体的观察数，并仅多项式依赖于$k$，$d$和$1/\varepsilon$，其中$\varepsilon$是误差参数。我们用合成数据经验性地评估了我们的岩心集的性能。
2021-10-28 cs.CG cs.DS cs.LG
Coresets for $(k,l)$-Clustering under the Fréchet Distance
聚类是划分一组给定的几何对象的任务。当对象是欧几里得空间中的点时，这是彻底研究的。对于一般度量空间中的点也有几种方法。在这篇论文中，我们考虑聚类多边形曲线，即，由线段组成的曲线，在Fréchet距离下。我们通过最小化目标函数来获得聚类，该目标函数产生一组中心，该中心诱导输入的分区。我们考虑的目标函数是所谓的$(k,l)$ - \textsc{center}，其中我们要找到最小化任何输入曲线和最近的中心曲线之间的最大距离的$k$中心曲线，以及所谓的$k$ - \textsc{median}，其中我们要找到最小化输入曲线和最近的中心曲线之间的距离之和的$k$中心曲线。给定一组$n$多边形曲线，我们感兴趣的是将这组曲线简化为$ε$ -coreset，即，具有非常相似的聚类行为的曲线的显著较小的集合。我们开发了一种构造方法，这样的$ε$ -coresets的$(k,l)$ - \textsc{center}，产生$ε$ -coresets的大小的一个多项式的$\frac{1}ε$，在时间线性的$n$和一个多项式的$\frac{1}ε$，线段。此外，我们开发了一种构造技术的$(k,l)$ - \textsc{center}，产生$ε$ -coresets的大小指数的$m$与基础$\frac{1}ε$，在时间次二次的$n$和指数的$m$与基础$\frac{1}ε$，一般的多边形曲线。最后，我们…
2019-11-06 cs.CG
Greedy Strategy Works for $k$-Center Clustering with Outliers and Coreset Construction
University of Science and Technology of China（中国科学技术大学）
本文研究了任意度量和欧氏空间中带离群点的$k$ -中心聚类问题。虽然在过去的几十年里，已经开发了许多方法，它仍然是相当具有挑战性的设计质量保证的算法，低复杂度的问题。我们的想法是启发贪婪的方法，冈萨雷斯的算法，解决普通的$k$中心聚类问题。基于一些新的观察，我们表明，这种贪婪的策略实际上可以有效地处理$k$中心聚类离群值，在聚类质量和时间复杂度。我们进一步表明，贪婪的方法产生小coreset的问题，在两倍的度量，从而降低时间复杂度显着。我们的算法很容易在实践中实现。我们在合成和真实数据集上测试了我们的方法。实验结果表明，我们的算法可以获得接近最优的解决方案，并产生较低的运行时间相比，现有的方法。
2019-04-28 cs.CG cs.LG
Towards Optimal Lower Bounds for k-median and k-means Coresets
Google Research（谷歌研究院）；Aarhus University（奥胡斯大学）；Sorbonne Université（索邦大学）
给定度量空间中的一组点，$(k,z)$聚类问题包括找到一组称为中心的$k$点，使得每个数据点到其最近中心的距离之和最小化为$z$的幂。特殊情况包括著名的k-中位数问题（$z = 1$）和k-均值问题（$z = 2$）。$k$ -中位数和$k$ -均值问题是现代数据分析的核心，海量数据应用已经提出了coreset的概念：输入点集的一个小（加权）子集，保留问题的任何解决方案的成本，直到乘法$(1 \pm \varepsilon)$因子，从而从大到小减少问题的输入。在本文中，我们提出了各种度量空间中的coreset的改进的下界。在有限度量组成的$n$点和加倍度量与加倍常数$D$，我们表明，任何coreset的$(k,z)$聚类必须至少包括$Ω(k \varepsilon^{-2} \log n)$和$Ω(k \varepsilon^{-2} D)$点，分别。这两个边界都与先前的上限匹配，直到polylog因子。在欧氏空间中，我们证明了$(k,z)$聚类的任何核心集必须至少由$Ω(k\varepsilon^{-2})$点组成。我们补充这些下限与coreset建设组成的最多$\tilde{O}(k\varepsilon^{-2}\cdot \min(\varepsilon^{-z},k))$点。
2022-02-25 cs.CG cs.DS cs.LG
A Tight VC-Dimension Analysis of Clustering Coresets with Applications
本文提出基于 VC 维的紧致 coreset 构造分析，显著改进平面图最短路径度量与 Frechet 度量下 $k$-median 聚类的 coreset 规模界。
2025-01-11 cs.CG cs.DS cs.LG
On the Sensitivity of Shape Fitting Problems
University of Iowa（爱荷华大学）
在这篇文章中，我们研究形状拟合问题，$ε$ -coresets，和总灵敏度。本文重点研究了$(j,k)$ -投影聚类问题，包括$k$ -中值/ $k$ -均值、$k$ -线性聚类、$j$ -子空间近似和整数$(j,k)$ -投影聚类问题.我们得到了这些问题的总灵敏度的上界，并获得$ε$ -coresets使用这些上界。使用降维类型的参数，我们能够大大简化早期的$k$ -中位数/ $k$ -均值聚类问题的总灵敏度的结果，并获得正加权$ε$ -coresets的几个变种的$(j,k)$ -投影聚类问题。我们还扩展了较早的结果$ε$ -coresets的整数$(j,k)$ -投射聚类问题在固定的维度的情况下，高维。
2012-10-10 cs.CG cs.LG
Fast Approximations and Coresets for (k, l)-Median under Dynamic Time Warping
针对DTW非度量导致无法用现有方法构建核集的问题，提出基于灵敏度采样框架适配、VC维界推导和新型近似算法的DTW下k-中位数ε-核集构建方法，实现多项式运行时间的近似聚类。
2024-03-07 cs.CG
Coresets and Sketches
几何数据摘要已成为几何近似算法以及几何与大数据问题交叉的重要工具。在线性或近线性时间中，大数据集可以被压缩成摘要，然后可以在摘要上运行更复杂的算法，其结果近似于完整数据集的结果。核心集和草图是这些摘要中最重要的两类。我们调查了五种类型的核心集和草图：形状拟合，密度估计，高维向量，高维点集/矩阵和聚类。
2016-06-12 cs.CG
Linear time small coresets for k-mean clustering of segments with applications
University of Haifa（海法大学）；Ben-Gurion University of the Negev（内盖夫本·古里安大学）
本文提出了一种线性时间算法，用于构造小核心集，以高效解决段的k均值聚类问题，并在实时视频跟踪中验证了其有效性。
2025-11-20 cs.CG cs.CV cs.LG
$k$-Center Clustering with Outliers in the MPC and Streaming Model
给定一个点集$P \subseteq X$，其大小为$n$，在一个具有双倍维数$d$和两个参数$k \in N$和$z \in N$的度量空间$(X,dist)$中，具有$z$离群值的$k$ -中心问题要求返回一个$k$中心集$C^\ast \subseteq X$，使得$P$中除了$z$点之外的所有点到它们在$C^\ast$中最近的中心的最大距离最小。这个问题的一个$(ε,k,z)$ -核心集是一个加权点集$P^*$，使得在$P^*$上具有$z$离群值的$k$ -中心问题的最优解给出了在$P$上具有$z$离群值的$k$ -中心问题的$(1\pmε)$ -近似.我们研究了大规模并行计算（MPC）模型中，以及在插入只有以及完全动态流模型的核心集的建设。对于任何给定的$0 < ε\le 1$，我们得到以下结果：在所有情况下，计算的coreset的大小是$O(k/ε^d+z)$。- 在MPC模型中，我们提出了一种确定性$2$轮和随机化$1$轮算法.此外，我们提供了一个确定性的算法，获得轮数，$R$和每台机器的存储之间的权衡。- 对于只插入流模型，我们提出了一个算法和一个紧的下界来支持它。-我们还讨论了动态流模型，它允许在数据流中插入和删除。在这个模型中，我们提出了第一个算法和一个下界。- 最后，我们考虑滑动窗口模型，其中我们有兴趣为流中的最后一个$W$点保持一个$(ε,k,z)$ -co…
2023-02-24 cs.CG cs.DS
A Composable Coreset for k-Center in Doubling Metrics
给出了度量空间中的点集$P$和常整数$k$。$k$ -中心问题在$P$中找到$k$点作为中心，使得$P$的任何点到其最近中心$(r)$的最大距离最小化。加倍度量是度量空间，其中对于任何$r$，半径为$r$的球可以使用常数数量的半径为$r/2$的球来覆盖。固定维欧氏空间是加倍度量。在欧氏空间中，$k$ -中心的逼近因子的下界是$1.822$，然而，存在指数依赖于$\frac{1}ε$和$k$的$(1+ε)$ -逼近算法.对于给定的集合$P_1,\ldots,P_L$的集合，可组合的核心集独立地计算子集$C_1\subset P_1, \ldots, C_L\subset P_L$，使得$\cup_{i=1}^L C_i$包含集合$\cup_{i=1}^L P_i$的度量的近似。本文针对$k$ -中心提出了一种$(1+ε)$ -近似可合成的核集，它在$|P|$中具有次线性的尺寸.这导致在MapReduce中的$k$ -中心的$(2+ε)$ -近似算法，其具有用于任何$ε>0$和次线性通信的加倍度量的恒定轮数，其基于参数修剪。我们证明了中心数$(k)$和半径$(r)$之间的权衡的指数性质，并给出了一个相关的问题，称为双聚类的可组合的coreset。同时，我们给出了一个新的参数剪枝算法，它包括$O(\frac{nk}ε)$运行时间、$O(n)$空间和度量$k$ -中心的$2+ε$逼近因子.
2019-04-24 cs.CG cs.DS
Coresets for Continuous $k$-Center in Hyperbolic Space
DGIST, Republic of Korea（大邱科学技术院）
针对固定维双曲空间中的连续k-中心问题，通过最远优先尺度划分和壳-锥分解构造了与输入半径无关的coreset，实现了线性时间常数大小近似。
2026-06-16 cs.CG cs.DS
k-Means Clustering of Lines for Big Data
$k$ -median for lines问题的输入是$\mathbb{R}^d$中的$n$线的集合$L$，目标是计算$\mathbb{R}^d$中的一组$k$中心（点），以最小化$L$中每条线与其最近中心之间的平方距离之和。这是$k$ -中值问题的直接推广，其中输入是一组$n$点而不是线。我们建议第一个PTAS计算$(1+ε)$ -对于任何常数逼近误差$ε\in (0, 1)$和常数整数$k, d \geq 1$，在时间上对该问题进行逼近$O(n \log n)$。这是通过证明在$L$中总是存在$dk^{O(k)}\log (n)/ε^2$线的加权子集（称为coreset），其近似于从$L$到任何给定的$k$点集的平方距离之和。使用传统的合并-归约技术，该coreset意味着使用$n$中接近对数的存储器、更新时间和通信，以及删除任何行但使用线性空间，在一次通过（例如，云）中将行的流集合（可能是无限的）到$M$机器的结果。这些结果适用于其他距离函数，例如$k$ -中位数（距离总和）或忽略距离给定中心最远的$m$线以处理离群值。在Amazon EC2云上的10台机器上进行的实验结果表明，该算法在实际应用中表现良好。所有的算法和实验的开放源代码也提供。本文是以下已接受论文的扩展：“$k$ -Means Clustering of Lines for Big Data”，作者Yair M…
2019-11-25 cs.CG cs.DS
Coreset for Robust Geometric Median: Eliminating Size Dependency on Outliers
Nanjing University（南京大学）
该研究针对欧几里得空间鲁棒几何中位数的coreset构建问题，提出非逐分量误差分析方法，消除了coreset规模对异常值数的依赖，还扩展至鲁棒$(k,z)$聚类，实验表现优于现有基线。
2025-10-28 cs.CG cs.DS cs.LG
Introduction to Core-sets: an Updated Survey
University of Haifa（海法大学）
在优化或机器学习问题中，我们被赋予一组项目，通常是一些度量空间中的点，目标是在一些候选解空间上最小化或最大化目标函数。例如，在聚类问题中，输入是某个度量空间中的一组点，而一个共同的目标是计算另一个空间（点、线）中的一组中心，以最小化到这些点的距离之和。在数据库查询中，我们可能需要为$k$中心的特定查询集计算这样的some。然而，传统算法无法处理现代系统，这些系统需要对来自传感器（如GPS）的无限分布式流进行并行实时计算，音频或视频到达云端，或智能手机或机器人等较弱设备的网络。核心集是输入“大数据”的“小数据”摘要，其中每个可能的查询在两个数据集上都具有大致相同的答案。通用技术使得能够对流式、分布式和动态数据进行有效的核心重置\changed{maintenance}。传统的算法，然后可以应用于这些coreset保持近似的最优解。挑战是设计coresets与可证明的权衡之间的大小和近似误差。本文以回顾的方式对此类结构进行了总结，旨在统一和简化现有的结构。
2020-11-18 cs.AI cs.CG cs.DS
Dimension-Free Parameterized Approximation Schemes for Hybrid Clustering
本文研究 Hybrid $k$-Clustering 的参数化近似，提出仅关于 $k$、$\varepsilon$ 的 FPT 双准则方案，消除维度指数依赖，并扩展到多类度量、变体及 coreset。
2025-01-07 cs.CG cs.DS
Inapproximability of Maximum Diameter Clustering for Few Clusters
本文研究固定簇数的 Max-k-diameter 聚类，提出 cloud systems 超图嵌入框架，证明 k=3 时在 ℓ1/Hamming 与 Euclidean 度量中分别无法在 1.5 和 1.304 因子内近似。
2024-04-05 cs.CC cs.CG cs.DS
