$α$ -基于近似密度的多值对象聚类
$α$-Approximation Density-based Clustering of Multi-valued Objects
摘要：
由于侵犯版权，此提交已被arXiv管理员删除。
英文摘要：
This submission has been removed by arXiv administrators due to copyright infringement.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
继续探索
相关论文
语言值指数模糊聚类
Fuzzy clustering using linguistic-valued exponent
本文的目的是研究FCM算法及其一些著名的创新，分析和发现模糊限制代数理论中用代数表示语言值变量的方法应用于FCM。然后，本文提出了一种新的基于模糊C均值聚类的算法，该算法利用模糊C均值聚类的指数参数作为模糊C均值聚类的参数。最后给出了新算法的设计、分析和实现，并通过实验验证了该算法在实际应用中解决聚类问题的能力。
cs.LG
有向图聚类的斜对称邻接矩阵
Skew-Symmetric Adjacency Matrices for Clustering Directed Graphs
Georgia Institute of Technology（佐治亚理工学院）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
基于割的有向图（有向图）聚类通常侧重于寻找密集的簇内或稀疏的簇间连接，类似于基于割的无向图聚类方法。相比之下，对于基于流动的聚类，聚类之间的边缘往往是面向一个方向，并已在迁移数据，食物网和贸易数据中发现。在本文中，我们介绍了一个频谱算法，发现基于流的聚类。该算法是基于最近的工作，使用复值厄米特矩阵表示有向图。通过建立一个代数关系之间的复值厄米特表示和相关的实值，斜对称矩阵所提出的算法产生聚类，同时完全保持在实数域。我们的算法使用更少的内存和渐近更少的计算，同时可证明保持解决方案的质量。我们还表明，该算法可以很容易地实现使用标准的计算积木，具有更好的数值特性，并贷款本身的自然解释，通过一个目标函数松弛参数。
cs.LG
基于深度函数自编码器的多维函数数据形状感知聚类
Shape-Informed Clustering of Multi-Dimensional Functional Data via Deep Functional Autoencoders
School of Computer Science and Statistics（计算机科学与统计学学院）；Trinity College Dublin（都柏林信任学院）；School of Electronic Engineering（电子工程学院）；Dublin City University（都柏林城市大学）
本文提出FAEclust深度函数自编码器框架，用于多维函数数据聚类，通过形状感知聚类目标抵抗相位变化，并经实验验证其有效性。
cs.LG
扩展一大类超复数值神经网络的万能逼近定理
Extending the Universal Approximation Theorem for a Broad Class of Hypercomplex-Valued Neural Networks
Universidade Estadual de Campinas（坎皮纳斯州立大学）
本文通过引入非退化超复代数概念，将万能逼近定理扩展至一大类超复数值神经网络，涵盖复数、四元数和tessarines等代数，为该类网络的存在性提供了理论支撑。
cs.LG
点过程值矩阵的行聚类
Row-clustering of a Point Process-valued Matrix
Texas A&M University（德州农工大学）；University of Miami（迈阿密大学）
从各种平台获取的结构化点过程数据对机器学习社区提出了新的挑战。通过对重复观测的标记点过程施加矩阵结构，提出了一种新的多级标记点过程混合模型，用于识别观测数据中潜在的异质性.具体来说，我们研究了一个矩阵，其条目是标记的对数高斯Cox过程和集群行这样的矩阵。提出了一种结合点过程函数主成分分析（FPCA）的半参数期望解（ES）算法。通过仿真研究和实际数据分析证明了该框架的有效性。
cs.LGstat.MEstat.ML
离散值数据稀疏聚类的分阶段学习
Stagewise Learning for Sparse Clustering of Discretely-Valued Data
EM在学习乘积分布的混合物时的性能通常取决于初始化。这在众包和其他应用中可能是有问题的，例如，当少量的“专家”被大量嘈杂的、不可靠的参与者稀释时。我们开发了一个新的期望最大化算法，是由这些专家。与其他方法不同的是，我们从一个单一的混合类开始。然后，该算法开发的一组“专家”在一个阶段的方式的基础上的互信息标准。在每个阶段，EM都对参与者的这个子集进行操作，有效地规范了E而不是M步骤。实验表明，分阶段EM优于众包和神经科学应用的其他初始化技术，并可以引导一个完整的EM获得的结果与那些知道确切的分布。
cs.LGq-bio.QMstat.ML
更多相关论文收起更多论文
高维矩阵值数据的最优变量聚类
Optimal Variable Clustering for High-Dimensional Matrix Valued Data
Cornell University（康奈尔大学）；TikTok
针对高维矩阵值数据，本文提出基于潜变量模型和加权协方差差分的层次变量聚类方法，证明其一致性并给出极小极大最优权重。
cs.LGmath.STstat.ME
向量值与超复数值神经网络的通用逼近定理
Universal Approximation Theorem for Vector- and Hypercomplex-Valued Neural Networks
Universidade Estadual de Campinas (UNICAMP)（坎皮纳斯州立大学）；Instituto de Pesquisa Eldorado（埃尔多拉多研究所）
本文引入非退化代数概念，将通用逼近定理从实值及部分超复数值神经网络推广到广泛的向量值神经网络。
cs.LGcs.NE
Bregman联合聚类和张量聚类的近似算法
Approximation Algorithms for Bregman Co-clustering and Tensor Clustering
MPI for Biological Cybernetics（马克斯·普朗克生物控制论研究所）；Univ. of Minnesota（明尼苏达大学）
在过去的几年中，已经对欧几里德k均值问题进行了强有力的推广，例如Bregman聚类[7]，共聚类（即，输入矩阵的行和列的同时聚类）[9，18]和张量聚类[8，34]。与k均值算法一样，这些更一般的问题也受到相关优化的NP难度的影响。研究人员已经开发了各种复杂程度的近似算法，用于k均值、k中位数，最近还用于Bregman聚类[2]。然而，似乎没有近似算法布雷格曼共和张量聚类。在本文中，我们得出的第一个（据我们所知）保证这些日益重要的聚类设置的方法。超越Bregman分歧，我们还证明了张量聚类与任意可分离度量的近似因子。通过大量的实验，我们评估我们的方法的特点，并表明它也有实际的影响。
cs.DScs.LG
复值神经网络的定量逼近结果
Quantitative approximation results for complex-valued neural networks
KU Eichstätt–Ingolstadt（艾希施泰特-英戈尔施塔特天主教大学）；Technical University of Munich（慕尼黑工业大学）
直到最近，神经网络在机器学习中的应用几乎完全依赖于实值网络。然而，最近观察到，复值神经网络（CVNN）在输入自然是复值的应用中表现出卓越的性能，例如MRI指纹识别。虽然实值网络的数学理论到目前为止已经达到了一定程度的成熟，但对于复值网络来说，这还远远不够。在本文中，我们通过使用modReLU激活函数的复值神经网络在$\mathbb{C}^d$的紧凑子集上逼近$C^n$函数来分析复值网络的表达性，modReLU激活函数由$σ(z) = \mathrm{ReLU}(|z| - 1) \, \mathrm{sgn} (z)$给出，这是实践中最流行的复激活函数之一。我们证明了导出的近似率在具有适度增长权重的modReLU网络类中是最优的（最多对数因子）。
cs.LGmath.FA
基于代数函数的Banach空间值普通和分数阶神经网络逼近
Algebraic function based Banach space valued ordinary and fractional neural network approximations
University of Memphis（孟菲斯大学）；Department of Mathematical Sciences（数学科学系）；Memphis, TN 38152, U.S.A.（美国田纳西州孟菲斯市 38152）
本文研究了拟插值Banach空间值神经网络算子对紧区间或所有实直线上的Banach空间值连续函数的一元定量逼近，包括普通逼近和分式逼近.这些逼近是通过建立Jackson型不等式导出的，这些不等式涉及到所涉及的函数或其Banach空间值分数阶导数的高阶导数的连续模。我们的运营商是通过使用由代数sigmoid函数生成的密度函数定义的。近似是逐点的和一致的规范。相关的Banach空间值前馈神经网络具有一个隐层。
cs.LGmath.CAstat.ML
Nystrom近似下的可扩展核K均值聚类：相对误差界
Scalable Kernel K-Means Clustering with Nystrom Approximation: Relative-Error Bounds
Stevens Institute of Technology（斯蒂文斯理工学院）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；International Computer Science Institute（国际计算机科学研究所）；University of California at Berkeley（加州大学伯克利分校）
核$k$ -均值聚类算法比线性$k$ -均值聚类算法能够正确地识别和提取更多样的聚类结构集合。然而，核$k$ -均值聚类是计算昂贵的非线性特征映射是高维的，有很多输入点。核近似，例如，Nyström方法，已被应用在以前的工作，以近似解决内核学习问题时，上述两个条件都存在。这项工作分析了这种范例的应用内核$k$ -均值聚类，并表明，应用线性$k$ -均值聚类算法的$\frac{k}ε (1 + o(1))$功能构建使用所谓的秩限制Nyström近似结果在集群分配，满足$1 + ε$近似比的内核$k$ -均值成本函数，相对于不使用Nyström方法的相同算法提供的保证。作为分析的一部分，这项工作建立了一个新的$1 + ε$相对误差跟踪范数保证低秩近似使用秩限制Nyström近似。在$8.1$百万实例MNIST 8 M数据集上的实证评估证明了内核$k$均值聚类与Nyström近似的可扩展性和实用性。这项工作认为，谱聚类使用Nyström近似-一个流行的和计算效率高，但理论上不健全的方法，非线性聚类-应取代内核$k$ -均值聚类Nyström近似的有效和理论上合理的组合。后一种方法的优越性能是经验验证。
cs.LGstat.ML
算子值核的随机Fourier特征
Random Fourier Features for Operator-Valued Kernels
IBISC；Université d’Évry val d’Essonne（埃松省埃夫里大学）；LTCI；Télécom ParisTech（巴黎电信学院）；Université Paris-Saclay（巴黎萨克雷大学）；Department of Information and Computer Science（信息与计算机科学系）；Aalto University（阿尔托大学）
致力于多任务学习和结构化输出学习，算子值核提供了一个灵活的工具，在再生核希尔伯特空间的背景下构建向量值函数。为了扩展这些方法，我们扩展了著名的随机傅立叶特征方法，以获得近似的算子值内核。我们提出了一个一般原则的运营商值随机傅立叶特征建设依赖于推广的Bochner定理的单调不变的运营商值的Mercer内核。利用适当的Bernstein矩阵浓度不等式，证明了有界和无界算子随机Fourier特征的核逼近的一致收敛性。一个实验的概念证明显示了近似的质量和相应的线性模型在示例数据集上的效率。
cs.LGstat.ML
具有非负矩阵分解的Nyström逼近
Nyström Approximation with Nonnegative Matrix Factorization
National University of Defense Technology（国防科技大学）
出于估计邻近聚类的需要，从有利位置或地标远程网络系统的部分距离测量，我们表明，邻近聚类问题可以有效地制定为Nyström近似问题，解决了复杂空间中的核K-均值聚类问题。我们实现的Nyström近似的基础上的地标为基础的非负矩阵分解（NMF）的过程。评估结果表明，该方法发现几乎最佳的聚类质量的合成和真实世界的数据集，因为我们改变了参数选择和网络条件的范围。
cs.LGstat.ML
KFC：一种可扩展的$k$ -中心公平聚类近似算法
KFC: A Scalable Approximation Algorithm for $k$-center Fair Clustering
Hong Kong University of Science and Technology（香港科技大学）
本文研究了基于$k-$中心目标的公平聚类问题。在公平聚类中，输入是$N$点，每个点属于$l$保护组中的至少一个，例如男性、女性、亚洲人、西班牙人。目标是将$N$点聚类成$k$簇，以最小化经典聚类目标函数。然而，还有一个额外的约束，即在某种公平性概念下，每个集群都需要是公平的。这确保了在任何组群中没有任何群体“任职人数过多”或“任职人数不足”。我们的工作建立在Chierichetti等人（NIPS 2017），Bera等人（NeurIPS 2019），Ahmadian等人（KDD 2019）和Bercea等人的工作基础上。我们获得了一个随机的$3-$近似算法的$k-$中心目标函数，击败了以前的最先进的（$4-$近似）。我们在真实数据集上测试了我们的算法，并表明我们的算法在找到良好的集群方面是有效的，没有过度代表性或代表性不足，在运行时速度，聚类成本方面超过了目前的最新技术水平，同时实现了类似的公平性违规。
cs.DScs.LG
随机化SVD近似用于词-文档矩阵的谱共聚类
Randomized SVD Approximations for Spectral Co-Clustering of Word-Document Matrices
Clemson University（克莱姆森大学）
本文提出两种随机化SVD近似方法用于词-文档矩阵的谱共聚类，通过随机投影和随机采样降低计算成本，实验表明方法选择应依据矩阵稀疏性。
cs.AIcs.LG
层次聚类：良好聚类图的$O(1)$ -近似
Hierarchical Clustering: $O(1)$-Approximation for Well-Clustered Graphs
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
层次聚类研究的是将数据集递归地划分为大小依次减小的簇，是数据分析中的一个基本问题。在这项工作中，我们研究了Dasgupta引入的层次聚类的成本函数，并提出了两个多项式时间近似算法：我们的第一个结果是一个$O(1)$ -近似算法的图形的高电导。我们简单的构造绕过了文献中已知的寻找稀疏切割的复杂递归例程。我们的第二个和主要的结果是一个$O(1)$ -近似算法的一个广泛的家庭表现出良好的集群结构的图形。这一结果概括了以前的国家的最先进的，这只适用于从随机模型生成的图形。我们的工作的意义是证明了合成和现实世界的数据集，我们提出的算法优于先前提出的算法具有明确的聚类结构的图的实证分析。
cs.DScs.LG
在线层次聚类近似
Online Hierarchical Clustering Approximations
Google Research（谷歌研究院）
层次聚类是一种广泛使用的方法，用于在多个粒度级别上对数据集进行聚类。尽管它的流行，现有的算法，如层次凝聚聚类（HAC）是有限的离线设置，因此需要整个数据集是可用的。这就禁止了它们在现代学习应用程序中经常遇到的大型数据集上的使用。在本文中，我们考虑层次聚类的在线设置，点到达一个时间。我们提出了两种算法，寻求优化莫斯利和王（MW）的收入函数，一个变种的Dasgupta成本。这些算法在效率和MW收入性能之间提供了不同的权衡。第一个算法，OTD，是一个高效的在线自上而下的算法，可证明实现了1/3近似的MW收入下的数据分离的假设。第二个算法，OHAC，是一个在线对应离线HAC，这是已知的产生1/3近似MW收入，并在实践中产生良好的质量集群。我们表明，OHAC近似离线HAC利用一种新的分裂合并过程。我们的经验表明，OTD和OHAC提供显着的效率和集群质量增益分别超过基线。
cs.LGstat.ML
四种相关聚类算法综述
Four Algorithms for Correlation Clustering: A Survey
The University of Chicago（芝加哥大学）
在相关聚类问题中，我们给出了一组具有成对相似性信息的对象。我们的目标是将这些对象划分为尽可能匹配此信息的聚类。更具体地，成对信息被给出为加权图$G$，其边缘被二元分类器标记为"相似”或"不相似”。我们的目标是产生一个聚类，最大限度地减少权重的"分歧”：权重的总和相似的边缘跨集群和集群内的不同边缘。在这一论述中，我们集中在$G$是完整的和未加权的情况下。在此假设下，我们探讨四种近似算法的相关聚类问题。特别是，我们描述了以下算法：（i）Bansal，Blum和Chawla的$17429-$近似算法，（ii）Charikar，Guruswami和Wirth的$4-$近似算法，（iii）Ailon，Charikar和Newman的$3-$近似算法，（iv）Chawla，Makarychev，Schramm和Yaroslavtsev的$2.06-$近似算法。
cs.DScs.LG
归一化模块度和关联聚类的常数逼近
Constant Approximation for Normalized Modularity and Associations Clustering
Google Research（谷歌研究院）；University of Cologne（科隆大学）
我们研究了一个广泛的目标下的图聚类的问题，其中一个集群的质量定义的基础上在集群中的边缘的数量之间的比率，和在集群中的顶点的总重量。我们表明，我们的定义是密切相关的流行的聚类措施，即规范化的协会，这是一个双重的规范化的切割目标，和规范化的模块化。我们给出了一个线性时间常数近似算法，这意味着第一常数因子近似算法的归一化模块和归一化关联。
cs.DScs.LGcs.SI
分层$\mathcal{F}$-聚类：聚类成树和有界直径图的近似与难度
Hierarchical $\mathcal{F}$-Clustering: Approximation and Hardness of Clustering into Trees and Bounded Diameter Graphs
研究分层$\mathcal{F}$-聚类问题，针对$\mathcal{F}$为树和有界直径图的情况，给出多项式时间近似算法，主要贡献是基于线性规划的近似框架，还证明在小集扩展假设下这两种聚类不能在常数因子内近似。
cs.DScs.LG
一种改进的公平相关聚类算法
Improved Approximation for Fair Correlation Clustering
Google Research（谷歌研究院）；Dartmouth College（达特茅斯学院）
相关聚类是无监督机器学习中普遍存在的范例，其中解决不公平性是一个主要挑战。受此启发，我们研究了公平相关聚类，其中数据点可能属于不同的保护组，目标是确保跨集群的所有组的公平表示。我们的文件显着概括和改进的艾哈迈迪等人以前的工作的质量保证。和艾哈迈迪等人。如下。- 我们允许用户指定一个任意的上限上的集群中的每个组的表示。- 我们的算法允许个人拥有多个受保护的功能，并同时确保所有功能的公平性。- 我们证明保证聚类质量和公平性，在这个一般的设置。此外，这改善了在以前的工作中研究的特殊情况下的结果。我们在真实数据上的实验表明，与最优解相比，我们的聚类质量要比我们的理论结果好得多。
cs.DScs.LG
预算上的图近似和聚类
Graph Approximation and Clustering on a Budget
Weizmann Institute of Science（魏茨曼科学研究所）
我们考虑从相似性矩阵（如谱聚类和低维嵌入）学习的问题，当计算成对相似性是昂贵的，只有有限数量的条目可以观察到。我们提供了一个理论分析，使用标准的概念图近似，显着推广以前的结果（集中在两个集群的谱聚类）。我们还提出了一种基于自适应采样的新算法方法，该方法在实验上与之前的方法相匹配或改进，同时更加通用且计算成本更低。
cs.AIcs.CVcs.LG
通过实例解释聚类：复杂性和有效的近似算法
Explainable Clustering via Exemplars: Complexity and Efficient Approximation Algorithms
Biocomplexity Institute, University of Virginia（弗吉尼亚大学生物复杂性研究所）；University at Albany – State University of New York（纽约州立大学奥尔巴尼分校）；University of California Davis（加州大学戴维斯分校）；University of Lyon（里昂大学）；Joint AI Center (JAIC)（联合人工智能中心（JAIC））
可解释人工智能（XAI）是一个重要的发展领域，但对于聚类仍然相对研究不足。我们提出了一个可解释的设计聚类方法，不仅发现集群，但也范例来解释每个集群。心理学中概念定义的范例学派支持使用范例进行理解。我们表明，找到一小组样本来解释即使是单个集群也在计算上是难以解决的;因此，整个问题具有挑战性。我们开发了一个近似算法，提供可证明的性能保证方面的聚类质量以及所使用的样本的数量。这个基本算法解释了每个聚类中的所有实例，而另一个近似算法使用有限数量的样本以允许更简单的解释，并可证明地覆盖了所有实例的大部分。实验结果表明，我们的工作是有用的领域，涉及难以理解的图像和文本的深度嵌入。
cs.AIcs.LG
聚类包围满足低秩张量近似
Clustering Ensemble Meets Low-rank Tensor Approximation
Southeast University（东南大学）；City University of Hong Kong（香港城市大学）
本文探讨了聚类集成问题，其目的是将多个基本聚类组合起来，以产生比单个聚类更好的性能。现有的聚类集成方法通常构造指示样本之间的成对相似性的共关联矩阵，作为来自不同基聚类的连接矩阵的加权线性组合，并且然后采用所得的共关联矩阵作为现成聚类算法的输入，例如，谱聚类然而，协同关联矩阵可能由较差的基本聚类支配，从而导致较差的性能。在本文中，我们提出了一种新的低秩张量近似的方法来解决这个问题，从全局的角度来看。具体来说，通过检查两个样本在不同的基本聚类下是否被聚类到同一个聚类，我们推导出一个相干链接矩阵，该矩阵包含样本之间有限但高度可靠的关系。然后，我们堆叠的相干连接矩阵和协关联矩阵，以形成一个三维张量，其低秩属性被进一步探讨传播的相干连接矩阵的信息的协关联矩阵，产生一个细化的协关联矩阵。我们制定了该方法作为一个凸约束优化问题，并有效地解决它。在7个基准数据集上的实验结果表明，与12种最先进的方法相比，该模型在聚类性能上取得了突破。据我们所知，这是第一个探索低秩张量在聚类集成上的潜力的工作，这与以前的方法有根本的不同。
cs.LGstat.ML
基于紧秩近似的鲁棒子空间聚类
Robust Subspace Clustering via Tighter Rank Approximation
Southern Illinois University（南伊利诺伊大学）
矩阵秩最小化问题一般是NP-难的。核范数在最近的许多研究中被用来代替秩函数。然而，核范数近似将所有奇异值加在一起，并且近似误差可能在很大程度上取决于奇异值的大小。这可能会限制其处理许多实际问题的能力。在本文中，反正切函数被用来作为一个更紧密的逼近秩函数。我们将其用于具有挑战性的子空间聚类问题。对于这个非凸最小化问题，我们开发了一种有效的优化程序的基础上的一种增广拉格朗日乘子（ALM）方法。大量的人脸聚类和运动分割实验表明，该方法是有效的秩近似。
cs.AIcs.CVcs.LG
针对整数值时间序列数据的神经似然近似
Neural Likelihood Approximation for Integer Valued Time Series Data
University of Adelaide（阿德莱德大学）
针对整数值时间序列模型似然难解、现有基于仿真的推断方法实现难且计算成本高的问题，提出可通过底层模型无条件仿真训练的神经似然近似方法，在多类模型上验证了其准确性与计算效率优势。
cs.LGstat.ML
度量空间和欧氏空间中公平聚类的核集及其应用
On Coresets for Fair Clustering in Metric and Euclidean Spaces and Their Applications
University of Bergen（卑尔根大学）
公平聚类是聚类的一种受约束的变体，其目标是划分一组彩色点，使得每个聚类中任何颜色的点的分数或多或少等于数据集中该颜色的点的分数。这种变体最近由Chierichetti等人[NeurIPS，2017]在一项开创性的工作中引入，并在聚类文献中广泛流行。在本文中，我们提出了一种新的构造的核心集的公平聚类的基础上随机抽样。新的结构使我们能够获得第一个coreset公平聚类一般度量空间。对于欧氏空间，我们得到了第一个其大小不指数依赖于维数的coreset。我们的coreset结果解决了Schmidt et al. [WAOA，2019]和Huang et al. [NeurIPS，2019]提出的开放问题。新的coreset结构有助于设计几个新的近似和流算法。特别地，我们得到了第一个度量公平聚类的真常数-近似算法，其运行时间是固定参数可处理的（FPT）。在欧几里德的情况下，我们推导出第一个$(1+ε)$ -近似算法的公平聚类的时间复杂度是近线性的，并不依赖于空间的维数指数。此外，我们的核心集建设计划是相当普遍的，并产生了广泛的约束聚类问题的核心集。这导致这些问题在一般度量和近线性时间$(1+ε)$ -近似的欧几里德度量的改进常数近似。
cs.DScs.LG
基于强三元闭包标记的相关聚类：快速近似算法和实用下界
Correlation Clustering via Strong Triadic Closure Labeling: Fast Approximation Algorithms and Practical Lower Bounds
Texas A&M University（德州农工大学）
相关聚类是一种基于成对相似性和相异性得分的聚类框架，但其最佳近似算法依赖于不切实际的线性规划松弛。我们提出了更快的近似算法，避免这些松弛，两个研究良好的特殊情况下：集群编辑和集群删除。我们完成这一点，通过绘制新的连接到边缘标签的问题有关的原则，强三元封闭。这导致了更快和更实用的线性规划算法，以及极其可扩展的组合技术，包括第一个组合近似算法的集群删除。在实践中，我们的算法产生近似的解决方案，几乎匹配最好的算法的质量，而缩放到更大的数量级的问题。
cs.DMcs.DScs.LG
差分私有聚类：紧近似比
Differentially Private Clustering: Tight Approximation Ratios
Google Research（谷歌研究院）
我们研究的任务差异私有集群。对于几个基本的聚类问题，包括欧几里德DensestBall，1-Cluster，k-means和k-median，我们给出了高效的差分私有算法，这些算法可以实现与任何非私有算法基本相同的近似比，同时只会产生很小的附加误差。这改进了现有的有效算法，仅实现一些大的常数近似因子。我们的研究结果也意味着一个改进的算法的样本和聚合隐私框架。此外，我们表明，在我们的1-集群算法中使用的工具之一，可以用来得到一个更快的量子算法在一个中等数量的维度的ClosestPair。
cs.CRcs.DScs.LG
递归最近聚集（ReNA）：用于结构化信号近似的快速聚类
Recursive nearest agglomeration (ReNA): fast clustering for approximation of structured signals
Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）；University Paris-Saclay（巴黎萨克雷大学）；Institut de Mathématiques de Toulouse（图卢兹数学研究所）；Université de Toulouse（图卢兹大学）；CNRS（法国国家科学研究中心）
在这项工作中，我们重温快速降维方法，随机投影和随机采样。我们的目标是总结数据，以减少后续分析的计算成本和内存占用。当感兴趣的信号具有强结构时，例如具有图像时，这种降维可以是非常有效的。我们专注于这种设置和调查功能聚类方案的数据减少，捕捉这种结构。快速降维的一个障碍是，好的聚类伴随着大的算法成本。我们通过贡献一个线性时间凝聚聚类方案，递归最近聚集（ReNA）来解决这个问题。与现有的快速凝聚方案不同，它避免了产生巨大的集群。我们的经验验证，它近似的数据，以及传统的方差最小化聚类方案，具有二次复杂性。此外，我们分析了信号近似与特征聚类，并表明它可以去除噪声，改善后续的分析步骤。因此，通过使用ReNA对特征进行聚类来减少数据，可以产生非常快速和准确的模型，从而能够在预算范围内处理大型数据集。我们的理论分析得到了广泛的实验公开的数据，说明了计算效率和去噪性能的降维计划。
cs.LGstat.ML
使用复值神经网络的最优逼近
Optimal approximation using complex-valued neural networks
KU Eichstätt-Ingolstadt（艾希施泰特-英戈尔施塔特大学）；MIDS
本文首次给出适用于modReLU等广泛激活函数的复值神经网络定量逼近界，证明误差按m^{-k/(2n)}缩放且该速率在自然连续性假设下最优，并揭示连续逼近方法逼近C^k-函数时不可避免的维度灾难。
cs.LGmath.FAstat.ML
基于Nystrom近似的可伸缩谱聚类：实践与理论
Scalable Spectral Clustering with Nystrom Approximation: Practical and Theoretical Aspects
University of Massachusetts, Lowell（马萨诸塞大学洛厄尔分校）
谱聚类技术是信号处理和机器学习中用于划分复杂数据集的有价值的工具。谱聚类的有效性源于基于创建相似图和计算拉普拉斯矩阵的谱分解来构造非线性嵌入。然而，谱聚类方法无法扩展到大的数据集，因为高的计算成本和内存使用。解决这些问题的一种流行方法是利用Nystrom方法，这是一种有效的基于采样的算法，用于计算大型半正定矩阵的低秩近似。本文演示了以前流行的基于Nystrom的谱聚类方法有严重的局限性。现有的时间有效的方法忽略了重要的信息，过早地减少与采样点的相似性矩阵的秩。此外，目前的理解是有限的，关于如何利用Nystrom近似将影响频谱嵌入近似的质量。为了解决这些限制，这项工作提出了一个原则性的谱聚类算法，利用频谱特性的相似性矩阵与采样点调节精度效率的权衡。我们提供了理论结果，以减少目前的差距和数值实验与实际和合成数据。实验结果表明，该方法的有效性和效率相比，现有的谱聚类技术的基础上Nystrom方法和其他有效的方法。这项工作的总体目标是为未来的研究方向提供一个改进的基线，以加速谱聚类。
cs.CVcs.LGstat.ML
社会公平聚类的近似算法
Approximation Algorithms for Socially Fair Clustering
Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）
我们提出了一个$(e^{O(p)} \frac{\log \ell}{\log\log\ell})$近似算法的社会公平的聚类与$\ell_p$目标。在这个问题中，我们给出了度量空间中的一组点。每个点属于一个（或多个）$\ell$组。我们的目标是找到一个$k$ -medians、$k$ -means或更一般的$\ell_p$ -clustering，它同时适合所有组。更准确地说，我们需要找到一组$k$中心$C$，以便最小化$\sum_{u \text{ in group }j} d(u,C)^p$的所有组$j$上的最大值。社会公平聚类问题由Ghadiri，Samadi和Vempala [2021]以及Abbasi，Bhaskara和Venkatasubramanian [2021]独立提出。我们的算法改进和推广了他们的$O(\ell)$ -近似算法的问题。该问题的自然LP松弛具有$Ω(\ell)$的完整性间隙。为了得到我们的结果，我们引入了一个加强的LP松弛，并表明它有一个完整性间隙$Θ(\frac{\log \ell}{\log\log\ell})$固定的$p$。此外，我们提出了一种双标准逼近算法，该算法推广了Abbasi等人[2021]的双标准逼近。
cs.DScs.LGstat.ML
参数化图聚类与边标注的更快近似算法
Faster Approximation Algorithms for Parameterized Graph Clustering and Edge Labeling
Texas A&M University（德克萨斯农工大学）
针对 NP 难的 LambdaCC 参数化图聚类框架，提出基于新型参数化边标注问题的快速纯组合近似算法，显著提升可扩展性，并为既有启发式方法提供事后近似保证。
cs.DMcs.DScs.LG
复值神经网络的通用逼近定理
The universal approximation theorem for complex-valued neural networks
Technical University of Munich（慕尼黑工业大学）；University of Vienna（维也纳大学）；Catholic University of Eichstätt-Ingolstadt（艾希施泰特-因戈尔施塔特天主教大学）
我们推广了经典的神经网络的通用逼近定理的情况下，复值神经网络。准确地说，我们认为前馈网络与复杂的激活功能$σ: \mathbb{C} \to \mathbb{C}$，其中每个神经元执行操作$\mathbb{C}^N \to \mathbb{C}, z \mapsto σ(b + w^T z)$与权重$w \in \mathbb{C}^N$和偏置$b \in \mathbb{C}$，并与$σ$应用组件。我们完全刻画了这些激活函数$σ$的相关的复杂网络具有普遍的逼近属性，这意味着他们可以一致地逼近任何连续函数的任意紧子集的$\mathbb{C}^d$任意好。与真实网络的经典情况不同，产生具有普适逼近性质的网络的“好激活函数”集合取决于人们是否考虑深层网络或浅层网络而显著不同：对于至少有两个隐藏层的深层网络，只要$σ$既不是多项式，也不是全纯函数或反全纯函数，普适逼近性质就成立。另一方面，浅网络是通用的当且仅当$σ$的实部或虚部不是多调和函数。
cs.LGmath.FAstat.ML
Banach空间值随机特征模型的通用逼近性质，包括随机神经网络
Universal approximation property of Banach space-valued random feature models including random neural networks
Nanyang Technological University, Division of Mathematical Sciences（南洋理工大学数学科学学院）；ETH Zurich, Department of Mathematics（苏黎世联邦理工学院数学系）
本文研究Banach空间值随机特征学习的通用逼近性质，通过随机初始化特征映射仅训练线性读出层，证明在Bochner空间中的逼近结果，并推导逼近速率和学习算法。
cs.LGmath.PRstat.ML
min max correlation clustering 的 4-近似算法
A 4-approximation algorithm for min max correlation clustering
TU Dresden（德累斯顿工业大学）；Center for Scalable Data Analytics and AI Dresden/Leipzig（德累斯顿/莱比锡可扩展数据分析与人工智能中心）
针对 min max correlation clustering 问题，提出基于下界技术的完全图组合 4-近似算法，并辅以贪心启发式扩展，在多个基准数据集上提升了求解质量与运行时间。
cs.DMcs.DScs.LG
社会公平$k$聚类的常数因子近似算法
Constant-Factor Approximation Algorithms for Socially Fair $k$-Clustering
Georgia Tech（佐治亚理工学院）
研究了社会公平的$(\ell_p, k)$ -聚类问题的近似算法，该问题的特例包括社会公平的$k$ -中位数（$p=1$）和社会公平的$k$ -均值（$p=2$）问题.本文提出了（1）至多具有$k+m$中心的多项式时间$(5+2\sqrt{6})^p$ -近似，（2）具有时间$n^{2^{O(p)}\cdot m^2}$中心的$(5+2\sqrt{6}+ε)^p$ -近似，（3）具有时间$k^{m}\cdot\text{poly}(n)$的$(15+6\sqrt{6})^p$近似.第一个结果是通过使用线性规划序列的迭代舍入方法的改进而获得的。后两个结果是通过对（2）使用稀疏化方法并通过对（3）进行穷举搜索将具有多达个$k+m$中心的解转换为具有$k$中心的解而获得的。我们还比较了我们的算法的性能与现有的双准则算法，以及完全$k$中心近似算法的基准数据集，并发现我们的算法也优于现有的方法在实践中。
cs.AIcs.DScs.LG
谱聚类：近似算法的实证研究及其在员工流失问题中的应用
Spectral Clustering: An empirical study of Approximation Algorithms and its Application to the Attrition Problem
University of California, Los Angeles（加州大学洛杉矶分校）；Instituto Tecnológico Autónomo de México（墨西哥自治技术研究所）；University of Nebraska-Lincoln（内布拉斯加大学林肯分校）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；Claremont McKenna College（克莱蒙特·麦肯纳学院）
本文通过实验评估多种谱聚类近似方法，并应用于员工流失预测问题，展示了近似谱聚类在保持分类准确性的同时降低计算成本的有效性。
cs.LGcs.NAmath.NA
具有可证明近似保证的差分隐私层次聚类
Differentially-Private Hierarchical Clustering with Provable Approximation Guarantees
UC San Diego（加州大学圣地亚哥分校）；Google（谷歌）
本文在 Dasgupta 框架下研究了差分隐私层次聚类，证明了误差下界，提出了多项式与指数时间近似算法，并在随机块模型下设计了能精确恢复块的近似算法，最后通过实验验证了性能。
cs.CRcs.DScs.LG
低秩二元矩阵逼近问题的逼近格式
Approximation Schemes for Low-Rank Binary Matrix Approximation Problems
University of Bergen（卑尔根大学）
我们提供了一个随机的线性时间近似方案的一个通用问题的二进制向量的聚类受到额外的约束。新的约束聚类问题包括一些问题，并通过解决它，我们得到了一些研究良好的基本问题，关于二进制向量的聚类和低秩逼近的二进制矩阵的第一线性时间近似计划。我们的方法可以解决的问题包括\textsc{Low GF(2)-Rank Approximation}、\textsc{Low Boolean-Rank Approximation}和各种版本的\textsc{Binary Clustering}。例如，对于\textsc{Low GF(2)-Rank Approximation}问题，其中对于$m\times n$二进制矩阵$A$和整数$r>0$，我们寻找$GF_2$秩至多为$r$的二进制矩阵$B$，使得矩阵$A-B$的$\ell_0$范数最小，我们的算法对于时间上的任何$ε>0$ $ f(r,ε)\cdot n\cdot m$，其中$f$是某个可计算函数，输出概率至少为$(1-\frac{1}{e})$的$(1+ε)$近似解。我们的近似算法大大提高了以前的作品的运行时间和近似因子。我们还给出了这些问题在时间上运行的（确定性）PTASes $n^{f(r)\frac{1}{ε^2}\log \frac{1}ε}$，其中$f$是依赖于问题的一些函数。我们的算法的约束聚类问题是基于一个新的采样引理，这是有趣的。
cs.CCcs.DScs.LG
个体公平聚类的改进近似算法
Improved Approximation Algorithms for Individually Fair Clustering
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；Technical University of Dortmund（多特蒙德工业大学）
我们考虑具有$\ell_p$ -范数成本的$k$ -聚类问题，其中包括$k$ -中位数，$k$ -均值和$k$ -中心，在Jung等人提出的公平性概念下。[2020]：给定一组大小为$n$的点$P$，如果$P$中的每个点在其$n/k$最近邻居中都有一个中心，则一组$k$中心会导致公平聚类。Mahabadi和Vakilian [2020]提出了一种用于公平聚类的$(p^{O(p)},7)$ -双准则近似，具有$\ell_p$ -范数成本：每个点在最多$7$乘以其到其$(n/k)$ -第最近邻居的距离的距离内找到一个中心，并且解决方案的$\ell_p$ -范数成本至多是最佳公平解决方案的成本的$p^{O(p)}$倍。在这项工作中，对于任何$\varepsilon>0$，我们提出了一个改进的$(16^p +\varepsilon,3)$ -双标准这个问题。此外，对于$p=1$（$k$ -中位数）和$p=\infty$（$k$ -中心），我们分别提出了改进的成本近似因子$7.081+\varepsilon$和$3+\varepsilon$。为了实现我们的保证，我们扩展了[Charikar等人，2002，Swamy，2016]，并设计了拟阵约束下具有$\ell_p$ -范数成本的设施选址的$16^p$ -近似算法。此外，我们的方法建议从我们的个体公平聚类减少到Kleindessner等人提出…
cs.AIcs.CYcs.DS
Banach空间值高斯随机变量的条件化：基于鞅的逼近方法
Conditioning of Banach Space Valued Gaussian Random Variables: An Approximation Approach Based on Martingales
University of Stuttgart（斯图加特大学）
本文通过鞅方法研究Banach空间值联合高斯随机变量的条件分布，证明其仍为高斯且可由有限维逼近确定，并应用于连续高斯过程的条件化，实现一致逼近，深化了对机器学习中高斯过程的理解。
cs.LGmath.PRmath.ST
公平相关聚类
Fair Correlation Clustering
Google Research（谷歌研究院）
本文研究了公平性约束下的相关聚类问题。最近已经研究了$k$ -中值和$k$ -中心聚类的公平变体，并且已经提出了使用称为公平分解的概念的近似算法。在几种重要的公平性约束条件下，我们得到了公平相关聚类的近似算法。我们的研究结果取决于通过引入一个新的组合优化问题获得相关聚类的Fairlet分解。我们定义了一个公平分解的成本类似的$k$ -中值成本，这使我们能够获得广泛的公平性约束的近似算法。我们补充我们的理论结果与我们的算法在真实的图上的深入分析，我们表明，公平的解决方案，相关聚类可以获得有限的成本增加相比，国家的最先进的（不公平的）算法。
cs.AIcs.DScs.LG
通过平滑秩近似实现鲁棒子空间聚类
Robust Subspace Clustering via Smoothed Rank Approximation
Southern Illinois University（南伊利诺伊大学）
本文提出基于对数-行列式秩近似的方法，用于子空间聚类，以提高精度并有效处理误差和噪声。
cs.CVcs.ITcs.LG
基于低秩双随机矩阵分解的聚类
Clustering by Low-Rank Doubly Stochastic Matrix Decomposition
Aalto University（阿尔托大学）
提出一种超越矩阵分解的低秩学习方法，通过两步二分随机游走逼近聚类分配概率，利用KL散度最小化实现判别模型的最大似然估计，并采用松弛的MM算法优化，显著提升大规模流形数据的聚类纯度。
cs.CVcs.LGcs.NA
