Hybrid Multisource Feature Fusion for the Text Clustering
University of Electronic Science and Technology of China（电子科技大学）
文本聚类技术是一种无监督的文本挖掘方法，用于将大量的文本文档划分成组。已有研究表明，文本聚类算法很难获得比监督方法更好的性能，其聚类性能高度依赖于所选取的文本特征。目前，已有多种不同类型的文本特征生成算法，每种算法都是从特定的方面提取文本特征，如向量空间模型（VSM）、分布式词嵌入等，因此寻求一种新的方法从语料中获取尽可能完整的特征是提高聚类效果的关键。本文提出了一种混合多模型特征融合（HMFF）框架，该框架由多模型特征表示、互相似矩阵和特征融合三部分组成，通过对每个特征源构造互相似矩阵，并通过降维将互相似矩阵中的鉴别特征融合生成HMFF特征，则k均值聚类算法可以被配置为将输入样本划分为组。实验测试表明，我们的HMFF框架在11个公共基准数据集中的7个上的性能优于其他最近发表的算法，并且在其余4个基准数据集上也具有领先的性能。最后，我们在一个未知聚类数的COVID-19数据集上将HMFF框架与竞争对手进行了比较，结果表明HMFF框架生成的聚类将相似样本划分得更近。
2021-08-24 cs.CL
Neural Text Classification by Jointly Learning to Cluster and Align
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Pittsburgh（匹兹堡大学）
分布式文本聚类提供语义信息表示，并捕获每个词和语义聚类质心之间的相关性。我们扩展的神经文本聚类方法的文本分类任务，通过一个潜在的变量模型和分布式词嵌入的相互作用，以丰富的令牌的表示和测量令牌和每个可学习的聚类中心之间的相关性。该方法联合学习词聚类中心和聚类标记对齐，在多个基准数据集上取得了最新的结果，证明了所提出的聚类标记对齐机制确实有利于文本分类。值得注意的是，我们的定性分析已经明显地表明，所提出的模型学习的文本表示是符合我们的直觉。
2020-11-24 cs.CL
Enhancement of Short Text Clustering by Iterative Classification
Dalhousie University（达尔豪西大学）
短文本聚类是一个具有挑战性的任务，由于缺乏信号包含在这样的短文本。在这项工作中，我们提出了迭代分类作为一种方法来浪费聚类质量（例如，准确性）的短文本。给定使用任意聚类算法获得的短文本的聚类，迭代分类应用离群值去除以获得无离群值的聚类。然后，它训练一个分类算法，使用非离群值的基础上，他们的集群分布。使用训练好的分类模型，迭代分类对离群值进行重新分类，以获得一组新的聚类。通过多次重复，我们获得了更好的文本聚类。我们的实验结果表明，所提出的聚类增强方法不仅提高了不同聚类方法的聚类质量（例如，k-means、k-means和分层聚类），而且在几个短文本数据集上的性能也优于现有技术的短文本聚类方法，具有统计上显著的优势。
2020-01-31 cs.CL cs.IR cs.LG
Agentic Clustering: Controllable Text Taxonomies via Multi-Agent Refinement
Burning Glass Institute（Burning Glass研究院）；Harvard University（哈佛大学）
提出一种基于多智能体（提议者、合成者、审计者、调查者、批评者）的自适应文本聚类方法，通过编排器LLM动态调整聚类流程，在七个公开基准上实现最先进性能，ARI最高提升32%。
2026-10-14 cs.CL
LLM-MemCluster: Empowering Large Language Models with Dynamic Memory for Text Clustering
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；William & Mary（威廉与玛丽学院）
LLM-MemCluster通过动态内存和双提示策略，实现端到端的文本聚类，优于现有基线方法。
2026-04-07 cs.CL
IDoFew: Intermediate Training Using Dual-Clustering in Language Models for Few Labels Text Classification
University of Technology Sydney（悉尼科技大学）；College of Computer Science and Information Technology（计算机科学与信息技术学院）；University of New South Wales（新南威尔士大学）；University of Southampton（南安普顿大学）；Islamic University of Madinah（麦地那伊斯兰大学）
针对少标签文本分类的冷启动问题，提出两阶段中间聚类结合微调的IDoFew模型，利用互补算法生成可靠伪标签以减少预测错误，显著优于对比模型。
2024-01-08 cs.CL
Federated Learning for Short Text Clustering
Zhejiang University（浙江大学）
本文针对隐私约束下分布式短文本聚类的空白，提出含鲁棒聚类与联邦中心聚合的FSTC框架，结合最优传输与高斯-均匀混合模型生成可靠伪标签，在三个数据集上性能显著优于现有基线。
2023-11-23 cs.AI cs.CL cs.IR
Spot the Bot: Distinguishing Human-Written and Bot-Generated Texts Using Clustering and Information Theory Techniques
National Research University Higher School of Economics（国家研究型大学高等经济学院）
针对生成文本难以区分且现有方法依赖标注数据和模型架构先验知识的问题，提出一种基于无监督学习的机器人识别算法，结合聚类与信息论技术构建稳健模型，有效检测不同类型机器人生成的文本。
2023-11-19 cs.CL
Learning Taxonomy for Text Segmentation by Formal Concept Analysis
"Babe s-Bolyai" University Cluj-Napoca, Romania
本文探讨了从文本中导出分类法和面向概念的文本分割问题。形式概念分析（FCA）方法被用来解决这两个语言问题。建议的分割方法提供了一个概念性的观点，文本分割，使用上下文驱动的句子聚类。面向概念的聚类分割算法（COCS）是基于k-均值线性聚类的句子。使用COCS算法获得的实验结果。
2010-10-12 cs.CL
Clustering Comparable Corpora of Russian and Ukrainian Academic Texts: Word Embeddings and Semantic Fingerprints
University of Oslo（奥斯陆大学）；University of Helsinki（赫尔辛基大学）；National Research University Higher School of Economics（国立研究型大学高等经济学院）
我们提出了我们的经验，在应用分布式语义（神经词嵌入）的问题，表示和聚类文件中的双语可比语料库。我们的数据是俄罗斯和乌克兰学术文本的集合，其主题是他们的学术领域。为了建立这些文档的独立于语言的语义表示，我们在单语语料库上训练神经分布模型，并学习从一种语言到另一种语言的向量的最佳线性变换。由此产生的矢量，然后用来产生“语义指纹”的文件，作为输入到聚类算法。所提出的方法进行了比较，包括“正交翻译”与Levenshtein编辑距离的几个基线，并优于他们的一个很大的保证金。我们还表明，语言独立的“语义指纹”优于多语言聚类算法在以前的工作中提出的，在同一时间需要较少的语言资源。
2016-04-18 cs.CL
Clustering of Deep Contextualized Representations for Summarization of Biomedical Texts
近年来，将领域知识融入文本摘要过程的摘要器已经优于一般方法，特别是对于生物医学文本的摘要。然而，领域知识库的建设和维护是资源密集型的任务，需要大量的人工注释。在本文中，我们证明了从预训练的深度语言模型BERT中提取的上下文表示可以有效地用于测量句子之间的相似性并量化信息内容。实验结果表明，我们的基于BERT的摘要器可以提高生物医学摘要的性能。虽然摘要器不使用任何领域知识的来源，它可以捕捉句子的上下文比比较方法更准确。源代码和数据可在https://github.com/BioTextSumm/BERT-based-Summ上获得。
2019-08-22 cs.CL
ClusterLLM: Large Language Models as a Guide for Text Clustering
University of California, San Diego（加利福尼亚大学圣迭戈分校）
本研究提出ClusterLLM文本聚类框架，借助ChatGPT反馈，通过难三元组问题微调嵌入器、成对问题调整聚类粒度，在14个数据集上以低成本提升了聚类质量。
2023-11-03 cs.CL
Clustering Prominent People and Organizations in Topic-Specific Text Corpora
Claremont Graduate University（克莱蒙特研究生大学）；Prince Sattam Bin Abdulaziz University（萨塔姆·本·阿卜杜勒阿齐兹王子大学）
文本文档中的命名实体是存在于现实世界中的文档中的人、组织、位置或其他类型的对象的名称。一个持续的研究挑战是使用计算技术来识别文本文档中的此类实体。一旦识别出来，就可以利用几种文本挖掘工具和算法来利用这些发现的命名实体并改进NLP应用程序。提出了一种基于语义相似度的人名和组织名聚类方法。该方法依赖于常见的命名实体识别技术和最近的词嵌入模型。使用用于命名实体的词嵌入模型生成的语义相似性分数用于聚类人和组织类型的相似实体。两名人类评委在一个由4,821篇关于特定主题的文章组成的语料库上运行后，评估了该方法的十种变体。该方法的性能进行了测量，使用三个定量措施。这三个指标的结果表明，该方法是有效的语义相似的命名实体聚类。
2019-07-07 cs.CL
Detecting Sub-Topic Correspondence through Bipartite Term Clustering
本文提出了一种新的任务，检测子主题对应的一对文本片段，提高文本相似性的共同概念。这个任务是通过耦合相应的术语子集，通过二分聚类。本文提出了一种基于成本的聚类方案，并将其与单链路方法的二分版本进行了比较，提供了说明性的结果。
1999-08-01 cs.CL
An Enhanced Model-based Approach for Short Text Clustering
School of Computer Science and Technology, Shandong University (Qingdao)（山东大学（青岛）计算机科学与技术学院）；Department of Data Science, City University of Hong Kong（香港城市大学数据科学系）；School of Computer Science and Technology, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）计算机科学与技术学院）
本文针对短文本聚类中数据稀疏高维及计算开销大的问题，提出GSDMM折叠吉布斯采样算法及其改进版GSDMM+，通过降噪、熵加权和簇合并实现高效细粒度聚类，实验验证了其有效性和效率。
2025-07-18 cs.CL
CEIL: A General Classification-Enhanced Iterative Learning Framework for Text Clustering
University of Alberta（阿尔伯塔大学）；DiDi Global（滴滴全球）；North China Electric Power University（华北电力大学）
本文提出 CEIL 分类增强迭代学习框架，利用 CDCC 伪标签、过滤聚合与提示学习迭代优化语言模型表示，在短文本聚类基准上达到 SOTA。
2023-04-20 cs.AI cs.CL
Attentive Representation Learning with Adversarial Training for Short Text Clustering
East China Normal University（华东师范大学）；Shandong University（山东大学）；Tsinghua University（清华大学）；Jiangsu Normal University（江苏师范大学）
摘要短文本聚类对语义分析有着深远的影响，在语料库摘要、信息检索等领域有着重要的应用。然而，它不可避免地遇到了严重的稀疏短文本表示，使以前的聚类方法仍然远远不能令人满意。在本文中，我们提出了一种新的注意表示学习模型的镜头文本聚类，其中集群级的注意力被提出来捕捉文本表示和集群表示之间的相关性。在此基础上，将短文本的表示学习和聚类无缝集成到一个统一的模型中。为了进一步确保短文本的鲁棒模型训练，我们通过向聚类表示中注入扰动，将对抗训练应用于无监督聚类设置。模型参数和扰动通过极大极小博弈交替优化。在四个真实世界的短文本数据集上进行的大量实验表明，该模型优于几个强大的竞争对手，验证了鲁棒的对抗性训练产生了显着的性能增益。
2021-01-20 cs.CL cs.IR cs.LG
Segmentation of Expository Texts by Hierarchical Agglomerative Clustering
提出了一种基于层次凝聚聚类的文本切分方法。该方法以段落为基本段，以段落之间的词汇相似度为接近性检验，识别文本中的层次话语结构。线性分割可以通过应用两个简单的规则从所识别的结构中导出。然而，层次结构也可以用于文本的智能探索。建议的分割算法进行评估，对一个公认的线性分割方法，并显示出可比的结果。
1997-09-26 cmp-lg cs.CL
Contrastive Learning Subspace for Text Clustering
Alibaba Group（阿里巴巴集团）；Soochow University（苏州大学）
针对现有对比学习文本聚类忽略实例间潜在关系的问题，提出子空间对比学习（SCL）方法，通过自表达模块构建虚拟正样本并学习判别性子空间建模簇级关系，在多数据集上取得优异结果且降低正样本构建复杂度。
2024-08-26 cs.AI cs.CL
Mutual Clustering on Comparative Texts via Heterogeneous Information Networks
National University of Defense Technology（国防科技大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Nanjing University of Science and Technology（南京理工大学）；Shandong University（山东大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Tsinghua University（清华大学）；Institute of Automation Chinese Academy of Sciences（中国科学院自动化研究所）；Qingdao Academy of Intelligent Industries（青岛智能产业技术研究院）；Macau University of Science and Technology（澳门科技大学）
目前，许多情报系统包含来自多个来源的文本，例如，公告板系统（BBS）帖子、推文和新闻。这些文本可以是“比较”的，因为它们可能在语义上相关，从而为我们提供了对同一主题或事件的不同视角。为了更好地组织多源文本并获得更全面的知识，我们提出了研究比较文本相互聚类（MCCT）的新问题，其目的是同时和协作地对比较文本进行聚类。MCCT问题很难解决，因为1）比较文本通常呈现不同的数据格式和结构，因此它们很难组织，以及2）缺乏有效的方法来连接语义相关的比较文本，以便于以统一的方式对它们进行聚类。为此，本文提出了一个基于异构信息网络的文本聚类框架HINT。HINT首先通过引入共享的“锚文本”来连接比较文本，将多源文本（例如新闻和推文）建模为异构信息网络。其次，构造了基于HINT的两个相似度矩阵和跨文本源知识转移的转移矩阵。然后利用构造的矩阵进行比较文本聚类。最后，提出了一种互聚类算法，通过引入聚类一致性约束，进一步统一了比较文本的聚类结果。我们在三个tweets-news数据集上进行了大量的实验，结果表明了该方法在解决MCCT问题上的有效性和鲁棒性。
2019-03-09 cs.CL cs.IR
German Text Embedding Clustering Benchmark
Hasso Plattner Institute, University of Potsdam（哈索·普拉特纳研究所，波茨坦大学）
本文提出了一个德语文本嵌入聚类基准，评估了多种单语和多语言模型在不同聚类算法下的表现，发现降低嵌入维度可改善聚类，且对短文本进行持续预训练能显著提升性能。
2024-01-05 cs.AI cs.CL
From Image to Text Classification: A Novel Approach based on Clustering Word Embeddings
University of Bucharest（布加勒斯特大学）
受计算机视觉中广泛应用的视觉词袋模型的启发，提出了一种基于聚类词嵌入的文本分类方法。在使用预训练的词嵌入模型将文档集合中的每个词表示为词向量之后，对词向量应用k均值算法以获得固定大小的聚类集。每个聚类的质心被解释为一个超级词嵌入，它包含了嵌入空间某个区域中所有语义相关的词向量。然后将文档集合中的每个嵌入词分配到最近的聚类质心。最后，通过计算每个超级词嵌入在相应文档中的频率，将每个文档表示为一个超级词嵌入包。我们还偏离了为整个文档集合构建单个词汇表的想法，并建议构建特定于类的词汇表以获得更好的性能。使用这种表示，我们报告结果的两个文本挖掘任务，即文本分类的主题和极性分类。在这两个任务上，我们的模型都比标准的单词袋有更好的性能。
2017-07-25 cs.CL
Self-Taught Convolutional Neural Networks for Short Text Clustering
Institute of Automation, Chinese Academy of Sciences (CAS)（中国科学院自动化研究所）；National Laboratory of Pattern Recognition (NLPR)（模式识别国家重点实验室）；Center for Excellence in Brain Science and Intelligence Technology, CAS（中国科学院脑科学与智能技术卓越创新中心）
由于文本表示的稀疏性，短文本聚类是一个具有挑战性的问题。在这里，我们提出了一个灵活的自学习卷积神经网络框架用于短文本聚类（称为STC ^2），它可以灵活和成功地结合更多有用的语义特征，并以无监督的方式学习无偏见的深度文本表示。在我们的框架中，原始的原始文本特征首先嵌入到紧凑的二进制代码使用现有的无监督降维方法。然后，探索词嵌入并将其馈送到卷积神经网络中以学习深度特征表示，同时输出单元用于在训练过程中拟合预训练的二进制代码。最后，我们通过使用K-means对学习到的表示进行聚类来获得最优聚类。大量的实验结果表明，所提出的框架是有效的，灵活的，优于几个流行的聚类方法进行测试时，在三个公开的短文本数据集。
2017-01-01 cs.CL cs.IR
Text Clustering as Classification with LLMs
Singapore University of Technology and Design（新加坡科技设计大学）；East China Normal University（华东师范大学）
本文提出将文本聚类重构为分类任务的框架，利用LLM的上下文学习能力生成并合并标签，无需微调嵌入模型，在多个数据集上达到与最先进方法相当或更优的性能，同时大幅降低计算复杂度。
2025-10-07 cs.CL cs.IR
Universal and non-universal text statistics: Clustering coefficient for language identification
在这项工作中，我们分析了91个相对较小的文本在7种不同的语言（西班牙语，英语，法语，德语，土耳其语，俄语，冰岛语）以及随机插入空格的文本的统计特性。尽管大小（约11260个不同的单词），众所周知的普遍统计规律-即齐普夫和赫丹堆的法律-得到证实，并在密切的协议与其他地方获得的结果。我们还构建了每个文本的词共现网络。虽然度分布也是普遍的，但我们注意到，聚类系数的分布强烈依赖于网络的局部结构，可以用来区分语言，以及区分自然语言和随机文本。
2019-12-07 cs.CL physics.soc-ph
Language Modeling by Clustering with Word Embeddings for Text Readability Assessment
Harvard University（哈佛大学）
我们提出了一个基于聚类的语言模型，使用词嵌入的文本可读性预测。据推测，欧几里德语义空间假设适用于词嵌入，其训练是通过观察词同现来完成的。我们认为，聚类与词嵌入在度量空间中产生的特征表示在一个更高的语义空间适合文本回归。此外，通过用直方图表示特征，我们的方法可以自然地处理不同长度的文档。使用共同核心标准语料库的实证评估表明，我们的基于聚类的语言模型上形成的功能显着提高了以前已知的结果，为同一语料库的可读性预测。我们还使用维基SimpleWiki语料库的语义相关性的基础上进行句子匹配的任务进行评估，发现我们的功能导致卓越的匹配性能。
2017-09-05 cs.CL cs.LG
Clustering Text Using Attention
Punjab Engineering College（旁遮普工程学院）
文本聚类一直是自然语言处理领域的一个重要问题。虽然存在基于在上下文或非上下文向量空间表示之上使用常规聚类技术来对文本进行聚类的技术，但是仍然存在可能对这些技术的性能和实现进行各种改进的流行研究领域。本文讨论了一种基于注意力机制的文本聚类技术。注意力机制已被证明是非常有效的各种NLP任务在最近的时间。本文在聚类空间中扩展了注意力机制的思想，为一个全新的研究领域提供了新的思路
2022-01-08 cs.AI cs.CL cs.LG
An Improved Deep Learning Model for Word Embeddings Based Clustering for Large Text Datasets
Aeronautical Development Establishment, Defence Research and Development Organisation（国防研究与发展组织航空发展机构）
本研究针对大型文本数据集聚类问题，以WEClustering为基础，结合微调上下文嵌入、先进降维及聚类算法优化提出改进模型，在基准数据集上显著提升聚类指标，助力弥合文本挖掘中语义理解与统计鲁棒性的差距。
2025-02-22 cs.CL cs.LG
Self-supervised Document Clustering Based on BERT with Data Augment
Waseda University（早稻田大学）；KDDI Research, Inc.（KDDI研究所）
对比学习是无监督学习的一种很有前途的方法，因为它继承了经过充分研究的深度模型的优点，而无需专门和复杂的模型设计。在本文中，基于双向编码器表示从Transformers，我们提出了自监督对比学习（SCL）以及Few-Shot对比学习（FCL）与无监督数据增强（UDA）的文本聚类。SCL优于国家的最先进的无监督聚类方法的短文本和长文本的几个聚类评价措施。FCL实现了接近监督学习的性能，并且具有UDA的FCL进一步提高了短文本的性能。
2021-09-17 cs.AI cs.CL
Human-interpretable clustering of short-text using large language models
本研究提出利用大型语言模型生成嵌入并结合高斯混合模型进行短文本聚类，该方法比传统方法更具人类可解释性，并探讨了生成式LLM在聚类验证中替代人类评审的潜力及各自偏见。
2024-12-14 cs.CL cs.LG
An Adaptive Deep Clustering Pipeline to Inform Text Labeling at Scale
Verint Systems Inc.（Verint系统公司）
从大量自然语言输入中挖掘潜在意图是帮助数据分析师设计和改进客户服务和销售支持智能虚拟助理（IVA）的关键步骤。我们在Verint Intent Manager（VIM）中创建了一个灵活且可扩展的聚类管道，该管道集成了语言模型的微调、高性能k-NN库和社区发现技术，可帮助分析师快速从会话文本中呈现和组织相关用户意图。微调步骤是必要的，因为预先训练的语言模型不能编码文本，以有效地表面特定的聚类结构时，目标文本是从一个看不见的领域或聚类任务不是主题检测。我们描述了管道，并展示了它的性能和能力的规模在三个现实世界的文本挖掘任务。在VIM应用程序中部署时，此群集管道可生成高质量的结果，从而提高数据分析师的性能，并减少从客户服务数据中揭示意图所需的时间，从而减少在新域中构建和部署IVA所需的时间。
2022-07-26 cs.CL cs.LG
Cequel: Cost-Effective Querying of Large Language Models for Text Clustering
Hong Kong Baptist University（香港 Baptist 大学）
Cequel框架通过EdgeLLM和TriangleLLM算法在有限LLM查询预算下选择性地构建必连与不可连约束，并结合加权约束聚类，以低成本实现高质量的文本聚类。
2025-08-21 cs.AI cs.CL
Incremental Graph Construction Enables Robust Spectral Clustering of Texts
Jožef Stefan Institute and International Postgraduate School（乔泽夫·斯蒂芬研究所和国际研究生学院）；University of Ljubljana, Faculty of Computer and Information Science（卢布尔雅那大学计算机与信息科学学院）
本文提出一种增量k-NN图构建方法，通过保证图连通性提升文本谱聚类的鲁棒性，在低k值情况下表现更优。
2026-03-05 cs.CL cs.LG
A Brief Survey of Text Mining: Classification, Clustering and Extraction Techniques
University of Georgia（佐治亚大学）
每天生成的文本数量正在急剧增加。这些大量的非结构化文本不能简单地被计算机处理和感知。因此，需要高效和有效的技术和算法来发现有用的模式。文本挖掘是从文本中提取有意义信息的任务，近年来受到了广泛的关注。在本文中，我们描述了几个最基本的文本挖掘任务和技术，包括文本预处理，分类和聚类。此外，我们简要介绍了文本挖掘在生物医学和医疗保健领域。
2017-07-28 cs.AI cs.CL cs.IR
ZeroDL: Zero-shot Distribution Learning for Text Clustering via Large Language Models
NAVER Cloud（NAVER云）；NAVER；NAVER Search US（NAVER美国搜索）
针对提示难以完整描述任务导致 LLM 失效的问题，本文提出 ZeroDL，通过全数据集零样本推理、结果聚合并注入元信息，提升 LLM 的文本聚类效果并解释其任务理解。
2025-06-07 cs.AI cs.CL
LLMs Enable Bag-of-Texts Representations for Short-Text Clustering
Leiden University（莱顿大学）；Radboud University（拉德堡德大学）
本文提出一种无需训练的短文本聚类方法，利用大语言模型直接生成文本袋表示，实现高效且灵活的聚类效果。
2026-01-12 cs.AI cs.CL
Amharic Text Clustering Using Encyclopedic Knowledge with Neural Word Embedding
在这个数字时代，几乎在每个学科中，人们都在使用自动化系统，这些系统生成以不同自然语言的文档格式表示的信息。因此，人们对寻找、组织和分析这些文档的更好解决方案越来越感兴趣。在本文中，我们提出了一个系统，集群阿姆哈拉语文本文件使用百科知识（EK）与神经词嵌入。EK使相关概念的表征和神经词嵌入允许我们处理的相关性的上下文。在聚类过程中，所有的文本文件通过预处理阶段。通过EK映射和词嵌入模型，从每个文档中提取丰富的文本文档特征。生成TF-IDF加权特征向量。最后，使用流行的球形K-means算法对文本文档进行聚类。所提出的系统进行了测试，阿姆哈拉语文本语料库和阿姆哈拉语维基百科数据。测试结果表明，使用EK与词嵌入的文档聚类提高了平均精度比单独使用EK。此外，改变类的大小对准确性有很大影响。
2022-09-22 cs.CL cs.LG
Text Classification and Clustering with Annealing Soft Nearest Neighbor Loss
De La Salle University（德拉萨大学）；College of Computer Studies（计算机研究学院）
我们将解纠缠定义为类不同的数据点彼此之间的距离，相对于类相似的数据点之间的距离。当在表示学习过程中最大化解纠缠时，我们获得了一个变换后的特征表示，其中保留了数据点的类成员资格。如果数据点的类成员关系被保留，我们将拥有一个特征表示空间，在该空间中，最近邻分类器或聚类算法将表现良好。我们利用这种方法来学习更好的自然语言表示，并将其用于文本分类和文本聚类任务。通过解纠缠，我们获得了具有更好定义的聚类的文本表示，并提高了文本分类性能。我们的方法在AG News数据集上的测试分类准确率高达90.11%，测试聚类准确率为88%，优于我们的基线模型-没有任何其他训练技巧或正则化。
2021-07-23 cs.CL cs.LG cs.NE
Summaries as Centroids for Interpretable and Scalable Text Clustering
York University（约克大学）
本文提出k-NLPmeans和k-LLMmeans，通过摘要作为中心实现可解释且可扩展的文本聚类，优于传统方法并接近LLM聚类性能。
2026-02-06 cs.CL cs.LG stat.ML
Text Clustering with Large Language Model Embeddings
Lusófona University（卢索福纳大学）；Center of Technology and Systems (UNINOVA-CTS)（技术与系统中心（UNINOVA-CTS））；Associated Lab of Intelligent Systems (LASI)（智能系统联合实验室（LASI））
本研究探讨大语言模型（LLMs）嵌入对文本聚类的影响，通过实验评估不同嵌入、聚类算法、降维和模型规模的作用，发现LLM嵌入优于传统方法，GPT-3.5 Turbo和BERT表现突出，为文本聚类提供改进方法和研究新方向。
2024-12-02 cs.AI cs.CL cs.LG
LUMI: Unsupervised Intent Clustering with Multiple Pseudo-Labels
Leiden University（莱顿大学）；Radboud University（拉德堡德大学）
LUMI通过多伪标签提升文本相似性，实现无监督意图聚类，优于现有方法并避免聚类数量估计需求。
2026-02-25 cs.CL cs.IR
ClustEm4Ano: Clustering Text Embeddings of Nominal Textual Attributes for Microdata Anonymization
Deggendorf Institute of Technology（代根多夫应用技术学院）
本文提出ClustEm4Ano，一种基于文本嵌入聚类的自动生成值泛化层次结构的匿名化流水线，在Adult数据集上实验证明其生成的VGHs在下游效能上优于手动构建，尤其适用于小k匿名性。
2024-12-17 cs.AI cs.CL
SDEC: Semantic Deep Embedded Clustering
University of Arizona（亚利桑那大学）；Trustweb（Trustweb公司）；New Mexico State University（新墨西哥州立大学）
本文提出SDEC无监督文本聚类框架，结合改进自编码器与Transformer嵌入，在多个基准数据集上取得领先聚类准确率。
2025-08-18 cs.CL cs.LG
Arabic text summarization based on latent semantic analysis to enhance arabic documents clustering
University Sidi Mohamed Ben Abdellah (USMBA)（西迪·穆罕默德·本·阿卜杜拉大学）；Faculty of Science Dhar EL Mahraz (FSDM)（达尔·马赫拉兹科学学院）
阿拉伯文文档聚类是一项重要的任务，以获得良好的效果与传统的信息检索（IR）系统，特别是与阿拉伯语在线文档的数量迅速增长。文档聚类的目标是使用不同的相似性/距离度量将相似的文档自动分组到一个聚类中。该任务往往受到文档长度的影响，文档上的有用信息往往伴随着大量的噪声，因此有必要在保留有用信息的同时消除这些噪声，以提高文档聚类的性能。在本文中，我们建议使用潜在语义分析模型对阿拉伯文文档聚类的文本摘要的影响进行评估，以解决上述问题，使用五个相似性/距离的措施：欧几里德距离，余弦相似性，Jaccard系数，皮尔逊相关系数和平均Kullback-Leibler发散，两次：没有和词干。实验结果表明，该方法有效地解决了噪声信息和文档长度的问题，从而显着提高聚类性能。
2013-02-06 cs.CL cs.IR
The Clustering of Author's Texts of English Fiction in the Vector Space of Semantic Fields
Ivan Franko Lviv National University（伊万·弗兰科利沃夫国立大学）
分析了文本在语义场向量空间和正交基语义空间中的聚类问题。结果表明，基于语义场的向量空间模型在英文小说作者文本聚类分析中是有效的。对作者语篇分布的聚类分析表明，存在着代表作者个人思想的语义空间区域。对语义场矩阵进行SVD分解，可以显著降低作者文本聚类分析中语义空间的维数。
2012-12-06 cs.CL cs.DL cs.IR
Influence of various text embeddings on clustering performance in NLP
本研究针对电商评论星级与文本不匹配问题，对比BERT、Word2Vec两类文本嵌入对多种聚类算法性能的影响，发现嵌入类型显著影响聚类效果，DBSCAN性能更优但标记更多异常值，为文本聚类研究提供参考。
2023-05-04 cs.CL cs.IR cs.LG
A Semi-Supervised Deep Clustering Pipeline for Mining Intentions From Texts
Verint Systems Inc.（Verint Systems 公司）
从大量自然语言输入中挖掘潜在意图是帮助数据分析师设计和改进客户服务智能虚拟助理（IVA）的关键步骤。为了帮助数据分析师完成这项任务，我们推出了Verint Intent Manager（VIM），这是一个结合了无监督和半监督方法的分析平台，可帮助分析师从会话文本中快速呈现和组织相关用户意图。对于数据的初步探索，我们使用了一种新的无监督和半监督管道，该管道集成了高性能语言模型的微调，分布式k-NN图构建方法和社区发现技术，用于从文本中挖掘意图和主题。微调步骤是必要的，因为当目标文本来自看不见的领域或聚类任务不是主题检测时，预训练的语言模型无法对文本进行编码以有效地呈现特定的聚类结构。为了灵活性，我们部署了两种聚类方法：其中必须指定聚类的数量，并且自动检测聚类的数量，具有可比的聚类质量，但以额外的计算时间为代价。我们描述的应用程序和部署，并证明其性能使用BERT的三个文本挖掘任务。我们的实验表明，BERT开始产生更好的任务感知表示使用一个小到0.5%的任务数据的标记子集。当BERT用仅2.5%的任务数据的标记子集进行微调时，聚类质量超过了最先进的结果。在VIM应用程序中部署时，这种灵活的集群管道可产生高质量的结果，提高数据分析师的性能，减少从客户服务数据中揭示意图所需的时间，从而减少在新域中构建和部署IVA所需的时间。
2022-02-01 cs.CL cs.LG
Context-Aware Clustering using Large Language Models
Virginia Tech（弗吉尼亚理工大学）；Amazon（亚马逊公司）
本文提出CACTUS方法，利用开源大语言模型结合实体间注意力机制和增强三元组损失，实现实体子集的高效有监督上下文感知聚类，并通过从闭源LLM迁移知识，在多个电子商务数据集上显著优于现有基线。
2024-05-02 cs.CL cs.LG
Towards Full-Fledged Argument Search: A Framework for Extracting and Clustering Arguments from Unstructured Text
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
论元搜索的目的是识别自然语言文本中的论元。在过去，这个任务已经解决了关键字搜索和参数识别的句子或文档级别的组合。然而，现有的框架通常只解决参数搜索的特定组件，而不解决以下方面：（1）参数查询匹配：识别与实际搜索查询略有不同的主题框架的参数;（2）参数识别：识别由多个句子组成的参数;（3）参数聚类：通过主题方面选择检索到的参数。在本文中，我们提出了一个解决这些缺点的框架。我们建议（1）将关键词搜索与预先计算的主题聚类相结合进行参数-查询匹配，（2）应用一种新的方法，基于事件级序列标记进行参数识别，以及（3）基于主题感知的参数聚类向用户呈现聚合参数。我们在几个真实的辩论数据集上的实验表明，基于密度的聚类算法，如HDBSCAN，特别适合于参数查询匹配。通过我们的双水平，基于BiLSTM的序列标记方法，我们实现了0.71的宏观F1评分。最后，评估我们的参数聚类方法表明，细粒度的子主题的参数聚类仍然具有挑战性，但值得探索。
2021-11-30 cs.CL cs.IR
Text clustering applied to data augmentation in legal contexts
Strategic Management Office, Brazilian Supreme Federal Court（巴西联邦最高法院战略管理办公室）；Brasília University（巴西利亚大学）；Internal Affairs Department of Justice, Roraima State Court of Justice（罗赖马州司法法院司法内务部）
本研究针对法律领域文本分类任务，提出基于聚类的数据增强策略，利用NLP工具优化专家整理的数据集，在联合国SDGs案例中实现分类性能超15%的提升，样本库最高扩至5倍，可高效扩充法律知识库。
2024-04-08 cs.CL cs.LG
Robust Representation Learning with Reliable Pseudo-labels Generation via Self-Adaptive Optimal Transport for Short Text Clustering
Zhejiang University（浙江大学）
本文提出RSTC模型，通过自适应最优传输生成可靠伪标签，并结合类别级与实例级对比学习，提升短文本聚类在不平衡和噪声数据下的鲁棒性。
2023-05-23 cs.AI cs.CL cs.LG
A Framework for Authorial Clustering of Shorter Texts in Latent Semantic Spaces
Otto von Guericke University Magdeburg（马格德堡奥托·冯·格里克大学）
作者聚类涉及对由同一作者或作者团队撰写的文档进行分组，而没有任何关于作者写作风格或主题偏好的先前正面示例。对于较短文本（段落长度的文本通常比传统文档短）的作者聚类，文档表示特别重要：非常高维的特征空间导致数据稀疏，并遭受严重的后果，如维数灾难，而特征选择可能导致信息丢失。我们提出了一个高层次的框架，它利用一个紧凑的数据表示在一个潜在的特征空间与非参数主题建模。作者聚类识别之后，在两种情况下：（a）完全无监督和（b）半监督，其中少量较短的文本已知属于同一作者（必须链接约束）或不属于同一作者（不能链接约束）。我们报告了120个集合在三种语言和两种类型的实验，并表明基于主题的潜在特征空间提供了一个有前途的性能水平，同时减少了1500的因素相比，国家的最先进的维数。我们还表明，虽然先验知识的精确数量的作者（即作者集群）并没有贡献太多的额外质量，很少的知识约束作者集群成员资格导致明确的性能改善，在前面的这一艰巨的任务。对标准度量的深入实验表明，作者聚类仍然有很大的改进空间，特别是对于较短的文本
2020-11-30 cs.AI cs.CL cs.LG
Clustering Discourses: Racial Biases in Short Stories about Women Generated by Large Language Models
Instituto de Estudos da Linguagem（语言研究学院）；Universidade Estadual de Campinas（坎皮纳斯州立大学）
研究探讨了大型语言模型，特别是LLaMA 3.2-3B，在生成葡萄牙语短篇故事中对黑人和白人女性的叙述构建方式，通过聚类分析揭示了三种主要的论述表现形式，并提出结合机器学习与定性分析的方法。
2025-09-02 cs.AI cs.CL
Scalable Parameter-Light Spectral Method for Clustering Short Text Embeddings with a Cohesion-Based Evaluation Metric
Saint Mary's University（圣玛丽大学）；York University（约克大学）
本文提出了一种可扩展的光谱方法，通过自适应采样策略估计簇数，并引入凝聚力比率评估簇质量，实验表明其在短文本聚类中优于传统方法。
2025-11-25 cs.CL cs.LG
