A Novel Method of Fuzzy Topic Modeling based on Transformer Processing
National Chiao Tung University(国立交通大学);National Chung Hsing University(国立中兴大学);SparkAmplify;Institue of Technology Management(技术管理学院)
本文针对LDA主题建模结果不直观、关键词关联可靠性存疑及主题数难以预先确定等问题,提出基于Transformer文档嵌入与软聚类的模糊主题建模方法,并在新闻稿监测应用中取得比LDA更自然的结果。
2023-09-18 cs.CL
Discriminative Topic Mining via Category-Name Guided Text Embedding
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Georgia Institute of Technology(佐治亚理工学院)
从海量文本语料库中自动挖掘出一组有意义、有特色的主题具有广泛的应用前景。然而,现有的主题模型通常以纯粹无监督的方式工作,这通常会生成不符合用户特定需求的主题,并在下游任务上产生次优性能。我们提出了一个新的任务,歧视性主题挖掘,它利用一组用户提供的类别名称挖掘歧视性主题的文本语料库。这个新的任务不仅可以帮助用户清楚和明确地理解他/她最感兴趣的主题,而且还直接受益于关键字驱动的分类任务。我们开发了CatE,一种新的类别名称引导的文本嵌入方法,用于判别式主题挖掘,它有效地利用最小的用户指导来学习判别式嵌入空间,并以迭代的方式发现类别代表性术语。我们进行了一组全面的实验表明,CatE挖掘高质量的主题集的类别名称只引导,并有利于各种下游应用,包括弱监督分类和词汇蕴涵方向识别。
2020-01-27 cs.CL cs.IR
Generative AI for automatic topic labelling
School of Library and Information Science, University of Montreal, Canada(蒙特利尔大学图书馆与信息科学学院)
本文利用生成式AI模型对科学领域主题进行自动标注,评估了三种LLM在标注准确性与复杂性把握上的表现,发现三词标签更适用于捕捉研究主题的复杂性。
2024-08-13 cs.AI cs.CL
Topeax -- An Improved Clustering Topic Model with Density Peak Detection and Lexical-Semantic Term Importance
Aarhus University(奥胡斯大学)
Topeax通过结合密度峰值检测和词汇-语义术语重要性,改进了聚类主题模型,提升了聚类恢复和描述质量,同时更稳定地应对样本和超参数变化。
2026-01-29 cs.AI cs.CL
vONTSS: vMF based semi-supervised neural topic modeling with optimal transport
Amazon(亚马逊)
提出半监督神经主题建模方法vONTSS,结合vMF变分自编码器与最优传输,在半监督和无监督设置下均优于现有方法,并证明了最优传输损失与交叉熵损失的等价性。
2023-09-16 cs.AI cs.CL cs.IT
A Comparison of Approaches for Imbalanced Classification Problems in the Context of Retrieving Relevant Documents for an Analysis
Ludwig-Maximilians-University Munich(慕尼黑路德维希-马克西米利安大学)
许多基于文本的社会科学研究的第一步是从大量的不相关文档中检索与分析相关的文档。在社会科学中,解决这一检索任务的传统方法是应用一组关键字,并认为这些文档是相关的,至少包含一个关键字。但是,应用不完整的关键字列表有可能得出有偏见的推论。更复杂和昂贵的方法,如查询扩展技术,基于主题模型的分类规则,以及主动和被动的监督学习可能有潜力更准确地分离相关的不相关的文件,从而减少潜在的偏见的大小。然而,应用这些更昂贵的方法是否会增加检索性能相比,关键字列表在所有,如果是这样的话,有多少,是不清楚的,因为这些方法的比较是缺乏的。这项研究通过比较这些方法在与德国推文数据集(Linder,2017),社会偏见推理语料库(SBIC)(Sap等人,2020)和Reuters-21578语料库(Lewis,1997)。结果表明,查询扩展技术和主题模型为基础的分类规则,在大多数研究设置往往会降低,而不是提高检索性能。然而,主动监督学习如果应用于不太小的标记训练实例集(例如,1,000个文档),则达到比关键字列表高得多的检索性能。
2022-05-03 cs.CL cs.IR stat.AP
A Weakly-Supervised Iterative Graph-Based Approach to Retrieve COVID-19 Misinformation Topics
University of Pennsylvania(宾夕法尼亚大学)
2019冠状病毒病大流行伴随着“信息流行病”-社交媒体上准确和不准确的健康信息。在动态变化的信息环境中检测错误信息是具有挑战性的;由于需要大量的人力来检查帖子的内容和来源,因此识别相关的关键字和帖子是艰巨的。我们的目标是通过引入弱监督迭代基于图的方法来检测与错误信息相关的关键字、主题和主题,以COVID-19为重点,从而降低此过程的资源成本。我们的方法可以成功地检测特定的主题,从一般的错误信息相关的种子词在一些种子文本。我们的方法利用基于BERT的词图搜索(BWGS)算法,该算法建立在基于上下文的神经网络嵌入检索错误信息相关的职位。我们利用潜在狄利克雷分配(LDA)主题建模获得错误信息相关的主题从文本返回的BWGS。此外,我们提出了基于BERT的多方向词图搜索(BMDWGS)算法,利用更大的启动上下文信息的错误信息提取。除了对我们的方法进行定性分析外,我们的定量分析还表明,与低数据资源环境中的常见基线相比,BWGS和BMDWGS在提取错误信息相关内容方面是有效的。提取这些内容有助于发现普遍存在的误解和担忧,并促进精确的公共卫生信息宣传活动,以改善健康行为。
2022-05-19 cs.CL cs.HC cs.SI
Multilingual Topic Models
Columbia University(哥伦比亚大学);Harvard-Smithsonian Center for Astrophysics(哈佛-史密森天体物理中心);Northeastern University(东北大学)
科学出版物已经发展了几个功能,用于在索引,检索和计算文章之间的相似性时减轻词汇不匹配。这些缓解策略的范围从简单地关注高价值的文章部分,如标题和摘要,到分配关键字,通常来自受控词汇表,手动或通过自动注释。各种文档表示方案具有不同的成本效益权衡。在本文中,我们建议将同一篇文章的不同表示建模为彼此的翻译,所有这些都是从多语言主题模型中的公共潜在表示生成的。我们首先对并行文档表示的潜在变量模型进行了方法学概述,这些模型可以用于许多信息科学任务。然后,我们将展示如何解决不同的表示映射到一个共享的主题空间的推理问题,使我们能够评估表示的基础上,他们是如何主题相似的原始文章。此外,我们提出的方法提供了手段,发现不同的概念词汇需要改进。
2017-12-18 cs.CL cs.IR stat.ML
Analysis of Computational Science Papers from ICCS 2001-2016 using Topic Modeling and Graph Theory
ITMO University(圣彼得堡国立信息技术机械与光学大学);University of Amsterdam(阿姆斯特丹大学);Eötvös University(罗兰大学)
本文介绍了主题建模和网络模型的主题使用国际会议上计算科学语料库,其中包含特定领域(计算科学)的论文超过十六年(共5695篇)的结果。我们讨论了计算科学国际会议的主题结构,这些主题如何随着时间的推移,在响应各种问题,技术和方法的时事性,以及如何所有这些主题相互关联。该分析通过从主题建模结果和作者的关键词构建静态和动态网络来说明科学界之间的多学科研究和合作。本研究的结果提供了关于计算科学核心讨论主题的过去和未来趋势的见解。我们使用非负矩阵分解主题建模算法来发现主题,并对结果进行分层标记和分组。
2017-04-18 cs.CL cs.DL cs.IR
Detecting New Word Meanings: A Comparison of Word Embedding Models in Spanish
Laboratoire Informatique d’Avignon(阿维尼翁计算机实验室);Polytechnique Montréal(蒙特利尔综合理工学院)
语义新词是指在保持原有形式的同时获得新的词义的词。鉴于这类新词的性质,识别这些新词含义的任务目前由新词观测站的专家手动执行。为了以半自动的方式检测SN,我们开发了一个系统,该系统实现了以下策略的组合:主题建模,关键字提取和词义消歧。主题建模的作用是检测输入文本中处理的主题。文本中的主题提供了关于所用单词的特定含义的线索,例如:viral在计算机科学(CS)的上下文中有一个含义,而在谈论健康时有另一个含义。为了提取关键字,我们使用了带有POS标签过滤的TextRank。通过这种方法,我们可以获得已经是西班牙语词汇的一部分的相关单词。我们使用一个深度学习模型来确定一个给定的关键字是否有新的含义。与所有已知含义(或主题)不同的嵌入表示单词可能是有效的SN候选。在这项研究中,我们研究了以下词嵌入模型:Word2Vec,Sense2Vec和FastText。使用西班牙语维基百科作为语料库,使用等效参数对模型进行训练。然后,我们使用一个单词列表及其索引(从我们的新词数据库中获得)来显示每个模型产生的不同嵌入。最后,我们将这些结果与每个单词的一致性进行比较,以显示我们如何确定一个单词是否可以作为SN的有效候选。
2020-01-12 cs.CL
Application of Topic Models to Judgments from Public Procurement Domain
Interdisciplinary Centre for Mathematical and Computational Modelling, University of Warsaw(华沙大学跨学科数学与计算建模中心)
在这项工作中,自动分析的主题包含在一个大型语料库的判断,从公共采购领域进行。所采用的技术是无监督的潜在狄利克雷分配(LDA)。此外,建议使用LDA结合最近开发的无监督关键字提取方法。这种方法提高了自动获得的主题的可解释性,并允许更好的计算性能。所述分析说明了该方法在发现反复出现的主题和发现提出的合同上诉的时间趋势方面的潜力。这些结果可能在未来应用,以改善信息检索从法律文本的知识库或作为辅助材料进行法律分析的人类专家。
2014-12-16 cs.CL
Weakly-Supervised Aspect-Based Sentiment Analysis via Joint Aspect-Sentiment Topic Embedding
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
基于情感分析的评论文本的情感分析对于以细粒度的方式理解用户反馈具有重要价值。它通常有两个子任务:(i)从每个评论中提取方面,以及(ii)根据情感极性对基于方面的评论进行分类。在本文中,我们提出了一个弱监督的方法,基于方面的情感分析,它只使用几个关键字描述每个方面/情感,而不使用任何标记的例子。现有的方法要么只为其中一个子任务而设计,忽略了耦合两者的好处,要么基于可能包含重叠概念的主题模型。我们建议首先通过实施正则化来鼓励主题独特性,从而在词嵌入空间中学习<sentiment,aspect>联合主题嵌入,然后使用神经模型通过使用基于嵌入的预测预训练分类器并在未标记的数据上进行自我训练来概括词级判别信息。我们的综合性能分析表明,我们的方法生成高质量的联合主题,并在基准数据集上显著优于基线(方面和情感分类的平均F1得分分别增加7.4%和5.1%)。我们的代码和数据可在https://github.com/teapot123/JASen上获得。
2020-10-13 cs.CL cs.IR cs.LG
Keyword-based Topic Modeling and Keyword Selection
Northwestern University(西北大学)
通过指定一组关键字来收集某些类型的文档(如tweets)。由于感兴趣的主题随时间而变化,因此动态调整关键字是有益的。挑战在于,需要在了解即将出台的文件和基本主题之前具体说明这些问题。未来的主题应该模仿过去感兴趣的主题,但其中应该有一些新颖性。我们开发了一个基于关键字的主题模型,动态选择一个子集的关键字用于收集未来的文档。生成过程首先选择关键字,然后基于指定的关键字选择底层文档。该模型通过使用变分下限和随机梯度优化来训练。推理包括找到关键字的子集,其中给定子集,模型预测未知即将到来的文档的潜在主题词矩阵。我们比较关键字主题模型与基准模型结合主题模型使用病毒式预测的推文。基于关键字的主题模型比这个复杂的基线模型高出67%。
2020-01-22 cs.IR cs.LG stat.ML
Hierarchical Multi-Label Classification of Scientific Documents
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
自动主题分类已被广泛研究,以帮助管理和索引的数字收集的科学文献。随着近年来出现的大量主题,有必要将它们按层次排列。因此,自动分类系统需要能够分级地对文档进行分类。此外,每篇论文往往被分配到一个以上的相关主题。例如,一篇论文可以被分配到层次树中的几个主题。在本文中,我们介绍了一个新的数据集,用于科学论文的分层多标签文本分类(HMLTC),称为SciHTC,它包含来自ACM CCS树的186,160篇论文和1,233个类别。我们为HMLTC建立了强大的基线,并提出了一种多任务学习方法,用于主题分类,关键字标记作为辅助任务。我们的最佳模型达到了34.57%的Macro-F1得分,这表明该数据集为分层科学主题分类提供了重要的研究机会。我们在Github上提供数据集和代码。
2022-11-05 cs.CL
Topic Bias in Emotion Classification
University of Stuttgart(斯图加特大学);University of Bamberg(班贝格大学)
该研究针对情感语料库因采样方式产生主题偏差、损害模型泛化性的问题,从数据与建模角度验证情感和特定主题的关联及对分类器的干扰,并证实梯度反转对抗校正的去偏方法可缓解该问题,呼吁构建更具代表性的语料资源。
2024-02-02 cs.CL
Bridging the gap between supervised classification and unsupervised topic modelling for social-media assisted crisis management
McGill University(麦吉尔大学)
在自然灾害期间,Twitter等社交媒体为危机管理人员和受灾群众提供了宝贵的信息。机器学习可以帮助从危机期间共享的大量信息中构建和提取信息;然而,危机不断演变的性质使得有效的领域自适应至关重要。监督分类受到不可改变的类别标签的限制,这些类别标签可能与新事件无关,而无监督主题建模则受到先验知识不足的限制。在本文中,我们弥合了两者之间的差距,并表明,BERT嵌入微调危机相关的推文分类可以有效地用于适应新的危机,发现新的主题,同时保留相关类监督训练,并利用双向自我注意提取主题关键字。我们创建了一个数据集的推文从暴风雪来评估我们的方法的可转移性,以新的危机,并发现它优于传统的主题模型,在自动和人类的评估接地危机管理人员的需求。更广泛地说,我们的方法可以用于文本领域自适应的潜在类是未知的,但与其他领域的已知类重叠。
2021-03-22 cs.CL
TopicProphet: Prophesies on Temporal Topic Trends and Stocks
Emory CS Department(埃默里大学计算机科学系)
TopicProphet通过主题建模和时间分析,改进股票预测模型的训练数据质量,提升金融百分比变化预测效果。
2025-12-05 cs.AI cs.CL cs.LG
Natural language processing on customer note data
Manchester Metropolitan University(曼彻斯特城市大学);Auto Trader Group(汽车交易商集团)
针对B2B客户备注数据学术研究少、大体量数据人工分析难度大的问题,将情感分析、主题建模与关键词提取应用于B2B数据集,验证了自动提取准确情感、按相关性归类主题的可行性,同时指出主题划分不清晰会导致其与业务场景脱节。
2023-05-03 cs.CL
LLM as Attention-Informed NTM and Topic Modeling as long-input Generation: Interpretability and long-Context Capability
Beijing University of Posts and Telecommunications(北京邮电大学);University of Science and Technology Beijing(北京科技大学);Beijing Value Simplex Technology Co. Ltd(北京价值简单科技有限公司);Zhongguancun Laboratory(中关村实验室)
本文从白盒和黑盒视角研究基于LLM的话题建模,提出注意力引导框架恢复可解释结构,并通过长输入任务和信号补偿方法提升性能,验证LLM与NTM的联系及长上下文LLM在话题建模中的潜力。
2026-04-14 cs.AI cs.CL
Topic modeling of public repositories at scale using names in source code
source{d}
程序设计语言本身具有限定语言规范的有限数量的保留关键字和基于字符的标记。然而,程序员通过注释、文本文字和命名实体在代码中大量使用自然语言。程序员定义的名称可以在源代码中找到,这是一个丰富的信息源,可以帮助您对项目进行高层次的理解。本文的目标是将主题建模应用于超过1360万个存储库中使用的名称,并感知推断的主题。这样的研究中的一个问题是出现了没有正式标记为fork的重复存储库(模糊的fork)。我们展示了如何使用为主题建模提取的相同标识符来解决它。我们首先讨论源代码中的命名,然后详细说明我们使用词袋模型上的局部敏感哈希来删除精确重复和模糊重复存储库的方法,然后讨论我们在主题建模方面的工作;最后介绍我们的数据分析结果以及对源代码,工具和数据集的开放访问。
2017-05-20 cs.CL cs.PL
On Cross-Dataset Generalization in Automatic Detection of Online Abuse
National Research Council Canada(加拿大国家研究委员会)
NLP研究在作为监督分类任务的滥用语言检测中取得了很高的性能。虽然在研究环境中,训练和测试数据集通常是从相似的数据样本中获得的,但在实践中,系统通常应用于与训练集在主题和类别分布上不同的数据。此外,在此任务中继承的类定义中的模糊性加剧了源数据集和目标数据集之间的差异。我们探讨了跨数据集泛化中的主题偏差和任务制定偏差。我们发现,维基百科Detox数据集中的良性示例偏向于特定于平台的主题。我们使用无监督主题建模和主题关键字的手动检查来识别这些示例。删除这些主题可以提高跨数据集的泛化能力,而不会降低域内分类性能。对于一个健壮的数据集设计,我们建议应用廉价的无监督方法来检查收集的数据,并在手动注释类标签之前缩小不可概括的内容。
2021-05-19 cs.AI cs.CL
Active Keyword Selection to Track Evolving Topics on Twitter
我们如何在大规模上研究不断发展的主题上的社会互动?在过去的十年中,来自经济学、政治学和公共卫生等不同领域的研究人员经常通过使用精心挑选的主题关键字查询Twitter的公共API端点来搜索或流式传输讨论。然而,尽管API具有可访问性,但仍然难以选择和更新关键字以收集与感兴趣的主题相关的高质量数据。在本文中,我们提出了一个主动学习方法,快速精炼查询关键字,以增加产生的主题相关性和数据集的大小。我们利用一个大型的开源COVID-19 Twitter数据集来说明我们的方法在跟踪围绕疫苗,口罩和锁定的关键子主题的推文中的适用性。我们的实验表明,我们的方法实现了平均主题相关的关键字召回比基线高2倍。我们开源了我们的代码以及用于关键字选择的Web界面,以使研究人员从Twitter收集的数据汇集更加系统化。
2022-09-22 cs.IR cs.SI
Tracking Software Security Topics
Auburn University(奥本大学);Fulbright University Vietnam(越南富布赖特大学)
针对难以实时跟进软件安全主题的问题,提出了SOSK工具,通过预处理安全报告、提取关键词并基于嵌入向量相似度扩展关键词集,实现有效检索相关报告。
2024-09-27 cs.AI cs.CR cs.IR
Context and Keyword Extraction in Plain Text Using a Graph Representation
文献标引是档案工作者或自动标引工具完成的一项基本任务。要检索相关的文档查询,描述这个文件的关键字必须仔细选择。档案管理员必须在开始提取关键字之前找到文档的正确主题。对于一个索引专门文件的档案工作者来说,经验起着重要的作用。但是索引不同主题的文档要困难得多。本文提出了一种创新的标引支持系统的方法。该系统将本体和纯文本文档作为输入,并提供文档的上下文关键字作为输出。该方法已被评估利用维基百科的类别链接作为一个术语本体资源。
2009-12-08 cs.IR
Semantic Similarity Measure of Natural Language Text through Machine Learning and a Keyword-Aware Cross-Encoder-Ranking Summarizer -- A Case Study Using UCGIS GIS&T Body of Knowledge
School of Geographical Sciences and Urban Planning, Arizona State University(亚利桑那州立大学地理科学与城市规划学院)
针对GIS&T BoK主题语义关系手动定义不完整的问题,评估多种NLP技术提取文本语义,并提出KACERS摘要器生成科学文献语义摘要,以指导BoK内容组织并展示长文本语义理解潜力。
2023-05-17 cs.AI cs.CL cs.IR
Leveraging web resources for keyword assignment to short text documents
检索与文档相关的关键词对于文档的高效检索、聚类和管理非常重要。特别是随着网络语料库充斥着数字文档,自动化这项任务是至关重要的。关键词分配是一个广泛的研究课题,它是指用关键词、关键短语或主题对文档进行标注。对于文本文档,关键字分配技术已经在两个子主题下发展:自动关键字提取(AKE)和自动关键短语抽象。然而,在文献中为全文文档开发的方法不能用于将关键字分配给低文本内容文档,如twitter提要、新闻剪辑、产品评论甚至短学术文本。在这项工作中,我们指出了在标记这些低文本内容的文档中遇到的几个实际挑战。作为这些挑战的解决方案,我们表明,所提出的方法,利用知识,从几个开源的网络资源,提高质量的标签(关键字)分配给低文本内容的文档。所提出的方法的性能进行了测试,在现实世界的语料库组成的学术文件的文本内容范围从只有文本的标题文件(5-10字)的摘要文本/摘要(100- 150字)。我们发现,所提出的方法不仅提高了关键字分配的准确性,但提供了一个计算效率高的解决方案,可用于现实世界中的应用。
2017-06-19 cs.DL cs.IR
Fine-Tuning Topics through Weighting Aspect Keywords
Sprott School of Business, Carleton University(卡尔顿大学斯普罗特商学院);Technology Innovation Management (TIM) program, Carleton University(卡尔顿大学技术创新管理项目)
本文提出一种专家引导的方面加权主题建模框架,通过迭代结合专家关键词与主题分布,提升专业领域主题相关性和文档对齐准确性,并在量子通信研究中验证了其有效性。
2025-08-28 cs.IR cs.LG
TopicSifter: Interactive Search Space Reduction Through Targeted Topic Modeling
主题建模通常用于分析和理解大型文档集合。然而,在实践中,用户希望专注于特定方面或“目标”,而不是整个语料库。例如,给定大量文档集合,用户可能只想要与他们的兴趣、任务和领域更紧密地一致的较小子集。特别是,我们的论文集中在大规模的文档检索与高召回,任何错过的相关文件可能是至关重要的。简单的关键字匹配搜索通常既不有效也不高效,因为1)在探索数据集之前难以找到可以覆盖感兴趣的文档的关键字查询的列表,2)一些文档可能不包含确切的感兴趣的关键字,但可能仍然是高度相关的,以及3)一些词具有多种含义,这将导致不相关的文档包括在检索的子集中。在本文中,我们提出了TopicSifter,交互式搜索空间减少的可视化分析系统。我们的系统利用基于非负矩阵分解的有针对性的主题建模,并允许用户给出相关反馈,以细化他们的目标,并指导主题建模最相关的结果。
2019-07-28 cs.HC cs.IR
A Topic Modeling Analysis of Stigma Dimensions, Social, and Related Behavioral Circumstances in Clinical Notes Among Patients with HIV
University of Florida(佛罗里达大学);Indiana University(印第安纳大学);Regenstrief Institute(雷根斯特里夫研究所)
本研究利用Latent Dirichlet Allocation主题建模分析美国大型医疗系统290万份EHR临床笔记,揭示了9140名HIV感染者的病耻感维度及相关社会行为特征,为克服传统问卷局限并改善临床护理提供了可扩展的评估方法与干预见解。
2025-09-11 cs.IR cs.LG
Using LLM-Based Approaches to Enhance and Automate Topic Labeling
本研究利用大型语言模型自动生成主题标签,提出新指标评估标签语义代表性,提升主题建模输出质量。
2025-02-03 cs.IR
Exclusive Topic Modeling
National University of Singapore(新加坡国立大学)
我们提出了一个排他性主题建模(ETM)的无监督文本分类,这是能够1)识别领域特定的关键字,虽然不经常出现,2)提供结构良好的主题与排他性的话。特别地,施加加权Lasso惩罚以自动减少频繁出现但不太相关的词的优势,并且成对的库尔贝克-莱布勒散度惩罚用于实现主题分离。仿真研究表明,ETM检测特定领域的关键字,而LDA失败。当应用于基准NIPS数据集时,加权Lasso惩罚和成对库尔贝克-莱布勒散度惩罚的模型的主题一致性得分平均分别提高了22%和10%。
2021-02-06 cs.IR cs.LG stat.ML
PinLanding: Content-First Keyword Landing Page Generation via Multi-Modal AI for Web-Scale Discovery
Pinterest(Pinterest公司);Stanford University(斯坦福大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出 PinLanding 架构,结合 VLM、LLM 和 CLIP 双编码器生成关键词落地页,在 Fashion200K 基准上 Recall@10 达 99.7%,并在 420 万落地页的生产部署中显著提升主题覆盖率和属性精度。
2025-03-01 cs.AI cs.IR cs.LG
Doc2Query++: Topic-Coverage based Document Expansion and its Application to Dense Retrieval via Dual-Index Fusion
提出Doc2Query++框架,通过无监督主题建模和混合关键词选择结构化LLM查询生成,并采用双索引融合策略隔离噪声,显著提升稀疏与稠密检索性能。
2025-10-13 cs.IR
Probabilistic Latent Semantic Analysis (PLSA) untuk Klasifikasi Dokumen Teks Berbahasa Indonesia
Universitas Indonesia(印度尼西亚大学)
管理文档中包含的一项任务是如何找到内部的大量信息。主题建模是一种以关键字的形式生成文档表示的技术。关键词将用于索引编制过程和用户所需的文件检索。在本研究中,我们将具体讨论概率潜在语义分析(PLSA)。它将涵盖PLSA机制,其中涉及期望最大化(EM)作为训练算法,如何进行测试,并获得准确性结果。
2015-12-02 cs.CL cs.IR
MPTopic: Improving topic modeling via Masked Permuted pre-training
Dalhousie University(达尔豪斯大学)
针对BERTopic和Top2Vec聚类机制优化不足的问题,提出TF-RDF评估术语相关性并驱动MPTopic聚类算法,实验证明其主题关键词提取效果优于现有方法。
2023-09-02 cs.IR cs.LG
Smart Crawling: A New Approach toward Focus Crawling from Twitter
CentraleSupélec(中央高等电力学院);Paris-Saclay University(巴黎萨克雷大学);LRI(巴黎第十一大学计算机科学实验室)
Twitter是一个社交网络,提供了丰富而有趣的信息来源,具有检索和分析的挑战性。Twitter数据可以使用REST API访问。可用的操作允许基于一组关键字检索tweets,但有限制,例如每分钟调用的次数和结果的大小。此外,对检索结果没有控制,查找与特定主题相关的推文是一个大问题。考虑到这些限制,查询关键字必须明确地覆盖感兴趣的主题,以便获得相关答案并减少API调用的数量。在本文中,我们介绍了一种新的爬行算法,称为“SmartTwitter爬行”(STIC)检索一组相关的目标主题的推文。在该算法中,我们采用初始关键字查询,并使用来自不同数据源的一组附加关键字来丰富它。STIC算法依赖于Twittergraph中的DFS搜索,其中每个到达的tweet如果与查询关键字相关,则使用评分来考虑,在整个爬行过程中更新。该评分考虑了推文文本、主题标签以及发布推文、回复推文、在推文中被提及或转发推文的用户。给定这个分数,STIC能够在每次迭代中选择相关的推文,并继续添加相关的有价值的推文。对不同类型的查询进行了实验,结果表明,与简单的BFS搜索相比,该算法的查准率有所提高。
2021-10-08 cs.AI cs.IR cs.LG
A Shared IPTC Topic Space for Cross-Source Topic Modelling
University of Exeter(埃克塞特大学);Federal University of Rio Grande do Sul(南里奥格兰德联邦大学)
提出基于IPTC分类法的共享主题空间框架,通过引导BERTopic将不同语料库的主题映射到统一空间,实现可复现的跨来源主题比较。
2026-06-26 cs.IR
A Bibliographic View on Constrained Clustering
Bangor University(班戈大学)
在Web-of-Science上对约束聚类进行关键字搜索,返回了不到3,000个文档。我们对这些论文进行了自动分析,并编制了我们自己的183篇论文的参考书目,我们根据它们的主题和实验研究(如果有的话)进行了更详细的分析。本文通过帕累托分析,使用引文计数和出版年份,介绍了该领域及其子主题的总体趋势。我们列出可用的软件和分析我们的参考集合的实验部分。我们发现明显缺乏大型比较实验。在我们回顾的主题中,应用研究最近最为丰富,还有深度学习,主动学习和集成学习。
2022-09-22 cs.IR cs.LG