CoRel: Seed-Guided Topical Taxonomy Construction by Concept Learning and Relation Transferring
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);The Hong Kong University of Science and Technology(香港科技大学)
分类法不仅是知识表示的基本形式,而且对于诸如问答和网络搜索等大量知识丰富的应用也至关重要。现有的分类法构造方法大多通过提取上下义实体对来组织“通用”分类法。然而,这些通用的分类不能满足用户在某些领域和关系的具体利益。此外,实例分类法的本质是将每个节点视为单个单词,这具有低语义覆盖率。在本文中,我们提出了一种种子引导的主题分类结构的方法,该方法以语料库和概念名称描述的种子分类作为输入,并构造一个更完整的分类基于用户的兴趣,其中每个节点表示为一个集群的连贯的条款。我们的框架CoRel有两个模块来实现这一目标。关系转换模块学习用户感兴趣的关系并沿多条路径进行转换,以扩展种子分类结构的广度和深度。概念学习模块通过联合嵌入分类法和文本来丰富每个概念节点的语义。在真实世界数据集上进行的综合实验表明,Corel生成了高质量的主题分类,并显著优于所有基线。
2020-10-13 cs.CL cs.IR
Topic-Guided Reinforcement Learning with LLMs for Enhancing Multi-Document Summarization
Department of Computer Science, University of British Columbia(英属哥伦比亚大学计算机科学系);Salesforce AI Research(Salesforce人工智能研究)
本文提出一种主题引导的强化学习方法,通过在GRPO框架中引入主题奖励以衡量生成摘要与源文档的主题对齐度,有效改进了多文档摘要的内容选择,并在Multi-News等数据集上持续优于强基线。
2025-09-11 cs.CL
iAgentBench: Benchmarking Sensemaking Capabilities of Information-Seeking Agents on High-Traffic Topics
University of Washington(华盛顿大学)
iAgentBench通过整合多源证据来评估信息检索代理在高流量话题中的理解能力,强调证据使用而非单纯检索的重要性。
2026-03-04 cs.CL cs.IR cs.LG
Multi-label Dataless Text Classification with Topic Modeling
State Key Lab of Software Engineering, Wuhan University(武汉大学软件工程国家重点实验室)
手动标记文档既繁琐又昂贵,但它对于训练传统的文本分类器至关重要。近年来,一些无数据文本分类技术被提出来解决这个问题。然而,现有的工作主要集中在单标签分类问题,即,每个文件被限制为属于一个单一的类别。在本文中,我们提出了一种新的种子引导的多标签主题模型,命名为SMTM。SMTM利用与每个类别相关的几个种子词,对没有任何标记文档的文档集合进行多标记分类。在SMTM中,每个类别都与一个单独的类别主题相关联,该主题涵盖了类别的含义。为了适应多标签文档,我们显式模型的类别稀疏SMTM使用尖峰和板先验和弱平滑先验。也就是说,在不使用任何阈值调优的情况下,SMTM会自动为每个文档选择相关的类别。为了结合对种子词的监督,我们提出了种子引导的偏置GPU(即,广义波利亚瓮)抽样程序来指导SMTM的主题推理。在两个公共数据集上的实验表明,SMTM比最先进的替代方案实现了更好的分类精度,甚至在某些情况下优于监督解决方案。
2017-11-05 cs.CL cs.IR
SEED-Bench: Benchmarking Multimodal LLMs with Generative Comprehension
Tencent AI Lab(腾讯人工智能实验室);Tencent PCG(腾讯平台与内容事业群)
本文提出SEED-Bench基准,包含19K个多选题,覆盖12个维度,评估多模态LLM的生成式理解能力,揭示现有模型局限并推动未来研究。
2023-08-02 cs.CL cs.CV
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
West Virginia University(西弗吉尼亚大学)
PrivDrift基准通过1,000个多轮对话和提取探测,评估三个LLM在主题漂移后用户秘密的泄露率(38.7%-54.6%),揭示隐私风险是持久行为失败而非仅记忆或越狱。
2026-09-28 cs.AI cs.CL cs.CR
Iterative Topic Taxonomy Induction with LLMs: A Case Study of Electoral Advertising
Department of Computer Science, ETH Zürich(苏黎世联邦理工学院计算机科学系);Department of Computer Science, Purdue University(普渡大学计算机科学系)
本文提出基于大语言模型的迭代主题分类方法,通过选举广告案例验证,实现了无需预定义标签的自动主题分类,并在人类评估中表现出更一致和可解释的结果。
2026-10-02 cs.AI cs.CL cs.CY
AIDE: Attribute-Guided MultI-Hop Data Expansion for Data Scarcity in Task-Specific Fine-tuning
Syracuse University(苏塞克斯大学);AWS Bedrock Science(AWS Bedrock科学)
提出属性引导多跳数据扩展框架AIDE,通过提取主题与属性进行多跳合成并引入残差连接,仅需10个种子即可高效微调LLM,性能超越人类数据及现有方法。
2025-07-14 cs.CL
Topic Over Source: The Key to Effective Data Mixing for Language Models Pre-training
提出基于主题的数据混合策略,通过多阶段过程生成主题标签,证明其优于基于来源的方法,显著降低验证损失并提升模型性能。
2025-08-08 cs.AI cs.CL
Grasping the Essentials: Tailoring Large Language Models for Zero-Shot Relation Extraction
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Virginia(弗吉尼亚大学)
针对零样本关系抽取缺乏标注且难适应新关系的问题,提出 REPaL,利用 LLM 基于关系定义和未标注语料合成种子,并通过双向 SLM 反馈与多轮迭代提升覆盖、降低偏差。
2024-10-25 cs.CL
LimTopic: LLM-based Topic Modeling and Text Summarization for Analyzing Scientific Articles limitations
Northern Illinois University(北伊利诺伊大学);Northwestern University(西北大学)
本文提出LimTopic框架,结合BERTopic与LLM从科学论文局限性中提取主题、生成标题与摘要,实验证明BERTopic+GPT-4主题建模及GPT-4摘要效果最佳。
2025-03-08 cs.CL cs.LG
Fusion-Eval: Integrating Assistant Evaluators with LLMs
Google Deepmind(谷歌DeepMind)
Fusion-Eval利用大型语言模型整合多个专业辅助评估器的评分来评估自然语言系统,在SummEval和TopicalChat上分别取得0.962和0.744的相关性,显著优于基线方法。
2024-06-06 cs.AI cs.CL
Seeded Poisson Factorization: leveraging domain knowledge to fit topic models
针对传统无监督主题模型难与预定义领域对齐的问题,提出融入种子词领域知识的种子泊松因子分解SPF,经多数据集验证其在分类性能与计算效率上更优,且对不完善种子词具鲁棒性。
2025-10-04 cs.CL cs.LG econ.GN
Short Text Hashing Improved by Integrating Multi-Granularity Topics and Tags
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
由于紧凑二进制码的计算和存储效率,散列已被广泛用于大规模相似性搜索。不幸的是,许多现有的散列方法的基础上观察到的关键字功能是不有效的短文本,由于稀疏和简短。最近,一些研究人员试图利用一定粒度的潜在主题来保持哈希码中的语义相似性,而不仅仅是关键字匹配。然而,一定粒度的主题不足以表示内在的语义信息。在本文中,我们提出了一种使用多粒度主题和标签进行短文本哈希的新型统一方法,称为HMTT。特别是,我们提出了一种选择方法来选择最佳的多粒度主题取决于数据集的类型,并设计了两个不同的哈希策略,将多粒度的主题。我们还提出了一个简单而有效的方法来利用标签,以提高相关文本的相似性。我们在一个短文本数据集和一个正常文本数据集上进行了广泛的实验。结果表明,我们的方法是有效的,并显着优于基线的几个评估指标。
2015-03-10 cs.CL cs.IR
Discovering Latent Themes in Social Media Messaging: A Machine-in-the-Loop Approach Integrating LLMs
Purdue University(普渡大学)
针对传统话题分析粒度粗、人工主题发现方法扩展性差等问题,本研究提出融合LLMs的机器在环方法,在两个Facebook广告数据集上验证了其在潜在主题发现上更准确可解释的效果,并揭示了社交媒体主题的动态变化规律。
2024-07-15 cs.AI cs.CL cs.CY
From Noise to Signal: When Outliers Seed New Topics
本文提出一种时间主题分类方法,通过分析文档轨迹识别早期信号,区分预示性异常值与传统主题强化文档,验证了其在氢经济新闻中的有效性。
2026-09-22 cs.AI cs.CL
Weakly Supervised Prototype Topic Model with Discriminative Seed Words: Modifying the Category Prior by Self-exploring Supervised Signals
Jilin University(吉林大学);Key Laboratory of Symbolic Computation and Knowledge Engineering of Ministry of Education, Jilin University(吉林大学符号计算与知识工程教育部重点实验室)
无数据文本分类,即,弱监督学习的新范例是指利用未标记的文档和一些预定义的类别代表词(称为种子词)进行学习的任务。最近的生成式无数据方法通过仅使用种子词出现来构造文档特定的类别先验,然而,这样的类别先验通常包含非常有限的甚至是有噪声的监督信号。为了解决这个问题,在本文中,我们提出了一种新的制定类别先验。首先,对于每个文件,我们认为它的标签隶属度,不仅计算种子词的出现,但也使用一种新的原型计划,它捕获伪最近邻类别。其次,对于每个标签,我们考虑其语料库的频率先验知识,这也是一个判别知识的分类。通过将所提出的类别先验引入到已有的生成式无数据方法中,我们提出了一种新的生成式无数据方法,即弱监督原型主题模型(WSPTM)。在真实数据集上的实验结果表明,WSPTM优于现有的基线方法。
2021-11-20 cs.AI cs.CL
MotivGraph-SoIQ: Integrating Motivational Knowledge Graphs and Socratic Dialogue for Enhanced LLM Ideation
The Key Laboratory of Cognition and Decision Intelligence for Complex Systems(认知与决策智能复杂系统重点实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Hunan Provincial Key Laboratory of Philosophy and Social Sciences of Artificial Intelligence and Precision International, Hunan Normal University(湖南省人工智能与精准哲学社会科学省级重点实验室,湖南师范大学);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出 MotivGraph-SoIQ 框架,通过融合动机知识图谱与苏格拉底式对话,为大语言模型学术创意生成提供依据并缓解确认偏误,在 ICLR25 数据集上优于现有方法。
2025-09-26 cs.CL
Reflecting in the Reflection: Integrating a Socratic Questioning Framework into Automated AI-Based Question Generation
Czech Technical University in Prague(捷克技术大学)
本文提出一种基于苏格拉底质疑框架的双代理模型,通过多轮对话生成高质量反思问题,提升教学效果。
2026-01-21 cs.CL cs.CY cs.LG
Correcting Selection Bias in Sparse User Feedback for Large Language Model Quality Estimation: A Multi-Agent Hierarchical Bayesian Approach
Cisco(思科)
本文提出一种多智能体分层贝叶斯方法,用于修正大规模语言模型质量评估中稀疏用户反馈的选择偏差,通过主题聚类、偏差建模和合成智能体,改进质量评估的准确性。
2026-05-12 cs.CL
Inverted Bilingual Topic Models for Lexicon Extraction from Non-parallel Data
IBM T. J. Watson Research Center(IBM T. J. 沃森研究中心);IBM Research-Tokyo(IBM东京研究中心)
主题模型已经成功地应用于词典抽取。但是,以前的大多数方法仅限于文档对齐的数据。在本文中,我们试图解决两个挑战,将主题模型应用于非并行数据中的词汇提取:1)难以建模的单词关系和2)噪声种子字典。为了解决这两个挑战,我们提出了两个新的双语主题模型,以更好地捕捉每个单词的语义信息,同时区分在一个嘈杂的种子字典的多个翻译。我们通过颠倒“单词”和“文档”的角色来扩展主题模型的范围。此外,为了解决种子词典中的噪声问题,我们在模型中加入了翻译选择的概率。此外,我们还提出了一个有效的措施,以评估在不同的语言中的词的相似性,并选择最佳的翻译对。使用真实世界数据的实验结果表明,所提出的模型的实用性和有效性。
2017-06-21 cs.CL
Beyond the Black Box: Integrating Lexical and Semantic Methods in Quantitative Discourse Analysis with BERTopic
University of York(约克大学)
本文提出一个结合词汇与语义方法的透明QDA框架,利用BERTopic及Python工具实现可复现与可解释的分析,并通过历史政治话语案例验证其有效性。
2026-11-02 cs.CL
Boundary-Aware NL2SQL: Integrating Reliability through Hybrid Reward and Data Synthesis
Li Auto Inc.(Li汽车公司);Beijing University of Posts and Telecommunications(北京邮电大学)
BAR-SQL通过混合奖励和数据合成方法,提升NL2SQL在生成准确性和边界感知回避能力上的表现。
2026-01-15 cs.CL
Integrating Document Clustering and Topic Modeling
Carnegie Mellon University(卡内基梅隆大学);Tsinghua University(清华大学)
文档聚类和主题建模是两个密切相关的任务,可以相互受益。主题建模可以将文档投影到一个主题空间中,这有助于有效的文档聚类。通过文档聚类发现的聚类标签可以被合并到主题模型中,以提取特定于每个聚类的局部主题和所有聚类共享的全局主题。在本文中,我们提出了一个多粒度聚类主题模型(MGCTM),它集成了文档聚类和主题建模到一个统一的框架,并共同执行这两项任务,以达到整体最佳性能。该模型将两个组件紧密耦合:用于发现文档集合中潜在组的混合组件和用于挖掘多粒度主题的主题模型组件,其中多粒度主题包括特定于每个簇的局部主题和跨簇共享的全局主题,采用变分推理来近似隐变量的后验,并学习模型参数。在两个数据集上的实验证明了该模型的有效性。
2013-09-26 cs.CL cs.IR cs.LG
Reflective Prompt Optimization of a Deep-Research Agent: A Topic-Disjoint, Multi-Seed Protocol for Measuring Transferable Gains and Prompt-Level Overfitting
该研究针对深度研究智能体提出主题不相交多种子的反思式提示优化协议,发现其可提升保留引用奖励,且增益源于分解维度反馈而非记忆,需特定评估条件。
2026-10-12 cs.CL
SAGE-RT: Synthetic Alignment data Generation for Safety Evaluation and Red Teaming
Enkrypt AI
提出SAGE-RT流水线,利用详细分类法完全合成生成涵盖超1500个有害主题的5.1万个红队与对齐数据,在多数子类别成功越狱最先进LLM,避免了模式崩溃,助力提升模型安全性。
2024-08-14 cs.AI cs.CL cs.CR
Integrating Prosodic and Lexical Cues for Automatic Topic Segmentation
我们提出了一个概率模型,同时使用韵律和词汇线索的自动分割语音成主题连贯的单位。我们提出了两种方法结合使用隐马尔可夫模型和决策树的词汇和韵律信息。从语音识别器中获取词汇信息,从语音波形中自动提取韵律特征。我们评估我们的方法上的广播新闻语料库,使用DARPA-TDT评估指标。结果表明,单独的韵律模型是有竞争力的基于词的分割方法。此外,我们实现了一个显着减少错误相结合的韵律和基于单词的知识源。
2001-05-31 cs.CL
Integrating Semantic and Structural Information with Graph Convolutional Network for Controversy Detection
University of Chinese Academy of Sciences(中国科学院大学)
识别社交媒体上有争议的帖子是挖掘公众情绪,评估事件影响,缓解两极分化的基本任务。然而,现有的方法不能1)有效地结合来自内容相关的帖子的语义信息; 2)保留用于回复关系建模的结构信息; 3)适当地处理来自与训练集中的主题不相似的主题的帖子。为了克服前两个限制,我们提出了主题后评论图卷积网络(TPC-GCN),它集成了来自图结构和主题,帖子和评论的内容的信息,用于后一级的争议检测。对于第三个限制,我们将我们的模型扩展到解纠缠TPC-GCN(DTPC-GCN),以解开主题相关和主题无关的功能,然后动态融合。在两个真实数据集上的大量实验表明,我们的模型优于现有的方法。结果和实例分析表明,该模型能够有效地整合语义和结构信息,具有较强的泛化能力。
2020-05-16 cs.CL
Empath: Understanding Topic Signals in Large-Scale Text
Stanford University(斯坦福大学)
人类语言是由广泛的主题着色,但现有的文本分析工具只关注其中的一小部分。我们提出了Empath,一个工具,可以生成和验证新的词汇类别的需求,从一个小的一组种子条款(如“流血”和“冲床”生成类别暴力)。Empath通过深度学习在超过18亿字的现代小说中进行神经嵌入,从而在单词和短语之间绘制出内涵。给定一小组表征类别的种子词,Empath使用其神经嵌入来发现新的相关术语,然后使用群体驱动的过滤器验证类别。Empath还分析了200个内置的、预先验证的类别中的文本,这些类别是我们从网络数据集中的常见主题中生成的,比如忽视、政府和社交媒体。我们发现,Empath的数据驱动,人类验证的类别是高度相关的(r = 0.906)与LIWC中的类似类别。
2016-02-22 cs.AI cs.CL
Integrating topic modeling and word embedding to characterize violent deaths
University of California-Los Angeles(加州大学洛杉矶分校);UCLA Fielding School of Public Health(加州大学洛杉矶分校菲尔丁公共卫生学院)
有一个不断升级的需要的方法,以确定潜在的模式,在文本数据从许多领域。我们引入了一种新的方法来识别语料库中的主题,并表示为主题序列的文件。话语原子主题建模借鉴了理论机器学习的进步,将主题建模和词嵌入集成在一起,充分利用了各自的独特功能。我们首先确定一组向量(“话语原子”),提供了一个稀疏表示的嵌入空间。原子向量可以被解释为潜在主题:通过生成模型,原子映射到单词的分布上;人们还可以推断出生成单词序列的主题。我们用一个未充分利用的文本的突出例子来说明我们的方法:美国国家暴力死亡报告系统(NVDRS)。NVDRS用结构化变量和非结构化叙述总结了暴力死亡事件。我们在叙述中确定了225个潜在主题(例如,死亡和身体攻击的准备);这些主题中有许多没有被现有的结构化变量所捕获。基于已知的性别自杀和杀人模式,以及最近对语义空间中性别偏见的研究,我们确定了我们主题的性别偏见(例如,关于止痛药的话题是女性的)。然后,我们比较性别偏见的主题,他们的患病率在叙述女性与男性受害者。结果提供了关于致命暴力及其性别性质的报告的详细量化情况。我们的方法提供了一个灵活的和广泛适用的方法来建模文本数据中的主题。
2021-06-28 cs.CL cs.CY cs.LG
T-BERT -- Model for Sentiment Analysis of Micro-blogs Integrating Topic Model and BERT
Indian Institute of Technology, Madras(印度理工学院马德拉斯分校);Indian Institute of Technology, Delhi(印度理工学院德里分校)
情感分析(SA)近年来已经成为一个广泛的研究领域,影响着包括电子商务、消费者业务和政治在内的各个领域,这是由社交媒体平台的日益普及和使用所驱动的。从这种背景下出现的无监督短文本中提取主题和情感是具有挑战性的,因为它们可能包含比喻性的单词,刺耳的数据,以及单个单词或短语的许多可能含义的共存,所有这些都有助于获得不正确的主题。大多数先前的研究是基于一个特定的主题/修辞/集中的内容在一个干净的数据集。在这里报告的工作中,证明了BERT(来自Transformers的双向编码器表示)在来自流行微博平台的原始实时数据集的情感分类任务中的有效性。提出了一种新的T-BERT框架,以显示通过将潜在主题与上下文BERT嵌入相结合所获得的增强性能。使用NimbleBox.ai平台在具有大约42000个数据集的集合上进行数值实验,该集合具有由Nvidia Tesla K80(CUDA)、4核CPU、15 GB RAM组成的硬件配置,该硬件配置在隔离的Google Cloud Platform实例上运行。实验结果表明,在BERT中加入主题后,该模型的性能得到了提高,使用该方法进行BERT情感分类的准确率达到了90.81%.
2021-06-02 cs.AI cs.CL
FewTopNER: Integrating Few-Shot Learning with Topic Modeling and Named Entity Recognition in a Multilingual Framework
High School of Technology Salé(萨莱高等技术学院);Mohammed V University in Rabat(拉巴特穆罕默德五世大学)
FewTopNER 提出一种融合少样本 NER 与主题建模的多语言框架,通过共享编码器和跨任务双向注意力机制增强实体消歧,在五种语言基准上显著提升 F1 分数与主题连贯性。
2025-02-04 cs.AI cs.CL
Towards Autoencoding Variational Inference for Aspect-based Opinion Summary
University of Information Technology(信息技术大学);Ho Chi Minh City University of Technology(胡志明市理工大学)
基于情感的意见摘要(AOS),包括方面发现和情感分类步骤,最近成为电子商务系统中最重要的数据采掘任务之一。沿着这个方向,基于LDA的模型被认为是一个非常合适的方法,因为这个模型提供了主题建模和情感分类。然而,与传统的主题建模不同,在方面发现的背景下,它往往需要一些初始种子词,其先验知识是不容易被纳入LDA模型。此外,LDA方法依赖于采样方法,这需要将整个语料库加载到内存中,使得它们难以扩展。在这项研究中,我们研究了AOS问题的替代方法,基于自动编码变分推理(AVI)。首先,我们介绍了自动编码变分推理方面发现(AVIAD)模型,它扩展了以前的工作自动编码变分推理主题模型(AVITM)嵌入先验知识的种子词。这项工作包括增强以前的AVI架构,也修改的损失函数。最后,我们提出了联合情感/主题的自动编码变分推理(AVIJST)模型。在这个模型中,我们大大扩展了AVI模型,以支持JST模型,它执行相应的情感主题建模。实验结果表明,我们提出的模型具有更高的主题一致性,更快的收敛时间和更好的情感分类的准确性,相比基于LDA的同行。
2019-06-07 cs.CL cs.LG
Learning Topic-Sensitive Word Representations
Informatics Institute, University of Amsterdam(阿姆斯特丹大学信息学院)
分布式单词表示广泛用于NLP任务中的单词建模。大多数现有的模型生成一个表示每个字,不考虑不同的含义的一个字。我们提出了两种方法来学习多个主题敏感的表示,每个词使用分层Dirichlet过程。我们观察到,通过对每个文档的主题建模和整合主题分布,我们获得了能够区分给定单词的不同含义的表示。我们的模型产生统计上显着的改进,词汇替代任务表明,常用的单个单词表示,即使与上下文信息相结合,是不够的,这项任务。
2017-05-01 cs.CL
Source-LDA: Enhancing probabilistic topic models using prior knowledge sources
University of California Los Angeles(加州大学洛杉矶分校)
主题建模的一种流行方法是将语料库中的共现n-gram提取为语义主题。主题中的n-gram集合代表了一个潜在的主题,但是大多数主题建模方法都不能用单个n-gram来标记这些单词集合,这样的标记对于摘要系统中的主题识别非常有用。本文介绍了一种新的方法来标记一组n-gram组成一个单独的主题。所采取的方法是补充现有的主题分布的话,一个已知的分布的基础上一组预定义的主题。这是通过将表示已知潜在主题的现有标记知识源集成到概率主题模型中来完成的。这些知识源被转换成一个分布,并用于设置词上的Dirichlet生成分布的超参数。在推理中,这些修改后的分布引导潜在主题的收敛以符合互补分布。这种方法确保主题推理过程与现有知识一致。然后将来自互补知识源的标签分配转移到语料库的潜在主题。结果表明,准确的标签分配的主题,以及改进的主题生成比使用各种标记方法的基础上潜在的狄利克雷分配(LDA)。
2017-05-17 cs.CL cs.IR cs.LG
Integrating "Free" Word Order Syntax and Information Structure
本文描述了一种组合范畴形式主义,称为Multiset-CCG,可以捕捉语法和解释的“自由”的语序,如土耳其语。形式主义在成分上并行地推导出句子的谓词-论元结构和信息结构(例如主题、焦点),并且统一地处理分句内、复杂分句中以及跨分句边界的论元和非论元之间的语序变化。
1995-02-15 cmp-lg cs.CL
TopicImpact: Improving Customer Feedback Analysis with Opinion Units for Topic Modeling and Star-Rating Prediction
Department of Computing Science Umeå University(计算科学系乌梅大学)
本文提出TopicImpact系统,通过将客户评论重构为意见单元来改进主题建模,并结合主题与情感模态提升星级评分预测的准确性和可解释性。
2025-07-16 cs.AI cs.CL
DTECT: Dynamic Topic Explorer & Context Tracker
Indian Association for the Cultivation of Science(印度科学培养协会)
DTECT是一个端到端系统,通过提供统一工作流整合数据预处理、多模型架构、评估指标及LLM驱动的自动主题标注和交互式可视化,解决了动态主题建模碎片化问题,显著增强了主题演变的可解释性与用户探索体验。
2025-07-12 cs.AI cs.CL cs.IR
Integrating Machine-Generated Short Descriptions into the Wikipedia Android App: A Pilot Deployment of Descartes
EPFL(苏黎世联邦理工学院);Wikimedia Foundation(维基媒体基金会)
Descartes模型通过提供机器生成的简短描述建议,帮助维基百科编辑提高内容质量,试点结果显示其在12种语言中有效减少内容缺口。
2026-01-12 cs.CL
X-Class: Text Classification with Extremely Weak Supervision
University of California San Diego(加利福尼亚大学圣地亚哥分校)
在本文中,我们探讨了监督极弱的文本分类,即,只依赖于类名的表层文本。这是一个比种子驱动的弱监督更具挑战性的设置,它允许每个类有几个种子单词。我们选择从表示学习的角度来解决这个问题--理想的文档表示应该在聚类和期望的分类之间产生几乎相同的结果。特别地,可以对相同的语料库进行不同的分类(例如,基于主题和位置),因此文档表示应该适应给定的类名。我们提出了一个新的框架X-Class来实现自适应表示。具体来说,我们首先通过递增地将最相似的词添加到每个类来估计类表示,直到出现不一致。经过定制的混合类注意力机制,我们获得的文档表示通过上下文的单词表示的加权平均。将每个文档的先验分配给其最近的类,然后将文档聚类并对齐到类。最后,我们从每个类中挑选出最可信的文档来训练一个文本分类器。大量的实验表明,X-Class可以在7个基准数据集上与种子驱动的弱监督方法竞争,甚至优于种子驱动的弱监督方法。我们的数据集和代码发布在https://github.com/ZihanWangKi/XClass/上。
2022-02-07 cs.CL cs.IR cs.LG
Leveraging Just a Few Keywords for Fine-Grained Aspect Detection Through Weakly Supervised Co-Training
Columbia University(哥伦比亚大学)
用户生成的评论可以被分解成细粒度的片段(例如,句子,子句),每个评估主体实体的不同方面(例如,价格、质量、外观)。自动检测这些方面对于用户和下游意见挖掘应用程序都是有用的。目前用于学习方面分类器的监督方法需要许多细粒度的方面标签,这是劳动密集型的获得。不幸的是,无监督的主题模型往往无法捕捉到感兴趣的方面。在这项工作中,我们考虑了用于训练方面分类器的弱监督方法,这些方法只需要用户提供一小组种子词(即,弱阳性指标)。首先,我们表明,目前的弱监督方法不能有效地利用种子词的预测能力进行方面检测。接下来,我们提出了一种学生-教师方法,该方法有效地利用了词袋分类器(教师)中的种子词;反过来,我们使用教师来训练第二个模型(学生),该模型可能更强大(例如,使用预训练的词嵌入的神经网络)。最后,我们证明了迭代协同训练可以用来处理有噪声的种子词,从而改进教师和学生模型。我们提出的方法在六个不同的产品评论领域和六个多语言餐厅评论数据集中始终优于以前的弱监督方法(平均14.1个绝对F1点)。
2019-09-01 cs.CL cs.LG stat.ML