KeyGen2Vec: Learning Document Embedding via Multi-label Keyword Generation in Question-Answering
Eindhoven University of Technology（埃因霍温理工大学）；BRIN Indonesia（印度尼西亚国家研究与创新署）
本文提出KeyGen2Vec，通过Seq2Seq多标签关键词生成学习文档嵌入，减少对标签监督的依赖，并在cQA数据集上验证其优于多标签分类器且可与主题标签监督方法竞争。
2023-10-30 cs.CL
Probabilistic Latent Semantic Analysis (PLSA) untuk Klasifikasi Dokumen Teks Berbahasa Indonesia
Universitas Indonesia（印度尼西亚大学）
管理文档中包含的一项任务是如何找到内部的大量信息。主题建模是一种以关键字的形式生成文档表示的技术。关键词将用于索引编制过程和用户所需的文件检索。在本研究中，我们将具体讨论概率潜在语义分析（PLSA）。它将涵盖PLSA机制，其中涉及期望最大化（EM）作为训练算法，如何进行测试，并获得准确性结果。
2015-12-02 cs.CL cs.IR
Arabic Text Categorization Algorithm using Vector Evaluation Method
Isra University（伊斯拉大学）；University of Jordan（约旦大学）；Al-Ahliyya Amman University（艾哈利亚安曼大学）
文本分类是将文档根据其内容进行分类的过程。这个过程对于使信息检索更容易是很重要的，并且由于在线可获得的大量文本信息，它变得更加重要。文本分类中的主要问题是如何提高分类精度。阿拉伯语文本分类是一个新兴的研究领域，但相关的研究却很少。提出了一种基于向量评估的阿拉伯文文本分类方法。该方法利用一个已分类的阿拉伯语文档语料库，通过计算待测文档词的权值来确定文档关键词，并将其与已分类的语料库中的关键词进行比较，从而确定待测文档的最佳类别。
2015-01-06 cs.CL cs.IR
A Hassle-Free Machine Learning Method for Cohort Selection of Clinical Trials
传统的文本分类技术在临床领域严重依赖于人工提取的文本线索。本文提出了一种普遍监督的机器学习方法，同样轻松，不使用临床知识。所采用的方法实现简单，运行速度快，但有效。本文提出了一种新的命名实体识别（NER）的集成系统能够学习的关键字特征的文件。基于关键词的NER特征可以更突出重要的临床相关阶段，而不是仅仅考虑整个句子/段落进行分析。此外，为了捕获文档中的语义信息，利用源于文档级FastText分类结果的FastText特征。
2018-08-10 cs.CL cs.IR
TREC CAsT 2019: The Conversational Assistance Track Overview
University of Glasgow（格拉斯哥大学）；Microsoft Research（微软研究院）；Carnegie Mellon University（卡内基梅隆大学）
会话辅助轨道（CAST）是TREC 2019的一个新轨道，旨在促进会话信息搜索（CIS）研究，并为会话搜索系统创建大规模可重用的测试集合。文档语料库是来自TREC复杂答案检索（CAR）和微软机器阅读理解（MARCO）数据集的38，426，252个段落。80个信息寻求对话（30个训练，50个测试）平均有9到10个问题。为30个培训主题和20个测试主题提供相关性评估。今年，21个小组使用不同的对话查询理解和排名方法总共提交了65次运行。方法包括传统的基于检索的方法，基于特征的学习排名，神经模型和知识增强的方法。贯穿运行的一个共同主题是使用基于BERT的神经重排序方法。领先的方法还采用了文档扩展、会话查询扩展和用于会话查询重写的生成语言模型（GPT-2）。结果表明，自动系统和那些使用手动解决的话语之间的差距，与最好的自动系统相比，手动重写有35%的相对改善。
2020-03-30 cs.CL cs.IR cs.LG
Conversational Recommendation as Retrieval: A Simple, Strong Baseline
Google Research（谷歌研究院）
针对对话式推荐系统过度依赖难以扩展的外部知识的问题，提出将其转化为信息检索任务，使用基于BM25的检索器并辅以用户中心建模和数据增强，在简单方法下超越了复杂基线并缓解了冷启动问题。
2023-05-23 cs.CL cs.IR
Structuring an unordered text document
Department of Computer Science and Engineering, IIT (BHU)（印度理工学院（BHU）计算机科学与工程系）
将一个无序的文本文档分割成不同的部分是一个非常有用的任务，在许多文本处理应用程序，如多文档摘要，问答等。本文提出了一个无序的文本文档结构的基础上，在文档中的关键字。我们使用统计和预测方法（如TextRank算法和Google的USE（通用句子编码器））在维基百科文档上测试我们的方法。从我们的实验结果中，我们表明，该模型可以有效地结构无序的文档成节。
2019-01-29 cs.CL cs.IR
Medical Literature Mining and Retrieval in a Conversational Setting
State University of New York at Buffalo（纽约州立大学布法罗分校）
新型冠状病毒肺炎（COVID-19，即2019冠状病毒病）大流行刺激了医学研究文献。随着了解病毒的新研究进展，需要强大的文本挖掘工具，可以以简洁和可消费的方式处理，提取和呈现文献中的答案。本文提出了一个基于DialoGPT的多轮会话生成模块和基于BM-25 \&神经嵌入的集成信息检索模块的会话系统，该系统可以从丰富的医学文献中检索和回答冠状病毒相关的查询，并将其呈现在与用户的会话设置中。我们进一步进行实验，比较基于神经嵌入的文档检索和传统的BM 25检索算法，并报告结果。
2021-07-23 cs.CL cs.IR
Guided Transformer: Leveraging Multiple External Sources for Representation Learning in Conversational Search
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Microsoft（微软）
响应于模糊或分面查询而提出澄清性问题已经被认为是用于各种信息检索系统，特别是具有有限带宽接口的会话式搜索系统的有用技术。分析和生成澄清问题最近已经被研究，但准确利用用户的反应澄清问题已经相对较少探索。在本文中，我们使用一种新的注意力机制来丰富Transformer网络学习到的表示，该机制来自外部信息源，对会话中的每个术语进行加权。我们在一个包括澄清问题的对话搜索场景中评估这个引导式Transformer模型。在我们的实验中，我们使用了两个独立的外部来源，包括检索到的顶级文档和一组不同的可能的查询澄清问题。我们实现了建议的表示学习模型的两个下游任务，在会话搜索：文档检索和下一个澄清问题的选择。我们的实验使用公共数据集进行搜索澄清，并与竞争基线相比表现出显着的改进。
2020-06-13 cs.CL cs.IR cs.LG
Conversational Entity Linking: Problem Definition and Datasets
Radboud University（拉德堡德大学）；University of Stavanger（斯塔万格大学）
会话系统中的用户话语的机器理解对于实现与用户的有吸引力和有意义的会话至关重要。实体链接是文本理解的手段之一，在信息检索的各种下游任务中被证明是有效的。在本文中，我们研究会话系统的实体链接。为了更好地理解EL在对话环境中的含义，我们分析了现有对话数据集中的大量对话，并使用众包注释了对概念，命名实体和个人实体的引用。基于注释对话，我们确定了会话实体连接的主要特征。此外，我们报告了传统EL系统在我们的会话实体链接数据集ConEL上的性能，并对这些方法进行了扩展，以更好地适应会话设置。与本文一起发布的资源包括注释数据集，众包设置的详细描述，以及各种EL系统产生的注释。这些新资源允许调查实体在对话中的角色与文档或孤立的短文本语句（如查询和推文）中的角色有何不同，并补充现有的对话数据集。
2021-05-11 cs.CL cs.IR
Thesis: Document Summarization with applications to Keyword extraction and Image Retrieval
Indian Institute of Technology, Bombay（印度理工学院孟买分校）
本文研究文档摘要技术，提出基于 rank aggregation 与相关性反馈的图像推荐方法，并设计 submodular functions 平衡意见摘要中的压缩与情感检测需求，在图像检索与摘要生成任务上均优于基线。
2024-05-20 cs.AI cs.CL cs.IR
Building Open-Retrieval Conversational Question Answering Systems by Generating Synthetic Data and Decontextualizing User Questions
Department of Informatics, Athens University of Economics and Business（雅典经济与商业大学信息学院）；Omilia - Conversational Intelligence（Omilia-对话智能）；Archimedes, Athena Research Center（雅典研究中心Archimedes）；NCSR Demokritos（德摩斯蒂斯国家研究中心）
针对开放检索式对话问答数据集获取困难的问题，提出基于组织纯文本文档生成合成带标注对话的流程，训练问题重写器去语境化用户问题，结合LLM构建OR-CONVQA系统。
2026-08-07 cs.CL
JurisTCU: A Brazilian Portuguese Information Retrieval Dataset with Query Relevance Judgments
Câmara dos Deputados（议会委员会）；Tribunal de Contas da União (TCU)（联邦审计法院）
本文介绍了一个包含16045份巴西联邦会计法院判例文书和150个带有相关性标注查询的巴西葡萄牙语信息检索数据集，通过混合方法产生相关性判断，展示了文档扩展方法在提升BM25性能上的显著效果，以及OpenAI模型在短关键词查询中的优越表现。
2025-08-01 cs.CL cs.IR
Task Oriented Conversational Modelling With Subjective Knowledge
University of California Santa Cruz（加州大学圣克鲁兹分校）
针对主观知识对话系统中知识选择模块的性能提升，本文提出基于命名实体识别的实体检索方法以加速搜索，并探索关键词提取技术，使知识选择任务准确率提升4%。
2023-03-30 cs.CL cs.IR cs.LG
TopiOCQA: Open-domain Conversational Question Answering with Topic Switching
Mila（米拉人工智能研究所）；McGill University（麦吉尔大学）；ETH Zürich（苏黎世联邦理工学院）；Microsoft Montréal（微软蒙特利尔）；ServiceNow Research（ServiceNow研究院）；Facebook CIFAR AI Chair（Facebook-CIFAR人工智能讲席）
在会话式问答场景中，提问者试图通过一系列相互依赖的问题和答案来提取关于主题的信息。随着谈话的进行，他们可能会切换到相关的话题，这是在信息搜索会话中常见的现象。然而，当前用于会话式问答的数据集在两个方面受到限制：1）它们不包含主题转换;以及2）它们假设给出了会话的参考文本，即，该设置不是开放域。我们介绍TopiOCQA（发音为Tapioca），这是一个开放域的会话数据集，在维基百科上具有主题开关。TopiOCQA包含3，920个对话，其中包含信息寻求问题和自由形式的答案。平均而言，我们数据集中的对话跨越13个问答回合，涉及4个主题（文档）。TopiOCQA提出了一个具有挑战性的测试床的模型，在同一会话的多个回合，需要有效的检索，结合使用会话历史构建有效的响应。我们评估了几个基线，通过结合最先进的文档检索方法与神经阅读器模型。我们最好的模型达到了55.8的F1，比人类的表现低了14.2分，这表明我们的数据集很难。我们的数据集和代码可在https://mcgill-nlp.github.io/topiocqa上获得
2022-02-20 cs.CL
Macaw: An Extensible Conversational Information Seeking Platform
Microsoft AI & Research（微软人工智能与研究部）
会话式信息搜索是信息检索领域的一个重要研究方向。这样的研究将需要数据和工具，以允许会话系统的实施和研究。本文介绍了Macaw，一个开放源码的框架与CIS研究的模块化架构。Macaw支持多回合、多模式和混合主动交互，并支持文档检索、问答、推荐和结构化数据探索等任务的研究。它有一个模块化设计，以鼓励新的CIS算法的研究，这可以在批处理模式进行评估。它还可以与用户界面集成，这允许用户在交互方式下进行研究和数据汇集，后端可以是完全算法的或向导式的设置。Macaw在MIT许可证下发布。
2019-12-18 cs.CL cs.HC cs.IR
Local Hybrid Retrieval-Augmented Document QA
Università Ca’ Foscari Venezia（威尼斯大学）
本研究提出一种本地混合检索增强的文档问答系统，通过结合语义理解和关键词精度，在不传输数据的情况下实现高准确率的问答，平衡隐私与性能。
2025-11-28 cs.CL
IterKey: Iterative Keyword Generation with LLMs for Enhanced Retrieval Augmented Generation
Nara Institute of Science and Technology（奈良科学技術研究所）；TDSE Inc.（TDSE公司）
针对现有RAG方法难以兼顾准确性与可解释性的问题，提出由LLM驱动的三阶段迭代关键词生成框架IterKey，通过稀疏检索增强RAG，在四项QA任务上准确率较BM25基线提升5%-20%，性能媲美密集检索类方法，实现了准确性与可解释性的平衡。
2025-07-30 cs.CL
Keyword Augmented Retrieval: Novel framework for Information Retrieval integrated with speech interface
本文提出关键词增强检索框架，用小模型生成并匹配关键词以快速定位文档上下文，再由大模型基于定制提示作答，从而降低推理时间与成本，并集成语音接口实现无缝交互。
2023-10-29 cs.AI cs.CL cs.HC
From Association to Causation: Improving Retrieval Precision of Retrieval-Augmented Generation via Causal Relations and an Attention Mechanism
Hangzhou Innovation Institute, Beihang University（北京航空航天大学杭州创新研究院）
该研究针对RAG检索阶段仅捕捉关联关系的问题，通过建模检索过程的因果结构，提出一种无需训练的注意力式重评分规则，在企业知识库和关键词堆砌语料库上显著提升了检索精度。
2026-11-02 cs.AI cs.CL
An Improved Method for Class-specific Keyword Extraction: A Case Study in the German Business Registry
Technical University of Munich（慕尼黑工业大学）；Fusionbase GmbH（Fusionbase有限公司）
提出基于KeyBERT的改进类特定关键词提取方法，在德国商业登记簿数据集上显著提升按经济部门分类的效果，树立新标准。
2024-07-19 cs.CL
Multiresolution Graph Attention Networks for Relevance Matching
University of Alberta（阿尔伯塔大学）；Mobile Internet Group, Tencent（腾讯移动互联网事业群）
文本匹配问题是各种典型的自然语言处理（NLP）任务的核心，针对文本匹配问题已经提出了大量的深度学习模型。然而，现有的深度模型主要是针对一对短文本之间的语义匹配而设计的，例如释义识别和问答，并且在短-长文本对之间的相关性匹配任务上表现不佳。这部分是由于短-长文本匹配的基本特征在这些深度模型中没有得到很好的考虑。更具体地说，这些方法无法处理文本片段之间的极端长度差异，也不能完全表征长文本文档中的底层结构信息。在本文中，我们特别感兴趣的是一个短的文本和一个长的文档之间的相关性匹配，这是关键的问题，如信息检索和Web搜索查询文档匹配。为了提取文档的结构信息，构造了一个无向图，每个顶点表示一个关键字，边的权重表示关键字之间的交互程度。基于关键字图，我们进一步提出了一种多分辨率图注意力网络，通过图卷积网络（GCN）学习顶点的多层表示，然后在GCN的每一层上应用注意力机制将短文本片段与文档的图形表示进行匹配。在两个数据集上的实验结果表明，我们的图方法优于其他最先进的深度匹配模型。
2019-02-27 cs.CL
An Answer Verbalization Dataset for Conversational Question Answerings over Knowledge Graphs
University of Bonn（波恩大学）；Zerotha Research（泽罗塔研究院）；Cerence GmbH（赛轮思有限公司）；University of Siegen（锡根大学）
我们引入了一个新的数据集会话问答的知识图谱（KG）与口头回答。基于KGs的问答目前主要集中在单轮问题（KGQA）或多轮会话式问答（ConvQA）的答案生成上。然而，在现实世界的场景中（例如，语音助理，如Siri，Alexa和Google Assistant），用户更喜欢口头回答。本文通过扩展现有的ConvQA数据集，使用多个释义的口头回答，为最先进的技术做出了贡献。我们用五个序列到序列模型进行实验，在保持语法正确性的同时生成答案响应。我们还执行了一个错误分析，详细说明了模型在指定类别中的错误预测率。我们提出的数据集扩展与回答语言化是公开的，其使用更广泛的实用程序的详细文档。
2022-08-13 cs.CL
A Consolidated System for Robust Multi-Document Entity Risk Extraction and Taxonomy Augmentation
Thomson Reuters Special Services, LLC（汤森路透特别服务有限责任公司）
我们引入了一个混合的人工自动化系统，提供了可扩展的实体风险关系抽取在大型数据集。给定专家定义的关键字分类法、实体和数据源，系统基于实体和关键字之间的双向标记距离返回文本提取，并使用词向量编码扩展分类法覆盖范围。与专注于警报的系统相比，我们的系统代表了一个更简化的架构-受风险挖掘领域的高覆盖率用例（如尽职调查活动和情报收集）的激励。我们提供了一个系统的概述和专家评估的令牌距离范围。我们证明，单句和多句距离组显着优于基线提取与较短的，单句是首选的分析师。随着分类法的扩展，相关信息的量增加，多句提取变得更受欢迎，但这与实体风险关系变得更加间接有关。我们讨论了这些意见对用户的影响，管理的模糊性和分类扩展，以及未来的系统修改。
2019-09-23 cs.CL
Enhancing Target-Guided Proactive Dialogue Systems via Conversational Scenario Modeling and Intent-Keyword Bridging
School of Computer Science and Technology, Soochow University, China（苏州大学计算机科学与技术学院）；Jiangsu Key Lab of Language Computing, Suzhou（江苏省语言计算重点实验室）；School of Computer and Information Engineering, Henan Normal University, China（河南师范大学计算机与信息工程学院）
本文通过对话场景建模和意图-关键词桥接方法，提升目标导向主动对话系统的主动性、流畅性和信息量，缩小与真实交互的差距。
2026-05-12 cs.CL
Self-supervised Dialogue Learning for Spoken Conversational Question Answering
Peking University（北京大学）；Yale University（耶鲁大学）；Peng Cheng Laboratory（鹏城实验室）
在口语会话式问答（SCQA）中，通过检索然后分析固定的口语文档（包括多部分会话）来生成对应问题的答案。大多数SCQA系统只考虑从有序的话语中检索信息。然而，对话的顺序对于建立一个健壮的口语问答系统是非常重要的，而话语顺序的改变会严重地导致低质量和不连贯的语料库。为此，我们引入了一种自监督学习方法，包括不连贯辨别、插入检测和问题预测，以显式捕获口语文档之间的共指消解和对话连贯性。具体来说，我们设计了一个联合学习框架，其中辅助自监督任务可以使预训练的SCQA系统实现更连贯和更有意义的口语对话学习。我们还利用所提出的自监督学习任务来捕获句内连贯性。实验结果表明，我们提出的方法提供了更连贯的，有意义的，适当的反应，产生优越的性能增益相比，原来的预训练语言模型。我们的方法在Spoken-CoQA数据集上实现了最先进的结果。
2021-06-24 cs.AI cs.CL cs.LG
Keyword-Guided Neural Conversational Model
Alibaba-NTU Singapore Joint Research Institute, Nanyang Technological University (NTU), Singapore（阿里巴巴-南洋理工大学新加坡联合研究院，南洋理工大学）；Joint NTU-UBC Research Centre of Excellence in Active Living for the Elderly, NTU, Singapore（南洋理工大学-不列颠哥伦比亚大学积极老龄化卓越联合研究中心，南洋理工大学）；Alibaba Group, China（阿里巴巴集团）
我们研究了开放域会话代理的会话目标/关键字的问题，其中代理需要引导会话到一个目标关键字顺利和快速。解决这个问题使得会话代理能够应用于许多现实世界的场景中，例如，推荐和心理治疗。解决这个问题的主要范例是1）训练下一轮关键字分类器，以及2）训练关键字增强响应检索模型。然而，该范例中的现有方法具有两个限制：1）用于下一轮关键词分类的训练和评估数据集直接从没有人类注释的对话中提取，因此，它们是有噪声的并且与人类判断具有低相关性，以及2）在关键词转换期间，代理仅依赖于词嵌入之间的相似性以更接近目标关键词，这可能并不能反映人类如何交谈。在本文中，我们假设人类对话是基于常识的，并提出了一个关键词引导的神经会话模型，可以利用外部常识知识图谱（CKG）的关键字转换和响应检索。自动评估表明，常识提高了下一轮关键词预测和关键词增强响应检索的性能。此外，自我游戏和人类评估都表明，我们的模型产生的响应具有更平滑的关键字转换，并且比竞争基线更快地到达目标关键字。
2021-02-28 cs.AI cs.CL
Lbl2Vec: An Embedding-Based Approach for Unsupervised Document Retrieval on Predefined Topics
Technical University of Munich（慕尼黑工业大学）
在本文中，我们考虑使用无监督的方法从未标记的文档数据集中检索具有预定义主题的文档的任务。所提出的无监督方法只需要少量的关键字描述各自的主题，没有标记的文件。现有的方法要么严重依赖于大量的额外编码的世界知识或术语文档频率。此外，我们引入了一种方法，学习联合嵌入的文档和词向量，仅从未标记的文档数据集，以找到语义相似的主题所描述的关键字的文件。所提出的方法几乎不需要文本预处理，但同时有效地检索相关文档的概率很高。当从公开和常用的数据集连续检索不同预定义主题的文档时，我们在一个数据集上实现了0.95的接收器工作特征曲线值下的平均面积，在另一个数据集上实现了0.92。此外，我们的方法可以用于多类文档分类，而不需要预先为数据集分配标签。与无监督分类基线相比，我们将各自数据集的F1分数从76.6增加到82.7，从61.0增加到75.1。为了便于复制我们的方法，我们将开发的Lbl 2 Vec代码作为3-Clause BSD许可证下的即用型工具公开提供。
2022-10-12 cs.AI cs.CL
QA-TOOLBOX: Conversational Question-Answering for process task guidance in manufacturing
提出QA-TOOLBOX，利用LLM增强制造过程任务指导的对话式问答，构建20万余个基于规范、旁白和视频的问答对，并通过LLM-as-a-judge、众包与专家评估开源模型基线。
2024-12-03 cs.AI cs.CL
PCoQA: Persian Conversational Question Answering Dataset
Sharif University of Technology（谢里夫理工大学）；Lorestan University（洛雷斯坦大学）；Tehran University（德黑兰大学）
本文构建首个波斯语对话式问答数据集 PCoQA，包含 9,026 个上下文相关问题，并评估基线与预训练基准模型。
2023-12-07 cs.AI cs.CL
Dialogizer: Context-aware Conversational-QA Dataset Generation from Textual Sources
LG AI Research（LG AI研究院）；IPAI, Seoul National University（首尔大学IPAI）；Dept. of ECE, Seoul National University（首尔大学电子与计算机工程系）；Chung-Ang University（中央大学）；SNU-LG AI Research Center（首尔大学-LG AI研究中心）
针对对话式问答数据稀缺问题，提出Dialogizer框架，通过问答匹配和主题感知对话生成两个训练任务及推理重排序，从文本源自动生成高上下文相关性的ConvQA数据集，实验证明其质量优于基线模型。
2023-11-09 cs.AI cs.CL
ScopeIt: Scoping Task Relevant Sentences in Documents
Microsoft（微软）
像Cortana、Siri、Alexa和Google Assistant这样的智能助理都经过训练，可以在对话同步且简短的情况下解析信息;然而，对于基于电子邮件的会话代理，通信是异步的，并且通常包含与助理无关的信息。这使得系统更难以准确地检测意图，提取与这些意图相关的实体，从而执行所需的动作。我们提出了一个神经模型，用于从大型查询中为代理确定相关信息的范围。我们表明，当用作预处理步骤时，该模型提高了意图检测和实体提取任务的性能。我们展示了该模型对代理的影响（Cortana是代理的角色，而代理是服务的名称。在本文中，我们可以互换使用它们。）- 一种虚拟会话会议安排助理，通过电子邮件与用户异步交互。该模型帮助实体提取和意图检测任务所需的搜索引擎实现了平均35%的准确率，而没有任何下降的召回。此外，我们证明了相同的方法可以用于大型文档中的组件级分析，例如签名块识别。
2020-11-15 cs.CL cs.LG stat.ML
PerkwE_COQA: Enhanced Persian Conversational Question Answering by combining contextual keyword extraction with Large Language Models
Isfahan University of Technology（伊斯法罕理工大学）
针对大语言模型在波斯语会话式问答中难捕捉语境细节的问题，提出结合上下文关键词提取与大语言模型的PerkwE_COQA方法，性能较现有方法和纯大语言模型基线最高提升8%。
2024-04-15 cs.AI cs.CL
Toward Network-based Keyword Extraction from Multitopic Web Documents
University of Rijeka（里耶卡大学）
本文分析了在关键词自动抽取任务中，从复杂网络中计算出的选择性测度。从不同的网络资源（门户网站，论坛）收集的文本，表示为有向和加权的词的共现复杂网络。词是节点，如果它们在句子中直接共现，则在两个节点之间建立链接。我们测试不同的中心性措施排名节点-关键字候选人。使用选择性措施取得了可喜的成果。然后，我们提出了一种方法，使提取词对的值的输入/输出的选择性和权重措施结合过滤。
2014-07-14 cs.CL cs.IR
DIALKI: Knowledge Identification in Conversational Systems through Dialogue-Document Contextualization
University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究院）
识别在长文档基础上的会话系统中使用的相关知识对于有效的响应生成至关重要。我们引入了一个知识识别模型，利用文档结构提供对话上下文化的通道编码，并更好地定位与对话相关的知识。辅助丢失捕获对话框-文档连接的历史记录。我们证明了我们的模型在两个基于文档的会话数据集上的有效性，并提供了对看不见的文档和长对话上下文的泛化分析。
2021-09-10 cs.CL
Cross-lingual keyword assignment
本文提出了一种独立于语言的方法来控制词汇的关键字分配使用EUROVOC词库。由于EUROVOC的多语言特性，以一种语言编写的文档的关键字可以以所有11种欧盟官方语言显示。此外，将不同语文的文件映射到同一多语文术语词库还可进行跨语文文件比较。受控词汇词库描述符的分配是通过应用统计方法来实现的，该统计方法使用手动索引的文档的集合来为每个词库描述符识别与该描述符统计关联的大量词元。然后，在分配过程中使用这些关联的词来确定最有可能成为给定文档的好关键词的那些EUROVOC术语的排名列表。本文还介绍了这项任务的挑战，并讨论了实现的结果的全功能原型。
2006-09-12 cs.CL cs.IR
Knowledge-based Document Classification with Shannon Entropy
Microsoft（微软）
文档分类是检测文本文档中特定的感兴趣内容。与数据驱动的机器学习分类器相比，基于知识的分类器可以基于领域特定的知识来构建，该领域特定的知识通常采取主题相关关键字的集合的形式。虽然典型的基于知识的分类器基于关键字丰度来计算预测分数，但是由于在测量关键字匹配时缺乏指导原则，因此其通常遭受噪声检测。在本文中，我们提出了一种新的知识为基础的模型配备了香农熵，它衡量的丰富性的信息，有利于统一和多样化的关键字匹配。这种方法不需要调用任何正样本，为文档分类提供了一种简单易行的解决方案。我们发现，香农熵显着提高召回率在固定水平的误报率。此外，我们表明，该模型是更强大的数据分布的变化，而与传统的机器学习相比，在推理，特别是当积极的训练样本是非常有限的。
2022-06-06 cs.CL cs.IR
Large-Context Conversational Representation Learning: Self-Supervised Learning for Conversational Documents
NTT Media Intelligence Laboratories, NTT Corporation（日本电信电话公司媒体情报研究所）
本文提出了一种新的自监督学习方法，用于处理由人与人之间对话的转录文本组成的会话文档。理解会话文档的关键技术之一是话语级顺序标注，其中标签以逐个话语的方式从文档中估计。话语级顺序标记的主要问题是难以收集标记的会话文档，因为手动注释非常昂贵。为了解决这个问题，我们提出了大上下文会话表示学习（LC-CRL），一种专门用于会话文档的自监督学习方法。LC-CRL中的自监督学习任务涉及基于大上下文语言建模使用所有周围话语来估计话语。通过这种方式，LC-CRL使我们能够有效地利用未标记的会话文档，从而增强了话语级顺序标记。使用呼叫中心会话数据集进行场景分割的实验结果表明了该方法的有效性。
2021-02-16 cs.CL cs.LG
Multi-Hop Question Generation via Dual-Perspective Keyword Guidance
School of Computer Science and Technology, Soochow University, China（苏州大学计算机科学与技术学院）；Institute for Infocomm Research, A*STAR, Singapore（新加坡*STAR信息通信研究所）
本文提出双视角关键词引导框架DPKG，通过区分问题关键词与文档关键词并分别建模，有效提升多跳问题生成中关键信息定位的准确性。
2025-06-03 cs.CL
Theme-weighted Ranking of Keywords from Text Documents using Phrase Embeddings
University of Arkansas at Little Rock（阿肯色大学小石城分校）；Infosys Ltd.（印孚瑟斯有限公司）；IIIT-Delhi（德里英迪拉·甘地信息技术学院）；National University of Singapore（新加坡国立大学）
关键词提取是自然语言处理中的一项基本任务，它有助于将文档映射到一组简洁的代表性单词和多词短语。文本文档中的关键词主要使用监督和非监督方法提取。在本文中，我们提出了一种无监督的技术，使用主题加权个性化PageRank算法和神经短语嵌入的组合提取和排名关键字。我们还介绍了一种有效的方法来处理文本文档和训练短语嵌入使用现有的技术。我们共享一个从现有数据集派生的评估数据集，该数据集用于选择底层嵌入模型。排名关键词提取的评估是在两个基准数据集上进行的，包括短摘要（Inspec）和长科学论文（SemEval 2010），并显示出比最先进的系统更好的结果。
2018-07-16 cs.CL
KULCQ: An Unsupervised Keyword-based Utterance Level Clustering Quality Metric
Georgia Institute of Technology（佐治亚理工学院）；University of Southern California（南加利福尼亚大学）；Got It AI
本文提出了一种基于关键词的无监督话语级聚类质量度量KULCQ，通过关键词分析评估聚类质量，能更好地捕捉对话数据中的语义关系，并与几何聚类原则保持一致。
2024-11-15 cs.CL cs.LG
Keyword Extraction in Scientific Documents
ETH Zurich（苏黎世联邦理工学院）；SUPSI（瑞士南部应用科学与艺术大学）；HE-Arc（阿尔高等工程学院）；Dalle Molle Institute for Artificial Intelligence USI-SUPSI（USI-SUPSI达尔·莫勒人工智能研究所）
科学出版物的产量呈指数级增长。因此，跟踪趋势和变化越来越具有挑战性。理解科学文献是知识图谱构建、文本挖掘和学科分类等下游任务的重要步骤。在这个研讨会中，我们提供了一个更好的理解关键字和关键短语提取从摘要的科学出版物。
2022-07-07 cs.CL
Contextual Topic Modeling For Dialog Systems
Amazon（亚马逊）
会话主题的准确预测可以是用于创建连贯和吸引人的对话系统的有价值的信号。在这项工作中，我们专注于上下文感知的主题分类方法，用于识别自由形式的人类聊天机器人对话中的主题。我们扩展了以前的工作，神经主题分类和无监督主题关键字检测，将会话上下文和对话行为功能。在注释数据上，我们表明，将上下文和对话行为导致主题分类准确率相对提高35%，主题经常跨越多个话语的会话交互的无监督关键字检测召回率提高11%。我们发现，主题深度等主题指标与连贯性和参与度等对话评价指标高度相关，这意味着会话主题模型可以预测用户满意度。我们检测对话主题和关键字的工作可以用来引导聊天机器人进行连贯的对话。
2018-10-19 cs.CL
Keywords lie far from the mean of all words in local vector space
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
关键词提取是一个重要的文档处理过程，其目的是找到一个小的术语集，简洁地描述文档的主题。最流行的最先进的无监督方法属于基于图的方法家族，该方法构建单词图并使用各种中心性度量来对节点（候选关键字）进行评分。在这项工作中，我们遵循不同的路径来检测的关键字从文本文档建模的主要分布的文档的话，使用本地词向量表示。然后，我们根据候选人在文本中的位置以及相应的局部向量与主分布中心之间的距离对候选人进行排名。我们通过一项扩展的实验研究，调查本地表示的属性，与强基线和最先进的无监督关键字提取方法相比，我们的方法具有高性能。
2020-08-21 cs.CL
Analysing the Effect of Clarifying Questions on Document Ranking in Conversational Search
University of Amsterdam（阿姆斯特丹大学）
最近对会话搜索的研究强调了混合主动性在会话中的重要性。为了实现混合主动性，系统应该能够向用户提出澄清问题。然而，在对文档进行排名时，还没有分析基本排名模型（支持对话式搜索）解决这些澄清问题和答案的能力。为此，我们分析了一个词汇排名模型的会话搜索数据集的性能与澄清的问题。我们调查，定量和定性，澄清问题和用户的答案的不同方面如何影响排名的质量。我们认为，需要有一些细粒度的治疗整个会话轮的澄清，明确的反馈的基础上，这是目前在这种混合的主动设置。根据我们的研究结果，我们引入了一个简单的基于知识的词汇基线，显着优于现有的天真基线。我们的工作旨在提高我们对这一特定任务中存在的挑战的理解，并为设计更合适的会话排名模型提供信息。
2020-08-11 cs.AI cs.CL cs.HC
Semi-automatic System for Title Construction
University of Delhi（德里大学）
在本文中，我们提出了一个半自动系统的标题建设从科技摘要。该系统从文本中提取并推荐有影响力的单词，作者可以创造性地使用这些单词来为手稿构建合适的标题。这项工作是基于这样的假设，即关键字是很好的候选人的标题建设。我们从文档中提取重要的话，通过诱导一个监督的关键词提取模型。该模型在从文档的文本图表示中提取的新特征上进行训练。我们的经验表明，这些基于图形的功能是能够区分关键字从非关键字。我们进一步建立经验，所提出的方法可以适用于任何文本，无论训练域和语料库。我们评估所提出的系统，通过计算提取的关键字和标题词的文档列表之间的重叠，我们观察到82%的宏观平均精度。
2019-05-01 cs.CL cs.IR
Benchmarking Large Language Models for Conversational Question Answering in Multi-instructional Documents
University of Science and Technology of China（中国科学技术大学）
本文提出指令性文档对话式问答基准 InsCoQA 及 LLM 辅助评估器 InsEval，用于评测大型语言模型在多文档中检索、解释和总结分步指导的能力。
2024-10-01 cs.CL
On Improving Faithfulness of Podcasts from Documents
Indian Institute of Science（印度科学研究所）；Adobe Research（Adobe研究院）
研究基于文档的播客生成中的忠实度问题，构建数据集并用多个大语言模型生成记录，引入轮次级评判框架。发现先进模型也常生成无根据内容，提出catch - n - repair框架，实验证明该框架能提升播客生成的忠实度。
2026-07-27 cs.CL
Conversational Text Extraction with Large Language Models Using Retrieval-Augmented Systems
School of Computer Engineering, Kalinga Institute of Industrial Technology（卡林加工业技术学院计算机工程学院）
本文提出基于 RAG 与 LLM 的 PDF 对话式文本提取系统，通过句子嵌入向量检索和上下文生成高亮相关段落，并取得具有竞争力的 ROUGE 表现。
2025-01-16 cs.CL cs.IR
Corpus-level and Concept-based Explanations for Interpretable Document Classification
Virginia Tech（弗吉尼亚理工大学）
使用注意力权重来识别对模型决策重要的信息是解释基于注意力的神经网络的一种流行方法。在实践中，这通常通过基于注意力权重为每个文档生成热图来实现。但这种解释方法是脆弱的，并且容易发现矛盾的例子。在本文中，我们提出了一个语料库级的解释方法，其目的是捕捉关键字和模型预测之间的因果关系，通过学习关键字的重要性，预测标签在训练语料库的基础上的注意力权重。基于这一思想，我们进一步提出了一种基于概念的解释方法，可以自动学习更高级别的概念及其重要性，以建模预测任务。我们的基于概念的解释方法建立在一个新的抽象聚合网络，它可以在端到端的训练过程中自动聚类重要的关键字。我们将这些方法应用于文档分类任务，并表明它们在提取语义上有意义的关键字和概念方面是强大的。我们基于基于注意力的朴素贝叶斯分类器的一致性分析结果也证明了这些关键词和概念对模型预测的重要性。
2021-05-31 cs.CL cs.IR cs.LG
Solar cell patent classification method based on keyword extraction and deep neural network
随着ESG对企业的影响越来越大，与可再生能源相关的研究受到了极大的关注。太阳能电池就是其中之一，因此，可以说太阳能电池专利分析的研究价值非常高。专利文献具有很高的研究价值。能够准确地分析和分类专利文件可以揭示几个重要的技术关系。它还可以描述该技术的业务趋势。而在投资方面，也会激发并提出新的工业解决方案来做出重要决策。因此，我们必须仔细分析专利文件，利用专利的价值。针对太阳能电池专利分类问题，提出了关键词提取方法和基于深度神经网络的太阳能电池专利分类方法。首先，对太阳能电池专利进行预处理分析。然后使用KeyBERT算法从专利摘要中提取关键词和关键短语，构建词汇词典。基于深度神经网络构建了太阳能电池专利分类模型。最后，我们使用基于深度神经网络的太阳能电池专利分类模型对电力专利进行分类，训练准确率大于95%。验证准确率约为87.5%。可见，深度神经网络方法不仅可以实现对复杂、困难的太阳能电池专利的分类，而且分类效果良好。
2021-12-09 cs.CL cs.IR
Topic Modeling based on Keywords and Context
University of Liechtenstein（列支敦士登大学）；IBM Research Zurich（IBM苏黎世研究院）
目前的主题模型往往受到发现的主题不匹配人类的直觉，不自然的切换文档中的主题和高计算需求。我们解决这些问题，提出了一个主题模型和推理算法的基础上自动识别特征关键字的主题。关键词影响邻近词的主题分配。我们的算法学习（关键）词主题得分，并自我调节主题的数量。推理是简单和容易并行化。定性分析得出的结果与最先进的模型（如LDA），但具有不同的优势和劣势。使用9个数据集的定量分析显示，在分类准确性，PMI得分，计算性能和文档中主题分配的一致性方面有所提高，而大多数情况下使用较少的主题。
2018-02-03 cs.CL cs.IR cs.LG
Summarizing Multiple Documents with Conversational Structure for Meta-Review Generation
The University of Melbourne（墨尔本大学）；Carnegie Mellon University（卡内基梅隆大学）
提出PeerSum数据集用于生成科学论文元评审，并引入基于会话结构稀疏注意力和多任务训练的Rammer模型，实验显示其优于基线但处理冲突信息仍具挑战性。
2023-10-23 cs.AI cs.CL
A Comparison of Approaches for Imbalanced Classification Problems in the Context of Retrieving Relevant Documents for an Analysis
Ludwig-Maximilians-University Munich（慕尼黑路德维希-马克西米利安大学）
许多基于文本的社会科学研究的第一步是从大量的不相关文档中检索与分析相关的文档。在社会科学中，解决这一检索任务的传统方法是应用一组关键字，并认为这些文档是相关的，至少包含一个关键字。但是，应用不完整的关键字列表有可能得出有偏见的推论。更复杂和昂贵的方法，如查询扩展技术，基于主题模型的分类规则，以及主动和被动的监督学习可能有潜力更准确地分离相关的不相关的文件，从而减少潜在的偏见的大小。然而，应用这些更昂贵的方法是否会增加检索性能相比，关键字列表在所有，如果是这样的话，有多少，是不清楚的，因为这些方法的比较是缺乏的。这项研究通过比较这些方法在与德国推文数据集（Linder，2017），社会偏见推理语料库（SBIC）（Sap等人，2020）和Reuters-21578语料库（Lewis，1997）。结果表明，查询扩展技术和主题模型为基础的分类规则，在大多数研究设置往往会降低，而不是提高检索性能。然而，主动监督学习如果应用于不太小的标记训练实例集（例如，1,000个文档），则达到比关键字列表高得多的检索性能。
2022-05-03 cs.CL cs.IR stat.AP
