An MRC Framework for Semantic Role Labeling
Renmin University of China（中国人民大学）；Zhejiang University（浙江大学）；Tsinghua University（清华大学）；University of Leeds（利兹大学）；Amazon Alexa AI（亚马逊Alexa人工智能）
语义角色标注的目标是识别句子中的谓元-论元结构，可以分解为两个子任务：谓词消歧和论元标注。以前的工作处理这两个任务独立，忽略了这两个任务之间的语义联系。在本文中，我们建议使用机器阅读理解（MRC）框架来弥合这一差距。我们将谓词消歧形式化为多项选择机器阅读理解，其中给定谓词的候选意义的描述被用作选择正确意义的选项。然后，使用所选择的谓词意义来确定该谓词的语义角色，并且使用这些语义角色来构造另一个MRC模型的查询以进行参数标注。通过这种方式，我们能够利用谓词语义和语义角色语义来进行参数标注。我们还建议选择一个子集的所有可能的语义角色的计算效率。实验表明，该框架实现了国家的最先进的或可比的结果，以前的工作。代码可在\url{https://github.com/ShannonAI/MRC-SRL}上获得。
2022-09-06 cs.CL
Conversational Semantic Role Labeling
Tencent AI Lab（腾讯AI实验室）；City University of Hong Kong（香港城市大学）
语义角色标注（SRL）旨在提取输入句子中每个谓词的论元。传统的语义关联语言只适用于单个句子，而省略和回指在对话中频繁出现，因此无法分析对话。为了解决这个问题，我们提出了会话SRL任务，其中一个参数可以是对话参与者，对话历史中的一个短语或当前句子。由于现有的SRL数据集是在句子层面上，我们手动注释了3,000个聊天对话（27,198句）的语义角色，以推动这一方向的研究。实验表明，虽然传统的SRL系统（即使在共指消解或重写的帮助下）在分析对话时表现不佳，但对对话历史和参与者进行建模大大有助于提高性能，这表明将SRL应用于对话是非常有希望的。我们将CSRL应用于两个主流会话任务，对话反应生成和对话语境重写的初步研究也证实了CSRL的有用性。
2021-04-11 cs.AI cs.CL
High-order Semantic Role Labeling
Department of Computer Science and Engineering, Shanghai Jiao Tong University (SJTU)（上海交通大学计算机科学与工程系（SJTU））；National Institute of Information and Communications Technology (NICT)（日本信息与通信技术研究所（NICT））
语义角色标注主要用于标识谓词、参数及其语义关系。由于建模方法的局限性和谓词预识别条件的限制，以往的研究大多集中在谓词与论元之间的关系以及论元之间的相关性上，而谓词之间的相关性长期以来被忽略。在神经网络时代之前，高阶特征和结构学习在建模这种相关性时非常常见。在本文中，我们介绍了神经语义角色标注模型的高阶图结构，这使得该模型不仅可以显式地考虑孤立的谓词-论元对，但也谓词-论元对之间的相互作用。在CoNLL-2009基准测试的7种语言上的实验结果表明，高阶结构学习技术有利于强性能的SRL模型，并进一步提高了我们的基线，以实现新的最先进的结果。
2020-10-09 cs.CL
Improving Implicit Semantic Role Labeling by Predicting Semantic Frame Arguments
Katholieke Universiteit Leuven（鲁汶大学）；University of Arizona（亚利桑那大学）
隐性语义角色标注（iSRL）是对谓词的语义角色进行预测的任务，该谓词不作为显性论元出现，而是考虑常识知识或在语篇中较早提到。我们介绍了一种基于预测递归神经语义框架模型（PRNSFM）的方法，该模型使用大型未注释的语料库来学习给定谓词的语义参数序列的概率。我们利用PRNSFM预测的序列概率来估计谓词及其参数的选择偏好。在NomBank iSRL测试集上，我们的方法提高了隐式语义角色标注的最新性能，与手动构建的语言资源相比，依赖性更低。
2017-10-05 cs.CL
Multi-Task Active Learning for Neural Semantic Role Labeling on Low Resource Conversational Corpus
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）；Universitas Indonesia（印度尼西亚大学）
大多数语义角色标注（SRL）方法都是有监督的方法，需要大量的标注语料，并且标注需要语言学专业知识。在本文中，我们提出了一个多任务主动学习框架语义角色标注与实体识别（ER）作为辅助任务，以减轻需要大量的数据和使用额外的信息，从ER，以帮助SRL。我们评估了我们在印度尼西亚对话数据集上的方法。我们的实验表明，多任务主动学习可以优于单任务主动学习方法和标准的多任务学习。根据我们的研究结果，在单任务和多任务环境下，与被动学习相比，主动学习使用的训练数据减少了12%，效率更高。我们还介绍了一个新的数据集SRL在印尼会话域，以鼓励在这方面的进一步研究。
2018-06-05 cs.CL
Dependency or Span, End-to-End Uniform Semantic Role Labeling
Department of Computer Science and Engineering, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系）；Key Laboratory of Shanghai Education Commission for Intelligent Interactionand Cognitive Engineering, Shanghai Jiao Tong University（上海交通大学上海市智能交互与认知工程重点实验室）
语义角色标注旨在发现句子的谓词论元结构。无语法输入的端到端SRL受到了广泛的关注。然而，它们大多集中在基于跨度或基于依赖的语义表示形式，并只显示特定的模型优化。同时，统一处理这两个SRL任务不太成功。本文提出了一个端到端的模型，依赖和跨度SRL与一个统一的参数表示，以处理两种不同类型的参数注释在一个统一的方式。此外，我们联合预测所有的谓词和参数，特别是包括长期被忽略的谓词识别子任务。我们的单一模型在跨度（CoNLL 2005，2012）和依赖性（CoNLL 2008，2009）SRL基准上都取得了新的最先进的结果。
2019-01-16 cs.CL
A Full End-to-End Semantic Role Labeler, Syntax-agnostic Over Syntax-aware?
Shanghai Jiao Tong University（上海交通大学）
语义角色标注是识别句子的谓元结构，包括谓词消歧和论元标注两个子任务。以往的研究通常将整个自主学习问题分解为两个或多个子任务。本文首次引入了一个端到端的神经模型，它可以一次性地统一处理谓词消歧和参数标注。使用biaffine评分器，我们的模型直接预测句子中所有给定单词对的所有语义角色标签，而不依赖于任何句法分析信息。具体来说，我们用非线性变换来增强BiLSTM编码器，以进一步区分给定句子中的谓词和参数，并通过采用biaffine注意机制将语义角色标注过程建模为词对分类任务。尽管所提出的模型对于本地解码器来说是语法不可知的，但在英语和中文的CoNLL-2008、2009基准测试中，它的性能优于最先进的语法感知SRL系统。据我们所知，我们报告的第一个语法不可知的SRL模型，超越所有已知的语法感知模型。
2018-08-14 cs.CL
Linguistically-Informed Self-Attention for Semantic Role Labeling
Google AI Language（谷歌人工智能语言团队）
当前最先进的语义角色标注（SRL）使用没有显式语言特征的深度神经网络。然而，先前的工作已经表明，黄金语法树可以显着改善SRL解码，这表明从语法的显式建模增加准确性的可能性。在这项工作中，我们提出了语言信息自我注意（LISA）：一个神经网络模型，结合了多个头的自我注意与多任务学习跨依存句法分析，词性标注，谓词检测和SRL。与之前需要大量预处理来准备语言特征的模型不同，LISA可以仅使用原始标记作为输入来合并语法，仅对序列进行一次编码，以同时执行所有谓词的解析，谓词检测和角色标记。通过训练一个注意头来关注每个标记的句法父母，来合并注意力。此外，如果高质量的语法解析已经可用，则可以在测试时注入它，而无需重新训练我们的SRL模型。在CoNLL-2005 SRL上的实验中，LISA实现了使用预测谓词和标准词嵌入的模型的最新性能，在新闻专线上获得了比以前的最新性能高2.5 F1的绝对值，在域外数据上获得了超过3.5 F1的绝对值，误差减少了近10%。在ConLL-2012英语SRL上，我们也显示出超过2.5 F1的改进。LISA在上下文编码（ELMo）单词表示方面的表现也超过了最先进的水平，在新闻上接近1.0 F1，在域外文本上超过2.0 F1。
2018-11-12 cs.CL
SRLGRN: Semantic Role Labeling Graph Reasoning Network
Michigan State University（密歇根州立大学）
这项工作涉及的挑战，学习和推理多跳问答（QA）。我们提出了一个基于句子语义结构的图推理网络来学习跨段落的推理路径，并联合寻找支持事实和答案。建议的图是一个异构的文档级图，包含节点的类型句子（问题，标题，和其他句子），和语义角色标注子图每个句子，包含参数作为节点和谓词作为边缘。将源自SRL谓词的参数类型、参数短语和边的语义描述到图编码器中有助于找到推理路径以及推理路径的可解释性。我们提出的方法显示了竞争力的性能HotpotQA分心设置基准相比，最近的国家的最先进的模型。
2020-11-18 cs.CL
High-order Refining for End-to-end Chinese Semantic Role Labeling
Wuhan University（武汉大学）；Guangdong University of Foreign Studies（广东外语外贸大学）
当前的端到端语义角色标注主要是通过基于图的神经模型来完成的。然而，这些都是一阶模型，其中检测任何谓词-参数对的每个决策都是与本地特征隔离的。在本文中，我们提出了一个高阶精炼机制，执行所有谓词参数对之间的相互作用。基于基线图模型，我们的高阶细化模块通过注意力计算学习所有候选对之间的高阶特征，这些特征随后用于更新原始令牌表示。经过几次迭代的细化，底层的令牌表示可以用全局交互的特征来丰富。我们的高阶模型在中国SRL数据（包括CoNLL 09和Universal Proposition Bank）上取得了最先进的结果，同时缓解了长距离依赖问题。
2020-09-15 cs.CL
Multi-document Summarization using Semantic Role Labeling and Semantic Graph for Indonesian News Article
School of Electrical Engineering and Informatics（电气工程与信息学院）；Bandung Institute of Technology（万隆理工学院）
在本文中，我们提出了一个多文档摘要系统使用语义角色标注（SRL）和语义图的印尼新闻文章。为了改进现有的摘要器，我们的系统修改的摘要器，采用主语，谓语，宾语和状语（SVOA）提取谓词论元结构（PAS）提取。印度尼西亚语的SVOA提取被SRL模型取代。我们还取代了遗传算法，以确定与决策树分类器的重要PAS，因为没有遗传算法的汇总器，给更好的性能。采用决策树模型识别重要PAS。具有10个特征的决策树模型比具有4个句子特征的决策树模型具有更好的性能。实验和评估进行生成100字的摘要和200字的摘要。实验结果表明，该模型在100字摘要中的平均ROUGE-2召回率为0.313，在200字摘要中的平均ROUGE-2召回率为0.394。
2021-03-05 cs.CL
Attentive Semantic Role Labeling with Boundary Indicator
Shanghai Jiao Tong University（上海交通大学）
语义角色标注的目标是发现句子的谓词-论元结构，它在自然语言的深处理中起着关键作用。本文介绍了简单而有效的辅助标记依赖为基础的SRL，以提高语法无关的模型与多跳自注意。我们的语法无关模型在CoNLL-2009英语和中文基准测试中均达到了与最先进模型相媲美的性能。
2018-09-08 cs.CL
End-to-end Semantic Role Labeling with Neural Transition-based Model
School of Cyber Science and Engineering, Wuhan University（武汉大学网络安全学院）；School of New Media and Communication, Tianjin University（天津大学新媒体与传播学院）
端到端的语义角色标注（SRL）越来越受到人们的关注。它执行SRL的两个子任务：谓词识别和参数角色标记，联合。目前的研究主要集中在基于图的神经网络模型上，而基于迁移的神经网络框架已经被广泛应用于多个紧密相关的任务中，但对于联合任务的研究还没有。在本文中，我们提出了第一个工作的过渡为基础的神经模型的端到端SRL。我们的转换模型通过一组转换动作来逐步发现所有的谓词及其参数。这两个子任务的操作是相互执行的，以实现完整的交互。此外，我们建议高阶组合提取非局部特征，这可以进一步增强所提出的过渡模型。在CoNLL09和Universal Proposition Bank上的实验结果表明，该模型在保持高效解码性能的同时，具有较好的性能。我们还进行了详细的实验分析，深入了解我们提出的模型。
2021-01-02 cs.CL
Transition-based Semantic Role Labeling with Pointer Networks
Universidade da Coruña（拉科鲁尼亚大学）
语义角色标注（Semantic role labeling，SRL）主要用于识别句子中的谓词-论元结构，在机器翻译和问答等自然语言处理任务中起着重要作用。实际上，所有可用的方法都不执行完整的SRL，因为它们依赖于预先确定的谓词，并且它们中的大多数遵循管道策略，使用特定的模型来执行一个或多个SRL子任务。此外，以前的方法有很强的依赖于语法信息，以实现最先进的性能，尽管语法树同样难以产生。这些简化和要求使得大多数SRL系统对于现实世界的应用是不切实际的。在这篇文章中，我们提出了第一个基于转换的SRL方法，该方法能够在一个从左到右的过程中完全处理输入句子，既不利用句法信息，也不诉诸于额外的模块。得益于我们基于指针网络的实现，完整的SRL可以在$O(n^2)$中准确高效地完成，在CoNLL-2009共享任务的大多数语言上实现了迄今为止的最佳性能。
2022-11-24 cs.CL
A Simple and Accurate Syntax-Agnostic Neural Model for Dependency-based Semantic Role Labeling
University of Amsterdam（阿姆斯特丹大学）；Yandex；University of Edinburgh（爱丁堡大学）
我们介绍了一个简单而准确的神经模型依赖为基础的语义角色标注。我们的模型预测依赖于双向LSTM编码器状态的谓词参数依赖性。即使在没有任何句法信息和只使用局部推理的情况下，语义角色标注器在英语上也取得了有竞争力的性能。然而，当自动预测的词性标签作为输入时，它大大优于所有以前的本地模型，并接近英语CoNLL-2009数据集上的最佳报告结果。我们还考虑了中文、捷克语和西班牙语，我们的方法也取得了有竞争力的结果。语法解析器在域外数据上是不可靠的，所以标准（即，在这种设置下测试时，SRL模型受到阻碍。我们的语法不可知模型看起来更健壮，在标准的域外测试集上得到了最好的报告结果。
2017-06-15 cs.AI cs.CL
Neural Semantic Role Labeling with Dependency Path Embeddings
University of Edinburgh（爱丁堡大学）
本文介绍了一种新的语义角色标注模型，利用神经序列建模技术。我们的方法是出于观察，复杂的句法结构和相关的现象，如嵌套从属关系和名词性谓词，没有处理好现有的模型。我们的模型将这些实例视为词汇化依赖路径的子序列，并学习合适的嵌入表示。我们的实验表明，这样的嵌入可以改善结果比以前的国家的最先进的语义角色标签，并展示我们的方法获得的定性改进。
2016-07-18 cs.CL
Argument Linking: A Survey and Forecast
语义角色标注（SRL）--识别同一句子中谓词和其他成分之间的语义关系--是自然语言理解（NLU）中一个研究得很好的任务。然而，这些关系中的许多只在文档的层次上是明显的，因为一个句子中的谓词的作用通常可以由另一个句子中的论元来填补。这种更一般的任务，被称为隐式语义角色标注或参数连接，近年来受到越来越多的关注，因为研究人员已经认识到它对信息抽取和NLU的中心作用。本文综述了文献的论点连接，并确定了现有的方法，表明沿着未来的研究工作可以最有利可图的花费路径的几个显着的缺点。
2021-07-18 cs.CL
Syntax-Enhanced Self-Attention-Based Semantic Role Labeling
Alibaba Group（阿里巴巴集团）
语义角色标注（SRL）是自然语言处理的一项基本任务，旨在发现句子中每个谓词的语义角色。本文探讨了如何将句法知识有效地融入自主学习任务。我们提出了不同的方法编码的句法信息来自不同的质量和表示的依赖树，我们提出了一个语法增强的自我注意力模型，并将其与其他两个强基线方法进行比较，我们进行实验，以及新出版的深语境单词表示。实验结果表明，在CoNLL-2009数据集上，通过适当地引入高质量的句法信息，我们的模型在中文SRL任务上取得了新的性能。
2019-10-24 cs.CL
Persian Semantic Role Labeling Using Transfer Learning and BERT-Based Models
Iran University of Science & Technology（伊朗科学技术大学）；Yasouj University（亚苏季大学）
针对波斯语传统SRL方法准确率低且依赖特征提取的问题，本文提出一种基于迁移学习和BERT的端到端语义角色标注方法，无需辅助特征，在相似条件下准确率提升超过16个百分点。
2023-06-17 cs.CL
Hierarchical Multitask Learning with Dependency Parsing for Japanese Semantic Role Labeling Improves Performance of Argument Identification
pluszero Inc.（pluszero公司）；The University of Tokyo（东京大学）
随着FrameNet和PropBank的出现，英语中出现了许多语义角色标注系统。虽然对日语谓词论元结构分析的研究已经展开，但大多数研究都集中在表层事例上。日本的SRL模型在深度情况下的研究成果很少，而且模型的精度较低。因此，我们提出了一个分层的多任务学习方法与依存句法分析（DP），并表明我们的模型在日本SRL达到了最先进的结果。此外，我们进行实验，同时进行参数识别和参数分类的联合模型。结果表明，DP的多任务处理主要是有效的论点识别。
2021-02-26 cs.CL
An Argument-Marker Model for Syntax-Agnostic Proto-Role Labeling
Leibniz ScienceCampus “Empirical Linguistics and Computational Language Modeling”（莱布尼茨科学园区“实证语言学与计算语言建模”）
语义原型角色标注（SPRL）是语义角色标注（SRL）的替代方案，它超越了角色的类别定义，遵循Dowty基于特征的原型角色视图。该理论基于参与者对或多或少典型的代理人与患者属性的实例化来确定代理人与患者属性，例如，事件中的意志。为了执行SPRL，我们开发了一个具有自我注意力和同时学习的谓词-参数标记的分层模型的集合。我们的方法与最先进的方法相比具有竞争力，在任务的两个配方（多标签和多变量李克特尺度预测）中整体表现优于以前的工作。在以前的工作相比，我们的研究结果不依赖于黄金论点头来自补充黄金树银行。
2019-04-12 cs.CL
Effective QA-driven Annotation of Predicate-Argument Relations Across Languages
Bar-Ilan University（巴伊兰大学）；Ariel University（阿里尔大学）
本文提出一种跨语言问题回答驱动的谓词-论元关系标注方法，通过重用英语QA-SRL解析器生成多语言高质量标注数据，提升语义解析效率。
2026-02-26 cs.CL
From Semantic Roles to Opinion Roles: SRL Data Extraction for Multi-Task and Transfer Learning in Low-Resource ORL
Department of Computer Engineering University of Guilan（计算机工程系加兹万大学）
本研究从OntoNotes 5.0语料库的WSJ部分构建高质量SRL数据集并适配ORL任务，提出基于PropBank框架的可复现提取流程，生成含97,169个实例的数据集，为低资源ORL的多任务与迁移学习提供可复用资源。
2025-11-11 cs.CL
Semantic Role Labeling with Associated Memory Network
Shanghai Jiao Tong University（上海交通大学）
语义角色标注是一个识别句子中所有谓词-论元对的任务，在一系列最新的工作提出后，该任务一直处于性能提升的瓶颈。本文提出了一种新的句法不可知的SRL模型增强建议的关联记忆网络（AMN），它利用标记已知的关联句子的句间注意力作为一种记忆，以进一步增强依赖性为基础的SRL。具体来说，我们使用来自训练数据集的句子及其标签作为关联记忆线索来帮助标记目标句子。此外，我们还比较了AMN中的几种关联句选择策略和标签合并方法，以便在关注关联句的同时发现和利用关联句的标签。通过利用已知训练数据的注意记忆，我们的完整模型在CoNLL-2009基准数据集上达到了最先进的语法不可知设置，显示了一种新的有效的SRL增强研究路线，而不是利用外部资源，如预先训练好的语言模型。
2019-08-05 cs.AI cs.CL cs.LG
Main Predicate and Their Arguments as Explanation Signals For Intent Classification
Indian Institute of Technology Bombay（印度理工学院孟买分校）
本文提出利用主谓词及其论元作为意图分类的解释信号，自动构建可解释性数据集，并证明引导模型关注这些信号能提升其合理性和推理能力。
2025-02-03 cs.CL
Encoding Sentences with Graph Convolutional Networks for Semantic Role Labeling
University of Amsterdam（阿姆斯特丹大学）；University of Edinburgh（爱丁堡大学）
语义角色标注是识别句子的谓元-论元结构的任务。它通常被认为是标准NLP管道中的重要一步。由于语义表征与句法表征密切相关，我们在模型中充分利用了句法信息。我们提出了一个版本的图卷积网络（GCN），最近的一类神经网络操作的图形，适合建模语法依赖图。句法依赖树上的GCN被用作句子编码器，产生句子中单词的潜在特征表示。我们观察到GCN层与LSTM层是互补的：当我们堆叠GCN和LSTM层时，我们获得了比现有最先进的LSTM SRL模型更大的改进，从而在标准基准测试（CoNLL-2009）中获得了中文和英文的最佳报告分数。
2017-07-30 cs.CL cs.LG
Neural Unsupervised Semantic Role Labeling
Shanghai Jiao Tong University（上海交通大学）
语义角色标注（SRL）的任务是寻找谓词-论元结构。以前的SRL工作大多是有监督的，没有考虑标记每个例子的困难，这可能是非常昂贵和耗时的。在本文中，我们提出了第一个神经无监督模型SRL。为了将任务分解为两个参数相关的子任务，识别和聚类，我们提出了一个相应的由两个神经模块组成的管道。首先，我们训练两个语法感知的统计开发规则的神经模型。神经模型获取句子中每个标记的相关性信号，并将其输入BiLSTM，然后输入对抗层，同时进行噪声添加和分类，从而使模型能够学习句子的语义结构。然后，我们提出了另一个神经模型的参数角色聚类，这是通过聚类学习的参数嵌入偏向于他们的依赖关系。在CoNLL-2009英语数据集上的实验表明，我们的模型在参数识别和分类的非神经模型方面优于以前的最先进的基线。
2021-04-19 cs.CL
CLAR: A Cross-Lingual Argument Regularizer for Semantic Role Labeling
IBM Research（IBM研究院）；Google Research（谷歌研究院）
语义角色标注（SRL）识别给定句子中的谓词-论元结构。虽然不同的语言有不同的参数注释，但多语言训练，即在多种语言上训练一个模型的想法，以前已经被证明优于单语基线，特别是对于低资源语言。事实上，即使是简单的数据组合也被证明是有效的，通过在共享的表示空间中表示遥远的词汇表来进行多语言训练。同时，尽管不同语言之间的参数注释不同，但某些参数标签确实在不同语言之间共享共同的语义含义（例如，参数标签在不同语言之间具有或多或少相似的语义含义）。为了利用跨语言注释空间中的这种相似性，我们提出了一种称为跨语言参数正则化器（CLAR）的方法。CLAR识别跨语言的这种语言注释相似性，并利用该信息来使用源语言参数所在的空间的变换来映射目标语言参数。通过这样做，我们的实验结果表明，CLAR一贯提高SRL性能的多语言单语和多语种基线低资源语言。
2020-11-09 cs.CL
Semantic Role Labeling as Dependency Parsing: Exploring Latent Tree Structures Inside Arguments
Institute of Artificial Intelligence, School of Computer Science and Technology（计算机科学与技术学院人工智能研究所）；Soochow University（苏州大学）；Huawei Cloud（华为云）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
语义角色标注（SRL）是自然语言处理领域的一项基本而又具有挑战性的任务。SRL近期的工作主要分为两条路线：1）基于生物的; 2）基于跨度的。尽管它们普遍存在，但它们都有一些内在的缺点，即没有考虑内部参数结构，这可能会阻碍模型的表达能力。关键的挑战是参数是平面结构，并且参数中的单词没有确定的子树实现。为了弥补这一点，在本文中，我们建议把扁平的参数跨度作为潜在的子树，从而减少SRL的树解析任务。特别是，我们配备了一个新的跨度约束TreeCRF制定，使树结构跨度意识，并进一步将其扩展到二阶的情况下。我们在CoNLL 05和CoNLL 12基准上进行了大量的实验。结果表明，我们的方法比以前所有的语法不可知的作品表现得更好，实现了新的国家的最先进的端到端和W/黄金谓词设置。
2022-09-17 cs.CL
The Power of Communities: A Text Classification Model with Automated Labeling Process Using Network Community Detection
Binghamton University, State University of New York（纽约州立大学宾汉姆顿分校）；Waseda University（早稻田大学）；Pypestream, Inc.（Pypestream公司）
文本分类是机器学习和人工智能研究中最关键的领域之一。它已经被积极地应用于许多商业应用中，例如会话智能系统、新闻文章分类、情感分析、情感检测系统以及我们日常生活中的许多其他推荐系统。有监督文本分类模型的一个问题是，模型的性能在很大程度上取决于通常由人类完成的数据标记的质量。在这项研究中，我们提出了一个新的网络社区发现为基础的方法来自动标记和分类文本数据到多类值空间。具体来说，我们建立网络的句子作为网络节点和成对的余弦相似度之间的词频反转的文档频率（TFIDF）的向量表示的句子作为网络链接的权重。我们使用Louvain方法来检测句子网络中的社区。我们在人类标记数据和网络社区发现标记数据上对支持向量机和随机森林模型进行了训练和测试。实验结果表明，基于网络社区发现标记数据的模型比基于人工标记数据的模型的分类准确率高2.68-3.75%。我们的方法可能有助于更准确的会话智能和其他文本分类系统的发展。
2019-11-14 cs.CL cs.IR cs.SI
Graph Convolutions over Constituent Trees for Syntax-Aware Semantic Role Labeling
Amazon（亚马逊）；University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
语义角色标注（SRL）的任务是识别谓词和标注具有语义角色的论元跨度。尽管大多数语义角色形式主义都是建立在成分语法上的，并且只有语法成分可以被标记为参数（例如，FrameNet和PropBank），所有最近关于语法感知的SRL的工作都依赖于语法的依赖表示。相反，我们展示了如何图卷积网络（GCN）可以用来编码组成结构，并通知SRL系统。我们SpanGCN中的节点对应于成分。计算分三个阶段进行。首先，初始节点表示是通过“合成”组成部分中第一个和最后一个单词的单词表示来产生的。其次，依赖于组成树的图卷积被执行，从而产生语法上知情的组成表示。最后，组成表示被“分解”回单词表示，反过来又被用作SRL分类器的输入。我们评估SpanGCN对替代品，包括依赖树使用GCN的模型，并显示其有效性标准CoNLL-2005，CoNLL-2012，和FrameNet基准。
2020-11-21 cs.CL cs.LG
Syntax Role for Neural Semantic Role Labeling
Shanghai Jiao Tong University（上海交通大学）
语义角色标注（SRL）致力于识别句子的语义谓词-论元结构。以往基于传统模型的研究表明，句法信息对自主学习成绩有显著的影响;然而，句法信息的必要性受到了最近一些神经SRL研究的挑战，这些研究表明，在没有句法主干的情况下，句法信息的表现令人印象深刻，并表明句法信息对于神经语义角色标注变得不那么重要，特别是当与最近的深度神经网络和大规模预训练的语言模型配对时。尽管有这个概念，神经SRL领域仍然缺乏一个系统的和全面的调查，在SRL的相关性的句法信息，无论是依赖和单语和多语设置。本文旨在量化句法信息在深度学习框架中对神经SRL的重要性。我们介绍了三个典型的SRL框架（基线），基于序列，基于树，基于图，这是伴随着两类利用句法信息：基于语法修剪和基于语法特征。在CoNLL-2005、2009和2012基准测试中对所有可用语言进行了实验，结果表明神经SRL模型在一定条件下仍然可以受益于句法信息。此外，我们还展示了句法对神经SRL模型的定量意义，并使用现有模型进行了彻底的实证调查。
2020-09-12 cs.CL
Adaptive Convolution for Semantic Role Labeling
Shanghai Jiao Tong University（上海交通大学）
语义角色标注旨在通过构建谓词-论元结构来阐释句子的意义。最近的研究表明，有效地使用语法可以提高SRL的性能。然而，句法是一个复杂的语言线索，很难有效地应用于像SRL这样的下游任务。这项工作使用自适应卷积有效地编码语法，这为现有的卷积网络提供了强大的灵活性。现有的CNN可以帮助编码复杂的结构，如SRL的语法，但它仍然有缺点。与对不同输入使用相同滤波器的传统卷积网络相反，自适应卷积使用以语法信息输入为条件的自适应生成的滤波器。我们实现了这一点与过滤器生成网络，生成输入特定的过滤器的集成。这有助于模型关注输入中存在的重要语法特征，从而扩大了语法感知和语法不可知的SRL系统之间的差距。我们进一步研究了一种哈希技术，以压缩SRL的过滤器生成网络的可训练参数的大小。在CoNLL-2009数据集上的实验结果表明，该模型在英汉两种语言上的识别性能都明显优于以往的SRL系统
2020-12-27 cs.CL
Fast and Accurate End-to-End Span-based Semantic Role Labeling as Word-based Graph Parsing
Institute of Artificial Intelligence（人工智能研究院）；School of Computer Science and Technology（计算机科学与技术学院）；Soochow University（苏州大学）
本文提出了铸造端到端的跨度为基础的SRL作为一个基于词的图解析任务。主要的挑战是如何在单词级别表示跨度。借鉴中文分词和命名实体识别的研究思路，提出并比较了四种不同的图表示模式，BES、BE、BIES和BII四种方案，其中BES方案性能最好。我们通过详细的分析进一步获得有趣的见解。此外，我们提出了一个简单的约束维特比过程，以确保合法性的输出图根据SRL结构的约束。我们在两个广泛使用的基准数据集上进行实验，即，CoNLL 05和CoNLL 12。结果表明，我们的基于单词的图解析方法实现了一贯优于以前的结果，在所有设置的端到端和谓词给定，没有和预先训练的语言模型（PLM）。更重要的是，我们的模型每秒可以解析669/252个句子，分别没有和有PLM。
2022-09-16 cs.CL
Capturing Argument Interaction in Semantic Role Labeling with Capsule Networks
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
语义角色标注（SRL）涉及从自然语言句子中提取命题（即谓词及其类型化参数）。最先进的SRL模型依赖于强大的编码器（例如，LSTM），并且不对参数之间的非局部交互进行建模。我们提出了一种新的方法来建模这些相互作用，同时保持有效的推理。具体来说，我们使用胶囊网络：每个命题被编码为\textit{capsules}的元组，每个参数类型（即角色）一个胶囊。这些元组充当整个命题的嵌入。在每一个网络层中，胶囊彼此交互，并与句子中的单词表示交互。每次迭代都会导致更新的命题嵌入和关于SRL结构的更新预测。我们的模型在所有7种CoNLL-2019语言上的表现都大大优于非细化基线模型，并在5种语言（包括英语）上实现了最先进的依赖SRL结果。我们分析的类型的错误纠正的细化程序。例如，每个角色通常（但不总是）最多填充一个参数。然而，强制执行这种近似约束是没有用的现代SRL系统，迭代过程纠正错误，捕捉这种直觉在一个灵活的和上下文敏感的方式。
2019-10-07 cs.CL
Debugging Frame Semantic Role Labeling
University of Geneva（日内瓦大学）
我们提出了一个定量和定性分析的性能统计模型的帧语义结构提取。我们报告的复制研究框架1.7的数据，并表明，预处理工具包在参数识别性能中发挥了重要作用，观察收益的数量级类似于最近的框架语义解析模型所报告的。我们报告的鲁棒性，最近的统计分类框架语义解析的谓词-参数结构的词汇配置，依赖于人工增强的数据集，使用基于规则的算法结合效价模式匹配和词汇替换。我们证明了句法预处理在统计分类器的参数识别性能中起着重要的作用，并讨论了依赖分析器输出与FrameNet句法形式主义之间句法不匹配的核心原因。最后，我们提出了新的线索，以改善统计模型的框架语义解析，包括联合语法-语义解析依赖于FrameNet语法形式主义，潜在的类推理通过分裂和合并算法和神经网络架构依赖于丰富的输入表示的话。
2019-01-22 cs.CL
A Syntax-aware Multi-task Learning Framework for Chinese Semantic Role Labeling
Institute of Artificial Intelligence（人工智能研究院）；School of Computer Science and Technology（计算机科学与技术学院）；Soochow University（苏州大学）
语义角色标注的目的是识别句子的谓元-论元结构。受句法和语义之间强相关性的启发，以往的研究工作都致力于在句法知识的挖掘上提高自主学习的性能，并取得了显著的成果。基于自动句法树的流水线方法和基于标准句法树的多任务学习方法是两个常见的研究方向。在本文中，我们采用了一个简单的统一的基于跨度的模型为基于跨度和基于词的中文SRL作为一个强大的基线。此外，我们提出了一个MTL框架，其中包括基本的SRL模块和依赖分析器模块。与MTL中常用的硬参数共享策略不同，其主要思想是从依赖分析器中提取隐含的句法表示作为基本SRL模型的外部输入。在中国命题银行1.0和CoNLL-2009中文数据集上的实验表明，该框架可以有效地提高强基线上的性能。通过外部BERT表示，我们的框架在两个基准测试的两个测试数据上分别获得了新的最先进的87.54和88.5 F1分数。深入的分析进行，以获得更多的见解所提出的框架和语法的有效性。
2019-11-12 cs.CL
Bootstrapping Conversational Agents With Weak Supervision
IBM Watson（IBM沃森）；IBM Research AI（IBM研究院人工智能部门）
当今市场上的许多会话代理遵循标准的机器人开发框架，该框架需要训练意图分类器来识别用户输入。创建一组合适的训练样本的需求通常是开发过程中的瓶颈。在许多情况下，代理开发人员可以访问历史聊天日志，这些日志可以提供大量的训练样本。然而，用数十到数百个意图标记它们的成本通常会阻止充分利用这些聊天日志。在本文中，我们提出了一个框架称为\textit{search, label, and propagate}（SLP）的引导意图从现有的聊天日志使用弱监督。该框架通过使用搜索引擎查找示例，将数小时到数天的标记工作减少到几分钟的工作，然后依靠数据编程方法自动扩展标签。我们报告的用户研究，显示积极的用户反馈，这种新的方法来建立对话代理，并证明了使用数据编程自动标记的有效性。虽然该系统是为训练会话代理而开发的，但该框架在显着减少训练文本分类器的标记工作方面具有更广泛的应用。
2018-12-14 cs.AI cs.CL
Neural-Davidsonian Semantic Proto-role Labeling
我们提出了一个语义原型角色标记（SPRL）模型，使用我们称之为“神经戴维森”的自适应双向LSTM编码策略：谓词-参数结构表示为与输入序列的谓词和参数头部标记对应的隐藏状态对。我们证明：（1）最先进的SPRL结果，（2）我们的网络自然地在属性之间共享参数，允许在有限的附加监督下学习新的属性类型。
2019-08-27 cs.CL
Large-Scale QA-SRL Parsing
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Paul G. Allen School of Computer Science and Engineering（保罗·G·艾伦计算机科学与工程学院）；University of Washington（华盛顿大学）
我们提出了一个新的大规模语料库的问答驱动的语义角色标注（QA-SRL）的注释，和第一个高质量的QA-SRL解析器。我们的语料库QA-SRL Bank 2.0由3个领域超过64，000个句子的超过250，000个问答对组成，并通过一个新的众包计划收集，我们表明该计划具有高准确度和良好的召回率，成本低廉。我们还提出了两个QA-SRL子任务的神经模型：检测谓词的参数跨度和生成问题来标记语义关系。最好的模型在全流水线QA-SRL预测任务中实现了82.6%的问题准确率和77.6%的跨度水平准确率（在人工评估下）。正如我们所展示的，它们还可以用于以低成本收集额外的注释。
2018-05-14 cs.AI cs.CL
Topic Segmentation and Labeling in Asynchronous Conversations
Qatar Computing Research Institute（卡塔尔计算研究所）；University of British Columbia（不列颠哥伦比亚大学）
话题分割和标记通常被认为是更高级别会话分析的先决条件，并且已被证明在许多自然语言处理（NLP）应用中是有用的。我们提出了两个新的语料库的电子邮件和博客对话注释的主题，并评估注释器的可靠性，在这些异步对话的分割和标记任务。我们提出了一个完整的计算框架，主题分割和标签在异步会话。我们的方法通过考虑异步会话的细粒度结构以及通过应用最近的基于图的NLP方法的其他会话特征来扩展最先进的方法。对于主题分割，我们提出了两个新的无监督模型，利用细粒度的会话结构，和一个新的图论监督模型，结合词汇，会话和主题功能。对于主题标签，我们提出了两种新的（无监督）随机游走模型，分别从两个不同的来源捕获会话特定的线索：领导的句子和细粒度的会话结构。经验评估表明，我们最好的模型所执行的分割和标记击败了最先进的技术，并且与人类注释高度相关。
2014-02-04 cs.CL
Unsupervised Transfer of Semantic Role Models from Verbal to Nominal Domain
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
语义角色标注（Semantic role labeling，SRL）是一个NLP任务，涉及将谓词参数分配给类型，称为语义角色。尽管SRL的研究主要集中在动词谓词上，并且许多可用于SRL的资源仅为动词提供注释，但语义关系通常由其他语言结构触发，例如，名词化在这项工作中，我们调查的情况下，我们假设的角色注释的数据为源动词域，但只有未标记的数据为目标名词域的转移。我们的关键假设，使两个域之间的转移，是一个角色的选择偏好（即，对可接受论元的偏好或约束）并不强烈地依赖于关系是由动词还是名词触发的。例如，相同的一组参数可以填补动词谓词“acquire”及其名词形式“acquisition”的获取者角色。我们从变分自编码的角度来处理转移任务。标签器充当编码器（预测给定句子的角色标签），而选择偏好在解码器组件中捕获（为预测角色生成参数）。在训练数据中没有标记名义角色，而是学习目标推动标记器分配预测参数的角色。跨域共享解码器参数鼓励了针对两个域预测的标签之间的一致性，并且促进了传输。该方法大大优于基线，如无监督和“直接转移”的方法，对英语CoNLL-2009数据集。
2020-09-26 cs.CL cs.LG
Large-Context Conversational Representation Learning: Self-Supervised Learning for Conversational Documents
NTT Media Intelligence Laboratories, NTT Corporation（日本电信电话公司媒体情报研究所）
本文提出了一种新的自监督学习方法，用于处理由人与人之间对话的转录文本组成的会话文档。理解会话文档的关键技术之一是话语级顺序标注，其中标签以逐个话语的方式从文档中估计。话语级顺序标记的主要问题是难以收集标记的会话文档，因为手动注释非常昂贵。为了解决这个问题，我们提出了大上下文会话表示学习（LC-CRL），一种专门用于会话文档的自监督学习方法。LC-CRL中的自监督学习任务涉及基于大上下文语言建模使用所有周围话语来估计话语。通过这种方式，LC-CRL使我们能够有效地利用未标记的会话文档，从而增强了话语级顺序标记。使用呼叫中心会话数据集进行场景分割的实验结果表明了该方法的有效性。
2021-02-16 cs.CL cs.LG
A Sketch-Based System for Semantic Parsing
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Center for Data Science, Peking University（北京大学数据科学中心）
本文介绍了我们的语义解析系统，用于NLPCC 2019的开放领域语义解析评估任务。许多以前的工作制定语义解析作为一个序列到序列（seq 2seq）的问题。相反，我们把任务作为一个基于草图的问题，在一个粗略到精细（coarse 2fine）的方式。草图是逻辑形式的高级结构，不包括实体和谓词等低级细节。通过这种方式，我们可以单独优化每个部件。具体来说，我们将这个过程分解为三个阶段：草图分类确定高层结构，而实体标记和匹配网络填补缺失的细节。此外，我们采用seq 2seq方法从整体的角度来评估逻辑形式候选。谓词和实体之间的共现关系也有助于重新排序。我们提交的系统在全测试集上达到了82.53%的精确匹配准确率，在硬测试子集上达到了47.83%，这是NLPCC 2019共享任务2的第三名。在对参数、网络结构和采样进行优化后，在全测试集上的准确率达到84.47%，在硬测试子集上的准确率达到63.08%（我们的代码和数据可以在https：//github.com/zechagl/NLPCC2019-Semantic-Parsing上获得）。
2019-09-12 cs.CL
The Case for Scalable, Data-Driven Theory: A Paradigm for Scientific Progress in NLP
New York University（纽约大学）
本文提出以可扩展、数据驱动的语言结构理论为核心的 NLP 科学进步范式，并以 QA-SRL 为例展示如何通过受限问答标注和机器学习构建可解释的浅层语义理论。
2023-12-01 cs.AI cs.CL
A Graph-Based Neural Model for End-to-End Frame Semantic Parsing
Tianjin University（天津大学）
框架语义解析是近年来备受关注的基于框架网的语义分析任务。该任务通常依次包括三个子任务：（1）目标识别，（2）框架分类和（3）语义角色标注。这三个子任务紧密相关，以往的研究将它们单独建模，忽略了它们之间的内在联系，同时也导致了错误传播问题。在这项工作中，我们提出了一个端到端的神经模型来联合处理任务。具体地说，我们采用了一种基于图的方法，把框架语义解析看作是一个图的构造问题。所有的谓词和角色被视为图节点，它们之间的关系被视为图边。在两个框架语义解析基准数据集上的实验结果表明，该方法具有很强的竞争力，性能优于流水线模型。
2021-09-25 cs.CL
A Fully Automated Pipeline for Conversational Discourse Annotation: Tree Scheme Generation and Labeling with Large Language Models
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出利用大语言模型自动生成树状标注方案并完成对话语篇标注的全自动流程，在SFs和SWBD-DAMSL上验证其可超越人工设计树方案并达到或超过人类标注水平。
2025-06-03 cs.CL
Improving Classification through Weak Supervision in Context-specific Conversational Agent Development for Teacher Education
University of Virginia（弗吉尼亚大学）；Curry School of Education, University of Virginia（弗吉尼亚大学柯里教育学院）；James Madison University（詹姆斯麦迪逊大学）
应用于会话代理开发的自然语言处理（NLP）组件的机器学习技术显示出有希望的结果，以提高会话代理可以提供的反馈的准确性和质量。开发特定于教育场景的对话代理所需的工作非常耗时，因为它需要领域专家对课堂视频等嘈杂数据源进行标记和注释。以前的注释建模方法依赖于标记数千个示例并计算注释者之间的一致性和多数投票，以便对必要的场景进行建模。这种方法虽然被证明是成功的，但忽略了标注数据点的个体注释者的优势，并且没有充分利用那些没有多数投票支持标注的示例。我们建议使用多任务弱监督方法结合主动学习来解决这些问题。这种方法比传统方法需要更少的标记，并且在精度，效率和时间要求方面比多数投票方法有显着提高（Ratner 2019）。我们证明了这种方法在谷歌拼图数据集的有效性，然后提出了一个方案，应用这种方法使用教学质量评估（IQA）来定义标签的类别。我们建议使用概率建模的注释器标记生成主动学习的例子，以进一步标记的数据。主动学习能够迭代地提高原始分类模型的训练性能和准确性。这种方法结合了最先进的弱监督和主动学习的标记技术，以优化教育领域的结果，并可进一步用于通过迁移学习减少教育领域内扩展场景的数据要求。
2020-10-23 cs.CL cs.CY cs.LG
Improved and Efficient Conversational Slot Labeling through Question Answering
PolyAI Limited（PolyAI有限公司）
基于transformer的预训练语言模型（PLM）在大多数自然语言理解（NLU）任务中提供了无与伦比的性能，包括一系列问答（QA）任务。我们假设QA方法的改进也可以直接用于对话NLU;但是，对话任务必须是\textit{reformatted}到QA任务。特别是，我们专注于建模和研究\textit{slot labeling}（SL），NLU对话的一个重要组成部分，通过QA光学，旨在提高其性能和效率，并使其更有效和更有弹性地处理有限的任务数据。为此，我们做了一系列的贡献：1）我们演示了QA调整的PLM如何应用于SL任务，达到新的最先进的性能，在这种低数据制度中特别明显的大增益。2)我们建议利用上下文信息，需要解决模糊的值，简单地通过自然语言。3)通过使用轻量级而有效的适配器模块，提高了面向QA的微调的效率和紧凑性。4)权衡了QA数据集的一些质量，我们用更大的自动生成的QA数据集进行QA调优，达到了更高的性能。最后，我们的分析表明，我们的新的基于QA的插槽标签模型，支持的PLM，达到高数据制度的性能上限，要求在未来的工作更具挑战性和更细致入微的基准。
2022-04-05 cs.CL
Automated Utterance Labeling of Conversations Using Natural Language Processing
The University of British Columbia（不列颠哥伦比亚大学）；Carleton University（卡尔顿大学）；Arizona State University（亚利桑那州立大学）
会话数据在心理学中是必不可少的，因为它可以帮助研究人员了解个人的认知过程，情绪和行为。话语标记是分析这类数据的常用策略。NLP算法的发展使研究人员能够自动完成这项任务。然而，心理会话数据对NLP研究人员提出了一些挑战，包括多标签分类，大量的类别和有限的可用数据。这项研究探讨了在成年过渡对话的背景下，NLP方法生成的自动标签如何与人类标签相媲美。我们提出了应对心理学研究中提出的三个常见挑战的策略。我们的研究结果表明，具有领域自适应的深度学习方法（Roberta-CON）优于所有其他机器学习方法;我们提出的分层标签系统被证明可以帮助研究人员战略性地分析会话数据。我们的Python代码和NLP模型可以在https://github.com/mlaricheva/automated_labeling上找到。
2022-08-12 cs.CL
Look before you Hop: Conversational Question Answering over Knowledge Graphs Using Judicious Context Expansion
MPI for Informatics（马克斯·普朗克信息学研究所）；Amazon Alexa（亚马逊Alexa）
以事实为中心的信息需求很少是一次性的;用户通常会提出后续问题来探索一个主题。在这样的会话设置中，用户的输入通常是不完整的，其中实体或谓词被遗漏，以及不合语法的短语。这对问答（QA）系统提出了巨大的挑战，因为QA系统通常依赖于完整的疑问句中的线索。作为一种解决方案，我们开发了CONVEX：一种无监督的方法，可以通过使用迄今为止看到的实体和谓词来维护会话上下文，并自动推断后续问题的缺失或模糊部分，从而在知识图谱（KG）上回答不完整的问题。我们的方法的核心是一个图探索算法，明智地扩大了边界，找到候选答案的当前问题。为了评估CONVEX，我们发布了ConvQuestions，这是一个众包基准，包含来自五个不同领域的11，200个不同对话。我们证明了CONVEX：（i）为任何独立的QA系统添加会话支持，（ii）优于最先进的基线和问题完成策略。
2019-11-05 cs.CL cs.IR
Empirical Study of Symmetrical Reasoning in Conversational Chatbots
Handong Global University（韩东全球大学）
本文使用 SIS 数据集和 ICL 评估五款 LLM 聊天机器人的谓词对称推理能力，发现模型表现不一，Gemini Advanced 与人类评分相关性达 0.85。
2024-07-08 cs.CL
Encoding Syntactic Constituency Paths for Frame-Semantic Parsing with Graph Convolutional Networks
Heriot-Watt University（赫瑞-瓦特大学）
我们研究的问题，从选区树的句法信息集成到一个神经模型中的框架语义解析的子任务，即目标识别（TI），框架识别（FI），和语义角色标注（SRL）。我们使用图卷积网络来学习成分的特定表示，使得每个成分被描述为它对应的产生式语法规则。我们利用这些表示来构建句子中每个单词的句法特征，计算为单词和树中特定任务节点之间路径上的所有成分的总和，例如SRL的目标谓词。当在FrameNet 1.5上测试时，我们的方法在TI和SRL上分别提高了约1%和约3.5%的最新结果（以BERT作为输入获得了+2.5%的额外点），同时在CoNLL 05数据集上产生了与其他语法感知系统相当的结果。
2020-11-26 cs.CL cs.LG
Intent Mining from past conversations for conversational agent
Accenture Labs（埃森哲实验室）
对话系统是AI社区的主要兴趣。聊天机器人越来越多地被部署来提供全天候支持并提高客户参与度。许多商业机器人构建框架遵循一种标准方法，该方法要求构建和训练意图模型以识别用户输入。意图模型在有监督的设置中使用文本话语和意图标签对的集合进行训练。为不同的意图收集大量和广泛的训练数据是机器人构建过程中的瓶颈。此外，标记一百到数千个具有意图的对话的成本是一项耗时费力的工作。在本文中，我们提出了一个意图发现框架，包括4个主要步骤：使用预训练的领域不可知对话行为分类器从对话中提取文本话语（数据提取），相似用户话语的自动聚类（聚类），使用Intent标签手动注释聚类（标记）并将意图标签传播到来自先前步骤的话语，其未被映射到任何聚类（标签传播）;以从原始会话生成意图训练数据。针对不平衡数据的聚类问题，提出了一种新的基于密度的聚类算法ITER-DBSCAN。主题专家（具有领域专业知识的注释者）手动查看聚类的用户话语，并提供用于发现的意图标签。我们进行了用户研究，以验证在意图覆盖率、准确性和节省手动注释时间方面生成的训练意图模型的有效性。虽然系统被开发用于构建会话系统的意图模型，但是该框架也可以用于短文本聚类或作为标记框架。
2021-01-18 cs.AI cs.CL cs.LG
