Entity-Consistent End-to-end Task-Oriented Dialogue System with KB Retriever
Research Center for Social Computing and Information Retrieval(社会计算与信息检索研究中心);Harbin Institute of Technology(哈尔滨工业大学)
在面向任务的端到端对话系统中,知识库的查询一直是一个难题。先前的序列到序列(Seq 2Seq)对话生成工作将KB查询视为对整个KB的关注,而不能保证生成的实体彼此一致。在本文中,我们提出了一种新的框架,查询知识库中的两个步骤,以提高生成的实体的一致性。在第一步中,灵感的观察,一个响应通常可以支持一个单一的KB行,我们引入了一个KB检索组件,显式返回最相关的KB行给定的对话历史。检索结果进一步用于Seq 2Seq响应生成模型中过滤无关实体,提高输出实体之间的一致性。在第二步中,我们进一步执行注意力机制来处理最相关的KB列。提出了两种方法,使训练的可行性,没有标记的检索数据,其中包括远程监督和Gumbel-Softmax技术。两个公开的面向任务的对话数据集上的实验表明,我们的模型的有效性优于基线系统,并产生实体一致的反应。
2019-09-18 cs.CL
Contextualize Knowledge Bases with Transformer for End-to-end Task-Oriented Dialogue Systems
College of Electronics and Information Engineering, Sichuan University, China(四川大学电子信息学院,中国);School of Computer Science, The University of Adelaide, Australia(阿德莱德大学计算机学院,澳大利亚);University of Electronic Science and Technology of China, China(电子科技大学,中国);Tencent(腾讯)
将知识库转化为面向任务的端到端对话系统是一个挑战,因为它需要正确地表示知识库的实体,而知识库的实体与知识库上下文和对话上下文相关联。现有的工作表示的实体,只有感知其知识库上下文的一部分,这可能会导致低效率的表示,由于信息丢失,并不利于知识库推理和响应生成。为了解决这个问题,我们探索通过动态感知所有相关实体和对话历史来完全上下文化实体表示。为了实现这一点,我们提出了一个COontext-aware内存增强的Transformer框架(COMET),它把知识库作为一个序列,并利用一个新的内存掩码,以强制实体只专注于其相关的实体和对话历史,同时避免分心无关的实体。通过大量的实验,我们表明,我们的COMET框架可以实现优越的性能超过国家的艺术。
2021-09-29 cs.CL
MedDG: An Entity-Centric Medical Consultation Dataset for Entity-Aware Medical Dialogue Generation
Sun Yat-sen University(中山大学);Hong Kong University of Science and Technology(香港科技大学);Hong Kong Polytechnic University(香港理工大学);Tencent Jarvis Lab(腾讯天衍实验室)
开发会话代理以与患者互动并提供主要临床建议,由于其巨大的应用潜力,特别是在COVID-19大流行时期,引起了越来越多的关注。然而,端到端的基于神经的医学对话系统的训练受到医学对话语料数量不足的制约。在这项工作中,我们首次尝试构建并发布了一个与12种常见胃肠道疾病相关的大规模高质量医学对话数据集MedDG,从在线健康咨询社区收集了超过17 K的对话。五种不同类别的实体,包括疾病,症状,属性,测试和药物,在MedDG的每个对话中作为附加标签进行注释。为了推动未来构建专家敏感的医学对话系统的研究,本文提出了两种基于MedDG数据集的医学对话任务。一个是下一个实体预测,另一个是医生响应生成。为了对这两个医学对话任务有一个清晰的理解,我们实现了几个最先进的基准,并设计了两个对话模型,进一步考虑了预测的实体。实验结果表明,预训练的语言模型和其他基线在我们的数据集中表现不佳的两个任务上挣扎,并且可以在辅助实体信息的帮助下提高响应质量。从人类的评价,简单的检索模型优于几个国家的最先进的生成模型,这表明仍然有很大的改进空间,产生医学上有意义的反应。
2022-07-31 cs.AI cs.CL
Commonsense and Named Entity Aware Knowledge Grounded Dialogue Generation
Indian Institute of Technology Patna(印度理工学院巴特那分校);National Institute of Technology Karnataka, Surathkal(卡纳塔克国家理工学院苏拉特卡尔校区)
将对话建立在外部知识的基础上,并在对话历史语境中解释语言模式,如省略、回指和共指,对于对话的理解和生成至关重要。在本文中,我们提出了一种新的开放域对话生成模型,有效地利用了大规模的常识和命名实体的知识,除了非结构化的主题特定的知识与每个话语。我们增强了常识知识命名实体感知结构使用共同引用。我们提出的模型利用多跳注意层来保留对话历史和相关知识中最准确和关键的部分。此外,我们采用了一个常识和命名实体增强注意力模块,它从各种来源提取的三元组开始,并逐渐找到相关的支持集的三元组使用多跳注意与查询向量从交互式对话知识模块。在两个基准数据集上的实证结果表明,我们的模型在自动评估指标和人类判断方面都显着优于最先进的方法。我们的代码可在\href{https://github.com/deekshaVarshney/CNTF}{https://github.com/deekshaVarshney/CNTF} ; \href{https://www.iitp.ac.in/~ai-nlp-ml/resources/codes/CNTF.zip}{https://www.iitp.ac.in/-ai-nlp-ml/resources/ codes/CNTF.zip}上公开获得。
2022-05-27 cs.AI cs.CL
CDialog: A Multi-turn Covid-19 Conversation Dataset for Entity-Aware Dialog Generation
Indian Institute of Technology Patna(印度理工学院巴特那分校)
开发对话代理与患者互动并提供临床建议吸引了许多研究人员的兴趣,特别是在COVID-19大流行的情况下。另一方面,端到端基于神经的对话系统的训练受到缺乏多轮医学对话语料库的阻碍。我们首次尝试发布一个名为CDialog的与Covid-19疾病相关的高质量多轮医疗对话数据集,其中包括从在线医疗咨询网站收集的超过1000个对话。我们用七种不同类别的医学实体来注释对话的每个话语,包括疾病,症状,医学测试,病史,补救措施,药物和其他方面作为附加标签。最后,我们提出了一种新的神经医疗对话系统的基础上的CDialog数据集,以推进未来的研究开发自动化医疗对话系统。我们使用预先训练的语言模型进行对话生成,将注释的医疗实体,以生成一个虚拟医生的响应,解决病人的查询。实验结果表明,所提出的对话模型的性能更好地补充实体信息,从而可以提高响应质量。
2022-11-16 cs.AI cs.CL
ZipVoice-Dialog: Non-Autoregressive Spoken Dialogue Generation with Flow Matching
Xiaomi Corp.(小米公司)
本文提出ZipVoice-Dialog模型,通过流匹配和课程学习策略提升语音对话生成的推理速度和准确性,同时发布OpenDialog数据集以促进研究发展。
2026-04-14 cs.CL eess.AS
Non-Autoregressive Neural Dialogue Generation
Department of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);ShannonAI(ShannonAI(香侬人工智能))
最大互信息(MMI),其对响应($y$)和上下文($x$)之间的双向依赖性进行建模,即,前向概率$\log p(y|x)$和后向概率$\log p(x|y)$已被广泛用作\sts模型中的目标,以解决开放域对话生成中的迟钝响应问题。不幸的是,在\sts模型的框架下,从$\log p(y|x) + \log p(x|y)$直接解码是不可行的,因为第二部分(即,$p(x|y)$)需要在计算目标之前完成目标生成,并且用于$y$的搜索空间是巨大的。根据经验,首先在给定$p(y|x)$的情况下生成N最佳列表,然后使用$p(x|y)$对N最佳列表进行重新排序,这不可避免地导致非全局最优解。在本文中,我们建议使用非自回归(非AR)生成模型来解决这个非全局最优性问题。由于在非AR生成中独立地生成目标令牌,因此每个目标词的$p(x|y)$可以在其生成时立即计算,并且不必等待整个序列的完成。这自然解决了解码中的非全局最优问题。实验结果表明,所提出的非AR策略产生更多样化,连贯性和适当的反应,产生实质性的收益,在BLEU分数和人类的评价。
2020-02-13 cs.CL
More but Correct: Generating Diversified and Entity-revised Medical Response
Hunan University(湖南大学);JD Technology(京东科技);Xiangya Hospital of Central South University(中南大学湘雅医院)
医学对话生成(MDG)旨在构建一个用于智能会诊的医学对话系统,能够与患者实时交流,从而提高临床诊断效率,具有广阔的应用前景。本文介绍了我们为2021年中国知识图谱和语义计算(CCKS)竞赛会议组织的中国千年发展目标提出的框架,该框架要求以对话历史为条件生成上下文一致且具有医学意义的响应。在我们的框架中,我们提出了一个管道系统组成的实体预测和实体感知的对话生成,通过添加预测实体的对话模型与融合机制,从而利用来自不同来源的信息。在解码阶段,我们提出了一种新的解码机制命名为修正的多样性束搜索(EDBS),以提高实体的正确性,并促进最终响应的长度和质量。所提出的方法赢得了CCKS和国际学习表示会议(ICLR)2021年预防和抗击流行病(MLPCP)机器学习研讨会第一轨道意识MED竞赛,这证明了我们的方法的实用性和有效性。
2021-08-19 cs.AI cs.CL
Non-Autoregressive Semantic Parsing for Compositional Task-Oriented Dialog
Facebook(脸书)
与传统的基于单词标记的模型相比,使用序列到序列模型的语义解析允许解析更深的表示。尽管有这些优势,但这些模型在实时会话用例中的广泛采用受到更高计算要求和更高延迟的阻碍。在这项工作中,我们提出了一个非自回归的方法来预测语义解析树与一个有效的seq2seq模型架构。通过将非自回归预测与卷积神经网络相结合,与传统的RNN模型相比,我们实现了显着的延迟增益和参数大小减小。我们的新架构在TOP数据集上实现了高达81%的延迟减少,并在三个不同的语义解析数据集上保持了与非预训练模型的竞争性能。我们的代码可在https://github.com/facebookresearch/pytext上获得
2021-04-11 cs.CL cs.LG
Flexible End-to-End Dialogue System for Knowledge Grounded Conversation
Hong Kong University of Science and Technology(香港科技大学)
在以知识为基础的会话中,领域知识在音乐这样的特殊领域中起着重要的作用。基于知识的会话的应答可能包含多个应答实体或根本不包含应答实体。虽然现有的生成式问答(QA)系统可以应用于基于知识的会话,他们要么在响应中最多有一个实体,要么不能处理词汇表外的实体。我们提出了一个完全数据驱动的生成式对话系统GenDS,它能够根据输入消息和相关知识库(KB)生成响应。为了生成任意数量的答案实体,即使这些实体从来没有出现在训练集中,我们设计了一个动态的知识查询器,选择不同的答案实体在不同的位置在一个单一的响应,根据不同的本地上下文。它不依赖于实体的表示,使我们的模型能够处理词汇表外的实体。我们收集了一个人与人的对话数据(ConversMusic)与知识注释。在CoversMusic和一个公共问答数据集上对所提出的方法进行了评估。我们提出的GenDS系统在BLEU,实体准确性,实体召回和人类评估方面明显优于基线方法。此外,实验还表明,即使在小数据集上,GenDS也能更好地工作。
2017-09-13 cs.CL
SEntNet: Source-aware Recurrent Entity Network for Dialogue Response Selection
University of Amsterdam(阿姆斯特丹大学);Microsoft Research AI(微软研究院AI)
对话应答选择是面向任务的对话系统的重要组成部分,它的目的是在给定的对话语境中预测一个合适的应答。从复杂、长时间的对话上下文中获取关键信息是具有挑战性的,特别是当不同的信息源可用时,例如,用户的话语、系统的响应以及从知识库(KB)检索的结果。以前的工作忽略了信息源的类型,并合并源的响应选择。然而,占的来源类型可能会导致显着的差异,在响应选择的质量。我们提出了源感知的递归实体网络(SENTNet),这是知道不同的信息源的响应选择过程。SENTNet通过使用特定于源的存储器来利用来自不同信息源(用户、系统和知识库)的单词使用和句法结构的差异来实现这一点。实验结果表明,SEntNet在Dialog bAbI数据集上获得了91.0%的准确率,比之前的工作高出4.7%。在DSTC 2数据集上,SEntNet获得了41.2%的准确率,击败了2.4%的不知道源的循环实体网络。
2019-09-16 cs.AI cs.CL cs.IR
Non-Autoregressive Dialog State Tracking
Salesforce Research(Salesforce研究);Singapore Management University(新加坡管理大学);Salesforce Research Asia(Salesforce亚洲研究)
最近在面向任务的对话的对话状态跟踪(DST)的努力已经朝着开放词汇或基于生成的方法,其中模型可以从对话历史本身生成槽值候选人。这些方法表现出良好的性能增益,特别是在复杂的对话域与动态槽值。然而,它们在两个方面存在不足:(1)它们不允许模型显式地学习跨域和时隙的信号,以检测(域,时隙)对之间的潜在依赖关系;以及(2)现有模型遵循自回归方法,当对话在多个域和多个回合上演变时,会产生很高的时间成本。在本文中,我们提出了一种新的框架,非自回归对话状态跟踪(NADST),它可以考虑域和插槽之间的潜在依赖关系,以优化模型,更好地预测对话状态作为一个完整的集合,而不是单独的插槽。特别是,我们的方法的非自回归性质,不仅使解码并行显着减少延迟的DST实时对话响应生成,但也检测插槽之间的依赖关系,除了插槽和域级别令牌级别。我们的实证结果表明,我们的模型在MultiWOZ 2.1语料库上的所有领域都达到了最先进的联合准确度,并且随着对话历史的不断延长,我们模型的延迟比以前的最先进水平低一个数量级。
2020-02-19 cs.AI cs.CL cs.LG
CMed-GPT: Prompt Tuning for Entity-Aware Chinese Medical Dialogue Generation
Beijing University of Technology(北京工业大学)
本文提出基于中文医疗文本的GPT预训练模型CMed-GPT,通过融合实体嵌入并应用p-tuning,显著提升了中文医疗对话生成的质量,验证了提示微调优于传统微调。
2023-11-24 cs.AI cs.CL
MME-RAG: Multi-Manager-Expert Retrieval-Augmented Generation for Fine-Grained Entity Recognition in Task-Oriented Dialogues
Harbin Institute of Technology(哈尔滨工业大学);Byering Technology(Byering技术公司)
针对任务型对话细粒度实体识别中LLM的领域适配与检索可控性难题,提出MME-RAG多管理者-专家检索增强生成框架,经多数据集验证性能优于基线,具备良好鲁棒性与跨域泛化性。
2025-11-15 cs.AI cs.CL
Enhancing Visual Dialog Questioner with Entity-based Strategy Learning and Augmented Guesser
Beijing University of Posts and Telecommunications(北京邮电大学);Pattern Recognition Center, WeChat AI, Tencent, China(腾讯微信AI模式识别中心);Soochow University(苏州大学)
考虑到建立一个良好的视觉对话(VD)提问者的重要性,许多研究者在Q-Bot-A-Bot图像猜测游戏的设置下研究该主题,其中提问者需要提出一系列问题来收集未公开图像的信息。尽管监督学习(SL)和强化学习(RL)已经取得了进展,但仍然存在问题。首先,以前的方法没有为提问者提供明确有效的指导,以产生视觉相关和信息丰富的问题。其次,RL的效果受到不合格成分的阻碍,即,猜测者,他根据生成的对话做出图像预测,并相应地分配奖励。要增强VD怀疑者:1)我们提出了一个相关实体增强的提问者(ReeQ),它在相关实体的指导下生成问题,并从人类对话中学习基于实体的提问策略; 2)我们提出了一个增强的猜测者(AugG),它是强大的,特别是针对VD设置进行了优化。在VisDial v1.0数据集上的实验结果表明,该方法在图像猜测任务和问题多样性上都达到了最佳性能。人类研究进一步证明,我们的模型产生更多的视觉相关,信息和连贯的问题。
2021-09-06 cs.AI cs.CL
Improving LLM's Attachment to External Knowledge In Dialogue Generation Tasks Through Entity Anonymization
Dept. of Computing Science, University of Alberta(计算科学系,阿尔伯塔大学);Alberta Machine Intelligence Institute(阿尔伯塔人工智能研究所)
针对大语言模型在基于知识图谱的对话生成任务中易依赖内部知识、脱离给定外部知识的问题,提出评估流程LLM-KAT与实体匿名化技术,在OpenDialKG数据集上验证了方法可提升模型对外部知识的依附性。
2025-11-14 cs.CL cs.LG
Multilingual Autoregressive Entity Linking
Facebook AI(Facebook人工智能研究院);University of Amsterdam(阿姆斯特丹大学);University of Washington(华盛顿大学);University College London(伦敦大学学院)
我们提出mGENRE,序列到序列系统的多语言实体链接(MEL)问题-解决特定语言提到的多语言知识库(KB)的任务。对于给定语言中的提及,mGENRE以自回归方式从左到右逐个标记地预测目标实体的名称。自回归公式使我们能够有效地交叉编码提及字符串和实体名称,以捕获比提及和实体向量之间的标准点积更多的交互。它还支持在大KB内快速搜索,即使是没有出现在提及表中的提及,也不需要大规模的矢量索引。虽然以前的MEL工作对每个实体使用单个表示,但我们匹配尽可能多语言的实体名称,这允许利用源输入和目标名称之间的语言联系。此外,在完全没有训练数据的语言的zero-shot设置中,mGENRE将目标语言视为在预测时被边缘化的潜在变量。这导致平均精度提高了50%以上。我们通过广泛的评估,包括三个流行的MEL基准实验,其中mGENRE建立新的国家的最先进的结果,我们的方法的有效性。代码和预先训练的模型在https://github.com/facebookresearch/GENRE。
2021-03-23 cs.AI cs.CL stat.ML
Data Augmentation with Paraphrase Generation and Entity Extraction for Multimodal Dialogue System
Intel Labs(英特尔研究院)
上下文感知智能代理通常需要实时了解用户及其周围环境。我们的目标是建立人工智能(AI)系统,帮助儿童学习。在这种复杂的框架内,口语对话系统(SDS)是在基于游戏的学习环境中与儿童进行有效的任务导向型沟通的关键构件。我们正致力于为年幼的孩子学习基本的数学概念的多模态对话系统。我们的重点是改善有限数据集的面向任务的SDS管道的自然语言理解(NLU)模块。这项工作探讨了数据增强的潜在好处,并为在小型特定任务数据集上训练的NLU模型生成释义。我们还研究了提取实体的影响,可以想象进一步的数据扩展。我们已经证明,使用小种子数据的模型在环(MITL)策略的释义是一种很有前途的方法,可以提高意图识别任务的性能。
2022-05-09 cs.AI cs.CL
Highly Parallel Autoregressive Entity Linking with Discriminative Correction
University of Amsterdam(阿姆斯特丹大学);University of Edinburgh(爱丁堡大学)
生成方法最近已经被证明对于实体消歧和实体链接都是有效的(即,联合提及检测和消歧)。然而,先前提出的用于EL的自回归公式遭受i)由于复杂(深度)解码器导致的高计算成本,ii)与源序列长度成比例的不可并行解码,以及iii)需要在大量数据上训练。在这项工作中,我们提出了一个非常有效的方法,并行化所有潜在的提及自回归链接,并依赖于一个浅而有效的解码器。此外,我们用一个额外的判别成分来增强生成目标,即,一个校正项,它可以让我们直接优化发电机的排名。综合起来,这些技术解决了上述所有问题:我们的模型比以前的生成方法快70倍以上,准确度更高,在标准英语数据集AIDA-CoNLL上的表现优于最先进的方法。源代码可在https://github.com/nicola-decao/efficient-autoregressive-EL获得
2021-09-08 cs.AI cs.CL stat.ML
Learning to Retrieve Entity-Aware Knowledge and Generate Responses with Copy Mechanism for Task-Oriented Dialogue Systems
University of Science and Technology of China(中国科学技术大学);Queen’s University(女王大学)
第9届对话系统技术挑战赛(DSTC 9)的第一个主题是面向任务的非结构化知识访问会话建模,要求建立一个系统,在给定对话历史和知识访问的情况下生成响应。这个挑战可以分为三个子任务,(1)知识寻求转向检测,(2)知识选择,和(3)知识接地响应生成。我们使用预训练的语言模型,ELECTRA和ROBERTa,作为我们不同子任务的基本编码器。对于子任务1和子任务2,使用领域和实体等粗粒度信息来增强知识使用。对于子任务3,我们使用一个隐变量来更好地编码对话历史和选择的知识,并结合复制机制生成响应。同时,对模型的最终输出进行了一些有用的后处理策略,以便在生成任务中进一步使用知识。如发布的评估结果所示,我们提出的系统在客观指标下排名第二,在人类指标下排名第四。
2020-12-22 cs.AI cs.CL cs.LG
Enhancing Visual Dialog State Tracking through Iterative Object-Entity Alignment in Multi-Round Conversations
Beijing Information Science and Technology University(北京信息科技大学);Beijing University of Technology(北京工业大学)
针对现有视觉对话方法忽略轮次级对话信息流的问题,提出多轮对话状态跟踪模型MDST,以视觉-语言二元组构建对话状态表示,在VisDial v1.0生成式任务上取得SOTA,且生成答案更一致类人。
2024-08-13 cs.AI cs.CL cs.CV
Autoregressive Entity Retrieval
University of Amsterdam(阿姆斯特丹大学);Facebook AI Research(脸书人工智能研究实验室);ENS, PSL University(巴黎高等师范学院、PSL大学);Inria(法国国家信息与自动化研究所);University College London(伦敦大学学院)
实体是我们如何表示和聚合知识的核心。例如,诸如维基百科的百科全书由实体(例如,每个维基百科条目一个)。在给定查询的情况下检索这样的实体的能力对于诸如实体链接和开放域问答之类的知识密集型任务是基本的。当前的方法可以被理解为原子标签之间的分类器,每个实体一个。它们的权重向量是通过对实体Meta信息(例如其描述)进行编码而产生的密集实体表示。这种方法有几个缺点:(i)上下文和实体亲和力主要通过矢量点积来捕获,可能会丢失细粒度的交互;(ii)在考虑大型实体集时,需要大量的内存占用来存储密集表示;(iii)在训练时必须对一组适当的硬负数据进行二次采样。在这项工作中,我们提出了GENRE,第一个系统,检索实体生成其唯一的名称,从左到右,令牌令牌的自回归方式。这缓解了上述技术问题,因为:(i)自回归公式直接捕获上下文和实体名称之间的关系,有效地交叉编码两者;(ii)存储器占用大大减少,因为我们的编码器-解码器架构的参数随词汇大小而不是实体计数缩放;(iii)计算softmax损失而不对负数据进行二次采样。我们对20多个数据集进行了实体消歧、端到端实体链接和文档检索任务的实验,在使用竞争系统内存占用的一小部分的同时,实现了新的最先进或非常有竞争力的结果。最后,我们证明了新的实体可以通过简单地指定它们的名称来添加。代码和预先训练的模型在https://github.com/facebookresea…
2021-03-24 cs.CL cs.IR cs.LG
KG-ECO: Knowledge Graph Enhanced Entity Correction for Query Rewriting
Amazon(亚马逊)
查询重写(QR)在大规模对话系统中起着减少摩擦的关键作用。当存在实体错误时,它对对话系统产生令人满意的响应提出了额外的挑战。在这项工作中,我们提出了KG-ECO:知识图谱增强实体COrrection查询重写,一个实体纠正系统与腐败的实体跨度检测和实体检索/重新排名功能。为了提高模型的性能,我们结合了知识图谱(KG)来提供实体结构信息(由图神经网络编码的相邻实体)和文本信息(由RoBERTa编码的KG实体描述)。实验结果表明,我们的方法在两个基线上产生了明显的性能增益:话语水平QR和实体校正,而不利用KG信息。所提出的系统是特别有效的少样本学习的情况下,目标实体很少看到在训练中或有一个KG关系的目标实体和其他上下文实体的查询。
2023-02-22 cs.CL cs.LG
GE-Blender: Graph-Based Knowledge Enhancement for Blender
Haomo Technology Co., Ltd.(毫末科技有限公司);Hebei Normal University(河北师范大学);University of Luxembourg(卢森堡大学)
虽然开放域对话生成取得了巨大成功,但不可见实体可能对对话生成任务产生很大影响。这会导致对话框生成过程中模型的性能下降。以前的研究使用检索到的知识看到实体作为辅助数据,以提高模型的代表性。然而,对不可见实体的逻辑解释仍然是未知的,例如它们可能的共现或语义相似的词及其实体类别。在这项工作中,我们提出了一种方法来解决上述挑战。我们通过提取其中的实体节点来构建一个图,用实体的1跳周围节点来增强看不见的实体的上下文的表示。此外,我们增加了命名实体标签预测任务,以应用图中不存在未见过实体的问题。我们进行了我们的实验在一个开放的数据集向导的维基百科和实证结果表明,我们的方法优于国家的最先进的方法向导的维基百科。
2023-01-30 cs.AI cs.CL
A Sequence to Sequence Model for Extracting Multiple Product Name Entities from Dialog
Walmart Global Tech(沃尔玛全球科技)
电子商务语音订购系统需要从订购话语中识别多个产品名称实体。现有的语音订购系统(如Amazon Alexa)只能捕获单个产品名称实体。这限制了用户用一个话语订购多个项目。近年来,预训练的语言模型,例如,BERT和GPT-2在Super-GLUE等NLP基准测试中表现出了令人鼓舞的结果。然而,他们不能完美地推广到这个多产品名称实体识别(MPNER)的任务,由于在语音订购话语的模糊性。为了填补这一研究空白,我们提出了实体Transformer(ET)神经网络架构,识别多达10个项目的话语。在我们的评估中,与非神经模型相比,最好的ET模型(ERT + ngram + ET)在我们的测试集上的性能提高了12%,并且也优于使用ET的BERT。这有助于客户通过语音对话完成购物车,从而提高购物效率和体验。
2021-10-28 cs.CL cs.LG
DialogPII: A multilingual dataset of synthetic dialog transcripts to detect personal information
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));Technical University Berlin(柏林技术大学);Berlin Institute of Health (BIH)(柏林健康研究所(BIH));Tilburg University(蒂尔堡大学);Universidad de Buenos Aires(布宜诺斯艾利斯大学);Independent Researcher(独立研究者);Bundesinstitut für Risikobewertung (BfR)(风险评估联邦机构(BfR))
提出DialogPII多语言合成对话数据集,覆盖8种场景、19种实体类型和11种语言,通过半自动生成、语音合成与转录、人工校正构建,并发布基线模型和验证结果。
2026-06-29 cs.CL
An Autoregressive Text-to-Graph Framework for Joint Entity and Relation Extraction
FI Group(FI集团)
本文提出一种基于跨度的自回归文本到图框架,将联合实体和关系抽取建模为条件序列生成问题,利用Transformer编码器-解码器与指针机制在动态词汇表上生成线性化图,在基准数据集上取得有竞争力的结果。
2024-01-15 cs.AI cs.CL cs.LG
Constraint based Knowledge Base Distillation in End-to-End Task Oriented Dialogs
IIT Delhi(印度理工学院德里分校);IBM Research(IBM研究院)
端到端面向任务的对话系统基于对话历史和伴随的知识库(KB)生成响应。推断与话语最相关的那些KB实体对于响应生成是至关重要的。现有技术通过对不相关的KB信息进行软过滤来扩展到大KB。在本文中,我们提出了一种新的过滤技术,包括(1)一个成对的相似性为基础的过滤器,识别相关的信息,尊重的n元结构的知识库记录。以及(2)辅助损失,其有助于分离上下文无关的KB信息。我们还提出了一个新的度量--多集实体F1,它解决了现有实体F1度量中的正确性问题。三个公开的面向任务的对话数据集上的实验结果表明,我们提出的方法优于现有的国家的最先进的模型。
2021-09-15 cs.CL cs.LG
Task-Oriented Dialogue System as Natural Language Generation
University of California Santa Barbara(加州大学圣巴巴拉分校);Alibaba DAMO Academy(阿里巴巴达摩院);Tencent AI Lab(腾讯人工智能实验室);Microsoft Research Asia(微软亚洲研究院)
在本文中,我们建议将面向任务的对话系统制定为纯自然语言生成任务,以便充分利用GPT-2等大规模预训练模型,并简化复杂的去词汇化处理。然而,直接应用该方法严重遭受由去除去词汇化令牌引起的对话实体不一致性,以及预训练模型在微调期间的灾难性遗忘问题,导致性能不令人满意。为了缓解这些问题,我们设计了一种新的GPT-Adapter-CopyNet网络,它将轻量级适配器和CopyNet模块集成到GPT-2中,以实现更好的迁移学习和对话实体生成性能。在DSTC 8 Track 1基准测试和MultiWOZ数据集上进行的实验结果表明,我们提出的方法在自动和人工评估方面的性能显着优于基线模型。
2022-04-24 cs.AI cs.CL
Capture Salient Historical Information: A Fast and Accurate Non-Autoregressive Model for Multi-turn Spoken Language Understanding
Shanghai Jiao Tong University(上海交通大学);Beijing Normal University (Zhuhai)(北京师范大学(珠海));BNU-HKBU United International College(北京师范大学-香港浸会大学联合国际学院);Nanyang Technological University(南洋理工大学)
口语语言理解是面向任务的对话系统的核心组成部分,面对人类用户的不耐烦,它需要更短的推理时间。现有的工作提高推理速度,通过设计非自回归模型单轮SLU任务,但未能适用于多轮SLU面对的对话历史。直观的想法是连接所有的历史话语,并直接利用非自回归模型。然而,这种方法严重错过了显着的历史信息,并遭受不协调槽问题。为了克服这些缺点,我们提出了一种新的多轮SLU模型命名为显着的历史注意与层细化Transformer(SHA-LRT),它由一个SHA模块,一个层细化机制(LRM),和一个槽标签生成(SLG)任务。SHA通过设计良好的历史-注意力机制从历史话语和结果中捕获当前对话的突出历史信息。LRM从Transformer的中间状态预测初步SLU结果,并利用它们来指导最终预测,SLG获得用于非自回归编码器的顺序依赖性信息。在公共数据集上的实验表明,我们的模型显着提高了多轮SLU性能(总体上提高了17.5%),在最先进的基线上加速了(近15倍)推理过程,并且对单轮SLU任务有效。
2022-06-24 cs.AI cs.CL
Few-Shot Dialogue Generation Without Annotated Data: A Transfer Learning Approach
Heriot-Watt University(赫瑞-瓦特大学);Microsoft Research(微软研究院)
用最少的数据进行学习是开发实用的、生产就绪的面向目标的对话系统的关键挑战之一。在对话系统快速发展的现实企业环境中,人们期望它能在不断增长的领域、产品和场景中稳健地工作,从有限数量的示例中进行有效学习变得不可或缺。在本文中,我们介绍了一种技术,以实现国家的最先进的对话生成性能的Few-Shot设置,而不使用任何注释数据。我们通过利用来自更大的、更高度代表性的对话源(即MetaLWOz数据集)的背景知识来做到这一点。我们评估我们的模型在斯坦福大学的多领域对话数据集,包括人与人的目标导向的对话在车内导航,预约安排,和天气信息领域。我们表明,我们的Few-Shot方法在该数据集上实现了最先进的结果,在BLEU和实体F1得分方面始终优于以前的最佳模型,同时由于不需要任何数据注释而具有更高的数据效率。
2019-08-16 cs.CL
Grounding Dialogue Systems via Knowledge Graph Aware Decoding with Pre-trained Transformers
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
在面向目标和非目标的对话系统中生成基于知识的响应是一个重要的研究挑战。知识图谱(KG)可以被视为现实世界的抽象,其可以潜在地促进对话系统产生基于知识的响应。然而,以端到端的方式将KG集成到对话生成过程中是一项重要的任务。本文提出了一种新的体系结构,通过训练一个BERT模型,学习回答使用KG(实体和关系)的元素在多任务,端到端的设置集成KG到响应生成过程。KG的k-hop子图在使用图拉普拉斯算子的训练和推理期间被并入模型中。实证评估表明,该模型实现了更好的知识覆盖度(通过实体F1得分衡量)相比,其他国家的最先进的模型,目标和非目标导向的对话。
2021-03-30 cs.CL
Grounding Language Models for Visual Entity Recognition
Rice University(莱斯大学);Microsoft STCA(微软STCA)
提出 AutoVER 自回归模型,通过检索增强受限生成与困难负样本对比训练,在 Oven-Wiki 基准上显著提升了视觉实体识别的域内外及推理查询性能。
2024-07-26 cs.CL cs.CV
BANG: Bridging Autoregressive and Non-autoregressive Generation with Large Scale Pretraining
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院);Microsoft(微软);Sichuan University(四川大学)
在本文中,我们提出了BANG,一个新的预训练模型,以弥合自回归(AR)和非自回归(NAR)生成之间的差距。AR和NAR的生成可以统一地看作是在多大程度上可以关注先前的token,并且BANG通过设计用于大规模预训练的新型模型结构来桥接AR和NAR生成。预训练的BANG模型可以同时支持AR、NAR和半NAR生成,以满足不同的需求。在问题生成(SQuAD 1.1)、摘要(XSum)和对话生成(PersonaChat)上的实验表明,BANG显著提高了NAR和半NAR性能,并达到了与强AR预训练模型相当的性能。与半NAR强基线相比,BANG在SQuAD 1.1和XSum的总评分中分别实现了14.01和5.24的绝对改善。此外,与强NAR基线相比,BANG在SQuAD、XSUM和PersonaChat的总得分分别实现了10.73、6.39和5.90的绝对改善。
2021-06-16 cs.CL
Semantic Parsing in Task-Oriented Dialog with Recursive Insertion-based Encoder
AWS AI Labs(AWS人工智能实验室)
本文介绍了一种基于递归插入的编码器(RINE),它是一种在面向任务的对话中进行语义解析的新方法。我们的模型包括一个编码器网络,通过预测非终端标签及其在线性化树中的位置,逐步建立语义解析树。在生成时,该模型通过在预测位置递归插入预测的非终结标签直到终止来构造语义解析树。RINE在会话语义解析基准TOP的低资源和高资源版本上实现了最先进的精确匹配精度(Gupta等人,2018年; Chen等人,2020年),优于强大的序列到序列模型和基于转换的解析器。我们还表明,我们的模型设计是适用于嵌套的命名实体识别任务,在那里它的表现等同于国家的最先进的方法设计的任务。最后,我们证明了我们的方法在推理时间比序列到序列模型快2-3.5倍。
2022-03-20 cs.CL
Multi-level Memory for Task Oriented Dialogs
Indian Institute of Technology, Madras(马德拉斯印度理工学院);IBM Research AI(IBM研究院人工智能部门)
最近的端到端的面向任务的对话系统使用存储器架构,将外部知识在他们的对话。目前的工作简化假设的知识库的结构,如使用三元组来表示知识,并结合对话的话语(上下文)以及知识库(KB)的结果作为同一内存的一部分。这会导致内存大小的爆炸,并使对内存的推理变得更加困难。此外,这样的存储器设计迫使数据的分层属性适合于存储器的三重结构。这要求内存读取器推断跨以其他方式连接的属性的关系。在本文中,我们放松了现有的架构和单独的内存用于建模对话框上下文和KB结果的假设。而不是使用三元组来存储KB的结果,我们引入了一种新的多级存储器架构,每个查询和相应的结果的细胞。多级内存首先处理查询,然后是结果,最后是结果中的每个键值对。我们进行了详细的实验,三个公开的面向任务的对话数据集,我们发现,我们的方法最终优于当前国家的最先进的模型。我们报告了实体F1和BLEU分数增加15-25%。
2019-05-12 cs.CL
Zero and Few-Shot Localization of Task-Oriented Dialogue Agents with a Distilled Representation
Stanford University(斯坦福大学)
面向任务的对话(ToD)代理主要限于几种广泛使用的语言,这主要是由于为每种语言获取训练数据的成本很高。现有的低成本方法依赖于跨语言嵌入或朴素的机器翻译,为了数据效率牺牲了很多准确性,并且在创建可用的对话代理方面基本上失败。我们提出了自动方法,使用ToD训练数据在源语言中建立一个高质量的功能对话代理在另一个目标语言,没有训练数据(即zero-shot)或一个小的训练集(即Few-Shot)。不像大多数以前的工作,跨语言的ToD只专注于对话状态跟踪(DST),我们建立了一个端到端的代理。我们表明,我们的方法关闭之间的准确性差距Few-Shot和现有的完整的拍摄方法ToD代理。我们通过(1)改进对话数据表示,(2)改进实体感知机器翻译,(3)自动过滤噪声翻译来实现这一点。我们在最近的双语对话数据集BiToD上评估了我们的方法。在汉英迁移中,在zero-shot条件下,我们的方法在任务成功率(TSR)和对话成功率(DSR)上分别达到了46.7%和22.0%。在Few-Shot设置中,使用目标语言中10%的数据,我们将最先进的技术提高了15.2%和14.0%,在全拍摄训练的5%以内。
2023-02-18 cs.CL
Multi-Grained Knowledge Retrieval for End-to-End Task-Oriented Dialog
Sun Yat-sen University(中山大学);Tencent AI Lab(腾讯人工智能实验室)
针对端到端任务型对话中知识检索与回复生成混合导致大规模知识库下检索性能欠佳的问题,提出解耦两者并引入多粒度知识检索器MAKER,利用实体和属性选择器及蒸馏目标优化检索,在三个基准上验证了有效性。
2023-05-17 cs.CL
Exploring Conversational Language Generation for Rich Content about Hotels
University of California Santa Cruz(加州大学圣克鲁兹分校);Google Content Studio(谷歌内容工作室);Google Research(谷歌研究院)
用于旅馆和游客信息的对话系统通常简化了域的丰富性,将系统话语集中在仅少数选定的属性上,诸如价格、位置和房间类型。然而,更多的内容通常可用于酒店,通常多达50个不同的实例化属性用于单个实体。需要新的方法来使用这些内容为酒店信息生成自然对话,并且通常用于具有如此丰富复杂内容的任何领域。我们描述了三个实验,旨在收集数据,可以通知NLG的酒店对话,并显示,毫不奇怪,在原来的书面酒店描述的网页上提供的每一个酒店的句子是文体不是一个很好的匹配会话互动。我们量化的文体特征,表征原始文本数据和收集的对话数据之间的差异。我们计划在文体模型中使用这些来生成,并对检索到的话语进行评分,以用于酒店对话
2018-05-01 cs.CL
PaDeLLM-NER: Parallel Decoding in Large Language Models for Named Entity Recognition
ByteDance(字节跳动);University of Chinese Academy of Sciences(中国科学院大学);University College Dublin(都柏林大学学院)
针对大语言模型在命名实体识别中因顺序解码导致的高延迟问题,本文提出无需额外模块的并行解码方法 PaDeLLM-NER,在保持预测质量的同时将推理速度提升 1.76 至 10.22 倍。
2024-11-21 cs.AI cs.CL
PALM: Pre-training an Autoencoding&Autoregressive Language Model for Context-conditioned Generation
Alibaba Group(阿里巴巴集团)
自监督预训练,如BERT,MASS和BART,已经成为一种强大的自然语言理解和生成技术。现有的预训练技术采用自编码和/或自回归目标来训练基于transformer的模型,通过从具有一些掩蔽令牌的损坏文本中恢复原始单词令牌。现有技术的训练目标通常与许多语言生成任务的目标不一致,例如生成式问答和会话响应生成,用于产生给定上下文的新文本。这项工作提出了一种新的计划,共同预训练的自编码和自回归语言模型上的大型未标记的语料库,专门设计用于生成新的文本条件下的上下文PALM。新方案消除了现有去噪方案在预训练和微调之间引入的不匹配,其中生成多于重建原始文本。一组广泛的实验表明,PALM在各种语言生成基准测试中取得了新的最先进的结果,包括生成式问答(官方MARCO排行榜上的排名1),CNN/DailyMail以及Gigaword上的抽象摘要,SQuAD上的问题生成以及Cornell Movie Dialogues上的会话响应生成。
2020-09-20 cs.CL
ToolACE-MT: Non-Autoregressive Generation for Agentic Multi-Turn Interaction
Huawei Technologies Co., Ltd(华为技术有限公司);Shanghai Jiao Tong University(上海交通大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
ToolACE-MT通过非自回归生成方法高效构建高质量多轮代理对话,解决传统自回归方法效率低下的问题。
2026-02-13 cs.AI cs.CL cs.LG
RT-KGD: Relation Transition Aware Knowledge-Grounded Dialogue Generation
Soochow University(苏州大学);IFLYTEK Research(讯飞研究院);Fudan University(复旦大学)
将对话系统与外部知识结合起来是提高答复质量的一个有希望的方法。现有的大多数作品都采用知识图谱(KG)作为外部资源,关注对话最后一句话中实体对上下文理解和响应生成的贡献。然而,知识隐含在多轮背景下,在幼儿园的关系之间的过渡性的相关性是未充分探讨。为此,我们提出了一个关系迁移感知的知识为基础的对话生成模型(RT-KGD)。具体而言,受人类会话的潜在逻辑的启发,我们的模型集成了对话级关系转换与回合级实体语义信息。通过这种方式,知识之间的相互作用被认为产生了丰富的线索,用于预测适当的知识并产生连贯的反应。自动评估和手动评估的实验结果表明,我们的模型优于国家的最先进的基线。
2022-07-17 cs.AI cs.CL
GLM-Dialog: Noise-tolerant Pre-training for Knowledge-grounded Dialogue Generation
Renmin University of China(中国人民大学);Tsinghua University(清华大学)
我们提出了GLM-Dialog,一个大规模的语言模型(LLM)与10 B参数能够知识为基础的对话中使用的搜索引擎访问互联网知识。GLM-Dialog提供了一系列适用的技术,用于利用各种外部知识,包括有用的和嘈杂的知识,从而能够使用有限的适当数据集创建强大的以知识为基础的对话LLM。为了更公平地评估GLM-Dialog,我们还提出了一种新的评估方法,允许人类同时与多个部署的机器人进行对话,并隐式地比较它们的性能,而不是使用多维指标进行显式评级。从自动到人类的角度进行综合评估,展示了GLM-Dialog与现有开源中文对话模型相比的优势。我们发布了模型检查点和源代码,并将其部署为微信应用程序与用户进行交互。我们在线提供评估平台,以促进开源模型和可靠对话评估系统的开发。另外还发布了易于使用的工具包,包括短文本实体链接、查询生成和有用的知识分类,以支持各种应用程序。所有的源代码都可以在Github上找到。
2023-02-28 cs.AI cs.CL
Generative Subgraph Retrieval for Knowledge Graph-Grounded Dialog Generation
Korea University(高丽大学);Amazon AGI(亚马逊AGI)
针对知识图谱支撑的对话生成中外部编码器无法利用预训练语言模型知识及单向量抽象导致信息瓶颈的问题,提出DialogGSR方法,通过在语言模型上直接生成子图词元序列并结合结构感知线性化与图约束解码进行检索,在多个数据集上达到最先进性能。
2024-10-12 cs.AI cs.CL
CR-Walker: Tree-Structured Graph Reasoning and Dialog Acts for Conversational Recommendation
Tsinghua University(清华大学);Alibaba Group(阿里巴巴集团)
会话式推荐系统(CRS)通过会话式交互探索用户的偏好,从而提供合适的推荐,这一研究受到了越来越多的关注。然而,在现有CRS中仍然缺乏以下能力:(1)遍历背景知识上的多个推理路径以引入相关项目和属性,以及(2)在当前系统意图下适当地布置所选实体以控制响应生成。为了解决这些问题,我们提出了CR-沃克在本文中,一个模型,执行树结构的推理知识图谱,并产生信息对话行为,以指导语言生成。树形结构推理的独特方案将每一跳处的遍历实体视为对话的一部分,以促进语言生成,这将实体的选择和表达联系起来。自动和人工评估表明,CR-Walker可以达到更准确的推荐,并生成更多信息和吸引人的响应。
2021-09-03 cs.CL cs.IR
Unified Multimodal Model with Unlikelihood Training for Visual Dialog
Tongji University(同济大学)
视觉对话的任务要求多模态聊天机器人回答人类关于图像内容的顺序问题。先前的工作执行标准似然训练,用于在正面实例(涉及正确答案)上生成答案。然而,似然目标往往导致频繁和沉闷的输出,并未能利用有用的知识,从负面的情况下(涉及不正确的答案)。在本文中,我们提出了一个统一的多模态模型与Unlikeness训练,命名为UniMM-UL,来解决这个问题。首先,为了通过多任务学习来提高视觉对话理解和生成,我们的模型将ViLBERT从只支持答案判别扩展到通过不同的注意力掩码无缝地保持答案判别和答案生成。具体来说,为了使原始的判别模型与答案生成兼容,我们设计了新的生成注意力掩模来实现自回归掩蔽语言建模(自回归MLM)任务。为了减弱似然目标的不利影响,我们利用负面实例的非似然训练,使模型不太可能生成错误的答案。然后,为了利用密集注释,我们采用不同的微调方法来生成和区分答案,而不是像以前的工作那样只区分答案。最后,在VisDial数据集上,我们的模型获得了最好的生成结果(69.23 NDCG得分)。我们的模型在单模型和集成环境中也产生了与最先进水平相当的判别结果(75.92和76.17 NDCG得分)。
2022-11-23 cs.AI cs.CL cs.CV
S2F-NER: Exploring Sequence-to-Forest Generation for Complex Entity Recognition
School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院)
本文提出序列到森林生成范式S2F-NER,通过并行解码多实体的森林解码器缓解暴露偏差并提升效率,在不连续和嵌套NER数据集上显著优于基线。
2023-10-29 cs.CL
Building Korean linguistic resource for NLU data generation of banking app CS dialog system
DICORA, Hankuk University of Foreign Studies(DICORA,韩国外国语大学);Université Gustave Eiffel(古斯塔夫·伊费尔大学)
本文构建了FIAD语言资源,用于生成韩语NLU任务导向对话系统的数据,通过分析银行应用评论识别出三种韩语请求语句模式,并用LGGs生成标注数据以提升意图和实体识别性能。
2026-05-11 cs.CL cs.LG
Knowledge Graphs and Pre-trained Language Models enhanced Representation Learning for Conversational Recommender Systems
Griffith University(格里菲斯大学);School of Information and Communication Technology(信息与通信技术学院)
本文提出KERL框架,融合知识图谱与预训练语言模型增强对话推荐系统中的实体表示,并构建WikiMKG知识图谱,在推荐和回复生成任务上达到最优性能。
2024-05-01 cs.AI cs.CL cs.IR
Speech-to-Text Adapter and Speech-to-Entity Retriever Augmented LLMs for Speech Understanding
Google DeepMind(谷歌DeepMind)
针对大语言模型应用于语音领域时因表示不对齐导致性能下降的问题,提出带Speech2Text适配器的联合语音语言模型,再用语音转实体检索器增强,有效提升对话状态跟踪和语音识别性能。
2023-06-08 cs.AI cs.CL eess.AS
Using Pause Information for More Accurate Entity Recognition
University of Michigan(密歇根大学);Apple(苹果公司)
人机对话中的实体标签是会话助理中的自然语言理解(NLU)任务的组成部分。然而,当前的系统难以仅通过典型的文本输入使用来准确地解析口头查询,并且通常无法理解用户意图。语言学的研究发现,名词周围的停顿时间比动词周围的停顿时间更长,这是一种跨语言的倾向。我们证明,停顿的语言观察可以用来提高机器学习的语言理解任务的准确性。对来自商业语音助理的法语和英语话语中的停顿的分析示出了与实体跨度内相比,多令牌实体跨度边界周围的停顿持续时间的统计学显著差异。此外,与基于文本的NLU相比,我们应用暂停持续时间来丰富上下文嵌入,以改善实体的浅层解析。结果表明,我们提出的新的嵌入提高了相对出错率高达8%,始终在三个领域的法语,没有任何额外的注释或对齐成本的解析器。
2021-09-27 cs.CL cs.LG
Unstructured Knowledge Access in Task-oriented Dialog Modeling using Language Inference, Knowledge Retrieval and Knowledge-Integrative Response Generation
The Chinese University of Hong Kong(香港中文大学);Centre for Perceptual and Interactive Intelligence(感知与交互智能中心)
具有丰富的外部知识的对话系统可以处理支持数据库/API范围之外的用户查询。在本文中,我们遵循DSTC 9轨道1中提供的基线,并提出了三个子系统,KDEAK,KnowleDgEFactor和Ens-GPT,形成了一个面向任务的对话系统能够访问非结构化知识的管道。具体来说,KDEAK通过使用来自对话框、数据库和FAQ的知识将问题公式化为自然语言推理来执行知识搜索转向检测。KnowleDgEFactor通过制定一个分解的知识/文档检索问题,三个模块执行域,实体和知识水平分析来完成知识选择任务。Ens-GPT首先处理多个知识片段,然后通过集成算法来生成响应,该集成算法决定响应是否应该单独从GPT 2-XL模型中导出,或者与顶级知识片段组合重新生成。实验结果表明,所提出的管道系统优于基线,并产生高质量的响应,实现至少58.77%的BLEU-4分数的提高。
2021-01-15 cs.AI cs.CL
Real-time On-Demand Crowd-powered Entity Extraction
Carnegie Mellon University(卡内基梅隆大学);National Taiwan University(国立台湾大学)
输出协议机制,如ESP游戏已被广泛用于人类计算,以获得可靠的人类生成的标签。在本文中,我们认为,一个“时间有限”的输出协议机制可以用来创建一个快速和强大的群体动力组件的交互系统,特别是对话系统,从用户的话语中提取关键信息的飞行。我们使用航空旅行信息系统(ATIS)数据集在Amazon Mechanical Turk上进行的实验表明,所提出的方法实现了高质量的结果,平均响应时间小于9秒。
2017-12-06 cs.AI cs.CL cs.HC