Neural dialog models are known to suffer from problems such as generating unsafe and inconsistent responses. Even though these problems are crucial and prevalent, they are mostly manually identified by model designers through interactions. Recently, some research instructs crowdworkers to goad the bots into triggering such problems. However, humans leverage superficial clues such as hate speech, while leaving systematic problems undercover. In this paper, we propose two methods including reinforcement learning to automatically trigger a dialog model into generating problematic responses. We show the effect of our methods in exposing safety and contradiction issues with state-of-the-art dialog models.
A Conditional Variational Framework for Dialog Generation
Saarland University(萨尔大学);Institute of Software, Chinese Academy of Science(中国科学院软件研究所);The Hong Kong Polytechnic University(香港理工大学);National Institute of Informatics(国立信息学研究所)
Explicit State Tracking with Semi-Supervision for Neural Dialogue Generation
Fudan University(复旦大学);National University of Singapore(新加坡国立大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
对话生成的任务旨在自动提供响应给定先前的话语。跟踪对话状态是判断用户意图的一个重要环节。然而,\emph{expensive nature of state labeling}和\emph{weak interpretability}使得对话状态跟踪对于面向任务和非面向任务的对话生成都是具有挑战性的问题:对于在面向任务的对话中生成响应,状态跟踪通常从人工注释的语料库中学习,其中人工注释对于训练来说是昂贵的;对于在非面向任务的对话中生成响应,由于对话状态的数量不受限制,大多数现有工作忽略了显式状态跟踪。在本文中,我们提出了\emph{semi-supervised explicit dialogue state tracker}(SEDST)的神经对话生成。为此,我们的方法有两个核心成分:\emph{CopyFlowNet}和\emph{posterior regularization}。具体来说,我们提出了一个编码器-解码器架构,命名为\emph{CopyFlowNet},表示一个明确的对话状态的概率分布在词汇空间。为了优化训练过程,我们采用后验正则化策略来整合间接监督。在任务型和非任务型对话语料库上进行的大量实验证明了该模型的有效性。此外,我们发现,我们提出的半监督对话状态跟踪器实现了国家的最先进的监督学习基线状态跟踪过程中的性能相当。
Learning from Easy to Complex: Adaptive Multi-curricula Learning for Neural Dialogue Generation
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Data Science Lab, JD.com(京东数据科学实验室);National Computer network Emergency Response technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心)
Tsinghua University(清华大学);University of California, Davis(加州大学戴维斯分校)
如果给定一个巨大的数据集,神经生成模型在对话生成任务上已经取得了很好的性能。然而,缺乏高质量的对话框数据和昂贵的数据注释过程极大地限制了它们在现实世界中的应用。我们提出了一个释义增强响应生成(PARG)框架,联合训练的释义模型和响应生成模型,以提高对话生成性能。设计了一种基于对话状态和对话行为标签的释义训练数据自动构造方法。PARG适用于各种对话生成模型,诸如TSCP(Lei等人,2018)和DAMD(Zhang et al.,2019年)。实验结果表明,该框架在CamRest676和MultiWOZ上进一步改进了这些最先进的对话模型。PARG在对话框生成任务中的表现也明显优于其他数据增强方法,特别是在低资源设置下。
The BEA 2023 Shared Task on Generating AI Teacher Responses in Educational Dialogues
KU Leuven(鲁汶大学);imec(比利时微电子研究中心);MBZUAI(穆罕默德·本·扎耶德人工智能大学);King’s College London(伦敦国王学院);Universidad Central del Ecuador(厄瓜多尔中央大学);Stanford University(斯坦福大学)
Re-evaluating ADEM: A Deeper Look at Scoring Dialogue Responses
Indian Institute of Technology, Madras(印度理工学院马德拉斯分校);Robert Bosch Center for Data Sciences and AI (RBC-DSAI), Indian Institute of Technology, Madras(罗伯特博世数据科学与人工智能中心(RBC-DSAI),印度理工学院马德拉斯分校);Microsoft, India(微软印度公司);NVIDIA, India(英伟达印度公司)
自动评估非结构化领域的对话响应的质量是一个具有挑战性的问题。ADEM(Lowe et al. 2017)将对话系统的自动评估表述为一个学习问题,并表明这种模型能够预测与人类判断显著相关的反应,无论是在话语还是系统层面。他们的系统被证明击败了单词重叠指标,如BLEU,具有很大的利润率。我们从对手是否能利用ADEM模型的问题开始。针对基于神经网络的ADEM评估系统设计了一系列有针对性的攻击,表明对话系统的自动评估还有很长的路要走。ADEM可能会与文本中的词序颠倒这样简单的变体混淆!我们报告几个这样的对抗性的情况下,得出违反直觉的分数的对话反应的实验。我们采取了系统的看ADEM提出的评分功能,并将其连接到线性系统理论来预测系统中明显的缺点。我们还设计了一种攻击,可以欺骗这样的系统,以评价响应生成系统作为有利的。最后,我们提到未来的研究方向,使用对抗攻击,设计一个真正的自动化对话评估系统。