A major bottleneck in training end-to-end task-oriented dialog system is the lack of data. To utilize limited training data more efficiently, we propose Modular Supervision Network (MOSS), an encoder-decoder training framework that could incorporate supervision from various intermediate dialog system modules including natural language understanding, dialog state tracking, dialog policy learning, and natural language generation. With only 60% of the training data, MOSS-all (i.e., MOSS with supervision from all four dialog modules) outperforms state-of-the-art models on CamRest676. Moreover, introducing modular supervision has even bigger benefits when the dialog task has a more complex dialog state and action space. With only 40% of the training data, MOSS-all outperforms the state-of-the-art model on a complex laptop network troubleshooting dataset, LaptopNetwork, that we introduced. LaptopNetwork consists of conversations between real customers and customer service agents in Chinese. Moreover, MOSS framework can accommodate dialogs that have supervision from different dialog modules at both the framework level and model level. Therefore, MOSS is extremely flexible to update in a real-world deployment.
Explicit State Tracking with Semi-Supervision for Neural Dialogue Generation
Fudan University(复旦大学);National University of Singapore(新加坡国立大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
对话生成的任务旨在自动提供响应给定先前的话语。跟踪对话状态是判断用户意图的一个重要环节。然而,\emph{expensive nature of state labeling}和\emph{weak interpretability}使得对话状态跟踪对于面向任务和非面向任务的对话生成都是具有挑战性的问题:对于在面向任务的对话中生成响应,状态跟踪通常从人工注释的语料库中学习,其中人工注释对于训练来说是昂贵的;对于在非面向任务的对话中生成响应,由于对话状态的数量不受限制,大多数现有工作忽略了显式状态跟踪。在本文中,我们提出了\emph{semi-supervised explicit dialogue state tracker}(SEDST)的神经对话生成。为此,我们的方法有两个核心成分:\emph{CopyFlowNet}和\emph{posterior regularization}。具体来说,我们提出了一个编码器-解码器架构,命名为\emph{CopyFlowNet},表示一个明确的对话状态的概率分布在词汇空间。为了优化训练过程,我们采用后验正则化策略来整合间接监督。在任务型和非任务型对话语料库上进行的大量实验证明了该模型的有效性。此外,我们发现,我们提出的半监督对话状态跟踪器实现了国家的最先进的监督学习基线状态跟踪过程中的性能相当。
Knowledge-Retrieval Task-Oriented Dialog Systems with Semi-Supervision
Tsinghua University(清华大学);China Mobile Research Institute(中国移动研究院);Tsinghua University-China Mobile Communications Group Co., Ltd. Joint Institute(清华大学-中国移动通信集团有限公司联合研究院)
Can Neural Generators for Dialogue Learn Sentence Planning and Discourse Structuring?
University of California, Santa Cruz(加州大学圣克鲁兹分校)
任务型对话系统中的应答往往实现多个命题,其最终形式取决于句子规划和语篇构建操作的使用。例如,推荐可以由明确的评价话语组成,例如Chanpen Thai是最佳选项,以及由理由话语关系相关的内容,例如It has great food and service,其将多个命题组合成单个短语。虽然神经生成方法在一个端到端学习框架中集成了句子规划和表面实现,但以前的工作尚未表明神经生成器可以:(1)执行常见的句子规划和话语结构化操作;(2)决定是在单个句子中还是在多个句子中实现内容;(3)决定是否在一个句子中实现内容。(3)概括训练中所见之外的句子规划和语篇关系操作。我们系统地创建大型训练语料库,展示特定的句子规划操作,然后测试神经模型,看看它们学到了什么。我们比较了没有显式潜变量的句子规划模型与在训练过程中提供显式监督的模型。我们表明,只有额外的监督模型可以重现句子规划和话语操作,并推广到训练中看不到的情况。
LLM aided semi-supervision for Extractive Dialog Summarization
Amsterdam UMC(阿姆斯特丹大学医学中心);University of Amsterdam(阿姆斯特丹大学);Amsterdam Public Health(阿姆斯特丹公共卫生研究所);University of Waterloo(滑铁卢大学);ServiceNow Research(ServiceNow研究院);University of British Columbia(不列颠哥伦比亚大学)
Dialog without Dialog Data: Learning Visual Dialog Agents from VQA Data
Georgia Institute of Technology(佐治亚理工学院);Oregon State University(俄勒冈州立大学);Allen Institute for AI(艾伦人工智能研究所);Facebook AI Research(Facebook 人工智能研究院);SRI International(斯坦福国际研究院)
Automatically Identifying Complaints in Social Media
Bloomberg LP(彭博有限合伙企业);Politehnica University of Bucharest(布加勒斯特理工大学);University of Sheffield(谢菲尔德大学)
抱怨是一种基本的言语行为,经常用于人类和计算机中介的沟通,以表达在特定情况下现实和期望之间的负面不匹配。自动识别社交媒体中的投诉对于组织或品牌改善客户体验或开发用于处理和响应投诉的对话系统至关重要。在本文中,我们介绍了第一个系统的分析抱怨在计算语言学。我们收集了一个新的注释数据集,在Twitter上用英语表达的书面投诉。\footnote{Data and code is available here: \url{https://github.com/danielpreotiuc/complaints-social-media}}我们提出了一个广泛的语言分析抱怨作为一种言语行为在社交媒体和训练强大的功能为基础的和神经模型的投诉在九个领域实现预测性能高达79 F1使用远程监督。
VRPO: Rethinking Value Modeling for Robust RL under Noisy Supervision in LLM Post-Training
College of Computer Science and Artificial Intelligence, Fudan University(复旦大学计算机科学与人工智能学院);Honor Device Co., Ltd(荣耀设备有限公司);Institute of Trustworthy Embodied AI, Fudan University(复旦大学可信具身人工智能研究院);Shanghai Key Laboratory of Multimodal Embodied AI(上海多模态具身人工智能重点实验室)