Identifying Untrustworthy Samples: Data Filtering for Open-domain Dialogues with Bayesian Optimization
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Australian National University（澳大利亚国立大学）
能够以相关、流畅和信息丰富的响应进行回复是构建高质量会话代理的不可或缺的要求。为了生成更好的响应，已经提出了一些方法，例如通过收集具有人类注释的大规模数据集来馈送额外信息，设计具有复杂架构和损失函数的神经会话模型（NCM），或者基于对话属性过滤掉不可信的样本，例如，相关性或通用性。在本文中，我们遵循第三个研究分支，并提出了一个数据过滤方法，开放域对话，识别不可信的样本，从训练数据的质量措施，线性结合七个对话属性。属性权重通过贝叶斯优化（BayesOpt）获得，其目的是在验证集上迭代地优化对话生成的目标函数。然后，我们用质量指标对训练样本进行评分，按降序排序，并过滤掉底部的样本。此外，为了加速BayesOpt在大规模数据集上的“过滤-训练-评估”迭代，我们提出了一个集成最大似然估计（MLE）和负训练方法（NEG）的训练框架。训练方法在两个小集合上分别用新维护和删除的样本更新已训练的NCM的参数。具体而言，MLE被应用于最大化新维护的样本的对数似然，而NEG被用于最小化新删除的样本的对数似然。在两个数据集上的实验结果表明，该方法能有效地识别出不可信样本，在过滤后的数据集上训练的NCM具有更好的性能。
2021-09-14 cs.CL
Controllable Generation of Dialogue Acts for Dialogue Systems via Few-Shot Response Generation and Ranking
University of California Santa Cruz（加州大学圣克鲁兹分校）
本研究提出一种新颖的少样本过生成与排序方法，通过八种提示风格和六种自动排序函数，在四种LLMs和三个领域上实现了对话行为的可控生成，其对话行为准确性与语义准确性优于少样本微调。
2023-07-26 cs.CL
Logical Reasoning for Task Oriented Dialogue Systems
Amazon（亚马逊）
近年来，大型预训练模型已被用于对话系统中，以提高成功的任务完成率。然而，对话平台的推理能力的缺乏使得难以提供相关且流畅的响应，除非对话体验的设计者花费大量时间在基于外部规则的模块中实现这些能力。在这项工作中，我们提出了一种新的方法来微调预训练的Transformer模型，如Roberta和T5。在给定的对话环境中对一组事实进行推理。我们的方法包括一个合成数据生成机制，它可以帮助模型学习逻辑关系，例如数值列表之间的比较，逆关系（和否定），分类属性的包含和排除，以及数值和分类值的属性组合的应用，以及数值的口语形式，而不需要额外的训练数据集。我们表明，基于Transformer的模型可以执行逻辑推理来回答问题时，对话上下文包含所有所需的信息，否则它是能够提取适当的约束传递到下游组件（例如知识库）时，部分信息可用。我们观察到，基于Transformer的模型（如UnifiedQA-T5）可以被微调，以对在训练时间中看到的属性（例如，对于小于$k_{\max}$ =5的值与保留测试数据集的比较，准确度为90%+）。
2022-02-08 cs.AI cs.CL
Learning from Mistakes: Combining Ontologies via Self-Training for Dialogue Generation
University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）；Amazon Alexa AI（亚马逊 Alexa 人工智能）
面向任务对话的自然语言生成器（NLG）通常将意义表示（MR）作为输入。它们通过MR/话语对的语料库进行端到端的训练，其中MR覆盖特定的对话行为和域属性集。创建这样的数据集是劳动密集型和耗时的。因此，新领域本体的对话系统将受益于使用预先存在的本体的数据。在这里，我们探索，第一次，是否有可能训练一个NLG的一个新的更大的本体使用现有的训练集的餐厅领域，其中每个集合是基于不同的本体。我们创建一个新的、更大的组合本体，然后训练NLG生成覆盖它的话语。例如，如果一个数据集具有家庭友好和评级信息的属性，另一个数据集具有装饰和服务的属性，我们的目标是组合本体的NLG可以生成实现家庭友好、评级、装饰和服务价值的话语。使用基线神经序列到序列模型的初步实验表明，这项任务具有惊人的挑战性。然后，我们开发了一种新的自训练方法，识别（错误的）模型输出，自动构建一个正确的MR输入，形成一个新的（MR，话语）训练对，然后重复添加这些新的实例回到训练数据。然后，我们在一个新的测试集上测试结果模型。结果是一个自我训练的模型，其性能比基线模型提高了75.4%。我们还报告了最终模型的人类定性评价，表明它实现了高度的自然性，语义连贯性和语法性
2020-09-30 cs.CL
Task-oriented Dialogue Systems: performance vs. quality-optima, a review
University of the West of England（西英格兰大学）；GE Aviation（通用电气航空）；Universidad Atlántida Argentina（阿根廷大西洋大学）
任务导向的对话系统（TODS）正在继续流行，因为各个行业都在寻找有效利用其能力的方法，从而节省时间和金钱。然而，即使是最先进的TODS也尚未充分发挥其潜力。TODS的主要设计重点通常是完成手头的任务，因此任务解决的度量应该优先考虑。可以忽略可能指向对话的成功或其他的其他会话质量属性。这可能导致人与对话系统之间的交互，这使得用户不满意或沮丧。本文探讨了文献的评价框架的对话系统和会话质量属性的作用，在对话系统，看看如果，如何，以及在哪里使用，并检查它们的相关性与性能的对话系统。
2021-12-21 cs.AI cs.CL
Knowledge-graph based Proactive Dialogue Generation with Improved Meta-Learning
Xi'an Jiaotong University（西安交通大学）
基于知识图谱的对话系统可以缩小知识候选，以用于使用先验信息来生成信息丰富的和多样的响应，例如，三重属性或图形路径。然而，大多数现有的知识图谱（KG）覆盖了不完整的特定领域知识。为了克服这一缺点，我们提出了一个基于知识图谱的主动对话生成模型（KgDg）的三个组成部分，改进的模型不可知的Meta学习算法（MAML），知识三元组嵌入的知识选择，知识感知的主动响应生成器。对于知识三元组的嵌入和选择，我们将其表述为一个句子嵌入的问题，以更好地捕捉语义信息。我们改进的MAML算法能够从有限数量的知识图谱中学习一般特征，这也可以快速适应具有未知知识三元组的对话生成。在知识感知对话数据集（DuConv）上进行了大量的实验。结果表明，KgDg适应快速和良好的知识图谱为基础的对话生成，并优于国家的最先进的基线。
2020-04-19 cs.CL
Data Distillation for Controlling Specificity in Dialogue Generation
Stanford University（斯坦福大学）
人们在不同的情况下说话的具体程度不同。取决于他们的知识、对话者、情绪等。会话代理应该具有这种能力，并且知道什么时候应该具体，什么时候应该笼统。我们提出了一种方法，使一个神经网络-基于会话代理这种能力。我们的方法涉及在\emph{data distillation}和模型训练之间交替：删除与上一轮训练的模型最常产生的响应最接近的训练样本，然后在剩余数据集上重新训练模型。用不同程度的数据提炼训练的对话生成模型表现出不同程度的特异性。然后，我们训练一个强化学习系统，用于在这个生成模型池中进行选择，为给定的输入选择最佳的特异性水平。与未经蒸馏训练的原始生成模型相比，除了根据上下文适当调整特异性外，所提出的系统还能够生成更有趣和更高质量的响应。我们的研究构成了更广泛方法的一个具体案例，该方法涉及从单个数据集训练多个子系统，这些数据集通过希望建模的特定属性的差异来区分。我们表明，从这样一组子系统，可以使用强化学习来构建一个系统，在测试时将其输出量身定制为不同的输入上下文。
2017-02-22 cs.CL
Evaluating Attribution in Dialogue Systems: The BEGIN Benchmark
University of Alberta（阿尔伯塔大学）；Google Research（谷歌研究院）；New York University（纽约大学）
由大语言模型驱动的基于知识的对话系统通常生成的响应虽然流畅，但不能归因于相关的信息源。要想在不存在这一问题的模型方面取得进展，就需要能够量化其普遍性的评价指标。为此，我们介绍了基准评估接地互动（BEGIN），由12k的对话轮神经对话系统培训三个知识接地的对话语料库。我们收集人类注释，评估模型的响应在多大程度上可以归因于给定的背景信息。然后，我们使用BEGIN来分析八个评估指标。我们发现，这些指标依赖于虚假的相关性，不可靠区分可归因的抽象反应，从不可归因的，并执行时，知识源更长的实质上更差。我们的研究结果强调，需要更复杂和强大的评估指标，以知识为基础的对话。我们在https://github.com/google/BEGIN-dataset上公开提供BEGIN。
2022-06-28 cs.CL
The Moral Integrity Corpus: A Benchmark for Ethical Dialogue Systems
Georgia Institute of Technology（佐治亚理工学院）；Meta AI Research（Meta人工智能研究院）
在开放域对话环境中，对话代理越来越接近人类的能力;然而，这样的模型可能反映出不敏感、有害或完全不连贯的观点，从而侵蚀用户对系统道德完整性的信任。道德偏差很难减轻，因为道德判断不是普遍的，可能有多个竞争性的判断同时适用于一种情况。在这项工作中，我们引入了一个新的资源，而不是权威解决道德歧义，而是促进系统的理解的直觉，价值观和道德判断反映在对话系统的话语。道德诚信语料库MIC就是这样一个资源，它使用99 k个不同的经验法则（RoTs）捕获了38 k个拒绝-回复对的道德假设。每个RoT都反映了一种特定的道德信念，可以解释为什么聊天机器人的回复看起来可以接受或有问题。我们进一步组织RoTs与一组9道德和社会属性和基准性能属性分类。最重要的是，我们表明，目前的神经语言模型可以自动生成新的RoT，合理地描述以前看不见的相互作用，但他们仍然与某些情况下的斗争。我们的研究结果表明，MIC将是一个有用的资源，理解和语言模型的隐含的道德假设和灵活基准的完整性会话代理。要下载数据，请访问https://github.com/GT-SALT/mic
2022-04-06 cs.CL
Exploring Conversational Language Generation for Rich Content about Hotels
University of California Santa Cruz（加州大学圣克鲁兹分校）；Google Content Studio（谷歌内容工作室）；Google Research（谷歌研究院）
用于旅馆和游客信息的对话系统通常简化了域的丰富性，将系统话语集中在仅少数选定的属性上，诸如价格、位置和房间类型。然而，更多的内容通常可用于酒店，通常多达50个不同的实例化属性用于单个实体。需要新的方法来使用这些内容为酒店信息生成自然对话，并且通常用于具有如此丰富复杂内容的任何领域。我们描述了三个实验，旨在收集数据，可以通知NLG的酒店对话，并显示，毫不奇怪，在原来的书面酒店描述的网页上提供的每一个酒店的句子是文体不是一个很好的匹配会话互动。我们量化的文体特征，表征原始文本数据和收集的对话数据之间的差异。我们计划在文体模型中使用这些来生成，并对检索到的话语进行评分，以用于酒店对话
2018-05-01 cs.CL
IP-Dialog: Evaluating Implicit Personalization in Dialogue Systems with Synthetic Data
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Shanghai Jiao Tong University（上海交通大学）；Shanghai Innovation Institute（上海创新研究院）；Sicore Ladder Tech Co. Ltd.（Sicore Ladder科技有限公司）
本文提出IP-Dialog基准及合成数据生成方法，覆盖10项任务和12种用户属性，并通过四指标评估框架与因果图系统评估对话系统的隐式个性化推理能力。
2025-06-03 cs.CL cs.HC
From Awareness to Adherence: Bridging the Context Gap in Spoken Dialogue Systems via Context-Aware Decoding
ECE, Seoul National University（首尔大学电气与计算机工程系）；IPAI, Seoul National University（首尔大学IPAI研究所）；Department of AI, University of Seoul（首尔市立大学人工智能系）
提出音频适配的上下文感知解码方法，通过对比有无关键上下文的输出分布，放大多模态上下文信号，解决口语对话系统中上下文遵循问题。
2026-06-16 cs.CL
Interpersonal Memory Matters: A New Task for Proactive Dialogue Utilizing Conversational History
School of Software & Microelectronics, Peking University（北京大学软件与微电子学院）；Platform and Content Group, Tencent（腾讯平台与内容事业群）
本文提出记忆感知主动对话任务MapDia，构建首个中文数据集ChMapData，并设计基于RAG的三模块联合框架，以在恰当时机引导对话转向相关历史主题。
2025-03-07 cs.CL
A Cooperative Memory Network for Personalized Task-oriented Dialogue Systems with Incomplete User Profiles
University of Amsterdam（阿姆斯特丹大学）；Shandong University（山东大学）；Ahold Delhaize（皇家阿霍德德尔海兹集团）
人们对开发个性化的面向任务的对话系统（TDS）越来越感兴趣。以前关于个性化TDS的工作通常假设完整的用户简档可用于大多数甚至所有用户。这是不现实的，因为（1）由于隐私问题，不是每个人都愿意暴露他们的简档;以及（2）丰富的用户简档可能涉及大量属性（例如，性别、年龄、品味。. .).在本文中，我们研究个性化TDS，而不假设用户简档是完整的。我们提出了一个合作记忆网络（CoMemNN），有一个新的机制，逐步丰富的用户简档的对话进展，同时提高响应选择的基础上丰富的配置文件。CoMemNN由两个核心模块组成：用户简档丰富（UPE）和对话响应选择（DRS）。前者利用邻居用户的协作信息和当前会话信息丰富不完整的用户简档。后者使用丰富的简档来更新当前用户查询，以便编码更有用的信息，基于该信息选择对用户请求的个性化响应。我们进行了广泛的实验，个性化的bAbI对话基准数据集。我们发现，CoMemNN是能够有效地丰富用户简档，这导致在响应选择精度方面的3.06%的改进相比，国家的最先进的方法。我们还测试了CoMemNN的鲁棒性对用户简档的不完整性随机丢弃属性值从用户简档。即使在丢弃50%的属性值时，CoMemNN也能够在不丢弃用户简档的情况下匹配最佳性能基线的性能，这显示了CoMemNN的鲁棒性。
2021-02-16 cs.AI cs.CL cs.IR
Ontology-Enhanced Slot Filling
NYU Shanghai（上海纽约大学）
槽填充是面向任务的对话系统中对话状态跟踪的基本任务。在多领域任务导向的对话系统中，用户的话语和系统的响应可能会提到多个命名实体和属性值。系统需要选择那些由用户确认的，并将它们填充到指定的插槽中。一个困难是，由于对话会话包含多个系统-用户回合，由于输入单词令牌和GPU存储器的容量有限，将所有令牌馈送到诸如BERT的深度模型中可能具有挑战性。在本文中，我们研究了本体增强的方法，通过匹配命名实体出现在所有的对话轮使用本体。在先前的对话轮中匹配的实体将被累积和编码为基于BERT的对话状态跟踪器的附加输入。此外，我们的改进包括本体约束检查和插槽名称标记化的纠正。实验结果表明，我们的本体增强的对话状态跟踪器提高了联合目标的准确率（槽F1）从52.63%（91.64%）到53.91%（92%）的MultiWOZ 2.1语料库。
2021-08-25 cs.CL
Step by Step to Fairness: Attributing Societal Bias in Task-oriented Dialogue Systems
Meta AI
本文提出一种归因方法，将任务型对话系统中的社会偏见归因到各组件，实验表明偏见主要源于响应生成模型，有助于细粒度缓解偏见。
2023-11-14 cs.AI cs.CL
PicPersona-TOD : A Dataset for Personalizing Utterance Style in Task-Oriented Dialogue with Image Persona
Graduate School of Artificial Intelligence, POSTECH, Republic of Korea（人工智能研究生院，POSTECH，韩国）；Department of Computer Science and Engineering, POSTECH, Republic of Korea（计算机科学与工程系，POSTECH，韩国）
本文提出PicPersona-TOD数据集，利用用户图像作为人设，结合第一印象、策略引导和外部知识，实现任务型对话中的个性化回复，并引入NLG模型Pictor，在未见领域表现稳健。
2025-04-24 cs.CL
Long-term Control for Dialogue Generation: Methods and Evaluation
ASAPP；Cornell（康奈尔大学）
当前用于控制对话响应生成的方法主要集中在诸如风格、情感或主题的高级属性上。在这项工作中，我们专注于受约束的长期对话生成，这涉及到更细粒度的控制，并需要一组给定的控制词出现在生成的响应。这种设置需要一个模型，不仅要考虑这些控制词在当前上下文中的生成，而且还要产生在（可能是遥远的）未来某个时间鼓励生成这些词的话语。我们定义的问题，约束的长期控制对话生成，确定目前的评估方法的差距，并提出新的指标，更好地衡量长期控制。我们还提出了一种检索增强的方法，通过logit修改技术，提高长期控制发电的性能。我们通过对三个面向任务的对话数据集的实验表明，我们的指标更好地评估对话控制相对于当前的替代方案，我们的方法优于最先进的约束生成基线。
2022-05-15 cs.AI cs.CL
Combining Search with Structured Data to Create a More Engaging User Experience in Open Domain Dialogue
University of California, Santa Cruz（加州大学圣克鲁兹分校）
构建复杂的开放域对话代理的最大挑战直接来自于正在进行的混合主动多回合对话的潜力，这种对话不遵循特定的计划或追求特定的固定信息需求。为了在这种情况下做出连贯的会话贡献，会话代理必须能够跟踪会话中讨论的实体的类型和属性，并知道它们是如何相关的。在某些情况下，智能体可以依靠结构化的信息源来帮助识别相关的语义关系并产生话轮，但在其他情况下，唯一可用的内容来自搜索，并且可能不清楚搜索结果和话语上下文之间的语义关系。另一个限制是系统必须实时地对正在进行的对话做出贡献。本文描述了我们为2017年Alexa Prize构建SlugBot的经验，并讨论了我们如何利用来自不同来源的搜索和结构化数据来帮助SlugBot生成对话轮并进行对话，其在半决赛用户评估期间的平均时长为8：17分钟。
2017-09-15 cs.CL
A Weighted Heterogeneous Graph Based Dialogue System
University of Science and Technology of China（中国科学技术大学）
基于知识的对话系统在不同的应用中吸引了越来越多的研究兴趣。然而，对于疾病诊断，由于传统的知识图谱的边是未加权的，所以广泛使用的知识图谱很难表示症状-症状关系和疾病-疾病关系。疾病诊断对话系统的研究大多高度依赖于数据驱动的方法和统计特征，缺乏对疾病与疾病、疾病与症状关系的深刻理解。为了解决这个问题，这项工作提出了一个加权异构图为基础的对话系统的疾病诊断。具体来说，我们基于症状共现和拟议的症状频率-逆疾病频率构建了一个加权异构图。然后，本文提出了一种基于图的深度Q网络（Graph-DQN）用于对话管理。通过将图卷积网络（GCN）与DQN相结合，从加权异构图的结构和属性信息中学习疾病和症状的嵌入，Graph-DQN能够更好地捕捉疾病-疾病关系和疾病-症状关系。实验结果表明，所提出的对话系统的竞争对手的国家的最先进的模型。更重要的是，所提出的对话系统能够以较少的对话次数完成任务，并且对具有相似症状的疾病具有更好的区分能力。
2020-12-26 cs.AI cs.CL
Policy-Driven Neural Response Generation for Knowledge-Grounded Dialogue Systems
Amazon Alexa AI（亚马逊 Alexa 人工智能）
开放域对话系统旨在产生相关、信息丰富和吸引人的回应。Seq2seq神经响应生成方法没有明确的机制来控制所生成的响应的内容或风格，并且经常导致无信息的话语。在本文中，我们提出了使用对话策略计划的内容和风格的目标响应的形式的行动计划，其中包括相关的对话上下文，有针对性的对话行为，主题信息等知识句的行动计划内的属性自动注释公开发布的主题聊天数据集。我们的条件神经反应发生器上的行动计划，然后实现为目标的话语在回合和句子水平。我们还研究了不同的对话政策模型，以预测给定对话背景下的行动计划。通过自动化和人工评估，我们测量生成的响应的适当性，并检查生成模型是否确实学会实现给定的行动计划。我们证明，一个基本的对话政策，在句子层面上产生更好的反应，在比较转向水平生成以及基线模型，没有行动计划。此外，基本对话政策还具有可控性的附加效果。
2020-08-24 cs.AI cs.CL
HyPE: Category-Aware Hypergraph Encoding with Persistent Edge Embeddings for Persona-Grounded Dialogue
Sungkyunkwan University（成均馆大学）
提出HyPE框架，通过将人物角色文本解析为四元组并构建超图，利用HyperGCN和持久边嵌入（PEE）编码高阶关系，在PersonaChat上优于句子级池化基线。
2026-06-12 cs.CL
Seen to Unseen: Exploring Compositional Generalization of Multi-Attribute Controllable Dialogue Generation
Meituan（美团）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出DCG模型，通过属性提示向量和解耦损失实现多属性可控对话生成的组合泛化，并设计统一无参考评估框架，在两个基准上验证了有效性。
2023-06-17 cs.CL
Training an adaptive dialogue policy for interactive learning of visually grounded word meanings
Interaction Lab（交互实验室）；Heriot-Watt University（赫瑞瓦特大学）
我们提出了一个多模态的对话系统，从人类导师的感知接地词义的交互式学习。该系统集成了一个增量的，语义解析/生成框架-动态分类和类型论与记录（DS-TTR）-与一组视觉分类器，在整个交互过程中学习和地面的意义表示，它产生。我们使用这个系统与一个模拟的人类导师的互动，学习的含义，学习率的准确性，和努力/成本的导师研究不同的对话政策和能力的影响。我们表明，学习代理的整体性能受到以下因素的影响：（1）谁在对话中采取主动;（2）表达/使用他们对视觉属性的信心水平的能力;以及（3）处理椭圆和增量构建对话的能力。最终，我们训练了一种自适应对话策略，该策略优化了分类器准确性和辅导成本之间的权衡。
2017-09-29 cs.AI cs.CL cs.LG
We Argue to Agree: Towards Personality-Driven Argumentation-Based Negotiation Dialogue Systems for Tourism
Department of Computer Science and Engineering, Indian Institute of Technology Patna（计算机科学与工程系，印度理工学院帕纳布）
本文提出性格驱动的基于论辩的协商对话生成（PAN-DG）任务，并构建了面向旅游业的数据集PACT，通过微调LLMs有效生成个性化理性回复，提升了协商对话系统的个性化和推理能力。
2025-09-14 cs.AI cs.CL
Multimodal Dialogue State Tracking
Salesforce Research Asia（Salesforce亚洲研究院）；Singapore Management University（新加坡管理大学）；Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局（A*STAR））
对话状态跟踪器是对话系统中的一个重要组成部分，用于跟踪对话中的用户目标。然而，对话状态跟踪的研究在很大程度上限于单峰，其中槽和槽值受知识域（例如，具有餐厅名称和价格范围的槽的餐厅域）限制，并且由特定的数据库模式定义。在本文中，我们提出了扩展的定义对话状态跟踪多模态。具体来说，我们引入了一种新的对话状态跟踪任务，跟踪视频接地对话中提到的视觉对象的信息。每个新的对话话语可以引入新的视频片段、新的视觉对象或新的对象属性，并且需要状态跟踪器来相应地更新这些信息槽。我们创建了一个新的合成基准，并设计了一个新的基线，视频对话Transformer网络（VDTN），这项任务。VDTN结合了对象级特征和段级特征，并学习视频和对话之间的上下文依赖关系，以生成多模态对话状态。我们优化了VDTN的状态生成任务，以及一个自我监督的视频理解任务，恢复视频片段或对象表示。最后，我们训练VDTN在响应预测任务中使用解码的状态。结合全面的消融和定性分析，我们发现了构建更强大的多模态对话系统的有趣见解。
2022-06-16 cs.AI cs.CL cs.CV
Semantic Space Grounded Weighted Decoding for Multi-Attribute Controllable Dialogue Generation
Shanghai Jiao Tong University（上海交通大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）
针对多属性可控对话生成研究不足的问题，提出DASC框架，采用加权解码结合属性语义空间锚定，通过属性嵌入插值实现多属性控制并缩减模型规模，实验验证其在3属性控制及分布外场景下的高准确率与生成质量。
2023-11-05 cs.CL
DuetSim: Building User Simulator with Dual Large Language Models for Task-Oriented Dialogues
School of Information Science
DuetSim通过双大型语言模型协同工作，一个生成响应，一个验证，提升面向任务型对话中用户模拟器的响应多样性和准确性，并在MultiWOZ数据集上验证了有效性。
2024-05-16 cs.AI cs.CL
MedDG: An Entity-Centric Medical Consultation Dataset for Entity-Aware Medical Dialogue Generation
Sun Yat-sen University（中山大学）；Hong Kong University of Science and Technology（香港科技大学）；Hong Kong Polytechnic University（香港理工大学）；Tencent Jarvis Lab（腾讯天衍实验室）
开发会话代理以与患者互动并提供主要临床建议，由于其巨大的应用潜力，特别是在COVID-19大流行时期，引起了越来越多的关注。然而，端到端的基于神经的医学对话系统的训练受到医学对话语料数量不足的制约。在这项工作中，我们首次尝试构建并发布了一个与12种常见胃肠道疾病相关的大规模高质量医学对话数据集MedDG，从在线健康咨询社区收集了超过17 K的对话。五种不同类别的实体，包括疾病，症状，属性，测试和药物，在MedDG的每个对话中作为附加标签进行注释。为了推动未来构建专家敏感的医学对话系统的研究，本文提出了两种基于MedDG数据集的医学对话任务。一个是下一个实体预测，另一个是医生响应生成。为了对这两个医学对话任务有一个清晰的理解，我们实现了几个最先进的基准，并设计了两个对话模型，进一步考虑了预测的实体。实验结果表明，预训练的语言模型和其他基线在我们的数据集中表现不佳的两个任务上挣扎，并且可以在辅助实体信息的帮助下提高响应质量。从人类的评价，简单的检索模型优于几个国家的最先进的生成模型，这表明仍然有很大的改进空间，产生医学上有意义的反应。
2022-07-31 cs.AI cs.CL
Profile Consistency Identification for Open-domain Dialogue Agents
Harbin Institute of Technology（哈尔滨工业大学）
保持一致的属性配置文件对于对话代理自然地与人类对话至关重要。现有的属性一致性研究主要探讨如何在响应中加入属性信息，而很少涉及响应与属性轮廓之间的一致性关系。为了便于研究配置文件一致性识别，我们创建了一个大规模的人类注释数据集，其中包含超过110K的单轮对话及其键值属性配置文件。手动标记响应和配置文件之间的显式关系。我们还提出了一个键值结构信息丰富的BERT模型来识别配置文件的一致性，它获得了强基线的改善。对后续任务的进一步评估表明，该模型有助于提高会话一致性。
2021-05-17 cs.CL
Causal-aware Safe Policy Improvement for Task-oriented dialogue
Salesforce Research（赛富时研究院）
最近强化学习（RL）在解决复杂任务方面的成功通常归功于其探索和利用训练环境的能力。样本效率通常不是问题，因为便宜的模拟器可用于对策略上的数据进行采样。另一方面，面向任务的对话通常是从使用人类演示收集的离线数据中学习的。收集不同的演示并注释它们是昂贵的。不幸的是，使用在非政策数据上训练的RL方法容易出现偏差和泛化问题，这进一步加剧了人类响应的随机性和对话管理系统的非马尔可夫信念状态。为此，我们提出了一个面向任务的对话策略学习的批量强化学习框架：因果感知安全策略改进（CASPI）。这种方法保证了对话策略的性能，并根据人类响应背后的意图来学习塑造奖励，而不仅仅是模仿演示数据;这种与批量RL的结合有助于整体提高框架的样本效率。我们证明了这个框架的有效性对话上下文到文本生成和端到端的对话任务的Multiwoz2.0数据集。在这两种情况下，所提出的方法在这些指标上优于现有技术。在端到端的情况下，我们的方法只训练了10%的数据，在四个评估指标中有三个能够超过当前状态。
2021-03-10 cs.AI cs.CL cs.LG
Taming the Beast: Learning to Control Neural Conversational Models
The Hong Kong University of Science and Technology（香港科技大学）
本文研究了基于深度学习的端到端生成式对话系统在面向任务和聊天场景下的可控性。特别地，我们研究了控制生成对话系统的不同方面，包括控制风格和主题以及不断添加和组合对话技巧。自第一个对话系统商业化以来的三十年中，这种系统的基本架构基本上保持不变，由四个流水线基本组件组成，即自然语言理解（NLU）、对话状态跟踪（DST）、对话管理器（DM）和自然语言生成（NLG）。对话管理器是模块化系统的关键组成部分，它控制响应的内容和风格。该模块通常按规则编程，并设计为高度可控和易于扩展。随着强大的“深度学习“架构的出现，端到端生成式对话系统被提出来优化整体系统性能并简化训练。然而，这些系统不能像模块化对话管理器那样容易地控制和扩展。这是因为使用了单个神经系统，其通常是大型的预训练语言模型（例如，GPT-2），因此难以通过手术改变期望的属性（例如，风格、主题等）。更重要的是，不可控的对话系统会产生攻击性甚至有毒的反应。因此，本论文主要研究面向任务和聊天场景的端到端生成式对话系统的可控方法。在整个章节中，我们描述了1）如何控制聊天模型的风格和主题，2）如何持续控制和扩展面向任务的对话系统，以及3）如何组合和控制多技能对话模型。
2021-08-24 cs.AI cs.CL cs.LG
CFGs-2-NLU: Sequence-to-Sequence Learning for Mapping Utterances to Semantics and Pragmatics
University of California, Santa Cruz（加州大学圣克鲁兹分校）
在本文中，我们提出了一种新的自然语言理解方法，该方法利用上下文无关文法（CFG）结合序列到序列（seq2seq）深度学习。具体来说，我们使用一个为NLU（一个视频游戏）的目标应用程序生成对话的CFG，并训练一个长短期记忆（LSTM）递归神经网络（RNN），以将它产生的表面话语映射到产生它们的语法扩展的痕迹。重要的是，这个CFG是使用我们开发的工具编写的，该工具支持语法中非终结符符号的任意注释。因为我们已经为游戏对话管理器操作的语义和语用考虑在此语法中注释了符号，所以我们可以使用与任何表面话语相关联的语法痕迹来推断此类信息。在游戏过程中，我们将玩家的话语转换为语法痕迹（使用我们的RNN），收集归因于该痕迹中包含的符号的标记，并将此信息传递给对话管理器，对话管理器相应地更新对话状态。从离线评估任务中，我们证明了我们经过训练的RNN可以非常准确地将表面话语翻译为语法痕迹。据我们所知，这是seq2seq学习首次用于会话代理（我们游戏中的角色），他们明确地考虑语义和语用因素。
2016-07-22 cs.CL
Progressive Open-Domain Response Generation with Multiple Controllable Attributes
Ping An Life Insurance Company of China（中国平安人寿保险股份有限公司）；Carnegie Mellon University（卡内基梅隆大学）
期望包括更多的可控属性以增强开放域对话系统中生成的响应的多样性。然而，现有的方法可以生成仅具有一个可控属性的响应，或者缺乏灵活的方式来生成具有多个可控属性的响应。在本文中，我们提出了一个渐进训练的分层编码器-解码器（PHED）来解决这个任务。更具体地说，PHED在Transformer上部署了条件变分自编码器（CVAE），以在一个阶段包括属性的一个方面。CVAE的一个重要特征是将每个阶段的潜变量分为两类：一个是捕捉公共语义特征的全局变量，另一个是吸收该阶段属性信息的特定变量。然后，PHED将CVAE潜在变量与Transformer编码器耦合，并通过最小化新导出的ELBO和受控损耗来进行训练，以产生下一级的输入并根据需要产生响应。最后，我们进行了广泛的评估，以表明PHED显着优于最先进的神经生成模型，并产生更多样化的反应，正如预期的那样。
2021-06-07 cs.CL cs.LG
Stop Filtering: Multi-View Attribute-Enhanced Dialogue Learning
Beijing Institute of Technology（北京理工大学）
通过过滤原始对话语料库来提高模型的会话能力越来越受到人们的关注。以前的过滤策略通常依赖于评分方法来从一个角度评估和丢弃样本，从而使模型能够增强相应的对话属性（例如，一致性）更容易。然而，丢弃的样本可能在其他方面获得高分，并且可以对模型学习提供正则化效果，这导致性能改善对过滤比率敏感。在这项工作中，我们提出了一个多视图属性增强的对话学习框架，加强属性相关的功能更强大，更全面。我们的框架不是过滤原始数据集来训练模型，而是首先在原始数据集上对模型进行预训练，然后通过选定子集上的适配器对其进行微调，这也增强了响应的某些属性，但不会出现上述问题。考虑到对话属性的多样性，我们进一步设计了多视图增强机制，包括多视图选择和视图间融合。它从多个角度分别对高质量样本进行分组，并使用相应的样本集和适配器增强响应的不同属性，保持知识独立并允许灵活集成。实验结果和分析表明，我们的框架可以提高性能显着增强对话属性和融合的观点特定的知识。
2022-05-23 cs.AI cs.CL
ECO Decoding: Entropy-Based Control for Controllability and Fluency in Controllable Dialogue Generation
SungKyunKwan University（顺 Kyun 島大学）
针对可控对话生成中固定偏置难以兼顾可控性与流畅性的问题，提出ECO decoding，通过模型熵动态调整控制强度，在保持流畅性的同时提升可控性，并在单属性与多属性场景中均表现优异。
2025-11-03 cs.CL
SideControl: Controlled Open-domain Dialogue Generation via Additive Side Networks
University of Virginia（弗吉尼亚大学）
基于transformer的预训练语言模型提高了开放域对话系统的性能。先前的工作利用基于transformer的预训练语言模型来以两种一般方法生成具有期望属性的文本：（1）基于梯度的方法：用来自属性模型的梯度更新预训练模型的所有潜在表示;（2）加权解码方法：用属性函数对来自预训练模型的波束候选重新排序。然而，基于梯度的方法导致高计算成本，并且容易在小训练集上过拟合，而加权解码方法固有地受到低方差高偏差预训练模型的约束。在这项工作中，我们提出了一种新的方法来控制基于transformer的预训练语言模型的生成：SideControl框架，它利用一种新的控制属性丢失来合并有用的控制信号，并且在非常有限的训练样本下表现良好。我们在两个基准开放域对话数据集上评估了我们提出的方法，结果表明，SideControl框架具有更好的可控性，更高的生成质量和更好的样本效率比现有的基于梯度和加权解码基线。
2021-09-05 cs.CL
Mitigating the Negative Impact of Over-association for Conversational Query Production
School of Information, Xiamen University（厦门大学信息学院）；Xiamen Key Laboratory of Intelligent Storage and Computing（厦门智能存储与计算重点实验室）；Tencent AI Lab（腾讯AI实验室）；College of Computer and Control Engineering, Minjiang University（闽江学院计算机与控制工程学院）
本文针对对话式查询生成中因金标查询与对话主题过度关联导致的数据饥饿和概念偏差问题，提出实例级加权训练策略，在Wizard-of-Internet和DuSinc上实现2%-5%的性能提升，并将数据效率提高10倍。
2024-09-29 cs.AI cs.CL
Converse, Focus and Guess -- Towards Multi-Document Driven Dialogue
Beijing University of Posts and Telecommunications（北京邮电大学）；Meituan Group（美团集团）
我们提出了一个新的任务，多文档驱动的对话（MD 3），其中代理可以猜测目标文件，用户感兴趣的领导对话。为了对进度进行基准测试，我们引入了一个新的GuessMovie数据集，其中包含16，881个文档，每个文档描述一部电影，以及相关的13，434个对话。在此基础上，我们提出了MD 3模型。牢记猜测目标文档，它根据文档参与度和用户反馈与用户进行对话。为了将大规模的外部文档合并到对话中，它预训练了一个对它谈论的对象的属性敏感的文档表示。然后通过检测文档信念和属性信念的演变来跟踪对话状态，最后根据熵减和奖励增加的原则优化对话策略，期望在最少的回合数内成功猜测用户的目标。实验表明，我们的方法显着优于几个强大的基线方法，是非常接近人类的性能。
2021-02-04 cs.CL
Controlling Extra-Textual Attributes about Dialogue Participants -- A Case Study of English-to-Polish Neural Machine Translation
University of Sheffield（谢菲尔德大学）
与英语不同，形态丰富的语言可以通过代词、词的形态结尾和句法来揭示说话者或其对话伙伴的特征，如性别和数量。当从英语翻译到这些语言时，机器翻译模型需要选择对文本上下文的某种解释，如果文本外信息不可用，则可能导致严重的翻译错误。我们在英语到波兰语方向调查这一挑战。我们专注于利用外部元数据在电视对话的自动翻译的研究不足的问题，提出了一个案例研究，在一个多属性的情况下，广泛的方法来控制翻译中的属性。最好的模型实现了+5.81 chrF++/+6.03 BLEU的改进，其他模型实现了具有竞争力的性能。我们还贡献了一个新的属性注释数据集的波兰电视对话和形态分析脚本用于评估模型中的属性控制。
2022-05-30 cs.AI cs.CL
Commonsense Generation and Evaluation for Dialogue Systems using Large Language Models
ETSI de Telecomunicación, Universidad Politécnica de Madrid（电信工程系，马德里理工大学）；National University of Singapore（新加坡国立大学）；Centre for Automation and Robotics UPM-CSIC（自动化与机器人中心 UPM-CSIC）；Universidad Politécnica de Madrid（马德里理工大学）
本文提出利用大语言模型的零样本与常识推理能力，基于常识关系进行对话系统轮次级数据增强与自动评估，初步结果验证了该方法的有效性。
2025-06-24 cs.CL
Attribute Controlled Dialogue Prompting
University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）；Huawei（华为）
本文提出一种基于实例级控制代码生成提示的对话生成算法，突破固定提示假设，在开放域对话任务上以5%-6%参数超越提示基线并媲美微调。
2023-07-11 cs.CL cs.LG
Controllable Dialogue Generation with Disentangled Multi-grained Style Specification and Attribute Consistency Reward
University of Macau（澳门大学）；Baidu Inc（百度公司）；Xiamen University（厦门大学）
可控文本生成是一个吸引人但具有挑战性的任务，它允许用户指定生成的输出的特定属性。在本文中，我们提出了一个可控的对话生成模型，引导响应生成多属性约束下。具体来说，我们定义和分类的常用控制属性为全球和本地的，具有不同的粒度响应生成的影响。然后，我们显着扩展了传统的seq2seq框架，引入了一种新的两阶段解码器，首先使用多粒度的风格规范层施加的风格约束，并确定字级控制状态的响应的基础上的属性，然后采用响应生成层生成最终的响应保持语义相关的上下文和保真度的属性。此外，我们训练我们的模型与属性一致性奖励，以促进响应控制与明确的监督信号。在两个数据集上的大量实验和深入分析表明，我们的模型在响应质量、内容多样性和可控性方面可以显著优于竞争基线。
2022-10-21 cs.AI cs.CL
Listening between the Lines: Learning Personal Attributes from Conversations
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
开放域对话代理必须能够就许多主题进行对话，同时将有关用户的知识纳入对话中。在这项工作中，我们解决了收购这样的知识，在下游的Web应用程序的个性化，通过提取个人属性的对话。这个问题比从科学出版物或维基百科文章中提取信息抽取的既定任务更具挑战性，因为对话通常只给出关于说话者的隐含线索。我们提出了使用深度学习从对话中推断个人属性（如职业、年龄或家庭状况）的方法。具体来说，我们提出了几个隐藏属性模型，这是神经网络利用注意力机制和嵌入。我们的方法是在每个谓词的基础上训练的，以输出给定主谓组合的对象值的排名（例如，当发言者谈论病人、急诊室等时，将医生和护士职业排在高的位置）。各种对话文本的实验，包括Reddit讨论，电影剧本和一系列众包个人对话，证明了我们的方法的可行性及其与最先进的基线相比的优越性能。
2019-04-24 cs.CL
ALOHA: Artificial Learning of Human Attributes for Dialogue Agents
University of Waterloo（滑铁卢大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）
对于对话式人工智能和虚拟助手来说，要想以现实的方式与人类交流，它们必须表现出人类的特征，比如情感和个性的表达。目前，构建类人对话代理的尝试存在重大困难。我们提出了人类水平的属性（HLAs）的基础上的比喻学习对话代理，可以模仿虚构人物的个性的方法的基础。比喻是虚构人物的特征，这些特征被反复观察并由观众的印象决定。通过将详细的HLA数据与特定角色的对话数据相结合，我们提出了一个数据集，HLA-Chat，该数据集对角色配置文件进行建模，并使对话代理能够通过他们的HLA学习角色的语言风格。然后，我们介绍了一个三组件系统，ALOHA（代表人工学习人类属性），结合字符空间映射，字符社区发现，和语言风格检索建立一个字符（或个性）特定的语言模型。我们的初步实验表明，ALOHA的两个变体，结合我们提出的数据集，可以在识别所选目标人物的正确对话响应方面优于基线模型，并且无论人物的身份，节目的类型和对话的背景如何都是稳定的。
2021-12-01 cs.AI cs.CL cs.LG
Simulating User Diversity in Task-Oriented Dialogue Systems using Large Language Models
Technische Universität Berlin（柏林工业大学）
本文提出基于LLM的任务导向对话用户模拟框架，利用GPT-4o与GPT-o1生成多样化画像并开展多轮交互，分析其多样性、一致性与偏见。
2025-02-18 cs.CL
SocAoG: Incremental Graph Parsing for Social Relation Inference in Dialogues
University of California, Los Angeles（加州大学洛杉矶分校）；Microsoft Research（微软研究院）；University of California, Davis（加州大学戴维斯分校）
从对话中推断社会关系对于构建情感智能机器人以更好地解释人类语言并采取相应行动至关重要。我们将社交网络建模为一个名为SocAoG的与或图，用于组间关系的一致性，并利用属性作为推理线索。此外，我们制定了一个序列结构预测任务，并提出了一个$α$ - $β$-$γ$策略，以增量解析SocAoG，对任何传入的话语进行动态推理：（i）$α$过程，其预测以对话的语义为条件的属性和关系，（ii）$β$过程，其基于相关属性更新社会关系，以及（iii）基于人际社会关系更新个体属性的$γ$过程。在DialogRE和MovieGraph上的实证结果表明，我们的模型比最先进的方法更准确地推断社会关系。消融研究表明，这三个过程是相辅相成的，而个案研究则证明了动态关系推理。
2022-03-15 cs.AI cs.CL
Controlled Attribute-Specific Summarization of Interrogative Dialogues
IIIT Delhi（德里印度理工学院）
本文提出CASPER框架，结合思维链提示与迭代细化，并构建MINDSum数据集，通过分层评估机制显著提升审讯对话摘要的事实一致性与完整性。
2026-09-24 cs.AI cs.CL
What makes a good conversation? How controllable attributes affect human judgments
Stanford University（斯坦福大学）；Facebook AI Research（Facebook人工智能研究院）
一场好的谈话需要平衡--在简单和细节之间;在保持主题和改变主题之间;在提出问题和回答问题之间。虽然对话代理通常通过人类对整体质量的判断进行评估，但质量与这些个体因素之间的关系研究较少。在这项工作中，我们研究了两种可控的神经文本生成方法，条件训练和加权解码，以控制四个重要属性的闲聊对话：重复，特异性，响应相关性和提问。我们进行了大规模的人类评估，以衡量这些控制参数对PersonaChat任务上的多轮交互式对话的影响。我们提供了一个详细的分析，他们的关系，高层次的对话方面，并表明，通过控制这些变量的组合，我们的模型获得了明显的改善，在人类的质量判断。
2019-04-10 cs.CL
An Adversarial Learning Framework For A Persona-Based Multi-Turn Dialogue Model
Capital One Conversation Research（第一资本对话研究部）
在本文中，我们扩展了基于人物的序列到序列（Seq2Seq）神经网络会话模型的多轮对话场景，通过修改最先进的hredGAN架构，同时捕获话语属性，如说话人身份，对话主题，说话人的情绪等。我们还探索了两种方法来实现条件预测：（1）phredGAN_a，一种将属性表示作为额外输入传递到传统对抗性预测中的系统，以及（2）phredGAN_d，一种除了对抗性预测之外还协同预测生成输入话语的属性的双预测系统。为了证明phredGAN优于personalSeq2Seq模型的性能，我们使用两个会话数据集进行了实验，即Ubuntu对话语料库（UDC）和Big Bang Theory和Friends的电视剧成绩单。性能比较是相对于各种量化措施以及众包的人的评价。我们还探索了在具有许多但弱属性模态的数据集（例如Big Bang Theory和Friends）和具有很少但强属性模态的数据集（Ubuntu数据集中的客户代理交互）上使用phredGAN变体的权衡。
2019-06-26 cs.CL cs.LG stat.ML
Exploring Persona Sentiment Sensitivity in Personalized Dialogue Generation
Department of Artificial Intelligence, Chung-Ang University（人工智能系， Chung-Ang 大学）
本文通过大规模实验揭示用户人物角色情感极性对LLM个性化对话质量的影响，并提出结合轮次生成、画像排序和情感感知提示的对话生成方法，以提升个性化对话系统的稳健性与细腻度。
2025-06-01 cs.CL
Paralinguistics-Enhanced Large Language Modeling of Spoken Dialogue
Amazon Alexa AI（亚马逊Alexa AI）
本文提出ParalinGPT，通过序列化多任务多模态框架融合文本、语音嵌入和副语言属性，在Switchboard-1上显著提升口语对话的情感预测与响应生成性能。
2024-01-17 cs.CL eess.AS
Dialogue to Discovery: Attribute-Aware Preference Elicitation for Conversational Product Search Assistants
Adobe Research（Adobe研究院）；Microsoft Research（微软研究院）；UC Berkeley（伯克利大学）
提出属性导向的偏好引导框架D2D，动态利用产品属性结构高效引导对话，在模拟对话中目标发现准确率提升22.2-29.9%，放弃率降低6.6-16.1%，平均对话缩短27.5%。
2026-06-24 cs.CL cs.HC cs.IR
From Script to Drama: An Agentic Framework for Controllable Multi-Speaker Dialogue TTS
Northwestern Polytechnical University（西北工业大学）
该论文提出一个基于批评驱动迭代细化的智能体框架，用于可控多说话人对话语音合成，通过语句级和场景级批评路由至编辑或重合成，在双语基准上优于直接模型和仅重生成方案。
2026-09-29 cs.CL cs.SD eess.AS
