Dynamic Label Name Refinement for Few-Shot Dialogue Intent Classification
Chung-Ang University(中央大学);LG AI Research(LG人工智能研究院)
本文提出一种基于上下文学习和动态标签优化的少样本对话意图分类方法,通过大型语言模型动态优化意图标签以区分相似意图,在多个数据集上显著提升性能并增强标签可解释性。
2024-12-20 cs.CL
CIG: Measuring Conversational Information Gain in Deliberative Dialogues with Semantic Memory Dynamics
School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院)
本文提出CIG框架,通过语义记忆动态评估辩论对话中每个发言对集体理解的推进,展示基于记忆动态的指标比传统方法更有效。
2026-04-20 cs.CL
Enhancing Semantic Understanding with Self-supervised Methods for Abstractive Dialogue Summarization
Samsung SDS(三星数据系统)
语境化的词嵌入可以在自然语言理解中产生最先进的性能。最近,预训练的深度上下文文本编码器(如BERT)在改进包括抽象摘要在内的自然语言任务方面显示出了潜力。现有的对话摘要方法集中于将大语言模型结合到由新闻文章而不是多个说话人的对话组成的大规模语料库上训练的摘要任务中。在本文中,我们引入自监督的方法来弥补不足,训练的对话摘要模型。我们的原则是检测不连贯的信息流使用借口对话文本,以提高BERT的能力,语境化的对话文本表示。我们使用增强的BERT在共享的编码器-解码器架构上构建并微调抽象对话摘要模型。我们经验评估我们的抽象对话摘要与SAMSum语料库,最近推出的数据集与抽象对话摘要。我们所有的方法都有助于改善ROUGE评分的抽象总结。通过广泛的消融研究,我们还提出了一个敏感性分析的关键模型超参数,切换话语和掩蔽对话者的概率。
2022-09-01 cs.AI cs.CL
Semantic Delta: An Interpretable Signal Differentiating Human and LLMs Dialogue
School of Industrial Engineering Intelligence, Complexity and Technology Lab (ICT Lab)(工业工程智能、复杂性与技术实验室)
本文提出一种可解释的统计特征,通过语义类别分布差异区分人类和LLM生成的对话,利用语义delta衡量主题集中度,发现LLM生成内容主题更集中,人类对话更广泛平衡。
2026-03-20 cs.AI cs.CL
Bridging Information Gaps in Dialogues With Grounded Exchanges Using Knowledge Graphs
Technical University of Munich(慕尼黑工业大学);National Institute of Advanced Industrial Science and Technology(日本国立先进工业科学技术研究院)
本文构建五领域对话语料 BridgeKG,并基于知识图谱评估大型语言模型的接地行为分类与信息项识别能力。
2024-08-11 cs.CL
Semantic Parsing by Large Language Models for Intricate Updating Strategies of Zero-Shot Dialogue State Tracking
Beijing University of Posts and Telecommunications(北京邮电大学)
提出ParsingDST方法,利用大语言模型语义解析将对话转为JSON,引入复杂更新策略,在MultiWOZ上显著提升零样本DST的JGA和槽位准确率。
2023-11-25 cs.AI cs.CL cs.LG
Measuring Semantic Progress in Multi-turn Dialogue via Information Gain
NTU Singapore(新加坡南洋理工大学);Amazon(亚马逊);Amazon Research, Tübingen, Germany(亚马逊研究院(德国图宾根))
提出基于信息论的信息增益指标,通过高斯嵌入近似量化多轮对话中问题相关的语义进展,无需LLM推理,在多个基准上取得与人类判断一致的结果。
2026-06-11 cs.CL cs.LG
A Computational Approach to Modeling Conversational Systems: Analyzing Large-Scale Quasi-Patterned Dialogue Flows
Software Engineering and Mathematics Department(软件工程与数学系);National Institute of Applied Science and Technology(应用科学和技术国家研究院);Computer Science Department(计算机科学系);University of Tunis El Manar(突尼斯艾尔曼纳大学)
本文提出一种基于大语言模型和Filter & Reconnect图简化技术的对话图建模方法,用于分析准模式化对话流,使语义指标S提升2.06倍并实现0 δ-双曲率的树状结构,可应用于聊天机器人监控和用户行为分析。
2025-07-17 cs.CL
Emphasising Structured Information: Integrating Abstract Meaning Representation into LLMs for Enhanced Open-Domain Dialogue Evaluation
针对开放域对话评估中对抗性负样本的挑战,提出一种将抽象意义表示(AMR)增强的特定领域语言模型与大语言模型集成的评估框架,通过门控机制和提示融合显著提升了与人类判断的相关性。
2025-09-16 cs.CL
Mitigating Semantic Drift: Evaluating LLMs' Efficacy in Psychotherapy through MI Dialogue Summarization
Research Institute CODE University of the Bundeswehr(CODE研究机构 陆军大学);Department of Psychology Barkatullah University(心理学系 Barkatullah大学)
本文通过MI对话摘要评估LLMs在心理治疗中的有效性,揭示其在复杂心理构念理解中的能力及缓解语义漂移的最佳实践。
2025-11-28 cs.CL cs.LG
ContextCache: Context-Aware Semantic Cache for Multi-Turn Queries in Large Language Models
Zhejiang University(浙江大学);Shanghai Jiaotong University(上海交通大学);Tongji University(同济大学)
ContextCache提出一种多轮对话上下文感知语义缓存系统,采用两阶段检索架构结合自注意力机制精确匹配上下文,显著提升了精确率与召回率,并将响应延迟降低约10倍。
2025-07-15 cs.CL cs.DB
Dial-In LLM: Human-Aligned LLM-in-the-loop Intent Clustering for Customer Service Dialogues
Hong Kong Polytechnic University(香港理工大学);AI Group, WeBank Co., Ltd(WeBank人工智能部门)
本文提出LLM-in-the-loop意图聚类框架,通过整合LLM能力提升客户服务对话意图聚类的准确性和效率。
2025-09-03 cs.CL cs.LG
HEISIR: Hierarchical Expansion of Inverted Semantic Indexing for Training-free Retrieval of Conversational Data using LLMs
Coxwave(考克斯威夫);Seoul National University(首尔大学)
本文提出免训练框架 HEISIR,通过分层三元组构建和附加语增强生成 SVOA 四元组语义索引,在保持低延迟的同时提升对话数据检索性能,且效果优于微调模型。
2025-03-06 cs.CL cs.IR
Chain of Attack: a Semantic-Driven Contextual Multi-Turn attacker for LLM
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
本文提出语义驱动的上下文多轮攻击方法 CoA,通过反馈与语义相关性自适应调整策略,诱导 LLM 生成有害内容,并在多模型、多数据集上验证其优于现有攻击方法。
2024-05-09 cs.CL cs.CR cs.LG
Inverse Turing Bench: Evaluating Language Models as Judges of Human vs. AI Dialogue
University of Rochester(罗切斯特大学);Stony Brook University(石溪大学);Independent Researcher(独立研究者)
提出逆图灵基准,评估LLM区分人类与AI多轮对话的能力,发现GPTZero、Claude Opus-4.6和GPT-5.5准确率最高,统计方法有语义盲点而语义方法易受角色提示影响。
2026-09-11 cs.CL cs.CY
Representation Learning to Study Temporal Dynamics in Tutorial Scaffolding
本文通过对话语义对齐分析,揭示了教程支架中任务对齐和时间模式的系统差异,证明角色特定语义对齐能预测教学进展。
2026-03-25 cs.CL cs.CY
MUSE: MCTS-Driven Red Teaming Framework for Enhanced Multi-Turn Dialogue Safety in Large Language Models
East China Normal University(东华大学);Xi’an Jiaotong University(西安交通大学);Meituan(美团);Zhejiang University(浙江大学)
本文提出MUSE框架,从攻击与防御两侧应对多轮对话越狱:MUSE-A利用框架语义和启发式树搜索探索攻击轨迹,MUSE-D通过早期干预实现细粒度安全对齐,实验证明其能有效识别并缓解多轮漏洞。
2025-09-18 cs.AI cs.CL
S2Dialog: Multimodal Dialogue Retrieval with Semantic and Acoustic-Style Modeling
College of Computer Science, Inner Mongolia University(内蒙古大学计算机学院);University of Electronic Science and Technology of China, Shenzhen Campus(电子科技大学深圳校区)
研究针对现有多模态对话检索方法无法捕捉对话全局语义与风格一致性的问题,提出S2Dialog框架,结合对话级文本与声学检索器及对比学习,在DailyTalk数据集上实现出色检索性能。
2026-08-17 cs.CL
Semantic Representation for Dialogue Modeling
Tencent AI Lab(腾讯人工智能实验室);Zhejiang University(浙江大学);Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院)
虽然神经模型在对话系统中取得了有竞争力的成果,但它们在表示核心语义方面表现出有限的能力,例如忽略重要实体。为此,我们利用抽象意义表示(AMR),以帮助对话建模。与文本输入相比,AMR显式地提供了核心语义知识,降低了数据稀疏性。我们开发了一个算法来构建对话级AMR图从会话级AMR,并探讨了两种方法,将AMR到对话系统。对话理解和响应生成任务的实验结果表明,我们的模型的优越性。据我们所知,我们是第一个将正式的语义表示用于神经对话建模的人。
2021-06-01 cs.CL
RiSAWOZ: A Large-Scale Multi-Domain Wizard-of-Oz Dataset with Rich Semantic Annotations for Task-Oriented Dialogue Modeling
Soochow University(苏州大学);Tianjin University(天津大学)
为了缓解多领域数据不足的问题,并为面向任务的对话建模捕捉话语现象,我们提出了一个具有丰富语义标注的大规模多领域中文Wizard-of-Oz数据集RiSAWOZ。RiSAWOZ包含11.2K人对人(H2 H)多回合语义注释对话,其中超过15万个话语跨越12个领域,这比之前所有注释的H2 H对话数据集都要大。单域对话和多域对话都有,分别占65%和35%。每一个对话都有全面的对话注释,包括自然语言描述形式的对话目标、领域、对话状态和用户侧和系统侧的动作。除了传统的对话注释外,我们还特别提供对话语现象的语言注释,例如,省略和共指,在对话中,这是有用的对话共指和省略决议的任务。除了完整的注释数据集外,我们还详细描述了数据集的数据汇集过程、统计和分析。文中给出了一系列的基准测试模型和结果,包括自然语言理解(意图检测和槽填充)、对话状态跟踪和对话上下文到文本的生成,以及共指和省略消解,为该语料库的后续研究提供了基线比较。
2020-10-17 cs.CL
Measuring and Improving Semantic Diversity of Dialogue Generation
Hyperconnect
响应多样性已成为评价开放域对话生成模型质量的重要标准。然而,目前的响应多样性的评价指标往往无法捕捉生成的响应的语义多样性,因为它们主要考虑生成的响应的词汇方面。在本文中,我们引入了一种新的自动评估指标来衡量生成的响应的语义多样性。通过人类的评价,我们表明,我们提出的指标捕捉人类的判断反应的多样性比现有的词汇水平的多样性指标。此外,通过分析现有的对话数据集的动机,我们提出了一个简单而有效的学习方法,提高了生成的响应的语义多样性。我们的学习方法根据训练集的语义分布对训练样本进行加权。我们表明,我们的学习方法通过自动和人工评估比其他基线方法更好地提高了响应多样性和一致性。
2022-10-22 cs.CL
A Few-Shot Semantic Parser for Wizard-of-Oz Dialogues with the Precise ThingTalk Representation
Stanford University(斯坦福大学)
以前的尝试,以建立有效的语义解析器的巫师奥兹(WOZ)的对话遭受困难,在获得高质量的,手动标注的训练集。仅基于对话合成的方法是不够的,因为从基于状态机的模型生成的对话是真实对话的差的近似。此外,以前提出的对话状态表示是模糊的,缺乏建立一个有效的代理所需的精度。本文提出了一种新的对话表示和一个样本有效的方法,可以预测精确的对话状态在WOZ会话。我们扩展了ThingTalk表示,以捕获代理正确响应所需的所有信息。我们的训练策略是样本高效的:我们结合了(1)稀疏采样整个对话空间的少量数据和(2)覆盖由简洁的基于状态的对话模型生成的对话子集空间的合成数据。扩展的ThingTalk语言的完整性证明了一个完全可操作的代理,这也是用于训练数据合成。我们证明了我们的方法在MultiWOZ 3.0上的有效性,MultiWOZ 3.0是ThingTalk中MultiWOZ 2.1数据集的重新注释。ThingTalk可以代表98%的测试回合,而模拟器可以模拟85%的验证集。我们训练上下文语义分析器使用我们的策略,并获得79%的回合逐回合精确匹配的准确率重新标注的测试集。
2022-04-08 cs.CL
Constructing Multi-Modal Dialogue Dataset by Replacing Text with Semantically Relevant Images
KAIST(韩国科学技术院)
在多模态对话系统中,重要的是允许使用图像作为多轮对话的一部分。训练这样的对话系统通常需要由涉及图像的多轮对话组成的大规模数据集,但是这样的数据集很少存在。作为回应,本文提出了一个45k多模态对话数据集,以最少的人为干预创建。我们创建这样一个数据集的方法包括(1)准备和预处理文本对话数据集,(2)通过使用文本到图像替换技术创建图像混合对话,以及(3)采用基于上下文相似性的过滤步骤来确保数据集的上下文一致性。为了评估我们的数据集的有效性,我们设计了一个简单的检索模型的对话句子预测任务。对这些任务的自动度量和人类评估结果表明,我们的数据集可以有效地用作多模态对话系统的训练数据,这些系统需要以上下文感知的方式理解图像和文本。我们的数据集和生成代码可以在https://github.com/shh1574/multi-modal-dialogue-dataset上找到。
2021-07-19 cs.CL
DEAM: Dialogue Coherence Evaluation using AMR-based Semantic Manipulations
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所);University of California, Los Angeles(加州大学洛杉矶分校)
自动评估指标是必不可少的开放领域的对话系统的快速发展,因为它们有助于超参数调整和模型之间的比较。尽管最近提出的可训练会话级度量已经显示出令人鼓舞的结果,但是度量的质量强烈地依赖于训练数据的质量。先前的作品主要采取启发式文本级操作(例如,话语洗牌)引导不连贯的对话(负面的例子)从连贯的对话(正面的例子)。这种方法不足以适当反映高级对话模式与人类互动中出现的不一致性。为了解决这个问题,我们提出了DEAM,对话一致性评估指标,依赖于抽象意义表示(AMR)应用语义级操作不连贯(负)的数据生成。AMR自然地促进在语义水平上注入各种类型的不连贯源,例如共指不一致、不相关、矛盾和减少参与,从而导致更自然的不连贯样本。我们的实验表明,DEAM实现了更高的相关性与人类的判断相比,基线方法在几个对话数据集的显着利润率。我们还表明,DEAM可以区分基线操作产生的连贯和不连贯的对话,而这些基线模型不能检测到DEAM产生的不连贯的例子。我们的研究结果表明,AMR为基础的语义操作自然的负面例子生成的潜力。
2022-03-18 cs.CL
Schema-Guided Semantic Accuracy: Faithfulness in Task-Oriented Dialogue Response Generation
University of Cambridge(剑桥大学)
确保生成的话语忠实于对话行为是面向任务的对话响应生成的关键。时隙出错率(SER)仅部分地测量生成质量,因为它仅评估从期望精确再现其值的非分类时隙生成的话语。从类别槽,这是更多变的,产生的话语,不评估SER。我们提出了模式引导的语义准确性(SGSAcc),以评估产生的话语从类别和非类别槽识别文本蕴涵。我们表明,SGSAcc可以应用于评估从广泛的对话行动中产生的话语的模式引导对话(SGD)数据集与人类的判断很好的协议。我们还确定了一个以前被忽视的弱点,在生成忠实的话语从分类插槽看不见的域。我们表明,前缀调整适用于T5代可以解决这个问题。我们进一步构建了一个前缀调整和微调模型的集合,该模型在SGD数据集上实现了最低的SER报告和高SGSAcc。
2023-01-29 cs.CL
Dialogue Response Prefetching Based on Semantic Similarity and Prediction Confidence of Language Model
Nara Institute of Science and Technology(奈良科学技术研究所);RIKEN(理化学研究所);Tokyo Institute of Technology(东京技术大学)
本文提出基于语义相似度和语言模型预测置信度的对话响应预取方法,旨在减少用户感知延迟。
2026-01-13 cs.CL
An Auto-Encoder Matching Model for Learning Utterance-Level Semantic Dependency in Dialogue Generation
Peking University(北京大学)
生成语义一致的响应仍然是对话生成中的一个主要挑战。与传统的文本生成任务不同,会话中的输入和响应之间的映射更为复杂,这就要求理解话语级的语义依赖,即输入和输出的整体意义之间的关系。为了解决这个问题,我们提出了一个自动编码器匹配(AEM)模型来学习这种依赖关系。该模型包含两个自动编码器和一个映射模块。自动编码器学习输入和响应的语义表示,并且映射模块学习连接话语级表示。自动和人工评估的实验结果表明,与基线模型相比,我们的模型能够生成高连贯性和流畅性的响应。代码可在https://github.com/lancopku/AMM上获得
2018-08-27 cs.CL
Hi Model, generating 'nice' instead of 'good' is not as bad as generating 'rice'! Towards Context and Semantic Infused Dialogue Generation Loss Function and Evaluation Metric
Indian Institute of Technology Patna(印度理工学院巴特那分校);University of South Carolina(南卡罗来纳大学);Indian Institute of Technology Bombay(印度理工学院孟买分校)
本文指出了传统基于词汇的对话生成指标缺乏语义和上下文考虑的局限,提出了融合上下文与语义的SemTextualLogue损失函数及Dialuation评估指标,实验证明该方法能提升模型性能且与人类评估相关性更强。
2024-05-29 cs.CL
Semantic Diversity in Dialogue with Natural Language Inference
UC Berkeley(加州大学伯克利分校)
生成多样化的,有趣的回应闲聊会话是一个问题的神经会话代理。本文对提高对话生成的多样性做出了两个实质性贡献。首先,我们提出了一种新的度量,它使用自然语言推理(NLI)来衡量一组模型的会话响应的语义多样性。我们使用一个已建立的框架(Tevet和Berant,2021)来评估这个指标,并发现了强有力的证据表明NLI多样性与语义多样性相关。具体来说,我们表明,矛盾关系是更有用的中性关系,用于测量这种多样性,并将NLI模型的信心达到国家的最先进的结果。其次,我们演示了如何迭代地提高语义多样性的采样集的响应,通过一个新的生成程序称为多样性阈值生成,这导致平均137%的增加NLI多样性相比,标准的生成程序。
2022-05-03 cs.CL
Semantic Refinement GRU-based Neural Language Generation for Spoken Dialogue Systems
Japan Advanced Institute of Science and Technology(日本北陆先端科学技术大学院大学);University of Information and Communication Technology(信息与通信技术大学)
自然语言生成在口语对话系统中起着至关重要的作用。本文提出了一种新的方法,NLG使用循环神经网络(RNN),其中的门控机制之前,RNN计算。这允许所提出的模型生成适当的句子。基于RNN的生成器可以通过联合训练句子规划和表面实现来从未对齐的数据中学习,以产生自然语言响应。该模型进行了广泛的评估四个不同的NLG域。结果表明,该生成器实现了更好的性能在所有的NLG域相比,以前的发电机。
2017-07-11 cs.CL
Semantic Space Grounded Weighted Decoding for Multi-Attribute Controllable Dialogue Generation
Shanghai Jiao Tong University(上海交通大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
针对多属性可控对话生成研究不足的问题,提出DASC框架,采用加权解码结合属性语义空间锚定,通过属性嵌入插值实现多属性控制并缩减模型规模,实验验证其在3属性控制及分布外场景下的高准确率与生成质量。
2023-11-05 cs.CL
Building Knowledge-Grounded Dialogue Systems with Graph-Based Semantic Modeling
School of Computer Science and Technology(计算机科学与技术学院);Southeast Academy of Information Technology(东南信息技术研究院);Beijing Engineering Research Center of High Volume Language Information Processing and Cloud Computing Applications(北京大规模语言信息处理与云计算应用工程研究中心)
针对知识驱动对话中序列模型难整合复杂知识的问题,提出接地图结构与接地图感知Transformer模型,融合多形式知识,在回复生成和事实一致性上显著优于现有方法,具备良好泛化性与鲁棒性。
2024-05-16 cs.CL
Generating Dialogue Responses from a Semantic Latent Space
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Samsung Research America(三星美国研究院)
现有的开放域对话生成模型通常使用词汇的交叉熵损失来训练以模仿训练集中的黄金响应。然而,一个好的响应不需要类似于黄金响应,因为对于给定的提示有多种可能的响应。在这项工作中,我们假设,目前的模型是无法整合的信息,从多个语义相似的有效响应的提示,从而产生通用的和无信息的反应。为了解决这个问题,我们提出了一种替代的端到端分类的词汇。我们学习提示和响应之间的配对关系作为潜在空间上的回归任务。在我们的新的对话生成模型中,语义相关的句子的表示是彼此接近的潜在空间。人类评估表明,在连续空间上学习任务可以产生相关和信息丰富的反应。
2020-10-04 cs.CL
Enhanced Knowledge Selection for Grounded Dialogues via Document Semantic Graphs
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon Alexa AI(亚马逊Alexa人工智能部门)
提供具有背景知识的对话模型已被证明可以使开放域对话更具信息性和吸引力。现有的模型将知识选择视为句子排序或分类问题,其中每个句子都单独处理,忽略了背景文档中句子之间的内部语义联系。在这项工作中,我们建议自动转换的背景知识文件到文档的语义图,然后进行知识选择这样的图。我们的文档语义图通过使用句子节点来保留句子级别的信息,并提供句子之间的概念连接。我们联合应用多任务学习的知识水平和概念水平的选择,并表明它提高了知识水平的选择。我们的实验表明,我们的基于语义图的知识选择提高了句子选择基线的知识选择任务和端到端的响应生成任务的HollE,并提高了泛化在魔兽世界中看不见的主题。
2022-06-30 cs.CL
Decoupled Dialogue Modeling and Semantic Parsing for Multi-Turn Text-to-SQL
Shanghai Jiao Tong University(上海交通大学);State Key Lab of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室)
最近,Text-to-SQL的多轮对话引起了极大的兴趣。在这里,给定所有先前的对话历史,当前回合的用户输入被解析为适当数据库的相应SQL查询。目前的方法大多采用端到端模型,因此面临两个挑战。首先,对话历史建模和Text-to-SQL解析是隐式结合的,因此很难进行可解释性分析和有针对性的改进。第二,多轮对话的SQL注释非常昂贵,导致训练数据稀疏。在本文中,我们提出了一种新的解耦的多轮文本到SQL框架,其中的话语重写模型首先明确地解决了对话上下文的完成,然后是一个单轮文本到SQL解析器。本文还提出了一种双重学习方法来解决数据稀疏性问题。与端到端的方法相比,所提出的解耦方法可以在不需要任何带注释的域内数据的情况下获得优异的性能。在只有几个带注释的重写案例的情况下,解耦方法在SParC和CoSQL数据集上的性能优于已发布的最先进的端到端模型。
2021-06-09 cs.CL
Controllable Generation of Dialogue Acts for Dialogue Systems via Few-Shot Response Generation and Ranking
University of California Santa Cruz(加州大学圣克鲁兹分校)
本研究提出一种新颖的少样本过生成与排序方法,通过八种提示风格和六种自动排序函数,在四种LLMs和三个领域上实现了对话行为的可控生成,其对话行为准确性与语义准确性优于少样本微调。
2023-07-26 cs.CL
Context Matters in Semantically Controlled Language Generation for Task-oriented Dialogue Systems
Mercedes-Benz AG(梅赛德斯-奔驰股份公司);Ulm University(乌尔姆大学)
该方法将预先训练好的模型编码的对话历史信息与当前系统话语的意义表示相结合,实现了面向任务的对话中的语境语言生成。我们利用预训练的多上下文ConveRT模型在从头开始训练的模型中进行上下文表示;并利用紧接在前的用户话语在从预训练的GPT-2改编的模型中生成上下文。MultiWOZ数据集的两个实验都表明,由预训练模型编码的上下文信息提高了自动度量和人工评估中响应生成的性能。我们提出的上下文生成器能够更好地适应正在进行的对话生成的反应,更高的品种。分析上下文大小表明,较长的上下文并不会自动导致更好的性能,但紧接在前的用户话语上下文生成起着至关重要的作用。此外,我们还提出了一个基于GPT的生成模型的重排序器。实验结果表明,重新排序器选择的响应对自动度量有显著的改善。
2021-11-28 cs.CL
Divide, Conquer, and Combine: Mixture of Semantic-Independent Experts for Zero-Shot Dialogue State Tracking
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);JD Explore Academy, JD.com Inc(京东集团京东探索研究院);The University of Sydney(悉尼大学)
针对零样本DST中样本语义未解耦的问题,提出划分语义独立子集、训练专家并通过混合专家集成推理的方法,在MultiWOZ2.1上以10M可训练参数达到无外部知识SOTA。
2023-06-01 cs.CL
GRASP: Guiding model with RelAtional Semantics using Prompt for Dialogue Relation Extraction
Korea University(高丽大学)
基于对话的关系抽取(DialogRE)任务旨在预测对话中出现的论元对之间的关系。大多数以前的研究利用微调预训练语言模型(PLM),只有广泛的功能,以补充低信息密度的对话,由多个扬声器。为了有效地利用固有知识的PLM没有额外的层,并考虑分散的语义线索之间的关系参数,我们提出了一个指导模型与关系语义提示(GRASP)。我们采用了一种基于语义的微调方法,并通过1)一个论元感知的提示标记策略和2)关系线索检测任务来捕获给定对话的关系语义线索。在实验中,GRASP在DialogRE数据集上的F1和F1c得分方面达到了最先进的性能,即使我们的方法只利用PLM而不添加任何额外的层。
2022-09-27 cs.AI cs.CL
Evaluating Open-Domain Dialogues in Latent Space with Next Sentence Prediction and Mutual Information
Wuhan University(武汉大学);The University of Sheffield(谢菲尔德大学);Beihang University(北京航空航天大学)
针对开放域对话一对多的评估难题,提出融合下一句预测目标与互信息的CVAE-based评估指标CMN,在两个数据集上优于多种基线,尤其擅长处理语义偏离参考的回复。
2023-06-10 cs.CL
Knowledge Augmented BERT Mutual Network in Multi-turn Spoken Dialogues
Georgia Institute of Technology(佐治亚理工学院)
现代口语语言理解(SLU)系统依赖于在单个话语中揭示的复杂语义概念来检测意图和槽。然而,他们缺乏在对话中建模多回合动态的能力,特别是在长期的插槽上下文中。在没有外部知识的情况下,依赖于词序列内有限的语言合法性可能会忽略对话轮之间的深层语义信息。在本文中,我们建议装备一个基于BERT的联合模型与知识注意力模块,以相互利用两个SLU任务之间的对话上下文。门控机制被进一步用来过滤掉不相关的知识三元组,并避免分心的理解。在两个复杂的多轮对话数据集上的实验结果表明,通过对两个SLU任务进行相互建模,过滤知识和对话上下文,我们的方法与几个竞争对手的基线相比有很大的改进。
2022-02-23 cs.CL
WEBDial, a Multi-domain, Multitask Statistical Dialogue Framework with RDF
Orange Innovation(Orange创新研究院)
针对传统槽值对语义表示缺乏表达力、可扩展性和可解释性的问题,提出基于RDF三元组和图形式化的对话框架WEBDial,并展示了其在从单领域到多领域复杂任务中的广泛适用性。
2024-01-08 cs.CL
Conversational Semantic Role Labeling
Tencent AI Lab(腾讯AI实验室);City University of Hong Kong(香港城市大学)
语义角色标注(SRL)旨在提取输入句子中每个谓词的论元。传统的语义关联语言只适用于单个句子,而省略和回指在对话中频繁出现,因此无法分析对话。为了解决这个问题,我们提出了会话SRL任务,其中一个参数可以是对话参与者,对话历史中的一个短语或当前句子。由于现有的SRL数据集是在句子层面上,我们手动注释了3,000个聊天对话(27,198句)的语义角色,以推动这一方向的研究。实验表明,虽然传统的SRL系统(即使在共指消解或重写的帮助下)在分析对话时表现不佳,但对对话历史和参与者进行建模大大有助于提高性能,这表明将SRL应用于对话是非常有希望的。我们将CSRL应用于两个主流会话任务,对话反应生成和对话语境重写的初步研究也证实了CSRL的有用性。
2021-04-11 cs.AI cs.CL
Jurassic is (almost) All You Need: Few-Shot Meaning-to-Text Generation for Open-Domain Dialogue
University of California(加利福尼亚大学)
开放域对话系统的一个挑战是需要对任何主题产生真实的、高质量的响应。我们的目标是提高雅典娜的质量和覆盖面,这是一个Alexa奖对话系统。我们实验了基于Few-Shot的学习,将GPT-Neo与Jurassic-1进行比较,用于电影,音乐,电视,体育和视频游戏领域,包括域内和跨域,具有不同的提示集大小(2,3,10),格式和由WikiData KG三元组或对话行为组成的含义表示。我们的评估使用了BLEURT和人类指标,并表明在10次提示下,Athena-Jurassic的表现在连贯性和语义准确性方面明显更好。使用2次跨域提示的实验导致Athena-GPT-Neo的性能大幅下降,其语义准确率下降到0.41,而其不真实的幻觉率增加到12%。电子游戏对话行为的实验表明,在10次提示下,两种模型都学会了控制对话行为,但《雅典娜-侏罗纪》的连贯性明显更高,只有4%的不真实幻觉。我们的研究结果表明,雅典娜侏罗纪产生足够高的质量输出,是有用的,在生活系统与真实用户。据我们所知,这些是第一个结果表明,基于Few-Shot的语义学习可以创建NLG,推广到新的领域,并产生高质量的,语义控制,会话反应直接从意义表示。
2021-11-10 cs.CL
Toward Dialogue Modeling: A Semantic Annotation Scheme for Questions and Answers
LORIA(洛林计算机科学及其应用实验室);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所)
本研究提出了一种对问答对的内容和语篇贡献进行分类的标注方案。我们提出了使用该计划的详细指导方针,并将其应用于英语,西班牙语和荷兰语的对话。最后,我们报告了自动注释的初始机器学习实验。
2019-08-23 cs.AI cs.CL
VSTAR: A Video-grounded Dialogue Dataset for Situated Semantic Understanding with Scene and Topic Transitions
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院);National Key Laboratory of General Artificial Intelligence(通用人工智能全国重点实验室)
本文提出基于395部电视剧的大规模视频对话数据集VSTAR,并构建场景分割、话题分割与对话生成基准,验证多模态信息与片段对视频对话理解及生成的重要性。
2023-05-30 cs.CL cs.CV
Learning Interpretable Latent Dialogue Actions With Less Supervision
Charles University, Faculty of Mathematics and Physics(查理大学数学与物理学院)
我们提出了一种新的架构,可解释的建模面向任务的对话与离散的潜变量来表示对话动作。我们的模型是基于变分递归神经网络(VRNN),不需要明确的语义信息的注释。与以往的工作不同,我们的方法模型的系统和用户轮流单独进行数据库查询建模,这使得模型适用于面向任务的对话,同时产生易于解释的行动潜变量。我们表明,我们的模型优于以前的方法,在三个数据集上的困惑和BLEU方面的监督较少,我们提出了一种方法来衡量对话的成功,而不需要专家注释。最后,我们提出了一种新的方式来解释语义的潜变量相对于系统的行动。
2022-10-12 cs.CL
Challenging Neural Dialogue Models with Natural Data: Memory Networks Fail on Incremental Phenomena
Heriot-Watt University(赫瑞瓦特大学)
自然的、自发的对话是在一个词一个词的基础上逐步进行的;它包含了许多种不流利的情况,如话语/句子中的犹豫、打断和自我纠正。但是,用于对话处理的机器学习方法的训练数据通常是清理的或完全合成的,以避免这种现象。然后问题就出现了,在这种干净的数据上训练的系统如何推广到真正的自发对话,或者它们是否可以在自然发生的对话数据上训练。为了回答这个问题,我们创建了一个名为bAbI+的新语料库,通过系统地将自然的自发增量对话现象(如重新启动和自我纠正)添加到Facebook AI Research的bAbI对话数据集。然后,我们在这个更自然的数据集上探索了最先进的检索模型MemN 2N的性能。结果表明,MemN 2N模型的语义准确性急剧下降;虽然它在原则上能够学习处理bAbI+中的结构,但它需要不切实际的训练数据来完成。最后,我们继续表明,增量,语义解析器- DyLan -显示100%的语义准确率bAbI和bAbI+,突出语言学上知情的对话模型的泛化属性。
2017-09-22 cs.CL
Disambiguating Reference in Visually Grounded Dialogues through Joint Modeling of Textual and Multimodal Semantic Structures
Nara Institute of Science and Technology(奈良科学技術研究所);Guardian Robot Project(守護機器人計劃);RIKEN(理化学研究所);Kyoto University(京都大學);Institute of Science Tokyo(東京科學研究院)
本文提出一个统一文本和多模态指代消解的框架,通过将提及嵌入映射到对象嵌入并基于相似性进行选择,实验证明结合共指消解等文本指代关系能有效提升多模态指代消解性能,减少视觉基础对话中的歧义。
2025-06-01 cs.CL
Contrast and Generation Make BART a Good Dialogue Emotion Recognizer
School of Computer Science, Fudan University(复旦大学计算机科学技术学院);Peng Cheng Laboratory(鹏城实验室);Shanghai Key Laboratory of Intelligent Information Processing, Fudan University(复旦大学上海市智能信息处理重点实验室)
在对话系统中,具有相似语义的话语在不同的语境下可能具有不同的情感。因此,建立说话人相关的长距离语境情感关系模型在对话情感识别中起着关键作用。同时,区分不同的情感类别是不平凡的,因为它们通常具有语义相似的情感。为此,我们采用有监督的对比学习,使不同的情绪互斥,以更好地识别相似的情绪。同时,我们利用一个辅助响应生成任务,以提高模型的能力,处理上下文信息,从而迫使模型识别情感相似的语义在不同的情况下。为了实现这些目标,我们使用预训练的编码器-解码器模型BART作为我们的骨干模型,因为它非常适合理解和生成任务。在四个数据集上的实验表明,我们提出的模型在对话情感识别方面比现有的模型获得了更好的结果。消融研究进一步证明了监督对比损失和生成损失的有效性。
2022-01-24 cs.CL
DialoGPS: Dialogue Path Sampling in Continuous Semantic Space for Data Augmentation in Multi-Turn Conversations
Renmin University of China(中国人民大学);Peking University(北京大学);Alibaba DAMO Academy(阿里巴巴达摩院)
本文提出DialoGPS,首个多轮对话的多对多数据增强方法,通过在连续语义空间中映射对话到扩展Brownian Bridge并采样潜在变量形成连贯对话路径,解决了离散替换破坏上下文连贯性的问题,经自动和人工评估验证有效。
2023-06-29 cs.AI cs.CL
Counterfactual Data Augmentation via Perspective Transition for Open-Domain Dialogues
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent Inc(腾讯公司)
开放领域对话系统的构建需要高质量的对话数据集。对话数据承认对于给定对话历史的各种各样的响应,特别是具有不同语义的响应。然而,在大多数情况下,收集高质量的数据集是劳动密集型和耗时的。在本文中,我们提出了一个数据增强方法,自动增加高质量的响应与不同的语义反事实推理。具体来说,给定一个观察到的对话,我们的反事实生成模型首先推断语义上不同的反应,取代观察到的答复的角度与替代的。此外,我们的数据选择方法过滤掉有害的扩增反应。实验结果表明,我们的数据增强方法可以增加高质量的响应与不同的语义为一个给定的对话历史,并可以在多个下游任务的竞争基线。
2022-10-30 cs.AI cs.CL
Bootstrapping incremental dialogue systems from minimal data: the generalisation power of dialogue grammars
Heriot-Watt University(赫瑞瓦特大学)
我们研究了一种端到端的方法,用于从少量未注释的对话数据自动诱导基于任务的对话系统。它结合了增量语义语法-动态语义和类型论(DS-TTR)-与强化学习(RL),其中语言生成和对话管理是一个联合决策问题。这样产生的系统是渐进的:对话是逐字处理的,以前被证明是支持自然的,自发的对话必不可少的。我们假设,语法中丰富的语言知识应该能够处理大量的对话变体,即使在很少的对话上进行训练。我们的实验表明,我们的模型可以处理74%的Facebook AI bAbI数据集,即使只训练了0.13%的数据(5个对话)。它还可以处理65%的bAbI+,这是我们通过系统地添加增量对话现象(如重启和自我纠正)创建的语料库。我们将我们的模型与最先进的检索模型MemN 2N进行比较。我们发现,在语义准确性方面,MemN 2N对bAbI+转换的鲁棒性非常差,即使在完整的bAbI数据集上进行训练也是如此。
2017-09-22 cs.CL
Modeling Complex Dialogue Mappings via Sentence Semantic Segmentation Guided Conditional Variational Auto-Encoder
Beijing Institute of Technology(北京理工大学);Huawei Technologies Ltd.(华为技术有限公司)
复杂对话映射(CDM),包括一对多和多对一映射,往往会使对话模型产生不连贯或迟钝的反应,对这些映射进行建模仍然是神经对话系统面临的巨大挑战。为了缓解这些问题,人们提出了引入外部信息、重构优化函数和操纵数据样本等方法,但这些方法主要集中在避免使用CDM进行训练,从而不可避免地削弱了模型在人类对话中理解CDM的能力,并限制了模型性能的进一步提高。本文提出了一种基于语句语义的\textbf{Seg}分段引导的\textbf{C}对\textbf{V}变量的\textbf{A}- \textbf{E}编码器(SegCVAE)方法,该方法能够对CDM数据进行建模并充分利用CDM数据。具体来说,为了解决一对多引起的不连贯问题,SegCVAE使用响应相关的突出语义来约束潜在变量。为了缓解多对一带来的非多样性问题,SegCVAE分割多个突出的语义,以丰富潜在变量。三个新的组成部分,内部分离,外部指导和语义规范,提出了实现SegCVAE。在对话生成任务上,自动和人工评估结果都表明SegCVAE实现了新的最先进的性能。
2022-12-01 cs.AI cs.CL