Investigating Robustness of Dialog Models to Popular Figurative Language Constructs
Carnegie Mellon University(卡内基梅隆大学);University of California San Diego(加州大学圣地亚哥分校)
人类经常在交流中使用比喻语言,包括在与对话系统交互期间。因此,对于现实世界的对话系统来说,能够处理流行的比喻语言结构(如隐喻和隐喻)是很重要的。在这项工作中,我们分析了现有的对话模型的性能的情况下,输入对话上下文展示使用比喻语言。我们观察到在处理比喻语言的两个开放域对话数据集上评估模型时存在很大的差距。当面对由比喻语言组成的对话上下文时,与没有比喻语言的上下文相比,一些模型显示出非常大的性能下降。我们鼓励未来的研究在对话建模单独分析和报告结果的比喻语言,以更好地测试模型功能相关的现实世界的使用。最后,我们提出了轻量级的解决方案,以帮助现有的模型变得更加强大的比喻语言,简单地使用外部资源翻译比喻语言的字面(非比喻)的形式,同时保留的意义,以最大限度地。
2021-10-01 cs.CL
Investigating the effect of Mental Models in User Interaction with an Adaptive Dialog Agent
University of Stuttgart(斯图加特大学)
本研究收集新数据集探索任务导向对话系统中用户的心智模型,发现用户心智模型存在冲突且影响交互成功率,并证明隐式自适应代理行为能提升系统可用性、对话效率和成功率。
2024-08-26 cs.CL
Investigating and Addressing Hallucinations of LLMs in Tasks Involving Negation
Arizona State University(亚利桑那州立大学)
本文研究否定对大语言模型幻觉的影响,在四个涉及否定的任务上发现LLaMA-2-chat、Vicuna和Orca-2等开源模型存在严重幻觉,并提出多种缓解策略并验证其效果。
2024-06-08 cs.CL
Scoring with Large Language Models: A Study on Measuring Empathy of Responses in Dialogues
Westview High School(韦维尤高中);Portland State University(波特兰州立大学)
本文研究大语言模型在对话共情力评分中的机制,提出用嵌入、MITI编码和LLM生成的显式子因素训练可解释分类器,发现其性能可接近微调LLM,为社会科学中的LLM评分应用提供新视角。
2024-12-28 cs.CL
Beyond the Known: Investigating LLMs Performance on Out-of-Domain Intent Detection
Meituan(美团)
本文系统评估 LLM 在 OOD 意图检测中的表现,发现其零样本和少样本能力较强但不及全资源微调模型,并总结领域知识注入等未来方向。
2024-03-04 cs.CL
Investigating Agency of LLMs in Human-AI Collaboration Tasks
Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院);Microsoft Research(微软研究院)
本研究基于社会认知理论构建框架,通过标注83段人机协作对话数据,提出衡量大语言模型能动性的方法,发现高意向性、动机、自我效能和自我调节特征增强模型被感知的能动性。
2024-02-08 cs.CL
Investigating large language models for their competence in extracting grammatically sound sentences from transcribed noisy utterances
Institute of Computer Science Polish Academy of Sciences(波兰科学院计算机科学研究所)
本研究通过波兰语场景下的两项实验,探究大语言模型从带噪声对话转录中提取语法规范话语的能力,发现其相关能力仍较表层,未完全掌握或无法有效应用句法-语义规则。
2024-10-07 cs.CL
Investigating Multimodal Informativity under Different Partner Visibility Conditions in Video-Mediated Dialogue
Max Planck Institute for Psycholinguistics(马克斯·普朗克心理语言学研究所);Utrecht University(乌得勒支大学);Osnabrück University(奥斯纳布吕克大学)
本研究针对视频介导对话,构建基于语音、手势或两者的模型识别指称对象,发现手势可单独预测指称,融合模型在转录模型不确定时效果最佳,还揭示了伙伴可见性对互动的语用效应。
2026-08-11 cs.CL
Different Strokes for Different Folks: Investigating Appropriate Further Pre-training Approaches for Diverse Dialogue Tasks
Pattern Recognition Center, WeChat AI, Tencent Inc(腾讯公司微信人工智能模式识别中心)
在一般领域的大规模语料库上加载预先训练好的模型,并在特定的下游任务上对其进行微调,正逐渐成为自然语言处理的一种范式。以前的研究证明,在预训练和微调阶段之间引入进一步的预训练阶段,以使模型适应特定领域的未标记数据,可以带来积极的效果。然而,这些进一步的预训练工作中的大多数只是保持运行常规的预训练任务,例如,掩蔽语言模型,它可以被看作是领域自适应,以弥合数据分布的差距。在观察了不同的下游任务后,我们建议不同的任务可能还需要进一步的预训练阶段,并提供适当的训练任务,以弥合任务制定的差距。为了调查这一点,我们进行了一项研究,通过设计各种任务,在进一步的预训练阶段,以提高多个面向任务的对话下游任务。实验结果表明,不同的下游任务偏好不同的进一步预训练任务,这些任务之间存在内在的相关性,并且大多数进一步预训练任务显著提高了某些目标任务,而不是全部目标任务。我们的研究表明,它是非常重要和有效的设计适当的进一步的预训练任务建模的具体信息,有利于下游任务。此外,我们提出了多个建设性的实证结论,以加强任务导向的对话。
2021-09-14 cs.CL
A Long Way to Go: Investigating Length Correlations in RLHF
The University of Texas at Austin(得克萨斯大学奥斯汀分校);Princeton University(普林斯顿大学);Salesforce AI(Salesforce人工智能部门)
该研究揭示RLHF对齐大模型时的奖励提升多由响应长度增加驱动,偏差主要源于鲁棒性不足的奖励模型,且纯长度奖励可复现大部分RLHF下游增益。
2024-07-10 cs.CL cs.LG
Collaborative and Proactive Management of Task-Oriented Conversations
University of Isfahan(伊斯法罕大学);Paris-Saclay University(巴黎-萨克雷大学);Université Paris-Saclay(巴黎-萨克雷大学)
本文提出一种基于信息状态方法、利用大语言模型上下文学习的任务导向对话管理模型,通过预定义槽位和文本组件建模用户偏好,实现主动规划,在MultiWOZ上取得更优表现。
2025-09-26 cs.CL
From Fact to Judgment: Investigating the Impact of Task Framing on LLM Conviction in Dialogue Systems
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
研究探讨了任务框架对LLM在对话系统中判断确信度的影响,发现对话上下文显著改变模型判断,强调了对话框架在评估中的重要性。
2026-01-09 cs.CL
Investigating Assistant Bias in LLM User Simulators Using a Role Vector
KAIST(韩国科学技术院);University of Michigan(密歇根大学);Seoul National University(首尔大学);ETH Zürich(苏黎世联邦理工学院);SkillBench
该研究针对LLM用户模拟器的助手偏差,通过对比对话的用户与助手视角提取用户角色向量,证实偏差结构可识别且用户行为可定向分析,为优化模拟器提供了表征层面依据。
2026-10-06 cs.CL cs.HC
Investigating Content Planning for Navigating Trade-offs in Knowledge-Grounded Dialogue
University of Southern California(南加州大学);Google DeepMind(谷歌DeepMind)
本研究提出PLEDGE框架,探究内容规划能否平衡知识grounded对话中的特异性和归因性,发现度量感知规划在自动评估中更优但人工判断较差,提示需校准自动度量。
2024-02-03 cs.CL
STRUDEL: Structured Dialogue Summarization for Dialogue Comprehension
Yale University(耶鲁大学);Meta AI
摘要对话摘要长期以来一直被视为自然语言处理中的一个重要的独立任务,但以前的工作还没有探讨是否抽象的对话摘要也可以被用来作为一种手段,以提高NLP系统的其他重要的对话理解任务的性能的可能性。在本文中,我们提出了一种新型的对话摘要任务--训练的DiaLoguE摘要--它可以帮助预先训练的语言模型更好地理解对话,并提高它们在重要对话理解任务中的表现。我们进一步收集人类注释的CFDEL摘要超过400个对话,并介绍了一个新的CFDEL对话理解建模框架,集成CFDEL到一个基于图神经网络的对话推理模块的Transformer编码器语言模型,以提高他们的对话理解能力。在我们的两个重要的下游对话理解任务-对话问答和对话响应预测-的实证实验中,我们表明,我们的EMDEL对话理解模型可以显着提高Transformer编码器语言模型的对话理解性能。
2022-12-24 cs.CL
A Piece of Theatre: Investigating How Teachers Design LLM Chatbots to Assist Adolescent Cyberbullying Education
Cornell University(康奈尔大学);The Pennsylvania State University(宾夕法尼亚州立大学)
本研究为K-12教师开发无代码大语言模型聊天机器人设计工具,发现教师视自己为剧作家,以引导学生在安全环境中排练网络欺凌应对反应,并探讨了设计机会。
2024-02-27 cs.AI cs.CL cs.HC
The Earth is Flat because...: Investigating LLMs' Belief towards Misinformation via Persuasive Conversation
Tsinghua University(清华大学);Nanyang Technological University(南洋理工大学);Shanghai Jiao Tong University(上海交通大学);Stanford University(斯坦福大学)
本研究通过构建 Farm 数据集和测试框架,深入探讨了大型语言模型在多轮说服性对话中对错误信息的易感性,发现其正确的事实信念极易被说服策略操纵。
2024-05-31 cs.AI cs.CL cs.CR
EVA2.0: Investigating Open-Domain Chinese Dialogue Systems with Large-Scale Pre-Training
Tsinghua University(清华大学);York University(约克大学)
本文提出具有28亿参数的大规模预训练开放域中文对话模型EVA2.0,通过实验探究数据质量、架构、训练及解码等关键因素,其自动与人工评估均显著优于其他开源模型。
2023-10-21 cs.AI cs.CL
FaMeSumm: Investigating and Improving Faithfulness of Medical Summarization
The Pennsylvania State University(宾夕法尼亚州立大学);Children’s Hospital Affiliated of Zhengzhou University(郑州大学附属儿童医院);L3S Research Center(L3S研究中心)
针对医疗摘要忠实度不足的问题,提出基于医疗知识微调预训练模型的FaMeSumm框架,通过对比学习与术语上下文约束提升忠实度,在多语言多数据集上实现优于主流模型的效果。
2023-11-08 cs.AI cs.CL
Post-Training Dialogue Summarization using Pseudo-Paraphrasing
Shanghai Jiao Tong University(上海交通大学);China Merchants Bank Credit Card Center(招商银行信用卡中心)
以前的对话摘要技术通过将对话特定的特征注入到模型中来适应在叙事文本上预训练的大语言模型。这些特征要么需要额外的知识来识别,要么使生成的模型更难调整。为了弥合对话摘要任务中对话和叙述性摘要之间的格式差距,我们提出后训练预训练的语言模型(PLM)从对话到叙述的重组。在此之后,该模型像往常一样进行了对话摘要的微调。综合实验表明,我们的方法显着提高香草PLM的对话摘要,并优于其他SOTA模型的摘要质量和实施成本。
2022-04-28 cs.CL
Back to the Future: Bidirectional Information Decoupling Network for Multi-turn Dialogue Modeling
Shanghai Jiao Tong University(上海交通大学)
多轮对话建模作为自然语言理解(NLU)的一个具有挑战性的分支,旨在为机器构建理解人类对话的表示,这为多个下游任务提供了坚实的基础。目前的对话建模研究通常采用预训练的语言模型(PrLM)将对话历史编码为连续的令牌,这在捕捉对话的时间特性方面是不够的。因此,我们提出了双向信息解耦网络(BiDeN)作为一个通用的对话编码器,它明确地结合了过去和未来的上下文,并可以推广到广泛的对话相关的任务。在不同下游任务的数据集上的实验结果证明了BiDeN的通用性和有效性。
2022-10-20 cs.CL
Persona Non Grata: LLM Persona-Driven Generations in MCQA are Unstable in Distinct Dimensions
Department of Computer Science, University of Pittsburgh(匹兹堡大学计算机科学系)
本研究提出三个指标评估LLM在MCQA任务中角色驱动生成的不稳定性,发现模型家族、大小、问题领域及提示格式均影响稳定性,且不稳定性与任务准确性相关。
2026-07-02 cs.CL
Investigating Effect of Dialogue History in Multilingual Task Oriented Dialogue Systems
Stanford University(斯坦福大学)
虽然英语虚拟助手已经取得了令人兴奋的性能与大量的培训资源,非英语国家的需求没有得到很好的满足。截至2021年12月,Alexa是全球最受欢迎的智能音箱之一,能够支持9种不同的语言[1],而世界上有数千种语言,根据2019年发布的统计数据,其中91种语言有超过1000万人使用[2]。然而,用英语以外的其他语言培训虚拟助理通常更困难,特别是对于那些资源较少的语言。缺乏高质量的训练数据制约了模型的性能,导致用户满意度不高。因此,我们为面向多语言任务的对话系统设计了一个高效的训练解决方案,使用与BiToD相同的数据集生成管道和端到端对话系统架构[5],它采用了一些关键的设计选择,用于最小化的自然语言设计,其中使用正式的对话状态代替自然语言输入。这减少了由较弱的自然语言模型带来的误差空间,并确保模型能够正确地提取执行对话状态跟踪(DST)所需的基本时隙值。我们的目标是减少每个回合编码的自然语言的数量,我们研究的关键参数是要作为历史输入模型的回合数(H)。我们首先探讨的转折点,增加H开始产生有限的回报的整体表现。然后,我们研究是否可以将具有小H的模型出错的示例分类为模型进行Few-Shot微调的方式。最后,将探讨这种方法的局限性,以及是否存在这种方法无法解决的特定类型的示例。
2021-12-23 cs.AI cs.CL
Dialogue-oriented Pre-training
Shanghai Jiao Tong University(上海交通大学)
预训练的语言模型(PrLM)在增强广泛的下游任务(包括各种对话相关任务)方面表现出强大的功能。然而,PrLM通常是在具有公共语言模型(LM)训练目标的一般纯文本上训练的,由于这种训练设置的限制,其不能充分捕获对话排他性特征,使得迫切需要填补特定对话任务和LM任务之间的空白。由于面向对话的预训练不太可能收集大量对话数据,因此本文提出了三种策略来模拟普通文本上的对话特征。我们提出的方法不同于现有的后训练方法,它可以产生一个通用的PrLM,并没有个性化的任何详细的任务,同时保持学习对话相关的功能,包括扬声器意识,连续性和一致性的能力。由此产生的Dialog-PrLM在三个公共的多轮对话数据集上进行了微调,并有助于实现对普通PrLM的显着和一致的改进。
2021-07-31 cs.CL
PerSo: Investigating Facets of LLMs' Social Intelligence in Real-World Persuasion Scenarios
School of Electrical and Computer Engineering, College of Engineering, University of Tehran(德黑兰大学工程学院电气与计算机工程学院);Cardiff University(卡迪夫大学);Institute for Research in Fundamental Sciences (IPM)(基础科学研究所);Tehran Institute for Advanced Studies, Khatam University(哈塔姆大学德黑兰高级研究院)
该研究推出PerSo基准,利用Reddit真实说服对话评估LLMs的社会智能,发现LLM性能随规模提升,在行为任务上略超人类最佳表现,认知任务仍逊于人类。
2026-10-15 cs.AI cs.CL cs.SI
Investigating Conversational Search Behavior For Domain Exploration
Technical University of Munich(慕尼黑工业大学);University of Twente(特温特大学)
对话式搜索作为一种新的信息检索模式,标志着从传统的搜索系统向具有智能搜索代理的交互式对话的转变。这种变化特别影响探索性的信息搜索环境,其中会话搜索系统可以引导发现不熟悉的领域。在这些场景中,用户发现由于不充分的背景知识,通常难以表达他们的信息目标。对话界面可以通过引出信息需求和缩小搜索空间来提供帮助。然而,由于信息寻求行为的复杂性,用于检索信息的会话界面的设计仍然是一个巨大的挑战。虽然以前的工作已经采用用户研究经验地面的系统设计,大多数现有的研究仅限于定义明确的搜索任务或已知的领域,因此,探索性的性质。因此,我们进行了一项实验室研究,以调查开放式搜索行为导航通过未知的信息景观。该研究由26名参与者组成,他们的搜索仅限于文本聊天界面。基于收集到的对话记录,我们应用统计分析和过程挖掘技术,揭示了五个不同领域的一般信息寻求模式。我们不仅确定了核心对话行为和它们之间的相互关系,使用户能够发现领域知识,但也得到会话搜索系统的设计建议。
2023-02-27 cs.CL
Different Games in Dialogue: Combining character and conversational types in strategic choice
Université de Paris(巴黎大学);CNRS(法国国家科学研究中心);Laboratoire de Linguistique Formelle(形式语言学实验室)
本文研究会话类型与角色类型的交互,提出结合二者计算对话动作选择的方法,并建立数学模型定量刻画其相互作用。
2023-07-05 cs.CL
Grounding Gaps in Language Model Generations
Stanford University(斯坦福大学)
本文构建接地行为与量化指标,对比多对话数据集中的LLM与人类发言,发现LLM更少进行澄清和确认,并揭示偏好优化训练会加剧这一接地缺口。
2024-04-02 cs.CL cs.HC
"In Dialogues We Learn": Towards Personalized Dialogue Without Pre-defined Profiles through In-Dialogue Learning
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Ant Group(蚂蚁集团);University of Electronic Science and Technology of China(电子科技大学);Kunming University of Science and Technology(昆明理工大学)
提出In-Dialogue Learning (IDL)微调框架,使预训练大语言模型能利用对话历史刻画人物画像,在无需预定义画像的情况下完成个性化对话生成,并在三个数据集上取得显著提升。
2024-10-13 cs.AI cs.CL
DialogueBERT: A Self-Supervised Learning based Dialogue Pre-training Encoder
JD AI(京东人工智能);Xiaoduo AI(晓多人工智能)
随着人工智能的快速发展,会话机器人已经在主流电子商务平台中盛行,它可以及时提供便捷的客户服务。为了满足用户,会话机器人需要理解用户的意图,检测用户的情感,并从会话语句中提取关键实体。然而,理解对话被认为是一项非常具有挑战性的任务。与一般的语言理解不同,对话中的话语是从不同的角色交替出现的,并且通常被组织成层次结构。为了促进对话的理解,在本文中,我们提出了一种新的上下文对话编码器(即对话BERT)的基础上流行的预训练的语言模型BERT。设计了五个自监督学习预训练任务来学习会话话语的特殊性。四种不同的输入嵌入,包括话轮嵌入,角色嵌入,标记嵌入和位置嵌入的集成来捕捉话语之间的关系。DialogueBERT在真实场景中预先训练了7000万个对话,然后在三个不同的下游对话理解任务中进行了微调。实验结果表明,DialogueBERT在意图识别、情感识别和命名实体识别方面分别取得了88.63%、94.25%和97.04%F1的优异成绩,大大优于几个强基线。
2021-09-22 cs.AI cs.CL
Dialogue Planning via Brownian Bridge Stochastic Process for Goal-directed Proactive Dialogue
The Hong Kong Polytechnic University(香港理工大学)
提出基于布朗桥随机过程的对话规划方法,建模对话路径动态,利用预训练语言模型生成路径作为提示,提升目标导向对话的连贯性和成功率。
2023-05-09 cs.CL cs.LG
Data Augmentation Integrating Dialogue Flow and Style to Adapt Spoken Dialogue Systems to Low-Resource User Groups
The University of Electro-Communications(电气通信大学)
本研究提出一种融合对话流程与风格的数据增强框架,利用LLM提取说话风格和PLM模拟对话行为历史,以提升口语对话系统在低资源用户群体(如未成年人)上的性能,实验验证了其有效性。
2024-08-20 cs.AI cs.CL
DiaSynth: Synthetic Dialogue Generation Framework for Low Resource Dialogue Applications
Nanyang Technological University(南洋理工大学);Singapore Institute of Technology(新加坡理工学院)
针对特定领域对话数据集稀缺限制对话系统发展的问题,提出基于大型语言模型(LLMs)和思维链(CoT)推理的DiaSynth合成对话生成框架,实验表明其生成的合成数据可提升对话摘要模型性能,且质量随LLM规模增大而提升,为低资源对话应用提供数据支持。
2025-02-10 cs.CL cs.LG
Investigating the Representation of Backchannels and Fillers in Fine-tuned Language Models
Bielefeld University(比勒菲尔德大学);Southern University of Science and Technology(南方科技大学);KTH Royal Institute of Technology(皇家理工学院)
本文通过三种微调策略研究回话用语和填充词在语言模型中的表示,发现微调能提升模型区分语义差异的能力,使生成的对话更接近人类语言。
2026-04-25 cs.CL
Advances in Multi-turn Dialogue Comprehension: A Survey
Shanghai Jiao Tong University(上海交通大学);MoE Key Lab of Artificial Intelligence, AI Institute, Shanghai Jiao Tong University(教育部人工智能重点实验室、上海交通大学人工智能研究院)
训练机器理解自然语言并与人类交互是人工智能的一项难以实现的基本任务。随着深度学习技术的快速发展,特别是最近的预训练语言模型(PrLM),设计了各种各样的对话系统。在这些研究中,基本但具有挑战性的任务类型是对话理解,其作用是教机器在响应之前阅读和理解对话上下文。在本文中,我们回顾了以前的方法从技术角度的对话理解任务的对话建模。我们总结了对话理解的特点和挑战,对比纯文本阅读理解。然后,我们讨论了三种典型的对话建模模式。此外,我们对对话相关的预训练技术进行了分类,这些技术用于增强对话场景中的PrLM。最后,我们强调了近年来的技术进步,并指出了经验分析的教训和展望新的研究前沿。
2021-10-12 cs.AI cs.CL cs.HC
Investigating Reinforcement Learning for Communication Strategies in a Task-Initiative Setting
Rutgers University(罗格斯大学)
本研究在指称通信任务中探索交互策略,通过模拟分析初始呈现与后续跟进的通信权衡,发现基于连贯性的对话策略表示具有数据需求小、选择可解释、审计能力强且预测损失极小的优势。
2023-08-03 cs.CL
Advances in Multi-turn Dialogue Comprehension: A Survey
训练机器理解自然语言并与人类交互是人工智能的一项难以实现的基本任务。随着深度学习技术的快速发展,特别是最近的预训练语言模型(PrLM),设计了各种各样的对话系统。在这些研究中,基本但具有挑战性的任务类型是对话理解,其作用是教机器在响应之前阅读和理解对话上下文。在本文中,我们回顾了以前的方法从技术角度的对话理解任务的对话建模。我们总结了对话理解的特点和挑战,对比纯文本阅读理解。然后,我们讨论了三种典型的对话建模模式。此外,我们对对话相关的预训练技术进行了分类,这些技术用于增强对话场景中的PrLM。最后,我们强调了近年来的技术进步,并指出了经验分析的教训和展望新的研究前沿。
2021-10-12 cs.AI cs.CL cs.HC
Investigating the Impact of 9/11 on The Simpsons through Natural Language Processing
真实世界事件对虚构媒体的影响在美国卡通系列《辛普森一家》中尤为明显。虽然在节目的对话和视觉插科打诨中经常有非常直接的流行文化参考,但语气或情绪的微妙变化可能并不那么明显。我们的目标是使用自然语言处理来尝试搜索纽约911恐怖袭击前后词频、主题和情绪的变化。在2000年至2002年的相关期间,平均情绪随时间略有下降,但剧本仍然保持整体正值,表明《辛普森一家》的喜剧性质并没有特别明显地减弱。需要对其他社会问题的探索,甚至是具体的性格统计数据,以支持这里的发现。
2021-12-02 cs.CL
Be Selfish, But Wisely: Investigating the Impact of Agent Personality in Mixed-Motive Human-Agent Interactions
University of Southern California(南加州大学)
本文发现自我博弈强化学习训练的谈判系统因缺乏妥协导致协议失败,基于经济学理论设计了具备不同人格的智能体,证明在最大化自身利益同时避免谈判破裂的自私智能体表现最优。
2023-10-22 cs.AI cs.CL
Investigating Linguistic Pattern Ordering in Hierarchical Natural Language Generation
National Taiwan University(国立台湾大学)
自然语言生成是口语对话系统中的一个重要组成部分,它可以分为两个阶段:(1)句子规划:确定句子的整体结构;(2)表层实现:确定特定的词形并将句子结构扁平化为一个字符串。随着深度学习的兴起,大多数现代NLG模型都基于序列到序列(seq 2seq)模型,该模型基本上包含编码器-解码器结构;这些NLG模型通过联合优化句子规划和表面实现从头开始生成句子。然而,这种简单的编码器-解码器架构通常无法生成复杂的长句,因为解码器很难很好地学习所有的语法和措辞知识。本文介绍了一个NLG模型与层次的注意力解码器,其中的层次结构侧重于利用语言知识在一个特定的顺序。实验结果表明,该方法以较小的模型规模显著优于传统的seq 2seq模型,且分层注意力解码器的设计可应用于各种NLG系统。此外,基于语言模式的不同生成策略进行了调查和分析,以指导未来的NLG研究工作。
2018-09-19 cs.CL
WER is Unaware: Assessing How ASR Errors Distort Clinical Understanding in Patient Facing Dialogue
Ufonia Limited(Ufonia有限公司);University of York(约克大学);Oxford University Hospitals(牛津大学医院);Moorfields Eye Hospital(摩尔菲尔兹眼科医院)
本文提出通过LLM作为判断者评估ASR错误的临床影响,发现WER等指标与临床风险标签相关性低,引入优化的LLM模型提升评估准确性。
2026-01-19 cs.AI cs.CL
Strategies of Code-switching in Human-Machine Dialogs
University of Haifa(海法大学);University of Pittsburgh(匹兹堡大学);Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本研究开发了一个能使用西班牙语和英语进行语码转换的聊天机器人来完成 Map Task,通过两项实验考察了此类实验研究双语使用的可行性及参与者对语篇和语法模式变化的敏感性,发现可预测的语码转换能提升参与者体验与成功率。
2025-08-10 cs.AI cs.CL
Language Model as an Annotator: Exploring DialoGPT for Dialogue Summarization
Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室)
当前的对话摘要系统通常用多个一般语义特征(例如,关键字和主题),以获得更强大的对话建模功能。然而,这些功能是通过开放域工具包获得的,这些工具包与对话无关或严重依赖于人类注释。在本文中,我们展示了如何DialoGPT,一个预先训练的会话响应生成模型,可以开发为一个无监督的对话注释器,它利用DialoGPT中编码的对话背景知识。我们应用DialoGPT来标记两个对话摘要数据集SAMSum和AMI上的三种类型的特征,并使用预训练和非预训练模型作为我们的摘要。实验结果表明,我们提出的方法可以在两个数据集上获得显着的改善,并在SAMSum数据集上实现了新的最先进的性能。
2021-05-28 cs.CL
SPACE-3: Unified Dialog Model Pre-training for Task-Oriented Dialog Understanding and Generation
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团)
最近,预训练方法在面向任务的对话(TOD)系统中取得了显着的成功。然而,大多数现有的TOD预训练模型专注于对话理解或对话生成,但不是两者兼而有之。在本文中,我们提出了SPACE-3,这是一种新的统一的半监督预训练会话模型,它从具有有限注释的大规模对话语料库中学习,可以在广泛的下游对话任务中进行有效的微调。具体而言,SPACE-3由单个Transformer中的四个连续组件组成,以维持TOD系统中的任务流:(i)对话编码模块,用于对对话历史进行编码,(ii)对话理解模块,用于从用户查询或系统响应中提取语义向量,(iii)对话策略模块,用于生成包含响应的高级语义的策略向量,以及(iv)用于产生适当响应的对话生成模块。我们为每个组件设计了专门的预培训目标。具体地说,我们用跨度掩码语言建模来预训练对话编码模块,以学习上下文化的对话信息。为了捕获结构化对话语义,我们通过一种新的树诱导的半监督对比学习目标与额外的对话注释的帮助下,预训练对话理解模块。此外,我们通过最小化其输出策略向量与响应的语义向量之间的L2距离来预训练对话策略模块,以进行策略优化。最后,通过语言建模对对话生成模型进行预训练。结果表明,SPACE-3在八个下游对话基准测试中达到了最先进的性能,包括意图预测、对话状态跟踪和端到端对话建模。我们还表明,SPACE-3具有更强的Few-Shot能力比现有的模型在低资源设置。
2022-09-14 cs.CL
Dialogue Distillation: Open-Domain Dialogue Augmentation Using Unpaired Data
NetEase Inc.(网易公司);Tsinghua University(清华大学);Samsung Research China - Beijing(三星电子中国研究院(北京));Alibaba Group(阿里巴巴集团)
开放领域对话系统的最新进展依赖于在大规模数据上训练的神经模型的成功。然而,收集大规模的对话数据通常是耗时耗力的。为了解决这个数据困境,我们提出了一种新颖的数据增强方法,通过利用不成对的数据来训练开放域对话模型。具体而言,首先提出了一个数据级蒸馏过程,以构建增强对话,其中的帖子和响应都是从未配对的数据中检索的。一个排名模块被用来过滤掉低质量的对话。此外,采用模型级提取过程来将在高质量配对数据上训练的教师模型提取为增强的对话对,从而防止对话模型受到增强数据中的噪声的影响。自动和手动评估表明,我们的方法可以产生高质量的对话对与不同的内容,和建议的数据级和模型级对话蒸馏可以提高竞争基线的性能。
2020-11-10 cs.CL
Integrating automatic speech recognition into remote healthcare interpreting: A pilot study of its impact on interpreting quality
University of Surrey(萨里大学)
本文通过一项中英医疗口译试点研究,验证了ASR完整转写及ChatGPT摘要能提升远程医疗口译质量,并探讨了最佳ASR输出呈现方式。
2025-02-05 cs.CL
DialogLM: Pre-trained Model for Long Dialogue Understanding and Summarization
Microsoft(微软)
对话是人类交流与合作的重要组成部分。现有的研究主要集中在一对一的短对话场景。然而,现实世界中的多人互动,如会议或面试,往往超过几千字。仍然缺乏相应的研究和强有力的工具来理解和处理这种漫长的对话。因此,在这项工作中,我们提出了一个长对话理解和总结的预训练框架。考虑到长对话的性质,我们提出了一种基于窗口的去噪方法用于生成式预训练。对于对话,它会用对话启发的噪音破坏文本窗口,并引导模型根据剩余对话的内容重建该窗口。此外,为了处理更长的输入,我们增加了稀疏注意力的模型,这是与传统的注意力以混合的方式相结合。我们在五个长对话数据集上进行了广泛的实验,包括对话摘要、抽象问答和主题分割。在实验中,我们证明了我们的预训练模型DialogLM在数据集和任务上明显优于最先进的模型。源代码和所有预训练的模型都可以在我们的GitHub存储库(https://github.com/microsoft/DialogLM)上找到。
2022-01-06 cs.CL
OmniDialog: An Omnipotent Pre-training Model for Task-Oriented Dialogue System
National University of Singapore(新加坡国立大学);Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究所)
提出OmniDialog,首个统一预训练对话管理、生成与理解任务的模型,通过多任务学习整合7个任务、15个数据集,在四项下游任务上验证了其有效性,尤其擅长长对话等困难样本。
2023-12-28 cs.CL
ConceptNet infused DialoGPT for Underlying Commonsense Understanding and Reasoning in Dialogue Response Generation
Mercedes-Benz AG(梅赛德斯-奔驰股份公司);Ulm University(乌尔姆大学)
预先训练的会话模型仍然无法捕获隐藏在对话交互中的隐含常识(CS)知识,即使它们是用巨大的数据集预先训练的。为了构建具有CS能力的对话代理,我们首先将外部知识注入到预先训练好的对话模型中,通过高效的适配器调优建立基本常识(第4节)。其次,我们提出了“双向学习”的方法,使CS知识和句子对之间的双向关系,使模型可以生成一个句子给定的CS三元组,也生成潜在的CS知识给定一个句子(第5节)。最后,我们利用这种集成的CS功能来提高开放域对话响应生成,使对话代理能够理解隐藏在对话历史中的CS知识,并推断相关的其他知识,以进一步指导响应生成(第6节)。实验结果表明,CS适配器融合有助于DialoGPT生成系列CS知识。从CommonGen训练中改编的DialoGPT+CS\_Adapter响应模型可以生成更适合对话上下文的底层CS三元组。
2022-09-29 cs.CL
TOD-BERT: Pre-trained Natural Language Understanding for Task-Oriented Dialogue
Salesforce Research(Salesforce研究院)
普通文本和任务型对话在语言模式上的根本差异使得现有的预训练语言模型在实践中用处不大。在这项工作中,我们统一了9个人与人之间的多回合面向任务的对话数据集,用于语言建模。为了在预训练期间更好地建模对话行为,我们将用户和系统令牌纳入掩蔽语言建模。我们提出了一个对比的目标函数来模拟反应选择任务。我们预先训练的面向任务的对话BERT(TOD-BERT)在四个下游面向任务的对话应用上的性能优于BERT等强基线,包括意图识别,对话状态跟踪,对话行为预测和响应选择。我们还表明,TOD-BERT具有更强的Few-Shot能力,可以缓解面向任务的对话的数据稀缺问题。
2020-10-01 cs.CL
GALAXY: A Generative Pre-trained Model for Task-Oriented Dialog with Semi-Supervised Learning and Explicit Policy Injection
Alibaba(阿里巴巴)
预先训练的模型在增强面向任务的对话系统方面已被证明是强大的。然而,目前的预训练方法主要集中在提高对话理解和生成任务,而忽略了开发的对话策略。在本文中,我们提出了GALAXY,一种新的预训练的对话模型,显式地学习对话策略,从有限的标记对话和大规模的未标记的对话语料库,通过半监督学习。具体来说,我们在预训练期间引入了一个对话行为预测任务来进行策略优化,并采用一致性正则化项来在未标记对话框的帮助下改进学习的表示。我们还实现了一个门控机制来衡量合适的未标记的对话框样本。实证结果表明,GALAXY大大提高了面向任务的对话系统的性能,并在基准数据集上取得了新的最先进的结果:In-Car,MultiWOZ2.0和MultiWOZ2.1,分别将其端到端综合得分提高了2.5,5.3和5.5分。我们还表明,GALAXY有一个更强的Few-Shot能力比现有的模型在各种低资源设置。
2022-03-29 cs.CL
SPACE-2: Tree-Structured Semi-Supervised Contrastive Pre-training for Task-Oriented Dialog Understanding
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
具有对比学习目标的预训练方法在对话理解任务中表现出显著的成功。然而,当前的对比学习仅将自增强对话样本视为正样本,而将所有其他对话样本视为负样本,这甚至对于语义相关的对话实施了不同的表示。在本文中,我们提出了SPACE-2,一个树结构的预训练会话模型,它通过半监督对比预训练从有限的标记对话和大规模的未标记对话语料库中学习对话表示。具体地说,我们首先定义了一个通用的语义树结构(STS),以统一不同的对话数据集之间的不一致的注释模式,使丰富的结构信息存储在所有标记的数据可以被利用。然后,我们提出了一种新的多视图评分函数,以增加共享相似STS的所有可能对话的相关性,并且在监督对比预训练期间仅推开其他完全不同的对话。为了充分利用未标记的对话框,还添加了基本的自监督对比损失以改进学习的表示。实验表明,我们的方法可以实现新的国家的最先进的结果DialogLUE基准组成的七个数据集和四个流行的对话理解任务。为了重现性,我们在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/space-2上发布代码和数据。
2022-09-14 cs.CL
DialoGLUE: A Natural Language Understanding Benchmark for Task-Oriented Dialogue
Carnegie Mellon University(卡内基梅隆大学);Amazon Alexa AI(亚马逊Alexa人工智能)
面向任务的对话研究的一个长期目标是能够灵活地调整对话模型以适应新的领域。为了推进这一方向的研究,我们引入了DialogLUE(对话语言理解评估),这是一个公共基准,由7个面向任务的对话数据集组成,涵盖4个不同的自然语言理解任务,旨在鼓励基于表示的迁移,领域自适应和样本有效任务学习的对话研究。我们发布了几个强大的基线模型,通过在大型开放域对话语料库上进行预训练和任务自适应自监督训练,在普通BERT架构上展示了性能改进,并在7个任务中的5个任务上获得了最先进的结果。通过DialogLUE基准、基线方法和我们的评估脚本,我们希望能够促进开发更通用的面向任务的对话模型的目标。
2020-10-01 cs.AI cs.CL
Prismatic VLMs: Investigating the Design Space of Visually-Conditioned Language Models
Stanford University(斯坦福大学);Toyota Research Institute(丰田研究所)
本文系统研究了视觉条件语言模型的设计空间,编制标准化评估套件并沿关键设计轴进行严格分析,提出统一框架、优化代码和检查点,其7-13B规模模型严格优于现有最先进的开放VLMs。
2024-05-30 cs.AI cs.CL cs.CV