Cue-CoT: Chain-of-thought Prompting for Responding to In-depth Dialogue Questions with LLMs
The Chinese University of Hong Kong（香港中文大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；National University of Singapore（新加坡国立大学）；Peng Cheng Laboratory（鹏城实验室）
提出Cue-CoT，一种基于语言线索的思维链提示方法，通过中间推理步骤发现对话中的性格、情感和心理线索，以增强LLM对深度对话问题的响应，实验表明其在帮助性和可接受性上优于标准提示。
2023-10-15 cs.AI cs.CL
LLMs Infer Cultural Context but Fail to Apply It When Responding
University of British Columbia（不列颠哥伦比亚大学）；Vector Institute（向量研究所）；National University of Singapore（新加坡国立大学）
研究大型语言模型在生成文化适应性回应时，能否根据用户文化背景使用本地计量单位。提出CAPRI数据集，实验发现模型能推断文化背景但常未能应用，除非明确提示。
2026-10-16 cs.CL
DialoGPS: Dialogue Path Sampling in Continuous Semantic Space for Data Augmentation in Multi-Turn Conversations
Renmin University of China（中国人民大学）；Peking University（北京大学）；Alibaba DAMO Academy（阿里巴巴达摩院）
本文提出DialoGPS，首个多轮对话的多对多数据增强方法，通过在连续语义空间中映射对话到扩展Brownian Bridge并采样潜在变量形成连贯对话路径，解决了离散替换破坏上下文连贯性的问题，经自动和人工评估验证有效。
2023-06-29 cs.AI cs.CL
Fine-Grained Sentence Functions for Short-Text Conversation
Tencent AI Lab（腾讯人工智能实验室）；Soochow University（苏州大学）
句子功能是一个重要的语言特征，它反映了使用者在表达某一特定句子时的意图。句子功能的使用已经显示出有希望的结果，以提高会话模型的性能。然而，没有用句子功能注释的大型会话数据集。在这项工作中，我们收集了一个新的短文本会话数据集与手动注释SENTENCE功能（STC-Sepun）。在此数据集上训练分类模型，以（i）识别大量短文本对话语料库中新数据的句子功能;（ii）估计给定测试查询的响应的正确句子功能。我们随后训练会话模型的条件下的句子功能，包括信息检索为基础的和神经生成模型。实验结果表明，句子功能的使用可以帮助提高返回响应的质量。
2019-11-22 cs.CL
An Information Retrieval Approach to Short Text Conversation
Huawei Technologies（华为技术有限公司）
人机对话被认为是人工智能中最困难的问题之一。在本文中，我们解决它的一个关键的子问题，被称为短文本会话，其中给定的消息从人类，计算机返回一个合理的响应消息。我们利用社交媒体上大量的简短对话数据来研究这个问题。我们建议在第一步将短文本会话形式化为搜索问题，并采用最先进的信息检索（IR）技术来执行任务。我们调查的意义，以及限制IR方法。我们的实验表明，检索为基础的模型可以使系统的行为，而“智能”，当与一个巨大的存储库的会话数据从社交媒体。
2014-08-29 cs.CL cs.IR
SI-LSTM: Speaker Hybrid Long-short Term Memory and Cross Modal Attention for Emotion Recognition in Conversation
针对对话情感识别中说话人状态追踪与多模态交互建模不足的问题，提出SI-LSTM循环结构并结合跨模态注意力，在两个基准数据集上优于现有基线。
2023-06-06 cs.AI cs.CL cs.HC
AgenticAI-DialogGen: Topic-Guided Conversation Generation for Fine-Tuning and Evaluating Short- and Long-Term Memories of LLMs
School of Computing, Macquarie University（麦考瑞大学计算机学院）
本文提出AgenticAI-DialogGen框架，通过生成基于角色和主题的对话来微调和评估LLM的短期和长期记忆，引入了TopicGuidedChat数据集以提升对话质量和模型性能。
2026-04-14 cs.CL cs.IR
A Large-Scale Chinese Short-Text Conversation Dataset
Tsinghua University（清华大学）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）；Samsung Research China - Beijing (SRC-B)（三星中国研究院-北京）
神经对话生成模型的发展在短文本对话建模方面显示出了良好的效果。然而，训练这样的模型通常需要一个大规模的高质量的对话语料库，这是很难访问。在本文中，我们提出了一个大规模的清洁的中文会话数据集，LCCC，它包含一个基本版本（680万对话）和一个大版本（1200万对话）。我们的数据集质量由严格的数据清理管道确保，该管道是基于一组规则和一个分类器构建的，该分类器是在手动注释的110 K对话对上训练的。我们还发布了分别在LCCC-base和LCCC-large上训练的预训练对话模型。清洗后的数据集和预训练模型将有助于短文本会话建模的研究。所有的模型和数据集都可以在https://github.com/thu-coai/CDial-GPT上找到。
2022-04-26 cs.CL
Generating Multiple Diverse Responses for Short-Text Conversation
Soochow University（苏州大学）；Tencent AI Lab（腾讯人工智能实验室）
神经生成模型已经变得流行，并在短文本会话任务上取得了很好的性能。他们通常被训练来建立从输入帖子到其输出响应的1对1映射。然而，在实际应用中，一个给定的帖子通常同时与多个回复相关联。以往对该任务的研究主要集中在提高每个帖子的前一个生成响应的相关性和信息性。很少有作品研究为同一个帖子生成多个准确和不同的响应。在本文中，我们提出了一种新的响应生成模型，它考虑了一组响应，并同时产生多个不同的响应。设计了一个强化学习算法来求解模型。在两个短文本会话任务上的实验验证了该模型生成的多个响应与各种最先进的生成模型相比具有更高的质量和更大的多样性。
2019-02-21 cs.CL
A Discrete CVAE for Response Generation on Short-Text Conversation
Soochow University（苏州大学）；Tencent AI Lab（腾讯人工智能实验室）
神经会话模型，如编码器-解码器模型，很容易产生平淡和一般的反应。一些研究人员提出使用条件变分自编码器（CVAE），它最大化连续潜变量的条件对数似然的下限。对于不同的潜变量样本，该模型预计会产生不同的响应。虽然基于CVAE的模型已经显示出巨大的潜力，但它们在生成高质量响应方面的改进仍然不能令人满意。在本文中，我们引入了一个离散的潜在变量，具有明确的语义意义，以改善CVAE短文本会话。我们的模型的一个主要优点是，我们可以利用隐变量之间的语义距离，以保持良好的多样性之间的采样隐变量。因此，我们提出了一个两阶段的抽样方法，使有效的多样性变量选择从一个大的潜在空间假设在短文本会话任务。实验结果表明，我们的模型优于各种生成模型下的自动和人工评价，并产生更多样化和信息的反应。
2019-11-22 cs.CL
Predict and Use Latent Patterns for Short-Text Conversation
Academia Sinica（中央研究院）
目前，许多神经网络模型在Chit-chat环境中取得了令人满意的性能。它们中的大多数依赖于编码器来理解帖子和解码器来生成响应。在没有指定语义的情况下，模型缺乏对响应的细粒度控制，因为帖子和响应之间的语义映射隐藏在端到端方式中。以前的一些作品利用采样的潜在的话作为一个可控的语义形式，以驱动周围的工作产生的反应，但很少有作品试图使用更复杂的语义模式来指导一代。在本文中，我们建议使用更详细的语义形式，包括潜在的反应和部分的语音序列从相应的分布采样，作为可控的语义来指导生成。我们的研究结果表明，更丰富的语义不仅能够提供信息丰富和多样化的反应，但也提高了整体性能的反应质量，包括流畅性和连贯性。
2020-12-07 cs.AI cs.CL
Making a Long Story Short in Conversation Modeling
Portland State University（波特兰州立大学）；Hello Lamp Post
本研究聚焦多轮对话建模，以GPT-3为基础模型结合多数据集与指标，探究话语长度对回复质量的影响，发现部分对话中话语最多可缩减72%而不明显降低后续回复质量。
2024-01-31 cs.CL cs.HC
The Conversational Short-phrase Speaker Diarization (CSSD) Task: Dataset, Evaluation Metric and Baselines
Institute of Acoustics, Chinese Academy of Sciences（中国科学院声学研究所）
会话场景是语音处理技术中最重要和最具挑战性的场景之一，因为人们在会话中以随意的方式相互响应。检测会话中每个人的语音活动对于后续任务（如自然语言处理、机器翻译等）至关重要。传统上，日志出错率（DER）一直被用作SD系统的标准评价指标。然而，DER未能给予足够的重视，短会话短语，这是短，但在语义层面上的重要性。此外，一个仔细和准确的手动注释的测试数据集适合于评估会话SD技术仍然是不可用的语音社区。在本文中，我们设计和描述会话短句说话人日记（CSSD）任务，它包括训练和测试数据集，评估指标和基线。在数据集方面，尽管之前开源了180小时的对话MagicData-RAMC数据集，但我们为CSSD任务准备了一个单独的20小时对话语音测试数据集，其中包含仔细和人工验证的扬声器时间戳注释。在度量方面，我们设计了新的会话DER（CDER）评估度量，它在话语级别上计算SD准确度。在基线方面，我们采用了一种常用的方法：变分贝叶斯HMM x向量系统，作为CSSD任务的基线。我们的评估指标可在https://github.com/SpeechClub/CDER_Metric上公开获取。
2022-08-17 cs.CL cs.SD eess.AS
Long-Short Distance Graph Neural Networks and Improved Curriculum Learning for Emotion Recognition in Conversation
School of Software Technology, Dalian University of Technology（大连理工大学软件学院）
本文提出长短期距离图神经网络与改进课程学习方法，用于对话中情绪识别，通过多模态特征提取和优化训练策略提升模型性能。
2025-07-24 cs.AI cs.CL cs.LG
Adaptation of fictional and online conversations to communication media
National Institute of Physics, University of the Philippines Diliman（菲律宾大学迪利曼分校国家物理研究所）
对话允许短信息的快速传输，并且可以合理地预期通信媒介的变化会影响我们的对话方式。在小说作品和在线社交网络平台中使用对话，我们表明，对话的话语长度随着时间的推移慢慢缩短，但更强烈地适应通信介质的约束。这表明，任何新的交流媒介的引入都可能影响自然语言的进化方式。
2013-01-08 cs.CL physics.data-an physics.soc-ph
EnsembleGAN: Adversarial Learning for Retrieval-Generation Ensemble Model on Short-Text Conversation
Turing Robot（图灵机器人）；Peking University（北京大学）
生成定性响应一直是人机对话系统的挑战。现有的对话系统一般来自基于检索或基于生成的方法，这两个都有自己的优点和cons.Despite自然的想法集成模型的两个，现有的集成方法只集中在利用一种方法来提高另一个，但是我们认为，他们可以进一步相互增强与适当的培训策略。在本文中，我们提出了ensembleGAN，一个对抗性学习框架，用于增强开放域会话场景中的检索生成集成模型。它由一个类似语言模型的生成器、一个排名生成器和一个排名生成器组成。为了生成近似地面真实的响应并从排序器获得高排名分数，这两个生成器分别学习生成改进的高度相关响应和竞争性未观察到的候选项，而区分性排序器则被训练用于从对抗性响应中识别真实响应，从而具有两个生成器对应物的优点。在大量短文本会话数据上的实验结果证明了该方法的有效性。
2020-04-30 cs.CL cs.IR
Relevance-Promoting Language Model for Short-Text Conversation
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯人工智能实验室）
尽管序列到序列框架在短文本对话（STC）任务上是有效的，但是训练数据的利用不足的问题（即，来自查询文本的监督信号是\textit{ignored}）仍然未解决。此外，所采用的基于\textit{maximization}的解码策略倾向于生成通用响应或具有重复的响应，不适合STC任务。在本文中，我们建议将STC任务制定为语言建模问题，并定制一个训练策略，以适应响应生成的语言模型。为了提高生成性能，我们设计了一个相关促进Transformer语言模型，它执行额外的监督源关注后的自我注意，以增加信息查询令牌的重要性，在计算令牌级表示。该模型进一步细化查询表示与相关性线索推断，从它的多个参考在训练过程中。在测试中，我们采用了\textit{randomization-over-maximization}策略来减少通用响应的生成。在一个大型中文STC数据集上的实验结果表明，该模型在相关性度量和多样性度量方面具有优越性。\footnote {代码可从https://ai.tencent.com/ailab/nlp/dialogue/获得。
2019-11-26 cs.CL
Sequence to Backward and Forward Sequences: A Content-Introducing Approach to Generative Short-Text Conversation
Peking University（北京大学）
在过去几年中，使用神经网络在人机对话系统中生成应答引起了越来越多的关注。然而，性能并不令人满意：神经网络倾向于生成安全的、普遍相关的回复，这些回复没有什么意义。在本文中，我们提出了一种基于神经网络的生成式对话系统的内容引入方法。我们首先使用逐点互信息（PMI）来预测一个名词作为关键字，反映了回复的主旨。然后，我们提出了seq2BF，一个“序列到向后和向前序列”的模型，它生成一个包含给定关键字的回复。实验结果表明，我们的方法显着优于传统的序列到序列模型在人类的评价和熵的措施，预测的关键字可以出现在一个适当的位置，在答复。
2016-10-13 cs.CL cs.LG
Detecting Context Dependent Messages in a Conversational Environment
Beihang University（北京航空航天大学）；Microsoft Research（微软研究院）；Nankai University（南开大学）
虽然用于构建聊天机器人系统的自动响应生成最近引起了很多关注，但我们对何时需要在生成过程中考虑输入文本的语言上下文的理解有限。这项任务是具有挑战性的，因为在对话环境中的消息是简短和非正式的，并且可以表明消息是上下文相关的证据很少。经过对从网络上抓取的社交会话数据的研究，我们观察到，从消息的响应中估计的一些特征对于识别上下文相关的消息是有区别的。针对弱监督的特点，我们提出使用长短期记忆（LSTM）网络来学习分类器。我们的方法在一个统一的框架中进行文本表示和分类器学习。实验结果表明，该方法在分类精度上明显优于基线方法。
2016-11-03 cs.CL
MemTool: Optimizing Short-Term Memory Management for Dynamic Tool Calling in LLM Agent Multi-Turn Conversations
Commercial Technology and Innovation Office, PricewaterhouseCoopers（普华永道商业技术与创新办公室）
针对LLM智能体多轮对话中固定上下文窗口限制工具调用效能的问题，提出具备三种架构的短期记忆框架MemTool，经多模型基准实验验证不同模式的效率与准确率差异并给出使用建议。
2025-07-29 cs.CL
Use of a Taxonomy of Empathetic Response Intents to Control and Interpret Empathy in Neural Chatbots
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
本文提出使用包含八种共情回复意图的分类法构建可控且可解释的神经聊天机器人对话回复生成模型，通过情感/意图预测和回复生成两个模块，生成比端到端模型更多样化、更合适的共情回复。
2023-05-17 cs.AI cs.CL
Short Text Conversation Based on Deep Neural Network and Analysis on Evaluation Measures
Nation Central University（中央大学）
随着自然语言处理的发展，自动问答系统如Waston、Siri、Alexa等已经成为自然语言处理的重要应用之一。如今，企业尝试构建自动定制服务聊天机器人，以节省人力资源并提供24小时客户服务。目前，聊天机器人的评估在很大程度上依赖于人工注释，这需要花费大量时间。因此，已经启动了一个新的短文本对话子任务，称为对话质量（DQ）和掘金检测（ND），旨在自动评估聊天机器人生成的对话。本文采用深度神经网络求解DQ和ND子任务。针对DQ和ND子任务提出了两个模型，该模型采用层次结构：嵌入层、话语层、语境层和记忆层，从词级、句子级、语境级到长距离语境级进行对话表征的层次学习。此外，我们在话语层和上下文层应用门控和注意力机制来提高性能。我们还尝试用BERT代替嵌入层和话语层作为句子表示。实验结果表明，BERT在DQ和ND两个子任务上都比多栈CNN产生了更好的话语表示，并且优于其他研究提出的其他模型。本文提出的评价指标是NMD、RSNOD（用于DQ）和RNSS（用于ND），而不是传统的评价指标如准确率、精确率、召回率和f1-score。因此，我们用传统的评价方法进行了一系列的实验，并分析了其性能和误差。
2019-07-06 cs.CL
The Role of Conversation Context for Sarcasm Detection in Online Interactions
Rutgers University（罗格斯大学）；Columbia University（哥伦比亚大学）
用于讽刺检测的计算模型通常依赖于孤立的话语内容。然而，如果没有额外的语境，说话人的讽刺意图并不总是显而易见的。聚焦于社交媒体讨论，我们研究两个问题：（1）会话上下文的建模是否有助于讽刺检测和（2）我们是否可以理解会话上下文的哪一部分触发了讽刺回复。为了解决第一个问题，我们研究了几种类型的长短期记忆（LSTM）网络，它们可以对会话上下文和讽刺反应进行建模。我们证明了条件LSTM网络（Rocktaschel等人，2015），并且对上下文和响应具有句子级别注意力的LSTM网络优于仅读取响应的LSTM模型。为了解决第二个问题，我们对LSTM模型产生的注意力权重进行了定性分析，并将结果与人类在任务上的表现进行了比较。
2017-07-19 cs.AI cs.CL cs.LG
Dynamic Long Short-Term Memory Based Memory Storage For Long Horizon LLM Interaction
University of Washington（华盛顿大学）
本文提出Pref-LSTM框架，将BERT分类器与LSTM记忆模块结合，通过软提示注入冻结LLM，以轻量方式实现长对话中的用户偏好建模。
2025-07-03 cs.AI cs.CL
Microblog Hashtag Generation via Encoding Conversation Contexts
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯人工智能实验室）
自动主题标签标注在微博内容理解中起着重要作用。到目前为止，在这一领域取得的进展已被限制在短语选择从有限的候选人，或单词级的主题标签发现使用主题模型。不同于以往的工作认为主题标签是不可分割的，我们的工作是第一次努力注释主题标签与一个新的序列生成框架，通过查看主题标签作为一个短序列的话。此外，为了解决处理短微博帖子的数据稀疏性问题，我们提出了双向注意的目标帖子和由它们发起的会话上下文的联合建模。在两个大规模数据集上的大量实验结果表明，我们的模型明显优于基于分类的最新模型。进一步的研究表明，我们有能力有效地生成罕见的，甚至看不见的标签，但这是不可能的大多数现有的方法。
2019-05-18 cs.CL
Bi-ISCA: Bidirectional Inter-Sentence Contextual Attention Mechanism for Detecting Sarcasm in User Generated Noisy Short Text
Shiv Nadar University（希夫·纳达尔大学）；Accenture Technology Labs（埃森哲技术实验室）
社交媒体平台上的许多在线评论是仇恨的，幽默的，或讽刺的。这些评论（尤其是短评论）的讽刺性质改变了它们实际隐含的情感，这导致了现有情感分析模型的误解。大量的研究已经做了检测讽刺的文本中使用基于用户的，主题和会话信息，但没有太多的工作已经做了使用句间上下文信息检测相同。本文提出了一种新的最先进的深度学习架构，该架构使用一种新的双向句间上下文注意力机制（Bi-ISCA）来捕获句间依赖关系，以便仅使用会话上下文来检测用户生成的短文本中的讽刺。所提出的深度学习模型展示了捕获负责引起讽刺的显式、隐式和上下文不一致的单词和短语的能力。Bi-ISCA在两个广泛使用的讽刺检测任务基准数据集（Reddit和Twitter）上生成最先进的结果。据我们所知，没有一个现有的国家的最先进的模型使用一个句子间的上下文注意力机制，以检测讽刺的用户生成的短文本中使用的会话上下文。
2021-04-20 cs.CL
Adapting Document-Grounded Dialog Systems to Spoken Conversations using Data Augmentation and a Noisy Channel Model
Human Language Technology and Pattern Recognition Group, RWTH Aachen University（亚琛工业大学人类语言技术与模式识别组）；AppTek GmbH（AppTek有限责任公司）
本文总结了我们提交的任务2的第10届对话系统技术挑战赛（DSTC 10）的第二个轨道“基于知识的面向任务的对话建模口语对话”。与前一年的迭代类似，该任务由三个子任务组成：检测一个回合是否是知识寻求，选择相关的知识文档，最后生成一个接地的响应。今年，重点在于使系统适应嘈杂的ASR成绩单。我们探索不同的方法，使模型更强大的这种类型的输入，并适应口语对话的风格所产生的反应。对于后者，我们得到了最好的结果与嘈杂的信道模型，另外减少了短和通用的响应的数量。我们最好的系统在自动评估中获得了第一名，在人工评估中获得了第三名。
2021-12-16 cs.AI cs.CL cs.LG
Is the User Enjoying the Conversation? A Case Study on the Impact on the Reward Function
Orange-Labs（Orange实验室）
策略学习任务导向型对话系统的使用者满意度的影响一直是研究的兴趣。目前大多数用于估计用户满意度的模型要么（i）处理上下文外的短文本，如产品评论，要么（ii）依赖于转向特征，而不是分布式语义表示。在这项工作中，我们采用深度神经网络，使用分布式语义表示学习来估计会话中的用户满意度。我们评估了这些网络中建模上下文长度的影响。此外，我们表明，所提出的分层网络优于国家的最先进的质量估计。此外，我们表明，应用这些网络来推断部分可观察马尔可夫决策过程（POMDP）中的奖励函数，可以大大提高任务成功率。
2021-01-13 cs.AI cs.CL cs.HC
Persian Slang Text Conversion to Formal and Deep Learning of Persian Short Texts on Social Media for Sentiment Classification
Tarbiat Modares University（塔比阿特莫达雷斯大学）
本文提出波斯语俚语转换工具 PSC，将社交媒体会话文本转为正式文本，并结合 FastText 与深度 LSTM 对短文本进行情感分类，在 Instagram 评论数据上取得 81.91% 准确率。
2024-09-03 cs.CL cs.LG
QiBERT -- Classifying Online Conversations Messages with BERT as a Feature
本文提出 QiBERT，利用 SBERT 嵌入作为监督学习特征，对葡萄牙学校在线辩论中的短文本消息进行是否切题的分类，平均准确率超过 0.95。
2024-09-09 cs.CL
LineConGraphs: Line Conversation Graphs for Effective Emotion Recognition using Graph Neural Networks
IIT Madras（印度理工学院马德拉斯分校）；National Institute of Standards and Technology（美国国家标准与技术研究院）；University of Maryland, College Park（马里兰大学帕克分校）
针对ERC中说话者依赖和长上下文干扰问题，本文提出仅含相邻话语的说话者无关LineConGraphs及LineConGCN、LineConGAT模型，在IEMOCAP和MELD上取得SOTA性能。
2023-12-04 cs.AI cs.CL cs.HC
Sarcasm Analysis using Conversation Context
Yale University（耶鲁大学）；Columbia University（哥伦比亚大学）
用于讽刺检测的计算模型通常依赖于孤立的话语内容。然而，如果没有额外的上下文，说话者的讽刺意图并不总是显而易见的。聚焦于社交媒体讨论，我们研究了三个问题：（1）建模会话上下文是否有助于讽刺检测;（2）我们能否识别会话上下文的哪一部分触发了讽刺回复;以及（3）给定包含多个句子的讽刺帖子，我们能否识别讽刺的特定句子。为了解决第一个问题，我们研究了几种类型的长短期记忆（LSTM）网络，它们可以对会话上下文和当前回合进行建模。我们发现，对上下文和当前回合具有高度关注的LSTM网络，以及条件LSTM网络（Rocktaschel et al. 2016），优于仅读取当前回合的LSTM模型。作为会话语境，我们考虑前一话轮、后一话轮或两者。我们的计算模型在两种类型的社交媒体平台上进行了测试：Twitter和讨论论坛。我们讨论了这些数据集之间的几个差异，从它们的大小到黄金标签注释的性质。为了解决最后两个问题，我们对LSTM模型（有注意力）产生的注意力权重进行了定性分析，并讨论了与人类在两项任务上的表现相比的结果。
2018-08-28 cs.CL
