Generating Information-Seeking Conversations from Unlabeled Documents
Korea University(高丽大学);NAVER AI Lab(NAVER人工智能实验室);KAIST AI(韩国科学技术院人工智能学院);NAVER CLOVA
在本文中,我们介绍了一种新的框架,SIMSEEK,(模拟信息寻求对话从无标签的文件),并比较它的两个变种。在我们的基准SIMSEEK-SYM中,提问者根据回答者的预定答案生成后续问题。而SIMSEEK-ASYM则是先生成问题,然后在会话语境下找到相应的答案。我们的实验表明,他们可以合成有效的CQA和会话搜索任务的训练资源。因此,SIMSEEK-ASYM的对话不仅在我们的实验中有了更多的改进,而且在人类评估中也得到了好评。我们最终发布了一个大规模的合成对话资源WIKI-SIMSEEK,其中包含基于维基百科文档构建的200万个CQA对。有了这个数据集,我们的CQA模型在最近的CQA基准测试QuAC上达到了最先进的性能。
2022-10-24 cs.CL
Augmenting Data for Sarcasm Detection with Unlabeled Conversation Context
RippleAI;SNU(首尔国立大学)
我们提出了一种新的数据增强技术,CRA(上下文响应增强),它利用会话上下文来生成有意义的样本进行训练。我们还通过改变模型的输入输出格式来缓解上下文长度不平衡的问题,使其能够有效地处理不同的上下文长度。具体来说,我们提出的模型,用提出的数据增强技术训练,参加了FigLang2020的讽刺检测任务,在Reddit和Twitter数据集中都获得了最佳性能。
2020-06-11 cs.CL
Video2GUI: Synthesizing Large-Scale Interaction Trajectories for Generalized GUI Agent Pretraining
National Key Laboratory for Multimedia Information Processing, School of Computer Science, Peking University(国家多媒体信息处理重点实验室,计算机科学学院,北京大学);The University of Hong Kong(香港大学);Renmin University of China(中国人民大学)
本文提出Video2GUI框架,通过自动提取互联网视频中的GUI交互轨迹,生成大规模数据集WildGUI,提升了GUI代理的泛化能力。
2026-05-14 cs.AI cs.CL cs.CV
MTR-Suite: A Framework for Evaluating and Synthesizing Conversational Retrieval Benchmarks
School of Computer Science and Engineering, Northeastern University(东北大学计算机科学与工程学院);Meituan Inc.(美团公司);NiuTrans Research(牛译研所);Tsinghua University(清华大学)
本文提出MTR-Suite框架,通过LLM审计、多智能体系统生成和通用领域基准,解决对话检索基准评估和合成中的成本高、标注稀疏和自动化方法僵化的问题。
2026-05-20 cs.CL
Curriculum-Driven Edubot: A Framework for Developing Language Learning Chatbots Through Synthesizing Conversational Data
Columbia University(哥伦比亚大学);Zhejiang University(浙江大学);University of Science and Technology of China(中国科学技术大学)
本文提出 Curriculum-Driven EduBot 框架,从教材提取主题并用 LLM 合成对话、微调开源模型,实验表明其在课程引导和适配英语水平方面优于 ChatGPT。
2024-08-03 cs.CL
Demonstrating CAT: Synthesizing Data-Aware Conversational Agents for Transactional Databases
Technical University of Darmstadt(达姆施塔特工业大学);LMU Munich(慕尼黑大学)
用于OLTP的数据库通常是酒店客房或电影票预订应用程序等应用程序的主干。然而,开发会话代理(即,类似聊天机器人的界面)以允许终端用户使用自然语言与应用交互,这需要大量的训练数据和NLP专业知识。这激发了CAT,它可以用来轻松地为事务数据库创建会话代理。其主要思想是,对于给定的OLTP数据库,CAT使用弱监督来合成所需的训练数据,以训练最先进的会话代理,允许用户与OLTP数据库交互。此外,CAT还提供了生成的代理与数据库的开箱即用集成。作为现有的会话代理的主要区别,CAT合成的代理是数据感知的。这意味着代理根据数据库中的当前数据分布决定应该向用户请求哪些信息,与非数据感知代理相比,这通常会导致明显更有效的对话。我们将CAT的代码作为开源发布。
2022-03-26 cs.CL cs.DB
Evaluating, Synthesizing, and Enhancing for Customer Support Conversation
本文提出客户支持对话(CSC)任务,构建基于COPC指南的五阶段十二策略框架,并利用LLM构建评估数据集CSConv和训练数据集RoleCS,微调后显著提升LLM生成策略对齐的高质量客服回复能力。
2025-11-08 cs.CL
Adaptation of Hierarchical Structured Models for Speech Act Recognition in Asynchronous Conversation
Nanyang Technological University(南洋理工大学);Salesforce Research Asia(Salesforce亚洲研究院)
我们解决了异步对话(论坛,电子邮件)中的言语行为识别(SAR)问题。与同步对话(例如,会议、电话),异步域缺乏大的标记数据集来训练有效的SAR模型。在本文中,我们提出的方法,有效地利用丰富的未标记的会话数据和可用的标记数据从同步域。我们的研究分三个主要步骤进行。首先,我们介绍了一个神经架构的基础上分层LSTM和条件随机场(CRF)的SAR,并表明,我们的方法优于现有的方法时,只在域内数据训练。其次,我们通过半监督学习改进了我们的初始SAR模型,这种半监督学习的形式是从大型未标记的会话语料库中学习的预训练词嵌入。最后,我们采用对抗性训练,通过利用来自同步域的标记数据和显式建模两个域中的分布变化来进一步改进结果。
2019-04-01 cs.CL cs.LG stat.ML
Few-Shot Emotion Recognition in Conversation with Sequential Prototypical Networks
LTCI, Télécom-Paris, Institut Polytechnique de Paris(巴黎理工学院巴黎电信学院LTCI实验室);Direction Innovation & Recherche SNCF(法国国家铁路公司创新与研究部)
最近几项关于人与人之间的二元互动的研究都是在没有特定商业目标的对话中进行的。然而,许多公司可能会受益于专门针对更精确环境的研究,如售后服务或客户满意度调查。在这项工作中,我们将自己置于实时聊天客户服务的范围内,我们希望在对话流中检测情绪及其演变。这种背景导致了多种挑战,从利用有限的,小的和大多数未标记的数据集,以寻找和适应这种情况下的方法。我们通过使用少样本学习来解决这些挑战,同时假设它可以为不同语言和稀疏标签的会话情感分类服务。我们通过提出一种原型网络的变体来进行序列标记,我们将其命名为ProtoSeq。我们在两个不同语言的数据集上测试了这种方法:英语日常对话和法语客户服务聊天对话。当应用于会话中的情感分类时,即使与其他方法相比,我们的方法也具有竞争力。
2021-09-20 cs.CL cs.LG
Classification As Decoder: Trading Flexibility For Control In Neural Dialogue
Curai
生成式seq 2seq对话系统被训练来预测已经发生的对话中的下一个单词。他们可以从大型未标记的对话数据集中学习,深入了解对话上下文,并生成各种各样的响应。这种灵活性以控制为代价。训练数据中不需要的响应将在推理时由模型再现,并且较长的代通常没有意义。我们训练一个分类器从预定义的完整响应列表中进行选择,而不是一次生成一个单词的响应。分类器在(会话上下文,响应类)对上进行训练,其中每个响应类是一组可互换的噪声标记响应。在推理时,我们生成与预测的响应类相关联的样例响应。专家可以随着时间的推移编辑和改进这些样本响应,而无需重新训练分类器或使旧的训练数据无效。对775次看不见的医生/患者对话的人类评估表明,这种权衡改善了反应。在相同的对话背景下,只有12%的区别性方法的反应比医生的反应更差,而生成模型的这一比例为18%。在没有对响应类别进行任何手动标记的情况下训练的判别模型实现了与生成模型相同的性能。
2019-10-17 cs.CL cs.LG
DocTalk: Scalable Graph-based Dialogue Synthesis for Enhancing LLM Conversational Capabilities
Nanyang Technological University(南洋理工大学);Amazon(亚马逊)
针对LLM预训练数据与多轮对话能力不匹配的问题,提出基于图的对话合成流水线,构建DocTalk语料库,预训练后上下文记忆和理解提升达40%。
2025-07-08 cs.CL
Towards Spontaneous Style Modeling with Semi-supervised Pre-training for Conversational Text-to-Speech Synthesis
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);XVerse Inc.(元象科技);The Chinese University of Hong Kong(香港中文大学)
针对自发性语音数据稀缺和标注成本高的问题,提出半监督预训练方法,结合文本与语音信息检测自发性行为,并利用语言感知编码器建模会话关系,实现表现性语音合成。
2023-08-31 cs.CL cs.LG cs.SD
An Unsupervised Dialogue Topic Segmentation Model Based on Utterance Rewriting
Beijing Information Science & Technology University(北京信息科技大学)
针对多轮对话中共指、省略影响无监督主题分割效果的问题,提出结合话语改写技术的UR-DTS模型,通过改写恢复共指与省略内容,在DialSeg711、Doc2Dial数据集上实现性能提升,达到无监督SOTA水平。
2024-09-12 cs.AI cs.CL
DACP: Domain-Adaptive Continual Pre-Training of Large Language Models for Phone Conversation Summarization
Dialpad Inc.(Dialpad公司)
本文提出域自适应持续预训练方法,利用大规模无标注商业对话数据增强大型语言模型的电话对话摘要能力,在域内外基准上均获显著提升。
2025-10-09 cs.AI cs.CL cs.LG
Towards Real-World Rumor Detection: Anomaly Detection Framework with Graph Supervised Contrastive Learning
School of Computer Science and Technology & Beijing Key Lab of Traffic Data Analysis and Mining(计算机科学与技术学院及北京交通数据挖掘与分析重点实验室)
针对真实世界谣言数据不平衡与稀缺问题,构建Weibo和Twitter大规模对话数据集,提出图监督对比学习异常检测框架AD-GSCL,在平衡、不平衡及少样本条件下均表现优越。
2025-08-10 cs.CL cs.SI
Classification as Decoder: Trading Flexibility for Control in Medical Dialogue
Stanford(斯坦福大学);Curai(Curai公司)
生成式seq 2seq对话系统被训练来预测已经发生的对话中的下一个单词。他们可以从大型未标记的对话数据集中学习,对对话上下文建立更深入的理解,并生成各种各样的响应。这种灵活性是以控制为代价的,这是医生/患者互动中的一个令人担忧的权衡。训练数据中的不准确、拼写错误或不需要的内容将在推理时由模型再现。我们用少量的标签工作和一些反应多样性的损失来换取质量控制。更具体地说,预先训练的语言模型编码会话上下文,我们微调分类头以将编码的会话上下文映射到响应类,其中每个类是一组可互换的响应的噪声标记。专家可以随着时间的推移更新这些样本响应,而无需重新训练分类器或使旧的训练数据无效。专家对775个看不见的医生/病人对话的评估显示,只有12%的判别模型的反应比医生最终写的更差,而生成模型的反应比医生最终写的更差的比例为18%。
2019-11-16 cs.AI cs.CL cs.LG
Disfluency Detection with Unlabeled Data and Small BERT Models
Google Research(谷歌研究院)
不流利检测模型现在对英语文本的准确率很高。然而,很少有探索已经做了改善的规模和推理时间的模型。与此同时,自动语音识别(ASR)模型正在从服务器端推理转向本地设备上的推理。转录管道中的支持模型(如不流利检测)必须遵循。在这项工作中,我们专注于不流利检测任务,专注于小型,快速,基于BERT架构的设备模型。我们证明,它是可能的训练不流利检测模型小到1.3 MiB,同时保持高性能。我们建立在以前的工作,显示了数据增强方法,如自我训练的好处。然后,我们评估了会话和书面文本之间的域不匹配对模型性能的影响。我们发现,领域自适应和数据增强策略对这些较小的模型有更明显的影响,相比传统的BERT模型。
2021-07-27 cs.CL
Speaker Sensitive Response Evaluation Model
KAIST(韩国科学技术院)
开放域对话响应生成的自动评估是非常具有挑战性的,因为对于给定的上下文有许多适当的响应。现有的评估模型只是将生成的响应与地面实况响应进行比较,并且如果它们偏离地面实况,则将许多适当的响应评定为不适当的。解决这个问题的一种方法是考虑所生成的响应与会话上下文的相似性。本文提出了一个基于该思想的自动评价模型,并从一个未标注的会话语料库中学习模型参数。我们的方法认为,在定义不同层次的类似的情况下,扬声器。我们使用一个Twitter的会话语料库,其中包含许多扬声器和对话来测试我们的评估模型。实验表明,我们的模型优于其他现有的评价指标,与人类注释分数的高度相关性。我们还表明,我们在Twitter上训练的模型可以应用于电影对话,而无需任何额外的训练。我们提供了我们的代码和学习的参数,以便它们可以用于对话响应生成模型的自动评估。
2020-06-12 cs.CL
CO3: Low-resource Contrastive Co-training for Generative Conversational Query Rewrite
Alibaba(阿里巴巴)
提出CO3方法,利用对比协同训练与数据增强,在低资源下实现对话查询重写,对噪声和语言风格迁移具有鲁棒性,并在少样本和零样本场景中表现优越。
2024-03-18 cs.CL
Multimodal Fusion with Semi-Supervised Learning Minimizes Annotation Quantity for Modeling Videoconference Conversation Experience
New York UniversityUSA(纽约大学);Max Planck SocietyGermany(马克斯·普朗克研究所)
本文提出基于半监督学习的多模态融合方法,利用少量标注和大量未标注音视频与文本数据预测视频会议中的不流畅或不愉快时刻,在仅8%标注数据下达到监督学习全量数据性能的96%,显著降低标注成本。
2025-06-01 cs.CL cs.HC cs.LG
Personal Attribute Prediction from Conversations
Nankai University(南开大学)
个人知识库(PKB)对许多应用程序至关重要,例如基于Web的聊天机器人和个性化推荐。包含丰富个人知识的会话可以被视为填充PKB的主要来源。给定一个用户、一个用户属性和一个会话系统中的用户话语,我们的目标是预测用户的个人属性值,这有助于丰富PKB。然而,以往的研究存在三个问题:(1)需要人工标注的话语用于模型训练;(2)嵌入在话语和外部资源中的个人属性知识未得到充分利用;(3)预测一些困难的个人属性的性能不令人满意。在本文中,我们提出了一个框架DSCGN的基础上预先训练的语言模型与噪声鲁棒的损失函数预测个人属性的对话,而不需要任何标记的话语。我们产生两类监督,即,通过挖掘嵌入在未标记的话语和外部资源中的个人属性知识来微调语言模型,经由远程监督策略的文档级监督和经由标签猜测方法的上下文化单词级监督。在两个真实世界的数据集上进行了广泛的实验(即,职业数据集和爱好数据集)显示,我们的框架在nDCG和MRR方面与所有12个基线相比获得了最佳性能。
2022-08-29 cs.AI cs.CL
Adapting Chat Language Models Using Only Target Unlabeled Language Data
University of Sheffield(谢菲尔德大学);Hitachi, Ltd.(日立株式会社);University of Exeter(埃克塞特大学)
针对聊天模型无标注语言适配易遗忘对话能力的问题,提出 ElChat,直接在目标无标注数据上适配并注入源聊天模型信息,性能优于聊天向量方法。
2025-09-29 cs.AI cs.CL
IoT Data Trust Evaluation via Machine Learning
Data61, CSIRO(澳大利亚联邦科学与工业研究组织数据61中心)
针对IoT数据信任评估缺乏公开基准数据集的问题,提出随机游走填充数据合成方法与相关性特征,经实验验证相关模型泛化性更优,半监督方法兼具性能与实用性。
2023-08-15 cs.AI cs.LG eess.SP
Iterative Data Programming for Expanding Text Classification Corpora
IBM Watson(IBM沃森);Pryon Research(普赖恩研究中心)
现实世界的文本分类任务通常需要许多标记的训练样本,这些样本的获取成本很高。机器教学的最新进展,特别是数据编程范式,通过构建弱模型(也称为标记函数)的通用框架,促进了训练数据集的快速创建,并通过集成学习技术对其进行降噪。我们提出了一种快速,简单的数据编程方法,通过生成基于邻域的弱模型,以最小的监督来增强文本数据集。此外,我们的方法采用迭代过程来识别稀疏分布的例子,从大量的未标记的数据。迭代数据编程技术改进了新的弱模型,因为更多的标记数据被人在回路中确认。我们展示了句子分类任务的实证结果,包括提高会话代理人意图识别的任务。
2020-02-04 cs.CL cs.LG
Neural Language Model Based Training Data Augmentation for Weakly Supervised Early Rumor Detection
The University of Sheffield(谢菲尔德大学)
训练数据的稀缺性和类别不平衡性是当前谣言检测任务中的已知问题。我们提出了一个简单的和通用的数据增强技术,这是有益的早期谣言检测依赖于事件传播模式。其关键思想是利用社交媒体上的大量未标记事件数据集来增强有限的标记谣言源推文。这项工作是基于最近的谣言研究和标记和未标记的数据之间的语义相关性揭示的谣言传播模式。一个国家的最先进的神经语言模型(NLM)和大型的可信度为重点的Twitter语料库学习上下文敏感的表示谣言推文。六个不同的现实世界中的事件的基础上,三个公开可用的谣言数据集在我们的实验中提供了一个比较评估的方法的有效性。结果表明,我们的方法可以将现有谣言数据集的大小扩展近200%,并且相应的社会背景(即,100%,质量合理。利用最先进的基于深度学习的谣言检测模型进行的初步实验表明,增强数据可以缓解由有限的训练数据引起的过拟合和类别不平衡,并且可以帮助训练复杂的神经网络(NN)。在增强数据的情况下,谣言检测的性能可以提高12.1%。我们的实验还表明,增强的训练数据可以帮助推广谣言检测模型上看不见的谣言。
2019-07-16 cs.CL cs.LG
SPACE-2: Tree-Structured Semi-Supervised Contrastive Pre-training for Task-Oriented Dialog Understanding
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
具有对比学习目标的预训练方法在对话理解任务中表现出显著的成功。然而,当前的对比学习仅将自增强对话样本视为正样本,而将所有其他对话样本视为负样本,这甚至对于语义相关的对话实施了不同的表示。在本文中,我们提出了SPACE-2,一个树结构的预训练会话模型,它通过半监督对比预训练从有限的标记对话和大规模的未标记对话语料库中学习对话表示。具体地说,我们首先定义了一个通用的语义树结构(STS),以统一不同的对话数据集之间的不一致的注释模式,使丰富的结构信息存储在所有标记的数据可以被利用。然后,我们提出了一种新的多视图评分函数,以增加共享相似STS的所有可能对话的相关性,并且在监督对比预训练期间仅推开其他完全不同的对话。为了充分利用未标记的对话框,还添加了基本的自监督对比损失以改进学习的表示。实验表明,我们的方法可以实现新的国家的最先进的结果DialogLUE基准组成的七个数据集和四个流行的对话理解任务。为了重现性,我们在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/space-2上发布代码和数据。
2022-09-14 cs.CL
Improving low-resource ASR performance with untranscribed out-of-domain data
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所)
半监督训练(Semi-supervised training,SST)是利用未转录/未标记的语音数据来提高低资源语言中的自动语音识别性能的常用方法。然而,如果可用的未标记语音与目标域不匹配,SST就不那么有效,并且在许多情况下比原始系统表现得更差。在本文中,我们解决的问题时,只有未转录的域外语音数据是现成的目标语言的低资源ASR。具体来说,我们希望使用网络资源(特别是YouTube数据)来提高对话/电话语音(目标域)的性能,这些数据更类似于新闻/专题广播数据。利用SST,我们表明,虽然在某些情况下,简单地将域外数据与训练数据合并会降低字出错率(WER),但在所有情况下,如果我们首先使用域外数据进行训练,然后使用原始训练数据对生成的模型进行微调,我们会看到改进。使用每种目标语言的2000小时的速度扰动YouTube音频,使用半监督转录,我们显示了对多种语言/数据集的改进,WER相对于基线系统的相对改进高达16.3%,WER相对于简单地将域外数据与训练数据合并的系统的相对改进高达7.4%。
2021-06-02 cs.CL cs.SD eess.AS
Adversarial Training For Low-Resource Disfluency Correction
Indian Institute of Technology Bombay(印度理工学院孟买分校)
针对低资源场景下的不流利修正问题,提出结合少量标注真实数据、大量无标注数据与合成不流利数据的对抗训练序列标注模型,在三种印度语言及英语口吃修正任务上取得显著提升,并建立新基准。
2023-06-10 cs.CL
Response Enhanced Semi-supervised Dialogue Query Generation
Xiamen University(厦门大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Tencent AI Lab(腾讯AI Lab)
本文提出半监督框架SemiDQG,利用未标注对话和响应增强查询生成器(RA)提供伪查询与奖励信号,通过相似度筛选和REINFORCE算法训练查询生成器,在跨域和低资源场景下显著超越ChatGPT等基线。
2024-02-16 cs.AI cs.CL
Overcoming Domain Mismatch in Low Resource Sequence-to-Sequence ASR Models using Hybrid Generated Pseudotranscripts
Raytheon BBN Technologies(雷神BBN科技公司)
当大量训练数据可用时,序列到序列(seq2seq)模型与用于自动语音识别(ASR)任务的混合模型竞争。然而,seq2seq模型的数据稀疏性和领域自适应比它们的混合模型更成问题。我们检查语料库的五种语言从IARPA材料程序转录的数据是会话电话语音(CTS)和评估数据是广播新闻(BN)。我们发现,有一个相当大的初始差距,在这样的数据条件之间的混合和seq2seq模型,和混合模型是能够进一步提高通过使用额外的语言模型(LM)数据。我们使用一组额外的未转录数据,主要是在BN域进行半监督训练。在半监督训练中,在转录数据上训练的种子模型为未标记的域匹配数据生成假设的转录本,以供进一步训练。通过使用具有用于伪转录的扩展语言模型的混合模型,我们能够将我们的seq2seq模型从所有五种语言的66.7%的平均单词出错率(WER)提高到29.0%的WER。虽然这使seq2seq模型处于竞争性操作点,但混合模型仍然能够使用额外的LM数据来保持优势。
2021-06-14 cs.CL cs.SD eess.AS