A Fully Automated Pipeline for Conversational Discourse Annotation: Tree Scheme Generation and Labeling with Large Language Models
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出利用大语言模型自动生成树状标注方案并完成对话语篇标注的全自动流程，在SFs和SWBD-DAMSL上验证其可超越人工设计树方案并达到或超过人类标注水平。
2025-06-03 cs.CL
CSAGN: Conversational Structure Aware Graph Network for Conversational Semantic Role Labeling
City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院）；City University of Hong Kong（香港城市大学）；Tencent AI Lab（腾讯AI Lab）
会话语义角色标注被认为是实现对话理解的关键步骤。然而，它仍然是一个主要的挑战，现有的CSRL解析器处理会话结构信息。在本文中，我们提出了一个简单而有效的架构CSRL，旨在解决这个问题。我们的模型是基于一个会话结构感知图网络显式编码的扬声器相关信息。我们还提出了一个多任务学习方法，以进一步改善模型。在基准数据集上的实验结果表明，我们提出的训练目标的模型显着优于以前的基线。
2021-11-04 cs.AI cs.CL cs.LG
Learning functional sections in medical conversations: iterative pseudo-labeling and human-in-the-loop approach
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；Curai Health
病人与医护人员之间的医疗会话具有隐性功能部分，如“询问病史”、“总结”、“教育”和“护理计划”。“在这项工作中，我们有兴趣学习自动提取这些部分。直接的方法需要为此任务收集大量的专家注释，由于这些部分之间的上下文内部和内部可变性，这本身就是昂贵的。本文提出了一种方法，解决了学习分类医学对话到功能部分，而不需要大量的注释的问题。我们的方法结合了伪标签和人在环。首先，我们使用带有伪标签的弱监督来生成对话回合级伪标签，并训练基于transformer的模型，然后将其应用于单个句子以创建嘈杂的会话级标签。其次，我们使用基于聚类的人在回路方法迭代地改进业务级别标签。每次迭代只需要几十个注释器决策。我们在专家注释的100个对话数据集上评估了结果，发现虽然我们的模型从69.5%的准确率开始，但我们可以迭代地将其提高到82.5%。用于执行本文中描述的所有实验的代码可以在这里找到：https://github.com/curai/curai-research/tree/main/functional-sections。
2022-10-07 cs.CL
HERALD: An Annotation Efficient Method to Detect User Disengagement in Social Conversations
Stanford University（斯坦福大学）；Columbia University（哥伦比亚大学）
开放域对话系统有一个以用户为中心的目标：为人类提供一个引人入胜的对话体验。用户参与度是评估开放域对话系统的最重要指标之一，也可以用作实时反馈，以利于对话策略学习。现有的检测用户脱离的工作通常需要手工标记许多对话框样本。我们提出了HERALD，一个有效的注释框架，重新定义的训练数据注释过程作为一个去噪问题。具体来说，我们首先使用一组标记算法来自动标记训练样本，而不是手动标记训练样本。然后，我们使用Shapley算法对弱标记数据进行去噪。最后，我们使用去噪的数据来训练用户参与检测器。实验结果表明，HERALD显著提高了标注效率，在两个对话语料库中达到了86%的用户脱离检测准确率。
2021-06-02 cs.CL
Improved and Efficient Conversational Slot Labeling through Question Answering
PolyAI Limited（PolyAI有限公司）
基于transformer的预训练语言模型（PLM）在大多数自然语言理解（NLU）任务中提供了无与伦比的性能，包括一系列问答（QA）任务。我们假设QA方法的改进也可以直接用于对话NLU;但是，对话任务必须是\textit{reformatted}到QA任务。特别是，我们专注于建模和研究\textit{slot labeling}（SL），NLU对话的一个重要组成部分，通过QA光学，旨在提高其性能和效率，并使其更有效和更有弹性地处理有限的任务数据。为此，我们做了一系列的贡献：1）我们演示了QA调整的PLM如何应用于SL任务，达到新的最先进的性能，在这种低数据制度中特别明显的大增益。2)我们建议利用上下文信息，需要解决模糊的值，简单地通过自然语言。3)通过使用轻量级而有效的适配器模块，提高了面向QA的微调的效率和紧凑性。4)权衡了QA数据集的一些质量，我们用更大的自动生成的QA数据集进行QA调优，达到了更高的性能。最后，我们的分析表明，我们的新的基于QA的插槽标签模型，支持的PLM，达到高数据制度的性能上限，要求在未来的工作更具挑战性和更细致入微的基准。
2022-04-05 cs.CL
Zero-shot Cross-lingual Conversational Semantic Role Labeling
City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院）；City University of Hong Kong（香港城市大学）；Huawei（华为）；Northwestern Polytechnical University（西北工业大学）
虽然会话语义角色标注（CSRL）在汉语会话任务中显示出了其有用性，但由于缺乏用于句法分析器训练的多语种CSRL注释，它在非汉语语言中的应用仍然不足。为了避免昂贵的数据汇集和错误传播的预防为基础的方法，我们提出了一个简单而有效的方法来执行zero-shot跨语言CSRL。我们的模型隐式地学习语言不可知论，会话结构感知和语义丰富的表示与分层编码器和精心设计的预训练目标。实验结果表明，我们的模型在两个新收集的英语CSRL测试集上的性能大大优于所有基线。更重要的是，我们证实了有用的CSRL的非中文会话任务，如问题在上下文改写任务的英语和多轮对话响应生成任务的英语，德语和日语的CSRL信息纳入下游会话为基础的模型。我们相信这一发现对于研究存在省略和回指问题的非汉语对话任务具有重要意义。
2022-04-11 cs.AI cs.CL
Conversational Semantic Role Labeling
Tencent AI Lab（腾讯AI实验室）；City University of Hong Kong（香港城市大学）
语义角色标注（SRL）旨在提取输入句子中每个谓词的论元。传统的语义关联语言只适用于单个句子，而省略和回指在对话中频繁出现，因此无法分析对话。为了解决这个问题，我们提出了会话SRL任务，其中一个参数可以是对话参与者，对话历史中的一个短语或当前句子。由于现有的SRL数据集是在句子层面上，我们手动注释了3,000个聊天对话（27,198句）的语义角色，以推动这一方向的研究。实验表明，虽然传统的SRL系统（即使在共指消解或重写的帮助下）在分析对话时表现不佳，但对对话历史和参与者进行建模大大有助于提高性能，这表明将SRL应用于对话是非常有希望的。我们将CSRL应用于两个主流会话任务，对话反应生成和对话语境重写的初步研究也证实了CSRL的有用性。
2021-04-11 cs.AI cs.CL
Large-Context Conversational Representation Learning: Self-Supervised Learning for Conversational Documents
NTT Media Intelligence Laboratories, NTT Corporation（日本电信电话公司媒体情报研究所）
本文提出了一种新的自监督学习方法，用于处理由人与人之间对话的转录文本组成的会话文档。理解会话文档的关键技术之一是话语级顺序标注，其中标签以逐个话语的方式从文档中估计。话语级顺序标记的主要问题是难以收集标记的会话文档，因为手动注释非常昂贵。为了解决这个问题，我们提出了大上下文会话表示学习（LC-CRL），一种专门用于会话文档的自监督学习方法。LC-CRL中的自监督学习任务涉及基于大上下文语言建模使用所有周围话语来估计话语。通过这种方式，LC-CRL使我们能够有效地利用未标记的会话文档，从而增强了话语级顺序标记。使用呼叫中心会话数据集进行场景分割的实验结果表明了该方法的有效性。
2021-02-16 cs.CL cs.LG
Dialogue Act Sequence Labeling using Hierarchical encoder with CRF
IBM Research（IBM研究院）
对话行为识别关联对话行为（即，语义标签）到对话中的话语。将语义标签与话语相关联的问题可以被视为序列标签问题。在这项工作中，我们构建了一个分层递归神经网络，使用双向LSTM作为基本单元，条件随机场（CRF）作为顶层，将每个话语分类为其相应的对话行为。分层网络在多个级别学习表示，即，单词级、话语级和会话级。会话级表示被输入到CRF层，CRF层不仅考虑所有先前的话语，而且考虑它们的对话行为，从而对标签和话语之间的依赖性进行建模，这是自然对话的重要考虑因素。我们验证了我们的方法在两个不同的基准数据集，交换机和会议记录器对话行为，并显示性能的改善，在国家的最先进的方法，分别由$2.2\%$和$4.1\%$绝对点。值得注意的是，Switchboard数据集上的注释器间一致性是$84\%$，尽管在噪声数据上进行了训练，但我们的方法仍能够实现约$79\%$的准确性。
2017-09-14 cs.CL
Conversational Semantic Role Labeling with Predicate-Oriented Latent Graph
Wuhan University（武汉大学）；Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；Guangdong University of Foreign Studies（广东外语外贸大学）
会话语义角色标注是一项新提出的任务，旨在揭示会话文本中的浅层语义结构。然而，CSRL任务的几个重要特征，如结构信息整合、近邻影响等，却被现有的研究所忽视。在这项工作中，我们研究了CSRL的潜在图的整合。我们提出了一种以谓词为中心的高斯机制，自动诱导一个面向谓词的潜在图（POLar），通过该机制，更接近谓词的信息词将被分配更多的注意力。然后，POLar结构被动态地修剪和细化，以便最好地满足任务需求。我们还引入了一个有效的对话级预训练的语言模型，CoDiaBERT，更好地支持多个话语句子和处理CSRL中的说话人共指问题。我们的系统在三个基准CSRL数据集上的性能优于最佳基线，特别是在跨话语参数检测上实现了超过4%的F1分数改进。进一步的分析，以更好地了解我们提出的方法的有效性。
2022-10-06 cs.AI cs.CL
Filling Conversation Ellipsis for Better Social Dialog Understanding
Zhejiang University（浙江大学）；University of California, Davis（加州大学戴维斯分校）
省略现象普遍存在于社会会话中。省略增加了一系列下游语言理解任务的难度，例如对话行为预测和语义角色标注。我们建议通过自动完成句子来解决省略，以提高语言理解。然而，自动省略补全可能导致输出不能准确地反映用户意图。为了解决这个问题，我们提出了一种方法，该方法同时考虑了具有省略的原始话语和对话行为和语义角色标注任务中自动完成的话语。具体来说，我们首先完成用户话语解决省略使用端到端指针网络模型。然后，我们训练一个预测模型，使用包含省略的话语和我们自动完成的话语。最后，我们结合这两个话语的预测结果，使用一个选择模型，是由专家知识指导。在社交会话中，我们的方法在F1得分上分别提高了1.3%和2.5%的对话行为预测和语义角色标注。我们还提出了一个开放域的人机对话数据集手动完成用户的话语和注释后，手动完成的语义角色标注。
2019-11-25 cs.AI cs.CL
Bootstrapping Conversational Agents With Weak Supervision
IBM Watson（IBM沃森）；IBM Research AI（IBM研究院人工智能部门）
当今市场上的许多会话代理遵循标准的机器人开发框架，该框架需要训练意图分类器来识别用户输入。创建一组合适的训练样本的需求通常是开发过程中的瓶颈。在许多情况下，代理开发人员可以访问历史聊天日志，这些日志可以提供大量的训练样本。然而，用数十到数百个意图标记它们的成本通常会阻止充分利用这些聊天日志。在本文中，我们提出了一个框架称为\textit{search, label, and propagate}（SLP）的引导意图从现有的聊天日志使用弱监督。该框架通过使用搜索引擎查找示例，将数小时到数天的标记工作减少到几分钟的工作，然后依靠数据编程方法自动扩展标签。我们报告的用户研究，显示积极的用户反馈，这种新的方法来建立对话代理，并证明了使用数据编程自动标记的有效性。虽然该系统是为训练会话代理而开发的，但该框架在显着减少训练文本分类器的标记工作方面具有更广泛的应用。
2018-12-14 cs.AI cs.CL
Improving Classification through Weak Supervision in Context-specific Conversational Agent Development for Teacher Education
University of Virginia（弗吉尼亚大学）；Curry School of Education, University of Virginia（弗吉尼亚大学柯里教育学院）；James Madison University（詹姆斯麦迪逊大学）
应用于会话代理开发的自然语言处理（NLP）组件的机器学习技术显示出有希望的结果，以提高会话代理可以提供的反馈的准确性和质量。开发特定于教育场景的对话代理所需的工作非常耗时，因为它需要领域专家对课堂视频等嘈杂数据源进行标记和注释。以前的注释建模方法依赖于标记数千个示例并计算注释者之间的一致性和多数投票，以便对必要的场景进行建模。这种方法虽然被证明是成功的，但忽略了标注数据点的个体注释者的优势，并且没有充分利用那些没有多数投票支持标注的示例。我们建议使用多任务弱监督方法结合主动学习来解决这些问题。这种方法比传统方法需要更少的标记，并且在精度，效率和时间要求方面比多数投票方法有显着提高（Ratner 2019）。我们证明了这种方法在谷歌拼图数据集的有效性，然后提出了一个方案，应用这种方法使用教学质量评估（IQA）来定义标签的类别。我们建议使用概率建模的注释器标记生成主动学习的例子，以进一步标记的数据。主动学习能够迭代地提高原始分类模型的训练性能和准确性。这种方法结合了最先进的弱监督和主动学习的标记技术，以优化教育领域的结果，并可进一步用于通过迁移学习减少教育领域内扩展场景的数据要求。
2020-10-23 cs.CL cs.CY cs.LG
Follow-up Question Generation For Enhanced Patient-Provider Conversations
Dartmouth College（达特茅斯学院）
针对异步医疗对话中追问生成的信息提取与并行思维建模难题，提出多智能体框架FollowupQ，可减少医护沟通量并提升性能，还发布了配套的公开数据集。
2025-03-21 cs.AI cs.CL
ConVEx: Data-Efficient and Few-Shot Slot Labeling
PolyAI Ltd（PolyAI有限公司）；University of Cambridge（剑桥大学）
我们提出了ConVEx（会话值提取器），这是一种有效的预训练和微调神经方法，用于槽标签对话任务。而不是依赖于更一般的预培训目标从以前的工作（例如，语言建模，响应选择），ConVEx的预训练目标，一种使用Reddit数据的新型成对完形填空任务，与其在序列标签任务上的预期用途非常一致。这使得通过简单地微调预训练的通用序列标记模型的解码层来学习特定于域的槽标记器，而预训练模型的大部分参数保持冻结。我们报告了ConVEx在一系列不同领域和数据集上的最新性能，用于对话框槽标记，在最具挑战性的Few-Shot设置中获得最大收益。我们认为ConVEx减少了预训练时间（即，在12个GPU上仅需18小时）和成本，以及其高效的微调和强大的性能，为数据高效的序列标记任务提供了更广泛的可移植性和可扩展性。
2021-06-07 cs.CL
Intent Mining from past conversations for conversational agent
Accenture Labs（埃森哲实验室）
对话系统是AI社区的主要兴趣。聊天机器人越来越多地被部署来提供全天候支持并提高客户参与度。许多商业机器人构建框架遵循一种标准方法，该方法要求构建和训练意图模型以识别用户输入。意图模型在有监督的设置中使用文本话语和意图标签对的集合进行训练。为不同的意图收集大量和广泛的训练数据是机器人构建过程中的瓶颈。此外，标记一百到数千个具有意图的对话的成本是一项耗时费力的工作。在本文中，我们提出了一个意图发现框架，包括4个主要步骤：使用预训练的领域不可知对话行为分类器从对话中提取文本话语（数据提取），相似用户话语的自动聚类（聚类），使用Intent标签手动注释聚类（标记）并将意图标签传播到来自先前步骤的话语，其未被映射到任何聚类（标签传播）;以从原始会话生成意图训练数据。针对不平衡数据的聚类问题，提出了一种新的基于密度的聚类算法ITER-DBSCAN。主题专家（具有领域专业知识的注释者）手动查看聚类的用户话语，并提供用于发现的意图标签。我们进行了用户研究，以验证在意图覆盖率、准确性和节省手动注释时间方面生成的训练意图模型的有效性。虽然系统被开发用于构建会话系统的意图模型，但是该框架也可以用于短文本聚类或作为标记框架。
2021-01-18 cs.AI cs.CL cs.LG
Adding more data does not always help: A study in medical conversation summarization with PEGASUS
Curai（Curai公司）；Duke University（杜克大学）
医疗会话摘要是在患者和医生之间的互动过程中收集信息的组成部分。摘要对话用于促进医生之间的患者交接，并作为未来提供护理的一部分。然而，摘要的制作可能很耗时，而且需要领域专门知识。现代预训练的NLP模型（如PEGASUS）已经成为人类摘要的有力替代品，在许多摘要基准测试中达到了最先进的性能。然而，许多下游任务仍然需要至少中等大小的数据集来实现令人满意的性能。在这项工作中，我们（1）探索数据集大小对使用PEGASUS的迁移学习医学会话摘要的影响，（2）评估低数据状态下的各种迭代标记策略，以及它们在分类设置中的成功。我们发现，模型性能随着数据集大小的增加而饱和，并且评估的各种主动学习策略都显示出与简单数据集大小增加一致的等效性能。我们还发现，天真的迭代伪标签是在标准杆或略差于没有伪标签。我们的工作揭示了将分类中的低数据机制技术转化为医学会话摘要的成功和挑战，并有助于指导该领域的未来工作。相关代码见\url{https://github.com/curai/curai-research/tree/main/medical-summarization-ML4H-2021}。
2021-11-28 cs.AI cs.CL cs.LG
A new data augmentation method for intent classification enhancement and its application on spoken conversation datasets
IBM Research AI（IBM研究人工智能部门）
意图分类器对于虚拟代理系统的成功运行至关重要。这在语音激活系统中尤其如此，其中数据可能是嘈杂的，对于用户意图具有许多模糊的方向。在操作开始之前，这些分类器通常缺乏真实世界的训练数据。主动学习是用于帮助标记大量收集的用户输入的常用方法。然而，这种方法需要许多小时的手动标记工作。我们提出了最近邻分数改进（NNSI）算法的自动数据选择和标记。NNSI通过自动选择高度模糊的样本并以高精度标记它们，减少了手动标记的需要。这是通过从语义相似的文本样本组集成分类器的输出来完成的。然后可以将标记的样本添加到训练集以提高分类器的准确性。我们在两个大规模的真实语音对话系统上演示了NNSI的使用。我们的结果的评价表明，我们的方法能够选择和标记有用的样品具有较高的准确性。将这些新样本添加到训练数据中显著改进了分类器，并将出错率降低了10%。
2022-02-21 cs.CL eess.AS
Nudging Neural Conversational Model with Domain Knowledge
Microsoft Research（微软研究院）
神经会话模型是有吸引力的，因为人们可以训练一个模型直接对对话的例子与最少的标签。然而，对于少量的数据，它们通常无法概括测试数据，因为它们倾向于捕获虚假的特征，而不是语义上有意义的领域知识。为了解决这个问题，我们提出了一种新的方法，允许任何人类教师将他们的领域知识以自然语言规则的形式转移到会话模型中。我们用三个不同的对话数据集测试了我们的方法。所有领域的性能提高证明了我们提出的方法的有效性。
2018-11-15 cs.AI cs.CL
Leveraging Large Language Models to Identify Conversation Threads in Collaborative Learning
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；MIT Media Lab（麻省理工学院媒体实验室）；Instituto Politécnico de Bragança（布拉甘扎理工大学）；MIT STEP（麻省理工学院教育技术计划）
本研究探讨利用大型语言模型自动识别协作学习中的对话线程，证明显式线程信息能提升关系动作编码性能，并提出人机混合策略以优化成本效益。
2025-10-26 cs.CL
Towards physician-centered oversight of conversational diagnostic AI
Google DeepMind（谷歌DeepMind）；Google Research（谷歌研究）；Harvard Medical School, Beth Israel Deaconess Medical Center（哈佛医学院，贝塞斯达德acons医学中心）
本文提出g-AMIE多智能体系统，在防护栏内完成病史采集并对个体化医疗建议弃权，将评估异步传达给监督医生，实验表明其接诊质量和决策效率优于NPs/PAs及PCPs，验证了专家异步监督诊断AI的可行性。
2025-07-21 cs.AI cs.CL cs.HC
Beyond Isolated Utterances: Conversational Emotion Recognition
Johns Hopkins University（约翰斯·霍普金斯大学）
语音情感识别是指根据说话人的语音记录来识别说话人的情感状态。虽然目前大多数的方法都集中在从孤立的话语推断情感，我们认为，这是不足以实现会话情感识别（CER），它涉及到在对话中识别情感。在这项工作中，我们提出了几种方法CER治疗它作为一个序列标记任务。我们研究了CER的Transformer架构，并使用IEMOCAP语料库在上下文和无上下文场景下将其与ResNet-34和BiLSTM架构进行了比较。基于自我注意力机制的内部工作原理，我们提出了DiverseCatAugment（DCA），一种增强方案，它将Transformer模型的性能提高了3.3%的绝对微f1，对孤立的话语提高了3.6%。我们通过引入对话者感知的Transformer模型进一步提高了性能，在该模型中，我们学习对话者索引嵌入的字典来利用日记化的对话。
2021-09-13 cs.CL cs.SD eess.AS
MLR: A Two-stage Conversational Query Rewriting Model with Multi-task Learning
Alibaba Group（阿里巴巴集团）
会话语境理解的目的是从会话历史中识别用户的真实意图，这对建立对话系统至关重要。然而，开放领域中的多轮会话理解仍然具有相当大的挑战性，这需要系统提取重要信息并解决各种开放主题之间的上下文依赖关系。在本文中，我们提出了会话查询重写模型- MLR，这是一个多任务模型的序列标记和查询重写。MLR将多轮会话查询转化为单轮查询，简洁地表达了用户的真实意图，降低了多轮会话建模的难度。在该模型中，我们制定了查询重写作为一个序列生成问题，并通过辅助词类别标签预测任务引入词类别信息。为了对模型进行训练，我们构造了一个新的中文查询重写数据集，并在该数据集上进行了实验，实验结果表明，该模型的性能优于其他模型，证明了词类别信息在提高重写性能方面的有效性。
2020-04-13 cs.AI cs.CL cs.LG
Learning Natural Conversational Behavior in Tandem Speech-to-Speech Models with Randomized Guidance
Sakana AI
针对串联语音到语音模型训练中引导数据缺失问题，提出随机中间引导方法，直接从语料库采样引导，提升响应质量与自然对话行为，优于基线模型。
2026-09-28 cs.CL eess.AS
Towards Anthropomorphic Conversational AI Part I: A Practical Framework
Alibaba Group（阿里巴巴集团）
本文提出一个多模块框架，通过思考、资源和响应模块协同增强LLM智能体的社交与对话智能，实验表明无需微调即可显著提升类人对话表现。
2025-02-28 cs.AI cs.CL
Simple, Fast, Accurate Intent Classification and Slot Labeling for Goal-Oriented Dialogue Systems
Amazon AI（亚马逊人工智能）；Stanford University（斯坦福大学）
随着亚马逊Alexa、谷歌Now等会话助手的出现，对话系统正在获得很大的牵引力，尤其是在工业环境中。这些系统通常由口语语言理解组件组成，口语理解组件又由两个任务组成-意图分类（IC）和槽标记（SL）。通常，这两个任务一起建模以实现最佳性能。然而，这种联合建模增加了模型混淆。在这项工作中，我们首先设计了一个模块化的联合IC-SL任务，以提高架构的透明度框架。然后，我们探索了一些自注意、卷积和递归模型，对两个数据集上IC + SL的建模范式进行了大规模分析。最后，利用这个框架，我们提出了一类非递归的“标签-递归”模型，具有10维的标签历史表示，并表明我们提出的系统易于解释，高度准确（与Snips数据集上的最新技术相比，SL中的错误减少了30%以上），以及快速，2倍的推理和2/3到1/2的训练时间的可比循环模型，从而在关键的现实世界系统中的优势。
2019-07-17 cs.CL cs.LG
Leveraging Transformers for Hate Speech Detection in Conversational Code-Mixed Tweets
Indraprastha Institute of Information Technology Delhi（德里英德拉普拉斯塔信息技术学院）
在当今的互联网时代，每个人都可以轻松访问社交媒体平台，人们往往不得不应对威胁，身份攻击，仇恨和欺凌，因为他们与演员，信仰，性别，宗教，甚至接受或拒绝一个概念。现有的仇恨言论检测工作主要集中在个人评论分类作为一个序列标签的任务，往往没有考虑到会话的上下文。在确定作者的意图和推文背后的情绪时，对话的上下文通常起着重要的作用。本文描述了MIDAS-IIITD团队为HASOC 2021子任务2提出的系统，该子任务是第一批共享任务之一，专注于从Twitter上的印地语-英语代码混合对话中检测仇恨言论。我们使用神经网络来解决这个问题，利用Transformer的跨语言嵌入，并进一步对它们进行微调，以用于在音译印地语文本中进行低资源仇恨语音分类。我们表现最好的系统是由Indic-BERT、XLM-RoBERTa和多语言BERT组成的硬投票组合，取得了0.7253的宏观F1分数，使我们在整体排行榜上排名第一。
2021-12-18 cs.AI cs.CL cs.LG
Towards Spontaneous Style Modeling with Semi-supervised Pre-training for Conversational Text-to-Speech Synthesis
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；XVerse Inc.（元象科技）；The Chinese University of Hong Kong（香港中文大学）
针对自发性语音数据稀缺和标注成本高的问题，提出半监督预训练方法，结合文本与语音信息检测自发性行为，并利用语言感知编码器建模会话关系，实现表现性语音合成。
2023-08-31 cs.CL cs.LG cs.SD
Classification as Decoder: Trading Flexibility for Control in Medical Dialogue
Stanford（斯坦福大学）；Curai（Curai公司）
生成式seq 2seq对话系统被训练来预测已经发生的对话中的下一个单词。他们可以从大型未标记的对话数据集中学习，对对话上下文建立更深入的理解，并生成各种各样的响应。这种灵活性是以控制为代价的，这是医生/患者互动中的一个令人担忧的权衡。训练数据中的不准确、拼写错误或不需要的内容将在推理时由模型再现。我们用少量的标签工作和一些反应多样性的损失来换取质量控制。更具体地说，预先训练的语言模型编码会话上下文，我们微调分类头以将编码的会话上下文映射到响应类，其中每个类是一组可互换的响应的噪声标记。专家可以随着时间的推移更新这些样本响应，而无需重新训练分类器或使旧的训练数据无效。专家对775个看不见的医生/病人对话的评估显示，只有12%的判别模型的反应比医生最终写的更差，而生成模型的反应比医生最终写的更差的比例为18%。
2019-11-16 cs.AI cs.CL cs.LG
A Weakly Supervised Approach for Classifying Stance in Twitter Replies
Indian School of Business（印度商学院）；Carnegie Mellon University（卡内基梅隆大学）
社交媒体上的对话（SM）越来越多地被用来调查网络上的社会问题，如在线骚扰和谣言传播。对于这些问题，一个常见的研究思路是使用对抗性反应，例如，指出谣言中不实之处的答复。虽然在线对话中普遍存在敌对反应，但从回复中的文本中推断出这些负面观点（或立场）是困难的，需要复杂的自然语言处理（NLP）模型。此外，用于立场挖掘的传统NLP模型需要标记数据用于监督学习。获得标记的对话本身就具有挑战性，因为对话可以是任何主题，并且主题会随着时间的推移而变化。这些挑战使得学习姿势成为一个困难的NLP问题。在这项研究中，我们首先创建了一个新的立场数据集，包括三个不同的主题，通过标记用户对主题的意见（如赞成/反对）和用户在回复他人帖子时的立场（如赞成/反对）。由于我们发现监督方法的局限性，我们提出了一种弱监督方法来预测Twitter回复中的立场。我们的新方法允许使用较少数量的标签来为Twitter回复生成弱标签。与监督学习相比，我们的方法在人工标记的数据集上将平均F1-macro提高了8\%，而无需在训练集中使用任何人工标记的示例。我们进一步展示了我们提出的方法在Twitter上与COVID 19相关的对话中的适用性。
2021-03-12 cs.CL cs.SI
