Information Seeking in the Spirit of Learning: a Dataset for Conversational Curiosity
University of Maryland（马里兰大学）；Facebook（脸书）
开放式的人类学习和信息寻求越来越多地由数字助理介导。然而，这样的系统经常忽略用户的预先存在的知识。假设参与度和用户响应（如“喜欢”消息或询问后续问题）之间存在相关性，我们设计了一个向导式对话任务，该任务测试了当用户向其提供与他们所知道的事实相关的事实时参与度增加的假设。通过这项实验的众包，我们收集并发布了14K对话（181K话语），用户和助手在其中讨论地理主题，如地缘政治实体和位置。该数据集使用预先存在的用户知识，消息级别的对话行为，维基百科的基础以及用户对消息的反应进行注释。使用用户的先验知识的响应增加参与。我们将这些知识融入到一个多任务模型中，该模型再现了人类的辅助政策，并通过13个平均倒数排名点改进了BERT内容模型。
2020-11-10 cs.CL
Dialoging Resonance: How Users Perceive, Reciprocate and React to Chatbot's Self-Disclosure in Conversational Recommendations
Columbia University（哥伦比亚大学）；University of California, Davis（加州大学戴维斯分校）
使用聊天机器人提供推荐越来越受欢迎。推荐聊天机器人的设计主要是通过关注推荐内容本身来采取以信息为中心的方法。有限的关注是如何社会联系和关系策略，如聊天机器人的自我披露，可能会影响用户的感知和接受的建议。在这项工作中，我们设计、实现和评估了一个社交聊天机器人，它能够执行三个不同级别的自我披露：事实信息（低）、认知观点（中）和情感（高）。在评估中，我们招募了372名参与者与聊天机器人就两个主题进行对话：电影和COVID-19体验。在每个主题中，聊天机器人都会进行简短的谈话，并提出与主题相关的建议。参与者被随机分配到四个实验条件下，聊天机器人使用事实，认知，情感和适应策略来执行自我披露。通过训练文本分类器来实时识别用户的自我披露水平，自适应聊天机器人可以动态地将其自我披露与用户表现出的披露水平相匹配。我们的研究结果表明，当推荐聊天机器人在整个对话中始终显示情感时，用户会以更高级别的自我披露作为回报。聊天机器人的情感披露也导致了对机器人的更高的互动享受和更积极的人际感知，培养了更强的人与聊天机器人的关系，从而提高了推荐的有效性，包括更高的接受推荐的倾向。我们讨论了所获得的理解和影响，未来的设计。
2022-11-10 cs.AI cs.CL
RealityTest: How People Probe AI Identity and Whether Models Disclose It
AI Security Institute（人工智能安全研究所）
通过收集来自49个国家约750名参与者的3152个身份探查查询，构建首个大规模多模态多语言基准RealityTest，发现仅31%的人在模糊场景中直接询问身份，且问题多样性远超机器生成查询，测试17个文本和6个语音模型后发现，问题措辞和对话上下文比模型本身对披露行为影响更大。
2026-05-29 cs.CL
E3: Entailment-driven Extracting and Editing for Conversational Machine Reading
University of Washington（华盛顿大学）
当用户不知道做出决定的确切规则（例如，他们是否需要特定的收入水平或退伍军人身份）时，对话式机器阅读系统可以帮助用户回答高级问题（例如，确定他们是否有资格获得特定的政府福利）。关键的挑战是，这些规则只以程序文本的形式提供（例如政府网站上的指南），系统必须阅读这些文本才能弄清楚向用户询问什么。我们提出了一个新的会话机器阅读模型，共同提取一组决策规则的过程中的文本，而推理所涉及的会话历史，仍然需要编辑，以创建问题的用户。在最近推出的ShARC对话机器阅读数据集上，我们的蕴涵驱动的提取和编辑网络（E3）实现了新的最先进的技术，优于现有系统以及新的基于BERT的基线。此外，通过明确强调哪些信息仍然需要收集，E3提供了一个更易于解释的替代方案。我们在https://github.com/vzhong/e3上发布了模型和实验的源代码。
2020-02-13 cs.AI cs.CL cs.LG
Towards Persona-Based Empathetic Conversational Models
Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-南洋理工大学新加坡联合研究院）；Alibaba Group（阿里巴巴集团）
移情会话模型已被证明可以在许多领域提高用户满意度和任务结果。在心理学中，人物角色被证明与人格高度相关，而人格又反过来影响同理心。此外，我们的实证分析还表明，人物角色在移情会话中起着重要的作用。为此，我们提出了一个新的任务，对基于人物角色的移情会话，并提出了第一个实证研究的影响人物角色的移情反应。具体来说，我们首先提出了一个新的大规模多域数据集的基于人物角色的移情对话。然后，我们提出了CoBERT，一个有效的基于BERT的响应选择模型，它在我们的数据集上获得了最先进的性能。最后，我们进行了广泛的实验，以探讨影响的人物角色的移情反应。值得注意的是，我们的研究结果表明，当CoBERT接受移情对话训练时，人物角色比非移情对话更能提高移情反应，从而在人类对话中建立了人物角色与移情之间的经验联系。
2020-11-19 cs.AI cs.CL cs.HC
BERT Attends the Conversation: Improving Low-Resource Conversational ASR
Telenor Research（Telenor 研究院）；Norwegian University of Science and Technology（挪威科技大学）
我们为BERT模型提出了新的、数据高效的训练任务，这些任务可以提高自动语音识别（ASR）系统在会话语音上的性能。我们包括过去的会话上下文和微调BERT的成绩单消歧没有外部数据重新评分ASR候选人。我们的实验结果表明，字的出错率恢复率高达37.2%。我们测试我们的方法在低资源的数据域，无论是在语言（挪威语），语气（自发的，会话），和主题（议会议事录和客户服务电话）。这些技术适用于任何ASR系统，并且不需要任何额外的数据，提供了预先训练的BERT模型。我们还展示了如何我们的上下文增强rescoring方法的性能强烈依赖于程度的自发性和性质的对话。
2022-01-25 cs.CL cs.LG eess.AS
A Simple but Effective Method to Incorporate Multi-turn Context with BERT for Conversational Machine Comprehension
NTT Media Intelligence Laboratories, NTT Corporation（日本电信电话株式会社NTT媒体智能实验室）
会话机器理解（CMC）需要理解多轮对话的上下文。使用预训练语言模型BERT已经成功地用于单轮机器理解，而使用BERT建模多轮问答尚未建立，因为BERT对输入序列的数量和长度有限制。在本文中，我们提出了一个简单而有效的方法与BERT的CMC。我们的方法使用BERT来编码一个段落独立的条件与每个问题和每个答案在一个多回合的上下文中。然后，该方法基于用BERT编码的段落表示来预测答案。具有代表性的CMC数据集，QuAC和CoQA的实验表明，我们的方法优于最近发表的方法（QuAC上的+0.8 F1和CoQA上的+2.1 F1）。此外，我们还详细分析了对话历史的数量和类型对CMC准确性的影响，我们发现，在实际对话中可能不会给出的黄金答案历史对两个数据集上的模型性能贡献最大。
2019-05-30 cs.CL
BERT-CoQAC: BERT-based Conversational Question Answering in Context
Macquarie University（麦考瑞大学）；The University of Adelaide（阿德莱德大学）
问答对话系统作为一种通过与机器人对话来查询任何特定信息的有前途的方式，近年来获得了越来越多的研究兴趣。交互式问答系统的设计一直是自然语言处理领域的一项具有挑战性的任务，并被用作评估机器自然语言理解能力的基准。然而，这样的系统往往挣扎时，问题回答是由用户在多个回合，以寻求更多的信息的基础上，他们已经学会了，因此，引起了另一个复杂的形式称为会话问答（CQA）。CQA系统经常被批评在回答问题时不理解或利用对话的先前上下文。为了弥补这一研究空白，本文探讨了如何将会话历史整合到神经机器理解系统中。一方面，我们引入了一个框架的基础上，一个可编程的预先训练的语言模型称为BERT的历史变成系统。另一方面，我们提出了一个历史选择机制，选择相关的，并有助于回答当前问题的回合。实验结果表明，我们的框架是在性能与国家的最先进的模型在QuAC领导人板。我们还进行了一些实验，以显示使用整个上下文信息的副作用，这带来了不必要的信息和噪声信号，导致模型的性能下降。
2021-04-23 cs.CL
Memory-Driven Self-Disclosure and Relational Turning Points: A Longitudinal Multimodal Study of Human-AI Interaction
Graduate School of Informatics, Kyoto University（京都大学信息学研究科）；Equmenopolis, Inc.（Equmenopolis公司）；Waseda University（早稻田大学）；School of Informatics, Kyoto University（京都大学信息学系）
该研究通过纵向多模态研究，探讨对话式人工智能系统中交互如何发展为关系。核心方法是让参与者对五个关系构建要素评分，发现对话质量影响当下愉悦感，感知记忆受关系制约，关系有崩溃和激增等转折点，揭示了人机关系建立的方式。
2026-07-20 cs.AI cs.CL cs.HC
Product Title Generation for Conversational Systems using BERT
Walmart Labs（沃尔玛实验室）
通过语音技术的最新进步和智能设备的引入，例如Amazon Alexa和Google Home，越来越多的用户通过语音与应用程序进行交互。电子商务公司通常在其网页上显示简短的产品标题，无论是人工策划还是算法生成，当需要简洁时，但这些标题与自然口语不同。例如，“Lucky Charms Gluten Free Break-fast Cereal，20.5盎司一盒Lucky Charms Gluten Free”可以在网页上显示，但“20.5盎司一盒Lucky Charms Gluten Free Cereal”在对话系统上更容易理解。与可以向用户呈现图像和详细产品信息的显示器相比，当与语音助理交互时，产品的简短标题是必要的。我们提出了一个序列到序列的方法，使用BERT生成短，自然，口语标题从输入的Web标题。我们在真实世界的行业数据集上进行的大量实验和对模型输出的人工评估表明，BERT摘要优于可比的基线模型。
2020-07-23 cs.CL cs.LG
Corporate Bankruptcy Prediction with Domain-Adapted BERT
Seoul National University（首尔国立大学）；Graduate School of Business（商学院）；Artificial Society Inc.（人工社会公司）
提出面向企业破产预测的领域自适应 BERT，通过对 10-K 中 MD&A 进行情感分析并采用置信度过滤自学习，显著优于词典和 Word2Vec 方法，准确率达 91.56%。
2023-12-06 cs.CL cs.LG econ.GN
BERT Embeddings Can Track Context in Conversational Search
NOVA School of Science and Technology（新里斯本大学科学与技术学院）
使用会话助手搜索信息在公众中越来越受欢迎，推动研究走向更先进和复杂的技术。特别是在过去的几年中，人们对对话式搜索的兴趣正在增加，这不仅是因为对话式助理的普遍化，而且还因为对话式搜索是允许与系统进行更自然交互的一个进步。在这项工作中，重点是探索通过历史话语和各自的嵌入会话的上下文呈现，目的是开发一个会话搜索系统，帮助人们以自然的方式搜索信息。特别是，该系统必须能够理解提出问题的上下文，跟踪对话的当前状态，并检测对先前问题和答案的提及。我们通过使用基于神经查询重写模型的上下文跟踪组件来实现这一点。该系统的另一个关键方面是提供给定问题和会话历史的最相关答案。为了实现这一目标，我们使用了一种基于transformer的重新排序方法，并扩展了该架构以使用会话上下文。开发的系统所获得的结果显示了使用自然语言话语和整个对话中生成的神经嵌入中存在的上下文的优势。
2021-04-13 cs.CL cs.IR cs.LG
Theory of Mind and Self-Disclosure to CUIs
Aalborg University（奥尔堡大学）
本文探讨了向对话用户界面（CUIs）进行自我表露的困难，提出通过表达不确定性或展示CUI的推理过程，使其预期的“心智理论”更透明，从而鼓励用户的自我表露。
2025-07-14 cs.CL cs.HC
Using BERT Embeddings to Model Word Importance in Conversational Transcripts for Deaf and Hard of Hearing Users
Rochester Institute of Technology（罗切斯特理工学院）
聋人和重听人在观看电视直播时经常依赖字幕。监管机构使用各种字幕评估指标来评估实况电视字幕。然而，字幕评估指标往往不被DHH用户的偏好或字幕的意义。需要构建字幕评估度量，其考虑文字在转录中的相对重要性。我们在现有语料库中对两种类型的词嵌入和人工标注的词重要性分数进行了相关性分析。我们发现，使用BERT生成的规范化上下文单词嵌入与手动注释的重要性分数的相关性优于基于word2vec的词嵌入。我们提供了一对词嵌入及其人工注释的重要性分数。我们还通过训练单词重要性模型来提供概念验证实用程序，在6类单词重要性分类任务中获得了0.57的F1分数。
2022-06-24 cs.AI cs.CL cs.HC
Time to Take Emoji Seriously: They Vastly Improve Casual Conversational Models
KU Leuven（鲁汶大学）
图形表情符号在现代在线对话中无处不在。那么，一个竖起大拇指的表情符号是否能够表示同意，而不需要任何文字。我们认为，目前最先进的系统无法正确解释这些表情符号，特别是在对话背景下。然而，在一个随意的环境中，好处可能很高：更好地理解用户的话语和更自然，表情丰富的反应。考虑到这一点，我们修改了BERT以完全支持来自Unicode标准和自定义表情符号的表情符号。然后，在具有大量表情符号的问答（QA）元组语料库上训练这个修改后的BERT，我们能够将100分之一的准确率从当前最先进的12.7%提高到我们支持表情符号的模型的17.8%。
2019-10-30 cs.CL
DRIVE: Disfluency-Rich Synthetic Dialog Data Generation Framework for Intelligent Vehicle Environments
Indian Institute of Technology Bombay（印度理工学院班加罗尔学院）
提出 DRIVE 框架下的 DiscoDrive 合成语料库，在七类车载多轮对话中动态融入不流利现象，验证其可提升模型性能、低资源增强效果与人评自然度。
2025-07-26 cs.CL
Cross-utterance Reranking Models with BERT and Graph Convolutional Networks for Conversational Speech Recognition
National Taiwan Normal University（台湾师范大学）
如何有效地将跨话语信息引入神经语言模型（LM）已成为自动语音识别（ASR）的一个有趣的问题。现有的研究工作，提高语境化的LM通常把以前的话语作为一个序列的额外的输入，并可能无法捕捉这些话语之间的复杂的全球结构的依赖关系。有鉴于此，我们在本文中试图表示的历史语境信息的话语图结构的数据，以提取跨话语，全球词的相互作用关系。为此，我们将图卷积网络（GCN）应用于所得到的图，以获得相应的历史单词的GCN嵌入。GCN最近在社会网络分析、文本摘要等方面发现了它的多用途应用，这主要是由于它能够有效地捕获元素之间丰富的关系信息。然而，GCN在ASR的背景下，特别是在处理会话语音方面，仍然存在很大的不足。此外，我们框架ASR N-最好的重新排序作为一个预测问题，利用双向编码器表示从Transformers（BERT）作为车辆，不仅抓住本地固有的词规律性模式固有的候选假设，但也纳入跨话语，历史词的互动线索蒸馏GCN为促进性能。在AMI基准数据集上进行的大量实验似乎证实了我们的方法的实用性，与当前一些顶级方法有关。
2021-10-01 cs.CL eess.AS
Beyond Jailbreaking: Auditing Contextual Privacy in LLM Agents
University of Virginia（弗吉尼亚大学）
本文提出 CMPL 多轮会话隐私审计框架，通过迭代探测揭示 LLM 智能体在渐进操纵和侧信道泄漏下的潜在漏洞，并提供量化风险指标与开放基准。
2025-09-27 cs.AI cs.CL cs.CR
Cross-Linguistic Offensive Language Detection: BERT-Based Analysis of Bengali, Assamese, & Bodo Conversational Hateful Content from Social Media
LUT University（拉彭兰塔理工大学）；University of Oulu（奥卢大学）；University of Helsinki（赫尔辛基大学）
针对社交媒体多语言仇恨言论检测问题，研究基于多种BERT模型开展HASOC-2023任务4的孟加拉语、阿萨姆语、博多语仇恨内容检测，发现XML-Roberta-large多数场景优于单语模型，团队在对应赛道取得第三、第五名的成绩。
2023-12-16 cs.CL cs.LG
Empathic Conversations: A Multi-level Dataset of Contextualized Conversations
University of Pennsylvania（宾夕法尼亚大学）；University of Maryland:ARLIS（马里兰大学：ARLIS）；National Institute on Drug Abuse（国家药物滥用研究所）；Friedrich-Schiller-Universität Jena（耶拿弗里德里希·席勒大学）；Stanford University（斯坦福大学）；New York University（纽约大学）
共情是对观察到的他人的情况的认知和情感反应。共情最近引起了人们的兴趣，因为它在心理学和人工智能中有许多应用，但目前还不清楚不同形式的共情（例如，自我报告与对方其他报告，关注与痛苦）与其他情感现象或人口统计学（如性别和年龄）相互作用。为了更好地理解这一点，我们创建了{ \it Empathic Conversations}数据集，其中包含带注释的负面、引发移情的对话，参与者在对话中谈论新闻文章。人们对他人的同理心有不同的看法。这些差异与某些特征有关，如个性和人口统计学。因此，我们收集了参与者特质的详细描述，他们对新闻文章的自我报告移情反应，他们的对话伙伴其他报告，以及对自我披露，情感和移情表达水平的逐轮第三方评估。这个数据集是第一个以多种形式呈现同理心以及个人痛苦，情感，个性特征和个人层面的人口统计信息的数据集。我们提出了基线模型，用于从对话中预测其中的一些功能。
2022-05-25 cs.CL
Emotion Dynamics Modeling via BERT
Ping An Life Insurance Company of China, Ltd.（中国平安人寿保险股份有限公司）
情感动力学建模是会话情感识别中的一项重要任务。它的目标是在构建移情对话系统时预测会话情绪。现有的研究主要基于递归神经网络（RNN）开发模型。他们不能从最近开发的预训练策略中获益，这些策略可以在对话中更好地进行标记表示学习。更严重的是，很难通过简单地在RNN上组装特征来区分对话者的依赖性和对话者之间的情感影响。在本文中，我们开发了一系列基于BERT的模型，专门捕捉对话者间和对话者内的依赖关系的会话情感动态。具体地说，我们首先用BERT代替RNN来丰富令牌表示。然后，采用平面结构的BERT（F-BERT）直接连接会话中的话语，并采用层次结构的BERT（H-BERT）在连接话语时区分对话者。更重要的是，提出了一种时空结构的BERT，即ST-BERT，以进一步确定会话者之间的情感影响。最后，我们在两个流行的情感识别对话基准数据集上进行了广泛的实验，并证明我们提出的模型可以分别比最先进的基线提高约5%和10%。
2021-04-21 cs.AI cs.CL
Multilingual Question Answering from Formatted Text applied to Conversational Agents
Worldline（源讯世界线）
语言模型的最新进展（例如BERT、XLNet等），在复杂的NLP任务（如阅读理解）上，然而，用于训练的标记数据集主要以英语提供，这使得很难用其他语言确认进展。幸运的是，模型现在已经在来自数百种语言的未标记数据上进行了预训练，并表现出从一种语言到另一种语言的有趣迁移能力。在本文中，我们表明，多语言的BERT是自然能够zero-shot转移提取问答任务（eQA）从英语到其他语言。更具体地说，它超过了以前已知的最好的转移到日语和法语的基线。此外，使用最近发布的大型eQA法语数据集，我们能够进一步证明：（1）zero-shot迁移提供的结果非常接近于目标语言的直接训练;（2）迁移和目标语言训练的组合是总体上最好的选择。最后，我们提出了一个实际的应用：一个多语言的会话代理称为凯特回答人力资源相关的问题，在几种语言直接从内部网页面的内容。
2021-02-01 cs.CL
Kleister: Key Information Extraction Datasets Involving Long Documents with Complex Layouts
Warsaw University of Technology（华沙理工大学）；Adam Mickiewicz University（亚当·密茨凯维奇大学）；Samsung R&D Institute Poland（三星波兰研发研究院）
关键信息抽取（KIE）任务的相关性在自然语言处理问题中越来越重要。但仍然只有少数明确界定的问题可作为这一领域解决办法的基准。为了弥补这一差距，我们引入了两个新的数据集（Kleister NDA和Kleister Charity）。它们涉及扫描和数字化的长的正式英语文档的混合。在这些数据集中，NLP系统有望通过采用文本和结构布局特征来找到或推断各种类型的实体。Kleister Charity数据集包含2，788份慈善组织的年度财务报告，其中包含61，643个独立页面和21，612个实体。Kleister NDA数据集包含540份保密协议，其中包含3，229个独特页面和2，160个实体。我们提供了几个来自KIE领域的最先进的基线系统（Flair，BERT，RoBERTa，LayoutLM，LAMBERT），这表明我们的数据集对现有模型构成了强大的挑战。最好的模型分别在Kleister NDA和Kleister Charity数据集上获得了81.77%和83.57%的F1分数。我们共享数据集，以鼓励在更深入和复杂的信息抽取任务上取得进展。
2021-05-12 cs.CL
What BERT Based Language Models Learn in Spoken Transcripts: An Empirical Study
语言模型（LM）已经普遍地用于包括口语语言理解（SLU）的各种任务中。口语需要仔细理解说话人的交互，对话状态和语音诱导的多模态行为，以生成有意义的会话表示。在这项工作中，我们建议解剖SLU分为三个代表性的属性：会话（不流利，停顿，overtalk），通道（扬声器类型，轮任务）和ASR（插入，删除，替换）。我们探测基于BERT的语言模型（BERT，RoBERTa）训练的口语成绩单，以调查其能力，理解多种属性，在没有任何语音提示。实验结果表明，LM是令人惊讶的好捕捉会话属性，如暂停预测和overtalk检测词汇标记。在缺点方面，LM在回合任务和ASR错误预测方面得分较低。此外，对LM进行口头成绩单的预训练抑制了其语言理解。最后，我们在两个基准数据集上建立了上述属性的有效性和可移植性：Switchboard Dialog Act和Disfluency数据集。
2021-09-21 cs.AI cs.CL cs.LG
Multilingual Detection of Personal Employment Status on Twitter
The World Bank（世界银行）；New York University（纽约大学）；Centre Marc Bloch（马克·布洛克中心）；Massachusetts Institute of Technology（麻省理工学院）；Qatar Computing Research Institute（卡塔尔计算研究院）；Ben-Gurion University of the Negev（本-古里安大学）
检测社交媒体上个人就业状况的披露可以提供有价值的信息，以将求职者与合适的空缺职位相匹配，提供社会保障或衡量劳动力市场流动。然而，识别这种个人披露是一项具有挑战性的任务，因为它们在社交媒体内容的海洋中非常罕见，并且用于描述它们的语言形式多种多样。在这里，我们研究了三个主动学习（AL）策略在现实世界中的极端类不平衡的设置，并确定五种类型的披露个人的就业状况（如失业）在三种语言使用BERT为基础的分类模型。我们的研究结果表明，即使在极端的不平衡设置下，与具有相同数量标签的监督基线相比，少量的AL迭代足以在精度，召回率和结果多样性方面获得巨大而显著的收益。我们还发现，没有AL策略始终优于其余的。定性分析表明，AL有助于将注意力机制的BERT的核心条款和调整的边界语义扩展，突出了可解释的模型，以提供更大的控制和可视性，这一动态学习过程的重要性。
2022-03-17 cs.CL
Measuring Corporate Human Capital Disclosures: Lexicon, Data, Code, and Research Opportunities
University of Waterloo（滑铁卢大学）；California State University（加州州立大学）；Rochester Institute of Technology（罗切斯特理工学院）
针对人力资本缺乏明确衡量与披露规则的问题，本研究用word2vec构建含五子类的人力资本关键词表，公开相关数据与代码并提供应用示例，为相关研究提供工具与方向。
2025-06-11 cs.AI cs.CL cs.LG
Fine-tuning ClimateBert transformer with ClimaText for the disclosure analysis of climate-related financial risks
Universidad Pontificia Comillas（卡米亚斯大主教大学）
近年来，金融代理人，特别是特定投资者和机构投资者越来越多地要求公司报告与气候相关的金融风险。公司为了在财务和非财务报告中确定这些类型的风险，预计将在短期内披露大量文本格式的信息，特别是为了应对正在通过的关于这一问题的越来越多的法规。为此，本文采用最先进的自然语言处理技术来实现文本语料库中的气候变化检测。我们使用迁移学习来微调两个Transformer模型，BERT和ClimateBert -一个最近发布的基于DistillRoBERTA的模型，专门为气候文本分类量身定制。这两个算法是基于Transformer架构，使学习文本中的单词之间的上下文关系。我们在新的Clima-Text数据库上对这两种模型进行了微调，该数据库包括从维基百科，10 K文件报告和基于网络的索赔中收集的数据。我们的文本分类模型从ClimateBert对ClimaText的微调过程中获得，在这个特定的问题上优于使用BERT和当前最先进的Transformer创建的模型。我们的研究是第一个在ClimaText数据库上实现最近发表的ClimateBert算法的研究。根据我们的研究结果，可以说ClimateBert在ClimaText上微调是NLP预训练Transformer模型中的一个出色工具，投资者，机构代理人和公司本身可以并且应该使用它来监控财务报告中的气候风险披露。此外，我们的迁移学习方法在计算方面是便宜的，因…
2023-03-21 cs.AI cs.CL
Improving Results on Russian Sentiment Datasets
Bauman Moscow State Technical University（鲍曼莫斯科国立技术大学）；Lomonosov Moscow State University（罗蒙诺索夫莫斯科国立大学）
在这项研究中，我们测试了标准神经网络架构（CNN，LSTM，BiLSTM）和最近出现的BERT架构在以前的俄罗斯情感评估数据集上。我们比较了两个变种的俄罗斯BERT，并表明，在这项研究中的所有情感任务的会话变种的俄罗斯BERT表现更好。BERT-NLI模型将情感分类任务视为自然语言推理任务，取得了最好的结果。在其中一个数据集上，该模型实际上达到了人类水平。
2020-07-28 cs.CL
Decoding Student Minds: Leveraging Conversational Agents for Psychological and Learning Analysis
STIH Laboratory, Sorbonne University（索邦大学STIH实验室）；LIPAH-LR11ES14, National Engineering School of Tunis（突尼斯国家工程学院LIPAH-LR11ES14）；Faculty of Sciences of Tunis（突尼斯科学学院）；LINFI Laboratory（LINFI实验室）
本文提出一种结合多模态数据和语义推理的对话代理，用于实时分析学生认知和情感状态，提升学习表现和情感福祉。
2026-08-17 cs.CL
Detecting Harmful Online Conversational Content towards LGBTQIA+ Individuals
Michigan State University（密歇根州立大学）
在线讨论、小组讨论、讨论页编辑等，经常包含有害的会话内容即，仇恨言论、死亡威胁和攻击性语言，特别是针对某些人口群体的语言。例如，识别为LGBTQIA+社区和/或BIPOC（黑人，土著人，有色人种）成员的个人在网上遭受虐待和骚扰的风险更高。在这项工作中，我们首先介绍了一个真实世界的数据集，这将使我们能够研究和理解有害的在线会话内容。然后，我们进行了一些探索性的数据分析实验，以从数据集中获得更深入的见解。我们稍后描述了我们用于检测有害的在线反LGBTQIA+对话内容的方法，最后，我们实现了两个基线机器学习模型（即，支持向量机和逻辑回归），并微调3个预训练的大语言模型（BERT、RoBERTa和Hate BERT）。我们的研究结果验证了大语言模型在检测在线反LGBTQIA+会话内容检测任务上可以实现非常有前途的性能。
2022-06-15 cs.CL
SDNet: Contextualized Attention-based Deep Network for Conversational Question Answering
Microsoft Speech and Dialogue Research Group（微软语音与对话研究组）
会话式问答（CQA）是一种需要理解对话语境的新型问答任务。与传统的单轮机器阅读理解（MRC）任务不同，CQA包括篇章理解、共指消解和语境理解。在本文中，我们提出了一种创新的基于上下文的注意力深度神经网络SDNet，将上下文融合到传统的MRC模型中。我们的模型利用相互注意和自我注意来理解会话上下文并从段落中提取相关信息。此外，我们展示了一种新的方法来集成最新的BERT上下文模型。实证结果表明，我们的模型的有效性，它设置了新的国家的最先进的结果在CoQA排行榜，优于以前的最佳模型的1.6%F1。我们的集成模型进一步提高了2.7%F1的结果。
2019-01-02 cs.CL
ANA at SemEval-2019 Task 3: Contextual Emotion detection in Conversations through hierarchical LSTMs and BERT
University of Alberta（阿尔伯塔大学）
本文描述了ANA团队为SemEval-2019任务3：环境背景提交的系统。本文提出了一种新的层次LSTM情境情感检测模型（HRLCE）。它根据会话语境对话语的情感进行分类。结果表明，在这项任务中，我们的HRCLE优于最新的国家的最先进的文本分类框架：BERT。我们结合BERT和HRCLE产生的结果，达到了0.7709的总成绩，在165支球队中排名第五。
2019-05-31 cs.CL cs.IR cs.LG
Disfluency Detection with Unlabeled Data and Small BERT Models
Google Research（谷歌研究院）
不流利检测模型现在对英语文本的准确率很高。然而，很少有探索已经做了改善的规模和推理时间的模型。与此同时，自动语音识别（ASR）模型正在从服务器端推理转向本地设备上的推理。转录管道中的支持模型（如不流利检测）必须遵循。在这项工作中，我们专注于不流利检测任务，专注于小型，快速，基于BERT架构的设备模型。我们证明，它是可能的训练不流利检测模型小到1.3 MiB，同时保持高性能。我们建立在以前的工作，显示了数据增强方法，如自我训练的好处。然后，我们评估了会话和书面文本之间的域不匹配对模型性能的影响。我们发现，领域自适应和数据增强策略对这些较小的模型有更明显的影响，相比传统的BERT模型。
2021-07-27 cs.CL
Leveraging Transformers for Hate Speech Detection in Conversational Code-Mixed Tweets
Indraprastha Institute of Information Technology Delhi（德里英德拉普拉斯塔信息技术学院）
在当今的互联网时代，每个人都可以轻松访问社交媒体平台，人们往往不得不应对威胁，身份攻击，仇恨和欺凌，因为他们与演员，信仰，性别，宗教，甚至接受或拒绝一个概念。现有的仇恨言论检测工作主要集中在个人评论分类作为一个序列标签的任务，往往没有考虑到会话的上下文。在确定作者的意图和推文背后的情绪时，对话的上下文通常起着重要的作用。本文描述了MIDAS-IIITD团队为HASOC 2021子任务2提出的系统，该子任务是第一批共享任务之一，专注于从Twitter上的印地语-英语代码混合对话中检测仇恨言论。我们使用神经网络来解决这个问题，利用Transformer的跨语言嵌入，并进一步对它们进行微调，以用于在音译印地语文本中进行低资源仇恨语音分类。我们表现最好的系统是由Indic-BERT、XLM-RoBERTa和多语言BERT组成的硬投票组合，取得了0.7253的宏观F1分数，使我们在整体排行榜上排名第一。
2021-12-18 cs.AI cs.CL cs.LG
Representation Learning for Conversational Data using Discourse Mutual Information Maximization
IIT Kharagpur（印度理工学院克勒格布尔分校）；Microsoft（微软）
尽管存在许多针对文本或图像的预训练模型，但是专门针对对话理解来训练表示的尝试相对较少。以前的作品通常依赖于基于通用文本表示模型（如BERT或GPT-2）的微调表示。但是这种语言建模预训练目标没有考虑会话文本的结构信息。虽然生成式对话模型也可以学习结构特征，但我们认为，结构未知的逐词生成不适合有效的对话建模。我们的经验表明，这种表示不执行一致的各种对话理解任务。因此，我们提出了一个结构感知的互信息为基础的损失函数训练（话语互信息）的对话表示模型，另外捕捉响应预测的固有不确定性。九个不同的对话建模任务的广泛评估表明，我们提出的基于DMI的模型优于强大的基线显着利润率。
2022-05-03 cs.CL
DialAug: Mixing up Dialogue Contexts in Contrastive Learning for Robust Conversational Modeling
Amazon（亚马逊）
基于检索的会话系统通过计算它们的向量表示之间的相似性来学习对给定对话上下文的响应候选进行排名。然而，在多回合上下文的单个文本形式上进行训练限制了模型学习表示的能力，这些表示概括为推理期间看到的自然扰动。在本文中，我们提出了一个框架，将增强版本的对话背景下的学习目标。我们利用对比学习作为一个辅助目标，学习强大的对话上下文表示是不变的扰动注入通过增强方法。我们用四个基准对话数据集进行了实验，证明我们的框架与现有的增强方法结合得很好，并且可以显着改善基于BERT的基线排名架构。此外，我们提出了一种新的数据增强方法，ConMix，通过随机混合令牌从其他上下文中的批次添加令牌级扰动。我们表明，我们提出的增强方法优于以前的数据增强方法，并提供对话表示，更强大的常见干扰推理过程中看到的。
2022-04-15 cs.CL
Mentalic Net: Development of RAG-based Conversational AI and Evaluation Framework for Mental Health Support
Texas State University（德克萨斯州立大学）
本研究开发了基于RAG框架、结合提示工程与微调的心理健康支持对话AI Mentalic Net，构建多维度评估体系验证其性能达标，倡导以人在回路的负责任策略开发此类技术。
2025-08-27 cs.CL
Understanding patient complaint characteristics using contextual clinical BERT embeddings
Medius Health
在临床会话应用中，所提取的实体倾向于捕获患者的主诉的主要主题，即症状或疾病。然而，他们大多未能认识到投诉的特征，如时间，发病和严重程度。例如，如果输入是“我头痛，而且很严重”，那么最先进的模型仅识别主要症状实体-头痛，但忽略表征头痛的“严重”的严重性因素。在本文中，我们设计了一个两阶段的方法来检测实体的特征，如一般用户在上下文中，他们会描述他们的症状，临床医生提出的症状。我们使用Word 2 Vec和BERT对患者提供的临床文本进行编码。我们转换输出并将任务重新构建为多标签分类问题。最后，我们将处理后的编码与线性判别分析（LDA）算法相结合，对主要实体的特征进行分类。实验结果表明，我们的方法实现了40-50%的提高的准确性比国家的最先进的模型。
2020-02-14 cs.CL
FCTalker: Fine and Coarse Grained Context Modeling for Expressive Conversational Speech Synthesis
Inner Mongolia University（内蒙古大学）
会话文语转换（TTS）的目的是在会话语境中合成具有正确的语言和情感韵律的话语。利用当前话语和对话历史在话语级的相关性来提高合成语音的表达能力。然而，在词汇层面上的对话历史中的细粒度信息也对话语的韵律表达有重要影响，这在先前的工作中没有得到很好的研究。因此，我们提出了一种新的表达会话TTS模型，称为FCTalker，学习细粒度和粗粒度的上下文依赖在语音生成的同时。具体而言，FCTalker包括细粒度和粗粒度编码器，以利用单词和话语级上下文依赖性。为了对话语及其对话历史之间的单词级依赖关系进行建模，细粒度对话编码器构建在对话BERT模型之上。实验结果表明，所提出的方法优于所有基线，并产生更多的表达语音，是上下文适当的。我们在https://github.com/walker-hyf/FCTalker上发布源代码。
2022-10-27 cs.CL cs.SD eess.AS
ES-MemEval: Benchmarking Conversational Agents on Personalized Long-Term Emotional Support
Tongji University（同济大学）
ES-MemEval通过评估长期情感支持中的记忆能力，揭示了显式长期记忆对减少幻觉和提升个性化的重要性，同时指出了检索增强模型在时间动态方面的局限性。
2026-02-02 cs.AI cs.CL
L3Cube-MahaNER: A Marathi Named Entity Recognition Dataset and BERT models
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（L3Cube浦那）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
命名实体识别（NER）是一项基本的自然语言处理任务，主要应用于会话和搜索系统。它帮助我们识别用于下游应用程序的句子中的关键实体。用于流行语言的NER或类似的槽填充系统已经大量用于商业应用中。在这项工作中，我们专注于马拉地语，这是一种印度语言，由马哈拉施特拉邦的人们主要使用。马拉地语是一种低资源语言，仍然缺乏有用的NER资源。我们提出了L3立方体MahaNER，第一个主要的黄金标准命名实体识别数据集在马拉地语。我们还描述了在此过程中遵循的手动注释指南。最后，我们在不同的CNN，LSTM和基于Transformer的模型上对数据集进行基准测试，如mBERT，XLM-RoBERTa，IndicBERT，MahaBERT等。数据和模型可在https://github.com/l3cube-pune/MarathiNLP上获得。
2022-04-12 cs.CL cs.LG
Effective Cross-Utterance Language Modeling for Conversational Speech Recognition
National Taiwan Normal University（国立台湾师范大学）；Chunghwa Telecom Laboratories（中华电信研究所）
会话言语通常在话语层面上体现为松散的句法结构，但同时在连续的话语之间表现出主题连贯关系。先前的工作已经表明，用循环神经网络或长短期记忆语言模型（LM）捕获较长的上下文信息可能在排除长范围上下文的同时遭受最近偏差。为了捕捉词与词之间以及话语之间的长期语义交互，提出了会话语音自动语音识别（ASR）中不同会话历史融合的语言建模方法。此外，一种新的音频融合机制，管理融合和利用当前话语的声学嵌入和其相应的会话历史的语义内容，在合作的方式。为了充实我们的想法，我们将ASR N-best假设重新评分任务框架为预测问题，利用BERT（一种标志性的预训练LM）作为成分工具，以便于从给定的N-best假设列表中选择Oracle假设。在AMI基准数据集上进行的实证实验似乎证明了我们的方法相对于当前一些顶级方法的可行性和有效性。所提出的方法不仅实现了显着的推理时间减少，但也提高了会话语音的ASR性能。
2022-06-01 cs.CL cs.SD eess.AS
Detecting mental disorder on social media: a ChatGPT-augmented explainable approach
University of Calabria（卡拉布里亚大学）
本研究提出一种结合LLM、XAI和ChatGPT的可解释抑郁症检测方法，通过BERT-XDD模型实现分类与解释，并转化为人类可读评论，以支持早期干预。
2025-03-10 cs.AI cs.CL cs.LG
Listening Between the Lines: Decoding Podcast Narratives with Language Modeling
Indian Institute Of Technology Delhi（印度理工学院德里分校）；University of Copenhagen（哥本哈根大学）；Rutgers University（罗格斯大学）
本文提出一种基于 BERT 的方法，通过标注叙事框架与对话实体的关系，揭示播客中主题与框架的系统关联，提升对数字媒体影响的分析能力。
2025-12-16 cs.CL cs.SI
Multilingual Datasets for Custom Input Extraction and Explanation Requests Parsing in Conversational XAI Systems
Technische Universität Berlin（技术大学柏林）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Saarland Informatics Campus（萨尔州信息学校区）；Centre for European Research in Trusted AI (CERTAIN)（可信人工智能欧洲研究中心）；BIFOLD – Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究院）
本文针对对话式可解释AI系统在多语言意图解析和自定义输入提取方面的不足，提出MultiCoXQL和Compass两个多语言数据集，并评估多种LLM的解析性能。
2025-08-20 cs.CL
Abstractive Summarization of Spoken and Written Instructions with BERT
UC Berkeley School of Information（加州大学伯克利分校信息学院）
摘要的讲话是一个困难的问题，由于自发的流动，不流利，和其他问题，通常不会遇到书面文本。我们的工作提出了BERTSum模型的会话语言的第一个应用程序。我们生成各种主题的讲解教学视频的抽象摘要，从园艺和烹饪到软件配置和运动。为了丰富词汇，我们使用了迁移学习，并在几个大型的跨领域数据集上对模型进行了预训练，包括书面和口语。我们还对成绩单进行预处理，以恢复ASR系统输出中的句子分割和标点符号。使用How2和WikiHow数据集的ROUGE和Content-F1评分评估结果。我们让人类评委从HowTo 100 M和YouTube的数据集中随机选择一组摘要进行评分。基于盲评估，我们实现了文本流畅性和实用性的水平，接近人类内容创建者编写的摘要。当应用于风格和主题差异很大的WikiHow文章时，该模型击败了当前的SOTA，同时在规范的CNN/DailyMail数据集上没有表现出性能回归。由于该模型在不同风格和领域的高度通用性，它具有很大的潜力，以提高互联网内容的可访问性和可重用性。我们设想将此集成为智能虚拟助理的一个功能，使他们能够根据要求总结书面和口头的教学内容。
2020-08-26 cs.AI cs.CL
BERT Lost Patience Won't Be Robust to Adversarial Slowdown
Oregon State University（俄勒冈州立大学）
本文提出WAFFLE攻击，系统评估多出口语言模型对对抗性减速的鲁棒性，发现机制越复杂越脆弱，对抗训练无效但ChatGPT输入净化有效，呼吁开发高效鲁棒的多出口模型。
2023-10-31 cs.CL cs.CR cs.LG
ESGBERT: Language Model to Help with Classification Tasks Related to Companies Environmental, Social, and Governance Practices
University of California Berkeley（加州大学伯克利分校）
环境、社会和治理（ESG）是非财务因素，越来越受到投资者的关注，因为他们越来越多地将这些因素作为分析的一部分，以识别重大风险和增长机会。这种关注也受到客户的推动，他们现在比以往任何时候都更加意识到，他们要求负责任地管理和投资他们的资金。随着人们对ESG的兴趣越来越大，投资者对获取可消费的ESG信息的需求也越来越大。由于大部分信息都是以文本形式出现在报告、披露、新闻稿和10-Q文件中，因此我们认为需要复杂的NLP技术来完成ESG文本的分类任务。我们假设ESG领域特定的预训练模型将有助于实现这一点，并在本文中研究构建同样的模型。我们通过使用ESG特定文本微调BERT预训练的权重，然后进一步微调分类任务的模型来探索这一点。在特定于环境的分类任务中，我们能够实现比原始BERT和基线模型更好的准确性。
2022-03-31 cs.CL cs.LG
Findings on Conversation Disentanglement
School of Computing and Information System（计算与信息系统学院）；The University of Melbourne（墨尔本大学）
会话解纠缠（Conversation disentanglement）是识别会话中的独立线程的任务，是会话问答和会话摘要等多方会话NLP应用中的重要预处理步骤。将其框架为话语到话语分类问题-即给定感兴趣的话语（UOI），找到它回复的过去话语-我们探索了许多基于变换的模型，并发现BERT与手工制作的特征相结合仍然是一个强大的基线。然后，我们建立了一个多任务学习模型，共同学习话语到话语和话语到线程分类。当我们的模型出错时，观察到地面真实标签（过去的话语）是最佳候选者，我们尝试使用二分图作为后处理步骤，以学习如何将一组UOI与过去的话语进行最佳匹配。在Ubuntu IRC数据集上的实验表明，该方法有可能优于传统的贪婪方法，即简单地为每个UOI独立选择最高概率的候选人，这表明了一个有前途的未来研究方向。
2021-12-10 cs.CL
DialogueBERT: A Self-Supervised Learning based Dialogue Pre-training Encoder
JD AI（京东人工智能）；Xiaoduo AI（晓多人工智能）
随着人工智能的快速发展，会话机器人已经在主流电子商务平台中盛行，它可以及时提供便捷的客户服务。为了满足用户，会话机器人需要理解用户的意图，检测用户的情感，并从会话语句中提取关键实体。然而，理解对话被认为是一项非常具有挑战性的任务。与一般的语言理解不同，对话中的话语是从不同的角色交替出现的，并且通常被组织成层次结构。为了促进对话的理解，在本文中，我们提出了一种新的上下文对话编码器（即对话BERT）的基础上流行的预训练的语言模型BERT。设计了五个自监督学习预训练任务来学习会话话语的特殊性。四种不同的输入嵌入，包括话轮嵌入，角色嵌入，标记嵌入和位置嵌入的集成来捕捉话语之间的关系。DialogueBERT在真实场景中预先训练了7000万个对话，然后在三个不同的下游对话理解任务中进行了微调。实验结果表明，DialogueBERT在意图识别、情感识别和命名实体识别方面分别取得了88.63%、94.25%和97.04%F1的优异成绩，大大优于几个强基线。
2021-09-22 cs.AI cs.CL
Do We Talk to Robots Like Therapists, and Do They Respond Accordingly? Language Alignment in AI Emotional Support
Department of Computer Science；Technology, University of Cambridge Cambridge UK；Technology, University of Cambridge
本研究通过对比机器人与人类治疗师的对话数据，发现90.88%的机器人披露可映射到人类治疗聚类，表明两者在主题和语义上高度对齐，机器人有潜力辅助心理健康干预。
2025-06-19 cs.AI cs.CL cs.HC
SLABERT Talk Pretty One Day: Modeling Second Language Acquisition with BERT
Karya Inc.（Karya公司）；Case Western Reserve University（凯斯西储大学）
本文利用BERT建模第二语言习得，构建多语言MAO-CHILDES数据集，发现语系距离越大负迁移越明显，且对话式语音比脚本式语音更促进语言习得。
2023-05-31 cs.CL
Spoken Language Understanding for Conversational AI: Recent Advances and Future Direction
The University of Sydney（悉尼大学）
当一个人在网络和在线上使用自然语言与一台机器进行交流时，它如何理解人类的意图和他们谈话的语义上下文？这是一项重要的人工智能任务，因为它使机器能够为人类构建合理的答案或执行有用的操作。意义在句子层面上表示，其识别被称为意图检测，而在单词层面上，标记任务被称为槽填充。这种双层联合任务需要对自然语言和深度学习网络设计进行创新性思考，因此提出并应用了许多方法和模型。本教程将讨论如何设置联合任务，并介绍使用深度学习技术的口语语言理解/自然语言理解（SLU/NLU）。我们将涵盖该领域使用的数据集，实验和指标。我们将描述机器如何使用最新的NLP和深度学习技术来解决联合任务，包括循环和基于注意力的Transformer网络和预训练模型（例如BERT）。然后，我们将详细研究一个网络，该网络允许两个级别的任务（意图分类和插槽填充）进行交互，以显式地提高性能。我们将为这个模型做一个Python笔记本的代码演示，与会者将有机会观看这个联合NLU上的编码演示任务，以加深他们的理解。
2022-12-21 cs.AI cs.CL
Augmenting Customer Support with an NLP-based Receptionist
QuintoAndar Inc（QuintoAndar公司）；University of São Paulo（圣保罗大学）
在本文中，我们展示了葡萄牙BERT模型如何与结构化数据相结合，以便部署基于有限状态机的聊天机器人来创建会话AI系统，帮助房地产公司预测客户的联系动机。该模型在包含235个不平衡标签的数据集中实现了人类水平的结果。然后，我们还将其与经典的NLP方法进行比较，考虑到业务影响，显示其优势。
2021-12-03 cs.CL
