LLM-Guided Lifecycle-Aware Clustering of Multi-Turn Customer Support Conversations
本文提出基于大语言模型的生命周期感知多轮客户支持对话聚类方法,通过动态细化聚类提升聚类质量,实现高效实时分析。
2026-01-07 cs.AI
PersonaBOT: Bringing Customer Personas to Life with LLMs and RAG
Department of Computer Science, Jönköping University(计算机科学系,约翰科普ิง大学);Department of Future Solutions, Volvo Construction Equipment(未来解决方案部,沃尔沃建筑设备公司)
本文提出PersonaBOT,利用LLM和RAG生成合成客户画像并集成到聊天机器人中,通过少样本与思维链提示对比,提升业务决策支持,准确率评分从5.88升至6.42。
2025-05-22 cs.CL cs.LG
Natural Language Processing in Customer Service: A Systematic Review
King Saud University(沙特国王大学)
人工智能和自然语言处理(NLP)越来越多地用于客户服务,与用户互动并回答他们的问题。本系统综述的目的是检查现有的研究在客户服务中使用NLP技术,包括研究领域,应用,使用的数据集和评估方法。审查还着眼于该领域的未来方向和任何重大限制。该综述涵盖了2015年至2022年的时间段,包括来自五个主要科学数据库的论文。聊天机器人和问答系统被发现用于10个主要领域,其中最常见的是社交网络和电子商务领域。Twitter是第二个最常用的数据集,大多数研究也使用自己的原始数据集。准确率、精确率、召回率和F1是最常用的评价方法。未来的工作旨在提高用户行为和情感的性能和理解,并解决数据集的数量,多样性和质量等限制。这篇综述包括对不同口语的研究以及模型和技术。
2022-12-16 cs.AI cs.CL
Benchmarking LLM powered Chatbots: Methods and Metrics
本文提出E2E基准,通过余弦相似度等指标评估LLM驱动聊天机器人答案的准确性和有用性,实验表明该方法优于现有常用指标。
2023-08-08 cs.AI cs.CL
ChatGPT or A Silent Everywhere Helper: A Survey of Large Language Models
Tampere University(坦佩雷大学);University of Houston(休斯顿大学)
本综述全面分析ChatGPT的架构、训练与功能,梳理其多行业应用,对比其他大语言模型的性能与特性,探讨潜在风险,梳理相关模型、数据集与应用,并指明未来研究方向。
2025-03-19 cs.AI cs.CL
AliMe Assist: An Intelligent Assistant for Creating an Innovative E-commerce Experience
Alibaba Group(阿里巴巴集团)
我们介绍AliMe Assist,一款智能助手,旨在为电子商业创造创新的在线购物体验。AliMe Assist以问答(QA)为基础,提供协助服务、客户服务和聊天服务。它能够接受语音和文本输入,将上下文纳入QA,并支持多轮交互。目前,它每天处理数百万个客户问题,并能够解决其中的85%。在本文中,我们展示了系统,提出了底层技术,并分享我们的经验,在处理现实世界的QA在电子商业领域。
2018-01-12 cs.AI cs.CL
Control in Hybrid Chatbots
Kauz GmbH(考茨有限公司);Coburg University of Applied Sciences and Arts(科堡应用科学与艺术大学);University of Sheffield(谢菲尔德大学);KnowledgeSpaces UG (haftungsbeschr.)(知识空间有限责任公司(承担有限责任))
本报告通过案例研究探讨了如何集成商业规则引擎与神经聊天机器人以实现对模型“幻觉”的控制,并分析了该集成模式的控制水平及替代方法。
2023-11-20 cs.AI cs.CL cs.HC
Screen Before You Serve: Simulation for Production Customer Experience AI Agents at 140M Scale
Nubank(努班克);Guardrails AI(护栏人工智能)
提出基于假设的仿真工作流,在部署前筛选客户体验AI智能体,通过合成客户和模拟工具输出支持多步工作流,在Nubank大规模应用中提升tNPS和SSR,实现安全高效的生产改进。
2026-11-06 cs.AI cs.CL
Graph-Enhanced Retrieval-Augmented Question Answering for E-Commerce Customer Support
Microsoft(微软)
本文提出一种结合知识图谱与检索增强生成的框架,通过融合结构化子图与文本文档进行答案合成,显著提升了电子商务客户支持问答的事实准确率与用户满意度。
2025-09-15 cs.AI cs.CL cs.IT
Customer Sentiment Analysis using Weak Supervision for Customer-Agent Chat
Comcast Applied AI Research(康卡斯特应用人工智能研究院)
之前使用弱监督的情感分析工作主要集中在不同的评论上,如电影(IMDB),餐馆(Yelp),产品(亚马逊)。在这方面,由于缺乏免费的公共数据,一个未充分开发的领域是客户支持中客户-代理聊天的客户聊天数据。在这里,我们使用内部数据集的弱监督对客户聊天进行情感分析。我们使用弱监督来微调预训练的语言模型(LM)RoBERTa作为情感分类器。我们的贡献如下:1)我们表明,通过使用弱情感分类器以及特定领域的基于词典的规则作为标签功能(LF),我们可以训练一个相当准确的客户聊天情感分类器使用弱监督。2)我们将我们的定制训练模型的性能与现成的Google Cloud NLP API进行情感分析。我们表明,通过使用LF注入特定于领域的知识,即使监督较弱,我们也可以训练模型,使其比现成的Google Cloud NLP API更好地处理某些特定于领域的用例。3)我们还分析了聊天中的客户情绪与问题解决方案的关系。
2021-11-30 cs.AI cs.CL cs.LG
Generating Attractive and Authentic Copywriting from Customer Reviews
Academia Sinica(中央研究院)
针对传统产品文案生成依赖属性导致内容枯燥重复的问题,提出基于用户评论、结合强化学习的序列到序列框架,在吸引力和忠实度上优于现有基线及LLaMA-2-chat-7B、GPT-3.5等零样本大模型,还验证了LLMs构建营销语料的有效性。
2024-05-14 cs.AI cs.CL
Creativity Has Left the Chat: The Price of Debiasing Language Models
Carnegie Mellon University(卡内基梅隆大学)
本文通过 Llama-2 系列实验发现 RLHF 对齐会降低语言模型的句法和语义多样性,使其趋向低熵和吸引子状态,揭示了去偏与创造力之间的权衡,并强调提示工程对挖掘基础模型创造潜力的作用。
2024-06-08 cs.AI cs.CL
Building Emotional Support Chatbots in the Era of LLMs
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Singapore Management University(新加坡管理大学);National University of Singapore(新加坡国立大学)
针对情感支持对话数据有限、缺乏训练范式的问题,研究结合人类经验与大语言模型能力构建ExTES数据集,并微调LLaMA得到专用模型,验证了情感支持能力,推动该领域发展。
2023-08-17 cs.AI cs.CL
CAPRAG: A Large Language Model Solution for Customer Service and Automatic Reporting using Vector and Graph Retrieval-Augmented Generation
INETUM Tunisia(法国英迪堂突尼斯分公司);University of Carthage(迦太基大学);Institut Pasteur de Tunis(突尼斯巴斯德研究所);University of Tunis El Manar(突尼斯马纳尔大学)
针对银行客户服务,提出混合CAPRAG框架,结合向量与图检索增强生成,处理关系与上下文查询,提升数字银行中的客户参与度。
2025-01-23 cs.AI cs.CL cs.IR
Forecasting Live Chat Intent from Browsing History
University of California, San Diego(加利福尼亚大学圣迭戈分校);Lowe’s Companies, Inc.(劳氏公司)
本文提出一种两阶段方法,先利用微调Transformer对浏览历史进行高层意图分类,再结合LLM生成细粒度用户意图,并通过LLM自动评估验证了该方法的显著性能优势。
2024-09-01 cs.AI cs.CL cs.IR
Evaluating Empathetic Chatbots in Customer Service Settings
KMK Consulting, Inc.(KMK咨询公司);ServiceNow, Inc.(ServiceNow公司);Unify Square, Inc.(Unify Square公司)
客户服务是一种需要在真人代理响应中产生同理心的设置。最近的进展已经证明了如何训练开放域聊天机器人,以在回应真人话语时表现出同理心。我们发现,一个响应客户查询的混合技能聊天机器人模型更有可能类似于实际的人类代理响应,如果它被训练来识别情感并表现出适当的同理心,而不是没有这种训练的模型。在我们的分析中,我们利用了Twitter客户服务数据集,其中包含<->来自20个知名品牌的客户服务上下文中的数百万个客户代理对话示例。
2021-01-05 cs.CL
Towards Proactive Information Probing: Customer Service Chatbots Harvesting Value from Conversation
Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究所);College of Computer Science, Sichuan University(四川大学计算机学院);Engineering Research Center of Machine Learning and Industry Intelligence, Ministry of Education, China(教育部机器学习与产业智能工程研究中心)
本文提出主动信息探测任务,设计PROCHATIP框架,通过优化探测时机提升信息获取效率和服务质量,实验表明其在信息探测和服务质量方面优于基线模型。
2026-04-16 cs.AI cs.CL
Toxicity in ChatGPT: Analyzing Persona-assigned Language Models
Princeton University(普林斯顿大学);The Allen Institute for AI(艾伦人工智能研究所);Georgia Tech(佐治亚理工学院)
本文系统评估了ChatGPT超五十万次生成内容,发现分配特定人设会使其毒性最高增加6倍,并揭示模型对特定实体存在固有歧视性偏见,呼吁改进AI安全机制。
2023-04-11 cs.AI cs.CL cs.LG
"Ask Me Anything": How Comcast Uses LLMs to Assist Agents in Real Time
Comcast AI Technologies(康卡斯特人工智能技术公司)
Comcast 提出“尽管问我”(AMA)功能,让客服人员在实时对话中按需向大语言模型提问,实验显示每次含搜索对话耗时减少约10%,年节省数百万美元,近80%反馈为正面。
2024-05-06 cs.CL
Humanlike Multi-user Agent (HUMA): Designing a Deceptively Human AI Facilitator for Group Chats
Soofte Research(Soofte研究机构)
HUMA是一种基于LLM的多用户对话促进者,通过事件驱动架构模拟人类交互,实现在自然群聊中与人类相当的质量并难以识别。
2025-11-21 cs.CL
Intent Matching based Customer Services Chatbot with Natural Language Understanding
University of Nottingham Malaysia(诺丁汉大学马来西亚校区)
客户服务是任何企业的生命线。优秀的客户服务不仅可以产生回头客,还可以创造新的客户。鉴于为客户提供24/7服务的需求市场,许多组织越来越多地参与流行的社交媒体和短信平台,如WhatsApp和Facebook Messenger,为当前需求市场的客户提供24/7服务。在本文中,我们提出了一种基于意图匹配的客户服务聊天机器人(IMCSC),它能够取代销售人员的客户服务工作,同时通过使用自然语言理解(NLU)以更自然、更人性化的方式进行交互。该机器人能够回答最常见的常见问题,我们还集成了处理和导出客户订单到Google Sheet的功能。
2022-01-07 cs.CL
DialogQAE: N-to-N Question Answer Pair Extraction from Customer Service Chatlog
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent Cloud AI(腾讯云人工智能);Peking University(北京大学)
从客户服务聊天日志中收集问答(QA)对是在冷启动或持续集成场景中丰富客户服务聊天机器人知识库的有效方法。先前的工作试图从不断增长的客户服务聊天日志中获得1对1的QA对,这未能将来自对话上下文的不完整话语整合用于复合QA检索。在本文中,我们提出了N-to-N QA提取任务,其中衍生的问题和相应的答案可能会在不同的话语分离。我们介绍了一套基于生成/区分标记的方法,这些方法具有端到端和两阶段的变体,在5个客户服务数据集上表现良好,并首次建立了具有话语和会话级别评估指标的N-to-N DialogQAE基准。通过深入分析所提取的问答对,我们发现问答对之间和内部的关系可以作为分析对话结构的指标,例如信息寻求,澄清,闯入和阐述。我们还表明,所提出的模型可以适应不同的领域和语言,并减少劳动力成本的知识积累在现实世界的产品对话平台。
2022-12-14 cs.AI cs.CL cs.IR
The economic trade-offs of large language models: A case study
LivePerson Inc.(LivePerson公司)
本研究针对企业客服场景,提出评估NLP模型效用的成本框架,对比三种LLM专业化策略的成本与效果,发现回复可用性可弥补推理成本差异,并将结论推广至企业领域。
2023-06-08 cs.AI cs.CL
Are You Listening to Me? Fine-Tuning Chatbots for Empathetic Dialogue
Nelogica Sistemas de Software Ltda(Nelogica软件系统有限公司)
本文研究大型语言模型在共情对话生成中的表现,通过ChatGPT和Gemini扩展专家数据集并结合VADER情感分析与人工评估,发现情感建模需兼顾结构对齐与定性深度。
2025-07-03 cs.AI cs.HC
Lingke: A Fine-grained Multi-turn Chatbot for Customer Service
East China Normal University(华东师范大学);Shanghai Jiao Tong University(上海交通大学)
传统的聊天机器人通常需要大量的人类对话数据,特别是当使用有监督的机器学习方法时。虽然他们可以很容易地处理单轮问答,多轮的表现往往是不令人满意的。在本文中,我们提出了Lingke,一个信息检索增强聊天机器人,它能够回答问题的基础上给定的产品介绍文件,并处理多轮对话。我们将介绍一种细粒度的流水线处理,以基于非结构化文档提取响应,并为多轮对话提供细心的顺序上下文响应匹配。
2018-08-10 cs.CL
Chats-Grid: An Iterative Retrieval Q&A Optimization Scheme Leveraging Large Model and Retrieval Enhancement Generation in smart grid
Shenzhen University(深圳大学);The University of Hong Kong(香港大学)
针对智能电网领域传统RAG问答系统的检索质量差、响应无关等问题,提出Chats-Grid迭代检索框架,通过多阶段优化提升问答效果,助力智能电网管理升级。
2025-02-21 cs.CL
One System to Rule them All: a Universal Intent Recognition System for Customer Service Chatbots
Pratech Group(普拉泰克集团)
客户服务聊天机器人是一种对话系统,旨在向客户提供有关不同公司提供的产品/服务的信息。特别地,意图识别是聊天机器人系统的自然语言理解能力中的核心组件之一。在聊天机器人被训练识别的不同意图中,有一组是任何客户服务聊天机器人通用的。通用意图可以包括问候、将对话切换到人类代理、告别等。识别这些通用意图的系统将非常有助于优化特定客户服务聊天机器人的培训过程。我们建议开发一个通用的意图识别系统,该系统经过训练,可以识别28个不同聊天机器人中常见的11种意图。所提出的系统是在考虑最先进的单词嵌入模型(如word 2 vec和BERT)以及基于卷积和递归神经网络的深度分类器的情况下进行训练的。该模型能够区分这些普遍意图,平衡准确率高达80.4%。此外,所提出的系统同样准确地识别在短文本请求和长文本请求中表达的意图。同时,误分类错误经常发生在具有非常相似语义场的意图之间,例如告别和积极评论。所提出的系统将非常有助于优化客户服务聊天机器人的培训过程,因为我们的系统已经可以检测到一些意图。同时,该方法将是一个合适的基础模型,训练更具体的聊天机器人通过应用迁移学习策略。
2021-12-15 cs.CL cs.HC
Chat Bankman-Fried: an Exploration of LLM Alignment in Finance
Bank of Italy(意大利银行)
本研究提出实验框架,通过模拟金融CEO场景测试12个LLM的伦理对齐,发现风险厌恶等因素影响不道德倾向,并指出模拟测试的利弊。
2025-02-25 cs.AI cs.CL cs.CY
Creation Of A ChatBot Based On Natural Language Proccesing For Whatsapp
Faculty of Systems Engineering and Informatics, National University of San Marcos(圣马科斯国立大学系统工程与信息学院);Professional School of Systems Engineering, National Technological University of South Lima(南利马国立科技大学系统工程专业学院)
本研究旨在开发基于自然语言处理的WhatsApp聊天机器人,通过文献综述分析现有方法,以提升客户服务效率与满意度,为有效聊天机器人设计提供基础。
2023-10-10 cs.CL
AI Based Chatbot: An Approach of Utilizing On Customer Service Assistance
提供最佳的客户体验是基于在线的公司的主要关注点之一。机器学习的进步正在通过实施聊天机器人解决方案来提高服务质量,从而彻底改变公司对客户的态度,为用户的查询提供即时和满意的答案。随着聊天机器人系统的新改进和效率,这项技术的接受度正在提高。本文将涵盖公司聊天机器人系统的概念,作为一个用例,我们采取了AK贸易有限公司。它涉及到各种聊天机器人技术的研究工作,并在研究的基础上,使用它们来开发一个公司的聊天机器人系统。该系统将基于文本作为一个会话代理,可以通过自然语言与人类进行交互。主要目标项目是开发聊天机器人解决方案,该解决方案可以以定义良好的方法符合复杂问题和逻辑输出答案。最终目标是根据用户输入(问题)给出高质量的结果(答案)。为了成功实施该项目,我们对各种可用的机器学习技术进行了深入分析,并遵循结构良好的实施,以找出公司的最佳解决方案。该项目的主要关注点包括自然语言处理(NLP)、机器学习和向量空间模型(VSM)。该项目的结果显示了在合理的质量水平上为公司实施聊天机器人系统的问题解决技术
2022-06-18 cs.CL
User Privacy and Large Language Models: An Analysis of Frontier Developers' Privacy Policies
Frontier Developers(前沿开发者)
本文分析六家美国前沿AI开发者的隐私政策,发现其默认用用户聊天数据训练模型,部分无限期保留,甚至涉及儿童和敏感数据,呼吁加强透明度与问责。
2025-09-05 cs.AI cs.CR cs.CY
How to Capture and Study Conversations Between Research Participants and ChatGPT: GPT for Researchers (g4r.org)
D’Amore-McKim School of Business, Northeastern University(东北大学达莫-麦金商学院)
针对研究者缺乏标准化工具研究人类与大语言模型交互的问题,该研究推出免费平台G4R(g4r.org),支持自定义GPT交互界面、捕捉交互数据,为人机交互相关研究提供支撑并附使用指南。
2025-03-24 cs.AI cs.CY cs.HC
LLM aided semi-supervision for Extractive Dialog Summarization
Amsterdam UMC(阿姆斯特丹大学医学中心);University of Amsterdam(阿姆斯特丹大学);Amsterdam Public Health(阿姆斯特丹公共卫生研究所);University of Waterloo(滑铁卢大学);ServiceNow Research(ServiceNow研究院);University of British Columbia(不列颠哥伦比亚大学)
本文提出一种利用 LLM 生成伪标签的半监督方法,将摘要构建为问答问题并微调小型专用模型,在仅用 10% 标注数据时仍有效保留了 94.7% 的最先进性能。
2023-11-23 cs.AI cs.CL
AI Knowledge Assist: An Automated Approach for the Creation of Knowledge Bases for Conversational AI Agents
Dialpad Inc.(Dialpad公司)
本文提出AI知识助手系统,从历史客服对话中自动提取问答对构建知识库,微调轻量级LLM在20家公司上达到90%以上准确率,消除冷启动差距,实现RAG聊天机器人快速部署。
2025-10-09 cs.AI cs.CL cs.LG
EMMM, Explain Me My Model! Explainable Machine Generated Text Detection in Dialogues
针对客户服务中机器生成文本检测的可解释性不足,提出EMMM先解释后检测框架,兼顾低延迟、高准确率与非专家可理解性,70%评估者偏好其输出。
2025-08-26 cs.CL
The Battle of LLMs: A Comparative Study in Conversational QA Tasks
Vellore Institute of Technology(韦洛尔理工学院);Illinois Institute of Technology(伊利诺伊理工学院)
本研究比较评估了ChatGPT、GPT-4、Gemini、Mixtral和Claude在多个对话式问答语料库上的表现,通过计算和对比评估分数,揭示了各模型的整体性能及易出错领域,为改进提供了参考。
2024-05-28 cs.AI cs.CL
From Human Annotation to Automation: LLM-in-the-Loop Active Learning for Arabic Sentiment Analysis
Information and Computer Science Department, KFUPM, Dhahran 31261, Saudi Arabia(信息与计算机科学系,KFUPM,沙特阿拉伯达哈兰)
本文提出面向阿拉伯语情感分析的LLM辅助主动学习框架,跨三种数据集比较LSTM、GRU、RNN及多类LLM标注,证明少量LLM标签可达到与人工标注相当或更优的性能。
2025-09-27 cs.AI cs.CL
Beyond "How may I help you?": Assisting Customer Service Agents with Proactive Responses
University of California, San Diego(加州大学圣地亚哥分校);Airbnb, Inc.(爱彼迎公司)
我们研究的问题,提供建议的反应,客户服务代理在实时聊天对话系统。智能回复系统已经广泛应用于现实世界的应用程序(例如Gmail,LinkedIn消息),其中大多数都可以成功地推荐反应式响应。然而,我们注意到,现行方法的一个主要局限性是,它们通常难以建议采取主动调查行动(例如,“你是否在我们这里有其他账户?“),因为缺乏长期的背景信息,而这些信息确实是客户服务代理收集信息和解决客户问题的关键步骤。因此,在这项工作中,我们提出了一种端到端的方法,特别关注在Airbnb的客户服务实时聊天系统中向客户代理提出主动调查问题。我们所提出的方法的有效性可以通过定性和定量的结果进行验证。
2018-11-26 cs.CL cs.IR
Discovering Conversational Dependencies between Messages in Dialogs
University of Waterloo(滑铁卢大学);The Ohio State University(俄亥俄州立大学)
我们调查的任务,推断一对一的在线聊天,这已成为最流行的形式之一的客户服务的消息之间的会话依赖关系。我们提出了一种新的概率分类器,利用会话,词汇和语义信息。该方法是经验评估的一组客户服务聊天记录从中国电子商务网站。它优于启发式基线。
2016-12-08 cs.CL
TWEETSUMM -- A Dialog Summarization Dataset for Customer Service
IBM Research AI(IBM研究院AI)
在典型的客户服务聊天场景中,客户联系支持中心寻求帮助或提出投诉,人工代理试图解决问题。在大多数情况下,在谈话结束时,要求代理写一个简短的摘要,强调问题和建议的解决方案,通常是为了其他代理的利益,可能必须处理相同的客户或问题。本文的目标是推进这一任务的自动化。我们介绍了第一个大规模,高质量,客户关怀对话摘要数据集,接近6500人注释的摘要。这些数据基于真实世界的客户支持对话,包括提取和抽象摘要。我们还介绍了一个新的无监督,提取摘要方法特定的对话。
2021-11-23 cs.CL
Towards Equitable AI: Detecting Bias in Using Large Language Models for Marketing
Horace Mann School(霍勒斯·曼恩学校);Columbia University(哥伦比亚大学);Arab American University(阿拉伯美国大学)
本研究通过ChatGPT生成1,700条面向17个人口统计群体的金融营销口号,并结合相对偏见计算与KS检验,揭示AI营销信息存在显著的人口统计偏见。
2025-02-18 cs.CL cs.CY
Turn-level Dialog Evaluation with Dialog-level Weak Signals for Bot-Human Hybrid Customer Service Systems
我们开发了一种机器学习方法,可以在互动过程中的任何时候量化客户服务联系中的成功或价值的多个方面。具体而言,关于跨人类代理、聊天机器人和其他混合对话系统的回合级行为的价值/奖励函数的特征在于基于来自仅用对话级属性/状态中的弱信号训练的多任务神经网络的令牌级预测的语句之间的增量信息和置信度增益。由此产生的模型名为Value Profiler,作为一个面向目标的对话管理器,通过使用其奖励和状态预测来调节自动决策,从而增强对话。它支持对机器人和人工处理的联系人进行实时监控和可扩展的离线客户体验评估。我们展示了它如何在几个应用程序中提高亚马逊客户服务质量。
2020-10-25 cs.CL cs.LG
Few-Shot Emotion Recognition in Conversation with Sequential Prototypical Networks
LTCI, Télécom-Paris, Institut Polytechnique de Paris(巴黎理工学院巴黎电信学院LTCI实验室);Direction Innovation & Recherche SNCF(法国国家铁路公司创新与研究部)
最近几项关于人与人之间的二元互动的研究都是在没有特定商业目标的对话中进行的。然而,许多公司可能会受益于专门针对更精确环境的研究,如售后服务或客户满意度调查。在这项工作中,我们将自己置于实时聊天客户服务的范围内,我们希望在对话流中检测情绪及其演变。这种背景导致了多种挑战,从利用有限的,小的和大多数未标记的数据集,以寻找和适应这种情况下的方法。我们通过使用少样本学习来解决这些挑战,同时假设它可以为不同语言和稀疏标签的会话情感分类服务。我们通过提出一种原型网络的变体来进行序列标记,我们将其命名为ProtoSeq。我们在两个不同语言的数据集上测试了这种方法:英语日常对话和法语客户服务聊天对话。当应用于会话中的情感分类时,即使与其他方法相比,我们的方法也具有竞争力。
2021-09-20 cs.CL cs.LG
BERTaú: Itaú BERT for digital customer service
Itaú Unibanco(伊塔乌联合银行)
在过去的几年里,三个主要主题受到了越来越多的关注:深度学习,NLP和会话代理。将这三个主题结合在一起,创造出令人惊叹的数字客户体验,并真正部署到生产中,解决现实世界的问题,这是一种创新和颠覆性的东西。我们引入了一个新的葡萄牙语金融领域的语言表示模型称为BERTaú。BERTaú是一个未封装的BERT基础,使用Itaú虚拟助手聊天机器人解决方案的数据从头开始训练。我们的新贡献是BERTaú预训练的语言模型需要更少的数据,在三个NLP任务中达到了最先进的性能,并生成了一个更小更轻的模型,使部署变得可行。我们开发了三个任务来验证我们的模型:使用Itaú银行的常见问题(FAQ)进行信息检索,从我们的虚拟助理数据进行情感分析,以及NER解决方案。所有建议的任务都是在我们的环境中生产的真实解决方案,与Google BERT多语言和Facebook的DPRCNET编码器相比,专家模型的使用被证明是有效的,可在Hugging Face获得。BERTaú在FAQ检索MRR指标中提高了22%的性能,在情感分析F1得分中提高了2.1%,在NER F1得分中提高了4.4%,并且与“货架模型”相比,还可以用多达66%的令牌表示相同的序列。
2021-07-25 cs.AI cs.CL cs.LG
Chat-Capsule: A Hierarchical Capsule for Dialog-level Emotion Analysis
Beijing Academy of Artificial Intelligence(北京人工智能研究院);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Nanyang Technological University(南洋理工大学);Amazon Web Services(亚马逊云科技);Lingxin AI(灵心智能);Tsinghua University(清华大学)
许多对话情感分析的研究只关注话语层面的情感。因此,这些模型并没有针对对话级情感检测进行优化,即,不能作为一个整体来预测对话的情感类别。更重要的是,这些模型不能从整个对话框提供的上下文中获益。在现实世界的应用中,对对话的注释可以是细粒度的,包括话语级标签(例如,说话者类型、意图类别和情感类别)和对话级标签(例如,用户满意度和情感曲线类别)两者。本文提出了一个基于上下文的层次注意力胶囊模型,它同时模拟了话语层和对话层的情感及其相互关系。在从电子商务平台的客户支持收集的对话数据集上,我们的模型也能够预测用户满意度和情感曲线类别。情感曲线是指随着谈话的发展,人们的情感发生变化的曲线。实验表明,建议聊天胶囊优于国家的最先进的基准数据集和专有数据集的基线。源代码将在接受后发布。
2022-03-23 cs.CL
Beyond the Star Rating: A Scalable Framework for Aspect-Based Sentiment Analysis Using LLMs and Text Classification
University of Southern California(南加州大学)
本文提出一种结合LLMs和传统机器学习的方法,用于大规模基于方面的情感分析,通过分析470万条评论,展示了其在餐饮体验、菜系和地理区域中的应用效果。
2026-02-24 cs.CL
RAG based Question-Answering for Contextual Response Prediction System
The Home Depot(家得宝);The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出端到端 RAG-LLM 框架,结合检索知识与聊天历史为零售客服生成建议,自动化与人工评估均显示其优于现有基于 BERT 的方法。
2024-09-06 cs.CL cs.IR