Empathetic Cascading Networks: A Multi-Stage Prompting Technique for Reducing Social Biases in Large Language Models
ECN通过多阶段提示技术减少大型语言模型的社会偏见，提升对话AI的共情与包容性。
2026-02-19 cs.AI cs.CL
AI on My Shoulder: Supporting Emotional Labor in Front-Office Roles with an LLM-based Empathetic Coworker
Northeastern University（东北大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Tufts University（塔夫茨大学）；Microsoft Research（微软研究院）
针对客户服务代表面对不文明客户时的情绪困扰，本文设计了基于LLM的共情助手Care-Pilot，通过比较分析和用户研究证明其能提供更真诚、可操作的支持，改善情绪调节，并探讨了部署挑战与AI情感劳动的社会影响。
2025-02-27 cs.AI cs.CL cs.HC
E3RG: Building Explicit Emotion-driven Empathetic Response Generation System with Multimodal Large Language Model
Sun Yat-sen University（中山大学）；Nanyang Technological University（南洋理工大学）；Desay SV Automotive Co., Ltd（德赛西威汽车有限公司）；Pazhou Laboratory（琶洲实验室）
E3RG系统将多模态共情响应生成任务分解为共情理解、记忆检索和响应生成三部分，借助多模态大语言模型与语音视频生成模型，无需额外训练即在ACM MM 25挑战赛中获得第一名。
2025-08-18 cs.AI cs.CL cs.CV
Chain of Empathy: Enhancing Empathetic Response of Large Language Models Based on Psychotherapy Models
Seoul National University（首尔大学）
本研究提出受多类心理治疗模型启发的共情链（CoE）提示方法，可引导大语言模型生成更丰富均衡的共情回应，为开发更安全、具语境适配性的共情AI提供思路。
2024-09-14 cs.AI cs.CL cs.HC
The Emotional Spectrum of LLMs: Leveraging Empathy and Emotion-Based Markers for Mental Health Support
Università della Svizzera italiana（瑞士意大利语区大学）
本文提出对话系统RACLETTE，通过可解释情感画像与共情对话模型提升心理健康支持中的情感理解与回应能力，并将情感画像作为可解释标记物用于精神障碍的初步筛查。
2024-12-28 cs.AI cs.CL cs.HC
Collective Voice: Recovered-Peer Support Mediated by An LLM-Based Chatbot for Eating Disorder Recovery
Hanyang University（翰阳大学）；Georgia Institute of Technology（佐治亚理工学院）
本文设计了一个采用康复同伴人设的聊天机器人 RecoveryTeller，通过 20 天交叉部署研究验证其能否再现同伴康复叙事的支持效果，发现其情感共鸣更强但与普通指导人设呈互补关系，并为心理健康聊天机器人人设设计提供启示。
2025-09-18 cs.AI cs.HC
EmPO: Emotion Grounding for Empathetic Response Generation through Preference Optimization
Masaryk University（马萨里克大学）；CAISA, University of Bonn（波恩大学CAISA中心）
本研究提出EmPO方法，基于情绪锚定构建理论驱动的偏好数据集，结合偏好优化算法对齐大语言模型，在提升共情响应生成质量的同时保留模型泛化性能，并公开相关资源。
2024-09-17 cs.AI cs.CL
OpenS2S: Advancing Fully Open-Source End-to-End Empathetic Large Speech Language Model
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Wuhan AI Research（武汉人工智能研究）；GWM AI Lab（GWM人工智能实验室）
OpenS2S提出完全开源端到端共情语音模型，采用流式交错解码和自动化数据流水线，实现低延迟共情语音交互并公开全部资源。
2025-10-27 cs.AI cs.CL cs.SD
Building Emotional Support Chatbots in the Era of LLMs
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Singapore Management University（新加坡管理大学）；National University of Singapore（新加坡国立大学）
针对情感支持对话数据有限、缺乏训练范式的问题，研究结合人类经验与大语言模型能力构建ExTES数据集，并微调LLaMA得到专用模型，验证了情感支持能力，推动该领域发展。
2023-08-17 cs.AI cs.CL
WundtGPT: Shaping Large Language Models To Be An Empathetic, Proactive Psychologist
The Hong Kong Polytechnic University（香港理工大学）；Tianjin University（天津大学）
针对心理健康大语言模型难以建立有效医患关系的问题，研究提出具共情与主动引导能力的WundtGPT，通过整合多模块提示词与共情奖励模型微调得到，经评估可提供专业有效的心理咨询。
2024-06-16 cs.AI cs.CL cs.HC
STICKERCONV: Generating Multimodal Empathetic Responses from Scratch
School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院）；Alibaba Group（阿里巴巴集团）
针对表情包在共情对话研究中缺乏数据集的问题，提出Agent4SC模拟人类行为并构建STICKERCONV基准，同时开发PEGS框架生成多模态共情回复，有效提升了回复的情境相关性与情感共鸣。
2024-02-16 cs.AI cs.CL
Is ChatGPT More Empathetic than Humans?
School of Computer and Communication Sciences（计算机与通信科学学院）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
本研究通过600人参与的组间实验对比ChatGPT（含GPT-4）与人类的共情回应能力，发现ChatGPT共情评分比人类高约10%，明确提示共情维度后其与高共情者期望的契合度是人类的5倍，还提出了可扩展的大模型共情能力评估框架。
2024-02-22 cs.AI cs.CL cs.HC
Mapping Caregiver Needs to AI Chatbot Design: Strengths and Gaps in Mental Health Support for Alzheimer's and Dementia Caregivers
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Indiana University Indianapolis（印第安纳大学印第安纳波利斯分校）；University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校）
研究探讨了阿尔茨海默病和痴呆症照护者在心理健康支持中的需求与AI聊天机器人设计的匹配度，通过访谈揭示了照护者在信息获取、情感支持等方面的需求及技术的优劣势。
2026-03-20 cs.AI cs.CY cs.HC
Cause-Aware Empathetic Response Generation via Chain-of-Thought Fine-Tuning
School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）；ByteDance（字节跳动）；AntGroup（蚂蚁集团）
本文提出因果感知共情生成方法，通过在大语言模型上整合情感与原因的思维链提示及指令微调，并引入COMET外部知识，显著提升了LLaMA-7b的共情回复生成性能。
2024-08-21 cs.AI cs.CL
ES4R: Speech Encoding Based on Prepositive Affective Modeling for Empathetic Response Generation
Northeastern University, China（东北大学）
ES4R通过前置情感建模和双层注意力机制，提升语音对话中的共情响应生成能力，优于现有基线模型。
2026-01-16 cs.AI cs.SD eess.AS
AV-EmoDialog: Chat with Audio-Visual Users Leveraging Emotional Cues
School of Electrical Engineering, KAIST（韩国科学技术院电气工程学院）
本文提出AV-EmoDialog对话系统，通过端到端地提取语音内容与情感语调、分析细粒度面部表情并整合这些情感线索，生成具有情感和语境感知的响应，在生成恰当响应上优于现有方法。
2024-12-23 cs.AI cs.CV cs.HC
Exploring User Security and Privacy Attitudes and Concerns Toward the Use of General-Purpose LLM Chatbots for Mental Health
Duke University（杜克大学）
本研究通过21次半结构化访谈发现，用户在使用通用LLM聊天机器人进行心理健康管理时存在严重误解和风险意识缺失，误将其类人共情等同于类人责任并误认受HIPAA等法规保护；研究提出“无形脆弱性”概念，并给出保护用户心理健康披露的建议。
2025-07-14 cs.AI cs.CR cs.CY
The Design and Implementation of XiaoIce, an Empathetic Social Chatbot
Microsoft（微软）；Microsoft Research（微软研究院）
本文介绍了世界上最流行的社交聊天机器人Microsoft XiaoIce的开发。XiaoIce被独特地设计为具有情感联系的AI伴侣，以满足人类对沟通，情感和社会归属感的需求。我们在系统设计中考虑了智商（IQ）和情商（EQ），将人机社交聊天作为马尔可夫决策过程（MDP）的决策，并优化XiaoIce以实现长期的用户参与，以预期的会话次数（CPS）衡量。我们详细介绍了系统的架构和关键组件，包括对话管理器，核心聊天，技能和移情计算模块。我们展示了小冰如何动态地识别人类的情感和状态，理解用户的意图，并在长时间的对话中响应用户的需求。自2014年推出以来，小冰已经与超过6.6亿活跃用户进行了交流，并成功地与其中许多人建立了长期关系。对大规模在线日志的分析表明，XiaoIce的平均CPS达到了23，明显高于其他聊天机器人甚至人类对话。
2019-09-14 cs.AI cs.CL cs.HC
Do You Feel Comfortable? Detecting Hidden Conversational Escalation in AI Chatbots
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
GAUGE通过实时检测AI聊天机器人中隐藏的情感升级，提升对话中隐性伤害的识别能力。
2026-01-21 cs.AI cs.CL
Rational Sensibility: LLM Enhanced Empathetic Response Generation Guided by Self-presentation Theory
Shenyang Institute of Computing Technology, Chinese Academy of Sciences（中国科学院沈阳计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Beijing Wenge Technology Co., Ltd（北京文阁科技有限公司）
本文针对对话中感性与理性信息受限的问题，受自我呈现理论启发设计编码器模块，并利用LLM作为理性大脑解读深层逻辑，平衡感性与理性以生成高质量共情回复，在自动和人工评估中均优于其他方法。
2024-08-23 cs.AI
EmoStage: A Framework for Accurate Empathetic Response Generation via Perspective-Taking and Phase Recognition
The University of Electro-Communications（电气通信大学）；iDEAR Human Support Service（iDEAR人类支持服务）；Japanese Organization of Mental Health and Educational Agencies（日本心理健康与教育机构组织）
EmoStage利用开源大模型推理能力，通过视角采择与阶段识别增强共情回复生成，无需额外训练数据，在日中文咨询场景中提升回复质量并媲美数据驱动方法。
2025-06-24 cs.AI cs.CL
Assessing Empathy in Large Language Models with Real-World Physician-Patient Interactions
Mayo Clinic（梅奥诊所）；Intel Lab（英特尔实验室）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本研究基于梅奥诊所真实医患互动数据，通过EMRank评估发现ChatGPT在共情回应上可超越人类医生，为提升患者护理和减少医生职业倦怠提供了新途径。
2024-05-26 cs.AI cs.CL
SARHAchat: An LLM-Based Chatbot for Sexual and Reproductive Health Counseling
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
针对现有 AI 在敏感 SRH 咨询中知识不足、易幻觉且重诊断轻照护的问题，本文提出基于 LLM 的 SARHAchat，融合医学专业知识与共情沟通，可准确自然地提供避孕咨询。
2025-10-17 cs.AI cs.CY
The Illusion of Empathy: How AI Chatbots Shape Conversation Perception
National Institute on Drug Abuse（美国国家药物滥用研究所）；University of Pennsylvania（宾夕法尼亚大学）；New York University（纽约大学）
该研究通过分析155段对话发现，GPT聊天机器人虽对话质量评分更高，却被认为共情能力低于人类，说明高质量人机交互不能仅靠嵌入共情语言，还需解决用户对聊天机器人共情的细微感知问题。
2025-03-06 cs.AI cs.HC
Performance of a large language model-Artificial Intelligence based chatbot for counseling patients with sexually transmitted infections and genital diseases
University College of Medical Sciences and Guru Teg Bahadur Hospital（大学医学院与古鲁·特格·巴哈杜尔医院）；HeHealth Inc.（HeHealth公司）
针对性传播感染咨询需求，开发了基于GPT-4的多智能体聊天机器人Otiz，评估显示其在诊断准确性和同理心方面表现良好，但相关性得分较低，整体可减轻医疗负担。
2024-12-11 cs.AI cs.CL
The Colorful Future of LLMs: Evaluating and Improving LLMs as Emotional Supporters for Queer Youth
Baruch Ivcher School of Psychology, Reichman University（赖希曼大学巴鲁克·伊夫切尔心理学院）；The Education Department, Ariel University（阿里尔大学教育系）；Rambam Medical Center（兰巴姆医疗中心）；Faculty of Data and Decision Sciences, Technion, IIT（以色列理工学院数据与决策科学学院）
本文评估了LLM作为酷儿青年情感支持者的潜力，开发了十题量表发现LLM虽具包容性但缺乏个性化，并证明专用提示词可提升性能，提出主动获取上下文的LLM-supporter蓝图以提供个性化可靠回复。
2024-02-19 cs.AI cs.CL
Enhancing Empathetic Response Generation by Augmenting LLMs with Small-scale Empathetic Models
本文提出混合共情框架（HEF），将小规模共情模型作为插件增强LLMs的细粒度情感检测和原因识别能力，从而提升共情回复生成质量。
2024-02-19 cs.HC
Empathic Chatbot: Emotional Intelligence for Empathic Chatbot: Emotional Intelligence for Mental Health Well-being
会话聊天机器人是人工智能（AI）驱动的应用程序，通过以自然语言响应来帮助用户完成各种任务，并且在不同行业中普遍存在。我们在网站和Alexa等数字助理上遇到的大多数聊天机器人，Siri并不对用户表示同情，他们的同情能力仍然不成熟。对用户缺乏同情心对于交易或交互式聊天机器人来说并不重要，但旨在支持精神病患者的机器人需要了解用户的情绪状态并定制对话。这项研究解释了在开发移情聊天机器人时采用的不同类型的情商方法，以及它们在多大程度上被采用和成功。
2020-12-15 cs.HC
AVIN-Chat: An Audio-Visual Interactive Chatbot System with Emotional State Tuning
Yonsei University（延世大学）
本文提出AVIN-Chat音视频交互式聊天机器人系统，通过实时3D虚拟形象对话和基于用户情感状态的情感表达，提升用户沉浸感与体验质量。
2024-08-15 cs.AI cs.HC
Exploring the Effects of AI-assisted Emotional Support Processes in Online Mental Health Community
Seoul National University（首尔国立大学）；KAIST（韩国科学技术院）
在线心理健康社区（OMHCs）中的社会支持是管理心理健康的有效和可访问的方式。在这个过程中，分享情感支持被认为是至关重要的繁荣的社会支持OMHC，但往往很难为寻求者和提供者。为了支持移情互动，我们设计了一个AI注入的工作流程，允许用户根据搜索者的情感和写作的上下文关键字的启发，向其他用户的帖子撰写情感支持消息。基于初步的用户研究（N = 10），我们发现该系统可以帮助求职者在写帖子时澄清情感并具体描述文本。提供者也可以学习如何对帖子做出同理心的反应。基于这些结果，我们建议我们提出的系统的设计影响。
2022-02-21 cs.AI cs.HC
Social and Emotional Etiquette of Chatbots: A Qualitative Approach to Understanding User Needs and Expectations
随着聊天机器人越来越受欢迎，我们经常想知道用户认为与他们互动的自然和社会接受的方式是什么。一些研究人员坚持认为，人类应该避免与聊天机器人进行情感对话，而其他人则开始使用最新的深度学习技术来构建具有同理心的聊天机器。为了了解聊天机器人是否应该理解和表达情感，我们对18名参与者进行了半结构化采访。我们的分析揭示了他们对有情感意识的代理人的总体热情。更重要的是，用户接受情感聊天机器人的意图似乎取决于这些代理如何回应我们的特定情绪，而不仅仅是检测人类情绪的能力。我们的研究结果还揭示了情感智能技术可以改善用户体验的特定应用领域。最后，我们总结了一组情感交互模式，这些模式激发了用户采用此类技术的意图，并为情感智能聊天机器人的开发提供了有用的指导方针。
2020-09-17 cs.HC
Towards Understanding Emotional Intelligence for Behavior Change Chatbots
允许纵向症状跟踪的自然对话界面在健康/保健应用中将是非常有价值的。然而，设计具有情感意识的行为改变代理的任务仍然知之甚少。在本文中，我们提出了一个情感感知聊天机器人的设计和评估，进行经验采样的移情方式。我们通过在一周内与N=39名参与者进行的人类受试者实验来评估它。我们的研究结果表明，外向者比内向者更喜欢情绪感知聊天机器人。此外，参与者在与移情机器人互动时报告了更高比例的积极情绪报告。最后，我们提供了情感感知聊天机器人的设计指南，以供在移动健康环境中使用。
2019-07-23 cs.HC
Customizing Emotional Support: How Do Individuals Construct and Interact With LLM-Powered Chatbots
本研究开发了ChatLab平台，让用户构建具备语音和虚拟形象的LLM情感支持聊天机器人，通过为期一周的实地研究揭示了用户如何创建多样化角色以促进开放对话，并探讨了新兴AI技术增强个性化情感支持的机会。
2025-04-18 cs.HC
Wild Narratives: Exploring the Effects of Animal Chatbots on Empathy and Positive Attitudes toward Animals
Computer Science, National University of Singapore（新加坡国立大学计算机科学系）
本研究探讨了动物聊天机器人如何通过情感表达和真实细节提升用户对动物的同理心和积极态度。
2024-11-09 cs.AI cs.HC
Empathetic AI for Empowering Resilience in Games
University of California（加利福尼亚大学）
失败和韧性是游戏的重要方面。这对于严肃和竞争激烈的游戏尤其重要，玩家需要经常适应和应对失败。在这种情况下，情绪调节-调节情绪以应对和适应挑战性情况的积极过程-变得至关重要。它是人类智力的一个突出方面，促进心理健康和福祉。虽然已经有开发人工情绪调节助手以帮助用户应对智能辅导系统领域中的情绪调节的工作，但很少有人将这样的系统或想法结合到（严肃的）视频游戏中。在本文中，我们引入了一个数据驱动的6阶段的方法来建立移情人工智能（EAI），它对原始聊天记录数据进行操作，以检测关键的情感状态，识别常见的序列和情绪调节策略，并概括这些，使它们适用于干预系统。
2023-02-16 cs.AI cs.HC
The Impact of Security and Privacy Controls on Users' Emotional Engagement with Generative AI Chatbots
Duke University（杜克大学）；Duke Kunshan University（杜克昆山大学）
研究安全与隐私控制对用户与生成式AI聊天机器人情感互动的影响，通过混合方法小案例研究发现，能删除披露内容的控制影响最大，虽信任脆弱，但基于结果给出弥合理解差距、建立可信保障等建议。
2026-07-08 cs.HC
"I am here for you": How relational conversational AI appeals to adolescents, especially those who are socially and emotionally vulnerable
University of Denver（丹佛大学）；Ewha Womans University（梨花女子大学）
研究发现关系型对话风格能增强青少年对AI的拟人化和情感依赖，尤其吸引社会和情感脆弱的青少年。
2025-12-18 cs.AI cs.HC cs.RO
Development and Evaluation of Three Chatbots for Postpartum Mood and Anxiety Disorders
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文与 PSI 合作开发并评估三款产后情绪支持聊天机器人，发现基于规则模型在共情和回复质量上优于生成式模型，并探讨大语言模型在数字心理健康领域的潜力与风险。
2023-08-14 cs.CL cs.HC
Technological folie à deux: Feedback Loops Between AI Chatbots and Mental Illness
研究探讨了人工智能聊天机器人与心理健康问题之间的相互作用风险，指出其可能引发信念不稳定和依赖，并呼吁跨领域的协调行动以应对这一新兴公共卫生问题。
2026-03-10 cs.AI cs.HC q-bio.NC
From Eliza to XiaoIce: Challenges and Opportunities with Social Chatbots
Microsoft Corporation（微软公司）
自20世纪60年代问世以来，会话系统已经走过了漫长的道路。经过几十年的研究和开发，我们已经看到了从60年代和70年代的Eliza和Parry，到2000年代DARPA的任务完成系统，再到2010年代的智能个人助理Siri，再到今天的社交聊天机器人XiaoIce。社交聊天机器人的吸引力不仅在于它们能够响应用户的各种请求，还在于它们能够与用户建立情感联系。后者是通过满足用户对沟通、情感以及社会归属感的需求来实现的。为了进一步推进和采用社交聊天机器人，它们的设计必须关注用户参与度，并考虑智商（IQ）和情商（EQ）。用户应该希望与社交聊天机器人互动;因此，我们将社交聊天机器人的成功指标定义为每次会话的会话次数（CPS）。以小冰为例，我们讨论了构建社交聊天机器人的关键技术，从核心聊天到视觉感知到技能。我们还展示了XiaoIce如何动态地识别情感，并通过适当的人际反应在长时间的对话中吸引用户。随着我们成为第一代与人工智能生活在一起的人类，我们有责任设计社交聊天机器人，使其既有用又有同情心，因此它们将变得无处不在，并帮助整个社会。
2018-02-09 cs.AI cs.HC
TigerGPT: A New AI Chatbot for Adaptive Campus Climate Surveys
针对传统校园氛围调查参与度低、跟进不足的问题，提出融合视觉元素、基于对话设计原则的TigerGPT自适应AI聊天机器人，试点研究显示其能获取更深入反馈，多数参与者认为其有吸引力且友好，约半数更偏好它，为校园氛围调查提供新途径。
2025-04-11 cs.CY cs.HC
If I Hear You Correctly: Building and Evaluating Interview Chatbots with Active Listening Skills
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Juji, Inc.（Juji公司）
面试聊天机器人让用户参与基于文本的对话，以引出他们的观点和意见。然而，构建有效的面试聊天机器人具有挑战性，可以处理用户对开放式问题的自由文本回答，并提供引人入胜的用户体验。作为第一步，我们正在研究使用公开可用的实用人工智能技术来构建有效的面试聊天机器人的可行性和有效性。为了证明可行性，我们构建了一个原型，其范围是使面试聊天机器人具有主动倾听技能的子集-理解用户输入并正确响应的能力。为了评估我们的原型的有效性，我们在206名用户的现场评估中比较了具有或不具有主动倾听技能的面试聊天机器人在四个常见面试主题上的表现。我们的工作为构建有效的面试聊天机器人，混合聊天机器人平台和超越面试任务的移情聊天机器人提供了实际的设计意义。
2020-02-05 cs.AI cs.CL cs.HC
A Responsive Present, a Shared Past, a Social Other: Teens' Overreliance on Companion AI Chatbots
Drexel University（德雷塞尔大学）
本研究分析青少年在Reddit上对陪伴式AI聊天机器人的讨论，揭示其提供安慰与探索的同时，也导致问题性依恋、社会替代和情感依赖，强调安全需关注用户控制的记忆、隐私、边界与健康脱离。
2026-09-15 cs.AI cs.HC
Foreign Domestic Workers' Perspectives on an LLM-Based Emotional Support tool for Caregiving Burden
Singapore University of Technology and Design（新加坡科技设计大学）
研究探讨了新加坡外国家庭佣工使用基于大语言模型的聊天机器人作为日常非临床情感支持工具的体验，发现其在心理安全、语言无障碍和多功能资源方面的设计启示。
2026-04-07 cs.HC
A Multi-Turn Emotionally Engaging Dialog Model
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
开放域对话系统（也称为聊天机器人）在自然语言处理中越来越受到关注。最近的一些工作旨在将情感信息纳入序列到序列神经对话建模中，使反应在情感上更丰富，而其他人则使用手工制作的规则来确定所需的情感反应。然而，他们并没有明确地学习人类对话中捕捉到的微妙的情感互动。在本文中，我们提出了一个多轮对话系统，旨在学习和产生情感反应，到目前为止，只有人类知道如何做。离线实验表明，与两个基线模型相比，该方法在困惑分数上表现最好。进一步的人类评估证实，我们的聊天机器人可以跟踪对话上下文，并在情感上产生更合适的反应，同时在语法上表现同样出色。
2020-06-24 cs.AI cs.CL cs.HC
Touch Your Heart: A Tone-aware Chatbot for Customer Care on Social Media
近年来，Chatbot已成为社交媒体上快速增长的客户服务需求的重要解决方案。然而，目前针对客户服务的聊天机器人的工作忽略了影响用户体验的一个关键-音调。在这项工作中，我们创建了一个新颖的音调感知聊天机器人，它可以对社交媒体上的用户请求生成音调响应。我们首先进行了一项形成性研究，研究了声调的影响。本研究揭示了不同音调对用户体验的显著影响。在了解音调影响的基础上，我们设计了一个基于深度学习的聊天机器人，它将音调信息考虑在内。我们训练我们的系统超过150万真实的客户关怀对话收集从Twitter上。评估表明，我们的音调感知聊天机器人生成适当的响应用户的请求作为人类代理。更重要的是，我们的聊天机器人被认为比人类代理更有同情心。
2018-03-15 cs.HC
Closing the Affective Loop: Multimodal Speaker-Listener Emotion-Dynamics-Aware Empathetic Social Robots
Graduate School of Informatics, Kyoto University（京都大学情报学研究科）；Computer Science Department, Boise State University（博伊西州立大学计算机科学系）
本研究提出AffectLoop系统，在Misty II机器人上实现多模态情感动态感知的说话人-听话人共情交互，经试点研究验证可提升共情响应与用户满意度。
2026-08-18 cs.CL cs.HC cs.RO
How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Randomized Controlled Study
该研究通过为期四周、981人参与的随机对照实验，发现聊天机器人的互动模式与对话类型对心理社会结果无显著影响，使用频率及个体对AI的信任等特征才与负面心理效应相关，引发对人工伴侣重塑人际联结的思考。
2025-10-02 cs.HC
Computer says "No": The Case Against Empathetic Conversational AI
University of Leeds（利兹大学）；Bocconi University（博科尼大学）
本文批评共情式对话AI在缺乏真实依据时安抚用户情绪的做法，指出其可能将幸福简化为消除负面情绪，并呼吁审慎设计对用户情感的回应方式。
2023-07-06 cs.CL cs.HC
AI Healthcare Chatbots as Information Infrastructure: A Large-Scale Study of User-Reported Breakdowns
本研究通过分析59个AI医疗聊天机器人应用的超过15000条用户评论，识别出访问障碍、用户体验和计费支持等三类常见故障，并发现隐私安全问题与最负面体验相关，为改进数字健康系统提供见解。
2026-06-26 cs.AI cs.HC
Designing Adaptive Affective Chatbots for Online Learning: Trade-offs Between User Control, Automation, and Transparency
Georgia Institute of Technology（佐治亚理工学院）
本研究通过迭代设计探索在线学习中的情感自适应聊天机器人，提出三种自适应方案，并发现混合设计在权衡自动化、透明度与用户控制时最受用户青睐。
2026-10-06 cs.CY cs.HC
EmoHarbor: Evaluating Personalized Emotional Support by Simulating the User's Internal World
University of Chinese Academy of Sciences（中国科学院大学）
EmoHarbor通过模拟用户内心世界，评估个性化情感支持的定制能力，揭示大语言模型在情感支持中的不足，推动用户感知情感支持系统的发展。
2026-01-04 cs.CL cs.HC
Investigating Affective Use and Emotional Well-being on ChatGPT
OpenAI；MIT Media Lab（麻省理工学院媒体实验室）
本研究通过大规模平台分析和随机对照试验，考察ChatGPT（尤其是高级语音模式）对用户情绪健康的影响，发现极高使用频率与依赖性增加相关，且少数用户贡献了大部分强烈情感线索。
2025-04-04 cs.AI cs.HC
Understanding Attitudes and Trust of Generative AI Chatbots for Social Anxiety Support
本研究通过混合方法调查用户对生成式AI聊天机器人支持社交焦虑的态度与信任，发现症状严重者更信任其情感支持，症状轻者更看重技术可靠性，并提出设计建议。
2025-01-26 cs.HC
