Exploring the Effect of Robotic Embodiment and Empathetic Tone of LLMs on Empathy Elicitation
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
本研究通过实体机器人和语音聊天机器人测试大语言模型的共情语气对第三方共情唤起的影响,发现具身性和语气均未显著提升志愿服务意愿,模拟共情易但激发真实共情难。
2025-03-26 cs.CL cs.HC cs.RO
Scoring with Large Language Models: A Study on Measuring Empathy of Responses in Dialogues
Westview High School(韦维尤高中);Portland State University(波特兰州立大学)
本文研究大语言模型在对话共情力评分中的机制,提出用嵌入、MITI编码和LLM生成的显式子因素训练可解释分类器,发现其性能可接近微调LLM,为社会科学中的LLM评分应用提供新视角。
2024-12-28 cs.CL
Empathetic Conversational Systems: A Review of Current Advances, Gaps, and Opportunities
本文通过五个维度综述共情对话系统领域,发现研究集中于文本模态和EMPATHETICDIALOGUES数据集,融入情感原因与外部知识可显著提升效果,并指出实体级情感识别、多模态处理等未来方向。
2022-11-09 cs.AI cs.CL
Scaffolding Empathy: Training Counselors with Simulated Patients and Utterance-level Performance Visualizations
Northeastern University(东北大学)
本文提出并评估了一个由大语言模型驱动的咨询师训练系统,通过模拟患者和逐轮次性能可视化提供频繁详细反馈,以优化动机性访谈技能培训,并验证了其高可用性与满意度。
2025-02-25 cs.CL cs.HC cs.MA
bitsa_nlp@LT-EDI-ACL2022: Leveraging Pretrained Language Models for Detecting Homophobia and Transphobia in Social Media Comments
Birla Institute of Technology and Science, Pilani(皮拉尼贝拉理工与科学学院)
在线社交网络无处不在,用户友好。然而,检测和适度的攻击性内容以保持体面和同情心是至关重要的。然而,挖掘社交媒体文本是一项复杂的任务,因为用户不遵守任何固定的模式。评论可以用任何语言组合编写,其中许多可能是低资源的。在本文中,我们提出了我们的系统LT-EDI共享任务检测同性恋恐惧症和跨性别恐惧症在社交媒体评论。我们实验了一些单语和多语言的基于Transformer的模型,如mBERT以及用于解决类不平衡的数据增强技术。这种预训练的大型模型最近在自然语言处理的各种基准任务上取得了巨大的成功。我们观察他们的表现仔细注释,现实生活中的YouTube评论数据集在英语以及泰米尔语。我们提交的作品在英语、泰米尔语和泰米尔英语子任务中分别获得了9,6和3的宏观平均F1分数,分别为0.42,0.64和0.58。该系统的代码已经开源。
2022-04-09 cs.AI cs.CL
Assessing GPT's Bias Towards Stigmatized Social Groups: An Intersectional Case Study on Nationality Prejudice and Psychophobia
University of Washington(华盛顿大学)
本研究通过结构化提示评估GPT-3.5/4/4o对美国和朝鲜国籍及心理障碍者的偏见,发现朝鲜人面临更大负面偏见,凸显LLM需增强对交叉性身份的理解。
2025-05-15 cs.CL
AI on My Shoulder: Supporting Emotional Labor in Front-Office Roles with an LLM-based Empathetic Coworker
Northeastern University(东北大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Tufts University(塔夫茨大学);Microsoft Research(微软研究院)
针对客户服务代表面对不文明客户时的情绪困扰,本文设计了基于LLM的共情助手Care-Pilot,通过比较分析和用户研究证明其能提供更真诚、可操作的支持,改善情绪调节,并探讨了部署挑战与AI情感劳动的社会影响。
2025-02-27 cs.AI cs.CL cs.HC
Bridging Context Gaps: Enhancing Comprehension in Long-Form Social Conversations Through Contextualized Excerpts
Massachusetts Institute of Technology(麻省理工学院);Meta
本文针对长篇社交对话摘录在跨场景分享时缺失语境的问题,提出利用大型语言模型为摘录生成具有社会相关性的补充语境,并发布HSE数据集,实验证明该方法能显著提升理解力、可读性与共情能力。
2024-12-28 cs.AI cs.CL
Personality Expression Across Contexts: Linguistic and Behavioral Variation in LLM Agents
University of Southern California(南加州大学)
本研究探讨了大语言模型在不同对话情境中人格表达的差异,发现相同人格提示在不同情境下产生不同语言、行为和情感表现,表明LLMs能根据社交需求灵活调整。
2026-02-01 cs.AI cs.CL
From Visual Perception to Deep Empathy: An Automated Assessment Framework for House-Tree-Person Drawings Using Multimodal LLMs and Multi-Agent Collaboration
Tsinghua University(清华大学);Shenzhen University(深圳大学);University of Oxford(牛津大学);Shenzhen Institute of Education Sciences(深圳市教育科学研究院);Guangzhou University of Chinese Medicine(广州中医药大学);Harbin Institute of Technology(哈尔滨工业大学)
本文提出利用多模态大语言模型和多智能体协作,开发自动评估房屋-树-人绘画测试的框架,以提升投射评估的标准化和效率。
2025-12-23 cs.AI cs.SY eess.SY
ComPASS: Towards Personalized Agentic Social Support via Tool-Augmented Companionship
Renmin University of China(中国人民大学);Beihang University(北京航空航天大学)
本文提出ComPASS框架,通过外部工具增强代理能力,构建首个个性化社交支持基准,训练出ComPASS-Qwen模型,提升响应质量。
2026-04-20 cs.CL
From Reddit to Generative AI: Evaluating Large Language Models for Anxiety Support Fine-tuned on Social Media Data
Georgia State University(佐治亚州立大学);University of Georgia(佐治亚大学);Microsoft(微软);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究系统评估了在Reddit焦虑子论坛数据上微调的GPT和Llama模型,发现微调虽提升语言质量却增加毒性、偏见并降低情感响应,GPT整体支持性更佳,凸显了无缓解策略微调的风险。
2025-05-24 cs.AI cs.CL cs.CY
Sentient Agent as a Judge: Evaluating Higher-Order Social Cognition in Large Language Models
Tencent(腾讯)
本研究提出评估LLM高阶社会认知的SAGE框架,通过模拟类人情绪与想法的智能体开展多轮评估,验证了心理保真度,还构建了覆盖18个模型的公开排行榜,揭示传统榜单未体现的模型能力差距。
2025-05-21 cs.AI cs.CL cs.CY
Stakeholder Perspectives on Whether and How Social Robots Can Support Mediation and Advocacy for Higher Education Students with Disabilities
University of Cambridge(剑桥大学)
本研究通过对剑桥大学残障学生等利益相关者的质性调研,探究社交机器人与大语言模型为高校残障学生提供调解和权益倡导支持的潜力,分析其优势与局限,讨论伦理问题并提出赋能自我倡导的未来研究建议。
2025-03-11 cs.AI cs.CY cs.HC
Response Generation for Cognitive Behavioral Therapy with Large Language Models: Comparative Study with Socratic Questioning
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Osaka University(大阪大学)
本研究对比基于OsakaED数据集训练的Transformer对话模型与GPT-4在苏格拉底式提问CBT对话场景中的表现,发现GPT-4可显著提升情绪改善与对话质量,同时指出LLM可辅助专业人员制作回复模板以规避直接应用的伦理风险。
2024-01-29 cs.AI cs.CL
ToM-SSI: Evaluating Theory of Mind in Situated Social Interactions
University of Stuttgart(斯图加特大学)
提出多模态基准ToM-SSI,通过包含最多四个智能体在情境环境中交流与移动的群体互动,首次研究混合合作-阻碍设定与多智能体心理状态并行推理,揭示现有模型在复杂社交认知任务上的严重局限。
2025-09-16 cs.AI cs.CL
Team Phoenix at WASSA 2021: Emotion Analysis on News Stories with Pre-Trained Language Models
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
情感是人性的基础。以类似人类的方式感知、理解和响应社交互动的能力是人工智能体中最受欢迎的能力之一,特别是在社交媒体机器人中。在过去的几年里,语言中情感方面的计算理解和检测对于推进人机交互至关重要。WASSA共享任务2021发布了两个轨道的新闻故事数据集,轨道1用于共情和痛苦预测,轨道2用于文章层面的多维情绪预测。我们描述了WASSA 2021共享任务的系统条目(针对Track-1和Track-2),其中我们利用了来自特定于Track的任务的预训练语言模型的信息。我们提出的模型在轨道1和轨道2中分别实现了0.417的平均Pearson得分和0.502的Macro-F1得分。在共享任务排行榜中,我们在途径1中获得第4名,在途径2中获得第2名。
2021-03-10 cs.CL
Bridging Cognition and Emotion: Empathy-Driven Multimodal Misinformation Detection
Communication University of China(中国传媒大学)
针对传统虚假信息检测忽视人类共情的问题,提出双方面共情框架(DAE),整合认知与情感共情,从创作者和读者双视角分析,并引入共情感知过滤机制,在基准数据集上超越现有方法。
2025-04-24 cs.CL
Emotional intelligence in large language models is fragmented across perception, cognition, and interaction
X-LANCE Lab(X-LANCE实验室);School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学学院);MoE Key Lab of Artificial Intelligence(人工智能MOE重点实验室);Jiangsu Key Lab of Language Computing(江苏省语言计算重点实验室);Beijing Key Laboratory of Applied Experimental Psychology(北京应用实验心理学重点实验室);National Demonstration Center for Experimental Psychology Education, Faculty of Psychology, Beijing Normal University(北京师范大学实验心理学教育国家级示范中心,心理学学院)
本文提出FACET框架,基于Mayer-Salovey-Caruso四分支能力模型评估大型语言模型的情商,发现其并非单一能力,而是在认知和交互维度上碎片化,且隐藏情绪识别是普遍瓶颈。
2026-05-23 cs.AI
From Perils to Possibilities: Understanding how Human (and AI) Biases affect Online Fora
University of Pisa(比萨大学);CNR-ISTI(意大利国家研究委员会信息科学与技术研究所)
本综述通过在线辩论、在线支持和人机交互三个视角,探讨了社交媒体中社交互动、用户生成内容与偏见的动态,揭示了社交媒体在隔离与共情、人类与非人类偏见等方面的风险与可能性双重性。
2024-03-21 cs.AI cs.HC cs.SI
Beyond Survival: Evaluating LLMs in Social Deduction Games with Human-Aligned Strategies
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学)
本文构建了高质量多模态狼人杀数据集,并提出策略对齐评估框架,通过发言和决策两阶段细粒度评估LLM的社交推理能力,揭示其在欺骗和反事实推理上的不足。
2025-10-13 cs.CL
Toward Artificial Empathy for Human-Centered Design: A Framework
Singapore University of Technology and Design(新加坡科技设计大学)
该论文提出一个用于以人为中心设计的人工共情框架,通过分解共情为可计算组件,旨在提升AI驱动的设计中对用户需求的理解。
2023-05-13 cs.CL cs.HC
Evaluating Decision Models for Text Annotation in Computational Social Science
New York University Abu Dhabi(纽约大学阿布扎比分校)
本研究评估决策模型在18个计算社会科学文本标注任务上的表现,发现其准确率略逊于LLM但成本大幅降低,且置信度校准良好,可作为标注流程中低成本预筛选步骤。
2026-09-24 cs.CL cs.CY
Human Empathy as Encoder: AI-Assisted Depression Assessment in Special Education
Tandon School of Engineering New York University New York, USA;College of Arts \& Science New York University New York, USA
针对特殊教育场景下学生抑郁评估的现有方法局限,提出融合学生叙事与教师9维共情向量的HEAE框架,7级分类准确率达82.74%,为人机协同的负责任情感计算提供新路径。
2025-10-05 cs.AI cs.CL cs.HC
Empathy Is Not the Scapegoat for Declines in Factuality and Reliability
INSAIT, Sofia University “St. Kliment Ohridski”(索菲亚大学“圣克利门特·奥赫里德斯基” INSAIT);University of British Columbia(不列颠哥伦比亚大学)
该研究针对语言模型温暖性与可靠性的关联问题,通过多层面分析发现任务对齐的自适应语气可兼顾共情性与可靠性,还引入了人工验证的共情评估器,证明模型可兼具社交支持性与可靠性。
2026-11-03 cs.CL
Misalignment of LLM-Generated Personas with Human Perceptions in Low-Resource Settings
Computational Story Lab(计算故事实验室);Vermont Complex Systems Institute(佛罗里达复杂系统研究所);Vermont Advanced Computing Center(佛罗里达高级计算中心);Department of Mathematics and Statistics(数学与统计学系);Department of Computer Science University of Vermont(佛罗里达大学计算机科学系);Santa Fe Institute(圣菲研究所)
本研究发现,在低资源环境中,LLM生成的人设在共情和可信度方面显著劣于人类,需通过现实数据验证以确保其可靠性。
2025-11-28 cs.CL cs.CY
"It Listens Better Than My Therapist": Exploring Social Media Discourse on LLMs as Mental Health Tool
LMU Munich(慕尼黑大学);University of Maryland, College Park(马里兰大学帕克分校)
本研究通过分析TikTok上1万多条提及LLMs作为心理健康工具的视频评论,结合自研分层编码方案和监督分类模型,探索用户使用体验,发现近20%用户有个人使用且态度积极,但隐私等担忧突出,强调需临床伦理审查。
2025-04-14 cs.CL cs.CY cs.HC
StanceBench: A Benchmark for Audio LLM-Based Interpersonal Stance Evaluation from Speech
Johns Hopkins University(约翰斯·霍普金斯大学);Amazon AGI(亚马逊通用人工智能公司);Amazon Research(亚马逊研究院)
研究基于音频大语言模型的语音人际立场评估,引入StanceBench基准,通过Seamless Interaction语料库规范评估,明确9个立场维度,报告大语言模型评判的多项指标,指出不同立场的判断难易及特点。
2026-07-28 cs.AI cs.SD eess.AS
Human-AI Collaboration Enables More Empathic Conversations in Text-based Peer-to-Peer Mental Health Support
University of Washington(华盛顿大学);Stanford University(斯坦福大学)
人工智能(AI)的进步使系统能够增强并与人类合作,以执行简单的机械任务,如安排会议和语法检查文本。然而,这种人机协作对更复杂、更具创造性的任务提出了挑战,例如进行移情对话,因为人工智能系统难以理解复杂的人类情感,而且这些任务具有开放性。在这里,我们专注于点对点的心理健康支持,在这种环境中,同理心对成功至关重要,并研究人工智能如何与人类合作,以促进文本,在线支持对话中的同伴同理心。我们开发了Hailey,这是一个人工智能在环代理,它提供及时的反馈,以帮助提供支持的参与者(同伴支持者)对寻求帮助的人(寻求支持者)做出更有同情心的反应。我们在TalkLife(一个大型在线点对点支持平台)上与真实世界的同行支持者进行了一项非临床随机对照试验,对Hailey进行了评估(N=300)。我们表明,我们的人类-人工智能协作方法导致整体同行之间的对话同理心增加了19.60%。此外,我们发现一个更大的38.88%的增加共情的子样本的同伴支持者谁自我认同为遇到困难提供支持。我们系统地分析了人类与人工智能的协作模式,发现同伴支持者能够直接和间接地使用人工智能的反馈,而不会过度依赖人工智能,同时报告反馈后自我效能的提高。我们的研究结果证明了反馈驱动的人工智能循环写作系统的潜力,它可以让人类在开放式的、社交的、创造性的任务中发挥作用,比如移情对话。
2022-03-28 cs.CL cs.HC cs.SI
Discourse and conversation impairments in patients with dementia
神经变性表征具有不同痴呆亚型的个体(例如,阿尔茨海默病、原发性进行性失语症和帕金森病患者),导致认知、语言和社会功能的进行性下降。言语和语言障碍是具有局灶性神经退行性疾病的个体的早期症状,伴有认知、社交和行为领域的缺陷。本文回顾了语言和沟通缺陷的研究结果,并确定了痴呆症的生产和感知的话语。它讨论了有关(一)语言功能,认知表征和损伤,(二)交际能力,情感,移情和心理理论,(三)言语互动的研究结果。它认为,临床话语分析可以提供一个全面的评估个人的语言和沟通能力,补充现有的神经语言学评估(鉴别)诊断,预后和治疗效果评估。
2022-12-03 cs.CL
Perspective-taking and Pragmatics for Generating Empathetic Responses Focused on Emotion Causes
Seoul National University(首尔国立大学)
移情是一种基于对他人情感状态的推理的复杂认知能力。为了更好地理解他人,并在对话中表达更强的同理心,我们认为,两个问题必须同时解决:(一)确定哪个词是另一个情绪的原因,从他或她的话语和(ii)反映这些特定的话在响应生成。然而,用于识别文本中的情感原因词的先前方法需要子话语级注释,这可能是苛刻的。从社会认知中获得灵感,我们利用生成估计器从没有词级标签的话语中推断情感原因词。此外,我们引入了一种新的方法,基于语用学,使对话模型集中在目标词的输入在生成过程中。我们的方法适用于任何对话模型,无需额外的训练。我们表明,我们的方法提高了多个性能最佳的对话代理在自动和人工评价方面产生更集中的移情反应。
2021-09-21 cs.CL
SocialReasonBench: A Video-QA Benchmark for Social Reasoning with Counterfactual Narrative Videos
AAII, University of Technology Sydney(悉尼科技大学AAII(先进人工智能研究所));Northeastern University(东北大学);Fudan University(复旦大学);University of Liverpool(利物浦大学)
研究人员推出SocialReasonBench基准,评估LMMs的社会推理能力,发现其在反事实和因果推理上表现不佳,凸显了模型在潜在社会状态推理上的不足。
2026-09-01 cs.CL cs.CV
A Taxonomy of Empathetic Response Intents in Human Social Conversations
School of Computer and Communication Sciences(计算机与通信科学学院);École polytechnique fédérale de Lausanne(洛桑联邦理工学院)
开放域会话代理或聊天机器人在自然语言处理社区中越来越受欢迎。其中一个挑战是让他们以一种同情的方式交谈。目前的神经反应生成方法仅依赖于从大规模对话数据中进行端到端学习来生成对话。由于缺乏用于训练神经模型的大规模质量数据,这种方法可能产生社会上不可接受的响应。然而,最近的工作表明,结合对话行为/意图建模和神经反应生成的承诺。这种混合方法提高了聊天机器人的响应质量,使其更具可控性和可解释性。对话意图建模中的一个关键元素是分类法的开发。受此启发,我们使用相当大的移情对话数据集(25 K对话)的子集手动标记了500个响应意图。我们的目标是产生一个大规模的移情反应意图的分类。此外,使用词汇和机器学习方法,我们自动分析了整个数据集的说话者和听者话语,识别出了响应意图和32种情感类别。最后,我们使用信息可视化的方法来总结情感对话交流模式及其时间进程。这些结果揭示了新的和重要的移情模式,在人与人的开放域对话,并可以作为混合方法的启发。
2020-12-07 cs.CL
Locating Information Gaps and Narrative Inconsistencies Across Languages: A Case Study of LGBT People Portrayals on Wikipedia
University of British Columbia(不列颠哥伦比亚大学);University of Washington(华盛顿大学);Johns Hopkins University(约翰斯·霍普金斯大学);Vector Institute for AI(矢量人工智能研究所)
本研究提出InfoGap方法,可在事实层面高效定位跨语言文章的信息缺口与叙事不一致性,通过对英、俄、法三语维基百科2700个LGBT人物传记的分析验证其有效性,为大规模精细化跨语言比较分析奠定新基础。
2024-10-05 cs.CL
Social Intelligence Data Infrastructure: Structuring the Present and Navigating the Future
National University of Singapore(新加坡国立大学);Institute for Infocomm Research (IR)(信息通信研究院);A*STAR(新加坡科技研究局);Stanford University(斯坦福大学)
为解决NLP领域社交智能数据集缺乏系统整合的问题,研究构建了包含480个数据集的Social AI Data Infrastructure,以分析现有数据格局并指引未来多维度、高多样性及交互式数据集的开发方向。
2024-02-28 cs.AI cs.CL cs.CY
Closing the Affective Loop: Multimodal Speaker-Listener Emotion-Dynamics-Aware Empathetic Social Robots
Graduate School of Informatics, Kyoto University(京都大学情报学研究科);Computer Science Department, Boise State University(博伊西州立大学计算机科学系)
本研究提出AffectLoop系统,在Misty II机器人上实现多模态情感动态感知的说话人-听话人共情交互,经试点研究验证可提升共情响应与用户满意度。
2026-08-18 cs.CL cs.HC cs.RO
Bridging Gaps in Hate Speech Detection: Meta-Collections and Benchmarks for Low-Resource Iberian Languages
IRLab, CITIC Research Centre(IRLab、CITIC研究中心);Universidade da Coruña(圣地亚哥-德孔波斯特拉大学);Universidade de Santiago de Compostela(圣地亚哥-德孔波斯特拉大学)
本研究针对低资源伊比利亚语言仇恨言论检测资源匮乏的问题,编译了统一标签的欧洲西班牙语数据集元集合,并翻译为欧洲葡萄牙语和两种加利西亚变体构建多语言语料库,进而建立新基准评估大型语言模型,强调了多语言与变体感知方法的重要性。
2025-10-13 cs.CL
Hidden behind the obvious: misleading keywords and implicitly abusive language on social media
Queen Mary University of London(伦敦玛丽女王大学)
虽然社交媒体提供了自我表达的自由,但辱骂性语言会产生重大的负面社会影响。由于这个问题的重要性,在滥用语言的自动检测的研究已经见证了增长和改善。然而,这些检测模型显示出对强烈指示性关键字的依赖,例如诽谤和亵渎。这意味着他们可能会错误地(1a)在没有这些关键字的情况下错过滥用,或者(1b)用这些关键字标记非滥用,并且(2)他们在看不见的数据上表现不佳。尽管认识到这些问题,但文献中仍然存在差距和不一致之处。在这项研究中,我们详细分析了关键字从数据集构建到模型行为的影响,重点是模型如何在(1a)和(1b)上出错,以及(1a)和(1b)如何与(2)相互作用。通过分析,我们为未来的研究提供了建议,以解决所有三个问题。
2022-05-03 cs.CL cs.SI