SproutBench: A Benchmark for Safe and Ethical Large Language Models for Youth
SproutBench通过1283个发展性对抗提示评估47种LLMs,揭示儿童安全漏洞,为青少年AI设计提供指导。
2025-12-13 cs.AI cs.CL
HeartBench: Probing Core Dimensions of Anthropomorphic Intelligence in LLMs
Ant Group(蚂蚁集团);Xiamen University(厦门大学);Beijing Normal University(北京师范大学);Zhejiang University(浙江大学)
HeartBench通过理论驱动的分类体系评估中文大语言模型的情感、文化和伦理维度,揭示其在拟人智能方面的性能上限及改进方向。
2025-12-26 cs.AI cs.CL
Persona-Based Synthetic Data Generation Using Multi-Stage Conditioning with Large Language Models for Emotion Recognition
Almondays Co., Ltd(Almondays 有限公司);Kansai University(关西大学);Yokohama City University(横滨市立大学)
针对情感数据集稀缺问题,提出基于多阶段人格条件化的大型语言模型框架PersonaGen,通过构建分层虚拟人生成高质量情感文本,在多样性、真实性与下游任务中均显著优于基线。
2025-09-13 cs.AI cs.CL
Emergence of Hierarchical Emotion Organization in Large Language Models
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);University of Washington(华盛顿大学);University of Tokyo(东京大学)
受情感轮理论启发,分析大型语言模型输出中情感状态间的概率依赖关系,发现模型自然形成与人类心理模型一致的层级情感树,且更大模型发展出更复杂的层级结构,同时揭示社会经济角色在情感识别中的系统性偏差。
2026-08-06 cs.AI cs.CL cs.LG
Augmenting emotion features in irony detection with Large language modeling
University of Essex(埃塞克斯大学)
本研究提出一种结合大型语言模型与提示学习的情感文本增强方法,将微妙情感线索整合至BERT、T5和GPT-2模型中,在SemEval-2018 Task 3数据集上显著提升了讽刺检测能力。
2024-04-20 cs.AI cs.CL
Principled Frameworks for Evaluating Ethics in NLP Systems
Carnegie Mellon University(卡内基梅隆大学)
我们批评最近的工作伦理自然语言处理。这些讨论集中在数据汇集,实验设计和干预建模。但我们认为,我们应该首先理解用于评估算法系统公平性和正义性的伦理框架。在这里,我们开始讨论,概述义务论伦理,并设想一个研究议程的优先事项。
2019-06-14 cs.AI cs.CL
What's Next in Affective Modeling? Large Language Models
Northeastern University(东北大学);University of Glasgow(格拉斯哥大学)
本文探索了GPT-4在情绪预测、情绪强度操控和反向评估等情感建模任务上的能力,表明LLM可发挥重要作用但无法完全取代机制建模研究。
2023-10-03 cs.AI cs.CL
CoMPM: Context Modeling with Speaker's Pre-trained Memory Tracking for Emotion Recognition in Conversation
Kakao Enterprise Corp.(Kakao 企业公司)
随着交互式机器使用的增长,会话中的情感识别(ERC)任务变得更加重要。如果机器生成的句子反映了情感,那么更多类似人类的同情对话就有可能。由于如果不考虑先前的话语,会话中的情感识别是不准确的,许多研究反映了对话上下文,以提高性能。许多最近的方法显示,通过将知识结合到从外部结构化数据中学习的模块中,性能得到了提高。然而,结构化数据很难在非英语语言中访问,这使得它很难扩展到其他语言。因此,我们使用预训练的语言模型作为外部知识的提取器来提取预训练的记忆。我们引入了CoMPM,它结合了说话人的预训练记忆与上下文模型,并发现预训练记忆显着提高了上下文模型的性能。CoMPM在所有数据上实现了第一或第二性能,并且在不利用结构化数据的系统中是最先进的。此外,我们的方法表明,它可以扩展到其他语言,因为结构化的知识是不需要的,不像以前的方法。我们的代码可以在github上找到(https://github.com/rungjoo/CoMPM)。
2022-04-21 cs.AI cs.CL
EQ-Negotiator: Dynamic Emotional Personas Empower Small Language Models for Edge-Deployable Credit Negotiation
Rotman School of Management, University of Toronto(多伦多大学罗特曼管理学院);Department of Engineering, University of Cambridge(剑桥大学工程系);The Alan Turing Institute, London, UK(伦敦阿尔法顿研究所)
本文提出EQ-Negotiator框架,通过整合博弈论与隐马尔可夫模型,使小型语言模型具备动态情感人格,提升边缘设备上的信用谈判效率与道德标准。
2026-03-26 cs.CL
Ethics Sheet for Automatic Emotion Recognition and Sentiment Analysis
National Research Council Canada(加拿大国家研究委员会)
情感在我们生活中的重要性和普遍性使得情感计算成为一项非常重要和充满活力的工作。用于自动情感识别(AER)和情感分析的系统可以是巨大进步的促进者(例如,在改善公共卫生和商业方面),而且也是造成巨大危害的因素(例如,镇压持不同政见者和操纵选民)。因此,情感计算社区必须积极参与其创作的伦理后果。在本文中,我综合并组织了人工智能伦理和情感识别文献中的信息,提出了与AER相关的五十个伦理考虑因素。值得注意的是,该表充实了隐藏在AER通常如何构建以及通常对数据,方法和评估所做的选择中的假设。特别注意AER对隐私和社会群体的影响。在此过程中,为负责任的AER提出了关键建议。该表的目的是促进和鼓励更多的思考为什么要自动化,如何自动化,以及如何在构建AER系统之前判断成功。此外,该表作为一个有用的介绍性文件的情绪识别(补充调查文章)。
2022-03-20 cs.AI cs.CL
AtmosERC: Modeling Dialogue-Level Affective Atmosphere for Emotion Recognition in Conversation
本文提出AtmosERC框架,通过建模对话级情感氛围提升对话情感识别性能,其可作为插件线索增强基于大语言模型的ERC,且在局部情感偏差下预测更稳定。
2026-10-14 cs.CL
Practical and Ethical Considerations in the Effective use of Emotion and Sentiment Lexicons
National Research Council Canada(加拿大国家研究委员会)
词汇-情感关联词汇在研究和实际应用中有着广泛的应用。作为我研究的一部分,我已经创建了几个这样的词汇(例如,NRC Emotion Lexicon)。本文概述了有效利用这些词汇资源所涉及的一些实际和伦理方面的考虑。
2020-12-09 cs.CL
Emotional Cognitive Modeling Framework with Desire-Driven Objective Optimization for LLM-empowered Agent in Social Simulation
College of Intelligence and Computing(智能与计算学院);Faculty of Environment, Science and Economy(环境、科学与经济学院)
本文提出一个包含欲望生成与目标管理的情感认知框架,使LLM智能体在模拟中实现情感对齐,实验证明其行为更贴近人类模式。
2025-10-15 cs.AI
Engagement Intensity as a Learner-Modeling Signal for Adaptive AI Ethics Instruction
University of California, Los Angeles (UCLA)(加州大学洛杉矶分校)
本研究比较了三种学习者特征(使用频率、自评熟悉度、先前AI教育)与AI感知结果的关系,发现使用频率与所有五项结果显著相关,为自适应AI伦理教学提供了简单的入学者建模信号。
2026-06-18 cs.AI cs.CY
Breakdowns in Conversational AI: Interactional Failures in Emotionally and Ethically Sensitive Contexts
University of Electronic Science and Technology of China(电子科技大学)
研究探讨对话代理在情感和伦理敏感行为中出现的崩溃现象,分析其对对话质量的影响,并提出维护伦理一致性和情感敏感性的设计改进。
2026-04-03 cs.CL
Emotions in the Loop: A Survey of Affective Computing for Emotional Support
School of Computing University of Georgia(计算学院 佐治亚大学)
本文综述了情感计算在情感识别、情感分析和人格分配中的最新进展,涵盖LLMs、多模态与个性化AI方法,按聊天机器人、多模态输入、心理健康与安全四类应用分析技术优势、数据影响、研究空白与伦理问题,并提出更安全、共情且实用的未来方向。
2025-05-02 cs.AI cs.HC
An Empirical Design Justice Approach to Identifying Ethical Considerations in the Intersection of Large Language Models and Social Robotics
Leverhulme Centre for the Future of Intelligence, University of Cambridge(勒沃休姆未来智能中心,剑桥大学)
本文通过定性共同设计与交互研究,运用设计正义方法识别人形社交机器人作为 LLM 接口时的伦理风险,并归纳出交互、共同设计、服务条款和关系四个维度。
2024-06-12 cs.AI cs.RO
Sequential Trajectories and Simultaneous Blending: Multi-Emotion Modeling for Instruction-Following TTS
Key Laboratory of Intelligent Information Processing, Institute of Computing Technology, Chinese Academy of Sciences (ICT/CAS)(中国科学院计算技术研究所智能信息处理重点实验室);State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所人工智能安全国家重点实验室);University of Chinese Academy of Sciences(中国科学院大学)
本文针对指令跟随式TTS的多情感控制问题,提出HybridEmo后训练框架,结合分组相对策略优化与混合奖励,在MultiEmo-Test上提升了轨迹正确性与融合强度,表现优于多数对比模型。
2026-09-01 cs.CL cs.SD
EmoNet-Voice: A Fine-Grained, Expert-Verified Benchmark for Speech Emotion Detection
LAION e.V.(LAION研究院);TU Munich(慕尼黑技术大学);L3S Research Center(L3S研究中心);Leibniz University of Hannover(汉诺威莱布尼茨大学);TU Darmstadt(达姆施塔特技术大学);Ontocord(Ontocord公司);DFKI(DFKI研究所);TIB–Leibniz Information Centre for Science & Technology(TIB-莱布尼茨科学与技术信息中心)
EmoNet-Voice通过细粒度情绪分类和专家验证,构建了首个伦理合规的语音情感检测基准,提升情绪识别的准确性和细粒度区分能力。
2026-01-05 cs.AI cs.CL
Towards Emotionally Intelligent and Responsible Reinforcement Learning
针对医疗保健等领域个性化决策系统忽视情感背景与伦理约束的问题,提出负责任强化学习(RRL)框架,将情感理解与伦理考量整合到序列决策中,通过CMDP优化参与度与依从性并确保安全,连接多领域并为相关系统提供方法学基础。
2025-11-13 cs.AI cs.CL cs.HC
Unrequited Emotions: Investigating the Gaps in Motivation and Practice in Speech Emotion Recognition Research
Johns Hopkins University(约翰霍普金斯大学);University of Edinburgh(爱丁堡大学);MBZUAI(马克斯·普朗克智能系统研究所)
本文通过系统调查语音情感识别研究,揭示其动机与所用数据集和情绪研究之间的不一致,呼吁通过具体用例重新确立研究方向以避免伦理风险。
2026-04-28 cs.CL
Fine-Grained Emotion Prediction by Modeling Emotion Definitions
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
在本文中,我们提出了一个新的框架,细粒度的情感预测的文本,通过情感定义建模。我们的方法涉及一个多任务学习框架,该框架将情绪定义作为辅助任务进行建模,同时在情绪预测的主要任务上进行训练。我们使用掩码语言建模和类定义预测任务对定义进行建模。我们的模型优于现有的最先进的细粒度情感数据集GoEmotions。我们进一步表明,这种训练的模型可以用于在其他基准数据集上进行迁移学习,以不同的情感标签集,域和大小进行情感预测。所提出的模型优于基线的迁移学习实验证明了模型的泛化能力。
2021-07-26 cs.AI cs.CL
Modeling Protagonist Emotions for Emotion-Aware Storytelling
情感及其演变在创造一个迷人的故事中起着核心作用。在本文中,我们提出了第一个研究建模的情感轨迹的主角在神经讲故事。我们设计的方法,生成的故事,坚持给定的故事标题和所需的情感弧的主角。我们的模型包括情绪监控(EMOTION Supervision)和两个防御强化(EMOTION REHENGED)模型。EmoRL模型使用特殊奖励,旨在通过强化学习规范故事生成过程。我们的自动和手动评估表明,与基线方法相比,这些模型在生成遵循所需情感弧线的故事方面明显更好,而不会牺牲故事质量。
2020-10-20 cs.AI cs.CL
Modeling Intention, Emotion and External World in Dialogue Systems
iie.ac.cn(中国科学院计算技术研究所(注:根据常见机构命名逻辑,此处可能为中国科学院自动化研究所或其他,但严格按文本提取为iie.ac.cn,无明确机构名时按规则返回空数组,经重新检查,原文本中仅出现邮箱huyue@iie.ac.cn,未明确作者所属机构,故正确应为空数组)。修正:经再次确认,文本中仅出现作者姓名和邮箱,未明确作者所属机构,故正确输出为{)
意图、情感和行为是人类活动的重要组成部分。通过分析这些元素之间的关系来建模个体之间的交互过程是一项具有挑战性的任务。然而,以往的研究主要集中在意图和情感的独立建模,而忽略了探索意图和情感之间的相互关系。在本文中,我们提出了一个关系交互网络(RAIN),由意图关系模块和情感关系模块,共同模型的相互关系,明确地整合历史意图信息。在数据集上的实验表明,我们的模型可以充分利用个体之间的意图,情感和行动,并取得了显着的改善BERT风格的基线。定性分析验证了意向与情感相互作用的重要性。
2022-02-14 cs.AI cs.CL
COMMA: Modeling Relationship among Motivations, Emotions and Actions in Language-based Human Activities
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
动机、情感和行为是人类活动中相互关联的基本要素。虽然动机和情感一直被认为是探索人们如何在人类活动中采取行动的核心,但相对而言,很少有研究支持分析人类心理状态和行动之间的关系。我们提出的第一项研究,探讨建模的动机,情感和行动的可行性,在基于语言的人类活动,命名为COMMA(人类活动的认知框架)。在COMMA的指导下,我们定义了三个自然语言处理任务(情感理解、动机理解和条件动作生成),并通过从故事常识中自动抽取样本,构建了一个具有挑战性的数据集Hail。NLP应用程序上的实验结果证明了该关系建模的有效性。此外,我们的模型受COMA启发,可以更好地揭示动机,情绪和行动之间的本质关系比现有的方法。
2022-09-14 cs.AI cs.CL
Emotion Dynamics Modeling via BERT
Ping An Life Insurance Company of China, Ltd.(中国平安人寿保险股份有限公司)
情感动力学建模是会话情感识别中的一项重要任务。它的目标是在构建移情对话系统时预测会话情绪。现有的研究主要基于递归神经网络(RNN)开发模型。他们不能从最近开发的预训练策略中获益,这些策略可以在对话中更好地进行标记表示学习。更严重的是,很难通过简单地在RNN上组装特征来区分对话者的依赖性和对话者之间的情感影响。在本文中,我们开发了一系列基于BERT的模型,专门捕捉对话者间和对话者内的依赖关系的会话情感动态。具体地说,我们首先用BERT代替RNN来丰富令牌表示。然后,采用平面结构的BERT(F-BERT)直接连接会话中的话语,并采用层次结构的BERT(H-BERT)在连接话语时区分对话者。更重要的是,提出了一种时空结构的BERT,即ST-BERT,以进一步确定会话者之间的情感影响。最后,我们在两个流行的情感识别对话基准数据集上进行了广泛的实验,并证明我们提出的模型可以分别比最先进的基线提高约5%和10%。
2021-04-21 cs.AI cs.CL
Modeling Users and Online Communities for Abuse Detection: A Position on Ethics and Explainability
Facebook AI(脸书人工智能);University of Amsterdam(阿姆斯特丹大学)
互联网上的滥用是我们这个时代的一个重要社会问题。数以百万计的互联网用户在各种平台上面临骚扰、种族主义、人身攻击和其他类型的虐待。虐待对个人的心理影响可能是深刻和持久的。因此,在过去的几年里,在NLP领域,已经有了大量的研究工作来自动检测滥用语言。在这份立场文件中,我们讨论了用户和在线社区建模在滥用检测中的作用。具体来说,我们回顾和分析最先进的方法,利用用户或社区信息,以加强对滥用语言的理解和检测。然后,我们探讨了将用户和社区信息的伦理挑战,布局考虑,以指导未来的研究。最后,我们讨论的主题,在滥用语言检测的可解释性,提出属性,一个可解释的方法应该旨在展示。我们描述了如何用户和社区信息可以促进实现这些属性,并讨论了有效的操作性的可解释性的属性。
2021-04-14 cs.AI cs.CL
Some Issues in Predictive Ethics Modeling: An Annotated Contrast Set of "Moral Stories"
Haverford College(哈弗福德学院)
该研究针对伦理建模中仅以准确率为整体指标的问题,通过构建Moral Stories对比集,量化了不同数据失实形式对分类器准确率的损害,并提出了三项改进建议。
2024-07-07 cs.AI cs.CL
FATRER: Full-Attention Topic Regularizer for Accurate and Robust Conversational Emotion Recognition
Dasouche Inc(大搜车公司);Tencent Inc(腾讯公司);Beijing University of Posts and Telecommunications(北京邮电大学)
针对对话情绪识别中现有模型忽略对抗攻击下鲁棒性的问题,提出带全注意力主题正则化器的情绪识别模型,通过联合主题建模和无先验注意力概率近似,兼顾准确率与对抗鲁棒性,性能优于现有最优模型。
2023-07-23 cs.AI cs.CL
Modeling Emotional Trajectories in Written Stories Utilizing Transformers and Weakly-Supervised Learning
University of Augsburg(奥格斯堡大学);TU Munich(慕尼黑工业大学);Huawei Technologies(华为技术有限公司);Imperial College London(伦敦帝国学院)
针对故事情感轨迹建模缺乏基准的问题,本文通过引入连续效价和唤醒度标签构建基准,并基于DeBERTa微调与弱监督学习方法进行预测,取得了优异的实验结果。
2024-06-04 cs.AI cs.CL
Letting Emotions Flow: Success Prediction by Modeling the Flow of Emotions in Books
University of Houston(休斯顿大学);Instituto Nacional de Astrofısica Optica y Electronica(墨西哥国立天文光学与电子研究所);Universidad Nacional de Colombia(哥伦比亚国立大学)
书籍有能力使我们感到快乐、悲伤、痛苦、惊奇或悲伤。作者对这些情感的巧妙运用吸引了读者,使他们很难放下这本书。在本文中,我们使用递归神经网络对一本书的情感流动进行建模,并量化其在预测书籍成功方面的有用性。我们获得了69%的最佳加权F1分数,用于预测多任务环境中书籍的成功(同时预测书籍的成功和类型)。
2018-05-25 cs.CL
Attention-based Modeling for Emotion Detection and Classification in Textual Conversations
LIRMM UMR 5506;CNRS(法国国家科学研究中心);University of Montpellier(蒙彼利埃大学);IUT de Béziers(贝济耶大学技术学院);AMIS;Paul Valery University - Montpellier 3(保罗·瓦莱里大学-蒙彼利埃第三大学)
本文讨论了文本会话建模和情感检测的问题。我们提出的模型利用1)深度迁移学习而不是经典的词嵌入浅层方法; 2)自我注意力机制专注于文本中最重要的部分; 3)基于回合的会话建模用于分类情感。该方法不依赖于任何手工制作的功能或词典。我们的模型基于SemEval-2019共享任务提供的文本中上下文情感检测的数据进行了评估。该模型显示出非常有竞争力的结果。
2019-06-14 cs.CL
EffMulti: Efficiently Modeling Complex Multimodal Interactions for Emotion Analysis
Netease Fuxi AI Lab(网易伏羲AI实验室);Hangzhou Dianzi University(杭州电子科技大学)
人类擅长从多模态信号中解读对话者的情绪,包括口语、同步语音和面部表情。从多模态信号的复杂交互中有效地解码情感仍然是一个挑战。在本文中,我们设计了三种多模态潜在表征,以细化情感分析过程,并从不同的角度捕捉复杂的多模态交互,包括一个完整的三模态集成表示,模态共享表示,和三个模态个体表示。然后,提出了一种模态语义层次融合,合理地将这些表示到一个全面的交互表示。实验结果表明,我们的EffMulti优于国家的最先进的方法。令人信服的性能得益于其精心设计的框架,易于实现,计算复杂性较低,可训练的参数较少。
2022-12-16 cs.AI cs.CL cs.LG
EmoUS: Simulating User Emotions in Task-Oriented Dialogues
Heinrich Heine University Düsseldorf(杜塞尔多夫海因里希·海涅大学)
提出 EmoUS 用户模拟器,结合用户目标、历史与角色生成情绪、语义动作和回复,并作为探针评估对话系统对用户情绪状态的影响。
2023-06-02 cs.CL
Modeling Label Semantics for Predicting Emotional Reactions
Stony Brook University(石溪大学);US Naval Academy(美国海军学院)
预测事件如何诱导故事人物的情绪通常被视为标准的多标签分类任务,通常将标签视为匿名类进行预测。他们忽略了情感标签本身可能传达的信息。我们建议,情感标签的语义可以引导模型的注意力时,表示输入的故事。此外,我们还观察到,一个事件所引起的情绪往往是相关的:一个引起喜悦的事件不太可能也引起悲伤。在这项工作中,我们通过标签嵌入显式地对标签类进行建模,并添加了在训练和推理过程中跟踪标签-标签相关性的机制。我们还引入了一个新的半监督策略,正则化的相关性未标记的数据。我们的实证评估表明,建模标签语义产生一致的好处,我们推进了最先进的情感推理任务。
2020-06-28 cs.CL
EmotionIC: emotional inertia and contagion-driven dependency modeling for emotion recognition in conversation
School of Artificial Intelligence and Automation, Huazhong University of Science and Technology(华中科技大学人工智能与自动化学院);Institute of Artificial Intelligence, Huazhong University of Science and Technology(华中科技大学人工智能研究院);Hubei Key Laboratory of Brain-inspired Intelligent Systems, Huazhong University of Science and Technology(华中科技大学湖北省类脑智能系统重点实验室);Key Laboratory of Image Processing and Intelligent Control (Huazhong University of Science and Technology), Ministry of Education(华中科技大学图像信息处理与智能控制教育部重点实验室)
提出EmotionIC模型,通过IMMHA、DiaGRU和SkipCRF分别建模全局依赖、局部上下文和复杂情感流,在四个基准数据集上显著优于现有方法,有效建模情绪惯性与传染。
2024-03-20 cs.CL
Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis
School of Computing and Informatics(计算与信息学学院);University of Louisiana at Lafayette(路易斯安那州立大学拉法叶分校)
本研究通过主题建模和情感分析,探讨心理健康应用用户评论中的伦理问题,揭示现有伦理原则的不足及新兴伦理挑战。
2026-02-04 cs.CL cs.CY cs.HC
Modeling Word Emotion in Historical Language: Quantity Beats Supposed Stability in Seed Word Selection
Friedrich-Schiller-Universität Jena(耶拿弗里德里希·席勒大学)
要理解历史文本,我们必须意识到语言--包括附加在词语上的情感内涵--会随着时间而变化。在本文中,我们的目的是估计的情感,这是与一个给定的词在以前的语言阶段的英语和德语。情绪是根据流行的效价-唤醒-支配(VAD)注释方案表示的。虽然更有表现力比极性单独,现有的词情感诱导方法通常不适合解决it. To克服这一限制,我们提出了两个流行的算法的改编VAD。为了衡量它们在历时环境中的有效性,我们提出了历史词汇情感的第一个黄金标准,这是由精通各自语言阶段的学者创建的,涵盖了英语和德语。与之前的研究结果相反,我们的研究结果表明,手工选择具有稳定情感意义的种子词实际上是有害的,而不是有益的。
2019-04-08 cs.CL
Meursault as a Data Point
Department of Computer Science(计算机科学系);Engineering, ASET Amity University, Noida, India(工程系,阿米特大学,印度诺伊达)
本文通过分析《局外人》中梅尔萨尔特的情感冷漠,探讨AI量化人类经验的局限性,揭示数据驱动社会的伦理问题。
2025-11-26 cs.AI cs.CL cs.CY
Modeling Content-Emotion Duality via Disentanglement for Empathetic Conversation
The Hong Kong Polytechnic University(香港理工大学);LMU Munich(慕尼黑大学)
移情反应生成的任务是理解说话者对自己的经历表达了什么样的情感,然后恰当地回答说话者。为了解决这个问题,必须对对话的内容-情感二元性进行建模,对话由内容视图(即,描述了什么样的个人经历)和情感视图(即,作者对这些经历的感受)。为此,我们设计了一个框架来模拟内容情感二重性(CEDual)通过解开移情反应的产生。使用解纠缠,我们从内容和情感的角度对对话历史进行编码,然后基于解纠缠的表征生成移情响应,从而对话历史的内容和情感信息都可以嵌入到生成的响应中。在基准数据集EMPATHETICDIALOGUES上的实验表明,CEDual模型在自动和人工指标上都达到了最先进的性能,并且比以前的方法产生了更多的移情响应。
2022-09-26 cs.CL
PO-EMO: Conceptualization, Annotation, and Modeling of Aesthetic Emotions in German and English Poetry
Max Planck Institute for Empirical Aesthetics(马克斯·普朗克经验美学研究所);Technische Universitat Darmstadt(达姆施塔特工业大学);University of Stuttgart(斯图加特大学)
大多数社交媒体、文学、新闻和其他领域的情感分析方法都只关注Ekman或Plutchik定义的基本情感类别。然而,艺术(如文学)使人们能够参与更广泛的更复杂和微妙的情感。这些已经被证明也包括混合的情绪反应。我们认为诗歌中的情感是在读者中引发的,而不是在文本中表达的或作者的意图。因此,我们概念化了一组美学情感,这些情感可以预测读者的审美欣赏,并允许每行多个标签的注释在其上下文中捕获混合的情感。我们在一个注释实验中评估了这种新颖的设置,该实验由经过精心训练的专家和众包完成。我们与专家的注释导致Kappa = .70的可接受的一致性,从而为未来的大规模分析提供一致的数据集。最后,我们进行了第一次情感分类实验的基础上BERT,表明识别审美情感是具有挑战性的,在我们的数据,与高达.52 F1-微的德国子集。有关数据和资源,请访问https://github.com/tnhaider/poetry-emotion
2021-06-23 cs.CL
A Hierarchical Transformer with Speaker Modeling for Emotion Recognition in Conversation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
会话中的情感识别(ERC)是一个比传统文本情感识别更具挑战性的任务。它可以看作是一个个性化的、交互式的情感识别任务,不仅要考虑文本的语义信息,还要考虑说话人的影响。目前的方法通过在每两个说话者之间建立关系来模拟说话者的交互。然而,这种细粒度但复杂的建模是计算昂贵的,难以扩展,并且只能考虑局部上下文。为了解决这个问题,我们将复杂的建模简化为二进制版本:说话者内和说话者间的依赖关系,而不需要为目标说话者识别每个唯一的说话者。为了更好地实现Transformer中说话人的简化交互建模,使其具有良好的解决长距离依赖的能力,我们设计了三种类型的掩码,并分别在三个独立的Transformer模块中使用。所设计的模板分别对传统的上下文建模、说话人内相关性和说话人间相关性进行建模。此外,不同的说话人感知信息提取的Transformer块差异有助于预测,因此,我们利用注意力机制自动加权。在两个ERC数据集上的实验表明,我们的模型是有效的,以实现更好的性能。
2020-12-29 cs.CL
A Unified Approach to Emotion Detection and Task-Oriented Dialogue Modeling
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心)
本文提出将情感检测统一集成到任务导向对话建模中,通过扩展SimpleToD的信念状态跟踪,在EmoWOZ上验证了该方法能同时提升情感检测与任务性能,并改善系统响应的同理心。
2024-06-28 cs.CL
Dimensional Modeling of Emotions in Text with Appraisal Theories: Corpus Creation, Annotation Reliability, and Prediction
University of Stuttgart(斯图加特大学)
情感分析中最突出的任务是将情感分配给文本,并了解情感如何在语言中表现。对NLP的一个观察是,情绪可以通过引用事件来隐含地传达,呼吁对事件的移情,主体间的理解,即使没有明确提到情绪名称。在心理学中,被称为评价理论的一类情绪理论旨在解释事件和情绪之间的联系。评价可以被形式化为变量,这些变量测量人们在经历他们认为相关的事件时的认知评价。它们包括评估一个事件是否是新颖的,如果人认为自己是负责任的,如果它是符合自己的目标,以及许多其他。这种评价解释了哪些情绪是基于一个事件而发展起来的,例如,一个新奇的情况可能会引起惊讶,或者一个不确定的后果可能会引起恐惧。我们分析的评价理论的情感分析文本的理解,如果评价概念可以可靠地重建注释的目标,如果它们可以预测的文本分类器,如果评价概念有助于确定情感类别的适用性。为了实现这一目标,我们编写了一个语料库,要求人们文本描述触发特定情绪的事件,并透露他们的评价。然后,我们要求读者从文本中重建情感和评价。这种设置使我们能够衡量情感和评价是否可以纯粹从文本中恢复,并提供了一个人类基线。我们将文本分类方法与人类注释器进行了比较,结果表明两者都可以可靠地检测情感和评价,并且性能相似。因此,评价构成了另一种计算情感分析范式,并进一步提高了文本中的情感分类与联合模型。
2022-10-07 cs.CL
Is it morally acceptable for a system to lie to persuade me?
Trento-RISE(特伦托RISE);FBK-Irst
鉴于越来越自主的人工智能体和机器人的快速崛起,一个关键的可接受性标准将是其行为可能的道德影响。特别是,智能说服系统(旨在通过沟通影响人类的系统)构成了一个高度敏感的话题,因为它们固有的社会性质。尽管如此,在这方面的伦理研究是罕见的,往往侧重于所需的行动的输出。相反,这项工作的重点是说服行为本身(eidogg.“这是道德上可以接受的,一台机器说谎或呼吁一个人的情感来说服她,即使是为了一个好的结果?").利用行为方法,基于人类对道德困境的评估-即没有任何预先假设的基本伦理理论-本文报道了一组实验。这些实验涉及说服者的类型(人类或机器),所采用的策略(纯粹的争论,吸引积极情绪,吸引消极情绪,谎言)和环境。研究结果显示,没有差异,由于代理,温和的可接受性说服和真理条件推理(即论点有效性)是一个重要的维度影响受试者的判断。智能说服系统的设计的一些影响进行了讨论。
2014-04-15 cs.CL cs.CY
Annotation and modeling of emotions in a textual corpus: an evaluative approach
LIDILEM, Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学 LIDILEM 实验室);Société Ixiade(Ixiade 公司)
本文针对文本情感研究的开放性问题,采用评价性方法处理工业语料的情感标注,通过训练语言模型验证了标注过程可建模、分歧由语言特征驱动,且模型能基于评价标准区分情感场景。
2025-09-01 cs.CL
GEMCo: A Validated, Ethically Releasable Proxy for Inaccessible Counselling Data
Technische Hochschule Nürnberg Georg Simon Ohm(纽伦堡乔治·西蒙·欧姆应用技术大学)
研究针对无法获取的咨询数据提出GEMCo代理,通过与真实咨询对话对比验证,在咨询师策略和客户情绪方面差距小,其验证方法可推广,GEMCo因设计不涉隐私伦理可发布,迈出该领域语言研究第一步。
2026-08-11 cs.CL cs.CY
Temporal Modeling Matters: A Novel Temporal Emotional Modeling Approach for Speech Emotion Recognition
Fudan University(复旦大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Fujian University of Technology(福建工程学院);Xiamen University(厦门大学);Shanghai Center for Brain Science and Brain-Inspired Technology(上海脑科学与类脑研究中心)
针对语音情感识别中时序模式建模问题,提出时序感知双向多尺度网络TIM-Net,通过多尺度时序特征融合提升识别性能,在6个基准数据集上的平均UAR和WAR较次优方法分别提升2.34%与2.61%。
2023-08-14 cs.CL cs.SD eess.AS
Emotion Rendering for Conversational Speech Synthesis with Heterogeneous Graph-Based Context Modeling
Inner Mongolian University(内蒙古大学);ByteDance(字节跳动);Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));National University of Singapore(新加坡国立大学)
针对对话语音合成中情感表现力不足、数据稀缺的问题,提出含异构图上下文建模和对比学习渲染器的ECSS模型,在标注的DailyTalk数据集上表现优于基线。
2023-12-19 cs.CL cs.SD eess.AS
On the Computational Modeling of Meaning: Embodied Cognition Intertwined with Emotion
Boise State University(博伊西州立大学)
本文从儿童语言习得出发,论述具身性、情感与认知在意义形成中的作用,并提出类儿童语言学习智能体的建模要求。
2023-07-12 cs.CL
Towards Generalizable SER: Soft Labeling and Data Augmentation for Modeling Temporal Emotion Shifts in Large-Scale Multilingual Speech
Virginia Commonwealth University(弗吉尼亚联邦大学);Nile University(尼罗大学)
本研究通过整合16个数据集、提出软标签系统及利用Whisper编码器和对比学习增强,实现了多语言语音情感时间动态建模,并在四个数据集上验证了零样本泛化能力。
2023-11-15 cs.CL cs.LG eess.AS
Knowledge-enhanced Memory Model for Emotional Support Conversation
University of Notre Dame(圣母大学);Zhejiang University(浙江大学);University of Texas at Dallas(德克萨斯大学达拉斯分校);Alibaba Group(阿里巴巴集团)
针对情感支持对话中情绪多变、回应不实用和策略建模复杂的问题,提出知识增强记忆模型MODERN,通过知识丰富的上下文编码和记忆增强策略建模,在大规模数据集上超越现有基线。
2023-10-11 cs.CL
How people talk about each other: Modeling Generalized Intergroup Bias and Emotion
Department of Linguistics, The University of Texas at Austin(德克萨斯大学奥斯汀分校语言学系);Department of Computer Sciences, University of Pittsburgh(匹兹堡大学计算机科学系);Department of Political Science, Rutgers University(罗格斯大学政治学系)
本文探讨了群体偏见的广义建模,通过细粒度的人际情感预测人际关系,构建了首个标注人际情感的英文推文数据集,展示了神经模型在识别偏见方面的优越性能。
2023-02-14 cs.CL
ASEM: Enhancing Empathy in Chatbot through Attention-based Sentiment and Emotion Modeling
Qatar University(卡塔尔大学);MSA University(MSA大学)
ASEM提出一种端到端模型,通过多编码器专家混合和专门注意力策略,在情感分析之上进行情绪分析,使开放域聊天机器人能够生成更准确、多样且共情的回应,情绪检测准确率提升6.2%,词汇多样性提升1.4%。
2024-02-25 cs.CL