Revolutionizing Mental Health Support: An Innovative Affective Mobile Framework for Dynamic, Proactive, and Context-Adaptive Conversational Agents
针对传统聊天机器人难以适配复杂心理健康支持需求的问题,论文提出结合多模态感知、语言模型与认知行为疗法工具的情感移动框架,可实现共情式情绪干预,助力用户情绪管理。
2024-06-22 cs.HC
Trade-offs in Social-Norm Framings for Health Chatbots: Balancing Trust and Preference
Harvard University(哈佛大学);Cornell University(康奈尔大学);Microsoft Research(微软研究院)
该研究针对印度农村61位社区卫生工作者,对比四种社会规范框架的效果,发现叙事框架受偏好但易致过度依赖、权威框架不受偏好却支持校准信任,提出适配语境的动态框架设计建议。
2026-08-20 cs.HC
"I Talked to an AI Chatbot, So What's Next?" How U.S. Young Adults Imagine Responsible AI for Emotion Coping
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究通过场景研究考察AI聊天机器人如何影响情绪应对的关系条件,提出负责任AI应回应个体关系条件,并确定促进互惠与增强情绪自我效能两个设计原则。
2026-11-20 cs.HC
Watching AI Think: User Perceptions of Visible Thinking in Chatbots
Aalborg University(奥尔堡大学);University of Oulu(奥卢大学)
研究探讨可见思考对用户感知的影响,通过实验发现不同思考内容和情境对同理心、温暖、能力和参与度有显著影响,为设计更有效的对话代理提供依据。
2026-01-23 cs.HC
Is AI mingling or bullying me? Exploring User Interactions with a Chatbot in China
本文以微博社交机器人“评论罗伯特”为对象,分析3900余条用户互动记录,揭示其自主评论带来的复杂情感体验及人机情感鸿沟,为人机交互研究提供新视角。
2025-07-05 cs.HC
The Effect of Multiple Replies for Natural Language Generation Chatbots
National Taiwan Normal University(台湾师范大学)
在本研究中,通过对用户的话语进行多次回复来创建群聊氛围,我们缓解了自然语言生成聊天机器人可能回复不适当内容的问题,从而导致不良的用户体验。因为根据我们的调查结果,用户往往会关注适当的回复,而忽略不适当的回复。我们进行了一个2(单个回复vs.五个回复)x 2(匿名头像vs.动漫头像)的重复测量实验,以比较不同条件下的聊天体验。实验结果表明,与单一回复相比,NLG模型中的用户在一次收到多个回复时会有更好的聊天体验。此外,根据我们的结果的效果大小,为了改善单一回复和匿名头像的NLG聊天机器人的聊天体验,提供五个回复将比设置动漫头像有更多的好处。
2022-12-13 cs.CL cs.HC
If I Hear You Correctly: Building and Evaluating Interview Chatbots with Active Listening Skills
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Juji, Inc.(Juji公司)
面试聊天机器人让用户参与基于文本的对话,以引出他们的观点和意见。然而,构建有效的面试聊天机器人具有挑战性,可以处理用户对开放式问题的自由文本回答,并提供引人入胜的用户体验。作为第一步,我们正在研究使用公开可用的实用人工智能技术来构建有效的面试聊天机器人的可行性和有效性。为了证明可行性,我们构建了一个原型,其范围是使面试聊天机器人具有主动倾听技能的子集-理解用户输入并正确响应的能力。为了评估我们的原型的有效性,我们在206名用户的现场评估中比较了具有或不具有主动倾听技能的面试聊天机器人在四个常见面试主题上的表现。我们的工作为构建有效的面试聊天机器人,混合聊天机器人平台和超越面试任务的移情聊天机器人提供了实际的设计意义。
2020-02-05 cs.AI cs.CL cs.HC
How do you Converse with an Analytical Chatbot? Revisiting Gricean Maxims for Designing Analytical Conversational Behavior
聊天机器人作为各种任务的对话界面已经引起了人们的兴趣。虽然存在聊天机器人界面的一般设计指南,但很少有工作探索支持与数据对话的分析聊天机器人。我们探讨格赖斯格言,以帮助通知有效的会话互动的基本设计。我们还从数据探索的自然语言接口中汲取灵感,以支持歧义和意图处理。我们对30名参与者进行了《绿野仙踪》研究,以评估用户对文本和语音聊天机器人设计变体的期望。结果确定了意图解释的偏好,并揭示了用户期望的变化的基础上,接口的启示。随后,我们对实现这些首选设计变体的三种分析聊天机器人系统(文本+图表,语音+图表,仅语音)进行了探索性分析。来自第二个30名参与者研究的经验证据为数据驱动对话提供了具体的启示,例如解释意图,数据导向,并通过适当的系统响应建立信任。
2022-03-16 cs.HC
From Eliza to XiaoIce: Challenges and Opportunities with Social Chatbots
Microsoft Corporation(微软公司)
自20世纪60年代问世以来,会话系统已经走过了漫长的道路。经过几十年的研究和开发,我们已经看到了从60年代和70年代的Eliza和Parry,到2000年代DARPA的任务完成系统,再到2010年代的智能个人助理Siri,再到今天的社交聊天机器人XiaoIce。社交聊天机器人的吸引力不仅在于它们能够响应用户的各种请求,还在于它们能够与用户建立情感联系。后者是通过满足用户对沟通、情感以及社会归属感的需求来实现的。为了进一步推进和采用社交聊天机器人,它们的设计必须关注用户参与度,并考虑智商(IQ)和情商(EQ)。用户应该希望与社交聊天机器人互动;因此,我们将社交聊天机器人的成功指标定义为每次会话的会话次数(CPS)。以小冰为例,我们讨论了构建社交聊天机器人的关键技术,从核心聊天到视觉感知到技能。我们还展示了XiaoIce如何动态地识别情感,并通过适当的人际反应在长时间的对话中吸引用户。随着我们成为第一代与人工智能生活在一起的人类,我们有责任设计社交聊天机器人,使其既有用又有同情心,因此它们将变得无处不在,并帮助整个社会。
2018-02-09 cs.AI cs.HC
Designing Adaptive Affective Chatbots for Online Learning: Trade-offs Between User Control, Automation, and Transparency
Georgia Institute of Technology(佐治亚理工学院)
本研究通过迭代设计探索在线学习中的情感自适应聊天机器人,提出三种自适应方案,并发现混合设计在权衡自动化、透明度与用户控制时最受用户青睐。
2026-10-06 cs.CY cs.HC
When Chatbots Accommodate: Auditing the Response Policies of AI Companions in Vulnerable Conversations
USC Information Sciences Institute(南加州大学信息科学研究所);Viterbi School of Engineering, USC(南加州大学维特比工程学院);Annenberg School for Communication and Journalism, USC(南加州大学安嫩伯格传播与新闻学院)
通过逆强化学习分析GPT-4.1、Character.AI和Replika在约4.8万轮真实对话中的响应策略,揭示AI伴侣在脆弱对话中优先提供建议、分散策略或持续提问,但均弱化纠正性反馈。
2026-09-01 cs.HC
CASS: Towards Building a Social-Support Chatbot for Online Health Community
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);IBM Research(IBM研究院);The Hong Kong University of Science and Technology(香港科技大学);Pace University(佩斯大学)
尽管聊天机器人系统在当今的HCI和CSCW研究中很受欢迎,但由于以下两个原因之一而不足:1)许多系统使用基于规则的对话流,因此它们只能响应有限数量的预定义输入和预先编写的响应;或者2)它们的设计重点是单用户场景,因此不清楚这些系统如何影响其他用户或社区。在本文中,我们开发了一个可推广的聊天机器人架构(CASS),为在线健康社区的社区成员提供社会支持。CASS体系结构基于先进的神经网络算法,因此它可以处理来自用户的新输入,并生成各种响应。CASS也是可推广的,因为它可以很容易地迁移到其他在线社区。通过后续的实地实验,CASS被证明在支持寻求情感支持的个人成员方面是有用的。我们的工作还有助于填补关于聊天机器人如何影响整个社区参与的研究空白。
2021-02-04 cs.HC cs.LG
How to Make Museums More Interactive? Case Study of Artistic Chatbot
本文提出语音到语音的 RAG 系统 Artistic Chatbot,并在华沙美术学院现场艺术展中部署,验证其可基于226份领域文档以波兰语回答参观者提问并增强博物馆互动。
2025-08-30 cs.HC cs.IR
Personalized Chatbot Trustworthiness Ratings
会话代理,通常被称为聊天机器人,越来越多地部署在许多领域,以允许人们在试图解决特定问题时进行自然交互。鉴于其广泛使用,重要的是为其用户提供方法和工具,以提高用户对聊天机器人的各种属性的认识,包括用户可能认为重要的非功能属性,以便信任特定的聊天机器人。例如,用户可能希望使用没有偏见的聊天机器人,不使用辱骂性语言,不向其他用户泄露信息,并且以适合用户认知水平的风格进行响应。在本文中,我们解决的设置聊天机器人不能被修改,其训练数据不能被访问,但一个中立的一方希望评估和沟通其可信度的用户,定制用户的优先级超过各种信任问题。这样的评级可以帮助用户在其他聊天机器人中进行选择,开发人员测试他们的系统,商业领袖为他们的产品定价,监管机构制定政策。我们设想了一种聊天机器人的个性化评级方法,该方法依赖于每个问题的单独评级模块,以及用户在相关信任问题中检测到的优先级排序,以生成聊天机器人可信度的聚合个性化评级。该方法是独立的特定的信任问题,是参数的聚合过程,从而允许无缝的泛化。我们说明了它的一般用途,将其与实时聊天机器人集成,并在四个对话数据集和代表性的用户简档上进行评估,并通过用户调查进行验证。
2020-10-10 cs.CY cs.HC cs.SI
The Design and Implementation of XiaoIce, an Empathetic Social Chatbot
Microsoft(微软);Microsoft Research(微软研究院)
本文介绍了世界上最流行的社交聊天机器人Microsoft XiaoIce的开发。XiaoIce被独特地设计为具有情感联系的AI伴侣,以满足人类对沟通,情感和社会归属感的需求。我们在系统设计中考虑了智商(IQ)和情商(EQ),将人机社交聊天作为马尔可夫决策过程(MDP)的决策,并优化XiaoIce以实现长期的用户参与,以预期的会话次数(CPS)衡量。我们详细介绍了系统的架构和关键组件,包括对话管理器,核心聊天,技能和移情计算模块。我们展示了小冰如何动态地识别人类的情感和状态,理解用户的意图,并在长时间的对话中响应用户的需求。自2014年推出以来,小冰已经与超过6.6亿活跃用户进行了交流,并成功地与其中许多人建立了长期关系。对大规模在线日志的分析表明,XiaoIce的平均CPS达到了23,明显高于其他聊天机器人甚至人类对话。
2019-09-14 cs.AI cs.CL cs.HC
The R-U-A-Robot Dataset: Helping Avoid Chatbot Deception by Detecting User Questions About Human or Non-Human Identity
University of California, Davis(加州大学戴维斯分校);Columbia University(哥伦比亚大学)
人类越来越多地通过语言与机器进行交互,有时在用户可能不知道他们正在与机器交谈的情况下(例如通过电话或文本聊天机器人)。我们的目标是了解系统设计师和研究人员如何让他们的系统确认其非人类身份。我们收集了2,500多个与“你是机器人吗?”".这与超过2,500个对立选择的话语配对,其中仅确认系统是非人类的是不够的或不流利的。我们比较分类识别的意图,并讨论精度/召回和模型复杂性的权衡。这种分类器可以集成到对话系统中,以避免不希望的欺骗。然后,我们探讨了生成研究模型(Blender)以及两个部署的系统(Amazon Alexa,Google Assistant)如何处理这一意图,发现系统通常无法确认其非人类身份。最后,我们试图了解什么是对意图的良好响应,并进行用户研究,以比较响应此意图时的重要方面。
2021-06-04 cs.CL cs.HC
BanglAssist: A Bengali-English Generative AI Chatbot for Code-Switching and Dialect-Handling in Customer Service
本文提出BanglAssist,一种结合检索增强生成与提示工程的孟加拉语-英语聊天机器人,用于处理客户服务中的语码转换和方言,以应对LLM的幻觉和语言多样性挑战。
2025-03-28 cs.HC
Beyond "I Can't Help With That": How Child Safety Experts Evaluate AI Chatbot Safety
Microsoft Research(微软研究院);Duke University(杜克大学);Abridge AI Inc.(Abridge人工智能公司);Microsoft(微软)
本文通过访谈19名儿童安全相关从业者,分析现有AI聊天机器人儿童安全评估的局限,提出需将从业者视角纳入安全评估工作的建议。
2026-08-11 cs.AI cs.CY cs.HC
From Interaction to Attitude: Exploring the Impact of Human-AI Cooperation on Mental Illness Stigma
本研究通过三款聊天机器人对比单向信息传播与双向协作,发现人机协作能借助社会接触减少精神疾病污名,并提升对聊天机器人的能力评价与共情,为态度改变导向的互动设计提供依据。
2025-01-02 cs.HC
Engagement Phenotypes for a Sample of 102,684 AI Mental Health Chatbot Users and Dose-Response Associations with Clinical Outcomes
University of Virginia(弗吉尼亚大学);Slingshot AI;New York University School of Medicine(纽约大学医学院)
研究通过聚类分析102684名用户的行为特征,发现五种参与表型,并探讨其与临床改善和工作联盟的关系,强调单一参与度指标的局限性。
2026-07-03 cs.HC
Are You Listening to Me? Fine-Tuning Chatbots for Empathetic Dialogue
Nelogica Sistemas de Software Ltda(Nelogica软件系统有限公司)
本文研究大型语言模型在共情对话生成中的表现,通过ChatGPT和Gemini扩展专家数据集并结合VADER情感分析与人工评估,发现情感建模需兼顾结构对齐与定性深度。
2025-07-03 cs.AI cs.HC
Assessing the Feasibility of a Video-Based Conversational Chatbot Survey for Measuring Perceived Cycling Safety: A Pilot Study in New York City
Center for Urban Science + Progress, Tandon School of Engineering, New York University(纽约大学坦登工程学院城市科学与工程中心);School of Geography, University of Leeds(利兹大学地理学院);Department of Technology of Management and Innovation, Tandon School of Engineering, New York University(纽约大学坦登工程学院技术、管理与创新系);Department of Urban and Regional Planning, College of Design, Construction and Planning, University of Florida(佛罗里达大学设计、建造与规划学院城市规划与区域规划系)
本文提出利用大语言模型结合视频调查和对话式AI聊天机器人,评估骑行安全感知的可行性,并通过纽约市九个街区的试点调查验证方法的有效性。
2026-04-07 cs.CY cs.HC
What do AI chatbots do after users decline therapeutic redirection for suicide thoughts?
University of Virginia(弗吉尼亚大学);University of California San Diego(加州大学圣迭戈分校);VA San Diego Healthcare System(圣迭戈退伍军人事务医疗系统)
该研究通过2550次脚本化对话发现,AI聊天机器人在用户拒绝自杀危机引导后,坚持推荐外部帮助的次数差异显著,新版本坚持次数更少,且安全评估需关注引导被拒后的反应。
2026-10-16 cs.AI cs.CY cs.HC
Privacy Concerns in Chatbot Interactions: When to Trust and When to Worry
University of Kent(肯特大学);Cranfield University(克兰菲尔德大学);Defence Academy of the United Kingdom(英国国防学院)
通过对话能力的进步,聊天机器人已经开始请求和处理越来越多的敏感个人信息。准确披露敏感信息对于向医疗保健和金融行业的用户提供建议和支持至关重要。在这项研究中,我们探讨了用户对聊天机器人提供商使用敏感数据相关因素的担忧。我们调查了491名英国公民的代表性样本。我们的研究结果表明,用户关注的问题集中在删除个人信息和他们的数据的不适当使用的关注。我们还发现,个人担心在与会话代理对话后失去对数据的控制。我们发现用户的性别或教育程度没有影响,但确实发现了用户年龄的影响,45岁以上的人比45岁以下的人更关心。我们还考虑了在聊天机器人中产生信任的因素。受访者的主要关注点是聊天机器人的技术元素,其中响应质量等因素被认为是最关键的因素。我们再次发现用户的性别或教育水平没有影响;然而,当我们考虑一些社会因素(例如化身或感知的“友好度”)时,我们发现45岁以下的人比45岁以上的人更重要。本文最后讨论了这些结果的背景下,设计包容性,数字系统,支持广泛的用户。
2021-07-08 cs.AI cs.CL cs.CY
From Risk Avoidance to User Empowerment in AI Mental Health Crisis Support
Dartmouth College(达特茅斯学院);Northwestern University(西北大学);University of California San Francisco(加州大学旧金山分校);University of Minnesota(明尼苏达大学);Microsoft Research(微软研究院);LivingWorks;Florida State University(佛罗里达州立大学);Microsoft(微软);Boston University(波士顿大学);Johns Hopkins University(约翰斯·霍普金斯大学);Mental Health America(美国心理健康协会);University of Washington(华盛顿大学)
本文提出面向用户赋权的人工智能危机支持设计原则,旨在通过AI聊天机器人作为支持桥梁,缓解危机并连接用户至更可靠的医疗资源,平衡风险管理和用户赋权。
2026-03-17 cs.CY cs.HC
SpeakEasy: A Conversational Intelligence Chatbot for Enhancing College Students' Communication Skills
本文提出了 SpeakEasy 聊天机器人,通过与大学生进行7分钟语音对话,利用基于心理学和语言学的指标分析音频转录tokens来评估对话质量并提供详尽反馈,从而提升其沟通技能。
2023-09-23 cs.AI cs.HC cs.SD
LLM Content Moderation and User Satisfaction: Evidence from Response Refusals in Chatbot Arena
Hankuk University of Foreign Studies(韩国外国语大学)
该研究基于Chatbot Arena的近5万组模型比较,用RoBERTa分类器区分伦理与技术拒绝,发现伦理拒绝会显著降低用户满意度,但敏感场景下表述贴合语境的拒绝评价更高,凸显LLM安全与用户预期的矛盾及对自适应审核的需求。
2025-05-16 cs.AI cs.CL cs.CY
"I am here for you": How relational conversational AI appeals to adolescents, especially those who are socially and emotionally vulnerable
University of Denver(丹佛大学);Ewha Womans University(梨花女子大学)
研究发现关系型对话风格能增强青少年对AI的拟人化和情感依赖,尤其吸引社会和情感脆弱的青少年。
2025-12-18 cs.AI cs.HC cs.RO
PromptHelper: A Prompt Recommender System for Encouraging Creativity in AI Chatbot Interactions
Texas A\&M University College Station Texas U.S.A.;Texas A\&M University
PromptHelper通过提供语义多样的提示建议,帮助用户在AI聊天机器人交互中提升创造力和表达性,同时减少认知负担。
2026-01-22 cs.AI cs.HC cs.IR
Exploring Sidewalk Sheds in New York City through Chatbot Surveys and Human Computer Interaction
New York University(纽约大学);University of Florida(佛罗里达大学);The Academic College of Tel Aviv-Yaffo(特拉维夫-雅法学术学院)
本文通过聊天机器人调查和人机交互研究纽约市人行道遮蔽物对行人可见性和通行的影响,利用AI模型分析遮蔽物设计特征,提供实证数据支持改进遮蔽物规范。
2026-03-31 cs.CY cs.HC
Emotions in the Loop: A Survey of Affective Computing for Emotional Support
School of Computing University of Georgia(计算学院 佐治亚大学)
本文综述了情感计算在情感识别、情感分析和人格分配中的最新进展,涵盖LLMs、多模态与个性化AI方法,按聊天机器人、多模态输入、心理健康与安全四类应用分析技术优势、数据影响、研究空白与伦理问题,并提出更安全、共情且实用的未来方向。
2025-05-02 cs.AI cs.HC
How Early Adopters Used Generative AI Worldwide: Variation by Country Income and Language
Microsoft AI Economy Institute(微软人工智能经济研究所)
基于大规模匿名化AI聊天机器人交互数据,实证分析了不同国家早期采用者在使用生成式AI上的差异,发现教育用途在低收入国家更普遍,休闲用途与收入正相关,且英语交互在非英语主导国家中过度代表,表明语言性能改进可能影响数字鸿沟或跨越式发展。
2026-05-29 cs.AI cs.CL cs.CY
Creating Group Rules with AI: Human-AI Collaboration in WhatsApp Moderation
Cornell University(康奈尔大学);Rutgers University(罗格斯大学)
本研究通过设计研究探索WhatsApp群组管理员如何与AI助手协作创建和执行群组规则,发现AI能减轻管理负担但需关注信任、隐私和社交情境。
2026-07-27 cs.HC cs.IR
Empathetic Conversational Agents: Utilizing Neural and Physiological Signals for Enhanced Empathetic Interactions
Empathic Computing Lab, Auckland Bioengineering Institute, University of Auckland(同理心计算实验室,奥克兰生物工程研究所,奥克兰大学);Department of Psychological Medicine, Faculty of Health Psychology, University of Auckland(心理医学系,健康心理学学院,奥克兰大学)
本文探讨将神经和生理信号整合到对话智能体感知模块以实现实时情绪识别,研究表明该方法能显著提升共情数字人交互中的用户情绪体验和参与度,同时指出了识别准确率等挑战。
2025-01-14 cs.HC cs.LG
e-Inu: Simulating A Quadruped Robot With Emotional Sentience
University of Potsdam(波茨坦大学);VIT-AP University(VIT-AP大学);Vellore Institute of Technology(韦洛尔理工大学);Canadian University Dubai(迪拜加拿大大学)
四足机器人目前在工业机器人中用作机械辅助,以自动执行几项常规任务。然而,目前,这种机器人在家庭环境中的使用仍然是研究的一部分。本文讨论了这样一个机器人能够检测和理解人类的情绪,产生其步态,并通过声音和屏幕上的表情响应的理解和虚拟仿真。为此,我们使用强化学习和软件工程概念的组合来模拟一个四足机器人,它可以理解情感,在各种地形中导航和检测声源,并使用视听反馈来响应情感。本文的目的是建立一个框架,模拟四足机器人,情感智能,并能主要响应视听刺激,使用电机或音频响应。从语音中进行情感检测的性能不如ERANN或Zeta策略学习,但准确率仍为63.5%。视频情感检测系统产生的结果几乎与最新技术水平相当,准确率为99.66%。由于其“策略”学习过程,PPO算法学习速度非常快,允许模拟狗在不同的节奏和变化中展示出非常无缝的步态。这使得四足机器人能够对产生的刺激做出反应,使我们能够得出结论,它的功能与预测一致,满足了这项工作的目标。
2023-01-03 cs.HC cs.LG cs.RO