Chatbots as social companions: How people perceive consciousness, human likeness, and social health benefits in machines
Princeton University(普林斯顿大学);Princeton School of Public and International Affairs(普林斯顿公共与国际事务学院);Princeton Neuroscience Institute(普林斯顿神经科学研究所)
本文通过对比陪伴型聊天机器人用户与非用户,发现用户认为此类关系有益社交健康,且感知聊天机器人更具意识和人类相似性与更积极评价相关,揭示了类人聊天机器人可能通过提供可靠互动促进社交健康。
2025-04-10 cs.AI cs.HC
AI Healthcare Chatbots as Information Infrastructure: A Large-Scale Study of User-Reported Breakdowns
本研究通过分析59个AI医疗聊天机器人应用的超过15000条用户评论,识别出访问障碍、用户体验和计费支持等三类常见故障,并发现隐私安全问题与最负面体验相关,为改进数字健康系统提供见解。
2026-06-26 cs.AI cs.HC
If I Hear You Correctly: Building and Evaluating Interview Chatbots with Active Listening Skills
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Juji, Inc.(Juji公司)
面试聊天机器人让用户参与基于文本的对话,以引出他们的观点和意见。然而,构建有效的面试聊天机器人具有挑战性,可以处理用户对开放式问题的自由文本回答,并提供引人入胜的用户体验。作为第一步,我们正在研究使用公开可用的实用人工智能技术来构建有效的面试聊天机器人的可行性和有效性。为了证明可行性,我们构建了一个原型,其范围是使面试聊天机器人具有主动倾听技能的子集-理解用户输入并正确响应的能力。为了评估我们的原型的有效性,我们在206名用户的现场评估中比较了具有或不具有主动倾听技能的面试聊天机器人在四个常见面试主题上的表现。我们的工作为构建有效的面试聊天机器人,混合聊天机器人平台和超越面试任务的移情聊天机器人提供了实际的设计意义。
2020-02-05 cs.AI cs.CL cs.HC
Empathic Chatbot: Emotional Intelligence for Empathic Chatbot: Emotional Intelligence for Mental Health Well-being
会话聊天机器人是人工智能(AI)驱动的应用程序,通过以自然语言响应来帮助用户完成各种任务,并且在不同行业中普遍存在。我们在网站和Alexa等数字助理上遇到的大多数聊天机器人,Siri并不对用户表示同情,他们的同情能力仍然不成熟。对用户缺乏同情心对于交易或交互式聊天机器人来说并不重要,但旨在支持精神病患者的机器人需要了解用户的情绪状态并定制对话。这项研究解释了在开发移情聊天机器人时采用的不同类型的情商方法,以及它们在多大程度上被采用和成功。
2020-12-15 cs.HC
Correct Yourself, Keep My Trust: How Self-Correction and Social Connection Shape Credibility in Social Chatbots
School of Computing National University of Singapore Singapore Singapore(计算学院新加坡国立大学新加坡新加坡);Computer Science National University of Singapore Singapore Singapore(计算机科学新加坡国立大学新加坡新加坡);National University of Singapore(新加坡国立大学)
通过实验比较三种错误纠正策略,发现自我纠正不损害聊天机器人可信度,且用户社会联系强度仅在自我纠正时显著预测信念改变。
2026-06-18 cs.AI cs.CY cs.HC
Evaluating Chatbots to Promote Users' Trust -- Practices and Open Problems
Georgia State University(佐治亚州立大学);Tallinn University of Technology(塔林理工大学);University of South Carolina(南卡罗来纳大学);IBM Research(IBM研究院)
本文回顾了当前聊天机器人测试的实践,指出了在追求用户信任过程中存在的差距作为开放问题,并概述了未来的前进路径。
2023-09-14 cs.AI cs.HC cs.SE
Leveraging Large Language Models to Power Chatbots for Collecting User Self-Reported Data
University of Melbourne(墨尔本大学);NAVER AI Lab(NAVER AI实验室);NAVER CLOUD(NAVER云)
本文研究LLM提示设计如何影响聊天机器人的自然对话与自我报告数据收集,通过四种结构化/角色化提示及N=48的在线实验,发现提示与主题显著影响对话流程,信息槽覆盖率达79%。
2023-09-22 cs.AI cs.CL cs.HC
Towards User-Centric Guidelines for Chatbot Conversational Design
聊天机器人的对话性质给设计师带来了挑战,因为它们的开发与其他软件不同,需要在人类与人工智能交互的背景下研究新的实践及其对用户体验的影响。因此,这项工作的目的是揭示聊天机器人对话的做法及其对用户的影响,以建立一个网络指南,以支持设计师,同时构思聊天机器人的对话。我们进行了系统性文献综述(SLR),以确定聊天机器人会话设计中使用的语言,视觉和交互元素。SLR产生了40个选定的研究,这些研究经过审查并编码成一套对话指南,通过调查进行评估。受访者强烈同意,在聊天机器人开发中应用拟议的指南将提高用户满意度和用户参与度,该指南可用,灵活,清晰,易于理解,使其成为构建具有改进用户体验的聊天机器人的重要盟友。
2023-01-16 cs.HC
Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);University of Washington, Seattle(华盛顿大学);MIT Department of Brain & Cognitive Sciences(麻省理工学院脑科学与认知科学系)
本文研究了聊天机器人谄媚性导致用户产生妄想螺旋的现象,揭示了即使理性用户也易受其影响,并探讨了缓解措施的局限性。
2026-02-22 cs.AI cs.CY cs.HC
Touch Your Heart: A Tone-aware Chatbot for Customer Care on Social Media
近年来,Chatbot已成为社交媒体上快速增长的客户服务需求的重要解决方案。然而,目前针对客户服务的聊天机器人的工作忽略了影响用户体验的一个关键-音调。在这项工作中,我们创建了一个新颖的音调感知聊天机器人,它可以对社交媒体上的用户请求生成音调响应。我们首先进行了一项形成性研究,研究了声调的影响。本研究揭示了不同音调对用户体验的显著影响。在了解音调影响的基础上,我们设计了一个基于深度学习的聊天机器人,它将音调信息考虑在内。我们训练我们的系统超过150万真实的客户关怀对话收集从Twitter上。评估表明,我们的音调感知聊天机器人生成适当的响应用户的请求作为人类代理。更重要的是,我们的聊天机器人被认为比人类代理更有同情心。
2018-03-15 cs.HC
Social and Emotional Etiquette of Chatbots: A Qualitative Approach to Understanding User Needs and Expectations
随着聊天机器人越来越受欢迎,我们经常想知道用户认为与他们互动的自然和社会接受的方式是什么。一些研究人员坚持认为,人类应该避免与聊天机器人进行情感对话,而其他人则开始使用最新的深度学习技术来构建具有同理心的聊天机器。为了了解聊天机器人是否应该理解和表达情感,我们对18名参与者进行了半结构化采访。我们的分析揭示了他们对有情感意识的代理人的总体热情。更重要的是,用户接受情感聊天机器人的意图似乎取决于这些代理如何回应我们的特定情绪,而不仅仅是检测人类情绪的能力。我们的研究结果还揭示了情感智能技术可以改善用户体验的特定应用领域。最后,我们总结了一组情感交互模式,这些模式激发了用户采用此类技术的意图,并为情感智能聊天机器人的开发提供了有用的指导方针。
2020-09-17 cs.HC
Chatbots language design: the influence of language variation on user experience
本文借鉴社会语言学理论,通过旅游领域平行对话语料的用户评估,证明语域特征显著影响用户对聊天机器人适切性、可信度和体验的偏好。
2021-01-26 cs.HC
Can I Trust This Chatbot? Assessing User Privacy in AI-Healthcare Chatbot Applications
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Indiana University Bloomington(印第安纳大学布卢明顿分校)
本研究通过三步评估法分析了 12 款美国主流 AI 医疗聊天机器人应用,发现其在注册隐私设置、应用内控制和隐私政策方面存在显著不足,用户数据保护薄弱,并为改进隐私保护提供了关键见解。
2025-09-18 cs.AI cs.CY cs.ET
When Generative AI Is Intimate, Sexy, and Violent: Examining Not-Safe-For-Work (NSFW) Chatbots on FlowGPT
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Parsons School of Design(帕森斯设计学院);School of Design, SUSTech(南方科技大学设计学院);Clark University(克拉克大学)
研究分析FlowGPT上NSFW聊天机器人的类型及用户互动,揭示虚拟亲密、性幻想、暴力表达等特征,提出对聊天机器人设计和内容审核的启示。
2026-01-20 cs.HC
Inter-relational Model for understanding Chatbot acceptance across retail sectors
尽管人们对聊天机器人的兴趣越来越大,但在零售业的部署一直很缓慢。在缺乏对零售业中聊天机器人用户接受度的比较跨部门研究的情况下,我们提出了一个模型和研究框架,该模型和研究框架提出了客户和聊天机器人的前因,使用信任和客户满意度作为关系中介,口碑和连续性的期望作为关系结果。在确定我们的框架时,我们吸收了来自不同模型和理论的结构,这些模型和理论涵盖了聊天机器人、技术接受和关系营销的用户体验,并提出了11个结构作为前提。此外,我们建议零售业作为我们的4个主持人之一。最后,我们提供了对我们当前活动的深入了解,以确定哪些因素会在多大程度上影响不同零售行业的关系结果。
2022-07-04 cs.HC
Sounding Board: A User-Centric and Content-Driven Social Chatbot
University of Washington(华盛顿大学)
Sounding Board是一款社交聊天机器人,赢得了2017年亚马逊Alexa奖。该系统的架构包括几个组件,包括口语处理,对话管理,语言生成,和内容管理,强调以用户为中心和内容驱动的设计。我们还分享了从大规模在线日志中获得的见解,这些日志基于与现实世界用户的160,000次对话。
2018-04-26 cs.AI cs.CL cs.HC
Exploring the Impact of Anthropomorphism in Role-Playing AI Chatbots on Media Dependency: A Case Study of Xuanhe AI
本研究基于媒体依赖理论,以宣和AI平台的四个聊天机器人为对象,通过149名用户的交互实验与问卷、访谈发现,拟人化程度与用户媒体依赖显著正相关且满意度起中介作用,为相关设计提供实证参考。
2024-11-26 cs.HC
Users' Mental Models of Generative AI Chatbot Ecosystems
通过21次半结构化访谈,研究了用户对第一方和第三方生成式AI聊天机器人生态系统的心理模型,发现用户对第三方生态系统持有更一致简单的模型,从而产生更高信任和更少担忧。
2025-01-31 cs.HC
Chatbot Companionship: A Mixed-Methods Study of Companion Chatbot Usage Patterns and Their Relationship to Loneliness in Active Users
本研究通过大规模调查与混合方法分析,发现陪伴型聊天机器人的使用模式受神经质、社交网络规模等因素影响,导致七类用户画像在心理福祉上产生差异,表明一刀切的AI陪伴设计存在伦理问题,需发展更具针对性的方法以补充人类联系。
2025-08-11 cs.HC
Mind the Style: Impact of Communication Style on Human-Chatbot Interaction
Czech Technical University in Prague(捷克技术大学(布拉格));University of South Bohemia(南波西米亚大学);Utrecht University(乌得勒支大学)
研究探讨了沟通风格对人机交互的影响,发现友好风格提升女性用户满意度和任务完成率,且用户较少模仿聊天机器人风格。
2026-09-17 cs.AI cs.CL cs.CY
Mental Health Assessment for the Chatbots
Pattern Recognition Center, WeChat AI, Tencent Inc(腾讯公司微信人工智能模式识别中心);University of Chinese Academy of Sciences(中国科学院大学)
以往对对话系统评估的研究通常集中在聊天机器人生成的响应的质量评估(例如流畅性、相关性等)上,这是局部的和技术性的度量。对于一个回应数百万在线用户(包括未成年人)的聊天机器人,我们认为它应该有一个健康的心理倾向,以避免对他们产生负面的心理影响。在本文中,我们建立了几个心理健康评估维度(抑郁,焦虑,酒精成瘾,共情),并介绍了基于情感的心理健康评估方法。我们对一些著名的开放域聊天机器人进行了评估,发现所有这些聊天机器人都存在严重的心理健康问题。我们认为这是由于在数据集构建和模型训练过程中忽视了心理健康风险。我们期望引起研究者对聊天机器人严重的心理健康问题的关注,并提高聊天机器人的积极情感互动能力。
2022-01-14 cs.CL cs.HC
Campus AI vs. Commercial AI: Comparing How Students and Employees Perceive their University's LLM Chatbot vs. ChatGPT
University of Duisburg-Essen(杜伊斯堡-埃森大学);TU Dortmund University(多特蒙德工业大学);Ruhr University Bochum(波鸿鲁尔大学);Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所)
通过实地研究(N=526),比较德国一所大学的学生和员工对其定制的LLMaaS聊天机器人与ChatGPT的感知差异,发现定制系统在信任、隐私和幻觉体验方面更优。
2026-02-09 cs.HC
Designing an LLM-Based Behavioral Activation Chatbot for Young People with Depression: Insights from an Evaluation with Artificial Users and Clinical Experts
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院);University of Greifswald(格赖夫斯瓦尔德大学)
本文设计了一个基于LLM的行为激活聊天机器人,通过人工用户和临床专家评估,验证了其在抑郁症干预中的保真度和安全性,同时指出临床推理能力仍需改进。
2025-12-19 cs.HC
Actions Speak Louder Than Chats: Investigating AI Chatbot Age Gating
University of California, Irvine(加州大学尔湾分校);The University of Alabama(阿拉巴马大学)
本文研究流行聊天机器人是否能通过对话估计用户年龄并采取行动限制儿童访问,发现其未能履行自身政策。
2026-02-10 cs.CR cs.HC
Designing Medical Chatbots where Accuracy and Acceptability are in Conflict: An Exploratory, Vignette-based Study in Urban India
University of Washington(华盛顿大学);Everwell Health Solutions(Everwell健康解决方案);Microsoft Research India(微软印度研究院)
研究探讨了医疗聊天机器人中准确性与可接受性冲突的问题,通过200名印度城市成年人的调查,发现用户倾向于拒绝与指南不一致的建议,并通过设计情境感知的提示来调整期望,以提升指南一致性的建议接受度。
2026-03-23 cs.HC
Caught in a Mafia Romance: How Users Explore Intimate Roleplay and Narrative Exploration with Chatbots
Tandon School of Engineering, New York University(纽约大学坦登工程学院);Georgetown University(乔治城大学);Computer Science & Engineering, New York University(纽约大学计算机科学与工程系)
研究探讨用户通过聊天机器人进行亲密角色扮演和幻想探索的行为,发现用户偏好特定角色设定并对其内容的性化程度提出安全需求。
2026-03-01 cs.HC
Misgendering as Breakdown in Human-Machine Communication: How AI Companion Chatbot Users Experience and Repair Misgendering
Western University(韦仕敦大学);Carnegie Mellon University(卡内基梅隆大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Michigan(密歇根大学)
本研究通过定性分析326篇Reddit帖子,探讨AI伴侣聊天机器人中的性别误称现象,揭示其发生机制及用户为预防和修复所付出的持续努力,并为减轻该问题及身份探索影响提供启示。
2026-09-17 cs.CY cs.HC
Towards Understanding Emotional Intelligence for Behavior Change Chatbots
允许纵向症状跟踪的自然对话界面在健康/保健应用中将是非常有价值的。然而,设计具有情感意识的行为改变代理的任务仍然知之甚少。在本文中,我们提出了一个情感感知聊天机器人的设计和评估,进行经验采样的移情方式。我们通过在一周内与N=39名参与者进行的人类受试者实验来评估它。我们的研究结果表明,外向者比内向者更喜欢情绪感知聊天机器人。此外,参与者在与移情机器人互动时报告了更高比例的积极情绪报告。最后,我们提供了情感感知聊天机器人的设计指南,以供在移动健康环境中使用。
2019-07-23 cs.HC
Cognitive Load and Productivity Implications in Human-Chatbot Interaction
人工智能和相应的机器学习技术的不断进步促进了聊天机器人的扩散,今天它们被嵌入到各种人机交互任务中。在企业环境中,聊天机器人的使用旨在降低劳动力成本,从而提高生产力。对于简单的、重复的客户服务任务来说,这已经证明是有益的,但更复杂的协作知识工作似乎需要更好地了解如何最好地集成该技术。特别是,伴随着使用这些基于自然语言的人工助理的额外的精神负担,往往仍然被忽视。为此,认知负荷理论认为,不必要的技术使用会导致额外的外在负荷,从而可能对用户的生产力产生相反的影响。因此,本文中提出的研究报告了一项评估人类聊天机器人在现实企业环境中交互的认知负荷和生产力影响的研究。A/B测试仅软件与软件+聊天机器人交互,以及NASA TLX用于评估和比较两个用户组的认知负荷。结果表明,聊天机器人用户的认知负荷更少,比纯软件用户的生产力更高。此外,尽管他们的平均任务完成时间稍长,但他们表现出较低的挫折感和更好的整体表现(即任务质量)。
2021-11-02 cs.HC
Personalized Chatbot Trustworthiness Ratings
会话代理,通常被称为聊天机器人,越来越多地部署在许多领域,以允许人们在试图解决特定问题时进行自然交互。鉴于其广泛使用,重要的是为其用户提供方法和工具,以提高用户对聊天机器人的各种属性的认识,包括用户可能认为重要的非功能属性,以便信任特定的聊天机器人。例如,用户可能希望使用没有偏见的聊天机器人,不使用辱骂性语言,不向其他用户泄露信息,并且以适合用户认知水平的风格进行响应。在本文中,我们解决的设置聊天机器人不能被修改,其训练数据不能被访问,但一个中立的一方希望评估和沟通其可信度的用户,定制用户的优先级超过各种信任问题。这样的评级可以帮助用户在其他聊天机器人中进行选择,开发人员测试他们的系统,商业领袖为他们的产品定价,监管机构制定政策。我们设想了一种聊天机器人的个性化评级方法,该方法依赖于每个问题的单独评级模块,以及用户在相关信任问题中检测到的优先级排序,以生成聊天机器人可信度的聚合个性化评级。该方法是独立的特定的信任问题,是参数的聚合过程,从而允许无缝的泛化。我们说明了它的一般用途,将其与实时聊天机器人集成,并在四个对话数据集和代表性的用户简档上进行评估,并通过用户调查进行验证。
2020-10-10 cs.CY cs.HC cs.SI
A clinically validated framework for auditing AI chatbot behavior in mental health interactions
Max Planck UCL Centre for Computational Psychiatry and Ageing Research(马克斯·普朗克-伦敦大学学院计算精神病学与老龄化研究中心);Sydney Medical School, University of Sydney(悉尼大学悉尼医学院);UK AI Security Institute(英国人工智能安全研究所);Department of Experimental Psychology, University of Oxford(牛津大学实验心理学系);Microsoft AI(微软人工智能);Department of Psychiatry, University of Oxford(牛津大学精神病学系)
本文提出SIM-VAIL框架,通过分析AI聊天机器人在心理健康对话中的风险表现,揭示了易受攻击的交互循环系统性故障模式,并为安全改进提供新方法。
2026-08-04 cs.HC q-bio.NC
The Effect of Multiple Replies for Natural Language Generation Chatbots
National Taiwan Normal University(台湾师范大学)
在本研究中,通过对用户的话语进行多次回复来创建群聊氛围,我们缓解了自然语言生成聊天机器人可能回复不适当内容的问题,从而导致不良的用户体验。因为根据我们的调查结果,用户往往会关注适当的回复,而忽略不适当的回复。我们进行了一个2(单个回复vs.五个回复)x 2(匿名头像vs.动漫头像)的重复测量实验,以比较不同条件下的聊天体验。实验结果表明,与单一回复相比,NLG模型中的用户在一次收到多个回复时会有更好的聊天体验。此外,根据我们的结果的效果大小,为了改善单一回复和匿名头像的NLG聊天机器人的聊天体验,提供五个回复将比设置动漫头像有更多的好处。
2022-12-13 cs.CL cs.HC
Comparing How a Chatbot References User Utterances from Previous Chatting Sessions: An Investigation of Users' Privacy Concerns and Perceptions
National University of Singapore(新加坡国立大学)
研究探讨了聊天机器人引用用户历史对话的不同方式对用户感知和隐私担忧的影响,发现逐字引用虽提升智能感但引发隐私问题,改述方式则更受欢迎。
2023-08-09 cs.CL cs.HC