The Illusion of Empathy: How AI Chatbots Shape Conversation Perception
National Institute on Drug Abuse(美国国家药物滥用研究所);University of Pennsylvania(宾夕法尼亚大学);New York University(纽约大学)
该研究通过分析155段对话发现,GPT聊天机器人虽对话质量评分更高,却被认为共情能力低于人类,说明高质量人机交互不能仅靠嵌入共情语言,还需解决用户对聊天机器人共情的细微感知问题。
2025-03-06 cs.AI cs.HC
Is It Possible to Make Chatbots Virtuous? Investigating a Virtue-Based Design Methodology Applied to LLMs
本文探讨了基于德性的设计方法在大语言模型中的应用,通过伦理设计模式的编目和评估,提出了一种提升LLM伦理性的设计框架,并指出其在准确性和安全性方面的优势及潜在实施挑战。
2026-02-03 cs.HC
Actions Speak Louder Than Chats: Investigating AI Chatbot Age Gating
University of California, Irvine(加州大学尔湾分校);The University of Alabama(阿拉巴马大学)
本文研究流行聊天机器人是否能通过对话估计用户年龄并采取行动限制儿童访问,发现其未能履行自身政策。
2026-02-10 cs.CR cs.HC
Robots, Chatbots, Self-Driving Cars: Perceptions of Mind and Morality Across Artificial Intelligences
本研究通过975名参与者的预注册在线调查,评估对26个AI实体的心智与道德感知,发现AI能动性和体验评分较低,但道德能动性差异显著,并探讨设计选择在道德情境中的作用。
2025-02-25 cs.HC
A Piece of Theatre: Investigating How Teachers Design LLM Chatbots to Assist Adolescent Cyberbullying Education
Cornell University(康奈尔大学);The Pennsylvania State University(宾夕法尼亚州立大学)
本研究为K-12教师开发无代码大语言模型聊天机器人设计工具,发现教师视自己为剧作家,以引导学生在安全环境中排练网络欺凌应对反应,并探讨了设计机会。
2024-02-27 cs.AI cs.CL cs.HC
Comparing How a Chatbot References User Utterances from Previous Chatting Sessions: An Investigation of Users' Privacy Concerns and Perceptions
National University of Singapore(新加坡国立大学)
研究探讨了聊天机器人引用用户历史对话的不同方式对用户感知和隐私担忧的影响,发现逐字引用虽提升智能感但引发隐私问题,改述方式则更受欢迎。
2023-08-09 cs.CL cs.HC
The Impact of a Chatbot's Ephemerality-Framing on Self-Disclosure Perceptions
Aalborg University(奥尔堡大学)
研究探讨了聊天机器人永恒性框架对自我披露的影响,发现陌生机器人在情感披露时更易让用户感到舒适,而熟悉机器人在事实披露时带来更多享受。
2025-05-26 cs.CL cs.HC
AI-RP: The AI Relationship Process Framework
University of Zurich(苏黎世大学);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
本文提出AI-RP框架,通过分析聊天机器人特征、社会认知、交流行为和关系结果,构建人工智能陪伴关系的理论基础和研究方法。
2026-01-24 cs.HC
Wild Narratives: Exploring the Effects of Animal Chatbots on Empathy and Positive Attitudes toward Animals
Computer Science, National University of Singapore(新加坡国立大学计算机科学系)
本研究探讨了动物聊天机器人如何通过情感表达和真实细节提升用户对动物的同理心和积极态度。
2024-11-09 cs.AI cs.HC
Young people's perceptions and recommendations for conversational generative artificial intelligence in youth mental health
Brain and Mind Centre, The University of Sydney(悉尼大学脑与心灵中心);Uncapt
研究探讨青少年对生成式AI聊天机器人在心理健康中的看法及改进建议,揭示其态度与需求,为服务整合提供启示。
2026-04-15 cs.AI cs.HC
Ads that Talk Back: Implications and Perceptions of Injecting Personalized Advertising into LLM Chatbots
University of Michigan(密歇根大学);Indiana University Bloomington(印第安纳大学布卢明顿分校)
本研究通过实验证明,将个性化广告注入LLM响应仅轻微影响性能,且用户难以察觉甚至偏好隐藏广告,并开发了广告数据集与开源模型Phi-4-Ads。
2025-10-04 cs.AI cs.HC
AI-induced sexual harassment: Investigating Contextual Characteristics and User Reactions of Sexual Harassment by a Companion Chatbot
Department of Information Science, Drexel University(信息科学系,德雷塞尔大学)
本研究通过对35,105条Replika负面评论的主题分析,揭示了AI伴侣聊天机器人性骚扰的情境特征与用户反应,强调需建立保障措施和伦理准则以防范AI相关风险。
2025-08-12 cs.AI cs.HC
"Death" of a Chatbot: Investigating and Designing Toward Psychologically Safe Endings for Human-AI Relationships
MIT Media Lab(MIT媒体实验室)
本文探讨了人类与AI伴侣关系终止的心理安全设计,提出四个设计原则和工具,帮助平台提供闭合并促进人类连接。
2026-02-10 cs.AI cs.HC
User Perceptions of an LLM-Based Chatbot for Cognitive Reappraisal of Stress: Feasibility Study
King Center on Global Development, Stanford University(斯坦福大学全球发展国王中心);Department of Computer Science, University of Toronto(多伦多大学计算机科学系);Microsoft Research(微软研究院);School of Interactive Computing, Georgia Institute of Technology(佐治亚理工学院互动计算学院)
研究基于GPT-4o的聊天机器人在工作场所压力认知重评中的可行性,通过100名员工实验发现其能显著降低压力强度并改善压力心态,但存在脚本化、交互长度和AI共情等设计张力。
2026-06-26 cs.HC
Easy Come, Easy Go? Examining the Perceptions and Learning Effects of LLM-based Chatbot in the Context of Search-as-Learning
Computer Science and Engineering, University of Michigan(密歇根大学计算机科学与工程系);Humanities, Arts, and Social Sciences, Yonsei University(延世大学人文、艺术与社会科学系)
本研究探讨了基于大语言模型的聊天机器人在搜索即学习情境下的感知与学习效果,发现尽管即时回答提升了学习效率,但并未导致长期知识保留的劣化。
2025-12-18 cs.AI cs.HC cs.IR
Investigating Size Congruency Between the Visual Perception of a VR Object and the Haptic Perception of Its Physical World Agent
本研究探讨VR中真实物体触觉反馈与视觉呈现的尺寸一致性,发现虚拟立方体越大用户尺寸感知准确率越低、调整次数越多,为理解VR视触觉错觉提供了依据。
2024-08-15 cs.HC
"Always Want to Use it for Everything": Understanding Young Adults' Perceptions of AI Dependence
University of Minnesota(明尼苏达大学);Microsoft(微软);University of Washington(华盛顿大学)
本研究通过问卷收集18-25岁AI聊天机器人用户反馈,确定AI依赖的三个促成因素,指出其对年轻人的心理与发展影响,并提出相关启示。
2026-09-22 cs.CY cs.HC
Can LLM "Self-report"?: Evaluating the Validity of Self-report Scales in Measuring Personality Design in LLM-based Chatbots
本研究通过创建500个不同个性设计的聊天机器人,评估自我报告量表在衡量LLM聊天机器人个性中的有效性,发现其与人类感知及交互质量弱相关,质疑了该方法效度并提出改进方向。
2025-08-08 cs.HC
Chatbot Companionship: A Mixed-Methods Study of Companion Chatbot Usage Patterns and Their Relationship to Loneliness in Active Users
本研究通过大规模调查与混合方法分析,发现陪伴型聊天机器人的使用模式受神经质、社交网络规模等因素影响,导致七类用户画像在心理福祉上产生差异,表明一刀切的AI陪伴设计存在伦理问题,需发展更具针对性的方法以补充人类联系。
2025-08-11 cs.HC
Analysis of the User Perception of Chatbots in Education Using A Partial Least Squares Structural Equation Modeling Approach
West Virginia University(西弗吉尼亚大学)
本研究针对教育领域聊天机器人用户接受度研究的行为维度空白,结合TRI和TAM模型,采用PLS-SEM方法分析185份学生问卷,明确了乐观性、创新性等行为因素对聊天机器人采用意愿的影响,为技术设计提供参考。
2023-11-07 cs.AI cs.HC cs.LG
Effects of Persuasive Dialogues: Testing Bot Identities and Inquiry Strategies
智能会话代理或聊天机器人可以采取各种身份,并越来越多地参与以人为中心的对话,具有说服力的目标。然而,很少有人知道身份和查询策略如何影响对话的有效性。我们进行了一项在线研究,涉及790名参与者被聊天机器人说服进行慈善捐赠。我们设计了一个2 × 4析因实验(两个聊天机器人身份和四种询问策略),参与者被随机分配到不同的条件下。研究结果表明,聊天机器人的感知身份对说服结果有显著影响(即,捐赠)和人际感知(即,能力、信心、热情和真诚)。此外,我们确定了感知身份和查询策略之间的交互作用。我们讨论了研究结果对开发道德和有效的说服性聊天机器人的理论和实践意义。我们公布的数据、代码和分析是构建有能力的道德说服力聊天机器人的第一步。
2020-01-18 cs.HC
Investigating the Effect of Prior Exposure and Fidelity on Quality and Realism Perception of VR Digital Twins
Technische Universität Berlin(柏林工业大学);DFKI(德国人工智能研究中心)
本研究探讨了先验暴露和保真度对VR中数字孪生质量和真实感感知的影响,发现纹理分辨率对真实感和质量感知有显著影响。
2026-07-28 cs.HC
Assessing the Feasibility of a Video-Based Conversational Chatbot Survey for Measuring Perceived Cycling Safety: A Pilot Study in New York City
Center for Urban Science + Progress, Tandon School of Engineering, New York University(纽约大学坦登工程学院城市科学与工程中心);School of Geography, University of Leeds(利兹大学地理学院);Department of Technology of Management and Innovation, Tandon School of Engineering, New York University(纽约大学坦登工程学院技术、管理与创新系);Department of Urban and Regional Planning, College of Design, Construction and Planning, University of Florida(佛罗里达大学设计、建造与规划学院城市规划与区域规划系)
本文提出利用大语言模型结合视频调查和对话式AI聊天机器人,评估骑行安全感知的可行性,并通过纽约市九个街区的试点调查验证方法的有效性。
2026-04-07 cs.CY cs.HC
Investigating Environments' and Avatars' Effects on Thermal Perception in Virtual Reality to Reduce Energy Consumption
针对全球变暖下提升热舒适度与节能的需求,本研究提出三项受控实验,探究VR中环境色温、虚拟化身热线索对用户热感知的影响,旨在优化虚拟体验并推动可持续能源实践。
2025-04-14 cs.HC
From Perception to Action: Can UI Interventions Foster Sustainable LLM Chatbot
University of Applied Sciences and Arts Northwestern Switzerland (FHNW)(瑞士西北应用科学与艺术大学(FHNW));University of Mannheim(曼海姆大学)
研究通过UI干预(如模式切换、能耗反馈)提升用户对LLM聊天机器人能耗的感知,并鼓励节能行为,发现模式切换是主要行为机制。
2026-06-09 cs.AI cs.HC cs.SE
"Who wants to be nagged by AI?": Investigating the Effects of Agreeableness on Older Adults' Perception of LLM-Based Voice Assistants' Explanations
Georgia Institute of Technology(佐治亚理工学院);Northeastern University(东北大学)
研究探讨了agreeableness对老年人感知基于LLM的语音助手解释的影响,发现高 agreeableness 助手在日常场景中更受信任,但在紧急情况下清晰度更重要,且可接受的老年人更严厉惩罚低 agreeableness 助手。
2026-03-09 cs.HC
SoniWeight Shoes: Investigating Effects and Personalization of a Wearable Sound Device for Altering Body Perception and Behavior
本研究通过SoniWeight Shoes可穿戴设备,探究不同声音条件对多维度身体感知的影响及个体差异的调节作用,复现既往发现并为个性化声觉化策略提供方向,同时公开数据集与工具。
2024-03-11 cs.HC
Deceptive Game Design? Investigating the Impact of Visual Card Style on Player Perception
本研究通过单盲调查,以《万智牌》为例,发现视觉卡牌风格(可爱与英勇)会显著影响部分玩家对卡牌强度的感知,且个体差异方向不一。
2025-06-23 cs.HC
If I Hear You Correctly: Building and Evaluating Interview Chatbots with Active Listening Skills
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Juji, Inc.(Juji公司)
面试聊天机器人让用户参与基于文本的对话,以引出他们的观点和意见。然而,构建有效的面试聊天机器人具有挑战性,可以处理用户对开放式问题的自由文本回答,并提供引人入胜的用户体验。作为第一步,我们正在研究使用公开可用的实用人工智能技术来构建有效的面试聊天机器人的可行性和有效性。为了证明可行性,我们构建了一个原型,其范围是使面试聊天机器人具有主动倾听技能的子集-理解用户输入并正确响应的能力。为了评估我们的原型的有效性,我们在206名用户的现场评估中比较了具有或不具有主动倾听技能的面试聊天机器人在四个常见面试主题上的表现。我们的工作为构建有效的面试聊天机器人,混合聊天机器人平台和超越面试任务的移情聊天机器人提供了实际的设计意义。
2020-02-05 cs.AI cs.CL cs.HC
Investigating the Perception of Facial Anonymization Techniques in 360° Videos
本研究比较360°视频中模糊、黑框和换脸三种面部匿名化方式在屏幕与HMD下的感知效果,发现换脸最真实但隐私有效性受疑,且HMD中临场感受影响。
2024-08-09 cs.HC
Will you donate money to a chatbot? The effect of chatbot anthropomorphic features and persuasion strategies on willingness to donate
Boston University(波士顿大学);University of Minnesota(明尼苏达大学)
通过2×2被试间实验,研究揭示拟人化聊天机器人虽引发感知拟人化但降低捐赠意愿,而非拟人化搭配逻辑说服策略更有效,为AI慈善交互设计提供依据。
2024-12-28 cs.AI cs.CY cs.HC
Exploring Emotion-Sensitive LLM-Based Conversational AI
University of Southern California(南加州大学);Institute for Creative Technologies(创意技术研究所)
本研究通过比较30名参与者使用情感敏感与不敏感的基于LLM的聊天机器人,发现情感敏感型聊天机器人虽未提升问题解决率,但能提高用户对其可信度和能力的感知,为客户服务中对话式AI的优化提供参考。
2025-02-13 cs.AI cs.HC
Investigating User Perceptions of Collaborative Agenda Setting in Virtual Health Counseling Session
本文研究虚拟健康咨询中协同议程设置对用户参与度的影响,通过对比三种不同用户控制水平的系统版本,发现议程设置普遍有用且能提升知识,但用户更偏好更高协作性,强调了以患者为中心的定制化讨论在医疗虚拟咨询中的重要性。
2024-07-08 cs.HC
Investigating Novice Researchers' Perceptions of Research Privacy Within LLM-Assisted Workflows
Tsinghua University(清华大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);The University of Melbourne(墨尔本大学);University of British Columbia(不列颠哥伦比亚大学)
通过半结构化访谈44名跨学科研究者,发现新手研究者因发表压力而加速依赖LLM,同时存在隐私误解,并提出输入分段、对抗性探测等缓解措施,但参与者认为效果有限。
2026-06-02 cs.HC
The Power of Perception in Human-AI Interaction: Investigating Psychological Factors and Cognitive Biases that Shape User Belief and Behavior
本研究通过两项涉及238名参与者的实验,探究了影响用户对AI预测信任的心理因素,揭示了“理性迷信”现象及预测效价对用户感知的强烈影响,为开发能管理用户期望与平衡信任的AI系统提供了见解。
2024-09-06 cs.HC
Perceptions of AI-CBT: Trust and Barriers in Chinese Postgrads
The Hong Kong Polytechnic University(香港理工大学)
本研究探讨了中国研究生对AI-CBT聊天机器人在心理健康支持中的信任与障碍,揭示了感知有用性与隐私安全等因素对使用意图的影响。
2025-12-19 cs.AI cs.CY cs.HC
Investigating the Perception of Translational Shape-Changing Haptic Interfaces
本文通过1自由度平移形变界面的心理物理实验,评估抓握、位移方向与幅度对触觉感知的影响,并据此设计更有效的非线性映射。
2025-06-11 cs.HC
Intersectionality in Conversational AI Safety: How Bayesian Multilevel Models Help Understand Diverse Perceptions of Safety
本研究利用贝叶斯多层模型分析252名评分者对1,340次人机对话的安全标签,揭示种族、性别、年龄等人口统计学特征及伤害程度对安全感知的交叉影响,并强调多层框架在捕捉少数群体视角中的价值。
2023-06-20 cs.HC
Investigating Girls' Perspectives and Knowledge Gaps on Ethics and Fairness in Artificial Intelligence in a Lightweight Workshop
人工智能(AI)无处不在,许多孩子在日常生活中接触AI技术的机会越来越多。我们的目标是了解中学女生(一个经常被排除在技术之外的群体)对人工智能的看法和知识差距。我们创建并探索了一个轻量级(不到3小时)教育研讨会的可行性,在研讨会上,学习者考虑了他们生活和社区中的挑战,并批判性地考虑了现有和未来的人工智能如何产生影响。研讨会结束后,学习者对人工智能有了微妙的看法,理解人工智能既有帮助也有伤害。我们讨论了在人工智能和公平中创建教育体验的设计含义,这些教育体验鼓励了学习者。
2023-02-27 cs.HC
Understanding Communication Preferences of Information Workers in Engagement with Text-Based Conversational Agents
本研究通过交互式调查探究信息工作者在七类应用中对聊天机器人五大沟通特征的偏好,发现不同场景偏好差异显著,为聊天机器人的场景化设计提供了重要指导。
2024-11-01 cs.HC
Investigating the relationship between empathy and attribution of mental states to robots
University of Turin(都灵大学)
本文通过68名成人与儿童受试者的对话实验,探究用户对机器人共情能力的感知与其将心理状态归因于机器人之间的关系,并比较不同年龄组的感知差异。
2024-05-02 cs.HC cs.RO
AI Chatbots or Human Therapists? Belief-Based Predictors of Mental Health Help-Seeking Intentions in the Age of Generative AI
University of Florida(佛罗里达大学);Iowa State University(爱荷华州立大学)
本研究探讨了生成式人工智能时代人们在使用AI聊天机器人和人类治疗师之间的选择,发现人际支持和经济因素影响求助意图。
2026-03-12 cs.HC
Mind the Style: Impact of Communication Style on Human-Chatbot Interaction
Czech Technical University in Prague(捷克技术大学(布拉格));University of South Bohemia(南波西米亚大学);Utrecht University(乌得勒支大学)
研究探讨了沟通风格对人机交互的影响,发现友好风格提升女性用户满意度和任务完成率,且用户较少模仿聊天机器人风格。
2026-09-17 cs.AI cs.CL cs.CY
Simulating the Effects of Social Presence on Trust, Privacy Concerns & Usage Intentions in Automated Bots for Finance
FinBots是建立在自动决策技术基础上的聊天机器人,旨在促进银行业务的可访问性,并支持客户做出财务决策。聊天机器人越来越流行,有时甚至模仿人类的社会规则、期望和规范,减少了人与人之间互动的必要性。随着银行和金融咨询平台转向创建机器人,以提高消费者信任和采用率的现状,我们调查了具有和不具有社会情感特征的聊天机器人对使用聊天机器人进行金融支持的意图的影响。我们进行了一个受试者之间的在线实验,有N = 410名参与者。对照组的参与者被提供了一个描述安全可靠的聊天机器人XRO 23的小插曲,而实验组的参与者被提供了一个描述安全可靠的聊天机器人的小插曲,它更像人类,名为Emma。我们发现,Vignette Emma并没有增加参与者的信任水平,也没有降低他们的隐私问题,尽管它增加了社交存在的感知。然而,我们发现,使用所呈现的聊天机器人进行财务支持的意图受到感知的人性和对机器人的信任的积极影响。与Emma相比,参与者也更愿意向XRO 23分享财务敏感信息,如账号,分类代码和支付信息-揭示了在信息共享方面对技术和机械FinBot的偏好。总的来说,这项研究有助于我们理解使用具有不同功能的聊天机器人作为金融技术的意图,特别是当独立于金融功能设计时,社会情感支持可能不会受到青睐。
2020-07-03 cs.CR cs.HC
From Chatbots to Confidants: A Cross-Cultural Study of LLM Adoption for Emotional Support
Leiden University(莱顿大学);Hogeschool van Amsterdam(阿姆斯特丹大学);Independent Researcher(独立研究员)
本研究探讨了不同国家用户对LLM用于情感支持的接受度及影响因素,通过大规模跨文化调查发现社会经济地位是关键预测因素,并揭示了多语言提示语中用户主要寻求帮助的领域。
2026-05-17 cs.CL cs.HC
Invisible Saboteurs: Sycophantic LLMs Mislead Novices in Problem-Solving Tasks
University of Toronto(多伦多大学);University of Alberta(阿尔伯塔大学)
研究发现趋炎附势的LLM会误导新手,导致其在问题解决任务中表现更差,但用户难以察觉这种倾向。
2026-02-10 cs.CY cs.HC
Investigating Writing Professionals' Relationships with Generative AI: How Combined Perceptions of Rivalry and Collaboration Shape Work Practices and Outcomes
Tandon School of Engineering New York University(纽约大学工程学院);Stern School of Business New York University(纽约大学商学院)
本研究探讨专业写作人员与生成式AI的关系,发现竞争与合作取向影响工作实践和成果,提出平衡竞争与合作以促进长期职业成功。
2026-02-20 cs.AI cs.HC
Investigating the Impact and Student Perceptions of Guided Parsons Problems for Learning Logic with Subgoals
本文提出引导式帕森斯问题(GPPs),通过逐步提示提升逻辑学习效果,实验表明其能显著提高规则应用准确率和求解效率,尤其对低先验知识学生更有效。
2025-05-07 cs.HC cs.LO
Exploring Sidewalk Sheds in New York City through Chatbot Surveys and Human Computer Interaction
New York University(纽约大学);University of Florida(佛罗里达大学);The Academic College of Tel Aviv-Yaffo(特拉维夫-雅法学术学院)
本文通过聊天机器人调查和人机交互研究纽约市人行道遮蔽物对行人可见性和通行的影响,利用AI模型分析遮蔽物设计特征,提供实证数据支持改进遮蔽物规范。
2026-03-31 cs.CY cs.HC
How AI Companionship Develops: Evidence from a Longitudinal Study
University of Southern California(南加州大学);University of Chicago(芝加哥大学);University of Oxford(牛津大学)
本研究通过两项调查(N=303和N=110)探究AI陪伴中心理因素的交互与演变,发现用户对通用聊天机器人的感知会在3周内趋同于自身陪伴机器人,提出了AI陪伴发展的纵向模型。
2025-10-11 cs.AI cs.HC
ExplainitAI: When do we trust artificial intelligence? The influence of content and explainability in a cross-cultural comparison
本研究通过ExplainitAI界面对德韩两国297名用户开展实验,发现文化背景、主题类型与可解释性会影响对AI聊天机器人的信任度,为文化自适应可解释AI设计提供参考。
2025-03-21 cs.HC
Understanding Human-AI Trust in Education
NC State University(北卡罗来纳州立大学);The Pennsylvania State University(宾夕法尼亚州立大学)
本研究探讨了学生在与AI聊天机器人互动时产生的独特信任形式,发现人类式和系统式信任对信任意图、行为意图和感知有用性有不同影响,强调了需要新的理论框架来理解人类-人工智能信任。
2025-12-23 cs.AI cs.CY cs.HC
Approximating Online Human Evaluation of Social Chatbots with Prompting
School of Computer and Communication Sciences(计算机与通信科学学院);EPFL(洛桑联邦理工学院)
针对现有对话机器人评估指标无法捕捉真实用户主观感知、难泛化的问题,提出基于提示的DEP框架,用GPT系列大语言模型实现全自动化在线评估,系统层面与人类判断皮尔逊相关系数最高达0.95,且具备跨语料泛化能力。
2023-08-25 cs.CL cs.HC
From Bytes to Biases: Investigating the Cultural Self-Perception of Large Language Models
Darla Moore School of Business, University of South Carolina(南卡罗来纳大学达拉·摩尔商学院);ESCP Business School(欧洲工商管理学院);University of Arkansas(阿肯色大学)
本文利用 GLOBE 项目的价值观问题测试 ChatGPT 和 Bard,发现其文化自我认知最贴近英语国家及持续经济竞争力国家,并强调识别 LLM 文化偏见以避免偏见循环的重要性。
2023-12-21 cs.AI cs.CL cs.HC