The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support
Georgia Institute of Technology（佐治亚理工学院）
基于21位全球用户的访谈，研究人们使用LLM聊天机器人进行心理健康支持的真实体验，提出“治疗对齐”概念，并为伦理有效的AI心理健康工具设计提供建议。
2025-05-09 cs.AI cs.CY cs.HC
Empathic Chatbot: Emotional Intelligence for Empathic Chatbot: Emotional Intelligence for Mental Health Well-being
会话聊天机器人是人工智能（AI）驱动的应用程序，通过以自然语言响应来帮助用户完成各种任务，并且在不同行业中普遍存在。我们在网站和Alexa等数字助理上遇到的大多数聊天机器人，Siri并不对用户表示同情，他们的同情能力仍然不成熟。对用户缺乏同情心对于交易或交互式聊天机器人来说并不重要，但旨在支持精神病患者的机器人需要了解用户的情绪状态并定制对话。这项研究解释了在开发移情聊天机器人时采用的不同类型的情商方法，以及它们在多大程度上被采用和成功。
2020-12-15 cs.HC
A Checklist for Trustworthy, Safe, and User-Friendly Mental Health Chatbots
University of Illinois Urbana-Champaign, Urbana, United States（伊利诺伊大学厄巴纳-香槟分校）；Indiana University Indianapolis, Indianapolis, United States（印第安纳大学印第安纳波利斯分校）
本文提出了一套操作清单，旨在指导开发更可信、安全且用户友好的心理健康聊天机器人，以促进伦理和有效的设计实践。
2026-01-21 cs.AI cs.CY cs.HC
Towards Designing a Question-Answering Chatbot for Online News: Understanding Questions and Perspectives
本研究通过采访六名记者和对124名读者的在线实验，揭示了记者与读者对新闻问答聊天机器人使用意愿的异同，并提出新闻编辑室中有效问答聊天机器人的设计框架。
2024-03-24 cs.HC
Large Language Model Chatbot Conversations vs Public Health Materials and Parental HPV Vaccination Intentions: A Randomized Clinical Trial
University of Pennsylvania（宾夕法尼亚大学）；Oxford Internet Institute, University of Oxford（牛津大学互联网研究所）；World Bank（世界银行）；New York University（纽约大学）
该随机临床试验比较了LLM聊天机器人对话、公共卫生材料和无干预对父母HPV疫苗接种意愿的影响，发现公共卫生材料在即时和45天后均有效，而聊天机器人效果短暂。
2026-06-09 cs.CY cs.HC
Mental Health Assessment for the Chatbots
Pattern Recognition Center, WeChat AI, Tencent Inc（腾讯公司微信人工智能模式识别中心）；University of Chinese Academy of Sciences（中国科学院大学）
以往对对话系统评估的研究通常集中在聊天机器人生成的响应的质量评估（例如流畅性、相关性等）上，这是局部的和技术性的度量。对于一个回应数百万在线用户（包括未成年人）的聊天机器人，我们认为它应该有一个健康的心理倾向，以避免对他们产生负面的心理影响。在本文中，我们建立了几个心理健康评估维度（抑郁，焦虑，酒精成瘾，共情），并介绍了基于情感的心理健康评估方法。我们对一些著名的开放域聊天机器人进行了评估，发现所有这些聊天机器人都存在严重的心理健康问题。我们认为这是由于在数据集构建和模型训练过程中忽视了心理健康风险。我们期望引起研究者对聊天机器人严重的心理健康问题的关注，并提高聊天机器人的积极情感互动能力。
2022-01-14 cs.CL cs.HC
Chatbots as conversational healthcare services
Singidunum University（辛吉杜努姆大学）；LIRIS - Claude Bernard University Lyon 1（里昂第一大学克劳德·贝尔纳分校LIRIS实验室）；University of Trento（特伦托大学）；ServiceNow（ServiceNow公司）
聊天机器人正在成为访问和提供医疗保健服务的有前途的平台。证据是越来越多的公开可用的聊天机器人，旨在在提供预防，诊断和治疗服务方面发挥积极作用。本文将详细介绍这些新兴的聊天机器人如何解决与医疗服务提供相关的设计问题，强调人机交互方面以及人工智能自动化和决策的透明度。
2020-11-08 cs.AI cs.HC
How do you Converse with an Analytical Chatbot? Revisiting Gricean Maxims for Designing Analytical Conversational Behavior
聊天机器人作为各种任务的对话界面已经引起了人们的兴趣。虽然存在聊天机器人界面的一般设计指南，但很少有工作探索支持与数据对话的分析聊天机器人。我们探讨格赖斯格言，以帮助通知有效的会话互动的基本设计。我们还从数据探索的自然语言接口中汲取灵感，以支持歧义和意图处理。我们对30名参与者进行了《绿野仙踪》研究，以评估用户对文本和语音聊天机器人设计变体的期望。结果确定了意图解释的偏好，并揭示了用户期望的变化的基础上，接口的启示。随后，我们对实现这些首选设计变体的三种分析聊天机器人系统（文本+图表，语音+图表，仅语音）进行了探索性分析。来自第二个30名参与者研究的经验证据为数据驱动对话提供了具体的启示，例如解释意图，数据导向，并通过适当的系统响应建立信任。
2022-03-16 cs.HC
LunaAI: A Polite and Fair Healthcare Guidance Chatbot
Universiti Malaya（马来亚大学）
LunaAI通过整合伦理沟通原则，提升了医疗聊天机器人在礼貌性和公平性方面的表现，为敏感医疗场景的人机交互提供了新的解决方案。
2026-01-12 cs.CY cs.HC
Enhancing Mental Health Support through Human-AI Collaboration: Toward Secure and Empathetic AI-enabled chatbots
University at Albany, SUNY（纽约州立大学奥尔巴尼分校）；SUNY Downstate Health Sciences University（纽约州立大学唐斯泰特健康科学大学）
针对心理健康支持可及性有限的问题，研究评估了GPT v4等大语言模型聊天机器人的共情回应能力，提出结合联邦学习与临床验证的框架以解决隐私、偏见等问题，开发安全可信的AI心理健康支持工具。
2024-09-17 cs.AI cs.CY cs.HC
AI Healthcare Chatbots as Information Infrastructure: A Large-Scale Study of User-Reported Breakdowns
本研究通过分析59个AI医疗聊天机器人应用的超过15000条用户评论，识别出访问障碍、用户体验和计费支持等三类常见故障，并发现隐私安全问题与最负面体验相关，为改进数字健康系统提供见解。
2026-06-26 cs.AI cs.HC
Designing Medical Chatbots where Accuracy and Acceptability are in Conflict: An Exploratory, Vignette-based Study in Urban India
University of Washington（华盛顿大学）；Everwell Health Solutions（Everwell健康解决方案）；Microsoft Research India（微软印度研究院）
研究探讨了医疗聊天机器人中准确性与可接受性冲突的问题，通过200名印度城市成年人的调查，发现用户倾向于拒绝与指南不一致的建议，并通过设计情境感知的提示来调整期望，以提升指南一致性的建议接受度。
2026-03-23 cs.HC
Evaluating the Experience of LGBTQ+ People Using Large Language Model Based Chatbots for Mental Health Support
通过访谈18名LGBTQ+和13名非LGBTQ+参与者，发现基于LLM的聊天机器人虽能提供及时支持，但在理解LGBTQ+特定挑战上存在不足，呼吁超越技术微调，采取整体策略消除社会偏见。
2024-02-14 cs.HC
"Koyi Sawaal Nahi Hai": Reimagining Maternal Health Chatbots for Collective, Culturally Grounded Care
Lahore University of Management Sciences (LUMS)（拉合尔管理科学大学）；Lahore Medical and Dental College（拉合尔医学牙科学院）
针对低资源环境下孕产妇健康聊天机器人忽视手机共享与家庭集体决策等现实语境的问题，通过在巴基斯坦部署WhatsApp聊天机器人研究使用障碍，提出关系型聊天机器人设计语法（RCDG）以实现文化根基性的集体照护。
2025-10-31 cs.HC
Disclose with Care: Designing Privacy Controls in Interview Chatbots
Northeastern University（东北大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
本研究设计了聊天机器人访谈中的隐私控制机制，通过AI辅助编辑减少敏感信息泄露，同时保持数据质量和用户参与度。
2026-02-01 cs.HC
Designing Mental-Health Chatbots for Indian Adolescents: Mixed-Methods Evidence, a Boundary-Object Lens, and a Design-Tensions Framework
University of Pennsylvania（宾夕法尼亚大学）；Mamata Academy of Medical Sciences（马玛塔医学科学院）
本文通过混合方法研究印度青少年心理健康需求，提出设计张力框架和边界对象视角，指导开发更具文化相关性和个性化的心理健康聊天机器人。
2025-11-11 cs.HC
Designing an LLM-Based Behavioral Activation Chatbot for Young People with Depression: Insights from an Evaluation with Artificial Users and Clinical Experts
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）；University of Greifswald（格赖夫斯瓦尔德大学）
本文设计了一个基于LLM的行为激活聊天机器人，通过人工用户和临床专家评估，验证了其在抑郁症干预中的保真度和安全性，同时指出临床推理能力仍需改进。
2025-12-19 cs.HC
Talking to an AI Mirror: Designing Self-Clone Chatbots for Enhanced Engagement in Digital Mental Health Support
本研究设计并评估了复制用户对话模式的自我克隆聊天机器人，通过半受控实验（N=180）证明其相比通用咨询师机器人能显著提升情感和认知参与度，为数字心理健康干预提供了新方法。
2025-09-08 cs.HC
LLMs for health: Perceived benefits, risks, intention to use AI chatbots, and willingness to self-disclose across sensitive health topics
Tilburg University（蒂尔堡大学）；University of Amsterdam（阿姆斯特丹大学）
研究探讨与AI聊天机器人讨论的话题类型及个体特征对健康相关感知、使用意愿和自我披露意愿的影响，通过在线实验发现其主要与感知利弊和个人特征有关，而非话题类型。
2026-07-13 cs.AI cs.HC
Chatbots as social companions: How people perceive consciousness, human likeness, and social health benefits in machines
Princeton University（普林斯顿大学）；Princeton School of Public and International Affairs（普林斯顿公共与国际事务学院）；Princeton Neuroscience Institute（普林斯顿神经科学研究所）
本文通过对比陪伴型聊天机器人用户与非用户，发现用户认为此类关系有益社交健康，且感知聊天机器人更具意识和人类相似性与更积极评价相关，揭示了类人聊天机器人可能通过提供可靠互动促进社交健康。
2025-04-10 cs.AI cs.HC
Designing and Evaluating Multi-Chatbot Interface for Human-AI Communication: Preliminary Findings from a Persuasion Task
Michigan State University（密歇根州立大学）
本文设计并评估了一种多聊天机器人界面，通过两个GPT慈善聊天机器人开展说服捐赠试点实验，初步揭示了群体人机交流的动态与效果。
2024-06-28 cs.AI cs.CL cs.HC
Designing Psychometric Bias Measures for ChatBots: An Application to Racial Bias Measurement
针对聊天机器人可能存在的偏见问题，提出基于心理测量学的两阶段框架STAMP-LLM用于设计偏见度量指标，并以种族偏见为例验证了该框架的应用。
2025-10-01 cs.HC
Trade-offs in Social-Norm Framings for Health Chatbots: Balancing Trust and Preference
Harvard University（哈佛大学）；Cornell University（康奈尔大学）；Microsoft Research（微软研究院）
该研究针对印度农村61位社区卫生工作者，对比四种社会规范框架的效果，发现叙事框架受偏好但易致过度依赖、权威框架不受偏好却支持校准信任，提出适配语境的动态框架设计建议。
2026-08-20 cs.HC
Exploring User Security and Privacy Attitudes and Concerns Toward the Use of General-Purpose LLM Chatbots for Mental Health
Duke University（杜克大学）
本研究通过21次半结构化访谈发现，用户在使用通用LLM聊天机器人进行心理健康管理时存在严重误解和风险意识缺失，误将其类人共情等同于类人责任并误认受HIPAA等法规保护；研究提出“无形脆弱性”概念，并给出保护用户心理健康披露的建议。
2025-07-14 cs.AI cs.CR cs.CY
Cloning the Self for Mental Well-Being: A Framework for Designing Safe and Therapeutic Self-Clone Chatbots
University of British Columbia（不列颠哥伦比亚大学）；Johns Hopkins University School of Medicine（约翰斯·霍普金斯大学医学院）；City College of New York（纽约市立学院）；Korea Institute of Science and Technology（韩国科学技术院）
本文提出了一种设计安全且治疗性自我克隆聊天机器人的框架，旨在通过跨学科方法解决身份混淆和伦理风险，促进心理健康福祉。
2026-01-21 cs.HC
AI Chatbot for Generating Episodic Future Thinking (EFT) Cue Texts for Health
Virginia Tech（弗吉尼亚理工大学）
本文介绍一种AI聊天机器人，通过自动生成个性化情景未来思维（EFT）提示文本来减少延迟折扣，促进健康行为改变，提高干预效率与可及性。
2023-11-06 cs.AI cs.HC
A clinically validated framework for auditing AI chatbot behavior in mental health interactions
Max Planck UCL Centre for Computational Psychiatry and Ageing Research（马克斯·普朗克-伦敦大学学院计算精神病学与老龄化研究中心）；Sydney Medical School, University of Sydney（悉尼大学悉尼医学院）；UK AI Security Institute（英国人工智能安全研究所）；Department of Experimental Psychology, University of Oxford（牛津大学实验心理学系）；Microsoft AI（微软人工智能）；Department of Psychiatry, University of Oxford（牛津大学精神病学系）
本文提出SIM-VAIL框架，通过分析AI聊天机器人在心理健康对话中的风险表现，揭示了易受攻击的交互循环系统性故障模式，并为安全改进提供新方法。
2026-08-04 cs.HC q-bio.NC
CGM-Led Multimodal Tracking with Chatbot Support: An Autoethnography in Sub-Health
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Tongji University（同济大学）
本研究针对亚健康人群，开展了为期六周的自我民族志研究，将连续血糖监测与多模态指标及聊天机器人结合，揭示了以数据优先的多模态追踪与对话支持如何塑造日常健康实践，为人机交互领域拓展了CGM与LLM在预防性健康中的应用。
2025-11-01 cs.HC
Understanding the Impact of Long-Term Memory on Self-Disclosure with Large Language Model-Driven Chatbots for Public Health Intervention
University of California, Irvine（加州大学欧文分校）；NAVER Cloud（NAVER 云）；NAVER AI Lab（NAVER 人工智能实验室）
本研究探讨了长期记忆（LTM）对LLM驱动的公共健康聊天机器人自我披露的影响，通过分析CareCall的通话记录与用户访谈，发现LTM能增强健康披露但也面临慢性病和隐私挑战，为LTM整合提供了设计考量。
2024-02-17 cs.AI cs.CL cs.HC
AI Chatbots for Mental Health: Values and Harms from Lived Experiences of Depression
Indiana University（印第安纳大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本研究开发了基于GPT-4o的聊天机器人Zenny，通过采访17名抑郁症患者，揭示了信息支持等关键价值，并探讨了心理健康AI聊天机器人的设计建议以平衡支持与风险。
2025-04-26 cs.AI cs.HC
Decoding User Concerns in AI Health Chatbots: An Exploration of Security and Privacy in App Reviews
本研究评估了BART和Gemini GenAI在识别AI健康聊天机器人应用评论中安全隐私相关关切的有效性，发现Gemini性能与人工标注相当，揭示了数据收集等关键用户关切，为改进应用安全隐私实践提供了指导。
2025-01-31 cs.CR cs.ET cs.HC
From Risk Avoidance to User Empowerment in AI Mental Health Crisis Support
Dartmouth College（达特茅斯学院）；Northwestern University（西北大学）；University of California San Francisco（加州大学旧金山分校）；University of Minnesota（明尼苏达大学）；Microsoft Research（微软研究院）；LivingWorks；Florida State University（佛罗里达州立大学）；Microsoft（微软）；Boston University（波士顿大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Mental Health America（美国心理健康协会）；University of Washington（华盛顿大学）
本文提出面向用户赋权的人工智能危机支持设计原则，旨在通过AI聊天机器人作为支持桥梁，缓解危机并连接用户至更可靠的医疗资源，平衡风险管理和用户赋权。
2026-03-17 cs.CY cs.HC
Designing with Data: A Case Study
随着物联网继续在商业世界中占据主导地位，设计这些新技术的团队也在不断发展，并将他们的手转向未知领域。这在二级服务设计领域尤为关键，因为企业试图利用连接产品产生的传感器数据并从中发现价值。本文讨论了商业设计团队使用智能恒温器数据来制作提供建议的聊天机器人原型的方法。该团队通过对数据的仔细排序和对客户反应的推理来协作生成聊天序列。本文对在聊天机器人原型设计和二次服务设计的研究领域内实际使用的设计方法提供了重要的见解。
2019-08-30 cs.CY cs.HC
Artificial Empathy: AI based Mental Health
Indiana University（印第安纳大学）
本文研究了用户对AI聊天机器人的使用情况及LLM聊天机器人在心理健康场景下的表现，发现其虽能提供匿名陪伴与安慰，但存在隐私安全、回应不当及缺乏危机敏感性等问题，为技术与心理健康护理行业优化AI支持提供了参考。
2025-10-31 cs.AI cs.HC q-bio.OT
Bridging the Cognitive Gap: Co-Designing and Evaluating a Voice-Enabled Community Chatbot for Older Adults
University of Washington（华盛顿大学）；Elgin Park Secondary School（埃尔金公园中学）
本文提出了一种语音启用的社区聊天机器人，通过共设计和教育工作坊，提升老年人对AI的认知和透明度，同时探索零触控导航对年龄包容性AI的重要性。
2026-03-11 cs.HC
Building Trust in Mental Health Chatbots: Safety Metrics and LLM-Based Evaluation Tools
Sue & Bill Gross School of Nursing, University of California, Irvine（加州大学欧文分校苏与比尔·格罗斯护理学院）；Department of Computer Sciences, University of California, Irvine（加州大学欧文分校计算机科学系）；School of Medicine, University of California, Irvine（加州大学欧文分校医学院）；Department of Psychological Science, University of California, Irvine（加州大学欧文分校心理科学系）；Chicago School of Professional Psychology（芝加哥专业心理学院）；HealthUnity
本研究开发并验证了一个心理健康聊天机器人评估框架，发现基于智能体的实时数据访问方法在安全性和可靠性评估中与人类评估一致性最高。
2025-03-01 cs.AI cs.CL cs.HC
ASHABot: An LLM-Powered Chatbot to Support the Informational Needs of Community Health Workers
本文介绍并评估了面向印度社区卫生工作者的LLM驱动聊天机器人ASHABot，发现其提供了私密问答渠道并被视为权威资源，同时强调LLM应作为补充性资源而非替代主管支持。
2025-05-06 cs.HC
Mapping Caregiver Needs to AI Chatbot Design: Strengths and Gaps in Mental Health Support for Alzheimer's and Dementia Caregivers
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Indiana University Indianapolis（印第安纳大学印第安纳波利斯分校）；University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校）
研究探讨了阿尔茨海默病和痴呆症照护者在心理健康支持中的需求与AI聊天机器人设计的匹配度，通过访谈揭示了照护者在信息获取、情感支持等方面的需求及技术的优劣势。
2026-03-20 cs.AI cs.CY cs.HC
Evaluating an LLM-Powered Chatbot for Cognitive Restructuring: Insights from Mental Health Professionals
本研究评估了基于LLM的认知重构聊天机器人，发现其能遵循核心协议并提供共情，但存在权力失衡、过度积极等问题，强调专家监督的重要性。
2025-01-26 cs.HC
How to Align Large Language Models for Teaching English? Designing and Developing LLM based-Chatbot for Teaching English Conversation in EFL, Findings and Limitations
本研究采用DDR方法设计、迭代并评估面向EFL会话教学的LLM聊天机器人，识别最佳模型与提示组合，并总结功能、伦理及后续设计建议。
2024-09-08 cs.HC
Exploring The Design of Prompts For Applying GPT-3 based Chatbots: A Mental Wellbeing Case Study on Mechanical Turk
像GPT-3这样的大语言模型有可能使HCI设计人员和研究人员能够为特定应用程序创建更像人类和有用的聊天机器人。但是，评估这些聊天机器人的可行性并设计针对特定任务优化GPT-3的提示是具有挑战性的。我们提出了一个解决这些问题的案例研究，将GPT-3应用于一个简短的5分钟聊天机器人，任何人都可以更好地管理他们的情绪。我们报告了一项随机析因实验，945名参与者在Mechanical Turk上测试了三个维度的提示设计以初始化聊天机器人（身份，意图和行为），并对聊天机器人的对话和用户感知进行了定量和定性分析。我们希望其他HCI设计师和研究人员可以在此案例研究的基础上，将基于GPT-3的聊天机器人应用于特定任务，并建立和扩展我们用于提示设计和评估提示设计的方法。
2022-09-22 cs.CY cs.HC
TherapyProbe: Generating Design Knowledge for Relational Safety in Mental Health Chatbots Through Adversarial Simulation
BNRIST, Dept. of CST, Tsinghua University（北京理工大学（Tsinghua大学））；Independent Researcher（独立研究者）
TherapyProbe通过对抗性模拟生成关系安全设计知识，帮助改进心理健康聊天机器人的交互模式质量。
2026-02-26 cs.AI cs.CL cs.HC
Domain Specific Design Patterns: Designing For Conversational User Interfaces
设计会话式用户界面体验是复杂的，因为会话伴随着许多期望。当这些期望得到满足时，我们会觉得界面很自然，但一旦被违反，我们就会觉得有些不对劲。过去十年见证了人类语言技术和行为，使人类能够使用口语对话与软件进行对话，以访问，创建和处理信息。人们对设计聊天机器人交互的实用性知之甚少。本文介绍了会话式用户界面（CUI）的本质，描述了它们所基于的底层技术，并定义了在不同领域中设计会话式界面的准则。本文特别着重于对CUI设计模式中使用的元素和技术进行分类。在总结了CUI的某些挑战之后，我们将讨论在特定领域的CUI设计中需要考虑的重要功能和聊天机器人状态。我们设想这项研究支持CUI研究人员设计适用于特定领域的定制聊天机器人，并改善人工智能和会话代理领域的研究挑战的现状。
2018-02-25 cs.HC
CASS: Towards Building a Social-Support Chatbot for Online Health Community
Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）；IBM Research（IBM研究院）；The Hong Kong University of Science and Technology（香港科技大学）；Pace University（佩斯大学）
尽管聊天机器人系统在当今的HCI和CSCW研究中很受欢迎，但由于以下两个原因之一而不足：1）许多系统使用基于规则的对话流，因此它们只能响应有限数量的预定义输入和预先编写的响应;或者2）它们的设计重点是单用户场景，因此不清楚这些系统如何影响其他用户或社区。在本文中，我们开发了一个可推广的聊天机器人架构（CASS），为在线健康社区的社区成员提供社会支持。CASS体系结构基于先进的神经网络算法，因此它可以处理来自用户的新输入，并生成各种响应。CASS也是可推广的，因为它可以很容易地迁移到其他在线社区。通过后续的实地实验，CASS被证明在支持寻求情感支持的个人成员方面是有用的。我们的工作还有助于填补关于聊天机器人如何影响整个社区参与的研究空白。
2021-02-04 cs.HC cs.LG
Young people's perceptions and recommendations for conversational generative artificial intelligence in youth mental health
Brain and Mind Centre, The University of Sydney（悉尼大学脑与心灵中心）；Uncapt
研究探讨青少年对生成式AI聊天机器人在心理健康中的看法及改进建议，揭示其态度与需求，为服务整合提供启示。
2026-04-15 cs.AI cs.HC
Unimib Assistant: designing a student-friendly RAG-based chatbot for all their needs
Università degli Studi di Milano Bicocca（米兰比可卡大学）
本研究通过基于OpenAI自定义GPTs的RAG系统定制ChatGPT行为，开发Unimib Assistant聊天机器人以满足米兰比可卡大学学生需求，经测试发现其有用户友好等优点，但存在信息不准确等问题，计划进一步完善。
2024-11-29 cs.AI cs.CY cs.HC
Powering an AI Chatbot with Expert Sourcing to Support Credible Health Information Access
在COVID-19大流行等公共卫生危机期间，非常需要一个可信且易于访问的信息门户网站。它有助于疾病预防，公共卫生规划和错误信息缓解。然而，创建这样一个信息门户网站是具有挑战性的，因为1）需要领域专业知识来识别和策划可信和易懂的内容，2）信息需要及时更新以应对快速变化的环境，以及3）信息应该易于公众访问;当大多数人不具备有关危机的领域专业知识时，这尤其困难。在本文中，我们提出了一个专家采购框架，并创建了Jennifer，一个人工智能聊天机器人，在COVID-19大流行期间为个人提供可靠且易于访问的信息门户。Jennifer由全球150多名科学家和卫生专业人员组成的团队创建，部署在现实世界中，回答了数千个关于COVID-19的用户问题。我们从两个关键利益相关者的角度，专家志愿者和信息寻求者评估詹妮弗。我们首先采访了为Jennifer的协作创建做出贡献的专家，以了解过程中的挑战和未来改进的机会。然后，我们进行了一项在线实验，检查Jennifer在帮助信息搜索者查找COVID-19信息并获得他们信任方面的有效性。我们分享了学到的关键经验教训，并讨论了构建专家来源和人工智能驱动的信息门户的设计影响，以及错误信息缓解及其他方面的风险和机遇。
2023-01-25 cs.HC
"Death" of a Chatbot: Investigating and Designing Toward Psychologically Safe Endings for Human-AI Relationships
MIT Media Lab（MIT媒体实验室）
本文探讨了人类与AI伴侣关系终止的心理安全设计，提出四个设计原则和工具，帮助平台提供闭合并促进人类连接。
2026-02-10 cs.AI cs.HC
Can a Funny Chatbot Make a Difference? Infusing Humor into Conversational Agent for Behavioral Intervention
本研究通过66人、三组为期10天的随机对照试验，发现聊天机器人的亲和式幽默沟通风格可随时间提升身体活动，且用户参与度起中介作用。
2024-03-01 cs.HC
The Day My Chatbot Changed: Characterizing the Mental Health Impacts of Social AI App Updates via Negative User Reviews
Rensselaer Polytechnic Institute（伦斯勒理工学院）
研究通过分析Character AI应用的21万条评论，探讨应用更新对用户心理健康的影响，发现版本更新导致用户评价波动，技术问题和潜在心理影响是主要不满源。
2026-04-08 cs.HC
TaskArtisan: Designing Composable Generative Widgets for LLM-Assisted Analysis
Department of EECS, University of California, Berkeley（加州大学伯克利分校电气工程和计算机科学系）
研究探索大语言模型辅助分析中生成式用户界面带来的新机会。通过采访、分析工具及比较研究，发现GUI利弊，总结权衡形成临时设计框架，为未来大语言模型辅助分析工作流程中的生成式用户界面设计提供参考。
2026-07-28 cs.HC
Technological folie à deux: Feedback Loops Between AI Chatbots and Mental Illness
研究探讨了人工智能聊天机器人与心理健康问题之间的相互作用风险，指出其可能引发信念不稳定和依赖，并呼吁跨领域的协调行动以应对这一新兴公共卫生问题。
2026-03-10 cs.AI cs.HC q-bio.NC
Revolutionizing Mental Health Support: An Innovative Affective Mobile Framework for Dynamic, Proactive, and Context-Adaptive Conversational Agents
针对传统聊天机器人难以适配复杂心理健康支持需求的问题，论文提出结合多模态感知、语言模型与认知行为疗法工具的情感移动框架，可实现共情式情绪干预，助力用户情绪管理。
2024-06-22 cs.HC
Crowdsourcing for Reminiscence Chatbot Design
University of Trento（特伦托大学）；Tomsk Polytechnic University（托木斯克理工大学）；Politecnico di Milano（米兰理工大学）
在这篇正在进行的论文中，我们讨论了在确定有效的和可扩展的基于人群的策略，以设计针对老年人的回忆聊天机器人的内容，对话逻辑和有意义的指标方面所面临的挑战。我们正式的问题，并概述了主要的研究问题，推动研究议程的聊天机器人设计的回忆和一般的老年人的关系代理。
2018-05-31 cs.AI cs.HC
