Designing Conversational Robots with Children during the Pandemic
我们的研究项目（CHATTERS）是关于设计一个用于儿童数字信息搜索的对话机器人。我们希望设计一个具有适当对话的机器人，以促进儿童和机器人之间负责任的信任关系。在本文中，我们给出：1）关于儿童对提供信息的机器人的信任的实证研究的初步看法，该研究是由于COVID-19大流行而通过视频通话进行的。2)我们还对我们举办的一个共同设计研讨会进行了初步分析，在那里，流行病可能影响了儿童的设计选择。(3)最后，我们描述了我们正在开发的即将到来的研究活动。
2022-05-23 cs.HC cs.IR
How Children Design and Reason about Trustworthy AI Chatbots
North Carolina State University（北卡罗来纳州立大学）；University of Pennsylvania（宾夕法尼亚大学）；Kennesaw State University（肯尼索州立大学）
本研究通过115名8-18岁儿童构建119个聊天机器人的混合方法实验，发现年龄影响信任校准策略，并提炼出儿童眼中可信赖聊天机器人的七个设计维度，为AI素养工具提供启示。
2026-10-19 cs.AI cs.HC
Interactive Storytelling for Children: A Case-study of Design and Development Considerations for Ethical Conversational AI
University of York（约克大学）；University of Cambridge（剑桥大学）
对话式人工智能（CAI）系统和智能个人助理（IPA），如Alexa、Cortana、Google Home和Siri，在我们的生活中变得无处不在，包括儿童的生活，其影响正在受到越来越多的关注，特别是这些系统对儿童认知、社会和语言发展的影响。最近的进展解决CAI的隐私，安全，保密和访问方面的影响。然而，有必要将道德和技术方面联系起来并嵌入设计中。使用的研究和开发项目的案例研究集中在使用CAI讲故事的儿童，本文反映了在一个特定的情况下，技术发展的社会背景下，从文献中的论证证实和支持。它描述了决策过程背后的建议，在这种情况下，他们在创意产业的采用。进一步的研究，通过CAI讲故事的道德与开发人员和利益相关者的参与是突出的紧迫事项。
2021-07-20 cs.HC cs.LG
Ask Me Anything: Exploring children's attitudes toward an age-tailored AI-powered chatbot
本文构建并测试面向儿童的主题限定AI聊天机器人AMA，通过63名K-8学生的互动与问卷，揭示其好奇、信任、拟人化及主动验证信息可信度的态度。
2025-02-20 cs.HC
Challenges and Opportunities for Participatory Design of Conversational Agents for Young People's Wellbeing
本文概述了四个国家中针对儿童和青少年的对话式智能体研究的挑战与机遇，探索了AI技术在不同社会文化背景下支持儿童福祉的方式，为相关研究提供方向。
2025-08-20 cs.CY cs.HC
"Alexa, Can I Program You?": Student Perceptions of Conversational Artificial Intelligence Before and After Programming Alexa
在一个充满人工智能的世界中长大，Siri和亚马逊Alexa经常在手臂或语音范围内，可能会对儿童产生重大影响。对话代理可以影响学生如何将计算机系统拟人化或发展心理理论。以往的研究探讨了如何会话代理人使用和感知的儿童内和学习环境外。这项研究调查了初中和高中学生如何通过在为期一周的人工智能教育研讨会中编程自己的会话代理来改变对Alexa的看法。具体来说，我们调查了研讨会对学生对Alexa的智能，友好，活泼，安全，可信，人性化和亲密感的看法的影响。我们发现，学生们觉得Alexa更聪明，在研讨会后感觉更接近Alexa。我们还发现，学生对Alexa的友好性和可信度以及安全性和可信度的看法之间存在很强的相关性。最后，我们探讨了学生如何在研讨会后更频繁地使用计算机科学相关的措辞和想法。基于我们的研究结果，我们建议设计师在设计学习环境的CA时，仔细考虑拟人性，透明度，趣味性和实用性。
2021-02-02 cs.HC
Does your robot know? Enhancing children's information retrieval through spoken conversation with responsible robots
University of Twente（特文特大学）；NTU Institute of Science and Technology for Humanity（南洋理工大学人类科学技术研究所）
在本文中，我们确定了儿童目前的信息检索过程中的挑战，并提出对话机器人作为一个机会，以减轻这一过程中负责任的方式。儿童目前在这一过程中使用的工具，如计算机上的搜索引擎或语音代理，并不总是能满足他们的具体需求。我们提出的对话机器人保持上下文，提出澄清问题，并给出建议，以更好地满足儿童的需求。由于孩子们往往过于信任机器人，我们建议让机器人测量，监控和适应孩子对机器人的信任。通过这种方式，我们希望在孩子们的信息检索过程中引导他们采取批判的态度。
2021-06-15 cs.HC cs.IR cs.RO
SpheriCity: Designing Trustworthy Conversational AI for Sustainability Decision Support
Department of Computer Science, Colby College（科里尔学院计算机科学系）；Circularity Informatics Lab, University of Georgia（佐治亚大学循环信息实验室）
提出SpheriCity，一种基于来源的对话式AI原型，通过结构化合成和交互支架，支持从城市循环性评估报告中可信地获取知识，解决大语言模型在可持续性高风险领域中的透明度与信任问题。
2026-06-15 cs.AI cs.HC
Designing Smarter Conversational Agents for Kids: Lessons from Cognitive Work and Means-Ends Analyses
University of Regina（里贾纳大学）
本文通过认知工作分析考察巴西儿童使用会话代理的方式，并在1,200个模拟对话中验证结构化提示“配方”可提升交互质量。
2025-08-28 cs.CL cs.HC
An End-to-End Conversational Style Matching Agent
我们提出了一个端到端的基于语音的会话代理，能够从事自然主义的多轮对话，并与对话者的会话风格。该系统使用一系列深度神经网络组件进行语音识别、对话生成、韵律分析和语音合成，以生成具有与用户匹配的质量的语言和韵律表达。我们进行了一项用户研究（N=30），参与者与代理交谈15到20分钟，产生了超过8小时的自然交互数据。高考虑会话风格的用户报告代理更值得信赖时，它匹配他们的会话风格。而高涉入会话风格的使用者则无差异。最后，我们提供了多轮对话交互使用会话风格适应的设计准则。
2019-08-13 cs.HC
"Alexa doesn't have that many feelings": Children's understanding of AI through interactions with smart speakers in their homes
Centre for Research in Digital Education（数字教育研究中心）；The University of Edinburgh（爱丁堡大学）
本研究通过混合方法调查苏格兰6-11岁儿童与语音对话助手的互动，发现他们高估AI智能、对隐私缺乏准确理解，为AI素养教育提供依据。
2023-05-09 cs.AI cs.HC
In Private, Secure, Conversational FinBots We Trust
在过去的十年里，金融业经历了一场技术革命。虽然我们见证了金融服务会话机器人的快速引入，但人们对该领域的会话用户界面（CUI）功能缺乏了解。金融行业还处理高度敏感信息和货币交易，这对开发商和金融提供商提出了挑战。通过研究如何设计具有N=410个参与者的基于文本的会话式金融界面，我们概述了金融机器人可信CUI设计的用户需求。我们认为，在金融领域，机器人的隐私和安全保证超过了对话能力，并假设了这些发现的影响。这项工作作为如何设计值得信赖的FinBots的资源，并展示了自动财务顾问如何转变为值得信赖的日常设备，能够支持用户的日常财务活动。
2022-04-21 cs.CR cs.HC
TaleMate: Exploring the use of Voice Agents for Parent-Child Joint Reading Experiences
TaleMate利用对话代理构建亲子共读平台，支持角色选择，以增强互动并弥合传统与数字阅读的差距。
2024-05-22 cs.HC
Persona and Persuasive Framing in AI Voice Agents: A $2\times2$ Field Experiment with Children
Technical University of Munich（慕尼黑工业大学）；Massachusetts Institute of Technology（麻省理工学院）
通过在德国圣诞老人电话热线中嵌入2×2随机实地实验，发现说服性框架显著提升儿童亲社会愿望（11.6%至45.7%），而角色权威影响甚微，但高权威角色减少早期挂断，表明说话方式比身份更影响顺从。
2026-10-01 cs.AI cs.HC
Beyond Words: Infusing Conversational Agents with Human-like Typing Behaviors
本文提出模拟类人打字行为（犹豫和自我编辑）的对话代理设计，通过用户实验发现同时包含两种行为的代理能提升感知自然度和可信度，促进更沉浸的对话体验。
2025-10-10 cs.HC
ELLA: Generative AI-Powered Social Robots for Early Language Development at Home
Johns Hopkins University（约翰霍普金斯大学）
本文提出ELLA，一种基于生成式AI的社交机器人，通过互动讲故事、家长选择的语言目标和支架对话支持早期语言发展，通过家庭工作坊和实地部署验证其设计有效性。
2026-03-12 cs.AI cs.HC
Trustworthy AI Psychotherapy: Multi-Agent LLM Workflow for Counseling and Explainable Mental Disorder Diagnosis
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Wageningen University and Research（瓦赫宁根大学和研究中心）；Guangzhou University（广州大学）
针对LLM在精神健康诊断领域表现不佳、依赖稀缺敏感数据集等问题，提出DSM5AgentFlow多智能体工作流，通过模拟治疗师-客户对话生成诊断问卷，提升诊断透明性与可信度，并开源数据集与实现。
2025-08-23 cs.AI cs.HC cs.IR
From Search Agents to Dissemination Interfaces: Understanding Human Trust in Health Information from Conversational Search
University of Amsterdam（阿姆斯特丹大学）；National Institute of Informatics (NII)（日本国立情报学研究所）；Aalto University（阿尔托大学）；Tilburg University（蒂尔堡大学）；Southeast University（东南大学）；Centrum Wiskunde & Informatica (CWI)（荷兰数学与计算机科学研究中心）；Utrecht University（乌得勒支大学）
本研究通过两项混合方法研究，发现人们对ChatGPT提供的健康信息信任显著高于谷歌，且传播界面类型会显著影响这种信任，为开发可信的LLM驱动健康工具提供了关键见解。
2026-08-24 cs.HC
The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search
Amsterdam University of Applied Sciences（阿姆斯特丹应用科学大学）；Leiden University（莱顿大学）
研究通过混合实验发现，即使提供事实核查工具，用户仍过度依赖对话AI，验证行为主要由用户特征（如先验信任）驱动，而温暖对话风格通过增加对错误答案的认同间接影响依赖。
2026-05-27 cs.AI cs.HC
The Bots of Persuasion: Examining How Conversational Agents' Linguistic Expressions of Personality Affect User Perceptions and Decisions
Delft University of Technology（代尔夫特理工大学）
研究探讨了对话代理通过语言表达的人格如何影响用户在慈善捐赠中的感知和决策，发现人格特征显著影响用户信任和捐赠行为。
2026-02-19 cs.AI cs.HC
Tinker Tales: A Tangible Dialogue System for Child-AI Co-Creative Storytelling
Department of Computer Science, Emory University（埃默里大学计算机科学系）；Department of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学系）；School of Nursing, Emory University（埃默里大学护理学院）
提出Tinker Tales有形对话系统，通过结合物理故事板、NFC玩具和移动应用，支持儿童与AI在四个叙事阶段进行协作故事创作，并发现提示框架影响儿童叙事贡献的形式和一致性。
2026-09-14 cs.AI cs.HC
Trust by Design: Trust Calibration Through Non-Advisory Socratic Dialogue in Conversational Agents
Braude College of Engineering（Braude工程学院）
本文提出CASELy对话代理，通过非建议式苏格拉底对话限制自身权威，实现信任校准；实验显示用户体验显著提升，并识别出三种支持校准信任的机制。
2026-09-15 cs.CY cs.HC cs.MA
Cooperation Through Indirect Reciprocity in Child-Robot Interactions
Lasige, Faculdade de Ciências, Universidade de Lisboa（里斯本大学科学学院）；Institute of Informatics, University of Amsterdam（阿姆斯特丹大学信息学院）；Interactive Technologies Institute, Instituto Superior Técnico, Universidade de Lisboa（里斯本技术学院互动技术研究所）
该研究探讨了在儿童-机器人互动中应用间接互惠机制促进合作的可能性，发现多臂老虎机算法能基于儿童策略学习合作行为。
2025-11-07 cs.AI cs.HC
The Trusted Caregiver: The Influence of Eye and Mouth Design Incorporating the Baby Schema Effect in Virtual Humanoid Agents on Older Adults Users' Perception of Trustworthiness
本研究针对智能家居护理中虚拟人形智能体的面部设计问题，融入婴儿图式效应探讨眼睛和嘴巴设计对老年用户可信度感知的影响，提出了提升可信度的面部特征设计范式，为相关研究提供重要参考。
2024-11-27 cs.HC
