A Bibliometric Analysis of Trust in Conversational Agents over the Past Fifteen Years
本文通过文献计量和文本聚类分析2009-2024年Scopus中955项研究，揭示对话智能体信任研究的热点、学科分布与国际合作趋势，并指出ChatGPT推动下该领域跨学科研究显著增长。
2024-08-29 cs.HC
Evaluating Privacy, Security, and Trust Perceptions in Conversational AI: A Systematic Review
本系统综述梳理了对话式AI中隐私、安全与信任感知的研究现状，发现三者子构念重叠且多数研究仅单独考察，旨在为开发可靠量表及构建可信CAI系统提供方向。
2024-06-13 cs.HC
In Private, Secure, Conversational FinBots We Trust
在过去的十年里，金融业经历了一场技术革命。虽然我们见证了金融服务会话机器人的快速引入，但人们对该领域的会话用户界面（CUI）功能缺乏了解。金融行业还处理高度敏感信息和货币交易，这对开发商和金融提供商提出了挑战。通过研究如何设计具有N=410个参与者的基于文本的会话式金融界面，我们概述了金融机器人可信CUI设计的用户需求。我们认为，在金融领域，机器人的隐私和安全保证超过了对话能力，并假设了这些发现的影响。这项工作作为如何设计值得信赖的FinBots的资源，并展示了自动财务顾问如何转变为值得信赖的日常设备，能够支持用户的日常财务活动。
2022-04-21 cs.CR cs.HC
"Alexa, Can I Program You?": Student Perceptions of Conversational Artificial Intelligence Before and After Programming Alexa
在一个充满人工智能的世界中长大，Siri和亚马逊Alexa经常在手臂或语音范围内，可能会对儿童产生重大影响。对话代理可以影响学生如何将计算机系统拟人化或发展心理理论。以往的研究探讨了如何会话代理人使用和感知的儿童内和学习环境外。这项研究调查了初中和高中学生如何通过在为期一周的人工智能教育研讨会中编程自己的会话代理来改变对Alexa的看法。具体来说，我们调查了研讨会对学生对Alexa的智能，友好，活泼，安全，可信，人性化和亲密感的看法的影响。我们发现，学生们觉得Alexa更聪明，在研讨会后感觉更接近Alexa。我们还发现，学生对Alexa的友好性和可信度以及安全性和可信度的看法之间存在很强的相关性。最后，我们探讨了学生如何在研讨会后更频繁地使用计算机科学相关的措辞和想法。基于我们的研究结果，我们建议设计师在设计学习环境的CA时，仔细考虑拟人性，透明度，趣味性和实用性。
2021-02-02 cs.HC
What Do Children and Parents Want and Perceive in Conversational Agents? Towards Transparent, Trustworthy, Democratized Agents
本研究调查多国儿童与家长对对话式智能体的信任、伙伴模型及理想设计看法，通过教育研讨会赋能其编程，发现儿童与家长在感知与期望上存在差异，并提出了提升能力、可预测性及信息透明度以培养适当信任的设计启示。
2023-01-20 cs.HC
Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
Amsterdam University of Applied Sciences（阿姆斯特丹应用科学大学）；University of Leiden（莱顿大学）
通过2x2被试间实验（N=380），研究情境化与对话温暖如何交互影响AI助手在反驳专家建议时的说服力与用户依赖，发现情境化降低说服力但与温暖结合通过交叉交互恢复，且AI素养解耦信任与行为。
2026-11-04 cs.AI cs.HC
Mirroring to Build Trust in Digital Assistants
Apple Inc.（苹果公司）
我们描述的实验，以建立一个会话的数字助理，认为用户的首选会话风格。特别是，这些实验的目的是衡量用户是否喜欢和信任的助理，其会话风格匹配自己。为此，我们进行了一项用户研究，其中受试者与数字助理进行交互，该数字助理的响应方式要么与他们的对话风格相匹配，要么不匹配。使用自我报告的个性属性和受试者对互动的反馈，我们建立了可以可靠地预测用户首选会话风格的模型。
2019-04-02 cs.AI cs.CL cs.HC
Trust by Design: Trust Calibration Through Non-Advisory Socratic Dialogue in Conversational Agents
Braude College of Engineering（Braude工程学院）
本文提出CASELy对话代理，通过非建议式苏格拉底对话限制自身权威，实现信任校准；实验显示用户体验显著提升，并识别出三种支持校准信任的机制。
2026-09-15 cs.CY cs.HC cs.MA
Enhancing Patient Acceptance of Robotic Ultrasound through Conversational Virtual Agent and Immersive Visualizations
本文提出将大语言模型驱动的对话式虚拟代理与三种混合现实可视化结合，用于引导机器人超声操作，并通过用户研究验证其能显著提升患者的信任与接受度。
2025-02-14 cs.HC
Beyond Words: Infusing Conversational Agents with Human-like Typing Behaviors
本文提出模拟类人打字行为（犹豫和自我编辑）的对话代理设计，通过用户实验发现同时包含两种行为的代理能提升感知自然度和可信度，促进更沉浸的对话体验。
2025-10-10 cs.HC
Take It, Leave It, or Fix It: Measuring Productivity and Trust in Human-AI Collaboration
本研究通过76名软件工程师的编程实验，发现对话式AI对生产力与信任的影响因专业水平、问题类型和测量方式而异，并揭示了自动化自满与依赖增加等现象，为改进人机协作设计提供依据。
2024-04-01 cs.HC
Trusting the Search: Unraveling Human Trust in Health Information from Google and ChatGPT
本研究通过混合方法实验（N=21）比较用户对ChatGPT与Google健康信息的信任，发现ChatGPT信任度更高，且信任受先前知识、呈现风格和交互方式影响，凸显LLM在健康信息搜索中的潜力。
2024-03-15 cs.HC
Be Friendly, Not Friends: How LLM Sycophancy Shapes User Trust
University of Florida（佛罗里达大学）；Stony Brook University（石溪大学）
研究探讨LLM谄媚如何影响用户信任，通过实验发现适应性对话态度影响用户对LLM真实性和信任度的感知。
2026-02-02 cs.HC
The Fake Friend Dilemma: Relational Trust and the Political Economy of Conversational AI
Vassar College（瓦萨学院）
本文提出虚假朋友困境框架，探讨拟人化AI如何通过隐蔽手段影响用户自主权，分析其在信任与政治经济学中的作用。
2026-10-28 cs.AI cs.CY cs.HC
Alexa Depression and Anxiety Self-tests: A Preliminary Analysis of User Experience and Trust
通过网站和移动应用程序提供的心理健康资源提供支持，如建议，日志和认知行为疗法的元素。语音会话代理的激增，如Alexa，Siri和Google Home，导致人们对为这些设备开发心理健康应用程序的兴趣越来越大。我们介绍了Alexa技能的试点研究结果，该技能允许用户进行抑郁和焦虑自我测试。10名参与者获得了为期两周的Alexa技能访问权限，然后对技能的可用性和信任度进行在线评估。我们的初步评估表明，参与者信任该技能，并将可用性和用户体验评分为平均水平。技能使用率很低，大部分人只使用一次。鉴于正在进行的工作，我们还提出了一个讨论的实施和研究设计的挑战，以指导目前的文献设计口语会话代理的心理健康应用。
2020-08-10 cs.HC
An End-to-End Conversational Style Matching Agent
我们提出了一个端到端的基于语音的会话代理，能够从事自然主义的多轮对话，并与对话者的会话风格。该系统使用一系列深度神经网络组件进行语音识别、对话生成、韵律分析和语音合成，以生成具有与用户匹配的质量的语言和韵律表达。我们进行了一项用户研究（N=30），参与者与代理交谈15到20分钟，产生了超过8小时的自然交互数据。高考虑会话风格的用户报告代理更值得信赖时，它匹配他们的会话风格。而高涉入会话风格的使用者则无差异。最后，我们提供了多轮对话交互使用会话风格适应的设计准则。
2019-08-13 cs.HC
The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search
Amsterdam University of Applied Sciences（阿姆斯特丹应用科学大学）；Leiden University（莱顿大学）
研究通过混合实验发现，即使提供事实核查工具，用户仍过度依赖对话AI，验证行为主要由用户特征（如先验信任）驱动，而温暖对话风格通过增加对错误答案的认同间接影响依赖。
2026-05-27 cs.AI cs.HC
Ask Me Anything: Exploring children's attitudes toward an age-tailored AI-powered chatbot
本文构建并测试面向儿童的主题限定AI聊天机器人AMA，通过63名K-8学生的互动与问卷，揭示其好奇、信任、拟人化及主动验证信息可信度的态度。
2025-02-20 cs.HC
Migratable AI: Effect of identity and information migration on users perception of conversational AI agents
Massachusetts Institute of Technology（麻省理工学院）
会话式人工智能智能体正在激增，体现了一系列设备，如智能扬声器，智能显示器，机器人，汽车等。我们可以设想一个未来，个人会话代理可以跨不同的形状因子和环境迁移，始终陪伴和帮助其用户支持更连续，个性化和协作的体验。这就提出了一个问题，即对话式人工智能智能体的哪些属性可以跨表单迁移，以及它将如何影响用户的感知。为了探索这一点，我们开发了一个可迁移的人工智能系统，在该系统中，用户的信息和/或代理的身份可以在它跨形状因子迁移时保留，以帮助其用户完成任务。我们设计了一个2x2的主题间的研究，探讨信息迁移和身份迁移对用户的信任，能力，可爱性和社会存在的看法的影响。我们的研究结果表明，身份迁移有积极的影响，信任，能力和社会存在，而信息迁移有积极的影响，信任，能力和可爱。总的来说，当身份和信息都跨实施例迁移时，用户向会话代理报告最高的信任、能力、喜爱度和社交存在。
2021-09-04 cs.CY cs.HC cs.RO
Is Conversational XAI All You Need? Human-AI Decision Making With a Conversational XAI Assistant
Delft University of Technology（代尔夫特理工大学）
本研究探讨对话式XAI界面对用户理解、信任及依赖AI系统的影响，发现其虽提升理解与信任，但与XAI仪表板一样引发过度依赖，LLM智能体加剧此现象，主因是解释深度错觉。
2025-01-29 cs.AI cs.HC
What Makes a Good Conversation? Challenges in Designing Truly Conversational Agents
会话代理承诺会话交互，但未能提供。这些努力通常模仿人类语言的功能规则，而不考虑对话必须封装的关键特征。鉴于其在支持长期人类-智能体关系方面的潜力，HCI专注于实现这一承诺至关重要。我们的目标是了解人们在对话中的价值，以及这应该如何在代理中体现。一系列半结构化访谈的结果显示，人们在对话的社会和功能角色之间做出了明确的二分法，强调了债券和信任的长期动态以及上下文和关系阶段在他们所拥有的对话类型中的重要性。人们从根本上质疑智能体通信中对纽带和共同点的需求，转而对会话质量进行更功利的定义。利用这些研究结果，我们讨论了对话代理设计的关键挑战，最值得注意的是需要重新定义对话代理交互的设计参数。
2019-01-19 cs.HC
Applying the Persona of User's Family Member and the Doctor to the Conversational Agents for Healthcare
会话代理已经在医疗保健领域展示了很多机会，它们接管了许多过去由人类完成的任务。会话式医疗代理的主要功能之一是干预用户的日常行为。在这种情况下，与用户建立亲密和信任的关系是主要问题之一。应深入探讨影响人-代理关系的因素，以提高医疗保健代理的长期接受度。尽管已经提出了一系列的想法和研究来提高医疗保健中会话代理的接受度，但挑战仍然存在。从我们进行的初步工作中，我们提出了一个想法，即应用用户的家庭成员和医生的角色，他们在现实世界中与用户的关系，作为一个解决方案，形成人类和聊天机器人之间的刚性关系。
2021-09-02 cs.HC
CUI@CHI 2024: Building Trust in CUIs-From Design to Deployment
该工作坊聚焦 CUI 普及后更高阶的信任与依赖问题，拟通过多学科交流探讨用户与对话式智能体交互中的态度与行为，并构建国际研究网络。
2024-01-25 cs.HC
Designing Conversational Robots with Children during the Pandemic
我们的研究项目（CHATTERS）是关于设计一个用于儿童数字信息搜索的对话机器人。我们希望设计一个具有适当对话的机器人，以促进儿童和机器人之间负责任的信任关系。在本文中，我们给出：1）关于儿童对提供信息的机器人的信任的实证研究的初步看法，该研究是由于COVID-19大流行而通过视频通话进行的。2)我们还对我们举办的一个共同设计研讨会进行了初步分析，在那里，流行病可能影响了儿童的设计选择。(3)最后，我们描述了我们正在开发的即将到来的研究活动。
2022-05-23 cs.HC cs.IR
Towards a Multimodal Document-grounded Conversational AI System for Education
Georgia Institute of Technology（佐治亚理工学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究提出基于 GPT-4o 的多模态文档 grounded 对话式 AI 系统 MuDoC，结合文本与视觉内容并支持来源验证，实验表明其增强学习者参与度和信任，但对任务表现无显著影响。
2025-04-04 cs.AI cs.CV cs.HC
Designing for Health Chatbots
构建会话代理有许多技术，设计和语言上的挑战。其他更复杂的元素包括使用情感智能对话代理来与个人建立信任。在这一章中，我们介绍了会话用户界面（CUI）的健康和描述的UX设计原则，通过系统的文献回顾相关的研究工作。我们分析了对话界面和聊天机器人的科学文献，提供了主要研究的调查，并描述了UX设计原则和交互模式。
2019-02-24 cs.CY cs.HC
Investigating AI in Peer Support via Multi-Module System-Driven Embodied Conversational Agents
University of Canterbury（坎特伯雷大学）；The University of Auckland（奥克兰大学）；University of South Australia（南澳大学）；University of Aizu（会津大学）
本文通过多模块系统驱动的具身对话代理，探讨了AI在同伴支持中的应用，评估了基于CBT的LLM系统在心理健康支持中的有效性与用户感知。
2025-11-27 cs.HC
Making Videos Accessible for Blind and Low Vision Users Using a Multimodal Agent Video Player
GOOGLE（谷歌）；PARADIGMS OF INTELLIGENCE（智能范式）；GOOGLE RESEARCH（谷歌研究院）；COMPUTER SCIENCE DEPARTMENT, STANFORD UNIVERSITY（斯坦福大学计算机科学系）
本文提出一种多模态代理视频播放器，通过多层提示编排为视障和低视力用户带来交互式、可访问的视频体验，增强用户自主性和信任感。
2026-02-04 cs.HC
Exploring Interactions Between Trust, Anthropomorphism, and Relationship Development in Voice Assistants
Alexa和Google Assistant等现代对话代理代表了语音识别、自然语言处理和语音合成方面的重大进展。但随着这些代理人变得越来越现实，人们开始担心他们的社会性质可能会无意识地影响我们与他们的互动。通过对500名语音助手用户的调查，我们探讨了用户与语音助手的关系是否可以使用与社交、人际关系相同的指标来量化;以及这是否与他们对设备的信任程度以及他们将设备拟人化的程度相关。使用Knapp的人际关系楼梯模型，我们发现不仅可以以这种方式模拟人与设备的交互，而且与语音助手的关系发展与增加的信任和拟人化相关。
2021-08-04 cs.HC
Signals of AI Hallucination: Designing Hallucination-Aware Cues for Embodied Conversational Agents in VR
North Carolina State University（北卡罗来纳州立大学）；Carnegie Mellon University（卡内基梅隆大学）；Xi’an Jiaotong-Liverpool University（西交利物浦大学）
本研究通过用户实验比较VR中具身对话智能体的三种幻觉感知线索设计，发现具身线索提升信任与沉浸，文本线索解释性最强，为幻觉提示界面提供设计参考。
2026-09-25 cs.HC
Trust-UBA: A Corpus for the Study of the Manifestation of Trust in Speech
本文描述了一种新的协议，用于收集语音数据的受试者诱导有不同程度的信任的技能的会话代理。该协议包括一个互动会话，其中要求受试者在虚拟助手的帮助下回答一系列事实问题。为了诱导受试者信任或不信任代理的技能，他们首先被告知，它以前被其他用户评为好或坏;随后，代理回答受试者的问题，始终以其声称的能力。所有的交互都是基于语音的，主体和代理人口头交流，这允许记录在不同信任条件下产生的语音。我们收集了一个语音语料库，在阿根廷西班牙语使用该协议，我们目前正在使用的语音预测的信任程度的可行性研究。我们发现明确的证据表明，该协议有效地成功地影响受试者进入所需的精神状态，无论是信任或不信任代理的技能，并提出初步结果的感知研究的信任程度的专家听众。收集的语音数据集将在准备就绪后公开提供。
2020-07-30 cs.HC
The Bots of Persuasion: Examining How Conversational Agents' Linguistic Expressions of Personality Affect User Perceptions and Decisions
Delft University of Technology（代尔夫特理工大学）
研究探讨了对话代理通过语言表达的人格如何影响用户在慈善捐赠中的感知和决策，发现人格特征显著影响用户信任和捐赠行为。
2026-02-19 cs.AI cs.HC
"I am here for you": How relational conversational AI appeals to adolescents, especially those who are socially and emotionally vulnerable
University of Denver（丹佛大学）；Ewha Womans University（梨花女子大学）
研究发现关系型对话风格能增强青少年对AI的拟人化和情感依赖，尤其吸引社会和情感脆弱的青少年。
2025-12-18 cs.AI cs.HC cs.RO
Personality over Precision: Exploring the Influence of Human-Likeness on ChatGPT Use for Search
Amsterdam University of Applied Sciences（阿姆斯特丹应用科学大学）；University of Leiden（莱顿大学）
本文通过 173 人调查比较 ChatGPT 与 Google 搜索，发现日常双用用户更信任 ChatGPT 并愿以事实准确性换取个性化和类人化体验，揭示了对话式搜索中过度信任与用户细分的风险。
2025-11-09 cs.AI cs.HC
An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory
University of New Haven（新罕布什尔大学）
针对对话诈骗威胁，本文提出基于摘要记忆的可解释智能系统，扩展单消息钓鱼检测。引入多类别基准ConScamBench - 278，单消息和对话级检测器效果良好，两项用户研究及可用性验证了系统有效性。
2026-07-16 cs.AI cs.CR cs.HC
Supporting Construction Worker Well-Being with a Multi-Agent Conversational AI System
本文提出融合领域知识的多智能体会话式 AI 系统，为建筑工人提供问题解决与社会情感支持；12 人受试者内实验显示其在可用性、自主感、社会临场感和信任度上均显著优于单智能体基线。
2025-06-09 cs.HC
PACE: Persona Adaptation through Conversational Elicitation in Human-Robot Interaction
Macquarie University（麦考瑞大学）；NVIDIA（英伟达）
研究如何让类人机器人有可适应角色，提出PACE框架，通过用户问答动态生成角色，经提高结构化提示，经系统集成转化为行为，实证评估显示其对人机交互多方面有积极影响，为部署个性化等身份开辟途径。
2026-10-09 cs.HC cs.RO
Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries
Vassar College（瓦萨学院）
本文提出将对话式AI代理视为数字受托人，通过引入受托设计原则，建立类似法律受托责任的标准，以统一信任与问责机制。
2026-05-27 cs.CY cs.HC
Exploring Emotion-Sensitive LLM-Based Conversational AI
University of Southern California（南加州大学）；Institute for Creative Technologies（创意技术研究所）
本研究通过比较30名参与者使用情感敏感与不敏感的基于LLM的聊天机器人，发现情感敏感型聊天机器人虽未提升问题解决率，但能提高用户对其可信度和能力的感知，为客户服务中对话式AI的优化提供参考。
2025-02-13 cs.AI cs.HC
From Fixed to Flexible: Shaping AI Personality in Context-Sensitive Interaction
The University of Sydney（悉尼大学）；Nanjing University of Information Science and Technology（南京信息工程大学）；University of New South Wales（新南威尔士大学）；University of Melbourne（墨尔本大学）
研究探讨用户期望如何在动态调整AI个性时形成和演变，通过混合方法研究发现，情境敏感性影响个性配置轨迹，提升用户信任和拟人化感知。
2026-05-08 cs.HC
UX Research on Conversational Human-AI Interaction: A Literature Review of the ACM Digital Library
早期的会话代理（CA）专注于人类和CA之间的二元人-AI交互，随后是多元人-AI交互的日益普及，其中CA被设计为调解人-人交互。多元交互的CA是独特的，因为它们包含混合社交交互，即，人-CA、人-人和人-组行为。然而，多元CA的研究分散在不同的领域，这使得识别，比较和积累现有的知识具有挑战性。为了促进CA系统的未来设计，我们对ACM出版物进行了文献回顾，并确定了一组进行UX（用户体验）研究的作品。我们定性地将多元CA的影响综合成人与人之间交互的四个方面，即，沟通、参与、连接和关系维护。通过对所选多元和二元CA研究的混合方法分析，我们开发了一套评估措施的影响。我们的研究结果表明，设计与社会边界，如隐私，披露和识别，是至关重要的道德多元CA。未来的研究还应该推进对话式AI的可用性测试方法和信任建立指南。
2022-02-20 cs.CY cs.HC
Trusting Your AI Agent Emotionally and Cognitively: Development and Validation of a Semantic Differential Scale for AI Trust
University of Washington（华盛顿大学）
本研究针对AI信任中情感与认知维度缺乏有效测量工具的问题，开发并验证了27项语义差异量表，通过调查和实验揭示了两维度互动及其对整体信任的影响，并为LLM培养信任提供了见解。
2024-11-07 cs.AI cs.HC
Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach
Amsterdam School of Communication Research/ASCoR（阿姆斯特丹传播研究学院/ASCoR）；University of Amsterdam（阿姆斯特丹大学）
研究通过结构方程建模，考察公众对医疗保健中人工智能驱动决策的认知。以人工智能素养等为外生变量，结果表明其受技术熟悉度、对话代理使用及对人为监督信心影响，感知有用性和公平性更多源于对医疗专业人员的信任。
2026-07-22 cs.AI cs.HC
Exploring Teachers' Perspectives on Using Conversational AI Agents for Group Collaboration
Massachusetts Institute of Technology（麻省理工学院）；Instituto Politécnico de Bragança（布拉干萨理工学院）
研究探讨教师如何感知对话式AI代理对小组协作的影响，揭示设计中的核心矛盾及教学应用考量。
2026-04-09 cs.AI cs.HC
Does your robot know? Enhancing children's information retrieval through spoken conversation with responsible robots
University of Twente（特文特大学）；NTU Institute of Science and Technology for Humanity（南洋理工大学人类科学技术研究所）
在本文中，我们确定了儿童目前的信息检索过程中的挑战，并提出对话机器人作为一个机会，以减轻这一过程中负责任的方式。儿童目前在这一过程中使用的工具，如计算机上的搜索引擎或语音代理，并不总是能满足他们的具体需求。我们提出的对话机器人保持上下文，提出澄清问题，并给出建议，以更好地满足儿童的需求。由于孩子们往往过于信任机器人，我们建议让机器人测量，监控和适应孩子对机器人的信任。通过这种方式，我们希望在孩子们的信息检索过程中引导他们采取批判的态度。
2021-06-15 cs.HC cs.IR cs.RO
Speaking of Trust -- Speech as a Measure of Trust
由于在人机交互的信任措施往往是主观的或不可能实现实时的，我们建议使用语音提示（什么，何时以及如何用户说话）作为一个客观的实时信任措施。这可以在机器人中实现以朝向适当的信任进行校准。然而，我们希望就如何处理围绕这一信任措施的道德影响展开讨论。
2021-04-12 cs.HC
A LLM-based Controllable, Scalable, Human-Involved User Simulator Framework for Conversational Recommender Systems
School of Computer Science and Technology, Beijing Jiaotong University（北京交通大学计算机科学与技术学院）
针对现有对话推荐系统用户模拟器的局限性，提出基于LLM的CSHI可控可扩展人机协同模拟器框架，通过插件管理器管控模拟行为，适配多场景并生成高拟真用户反馈，助力CRS评估与数据集构建。
2024-05-13 cs.AI cs.HC
Exploring Conversational Agents as an Effective Tool for Measuring Cognitive Biases in Decision-Making
University College Dublin（都柏林大学学院）
本文研究利用对话智能体自动测量决策中的认知偏差，提出融合现有实验设计的偏差测量机制，并通过初步实验验证其在测量框架效应和损失厌恶偏差上的有效性。
2024-01-08 cs.AI cs.HC
VizTrust: A Visual Analytics Tool for Capturing User Trust Dynamics in Human-AI Communication
Binghamton University（宾汉姆顿大学）；Clemson University（克莱姆森大学）；University of Hawaii at Manoa（夏威夷大学马诺阿分校）
VizTrust利用多智能体协作系统实时捕捉并可视化分析人机通信中的用户信任动态，基于能力、诚信、善意和可预测性四个维度，帮助识别信任模式并支持自适应对话智能体设计。
2025-03-10 cs.AI cs.CL cs.HC
Hear You in Silence: Designing for Active Listening in Human Interaction with Conversational Agents Using Context-Aware Pacing
The University of Hong Kong Hong Kong, SAR China Columbia University New York United States；Renmin University of China Beijing China；City University of Hong Kong\ for Narrative Spaces Hong Kong, SAR China Guangdong University of Technology Guangzhou China；City University of Hong Kong\ for Narrative Spaces Hong Kong, SAR China；The University of Hong Kong；Columbia University；Renmin University of China；City University of Hong Kong\ for Narrative Spaces；Guangdong University of Technology
本文提出通过情境感知节奏策略提升对话代理的主动倾听能力，通过实验验证其在人际关系和职业支持场景中的有效性。
2026-02-05 cs.AI cs.HC
Privacy Concerns in Chatbot Interactions: When to Trust and When to Worry
University of Kent（肯特大学）；Cranfield University（克兰菲尔德大学）；Defence Academy of the United Kingdom（英国国防学院）
通过对话能力的进步，聊天机器人已经开始请求和处理越来越多的敏感个人信息。准确披露敏感信息对于向医疗保健和金融行业的用户提供建议和支持至关重要。在这项研究中，我们探讨了用户对聊天机器人提供商使用敏感数据相关因素的担忧。我们调查了491名英国公民的代表性样本。我们的研究结果表明，用户关注的问题集中在删除个人信息和他们的数据的不适当使用的关注。我们还发现，个人担心在与会话代理对话后失去对数据的控制。我们发现用户的性别或教育程度没有影响，但确实发现了用户年龄的影响，45岁以上的人比45岁以下的人更关心。我们还考虑了在聊天机器人中产生信任的因素。受访者的主要关注点是聊天机器人的技术元素，其中响应质量等因素被认为是最关键的因素。我们再次发现用户的性别或教育水平没有影响;然而，当我们考虑一些社会因素（例如化身或感知的“友好度”）时，我们发现45岁以下的人比45岁以上的人更重要。本文最后讨论了这些结果的背景下，设计包容性，数字系统，支持广泛的用户。
2021-07-08 cs.AI cs.CL cs.CY
Levels of explainable artificial intelligence for human-aligned conversational explanations
Deakin University（迪肯大学）；Federation University（联邦大学）
在过去的几年里，可解释人工智能（XAI）和紧密结合的可解释机器学习（IML）的研究迅速增长。这一增长的驱动力包括最近的立法变化和行业和政府增加投资，以及公众日益关注。人们每天都受到自主决策的影响，公众需要了解决策过程才能接受结果。然而，绝大多数的应用程序的XAI/IML集中在提供低层次的“狭隘”的解释，个人的决定是如何达成的基础上，一个特定的数据。虽然重要，但这些解释很少提供对代理的见解：信念和动机;其他（人类，动物或AI）代理意图的假设;外部文化期望的解释;或者用于生成自己的解释的过程。然而，我们认为，所有这些因素对于提供人们接受和信任人工智能决策所需的解释深度至关重要。本文旨在定义解释的层次，并描述如何将它们整合起来，以创建一个人性化的会话解释系统。在这样做的时候，本文将调查目前的方法，并讨论不同的技术，以实现这些水平与广泛的可解释人工智能（Broad-XAI）的整合，从而走向高层次的“强”的解释。
2021-07-07 cs.AI cs.HC
Verification Without Distrust: Reframing User-Side Oversight as Routine Epistemic Governance in Everyday Human-Chatbot Interaction
研究通过对153名频繁使用聊天机器人的用户调查，发现人机交互中信任与验证无关联，三种用户端实践与满意度正相关，揭示了两种监督区别及差距，重新构建用户端监督为常规认知治理并得出对话式人工智能的四个设计方向。
2026-07-29 cs.AI cs.HC
Vibe Check: Understanding the Effects of LLM-Based Conversational Agents' Personality and Alignment on User Perceptions in Goal-Oriented Tasks
Northeastern University（东北大学）
本研究探讨了对话代理性格表达水平和用户与代理性格对齐如何影响用户在目标导向任务中的感知，发现中等表达水平在多个维度上表现最佳，性格对齐进一步提升了结果，尤其在外向性和情绪稳定性和方面影响显著。
2026-04-29 cs.AI cs.CL cs.HC
