What Do We Mean When We Talk about Trust in Social Media? A Systematic Review
人们信任社交媒体吗？如果是这样，为什么，在什么情况下，这种信任如何影响他们的生活？研究人员、公司和记者都越来越多地研究这些问题，这些问题对于理解社交媒体互动及其对社会的影响至关重要。然而，对社交媒体的信任是一个复杂的概念，关于信任社交媒体内容、用户和平台的前提和影响，存在相互矛盾的证据。更大的问题是，我们对社交媒体背景下的信任意味着什么缺乏基本的共识。为了应对这些挑战，我们进行了系统的审查，以确定这一领域的主题和挑战。通过我们对70篇论文的分析，我们对社交媒体中的信任如何定义、概念化和测量做出了综合贡献，总结了社交媒体中的信任前提，了解了社交媒体中的信任如何影响行为和态度，以及未来工作的方向。
2023-02-07 cs.CY cs.HC cs.SI
AI in Education Beyond Learning Outcomes: Cognition, Agency, Emotion, and Ethics
ELLIS Alicante（埃利斯阿利坎特）；Universitat d’Alacant（阿利坎特大学）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
本文探讨了AI在教育中的社会影响，强调通过整合认知、自主性、情感和伦理维度，提出负责任的AI设计以支持学习并维护教育的社会目标。
2026-02-04 cs.HC
Discerning Authorship in Online Health Communities: Experience, Trust, and Transparency Implications for Moderating AI
Erasmus University Rotterdam（伊拉斯姆斯大学鹿特丹）；Jönköping University（延雪平大学）；University College London（伦敦大学学院）
研究探讨在线健康社区中用户辨别AI生成建议作者身份的能力，发现透明度与信任的重要性，尽管用户难以区分AI与人类生成内容，但健康状况有显著影响。
2026-04-21 cs.CY cs.HC
Judgement and the Feeling of Agency When Instructing a Computer to Act
本研究通过两项实验考察人们向计算机发出指令时的能动感，发现参与者对初始行动有前反思性能动感，但对最终结果缺乏此感受；然而当结果有意义且指令具体时，他们会做出反思性判断认为自己导致了结果，这对系统设计具有启示意义。
2026-10-06 cs.HC
Look Who's Talking Now: Implications of AV's Explanations on Driver's Trust, AV Preference, Anxiety and Mental Workload
University of Michigan（密歇根大学）
自动化所带来的好处经常被用来促进自动化的采用。然而，目前尚不清楚解释是否促进了对自动驾驶汽车（AV）的接受。在这项研究中，我们在驾驶模拟器中进行了一项有32名参与者的受试者内实验，使用四种不同的条件。这四个条件包括：（1）没有解释，（2）在AV动作之前或（3）之后给出的解释，以及（4）驾驶员在听到解释之后批准或不批准AV的动作的选项。我们研究了四个AV结果：信任，偏好AV，焦虑和精神负荷。结果表明，解释之前提供的AV行为与更高的信任和偏好的AV，但没有显着差异的焦虑和工作量。这些结果对自动驾驶汽车的采用具有重要意义。
2019-05-21 cs.CY cs.HC cs.RO
Balancing Teacher and Student Agency: Co-Orchestration Tool Design Supporting Real-Time Dynamic Pairing
Human-Computer Interaction Institute, Carnegie Mellon University（卡内基梅隆大学人机交互研究所）；University of Washington（华盛顿大学）；Institute of Educational Research, Ruhr-Universität Bochum（鲁尔大学波鸿分校教育研究所）
本文研究了如何在协同 orchestration 过程中平衡教师和学生的控制权，通过参与式速配和混合方法分析，提出了支持教师动态协调学生在个体练习与协作问题解决之间转换的教室 orchestration 工具设计，强调多利益相关者自主性和控制的平衡。
2026-04-06 cs.HC
Does My Chatbot Have an Agenda? Understanding Human and AI Agency in Human-Human-like Chatbot Interaction
University of Bergen（卑尔根大学）
研究探讨了人类与AI在持续对话中的代理感知，通过纵向研究和访谈揭示代理的共构过程，并提出3x4框架和透明设计理念。
2026-03-27 cs.AI cs.HC
Trustworthy AI and Robotics and the Implications for the AEC Industry: A Systematic Literature Review and Future Potentials
San Diego State University（圣地亚哥州立大学）
人机交互将信任视为用户接受的必然要求。随着人工智能（AI）和机器人技术的应用出现，以及它们在各个研究和实践领域不断增长的社会经济影响力，迫切需要研究此类系统中的信任。由于基于人工智能的系统的工作机制不透明，以及智能机器人作为工人伴侣的前景，关于信任的特定于上下文的跨学科研究是增加其采用的关键。通过对（1）人工智能和机器人（AIR）中的信任以及（2）建筑，工程和建筑（AEC）行业中的AIR应用进行全面系统的文献综述，本研究确定了文献中常见的信任维度，并使用它们来组织论文。此外，确定和讨论了现有的和潜在的AEC应用程序的识别尺寸的连接。最后，概述了AEC研究和实践中值得信赖的人工智能和机器人技术的主要未来方向。
2021-09-27 cs.AI cs.HC cs.LG
Trust in AI and Implications for the AEC Research: A Literature Analysis
San Diego State University（圣地亚哥州立大学）
在技术上可接受和心理上可接受的系统中产生信任需要特定领域的研究，以捕捉应用领域的独特特征。建筑、工程和建筑（AEC）研究界最近一直在利用人工智能（AI）提供的先进解决方案来改善项目工作流程。尽管AEC行业的工作、工人和工作场所具有独特的特点，但人工智能中的信任概念在文献中很少受到关注。本文全面分析了AI信任和AEC中AI信任两个主要领域的学术文献，探讨了AEC项目独特方面与导致AI信任的社会技术概念之间的相互作用。本研究共分析了490篇同行评议的学术文章。从文献中确定了人类对AI信任的主要组成部分，并在AEC项目类型，流程和技术中进行了表征。
2022-03-08 cs.AI cs.HC cs.RO
Studying Up Public Sector AI: How Networks of Power Relations Shape Agency Decisions Around AI Design and Use
Carnegie Mellon University（卡内基梅隆大学）
本研究借鉴人类学“向上研究”方法，通过对16名公共部门决策者的访谈与设计活动，分析权力关系网络对AI设计及采用决策的影响，揭示了多方参与的障碍，并提出了落地参与式AI的研究与政策方向。
2024-05-21 cs.AI cs.HC
Committing to Interdependence: Implications from Game Theory for Human-Robot Trust
Georgia Institute of Technology（佐治亚理工学院）
人机交互和博弈论已经发展了不同的信任理论超过三十年，彼此相对孤立。人机交互的重点是信任模型的基本维度、层次、关联和前提，而博弈论则集中在单一信任决策背后的心理和策略。这两个领域都在努力理解过度信任和信任校准，以及如何衡量信任期望、风险和脆弱性。本文介绍了缩小这些领域之间差距的初步步骤。利用相互依赖理论和社会心理学的见解和实验结果，这项工作首先分析了一个大型博弈论竞争数据集，以证明各种各样的人与人之间的信任互动的最强预测因素是我们开发的承诺和信任的相互依赖衍生变量。然后，它提出了第二个研究与人类受试者的结果更现实的信任情况下，涉及人与人和人机信任。在这两个竞争数据和我们的实验数据，我们表明，相互依存的指标更好地捕捉社会的“过度信任”比理性或规范的心理推理，提出了博弈论。这项工作进一步探讨了相互依赖理论-其重点是承诺，胁迫和合作-解决了人类-机器人信任中提出的许多潜在结构和前提，为机器人在信任交互中取代人类时出现的关键相似性和差异提供了新的见解。
2021-11-12 cs.GT cs.HC cs.RO
Where Does the Human End? Creative Agency with Generative AI across Five Years of Chinese Digital Painting
Cornell University（康奈尔大学）；University of Washington（华盛顿大学）；University of California San Diego（加州大学圣地亚哥分校）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本研究通过2021至2025年对17位中国数字画家的年度访谈，揭示生成式AI进入创作后人类能动性如何随时间被划分与重新协商，提出纵向能动性划分概念及设计启示。
2026-09-10 cs.HC
Verification Without Distrust: Reframing User-Side Oversight as Routine Epistemic Governance in Everyday Human-Chatbot Interaction
研究通过对153名频繁使用聊天机器人的用户调查，发现人机交互中信任与验证无关联，三种用户端实践与满意度正相关，揭示了两种监督区别及差距，重新构建用户端监督为常规认知治理并得出对话式人工智能的四个设计方向。
2026-07-29 cs.AI cs.HC
Designing for Constructive Civic Communication: A Framework for Human-AI Collaboration in Community Engagement Processes
针对社区参与流程面临的资源受限、包容性不足及AI应用的民主风险，本文提出人机协作设计框架，在保障决策控制权与能动性的前提下，借助AI推动民主治理中更具建设性的公民沟通。
2025-05-16 cs.HC
Robots, Chatbots, Self-Driving Cars: Perceptions of Mind and Morality Across Artificial Intelligences
本研究通过975名参与者的预注册在线调查，评估对26个AI实体的心智与道德感知，发现AI能动性和体验评分较低，但道德能动性差异显著，并探讨设计选择在道德情境中的作用。
2025-02-25 cs.HC
Assessing the Impact of Automated Suggestions on Decision Making: Domain Experts Mediate Model Errors but Take Less Initiative
自动化决策支持可以加速繁琐的任务，因为用户可以将注意力集中在最需要的地方。然而，一个关键的问题是用户是否过度信任或放弃自动化。在本文中，我们研究了将自动化引入注释临床文本的效果-识别临床概念的多步骤，易错任务（例如，过程），并将它们映射到大型本体中的标签。我们考虑两种形式的决策辅助：推荐哪些标签映射概念，并预先填充注释建议。通过实验室研究，我们发现18名临床医生通常会建立直觉，知道何时依赖自动化，何时进行自己的判断。然而，当呈现完全预先填充的建议时，这些专家用户表现出较少的代理：接受不适当的提及，并且在创建额外注释时不太主动。我们的研究结果告诉我们应该如何设计系统和算法来减轻观察到的问题。
2021-03-29 cs.HC
Speaking of Trust -- Speech as a Measure of Trust
由于在人机交互的信任措施往往是主观的或不可能实现实时的，我们建议使用语音提示（什么，何时以及如何用户说话）作为一个客观的实时信任措施。这可以在机器人中实现以朝向适当的信任进行校准。然而，我们希望就如何处理围绕这一信任措施的道德影响展开讨论。
2021-04-12 cs.HC
The Silent Cost of Artificial Intelligence Assistance: A Theory of Autonomy Surrender, the Recovery Mechanism, and the Restoration of Human Agency
Department of Modeling and Simulation（建模与仿真系）
本文基于HIAG框架提出自主性让渡的理论模型，揭示AI辅助中认知带宽消耗导致的隐性成本，并设计恢复机制以重建人类能动性。
2026-06-15 cs.AI cs.HC
Agentic Vehicles for Human-Centered Mobility: Definition, Prospects, and Synergistic Co-Development with Vehicle Autonomy
Interdisciplinary Centre for Security, Reliability and Trust（跨学科安全、可靠与信任中心）；University of Luxembourg（卢森堡大学）
本文探讨了面向人类中心的移动性，提出了代理车辆的概念，指出自主性和代理性是相互关联但概念上不同的维度，并强调了协同发展的必要性。
2026-06-25 cs.CE cs.CL cs.CY
Anonymization of Voices in Spaces for Civic Dialogue: Measuring Impact on Empathy, Trust, and Feeling Heard
本研究探讨了在美国技术增强型公民对话网络中，使用语音转换（VC）和文本转语音（TTS）两种声音匿名化方法对听众共情、信任及说话者被倾听感的影响，发现VC是更适合的方法。
2024-08-26 cs.HC
In Alexa, We Trust. Or Do We? : An analysis of People's Perception of Privacy Policies
灵巧家庭设备已经在人们的家中以及心中找到了自己的方式。其中一个智能设备是亚马逊Alexa。亚马逊Alexa是一款语音控制应用程序，正在迅速普及。Alexa主要用于查看天气预报，播放音乐和控制其他设备。本文试图探讨人们对亚马逊Alexa设备相关隐私政策的了解程度。我们评价了在意识到不良影响后，患者与器械相互作用的行为变化。由此产生的知识将为研究人员提供新的研究途径，并为交互设计人员提供改进系统的新见解。
2022-08-31 cs.CY cs.HC
From OECD to India: Exploring cross-cultural differences in perceived trust, responsibility and reliance of AI and human experts
本研究比较了 OECD 与印度样本对 AI 和人类专家的信任度、责任感及依赖性差异，发现 OECD 参与者认为人类道德更可信且更负责，而印度参与者更信任人类但对两者赋予同等责任，为算法伦理和人机交互提供了跨文化启示。
2023-07-28 cs.CY cs.HC
Human-AI Governance (HAIG): A Trust-Utility Approach
The Digital Statecraft Academy, United Kingdom（英国数字国家学府）；Department of Computer Science, University College London (UCL), United Kingdom（英国伦敦大学学院计算机科学系）
本文提出HAIG框架，通过强调人类与AI主体间的关系动态，而非将AI系统视为治理对象。框架涵盖三个层级：维度、连续体和阈值，适用于从个体决策到国际监管的设计。
2026-04-25 cs.AI cs.CY cs.HC
Examining correlation between trust and transparency with explainable artificial intelligence
人与人工智能（AI）之间的信任是一个在人机交互的许多领域都有影响的问题。人工智能目前的问题是其决策缺乏透明度，文献表明，增加透明度会增加信任。可解释的人工智能有能力提高人工智能的透明度，这可能会增加对人类的信任。这篇论文试图在可解释和不可解释的人工智能的帮助下，使用预测Yelp评论星级的任务，看看透明度的增加是否会增加信任。结果表明，对于这些任务，可解释的人工智能提供了显着增加的信任作为影响力的措施。
2021-08-10 cs.HC
From "AI" to Probabilistic Automation: How Does Anthropomorphization of Technical Systems Descriptions Influence Trust?
IT University of Copenhagen（哥本哈根信息技术大学）；University of Washington（华盛顿大学）；University of Chicago（芝加哥大学）
本文通过954人调查实验，发现对“AI”系统的拟人化描述总体上并未显著提升信任，产品类型与拟人化类别的组合及年龄因素影响更大，为拟人化与公众过度依赖的讨论提供了新证据。
2024-04-08 cs.AI cs.HC
"I can assure you [$\ldots$] that it's going to be all right" -- A definition, case for, and survey of algorithmic assurances in human-autonomy trust relationships
University of Colorado, Boulder（科罗拉多大学博尔德分校）
随着技术变得越来越先进，那些设计、使用和受其影响的人想知道它会正确地运行，并了解它为什么会这样做，以及如何正确地使用它。本质上，他们希望能够信任正在设计的系统。在这项调查中，我们提出的保证是用户可以理解如何信任这项技术的方法。人类和自治之间的信任进行审查，并强调设计的保证的影响。一项调查的研究，已经进行了保证方面，并提取了几个关键的想法，以完善的保证的定义。确定和讨论了未来研究的几个方向。
2017-09-04 cs.AI cs.CY cs.HC
From the Head or the Heart? An Experimental Design on the Impact of Explanation on Cognitive and Affective Trust
University of Michigan（密歇根大学）
自动驾驶汽车（AV）是一种社交机器人，可以为我们的社会带来潜在的好处。根据现有的文献，自动驾驶解释可以通过减少与自动驾驶的推理和行动相关的不确定性来促进乘客的信任。然而，关于AV解释和信任的文献没有考虑到信任的类型-认知与情感-可能会改变这种关系。然而，现有的文献表明，与信任相关的影响有很大的不同，这取决于它是认知还是情感。为了解决这一缺陷，更好地了解解释对信任的影响，在自动驾驶汽车，我们设计了一项研究，调查解释的有效性认知和情感的信任。我们期望这些结果在设计AV解释以促进AV信任方面具有重要意义。
2021-10-07 cs.AI cs.HC cs.RO
Real-time Trust Prediction in Conditionally Automated Driving Using Physiological Measures
在驾驶员和自动驾驶汽车（AV）之间的交互过程中，信任校准是一个主要挑战。为了校准信任，实时的测量驾驶员的信任是重要的。一种可能的方法是通过使用机器学习模型和生理测量对其动态变化进行建模。本文提出了一种基于机器学习模型的技术，利用实时的生理测量来预测驾驶员对条件自动驾驶汽车的动态信任。我们在驾驶模拟器中进行了这项研究，参与者被要求在三种情况下从自动驾驶中接管控制权，包括控制条件，错误警报条件，错过条件以及不同场景中的八个接管请求（TORs）。在实验过程中记录了驾驶员的生理指标，包括皮肤电反应（GSR）、心率（HR）指数和眼动跟踪指标。使用五种机器学习模型，我们发现极限梯度提升（XGBoost）表现最好，能够实时的预测驾驶员的信任度，f1得分为89.1%。我们的研究结果提供了很好的启示，如何设计一个车载信任监测系统，以校准驾驶员的信任，以促进驾驶员和AV之间的实时的。
2022-12-01 cs.HC
How Fake News Affect Trust in the Output of a Machine Learning System for News Curation
人们越来越多地消费由机器学习（ML）系统策划的新闻。受算法偏见研究的启发，本文探讨了用户信任算法新闻策展系统的哪些推荐，以及这种信任如何受到虚假新闻等不可信新闻故事的影响。在一项对82名具有IT背景的职业学校学生的研究中，我们发现用户能够提供信任评级，将优质新闻故事的值得信赖的推荐与不值得信赖的推荐区分开来。然而，一个不值得信赖的新闻故事与四个值得信赖的新闻故事相结合，被评为类似的五个值得信赖的新闻故事。这些结果可能是第一个迹象，表明不值得信赖的新闻故事受益于出现在值得信赖的背景下。结果还显示了用户对新闻策划系统的推荐进行评级的能力的局限性。我们讨论了交互式机器学习系统的用户体验的影响。
2020-08-05 cs.HC cs.IR
Collaborative human-AI trust (CHAI-T): A process framework for active management of trust in human-AI collaboration
本文提出协作式人机团队信任过程框架CHAI-T，在传统三方信任前因基础上整合团队过程与绩效阶段，以支持人机协作中信任的动态主动管理。
2024-04-02 cs.HC
Algorithmic Management and the Future of Human Work: Implications for Autonomy, Collaboration, and Innovation
本研究通过整合HRM、HCI和科学技术研究的洞见形成概念框架，分析算法管理对HRM的影响并提出算法问责的社会技术视角，为工作未来及管理技术设计的辩论提供贡献。
2025-11-18 cs.HC
Who Should I Trust: AI or Myself? Leveraging Human and AI Correctness Likelihood to Promote Appropriate Trust in AI-Assisted Decision-Making
The Hong Kong University of Science and Technology（香港科技大学）；East China Normal University（华东师范大学）；Purdue University（普渡大学）
在人工智能辅助决策中，人类决策者必须知道何时信任人工智能，何时信任自己。然而，之前的研究仅基于AI的正确性可能性（CL）的AI信心来校准人类信任，但忽略了人类的CL，阻碍了最佳团队决策。为了缩小这一差距，我们提出了在任务实例级别上基于双方的CL来促进人类的适当信任。我们首先通过近似他们的决策模型和计算他们在类似情况下的潜在表现来模拟人类的CL。我们通过两个初步研究证明了我们的模型的可行性和有效性。然后，我们提出了三个CL开发策略，以校准用户的信任显式/隐式在人工智能辅助决策过程。受试者间实验（N=293）的结果表明，与仅使用AI信心相比，我们的CL开发策略促进了更适当的人类对AI的信任。我们进一步为更具人性化的人工智能辅助决策提供了实际影响。
2023-01-14 cs.AI cs.HC cs.LG
Planning for Automated Vehicles with Human Trust
最近的工作已经考虑了基于用户简档的个性化路线规划，但没有考虑到人的信任。我们认为，人类的信任是规划自动驾驶汽车的路线时要考虑的一个重要因素。提出了一种基于信任的自动车辆路径规划方法。我们形式化的人车交互作为一个部分可观察的马尔可夫决策过程（POMDP）和模型的信任作为一个部分可观察的状态变量的POMDP，代表人类的隐藏的心理状态。我们使用从Amazon Mechanical Turk平台上的100名参与者的在线用户研究中收集的数据，构建了人类信任动态和收购决策的数据驱动模型，并将其纳入POMDP框架。我们计算自动驾驶汽车的最佳路线，通过解决POMDP规划中的最优策略，并通过22名参与者在驾驶模拟器上进行的人类受试者实验来评估所产生的路线。实验结果表明，参与者采取的信任为基础的路线，一般更积极的反应，在驾驶后的调查比那些采取基线（信任自由）路线。此外，我们还分析了多个规划目标之间的权衡（例如，信任、距离、能量消耗）。我们还确定了一组开放的问题和现实世界的部署所提出的方法在自动驾驶汽车的影响。
2022-08-18 cs.HC
Humans, AI, and Context: Understanding End-Users' Trust in a Real-World Computer Vision Application
Princeton University（普林斯顿大学）；Intel Labs（英特尔实验室）
通过对真实鸟类识别应用20名用户的访谈，揭示用户信任AI但会验证输出，并在高风险场景弃权（不执行），强调领域知识与情境的关键作用。
2023-05-15 cs.AI cs.HC
Plan-Then-Execute: An Empirical Study of User Trust and Team Performance When Using LLM Agents As A Daily Assistant
Delft University of Technology（代尔夫特理工大学）；The University of Queensland（昆士兰大学）
本研究实证探讨了在六项日常任务中采用Plan-then-execute方式的LLM智能体，分析了用户在规划与执行阶段的参与度对信任及团队绩效的影响，为日常助手设计与人机协作提供了启示。
2025-02-03 cs.CL cs.HC
Predicting Trust In Autonomous Vehicles: Modeling Young Adult Psychosocial Traits, Risk-Benefit Attitudes, And Driving Factors With Machine Learning
University of California, San Diego（加利福尼亚大学圣迭戈分校）
本研究利用机器学习和SHAP技术分析1457名年轻成年人的调查数据，发现风险收益感知、可用性态度、机构信任和先前经验是预测AV信任的最重要因素，为设计值得信任的AV提供了关键启示。
2025-01-28 cs.AI cs.HC cs.LG
