How Fake News Affect Trust in the Output of a Machine Learning System for News Curation
人们越来越多地消费由机器学习（ML）系统策划的新闻。受算法偏见研究的启发，本文探讨了用户信任算法新闻策展系统的哪些推荐，以及这种信任如何受到虚假新闻等不可信新闻故事的影响。在一项对82名具有IT背景的职业学校学生的研究中，我们发现用户能够提供信任评级，将优质新闻故事的值得信赖的推荐与不值得信赖的推荐区分开来。然而，一个不值得信赖的新闻故事与四个值得信赖的新闻故事相结合，被评为类似的五个值得信赖的新闻故事。这些结果可能是第一个迹象，表明不值得信赖的新闻故事受益于出现在值得信赖的背景下。结果还显示了用户对新闻策划系统的推荐进行评级的能力的局限性。我们讨论了交互式机器学习系统的用户体验的影响。
2020-08-05 cs.HC cs.IR
Quantifying the Effects of Recommendation Systems
今天的推荐系统对消费者行为和个人对世界的看法产生了很大的影响。通过使用协同过滤（CF）方法来创建推荐，它生成了一个连续的反馈循环，其中用户行为在算法系统中被放大。受欢迎的项目会更频繁地被推荐，从而产生影响和改变用户偏好的偏见。为了可视化和比较不同的偏见，我们将分析推荐系统的效果，并量化由此产生的不平等。
2020-02-04 cs.HC cs.IR
Learning Affects Trust: Design Recommendations and Concepts for Teaching Children -- and Nearly Anyone -- about Conversational Agents
研究表明，人与代理人之间的关系与人与人之间的关系形成的方式类似。由于儿童不具备与成人相同的批判性分析技能（例如，可能过度信任技术），这种关系的形成令人担忧。然而，很少有研究深入调查儿童的看法，会话代理人，更少调查如何教育可能会改变这些看法。我们提出了K-12研讨会与相关的对话AI概念，以鼓励更健康的理解和与代理的关系。通过对课程以及来自不同国家的儿童和家长的研究，我们发现参与者对代理人的看法-特别是他们的合作伙伴模型和信任-发生了变化。当参与者讨论对代理人信任的变化时，我们发现他们最常提到的是学习一些东西。例如，他们经常提到学习代理从哪里获得信息，代理如何使用这些信息以及代理如何编程。根据研究结果，我们提出了教学会话代理概念的建议，包括强调学生认为最具挑战性的概念，如培训，话轮转换和术语;补充代理开发活动与相关的学习活动;培养对代理的适当信任水平;并培养准确的代理合作伙伴模型。通过这种教学方法，学生可以学习更好地理解对话式人工智能以及在世界上拥有它意味着什么。
2022-09-12 cs.HC
Designing Trustworthy LLM-based Wellbeing Recommendation through Controllable Interaction
University of Gothenburg（哥德堡大学）
提出通过显式交互约束（如指导策略、解释风格、直接性程度和用户控制机制）构建系统级框架，使LLM推荐在保持适应性的同时透明、可控且与人类健康对齐。
2026-06-25 cs.HC
Learning to Trust: Understanding Editorial Authority and Trust in Recommender Systems for Education
推荐系统（RS）中的信任通常通过使用用户感知的可信社交邻居的隐式或显式反馈在算法上合并，并使用用户报告的推荐项目的可信度进行评估。然而，现实生活中的推荐设置可以在信任，权力和特权方面表现出群体差异。我们的研究探讨了一个互补的信任，这依赖于编辑权力关系和RS应用领域的所有利益相关者的态度。我们设计了一个简单的，第一原则的编辑权威度量，即，用户对推荐源的偏好、否决权和合并用户反馈，使得一个RS用户组通过放弃或分配编辑权限而将信任授予另一个RS。在弗吉尼亚理工大学的一项混合方法研究中，我们调查了教师、助教和学生对编辑权威的偏好，并假设测试了其与假设的"建议阅读" RS算法的信任关系。我们发现，更高的RS编辑权限分配给学生的相对信任的课程人员分配给RS算法和学生。我们还观察到，当然工作人员赞成更高的控制RS算法在采购和更新的建议长期。使用内容分析，我们讨论了频繁的工作人员推荐的学生编辑角色，并强调他们的常见理由，如感知的专业知识，缩放学习环境，专业课程的需求，和学习者脱离。我们认为，我们的分析突出了关键的用户偏好，以帮助检测编辑权力不对称，并确定RS用例，以支持教学和研究
2021-09-17 cs.HC
Tell Me Something That Will Help Me Trust You: A Survey of Trust Calibration in Human-Agent Interaction
University of Maryland, Baltimore County（马里兰大学巴尔的摩郡分校）；Johns Hopkins University Applied Physics Laboratory（约翰斯·霍普金斯大学应用物理实验室）
当一个人从智能代理接收到预测或建议的行动过程时，除了预测或建议本身之外，人类还需要从代理那里获得什么额外的信息来决定是信任还是拒绝预测或建议？在本文中，我们调查文献在一个单一的人类主管和一个单一的代理下属之间的信任，以确定这种额外的信息的性质和程度，并将其特征化为一个分类，可以利用未来的研究人员和智能代理从业者。通过从以人为本、以信息为中心的角度来审视这个问题，我们可以开始比较和对比不同的实现，并为未来的工作提供见解和方向。
2022-05-06 cs.AI cs.CY cs.HC
Trust and Trustworthiness in Social Recommender Systems
在线社交媒体上错误信息的普遍存在与美国日益加剧的政治极化和党派反感有着切实的经验联系。社交推荐的排名算法通常会对网络结构（如同质性）和群体认知（如社交行为在很大程度上是模仿性的）进行广泛的假设。在假新闻和政治两极意识形态统一的时代，这样的假设可能是天真和排外的。我们研究这些假设的援助，以用户为中心的框架，社会推荐的可信度。可信度的组成维度（多样性、透明度、可解释性、破坏性）突出了阻止教条化和建立决策感知、透明的新闻推荐系统的新机会。
2019-03-05 cs.HC cs.SI
Personhood Credentials: Human-Centered Design Recommendation Balancing Security, Usability, and Trust
Pennsylvania State University（宾夕法尼亚州立大学）
本研究通过访谈23名欧美用户，提出人格凭证（PHC）的设计建议，以平衡安全性、可用性与信任，涵盖颁发者、数据来源及系统选择等关键因素。
2025-02-22 cs.AI cs.CR cs.CY
Revealing AI Reasoning Increases Trust but Crowds Out Unique Human Knowledge
Naveen Jindal School of Management, University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）
本文通过一项激励相容实验发现，展示AI推理过程会显著增加人类信任，但会诱导过度信任并挤出独特人类知识的利用，呼吁改进人机协作中的信息设计。
2025-11-06 cs.HC
Toward quantifying trust dynamics: How people adjust their trust after moment-to-moment interaction with automation
目的：我们研究人类操作员如何调整他们的信任，自动化作为他们的时刻到时刻的互动与自动化。背景：大多数现有的研究通过在实验结束时进行问卷调查来测量信任。只有有限数量的研究将信任视为一个动态变量，可以随着时间的推移而增强或减弱。方法：75名被试参加了辅助记忆再认任务。在这项任务中，参与者观看了一系列图像，然后进行了40次识别任务的试验，以识别出有干扰物的目标图像。在每次试验中，参与者自己进行初始识别，从自动决策辅助系统中获得建议，并进行最终识别。每次试验后，参与者都要在视觉模拟量表上报告他们的信任度。结果：结果偏差和对比效应显著影响人类操作员的信任调整。如果最终结果不理想，自动化失败会导致更大的信任递减，如果人类操作员自己成功完成任务，则会导致更大的信任递减。如果人类操作员未能完成任务，则自动化成功会产生更大的信任增量。此外，自动化失败比自动化成功对信任调整的影响更大。结论：人类操作员调整他们对自动化的信任，这是他们与自动化进行即时交互的结果。他们的信任调整显着影响的决策技巧/偏见。适用范围：了解信任调整过程可以准确预测操作员对自动化的时刻信任，并为信任感知自适应自动化的设计提供信息。
2021-07-15 cs.HC
Are you aware of what you are watching? Role of machine heuristic in online content recommendations
由于推荐系统已经被创建和开发以自动化推荐过程，因此用户可以轻松地在在线平台上消费他们想要的视频内容。在这条线上，几个内容推荐算法的介绍和采用，让用户遇到他们感兴趣的内容，有效地。然而，推荐系统有时会推荐不适当的内容，包括错误信息或假新闻。更糟糕的是，人们会毫无保留地接受这样的内容，因为他们的认知启发式，机器启发式，这是经验法则，机器比人类更准确，更值得信赖。在本研究中，我们设计并进行了一个基于网络的实验，参与者通过体验机器或人类推荐系统的整个过程来调用机器启发式。结果表明，参与者（N = 89）表现出更积极的态度，机器推荐比人类推荐，即使推荐的视频包含不适当的内容。而对机器高度信任的参与者对推荐表现出消极态度。基于这些结果，我们建议，一种被称为算法厌恶的现象可能会同时考虑与机器启发式在调查人类与机器的互动。
2022-03-16 cs.HC
Human-AI Collaboration in Thematic Analysis using ChatGPT: A User Study and Design Recommendations
Monash University（莫纳什大学）
本研究通过10名质性研究者的用户实验，探究了ChatGPT在主题分析中的人-AI协作价值与现存问题，并提出5项促进有效协作的可落地设计建议。
2023-11-07 cs.AI cs.HC
Missing Pieces: How Do Designs that Expose Uncertainty Longitudinally Impact Trust in AI Decision Aids? An In Situ Study of Gig Drivers
本文通过一项51名零工司机参与的纵向混合方法研究，揭示了AI排班推荐工具中不确定性暴露设计对信任的影响，发现任务对齐的不确定性表述能提升信任，并强调需更多情境化研究。
2025-06-04 cs.HC
Quantifying the Engagement Trap: Impact of Short-form Video Recommender Systems on Users with ADHD
Graz University of Technology（格拉茨技术大学）
本研究通过302名参与者的分层实验，提出“参与陷阱”概念，量化了短视频推荐系统对ADHD用户造成的时间盲视、后悔和情绪困扰等不成比例的负面影响，并倡导神经包容性设计。
2026-09-09 cs.AI cs.HC
PILAR: Personalizing Augmented Reality Interactions with LLM-based Human-Centric and Trustworthy Explanations for Daily Use Cases
University of Missouri-Columbia（密苏里大学哥伦比亚分校）
PILAR通过基于LLM的个性化解释提升AR交互的可信度和用户体验
2025-12-19 cs.AI cs.HC
Fuzzy synthetic method for evaluating explanations in recommender systems
本文通过可交互的网络问卷开展用户研究，从效率、有效性、说服力、满意度、信任与透明度评估情境感知推荐解释，并提出基于模糊综合评价的指标聚合方法。
2024-07-02 cs.HC
Adjust for Trust: Mitigating Trust-Induced Inappropriate Reliance on AI Assistance
University of Southern California（美国南加州大学）
通过信任自适应干预减少AI依赖，提升决策准确性与人机协作效率
2026-01-26 cs.AI cs.CL cs.HC
Qualitative Coding Analysis through Open-Source Large Language Models: A User Study and Design Recommendations
Technological University Dublin（都柏林理工大学）；National Economics University（越南国立经济大学）；University College Dublin（都柏林大学学院）；Foreign Trade University（对外贸易大学）
本文提出ChatQDA，一个基于开源LLMs的本地化定性分析工具，通过用户研究发现其在隐私保护和解释一致性方面的挑战，并提出设计建议以提升信任度。
2026-02-20 cs.CR cs.HC cs.SE
Humans, AI, and Context: Understanding End-Users' Trust in a Real-World Computer Vision Application
Princeton University（普林斯顿大学）；Intel Labs（英特尔实验室）
通过对真实鸟类识别应用20名用户的访谈，揭示用户信任AI但会验证输出，并在高风险场景弃权（不执行），强调领域知识与情境的关键作用。
2023-05-15 cs.AI cs.HC
From Text to Trust: Empowering AI-assisted Decision Making with Adaptive LLM-powered Analysis
Purdue University（普渡大学）；Texas A&M University（德克萨斯农工大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对人们因缺乏AI解释而无法恰当依赖AI辅助决策的问题，本文先通过实验发现直接呈现LLM驱动的特征分析无显著效果，进而提出动态选择分析内容的算法框架，有效提升了决策者对AI的恰当依赖。
2025-02-17 cs.CL cs.HC
Human-Centered Design Recommendations for LLM-as-a-Judge
本文通过EvaluLLM用户研究和八位专家访谈，提出设计建议以优化人类辅助的LLM-as-a-judge系统，在信任与成本之间取得平衡。
2024-07-03 cs.HC
Designing and Evaluating an Educational Recommender System with Different Levels of User Control
本研究设计并评估了一个具有不同用户控制水平的教育推荐系统，通过在线用户研究（N=30）发现用户控制能提升用户感知益处，并与透明度强相关、与信任和满意度中等相关。
2025-01-22 cs.CY cs.HC cs.IR
Clustering Trust Dynamics in a Human-Robot Sequential Decision-Making Task
University of Michigan（密歇根大学）；Air Force Research Laboratory（空军研究实验室）
在本文中，我们提出了一个框架的信任感知顺序决策的人-机器人团队。我们模型的问题作为一个有限的地平线马尔可夫决策过程与奖励为基础的性能指标，允许机器人代理，使信任意识的建议。实验结果表明，该信任更新模型能够准确地捕捉人类主体的时刻到时刻的信任变化。此外，我们集群的参与者的信任动态分为三类，即贝叶斯决策者，振荡器，和不信者，并确定个人特征，可用于预测哪种类型的信任动态的一个人将属于。我们发现，不信者不太外向，不太令人愉快，对机器人代理的期望较低，相比贝叶斯决策者和振荡器。振荡器明显比贝叶斯决策者更沮丧。
2022-06-03 cs.HC cs.RO
Investigating the Effects of Different Levels of User Control in an Interactive Educational Recommender System
Social Computing Group, Faculty of Computer Science, University of Duisburg-Essen（杜伊斯堡- Essen大学计算机科学学院社会计算组）
本文研究了交互式教育推荐系统中不同用户控制层级对透明度、信任度、满意度和感知质量的影响，发现用户控制显著提升这些指标，但效果因控制层级而异。
2026-05-02 cs.AI cs.CY cs.HC
To Trust or Distrust Trust Measures: Validating Questionnaires for Trust in AI
针对现有AI信任调查问卷缺乏场景有效性验证的问题，研究通过1485人参与的预注册实验验证了TPA与TAI两份问卷的心理测量学质量，证实TAI质量更优，且信任与不信任是可独立共存的不同构念，为相关测量工具使用提供了参考。
2025-01-15 cs.HC
The Value of Measuring Trust in AI - A Socio-Technical System Perspective
在基于人工智能的系统中建立信任被认为是其采用和适当使用的关键。因此，最近的研究试图评估这些系统的各种属性如何影响用户的信任。然而，人工智能中信任的定义和测量的局限性阻碍了该领域的进展，导致结果不一致或难以比较。在这项工作中，我们概述了定义和测量人工智能信任的主要限制。我们专注于尝试给人工智能的信任一个数值，以及它在告知现实世界的人与人工智能交互的设计中的效用。从社会技术系统的角度来看人工智能，我们探索了两种不同的方法来应对这些挑战。我们就如何在实践中实施这些方法提供了可行的建议，并为人类与人工智能交互的设计提供了信息。因此，我们的目标是为研究人员和设计人员提供一个起点，重新评估目前对人工智能信任的关注，改善实证研究范式可能提供的内容与现实世界中人类与人工智能交互的期望之间的一致性。
2022-04-28 cs.HC
Trust by Design: Trust Calibration Through Non-Advisory Socratic Dialogue in Conversational Agents
Braude College of Engineering（Braude工程学院）
本文提出CASELy对话代理，通过非建议式苏格拉底对话限制自身权威，实现信任校准；实验显示用户体验显著提升，并识别出三种支持校准信任的机制。
2026-09-15 cs.CY cs.HC cs.MA
