Trust and Transparency in Recommender Systems
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本文梳理推荐系统中信任的不同理解与测量方式，分析信任与透明度及心智模型的关系，并探讨解释、探索和探索性解释等透明度实现策略，指出需进一步研究这些概念及其相互关系。
2023-04-17 cs.AI cs.HC cs.IR
Discerning Authorship in Online Health Communities: Experience, Trust, and Transparency Implications for Moderating AI
Erasmus University Rotterdam（伊拉斯姆斯大学鹿特丹）；Jönköping University（延雪平大学）；University College London（伦敦大学学院）
研究探讨在线健康社区中用户辨别AI生成建议作者身份的能力，发现透明度与信任的重要性，尽管用户难以区分AI与人类生成内容，但健康状况有显著影响。
2026-04-21 cs.CY cs.HC
Humanizing AI Grading: Student-Centered Insights on Fairness, Trust, Consistency and Transparency
North Carolina State University（北卡罗来纳州立大学）
本研究通过比较AI与人工评分反馈，探讨学生对AI评分系统在公平性、信任、一致性与透明性方面的看法，并提出人本化AI的设计原则。
2026-02-22 cs.AI cs.HC
How Researchers Navigate Accountability, Transparency, and Trust When Using AI Tools in Early-Stage Research: A Think-Aloud Study
Microsoft（微软）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究通过15名研究人员的think-aloud研究，探讨了在早期研究中使用大语言模型驱动的AI工具时，责任、透明度和信任的现实表现及影响，揭示了AI输出的不确定性、检索的模糊性和信任的脆弱性。
2026-04-25 cs.CY cs.HC
Human Trust-based Feedback Control: Dynamically varying automation transparency to optimize human-machine interactions
School of Mechanical Engineering, Purdue University（普渡大学机械工程学院）
本文提出一个概率框架，通过动态调整自动化透明度来校准人类信任与工作负载，实验表明该反馈控制策略能优化人机团队性能，为实时自适应自动化设计奠定基础。
2020-06-29 cs.HC cs.RO cs.SY
Efficiency with Rigor! A Trustworthy LLM-powered Workflow for Qualitative Data Analysis
Johns Hopkins University（约翰斯·霍普金斯大学）；University of California, Berkeley（加州大学伯克利分校）；Singapore University of Technology and Design（新加坡科技设计大学）；Singapore-MIT Alliance for Research and Technology（新加坡-麻省理工学院研究与技术联盟）
针对大语言模型用于定性数据分析时缺乏可信赖性的问题，提出MindCoder工作流，通过透明性和人类参与策略，实现高效且可信赖的定性数据分析。
2025-10-26 cs.HC
Toward Adaptive Trust Calibration for Level 2 Driving Automation
Purdue University（普渡大学）；Honda Research Institute USA, Inc.（本田美国研究院有限公司）
本文提出基于 POMDP 的概率框架，在 L2 级驾驶自动化中建模信任与工作负荷的耦合动态，通过实时信念估计自适应调整透明度，实现信任校准。
2020-09-24 cs.HC cs.RO cs.SY
Trust and Reliance in XAI -- Distinguishing Between Attitudinal and Behavioral Measures
Center for General Psychology and Methodology, University of Basel（一般心理学与方法学中心，巴塞尔大学）
本文针对XAI中透明度与信任关系实证结果不一致的问题，主张区分信任的态度测量与依赖的行为测量，以提升概念严谨性并促进未来研究。
2022-03-23 cs.AI cs.HC
The Transparency Trap: How AI Disclaimers Create Overconfidence in High-Stakes Decisions
Amador Valley（阿马多尔谷高中）
本研究通过跨三个高风险领域的实验，揭示AI免责声明存在透明度悖论，会引发用户过度自信，为负责任AI设计等提供关键启示。
2026-08-11 cs.CL cs.HC
Understanding Trust Toward Human versus AI-generated Health Information through Behavioral and Physiological Sensing
University of Amsterdam（阿姆斯特丹大学）；Aalto University（阿尔托大学）；Yale University（耶鲁大学）；Delft University of Technology（代尔夫特理工大学）；Utrecht University（乌得勒支大学）
研究通过行为和生理传感分析人们对人类与AI生成健康信息的信任差异，发现透明标签影响信任水平，行为特征可辅助验证信任感知。
2025-12-13 cs.HC
Towards Transparent Ethical AI: A Roadmap for Trustworthy Robotic Systems
University of Arkansas at Little Rock（阿拉巴马州立大学）
本文提出透明度是伦理AI与机器人系统可信的基础，通过框架连接技术实施与伦理考量，并探讨其对公众信任和监管的影响。
2025-08-07 cs.AI cs.CY cs.HC
Beyond Predictions: A Study of AI Strength and Weakness Transparency Communication on Human-AI Collaboration
本文研究AI优劣势透明度沟通对人机协作的影响，通过在模型错误上训练决策树来识别并解释其潜在错误，实验表明提供AI性能洞察和优劣势认知能提升任务表现并改善信任校准。
2025-08-12 cs.HC
Full Disclosure, Less Trust? How the Level of Detail about AI Use in News Writing Affects Readers' Trust
Centrum Wiskunde & Informatica（数学与信息学中心）；University of Amsterdam（阿姆斯特丹大学）；New York University（纽约大学）；TU Delft（代尔夫特理工大学）；Utrecht University（乌得勒支大学）
研究探讨新闻写作中AI使用细节披露程度对读者信任的影响，发现详细披露会降低信任，但促使更多读者核查信息源，揭示透明度与信任之间的权衡。
2026-01-14 cs.AI cs.CY cs.HC
Designed by Journalists, but Is It for Readers? Rethinking AI Disclosures and Transparency in News
Centrum Wiskunde & Informatica（数学与信息学中心）
研究发现，详细披露会引发透明度困境降低信任，而简短披露造成信息缺口；读者偏好用户代理型设计（如按需详情、AI比例可视化），呼吁HCI社区重新设计披露机制。
2026-06-09 cs.AI cs.CY cs.HC
Revealing AI Reasoning Increases Trust but Crowds Out Unique Human Knowledge
Naveen Jindal School of Management, University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）
本文通过一项激励相容实验发现，展示AI推理过程会显著增加人类信任，但会诱导过度信任并挤出独特人类知识的利用，呼吁改进人机协作中的信息设计。
2025-11-06 cs.HC
Understanding and Evaluating Trust in Generative AI and Large Language Models for Spreadsheets
针对生成式AI与LLMs生成电子表格公式的可信度存疑问题，提出涵盖透明度、可靠性维度的可信性评估框架，分析影响因素并探讨技术不信任的案例与后果。
2024-12-18 cs.CY cs.HC
Towards an Understanding of Developer Experience-Driven Transparency in Software Ecosystems
本研究从开发者体验视角出发，提出SECO-TransDX概念模型，系统梳理63个相关概念，经Delphi研究完善，为研究SECO中透明度与DX的关系提供框架，支撑可信开发者平台设计。
2025-09-04 cs.HC cs.SE
The Impact of Uncertainty Visualization on Trust in Thematic Maps
Arizona State University（亚利桑那州立大学）；University of Waterloo（滑铁卢大学）；Pennsylvania State University（宾夕法尼亚州立大学）
本研究通过实验发现，不确定性可视化在不同层次下会降低主题地图的信任度，但低不确定性地图对信任的影响不显著，且对制图者诚信感影响较弱。
2026-01-30 cs.HC
Understanding the Effect of Algorithm Transparency of Model Explanations in Text-to-SQL Semantic Parsing
George Mason University（乔治梅森大学）；MITRE Corporation（MITRE公司）
本文通过约100名参与者的实验，研究文本到SQL语义解析中不同算法透明度级别的模型解释对用户体验的影响，发现中等透明度解释能在用户依赖、交互表现和信任稳定性之间取得最佳平衡。
2024-11-24 cs.AI cs.CL cs.HC
Designing and Evaluating an Educational Recommender System with Different Levels of User Control
本研究设计并评估了一个具有不同用户控制水平的教育推荐系统，通过在线用户研究（N=30）发现用户控制能提升用户感知益处，并与透明度强相关、与信任和满意度中等相关。
2025-01-22 cs.CY cs.HC cs.IR
A Turing Test for Transparency
Beuth University of Applied Sciences（柏林应用科学大学（Beuth））；Einstein Center Digital Future（爱因斯坦数字未来中心）
可解释人工智能（XAI）的核心目标是改善人与AI交互中的信任关系。透明人工智能系统研究的一个假设是，解释有助于更好地评估机器学习（ML）模型的预测，例如使人类能够更有效地识别错误的预测。然而，最近的经验证据表明，解释可能会产生相反的效果：当对ML预测进行解释时，人类往往倾向于相信ML预测，即使这些预测是错误的。实验证据表明，这种效应可以归因于人工智能或解释的直观性或人性化程度。这种效应挑战了XAI的目标，并意味着透明AI方法的负责任使用必须考虑人类区分机器生成和人类解释的能力。在这里，我们提出了一个定量度量XAI方法的基础上图灵的模仿游戏，图灵测试的透明度。一个人的大脑被要求判断一个解释是由人还是由XAI方法生成的。在这个二进制分类任务中，不能被人类检测到的XAI方法的解释通过了测试。检测这些解释是评估和校准人与AI交互中信任关系的必要条件。我们展示了一个众包文本分类任务的实验结果，表明即使对于基本的ML模型和XAI方法，大多数参与者也无法区分人类和机器生成的解释。我们讨论了我们的研究结果对透明ML应用的伦理和实际影响。
2021-06-21 cs.AI cs.HC
Review of Explainable Decision Support and Adaptive Human-Machine Interfaces for Automation Transparency in Maritime Autonomous Surface Ships
KTH Royal Institute of Technology（KTH皇家理工学院）
本综述针对海事自主船舶自动化透明度，整合100项研究，提出自适应透明度框架，明确透明度设计策略与关键近阶段改进手段，以降低认知负荷、提升接管及时性并保障安全运行。
2026-08-26 cs.AI cs.CY cs.HC
A Multi-Layered Research Framework for Human-Centered AI: Defining the Path to Explainability and Trust
本文提出一个连接HCAI与XAI的三层框架，通过基础模型可解释性、以人为本的解释层和动态反馈循环，在多高风险领域提升AI决策透明度与信任。
2025-04-26 cs.AI cs.HC
Justification vs. Transparency: Why and How Visual Explanations in a Scientific Literature Recommender System
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本文在科学文献推荐系统RIMA中，基于HCD方法和What-Why-How框架设计并实现“为什么”与“如何”两类视觉解释，通过用户研究证实解释可理解性类型的选择取决于解释目标与用户类型。
2023-05-26 cs.AI cs.HC cs.IR
Trust regulation in Social Robotics: From Violation to Repair
University of Southern Denmark（南丹麦大学）
本文通过24名被试参与的被试内协作游戏实验，比较熟练度、情境意识、透明度、信任违背与修复五种策略，验证其对人机信任校准的显著作用。
2023-04-20 cs.HC cs.RO
Towards an Understanding of Developers' Perceptions of Transparency in Software Development: A Preliminary Study
本研究通过采访五位开发者并开展主题分析，探讨了软件开发中透明度这一人类价值观的感知与违规修复流程，发现透明度对建立信任和道德实践至关重要，且开发者遵循系统化流程修复违规行为。
2023-09-12 cs.HC cs.SE
Preliminary Quantitative Study on Explainability and Trust in AI Systems
University of Maryland, College Park（马里兰大学学院公园分校）
本研究通过交互式贷款审批模拟实验，定量探究AI系统可解释性与用户信任的关系，发现交互性增强参与度和信心，解释清晰度与相关性是信任关键决定因素。
2025-10-17 cs.AI cs.HC
Transparency in Multi-Human Multi-Robot Interaction
Worcester Polytechnic Institute（伍斯特理工学院）
透明度是提高人机交互性能的关键因素。透明的界面使人类能够了解机器人的状态，并评估手头任务的进度。当涉及多个机器人系统时，透明度是一个更大的挑战，因为影响机器人整体行为的变量数量更大。当单个操作员与多个机器人交互时，已经投入了大量的精力来研究透明度。然而，透明性的研究，集中在多个人类操作员与多机器人系统进行交互是有限的。本文的目的是填补这一空白，提出了一个人群交互界面的图形元素，可以启用和禁用。通过这个界面，我们通过比较四种“透明度模式”来研究哪些图形元素有助于透明度：（一）不透明（没有操作员从机器人接收信息），（ii）中央透明度（操作员只接收与其个人任务相关的信息），（iii）外围透明度（操作者共享关于彼此任务的信息），以及（iv）混合透明度（中央和外围两者）。我们报告的结果，在意识，信任和工作量的用户研究涉及18名参与者从事一个复杂的多机器人任务。
2021-05-14 cs.HC cs.MA cs.RO
Explainable AI does not provide the explanations end-users are asking for
Arca Blanca Ltd.（阿尔卡布兰卡有限公司）
可解释的人工智能（XAI）技术经常被许多AI系统中的用户所需要，其目标是理解复杂模型及其相关预测并获得信任。虽然适用于开发过程中的某些特定任务，但组织采用它们来增强对机器学习系统的信任会产生意想不到的后果。在本文中，我们讨论了XAI在部署方面的局限性，并得出结论，透明度和严格的验证更适合在AI系统中获得信任。
2023-03-21 cs.AI cs.HC cs.LG
Applying Transparency in Artificial Intelligence based Personalization Systems
University of Tübingen（蒂宾根大学）；Ben-Gurion University of the Negev（内盖夫本-古里安大学）；The University of Edinburgh（爱丁堡大学）
基于人工智能的系统越来越多地使用个性化来为用户提供相关的内容、产品和解决方案。个性化旨在支持用户并满足他们各自的需求和偏好。然而，由于算法的进步和缺乏透明度，用户越来越容易受到在线操纵。这种操纵降低了用户对与他们交互的系统的信任、自主性和满意度。增加透明度是基于个性化的系统的重要目标。不幸的是，系统设计者缺乏在其开发的系统中评估和实施透明度的指导。在这项工作中，我们结合了技术伦理和计算机科学的见解，为机器生成的个性化生成一个透明的最佳实践列表。基于这些最佳实践，我们开发了一个清单，供希望评估和提高其算法系统透明度的设计师使用。采用设计师的角度来看，我们适用于清单突出的在线服务，并讨论其优点和缺点。我们鼓励研究人员在各种环境中采用该清单，并努力建立一个基于共识的工具，用于衡量个性化社区的透明度。
2020-08-21 cs.CY cs.HC cs.LG
Web3 and the State: Indian state's redescription of blockchain
研究通过分析 NITI Aayog 与 MeitY 文件，揭示印度将区块链表述为“去中心化”却推动国家再中介化的话语机制。
2024-10-02 cs.CY cs.HC
Visual or Textual: Effects of Explanation Format and Personal Characteristics on the Perception of Explanations in an Educational Recommender System
University of Duisburg-Essen（杜伊斯堡-埃森大学）；RWTH Aachen University（亚琛工业大学）
研究探讨了解释格式（视觉 vs. 文本）和用户个性特征如何共同影响教育推荐系统中感知控制、透明度、信任和满意度，提出了一套有效设计解释的指南。
2026-03-26 cs.AI cs.CY cs.HC
Superhuman Game AI Disclosure: Expertise and Context Moderate Effects on Trust and Fairness
CSIRO’s Data61（联邦科学与工业研究组织数据61）；UNSW Sydney（新南威尔士大学悉尼分校）
本文通过 Persona Cards 模拟多样化用户，研究超人类游戏 AI 能力披露对信任与公平性的影响，发现透明度具有双重效应，并发布数据集以支持可复现的人类对齐 AI 设计研究。
2025-04-07 cs.AI cs.CL cs.CY
In Automation We Trust: Investigating the Role of Uncertainty in Active Learning Systems
University of Colorado Boulder（科罗拉多大学博尔德分校）
我们研究如何不同的主动学习（AL）查询政策，再加上分类不确定性可视化影响分析师的信任自动分类系统。AL的当前标准策略是查询oracle（例如，分析员）来细化分类器具有最高不确定性的数据点的标签。这是自动化系统的最佳策略，因为它产生最大的信息增益。然而，以模型为中心的策略忽略了这种不确定性对系统中人类组件的影响，以及人类在训练后与系统交互的方式。在本文中，我们提出了一个实证研究评估如何AL查询政策和可视化贷款透明度的分类影响信任的图像数据自动分类。我们发现，查询策略显着影响分析师的信任在图像分类系统，我们使用这些结果，提出了一套Oracle查询策略和可视化AL训练阶段使用，可以影响分析师的信任分类。
2020-04-02 cs.HC cs.LG stat.ML
