Do ATCOs Need Explanations, and Why? Towards ATCO-Centered Explainable AI for Conflict Resolution Advisories
本文以空中交通管制员为中心,探讨其在冲突解决建议中是否需要AI解释及原因,通过综合ATM、人机交互与社会科学视角评估11项运行目标,发现记录决策和生成报告时最需要解释,为设计以管制员为中心的XAI系统奠定基础。
2025-06-03 cs.HC
What Should Explanations Contain? A Human-Centered Explanation Content Model for Local, Post-Hoc Explanations
Siemens Research & Predevelopment(西门子研究与预开发)
本文通过混合归纳-演绎定性内容分析,提出了一种包含14个代码的解释内容模型,用于工业AI系统的局部事后解释,通过专家审查和编码复现性验证其有效性。
2026-05-14 cs.HC
Design Requirements for Human-Centered Graph Neural Network Explanations
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对图神经网络(GNNs)预测缺乏人类可理解解释、影响信任与跨领域协作的问题,本文梳理相关研究,提出以人为中心的GNN解释设计要求,并通过原型示例展示部分要求。
2024-05-11 cs.HC cs.LG
EUCA: the End-User-Centered Explainable AI Framework
向最终用户解释决策的能力是部署AI作为关键决策支持的必要条件。然而,让人工智能向非技术终端用户解释是一个相对被忽视和具有挑战性的问题。为了弥补这一差距,我们首先确定了12个最终用户友好的解释形式,不需要技术知识来理解,包括基于特征,示例和规则的解释。然后,我们在四个人工智能辅助的关键决策任务中将解释性表格实例化为原型卡,并进行用户研究,与32名外行参与者共同设计低保真度原型。研究结果证实了使用解释形式作为解释的基石的相关性,并确定了它们的特性-优点,缺点,适用的解释目标和设计含义。解释性表单、它们的属性和原型支持(包括建议的原型设计过程、设计模板和范例以及实现解释性表单的相关算法)构成了以最终用户为中心的可解释AI框架EUCA,可在http://weinajin.github.io/end-user-xai上获得。它是一个实用的原型工具包,供HCI/AI从业者和研究人员了解用户需求并构建以最终用户为中心的可解释AI。
2022-03-01 cs.HC
Finding Uncommon Ground: A Human-Centered Model for Extrospective Explanations
Digital Media Lab, TZI, University of Bremen(不莱梅大学数字媒体实验室,TZI,不莱梅大学);Linguistics Department, Univserity of Bremen(不莱梅大学语言学系)
针对现有AI解释聚焦内部机制不适合非专业人士的问题,提出基于智能体世界观与用户交互动态记忆的个性化解释方法,可定制适配用户的相关信息,推动人本中心AI解释发展。
2025-07-29 cs.AI cs.HC
What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps
University of Augsburg(奥格斯堡大学)
在医疗保健领域,人工智能系统在诊断、治疗和监测方面为临床医生和患者提供支持,但许多系统的可解释性差仍然是实际应用的挑战。克服这一障碍是可解释AI(XAI)的目标。然而,一种解释可能会被不同的人所理解,因此,并不能为每个人解决黑箱问题。以人为中心的AI领域通过使AI适应用户来解决这个问题。我们提出了一个以用户为中心的人物角色的概念来评估XAI,并使用它来调查终端用户的偏好,在移动健康压力监测应用程序的各种解释风格和内容。我们的在线调查结果显示,用户的人口统计数据和个性,以及解释类型,影响解释偏好,表明这些是XAI设计的基本特征。我们将结果归纳为三种典型的用户角色:权力型用户、休闲型用户和隐私型用户。我们的见解使交互式、以人为本的XAI更接近实际应用。
2022-10-07 cs.AI cs.HC
The AI-DEC: A Card-based Design Method for User-centered AI Explanations
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出AI-DEC卡片式设计方法,定义AI解释的四个维度,并通过多行业协同设计验证其能支持用户设计满足不同性能与自主性需求的解释。
2024-05-26 cs.AI cs.HC
Human-centered explanation does not fit all: The interplay of sociotechnical, cognitive, and individual factors in the effect AI explanations in algorithmic decision-making
University of Pittsburgh(匹兹堡大学);Northeastern University(东北大学);Syracuse University(Syracuse大学)
本研究探讨了AI辅助决策中解释效果的影响因素,发现对比性和选择性解释的偏好受认知负荷、参与度及社会技术语境等个体与情境差异的制约,呼吁AI界面设计应适应这些差异。
2025-05-02 cs.AI cs.CY cs.HC
Using Learning Theories to Evolve Human-Centered XAI: Future Perspectives and Challenges
本文探讨如何将学习理论融入XAI生命周期,分析以学习者为中心的AI解释方法的机会与挑战,旨在提升人类自主性并缓解XAI风险。
2026-04-01 cs.AI cs.HC
Expanding Explainability: Towards Social Transparency in AI systems
Georgia Institute of Technology(佐治亚理工学院);IBM Research AI(IBM研究院人工智能部门)
随着人工智能驱动的系统越来越多地介导重要的决策,它们的可解释性对于最终用户采取明智和负责任的行动至关重要。人与人之间的互动是社会性的。人工智能系统通常是社会组织嵌入式的。然而,可解释人工智能(XAI)方法主要是以算法为中心的。我们通过引入和探索社会透明度(ST),向社会定位的XAI迈出了发展的一步,这是一种社会技术信息化的视角,将社会组织背景纳入解释人工智能介导的决策。为了从概念上探索ST,我们对29位人工智能用户和从业者进行了访谈,这些用户和从业者都是基于推测性设计场景。我们提出了ST的构成设计要素,并开发了一个概念框架,以解开ST在技术,决策和组织层面的影响和影响。该框架展示了ST如何潜在地校准对AI的信任,改善决策,促进组织集体行动,并培养整体可解释性。我们的工作通过扩展XAI的设计空间,为以人为本的XAI的话语做出了贡献。
2021-01-12 cs.AI cs.HC
Not All Explanations Are Sought: Information-Seeking Psychology for Human-Centered XAI
CNR-ISTI(意大利国家研究委员会信息科学与技术研究所)
该立场论文提出HCXAI应结合信息寻求心理学,分析其三类预期效用及相关认知偏差的两种失效模式,针对智能体AI系统的挑战,倡导设计让解释被用户主动寻求的HCXAI系统。
2026-08-31 cs.AI cs.HC
Human-centered Perspectives on a Clinical Decision Support System for Intensive Outpatient Veteran PTSD Care
Georgia Institute of Technology(佐治亚理工学院);Emory University School of Medicine(埃默里大学医学院)
本文提出了一种面向退伍军人PTSD治疗的临床决策支持系统原型,通过三种以人为本的视角分析了系统设计的复杂性及挑战。
2026-03-03 cs.HC
REX: Designing User-centered Repair and Explanations to Address Robot Failures
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Carnegie Mellon University(卡内基梅隆大学)
本研究通过两项用户研究,探索了自动修复与解释策略对提升机器人故障处理用户体验的作用,并提出了针对风险因素的适应性设计方法。
2024-05-26 cs.HC cs.RO
Explanation Ontology: A Model of Explanations for User-Centered AI
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院)
可解释性一直是人工智能(AI)系统的目标,因为它们的概念,随着更复杂的AI模型越来越多地用于关键的,高风险的设置,如医疗保健,对可解释性的需求越来越大。解释通常以非原则性的、事后的方式添加到人工智能系统中。随着这些系统的广泛采用和对以用户为中心的可解释性的强调,需要一种结构化的表示,将可解释性作为主要考虑因素,将最终用户需求映射到特定的解释类型和系统的AI功能。我们设计了一个解释本体模型的解释,占系统和用户属性的过程中的作用,以及不同的文献衍生的解释类型的范围。我们指出本体如何可以支持用户的需求,在医疗保健领域的解释。我们评估我们的本体与一组面向系统设计师谁可能使用我们的本体来决定哪些解释类型,包括一组能力问题,给出了用户的需求和系统的能力相结合,无论是在系统设计设置和实时操作。通过使用这种本体,系统设计人员将能够做出明智的选择,人工智能系统可以并且应该提供哪些解释。
2020-10-04 cs.AI cs.HC cs.LG
MetaExplainer: A Framework to Generate Multi-Type User-Centered Explanations for AI Systems
Rensselaer Polytechnic Institute(伦斯勒理工学院);Amazon Science(亚马逊科学);IBM Research(IBM研究院)
MetaExplainer是一个神经符号框架,通过三阶段流程(LLM问题分解、模型解释器生成建议、自然语言综合)结合解释本体论,为用户生成多类型、问题驱动的可解释性解释,在糖尿病数据集上验证了高绩效与广泛适用性。
2025-09-10 cs.AI cs.HC cs.LG
MiMICRI: Towards Domain-centered Counterfactual Explanations of Cardiovascular Image Classification Models
Georgia Institute of Technology(佐治亚理工学院);Cleveland Clinic(克利夫兰诊所);IBM Research(IBM研究院)
提出框架与Python库MiMICRI,通过交互式替换医学图像形态学结构生成反事实解释,帮助专家评估模型预测影响并验证医学事实,提升了心血管图像分类模型在医疗领域的可解释性与可信度。
2024-04-24 cs.CV cs.HC cs.LG
ACE, Action and Control via Explanations: A Proposal for LLMs to Provide Human-Centered Explainability for Multimodal AI Assistants
Intel Labs(英特尔实验室)
针对制造领域多模态AI绩效支持系统的参与式设计与训练挑战,提出ACE范式,用大语言模型生成人类可理解的语义框架式解释,促成人机协作以优化模型,提升任务支持效果。
2025-02-27 cs.AI cs.HC
Explaining AI Decisions: Towards Achieving Human-Centered Explainability in Smart Home Environments
Fraunhofer Institute for Applied Information Technology FIT(弗劳恩霍夫应用信息技术研究所);University of Siegen(锡根大学);Bonn-Rhein-Sieg University of Applied Sciences(波恩-莱茵-锡格应用科学大学)
本文指出传统XAI方法对普通用户在智能家居中难以理解,通过实验证明其局限性,倡导采用人机交互方法构建以人为本的解释以提升用户理解和系统采用率。
2024-04-23 cs.AI cs.HC
Human-Centered Explainability in AI-Enhanced UI Security Interfaces: Designing Trustworthy Copilots for Cybersecurity Analysts
Palo Alto Networks(帕洛阿尔托网络公司)
本文提出了一种面向AI增强用户界面安全性的以人为本的可解释性方法,通过设计可信的copilot,提升网络安全分析师对AI输出的信任和决策准确性。
2026-01-30 cs.AI cs.CR cs.HC
Emotion-sensitive Explanation Model
针对情绪因素会影响用户对XAI解释的理解这一问题,提出情绪敏感解释的三阶段模型,为开发适配用户情绪的动态解释XAI系统提供概念基础,助力更有效的以用户为中心的决策。
2025-05-21 cs.HC
Towards Human-centered Explainable AI: A Survey of User Studies for Model Explanations
Technical University of Munich(慕尼黑工业大学);University of Tübingen(蒂宾根大学);Rice University(莱斯大学)
本文系统回顾了过去五年97篇XAI用户研究核心论文,按信任、理解、可用性和人机协作性能分类,发现用户评估稀少且缺乏认知科学见解,并提出了实用指南和未来研究方向。
2024-10-16 cs.AI cs.HC
A Multi-Layered Research Framework for Human-Centered AI: Defining the Path to Explainability and Trust
本文提出一个连接HCAI与XAI的三层框架,通过基础模型可解释性、以人为本的解释层和动态反馈循环,在多高风险领域提升AI决策透明度与信任。
2025-04-26 cs.AI cs.HC
fCrit: A Visual Explanation System for Furniture Design Creative Support
Concordia University(康科德大学)
本文提出对话式AI系统fCrit,通过多智能体架构和结构化设计知识库为家具设计提供可解释批评,并根据用户的设计语言与认知框架定制解释,推动创意实践中以人为中心的可解释AI发展。
2025-08-17 cs.AI cs.HC
Human-centered Explainable AI: Towards a Reflective Sociotechnical Approach
Georgia Institute of Technology(佐治亚理工学院)
解释-一种事后可解释性的形式-在使系统可访问方面发挥着重要作用,因为人工智能继续扩散复杂和敏感的社会技术系统。在本文中,我们介绍了以人为中心的可解释人工智能(HCXAI)作为一种将人类置于技术设计中心的方法。它通过考虑价值观、人际动态和人工智能系统的社会地位的相互作用,发展了对人类“谁”的全面理解。特别是,我们提倡一种反思性的社会技术方法。我们通过一个针对非技术最终用户的解释系统的案例研究来说明HCXAI,该案例研究展示了技术进步和对人为因素的理解如何共同发展。在案例研究的基础上,我们提出了开放性研究问题,这些问题涉及进一步完善我们对人类“谁”的理解,并超越1对1的人机交互。最后,我们提出,一个反思HCXAI范式介导的关键技术实践的角度,并辅之以策略从HCI,如价值敏感的设计和参与式设计-不仅有助于我们了解我们的知识盲点,但它也可以打开新的设计和研究空间。
2020-02-05 cs.AI cs.HC
Predictability and Comprehensibility in Post-Hoc XAI Methods: A User-Centered Analysis
AIT - Austrian Institute of Technology(奥地利技术研究所);Masaryk University(马萨里克大学);Vienna University of Technology(维也纳工业大学)
本文通过用户研究评估 LIME 和 SHAP 的可理解性与可预测性,发现决策边界附近样本会降低 SHAP 可理解性,而反事实解释和错误分类能显著提升用户对模型决策的理解,并据此提出设计建议。
2023-09-21 cs.AI cs.HC cs.LG
Towards Considerate Embodied AI: Co-Designing Situated Multi-Site Healthcare Robots from Abstract Concepts to High-Fidelity Prototypes
Cornell Tech / Cornell University(康奈尔科技/康奈尔大学)
本文提出通过协同设计方法,从抽象概念到高保真原型,开发多站点医疗机器人,以减少医疗场景中的非增值任务负担。
2026-02-03 cs.AI cs.HC cs.RO
Human-Centered Explainability in Interactive Information Systems: A Survey
本文系统综述了交互式信息系统中以人为中心的解释性研究,基于100篇文献提出解释性概念化的五个维度、解释设计分类方案及六个以用户为中心的测量维度,为设计透明可信的系统提供理论指导。
2025-07-03 cs.HC
On the Influence of Cognitive Styles on Users' Understanding of Explanations
人工智能(AI)变得越来越复杂,使得用户很难理解AI是如何得出其预测的。使用可解释AI(XAI)方法,研究人员旨在向用户解释AI决策。迄今为止,基于XAI的解释追求的是一种以技术为中心的方法,忽视了用户的认知能力和信息处理差异对解释理解的影响。因此,本研究采取以人为本的视角,并结合认知心理学的见解。特别是,我们借鉴了认知风格的心理结构,描述了人类处理信息的特征模式。应用受试者间实验设计,我们研究了用户的理性和直觉的认知风格如何影响他们对AI提供的不同类型解释的客观和主观理解。初步结果表明,用户的理解取决于他们的认知风格的实质性差异。我们希望能对人为因素和XAI设计的相互关系有一个更细致入微的看法。
2022-10-05 cs.HC
Beyond Technocratic XAI: The Who, What & How in Explanation Design
本文提出XAI解释设计的三部分框架(谁、什么、如何),强调将解释视为情境化社会技术过程,以支持有效沟通并开发符合伦理责任的解释。
2025-08-12 cs.AI cs.CY cs.HC
TxSum: User-Centered Ethereum Transaction Understanding with Micro-Level Semantic Grounding
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Wuhan University(武汉大学);University of North Texas(北卡罗来纳州立大学);Fudan University(复旦大学)
本文提出TxSum任务,通过构建187个复杂以太坊交易数据集,引入MATEX框架提升交易解释质量,使用户对复杂交易的理解率从52.9%提升至76.5%,恶意交易拒绝率提升至88%。
2026-09-01 cs.CE cs.CL cs.HC
Human-Centered Explainable AI for TinyML Edge Devices: A Pareto-Based Selection Framework with LLM-Guided Design
School of Digital and Physical Sciences, University of Hull(赫尔大学数字与物理科学学院)
本研究提出一种整合LLM引导设计与帕累托优化的以人为中心XAI选择框架,用于TinyML边缘设备部署,经皮肤病变分类任务验证可识别帕累托有效权衡。
2026-08-10 cs.AI cs.HC
Trust in Transparency: How Explainable AI Shapes User Perceptions
University of Maryland, College Park(马里兰大学帕克分校)
本研究针对传统AI贷款决策系统缺社会经济语境的问题,通过定性研究明确缺口,提出融入情境化解释的方案,以提升用户信任、优化决策,推动以人为本的AI设计。
2025-10-06 cs.HC
Creative Uses of AI Systems and their Explanations: A Case Study from Insurance
最近的工作已经认识到,在设计和评估人类与人工智能的交互和可解释的人工智能方法时,需要以人为本的观点。然而,目前的方法在拦截和管理由于与AI系统的交互以及不同用户持有者群体的可解释性方法而导致的意外用户行为方面存在不足。在这项工作中,我们探索了在保险领域使用人工智能和可解释性方法。在一项定性案例研究中,参与者具有不同的角色和专业背景,我们表明,人工智能和可解释性方法在日常工作流程中以创造性的方式使用,导致其预期用途和实际用途之间存在分歧。最后,我们讨论了一些关于人机交互设计的建议,以及可解释的人工智能方法,以管理风险并利用意外用户行为的潜力。
2022-05-03 cs.HC
OpenHEXAI: An Open-Source Framework for Human-Centered Evaluation of Explainable Machine Learning
UIUC(伊利诺伊大学厄巴纳-香槟分校);Visa Research(Visa研究院);Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学);Harvard University(哈佛大学)
针对可解释AI方法以人为中心评估存在的实施复杂、可复现性差等难题,本文提出开源框架OpenHEXAI,提供数据集、工具、指标等全套支撑,并基于其完成四种主流事后解释方法的系统性基准测试。
2024-02-20 cs.AI cs.HC
Towards an Explanation Space to Align Humans and Explainable-AI Teamwork
Université du Québec à Montréal(魁北克大学蒙特利尔分校);Montreal University (Polytechnic)(蒙特利尔大学(理工学院))
为最终用户提供有意义和可操作的解释是在现实世界中实现可解释智能系统的基本前提。可解释性是用户和AI系统之间的一种情境交互,而不是静态的设计原则。解释的内容是依赖于上下文的,必须由关于用户及其上下文的证据来定义。本文旨在通过提出一个形成性的架构,从用户的角度定义的解释空间,这一概念的可操作性。该体系结构包括五个相互交织的组件,以概述任务的解释要求:(1)最终用户的心理模型,(2)最终用户的认知过程,(3)用户界面,(4)人类解释者代理,和(5)代理过程。我们首先定义架构的每个组件。然后,我们提出了抽象的解释空间,一个建模工具,聚合架构的组件,以支持设计师系统地调整解释与最终用户的工作实践,需求和目标。它指导了需要解释的内容(内容-最终用户的心理模型)的规范,为什么这种解释是必要的(上下文-最终用户的认知过程),以界定如何解释它(格式-人类解释器代理和用户界面),以及何时应该给出解释。然后,我们将该工具的使用在一个正在进行的案例研究,在飞机维修领域。最后,我们讨论了该工具可能的贡献,已知的局限性/改进领域,以及未来要做的工作。
2021-06-02 cs.AI cs.HC
Can Vision-Language Models Analyze Human-Centered Video? Mapping Model Capabilities and Human-AI Collaborative Workflows
University of Washington(华盛顿大学);Georgia Institute of Technology(佐治亚理工学院);Google DeepMind(谷歌DeepMind)
本研究通过构建五维分类体系和15个任务基准,系统评估视觉语言模型在分析以人为中心视频中的能力,发现模型单独标注接近人类水平,而人类验证工作流在提升准确率的同时大幅降低时间和成本。
2026-09-24 cs.CV cs.HC
How to Answer Why -- Evaluating the Explanations of AI Through Mental Model Analysis
Institute for Multimedia and Interactive Systems(多媒体与交互系统研究所);University of Lübeck(吕贝克大学)
为了在用户-人工智能交互的背景下实现最佳的人-系统集成,重要的是用户开发人工智能如何工作的有效表示。在大多数与技术系统的日常交互中,用户构建心理模型(即,系统用来执行给定任务的预期机制的抽象)。如果系统(例如,自我解释AI)或其他来源(例如,教师)没有提供明确的解释,则心理模型通常基于经验(即,用户在交互期间的观察)形成。这种心理模型和实际系统功能的一致性是至关重要的,因为它用于假设,预测,从而用于有关系统使用的决策。因此,以人为中心的人工智能研究的一个关键问题是如何有效地调查用户的心理模型。本研究的目的是确定合适的启发方法的心理模型分析。我们评估了心理模型是否适合作为一种实证研究方法。此外,认知辅导的方法是集成的。我们提出了一个示例性的方法来评估可解释的人工智能方法以人为中心的方式。
2020-01-11 cs.AI cs.HC
Evaluating the False Trust Engendered by LLM Explanations
School of Computing & AI, Arizona State University(亚利桑那州立大学计算与人工智能学院)
本文通过用户研究评估不同解释类型对用户判断AI答案正确性及产生虚假信任的影响,发现推理轨迹和事后解释具有说服力但不具信息性,而对比双解释能提升用户区分正确与错误输出的能力。
2026-05-15 cs.HC
Ouvia: A User-centered Framework for Measuring Usability of Speech Translation in Real-World Communication Scenarios
Instituto de Telecomunicações(电信研究所);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);Carnegie Mellon University(卡内基梅隆大学);University of Maryland(马里兰大学);Instituto Superior Técnico(技术高级研究所)
提出Ouvia框架,通过收集1750+次真实医疗和日常场景中的交互,评估语音翻译的用户感知可用性,发现现代ST仅部分可用(约一半交互被评为可用),且QA评估比标准方法更能预测可用性。
2026-10-15 cs.CL cs.HC
Explanation Strategies as an Empirical-Analytical Lens for Socio-Technical Contextualization of Machine Learning Interpretability
University of Twente(特文特大学);Freie Universität Berlin(柏林自由大学)
在一个研究项目中,我们开发了一个机器学习(ML)驱动的可视化系统,为非ML专家,我们反映在ML,计算机支持的协同工作和人机交互的可解释性研究。我们发现,虽然有多种技术方法,但这些方法通常集中在ML专家身上,并在非情境化的实证研究中进行评估。我们假设参与式设计研究可以支持我们项目中利益相关者的情境意义的理解,但是,发现关于ML可解释性的指导并不详尽。基于技术哲学,我们制定了解释策略,作为一个分析的镜头,说明技术解释如何调解有关人们的解释的上下文偏好。在本文中,我们贡献了一份报告,我们的概念证明使用解释策略来分析与非ML专家的协同设计研讨会,参与式设计研究的方法学意义,非ML专家解释的设计意义,并建议进一步调查ML可解释性空间中的技术中介理论。
2021-09-24 cs.AI cs.CY cs.HC
Transcending XAI Algorithm Boundaries through End-User-Inspired Design
Simon Fraser University(西蒙弗雷泽大学);The University of British Columbia(不列颠哥伦比亚大学)
现有的可解释人工智能(XAI)算法的边界被限制在技术用户对可解释性的需求基础上的问题。这种研究范式不成比例地忽视了更大的非技术最终用户群体,这些用户在不同的解释目标中对人工智能解释的需求要高得多,例如做出更安全、更好的决策,以及改善用户的预测结果。缺乏对最终用户的可解释性功能支持可能会阻碍人工智能在高风险领域的安全和负责任的使用,例如医疗保健,刑事司法,金融和自动驾驶系统。基于对最终用户对XAI需求的人为因素分析,我们确定并建模了四个新的XAI技术问题,涵盖了从设计到评估XAI算法的全方位,包括基于边缘案例的推理,可定制的反事实解释,可折叠的决策树,以及评估XAI实用程序的可验证性度量。基于这些新发现的研究问题,我们还讨论了以用户为中心的XAI技术发展中的开放问题,以启发未来的研究。我们的工作将以人为本的XAI与技术XAI社区联系起来,并呼吁在以用户为中心的XAI的技术开发方面建立一种新的研究范式,以便在关键任务中负责任地使用AI。
2023-01-23 cs.AI cs.HC
Petal-X: Human-Centered Visual Explanations to Improve Cardiovascular Risk Communication
KU Leuven(鲁汶大学);University of Amsterdam(阿姆斯特丹大学);University of Maribor(马里博尔大学)
本文提出Petal-X工具,通过Petal Product Plots可视化和SCORE2全局代理模型支持医患共同决策,在关键风险沟通任务上优于传统图形评分图,且不损失透明度与信任度。
2024-06-26 cs.AI cs.HC cs.LG
Toward Human Centered Interactive Clinical Question Answering System
本研究构建了一个面向临床记录的交互式问答系统,支持文本或语音查询并高亮抽取式答案,通过多项指标和模拟临床角色评估,验证了其高语义对齐和可用性优势。
2025-05-25 cs.HC
From Attribution to Action: A Human-Centered Application of Activation Steering
Fraunhofer Heinrich-Hertz-Institut(弗劳恩霍夫 Heinrich-Hertz 研究所);Technische Universität Berlin(柏林技术大学);BIFOLD – Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所)
提出结合SAE归因与激活导向的交互式工作流,通过专家访谈验证其能促进从检查到干预的转变,并揭示组件抑制等调试策略及潜在风险。
2026-05-26 cs.AI cs.HC cs.LG
"What's Happening"- A Human-centered Multimodal Interpreter Explaining the Actions of Autonomous Vehicles
针对公众对自动驾驶汽车信任不足的问题,提出融合BEV视觉界面、文本与微调LLM语音交互的以人为中心多模态解释器HMI,用户研究证实其可显著提升乘客信任度。
2025-01-12 cs.HC
How Human-Centered Explainable AI Interface Are Designed and Evaluated: A Systematic Survey
IT University of Copenhagen(哥本哈根信息技术大学);Royal Danish Academy(丹麦皇家艺术学院)
本文系统性综述了53篇文献,指出可解释界面(EIs)聚焦XAI的用户界面与体验设计,以提升系统可用性与实际可解释性,并揭示了人机交互趋势及未来设计与开发方向。
2024-03-21 cs.AI cs.HC
The Perceptual Gap: Why We Need Accessible XAI for Assistive Technologies
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文探讨了为辅助技术用户提供可访问的XAI的重要性,指出现有XAI方法缺乏对感官障碍用户的考虑,并提出了未来研究的方向。
2026-03-03 cs.HC
Explainable Goal Recognition: A Framework Based on Weight of Evidence
University of Melbourne(墨尔本大学);Monash University(莫纳什大学);King Khalid University(哈利德国王大学)
我们介绍和评估eXplainable目标识别(XGR)模型,该模型使用证据权重(WoE)框架来解释目标识别问题。我们的模型提供了以人为本的解释,回答了为什么?为什么不呢问题.我们计算评估我们的系统在八个不同领域的性能。使用人类行为研究来从人类注释者那里获得基本事实,我们进一步表明XGR模型可以成功地生成类似人类的解释。然后,我们报告了一项研究,60名参与者观察代理人玩推箱子游戏,然后接收目标识别输出的解释。通过任务预测、解释满意度和信任度来考察被试对解释的理解。
2023-03-09 cs.AI cs.HC
Policy alone is probably not the solution: A large-scale experiment on how developers struggle to design meaningful end-user explanations
Carnegie Mellon University(卡内基梅隆大学);Yale University(耶鲁大学);Colby College(科尔比学院);Howard University(霍华德大学);Department of Sociology, Yale University(社会学系,耶鲁大学)
研究发现,仅靠政策无法有效提升开发者设计面向终端用户的解释能力,需结合培训、工具和支持。
2026-01-16 cs.AI cs.HC cs.LG
Explainable AI-Based Interface System for Weather Forecasting Model
Korea Advanced Institute of Science and Technology(KAIST)(韩国科学技术院(KAIST));SI-Analytics;National Institute of Meteorological Sciences(NIMS)(气象厅气象研究所(NIMS));INEEJI
本研究针对气象决策中黑盒模型解释的缺失,定义了三项用户需求并映射相应XAI方法,设计并测试了XAI界面系统,发现直观解释能提升决策效用与用户信任。
2025-04-01 cs.AI cs.HC
Position: Robot Privacy as Embodied Boundary Work. Connecting Capabilities, Contexts, and Design Responses in Everyday Robotics
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Tsinghua University(清华大学);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院);The Hong Kong University of Science and Technology(香港科技大学)
本研究提出具身边界隐私框架,结合机器人7种能力与5种部署情境分析其隐私风险,给出具身隐私机制设计启示,呼吁HRI领域关注机器人具身行动的隐私意义。
2026-08-25 cs.HC cs.RO
Interactive Explanation with Varying Level of Details in an Explainable Scientific Literature Recommender System
University of Duisburg-Essen(杜伊斯堡-埃森大学)
本文针对可解释推荐系统中解释静态且一刀切的问题,提出一种以用户为中心的交互式解释模型,在RIMA系统中实现基础、中级和高级三个细节层级的解释。定性用户研究(N=14)表明,赋予用户控制权能满足不同需求,有效提升系统的透明度、信任、满意度和用户体验。
2023-10-18 cs.AI cs.CY cs.HC
Who's Thinking? A Push for Human-Centered Evaluation of LLMs using the XAI Playbook
Arthur(亚瑟)
部署的人工智能(AI)通常会影响人类,并且没有一个放之四海而皆准的指标来评估这些工具。以人为本的AI系统评估结合了定量和定性分析以及人工输入。它已经在可解释人工智能(XAI)和人机交互(HCI)社区中进行了深入的探索。差距仍然存在,但基本的理解是,人类与人工智能互动,以及随之而来的解释,以及人类的需求--包括他们的认知偏见和怪癖--应该被放在首位和中心,这一点被社区所接受。在本文中,我们将相对成熟的XAI领域与围绕大语言模型(LLM)的快速发展的研究热潮进行了比较。LLM的公认评价指标不是以人为中心的。我们认为,在过去十年中,XAI社区所走过的许多相同的道路将在讨论LLM时被翻新。具体来说,我们认为,人类的倾向-再一次,与他们的认知偏见和怪癖-应该休息的前面和中心时,评估部署的LLM。我们概述了以人为本的XAI评估的三个重点领域:心智模型,用例效用和认知参与,我们强调了探索LLM的每个概念的重要性。我们的目标是启动以人为中心的LLM评估。
2023-03-10 cs.AI cs.HC
Towards User-Focused Research in Training Data Attribution for Human-Centered Explainable AI
Tübingen AI Center, University of Tübingen Germany(图宾根人工智能中心、图宾根大学德国);Fraunhofer Heinrich Hertz Institute Germany(弗劳恩霍夫海因里希·赫兹研究所德国);Information and Interaction Design, Yonsei University South Korea(信息与交互设计,延世大学韩国)
本研究针对可解释AI训练数据归因(TDA)领域忽视用户需求的问题,通过访谈和交互式用户研究直接与开发者合作,提出以用户为中心的设计思维方法,揭示了对开发者有用的以数据为中心的解释新任务,增强研究的实用性和人类影响。
2025-10-31 cs.AI cs.HC cs.LG