Human-AI interaction: An emerging interdisciplinary domain for enabling human-centered AI
AI技术的新特点给AI系统的研发带来了新的挑战。AI技术造福了人类,也给研发带来了挑战,如果开发不当,会伤害人类和社会。目前国内外还没有系统的跨学科工作框架来有效地应对这些新挑战。本文分析了人工智能系统面临的新挑战,并进一步阐述了我们在2019年提出的“以人为中心的人工智能”(HCAI)方法。为了使HCAI方法得以实施,我们系统地提出了一个新兴的跨学科领域--“人机交互”(HAI),并定义了其目标、方法和范围。通过文献综述和分析,本文总结了国内外HAII研究和应用的重点,提出了今后的主要研究方向。最后,本文对未来HCAII方法的实施和HAI工作提出了战略建议。
2021-10-29 cs.HC
A User Experience 3.0 (UX 3.0) Paradigm Framework: Designing for Human-Centered AI Experiences
Zhejiang University(浙江大学)
本文提出UX 3.0范式框架,旨在指导开发以人类为中心的AI体验的UX实践。
2026-02-18 cs.HC
Automating the Path: An R&D Agenda for Human-Centered AI and Visualization
Aarhus University(奥胡斯大学)
本文提出系统框架,将HCAI的四大工具能力映射到视觉意义构建四阶段,回顾工具、展望未来、识别挑战与伦理考量,为可视化领域整合AI及支持HCAI研究提供研发议程。
2025-04-10 cs.HC
Transitioning to human interaction with AI systems: New challenges and opportunities for HCI professionals to enable human-centered AI
Zhejiang University(浙江大学);Miami University(迈阿密大学)
虽然人工智能使人类受益,但如果开发不当,它也可能伤害人类。人机交互工作的重点是从传统的人类与非人工智能计算系统的交互过渡到与人工智能系统的交互。我们从HCI的角度对当前开发AI系统的工作进行了高层次的文献综述和全面分析。我们的回顾和分析强调了AI技术带来的新变化,以及HCI专业人员在AI系统开发中应用以人为本的AI(HCAI)方法时面临的新挑战。我们还确定了人类与AI系统交互中的七个主要问题,这是HCI专业人员在开发非AI计算系统时没有遇到的。为了进一步实现HCAI方法,我们确定了与特定HCAI驱动的设计目标相关的新HCI机会,以指导HCI专业人员解决这些新问题。最后,我们对当前HCI方法的评估显示了这些方法在支持开发AI系统方面的局限性。我们提出了一些替代方法,可以帮助克服这些限制,并有效地帮助HCI专业人员将HCAI方法应用于AI系统的开发。我们还为HCI专业人员提供战略建议,以有效地影响HCAI方法的AI系统的开发,最终开发HCAI系统。
2023-03-06 cs.AI cs.HC
Human-Centered Human-AI Interaction (HC-HAII): A Human-Centered AI Perspective
HCAI Labs(人本人工智能实验室)
本章提出以人为中心的人机交互(HC-HAII)框架,系统阐述其方法论、跨学科团队与多层次设计范式,并指出关键挑战与未来方向,为全书奠定基础。
2025-08-26 cs.AI cs.HC
Organizational Practices and Socio-Technical Design of Human-Centered AI
Institute of Work Science, University of Bochum(波鸿大学工作科学研究所)
本文提出通过社会技术视角设计组织实践,以实现人本AI在预测维护中的应用与持续改进。
2026-01-29 cs.HC
Human-Centered AI for Data Science: A Systematic Approach
IBM Research(IBM研究院);University of Michigan(密歇根大学)
以人为中心的人工智能(HCAI)是指旨在设计和实施人工智能技术以支持各种人类任务的研究工作,同时考虑人类需求并保持人类控制。在这篇简短的论文中,我们将说明如何使用一系列围绕数据科学(DS)的研究项目作为案例研究来实现HCAI。为支持DS作品而构建的AI技术统称为AutoML系统,其目标是自动化DS工作流程的某些部分。我们说明了一个三步系统的研究方法(即,探索,建立和集成)和HCAI系统的四种实用方法。我们认为,我们的工作是人类与人工智能合作的最终未来的基石,人工智能和人类可以发挥互补和不可或缺的作用,以实现更好的结果和体验。
2021-10-03 cs.AI cs.HC cs.LG
Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy
University of Maryland(马里兰大学)
设计良好的技术,提供高水平的人类控制和高水平的计算机自动化,可以提高人类的表现,导致更广泛的采用。以人为中心的人工智能(HCAI)框架阐明了如何(1)设计高水平的人类控制和高水平的计算机自动化,以提高人类的表现,(2)了解完全人类控制或完全计算机控制是必要的情况,以及(3)避免过度人类控制或过度计算机控制的危险。HCAI的方法更有可能产生可靠、安全和值得信赖的设计。实现这些目标将大大提高人类的表现,同时支持人类的自我效能,掌握,创造力和责任感。
2020-02-23 cs.AI cs.HC
Human-AI Interaction Design Standards
China National Institute of Standardization(中国标准化研究院);Zhejiang University(浙江大学)
该研究对比了人机交互(HAII)与传统人机交互(HCI),梳理了多维度HAII设计标准与头部企业指南,介绍了落地工具与多领域案例,分析了标准制定挑战并提出未来方向,强调跨领域协作以推进以人为本人工智能交互标准建设。
2025-03-24 cs.AI cs.HC
Applying HCAI in developing effective human-AI teaming: A perspective from human-AI joint cognitive systems
Zhejiang University(浙江大学)
本文针对人类-人工智能协同(HAT)与以人为本人工智能(HCAI)之间的范式冲突,提出人类-人工智能联合认知系统(HAIJCS)概念框架,以在HCAI原则下实现有效的人机协同。
2023-11-29 cs.AI cs.HC
Human-controllable AI: Meaningful Human Control
School of Foreign Languages, Anhui Agricultural University(安徽农业大学外国语学院);Department of Psychology and Behavioral Sciences, Zhejiang University(浙江大学心理学与行为科学系)
本文提出有意义的人类控制(MHC)作为AI发展的重要原则,强调技术设计、治理和人类共同作用的重要性,旨在实现人类中心的AI发展。
2026-02-19 cs.HC
A Human-Centered Privacy Approach (HCP) to AI
Zhejiang University(浙江大学)
本文提出以人类为中心的隐私方法(HCP)框架,从技术、伦理和人类因素角度综合解决AI中的隐私问题,通过隐私保护技术、用户心理模型和案例研究,探讨隐私保护在HCAI中的实施路径和未来方向。
2026-02-04 cs.AI cs.CR cs.HC
A Multi-Layered Research Framework for Human-Centered AI: Defining the Path to Explainability and Trust
本文提出一个连接HCAI与XAI的三层框架,通过基础模型可解释性、以人为本的解释层和动态反馈循环,在多高风险领域提升AI决策透明度与信任。
2025-04-26 cs.AI cs.HC
Human-Centered Human-AI Collaboration (HCHAC)
Zhejiang University(浙江大学)
本文从以人为中心的视角探讨人机协作(HAC)的本质与特征,提出HCHAC框架,并通过自动驾驶案例阐明人机协同交互,指明了未来提升系统有效性、可靠性与伦理整合的研究方向。
2025-05-28 cs.AI cs.CY cs.HC
A "User Experience 3.0 (UX 3.0)" Paradigm Framework: User Experience Design for Human-Centered AI Systems
针对现有UX范式难以适配人本AI系统开发的问题,本文提出面向智能时代的“UX 3.0”范式框架及对应方法论,涵盖四类新兴体验,为相关UX实践与研究提供方法支撑。
2024-03-07 cs.HC
Explanation-Driven Interventions for Artificial Intelligence Model Customization: Empowering End-Users to Tailor Black-Box AI in Rhinocytology
Department of Computer Science, University of Bari Aldo Moro(巴里阿尔多·莫罗大学计算机科学系);Department of Computer Science, University of Pisa(比萨大学计算机科学系)
本文提出一种解释驱动的终端用户开发方法,通过编辑解释和定向干预定制黑盒AI,增强用户控制,推进以人为中心的AI在鼻细胞学中的应用。
2025-05-26 cs.AI cs.HC
Human-Centered Artificial Social Intelligence (HC-ASI)
Department of Psychology and Behavioral Sciences, Zhejiang University(浙江大学心理学与行为科学系)
本研究提出以人为中心的人工社会智能框架,结合技术、人类因素和伦理三角,系统解决社交智能AI开发中的技术与设计问题,并通过案例研究展示其在医疗、教育等领域的应用。
2025-11-26 cs.HC
Towards Responsible AI: A Design Space Exploration of Human-Centered Artificial Intelligence User Interfaces to Investigate Fairness
City, University of London(伦敦城市大学);Fujitsu Laboratories of Europe(富士通欧洲实验室);Intesa Sanpaolo S.p.A.(意大利联合圣保罗银行)
随着人工智能(AI)帮助或自动化决策的快速发展,一个特别值得关注的问题是它的公平性。为了通过以人为中心的人工智能(HCAI)设计来创建可靠、安全和值得信赖的系统,最近的努力已经产生了供AI专家调查AI模型的公平性的用户界面(UI)。在这项工作中,我们提供了一个设计空间探索,不仅支持数据科学家,也支持领域专家调查AI公平性。以贷款申请为例,我们与信贷人员和数据科学家举行了一系列研讨会,以了解他们的需求。我们将这些需求实例化到FairHIL中,FairHIL是一个支持人在环公平性调查的UI,并描述了如何将此UI推广到其他用例。我们通过有声思维用户研究评估了FairHIL。我们的工作有助于更好的设计,以调查AI模型的公平性,并向负责任的AI迈进。
2022-06-01 cs.AI cs.HC
Building Symbiotic AI: Reviewing the AI Act for a Human-Centred, Principle-Based Framework
本文通过系统文献综述识别共生AI系统设计的四项核心原则,结合欧盟《人工智能法案》的监管要求,为开发符合法规且能与人类建立共生关系的AI系统提供研究方向。
2025-05-20 cs.AI cs.HC
Towards Human-centered Design of Explainable Artificial Intelligence (XAI): A Survey of Empirical Studies
本文综述以人为本的XAI实证研究,梳理算法、利益相关者、需求发现、设计空间、评估指标、发现与陷阱,并提出结合实证研究的设计框架。
2024-10-28 cs.HC
Implications of Regulations on the Use of AI and Generative AI for Human-Centered Responsible Artificial Intelligence
本文介绍 CHI 2024 第 2 届 HCR-AI SIG,旨在通过跨学科协作探讨 AI 与生成式 AI 法规影响,并形成理论、评估框架与方法以推动负责任、可持续的 AI 发展。
2024-02-29 cs.HC
Human-Centered Design: The Disclosure of Generative Artificial Intelligence for Emerging Professionals
The University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
探讨生成式AI在以人为本设计中的应用,通过课程实践提出透明披露AI使用的方法,以增强效率并保持人文价值。
2026-06-24 cs.HC
The Human-GenAI Value Loop in Human-Centered Innovation: Beyond the Magical Narrative
研究通过三个组织为期一年的GenAI创新项目,探索将GenAI整合到设计冲刺中的方法,并提出四项构建人机协作价值循环的实践建议。
2025-03-05 cs.HC
Interaction-Centered Intelligence: Toward an Interaction-Based Theory of Human-AI Co-Creation
Georgia Institute of Technology(佐治亚理工学院);Co-Creative AI Consulting(协同人工智能咨询)
本文提出以交互作为主要分析单元,通过分布式认知、具身认知等理论,论证智能涌现于交互动态而非孤立计算,并引入交互中心智能框架。
2026-06-12 cs.AI cs.HC
User-Centered Design (IX): A "User Experience 3.0" Paradigm Framework in the Intelligence Era
基于“以用户为中心的设计”设计理念的用户体验(UX)领域正在走向智能时代。尽管如此,现有的用户体验范式主要针对非智能系统,缺乏针对智能系统的用户体验的系统方法。纵观UX的发展历程,UX范式呈现出跨技术时代的演进特征。当前,智能时代对用户体验范式提出了新的要求。为此,本文提出了智能时代的“UX 3.0”范式框架和相应的UX方法论体系。“UX 3.0”范式框架包括生态体验、创新赋能体验、AI赋能体验、基于人-AI交互的体验、基于人-AI协作的体验方法五大类UX方法,每一类都提供了相应的多个UX范式方向。“UX 3.0”范式的提出有助于改进现有的UX方法,为UX在智能系统开发中的研究和应用提供了方法论支持。最后,本文对“UX 3.0”范式的未来研究和应用进行了展望。
2023-03-24 cs.AI cs.HC
What is Human-Centeredness in Human-Centered AI? Development of Human-Centeredness Framework and AI Practitioners' Perspectives
本文针对AI领域“以人为本”定义缺乏共识的问题,开发并实证验证了一个包含26项属性、分为四个层级的分层框架,为AI从业者提供了促进包容性设计和伦理标准的可操作指导。
2025-02-05 cs.HC
User-Centered Design (VIII): A New Framework of Intelligent Sociotechnical Systems and Prospects for Future Human Factors Research
传统的社会技术系统(STS)理论得到了广泛的应用,但随着智能时代的到来,STS环境出现了许多新的特点,导致了传统STS理论的局限性。基于“以用户为中心的设计”思想,提出了智能社会技术系统(iSTS)的新框架,概括了iSTS的新特征及其对智能系统发展的启示。iSTS的未来研究需要包括人因工程在内的多学科合作,本文最后从人因工程方法论和方法论两个方面提出了建议。
2023-03-06 cs.HC
Human-Centered Responsible Artificial Intelligence: Current & Future Trends
Nokia Bell Labs(诺基亚贝尔实验室);IBM Research AI(IBM研究院人工智能部门);University of Glasgow(格拉斯哥大学);Microsoft Research(微软研究院);Northeastern University(东北大学);Google(谷歌);Meta;University of Edinburgh(爱丁堡大学)
近年来,CHI社区在以人为中心的负责任人工智能研究方面取得了显着增长。虽然不同的研究团体可能会使用不同的术语来讨论类似的主题,但所有这些工作最终都旨在开发有利于人类的人工智能,同时以人权和道德为基础,并减少人工智能的潜在危害。在这个特殊兴趣小组中,我们的目标是汇集来自学术界和工业界对这些主题感兴趣的研究人员,以绘制当前和未来的研究趋势,通过促进合作和分享想法来推进这一重要的研究领域。
2023-02-16 cs.AI cs.HC
A Mixed User-Centered Approach to Enable Augmented Intelligence in Intelligent Tutoring Systems: The Case of MathAIde app
本研究提出MathAIde智能辅导系统,通过计算机视觉和AI批改数学练习并提供反馈,采用以教师为中心的混合用户驱动设计方法,在资源有限的课堂环境中展现了良好的效率与可用性。
2025-09-15 cs.AI cs.HC
Evidence-centered Assessment for Writing with Generative AI
本文提出基于证据中心设计的学习分析方法,结合知识讲述、知识转化、认知临场感与认知网络分析,利用 CoAuthor 工具数据评估人机协作写作,并验证了该方法的可行性。
2024-01-17 cs.HC
Qualitative Analysis for Human Centered AI
以人为中心的人工智能(AI)认为机器学习和AI应该以社会意识的方式开发和应用。在这篇文章中,我们认为定性分析(QA)可以成为这个过程中的一个有价值的工具,补充,通知和扩展AI模型的可能性。我们通过描述QA如何集成到当前的人工智能预测范式中,帮助科学家选择数据、变量和模型架构来证明这一点。此外,我们认为QA可以成为以人为中心的AI新范式的一部分。QA可以支持科学家和实践者解决实际问题和情境模型开发。它还可以促进参与式设计方法,揭示人工智能系统中研究不足和新出现的问题,并协助政策制定。
2021-12-07 cs.HC
Artificial intelligence language technologies in multilingual healthcare: Grand challenges ahead
School of Applied Languages and Intercultural Studies (SALIS)(应用语言学与跨文化研究学院);CTTS, ADAPT Centre(CTTS与ADAPT中心);Dublin City University(都柏林城市大学)
本文探讨多语言医疗中AI语言技术的应用挑战,分析其在翻译、文档等任务中的表现差异及安全性和公平性问题,提出七大研究与部署挑战。
2026-05-02 cs.CL cs.CY cs.HC
Situated Case Studies for a Human-Centered Design of Explanation User Interfaces
研究人员和实践者在设计基于机器学习的应用程序时越来越多地考虑以人为本的观点,特别是在可解释人工智能(XAI)的背景下。然而,在这方面仍然缺乏明确的方法指导,因为每一种新的情况似乎都需要一种新的设置,这也造成了不同的方法挑战。XAI中现有的案例研究集合启发了我们;因此,我们提出了一个类似的以人为本的XAI案例研究集合,可以为其他人提供方法论指导或灵感。我们希望通过描述我们研究中的三个案例来展示我们的想法。选择这些案例研究是为了强调明显的小差异如何需要一套不同的方法和考虑。通过这次研讨会的贡献,我们希望参与讨论这样一组案例研究如何能够提供方法指导和批判性反思。
2021-03-29 cs.HC
AI-as-a-Service Toolkit for Human-Centered Intelligence in Autonomous Driving
University of Pisa(比萨大学);National Research Council(国家研究委员会);Harokopio University of Athens(雅典哈洛克皮奥大学)
本文介绍了在H2020教学项目中开发的AI即服务工具包的概念验证实现,该工具包旨在根据自动驾驶员压力识别算法的输出来实现自动驾驶个性化系统,两者都实现了系统的网络物理系统。此外,我们还实现了一个数据收集子系统来收集来自不同传感器的数据,即,可穿戴设备和摄像头,来自动化压力识别。该系统被附加到驾驶模拟软件CARLA上进行测试,该软件可以以最低的成本测试该方法的可行性,而不会使驾驶员和乘客处于危险之中。在相关子系统的核心部分,分别采用深度神经网络、递归神经网络和强化学习实现了不同的学习算法。
2022-02-09 cs.AI cs.HC
Do ATCOs Need Explanations, and Why? Towards ATCO-Centered Explainable AI for Conflict Resolution Advisories
本文以空中交通管制员为中心,探讨其在冲突解决建议中是否需要AI解释及原因,通过综合ATM、人机交互与社会科学视角评估11项运行目标,发现记录决策和生成报告时最需要解释,为设计以管制员为中心的XAI系统奠定基础。
2025-06-03 cs.HC
Empower Children in Nigeria to Design the Future of Artificial Intelligence (AI) through Writing
本文提出了一种新的方法,让尼日利亚的儿童分享他们对人工智能的看法。这种方法以阿布贾一所中学的儿童包容性写作比赛为中心,让他们撰写关于人工智能的文章,以争夺奖品并与他人分享他们的作品。对我们收到的前11篇文章进行的初步分析显示,不同性别和种族的代表性传达了与西方国家儿童不同的文化价值观和观点。这一发现表明,未来的工作,进行深入的跨文化分析的文章,并复制类似的写作比赛,让儿童在其他代表性不足的国家。
2023-03-16 cs.HC
Community-Centered Spatial Intelligence for Climate Adaptation at Nova Scotia's Eastern Shore
Faculty of Computer Science\ University Halifax NS Canada;Faculty of Ind. Engineering\ University Halifax NS Canada;Faculty of Computer Science\ University;Faculty of Ind. Engineering\ University
本文提出了一种以社区为中心的空间智能方法,通过整合计算机科学、工业工程和沿海地理学的专长,与诺瓦多利亚东部海岸居民合作,建立活的数字档案库以增强气候适应能力。
2025-10-08 cs.AI cs.HC
Detection of Unknown Errors in Human-Centered Systems
针对以人为中心的安全关键系统,提出一种无需错误特征知识的模型无关方法,利用DiH-RNN和保形推断构建物理模型并评估物理定律违反以实现未知错误早期检测,表现优于现有技术。
2024-07-28 cs.HC
Generative AI as Support, Not Replacement, in Human-Centered Design
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
本文探讨AI对以人为本设计的重塑,指出需以AI为支持而非替代,强调AI素养、伦理判断与使用边界对维护设计核心的重要性。
2026-08-11 cs.HC
Empathic and agentic artificial intelligence in nursing: perspectives on a human-centered framework for cancer care navigation in the United States
University of Tennessee Health Science Center, College of Nursing(田纳西大学健康科学中心护理学院);University of Tennessee Health Science Center, Center for Biomedical Informatics, Department of Pediatrics(田纳西大学健康科学中心生物医学信息中心,儿科系);University of Tennessee Health Science Center, Department of Radiation Oncology(田纳西大学健康科学中心放射肿瘤学系)
本文提出一个以人为本的人工智能框架,结合共情与自主方法,基于美国护士协会伦理准则,支持护士在癌症护理导航中增强而非取代人类共情与自主性,改善工作流程、医患关系和护理协调。
2026-04-11 cs.AI cs.CY cs.HC
The Placebo Effect of Artificial Intelligence in Human-Computer Interaction
在医学上,病人可以从虚假的治疗中获得真正的好处。这些好处被称为安慰剂效应。我们报告了两个实验(实验I:N = 369;实验II:N = 100)证明了自适应界面的安慰剂效应。参与者被要求在没有系统或自适应AI界面的支持下解决字谜。所有参与者都经历了相同的字谜难度,并且在整个实验过程中没有人工智能的支持。我们的研究结果表明,接受自适应人工智能支持的信念增加了参与者对自己的任务表现的期望,在互动后持续。这些期望与表现呈正相关,如解决的字谜数量所示。我们将我们的研究结果整合到技术接受理论中,并讨论了对未来评估基于AI的用户界面和新技术的影响。我们认为,系统描述可以引起安慰剂效应,通过用户的期望偏置的结果,以用户为中心的研究。
2022-04-11 cs.HC
A Sociotechnical Review of Algorithms in Health Systems: Technical, Cost, and Human-Centered Considerations
University of Toronto(多伦多大学)
本文通过批判性分析114篇论文,审视卫生系统中成本感知型AI模型的设计趋势,定义模型成本维度,并指出社会技术设计中的空白及评估挑战。
2026-09-21 cs.HC
Relationship-Centered Care: Relatedness and Responsible Design for Human Connections in Mental-Health Care
University of California, Santa Cruz(加州大学圣克鲁兹分校);Stanford University(斯坦福大学)
本文探讨了数字治疗联盟在心理健康护理中的应用,提出以关系为中心的设计方法,旨在通过AI促进真实的人际关系,而非仅模拟连接。
2026-07-14 cs.HC
PlantoGraphy: Incorporating Iterative Design Process into Generative Artificial Intelligence for Landscape Rendering
针对现有生成式AI端到端景观渲染方法与设计流程不兼容的问题,提出迭代设计系统PlantoGraphy,通过两阶段流水线实现从概念到写实效果图的生成,经评估验证了有效性与交互功能的高认可度。
2024-01-30 cs.HC
Human Agency, Causality, and the Human Computer Interface in High-Stakes Artificial Intelligence
Robert Koch Institute(罗伯特·科赫研究所);Freie Universität Berlin(柏林自由大学)
本文探讨高风险人工智能系统中人类代理的保护问题,提出因果代理框架以解决人机交互中的不确定性与因果控制问题。
2026-04-14 cs.HC
PADTHAI-MM: Principles-based Approach for Designing Trustworthy, Human-centered AI using MAST Methodology
Arizona State University(亚利桑那州立大学);Aptima, Inc.(Aptima公司);U.S. Department of Homeland Security(美国国土安全部);Air Force Office of Scientific Research(空军科学研究办公室)
本文提出PADTHAI-MM框架,通过MAST方法论设计可信AI系统,通过READIT平台验证,评估MAST对AI信任的影响,并探讨MAST评分与信任因素的关系。
2025-01-22 cs.CY cs.HC
Participation Interfaces for Human-Centered AI
IBM Watson AI XPRIZE(IBM沃森人工智能X大奖);Responsible AI Collaborative(负责任人工智能协作组织)
新兴的人工智能(AI)应用通常会平衡不同和有争议的利益相关者群体之间的偏好和影响。在系统设计、开发和部署过程中,将这些利益相关者群体联系起来需要一些工具来激发不同的系统利益,并需要一些协作接口来支持平衡这些利益的协商。本文介绍了交互式视觉“参与界面”马尔可夫决策过程(MDP)和协作排名问题的例子恢复以人为中心的控制点。
2022-11-15 cs.CY cs.HC cs.LG
Using Learning Theories to Evolve Human-Centered XAI: Future Perspectives and Challenges
本文探讨如何将学习理论融入XAI生命周期,分析以学习者为中心的AI解释方法的机会与挑战,旨在提升人类自主性并缓解XAI风险。
2026-04-01 cs.AI cs.HC
How Human-Centered Explainable AI Interface Are Designed and Evaluated: A Systematic Survey
IT University of Copenhagen(哥本哈根信息技术大学);Royal Danish Academy(丹麦皇家艺术学院)
本文系统性综述了53篇文献,指出可解释界面(EIs)聚焦XAI的用户界面与体验设计,以提升系统可用性与实际可解释性,并揭示了人机交互趋势及未来设计与开发方向。
2024-03-21 cs.AI cs.HC
Human-Centered Explainable AI for TinyML Edge Devices: A Pareto-Based Selection Framework with LLM-Guided Design
School of Digital and Physical Sciences, University of Hull(赫尔大学数字与物理科学学院)
本研究提出一种整合LLM引导设计与帕累托优化的以人为中心XAI选择框架,用于TinyML边缘设备部署,经皮肤病变分类任务验证可识别帕累托有效权衡。
2026-08-10 cs.AI cs.HC
Establishing Rigorous and Cost-effective Clinical Trials for Artificial Intelligence Models
BenchCouncil: International Open Benchmark Council(BenchCouncil:国际开放基准测试委员会)
针对AI临床评估缺乏严谨且高性价比方法的问题,提出双中心AI随机对照试验(DC-AI RCTs)及虚拟临床医生模拟试验(VC-MedAI),基于14个中心125名医生的7500份记录验证了其有效性与必要性,为AI临床评估提供创新方法。
2024-07-28 cs.AI cs.HC
Humanizing AI Grading: Student-Centered Insights on Fairness, Trust, Consistency and Transparency
North Carolina State University(北卡罗来纳州立大学)
本研究通过比较AI与人工评分反馈,探讨学生对AI评分系统在公平性、信任、一致性与透明性方面的看法,并提出人本化AI的设计原则。
2026-02-22 cs.AI cs.HC
Explaining AI Decisions: Towards Achieving Human-Centered Explainability in Smart Home Environments
Fraunhofer Institute for Applied Information Technology FIT(弗劳恩霍夫应用信息技术研究所);University of Siegen(锡根大学);Bonn-Rhein-Sieg University of Applied Sciences(波恩-莱茵-锡格应用科学大学)
本文指出传统XAI方法对普通用户在智能家居中难以理解,通过实验证明其局限性,倡导采用人机交互方法构建以人为本的解释以提升用户理解和系统采用率。
2024-04-23 cs.AI cs.HC
Who's Thinking? A Push for Human-Centered Evaluation of LLMs using the XAI Playbook
Arthur(亚瑟)
部署的人工智能(AI)通常会影响人类,并且没有一个放之四海而皆准的指标来评估这些工具。以人为本的AI系统评估结合了定量和定性分析以及人工输入。它已经在可解释人工智能(XAI)和人机交互(HCI)社区中进行了深入的探索。差距仍然存在,但基本的理解是,人类与人工智能互动,以及随之而来的解释,以及人类的需求--包括他们的认知偏见和怪癖--应该被放在首位和中心,这一点被社区所接受。在本文中,我们将相对成熟的XAI领域与围绕大语言模型(LLM)的快速发展的研究热潮进行了比较。LLM的公认评价指标不是以人为中心的。我们认为,在过去十年中,XAI社区所走过的许多相同的道路将在讨论LLM时被翻新。具体来说,我们认为,人类的倾向-再一次,与他们的认知偏见和怪癖-应该休息的前面和中心时,评估部署的LLM。我们概述了以人为本的XAI评估的三个重点领域:心智模型,用例效用和认知参与,我们强调了探索LLM的每个概念的重要性。我们的目标是启动以人为中心的LLM评估。
2023-03-10 cs.AI cs.HC