Human-Centered Evaluation of RAG outputs: a framework and questionnaire for human-AI collaboration
Dresden University of Technology(德累斯顿技术大学)
本研究针对RAG输出缺乏系统性以人为中心评估的问题,基于效用维度框架设计并迭代优化含12个维度的评估问卷,对比了人类与LLM的评分特点,拓展了初始评估框架。
2025-09-30 cs.AI
HCC Is All You Need: Alignment-The Sensible Kind Anyway-Is Just Human-Centered Computing
School of Information & CSE(信息学院与计算机科学与工程系);University of Michigan(密歇根大学)
该文提出将 AI 对齐归入人本计算,强调明智的对齐本质上是以人类为中心的计算问题。
2024-04-30 cs.AI cs.HC
Q-SMASH: Q-Learning-based Self-Adaptation of Human-Centered Internet of Things
Orange Labs(Orange实验室);Univ. Lyon, Universite Jean Monnet(里昂大学,让·莫内大学);Mines Saint-Etienne, Univ. Clermont Auvergne, CNRS, UMR 6158 LIMOS, Institut Henri Fayol(圣艾蒂安国立高等矿业学校,克莱蒙奥弗涅大学,法国国家科学研究中心,UMR 6158 LIMOS实验室,亨利·法约尔研究所)
随着以人为中心的物联网(HCIOT)应用数量的增加,其服务和设备的自适应正在成为解决决策过程中环境不确定性的基本要求。HCIOT的自适应旨在管理动态环境中的运行时更改,并调整IoT对象的功能,以便在执行期间实现预期目标。SMASH是一个支持语义的多智能体系统,用于HCIOT的自适应,可以自主地使物联网对象适应其环境的不确定性。SMASH只根据用户的人性价值来解决物联网应用的自适应,而没有解决用户的行为。本文介绍了Q-SMASH:一种基于多智能体强化学习的方法,用于在以人为中心的环境中自适应物联网对象。Q-SMASH旨在学习用户的行为,同时尊重人类价值观。Q-SMASH的学习能力使其能够适应用户的行为变化,并在不同的状态和情况下做出更准确的决策。
2021-07-13 cs.AI
Solution Space Path Planning: A Real-Time Human-Centered Path Planning Algorithm for En-Route Air Traffic Control
Delft University of Technology(代尔夫特理工大学)
提出一种基于解空间的冲突避免路径规划算法,集成三种意图冲突检测方法,通过顶点和边搜索节点实现高效计算,在MUAC Delta扇区测试中平均计算时间3.69毫秒。
2026-08-03 cs.AI cs.RO cs.SY
User Centered Design (VI): Human Factors Approaches for Intelligent Human-Computer Interaction
Zhejiang University(浙江大学)
从“以用户为中心”的设计理念出发,分析了智能人机交互(iHCI)的人因特征,提出了“面向用户的iHCI”概念。本文进一步提出了一个新的人的因素框架的基础上,联合认知系统,态势感知和智能代理的理论。在此基础上,分析了无人驾驶生态系统中的人因问题,并提出了初步的人因解决方案。最后,本文分析了iHCI的两个重要研究领域(即,用户意图识别,人机协作),并指出了未来研究的关键人为因素问题。
2022-10-07 cs.AI cs.HC
Expectation-Aware Planning: A Unifying Framework for Synthesizing and Executing Self-Explaining Plans for Human-Aware Planning
Arizona State University(亚利桑那州立大学);IBM Research AI(IBM人工智能研究院)
在这项工作中,我们提出了一种新的规划形式主义,称为预期感知规划决策与人类在循环中的人的期望代理可能会有所不同,从代理自己的模型。我们展示了这种配方如何允许代理不仅利用现有的策略来处理模型差异,而且还可以表现出通过这些不同策略的组合产生的新行为。我们的提法也揭示了一个深刻的连接到现有的方法在认知规划。具体来说,我们将展示如何利用经典的规划编制的认知规划,以解决预期意识规划问题。据我们所知,拟议的配方是第一个完整的解决方案,决策存在分歧的用户的期望,是服从一个经典的规划汇编,同时成功地结合以前的作品解释和可解释性。我们经验性地展示了我们的方法如何提供比现有近似方法更好的计算优势,这些方法不必要地尝试在模型空间中搜索,同时也无法促进我们框架所支持的全部行为。
2019-11-11 cs.AI
Improving Human Decision-Making by Discovering Efficient Strategies for Hierarchical Planning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
为了在现实世界中做出好的决策,人们需要有效的规划策略,因为他们的计算资源是有限的。了解哪些规划策略最适合不同情况下的人,对于理解和改进人类决策非常有用。但我们计算这些策略的能力过去仅限于非常小和非常简单的规划任务。为了克服这一计算瓶颈,我们引入了一种认知启发的强化学习方法,可以通过利用人类行为的层次结构来克服这一限制。其基本思想是将顺序决策问题分解为两个子问题:设定目标和规划如何实现目标。这种层次分解使我们能够在比以前可能的更大和更复杂的任务中发现人类规划的最佳策略。所发现的策略优于现有的规划算法,并实现了超人水平的计算效率。我们证明,教人们使用这些策略显着提高了他们的表现,在顺序决策任务,需要规划多达八个步骤。相比之下,以前的方法都不能提高人类在这些问题上的表现。这些研究结果表明,我们的认知知情的方法使得有可能利用强化学习,以改善人类在复杂的顺序决策问题的决策。未来的工作可以利用我们的方法来开发决策支持系统,改善人类在现实世界中的决策。
2021-01-31 cs.AI
Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy
University of Maryland(马里兰大学)
设计良好的技术,提供高水平的人类控制和高水平的计算机自动化,可以提高人类的表现,导致更广泛的采用。以人为中心的人工智能(HCAI)框架阐明了如何(1)设计高水平的人类控制和高水平的计算机自动化,以提高人类的表现,(2)了解完全人类控制或完全计算机控制是必要的情况,以及(3)避免过度人类控制或过度计算机控制的危险。HCAI的方法更有可能产生可靠、安全和值得信赖的设计。实现这些目标将大大提高人类的表现,同时支持人类的自我效能,掌握,创造力和责任感。
2020-02-23 cs.AI cs.HC
Advancing Multimodal Data Fusion in Pain Recognition: A Strategy Leveraging Statistical Correlation and Human-Centered Perspectives
University of California, Berkeley(加州大学伯克利分校);University College London(伦敦大学学院);University of California, San Diego(加州大学圣地亚哥分校);Holistic AI
本研究提出一种结合统计相关性与以人为本特征的多模态融合方法,用于疼痛行为识别,提升性能、可解释性及临床适用性。
2024-08-01 cs.AI
Who's Thinking? A Push for Human-Centered Evaluation of LLMs using the XAI Playbook
Arthur(亚瑟)
部署的人工智能(AI)通常会影响人类,并且没有一个放之四海而皆准的指标来评估这些工具。以人为本的AI系统评估结合了定量和定性分析以及人工输入。它已经在可解释人工智能(XAI)和人机交互(HCI)社区中进行了深入的探索。差距仍然存在,但基本的理解是,人类与人工智能互动,以及随之而来的解释,以及人类的需求--包括他们的认知偏见和怪癖--应该被放在首位和中心,这一点被社区所接受。在本文中,我们将相对成熟的XAI领域与围绕大语言模型(LLM)的快速发展的研究热潮进行了比较。LLM的公认评价指标不是以人为中心的。我们认为,在过去十年中,XAI社区所走过的许多相同的道路将在讨论LLM时被翻新。具体来说,我们认为,人类的倾向-再一次,与他们的认知偏见和怪癖-应该休息的前面和中心时,评估部署的LLM。我们概述了以人为本的XAI评估的三个重点领域:心智模型,用例效用和认知参与,我们强调了探索LLM的每个概念的重要性。我们的目标是启动以人为中心的LLM评估。
2023-03-10 cs.AI cs.HC
Towards Multifaceted Human-Centered AI
Megagon Labs(美加贡实验室)
以人为本的人工智能工作流程涉及具有多个角色的利益相关者,这些角色相互交互,并自动化代理完成各种任务。在本文中,我们呼吁一个整体的观点时,设计的支持机制,如互动模式,接口和系统,这些多方面的工作流程。
2023-01-09 cs.AI cs.DB cs.HC
Whose Ground Truth? Embracing Ambiguity in Human-Centered AI
Massachusetts Institute of Technology(麻省理工学院);Novo Nordisk A/S(诺和诺德公司);Copenhagen Business School(哥本哈根商学院);Aalborg University(奥尔堡大学)
该论文针对以人为中心AI中传统真实值假设忽略人类解释多样性的问题,提出应建模合理人类判断的解释空间,区分有意义歧义与标注噪声,以开发更贴合人类多样性的AI。
2026-10-09 cs.AI cs.LG
Using Learning Theories to Evolve Human-Centered XAI: Future Perspectives and Challenges
本文探讨如何将学习理论融入XAI生命周期,分析以学习者为中心的AI解释方法的机会与挑战,旨在提升人类自主性并缓解XAI风险。
2026-04-01 cs.AI cs.HC
Requirements Engineering Framework for Human-centered Artificial Intelligence Software Systems
Deakin University(迪肯大学);Monash University(莫纳什大学);CSIRO’s Data 61(澳大利亚联邦科学与工业研究组织数据61研究所)
本文提出了一个基于以人为本的AI指南和用户调查的需求工程框架,包含需求目录和概念模型,通过案例研究证明其能有效帮助项目团队理解并捕获以人为本的需求。
2023-05-18 cs.AI cs.SE
What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps
University of Augsburg(奥格斯堡大学)
在医疗保健领域,人工智能系统在诊断、治疗和监测方面为临床医生和患者提供支持,但许多系统的可解释性差仍然是实际应用的挑战。克服这一障碍是可解释AI(XAI)的目标。然而,一种解释可能会被不同的人所理解,因此,并不能为每个人解决黑箱问题。以人为中心的AI领域通过使AI适应用户来解决这个问题。我们提出了一个以用户为中心的人物角色的概念来评估XAI,并使用它来调查终端用户的偏好,在移动健康压力监测应用程序的各种解释风格和内容。我们的在线调查结果显示,用户的人口统计数据和个性,以及解释类型,影响解释偏好,表明这些是XAI设计的基本特征。我们将结果归纳为三种典型的用户角色:权力型用户、休闲型用户和隐私型用户。我们的见解使交互式、以人为本的XAI更接近实际应用。
2022-10-07 cs.AI cs.HC
Human-Centered Explainable AI (XAI): From Algorithms to User Experiences
Microsoft Research(微软研究院);IBM Research(IBM研究院)
近年来,可解释人工智能(XAI)领域已经产生了大量的算法,为研究人员和从业者构建XAI应用程序提供了有用的工具箱。随着丰富的应用机会,可解释性被认为已经超越了数据科学家或研究人员理解他们开发的模型的需求,成为人们信任和采用在众多领域部署的人工智能的基本要求。然而,可解释性本质上是以人为中心的属性,该领域开始接受以人为中心的方法。这一领域的人机交互(HCI)研究和用户体验(UX)设计正变得越来越重要。在本章中,我们从XAI算法的技术前景的高层次概述开始,然后有选择地调查我们自己和其他最近的HCI作品,这些作品采用以人为本的方法来设计,评估,并为XAI提供概念和方法工具。我们提出的问题是“以人为本的方法为XAI做什么”,并强调他们在塑造XAI技术中发挥的三个作用,帮助导航,评估和扩展XAI工具箱:通过用户的可解释性需求来驱动技术选择,发现现有XAI方法的陷阱并告知新方法,并为人类兼容的XAI提供概念框架。
2022-04-19 cs.AI cs.HC
Human Centered AI for Indian Legal Text Analytics
University of Delhi(德里大学);IBM Research(IBM研究院)
该论文提出一种以人为中心的复合AI系统,结合人类输入与LLMs,用于提升印度法律文本分析任务的性能,并引入新数据集。
2024-03-16 cs.AI cs.HC
Human-Centered Human-AI Collaboration (HCHAC)
Zhejiang University(浙江大学)
本文从以人为中心的视角探讨人机协作(HAC)的本质与特征,提出HCHAC框架,并通过自动驾驶案例阐明人机协同交互,指明了未来提升系统有效性、可靠性与伦理整合的研究方向。
2025-05-28 cs.AI cs.CY cs.HC
Position: AI Must Become Planet-Centered, Not Just Human-Centered
本文提出以行星为中心的AI(PCAI)设计哲学,通过系统思维重新定位AI以应对全球性社会-生态系统挑战,并强调与全球议程对齐、系统感知基础、轨迹导向评估和可监测性。
2026-06-15 cs.AI cs.CY cs.LG
Human-centered In-building Embodied Delivery Benchmark
Polar Research General Services(极地研究综合服务机构);Samsung R&D Institute China - Beijing(三星中国北京研发中心);Peking University(北京大学)
本研究提出以人为中心的室内具身配送商业场景,构建包含多层建筑、自主人类角色与机器人的虚拟环境及13k条指令的配送数据集,并提出基于大型多模态模型的基线系统,为具身智能领域带来新视角。
2024-06-25 cs.AI cs.RO
Humanizing AI Grading: Student-Centered Insights on Fairness, Trust, Consistency and Transparency
North Carolina State University(北卡罗来纳州立大学)
本研究通过比较AI与人工评分反馈,探讨学生对AI评分系统在公平性、信任、一致性与透明性方面的看法,并提出人本化AI的设计原则。
2026-02-22 cs.AI cs.HC
A Human-Centered Review of Algorithms in Decision-Making in Higher Education
University of Toronto(多伦多大学)
算法在高等教育决策中的应用正在稳步增长,这有望为机构节省成本,为学生提供个性化服务,但也引发了围绕数据监督、公平和解释的伦理挑战。为了解决缺乏系统的了解,这些算法目前是如何设计的,我们回顾了大量的论文,提出算法在高等教育决策。我们根据输入数据、计算方法和目标结果对它们进行了分类,然后研究了这些因素与以人为本的透镜应用的相互关系:理论设计、参与设计或投机设计。我们发现,这些模型正朝着深度学习的方向发展,并越来越多地使用学生个人数据和受保护的属性,目标范围正在向自动化决策方向扩展。然而,尽管可解释性和可解释性相关降低,但目前的发展主要未能纳入以人为中心的镜片。我们讨论这些趋势带来的挑战,并倡导以人为本的方法。
2023-02-12 cs.AI cs.CY cs.HC
RAH! RecSys-Assistant-Human: A Human-Centered Recommendation Framework with LLM Agents
Fudan University(复旦大学);Microsoft Research Asia(微软亚洲研究院)
本研究提出RAH框架,利用基于LLM的智能体(感知、学习、行动、评估、反思)和Learn-Act-Critic循环,通过以人为本的方法解决推荐系统中的准确性、偏见和冷启动问题,有效减轻用户负担并增强控制。
2023-10-17 cs.AI cs.IR
Towards Human Centered AutoML
LMU Munich(慕尼黑大学)
从数据构建模型是大多数数据科学工作流的组成部分。虽然数据科学家通常被迫将给定项目的大部分时间用于数据清理和探索性分析,但由于给定项目的时间限制,从业者从数据构建实际模型的时间通常相当短。AutoML系统目前越来越受欢迎,因为它们可以在没有人类监督的情况下构建强大的模型。在这份立场文件中,我们的目的是讨论这种系统的日益普及的影响,以及如何为这些系统以用户为中心的界面可能看起来像。更重要的是,我们还想指出这些系统中目前缺少的功能,并从数据科学家的角度开始探索这些系统的更好可用性。
2019-11-06 cs.AI cs.HC
SMASH: a Semantic-enabled Multi-agent Approach for Self-adaptation of Human-centered IoT
Orange Labs(奥兰治实验室);Université Jean Monnet(让·莫内大学);Univ. Lyon(里昂大学);Mines Saint-Etienne(圣艾蒂安高等矿业学校);Univ. Clermont Auvergne(克莱蒙奥弗涅大学);CNRS(法国国家科学研究中心)
如今,物联网设备的活动范围越来越大,从感知,计算到行动,甚至更多,学习,推理和规划。随着物联网应用数量的增加,这些对象变得越来越普遍。因此,他们需要调整其功能以应对环境的不确定性,以实现其目标。在以人为中心的物联网中,物体和设备与人类直接交互,并可以访问在线上下文信息。这种应用的自我调整是一个关键问题,需要以尊重人类目标和人类价值的方式加以解决。因此,物联网应用程序必须配备自适应技术,以本地或相互合作管理其运行时的不确定性。本文介绍了SMASH:一种在以人为中心的环境中自适应物联网应用的多代理方法。在本文中,我们考虑了灵巧家庭作为智能环境的案例研究。SMASH代理提供了一个基于BDI代理模型的4层架构,该模型将人类价值与目标推理,计划和行动相结合。它还利用一个名为Home'In的语义支持平台来解决具有异构协议和数据格式的不同代理和设备之间的互操作性问题。这种方法与文献进行了比较,并通过开发一个场景作为概念验证进行了验证。SMASH智能体的及时响应表明了该方法在以人为中心的环境中的可行性。
2021-05-31 cs.AI cs.HC
Human-Centered Responsible Artificial Intelligence: Current & Future Trends
Nokia Bell Labs(诺基亚贝尔实验室);IBM Research AI(IBM研究院人工智能部门);University of Glasgow(格拉斯哥大学);Microsoft Research(微软研究院);Northeastern University(东北大学);Google(谷歌);Meta;University of Edinburgh(爱丁堡大学)
近年来,CHI社区在以人为中心的负责任人工智能研究方面取得了显着增长。虽然不同的研究团体可能会使用不同的术语来讨论类似的主题,但所有这些工作最终都旨在开发有利于人类的人工智能,同时以人权和道德为基础,并减少人工智能的潜在危害。在这个特殊兴趣小组中,我们的目标是汇集来自学术界和工业界对这些主题感兴趣的研究人员,以绘制当前和未来的研究趋势,通过促进合作和分享想法来推进这一重要的研究领域。
2023-02-16 cs.AI cs.HC
Responsible AI Implementation: A Human-centered Framework for Accelerating the Innovation Process
Griffith University(格里菲斯大学);Gold Coast University Hospital(黄金海岸大学医院);Queensland Health(昆士兰卫生厅);Everledger
期望与成功采用人工智能来创新和改进业务之间仍存在巨大差距。由于深度学习的出现,人工智能的采用变得更加复杂,因为它通常包含大数据和物联网,影响数据隐私。现有的框架已经确定了关注以人为本的设计的必要性,结合技术和业务/组织的角度。然而,信任仍然是一个关键问题,需要从一开始就进行设计。所提出的框架扩展了以人为本的设计方法,强调和维护支撑过程的信任。本文提出了一个负责任人工智能(AI)实现的理论框架。拟议的框架强调了敏捷共创过程的协同业务技术方法。其目的是通过让所有利益相关者参与整个项目来简化人工智能的采用过程,以创新和改善业务,从而使人工智能技术的设计,开发和部署与人结合,而不是孤立。该框架基于分析性文献综述、概念框架设计和从业者的中介专业知识,对负责任的人工智能实施提出了新的观点。该框架强调在以人为本的设计和敏捷开发过程中建立和维护信任。这种以人为本的方法与隐私设计原则相一致并由隐私设计原则实现。该技术的创造者和最终用户正在共同努力,专门针对业务需求和人类特征定制AI解决方案。一个关于采用人工智能辅助医院规划的说明性案例研究将证明所提出的框架适用于现实生活中的应用。
2022-09-15 cs.AI cs.HC
Human-Centered AI for Data Science: A Systematic Approach
IBM Research(IBM研究院);University of Michigan(密歇根大学)
以人为中心的人工智能(HCAI)是指旨在设计和实施人工智能技术以支持各种人类任务的研究工作,同时考虑人类需求并保持人类控制。在这篇简短的论文中,我们将说明如何使用一系列围绕数据科学(DS)的研究项目作为案例研究来实现HCAI。为支持DS作品而构建的AI技术统称为AutoML系统,其目标是自动化DS工作流程的某些部分。我们说明了一个三步系统的研究方法(即,探索,建立和集成)和HCAI系统的四种实用方法。我们认为,我们的工作是人类与人工智能合作的最终未来的基石,人工智能和人类可以发挥互补和不可或缺的作用,以实现更好的结果和体验。
2021-10-03 cs.AI cs.HC cs.LG
Human-Centered Autonomous Vehicle Systems: Principles of Effective Shared Autonomy
Massachusetts Institute of Technology (MIT)(麻省理工学院(MIT))
打造高效、舒适、安全的自动驾驶汽车比历史上人们所认为的要困难得多。原因在于,简单地说,自动驾驶汽车必须与人类互动。这种互动不是机器人问题,也不是机器学习问题,也不是心理学问题,也不是经济学问题,也不是政策问题。它是所有这些问题的集合。它挑战了我们对人类在最坏情况下的局限性和人工智能系统在最好情况下的能力的假设。这项工作提出了一套以人为本的方式设计和建造自动驾驶汽车的原则,这种原则不会逃避人性的复杂性,而是拥抱它。我们描述了我们以人为本的自动驾驶汽车(HCAV)的开发,作为在实践中实施这些原则的说明性案例研究。
2018-10-03 cs.AI cs.CV cs.HC
A Human-Centered Safe Robot Reinforcement Learning Framework with Interactive Behaviors
Technical University of Munich(慕尼黑工业大学);Technical University of Darmstadt(达姆施塔特工业大学);King’s College London(伦敦国王学院);Tongji University(同济大学)
本文提出一个以人为中心的安全机器人强化学习框架,包含安全探索、价值对齐和协作三阶段,并强调利用交互行为(如ChatGPT)来应对鲁棒性、效率、透明性和适应性挑战。
2023-10-16 cs.AI cs.RO
Enhancing Human Experience in Human-Agent Collaboration: A Human-Centered Modeling Approach Based on Positive Human Gain
Tencent AI Lab(腾讯AI实验室);Tencent TiMi L1 Studio(腾讯天美L1工作室)
针对现有游戏AI以智能体为中心易导致人类协作体验不佳的问题,提出以人为中心的RLHG方法,在维持智能体获胜能力的同时提升人类目标达成度,在《Honor of Kings》的真人测试中验证了其能改善人类游戏体验。
2024-01-28 cs.AI cs.HC
The Challenges and Opportunities of Human-Centered AI for Trustworthy Robots and Autonomous Systems
Loughborough University(拉夫堡大学);University of Manchester(曼彻斯特大学);Ulster University(阿尔斯特大学)
机器人和自主系统(RAS)的可信度在许多研究议程中获得了突出的地位,以实现完全自主的系统。这项研究首次系统地探讨了以人为本的人工智能(HAI)的关键方面,以实现可信赖的RAS。在本文中,我们首先确定了值得信赖的RAS的五个关键属性。RAS必须(i)在任何不确定和动态的周围环境中安全;(ii)安全,从而保护自身免受任何网络威胁;(iii)具有容错的健康;(iv)可信且易于使用,以允许有效的人机交互(HMI),以及(v)符合法律和道德期望。然后,分析了实现可信赖的自治系统的挑战,在五个关键属性方面,并探讨了人工智能技术的作用,以确保RAS在安全,安全,健康和HMI方面的可信赖性,同时反映RAS设计中的伦理要求。虽然RAS的应用主要集中在性能和生产力上,但RAS中先进人工智能带来的风险尚未得到足够的科学关注。因此,提供了一种新的RAS接受模型,作为以人为中心的AI需求的框架,并通过设计实现可信赖的RAS。这种方法促进人类水平的智能,以增强人类的能力。同时专注于对人类的贡献。
2021-05-07 cs.AI cs.RO
HELM: A Human-Centered Evaluation Framework for LLM-Powered Recommender Systems
HELM框架通过五个以人为本的维度评估LLM推荐系统,揭示传统指标无法捕捉的关键质量维度,并展示GPT-4在解释质量与交互自然性上的优势及流行度偏差。
2026-01-27 cs.AI cs.IR
A Multi-Layered Research Framework for Human-Centered AI: Defining the Path to Explainability and Trust
本文提出一个连接HCAI与XAI的三层框架,通过基础模型可解释性、以人为本的解释层和动态反馈循环,在多高风险领域提升AI决策透明度与信任。
2025-04-26 cs.AI cs.HC
Human-centered AI with focus on Human-robot interaction (Book chapter)
University of Salerno(萨莱诺大学)
本章基于以人为本人工智能原则,首次提出“双重金字塔”框架,系统梳理从微观一对一交互到宏观社会层面的人机交互人类需求,并关联联合国可持续发展目标。
2025-07-05 cs.AI cs.HC cs.RO
Human-centered Explainable AI: Towards a Reflective Sociotechnical Approach
Georgia Institute of Technology(佐治亚理工学院)
解释-一种事后可解释性的形式-在使系统可访问方面发挥着重要作用,因为人工智能继续扩散复杂和敏感的社会技术系统。在本文中,我们介绍了以人为中心的可解释人工智能(HCXAI)作为一种将人类置于技术设计中心的方法。它通过考虑价值观、人际动态和人工智能系统的社会地位的相互作用,发展了对人类“谁”的全面理解。特别是,我们提倡一种反思性的社会技术方法。我们通过一个针对非技术最终用户的解释系统的案例研究来说明HCXAI,该案例研究展示了技术进步和对人为因素的理解如何共同发展。在案例研究的基础上,我们提出了开放性研究问题,这些问题涉及进一步完善我们对人类“谁”的理解,并超越1对1的人机交互。最后,我们提出,一个反思HCXAI范式介导的关键技术实践的角度,并辅之以策略从HCI,如价值敏感的设计和参与式设计-不仅有助于我们了解我们的知识盲点,但它也可以打开新的设计和研究空间。
2020-02-05 cs.AI cs.HC
HSC4D: Human-centered 4D Scene Capture in Large-scale Indoor-outdoor Space Using Wearable IMUs and LiDAR
Xiamen University(厦门大学);ShanghaiTech University(上海科技大学)
我们提出了以人为中心的4D场景捕捉(HSC 4D),以准确和有效地创建一个动态的数字世界,包含大规模的室内和室外场景,多样化的人体运动,以及丰富的人与环境之间的交互。HSC 4D仅使用身体安装的IMU和LiDAR,没有任何外部设备的限制,没有空间,没有预先构建的地图。考虑到IMU可以捕获人体姿态,但长期使用时总是漂移,而LiDAR对于全局定位是稳定的,但对于局部位置和方向是粗糙的,HSC 4D通过联合优化使两个传感器相互补充,并在长期捕获中取得了有希望的结果。人类和环境之间的关系也被探索,使他们的互动更加现实。为了促进许多下游任务,如AR,VR,机器人,自动驾驶等,我们提出了一个包含三个大场景(1 k-5 k $m^2$)的数据集,其具有精确的动态人体运动和位置。多种场景(攀岩馆、多层建筑、斜坡等)和具有挑战性的人类活动(锻炼、上下楼梯、攀爬等)证明了HSC 4D的有效性和泛化能力。数据集和代码可在http://www.lidarhumanmotion.net/hsc4d/上获得。
2022-06-22 cs.AI cs.CV
Human-Centered AI Communication in Co-Creativity: An Initial Framework and Insights
Towson University(托森大学);University of the Arts London(伦敦艺术大学)
本文提出FAICO框架,基于107篇论文综述和焦点小组研究,强调人机反馈循环与上下文重要性,为共创AI通信设计提供初步指南。
2025-05-23 cs.AI cs.HC
Transitioning to human interaction with AI systems: New challenges and opportunities for HCI professionals to enable human-centered AI
Zhejiang University(浙江大学);Miami University(迈阿密大学)
虽然人工智能使人类受益,但如果开发不当,它也可能伤害人类。人机交互工作的重点是从传统的人类与非人工智能计算系统的交互过渡到与人工智能系统的交互。我们从HCI的角度对当前开发AI系统的工作进行了高层次的文献综述和全面分析。我们的回顾和分析强调了AI技术带来的新变化,以及HCI专业人员在AI系统开发中应用以人为本的AI(HCAI)方法时面临的新挑战。我们还确定了人类与AI系统交互中的七个主要问题,这是HCI专业人员在开发非AI计算系统时没有遇到的。为了进一步实现HCAI方法,我们确定了与特定HCAI驱动的设计目标相关的新HCI机会,以指导HCI专业人员解决这些新问题。最后,我们对当前HCI方法的评估显示了这些方法在支持开发AI系统方面的局限性。我们提出了一些替代方法,可以帮助克服这些限制,并有效地帮助HCI专业人员将HCAI方法应用于AI系统的开发。我们还为HCI专业人员提供战略建议,以有效地影响HCAI方法的AI系统的开发,最终开发HCAI系统。
2023-03-06 cs.AI cs.HC
Human-centered collaborative robots with deep reinforcement learning
KTH Royal Institute of Technology(瑞典皇家理工学院)
我们提出了一个基于强化学习的以人为中心的协作系统框架。该框架是积极主动的,通过最大限度地减少完成任务所花的总时间,平衡了及时行动的好处和采取不当行动的风险。该框架以无监督的方式进行端到端的学习,以综合的方式解决感知不确定性和决策。该框架被证明是提供更流畅的协调人类和机器人合作伙伴之间的一个例子任务的包装相比,感知和决策系统独立学习的替代品,使用监督学习。所提出的方法的最大好处是,它允许快速适应新的人类合作伙伴和任务,因为繁琐的注释的运动数据被避免,并在线进行学习。
2020-07-02 cs.AI cs.LG cs.RO
AgentSocialBench: Evaluating Privacy Risks in Human-Centered Agentic Social Networks
Carnegie Mellon University(卡内基梅隆大学)
研究探讨了人类中心代理社交网络中的隐私挑战,提出AgentSocialBench基准,揭示代理协作中隐私保护的复杂性及现有LLM在隐私保护上的不足。
2026-04-06 cs.AI cs.SI
Herding the Crowd: Automated Planning for Crowdsourced Planning
Arizona State University(亚利桑那州立大学)
人们对众包和人工计算产生了极大的兴趣。人类计算应用的一个子类是针对涉及规划(例如旅行规划)和调度(例如会议调度)的任务的那些。这些工作大部分都出现在传统的自动规划论坛之外,而且在一开始,人们并不清楚自动规划是否在这些人类计算系统中发挥了很大的作用。然而,有趣的是,对这些系统的研究表明,即使是对人类规划者进行自动监督的原始形式,也有助于显着提高人类/人群的有效性。在本文中,我们将认为,在这些系统中使用的自动化监督可以被视为一个原始的自动化规划,并有几个更复杂的自动化规划的机会,有效地引导众包规划。然而,当前规划技术的直接适应受到人类工作者和自动规划器之间的能力不匹配的阻碍。我们确定了两个重要的挑战,需要克服这种适应规划技术可以发生之前:(i)解释人类工作者(和请求者)的输入和(ii)指导或批评的计划正在由人类工作者武装只有不完整的域和偏好模型。在本文中,我们讨论了处理这些挑战的方法,并根据他们在处理这些挑战时所做的具体选择来描述现有的人类计算系统。
2013-07-29 cs.AI cs.HC
A Cognitive Science perspective for learning how to design meaningful user experiences and human-centered technology
Carnegie Mellon University(卡内基梅隆大学)
本文回顾了认知科学、人机交互(HCI)和自然语言处理(NLP)方面的文献,以考虑类比推理(AR)如何帮助设计通信和学习技术,以及在线社区和数字平台。首先,类比推理(AR)的定义,AR在计算科学中的用例。介绍了模式的概念,以及计算中的用例。最后,建议在计算科学中使用类比推理和模式方法的未来工作。
2021-06-02 cs.AI cs.CY cs.HC
Beyond Chat: a Framework for LLMs as Human-Centered Support Systems
本文提出了一种LLMs作为以人为中心的支持系统框架,旨在通过透明性、个性化等原则,提升人类在决策和幸福感方面的支持,同时应对隐私、偏见等风险。
2025-09-25 cs.AI cs.HC
How Human-Centered Explainable AI Interface Are Designed and Evaluated: A Systematic Survey
IT University of Copenhagen(哥本哈根信息技术大学);Royal Danish Academy(丹麦皇家艺术学院)
本文系统性综述了53篇文献,指出可解释界面(EIs)聚焦XAI的用户界面与体验设计,以提升系统可用性与实际可解释性,并揭示了人机交互趋势及未来设计与开发方向。
2024-03-21 cs.AI cs.HC
Joint Optimization of AI Fairness and Utility: A Human-Centered Approach
IBM Research AI(IBM研究院人工智能部门)
如今,人工智能越来越多地用于许多高风险的决策应用,其中公平性是一个重要的问题。已经有许多人工智能存在偏见并做出可疑和不公平决定的例子。人工智能研究界已经提出了许多方法来衡量和减轻不必要的偏见,但其中很少涉及人类政策制定者的投入。我们认为,由于不同的公平标准有时不能同时满足,因为实现公平往往需要牺牲其他目标,如模型的准确性,它是关键,以获取和坚持人类决策者的偏好,如何使这些目标之间的权衡。在本文中,我们提出了一个框架和一些示例方法,用于引发这种偏好,并根据这些偏好优化AI模型。
2020-02-05 cs.AI cs.HC
Toward a Human-Centered AI-assisted Colonoscopy System in Australia
University of Adelaide(阿德莱德大学);University of Surrey(萨里大学);Lyell McEwin Hospital(莱尔·麦克尤恩医院)
本文基于澳大利亚实地研究,指出AI辅助结肠镜检查的开发过于侧重算法性能,忽视用户体验,主张人机交互社区推动以用户为中心的设计以充分发挥AI潜力。
2025-03-15 cs.AI cs.HC
Toward Human-Centered Readability Evaluation
Center for Artificial Intelligence in Public Health Research (ZKI-PH)(公共健康研究中的人工智能研究中心);Robert Koch Institute(罗伯特· Koch 研究所);Department of Mathematics and Computer Science(数学与计算机科学系)
针对现有NLP可读性指标仅捕捉表层特征而忽略以人为中心特质的局限,提出结合自动化度量与人类反馈的五维评估框架HCRS,以推动健康文本简化评估更契合用户需求。
2025-10-12 cs.AI cs.CL
The European Commitment to Human-Centered Technology: The Integral Role of HCI in the EU AI Act's Success
University of Lübeck(吕贝克大学)
本文指出欧盟《人工智能法案》要成功落实,必须依靠人机交互研究来评估人工智能系统对人的影响,避免重蹈GDPR实施混乱的覆辙,从而实现以人为本且有效的人工智能发展。
2024-06-13 cs.AI cs.HC
Enabling Human-Centered AI: A Methodological Perspective
Zhejiang University(浙江大学)
本文提出一个综合性的以人为本的人工智能(HCAI)框架,包含设计目标、原则、实施方法等组件,并引入“三层”方法促进实施,以克服现有框架的弱点并推动HCAI实践。
2023-11-14 cs.AI cs.CY cs.SE
STARdom: an architecture for trusted and secure human-centered manufacturing systems
Jožef Stefan International Postgraduate School(约热夫·斯特凡国际研究生院);Jožef Stefan Institute(约热夫·斯特凡研究所);Qlector d.o.o.(Qlector 有限公司);University of West Attica(西阿提卡大学);Ubitech Ltd(Ubitech 有限公司);R2M Solution Srl(R2M Solution 有限公司);University of Cagliari(卡利亚里大学)
目前缺乏一个单一的架构规范来满足可信和安全的人工智能系统的需求,例如以人为本的制造系统是工业5.0发展的核心。为了实现这一点,我们提出了一个架构,集成预测,可解释的人工智能,支持收集用户的反馈,并使用主动学习和模拟现实,以提高预测和提供决策建议。体系结构的安全性作为一个普遍关注的问题。我们将建议的架构与大数据价值关联参考架构模型保持一致。我们为需求预测领域量身定制,并在现实世界的案例研究中进行验证。
2021-04-02 cs.AI cs.SE
AAAI FSS-19: Human-Centered AI: Trustworthiness of AI Models and Data Proceedings
为了促进人工智能系统在现实应用中指导决策的广泛接受,解决方案必须包括值得信赖的集成人工智能系统。不仅在自动驾驶或医疗等安全关键型应用中,而且在工业和政府的动态开放世界系统中,预测模型必须具有不确定性并产生可靠的预测。在企业规模部署人工智能的另一个关键要求是认识到将以人为本的设计集成到人工智能系统中的重要性,以便人类能够有效地使用系统,理解结果和输出,并向监督委员会解释结果。虽然本次研讨会的重点是人工智能系统,以提高数据质量和技术的鲁棒性和安全性,但我们欢迎来自广泛定义领域的提交材料,这些材料还讨论了解决可解释模型,人类信任和人工智能伦理方面等要求的方法。
2020-01-15 cs.AI cs.CY cs.LG
Comparing Socio-technical Design Principles with Guidelines for Human-centered AI
该研究将以人为本的人工智能指南与社会技术系统原则比较,通过纳入人工智能使用方面修订社会技术启发法,揭示社会技术系统持续演进等特征,指出透明度需系统各方实现,还表明合理设计组织和社会实践对利用人工智能很有前景。
2026-07-14 cs.AI cs.CY
A Human-Centered Review of the Algorithms used within the U.S. Child Welfare System
Marquette University(马凯特大学);University of Central Florida(中佛罗里达大学)
美国儿童福利系统(CWS)负责改善寄养青年的成果;然而,他们负担过重,资金不足。为了克服这一限制,一些州已经转向算法决策系统,以降低成本,并确定更好的流程来改善CWS的结果。使用以人为中心的算法设计方法,我们综合了50篇关于CWS中使用的计算系统的同行评审出版物,以评估它们是如何开发的,所使用的预测因子的共同特征以及目标结果。我们发现大多数文献都集中在风险评估模型上,但没有考虑理论方法(例如,儿童-养父母匹配)也不是个案工作者的观点(例如,案例注释)。因此,未来的算法应该努力是上下文感知和理论上的强大,结合过去的研究确定的显着因素。我们为HCI社区提供研究途径,以开发以人为本的算法,将注意力转向CWS更公平的结果。
2020-03-07 cs.AI cs.CY cs.HC