AI Should Facilitate Democratic Deliberation at Scale
Stanford Graduate School of Business（斯坦福大学商学院）；Stanford Institute for Human-Centered AI（斯坦福大学以人为本人工智能研究院）；MIT Media Lab（麻省理工学院媒体实验室）
本文主张AI应通过降低参与门槛、保留人类能动性来促进大规模民主协商，并提出四项原则及挑战，呼吁开发以协商为中心的AI系统。
2026-09-18 cs.AI cs.CL cs.CY
HCC Is All You Need: Alignment-The Sensible Kind Anyway-Is Just Human-Centered Computing
School of Information & CSE（信息学院与计算机科学与工程系）；University of Michigan（密歇根大学）
该文提出将 AI 对齐归入人本计算，强调明智的对齐本质上是以人类为中心的计算问题。
2024-04-30 cs.AI cs.HC
User Centered Design (VI): Human Factors Approaches for Intelligent Human-Computer Interaction
Zhejiang University（浙江大学）
从“以用户为中心”的设计理念出发，分析了智能人机交互（iHCI）的人因特征，提出了“面向用户的iHCI”概念。本文进一步提出了一个新的人的因素框架的基础上，联合认知系统，态势感知和智能代理的理论。在此基础上，分析了无人驾驶生态系统中的人因问题，并提出了初步的人因解决方案。最后，本文分析了iHCI的两个重要研究领域（即，用户意图识别，人机协作），并指出了未来研究的关键人为因素问题。
2022-10-07 cs.AI cs.HC
Towards Multifaceted Human-Centered AI
Megagon Labs（美加贡实验室）
以人为本的人工智能工作流程涉及具有多个角色的利益相关者，这些角色相互交互，并自动化代理完成各种任务。在本文中，我们呼吁一个整体的观点时，设计的支持机制，如互动模式，接口和系统，这些多方面的工作流程。
2023-01-09 cs.AI cs.DB cs.HC
Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy
University of Maryland（马里兰大学）
设计良好的技术，提供高水平的人类控制和高水平的计算机自动化，可以提高人类的表现，导致更广泛的采用。以人为中心的人工智能（HCAI）框架阐明了如何（1）设计高水平的人类控制和高水平的计算机自动化，以提高人类的表现，（2）了解完全人类控制或完全计算机控制是必要的情况，以及（3）避免过度人类控制或过度计算机控制的危险。HCAI的方法更有可能产生可靠、安全和值得信赖的设计。实现这些目标将大大提高人类的表现，同时支持人类的自我效能，掌握，创造力和责任感。
2020-02-23 cs.AI cs.HC
Who's Thinking? A Push for Human-Centered Evaluation of LLMs using the XAI Playbook
Arthur（亚瑟）
部署的人工智能（AI）通常会影响人类，并且没有一个放之四海而皆准的指标来评估这些工具。以人为本的AI系统评估结合了定量和定性分析以及人工输入。它已经在可解释人工智能（XAI）和人机交互（HCI）社区中进行了深入的探索。差距仍然存在，但基本的理解是，人类与人工智能互动，以及随之而来的解释，以及人类的需求--包括他们的认知偏见和怪癖--应该被放在首位和中心，这一点被社区所接受。在本文中，我们将相对成熟的XAI领域与围绕大语言模型（LLM）的快速发展的研究热潮进行了比较。LLM的公认评价指标不是以人为中心的。我们认为，在过去十年中，XAI社区所走过的许多相同的道路将在讨论LLM时被翻新。具体来说，我们认为，人类的倾向-再一次，与他们的认知偏见和怪癖-应该休息的前面和中心时，评估部署的LLM。我们概述了以人为本的XAI评估的三个重点领域：心智模型，用例效用和认知参与，我们强调了探索LLM的每个概念的重要性。我们的目标是启动以人为中心的LLM评估。
2023-03-10 cs.AI cs.HC
Human-Centered Artificial Intelligence and Machine Learning
Georgia Institute of Technology（佐治亚理工学院）
人类越来越多地接触到人工智能和机器学习系统。以人为中心的人工智能是对AI和ML的一种观点，即算法必须在设计时意识到它们是由人类组成的更大系统的一部分。我们提出了一个论点，即以人为中心的人工智能可以分为两个方面：（1）从社会文化角度理解人类的人工智能系统，以及（2）帮助人类理解他们的人工智能系统。我们进一步认为，社会责任的问题，如公平，问责制，可解释性和透明度。
2019-01-31 cs.AI
Using Learning Theories to Evolve Human-Centered XAI: Future Perspectives and Challenges
本文探讨如何将学习理论融入XAI生命周期，分析以学习者为中心的AI解释方法的机会与挑战，旨在提升人类自主性并缓解XAI风险。
2026-04-01 cs.AI cs.HC
Human-Centered Human-AI Collaboration (HCHAC)
Zhejiang University（浙江大学）
本文从以人为中心的视角探讨人机协作（HAC）的本质与特征，提出HCHAC框架，并通过自动驾驶案例阐明人机协同交互，指明了未来提升系统有效性、可靠性与伦理整合的研究方向。
2025-05-28 cs.AI cs.CY cs.HC
Artificial Authority: From Machine Minds to Political Alignments. An Experimental Analysis of Democratic and Autocratic Biases in Large-Language Models
Jagiellonian University（雅盖隆大学）；AGH University of Kraków（克拉科夫AGH大学）；NASK National Research Institute（NASK国家研究院）
本文针对大语言模型是否存在民主或专制世界观倾向展开实验，采用心理与政治倾向测量工具测试不同背景的主流LLMs，发现模型间差异大且与开发国政治文化强相关，呼吁关注AI的社会政治维度研究。
2025-10-04 cs.AI cs.CY
What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps
University of Augsburg（奥格斯堡大学）
在医疗保健领域，人工智能系统在诊断、治疗和监测方面为临床医生和患者提供支持，但许多系统的可解释性差仍然是实际应用的挑战。克服这一障碍是可解释AI（XAI）的目标。然而，一种解释可能会被不同的人所理解，因此，并不能为每个人解决黑箱问题。以人为中心的AI领域通过使AI适应用户来解决这个问题。我们提出了一个以用户为中心的人物角色的概念来评估XAI，并使用它来调查终端用户的偏好，在移动健康压力监测应用程序的各种解释风格和内容。我们的在线调查结果显示，用户的人口统计数据和个性，以及解释类型，影响解释偏好，表明这些是XAI设计的基本特征。我们将结果归纳为三种典型的用户角色：权力型用户、休闲型用户和隐私型用户。我们的见解使交互式、以人为本的XAI更接近实际应用。
2022-10-07 cs.AI cs.HC
Human-Centered Explainable AI (XAI): From Algorithms to User Experiences
Microsoft Research（微软研究院）；IBM Research（IBM研究院）
近年来，可解释人工智能（XAI）领域已经产生了大量的算法，为研究人员和从业者构建XAI应用程序提供了有用的工具箱。随着丰富的应用机会，可解释性被认为已经超越了数据科学家或研究人员理解他们开发的模型的需求，成为人们信任和采用在众多领域部署的人工智能的基本要求。然而，可解释性本质上是以人为中心的属性，该领域开始接受以人为中心的方法。这一领域的人机交互（HCI）研究和用户体验（UX）设计正变得越来越重要。在本章中，我们从XAI算法的技术前景的高层次概述开始，然后有选择地调查我们自己和其他最近的HCI作品，这些作品采用以人为本的方法来设计，评估，并为XAI提供概念和方法工具。我们提出的问题是“以人为本的方法为XAI做什么”，并强调他们在塑造XAI技术中发挥的三个作用，帮助导航，评估和扩展XAI工具箱：通过用户的可解释性需求来驱动技术选择，发现现有XAI方法的陷阱并告知新方法，并为人类兼容的XAI提供概念框架。
2022-04-19 cs.AI cs.HC
A Human-Centered Review of Algorithms in Decision-Making in Higher Education
University of Toronto（多伦多大学）
算法在高等教育决策中的应用正在稳步增长，这有望为机构节省成本，为学生提供个性化服务，但也引发了围绕数据监督、公平和解释的伦理挑战。为了解决缺乏系统的了解，这些算法目前是如何设计的，我们回顾了大量的论文，提出算法在高等教育决策。我们根据输入数据、计算方法和目标结果对它们进行了分类，然后研究了这些因素与以人为本的透镜应用的相互关系：理论设计、参与设计或投机设计。我们发现，这些模型正朝着深度学习的方向发展，并越来越多地使用学生个人数据和受保护的属性，目标范围正在向自动化决策方向扩展。然而，尽管可解释性和可解释性相关降低，但目前的发展主要未能纳入以人为中心的镜片。我们讨论这些趋势带来的挑战，并倡导以人为本的方法。
2023-02-12 cs.AI cs.CY cs.HC
Human-Centered Autonomous Vehicle Systems: Principles of Effective Shared Autonomy
Massachusetts Institute of Technology (MIT)（麻省理工学院（MIT））
打造高效、舒适、安全的自动驾驶汽车比历史上人们所认为的要困难得多。原因在于，简单地说，自动驾驶汽车必须与人类互动。这种互动不是机器人问题，也不是机器学习问题，也不是心理学问题，也不是经济学问题，也不是政策问题。它是所有这些问题的集合。它挑战了我们对人类在最坏情况下的局限性和人工智能系统在最好情况下的能力的假设。这项工作提出了一套以人为本的方式设计和建造自动驾驶汽车的原则，这种原则不会逃避人性的复杂性，而是拥抱它。我们描述了我们以人为本的自动驾驶汽车（HCAV）的开发，作为在实践中实施这些原则的说明性案例研究。
2018-10-03 cs.AI cs.CV cs.HC
Human Centered AI for Indian Legal Text Analytics
University of Delhi（德里大学）；IBM Research（IBM研究院）
该论文提出一种以人为中心的复合AI系统，结合人类输入与LLMs，用于提升印度法律文本分析任务的性能，并引入新数据集。
2024-03-16 cs.AI cs.HC
Human-Centered AI for Data Science: A Systematic Approach
IBM Research（IBM研究院）；University of Michigan（密歇根大学）
以人为中心的人工智能（HCAI）是指旨在设计和实施人工智能技术以支持各种人类任务的研究工作，同时考虑人类需求并保持人类控制。在这篇简短的论文中，我们将说明如何使用一系列围绕数据科学（DS）的研究项目作为案例研究来实现HCAI。为支持DS作品而构建的AI技术统称为AutoML系统，其目标是自动化DS工作流程的某些部分。我们说明了一个三步系统的研究方法（即，探索，建立和集成）和HCAI系统的四种实用方法。我们认为，我们的工作是人类与人工智能合作的最终未来的基石，人工智能和人类可以发挥互补和不可或缺的作用，以实现更好的结果和体验。
2021-10-03 cs.AI cs.HC cs.LG
Humanizing AI Grading: Student-Centered Insights on Fairness, Trust, Consistency and Transparency
North Carolina State University（北卡罗来纳州立大学）
本研究通过比较AI与人工评分反馈，探讨学生对AI评分系统在公平性、信任、一致性与透明性方面的看法，并提出人本化AI的设计原则。
2026-02-22 cs.AI cs.HC
Human-centered AI with focus on Human-robot interaction (Book chapter)
University of Salerno（萨莱诺大学）
本章基于以人为本人工智能原则，首次提出“双重金字塔”框架，系统梳理从微观一对一交互到宏观社会层面的人机交互人类需求，并关联联合国可持续发展目标。
2025-07-05 cs.AI cs.HC cs.RO
A Cognitive Science perspective for learning how to design meaningful user experiences and human-centered technology
Carnegie Mellon University（卡内基梅隆大学）
本文回顾了认知科学、人机交互（HCI）和自然语言处理（NLP）方面的文献，以考虑类比推理（AR）如何帮助设计通信和学习技术，以及在线社区和数字平台。首先，类比推理（AR）的定义，AR在计算科学中的用例。介绍了模式的概念，以及计算中的用例。最后，建议在计算科学中使用类比推理和模式方法的未来工作。
2021-06-02 cs.AI cs.CY cs.HC
Towards Human Centered AutoML
LMU Munich（慕尼黑大学）
从数据构建模型是大多数数据科学工作流的组成部分。虽然数据科学家通常被迫将给定项目的大部分时间用于数据清理和探索性分析，但由于给定项目的时间限制，从业者从数据构建实际模型的时间通常相当短。AutoML系统目前越来越受欢迎，因为它们可以在没有人类监督的情况下构建强大的模型。在这份立场文件中，我们的目的是讨论这种系统的日益普及的影响，以及如何为这些系统以用户为中心的界面可能看起来像。更重要的是，我们还想指出这些系统中目前缺少的功能，并从数据科学家的角度开始探索这些系统的更好可用性。
2019-11-06 cs.AI cs.HC
On some Foundational Aspects of Human-Centered Artificial Intelligence
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Coimbra（科英布拉大学）；Örebro University（厄勒布鲁大学）；Technische Universität Wien（维也纳工业大学）；Universitat Politecnica de Catalunya（加泰罗尼亚理工大学）
人工智能的蓬勃发展促使人们建议人工智能技术应该“以人为本”。然而，对于以人为中心的人工智能（简称HCAI）的含义并没有明确的定义。本文旨在通过解决HCAI的一些基本方面来改善这种情况。为此，我们引入术语HCAI代理来指代任何配备AI组件并与人类交互和/或协作的物理或软件计算代理。本文确定了参与HCAI代理的五个主要概念组件：观察，需求，动作，解释和模型。我们将HCAI代理的概念及其组件和功能视为连接以人为中心的AI的技术和非技术讨论的一种方式。在本文中，我们专注于我们的分析方案组成的一个单一的代理人在动态环境中存在的人类。
2021-12-29 cs.AI
Human-Centered Responsible Artificial Intelligence: Current & Future Trends
Nokia Bell Labs（诺基亚贝尔实验室）；IBM Research AI（IBM研究院人工智能部门）；University of Glasgow（格拉斯哥大学）；Microsoft Research（微软研究院）；Northeastern University（东北大学）；Google（谷歌）；Meta；University of Edinburgh（爱丁堡大学）
近年来，CHI社区在以人为中心的负责任人工智能研究方面取得了显着增长。虽然不同的研究团体可能会使用不同的术语来讨论类似的主题，但所有这些工作最终都旨在开发有利于人类的人工智能，同时以人权和道德为基础，并减少人工智能的潜在危害。在这个特殊兴趣小组中，我们的目标是汇集来自学术界和工业界对这些主题感兴趣的研究人员，以绘制当前和未来的研究趋势，通过促进合作和分享想法来推进这一重要的研究领域。
2023-02-16 cs.AI cs.HC
Responsible AI Implementation: A Human-centered Framework for Accelerating the Innovation Process
Griffith University（格里菲斯大学）；Gold Coast University Hospital（黄金海岸大学医院）；Queensland Health（昆士兰卫生厅）；Everledger
期望与成功采用人工智能来创新和改进业务之间仍存在巨大差距。由于深度学习的出现，人工智能的采用变得更加复杂，因为它通常包含大数据和物联网，影响数据隐私。现有的框架已经确定了关注以人为本的设计的必要性，结合技术和业务/组织的角度。然而，信任仍然是一个关键问题，需要从一开始就进行设计。所提出的框架扩展了以人为本的设计方法，强调和维护支撑过程的信任。本文提出了一个负责任人工智能（AI）实现的理论框架。拟议的框架强调了敏捷共创过程的协同业务技术方法。其目的是通过让所有利益相关者参与整个项目来简化人工智能的采用过程，以创新和改善业务，从而使人工智能技术的设计，开发和部署与人结合，而不是孤立。该框架基于分析性文献综述、概念框架设计和从业者的中介专业知识，对负责任的人工智能实施提出了新的观点。该框架强调在以人为本的设计和敏捷开发过程中建立和维护信任。这种以人为本的方法与隐私设计原则相一致并由隐私设计原则实现。该技术的创造者和最终用户正在共同努力，专门针对业务需求和人类特征定制AI解决方案。一个关于采用人工智能辅助医院规划的说明性案例研究将证明所提出的框架适用于现实生活中的应用。
2022-09-15 cs.AI cs.HC
Position: AI Must Become Planet-Centered, Not Just Human-Centered
本文提出以行星为中心的AI（PCAI）设计哲学，通过系统思维重新定位AI以应对全球性社会-生态系统挑战，并强调与全球议程对齐、系统感知基础、轨迹导向评估和可监测性。
2026-06-15 cs.AI cs.CY cs.LG
The State of Human-centered NLP Technology for Fact-checking
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
错误信息通过促进对科学的不信任，改变公共卫生的叙述，加剧社会两极分化，破坏民主选举和金融市场以及无数其他社会危害来威胁现代社会。为了解决这个问题，越来越多的专业事实核查人员和记者对所谓的事实进行了高质量的调查。然而，这些主要是手工的努力一直在努力与问题的巨大规模相匹配。作为回应，越来越多的自然语言处理（NLP）技术被提出用于更可扩展的事实检查。然而，尽管这类研究取得了巨大的增长，但实际采用NLP技术进行事实检查仍然处于起步阶段。在这项工作中，我们回顾了当前NLP技术用于事实检查的能力和局限性。我们特别关注的是进一步绘制如何利用和改进这些技术的设计空间，以更好地满足人类事实核查人员的需求。为此，我们回顾了基于NLP的事实检查的关键方面：任务制定，数据集构建，建模和以人为本的策略，如可解释的模型和人在回路中的方法。接下来，我们将回顾应用基于NLP的事实检查工具来帮助人类事实检查员的有效性。我们建议未来的研究包括在NLP研究的早期与事实检查利益相关者的合作，以及在模型开发中纳入以人为本的设计实践，以进一步指导人类使用和实际采用的技术开发。最后，我们提倡更多的基准开发支持以人为本的事实检查技术的外在评价的研究。
2023-01-08 cs.AI cs.CL cs.CY
Whose Ground Truth? Embracing Ambiguity in Human-Centered AI
Massachusetts Institute of Technology（麻省理工学院）；Novo Nordisk A/S（诺和诺德公司）；Copenhagen Business School（哥本哈根商学院）；Aalborg University（奥尔堡大学）
该论文针对以人为中心AI中传统真实值假设忽略人类解释多样性的问题，提出应建模合理人类判断的解释空间，区分有意义歧义与标注噪声，以开发更贴合人类多样性的AI。
2026-10-09 cs.AI cs.LG
Enhancing Human Experience in Human-Agent Collaboration: A Human-Centered Modeling Approach Based on Positive Human Gain
Tencent AI Lab（腾讯AI实验室）；Tencent TiMi L1 Studio（腾讯天美L1工作室）
针对现有游戏AI以智能体为中心易导致人类协作体验不佳的问题，提出以人为中心的RLHG方法，在维持智能体获胜能力的同时提升人类目标达成度，在《Honor of Kings》的真人测试中验证了其能改善人类游戏体验。
2024-01-28 cs.AI cs.HC
A Human-Centered Review of the Algorithms used within the U.S. Child Welfare System
Marquette University（马凯特大学）；University of Central Florida（中佛罗里达大学）
美国儿童福利系统（CWS）负责改善寄养青年的成果;然而，他们负担过重，资金不足。为了克服这一限制，一些州已经转向算法决策系统，以降低成本，并确定更好的流程来改善CWS的结果。使用以人为中心的算法设计方法，我们综合了50篇关于CWS中使用的计算系统的同行评审出版物，以评估它们是如何开发的，所使用的预测因子的共同特征以及目标结果。我们发现大多数文献都集中在风险评估模型上，但没有考虑理论方法（例如，儿童-养父母匹配）也不是个案工作者的观点（例如，案例注释）。因此，未来的算法应该努力是上下文感知和理论上的强大，结合过去的研究确定的显着因素。我们为HCI社区提供研究途径，以开发以人为本的算法，将注意力转向CWS更公平的结果。
2020-03-07 cs.AI cs.CY cs.HC
Requirements Engineering Framework for Human-centered Artificial Intelligence Software Systems
Deakin University（迪肯大学）；Monash University（莫纳什大学）；CSIRO’s Data 61（澳大利亚联邦科学与工业研究组织数据61研究所）
本文提出了一个基于以人为本的AI指南和用户调查的需求工程框架，包含需求目录和概念模型，通过案例研究证明其能有效帮助项目团队理解并捕获以人为本的需求。
2023-05-18 cs.AI cs.SE
Human-AI Interaction Alignment: Designing, Evaluating, and Evolving Value-Centered AI For Reciprocal Human-AI Futures
NYU Shanghai, New York University（纽约大学上海校区）；Google（谷歌）；Massachusetts Institute of Technologyy（麻省理工学院）；Google, Paradigms of Intelligence（谷歌、智能范式）；Carnegie Mellon University, New York University（卡内基梅隆大学、纽约大学）；Carnegie Mellon University（卡内基梅隆大学）；OpenAI；University of Washington（华盛顿大学）；Google DeepMind（谷歌DeepMind）
本研讨会探讨如何通过设计、评估和演化以价值为中心的AI，实现人机之间的互惠协作与动态对齐。
2025-12-25 cs.AI cs.CL cs.HC
A Multi-Layered Research Framework for Human-Centered AI: Defining the Path to Explainability and Trust
本文提出一个连接HCAI与XAI的三层框架，通过基础模型可解释性、以人为本的解释层和动态反馈循环，在多高风险领域提升AI决策透明度与信任。
2025-04-26 cs.AI cs.HC
Human-centered Explainable AI: Towards a Reflective Sociotechnical Approach
Georgia Institute of Technology（佐治亚理工学院）
解释-一种事后可解释性的形式-在使系统可访问方面发挥着重要作用，因为人工智能继续扩散复杂和敏感的社会技术系统。在本文中，我们介绍了以人为中心的可解释人工智能（HCXAI）作为一种将人类置于技术设计中心的方法。它通过考虑价值观、人际动态和人工智能系统的社会地位的相互作用，发展了对人类“谁”的全面理解。特别是，我们提倡一种反思性的社会技术方法。我们通过一个针对非技术最终用户的解释系统的案例研究来说明HCXAI，该案例研究展示了技术进步和对人为因素的理解如何共同发展。在案例研究的基础上，我们提出了开放性研究问题，这些问题涉及进一步完善我们对人类“谁”的理解，并超越1对1的人机交互。最后，我们提出，一个反思HCXAI范式介导的关键技术实践的角度，并辅之以策略从HCI，如价值敏感的设计和参与式设计-不仅有助于我们了解我们的知识盲点，但它也可以打开新的设计和研究空间。
2020-02-05 cs.AI cs.HC
Human-Centered AI Communication in Co-Creativity: An Initial Framework and Insights
Towson University（托森大学）；University of the Arts London（伦敦艺术大学）
本文提出FAICO框架，基于107篇论文综述和焦点小组研究，强调人机反馈循环与上下文重要性，为共创AI通信设计提供初步指南。
2025-05-23 cs.AI cs.HC
Transitioning to human interaction with AI systems: New challenges and opportunities for HCI professionals to enable human-centered AI
Zhejiang University（浙江大学）；Miami University（迈阿密大学）
虽然人工智能使人类受益，但如果开发不当，它也可能伤害人类。人机交互工作的重点是从传统的人类与非人工智能计算系统的交互过渡到与人工智能系统的交互。我们从HCI的角度对当前开发AI系统的工作进行了高层次的文献综述和全面分析。我们的回顾和分析强调了AI技术带来的新变化，以及HCI专业人员在AI系统开发中应用以人为本的AI（HCAI）方法时面临的新挑战。我们还确定了人类与AI系统交互中的七个主要问题，这是HCI专业人员在开发非AI计算系统时没有遇到的。为了进一步实现HCAI方法，我们确定了与特定HCAI驱动的设计目标相关的新HCI机会，以指导HCI专业人员解决这些新问题。最后，我们对当前HCI方法的评估显示了这些方法在支持开发AI系统方面的局限性。我们提出了一些替代方法，可以帮助克服这些限制，并有效地帮助HCI专业人员将HCAI方法应用于AI系统的开发。我们还为HCI专业人员提供战略建议，以有效地影响HCAI方法的AI系统的开发，最终开发HCAI系统。
2023-03-06 cs.AI cs.HC
Computational Narrative Intelligence: A Human-Centered Goal for Artificial Intelligence
Georgia Institute of Technology（佐治亚理工学院）
叙事智能是对故事进行创作、讲述、理解和情感回应的能力。我们认为，灌输人工智能与计算叙事智能提供了一些有益于人类的应用。我们列出了实现计算叙事智能所需解决的一些机器学习挑战。最后，我们认为，计算叙事是一个实际的一步，机器文化，社会文化价值观的教学机器。
2016-02-21 cs.AI
Beyond Chat: a Framework for LLMs as Human-Centered Support Systems
本文提出了一种LLMs作为以人为中心的支持系统框架，旨在通过透明性、个性化等原则，提升人类在决策和幸福感方面的支持，同时应对隐私、偏见等风险。
2025-09-25 cs.AI cs.HC
How Human-Centered Explainable AI Interface Are Designed and Evaluated: A Systematic Survey
IT University of Copenhagen（哥本哈根信息技术大学）；Royal Danish Academy（丹麦皇家艺术学院）
本文系统性综述了53篇文献，指出可解释界面（EIs）聚焦XAI的用户界面与体验设计，以提升系统可用性与实际可解释性，并揭示了人机交互趋势及未来设计与开发方向。
2024-03-21 cs.AI cs.HC
A Human-Centered Privacy Approach (HCP) to AI
Zhejiang University（浙江大学）
本文提出以人类为中心的隐私方法（HCP）框架，从技术、伦理和人类因素角度综合解决AI中的隐私问题，通过隐私保护技术、用户心理模型和案例研究，探讨隐私保护在HCAI中的实施路径和未来方向。
2026-02-04 cs.AI cs.CR cs.HC
Joint Optimization of AI Fairness and Utility: A Human-Centered Approach
IBM Research AI（IBM研究院人工智能部门）
如今，人工智能越来越多地用于许多高风险的决策应用，其中公平性是一个重要的问题。已经有许多人工智能存在偏见并做出可疑和不公平决定的例子。人工智能研究界已经提出了许多方法来衡量和减轻不必要的偏见，但其中很少涉及人类政策制定者的投入。我们认为，由于不同的公平标准有时不能同时满足，因为实现公平往往需要牺牲其他目标，如模型的准确性，它是关键，以获取和坚持人类决策者的偏好，如何使这些目标之间的权衡。在本文中，我们提出了一个框架和一些示例方法，用于引发这种偏好，并根据这些偏好优化AI模型。
2020-02-05 cs.AI cs.HC
Toward a Human-Centered AI-assisted Colonoscopy System in Australia
University of Adelaide（阿德莱德大学）；University of Surrey（萨里大学）；Lyell McEwin Hospital（莱尔·麦克尤恩医院）
本文基于澳大利亚实地研究，指出AI辅助结肠镜检查的开发过于侧重算法性能，忽视用户体验，主张人机交互社区推动以用户为中心的设计以充分发挥AI潜力。
2025-03-15 cs.AI cs.HC
Human-Centered Evaluation of RAG outputs: a framework and questionnaire for human-AI collaboration
Dresden University of Technology（德累斯顿技术大学）
本研究针对RAG输出缺乏系统性以人为中心评估的问题，基于效用维度框架设计并迭代优化含12个维度的评估问卷，对比了人类与LLM的评分特点，拓展了初始评估框架。
2025-09-30 cs.AI
Finspector: A Human-Centered Visual Inspection Tool for Exploring and Comparing Biases among Foundation Models
IBM Research（IBM研究院）
Finspector通过可视化分析语言模型的对数似然分数，帮助研究人员检测和比较基础模型中的隐藏偏见，以促进模型在学术与工业场景中的公平部署。
2023-05-26 cs.AI cs.CL cs.HC
A Human-Centered Data-Driven Planner-Actor-Critic Architecture via Logic Programming
Auburn University（奥本大学）；NVIDIA Corporation（英伟达公司）；Maana Inc.（Maana公司）
最近强化学习（RL）的成功使智能体能够学习超越人类专家的策略，但会受到时间和数据的困扰。相比之下，人类的学习速度要快得多，因为利用了先验知识和一般知识以及多种信息资源。在本文中，我们提出了一个以人为中心的规划和学习（PACMAN）的规划者-演员-评论家架构，其中代理使用其先验的，高层次的，确定性的符号知识来规划目标导向的行动，并集成了RL的演员-评论家算法来微调其行为，以实现环境奖励和人类反馈。这项工作是第一个统一的框架，知识为基础的规划，RL和人类教学共同贡献的策略学习的代理。我们的实验表明，PACMAN导致一个显着的跳跃开始在学习的早期阶段，收敛速度快，方差小，是强大的不一致，罕见的，和误导性的反馈。
2019-09-18 cs.AI cs.HC cs.LG
Towards a Bathroom-Centered Human-Building Digital Twin Framework for Indoor Safety Analysis
Department of Building Environment and Energy Engineering（建筑环境与能源工程系）
提出以浴室为中心的人-建筑数字孪生框架，通过空间-语义耦合和交互感知事件分析，解决老年人浴室安全中环境与人体运动分离的问题。
2026-06-25 cs.AI cs.HC
Human-centered In-building Embodied Delivery Benchmark
Polar Research General Services（极地研究综合服务机构）；Samsung R&D Institute China - Beijing（三星中国北京研发中心）；Peking University（北京大学）
本研究提出以人为中心的室内具身配送商业场景，构建包含多层建筑、自主人类角色与机器人的虚拟环境及13k条指令的配送数据集，并提出基于大型多模态模型的基线系统，为具身智能领域带来新视角。
2024-06-25 cs.AI cs.RO
Align When They Want, Complement When They Need! Human-Centered Ensembles for Adaptive Human-AI Collaboration
本文提出了一种人本适应性AI集成，通过上下文提示在对齐与互补模型间切换，以提升人机协作的性能与信任。
2026-02-23 cs.AI cs.HC cs.LG
Towards Human-Centered Construction Robotics: A Reinforcement Learning-Driven Companion Robot for Contextually Assisting Carpentry Workers
Carnegie Mellon University（卡内基梅隆大学）；Computational Design Laboratory（计算设计实验室）；Robotics Institute（机器人研究所）
针对建筑机器人忽视人因复杂性的问题，本文提出以人为本的“工作伙伴漫游车”，通过情境化RL模块化框架在木工模板场景中实现安全、流畅的人机协作。
2024-09-14 cs.AI cs.HC cs.LG
Human-centered collaborative robots with deep reinforcement learning
KTH Royal Institute of Technology（瑞典皇家理工学院）
我们提出了一个基于强化学习的以人为中心的协作系统框架。该框架是积极主动的，通过最大限度地减少完成任务所花的总时间，平衡了及时行动的好处和采取不当行动的风险。该框架以无监督的方式进行端到端的学习，以综合的方式解决感知不确定性和决策。该框架被证明是提供更流畅的协调人类和机器人合作伙伴之间的一个例子任务的包装相比，感知和决策系统独立学习的替代品，使用监督学习。所提出的方法的最大好处是，它允许快速适应新的人类合作伙伴和任务，因为繁琐的注释的运动数据被避免，并在线进行学习。
2020-07-02 cs.AI cs.LG cs.RO
VeriLA: A Human-Centered Evaluation Framework for Interpretable Verification of LLM Agent Failures
University of Maryland（马里兰大学）；Megagon Labs（美加贡实验室）
本文提出以人为本的 VeriLA 框架，利用人工准则与经黄金标准训练的验证器细粒度诊断 LLM 智能体失败，从而降低检查负担并提升复合 AI 系统的可解释性与可信度。
2025-03-16 cs.AI cs.CL cs.HC
Reconfiguring Participatory Design to Resist AI Realism
University of Pittsburgh（匹兹堡大学）
本文提出通过重构参与式设计，从价值中心愿景、非AI替代方案探索和揭示必要人类劳动三方面抵抗AI现实主义，为人类需求与价值导向的替代未来开辟空间。
2024-06-08 cs.AI cs.HC cs.SI
RAH! RecSys-Assistant-Human: A Human-Centered Recommendation Framework with LLM Agents
Fudan University（复旦大学）；Microsoft Research Asia（微软亚洲研究院）
本研究提出RAH框架，利用基于LLM的智能体（感知、学习、行动、评估、反思）和Learn-Act-Critic循环，通过以人为本的方法解决推荐系统中的准确性、偏见和冷启动问题，有效减轻用户负担并增强控制。
2023-10-17 cs.AI cs.IR
Enabling Human-Centered AI: A Methodological Perspective
Zhejiang University（浙江大学）
本文提出一个综合性的以人为本的人工智能（HCAI）框架，包含设计目标、原则、实施方法等组件，并引入“三层”方法促进实施，以克服现有框架的弱点并推动HCAI实践。
2023-11-14 cs.AI cs.CY cs.SE
AAAI FSS-19: Human-Centered AI: Trustworthiness of AI Models and Data Proceedings
为了促进人工智能系统在现实应用中指导决策的广泛接受，解决方案必须包括值得信赖的集成人工智能系统。不仅在自动驾驶或医疗等安全关键型应用中，而且在工业和政府的动态开放世界系统中，预测模型必须具有不确定性并产生可靠的预测。在企业规模部署人工智能的另一个关键要求是认识到将以人为本的设计集成到人工智能系统中的重要性，以便人类能够有效地使用系统，理解结果和输出，并向监督委员会解释结果。虽然本次研讨会的重点是人工智能系统，以提高数据质量和技术的鲁棒性和安全性，但我们欢迎来自广泛定义领域的提交材料，这些材料还讨论了解决可解释模型，人类信任和人工智能伦理方面等要求的方法。
2020-01-15 cs.AI cs.CY cs.LG
Coupling Control and Human-Centered Automation in Mathematical Models of Complex Systems
在本文中，我们从数学上分析了如何将人为因素有效地纳入复杂系统的分析和控制中。作为一个例子，我们集中我们的讨论围绕在智能交通系统（ITS）的理论和实践中的关键问题之一，速度控制的问题，在这里被认为是一个决策过程，有限的信息。这个问题是在数学上铸造的控制问题的一般框架，并在动态变化的环境中，控制耦合到以人为中心的自动化的背景下处理。由于在这种情况下，控制可能不限于少量的控制设置，因为它往往是在控制文献中假设，严重的困难出现在这个问题的解决方案。我们证明，这个问题可以减少到一组的Hamilton-Jacobi-Bellman方程的人的因素，通过系统的哈密顿量的估计。在ITS的上下文中，这些估计可以获得与使用车载设备，如传感器/接收器/执行器，车载通信设备等所提出的方法提供了一种方法来集成人为因素到其他复杂的动态系统的模型的求解过程。
2007-02-25 cs.AI cs.CE cs.HC
