Decoding the Meaning of Success on Digital Labor Platforms: Worker-Centered Perspectives
本文基于对 Upwork 上 108 名工作者的纵向研究，识别了平台工作者定义成功的七个维度及平台中介作用的三个维度，揭示了平台化管理、标准化和不稳定性如何塑造工作者对成功不断演变的视角。
2024-11-22 cs.HC
Organizational Practices and Socio-Technical Design of Human-Centered AI
Institute of Work Science, University of Bochum（波鸿大学工作科学研究所）
本文提出通过社会技术视角设计组织实践，以实现人本AI在预测维护中的应用与持续改进。
2026-01-29 cs.HC
Using Learning Theories to Evolve Human-Centered XAI: Future Perspectives and Challenges
本文探讨如何将学习理论融入XAI生命周期，分析以学习者为中心的AI解释方法的机会与挑战，旨在提升人类自主性并缓解XAI风险。
2026-04-01 cs.AI cs.HC
Exploring undercurrents of learning tensions in an LLM-enhanced landscape: A student-centered qualitative perspective on LLM vs Search
研究通过让学生在平衡实验中使用 Google 与 ChatGPT 学习并访谈，揭示二者在信息发现和综合中的偏好、痛点及教育启示。
2025-07-27 cs.HC
A Cognitive Science perspective for learning how to design meaningful user experiences and human-centered technology
Carnegie Mellon University（卡内基梅隆大学）
本文回顾了认知科学、人机交互（HCI）和自然语言处理（NLP）方面的文献，以考虑类比推理（AR）如何帮助设计通信和学习技术，以及在线社区和数字平台。首先，类比推理（AR）的定义，AR在计算科学中的用例。介绍了模式的概念，以及计算中的用例。最后，建议在计算科学中使用类比推理和模式方法的未来工作。
2021-06-02 cs.AI cs.CY cs.HC
From "Fail Fast" to "Mature Safely:" Expert Perspectives as Secondary Stakeholders on Teen-Centered Social Media Risk Detection
University of Cincinnati（辛辛那提大学）；King AbdulAziz University（阿卜杜勒阿齐兹国王大学）；Clemson University（克莱姆森大学）；International Computer Science Institute（国际计算机科学研究所）
本文通过专家访谈评估了以青少年为中心的社交媒体风险检测仪表盘，揭示了实施和维持此类技术的五大矛盾，提出了设计建议和策略以推动青少年安全技术的创新。
2026-01-20 cs.CY cs.HC
Evaluation of Large Language Model-Driven AutoML in Data and Model Management from Human-Centered Perspective
本研究通过涉及15名专业人员的用户研究，评估了基于LLM的AutoML框架，发现其可提升93.34%用户的性能、缩短50%实现时间和73%错误解决时间，为自然语言界面在复杂系统中的应用提供了实证支持。
2025-07-08 cs.HC
Next Steps for Human-Centered Generative AI: A Technical Perspective
UCLA（加州大学洛杉矶分校）；Google Research（谷歌研究院）；Toyota Research Institute（丰田研究院）；UCSB（加州大学圣巴巴拉分校）；Salesforce Research（赛富时研究院）；Adobe Research（奥多比研究院）；Autodesk Research（欧特克研究院）
本文通过跨学科讨论，提出以人为本的生成式人工智能（HGAI）的研究议程，涵盖价值观对齐、意图理解和能力增强三个层面，旨在引导跨学科团队聚焦新兴研究方向。
2023-12-22 cs.CL cs.CV cs.HC
Rethinking Theory of Mind Benchmarks for LLMs: Towards A User-Centered Perspective
Carnegie Mellon University（卡内基梅隆大学）
针对现有将人类心理理论（ToM）任务直接用于LLM基准测试的局限，从人机交互视角提出以动态交互方式重新定义ToM基准，考虑用户偏好与体验，并概述相关机遇与挑战。
2025-04-15 cs.AI cs.HC
Trust and Trustworthiness from Human-Centered Perspective in HRI -- A Systematic Literature Review
本文通过系统性文献综述分析了34篇人机交互研究，发现近30%的文章缺乏信任定义，并指出领域选择和方法差异会显著影响用户对机器人的信任评估，强调概念清晰性对促进可信赖人机协作的关键作用。
2025-01-31 cs.HC
Empathic and agentic artificial intelligence in nursing: perspectives on a human-centered framework for cancer care navigation in the United States
University of Tennessee Health Science Center, College of Nursing（田纳西大学健康科学中心护理学院）；University of Tennessee Health Science Center, Center for Biomedical Informatics, Department of Pediatrics（田纳西大学健康科学中心生物医学信息中心，儿科系）；University of Tennessee Health Science Center, Department of Radiation Oncology（田纳西大学健康科学中心放射肿瘤学系）
本文提出一个以人为本的人工智能框架，结合共情与自主方法，基于美国护士协会伦理准则，支持护士在癌症护理导航中增强而非取代人类共情与自主性，改善工作流程、医患关系和护理协调。
2026-04-11 cs.AI cs.CY cs.HC
Situated Case Studies for a Human-Centered Design of Explanation User Interfaces
研究人员和实践者在设计基于机器学习的应用程序时越来越多地考虑以人为本的观点，特别是在可解释人工智能（XAI）的背景下。然而，在这方面仍然缺乏明确的方法指导，因为每一种新的情况似乎都需要一种新的设置，这也造成了不同的方法挑战。XAI中现有的案例研究集合启发了我们;因此，我们提出了一个类似的以人为本的XAI案例研究集合，可以为其他人提供方法论指导或灵感。我们希望通过描述我们研究中的三个案例来展示我们的想法。选择这些案例研究是为了强调明显的小差异如何需要一套不同的方法和考虑。通过这次研讨会的贡献，我们希望参与讨论这样一组案例研究如何能够提供方法指导和批判性反思。
2021-03-29 cs.HC
Teach Me How to Learn: A Perspective Review towards User-centered Neuro-symbolic Learning for Robotic Surgical Systems
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；Saarland Informatics Campus（萨尔兰信息学园区）；University of Bremen（不来梅大学）
本文提出面向机器人手术的以用户为中心神经符号学习范式，综述人在环路手术机器人研究，并展望基于专家外科医生隐式与显式反馈的在线学徒学习以解决自主手术机器人交互挑战。
2023-07-07 cs.AI cs.HC cs.RO
Reassessing Evaluation Functions in Algorithmic Recourse: An Empirical Study from a Human-Centered Perspective
NTT Corporation（NTT公司）；NTT Human Informatics Laboratories（NTT人类信息学研究所）；NTT Communication Science Laboratories（NTT通信科学研究所）
本文通过 362 名参与者的用户研究检验算法追索的距离最小化假设，发现接受度与追索距离无关、行动意愿仅在最小距离处达到峰值，呼吁重思评估函数。
2024-08-03 cs.AI cs.HC cs.LG
Using HCI in Cross-Disciplinary Teams: A Case Study of Academic Collaboration in HCI-Health Teams in the US Using a Team Science Perspective
以人为本的计算研究已越来越多地应用于解决健康领域的重要挑战。在跨学科团队中进行研究可能会在整合跨领域知识方面遇到很多挑战。然而，我们不知道HCI研究人员在与健康研究人员建立合作时遇到了什么挑战，以及这些研究人员如何在平衡其专业目标的同时应对挑战。我们采访了17位在美国工作的早期和中期职业HCI教师，他们与健康研究人员合作进行研究。借鉴团队科学框架，我们分享参与者的生活经验，并确定HCI研究人员在构建技术时寻找，合作和与健康合作者谈判时遇到的主要挑战。我们提出了更好地支持旨在使用以人为本的计算方法设计技术的研究合作的方法。这包括战略，以支持HCI研究人员在个人，机构，研究界和资助机构的水平，通过工具来翻译学科的方法。我们建议机构政策，以支持HCI研究人员通过培训，网络和推广。
2022-09-01 cs.HC
Human-Centered Human-AI Collaboration (HCHAC)
Zhejiang University（浙江大学）
本文从以人为中心的视角探讨人机协作（HAC）的本质与特征，提出HCHAC框架，并通过自动驾驶案例阐明人机协同交互，指明了未来提升系统有效性、可靠性与伦理整合的研究方向。
2025-05-28 cs.AI cs.CY cs.HC
Can AI detect pain and express pain empathy? A review from emotion recognition and a human-centered AI perspective
Institute of Psychology, Chinese Academy of Sciences（中国科学院心理研究所）；University of Chinese Academy of Sciences（中国科学院大学）；University of Oxford（牛津大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Hamburg（汉堡大学）；University of Macau（澳门大学）
本文从情绪识别与以人为中心的AI视角，综述了计算疼痛识别与人工共情的关键进展、认知挑战及技术障碍，探讨了AI从多模态识别疼痛及实现共情的益处与路径，并展望了未来负责任评估与开发共情情感助手的方法。
2022-12-01 cs.AI cs.HC
Sketch-and-test: picture-centered research with p5.js assisted crowdsourcing
将人类的判断与图片联系起来是各种科学学科的核心。图片被用来唤起和研究人类思维的能力，而人类输入则被用来标记、理解和模拟图片表示。人的投入往往是通过在线众包实验收集的。本文讨论了众包在以图片为中心的研究的两个主要分支，人类和计算机视觉中的使用，并确定了艺术史和设计等新方向。我们证明了可以使用p5.js进行各种各样的实验，p5.js是一个最初旨在促进视觉创作的库。我们报告了五个互补的实验范例来说明p5.js的可访问性和多功能性：变化盲视，BubbleView，3D形状感知，构图和透视重建。结果表明，文献研究结果可以复制，新的见解可以很容易地实现与p5.js库。p5.js的创意自由与低门槛的众包访问相结合，似乎是所有以图片为中心的研究领域的强大组合：感知，设计，艺术史，传播等等。
2021-03-08 cs.HC
An intelligent sociotechnical systems (iSTS) framework: Enabling a hierarchical human-centered AI (hHCAI) approach
针对当前HCAI实践缺乏社会技术思维的问题，本文提出iSTS框架以扩展传统STS理论，并进一步整合出分层式hHCAI方法，从个体到社会层面实现以人为本的联合优化。
2024-10-24 cs.HC
Human-centered trust framework: An HCI perspective
School of digital technologies, Tallinn University（塔林大学数字技术学院）；Universidade de Trás-os-Montes e Alto Douro（特拉斯-os-蒙特斯和上杜罗大学）；INESC TEC（INESC TEC（工程系统与技术计算机研究所））；CIDTFF（CIDTFF（人类与社会科学研究中心））
本研究从HCI视角提出以人为中心的信任框架HCTFrame，通过文献三角验证澄清信任误解、案例研究验证量表有效性，为AI系统设计提供信任相关指导与研究工具，抵制技术中心的脆弱交互设计。
2023-05-15 cs.AI cs.CY cs.HC
Embedded Human-Centered Data Science in a Graduate Programming Course: A Framework and Case Study
University of Toronto（多伦多大学）
本研究提出HELIX框架，在研究生编程课程中嵌入以人为本数据科学内容，通过试点验证其可行性，并发布材料包以支持推广。
2026-09-09 cs.HC
User-Centered AI for Data Exploration: Rethinking GenAI's Role in Visualization
本文倡导从以自动化为中心转向以用户为中心的自适应GenAI可视化工具，通过评估用户专业水平并动态调整交互与推理，使GenAI成为增强认知的智能协作者。
2025-04-08 cs.HC
Towards Human-centered Proactive Conversational Agents
National University of Singapore（新加坡国立大学）；Singapore Management University（新加坡管理大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Georgetown University（乔治城大学）
本文提出人本主动对话智能体应兼顾智能性、适应性与文明性，建立新分类体系，探讨系统构建五阶段的研究机遇与挑战，为对话式信息检索奠基。
2024-04-19 cs.CL cs.HC cs.IR
Towards Human Centered AutoML
LMU Munich（慕尼黑大学）
从数据构建模型是大多数数据科学工作流的组成部分。虽然数据科学家通常被迫将给定项目的大部分时间用于数据清理和探索性分析，但由于给定项目的时间限制，从业者从数据构建实际模型的时间通常相当短。AutoML系统目前越来越受欢迎，因为它们可以在没有人类监督的情况下构建强大的模型。在这份立场文件中，我们的目的是讨论这种系统的日益普及的影响，以及如何为这些系统以用户为中心的界面可能看起来像。更重要的是，我们还想指出这些系统中目前缺少的功能，并从数据科学家的角度开始探索这些系统的更好可用性。
2019-11-06 cs.AI cs.HC
Development and Evaluation of Dental Image Exchange and Management System: A User-Centered Perspective
本研究以用户为中心，通过原型设计为乌尔米耶市私营牙科开发图像交换系统，满足易用性、安全性和移动应用需求，并减少患者辐射。系统成功关键在于考虑最终用户需求并应用于系统。
2022-06-04 cs.HC cs.IR cs.MM
A Human-Centered Privacy Approach (HCP) to AI
Zhejiang University（浙江大学）
本文提出以人类为中心的隐私方法（HCP）框架，从技术、伦理和人类因素角度综合解决AI中的隐私问题，通过隐私保护技术、用户心理模型和案例研究，探讨隐私保护在HCAI中的实施路径和未来方向。
2026-02-04 cs.AI cs.CR cs.HC
Extending System Performance Past the Boundaries of Technical Maturity: Human-Agent Teamwork Perspective for Industrial Inspection
工业4.0的网络-物理-社会系统（CPSS）性能高度依赖于上下文，其中出现了三个设计领域：工件本身，人-代理协作和组织设置。目前的HF&E工具仅限于概念化和预测未来的人类代理工作情况与细粒度的角度。本文探讨了如何从工作分析丰富的见解可以转化为形成性的设计模式，提供更好的指导概念化的人-代理合作和组织设置。目前的手工工作内容被分解为功能要求。然后，每个功能都由多学科设计团队进行审查，以决定其可行性和性质（自主功能，人类功能或混合功能）。通过这样做，我们发现的技术能力的CPSS相比，主题专家的工作活动。我们称之为技术覆盖。其框架允许与设计利益相关者密切合作，以定义详细的HAT配置。然后，我们根据最终用户的工作活动、技术能力和执行工作的交互需求来想象联合活动场景。我们使用一个关于飞机维修领域技术创新的研究来说明该框架的早期阶段
2021-02-05 cs.HC
A human-centered approach to reframing job satisfaction in the BIM-enabled construction industry
Gerald May Dept. of Civil, Construction and Environmental Engineering, University of New Mexico（新墨西哥大学）；School of Architecture and Planning, University of New Mexico（新墨西哥大学）
本研究提出了一种面向BIM赋能建筑行业的以人为本的工作满意度测量模型，发现BIM使用对工作满意度的影响取决于具体维度，强调协作和参与的重要性。
2025-12-23 cs.HC
The Role and Potentials of Field User Interaction Data in the Automotive UX Development Lifecycle: An Industry Perspective
我们感兴趣的是现场用户交互数据在IVIS开发中的作用，从业者在分析这些数据时看到的潜力，他们共同的关注点，以及与数字产品公司的比较。我们采访了14位用户体验专业人士，其中8位来自汽车行业，6位来自数字公司，并通过紧急主题编码分析了结果。我们的主要研究结果表明，通过现场用户交互数据的隐式反馈目前在汽车UX开发过程中并不明显。关于IVIS设计的大多数决定都是基于个人偏好和利益相关者的直觉。然而，受访者也表示，用户交互数据有可能降低用户体验设计过程中猜测和假设的影响，并有助于使用户体验开发生命周期更加基于证据和以用户为中心。
2020-07-21 cs.HC
Young Humans Make Change, Young Users Click: Creating Youth-Centered Networked Social Movements
从城市学家的角度来看，年轻人作为公共空间设计中代表性不足的群体，他们的日常经验包括他们用来挑战统治城市空间的策略的策略。在这方面，青年领导的社会运动是一套集体战术，青年群体用来抵制权力结构。社会信息流彻底改变了青年在世界各地，特别是在城市地区组织和动员社会运动的方式。然而，就像公共空间一样，这些基于算法的平台在开发人员和用户之间存在巨大的权力不平衡，这导致为年轻活动家创造了非包容性的社会信息流。社会活动增加了青年的能动性和信心，这对他们的发展至关重要。本文采用了一个以青年为中心的镜头，这是用于设计公共空间，设计算法空间，可以改善自自底向上的青年主导的运动。通过回顾这些空间的结构，以及年轻人如何在伊朗和美国的不同文化背景下与这些结构互动，我们提出了一种人性化的方法来设计社会信息流，可以提高青年行动主义。
2023-03-23 cs.HC
Applied design thinking in urban air mobility: creating the airtaxi cabin design of the future from a user perspective
本文以德国航空航天中心的机场接驳与市内UAM组合概念为对象，应用设计思维方法，通过焦点小组和在线调查识别用户需求并评估客舱设计，最终构建数字原型，为未来空中出租车客舱提供以用户为中心的设计路径。
2023-09-11 cs.HC cs.SY eess.AS
Human-centered Geospatial Data Science
本文提出以人为本的地理空间数据科学，强调测量地方主观体验并发展负责任、合伦理的GeoAI方法，以保护隐私、促进公平透明并增进人类福祉。
2025-01-09 cs.CY cs.HC
A Human-Centered Review of the Algorithms used within the U.S. Child Welfare System
Marquette University（马凯特大学）；University of Central Florida（中佛罗里达大学）
美国儿童福利系统（CWS）负责改善寄养青年的成果;然而，他们负担过重，资金不足。为了克服这一限制，一些州已经转向算法决策系统，以降低成本，并确定更好的流程来改善CWS的结果。使用以人为中心的算法设计方法，我们综合了50篇关于CWS中使用的计算系统的同行评审出版物，以评估它们是如何开发的，所使用的预测因子的共同特征以及目标结果。我们发现大多数文献都集中在风险评估模型上，但没有考虑理论方法（例如，儿童-养父母匹配）也不是个案工作者的观点（例如，案例注释）。因此，未来的算法应该努力是上下文感知和理论上的强大，结合过去的研究确定的显着因素。我们为HCI社区提供研究途径，以开发以人为本的算法，将注意力转向CWS更公平的结果。
2020-03-07 cs.AI cs.CY cs.HC
Toward Artificial Empathy for Human-Centered Design: A Framework
Singapore University of Technology and Design（新加坡科技设计大学）
该论文提出一个用于以人为中心设计的人工共情框架，通过分解共情为可计算组件，旨在提升AI驱动的设计中对用户需求的理解。
2023-05-13 cs.CL cs.HC
Finding Uncommon Ground: A Human-Centered Model for Extrospective Explanations
Digital Media Lab, TZI, University of Bremen（不莱梅大学数字媒体实验室，TZI，不莱梅大学）；Linguistics Department, Univserity of Bremen（不莱梅大学语言学系）
针对现有AI解释聚焦内部机制不适合非专业人士的问题，提出基于智能体世界观与用户交互动态记忆的个性化解释方法，可定制适配用户的相关信息，推动人本中心AI解释发展。
2025-07-29 cs.AI cs.HC
AI Transparency in the Age of LLMs: A Human-Centered Research Roadmap
Microsoft Research（微软研究院）
本文从人机交互与负责任人工智能视角出发，系统反思LLM透明度面临的独特挑战，梳理模型报告、发布评估结果、提供解释和传达不确定性四种现有方法，并提出面向未来研究的以人为本路线图。
2023-08-08 cs.AI cs.CY cs.HC
Human-centered Explainable AI: Towards a Reflective Sociotechnical Approach
Georgia Institute of Technology（佐治亚理工学院）
解释-一种事后可解释性的形式-在使系统可访问方面发挥着重要作用，因为人工智能继续扩散复杂和敏感的社会技术系统。在本文中，我们介绍了以人为中心的可解释人工智能（HCXAI）作为一种将人类置于技术设计中心的方法。它通过考虑价值观、人际动态和人工智能系统的社会地位的相互作用，发展了对人类“谁”的全面理解。特别是，我们提倡一种反思性的社会技术方法。我们通过一个针对非技术最终用户的解释系统的案例研究来说明HCXAI，该案例研究展示了技术进步和对人为因素的理解如何共同发展。在案例研究的基础上，我们提出了开放性研究问题，这些问题涉及进一步完善我们对人类“谁”的理解，并超越1对1的人机交互。最后，我们提出，一个反思HCXAI范式介导的关键技术实践的角度，并辅之以策略从HCI，如价值敏感的设计和参与式设计-不仅有助于我们了解我们的知识盲点，但它也可以打开新的设计和研究空间。
2020-02-05 cs.AI cs.HC
Towards Human-Centered RegTech: Unpacking Professionals' Strategies and Needs for Using LLMs Safely
City University of Hong Kong（香港城市大学）；Johns Hopkins University（约翰霍普金斯大学）；George Mason University（乔治·马歇尔大学）
该研究通过访谈法律、医疗、金融等领域24名高技能从业者，揭示了专业人士使用大语言模型的合规担忧与自发缓解策略的局限，为构建以人为本、合规驱动的RegTech NLP系统提供了实证基础与设计方向。
2025-10-02 cs.AI cs.HC
Responsible AI Implementation: A Human-centered Framework for Accelerating the Innovation Process
Griffith University（格里菲斯大学）；Gold Coast University Hospital（黄金海岸大学医院）；Queensland Health（昆士兰卫生厅）；Everledger
期望与成功采用人工智能来创新和改进业务之间仍存在巨大差距。由于深度学习的出现，人工智能的采用变得更加复杂，因为它通常包含大数据和物联网，影响数据隐私。现有的框架已经确定了关注以人为本的设计的必要性，结合技术和业务/组织的角度。然而，信任仍然是一个关键问题，需要从一开始就进行设计。所提出的框架扩展了以人为本的设计方法，强调和维护支撑过程的信任。本文提出了一个负责任人工智能（AI）实现的理论框架。拟议的框架强调了敏捷共创过程的协同业务技术方法。其目的是通过让所有利益相关者参与整个项目来简化人工智能的采用过程，以创新和改善业务，从而使人工智能技术的设计，开发和部署与人结合，而不是孤立。该框架基于分析性文献综述、概念框架设计和从业者的中介专业知识，对负责任的人工智能实施提出了新的观点。该框架强调在以人为本的设计和敏捷开发过程中建立和维护信任。这种以人为本的方法与隐私设计原则相一致并由隐私设计原则实现。该技术的创造者和最终用户正在共同努力，专门针对业务需求和人类特征定制AI解决方案。一个关于采用人工智能辅助医院规划的说明性案例研究将证明所提出的框架适用于现实生活中的应用。
2022-09-15 cs.AI cs.HC
Transitioning to human interaction with AI systems: New challenges and opportunities for HCI professionals to enable human-centered AI
Zhejiang University（浙江大学）；Miami University（迈阿密大学）
虽然人工智能使人类受益，但如果开发不当，它也可能伤害人类。人机交互工作的重点是从传统的人类与非人工智能计算系统的交互过渡到与人工智能系统的交互。我们从HCI的角度对当前开发AI系统的工作进行了高层次的文献综述和全面分析。我们的回顾和分析强调了AI技术带来的新变化，以及HCI专业人员在AI系统开发中应用以人为本的AI（HCAI）方法时面临的新挑战。我们还确定了人类与AI系统交互中的七个主要问题，这是HCI专业人员在开发非AI计算系统时没有遇到的。为了进一步实现HCAI方法，我们确定了与特定HCAI驱动的设计目标相关的新HCI机会，以指导HCI专业人员解决这些新问题。最后，我们对当前HCI方法的评估显示了这些方法在支持开发AI系统方面的局限性。我们提出了一些替代方法，可以帮助克服这些限制，并有效地帮助HCI专业人员将HCAI方法应用于AI系统的开发。我们还为HCI专业人员提供战略建议，以有效地影响HCAI方法的AI系统的开发，最终开发HCAI系统。
2023-03-06 cs.AI cs.HC
Applying LLM-Powered Virtual Humans to Child Interviews in Child-Centered Design
本研究针对儿童访谈挑战，提出了LLM驱动的虚拟人设计指南，开发了三种Human-AI工作流，实验证明LLM-Analyze工作流在引发回答长度、用户体验和参与度上表现最优。
2025-04-28 cs.CY cs.HC cs.MM
When Should an AI Act? A Human-Centered Model of Scene, Context, and Behavior for Agentic AI Design
Taejae University（Taejae大学）；LG Electronics（LG电子）
本文提出了一种人本模型，用于设计具有情境敏感性和判断力的智能体AI系统，通过整合场景、情境和人类行为因素，指导智能体的干预行为。
2026-02-26 cs.AI cs.HC
A Human-Centered Approach to Identifying Promises, Risks, & Challenges of Text-to-Image Generative AI in Radiology
本文采用以人为中心的方法，让利益相关者参与评估一种新型文本到CT扫描生成式AI模型，揭示了其在医学教育、培训和实践中的潜力、技术挑战及领域特定风险。
2025-09-14 cs.AI cs.CY cs.HC
Explainable Medical Imaging AI Needs Human-Centered Design: Guidelines and Evidence from a Systematic Review
Johns Hopkins University（约翰斯·霍普金斯大学）
机器学习（ML）中的透明性，试图揭示复杂模型的工作机制。透明机器学习承诺在目标用户中推进以人为本的人工智能的人因工程目标。从以人为中心的设计角度来看，透明度不是ML模型的属性，而是一种启示，即算法和用户之间的关系;因此，迭代原型设计和用户评估对于获得足够的解决方案至关重要。然而，由于终端用户的可用性和访问受限，在医疗保健和医学图像分析中遵循以人为本的设计原则是具有挑战性的。为了研究透明ML在医学图像分析中的状态，我们对文献进行了系统的回顾。我们的评论揭示了在医学图像分析应用中透明ML的设计和验证中存在的多个严重缺点。我们发现，迄今为止，大多数研究方法的透明度作为一个属性的模型本身，类似于任务的性能，没有考虑最终用户在开发或评估。此外，缺乏用户研究，以及对透明性声明的零星验证，使当代对用于医学图像分析的透明ML的研究面临用户无法理解的风险，因此与临床无关。为了缓解即将到来的研究中的这些缺点，同时认识到以人为本的设计在医疗保健中的挑战，我们引入了INTRPRT指南，这是一个针对医学图像分析中透明ML系统的系统设计指令。INTRPRT指南建议将形成性用户研究作为透明模型设计的第一步，以了解用户需求和领域需求。遵循这个过程会产生支持设计选择的证据，并最终增加算法提供透明度的可能性。
2022-09-29 cs.CV cs.HC cs.LG
Human-Centered Privacy Research in the Age of Large Language Models
Northeastern University（东北大学）；Carnegie Mellon University（卡内基梅隆大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
针对大型语言模型引发的隐私问题，本文主张从以模型为中心转向以人为本的研究，聚焦用户披露行为、隐私控制设计及数据所有权，并倡议建立研究议程和跨领域合作。
2024-02-03 cs.AI cs.CR cs.HC
