Designing Transparency Cues in Online News Platforms to Promote Trust: Journalists' & Consumers' Perspectives
随着新闻机构在其网站上采用透明做法,以将自己与传播错误信息的人区分开来,HCI设计师有机会帮助他们有效地利用透明度的理想来建立信任。我们如何利用透明度来促进对新闻的信任?我们通过采访记者和新闻消费者这两个新闻系统中的利益相关者,从定性的角度来研究这个问题。我们设计了一个场景来演示透明度功能,使用两个基本的新闻属性来传达新闻文章的可信度:来源和消息。在采访中,我们的新闻消费者表达了这样的想法,即通过在两个领域(新闻选择和框架)提供客观性指标,并在四个领域(源材料的存在,匿名来源,验证和错误报道的纠正)提供证据指标,可以最好地显示新闻透明度。虽然我们的记者同意新闻消费者使用证据指标的建议,但他们也建议在新闻报道过程和个人/组织利益冲突等领域增加透明度指标。在我们的场景下,参与者提出了构建可信赖的新闻平台的新设计考虑因素,例如设计易于理解,在新闻文章中呈现适当的细节(例如,显示对一篇文章所作更正的数量和性质),并比较新闻机构的属性以突出不同的做法。比较我们两个利益相关者群体的反应,可以发现相互矛盾的建议,并在它们之间进行权衡。我们的研究对人机交互设计者构建值得信赖的新闻系统具有一定的意义。
2021-09-20 cs.HC
Designing Automation Boundaries for Trustworthy Smart Medication Support
University of Technology, Sydney(悉尼科技大学)
通过混合方法研究,探讨智能药物系统中三种自动化条件对用户信任和接受度的影响,发现高自动化并不必然提高信任,用户偏好减少常规努力但保留纠正机会的自动化,并基于任务风险、用户控制和伦理可接受性提出校准自动化的设计启示。
2026-06-27 cs.HC
PADTHAI-MM: Principles-based Approach for Designing Trustworthy, Human-centered AI using MAST Methodology
Arizona State University(亚利桑那州立大学);Aptima, Inc.(Aptima公司);U.S. Department of Homeland Security(美国国土安全部);Air Force Office of Scientific Research(空军科学研究办公室)
本文提出PADTHAI-MM框架,通过MAST方法论设计可信AI系统,通过READIT平台验证,评估MAST对AI信任的影响,并探讨MAST评分与信任因素的关系。
2025-01-22 cs.CY cs.HC
From Toil to Thought: Designing for Strategic Exploration and Responsible AI in Systematic Literature Reviews
本文提出ARC系统,通过多数据库整合、透明搜索和可验证AI辅助筛选,帮助学者从管理行政负担转向战略探索,提升知识综合的透明度和可验证性。
2026-03-12 cs.AI cs.HC
Designing Empathetic Companions: Exploring Personality, Emotion, and Trust in Social Robots
University of Genoa(热那亚大学)
本研究提出基于个性模型的认知架构,通过用户实验验证情感生成器,揭示机器人个性特质对信任与愉悦性的影响。
2025-04-17 cs.HC cs.RO
Investigating and Designing for Trust in AI-powered Code Generation Tools
本研究通过访谈和设计探针研究,探讨开发者对AI代码生成工具的信任挑战,并提出支持适当信任的设计概念与建议。
2024-05-28 cs.HC cs.SE
Human-Centered Explainability in AI-Enhanced UI Security Interfaces: Designing Trustworthy Copilots for Cybersecurity Analysts
Palo Alto Networks(帕洛阿尔托网络公司)
本文提出了一种面向AI增强用户界面安全性的以人为本的可解释性方法,通过设计可信的copilot,提升网络安全分析师对AI输出的信任和决策准确性。
2026-01-30 cs.AI cs.CR cs.HC
Six Guidelines for Trustworthy, Ethical and Responsible Automation Design
本文提出六项设计指南,基于语用学原则和跨学科文献,帮助设计师优化自动化系统的信任度评估,促进校准信任及道德、负责任的人机交互。
2025-08-04 cs.CL cs.HC
Now You See Me: Designing Responsible AI Dashboards for Early-Stage Health Innovation
OPORA Health Technologies LTD(OPORA健康科技有限公司);King's College London(国王学院伦敦)
本文提出了一种面向早期健康创新的负责任AI治理仪表板设计方法,通过协作设计和治理机制支持决策和问责。
2026-01-27 cs.AI cs.CY cs.HC
Designing Explainable AI for Healthcare Reviews: Guidance on Adoption and Trust
Newcastle University(纽卡斯尔大学);Taif University(塔伊夫大学)
本文提出了一种用于医疗评论的可解释AI系统,通过混合方法研究探讨了其在提升用户信任和采用方面的设计指导。
2026-02-11 cs.AI cs.CL cs.CY
Designing AI for Trust and Collaboration in Time-Constrained Medical Decisions: A Sociotechnical Lens
重度抑郁症是一种使人衰弱的疾病,影响着全世界2.64亿人。虽然有许多抗抑郁药物可用,但很少有临床指南支持选择它们。包含机器学习模型的决策支持工具(DST)可能有助于改善治疗选择过程,但由于系统集成不良,在临床实践中往往失败。我们使用一个迭代的协同设计过程来调查临床医生对在抗抑郁治疗决策中使用DST的看法。我们确定的方式,DST需要与医疗社会技术系统,包括临床流程,病人的喜好,资源限制和领域知识。我们的研究结果表明,临床DST应设计为多用户系统,支持患者-提供者的合作,并提供按需解释,解决预测和当前护理标准之间的差异。通过这项工作,我们展示了当前可解释人工智能的趋势可能不适合临床环境,并考虑为现实世界的医疗系统设计这些工具的路径。
2021-02-01 cs.HC
From Prediction to Foresight: The Role of AI in Designing Responsible Futures
AI Centre, Department of Computer Science, University College London, London, UK(人工智能中心、计算机科学系、伦敦大学学院、伦敦、英国)
本文探讨人工智能在推动负责任未来设计中的作用,提出负责任的计算预见概念,强调AI作为辅助工具在政策制定中的伦理应用。
2025-11-26 cs.AI cs.CY cs.HC
Worker Discretion Advised: Co-designing Risk Disclosure in Crowdsourced Responsible AI (RAI) Content Work
Carnegie Mellon University(卡内基梅隆大学);University of Southern California(南加州大学);Microsoft Research(微软研究院)
本文探讨了在众包负责任的人工智能内容工作中如何平衡工人保护与任务设计者需求,通过共设计研讨会提出风险披露机制的设计建议和特征概念。
2026-03-31 cs.CY cs.HC
Responsible AI Implementation: A Human-centered Framework for Accelerating the Innovation Process
Griffith University(格里菲斯大学);Gold Coast University Hospital(黄金海岸大学医院);Queensland Health(昆士兰卫生厅);Everledger
期望与成功采用人工智能来创新和改进业务之间仍存在巨大差距。由于深度学习的出现,人工智能的采用变得更加复杂,因为它通常包含大数据和物联网,影响数据隐私。现有的框架已经确定了关注以人为本的设计的必要性,结合技术和业务/组织的角度。然而,信任仍然是一个关键问题,需要从一开始就进行设计。所提出的框架扩展了以人为本的设计方法,强调和维护支撑过程的信任。本文提出了一个负责任人工智能(AI)实现的理论框架。拟议的框架强调了敏捷共创过程的协同业务技术方法。其目的是通过让所有利益相关者参与整个项目来简化人工智能的采用过程,以创新和改善业务,从而使人工智能技术的设计,开发和部署与人结合,而不是孤立。该框架基于分析性文献综述、概念框架设计和从业者的中介专业知识,对负责任的人工智能实施提出了新的观点。该框架强调在以人为本的设计和敏捷开发过程中建立和维护信任。这种以人为本的方法与隐私设计原则相一致并由隐私设计原则实现。该技术的创造者和最终用户正在共同努力,专门针对业务需求和人类特征定制AI解决方案。一个关于采用人工智能辅助医院规划的说明性案例研究将证明所提出的框架适用于现实生活中的应用。
2022-09-15 cs.AI cs.HC
Designing Trustworthy LLM-based Wellbeing Recommendation through Controllable Interaction
University of Gothenburg(哥德堡大学)
提出通过显式交互约束(如指导策略、解释风格、直接性程度和用户控制机制)构建系统级框架,使LLM推荐在保持适应性的同时透明、可控且与人类健康对齐。
2026-06-25 cs.HC
Strategies for Designing Responsibly within a Capitalist Enterprise
Carnegie Mellon University(卡内基梅隆大学)
本文探讨在资本主义企业中如何通过伦理与商业结合的设计策略实现负责任的人工智能,强调伦理与商业目标的协同。
2026-03-19 cs.HC
Designing The Drive: Enhancing User Experience through Adaptive Interfaces in Autonomous Vehicles
VIT Bhopal University(维特理工学院博帕尔分校)
本文探讨了通过自适应界面提升自动驾驶车辆用户体验的方法,强调透明性和用户控制在增强信任和满意度中的作用。
2025-12-14 cs.AI cs.HC
Designing Effective Digital Literacy Interventions for Boosting Deepfake Discernment
LMU Munich \& Munich Center for Machine Learning (MCML) Munich Germany;New York University New York U.S.;Colby College Waterville U.S.;LMU Munich \& Munich Center for Machine Learning (MCML);New York University;Colby College
本文提出五种数字素养干预方法,旨在提升公众对深度伪造图像的辨别能力,并通过实验验证了其中一种方法的有效性。
2026-01-23 cs.AI cs.HC
Designing forecasting software for forecast users: Empowering non-experts to create and understand their own forecasts
Stanford University(斯坦福大学)
本研究探讨如何设计预测软件赋能非专家用户,通过共同设计原型分析用户交互,提出安全分步方法、白盒模型和领域知识纳入三大考量,为设计更易用的预测软件提供见解。
2024-04-22 cs.AI cs.HC
Responsible Trauma Research: Designing Effective and Sustainable Virtual Reality Exposure Studies
Ulm University(乌尔姆大学);CYENS Centre of Excellence(塞浦路斯卓越科学教育中心)
本文探讨了将虚拟现实暴露疗法应用于复杂创伤后应激障碍治疗的可行性,发现简单物体与复杂场景同样有效,但需谨慎处理开发者参与带来的压力问题。
2026-04-14 cs.HC
Designing Interpretable ML System to Enhance Trust in Healthcare: A Systematic Review to Proposed Responsible Clinician-AI-Collaboration Framework
Grado Department of Industrial & Systems Engineering, Virginia Tech(弗吉尼亚理工大学格拉多工业与系统工程系);Institute for Intelligent Systems Research and Innovation (IISRI), Deakin University(迪肯大学智能系统研究与创新研究所);School of Mathematics, Physics, and Computing, University of Southern Queensland(南昆士兰大学数学、物理与计算学院);Center for Health Research, University of Southern Queensland(南昆士兰大学健康研究中心)
本文系统综述医疗可解释AI的方法、流程与实施挑战,基于52篇文献提出三层次可解释性流程及负责任的临床医生-AI协作实施路线图。
2024-04-10 cs.AI cs.HC cs.LG
AI Washing and the Erosion of Digital Legitimacy: A Socio-Technical Perspective on Responsible Artificial Intelligence in Business
School of Information Technology, University of Cincinnati(辛辛那提大学信息技术学院)
本文从社会技术视角探讨企业责任型人工智能中的人工智能洗白现象,提出四种类型学并分析其影响及应对措施。
2026-01-10 cs.HC
Designing Conversational Robots with Children during the Pandemic
我们的研究项目(CHATTERS)是关于设计一个用于儿童数字信息搜索的对话机器人。我们希望设计一个具有适当对话的机器人,以促进儿童和机器人之间负责任的信任关系。在本文中,我们给出:1)关于儿童对提供信息的机器人的信任的实证研究的初步看法,该研究是由于COVID-19大流行而通过视频通话进行的。2)我们还对我们举办的一个共同设计研讨会进行了初步分析,在那里,流行病可能影响了儿童的设计选择。(3)最后,我们描述了我们正在开发的即将到来的研究活动。
2022-05-23 cs.HC cs.IR
From the Head or the Heart? An Experimental Design on the Impact of Explanation on Cognitive and Affective Trust
University of Michigan(密歇根大学)
自动驾驶汽车(AV)是一种社交机器人,可以为我们的社会带来潜在的好处。根据现有的文献,自动驾驶解释可以通过减少与自动驾驶的推理和行动相关的不确定性来促进乘客的信任。然而,关于AV解释和信任的文献没有考虑到信任的类型-认知与情感-可能会改变这种关系。然而,现有的文献表明,与信任相关的影响有很大的不同,这取决于它是认知还是情感。为了解决这一缺陷,更好地了解解释对信任的影响,在自动驾驶汽车,我们设计了一项研究,调查解释的有效性认知和情感的信任。我们期望这些结果在设计AV解释以促进AV信任方面具有重要意义。
2021-10-07 cs.AI cs.HC cs.RO
"How trustworthy is this research?" Designing a Tool to Help Readers Understand Evidence and Uncertainty in Science Journalism
本研究通过设计与科普网站合作开发了“科学证据指示器”工具,利用元数据和视觉信息帮助读者评估健康科学新闻中的证据强度,以区分科学与伪科学,评估显示其能帮助识别同行评审研究,但深入理解仍有挑战,未来可针对记者开发类似工具。
2023-04-11 cs.DL cs.HC
Designing for Health Chatbots
构建会话代理有许多技术,设计和语言上的挑战。其他更复杂的元素包括使用情感智能对话代理来与个人建立信任。在这一章中,我们介绍了会话用户界面(CUI)的健康和描述的UX设计原则,通过系统的文献回顾相关的研究工作。我们分析了对话界面和聊天机器人的科学文献,提供了主要研究的调查,并描述了UX设计原则和交互模式。
2019-02-24 cs.CY cs.HC
'SSL?! What on earth is that?': Towards Designing Age-Inclusive Secure Smartphone Browsing
本研究评估了智能手机上现有信任机制在防范钓鱼网站方面的可用性,发现现有机制效果不佳且用户体验差,并探讨了老年人等群体对社交支持等替代信任模态的偏好,为设计年龄包容的安全浏览机制提供了依据。
2025-04-29 cs.CY cs.HC
The Reel Deal: Designing and Evaluating LLM-Generated Short-Form Educational Videos
本研究开发并评估了ReelsEd系统,利用大语言模型从长讲座视频自动生成短视频,实验表明其在参与度、测验成绩和任务效率上优于传统视频且不增加认知负荷。
2025-09-07 cs.HC
Designing Dynamic Robot Characters to Improve Robot-Human Communications
LMU Munich(慕尼黑大学)
社会辅助机器人在高度敏感的环境中导航,这对安全和与用户的沟通提出了很高的要求。特区的行动背后的理由必须在任何时候都是透明的,以赢得用户的信任和接受。虽然对不同的通信方式进行了广泛的研究,但缺乏长期研究,调查用户通信需求随时间的变化。考虑到二十年的研究在人机通信,我们制定了需要设计动态的机器人个性,以揭示SAR的全部潜力。
2023-03-09 cs.HC cs.RO
Designing and Evaluating an Educational Recommender System with Different Levels of User Control
本研究设计并评估了一个具有不同用户控制水平的教育推荐系统,通过在线用户研究(N=30)发现用户控制能提升用户感知益处,并与透明度强相关、与信任和满意度中等相关。
2025-01-22 cs.CY cs.HC cs.IR
Soliciting Human-in-the-Loop User Feedback for Interactive Machine Learning Reduces User Trust and Impressions of Model Accuracy
University of Florida(佛罗里达大学)
混合主动系统允许用户交互式地提供反馈,以潜在地提高系统性能。人工反馈可以纠正模型错误并更新模型参数,以动态适应不断变化的数据。此外,许多用户希望能够有更高的控制水平,并修复他们所依赖的系统中的感知缺陷。然而,向自治系统提供反馈的能力如何影响用户信任,这在很大程度上是一个尚未探索的研究领域。我们的研究调查了提供反馈的行为如何影响用户对智能系统及其准确性的理解。我们提出了一个对照实验,使用一个模拟的目标检测系统与图像数据,研究交互式反馈收集对用户印象的影响。结果表明,提供人在回路反馈降低了参与者对系统的信任和他们对系统准确性的感知,无论系统准确性是否响应他们的反馈而提高。这些结果强调了在设计智能系统时考虑最终用户反馈对用户信任的影响的重要性。
2020-08-28 cs.AI cs.HC cs.LG
Alexa Depression and Anxiety Self-tests: A Preliminary Analysis of User Experience and Trust
通过网站和移动应用程序提供的心理健康资源提供支持,如建议,日志和认知行为疗法的元素。语音会话代理的激增,如Alexa,Siri和Google Home,导致人们对为这些设备开发心理健康应用程序的兴趣越来越大。我们介绍了Alexa技能的试点研究结果,该技能允许用户进行抑郁和焦虑自我测试。10名参与者获得了为期两周的Alexa技能访问权限,然后对技能的可用性和信任度进行在线评估。我们的初步评估表明,参与者信任该技能,并将可用性和用户体验评分为平均水平。技能使用率很低,大部分人只使用一次。鉴于正在进行的工作,我们还提出了一个讨论的实施和研究设计的挑战,以指导目前的文献设计口语会话代理的心理健康应用。
2020-08-10 cs.HC
Designing Intent: A Multimodal Framework for Human-Robot Cooperation in Industrial Workspaces
Aalto University(阿alto大学);TU Wien(维也纳技术大学)
本文提出一个基于SAT框架的多维设计空间,用于工业人机协作中意图沟通,涵盖内容、规划视野和模态,旨在指导多模态策略设计并奠定透明交互工具包基础。
2025-06-18 cs.HC cs.RO
Developing a measure of online wellbeing and user trust
本文介绍了两个规模的持续发展的第一阶段,以衡量在线幸福感和信任,一系列研讨会的结果与年轻人和老年人的基础上。首先,在线幸福量表包括心理或eudaimonic幸福和主观或享乐幸福以及数字素养和在线活动的子量表;总体目标是了解用户的在线体验如何影响他们的幸福。第二个量表,信任指数包括三个分量表,涵盖信任对用户的重要性,信任信念和上下文因素;该量表的目的是检查在线算法驱动系统中的信任。这些量表将一起使用,以帮助研究人员了解信任(或缺乏信任)与在线整体幸福感的关系。他们还将协助开发一套工具,使用户能够在线协商信任问题,并协助制定准则,在开发在线算法驱动系统时纳入信任考虑。下一步是在一项大型在线研究中发布作为该试点的结果而开发的原型量表,以验证这些措施。
2020-07-28 cs.CY cs.HC
Trust-Enabled Privacy: Social Media Designs to Support Adolescent User Boundary Regulation
University of Washington(华盛顿大学)
本文提出基于信任的隐私框架,通过研究青少年社交媒体使用,探讨如何通过平台设计支持信任建立,从而促进更适应性的边界调节和关系建立。
2025-05-29 cs.HC
Trust in Autonomous Human--Robot Collaboration: Effects of Responsive Interaction Policies
Laurentian University(劳伦太大学)
研究探讨了在无Wizard-of-Oz控制或预设修复的社交机器人协作中,交互策略对信任形成的影响,发现响应式策略在通信条件良好时显著提升信任,但任务准确性无显著差异。
2026-03-17 cs.HC cs.RO
A Brief Guide to Designing and Evaluating Human-Centered Interactive Machine Learning
DeepMind(深度思维)
交互式机器学习(IML)是一个研究领域,探索如何在决策系统中利用人类和计算能力。IML代表了多个互补的人类和机器智能系统之间的协作,每个系统都有自己独特的能力和局限性。这种团队合作可能意味着两个系统同时或按顺序采取行动。IML领域的两个主要开放研究问题是:“我们应该如何设计能够随着时间的推移通过人机交互学习做出更好决策的系统?以及"我们应该如何评估这种系统的设计和部署?“对所涉及的人缺乏适当的考虑可能会导致系统行为问题,以及公平性、问责制和透明度问题。因此,我们这项工作的目标是提出一个以人为本的指南,以设计和评估IML系统,同时降低风险。本指南旨在供负责人类互动的健康、安全和福祉的机器学习从业者使用。对公众互动负责的义务意味着正直、诚实、公平地行事,并遵守适用的法律法规。牢记这些价值观和原则,我们作为机器学习研究社区可以更好地实现增强人类技能和能力的目标。因此,本实用指南旨在支持IML系统的迭代设计、开发和传播过程中所需的许多负责任的决策。
2022-04-20 cs.GL cs.HC cs.LG
How Generative AI Empowers Attackers and Defenders Across the Trust & Safety Landscape
Google(谷歌);CSU Long Beach(加州州立大学长滩分校);Google Research(谷歌研究院)
本文通过43名专家的质性研究,探讨生成式AI在信任与安全领域对攻击者和防御者的影响,揭示其在提升攻击规模与速度的同时,也为防御方提供了检测有害内容、调查取证等新手段。
2026-04-22 cs.CR cs.CY cs.HC