Ethics Pathways: A Design Activity for Reflecting on Ethics Engagement in HCI Research
本文提出伦理路径(Ethics Pathways)设计活动,通过四项任务帮助HCI研究者反思伦理参与,强调情感、权力互动与制度目标的关联。
2024-05-26 cs.CY cs.HC
Implementing Ethics in AI: Initial Results of an Industrial Multiple Case Study
人工智能(AI)在系统开发工作中变得越来越普遍。由于人工智能系统的独特性质,它会影响到各种利益相关者,因此这些系统日益增长的影响力需要考虑道德因素。学术讨论和自治系统故障的实际例子强调了在软件开发中实施道德规范的必要性。然而,在实践中将伦理学应用于人工智能系统设计和开发的方法和工具的研究仍然缺乏。本文通过提供在基于AI的软件开发中生成道德基线所需的元素来解决这个焦点问题。我们通过对医疗保健领域人工智能系统开发的工业多案例研究来实现这一点。使用基于现存的概念性人工智能伦理文献的研究模型,我们探索了在缺乏正式方法和工具的情况下,在该领域的实践现状。
2020-06-16 cs.CY
Ethics for Digital Medicine: A Path for Ethical Emerging Medical IoT Design
Colorado State University(科罗拉多州立大学)
随着越来越强大的嵌入式系统和物联网(IoT)计算设备的到来,数字医学时代的曙光正在创造新的疗法和生物医学解决方案,有望积极改变我们的生活质量。然而,数字医学革命也带来了不可预见的复杂的伦理、监管和社会问题。在这篇文章中,我们反思了数字医学面临的伦理挑战。我们讨论了医疗设备中道德监督的风险,以及专业守则和监管监督对安全有效地满足患者需求的数字医疗设备的道德设计,部署和操作的作用。我们倡导强化教育、可编程道德行为和道德分析框架的整体方法,以防止事故并维持新兴数字医疗设备的道德创新、设计和生命周期管理。
2022-10-21 cs.AI cs.CY
AI-Ethics by Design. Evaluating Public Perception on the Importance of Ethical Design Principles of AI
尽管从道德上设计人工智能(AI)具有巨大的社会重要性,但很少有关于公众对AI道德原则的看法的研究。当考虑到道德AI开发的目标是以人为本并造福于整个社会时,这一点变得更加引人注目。在这项研究中,我们调查了道德原则(可解释性,公平性,安全性,问责制,准确性,隐私性,机器自主性)如何相互比较。这一点尤其重要,因为同时考虑道德原则不仅成本高昂,有时甚至是不可能的,因为开发人员必须做出具体的权衡决定。在本文中,我们首先回答了道德原则的相对重要性,给出了一个具体的用例-人工智能在税务欺诈检测中的使用。一项大型联合调查(n=1099)的结果表明,总的来说,德国受访者认为道德原则同样重要。然而,随后的聚类分析表明,不同的偏好模型的道德设计的系统存在于德国人口。这些聚类不仅在首选属性方面,而且在属性本身的重要性水平方面都有很大的不同。我们进一步描述了这些群体是如何在社会人口统计学以及对AI的看法方面构成的。社会影响以及设计挑战进行了讨论。
2021-06-01 cs.CY cs.HC
Ethically Aligned Design of Autonomous Systems: Industry viewpoint and an empirical study
人工智能领域的进步在过去二十年中一直在快速加速。从纯数字系统到自动驾驶汽车的各种自动驾驶系统正在开发并部署在现场。随着这些系统对社会产生越来越大的影响,与人工智能和自治系统有关的伦理问题最近在学术界引起了越来越多的关注。然而,目前关于这一主题的文献几乎完全集中在理论上,更具体地说,集中在这一领域的概念化上。为了拓宽该领域的知识体系,我们对人工智能伦理学的实践现状进行了实证研究。我们这样做的五个案例公司的多个案例研究的手段,其结果表明在该领域的研究和实践之间的差距。根据我们的研究结果,我们提出了解决差距的方法。
2019-06-19 cs.CY
Designing a Future Worth Wanting: Applying Virtue Ethics to HCI
在伦理学的三种主要方法中,鉴于社会技术变革的步伐和社会的复杂性,美德伦理学特别适合作为数字时代的道德指南。美德伦理学关注的是道德主体的特征、情境和行为,而不是规则(如义务论)或结果(后果论)。尽管HCI内部对伦理学的兴趣越来越大,但对美德伦理学的参与却很少。为了解决这一空白,并展示进一步的机会,道德设计,本文提供了一个概述的美德伦理在HCI中的应用。它回顾了现有的人机交互工作从事美德伦理,提供了一个初级的美德伦理,以纠正广泛的误解人机交互,并提出了一个演绎的文献综述,说明如何现有的人机交互研究线与美德培养的做法产生共鸣,铺平了道路,为进一步的工作,以美德为导向的设计。
2022-04-05 cs.CY cs.HC
Professional Ethics by Design: Co-creating Codes of Conduct for Computational Practice
本文提出采用设计启发的方法,将专业伦理编码为计算形式,以共同创建跨领域的计算实践行为准则,应对从业者面临的伦理挑战。
2023-05-12 cs.CY
Playing The Ethics Card: Ethical Aspects In Design Tools For Inspiration And Education
本文涉及自己的研究结果在领域的共同设计工具的道德方面和他们的机会,灵感和HCI教育。我们概述了一些选定的通用HCI/设计工具以及物联网领域特定的工具。这些工具通常是基于卡片的,不仅适用于与合作设计师的研讨会,也适用于与学生的内部研讨会,以将这些方面纳入他们的专业知识,有时甚至以一种有趣的方式。
2022-01-25 cs.CY cs.HC
Epistemic Trust as a Mechanism for Ethics Integration: Failure Modes and Design Principles from 70 Moral Imagination Workshops
Ludwig-Maximilians-Universität München(路德维希-马克西米利安慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心);Google(谷歌);Google Research(谷歌研究);The Ethics Practice(伦理实践);Stanford University(斯坦福大学);Google DeepMind(谷歌DeepMind)
本文提出知识信任作为连接干预设计与参与效果的概念模型,通过70场道德想象力研讨会分析,识别出伦理干预的五个关键维度及23种失败模式,提出九条设计原则以培养知识信任。
2026-11-01 cs.CY
Value-based Engineering for Ethics by Design
本文介绍了设计伦理学的价值工程方法论。它讨论了在系统设计中引出、概念化、优先化和尊重价值观方面所涉及的关键挑战和措施。因此,它借鉴了软件工程,价值敏感设计,设计思维和参与式设计以及哲学来源,特别是价值的物质伦理学。本文及时认识到基于价值的工程面临的挑战,例如与敏捷形式的系统开发的兼容性,在难以控制的互联服务生态系统中的责任,外部利益相关者的无畏整合以及衡量系统道德的困难。最后,基于价值的工程方法,这里提出的受益于学习收集的IEEE P7000标准化过程中,以及从案例研究。P7000是IEEE建立的一个过程模型,它在系统启动、分析和设计的各个阶段都考虑到了伦理问题。
2020-10-23 cs.CY cs.GL
Unpacking Approaches to Learning and Teaching Machine Learning in K-12 Education: Transparency, Ethics, and Design Activities
本文通过文献回顾提出K-12机器学习教育的三种方法(数据驱动、算法驱动及整合式),并分析其在透明性、学习者兴趣与设计机会、伦理正义方面的表现,为未来学习活动设计提供方向。
2024-09-03 cs.CY
Towards a Practical Ethics of Generative AI in Creative Production Processes
University College of West-Flanders(西佛兰德斯大学学院)
本文针对生成式人工智能融入创意生产流程的伦理问题,从技术用户视角出发,基于六大伦理理论构建实践框架,帮助设计师在创意各阶段兼顾伦理原则与技术潜力,避免损害创意流程。
2024-11-18 cs.AI cs.CY
The Interplay of Computing, Ethics, and Policy in Brain-Computer Interface Design
本文首次探讨脑机接口(BCI)设计中伦理、法律和政策考量如何影响架构设计,以及架构师的决策如何限制或扩展适用的伦理、法律和政策框架。
2024-09-26 cs.AR cs.CY
Towards a Feminist Metaethics of AI
Katholieke Universiteit Leuven(鲁汶大学)
本文提出AI女性主义元伦理学的研究议程,以批判性评估AI伦理学家自身,并从理论行动连续性、现实影响、参与者角色及权力关系四个维度弥补现有AI伦理框架的不足。
2023-11-10 cs.AI cs.CY
Power and Play: Investigating "License to Critique" in Teams' AI Ethics Discussions
本文通过让企业与行动主义团队游玩伦理讨论游戏,考察权力和议题范围如何影响“批判许可”,发现游戏难改实践但有助于结成未来集体行动的批判盟友。
2024-04-08 cs.CY
Front-End Ethics for Sensor-Fused Health Conversational Agents: An Ethical Design Space for Biometrics
Imperial College London(伦敦帝国理工学院);Korea Institute of Science and Technology(韩国科学技术研究院)
本文探讨了生物特征翻译的伦理设计,提出五个维度分析前端伦理风险,提出适应性披露作为安全机制,确保健康代理支持用户自主性。
2026-03-14 cs.AI cs.CY
AI Ethics by Design: Implementing Customizable Guardrails for Responsible AI Development
University of Zagreb(萨格勒布大学);Preamble(普雷安布尔公司)
本文提出一种可定制的AI伦理护栏框架,通过整合规则、策略与AI助手实现负责任的AI行为,支持伦理多元主义并提升透明度与用户自主性,同时给出冲突解决策略。
2026-11-04 cs.CL cs.CY
Ethics of generative AI and manipulation: a design-oriented research agenda
本文指出生成式AI带来大规模自动化操纵风险且尚未被充分研究,提出了涵盖概念、实证与设计维度的研究议程,强调需对操纵进行适当概念化以确保技术负责任发展。
2025-02-01 cs.AI cs.CY
Design Patterns for the Common Good: Building Better Technologies Using the Wisdom of Virtue Ethics
研究提出识别体现特定美德的用户体验设计模式的方法,通过七种社交媒体设计模式和24位专家访谈验证,为技术专业人员将美德传统融入支持人类繁荣的技术开发提供路径。
2025-01-28 cs.CY cs.HC
Frameworking for a Community-led Feminist Ethics
该研究针对人机交互领域伦理研究重原则轻人的问题,提出整合交叉性女性主义视角的多维度自适应伦理模型,为社区主导的伦理实践提供整体框架。
2024-04-17 cs.CY cs.HC
Report on the Conference on Ethical and Responsible Design in the National AI Institutes: A Summary of Challenges
Georgia Institute of Technology(佐治亚理工学院)
本文总结了2023年国家AI研究所伦理与负责任设计会议的成果,聚焦研究所在AI系统开发中识别与落实伦理设计实践所面临的挑战、研究方向及合作点。
2024-11-12 cs.AI cs.CY
Towards A Unified Utilitarian Ethics Framework for Healthcare Artificial Intelligence
College of Communication & Information, Florida State University(佛罗里达州立大学传播与信息学院)
该研究通过主题分析与36位AI专家调查数据识别医疗AI关键伦理原则,并提出基于功利主义伦理的统一理论框架。
2023-09-26 cs.AI cs.CY
Ethics Readiness of Artificial Intelligence: A Practical Evaluation Method
RISE Research Institutes of Sweden(瑞典RISE研究院);CEA-Saclay(萨克雷法国原子能和替代能源委员会)
本文提出了一种评估AI系统伦理准备度的四级迭代方法,通过案例研究展示其在促进伦理设计思维方面的有效性。
2025-12-10 cs.AI cs.CY
Ethics by Design: A Lifecycle Framework for Trustworthy AI in Medical Imaging From Transparent Data Governance to Clinically Validated Deployment
本文提出医学影像AI全生命周期伦理框架,系统分析数据收集、处理、模型训练、评估和部署五阶段的隐私、公平、透明、问责与自主性问题,并给出针对性伦理策略以构建可信AI系统。
2025-07-06 cs.CY cs.ET
Future Intelligent Autonomous Robots, Ethical by Design. Learning from Autonomous Cars Ethics
Mälardalen University(梅拉达伦大学);University of Gothenburg(哥德堡大学)
智能自主机器人技术的发展以其对个人和社会产生预期的有益影响为前提。在这种颠覆性的新兴技术的情况下,不仅如何构建的问题,而且为什么要构建以及会产生什么后果的问题都很重要。智能自动驾驶机器人汽车的道德领域是具有可操作实用价值的研究的一个很好的例子,其中包括法律系统和其他社会和政府行为者以及公司和企业在内的各种利益相关者进行合作,带来对技术的道德和社会方面的共同看法。它可以作为一般智能自主机器人开发方法的起始平台,考虑技术生存周期不同阶段的人机界面-开发、实施、测试、使用和处置。从我们对自主智能机器人汽车伦理的研究以及现有的机器人伦理文献中,我们的贡献包括一套价值观和伦理原则,以及确定的挑战和应对挑战的建议方法。这可能有助于智能自主机器人领域的利益相关者将伦理原则与其应用联系起来。我们对自动驾驶汽车道德要求的建议可用于其他类型的智能自动驾驶机器人,但对于社交机器人需要进行更多有关与用户交互的研究。我们强调,现有的道德框架需要以一种对背景敏感的方式加以应用,通过多学科、多能力团队的评估,通过多标准分析。此外,我们认为,需要不断发展的道德原则,指导方针和法规,通过技术的进步和相关利益相关者的参与。
2021-07-16 cs.AI cs.CY cs.RO
Investigating Youth's Technical and Ethical Understanding of Generative Language Models When Engaging in Construction and Deconstruction Activities
本研究通过参与式设计工作坊,让青少年构建和审计生成语言模型,以探究其技术与伦理理解的发展,并贡献相关证据与实践清单。
2025-04-21 cs.CY cs.HC
Seeing Like a Toolkit: How Toolkits Envision the Work of AI Ethics
Georgia Institute of Technology(佐治亚理工学院);Microsoft Research(微软研究院);University of California, Berkeley(加州大学伯克利分校)
已经开发了许多工具包来支持道德AI开发。然而,工具包,像所有的工具一样,在它们的设计中编码了关于应该做什么和如何做的假设。在本文中,我们对27个人工智能伦理工具包进行了定性分析,以批判性地研究伦理工作是如何想象的,以及这些工具包是如何支持的。具体来说,我们研究的话语工具包依赖于谈论道德问题时,他们认为应该做的道德工作,以及他们如何设想的工作实践涉及解决道德问题。在这些工具包中,我们发现了想象中的道德工作与工具包为做这项工作提供的支持之间的不匹配。特别是,我们发现缺乏指导如何导航劳动,组织和机构的权力动态,因为它们涉及到执行道德工作。我们使用这些遗漏来为人工智能伦理工具包的研究人员和设计人员绘制未来的工作。
2023-01-20 cs.AI cs.CY cs.HC
AI Governance in Higher Education: A course design exploring regulatory, ethical and practical considerations
PBC
针对当前AI伦理教育碎片化问题,本文提出一个整合技术、伦理、法律与政策的模块化跨学科课程,借鉴多方框架制定学期计划,旨在培养能诊断风险与驾驭监管的负责任AI治理专业人才。
2025-09-16 cs.AI cs.CY cs.ET
Bots as Virtual Confederates: Design and Ethics
Massachusetts Institute of Technology(麻省理工学院);Cornell(康奈尔大学)
在在线现场实验中使用机器人作为虚拟同盟者,作为计算社会科学中的一种新方法工具,具有极大的前景。然而,这种潜在的工具带来了固有的道德挑战。在许多情况下很难获得知情同意,使用同谋者必然意味着使用欺骗手段。在这项工作中,我们概述了机器人作为虚拟同盟的设计空间,我们提出了一套准则,以满足道德实验的现状。我们借鉴了CSCW社区和更广泛的社会科学文献中以前的工作的例子来说明。虽然之前有少数研究人员在在线实验中使用机器人,但我们的工作旨在激发这一领域的未来工作,并提高对相关道德问题的认识。
2016-11-02 cs.AI cs.CY cs.HC
Introduction to ethics in the age of digital communication
本文作为数字传播领域伦理学导论,概述应用伦理学子领域,从多视角考察当代职业实践中的伦理,探讨传播领域伦理性质的变化及新兴技术的影响,为相关从业者提供伦理认知框架。
2023-08-28 cs.CY cs.HC
Building Bridges: Generative Artworks to Explore AI Ethics
Fujitsu Research of America(富士通美国研究院);Georgia Tech(佐治亚理工学院);Facebook AI Research(脸书人工智能研究院)
近年来,人们越来越重视理解和减轻人工智能(AI)技术对社会的不利影响。在学术界、工业界和政府机构中,人们正在为加强人工智能道德而做出各种努力。设计道德人工智能系统的一个重大挑战是,人工智能管道中有多个利益相关者,每个利益相关者都有自己的一套约束和利益。这些不同的观点往往不被理解,部分原因是沟通上的差距。例如,设计和开发人工智能模型的人工智能研究人员不一定意识到人工智能决策的复合影响给消费者的生活带来的不稳定性。有必要教育不同的利益攸关方了解他们在更广泛的背景下的作用和责任。在这份立场文件中,我们概述了一些潜在的方式,使生成艺术作品可以发挥这一作用,作为一种可访问的和强大的教育工具,用于展示不同的观点。我们希望广泛地激发关于计算创造力的跨学科讨论,作为增强人工智能伦理的工具。
2021-06-25 cs.AI cs.CY
Exploring the Modular Integration of "AI + Architecture" Pedagogy in Undergraduate Design Education: A Case Study of Architectural Design III/IV Courses at Zhejiang University
Zhejiang University(浙江大学)
本研究通过浙江大学建筑设计III/IV课程案例,探索AI与建筑教学的模块化整合,结合技术与伦理教育,提升学生数字技能与战略认知。
2025-12-14 cs.AI cs.CY
From Review to Design: Ethical Multimodal Driver Monitoring Systems for Risk Mitigation, Incident Response, and Accountability in Automated Vehicles
C3I Imaging Lab, School of Engineering, University of Galway(Galway大学工程学院C3I成像实验室);Royal College of Surgeons in Ireland(爱尔兰皇家外科医师学院)
本文提出针对自动驾驶车辆中多模态驾驶员监控系统的设计框架,解决伦理和法律挑战,强调透明、可信和以人为本的设计方法。
2026-05-07 cs.CV cs.CY cs.ET