Ethical Implications: The ACM/IEEE-CS Software Engineering Code applied to Tesla's "Autopilot" System
2015年10月14日,Tesla Inc.一家美国电动汽车公司,发布了Autopilot系统的初始版本。该系统承诺使用已经安装在特斯拉汽车上的现有硬件提供半自动驾驶。2018年3月23日,一辆特斯拉汽车以高速公路的速度撞上了一个隔离带,导致司机死亡。这是在Autopilot系统的控制下发生的,没有驾驶员干预。批评人士认为,尽管特斯拉在其用户手册中向驾驶员发出警告,但发布一个以自动驾驶仪销售的系统,但仍然会犯任何人类驾驶员都不会犯的严重错误,这最终是不道德的。其他人则为特斯拉辩护,称他们的自动驾驶仪是合适的,司机最终应该为自动驾驶仪的任何错误承担责任。本文将仔细研究特斯拉选择开发、营销和交付需要广泛测试的测试版产品的道德影响。它将进一步分析特斯拉以Autopilot的名义对该产品进行积极广告的影响以及相关的营销材料。通过应用联合ACM/IEEE-CS软件工程道德准则,本文将表明特斯拉在此事件中的选择和行为与准则不一致,是不道德的,因为他们有责任充分测试和诚实地营销他们的产品。
2018-12-13 cs.CY
Big Tech Companies Impact on Research at the Faculty of Information Technology and Electrical Engineering
人工智能正在获得动力,持续的流行病正在为每个部门特别是卫生和教育部门提供更多机会。但随着技术的发展,与道德相关的挑战也在增长(凯瑟琳·施瓦布,2021)。每当开发新的人工智能产品时,公司都会宣传他们的系统是透明、公平的,并且符合现有的法律法规,因为大型科技公司确保人工智能道德所遵循的方法和程序,不仅影响公众的信任和认知,而且还挑战公司在不同地区的业务策略能力,以及它能为他们的项目吸引什么样的人才。AI大科技公司对AI伦理有影响力,因为许多有影响力的伦理AI研究人员都扎根于大科技或其相关实验室。
2022-04-10 cs.CY
Ethics in Computing Education: Challenges and Experience with Embedded Ethics
下一代计算机工程师和科学家不仅必须精通分析、优化和创建新兴微电子系统所需的技术知识,还必须掌握在设计过程中做出道德决策所需的技能。因此,在计算机课程中教授计算机伦理学正成为一项重要的要求,对我们日益连接和依赖计算的社会产生重大影响。在本文中,我们反映了许多挑战和问题,有效地将道德融入现代计算课程。我们描述了一个案例研究,在科罗拉多州立大学的计算机工程课程整合的道德模块。
2023-03-22 cs.CY
Thinging Ethics for Software Engineers
道德体系通常被描述为区分是非和形成正确行为信念的原则。伦理学的主题是复杂的,对心理模型的描述过于冗长,哲学假设根深蒂固。从实践经验来看,在对软件工程学生进行伦理学教学时,仅仅解释伦理学往往不能为学生提供行为和思想的见解。此外,似乎还没有探索到一个概念性的介绍道德的发展,呼吁计算机工程师。这在软件工程领域尤其明显,该领域关注软件和相关工具,如应用于各种类型的数据和概念工件的算法、图解、文档、建模和设计。软件工程师似乎将伦理材料视为缺乏系统化和统一性的想法和概念的集合。因此,本文探索了一种伦理理论的事物图式化,它可以起到类似于建模语言的作用(例如,UML)。在这种方法中,思维意味着事物和机制的现实化(存在、在场、存在),这些机制在道德相关的现实的某个区域周围定义了一个边界,将其与其他一切事物分开。由此产生的图形表示,然后开发模型的过程中作出道德决定,在该地区。
2018-09-25 cs.CY
Value-based Engineering with IEEE 7000TM
数字伦理作为创建更可靠的IT系统的必要条件正在全球范围内进行讨论。由于对不可控人工智能(AI)的恐惧,这一讨论推动了许多机构和科学家要求基于价值的系统工程。本文介绍了组织如何使用IEEE 7000TM标准中标准化的“基于价值的工程”(VBE)方法来构建负责任和道德的系统。VBE是一种透明、结构清晰、循序渐进的方法,将创新管理、风险管理、系统和软件工程结合在一个过程框架中。它嵌入了一个强大的价值本体和术语。它已在各种案例研究中得到检验。本文向读者介绍了该方法的最重要步骤和贡献。
2022-06-21 cs.CY
Evaluating AI-Powered Learning Assistants in Engineering Higher Education: Student Engagement, Ethical Challenges, and Policy Implications
ByWater Institute, Tulane University(杜兰大学拜沃特研究所);Office of Teaching, Learning, and Technology, University of Iowa(爱荷华大学教学、学习与技术办公室);River-Coastal Science and Engineering, Tulane University(杜兰大学河流与海岸科学与工程系)
本研究评估了在R1公立大学工程本科课程中应用的AI学习框架Educational AI Hub,通过混合方法发现学生认可其便利性但存在伦理顾虑,强调需提升可用性、伦理透明度并辅以教师指导以促进有效AI学习参与。
2025-10-27 cs.AI cs.CY cs.HC
Ethics Pathways: A Design Activity for Reflecting on Ethics Engagement in HCI Research
本文提出伦理路径(Ethics Pathways)设计活动,通过四项任务帮助HCI研究者反思伦理参与,强调情感、权力互动与制度目标的关联。
2024-05-26 cs.CY cs.HC
Ethics for Digital Medicine: A Path for Ethical Emerging Medical IoT Design
Colorado State University(科罗拉多州立大学)
随着越来越强大的嵌入式系统和物联网(IoT)计算设备的到来,数字医学时代的曙光正在创造新的疗法和生物医学解决方案,有望积极改变我们的生活质量。然而,数字医学革命也带来了不可预见的复杂的伦理、监管和社会问题。在这篇文章中,我们反思了数字医学面临的伦理挑战。我们讨论了医疗设备中道德监督的风险,以及专业守则和监管监督对安全有效地满足患者需求的数字医疗设备的道德设计,部署和操作的作用。我们倡导强化教育、可编程道德行为和道德分析框架的整体方法,以防止事故并维持新兴数字医疗设备的道德创新、设计和生命周期管理。
2022-10-21 cs.AI cs.CY
AI-Ethics by Design. Evaluating Public Perception on the Importance of Ethical Design Principles of AI
尽管从道德上设计人工智能(AI)具有巨大的社会重要性,但很少有关于公众对AI道德原则的看法的研究。当考虑到道德AI开发的目标是以人为本并造福于整个社会时,这一点变得更加引人注目。在这项研究中,我们调查了道德原则(可解释性,公平性,安全性,问责制,准确性,隐私性,机器自主性)如何相互比较。这一点尤其重要,因为同时考虑道德原则不仅成本高昂,有时甚至是不可能的,因为开发人员必须做出具体的权衡决定。在本文中,我们首先回答了道德原则的相对重要性,给出了一个具体的用例-人工智能在税务欺诈检测中的使用。一项大型联合调查(n=1099)的结果表明,总的来说,德国受访者认为道德原则同样重要。然而,随后的聚类分析表明,不同的偏好模型的道德设计的系统存在于德国人口。这些聚类不仅在首选属性方面,而且在属性本身的重要性水平方面都有很大的不同。我们进一步描述了这些群体是如何在社会人口统计学以及对AI的看法方面构成的。社会影响以及设计挑战进行了讨论。
2021-06-01 cs.CY cs.HC
Designing a Future Worth Wanting: Applying Virtue Ethics to HCI
在伦理学的三种主要方法中,鉴于社会技术变革的步伐和社会的复杂性,美德伦理学特别适合作为数字时代的道德指南。美德伦理学关注的是道德主体的特征、情境和行为,而不是规则(如义务论)或结果(后果论)。尽管HCI内部对伦理学的兴趣越来越大,但对美德伦理学的参与却很少。为了解决这一空白,并展示进一步的机会,道德设计,本文提供了一个概述的美德伦理在HCI中的应用。它回顾了现有的人机交互工作从事美德伦理,提供了一个初级的美德伦理,以纠正广泛的误解人机交互,并提出了一个演绎的文献综述,说明如何现有的人机交互研究线与美德培养的做法产生共鸣,铺平了道路,为进一步的工作,以美德为导向的设计。
2022-04-05 cs.CY cs.HC
Reflexive Prompt Engineering: A Framework for Responsible Prompt Engineering and Interaction Design
Technical University of Munich(慕尼黑工业大学)
本文提出一个包含提示设计、系统选择、系统配置、性能评估和提示管理五个组件的负责任提示工程框架,旨在将伦理与社会价值嵌入AI交互,平衡技术精确性与伦理意识,连接AI开发与部署。
2025-04-22 cs.AI cs.CL cs.CY
Playing The Ethics Card: Ethical Aspects In Design Tools For Inspiration And Education
本文涉及自己的研究结果在领域的共同设计工具的道德方面和他们的机会,灵感和HCI教育。我们概述了一些选定的通用HCI/设计工具以及物联网领域特定的工具。这些工具通常是基于卡片的,不仅适用于与合作设计师的研讨会,也适用于与学生的内部研讨会,以将这些方面纳入他们的专业知识,有时甚至以一种有趣的方式。
2022-01-25 cs.CY cs.HC
Ethics as a service: a pragmatic operationalisation of AI Ethics
随着人工智能(AI),特别是机器学习(ML)的潜在用途范围的增加,人们对相关伦理问题的认识也在增加。这种意识的提高使人们意识到,现有的立法和法规对个人、团体、社会和环境免受人工智能危害的保护不足。为应对这一认识,以原则为基础的道德守则、准则和框架大量涌现。然而,越来越明显的是,人工智能伦理原则的理论与人工智能系统的实际设计之间存在着巨大的差距。在以前的工作中,我们分析了是否有可能通过使用旨在帮助AI开发人员,工程师和设计师将原则转化为实践的工具和方法来缩小AI伦理之间的差距。我们的结论是,这种封闭的方法目前是无效的,因为几乎所有现有的翻译工具和方法要么太灵活(因此容易受到道德洗涤),要么太严格(对上下文反应迟钝)。这就提出了一个问题:如果即使有技术指导,人工智能伦理也难以嵌入算法设计过程,那么整个亲伦理设计努力是否会变得徒劳?如果没有,那么人工智能伦理如何对人工智能从业者有用?这是我们在这里寻求解决的问题,通过探索为什么原则和技术翻译工具仍然需要,即使它们是有限的,以及如何通过提供一个概念的理论基础来克服这些限制,这个概念被称为道德服务。
2021-02-11 cs.CY
The Role of Smart Cities in Ethical Design Framework
Monash University(蒙纳士大学)
本文探讨智能城市在伦理设计框架中的作用,通过理论分析和案例研究,提出监管沙盒、参与式治理等策略,以促进包容性和伦理化的城市发展。
2025-12-06 cs.CY
The Moral-IT Deck: A Tool for Ethics by Design
本文介绍了一个新的工具,使道德设计:道德IT卡的设计过程和实证评估。需要更好的工具来支持技术人员在系统设计过程中解决道德问题的作用。这些实物卡片有助于技术专家思考技术开发的规范方面,特别是新出现的风险、适当的保障措施以及在系统中实施这些措施的挑战。我们讨论了卡是如何开发和测试5个研讨会与来自研究和商业环境的20名参与者。我们认为,从不同的欧盟/英国的政策制定举措和学科的角度(即科学和技术研究(STS),IT法,人机交互(HCI),计算机/工程伦理学)的技术人员在道德中的作用。然后,我们通过设计工具和其他基于卡片的工具来研究现有的道德规范,然后再讨论为什么卡片可以成为解决复杂道德问题的有用媒介。我们提出的道德IT卡的开发过程中,我们的卡设计,背景的内容,影响评估委员会的过程中使用它们,以及如何制定文件的主要功能。我们讨论了我们的研究设计和方法,然后检查围绕三个首要主题聚集的关键发现。这些是:我们的卡片作为一种工具的价值,它们对技术设计过程的影响,以及它们如何构建道德反思实践。最后,我们总结了关键的经验教训和概念,例如它们如何为辩论提供公平的竞争环境;使道德聚类,排序和比较成为可能;为讨论提供适当的锚点,并突出了道德的相互交织的性质。
2020-07-15 cs.CY cs.HC
Towards a Practical Ethics of Generative AI in Creative Production Processes
University College of West-Flanders(西佛兰德斯大学学院)
本文针对生成式人工智能融入创意生产流程的伦理问题,从技术用户视角出发,基于六大伦理理论构建实践框架,帮助设计师在创意各阶段兼顾伦理原则与技术潜力,避免损害创意流程。
2024-11-18 cs.AI cs.CY
The Interplay of Computing, Ethics, and Policy in Brain-Computer Interface Design
本文首次探讨脑机接口(BCI)设计中伦理、法律和政策考量如何影响架构设计,以及架构师的决策如何限制或扩展适用的伦理、法律和政策框架。
2024-09-26 cs.AR cs.CY
Ethics Readiness of Artificial Intelligence: A Practical Evaluation Method
RISE Research Institutes of Sweden(瑞典RISE研究院);CEA-Saclay(萨克雷法国原子能和替代能源委员会)
本文提出了一种评估AI系统伦理准备度的四级迭代方法,通过案例研究展示其在促进伦理设计思维方面的有效性。
2025-12-10 cs.AI cs.CY
Ethics lines and Machine learning: a design and simulation of an Association Rules Algorithm for exploiting the data
本研究提出利用Apriori关联规则算法挖掘ethics lines生成的数据,以识别异常与行为模式,并通过合成数据仿真验证了该方法的潜力与局限。
2021-10-14 cs.CY
Front-End Ethics for Sensor-Fused Health Conversational Agents: An Ethical Design Space for Biometrics
Imperial College London(伦敦帝国理工学院);Korea Institute of Science and Technology(韩国科学技术研究院)
本文探讨了生物特征翻译的伦理设计,提出五个维度分析前端伦理风险,提出适应性披露作为安全机制,确保健康代理支持用户自主性。
2026-03-14 cs.AI cs.CY
How to design an AI ethics board
本文针对AI公司如何设计AI伦理委员会以降低风险的问题,提出涵盖职责、法律结构、成员、决策机制和资源的五维设计框架,并分析各选择的影响,为实践提供工具箱。
2023-04-14 cs.CY
AI Ethics by Design: Implementing Customizable Guardrails for Responsible AI Development
University of Zagreb(萨格勒布大学);Preamble(普雷安布尔公司)
本文提出一种可定制的AI伦理护栏框架,通过整合规则、策略与AI助手实现负责任的AI行为,支持伦理多元主义并提升透明度与用户自主性,同时给出冲突解决策略。
2026-11-04 cs.CL cs.CY
Life, the Metaverse and Everything: An Overview of Privacy, Ethics, and Governance in Metaverse
虚拟实境有望成为互联网的下一个主要发展阶段。虚拟实境将对人类社会、生产和生活产生影响。在这项工作中,我们分析了当前的趋势和挑战,建立这样一个虚拟环境将面临的。我们专注于三个主要支柱来指导虚拟实境的发展:隐私,治理和道德设计,以指导虚拟实境的发展。最后,我们提出了一个初步的基于模块的框架的道德设计的虚拟实境。
2022-03-25 cs.CY
Ethics of generative AI and manipulation: a design-oriented research agenda
本文指出生成式AI带来大规模自动化操纵风险且尚未被充分研究,提出了涵盖概念、实证与设计维度的研究议程,强调需对操纵进行适当概念化以确保技术负责任发展。
2025-02-01 cs.AI cs.CY
Implementing Ethics in AI: Initial Results of an Industrial Multiple Case Study
人工智能(AI)在系统开发工作中变得越来越普遍。由于人工智能系统的独特性质,它会影响到各种利益相关者,因此这些系统日益增长的影响力需要考虑道德因素。学术讨论和自治系统故障的实际例子强调了在软件开发中实施道德规范的必要性。然而,在实践中将伦理学应用于人工智能系统设计和开发的方法和工具的研究仍然缺乏。本文通过提供在基于AI的软件开发中生成道德基线所需的元素来解决这个焦点问题。我们通过对医疗保健领域人工智能系统开发的工业多案例研究来实现这一点。使用基于现存的概念性人工智能伦理文献的研究模型,我们探索了在缺乏正式方法和工具的情况下,在该领域的实践现状。
2020-06-16 cs.CY
Ethically Aligned Design of Autonomous Systems: Industry viewpoint and an empirical study
人工智能领域的进步在过去二十年中一直在快速加速。从纯数字系统到自动驾驶汽车的各种自动驾驶系统正在开发并部署在现场。随着这些系统对社会产生越来越大的影响,与人工智能和自治系统有关的伦理问题最近在学术界引起了越来越多的关注。然而,目前关于这一主题的文献几乎完全集中在理论上,更具体地说,集中在这一领域的概念化上。为了拓宽该领域的知识体系,我们对人工智能伦理学的实践现状进行了实证研究。我们这样做的五个案例公司的多个案例研究的手段,其结果表明在该领域的研究和实践之间的差距。根据我们的研究结果,我们提出了解决差距的方法。
2019-06-19 cs.CY
Design Patterns for the Common Good: Building Better Technologies Using the Wisdom of Virtue Ethics
研究提出识别体现特定美德的用户体验设计模式的方法,通过七种社交媒体设计模式和24位专家访谈验证,为技术专业人员将美德传统融入支持人类繁荣的技术开发提供路径。
2025-01-28 cs.CY cs.HC
Operationalizing Ethics for AI Agents: How Developers Encode Values into Repository Context Files
Singapore Management University(新加坡管理大学);Ruprecht-Karls-Universität Heidelberg(海德堡大学);University of Melbourne(墨尔本大学)
本文探讨开发者如何通过仓库上下文文件将伦理原则转化为AI代理的行为指令,分析价值观编码的多样性及治理动态,为AI治理提供软件工程实践基础。
2026-05-07 cs.CY cs.SE
Frameworking for a Community-led Feminist Ethics
该研究针对人机交互领域伦理研究重原则轻人的问题,提出整合交叉性女性主义视角的多维度自适应伦理模型,为社区主导的伦理实践提供整体框架。
2024-04-17 cs.CY cs.HC
Professional Ethics by Design: Co-creating Codes of Conduct for Computational Practice
本文提出采用设计启发的方法,将专业伦理编码为计算形式,以共同创建跨领域的计算实践行为准则,应对从业者面临的伦理挑战。
2023-05-12 cs.CY
Co-constructing Shared Values and Ethical Practice for the Next Generation: Lessons Learned from a Curriculum on Information Ethics
我们提出的动机,设计,大纲和经验教训,从科学诚信,研究伦理和信息伦理的在线课程提供给2000多名博士和工程专业学生在干领域,首先在巴黎-萨克雷大学,现在扩展到一个在线MOOC提供给世界各地的学生,在英语。与科学领域的课程不同,旨在为学生提供他们可以在未来职业生涯中应用的方法,工具和概念,这种培训的目标与其说是装备他们,不如说是让他们意识到他们的工作对社会的影响,关心降临在他们身上的责任,并让他们意识到并不是所有人都对技术如何影响社会有相同的看法。虽然我们提供概念工具,但这更多的是为了保持兴趣和吸引学生。我们希望他们就具体的伦理问题进行辩论,并认识到协调当代困境的困难,如非物质化的知识产权,在线表达自由及其对应物,保护我们的数字自我,算法决策的管理,自治系统的控制,以及数字鸿沟的解决。作为一个大胆的捷径,我们的课程是关于在STEM课程中引入和激励黑格尔辩证法,通常更倾向于亚里士多德的观点。
2022-04-06 cs.CY cs.HC
Report on the Conference on Ethical and Responsible Design in the National AI Institutes: A Summary of Challenges
Georgia Institute of Technology(佐治亚理工学院)
本文总结了2023年国家AI研究所伦理与负责任设计会议的成果,聚焦研究所在AI系统开发中识别与落实伦理设计实践所面临的挑战、研究方向及合作点。
2024-11-12 cs.AI cs.CY
Towards A Unified Utilitarian Ethics Framework for Healthcare Artificial Intelligence
College of Communication & Information, Florida State University(佛罗里达州立大学传播与信息学院)
该研究通过主题分析与36位AI专家调查数据识别医疗AI关键伦理原则,并提出基于功利主义伦理的统一理论框架。
2023-09-26 cs.AI cs.CY
Epistemic Trust as a Mechanism for Ethics Integration: Failure Modes and Design Principles from 70 Moral Imagination Workshops
Ludwig-Maximilians-Universität München(路德维希-马克西米利安慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心);Google(谷歌);Google Research(谷歌研究);The Ethics Practice(伦理实践);Stanford University(斯坦福大学);Google DeepMind(谷歌DeepMind)
本文提出知识信任作为连接干预设计与参与效果的概念模型,通过70场道德想象力研讨会分析,识别出伦理干预的五个关键维度及23种失败模式,提出九条设计原则以培养知识信任。
2026-11-01 cs.CY
Future Intelligent Autonomous Robots, Ethical by Design. Learning from Autonomous Cars Ethics
Mälardalen University(梅拉达伦大学);University of Gothenburg(哥德堡大学)
智能自主机器人技术的发展以其对个人和社会产生预期的有益影响为前提。在这种颠覆性的新兴技术的情况下,不仅如何构建的问题,而且为什么要构建以及会产生什么后果的问题都很重要。智能自动驾驶机器人汽车的道德领域是具有可操作实用价值的研究的一个很好的例子,其中包括法律系统和其他社会和政府行为者以及公司和企业在内的各种利益相关者进行合作,带来对技术的道德和社会方面的共同看法。它可以作为一般智能自主机器人开发方法的起始平台,考虑技术生存周期不同阶段的人机界面-开发、实施、测试、使用和处置。从我们对自主智能机器人汽车伦理的研究以及现有的机器人伦理文献中,我们的贡献包括一套价值观和伦理原则,以及确定的挑战和应对挑战的建议方法。这可能有助于智能自主机器人领域的利益相关者将伦理原则与其应用联系起来。我们对自动驾驶汽车道德要求的建议可用于其他类型的智能自动驾驶机器人,但对于社交机器人需要进行更多有关与用户交互的研究。我们强调,现有的道德框架需要以一种对背景敏感的方式加以应用,通过多学科、多能力团队的评估,通过多标准分析。此外,我们认为,需要不断发展的道德原则,指导方针和法规,通过技术的进步和相关利益相关者的参与。
2021-07-16 cs.AI cs.CY cs.RO
Ethics by Design: A Lifecycle Framework for Trustworthy AI in Medical Imaging From Transparent Data Governance to Clinically Validated Deployment
本文提出医学影像AI全生命周期伦理框架,系统分析数据收集、处理、模型训练、评估和部署五阶段的隐私、公平、透明、问责与自主性问题,并给出针对性伦理策略以构建可信AI系统。
2025-07-06 cs.CY cs.ET
Unpacking Approaches to Learning and Teaching Machine Learning in K-12 Education: Transparency, Ethics, and Design Activities
本文通过文献回顾提出K-12机器学习教育的三种方法(数据驱动、算法驱动及整合式),并分析其在透明性、学习者兴趣与设计机会、伦理正义方面的表现,为未来学习活动设计提供方向。
2024-09-03 cs.CY
AI Governance in Higher Education: A course design exploring regulatory, ethical and practical considerations
PBC
针对当前AI伦理教育碎片化问题,本文提出一个整合技术、伦理、法律与政策的模块化跨学科课程,借鉴多方框架制定学期计划,旨在培养能诊断风险与驾驭监管的负责任AI治理专业人才。
2025-09-16 cs.AI cs.CY cs.ET
Bots as Virtual Confederates: Design and Ethics
Massachusetts Institute of Technology(麻省理工学院);Cornell(康奈尔大学)
在在线现场实验中使用机器人作为虚拟同盟者,作为计算社会科学中的一种新方法工具,具有极大的前景。然而,这种潜在的工具带来了固有的道德挑战。在许多情况下很难获得知情同意,使用同谋者必然意味着使用欺骗手段。在这项工作中,我们概述了机器人作为虚拟同盟的设计空间,我们提出了一套准则,以满足道德实验的现状。我们借鉴了CSCW社区和更广泛的社会科学文献中以前的工作的例子来说明。虽然之前有少数研究人员在在线实验中使用机器人,但我们的工作旨在激发这一领域的未来工作,并提高对相关道德问题的认识。
2016-11-02 cs.AI cs.CY cs.HC
AI Ethics in Smart Healthcare
Colorado State University(科罗拉多州立大学)
本文回顾了将人工智能(AI)集成到智能医疗产品(包括医疗电子设备)中的伦理挑战。医疗领域的传统伦理与人工智能驱动的医疗保健的新兴伦理挑战之间的差异,特别是当它们涉及到透明度,偏见,隐私,安全,责任,正义和自治时。概述了开放的挑战和建议,以便将伦理原则整合到基于AI的智能医疗产品的设计,验证,临床试验,部署,监控,维修和退役中。
2022-11-02 cs.AI cs.CY cs.LG
Delegating Responsibilities to Intelligent Autonomous Systems: Challenges and Benefits
Mälardalen University(梅拉达伦大学);Chalmers University of Technology(查尔姆斯理工大学);Pontifical Lateran University(宗座拉特朗大学)
本文针对自主AI系统带来的责任归属难题,提出功能主义框架,将道德责任视为社会-技术系统中分布于人类与人工智能体之间的角色,并以Basti和Vitiello基于道义高阶逻辑的实现为例,论证“设计即伦理人工智能”的可行性与价值。
2024-11-06 cs.AI cs.CY
Designing the Metaverse: A Scoping Review to Map Current Research Effort on Ethical Implications
虚拟世界和数字虚拟环境已经成为近代历史的一部分,人们可以在其中社交,工作和玩游戏。然而,这些数字化虚拟环境的发展初期带来了一些尚未完全描述的挑战。通过这篇文章,我们试图识别和映射当前可用的知识和科学努力,以发现目前有哪些原则,指导方针,法律,政策和实践可以设计数字,虚拟环境和虚拟世界。通过范围审查,我们的目的是系统地调查现有的文献,并从社会学,人类学,文化和经验的角度来识别元宇宙研究领域内的知识差距。这篇综述的目的有两个:(1)从不同的角度研究元宇宙的文献的重点;(2)为设计和开发伦理数字虚拟环境制定一个研究议程。在这篇论文中,我们确定了几个作品和文章,详细介绍了数字,虚拟环境和元宇宙设计的实验和研究。我们发现2022年的出版物数量有所增加。这一发现,以及只有少数文章关注伦理,文化和社会领域的事实表明,仍然有大量的工作要做,以建立意识,原则和政策,可以帮助设计安全,安全和包容性的数字,虚拟环境和元虚拟世界。
2023-03-22 cs.CY cs.HC