An Ethical Framework for Guiding the Development of Affectively-Aware Artificial Intelligence
National University of Singapore(新加坡国立大学);Agency for Science, Technology and Research(新加坡科技研究局)
最近人工智能研究和部署的快速发展引发了更多关于社交和情感智能AI的潜在影响的讨论。问题不在于研究是否能产生这种有情感意识的人工智能,而在于什么时候能。当机器--以及它们所服务的公司和政府--能够“阅读”人们的思想和情感时,这对社会意味着什么?这种人工智能的开发者和运营者应该做什么,不应该做什么?本文的目标是预先阻止这些发展的一些潜在影响,并提出一套评估情感感知人工智能的(道德和)伦理后果的指导方针,以指导研究人员,行业专业人士和政策制定者。我们提出了一个多利益相关者分析框架,将AI开发人员的道德责任与部署此类AI的实体(我们称之为运营商)分开。我们的分析产生了两个支柱,明确了每个利益相关者的责任:可证明的益处,它依赖于证明人工智能的有效性,以及负责任的管理,它管理数据的负责任收集,使用和存储以及从这些数据中做出的决策。最后,我们对研究人员、开发人员、运营商以及监管机构和立法者提出了建议。
2021-07-29 cs.AI cs.CY
Introducing ELLIPS: An Ethics-Centered Approach to Research on LLM-Based Inference of Psychiatric Conditions
Aarhus University(奥胡斯大学);Hugging Face;Delft University of Technology(代尔夫特理工大学)
本文针对基于语言模型推断精神疾病研究的伦理不足问题,提出七项核心伦理原则并开发为ELLIPS伦理工具包,以指导模型开发全流程,推动具有现实临床适用性的技术发展。
2024-09-06 cs.AI cs.CY
Ethical Frameworks for Conducting Social Challenge Studies
University of Vermont(佛蒙特大学);Vermont Complex Systems Institute(佛蒙特复杂系统研究所);Complexity Science Hub(复杂性科学中心);Santa Fe Institute(圣塔菲研究所)
本文探讨医学挑战研究的伦理框架,旨在为社会挑战研究建立正式的伦理标准并评估潜在危害。
2026-02-28 cs.CY
Approaching Ethical Guidelines for Data Scientists
Cytel Inc(赛特尔公司);Helmut-Schmidt-Universität, Universität der Bundeswehr Hamburg(赫尔穆特·施密特大学(汉堡联邦国防军大学))
本文的目标是激励数据科学家参与关于其专业工作对社会的影响的辩论,并作为数据科学专业人员积极参与数字世界的公共辩论。道德原则(例如,公平、正义、善行和非恶行)与我们的职业生活有关吗?作为专业人员,我们在该领域的专业知识意味着什么?更具体地说,本文呼吁统计学家加入这场辩论,并成为将数据科学确立为职业道德哲学家Airaksinen意义上的适当职业的社区的一部分。正如我们将要讨论的那样,数据科学的根源之一是统计学,并超越统计学。为了塑造统计学的未来,并为数据科学的统计贡献负责,统计学家应该积极参与讨论。首先定义了数据科学这个术语,并概述了导致数据科学对社会产生强大影响的技术变化。接下来介绍CNIL的系统方法。对于数据科学家工作中产生的伦理问题,给出了突出的例子。此外,我们还提供了为什么数据科学家应该参与塑造数据科学的道德,并制定数据科学的行为准则和实践准则的原因。接下来,我们将介绍统计学和计算机相关领域的既定道德准则。此后,描述了社区制定数据科学职业道德的必要步骤。最后,我们给出了辩论的开场白:数据科学是当前社会发展的焦点。如果不成为一个具有职业道德的职业,数据科学将无法在与社会的互动中建立信任,也无法为社会做出急需的贡献!
2019-01-14 cs.AI cs.CY stat.ML
Teaching at the Intersection of Social Justice, Ethics, and the ASA Ethical Guidelines for Statistical Practice
本文提出五种结构化工具,将社会正义与伦理内容低负担地融入定量课程,并支持可复现、可操作的教学评估。
2023-09-30 cs.CY stat.AP
The overlooked need for Ethics in Complexity Science: Why it matters
本文指出复杂性科学缺乏系统的伦理框架,借鉴人工智能等领域的经验,提出制定伦理指南、开放资源和包容对话的路线图,以推动该领域负责任地应对社会挑战。
2024-09-03 cs.CY physics.soc-ph
Life, the Metaverse and Everything: An Overview of Privacy, Ethics, and Governance in Metaverse
虚拟实境有望成为互联网的下一个主要发展阶段。虚拟实境将对人类社会、生产和生活产生影响。在这项工作中,我们分析了当前的趋势和挑战,建立这样一个虚拟环境将面临的。我们专注于三个主要支柱来指导虚拟实境的发展:隐私,治理和道德设计,以指导虚拟实境的发展。最后,我们提出了一个初步的基于模块的框架的道德设计的虚拟实境。
2022-03-25 cs.CY
Ever heard of ethical AI? Investigating the salience of ethical AI issues among the German population
构建和实施有益于整个社会的道德人工智能系统是一项成本密集型的多方面任务,充满了潜在的问题。虽然计算机科学主要关注减轻社会问题的技术问题,但社会科学则关注公民的看法,以阐明影响人工智能系统社会实施的社会和政治需求。因此,在这项研究中,我们探讨了公众中人工智能问题的突出性,重点是道德标准,以调查人口是否有可能积极要求道德人工智能。在2020年5月至2021年4月期间,我们进行了15项调查,询问德国民众最重要的人工智能相关问题(共N= 14,988名受访者)。我们的研究结果表明,大多数受访者根本不关心人工智能。然而,可以看出,对人工智能的普遍兴趣和较高的教育水平预示着与人工智能的一些接触。在那些报告说考虑过人工智能的人中,具体的应用(例如,自动驾驶)是迄今为止提到最多的主题。道德问题只由一小部分公民提出,公平、问责制和透明度是最少被提及的问题。这些已经在几个道德准则(包括欧盟委员会的提案)中被确定为道德AI发展的关键要素。道德问题的突出性影响了公民的行为意图,他们1)倾向于避免人工智能技术,2)参与关于人工智能的公开讨论。我们的结论是,低水平的道德影响可能会对道德人工智能的实际实施构成严重问题,并强调那些可能受人工智能道德问题影响最大的人尤其没有意识到道德风险。然而,一旦道德人工智能成为首要考虑,就有可能采取行动。
2022-07-28 cs.CY
Artificial Intelligence in Education: Ethical Considerations and Insights from Ancient Greek Philosophy
本文探讨了将AI融入教育引发的伦理问题,借鉴古希腊哲学原则指导AI的伦理实施,以实现教育的伦理健全转型。
2024-09-04 cs.CY
Ethical Implications of Social Internet of Vehicles Systems
物联网的核心概念是为现实世界的对象提供计算,处理和通信能力,以实现它们之间的社交。车联网(IoV)是物联网的一个分支,它使用通信技术实现了重大进步。透过互联网连接的载具可互通信息,大大改善道路交通的品质。社交物联网(SIoT)是物联网的一个实例,专门处理连接对象的社交。SIoT实现了社会车辆互联网(SIoV)的概念,其中车辆是在其自身与基础设施(通常称为路侧单元(RSU))之间共享信息的关键实体。SIoV中的车辆通过交换数据进行社交,例如交通流量、天气状况、信息娱乐、空闲停车位、备用路线和餐馆折扣券等。在SIoV中,车辆可以通过Wi-Fi等传统通信技术与其他车辆和基础设施进行通信,蜂窝网络或通过专用短程通信(DSRC)SIoV将面临道德困境,并期望以道德负责的方式运作。本文重点介绍了SIoV系统的伦理含义。车对车(V2 V)和车对基础设施(V2 I)涉及自主决策,需要在做出裁决之前设定伦理和道德规则。本文讨论了在设计和部署SIoV系统时缺乏道德准则的问题。最后,除了SIoV体系结构,提出了纳入规划SIoV系统的伦理和道德原则。
2018-06-24 cs.CY
The social dilemma in artificial intelligence development and why we have to solve it
NTNU(挪威科技大学);SimulaMet(SimulaMet 研究所);University of Bergen(卑尔根大学);Berlin Institute of Health (BIH)(柏林健康研究所);Charité Universitätsmedizin Berlin(柏林夏里特医学院);Birmingham City University(伯明翰城市大学)
虽然对道德人工智能(AI)系统的需求增加,但不道德使用AI的数量却在加速,尽管并不缺乏道德准则。我们认为,一个可能的根本原因是,人工智能开发人员在人工智能开发伦理方面面临着社会困境,阻碍了道德最佳实践的广泛适应。我们定义了人工智能开发的社会困境,并描述了为什么如果不解除人工智能开发人员的社会困境,就无法解决当前人工智能开发伦理的危机。我们认为,人工智能的开发必须专业化,以克服社会困境,并讨论如何在这一过程中使用医学作为模板。
2021-11-17 cs.AI cs.CY cs.LG
Who is Responsible When AI Fails? Mapping Causes, Entities, and Consequences of AI Privacy and Ethical Incidents
本文通过分析202起真实AI隐私与伦理事件,构建了覆盖AI生命周期、原因、责任主体、披露来源和影响的分类法,揭示了组织决策与合规问题导致的广泛危害及报告不足,并为政策制定者和从业者提供了加强治理与用户保护的可操作指导。
2025-09-18 cs.AI cs.CY cs.DB
Explainable Ethical Assessment on Human Behaviors by Generating Conflicting Social Norms
Department of Computer Science(计算机科学系);School of Computing and Information Systems(计算与信息学系);Information Systems Technology and Design(信息系统技术与设计)
本文提出ClarityEthic方法,通过生成冲突的社会规范提升AI对人类行为效用的预测和解释能力。
2025-12-16 cs.AI cs.CL cs.CY
Time for AI (Ethics) Maturity Model Is Now
似乎有一个共同的共识,即当涉及到配备某种人工智能(AI)的系统时,道德问题非常重要。对道德AI的需求来自各个方向。作为回应,近年来,公共机构、政府和大学纷纷提供一套原则,供设计和使用基于人工智能的系统时考虑。然而,我们已经了解到,高级原则并不容易转化为实践者的可操作建议。因此,公司也在发布自己的道德准则,以指导他们的人工智能开发。本文认为,人工智能软件仍然是软件,需要从软件开发的角度来对待。软件工程范例引入了成熟度模型思想,它为公司提供了一个路线图,从被称为关键能力的选定观点来提高他们的性能。我们希望呼吁采取行动,为人工智能软件开发一个成熟度模型。我们希望讨论重点是否应该放在人工智能伦理上,或者更广泛地说,人工智能系统的质量,称为人工智能系统开发的成熟度模型。
2021-01-29 cs.CY
Towards Ethical AI in Power Electronics: How Engineering Practice and Roles Must Adapt
Zhejiang University-University of Illinois Urbana-Champaign Institute(浙江大学伊利诺伊大学厄巴纳香槟校区联合学院);University of Bath(巴斯大学);University of Arkansas(阿肯色大学)
本文探讨电力电子中AI伦理的重要性,提出四个核心伦理支柱,并呼吁工程师和IEEE推动伦理标准与人才发展。
2025-11-29 cs.CY cs.SY eess.SY
Ethical and Privacy Considerations with Location Based Data Research
针对人类移动性研究扩张带来的隐私与伦理风险,该研究回顾118篇含149个个体移动性数据集的相关论文,发现现有研究未统一遵循数据治理与传播准则,并就领域内伦理隐私处理展开讨论。
2024-02-11 cs.CY
The Ethics of Social Media Analytics in Migration Studies
社交媒体平台的普及及其在全球的使用使其成为研究大型人群的有吸引力的选择,特别是当其中一些平台提供对大量结构化数据的访问时。然而,随着这些数据的收集、存储和使用,道德和法律责任也随之而来,这在关注移民等社会群体时尤为重要,因为他们往往受到污名化和犯罪化。已经制定了各种指导方针,框架和法律,以确保以最道德的方式使用社交媒体数据。然而,它们在过去几年中迅速发展,并分散在各个领域和领域。为了帮助研究人员解决这些问题,本章概述了通过社交媒体平台研究移民的伦理考虑。在相关学术文献以及国家和超国家框架和立法的基础上,我们回顾了过去20年来如何讨论与社交媒体研究相关的主要伦理问题,并概述了缓解这些问题的良好实践案例。本概述旨在为研究人员提供理论和实践工具,以考虑和减轻与移民相关背景下的社交媒体研究相关的道德挑战。
2023-02-28 cs.CY
Bots as Virtual Confederates: Design and Ethics
Massachusetts Institute of Technology(麻省理工学院);Cornell(康奈尔大学)
在在线现场实验中使用机器人作为虚拟同盟者,作为计算社会科学中的一种新方法工具,具有极大的前景。然而,这种潜在的工具带来了固有的道德挑战。在许多情况下很难获得知情同意,使用同谋者必然意味着使用欺骗手段。在这项工作中,我们概述了机器人作为虚拟同盟的设计空间,我们提出了一套准则,以满足道德实验的现状。我们借鉴了CSCW社区和更广泛的社会科学文献中以前的工作的例子来说明。虽然之前有少数研究人员在在线实验中使用机器人,但我们的工作旨在激发这一领域的未来工作,并提高对相关道德问题的认识。
2016-11-02 cs.AI cs.CY cs.HC
The Ethical Implications of Generative Audio Models: A Systematic Literature Review
Northwestern University(西北大学)
本文系统综述884篇生成式音频模型论文,发现65%提及积极影响而不足10%讨论负面影响,并揭示欺诈、深度伪造与版权侵权等伦理风险。
2023-07-07 cs.CY cs.LG cs.SD
A Comprehensive Review of Multimodal XR Applications, Risks, and Ethical Challenges in the Metaverse
本综述系统梳理元宇宙中XR(VR/AR/MR)的广泛应用,指出其多模态集成带来的隐私、安全、健康等风险,并强调建立伦理框架与监管准则的紧迫性。
2024-11-07 cs.CY cs.HC