Towards ethical multimodal systems
University of Montreal(蒙特利尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
针对多模态AI系统伦理评估研究不足的问题,本文构建了基于人类反馈的多模态伦理数据库,并开发了RoBERTa-large分类器与多层感知机算法,以自动评估系统响应的伦理性。
2024-05-20 cs.AI
Stoic Ethics for Artificial Agents
University of the Fraser Valley(菲沙河谷大学)
我们提出了一份立场文件,主张斯多葛哲学和伦理学可以为道德人工智能的发展提供信息。系统.这与大多数建立道德人工智能的工作形成鲜明对比,它主要关注功利主义或义务论的伦理理论。我们把道德人工智能斯多葛学派的几个核心概念,包括控制的二分法,四个基本美德,理想的圣人,斯多葛学派的做法,以及斯多葛学派对情感或影响的观点。更一般地说,我们提出了一个人工智能的伦理观。它更多地关注人工智能体的内部状态,而不是智能体的外部行为。我们提供了与近期A.I.相关的示例。系统以及假想的超级智能体。
2017-03-28 cs.AI
Landscape of Machine Implemented Ethics
University College Dublin(都柏林大学学院)
本文综述了机器伦理学的最新进展,即如何在机器人、无人驾驶汽车或软件系统中实施道德行为的考虑。重点是涵盖实施者正在考虑的道德理论的广度,以及正在使用的实施技术。对于哪种伦理理论最适合于任何特定领域,没有共识,对于哪种技术最适合于实现特定理论,也没有任何协议。在这些伦理理论的实现中,另一个尚未解决的问题是如何客观地验证这些实现。本文讨论了被用作验证“磨刀石”的困境,以及是否存在任何替代验证机制。最后,它推测,创建特定领域道德的中间步骤可能是创建表现出道德行为的机器的可能垫脚石。
2020-09-01 cs.AI
Ethics for Digital Medicine: A Path for Ethical Emerging Medical IoT Design
Colorado State University(科罗拉多州立大学)
随着越来越强大的嵌入式系统和物联网(IoT)计算设备的到来,数字医学时代的曙光正在创造新的疗法和生物医学解决方案,有望积极改变我们的生活质量。然而,数字医学革命也带来了不可预见的复杂的伦理、监管和社会问题。在这篇文章中,我们反思了数字医学面临的伦理挑战。我们讨论了医疗设备中道德监督的风险,以及专业守则和监管监督对安全有效地满足患者需求的数字医疗设备的道德设计,部署和操作的作用。我们倡导强化教育、可编程道德行为和道德分析框架的整体方法,以防止事故并维持新兴数字医疗设备的道德创新、设计和生命周期管理。
2022-10-21 cs.AI cs.CY
Ethic-BERT: An Enhanced Deep Learning Model for Ethical and Non-Ethical Content Classification
本文提出Ethic-BERT,一种基于BERT的增强模型,用于四领域伦理内容分类,通过稳健预处理和先进微调策略,在标准测试和硬测试中分别实现82.32%和15.28%的平均准确率提升,优于基线模型。
2025-10-14 cs.AI cs.CY
ApplE: A Modular Ontology of Applied Ethics and Event Context for Ethical Decision Modeling
IIIT-Delhi(德里印度信息技术学院)
该研究提出模块化应用伦理本体ApplE,采用改进SAMOD构建,结合伦理理论与事件上下文,经医疗用例验证,遵循FAIR原则,可用于伦理AI系统等的建模资源。
2026-08-04 cs.AI cs.CY
Ethical Concern Identification in NLP: A Corpus of ACL Anthology Ethics Statements
University of Copenhagen(哥本哈根大学);Verita International School(维丽塔国际学校);University of Hamburg(汉堡大学)
本文构建了包含1,580条ACL Anthology伦理声明的EthiCon语料库,通过提取关键词实现自动化的伦理关切识别,并结合调查与现有分类法对比分析,揭示了研究空白与未来方向。
2024-11-12 cs.AI cs.CL cs.CY
Some Critical and Ethical Perspectives on the Empirical Turn of AI Interpretability
Université Paris-Saclay(巴黎萨克雷大学)
我们考虑了人工智能(AI)发展目前面临的两个基本和相关问题:缺乏道德和AI决策的可解释性。可解释的人工智能决策是否有助于解决人工智能中的道德问题?使用随机研究,我们的实验表明,生产的解释的经验和自由转向倾向于选择人工智能的解释与低谴责的力量。因此,在某些条件下,可解释性工具不是生产道德人工智能的手段,而是矛盾的障碍,因为它们可以给人一种对道德事件敏感的错觉。我们还表明,人工智能解释的谴责力量高度依赖于解释发生的背景,例如解释对象的性别或教育水平。因此,人工智能伦理工具有时过于灵活,通过自由生产解释进行自我监管似乎不足以解决伦理问题。然后,我们提出了伦理人工智能未来发展的两种情况:更多的外部监管或更多的人工智能解释自由化。这两条相反的道路将对伦理AI的未来发展发挥重要作用。
2021-09-20 cs.AI cs.CY
Navigating Ethical AI Challenges in the Industrial Sector: Balancing Innovation and Responsibility
ABB AG, Corporate Research(ABB集团企业研究部)
本研究探讨了工业领域中AI创新与伦理的平衡,强调将伦理原则嵌入工业AI系统的重要性,以促进负责任的技术发展和包容性生态。
2026-01-14 cs.AI cs.CY
Informed AI Regulation: Comparing the Ethical Frameworks of Leading LLM Chatbots Using an Ethics-Based Audit to Assess Moral Reasoning and Normative Values
Kenyon College(凯尼恩学院)
本研究通过基于伦理的审计,评估8个领先LLM(含GPT-4)的道德推理与规范价值观,发现GPT-4具备复杂伦理框架,但多数模型存在文化偏见和威权倾向。
2024-01-09 cs.AI cs.CY
Toward Ethical AIED
University College London(伦敦大学学院)
本文介绍了即将出版的《教育中的人工智能伦理学:实践、挑战和辩论》(2022年8月,北京)一书的主要结论。除了强调对本书的主要贡献外,它还讨论了人工智能教育(AIED)领域在该领域的伦理和道德实践背景下的关键问题和重大挑战。这本书本身提出了不同的观点,从外部和内部的AIED作为实现一个广泛的视角,在关键的道德问题为AIED和工作进行了深入的了解,以日期由AIED社区的方式。
2022-03-11 cs.AI cs.CY
Deontic Temporal Logic for Formal Verification of AI Ethics
International Institute of Information Technology - Bangalore(国际信息技术研究所-班加罗尔)
本文提出基于规范逻辑的AI伦理形式化方法,用于验证AI系统在公平性和可解释性方面的伦理行为,通过自动定理证明器验证实际系统是否满足伦理要求。
2026-03-27 cs.AI cs.LO
Virtue Ethics For Ethically Tunable Robotic Assistants
University College Dublin(都柏林大学学院)
本文提出了一种受美德伦理学启发的计算方法,通过基于性格的调整使机器人适应特定环境的伦理需求,并在模拟养老环境中验证了其有效性。
2024-07-23 cs.AI cs.CY cs.RO
Navigating Ethical Challenges in Generative AI-Enhanced Research: The ETHICAL Framework for Responsible Generative AI Use
University of Southern Queensland(南昆士兰大学);Monash University(莫纳什大学);University of Technology Sydney(悉尼科技大学);University of Newcastle(纽卡斯尔大学);Edinburgh Napier University(爱丁堡龙比亚大学);Central Queensland University(中央昆士兰大学);Stellenbosch University(斯泰伦博斯大学);University of Alberta(阿尔伯塔大学);Griffith University(格里菲斯大学);UCSI University(思特雅大学);Edith Cowan University(伊迪斯科文大学)
本研究针对生成式AI在科研应用中的伦理风险,通过真实场景案例研究构建含七项原则的ETHICAL实用框架,填补认知与行动的空白,为科研人员负责任使用生成式AI提供具体指导。
2024-12-11 cs.AI cs.CY
Artificial Intelligence: the global landscape of ethics guidelines
ETH Zurich(苏黎世联邦理工学院)
在过去的五年里,私营公司、研究机构以及公共部门组织已经发布了道德人工智能的原则和指导方针,但对于什么是“道德人工智能”以及实现它需要哪些道德要求、技术标准和最佳实践都存在争议。为了调查在这些问题上是否正在形成全球共识,我们绘制并分析了当前关于道德AI的原则和指导方针。我们的研究结果揭示了围绕五个道德原则(透明度,正义和公平,非恶意,责任和隐私)出现的全球趋同,在如何解释这些原则方面存在实质性分歧;为什么它们被认为是重要的;它们涉及什么问题,领域或行为者;以及它们应该如何实施。我们的研究结果强调了将指南制定工作与实质性道德分析和适当的实施战略相结合的重要性。
2019-06-24 cs.AI cs.CY
Towards Measuring Ethicality of an Intelligent Assistive System
University of Rostock(罗斯托克大学)
基于人工智能(AI)的辅助系统,即所谓的智能辅助技术(IAT)正变得越来越普遍。IAT通过基于所提供的数据提供智能帮助来帮助人们提高生活质量。这类IAT的一些例子包括自动驾驶汽车、机器人助手和智能健康管理解决方案。然而,这种自主实体的存在对参与使用这些系统的利益攸关方提出了道德挑战。由于与这种分析相关的道德、后勤和成本问题,缺乏研究来分析这种IAT如何遵守所提供的道德法规。针对上述问题陈述和问题,我们提出了一种方法来衡量一个辅助系统的道德。为了执行这项任务,我们利用了我们的模拟工具,该工具专注于在室内环境中对痴呆症患者(PwD)的导航和帮助进行建模。通过利用这个工具,我们分析了不同的辅助策略如何遵守提供的道德法规,如自主权,正义和利益相关者的善行。
2023-02-28 cs.AI cs.CY
Tesla's Autopilot: Ethics and Tragedy
North Carolina State University(北卡罗来纳州立大学)
本文通过七步伦理决策过程分析特斯拉Autopilot事件的道德责任与监管影响,呼吁重新审视汽车行业自动驾驶技术的行业规范与法律框架。
2024-09-25 cs.AI cs.CY
Ethical Concerns of Generative AI and Mitigation Strategies: A Systematic Mapping Study
Faculty of Information Technology, Monash University(墨尔本大学信息科技学院);School of Science, Computing and Engineering Technologies, Swinburne University(斯威本大学科学与工程技术学院);School of Information Technology, Deakin University(德肯大学信息科技学院)
本文通过系统映射研究,基于五个伦理维度分析39项研究,揭示大语言模型伦理问题的多维性与情境依赖性,并指出现有缓解策略在高风险领域实施受阻、框架适应性不足等核心挑战。
2025-08-22 cs.AI cs.CY
Why we need biased AI -- How including cognitive and ethical machine biases can enhance AI systems
University of Tuebingen(图宾根大学)
本文从两个方面强调了偏见在人工智能(AI)领域的重要性。首先,为了在复杂、不稳定和不确定的现实环境中培养有效的算法决策,我们主张在学习算法中实现人类认知偏见的结构化。其次,我们认为,为了实现道德的机器行为,过滤器机制必须应用于选择有偏见的训练刺激,代表社会或行为特征,是道德上可取的。我们使用认知科学和伦理学的见解,并将其应用于人工智能领域,将理论考虑与描述有形偏见实施场景的七个案例研究相结合。最终,本文是明确追求重新评估机器偏见的伦理意义的想法,以及提出将认知偏见实施到机器中的想法的第一个尝试性步骤。
2022-03-18 cs.AI cs.LG
Meta-ethics and AI: exploring the novel meta-ethical questions in the era of AI
本文针对AI时代出现的“AI自身的伦理学”相关元伦理学问题,提出条件性方法论框架,区分四类探究领域,探讨主流元伦理学理论的适用性,指出现有框架需大幅修正。
2026-09-03 cs.AI cs.CY
The Only Way is Ethics: A Guide to Ethical Research with Large Language Models
University of Edinburgh(爱丁堡大学);Heriot-Watt University(赫瑞瓦特大学)
本文推出'LLM Ethics Whitepaper',将伦理文献转化为面向计算机科学家的具体建议与工具包,提供项目全生命周期的伦理考量指南。
2024-12-20 cs.AI cs.CL
Towards a Practical Ethics of Generative AI in Creative Production Processes
University College of West-Flanders(西佛兰德斯大学学院)
本文针对生成式人工智能融入创意生产流程的伦理问题,从技术用户视角出发,基于六大伦理理论构建实践框架,帮助设计师在创意各阶段兼顾伦理原则与技术潜力,避免损害创意流程。
2024-11-18 cs.AI cs.CY
Future Intelligent Autonomous Robots, Ethical by Design. Learning from Autonomous Cars Ethics
Mälardalen University(梅拉达伦大学);University of Gothenburg(哥德堡大学)
智能自主机器人技术的发展以其对个人和社会产生预期的有益影响为前提。在这种颠覆性的新兴技术的情况下,不仅如何构建的问题,而且为什么要构建以及会产生什么后果的问题都很重要。智能自动驾驶机器人汽车的道德领域是具有可操作实用价值的研究的一个很好的例子,其中包括法律系统和其他社会和政府行为者以及公司和企业在内的各种利益相关者进行合作,带来对技术的道德和社会方面的共同看法。它可以作为一般智能自主机器人开发方法的起始平台,考虑技术生存周期不同阶段的人机界面-开发、实施、测试、使用和处置。从我们对自主智能机器人汽车伦理的研究以及现有的机器人伦理文献中,我们的贡献包括一套价值观和伦理原则,以及确定的挑战和应对挑战的建议方法。这可能有助于智能自主机器人领域的利益相关者将伦理原则与其应用联系起来。我们对自动驾驶汽车道德要求的建议可用于其他类型的智能自动驾驶机器人,但对于社交机器人需要进行更多有关与用户交互的研究。我们强调,现有的道德框架需要以一种对背景敏感的方式加以应用,通过多学科、多能力团队的评估,通过多标准分析。此外,我们认为,需要不断发展的道德原则,指导方针和法规,通过技术的进步和相关利益相关者的参与。
2021-07-16 cs.AI cs.CY cs.RO
Ethical Considerations in Artificial Intelligence Courses
University of Kentucky(肯塔基大学);University of Southern California(南加州大学);University of Michigan(密歇根大学);IBM T.J. Watson Research Center(IBM T.J. 沃森研究中心);UNSW(新南威尔士大学);Data61/CSIRO(澳大利亚联邦科学与工业研究组织 Data61);TU Berlin(柏林工业大学)
最近对人工智能伦理学的兴趣激增,可能会让许多教育工作者想知道如何在人工智能课程中解决道德、伦理和哲学问题。作为教师,我们希望开发的课程不仅能让学生成为人工智能实践者,还能让他们了解人工智能将对社会产生的道德、伦理和哲学影响。在本文中,我们提供了实用的案例研究和资源链接,供AI教育工作者使用。我们还就如何将人工智能伦理融入一般人工智能课程以及如何教授独立的人工智能伦理课程提供了具体建议。
2017-01-26 cs.AI cs.CY cs.GL
Unpacking the Ethical Value Alignment in Big Models
Microsoft Research Asia(微软亚洲研究院)
本文从规范伦理学视角分析大模型的伦理风险与现有对齐算法的挑战,并提出一种新型伦理价值对齐概念范式及未来研究方向。
2023-10-26 cs.AI cs.CL cs.CY
Safety, Trust, and Ethics Considerations for Human-AI Teaming in Aerospace Control
Bluehalo LLC(蓝光公司);Air Force Research Laboratory(空军研究实验室)
本文阐明航空航天控制中人机协同中安全、信任与伦理三者的区别,强调以安全、可信、伦理使用为目标设计AI的必要性,并关注人类在决策环内、环上或环外的应用场景。
2023-11-15 cs.AI cs.CY cs.SY
On the Ethical Considerations of Generative Agents
University of Cambridge(剑桥大学)
本文针对生成式智能体技术应用引发的伦理问题,通过梳理相关文献识别关键伦理担忧,提出缓解伦理问题与系统性风险的指导方针及未来研究方向,为该技术的伦理规范提供参考。
2024-11-28 cs.AI cs.CY cs.ET
Towards Transparent Ethical AI: A Roadmap for Trustworthy Robotic Systems
University of Arkansas at Little Rock(阿拉巴马州立大学)
本文提出透明度是伦理AI与机器人系统可信的基础,通过框架连接技术实施与伦理考量,并探讨其对公众信任和监管的影响。
2025-08-07 cs.AI cs.CY cs.HC