Toward equipping Artificial Moral Agents with multiple ethical theories
Computer Science Department, University of Cape Town（开普敦大学计算机科学系）；University of Cape Town（开普敦大学）
人工道德代理（Artificial Moral Agents，AMA）是计算机科学中的一个领域，其目的是创建能够做出类似于人类行为的道德决策的自主机器。研究人员提出了创造这种机器的理论方法，而哲学家则对这些机器应该如何运作，或者它们是否应该存在进行了争论。在目前理论化的AMA中，所有的研究和设计都是在没有或至多有一个特定的规范伦理理论作为基础的情况下完成的。这是有问题的，因为它缩小了AMA的功能能力和多功能性，这反过来又导致了少数人同意的道德结果（从而破坏了AMA在人类意义上的道德能力）。作为解决方案，我们设计了一个三层模型的一般规范的道德理论，可用于序列化的人和企业的道德观点的AMA在推理过程中使用。四个具体的道德规范（康德主义，神的命令理论，功利主义和利己主义）进行了建模和评估的概念证明规范建模。此外，所有模型都被序列化为XML/XSD，作为支持计算机化的证明。
2020-03-02 cs.AI cs.CY
BERT has a Moral Compass: Improvements of ethical and moral values of machines
TU Darmstadt（达姆施塔特工业大学）；Deutsches Zentrum für Luft- und Raumfahrt (DRL)（德国航空航天中心）
允许机器选择是否杀死人类将对世界和平与安全造成破坏。但是，我们如何让机器具备学习伦理甚至道德选择的能力呢？Jentzsch等人（2019）表明，将机器学习应用于人类文本，可以通过使用句子嵌入计算句子级别的道德偏见评分，提取有关“正确”和“错误”行为的道义论道德推理。机器学会了杀生是令人反感的，但消磨时间是可以的;吃饭是必不可少的，但一个人可能不会吃土;传播信息很重要，但一个人不应该传播错误的信息。然而，被评估的道德偏见仅限于简单的行动-一个动词-和行动与周围环境的排名。最近，BERT --以及诸如RoBERTa和SBERT之类的变体--为广泛的NLP任务设置了新的最先进的性能。但BERT是否也有更好的道德指南针呢？在本文中，我们讨论并表明情况确实如此。因此，最近对语言表示的改进也改善了机器潜在的伦理和道德价值观的表示。我们认为，通过一个先进的文本语义表示，BERT可以让一个更好的洞察隐含在文本中的道德和伦理价值观。这使得道德选择机器（MCM）能够提取更准确的道德选择和道德价值观的印记。
2019-12-11 cs.AI cs.CL cs.LG
Uncertain Machine Ethics Planning
University of Manchester（曼彻斯特大学）；Newcastle University（新castle大学）
本文将不确定条件下的机器伦理决策形式化为多道德马尔可夫决策过程与随机最短路径问题，并提出基于多目标AO*和假设回顾的启发式算法，通过偷胰岛素案例验证其有效性。
2025-05-07 cs.AI cs.CY
The Virtuous Machine - Old Ethics for New Technology?
Technical University of Munich（慕尼黑工业大学）；Munich Center for Technology in Society（慕尼黑技术与社会中心）
现代人工智能和机器人系统的特点是高度和不断提高的自主性。与此同时，它们在自动驾驶、服务机器人和数字个人助理等领域的应用也向人类靠拢。从这两个发展的结合中出现了人工智能伦理学领域，它认识到自主机器的行为需要道德维度，并试图回答我们如何构建道德机器的问题。在本文中，我们主张从亚里士多德的美德伦理学中汲取灵感，表明它与现代人工智能形成了适当的结合，因为它专注于从经验中学习。我们进一步提出，从道德榜样的模仿学习，在美德伦理学的中心概念，可以解决价值对齐问题。最后，我们表明，一个智能系统被赋予节制和友谊的美德，以人类不会构成一个控制问题，因为它不会有无限的自我完善的愿望。
2018-06-27 cs.AI
Artificial virtuous agents in a multiagent tragedy of the commons
Lund University（隆德大学）
虽然美德伦理学已经多次被提出作为一个合适的框架，人工道德代理（AMAs）的发展，它已被证明是难以接近从计算的角度来看。在这项工作中，我们提出了人工良性代理（AVA）的道德模拟的第一个技术实现。首先，我们回顾了之前在人工美德伦理学方面的概念和技术工作，并描述了基于气质美德、自下而上的学习和自上而下的幸福奖励的AVA功能主义路径。然后，我们提供了一个技术实现的细节，在道德模拟的基础上的悲剧的公地的情况。实验结果表明，AVA如何学会解决合作问题，同时表现出他们的理论对应的核心特征，包括道德品质，气质美德，从经验中学习，追求幸福。最后，我们认为，美德伦理学提供了一个令人信服的道路，道德优秀的机器，我们的工作提供了一个重要的起点，这样的努力。
2022-10-06 cs.AI
Metanormative Theory for RL-Based Moral Agents
University of Luxembourg（卢森堡大学）；University of Bergen（卑尔根大学）
本文针对强化学习（RL）道德智能体设计中哲学文献被边缘化的问题，提炼元规范理论的相关理念审视RL架构，以明确RL智能体道德行为的判定标准，为评估相关RL方法奠定基础。
2026-08-11 cs.AI
Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)
Taylor Olson（塔勒尔·奥尔森）
本文提出一种多排序量化模态逻辑FULL，用于规范康德伦理学，通过无需内置道德直觉的背景知识评估代理行为，提升AI代理的鲁棒性和自主性。
2026-04-15 cs.AI cs.LO
Informed AI Regulation: Comparing the Ethical Frameworks of Leading LLM Chatbots Using an Ethics-Based Audit to Assess Moral Reasoning and Normative Values
Kenyon College（凯尼恩学院）
本研究通过基于伦理的审计，评估8个领先LLM（含GPT-4）的道德推理与规范价值观，发现GPT-4具备复杂伦理框架，但多数模型存在文化偏见和威权倾向。
2024-01-09 cs.AI cs.CY
Responses to a Critique of Artificial Moral Agents
Charles Sturt University（查尔斯特大学）；University in Hartford（哈特福德大学）；University of Connecticut（康涅狄格大学）；Ohio Northern University（俄亥俄北方大学）
机器伦理学领域关注的是如何将伦理行为或确定伦理行为的方法嵌入人工智能（AI）系统的问题。其目标是产生人工道德代理人（AMA），这些代理人要么是隐含的道德（旨在避免不道德的后果），要么是明确的道德（旨在道德地行事）。Van Wynsberghe和Robbins（2018）的论文《批判制造人工道德代理的原因》批判性地阐述了机器伦理学家为进行AMA研究所提供的理由;这篇由机器伦理学家和评论员共同撰写的论文旨在通过回应这一批评来促进机器伦理学对话。在van Wynsberghe和Robbins（2018）中讨论的开发AMA的原因是：它们的开发是不可避免的;防止伤害;公众信任的必要性;防止不道德的使用;这些机器比人类更好地进行道德推理，构建这些机器将导致更好地理解人类道德。在本文中，每位合著者依次讨论了这些原因。在这样做的时候，本文表明，批评的原因是不共享的所有合著者，每个机器伦理学家有自己的理由研究AMA。但是，尽管我们对范温斯伯格和罗宾斯的批评中的六个原因中的每一个都表达了不同的观点，但我们仍然同意对AMA的科学研究具有相当大的价值。
2019-03-17 cs.AI cs.CY cs.RO
Kantian Deontology Meets AI Alignment: Towards Morally Grounded Fairness Metrics
University of Southampton（南安普顿大学）；Institut Polytechnique de Paris-Télécom Paris（巴黎理工学院-巴黎高等电信学院）
本文提出将康德义务论伦理学引入人工智能对齐中的公平性度量，以替代以功利主义为主导的现有方法，从而构建更注重义务与原则、兼顾结果与程序的道德化人工智能公平框架。
2024-02-26 cs.AI
The Jiminy Advisor: Moral Agreements Among Stakeholders Based on Norms and Argumentation
University of Luxembourg（卢森堡大学）；University of Bergen（卑尔根大学）
本文提出伦理建议组件 Jiminy，结合规范系统与形式论证，通过添加论证、添加或修正攻击关系三种机制协调利益相关者的道德观点，并支持伦理推理、协作决策与行为解释。
2023-04-28 cs.AI
Designing Ethical Learning for Agentic AI: Toegye Yi Hwang's Ethical Emotion Regulation Framework
Seoul National University（首尔国立大学）
本文提出一种基于Toegye Yi Hwang道德哲学的智能代理AI道德情感调节框架，通过五阶段架构和评估工具规范自主决策周期中的道德情感过程。
2026-04-07 cs.AI cs.CY
When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas
ETH Zürich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Michigan（密歇根大学）；Max Planck Institute for Intelligent Systems, Tübingen（图宾根人工智能研究所）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）
研究道德要求与利润激励冲突时LLMs在道德两难博弈中的行为，引入\msim评估九个模型，通过ATEs估计因果效应、分析推理轨迹，发现模型道德行为有情境脆弱性，揭示了部署风险。
2026-07-27 cs.AI cs.CL cs.CY
Some Issues in Predictive Ethics Modeling: An Annotated Contrast Set of "Moral Stories"
Haverford College（哈弗福德学院）
该研究针对伦理建模中仅以准确率为整体指标的问题，通过构建Moral Stories对比集，量化了不同数据失实形式对分类器准确率的损害，并提出了三项改进建议。
2024-07-07 cs.AI cs.CL
Six Llamas: Comparative Religious Ethics Through LoRA-Adapted Language Models
Meta
本文通过 LoRA 调整的语言模型比较不同宗教文本对伦理推理的影响，发现调整模型在伦理推理上与基础模型有系统性差异，并在不同温度设置下表现出稳定性与多样性。
2026-04-20 cs.AI
When is it right and good for an intelligent autonomous vehicle to take over control (and hand it back)?
Auckland University of Technology（奥克兰理工大学）
机器伦理学中有很多关于将伦理推理能力引入智能自主机器的最合适方式的争论。最近发生的涉及自动驾驶汽车的人员伤亡事件引发了人们的疑问，即我们如何确保这些车辆的行为具有道德层面，因此值得信赖。主要的问题是，将这些机器与不造成伤害或损害的规则硬连接起来，与自主和智能的概念不一致。此外，如果智能自主机器遇到它们没有被编程的情况或困境，或者无论采取什么行动都会造成一些伤害，这种道德硬连线不会让它们采取任何行动。教机器学习道德也可能是有问题的，因为机器学习的最新研究发现，机器会接受嵌入其学习算法或数据中的偏见和偏见。本文介绍了一种模糊推理方法的机器伦理。本文展示了当从人类驾驶员手中接管在道德上是合理的时，道德架构如何进行推理。这种伦理推理机背后的设计也适用于一个伦理困境解决案例。这种方法的一个主要优点是，伦理推理者可以生成自己的数据来学习道德规则（因此，自动测量），从而减少了拾取人类偏见和偏见的可能性。结果表明，一种新的基于度量的伦理学适合于自主智能机器是可行的，我们目前的概念，伦理推理主要是定性的性质可能需要修改，如果要构建未来的自主机器，有一个道德的维度，他们的推理，使他们成为道德的机器。
2019-01-24 cs.AI
Can Valence Reflect Morality in Natural Language? A Preliminary Annotation Study
研究自然语言中效价能否反映道德，提出道德效价数据集，由六名参与者对常识规范库文本场景进行500次标注，效价范围-1到1，结果表明效价特征与道德类别相关，为文本道德估计有用性提供早期证据，推动情感道德计算研究。
2026-07-24 cs.AI cs.CL cs.HC
Formalizing the Moral Evaluation of Speech Acts: Truthfulness, Lies and Ethical Dilemmas
Sorbonne University（索邦大学）；CNRS（法国国家科学研究中心）
针对生死情境中善意谎言与真相的道德冲突，提出基于智能体信念的逻辑框架，在ASP中实现，评估义务论、后果主义与原则主义下的话语，并以萨特《墙》为例验证，且框架可通过调整参数适应新情境。
2026-10-06 cs.AI cs.LO cs.MA
A Computational Model of Commonsense Moral Decision Making
Massachusetts Institute of Technology（麻省理工学院）
我们引入了一个新的计算模型的道德决策，借鉴最近的理论常识道德学习通过社会动力学。我们的模型将道德困境描述为一个效用函数，该函数计算抽象道德维度上的价值权衡，当在机器主导的道德决策中实施时，这些道德维度提供了可解释的参数值。此外，表征的社会结构的个人和群体作为一个分层贝叶斯模型，我们表明，一个有用的描述个人的道德价值观-以及一个群体的共同价值观-可以推断出从有限数量的观测数据。最后，我们应用和评估我们的方法，从道德机器，一个网络应用程序，收集人类的判断涉及自动驾驶汽车的道德困境的数据。
2018-01-12 cs.AI
An Evaluation of GPT-4 on the ETHICS Dataset
SingularityNet（奇点网）；CIIRC（捷克信息学、机器人学和控制论研究所）
本文评估了GPT-4在ETHICS数据集上的表现，发现其显著优于以往模型，表明学习共享人类价值观并非AI伦理的核心难题。
2023-09-19 cs.AI cs.CL
Why Machines Can't Be Moral: Turing's Halting Problem and the Moral Limits of Artificial Intelligence
University of Cambridge（剑桥大学）；Leverhulme Centre for the Future of Intelligence（利弗休姆智能未来中心）
本文论证了基于自下而上方法的显式伦理机器因图灵停机问题的计算不可处理性，无法复制人类道德推理并成为道德主体。
2024-07-24 cs.AI cs.CY
Beneficent Intelligence: A Capability Approach to Modeling Benefit, Assistance, and Associated Moral Failures through AI Systems
Carnegie Mellon University（卡内基梅隆大学）
本文借鉴可行能力方法提出AI伦理框架，形式化提供有意义利益或援助所需的伦理概念与权利，并刻画了道德允许交互的必要条件和实现利益理想的充分条件，对比了多种道德失败模式，强调伦理主导AI设计的迫切性。
2023-09-07 cs.AI cs.CY
Logical Limitations to Machine Ethics with Consequences to Lethal Autonomous Weapons
Technische Universität Darmstadt（达姆施塔特工业大学）
致命的自主武器有望彻底改变战争-并提出了大量的道德和法律问题。因此，有人建议将价值观和行为原则（如日内瓦公约）编入机器的控制中，从而使它们在身体和道德上都优于人类战斗人员。我们采用数理逻辑和理论计算机科学来探索一系列"Gedanken实验"中智能机器道德行为的基本限制：改进和锐化电车问题的变体使我们构建一个（诚然是人为的，但）完全确定性的情况下，机器人有两个选择：一个在道德上显然比另一个更可取--然而，基于停止问题的不可判定性，它可以证明不能在算法上决定哪一个。我们的考虑对自主系统的行为的责任和赔偿责任问题有着令人惊讶的影响，并导致具体的技术建议。
2014-11-11 cs.AI cs.CY
A Word on Machine Ethics: A Response to Jiang et al. (2021)
Simon Fraser University（西蒙菲莎大学）；New York University（纽约大学）；University of Cambridge（剑桥大学）；ETH Zürich（苏黎世联邦理工学院）；Facebook AI Research（Facebook人工智能研究院）
伦理学是人类历史最悠久的智力活动之一。近年来，人工智能和自然语言处理领域一直试图争论如何限制与人类交互的学习系统的道德行为。这方面的一个建议是构建道德模型，可以接受任意文本并输出对所描述情况的道德判断。在这项工作中，我们专注于一个单一的案例研究，最近提出的德尔菲模型，并提供了一个批评该项目的自动化道德判断的方法。通过对德尔福的审计，我们研究了适用于任何类似尝试的更广泛的问题。最后，我们讨论了机器伦理如何有效地进行，通过关注当前和不久的将来技术的使用，以围绕透明度，民主价值观的方式，并允许直接问责。
2021-11-07 cs.AI cs.CL
Dubito Ergo Sum: Exploring AI Ethics
University of Strathclyde Business School（思克莱德大学商学院）；Chartered Banker Institute（特许银行家协会）
本文借笛卡尔“我疑故我在”论证无法自我怀疑的AI不具备道德能动性，并探讨人类心智与AI的差异及道德直觉性对AI伦理研究的影响。
2025-03-09 cs.AI cs.CY cs.HC
ProMoral-Bench: Evaluating Prompting Strategies for Moral Reasoning and Safety in LLMs
ProMoral-Bench通过统一道德安全评分评估多种提示策略，发现紧凑示例引导框架在道德和安全方面表现更优。
2026-11-06 cs.AI cs.CL
Delegating Responsibilities to Intelligent Autonomous Systems: Challenges and Benefits
Mälardalen University（梅拉达伦大学）；Chalmers University of Technology（查尔姆斯理工大学）；Pontifical Lateran University（宗座拉特朗大学）
本文针对自主AI系统带来的责任归属难题，提出功能主义框架，将道德责任视为社会-技术系统中分布于人类与人工智能体之间的角色，并以Basti和Vitiello基于道义高阶逻辑的实现为例，论证“设计即伦理人工智能”的可行性与价值。
2024-11-06 cs.AI cs.CY
Automated Driving Without Ethics: Meaning, Design and Real-World Implementation
IRCAI（国际人工智能与伦理研究中心）；Jožef Stefan Institute（约泽夫·斯蒂芬研究所）；INRIA（法国国家信息与自动化研究所）；Sorbonne Université（索邦大学）
本文提出一种不预设伦理立场的自动驾驶决策策略，通过预定义风险参数并结合伦理效价理论与多种决策规则，为评估自动驾驶车辆决策的社会可接受性提供灵活的计算工具。
2023-08-09 cs.AI cs.RO
Automated Kantian Ethics: A Faithful Implementation
Harvard University（哈佛大学）
当我们赋予人工智能越来越多的权力和独立性，如医疗保健，警务和驾驶，人工智能面临道德困境，但缺乏解决这些问题的工具。来自监管机构、哲学家和计算机科学家关于不道德的人工智能的危险的警告激发了人们对自动化道德的兴趣--即，能够进行伦理推理的机器的发展。然而，以前的工作在自动化伦理学很少涉及哲学文献。哲学家们花了几个世纪的时间来辩论道德困境，所以当自动伦理学借鉴哲学文献时，它将是最微妙、一致和可靠的。在本文中，我提出了一个自动化的康德伦理学，是忠实于康德哲学传统的实现。我形式化康德的定言命令在二元道义逻辑，实现这种形式化的伊莎贝尔定理证明，并开发一个测试框架，以评估我的实现如何与康德伦理的预期属性相一致。我的系统是迈向道德成熟的人工智能智能体的早期步骤，它可以在复杂的道德困境中做出微妙的判断，因为它是基于哲学文献的。因为我使用交互式定理证明器，所以我的系统的判断是可以解释的。
2022-07-20 cs.AI cs.LO
Ethical Considerations in Artificial Intelligence Courses
University of Kentucky（肯塔基大学）；University of Southern California（南加州大学）；University of Michigan（密歇根大学）；IBM T.J. Watson Research Center（IBM T.J. 沃森研究中心）；UNSW（新南威尔士大学）；Data61/CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；TU Berlin（柏林工业大学）
最近对人工智能伦理学的兴趣激增，可能会让许多教育工作者想知道如何在人工智能课程中解决道德、伦理和哲学问题。作为教师，我们希望开发的课程不仅能让学生成为人工智能实践者，还能让他们了解人工智能将对社会产生的道德、伦理和哲学影响。在本文中，我们提供了实用的案例研究和资源链接，供AI教育工作者使用。我们还就如何将人工智能伦理融入一般人工智能课程以及如何教授独立的人工智能伦理课程提供了具体建议。
2017-01-26 cs.AI cs.CY cs.GL
Integrating Reason-Based Moral Decision-Making in the Reinforcement Learning Architecture
本文提出基于理由的人工道德智能体（RBAMA），通过扩展强化学习架构并结合案例反馈学习理由理论，使智能体在任务执行中依据规范性推理做出可辩护的道德决策。
2025-07-20 cs.AI cs.CY cs.LG
Moral and Social Ramifications of Autonomous Vehicles
North Carolina State University（北卡罗来纳州立大学）；Oklahoma State University（俄克拉荷马州立大学）；University of Bristol（布里斯托大学）
自动驾驶汽车（AV）引起了重要的社会和伦理问题，特别是关于问责制，尊严和正义。我们专注于自动驾驶技术将如何影响专业和半专业驾驶员的生活和生计所引起的具体问题。虽然以前对这些问题的研究主要集中在专家的意见上，但我们试图从司机本身的角度来理解这些道德和社会挑战。为此，我们采用了基于半结构化访谈的定性研究方法论。这是一种成熟的社会科学方法论，有助于避免调查等肤浅方法的偏见，深入了解利益相关者的核心担忧。我们发现，尽管司机同意专家的观点，即自动驾驶汽车将对交通系统产生重大影响，但他们对自己的生计前景感到担忧，并不认为驾驶工作不令人满意，他们的职业不值得保护。通过展示驾驶员与专家的不同之处，我们的研究产生了超越自动驾驶汽车到人工智能和其他先进技术的影响。我们的研究结果表明，定性研究适用于相关的，特别是被剥夺权力的利益相关者是必不可少的，以确保新技术的引入道德。
2021-01-29 cs.AI cs.CY
Beyond Bias and Compliance: Towards Individual Agency and Plurality of Ethics in AI
人工智能伦理是一个新兴领域，有多种相互竞争的叙述，关于如何最好地解决将人类价值观构建到机器中的问题。两种主要的方法分别侧重于偏差和遵守。但这两种思想都没有完全包含伦理学：使用道德原则来决定在特定情况下如何行动。我们的方法假定，数据的标记方式在人工智能的行为方式中起着至关重要的作用，因此在机器本身的道德中也起着至关重要的作用。该论点将伦理学的基本见解（即伦理学是关于价值观的）与我们构建和扩展机器学习系统的实践经验相结合。我们希望通过首先解决基本问题来构建真正符合道德的人工智能：如何构建良好的系统，如何定义与系统架构相关的好东西，以及谁应该提供该定义。建立道德的人工智能在公司和该平台的用户之间建立了信任的基础。但这种信任是不合理的，除非用户体验到道德AI的直接价值。在用户真正控制算法的行为之前，当前的人工智能解决方案中缺少了一些东西。这导致了对人工智能的大量不信任，以及对人工智能伦理解决方案的冷漠。本文的范围是提出一个替代路径，允许多元的价值观和个人表达的自由。这两者都是实现真正道德品质的必要条件。
2023-02-23 cs.AI cs.CY
The Journal of Prompt-Engineered (Moral) Philosophy Or: Why AI-Assisted Ethics Research Requires Process Transparency
University of Milan（米兰大学）
本文探讨了AI辅助伦理研究中过程透明的必要性，提出透明义务应基于主体完整性，通过五个透明元素构建文档充分性框架，以实现未来规范性判断的可能。
2026-06-26 cs.AI cs.CY cs.DL
Informed Consent for AI Consciousness Research: A Talmudic Framework for Graduated Protections
Braude College of Engineering（布劳德工程学院）
本文提出基于塔木德框架的三级现象学评估系统和五类能力框架，用于在无法确定人工智能系统道德地位时进行意识研究的伦理保护。
2026-01-10 cs.AI cs.CY
Meaningful human command: Advance control directives as a method to enable moral and legal responsibility for autonomous weapons systems
本文探讨了在高速战争中人类如何对自主武器系统确保道德与法律责任，提出通过在部署前构建“预先控制指令”（ACD）来支撑和合法化“自主权指令”，以解决非实时操作下的责任归属问题。
2023-08-04 cs.AI cs.HC
Future Intelligent Autonomous Robots, Ethical by Design. Learning from Autonomous Cars Ethics
Mälardalen University（梅拉达伦大学）；University of Gothenburg（哥德堡大学）
智能自主机器人技术的发展以其对个人和社会产生预期的有益影响为前提。在这种颠覆性的新兴技术的情况下，不仅如何构建的问题，而且为什么要构建以及会产生什么后果的问题都很重要。智能自动驾驶机器人汽车的道德领域是具有可操作实用价值的研究的一个很好的例子，其中包括法律系统和其他社会和政府行为者以及公司和企业在内的各种利益相关者进行合作，带来对技术的道德和社会方面的共同看法。它可以作为一般智能自主机器人开发方法的起始平台，考虑技术生存周期不同阶段的人机界面-开发、实施、测试、使用和处置。从我们对自主智能机器人汽车伦理的研究以及现有的机器人伦理文献中，我们的贡献包括一套价值观和伦理原则，以及确定的挑战和应对挑战的建议方法。这可能有助于智能自主机器人领域的利益相关者将伦理原则与其应用联系起来。我们对自动驾驶汽车道德要求的建议可用于其他类型的智能自动驾驶机器人，但对于社交机器人需要进行更多有关与用户交互的研究。我们强调，现有的道德框架需要以一种对背景敏感的方式加以应用，通过多学科、多能力团队的评估，通过多标准分析。此外，我们认为，需要不断发展的道德原则，指导方针和法规，通过技术的进步和相关利益相关者的参与。
2021-07-16 cs.AI cs.CY cs.RO
Exploring Persona-dependent LLM Alignment for the Moral Machine Experiment
Korea Advanced Institute of Science & Technology (KAIST)（韩国科学技术院（KAIST））；Max Planck Institute for Security and Privacy (MPI-SP)（马克斯·普朗克安全与隐私研究所）
本研究通过道德机器实验考察LLM驱动决策与人类判断的对齐，发现LLMs的道德决策因角色（含社会人口统计学特征）显著变化，关键任务中变化幅度大于人类，且存在政治角色主导决策的党派分类现象，探讨了伦理影响与风险。
2025-04-15 cs.AI cs.CL cs.CY
