AI Act and Large Language Models (LLMs): When critical issues and privacy impact require human and ethical oversight
International Institute of Informatics and Systemics (IIIS)（国际信息学与系统学研究所）
本文针对大语言模型快速发展带来的风险，探讨了人类监督、伦理监督与隐私影响评估在应对隐私、数据保护及伦理问题中的作用。
2024-04-02 cs.AI cs.CL cs.CY
Principles2Plan: LLM-Guided System for Operationalising Ethical Principles into Plans
Principles2Plan通过人机协作生成基于伦理原则的可操作规则，提升自动规划的伦理实用性
2025-12-09 cs.AI
Auditing the Ethical Logic of Generative AI Models
New York University（纽约大学）；DropBox（多宝箱）
本文提出五维审计模型评估生成式AI的伦理推理，通过多组提示基准测试七个LLM，发现模型决策趋同但解释与优先级有差异，思维链可提升表现。
2025-04-24 cs.AI
EALM: Introducing Multidimensional Ethical Alignment in Conversational Information Retrieval
Tsinghua University（清华大学）；Waseda University（早稻田大学）；Gongsheng Matrix（共生矩阵）
针对对话式信息检索中现有伦理对齐研究不足的问题，本研究提出整合伦理判断阶段的伦理对齐工作流，构建QA-ETHICS与MP-ETHICS两个评估数据集，并提出在二分类和多标签伦理判断任务中均达最优的新方法，为CIR伦理对齐提供实用方案。
2023-10-02 cs.CL
Addressing Moral Uncertainty using Large Language Models for Ethical Decision-Making
本研究提出一种伦理决策框架，通过任务无关伦理层结合LLM生成的多道德视角反馈微调RL模型，利用信念聚合方法生成塑形奖励，帮助智能体应对道德不确定性，提升决策一致性与适应性，减少对人工伦理奖励的依赖。
2025-10-01 cs.AI cs.CY
Advancing Automated Ethical Profiling in SE: a Zero-Shot Evaluation of LLM Reasoning
University of L'Aquila（拉奎拉大学）；Gran Sasso Science Institute（格兰萨索科学研究所）
该研究提出全自动化框架，在零样本设置下用30个现实伦理场景评估16款大语言模型的伦理推理能力，发现模型与伦理专家判断的一致性较高，具备作为软件工程流程中伦理推理引擎的潜力，可支撑自动化伦理画像。
2025-10-01 cs.AI cs.SE
The Ethical Compass of the Machine: Evaluating Large Language Models for Decision Support in Construction Project Management
School of Computing, Engineering and Digital Technologies, Teesside University（提赛德大学计算、工程与数字技术学院）
本研究针对建筑项目管理的高风险伦理决策场景，采用混合方法评估两款主流LLMs的伦理可行性，发现其在语境处理、问责与推理透明度上有缺陷，提出EDSAC框架并建议LLMs仅作为人在回路监督下的决策辅助工具。
2025-09-02 cs.AI cs.CY
Ethical Concerns of Generative AI and Mitigation Strategies: A Systematic Mapping Study
Faculty of Information Technology, Monash University（墨尔本大学信息科技学院）；School of Science, Computing and Engineering Technologies, Swinburne University（斯威本大学科学与工程技术学院）；School of Information Technology, Deakin University（德肯大学信息科技学院）
本文通过系统映射研究，基于五个伦理维度分析39项研究，揭示大语言模型伦理问题的多维性与情境依赖性，并指出现有缓解策略在高风险领域实施受阻、框架适应性不足等核心挑战。
2025-08-22 cs.AI cs.CY
Beyond principlism: Practical strategies for ethical AI use in research practices
本文提出以用户为中心、受现实启发的方法，解决AI伦理问题，提出五个具体目标，包括理解模型训练、尊重隐私、避免抄袭、有益应用AI以及透明可重复使用AI，并提出文档指南和培训计划以促进负责任的AI使用。
2025-06-20 cs.AI cs.CY
TRIAGE: Ethical Benchmarking of AI Models Through Mass Casualty Simulations
King’s College London（伦敦国王学院）；Medical University of Vienna（维也纳医科大学）；Institute of Artificial Intelligence（人工智能研究院）
提出TRIAGE基准，通过真实伦理困境测试LLM在大规模伤亡分诊中的决策能力，发现中性表述效果最佳，对抗提示降低性能但未至随机水平，开源模型错误更严重。
2024-11-04 cs.AI cs.CY
Ethics for Digital Medicine: A Path for Ethical Emerging Medical IoT Design
Colorado State University（科罗拉多州立大学）
随着越来越强大的嵌入式系统和物联网（IoT）计算设备的到来，数字医学时代的曙光正在创造新的疗法和生物医学解决方案，有望积极改变我们的生活质量。然而，数字医学革命也带来了不可预见的复杂的伦理、监管和社会问题。在这篇文章中，我们反思了数字医学面临的伦理挑战。我们讨论了医疗设备中道德监督的风险，以及专业守则和监管监督对安全有效地满足患者需求的数字医疗设备的道德设计，部署和操作的作用。我们倡导强化教育、可编程道德行为和道德分析框架的整体方法，以防止事故并维持新兴数字医疗设备的道德创新、设计和生命周期管理。
2022-10-21 cs.AI cs.CY
Gatekeeping Algorithms with Human Ethical Bias: The ethics of algorithms in archives, libraries and society
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
在算法时代，我关注的问题是，如何确保将接管我们熟悉的许多档案和图书馆任务的算法，将根据多年来演变的人类道德规范行事。首先，我在图书馆和博物馆等相关机构的背景下描述了物理档案的特征。在这种情况下，我分析如何道德原则，特别是关于获取信息，已正式和沟通的形式，道德守则，或：行为守则。在此之后，我描述了两个主要的发展：数字化，即世界的物理方面转化为数字数据，以及算法化，即智能计算机程序将这些数据转化为预测和决策。两者都影响着曾经是物理的但现在是数字的互动。在这个新的环境中，我调查和分析算法的伦理方面，以及它们如何以算法文档管理员或代码管理员的形式塑造档案管理员和图书管理员的未来愿景。最后，我概述了一个一般的研究策略，称为IntERMEDIUM，以获得遵守编码在道德规范中的人类道德价值观的算法。
2018-01-05 cs.AI
From Algorithmic Black Boxes to Adaptive White Boxes: Declarative Decision-Theoretic Ethical Programs as Codes of Ethics
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
算法伦理是社会科学、法律和哲学等各个学科以及人工智能（AI）中的一个新兴话题。价值对齐问题表达了（机器）学习价值观的挑战，这些价值观在某种程度上与人类的需求或价值观一致。在本文中，我认为，看看人类如何正式和沟通的价值观，在专业道德守则，并探索声明式决策理论的道德程序（DDTEP），以正式的道德守则。这使得机器的道德推理和决策以及学习更加透明，并有望更加负责。该文件包括已知的玩具困境和看门领域，如档案馆和图书馆的概念验证的例子。
2017-11-16 cs.AI
Unpacking the Ethical Value Alignment in Big Models
Microsoft Research Asia（微软亚洲研究院）
本文从规范伦理学视角分析大模型的伦理风险与现有对齐算法的挑战，并提出一种新型伦理价值对齐概念范式及未来研究方向。
2023-10-26 cs.AI cs.CL cs.CY
Ethic-BERT: An Enhanced Deep Learning Model for Ethical and Non-Ethical Content Classification
本文提出Ethic-BERT，一种基于BERT的增强模型，用于四领域伦理内容分类，通过稳健预处理和先进微调策略，在标准测试和硬测试中分别实现82.32%和15.28%的平均准确率提升，优于基线模型。
2025-10-14 cs.AI cs.CY
Designing Ethical Learning for Agentic AI: Toegye Yi Hwang's Ethical Emotion Regulation Framework
Seoul National University（首尔国立大学）
本文提出一种基于Toegye Yi Hwang道德哲学的智能代理AI道德情感调节框架，通过五阶段架构和评估工具规范自主决策周期中的道德情感过程。
2026-04-07 cs.AI cs.CY
Using experimental game theory to transit human values to ethical AI
University of Electronic Science and Technology of China（电子科技大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Zhejiang University（浙江大学）
了解博弈论和伦理学的反映，我们开发了一个数学表示来弥合道德哲学中概念之间的差距（例如，康德主义和功利主义）和人工智能伦理行业技术标准（例如，IEEE P7000伦理AI标准系列）。作为一个应用，我们展示了如何从实验博弈论中获得人类价值（例如，信任游戏实验），以建立一个道德的人工智能。此外，作为一个例子，讨论了一种方法来测试的道德（正确或错误）的一个给定的AI算法，通过使用迭代囚徒困境博弈实验。通过与现有人工智能伦理技术的数学框架和测试方法的比较，分析了该方法的优势。
2017-11-16 cs.AI
ApplE: A Modular Ontology of Applied Ethics and Event Context for Ethical Decision Modeling
IIIT-Delhi（德里印度信息技术学院）
该研究提出模块化应用伦理本体ApplE，采用改进SAMOD构建，结合伦理理论与事件上下文，经医疗用例验证，遵循FAIR原则，可用于伦理AI系统等的建模资源。
2026-08-04 cs.AI cs.CY
Stoic Ethics for Artificial Agents
University of the Fraser Valley（菲沙河谷大学）
我们提出了一份立场文件，主张斯多葛哲学和伦理学可以为道德人工智能的发展提供信息。系统.这与大多数建立道德人工智能的工作形成鲜明对比，它主要关注功利主义或义务论的伦理理论。我们把道德人工智能斯多葛学派的几个核心概念，包括控制的二分法，四个基本美德，理想的圣人，斯多葛学派的做法，以及斯多葛学派对情感或影响的观点。更一般地说，我们提出了一个人工智能的伦理观。它更多地关注人工智能体的内部状态，而不是智能体的外部行为。我们提供了与近期A.I.相关的示例。系统以及假想的超级智能体。
2017-03-28 cs.AI
Landscape of Machine Implemented Ethics
University College Dublin（都柏林大学学院）
本文综述了机器伦理学的最新进展，即如何在机器人、无人驾驶汽车或软件系统中实施道德行为的考虑。重点是涵盖实施者正在考虑的道德理论的广度，以及正在使用的实施技术。对于哪种伦理理论最适合于任何特定领域，没有共识，对于哪种技术最适合于实现特定理论，也没有任何协议。在这些伦理理论的实现中，另一个尚未解决的问题是如何客观地验证这些实现。本文讨论了被用作验证“磨刀石”的困境，以及是否存在任何替代验证机制。最后，它推测，创建特定领域道德的中间步骤可能是创建表现出道德行为的机器的可能垫脚石。
2020-09-01 cs.AI
Some Critical and Ethical Perspectives on the Empirical Turn of AI Interpretability
Université Paris-Saclay（巴黎萨克雷大学）
我们考虑了人工智能（AI）发展目前面临的两个基本和相关问题：缺乏道德和AI决策的可解释性。可解释的人工智能决策是否有助于解决人工智能中的道德问题？使用随机研究，我们的实验表明，生产的解释的经验和自由转向倾向于选择人工智能的解释与低谴责的力量。因此，在某些条件下，可解释性工具不是生产道德人工智能的手段，而是矛盾的障碍，因为它们可以给人一种对道德事件敏感的错觉。我们还表明，人工智能解释的谴责力量高度依赖于解释发生的背景，例如解释对象的性别或教育水平。因此，人工智能伦理工具有时过于灵活，通过自由生产解释进行自我监管似乎不足以解决伦理问题。然后，我们提出了伦理人工智能未来发展的两种情况：更多的外部监管或更多的人工智能解释自由化。这两条相反的道路将对伦理AI的未来发展发挥重要作用。
2021-09-20 cs.AI cs.CY
Virtue Ethics For Ethically Tunable Robotic Assistants
University College Dublin（都柏林大学学院）
本文提出了一种受美德伦理学启发的计算方法，通过基于性格的调整使机器人适应特定环境的伦理需求，并在模拟养老环境中验证了其有效性。
2024-07-23 cs.AI cs.CY cs.RO
Understanding a Robot's Guiding Ethical Principles via Automatically Generated Explanations
Ulm University（乌尔姆大学）；University of Sarajevo（萨拉热窝大学）
机器人的不断发展使它们能够在人类环境中得到更广泛的使用。机器人更值得信赖，可以做出越来越重要的决策，并产生潜在的关键结果。因此，必须考虑机器人运作所遵循的道德原则。在本文中，我们研究如何对比和非对比的解释可以用来理解机器人行动计划的道德。我们建立在现有的道德框架之上，允许用户对计划提出建议，并接收自动生成的对比解释。用户研究的结果表明，生成的解释有助于人类理解机器人计划背后的道德原则。
2022-06-20 cs.AI cs.RO
Informed AI Regulation: Comparing the Ethical Frameworks of Leading LLM Chatbots Using an Ethics-Based Audit to Assess Moral Reasoning and Normative Values
Kenyon College（凯尼恩学院）
本研究通过基于伦理的审计，评估8个领先LLM（含GPT-4）的道德推理与规范价值观，发现GPT-4具备复杂伦理框架，但多数模型存在文化偏见和威权倾向。
2024-01-09 cs.AI cs.CY
Toward Ethical AIED
University College London（伦敦大学学院）
本文介绍了即将出版的《教育中的人工智能伦理学：实践、挑战和辩论》（2022年8月，北京）一书的主要结论。除了强调对本书的主要贡献外，它还讨论了人工智能教育（AIED）领域在该领域的伦理和道德实践背景下的关键问题和重大挑战。这本书本身提出了不同的观点，从外部和内部的AIED作为实现一个广泛的视角，在关键的道德问题为AIED和工作进行了深入的了解，以日期由AIED社区的方式。
2022-03-11 cs.AI cs.CY
Deontic Temporal Logic for Formal Verification of AI Ethics
International Institute of Information Technology - Bangalore（国际信息技术研究所-班加罗尔）
本文提出基于规范逻辑的AI伦理形式化方法，用于验证AI系统在公平性和可解释性方面的伦理行为，通过自动定理证明器验证实际系统是否满足伦理要求。
2026-03-27 cs.AI cs.LO
Ethical Machine Learning in Health Care
Massachusetts Institute of Technology（麻省理工学院）；Microsoft Research（微软研究院）；Stanford University（斯坦福大学）；Vector Institute（向量研究院）；New York University（纽约大学）；University of Toronto（多伦多大学）
在医疗保健中使用机器学习（ML）引发了许多伦理问题，特别是因为模型可能会放大现有的健康不平等现象。在这里，我们概述了在医疗保健发展中公平ML的伦理考虑。具体来说，我们通过社会正义的视角来构建医疗保健中ML的伦理。我们描述了正在进行的努力，并概述了拟议的健康伦理ML管道中的挑战，从问题选择到部署后的考虑。最后，我们总结了应对这些挑战的建议。
2020-10-08 cs.AI cs.CY cs.LG
Artificial Intelligence: the global landscape of ethics guidelines
ETH Zurich（苏黎世联邦理工学院）
在过去的五年里，私营公司、研究机构以及公共部门组织已经发布了道德人工智能的原则和指导方针，但对于什么是“道德人工智能”以及实现它需要哪些道德要求、技术标准和最佳实践都存在争议。为了调查在这些问题上是否正在形成全球共识，我们绘制并分析了当前关于道德AI的原则和指导方针。我们的研究结果揭示了围绕五个道德原则（透明度，正义和公平，非恶意，责任和隐私）出现的全球趋同，在如何解释这些原则方面存在实质性分歧;为什么它们被认为是重要的;它们涉及什么问题，领域或行为者;以及它们应该如何实施。我们的研究结果强调了将指南制定工作与实质性道德分析和适当的实施战略相结合的重要性。
2019-06-24 cs.AI cs.CY
Tesla's Autopilot: Ethics and Tragedy
North Carolina State University（北卡罗来纳州立大学）
本文通过七步伦理决策过程分析特斯拉Autopilot事件的道德责任与监管影响，呼吁重新审视汽车行业自动驾驶技术的行业规范与法律框架。
2024-09-25 cs.AI cs.CY
Meta-ethics and AI: exploring the novel meta-ethical questions in the era of AI
本文针对AI时代出现的“AI自身的伦理学”相关元伦理学问题，提出条件性方法论框架，区分四类探究领域，探讨主流元伦理学理论的适用性，指出现有框架需大幅修正。
2026-09-03 cs.AI cs.CY
Towards a Practical Ethics of Generative AI in Creative Production Processes
University College of West-Flanders（西佛兰德斯大学学院）
本文针对生成式人工智能融入创意生产流程的伦理问题，从技术用户视角出发，基于六大伦理理论构建实践框架，帮助设计师在创意各阶段兼顾伦理原则与技术潜力，避免损害创意流程。
2024-11-18 cs.AI cs.CY
Beyond Algorithmic Fairness: A Guide to Develop and Deploy Ethical AI-Enabled Decision-Support Tools
Georgia Institute of Technology（佐治亚理工学院）
本文针对AI与优化交叉领域工程系统的伦理部署挑战，提出需超越算法公平，覆盖全流程伦理决策，并通过多领域案例明确伦理考量要点，以推动研究人员的伦理反思。
2024-09-17 cs.AI cs.CY cs.LG
Future Intelligent Autonomous Robots, Ethical by Design. Learning from Autonomous Cars Ethics
Mälardalen University（梅拉达伦大学）；University of Gothenburg（哥德堡大学）
智能自主机器人技术的发展以其对个人和社会产生预期的有益影响为前提。在这种颠覆性的新兴技术的情况下，不仅如何构建的问题，而且为什么要构建以及会产生什么后果的问题都很重要。智能自动驾驶机器人汽车的道德领域是具有可操作实用价值的研究的一个很好的例子，其中包括法律系统和其他社会和政府行为者以及公司和企业在内的各种利益相关者进行合作，带来对技术的道德和社会方面的共同看法。它可以作为一般智能自主机器人开发方法的起始平台，考虑技术生存周期不同阶段的人机界面-开发、实施、测试、使用和处置。从我们对自主智能机器人汽车伦理的研究以及现有的机器人伦理文献中，我们的贡献包括一套价值观和伦理原则，以及确定的挑战和应对挑战的建议方法。这可能有助于智能自主机器人领域的利益相关者将伦理原则与其应用联系起来。我们对自动驾驶汽车道德要求的建议可用于其他类型的智能自动驾驶机器人，但对于社交机器人需要进行更多有关与用户交互的研究。我们强调，现有的道德框架需要以一种对背景敏感的方式加以应用，通过多学科、多能力团队的评估，通过多标准分析。此外，我们认为，需要不断发展的道德原则，指导方针和法规，通过技术的进步和相关利益相关者的参与。
2021-07-16 cs.AI cs.CY cs.RO
TEDI: Trustworthy and Ethical Dataset Indicators to Analyze and Compare Dataset Documentation
Sony AI（索尼人工智能）
针对多模态数据集文档透明度不足且难以比较的问题，提出TEDI指标体系，通过143个细粒度指标分析超100个含语音数据集，发现伦理指标记录稀缺且与收集方法相关，为提升数据集透明度奠定基础。
2025-05-23 cs.AI cs.CY eess.AS
Ethical Considerations in Artificial Intelligence Courses
University of Kentucky（肯塔基大学）；University of Southern California（南加州大学）；University of Michigan（密歇根大学）；IBM T.J. Watson Research Center（IBM T.J. 沃森研究中心）；UNSW（新南威尔士大学）；Data61/CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；TU Berlin（柏林工业大学）
最近对人工智能伦理学的兴趣激增，可能会让许多教育工作者想知道如何在人工智能课程中解决道德、伦理和哲学问题。作为教师，我们希望开发的课程不仅能让学生成为人工智能实践者，还能让他们了解人工智能将对社会产生的道德、伦理和哲学影响。在本文中，我们提供了实用的案例研究和资源链接，供AI教育工作者使用。我们还就如何将人工智能伦理融入一般人工智能课程以及如何教授独立的人工智能伦理课程提供了具体建议。
2017-01-26 cs.AI cs.CY cs.GL
Safety, Trust, and Ethics Considerations for Human-AI Teaming in Aerospace Control
Bluehalo LLC（蓝光公司）；Air Force Research Laboratory（空军研究实验室）
本文阐明航空航天控制中人机协同中安全、信任与伦理三者的区别，强调以安全、可信、伦理使用为目标设计AI的必要性，并关注人类在决策环内、环上或环外的应用场景。
2023-11-15 cs.AI cs.CY cs.SY
On the Ethical Considerations of Generative Agents
University of Cambridge（剑桥大学）
本文针对生成式智能体技术应用引发的伦理问题，通过梳理相关文献识别关键伦理担忧，提出缓解伦理问题与系统性风险的指导方针及未来研究方向，为该技术的伦理规范提供参考。
2024-11-28 cs.AI cs.CY cs.ET
