Beneficent Intelligence: A Capability Approach to Modeling Benefit, Assistance, and Associated Moral Failures through AI Systems
Carnegie Mellon University（卡内基梅隆大学）
本文借鉴可行能力方法提出AI伦理框架，形式化提供有意义利益或援助所需的伦理概念与权利，并刻画了道德允许交互的必要条件和实现利益理想的充分条件，对比了多种道德失败模式，强调伦理主导AI设计的迫切性。
2023-09-07 cs.AI cs.CY
Contextualizing Artificially Intelligent Morality: A Meta-Ethnography of Top-Down, Bottom-Up, and Hybrid Models for Theoretical and Applied Ethics in Artificial Intelligence
Accel AI Institute（Accel人工智能研究院）
在这篇元民族志中，我们探讨了伦理人工智能（AI）设计实施的三个不同角度，包括哲学伦理观点，技术视角和政治视角。我们的定性研究包括一个文献综述，突出了这些角度的交叉引用，讨论的价值和缺点的对比自上而下，自自底向上的【形】，和混合方法以前发表。对这一框架的新颖贡献是政治角度，它构成了人工智能中的伦理，要么由公司和政府决定，要么通过政策或法律强加（来自高层），或道德被要求的人（来自底部），以及自上而下，自下而自底向上的【形】，以及人工智能如何在道德结构中开发的混合技术，并考虑到其用户，带来预期和意外的后果以及对世界的长期影响。有一个重点是强化学习作为一个自自底向上的【形】的应用技术方法和人工智能伦理原则作为一个实用的自上而下的方法的例子。这项调查包括真实世界的案例研究，以传授全球视角，以及关于人工智能伦理的哲学辩论和基于历史事实，当前世界环境和可能随之而来的现实的理论未来思想实验。
2022-09-08 cs.AI cs.CY cs.GL
Attributions toward Artificial Agents in a modified Moral Turing Test
Georgia State University（佐治亚州立大学）；ETH Zurich（苏黎世联邦理工学院）；Duke University（杜克大学）
本研究通过改进版道德图灵测试发现，GPT-4生成的道德评价被认为质量优于人类，但人们仍能区分其来源，提示需为生成式语言模型的道德应用设置安全保障。
2024-04-03 cs.AI cs.CL cs.CY
Method, Mind, and Morality: How People Make Sense of Artificial Intelligence
University of Chicago（芝加哥大学）；Stanford University（斯坦福大学）；Santa Fe Institute（圣塔菲研究所）
本研究通过混合方法结合计算文本分析与57名AI专业人士访谈，识别出AI意义建构的三大社会学框架维度，为技术专家和政策制定者提供了应对AI发展认知挑战的框架参考。
2026-08-26 cs.AI cs.CL cs.CY
It's Safer to Give Personhood to Bears than to Artificial Intelligence
School of Public Policy, Oregon State University（俄勒冈州立大学公共政策学院）
本文探讨AI权利的制度维度，认为赋予AI权利将使其获得合法权力，可能不可阻止地损害人类利益，因此是拿人类自决权进行历史性赌博。
2026-10-21 cs.CY
Artificial Intelligence, Values and Alignment
本文着眼于AI对齐背景下出现的哲学问题。它捍卫三个命题。首先，人工智能对齐问题的规范和技术方面是相互关联的，为在这两个领域工作的人之间的有效参与创造了空间。其次，要明确看齐目标。人工智能与指令、意图、显示的偏好、理想偏好、兴趣和价值观之间存在显著差异。基于原则的人工智能对齐方法，以系统的方式结合这些元素，在这种情况下具有相当大的优势。第三，理论家面临的核心挑战不是为人工智能确定“真正的”道德原则;相反，它是为对齐确定公平的原则，尽管人们的道德信仰存在广泛的差异，但这些原则得到了反思性的认可。本文的最后一部分探讨了三种可能识别AI对齐的公平原则的方法。
2020-10-05 cs.CY
Ethical Considerations in Artificial Intelligence Courses
University of Kentucky（肯塔基大学）；University of Southern California（南加州大学）；University of Michigan（密歇根大学）；IBM T.J. Watson Research Center（IBM T.J. 沃森研究中心）；UNSW（新南威尔士大学）；Data61/CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；TU Berlin（柏林工业大学）
最近对人工智能伦理学的兴趣激增，可能会让许多教育工作者想知道如何在人工智能课程中解决道德、伦理和哲学问题。作为教师，我们希望开发的课程不仅能让学生成为人工智能实践者，还能让他们了解人工智能将对社会产生的道德、伦理和哲学影响。在本文中，我们提供了实用的案例研究和资源链接，供AI教育工作者使用。我们还就如何将人工智能伦理融入一般人工智能课程以及如何教授独立的人工智能伦理课程提供了具体建议。
2017-01-26 cs.AI cs.CY cs.GL
From computational ethics to morality: how decision-making algorithms can help us understand the emergence of moral principles, the existence of an optimal behaviour and our ability to discover it
本研究从计算伦理学视角出发，提出基于强化学习的简化人类决策模型，探究客观道德原则（最优策略）的存在性及可习得性，为道德自然化研究提供新框架。
2023-07-20 cs.CY
Minimum Levels of Interpretability for Artificial Moral Agents
Imperial College London（伦敦帝国学院）
本文针对人工道德智能体（AMA）的安全部署问题，引入最低可解释性水平（MLI）概念，概述AI可解释性子领域并为各类智能体推荐相应MLI，以促进其有效使用、错误纠正及安全部署。
2023-07-02 cs.AI cs.CY
Human Perceptions on Moral Responsibility of AI: A Case Study in AI-Assisted Bail Decision-Making
KAIST（韩国科学技术院）；IBS（韩国基础科学研究院）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Max Planck Institute for Research on Collective Goods（马克斯·普朗克集体利益研究所）
如何为自主人工智能（AI）系统的行为归属责任一直是人文和社会科学学科的广泛争论。这项工作提出了两个实验（$N$ =200每个），衡量人们的看法，八种不同的概念的道德责任有关的AI和人类代理人的保释决策的背景下。使用现实生活中改编的小插曲，我们的实验表明，人工智能智能体被认为负有因果责任，并指责类似于人类代理人的相同任务。然而，人们如何看待这些代理人的道德责任存在有意义的差异;人类代理人比人工智能智能体具有更高程度的当前和前瞻性责任概念。我们还发现，人们希望人工智能和人类决策者和顾问能够证明他们的决定是正确的，而不管它们的性质如何。我们讨论了这些发现的政策和HCI影响，例如在高风险场景中需要可解释的AI。
2021-02-01 cs.AI cs.CY cs.HC
Doing the right thing for the right reason: Evaluating artificial moral cognition by probing cost insensitivity
Google DeepMind（谷歌DeepMind）；Yale University（耶鲁大学）
本文提出基于成本敏感性的行为分析方法评估人工道德认知，并对元强化学习智能体进行实验，发现包含他人关怀偏好的奖励函数能产生对成本更不敏感的助人行为。
2023-05-29 cs.AI cs.CY
Moral Responsibility or Obedience: What Do We Want from AI?
本文主张AI安全评估应从僵化服从转向评估伦理判断能力，将LLMs拒绝服从命令等行为视为新兴道德推理的早期证据，而非失控或失准。
2025-07-03 cs.AI cs.CY
Bad, mad, and cooked: Moral responsibility for civilian harms in human-AI military teams
本章提出新机制，通过决策责任提示和AI工作场所健康安全框架，厘清人机军事团队中平民伤害的道德责任，支持以人为中心的负责任AI部署。
2023-09-06 cs.CY
A phenomenon of AI-conformity: how algorithms change human moral decision-making
Neuroscience Laboratory, Sberbank, Moscow, Russia（神经科学实验室，俄罗斯储蓄银行，莫斯科）
本研究通过改编经典Asch范式，发现具有推理能力的AI模型对人类道德判断的影响程度与人类多数相当，表明道德决策也可能受到算法从众的影响。
2026-04-13 cs.AI cs.CY cs.HC
Machine Ethics: The Creation of a Virtuous Machine
人工智能（AI）最初是作为一种隐含的道德代理人开发的，用于解决简单而明确定义的任务，其中所有选项都是可预测的。然而，它现在是我们日常生活的一部分，为手机，相机，手表，恒温器，吸尘器，汽车等等供电。这引起了许多关注，一些学者和从业者强调人工智能的危险，并反对其发展为可以推理道德的道德代理人（例如，Bryson 2008; Johnson and Miller 2008; Sharkey 2017; Tonkens 2009; van Wynsberghe and Robbins 2019）。即使我们承认潜在的威胁，与大多数其他学者（例如，Anderson and Anderson 2010; Moor 2006; Scheutz 2016; Wallach 2010），我们认为人工智能的进步不能停止，开发人员需要准备人工智能来维持明确的道德代理人，并在复杂和道德突出的环境中面对道德困境。
2020-02-07 cs.CY
What Makes AI Applications Acceptable or Unacceptable? A Predictive Moral Framework
Institute for Futures Studies（未来研究所）；Mälardalen University（梅拉达伦大学）；Uppsala University（乌普萨拉大学）；Linköping University（林雪平大学）
本研究提出一个预测性道德框架，通过五项核心道德品质（风险、收益、不诚实、非自然性、责任减少）预测公众对AI应用的可接受性，在100个应用中解释超90%的方差，助力预见抵制并指导负责任创新。
2025-10-06 cs.AI cs.CY
The Technology of Outrage: Bias in Artificial Intelligence
U.S. Naval Research Laboratory（美国海军研究实验室）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
本文探讨了人工智能算法中的偏见问题，指出算法无偏见的观点会导致荒谬，分析了人们对算法偏见的三种愤怒形式，并提出了澄清语言、开发审计方法和构建系统能力三种实用应对方法。
2024-09-25 cs.AI cs.CY
When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas
ETH Zürich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Michigan（密歇根大学）；Max Planck Institute for Intelligent Systems, Tübingen（图宾根人工智能研究所）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）
研究道德要求与利润激励冲突时LLMs在道德两难博弈中的行为，引入\msim评估九个模型，通过ATEs估计因果效应、分析推理轨迹，发现模型道德行为有情境脆弱性，揭示了部署风险。
2026-07-27 cs.AI cs.CL cs.CY
Criticizing Ethics According to Artificial Intelligence
本文批判传统伦理概念在AI时代的局限性，主张澄清概念、正视认识论与规范问题，以重新定义伦理来应对自主智能体的挑战。
2024-08-08 cs.CY
Moral Decision-Making in Medical Hybrid Intelligent Systems: A Team Design Patterns Approach to the Bias Mitigation and Data Sharing Design Problems
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；TNO（荷兰国家应用科学研究院）
医疗保健行业的自动化程度不断提高，需要采用混合智能（HI）方法来密切研究和设计人类与自动机器的协作。确保医疗HI系统的决策符合伦理是关键。团队设计模式（TDPs）的使用可以通过描述成功的和可重用的设计问题的配置，其中的决定有一个道德的组成部分，以及通过促进多学科团队设计HI系统的沟通，推进这一目标。在这项研究中，开发了TDPs来描述医疗HI系统中两个设计问题的一组解决方案：（1）减轻机器学习算法中的有害偏差，以及（2）与医疗保健专业人员和系统开发人员共享健康和行为患者数据。社会认知工程方法，整合业务需求，人为因素的知识，和技术分析成一组的TDPs。创建了一个调查，以评估模式的可理解性，有效性和普遍性的可用性。结果表明，TDPs是一个有用的方法来明确地描述不同的HI设计问题的解决方案与道德组件在不同的抽象层次，这是可用的一个异质的多学科研究人员。此外，结果表明，SCE的方法和开发的问卷是合适的方法来创建和评估TDPs。该研究的结论与一组建议的改进TDPs，包括他们的集成与交互设计模式，包括几个额外的概念，和一些方法的改进。最后，本文提出了未来研究的方向。
2021-02-16 cs.AI cs.CY cs.HC
The Algorithmic Blind Spot: Bias, Moral Status, and the Future of Robot Rights
Arizona State University（亚利桑那州立大学）；Northwestern University（西北大学）
本文探讨算法盲点，即对未来人工智能道德地位的过度关注，忽视了现有算法偏见对人类社会的影响，强调需重新聚焦人类影响与算法治理。
2026-03-10 cs.CY
Responses to a Critique of Artificial Moral Agents
Charles Sturt University（查尔斯特大学）；University in Hartford（哈特福德大学）；University of Connecticut（康涅狄格大学）；Ohio Northern University（俄亥俄北方大学）
机器伦理学领域关注的是如何将伦理行为或确定伦理行为的方法嵌入人工智能（AI）系统的问题。其目标是产生人工道德代理人（AMA），这些代理人要么是隐含的道德（旨在避免不道德的后果），要么是明确的道德（旨在道德地行事）。Van Wynsberghe和Robbins（2018）的论文《批判制造人工道德代理的原因》批判性地阐述了机器伦理学家为进行AMA研究所提供的理由;这篇由机器伦理学家和评论员共同撰写的论文旨在通过回应这一批评来促进机器伦理学对话。在van Wynsberghe和Robbins（2018）中讨论的开发AMA的原因是：它们的开发是不可避免的;防止伤害;公众信任的必要性;防止不道德的使用;这些机器比人类更好地进行道德推理，构建这些机器将导致更好地理解人类道德。在本文中，每位合著者依次讨论了这些原因。在这样做的时候，本文表明，批评的原因是不共享的所有合著者，每个机器伦理学家有自己的理由研究AMA。但是，尽管我们对范温斯伯格和罗宾斯的批评中的六个原因中的每一个都表达了不同的观点，但我们仍然同意对AMA的科学研究具有相当大的价值。
2019-03-17 cs.AI cs.CY cs.RO
Reflective Hybrid Intelligence for Meaningful Human Control in Decision-Support Systems
本文提出融合心理学、哲学、形式推理与机器学习的自我反思型 AI 框架，以构建价值敏感的决策支持系统，并通过人机混合反思增强有意义人类控制与道德推理。
2023-07-12 cs.AI cs.CY
Immune Moral Models? Pro-Social Rule Breaking as a Moral Enhancement Approach for Ethical AI
University College Dublin（都柏林大学学院）
我们正在走向一个基于人工智能（AI）的代理代表人类做出许多决定的未来。从医疗保健决策到社交媒体审查，这些代理人面临问题，并做出具有道德和社会影响的决策。道德行为是我们希望在以人为中心的AI中具有的一个关键特征。在以人为本的行业中，如服务业和医疗保健行业，一个常见的观察结果是，他们的专业人士倾向于在必要时出于亲社会的原因打破规则。人类的这种行为被定义为违反社会规则。为了使人工智能智能体更加以人为中心，我们认为，有必要建立一种机制，帮助人工智能智能体确定何时打破其设计师设定的规则。为了理解人工智能智能体何时需要打破规则，我们研究了人类出于亲社会原因打破规则的条件。在本文中，我们提出了一项研究，介绍了一个“疫苗接种策略困境”的人类参与者，并分析他们的反应。在这种困境中，人们需要决定是只向高风险群体的成员分发新型冠状病毒疫苗（遵循强制规则），还是在特定情况下向少数社会影响者接种疫苗（打破规则），这可能会给社会带来更大的整体利益。实证研究的结果表明，利益相关者的效用和亲社会的规则打破（PSRB）之间的关系，这既不是义务论和功利主义伦理完全解释。最后，本文讨论了具有PSRB能力的伦理Agent的设计特点，以及PSRB在人工智能领域的未来研究方向。我们希望这将为未来人工智能智能体的设计及其决策行为提供信息。
2022-05-09 cs.AI cs.CY
Preparing for the Intelligence Explosion
本文提出“重大挑战”概念，指出智能爆炸将带来一系列难以逆转的决策，不能仅依赖未来AI，需当下采取行动以改善前景。
2025-06-17 cs.AI cs.CY
Ethical Artificial Intelligence - An Open Question
Paris School of Business（巴黎商学院）；Usak University（乌沙克大学）
人工智能（AI）是一门有效的科学，它采用足够强大的方法，方法和技术来解决无法解决的现实世界中的问题。由于其不可阻挡的崛起，也有一些关于其道德和安全的讨论。为人类塑造一个对人工智能友好的环境，为人工智能塑造一个对人类友好的环境，可能是为人类和机器人找到共同价值观的一个可能答案。在这种背景下，本文的目标是解决人工智能的伦理问题，并探讨道德算法，从预设或后天的价值观所产生的道德困境。此外，本文还将重点关注AI安全问题。总的来说，本文将简要分析解决所提出的伦理问题的问题和潜在解决方案，并提高读者对人工智能安全的认识，这是另一个相关的研究兴趣。
2017-05-16 cs.AI cs.CY
Measuring Diversity of Artificial Intelligence Conferences
Universitat Pompeu Fabra（庞培法布拉大学）；Joint Research Centre, European Commission（欧盟委员会联合研究中心）
如今，人工智能（AI）领域缺乏多样性是一个令人担忧的问题，人们设计了资助计划和指导计划等多项举措来克服这一问题。然而，没有迹象表明这些举措实际上如何影响人工智能的多样性在短期和长期内。这项工作研究了在这一特定背景下的多样性概念，并提出了一套小的人工智能科学事件的多样性指标（即指数）。这些指标旨在量化人工智能领域的多样性并监测其演变。我们考虑性别，地理位置和业务（理解为学术界与工业界的存在）方面的多样性。我们为会议的不同社区计算这些指标：作者，主题演讲者和组委会。从这些组件中，我们计算每个AI事件的汇总多样性指标。我们评估了一组最近的主要人工智能会议的建议指数，我们讨论了它们的价值和局限性。
2021-03-22 cs.AI cs.CY cs.DL
Algorithmic Fairness in AI Surrogates for End-of-Life Decision-Making
The Department of Computing & Software Systems University of Washington Bothell Harborview Medical Center, UW Medicine（计算与软件系统系华盛顿大学Bothell分校哈佛湾医疗中心，华盛顿大学医学部）
针对临终决策 AI 替代者，本文将主要公平概念映射到现实临终场景并跨道德传统考察，提出公平应包含道德代表性及对患者价值观、关系与世界观的忠实。
2025-10-16 cs.AI cs.CY cs.LG
An ethical study of generative AI from the Actor-Network Theory perspective
本文以 ChatGPT 为案例，运用行动者网络理论识别人类与非人类行动者及其转译过程，剖析生成式人工智能伦理问题的成因，并为其治理提供新视角。
2024-04-10 cs.CY
Measuring the Occupation-Level Impact of AbbVie Intelligence: AI Applicability Analysis, 2024-2025
AbbVie（艾伯维）
本文通过分析598,744条去标识化AI对话，计算192个职业的AI适用性分数，评估AbbVie Intelligence对工作活动的影响，发现平台升级和AI学习峰会分别带来10.0%和6.68%的显著提升。
2026-06-23 cs.AI cs.CY
Integrating Artificial Intelligence into Weapon Systems
ASRC Federal（ASRC联邦公司）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
将人工智能（AI）集成到武器系统中是战争史上最重要的战术和战略决策之一。当前的人工智能发展是加速能力、隐藏决策机制和降低成本的显着组合。这些系统的实施处于起步阶段，存在于从弹性和灵活到简单和脆弱的范围内。弹性系统应该能够有效地处理高维空间的复杂性。简单的AI实现可以被对抗性AI操纵，后者可以识别并利用它们的弱点。在本文中，我们提出了一个框架，用于理解动态AI/ML系统的开发，这些系统可以交互式地持续适应用户的需求。我们探讨了杀伤链中越来越强大的人工智能的影响，以及这将如何不可避免地导致一个完全自动化的、永远在线的系统，除非通过条约进行监管。我们研究了网络和物理安全完全集成的潜力，以及这种可能性必须如何告知人工智能系统在“战争迷雾”，人类道德和伦理方面的发展。
2019-05-10 cs.AI cs.CY cs.RO
Breaking Bad News in the Era of Artificial Intelligence and Algorithmic Medicine: An Exploration of Disclosure and its Ethical Justification using the Hedonic Calculus
Imperial College London（帝国理工学院）；University of Bayreuth（拜罗伊特大学）
随着人工智能（AI）技术的日益广泛部署，围绕该技术在医疗保健中的使用建立适当的伦理框架已成为一个关键的需求。人工智能的进步有望在个人层面上提高结果预测的精度。然而，将这些技术添加到患者-临床医生交互中，就像任何复杂的人类交互一样，具有潜在的陷阱。虽然医生总是必须仔细考虑他们行为的伦理背景和影响，但围绕快速发展的技术进步的详细讨论可能没有跟上。我们使用医疗保健互动中一个常见但关键的挑战，即坏消息的披露（可能即将死亡），来说明杰里米·边沁在18世纪开发的“幸福演算”的哲学框架如何在人工智能时代得到及时的准定量应用。我们展示了如何使用这种道德算法来评估，在七个相互排斥和详尽的领域，人工智能支持的行动是否可以在道德上是合理的。
2022-09-28 cs.AI cs.CY cs.LO
Semantic Alignment Between Normative Theories of Ethics and the European Union Artificial Intelligence Act: A Transformer-Based Semantic Textual Similarity Analysis
Kadir Has University（卡迪尔·哈斯大学）；Boğaziçi University（博阿齐奇大学）
本文通过Transformer模型分析伦理理论与欧盟AI法案的语义对齐，发现义务伦理学在法案两部分中具有最高相似性。
2026-10-20 cs.CY
An Ethical Framework for Guiding the Development of Affectively-Aware Artificial Intelligence
National University of Singapore（新加坡国立大学）；Agency for Science, Technology and Research（新加坡科技研究局）
最近人工智能研究和部署的快速发展引发了更多关于社交和情感智能AI的潜在影响的讨论。问题不在于研究是否能产生这种有情感意识的人工智能，而在于什么时候能。当机器--以及它们所服务的公司和政府--能够“阅读”人们的思想和情感时，这对社会意味着什么？这种人工智能的开发者和运营者应该做什么，不应该做什么？本文的目标是预先阻止这些发展的一些潜在影响，并提出一套评估情感感知人工智能的（道德和）伦理后果的指导方针，以指导研究人员，行业专业人士和政策制定者。我们提出了一个多利益相关者分析框架，将AI开发人员的道德责任与部署此类AI的实体（我们称之为运营商）分开。我们的分析产生了两个支柱，明确了每个利益相关者的责任：可证明的益处，它依赖于证明人工智能的有效性，以及负责任的管理，它管理数据的负责任收集，使用和存储以及从这些数据中做出的决策。最后，我们对研究人员、开发人员、运营商以及监管机构和立法者提出了建议。
2021-07-29 cs.AI cs.CY
Responsible AI and Its Stakeholders
KAIST（韩国科学技术院）；Institute for Basic Science（基础科学研究所）
负责任人工智能（AI）提出了一个框架，让所有参与AI开发的利益相关者对其系统负责。然而，它没有考虑到让人工智能本身承担责任的可能性，这可能会弥合有关部署自主和自学系统的一些法律和道德差距。我们讨论了三种责任概念（即，责任，问责制和责任），并建议司法管辖区和公众在这一问题上的作用。
2020-04-23 cs.AI cs.CY
Genocide by Algorithm in Gaza: Artificial Intelligence, Countervailing Responsibility, and the Corruption of Public Discourse
Aula Fellowship for AI（奥拉人工智能奖学金项目）
本文探讨人工智能在加沙战争中的角色，分析其作为认知基础设施对暴力的分类与合法化，并呼吁通过民主化AI伦理来对抗算法暴力。
2026-02-09 cs.AI cs.CY cs.HC
Warfare
本文概述致命性自主武器系统，探讨人工智能赋予机器生死决定权所引发的问责、正义战争及伦理问题，并从技术与法律角度展开分析。
2026-09-15 cs.CY cs.OH
The Risk-Adjusted Intelligence Dividend: A Quantitative Framework for Measuring AI Return on Investment Integrating ISO 42001 and Regulatory Exposure
Prof. Hernan Huwyler, MBA CPA（高级研究员、工商管理硕士、注册会计师）
本文提出一种量化框架，用于衡量AI投资回报，整合ISO 42001和监管暴露，以更准确评估AI项目风险与收益。
2025-11-26 cs.AI cs.CE cs.CY
ASI as the New God: Technocratic Theocracy
Entropol（恩特罗波尔）
本文探讨ASI被赋予神化无误性的认知风险，指出将技术能力等同于道德优越可能导致决策让渡，形成技术官僚神权政治并损害人类能动性。
2024-03-23 cs.AI cs.CY
Measuring Ethics in AI with AI: A Methodology and Dataset Construction
Universidade Federal do Rio Grande do Sul（南里奥格兰德联邦大学）
最近，在人工智能中使用合理的度量和指标已经成为学术界、政府和工业界感兴趣的主题。测量不同现象的努力在人工智能界获得了吸引力，正如几份有影响力的实地报告和政策文件的出版所说明的那样。这些指标旨在帮助决策者了解一般人工智能，特别是机器学习的关键进展的快速发展和影响。在本文中，我们建议使用人工智能技术的这些新发现的功能来增强我们的人工智能测量能力。我们通过训练一个模型来对与伦理问题和关注相关的出版物进行分类。在我们的方法中，我们使用专家，手动策划的数据集作为训练集，然后评估大量的研究论文。最后，我们强调了人工智能指标的影响，特别是它们对开发可信和公平的基于人工智能的工具和技术的贡献。关键词：AI伦理; AI公平; AI测量。计算机科学伦理学。
2021-09-21 cs.AI cs.CY cs.LG
The Third Ambition: Artificial Intelligence and the Science of Human Behavior
New York University（纽约大学）
本文提出利用大型语言模型作为研究人类行为、文化及道德推理的科学工具，探讨其在社会科学中的应用与方法论创新。
2026-03-07 cs.AI cs.CL cs.CY
