Shaping Integrity: Why Generative Artificial Intelligence Does Not Have to Undermine Education
本文探讨了生成式人工智能如何通过伦理融入课堂来促进学术诚信，结合义务论与自我决定理论等框架，论证了负责任地使用GAI能提升数字素养、鼓励知识建构并维护教育伦理标准。
2024-10-10 cs.CY
Artificial Intelligence in Education: Ethical Considerations and Insights from Ancient Greek Philosophy
本文探讨了将AI融入教育引发的伦理问题，借鉴古希腊哲学原则指导AI的伦理实施，以实现教育的伦理健全转型。
2024-09-04 cs.CY
Ethics and Artificial Intelligence Adoption
本文构建并验证以伦理行为态度为核心的人工智能采纳模型，基于237份问卷的结构方程分析表明，九项假设中七项成立，伦理可支撑社会采纳AI。
2024-11-30 cs.CY
Towards an Ethical and Inclusive Implementation of Artificial Intelligence in Organizations: A Multidimensional Framework
本文提出一个结合伦理、监管、创新与教育的多维框架，并通过价值观整合、信任透明、赋能成长和战略识别四大支柱，指导组织以尊重人类价值观的方式实施人工智能。
2024-05-02 cs.CY
Actionable Principles for Artificial Intelligence Policy: Three Pathways
在制定基于伦理的人工智能（AI）政府政策时，目前追求的一条途径是借鉴AI伦理原则。然而，这些人工智能伦理原则往往未能在政府政策中付诸行动。本文提出了一个新的框架，用于开发AI的可操作原则。该方法承认人工智能伦理原则的相关性，并将方法论要素纳入其中，以提高其在政策过程中的实际可实施性。作为一个案例研究，从欧盟委员会人工智能高级别专家组的《值得信赖的人工智能道德准则》的制定过程中提取了一些元素。随后，这些元素被扩展并根据其为AI可操作原则的开发提供原型框架的能力进行评估。该文件提出了以下三项建议，以形成这样一个原型框架：（1）初步景观评估;（2）多方利益攸关方的参与和跨部门反馈;（3）支持实施和可操作性的机制。
2021-02-24 cs.CY
An ethical study of generative AI from the Actor-Network Theory perspective
本文以 ChatGPT 为案例，运用行动者网络理论识别人类与非人类行动者及其转译过程，剖析生成式人工智能伦理问题的成因，并为其治理提供新视角。
2024-04-10 cs.CY
Artificial Intelligence Training in Media: Addressing Technical and Ethical Challenges for Journalists and Media Professionals
本研究通过调查504名巴斯克地区媒体从业者并访谈六位创新负责人，发现仅14.1%接受过AI培训，且大型国际化公司更积极，新闻编辑室人员明显落后，据此强调亟需从伦理与技术层面加强AI培训。
2025-08-26 cs.CY
Ethical Considerations in Artificial Intelligence Courses
University of Kentucky（肯塔基大学）；University of Southern California（南加州大学）；University of Michigan（密歇根大学）；IBM T.J. Watson Research Center（IBM T.J. 沃森研究中心）；UNSW（新南威尔士大学）；Data61/CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；TU Berlin（柏林工业大学）
最近对人工智能伦理学的兴趣激增，可能会让许多教育工作者想知道如何在人工智能课程中解决道德、伦理和哲学问题。作为教师，我们希望开发的课程不仅能让学生成为人工智能实践者，还能让他们了解人工智能将对社会产生的道德、伦理和哲学影响。在本文中，我们提供了实用的案例研究和资源链接，供AI教育工作者使用。我们还就如何将人工智能伦理融入一般人工智能课程以及如何教授独立的人工智能伦理课程提供了具体建议。
2017-01-26 cs.AI cs.CY cs.GL
Ethics of Artificial Intelligence Demarcations
Oslo Metropolitan University（奥斯陆城市大学）
在本文中，我们提出了一组关键的分界线，在讨论当前人工智能研究和应用的伦理和社会问题时尤为重要。正确区分与人工通用智能和弱人工智能相关的问题和担忧，在符号和连接主义人工智能，人工智能方法，数据和应用程序之间进行区分是进行知情辩论的先决条件。这种划分不仅有助于就当前人工智能技术和研究的伦理问题进行急需的讨论。此外，充分确定这种界限还将加强知识共享，支持技术科学和社会科学之间跨学科研究的严谨性。
2019-05-16 cs.AI cs.CY
Ethically Aligned Design of Autonomous Systems: Industry viewpoint and an empirical study
人工智能领域的进步在过去二十年中一直在快速加速。从纯数字系统到自动驾驶汽车的各种自动驾驶系统正在开发并部署在现场。随着这些系统对社会产生越来越大的影响，与人工智能和自治系统有关的伦理问题最近在学术界引起了越来越多的关注。然而，目前关于这一主题的文献几乎完全集中在理论上，更具体地说，集中在这一领域的概念化上。为了拓宽该领域的知识体系，我们对人工智能伦理学的实践现状进行了实证研究。我们这样做的五个案例公司的多个案例研究的手段，其结果表明在该领域的研究和实践之间的差距。根据我们的研究结果，我们提出了解决差距的方法。
2019-06-19 cs.CY
Global AI Ethics: A Review of the Social Impacts and Ethical Implications of Artificial Intelligence
人工智能的伦理含义和社会影响已经成为工业界、学术界研究人员和公众感兴趣的话题。然而，目前在全球范围内对人工智能的分析偏向于美国的观点，而且由于缺乏研究，特别是在美国和西欧以外的地区，本文总结了最近社会科学奖学金对人工智能和相关技术在全球五个地区的社会影响的文献综述的主要发现。我们的社会科学研究团队审查了800多篇学术期刊文章和专著，涉及十几种语言。我们对文献的回顾表明，人工智能可能会根据地理环境产生明显不同的社会影响。同样，对人工智能的看法和理解可能会受到当地文化和社会背景的深刻影响。最近在美国的研究表明，人工智能驱动的技术有一种加深社会鸿沟和加剧社会不平等的模式，特别是在历史上被边缘化的群体中。我们的文献回顾表明，这种模式在全球范围内存在，并表明低收入和中等收入国家可能更容易受到人工智能的负面社会影响，并且不太可能从随之而来的收益中受益。我们呼吁进行严格的人种学研究，以更好地了解人工智能在世界各地的社会影响。全球实地研究对于识别可能放大社会不平等的人工智能系统以减轻潜在危害尤为重要。深入了解人工智能在不同社会环境中的社会影响是开发、实施和监测负责任和有益的人工智能技术的必要前提，也是对这些技术进行有意义监管的基础。
2019-07-18 cs.CY
Ethics of Artificial Intelligence
本文系统梳理人工智能伦理的主要争论，从 AI 作为工具所涉及的隐私、操纵、不透明性、偏见、自主性与责任、奇点等问题，到机器伦理与人工道德能动性，并结合当前技术与政策影响进行分析。
2025-08-20 cs.CY
ESR: Ethics and Society Review of Artificial Intelligence Research
人工智能（AI）研究经常因其对社会的真实和潜在影响而受到批评，我们缺乏对这种批评及其所反映的责任的适当制度回应。人工智能研究通常不属于现有反馈机制的范围，例如机构审查委员会（IRB），该机制旨在评估对人类受试者的伤害，而不是对人类社会的伤害。作为回应，我们开发了伦理与社会审查委员会（ESR），这是一个反馈小组，与研究人员合作，以减轻人工智能研究的负面伦理和社会方面。ESR的主要观点是作为资金的要求：研究人员不能从我们大学的主要人工智能资助计划获得资助，直到研究人员完成ESR过程的建议。在这篇文章中，我们描述了ESR，因为我们已经设计和运行它在其第一年的41个建议。我们分析了ESR对这些提案的总体反馈，发现该小组最常识别的问题是对少数群体的伤害，将不同的利益相关者纳入研究计划，双重用途和数据中的代表性。对与ESR互动的研究人员进行的调查和访谈发现，58%的人认为它影响了他们研究项目的设计，100%的人愿意继续向ESR提交未来的项目，并且他们寻求通过伦理和社会问题进行推理的额外支架。
2021-07-09 cs.CY
Ethics of Artificial Intelligence in Surgery
University of Toronto（多伦多大学）；Vector Institute for Artificial Intelligence（向量人工智能研究院）
在这里，我们讨论了四个关键原则的生物医学伦理学从手术的背景。我们详细阐述了“公平”的定义及其在人工智能系统设计中的含义，并对人工智能中的算法偏差进行了分类。随着人工智能系统的自主程度不断发展，我们讨论了伦理范式的转变。我们还强调，由于人工智能系统和技术的发展和动态性，需要不断修订人工智能的道德规范。
2020-07-28 cs.AI cs.CY
Solidarity should be a core ethical principle of Artificial Intelligence
团结是建设和平社会的核心基本价值观之一，体现在世界三分之一以上的宪法中。尽管如此，团结几乎从未被作为一项原则纳入人工智能发展的道德准则。团结作为人工智能的原则（1）分享人工智能创造的繁荣，实施机制为所有人重新分配生产力的增加;并分担负担，确保人工智能不会增加不平等，没有人被抛在后面。团结作为人工智能原则（2）在开发和部署人工智能系统之前评估长期影响，因此没有任何人类群体因为人工智能系统而变得无关紧要。将团结视为人工智能开发的核心原则，不仅会提供以人为本的方法，而且会提供更以人为本的方法。
2019-10-22 cs.CY
On the Efficiency of Ethics as a Governing Tool for Artificial Intelligence
Pontifical Catholic University of Rio Grande do Sul（南里奥格兰德天主教大学）
第四次工业革命是数字时代的高潮。如今，机器人、纳米技术、遗传学和人工智能等技术有望改变我们的世界和我们的生活方式。人工智能伦理与安全是一个新兴的研究领域，近年来越来越受欢迎。一些私人、公共和非政府组织已经发布了指导方针，提出了规范自主智能系统使用和发展的伦理原则。对人工智能伦理研究领域的元分析指出，人们对人工智能行业的某些原则趋同。然而，很少有人知道这种形式的伦理学的有效性。在本文中，我们想对人工智能伦理的现状进行批判性分析，并认为这种基于原则性道德准则的治理形式不足以规范人工智能行业及其开发人员。我们认为，无论是在与软件和智能系统开发相关的领域的专业人员的培训过程中，还是在对这些专业人员及其行业的监管方面，都有必要进行重大变革。为此，我们建议法律应该受益于生物伦理学最近的贡献，使人工智能伦理学对治理的贡献在法律上明确。
2022-10-27 cs.AI cs.CY
Towards A Unified Utilitarian Ethics Framework for Healthcare Artificial Intelligence
College of Communication & Information, Florida State University（佛罗里达州立大学传播与信息学院）
该研究通过主题分析与36位AI专家调查数据识别医疗AI关键伦理原则，并提出基于功利主义伦理的统一理论框架。
2023-09-26 cs.AI cs.CY
Artificial Intelligence: the global landscape of ethics guidelines
ETH Zurich（苏黎世联邦理工学院）
在过去的五年里，私营公司、研究机构以及公共部门组织已经发布了道德人工智能的原则和指导方针，但对于什么是“道德人工智能”以及实现它需要哪些道德要求、技术标准和最佳实践都存在争议。为了调查在这些问题上是否正在形成全球共识，我们绘制并分析了当前关于道德AI的原则和指导方针。我们的研究结果揭示了围绕五个道德原则（透明度，正义和公平，非恶意，责任和隐私）出现的全球趋同，在如何解释这些原则方面存在实质性分歧;为什么它们被认为是重要的;它们涉及什么问题，领域或行为者;以及它们应该如何实施。我们的研究结果强调了将指南制定工作与实质性道德分析和适当的实施战略相结合的重要性。
2019-06-24 cs.AI cs.CY
Ethical Artificial Intelligence - An Open Question
Paris School of Business（巴黎商学院）；Usak University（乌沙克大学）
人工智能（AI）是一门有效的科学，它采用足够强大的方法，方法和技术来解决无法解决的现实世界中的问题。由于其不可阻挡的崛起，也有一些关于其道德和安全的讨论。为人类塑造一个对人工智能友好的环境，为人工智能塑造一个对人类友好的环境，可能是为人类和机器人找到共同价值观的一个可能答案。在这种背景下，本文的目标是解决人工智能的伦理问题，并探讨道德算法，从预设或后天的价值观所产生的道德困境。此外，本文还将重点关注AI安全问题。总的来说，本文将简要分析解决所提出的伦理问题的问题和潜在解决方案，并提高读者对人工智能安全的认识，这是另一个相关的研究兴趣。
2017-05-16 cs.AI cs.CY
Ethical Design of Computers: From Semiconductors to IoT and Artificial Intelligence
Colorado State University（科罗拉多州立大学）；University of Nebraska-Lincoln（内布拉斯加大学林肯分校）
如今，计算系统与我们的职业、社交和私人生活紧密结合。计算日益普及的一个重要后果是，它可能会产生重大的伦理影响，计算专业人员应该考虑到这一点。在大多数现实世界的场景中，如何从道德的角度看待计算系统的设计和使用过程中的特定技术选择并不明显。本文提供了半导体芯片设计、物联网应用以及人工智能在这些系统的设计过程、工具和软硬件堆栈中越来越多的使用中的伦理挑战的视角。
2022-12-23 cs.AI cs.AR cs.CY
Making Intelligence: Ethical Values in IQ and ML Benchmarks
AI Risk and Vulnerability Alliance（人工智能风险与脆弱性联盟）；Capital One（第一资本）
本文指出ML基准与人类智能基准在结构上相似且均承载伦理价值，借鉴女性主义科学哲学论证基准创建需考虑并记录价值，并提出研究伦理建议。
2023-05-11 cs.CY cs.LG
Dürfen Maschinen denken (können)? Warum Künstliche Intelligenz eine Ethik braucht. (Are Machines Allowed to (be able to) Think? Why Artificial Intelligence Needs Ethics)
小组讨论会“机器能思考吗？”的冲动讲座演讲稿（德语+英语）2022年5月28日在斯图加特举行的第102届Katholikentag。小组：Winfried Kretschmann（MdL，巴登-符腾堡州总理，斯图加特），Ursula Nothelle-Wildfeuer（弗赖堡），Michael Resch（斯图加特），Karsten Wendland（Aalen）。主持人：Stefanie Rentsch（Fulda）。观众辩护律师：Verena Neuhausen（斯图加特）。
2022-08-15 cs.AI cs.CY
Towards a framework for understanding societal and ethical implications of Artificial Intelligence
人工智能（AI）是当今讨论最多的技术之一。有许多创新的应用，如癌症的诊断和治疗，客户体验，新业务，教育，传染病传播和人道主义灾难管理的优化。然而，伴随着所有这些机会，也有责任确保人工智能的良好和公平实践。本文的目的是确定大规模采用人工智能所隐含的主要社会和伦理挑战。我们调查了文献中最常见的挑战，并将其分为七组：1）非预期效果，2）责任，3）未知后果，4）人与机器人的关系，5）权力和财富的集中，6）故意的不良使用，以及7）武器和战争的人工智能。这些挑战应该根据其起源以不同的方式处理;有些挑战有技术解决方案，而另一些则需要道德，社会或政治答案。根据不同的来源，不同的利益攸关方可能需要采取行动。无论确定的利益攸关方是谁，不处理这些问题将导致不确定性和不可预见的后果，可能产生巨大的负面社会影响，特别伤害社会中最脆弱的群体。技术正在帮助做出更好的决策，人工智能正在促进数据驱动的决策，以及基于经验和直觉的讨论，并有许多改进。然而，这项技术的负面影响需要很好地理解，并在我们将其大规模推向世界之前采取行动。
2020-01-03 cs.CY
Acceleration AI Ethics and the Telus GenAI Conversational Agent
Pace University（佩斯大学）；University of Trento（特伦托大学）
本文阐述加速伦理学的理论框架，并通过Telus公司的生成式AI语言工具案例，展示加速AI伦理如何在创新与安全之间平衡，以最大化社会责任。
2026-06-19 cs.CY
Research on Artificial Intelligence Ethics Based on the Evolution of Population Knowledge Base
Chinese Academy of Sciences（中国科学院）；University of Nebraska at Omaha（内布拉斯加大学奥马哈分校）；University of Chinese Academy of Sciences（中国科学院大学）
人类社会发展方向不明确，是人类社会和人工智能难以形成统一伦理标准的深层原因。21世纪以来，互联网、脑科学、人工智能等领域的最新进展，给人类社会发展方向的研究带来了新的启示。本文通过对互联网大脑模型、AI智商测评、大脑进化的研究，提出人口知识库的进化是判断人类社会发展方向的关键，从而探讨人工智能伦理构建的标准和规范。
2018-11-18 cs.AI cs.CY cs.OH
Ethics Readiness of Artificial Intelligence: A Practical Evaluation Method
RISE Research Institutes of Sweden（瑞典RISE研究院）；CEA-Saclay（萨克雷法国原子能和替代能源委员会）
本文提出了一种评估AI系统伦理准备度的四级迭代方法，通过案例研究展示其在促进伦理设计思维方面的有效性。
2025-12-10 cs.AI cs.CY
The Dual Impact of Artificial Intelligence in Healthcare: Balancing Advancements with Ethical and Operational Challenges
本研究探讨人工智能在医疗保健领域的双重影响，分析其在精准医疗等方面的进步及面临的伦理与运营挑战，旨在明确AI是福祉、诅咒还是两者兼具。
2024-11-08 cs.CY
Data Ethics in the Era of Healthcare Artificial Intelligence in Africa: An Ubuntu Philosophy Perspective
Stanford Center for Biomedical Ethics, Stanford University（斯坦福大学生物医学伦理中心）；Department of Bioethics and Interdisciplinary Studies, Brody School of Medicine, East Carolina University（东卡罗来纳大学布罗迪医学院生物伦理与跨学科研究系）；Department of Biomedical Data Science, Stanford University（斯坦福大学生物医学数据科学系）；Department of Bioengineering, Stanford University（斯坦福大学生物工程系）；Department of Genetics, Stanford University（斯坦福大学遗传学系）；Department of Medicine, Stanford University（斯坦福大学医学系）
本文针对西方医疗 AI 数据伦理框架忽视非洲文化与殖民历史的问题，从 Ubuntu 哲学出发比较个人主义与社群主义路径，提出面向非洲的医疗数据伦理框架。
2024-06-14 cs.AI cs.CY
An overview of research on human-centered design in the development of artificial general intelligence
本文从人文视角综述了人工通用智能发展，论证以人为中心的设计对实现伦理、可持续AGI及保障人类尊严、隐私和自主性的关键作用。
2023-08-31 cs.CY
Analyzing Potential Solutions Involving Regulation to Escape Some of AI's Ethical Concerns
本文分析了AI伦理危机中的歧视与虚假信息问题，探讨了企业自我监管与政府监管等涉及监管的潜在解决方案，以缓解当前的AI伦理担忧。
2024-03-22 cs.CY
Audit and Assurance of AI Algorithms: A framework to ensure ethical algorithmic practices in Artificial Intelligence
算法在商业中的应用越来越广泛，企业越来越担心他们的算法会造成重大的声誉或财务损失。我们应该强调，任何这些损害都源于美国缺乏严格的立法禁止或衡量损害的具体协议的情况。因此，政府正在制定立法并执行禁令，监管机构正在对企业进行罚款，司法部门正在讨论是否让人工智能计算机模型成为法律眼中的决策者。从自动驾驶汽车和银行到医疗保健，住房和法律决策，很快就会有大量的算法在有限的人为干预下做出决策。政府、企业和社会将进行算法审计，这将系统地验证算法是否合法、道德和安全，类似于财务审计。一个现代化的市场，审计和算法保证，旨在使AI，机器学习和相关算法专业化和工业化。这一新兴领域的利益攸关方包括政策制定者和监管机构，以及行业专家和企业家。此外，我们预见审计阈值和框架将为所有关注治理和标准化的人提供有价值的信息。本文旨在回顾审计和保证所需的关键领域，并在这一新的研究和实践领域引发讨论。
2021-07-14 cs.CY
The Role of Legal Frameworks in Shaping Ethical Artificial Intelligence Use in Corporate Governance
本文分析现行立法、行业标准与学术观点，评估企业AI治理法律框架的优劣，并提出以原则性监管结合行业指引促进透明、问责与公平的建议。
2025-03-17 cs.CY cs.HC
Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance
HENSOLDT Sensors GmbH（亨索尔特传感器有限公司）；HENSOLDT Optronics GmbH（亨索尔特光电有限公司）；Fraunhofer IOSB（弗劳恩霍夫IOSB研究院）
本文围绕军事视觉侦察中AI应用的伦理问题，提出FATE准则及可追溯性、相称性等军事专用伦理原则，并结合海、空、陆三个用例，借助自动化传感器分析、XAI和直观用户体验加以说明，为负责任地部署军事AI提供伦理框架。
2025-02-05 cs.CV cs.CY
Artificial Intelligence Ethics and Safety: practical tools for creating "good" models
AI机器人伦理协会（AIRES）是一个由Aaron Hui于2018年创立的非营利组织，旨在提高人们对AI伦理实施和监管的认识和重要性。AIRES现在是一个组织，在加州大学洛杉矶分校（洛杉矶）、南加州大学（南加州大学）、加州理工学院（加州理工学院）、斯坦福大学、康奈尔大学、布朗大学和南里奥格兰德天主教大学（巴西）等大学设有分会。AIRES在PUCRS是AIRES的第一个国际分会，因此，我们致力于促进和加强AIRES使命。我们的使命是专注于教育未来的人工智能领导者的道德原则，以确保人工智能是道德和负责任的。由于在人工智能系统开发的实践中，我们应该如何实施道德原则和规范性指导方针的建议仍然很少，这项工作的目标是试图弥合话语和实践之间的差距。在抽象原则和技术实现之间。在这项工作中，我们试图向读者介绍人工智能伦理和安全的主题。同时，我们提出了几个工具，以帮助开发人员的智能系统开发“好”的模型。这部著作是一部以英文和葡萄牙文出版的发展指南。欢迎提出意见和建议。
2023-03-14 cs.AI cs.CY
Towards an Environmental Ethics of Artificial Intelligence
Delft University of Technology（代尔夫特理工大学）；KU Leuven（鲁汶大学）；University of Vienna（维也纳大学）
本文从环境伦理视角审视AI的环境影响，借鉴环境正义文献提出开发环境公正AI系统的标准，以扩展AI伦理范围至超越人类的行动者。
2024-12-19 cs.AI cs.CY
Artificial Intelligence Governance and Ethics: Global Perspectives
Chinese University of Hong Kong（香港中文大学）
人工智能（AI）是一种在全球社会和经济中越来越多地使用的技术，其实施计划在未来几年变得更加普遍。人工智能越来越多地嵌入我们的生活，补充了我们对数字技术的普遍使用。但这也伴随着对人工智能有问题和危险的实施的担忧，甚至是人工智能本身决定采取危险和有问题的行动，特别是在军事、医学和刑事司法等领域。这些发展导致了人们对人工智能系统是否以及如何遵守道德标准的担忧。这些问题激发了关于人工智能伦理的全球对话，并导致来自不同国家和部门的各种参与者发布人工智能的伦理和治理倡议和指南。这些发展构成了我们在本报告中研究的基础，结合我们的国际和跨学科专业知识，深入了解澳大利亚，中国，欧洲，印度和美国正在发生的事情。
2019-06-28 cs.AI cs.CY cs.LG
On the Morality of Artificial Intelligence
Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）
关于人工智能的社会和伦理影响的大部分现有研究都集中在定义围绕机器学习（ML）和其他人工智能（AI）算法的伦理原则和指导方针[IEEE，2017，Jobin等人，2019年]。虽然这对于帮助定义适当的人工智能社会规范非常有用，但我们认为讨论ML的潜力和风险以及激励社区使用ML实现有益的目标同样重要。在这篇专门针对ML从业者的文章中，我们更多地关注后者，对现有的高级道德框架和指南进行了概述，但最重要的是提出了ML研究和部署的概念和实践原则和指南。坚持从业者可以采取的具体行动，以追求更符合道德和道德的ML实践，旨在利用人工智能为社会造福。
2019-12-26 cs.AI cs.CY
Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers
机器学习（ML）和人工智能（AI）研究人员在AI的伦理和治理方面发挥着重要作用，包括采取行动反对他们认为不道德的AI使用（Belfield，2020; Van Noorden，2020）。然而，这个有影响力的群体的态度并没有得到很好的理解，这削弱了我们辨别AI/ML研究人员之间共识或分歧的能力。为了研究这些研究人员的观点，我们对那些在顶级AI/ML会议上发表文章的人进行了调查（N = 524）。我们将这些结果与2016年对AI/ML研究人员的调查（Grace，Salvatier，Dafoe，Zhang和Evans，2018）以及2018年对美国公众的调查（Zhang和Dafoe，2020）进行了比较。我们发现，AI/ML研究人员高度信任国际组织和科学组织，以塑造AI的开发和使用，以符合公共利益;对大多数西方科技公司的信任度中等;对国家军队，中国科技公司和Facebook的信任度较低。虽然受访者压倒性地反对AI/ML研究人员研究致命的自主武器，但他们不太反对研究AI的其他军事应用，特别是物流算法。绝大多数受访者认为应该优先考虑人工智能安全研究，机器学习机构应该进行出版前审查，以评估潜在的危害。由于更接近技术本身，人工智能/机器学习研究人员能够很好地突出新的风险并开发技术解决方案，因此这种衡量他们态度的新尝试具有广泛的相关性。这些发现应该有助于改善研究人员、私营部门高管和政策制定者对人…
2021-05-05 cs.CY
One Artist's Personal Reflections on Methods and Ethics of Creating Mixed Media Artificial Intelligence Art
我打算把我的主观经验作为一个自我描述的“艺术家”的单一单位，利用人工智能作为辅助视觉创作工具，做出科学贡献，希望它能为艺术家和计算机科学家提供一些灵感或更深层次的意义。首先，我将提供一些关于我个人历史的背景，迄今为止，作为一个艺术家。艺术家和科学家都不可能存在于真空中，所以我将提供一些（尽管不是详尽的）相关工作，这些工作帮助我将自己的工作和思考置于这个领域的背景中。我经常按时间顺序考虑我在创作过程中的方法，所以我根据我的艺术工作流程的松散结构划分了这一部分。这些基础为围绕主题、接待、社区和道德等主题的讨论提供了肥沃的土壤。然后，我总结了一些想法，为未来的工作领域的理论的作者，可解释性工具，研究框架。
2022-11-30 cs.CY cs.HC
The social dilemma in artificial intelligence development and why we have to solve it
NTNU（挪威科技大学）；SimulaMet（SimulaMet 研究所）；University of Bergen（卑尔根大学）；Berlin Institute of Health (BIH)（柏林健康研究所）；Charité Universitätsmedizin Berlin（柏林夏里特医学院）；Birmingham City University（伯明翰城市大学）
虽然对道德人工智能（AI）系统的需求增加，但不道德使用AI的数量却在加速，尽管并不缺乏道德准则。我们认为，一个可能的根本原因是，人工智能开发人员在人工智能开发伦理方面面临着社会困境，阻碍了道德最佳实践的广泛适应。我们定义了人工智能开发的社会困境，并描述了为什么如果不解除人工智能开发人员的社会困境，就无法解决当前人工智能开发伦理的危机。我们认为，人工智能的开发必须专业化，以克服社会困境，并讨论如何在这一过程中使用医学作为模板。
2021-11-17 cs.AI cs.CY cs.LG
Breaking Bad News in the Era of Artificial Intelligence and Algorithmic Medicine: An Exploration of Disclosure and its Ethical Justification using the Hedonic Calculus
Imperial College London（帝国理工学院）；University of Bayreuth（拜罗伊特大学）
随着人工智能（AI）技术的日益广泛部署，围绕该技术在医疗保健中的使用建立适当的伦理框架已成为一个关键的需求。人工智能的进步有望在个人层面上提高结果预测的精度。然而，将这些技术添加到患者-临床医生交互中，就像任何复杂的人类交互一样，具有潜在的陷阱。虽然医生总是必须仔细考虑他们行为的伦理背景和影响，但围绕快速发展的技术进步的详细讨论可能没有跟上。我们使用医疗保健互动中一个常见但关键的挑战，即坏消息的披露（可能即将死亡），来说明杰里米·边沁在18世纪开发的“幸福演算”的哲学框架如何在人工智能时代得到及时的准定量应用。我们展示了如何使用这种道德算法来评估，在七个相互排斥和详尽的领域，人工智能支持的行动是否可以在道德上是合理的。
2022-09-28 cs.AI cs.CY cs.LO
AI as IA: The use and abuse of artificial intelligence (AI) for human enhancement through intellectual augmentation (IA)
本文综述了利用人工智能实现智力增强（IA）的前景与伦理，分析了主要技术现状及性能、安全、隐私、公平性等伦理问题，认为尽管存在重大技术与伦理障碍，仍可在权利伦理框架下实现显著益处。
2025-08-18 cs.CY
Smart Enough to Go Extinct? An Evolutionary Challenge to the Value of General Intelligence and Its Ethical Implications for AGI
Hochschule der Medien Stuttgart（斯图加特传媒学院）
本文批判性审视AGI的核心前提，提出通用智能或为唯一会威胁自身物种的生物策略，即使对齐良好的AGI也会继承该缺陷，进而引发构建AGI与创造人工意识的伦理问题。
2026-08-12 cs.AI cs.CY
Agentic Artificial Intelligence for Ethical Cybersecurity in Uganda: A Reinforcement Learning Framework for Threat Detection in Resource-Constrained Environments
Department of Computing, Faculty of Science and Technology, Kampala International University（坎帕拉国际大学科学与技术学院计算系）；Department of Electrical, Telecommunication, and Computer Engineering, Kampala International University（坎帕拉国际大学电气、电信和计算机工程系）
本研究提出一种结合强化学习和伦理治理的代理人工智能框架，用于资源受限环境中的网络安全威胁检测，实现了100%的检测率和零假阳性，提升网络安全效果和公平性。
2025-12-08 cs.CR cs.CY
Ethical Artificial Intelligence Principles and Guidelines for the Governance and Utilization of Highly Advanced Large Language Models
University of Toronto（多伦多大学）
针对先进大语言模型伦理治理缺失的问题，本文探讨了可应用于高度先进LLMs的伦理AI原则与指南，以应对其潜在后果。
2024-09-18 cs.AI cs.CE cs.CY
AI Ethics in Industry: A Research Framework
人工智能（AI）系统对我们的社会产生越来越大的影响。随着它们变得越来越普遍，其潜在的负面影响也通过各种现实世界的事件变得明显。在这些早期事件之后，关于人工智能伦理的学术和公众讨论强调了在人工智能系统开发中实施伦理的必要性。然而，目前几乎没有理解人工智能道德实际实施的框架。在本文中，我们讨论了在工业环境中实施人工智能伦理的研究框架。该框架为人工智能伦理的实证研究提供了一个起点，但仍在根据其实际应用进一步发展。
2019-11-25 cs.CY
Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice
Dartmouth College（达特茅斯学院）；The George Washington University（乔治华盛顿大学）
本文分析AI融入临床实践的五类伦理风险与监管部署缺口，并提出公平算法、透明决策、患者中心隐私保护及多方协作策略。
2024-11-18 cs.AI cs.CY
An Ethical Framework for Guiding the Development of Affectively-Aware Artificial Intelligence
National University of Singapore（新加坡国立大学）；Agency for Science, Technology and Research（新加坡科技研究局）
最近人工智能研究和部署的快速发展引发了更多关于社交和情感智能AI的潜在影响的讨论。问题不在于研究是否能产生这种有情感意识的人工智能，而在于什么时候能。当机器--以及它们所服务的公司和政府--能够“阅读”人们的思想和情感时，这对社会意味着什么？这种人工智能的开发者和运营者应该做什么，不应该做什么？本文的目标是预先阻止这些发展的一些潜在影响，并提出一套评估情感感知人工智能的（道德和）伦理后果的指导方针，以指导研究人员，行业专业人士和政策制定者。我们提出了一个多利益相关者分析框架，将AI开发人员的道德责任与部署此类AI的实体（我们称之为运营商）分开。我们的分析产生了两个支柱，明确了每个利益相关者的责任：可证明的益处，它依赖于证明人工智能的有效性，以及负责任的管理，它管理数据的负责任收集，使用和存储以及从这些数据中做出的决策。最后，我们对研究人员、开发人员、运营商以及监管机构和立法者提出了建议。
2021-07-29 cs.AI cs.CY
Artificial Intelligence Ethics Education in Cybersecurity: Challenges and Opportunities: a focus group report
Purdue University（普渡大学）
本文通过网络安全研究生焦点小组，梳理AI伦理教育在工具获取、课程、文档、伦理原则、黑箱心态及系统沟通能力方面的挑战，并提出整合技术训练与伦理监测的改进方向。
2023-11-02 cs.AI cs.CR cs.CY
Legal and ethical considerations regarding the use of ChatGPT in education
本文探讨ChatGPT在教育中应用的法律与伦理问题，分析其潜在用例，旨在加深对生成式AI能力的理解。
2023-06-09 cs.CY
Generative Artificial Intelligence in Healthcare: Ethical Considerations and Assessment Checklist
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；National University of Singapore（新加坡国立大学）；University of Oxford（牛津大学）；Imperial College London（帝国理工学院）；University of Antwerp（安特卫普大学）；Singapore Eye Research Institute（新加坡眼科研究所）；Singapore National Eye Centre（新加坡全国眼科中心）；Singapore Health Services（新加坡保健服务）；Singapore General Hospital（新加坡中央医院）；Hangzhou Dianzi University（杭州电子科技大学）；Nanyang Technological University（南洋理工大学）；The Chinese University of Hong Kong（香港中文大学）；Scripps Research（斯克里普斯研究所）
本文通过范围综述分析医疗保健中生成式人工智能伦理讨论的研究空白，并提出一个可整合进同行评审与出版流程的伦理评估清单，以提升 GenAI 研究的透明度和可操作性。
2024-02-23 cs.AI cs.CY cs.LG
A Bibliometric View of AI Ethics Development
本研究通过对过去20年AI伦理文献的文献计量分析，划分出AI伦理发展三阶段，并提出其下一阶段或聚焦让智力超人类的AI更具机器属性的“machine-like human”方向。
2024-02-08 cs.CY
ChatGPT and a New Academic Reality: Artificial Intelligence-Written Research Papers and the Ethics of the Large Language Models in Scholarly Publishing
University of North Texas（北德克萨斯大学）；Emporia State University（恩波利亚州立大学）；Zhejiang Tongji Vocational College of Science and Technology（浙江同济科技职业学院）；Babasaheb Bhimrao Ambedkar University（巴巴萨海布·比姆拉奥·安贝德卡尔大学）；Baker University（贝克大学）
本文探讨了OpenAI的ChatGPT及其底层技术GPT-3等大型语言模型在学术出版中的应用潜力，分析了其自动撰写学术手稿的能力，并深入讨论了由此引发的学术伦理问题。
2023-03-31 cs.CL cs.CY
Reasons, Values, Stakeholders: A Philosophical Framework for Explainable Artificial Intelligence
University of Toronto（多伦多大学）；Australian National University（澳大利亚国立大学）
使用不透明的人工智能系统进行重大决策（如福利分配和刑事司法）的社会和伦理影响在多个利益相关者群体中引发了激烈的辩论，包括计算机科学家，伦理学家，社会科学家，政策制定者和最终用户。然而，由于缺乏一种共同语言或一个多层面的框架来适当地弥合这场辩论的技术、认识和规范方面，使讨论无法取得应有的成果。本文借鉴了关于解释的性质和价值的哲学文献，提供了一个多方面的框架，通过以下方式为当前的辩论带来更多的概念精确性：（1）确定与人工智能预测最相关的解释类型，（2）认识到社会和伦理价值对评估这些解释的相关性和重要性，以及（3）证明这些解释对于采用多样化方法来改进真实算法生态系统的设计的重要性。因此，所提出的哲学框架奠定了基础，建立一个相关的连接之间的技术和伦理方面的人工智能系统。
2021-03-01 cs.AI cs.CY
