Artificial Intelligence in Education: Ethical Considerations and Insights from Ancient Greek Philosophy
本文探讨了将AI融入教育引发的伦理问题，借鉴古希腊哲学原则指导AI的伦理实施，以实现教育的伦理健全转型。
2024-09-04 cs.CY
AI-Ethics by Design. Evaluating Public Perception on the Importance of Ethical Design Principles of AI
尽管从道德上设计人工智能（AI）具有巨大的社会重要性，但很少有关于公众对AI道德原则的看法的研究。当考虑到道德AI开发的目标是以人为本并造福于整个社会时，这一点变得更加引人注目。在这项研究中，我们调查了道德原则（可解释性，公平性，安全性，问责制，准确性，隐私性，机器自主性）如何相互比较。这一点尤其重要，因为同时考虑道德原则不仅成本高昂，有时甚至是不可能的，因为开发人员必须做出具体的权衡决定。在本文中，我们首先回答了道德原则的相对重要性，给出了一个具体的用例-人工智能在税务欺诈检测中的使用。一项大型联合调查（n=1099）的结果表明，总的来说，德国受访者认为道德原则同样重要。然而，随后的聚类分析表明，不同的偏好模型的道德设计的系统存在于德国人口。这些聚类不仅在首选属性方面，而且在属性本身的重要性水平方面都有很大的不同。我们进一步描述了这些群体是如何在社会人口统计学以及对AI的看法方面构成的。社会影响以及设计挑战进行了讨论。
2021-06-01 cs.CY cs.HC
Ethics through the Facets of Artificial Intelligence
本文从三个描述性面向解析AI概念，揭示伦理关切源于对AI的模糊理解，并提出一个评估AI使用伦理性的框架。
2025-07-22 cs.CY
A Mulching Proposal
算法系统的伦理含义已经在HCI和更广泛的技术设计，开发和政策感兴趣的社区中进行了大量讨论。在本文中，我们探讨了一个突出的道德框架的应用-公平，问责制和透明度-一个拟议的算法，解决围绕粮食安全和人口老龄化的各种社会问题。通过使用各种标准化形式的算法审计和评估，我们大大提高了算法对FAT框架的遵守程度，从而形成了一个更加道德和有益的系统。我们讨论了这可能如何作为其他研究人员或从业者的指南，以确保在他们的工作中从算法系统中获得更好的道德结果。
2019-08-10 cs.CY
An ethical study of generative AI from the Actor-Network Theory perspective
本文以 ChatGPT 为案例，运用行动者网络理论识别人类与非人类行动者及其转译过程，剖析生成式人工智能伦理问题的成因，并为其治理提供新视角。
2024-04-10 cs.CY
Artificial Intelligence Training in Media: Addressing Technical and Ethical Challenges for Journalists and Media Professionals
本研究通过调查504名巴斯克地区媒体从业者并访谈六位创新负责人，发现仅14.1%接受过AI培训，且大型国际化公司更积极，新闻编辑室人员明显落后，据此强调亟需从伦理与技术层面加强AI培训。
2025-08-26 cs.CY
Shaping Integrity: Why Generative Artificial Intelligence Does Not Have to Undermine Education
本文探讨了生成式人工智能如何通过伦理融入课堂来促进学术诚信，结合义务论与自我决定理论等框架，论证了负责任地使用GAI能提升数字素养、鼓励知识建构并维护教育伦理标准。
2024-10-10 cs.CY
Towards an Ethical and Inclusive Implementation of Artificial Intelligence in Organizations: A Multidimensional Framework
本文提出一个结合伦理、监管、创新与教育的多维框架，并通过价值观整合、信任透明、赋能成长和战略识别四大支柱，指导组织以尊重人类价值观的方式实施人工智能。
2024-05-02 cs.CY
Solidarity should be a core ethical principle of Artificial Intelligence
团结是建设和平社会的核心基本价值观之一，体现在世界三分之一以上的宪法中。尽管如此，团结几乎从未被作为一项原则纳入人工智能发展的道德准则。团结作为人工智能的原则（1）分享人工智能创造的繁荣，实施机制为所有人重新分配生产力的增加;并分担负担，确保人工智能不会增加不平等，没有人被抛在后面。团结作为人工智能原则（2）在开发和部署人工智能系统之前评估长期影响，因此没有任何人类群体因为人工智能系统而变得无关紧要。将团结视为人工智能开发的核心原则，不仅会提供以人为本的方法，而且会提供更以人为本的方法。
2019-10-22 cs.CY
A Practical SAFE-AI Framework for Small and Medium-Sized Enterprises Developing Medical Artificial Intelligence Ethics Policies
本文提出SAFE-AI框架，将伦理监督嵌入敏捷开发流程，通过验收标准、公平性与透明度指标及责任指标，帮助资源有限的中小型企业以业务对齐方式落地医疗AI伦理政策。
2025-07-03 cs.CY
Ethical Design of Computers: From Semiconductors to IoT and Artificial Intelligence
Colorado State University（科罗拉多州立大学）；University of Nebraska-Lincoln（内布拉斯加大学林肯分校）
如今，计算系统与我们的职业、社交和私人生活紧密结合。计算日益普及的一个重要后果是，它可能会产生重大的伦理影响，计算专业人员应该考虑到这一点。在大多数现实世界的场景中，如何从道德的角度看待计算系统的设计和使用过程中的特定技术选择并不明显。本文提供了半导体芯片设计、物联网应用以及人工智能在这些系统的设计过程、工具和软硬件堆栈中越来越多的使用中的伦理挑战的视角。
2022-12-23 cs.AI cs.AR cs.CY
Ethical Artificial Intelligence - An Open Question
Paris School of Business（巴黎商学院）；Usak University（乌沙克大学）
人工智能（AI）是一门有效的科学，它采用足够强大的方法，方法和技术来解决无法解决的现实世界中的问题。由于其不可阻挡的崛起，也有一些关于其道德和安全的讨论。为人类塑造一个对人工智能友好的环境，为人工智能塑造一个对人类友好的环境，可能是为人类和机器人找到共同价值观的一个可能答案。在这种背景下，本文的目标是解决人工智能的伦理问题，并探讨道德算法，从预设或后天的价值观所产生的道德困境。此外，本文还将重点关注AI安全问题。总的来说，本文将简要分析解决所提出的伦理问题的问题和潜在解决方案，并提高读者对人工智能安全的认识，这是另一个相关的研究兴趣。
2017-05-16 cs.AI cs.CY
The Dual Impact of Artificial Intelligence in Healthcare: Balancing Advancements with Ethical and Operational Challenges
本研究探讨人工智能在医疗保健领域的双重影响，分析其在精准医疗等方面的进步及面临的伦理与运营挑战，旨在明确AI是福祉、诅咒还是两者兼具。
2024-11-08 cs.CY
Ethically Aligned Design of Autonomous Systems: Industry viewpoint and an empirical study
人工智能领域的进步在过去二十年中一直在快速加速。从纯数字系统到自动驾驶汽车的各种自动驾驶系统正在开发并部署在现场。随着这些系统对社会产生越来越大的影响，与人工智能和自治系统有关的伦理问题最近在学术界引起了越来越多的关注。然而，目前关于这一主题的文献几乎完全集中在理论上，更具体地说，集中在这一领域的概念化上。为了拓宽该领域的知识体系，我们对人工智能伦理学的实践现状进行了实证研究。我们这样做的五个案例公司的多个案例研究的手段，其结果表明在该领域的研究和实践之间的差距。根据我们的研究结果，我们提出了解决差距的方法。
2019-06-19 cs.CY
Ethical Considerations in Artificial Intelligence Courses
University of Kentucky（肯塔基大学）；University of Southern California（南加州大学）；University of Michigan（密歇根大学）；IBM T.J. Watson Research Center（IBM T.J. 沃森研究中心）；UNSW（新南威尔士大学）；Data61/CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；TU Berlin（柏林工业大学）
最近对人工智能伦理学的兴趣激增，可能会让许多教育工作者想知道如何在人工智能课程中解决道德、伦理和哲学问题。作为教师，我们希望开发的课程不仅能让学生成为人工智能实践者，还能让他们了解人工智能将对社会产生的道德、伦理和哲学影响。在本文中，我们提供了实用的案例研究和资源链接，供AI教育工作者使用。我们还就如何将人工智能伦理融入一般人工智能课程以及如何教授独立的人工智能伦理课程提供了具体建议。
2017-01-26 cs.AI cs.CY cs.GL
Analyzing Potential Solutions Involving Regulation to Escape Some of AI's Ethical Concerns
本文分析了AI伦理危机中的歧视与虚假信息问题，探讨了企业自我监管与政府监管等涉及监管的潜在解决方案，以缓解当前的AI伦理担忧。
2024-03-22 cs.CY
Audit and Assurance of AI Algorithms: A framework to ensure ethical algorithmic practices in Artificial Intelligence
算法在商业中的应用越来越广泛，企业越来越担心他们的算法会造成重大的声誉或财务损失。我们应该强调，任何这些损害都源于美国缺乏严格的立法禁止或衡量损害的具体协议的情况。因此，政府正在制定立法并执行禁令，监管机构正在对企业进行罚款，司法部门正在讨论是否让人工智能计算机模型成为法律眼中的决策者。从自动驾驶汽车和银行到医疗保健，住房和法律决策，很快就会有大量的算法在有限的人为干预下做出决策。政府、企业和社会将进行算法审计，这将系统地验证算法是否合法、道德和安全，类似于财务审计。一个现代化的市场，审计和算法保证，旨在使AI，机器学习和相关算法专业化和工业化。这一新兴领域的利益攸关方包括政策制定者和监管机构，以及行业专家和企业家。此外，我们预见审计阈值和框架将为所有关注治理和标准化的人提供有价值的信息。本文旨在回顾审计和保证所需的关键领域，并在这一新的研究和实践领域引发讨论。
2021-07-14 cs.CY
Societal AI Research Has Become Less Interdisciplinary
Department of Political Science University of Zurich（苏黎世大学政治学系）；Department of Computational Linguistics University of Zurich（苏黎世大学计算语言学系）
本文分析 2014–2024 年逾十万篇 ArXiv 论文，发现社会导向 AI 研究虽增长，但越来越多由纯计算机科学团队完成，跨学科主导地位正在减弱。
2025-06-11 cs.AI cs.CL cs.CY
Exploring the Societal and Economic Impacts of Artificial Intelligence: A Scenario Generation Methodology
Instituto Superior Técnico, Universidade de Lisboa（里斯本大学高等技术学院）
本文提出一种基于影响-不确定性矩阵的情景生成方法论，通过查询学术数据库和识别新兴趋势来评估人工智能对各领域的潜在社会与经济影响，为政策制定者和行业领导者的战略规划提供参考。
2025-03-31 cs.AI cs.CE cs.CY
Ever heard of ethical AI? Investigating the salience of ethical AI issues among the German population
构建和实施有益于整个社会的道德人工智能系统是一项成本密集型的多方面任务，充满了潜在的问题。虽然计算机科学主要关注减轻社会问题的技术问题，但社会科学则关注公民的看法，以阐明影响人工智能系统社会实施的社会和政治需求。因此，在这项研究中，我们探讨了公众中人工智能问题的突出性，重点是道德标准，以调查人口是否有可能积极要求道德人工智能。在2020年5月至2021年4月期间，我们进行了15项调查，询问德国民众最重要的人工智能相关问题（共N= 14，988名受访者）。我们的研究结果表明，大多数受访者根本不关心人工智能。然而，可以看出，对人工智能的普遍兴趣和较高的教育水平预示着与人工智能的一些接触。在那些报告说考虑过人工智能的人中，具体的应用（例如，自动驾驶）是迄今为止提到最多的主题。道德问题只由一小部分公民提出，公平、问责制和透明度是最少被提及的问题。这些已经在几个道德准则（包括欧盟委员会的提案）中被确定为道德AI发展的关键要素。道德问题的突出性影响了公民的行为意图，他们1）倾向于避免人工智能技术，2）参与关于人工智能的公开讨论。我们的结论是，低水平的道德影响可能会对道德人工智能的实际实施构成严重问题，并强调那些可能受人工智能道德问题影响最大的人尤其没有意识到道德风险。然而，一旦道德人工智能成为首要考虑，就有可能采取行动。
2022-07-28 cs.CY
A debate game about societal impacts of Artificial Intelligence
LIG, Univ. Grenoble-Alpes（LIG，格勒诺布尔大学）；Univ. Grenoble-Alpes, INRIA Privatics（格勒诺布尔大学，INRIA Privatics）
本文提出一个模拟市政委员会的辩论游戏，帮助公众理解AI算法，提升决策能力与沟通技巧，通过三个AI解决方案的讨论增强AI意识。
2026-03-04 cs.AI cs.CY
Data, Power and Bias in Artificial Intelligence
人工智能有可能加剧社会偏见，并使数十年来在平等权利和公民自由方面的进步倒退。用于训练机器学习算法的数据可能会捕捉到社会上可能会学到并延续下去的社会不公正、不平等或歧视性态度。从技术解决方案、社会正义和数据治理措施等不同角度迅速出现了解决这一问题的尝试。虽然这些方法中的每一种都是制定全面解决方案所必不可少的，但与每一种方法相关的讨论往往似乎是不同的。本文回顾了正在进行的工作，以确保数据公正，公平和偏见缓解人工智能系统从不同的领域探索相互关联的动态，并检查是否在人工智能训练数据偏见的不可避免性实际上可以用于社会公益。我们强调与定义处理偏见的政策相关的复杂性。我们还考虑了解决社会偏见问题的技术挑战。
2020-07-28 cs.CY
Artificial Intelligence: the global landscape of ethics guidelines
ETH Zurich（苏黎世联邦理工学院）
在过去的五年里，私营公司、研究机构以及公共部门组织已经发布了道德人工智能的原则和指导方针，但对于什么是“道德人工智能”以及实现它需要哪些道德要求、技术标准和最佳实践都存在争议。为了调查在这些问题上是否正在形成全球共识，我们绘制并分析了当前关于道德AI的原则和指导方针。我们的研究结果揭示了围绕五个道德原则（透明度，正义和公平，非恶意，责任和隐私）出现的全球趋同，在如何解释这些原则方面存在实质性分歧;为什么它们被认为是重要的;它们涉及什么问题，领域或行为者;以及它们应该如何实施。我们的研究结果强调了将指南制定工作与实质性道德分析和适当的实施战略相结合的重要性。
2019-06-24 cs.AI cs.CY
The Role of Legal Frameworks in Shaping Ethical Artificial Intelligence Use in Corporate Governance
本文分析现行立法、行业标准与学术观点，评估企业AI治理法律框架的优劣，并提出以原则性监管结合行业指引促进透明、问责与公平的建议。
2025-03-17 cs.CY cs.HC
Global AI Ethics: A Review of the Social Impacts and Ethical Implications of Artificial Intelligence
人工智能的伦理含义和社会影响已经成为工业界、学术界研究人员和公众感兴趣的话题。然而，目前在全球范围内对人工智能的分析偏向于美国的观点，而且由于缺乏研究，特别是在美国和西欧以外的地区，本文总结了最近社会科学奖学金对人工智能和相关技术在全球五个地区的社会影响的文献综述的主要发现。我们的社会科学研究团队审查了800多篇学术期刊文章和专著，涉及十几种语言。我们对文献的回顾表明，人工智能可能会根据地理环境产生明显不同的社会影响。同样，对人工智能的看法和理解可能会受到当地文化和社会背景的深刻影响。最近在美国的研究表明，人工智能驱动的技术有一种加深社会鸿沟和加剧社会不平等的模式，特别是在历史上被边缘化的群体中。我们的文献回顾表明，这种模式在全球范围内存在，并表明低收入和中等收入国家可能更容易受到人工智能的负面社会影响，并且不太可能从随之而来的收益中受益。我们呼吁进行严格的人种学研究，以更好地了解人工智能在世界各地的社会影响。全球实地研究对于识别可能放大社会不平等的人工智能系统以减轻潜在危害尤为重要。深入了解人工智能在不同社会环境中的社会影响是开发、实施和监测负责任和有益的人工智能技术的必要前提，也是对这些技术进行有意义监管的基础。
2019-07-18 cs.CY
Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance
HENSOLDT Sensors GmbH（亨索尔特传感器有限公司）；HENSOLDT Optronics GmbH（亨索尔特光电有限公司）；Fraunhofer IOSB（弗劳恩霍夫IOSB研究院）
本文围绕军事视觉侦察中AI应用的伦理问题，提出FATE准则及可追溯性、相称性等军事专用伦理原则，并结合海、空、陆三个用例，借助自动化传感器分析、XAI和直观用户体验加以说明，为负责任地部署军事AI提供伦理框架。
2025-02-05 cs.CV cs.CY
Relational Artificial Intelligence
Umeå University（于默奥大学）
人工智能的影响不仅取决于基础研究和技术发展，而且在很大程度上取决于这些系统如何被引入社会并在日常生活中使用。尽管人工智能传统上与理性决策有关，但理解和塑造人工智能在各个方面的社会影响需要关系视角。人工智能的理性方法，即计算算法独立于人类干预、洞察力和情感来驱动决策，已被证明会导致偏见和排斥，暴露出社会的脆弱性和不安全感。需要一种关注事物关系本质的关系方法来处理人工智能的伦理、法律、社会、文化和环境影响。人工智能的关系方法认识到，客观和理性的推理并不总是导致“正确”的方式进行，因为什么是“正确的”取决于做出决定的情况的动态，而不是解决道德问题，人工智能的设计和使用的重点必须是提出道德问题。在这份立场文件中，我首先对当前人工智能的概念化进行了一般性讨论，然后概述了现有的治理方法以及负责任的人工智能开发和使用。然后，我反思了什么应该是人工智能社会范式的基础，以及如何将其嵌入关系、女权主义和非西方哲学，特别是Ubuntu哲学。
2022-02-04 cs.AI cs.CY
Societal impacts of big data: challenges and opportunities in Europe
本文介绍了大数据的风险和机遇，以及它可能带来的潜在社会效益。该研究基于对欧洲不同部门的六个案例研究中观察到的社会影响的分析。这些影响分为经济、社会和道德、法律和政治影响，影响到提高效率、创新和决策、改变商业模式、对公共资金的依赖、参与、平等、歧视和信任、数据保护和知识产权、私人和公共紧张局势以及失去对国外行为体的控制等领域。特别关注法律框架带来的风险和机遇，以及如何应对大数据的负面影响。针对四个具体的法律框架提出了建议：版权和数据库保护、商业秘密保护、隐私和数据保护以及反歧视。此外，大数据的潜在社会效益体现在六个领域：改善决策和事件检测;数据驱动的创新和新的商业模式;直接的社会、环境和其他公民利益;公民参与、透明度和公众信任;注重隐私的数据做法;以及大数据用于识别歧视。建议采用几种最佳做法来获取这些好处。
2017-04-11 cs.CY
Towards A Unified Utilitarian Ethics Framework for Healthcare Artificial Intelligence
College of Communication & Information, Florida State University（佛罗里达州立大学传播与信息学院）
该研究通过主题分析与36位AI专家调查数据识别医疗AI关键伦理原则，并提出基于功利主义伦理的统一理论框架。
2023-09-26 cs.AI cs.CY
Advances towards a General-Purpose Societal-Scale Human-Collective Problem-Solving Engine
人类的集体智慧已经证明了自己是一个社会完成大规模行为壮举的能力的重要因素。随着社会人口规模的增长，个人积极参与群体解决问题的能力下降。代议决策结构已被用作解决社会信息处理基础设施不足的现代解决方案。随着计算机和网络技术被进一步嵌入社会结构，实现一个通用的社会规模的人类集体解决问题的引擎被设想为一种手段，促进社会的集体智慧的潜力。本文提供了一个新的框架，创造集体智慧系统和方法，实现一个代表性和专业知识系统的基础上社会网络理论。
2005-01-03 cs.CY cs.HC
Ethical Issues Regarding the Use of AI Profiling Services for Recruiting: The Japanese Rikunabi Data Scandal
在招聘中使用特征分析服务所涉及的道德、法律和社会挑战是许多先前研究的重点;然而，这些过程因社会制度和文化习俗而异。2019年8月，日本发生了一起丑闻，一家招聘管理公司被发现通过向客户出售他们的数据来破坏用户和学生的信任。通过分享日本的招聘背景和相关法律，本文有助于我们理解人工智能分析和处理敏感个人信息所涉及的伦理问题。
2020-05-18 cs.CY
On the Morality of Artificial Intelligence
Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）
关于人工智能的社会和伦理影响的大部分现有研究都集中在定义围绕机器学习（ML）和其他人工智能（AI）算法的伦理原则和指导方针[IEEE，2017，Jobin等人，2019年]。虽然这对于帮助定义适当的人工智能社会规范非常有用，但我们认为讨论ML的潜力和风险以及激励社区使用ML实现有益的目标同样重要。在这篇专门针对ML从业者的文章中，我们更多地关注后者，对现有的高级道德框架和指南进行了概述，但最重要的是提出了ML研究和部署的概念和实践原则和指南。坚持从业者可以采取的具体行动，以追求更符合道德和道德的ML实践，旨在利用人工智能为社会造福。
2019-12-26 cs.AI cs.CY
Artificial Intelligence Ethics: An Inclusive Global Discourse?
人们普遍认为，技术在地球上无处不在，并有可能解决全球南方存在的许多问题。此外，人工智能（AI）的快速发展带来了以前所未有的方式应对可持续发展目标（SDG）中所概述的许多挑战的潜力。然而，关于如何管理和治理这些先进技术，以及新兴的人工智能道德框架和标准是否由全球北方主导，还有很多问题。这项研究审查了越来越多的关于人工智能伦理的文件，以研究在正在进行的全球话语中是否存在平等参与。具体而言，它试图发现全球南方国家和妇女在这一话语中的代表性是否不足。调查结果表明，在人工智能伦理文件中缺乏对这两个主题的提及，这表明相关的伦理影响和风险被忽视了。如果没有来自全球南方国家和妇女的充分投入，这种道德框架和标准可能具有歧视性，有可能加剧边缘化。
2021-08-23 cs.CY
Legal and ethical considerations regarding the use of ChatGPT in education
本文探讨ChatGPT在教育中应用的法律与伦理问题，分析其潜在用例，旨在加深对生成式AI能力的理解。
2023-06-09 cs.CY
Breaking Bad News in the Era of Artificial Intelligence and Algorithmic Medicine: An Exploration of Disclosure and its Ethical Justification using the Hedonic Calculus
Imperial College London（帝国理工学院）；University of Bayreuth（拜罗伊特大学）
随着人工智能（AI）技术的日益广泛部署，围绕该技术在医疗保健中的使用建立适当的伦理框架已成为一个关键的需求。人工智能的进步有望在个人层面上提高结果预测的精度。然而，将这些技术添加到患者-临床医生交互中，就像任何复杂的人类交互一样，具有潜在的陷阱。虽然医生总是必须仔细考虑他们行为的伦理背景和影响，但围绕快速发展的技术进步的详细讨论可能没有跟上。我们使用医疗保健互动中一个常见但关键的挑战，即坏消息的披露（可能即将死亡），来说明杰里米·边沁在18世纪开发的“幸福演算”的哲学框架如何在人工智能时代得到及时的准定量应用。我们展示了如何使用这种道德算法来评估，在七个相互排斥和详尽的领域，人工智能支持的行动是否可以在道德上是合理的。
2022-09-28 cs.AI cs.CY cs.LO
Agentic Artificial Intelligence for Ethical Cybersecurity in Uganda: A Reinforcement Learning Framework for Threat Detection in Resource-Constrained Environments
本研究提出一种结合强化学习和伦理治理的代理人工智能框架，用于资源受限环境中的网络安全威胁检测，实现了100%的检测率和零假阳性，提升网络安全效果和公平性。
2025-12-08 cs.CR cs.CY
Applications and Societal Implications of Artificial Intelligence in Manufacturing: A Systematic Review
本文系统性综述了AI在制造业的应用及其社会影响，指出尽管文献对企业应用持乐观态度，但其社会影响仍存争议，强调利益相关者需平衡机遇与风险以实现可持续整合。
2023-07-25 cs.CY cs.IR
Beyond Fairness Metrics: Roadblocks and Challenges for Ethical AI in Practice
J. P. Morgan AI Research（摩根大通人工智能研究院）；J. P. Morgan（摩根大通）；Columbia University（哥伦比亚大学）
我们回顾了在当代工业和社会用途的规模上构建和部署道德人工智能的实际挑战。除了学术研究通常关注的纯技术问题外，不一致的监管压力、相互冲突的业务目标、数据质量问题、开发流程、系统集成实践和部署规模等运营挑战都共同创造了新的道德风险。现有的研究结果没有充分解决这些实际考虑所产生的伦理问题。我们认为，在人工智能系统的开发和部署中全面考虑道德问题对于在实践中建立道德人工智能是必要的，并要求研究人员在评估道德风险时考虑人工智能系统的完整操作环境。
2021-08-11 cs.AI cs.CY cs.LG
Towards Asimov's Psychohistory: Harnessing Topological Data Analysis, Artificial Intelligence and Social Media data to Forecast Societal Trends
Institute of Political Science of the University of Brasília（巴西利亚大学政治学研究所）；Institute of Foreign Affairs of the University of Brasília（巴西利亚大学外交事务研究所）
本文从理论上探讨结合拓扑数据分析与人工智能分析社交媒体数据以预测社会趋势，呼应阿西莫夫的心理史学构想，为数字社会学及心理史学的实现提供方法论基础。
2024-07-03 cs.AI cs.CY cs.SI
An Ethical Framework for Guiding the Development of Affectively-Aware Artificial Intelligence
National University of Singapore（新加坡国立大学）；Agency for Science, Technology and Research（新加坡科技研究局）
最近人工智能研究和部署的快速发展引发了更多关于社交和情感智能AI的潜在影响的讨论。问题不在于研究是否能产生这种有情感意识的人工智能，而在于什么时候能。当机器--以及它们所服务的公司和政府--能够“阅读”人们的思想和情感时，这对社会意味着什么？这种人工智能的开发者和运营者应该做什么，不应该做什么？本文的目标是预先阻止这些发展的一些潜在影响，并提出一套评估情感感知人工智能的（道德和）伦理后果的指导方针，以指导研究人员，行业专业人士和政策制定者。我们提出了一个多利益相关者分析框架，将AI开发人员的道德责任与部署此类AI的实体（我们称之为运营商）分开。我们的分析产生了两个支柱，明确了每个利益相关者的责任：可证明的益处，它依赖于证明人工智能的有效性，以及负责任的管理，它管理数据的负责任收集，使用和存储以及从这些数据中做出的决策。最后，我们对研究人员、开发人员、运营商以及监管机构和立法者提出了建议。
2021-07-29 cs.AI cs.CY
Ethical Artificial Intelligence Principles and Guidelines for the Governance and Utilization of Highly Advanced Large Language Models
University of Toronto（多伦多大学）
针对先进大语言模型伦理治理缺失的问题，本文探讨了可应用于高度先进LLMs的伦理AI原则与指南，以应对其潜在后果。
2024-09-18 cs.AI cs.CE cs.CY
Visions of a Discipline: Analyzing Introductory AI Courses on YouTube
本研究定性分析了YouTube上20门最热门的入门AI课程（共92.2小时），发现这些课程缺乏伦理教育、夸大AI能力并依赖企业工具，进而提出三项将伦理反思融入课程的建议。
2024-05-31 cs.CY
An overview of research on human-centered design in the development of artificial general intelligence
本文从人文视角综述了人工通用智能发展，论证以人为中心的设计对实现伦理、可持续AGI及保障人类尊严、隐私和自主性的关键作用。
2023-08-31 cs.CY
Artificial Intelligence Policy Framework for Institutions
本文针对机构应用 AI 时的隐私、偏见、可解释性及环境影响等伦理问题，提出一个通用的 AI 政策制定框架，以帮助机构在坚守伦理原则的前提下利用 AI。
2024-12-03 cs.CY
The Future of Work Is Here: Toward a Comprehensive Approach to Artificial Intelligence and Labour
这篇评论追溯了当代关于人工智能和劳动力之间关系的论述，并解释了为什么这些原则必须全面地对待劳动力和人工智能。首先，评论声称，人工智能的道德框架本身不足以保障工人的权利，因为它们缺乏执行机制和不同利益攸关方的代表。其次，它认为，目前关于人工智能和劳动力的讨论集中在这些技术在工作场所的部署上，但忽视了人类劳动力在其发展中的重要作用，特别是在世界各地外包劳动力的不同情况下。最后，它建议利用现有的工作条件人权框架，提供更全面的道德原则和条例。评论最后认为，关于工作未来的核心问题不应该是智能机器是否会取代人类，而是谁将拥有这些系统，并在其开发和运行中拥有发言权。
2020-07-15 cs.CY
Semantic Alignment Between Normative Theories of Ethics and the European Union Artificial Intelligence Act: A Transformer-Based Semantic Textual Similarity Analysis
Kadir Has University（卡迪尔·哈斯大学）；Boğaziçi University（博阿齐奇大学）
本文通过Transformer模型分析伦理理论与欧盟AI法案的语义对齐，发现义务伦理学在法案两部分中具有最高相似性。
2026-10-20 cs.CY
Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice
Dartmouth College（达特茅斯学院）；The George Washington University（乔治华盛顿大学）
本文分析AI融入临床实践的五类伦理风险与监管部署缺口，并提出公平算法、透明决策、患者中心隐私保护及多方协作策略。
2024-11-18 cs.AI cs.CY
Making Intelligence: Ethical Values in IQ and ML Benchmarks
AI Risk and Vulnerability Alliance（人工智能风险与脆弱性联盟）；Capital One（第一资本）
本文指出ML基准与人类智能基准在结构上相似且均承载伦理价值，借鉴女性主义科学哲学论证基准创建需考虑并记录价值，并提出研究伦理建议。
2023-05-11 cs.CY cs.LG
Tackling Algorithmic Disability Discrimination in the Hiring Process: An Ethical, Legal and Technical Analysis
解决针对残疾人的算法歧视需要一种独特的方法，这种方法与适用于其他受保护特征的方法根本不同，这是由于特定的道德，法律和技术挑战。我们特别在招聘过程中使用的人工智能（AI）系统（或自动化招聘系统，AHS）的背景下解决这些挑战，其中自动化评估程序受到独特的道德和法律考虑因素的影响，并对残疾人产生不可否认的不利影响。在本文中，我们讨论了人工智能驱动的招聘在残疾歧视方面提出的问题和机会。最终，我们的目标是鼓励对这一主题进行进一步的研究。因此，我们建立了一些起点，并为伦理学家、立法者、倡导者以及人工智能从业者设计了路线图。
2022-06-13 cs.CY
Generative Artificial Intelligence in Healthcare: Ethical Considerations and Assessment Checklist
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；National University of Singapore（新加坡国立大学）；University of Oxford（牛津大学）；Imperial College London（帝国理工学院）；University of Antwerp（安特卫普大学）；Singapore Eye Research Institute（新加坡眼科研究所）；Singapore National Eye Centre（新加坡全国眼科中心）；Singapore Health Services（新加坡保健服务）；Singapore General Hospital（新加坡中央医院）；Hangzhou Dianzi University（杭州电子科技大学）；Nanyang Technological University（南洋理工大学）；The Chinese University of Hong Kong（香港中文大学）；Scripps Research（斯克里普斯研究所）
本文通过范围综述分析医疗保健中生成式人工智能伦理讨论的研究空白，并提出一个可整合进同行评审与出版流程的伦理评估清单，以提升 GenAI 研究的透明度和可操作性。
2024-02-23 cs.AI cs.CY cs.LG
Smart Enough to Go Extinct? An Evolutionary Challenge to the Value of General Intelligence and Its Ethical Implications for AGI
Hochschule der Medien Stuttgart（斯图加特传媒学院）
本文批判性审视AGI的核心前提，提出通用智能或为唯一会威胁自身物种的生物策略，即使对齐良好的AGI也会继承该缺陷，进而引发构建AGI与创造人工意识的伦理问题。
2026-08-12 cs.AI cs.CY
Mapping Public Perception of Artificial Intelligence: Expectations, Risk-Benefit Tradeoffs, and Value As Determinants for Societal Acceptance
RWTH Aachen University（亚琛工业大学）
本研究通过德国1100名参与者样本考察AI心理模型，分析公众对AI未来能力的预期、风险收益权衡及价值评估，揭示人口统计学与人格特质的影响，为AI社会接受度相关决策提供可操作见解。
2024-11-28 cs.AI cs.CY cs.HC
Implications of Artificial Intelligence on Health Data Privacy and Confidentiality
University of Wisconsin-Milwaukee（威斯康星大学密尔沃基分校）
本文分析AI在医疗应用中的隐私、伦理与合规挑战，结合HIPAA及糖尿病视网膜病变、肿瘤学等案例，主张以透明、教育和监管平衡创新与患者数据保护。
2025-01-06 cs.AI cs.CY
Ethical Implications of AI in Data Collection: Balancing Innovation with Privacy
该研究聚焦2023-2024年AI驱动数据收集的伦理法律问题，对比多地区监管路径，结合多领域案例分析挑战，提出法律、技术、伦理层面的解决方案，呼吁适应性治理与国际合作以平衡创新与权益保护。
2025-03-17 cs.CY cs.HC
