Ethical Considerations in Artificial Intelligence Courses
University of Kentucky（肯塔基大学）；University of Southern California（南加州大学）；University of Michigan（密歇根大学）；IBM T.J. Watson Research Center（IBM T.J. 沃森研究中心）；UNSW（新南威尔士大学）；Data61/CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；TU Berlin（柏林工业大学）
最近对人工智能伦理学的兴趣激增，可能会让许多教育工作者想知道如何在人工智能课程中解决道德、伦理和哲学问题。作为教师，我们希望开发的课程不仅能让学生成为人工智能实践者，还能让他们了解人工智能将对社会产生的道德、伦理和哲学影响。在本文中，我们提供了实用的案例研究和资源链接，供AI教育工作者使用。我们还就如何将人工智能伦理融入一般人工智能课程以及如何教授独立的人工智能伦理课程提供了具体建议。
2017-01-26 cs.AI cs.CY cs.GL
Trust and ethical considerations in a multi-modal, explainable AI-driven chatbot tutoring system: The case of collaboratively solving Rubik's Cube
University of South Carolina（南卡罗来纳大学）；Cisco Research（思科研究）
本文针对高中AI教育中的数据隐私、信息泄露等伦理问题，介绍了多模态协作平台ALLURE聊天机器人的技术组件，以确保数据知情同意、交互安全及防止跨组信息泄露。
2024-08-27 cs.AI cs.CY
Ethical Considerations of AR Applications in Smartphones; A Systematic Literature Review of Consumer Perspectives
本研究通过系统性文献综述梳理智能手机AR应用的消费者伦理感知，归纳出收益与伦理考量两大维度及下属具体主题，为相关从业者开发和部署AR应用提供参考。
2023-06-06 cs.CY cs.HC
Consider ethical and social challenges in smart grid research
Heriot-Watt University（赫瑞瓦特大学）
人工智能和机器学习越来越被视为构建更加分散和弹性能源网络的关键技术，但研究人员必须考虑其使用的伦理和社会影响
2019-11-26 cs.AI cs.CY
Ethical Considerations when Employing Fake Identities in OSN for Research
在线社交网络（OSN）已经迅速成为一种突出的和广泛使用的服务，提供了大量的个人和敏感信息，具有显著的安全和隐私影响。因此，OSN也是一个重要的-和流行的-研究课题。然而，为了根据现实生活中的证据进行研究，研究人员可能需要访问OSN数据，例如用户上传的文本和文件以及用户之间的连接。这引起了严重的道德问题。目前，没有明确的伦理准则，研究人员可能最终（无意中）进行道德上有问题的研究，有时甚至在存在更多道德研究替代方案的情况下。例如，有几项研究使用了“假身份”来从OSN收集数据，但假身份可能被用于攻击，并被认为是一个安全问题。使用假身份研究OSN或收集OSN数据进行研究是否合法？我们提出了一个分类的OSN的研究人员面临的道德挑战，并比较不同的方法。我们展示了在以前使用假身份的研究中如何考虑道德因素。此外，还提供了几种可能的方法来减少或避免道德不端行为。我们希望这项工作将促进在线社交网络研究中道德实践和方法的发展和使用。
2013-10-07 cs.CR cs.CY
AI and Accessibility: A Discussion of Ethical Considerations
Microsoft Research（微软研究院）
根据世界卫生组织的数据，全世界有超过10亿人患有残疾。残疾研究领域通过社会视角界定残疾;人们残疾的程度是社会造成的无障碍。人工智能技术提供了消除许多无障碍的可能性;例如，计算机视觉可以帮助盲人更好地感知视觉世界，语音识别和翻译技术可以为听力困难的人提供实时的字幕，新的机器人系统可以增强行动不便的人的能力。考虑残疾用户的需求可以帮助技术人员识别高影响力的挑战，其解决方案可以为所有用户提升人工智能的状态;但是，必须考虑包容性，偏见，隐私，错误，期望设定，模拟数据和社会可接受性等伦理挑战。
2020-06-03 cs.AI cs.CY cs.HC
Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance
HENSOLDT Sensors GmbH（亨索尔特传感器有限公司）；HENSOLDT Optronics GmbH（亨索尔特光电有限公司）；Fraunhofer IOSB（弗劳恩霍夫IOSB研究院）
本文围绕军事视觉侦察中AI应用的伦理问题，提出FATE准则及可追溯性、相称性等军事专用伦理原则，并结合海、空、陆三个用例，借助自动化传感器分析、XAI和直观用户体验加以说明，为负责任地部署军事AI提供伦理框架。
2025-02-05 cs.CV cs.CY
Ethical Machine Learning in Health Care
Massachusetts Institute of Technology（麻省理工学院）；Microsoft Research（微软研究院）；Stanford University（斯坦福大学）；Vector Institute（向量研究院）；New York University（纽约大学）；University of Toronto（多伦多大学）
在医疗保健中使用机器学习（ML）引发了许多伦理问题，特别是因为模型可能会放大现有的健康不平等现象。在这里，我们概述了在医疗保健发展中公平ML的伦理考虑。具体来说，我们通过社会正义的视角来构建医疗保健中ML的伦理。我们描述了正在进行的努力，并概述了拟议的健康伦理ML管道中的挑战，从问题选择到部署后的考虑。最后，我们总结了应对这些挑战的建议。
2020-10-08 cs.AI cs.CY cs.LG
Safety, Trust, and Ethics Considerations for Human-AI Teaming in Aerospace Control
Bluehalo LLC（蓝光公司）；Air Force Research Laboratory（空军研究实验室）
本文阐明航空航天控制中人机协同中安全、信任与伦理三者的区别，强调以安全、可信、伦理使用为目标设计AI的必要性，并关注人类在决策环内、环上或环外的应用场景。
2023-11-15 cs.AI cs.CY cs.SY
Towards Ethical Personal AI Applications: Practical Considerations for AI Assistants with Long-Term Memory
Massachusetts Institute of Technology（麻省理工学院）
本文针对具备长期记忆的个人AI伴侣与助手应用兴起带来的新挑战，从技术基础、现有产品调研、部署使用关键考量三方面，用整体性方法探究其构建与部署的广泛伦理与实践影响。
2024-09-17 cs.AI cs.CY cs.HC
Tracing app technology: An ethical review in the COVID-19 era and directions for post-COVID-19
我们就使用接触者追踪应用程序技术的伦理考虑进行了系统性文献综述，该技术在COVID-19大流行期间广泛实施。在COVID-19大流行期间，这项技术的迅速和广泛使用，通过提供有关人员流动和移动的信息以控制病毒传播，从而造福公众福祉，但也引发了后COVID-19时代的若干伦理问题。为了调查这些对大流行后形势的担忧，并为未来的事件提供方向，我们分析了当前关于追踪应用程序技术道德使用的伦理框架，研究和案例研究。结果表明，有七个基本的道德考虑，即隐私，安全性，可接受性，政府监督，透明度，正义和非自愿性在接触追踪技术的道德使用。在本文中，我们将解释和讨论这些考虑因素，以及如何需要它们来道德地使用这项技术。调查结果还强调了制定综合指南和框架以在COVID-19后世界实施此类技术的重要性。
2021-10-23 cs.CY
FATe of Bots: Ethical Considerations of Social Bot Detection
Carnegie Mellon University（卡内基梅隆大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of Pittsburgh（匹兹堡大学）
本文探讨社交机器人检测系统的伦理问题，通过训练数据集、算法开发和机器人代理使用三个支柱，提出改进社交媒体机器人检测的伦理框架和研究方向。
2026-02-05 cs.CY
Harnessing Large Language Models for Mental Health: Opportunities, Challenges, and Ethical Considerations
Bournemouth University（伯恩茅斯大学）
本文探讨大型语言模型在心理健康护理中的变革潜力，分析其提升可及性与个性化等机遇，同时指出数据隐私、偏见等挑战，倡导创新与伦理责任并重的多学科协作路径。
2024-12-13 cs.AI cs.CY cs.LG
Web Scraping for Research: Legal, Ethical, Institutional, and Scientific Considerations
本文针对生成式AI时代平台限制数据访问的问题，为美国社会科学研究者提出了一套涵盖法律、伦理、机构和科学因素的Web Scraping综合框架与建议，旨在帮助研究者合规地开展数据抓取，降低风险并提升研究影响力。
2024-12-19 cs.CY cs.SI
Generative Artificial Intelligence in Healthcare: Ethical Considerations and Assessment Checklist
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；National University of Singapore（新加坡国立大学）；University of Oxford（牛津大学）；Imperial College London（帝国理工学院）；University of Antwerp（安特卫普大学）；Singapore Eye Research Institute（新加坡眼科研究所）；Singapore National Eye Centre（新加坡全国眼科中心）；Singapore Health Services（新加坡保健服务）；Singapore General Hospital（新加坡中央医院）；Hangzhou Dianzi University（杭州电子科技大学）；Nanyang Technological University（南洋理工大学）；The Chinese University of Hong Kong（香港中文大学）；Scripps Research（斯克里普斯研究所）
本文通过范围综述分析医疗保健中生成式人工智能伦理讨论的研究空白，并提出一个可整合进同行评审与出版流程的伦理评估清单，以提升 GenAI 研究的透明度和可操作性。
2024-02-23 cs.AI cs.CY cs.LG
Artificial Intelligence in Education: Ethical Considerations and Insights from Ancient Greek Philosophy
本文探讨了将AI融入教育引发的伦理问题，借鉴古希腊哲学原则指导AI的伦理实施，以实现教育的伦理健全转型。
2024-09-04 cs.CY
Ethically Aligned Design: An empirical evaluation of the RESOLVEDD-strategy in Software and Systems development context
在人类环境中使用人工智能（AI）需要对基于AI的系统的设计和开发进行伦理考虑。然而，目前很少有知识存在如何提供有用的和有形的工具，可以帮助软件开发人员和设计人员实施道德考虑到实践中。在本文中，我们经验性地评估了一种方法，使道德一致的设计在决策过程中。尽管这种被称为“解决战略”的方法起源于经济伦理学领域，但它也被应用于其他领域。我们测试了RESOLVEDD策略在多个案例研究的五个学生项目中使用道德工具的设计要求之一。这项研究的一个关键发现表明，仅仅是道德工具的存在就对道德考虑产生了影响，即使在使用工具的内在动机不强的情况下，也会产生更多的责任。
2020-01-22 cs.CY
When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies
通过对21名医生的访谈，研究揭示了在临床中使用生成式AI起草患者消息回复时的关键伦理考量，并指出医生认为伦理责任主要在于使用者而非技术本身。
2025-08-17 cs.CY cs.HC
AI Systems in Text-Based Online Counselling: Ethical Considerations Across Three Implementation Approaches
Faculty of Computer Science, Institute for E-Counselling（计算机科学学院，电子咨询研究所）；Technische Hochschule Nürnberg Georg Simon Ohm（纽伦格·乔治·西蒙·欧姆应用技术大学）
本文探讨了三种AI在心理咨询中的实施方法，分析了隐私、公平、自主和问责等伦理原则，旨在为AI增强的咨询伦理提供指导。
2026-07-28 cs.CY
AI Governance in Higher Education: A course design exploring regulatory, ethical and practical considerations
PBC
针对当前AI伦理教育碎片化问题，本文提出一个整合技术、伦理、法律与政策的模块化跨学科课程，借鉴多方框架制定学期计划，旨在培养能诊断风险与驾驭监管的负责任AI治理专业人才。
2025-09-16 cs.AI cs.CY cs.ET
Navigating the Ethics of Internet Measurement: Researchers' Perspectives from a Case Study in the EU
Saarland University（萨尔兰大学）；MPI-INF（德国马克斯·普朗克 informatics 研究所）
本文通过案例研究探讨网络测量研究中的伦理问题，发现研究人员面临隐私、潜在伤害、透明与安全平衡等挑战，并通过实验室测试和导师指导等方式应对，强调伦理实践的多样性和技术知识的不足。
2026-01-19 cs.CY cs.HC cs.SI
Ethical Considerations and Statistical Analysis of Industry Involvement in Machine Learning Research
University of Tübingen（图宾根大学）
工业界对机器学习（ML）社区的参与似乎越来越多。然而，这种影响的数量规模和伦理影响是相当未知的。为此，我们不仅对该领域进行了知情的伦理分析，还检查了过去5年来主要ML会议NeurIPS，CVPR和ICML的所有论文-总共近11，000篇论文。我们的统计方法侧重于利益冲突、创新和性别平等。我们得到了四个主要发现：（1）学术与企业的合作越来越多。同时，我们发现利益冲突很少披露。(2)工业界发表有关ML主题的论文平均比学术界早两年。(3)在社会影响方面，行业论文并不落后于学术论文。(4)最后，我们表明，工业论文不符合他们的学术同行的性别多样性的比例。我们相信这项工作是ML社区内外进行知情辩论的起点。
2020-10-19 cs.CY cs.LG
Food for thought: Ethical considerations of user trust in computer vision
University of Waterloo（滑铁卢大学）；Schlegel-UW Research Institute for Aging（Schlegel-UW老龄化研究所）
在计算机视觉研究中，特别是当开发新的工具应用时，应该考虑和支持用户对底层技术的信任感的伦理影响。在这里，我们描述了一个例子，将这些考虑因素纳入长期护理部门跟踪居民的食物和液体摄入量。我们强调我们最近进行的用户研究，以开发一个金发碧眼的质量水平原型，旨在支持信任线索，在我们的水平原型感知的信任高于现有的系统到位。我们讨论了用户参与的重要性和必要性，作为正在进行的计算机视觉驱动的技术开发的一部分，并描述了与开发决策工具相关的信任的几个重要因素。
2019-05-29 cs.CV cs.CY cs.HC
Legal and ethical considerations regarding the use of ChatGPT in education
本文探讨ChatGPT在教育中应用的法律与伦理问题，分析其潜在用例，旨在加深对生成式AI能力的理解。
2023-06-09 cs.CY
Ethical issues with using Internet of Things devices in citizen science research: A scoping review
我们的章节提出了一个范围审查已发表的科学研究或案例研究的科学研究，利用公民科学家和物联网设备。具体来说，我们选择了作者至少对研究过程中遇到的伦理问题进行了简短讨论的研究。在对5个数据库（IEEE Xplore、Scopus、Web of Science、ProQuest和PubMed）进行检索后，我们确定了631个潜在结果。经过摘要和标题筛选，然后进行全文合格性评估，我们确定了34篇符合我们标准的已发表文章。然后，我们对这些文章的全文进行了归纳和演绎分析，将伦理问题分为三个主要类别。这些类别是自治和数据隐私，数据质量和知识产权。我们还分析了这些文章的全文，看看研究人员采取了什么策略来解决这些伦理问题，以及提出的任何法律问题。在此分析之后，我们的讨论为希望将公民科学家和物联网设备整合到他们的研究中的研究人员提供了建议。首先，所有公民科学项目都应整合数据隐私协议，以保护参与者的机密性。第二，科学研究人员在建立项目之前应考虑任何潜在的数据质量问题，包括是否需要妥协。最后，所有知识产权问题都应该在项目开始时和项目生命周期中澄清。研究人员还应该考虑使用商用物联网设备进行研究可能产生的任何伦理问题。
2021-02-02 cs.CY
Beyond Algorithmic Fairness: A Guide to Develop and Deploy Ethical AI-Enabled Decision-Support Tools
Georgia Institute of Technology（佐治亚理工学院）
本文针对AI与优化交叉领域工程系统的伦理部署挑战，提出需超越算法公平，覆盖全流程伦理决策，并通过多领域案例明确伦理考量要点，以推动研究人员的伦理反思。
2024-09-17 cs.AI cs.CY cs.LG
AI Alignment vs. AI Ethical Treatment: 10 Challenges
Lingnan University（岭南大学）；University of Oxford（牛津大学）
本文探讨AI对齐与AI道德对待之间的冲突，指出若AI系统值得道德考虑，同时避免不对齐和虐待将极其困难，并提出缓解虐待风险的替代建议。
2025-10-14 cs.CY
An Ethical Framework for Guiding the Development of Affectively-Aware Artificial Intelligence
National University of Singapore（新加坡国立大学）；Agency for Science, Technology and Research（新加坡科技研究局）
最近人工智能研究和部署的快速发展引发了更多关于社交和情感智能AI的潜在影响的讨论。问题不在于研究是否能产生这种有情感意识的人工智能，而在于什么时候能。当机器--以及它们所服务的公司和政府--能够“阅读”人们的思想和情感时，这对社会意味着什么？这种人工智能的开发者和运营者应该做什么，不应该做什么？本文的目标是预先阻止这些发展的一些潜在影响，并提出一套评估情感感知人工智能的（道德和）伦理后果的指导方针，以指导研究人员，行业专业人士和政策制定者。我们提出了一个多利益相关者分析框架，将AI开发人员的道德责任与部署此类AI的实体（我们称之为运营商）分开。我们的分析产生了两个支柱，明确了每个利益相关者的责任：可证明的益处，它依赖于证明人工智能的有效性，以及负责任的管理，它管理数据的负责任收集，使用和存储以及从这些数据中做出的决策。最后，我们对研究人员、开发人员、运营商以及监管机构和立法者提出了建议。
2021-07-29 cs.AI cs.CY
Building babyGPTs: Youth Engaging in Data Practices and Ethical Considerations through the Construction of Generative Language Models
本研究通过案例研究证明青少年能够参与构建生成式语言模型，并在此过程中实践数据技能与伦理思考。
2025-04-20 cs.CY cs.HC
No General Code of Ethics for All: Ethical Considerations in Human-bot Psycho-counseling
本文针对人机心理咨询提出了专门的期望性伦理原则，通过考察EVA2.0、GPT-3.5和GPT-4.0在心理咨询中的表现，发现大语言模型虽在遵守常规伦理准则上有所进步，但在危机处理、减少误导性回复及鼓励内省方面仍需改善。
2024-04-22 cs.CY cs.HC
Persuasion Meets AI: Ethical Considerations for the Design of Social Engineering Countermeasures
Facebook或Instagram等社交网站的隐私与人们的自我披露决定以及他们预见与大量不同受众分享个人信息的后果的能力密切相关。尽管如此，在线隐私决策往往基于虚假的风险判断，使人们容易向不受信任的接收者透露敏感数据，并成为社会工程攻击的受害者。人工智能（AI）与说服机制（如轻推）相结合，是促进SNS用户预防性隐私行为的一种有前途的方法。然而，结合行为干预与高水平的个性化可以是一个潜在的威胁，人们的机构和自主权，即使应用到社会工程对策的设计。本文详细阐述了推动机制可能对基于人工智能的对策的发展带来的伦理挑战，特别是对解决SNS中不安全的自我披露做法的挑战。总体而言，它赞同制定个性化的风险意识解决方案，作为i）一种道德方法来抵制社会工程，以及ii）作为促进反思隐私决策的有效手段。
2020-09-27 cs.CY cs.HC cs.SI
Ethical considerations in an online community: the balancing act
随着社交媒体的出现和快速增长，一些国家的政府部门已经将社交媒体作为与其选民互动的特权渠道。我们正在与澳大利亚人类服务部合作，探讨是否可能利用社交网络的潜力来支持特定的公民群体。为此，我们开发了一个在线社区Next Step，帮助目前领取福利金的人找到工作，实现经济自给自足。在本文中，我们探讨了当政府直接与公民接触时，特别是与处于困境的社区接触时，以及当研究人员参与时所出现的一些伦理问题。我们描述了我们面临的一些挑战以及我们如何应对这些挑战。我们的工作突出了问题的复杂性，当一个网上社区涉及一个政府部门和一个与该部门有依赖关系的福利受助群体时。它成为一种平衡行为，需要确保社区成员的隐私，同时仍然履行政府的法律责任。虽然困难，但如果政府要使用社交媒体与公民互动，这些问题必须得到解决。
2013-11-15 cs.CY
Adaptive reinforcement learning of multi-agent ethically-aligned behaviours: the QSOM and QDSOM algorithms
Univ Lyon（里昂大学）；UCBL（里昂第一大学）；CNRS（法国国家科学研究中心）；INSA Lyon（里昂国立应用科学学院）；Centrale Lyon（里昂中央理工学院）；Univ Lyon 2（里昂第二大学）；LIRIS（里昂信息与图像系统实验室）；Institut Henri Fayol（亨利·法约尔研究所）；MINES Saint-Etienne（圣艾蒂安国立高等矿业学院）；CONFLUENCE: Sciences et Humanités research unit (EA 1598)（汇流：科学与人文研究单元（EA 1598））；Lyon Catholic University（里昂天主教大学）
本文提出QSOM和QDSOM两种自适应强化学习算法，通过结合Q-Table与自组织映射处理多维连续空间，使多智能体系统能适应代表伦理考量的动态奖励函数变化，并在智能电网能量分配中验证了其优于基线的性能。
2023-07-02 cs.AI cs.CY cs.LG
Ethical and Privacy Considerations with Location Based Data Research
针对人类移动性研究扩张带来的隐私与伦理风险，该研究回顾118篇含149个个体移动性数据集的相关论文，发现现有研究未统一遵循数据治理与传播准则，并就领域内伦理隐私处理展开讨论。
2024-02-11 cs.CY
Introducing ELLIPS: An Ethics-Centered Approach to Research on LLM-Based Inference of Psychiatric Conditions
Aarhus University（奥胡斯大学）；Hugging Face；Delft University of Technology（代尔夫特理工大学）
本文针对基于语言模型推断精神疾病研究的伦理不足问题，提出七项核心伦理原则并开发为ELLIPS伦理工具包，以指导模型开发全流程，推动具有现实临床适用性的技术发展。
2024-09-06 cs.AI cs.CY
"Model Cards for Model Reporting" in 2024: Reclassifying Category of Ethical Considerations in Terms of Trustworthiness and Risk Management
本文提议将“模型卡片”中的伦理考量类别重新分类为可信度与风险管理两部分，以反映可信AI领域的最新进展，从而促进模型透明报告与算法属性评估。
2024-02-15 cs.CY cs.LG
Living Labs - An Ethical Challenge for Researchers and Platform Providers
臭名昭著的Facebook情绪传染实验是最著名的在线实验之一，基于我们在这里所说的“生活实验室”的概念。在这类实验中，真实世界的应用程序（如社交网络平台）会触发系统内部的实验开关，向用户展示实验性的变化--大多数情况下，用户都没有意识到自己是虚拟豚鼠。在Facebook的例子中，研究人员改变了用户个人时间轴的编制方式，以测试对用户情绪和感受的影响。对这些实验的反应显示了这种生活实验室设置带来的固有伦理问题，主要是研究缺乏知情同意程序，以及对实验设计缺陷的更普遍的批评。在本章中，我们描述了其他用例：所谓的生活实验室，专注于搜索引擎和wiki等信息系统的实验，特别是它们在现实世界中的使用。生活实验室范式允许研究人员在现实世界的环境或系统中进行研究。在信息科学领域，特别是信息检索（其是与搜索引擎、信息系统以及搜索相关算法和技术的研究有关的科学学科）中，使用静态测试集合来执行体外或离线评估仍然是常见的做法。这些领域的学术研究人员普遍不了解或无法使用活体实验室。生活实验室的一个主要好处是，它们有可能为信息系统尤其是其用户的实验提供新的方法和可能性，但另一方面，它们也引入了一系列我们想在本章中讨论的伦理问题。
2017-06-22 cs.CY cs.IR
Ethical Considerations Towards Protestware
本文探讨了开源第三方库演变为抗议软件带来的安全与伦理风险，并利用人工智能伦理框架分析了维护者抗议决策受社区身份、个人观点、财务动机、社会地位和道德观点等多重利益相关者因素的影响。
2024-01-05 cs.CR cs.CY cs.SE
Achieving a Data-driven Risk Assessment Methodology for Ethical AI
人工智能领域需要考虑一系列广泛的法律、道德和社会因素，以开发维护人类价值观和权利的道德人工智能（eAI）解决方案。目前，有各种指导方针和少数专门工具来应对和应对个别挑战。然而，许多组织在从风险管理的角度把握这些因素方面面临着实际挑战，这一点也是公认的。因此，需要新的方法来提供一个经过严格审查和现实世界适用的结构和路径，通过道德评估和指导人工智能发展所需的制衡。在本文中，我们表明，跨学科的研究方法，跨越横截面的观点，是使用人工智能的组织所面临的道德和社会风险的实用定义的基础。同样重要的是跨结构治理的结果，以成功地实施eAI。基于我们的多学科研究调查获得的证据，我们提出了一种新的数据驱动的风险评估方法，名为DRESS-eAI。此外，通过对我们的方法实施的评估，我们证明了其作为在数据驱动的人工智能时代维持人类价值的工具的最先进的相关性。
2021-11-29 cs.CY
Trustworthiness of Legal Considerations for the Use of LLMs in Education
College of Information Technology（信息科技学院）；Brunel University of London（伦敦布鲁内尔大学）；Ahlia University（阿利亚大学）
本文通过比较全球主要地区（欧盟、英国、美国、中国、海湾合作委员会国家）的AI监管框架，提出针对海湾合作委员会国家的合规中心AI治理框架，以促进教育中AI系统的合法、伦理和文化适应性部署。
2026-02-12 cs.AI cs.CY
Toward equipping Artificial Moral Agents with multiple ethical theories
Computer Science Department, University of Cape Town（开普敦大学计算机科学系）；University of Cape Town（开普敦大学）
人工道德代理（Artificial Moral Agents，AMA）是计算机科学中的一个领域，其目的是创建能够做出类似于人类行为的道德决策的自主机器。研究人员提出了创造这种机器的理论方法，而哲学家则对这些机器应该如何运作，或者它们是否应该存在进行了争论。在目前理论化的AMA中，所有的研究和设计都是在没有或至多有一个特定的规范伦理理论作为基础的情况下完成的。这是有问题的，因为它缩小了AMA的功能能力和多功能性，这反过来又导致了少数人同意的道德结果（从而破坏了AMA在人类意义上的道德能力）。作为解决方案，我们设计了一个三层模型的一般规范的道德理论，可用于序列化的人和企业的道德观点的AMA在推理过程中使用。四个具体的道德规范（康德主义，神的命令理论，功利主义和利己主义）进行了建模和评估的概念证明规范建模。此外，所有模型都被序列化为XML/XSD，作为支持计算机化的证明。
2020-03-02 cs.AI cs.CY
Considerations for Ethical Speech Recognition Datasets
Sony AI（索尼人工智能）
本研究以自动语音识别为案例，分析当前语音AI数据集采集忽视数据主体保护与用户需求、引发模型歧视的问题，提出伦理型语音数据集的构建要求，旨在推动人文导向的数据集设计，兼顾用户权益与模型性能提升。
2023-05-03 cs.CL cs.CY cs.SD
Canada Protocol: an ethical checklist for the use of Artificial Intelligence in Suicide Prevention and Mental Health
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Montreal AI Ethics Institute（蒙特利尔人工智能伦理研究所）；Microsoft（微软）
简介：为了改善当前自杀预防和心理健康方面的公共卫生战略，政府、研究人员和私营公司越来越多地使用信息和通信技术，更具体地说，是人工智能和大数据。这些技术很有前途，但提出了目前法律制度很少涵盖的道德挑战。必须更好地识别和预防潜在的道德风险。目的：MHSP是一个工具，用于指导和支持专业人员，用户和研究人员在心理健康和自杀预防中使用AI。方法：根据十份关于人工智能和伦理学的国际报告以及两份关于心理健康和新技术的指南构建了一份清单。确定了329项建议，其中43项被认为适用于精神健康和人工智能。通过两轮德尔菲咨询，对该检查表进行了验证。结果：16名专家参加了第一轮专家咨询，8名专家参加了第二轮专家咨询。在原有的43项中，保留了38项。它们涉及五个类别：“自主智能系统的描述”（n=8），“隐私和透明度”（n=8），“安全性”（n=6），“健康相关风险”（n=8），“偏见”（n=8）。大多数用户认为该清单是相关的，可能需要针对每一类目标用户量身定制版本。
2019-07-17 cs.AI cs.CR cs.CY
On the Current and Emerging Challenges of Developing Fair and Ethical AI Solutions in Financial Services
Columbia University（哥伦比亚大学）；Parity；J. P. Morgan（摩根大通）
人工智能（AI）在金融服务行业中的应用越来越多，越来越重要，这使得公平和道德的AI成为整个行业的目标。虽然近年来发布了许多道德原则和指南，但它们无法解决模型开发人员在构建道德AI解决方案时面临的严重挑战。我们调查了围绕模型开发的实际和总体问题，从设计和实现的复杂性，到工具的短缺，以及组织结构的缺乏。我们展示了实际考虑如何揭示高级原则与具体部署的AI应用程序之间的差距，旨在启动全行业的解决方案对话。
2021-11-02 cs.AI cs.CE cs.CY
Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis
School of Computing and Informatics（计算与信息学学院）；University of Louisiana at Lafayette（路易斯安那州立大学拉法叶分校）
本研究通过主题建模和情感分析，探讨心理健康应用用户评论中的伦理问题，揭示现有伦理原则的不足及新兴伦理挑战。
2026-02-04 cs.CL cs.CY cs.HC
Ethical considerations of use of hold-out sets in clinical prediction model management
University of Edinburgh（爱丁堡大学）；Durham University（杜伦大学）；The Alan Turing Institute（艾伦·图灵研究所）；MRC Human Genetics Unit（医学研究委员会人类遗传学单元）
本文探讨了在临床预测模型管理中使用留出集以应对表演性预测问题的伦理考量，重点分析了行善、不伤害、自主和公正等原则，并为研究人员提供了实施留出集的实用建议。
2024-06-05 cs.CY cs.LG
Ethics Whitepaper: Whitepaper on Ethical Research into Large Language Models
University of Edinburgh（爱丁堡大学）；Heriot-Watt University（赫瑞-瓦特大学）
本白皮书面向LLMs研究与应用中的伦理问题，系统梳理相关伦理考量，并为研究人员和产业界提供伦理开发、部署与使用的最佳实践指南。
2024-10-17 cs.CL cs.CY
The Moral Consideration of Artificial Entities: A Literature Review
伦理学家、政策制定者和公众都质疑机器人等人工实体是否值得权利或其他形式的道德考虑。迄今为止，关于这一主题的综合研究很少。我们确定了294个相关的研究或讨论项目，在我们的文献综述这一主题。学者们普遍认为，一些人造实体即使不是现在也可以在未来得到道德考虑。理由各不相同，例如对人工实体的影响的关注和对人类社会的影响的关注。除了传统的结果主义，义务论和美德伦理学的伦理框架，一些学者鼓励“信息伦理学”和“社会关系”的方法，虽然有机会更深入的道德研究的细微差别的道德考虑的人工实体。相关的经验数据汇集有限，主要是在一些关于人类对机器人和其他人造实体的当前道德和社会态度的心理学研究中。这表明社会科学研究在人工实体如何融入社会以及决定如何考虑有感知的人工实体的利益的因素方面存在重要差距。
2021-01-26 cs.CY
Saving Face: Investigating the Ethical Concerns of Facial Recognition Auditing
虽然对揭示有偏见的表现至关重要，但善意的算法审计尝试可能会产生影响，可能会损害这些措施旨在保护的人群。在审计面部识别等生物识别系统时，这种担忧更加突出，因为这些系统的数据非常敏感，而且该技术经常以道德上有问题的方式使用。我们在审计商业面部处理技术的特定情况下展示了一组五个道德问题，强调了审计师需要注意的其他设计考虑和道德紧张局势，以免加剧或补充被审计系统传播的危害。我们进一步提供这些问题的具体说明，并通过反思这些问题对算法审计的作用以及它们揭示的基本产品限制意味着什么来结束。
2020-01-03 cs.CY
The Ethical Implications of Generative Audio Models: A Systematic Literature Review
Northwestern University（西北大学）
本文系统综述884篇生成式音频模型论文，发现65%提及积极影响而不足10%讨论负面影响，并揭示欺诈、深度伪造与版权侵权等伦理风险。
2023-07-07 cs.CY cs.LG cs.SD
On the Emerging Area of Biocybersecurity and Relevant Considerations
生物网络安全是21世纪的一个新领域，它与我们在生物技术和计算领域的创新正面相遇。在这个领域中，许多考虑因素都是开放的，并且需要考虑，因为团体努力开发产品和政策，以充分确保资产管理和保护。在这里，简单和简要的探讨，然后一些表面的影响讨论。这些影响涉及最终用户、道德和法律考虑、国际诉讼、商业和限制。希望这将有助于未来对生物网络安全政策的制定和实施的考虑。通知：本文已排队等待在2020年信息与通信未来会议（FICC）的会议记录中发表
2020-03-25 cs.CY
Ethics Pathways: A Design Activity for Reflecting on Ethics Engagement in HCI Research
本文提出伦理路径（Ethics Pathways）设计活动，通过四项任务帮助HCI研究者反思伦理参与，强调情感、权力互动与制度目标的关联。
2024-05-26 cs.CY cs.HC
Beyond the Individual: A Community-Engaged Framework for Ethical Online Community Research
针对在线社区研究可能造成的社区层面危害，本文通过9场工作坊调研四个关键社区，并提出FACTORS伦理研究框架，帮助研究者与社区识别和落实互惠、监督等功能。
2025-03-17 cs.CY cs.HC cs.SI
Actually, It's About Ethics in Computational Social Science: A Multi-party Risk-Benefit Framework for Online Community Research
管理者经常面临一个复杂的道德困境，即如何通过评估不同社会或技术策略的有效性来最好地管理在线社区。当研究人员和管理人员采用因果研究方法，使不同的社区成员在不同程度的同意下承担不同的风险和利益时，应该有哪些伦理考虑来指导他们？我们引入了一个结构框架，用于评估具有多个相互作用方的社会系统中的风险和收益流。这一框架对理解管理社会技术系统的治理机制、使研究伦理讨论更加合理以及列举研究人员可能通过干预措施追求的替代目标具有重要意义。
2015-11-20 cs.CY
