Minimum Viable Ethics: From Institutionalizing Industry AI Governance to Product Impact
本研究通过访谈26位行业AI伦理从业者,揭示企业伦理落地的挑战与策略,指出当前形成的“最低可行伦理”存在局限,未来监管或可弥补不足。
2024-09-11 cs.CY cs.HC
Interoperability in AI Safety Governance: Ethics, Regulations, and Standards
United Nations University Institute in Macau(联合国大学澳门研究所)
本报告通过比较四个国家在自动驾驶、教育和跨境数据流动领域的伦理、法律和技术框架,提出促进人工智能安全治理互操作性的政策建议。
2026-01-06 cs.AI cs.CY
Artificial Intelligence Governance and Ethics: Global Perspectives
Chinese University of Hong Kong(香港中文大学)
人工智能(AI)是一种在全球社会和经济中越来越多地使用的技术,其实施计划在未来几年变得更加普遍。人工智能越来越多地嵌入我们的生活,补充了我们对数字技术的普遍使用。但这也伴随着对人工智能有问题和危险的实施的担忧,甚至是人工智能本身决定采取危险和有问题的行动,特别是在军事、医学和刑事司法等领域。这些发展导致了人们对人工智能系统是否以及如何遵守道德标准的担忧。这些问题激发了关于人工智能伦理的全球对话,并导致来自不同国家和部门的各种参与者发布人工智能的伦理和治理倡议和指南。这些发展构成了我们在本报告中研究的基础,结合我们的国际和跨学科专业知识,深入了解澳大利亚,中国,欧洲,印度和美国正在发生的事情。
2019-06-28 cs.AI cs.CY cs.LG
AI Governance and Ethics Framework for Sustainable AI and Sustainability
人工智能正在迅速改变现有的技术格局,使数据知情决策和自主决策成为可能。与任何其他技术不同,由于人工智能的决策能力,道德和治理成为一个关键问题。人工智能给人类带来了许多新的风险,例如自动化武器、自动化引发的失业、社会经济不平等、数据和算法造成的偏见、侵犯隐私和深度伪造。社会多样性、公平和包容被认为是人工智能降低风险、创造价值和推动社会正义的关键成功因素。可持续发展成为一个与人工智能纠缠在一起的广泛而复杂的话题。许多组织(政府、企业、非营利组织、慈善机构和非政府组织)都有多样化的战略,推动人工智能实现业务优化和社会与环境正义。伙伴关系和合作对于公平和包容多样化和分散的人员、数据和能力变得比以往任何时候都重要。因此,在我们迈向人工智能可持续未来的过程中,我们需要将人工智能伦理和治理作为优先事项。这些人工智能伦理和治理应该以人类伦理为基础。
2022-09-28 cs.CY
Worldwide AI Ethics: a review of 200 guidelines and recommendations for AI governance
Pontifical Catholic University of Rio Grande do Sul(南里奥格兰德州天主教大学);University of Bonn(波恩大学);University of Johannesburg(约翰内斯堡大学)
本文对全球200项AI治理政策和伦理指南进行元分析,识别出17项普遍原则,为未来AI监管提供共识基础与开源工具。
2024-02-19 cs.AI cs.CY
The Ethics of Artificial Intelligence in Military Operations
针对军事AI的伦理挑战,提出包含问责角色、对抗性审计和分级部署的治理框架,强调制度基础设施对保持人类判断的关键作用。
2026-09-23 cs.AI cs.CY cs.HC
Opacity as a Feature, Not a Flaw: The LoBOX Governance Ethic for Role-Sensitive Explainability and Institutional Trust in AI
University of Granada(格拉纳达大学);ADIA Lab(ADIA实验室);University Pontificia de Comillas(科米利亚斯宗座大学)
针对AI无法实现完全透明的问题,本文提出LoBOX治理伦理框架,通过三阶段路径与利益相关方敏感的可解释模型,以制度问责构建信任,为不透明性治理提供可扩展的替代方案。
2025-05-18 cs.CY
Operationalising AI governance through ethics-based auditing: An industry case study
本研究通过对AstraZeneca为期12个月的纵向行业案例研究,揭示大型跨国企业开展基于伦理的AI审计(EBA)面临的经典治理类挑战,填补了EBA实践可行性与有效性的实证研究空白。
2024-07-07 cs.CY
Postmortem avatars in grief therapy: Prospects, ethics, and governance
Center for Philosophy of Artificial Intelligence, University of Copenhagen(哥本哈根大学人工智能哲学中心);Department of Computer Science, University of Copenhagen(哥本哈根大学计算机科学系)
本文探讨了临终虚拟形象在哀伤治疗中的伦理问题,提出将其融入传统意象练习及作为艺术治疗的潜在应用,分析了伦理争议并指出需进一步研究以评估其风险与潜力。
2026-04-14 cs.CY
Beyond Procedural Compliance: Human Oversight as a Dimension of Well-being Efficacy in AI Governance
University College Dublin(都柏林大学学院)
本文提出将人类监督视为AI治理中的福祉能力,强调通过教育体系培养这种能力以实现安全和道德的人工智能发展。
2025-12-15 cs.AI cs.CY cs.HC
In Oxford Handbook on AI Governance: The Role of Workers in AI Ethics and Governance
本章通过构建包含识别、治理决策与响应的危害报告模型,分析工人凭借从属、劳动产品控制和系统近端知识提出管辖权主张,阐明其在AI伦理治理中识别与缓解危害的独特作用。
2021-08-05 cs.CY
Towards a Governance Framework for Brain Data
在生物医学领域内外,大脑数据的可用性越来越高,再加上人工智能(AI)在大脑数据分析中的应用,对伦理和治理提出了挑战。我们确定了大脑数据采集和处理的独特伦理含义,并概述了多层次的治理框架。该框架旨在最大限度地提高促进大脑数据收集和进一步处理对科学和医学的好处,同时最大限度地降低风险并防止有害使用。该框架包括监管干预的四个主要领域:具有约束力的监管、道德和软法律、负责任的创新以及人权。
2021-09-28 cs.CY q-bio.NC
Institutionalising Ethics in AI through Broader Impact Requirements
Institute for Ethics in AI, University of Oxford(牛津大学人工智能伦理研究所);Future of Humanity Institute, University of Oxford(牛津大学人类未来研究所);University of Oxford(牛津大学)
将原则转化为实践是人工智能(AI)治理最紧迫的挑战之一。在这篇文章中,我们反思了世界上最大的人工智能会议之一的一项新的治理倡议。2020年,神经信息处理系统会议(NeurIPS)引入了一项要求,要求提交论文的作者就其研究的更广泛社会影响发表声明。借鉴类似治理举措的见解,包括机构审查委员会(IRB)和资金申请的影响要求,我们调查了此类举措的风险,挑战和潜在好处。在这些挑战中,我们列出了缺乏公认的最佳实践和程序透明度,研究人员的机会成本,机构和社会压力,认知偏见,以及任务的固有困难性质。另一方面,潜在的好处包括改进对影响的预测和确定,与政策和治理专家更好地沟通,以及全面加强负责任研究的规范。为了最大限度地提高成功的机会,我们建议采取措施,增加透明度,改善指导,创造激励措施,以认真参与这一过程,并促进公众对要求的优点和未来的审议。也许这项分析最重要的贡献是我们可以获得关于有效的社区治理以及更广泛的人工智能研究社区的角色和责任的见解。
2021-05-30 cs.AI cs.CY
Challenges and Best Practices in Corporate AI Governance:Lessons from the Biopharmaceutical Industry
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究院);Center for Information Technology Policy, Princeton University(普林斯顿大学信息技术政策中心);AstraZeneca(阿斯利康);University of Bologna(博洛尼亚大学)
本文基于AstraZeneca的一手经验,分析企业AI治理落地面临的范围界定、标准统一、效果衡量等挑战,提出依托现有治理结构、聚焦风险管理、赋能员工等可推广的最佳实践。
2024-07-07 cs.AI cs.CY
Consent Chain Degradation in Embodied Multi-Agent Systems: Bridging the Gap Between AI Agent Governance and Robot Ethics
Artificial Intelligence Institute, TÜBİTAK BİLGEM(人工智能研究所,TÜBİTAK BİLGEM)
本文提出同意链退化(CCD)概念,探讨多机器人委托链中人类同意的具体性、有效性及范围如何退化,并通过医疗、家庭和工业机器人场景展示其实际表现,分析现有法规对CCD核心维度的缺失。
2026-04-17 cs.AI cs.CY cs.MA
Principles alone cannot guarantee ethical AI
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究所);the Alan Turing Institute(阿兰·图灵研究所)
人工智能伦理现在是学术界和政策界讨论的一个全球性话题。至少有84个公私合作项目发表了声明,描述了指导人工智能道德发展、部署和治理的高级原则、价值观和其他原则。根据最近的荟萃分析,人工智能伦理学似乎已经汇聚了一套与医学伦理学的四个经典原则非常相似的原则。尽管通过与医学伦理学原则的联系,人工智能伦理学的原则性方法最初获得了可信度,但有理由担心其对人工智能发展和治理的未来影响。医学和人工智能开发之间存在显着差异,这表明后者的原则性方法可能无法与前者相比。与医学相比,人工智能的发展缺乏(1)共同的目标和受托责任,(2)专业历史和规范,(3)将原则转化为实践的成熟方法,以及(4)强大的法律和专业问责机制。这些分歧表明,我们还不应该庆祝围绕隐藏着深刻的政治和规范分歧的高级别原则达成的共识。
2020-02-18 cs.AI cs.CY
AI Regulation and Capitalist Growth: Balancing Innovation, Ethics, and Global Governance
Capitol Technology University(国会科技大学);Rutgers University(罗格斯大学);Texas A&M University - Central Texas(德州农工大学中央德克萨斯分校)
本文探讨AI监管与资本主义增长的平衡,分析数据隐私法规对创新的影响,认为适度监管能促进可持续增长,过度监管则可能扼杀创新。
2025-04-01 cs.AI cs.CY cs.ET
Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers
机器学习(ML)和人工智能(AI)研究人员在AI的伦理和治理方面发挥着重要作用,包括采取行动反对他们认为不道德的AI使用(Belfield,2020; Van Noorden,2020)。然而,这个有影响力的群体的态度并没有得到很好的理解,这削弱了我们辨别AI/ML研究人员之间共识或分歧的能力。为了研究这些研究人员的观点,我们对那些在顶级AI/ML会议上发表文章的人进行了调查(N = 524)。我们将这些结果与2016年对AI/ML研究人员的调查(Grace,Salvatier,Dafoe,Zhang和Evans,2018)以及2018年对美国公众的调查(Zhang和Dafoe,2020)进行了比较。我们发现,AI/ML研究人员高度信任国际组织和科学组织,以塑造AI的开发和使用,以符合公共利益;对大多数西方科技公司的信任度中等;对国家军队,中国科技公司和Facebook的信任度较低。虽然受访者压倒性地反对AI/ML研究人员研究致命的自主武器,但他们不太反对研究AI的其他军事应用,特别是物流算法。绝大多数受访者认为应该优先考虑人工智能安全研究,机器学习机构应该进行出版前审查,以评估潜在的危害。由于更接近技术本身,人工智能/机器学习研究人员能够很好地突出新的风险并开发技术解决方案,因此这种衡量他们态度的新尝试具有广泛的相关性。这些发现应该有助于改善研究人员、私营部门高管和政策制定者对人…
2021-05-05 cs.CY
Ethics by Design: A Lifecycle Framework for Trustworthy AI in Medical Imaging From Transparent Data Governance to Clinically Validated Deployment
本文提出医学影像AI全生命周期伦理框架,系统分析数据收集、处理、模型训练、评估和部署五阶段的隐私、公平、透明、问责与自主性问题,并给出针对性伦理策略以构建可信AI系统。
2025-07-06 cs.CY cs.ET
The Contestation of Tech Ethics: A Sociotechnical Approach to Technology Ethics in Practice
University of Michigan(密歇根大学)
本文介绍了特刊《行动中的技术伦理:批判性和跨学科的观点》。为了回应最近关于数字技术危害的争议,“技术伦理”的话语和实践在科技行业、学术界、民间社会和政府中激增。然而,尽管道德似乎有希望,但技术道德在实践中受到几个重大限制:技术道德模糊而无力,目光短浅地关注个别工程师和技术设计,并被纳入企业逻辑和激励机制。这些局限性表明,技术伦理使企业能够“道德洗涤”:拥抱道德语言来化解批评和抵制政府监管,而不承诺道德行为。鉴于这些动态,我将技术伦理描述为一个争论的领域,核心辩论不是伦理是否可取,而是“伦理”包含什么以及由谁来定义它。当前的技术伦理方法准备让技术人员和技术公司在不实质性改变其实践的情况下将自己贴上“伦理”的标签。因此,那些致力于数字技术结构性改进的人必须注意到伦理学作为一种规范性探究模式与伦理学作为一种实践努力之间的差距。为了更好地评估技术伦理的机会和局限性,我提出了一种社会技术方法,根据谁定义它以及它在实践中产生的影响来分析技术伦理。
2022-02-01 cs.AI cs.CY
Approaches to Responsible Governance of GenAI in Organizations
Vector Institute for Artificial Intelligence(向量人工智能研究所);Western University(西部大学)
本文针对生成式 AI 在伦理和问责方面的挑战,通过文献综述与行业讨论提出了组织内负责任的 GenAI 治理核心原则,并发布了 ResAI 指南以平衡创新与风险监督。
2025-09-14 cs.AI cs.CY cs.LG
Operationalizing Ethics for AI Agents: How Developers Encode Values into Repository Context Files
Singapore Management University(新加坡管理大学);Ruprecht-Karls-Universität Heidelberg(海德堡大学);University of Melbourne(墨尔本大学)
本文探讨开发者如何通过仓库上下文文件将伦理原则转化为AI代理的行为指令,分析价值观编码的多样性及治理动态,为AI治理提供软件工程实践基础。
2026-05-07 cs.CY cs.SE
Using street view images and visual LLMs to predict heritage values for governance support: Risks, ethics, and policy implications
RISE Research Institutes of Sweden AB(瑞典RISE研究机构);Malmö University(马尔默大学);Forschungszentrum Jülich GmbH(朱利奇研究中心);Uppsala University(乌普萨拉大学)
本研究利用街景图像和视觉大语言模型评估瑞典建筑遗产价值,以支持建筑翻新计划的制定,探讨了方法中的问题、潜在改进以及使用LLM数据的伦理风险。
2026-06-03 cs.AI cs.CV cs.CY
Building the ethical AI framework of the future: from philosophy to practice
Graduate School of Global Studies(全球研究研究生院);Tokyo University of Foreign Studies(东京外国语大学);AI Product Development Division(人工智能产品开发部门);Money Forward, Inc.(Money Forward公司)
本文提出了一种伦理设计控制架构,通过三重闸门机制整合后果论、义务论和美德伦理,为AI生命周期提供可执行的治理方案。
2026-02-16 cs.AI cs.CY
Transfeminist AI Governance
本研究从跨性别女性主义视角出发,结合批判性自反性方法重审AI治理实证研究,指出现有体系偏向产业、存在权力失衡等局限,提出以跨性别女性主义伦理重构AI治理以推进公平。
2025-03-19 cs.CY
Responsible AI Pattern Catalogue: A Collection of Best Practices for AI Governance and Engineering
Data61, CSIRO(联邦科学与工业研究组织数据61研究所)
本文基于多声部文献综述提出负责任AI模式目录,从系统层面归纳治理、流程与产品设计模式,为AI全生命周期落地负责任AI提供可操作指导。
2023-09-28 cs.AI cs.CY cs.SE
Ethics Practices in AI Development: An Empirical Study Across Roles and Regions
本文通过实证研究探讨人工智能开发中不同角色和地区在伦理实践方面的差异,提出定制化解决方案以促进伦理意识。
2026-08-13 cs.AI cs.CY cs.HC
Ethics-Based Auditing of Automated Decision-Making Systems: Intervention Points and Policy Implications
组织越来越多地使用自动决策系统(ADMS)来为影响人类及其环境的决策提供信息。虽然使用ADMS可以提高决策过程的准确性和效率,但它也伴随着道德挑战。不幸的是,目前用于监督人类决策的治理机制在应用于ADMS时经常失败。在以前的工作中,我们提出,基于道德的审计(EBA),即一个结构化的过程,通过它ADMS评估与相关原则或规范的一致性,可以(a)帮助组织验证其ADMS的索赔和(b)提供决策主体与ADMS产生的输出的理由。在这篇文章中,我们概述了EBA程序在实践中可行和有效的条件。首先,我们认为,EBA是最好的理解为“软”,但“正式”的治理机制。这意味着审计员的主要责任应该是在整个软件开发过程的关键干预点激发道德方面的审议,并确保有足够的文件来回应可能的询问。其次,我们将ADMS框架作为更大的社会技术系统的一部分,以证明EBA程序必须链接到跨越组织治理的所有级别和软件生命周期的所有阶段的干预点才是可行和有效的。因此,EBA的主要功能应该是为现有的治理结构提供信息、使其正规化、进行评估并使其相互联系。最后,我们讨论了我们的研究结果的政策含义。为了支持可行和有效的EBA程序的出现,政策制定者和监管机构可以提供标准化的报告格式,促进知识交流,就如何解决规范紧张局势提供指导,并建立一个独立的机构来监督ADMS的EBA。
2021-11-08 cs.CY
Ethics-Based Auditing of Automated Decision-Making Systems: Nature, Scope, and Limitations
影响人类生活、生计和自然环境的重要决策越来越自动化。将任务委托给所谓的自动决策系统(ADMS)可以提高效率并实现新的解决方案。然而,这些好处伴随着道德挑战。例如,ADMS可能产生歧视性结果,侵犯个人隐私,破坏人类自决。因此,需要新的治理机制来帮助组织以符合道德的方式设计和部署ADMS,同时使社会能够获得自动化的全部经济和社会效益。在这篇文章中,我们认为道德为基础的审计(EBA)的可行性和有效性作为一种治理机制,允许组织验证有关其ADMS的索赔。在以往工作的基础上,我们将EBA定义为一个结构化的过程,通过该过程,评估一个实体目前或过去的行为是否符合相关原则或规范。然后,我们提供三个现有的文献贡献。首先,我们提供了一个理论解释如何EBA可以通过促进程序的规范性和透明度,以促进良好的治理。其次,我们提出了七个标准,如何设计和实施EBA程序成功。第三,我们确定和讨论的概念,技术,社会,经济,组织和机构的限制与EBA。我们的结论是,EBA应被认为是一个不可分割的组成部分,多方面的方法来管理ADMS所带来的道德风险。
2021-10-21 cs.CY cs.SE
Languaging Ethics in Technology Practice
本文以语言化为分析视角,通过十二位从业者的共创工作坊研究技术与设计从业者如何在日常工作中协商伦理,揭示其伦理表达的核心信念、生态影响因素及不可逾越的边界,并为技术伦理研究、实践和教育提供新思路。
2023-04-12 cs.CY cs.HC
Technology Ethics in Action: Critical and Interdisciplinary Perspectives
本期特刊探讨了“技术伦理”的含义和影响:将伦理嵌入数字技术的研究、开发、使用和治理。为了应对与数字技术相关的社会危害,许多个人和机构都明确表示需要更加重视数字技术中的道德。然而,随着越来越多的团体接受伦理的概念,批判性的话语已经出现,质疑谁的伦理是中心,“伦理”是否是改进技术的适当框架,以及在实践中发展“伦理”技术意味着什么。这个跨学科的问题采取了这些问题,询问道德,技术和社会之间的关系在行动中。这个特殊的问题涉及道德本身的规范和有争议的概念,道德如何与跨领域的技术相结合,以及支持更公正和平等的技术的潜在途径。本期作者没有从哲学理论出发,而是围绕现实世界的话语和技术伦理的影响来定位他们的文章--即,科技道德在行动
2022-05-21 cs.AI cs.CY
AI Safety, Alignment, and Ethics (AI SAE)
本文提出将道德规范作为进化适应机制嵌入AI系统,通过治理-嵌入-表征流程和道德问题空间,利用稀疏自编码器等技术实现可操作道德表征,以维持人机合作。
2025-10-16 cs.CY
AI Ethics Education in India: A Syllabus-Level Review of Computing Courses
BITS Pilani, KK Birla Goa Campus(比拉理工学院KK比尔拉果阿校区)
本研究审查印度计算课程大纲中AI伦理的覆盖情况,发现其多作为次要模块存在,且内容有限,提出加强AI伦理教育的建议。
2025-09-26 cs.CY
Do We Run How We Say We Run? Formalization and Practice of Governance in OSS Communities
本研究通过分析Apache孵化器208个项目的邮件列表,发现开源社区虽广泛遵循正式治理政策,但日常治理重点与政策制定主题脱节,且正式化对项目持续性影响有限。
2023-09-25 cs.CY cs.HC cs.SE
From the Ground Truth Up: Doing AI Ethics from Practice to Principles
最近的人工智能伦理学专注于将抽象的原则向下应用于实践。这篇论文的方向正好相反。伦理见解是从人工智能设计师处理有形人类问题的生活经验中产生的,然后向上循环,影响围绕这些问题的理论辩论:1)应该通过可解释性或准确的性能来寻求人工智能的可靠性吗?2)人工智能到底应该被认为是值得信赖的,还是可靠性是一个更可取的目标?3)人工智能伦理应该以保护用户为导向,还是以促进创新为导向?具体的答案不如更大的证据那么重要,即人工智能伦理目前对理论原则不平衡,并且将受益于更多地接触接地实践和困境。
2022-01-05 cs.CY
German AI Start-Ups and AI Ethics: Using A Social Practice Lens for Assessing and Implementing Socio-Technical Innovation
在当前的人工智能伦理话语中,关于理解人工智能从业者如何理解伦理和社会组织以实现伦理问题的实证研究存在差距,特别是在人工智能初创企业的背景下。这种差距加剧了学术研究、创新和应用之间脱节的风险。随着识别和减轻人工智能系统潜在危害的压力越来越大,迫切需要评估和实施社会技术创新,以实现公平、问责和透明度,这种风险变得越来越严重。在社会实践理论的基础上,我们通过一个框架来解决这一需求,该框架允许人工智能研究人员,从业者和监管机构系统地分析现有的文化理解,历史和道德人工智能的社会实践,以确定有效实施社会技术创新的适当策略。我们的贡献有三个方面:1)我们引入了一种基于实践的方法来理解道德AI; 2)我们提出了我们对德国AI初创企业道德操作化研究的实证结果,以强调必须在特定的文化和历史背景下理解AI道德和社会实践; 3)根据我们的实证研究结果,我们建议道德人工智能实践可以分解为原则,需求,叙述,物化,和文化谱系,以形成一个有用的背景,考虑社会技术创新。
2022-06-20 cs.CY
Data Governance for Platform Ecosystems: Critical Factors and the State of Practice
最近,平台生态系统作为一个关键的商业概念受到关注。平台生态系统的可持续增长是通过平台用户相互提供和/或要求内容来实现的:例如Facebook,YouTube或Twitter。用户数据在平台生态系统中的重要性和价值越来越突出,因为平台所有者使用和销售数据用于其业务。对数据误用或滥用、隐私问题和不同利益相关者之间的收入分享的严重关切日益增加。传统的数据治理侧重于通用目标和管理企业数据的通用方法。它需要对平台生态系统的复杂情况和关系提供有限的支持,其中多个参与方贡献,使用数据并分享利润。本文通过文献综述,确定了平台生态系统的数据治理因素。然后,该研究调查了四个平台生态系统的数据治理实践状态:Facebook,YouTube,eBay和Uber。最后,将工业界和学术界的19种治理模式与我们确定的平台生态系统数据治理因素进行比较,以揭示差距和局限性。
2017-05-05 cs.CY
Crossing the principle-practice gap in AI ethics with ethical problem-solving
针对AI伦理原则难以落地的问题,本文提出EPS框架,通过影响评估调查与差异化推荐将伦理原则转化为实践,并开源Ethics as a Service Platform演示。
2024-04-16 cs.CY cs.HC
AI virtues -- The missing link in putting AI ethics into practice
University of Tuebingen(图宾根大学)
一些开创性的道德倡议为人工智能领域的良好技术发展规定了一套原则和标准。然而,广泛的批评指出,这些原则没有得到切实落实。在此之后,人工智能伦理学经历了一个实践的转折,但没有偏离原则性的方法和与之相关的许多缺点。本文提出了一种不同的方法。它定义了四种基本的人工智能美德,即正义,诚实,责任和关怀,所有这些都代表了特定的激励环境,构成了人工智能领域道德决策的先决条件。此外,它定义了两个二阶人工智能美德,谨慎和坚韧,通过帮助克服有限的道德或许多隐藏的心理力量来支持实现基本美德,这些力量损害了道德决策,迄今为止在人工智能伦理学中被忽视。最后,本文描述了在处理人工智能研究和开发的组织中成功培养上述美德的措施。
2021-02-18 cs.AI cs.CY cs.LG
The ethical ambiguity of AI data enrichment: Measuring gaps in research ethics norms and practices
University of Oxford(牛津大学);Oxford Internet Institute(牛津互联网研究院)
本文通过纵向对比ICLR、NeurIPS、Sprigger论文与心理学及CHI论文,考察AI数据增强中的伦理规范与披露实践差距。
2023-06-01 cs.AI cs.CY
A Practice Auditing Framework for Large Language Model Use: Collective Empiricism, Pseudo-Rational Cognition, and Governance of AI-Generated Content
School of Information and Electronics, Beijing Institute of Technology(信息与电子学院,北京理工大学)
提出实践审计框架,通过集体经验主义和伪理性认知概念分析LLM使用中的认知风险,并设计基于需求定义、证据审计等步骤的治理流程。
2026-07-03 cs.AI cs.CY
AI Ethics and Ordoliberalism 2.0: Towards A 'Digital Bill of Rights'
本文从秩序自由主义2.0视角分析AI伦理,指出当前AI治理过度依赖企业自律,提出结合硬法立法与秩序自由主义竞争监管政策,构建“数字权利法案”以完善AI治理机制。
2023-10-27 cs.CY econ.GN q-fin.EC
Co-constructing Shared Values and Ethical Practice for the Next Generation: Lessons Learned from a Curriculum on Information Ethics
我们提出的动机,设计,大纲和经验教训,从科学诚信,研究伦理和信息伦理的在线课程提供给2000多名博士和工程专业学生在干领域,首先在巴黎-萨克雷大学,现在扩展到一个在线MOOC提供给世界各地的学生,在英语。与科学领域的课程不同,旨在为学生提供他们可以在未来职业生涯中应用的方法,工具和概念,这种培训的目标与其说是装备他们,不如说是让他们意识到他们的工作对社会的影响,关心降临在他们身上的责任,并让他们意识到并不是所有人都对技术如何影响社会有相同的看法。虽然我们提供概念工具,但这更多的是为了保持兴趣和吸引学生。我们希望他们就具体的伦理问题进行辩论,并认识到协调当代困境的困难,如非物质化的知识产权,在线表达自由及其对应物,保护我们的数字自我,算法决策的管理,自治系统的控制,以及数字鸿沟的解决。作为一个大胆的捷径,我们的课程是关于在STEM课程中引入和激励黑格尔辩证法,通常更倾向于亚里士多德的观点。
2022-04-06 cs.CY cs.HC
The Governance of Intimacy: A Preliminary Policy Analysis of Romantic AI Platforms
Universitat Politècnica de València(瓦伦西亚理工大学);University of Cambridge(剑桥大学);The University of Manchester(曼彻斯特大学);Aalto University(阿尔托大学);King’s College London(伦敦国王学院);INGENIO (CSIC-Universitat Politècnica de València)(INGENIO(西班牙国家研究委员会-瓦伦西亚理工大学))
本研究分析了浪漫AI平台的数据治理实践,揭示了亲密披露作为可重复使用数据资产的机制,并指出平台权利扩张与用户风险转移的问题。
2026-02-25 cs.CY cs.HC
Navigating the Ethics of Internet Measurement: Researchers' Perspectives from a Case Study in the EU
Saarland University(萨尔兰大学);MPI-INF(德国马克斯·普朗克 informatics 研究所)
本文通过案例研究探讨网络测量研究中的伦理问题,发现研究人员面临隐私、潜在伤害、透明与安全平衡等挑战,并通过实验室测试和导师指导等方式应对,强调伦理实践的多样性和技术知识的不足。
2026-01-19 cs.CY cs.HC cs.SI
Auditing of AI: Legal, Ethical and Technical Approaches
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究院);Center for Information Technology Policy, Princeton University(普林斯顿大学信息技术政策中心)
本文作为AI审计主题综述与社论,梳理领域研究现状,提出审计可借鉴多学科经验、政产研共推治理、多学科融合三大要点,区分技术与流程导向审计,主张整合形成覆盖系统全维度影响的整体性审计机制。
2024-07-07 cs.AI cs.CY
Toward Ethical AIED
University College London(伦敦大学学院)
本文介绍了即将出版的《教育中的人工智能伦理学:实践、挑战和辩论》(2022年8月,北京)一书的主要结论。除了强调对本书的主要贡献外,它还讨论了人工智能教育(AIED)领域在该领域的伦理和道德实践背景下的关键问题和重大挑战。这本书本身提出了不同的观点,从外部和内部的AIED作为实现一个广泛的视角,在关键的道德问题为AIED和工作进行了深入的了解,以日期由AIED社区的方式。
2022-03-11 cs.AI cs.CY
Ethics-Based Auditing to Develop Trustworthy AI
University of Oxford(牛津大学);Alan Turing Institute(艾伦·图灵研究所)
最近的一系列发展表明,审计是一种很有前途的机制,可以弥合人工智能伦理原则和实践之间的差距。在目前关于基于道德操守的审计的讨论的基础上,我们提出三点意见。首先,我们认为,基于道德的审计可以提高决策质量,提高用户满意度,释放增长潜力,使立法,减轻人类的痛苦。第二,我们强调当前支持设计和实施基于道德的审计的最佳实践:为了可行和有效,基于道德的审计应采取持续和建设性的过程,从系统的角度来处理道德对齐,并与公共政策和激励道德可取的行为保持一致。第三,我们确定并讨论与道德为基础的审计的约束。只有理解和考虑这些限制,基于道德的审计才能促进人工智能的道德一致性,同时使社会能够获得自动化的全部经济和社会效益。
2021-04-30 cs.AI cs.CY
Understanding the Interplay between Boundary Resources and Governance Practices in Influencing Ecosystem Value Co-creation for Digital Platforms: A Case From the Global South
尽管具有潜在的变革性影响,但很少有研究调查移动货币等商业驱动的数字平台如何促进全球南方的生态系统价值共同创造。因此,本文使用边界资源模型和平台治理方法,旨在研究支付平台如何促进与第三方参与者共同创造生态系统价值。本研究采深入质性研究,采嵌入式单案设计。结果表明,虽然生态系统价值的共同创造是通过引入边界资源工具,一些平台治理实践阻碍了一些互补利用平台的启示。这些制约因素包括边界资源缺乏可见性和验收标准的透明度挑战。因此,我们认为,平台生成本身是不足以支持生态系统价值的共同创造,但需要适当的平台治理,以处理生态系统行为体的行为复杂性,通过使用最优控制机制。
2021-08-22 cs.CY
From What to How: An Initial Review of Publicly Available AI Ethics Tools, Methods and Research to Translate Principles into Practices
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究所);Alan Turing Institute(阿兰·图灵研究所);Digital Catapult(数字弹射中心)
关于人工智能伦理含义的争论可以追溯到20世纪60年代。然而,近年来,符号人工智能得到了补充,有时被神经网络和机器学习技术所取代。这大大增加了它的潜在效用和对社会的影响,其结果是伦理辩论已经成为主流。这种争论主要集中在原则上-人工智能伦理的内容-而不是实践,如何。人们对潜在问题的认识正在迅速提高,但人工智能社区采取行动减轻相关风险的能力仍处于起步阶段。因此,我们提出这项研究的目的是通过构建一种类型学来缩小原则和实践之间的差距,这种类型学可以帮助有实践头脑的开发人员在开发过程的每个阶段应用道德规范,并向研究人员发出需要进一步工作的信号。重点是专门针对机器学习,但希望这项研究的结果可以很容易地应用于人工智能的其他分支。本文概述了创建这种类型学的研究方法,初步研究结果,并提供了未来研究需求的总结。
2019-09-13 cs.AI cs.CY cs.LG
Making Power Explicable in AI: Analyzing, Understanding, and Redirecting Power to Operationalize Ethics in AI Technical Practice
本文通过可解释AI技术分析AI伦理实施不力的根本原因,指出AI社会技术系统中不公正且不受制约的权力结构是症结所在,并提出使权力可解释并受审查、重构叙事与假设、将伦理价值编码为技术标准等三项干预建议。
2025-10-12 cs.CY
Assessing Computer Science Student Attitudes Towards AI Ethics and Policy
Virginia Tech(弗吉尼亚理工大学)
本文通过对117名美国高校计算机科学学生的问卷调查及13人访谈,考察其对AI伦理、政策、工具使用与监管的态度,并探讨对AI教育和治理的启示。
2025-04-06 cs.CY
Epistemic Power in AI Ethics Labor: Legitimizing Located Complaints
本文通过75名技术从业者访谈,揭示主流AI伦理实践依赖量化获取合法性却边缘化具身经验的问题,结合多领域女性主义理论分析其影响,并提出明确认知局限、消解权力层级的谦逊技术实践。
2024-04-17 cs.CY
Implementing AI Ethics in Practice: An Empirical Evaluation of the RESOLVEDD Strategy
随着人工智能(AI)系统对社会的影响越来越大,现实生活中的事件开始强调AI伦理的重要性。尽管学者和公众都呼吁建立更道德的人工智能系统,但很少有关于这一主题的实证研究。同样,目前几乎没有为将人工智能伦理付诸实践而设计的工具和方法。为了提供经验数据到这个正在进行的讨论,我们从经验上评估现有的方法,从商业道德领域,RESOLVEDD战略,在道德体系的发展。我们通过对五个学生项目的多个案例研究来评估RESOLVEDD,在这些项目中,RESOLVEDD的使用被作为项目的设计要求之一。我们的主要发现之一是,即使使用伦理方法是强加给参与者的,它的使用仍然促进了项目中的伦理考虑。具体来说,它导致开发人员表现出更多的责任,即使使用该工具并不是出于内在动机。
2020-04-21 cs.CY