Regulating Multifunctionality
University of Pennsylvania（宾夕法尼亚大学）；University of Notre Dame（圣母大学）
针对基础模型与生成式AI的多功能性带来的监管难题，提出采用基于管理的监管推动主动风险管理，并指出监管者需具备资源、人才与卓越监管文化以应对挑战。
2025-01-26 cs.AI cs.CY
Normative Challenges of Risk Regulation of Artificial Intelligence and Automated Decision-Making
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University of Heidelberg（海德堡大学）
本文探讨了人工智能与自动化决策风险监管中的规范挑战，分析了基本权利和社会价值观的模糊性及其对风险评估的影响，并提出通过科学和政治辩论来解决规范性选择问题。
2022-11-11 cs.CY
Regulating Ai In Financial Services: Legal Frameworks And Compliance Challenges
本文梳理金融服务AI监管的法律框架与合规挑战，对比多司法管辖区监管差异，指出风险与规则缺口，提出平衡创新与权益保护的原则性监管模式及多方协作建议。
2025-03-17 cs.CY q-fin.GN
A Framework for the Private Governance of Frontier Artificial Intelligence
Fathom Research（费森研究机构）；Mercatus Center（梅卡图斯中心）；Foundation for American Innovation（美国创新基金会）
本文提出公私混合治理前沿AI的方案，由政府授权监督的私人机构提供自愿认证，参与企业获侵权责任保护；先分析常见治理方法的优缺点及前沿AI治理性质，再探讨方案多维度价值与权衡。
2025-04-15 cs.AI cs.CY
Regulating Gatekeeper AI and Data: Transparency, Access, and Fairness under the DMA, the GDPR, and beyond
European University Viadrina（欧洲维德拉大学）；European New School of Digital Studies（欧洲数字研究新学院）
本文研究欧盟数字经济AI监管问题，指出《数字市场法案》比拟议的《AI法案》影响更深远，从四方面分析其对AI与数据的监管规则，提出公平性的新解读及综合监管框架提案。
2023-08-24 cs.AI cs.CY
On the Efficiency of Ethics as a Governing Tool for Artificial Intelligence
Pontifical Catholic University of Rio Grande do Sul（南里奥格兰德天主教大学）
第四次工业革命是数字时代的高潮。如今，机器人、纳米技术、遗传学和人工智能等技术有望改变我们的世界和我们的生活方式。人工智能伦理与安全是一个新兴的研究领域，近年来越来越受欢迎。一些私人、公共和非政府组织已经发布了指导方针，提出了规范自主智能系统使用和发展的伦理原则。对人工智能伦理研究领域的元分析指出，人们对人工智能行业的某些原则趋同。然而，很少有人知道这种形式的伦理学的有效性。在本文中，我们想对人工智能伦理的现状进行批判性分析，并认为这种基于原则性道德准则的治理形式不足以规范人工智能行业及其开发人员。我们认为，无论是在与软件和智能系统开发相关的领域的专业人员的培训过程中，还是在对这些专业人员及其行业的监管方面，都有必要进行重大变革。为此，我们建议法律应该受益于生物伦理学最近的贡献，使人工智能伦理学对治理的贡献在法律上明确。
2022-10-27 cs.AI cs.CY
Twenty Constructionist Things to Do with Artificial Intelligence and Machine Learning
本文基于经典建构主义计算机教育备忘录，提出20项AI/ML建构实践方案，强调儿童认知培养、个性化应用设计、数据社会属性及算法风险应对，拓展AI教育的建构主义路径。
2024-04-17 cs.CY
Open Platforms for Artificial Intelligence for Social Good: Common Patterns as a Pathway to True Impact
人工智能促进社会公益运动现在已经达到了一种状态，在这种状态下，大量的一次性演示表明，人工智能从业者和社会变革组织的伙伴关系是可能的，可以解决可持续发展中面临的问题。在本文中，我们讨论了如何从演示转向对人类的真正影响将需要不同的行动方针，即包含基本人工智能功能的开放平台，以支持在类似主题领域工作的多个组织的共同需求。我们通过描述三个社会公益问题的示例模式及其基于人工智能的解决方案来支持这一建议：用于理解国际发展报告的自然语言处理，为弱势个体提供指导的因果推理，以及支持无偏见分配决策的歧视意识分类。我们认为，通过召集社会变革组织、人工智能公司和赠款基金会，这样的平台的发展将是可能的。
2019-05-27 cs.CY
Identifying Student Profiles Within Online Judge Systems Using Explainable Artificial Intelligence
University of Alicante（阿利坎特大学）
本研究利用多实例学习与可解释人工智能分析在线评测系统中的学生行为数据，以预测作业通过与否，并识别易失败学生群体，为师生提供可理解的反馈。
2024-01-29 cs.AI cs.CY
Artificial Intelligence in the Legal Field: Law Students Perspective
本文通过2024年7月至8月的调查，研究了法学学生使用AI的现状与态度，发现其AI参与度和热情低于成熟法律专业人士，并建议通过与计算机科学系合作增强学生在提示工程和幻觉管理等方面的AI技能。
2024-10-13 cs.CY
Regulating Chatbot Output via Inter-Informational Competition
Northwestern Pritzker School of Law（西北大学普利兹克法学院）
本文提出以信息市场中的信息间竞争为核心标尺，论证聊天机器人等渠道间的充分竞争足以缓解生成式 AI 的大部分内容风险，从而说明强制性禁止、许可制等监管策略既无必要又有害，呼吁为 AI 监管热潮降温并回归理性路径。
2024-11-19 cs.AI cs.CY cs.ET
When Should Algorithms Resign? A Proposal for AI Governance
Center for Data Science, New York University（纽约大学数据科学中心）；The Alan Turing Institute（艾伦·图灵研究所）；Faculty of Law, University of Cambridge（剑桥大学法学院）；Berkman Klein Center for Internet & Society（伯克曼 Klein 互联网与社会中心）
本文提出算法辞职作为AI治理机制，通过嵌入系统内的有意脱离策略（如限制访问或显示免责声明）来平衡自动化效益与人工监督，增强组织对AI使用的控制。
2024-07-16 cs.AI cs.CY
Regulating ChatGPT and other Large Generative AI Models
European New School of Digital Studies, European University Viadrina（欧洲维德里纳大学欧洲数字研究学院）；Heidelberg University（海德堡大学）；Humboldt University of Berlin（柏林洪堡大学）
本文探讨如何监管ChatGPT等大型生成式AI模型，提出针对价值链上不同参与者的三层义务框架，并建议扩展现有法规以覆盖高风险应用，确保模型可信且造福社会。
2023-05-12 cs.AI cs.CY
The illusion of artificial inclusion
本文批判性审视以生成式AI替代人类参与者的提案，指出其忽视代表性、包容性和理解等基本价值观，并规划以参与者为中心的未来路径。
2024-02-05 cs.CY
A Faceted Proposal for Transparent Attribution of AI-Assisted Text Production
Elsevier（埃塞里斯）；Springer Nature（施普林格·自然）；Association for Computing Machinery（计算机协会）；IEEE（电气电子工程师学会）
本文提出一个分层框架，用于透明归因AI辅助文本生成过程，涵盖文档、章节、段落等层面，通过形式、生成、评估等核心模型，以及意图、控制、可追溯性等扩展模型，提供可扩展的最小操作基准。
2026-04-28 cs.AI cs.CY
Linking Artificial Intelligence Principles
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Berggruen Institute China Center, Peking University（北京大学博古睿研究院中国中心）
人工智能原则定义了开发未来人工智能的社会和伦理考虑。他们来自研究机构、政府组织和工业界。所有版本的人工智能原理都有不同的考虑，涵盖不同的视角，并做出不同的强调。它们都不能被认为是完整的，可以涵盖其余的人工智能原则建议。在这里，我们介绍LAIP，一个链接和分析不同人工智能原则的努力和平台。我们希望明确不同组织提出的AI原则之间的共同主题和联系，并研究其独特性。基于这些努力，为了人工智能的长期未来，我们认为有必要将各种人工智能原则纳入一个全面的框架，并关注它们如何相互作用和相互完善。
2018-12-12 cs.AI cs.CY
Using sensitive data to prevent discrimination by artificial intelligence: Does the GDPR need a new exception?
组织可以使用人工智能出于各种原因对人员做出决策，例如，从许多工作申请中选择最佳候选人。然而，人工智能系统在用于决策时可能会产生歧视性影响。举例来说，人工智能系统可能会拒绝具有特定种族的人的申请，而该组织并没有计划这种种族歧视。但在欧洲，当一个组织想要评估其人工智能系统是否意外地基于种族进行歧视时，它会遇到一个问题：该组织可能不知道申请人的种族。原则上，GDPR禁止使用某些“特殊类别的数据”（有时称为“敏感数据”），其中包括有关种族、宗教和性偏好的数据。欧盟委员会的人工智能法案提案包括一项条款，允许组织使用特殊类别的数据来审计其人工智能系统。本文询问GDPR关于特殊类别个人数据的规则是否阻碍了人工智能驱动的歧视的预防。我们认为，GDPR确实禁止在许多情况下使用特殊类别数据。我们还列出了支持和反对GDPR禁止使用特殊类别个人数据的例外情况的论点，以防止人工智能系统的歧视。本文讨论了欧洲法律，但本文也可能与欧洲以外的国家有关，因为世界上许多政策制定者都在努力解决隐私和非歧视政策之间的紧张关系。
2022-11-28 cs.CY
Reinsuring AI: Energy, Agriculture, Finance & Medicine as Precedents for Scalable Governance of Frontier Artificial Intelligence
本文提出三层保险架构（私人责任险、行业风险池和联邦再保险）治理高风险前沿AI，借鉴能源等领域先例，将安全融入资本市场，实现激励对齐与模块化监督。
2025-04-02 cs.CY
On the Regulatory Potential of User Interfaces for AI Agent Governance
University of Washington（华盛顿大学）；KAIST（韩国科学技术院）；Carnegie Mellon University（卡内基梅隆大学）；UIUC（伊利诺伊大学香槟分校）
本文提出通过调节AI代理的用户界面来增强透明性和行为规范，从而在系统和基础设施层面实现治理。
2025-11-30 cs.AI cs.CY
Human rights, democracy, and the rule of law assurance framework for AI systems: A proposal
继2020年12月发表可行性研究后，欧洲委员会的人工智能特设委员会（CAHAI）及其小组开始努力制定和起草基于欧洲委员会的《人工智能法律框架的可能要素》人权、民主和法治标准。该文件最终于2021年12月由CAHAI全体会议通过。为了支持这一努力，艾伦·图灵研究所开展了一项研究计划，探索将人权尽职调查与可靠的人工智能创新实践相结合所需的治理流程和实用工具。由此产生的框架已于2021年9月完成并提交给欧洲委员会。它提出了一种端到端的方法来保证人工智能项目的生命周期，将基于上下文的风险分析和适当的利益相关者参与与全面的影响评估，透明的风险管理，影响缓解和创新保证实践相结合。这些相互关联的进程合在一起构成了人权、民主和法治保障框架。HUDERAF将基于原则的人权尽职调查的程序要求与为负责任和值得信赖的人工智能创新实践建立技术和社会技术护栏所需的治理机制相结合。其目的是提供一套方便易用的机制，以促进遵守基于欧洲委员会人权、民主和法治标准的具有约束力的人工智能法律框架，并确保人工智能创新项目在适当的公共问责、透明度和民主治理水平下进行。
2022-02-06 cs.AI cs.CY cs.HC
Low impact agency: review and discussion
强大的人工智能如果决定彻底改变世界以实现其目标，就会构成生存威胁。低影响人工智能的希望是激励人工智能不要仅仅因为这会对世界产生巨大影响而这样做。在这项工作中，我们首先回顾了低影响力机构的概念和以前解决这个问题的建议，然后提出了未来的研究方向，目的是确保低影响力有助于使人工智能安全。
2023-03-06 cs.AI cs.CY
Equity and Artificial Intelligence in Education: Will "AIEd" Amplify or Alleviate Inequities in Education?
教育人工智能（AIEd）系统的开发往往是出于其促进教育公平和减少不同学习者群体之间成就差距的潜力，例如，通过扩大一对一人工辅导的好处，以更广泛的受众，或通过填补现有教育服务的空白。鉴于这些崇高的意图，为什么AIED系统在实践中会产生不公平的影响？在本章中，我们讨论了四个镜头，可以用来检查如何以及为什么AIED系统风险放大现有的不平等。从这些角度出发，我们概述了AIED走向更公平未来的可能途径，同时强调了围绕每个提案的辩论。通过这样做，我们希望围绕公平的AIED设计引发新的对话，并推动该领域正在进行的对话。
2021-04-27 cs.AI cs.CY cs.HC
Why and How Governments Should Monitor AI Development
Centre for the Study of Existential Risk（存在风险研究中心）；University of Cambridge（剑桥大学）；Anthropic
在本文中，我们概述了一项改善人工智能（AI）治理的建议，即通过投资政府能力来系统地衡量和监测AI系统的能力和影响。如果被采用，这将为政府提供有关人工智能生态系统的更多信息，使他们能够更有效地指导人工智能的开发和部署，使其朝着最有利于社会和经济的方向发展。它还将创建基础设施，可以快速识别人工智能生态系统变化可能导致的潜在威胁或危害，例如战略转型能力的出现或有害系统的部署。我们首先概述了促使这一提议的问题：简而言之，传统的治理方法很难跟上人工智能的发展速度。然后，我们提出解决这个问题的建议：政府必须投资于测量和监测基础设施。我们详细讨论了这一建议，概述了政府可以专注于测量和监测的具体事项，以及这将为政策制定带来的好处。最后，我们概述了一些潜在的试点项目和在实践中实施这一点的一些考虑因素。
2021-08-31 cs.AI cs.CY
Safe Artificial General Intelligence via Distributed Ledger Technology
针对AGI安全性与价值对齐难题，提出基于分布式账本技术的11条充要公理，借助区块链、智能合约、去中心化应用等实现防黑客、审计追踪、组件管控等功能，保障AGI不危害人类且与人类价值对齐。
2019-03-02 cs.CY
The Tragedy of the AI Commons
Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；University of Toronto（多伦多大学）；University of California, Irvine（加州大学欧文分校）
近年来，关于人工智能伦理研究的政策和指导方针提案激增。这些应该指导人工智能的社会责任发展，以实现共同利益。然而，通常存在不合作的动机（即，不遵守这些政策和准则）;而且，这些建议往往缺乏有效机制来执行其本身的规范要求。刚才描述的情况构成了一种社会困境;也就是说，在这种情况下，没有人有合作的个人动机，尽管相互合作将导致所有参与者的最佳结果。在本文中，我们使用随机进化博弈动力学模型的伦理发展的背景下，人工智能这一社会困境。这种形式主义使我们能够隔离可能被干预的变量，从而为人工智能中众多利益相关者之间的合作提供可行的建议。我们的研究结果表明，如何随机效应可以帮助在这种情况下，使合作可行。他们建议，为共同利益进行的协调应在较小的团体中进行，因为在这些团体中合作成本低，而且失败的风险很高。这为我们提供了深入了解的条件下，我们应该期待这样的道德建议是成功的，就其范围，规模和内容。
2021-01-18 cs.AI cs.CY cs.GT
Considering Fundamental Rights in the European Standardisation of Artificial Intelligence: Nonsense or Strategic Alliance?
Artois University（阿图瓦大学）；Academy of International Affairs NRW（北莱茵-威斯特法伦国际事务研究院）；AFNOR（法国标准化协会）
本文论证未来欧盟人工智能协调标准必须纳入基本权利考量，以应对高风险AI系统对基本权利的侵犯，并探讨了如何在欧洲标准化进程中实际落实这一要求。
2024-01-23 cs.AI cs.CY
In conversation with Artificial Intelligence: aligning language models with human values
University of Edinburgh（爱丁堡大学）；DeepMind（深度思维）
大规模语言技术越来越多地用于不同背景下与人类进行各种形式的交流。这些技术的一个特定用例是会话代理，它输出自然语言文本以响应提示和查询。这种参与方式引起了一些社会和道德问题。例如，将对话主体与人类规范或价值观相结合意味着什么？它们应该与哪些规范或价值观保持一致？如何才能做到这一点？在本文中，我们提出了一些有助于回答这些问题的步骤。首先，我们发展的对话代理人和人类对话者之间的语言沟通的基石的哲学分析。然后，我们使用这种分析，以确定和制定理想的对话规范，可以管理人类和会话代理之间的成功的语言沟通。此外，我们将探讨如何使用这些规范来调整会话代理人与人类价值观在一系列不同的话语域。最后，我们讨论了我们的建议，与这些规范和价值观相一致的会话代理的设计的实际影响。
2022-12-21 cs.CL cs.CY
Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation
随着数字化程度的提高，人工智能（AI）变得无处不在。正在提出和实施基于人工智能的系统，以识别、优化、自动化和扩展复杂经济和社会问题的解决方案。这推动了监管工作，包括《欧盟人工智能法案》的提案。这份跨学科的立场文件考虑了围绕人工智能中的公平和歧视的各种问题，并讨论了人工智能法规如何解决这些问题，重点是（但不限于）提案。我们首先通过法律、（人工智能）工业、社会技术和（道德）哲学的视角来看待人工智能和公平，并提出各种观点。然后，我们沿着三个利益轴映射这些观点：（i）标准化与本地化，（ii）功利主义与平等主义，以及（iii）后果与义务伦理，这使我们确定了这些轴之间的共同论点和紧张关系的模式。将讨论定位在利益轴内，重点是协调关键的紧张关系，我们确定并提出了人工智能监管应该发挥的作用，以使人工智能法案在人工智能公平问题方面取得成功。
2022-06-08 cs.CY
Artificial Intelligence Ethics and Safety: practical tools for creating "good" models
AI机器人伦理协会（AIRES）是一个由Aaron Hui于2018年创立的非营利组织，旨在提高人们对AI伦理实施和监管的认识和重要性。AIRES现在是一个组织，在加州大学洛杉矶分校（洛杉矶）、南加州大学（南加州大学）、加州理工学院（加州理工学院）、斯坦福大学、康奈尔大学、布朗大学和南里奥格兰德天主教大学（巴西）等大学设有分会。AIRES在PUCRS是AIRES的第一个国际分会，因此，我们致力于促进和加强AIRES使命。我们的使命是专注于教育未来的人工智能领导者的道德原则，以确保人工智能是道德和负责任的。由于在人工智能系统开发的实践中，我们应该如何实施道德原则和规范性指导方针的建议仍然很少，这项工作的目标是试图弥合话语和实践之间的差距。在抽象原则和技术实现之间。在这项工作中，我们试图向读者介绍人工智能伦理和安全的主题。同时，我们提出了几个工具，以帮助开发人员的智能系统开发“好”的模型。这部著作是一部以英文和葡萄牙文出版的发展指南。欢迎提出意见和建议。
2023-03-14 cs.AI cs.CY
The risks of risk-based AI regulation: taking liability seriously
University of Glasgow（格拉斯哥大学）；Ludwig-Maximilians University of Munich（慕尼黑路德维希-马克西米利安大学）；Goethe University Frankfurt am Main（法兰克福歌德大学）；University of Lausanne（洛桑大学）；CEPR London（伦敦经济政策研究中心）
本文分析了欧盟《AI法案》基于风险的事前监管缺陷，提出应将责任作为核心监管机制，通过区分危害来源并在AI开发者与部署者间谨慎分配责任来缓解潜在风险。
2023-11-03 cs.AI cs.CY
Deciding how to respond: A deliberative framework to guide policymaker responses to AI systems
School for Data Science and Computational Thinking, Stellenbosch University（斯泰伦博斯大学数据科学与计算思维学院）
本文提出一个基于自由概念的审议框架，以AI系统的潜在社会效益为中心，指导政策制定者在面对复杂性和不确定性时对AI系统作出恰当回应。
2025-09-18 cs.AI cs.CY cs.ET
An artificial intelligence tool for heterogeneous team formation in the classroom
Universitat Politècnica de València（瓦伦西亚理工大学）；Coventry University（考文垂大学）
如今，在教育背景下，人们对团队合作技能的发展越来越感兴趣。这种日益增长的兴趣是由于其教学效果，以及在劳动力方面，企业将其雇员组织成小组来执行复杂的项目。尽管它在课堂和行业中至关重要，但团队组建过程缺乏支持。不仅有许多因素会影响团队绩效，而且如果要优化团队，这个问题的成本将呈指数级增长。在这篇文章中，我们提出了一个工具，其目的是弥补这样的差距。它结合了人工智能技术，如联盟结构生成，贝叶斯学习和贝尔宾的角色理论，以促进在教育背景下的工作组的生成。该工具以三种方式改进了当前最先进的建议：i）它考虑到其他队友的反馈，以确定学生的最主要角色，而不是自我感知问卷; ii）它处理每个学生的主要团队角色的不确定性; iii）它是迭代的，因为它考虑了来自几个交互的信息，以改善对角色分配的估计。我们测试了所提出的工具在实验中的表现，涉及学生参加了三个不同的团队活动。实验表明，该工具是能够提高不同的团队合作方面，如团队动力和学生满意度。
2016-04-16 cs.AI cs.CY cs.HC
Bridging the Global Divide in AI Regulation: A Proposal for a Contextual, Coherent, and Commensurable Framework
Seoul National University（首尔国立大学）
本文提出情境化、连贯且可通约（3C）框架，以弥合AI监管的全球分歧，主张情境特定方法并促进国际协调。
2024-07-15 cs.AI cs.CY
Generative Artificial Intelligence for Academic Research: Evidence from Guidance Issued for Researchers by Higher Education Institutions in the United States
George Mason University（乔治梅森大学）
本研究通过分析美国30所R1高校的指南，探讨高等教育机构如何指导研究人员在学术研究中平衡生成式AI的高效应用与伦理关切，发现指南要求研究者了解GenAI属性、披露使用情况并承担合规责任。
2025-03-01 cs.AI cs.CY
