Legal and ethical considerations regarding the use of ChatGPT in education
本文探讨ChatGPT在教育中应用的法律与伦理问题，分析其潜在用例，旨在加深对生成式AI能力的理解。
2023-06-09 cs.CY
Stronger Together: on the Articulation of Ethical Charters, Legal Tools, and Technical Documentation in ML
本文论证AI治理需协同伦理、法律与技术三个领域的合规概念，分析伦理章程、许可证和技术文档的互动机制，并提出联合治理框架。
2023-05-09 cs.CY
Web Scraping for Research: Legal, Ethical, Institutional, and Scientific Considerations
本文针对生成式AI时代平台限制数据访问的问题，为美国社会科学研究者提出了一套涵盖法律、伦理、机构和科学因素的Web Scraping综合框架与建议，旨在帮助研究者合规地开展数据抓取，降低风险并提升研究影响力。
2024-12-19 cs.CY cs.SI
Assessing Privacy Policies with AI: Ethical, Legal, and Technical Challenges
该跨学科研究探讨了使用大型语言模型自动评估隐私政策在技术可行性、伦理影响和法律兼容性三方面的挑战，旨在促进讨论以帮助用户在AI驱动的数字经济中更好地履行决策者角色。
2024-10-10 cs.CY
Trustworthiness of Legal Considerations for the Use of LLMs in Education
College of Information Technology（信息科技学院）；Brunel University of London（伦敦布鲁内尔大学）；Ahlia University（阿利亚大学）
本文通过比较全球主要地区（欧盟、英国、美国、中国、海湾合作委员会国家）的AI监管框架，提出针对海湾合作委员会国家的合规中心AI治理框架，以促进教育中AI系统的合法、伦理和文化适应性部署。
2026-02-12 cs.AI cs.CY
The Dark Side of ChatGPT: Legal and Ethical Challenges from Stochastic Parrots and Hallucination
University of Glasgow（格拉斯哥大学）；Stanford University（斯坦福大学）
本文探讨了ChatGPT等大型语言模型在法律和伦理方面带来的挑战，指出随机鹦鹉和幻觉问题需要欧盟监管框架进一步完善以应对相关风险。
2026-02-24 cs.CL cs.CY cs.LG
Tackling the Algorithmic Control Crisis -- the Technical, Legal, and Ethical Challenges of Research into Algorithmic Agents
本文针对算法智能体广泛渗透带来的研究困境，介绍算法推荐影响研究的可行路径，探讨“追踪追踪者”的伦理法律问题与权衡，提出应对算法研究实践、伦理、法律挑战的具体建议，助力合规的算法治理研究。
2025-10-29 cs.CY
Auditing of AI: Legal, Ethical and Technical Approaches
Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究院）；Center for Information Technology Policy, Princeton University（普林斯顿大学信息技术政策中心）
本文作为AI审计主题综述与社论，梳理领域研究现状，提出审计可借鉴多学科经验、政产研共推治理、多学科融合三大要点，区分技术与流程导向审计，主张整合形成覆盖系统全维度影响的整体性审计机制。
2024-07-07 cs.AI cs.CY
Can AI be Consentful?
Hugging Face
本文从法律与伦理角度剖析生成式AI中传统同意机制的失效，提出范围、时间性与自主性陷阱三大挑战及“同意缺口”概念，论证了演进同意框架以支撑负责任AI的必要性。
2025-06-27 cs.AI cs.CY
Artificial intelligence in space
Legal Parallax, LLC（Legal Parallax有限责任公司）；University of Luxembourg（卢森堡大学）；Université Toulouse Capitole 1（图卢兹第一大学）；SIRIUS Chair（SIRIUS讲席教授）
在今后几年中，随着新的卫星系统或新的服务的出现，空间活动预计将发生根本性的变化，这些系统或服务将纳入人工智能和机器学习的贡献，机器学习被定义为涵盖范围广泛的创新，从具有自主决策能力的自主物体到利用来自空间的大量信息的日益复杂的服务。本章确定了与其使用相关的一些法律和道德挑战。这些法律和道德挑战需要解决办法，而现行国际条约不足以确定和执行这些办法。为此，必须制定一种法律方法，使之能够将智能系统和服务与适用于智能系统和服务的规则系统联系起来。它讨论了现有的基于人工智能的法律工具，这些工具可以使空间法具有可操作性、可互操作性和机器可读性，以供未来的合规工具使用。
2020-06-22 cs.AI cs.CY
Legal Alignment for Safe and Ethical AI
Hebrew University（希伯来大学）；Oxford Martin AI Governance Initiative（牛津马丁人工智能治理倡议）；University of Pennsylvania（宾夕法尼亚大学）；Institute for Law & AI, Centre for the Governance of AI（法律与人工智能研究所，AI治理中心）；Stanford University（斯坦福大学）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Carnegie Endowment for International Peace（卡内基国际和平基金会）；Harvard University（哈佛大学）；School of Advanced Study, University of London（伦敦大学高级研究学院）；Johns Hopkins University（约翰斯·霍普金斯大学）；Vector Institute for Artificial Intelligence（Vector人工智能研究所）；Cooperative AI Foundation, University of Oxford（合作人工智能基金会，牛津大学）；Princeton University（普林斯顿大学）；Carnegie Mellon University（卡内基梅隆大学）；Australian National University（澳大利亚国立大学）；Berkman Klein Center for Internet & Society（伯克曼克莱因互联网与社会中心）
本文通过调查法律对齐的新兴领域，提出三种核心研究路径（合规、解释方法、概念蓝图），以利用法律规则、原则和方法解决AI对齐问题，确保AI系统安全且合乎伦理地运行。
2026-06-01 cs.CY
Tesla's Autopilot: Ethics and Tragedy
North Carolina State University（北卡罗来纳州立大学）
本文通过七步伦理决策过程分析特斯拉Autopilot事件的道德责任与监管影响，呼吁重新审视汽车行业自动驾驶技术的行业规范与法律框架。
2024-09-25 cs.AI cs.CY
Ethical Implications of AI in Data Collection: Balancing Innovation with Privacy
该研究聚焦2023-2024年AI驱动数据收集的伦理法律问题，对比多地区监管路径，结合多领域案例分析挑战，提出法律、技术、伦理层面的解决方案，呼吁适应性治理与国际合作以平衡创新与权益保护。
2025-03-17 cs.CY cs.HC
Auction-Based Regulation for Artificial Intelligence
Department of Computer Science, University of Maryland, College Park, MD, USA（马里兰大学计算机科学系，College Park, MD, USA）；SAP Labs, LLC（SAP实验室）；Department of Computer Science, University of Central Florida, FL, USA（佛罗里达大学计算机科学系，FL, USA）
本文提出基于拍卖的AI监管机制，通过数学框架激励企业部署合规模型并参与监管，实验证明其在提升合规率和参与率方面优于传统方法。
2026-05-07 cs.AI cs.CY cs.GT
Revolutionizing Medical Data Sharing Using Advanced Privacy Enhancing Technologies: Technical, Legal and Ethical Synthesis
多站点医学数据共享在现代临床实践和医学研究中至关重要。面临的挑战是进行数据共享，保护个人隐私和数据可用性。传统隐私增强技术的缺点意味着机构依赖于定制的数据共享合同。这些合同增加了数据共享的效率，并可能抑制重要的临床治疗和医学研究。本文提供了两种新的高级隐私增强技术（PET）：同态加密和安全多方计算（统称为多方同态加密或MHE）之间的综合。这些PET提供隐私的数学保证，其中MHE提供优于单独使用HE或SMC的性能优势。我们认为，MHE符合《通用数据保护条例》（GDPR）对医疗数据共享的法律要求，该条例为数据保护设定了全球基准。具体而言，使用MHE处理和共享的数据可以被视为匿名数据。我们解释如何MHE可以减少机构之间的定制合同措施的依赖。该方法可以加快医学研究的步伐，同时为医疗保健和研究机构采用通用数据互操作性标准提供额外的激励。
2020-10-27 cs.CR cs.CY
Australia's Approach to AI Governance in Security and Defence
澳大利亚是一个领先的人工智能国家，拥有强大的盟友和伙伴关系。澳大利亚优先发展机器人、人工智能和自主系统，以发展军队的主权能力。澳大利亚承诺根据第36条审查所有新的作战手段和方法，以确保武器和武器系统在可接受的控制系统内运作。此外，澳大利亚还对人工智能对人权和情报机构的风险进行了大量审查，并致力于制定安全和国防领域的道德准则和框架。澳大利亚致力于经合组织基于价值观的原则，以负责任地管理值得信赖的人工智能，并采用一套国家人工智能伦理原则。虽然澳大利亚尚未专门为澳大利亚国防组织（ADO）采用人工智能治理框架，但国防科技集团（DSTG）发布了“国防中道德人工智能的方法”（MEAID）技术报告，其中包括管理人工智能军事应用的道德和法律风险的框架和实用工具。澳大利亚可以发挥领导作用，将法律和道德考虑因素纳入其ADO AI能力获取过程。这就需要一个政策框架，确定其法律和道德要求，由国防工业利益攸关方提供信息，并提供一个实用的方法，将法律和道德风险缓解战略纳入采购过程。
2022-03-09 cs.CY
AI Literacy for Legal AI Systems: A practical approach
University of Szeged, Faculty of Law and Political Sciences, International and Regional Studies Institute（塞格德大学法学院与政治科学学院，国际与区域研究学院）
本文探讨了法律AI系统的AI素养，分析了其对法律和伦理发展的关键作用，并提出了一种实用的风险评估工具。
2025-05-23 cs.AI cs.CY cs.HC
Teaching AI, Ethics, Law and Policy
Tel Aviv University（特拉维夫大学）
网络空间和使用人工智能（AI）的智能系统的发展为计算机专业人员、数据科学家、监管机构和政策制定者带来了新的挑战。例如，自动驾驶汽车提出了新的技术、道德、法律和公共政策问题。本文提出了一门名为《计算机、伦理、法律与公共政策》的课程，并对该课程的课程设置提出了建议。本文介绍了与构建和使用智能系统相关的伦理、法律和公共政策问题。
2019-08-30 cs.AI cs.CY cs.LG
Societal, Economic, Ethical and Legal Challenges of the Digital Revolution: From Big Data to Deep Learning, Artificial Intelligence, and Manipulative Technologies
随着正在进行的数字革命，我们将看到我们的经济和大多数社会机构的巨大转变。虽然这种转变的好处是巨大的，但也给我们的社会带来了巨大的风险。在许多生产过程自动化和自动驾驶汽车的创造之后，社会的自动化是下一个。这正将我们推向一个转折点和十字路口：我们必须在以下两种社会中做出选择：一种是以自上而下的方式决定行动，然后通过胁迫或操纵技术（如个性化广告和轻推）来实施的社会，还是以自由和参与性的方式并相互协调地做出决定的社会。现代信息和通信系统（信通技术）使两者都能实现，但后者具有经济和战略效益。人类尊严、自主决策和民主的基础正在动摇，但我认为需要大力捍卫，因为它们不仅是宜居社会的核心原则，也是提高效率和成功的基础。
2015-04-15 cs.CY physics.soc-ph
Ethical Issues Regarding the Use of AI Profiling Services for Recruiting: The Japanese Rikunabi Data Scandal
在招聘中使用特征分析服务所涉及的道德、法律和社会挑战是许多先前研究的重点;然而，这些过程因社会制度和文化习俗而异。2019年8月，日本发生了一起丑闻，一家招聘管理公司被发现通过向客户出售他们的数据来破坏用户和学生的信任。通过分享日本的招聘背景和相关法律，本文有助于我们理解人工智能分析和处理敏感个人信息所涉及的伦理问题。
2020-05-18 cs.CY
Governance and Regulation of Artificial Intelligence in Developing Countries: A Case Study of Nigeria
Aula Fellowship for AI, Montreal, Canada（蒙特利尔Aula AI奖学金（加拿大蒙特利尔））
本文通过尼日利亚案例研究，探讨法律专业人士对发展中国家人工智能治理的看法，发现数据隐私风险、法律框架缺失及机构能力不足等问题，强调需本地化治理模式。
2026-04-08 cs.AI cs.CY cs.HC
Digital Doppelgangers: Ethical and Societal Implications of Pre-Mortem AI Clones
本文探讨生前AI克隆的伦理与社会影响，提出负责任的治理框架，强调身份保存、同意机制和自主性保障，以应对身份碎片化、数据滥用等挑战。
2025-02-28 cs.CY
Synthetic Data in AI: Challenges, Applications, and Ethical Implications
Huazhong University of Science and Technology（华中科技大学）
本报告探讨了人工智能中合成数据的生成方法、跨领域应用及其面临的挑战与潜在偏见，并强调了在AI开发中确保公平、减轻偏见和维护伦理标准的迫切需求。
2024-01-03 cs.AI cs.CY cs.LG
Unsettled Law: Time to Generate New Approaches?
本文识别了生成式人工智能引发的独特且悬而未决的法律问题，质疑既有法律框架的充分性，并围绕版权、隐私、侵权、合同、刑法、财产及第一修正案等领域探讨法律与监管适应方向，以推动前瞻性政策讨论。
2024-07-02 cs.CY
AI Literacy for Legal Translation: Developing Digital Resilience
针对生成式AI带来的法律翻译机遇与风险，提出含四个维度的AI素养框架，设计课堂活动培养译员数字韧性，助力其合规且负责任地运用AI。
2026-08-06 cs.AI cs.CL cs.CY
Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance
HENSOLDT Sensors GmbH（亨索尔特传感器有限公司）；HENSOLDT Optronics GmbH（亨索尔特光电有限公司）；Fraunhofer IOSB（弗劳恩霍夫IOSB研究院）
本文围绕军事视觉侦察中AI应用的伦理问题，提出FATE准则及可追溯性、相称性等军事专用伦理原则，并结合海、空、陆三个用例，借助自动化传感器分析、XAI和直观用户体验加以说明，为负责任地部署军事AI提供伦理框架。
2025-02-05 cs.CV cs.CY
The Algorithmic Blind Spot: Bias, Moral Status, and the Future of Robot Rights
Arizona State University（亚利桑那州立大学）；Northwestern University（西北大学）
本文探讨算法盲点，即对未来人工智能道德地位的过度关注，忽视了现有算法偏见对人类社会的影响，强调需重新聚焦人类影响与算法治理。
2026-03-10 cs.CY
Development of management systems using artificial intelligence systems and machine learning methods for boards of directors (preprint, unofficial translation)
Moscow Institute of Physics and Technology（莫斯科物理技术学院）
针对AI成为自主决策者的趋势，提出参考模型，融合计算法、专用操作环境、合成数据训练及博弈论，并强调可解释AI，以确保董事会管理中AI决策的合法与伦理。
2025-08-05 cs.AI cs.CY cs.LG
Open Shouldn't Mean Exempt: Open-Source Exceptionalism and Generative AI
University of Texas, Austin（德克萨斯大学奥斯汀分校）；Georgetown Law（乔治城大学法学院）
本文主张开源生成式人工智能应受同等法律和伦理标准约束，批判开源例外主义的主张，并提出严格合规的豁免权框架。
2026-01-30 cs.AI cs.CY cs.LG
Beyond Compliance: A Proposed Framework for Ethical Governance of Student Data in Learning Analytics
Rowan University（罗恩大学）
针对学习分析学生数据治理仅重合规的问题，提出LEAGUE六支柱伦理治理框架，通过案例展示其可助力机构更透明地开展学习分析审查。
2026-08-05 cs.CY
The Interplay of Computing, Ethics, and Policy in Brain-Computer Interface Design
本文首次探讨脑机接口（BCI）设计中伦理、法律和政策考量如何影响架构设计，以及架构师的决策如何限制或扩展适用的伦理、法律和政策框架。
2024-09-26 cs.AR cs.CY
Implications of Artificial Intelligence on Health Data Privacy and Confidentiality
University of Wisconsin-Milwaukee（威斯康星大学密尔沃基分校）
本文分析AI在医疗应用中的隐私、伦理与合规挑战，结合HIPAA及糖尿病视网膜病变、肿瘤学等案例，主张以透明、教育和监管平衡创新与患者数据保护。
2025-01-06 cs.AI cs.CY
Agentic AI: Autonomy, Accountability, and the Algorithmic Society
本文从创意与知识产权、法律伦理及市场竞争三方面分析智能体式AI自主执行带来的问责缺口，并倡导以跨学科框架平衡自主性、透明度与社会福祉。
2025-02-15 cs.CY
Ethical Assurance: A practical approach to the responsible design, development, and deployment of data-driven technologies
本文为数据科学和人工智能领域负责任的研究和创新的跨学科项目提供了一些贡献。首先，它对目前建立算法评估实用机制的努力进行了批判性分析，这些机制用于实施规范性原则，如可持续性，问责制，透明度，公平性和可解释性，以确定当前方法的局限性和差距。其次，它提供了一个基于参数的保证方法的可访问的介绍，并探讨了它目前是如何应用于自主和智能系统的安全案例的开发。第三，它概括了这种方法，将更广泛的道德，社会和法律的考虑，反过来建立一个新版本的基于论证的保证，我们称之为“道德保证”。道德保证是一种结构化的手段，可用于统一已提出的各种实用机制，因为它建立在基于流程的项目治理形式之上，支持包容性和参与性的道德审议，同时也立足于社会和技术现实。最后，它通过详细说明当前的挑战，开放的问题和下一步，作为一个跳板，以建立一个积极的（和跨学科的）研究计划，以及促进正在进行的讨论政策和治理的道德保证的议程。
2021-10-11 cs.CY
Towards A Structured Overview of Use Cases for Natural Language Processing in the Legal Domain: A German Perspective
Technical University of Munich（慕尼黑工业大学）
本文基于系统性文献综述和德国法律实践，构建法律科技用例的结构化概览，识别七类NLP技术与22个法律用例的对应关系，并提炼出15个伦理、法律和社会方面（ELSA）问题。
2024-05-02 cs.CL cs.CY
Canada Protocol: an ethical checklist for the use of Artificial Intelligence in Suicide Prevention and Mental Health
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Montreal AI Ethics Institute（蒙特利尔人工智能伦理研究所）；Microsoft（微软）
简介：为了改善当前自杀预防和心理健康方面的公共卫生战略，政府、研究人员和私营公司越来越多地使用信息和通信技术，更具体地说，是人工智能和大数据。这些技术很有前途，但提出了目前法律制度很少涵盖的道德挑战。必须更好地识别和预防潜在的道德风险。目的：MHSP是一个工具，用于指导和支持专业人员，用户和研究人员在心理健康和自杀预防中使用AI。方法：根据十份关于人工智能和伦理学的国际报告以及两份关于心理健康和新技术的指南构建了一份清单。确定了329项建议，其中43项被认为适用于精神健康和人工智能。通过两轮德尔菲咨询，对该检查表进行了验证。结果：16名专家参加了第一轮专家咨询，8名专家参加了第二轮专家咨询。在原有的43项中，保留了38项。它们涉及五个类别：“自主智能系统的描述”（n=8），“隐私和透明度”（n=8），“安全性”（n=6），“健康相关风险”（n=8），“偏见”（n=8）。大多数用户认为该清单是相关的，可能需要针对每一类目标用户量身定制版本。
2019-07-17 cs.AI cs.CR cs.CY
Who is Responsible When AI Fails? Mapping Causes, Entities, and Consequences of AI Privacy and Ethical Incidents
本文通过分析202起真实AI隐私与伦理事件，构建了覆盖AI生命周期、原因、责任主体、披露来源和影响的分类法，揭示了组织决策与合规问题导致的广泛危害及报告不足，并为政策制定者和从业者提供了加强治理与用户保护的可操作指导。
2025-09-18 cs.AI cs.CY cs.DB
The Cambridge Law Corpus: A Dataset for Legal AI Research
Uppsala University（乌普萨拉大学）；University of Cambridge（剑桥大学）；CourtCorrect；Sudden Impact AB
本文介绍用于法律AI研究的剑桥法律语料库（CLC），包含超25万英国案例，并提供638个专家标注案例结果，利用GPT-3、GPT-4和RoBERTa建立案例结果提取基准，同时探讨了法律伦理问题。
2024-01-01 cs.CL cs.CY stat.AP
Rethinking AI in the age of climate collapse: Ethics, power, and responsibility
Rey Juan Carlos University（雷伊胡安卡洛斯大学）
本文探讨了在气候崩溃时代人工智能的伦理、权力与责任问题，强调其可持续性取决于价值观、制度和权力结构。
2026-01-26 cs.CY
Vocal Identity Under Siege by AI Voice Cloning Technologies
Centre for Legal Innovation and Digital Society (CLINDS)（法律创新与数字社会研究中心）；The Chinese University of Hong Kong Faculty of Law（香港中文大学法学院）
本文通过比较分析公开权、人格权和个人数据保护权三种法律框架，探讨生成式AI语音克隆对声音身份独特价值的威胁及法律应对。
2026-06-12 cs.CY cs.SD
Considerations for Ethical Speech Recognition Datasets
Sony AI（索尼人工智能）
本研究以自动语音识别为案例，分析当前语音AI数据集采集忽视数据主体保护与用户需求、引发模型歧视的问题，提出伦理型语音数据集的构建要求，旨在推动人文导向的数据集设计，兼顾用户权益与模型性能提升。
2023-05-03 cs.CL cs.CY cs.SD
A Hate Speech Moderated Chat Application: Use Case for GDPR and DSA Compliance
本研究提出一个符合GDPR的聊天应用，利用GPT-3.5、Solid Pods和Prova将法律与伦理推理纳入内容审核，通过用户信息提升决策可解释性，为在线平台未来DSA合规奠定基础。
2024-10-10 cs.CY cs.MA cs.SI
