The US Algorithmic Accountability Act of 2022 vs. The EU Artificial Intelligence Act: What can they learn from each other?
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究院);Department of Statistical Science, University College London(伦敦大学学院统计科学系);Department of Legal Studies, University of Bologna(博洛尼亚大学法律研究系)
本文对比2022年美国算法问责法案与欧盟人工智能法案,指出前者是平衡自动化决策系统利弊的务实方案仍有不足,并分析了二者可互相借鉴的方向。
2024-07-07 cs.AI cs.CY
Advancing Data Equity: Practitioner Responsibility and Accountability in NLP Data Practices
AAAI(美国人工智能协会);AAAI Publications Committee(AAAI出版委员会)
本研究以美国NLP数据从业者视角为中心,结合多层级AI治理框架,揭示商业目标与公平承诺之间的张力,并提出需要结构性治理改革来支持从业者能动性和社区同意,从而推进NLP数据公平。
2025-08-16 cs.AI cs.CY cs.HC
The Algorithmic-Human Manager: AI, Apps, and Workers in the Indian Gig Economy
本文研究AI和数字技术对印度蓝领零工经济中算法管理的影响,发现其虽扩大就业机会但引发公平性、透明度和工人尊严问题,提出算法-人类管理者混合治理模型。
2026-06-19 cs.AI cs.CY
How Supply Chain Dependencies Complicate Bias Measurement and Accountability Attribution in AI Hiring Applications
Mila Quebec AI Institute(魁北克人工智能研究所)
本文探讨了AI招聘系统中供应链依赖如何使偏见评估和问责制归因复杂化,指出组件交互导致偏见产生,且碎片化责任导致法律与技术层面的不透明。
2026-04-24 cs.AI cs.CY
Smart technology in the classroom: a systematic review.Prospects for algorithmic accountability
University of Bergen(卑尔根大学)
人工智能(AI)算法已经出现在教育领域,作为一种工具,使学习更有效。儿童使用不同的应用程序来掌握特定技能,学习新语言并跟踪其进度。使用这种智能技术对儿童有什么影响?我们进行了一次系统的回顾,以了解最新的技术水平。我们在几个子学科中探索了文献:可穿戴设备,儿童心理学,人工智能和教育,学校监控和问责制。我们的审查确定了对每个既定主题进行更多研究的必要性。我们设法找到了使用可穿戴设备的积极和消极影响,但无法得出结论,如果智能技术的使用导致降低幼儿的表现。基于我们的见解,我们提出了一个框架,以有效地确定教育中智能技术的责任。
2020-07-13 cs.AI cs.CY
A relationship and not a thing: A relational approach to algorithmic accountability and assessment documentation
许多关于算法问责制的学术、监管和公众对话的核心问题是,谁应该有权访问揭示算法系统内部工作、预期功能和预期后果的文档,这可能会为受影响的公众建立新的途径来质疑这些系统的运作。目前,开发人员在很大程度上垄断了有关其系统实际工作方式的信息,并被激励保持自己对系统如何影响世界的无知。越来越多的立法者、监管机构和倡导者转向评估文档,以解决公众对算法危害的体验与开发人员记录和证明其设计决策的义务之间的差距。然而,目前的地位和专业知识问题阻止了公众在预防和纠正算法伤害方面的共同利益;正如我们在多个案件中所证明的那样,法院经常发现计算伤害是不可认知的,很少要求开发人员解决实质性的伤害索赔。算法影响评估制度建立在三重问责关系的基础上,可以通过围绕公众获取报告和文件的程序性权利来改变这种情况。发展一个关系的问责方法,我们认为,强大的问责制度必须为公众建立机会,凝聚在共同的经验和利益,并质疑影响他们生活的算法系统的结果。此外,许多司法管辖区目前正在考虑的算法问责政策必须为公众提供足够的地位和机会,以访问和质疑行为者提供的文件和论坛通过的判决。
2022-03-02 cs.CY
The Algorithmic Imprint
Georgia Institute of Technology(佐治亚理工学院);Data & Society Research Institute(数据与社会研究所)
当算法危害出现时,合理的反应是停止使用算法来解决与公平性,问责制,透明度和道德(FATE)相关的问题。然而,仅仅因为一个算法被删除并不意味着它与FATE相关的问题不再存在。在本文中,我们引入了“算法印记”的概念来说明仅仅删除算法并不一定会撤销或减轻其后果。我们通过2020年围绕普通教育证书(GCE)高级(A)水平考试算法评分的活动来实施这一概念及其影响,这是一项国际公认的英国高中文凭考试,在160多个国家进行。虽然算法标准化最终被删除,由于全球抗议,我们展示了如何删除未能撤销的算法印记的社会技术基础设施,塑造学生,教师和家长的生活。这些事件提供了一个难得的机会来分析世界的状态,无论是否有算法中介。我们在孟加拉国进行了案例研究,以说明全球北方的算法如何不成比例地影响全球南方的利益相关者。记录了长达一年多的社区参与,包括47次访谈,我们提出了孟加拉国“发生了什么”的第一个连贯的时间轴,通过算法印记和定位算法公平性的镜头,将“为什么”和“如何”发生联系起来。通过分析这些事件,我们强调了如何在基础设施、社会和个人层面上推断算法印记的轮廓。我们分享了关于印记意识如何(a)拓宽我们如何看待算法影响的界限,(b)告知我们如何设计算法,以及(c)指导我们进行人工智能治理的概念和实践意义。
2022-06-03 cs.AI cs.CY cs.HC
Implications of the AI Act for Non-Discrimination Law and Algorithmic Fairness
University of Bayreuth(拜罗伊特大学);Fraunhofer FIT(弗劳恩霍夫应用信息技术研究所)
本文探讨欧盟《人工智能法案》如何通过将非歧视责任前置至AI设计阶段,弥合算法公平性与法律框架的鸿沟,并提出偏见检测与纠正的实践建议。
2024-06-26 cs.AI
FATE in AI: Towards Algorithmic Inclusivity and Accessibility
University of Huddersfield(哈德斯菲尔德大学)
本研究通过用户研究和参与式会议,探讨全球南方地区AI的FATE需求,提出社区主导的数据策略以促进包容性,确保AI符合社会价值观。
2023-11-13 cs.AI cs.CY cs.HC
A Model for Evaluating Algorithmic Systems Accountability
Code4Thought
数学系统做出的决定对我们的生活有很大的影响。随着我们对他们的依赖越来越大,透明度和追究他们责任的必要性也越来越大。本文提出了一种模型,用于评估这些系统的透明度,重点是它们的算法部分,以及利用它们的组织的成熟度。我们将此模型应用于一家大型金融机构创建和使用的分类算法。我们的分析结果表明,该组织只是部分控制他们的算法,他们缺乏必要的基准来解释演绎结果和评估其推理的有效性。
2018-07-12 cs.CY cs.LG
Defining the Collective Intelligence Supply Chain
Crime and Security Research Institute(犯罪与安全研究院);School of Computer Science & Informatics(计算机科学与信息学院);Cardiff University(卡迪夫大学)
组织越来越接受审查,需要能够证明他们以公平和道德的方式运作。问责制应该扩展到人工智能系统中使用的数据和知识资产的生产和使用,就像生产实物产品中使用的任何原材料或流程一样。本文考虑了集体智慧,包括由众包劳动力产生的数据和知识,这些数据和知识可用作人工智能系统的核心组件。建议开发一个供应链模型,用于跟踪众包集体智慧资产的创建和使用,并将基于区块链的去中心化架构确定为提供验证,问责制和公平性的适当手段。
2018-09-25 cs.AI cs.CY
An Algorithmic Equity Toolkit for Technology Audits by Community Advocates and Activists
University of Washington(华盛顿大学);West Virginia University(西弗吉尼亚大学);Middlebury College(明德学院);University of Michigan(密歇根大学);University of Oxford(牛津大学)
最近一波学术研究记录了算法系统的歧视性危害,激发了人们对算法问责和监管的广泛兴趣。然而,由于持续缺乏支持公众理解算法和人工智能的资源,有效的问责和监管受到阻碍。通过与美国的民权组织和他们的社区组织联盟的互动,我们确定了一个需要(i)的分析,帮助利益相关者在区分类型的分析和信息系统在外行的语言,和(ii)风险评估工具,这样的系统,首先使算法更清晰。目前的工作提供了一个工具包,以实现这些目标。本文既介绍了作为一个工件,我们的参与过程中塑造了它的设计的mathemic公平工具包(AEKit)公平。我们的工作符合人机交互奖学金,作为HCI方法和方法在算法透明度和问责制领域的问题的价值的证明。
2019-12-06 cs.AI cs.CY cs.HC
Energy Usage Reports: Environmental awareness as part of algorithmic accountability
Haverford College(哈弗福德学院)
算法的碳足迹必须被测量和透明地报告,这样计算机科学家才能在环境可持续性方面发挥诚实和积极的作用。在本文中,我们采取了通常应用于工业层面的分析,并使他们访问个人计算机科学研究人员与易于使用的Python包。本地化到电网的能源混合,我们将能源使用转换为二氧化碳排放,此外还将这些结果与更易于理解的基准(如汽车行驶里程)相结合。我们还包括与世界各地电网中采用的能源混合物的比较。我们建议将这些自动生成的能源使用报告作为标准算法问责制实践的一部分,并将这些报告作为机器学习环境中模型选择的一部分进行演示。
2019-12-16 cs.CY cs.LG stat.ML
Beyond Explanation: Evidentiary Rights for Algorithmic Accountability
Independent Researcher USA;Independent Researcher
本文提出证据权利作为算法问责的核心,指出仅靠解释无法实现有效争议,需通过程序性权利和事实性责任规则来完善问责机制。
2026-03-24 cs.CY
Agentic AI: Autonomy, Accountability, and the Algorithmic Society
本文从创意与知识产权、法律伦理及市场竞争三方面分析智能体式AI自主执行带来的问责缺口,并倡导以跨学科框架平衡自主性、透明度与社会福祉。
2025-02-15 cs.CY
Ethical AI for Young Digital Citizens: A Call to Action on Privacy Governance
Vancouver Island University(温哥华岛大学)
本文呼吁建立以青少年为中心的伦理AI治理框架,强调隐私保护、透明数据实践和问责措施,以应对AI在青少年数字平台中的隐私和数据保护挑战。
2026-01-29 cs.AI cs.CY cs.LG
Reviewable Automated Decision-Making: A Framework for Accountable Algorithmic Systems
University of Cambridge(剑桥大学)
本文介绍了可审查性作为一个框架,以提高问责制的自动化和算法决策(ADM)涉及机器学习。我们利用ADM的理解,作为一个社会技术过程,涉及人力和技术因素,开始之前作出决定,并超出了决定本身。虽然解释和其他以模型为中心的机制可能有助于一些问责问题,但它们通常提供的这些更广泛的ADM流程的信息不足,无法用于监管监督和法律合规性评估。可审查性涉及将ADM流程分解为技术和组织要素,以提供一个系统框架,用于确定适合背景的记录保存机制,以促进对个人决策和整个流程的有意义的审查。我们认为,可审查性框架,借鉴行政法的方法来审查人类的决策,提供了一个切实可行的方法,朝着更全面和法律相关的形式问责ADM。
2021-02-10 cs.AI cs.CY
Judging the algorithm: Algorithmic accountability on the risk assessment tool for intimate partner violence in the Basque Country
University of Oxford(牛津大学);King’s College London(伦敦国王学院);Euskal Herriko Unibertsitatea(巴斯克大学)
本文探讨了西班牙巴斯克地区用于评估亲密伴侣暴力风险的算法工具,分析其算法风险与局限性,并提出跨学科方法以减少算法危害。
2026-03-30 cs.CY cs.HC
AI for Sustainable Data Protection and Fair Algorithmic Management in Environmental Regulation
Guru Nanak Dev University(古鲁那纳克德夫大学);Desh Bhagat University(德什巴加特大学)
本文研究人工智能在环境监管中如何通过增强加密技术实现可持续数据保护和公平算法管理。
2026-02-02 cs.AI cs.CR cs.CY
Identifying the Supply Chain of AI for Trustworthiness and Risk Management in Critical Applications
Johns Hopkins University(约翰霍普金斯大学)
本文提出了一种分类法,用于分类AI供应链实体,以帮助利益相关者系统评估AI供应链风险,特别是在关键应用中
2025-11-19 cs.AI cs.CR cs.SE
The Accountability Paradox: How Platform API Restrictions Undermine AI Transparency Mandates
University of Bath(巴斯大学)
本文研究平台API限制与欧盟数字服务法案之间的矛盾,提出审计框架揭示平台内容审核和算法放大不可验证的盲区,指出AI依赖与问责限制的悖论,建议采用联邦访问模型和加强监管执行。
2026-06-15 cs.AI cs.CY
Beyond Algorithmic Fairness: A Guide to Develop and Deploy Ethical AI-Enabled Decision-Support Tools
Georgia Institute of Technology(佐治亚理工学院)
本文针对AI与优化交叉领域工程系统的伦理部署挑战,提出需超越算法公平,覆盖全流程伦理决策,并通过多领域案例明确伦理考量要点,以推动研究人员的伦理反思。
2024-09-17 cs.AI cs.CY cs.LG
Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing
对人工智能系统的社会影响的日益关注激发了一波学术和新闻文献,其中部署的系统由部署算法的组织外部的调查人员进行审计。然而,对于从业人员来说,在部署之前确定自己的系统的有害影响仍然具有挑战性,并且一旦部署,紧急问题可能难以或不可能追溯到其根源。在本文中,我们介绍了一个框架,算法审计,支持人工智能系统开发端到端,在整个内部组织的开发生命周期。审计的每个阶段产生一套文件,这些文件共同构成一份总体审计报告,利用组织的价值观或原则来评估整个过程中所做决策的适用性。拟议的审计框架旨在通过嵌入一个确保审计完整性的强有力程序,帮助缩小在开发和部署大规模人工智能系统方面的问责差距。
2020-01-03 cs.CY
Fairness and Accountability Design Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making
University College London(伦敦大学学院);University of Oxford(牛津大学)
在基于算法的公共决策(如税收、司法和儿童保护)中,呼吁加强对公平性和问责制的考虑现在已经司空见惯。设计师如何支持这样的人类价值观?我们采访了5个经合组织国家的27位公共部门机器学习从业者,了解他们在工作中理解和灌输公共价值观的挑战。结果表明,组织和机构的现实,限制和需求之间存在脱节,以及当前研究可用,透明和“歧视意识”的机器学习-如果不解决,可能会破坏实际举措。我们在这种脱节中看到了设计机会,例如支持跟踪二级数据源中的概念漂移,以及建立可用的透明度工具来识别风险并整合领域知识,针对管理人员和公共服务第一线的“街头官僚”。最后,我们概述了在这些高风险的应用程序中的合作的道德挑战和未来的方向。
2018-02-03 cs.CY cs.HC cs.LG
Private Accountability in the Age of Artificial Intelligence
University of California at Berkeley(加州大学伯克利分校);Berkeley Center for Law and Technology(伯克利法律与技术中心)
本文探讨了人工智能时代公民权利保护与算法问责的冲突,主张通过私人产业而非公共监管来增强透明度和问责制。
2026-01-14 cs.AI cs.CY
AI and the Transformation of Accountability and Discretion in Urban Governance
Harvard University(哈佛大学);Harvard University Graduate School of Design(哈佛设计研究生院)
本文探讨人工智能如何重塑城市治理中的裁量权与问责关系,提出问责裁量的概念并提出指导原则,强调AI对规则性裁量的系统性影响。
2026-03-06 cs.CY
Decision Provenance: Harnessing data flow for accountable systems
University of Cambridge(剑桥大学)
越来越多的人要求对日益占据我们世界的技术系统实行更多的问责制。然而,许多这些系统的复杂性-往往是系统的系统-对问责制构成挑战。其中一个关键原因是,互连和驱动系统的信息流的细节和性质往往是不可见或不透明的,这些信息流往往跨越技术和组织边界。本文认为,数据出处的方法显示出很大的希望,作为一种技术手段,增加这些相互关联的系统的透明度。具体来说,考虑到自动化和算法决策水平不断提高,以及所谓的“算法系统”一般的关注,我们提出了决策出处作为一个概念,表现出很大的希望。决策起源需要使用起源方法来提供暴露决策管道的信息:整个系统中(在设计和运行时)所采取的决策和行动的输入链、性质和流动效应。本文介绍了决策出处的概念,并采取跨学科(技术-法律)探索其在算法系统中协助问责制的潜力。我们认为,决策出处可以帮助促进监督,审计,合规,风险缓解和用户授权,我们还指出了实现其愿景所需的实施考虑和研究领域。更一般地说,我们认为,对数据流和更广泛的系统的考虑对于讨论问责制很重要,并补充了对算法细节的大量关注。
2019-11-15 cs.AI cs.CY
Transparent Information Flow Modeling for Role-Aware AI Act Assessment
Umeå University(于默奥大学)
针对欧盟AI法案评估的现有方法难以捕捉社会技术复杂性,该研究提出信息流方法论(IFM),将其应用于招聘工具案例,可连接不同视角、识别风险路径,为AI治理提供基础工具。
2026-10-14 cs.AI
Disease X vaccine production and supply chains: risk assessing healthcare systems operating with artificial intelligence and industry 4.0
University of Oxford(牛津大学)
提出了一套六种算法解决方案,用于解决疫苗生产和供应链瓶颈。提出了一套不同的算法解决方案,用于预测X疾病事件期间的风险。
2023-01-04 cs.AI cs.CY cs.HC
Outsider Oversight: Designing a Third Party Audit Ecosystem for AI Governance
很多注意力都集中在算法审计和影响评估上,以使算法系统的开发人员和用户承担责任。但现有的算法问责政策方法忽视了非算法领域的经验教训:特别是允许第三方有效参与的干预措施的重要性。我们的论文综合了其他领域关于如何为算法部署制定有效的外部监督系统的经验教训。首先,我们讨论了当前人工智能领域第三方监督的挑战。其次,我们调查跨领域的审计系统-例如,金融、环境和卫生监管--并表明这种审计的制度设计远非铁板一块。最后,我们调查这些设计组件的证据基础,并阐明算法审计的影响。我们的结论是,仅仅转向审计不太可能实现实际的算法问责制,并且需要持续关注制度设计,以实现有意义的第三方参与。
2022-06-09 cs.CY
Alternative Fairness and Accuracy Optimization in Criminal Justice
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出在刑事司法中通过优化误差损失和控制假阴性率差异来提升公平与准确性的方法,并提供部署框架以确保决策系统的合法性。
2025-12-18 cs.AI cs.CY cs.LG
Dislocated Accountabilities in the AI Supply Chain: Modularity and Developers' Notions of Responsibility
本研究通过访谈27位AI工程师,揭示供应链模块化导致责任错位,提出以定位责任方法改进现有负责任AI干预措施。
2023-06-21 cs.CY cs.HC cs.SE
"Computer Says No": Algorithmic Decision Support and Organisational Responsibility
决策支持越来越多地用于社会各个领域的各种不同背景和结构,影响着许多人的生活。除其他外,它的使用引起了关于问责制、透明度和责任的问题。虽然对算法系统和责任问题有大量的研究,但对组织责任及其归属的研究很少或根本没有。我们的文章旨在填补这一空白;我们简要概述了与组织背景下的ADS,责任和决策有关的核心问题,并确定了开放性问题和研究空白。此外,我们描述了一套指导方针和一个互补的数字工具,以协助从业者在映射责任时,在他们的组织背景下引入ADS。
2022-06-23 cs.CY
Who Audits the Auditors? Recommendations from a field scan of the algorithmic auditing ecosystem
本研究通过调研算法审计生态系统的从业者与机构,梳理了行业实践、工具及障碍,提出六项政策建议以提升AI审计的质量与问责效力。
2023-10-04 cs.CY
Algorithmic Transparency and Participation through the Handoff Lens: Lessons Learned from the U.S. Census Bureau's Adoption of Differential Privacy
本研究通过交接模型和边界对象理论分析美国人口普查局采用差分隐私的案例,提出算法透明度与参与需以价值观为中心、交接模型揭示隐藏价值、边界对象需专家辅助采纳三条经验教训。
2024-05-29 cs.CY
Declared but Unaccountable: Measuring the Seller-Identity Gap in Advertising Supply-Chain Transparency
Kopjra Srl(科普格拉有限公司);CNIT, RaSS Laboratory(意大利国家信息技术研究中心,RaSS实验室);CASD, School for Advanced Defense Studies(高级国防研究学院)
该研究定义了广告供应链透明度中的卖家身份差距,利用2.334亿条广告记录及特定规则衡量其规模,发现差距比例约为24.25%-30.71%,并提出广告透明度智能方法用于相关调查。
2026-10-16 cs.CR cs.CY cs.NI
'Put the Car on the Stand': SMT-based Oracles for Investigating Decisions
针对算法决策的可信问责需求,提出将问责流程建模为CLEAR循环,用符号执行与SMT求解实现对算法行为的类法律对抗式审查,并用车祸场景验证了框架效用。
2024-01-29 cs.CY cs.LO cs.PL
BioTrak: A Blockchain-based Platform for Food Chain Logistics Traceability
针对全球化食品供应链复杂、冷链合规与数据管理成本高等问题,本文提出 BioTrak 平台,整合业务流程建模与区块链,实现全链路食品物流可视化监控及数据可信溯源。
2023-04-27 cs.CY cs.SI
The AI-Fraud Diamond: A Novel Lens for Auditing Algorithmic Deception
本文提出AI欺诈钻石框架,在传统欺诈三角中增加技术不透明性维度,通过专家访谈构建五类AI欺诈分类体系,并主张审计方法应从结果检查转向系统性漏洞诊断。
2025-08-19 cs.CY
Algorithmic Inheritance: Surname Bias in AI Decisions Reinforces Intergenerational Inequality
Massachusetts Institute of Technology(麻省理工学院);Nanyang Technological University(南洋理工大学);University of Bonn(波恩大学)
本研究首次实证揭示AI决策中姓氏偏见会强化代际不平等,基于美泰两国72,000次评估发现精英姓氏提升AI对权力、智力和财富的感知,其中感知智力是关键中介机制,并呼吁构建公平算法与政策干预。
2025-02-05 cs.AI cs.CY cs.LG
AI Safety Evaluations Need To Consider Cascading Effects
Research Center Trust, UA Ruhr(鲁尔大学信托研究中心);University of Duisburg-Essen, Germany(德国杜伊斯堡-埃森大学);University of Cambridge, United Kingdom(英国剑桥大学)
本文提出通过分析AI供应链中各组件的连锁效应,改进AI安全评估方法,以提升系统透明度和安全性。
2026-02-16 cs.CY
"Make the Voodoo Box Go Bleep Bloop:" Exploring End Users' Understanding and Information Needs Regarding Microchips
本文通过250人在线调查考察终端用户对微芯片的认知与信息需求,发现用户了解部分应用却忽视安全、社会及经济影响,并提出提升认知的方向。
2025-02-19 cs.CY cs.HC