Outsider Oversight: Designing a Third Party Audit Ecosystem for AI Governance
很多注意力都集中在算法审计和影响评估上，以使算法系统的开发人员和用户承担责任。但现有的算法问责政策方法忽视了非算法领域的经验教训：特别是允许第三方有效参与的干预措施的重要性。我们的论文综合了其他领域关于如何为算法部署制定有效的外部监督系统的经验教训。首先，我们讨论了当前人工智能领域第三方监督的挑战。其次，我们调查跨领域的审计系统-例如，金融、环境和卫生监管--并表明这种审计的制度设计远非铁板一块。最后，我们调查这些设计组件的证据基础，并阐明算法审计的影响。我们的结论是，仅仅转向审计不太可能实现实际的算法问责制，并且需要持续关注制度设计，以实现有意义的第三方参与。
2022-06-09 cs.CY
"I can assure you [$\ldots$] that it's going to be all right" -- A definition, case for, and survey of algorithmic assurances in human-autonomy trust relationships
University of Colorado, Boulder（科罗拉多大学博尔德分校）
随着技术变得越来越先进，那些设计、使用和受其影响的人想知道它会正确地运行，并了解它为什么会这样做，以及如何正确地使用它。本质上，他们希望能够信任正在设计的系统。在这项调查中，我们提出的保证是用户可以理解如何信任这项技术的方法。人类和自治之间的信任进行审查，并强调设计的保证的影响。一项调查的研究，已经进行了保证方面，并提取了几个关键的想法，以完善的保证的定义。确定和讨论了未来研究的几个方向。
2017-09-04 cs.AI cs.CY cs.HC
Trustworthy AI Posture (TAIP): A Framework for Continuous AI Assurance of Agentic Systems at Horizontal and Vertical scale
School of Science, Computing and Emerging Technologies（科学与新兴技术学院）；Swinburne University of Technology（斯威本科技大学）；Swinburne Law School（斯威本法学院）
TAIP框架通过将可信度定义为持续生成的信号，提供了一种在横向和纵向尺度上持续确保代理系统AI可信度的方法，结合本体模型和证据门限基准，实现可重用的AI保证对象。
2026-02-15 cs.CY
Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing
对人工智能系统的社会影响的日益关注激发了一波学术和新闻文献，其中部署的系统由部署算法的组织外部的调查人员进行审计。然而，对于从业人员来说，在部署之前确定自己的系统的有害影响仍然具有挑战性，并且一旦部署，紧急问题可能难以或不可能追溯到其根源。在本文中，我们介绍了一个框架，算法审计，支持人工智能系统开发端到端，在整个内部组织的开发生命周期。审计的每个阶段产生一套文件，这些文件共同构成一份总体审计报告，利用组织的价值观或原则来评估整个过程中所做决策的适用性。拟议的审计框架旨在通过嵌入一个确保审计完整性的强有力程序，帮助缩小在开发和部署大规模人工智能系统方面的问责差距。
2020-01-03 cs.CY
Auditing Work: Exploring the New York City algorithmic bias audit regime
本文通过专家访谈审查了纽约市第144号地方法律的算法偏见审计制度，发现其因定义不清、行业游说及数据获取困难等问题未能有效保护求职者，并为政策制定者提出了改进建议。
2024-02-12 cs.CY
Algorithms as Social-Ecological-Technological Systems: an Environmental Justice Lens on Algorithmic Audits
本文将算法系统重新界定为社会-生态-技术系统（SETS）的一部分，提出面向环境正义的算法审计方法论，并给出三项政策建议及定性提问框架，以促进多方互动。
2023-05-23 cs.CY
"Dave...I can assure you...that it's going to be all right..." -- A definition, case for, and survey of algorithmic assurances in human-autonomy trust relationships
University of Colorado Boulder（科罗拉多大学博尔德分校）；Cooperative Human-Robot Intelligence Laboratory（人机协作智能实验室）；Research and Engineering Center for Unmanned Vehicles（无人驾驶车辆研究与工程中心）
设计、使用和受自主人工智能代理影响的人希望能够\emph{trust}这样的代理--也就是说，知道这些代理将正确执行，理解其行为背后的推理，并知道如何适当地使用它们。已经设计了许多技术来评估和影响人类对人工智能代理的信任。然而，这些方法通常是临时的，并且没有正式地相互关联或正式的信任模型。本文提出了一种调查\emph{algorithmic assurances}，即程序组件的代理操作，明确设计用于校准用户的信任，在人工智能代理。首先，从正式建模的人-人工智能代理信任关系的角度，对信任保证进行了正式定义和分类。在这些定义的基础上，对机器学习、人机交互、机器人技术、电子商务等领域的综合研究表明，保证算法自然会对代理的核心功能产生影响，有七个显著的类别，从整体保证（影响代理人的核心功能）到补充保证（对代理人的绩效没有直接影响）。这些类中的每一个共同的方法进行了确定和讨论，不同的方法的优点和缺点也进行了研究。
2018-08-28 cs.AI cs.CY cs.HC
Who Assures the Verifier? An Executable Assurance-Locus Audit of the European Digital Identity Wallet
Tyche Institute（泰克研究所）
针对EUDI钱包依赖方验证器缺乏独立可重运行证据的问题，提出17条规则决策模型、证据收据及36个合成交易，经108案例验证确定性，并建议RP作为被测系统的证据单元。
2026-09-23 cs.CR cs.CY
The AI-Fraud Diamond: A Novel Lens for Auditing Algorithmic Deception
本文提出AI欺诈钻石框架，在传统欺诈三角中增加技术不透明性维度，通过专家访谈构建五类AI欺诈分类体系，并主张审计方法应从结果检查转向系统性漏洞诊断。
2025-08-19 cs.CY
Everyday algorithm auditing: Understanding the power of everyday users in surfacing harmful algorithmic behaviors
越来越多的文献提出了正式的方法来审计算法系统的偏见和有害的行为。虽然正式的审计方法具有很大的影响力，但它们往往存在重大盲点，只有在部署系统后，才会在日常使用的背景下出现关键问题。近年来，在许多案例中，算法系统的日常用户发现并提高了对他们在日常与这些系统交互过程中遇到的有害行为的认识。然而，到目前为止，很少有学术界的注意已经授予这些自下而上，用户驱动的审计过程。在本文中，我们提出并探讨了日常算法审计的概念，在这个过程中，用户通过与算法系统的日常交互来检测，理解和询问有问题的机器行为。我们认为，日常用户是强大的表面有问题的机器行为，可能会逃避检测，通过更集中的组织形式的审计，无论用户的知识基础算法。我们分析了日常算法审计的几个现实案例，从这些案例中吸取教训，为未来的平台和工具，促进这种审计行为的设计。最后，我们讨论了未来的工作，弥合正式审计方法和日常使用的算法系统中出现的有机审计行为之间的差距。
2021-08-24 cs.CY cs.HC
Law and the Emerging Political Economy of Algorithmic Audits
University of Amsterdam（阿姆斯特丹大学）；University College London（伦敦大学学院）
本文结合算法审计行业现状梳理DSA与OSA的审计条款，分析该领域的主体、矛盾与落地问题，警示传统审计的标准化及复杂合同等可能消解监管目标与算法审计研究价值。
2024-04-03 cs.AI cs.CY
Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing
University of California, Berkeley（加州大学伯克利分校）；American University of Central Asia（中亚美国大学）；University of Michigan（密歇根大学）；Carnegie Mellon University（卡内基梅隆大学）
本文通过社区导向的算法审计，探讨在线平台是否维持或威胁原住民文化实践。研究发现，YouTube推荐算法优先推荐非吉尔吉斯语内容，加剧殖民语言影响，提出社区实践减少殖民语言推荐的策略。
2026-04-30 cs.CY
Auditing LLMs for Algorithmic Fairness in Casenote-Augmented Tabular Prediction
本文研究了在住房安置预测任务中，结合街道走访案例笔记的大型语言模型在算法公平性方面的表现，发现通过案例笔记摘要微调模型可提升准确性并减少公平性差异。
2026-04-21 cs.CY cs.LG
Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies
AVERI；GovAI Oxford Martin AI Governance Initiative（牛津马丁政府人工智能治理倡议）；Transluce；Independent Clear-Eyed AI（独立清晰之眼人工智能）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Alan Turing Institute（艾伦·图灵研究所）；University of Oxford（牛津大学）；Apollo Research（阿波罗研究）；University of Cambridge（剑桥大学）；METR；Foundation for American Innovation（美国创新基金会）；Institute for Law and AI（法律与人工智能研究所）；Touro University Law Center（图罗大学法律中心）；New Science（新科学）；Stanford University（斯坦福大学）；Fathom Mila, Université de Montréal（蒙特利尔大学米拉法姆）
本文提出前沿AI审计的愿景，通过四个AI保证级别提升安全与安全实践的评估标准，推动行业高质量审计生态建设。
2026-02-07 cs.CY
Saving Face: Investigating the Ethical Concerns of Facial Recognition Auditing
虽然对揭示有偏见的表现至关重要，但善意的算法审计尝试可能会产生影响，可能会损害这些措施旨在保护的人群。在审计面部识别等生物识别系统时，这种担忧更加突出，因为这些系统的数据非常敏感，而且该技术经常以道德上有问题的方式使用。我们在审计商业面部处理技术的特定情况下展示了一组五个道德问题，强调了审计师需要注意的其他设计考虑和道德紧张局势，以免加剧或补充被审计系统传播的危害。我们进一步提供这些问题的具体说明，并通过反思这些问题对算法审计的作用以及它们揭示的基本产品限制意味着什么来结束。
2020-01-03 cs.CY
Who Bears the Risk When Generative AI Enters Transport? A Distributional Sociotechnical Audit of Algorithmic Equity, Synthetic-Data Validity, and Public Trust
Texas State University（德克萨斯州立大学）
本研究提出分布性社会技术审计（DSA），整合算法公平性、合成数据有效性与公众态度，通过实证分析揭示生成式AI进入交通领域时的分布性风险，并主张采用连续风险指数替代分类治理。
2026-09-11 cs.CY
Algorithmic Audit of Italian Car Insurance: Evidence of Unfairness in Access and Pricing
我们对意大利汽车保险行业公司采用的定价算法进行了审计，主要是通过一个流行的比较网站收集报价。在承认该行业的复杂性的同时，我们发现了一些有问题的做法的证据。我们发现，出生地和性别有一个直接的和相当大的影响，对司机的报价，尽管国家和国际法规反对他们的使用。特别是在意大利，外国出生的司机和在意大利某些城市出生的司机经常使用这种说法。在极端情况下，在其他条件相同的情况下，一名出生在老挝的司机可能比一名出生在米兰的司机多收1,000欧元。对于我们样本的一个子集，我们直接在公司网站上收集报价，其中性别和出生地的直接影响得到了证实。最后，我们发现，司机与风险较高的配置文件往往会看到更少的报价在聚合器的结果页，证实了意大利保险监管机构在过去提出的差别待遇的关注。
2021-05-21 cs.CY
Auditing News Curation Systems: A Case Study Examining Algorithmic and Editorial Logic in Apple News
这项工作提出了一个审计研究的苹果新闻作为一个社会技术的新闻策展系统，行使把关权力的媒体。我们研究了Apple News背后的机制以及应用程序中呈现的内容，概述了这两个方面的社会，政治和经济影响。我们专注于算法策划的趋势故事部分，以及人工策划的热门故事部分。来自众包审计的结果显示，在趋势故事部分的内容个性化程度最低，而一个sock-puppet审计显示没有基于位置的内容适应。最后，我们进行了为期两个月的数据汇集，以比较人工策划的热门故事部分与算法策划的热门故事部分。在这两个部分中，人工策展在源多样性、集中度和均匀度的几个指标上优于算法策展。此外，算法策展展示了更多关于名人和娱乐的“软新闻”，而编辑策展展示了更多关于政策和国际事件的新闻。据我们所知，这项研究提供了美国苹果新闻的第一个数据支持的特征。
2019-08-01 cs.CY cs.HC
Algorithmic Fairness and Vertical Equity: Income Fairness with IRS Tax Audit Models
Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）；U.S. Treasury Department（美国财政部）
本研究探讨了算法公平性的背景下，告知美国国税局（IRS）的税务审计选择系统的问题。虽然算法公平性领域主要是围绕着对待相似个体的概念发展起来的，但我们探索了垂直公平的概念-适当地考虑到个体之间的相关差异-这是许多公共政策设置中公平性的核心组成部分。在美国个人所得税制度的设计中，纵向公平涉及不同收入水平纳税人之间税收和执法负担的公平分配。通过与财政部和国税局的独特合作，我们使用匿名个人纳税人微观数据，风险选择审计和2010-14年的随机审计来研究税收管理中的垂直公平。特别是，我们评估如何使用现代机器学习方法选择审计可能会影响纵向公平。首先，我们展示了如何使用更灵活的机器学习（分类）方法-而不是更简单的模型-将审计负担从高收入纳税人转移到中等收入纳税人。第二，我们表明，虽然现有的算法公平性技术可以减轻一些收入差距，他们可能会产生一个陡峭的成本性能。第三，我们表明，选择是否将漏报风险视为分类或回归问题是非常重要的。从分类到回归模型来预测低报将审计负担大幅转移到高收入个人，同时增加收入。最后，我们探讨了差异审计成本在形成审计分布中的作用。我们发现，狭隘地关注投资回报率会破坏纵向股权。我们的研究结果对整个公共部门的算法工具的设计具有影响。
2022-06-20 cs.CY cs.LG
Algorithmic audits of algorithms, and the law
Univ Rennes（雷恩大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Irisa（法国信息与随机系统研究所）；UT1 Capitole（图卢兹第一大学）；Université d’Ottawa（渥太华大学）；ANITI（人工智能与自然智能跨学科研究所）；LAAS/CNRS（法国国家科学研究中心系统分析与架构实验室）
从医疗保健分配到更常见的行动，如推荐或信息排名，医疗决策现在很普遍。审计这些算法的目标也随之增长。在本文中，我们专注于通过与目标算法的用户端交互进行的外部审计，因此被视为黑盒。然而，这些审计发生的法律框架大多是模糊的研究人员开发他们：一方面，审计结果的法律价值是不确定的，另一方面，审计师的权利和义务是不明确的。本文的贡献是将两种规范的审计形式表达为法律，以阐明这些方面：1）第一种审计形式（我们创造了Bobby审计形式）检查算法的谓词，而第二种（Sherlock）更松散，并开放多项调查。我们发现：Bobby审计更容易被起诉，但在真实的用户数据上操作时很微妙。这可能导致法院驳回（可受理性的概念）。Sherlock审核工艺数据以进行操作，最重要的是构建被审核算法的代理。它主要用于举报行为，因为即使被接受为证据，在实践中证据价值也很低。2)这两种形式要求事先尊重法律或被审计平台授予的适当审计权;否则，无论审计结果如何，审计员也很容易被起诉。因此，本文强调了当前审计与法律的关系，以构建日益增长的算法审计领域。
2022-02-15 cs.AI cs.CY
Auditing E-Commerce Platforms for Algorithmically Curated Vaccine Misinformation
人们越来越担心，电子商业平台正在放大疫苗误传。为了进行调查，我们对全球领先的电子零售商亚马逊（Amazon）的搜索和推荐算法进行了两套疫苗错误信息的算法审计。首先，我们系统地审计属于疫苗相关搜索查询的搜索结果，而无需登录平台-非个性化审计。我们发现，10.47%的搜索结果促进误导性的健康产品。我们还观察到排名偏差，亚马逊对错误信息搜索结果的排名高于揭穿搜索结果。接下来，我们分析了由于帐户历史，历史是通过执行各种现实世界的用户操作，如点击产品逐步建立的个性化的影响。我们在亚马逊的推荐中发现了过滤气泡效应的证据;与对中立和揭穿产品执行操作的账户相比，对错误信息产品执行操作的账户呈现更多的错误信息。有趣的是，一旦用户点击了错误信息的产品，与用户表示购买该产品的意图相比，主页推荐变得更加受污染。
2021-01-29 cs.CY cs.HC
Beyond the Checkbox: Strengthening DSA Compliance Through Social Media Algorithmic Auditing
Kempelen Institute of Intelligent Technologies（肯佩伦智能技术研究所）；Comenius University Bratislava（布拉迪斯拉发康斯坦丁神学家大学）
本文通过社交媒体算法审计提升DSA合规性，批判性分析三个关键条款的审计报告，提出算法审计方法以增强合规性评估的深度和独立性。
2026-01-26 cs.CY cs.HC cs.IR
Toward Third-Party Assurance of AI Systems: Design Requirements, Prototype, and Early Testing
Carnegie Mellon University（卡内基梅隆大学）
提出一个第三方AI保障框架，包括责任分配矩阵、访谈协议、成熟度矩阵和保障报告模板，并通过两个用例和专家访谈验证其有效性。
2026-06-01 cs.CY
Comprehension Audits to Mitigate Risks from Automated AI Research
Institute for Law and AI（法律与人工智能研究所）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出理解审计机制，要求负责人向独立审计员解释研发贡献以证明理解，作为继续开发的前置条件，并分析开源项目发现代码审查率下降，倡导嵌入独立审计员以缓解自动化AI研究风险。
2026-10-08 cs.AI cs.CY cs.SE
Antitrust, Amazon, and Algorithmic Auditing
本文针对Amazon自我优待行为开展实证调查，并探讨计算机科学工具在基于算法审计的大规模数字市场监管环境中的应用。
2024-04-25 cs.CY cs.HC cs.IR
Youth as Peer Auditors: Engaging Teenagers with Algorithm Auditing of Machine Learning Applications
本研究将14-15岁青少年定位为同伴机器学习应用的审计员，通过两周工作坊及前后访谈证实，该模式可帮助青少年识别算法偏见、理解模型功能，为青少年算法审计提供了概念框架与实证依据。
2024-04-16 cs.CY cs.HC
Applied and Filtered: An End-to-End Algorithmic Fairness Audit of A Public Employment Agency
对巴塞罗那公共就业机构Barcelona Activa的TalentClue半自动化招聘系统开展端到端公平性审计，发现其存在性别、年龄、非二元性别等维度的公平性差异，凸显需开展社会技术层面的端到端评估。
2026-08-14 cs.CY
The Matter of Chance: Auditing Web Search Results Related to the 2020 U.S. Presidential Primary Elections Across Six Search Engines
我们研究了六个搜索引擎如何在默认条件下（即非个性化条件下）过滤和排名与美国2020年总统初选查询相关的信息。为此，我们利用了一种算法审计方法，该方法使用虚拟代理在受控环境中对算法信息策展进行大规模分析。具体来说，我们看看在2020年初选期间，谷歌，百度，Bing，DuckDuckGo，雅虎和Yandex上的“美国选举”，“唐纳德特朗普”，“乔拜登”和“伯尼桑德斯”查询的文本搜索结果。我们的研究结果表明，在搜索引擎和多个差异内的不同代理使用相同的搜索引擎产生的结果之间的搜索结果的实质性差异。它强调了用户是否看到某些信息是由偶然决定的，由于搜索结果的固有随机性。我们还发现，一些搜索引擎优先考虑不同类别的信息源相对于特定的候选人。这些观察表明，即使在非个性化条件下，政治信息的算法策展也会在搜索引擎用户之间造成信息不平等。这种不平等尤其令人不安，因为搜索结果受到公众的高度信任，并且可以改变先前研究表明的犹豫不决的选民的意见。
2021-05-03 cs.CY
Open Veins of Algorithmic Auditing: Why AI Assessment Lags Behind Its Deployment in the Global South
Eticas Foundation（Eticas基金会）
研究全球南方人工智能评估落后于部署的问题，通过十年审计实践发现评估稀疏及四个模式，得出五点经验教训，指出差距根源是资金问题，建议资助者、政府改进，强调评估设计需完善。
2026-07-24 cs.CY
Algorithmic Misjudgement in Google Search Results: Evidence from Auditing the US Online Electoral Information Environment
本文审计2022年美国中期选举期间Google搜索结果，发现州、县和地方政府选举信息来源的出现有71%发生地理错误定向，并强调正确本地定向的重要性。
2024-06-14 cs.CY
Principled Uncertainty in Clinical AI: End-to-End Bayesian Modelling and Algorithmic Equity Auditing Across Multimodal Patient Data
Centre for Algorithmic Health Equity（算法健康公平中心）；Department of Medicine and Surgery, College of Medicine, University of Ibadan（伊巴丹大学医学院医学与外科系）；Department of Computer Science, School of Computing, The Federal University of Technology Akure (FUTA)（阿库雷联邦科技大学计算机学院计算机科学系）
提出端到端贝叶斯不确定性建模框架，结合校准不确定性作为公平性度量，在模拟患者数据中识别出初级/农村设施和低社会经济地位患者的认知不确定性公平差距。
2026-06-08 cs.CY
Peer-induced Fairness: A Causal Approach for Algorithmic Fairness Auditing
提出融合反事实公平与同伴比较的“peer-induced fairness”审计框架，可区分算法歧视与主体内在局限，并在中小企业融资场景中发现41.51%的微型企业遭受歧视。
2024-09-05 cs.CY q-fin.CP q-fin.ST
From Verification to Amplification: Auditing Reverse Image Search as Algorithmic Gatekeeping in Visual Misinformation Fact-checking
Tsinghua University（清华大学）；Georgia State University（佐治亚州立大学）；The Chinese University of Hong Kong（香港中文大学）；Northwestern University（西北大学）；University of Georgia（佐治亚大学）；University of California, Davis（加州大学戴维斯分校）
本研究通过审查谷歌反向图像搜索，揭示其在事实核查中对视觉虚假信息的处理问题，发现其返回大量无关和重复信息，且驳斥内容可见性不足。
2026-03-10 cs.CY cs.IR cs.SI
YouTube Recommendations Reinforce Negative Emotions: Auditing Algorithmic Bias with Emotionally-Agentic Sock Puppets
本研究通过袜子木偶审计方法，发现YouTube推荐算法会放大愤怒等负面情绪，且随时间加剧，形成情感过滤气泡，呼吁平衡个性化与内容多样性。
2025-01-25 cs.CY cs.SI
An External Stability Audit Framework to Test the Validity of Personality Prediction in AI Hiring
New York University（纽约大学）；Tandon School of Engineering, New York University（纽约大学坦登工程学院）；The MITRE Corporation（MITRE公司）；Arthur L. Carter Journalism Institute, New York University（纽约大学亚瑟·L·卡特新闻学院）
自动招聘系统是所有高风险人工智能系统中发展最快的系统之一。其中包括算法人格测试，它利用心理测量测试的洞察力，并承诺根据求职者的简历或社交媒体资料来揭示预示未来成功的人格特征。我们询问这些系统的有效性，使用它们产生的输出的稳定性，注意到可靠性是必要的，但不是充分的，有效性的条件。我们的方法是（a）开发一种方法，用于对算法人格测试所做预测的稳定性进行外部审计，以及（b）在Humantic AI和Crystal两个系统的审计中实例化这种方法。至关重要的是，我们不是挑战或肯定心理测量测试中的假设--人格是一个有意义的、可测量的结构，人格特质是未来工作成功的指标--而是围绕测试算法人格测试供应商自己做出的基本假设来构建我们的方法。我们的主要贡献是开发了一个社会技术框架，用于审计算法系统的稳定性。这一贡献补充了一个开源的软件库，实现了审计的技术组件，并可用于进行类似的算法系统的稳定性审计。我们通过对两个现实世界的人格预测系统（即Humantic AI和Crystal）的审计来实例化我们的框架。我们的审计框架的应用表明，这两个系统显示出相当大的不稳定性方面的关键衡量，因此不能被视为有效的测试工具。
2022-04-12 cs.AI cs.CY cs.LG
Auditing Algorithmic Personalization in TikTok Comment Sections
Indiana University Bloomington（印第安纳大学布鲁明顿分校）
研究通过算法审计实验探讨TikTok评论区的个性化影响，发现不同政治立场账号的评论排名差异显著，且与评论量、参与度不平等及偏见有关。
2026-03-26 cs.CY cs.SI
Regulating algorithmic filtering on social media
通过过滤用户看到的内容，社交媒体平台有能力影响用户的看法和决定，从他们的餐饮选择到他们的投票偏好。这种影响已经引起了人们的关注，许多人呼吁对过滤算法进行监管，但设计和执行法规仍然具有挑战性。在这项工作中，我们研究三个问题。首先，给定一项法规，如何设计审计来执行它？第二，审核是否会给平台带来绩效成本？第三，审核对平台被激励过滤的内容有何影响？作为回应，我们提出了一种方法，这样，给定一个规定，审计师可以测试是否符合该规定，只有黑盒访问过滤算法。然后，我们转向平台的视角。该平台的目标是在满足监管的同时最大化目标函数。我们发现，在某些情况下，监管不会对平台造成高性能成本，特别是，内容多样性可以在协调平台和监管机构的利益方面发挥关键作用。
2021-11-02 cs.CY cs.SI
Algorithmic Behaviors Across Regions: A Geolocation Audit of YouTube Search for COVID-19 Misinformation Between the United States and South Africa
University of Washington（华盛顿大学）；Seattle University（西雅图大学）
针对现有YouTube错误信息审计忽视全球南方的空白，本研究通过美、南非法地理位置审计，发现南非搜索结果中新冠错误信息占比（前10条31.55%）显著高于美国，强调平台需跨地区一致监管算法行为。
2025-04-14 cs.AI cs.CY cs.HC
AI-Enabled Quality Assurance for Multiple-Choice Assessment Items
George Mason University（乔治梅森大学）；Colgate University（科尔盖特大学）
本文提出将单选题质量保障视为一系列独立验证的决策，通过综述自动检测与修订方法，强调标准化的报告和结果导向的评估。
2026-10-06 cs.AI cs.CL cs.CY
An Algorithmic Equity Toolkit for Technology Audits by Community Advocates and Activists
University of Washington（华盛顿大学）；West Virginia University（西弗吉尼亚大学）；Middlebury College（明德学院）；University of Michigan（密歇根大学）；University of Oxford（牛津大学）
最近一波学术研究记录了算法系统的歧视性危害，激发了人们对算法问责和监管的广泛兴趣。然而，由于持续缺乏支持公众理解算法和人工智能的资源，有效的问责和监管受到阻碍。通过与美国的民权组织和他们的社区组织联盟的互动，我们确定了一个需要（i）的分析，帮助利益相关者在区分类型的分析和信息系统在外行的语言，和（ii）风险评估工具，这样的系统，首先使算法更清晰。目前的工作提供了一个工具包，以实现这些目标。本文既介绍了作为一个工件，我们的参与过程中塑造了它的设计的mathemic公平工具包（AEKit）公平。我们的工作符合人机交互奖学金，作为HCI方法和方法在算法透明度和问责制领域的问题的价值的证明。
2019-12-06 cs.AI cs.CY cs.HC
Sociotechnical Audits: Broadening the Algorithm Auditing Lens to Investigate Targeted Advertising
针对算法审计缺乏社会技术视角的问题，提出社会技术审计方法及平台Intervenr，通过干预用户广告交换实验发现定向广告虽有效，但用户一周内即适应，质疑个性化定向的首要地位。
2023-08-30 cs.CY cs.HC
From Frontier to Shadow AI: A Simmering Threat to Assurance and Security in Critical Infrastructure
CSIRO（澳大利亚联邦科学与工业研究组织）
本研究通过访谈澳大利亚27家关键基础设施组织的高管，首次实证分析了影子AI在关键基础设施中的表现、风险及安全退化机制，提出了边界绕过、未评估能力扩展和治理规避三种威胁模型。
2026-05-23 cs.CR cs.CY
From Transparency to Accountability and Back: A Discussion of Access and Evidence in AI Auditing
Stanford University（斯坦福大学）；Massachusetts Institute of Technology（麻省理工学院）
该研究探讨AI审计的核心操作问题——开展有效审计所需的AI系统访问权限，分析四类访问的优劣，提出至少应授予黑盒访问权限，并构建了确定额外访问权限的假设检验框架，为审计实施提供清晰指导。
2024-10-07 cs.CY cs.LG
Auditing for Spatial Fairness
Université Libre de Bruxelles（布鲁塞尔自由大学）；Athena Research Center（雅典娜研究中心）；Tampere University（坦佩雷大学）
研究了当保护属性为位置时的算法公平性。为了处理受保护的连续属性，如年龄或收入，标准方法是将域离散化为预定义的组，并比较各组的算法结果。然而，将这一想法应用于位置引起了对不公正划分选区的担忧，并可能引入统计偏差。以前的工作解决了这些问题，但只为定期间隔的位置，同时提出了其他问题，最显着的是它无法辨别的区域，可能会表现出空间不公平。与算法公平性的既定概念类似，我们将空间公平性定义为结果与位置的统计独立性。这意味着要求每个空间区域的结果分布在区域内外是相同的。为了允许局部差异的分布结果，我们比较两个竞争的假设如何解释观察到的结果。原假设假设空间公平，而备用允许不同的分布内部和外部区域。然后通过似然比检验评估其拟合优度。如果这两个假设在解释观察到的结果方面没有显著差异，我们可以得出结论，该算法在空间上是公平的。
2023-02-23 cs.CY cs.DB cs.LG
The DSA's Blind Spot: Algorithmic Audit of Advertising and Minor Profiling on TikTok
Kempelen Institute of Intelligent Technologies（智能技术研究所）；Comenius University Bratislava（布拉迪斯拉发康门尼乌斯大学）
本文通过算法审计揭示TikTok在执行DSA第28(2)条时的监管矛盾，发现未成年人仍受算法推荐的商业内容影响，呼吁扩大广告定义并禁止基于画像的定向广告。
2026-05-09 cs.AI cs.CY cs.IR
The Algorithmic Caricature: Auditing LLM-Generated Political Discourse Across Crisis Events
New York University (NYUAD), Division of Science, Computer Science Department（纽约大学（NYUAD），科学学院，计算机科学系）
本文通过对比真实与生成的政治言论，发现生成内容在情感强度、结构规律性和词汇框架上不如真实言论真实，提出了'漫画差距'作为评估生成内容社会真实性的指标。
2026-05-12 cs.AI cs.CL cs.CY
Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale
Massachusetts Institute of Technology（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）
提出用生成式AI代理作为行为引擎进行黑盒审计，通过固定人设和反事实扰动解耦用户属性与行为，在X平台部署1120个代理发现算法推荐放大有毒、极化内容且效果因用户意识形态而异。
2026-07-01 cs.CL cs.CY cs.LG
Learning AI Auditing: A Case Study of Teenagers Auditing a Generative AI Model
本研究通过案例研究展示青少年如何参与算法审计生成式AI模型，以识别偏见并培养AI素养，凸显审计作为学习活动的潜力。
2025-08-08 cs.CY cs.HC
Auditing Recommender Systems -- Putting the DSA into practice with a risk-scenario-based approach
今天的在线平台严重依赖推荐系统向用户提供内容;社交媒体就是一个很好的例子。反过来，推荐系统在很大程度上依赖于人工智能算法来决定谁可以看到什么。虽然社交媒体平台提供的内容与使用它们的用户一样多种多样，但事实表明，平台可能会对个人、团体和社会造成严重伤害。研究表明，这些负面影响包括从个人心理健康恶化到推动全社会两极分化，使民主国家处于危险之中。为了更好地保护人们免受这些伤害，欧盟的数字服务法案（DSA）要求平台，特别是那些拥有大量用户的平台，使其算法系统更加透明，并遵守尽职调查义务。这些要求是减轻在线平台构成的系统性风险的重要立法步骤。然而，DSA缺乏具体的指导方针来实施可行的审计程序，使审计员能够对这些平台负责。这种空白可能会助长“洗黑钱”的蔓延，也就是说，平台利用审计来合法化他们的做法并忽视责任。为了填补这一空白，我们提出了一个基于风险情景的审计过程。我们详细解释了根据DSA推荐系统的审计和评估应该是什么样子。我们的方法还考虑了平台的不断发展的性质，并强调其推荐系统组件的可观察性。由此产生的审计促进了内部（同一系统在不同时间的审计之间）和外部（不同平台的审计之间）的可比性，同时还提供了对平台本身实施的缓解措施的评估。
2023-02-09 cs.CY cs.SI
White-Box Sensitivity Auditing with Steering Vectors
University of Virginia（弗吉尼亚大学）
本文提出白盒敏感性审计框架，通过激活引导进行更严格的模型内部评估，用于检测大语言模型中的偏见，揭示模型对保护属性的依赖。
2026-07-01 cs.CL cs.CY cs.LG
Modeling Content Creator Incentives on Algorithm-Curated Platforms
University of Cambridge（剑桥大学）；UC Berkeley（加州大学伯克利分校）；TU Munich（慕尼黑工业大学）；Helmholtz Munich（慕尼黑亥姆霍兹中心）；Cornell University（康奈尔大学）
本文将创作者在算法平台上的策略性竞争形式化为曝光博弈，证明算法选择显著影响纳什均衡，并提出部署前审计工具，在MovieLens和LastFM上验证了算法探索与内容多样性及群体偏见的关系。
2023-07-06 cs.CY cs.GT cs.IR
