Governance Controls for AI-Generated Test Artifacts in Autonomous Software Testing
提出治理感知自主测试框架(GATF),通过治理验证、可解释性分析、风险评估、合规监控和审计治理,将AI生成测试工件的治理风险降低89.6%,准确率达94.3%。
2026-06-07 cs.AI cs.SE
Dr.Aid: Supporting Data-governance Rule Compliance for Decentralized Collaboration in an Automated Way
University of Edinburgh(爱丁堡大学);INGV(意大利国家地球物理与火山研究所)
今天,跨越机构界限的合作非常普遍,而且越来越多。它依赖于联合会共享数据,这些数据通常具有限制其使用的治理规则或外部法规。但是,数据治理规则的处理(又名。数据使用政策)仍然是手工操作,既耗时又容易出错,限制了合作的形成和应对挑战和机遇的速度,阻碍了公民科学,降低了数据提供者对合规的信任。使用自动化系统来协助处理合规问题,大大减少了此类非特派团工作所需的时间,从而加快了协作,提高了生产力。我们提出了一个框架,援助博士,帮助个人,组织和联合会遵守数据规则,使用自动化来跟踪哪些规则适用于数据在过程之间传递和派生数据生成。它使用形式语言编码数据治理规则,并在分散的上下文中对多输入多输出数据流图进行推理。我们通过与用户合作进行飓风跟踪和地震建模来测试其功能和实用性,以支持减灾和应急响应。我们查询标准的出处跟踪,以将援助博士与他们正在使用的工具和系统的细节分开,因为这些不可避免地会因联邦成员和时间而异。我们从三个方面对该模型进行了评估,通过对来自不同领域的实际数据使用策略进行编码,展示了其实际使用的能力以及与传统框架相比的优势。我们认为,这种方法将导致更敏捷,更有成效和更值得信赖的合作,并表明该方法可以逐步采用。反过来,这将允许更合适的数据政策出现,开辟新的合作形式。
2021-10-03 cs.AI cs.DB
AI Transparency: Governance Compliance or Stakeholder Requirements?
CSIRO(澳大利亚联邦科学与工业研究组织)
通过分析92份澳大利亚政府AI透明度声明,提出RCIN框架评估利益相关者需求,发现合规普遍但校准不均,存在“透明度幻觉”。
2026-07-01 cs.AI cs.CY
Who judges the judges? Governance from metrics: a runtime framework for continuous LLM compliance monitoring
Independent Researcher(独立研究者)
针对AI合规作为审计时二元判定而非生产系统持续可测量属性的问题,提出基于指标的治理原则,并开发开源框架govllm,通过运行时可观测性信号实现持续合规监控,验证了多模型陪审团设计在监管评估中的有效性。
2026-05-23 cs.AI cs.CL cs.CY
AI Governance under Political Turnover: The Alignment Surface of Compliance Design
University of Poitiers(波尔多大学)
研究探讨了在政治更替背景下,合规层如何影响AI治理的稳定性与透明性,分析了自动化程度、编码程度及迭代使用保障对系统脆弱性的影响。
2026-04-22 cs.AI econ.GN q-fin.EC
Governance-as-Code: Translating EU AI Act Technical Requirements into Executable Compliance Pipelines for Generative AI Systems
Boston University(波士顿大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对欧盟人工智能法案在生成式系统上的技术缺口,提出治理即代码框架,以43项可检查标准在CI/CD中自动审计,验证并削减75%审计工作量。
2026-09-18 cs.AI cs.CY
Ethical and Scalable Automation: A Governance and Compliance Framework for Business Applications
University College London(伦敦大学学院)
针对企业AI应用的伦理、治理与合规风险,本文提出兼顾伦理、可控、可行性与可取性的统一框架,并通过金融、医疗及LLM合成观点案例验证其透明度、性能与可扩展性。
2024-12-05 cs.AI cs.LG
Ontological Knowledge Blocks: Executable Compliance and Profile-Based Validation for Trustworthy AI Systems
提出本体知识块(OKBs)作为可编程治理基础设施,通过将监管义务编译为机器可检查的约束,实现自动化合规验证,并在AI辅助HPC资源分配场景中验证其有效性。
2026-05-22 cs.AI cs.DC
Standardized Threat Taxonomy for AI Security, Governance, and Regulatory Compliance
本研究提出AI系统威胁向量分类,通过九个关键领域整合53个子威胁,将技术漏洞映射到业务损失类别,实现定量风险评估与监管合规的对接。
2025-11-26 cs.AI cs.CR q-fin.RM
Beyond Procedural Compliance: Human Oversight as a Dimension of Well-being Efficacy in AI Governance
University College Dublin(都柏林大学学院)
本文提出将人类监督视为AI治理中的福祉能力,强调通过教育体系培养这种能力以实现安全和道德的人工智能发展。
2025-12-15 cs.AI cs.CY cs.HC
Trustworthy Artificial Intelligence and Process Mining: Challenges and Opportunities
ABBYY;RWTH Aachen University(亚琛工业大学);XPAN Law Partners(XPAN律师事务所)
本文的前提是,遵守值得信赖的人工智能治理最佳实践和监管框架是一个内在的分散过程,跨越不同的组织单位,外部利益相关者和记录系统,导致过程的不确定性和合规性差距,可能使组织面临声誉和监管风险。此外,满足值得信赖的人工智能最佳实践的特定方面也存在复杂性,例如数据治理、一致性测试、人工智能模型行为的质量保证、透明度、问责制和保密性要求。这些流程涉及多个步骤、交接、返工和人工监督。在本文中,我们证明了流程挖掘可以提供一个有用的框架,用于获得对AI合规流程执行的基于事实的可见性,揭示合规瓶颈,并提供一种自动化方法来分析,修复和监控AI监管合规流程中的不确定性。
2021-10-06 cs.AI cs.SE
Ontology drift is a challenge for explainable data governance
J. P. Morgan AI Research(摩根大通AI研究院)
我们介绍了巴塞尔银行标准委员会第239号标准(BCBS 239)对可解释的人工智能的需求,该标准概述了金融机构有效风险数据汇总和风险报告的11项原则。其中,ExplainableAI在两个关键方面是合规所必需的:数据质量和为多个利益相关者提供适当的报告。我们描述了一个特定的监管要求的实施挑战:有一个完整的数据分类法,适合公司范围内使用。金融本体论的不断演变的性质需要一个持续的更新过程,以确保持续的遵守。
2021-08-11 cs.AI cs.CY cs.IR
Bridging the Gap in XAI-Why Reliable Metrics Matter for Explainability and Compliance
Lexsi Labs(Lexsi实验室)
本文提出以度量治理的范式,通过标准化指标提升AI系统的可解释性和合规性,防止对齐造假,构建持续的AI保证流程。
2025-11-20 cs.AI cs.CE cs.ET
Brain Surgery: Ensuring GDPR Compliance in Large Language Models via Concept Erasure
Algoretico(阿尔戈雷蒂科)
本文提出 Brain Surgery 方法,通过概念擦除、实时隐私管理和定向遗忘技术,确保大型语言模型符合 GDPR,为用户提供模块化隐私治理方案。
2024-09-22 cs.AI
A Blockchain-Enabled Approach to Cross-Border Compliance and Trust
Capitol Technology University(卡皮托尔理工大学)
针对AI系统跨境治理缺乏统一可信框架的问题,提出基于区块链和DLT的去中心化全球AI治理方案,给出金融领域落地场景、十年分阶段部署计划及挑战应对方案,为适配全球监管演变提供路线图。
2025-01-15 cs.AI cs.CR cs.CY
Will the Agent Recuse, and Will It Stop? Measuring LLM-Agent Compliance with In-Band Governance Signals at the Access Door and Mid-Flight
University of California, Berkeley(加州大学伯克利分校)
提出一种轻量级带内拒绝信号(Recuse Signal),通过实验测量LLM智能体是否自愿遵从该信号,发现信号能有效诱导回避,但高级模型在操作员授权下可能忽略。
2026-08-04 cs.AI cs.CR
Policy-Aware Generative AI for Safe, Auditable Data Access Governance
Center for Advanced Research in Entity Resolution and Information Quality (ERIQ)(实体解析与信息质量高级研究中心)
本研究提出一种基于LLM的策略感知控制器,通过六阶段推理和硬性门控实现安全、合规、可审计的数据访问决策,实验显示决策准确率提升至92.9%。
2025-10-27 cs.AI
Towards Self-Regulating AI: Challenges and Opportunities of AI Model Governance in Financial Services
Columbia University(哥伦比亚大学);University of Alabama(阿拉巴马大学);J. P. Morgan AI Research(摩根大通人工智能研究院)
人工智能系统在金融服务中有着广泛的应用领域。他们参与更广泛和越来越重要的决策,这使得对合规性和有效的模型治理的需求升级。当前的治理实践是从更传统的财务应用程序和建模框架发展而来的。他们经常与人工智能特征的根本差异作斗争,例如假设的不确定性,以及缺乏明确的编程。人工智能模型治理通常涉及复杂的审查流程,并严重依赖手动步骤。因此,它在有效性、成本、复杂性和速度方面面临着严峻的挑战。此外,人工智能模型复杂性的前所未有的增长率对当前实践的可持续性提出了质疑。本文重点关注金融服务行业人工智能模型治理的挑战。作为展望的一部分,我们提出了一个系统级框架,以提高自我监管的稳健性和合规性。这种方法旨在通过提高自动化程度和集成监控、管理和缓解功能来实现潜在的解决方案机会。拟议的框架还提供了模型治理和风险管理改进的能力,以管理部署期间的模型风险。
2020-10-09 cs.AI cs.LG q-fin.GN
A five-layer framework for AI governance: integrating regulation, standards, and certification
Department of Telecommunications, Ministry of Communications(通信部电信司);Defence Institute of Advanced Technology, Ministry of Defence(国防部国防先进技术研究院)
本文提出一个五层AI治理框架,通过整合监管指令、标准与认证流程,连接监管原则与实际实施,并经案例验证能有效识别合规差距,为政策制定者和行业提供可行的风险管理路线图。
2025-09-14 cs.AI cs.CY cs.HC
Compliant with Local Controls, Collectively Discriminatory. A Governance Architecture for Multi-Agent AI in Regulated Finance
Santander AI Lab(桑坦德人工智能实验室);Grupo Santander(桑坦德集团)
针对金融机构中多智能体AI的局部合规不保证集体公平问题,提出ARIA治理架构,涵盖六项能力,并通过模拟验证其监控与预警效果。
2026-09-24 cs.AI cs.MA
An Empirical Study and Assessment of EU AI Act Compliance Checkers
Technical University of Munich(慕尼黑工业大学);New York University(纽约大学)
本研究首次实证评估12个主流欧盟AI法案合规检查器,发现其质量参差、仅适合作早期定位工具,并提出更可靠合规支持工具的设计原则。
2026-09-30 cs.AI cs.CR
Comparative Algorithmic Governance of Public Health Instruments across India, EU, US and LMICs
Lovely Professional University(可爱专业大学)
本研究比较了印度、欧盟、美国和低收入中等收入国家在公共卫生工具算法治理中的差异,探讨人工智能在提升公共卫生响应中的作用,并提出基于FCTC架构的算法条约模型以促进公平健康结果。
2026-01-25 cs.AI cs.CY cs.LG
Data-Centric Governance
Alignment Labs(对齐实验室)
人工智能(AI)治理是一系列标准和实践,用于确保AI系统以负责任的方式部署。目前的人工智能治理方法主要包括手动审查和文档处理。虽然这种审查对许多系统来说是必要的,但它们不足以系统地解决所有潜在的危害,因为它们没有以促进严格和可重复评估的方式实现系统工程,行为和结果的治理要求。现代人工智能系统是以数据为中心的:它们作用于数据,产生数据,并通过数据工程构建。治理要求的保证也必须在数据方面进行。这项工作通过数据集和算法评估探索了治理需求的系统化。当在整个产品生命周期中应用时,以数据为中心的治理可以缩短部署时间,提高解决方案质量,降低部署风险,并使系统处于确保符合治理要求的持续状态。
2023-02-14 cs.AI cs.CY cs.LG
Intent Drift at SME Scale: Deployment Practice, Not Model Capability, Determines Agentic Compliance
The Hong Kong University of Science and Technology(香港科技大学)
针对小型受监管企业,提出“意图链”治理框架,通过四项无需安全工程的管控措施,在模拟资产管理场景中消除智能体非法联系,并揭示部署实践决定合规性。
2026-09-09 cs.AI cs.CY
Global AI Regulations for FAIR and Ethics in High-Risk Use Cases: A Comparative Review
本文通过比较欧盟、美国、中国的AI监管框架,分析高风险AI用例的合规缺口,提出基于RDF/OWL等技术的知识块模式以实现跨制度设计型合规。
2026-08-18 cs.AI
UGAF-ITS: A Standards Harmonization Framework and Validation Tool for Multi-Framework AI Governance in Distributed Intelligent Transportation Systems
Higher Colleges of Technology(高等教育技术学院);Central Michigan University(中央密歇根大学)
本文提出UGAF-ITS框架,通过五阶段方法整合三方治理要求,实现统一控制,减少合规成本并提升事件追溯能力。
2026-08-11 cs.AI cs.CY
The Violation Situation Pattern: Persistent Representation of Compliance Violations in Knowledge Graphs
DiliTrust;Department of Information Systems and Technologies, Bilkent University(信息系统与技术系,比尔肯特大学)
提出违规情境模式(VSP),将合规检测中的违规实例化为持久化图节点,支持生命周期状态和审计历史,并通过法律实体合同图实例化四种道义规则验证其有效性。
2026-08-04 cs.AI
Governance-Aware Vector Subscriptions for Multi-Agent Knowledge Ecosystems
Independent Researcher(独立研究员)
本文提出面向治理的向量订阅机制,结合语义相似性匹配与多维政策约束,解决多智能体环境中知识订阅的合规性问题,通过AIngram平台验证了该机制在政策约束下的有效性。
2026-03-27 cs.AI
PASTA: A Scalable Framework for Multi-Policy AI Compliance Evaluation
The University of British Columbia(不列颠哥伦比亚大学);Korea Institute of Science and Technology(韩国科学技术院)
提出PASTA框架,通过模型卡格式、策略规范化、LLM驱动的成对评估引擎和可解释界面,实现多策略AI合规的快速、低成本评估,专家评估显示与人类判断高度一致。
2026-05-28 cs.AI cs.HC
A Privacy-Preserving Cloud Architecture for Distributed Machine Learning at Scale
Texas, USA(德克萨斯大学)
本文提出一种结合联邦学习、差分隐私和强化学习的隐私保护云架构,实现安全的分布式机器学习部署与持续合规治理。
2025-12-11 cs.AI cs.LG
LLM Access Shield: Domain-Specific LLM Framework for Privacy Policy Compliance
Hong Kong Applied Science and Technology Research Institute (ASTRI)(香港应用科学和技术研究院)
提出一个领域专用LLM安全框架,通过基于LLM的政策执行、动态政策定制和保留格式加密的敏感数据匿名化,确保隐私政策合规并降低数据泄露风险,同时保持任务功能准确性。
2025-05-22 cs.AI cs.CR
Reconfiguring Digital Accountability: AI-Powered Innovations and Transnational Governance in a Postnational Accounting Context
Royal Holloway, University of London(伦敦大学皇家霍洛威学院);Northeastern University London(东北大学伦敦分校)
本文整合TAM、ANT与制度理论,研究AI驱动创新如何重塑跨国治理下的组织问责制,并提出内部治理重构与外部行动者网络参与两种策略,以推动会计领域负责任且合法的AI采用。
2025-06-30 cs.AI cs.ET econ.TH
Decentralized Governance of Autonomous AI Agents
Gemach DAO;Rochester Institute of Technology(罗切斯特理工学院);NPC Labs(NPC实验室);National University(国立大学)
针对现有AI治理框架难以应对自主AI智能体复杂性的问题,提出基于Web3技术的ETHOS去中心化治理框架,通过全球注册、自动化合规、去中心化司法等机制,平衡创新与伦理责任,提供可扩展的AI智能体监管方案。
2025-01-11 cs.AI cs.ET
FoodMonitor: Benchmarking MLLMs for Explainable Compliance Analysis
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院,清华大学)
针对现有视频异常检测缺乏规则驱动可解释性的问题,提出FoodMonitor基准,包含双通道违规标注和两阶段匹配评估协议,揭示当前多模态大语言模型在空间定位和细粒度规则理解上的瓶颈。
2026-05-23 cs.AI cs.CV
DataGovBench: Benchmarking LLM Agents for Real-World Data Governance Workflows
Peking University(北京大学);ByteDance(字节跳动)
DataGovBench通过150种现实任务评估LLM代理在数据治理中的表现,提出DataGovAgent框架提升复杂任务性能和调试效率。
2025-12-06 cs.AI cs.SE
Governed Memory: A Production Architecture for Multi-Agent Workflows
本文提出受控内存架构,通过共享内存和治理层解决多智能体工作流中的内存治理问题,提升系统精度与可靠性。
2026-03-18 cs.AI cs.CL cs.MA
Vision Paper: Designing Graph Neural Networks in Compliance with the European Artificial Intelligence Act
University of Bayreuth(拜罗伊特大学);Technical University of Munich(慕尼黑工业大学)
本文针对欧盟《人工智能法案》给图神经网络(GNNs)带来的合规挑战,分析法规要求对GNN训练的影响,提出适配策略,填补了新立法框架下GNN合规研究的空白。
2024-10-29 cs.AI cs.CY cs.LG
Neuro-Symbolic Participation Governance for Verifiable AI Agents in Open Digital Twin Ecosystems
North Dakota State University(北达科他州立大学);University of Washington(华盛顿大学)
该研究针对开放数字孪生生态中AI智能体的验证需求,提出神经符号去中心化治理框架,结合神经推理与制度治理,通过区块链智能合约实现可审计参与,经原型验证可管控开销下保障合规协作。
2026-08-04 cs.AI cs.CR cs.MA
Policy-as-Prompt: Turning AI Governance Rules into Guardrails for AI Agents
Pure Storage
本文提出 Policy as Prompt 方法,将 PRD、TDD 和代码等非结构化设计工件转化为源链接策略树,并编译为轻量级提示分类器,用于实时监控 AI 智能体,实现最小权限、数据最小化、可审计性和持续合规。
2025-11-07 cs.AI cs.CL
LiaisonAgent: An Multi-Agent Framework for Autonomous Risk Investigation and Governance
Shenzhen Institute of Advanced Technology, CAS(深圳先进技术研究院, 中国科学院);Sangfor Technologies Inc.(Sangfor技术有限公司);College of Management Science(管理科学学院);Chengdu University of Technology(成都理工大学);Shenzhen University of Advanced Technology(深圳大学先进技术学院)
LiaisonAgent通过多智能体系统实现自主风险调查与治理,结合QWQ-32B模型和混合规划架构,提升安全响应效率与准确性。
2026-02-27 cs.AI cs.CR
The SMART+ Framework for AI Systems
MaxisIT Inc.(MaxisIT公司);Aula Fellowship for AI(Aula人工智能奖学金会)
SMART+框架为AI系统提供了一种结构化模型,涵盖安全、监控、责任、可靠性和透明性,并增强隐私与安全、数据治理和公平性,以提升AI系统的治理和合规性。
2025-12-09 cs.AI cs.CY cs.HC
RAG-Driven Data Quality Governance for Enterprise ERP Systems
本文提出一种基于RAG的数据质量治理方法,通过自动化清洗与LLM生成SQL查询,提升企业ERP系统中多语言数据处理效率与准确性。
2025-11-18 cs.AI cs.DB
Why Do AI Agents Break Rules? How Framing, Context, and Social Signals Shape Compliance
该研究运用法律与经济学的合规理论,发现安全微调AI模型大体合规,任务优化与智能体模型会在低惩罚等条件下违规,且引入经济激励等会导致大规模合规失败,指出模型选择与合规性评估需改进。
2026-08-21 cs.AI cs.CL cs.CY
SORA-ATMAS: Adaptive Trust Management and Multi-LLM Aligned Governance for Future Smart Cities
organization= Department of Computer Science, National University of Computer \& Emerging Sciences , addressline= St-4 Sector 17-D On National Highway , city= Karachi , postcode= 75160 , state= , country= Pakistan;organization= Balochistan University of Information Technology, Engineering;organization= Department of Computer Science, Birmingham City University , addressline= STEAMhouse, Belmont Row , city= Birmingham , postcode= B4 7RQ , country= United Kingdom
针对智慧城市中智能体AI部署的治理、风险与合规挑战,提出SORA-ATMAS框架,通过自适应信任管理与多LLM对齐治理实现安全高效决策,经实验验证其性能、可扩展性与跨域互操作性。
2025-10-22 cs.AI cs.MA
Trustworthy Distributed AI Systems: Robustness, Privacy, and Governance
Fordham University(福特汉姆大学);Georgia Institute of Technology(佐治亚理工学院)
本文综述了可信分布式AI在鲁棒性、隐私保护、公平性治理三方面的技术与理论,梳理了分布式学习的架构与脆弱性,提出应对措施分类体系,并指出该领域的开放挑战与未来方向。
2024-02-02 cs.AI cs.CR cs.DC
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
Skilder
针对LLM代理访问企业工具集时的安全与治理问题,提出skilder框架,将能力打包为角色并通过MCP服务器确定性强制治理边界,在保持灵活性的同时实现硬性系统级访问控制。
2026-09-25 cs.AI cs.CR cs.MA
From Siloed Algorithms to Compliance-First Agentic Platforms: A Multi-Layered Architecture for Hospital AI Systems
针对医院AI部署孤立、规模化难的问题,提出含智能体编排、合规策略、隐私保护数据层的多层架构,通过原型验证可减少任务耗时与文档工作量,为医院AI平台建设提供实用蓝图。
2026-11-06 cs.AI cs.CL cs.LG
Data Obfuscation through Latent Space Projection (LSP) for Privacy-Preserving AI Governance: Case Studies in Medical Diagnosis and Finance Fraud Detection
本文提出潜在空间投影(LSP)技术,通过自编码器与对抗训练将敏感数据投影到低维潜在空间,在保持模型性能的同时实现强隐私保护,并在医疗诊断和金融欺诈检测中验证其优于传统隐私方法。
2024-10-22 cs.AI cs.CR cs.CY
Optimising Temporary Accommodation Placement Across London with AI-Powered SaaS in E-Governance Systems
UK Centre for AI in the Public Sector(英国公共部门人工智能中心);Institute for Connected Communities(连接社区研究所);University of East London(东伦敦大学);London Borough of Newham(伦敦新ham区)
本文介绍DOMUS系统,一个基于云的AI决策支持系统,通过规则过滤与大语言模型搜索结合,优化伦敦纽汉姆区的临时住所安置,显著减少搜索时间并提高合规性。
2026-06-16 cs.AI cs.CY cs.SI
ArGen: Auto-Regulation of Generative AI via GRPO and Policy-as-Code
Principled Evolution(原则进化)
ArGen通过结合原则奖励评分、GRPO和OPA式治理层,实现对LLMs的多维规则对齐,并以达摩伦理医疗助手案例验证,领域遵循性提升70.9%。
2025-09-06 cs.AI cs.CL cs.CY