Verdict Without the Rule: Diagnosing and Auditing Regulatory Rule Sensitivity in LLM Compliance Systems
Lexsi Labs(Lexsi实验室)
该研究通过测试五个模型在20个监管及平台政策领域的规则扰动下的裁决变化,发现大语言模型合规系统的裁决对规则扰动常具不变性,防护模型规则敏感性最低且准确性仅略高于随机水平,提示仅靠准确性无法证明裁决基于规则。
2026-10-09 cs.AI cs.CL cs.CY
Towards a Framework for Supporting the Ethical and Regulatory Certification of AI Systems
St. Pölten University of Applied Sciences(施普伦特应用科学大学);Digital for Planet - D4P(数字为行星 - D4P);University of Luxembourg(卢森堡大学);Netcompany-Intrasoft S.A.(Netcompany-Intrasoft公司)
针对AI普及带来的伦理与监管挑战,CERTAIN项目提出融合语义MLOps、本体驱动数据溯源、RegOps的综合认证框架,经多试点验证以推进欧洲负责任AI合规创新。
2025-09-30 cs.AI cs.CY cs.DB
Mapping Compliance: A Taxonomy for Political Content Analysis under the EU's Digital Electoral Framework
本文针对欧盟数字选举监管挑战,基于法律教义学方法构建了一套政治内容分析分类体系和编码手册,用于系统评估用户生成内容与政治广告对《数字服务法》等新规的合规性。
2025-01-03 cs.CY
Compliance Change Tracking in Business Process Services
IBM Research India(IBM印度研究院)
法规遵从性是指组织遵守与其业务相关的法律、法规、指南和规范。负责保持合规性的合规官不断努力跟上监管要求的大量变化。跟上变化需要两个主要任务:获取实际包含感兴趣的变化的监管公告,并将这些变化纳入业务流程。在本文中,我们专注于第一个任务,并提出了一个合规性变化跟踪系统,收集监管公告从政府网站,新闻网站,电子邮件订阅,分类的重要性,即通过一个层次分类器的可扩展性,和业务流程的适用性,通过多类分类器。对于这些分类器,我们用几种方法进行了实验,例如香草分类方法(例如朴素贝叶斯,逻辑回归等),分层分类方法,基于规则的方法,与各种预处理和特征选择方法的混合方法;并表明,尽管其他模型的丰富性,一个简单的分层分类与袋的字功能的工作最好的可扩展性分类器和多类逻辑回归的工作最好的适用性分类器。该系统已在全球交付中心部署,并收到了工资合规干事的积极反馈。
2019-08-20 cs.CY cs.LG stat.ML
Standardizing Intelligence: Aligning Generative AI for Regulatory and Operational Compliance
UKRI CDT in Accountable, Responsible and Transparent AI(英国研究与创新中心可问责、负责任且透明人工智能博士培训中心);University of Bath(巴斯大学)
本文评估各领域标准的关键性及当前GenAI模型的合规能力,提出通过计算方法使GenAI与标准对齐以强化监管与运营合规,并给出挑战、机遇与行动建议。
2025-02-03 cs.AI cs.CL cs.CY
Think About the Stakeholders First! Towards an Algorithmic Transparency Playbook for Regulatory Compliance
New York University(纽约大学)
世界各国政府越来越多地提出和通过法律,以规范公共和私营部门实施的人工智能(AI)系统。其中许多法规都涉及人工智能系统的透明度,以及相关的公民意识问题,例如允许个人有权解释人工智能系统如何做出影响他们的决定。然而,到目前为止,几乎所有的人工智能治理文件都有一个显著的缺点:它们都专注于在使人工智能系统透明方面应该做什么(或不应该做什么),但却把工作的主要任务留给了技术人员来弄清楚如何构建透明的系统。我们填补了这一空白,提出了一种新的技术人员优先的方法,协助技术人员设计透明的,符合法规的系统。我们还描述了一个现实世界的案例研究,说明了这种方法可以在实践中使用。
2022-06-10 cs.CY cs.HC cs.LG
Automated Environmental Compliance Monitoring with IoT and Open Government Data
对社会和生态系统的负面环境影响往往是由人类活动造成的,并因气候变化加剧而加剧。妥善管理这些影响取决于政府在面对日益增加的不确定性时确保环境法规合规的能力。水流量是河流法规遵从性最广泛使用的评估指标。具体而言,通过计算鱼类等水生物种所需的最低流速来设定合规阈值。然后将这些流量指定为每条河流的最小“环境流量”(流量)。在本文中,我们探讨了物联网生成的开放政府数据如何用于增强基于物联网的自动化流量合规系统的开发。为了降低开发和运营成本,拟议的解决方案依赖于定期收集的河流监测数据。我们的方法允许任何拥有类似数据的权威机构快速开发、测试和验证可扩展的解决方案,用于eflow法规遵从性监控和评估。此外,我们展示了一个真实世界的应用程序,我们的系统使用开放的政府数据从爱沙尼亚的国家河流监测网络。这项工作的主要新颖之处在于,拟议的基于物联网的系统提供了一个简单的评估工具,可以重新利用物联网生成的开放政府数据来评估合规性并改善全国范围的监控。这项工作展示了使用开放政府数据的物联网解决方案的新范式,并提供了一个真实的例子,说明该解决方案如何在日益不确定的环境中自动评估环境合规性。
2020-10-21 cs.CY
On Medical Device Software CE Compliance and Conformity Assessment
医疗器械的制造受到当局的严格控制,制造商必须符合医疗器械上市使用地区的监管要求。一般来说,这些要求在物理设备、在物理设备内运行的嵌入式软件或构成设备本身的软件之间没有区别。因此,具有预期医疗用途的独立软件被视为医疗器械。因此,其开发必须满足与物理医疗器械制造相同的要求。这种做法为开发医疗软件的组织带来了独特的挑战。在本文中,我们指出了物理医疗设备和独立医疗设备软件之间的一些监管要求不匹配。该观点基于行业经验、全软件医疗器械的开发以及定义制造过程以满足法规要求。
2021-03-11 cs.CY
Compliance Costs of AI Technology Commercialization: A Field Deployment Perspective
虽然人工智能(AI)技术正在快速发展,但合规成本已成为AI初创公司的巨大财务负担,这些初创公司已经受到研发预算的限制。这种情况造成了合规陷阱,因为许多人工智能初创公司在财务上没有准备好应对广泛的监管要求。特别是,全球复杂而多变的监管程序巧妙地为成熟而资源丰富的技术公司提供了优势,而不是资源受限的人工智能初创公司[1]。这种趋势的持续可能会淘汰大多数人工智能初创公司,并导致大型科技公司垄断人工智能技术。为了证明合规陷阱的现实,从现场部署的角度来看,我们深入研究了人工智能商业运营的合规成本的细节。
2023-01-31 cs.AI cs.CY
The Unified Control Framework: Establishing a Common Foundation for Enterprise AI Governance, Risk Management and Regulatory Compliance
Credo AI
本文提出统一控制框架(UCF),通过综合风险分类、结构化政策要求和42项精简控制措施整合AI风险管理与监管合规,并以科罗拉多州AI法案映射验证其有效性,旨在消除治理碎片化、降低合规成本并兼顾创新速度。
2025-03-07 cs.AI cs.CY
Dilemma of the Artificial Intelligence Regulatory Landscape
PerceptIn
作为自动驾驶领域的一家初创公司,我们经历了四年的痛苦经历,应对了广泛的监管要求。软件行业的标准是将总预算的13%用于合规性,相比之下,我们被迫将42%的预算用于合规性。我们的情况并不孤单,在某种程度上反映了人工智能(AI)监管格局的困境。根本原因是立法和行政部门缺乏人工智能专业知识,导致行业缺乏可遵循的标准化。在这篇文章中,我们分享了我们的第一手经验,并倡导建立一个类似FDA的机构来适当地监管人工智能。
2023-01-23 cs.AI cs.CY
Streamlining Compliance And Risk Management with Regtech Solutions
本文探讨了 RegTech 如何利用尖端技术改善监管合规流程,分析了其在合规与风险管理中的优势,并指出其在合规成本上升背景下将成为最具前景的市场之一。
2025-01-31 cs.CY q-fin.RM
From COBIT to ISO 42001: Evaluating Cybersecurity Frameworks for Opportunities, Risks, and Regulatory Compliance in Commercializing Large Language Models
Cyberoo Pty Ltd(Cyberoo私人有限公司);Massey University(梅西大学);Cyberstronomy Pty Ltd(Cyberstronomy私人有限公司);Victoria University(维多利亚大学);RMIT University(皇家墨尔本理工大学)
本研究评估四大主流网络安全GRC框架在LLM应用中的整合就绪度,发现各框架均有潜力但存在风险监督不足,提出引入人类专家参与验证以推动框架演进,支撑LLM安全合规落地。
2024-02-24 cs.AI cs.CY
Judging by the Rules: Compliance-Aligned Framework for Modern Slavery Statement Monitoring
针对现代奴隶制声明模糊导致人工审查难规模化的问题,提出融合合规对齐评判器(CA-Judge)与合规对齐大语言模型(CALLM)的框架,通过规则匹配生成透明可验证的输出,提升合规验证性能与法律审查可行性。
2025-11-11 cs.AI cs.CY
Unlocking Sustainability Compliance: Characterizing the EU Taxonomy for Business Process Management
本文研究欧盟可持续活动分类法约束能否用于业务流程一致性检查,提出基于大语言模型的少样本学习流水线刻画约束所涉过程维度,发现能源、制造和运输领域可行性较高,为企业自动合规监控提供支持。
2024-09-12 cs.CY cs.DB
Reviewing the Reviewer: LLM-Assisted Reviewer Feedback Generation for Guideline Compliance
Ubiquitous Knowledge Processing Lab (UKP Lab), Department of Computer Science, Technical University of Darmstadt and National Research Center for Applied Cybersecurity ATHENE, Germany(技术大学达姆施塔特计算机科学系 Ubiquitous Knowledge Processing Lab(UKP Lab)及国家应用网络安全研究中心 ATHENE,德国);Department of Data Science & AI, Monash University, Australia(墨尔本大学数据科学与人工智能系,澳大利亚);Data Science Group, University of Hamburg(汉堡大学数据科学组)
本文提出一种基于LLM的框架,通过分解评审段落、识别问题并生成针对性反馈,提升同行评审质量,实验显示其效果优于现有方法,提高了92.4%的评审质量。
2026-09-03 cs.CL cs.CY
Who judges the judges? Governance from metrics: a runtime framework for continuous LLM compliance monitoring
Independent Researcher(独立研究者)
针对AI合规作为审计时二元判定而非生产系统持续可测量属性的问题,提出基于指标的治理原则,并开发开源框架govllm,通过运行时可观测性信号实现持续合规监控,验证了多模型陪审团设计在监管评估中的有效性。
2026-05-23 cs.AI cs.CL cs.CY
Operationalising AI Regulatory Sandboxes under the EU AI Act: The Triple Challenge of Capacity, Coordination and Attractiveness to Providers
Trinity College Dublin(都柏林圣三一学院)
本文探讨了欧盟人工智能法案下成员国在建立人工智能监管沙盒时面临的三重挑战,包括能力、协调和吸引力,并呼吁欧洲委员会采取果断措施以确保沙盒的一致性。
2025-09-07 cs.AI cs.CY
Evaluating LLM-Generated Legal Explanations for Regulatory Compliance in Social Media Influencer Marketing
Utrecht University(乌特雷赫大学);Stichting Reclame Code(Reclame Code基金会);Maastricht University(马斯特里赫特大学)
本研究评估LLM生成的法律解释在影响者营销监管中的表现,提出推理错误分类体系,并构建标注数据集,以提升自动审核的准确性与法律稳健性。
2025-10-09 cs.CL cs.CY
SCITUS: A Multi-Jurisdictional Framework for Adapting NIST AI RMF to the Canadian Regulatory Context
Scitus Solutions Ltd(Scitus Solutions有限公司)
针对加拿大人工智能监管碎片化问题,提出SCITUS框架,它能将NIST AI RMF 1.0同时适配到加联邦和省级法规,整合多种要素,通过多场景展示适用性,为多辖区合规提供了更优模式及可复制模型。
2026-07-17 cs.CY
Assessing Regulatory Risk in Personal Financial Advice Documents: a Pilot Study
IBM Research Australia(IBM澳大利亚研究院)
评估个人财务建议的监管合规性目前是一个复杂的人工过程。在澳大利亚,只有5%- 15%的建议文件每年接受审计,其中75%被发现不合规(ASI 2018 b)。本文介绍了澳大利亚政府监管机构的一个试点项目,该项目开发了基于自然语言处理(NLP)、机器学习和深度学习等技术的人工智能(AI)模型,以系统地评估个人财务建议文件的监管风险状况。该解决方案针对各种风险因素对建议文档进行红绿灯评级,从而能够全面覆盖审查中的文档,并快速识别不符合政府法规的高风险文档。该试点项目是公私合作为政府和公共部门开发人工智能系统的案例研究。
2019-10-11 cs.AI cs.CY
An Open Knowledge Graph-Based Approach for Mapping Concepts and Requirements between the EU AI Act and International Standards
Trinity College Dublin (TCD)(都柏林圣三一大学);ADAPT Centre(ADAPT中心);School of Computer Science and Statistics(计算机科学与统计学院)
本文提出一种基于开放知识图谱的可重复机制,将欧盟《AI法案》与ISO等国际标准的法规术语及要求进行映射,以评估标准符合性对监管合规的充分性,识别需进一步发展技术共识的领域。
2024-08-21 cs.AI cs.CY
Knowing the Rules Is Not Enough: Student Regulatory Awareness and Use of GenAI in Higher Education
University of Applied Sciences and Arts Hannover(汉诺威应用艺术与科技大学);University of Applied Sciences Emden/Leer(埃姆登/莱尔应用科学大学)
通过调查151名德国大学生,发现多数学生使用GenAI工具但超半数不确定是否合规,监管意识与实际使用行为关联弱,揭示了机构规定与学生实践之间的差距。
2026-06-12 cs.CY cs.SE
Auction-Based Regulation for Artificial Intelligence
Department of Computer Science, University of Maryland, College Park, MD, USA(马里兰大学计算机科学系,College Park, MD, USA);SAP Labs, LLC(SAP实验室);Department of Computer Science, University of Central Florida, FL, USA(佛罗里达大学计算机科学系,FL, USA)
本文提出基于拍卖的AI监管机制,通过数学框架激励企业部署合规模型并参与监管,实验证明其在提升合规率和参与率方面优于传统方法。
2026-05-07 cs.AI cs.CY cs.GT
Regulation, Power, and the Compliance 1 Paradox: A Longitudinal Study of Smart Homes
Department of Computer Science, University of Oxford(牛津大学计算机系)
本文通过对约旦智能家居采用情况的纵向社会技术研究,揭示了隐私规制在家庭语境中产生的合规悖论,提出相关干预空间以应对智能家居带来的不平等问题。
2026-08-17 cs.CY cs.HC
Integrating AI's Carbon Footprint into Risk Management Frameworks: Strategies and Tools for Sustainable Compliance in Banking Sector
Centre for Finance, Technology & Regulation (Judge Business School, University of Cambridge)(剑桥大学贾奇商学院金融、科技与监管中心);School(学院)
本文研究银行业如何将AI碳足迹纳入风险管理框架,以OLMoE和Agentic RAG等高效模型为例,提出节能模型、绿色云计算和生命周期管理等结构化减排策略,助力银行满足EU AI Act、CSRD等可持续合规要求。
2024-09-15 cs.AI cs.CY
Fair Distribution of Digital Payments: Balancing Transaction Flows for Regulatory Compliance
IIT Kharagpur(印度理工学院卡拉格普尔分校);IIT Delhi(印度理工学院德里分校);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对印度UPI应用中交易集中导致的双头垄断问题,提出最小边激活流问题(MEAF)并证明其为NP完全,设计可扩展启发式算法DTAS在大型半合成交易网络上快速逼近最优解。
2026-06-03 cs.CY cs.NI cs.SI
Hardware-Level Governance of AI Compute: A Feasibility Taxonomy for Regulatory Compliance and Treaty Verification
School of Computing and Engineering Sciences(计算机与工程科学学院);University of Chester(切斯特大学)
本文提出20种硬件级治理机制的分类,评估其技术可行性,揭示条约验证所需机制的成熟度不足,并分析半导体制造集中度对硬件治理实施的影响。
2026-04-06 cs.CR cs.CY
Regulating Ai In Financial Services: Legal Frameworks And Compliance Challenges
本文梳理金融服务AI监管的法律框架与合规挑战,对比多司法管辖区监管差异,指出风险与规则缺口,提出平衡创新与权益保护的原则性监管模式及多方协作建议。
2025-03-17 cs.CY q-fin.GN
Tracking financial crime through code and law: a review of regtech applications in anti-money laundering and terrorism financing
National School of Business and Management of Tangier, Abdelmalek Essaadi University(丹吉尔国立工商管理学院,阿卜杜勒马吉德·埃萨迪大学)
本文回顾了RegTech在反洗钱和恐怖融资中的应用,强调其通过整合AI、区块链和大数据技术提升合规效率和效果。
2025-11-19 cs.CY econ.GN q-fin.EC
AI-Supported Platform for System Monitoring and Decision-Making in Nuclear Waste Management with Large Language Models
本文提出一种结合LLM与文档检索的多智能体RAG系统,通过10轮结构化讨论协作评估核废料管理的监管合规与安全风险,实验证明其能提升决策一致性与响应连贯性,为高风险环境管理提供可扩展透明的AI治理方案。
2025-05-27 cs.CY cs.IR cs.MA
The Bidirectional Relationship Between XAI and Regulation: Operationalizing XAI for the AI Act
XITASO GmbH(XITASO有限公司);University of Bayreuth(拜罗伊特大学);Chalmers University of Technology(查尔姆斯理工大学);RISE Research Institutes of Sweden(瑞典RISE研究院)
本文探讨XAI在AI法案中的作用,分析法律要求如何影响XAI方法设计,提出三个关键机会以促进监管合规与信任建立。
2026-03-16 cs.CY cs.HC
Post-Deployment Accountability in AI Governance: A Cross-Regulatory Empirical Analysis of AI Incidents
University of the Cumberlands, USA(卡姆伯兰大学)
本文通过分析480起AI事件,揭示现有治理框架在部署后问责中的不足,并提出主动治理框架,旨在从被动响应转向部署前的合规保障。
2026-08-11 cs.AI cs.CY cs.ET
Machine Learning-Driven Convergence Analysis in Multijurisdictional Compliance Using BERT and K-Means Clustering
本文以 NLP 为核心,结合 BERT 与 K-Means 聚类比较 GDPR 和 CCPA 的异同,识别隐私法规的重叠与分歧,并提出提升法规分析模型可建模性的自适应合规方法。
2025-01-23 cs.AI cs.CE cs.CL
Let's have a chat with the EU AI Act
Research Studios Austria(研究工作室奥地利);Budapest University of Technology and Economics(布达佩斯技术大学);HUN-REN Centre for Social Sciences(匈牙利-中国社会科学中心)
本文提出一种基于 RAG 的 AI 自评估聊天机器人,整合公共与专有标准以辅助理解 EU AI Act,并比较朴素与基于图的 RAG 架构。
2025-05-17 cs.AI cs.CY cs.DL
A five-layer framework for AI governance: integrating regulation, standards, and certification
Department of Telecommunications, Ministry of Communications(通信部电信司);Defence Institute of Advanced Technology, Ministry of Defence(国防部国防先进技术研究院)
本文提出一个五层AI治理框架,通过整合监管指令、标准与认证流程,连接监管原则与实际实施,并经案例验证能有效识别合规差距,为政策制定者和行业提供可行的风险管理路线图。
2025-09-14 cs.AI cs.CY cs.HC
Assessing Model-Agnostic XAI Methods against EU AI Act Explainability Requirements
University of Italian-Speaking Switzerland (USI)(意大利通用瑞士大学);Analog Devices International(安森通国际);CRIDS, NADI, University of Namur(CRIDS、NADI、南姆大学)
本文研究模型无关的XAI方法,将其可解释性特征与AI法案要求关联,提出定性到定量评分框架,帮助从业者识别XAI解决方案是否符合法律解释要求,并指出需要进一步研究的技术问题。
2026-04-18 cs.AI cs.CY
AI Regulation in Europe: From the AI Act to Future Regulatory Challenges
European University Viadrina(欧洲-法兰克福大学);European New School of Digital Studies(欧洲数字研究新学院)
本文对比欧盟与英国AI监管模式,提出混合监管策略,分析《AI Act》的开创性与不足,预判未来监管挑战并呼吁制定高性能AI受监管访问协议,强调需完善立法与全球协作以有效治理AI。
2023-10-06 cs.AI cs.CY
The Case for a Legal Compliance API for the Enforcement of the EU's Digital Services Act on Social Media Platforms
Utrecht University(乌得勒支大学);Maastricht University(马斯特里赫特大学)
在不到一年的时间里,欧盟委员会推出了一些迄今为止关于平台治理的最重要的监管提案。欧盟委员会在这类跨部门监管背后的目标包括保护市场和民主。虽然所有这些法案都提出了建立新的执法机构和程序的复杂规则,但有一个方面仍然非常不清楚:数字执法将如何在实践中实际进行。本讨论文件以《数字服务法》(DSA)为重点,重点讨论了围绕数字执法目的的社交媒体数据访问的问题,并建议使用合法合规应用程序编程接口(API)作为促进遵守DSA以及补充性欧洲和国家法规的一种手段。为了将这一讨论置于背景下,本文采用了两种场景,来说明内容货币化对特别脆弱的社交媒体用户群体(儿童)产生的危害。这两种设想被用来进一步思考围绕数据访问和法律遵守DSA以及劳动和消费者法领域进一步适用的法律标准的基本问题。
2022-05-13 cs.AI cs.CL cs.CY