ORL-AUDITOR: Dataset Auditing in Offline Deep Reinforcement Learning
Zhejiang University(浙江大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Stanford University(斯坦福大学)
本文提出ORL-AUDITOR,首个离线强化学习场景下的轨迹级数据集审计机制,利用累积奖励作为唯一标识符区分在特定数据集上训练的DRL模型,审计准确率超95%,误报率低于2.88%。
2023-09-06 cs.CR cs.LG
Privacy Auditing with One (1) Training Run
Google(谷歌)
提出一种单次训练运行的差分隐私机器学习系统审计方案,利用并行添加/移除示例,基于差分隐私与统计泛化联系,避免组隐私成本,适用于黑盒或白盒设置。
2023-05-15 cs.CR cs.DS cs.LG
Data Provenance via Differential Auditing
Peng Cheng Laboratory(鹏城实验室);Singapore Management University(新加坡管理大学)
审计数据来源(ADP),即,审核某段数据是否已用于训练机器学习模型是数据来源中的重要问题。这项任务的可行性已被现有的审计技术所证明,例如,影子审计方法,在某些条件下,如标签信息的可用性和目标模型的训练协议的知识。不幸的是,这两个条件在实际应用中通常都不具备。在本文中,我们介绍了通过差异审计的数据来源(DPDA),这是一个基于统计显著差异的不同方法审计数据来源的实用框架,即,经过精心设计的转换后,来自目标模型训练集的扰动输入数据将导致输出中的变化比来自模型非训练集的变化剧烈得多。该框架允许审计员区分训练数据和非训练数据,而不需要在标记的输出数据的帮助下训练任何阴影模型。此外,我们提出了两个有效的审计功能的实现,一个加法和乘法。我们报告评估真实世界的数据集证明我们提出的审计技术的有效性。
2022-09-04 cs.AI cs.CR cs.DB
Synthetic Artifact Auditing: Tracing LLM-Generated Synthetic Data Usage in Downstream Applications
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Netapp(Netapp公司)
本文提出合成产物审计框架,通过基于指标、调优和分类的三种方法识别下游产物是否源自LLM生成的合成数据,并在多个任务上验证其有效性,以提升模型透明度与合规性。
2025-02-02 cs.CR cs.CY cs.LG
Nearly Tight Black-Box Auditing of Differentially Private Machine Learning
University College London(伦敦大学学院);University of California, Riverside(加州大学河滨分校)
本文提出黑盒威胁模型下的DP-SGD审计流程,通过构造最坏初始参数实现近似紧的隐私估计,在MNIST、CIFAR-10上验证效果优于此前白盒外的审计方法,可助力DP-SGD隐私分析改进与实现问题检测。
2024-11-02 cs.CR cs.LG
Instance-Level Data-Use Auditing of Visual ML Models
Duke University(杜克大学)
本文提出首个主动的实例级数据使用审计方法,通过推广黑盒成员推理与序贯假设检验,在保持可调误检率的同时实现细粒度审计,并揭示现有近似遗忘方法无法有效移除数据影响。
2025-09-16 cs.CR cs.LG
Sequentially Auditing Differential Privacy
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究)
针对黑盒机制差分隐私保证审计问题,提出实用序贯测试方法,处理输出流实现随时有效推理并控制第一类错误,样本量比现有方法小几个数量级,可在一次训练运行内识别DP-SGD违规,突破批量方法固定样本限制。
2025-11-14 cs.CR cs.LG stat.ME
Optimal Guarantees for Auditing Rényi Differentially Private Machine Learning
Massachusetts Institute of Technology(麻省理工学院);Stony Brook University(石溪大学)
本文研究了声称具有Rényi差分隐私(RDP)保证的机器学习算法的黑盒审计问题,提出了一种基于假设检验的审计框架,利用Donsker-Varadhan(DV)变分估计器直接估计相邻执行之间的Rényi散度,并通过类受限DV估计器得出非渐近的置信区间,证明了样本复杂度保证在信息论上最优,首次建立了通过DV估计器审计RDP的最优保证。
2026-05-21 cs.CR cs.IT cs.LG
Curator Attack: When Blackbox Differential Privacy Auditing Loses Its Power
本文揭示了黑盒差分隐私审计因忽略小概率而存在根本性缺陷,提出基于假设检验的假阳性分析,并通过实验证明恶意数据策展者可借此以夸大隐私保证通过审计,呼吁开发更可靠的审计方法。
2024-11-25 cs.CR
Auditing Data Provenance in Text-Generation Models
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技校区)
为了帮助执行GDPR等数据保护法规并检测对个人数据的未经授权使用,我们开发了一种新的\emph{model auditing}技术,可以帮助用户检查他们的数据是否被用于训练机器学习模型。我们专注于审计生成自然语言文本的深度学习模型,包括单词预测和对话生成。这些模型是流行的在线服务的核心,通常是根据用户的消息、搜索、聊天和评论等个人数据进行训练的。我们设计和评估一个黑盒审计方法,可以检测到,很少的查询模型,如果一个特定的用户的文本被用来训练它(在成千上万的其他用户)。我们的经验表明,我们的方法可以成功地审计良好的广义模型,没有过拟合的训练数据。我们还分析了文本生成模型如何记忆单词序列,并解释了为什么这种记忆使他们适合审计。
2019-05-17 cs.CL cs.CR cs.LG
Differentially Private Auditing Under Strategic Response
University of Bath(巴斯大学)
本文研究了在审计方与开发者战略响应下,差分隐私审计的设计问题,提出了一种考虑福利权重、审计误判概率、检测弹性及缓解成本曲率的四因素平衡模型,通过开发者KKT系统提出SPAD算法。
2026-08-03 cs.CR cs.GT cs.LG
Hide in Plain Sight: Clean-Label Backdoor for Auditing Membership Inference
School of Computer Science, Anhui University(安徽大学计算机学院)
针对成员推理攻击在数据未授权使用审计中的潜力未被充分探索的问题,提出基于清洁标签后门的成员推理方法,通过影子模型生成最优触发器保留自然标签,实现低中毒率下的隐蔽性与高攻击成功率,为数据审计提供实用方案。
2024-11-24 cs.AI cs.CR cs.LG
KV-Auditor: Auditing Local Differential Privacy for Correlated Key-Value Estimation
本文提出KV-Auditor框架,通过估计经验隐私下界审计本地差分隐私键值估计机制,针对非交互式与交互式机制分别设计水平、垂直审计及分段策略,实验验证其有效性。
2025-08-15 cs.CR
Ellipsis: Towards Efficient System Auditing for Real-Time Systems
系统审计是一种强大的工具,它可以深入了解计算系统中可疑事件的性质,使机器操作员能够检测并随后调查安全事件。虽然审计已被证明对传统计算机的安全性是非常宝贵的,但现有的审计框架很少考虑实时的【形】系统(RTS)。系统审计所提供的透明性将在各种安全关键RTS域中具有巨大的益处,(例如,自动驾驶汽车);然而,如果审计机制没有被仔细地集成到RTS中,则审计可能变得无效并且违反RTS的真实世界时间要求。在本文中,我们将展示如何使商品审计框架适应RTS。使用Linux审计作为一个案例研究,我们首先证明了商品框架产生的审计事件量是不可持续的时间和资源限制的实时的【形】(RT)应用程序。为了解决这个问题,我们提出了省略,一组基于内核的减少技术,利用RT应用程序的周期性重复性,积极降低系统级审计的成本。Ellipsis生成RT应用程序预期活动的简洁描述,同时保留意外活动的详细记录,从而在满足时间约束的情况下分析可疑活动。我们使用ArduPilot(一个开源的自动驾驶仪应用程序套件)对Ellipsis进行了评估,结果表明审计日志生成减少了93%。
2022-08-04 cs.CR cs.OS
Cloud Data Auditing Using Proofs of Retrievability
云服务器为客户提供数据外包服务。一个客户把她的数据外包出去,而她自己却没有任何副本。因此,她需要保证她的数据不被可能是恶意的服务器修改。对外包数据进行数据审计,解决此问题。此外,客户端可能希望她的所有数据都未被篡改地存储。在本章中,我们描述了可检索性证明(POR),它使客户相信她所有数据的完整性。
2017-11-16 cs.CR
Auditing Australian Senate Ballots
我们解释了为什么澳大利亚选举委员会应该对公布的偏好数据文件进行纸质参议院选票审计。我们建议四种不同的选举后审计方法适合澳大利亚参议院选举。我们已经为所有人开发了原型代码,并在2016年大选的偏好数据上进行了测试。
2016-10-01 cs.CR cs.CY
Privacy Auditing with Zero (0) Training Run
Inria(法国国家数字与计算机科学研究所);Inserm, Univ. de Montpellier(法国国家健康与医学研究院,蒙彼利埃大学)
本文提出零次训练隐私审计方法,通过固定数据集评估模型隐私参数,解决传统方法需多次重训练或数据随机化的难题,提供有效的隐私审计框架。
2026-09-11 cs.CR
Towards Immutability: A Secure and Efficient Auditing Framework for Cloud Supporting Data Integrity and File Version Control
针对云存储信息审计难题,本文提出基于Merkle哈希树的Entangled Merkle Forest架构,结合半可信第三方审计,在中心化云环境实现区块链级不可篡改性,同时降低同步与性能开销,效率优于同类区块链方案。
2023-08-05 cs.CR
Towards Privacy-assured and Lightweight On-chain Auditing of Decentralized Storage
如何在云计算等集中式存储中审计外包数据已经得到了很好的研究,但对于正在兴起的分散式存储网络(DSN)来说,这在很大程度上还没有得到充分的探索,这对一个数十亿美元的市场来说是个好兆头。为了以真正分散的方式将DSN实现为可用的服务,区块链派上了用场-以存储证明的形式记录和验证审计跟踪,并在此基础上处理公平支付和必要的争议解决。将审计跟踪留在区块链上提供了透明度和公平性,但它1)牺牲了隐私,因为它们可能会泄露有关审计数据的信息,2)破坏了链上资源,因为它们实际上可能很大并且验证起来很昂贵。在集中设置中的先前审计设计在这里不直接适用。一些针对DSN的提案也不能令人满意地解决这些问题。我们提出了一个审计解决方案,解决了链上的隐私和效率,从同态线性认证器与多项式承诺的协同作用,用于简洁的证明,以及用于可证明隐私的sigma协议。该解决方案的结果是,每次审计,288字节的证明写入区块链,以及恒定的验证成本。它可以维持长期运行,并可以轻松扩展到以太坊上的数千个用户。
2020-08-07 cs.CR
Proposal of an Electronic Auditing System Applied to the Brazilian Electronic Voting Machine
提出应用于巴西电子投票机的SELA电子审计系统,采用开放软硬件与哈希指纹算法保障审计安全,并建议2002年试点实施。
2024-08-20 cs.CR
SilentLedger: Privacy-Preserving Auditing for Blockchains with Complete Non-Interactivity
Shandong University(山东大学);Beihang University(北京航空航天大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Wuhan University(武汉大学)
针对现有可审计隐私区块链存在交互冗余、审计角色依赖节点带来安全风险的问题,提出完全非交互的SilentLedger系统,通过可更新匿名证书和可追踪交易机制实现无交互交易与纯链上审计,经证明安全且性能优于现有最优方案。
2026-09-24 cs.CR
Auditing Lustre file system
本项目旨在基于CentOS探索Lustre分布式文件系统的审计功能,通过结合Kerberos与SELinux等安全特性并开发直观的图形界面,实现对大规模数据存储与访问的安全监控、日志分析与合规管理。
2023-05-22 cs.CR cs.DC
An Efficient and Scalable Auditing Scheme for Cloud Data Storage using an Enhanced B-tree
针对云存储动态数据完整性审计的性能与可扩展性问题,提出基于增强型 B-tree 的动态审计方案,支持插入、更新、删除,并在多项实验指标上优于 MHT 与区块链方案。
2024-01-17 cs.CR cs.DS
SMI: Statistical Membership Inference for Reliable Unlearned Model Auditing
Shenzhen University of Advanced Technology(深圳先进技术大学);Peking University(北京大学);Xi’an Jiaotong University(西安交通大学);Heilongjiang University(黑龙江大学);Stevens Institute of Technology(斯蒂文斯理工学院)
本文提出SMI方法,通过统计成员混合比例评估未学习模型的遗忘率,无需训练影子模型,有效解决传统成员推断攻击的局限性。
2026-05-07 cs.AI cs.CR cs.CV
Efficient Auditing of Adversarial AI Agent Behavior from Agent Traces
Purdue University(普渡大学)
提出两阶段智能体轨迹审计框架,结合规则与LLM审计,在OpenAgentSafety上减少审计次数和令牌使用,同时保持高检测率。
2026-10-07 cs.CR
Holding Secrets Accountable: Auditing Privacy-Preserving Machine Learning
本文提出用于审计隐私保护机器学习的MPC框架Arc,其核心协议能高效验证MPC输入,性能比现有方法快达10^4倍且简洁达10^6倍。
2024-09-23 cs.CR
A fully decentralized auditing approach for edge computing: A Game-Theoretic Perspective
针对边缘存储数据易受干扰及依赖集中式审计的问题,提出利用边缘服务器相互审计的去中心化方案,通过博弈论与纳什均衡激励保证完整性,兼具安全与高效。
2023-12-26 cs.CR cs.GT
Revealing the True Cost of Locally Differentially Private Protocols: An Auditing Perspective
本研究提出LDP-Auditor框架以拓展差分隐私审计至本地场景,通过分析多种LDP协议探究隐私损失影响因素,还发现了主流LDP工具包的漏洞,为从业者选择合适隐私方案提供实证依据。
2024-07-12 cs.CR
A Game-Theoretic Analysis of Auditing Differentially Private Algorithms with Epistemically Disparate Herd
本文利用Stackelberg博弈方法构建系统性框架,分析群体审计对差分隐私算法开发者的影响,发现便捷获取信息和降低知识获取成本能提升审计可行性与问责效果。
2024-04-24 cs.CR cs.GT
A CI-based Auditing Framework for Data Collection Practices
提出基于情境完整性(CI)元组的审计框架,通过结合网络流量分析和NLP技术提取隐私政策信息,实现对应用程序和设备数据收集实践的审计及其与隐私政策一致性的检查。
2023-03-30 cs.CR
FACE-AUDITOR: Data Auditing in Facial Recognition Systems
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Stanford University(斯坦福大学);University of Virginia(弗吉尼亚大学)
本文提出FACE-AUDITOR工具包,将人脸识别数据审计表述为用户级成员推断问题,通过选择探测集查询模型并利用图像相似度作为参考,判断用户人脸图像是否被用于训练,在多个数据集上准确率高达99%且具备鲁棒性。
2023-04-05 cs.CR cs.CV
Advancing the State-of-the-Art in Empirical Privacy Auditing
Google Research(谷歌研究院)
提出通过高温采样生成合成金丝雀,用于经验隐私审计,并引入基于辅助模型的合成数据审计方法,系统研究模型容量与金丝雀熵对记忆化的交互影响。
2026-06-09 cs.AI cs.CL cs.CR
Adaptive Plan-Execute Framework for Smart Contract Security Auditing
Beijing Institute of Technology(北京理工大学);University of Auckland(奥克兰大学);Griffith University(格里菲斯大学)
提出SmartAuditFlow,一种自适应计划-执行框架,通过动态审计规划和结构化执行提升智能合约安全审计,在多个基准上超越现有方法,实现高准确率并有效减少幻觉。
2025-05-22 cs.AI cs.CR
KBF: Knowledge Boundary as Fingerprint for Language Model and Black-Box API Auditing
Beihang University China(北航中国);Xidian University China(西电中国)
提出KBF协议,利用知识边界附近的稳定数值召回率作为指纹,低成本黑盒审计模型API,检测替代和混合路由攻击。
2026-10-01 cs.AI cs.CR
Auditing Data Membership in Reinforcement Learning With Verifiable Rewards
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Shanghai Jiao Tong University(上海交通大学);Shandong University(山东大学);Xidian University(西安电子科技大学);Wuhan University(武汉大学)
本文提出DIBA框架,通过比较微调模型与预RLVR检查点,检测强化学习中数据暴露问题,提升审计效果。
2026-05-09 cs.AI cs.CL cs.CR
Behavioral Canaries: Auditing Private Retrieved Context Usage in RL Fine-Tuning
Google(谷歌)
本文提出 Behavioral Canaries 机制,用于审计 RL 微调过程中是否非法使用受保护的检索上下文,通过行为信号检测未经授权的文档条件训练,实现 67% 的检测率。
2026-08-07 cs.CL cs.CR
Get Your Workload in Order: Game Theoretic Prioritization of Database Auditing
Department of Electrical Engineering and Computer Science, Vanderbilt University(范德堡大学电气工程与计算机科学系);Department of Electrical Engineering and Computer Science, University of California, Berkeley(加利福尼亚大学伯克利分校电气工程与计算机科学系);Department of Computer Science, University of Houston(休斯顿大学计算机科学系);Department of Biomedical Informatics, Vanderbilt University(范德堡大学生物医学信息学系)
为了增强数据库的隐私保护,其中存储和处理的详细个人数据量越来越多,已经开发了多种机制,例如审计日志和警报触发器,它们通知管理员可疑活动;然而,两个主要的共同限制是:1)这种警报的量通常大大超过资源受限组织的能力,2)策略攻击者可能会伪装他们的行为或仔细选择他们接触的记录,使得统计检测模型不合格。为了解决这些问题,我们引入了一种新的数据库审计方法,该方法通过以下方式显式地考虑对抗行为:1)优先考虑调查警报类型的顺序,2)提供为每种类型分配多少资源的上限。我们将数据库审计员和潜在攻击者之间的交互建模为Stackelberg博弈,在该博弈中,审计员选择审计策略,攻击者选择目标记录。提出了一种结合线性规划、列生成和启发式搜索的审计策略。为了测试策略搜索性能,采用公开的信用卡应用数据集,它表明,我们的方法产生高质量的混合策略作为数据库审计策略,我们的一般方法显着优于非博弈论基线。
2018-01-22 cs.AI cs.CR cs.DB