Covid Notions: Towards Formal Definitions -- and Documented Understanding -- of Privacy Goals and Claimed Protection in Proximity-Tracing Services
最近的SARS-CoV-2大流行引发了使用移动应用程序进行接触者追踪的管理方法。相应的应用程序跟踪个人及其互动,以便于在潜在感染发生之前提醒用户。天真的实现显然会危及其用户的健康状况,位置,活动和社交互动的隐私。已经开发了许多用于托管跟踪的协议设计,其中大多数声称以隐私保护的方式起作用。然而,尽管声称“GDPR合规性”,“匿名性”,“匿名性”或其他形式的“隐私”,这些设计的作者通常忽略了精确定义他们(旨在)保护什么。我们向正式定义接近跟踪服务的隐私概念迈出了第一步,特别是关于用户的健康,(共)位置和社交互动。我们还提供了一个高层次的直觉,最突出的建议可以和不能实现的保护。这一初步概述表明,所有的建议都包括一些集中式服务,没有一个能完全保护受感染用户的身份和(协同)位置不受其他用户和服务提供商的影响。
2020-04-16 cs.CR
On the Semantics of Purpose Requirements in Privacy Policies
隐私政策通常对受管辖实体可能使用个人信息的目的提出要求。例如,诸如HIPAA之类的法规要求医院员工仅将医疗信息用于某些目的,例如治疗。因此,使用正式的或自动化的方法来执行隐私策略需要目的需求的语义来确定动作是否是为了某个目的。我们提供这样的语义使用基于规划的形式主义。我们使用马尔可夫决策过程的修改版本,排除冗余的正式定义冗余的行动模型规划。我们使用该模型来形式化一个动作序列是只为或不为一个目的。这种语义使我们能够提供一个自动化审计的算法,并正式描述和比较严格以前的执法方法。
2011-02-21 cs.CR
Formalizing Privacy Laws for License Generation and Data Repository Decision Automation
在本文中,我们总结了专家系统的支持,自动化的一些数据存储和释放的决策,并生成自定义的许可协议,这些数据传输的进展。我们的方法通过逻辑程序设计语言形式化了法律,法规和最佳实践的隐私相关方面,并得到法律备忘录中记录的法律分析的支持。这种形式化使得能够通过询问用户和将形式规则应用于从用户获得的事实来自动推理关于存储库可以传输数据的条件的自动推理。拟议的系统采用特定数据发布的具体条件,并生成一个定制的数据使用协议,准确地捕捉数据使用的相关限制。这可以实现适当的决策和准确的许可证,同时消除每次数据传输的律师工作瓶颈。该系统的运作旨在保持透明,即管理人员、律师、机构审查委员会和其他有关各方可以评估正式化中体现的法律推理和解释,以及决定接受或发布特定数据集的具体理由。
2019-10-22 cs.CR
Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
Apple Inc.(苹果公司)
研究自主协商代理行为隐私泄露问题,设计自适应随机协商策略,联合保证差分隐私、报价序列收敛和高协商效用,在合成双边协商实验中降低对手推理准确率,保持高协商成功率和效用。
2026-07-09 cs.CR
A novel analysis of utility in privacy pipelines, using Kronecker products and quantitative information flow
本研究结合Kronecker积与定量信息流,提出隐私流水线效用的新颖形式化分析方法,解释了隐私降低反而效用下降的反常现象,给出严谨证明并在常见隐私保护设计上验证了结果。
2023-11-07 cs.CR
Privacy by Design: On the Formal Design and Conformance Check of Personal Data Protection Policies and Architectures
新的《通用数据保护条例》(GDPR)将于2018年5月生效,因此,设计合规的数据保护政策和系统架构对于组织避免处罚至关重要。不幸的是,以文本格式给出的规则很容易被策略和系统设计者误解,这也使得一致性检查容易出错。在本文中,我们采用正式的方法,以促进系统的政策和架构的设计,在一个明确的方式,并提供了一个框架,数学上健全的一致性检查,对目前的数据保护法规。我们提出了一个(半)正式的方法来指定和推理数据保护政策和架构,以及定义架构和政策之间的一致性关系。我们所提出的方法的可用性证明了智能计量服务的案例研究。
2018-05-14 cs.CR
Tool Support of Formal Methods for Privacy by Design
正式的方法,在原则上,适合于支持最近的设计隐私的范例,但没有概述,总结了哪些特定的方法已被调查,适用于哪些应用领域,以及它们是否被实现和可用的工具。本文使用基于搜索的文献综述和滚雪球的技术回答了一组选定的研究论文的这些问题。
2019-03-26 cs.CR cs.LO
Differential privacy with partial knowledge
差分隐私为数据集上的算法提供了形式化的定量保证,但它假设攻击者知道并可以影响数据库中除一条记录外的所有记录。这种假设往往大大高估了攻击者的实际实力,导致不必要的效用低下。最近的工作已经取得了显着的步骤隐私部分背景知识,它可以模拟一个现实的攻击者的不确定性的存在。然而,先前的工作对于相关数据存在定义问题,并且没有精确地描述底层攻击者模型。我们提出了一个实用的标准,以防止由于相关性的问题,我们展示了如何描述攻击者的影响力有限,或只有部分背景知识的数据集。我们使用这些基础来分析实际情况:我们显着改善已知的结果的隐私计数查询下的部分知识,我们表明,阈值可以提供正式的保证,对这种弱攻击者,即使在数据中的熵很小。这些结果使我们能够在部分知识下在k-匿名和差分隐私之间建立新的联系。最后,我们证明了部分知识下差分隐私的合成结果,量化了复杂机制的隐私泄露。我们的工作为正式量化许多广泛使用的机制的隐私提供了基础,例如发布调查,选举或全民投票的结果,以及发布在线服务的使用统计数据。
2020-11-27 cs.CR
Privacy-preserving formal concept analysis: A homomorphic encryption-based concept construction
Kunming University of Science and Technology(昆明理工大学);Data Science Research Center, Kunming University of Science and Technology(昆明理工大学数据科学研究中心)
本文提出一种基于同态加密的隐私保护形式概念分析框架,用于在不泄露私人数据的情况下实现安全高效的概念构建。
2025-11-27 cs.CC cs.CR
Association-based Privacy Attacks in Wireless Protocols: Formal Modeling and Mitigation
Indian Institute of Technology Jodhpur(印度技术学院焦特普尔分校);Ohio State University(俄亥俄州立大学)
本文形式化研究无线通信中基于配对的隐私攻击的根本原因,通过对Wi-Fi P2P和蓝牙低功耗的建模提出解决方案,获相关组织认可,为隐私保护无线协议发展铺路。
2026-08-13 cs.CR cs.NI
Maris: A Formally Verifiable Privacy Policy Enforcement Paradigm for Multi-Agent Collaboration Systems
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对多智能体协作系统(MACS)中敏感数据泄露风险,提出一种基于引用监视器的隐私增强开发范式Maris,通过嵌入消息流控制机制实现细粒度数据保护,并在AutoGen和LangChain框架中实现,实验表明其能有效缓解数据泄露威胁且保持高任务成功率。
2026-06-08 cs.CR
Reconstruction Attacks on Aggressive Relaxations of Differential Privacy
差分隐私是一种被广泛接受的正式隐私定义,它允许发布关于数据集的聚合信息,同时控制其记录出现在数据中的个人的隐私泄露。由于隐私与效用之间不可避免的紧张关系,已经有许多作品试图放宽差分隐私的要求,以实现更大的效用。个人差分隐私(IDP)和引导差分隐私(BDP)的定义体现了一类放松,这是开始获得隐私社区以外的支持。原始版本的差分隐私定义了一组相邻数据库对,并通过要求每对邻居对攻击者几乎不可区分来实现其隐私保证。然而,我们研究的隐私定义积极地减少了受保护的相邻对的集合。IDP和BDP都定义了一个“隐私损失”的度量,它满足诸如后处理不变性和组合等形式上的隐私属性,并且比传统的差分隐私变体实现了更好的效用。然而,有一个显着的缺点-我们表明,他们允许数据集的很大一部分被重建使用算法,具有任意低的隐私损失下,他们的隐私会计规则。我们证明这些攻击使用这些隐私定义的首选机制。特别地,我们设计了一组查询,当被这些具有高噪声设置的机制保护时(即,具有非常低的隐私损失的声明),产生关于数据集的更精确的信息,而不是如果它们根本不受保护。
2022-09-08 cs.CR
Differentially Private Representation for NLP: Formal Guarantee and An Empirical Study on Privacy and Fairness
National University of Singapore(新加坡国立大学);Monash University(莫纳什大学);The University of Melbourne(墨尔本大学)
已经证明,通过深度模型学习的隐藏表示可以对输入的私有信息进行编码,因此可以被利用来以合理的准确度恢复这些信息。为了解决这个问题,我们提出了一种新的方法,称为差分私有神经表示(DPNR),以保护隐私的文本中提取的表示。DPNR利用差分隐私(DP)提供正式的隐私保证。此外,我们表明,通过辍学屏蔽的话可以进一步提高隐私。为了保持学习表示的效用,我们将DP噪声表示集成到一个强大的训练过程中,以获得一个强大的目标模型,这也有助于模型在各种人口统计变量上的公平性。在各种参数设置下的基准数据集上的实验结果表明,DPNR在不显着牺牲主要任务性能的情况下大大减少了隐私泄露。
2020-10-03 cs.CR cs.LG stat.ML
Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型,因为它提供了强大的隐私保证,即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而,在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用,从而降低了差异隐私结果的分析效用。在试图解决这个缺点,差分隐私的几个放宽已被提出,权衡隐私保证改善数据效用。在这项工作中,我们认为,标准的形式化的差分隐私是严格的比所需的直观的隐私保证,它寻求。特别地,标准形式化要求结果在任何相邻数据集对之间的不相容性,而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力,从而导致严重的准确性损失。在这方面,我们提出了个人差分隐私,一个替代的差分隐私的概念,为他们提供了相同的隐私保证标准差分隐私的个人(即使不是个人群体)。这个新概念允许数据控制器根据实际数据集调整失真,从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私,我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
Formal Privacy for Partially Private Data
差分隐私(DP)通过分析注入到输出统计中的噪声来量化隐私损失。对于非平凡的统计数据,这种噪声是必要的,以确保有限的隐私损失。然而,数据管理者经常发布统计数据的集合,其中一些使用DP机制,而另一些则按原样发布,即,没有额外的随机噪声。因此,DP本身不能描述整个发布集合造成的隐私损失。在本文中,我们提出了一个隐私的形式主义,$(ε, \{ Θ_z\}_{z \in \mathcal{Z}})$ -河豚($ε$ -TP的缩写时,$\{ Θ_z\}_{z \in \mathcal{Z}}$是隐含的),河豚机制的集合索引的实现的随机变量$Z$表示公共信息不受DP噪声。首先,我们证明了这个定义有类似的性质DP。接下来,我们介绍了释放部分私有数据(PPD)满足$ε$ -TP的机制,并证明其理想的属性。我们提供了算法从一个参数的后验PPD采样。然后,我们比较这种推理方法的替代噪声统计确定性地结合Z。我们推导出温和的条件下,使用我们的算法提供了理论和计算的改进,这种更常见的方法。最后,我们在COVID-19数据的案例研究中展示了上述所有影响。
2022-12-14 cs.CR stat.ME
Information Inference Diagrams: Complementing Privacy and Security Analyses Beyond Data Flows
Technische Universität Dresden(德累斯顿工业大学);Centre for Tactile Internet with Human-in-the-Loop (CeTI)(人机交互触觉互联网中心);Barkhausen Institute(巴克豪森研究所);Carl von Ossietzky Universität Oldenburg(奥尔登堡卡尔·冯·奥西茨基大学)
本文提出信息推断图(I2Ds)框架,补充数据流图,通过形式化定义信息传播与推断关系,支持更严谨的威胁建模,并展示其适用性。
2025-09-11 cs.CR
Privacy Architectures: Reasoning About Data Minimisation and Integrity
如果《数据保护条例》最终获得通过,设计隐私将成为欧洲共同体的一项法律义务。然而,在系统设计中考虑隐私要求是一项具有挑战性的任务。我们提出了一种基于隐私架构规范的方法,并专注于隐私的一个关键方面,数据最小化,其张力与完整性要求。我们说明我们的正式框架,通过智能计量的案例研究。
2014-08-08 cs.CR
Formal Privacy Guarantees with Invariant Statistics
本文提出Semi-DP框架,将差分隐私扩展至DP输出与非私有不变量联合发布的场景,通过重新定义邻接关系并设计高斯机制和最优K-范数机制,应用于2020年美国人口普查的列联表分析,揭示其实际隐私保障弱于宣称水平。
2024-10-22 cs.CR stat.AP
Privately Answering Queries on Skewed Data via Per Record Differential Privacy
针对偏态数据隐私发布问题,提出每条记录零集中差分隐私(PzCDP)形式化方法及相应机制,通过使隐私损失依赖于记录值,有效克服标准DP在重尾统计发布中的困难。
2024-12-18 cs.CR cs.DB
REAEDP: Entropy-Calibrated Differentially Private Data Release with Formal Guarantees and Attack-Based Evaluation
本文提出REAEDP框架,结合熵校准直方图发布、合成数据发布机制和攻击评估,提供形式隐私保证并保持实用性。实验证明其在不同数据集上有效控制隐私风险,支持实用的隐私保护发布流程。
2026-03-14 cs.CR cs.CV
Generating Synthetic Data with Formal Privacy Guarantees: State of the Art and the Road Ahead
Imperial College London(伦敦帝国学院);University of Manchester(曼彻斯特大学);National University of Singapore(新加坡国立大学)
本综述系统梳理了隐私保护合成数据在表格、图像和文本上的最新方法,并通过在五个专业领域数据集上对四种领先方法的实证分析,揭示了现实隐私约束下性能显著下降的问题,强调了建立稳健评估框架和标准化基准的必要性。
2025-03-26 cs.CL cs.CR cs.CV
Data Minimisation in Communication Protocols: A Formal Analysis Framework and Application to Identity Management
随着互联网上交换的个人信息越来越多,隐私越来越成为用户关注的问题。保护隐私的关键原则之一是数据最小化。这一原则要求只收集和处理实现某个目标所需的最小量的信息。已经提出了“隐私增强”通信协议,以保证在广泛的应用中的数据最小化。然而,目前还没有令人满意的方法来评估和比较它们提供的隐私,以一种精确的方式:现有的分析要么太不正式和高层次,或特定于一个特定的系统。在这项工作中,我们提出了一个一般的正式框架来分析和比较通信协议的隐私数据最小化。隐私要求是正式独立于一个特定的协议在知识(联盟)的演员在一个三层模型的个人信息。然后,通过从它们的通信描述计算该知识,针对特定协议自动验证这些要求。我们验证我们的框架中的身份管理(IdM)的案例研究。随着IdM系统被越来越多地用于满足对可靠的在线身份识别和认证的日益增长的需求,隐私正成为一个越来越关键的问题。我们使用我们的框架来分析和比较四个身份管理系统。最后,我们讨论的完整性和(可再)可用性的建议框架。
2014-01-13 cs.CR cs.NI
When differential privacy meets NLP: The devil is in the detail
Technical University of Darmstadt(达姆施塔特工业大学)
差分隐私提供了一个正式的方法来保护个人隐私。差分隐私在各种场景中的应用,例如保护用户的原始话语,必须满足某些数学性质。我们的贡献是对ADePT的正式分析,ADePT是一种用于文本重写的差分私有自动编码器(Krishna等人,2021)。ADePT在下游任务上取得了令人鼓舞的成果,同时提供了严格的隐私保证。我们的证据表明,ADePT是没有差异的私人,从而使实验结果未经证实。我们还量化了其私有机制中的错误的影响,表明在非常小的编码器维度的乐观情况下,真实的灵敏度至少高出6倍,并且未私有化的话语量可以轻松达到整个数据集的100%。我们的意图既不是批评作者,也不是批评同行评审过程,而是指出,如果NLP中的差分隐私应用依赖于正式的保证,这些应该被全面概述并进行详细审查。
2021-09-07 cs.CL cs.CR
Formal Analysis of V2X Revocation Protocols
对车辆网络(V2X)安全性的研究已经产生了一系列针对该领域的安全机制和协议,解决了安全性和隐私性。通常,对这些建议的安全分析基本上是非正式的。然而,形式化分析可以用来暴露缺陷,并最终在协议中提供更高级别的保证。本文着重于对许多提案中发现的V2X安全机制的特定元素进行形式化分析:通过使其凭据无效来从V2X系统中撤销恶意或行为不端的车辆。即使在车辆定期更改其名称的情况下,也需要以不受干扰的方式执行该撤销,以保护车辆隐私。Forster等人的REWIRE方案及其子方案BASIC和RTOKEN旨在通过密码解决方案和可信硬件来解决这一挑战。使用TAMARIN证明器的形式化分析确定了这些方案中的一些功能正确性和认证属性的两个缺陷。然后,我们提出了模糊令牌(OTOKEN),REWIRE的扩展,使隐私保护的方式撤销。我们的方法通过引入额外的密钥对来解决功能和认证属性,该密钥对提供了更强的和可验证的成功撤销车辆的保证,而无需解决长期身份。OTOKEN是第一个与正式模型共同设计的V2X撤销协议。
2017-08-06 cs.CR
Location Privacy in Conservation
学术期刊日益增长的公共性质,以及目前分享科学研究原始数据的最佳实践,对于了解一个物种及其保护工作具有深远的价值。另一方面,有关濒危物种的公共空间数据可能很容易被野生动物犯罪分子滥用。在本文中,我们将讨论如何地理不可侵犯性,一个正式的概念,基于位置的系统的隐私,可以用来添加噪音,同时允许量化的空间数据,这样的权衡。
2019-07-16 cs.CR
RAG Security and Privacy: Formalizing the Threat Model and Attack Surface
University of California, Berkeley(加州大学伯克利分校)
本文研究了RAG系统中的安全与隐私问题,提出首个形式化的威胁模型,定义了攻击向量如文档级成员推断和数据中毒,以提升对RAG系统隐私和安全性的理解。
2026-06-04 cs.AI cs.CR
A Systematic and Formal Study of the Impact of Local Differential Privacy on Fairness: Preliminary Results
INRIA(法国国家信息与自动化研究所);École Polytechnique(巴黎综合理工学院);IPP(IPP机构);Mathematical Institute of the Serbian Academy of Sciences and Arts(塞尔维亚科学院数学研究所);Inria Centre at the University Grenoble Alpes(格勒诺布尔大学Inria中心)
本研究系统形式化地分析局部差分隐私对机器学习公平性的影响,给出基于联合分布和隐私水平的界限,并区分隐私减少或加剧歧视的情形,在合成与真实数据上初步验证。
2024-05-23 cs.CR cs.LG
ACE: A Consent-Embedded privacy-preserving search on genomic database
针对基因组数据库隐私保护需求,提出嵌入同意的可搜索加密方案ACE,支持同意撤销时数据即时物理删除,定义新的前后向隐私概念与D-ACE困难问题并证明安全性,实验验证了其有效性。
2023-07-23 cs.CR
PIMENTO: A Privacy Framework for Querying Text
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
Pimento框架将文本语料、查询和隐私策略转化为关系数据库,结合CI与DP,通过DP/CI感知的Text-to-SQL及情境差分隐私,实现端到端隐私保证并提升查询效用,在基准上75.3%选优且零泄露。
2026-09-15 cs.CR
Differential Privacy: What is all the noise about?
差分隐私(DP)是对隐私的正式定义,它提供了严格的保证,防止数据处理过程中隐私泄露的风险。它不假设对手的知识或计算能力,并提供了一个可解释,可量化和可组合的形式主义。在过去的15年里,DP一直在积极研究,但对于许多机器学习(ML)从业者来说,它仍然很难掌握。本文旨在概述DP在ML中最重要的思想,概念和用途,特别关注其与联邦学习(FL)的交叉点。
2022-05-19 cs.AI cs.CR cs.LG
Biometric Systems Private by Design: Reasoning about privacy properties of biometric system architectures
这项工作的目的是显示的适用性,以及如何,隐私的生物识别系统的设计方法和使用正式的方法,以达到这一目的的好处。从2014年在STM上引入的通用框架开始,该框架能够定义隐私架构并正式推理其属性,我们解释了它如何适用于生物识别。特定技术的选择和组件的作用(中央服务器、安全模块、生物识别终端、灵巧卡等)在体系结构中,对生物测定系统提供的隐私保证有很大的影响。在文献中,已经以某种方式分析了一些架构。然而,现有的建议是在个案基础上提出的,因此很难对它们进行比较,也很难为选择具体方案提供理由。在本文中,我们描述了,在不同的体系结构与不同级别的保护,如何定义的隐私架构的一般框架可以用来指定的生物识别系统的设计选项,并在一个正式的方式对他们的原因。
2017-03-01 cs.CR cs.LO
From Mean to Extreme: Formal Differential Privacy Bounds on the Success of Real-World Data Reconstruction Attacks
Institute of Machine Learning in Biomedical Imaging, Helmholtz Munich(海德堡医学院机器学习研究所);School of Computation, Information and Technology, Technical University of Munich(慕尼黑技术大学计算、信息与技术学院);Chair for AI in Healthcare and Medicine, Technical University of Munich (TUM) and TUM University Hospital(慕尼黑技术大学人工智能在医疗与医学中的 chair);School of Biomedical Engineering and Imaging Sciences, King’s College London(伦敦国王学院生物医学工程与成像科学学院);Department of Computing, Imperial College London(伦敦帝国理工学院计算机系)
本文针对真实数据重构攻击,形式化无先验知识的解析梯度反演攻击并推导以MSE和PSNR衡量的紧致差分隐私界,为隐私风险评估提供从零开始威胁的新锚点。
2025-09-29 cs.CR cs.LG
On the Privacy of Optimization Approaches
确保敏感数据的隐私在许多情况下都是至关重要的,例如医疗保健数据、银行、电子商务、无线传感器网络和社交网络。不同的实体协调或希望依靠第三方来解决特定问题是很常见的。同时,没有实体希望在解决方案过程中发布其问题数据,除非有隐私保证。与基于密码学和差分隐私的方法不同,基于优化的方法缺乏它们可以提供的隐私的量化。本文的主要贡献是提供了一种机制,量化的隐私广泛的优化方法。特别是,我们正式定义了一个一对多的关系,它将一个给定的对抗性观察到的消息与问题数据的不确定性集联系起来。这种关系量化了由于所采用的优化方法而导致的问题数据上的潜在模糊性。隐私定义,然后正式的不确定性集的基础上。分析了所提出的隐私度量的性质。关键的想法是用例子来说明,包括本地化,平均共识,等等。
2014-06-13 cs.CR cs.DC
The 5G-AKA Authentication Protocol Privacy
我们研究了5G移动通信标准中描述的5G-AKA认证协议。这个版本的AKA试图通过使用非对称随机加密来实现比3G和4G版本更好的隐私。尽管如此,我们表明,除了IMSI捕手攻击,所有已知的针对5G-AKA隐私的攻击仍然适用。接下来,我们修改5G-AKA协议以防止这些攻击,同时满足5G-AKA协议的成本和效率约束。然后,我们正式证明我们的协议是sigma-unexpressed。这是一个新的安全概念,它允许对协议隐私进行细粒度的量化。我们的安全性证明是在Bana-Comon不可否认逻辑中进行的。我们还证明了相互认证作为次要结果。
2019-04-03 cs.CR
CyberCane: a privacy-bounded neuro-symbolic retrieval framework for phishing detection under distribution shift
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);Bowie State University(鲍威州立大学)
CyberCane结合确定性符号分析与隐私保护RAG,通过形式本体推理实现高召回率的钓鱼检测,在隐私保护和抗AI攻击方面表现优异。
2026-10-20 cs.AI cs.CR cs.IR
SilentLedger: Privacy-Preserving Auditing for Blockchains with Complete Non-Interactivity
Shandong University(山东大学);Beihang University(北京航空航天大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Wuhan University(武汉大学)
针对现有可审计隐私区块链存在交互冗余、审计角色依赖节点带来安全风险的问题,提出完全非交互的SilentLedger系统,通过可更新匿名证书和可追踪交易机制实现无交互交易与纯链上审计,经证明安全且性能优于现有最优方案。
2026-09-24 cs.CR
What is the Cost of Differential Privacy for Deep Learning-Based Trajectory Generation?
University of New South Wales(新南威尔士大学);CSIRO's Data61, Cyber Security CRC(澳大利亚联邦科学与工业研究组织(CSIRO)的数据61部门,网络安全CRC);Macquarie University(麦考瑞大学)
该研究探究基于深度学习的轨迹生成模型施加差分隐私的效用代价,提出适用于条件生成的新型DP机制,分析不同模型的效用-隐私权衡,发现形式化隐私保障目前仅在大数据集和受限场景下可行。
2025-06-11 cs.CR cs.LG
AudAgent: Automated Auditing of Privacy Policy Compliance in AI Agents
Rochester Institute of Technology(罗切斯特技术学院);University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
AudAgent通过自动化隐私审计工具,实时监控AI代理的数据实践,确保其符合声明的隐私政策,并可视化检测到的隐私违规行为。
2026-03-04 cs.AI cs.CR
Individualized PATE: Differentially Private Machine Learning with Individual Privacy Guarantees
Fraunhofer AISEC(弗劳恩霍夫应用与集成安全研究所);Vector Institute(向量研究所);Free University Berlin(柏林自由大学);Columbia University(哥伦比亚大学);University of Toronto(多伦多大学)
将机器学习(ML)应用于敏感领域需要通过正式的隐私框架(如差分隐私(DP))对底层训练数据进行隐私保护。然而,通常情况下,训练数据的隐私是以最终ML模型的实用性为代价的。其中一个原因是DP对所有训练数据点使用一个统一的隐私预算,这必须与所有数据持有者之间遇到的最严格的隐私要求保持一致。在实践中,不同的数据持有者有不同的隐私要求,要求较低的数据持有者的数据点可以为ML模型的训练过程提供更多的信息。为了满足这一需求,我们提出了两种基于教师集合私有聚合(Private Aggregation of Teacher Ensembles,PATE)框架的新方法,以支持具有个性化隐私保证的ML模型的训练。我们正式描述的方法,提供其隐私边界的理论分析,并实验评估其对最终模型的效用使用MNIST,SVHN和成人收入数据集的影响。我们的实证结果表明,个性化隐私方法产生的ML模型比非个性化的基线具有更高的准确性。因此,我们改进了在不同数据持有者同意在不同个人隐私级别贡献其敏感数据的情况下的隐私-效用权衡。
2022-11-08 cs.CR cs.LG
Tight Differential Privacy Blanket for Shuffle Model
随着最近对数字经济的关注,个人数据的重要性最近大幅增加。随着这一趋势的发展,数据市场的模式开始成为一个以获得高质量个人信息为交换动机的过程。为了正式保证保护数字经济中涉及的敏感数据的隐私,\emph{differential privacy (DP)}是首选技术,最近引起了社区的广泛关注。然而,通过确保最高级别的隐私保护,同时保留数据的实用性,优化隐私-实用性权衡至关重要。在本文中,我们从理论上推导出充分和必要条件,有紧$(ε,\,δ)$ -DP毯的洗牌模型,据我们所知,还没有被证明之前,并因此,表征最好的可能的DP保护洗牌模型,可以在数据市场中实施,以确保隐私保护的数字经济交易。
2022-05-09 cs.CR
BEPHAP: A Blockchain-Based Efficient Privacy-Preserving Handover Authentication Protocol with Key Agreement for Internet of Vehicles
车联网可以显著提高运输效率,保障交通安全。身份认证被认为是物联网中抵御攻击的基本防线。然而,最先进的方法存在几个缺点,包括单一云服务器模型的瓶颈,操作的高计算开销,对云服务器和路边单元(RSU)的过度信任,以及车辆轨迹隐私的泄露。本文介绍了BEPHAP,一种基于区块链的高效隐私保护车联网切换认证协议,具有密钥协商功能,旨在解决这些问题。BEPHAP在云服务器和RSU可能发起攻击的安全模型下,通过基于防篡改区块链、对称密码学和变色龙哈希函数的密钥协商,实现匿名跨域相互切换认证。BEPHAP特别适合车联网,因为它允许车辆在认证阶段只需要执行轻量级的加密操作。BEPHAP还实现了数据机密性、不可链接性、可跟踪性、不可否认性、不可成帧性和密钥托管自由性。基于ProVerif的形式化验证和基于BAN逻辑的形式化安全性证明表明,BEPHAP能够抵抗各种典型的攻击,如中间人攻击、冒充攻击和重放攻击。性能分析表明,BEPHAP在计算和通信效率方面都超过了现有的工作。每秒5000个请求时,消息丢失率保持为0,符合车联网的要求。
2022-10-29 cs.CR
Security for 4G and 5G Cellular Networks: A Survey of Existing Authentication and Privacy-preserving Schemes
本文对4G和5G蜂窝网络的现有认证和隐私保护方案进行了全面调查。我们首先概述了现有的关于4G和5G通信、应用、标准化和安全性的调查。然后,我们将4G和5G蜂窝网络中的威胁模型分为四类,包括针对隐私的攻击,针对完整性的攻击,针对可用性的攻击和针对身份验证的攻击。我们还提供了一个分类的对策分为三类,包括密码学方法,人为因素和入侵检测方法。以表格的形式总结了认证和隐私保护方案所使用的对策以及非正式和正式的安全分析技术。在对认证和隐私模型进行分类的基础上,将这些方案分为七类:带隐私的切换认证、带隐私的相互认证、带隐私的RFID认证、带隐私的可否认认证、带隐私的相互匿名认证、带隐私的认证和密钥协商以及带隐私的三因素认证。此外,我们以表格的形式提供了4G和5G蜂窝网络的认证和隐私保护方案的分类和比较。最后,本文根据调查结果提出了进一步研究的建议。
2017-08-14 cs.CR
3PS - Online Privacy through Group Identities
将在线数据汇集限制在特定目的所需的最低限度是现代隐私立法的规定,例如《通用数据保护条例》(GDPR)和《加州消费者保护法》。在广泛收集个人信息的在线服务中尤其如此,这显然是对隐私的关注。我们对提供个性化服务需要广泛收集个人数据汇集的观点提出质疑。通过首先开发隐私和实用程序的正式模型,我们展示了用户如何获得个性化的内容,同时保留了一种能力,可以合理地拒绝他们对他们认为敏感的主题的兴趣,使用代理系统,我们称之为3 PS的组身份。通过对原型实施的广泛实验,使用可公开访问的数据源,我们表明,在我们的测试中,3 PS在98%以上的时间内为个人用户提供个性化内容,同时在面对各种攻击类型的最坏情况威胁时有效地保护合理的可否认性。
2018-11-27 cs.CR
Efficient Provably Private Classification with a Tabular Foundation Model
University of Helsinki(赫尔辛基大学);University of Cambridge(剑桥大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
PrivTab是一个内嵌隐私机制的表格基础模型,通过上下文学习生成可证明私密的摘要,在强隐私下优于现有基线,泄漏可忽略,拟合时间减少万倍。
2026-10-08 cs.CR cs.LG
No-Go Theorems for Data Privacy
受控查询评估(CQE)是保证数据库和知识库系统数据隐私的一种方法。CQE系统的特征在于可以扭曲查询的答案以隐藏敏感信息的审查功能。我们介绍了一个高层次的形式化的控制查询评估和定义CQE系统的几个理想的属性。最后,我们建立了两个不去定理,这表明这些属性的某些组合不能得到。
2020-05-28 cs.CR cs.LO
DDUO: General-Purpose Dynamic Analysis for Differential Privacy
差分隐私允许对数据进行一般统计分析,并在个人层面提供隐私保护的正式保证。帮助数据分析师利用差分隐私的工具经常采用程序设计语言和库的形式。然而,设计用于差分隐私的组合验证的许多现有程序设计语言对程序员施加显著负担(以复杂类型注释的形式)。基于现有通用语言的隐私分析补充库支持更有用,但无法普及敏感性分析和隐私组合的端到端实施。我们介绍了DDUO,一个动态分析,以加强差分隐私。DDUO可供非专家使用:它的分析是自动的,不需要额外的类型注释。DDUO可以实现为现有的程序设计语言的库,我们提出了一个参考实现在Python中,具有适度的运行时开销在现实的工作负载。我们包括对现代机器学习程序中常用的几种数据类型、距离度量和操作的支持。我们还提供初始支持,用于跟踪流行Python库中数据转换的敏感性,以进行数据分析。我们形式化的DDUO系统的新的核心,并证明它的声音灵敏度分析通过一个逻辑关系度量保存。我们还通过各种案例研究来说明DDUO的可用性和灵活性,这些案例研究实现了最先进的机器学习算法。
2021-03-16 cs.CR cs.PL
Bayesian and Frequentist Semantics for Common Variations of Differential Privacy: Applications to the 2020 Census
本文的目的是指导解释的语义隐私保证的差分隐私,其中包括纯,近似,雷尼,零集中,和$f$差分隐私的一些主要变化。我们解释隐私损失会计参数,频率语义,贝叶斯语义(包括新的结果)。驾驶应用程序是对2021年8月12日发布的2020年人口普查公法94-171重划数据摘要文件的保密保护的解释,该文件首次在正式的隐私保证下制作。
2022-09-07 cs.CR stat.ME
Privacy in Metalearning and Multitask Learning: Modeling and Separations
Rice University(莱斯大学);Hariri Institute for Computing at Boston University(波士顿大学哈里里计算研究所);Boston University(波士顿大学);Northeastern University(东北大学);Simons Institute for the Theory of Computing(西蒙斯理论计算研究所);Khoury College of Computer Sciences, Northeastern University(东北大学库尔计算机科学学院);Google(谷歌)
本研究系统研究差分隐私下的个性化学习,构建形式框架分类体系,并证明私有多任务学习与私有元学习之间存在新颖分离。
2024-12-16 cs.CR cs.LG
Towards Formalizing the GDPR's Notion of Singling Out
围绕数据隐私的法律和数学思维之间存在着巨大的概念差距。其影响是不确定哪些技术产品充分符合法律标准中表达的期望。一连串成功的隐私攻击加剧了这种不确定性,表明传统的统计披露限制技术往往达不到法律标准所设想的那种隐私。我们定义了谓词挑出,这是一种新型的隐私攻击,旨在捕捉通用数据保护条例(GDPR)中出现的挑出概念。非正式地,如果对手谓词设法找到与一行$x \in X$精确匹配的谓词$p$,并且概率比统计基线好得多,则对手谓词使用数据发布机制$M(X)$的输出挑出数据集$X$。防止这种攻击的数据发布机制是安全的,可以防止谓词挑出(PSO安全)。我们认为,PSO安全是一个数学概念,具有法律后果。根据GDPR,任何旨在“提供匿名”个人数据的数据发布机制都必须是安全的,不能被单独挑出,因此必须是PSO安全的。然后,我们分析了PSO的安全性,表明它无法自我组合。也就是说,$ω(\log n)$精确计数的组合,每个单独的PSO安全,使攻击者能够预测单挑。事实上,仅仅两个PSO安全机制的组合可能无法提供PSO安全性。最后,我们问是否差分隐私和$k$ -匿名PSO安全。利用连接到统计泛化,我们表明,差分隐私意味着PSO安全。然而,$k$ -匿名没有:存在一个简单的和一般的谓词挑出攻击在温和的假设下,对$k$ -匿名和数据分布。
2020-12-17 cs.CR cs.CY
ReBound: Reuse-Aware Privacy For Interactive Decision Support
University of California, Irvine(加州大学尔湾分校);University of Waterloo(滑铁卢大学)
研究交互式决策支持中差分隐私框架独立处理查询的问题,提出ReBound框架,通过重用缓存结果、引入重用框架、缓存图结构及协商机制,降低隐私成本并保证效用。
2026-07-16 cs.CR cs.DB
GPM: The Gaussian Pancake Mechanism for Planting Undetectable Backdoors in Differential Privacy
Cheriton School of Computer Science, University of Waterloo(滑铁卢大学切里顿计算机科学学院)
本文提出GPM机制,该机制在计算上与常用高斯机制不可区分,但具有更弱的统计差分隐私保证,从而实现新的隐蔽后门攻击,强调了对差分隐私实现的透明和严格验证的重要性。
2026-03-15 cs.CR cs.DB
Privacy Leakage via Output Label Space and Differentially Private Continual Learning
University of Helsinki(赫尔辛基大学);CSC – IT Center for Science(CSC – 科学信息中心);Ericsson Research(爱立信研究);Aalto University(阿alto大学)
本文提出通过输出标签空间的隐私泄露问题,针对连续学习中的隐私侧信道,提出差分隐私机制和公开标签空间来消除侧信道,实验显示模型在保持隐私的同时准确率更高。
2026-08-24 cs.CR cs.LG
A Statistical Viewpoint on Differential Privacy: Hypothesis Testing, Representation and Blackwell's Theorem
University of Pennsylvania(宾夕法尼亚大学)
本文从统计视角重新解读差分隐私,基于Blackwell定理证明其所有定义可从假设检验视角推导,提出f-差分隐私统一框架并分析其在多领域应用中的优势,论证假设检验是推理差分隐私的恰当语言。
2024-10-29 cs.CR cs.LG math.ST
LDP-Fed: Federated Learning with Local Differential Privacy
Georgia Institute of Technology(佐治亚理工学院)
本文提出了LDP-Fed,一种新的联邦学习系统,使用本地差分隐私(LDP)的正式隐私保证。现有的LDP协议主要是为了在收集单个数值或分类值时确保数据隐私,例如Web访问日志中的点击计数。然而,在联邦学习中,模型参数更新是从每个参与者迭代收集的,并且由具有高精度(小数点后10位数)的高维连续值组成,使得现有的LDP协议不适用。为了解决这一挑战,在LDP-Fed,我们设计和开发两种新的方法。首先,LDP-Fed的LDP模块为大规模神经网络在多个个体参与者的私有数据集上的联邦训练中重复收集模型训练参数提供了正式的差分隐私保证。其次,LDP-Fed实现了一套选择和过滤技术,用于干扰和与参数服务器共享选择参数更新。我们验证了我们的系统部署了一个浓缩的LDP协议,在公共数据上训练深度神经网络。我们比较了这个版本的LDP-Fed(CLDP-Fed)与其他最先进的方法在模型准确性、隐私保护和系统功能方面的差异。
2020-06-05 cs.CR cs.LG stat.ML