More Flexible Differential Privacy: The Application of Piecewise Mixture Distributions in Query Release
越来越多的人要求向第三方“开放”数据,因为数据共享在数据驱动的决策中有很大的好处。然而,由于收集了各种各样的敏感数据,保护个人、社区和组织的隐私是使数据“开放”的一个重要因素。业界目前采用的公布私人数据的方法往往是临时性的,容易受到一些攻击,包括重新识别攻击,因为它们没有提供足够的隐私保障。虽然差分隐私通过提供严格和可靠的隐私保证吸引了学术界和工业界的极大兴趣,但当前用于数据发布的差异隐私算法的实用性和可验证性降低是其在现实生活中使用的障碍。本文旨在解决这两个挑战。首先,我们提出了一种新的机制,通过融合两个拉普拉斯或几何分布在一起,以增加传统的差分隐私的效用。我们推导出封闭形式的表达式熵,方差的增加噪声,和绝对期望的噪声建议分段混合。然后利用相关分布从理论上证明所提出机制的隐私性和准确性保证。其次,我们表明,我们提出的机制具有更大的灵活性,有三个参数进行调整,提供更好的效用,在边界噪声,并减轻较大的不准确性,相比典型的单参数差分私有机制。然后,我们经验性地评估了分段混合分布的性能与广泛的模拟和现实世界的数据集的线性计数查询和直方图查询。实证结果表明,增加所有考虑的效用措施,同时保持隐私,分段混合机制相比,标准的拉普拉斯或几何机制。
2017-07-18 cs.CR
A Novel Approach to Differential Privacy with Alpha Divergence
本文提出基于alpha散度的alpha差分隐私(ADP)框架,通过更灵活的隐私消耗评估,在中小规模迭代和严格隐私要求场景下提供比传统$(ε, δ)$-差分隐私更强的隐私保障。
2025-06-20 cs.CR
MOF-BC: A Memory Optimized and Flexible BlockChain for Large Scale Networks
区块链(BC)的不变性确保了BC对修改或删除存储数据的弹性。然而,在物联网(IoT)等大规模网络中,此功能会显著增加BC存储大小并带来隐私挑战。在本文中,我们提出了一种内存优化和灵活的BC(MOF-BC),使物联网用户和服务提供商能够删除或汇总他们的交易,并使他们的数据老化,并行使“被遗忘的权利”。为了增加隐私,用户可以针对不同的交易采用多个密钥。为了允许删除存储的事务,需要存储所有密钥,这使得密钥管理和存储复杂化。MOF-BC引入了生成器验证器(GV)的概念,GV是生成器验证器秘密(GVS)的签名散列。GV为每个交易而改变,以提供隐私,但由唯一的密钥签名,从而最大限度地减少需要存储的信息。提出了一种灵活的交易费用模型和奖励机制,以激励用户参与优化内存消耗。定性的安全和隐私分析表明,MOF-BC对几种安全攻击具有弹性。评估结果表明,MOF-BC降低BC内存消耗高达25%,用户成本超过两个数量级相比,传统的BC实例。
2018-01-13 cs.CR
Achieving Flexible and Secure Authentication with Strong Privacy in Decentralized Networks
The Hong Kong Polytechnic University(香港理工大学)
本文提出IRAC方案,通过灵活的凭证模型和安全的去中心化撤销机制,解决去中心化网络中身份认证的隐私和安全性问题。
2025-12-23 cs.CR
MACE: A Flexible Framework for Membership Privacy Estimation in Generative Models
Microsoft(微软);Insitro;University of Washington(华盛顿大学);Microsoft Research(微软研究院)
生成式机器学习模型越来越被视为机构之间共享敏感数据的一种方式。虽然已经有开发差异私有生成建模方法的工作,但这些方法通常导致低于标准的样本质量,限制了它们在现实世界应用中的使用。另一项工作集中在开发生成模型,这些模型可以产生更高质量的样本,但目前缺乏任何正式的隐私保证。在这项工作中,我们提出了第一个正式的框架成员隐私估计生成模型。我们制定的成员隐私风险作为训练样本和保持样本之间的统计分歧,并提出基于样本的方法来估计这种分歧。与以往的工作相比,我们的框架,使更现实和灵活的假设。首先,我们提供了一个可推广的度量作为替代的准确性度量,特别是不平衡的数据集。其次,我们放松了从以前的研究中可以完全访问底层分布的假设,并提出了基于样本的估计与理论保证。第三,在基于最优成员优势的群体级成员隐私风险估计的基础上,提出了基于个体隐私风险的个体级成员隐私风险估计。第四,我们的框架允许对手通过自定义查询访问训练模型,而之前的工作需要特定的属性。
2022-10-12 cs.CR cs.LG
Lattice-based IBE with Equality Test Supporting Flexible Authorization in the Standard Model
支持灵活授权的基于身份的相等性测试加密(IBEET-FA)允许对两个密文的底层消息进行相等性测试,同时通过允许用户(身份)控制他们的密文与其他人的比较来加强隐私保护。IBEET本身具有广泛的有用的应用领域,例如加密数据的关键字搜索、用于有效加密数据管理的数据库分区、个人健康记录系统和加密电子邮件系统中的垃圾邮件过滤。灵活的授权将加强IBEET的隐私保护。在本文中,我们提出了一个有效的IBEET-FA系统的基础上的学习与错误(LWE)问题的难度的建设。我们的安全证明在标准模型中成立。
2020-10-26 cs.CR
IoTrace: A Flexible, Efficient, and Privacy-Preserving IoT-enabled Architecture for Contact Tracing
接触者追踪有望通过早期发现可能的传染事件,帮助抗击新冠肺炎的传播。为此,大多数现有的解决方案共享以下架构:智能手机不断广播随机信标,这些信标被附近的设备拦截并存储到其本地联系人日志中。在本文中,我们提出了一种支持物联网的联系人追踪架构,放宽了以智能手机为中心的假设,并提供了一种具有以下功能的解决方案:(i)它将最终用户的开销减少到最低限度--移动终端仅广播其信标;(ii)它为用户提供了竞争解决方案所没有达到的隐私程度-即使在最不利于隐私的情况下,该解决方案也提供了k-匿名;以及(iii)它是灵活的:相同的体系结构可以被配置为支持几种模型--从完全分散的到完全集中的模型--并且可以调整系统参数以支持跟踪几种社会交互模型。我们还强调开放的问题,并讨论了一些未来的研究方向。
2021-01-02 cs.CR cs.NI
Fedlearn-Algo: A flexible open-source privacy-preserving machine learning platform
JD Finance America Corporation(京东金融美国公司)
在本文中,我们提出了Fedlearn-Algo,一个开源的隐私保护机器学习平台。我们使用这个平台来展示我们在隐私保护机器学习算法方面的研究和开发成果。作为第一批新的FL算法实例,我们发布了垂直联邦核二进制分类模型和垂直联邦随机森林模型。在我们的实践中,它们已经被测试为比现有的垂直联邦学习模型更有效。除了新颖的FL算法示例外,我们还发布了机器通信模块。统一的数据传输接口支持在机器之间传输广泛使用的数据格式。我们将通过添加更多的功能模块和算法示例来维护这个平台。该代码可在https://github.com/fedlearnAI/fedlearn-algo上获得。
2021-07-30 cs.CR cs.DC cs.LG
Approximate Gradient Coding for Privacy-Flexible Federated Learning with Non-IID Data
Aalto University(阿尔托大学);Côte d’Azur University(蔚蓝海岸大学);CNRS(法国国家科学研究中心)
针对非IID数据及客户端落后/掉线问题,提出结合离线数据共享与近似梯度编码的隐私灵活联邦学习方法,并在MNIST上验证其可权衡隐私与效用、提升收敛和准确率。
2024-04-04 cs.CR cs.DC cs.IT
A Flexible Privacy-preserving Framework for Singular Value Decomposition under Internet of Things Environment
奇异值分解(SVD)是一种广泛应用的矩阵分解工具,在推荐系统、异常检测、数据压缩等领域有着广泛的应用。在物联网(IoT)的环境下,人们对数据分析的需求越来越大,以改善人类的生活并创造新的经济增长点。此外,由于物联网的范围很大,大部分数据分析工作应该在网络边缘完成,即通过雾计算处理。然而,提供雾计算的设备可能不可信,而数据隐私通常是物联网应用用户的重要关注点。因此,当执行SVD用于数据分析目的时,应保护用户数据的隐私。基于上述原因,本文提出了一种用于SVD计算的隐私保护雾计算框架。安全性和性能分析表明了该框架的实用性。此外,由于不同的应用程序可能会以不同的方式利用SVD运算的结果,因此本文介绍了三个具有不同目标的应用程序,展示了该框架如何灵活地实现不同应用程序的目的,体现了设计的灵活性。
2017-03-22 cs.CR cs.DC
Flexible Differentially Private Vertical Federated Learning with Adaptive Feature Embeddings
Fudan University(复旦大学);Tencent(腾讯);Tongji University(同济大学)
本文针对纵向联邦学习中的隐私与效用平衡问题,提出VFL-AFE框架,通过解耦隐私与效用目标,利用范数裁剪提供严格差分隐私保证,并自适应调整特征嵌入以优化任务效用。
2023-07-26 cs.AI cs.CR cs.LG
Quantum Pufferfish Privacy: A Flexible Privacy Framework for Quantum Systems
Cornell University(康奈尔大学);school of Electrical and Computer Engineering(电气与计算机工程学院)
本文提出量子河豚隐私(QPP)框架,通过灵活指定私有信息、测量和领域知识,推广量子差分隐私,并利用信息谱散度实现隐私审计与权衡分析。
2024-05-28 cs.CR cs.IT cs.LG
Clients Collaborate: Flexible Differentially Private Federated Learning with Guaranteed Improvement of Utility-Privacy Trade-off
Sun Yat-sen University(中山大学);Harbin Institute of Technology(哈尔滨工业大学)
本文提出联邦学习框架 FedCEO,通过服务器端张量低秩近端优化让客户端协作平滑全局语义空间,在严格差分隐私保证下恢复模型语义并改进效用-隐私权衡界。
2025-05-05 cs.AI cs.CR cs.LG
DP4SQL: Differentially Private SQL with Flexible Privacy Policies
Duke University(杜克大学);Binghamton University(宾汉姆顿大学);Penn State University(宾夕法尼亚州立大学)
针对关系数据库差分隐私中隐私策略僵化的问题,提出DP4SQL系统,支持自定义记录存在性保护与内容保护等灵活策略,避免过度噪声或保护不足。
2026-06-15 cs.CR cs.DB
FLEX: FLEXible Federated Learning Framework
University of Granada(格拉纳达大学)
针对联邦学习研究对可配置实验环境的需求,本文提出FLEX框架,支持数据分布、隐私参数和通信策略定制,并集成异常、区块链、攻防、NLP与决策树等库。
2024-04-09 cs.AI cs.CR
Semantic Access Control for Privacy Management of Personal Sensing in Smart Cities
个人和家庭传感器生成可用于智能城市的有价值的信息。不幸的是,通常情况下,这些数据被锁定,仅由应用程序/系统开发人员使用。虽然供应商是罪魁祸首,但人们也应该考虑数据访问的“二进制性质”。具体而言,当数据被“打开”时,所有者对她的数据具有完全控制(例如,在“封闭系统“中),或者她完全失去控制。在这种情况下,我们提出了一个语义技术为基础的,授权和隐私控制框架,使用户能够保持灵活的,但可管理的数据访问控制策略。所提出的方法进行了详细描述,包括实施和测试。
2021-01-08 cs.CR
Synergizing Privacy and Utility in Data Analytics Through Advanced Information Theorization
本研究提出一个隐私保护数据分析框架,引入噪声注入、VAE和EM三种算法,在Modified MNIST和CelebrityA数据集上显著降低敏感信息互信息,兼顾隐私与效用。
2024-04-24 cs.CR
When Homomorphic Cryptosystem Meets Differential Privacy: Training Machine Learning Classifier with Privacy Protection
机器学习(ML)分类器是已在许多领域中使用的宝贵构建块。从多个数据提供者收集的高质量训练数据集对于训练准确的分类器是必不可少的。然而,由于训练数据集中敏感信息的潜在泄漏,它引起了对数据隐私的关注。现有的研究已经提出了许多ML分类器隐私保护训练的解决方案,但在准确性,计算效率和安全性之间取得平衡仍然是一项具有挑战性的任务。在本文中,我们提出了Heda,一个有效的隐私保护计划训练ML分类器。Heda将同态密码体制(HC)与差分隐私(DP)相结合,在效率和准确性之间取得了折衷,并通过参数调整实现了不同折衷之间的灵活切换。为了使这种组合有效和可行,我们提出了新的设计的基础上HC和DP:提出了一个库的基础上部分HC构建块构建复杂的训练算法,而不引入可信的第三方或计算松弛;提出了一套理论方法,以确定适当的隐私预算,并降低敏感性。安全性分析表明,该方案可以安全地构造复杂的ML训练算法。大量的实验结果表明了该方案的有效性和效率。
2018-12-06 cs.CR
Exact and Efficient Bayesian Inference for Privacy Risk Quantification (Extended Version)
本文提出基于多元高斯分布的精确贝叶斯推断引擎,替代Privug中的MCMC近似方法,实现高效准确的隐私风险量化,并在公共统计发布场景中验证其优越性及差分隐私分析能力。
2023-08-31 cs.CR
DPolicy: Managing Privacy Risks Across Multiple Releases with Differential Privacy
本文提出DPolicy系统,通过同时考虑多个差分隐私保证并引入高级策略语言,解决组织内多次数据发布中累积隐私风险难以管理的问题,实现细粒度的组织级隐私风险管理。
2025-05-10 cs.CR
Inner-product Functional Encryption with Fine-grained Revocation for Flexible EHR Sharing
针对EHR共享中隐私保护与细粒度访问控制需求,提出带细粒度撤销的内积功能加密方案,支持特定函数撤销、前后向安全及防共谋,安全性基于抗量子LWE假设。
2025-09-09 cs.CR
Revisiting Locally Differentially Private Protocols: Towards Better Trade-offs in Privacy, Utility, and Attack Resistance
Inria(法国国家信息与自动化研究所);ÉTS Montréal(蒙特利尔高等技术学院);Université du Québec à Montréal (UQAM)(魁北克大学蒙特利尔分校)
本文提出多目标优化框架,优化隐私和效用在对抗性设置中的平衡,通过分析八种先进协议并提出改进方案,实验表明所提机制在降低攻击成功率的同时保持效用,接近ASR-MSE帕累托前沿。
2026-03-18 cs.CR
General Linear-Layer Algorithms for Privacy-Preserving Transformer Inference
针对安全两方Transformer推理中线性层密钥切换开销大的问题,提出预处理辅助注意力计算、存储-通信权衡和融合密钥切换三种通用技术,在不修改现有打包策略下降低在线开销。
2026-08-03 cs.CR
Femur: A Flexible Framework for Fast and Secure Querying from Public Key-Value Store
针对公键值存储中PIR方案扩展性差的问题,提出Femur框架,引入基于距离的不可区分性概念,利用习得索引和噪声混淆实现安全与性能的灵活权衡,性能最高提升163.9倍。
2025-03-07 cs.CR cs.DB
Lattice-based public key encryption with equality test supporting flexible authorization in standard model
公钥相等性测试加密(PKEET)支持检查两个不同公钥加密的密文是否包含相同的消息。PKEET在加密数据的关键字搜索、加密数据管理中的加密数据划分、个人健康档案系统、加密邮件系统中的垃圾邮件过滤等方面有着广泛的应用,但PKEET方案缺乏一个授权机制,用户无法控制其密文与其他密文的比较。2015年,Ma等人引入了PKEET灵活授权(PKEET-FA)的概念,加强了隐私保护。自2015年以来,PKEET-FA有几个后续工作。但是,在随机预言模型中,所有这些都是安全的。此外,所有这些都容易受到量子攻击。本文给出了标准模型下量子安全PKEET-FA安全的三种构造。基于整数格和理想格的硬度假设,所提出的构造是安全的。最后,我们在理想格上实现了PKEET-FA方案。
2020-05-09 cs.CR
A Common Semantic Model of the GDPR Register of Processing Activities
创建和维护处理活动登记册(ROPA)是证明GDPR合规性的重要流程。我们分析了来自六个欧盟数据保护监管机构的ROPA模板,并显示模板范围和粒度在不同司法管辖区之间差异很大。然后,我们提出了一个灵活的,统一的数据模型的ROPA(CSM-ROPA)的一致性处理。我们分析了数据隐私词汇表(DPV)可以用来表达CSM-ROPA的程度。我们发现,它不直接解决建模ROPA,因此需要额外的概念定义。我们提供了CSM-ROPA到数据隐私词汇扩展的映射。
2021-02-01 cs.CR
Segmented Private Data Aggregation in the Multi-message Shuffle Model
本文首次在多消息混洗差分隐私模型中研究分段私有数据聚合,通过为用户提供灵活隐私保护并匿名化隐私级别选择,优化毯式消息配置和隐私放大分析,使估计误差降低约50%。
2024-12-29 cs.CR
Generative AI for Secure and Privacy-Preserving Mobile Crowdsensing
本文研究生成式AI与安全隐私保护移动群智感知(SPPMCS)的融合,梳理相关基础与融合潜力,探讨多类安全防御与隐私保护问题及方案,提出感知数据内容保护框架并验证有效性,指明未来研究方向。
2024-05-17 cs.CR
FLAME: Flexible and Lightweight Biometric Authentication Scheme in Malicious Environments
Qingdao University(青岛大学);East China Normal University(华东师范大学);Clemson University(克莱姆森大学);RMIT University(皇家墨尔本理工大学);Guangzhou University(广州大学);Griffith University(格里菲斯大学)
本文提出FLAME,一种恶意环境下的灵活轻量级生物特征认证方案,通过混合轻量级秘密共享原语实现高效两方计算,支持多种相似度度量,在保证安全性的同时显著降低通信开销并提升运行速度。
2025-11-04 cs.CR
Toward sensitive document release with privacy guarantees
隐私已成为现代信息社会的一个严重问题。每天交换或向不受信任方发布的许多数据的敏感性要求负责任的组织采取适当的隐私保护措施。如今,这些数据中的大部分是文本(例如,电子邮件、社交媒体上发布的消息、医疗保健结果等)这由于其非结构化和语义性质而对自动数据保护方法构成了挑战。事实上,文本文档通常是手动保护的,这个过程称为文档编校或清理。为此,人类专家识别敏感术语(即,可能揭示身份和/或机密信息的术语)并相应地保护它们(例如,通过移除或优选地通过泛化)。为了减轻专家从这个繁重的任务,在以前的工作中,我们介绍了理论基础的C-消毒,一个固有的语义隐私模型,提供了基础的自动文档编辑/消毒算法的发展,并提供了明确的和先验的隐私保证数据保护;尽管它的潜在好处,C-消毒在应用于实践时仍然存在一些限制(主要是关于灵活性,效率和准确性)。在本文中,我们提出了一个新的更灵活的模型,命名为(C,g(C))-消毒,它使一个直观的配置之间的权衡所需的保护水平(即,受控的信息公开)和保存受保护数据的效用(即,要保留的语义量)。此外,我们还提出了一套技术解决方案和算法,提供了一个有效的和可扩展的实现模型,并提高其实际的准确性,我们也通过实证实验说明。
2017-01-02 cs.CR
XACML Extension for Graphs: Flexible Authorization Policy Specification and Datastore-independent Enforcement
本文针对图数据访问控制,提出XACML4G扩展,支持灵活路径定义和边保护,并实现数据存储无关的策略强制,在ArangoDB中验证。
2023-06-22 cs.CR
AnonyControl: Control Cloud Data Anonymously with Multi-Authority Attribute-Based Encryption
云计算是一种革命性的计算模式,它能够灵活、按需和低成本地使用计算资源。然而,具有讽刺意味的是,这些优势是安全和隐私问题的原因,这些问题的出现是因为不同用户拥有的数据存储在一些云服务器中,而不是在他们自己的控制之下。为了解决安全问题,人们提出了各种基于属性加密的方案.然而,云计算的隐私问题还有待解决。本文提出了一种匿名权限控制方案AnonyControl来解决云中的用户和数据隐私问题。通过在云计算系统中使用多个权威机构,我们提出的方案实现了云数据的匿名访问,细粒度的权限控制,更重要的是,容忍多达(N-2)个权威机构的妥协。我们的安全性和性能分析表明,AnonyControl是安全和高效的云计算环境。
2013-04-11 cs.CR
A Graph Symmetrisation Bound on Channel Information Leakage under Blowfish Privacy
School of Computing and Information Systems, University of Melbourne(墨尔本大学计算与信息系统学院);Australian Tax Office(澳大利亚税务局);School of Mathematics and Statistics, University of Melbourne(墨尔本大学数学与统计学院)
Blowfish隐私是差分隐私的最新概括,它可以提高效用,同时保持具有语义保证的隐私策略,这是推动计算机科学中差分隐私流行的一个因素。本文将Blowfish隐私与通信理论界提出的一种度量信息通道隐私损失的重要方法:最小熵泄漏联系起来。输入数据相邻关系中的对称性对于差分隐私和最小熵泄漏之间的已知连接是中心的。但是,虽然差分隐私具有很强的对称性,Blowfish相邻关系对应于任意简单的图形,由于该框架的灵活的隐私政策。要绑定的最小熵泄漏的河豚私人机制,我们组织我们的分析对称分区对应的轨道图自同构群。一个满足我们的渐近相等界的构造证明了紧性。
2021-10-13 cs.CR cs.IT cs.LG
DP-Auditorium: a Large Scale Library for Auditing Differential Privacy
针对差分隐私机制测试缺乏灵活可扩展工具的问题,本文提出可扩展的DP-Auditorium审计库,将测试抽象为分布距离度量与相邻数据集寻优两步,提出三种带新估计保证的分布距离评估算法,实验表明需结合多种技术实现有效测试。
2023-12-18 cs.CR
Privacy in Data Service Composition
在现代信息系统中,关于同一个人的不同信息特征通常由可能具有不同隐私策略的自主数据汇集服务来收集和管理。对许多最终用户的合法查询进行认证需要集成来自多个此类服务的数据。然而,数据集成往往受到缺乏可信实体(通常称为中介)的阻碍,服务可以与之共享数据并委托执行其隐私策略。在本文中,我们提出了一个灵活的隐私保护的数据集成方法回答数据集成查询,而不需要一个可信的调解人。在我们的方法中,允许服务在本地执行其隐私政策。中介被认为是不受信任的,只能访问加密信息,以允许它在不同的服务中链接数据主体。服务,凭借一个新的隐私要求,被称为k-Protection,限制隐私泄露,不能推断有关彼此持有的数据的信息。最终用户只能访问经过隐私保护的数据。我们使用一个例子和一个来自医疗应用领域的真实数据集来评估我们的方法。结果是有前途的隐私保护和性能的角度来看。
2020-01-03 cs.CR cs.DB cs.DC
Meeting Utility Constraints in Differential Privacy: A Privacy-Boosting Approach
针对严格隐私参数下差分隐私机制难以满足效用约束的问题,提出兼容多数加噪DP机制的隐私增强框架,通过调整输出分布与方差,在满足效用要求的同时降低隐私损失,在高查询敏感度场景下效果显著。
2024-12-13 cs.CR cs.DS cs.IT
Linear and Range Counting under Metric-based Local Differential Privacy
本地差分隐私(LDP)支持私有数据共享和分析,而无需可信的数据收集器。误差最优基元(例如,估计手段和项目频率)下的LDP已经得到了很好的研究。然而,对于范围查询等分析任务,最佳已知误差范围取决于私有数据的域大小,这可能是禁止的。这种缺陷是固有的,因为LDP保护每个数据下载器的任何一对私有数据值之间的相同级别的不可复制性。在本文中,我们利用$ε$ -LDP的扩展称为Metric-LDP或$E$ -LDP,其中度量$E$为不同的私有数据值对定义异构隐私保证,从而提供比$ε$更灵活的旋钮来放松LDP并调整实用性-隐私权衡。我们表明,在这样的隐私放松,分析工作负载,如线性计数,多维范围计数查询和分位数查询,我们可以实现显着的收益效用。特别是,对于$E$ -LDP下的范围查询,其中度量$E$是由$ε$缩放的$L^1$距离函数,我们设计了具有与域大小无关的错误的机制;相反,它们的错误取决于度量$E$,其指定在什么粒度下保护私有数据。我们相信我们为$E$ -LDP设计的基元将有助于开发其他分析任务的机制,并鼓励在实践中采用LDP。
2020-05-16 cs.CR cs.DS
Certified Robustness to Adversarial Examples with Differential Privacy
Columbia University(哥伦比亚大学)
欺骗机器学习模型,特别是深度神经网络的对抗性示例一直是人们强烈研究的主题,攻击和防御都在紧密的来回发展。过去的大多数防御都是尽力而为的,并且已经被证明容易受到复杂的攻击。最近引入了一组经过认证的防御,它们提供了对范数有界攻击的鲁棒性保证,但它们要么不能扩展到大型数据集,要么在它们可以支持的模型类型方面受到限制。本文提出了第一个认证的防御,既可以扩展到大型网络和数据集(例如Google的Inception网络ImageNet),又可以广泛应用于任意模型类型。我们的防御称为PixelDP,基于对抗性示例的鲁棒性和差分隐私之间的新型联系,差分隐私是一种受密码学启发的形式主义,为防御提供了严格,通用和灵活的基础。
2019-05-29 cs.AI cs.CR cs.LG
Utility-Preserving Differentially Private Data Releases Via Individual Ranking Microaggregation
能够发布和利用信息系统中收集的开放数据对研究人员、企业和整个社会至关重要。然而,这些数据在发布之前必须匿名,以保护与记录相关的受试者的隐私。差分隐私是一种用于匿名化的隐私模型,它提供了比以前的模型(例如$k$ -匿名及其扩展)更强大的隐私保证。然而,经常被忽视的是,差分私有输出的效用是非常有限的,这是因为需要添加噪声以获得它们的量,或者因为效用仅针对受限类型和/或有限数量的查询而被保留。相反,$k$ -类似匿名的数据发布对受保护数据的使用没有任何假设,因此不会限制可行分析的数量和类型。最近,一些作者提出了机制,提供通用的不同的私人数据发布。本文扩展了这样的作品,特别注重保护数据的实用程序的保存。我们的建议建立在基于微聚合的匿名化,这是更灵活和实用性保护比文献中使用的替代匿名化方法,以减少噪音量需要满足差分隐私。通过这种方式,我们提高了差异化私有数据发布的实用性。此外,我们实现的降噪不依赖于数据集的大小,而只是取决于要保护的属性的数量,这对于大数据集来说是更可取的行为。我们的建议所带来的效用效益进行了实证评估,并与相关的工作几个数据集和指标进行比较。
2015-12-16 cs.CR
A Speech Representation Anonymization Framework via Selective Noise Perturbation
University of Southern California(南加州大学);Institute for Creative Technologies(创意技术研究所)
当将语音信号传送到诸如自动语音识别(ASR)和语音情感识别(SER)之类的云服务时,隐私和安全是主要关注点。语音匿名化的现有解决方案主要集中在语音转换或语音修改,以将原始话语转换为具有相似内容但不同或没有身份相关信息的另一个话语。然而,在隐私保护表示形式下共享语音数据的替代方法在很大程度上还未被探索。在本文中,我们提出了一个语音匿名化框架,通过噪声扰动的高效用表示使用预先训练的语音编码器提取的一个选定的子集,实现隐私。该子集使用基于transformer的隐私风险显着性估计器来选择。我们验证我们的框架上的四个任务,即自动说话人验证(ASV),ASR,SER和意图分类(IC)的隐私和效用评估。实验结果表明,与VoicePrivacy 2022挑战赛的语音匿名化基线相比,我们的方法能够实现具有竞争力甚至更好的实用性,提供相同水平的隐私。此外,易于控制的扰动量允许我们的框架具有灵活的隐私-效用权衡范围,而无需重新训练任何组件。
2022-10-28 cs.CR cs.SD eess.AS
DP$^2$-VAE: Differentially Private Pre-trained Variational Autoencoders
现代机器学习系统在大型数据集上训练时取得了巨大的成功。然而,这些数据集通常包含敏感信息(例如医疗记录、人脸图像),导致严重的隐私问题。差分私有生成模型(DPGM)通过生成私有化的敏感数据来规避这种隐私问题。与其他差分隐私(DP)学习器类似,DPGM的主要挑战也是如何在效用和隐私之间实现微妙的平衡。我们提出了DP $^2$ -VAE,一种新的训练机制变分自编码器(VAE)与可证明的DP保证和改进的效用通过\emph{pre-training on private data}。在相同的DP约束条件下,DP $^2$ -VAE最小化了训练过程中的扰动噪声,从而提高了实用性。DP $^2$ -VAE非常灵活,易于适用于许多其他VAE变体。理论上,我们研究了预训练对私有数据的影响。从经验上讲,我们对图像数据集进行了广泛的实验,以说明我们在各种隐私预算和评估指标下优于基线。
2022-11-02 cs.CR cs.LG
On Differentially Private Federated Linear Contextual Bandits
Wayne State University(韦恩州立大学);Microsoft Research(微软研究院)
本文针对差分隐私下联邦线性情境老虎机中隐私保护失效、遗憾界错误等问题,提出通用算法框架,并在本地差分隐私和shuffle模型下实现近乎最优遗憾。
2023-05-31 cs.CR cs.LG
Communication-Efficient and Privacy-Preserving Decentralized Meta-Learning
Hong Kong University of Science and Technology(香港科技大学)
针对分布式元学习中通信成本高与隐私保护需求,提出引入本地辅助参数和随机扰动的LoDMeta算法,在保证准确率与中心化方法相当的同时,实现通信高效与隐私保护。
2024-06-19 cs.CR cs.DC cs.LG
Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models
Universidad Carlos III de Madrid(卡洛斯三世大学)
针对大语言模型集成到工作流程中缺乏保障措施的风险,提出开源多智能体防火墙架构,结合浏览器扩展和代理拦截流量,通过混合方法防止数据泄漏,分层架构可跨异构环境部署,最佳配置下F1分数达94.93%。
2026-07-10 cs.AI cs.CR cs.MA
Machine Learning with Privacy for Protected Attributes
FAIR at Meta(Meta 的 FAIR 部门);NVIDIA / Cornell University(NVIDIA / 康奈尔大学)
本文提出特征差分隐私(FDP)框架,细化DP定义以仅保护受保护属性,改进DP-SGD算法,在AFHQ数据集上显著提升效用(FID从286.7降至101.9),兼顾隐私与效用。
2025-06-24 cs.CR cs.LG
Scalable Differentially Private Data Compression via Diffusion and Stochastic Codes
Imperial College London(帝国理工学院)
针对高维数据压缩难题,提出结合随机码与扩散模型的DP-DiPP压缩管道,通过扩展泊松私有表示并结合DiffC,实现差分隐私图像压缩,实验表明其性能远超基线。
2026-07-07 cs.CR cs.LG
LADFA: A Framework of Using Large Language Models and Retrieval-Augmented Generation for Personal Data Flow Analysis in Privacy Policies
Institute of Cyber Security for Society (iCSS) \& School of Computing, University of Kent Canterbury United Kingdom;Honda Research Institute Europe GmbH Germany;Institute of Cyber Security for Society (iCSS) \& School of Computing, University of Kent;Honda Research Institute Europe GmbH
LADFA利用大型语言模型和检索增强生成技术,实现对隐私政策中个人数据流的自动化分析与可视化。
2026-01-15 cs.AI cs.CR
Deep Learning Application in Security and Privacy -- Theory and Practice: A Position Paper
Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
技术正在以多种方式塑造我们的生活。这是由技术基础设施推动的,既有传统的,也有最先进的,由硬件,软件,服务和组织的异构组组成。这些基础设施的运营面临着各种各样的挑战,包括安全、隐私、弹性和服务质量。其中,网络安全和隐私占据了中心地位,特别是自《通用数据保护条例》(GDPR)生效以来。传统的安全和隐私技术已经捉襟见肘,敌对行为者已经发展到设计绕过保护的利用技术。随着技术基础设施的日益复杂,安全和隐私保护专家已经开始寻找适应性强且灵活的保护方法,这些方法可以随着敌对行为者改变其技术而演变(可能是自主的)。为此,人工智能(AI)、机器学习(ML)和深度学习(DL)被提出作为救星。在本文中,我们研究了学术和工业文献中陈述的AI,ML和DL的承诺,并评估它们的现实程度。我们还提出了潜在的挑战,基于DL的安全和隐私保护技术必须克服。最后,我们总结了DL和安全和隐私保护社区必须采取的步骤,以确保DL不仅仅是炒作,而是建立一个安全,可靠和值得信赖的技术基础设施的机会,我们可以在生活中依赖它。
2018-12-01 cs.AI cs.CR cs.LG
Blockchain in Oil and Gas Supply Chain: A Literature Review from User Security and Privacy Perspective
本文从用户安全与隐私视角综述了区块链在石油和天然气供应链中的应用,分析了124篇文献,指出尽管区块链能弥补供应链安全隐私空白,但实际集成实施仍严重不足。
2023-06-28 cs.CR cs.CY
YOU SHALL NOT COMPUTE on my Data: Access Policies for Privacy-Preserving Data Marketplaces and an Implementation for a Distributed Market using MPC
个人数据是一个有吸引力的洞察力的研究和业务的不同领域的来源。虽然我们的数据非常有价值,但它通常是隐私敏感的。因此,GDPR等法规限制了哪些数据可以合法发布,以及买家可以如何处理这些敏感数据。虽然个人数据必须受到保护,但我们仍然可以出售从我们的数据中收集的一些见解,这些见解不会损害我们的隐私。数据市场是一个平台,可以帮助用户出售他们的数据,同时帮助买家发现相关的数据集。这样一个市场面临的主要挑战是在提供有价值的数据见解与保护隐私要求之间取得平衡。私人数据市场试图通过提供个人数据的隐私保护计算来解决这一挑战。这样的计算允许在个人数据上计算统计数据或训练机器学习模型,而无需直接访问数据。然而,出售数据的用户不能限制谁可以购买或允许什么类型的计算。我们提出了一个灵活的访问控制架构的私人数据市场,可以应用到现有的数据市场,以缩小后者的差距。我们的架构使数据销售商能够定义详细的政策,限制谁可以购买他们的数据。此外,卖方可以控制特定买方可以购买数据的计算,并对其参数进行限制以减轻隐私泄露。然后,数据市场的计算系统在发起计算之前实施策略。为了证明我们的方法的可行性,我们提供了一个实施KRAKEN市场,一个分布式数据市场使用MPC。我们表明,我们的方法是实用的,因为它引入了一个可以忽略不计的性能开销,并对几个对手是安全的。
2022-06-15 cs.CR cs.DC
EFMVFL: An Efficient and Flexible Multi-party Vertical Federated Learning without a Third Party
InsightOne Tech Co, Ltd(InsightOne科技有限公司)
针对现有VFL框架依赖第三方且通信开销大或不适用于多方的问题,结合秘密共享与同态加密提出无需第三方的EFMVFL框架,支持低通信开销的多方灵活扩展,适用于广义线性模型,实验证明其安全高效。
2022-01-17 cs.CR cs.LG
Real-Time Privacy-Preserving Data Release for Smart Meters
McGill University(麦吉尔大学);CentraleSupélec(中央理工-高等电力学院);CNRS(法国国家科学研究中心);Université Paris Sud(巴黎第十一大学);Montreal Institute for Learning Algorithms (Mila)(蒙特利尔学习算法研究所);Université de Montréal(蒙特利尔大学)
智能电表(SM)能够几乎实时地与公用事业提供商共享用户的电力消耗。这些细粒度的信号携带着用户的敏感信息,从隐私的角度来看,这引起了严重的关注。在本文中,我们专注于实时隐私威胁,即,试图以在线方式从SM数据推断敏感信息的潜在攻击者。我们采用了信息理论的隐私措施,并表明它有效地限制了任何攻击者的性能。然后,我们提出了一个通用的配方来设计一个私有化机制,可以提供一个目标水平的隐私,通过添加最小量的失真的SMs测量。另一方面,为了应付不同的应用,灵活的失真措施被认为是。这个公式导致了一个通用的损失函数,它使用深度学习对抗框架进行了优化,其中两个神经网络-被称为攻击者和对手-被训练为相反的目标。一个详尽的实证研究,然后进行验证所提出的方法的性能,并比较它与国家的最先进的方法的占用检测隐私问题。最后,我们还研究了攻击者和攻击者之间数据不匹配的影响。
2021-11-25 cs.CR cs.IT cs.LG
Graphical vs. Deep Generative Models: Measuring the Impact of Differentially Private Mechanisms and Budgets on Utility
University College London(伦敦大学学院);Hazy;MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);University of California, Riverside(加州大学河滨分校)
本文对比了图模型与深度生成模型在差分隐私下的隐私预算分配方式,揭示了数据维度、DP机制对效用的影响,发现低隐私级别有时能提升泛化,为不同场景选择最佳DP合成数据模型提供了指导。
2024-08-28 cs.CR cs.LG
DecentRAN: Decentralized Radio Access Network for 5.5G and beyond
无线接入网面临着隐私和灵活的广域和局域网接入的挑战。由于蜂窝网络的集中式设计以及对用户隐私和数据安全的担忧,RAN被限制直接提供本地服务。DecentRAN或分散式无线电接入网络提供了另一种视角,以应对5G非公共网络的新兴需求以及校园网络中5GS和Wi-Fi的混合部署。从作为身份的公钥开始,以隐私保护的方式使得UE和RAN之间的独立相互认证成为可能。随着使用区块链和智能合约引入分散式架构和网络功能,DecentRAN能够为用户提供本地管理的端到端加密5G NPN,并通过校园路由器与局域网进行潜在连接。此外,还讨论了吞吐量和延迟方面的性能,为DecentRAN的部署提供了指导。
2023-03-30 cs.CR cs.NI cs.SY