Block Scrambling Image Encryption Used in Combination with Data Augmentation for Privacy-Preserving DNNs
在本文中,我们提出了一种新的可学习的图像加密方法的隐私保护深度神经网络(DNN)。该方法是在块置乱的基础上,结合随机裁剪、水平翻转和网格掩码等数据增强技术进行的。块置乱的使用增强了对各种攻击的鲁棒性,相比之下,与数据增强的组合使我们即使在使用加密图像时也能够保持高的分类精度。在图像分类实验中,该方法被证明是有效的隐私保护DNN。
2021-05-29 cs.CR eess.IV
TraVaG: Differentially Private Trace Variant Generation Using GANs
RWTH Aachen University(亚琛工业大学)
流程采矿在行业中迅速发展。因此,对过程挖掘算法使用的事件数据中包含的敏感和私人信息的隐私关注变得越来越重要。最先进的研究主要集中在提供隐私保证,例如,差分隐私,用于主进程挖掘技术所使用的跟踪变量,例如,进程发现然而,用于发布跟踪变体的隐私保护技术仍然不能满足行业规模使用的所有要求。此外,当存在高比率的不频繁的踪迹变体时,提供隐私保证仍然是一个挑战。在本文中,我们介绍了TraVaG作为一种新的方法,用于释放基于\text{Generative Adversarial Networks}(GANs)的差分私有跟踪变量,该方法提供了行业规模的好处,并在存在高比例的罕见变量时提高了隐私保证水平。此外,TraVaG克服了传统隐私保护技术的缺点,如限制变量的长度和引入假变量。在真实事件数据上的实验结果表明,该方法在隐私保证、纯数据效用保存和结果效用保存方面优于最先进的技术。
2023-03-29 cs.CR cs.LG
DP-SGD vs PATE: Which Has Less Disparate Impact on GANs?
UCL(伦敦大学学院);Hazy
生成对抗网络(GANs)是生成合成数据(尤其是图像)以用于数据共享目的的最流行的方法之一。考虑到保护原始数据中各个数据点的隐私至关重要,GANs使用具有强大隐私保证的框架进行训练,例如差分隐私(DP)。然而,这些方法在不平衡数据集的情况下,除了单一的性能指标外,仍然没有得到广泛的研究。为此,我们从两个角度系统地比较了用两个最著名的深度学习DP框架DP-SGD和PATE训练的GANs,即生成的合成数据中类的大小及其分类性能。我们的分析表明,应用PATE,类似于DP-SGD,对代表性不足/过度的类有不同的影响,但在一个更温和的幅度,使其更强大。有趣的是,我们的实验一致表明,对于PATE,与DP-SGD不同,隐私-效用权衡不是单调递减的,而是更平滑和倒U形的,这意味着增加少量的隐私实际上有助于泛化。但是,我们也确定了一些设置(例如,大的不平衡),其中PATE-GAN完全不能学习训练数据的某些子部分。
2021-11-26 cs.AI cs.CR cs.CY
Generalization in Generative Adversarial Networks: A Novel Perspective from Privacy Protection
Peking University(北京大学);Ant Financial(蚂蚁金服);IBM Research(IBM研究)
在本文中,我们的目标是从隐私保护的新角度来理解生成对抗网络(GANs)的泛化特性。理论上,我们证明了用于训练GAN的差分私有学习算法在一定程度上不会过拟合,即,泛化间隙可以是有界的。此外,最近的一些工作,如贝叶斯GAN,可以重新解释我们的理论见解的基础上,从隐私保护。定量地,为了评估训练良好的GAN模型的信息泄漏,我们对这些模型执行各种成员攻击。实验结果表明,以往的Lipschitz正则化技术不仅可以有效地减少泛化间隙,而且可以减轻训练数据集的信息泄漏。
2019-09-25 cs.CR cs.LG stat.ML
Generative Adversarial Networks: A Survey Towards Private and Secure Applications
Georgia State University(佐治亚州立大学);Shenzhen Institute of Advanced Technology, CAS(中国科学院深圳先进技术研究院)
生成对抗网络(GAN)由于其生成模型具有从现有样本分布中生成逼真示例的令人信服的能力,已经促进了计算机视觉、自然语言处理等领域的各种应用。GAN不仅在基于数据生成的任务上提供了令人印象深刻的性能,而且由于其博弈论优化策略,还刺激了面向隐私和安全的研究。遗憾的是,没有关于GAN在隐私和安全方面的全面调查,这促使本文系统地总结这些最先进的作品。根据隐私和安全功能对现有作品进行了适当的分类,并对它们的优缺点进行了全面的分析。考虑到GAN在隐私和安全方面仍处于非常初级的阶段,并提出了独特的挑战,尚未得到很好的解决,本文还揭示了一些潜在的隐私和安全应用与GAN,并阐述了一些未来的研究方向。
2021-06-07 cs.CR cs.LG
Preserving Privacy in GANs Against Membership Inference Attack
École de technologie supérieure(高等技术学院);Universidad de Buenos Aires(布宜诺斯艾利斯大学);McGill University(麦吉尔大学);ILLS - International Laboratory on Learning Systems(国际学习系统实验室);MILA - Quebec AI Institute(魁北克人工智能研究所);CNRS(法国国家科学研究中心);CentraleSupélec(巴黎中央理工-高等电力学院)
针对GAN易受成员推理攻击、现有防御方案存在合成数据质量下降或不适配小数据集的问题,提出MEGAN和MIMGAN两种防御框架,可将攻击准确率降至随机猜测水平且合成数据质量损失较小。
2023-11-06 cs.CR cs.LG eess.SP
The Elusive Pursuit of Reproducing PATE-GAN: Benchmarking, Auditing, Debugging
University College London(伦敦大学学院);SAS(SAS公司);UC Riverside(加州大学河滨分校)
本文对六个开源PATE-GAN实现进行基准测试与隐私审计,发现无一能复现原始论文的效用性能,且均存在隐私泄露,并定位了19个隐私违规和5个其他错误。
2025-02-10 cs.CR cs.LG
Vulnerabilities in the use of similarity tables in combination with pseudonymisation to preserve data privacy in the UK Office for National Statistics' Privacy-Preserving Record Linkage
在隐私保护记录联系的调查过程中,我们回顾了英国国家统计局(ONS)在其系列报告“2011年以后”中所采取的方法。我们的审查确定了一些令人关切的问题。发现的一些问题严重到足以对隐私构成风险。
2017-12-04 cs.CR
Leveraging A New GAN-based Transformer with ECDH Crypto-system for Enhancing Energy Theft Detection in Smart Grid
针对传统拆分学习在智能电网窃电检测中易受隐私泄露攻击的问题,提出基于GAN-Transformer的拆分学习框架,结合Transformer处理长依赖能力与ECDH密码系统,在保护隐私的同时提升检测准确性,实验验证其效果与传统方法相当且隐私保护更强。
2024-11-27 cs.CR
Privacy-preserving schemes for Ad Hoc Social Networks: A survey
在本文中,我们回顾了自组织社交网络(包括移动社交网络(MSN)和车载社交网络(VSN))的隐私保护方案的最新进展。具体而言,我们选择并详细研究了33个隐私保护计划的开发或应用的背景下,特设社交网络。这些计划于2008年至2016年期间公布。在此基础上,本文综述了隐私保护模型,包括位置隐私、身份隐私、匿名性、可追踪性、兴趣隐私、后向隐私和面向内容的隐私。以表格的形式总结了VSN和MSNs中最近发生的重要的隐私泄露攻击、对策和博弈论方法。此外,还概述了进一步研究的建议。通过本调查,读者可以更全面地了解ad hoc社交网络隐私保护方案的研究趋势
2016-10-19 cs.CR
Privacy Re-identification Attacks on Tabular GANs
Norwegian University of Science and Technology(挪威科技大学)
本文研究表格型 GAN 合成数据的隐私重识别攻击,分析不同攻击者知识水平下的风险,并发现黑盒访问生成模型及进化多目标优化重构攻击会显著加剧隐私泄露。
2024-03-31 cs.CR cs.LG
Protect and Extend -- Using GANs for Synthetic Data Generation of Time-Series Medical Records
University of Applied Sciences Hamm-Lippstadt(哈姆-利普施塔特应用科学大学);TU Berlin(柏林工业大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文比较多种基于 GAN 的合成数据生成模型,利用预测建模、自相关、分布分析和成员推理攻击评估时序痴呆医疗记录的生成质量与隐私风险,发现 PPGAN 在保持可接受 QoG 的同时隐私保护最优。
2024-03-01 cs.AI cs.CR cs.LG
Differentially Private GANs for Generating Synthetic Indoor Location Data
Cyberspace Research Institute, Shahid Beheshti University(沙希德·贝赫什蒂大学网络空间研究所);Open Universiteit(开放大学);School of Electrical and Computer Engineering, Shahid Beheshti University(沙希德·贝赫什蒂大学电气与计算机工程学院)
针对室内定位系统的隐私问题,提出采用差分隐私生成对抗网络(DPGANs)的框架,在真实室内定位数据集上验证了其生成隐私保护的真实合成位置数据、同时维持系统准确性的有效性。
2024-04-10 cs.AI cs.CR eess.SP
Verifiable Privacy-Preserving Member and Order Queries on a List
我们介绍了一个正式的模型,成员和顺序查询的隐私保护认证名单。在这个模型中,查询是在存储在云中的列表上执行的,其中必须维护数据的完整性和隐私。然后,我们提出了一个有效的构造的隐私保护认证列表的基础上双线性映射和双线性映射,分析了性能,并证明了这种结构的完整性和隐私广泛接受的假设。
2014-08-19 cs.CR
Privacy-Preserving Generative Models: A Comprehensive Survey
De Montfort University(德蒙福特大学);University of Basel(巴塞尔大学)
本文通过分析100篇文献,系统综述了隐私保护生成模型,提出GANs和VAEs的隐私与效用指标新分类体系,并指出当前挑战与未来研究方向。
2025-02-05 cs.CR cs.LG
Privacy Preserving PageRank Algorithm By Using Secure Multi-Party Computation
在这项工作中,我们研究了PageRank算法的隐私保护计算问题。其思想是利用Paillier方案的同态加密迭代实现算法的安全多方计算。在所提出的PageRank计算中,用户使用非对称加密方法加密自己的图数据,以隐私保护的方式将数据集发送到不同的方。每一方都计算自己的加密实体,但对其他方的数据一无所知。
2016-11-07 cs.CR
Open, privacy-preserving protocols for lawful surveillance
政府机构如何能够在不干扰无辜方的电子活动的情况下获得关于合法但未知目标的可操作的有用信息,这一问题极为重要。我们通过提供实验证据来解决这个问题,这些证据表明,确实可以以保护无辜方隐私的方式获得可操作的有用信息,并使政府机构负责。特别是,我们提出了实用的,隐私保护协议的两个操作,执法和情报机构已有效地使用:设置交集和联系人链。我们的协议的实验表明,隐私保护联系人链接可以执行3跳隐私保护图遍历,在两分钟内产生27,000个密文。这些密文可以通过隐私保护集合交集在10分钟内在总共15万个密文中找到潜在的未知目标,而不会暴露非目标的个人信息。
2016-07-13 cs.CR
Privacy-preserving Analytics for Data Markets using MPC
数据市场有潜力培育新的数据驱动型应用程序,并帮助发展数据驱动型企业。在实践中建立和部署此类市场时,欧盟《通用数据保护条例》(GDPR)等法规对这些市场施加了约束和限制,特别是在处理个人或隐私敏感数据时。在本文中,我们提出了一个候选人的隐私保护个人数据市场的架构,依赖于密码原语,如多方计算(MPC)能够执行隐私保护计算的数据。除了指定这样一个数据市场的架构,我们还提出了一个隐私风险分析的市场以下LINDDUN方法。
2021-03-05 cs.CR
Safepaths: Vaccine Diary Protocol and Decentralized Vaccine Coordination System using a Privacy Preserving User Centric Experience
在这个早期草案中,我们提出了一个端到端的去中心化协议,用于疫苗接种、疫苗接种状态验证以及不良反应或症状报告的安全和隐私保护工作流程。拟议的系统提高了效率,隐私,公平和现有的手动系统的有效性,同时保持与其功能的互操作性。我们还讨论了各种安全问题和基于拟议协议的替代方法。
2021-03-01 cs.CR
Heal the Privacy: Functional Encryption and Privacy-Preserving Analytics
安全的云存储是一个至关重要的问题,企业和最终用户在将数据移动到可能不受信任的云之前都应该考虑。将数据迁移到云会引发多个隐私问题,因为它们完全由云提供商控制。因此,不受信任的云提供商可能会侵犯用户的隐私并获得对敏感信息的访问。当云提供商需要存储统计数据库并定期发布分析时,这个问题变得更加突出。在这项工作中,我们首先提出了一个详细的例子,表明使用密码学是不够的,以确保个人的隐私。然后,我们设计了一个基于函数加密和差分隐私的混合协议,该协议允许以隐私保护的方式进行统计计算。
2022-05-06 cs.CR
Improving Correlation Capture in Generating Imbalanced Data using Differentially Private Conditional GANs
Maastricht University(马斯特里赫特大学);Institute of Data Science(数据科学研究所);Brightlands Institute of Smart Society(布赖特兰兹智能社会研究所)
尽管生成对抗网络(GANs)在文本、图像和视频方面取得了显著的成功,但由于一些独特的挑战,例如捕获不平衡数据中的依赖关系,优化合成患者数据的质量,同时保护隐私,生成高质量的表格数据仍处于开发阶段。在本文中,我们提出了DP-CCANS,一个差分私有条件GAN框架,包括数据转换,采样,调节和网络训练,以生成现实和隐私保护的表格数据。DP-CGANS区分分类和连续变量,并将它们分别转换为潜在空间。然后,我们构造一个条件向量作为额外的输入,不仅表示不平衡数据中的少数类,而且还捕获变量之间的依赖关系。在DP-CCANS的网络训练过程中,我们向梯度注入统计噪声,以提供差分隐私保证。我们在三个公共数据集和两个真实世界的个人健康数据集上使用最先进的生成模型,在统计相似性,机器学习性能和隐私测量方面对我们的模型进行了广泛的评估。我们证明了我们的模型优于其他可比模型,特别是在捕捉变量之间的依赖关系。最后,我们提出了在合成数据生成的数据效用和隐私之间的平衡,考虑到不同的数据结构和现实世界的数据集的特点,如不平衡的变量,异常分布,和稀疏的数据。
2022-06-28 cs.AI cs.CR cs.DS
Protecting Facial Privacy: Generating Adversarial Identity Masks via Style-robust Makeup Transfer
Huazhong University of Science and Technology(华中科技大学);National Engineering Research Center for Big Data Technology and System(国家大数据技术与系统工程研究中心);Hubei Engineering Research Center on Big Data Security(湖北省大数据安全工程研究中心);Deakin University(迪肯大学)
虽然深度人脸识别(FR)系统在识别和验证方面表现出惊人的性能,但它们也因其对用户的过度监视而引起隐私问题,特别是对于社交网络上广泛传播的公共人脸图像。最近,一些研究采用对抗性示例来保护照片不被未经授权的人脸识别系统识别。然而,现有的对抗性人脸图像生成方法存在视觉效果差、白盒设置、可移植性差等缺陷,难以应用于现实中的人脸隐私保护。在本文中,我们提出了对抗化妆转移GAN(AMT-GAN),一种新的人脸保护方法,旨在构建对抗人脸图像,同时保持更强的黑盒可转移性和更好的视觉质量。AMT-GAN利用生成对抗网络(GAN)来合成具有从参考图像转移的化妆的对抗面部图像。特别是,我们引入了一个新的正则化模块以及一个联合训练策略,以调和对抗性噪声和化妆转移中的周期一致性损失之间的冲突,实现攻击强度和视觉变化之间的理想平衡。大量的实验证明,与现有技术相比,AMT-GAN不仅可以保持舒适的视觉质量,而且可以实现比商业FR API更高的攻击成功率,包括Face++,阿里云和微软。
2022-03-28 cs.CR cs.CV
Towards Distributed Privacy-Preserving Prediction
在隐私保护的机器学习中,由于隐私问题,各方不愿意共享其敏感的训练数据。即使是训练的模型参数或预测也可能造成严重的隐私泄露。为了解决这些问题,我们展示了一个普遍适用的分布式隐私保护预测(DPPP)框架,在该框架中,不受信任的聚合器不会共享更敏感的数据或模型参数,而是在可证明的隐私保证下仅组合多个模型的预测。我们的框架集成了两种主要技术来保证个人隐私。首先,我们引入了改进的二项式机制和离散高斯机制来实现分布式差分隐私。其次,我们利用同态加密,以确保聚合器学习什么,但嘈杂的聚合预测。实验结果表明,我们的框架具有可比的性能,非私有的框架,并提供更好的结果比本地差分私有框架和独立的框架。
2020-09-03 cs.CR
A Privacy Preserving Collusion Secure DCOP Algorithm
近年来,一些研究提出了解决分布式约束优化问题(DCOPs)的隐私保护算法。所有这些研究都假设代理人不会串通。在这项研究中,我们提出了第一个隐私保护的DCOP算法,是免疫联盟,诚实的大多数的假设下。我们的算法- PC-SyncBB -是基于经典的分支定界DCOP算法。它提供约束、拓扑和决策隐私。我们评估其性能不同的基准,问题的大小和约束密度。我们表明,实现安全联盟是可行的。由于所有现有的隐私保护DCOP算法的基础上,他们的安全性假设单独进行的代理,我们认为这项研究是必要的第一步,解除这一潜在的有害假设,在所有这些算法。
2019-05-22 cs.CR
Attacks on a Privacy-Preserving Publish-Subscribe System and a Ride-Hailing Service
隐私保护上下文感知发布订阅系统(CA-PSS)使得中介(代理)能够基于当前上下文来匹配来自发布者的内容和订阅者的订阅,同时保护订阅和通知的机密性。而隐私保护的叫车服务(RHS)使中介(服务提供商)能够以隐私友好的方式将乘车请求与出租车司机匹配。在这项工作中,我们攻击了Nabeel等人(2013)提出的隐私保护CA-PSS,其中我们表明系统中的任何实体(包括代理)都可以了解订阅者的机密订阅。我们还攻击了Yu等人(2019)提出的一种名为lpRide的隐私保护RHS,在该RHS中,我们证明任何骑手/司机都可以有效地恢复所有其他骑手和司机的密钥。此外,我们还表明任何骑手/司机都能够了解任何骑手的位置。这些攻击是基于我们对Nabeel等人提出的修改后的Paillier密码系统的密码分析,该密码系统构成了上述两种协议的构建块。
2021-05-10 cs.CR
PP-MCSA: Privacy Preserving Multi-Channel Double Spectrum Auction
拍卖被广泛认为是动态频谱重新分配的有效方式。最近,相当多的研究工作已经致力于设计隐私保护的频谱拍卖在各种拍卖设置。然而,没有现有的工作已经解决了隐私问题,在最一般的情况下,双频谱拍卖,每个卖家出售多个频道,每个买家购买多个频道。为了填补这一空白,在本文中,我们提出了PP-MCSA,多通道双频谱拍卖的隐私保护机制。从技术上讲,通过利用乱码电路,我们设法保护多通道双频谱拍卖中卖方的请求和买方的出价的隐私。据我们所知,PP-MCSA是第一个多通道双频谱拍卖的隐私保护解决方案。我们进一步从理论上证明了PP-MCSA的隐私保证,并通过实验广泛评估其性能。实验结果表明,PP-MCSA只会引起适度的通信和计算开销。
2018-10-19 cs.CR
PrivacyGo: Privacy-Preserving Ad Measurement with Multidimensional Intersection
本文提出PrivacyGo框架,结合逆向OPRF与盲密钥轮换技术解决多标识符隐私匹配问题,并通过差分隐私机制保护交集大小,为广告测量提供可扩展的安全解决方案。
2025-06-26 cs.CR
Comments on "A Privacy-Preserving Online Ride-Hailing System Without Involving a Third Trusted Server"
最近,Xie等人(IEEE Transactions on Information Forensics and Security,vol.16,pp. 3068-3081,2021)提出了一种不使用可信第三方服务器的隐私保护在线乘车呼叫(ORH)协议。这种隐私保护ORH协议的主要目标是确保乘客和驾驶员的位置数据w.r.t. ORH服务提供商(SP)。在本文中,我们展示了谢等人协议中SP的被动攻击,使其能够完全恢复骑手的位置以及每个乘车请求查询中响应司机的位置。
2021-12-13 cs.CR
Privacy Preserving Architectures for Collaborative Intrusion Detection
多个组织之间的协作是现代入侵检测的必要条件。随着现代威胁变得越来越复杂,组织很难仅利用其网络本地的威胁上下文进行防御。全球\emph{threat intelligence}的可用性是组织防御现代高级持续威胁(APT)的必要条件。为了从这种全球范围的攻击中受益,隐私问题仍然是主要的障碍。在这份立场书中,我们将现实世界的隐私问题确定为精确的用例,相关的加密技术,并讨论用于协作入侵检测的隐私保护架构。
2016-02-08 cs.CR
Towards Better Privacy-preserving Electronic Voting System
本文提出了两种隐私保护的投票系统:盲签名投票(BSV)和同态加密投票(HEV)。BSV简单,稳定,可扩展,但在与区块链的通信中需要额外的匿名属性。HEV在保护投票隐私的同时,还能防止流量分析攻击,防止恶意投票者以高概率中断合作,但可扩展性有限。我们进一步应用采样来缓解HEV中的可扩展性问题,并在不同的投票组大小和样本数下模拟性能。
2022-05-24 cs.CR
Scalar Product Lattice Computation for Efficient Privacy-preserving Systems
隐私保护应用程序允许用户在不泄露敏感信息的情况下执行在线日常操作。保护隐私的标积算法是许多隐私应用中的关键算法之一。现有技术的隐私保护标积方案使用诸如Paillier加密的计算密集型同态(公钥)加密技术来实现强安全性(即,128位)或随机掩码技术来实现低安全性的高效率。在本文中,格结构已被利用,以开发一个有效的隐私保护系统。该方案不仅是有效的计算相比,国家的最先进的,但也提供了高度的安全性对量子攻击。严格的安全性和隐私分析所提出的方案已经提供了一套具体的参数,以实现128位和256位的安全性。性能分析表明,该计划是至少五个订单比Paillier计划,至少两倍的速度比现有的随机化技术在128位的安全性。
2020-08-20 cs.CR
Security for 4G and 5G Cellular Networks: A Survey of Existing Authentication and Privacy-preserving Schemes
本文对4G和5G蜂窝网络的现有认证和隐私保护方案进行了全面调查。我们首先概述了现有的关于4G和5G通信、应用、标准化和安全性的调查。然后,我们将4G和5G蜂窝网络中的威胁模型分为四类,包括针对隐私的攻击,针对完整性的攻击,针对可用性的攻击和针对身份验证的攻击。我们还提供了一个分类的对策分为三类,包括密码学方法,人为因素和入侵检测方法。以表格的形式总结了认证和隐私保护方案所使用的对策以及非正式和正式的安全分析技术。在对认证和隐私模型进行分类的基础上,将这些方案分为七类:带隐私的切换认证、带隐私的相互认证、带隐私的RFID认证、带隐私的可否认认证、带隐私的相互匿名认证、带隐私的认证和密钥协商以及带隐私的三因素认证。此外,我们以表格的形式提供了4G和5G蜂窝网络的认证和隐私保护方案的分类和比较。最后,本文根据调查结果提出了进一步研究的建议。
2017-08-14 cs.CR
Privacy-Preserving Machine Learning Training in Aggregation Scenarios
为了发展智慧城市,机器学习(ML)越来越受欢迎,它欣赏从各种物联网设备生成的高质量训练数据集,这就自然而然地提出了关于在这种环境中可以提供的隐私保证的问题。聚合场景中的隐私保护ML训练使模型需求者能够使用从个人IoT设备收集的敏感IoT数据安全地训练ML模型。现有的解决方案通常是服务器辅助的,无法处理服务器之间或服务器与数据所有者之间的共谋威胁,并且不匹配物联网的微妙环境。我们提出了一个名为Heda的隐私保护ML训练框架,该框架由一个基于部分同态加密(PHE)的构建块库组成,能够在不依赖不可信服务器的情况下为聚合场景构建多个隐私保护ML训练协议,并在共谋情况下保护安全性。严格的安全性分析表明,所提出的协议可以保护诚实但好奇模型中每个参与者的隐私,并在大多数共谋情况下维护安全。大量的实验验证了Heda的效率,它在不损失模型准确性的情况下实现了隐私保护的ML训练。
2020-09-21 cs.CR
A Jigsaw Puzzle Solver-based Attack on Block-wise Image Encryption for Privacy-preserving DNNs
隐私保护深度神经网络(DNN)已经被提出用于保护云服务器中的数据隐私。虽然已经提出了几种用于保护隐私的DNN的视觉保护加密方案,但一些攻击可以从加密图像中恢复视觉信息。另一方面,它已被证实,分块的图像加密方案,利用块和像素洗牌是强大的对几种攻击。在本文中,我们提出了一个拼图解决方案为基础的攻击,以恢复从加密图像,包括块和像素洗牌的视觉信息。在实验中,图像加密使用分块图像加密大多是通过使用所提出的攻击恢复。
2022-11-10 cs.CR
Privacy Preserving Association Rule Mining Revisited
隐私保护数据采掘(PPDM)是近年来研究的热点问题之一。在PPDM中,我们寻求将数据采掘任务的数据外包给第三方,同时保持其隐私。在本文中,我们修改了一个最近的PPDM方案(即,FS),该算法是为隐私保护关联规则挖掘(PP-ARM)而设计的。我们的分析表明,FS计划在其存储要求方面的一些局限性,保证了合理的隐私标准和高计算。另一方面,我们引入了一个健壮的隐私定义,该定义考虑了平均情况下的隐私,并激发了对FS结构中的弱点(即,虚假交易过滤)。为了克服这一限制,我们引入了一个混合计划,同时考虑隐私和资源的指导方针。实验结果表明,我们所提出的方案的效率比以前介绍的一个,并打开进一步发展的方向。
2008-08-23 cs.CR
Revisiting the Privacy Risks of Split Inference: A GAN-Based Data Reconstruction Attack via Progressive Feature Optimization
School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen(哈尔滨工业大学深圳学院);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
针对分割推理中间特征泄露问题,提出结合渐进式特征优化与 L1-ball 约束的 GAN 数据重构攻击,显著提升高分辨率、分布外及深层 DNN 场景下的重构效果。
2025-08-28 cs.CR cs.CV
Approximate Two-Party Privacy-Preserving String Matching with Linear Complexity
考虑想要比较其字符串的两方,例如,基因组,但不想透露给对方。我们提出了一个系统的隐私保护匹配的字符串,它不同于现有的系统提供了一个确定性的近似,而不是一个确切的距离。它是高效的(线性复杂度),非交互式的,并且不涉及第三方,这使得它特别适合于云计算。我们扩展了我们的协议,使它减轻了古德里奇提出的迭代差分攻击。此外,该系统的实现进行评估,并与当前的隐私保护字符串匹配算法进行比较。
2013-02-12 cs.CR
FL-DECO-BC: A Privacy-Preserving, Provably Secure, and Provenance-Preserving Federated Learning Framework with Decentralized Oracles on Blockchain for VANETs
本文提出FL-DECO-BC框架,结合区块链去中心化预言机与联邦学习,为VANETs提供隐私保护、可证明安全和数据来源可追溯的分布式机器学习方案。
2024-07-30 cs.CR
Adaptive Privacy-Preserving SSD
针对NAND闪存数据残留导致物联网SSD删除不彻底的问题,提出自适应隐私保护架构,通过四个隐私级别和机器学习动态调整,平衡性能与隐私,实现高效安全删除。
2025-05-30 cs.CR
Improving Utility for Privacy-Preserving Analysis of Correlated Columns using Pufferfish Privacy
调查是许多社会科学研究领域的重要工具,但隐私问题可能会使调查数据的收集和分析复杂化。对调查数据进行不同的私人分析可以解决这些问题,但代价是准确性-特别是对于高维统计数据。我们提出了一种新的隐私机制,表DDP机制,设计的高维统计不完全相关。表DDP机制满足依赖差分隐私,河豚隐私的一种变体;它的工作原理是建立敏感数据的因果模型,然后将噪声校准到统计数据之间的相关性水平。对调查数据的实证评价表明,表式DDP机制可以显着提高精度比拉普拉斯机制。
2022-09-22 cs.CR
A Secure and Privacy-preserving Protocol for Smart Metering Operational Data Collection
在本文中,我们提出了一种新的协议,允许供应商和电网运营商收集用户的聚合计量数据在一个安全和隐私保护的方式。我们使用安全多方计算来确保隐私保护。此外,我们提出了三种不同的数据聚合算法,提供不同的隐私保护和性能之间的平衡。我们的协议是专为一个现实的情况下,数据需要发送到不同的方,如电网运营商和供应商。此外,它还有助于以保护隐私的方式准确计算输电、配电和电网平衡费用。我们还提出了我们的协议的安全性分析和性能评估的基础上著名的多方计算算法实现的C++。
2019-03-14 cs.CR
An Efficient Privacy-Preserving Algorithm based on Randomized Response in IoT-based Smart Grid
在现有的隐私保护方法中,差分隐私(Differential Privacy,DP)是一种能够在统计数据库上提供隐私保护噪声查询答案的强大工具,在许多实际领域得到了广泛的应用。特别是,作为DP的隐私机器,随机聚合隐私保护有序响应(RAPPOR)为数据众包中的每个客户端字符串提供了强隐私,高效和高效用的保证。然而,对于物联网(IoT),如智能电网,数据通常是批量处理的。因此,开发一种可以支持批量处理的新随机响应算法往往比现有的随机响应算法更有效,更适合物联网应用。本文提出了一种新的随机响应算法,该算法能够实现对消费者行为的差异隐私和效用保证,并且每次处理一批数据。该算法首先通过稀疏编码,从聚合的能耗数据中创建行为特征字典。然后,通过经典的随机响应技术在行为签名字典中加入噪声,实现数据重新聚集后的差分隐私。通过差分隐私原理的安全性分析和实验结果验证,我们发现我们的算法可以在不牺牲效用的情况下保护用户的隐私。
2018-04-09 cs.CR
Privacy-preserving Cloud-based DNN Inference
深度学习即服务(DLaaS)已被深入研究,以促进新兴深度学习应用程序的更广泛部署。然而,DLaaS可能会损害客户端和云服务器的隐私。虽然已经提出了一些基于隐私保护的深度神经网络(DNN)的推理技术,但是由于DNN模型的复杂性和昂贵的密码原语,计算效率的挑战还没有得到很好的解决。在本文中,我们提出了一种新的隐私保护基于云的DNN推理框架(即“PROUD”),这大大提高了计算效率。最后,我们在两个常用的数据集上进行了大量的实验,以验证PROUD的有效性和效率,这也优于最先进的技术。
2021-02-10 cs.CR
Privacy-Preserving Maximum Matching on General Graphs and its Application to Enable Privacy-Preserving Kidney Exchange
直到今天,仍然有一些国家的法律限制多个不相容的患者-供体对之间的肾脏交换。通常情况下,这方面的法律条例是为了禁止胁迫和操纵,以防止器官交易市场。然而,在实行肾脏交换的国家,促进这种交换的现有平台通常缺乏足够的隐私机制。在本文中,我们提出了一个肾脏交换的隐私保护协议,不仅解决了现有平台的隐私问题,而且还旨在克服那些尚未实施肾脏交换的国家的法律问题。在我们的方法中,我们使用秘密共享的概念,以隐私保护的方式在一组计算对等体之间分发患者和捐赠者的医疗数据。然后,这些计算对等体相互执行我们新的安全多方计算(SMPC)协议,以确定肾脏交换的最佳集合。作为我们新协议的一部分,我们设计了一个隐私保护的解决方案,一般图上的最大匹配问题。我们在SMPC基准测试框架MP-SPDZ中实现了该协议,并提供了全面的性能评估。此外,我们分析了我们的协议的实用性时,在一个动态的设置(患者和捐赠者到达和离开随着时间的推移)的基础上,从器官共享联合网络的数据集。
2022-06-02 cs.CR
PrivacyDates: A Framework for More Privacy-Preserving Timestamp Data Types
对应用软件数据模型的案例研究表明,时间戳被过度地用于与用户活动有关的方面。这与数据最小化原则相矛盾,该原则要求对特定目的所需的数据进行限制。先前的工作也确定了时间戳的共同目的,可以通过更多的隐私保护替代方案来实现,如具有面向目的的精度的计数器和日期。在本文中,我们通过展示这些替代品的现实世界的适用性来跟进。我们设计并实现了流行的Web开发框架Django的三个时间戳替代品,并通过在项目管理应用程序Taiga中替换传统的时间戳来评估其实用性。我们发现,我们的替代品可以被采用,而不会损害泰加的功能。
2022-06-07 cs.CR
Building a RAPPOR with the Unknown: Privacy-Preserving Learning of Associations and Data Dictionaries
基于随机化响应的技术使得能够以具有强的本地差分隐私保证的隐私保护方式从客户端收集潜在敏感数据。最新的此类技术之一,RAPPOR,允许通过保护隐私的众包来估计任意一组字符串的边际频率。然而,这个原始的估计过程需要一组已知的可能字符串;在实践中,这个字典通常非常大,有时甚至完全未知。在本文中,我们提出了一种新的解码算法的RAPPOR机制,使估计“未知的未知数”,即,我们甚至不知道我们应该估计的字符串。为了使学习没有明确的知识的字典,我们开发的方法来估计两个或多个变量的联合分布与RAPPOR收集。这是理解以隐私保护方式收集的多个变量之间关系的关键一步。
2015-03-04 cs.CR
Privacy-Preserving Cloud Computing: Ecosystem, Life Cycle, Layered Architecture and Future Roadmap
隐私保护云计算是一种新兴的技术,在各个领域有着广泛的应用。云计算很重要,因为它允许可伸缩性、适应性和改进的安全性。同样,云计算中的隐私也很重要,因为它确保了存储在云上的数据的完整性保持不变。这篇关于隐私保护云计算的调查论文可以为相关领域的未来研究铺平道路。本文通过建立一个分层的架构以及一个生存周期和一个隐私保护云系统的生态系统,以及确定该领域研究的现有趋势,帮助确定现有的趋势。
2022-04-23 cs.CR cs.CY
SoK: Privacy-Preserving Order Matching
IMDEA Networks Institute(IMDEA网络研究所);École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本文对22个协议家族的隐私保护订单匹配进行系统化梳理,划分订单生命周期为四个阶段并刻画各阶段特征,分析隐私属性及相关权衡,凸显端到端隐私实现的挑战。
2026-10-12 cs.CR
LinkedIn's Audience Engagements API: A Privacy Preserving Data Analytics System at Scale
我们提出了一个隐私系统,利用差分隐私来保护LinkedIn会员的数据,同时还提供受众参与的见解,使营销分析相关的应用程序。我们详细介绍了用于提供可用于现有实时数据分析平台的结果的差异化私有算法和其他隐私保护措施,特别是与开源的Pinot系统。我们的隐私系统提供用户级别的隐私保证。作为隐私系统的一部分,我们提供了一个预算管理服务,该服务对返回给分析师的结果执行严格的差分隐私预算。该预算管理服务将差分隐私的最新研究汇集到一个产品中,以在给定固定差分隐私预算的情况下保持效用。
2020-11-16 cs.CR
Survey on Privacy-Preserving Techniques for Data Publishing
收集、处理和共享的微数据呈指数级增长,引起了人们对个人隐私的担忧。因此,出现了控制组织如何处理微数据以及如何保护微数据的法律和法规。统计披露控制旨在通过取消识别来降低机密信息披露的风险。这种去身份化通过隐私保护技术来保证。然而,去识别数据通常会导致信息丢失,可能会影响数据分析精度和模型预测性能。主要目标是保护个人隐私,同时保持数据的可解释性,即其有用性。统计披露控制是一个正在扩大和需要探索的领域,因为仍然没有保证最佳隐私和效用的解决方案。这项调查的重点是去除身份进程的所有步骤。我们提出了现有的隐私保护技术中使用的微数据去识别,隐私措施适用于几种披露类型,信息丢失和预测性能的措施。在这次调查中,我们讨论了隐私限制所带来的主要挑战,描述了处理这些障碍的主要方法,回顾了隐私保护技术的分类,对现有的比较研究进行了理论分析,并提出了多个开放问题。
2022-01-20 cs.CR
A GAN-based Approach for Mitigating Inference Attacks in Smart Home Environment
Carleton University(卡尔顿大学)
智能的、连接的、始终监听的设备的激增给灵巧家庭环境中的用户带来了重大的隐私风险。除了窃听的显著风险外,入侵者还可以采用机器学习技术从这些设备上的音频记录中推断敏感信息,从而为灵巧家庭用户带来新的隐私问题和攻击变量。诸如声音掩蔽和麦克风干扰之类的技术已经被有效地用来防止窃听者监听私人谈话。在这项研究中,我们探讨了问题的对手间谍灵巧家庭用户推断敏感信息的帮助下,机器学习技术。然后,我们分析的作用,随机性的声音掩蔽的有效性,以减轻敏感信息泄漏。我们提出了一种基于生成对抗网络(GAN)的灵巧家庭隐私保护方法,该方法生成随机噪声来扭曲不需要的基于机器学习的推理。我们的实验结果表明,GANs可用于生成更有效的声音掩蔽噪声信号,这些信号表现出更大的随机性,并有效地减轻基于深度学习的推理攻击,同时保留音频样本的语义。
2020-11-13 cs.CR cs.LG cs.NI
Five Common Misconceptions About Privacy-Preserving Internet of Things
物联网(IoT)中的数十亿设备收集有关人员的敏感数据,从而产生数据隐私风险和漏洞。因此,数据隐私保护对于维持物联网服务的扩散至关重要。特别是,隐私保护物联网连接嵌入传感器的设备,并维护人们的数据隐私。然而,物联网研究人员、服务提供商和用户对保护隐私的物联网存在普遍的误解。本文驳斥了关于隐私保护物联网的五个常见误解,包括数据感测和创新,法规和隐私保护。例如,物联网用户有一个常见的误解,即数据隐私法规不允许任何数据汇集。另一方面,物联网服务提供商通常认为数据隐私阻碍了物联网感知和创新。解决这些误解对于在保护隐私的物联网方面取得进展至关重要。本文通过真实世界的实验和在线调查研究驳斥了这些常见的误解。首先,实验表明,数据隐私不应被视为物联网的障碍,而应被视为增加客户保留和信任的机会。其次,保护隐私的物联网不仅仅是一个监管问题,也是一个必须在任何物联网设计的早期阶段纳入的功能需求。第三,人们不信任缺乏足够隐私措施的服务。第四,常规的数据安全原则不能保证数据隐私保护,即使数据被安全存储,数据隐私也可能被暴露。第五,物联网去中心化并不能实现绝对的隐私保护。
2023-01-03 cs.CR cs.NI
imdpGAN: Generating Private and Specific Data with Generative Adversarial Networks
IIIT - Delhi(德里印度理工学院)
生成对抗网络(GAN)及其变体在生成合成数据方面显示出有希望的结果。然而,GANs的问题是:(i)学习围绕训练样本进行,模型通常最终会记住它们,因此,损害了单个样本的隐私-当GANs应用于包括个人身份信息的训练数据时,这成为一个主要问题,(ii)生成数据的随机性-无法控制生成样本的特异性。为了解决这些问题,我们提出了imdpGAN -一个信息最大化差异私有生成对抗网络。它是一个端到端的框架,同时实现隐私保护和学习潜在的表示。通过在MNIST数据集上的实验,我们证明了imdpGAN保护了单个数据点的隐私,并学习了潜在代码来控制生成样本的特异性。我们对数字对进行二进制分类,以显示效用与隐私的权衡。随着我们在框架中增加隐私级别,分类精度会降低。我们还通过实验表明,imdp GAN的训练过程是稳定的,但与其他GAN框架相比,时间增加了10倍。最后,我们将imdpGAN框架扩展到CelebA数据集,以展示如何使用隐私和学习表示来控制输出的特异性。
2020-09-29 cs.AI cs.CR cs.CV
Differential Privacy in Privacy-Preserving Big Data and Learning: Challenge and Opportunity
差分隐私(Differential Privacy,DP)以其强大的保护功能和坚实的数学基础,成为隐私保护的事实标准,被广泛应用于大数据分析、图数据处理、机器学习、深度学习、联邦学习等不同领域。虽然DP已经成为一个活跃和有影响力的领域,但它并不是解决不同场景下所有隐私问题的最佳解决方案。此外,DP在具体应用中也存在一些误解、误用和巨大挑战。在本文中,我们指出了相应的研究领域的一系列限制和开放的挑战。此外,我们提供了潜在的新的见解和途径,结合差分隐私与其他有效的降维技术和安全多方计算,以明确定义各种隐私模型。
2021-12-03 cs.CR