Deep Learning with Data Privacy via Residual Perturbation
University of Utah(犹他大学);Tsinghua University(清华大学)
针对现有隐私保护深度学习机制效用损失大、计算开销高的问题,提出基于随机微分方程的残差扰动方法,向ResNets残差映射注高斯噪声,理论证明可保差分隐私、缩小泛化间隙,实验显示其效率高且效用维持优于DPSGD。
2024-08-11 cs.CR cs.CV cs.LG
A Failure-Free and Efficient Discrete Laplace Distribution for Differential Privacy in MPC
本文针对MPC分布式计算中的输出隐私问题,提出一种零失败概率的离散有界拉普拉斯扰动机制及其MPC安全实现,在提供更强差分隐私保证的同时,效率与最先进的离散高斯机制相当。
2025-03-10 cs.CR
Personalized 3D Spatiotemporal Trajectory Privacy Protection with Differential and Distortion Geo-Perturbation
China University of Mining and Technology(中国矿业大学);Hefei University of Technology(合肥工业大学);University of Padua(帕多瓦大学);Peking University(北京大学);University of Houston(休斯顿大学);Kyung Hee University(庆熙大学)
针对3D时空轨迹中攻击者利用时空相关性和高度信息导致隐私泄露的问题,提出3DSTPM机制,结合3D地理不可区分性和失真隐私,通过窗口自适应隐私预算分配和PF扰动,平衡隐私保护与服务质量。
2026-06-09 cs.CR
Stateful Switch: Optimized Time Series Release with Local Differential Privacy
时间序列数据在大数据分析中有许多应用。然而,当从个人收集时,它们往往会引起隐私问题。为了解决这个问题,大多数现有的作品扰动的时间序列中的值,同时保持其时间顺序,这可能会导致显着失真的值。最近,我们提出了TLDP模型,扰动时间扰动,以确保隐私保证,同时保持原始值。在许多时间序列分析中,它已经显示出极大的希望,以实现显着更高的效用比值扰动机制。然而,它的实用性仍然受到两个因素的影响,即额外缺失或空值的效用成本和隐私预算设置的可接受性。为了解决这些问题,在本文中,我们提出了{ \it开关}作为一个新的双向操作的时间扰动,而不是单向{ \it调度}操作。前者本质上消除了缺失、空值或重复值的成本。在{ \it stateful}方式优化开关操作的基础上,提出了在TLDP下的时间序列释放机制$StaSwitch$。通过分析和实证研究,我们表明,$StaSwitch$已公布的时间序列比任何国家的最先进的时间或值扰动机制,具有显着更高的实用程序,同时允许任何组合的隐私预算设置。
2022-12-17 cs.CR
Optimizing Noise for $f$-Differential Privacy via Anti-Concentration and Stochastic Dominance
本文为 $f$-差分隐私的加性噪声建立反集中不等式,证明规范噪声分布尾部近最优且为次指数,提出离散规范噪声分布并证明其存在性、构造方法及随机最小性,为优化隐私机制性能提供理论支撑。
2024-11-11 cs.CR math.PR math.ST
Protecting Personalized Trajectory with Differential Privacy under Temporal Correlations
本文针对车载自组织网络中轨迹隐私泄露问题,提出个性化轨迹隐私保护机制 PTPPM,利用时间相关性确定保护位置集合并结合 Permute-and-Flip 扰动机制,在满足服务质量的同时提升隐私保护效果。
2024-01-20 cs.CR
Multi-class Item Mining under Local Differential Privacy
针对现有局部差分隐私项目挖掘机制无法支持类级统计的问题,提出多类项目挖掘框架及两种扰动机制,有效减少无效数据影响并保留标签与项目关系,提升个性化任务准确性。
2025-04-18 cs.CR
MediaEval 2019: Concealed FGSM Perturbations for Privacy Preservation
Dublin City University(都柏林城市大学)
这项工作解决了MediaEval 2019提出的像素隐私任务。我们的目标是操纵图像的方式,隐藏他们从自动场景分类器,同时保持原始图像质量。我们使用快速梯度符号方法,通常有一个破坏性的影响,对图像的吸引力,并设计了两种方法,以尽量减少损害。第一种方法使用突出或平坦的像素位置的地图,并引导扰动远离它们。第二种方法从攻击模型的梯度中减去美学评估模型的梯度,以引导扰动朝向保持吸引力的方向。我们在https://git.io/JesXr上提供代码。
2019-10-25 cs.CR cs.LG
Dual Utilization of Perturbation for Stream Data Publication under Local Differential Privacy
针对本地差分隐私下流数据发布噪声过大的问题,提出扰动值双重利用方法,通过IPP、APP和CAPP算法校准噪声,在满足w-事件差分隐私的同时显著提升效用。
2025-04-21 cs.CR cs.DB
Privacy-Preserving Distributed Expectation Maximization for Gaussian Mixture Model using Subspace Perturbation
Aalborg University(奥尔堡大学)
隐私已经成为机器学习中的一个主要问题。事实上,联邦学习是出于隐私考虑,因为它不允许传输私有数据,而只允许中间更新。然而,联邦学习并不总是保证隐私保护,因为中间更新也可能泄露敏感信息。本文对高斯混合模型下的联邦期望最大化算法进行了显式的信息论分析,证明了中间更新会导致严重的隐私泄露。为了解决隐私问题,我们提出了一个完全分散的隐私保护解决方案,它能够安全地计算每个最大化步骤中的更新。此外,我们考虑两种不同类型的安全攻击:诚实但好奇和窃听对手模型。数值验证表明,该方法具有优越的性能相比,现有的方法在准确性和隐私级别。
2022-09-16 cs.CR cs.LG
Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations
Linköping University(林雪平大学)
在本文中,我们考虑隐私方面的无线联邦学习(FL)与无线(OTA)传输的梯度更新从多个用户/代理到边缘服务器。通过利用多址信道的波形叠加特性,OTA FL使用户能够使用线性处理技术同时发送他们的更新,这提高了资源效率。然而,这种设置容易受到隐私泄漏,因为对手节点可以直接听到未编码的消息。传统的基于扰动的方法提供了隐私保护,同时由于降低的信噪比而牺牲了训练精度。在这项工作中,我们的目标是最大限度地减少隐私泄漏到对手和模型的准确性在边缘服务器在同一时间的退化。更明确地说,空间相关的扰动被添加到传输之前在用户处的梯度向量。使用相关扰动的零和属性,可以最小化添加的扰动对边缘服务器处的聚合梯度的副作用。同时,增加的扰动不会被对手抵消,这防止了隐私泄露。对扰动协方差矩阵、差分隐私和模型收敛性进行了理论分析,在此基础上提出了联合设计协方差矩阵和功率缩放因子的优化问题,以平衡隐私保护和收敛性能。仿真结果验证了相关扰动方法在保证较高学习精度的同时,具有较强的防御能力。
2022-10-05 cs.CR cs.IT cs.LG
Cape: Context-Aware Prompt Perturbation Mechanism with Differential Privacy
TikTok(抖音)
针对 LLM 推理中敏感提示泄露与效率、隐私、效用难以兼顾的问题,本文提出基于差分隐私的上下文感知扰动机制 Cape,通过混合效用函数和分桶采样改善隐私—效用权衡。
2025-05-15 cs.CR cs.LG
Perturbation Methods for Protection of Sensitive Location Data: Smartphone Travel Survey Case Study
基于智能手机的出行数据汇集已成为交通系统分析的重要工具。近年来,随着各国政府的“开放数据倡议”寻求允许公众使用这些数据,并希望能够将他们的调查结果和分析贡献给公共领域,对共享旅行调查数据的兴趣越来越普遍。公开发布此类精确信息,特别是居住地等位置数据,会带来侵犯隐私的风险。同时,为了使这些数据有用,尽可能多的空间分辨率对于交通应用和出行需求建模中的效用是期望的。本文评估了地理随机扰动方法(即地理不可测性和甜甜圈geomask)在保护受访者的隐私,其住宅位置可能会被公布。我们测量位置隐私方法的性能,保存的效用和随机性的扰动距离的分布与不同的参数。结果发现,这两种方法产生的空间扰动分布,符合密切共同的概率分布,因此,可以推断出的原始位置与信息少,精度高。还发现,虽然实现的K-估计匿名性与所需的匿名性的甜甜圈geomask线性增加,地理不可侵犯性是高度依赖于其隐私预算因子(ESTA),并不是很有效地确保所需的实现的K-估计匿名性。
2019-08-12 cs.CR
Privacy- and Utility-Preserving Textual Analysis via Calibrated Multivariate Perturbations
Amazon(亚马逊)
准确地从用户数据中学习,同时提供可量化的隐私保证,这为在维护用户信任的同时构建更好的ML模型提供了机会。本文提出了一种形式化的方法来进行隐私保护文本扰动使用的概念dx隐私设计,以实现地理位置数据的不可否认性。我们的方法适用于仔细校准的噪音,以向量表示的话,在一个高维空间定义的词嵌入模型。我们提出了一个隐私证明,满足DX隐私的隐私参数提供保证相对于由词嵌入空间定义的距离度量。我们演示了如何通过分析GloVe和fastText嵌入的大规模分析支持的似是而非的可否认性统计数据来选择。我们对2个基线模型进行隐私审计实验,并在3个数据集上进行效用实验,以证明不同任务类型上不同值的隐私和效用之间的权衡。我们的研究结果证明了实用性(训练二进制分类器的效用损失< 2%),同时提供了比基线模型更好的隐私保证。
2019-10-20 cs.CL cs.CR cs.LG
On the connection between the ABS perturbation methodology and differential privacy
本文探讨了澳大利亚统计局(ABS)的扰动方法和差分隐私(DP)框架之间的分析联系。我们考虑一个单一的静态计数查询功能,并找到了解析形式的扰动分布与对称支持的ABS扰动方法。然后,我们分析测量的DP参数,即$(\varepsilon, δ)$对,在此设置下的ABS扰动方法。关于$(\varepsilon, δ)$相对于扰动支持和方差的行为所获得的结果和见解被用于明智地选择扰动分布的方差,以针对给定的期望$\varepsilon$和扰动支持在DP框架中给出良好的$δ$。最后,我们提出了一个简单的采样方案来实现ABS Cellkey方法中的扰动概率矩阵。后采样$(\varepsilon, δ)$对作为Cellkey大小的函数进行数值分析。结果表明,最好的结果是获得一个较大的Cellkey大小,因为$(\varepsilon, δ)$对后采样措施保持几乎相同,当我们比较采样和理论结果。
2023-03-24 cs.CR cs.IT math.IT
Optimal Noise-Adding Mechanism in Additive Differential Privacy
Google AI(谷歌人工智能)
在一般的代价最小化框架下,我们推导出了最优的$(0, δ)$ -差分私有查询输出无关噪声添加机制。在较温和的技术条件下,我们证明了最优噪声概率分布是一个在原点具有概率质量的均匀分布。我们明确地推导出一般$\ell^p$成本函数,包括$\ell^1$(噪声幅度)和$\ell^2$(噪声功率)成本函数的最佳噪声分布,并表明发生在原点的概率集中时,$δ> \frac{p}{p+1}$。我们的研究结果表明,在现有的高斯机制的改进的两个和三个因素的$(0,δ)$ -差分隐私在高隐私制度的背景下,最大限度地减少噪声幅度和噪声功率,和增益是更明显的低隐私制度。我们的结果是一致的$(0,δ)$ -差分隐私在离散设置的现有结果,并确定在连续设置的概率集中现象。
2019-02-05 cs.CR cs.LG
TextCrafter: Optimization-Calibrated Noise for Defending Against Text Embedding Inversion
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院)
TextCrafter通过结合强化学习、几何感知噪声和聚类先验,提出一种优化校准的噪声机制,有效防御文本嵌入反向攻击并平衡隐私与任务效用。
2026-01-22 cs.CR
Third Party Privacy Preserving Protocol for Perturbation Based Classification of Vertically Fragmented Data Bases
隐私是分布式数据采掘中的主要问题。在文献中我们可以发现许多隐私保护的建议,这些建议可以分为两大类,即可信第三方和基于多方的隐私协议。在可信第三方模型的情况下,将使用传统的基于非对称密码的技术,并且在基于多方的协议的情况下,数据被扰动以确保没有其他方理解原始数据。为了结合两种模型的优点来增强安全特性,本文提出在第三方隐私保护协议中使用数据扰动技术对垂直碎片数据库进行分类。特别地,我们提出了一种方法来建立朴素贝叶斯分类伪装和分散的数据库。为了进行分类,我们提出了第三方协议的安全计算。我们进行实验,以比较我们的朴素贝叶斯的准确性与从原始的未伪装的数据。我们的结果表明,虽然数据是伪装和分散的,我们的方法仍然可以达到相当高的准确性。
2013-04-24 cs.CR cs.DB
Federated Learning with Sparsified Model Perturbation: Improving Accuracy under Client-Level Differential Privacy
University of Nevada, Reno(内华达大学雷诺分校);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
联邦学习(FL)使边缘设备能够协作地学习共享模型,同时将其训练数据保持在本地,近来受到了极大的关注,并且与传统的集中式学习范式相比,它可以保护隐私。然而,关于训练数据的敏感信息仍然可以从FL中共享的模型参数中推断出来。差分隐私(DP)是防御这些攻击的最新技术。在FL中实现DP的关键挑战在于DP噪声对模型精度的不利影响,特别是对于具有大量参数的深度学习模型。本文提出了一种新的差分私有FL方案Fed-SMP,它在保持高模型精度的同时提供了客户端级的DP保证。为了减轻隐私保护对模型准确性的影响,Fed-SMP利用了一种名为稀疏模型扰动(SMP)的新技术,在该技术中,本地模型在被高斯噪声扰动之前首先被稀疏化。我们提供了一个紧密的端到端的隐私分析Fed-SMP使用Renyi DP,并证明了收敛的Fed-SMP与无偏和有偏稀疏。在真实数据集上进行了大量的实验,以证明Fed-SMP在提高模型精度的同时,具有相同的DP保证和节省通信成本的有效性。
2022-11-15 cs.CR cs.LG
Amplitude-Varying Perturbation for Balancing Privacy and Utility in Federated Learning
Data61, CSIRO(联邦科学与工业研究组织数据61所);Nanjing University of Science and Technology(南京理工大学);Princeton University(普林斯顿大学)
在保护联邦学习(FL)的隐私的同时,差分隐私(DP)不可避免地降低了效用(即,由于DP噪声引起的模型扰动而导致的FL的精度)增加到模型更新。现有的研究只考虑了持续均方根振幅的噪声,忽略了调整振幅以减轻噪声的不利影响的机会。本文提出了一种新的DP扰动机制与时变的噪声幅度保护隐私的FL和保持调整学习性能的能力。具体来说,我们提出了一个几何级数形式的噪声幅度和揭示分析的依赖性的一系列的全球聚合的数量和$(ε,δ)$ -DP的要求。我们推导出一个在线细化的系列,以防止FL过早收敛过度扰动噪声造成的。另一个重要的方面是一个上限开发的损失函数的多层感知器(MLP)训练FL运行新的DP机制。相应地,获得全局聚合的最佳数目,平衡学习和隐私。使用MLP,支持向量机和卷积神经网络模型在四个公共数据集上进行了广泛的实验。新的DP机制的隐私保护FL的收敛性和准确性的贡献得到证实,相比,国家的最先进的高斯噪声机制与持续的噪声幅度。
2023-03-07 cs.CR cs.LG cs.PF
GCON: Differentially Private Graph Convolutional Network via Objective Perturbation
针对图卷积网络在差分隐私下训练导致消息聚合失真和效用降低的问题,提出GCON,通过目标函数扰动保持图卷积过程不变,提供紧致敏感度界限,在边差分隐私下实现更优模型效用。
2025-01-30 cs.CR
Noise Addition for Individual Records to Preserve Privacy and Statistical Characteristics: Case Study of Real Estate Transaction Data
本文提出了一种新的方法,通过加入噪声来扰动主变量,从而使回归分析的结果不受影响。可以使用单个参数来控制扰动的程度,这简化了实际扰动应用。数值实验的结果的基础上,我们建议一个适当的值的参数,可以实现足够的扰动,以掩盖原始值和扰动和原始数据之间的足够的一致性。
2015-08-07 cs.CR stat.ME
Quantifying Classifier Utility under Local Differential Privacy
Rochester Institute of Technology(罗切斯特理工学院)
本文提出了一种统一框架,用于在局部差分隐私下量化分类器效用,通过将LDP扰动视为集中区域内的鲁棒性分析,提升效用评估的准确性。
2026-02-28 cs.CR
A Differentially Private Framework for Deep Learning with Convexified Loss Functions
Macquarie University(麦考瑞大学);Defence Science & Technology Group(国防科学技术集团)
差分隐私(DP)已被应用于深度学习中,用于保护底层训练集的隐私。现有的动态规划方法可分为三类:目标扰动、梯度扰动和输出扰动.他们面临三个主要问题。首先,目标函数的条件限制了一般深度学习任务中的目标扰动。第二,梯度扰动没有实现令人满意的隐私效用的权衡,由于在每个时期的过度注入噪声。第三,由于作为噪声尺度参数的训练模型参数的全局灵敏度的上界较松,不能保证输出扰动方法的高效用。为了解决这些问题,我们分析了模型参数全局灵敏度的更严格上限。在黑盒设置下,基于这种全局灵敏度,为了控制整体噪声注入,我们提出了一种新的输出扰动框架,通过将DP噪声注入到用凸化损失函数训练的基线非私有神经网络的输出层的随机采样神经元中(通过指数机制)。我们经验比较隐私效用权衡,衡量的准确性损失基线非私人模型和隐私泄漏对黑盒成员推断(MI)攻击,我们的框架和开源的差分私人随机梯度下降(DP-SGD)的方法在六个常用的现实世界的数据集。实验评估表明,当基线模型有可观察到的隐私泄漏MI攻击下,我们的框架实现了更好的隐私效用权衡比现有的DP-SGD实现,给定的整体隐私预算$ε\leq 1$大量的查询。
2022-04-03 cs.CR cs.LG
A Speech Representation Anonymization Framework via Selective Noise Perturbation
University of Southern California(南加州大学);Institute for Creative Technologies(创意技术研究所)
当将语音信号传送到诸如自动语音识别(ASR)和语音情感识别(SER)之类的云服务时,隐私和安全是主要关注点。语音匿名化的现有解决方案主要集中在语音转换或语音修改,以将原始话语转换为具有相似内容但不同或没有身份相关信息的另一个话语。然而,在隐私保护表示形式下共享语音数据的替代方法在很大程度上还未被探索。在本文中,我们提出了一个语音匿名化框架,通过噪声扰动的高效用表示使用预先训练的语音编码器提取的一个选定的子集,实现隐私。该子集使用基于transformer的隐私风险显着性估计器来选择。我们验证我们的框架上的四个任务,即自动说话人验证(ASV),ASR,SER和意图分类(IC)的隐私和效用评估。实验结果表明,与VoicePrivacy 2022挑战赛的语音匿名化基线相比,我们的方法能够实现具有竞争力甚至更好的实用性,提供相同水平的隐私。此外,易于控制的扰动量允许我们的框架具有灵活的隐私-效用权衡范围,而无需重新训练任何组件。
2022-10-28 cs.CR cs.SD eess.AS
Elliptical Perturbations for Differential Privacy
本文研究了局部凸向量空间中的椭圆分布,确定了它们满足差分隐私(DP)的条件。一个必要的条件,净化的统计摘要,以满足DP的是,相应的隐私机制必须诱导等效的措施,所有可能的输入数据库。我们证明了具有相同色散算子$C$的椭圆分布是等价的,如果它们的均值差位于$C$的Cameron-Martin空间中。在使用椭圆扰动释放有限维投影的情况下,我们表明,隐私参数$\ep$可以计算在一维最大化问题。我们应用这个结果来考虑多变量拉普拉斯,$t$,高斯,和$K$ -范数噪声。令人惊讶的是,我们表明,多变量拉普拉斯噪声不实现$\ep$ -DP在任何尺寸大于一个。最后,我们表明,当空间的维数是无限的,没有椭圆分布可以用来给$\ep$ -DP,只有$(ε,δ)$ -DP是可能的。
2021-05-05 cs.CR math.ST stat.TH
On privacy preserving data release of linear dynamic networks
动态网络中的分布式数据共享无处不在。当数据接收者是恶意的或通信信道不安全时,动态网络的私有信息可能会被泄露。在本文中,我们提出故意扰动的输入和输出的线性动态系统,以保护隐私的目标初态和输入从释放的输出。我们制定的扰动设计问题作为一个最优化问题,最大限度地减少所增加的扰动所造成的成本,同时保持系统的可控性,并确保隐私。我们分析了最优化问题的计算复杂性。为了最小化附加扰动的$\ell_0$和$\ell_2$范数,我们推导出它们的凸松弛,可以有效地解决。所提出的技术的有效性进行了验证的案例研究的供暖,通风和空调系统。
2019-12-16 cs.CR math.OC
An Accuracy-Lossless Perturbation Method for Defending Privacy Attacks in Federated Learning
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Peng Cheng Laboratory(鹏城实验室);School of Computer and Information Engineering, Zhejiang Gongshang University(浙江工商大学计算机与信息工程学院);Information Security and National Computing Grid Laboratory, Southwest Jiaotong University(西南交通大学)
虽然联邦学习通过交换局部梯度或参数而不是原始数据来提高训练数据的隐私性,但攻击者仍然可以通过发起重建和成员推断攻击来利用局部梯度和参数来获得局部训练数据。为了防御这种隐私攻击,人们设计了许多噪声扰动方法(如差分隐私或CountSketch矩阵)。然而,这些方案的强大防御能力和高学习准确性无法同时得到保证,这将阻碍FL在实践中的广泛应用(特别是对于既要求高准确性又要求强隐私保障的医疗或金融机构)。为了克服这个问题,在本文中,我们提出了\emph{an efficient model perturbation method for federated learning},以防御重建和成员推断攻击发起的好奇的客户端。一方面,与差分隐私方法类似,该方法也将随机数作为扰动噪声加入到全局模型参数中,因此该方法非常有效,易于在实践中集成。同时,随机选取的噪声为正实数,其值可以任意大,从而保证了较强的防御能力。另一方面,不同于差分隐私或其他扰动方法,不能消除添加的噪声,我们的方法允许服务器通过消除添加的噪声来恢复真实的梯度。因此,我们的方法根本不会影响学习的准确性。
2021-08-15 cs.CR cs.CV cs.LG
FLDP: Flexible strategy for local differential privacy
局部差分隐私(LDP)是一种利用无偏统计估计代替真实数据的技术,在数据汇集中经常被采用。特别地,该技术与频率预言器(FO)一起使用,因为它可以保护每个用户的隐私并防止敏感信息的泄漏。然而,LDP的定义是如此保守,以至于它要求所有输入在扰动后是不可区分的。事实上,LDP保护每个值;然而,由于其准确性方面的成本,它很少在实际场景中使用。在本文中,我们解决的挑战,提供削弱,但灵活的保护,每个值只需要是不可区分的扰动后的域的一部分。首先,我们提出这个削弱但灵活的自民党(FLDP)概念。然后,我们证明了与LDP和DP的关联。其次,我们设计了一个FHR的方法,为共同的FO问题,同时满足FLDP。所提出的方法平衡了通信成本、计算复杂性和估计精度。最后,使用实际数据集和合成数据集的实验结果验证了我们的方法的有效性和效率。
2022-03-28 cs.CR
Differentially Private Aggregated Mobility Data Publication Using Moving Characteristics
随着智能手机和定位应用的快速发展,位置隐私越来越受到人们的关注。直觉上,人们普遍认为,可以通过发布聚合的移动数据来保护位置隐私,例如某个时间某个区域中的用户数量。然而,最近的一次攻击表明,这些聚合的移动数据可以用来恢复个人轨迹。在本文中,我们首先提出了两个不同的私人基本方案的聚合移动数据发布,即直接扰动和阈值扰动,保护用户的位置隐私,特别是抵抗轨迹恢复攻击。然后,研究了移动用户的移动特性,根据移动用户的移动特性,将两种基本方案结合起来,设计了一种改进方案--静态混合扰动方案。由于静态混合扰动只适用于静态数据,这是完全可用的发布前,我们进一步调整静态混合扰动相结合的线性回归,并产生另一种改进方案称为动态混合扰动。动态混合扰动也适用于动态数据,动态数据在发布期间动态生成。隐私分析表明,所提出的方案实现了差分隐私。在模拟数据集和真实数据集上的大量实验表明,所有提出的方案都能很好地抵抗轨迹恢复攻击,改进方案的性能明显优于基本方案。
2019-08-10 cs.CR cs.DB
Low-Complexity Cloud Image Privacy Protection via Matrix Perturbation
云辅助图像服务广泛用于各种应用。由于现有图像加密技术的高计算复杂性,为资源受限的智能设备提供隐私保护的图像服务极具挑战性。在本文中,我们提出了一种新的加密云辅助图像服务方案,称为eCIS。eCIS的关键思想是将高计算成本转移到云端,从而降低资源受限设备上编码器和解码器的复杂性。这是通过压缩感知(CS)技术,与现有的方法相比,我们能够实现隐私保护在没有额外的传输成本。特别是,我们设计了一个加密矩阵,同时照顾图像压缩和加密。因此,我们的设计目标是最小化原始图像和加密图像的互信息。除了理论分析,证明了我们的系统的安全性和复杂性,我们还进行了大量的实验,以评估其性能。实验结果表明,eCIS能有效保护图像隐私,满足用户自适应的安全需求。与现有的基于CS的图像处理方法相比,eCIS将系统开销减少了多达$4.1\times\sim6.8\times$。
2014-12-18 cs.CR cs.NI
Privately Publishable Per-instance Privacy
UC Santa Barbara(加州大学圣巴巴拉分校)
我们考虑如何私人共享客观扰动所造成的个性化隐私损失,使用每实例差分隐私(pDP)。标准的差分隐私(DP)给了我们一个最坏情况的界限,可能是一个数量级以上的隐私损失到一个特定的个人相对于一个固定的数据集。pDP框架为目标个人提供了更细粒度的隐私保证分析,但每个实例的隐私丢失本身可能是敏感数据的函数。在本文中,我们分析了每一个实例的隐私损失释放一个私人的经验风险最小化学习通过客观扰动,并提出了一组方法,私人和准确地公布的pDP损失很少或没有额外的隐私成本。
2021-11-03 cs.CR cs.LG stat.ML
Optimizing the Privacy-Utility Balance using Synthetic Data and Configurable Perturbation Pipelines
Head of AI - Architecture & Strategy(人工智能架构与战略负责人);Head of Data & Analytics - North America(数据与分析负责人(北美));CTO Office - North America(北美首席技术官办公室)
本文提出利用GANs、上下文感知PII转换、可配置统计扰动和差分隐私等现代合成数据生成与扰动技术,在BFSI等数据敏感行业中优化隐私保护与数据效用平衡,提升运营效率并降低监管风险。
2025-04-24 cs.AI cs.CL cs.CR
Differentially Private Games via Payoff Perturbation
在本文中,我们研究了网络游戏中的球员参与信息聚合过程受差分隐私要求球员的支付功能。我们提出了一个拉普拉斯线性二次函数扰动机制,该机制用线性二次函数扰动参与者的支付函数,其系数由截断拉普拉斯分布产生。对于单调的游戏,我们表明,LLQFP机制保持的扰动支付函数和产生一个扰动NE的距离从原来的NE是有界的和可调的拉普拉斯参数调整的PURPOSE属性。我们专注于线性二次游戏,这是一个基本类型的网络游戏,玩家的收益是线性二次函数,并推导出明确的条件如何LLQFP机制,确保差分隐私与给定的隐私预算。最后,数值例子验证了LLQFP机制的优点。
2023-03-14 cs.CR cs.GT
Privacy-Utility Trade-off in Data Publication: A Bilevel Optimization Framework with Curvature-Guided Perturbation
University of Technology Sydney(悉尼技术大学)
针对数据发布中隐私保护与数据效用难以平衡的问题,提出一种带曲率引导扰动的双层优化框架,通过上下层任务交替优化实现二者协同,在提升抗成员推断攻击能力的同时,样本质量与多样性优于现有方法。
2025-09-02 cs.AI cs.CR cs.LG
GAP: Differentially Private Graph Neural Networks with Aggregation Perturbation
Idiap Research Institute(伊迪亚普研究所);EPFL(洛桑联邦理工学院);The Alan Turing Institute(艾伦·图灵研究所);Inria(法国国家信息与自动化研究所)
本文研究了具有差分隐私(DP)的图神经网络(GNNs)的学习问题。我们提出了一种基于聚合扰动(GAP)的新的差分私有GNN,它向GNN的聚合函数添加随机噪声,以在统计上混淆单个边缘(边缘级隐私)或单个节点及其所有相邻边缘(节点级隐私)的存在。GAP的新架构针对私有学习的具体情况进行了调整,由三个独立的模块组成:(i)编码器模块,我们在不依赖于边信息的情况下学习私有节点嵌入;(ii)聚合模块,我们基于图结构计算有噪声的聚合节点嵌入;以及(iii)分类模块,其中我们在私有聚集上训练神经网络以用于节点分类,而不进一步查询图边。GAP与以前的方法相比的主要优点是,它可以受益于多跳邻域聚合,并保证边缘级和节点级DP不仅用于训练,而且在推理时没有超出训练隐私预算的额外成本。我们使用Rényi DP分析了GAP的正式隐私保证,并在三个真实世界的图数据集上进行了实证实验。我们证明了GAP比最先进的DP-GNN方法和基于朴素MLP的基线提供了更好的准确性-隐私权衡。我们的代码可在https://github.com/sisaman/GAP上公开获取。
2022-11-18 cs.CR cs.LG
Monitoring Large Crowds With WiFi: A Privacy-Preserving Approach
提出了一种基于被动探测请求的人群监控系统。该系统符合严格的隐私要求,适合监控至少有数百名与会者的活动或建筑物。我们提出了我们的计数过程和相关的数学模型。从这个模型中,我们得到了一个浓度不等式,突出了我们的人群计数估计的准确性。然后,我们描述我们的系统。我们提出并讨论了我们的传感器硬件,我们的计算系统架构,我们的计数算法的有效实现-以及它的空间和时间复杂性。我们还展示了我们的系统如何确保监控区域内人员的隐私。最后,我们验证我们的系统使用九个星期的数据,从公共图书馆赋予基于摄像头的计数系统,它产生计数,我们比较我们的计数系统。这项比较从经验上量化了我们的点票系统的准确性,从而表明它适合用于监测公共场所。同样,浓度不等式提供了系统的理论验证。
2022-02-18 cs.AR cs.CR cs.SY
Privacy-preserving Distributed Machine Learning via Local Randomization and ADMM Perturbation
State Key Lab. of Industrial Control Technology, Zhejiang University(浙江大学工业控制技术国家重点实验室);Dept. of Computer Science, Tokyo Institute of Technology(东京工业大学计算机科学系)
随着训练数据的激增,分布式机器学习(DML)越来越适合大规模学习任务。然而,在DML中必须优先考虑隐私问题,因为训练数据可能包含用户的敏感信息。在本文中,我们提出了一个隐私保护的ADMM为基础的DML框架有两个新的功能:首先,我们删除了文献中常见的假设,用户信任的服务器收集他们的数据。其次,该框架根据数据的敏感级别和服务器的信任度为用户提供异构隐私。具有挑战性的问题是保持ADMM迭代中隐私损失的累积最小。在该框架中,采用局部随机化方法,这是差异隐私,为用户提供自我控制的隐私保证的最敏感信息。此外,ADMM算法的扰动,通过一个组合的噪声添加方法,这同时保留用户的敏感信息的隐私,并加强了最敏感信息的隐私保护。根据训练模型的泛化误差,对训练模型的性能进行了详细的分析。最后,我们使用真实世界的数据集进行了广泛的实验,以验证理论结果,并评估所提出的框架的分类性能。
2019-09-09 cs.CR cs.DC cs.LG
Differentially Private Multivariate Time Series Forecasting of Aggregated Human Mobility With Deep Learning: Input or Gradient Perturbation?
Inria(法国国家信息与自动化研究所);École Polytechnique (IPP)(巴黎综合理工学院(巴黎理工学院));Femto-ST Institute(弗朗什-孔泰电子、力学、热学与光学科学技术研究所);Univ. Bourg. Franche-Comté(勃艮第-弗朗什-孔泰大学);UBFC(勃艮第-弗朗什-孔泰大学联盟);CNRS(法国国家科学研究中心);Orange Applications For Business(Orange商业应用公司);Orange Labs.(奥兰治实验室);Antonine University Hadat-Baabda(哈达特-巴卜达安东尼大学);National University of Singapore(新加坡国立大学)
本文研究的问题,预测多变量聚集的人的流动性,同时保护有关个人的隐私。差分隐私是一种最先进的形式化概念,在训练深度学习模型时,已在两个不同且独立的步骤中用作隐私保证。一方面,我们考虑了\textit{gradient perturbation},它使用差分隐私随机梯度下降算法来保证每个时间序列样本在学习阶段的隐私性。另一方面,我们考虑了\textit{input perturbation},它在应用任何学习之前在序列的每个样本中添加了差分隐私保证。我们比较了四种最先进的递归神经网络:长短期记忆,门控递归单元,以及它们的双向架构,即,Bidirectional-LSTM和Bidirectional-GRU我们使用真实世界的多变量移动数据集进行了广泛的实验,该数据集与本文一起公开发表。如结果所示,在梯度或输入扰动下训练的差异私有深度学习模型实现了与非私有深度学习模型几乎相同的性能,性能损失在$0.57\%$到$2.8\%$之间变化。本文的贡献对于参与城市规划和决策的人员具有重要意义,通过差异化私人深度学习模型为人类流动性多变量预测问题提供了解决方案。
2022-06-03 cs.CR cs.LG
Differentially Private Empirical Risk Minimization
University of California, San Diego(加州大学圣地亚哥分校);Columbia University(哥伦比亚大学)
隐私保护机器学习算法对于分析个人数据(如医疗或财务记录)的日益常见的环境至关重要。我们提供了一般的技术来产生隐私保护近似的分类器通过(正则化)经验风险最小化(ERM)学习。根据Dwork等人(2006)的$ε$ -差分隐私定义,这些算法是私有的。首先,我们将Dwork et al.(2006)的输出扰动思想应用于ERM分类。在此基础上,提出了一种新的隐私保护机器学习算法设计方法--目标扰动法。这种方法需要在优化分类器之前扰动目标函数。如果损失和正则化满足一定的凸性和可微性标准,我们证明了理论结果表明,我们的算法保持隐私,并提供线性和非线性内核的泛化范围。我们进一步提出了一种隐私保护技术,用于调整一般机器学习算法中的参数,从而为训练过程提供端到端的隐私保证。我们应用这些结果来产生隐私保护的正则化逻辑回归和支持向量机的类似物。我们从真实的人口和基准数据集上评估他们的表现,获得了令人鼓舞的结果。我们的研究结果表明,无论是理论上和经验上,客观扰动优于以前的国家的最先进的,输出扰动,在管理隐私和学习性能之间的固有权衡。
2011-02-16 cs.AI cs.CR cs.DB
Zero-shot Class Unlearning via Layer-wise Relevance Analysis and Neuronal Path Perturbation
School of Information Engineering, Zhongnan University of Economics and Law(信息工程学院,中南财经政法大学);China University of Geosciences, Wuhan(中国地质大学(武汉));City University of Macau(澳门城市大学)
本文提出基于层级相关性分析与神经元路径扰动的零样本类别遗忘方法,通过识别并扰动高相关神经元,在保护隐私的同时保持模型效用。
2025-06-20 cs.CR cs.LG
Data Masking with Privacy Guarantees
Oregon State University(俄勒冈州立大学);Samsung Research(三星研究院);SRI international(斯坦福国际研究院)
我们研究的问题,数据发布的隐私,数据提供的隐私保证,同时保持尽可能高的数据的可用性-这是很重要的医疗保健和其他领域的敏感数据。特别是,我们提出了一种方法,屏蔽隐私数据的隐私保证,同时确保分类器训练的掩蔽数据是类似的分类器训练的原始数据,以保持可用性。分析了该方法与传统输入摄动法的理论风险。实验结果表明,该方法与输入扰动相比具有较低的风险,尤其是在训练样本数较大时。在$12$基准数据集上,我们说明了所提出的隐私敏感学习数据屏蔽方法的有效性。
2019-01-08 cs.CR cs.LG stat.ML
From Randomized Response to Randomized Index: Answering Subset Counting Queries with Local Differential Privacy
针对本地差分隐私中值扰动导致效用下降的问题,提出对值索引随机化的CRIAD方法,用于回答集合值数据上的子集计数查询,通过多虚拟项、多样本和多组策略实现可扩展性,并在准确性和隐私保障上优于现有方法。
2025-04-24 cs.CR cs.DB
Adversarial Image Perturbation for Privacy Protection -- A Game Theory Perspective
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
用户喜欢通过社交媒体与他人分享个人照片。与此同时,他们可能想让这些照片中的自动识别变得困难甚至不可能。经典的模糊处理方法,如模糊处理,不仅令人不快,而且也不像人们期望的那样有效。对抗性图像扰动(AIP)的最新研究表明,它是可能的,没有令人不快的伪影,有效地混淆识别系统。然而,在存在针对AIP的反措施的情况下,尚不清楚AIP的有效性,特别是在反措施的选择未知的情况下。博弈论提供了工具来研究代理之间的相互作用与不确定性的战略。我们介绍了一个一般的游戏理论框架的用户识别器的动态,并提出了一个案例研究,涉及目前最先进的AIP和个人识别技术。我们推导出最佳的策略,为用户,确保上界的识别率独立的识别器的反措施。代码可在https://goo.gl/hgvbNK上获得。
2017-07-26 cs.CR cs.CV cs.GT
Trajectory Data Collection with Local Differential Privacy
针对现有本地差分隐私轨迹采集方法隐私保障不严或依赖外部知识的问题,提出利用轨迹相邻方向信息、满足纯ε-LDP的扰动机制,还提出基于锚点的自适应区域限制方法,在不违隐私约束的前提下提升了性能。
2023-07-22 cs.CR cs.DB
Conformal-DP: A Density-Aware Mechanism for Differential Privacy over Riemannian Manifolds via Conformal Transformation
University of Pittsburgh(匹兹堡大学)
本文提出 Conformal-DP 机制,通过 conformal 变换在黎曼流形上实现密度感知的差分隐私,改进隐私-效用权衡。
2026-11-04 cs.CR math.DG stat.OT
Differentially Private EEG Feature Anonymization: A Privacy-Utility Case Study in Clinical Neurophysiology
University of South-Eastern Norway(东南挪威大学)
本研究针对临床EEG特征匿名化,提出基于高斯和拉普拉斯扰动的受试者级差分隐私框架,评估三种部署场景,揭示隐私与效用间的权衡及小样本不平衡数据的挑战。
2026-09-11 cs.CR cs.LG eess.SP
Differentially Private Confidence Intervals for Empirical Risk Minimization
The Pennsylvania State University(宾夕法尼亚州立大学);University of Georgia(佐治亚大学)
差分隐私数据采掘的过程中产生的结果受到两种类型的噪声的影响:由于数据汇集和隐私噪声,旨在防止重建的敏感信息采样噪声。在本文中,我们考虑的问题,设计各种不同的私人机器学习模型的参数的置信区间。该算法可以提供置信区间,满足差分隐私(以及最近提出的集中差分隐私),并可以与现有的差分隐私机制,训练模型使用目标扰动和输出扰动。
2018-04-11 cs.CR cs.LG stat.ML
Enhancing Scalability of Metric Differential Privacy via Secret Dataset Partitioning and Benders Decomposition
University of North Texas(北得克萨斯大学)
针对 LP 求解 mDP 时变量规模爆炸的问题,提出基于秘密数据集划分与 Benders 分解的两阶段计算框架,并在多类数据集上验证其更优的可扩展性与效率。
2024-05-09 cs.AI cs.CR
Differential Privacy via Distributionally Robust Optimization
Imperial College Business School, Imperial College London(伦敦帝国理工学院商学院,伦敦帝国理工学院);Antai College of Economics and Management, Shanghai Jiao Tong University(上海交通大学安泰经济与管理学院)
本文通过将差分隐私机制设计转化为无限维分布鲁棒优化问题,利用强对偶性开发出具有非渐近无条件最优性保证的扰动机制,并借助切割平面技术高效求解,数值实验显示其优于现有最佳结果。
2024-12-17 cs.CR cs.LG math.OC
What Does the Server See? Understanding Privacy Leakage from Large Language Models in Split Inference
East China Normal University(华东师范大学);RMIT University(皇家墨尔本理工大学)
提出ActInv方法解决中间激活匹配问题以重建客户端输入,并引入扰动放大因子(PAF)量化层固有抗重建能力,揭示隐私脆弱性在层间不均匀分布,进而设计PriPert防御策略。
2026-05-22 cs.CL cs.CR cs.LG
A Differentially Private Text Perturbation Method Using a Regularized Mahalanobis Metric
Amazon Alexa(亚马逊 Alexa)
平衡隐私-效用权衡是许多处理敏感客户数据的实用机器学习系统的关键要求。隐私保护文本分析的一种流行方法是噪声注入,其中文本数据首先映射到连续的嵌入空间,通过从适当的分布中采样球形噪声来扰动,然后投影回离散的词汇空间。虽然这允许扰动允许所需的度量差分隐私,但是通常在该扰动数据上建模的下游任务的效用是低的,因为球形噪声不考虑嵌入空间中不同单词周围的密度的可变性。特别是,即使噪声尺度很大,稀疏区域中的单词也可能不变。%使用该机制的全局敏感性可能会在嵌入空间的密集区域中向单词添加太多噪声,导致高效用损失,而使用局部敏感性可能会通过添加的噪声的规模泄漏信息。在本文中,我们提出了一个文本扰动机制的基础上精心设计的正则化变体的马氏度量来克服这个问题。对于任何给定的噪声尺度,该度量添加椭圆噪声以说明嵌入空间中的协方差结构。沿着不同方向的噪声尺度的这种异质性有助于确保稀疏区域中的单词具有足够的替换可能性,而不会牺牲整体效用。我们提供了一个文本扰动算法的基础上,这个度量和正式证明其隐私保证。此外,我们的经验表明,我们的机制提高了隐私统计,以实现相同水平的效用相比,国家的最先进的拉普拉斯机制。
2020-10-22 cs.CL cs.CR cs.LG
Breaching Euclidean Distance-Preserving Data Perturbation Using Few Known Inputs
我们研究欧氏距离保持数据扰动作为一种工具,隐私保护数据采掘。这种扰动允许许多重要的数据采掘算法(例如,分层和k均值聚类)仅进行微小修改就被应用于扰动数据,并且产生与应用于原始数据完全相同的结果。然而,原始数据的隐私保护程度如何的问题需要仔细研究。我们在这项研究中假设一个攻击者的角色武装了一小部分已知的原始数据元组(输入)。当已知的原始元组的数量小于数据维度的数量时,很少有研究这种攻击的工作。我们专注于这个重要的情况下,开发和严格分析的攻击,利用任何数量的已知的原始元组。该方法允许攻击者估计与每个扰动元组相关联的原始数据元组,并计算估计导致隐私泄露的概率。在一个真实的16维数据集上,我们证明了攻击者,用4个已知的原始元组,可以估计一个原始的未知元组,误差小于7%,概率超过0.8。
2013-01-02 cs.CR cs.DB
Spectral-DP: Differentially Private Deep Learning through Spectral Perturbation and Filtering
Lehigh University(理海大学);University of Connecticut(康涅狄格大学)
针对DP-SGD加噪导致深度学习效用损失大的问题,提出结合谱域梯度扰动与谱滤波的Spectral-DP方法,适配含卷积和全连接层的架构,在基准数据集上的两类训练场景中效用均优于现有最优DP-SGD方法。
2023-07-25 cs.CR cs.CY cs.LG