PrivDiffuser: Privacy-Guided Diffusion Model for Data Obfuscation in Sensor Networks
University of Alberta（阿尔伯塔大学）
PrivDiffuser提出基于去噪扩散模型的数据混淆方法，通过互信息正则化引导生成，在三个真实数据集上优于现有技术，降低效用损失1.81%和隐私损失3.42%，并支持用户无需重训即可定制隐私需求。
2025-08-05 cs.CR cs.LG
CLOAK: Contrastive Guidance for Latent Diffusion-Based Data Obfuscation
University of Alberta（阿尔伯塔大学）
针对数据混淆问题，提出基于潜在扩散模型的Cloak框架，用对比学习提取解纠缠表示，指导潜在扩散过程平衡隐私与效用。实验表明该框架优于现有技术，能降低效用和隐私损失，适合资源受限环境。
2026-07-24 cs.CR cs.LG
FedPass: Privacy-Preserving Vertical Federated Deep Learning with Adaptive Obfuscation
Webank（微众银行）；HKUST（香港科技大学）
垂直联邦学习（VFL）允许具有标记特征的主动方利用被动方的辅助特征来提高模型性能。在VFL的训练和推理过程中，私有特征和标签泄漏问题引起了广泛的研究关注。在本文中，我们提出了一个通用的隐私保护垂直联邦深度学习框架FedPass，它利用自适应混淆来同时保护特征和标签。从理论上证明了私有特征和标签的强隐私保护能力（定理1和定理2）。不同数据集和网络架构的广泛实验结果也证明了FedPass相对于现有方法的优越性，因为它在隐私和模型性能之间接近最佳的权衡。
2023-01-31 cs.CR cs.DC cs.LG
User Customizable and Robust Geo-Indistinguishability for Location Privacy
由现有系统生成的用于确保位置隐私的位置混淆功能是单一的，并且不允许用户定制其混淆范围。这可能导致用户被映射到不期望的位置（例如，阴暗的街区）到位置请求服务。修改由用户侧的集中式服务器生成的混淆函数可能导致隐私性差，因为原始函数对这种更新不鲁棒。用户本身可能会发现理解模糊机制中涉及的参数很有挑战性（例如，位置表示的混淆范围和粒度），因此难以在隐私、实用性和定制之间设置现实的折衷。在本文中，我们提出了一个新的框架称为，CORGI，即，CustOmizable鲁棒的地理不可侵犯性，它生成的位置模糊功能对用户自定义是鲁棒的，同时基于地理不可侵犯性范式提供强大的隐私保证。CORGI利用给定区域的树表示来帮助用户指定他们的隐私和定制要求。CORGI的服务器端将这些需求作为输入，并生成一个模糊函数，该函数满足Geo-Incredibility需求，并且对用户端的定制具有鲁棒性。混淆函数被返回给用户，用户然后可以选择更新混淆函数（例如，混淆范围、位置表示的粒度）。在真实数据集上的实验结果表明，CORGI可以有效地产生混淆矩阵，更强大的用户定制。
2022-10-01 cs.CR
Privacy engineering through obfuscation
本文针对混淆技术在隐私工程中作用不明、评估度量缺乏统一认知的问题，提出通用分析框架，区分两类评估方式与两种混淆类型，明确了隐私-效用权衡的相关规律。
2023-08-24 cs.CR cs.IT math.IT
Image Obfuscation for Privacy-Preserving Machine Learning
当将机器学习（ML）模型的训练外包给提供机器学习服务的基于云的平台时，隐私成为一个至关重要的问题。虽然已经开发了基于加密原语的解决方案，但它们在准确性或训练效率方面会造成重大损失，并且需要对后端架构进行修改。我们在本文中解决的一个关键挑战是设计图像混淆方案，这些方案提供足够的隐私，而不会显着降低ML模型的准确性和训练过程的效率。在这项工作中，我们解决了另一个挑战，一直持续到目前为止：量化的程度提供的隐私视觉模糊机制。我们比较了最先进的全参考质量指标的能力，以符合人类受试者的混淆程度引入了一系列的技术。通过依赖用户调查和两个图像数据集，我们表明，两个现有的图像质量指标也非常适合根据人类主体以及基于AI的识别来衡量隐私水平，因此可以用于量化混淆导致的隐私。随着量化隐私的能力，我们表明，我们可以提供足够的隐私保护的训练图像集的成本只有几个百分点的准确性损失。
2020-10-20 cs.CR
Privacy Games: Optimal User-Centric Data Obfuscation
在本文中，我们设计了以用户为中心的混淆机制，施加最小的效用损失，以保证用户的隐私。我们优化效用的联合保证差分隐私（不可否认性）和失真隐私（推理错误）。这种双重保护屏蔽通过混淆机制和后验推理限制了信息泄漏。我们表明，通过联合差分失真机制对最优攻击实现的隐私是一样大的最大隐私，可以通过这些机制分别实现。它们的效用成本也不大于差分或失真机制所施加的成本。我们将优化问题建模为混淆机制的设计者与潜在对手之间的领导者-追随者博弈，并设计自适应机制来预测和保护最优推理算法。因此，混淆机制对于任何推理算法都是最佳的。
2015-05-27 cs.CR cs.GT
Author Obfuscation Using Generalised Differential Privacy
混淆的问题，作者的文本文件已很少受到关注的文献。目前的方法是特设的，并依赖于假设对手的辅助知识，这使得它很难推理这些方法的隐私属性。差分隐私是一种众所周知的和强大的隐私方法，但它依赖于数据集之间的邻接概念，阻碍了其应用到文本文档隐私。然而，广义差分隐私允许应用程序的差分隐私任意数据集赋予一个度量，并已被证明的问题，涉及个人数据点的释放。在本文中，我们将展示如何应用广义差分隐私，作者混淆利用现有的工具和方法，从文体学和自然语言处理文献。
2018-05-22 cs.CR
A Stackelberg Game Perspective on the Conflict Between Machine Learning and Data Obfuscation
数据是新的石油;这句话在互联网跟踪、机器学习和数据分析时代被广泛重复。社会网络分析、基于cookie的广告和政府监控都是数据用于商业和国家利益的证据。然而，公众要求保护隐私的压力越来越大。诸如差分隐私之类的框架提供了机器学习算法方法来保证对信息披露的限制，但它们很少被实施。然而，最近，开发人员已经做出了巨大的努力，通过混淆工具来破坏跟踪，这些工具将用户特征隐藏在噪音的海洋中。这些服务凸显了跟踪和数据混淆之间的冲突。在本文中，我们通过用户之间的动态博弈和机器学习算法，使用经验风险最小化概念化这种冲突。首先，机器学习器声明一个隐私保护级别，然后用户通过选择自己的扰动量来做出响应。我们使用Stackelberg游戏研究用户和学习者之间的互动。效用函数使用预期损失和隐私在差分隐私的界限方面量化准确性。在均衡中，我们发现自私的用户往往会造成显着的效用损失，跟踪器的扰动严重，在一个现象让人想起公共利益的游戏。然而，跟踪器可以通过主动干扰数据本身来改善平衡。虽然在这一领域的其他工作已经研究了隐私市场和机制设计的真实报告的用户信息，我们采取了不同的观点，考虑用户和学习者的扰动。
2016-08-10 cs.CR cs.LG
Improving Bitswap Privacy with Forwarding and Source Obfuscation
本文研究在 IPFS 的 Bitswap 协议中引入转发与来源混淆以增强隐私，实验显示涓流扩散可将来源预测准确率降至 40%，并在短距离场景下仍可能保持较快的内容获取速度。
2023-07-07 cs.CR
Obfuscation of Images via Differential Privacy: From Facial Images to General Images
由于图像捕获设备在日常生活中的普遍性，个人的图像被常规地捕获。虽然这带来了许多好处，但它也侵犯了个人隐私。人脸图像模糊处理的一个很有前途的研究方向是k-相同的方法，它采用了数据库隐私的k-匿名的概念。然而，有一些缺陷的k-匿名性，结转到k-相同的方法，减损其实用性在实践中。在本文中，我们首先概述了这些不足之处，并讨论了它们的影响，在面部模糊的背景下。然后，我们开发了一个框架，通过该框架，我们获得了一个正式的差分私人担保生成机器学习模型中的面部图像的混淆。我们的方法提供了一个可证明的隐私保证，是不容易受到所概述的缺陷的k-相同的混淆，并产生照片般逼真的混淆输出。此外，我们通过实验比较表明，我们的方法可以实现可比的效用K-相同的混淆在图像中的有用功能的保存。此外，我们提出了一种方法来实现任何图像的差分隐私（即，不限于面部图像）。虽然将噪声添加到像素强度并不提供经由生成机器学习模型获得的高视觉质量，但它通过消除对训练模型的需要而提供更大的通用性。我们表明，我们提出的使用指数机制在这种情况下，能够提供优越的视觉质量，像素空间混淆使用拉普拉斯机制。
2021-02-19 cs.CR
Privacy-preserving Machine Learning through Data Obfuscation
Princeton University（普林斯顿大学）
随着机器学习成为一种实践和商品，许多基于云的服务和框架被提供来帮助客户开发和部署机器学习应用。虽然将模型训练和服务任务外包到云中很普遍，但重要的是要保护训练数据集中敏感样本的隐私，并防止信息泄露给不受信任的第三方。过去的研究表明，恶意的机器学习服务提供商或最终用户可以很容易地从模型参数甚至只是模型输出中提取关于训练样本的关键信息。在本文中，我们提出了一种新的和通用的方法来保护隐私的训练数据在机器学习应用程序。具体来说，我们引入了一个模糊函数，并在将训练数据馈送到模型训练任务之前将其应用于训练数据。此函数向现有样本添加随机噪声，或使用新样本扩充数据集。通过这样做，隐藏了关于单个样本的属性或一组样本的统计属性的敏感信息。同时，从混淆数据集训练的模型仍然可以达到很高的准确率。通过这种方法，客户可以安全地向第三方提供商或最终用户披露数据或模型，而无需担心数据隐私。我们的实验表明，这种方法可以有效地击败现有的四种类型的机器学习隐私攻击在可以忽略不计的准确性成本。
2018-07-13 cs.CR cs.LG
Privacy-Preserving Obfuscation of Critical Infrastructure Networks
Georgia Institute of Technology（佐治亚理工学院）
本文研究了如何发布关于关键基础设施网络的数据（例如，电力网或运输网），而不公开可被恶意代理利用的敏感信息，同时保持网络的真实性。它提出了一种新的混淆机制，将几个隐私保护构建块与双层优化模型相结合，以显着提高准确性。模糊评估现实主义和隐私属性的真实能源和交通网络。实验结果表明，混淆机制大大降低了利用发布的数据来破坏真实网络的攻击的潜在危害。
2019-05-24 cs.AI cs.CR
Obfuscation in Bitcoin: Techniques and Politics
在加密货币比特币中，所有交易都记录在区块链中-一个公共的，全球的，不可变的分类账。由于交易是公开的，比特币及其用户采用模糊处理来保持一定程度的金融隐私。关键的是，与混淆的典型用途相反，在比特币中，混淆并不是针对系统设计者，而是通过设计来实现的。我们将16种针对比特币的隐私保护技术映射到一个模糊与密码学轴，并发现那些在实践中使用的倾向于混淆。我们认为，这导致了隐私和监管接受之间的平衡。
2017-06-29 cs.CR cs.CY
PromptPET: Privacy-Utility Optimized Prompt Obfuscation
University of California, Irvine（加州大学 Irvine 分校）；Washington University in St. Louis（圣路易斯华盛顿大学）
旨在通过用户端机制保护用户隐私，该机制转换用户提示中的敏感信息，在保护隐私和保留效用间权衡。考虑评估比较四种混淆动作，提出基于大语言模型的PROMPTPET，优于现有方法。
2026-07-07 cs.AI cs.CR cs.HC
HARPO: Learning to Subvert Online Behavioral Advertising
University of Southern California（南加州大学）；University of California, Davis（加州大学戴维斯分校）
在线行为广告和相关的跟踪工具构成了真正的隐私威胁。不幸的是，现有的隐私增强工具并不总是有效地对抗在线广告和跟踪。我们提出了Harpo，一种基于学习的原则性方法，通过混淆来颠覆在线行为广告。Harpo使用强化学习自适应地将真实页面访问与虚假页面交织在一起，以扭曲跟踪器对用户浏览配置文件的视图。我们根据真实世界的用户分析和用于在线行为广告的广告定位模型来评估Harpo。结果表明，Harpo通过触发超过40%的不正确兴趣段和6倍高的出价值来提高隐私。对于相同的开销，Harpo比现有的混淆工具性能高出16倍。Harpo还能够实现比现有混淆工具更好的对抗性检测。Harpo在利用模糊处理颠覆在线行为广告方面有意义地推进了最先进的技术
2021-11-24 cs.CR cs.LG
Time-Efficient Locally Relevant Geo-Location Privacy Protection
针对现有线性规划地理混淆方法决策变量爆炸、实用性不足的问题，提出LR-Geo机制，通过限定局部相关计算范围、本地计算系数上传、结合指数混淆机制与Benders分解，在保证隐私的同时提升效率与效用。
2024-12-14 cs.CR
Fundamental Limits of Obfuscation for Linear Gaussian Dynamical Systems: An Information-Theoretic Approach
New York University（纽约大学）
在本文中，我们研究的基本限制混淆的隐私失真权衡线性高斯动力系统通过信息论的方法。特别是，我们得到的分析公式，捕捉基本的隐私失真权衡时，隐私掩码被添加到动态系统的输出，同时明确指出如何设计的隐私掩码在一个最佳的方式：隐私掩码应该是彩色高斯与功率谱形状具体基于系统和噪声属性。
2020-10-29 cs.CR cs.IT cs.LG
Evaluating Differential Privacy Against Membership Inference in Federated Learning: Insights from the NIST Genomics Red Team Challenge
NIST（美国国家标准与技术研究院）
本文评估差分隐私在联邦学习中对抗成员推断攻击的效果，提出堆叠攻击策略，并在不同隐私配置下验证其性能。
2026-04-15 cs.CR cs.LG
A Utility-Preserving Obfuscation Approach for YouTube Recommendations
该研究针对现有YouTube推荐混淆方法隐私增强时效用下降的问题，提出带去噪器的De-Harpo混淆方法，在同等隐私水平下效用保留能力达现有最优方法的2倍，兼具隐蔽性与反混淆鲁棒性。
2023-06-16 cs.CR
Gradient Obfuscation Gives a False Sense of Security in Federated Learning
North Carolina State University（北卡罗来纳州立大学）；Zhejiang University（浙江大学）
联邦学习已经被提出作为一种隐私保护的机器学习框架，它使多个客户端能够在不共享原始数据的情况下进行协作。然而，客户端隐私保护在此框架中的设计并不保证。先前的工作表明，联邦学习中的梯度共享策略可能容易受到数据重建攻击。然而，在实践中，考虑到高通信成本或由于隐私增强要求，客户端可能不发送原始梯度。经验研究表明，梯度混淆，包括通过梯度噪声注入的有意混淆和通过梯度压缩的无意混淆，可以提供更多的隐私保护以对抗重建攻击。在这项工作中，我们提出了一个新的数据重建攻击框架，针对图像分类任务的联邦学习。我们发现，通常采用的梯度后处理程序，如梯度量化，梯度稀疏化，梯度扰动，可能会给联邦学习一个虚假的安全感。与以前的研究相反，我们认为，隐私增强不应该被视为梯度压缩的副产品。此外，我们设计了一种新的方法，在所提出的框架下，在语义级重建图像。我们量化的语义隐私泄漏，并与传统的基于图像相似性得分。我们的比较挑战文献中的图像数据泄漏评估方案。结果强调了在现有的联邦学习算法中重新访问和重新设计客户端数据隐私保护机制的重要性。
2022-10-14 cs.AI cs.CR cs.DC
LATTEO: A Framework to Support Learning Asynchronously Tempered with Trusted Execution and Obfuscation
Saint Louis University（圣路易斯大学）；New Mexico State University（新墨西哥州立大学）；Intel Labs（英特尔实验室）
针对异步联邦学习中的梯度泄漏隐私风险，提出结合梯度混淆与可信执行环境的LATTEO框架，并设计基于多授权方属性基加密的数据中心远程证明机制，显著降低数据重建相似性并提升证明效率。
2025-02-07 cs.CR cs.LG
Technical Report for the Forgotten-by-Design Project: Targeted Obfuscation for Machine Learning
RISE Research Institutes of Sweden（瑞典RISE研究所）
本文提出“被遗忘设计”方法，在训练中通过定向混淆保护隐私，相比机器遗忘更主动，实验表明可大幅降低隐私风险并保持模型性能。
2025-01-20 cs.AI cs.CR cs.LG
Privacy for Fairness: Information Obfuscation for Fair Representation Learning with Local Differential Privacy
HKUST（香港科技大学）；ShanghaiTech University（上海科技大学）；Data61, CSIRO（Data61 联邦科学与工业研究组织数据61分部）
本文提出基于信息瓶颈和局部差分隐私的信息混淆理论框架，通过变分表示编码方法在保护隐私的同时实现公平表示学习，并经实验验证其有效性。
2024-02-16 cs.CR cs.IT cs.LG
FedAdOb: Privacy-Preserving Federated Deep Learning with Adaptive Obfuscation
WeBank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）；University of Electronic Science and Technology of China（电子科技大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出了一种名为 FedAdOb 的自适应混淆机制，通过基于护照的自适应混淆保护私有数据，在水平和垂直联邦学习中实现了隐私保护与模型性能的更优权衡。
2024-06-03 cs.AI cs.CR
A Developer-Friendly Library for Smart Home IoT Privacy-Preserving Traffic Obfuscation
在过去的几年里，互联网连接设备的数量和种类大幅增长，对安全和隐私提出了新的挑战。研究表明，网络攻击者可以使用来自消费者物联网设备的流量率元数据来推断敏感的用户活动。塑造流量以适应独立于用户活动的分布可以保护隐私，但由于需要开发人员的努力和开销带宽成本，这种方法很少被采用。在这里，我们为物联网开发人员提供了一个Python库，可以轻松地将隐私保护流量整形集成到他们的产品中。该库通过有效负载填充、碎片和随机覆盖流量的组合自动混淆设备流量模式，从而取代了标准网络功能。我们的库成功地保护了用户隐私，并且对于具有低发送速率或高延迟容限的物联网设备，需要大约4 KB/s的开销带宽。考虑到美国家庭的正常互联网速度，这种开销是合理的，并且是对现有解决方案带宽要求的改进。
2018-08-22 cs.CR
Geo-MOEA: A Multi-Objective Evolutionary Algorithm with Geo-obfuscation for Mobile Crowdsourcing Workers
移动互联网和共享经济的快速发展带来了空间众包的繁荣。SC应用根据任务请求者和外包工人（如滴滴、美团和Uber）上报的位置信息分配各种任务。然而，SC服务器通常不值得信赖，并且暴露用户的位置会引起隐私问题。在本文中，我们设计了一个框架称为Geo-MOEA（多目标进化算法与地理混淆），以保护在移动网络环境中的工作人员参与SC平台的位置隐私。我们提出了一种自适应的区域化混淆方法与推理误差界的基础上的地理不可侵犯性（一个强的概念，差分隐私），这是适合于大规模的位置数据和任务分配的情况下。这使得每个工作者能够报告利用个性化推断误差阈值自适应地生成的伪位置。此外，作为一种流行的计算智能方法，MOEA被引入到SC服务可用性和隐私保护之间的权衡优化，同时确保理论上的最一般的条件下保护位置集更大的搜索空间。最后，在两个公共数据集上的实验结果表明，我们的Geo-MOEA方法在保证差分和地理失真位置隐私的同时，实现了高达20%的服务质量损失减少。
2022-11-17 cs.CR
Bit-ViP: Leveraging Bit-planes to Preserve Visual Privacy in Images through Obfuscation
提出基于位平面的图像混淆方案Bit-ViP，通过端到端混淆函数结合混沌系统和差分隐私生成不可逆噪声，在保护隐私的同时保持图像可用性，在UCF101和HMDB51数据集上验证了有效性。
2026-06-28 cs.CR cs.CV cs.ET
Genomic Data Sharing under Dependent Local Differential Privacy
保护隐私的基因组数据共享对于加快基因组研究的步伐，从而为个性化基因组医学铺平道路是非常重要的。在本文中，我们引入（$ε, T$）依赖的本地差分隐私（LDP）的隐私保护相关数据的共享，并提出了一个基因组数据共享机制下的隐私定义。我们首先指出LDP的原始定义不适合基因组数据共享，然后提出了一种新的基因组数据共享机制。该机制考虑了数据共享过程中数据之间的相关性，预先消除统计上不可能的数据值，并相应地调整每个共享数据点的概率分布。通过这样做，我们表明，我们可以避免攻击者推断的正确值的共享数据点，利用数据中的相关性。通过调整每个数据点的共享状态的概率分布，我们还提高了数据收集器的共享数据的效用。此外，我们开发了一个贪心算法，战略性地确定处理顺序的共享数据点的目的是最大限度地利用共享数据。考虑到在共享基因组数据时相互依赖的隐私风险，我们还通过观察基因组供体的扰动数据来分析攻击者关于供体家庭成员的基因组的信息增益，并且我们提出了一种选择隐私预算的机制（即，LDP的$ε$参数）。我们对现实生活中的基因组数据集的评估结果表明，所提出的机制相比，随机响应机制（广泛使用的技术，以实现LDP）的优越性。
2021-02-15 cs.CR
Channel Leakage, Information-Theoretic Limitations of Obfuscation, and Optimal Privacy Mask Design for Streaming Data
New York University（纽约大学）
在本文中，我们首先引入了信道泄漏的概念，作为信道输入和信道输出之间的最小互信息。正如其名称所示，信道泄漏量化了对恶意接收器的最小信息泄漏。从广义上讲，它可以被看作是信道容量的双重概念，它表征了到目标接收机的最大信息传输。我们得到明确的公式的信道泄漏的情况下，白色高斯，有色高斯的情况下，和衰落的情况下。然后，我们利用这一概念调查的基本限制混淆的隐私失真权衡（以及隐私权权衡）的流数据，特别是，我们推导出分析权衡方程的固定的情况下，非固定的情况下，和有限时间的情况下。我们的研究结果还明确指出，如何设计的隐私面具在一个最佳的方式。
2020-09-29 cs.CR cs.IT cs.LG
Local Distribution Obfuscation via Probability Coupling
AIST（产业技术综合研究所）
本研究提出局部分布混淆通用模型，将分布隐私推广至散度形式，证明f-散度隐私下噪声需与推土机距离成正比，还提出耦合机制，利用辅助信息在保障隐私的同时优化数据效用。
2019-09-30 cs.CR cs.DB cs.IT
A Stackelberg Game Perspective on the Conflict Between Machine Learning and Data Obfuscation
New York University（纽约大学）
数据是新的石油;这句话在互联网跟踪、机器学习和数据分析时代被广泛重复。然而，随着数据汇集变得越来越个人化和普遍化，公众要求保护隐私保护的压力也越来越大。在这种氛围下，开发人员已经创建了应用程序，以向跟踪算法可见的用户属性添加噪声。当维护隐私和提高准确性的激励措施不一致时，这就在跟踪者和用户之间建立了一种战略互动。在本文中，我们通过一个N+1-玩家，增广Stackelberg游戏概念化这种冲突。首先，机器学习器声明一个隐私保护级别，然后用户通过选择他们自己的扰动量来做出响应。我们使用差分隐私和经验风险最小化的一般框架来量化的效用组件，由于隐私和准确性，分别。在平衡中，每个用户独立地干扰她的数据，这导致准确性的高净损失。为了补救这种情况下，我们表明，学习者提高了他的效用，主动扰动自己的数据。虽然在这一领域的其他工作已经研究了隐私市场和机制设计的真实报告的用户信息，我们采取了不同的观点，考虑用户和学习者的扰动。
2016-12-08 cs.CR cs.GT cs.LG
On the differential privacy of dynamic location obfuscation with personalized error bounds
本文分析了动态位置混淆机制 PIVE 的差分隐私缺陷，证明其无法在自适应保护位置集上提供所声称的隐私保证，并提出修正方法并分析其隐私特性与优缺点。
2022-06-30 cs.CR cs.DB
A Mean-Field Stackelberg Game Approach for Obfuscation Adoption in Empirical Risk Minimization
由于在线跟踪、可穿戴计算和物联网的发展，数据生态系统变得越来越大、越来越复杂。但隐私问题正威胁着这些系统的潜在好处。最近，用户已经开发出了模糊技术，这些技术可以发布虚假的搜索引擎查询，破坏位置跟踪算法或逃避政府监视。有趣的是，这些技术引发了两个冲突：一个是每个用户和跟踪用户的机器学习算法之间的冲突，另一个是用户本身之间的冲突。在本文中，我们使用博弈论捕捉的第一个冲突与Stackelberg游戏和第二个冲突的平均场游戏。我们结合成一个动态的和战略的双层框架，量化的准确性，使用经验的风险最小化和隐私使用差分隐私。在平衡中，我们确定了必要和充分条件，在这些条件下：1）如果其他用户正在混淆，则每个用户都被激励进行混淆，2）跟踪算法可以通过承诺一定程度的隐私保护来避免这种情况，以及3）这种承诺对于跟踪算法是激励兼容的。
2017-10-16 cs.CR
DPIVE: A Regionalized Location Obfuscation Scheme with Personalized Privacy Levels
网络物理系统的普及正在推动基于位置的服务的快速增长。这带来了位置隐私泄露的风险。有效的隐私保护对于各种移动应用程序来说是最重要的。最近，地理不变性和预期的推理误差被提出来限制位置泄漏。在本文中，我们认为，个性化意味着区域化的地理不变性，我们提出了一个区域化的位置混淆机制，称为DPIVE与个性化的效用敏感性。这实质上纠正了Yu等人在NDSS 2017上提出的PIVE框架的差异和失真隐私问题。我们开发DPIVE分为两个阶段。在第一阶段，我们通过划分所有可能的位置来确定不相交的集合，使得同一集合中的不同位置共享保护位置集合（PLS）。在第二阶段，我们构造了一个概率分布矩阵，其中对应于同一PLS的行有自己的效用灵敏度（PLS直径）。此外，通过设计QK-means算法在二维空间中获得更多的搜索空间，我们改进了DPIVE，细化了位置划分，提出了细粒度的个性化，使每个位置都有自己的隐私级别，并赋予定制的隐私预算。两个公共数据集的实验表明，我们的机制具有优越的性能，通常在倾斜的位置。
2022-10-08 cs.CR cs.DB
InfoScrub: Towards Attribute Privacy by Targeted Obfuscation
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
个人的个人照片在网上分享时，除了展示无数令人难忘的细节外，还揭示了广泛的私人信息，并可能带来隐私风险（例如，在线骚扰、跟踪）。为了减轻这些风险，研究允许个人限制视觉数据中泄露的私人信息的技术至关重要。我们解决这个问题，在一个新的图像混淆框架：最大限度地提高熵的推断目标的隐私属性，同时保持图像的保真度。我们基于编码器-解码器风格的架构来处理这个问题，其中有两个关键的新颖性：（a）引入一个自适应器来同时从多个不成对域执行双向翻译;（b）预测一个图像插值，该插值最大化目标属性集的不确定性。我们发现我们的方法生成的模糊图像忠实于原始输入图像，并额外增加6.2 $\times$（或高达0.85位）的非模糊对应的不确定性。
2021-06-01 cs.AI cs.CR cs.CV
Facilitating Federated Genomic Data Analysis by Identifying Record Correlations while Ensuring Privacy
随着测序成本的降低和计算设备的普及，基因组数据汇集不断增长。然而，数据汇集是高度分散的，数据仍然孤立在不同的存储库中。分析所有这些数据将对基因组学研究产生变革性影响。然而，数据是敏感的，因此不能容易地集中。此外，数据中可能存在相关性，如果未检测到，可能会影响分析。在本文中，我们采取了第一步，以隐私保护的方式跨多个数据存储库识别相关记录。所提出的框架，基于随机洗牌，合成记录生成，和本地差分隐私，允许准确性和计算效率的权衡。通过对OpenSNP数据集上的真实基因组数据的测试，验证了该方法的有效性。
2022-03-10 cs.CR
Evaluating the Strength of Genomic Privacy Metrics
基因组是人类个体的唯一标识符。基因组还包含高度敏感信息，造成滥用基因组数据的高可能性（例如，基因歧视）。在本文中，我研究了如何在对手旨在通过构建遗传变异值的概率分布来推断一个人的基因组标记的情况下测量基因组隐私。我通过要求指标随着对手实力的增加而单调来测量隐私指标的强度，并发现了目前用于测量基因组隐私的几个现有指标的严重问题。我提供的指标选择，解释和可视化的建议，并说明工作流程使用的案例研究阿尔茨海默氏症。
2016-07-20 cs.CR cs.PF
MOSAIC-FL, a micro-service based privacy-preserving framework with application to genomics
Université Paris-Saclay（巴黎-萨克雷大学）；CEA（法国原子能和替代能源委员会）；CNRGH（国家人类基因组研究中心）
该研究针对联邦学习在医疗保健和基因组学等领域的安全隐私挑战，提出MOSAIC-FL框架，集成gRPC通信层等，用CKKS同态加密系统变体实现盲模型聚合，经多种用例验证其有效性，能确保安全并减轻密钥恢复攻击。
2026-07-29 cs.CR cs.LG
Dataset Obfuscation: Its Applications to and Impacts on Edge Machine Learning
本文通过 MNIST、CIFAR-10 在 IID 与非 IID 设置下的实验，分析随机噪声混淆对模型准确率、F-norm 距离和隐私的影响，并提出 PUD 三角图刻画权衡。
2023-08-18 cs.CR
EmojiPrompt: Generative Prompt Obfuscation for Privacy-Preserving Communication with Cloud-based LLMs
Rutgers University（罗格斯大学）；University of Michigan（密歇根大学）
针对云端大语言模型的用户隐私泄露风险，提出生成式提示混淆范式EmojiPrompt，用语言与非语言元素混淆隐私数据，在8个数据集上验证其兼具隐私保护能力与良好甚至更优的任务性能。
2025-03-20 cs.AI cs.CL cs.CR
Privacy-Preserving Collaborative Genomic Research: A Real-Life Deployment and Vision
本文与Lynx.MD平台合作部署了基因组研究隐私保护框架，通过二进制编码、受控扰动加噪等技术平衡数据共享与隐私，助力基因组协作研究与个性化医疗发展。
2024-07-12 cs.CR
Near-Optimal Privacy-Utility Tradeoff in Genomic Studies Using Selective SNP Hiding
动机：研究人员需要丰富的基因组数据集，他们可以利用这些数据集来更好地了解人类基因组的遗传基础，并确定表型与DNA特定部分之间的关联。然而，共享包含个人敏感遗传或医疗信息的基因组数据集，如果数据落入坏人之手，可能会导致严重的隐私相关后果。限制对基因组数据集的访问是一个解决方案，但这大大降低了它们对研究目的的有用性。为了在解决这些隐私问题的同时允许共享基因组数据集，一些研究提出了用于数据共享的隐私保护机制。差分隐私（DP）是这样的机制之一，其形式化严格的数学基础以提供隐私保证，同时共享关于数据集的聚合统计信息。然而，已经表明，当数据集中存在依赖元组时，基于DP的解决方案的原始隐私保证会降低，这是基因组数据集的常见情况（由于家庭成员的存在）。结果如下：在这项工作中，我们引入了一个接近最优的机制，以减轻从基因组数据集，包括依赖元组的差异私人查询结果的推理攻击的漏洞。我们提出了一种效用最大化和隐私保护的方法，通过隐藏家庭成员参与基因组数据集时的选择性SNP来共享统计数据。通过在真实世界的基因组数据集上评估我们的机制，我们根据经验证明，我们提出的机制可以实现比最先进的基于DP的解决方案高出40%的隐私，同时接近最佳地最大限度地减少效用损失。
2021-06-09 cs.CR cs.HC
SecureNT: Smart Topology Obfuscation for Privacy-Aware Network Monitoring
本文提出SecureNT框架，通过智能拓扑混淆在保护网络拓扑隐私的同时保持测量数据对授权监控的可用性，并在模拟与真实网络中验证了其优于现有方法的隐私保护效果。
2025-05-07 cs.CR
PROVGEN: A Privacy-Preserving Approach for Outcome Validation in Genomic Research
本文提出PROVGEN方法，通过基于XOR机制的差分隐私和最优传输调整MAF值，在保护隐私的同时实现基因组数据集的高效共享，显著提升了GWAS结果验证能力、数据效用及抵御成员推理攻击的隐私保护水平。
2025-04-01 cs.CR
HyObscure: Hybrid Obscuring for Privacy-Preserving Data Publishing
Shanghai University of Finance and Economics（上海财经大学）；Beihang University（北京航空航天大学）
在隐私保护数据发布任务中，最大限度地减少隐私泄露同时确保数据效用是数据持有者的关键问题。大多数现有的研究只关注一种类型的数据，并采取单一的模糊方法，\eg，混淆或泛化，以实现隐私-效用权衡，这是不足以保护现实生活中的异构数据，很难防御日益增长的机器学习为基础的推理攻击。本文针对异构数据保护中同时采用泛化和混淆操作的隐私保护数据发布问题进行了初步研究。为此，我们首先提出了新的隐私和效用量化措施，并制定了混合隐私保护数据模糊问题，以考虑泛化和模糊的联合效应。然后，我们设计了一种新的混合保护机制，称为HyObscure，交叉迭代优化的泛化和混淆操作的最大隐私保护在一定的效用保证。从理论上证明了HyObscure算法迭代过程的收敛性和隐私泄露的界。大量的实验表明，HyObscure显着优于各种国家的最先进的基线方法时，面对各种推理攻击在不同的情况下。HyObscure还可以线性扩展到数据大小，并在不同的关键参数下表现稳健。
2021-12-15 cs.AI cs.CR
Privacy-Preserving Obfuscation for Distributed Power Systems
研究了分布式电力系统中隐私保护负荷数据的发布问题。本文的重点是用于解决最优潮流（OPF）问题的数据，并提出了一种分布式算法，符合差分隐私的概念，一个强大的隐私框架，用于约束重新识别的风险。这个问题是具有挑战性的，因为传统的差分隐私机制的应用程序的负载数据从根本上改变了基本的最优化问题的性质，往往会导致严重的可行性问题。该算法基于乘法器的交替方向法（ADMM），保证了所发布的隐私保护数据保持高保真度，并满足交流潮流约束。在多种OPF基准上的实验结果证明了该方法的有效性。
2019-10-07 cs.CR cs.MA cs.SY
Enhancing Privacy in Federated Learning via Dual Obfuscation of Gradients and Training Images
Chiba University（千叶大学）；Tokyo Metropolitan University（东京都立大学）
该研究针对联邦学习中模型更新易泄露训练数据的问题，提出结合随机二值权重梯度修改与客户端-图像独立密钥图像加密的双重混淆方法，可减少视觉信息泄露且不显著降低分类性能。
2026-08-21 cs.CR
The Privacy-Utility Tradeoff in Rank-Preserving Dataset Obfuscation
本文研究数据集混淆中秩保持与用户匿名性的权衡，通过大偏差理论刻画单字母机制的性能极限，并将最优混淆信道建模为可高效求解的凸优化问题。
2023-05-11 cs.CR cs.DB cs.IT
Quantifying Memorization and Privacy Risks in Genomic Language Models
Case Western Reserve University（凯斯西储大学）；UTHealth（UT健康）；Rutgers University（罗格斯大学）
本文提出多向量隐私评估框架，量化基因组语言模型的记忆风险与隐私威胁，揭示不同架构和训练制度下的记忆差异。
2026-10-20 cs.CR cs.LG q-bio.GN
Location Privacy Protection Game against Adversary through Multi-user Cooperative Obfuscation
研究多用户在LBS中如何利用相互服务灵活性协同对抗最优推断攻击，提出极大极小博弈、线性规划及常数复杂度二元混淆方案，并给出最优查询顺序指导。
2023-02-17 cs.CR cs.GT
Hidden in Plain Sight: Obfuscated Strings Threatening Your Privacy
字符串模糊处理是专有的、封闭源代码的应用程序用来保护知识产权的一种成熟技术。此外，它还经常用于隐藏应用程序中的间谍软件或恶意软件。在这两种情况下，技术范围从XOR运算上的位操作到AES加密。然而，字符串混淆技术/工具有一个共同的弱点：它们通常必须将必要的逻辑嵌入到应用程序代码中以消除字符串的混淆。在本文中，我们展示了Android恶意和良性应用程序中发现的大多数字符串混淆技术可以很容易地以自动化的方式被破坏。我们开发了StringHound，这是一个开源工具，它使用新颖的技术来识别混淆的字符串并使用切片重建原始字符串。我们在良性和恶意Android应用程序上评估了StringHound。总之，我们对混淆字符串的去混淆处理几乎是其他字符串去混淆工具的30倍。此外，我们分析了100，000个Google Play商店应用程序，发现了多个模糊字符串，这些字符串隐藏了易受攻击的加密用法，不安全的互联网访问，API密钥，硬编码密码以及在开发人员不知情的情况下利用特权。此外，我们的分析表明，不仅恶意软件使用字符串混淆，而且良性应用程序也广泛使用字符串混淆。
2020-09-09 cs.CR
Toward Evaluating Re-identification Risks in the Local Privacy Model
LDP（Local差分隐私）作为一种数据隐私度量标准近年来引起了广泛关注，它可以防止从局部模型中的模糊数据推断出个人数据。然而，在某些情况下，对手希望执行重新识别攻击，以将混淆的数据链接到该模型中的用户。在这些情况下，LDP可能会导致过度混淆并破坏实用程序，因为它的设计目的不是直接防止重新识别。在本文中，我们提出了一种重新识别风险的措施，我们称之为PIE（个人信息熵）。PIE被设计为直接防止局部模型中的重新识别攻击。它降低了最低可能的重新识别错误概率（即，贝叶斯错误概率）。分析了LDP和PIE的关系，并对两种提供LDP的混淆机制的PIE和分布估计效用进行了分析。通过实验，我们表明，当我们考虑重新识别作为一个隐私风险，LDP可以导致过度混淆和破坏实用程序。然后，我们表明，PIE可以用来保证低的重新识别风险的本地混淆机制，同时保持高效用。
2021-12-19 cs.CR cs.DB
Collective Obfuscation and Crowdsourcing
College of Computing and Information Sciences, Cornell University（康奈尔大学计算与信息科学学院）
众包技术依靠一群人输入可能对决策至关重要的信息。这项工作研究了报告技术背景下的混淆。我们发现，报告平台的广泛使用带来了独特的安全和隐私影响，并引入了一个威胁模型和相应的分类，以概述在这个空间中的许多攻击向量。然后，我们对来自有争议的真实世界报告热线的呼叫日志数据集进行实证分析，并确定旨在阻碍平台合法性的协调混淆策略。我们提出了各种统计措施来量化这种混淆策略在我们的数据集中报告攻击的结构和语义特征方面的强度。
2022-08-12 cs.CR cs.CY cs.LG
