Privacy Games: Optimal User-Centric Data Obfuscation
在本文中，我们设计了以用户为中心的混淆机制，施加最小的效用损失，以保证用户的隐私。我们优化效用的联合保证差分隐私（不可否认性）和失真隐私（推理错误）。这种双重保护屏蔽通过混淆机制和后验推理限制了信息泄漏。我们表明，通过联合差分失真机制对最优攻击实现的隐私是一样大的最大隐私，可以通过这些机制分别实现。它们的效用成本也不大于差分或失真机制所施加的成本。我们将优化问题建模为混淆机制的设计者与潜在对手之间的领导者-追随者博弈，并设计自适应机制来预测和保护最优推理算法。因此，混淆机制对于任何推理算法都是最佳的。
2015-05-27 cs.CR cs.GT
A Utility-Preserving Obfuscation Approach for YouTube Recommendations
该研究针对现有YouTube推荐混淆方法隐私增强时效用下降的问题，提出带去噪器的De-Harpo混淆方法，在同等隐私水平下效用保留能力达现有最优方法的2倍，兼具隐蔽性与反混淆鲁棒性。
2023-06-16 cs.CR
Privacy engineering through obfuscation
本文针对混淆技术在隐私工程中作用不明、评估度量缺乏统一认知的问题，提出通用分析框架，区分两类评估方式与两种混淆类型，明确了隐私-效用权衡的相关规律。
2023-08-24 cs.CR cs.IT math.IT
Privacy-Preserving Obfuscation of Critical Infrastructure Networks
Georgia Institute of Technology（佐治亚理工学院）
本文研究了如何发布关于关键基础设施网络的数据（例如，电力网或运输网），而不公开可被恶意代理利用的敏感信息，同时保持网络的真实性。它提出了一种新的混淆机制，将几个隐私保护构建块与双层优化模型相结合，以显着提高准确性。模糊评估现实主义和隐私属性的真实能源和交通网络。实验结果表明，混淆机制大大降低了利用发布的数据来破坏真实网络的攻击的潜在危害。
2019-05-24 cs.AI cs.CR
A Developer-Friendly Library for Smart Home IoT Privacy-Preserving Traffic Obfuscation
在过去的几年里，互联网连接设备的数量和种类大幅增长，对安全和隐私提出了新的挑战。研究表明，网络攻击者可以使用来自消费者物联网设备的流量率元数据来推断敏感的用户活动。塑造流量以适应独立于用户活动的分布可以保护隐私，但由于需要开发人员的努力和开销带宽成本，这种方法很少被采用。在这里，我们为物联网开发人员提供了一个Python库，可以轻松地将隐私保护流量整形集成到他们的产品中。该库通过有效负载填充、碎片和随机覆盖流量的组合自动混淆设备流量模式，从而取代了标准网络功能。我们的库成功地保护了用户隐私，并且对于具有低发送速率或高延迟容限的物联网设备，需要大约4 KB/s的开销带宽。考虑到美国家庭的正常互联网速度，这种开销是合理的，并且是对现有解决方案带宽要求的改进。
2018-08-22 cs.CR
Geo-MOEA: A Multi-Objective Evolutionary Algorithm with Geo-obfuscation for Mobile Crowdsourcing Workers
移动互联网和共享经济的快速发展带来了空间众包的繁荣。SC应用根据任务请求者和外包工人（如滴滴、美团和Uber）上报的位置信息分配各种任务。然而，SC服务器通常不值得信赖，并且暴露用户的位置会引起隐私问题。在本文中，我们设计了一个框架称为Geo-MOEA（多目标进化算法与地理混淆），以保护在移动网络环境中的工作人员参与SC平台的位置隐私。我们提出了一种自适应的区域化混淆方法与推理误差界的基础上的地理不可侵犯性（一个强的概念，差分隐私），这是适合于大规模的位置数据和任务分配的情况下。这使得每个工作者能够报告利用个性化推断误差阈值自适应地生成的伪位置。此外，作为一种流行的计算智能方法，MOEA被引入到SC服务可用性和隐私保护之间的权衡优化，同时确保理论上的最一般的条件下保护位置集更大的搜索空间。最后，在两个公共数据集上的实验结果表明，我们的Geo-MOEA方法在保证差分和地理失真位置隐私的同时，实现了高达20%的服务质量损失减少。
2022-11-17 cs.CR
Obfuscation in Bitcoin: Techniques and Politics
在加密货币比特币中，所有交易都记录在区块链中-一个公共的，全球的，不可变的分类账。由于交易是公开的，比特币及其用户采用模糊处理来保持一定程度的金融隐私。关键的是，与混淆的典型用途相反，在比特币中，混淆并不是针对系统设计者，而是通过设计来实现的。我们将16种针对比特币的隐私保护技术映射到一个模糊与密码学轴，并发现那些在实践中使用的倾向于混淆。我们认为，这导致了隐私和监管接受之间的平衡。
2017-06-29 cs.CR cs.CY
FaceSwapGuard: Safeguarding Facial Privacy from DeepFake Threats through Identity Obfuscation
Shandong University（山东大学）；Zhejiang University（浙江大学）
针对换脸技术导致的面部隐私威胁，提出黑盒防御机制FaceSwapGuard，通过向面部图像引入不可察觉扰动干扰身份编码器特征，使换脸生成的身份与原用户差异显著，将人脸匹配率从90%降至10%以下。
2025-02-15 cs.AI cs.CR cs.CV
A Mean-Field Stackelberg Game Approach for Obfuscation Adoption in Empirical Risk Minimization
由于在线跟踪、可穿戴计算和物联网的发展，数据生态系统变得越来越大、越来越复杂。但隐私问题正威胁着这些系统的潜在好处。最近，用户已经开发出了模糊技术，这些技术可以发布虚假的搜索引擎查询，破坏位置跟踪算法或逃避政府监视。有趣的是，这些技术引发了两个冲突：一个是每个用户和跟踪用户的机器学习算法之间的冲突，另一个是用户本身之间的冲突。在本文中，我们使用博弈论捕捉的第一个冲突与Stackelberg游戏和第二个冲突的平均场游戏。我们结合成一个动态的和战略的双层框架，量化的准确性，使用经验的风险最小化和隐私使用差分隐私。在平衡中，我们确定了必要和充分条件，在这些条件下：1）如果其他用户正在混淆，则每个用户都被激励进行混淆，2）跟踪算法可以通过承诺一定程度的隐私保护来避免这种情况，以及3）这种承诺对于跟踪算法是激励兼容的。
2017-10-16 cs.CR
Dataset Obfuscation: Its Applications to and Impacts on Edge Machine Learning
本文通过 MNIST、CIFAR-10 在 IID 与非 IID 设置下的实验，分析随机噪声混淆对模型准确率、F-norm 距离和隐私的影响，并提出 PUD 三角图刻画权衡。
2023-08-18 cs.CR
Privacy-Preserving Load Forecasting via Personalized Model Obfuscation
University of California, Santa Cruz（加州大学圣克鲁兹分校）；Argonne National Laboratory（阿贡国家实验室）
本文提出隐私保护联邦学习（PPFL），通过个性化层和差分隐私机制在异构智能电表数据上实现短期负荷预测，并在NREL ComStock数据集上验证了其有效性。
2023-11-21 cs.CR cs.LG
SecureNT: Smart Topology Obfuscation for Privacy-Aware Network Monitoring
本文提出SecureNT框架，通过智能拓扑混淆在保护网络拓扑隐私的同时保持测量数据对授权监控的可用性，并在模拟与真实网络中验证了其优于现有方法的隐私保护效果。
2025-05-07 cs.CR
Privacy-Utility Trades in Crowdsourced Signal Map Obfuscation
University of Southern California（南加州大学）；The Aerospace Corporation（航空航天公司）；Google（谷歌）
蜂窝提供商和数据聚合公司众包来自用户设备的蜂窝信号强度测量以生成信号地图，其可用于提高网络性能。认识到这种数据汇集可能与人们日益增长的隐私意识不一致，我们考虑在数据离开移动终端之前对此类数据进行模糊处理。其目标是提高隐私性，使得难以从混淆的数据中恢复敏感特征（例如用户ID和用户行踪），同时仍然允许网络提供商使用数据来改善网络服务（即创建准确的信号映射）。为了研究这种隐私效用的权衡，我们确定了隐私和效用指标和适合信号强度测量的威胁模型。然后，我们使用几种卓越的技术混淆测量，跨越差分隐私，生成对抗隐私和信息理论隐私技术，以基准各种有前途的混淆方法，并为现实世界的工程师提供指导，他们的任务是构建保护隐私而不损害效用的信号地图。我们的评估结果，基于多个，不同的，真实世界的信号映射数据集，证明了同时实现足够的隐私和实用性的可行性，混淆策略在其设计中使用数据集的结构和预期用途，并以平均情况为目标，而不是最坏情况，保证。
2022-01-13 cs.CR cs.LG
Enhancing Privacy in Federated Learning via Dual Obfuscation of Gradients and Training Images
Chiba University（千叶大学）；Tokyo Metropolitan University（东京都立大学）
该研究针对联邦学习中模型更新易泄露训练数据的问题，提出结合随机二值权重梯度修改与客户端-图像独立密钥图像加密的双重混淆方法，可减少视觉信息泄露且不显著降低分类性能。
2026-08-21 cs.CR
Hidden in Plain Sight: Obfuscated Strings Threatening Your Privacy
字符串模糊处理是专有的、封闭源代码的应用程序用来保护知识产权的一种成熟技术。此外，它还经常用于隐藏应用程序中的间谍软件或恶意软件。在这两种情况下，技术范围从XOR运算上的位操作到AES加密。然而，字符串混淆技术/工具有一个共同的弱点：它们通常必须将必要的逻辑嵌入到应用程序代码中以消除字符串的混淆。在本文中，我们展示了Android恶意和良性应用程序中发现的大多数字符串混淆技术可以很容易地以自动化的方式被破坏。我们开发了StringHound，这是一个开源工具，它使用新颖的技术来识别混淆的字符串并使用切片重建原始字符串。我们在良性和恶意Android应用程序上评估了StringHound。总之，我们对混淆字符串的去混淆处理几乎是其他字符串去混淆工具的30倍。此外，我们分析了100，000个Google Play商店应用程序，发现了多个模糊字符串，这些字符串隐藏了易受攻击的加密用法，不安全的互联网访问，API密钥，硬编码密码以及在开发人员不知情的情况下利用特权。此外，我们的分析表明，不仅恶意软件使用字符串混淆，而且良性应用程序也广泛使用字符串混淆。
2020-09-09 cs.CR
PrivDiffuser: Privacy-Guided Diffusion Model for Data Obfuscation in Sensor Networks
University of Alberta（阿尔伯塔大学）
PrivDiffuser提出基于去噪扩散模型的数据混淆方法，通过互信息正则化引导生成，在三个真实数据集上优于现有技术，降低效用损失1.81%和隐私损失3.42%，并支持用户无需重训即可定制隐私需求。
2025-08-05 cs.CR cs.LG
FedAdOb: Privacy-Preserving Federated Deep Learning with Adaptive Obfuscation
WeBank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）；University of Electronic Science and Technology of China（电子科技大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出了一种名为 FedAdOb 的自适应混淆机制，通过基于护照的自适应混淆保护私有数据，在水平和垂直联邦学习中实现了隐私保护与模型性能的更优权衡。
2024-06-03 cs.AI cs.CR
FedPass: Privacy-Preserving Vertical Federated Deep Learning with Adaptive Obfuscation
Webank（微众银行）；HKUST（香港科技大学）
垂直联邦学习（VFL）允许具有标记特征的主动方利用被动方的辅助特征来提高模型性能。在VFL的训练和推理过程中，私有特征和标签泄漏问题引起了广泛的研究关注。在本文中，我们提出了一个通用的隐私保护垂直联邦深度学习框架FedPass，它利用自适应混淆来同时保护特征和标签。从理论上证明了私有特征和标签的强隐私保护能力（定理1和定理2）。不同数据集和网络架构的广泛实验结果也证明了FedPass相对于现有方法的优越性，因为它在隐私和模型性能之间接近最佳的权衡。
2023-01-31 cs.CR cs.DC cs.LG
H-LPS: a hybrid approach for user's location privacy in location-based services
提出基于混淆与协作的混合位置隐私方案H-LPS，在提供高隐私保护的同时保持良好服务准确性，并验证其优于现有方案。
2025-01-22 cs.CR
ODIN: Obfuscation-based privacy preserving consensus algorithm for Decentralized Information fusion in smart device Networks
传感器和智能设备在城市基础设施中的大量普及正在推动物联网（IoT）领域的研究，以开发新的服务并提高市民的生活质量。传感器和智能设备通过感测环境生成大量测量数据，这些数据用于支持服务，例如控制功耗或流量密度。为了处理如此大量的信息，并提供准确的测量，服务提供商可以采用信息融合，考虑到城市部署的分散性，这可以通过共识算法来执行。这些算法允许分布式代理（迭代）计算交换数据的线性函数，并根据结果做出决策，而不需要中央实体的支持。然而，共识算法的使用引起了一些安全问题，特别是当计算中涉及私人或安全关键信息时。本文提出了ODIN，一种新的算法，允许信息融合加密数据。ODIN是流行的共识八卦算法的隐私保护扩展，其防止分布式代理在迭代地达到共识时直接存取数据;代理甚至不能访问最终的共识值，但只能检索部分信息，例如，一个二元的决定。ODIN在更新步骤中使用有效的添加剂混淆和代理重新加密，并使用乱码电路对混淆的共识做出最终决定。我们讨论了我们的建议的安全性，并显示其实用性和效率在现实世界的资源受限的设备，开发一个原型实现的树莓派设备。
2017-03-13 cs.CR
Protecting Genomic Privacy by a Sequence-Similarity Based Obfuscation Method
Princeton University（普林斯顿大学）；The Hong Kong Polytechnic University（香港理工大学）
在后基因组时代，大规模的个人DNA序列被生产和收集用于基因医学诊断和新药发现，然而，这同时对个人基因组隐私的保护提出了严峻的挑战。现有的基因组隐私保护方法要么耗时，要么准确性低。为了解决这些问题，本文提出了一种基于序列相似性的混淆方法，即IterMegaBLAST，用于快速可靠地保护个人基因组隐私。具体来说，给定从DNA序列数据集中随机选择的序列，我们首先使用MegaBLAST从数据集中找到其最相似的序列。这两个比对的序列形成一个簇，通过DNA泛化晶格方案为该簇生成混淆序列。这些过程被迭代地执行，直到数据集中的所有序列被聚类并且它们的混淆序列被生成。在两个基准数据集上的实验结果表明，在相同的匿名程度下，IterMegaBLAST在效用准确度和时间复杂度方面都明显优于现有的最先进的方法.
2017-08-08 cs.CR cs.LG
Reconstruction of the distribution of sensitive data under free-will privacy
本地隐私机制，如k-RR，RAPPOR和地理不可否认的，已经变得非常流行，这要归功于这样一个事实，即混淆可以在用户端实现，从而避免了需要一个可信的第三方。另一个重要的优点是，每个数据点都是独立于其他数据点进行清理的，因此不同的用户可以根据他们的隐私要求使用不同级别的混淆，或者他们甚至可以根据他们交易数据的服务使用完全不同的机制。在这种情况下，一个具有挑战性的要求是从用户的噪声版本中构建用户敏感数据的原始分布。现有技术只能分别估计每个混淆模式和相应的噪声数据子集上的分布。但是子集越小，估计就越不精确。在本文中，我们研究如何避免子集分割问题时，结合本地隐私机制，从而恢复一个最佳的效用。我们专注于估计的原始分布，并在两个主要的方法来估计它：矩阵求逆法和迭代贝叶斯更新。我们考虑各种情况下的本地隐私机制的组合，并比较的灵活性和性能的两种方法。
2022-08-24 cs.CR
Face-Off: Adversarial Face Obfuscation
深度学习的进步使人脸识别技术变得普及。虽然对社交媒体平台和用户有用，但这项技术带来了严重的隐私威胁。再加上他们拥有的关于用户的丰富信息，服务提供商可以将用户与社交互动、访问过的地方、活动和偏好相关联--其中一些用户可能不想分享。此外，各种机构使用的面部识别模型是通过从社交媒体平台上收集的数据进行训练的。现有的方法，以减轻这些隐私风险，从不必要的人脸识别的结果在一个不平衡的隐私效用权衡给用户。在本文中，我们解决这个权衡，提出Face-Off，一个隐私保护框架，引入战略扰动用户的脸，以防止它被正确识别。为了实现Face-Off，我们克服了一系列与商业人脸识别服务的黑箱性质相关的挑战，以及度量网络上对抗攻击的文献稀缺。我们实施并评估了Face-Off，发现它欺骗了微软、亚马逊和Face++的三种商业人脸识别服务。我们对423名参与者的用户研究进一步表明，这些干扰的成本对用户来说是可以接受的。
2020-12-15 cs.CR
Bit-ViP: Leveraging Bit-planes to Preserve Visual Privacy in Images through Obfuscation
提出基于位平面的图像混淆方案Bit-ViP，通过端到端混淆函数结合混沌系统和差分隐私生成不可逆噪声，在保护隐私的同时保持图像可用性，在UCF101和HMDB51数据集上验证了有效性。
2026-06-28 cs.CR cs.CV cs.ET
On the differential privacy of dynamic location obfuscation with personalized error bounds
本文分析了动态位置混淆机制 PIVE 的差分隐私缺陷，证明其无法在自适应保护位置集上提供所声称的隐私保证，并提出修正方法并分析其隐私特性与优缺点。
2022-06-30 cs.CR cs.DB
DPIVE: A Regionalized Location Obfuscation Scheme with Personalized Privacy Levels
网络物理系统的普及正在推动基于位置的服务的快速增长。这带来了位置隐私泄露的风险。有效的隐私保护对于各种移动应用程序来说是最重要的。最近，地理不变性和预期的推理误差被提出来限制位置泄漏。在本文中，我们认为，个性化意味着区域化的地理不变性，我们提出了一个区域化的位置混淆机制，称为DPIVE与个性化的效用敏感性。这实质上纠正了Yu等人在NDSS 2017上提出的PIVE框架的差异和失真隐私问题。我们开发DPIVE分为两个阶段。在第一阶段，我们通过划分所有可能的位置来确定不相交的集合，使得同一集合中的不同位置共享保护位置集合（PLS）。在第二阶段，我们构造了一个概率分布矩阵，其中对应于同一PLS的行有自己的效用灵敏度（PLS直径）。此外，通过设计QK-means算法在二维空间中获得更多的搜索空间，我们改进了DPIVE，细化了位置划分，提出了细粒度的个性化，使每个位置都有自己的隐私级别，并赋予定制的隐私预算。两个公共数据集的实验表明，我们的机制具有优越的性能，通常在倾斜的位置。
2022-10-08 cs.CR cs.DB
Fundamental Limits of Obfuscation for Linear Gaussian Dynamical Systems: An Information-Theoretic Approach
New York University（纽约大学）
在本文中，我们研究的基本限制混淆的隐私失真权衡线性高斯动力系统通过信息论的方法。特别是，我们得到的分析公式，捕捉基本的隐私失真权衡时，隐私掩码被添加到动态系统的输出，同时明确指出如何设计的隐私掩码在一个最佳的方式：隐私掩码应该是彩色高斯与功率谱形状具体基于系统和噪声属性。
2020-10-29 cs.CR cs.IT cs.LG
PromptPET: Privacy-Utility Optimized Prompt Obfuscation
University of California, Irvine（加州大学 Irvine 分校）；Washington University in St. Louis（圣路易斯华盛顿大学）
旨在通过用户端机制保护用户隐私，该机制转换用户提示中的敏感信息，在保护隐私和保留效用间权衡。考虑评估比较四种混淆动作，提出基于大语言模型的PROMPTPET，优于现有方法。
2026-07-07 cs.AI cs.CR cs.HC
CLOAK: Contrastive Guidance for Latent Diffusion-Based Data Obfuscation
University of Alberta（阿尔伯塔大学）
针对数据混淆问题，提出基于潜在扩散模型的Cloak框架，用对比学习提取解纠缠表示，指导潜在扩散过程平衡隐私与效用。实验表明该框架优于现有技术，能降低效用和隐私损失，适合资源受限环境。
2026-07-24 cs.CR cs.LG
HyObscure: Hybrid Obscuring for Privacy-Preserving Data Publishing
Shanghai University of Finance and Economics（上海财经大学）；Beihang University（北京航空航天大学）
在隐私保护数据发布任务中，最大限度地减少隐私泄露同时确保数据效用是数据持有者的关键问题。大多数现有的研究只关注一种类型的数据，并采取单一的模糊方法，\eg，混淆或泛化，以实现隐私-效用权衡，这是不足以保护现实生活中的异构数据，很难防御日益增长的机器学习为基础的推理攻击。本文针对异构数据保护中同时采用泛化和混淆操作的隐私保护数据发布问题进行了初步研究。为此，我们首先提出了新的隐私和效用量化措施，并制定了混合隐私保护数据模糊问题，以考虑泛化和模糊的联合效应。然后，我们设计了一种新的混合保护机制，称为HyObscure，交叉迭代优化的泛化和混淆操作的最大隐私保护在一定的效用保证。从理论上证明了HyObscure算法迭代过程的收敛性和隐私泄露的界。大量的实验表明，HyObscure显着优于各种国家的最先进的基线方法时，面对各种推理攻击在不同的情况下。HyObscure还可以线性扩展到数据大小，并在不同的关键参数下表现稳健。
2021-12-15 cs.AI cs.CR
InfoScrub: Towards Attribute Privacy by Targeted Obfuscation
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
个人的个人照片在网上分享时，除了展示无数令人难忘的细节外，还揭示了广泛的私人信息，并可能带来隐私风险（例如，在线骚扰、跟踪）。为了减轻这些风险，研究允许个人限制视觉数据中泄露的私人信息的技术至关重要。我们解决这个问题，在一个新的图像混淆框架：最大限度地提高熵的推断目标的隐私属性，同时保持图像的保真度。我们基于编码器-解码器风格的架构来处理这个问题，其中有两个关键的新颖性：（a）引入一个自适应器来同时从多个不成对域执行双向翻译;（b）预测一个图像插值，该插值最大化目标属性集的不确定性。我们发现我们的方法生成的模糊图像忠实于原始输入图像，并额外增加6.2 $\times$（或高达0.85位）的非模糊对应的不确定性。
2021-06-01 cs.AI cs.CR cs.CV
Location Privacy Protection Game against Adversary through Multi-user Cooperative Obfuscation
研究多用户在LBS中如何利用相互服务灵活性协同对抗最优推断攻击，提出极大极小博弈、线性规划及常数复杂度二元混淆方案，并给出最优查询顺序指导。
2023-02-17 cs.CR cs.GT
Gradient Obfuscation Gives a False Sense of Security in Federated Learning
North Carolina State University（北卡罗来纳州立大学）；Zhejiang University（浙江大学）
联邦学习已经被提出作为一种隐私保护的机器学习框架，它使多个客户端能够在不共享原始数据的情况下进行协作。然而，客户端隐私保护在此框架中的设计并不保证。先前的工作表明，联邦学习中的梯度共享策略可能容易受到数据重建攻击。然而，在实践中，考虑到高通信成本或由于隐私增强要求，客户端可能不发送原始梯度。经验研究表明，梯度混淆，包括通过梯度噪声注入的有意混淆和通过梯度压缩的无意混淆，可以提供更多的隐私保护以对抗重建攻击。在这项工作中，我们提出了一个新的数据重建攻击框架，针对图像分类任务的联邦学习。我们发现，通常采用的梯度后处理程序，如梯度量化，梯度稀疏化，梯度扰动，可能会给联邦学习一个虚假的安全感。与以前的研究相反，我们认为，隐私增强不应该被视为梯度压缩的副产品。此外，我们设计了一种新的方法，在所提出的框架下，在语义级重建图像。我们量化的语义隐私泄漏，并与传统的基于图像相似性得分。我们的比较挑战文献中的图像数据泄漏评估方案。结果强调了在现有的联邦学习算法中重新访问和重新设计客户端数据隐私保护机制的重要性。
2022-10-14 cs.AI cs.CR cs.DC
A Stackelberg Game Perspective on the Conflict Between Machine Learning and Data Obfuscation
数据是新的石油;这句话在互联网跟踪、机器学习和数据分析时代被广泛重复。社会网络分析、基于cookie的广告和政府监控都是数据用于商业和国家利益的证据。然而，公众要求保护隐私的压力越来越大。诸如差分隐私之类的框架提供了机器学习算法方法来保证对信息披露的限制，但它们很少被实施。然而，最近，开发人员已经做出了巨大的努力，通过混淆工具来破坏跟踪，这些工具将用户特征隐藏在噪音的海洋中。这些服务凸显了跟踪和数据混淆之间的冲突。在本文中，我们通过用户之间的动态博弈和机器学习算法，使用经验风险最小化概念化这种冲突。首先，机器学习器声明一个隐私保护级别，然后用户通过选择自己的扰动量来做出响应。我们使用Stackelberg游戏研究用户和学习者之间的互动。效用函数使用预期损失和隐私在差分隐私的界限方面量化准确性。在均衡中，我们发现自私的用户往往会造成显着的效用损失，跟踪器的扰动严重，在一个现象让人想起公共利益的游戏。然而，跟踪器可以通过主动干扰数据本身来改善平衡。虽然在这一领域的其他工作已经研究了隐私市场和机制设计的真实报告的用户信息，我们采取了不同的观点，考虑用户和学习者的扰动。
2016-08-10 cs.CR cs.LG
Toward Evaluating Re-identification Risks in the Local Privacy Model
LDP（Local差分隐私）作为一种数据隐私度量标准近年来引起了广泛关注，它可以防止从局部模型中的模糊数据推断出个人数据。然而，在某些情况下，对手希望执行重新识别攻击，以将混淆的数据链接到该模型中的用户。在这些情况下，LDP可能会导致过度混淆并破坏实用程序，因为它的设计目的不是直接防止重新识别。在本文中，我们提出了一种重新识别风险的措施，我们称之为PIE（个人信息熵）。PIE被设计为直接防止局部模型中的重新识别攻击。它降低了最低可能的重新识别错误概率（即，贝叶斯错误概率）。分析了LDP和PIE的关系，并对两种提供LDP的混淆机制的PIE和分布估计效用进行了分析。通过实验，我们表明，当我们考虑重新识别作为一个隐私风险，LDP可以导致过度混淆和破坏实用程序。然后，我们表明，PIE可以用来保证低的重新识别风险的本地混淆机制，同时保持高效用。
2021-12-19 cs.CR cs.DB
Multi-Level Privacy-Preserving Dementia Detection from Speech via Targeted Adversarial Obfuscation and Representation Learning
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
研究针对痴呆症检测语音记录的隐私问题，提出多级框架，信号层用CSA、特征层用带MI引导噪声注入的GRL，在痴呆症银行匹兹堡语料库上评估，兼顾隐私保护与痴呆症分类性能。
2026-07-21 cs.CR cs.SD
The Privacy-Utility Tradeoff in Rank-Preserving Dataset Obfuscation
本文研究数据集混淆中秩保持与用户匿名性的权衡，通过大偏差理论刻画单字母机制的性能极限，并将最优混淆信道建模为可高效求解的凸优化问题。
2023-05-11 cs.CR cs.DB cs.IT
Privacy-Preserving Obfuscation for Distributed Power Systems
研究了分布式电力系统中隐私保护负荷数据的发布问题。本文的重点是用于解决最优潮流（OPF）问题的数据，并提出了一种分布式算法，符合差分隐私的概念，一个强大的隐私框架，用于约束重新识别的风险。这个问题是具有挑战性的，因为传统的差分隐私机制的应用程序的负载数据从根本上改变了基本的最优化问题的性质，往往会导致严重的可行性问题。该算法基于乘法器的交替方向法（ADMM），保证了所发布的隐私保护数据保持高保真度，并满足交流潮流约束。在多种OPF基准上的实验结果证明了该方法的有效性。
2019-10-07 cs.CR cs.MA cs.SY
Channel Leakage, Information-Theoretic Limitations of Obfuscation, and Optimal Privacy Mask Design for Streaming Data
New York University（纽约大学）
在本文中，我们首先引入了信道泄漏的概念，作为信道输入和信道输出之间的最小互信息。正如其名称所示，信道泄漏量化了对恶意接收器的最小信息泄漏。从广义上讲，它可以被看作是信道容量的双重概念，它表征了到目标接收机的最大信息传输。我们得到明确的公式的信道泄漏的情况下，白色高斯，有色高斯的情况下，和衰落的情况下。然后，我们利用这一概念调查的基本限制混淆的隐私失真权衡（以及隐私权权衡）的流数据，特别是，我们推导出分析权衡方程的固定的情况下，非固定的情况下，和有限时间的情况下。我们的研究结果还明确指出，如何设计的隐私面具在一个最佳的方式。
2020-09-29 cs.CR cs.IT cs.LG
Privacy for Fairness: Information Obfuscation for Fair Representation Learning with Local Differential Privacy
HKUST（香港科技大学）；ShanghaiTech University（上海科技大学）；Data61, CSIRO（Data61 联邦科学与工业研究组织数据61分部）
本文提出基于信息瓶颈和局部差分隐私的信息混淆理论框架，通过变分表示编码方法在保护隐私的同时实现公平表示学习，并经实验验证其有效性。
2024-02-16 cs.CR cs.IT cs.LG
Privacy-preserving Machine Learning through Data Obfuscation
Princeton University（普林斯顿大学）
随着机器学习成为一种实践和商品，许多基于云的服务和框架被提供来帮助客户开发和部署机器学习应用。虽然将模型训练和服务任务外包到云中很普遍，但重要的是要保护训练数据集中敏感样本的隐私，并防止信息泄露给不受信任的第三方。过去的研究表明，恶意的机器学习服务提供商或最终用户可以很容易地从模型参数甚至只是模型输出中提取关于训练样本的关键信息。在本文中，我们提出了一种新的和通用的方法来保护隐私的训练数据在机器学习应用程序。具体来说，我们引入了一个模糊函数，并在将训练数据馈送到模型训练任务之前将其应用于训练数据。此函数向现有样本添加随机噪声，或使用新样本扩充数据集。通过这样做，隐藏了关于单个样本的属性或一组样本的统计属性的敏感信息。同时，从混淆数据集训练的模型仍然可以达到很高的准确率。通过这种方法，客户可以安全地向第三方提供商或最终用户披露数据或模型，而无需担心数据隐私。我们的实验表明，这种方法可以有效地击败现有的四种类型的机器学习隐私攻击在可以忽略不计的准确性成本。
2018-07-13 cs.CR cs.LG
Syfer: Neural Obfuscation for Private Data Release
Massachusetts Institute of Technology（麻省理工学院）；Maynooth University（梅努斯大学）
平衡隐私和预测效用仍然是医疗保健领域机器学习的核心挑战。在本文中，我们开发了Syfer，一种神经混淆方法，以防止重新识别攻击。Syfer将训练层与随机神经网络组合在一起，以编码原始数据（例如X射线），同时保持从编码数据预测诊断的能力。编码器中的随机性充当数据所有者的私钥。我们将隐私量化为重新识别单个图像（猜测）所需的攻击者猜测次数。我们提出了一个对比学习算法来估计猜测。我们的经验表明，差分隐私的方法，如DP图像，获得隐私的效用显着损失。相比之下，Syfer在保持实用性的同时实现了强大的隐私。例如，用DP图像、Syfer和原始数据构建的X射线分类器分别实现了0.53、0.78和0.86的平均AUC。
2022-01-28 cs.CR cs.CV cs.LG
Protecting Vehicle Location Privacy with Contextually-Driven Synthetic Location Generation
本文提出VehiTrack威胁模型揭示Geo-Ind在道路与交通上下文下的车辆位置隐私漏洞，并设计TransProtect地理混淆方法，将混淆限制于真实车辆移动模式，显著提升抗推理攻击能力。
2024-09-14 cs.CR
Local Obfuscation Mechanisms for Hiding Probability Distributions
本文提出分布隐私概念以衡量本地混淆机制对输入概率分布的隐藏能力，并设计通过添加随机虚拟数据改善隐私与效用权衡的 tupling mechanism，实验证明其在位置服务属性保护中优于常用本地机制。
2019-08-06 cs.CR cs.DB cs.IT
An Enhanced Middleware for Collaborative Privacy in IPTV Recommender Services
用户在使用IPTV系统时必须面对的问题之一是信息过载，这使得他们很难根据个人喜好找到合适的内容。推荐服务是缓解这一问题的最广泛采用的技术之一，这些服务旨在根据人们的偏好为他们提供他们将欣赏的项目的推荐。IPTV用户必须确保任何推荐服务收集的敏感偏好得到适当保护。在这项工作中，我们介绍了一个框架的私人推荐服务的基础上增强中间件的协作隐私（EMCP）。EMCP执行一个两阶段的隐藏过程，让用户完全控制他/她的个人资料的隐私级别。我们利用信任机制来增强推荐的准确性和隐私性。信任启发式发现相对于请求推荐的用户而言值得信任的用户。随后，使用基于这些可信用户的邻近度量来计算邻域形成。最后，用户以混淆的形式提交他们的简档，而不泄露关于他们的数据的任何信息，并且推荐的计算使用安全多方计算协议在混淆的数据上进行。我们扩大混淆范围从单一的混淆级别的所有用户的任意混淆级别的基础上用户之间的可信度。换句话说，我们将混淆级别与不同的信任级别相关联，因此目标用户越受信任，他可以访问的配置文件的混淆副本就越少。我们还提供了一个IPTV网络的场景和实验结果。我们的结果和分析表明，我们的两阶段隐藏过程，不仅保护了用户的隐私，但也可以保持推荐的准确性。
2017-11-21 cs.CR cs.IR
A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
University of Houston（休斯顿大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Waseda University（早稻田大学）；Stevens Institute of Technology（史蒂文斯理工学院）；National Taiwan University（国立台湾大学）
针对隐私保护LLMs中的嵌入到嵌入混淆，提出代理流形对齐攻击，利用语义结构保持特性，通过翻译任务重构明文，实验显示恢复性能优于现有方法。
2026-09-09 cs.CL cs.CR
Local Distribution Obfuscation via Probability Coupling
AIST（产业技术综合研究所）
本研究提出局部分布混淆通用模型，将分布隐私推广至散度形式，证明f-散度隐私下噪声需与推土机距离成正比，还提出耦合机制，利用辅助信息在保障隐私的同时优化数据效用。
2019-09-30 cs.CR cs.DB cs.IT
Towards Privacy-Preserving LLM Inference via Covariant Obfuscation (Technical Report)
ByteDance（字节跳动）；Nanjing University（南京大学）
本文提出AloePri，首个适用于工业应用的隐私保护大语言模型推断方法，通过协变混淆同时保护输入输出数据，实现高准确性和隐私性，兼容现有基础设施。
2026-03-30 cs.AI cs.CR
Technical Report for the Forgotten-by-Design Project: Targeted Obfuscation for Machine Learning
RISE Research Institutes of Sweden（瑞典RISE研究所）
本文提出“被遗忘设计”方法，在训练中通过定向混淆保护隐私，相比机器遗忘更主动，实验表明可大幅降低隐私风险并保持模型性能。
2025-01-20 cs.AI cs.CR cs.LG
Topology of Privacy: Lattice Structures and Information Bubbles for Inference and Obfuscation
信息具有内在的几何和拓扑结构，产生于超越绝对值或类型的相对关系。例如，两个人分享一顿饭的事实描述了一种独立于食物成分的关系。多个这样的关系产生关系和它们的格。格具有拓扑结构。该拓扑结构告知信息可以被观察、隐藏、推断和掩饰的方式。道克定理建立了两个由关系导出的单纯复形之间的同伦等价。从隐私的角度来看，一个复合体描述具有共同属性的个体，另一个描述个体共享的属性。同伦等价产生一个格。格中的元素由两个部分组成，一个是个体的集合，另一个是属性的集合。格运算连接并满足每个量，以在一个组件中设置交集，并在另一个组件中设置并集，然后进行潜在的隐私打孔推断。隐私丧失表现为自由面的简单崩溃。这种崩溃是局部的，但完全保留属性和关联隐私的属性需要一个全局条件：一种特殊的球形洞。通过观察一个可识别的个体在其所包含的Dowker情结中的联系，人们可以通过另一个领域条件来表征该个体的属性隐私。即使长期的属性隐私是不可能的，同源性提供了下界如何个人可以推迟识别，当个人控制如何透露属性。直觉上，这个想法是首先揭示可以推断的信息。最后一个结果强调隐私是一个动态过程。隐私损失可以被描述为梯度流。用于隐私保护的谐波流可能是未来研究的沃土。
2017-12-12 cs.CR math.CO
HARPO: Learning to Subvert Online Behavioral Advertising
University of Southern California（南加州大学）；University of California, Davis（加州大学戴维斯分校）
在线行为广告和相关的跟踪工具构成了真正的隐私威胁。不幸的是，现有的隐私增强工具并不总是有效地对抗在线广告和跟踪。我们提出了Harpo，一种基于学习的原则性方法，通过混淆来颠覆在线行为广告。Harpo使用强化学习自适应地将真实页面访问与虚假页面交织在一起，以扭曲跟踪器对用户浏览配置文件的视图。我们根据真实世界的用户分析和用于在线行为广告的广告定位模型来评估Harpo。结果表明，Harpo通过触发超过40%的不正确兴趣段和6倍高的出价值来提高隐私。对于相同的开销，Harpo比现有的混淆工具性能高出16倍。Harpo还能够实现比现有混淆工具更好的对抗性检测。Harpo在利用模糊处理颠覆在线行为广告方面有意义地推进了最先进的技术
2021-11-24 cs.CR cs.LG
Defeating Image Obfuscation with Deep Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Cornell Tech（康奈尔科技校区）
我们证明了基于人工神经网络的现代图像识别方法可以从各种形式的混淆保护的图像中恢复隐藏的信息。本文中考虑的模糊技术是马赛克（也称为像素化），模糊（如YouTube所使用的）和P3，最近提出的一种用于隐私保护照片共享的系统，该系统加密重要的JPEG系数，使图像无法被人类识别。我们凭经验展示了如何训练人工神经网络，以成功地识别人脸和识别对象和手写数字，即使图像是使用任何上述混淆技术保护。
2016-09-06 cs.CR cs.CV
EmojiPrompt: Generative Prompt Obfuscation for Privacy-Preserving Communication with Cloud-based LLMs
Rutgers University（罗格斯大学）；University of Michigan（密歇根大学）
针对云端大语言模型的用户隐私泄露风险，提出生成式提示混淆范式EmojiPrompt，用语言与非语言元素混淆隐私数据，在8个数据集上验证其兼具隐私保护能力与良好甚至更优的任务性能。
2025-03-20 cs.AI cs.CL cs.CR
DeepBlur: A Simple and Effective Method for Natural Image Obfuscation
Purdue University（普渡大学）
由于社交媒体和监控系统的普及，以及面部识别软件的进步，人们对隐私的担忧越来越大。然而，已建立的图像混淆技术或者易受人类或深度学习模型的重新识别攻击，不足以保持图像保真度，或者计算量太大而不实用。为了解决这些问题，我们提出了DeepBlur，这是一种简单而有效的图像模糊方法，通过在无条件预训练的生成模型的潜在空间中进行模糊处理，该生成模型能够合成照片般逼真的面部图像。我们通过效率和图像质量将其与现有方法进行比较，并对最先进的深度学习模型和工业产品（例如，Face++，Microsoft Face服务）。实验表明，我们的方法产生高质量的输出，是大多数测试用例的最强防御。
2021-03-31 cs.CR cs.CV cs.MM
