Sequential Auditing for f-Differential Privacy
Aarhus University（奥胡斯大学）；Ruhr University Bochum（波鸿鲁尔大学）；Georgia Institute of Technology（佐治亚理工学院）
提出基于输出样本的顺序审计器，自适应确定样本量以检测f-DP违规，降低采样成本，支持白盒和黑盒设置。
2026-06-18 cs.CR stat.ME stat.ML
Private Adaptive Optimization with Side Information
Carnegie Mellon University（卡内基梅隆大学）；Google DeepMind（谷歌DeepMind）；Google Research（谷歌研究院）
自适应优化方法已经成为许多机器学习任务的默认求解器。不幸的是，当使用差分隐私进行训练时，自适应性的好处可能会降低，因为为确保隐私而添加的噪声会降低自适应预处理器的有效性。为此，我们提出了AdaDPS，一个通用的框架，使用非敏感的边信息来预处理梯度，允许在私人设置中有效地使用自适应方法。我们正式表明AdaDPS减少了实现类似隐私保证所需的噪声量，从而提高了优化性能。从经验上讲，我们利用简单和现成的辅助信息来探索AdaDPS在实践中的性能，与集中式和联邦设置中的强大基线进行比较。我们的研究结果表明，AdaDPS平均将准确率提高了7.7%（绝对值）-在大规模文本和图像基准测试中获得了最先进的隐私实用性权衡。
2022-06-25 cs.CR cs.LG stat.ML
Equivalence Testing Under Privacy Constraints
本文提出在隐私保护下进行等价性检验的新方法，通过模拟校准解决有限样本分布难以解析的问题，确保在隐私预算增加时维持显著性错误控制并保持统计功效。
2026-04-07 stat.AP stat.ML
RDP-GAN: A Rényi-Differential Privacy based Generative Adversarial Network
Nanjing University of Science and Technology（南京理工大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；University of Technology Sydney（悉尼科技大学）；Jinan University（暨南大学）；Princeton University（普林斯顿大学）
生成对抗网络（GAN）因其能够生成具有高隐私保护的真实样本而受到越来越多的关注。在不直接与训练样本交互的情况下，生成模型可以完全用于估计原始数据集的潜在分布，而判别模型可以通过将标签值与训练样本进行比较来检查生成样本的质量。然而，当GANs应用于敏感或私人的训练样本时，例如医疗或财务记录，仍然有可能泄露个人的敏感和私人信息。为了减轻这种信息泄漏并构建私有GAN，在这项工作中，我们提出了一个雷尼差分私有GAN（RDP-GAN），它通过在训练期间仔细地在损失函数的值上添加随机噪声来实现GAN中的差分隐私（DP）。此外，我们推导出的分析结果的总隐私损失下的子采样方法和累积迭代，这表明它的隐私预算分配的有效性。此外，为了减轻噪声注入带来的负面影响，我们对算法进行了改进，增加了自适应噪声调整步骤，根据测试精度的不同，调整噪声的大小。通过大量的实验结果，我们验证了该算法可以实现更好的隐私水平，同时产生高质量的样本相比，基准DP-GAN方案的基础上噪声扰动的训练梯度。
2020-07-04 cs.CR cs.LG cs.NI
Differentially Private Chi-Squared Hypothesis Testing: Goodness of Fit and Independence Testing
假设检验是一种有用的统计工具，用于根据总体样本确定是否应拒绝给定模型。样本数据可能包含有关个人的敏感信息，例如医疗信息。因此，重要的是要设计统计测试，以保证数据中受试者的隐私。在这项工作中，我们研究了假设检验受差异隐私，特别是卡方检验的拟合优度的多项式数据和两个分类变量之间的独立性。我们提出了新的测试适合的拟合优度和独立性测试，像经典版本可以用来确定是否一个给定的模型应该被拒绝或不，另外可以确保差分隐私。我们给出了基于蒙特卡罗的假设检验以及更严格遵循经典卡方拟合优度检验和皮尔逊卡方独立性检验的假设检验。至关重要的是，我们的测试考虑了注入的噪声的分布，以确保在确定显著性时的隐私。我们表明，这些测试可以用来实现所需的显着性水平，在鲜明的对比，直接应用经典的测试，以不同的私人列联表，这可能会导致广泛变化的显着性水平。此外，我们还研究了这些测试的统计功效。我们的经验表明，为了达到与经典非私人测试相同的功效水平，我们的新测试只需要相对适度地增加样本量。
2016-06-02 cs.CR math.ST stat.TH
DP-MERF: Differentially Private Mean Embeddings with Random Features for Practical Privacy-Preserving Data Generation
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Tübingen（图宾根大学）；ETH Zurich（苏黎世联邦理工学院）
我们提出了一个不同的私人数据生成范式使用随机特征表示的内核均值嵌入时，比较真实数据的分布与合成数据。我们利用随机特征表示有两个重要的好处。首先，我们需要最小的隐私成本来训练深度生成模型。这是因为与需要在所有真实和合成数据点对上计算核矩阵的基于核的距离度量不同，我们可以将数据依赖项与仅依赖于合成数据的项分离。因此，我们只需要扰动数据依赖项一次，然后在生成器训练期间重复使用它。其次，我们可以得到一个分析的灵敏度的核均值嵌入的随机特征是范数有界的建设。这消除了超参数搜索裁剪范数来处理发电机网络的未知灵敏度的必要性。我们提供了我们的算法的几个变体，具有随机特征的差分私有均值嵌入（DP-MERF），以联合生成标签和数据集（如异构表格数据和图像数据）的输入特征。我们的算法在多个数据集上进行测试时，实现了比现有方法更好的隐私-效用权衡。
2021-06-01 cs.LG stat.ML
Privacy-Enhanced Methods for Comparing Compressed DNA Sequences
在本文中，我们研究的方法，以提高效率和隐私的压缩DNA序列比较计算，在各种查询场景。例如，一个场景涉及查询者Bob，其想要测试他的DNA字符串$Q$是否接近于数据所有者Alice所拥有的DNA字符串$Y$，但是Bob不想向Alice揭示$Q$，并且Alice愿意向Bob揭示$Y$，因为$Q$接近于$Q$。我们描述了一种隐私增强的方法，用于比较两个压缩的DNA序列，它可以用来实现这样一个场景的目标。我们的方法涉及到一个减少设置差异，我们描述了一个隐私增强协议设置差异，实现绝对隐私的鲍勃（在信息理论意义上），和量化程度的隐私保护爱丽丝。我们的协议，这使得他们非常适合隐私增强的DNA序列比较问题的一个重要特征是，我们的解决方案的通信复杂性是成比例的阈值，限制的基数集的差异，是感兴趣的，而不是基数集的参与（这与DNA序列的长度）。此外，在我们的协议中，查询器，鲍勃，可以很容易地计算集差，只有当它的基数接近或低于指定的阈值。
2011-07-18 cs.CR cs.DS
Comparing privacy notions for protection against reconstruction attacks in machine learning
EPFL（洛桑联邦理工学院）；Macquarie University（麦考瑞大学）；INRIA（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；UNSW Canberra（新南威尔士大学堪培拉校区）
本文针对联邦学习中不同差分隐私变体之间隐私参数含义不一致导致难以公平比较的问题，提出基于Rényi差分隐私和贝叶斯容量的基础框架，用于比较$(ε,δ)$-DP与度量隐私机制对重构攻击的防护能力。
2025-02-06 cs.CR cs.IT cs.LG
Privacy Impact Assessment: Comparing methodologies with a focus on practicality
近年来，隐私和数据保护变得越来越重要，因为越来越多的企业和初创公司将收集个人数据作为其商业模式的一部分。GDPR的一个核心要求是对隐私关键系统实施数据保护影响评估。然而，法律并没有规定或建议使用任何特定的框架。在本文中，我们比较了不同的数据保护影响评估框架。我们开发了一种比较和评估方法，并将其应用于三个流行的影响评估框架。这个比较的结果显示了弱点和优点，但也清楚地表明，没有一个测试的框架满足所有期望的属性。因此，制定一个新的或改进的数据保护影响评估框架是今后工作的一个重要的未决问题，特别是对于具体部门的应用。
2021-10-14 cs.CR cs.CY
Benchmarking the Utility of Privacy-Preserving Cox Regression Under Data-Driven Clipping Bounds: A Multi-Dataset Simulation Study
Kyoto University Hospital, Kyoto, Japan（京都大学医院）；School of Interdisciplinary Mathematical Sciences, Meiji University, Tokyo, Japan（明治大学理工融合数学科学学院）
本文评估了数据驱动截断界限下隐私保护对Cox回归模型统计效用的影响，通过多数据集模拟研究发现，高ε值下显著性保真度要求较高，且输入扰动对模型性能有显著影响。
2026-04-23 cs.CR stat.AP stat.ME
Privacy Preserving in Non-Intrusive Load Monitoring: A Differential Privacy Perspective
Tsinghua University（清华大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
智能电表设备可以更好地了解需求，避免私人信息泄露的潜在风险。减轻这种风险的一种有希望的解决方案是将噪声注入到仪表数据中以实现一定水平的差分隐私。在本文中，我们投一次性的非侵入式负载监测（NILM）的压缩感知框架，并弥合NILM推理的理论精度和差分隐私的参数之间的差距。然后，我们推导出有效的理论界提供见解的差分隐私参数如何影响NILM的性能。此外，我们推广了我们的结论，提出了层次框架来解决多镜头NILM问题。数值实验验证了我们的分析结果，并提供更好的物理见解的差分隐私在各种实际情况下。这也说明了我们的工作对一般隐私保护机制设计的意义。
2020-11-12 cs.CR cs.LG cs.SY
Privacy-Preserving Synthetic Educational Data Generation
Inria Saclay（法国国家信息与自动化研究所萨克莱分院）
机构收集大量的学习痕迹，但出于隐私问题，它们可能不会披露。合成数据的产生为教育研究开辟了新的机会。在本文中，我们提出了一个生成模型的教育数据，可以保护参与者的隐私，并比较合成数据发电机的评估框架。我们将展示如何天真的匿名化可以导致重新识别的威胁，并建议技术，以保证隐私。我们评估我们的方法对现有的大量教育开放数据集。
2022-07-07 cs.AI cs.CR cs.CY
Quantifying Privacy: A Novel Entropy-Based Measure of Disclosure Risk
众所周知，数据采掘和统计分析对隐私造成了严重的影响。金融、医学、犯罪和市场研究都是如此。人们提出了许多技术来保护隐私，包括限制和数据修改。最近提出的隐私模型，如差分隐私和k-匿名受到了很多关注，对于后者，现在有几个改进的原始计划，每个消除一些安全性的缺点，前一个。然而，挑战在于评估和比较各种技术提供的隐私。在本文中，我们提出了一种新的基于熵的安全措施，可以应用于任何概括，限制或数据修改技术。我们使用我们的措施，经验评估和比较几个流行的方法，即查询限制，采样和噪声添加。
2014-09-07 cs.CR
Building cross-language corpora for human understanding of privacy policies
确保用户了解影响他们的隐私政策是真正GDPR部署的关键挑战。研究大多用英语进行，但在欧洲和其他地方，用户说的语言不是英语。用不同语言复制研究需要可比较的跨语言隐私政策语料库。这项工作提供了一种方法，用于在一种国家语言和一种参考研究语言中建立可比较的跨语言。我们提供了一个应用程序的例子，我们的方法比较英语和意大利语扩展语料库的第一个研究用户的理解技术条款的隐私政策。我们还调查了其他可能使复制更加困难的开放问题。
2023-02-10 cs.CR cs.CY
Clustering based Privacy Preserving of Big Data using Fuzzification and Anonymization Operation
大数据被数据挖掘机用于分析目的，其中可能包含敏感信息。在这个过程中，它给研究人员带来了一些隐私方面的挑战。现有的隐私保护方法在保护敏感数据的同时，由于算法的不同，导致数据重构的局限性。提出了一种基于聚类的大数据隐私保护概率模型，用于保护敏感信息。模型，以达到最小的干扰和最大的隐私。在我们的模型中，敏感信息是安全的后，确定敏感数据从数据集群修改或推广它。得到的数据集进行分析，以计算我们的模型的准确性水平方面的隐藏数据，丢失的数据作为重建的结果。进行了大量的实验，以证明我们提出的模型的结果。基于聚类的大数据中个体数据的隐私保护具有最小的扰动和成功的重建，除了使用标准的性能评估措施外，还突出了我们模型的重要性。
2020-01-06 cs.CR cs.DB
An Overview of AI and Blockchain Integration for Privacy-Preserving
Hainan University（海南大学）
本文综述了AI与区块链融合的隐私保护技术，涵盖应用场景、关键评估维度及未来发展方向，旨在提升隐私保护的效率与安全性。
2023-05-06 cs.AI cs.CR
OVRseen: Auditing Network Traffic and Privacy Policies in Oculus VR
虚拟现实（VR）是一种新兴技术，它可以实现新的应用，但也会带来隐私风险。在本文中，我们重点介绍了VR领域的领先平台Oculus VR（OVR），并从网络和隐私政策的角度，首次全面分析了OVR应用程序和平台本身暴露的个人数据。我们试用了Quest 2头显，并测试了Oculus官方和SideQuest应用商店中最受欢迎的VR应用程序。我们开发了OVRseen，一种用于收集、分析和比较OVR上的网络流量和隐私策略的方法和系统。在网络方面，我们捕获并解密了VR应用程序的网络流量，这在OVR上是不可能的，我们提取了数据流，定义为<app，数据类型，目的地>。与移动和其他应用生态系统相比，我们发现OVR更加集中，并且由跟踪和分析驱动，而不是由第三方广告驱动。我们展示了VR应用程序暴露的数据类型包括个人身份信息（PII）、可用于指纹识别的设备信息以及VR特定的数据类型。通过将网络流量中发现的数据流与应用程序隐私政策中的声明进行比较，我们发现大约70%的OVR数据流没有正确披露。此外，我们从隐私政策中提取了额外的上下文，我们观察到69%的数据流用于与应用程序核心功能无关的目的。
2021-11-19 cs.CR cs.NI
A Cautionary Tale: On the Role of Reference Data in Empirical Privacy Defenses
SAP Labs France（法国SAP实验室）；Inria（法国国家信息与自动化研究所）；Université Côte d’Azur（蔚蓝海岸大学）；Univ. Côte d’Azur（蔚蓝海岸大学）；CNRS（法国国家科学研究中心）；I3S（I3S研究所）；Accenture Labs（埃森哲实验室）
本文揭示了经验性隐私防御中常被忽视的参考数据隐私问题，提出一种基于加权经验风险最小化的基线防御方法，实验表明其优于现有最先进方法，并强调需联合评估模型效用、训练数据隐私与参考数据隐私。
2023-10-18 cs.AI cs.CR cs.LG
Evaluating Selective Encryption Against Gradient Inversion Attacks
Information Networking Institute（信息网络研究所）；Carnegie Mellon University（卡内基梅隆大学）；TensorOpera AI；Department of Electrical and Computer Engineering（电气与计算机工程系）
本文系统评估了选择性加密在对抗梯度反演攻击中的效果，提出基于距离的重要性分析框架，并发现梯度幅度是普遍有效的度量，同时为不同模型和隐私需求提供了策略选择指南。
2025-08-06 cs.CR cs.LG
User Interaction Data in Apps: Comparing Policy Claims to Implementations
本研究通过静态分析排名前100的移动应用，调查了隐私政策声明与实际用户交互数据收集行为之间的差距，发现数据收集缺乏透明度且存在用户重识别风险，强调了增强隐私实践透明度的重要性。
2023-12-05 cs.CR cs.SE cs.SI
When and where do you want to hide? Recommendation of location privacy preferences with local differential privacy
近年来，相当精确地获得位置信息已经变得容易。但此类信息的获取存在个人身份识别、敏感信息泄露等风险，需要保护位置信息的隐私。为此，人们应该知道他们的位置隐私偏好，即他/她是否可以在每个地点和时间发布位置信息。然而，每个用户做出这样的决定并不容易，并且每次设置隐私偏好是麻烦的。因此，我们提出了一种方法来推荐位置隐私偏好的决策。与现有方法相比，该方法利用矩阵分解提高了推荐的准确率，并利用局部差分隐私严格保护隐私，而现有方法没有实现形式化的隐私保护。此外，我们还找到了一个位置隐私偏好的最佳粒度，即如何表达位置隐私保护中的信息。为了评估和验证我们的方法的实用性，我们已经整合了两个现有的数据集，以创建一个丰富的用户数量方面的信息。从使用该数据集的评估结果中，我们证实了我们的方法可以准确地预测位置隐私偏好，并且它提供了一种合适的方法来定义位置隐私偏好。
2019-04-24 cs.CR cs.DB
User Behavior Analysis in Privacy Protection with Large Language Models: A Study on Privacy Preferences with Limited Data
University of Houston（休斯顿大学）；Brown University（布朗大学）；University of Miami（迈阿密大学）；Nagoya University（名古屋大学）；University of Michigan（密歇根大学）；Northern Arizona University（北亚利桑那大学）
针对数据有限场景下的用户隐私偏好建模难题，提出融合少样本学习与隐私计算的LLM方法，并结合差分隐私与联邦学习，在提升建模准确性的同时降低数据暴露风险。
2025-05-08 cs.AI cs.CR
Congenial Differential Privacy under Mandated Disclosure
不同的私有数据发布通常需要满足一系列外部约束，这些约束反映了数据管理者有义务遵守的法律、道德和逻辑要求。强制执行限制，如果被视为后处理，则在私有化数据的生产中增加了一个额外的阶段。在多阶段处理的理论中很好地理解，相性（congeniality）（阶段之间的程序兼容性的一种形式）是最终用户直接获得统计上有效的结果的先决条件。适宜的差分隐私在理论上是有原则的，它促进了机制的透明性和可理解性，否则这些机制将被特设的后处理过程所破坏。我们主张通过标准的概率条件不变的利润率的系统集成的强制披露到隐私机制的设计。条件作用自动地呈现适宜性，因为任何额外的后处理阶段变得不必要。我们提供了初始的理论保证和马尔可夫链算法，我们的建议。我们还讨论了比较先天性差分隐私和基于优化的后处理中出现的有趣的理论问题，以及进一步研究的方向。
2020-08-24 cs.CR
Evaluation of Open-source Tools for Differential Privacy
差分隐私（DP）通过承诺同意共享其隐私敏感信息的个体与不同意共享其隐私的个体之间的量化不可否认性来定义隐私保护。DP旨在通过在发布的数据中包含精心制作的随机噪声元素来实现这一承诺，因此在隐私保护程度和利用受保护数据的能力之间存在固有的权衡。目前，提出了几个开放源码工具来提供DP。据我们所知，目前还没有全面的研究来比较这些开源工具在平衡DP固有权衡以及系统资源使用方面的能力。这项工作为隐私保护解决方案提出了一个开源评估框架，并为OpenDP Smartnoise，Google DP，PyTorch Opacus，Tensorflow Privacy和Diffprivlib提供了评估。除了研究它们平衡上述权衡的能力之外，我们还考虑了离散和连续属性，通过量化它们在不同数据大小下的性能。我们的研究结果揭示了几种模式，开发人员在选择不同的应用程序的需求和标准的工具时，应该记住。这一评价调查可以作为改进开放源码发展伙伴关系工具选择和更快适应发展伙伴关系的基础。
2022-05-24 cs.CR
Causally Constrained Data Synthesis for Private Data Release
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Microsoft Research（微软研究院）
基于证据的决策需要数据。然而，对于现实世界的应用程序，数据的隐私是至关重要的。使用反映原始数据的某些统计特性的合成数据保留了原始数据的隐私。为此，先前的工作利用不同的私有数据发布机制来提供正式的隐私保证。然而，这种机制具有不可接受的隐私与实用性权衡。我们建议将因果信息纳入训练过程，以有利地修改上述权衡。我们从理论上证明，生成模型与额外的因果知识训练提供更强的差分隐私保证。从经验上讲，我们评估我们的解决方案比较不同的模型的基础上变分自动编码器（VAE），并表明因果信息提高了弹性的成员推断，下游效用的改善。
2021-05-27 cs.CR cs.LG
Privacy-Preserving Continuous Event Data Publishing
流程挖掘使组织能够使用事件数据发现和分析其实际流程。事件数据可以从支持操作流程的任何信息系统中提取，例如，SAP.尽管使用访问控制机制来保护这种系统内部的数据，但是所提取的事件数据包含需要保护的敏感信息。这就产生了新的风险，并可能阻碍流程采矿的应用。因此，进程挖掘中的隐私问题变得越来越重要。已经引入了几种隐私保护技术来减轻针对仅发布一次的静态事件数据的可能攻击。但是，为了保持流程挖掘结果是最新的，需要持续发布事件数据。例如，在每周结束时创建一个新日志。在本文中，我们详细介绍了攻击，可以对连续发布的匿名事件数据，通过比较不同的版本，所谓的通信攻击。特别是，我们专注于基于组的隐私保护技术，并表明所提供的隐私要求可以降低利用通信攻击。我们将连续事件数据发布方案应用于现有的真实事件日志，并在发起攻击之前和之后报告匿名指标。
2021-05-25 cs.CR
A unified interpretation of the Gaussian mechanism for differential privacy through the sensitivity index
Technical University of Munich（慕尼黑工业大学）；Imperial College London（帝国理工学院）
高斯机制是实现差分隐私的一种普遍采用的工具，大量的研究工作都致力于它的分析。我们认为，三个流行的解释GM，即$(\varepsilon, δ)$ -DP，f-DP和雷尼DP可以表示通过使用一个单一的参数$ψ$，我们的术语的敏感性指数。$ψ$通过封装GM的两个基本量来唯一地表征GM及其属性：查询的灵敏度和噪声扰动的幅度。与ROC曲线和DP的假设检验解释有很强的联系，$ψ$为从业者提供了一个强大的方法来解释，比较和交流高斯机制的隐私保证。
2021-09-22 cs.CR cs.IT cs.LG
Differential Privacy in Cooperative Multiagent Planning
The University of Florida（佛罗里达大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
隐私感知的多智能体系统必须保护代理的敏感数据，同时确保代理完成他们的共同目标。为了实现这一目标，我们提出了一个框架，私有化的智能体通信在合作多智能体决策问题。我们研究序列决策问题制定为合作马尔可夫博弈达到避免目标。我们应用差分隐私机制私有化代理的沟通象征性的状态轨迹，然后我们分析隐私的强度和团队的表现之间的权衡。对于一个给定的隐私水平，这种权衡严重依赖于代理的状态动作过程之间的总相关性。我们合成的政策，是强大的隐私减少的总相关值。数值实验表明，在这些政策下，团队的表现下降了3%，当比较私人与非私人的通信实现。相比之下，当使用忽略总体相关性而只优化团队绩效的基线策略时，团队的绩效下降了大约86%。
2023-01-20 cs.AI cs.CR cs.MA
Towards Privacy-Preserving Data-Driven Education: The Potential of Federated Learning
University of Bergen（卑尔根大学）
本文通过教育数据预测实验比较联邦学习与传统非联邦方法，证明其准确率相当且在对抗攻击下更具韧性，为教育隐私保护提供可行路径。
2025-03-16 cs.AI cs.CR cs.LG
RIOT-based smart metering system for privacy-preserving data aggregation using watermarking and encryption
针对智能电网中智能电表数据的隐私安全风险，本研究提出结合可逆水印与AES加密的隐私保护数据聚合协议，分高低频电表适配不同水印方案，经RIOT系统硬件实验验证，其隐私保护效果优于现有方案。
2025-01-13 cs.CR
Not All Browsers Are Created Equal: Comparing Web Browser Fingerprintability
即使没有永久IP地址或Cookie，也可以跟踪浏览器及其用户。唯一的并且因此识别的信息片段，构成所谓的指纹，可以由被访问的网站从浏览器收集，例如使用JavaScript。然而，浏览器在精确地提供哪些信息方面有所不同，因此它们的指纹识别能力也可能有所不同。在本文中，我们报告的结果，实验研究的指纹属性提供了一系列的现代浏览器。我们测试了桌面和移动平台上最广泛使用的浏览器。结果显示，浏览器之间在指纹识别潜力方面存在显着差异，这意味着浏览器的选择具有显着的隐私影响。
2019-07-08 cs.CR
Balancing the privacy-utility trade-off: How to draw reliable conclusions from private data
Federal Statistical Office（联邦统计局）
本文提出基于假设检验的新视角，量化相对披露风险，分析DP对统计显著性检验的影响，为非技术利益相关者提供隐私效用权衡的实用指导。
2026-08-31 cs.CR stat.ME
PrivFED -- A Framework for Privacy-Preserving Federated Learning in Enhanced Breast Cancer Diagnosis
针对医疗数据交换的隐私安全及数据稀缺、不平衡问题，本研究提出隐私保护联邦学习框架PrivFED，结合SMOTE、孤立森林、Catboost与PCA，在Wisconsin数据集上实现边缘设备99.95%、中心服务器98%的乳腺癌诊断准确率。
2024-05-13 cs.CR
Antipodes of Label Differential Privacy: PATE and ALIBI
Facebook AI；Stanford University（斯坦福大学）
我们考虑隐私保护机器学习（ML）设置，其中训练模型必须满足训练样本标签的差分隐私（DP）。我们提出了两种新的方法的基础上，分别拉普拉斯机制和PATE框架，并证明其有效性的标准基准。虽然Ghazi等人最近的工作提出了基于随机响应机制的标签DP方案，但我们认为加性拉普拉斯噪声加上贝叶斯推理（ALIBI）更适合典型的ML任务。此外，我们展示了如何在某些制度中实现非常强大的隐私级别，我们适应的PATE框架，建立在半监督学习的最新进展。我们补充我们的算法的隐私保证与经验评估其记忆性能的理论分析。我们的评估表明，比较不同的算法，根据其可证明的DP保证可能会产生误导，有利于一个更严格的分析，更少的私人算法。用于实现算法和记忆攻击的代码可从www.example.com获得。
2021-10-29 cs.CR cs.LG
Towards Fair and Privacy Preserving Federated Learning for the Healthcare Domain
本文针对医疗领域的数据异构性问题，提出了一种在异构条件下评估公平性感知联邦学习（FAFL）机制的基准方法，发现不同FAFL方案对数据异构性的响应差异显著，且隐私保护条件会显著增加网络通信成本和延迟。
2023-08-03 cs.CR
Location Data and COVID-19 Contact Tracing: How Data Privacy Regulations and Cell Service Providers Work In Tandem
全球范围内的政府、医疗保健和私人组织一直在使用数字跟踪来控制COVID-19的爆发。虽然这种方法可以限制流行病的传染，但它引起了对用户隐私的严重关注。这些移动应用程序被称为“联系人跟踪应用程序”，由手机服务提供商（CSP）提供便利，他们能够实现空间和时间的实时用户跟踪。因此，可以推测CSP收集违反GDPR、CCPA等隐私政策的信息。为了进一步澄清，我们进行了深入的分析，将隐私立法与CSP采用的现实实践进行了比较。我们发现，其中三项法规（GDPR、COPPA和CCPA）将移动位置数据定义为私人信息，而五个CSP中有两个（T-Mobile US、Boost Mobile）不符合COPPA法规。鉴于这些侵权行为所构成的威胁，我们的研究结果至关重要，特别是在涉及儿童数据时。因此，适当的安全和隐私审计是必要的，以减少此类违规行为。最后，我们提供了可行的建议，以解决问题，并通过接触者追踪应用程序提供对COVID-19传播的隐私保护监测。
2021-04-07 cs.CR cs.CY
SafeSynthDP: Leveraging Large Language Models for Privacy-Preserving Synthetic Data Generation Using Differential Privacy
University of Alberta（阿尔伯塔大学）
SafeSynthDP研究如何将差分隐私噪声注入大型语言模型生成的合成数据中，以在保护隐私的同时维持数据效用，并通过实验验证其对成员推断攻击的抵御能力及模型训练性能。
2024-12-30 cs.CR cs.LG
Listen to the Voices of Everyday Users: Democratizing Privacy Ratings for Sensitive Data Access in Mobile Apps
Huazhong University of Science and Technology（华中科技大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出民主化隐私评估范式，通过用户参与设计开发DePRa系统，评估用户对敏感数据访问的隐私评分，验证其在补充专家审计中的可行性与包容性。
2026-04-27 cs.CR cs.HC
Privacy in Theory, Bugs in Practice: Grey-Box Auditing of Differential Privacy Libraries
PreMeDICaL team, Inria, Idesp, Inserm, Université de Montpellier（普雷梅迪卡尔团队，法国国家信息与自动化研究所，德帕斯研究中心，法国健康与医学研究院，蒙彼利埃大学）；Technical University of Munich（慕尼黑工业大学）；Oblivious（奥比维厄斯）
本文提出Re:cord-play方法，通过检查差分隐私算法的内部状态，发现12个开源库中的13个隐私违规问题，提供有效的隐私测试框架。
2026-02-19 cs.CR
Honesty is the Best Policy: On the Accuracy of Apple Privacy Labels Compared to Apps' Privacy Policies
本文微调基于 BERT 的模型，分析 iOS App Store 中 474,669 款 app 的隐私政策与 Apple 隐私标签，发现二者普遍不一致，并提出可将该系统用作开发者标签准确性的初步检查。
2024-06-16 cs.CR
Achieving Data Utility-Privacy Tradeoff in Internet of Medical Things: A Machine Learning Approach
物联网在医疗卫生领域的应用--医疗物联网（IoMT）的出现和快速发展，给现代医疗卫生系统带来了诸多变化和挑战。特别地，机器学习技术可用于处理IoMT中涉及的数据，用于医学分析和疾病诊断。然而，在这一过程中，个人隐私信息的披露必须得到相当的重视，特别是敏感的医疗数据。聚类分析是医学分析和疾病诊断的重要技术。为了在物联网中实现隐私保护的聚类分析，提出了一种基于MapReduce框架的高效差异私有数据聚类方案（EDPDCS）。在EDPDCS中，我们优化隐私预算的分配和初始质心的选择，以提高差分隐私K-means聚类算法的准确性。具体地，根据每次迭代的总隐私预算和最小隐私预算，将K-means算法的迭代次数设置为固定值。此外，提出了一种改进的初始质心选择方法，以提高聚类算法的准确性和效率。最后，我们证明了所提出的EDPDCS可以提高差分私有k-means算法的准确性，通过比较我们的算法在两个数据集上产生的归一化聚类内方差（NICV）与其他两种算法。
2019-02-08 cs.CR
Flexible and Robust Privacy-Preserving Implicit Authentication
隐式身份验证由服务器基于用户的使用配置文件对用户进行身份验证组成，而不是/除了依赖于用户明确知道的内容（密码，私钥等）之外。虽然隐式身份验证使第三方窃取身份变得更加困难，但它要求服务器学习并存储用户的使用配置文件。最近，第一个隐私保护隐式认证系统被提出，其中服务器不学习用户的配置文件。它使用一个特别的两方计算协议来比较用户的新鲜采样功能对加密存储的用户的配置文件。该协议需要存储使用配置文件，并使用两种不同的密码系统进行比较，其中一种密码系统是保序的;此外，特征必须是数字的。我们在这里提出了一个更简单的协议，基于集合交集，具有以下优点：i）只需要一个密码系统; ii）不泄漏新鲜特征样本的相对顺序; iii）能够处理任何类型的特征（数值或非数值）。保留字：隐私保护隐式身份验证，隐私保护集合交集，隐式身份验证，主动身份验证，透明身份验证，风险缓解，数据代理。
2015-03-02 cs.CR
Epistemic Parity: Reproducibility as an Evaluation Metric for Differential Privacy
本文提出以“认知对等性”作为差分隐私合成数据的评估指标，通过复现真实论文结论并比较其在DP合成数据上的可复现性，发现现有合成器对部分研究可实现高对等性，但某些发现仍难以复现，从而倡导面向特定应用威胁模型的新机制。
2023-05-31 cs.CR cs.CY
Security and Privacy of IP-ICN Coexistence: A Comprehensive Survey
本文首次系统综述IP与ICN共存架构的安全与隐私问题，通过横向比较覆盖、底层和混合三种部署方式及纵向比较十项SP特性，揭示现有架构在机密性、可用性和匿名性等方面的不足，并指出未来研究方向。
2023-07-11 cs.CR cs.CY cs.NI
Technology Review of Blockchain Data Privacy Solutions
本报告的目的是审查现有的企业区块链技术- EOSIO驱动的系统，Hyperledger Fabric和Besu，Consensus Quorum，R3 Corda和Ernst and Young's Nightfall -这些技术提供数据隐私，同时利用区块链的数据完整性优势。通过审查和比较这些技术如何以及如何实现数据隐私，捕捉行业当前最佳实践和数据隐私模型的快照。主要的企业技术与EOSIO并行对比，以更好地了解EOSIO如何发展以满足企业区块链隐私的趋势。在这些技术中通常观察到以下策略和趋势：加密：哈希算法被发现是企业或转换隐私解决方案中最常用的加密原语。通过链上合同进行协调-一个常见的策略是使用共享的公共分类账来协调数据隐私组以及更普遍的管理身份和访问控制。交易和合约代码共享：围绕业务逻辑（智能合约代码）可见性存在各种不同级别的隐私。一些解决方案只允许授权的同行查看代码，而另一些解决方案则允许共享账本成员的每个人都可以访问代码。数据隐私应用程序的数据迁移：在能够运行系统升级方面，使用加密存储的数据时存在重大挑战。用于数据隐私的多个区块链分类账：解决方案试图为每个私人数据关系创建一个新的私人区块链，这最终被放弃，转而支持一个具有私人数据汇集/交易的共享分类账，这些数据收集/交易通过散列锚定到分类账，以提高可扩展性。
2021-05-04 cs.CR cs.DC
Technical Report for the Forgotten-by-Design Project: Targeted Obfuscation for Machine Learning
RISE Research Institutes of Sweden（瑞典RISE研究所）
本文提出“被遗忘设计”方法，在训练中通过定向混淆保护隐私，相比机器遗忘更主动，实验表明可大幅降低隐私风险并保持模型性能。
2025-01-20 cs.AI cs.CR cs.LG
Privacy Preserving Properties of Vision Classifiers
IIT Bombay（印度理工学院孟买分校）
本研究系统评估了MLPs、CNNs和ViTs等视觉分类器架构的隐私保护特性，利用网络反演技术量化了不同架构对训练数据的记忆与泄露程度，揭示了架构差异对隐私风险的影响，为安全机器学习系统的设计提供了指导。
2025-02-02 cs.CR cs.CV cs.LG
BPFISH: Blockchain and Privacy-preserving FL Inspired Smart Healthcare
Indian Institute of Technology (Banaras Hindu University) Varanasi（瓦拉纳西印度理工学院（贝拿勒斯印度教大学））
本文提出了基于联邦学习（FL）的智能医疗系统，其中医疗中心（MC）使用从患者收集的数据训练本地模型，并将模型权重发送给基于区块链的健壮框架中的矿工，而无需共享原始数据，并考虑隐私保护。我们通过最大化效用和最小化损失函数来制定优化问题，考虑MC的能量消耗和FL过程延迟，以在基于区块链的框架下学习分布式医疗数据的有效模型。我们分两个阶段提出了一个解决方案：首先，提供一个稳定的基于匹配的关联算法，以最大化矿工和MC的效用，然后使用随机梯度下降（SGD）算法解决损失最小化问题，该算法采用差分隐私（DP）和区块链技术下的FL。此外，我们结合区块链技术，在拟议的基于FL的框架中提供耐调和和分散的模型权重共享。该模型的有效性，通过模拟现实世界的医疗数据比较其他国家的最先进的技术。
2022-07-27 cs.CR cs.LG cs.NI
Byzantine-Robust Federated Learning with Variance Reduction and Differential Privacy
University of Nevada, Reno（内华达大学里诺分校）
提出一种新的联邦学习方案，通过在客户端级差分隐私机制中引入稀疏化和动量驱动的方差缩减，在保证严格隐私的同时增强系统对拜占庭攻击的鲁棒性。
2023-09-07 cs.CR cs.LG
Privacy preserving n-party scalar product protocol
Maastricht University Medical Centre+（马斯特里赫特大学医学中心+）；Statistics Netherlands（荷兰统计局）
隐私保护机器学习能够在分散的数据集上训练模型，而无需在水平和垂直分区的数据上显示数据。然而，它依赖于专门的技术和算法来执行必要的计算。保护隐私的标量积协议，它使矢量的点积而不泄露它们，是其多功能性的一个流行的例子。不幸的是，目前在文献中提出的解决方案主要集中在两方的情况下，即使有更多的数据方的情况下变得更加相关。例如，当执行需要对满足跨各个站点定义的某些标准的样本的数量进行计数的分析时，例如计算决策树中的节点处的信息增益。在本文中，我们提出了一个推广的协议为任意数量的缔约方，现有的两方方法的基础上。我们提出的解决方案依赖于较小的标量产品的递归分辨率。在描述了我们提出的方法之后，我们讨论了潜在的可扩展性问题。最后，我们描述了隐私保证，并确定任何问题，以及比较所提出的方法在这方面的原始解决方案。
2023-02-12 cs.CR cs.LG
Automated Experiments on Ad Privacy Settings: A Tale of Opacity, Choice, and Discrimination
为了部分解决人们对网络跟踪的担忧，谷歌创建了广告设置网页，以提供有关谷歌为用户创建的个人资料的信息和一些选择。我们提出了AdFisher，一个自动化的工具，探讨如何用户行为，谷歌的广告和广告设置互动。AdFisher可以运行基于浏览器的实验，并使用机器学习和显著性测试分析数据。我们的工具使用严格的实验设计和统计分析，以确保我们的结果的统计合理性。我们使用AdFisher发现，广告设置对用户个人资料的某些功能是不透明的，它确实提供了一些广告选择，这些选择可能会导致看似歧视性的广告。特别是，我们发现访问与药物滥用相关的网页会改变显示的广告，但不会改变设置页面。我们还发现，将性别设置为女性会导致与高薪工作相关的广告比将其设置为男性更少。由于我们对广告生态系统（包括Google、广告商、网站和用户）的了解有限，我们无法确定是谁导致了这些结果。然而，这些结果可以成为公司本身或监管机构进行更深入调查的起点。
2015-03-17 cs.CR
Privacy Preserving Data Imputation via Multi-party Computation for Medical Applications
University of Tübingen（蒂宾根大学）
本研究基于安全多方计算实现均值、中位数、回归和kNN等隐私保护数据插补方法，有效解决了医疗数据缺失与隐私保护的矛盾。
2024-05-29 cs.CR cs.LG
Privacy-Preserving Intrusion Detection in Software-defined VANET using Federated Learning with BERT
本文提出FL-BERT方法，将联邦学习与BERT序列分类结合用于软件定义VANET的隐私保护入侵检测，实验表明其在隐私安全和攻击检测方面优于现有工作。
2024-01-17 cs.CR
RewardDS: Privacy-Preserving Fine-Tuning for Large Language Models via Reward Driven Data Synthesis
South China University of Technology（华南理工大学）
针对大语言模型微调中的隐私数据泄露风险与现有差分隐私合成数据噪声大的问题，提出含奖励引导过滤、自优化精炼模块的RewardDS框架，用奖励信号引导合成数据生成与优化，经多领域实验验证有效。
2025-08-31 cs.AI cs.CR
