Privacy Amplification Persists under Unlimited Synthetic Data Release
Université de Lille, Inria, CNRS, Centrale Lille, UMR 9189 CRIStAL, F-59000 Lille, France（里尔大学、Inria、CNRS、Centrale Lille、UMR 9189 CRIStAL、法国里尔）；PreMeDICaL team, Inria, Idesp, Inserm, Université de Montpellier（PreMeDICaL团队、Inria、Idesp、Inserm、蒙彼利埃大学）
本文在参数有界假设下证明了即使发布无限数量的合成数据，隐私放大仍持续，改进了之前关于线性生成器的隐私保证界限。
2026-02-03 cs.CR cs.DS cs.LG
A statistical framework for differential privacy
统计隐私研究的目标之一是构建一种既保护个人隐私又保留信息内容的数据发布机制。一个示例是{ \em随机机制}，其采用输入数据库$X$并根据分布$Q_n(\cdot|X)$输出随机数据库$Z$。{ \em差分隐私}是计算机科学家开发的一种特殊隐私要求，其中要求$Q_n(\cdot |X)$对$X$中一个数据点的更改不敏感。这使得难以从$Z$推断给定个体是否在原始数据库$X$中。我们从统计学的角度考虑差异隐私。我们考虑几个数据发布机制，满足差异隐私的要求。我们表明，它是有用的，通过计算的收敛速率的分布和密度从发布的数据构建这些计划进行比较。我们研究了一种通用的隐私方法，称为指数机制，由McSherry和Talwar（2007）提出。我们表明，这种方法的准确性是密切相关的概率，经验分布集中在一个小球周围的真实分布的速度。
2009-10-02 math.ST stat.TH
Generating Higher-Fidelity Synthetic Datasets with Privacy Guarantees
Artificial Intelligence Lab（人工智能实验室）；EPFL（洛桑联邦理工学院（瑞士））
本文考虑了在常见的机器学习开发任务中增强用户隐私的问题，例如数据注释和检查，通过用生成对抗网络的样本代替真实数据。我们建议采用贝叶斯差分隐私的手段，以实现严格的理论保证，同时提供更好的隐私效用权衡。我们通过实验证明，与以前的工作相比，我们的方法产生了更高保真的样本，允许（1）检测更微妙的数据错误和偏差，以及（2）通过直接在人工样本上训练时实现高准确性来减少对真实数据标签的需求。
2020-03-02 cs.AI cs.CR cs.LG
Comparative Study of Differentially Private Synthetic Data Algorithms from the NIST PSCR Differential Privacy Synthetic Data Challenge
Urban Institute（城市研究所）；RAND Corporation（兰德公司）
差异化私有合成数据生成提供了一种最新的解决方案，可以发布分析上有用的数据，同时保护数据中个人的隐私。为了将这些算法用于公共政策决策，决策者需要准确了解这些算法的比较性能。相应地，数据从业者需要标准的指标来评估合成数据的分析质量。在本文中，我们使用2018-2019年国家标准与技术研究院公共安全通信研究（NIST PSCR）部门的“差分隐私合成数据挑战赛”中参赛者创建的实际差分私有合成数据集，对几种差分私有合成数据算法进行了深入评估。我们根据这些算法创建的数据的准确性以及潜在数据提供商的可用性对它们进行分析。我们在NIST PSCR数据挑战中使用的方法框架在更广泛的差异私人合成数据文献中。我们实现了额外的效用指标，包括我们自己的两个，在不同的私人合成数据和比较机制效用的三个类别。我们的差异私人数据合成方法和质量指标的比较评估显示的相对有用性，一般的优点和缺点，并提供了首选的算法和指标。最后，我们描述了我们的评估政策制定者寻求实现差异化的私人合成数据算法对未来的数据产品的影响。
2020-10-12 cs.CR cs.LG stat.AP
Privacy-preserving data sharing via probabilistic modelling
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；University of Helsinki（赫尔辛基大学）；University of Manchester（曼彻斯特大学）；Aalto University（阿尔托大学）
差异隐私允许量化访问敏感个人数据造成的隐私损失。对底层数据的重复访问会导致越来越多的损失。将数据作为隐私保护合成数据发布可以避免这种限制，但会留下设计什么样的合成数据的问题。我们建议通过概率建模来制定私人数据发布的问题。这种方法将设计合成数据的问题转换为选择数据模型，还允许包括先验知识，这提高了合成数据的质量。我们在一项流行病学研究中以经验证明，统计发现可以从合成数据中可靠地重现。我们希望该方法在创建用于研究的关键数据集的高质量匿名数据双胞胎方面具有广泛的用途。
2021-03-01 cs.CR cs.LG stat.ML
Deep Generative Models, Synthetic Tabular Data, and Differential Privacy: An Overview and Synthesis
Queensland University of Technology（昆士兰科技大学）
该综述聚焦表格数据集场景，梳理了深度生成模型用于合成数据生成的最新进展，阐明其在隐私敏感数据场景的价值、优势与底层概念，分析了应用挑战，为相关研究者和从业者提供参考。
2023-08-27 cs.LG stat.AP stat.CO
Statistical Data Privacy: A Song of Privacy and Utility
为了量化开放数据共享需求的增长和对敏感信息泄露的担忧之间的权衡，统计数据隐私（SDP）方法分析了基于机密数据的净化输出的数据发布机制。目前存在两个主要框架：统计披露控制（SDC）和最近的差分隐私（DP）。尽管框架不同，但SDC和DP在核心上都有相同的统计问题。对于推理问题，我们可以设计满足披露风险界限的最佳释放机制和相关估计，或者我们可以调整现有的净化输出以创建新的最佳估计。这两个问题都依赖于评估风险和效用的不确定性量化。在这篇评论中，我们讨论了共同的统计基础，SDC和DP，强调SDP的主要发展，并提出了令人兴奋的开放式研究问题的私人推理。
2022-05-06 cs.CR stat.ME
Really Useful Synthetic Data -- A Framework to Evaluate the Quality of Differentially Private Synthetic Data
Cardiff University（卡迪夫大学）；University of Mannheim（曼海姆大学）
最近在生成合成数据方面取得的进展，允许增加保护隐私的原则性方法-如差别隐私-是以保护隐私的方式分享统计信息的关键一步。但是，虽然重点一直放在隐私保障上，但由此产生的私人合成数据只有在仍然包含原始数据的统计信息时才有用。为了进一步优化数据隐私和数据质量之间的内在权衡，有必要仔细考虑后者。数据分析师想要什么？承认数据质量是一个主观的概念，我们开发了一个框架来评估质量的差异私人合成数据从应用研究人员的角度来看。数据质量可以从两个维度来衡量。首先，合成数据的质量可以根据训练数据或基础人群进行评估。其次，合成数据的质量取决于分布的一般相似性或特定任务，如推理或预测。显然，同时兼顾所有目标是一项艰巨的挑战。我们邀请学术界共同推进隐私质量前沿。
2021-10-01 cs.LG stat.ML
How to DP-fy Your Data: A Practical Guide to Generating Synthetic Data With Differential Privacy
Google Research USA（谷歌DeepMind）；NYU Work done at Google as part of student researcher engagement New York NY USA；Google Research New York NY USA；Institute for Mathematical；Computational Engineering, Faculty of Mathematics；School of Engineering, Pontificia Universidad Cat\'olica de Chile Santiago Chile；Google DeepMind Mountain View CA USA；Google Research；School of Engineering, Pontificia Universidad Cat\'olica de Chile；Google DeepMind
研究如何利用差分隐私生成合成数据，探讨相关技术、保护类型及不同模态进展，概述系统组件，旨在推动差分隐私合成数据应用，促进研究并增强信任。
2026-07-13 cs.AI cs.CR cs.LG
pMSE Mechanism: Differentially Private Synthetic Data with Maximal Distributional Similarity
我们提出了一种方法，用于释放差异私人合成数据集。在许多情况下，数据包含敏感值，不能以原始形式发布，以保护个人隐私。合成数据是一种释放替代值的保护方法，而差分隐私（DP）是量化隐私损失的形式化保证。我们提出了一种方法，最大限度地提高合成数据相对于原始数据的分布相似性，使用称为pMSE的措施，同时保证ε差分隐私。此外，我们放松共同的DP假设的原始数据的分布和有界性。我们证明了隐私保证的理论结果，并提供了典型的计算限制下的理论结果的经验失败率的模拟。我们还给出了模拟的准确性的线性回归系数的合成数据相比，非差分私人合成数据和其他差分私人方法的准确性。此外，我们的理论结果扩展了先前的基尼指数的敏感性，包括连续的预测结果。
2018-05-23 stat.ME
Mitigating Statistical Bias within Differentially Private Synthetic Data
University of Oxford（牛津大学）；University of Warwick（华威大学）；Universitat Pompeu Fabra（庞培法布拉大学）；University of Kaiserslautern（凯泽斯劳滕大学）；German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心）
对隐私保护机器学习的兴趣日益增加，导致了用于从未公开的真实数据生成私有合成数据的新的和进化的方法。然而，隐私保护机制可以显著降低合成数据的效用，这反过来又会影响下游任务，如学习预测模型或推理。我们提出了几个重新加权策略，使用私有化的似然比，不仅减轻下游估计的统计偏差，但也具有普遍适用性的差分私人生成模型。通过大规模的实证评估，我们表明，私人重要性加权提供了简单而有效的隐私兼容的合成数据的一般应用程序的增强。
2022-05-19 cs.CR cs.LG stat.ML
Differentially Private Synthetic Heavy-tailed Data
针对LBD合成数据缺乏可证明隐私的问题，提出基于差分隐私的KNG与分位数回归方法，以夹层顺序生成合成重尾数据，在相同隐私预算下提升数据效用。
2023-10-14 stat.AP
DP-CGAN: Differentially Private Synthetic Data and Label Generation
University of California, Santa Cruz（加州大学圣克鲁兹分校）；Google AI（谷歌人工智能）
生成对抗网络（GANs）是生成包括图像在内的合成数据的著名模型之一，特别是对于那些无法使用原始敏感数据集的研究社区，因为它们无法公开访问。该领域的主要挑战之一是保护参与GAN模型训练的个人的隐私。为了解决这一挑战，我们引入了一个基于新的裁剪和扰动策略的差分私有条件GAN（DP-CGAN）训练框架，该框架在保护训练数据集隐私的同时提高了模型的性能。DP-CGAN生成合成数据和相应的标签，并利用最近推出的Renyi差分隐私会计来跟踪隐私预算。实验结果表明，DP-CGAN在差分隐私下，在MNIST数据集上使用一位数的隐私参数，可以产生视觉上和经验上都有希望的结果.
2020-01-27 cs.LG stat.ML
Does Differentially Private Synthetic Data Lead to Synthetic Discoveries?
University of Turku（图尔库大学）
本文评估了在差分隐私合成数据上进行统计检验的可靠性，发现低隐私预算下第一类错误显著膨胀，易导致虚假发现，并提出基于DP平滑直方图的方法可在一定条件下保证检验有效性。
2024-08-23 cs.LG stat.ML
Advancing Retail Data Science: Comprehensive Evaluation of Synthetic Data
Bain & Company（贝恩公司）
本文提出了一个聚焦保真度、效用与隐私的合成零售数据综合评估框架，区分数据属性设定评估标准，结合差分隐私保障安全，验证了其可靠可扩展的评估能力，助力零售数据科学发展。
2024-06-19 cs.LG stat.ML
Improving the Utility of Poisson-Distributed, Differentially Private Synthetic Data via Prior Predictive Truncation with an Application to CDC WONDER
CDC WONDER是一个基于网络的工具，用于传播国家生命统计系统收集的流行病学数据。虽然CDC WONDER具有内置的隐私保护，但它们不满足正式的隐私保护，例如差分隐私，因此容易受到有针对性的攻击。鉴于高质量的公共卫生数据公开的重要性，同时保护底层数据主体的隐私，我们的目标是提高最近开发的方法的效用，通过使用公开的信息来截断合成数据的范围，生成泊松分布的，不同的私人合成数据。具体来说，我们利用美国人口普查局的县级人口信息和疾病预防控制中心编制的国家死亡报告，为县级死亡率的先验分布提供信息，并推断泊松分布的县级死亡计数的合理范围。在这样做时，对于给定的隐私预算，满足差分隐私的要求可以减少几个数量级，从而导致实用性的实质性改进。为了说明我们提出的方法，我们考虑了一个数据集，该数据集由来自宾夕法尼亚州联邦的超过26，000例癌症相关死亡组成，属于死亡原因和人口统计变量（如年龄，种族，性别和居住县）的47，000多种组合，并证明了所提出的框架能够保留地理，城市/农村，和种族差异的真实数据。
2021-03-03 stat.AP stat.ME
Boosting Data Analytics With Synthetic Volume Expansion
University of Minnesota, Twin Cities（明尼苏达大学双城分校）；Stanford University（斯坦福大学）
针对合成数据应用中的统计准确性与隐私问题，提出面向分析的合成数据生成框架，发现世代效应与反射点，经多场景验证性能优于传统方法，且隐私风险更低。
2024-03-10 cs.LG stat.ML
New Oracle-Efficient Algorithms for Private Synthetic Data Release
University of Minnesota（明尼苏达大学）；Harvard University（哈佛大学）；Boston University（波士顿大学）；IBM Research（IBM研究院）
我们提出了三种新的算法，用于构建差异私人合成数据--一个消毒版本的敏感数据集，大约保留了大量的统计查询的答案。所有这三种算法都是\emph{oracle-efficient}，因为它们在访问优化预言时是计算高效的。这样的预言可以使用许多现有的（非私有的）优化工具来实现，例如复杂的整数规划求解器。虽然合成数据的准确性取决于预言机的优化性能，但即使在最坏的情况下，算法也能满足差分隐私。对于所有这三种算法，我们都为准确性和隐私性提供了理论保证。通过实证评估，我们表明，我们的方法规模以及与数据的维数和查询的数量。与最先进的高维矩阵机制\cite{McKennaMHM18}相比，我们的算法在大工作量和高隐私机制（对应于低隐私损失$\varepsilon$）下提供了更好的准确性。
2020-07-10 cs.DS cs.LG stat.ML
A Unified Framework for Quantifying Privacy Risk in Synthetic Data
合成数据通常被呈现为用于通过再现原始数据的全局统计特性而不公开关于任何个体的敏感信息来以隐私保护方式共享敏感信息的方法。在实践中，与其他匿名化方法一样，隐私风险无法完全消除。剩余的隐私风险需要事后评估。我们提出了Anonymeter，一个统计框架，共同量化合成表格数据集中不同类型的隐私风险。我们为这个框架配备了基于攻击的评估，针对挑选、可链接性和推断风险，这是根据欧洲通用数据保护条例（GDPR）进行事实匿名化的三个关键指标。据我们所知，我们是第一个对合成数据的这三种隐私风险进行连贯和法律上一致的评估，并设计隐私攻击，直接模拟挑选和链接风险。我们证明了我们的方法的有效性进行了广泛的实验，测量的隐私风险的数据故意插入的隐私泄漏，和合成数据产生和没有差分隐私。我们的研究结果强调，我们的框架报告的三个隐私风险与数据中的隐私泄露量呈线性关系。此外，我们观察到，合成数据表现出最低的脆弱性对链接性，表明真实和合成数据记录之间的一对一的关系不被保留。最后，我们定量证明Anonymeter优于现有的合成数据隐私评估框架，无论是在检测隐私泄漏，以及计算速度。为了促进合成数据的隐私意识使用，我们在https://github.com/statice/anonymeter上开源了Anonymeter。
2022-11-18 cs.CR
Empirical Evaluation of Structured Synthetic Data Privacy Metrics: Novel experimental framework
Aindo SpA（Aindo公司）；University of Trieste（的里雅斯特大学）；Alma Mater Studiorum, University of Bologna（博洛尼亚大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学）；Luiss University（卢伊斯大学）
本文提出一个实验框架，用于评估表格合成数据隐私量化方法的有效性，通过可控的威胁插入评估隐私保护程度。
2026-04-02 cs.CR
Measuring Privacy vs. Fidelity in Synthetic Social Media Datasets
Maastricht University（马斯特里赫特大学）
本文研究了合成Instagram帖子的隐私与保真度之间的平衡，通过作者归属攻击评估隐私风险，并发现保真度越高隐私泄露越严重。
2026-03-05 cs.CR
Does Training with Synthetic Data Truly Protect Privacy?
National University of Singapore（新加坡国立大学）；ETH Zurich（苏黎世联邦理工学院）
本文考察核心集选择、数据集蒸馏、无数据知识蒸馏和扩散模型合成数据四种训练范式，指出它们虽都使用合成数据，隐私保护效果却差异显著，强调须严格评估以免产生虚假隐私感。
2025-02-18 cs.CR cs.LG
Scaling While Privacy Preserving: A Comprehensive Synthetic Tabular Data Generation and Evaluation in Learning Analytics
University of Bergen（卑尔根大学）；University of Belgrade（贝尔格莱德大学）
本文针对学习分析中的隐私问题，提出从相似性、效用和隐私三个维度全面评估合成数据，并在三个数据集上验证其可在保护隐私的同时保持与真实数据相近的预测性能，为不同场景提供生成方法建议。
2024-01-12 cs.AI cs.CR
Private Seeds, Public LLMs: Realistic and Privacy-Preserving Synthetic Data Generation
Information Sciences and Technology, The Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）
本文提出RPSG方法，通过隐私种子和差分隐私机制生成高保真且隐私保护的合成数据，实验验证其在隐私与效用平衡上的优势。
2026-07-14 cs.AI cs.CR
A Review of Privacy Metrics for Privacy-Preserving Synthetic Data Generation
本文系统梳理了17种隐私度量的假设与数学公式，以解决差分隐私预算难以解释、隐私风险不透明的问题，为评估隐私保护合成数据生成机制提供统一参考。
2025-07-22 cs.CR cs.DB
Synthetic Data and Health Privacy
AP-HP（巴黎公立医院集团）；Inserm（法国国家健康与医学研究院）；Université Paris-Saclay（巴黎萨克雷大学）；Centre Hospitalier Universitaire Grenoble Alpes（格勒诺布尔阿尔卑斯大学中心医院）；School of Clinical Medicine, University of Cambridge（剑桥大学临床医学院）；University College London（伦敦大学学院）
该观点文章聚焦生成式AI领域，探讨以合成数据替代私密健康数据来实现隐私保护的相关方向。
2025-01-13 cs.AI cs.CR cs.CY
Privacy-Preserving Synthetic Educational Data Generation
Inria Saclay（法国国家信息与自动化研究所萨克莱分院）
机构收集大量的学习痕迹，但出于隐私问题，它们可能不会披露。合成数据的产生为教育研究开辟了新的机会。在本文中，我们提出了一个生成模型的教育数据，可以保护参与者的隐私，并比较合成数据发电机的评估框架。我们将展示如何天真的匿名化可以导致重新识别的威胁，并建议技术，以保证隐私。我们评估我们的方法对现有的大量教育开放数据集。
2022-07-07 cs.AI cs.CR cs.CY
Mitigating the Privacy Issues in Retrieval-Augmented Generation (RAG) via Pure Synthetic Data
针对检索增强生成（RAG）检索私有数据时的隐私泄露风险，提出两阶段合成数据生成范式SAGE，在保证检索性能的同时大幅降低隐私风险，为RAG安全应用提供新思路。
2025-02-19 cs.CR
Neighborhood Watch: Privacy Risks in Seeded Local Combination Synthetic Data
Université du Québec à Montréal（蒙特利尔魁北克大学）；Université de Rennes（雷恩大学）；Université Laval（拉瓦尔大学）
本文针对医疗领域用于共享“匿名化数据”的SMOTE、Simulant和Avatar三种种子局部组合合成数据生成方法，开展多种隐私攻击分析，发现其存在大量隐私泄露，质疑其输出的匿名性。
2026-08-28 cs.CR
SoK: Can Synthetic Images Replace Real Data? A Survey of Utility and Privacy of Synthetic Image Generation
Tulane University（Tulane大学）
本综述系统梳理了PPDS中生成-采样-分类流程的图像合成、隐私攻击与缓解方法，构建基准并利用MIAs评估隐私风险，揭示了合成数据的效用-隐私权衡，为真实数据发布策略提供指导。
2025-06-26 cs.CR cs.CV
Synthetic Text Generation with Differential Privacy: A Simple and Practical Recipe
The Ohio State University（俄亥俄州立大学）；Microsoft Research（微软研究院）；Stanford University（斯坦福大学）；UC Davis（加州大学戴维斯分校）；Microsoft（微软）
本文提出仅用差分隐私微调预训练生成式语言模型的简单方案，在基准与客户数据上生成效用接近非隐私方法且隐私保护强的合成文本。
2023-07-18 cs.CL cs.CR
SafeSynthDP: Leveraging Large Language Models for Privacy-Preserving Synthetic Data Generation Using Differential Privacy
University of Alberta（阿尔伯塔大学）
SafeSynthDP研究如何将差分隐私噪声注入大型语言模型生成的合成数据中，以在保护隐私的同时维持数据效用，并通过实验验证其对成员推断攻击的抵御能力及模型训练性能。
2024-12-30 cs.CR cs.LG
Synthetic Data -- Anonymisation Groundhog Day
EPFL（洛桑联邦理工学院）；UCL（伦敦大学学院）
合成数据被宣传为隐私保护数据发布的银弹解决方案，解决了传统匿名技术的缺点。其承诺是，从生成模型中提取的合成数据保留了原始数据集的统计特性，但同时提供了针对隐私攻击的完美保护。在这项工作中，我们首次对合成数据发布的隐私收益进行了定量评估，并将其与之前的匿名技术进行了比较。我们对各种最先进的生成模型的评估表明，合成数据要么不能防止推理攻击，要么不能保留数据效用。换句话说，我们的经验表明，与传统的匿名技术相比，合成数据并没有在隐私和实用性之间提供更好的权衡。此外，与传统的匿名化相比，合成数据发布的隐私-效用权衡难以预测。由于无法预测合成数据集将保留哪些信号以及将丢失哪些信息，因此合成数据导致高度可变的隐私增益和不可预测的效用损失。总之，我们发现合成数据远不是保护隐私的数据发布的圣杯。
2022-01-24 cs.CR cs.LG
Privacy-Preserving Synthetic Review Generation with Diverse Writing Styles Using LLMs
Department of Computer Science and Engineering（计算机科学与工程系）；Santa Clara University（圣克拉拉大学）；eBay（eBay公司）
针对LLM合成评论文本的多样性与隐私风险，本文建立多维评估指标，揭示现有模型局限，并提出基于提示的方法以增强风格多样性并保护隐私。
2025-07-24 cs.CL cs.CR cs.LG
TAPAS: a Toolbox for Adversarial Privacy Auditing of Synthetic Data
The Alan Turing Institute（艾伦·图灵研究所）；The Office for National Statistics（英国国家统计局）；University of Oxford（牛津大学）；University of Glasgow（格拉斯哥大学）；University of Edinburgh（爱丁堡大学）
大规模收集的个人数据有望改善决策并加速创新。然而，共享和使用这些数据会引发严重的隐私问题。一个有希望的解决方案是产生合成数据，人工记录来共享，而不是真实数据。由于合成记录与真实的人没有联系，这直观地防止了经典的重新识别攻击。但这不足以保护隐私。我们在这里提出了TAPAS，一个工具箱的攻击评估合成数据隐私下的各种情况。这些攻击包括以前的作品和新的攻击的概括。我们还介绍了一个一般的框架，推理隐私威胁的合成数据和展示TAPAS的几个例子。
2022-11-12 cs.AI cs.CR cs.LG
Privacy-Preserving Fair Synthetic Tabular Data
University of Manitoba（曼尼托巴大学）
针对合成表格数据中隐私与公平性难以兼顾的问题，提出基于WGAN-GP的PF-WGAN生成器，通过添加隐私和公平性约束，在效用、隐私和公平性间实现了更均衡的权衡。
2025-03-04 cs.CR cs.LG
The Inadequacy of Similarity-based Privacy Metrics: Privacy Attacks against "Truly Anonymous" Synthetic Datasets
UCL and SAS（伦敦大学学院和SAS）；UC Riverside（加州大学河滨分校）
本文揭示基于相似性的临时隐私度量不可靠，并提出重构攻击 ReconSyn，仅凭黑盒访问即可恢复训练数据中 78-100% 的离群点，证明此类度量会破坏端到端差分隐私保障。
2025-05-07 cs.AI cs.CR cs.LG
On Rényi Differential Privacy in Statistics-Based Synthetic Data Generation
本文理论评估了利用均值向量和协方差矩阵生成合成数据时的 Rényi 差分隐私，给出了满足该隐私的条件，并在千万级数据规模下验证了其隐私保障。
2023-03-31 cs.CR cs.IT math.IT
PrivDPR: Synthetic Graph Publishing with Deep PageRank under Differential Privacy
本文提出PrivDPR，一种基于深度PageRank的差分隐私合成图发布方法，通过向特定权重梯度加噪并利用权重归一化缓解高敏感性与隐私预算分割问题，实验证明其在多个图结构属性上保持高效用。
2025-01-04 cs.CR cs.DB
Position: Privacy Is a Claim, Not a Property of Synthetic Data
University of Notre Dame（圣母大学）
本文针对合成数据隐私属性的认知偏差，经实证分析发现其隐私保证隐含难验证，主张将隐私视为明确的证据型科学声明，建议ML venues制定相关规范。
2026-09-02 cs.CR cs.LG
Local Privacy, Data Processing Inequalities, and Statistical Minimax Rates
在一个隐私模型下，即使从统计学家那里，数据仍然是私有的，我们研究了隐私保证和所产生的统计估计的效用之间的权衡。我们证明了信息理论的数量，包括互信息和Kullback-Leibler分歧，这取决于隐私保证的界限。当结合标准的极大极小技术，包括Le Cam，Fano和Assouad方法，这些不平等允许在本地隐私约束下的统计率的精确表征。我们提供了几个典型的家庭的问题：平均估计，参数估计在固定设计回归，多项式概率估计，和非参数密度估计的治疗。对于所有这些家庭，我们提供的下限和上界，匹配常数因子，并展示新的（最佳）隐私保护机制和计算效率的估计，实现界限。
2014-08-27 cs.CR cs.IT math.IT
Synthetic Data, Similarity-based Privacy Metrics, and Regulatory (Non-)Compliance
University College London（伦敦大学学院）；Hazy
本文论证基于相似度的隐私度量无法确保合成数据的监管合规性，指出其无法防范 singled out 和 linkability，并忽视了 motivated intruder test。
2024-07-26 cs.AI cs.CR cs.CY
Privacy Amplification Through Synthetic Data: Insights from Linear Regression
Craft AI；Université de Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）；Université de Montpellier（蒙彼利埃大学）；INSERM（法国国家健康与医学研究院）
本文通过线性回归框架研究合成数据的隐私放大效应，证明对手控制种子时单点合成数据可泄露与模型同等信息，而随机输入生成有限合成数据点则能放大隐私，为推导更一般界限奠定基础。
2025-06-05 cs.CR cs.LG stat.ML
Rethinking Anonymity Claims in Synthetic Data Generation: A Model-Centric Privacy Attack Perspective
UCL（伦敦大学学院）；SAS（SAS公司）；UC Riverside（加州大学河滨分校）
本文从模型为中心的视角重新审视合成数据生成中的匿名性主张，强调需考虑生成模型能力和隐私攻击，指出合成数据技术不足以保证匿名性，并比较差分隐私与相似性隐私度量的优劣。
2026-10-02 cs.CR cs.CY cs.LG
Contrastive Learning-Based privacy metrics in Tabular Synthetic Datasets
Aindo（艾因多（Aindo））；University of Trieste（的里雅斯特大学）
本文提出基于对比学习的嵌入方法改进表格合成数据隐私评估，实验表明简单高效的隐私度量可与符合GDPR的先进方法相媲美。
2025-03-10 cs.CR cs.LG
Synthetic Data Generation and Differential Privacy using Tensor Networks' Matrix Product States (MPS)
Bundesdruckerei GmbH（联邦印刷厂有限公司）
本文提出利用张量网络的矩阵积态生成高质量隐私保护合成数据，通过噪声注入和梯度裁剪实现差分隐私，展示了MPS在保真度和隐私保护方面的优越性能。
2025-11-22 cs.AI cs.CR cs.LG
Six Levels of Privacy: A Framework for Financial Synthetic Data
J.P. Morgan Chase & Company AI Research（摩根大通公司人工智能研究院）
本文提出了金融合成数据隐私保护的“六个级别”层级框架，用于分类生成方法并评估其隐私保护能力，同时概述了相关风险、攻击及防御措施。
2024-03-20 cs.CR cs.LG q-fin.ST
SMOTE and Mirrors: Exposing Privacy Leakage from Synthetic Minority Oversampling
SAS；UCL（伦敦大学学院）；UC Riverside（加州大学河滨分校）
本文揭示SMOTE在生成合成数据时存在隐私泄露问题，通过构建DistinSMOTE和ReconSMOTE两种攻击，证明其非隐私性并呼吁重新评估其在隐私敏感应用中的使用。
2026-03-02 cs.CR
Leveraging Generative AI Models for Synthetic Data Generation in Healthcare: Balancing Research and Privacy
San Jose State University（圣何塞州立大学）；University of Florida（佛罗里达大学）
本文探讨利用GAN和VAE等生成式AI模型生成合成患者数据，以平衡医疗研究中数据访问与隐私保护，并分析其应用、优势、挑战及未来方向。
2023-05-09 cs.AI cs.CR cs.LG
Practical considerations on using private sampling for synthetic data
针对私有采样构建差分隐私合成数据时约束看似不切实际的问题，本文实现该算法并评估其约束在真实场景中的可行性。
2023-12-12 cs.CR
GeoPointGAN: Synthetic Spatial Data with Local Label Differential Privacy
University of Warwick（华威大学）
合成数据生成是许多数据管理和数据科学应用的基本任务。空间数据特别令人感兴趣，其敏感性往往导致隐私问题。我们介绍了GeoPointGAN，这是一种新的基于GAN的解决方案，用于生成具有高实用性和强个人隐私保证的合成空间点数据集。GeoPointGAN的架构包括一个新颖的点变换生成器，该生成器学习将随机生成的点坐标投影到有意义的合成坐标中，该合成坐标捕获微观（例如，结，正方形）和宏观的（例如，公园、湖泊）地理特征。我们通过标签本地差分隐私来提供我们的隐私保障，这比传统的本地差分隐私更实用。我们将这种级别的隐私无缝集成到GeoPointGAN中，方法是将加密扩展到点级别，并实现一种基于随机响应的机制，该机制可以翻转与训练中使用的“真实”和“假”点相关的标签。大量的实验表明，GeoPointGAN的性能明显优于最近的解决方案，与最具竞争力的基线相比，提高了10倍。我们还评估GeoPointGAN使用范围，热点和设施位置查询，这证实了GeoPointGAN的隐私保护查询的实际有效性。结果表明，在几乎没有不利效用成本的情况下实现了很强的隐私水平，我们通过在训练期间翻转数据标签实现的泛化和正则化效应来解释这一点。
2022-05-18 cs.AI cs.CR cs.DB
Privacy Measurement in Tabular Synthetic Data: State of the Art and Future Research Directions
University of Turin（都灵大学）；AREA Science Park（AREA科学园区）；Data Valley consulting srl（Data Valley咨询有限公司）；Bocconi University（博科尼大学）
本文针对表格合成数据缺乏统一隐私量化标准的问题，系统梳理现有隐私度量方法，旨在推动隐私标准制定并辅助研究人员进行建模与评估决策。
2023-11-29 cs.AI cs.CR cs.DB
Fidelity and Privacy of Synthetic Medical Data
医疗记录的数字化为临床科学带来了大数据的新时代，随之而来的是数据可以共享的可能性，从而使研究人员从纸质记录中提取的见解成倍增加。随着科学家们努力应对COVID-19大流行，共享个人层面的医疗数据以加速精准医疗创新的需求持续增长，并且从未如此紧迫。然而，对使用大数据的热情已经被对患者自主权和隐私的完全适当的关注所冲淡。也就是说，在实践中，提取关于个人的私人或机密信息的能力使得难以共享数据，因为在共享数据之前必须建立重要的基础设施和数据治理。虽然HIPAA将去识别作为数据共享的一种批准机制，但链接攻击被确定为一个主要漏洞。已经建立了各种机制来避免泄露私人信息，例如字段抑制或抽象，严格限制可以共享的信息量，或采用诸如差分隐私的数学技术。另一种方法是创建模仿底层数据的合成数据，这也是我们在此重点介绍的方法。为了使合成数据成为支持医学创新的有用机制和真实世界证据的代理，必须证明合成数据集的两个属性：（1）对真实数据的任何分析必须与对合成数据的分析相匹配（统计保真度）和（2）合成数据必须保护隐私，重新识别的风险最小（隐私保证）。在本文中，我们提出了一个用于量化合成数据集的统计保真度和隐私保护属性的框架，并展示了Syntegra技术生成的合成数据的这些指标。
2021-06-02 cs.AI cs.CR cs.LG
Robin Hood and Matthew Effects: Differential Privacy Has Disparate Impact on Synthetic Data
University College London（伦敦大学学院）；Hazy
使用差分隐私（DP）训练的生成模型可用于生成合成数据，同时最小化隐私风险。我们分析了DP对这些模型的影响，具体而言，研究：1）合成数据中类/子组的大小，以及2）在它们上运行的分类任务的准确性。我们还评估了各种程度的不平衡和隐私预算的影响。我们的分析使用三种最先进的DP模型（PrivBayes，DP-WGAN和PATE-GAN），并显示DP在生成的合成数据中产生相反的大小分布。它影响到多数和少数阶层/亚群体之间的差距;在某些情况下，缩小差距（“罗宾汉”效应），在另一些情况下，扩大差距（“马太”效应）。无论哪种方式，这都会对合成数据上的分类任务的准确性产生（类似的）不同的影响，对数据中代表性不足的子部分的影响更大。因此，当在合成数据上训练模型时，可能会产生不均匀地对待不同亚群的风险，从而导致不可靠或不公平的结论。
2022-06-26 cs.AI cs.CR cs.CY
