Private Seeds, Public LLMs: Realistic and Privacy-Preserving Synthetic Data Generation
Information Sciences and Technology, The Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）
本文提出RPSG方法，通过隐私种子和差分隐私机制生成高保真且隐私保护的合成数据，实验验证其在隐私与效用平衡上的优势。
2026-07-14 cs.AI cs.CR
A Review of Privacy Metrics for Privacy-Preserving Synthetic Data Generation
本文系统梳理了17种隐私度量的假设与数学公式，以解决差分隐私预算难以解释、隐私风险不透明的问题，为评估隐私保护合成数据生成机制提供统一参考。
2025-07-22 cs.CR cs.DB
Synthetic Data and Health Privacy
AP-HP（巴黎公立医院集团）；Inserm（法国国家健康与医学研究院）；Université Paris-Saclay（巴黎萨克雷大学）；Centre Hospitalier Universitaire Grenoble Alpes（格勒诺布尔阿尔卑斯大学中心医院）；School of Clinical Medicine, University of Cambridge（剑桥大学临床医学院）；University College London（伦敦大学学院）
该观点文章聚焦生成式AI领域，探讨以合成数据替代私密健康数据来实现隐私保护的相关方向。
2025-01-13 cs.AI cs.CR cs.CY
Privacy-Preserving Synthetic Educational Data Generation
Inria Saclay（法国国家信息与自动化研究所萨克莱分院）
机构收集大量的学习痕迹，但出于隐私问题，它们可能不会披露。合成数据的产生为教育研究开辟了新的机会。在本文中，我们提出了一个生成模型的教育数据，可以保护参与者的隐私，并比较合成数据发电机的评估框架。我们将展示如何天真的匿名化可以导致重新识别的威胁，并建议技术，以保证隐私。我们评估我们的方法对现有的大量教育开放数据集。
2022-07-07 cs.AI cs.CR cs.CY
SMOTE-DP: Improving Privacy-Utility Tradeoff with Synthetic Data
University of Texas at Dallas Richardson, TX 75082（德克萨斯大学达拉斯分校）；Vanderbilt University Medical Center Nashville, TN 37232（范德比尔特大学医学中心）；Virginia Tech Blacksburg, VA 24061（弗吉尼亚理工大学）
本文提出 SMOTE-DP 方法，将 SMOTE 与差分隐私数据生成器结合，在保证强隐私保护的同时维持下游学习任务的效用。
2025-06-02 cs.CR cs.LG stat.ML
Mitigating the Privacy Issues in Retrieval-Augmented Generation (RAG) via Pure Synthetic Data
针对检索增强生成（RAG）检索私有数据时的隐私泄露风险，提出两阶段合成数据生成范式SAGE，在保证检索性能的同时大幅降低隐私风险，为RAG安全应用提供新思路。
2025-02-19 cs.CR
Neighborhood Watch: Privacy Risks in Seeded Local Combination Synthetic Data
Université du Québec à Montréal（蒙特利尔魁北克大学）；Université de Rennes（雷恩大学）；Université Laval（拉瓦尔大学）
本文针对医疗领域用于共享“匿名化数据”的SMOTE、Simulant和Avatar三种种子局部组合合成数据生成方法，开展多种隐私攻击分析，发现其存在大量隐私泄露，质疑其输出的匿名性。
2026-08-28 cs.CR
SoK: Can Synthetic Images Replace Real Data? A Survey of Utility and Privacy of Synthetic Image Generation
Tulane University（Tulane大学）
本综述系统梳理了PPDS中生成-采样-分类流程的图像合成、隐私攻击与缓解方法，构建基准并利用MIAs评估隐私风险，揭示了合成数据的效用-隐私权衡，为真实数据发布策略提供指导。
2025-06-26 cs.CR cs.CV
Synthetic Text Generation with Differential Privacy: A Simple and Practical Recipe
The Ohio State University（俄亥俄州立大学）；Microsoft Research（微软研究院）；Stanford University（斯坦福大学）；UC Davis（加州大学戴维斯分校）；Microsoft（微软）
本文提出仅用差分隐私微调预训练生成式语言模型的简单方案，在基准与客户数据上生成效用接近非隐私方法且隐私保护强的合成文本。
2023-07-18 cs.CL cs.CR
SafeSynthDP: Leveraging Large Language Models for Privacy-Preserving Synthetic Data Generation Using Differential Privacy
University of Alberta（阿尔伯塔大学）
SafeSynthDP研究如何将差分隐私噪声注入大型语言模型生成的合成数据中，以在保护隐私的同时维持数据效用，并通过实验验证其对成员推断攻击的抵御能力及模型训练性能。
2024-12-30 cs.CR cs.LG
Synthetic Data -- Anonymisation Groundhog Day
EPFL（洛桑联邦理工学院）；UCL（伦敦大学学院）
合成数据被宣传为隐私保护数据发布的银弹解决方案，解决了传统匿名技术的缺点。其承诺是，从生成模型中提取的合成数据保留了原始数据集的统计特性，但同时提供了针对隐私攻击的完美保护。在这项工作中，我们首次对合成数据发布的隐私收益进行了定量评估，并将其与之前的匿名技术进行了比较。我们对各种最先进的生成模型的评估表明，合成数据要么不能防止推理攻击，要么不能保留数据效用。换句话说，我们的经验表明，与传统的匿名技术相比，合成数据并没有在隐私和实用性之间提供更好的权衡。此外，与传统的匿名化相比，合成数据发布的隐私-效用权衡难以预测。由于无法预测合成数据集将保留哪些信号以及将丢失哪些信息，因此合成数据导致高度可变的隐私增益和不可预测的效用损失。总之，我们发现合成数据远不是保护隐私的数据发布的圣杯。
2022-01-24 cs.CR cs.LG
Privacy-Preserving Synthetic Review Generation with Diverse Writing Styles Using LLMs
Department of Computer Science and Engineering（计算机科学与工程系）；Santa Clara University（圣克拉拉大学）；eBay（eBay公司）
针对LLM合成评论文本的多样性与隐私风险，本文建立多维评估指标，揭示现有模型局限，并提出基于提示的方法以增强风格多样性并保护隐私。
2025-07-24 cs.CL cs.CR cs.LG
TAPAS: a Toolbox for Adversarial Privacy Auditing of Synthetic Data
The Alan Turing Institute（艾伦·图灵研究所）；The Office for National Statistics（英国国家统计局）；University of Oxford（牛津大学）；University of Glasgow（格拉斯哥大学）；University of Edinburgh（爱丁堡大学）
大规模收集的个人数据有望改善决策并加速创新。然而，共享和使用这些数据会引发严重的隐私问题。一个有希望的解决方案是产生合成数据，人工记录来共享，而不是真实数据。由于合成记录与真实的人没有联系，这直观地防止了经典的重新识别攻击。但这不足以保护隐私。我们在这里提出了TAPAS，一个工具箱的攻击评估合成数据隐私下的各种情况。这些攻击包括以前的作品和新的攻击的概括。我们还介绍了一个一般的框架，推理隐私威胁的合成数据和展示TAPAS的几个例子。
2022-11-12 cs.AI cs.CR cs.LG
Privacy-Preserving Fair Synthetic Tabular Data
University of Manitoba（曼尼托巴大学）
针对合成表格数据中隐私与公平性难以兼顾的问题，提出基于WGAN-GP的PF-WGAN生成器，通过添加隐私和公平性约束，在效用、隐私和公平性间实现了更均衡的权衡。
2025-03-04 cs.CR cs.LG
The Inadequacy of Similarity-based Privacy Metrics: Privacy Attacks against "Truly Anonymous" Synthetic Datasets
UCL and SAS（伦敦大学学院和SAS）；UC Riverside（加州大学河滨分校）
本文揭示基于相似性的临时隐私度量不可靠，并提出重构攻击 ReconSyn，仅凭黑盒访问即可恢复训练数据中 78-100% 的离群点，证明此类度量会破坏端到端差分隐私保障。
2025-05-07 cs.AI cs.CR cs.LG
Privacy of synthetic data: a statistical framework
隐私保护数据分析正在成为一个具有深远影响的挑战性问题。特别是，合成数据是解决数据隐私和数据共享之间的严重冲突的一个有前途的概念。然而，已知准确地生成某些种类的私有合成数据是NP难的。我们开发了一个统计框架差异私人合成数据，这使我们能够规避计算困难的问题。我们认为真实数据是根据某种未知密度从总体Ω中抽取的随机样本。然后，我们用一个更小的随机子集Ω ^* 来代替Ω，我们根据某个已知的密度对它进行采样。通过拟合从真实数据获得的指定线性统计量，我们在缩减空间Omega^* 上生成合成数据。为了确保隐私，我们使用常见的拉普拉斯机制。采用Renyi条件数的概念，它衡量如何以及抽样分布与人口分布的相关性，我们得到明确的界限所提出的方法提供的隐私和准确性。
2021-09-03 cs.CR math.ST stat.TH
PrivDPR: Synthetic Graph Publishing with Deep PageRank under Differential Privacy
本文提出PrivDPR，一种基于深度PageRank的差分隐私合成图发布方法，通过向特定权重梯度加噪并利用权重归一化缓解高敏感性与隐私预算分割问题，实验证明其在多个图结构属性上保持高效用。
2025-01-04 cs.CR cs.DB
Covariance's Loss is Privacy's Gain: Computationally Efficient, Private and Accurate Synthetic Data
保护私人信息在数据驱动的研究、商业和政府中至关重要。隐私和实用性之间的冲突引发了计算机科学和统计学界的深入研究，他们开发了各种保护隐私的数据发布方法。出现的主要概念包括匿名和差分隐私。今天，另一种解决方案正在获得牵引力，合成数据。然而，通往隐私的道路是由NP难题铺就的。在本文中，我们专注于NP难的挑战，开发一个合成数据生成方法，计算效率高，具有可证明的隐私保证，并严格量化的数据效用。我们通过研究一个基本的，但乍一看完全无关的，关于协方差损失概念的概率问题来解决这个问题的一个轻松的版本。也就是说，我们找到了一个接近最优的和建设性的答案，当我们采取条件期望时，会损失多少信息。令人惊讶的是，这种对理论概率的探索产生了数学技术，使我们能够为涉及微聚集、隐私和合成数据的困难应用问题得出建设性的、近似最优的解决方案。
2022-08-10 cs.CR math.PR math.ST
Position: Privacy Is a Claim, Not a Property of Synthetic Data
University of Notre Dame（圣母大学）
本文针对合成数据隐私属性的认知偏差，经实证分析发现其隐私保证隐含难验证，主张将隐私视为明确的证据型科学声明，建议ML venues制定相关规范。
2026-09-02 cs.CR cs.LG
Synthetic Data, Similarity-based Privacy Metrics, and Regulatory (Non-)Compliance
University College London（伦敦大学学院）；Hazy
本文论证基于相似度的隐私度量无法确保合成数据的监管合规性，指出其无法防范 singled out 和 linkability，并忽视了 motivated intruder test。
2024-07-26 cs.AI cs.CR cs.CY
Privacy Amplification Persists under Unlimited Synthetic Data Release
Université de Lille, Inria, CNRS, Centrale Lille, UMR 9189 CRIStAL, F-59000 Lille, France（里尔大学、Inria、CNRS、Centrale Lille、UMR 9189 CRIStAL、法国里尔）；PreMeDICaL team, Inria, Idesp, Inserm, Université de Montpellier（PreMeDICaL团队、Inria、Idesp、Inserm、蒙彼利埃大学）
本文在参数有界假设下证明了即使发布无限数量的合成数据，隐私放大仍持续，改进了之前关于线性生成器的隐私保证界限。
2026-02-03 cs.CR cs.DS cs.LG
Privacy Amplification Through Synthetic Data: Insights from Linear Regression
Craft AI；Université de Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）；Université de Montpellier（蒙彼利埃大学）；INSERM（法国国家健康与医学研究院）
本文通过线性回归框架研究合成数据的隐私放大效应，证明对手控制种子时单点合成数据可泄露与模型同等信息，而随机输入生成有限合成数据点则能放大隐私，为推导更一般界限奠定基础。
2025-06-05 cs.CR cs.LG stat.ML
Rethinking Anonymity Claims in Synthetic Data Generation: A Model-Centric Privacy Attack Perspective
UCL（伦敦大学学院）；SAS（SAS公司）；UC Riverside（加州大学河滨分校）
本文从模型为中心的视角重新审视合成数据生成中的匿名性主张，强调需考虑生成模型能力和隐私攻击，指出合成数据技术不足以保证匿名性，并比较差分隐私与相似性隐私度量的优劣。
2026-10-02 cs.CR cs.CY cs.LG
Contrastive Learning-Based privacy metrics in Tabular Synthetic Datasets
Aindo（艾因多（Aindo））；University of Trieste（的里雅斯特大学）
本文提出基于对比学习的嵌入方法改进表格合成数据隐私评估，实验表明简单高效的隐私度量可与符合GDPR的先进方法相媲美。
2025-03-10 cs.CR cs.LG
Synthetic Data Generation and Differential Privacy using Tensor Networks' Matrix Product States (MPS)
Bundesdruckerei GmbH（联邦印刷厂有限公司）
本文提出利用张量网络的矩阵积态生成高质量隐私保护合成数据，通过噪声注入和梯度裁剪实现差分隐私，展示了MPS在保真度和隐私保护方面的优越性能。
2025-11-22 cs.AI cs.CR cs.LG
Six Levels of Privacy: A Framework for Financial Synthetic Data
J.P. Morgan Chase & Company AI Research（摩根大通公司人工智能研究院）
本文提出了金融合成数据隐私保护的“六个级别”层级框架，用于分类生成方法并评估其隐私保护能力，同时概述了相关风险、攻击及防御措施。
2024-03-20 cs.CR cs.LG q-fin.ST
SMOTE and Mirrors: Exposing Privacy Leakage from Synthetic Minority Oversampling
SAS；UCL（伦敦大学学院）；UC Riverside（加州大学河滨分校）
本文揭示SMOTE在生成合成数据时存在隐私泄露问题，通过构建DistinSMOTE和ReconSMOTE两种攻击，证明其非隐私性并呼吁重新评估其在隐私敏感应用中的使用。
2026-03-02 cs.CR
Leveraging Generative AI Models for Synthetic Data Generation in Healthcare: Balancing Research and Privacy
San Jose State University（圣何塞州立大学）；University of Florida（佛罗里达大学）
本文探讨利用GAN和VAE等生成式AI模型生成合成患者数据，以平衡医疗研究中数据访问与隐私保护，并分析其应用、优势、挑战及未来方向。
2023-05-09 cs.AI cs.CR cs.LG
Practical considerations on using private sampling for synthetic data
针对私有采样构建差分隐私合成数据时约束看似不切实际的问题，本文实现该算法并评估其约束在真实场景中的可行性。
2023-12-12 cs.CR
GeoPointGAN: Synthetic Spatial Data with Local Label Differential Privacy
University of Warwick（华威大学）
合成数据生成是许多数据管理和数据科学应用的基本任务。空间数据特别令人感兴趣，其敏感性往往导致隐私问题。我们介绍了GeoPointGAN，这是一种新的基于GAN的解决方案，用于生成具有高实用性和强个人隐私保证的合成空间点数据集。GeoPointGAN的架构包括一个新颖的点变换生成器，该生成器学习将随机生成的点坐标投影到有意义的合成坐标中，该合成坐标捕获微观（例如，结，正方形）和宏观的（例如，公园、湖泊）地理特征。我们通过标签本地差分隐私来提供我们的隐私保障，这比传统的本地差分隐私更实用。我们将这种级别的隐私无缝集成到GeoPointGAN中，方法是将加密扩展到点级别，并实现一种基于随机响应的机制，该机制可以翻转与训练中使用的“真实”和“假”点相关的标签。大量的实验表明，GeoPointGAN的性能明显优于最近的解决方案，与最具竞争力的基线相比，提高了10倍。我们还评估GeoPointGAN使用范围，热点和设施位置查询，这证实了GeoPointGAN的隐私保护查询的实际有效性。结果表明，在几乎没有不利效用成本的情况下实现了很强的隐私水平，我们通过在训练期间翻转数据标签实现的泛化和正则化效应来解释这一点。
2022-05-18 cs.AI cs.CR cs.DB
Privacy Measurement in Tabular Synthetic Data: State of the Art and Future Research Directions
University of Turin（都灵大学）；AREA Science Park（AREA科学园区）；Data Valley consulting srl（Data Valley咨询有限公司）；Bocconi University（博科尼大学）
本文针对表格合成数据缺乏统一隐私量化标准的问题，系统梳理现有隐私度量方法，旨在推动隐私标准制定并辅助研究人员进行建模与评估决策。
2023-11-29 cs.AI cs.CR cs.DB
Fidelity and Privacy of Synthetic Medical Data
医疗记录的数字化为临床科学带来了大数据的新时代，随之而来的是数据可以共享的可能性，从而使研究人员从纸质记录中提取的见解成倍增加。随着科学家们努力应对COVID-19大流行，共享个人层面的医疗数据以加速精准医疗创新的需求持续增长，并且从未如此紧迫。然而，对使用大数据的热情已经被对患者自主权和隐私的完全适当的关注所冲淡。也就是说，在实践中，提取关于个人的私人或机密信息的能力使得难以共享数据，因为在共享数据之前必须建立重要的基础设施和数据治理。虽然HIPAA将去识别作为数据共享的一种批准机制，但链接攻击被确定为一个主要漏洞。已经建立了各种机制来避免泄露私人信息，例如字段抑制或抽象，严格限制可以共享的信息量，或采用诸如差分隐私的数学技术。另一种方法是创建模仿底层数据的合成数据，这也是我们在此重点介绍的方法。为了使合成数据成为支持医学创新的有用机制和真实世界证据的代理，必须证明合成数据集的两个属性：（1）对真实数据的任何分析必须与对合成数据的分析相匹配（统计保真度）和（2）合成数据必须保护隐私，重新识别的风险最小（隐私保证）。在本文中，我们提出了一个用于量化合成数据集的统计保真度和隐私保护属性的框架，并展示了Syntegra技术生成的合成数据的这些指标。
2021-06-02 cs.AI cs.CR cs.LG
Robin Hood and Matthew Effects: Differential Privacy Has Disparate Impact on Synthetic Data
University College London（伦敦大学学院）；Hazy
使用差分隐私（DP）训练的生成模型可用于生成合成数据，同时最小化隐私风险。我们分析了DP对这些模型的影响，具体而言，研究：1）合成数据中类/子组的大小，以及2）在它们上运行的分类任务的准确性。我们还评估了各种程度的不平衡和隐私预算的影响。我们的分析使用三种最先进的DP模型（PrivBayes，DP-WGAN和PATE-GAN），并显示DP在生成的合成数据中产生相反的大小分布。它影响到多数和少数阶层/亚群体之间的差距;在某些情况下，缩小差距（“罗宾汉”效应），在另一些情况下，扩大差距（“马太”效应）。无论哪种方式，这都会对合成数据上的分类任务的准确性产生（类似的）不同的影响，对数据中代表性不足的子部分的影响更大。因此，当在合成数据上训练模型时，可能会产生不均匀地对待不同亚群的风险，从而导致不可靠或不公平的结论。
2022-06-26 cs.AI cs.CR cs.CY
Navigating the United States Legislative Landscape on Voice Privacy: Existing Laws, Proposed Bills, Protection for Children, and Synthetic Data for AI
Center for Robust Speech Systems (CRSS), The University of Texas at Dallas, USA（稳健语音系统中心（CRSS），德克萨斯大学达拉斯分校）
本文系统梳理美国联邦及各州涉及语音数据和儿童保护的隐私立法现状，并前瞻性探讨合成数据在人工智能监管中的合规考量。
2024-07-29 cs.CR cs.CY cs.SD
Generating Higher-Fidelity Synthetic Datasets with Privacy Guarantees
Artificial Intelligence Lab（人工智能实验室）；EPFL（洛桑联邦理工学院（瑞士））
本文考虑了在常见的机器学习开发任务中增强用户隐私的问题，例如数据注释和检查，通过用生成对抗网络的样本代替真实数据。我们建议采用贝叶斯差分隐私的手段，以实现严格的理论保证，同时提供更好的隐私效用权衡。我们通过实验证明，与以前的工作相比，我们的方法产生了更高保真的样本，允许（1）检测更微妙的数据错误和偏差，以及（2）通过直接在人工样本上训练时实现高准确性来减少对真实数据标签的需求。
2020-03-02 cs.AI cs.CR cs.LG
Aim High, Stay Private: Differentially Private Synthetic Data Enables Public Release of Behavioral Health Information with High Utility
University of Vermont（佛蒙特大学）
本文利用差分隐私技术生成合成数据，在保障隐私的同时，使行为健康信息的公开发布保持高实用性，通过评估不同隐私预算下的数据集，确定隐私与实用性的平衡点。
2025-06-30 cs.CR cs.CY
Comparative Study of Differentially Private Synthetic Data Algorithms from the NIST PSCR Differential Privacy Synthetic Data Challenge
Urban Institute（城市研究所）；RAND Corporation（兰德公司）
差异化私有合成数据生成提供了一种最新的解决方案，可以发布分析上有用的数据，同时保护数据中个人的隐私。为了将这些算法用于公共政策决策，决策者需要准确了解这些算法的比较性能。相应地，数据从业者需要标准的指标来评估合成数据的分析质量。在本文中，我们使用2018-2019年国家标准与技术研究院公共安全通信研究（NIST PSCR）部门的“差分隐私合成数据挑战赛”中参赛者创建的实际差分私有合成数据集，对几种差分私有合成数据算法进行了深入评估。我们根据这些算法创建的数据的准确性以及潜在数据提供商的可用性对它们进行分析。我们在NIST PSCR数据挑战中使用的方法框架在更广泛的差异私人合成数据文献中。我们实现了额外的效用指标，包括我们自己的两个，在不同的私人合成数据和比较机制效用的三个类别。我们的差异私人数据合成方法和质量指标的比较评估显示的相对有用性，一般的优点和缺点，并提供了首选的算法和指标。最后，我们描述了我们的评估政策制定者寻求实现差异化的私人合成数据算法对未来的数据产品的影响。
2020-10-12 cs.CR cs.LG stat.AP
Synthetic Data: Revisiting the Privacy-Utility Trade-off
Dept. of Computer Science, University of Manitoba, Canada（曼尼托巴大学计算机科学系）；Dept. of Computer Science and Software Engineering, Concordia University, Canada（Concordia大学计算机科学与软件工程系）
本文复核一项质疑合成数据隐私优势的研究，指出其隐私博弈环境受限且违背数据分布前提，并在更一般设置下证明合成数据相较 k-匿名化具有更优隐私—效用权衡。
2025-03-04 cs.CR cs.LG
Privacy-preserving data sharing via probabilistic modelling
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；University of Helsinki（赫尔辛基大学）；University of Manchester（曼彻斯特大学）；Aalto University（阿尔托大学）
差异隐私允许量化访问敏感个人数据造成的隐私损失。对底层数据的重复访问会导致越来越多的损失。将数据作为隐私保护合成数据发布可以避免这种限制，但会留下设计什么样的合成数据的问题。我们建议通过概率建模来制定私人数据发布的问题。这种方法将设计合成数据的问题转换为选择数据模型，还允许包括先验知识，这提高了合成数据的质量。我们在一项流行病学研究中以经验证明，统计发现可以从合成数据中可靠地重现。我们希望该方法在创建用于研究的关键数据集的高质量匿名数据双胞胎方面具有广泛的用途。
2021-03-01 cs.CR cs.LG stat.ML
Synthetic Query Generation for Privacy-Preserving Deep Retrieval Systems using Differentially Private Language Models
Stanford University（斯坦福大学）；Google Inc.（谷歌公司）；Google Research（谷歌研究院）；Google DeepMind（谷歌DeepMind）
针对深度检索系统直接差分隐私训练困难的问题，提出先用差分隐私语言模型生成私有合成查询，再用于训练，显著提升检索质量并保持隐私保证。
2024-05-23 cs.CL cs.CR cs.IR
Private sampling: a noiseless approach for generating differentially private synthetic data
在一个人工智能和数据科学变得无所不在的世界里，数据共享越来越多地与数据隐私问题发生冲突。差分隐私已经成为一个严格的框架，用于保护统计数据库中的个人隐私，同时发布有关数据库的有用统计信息。实现差分隐私的标准方法是向数据中注入足够量的噪声。但是，除了差分隐私的其他限制外，这种添加噪声的过程会影响数据的准确性和实用性。另一种在数据共享中实现隐私的方法是基于合成数据的概念。合成数据的目标是创建一个尽可能真实的数据集，它不仅保持了原始数据的细微差别，而且没有暴露敏感信息的风险。差分隐私与合成数据的结合被认为是两全其美的解决方案。在这项工作中，我们提出了第一个无噪声的方法来构建不同的私人合成数据，我们这样做，通过一种机制称为“私人采样”。使用布尔立方体作为基准数据模型，我们推导出明确的界限的准确性和隐私的构造合成数据。关键的数学工具是超压缩性、对偶性和经验过程。我们的私人抽样机制的一个核心成分是一个严格的“边际校正”方法，它具有显着的属性，重要性重新加权可以用来精确匹配的边缘的样本的人口的边缘。
2021-09-30 cs.CR math.ST stat.TH
The Canary's Echo: Auditing Privacy Risks of LLM-Generated Synthetic Text
Imperial College London（帝国理工学院伦敦分校）；Microsoft（微软公司）；National University of Singapore（新加坡国立大学）
本文提出通过设计具有分布内前缀和高困惑度后缀的知更鸟，提高基于数据的MIAs的威力，以更准确评估LLM生成合成数据的隐私风险。
2025-06-06 cs.CL cs.CR cs.LG
KIPPS: Knowledge infusion in Privacy Preserving Synthetic Data Generation
University of Maryland at Baltimore County（马里兰大学巴尔的摩县分校）；The University of Texas at El Paso（德克萨斯大学埃尔帕索分校）
本文提出KIPPS模型，将知识图谱中的领域和监管知识注入生成式深度学习模型，在训练时增强属性上下文并强制执行领域约束，有效解决了网络安全和医疗保健等复杂领域中合成数据生成的隐私风险与下游准确性问题。
2024-09-25 cs.AI cs.CR cs.LG
PEARL: A Task-Aware Framework for Evaluating Differentially Private Synthetic Educational Data
The University of Hong Kong（香港大学）
PEARL框架通过多维度检查评估差分隐私合成教育数据，发现多数数据集因遗漏关键组或顺序问题被拒，且隐私保护不保证任务有用性。
2026-09-11 cs.CR cs.LG
On Utility and Privacy in Synthetic Genomic Data
UCL（伦敦大学学院）；Hazy；Alan Turing Institute（艾伦·图灵研究所）
基因组数据的可用性对于生物医学研究、个性化医疗等方面的进展至关重要。然而，基因组数据的极端敏感性使得发布或共享基因组数据成为问题，如果不是完全不可能的话。因此，已经启动了几项倡议来试验合成基因组数据，例如，使用生成模型来学习真实数据的底层分布，并生成保留其显着特征而不暴露它的人工数据集。本文首次评估了六种用于生成合成基因组数据的最新模型的实用性和隐私保护。我们评估了合成数据在几个常见任务上的性能，例如等位基因群体统计和连锁不平衡。然后，我们通过成员推断攻击的镜头来衡量隐私，即，推断记录是否是训练数据的一部分。我们的实验表明，没有一种生成合成基因组数据的方法可以同时产生高实用性和强隐私性。此外，训练数据集的大小和性质也很重要。此外，虽然数据集和模型的某些组合产生的合成数据具有接近真实数据的分布，但通常存在易受成员推断影响的目标数据点。展望未来，我们的技术可以被从业者用来评估在野外部署合成基因组数据的风险，并作为未来工作的基准。
2022-01-18 cs.AI cs.CR q-bio.GN
Convergent Differential Privacy Analysis for General Federated Learning
School of Computer Science Faculty of Engineering（计算机科学学院工程学院）；University of Sydney（悉尼大学）；Generative AI Lab（生成式人工智能实验室）；College of Computing and Data Science（计算与数据科学学院）；Nanyang Technological University（南洋理工大学）；School of Cyber Science and Technology（网络安全科学与技术学院）；Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区）
本文基于非凸和平滑目标，利用f-差分隐私分析评估了两种经典方法的最坏隐私情况，证明Noisy-FedAvg具有紧收敛界，Noisy-FedProx具有稳定常数下界，为FL-DP框架的可靠性提供了理论基础。
2026-05-13 cs.CR cs.LG
KnowledgeSG: Privacy-Preserving Synthetic Text Generation with Knowledge Distillation from Server
Zhejiang University（浙江大学）；Shanghai AI Laboratory（上海人工智能实验室）；Multi-Agent Governance & Intelligence Crew (MAGIC)（多智能体治理与智能团队（MAGIC））；Shanghai Jiao Tong University（上海交通大学）
针对私有数据微调LLM引发的隐私泄露问题，提出客户端-服务器框架KnowledgeSG，通过差分隐私学习本地知识、服务器知识蒸馏及仅传输模型的方式，在保护隐私的同时提升了合成数据质量与模型性能。
2024-10-10 cs.AI cs.CR
Generating Synthetic Data with Formal Privacy Guarantees: State of the Art and the Road Ahead
Imperial College London（伦敦帝国学院）；University of Manchester（曼彻斯特大学）；National University of Singapore（新加坡国立大学）
本综述系统梳理了隐私保护合成数据在表格、图像和文本上的最新方法，并通过在五个专业领域数据集上对四种领先方法的实证分析，揭示了现实隐私约束下性能显著下降的问题，强调了建立稳健评估框架和标准化基准的必要性。
2025-03-26 cs.CL cs.CR cs.CV
Differentially Private Algorithms for Synthetic Power System Datasets
Massachusetts Institute of Technology（麻省理工学院）；MIT Energy Initiative（麻省理工学院能源倡议）
虽然电力系统研究依赖于真实世界网络数据集的可用性，但数据所有者（例如，系统运营商）由于安全和隐私风险而对共享数据犹豫不决。为了控制这些风险，我们开发了隐私保护算法，用于优化和机器学习数据集的合成生成。以真实世界的数据集作为输入，算法输出其嘈杂的合成版本，这保留了特定下游模型甚至大量模型上真实数据的准确性。我们使用拉普拉斯和指数机制的差分隐私和保护数据的准确性，使用后处理凸优化的隐私损失控制。我们应用该算法生成综合网络参数和风电数据。
2023-03-20 cs.CR cs.DS cs.LG
Understanding the Impact of Data Domain Extraction on Synthetic Data Privacy
UCL（伦敦大学学院）；SAS（SAS公司）；UC Riverside（加州大学河滨分校）
针对表格合成数据生成模型的隐私攻击问题，研究数据域提取的三种策略，发现直接从输入数据提取会破坏DP保障，而用DP机制提取即使在高隐私预算下也能抵御常见MIAs。
2025-04-14 cs.CR cs.LG
Cross-Flow Correlations Survive Synthesis: Measuring Source-Level Privacy Leakage in Synthetic Network Traces
Princeton University（普林斯顿大学）
本文揭示SynNetGens在合成网络轨迹中保留跨流行为相关性，导致源级隐私泄露，提出TraceBleed攻击并评估五种数据集和六种SynNetGens，发现流或数据包级差分隐私无法保护源隐私，除非降质到不可用水平。
2026-05-08 cs.CR cs.NI
Driving Privacy Forward: Mitigating Information Leakage within Smart Vehicles through Synthetic Data Generation
本文提出通过TVAE模型生成合成数据以缓解智能车辆数据隐私泄露问题，构建了14种车载传感器漏洞分类法，并在保真度、效用和隐私指标上实现了90.1%统计相似性与78%分类准确率，有效防止了驾驶员画像。
2024-10-11 cs.CR cs.LG
The DCR Delusion: Measuring the Privacy Risk of Synthetic Data
Imperial College London（伦敦帝国学院）；University College London（伦敦大学学院）；SAS（SAS公司）
本文证明 DCR 等基于距离的合成数据隐私代理指标无法识别成员推理攻击风险，并通过多数据集、多模型实验揭示其系统性失效，呼吁以成员推理攻击作为严格评估标准。
2025-05-02 cs.AI cs.CR cs.LG
Generating Synthetic Health Sensor Data for Privacy-Preserving Wearable Stress Detection
ScaDS.AI Dresden/Leipzig, Leipzig University（ScaDS.AI 德累斯顿/莱比锡，莱比锡大学）
本文提出一种利用GAN和差分隐私生成隐私保护的智能手表健康传感器数据，用于提升可穿戴压力检测的模型性能。
2024-05-14 cs.AI cs.CR cs.LG
