Federated Learning for Tabular Data: Exploring Potential Risk to Privacy
联邦学习(FL)已经成为一种潜在的强大的隐私保护机器学习方法,因为它避免了参与者之间的数据交换,而是交换模型参数。FL传统上应用于图像、语音和类似数据,但最近它开始引起包括金融服务在内的数据主要是表格的领域的注意。然而,关于表格数据的工作尚未考虑潜在的攻击,特别是使用生成对抗网络(GANs)的攻击,这些攻击已成功应用于非表格数据的FL。本文是第一个探讨私有数据泄漏的联邦学习系统,处理表格数据。我们设计了一个基于生成对抗网络(GANs)的攻击模型,该模型可以部署在恶意客户端上,以重建来自其他参与者的数据及其属性。作为考虑表格数据的副作用,我们能够在统计上评估攻击的有效性(而不依赖于人类观察,例如对图像的FL所做的观察)。我们实现我们的攻击模型在最近开发的通用FL软件框架表格数据处理。实验结果证明了所提出的攻击模型的有效性,从而表明需要进一步的研究来对抗基于GAN的隐私攻击。
2022-10-13 cs.CR
Systematic Assessment of Tabular Data Synthesis
Purdue University(普渡大学)
本文提出系统性评估框架,引入保真度、隐私和效用的新指标,对8种表格数据合成器在12个数据集上评估,发现新方向。
2025-09-07 cs.CR cs.DB cs.LG
Improving Utility for Privacy-Preserving Analysis of Correlated Columns using Pufferfish Privacy
调查是许多社会科学研究领域的重要工具,但隐私问题可能会使调查数据的收集和分析复杂化。对调查数据进行不同的私人分析可以解决这些问题,但代价是准确性-特别是对于高维统计数据。我们提出了一种新的隐私机制,表DDP机制,设计的高维统计不完全相关。表DDP机制满足依赖差分隐私,河豚隐私的一种变体;它的工作原理是建立敏感数据的因果模型,然后将噪声校准到统计数据之间的相关性水平。对调查数据的实证评价表明,表式DDP机制可以显着提高精度比拉普拉斯机制。
2022-09-22 cs.CR
Membership Inference over Diffusion-models-based Synthetic Tabular Data
University of Alberta(阿尔伯塔大学)
该研究针对基于扩散模型的合成表格数据生成方法,提出基于逐步误差比较的查询式 MIA,评估 TabDDPM 与 TabSyn 的隐私风险,发现前者更易受攻击、后者更具韧性。
2025-10-16 cs.AI cs.CR cs.LG
Synth-MIA: A Testbed for Auditing Privacy Leakage in Tabular Data Synthesis
University of California Los Angeles(加州大学洛杉矶分校)
Synth-MIA提出统一的模型无关威胁框架和开源测试平台,集成13种成员推理攻击方法,通过大规模基准实验揭示合成数据质量与隐私泄露的正相关关系,并证明差分隐私生成器PATEGAN在MIA攻击下仍可能失效,强调基于MIA审计的必要性。
2025-09-22 cs.CR stat.ML
DP-TabICL: In-Context Learning with Differentially Private Tabular Data
University of Arkansas(阿肯色大学)
本研究针对表格数据上下文学习的隐私泄露问题,提出分别基于本地和全局差分隐私的两个框架,在8个真实数据集上验证了其可在保护隐私的同时达到与非大模型基线相当的性能。
2024-03-08 cs.AI cs.CR cs.LG
Scaling While Privacy Preserving: A Comprehensive Synthetic Tabular Data Generation and Evaluation in Learning Analytics
University of Bergen(卑尔根大学);University of Belgrade(贝尔格莱德大学)
本文针对学习分析中的隐私问题,提出从相似性、效用和隐私三个维度全面评估合成数据,并在三个数据集上验证其可在保护隐私的同时保持与真实数据相近的预测性能,为不同场景提供生成方法建议。
2024-01-12 cs.AI cs.CR
Data Plagiarism Index: Characterizing the Privacy Risk of Data-Copying in Tabular Generative Models
UCLA(加州大学洛杉矶分校)
针对现有表格生成模型数据复制评估方法的不足,提出新型相似性度量与成员推理攻击DPI,可表征数据复制的隐私与公平性威胁,凸显优化生成建模技术的必要性。
2024-06-18 cs.CR cs.LG stat.ML
Privacy-Preserving Fair Synthetic Tabular Data
University of Manitoba(曼尼托巴大学)
针对合成表格数据中隐私与公平性难以兼顾的问题,提出基于WGAN-GP的PF-WGAN生成器,通过添加隐私和公平性约束,在效用、隐私和公平性间实现了更均衡的权衡。
2025-03-04 cs.CR cs.LG
Winning the MIDST Challenge: New Membership Inference Attacks on Diffusion Models for Tabular Data Synthesis
Carnegie Mellon University(卡内基梅隆大学)
针对扩散表格数据合成的隐私评估不足,本文提出利用跨噪声与时间步损失特征的轻量级 MLP 成员推理攻击,并在 MIDST Challenge 全部赛道夺冠。
2025-03-15 cs.AI cs.CR cs.LG
Efficient Provably Private Classification with a Tabular Foundation Model
University of Helsinki(赫尔辛基大学);University of Cambridge(剑桥大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
PrivTab是一个内嵌隐私机制的表格基础模型,通过上下文学习生成可证明私密的摘要,在强隐私下优于现有基线,泄漏可忽略,拟合时间减少万倍。
2026-10-08 cs.CR cs.LG
Do You Really Need Public Data? Surrogate Public Data for Differential Privacy on Tabular Data
Boston University(波士顿大学);New York University(纽约大学)
针对表格数据缺乏公共数据的问题,提出利用大语言模型从模式规范合成不消耗隐私预算的替代公共数据,用于DP分类器预训练、超参数调优和权衡估计,实验证明其可有效替代传统公共数据。
2025-04-19 cs.CR cs.LG
HeteroFedSyn: Differentially Private Tabular Data Synthesis for Heterogeneous Federated Settings
UNC Greensboro(北卡罗来纳大学格林斯伯勒分校);University of Virginia(弗吉尼亚大学)
HeteroFedSyn是首个针对异构联邦设置的差分隐私表格数据合成框架,通过引入三种创新解决分布式边缘选择问题,实现与集中式合成相当的实用性。
2026-03-09 cs.CR
DP-TLDM: Differentially Private Tabular Latent Diffusion Model
TU Delft, Delft, Netherlands , University of Neuchâtel, Neuchâtel, Switzerland Universidad de los Andes, Bogotá, Colombia Centrum Wiskunde \& Informatica, Amsterdam, Netherlands
针对表格合成数据质量与隐私风险难以兼顾的问题,提出基于 f-DP 和 DP-SGD 的 DPTLDM,在保持相当隐私风险的同时显著提升相似性、下游效用和可判别性。
2025-07-21 cs.CR cs.LG
Synthesis of Adversarial DDOS Attacks Using Tabular Generative Adversarial Networks
网络入侵检测系统(NIDS)是广泛用于维护计算机网络和信息系统的工具或软件,当有人试图闯入系统时,它们会标记,以保持它们的安全并防止恶意流量渗透到它们中。然而,随着攻击技术的不断发展,新的攻击类型也越来越多,其中一种是基于生成对抗网络(GAN)的攻击,它可以逃避机器学习IDS,使它们变得脆弱。本项目研究使用GANs生成的真实DDoS攻击合成的对抗攻击对IDS的影响。我们的目标是发现这些系统将如何对合成攻击作出反应。标记出这些系统的弱点和弱点,以便我们修复它们。
2022-12-14 cs.AI cs.CR
Benchmarking Differentially Private Tabular Data Synthesis
University of Virginia(弗吉尼亚大学);Google Research(谷歌研究)
针对差分隐私表格数据合成算法选型难的问题,本文提出统一评估基准与整合多模块的评估框架,通过对比实验揭示现有方法的效用-效率权衡并分析各模块特性,相关代码已开源。
2025-11-17 cs.CR
Initial Exploration of Zero-Shot Privacy Utility Tradeoffs in Tabular Data Using GPT-4
Kansas State University(堪萨斯州立大学);Louisiana State University(路易斯安那州立大学)
本研究探索GPT-4以零样本文本提示方式处理表格数据隐私-效用权衡,发现该简单方法性能可媲美复杂对抗优化方法,且在公平性指标上展现出潜在有效性。
2024-04-07 cs.CR cs.LG
Learning from Anonymized and Incomplete Tabular Data
Leipzig University \& ScaDS.AI Leipzig Germany;The Australian National University Canberra Australia;Leipzig University \& ScaDS.AI;The Australian National University
本文提出了一种新的数据转换策略,用于处理包含匿名和缺失值的表格数据,通过实验表明一致的数据表示对保持下游实用性至关重要。
2026-02-01 cs.AI cs.CR cs.DB
Differentially Private Tabular Data Synthesis using Large Language Models
Emory University(埃默里大学)
本文提出DP-LLMTGen框架,利用预训练大语言模型通过两阶段微调和新型损失函数实现差分隐私表格数据合成,在多数据集和隐私设置下优于现有机制并具备可控生成能力。
2024-06-03 cs.CL cs.CR cs.LG
Generate synthetic samples from tabular data
AskExplain;University of Queensland(昆士兰大学)
从数据集生成新样本可以减少额外昂贵的操作,增加侵入性程序,并减轻隐私问题。当隐私受到关注时,这些统计上稳健的新型样本可以用作临时和中间替代品。这种方法可以实现更好的数据共享实践,而不会出现与识别问题或偏见有关的问题,这些问题是对抗攻击的缺陷。
2022-12-23 cs.CR cs.LG
A self-attention-based differentially private tabular GAN with high data utility
Fudan University(复旦大学)
针对GAN生成表格数据效果不佳及差分隐私导致效用下降的问题,提出基于自注意力的DP-SACTGAN框架,实验证明其能准确建模数据分布并满足差分隐私要求。
2023-12-20 cs.CR cs.DB cs.LG
Sharing is CAIRing: Characterizing Principles and Assessing Properties of Universal Privacy Evaluation for Synthetic Tabular Data
University of Southern Denmark(南方丹麦大学)
本文针对合成表格数据隐私评估方法缺乏共识的问题,首次提出了CAIR四项原则(可比性、适用性、可解释性、代表性)及1-4等级评分量表,通过评估现有指标揭示了其优缺点,旨在促进通用隐私评估指标的标准化与共识。
2025-07-16 cs.CR cs.CY cs.LG
Privacy Vulnerabilities of Attention Layers in Tabular Foundation Models and Protection of High-Risk Queries
SnT, University of Luxembourg(卢森堡大学SnT研究所)
本文发现表格基础模型的注意力机制会泄露成员信息,提出无影子模型的AMIA攻击,并基于k-匿名原理设计推理时防御,降低成员泄露风险。
2026-06-25 cs.AI cs.CR
Privately generating tabular data using language models
Meta AI
本文提出将表格行视为句子并用差分隐私训练语言模型,以在多个数据集上实现具有竞争力的隐私表格合成效果。
2023-06-07 cs.CL cs.CR cs.LG
Contrastive Learning-Based privacy metrics in Tabular Synthetic Datasets
Aindo(艾因多(Aindo));University of Trieste(的里雅斯特大学)
本文提出基于对比学习的嵌入方法改进表格合成数据隐私评估,实验表明简单高效的隐私度量可与符合GDPR的先进方法相媲美。
2025-03-10 cs.CR cs.LG
Privacy Re-identification Attacks on Tabular GANs
Norwegian University of Science and Technology(挪威科技大学)
本文研究表格型 GAN 合成数据的隐私重识别攻击,分析不同攻击者知识水平下的风险,并发现黑盒访问生成模型及进化多目标优化重构攻击会显著加剧隐私泄露。
2024-03-31 cs.CR cs.LG
Differentially Private Paired Table-Image Multimodal Synthesis
University of Virginia(弗吉尼亚大学);Dexcom(德克斯康公司);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
针对差分隐私下表格-图像配对多模态合成的挑战,提出DP-TabImage框架,结合私有概率图模型与DP-SGD训练的表格条件扩散模型,在三类真实数据集上实现了表格、图像保真度与跨模态对齐的良好平衡。
2026-09-02 cs.AI cs.CR cs.CV
Ensembling Membership Inference Attacks Against Tabular Generative Models
University of California Los Angeles(加州大学洛杉矶分校);Stanford University(斯坦福大学)
针对表格生成模型的成员推断攻击,提出集成方法以在不确定性下实现更稳健、遗憾最小化的隐私审计策略。
2025-09-02 cs.CR cs.LG
OptimShare: A Unified Framework for Privacy Preserving Data Sharing -- Towards the Practical Utility of Data with Privacy
本文提出 OptimShare 统一框架,融合差分隐私、模糊逻辑与概率论,通过面向应用的选择性属性扰动提升表格数据共享的实际效用并保障隐私。
2023-06-06 cs.CR cs.DB
Where to Intervene? Benchmarking Fairness-Aware Learning on Differentially Private Synthetic Tabular Data
ÉTS Montréal(蒙特利尔高等商学院);Inria Grenoble(格勒诺布尔计算机科学及自动化研究所)
研究在差分隐私合成表格数据上公平干预的效果,以自适应迭代机制为基准,在多数据集、指标及策略下评估,比较四种管道配置,发现仅DP会降效,公平干预可部分恢复公平,后处理方法权衡更优,还开源相关内容以支持研究。
2026-07-29 cs.AI cs.CR cs.LG
DP-2Stage: Adapting Language Models as Differentially Private Tabular Data Generators
CISPA Helmholtz Center for Information Security(CISPA 欧洲信息安全研究中心)
本文提出DP-2Stage两阶段微调框架,通过先在伪数据集上非隐私微调再在私有数据集上差分隐私微调,有效解决了LLMs在差分隐私下生成表格数据时隐私预算分配低效的问题,显著提升了各指标性能。
2025-04-29 cs.CL cs.CR cs.LG
DP-TBART: A Transformer-based Autoregressive Model for Differentially Private Tabular Data Generation
Stanford University(斯坦福大学);Bloomberg(彭博社)
针对差分隐私表格数据生成中深度学习方法表现落后于边际方法的问题,提出基于Transformer的DP-TBART自回归模型,性能可比肩甚至超越最优边际方法,并提供理论框架分析两类方法的适用场景。
2023-07-19 cs.CR cs.LG
Beyond One-Size-Fits-All: Neural Networks for Differentially Private Tabular Data Synthesis
University of Virginia(弗吉尼亚大学)
针对差分隐私表格数据合成,提出MargNet,融合统计模型的自适应边际选择策略,在密集相关数据集上实现新的最优性能,保真度误差最多降低26%。
2026-09-10 cs.CR cs.LG
Fed-TDA: Federated Tabular Data Augmentation on Non-IID Data
School of Computer Science, Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳)计算机科学与技术学院);Department of New Networks, Peng Cheng Laboratory(鹏城实验室新型网络部)
非独立同分布(non-IID)数据是联邦学习(FL)面临的一个关键挑战,它通常会阻碍FL的优化收敛和性能。现有的基于联邦生成模型或原始数据共享策略的数据增强方法在解决非IID问题时仍然存在性能低下、隐私保护问题以及分布式表数据通信开销大等问题。为了应对这些挑战,我们提出了一种联合表格数据增强方法,名为Fed-TDA。Fed-TDA的核心思想是使用一些简单的统计数据(例如,每个列的分布和全局协方差)。具体来说,我们提出了多峰分布变换和逆累积分布映射分别合成连续和离散列的表格数据从噪声根据预先学习的统计。此外,我们从理论上分析,我们的Fed-TDA不仅保护数据隐私,而且还保持了原始数据的分布和列之间的相关性。通过对五个真实世界的表格数据集进行广泛的实验,我们证明了Fed-TDA在测试性能和通信效率方面的优越性。
2023-01-12 cs.CR cs.LG stat.ML
Differentially Private Synthetic High-dimensional Tabular Stream
University of California(加利福尼亚大学)
本文针对持续变化的私有数据流,提出一种满足持续差分隐私的高维表格流合成数据生成框架,结合选择-度量-拟合-迭代范式与私有计数器,并通过真实数据集实验验证其效用。
2024-08-31 cs.CR cs.IT cs.LG
Diff-DDoS: Realistic Cyber-Physical Attack Synthesis and Robust Detection for 5G-Enabled CPS Using Tabular Diffusion Models
The Hong Kong Polytechnic University(香港理工大学);Xi’an Jiaotong University(西安交通大学);The Hang Seng University of Hong Kong(香港恒生大学);Hong Kong Shue Yan University(香港树仁大学)
该研究针对5G赋能CPS的DDoS检测数据稀缺问题,提出Diff-DDoS三阶段框架,采用表格扩散模型生成逼真攻击并通过对抗扩散训练提升ResNet50等检测器的鲁棒性,在米兰CDR数据集上取得优异检测效果。
2026-08-19 cs.CR cs.LG
Decoupling Identity from Utility: Privacy-by-Design Frameworks for Financial Ecosystems
Capital One
本文提出通过差分隐私合成数据解决金融机构在最大化数据效用与缓解传统匿名化方法重新识别风险之间的矛盾,探讨了两种生成范式并展示了其在动态市场行为建模中的应用。
2026-04-16 cs.AI cs.CE cs.CR
CVPL: A Geometric Framework for Post-Hoc Linkage Risk Assessment in Protected Tabular Data
CVPL提出了一种几何框架,用于后验评估受保护表格数据的链接风险,通过连续风险估计和可解释诊断支持隐私保护与效用分析。
2026-02-11 cs.AI cs.CR
Privacy-Enhanced Database Synthesis for Benchmark Publishing (Technical Report)
本文提出基于和积网络的差分隐私数据库合成框架PrivBench,用于基准发布场景,在保护隐私的同时保持数据分布与查询运行时间的高保真度。
2025-04-10 cs.CR cs.DB
SiloFuse: Cross-silo Synthetic Data Generation with Latent Tabular Diffusion Models
TU Delft(代尔夫特理工大学);University of Neuchatel(纳沙泰尔大学)
针对跨筒仓垂直分布表格数据,本文提出 SiloFuse 分布式潜在扩散框架,以单步堆叠训练实现高质量、隐私可量化且通信高效的合成。
2024-04-04 cs.CR cs.DB cs.DC
Random Client Selection on Contrastive Federated Learning for Tabular Data
Department of Computing, The Hong Kong Polytechnic University(计算机学院,香港理工大学)
针对对比联邦学习仍易受梯度攻击的隐私问题,本文通过全面实验分析验证了随机客户端选择作为防御策略的有效性,为构建更安全的协作学习框架提供参考。
2025-05-16 cs.CR cs.DC cs.LG
Geometry-Aware Tabular Diffusion
提出几何感知表格扩散(GATD),通过向扩散去噪器注入列值差异的成对角度和长度作为输入和辅助目标,以显式建模列间关系,在10个数据集上以更少参数取得SOTA性能。
2026-05-23 cs.AI cs.CR cs.LG
DPSyn: Experiences in the NIST Differential Privacy Data Synthesis Challenges
本文总结了参加美国国家标准与技术研究院(NIST)组织的两次差分隐私竞赛的经验。在本文中,我们记录了我们在竞争中的经验,我们使用的方法,我们学到的教训,我们呼吁研究界进一步弥合DP研究理论与实践之间的差距。
2021-06-24 cs.CR
Plausible deniability for privacy-preserving data synthesis
在隐私保护领域,发布完整数据(尤其是高维数据集)是最具挑战性的问题之一。普通加密技术无法应对攻击者采取差分攻击获取敏感信息,而现有的差分隐私保护算法模型高维计算耗时长,需要加入噪声降低数据精度,不适合高维大数据集。针对这种情况,本文围绕“似是而非的否认”概念,设计了一套完整的数据合成方案来保护数据隐私。本文首先从理论上对“似然数据”与“似然数据”的区别进行了论证。在方案设计过程中,将方案设计分解为构造数据合成模块和隐私检测模块,分别设计了算法模型,实现了隐私保护功能。在评估方案可行性时,选取美国2013年社区人口普查结果作为高维数据集,使用基于Python的仿真程序对数据合成方案的效率和可靠性进行了测试和分析。本部分集中于评估该计划的隐私保护成效。
2022-12-13 cs.CR
Offline Reinforcement Learning with Differential Privacy
UC Santa Barbara(加州大学圣巴巴拉分校)
离线强化学习(RL)问题通常是由金融、法律和医疗保健应用中学习数据驱动的决策策略的需求所驱动的。然而,所学习的策略可以在训练数据中保留个体的敏感信息(例如,患者的治疗和结果),因此容易受到各种隐私风险的影响。我们设计离线RL算法与差分隐私保证,可证明防止这种风险。这些算法在表格和线性马尔可夫决策过程(MDP)设置下也具有很强的实例相关学习边界。我们的理论和模拟表明,与中等规模数据集的非私有对应物相比,隐私保证的效用(几乎)没有下降。
2023-01-03 cs.AI cs.CR cs.LG
Privacy Preserving Controller Synthesis via Belief Abstraction
University of Notre Dame(圣母大学)
本文基于系统状态信念提出隐私保护新概念,通过混合单调信念空间抽象,提出两种控制器合成方法以保障隐私。
2018-03-05 cs.CR cs.SY eess.SY
Privacy-Preserving Policy Synthesis in Markov Decision Processes
在决策问题中,智能体的行为可能会揭示驱动其决策的敏感信息。例如,一家公司的投资决策可能会揭示其对市场动态的敏感知识。为了防止这种类型的信息泄漏,我们引入了一个策略合成算法,保护隐私的转移概率在马尔可夫决策过程。我们使用差分隐私作为隐私的数学定义。该算法首先使用提供差分隐私的机制来扰动转移概率。然后,基于私有化的转移概率,我们综合的政策,使用动态规划。我们的主要贡献是限制“隐私成本”,即,具有隐私的预期总回报与不具有隐私的预期总回报之间的差异。我们还表明,计算隐私成本的时间复杂度是多项式的参数的问题。此外,我们确定,隐私的成本随着差异隐私保护的强度而增加,我们量化了这种增加。最后,在两个示例环境中的数值实验验证了隐私成本和数据隐私保护强度之间的关系。
2020-04-16 cs.CR cs.SY eess.SY
Tab-MIA: A Benchmark Dataset for Membership Inference Attacks on Tabular Data in LLMs
Department of Software and Information Systems Engineering, Ben-Gurion University of the Negev(软件与信息系统工程系,贝内杰尔·大学)
本文提出 Tab-MIA 基准,涵盖五个数据集合与六种编码格式,首次系统评估微调 LLM 在表格数据上的成员推理攻击风险。
2025-07-23 cs.CL cs.CR
CATS: Conditional Adversarial Trajectory Synthesis for Privacy-Preserving Trajectory Data Publication Using Deep Learning Approaches
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Columbia University(哥伦比亚大学)
CATS框架通过K-匿名分布约束、条件对抗训练、注意力上下文学习和二分图匹配,生成高质量隐私保护轨迹数据,并在9万条GPS轨迹上验证了其在隐私、时空特征和下游效用上的优势。
2023-09-20 cs.AI cs.CR cs.LG
Power Mechanism: Private Tabular Representation Release for Model Agnostic Consumption
MIT(麻省理工学院);MBZUAI(穆斯林人工智能研究所);EPFL(苏黎世联邦理工学院)
提出一种联合学习隐私编码网络与效用生成网络的方法,生成具有差分隐私保证的嵌入,实现模型无关的私有表格表示发布,仅需一轮通信且客户端计算量更少。
2025-10-07 cs.CR cs.LG
SAFES: Sequential Privacy and Fairness Enhancing Data Synthesis for Responsible AI
Lucy Family Institute for Data & Society(数据与社会卢西家族研究所);University of Notre Dame(北德克萨斯大学);Department of Applied and Computational Mathematics and Statistics(应用与计算数学与统计系)
提出 SAFES 序贯数据合成框架,将差分隐私合成与公平感知预处理结合,支持在隐私、公平性和效用间灵活权衡,并在真实数据集上验证其低效用损失下显著改善公平性。
2025-10-20 cs.CR cs.LG
Improving Correlation Capture in Generating Imbalanced Data using Differentially Private Conditional GANs
Maastricht University(马斯特里赫特大学);Institute of Data Science(数据科学研究所);Brightlands Institute of Smart Society(布赖特兰兹智能社会研究所)
尽管生成对抗网络(GANs)在文本、图像和视频方面取得了显著的成功,但由于一些独特的挑战,例如捕获不平衡数据中的依赖关系,优化合成患者数据的质量,同时保护隐私,生成高质量的表格数据仍处于开发阶段。在本文中,我们提出了DP-CCANS,一个差分私有条件GAN框架,包括数据转换,采样,调节和网络训练,以生成现实和隐私保护的表格数据。DP-CGANS区分分类和连续变量,并将它们分别转换为潜在空间。然后,我们构造一个条件向量作为额外的输入,不仅表示不平衡数据中的少数类,而且还捕获变量之间的依赖关系。在DP-CCANS的网络训练过程中,我们向梯度注入统计噪声,以提供差分隐私保证。我们在三个公共数据集和两个真实世界的个人健康数据集上使用最先进的生成模型,在统计相似性,机器学习性能和隐私测量方面对我们的模型进行了广泛的评估。我们证明了我们的模型优于其他可比模型,特别是在捕捉变量之间的依赖关系。最后,我们提出了在合成数据生成的数据效用和隐私之间的平衡,考虑到不同的数据结构和现实世界的数据集的特点,如不平衡的变量,异常分布,和稀疏的数据。
2022-06-28 cs.AI cs.CR cs.DS
Differentially Private Regret Minimization in Episodic Markov Decision Processes
Indian Institute of Science(印度科学理工学院);Wayne State University(韦恩州立大学)
研究了差分隐私(DP)约束下有限水平表马尔可夫决策过程(MDP)的后悔最小化问题。这是由强化学习(RL)在现实世界中的顺序决策问题,其中保护用户的敏感和私人信息变得至关重要的广泛应用的动机。我们考虑DP的两种变体-联合DP(JDP),其中集中式代理负责保护用户的敏感数据和本地DP(LDP),其中信息需要直接在用户端保护。我们首先提出了两个一般框架-一个用于策略优化,另一个用于值迭代-用于设计私有的乐观RL算法。然后,我们实例化这些框架与合适的隐私机制,以满足JDP和LDP的要求,同时获得次线性后悔保证。遗憾界表明,在JDP下,隐私成本只是一个低阶的加法项,而在LDP下,更强的隐私保护,所遭受的成本是乘法。最后,遗憾界得到了一个统一的分析,这,我们相信,可以扩展到表MDPs。
2021-12-20 cs.CR cs.LG math.PR
DPGen: Automated Program Synthesis for Differential Privacy
差分隐私已经成为以隐私保护方式发布数据的事实标准。创建差异私有算法的过程通常从无噪声(非私有)算法开始。然后,设计者决定在哪里添加噪声,以及添加多少噪声。这可能是一个不平凡的过程--如果不仔细做,算法可能会违反差分隐私或具有低效用。在本文中,我们提出了DPGen,一个程序合成器,需要在非私有代码(没有任何噪声),并自动合成其差分私有版本(仔细校准的噪声)。在引擎盖下,DPGen使用新的算法自动生成一个草图程序,其中包含噪声的候选位置,然后在草图程序上同时优化隐私保护和噪声尺度。此外,DPGen可以合成复杂的机制,自适应地处理查询,直到指定的隐私预算耗尽。在标准基准测试中进行评估时,DPGen能够在120秒内生成优化简单效用函数的差异化私有机制。它也足够强大,可以合成自适应隐私机制。
2021-09-15 cs.CR cs.PL