Practical Privacy-Preserving Data Science With Homomorphic Encryption: An Overview
由于产生的机密数据量越来越大且难以管理，隐私已经获得了越来越多的关注。对与第三方共享数据以获得富有成效的见解的可能性的担忧困扰着企业环境;价值不仅存在于数据中，而且存在于提供分析结果的算法和模型的知识产权中。这一僵局锁定了“即服务”范式中高性能计算资源的可用性，以及以协作方式与科学界进行知识交流。隐私保护数据科学允许使用私人数据和算法，而不会危及他们的隐私。传统的加密方案不能在不首先解密加密数据的情况下对加密数据进行操作。同态加密（HE）是一种加密形式，它允许在计算加密数据的同时保留明文的特征和格式。以意大利中央银行有趣的用例为背景，本文重点讨论如何利用HE和数据科学来设计和开发隐私保护企业应用程序。本文综述了同态加密的主要技术，以及数据科学与同态加密之间的关系。
2020-11-13 cs.CR
Mind The Gap: Can Air-Gaps Keep Your Private Data Secure?
本文系统梳理空气间隙网络面临的真实入侵事件、攻击模型、隐蔽数据外泄技术及相应防御对策，证明物理隔离并非绝对安全。
2024-09-06 cs.CR
Load Shaping Based Privacy Protection in Smart Grids: An Overview
由智能电表（SM）收集的细粒度能源使用数据是智能电网（SG）的关键组成部分之一。虽然收集这些数据提高了SG的效率和灵活性，但也对消费者的隐私构成了严重威胁。通过非侵入式设备负载监控（NALM）等技术，这些数据可用于识别正在使用的设备，从而披露消费者的私人生活。在文献中已经提出了各种方法来保护消费者隐私。本文重点研究负载整形（LS）方法，该方法通过家庭设施来改变消费数据，以确保隐私。概述了隐私保护技术，以及用于隐私保护的LS方法、隐私措施和家庭设施的启发式方法，以深入分析这些方法在智能电网系统中的有效性和适用性。最后，对智能电网中隐私保护的研究方向进行了展望。
2020-01-18 cs.CR cs.SY eess.SY
Redactable Blockchains: An Overview
本报告概述了可编辑区块链，探讨了其通过变色龙哈希等密码学机制实现受控修改以解决传统区块链不可篡改性带来的合规与隐私问题，并分析了其在医疗、金融等领域的应用及未来挑战。
2025-08-12 cs.CR cs.DC
Relaxed Marginal Consistency for Differentially Private Query Answering
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts（马萨诸塞大学）
许多用于回答数据库查询的差分私有算法涉及从噪声测量重构离散数据分布的步骤。这提供了一致的查询答案并减少了错误，但通常需要随维度呈指数级增长的空间。Private-PGM是最近的一种方法，它使用图形模型来表示数据分布，其复杂性与图形模型中的精确边缘推断的复杂性成比例，该图形模型的结构由噪声测量中的变量的共现确定。Private-PGM对于稀疏测量是高度可扩展的，但是可能无法在具有密集测量的高维中运行。我们克服了私人PGM的主要可扩展性限制，通过一个原则性的方法，放松一致性约束的估计目标。我们的新方法适用于许多现有的私人查询回答算法，提高了可扩展性或准确性，没有隐私成本。
2021-10-25 cs.CR cs.LG
Generating Private Synthetic Data with Genetic Algorithms
Carnegie Mellon University（卡内基梅隆大学）；Peking University（北京大学）；University of Minnesota（明尼苏达大学）
针对差分私有合成数据生成中一阶优化仅限可微目标的问题，提出基于零阶启发式的私有遗传算法 Private-GSD，并在 ACS 数据上证明其对不可微统计查询优于现有方法。
2023-06-05 cs.CR cs.LG cs.NE
AnomiGAN: Generative adversarial networks for anonymizing private medical data
Seoul National University（首尔国立大学）
典型的个人医疗数据包含有关个人的敏感信息。因此，存储或共享个人医疗数据通常是有风险的。例如，一个短的DNA序列可以提供信息，不仅可以识别一个人，而且还可以识别他或她的亲属。尽管如此，大多数国家和研究人员都同意收集个人医疗数据的必要性。这是因为，包括基因组数据在内的医疗数据是进一步研究和开发疾病预防和治疗的不可或缺的资源。为了防止个人医疗数据被滥用，应该开发用于实际应用的可靠地保存敏感信息的技术。在本文中，我们提出了一个名为匿名生成对抗网络（AnomiGAN）的框架，以改善个人医疗数据隐私的维护，同时保持高预测性能。我们将我们的方法与最先进的技术进行了比较，并观察到我们的方法保留了与差分隐私（DP）相同的隐私级别，但具有更好的预测结果。我们还观察到，根据原始数据的保存程度，隐私和性能结果之间存在权衡。在这里，我们提供了我们提出的模型的数学概述，并使用UCI机器学习存储库数据集来演示其验证，以突出其在实践中的实用性。实验上，我们的方法提供了更好的性能相比，DP的方法。
2019-01-31 cs.CR cs.LG
Data Poisoning against Differentially-Private Learners: Attacks and Defenses
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
数据投毒攻击旨在通过反向修改训练集来操纵由学习算法产生的模型。我们认为差分隐私作为对这种类型的攻击的防御措施。我们表明，这样的学习者是抵抗数据投毒攻击时，对手只能中毒少量的项目。然而，这种保护会随着对手毒害更多数据而降低。为了说明这一点，我们设计了针对目标和输出扰动学习器的攻击算法，这是差分私有机器学习的两种标准方法。实验表明，我们的方法是有效的，当攻击者被允许中毒足够多的训练项目。
2019-07-05 cs.CR cs.LG
Differentially Private Confidence Intervals for Empirical Risk Minimization
The Pennsylvania State University（宾夕法尼亚州立大学）；University of Georgia（佐治亚大学）
差分隐私数据采掘的过程中产生的结果受到两种类型的噪声的影响：由于数据汇集和隐私噪声，旨在防止重建的敏感信息采样噪声。在本文中，我们考虑的问题，设计各种不同的私人机器学习模型的参数的置信区间。该算法可以提供置信区间，满足差分隐私（以及最近提出的集中差分隐私），并可以与现有的差分隐私机制，训练模型使用目标扰动和输出扰动。
2018-04-11 cs.CR cs.LG stat.ML
Considerations on the Theory of Training Models with Differential Privacy
CWI Amsterdam（阿姆斯特丹数学与计算机科学国家研究所）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；University of Connecticut（康涅狄格大学）；eBay（易贝）
该研究面向联邦学习中的本地数据隐私问题，综述差分隐私框架与性质，介绍 Gaussian DP/$f$-DP 定义及 DP-SGD，并以直观方式阐释相关理论洞见。
2023-07-16 cs.CR cs.LG
PEARL: Data Synthesis via Private Embeddings and Adversarial Reconstruction Learning
LINE Corporation（LINE公司）
我们提出了一个新的框架，以不同的私有方式使用深度生成模型合成数据。在我们的框架内，敏感数据以一次性方式进行了严格的隐私保证，因此可以在不重新使用原始数据的情况下训练深度生成模型。因此，与诸如差分私有随机梯度下降（DP-SGD）之类的流行方法相比，不会产生额外的隐私成本或模型约束，其中，DP-SGD随着训练迭代的增加而导致隐私保证的退化。我们展示了我们的框架的实现，利用的特征函数和对抗性的重新加权目标，这是独立的利益，以及。我们的建议具有理论上的性能保证，对多个数据集的经验评估表明，我们的方法在合理的隐私水平上优于其他方法。
2022-03-08 cs.CR cs.LG
Fast and Private Max-Sum Diversification
Tel Aviv University（特拉维夫大学）
研究差分隐私下的最大和多样化问题，提出基数和拟阵约束下的差分隐私算法，实现近最优效用保证，设计更高效算法，实验表明该方法在强隐私保证下效用与非私密基线相当且显著提高执行时间。
2026-07-21 cs.CR cs.DS
Don't Generate Me: Training Differentially Private Generative Models with Sinkhorn Divergence
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；University of Waterloo（滑铁卢大学）；NVIDIA（英伟达）
尽管在海量数据上训练的机器学习模型在多个领域取得了突破性进展，但由于数据访问受限，它们在隐私敏感领域的部署仍然有限。使用私有数据的隐私约束训练的生成模型可以避开这一挑战，而是提供对私有数据的间接访问。我们提出了DP-Sinkhorn，一种新的基于最优传输的生成方法，用于从具有差分隐私的私有数据中学习数据分布。DP-Sinkhorn最大限度地减少了Sinkhorn发散，一个计算效率高的近似精确的最佳传输距离，模型和数据之间的差异私人的方式，并使用一种新的技术控制的偏差方差权衡梯度估计。与现有的训练差异私有生成模型的方法不同，这些方法主要基于生成对抗网络，我们不依赖于对抗目标，这是众所周知的难以优化，特别是在存在隐私约束所施加的噪声的情况下。因此，DP-Sinkhorn易于训练和部署。在实验上，我们改进了最先进的多个图像建模基准，并显示了信息丰富的RGB图像的差异私人合成。项目页面：https://nv-tlabs.github.io/DP-Sinkhorn。
2021-11-29 cs.CR cs.LG
Differentially Private Convex Optimization with Feasibility Guarantees
Technical University of Denmark（丹麦技术大学）；Syracuse University（雪城大学）；Georgia Institute of Technology（佐治亚理工学院）
本文提出了一种新的差分私有框架来解决具有敏感优化数据和复杂物理或操作约束的凸优化问题。与标准的噪声添加剂算法，主要作用于问题的数据，目标或解决方案，并忽略问题的约束，这个框架需要的优化变量是一个函数的噪声，并利用机会约束的问题重新制定正式的可行性保证。噪声被校准，以提供差分隐私的身份和线性查询的优化解决方案。对于许多应用，包括资源分配问题，所提出的框架提供了一个折衷之间的预期最优性损失和优化结果的方差。
2020-06-22 cs.CR cs.LG math.OC
Harnessing large-language models to generate private synthetic text
Google（谷歌）
本文研究利用预训练大语言模型在敏感数据上私有微调以生成差分隐私合成文本，提出合适的训练目标与少参数调优策略，显著提升合成数据质量，并在下游分类器训练与调优中取得与直接差分隐私训练相竞争的性能。
2024-01-11 cs.CR cs.LG
Differentially Private Empirical Risk Minimization
University of California, San Diego（加州大学圣地亚哥分校）；Columbia University（哥伦比亚大学）
隐私保护机器学习算法对于分析个人数据（如医疗或财务记录）的日益常见的环境至关重要。我们提供了一般的技术来产生隐私保护近似的分类器通过（正则化）经验风险最小化（ERM）学习。根据Dwork等人（2006）的$ε$ -差分隐私定义，这些算法是私有的。首先，我们将Dwork et al.（2006）的输出扰动思想应用于ERM分类。在此基础上，提出了一种新的隐私保护机器学习算法设计方法--目标扰动法。这种方法需要在优化分类器之前扰动目标函数。如果损失和正则化满足一定的凸性和可微性标准，我们证明了理论结果表明，我们的算法保持隐私，并提供线性和非线性内核的泛化范围。我们进一步提出了一种隐私保护技术，用于调整一般机器学习算法中的参数，从而为训练过程提供端到端的隐私保证。我们应用这些结果来产生隐私保护的正则化逻辑回归和支持向量机的类似物。我们从真实的人口和基准数据集上评估他们的表现，获得了令人鼓舞的结果。我们的研究结果表明，无论是理论上和经验上，客观扰动优于以前的国家的最先进的，输出扰动，在管理隐私和学习性能之间的固有权衡。
2011-02-16 cs.AI cs.CR cs.DB
Iterative Constructions and Private Data Release
本文研究了在保持差分隐私的同时近似释放图的割函数的问题，给出了交互和非交互两种情况下的新算法（以及对现有算法的新分析）.我们的算法在交互式环境中实现的问题，释放差异私人，近似答案的数据库上的大量查询。我们表明，这个问题的几个算法属于同一个基本框架，并基于存在的对象，我们称之为迭代数据库建设算法。我们给出了一个新的通用框架，其中新的（高效）IDC算法产生新的（高效）交互式私人查询发布机制。我们的模块化分析简化和加强了以前的算法的分析，从而提高了边界。然后，我们给出了一个新的IDC算法（因此，一个新的私人，交互式查询发布机制）的基础上Frieze/Kannan低秩矩阵分解。这种新的发布机制在一系列参数中对先前的工作进行了改进，其中数据库的大小与数据宇宙的大小相当（例如在密集图上发布所有切割查询）。我们还给出了一个非交互式算法，有效地释放私人合成数据的图切割与错误O（|V| ^{1.5}）。我们的算法是基于随机响应和非私有的实现的SDP为基础的，常数因子的近似算法切割范数由于阿隆和Naor。最后，我们给出了一个减少IDC框架的基础上，一个有效的，私人的算法计算足够准确的秩-1矩阵近似将导致一个改进的高效算法释放私人合成数据的图形切割。我们把寻找这样一个算法作为我们的主要开放问题。
2011-07-24 cs.CR cs.DS
An Overview of Privacy in Machine Learning
UCL（伦敦大学学院）；Alan Turing Institute（艾伦·图灵研究所）
在过去的几年里，谷歌、微软和亚马逊等供应商已经开始为客户提供软件接口，使他们能够轻松地将机器学习任务嵌入到他们的应用程序中。总体而言，组织现在可以使用机器学习即服务（MLaaS）引擎来外包复杂的任务，例如，训练分类器，执行预测，聚类等，它们还可以让其他人查询在其数据上训练的模型。当然，这种方法也可以在其他情况下使用（并且经常被提倡），包括政府合作，公民科学项目和企业对企业的伙伴关系。然而，如果恶意用户能够恢复用于训练这些模型的数据，则由此产生的信息泄漏将造成严重的问题。同样，如果模型的内部参数被认为是专有信息，那么对模型的访问不应该允许对手学习这些参数。在本文中，我们将回顾在这个空间中的隐私挑战，提供了一个系统的回顾相关的研究文献，并探讨可能的对策。更具体地说，我们提供了有关机器学习和隐私相关概念的丰富背景信息。然后，我们讨论了可能的对抗模型和设置，涵盖了广泛的攻击，涉及到私人和/或敏感信息泄漏，并审查最近的结果，试图抵御这种攻击。最后，我们总结了一系列需要更多工作的开放问题，包括需要更好的评估，更有针对性的防御，以及与政策和数据保护工作的关系的研究。
2020-05-18 cs.AI cs.CR cs.CY
Differentially Private Distributed Convex Optimization
Argonne National Laboratory（阿贡国家实验室）
本文考虑分布式优化（DO），多个代理合作，以最小化一个全球目标函数，表示为一个地方的目标，受到一些限制。在DO中，每个代理迭代地求解由其自己的数据构造的局部最优化模型，并传达一些信息（例如，局部解），直到获得全局解。即使本地存储的数据不与其他代理共享，仍然可以从代理之间通信的信息重建数据，这可能限制DO在具有敏感数据的应用中的实际使用。为了解决这个问题，我们提出了一个隐私保护的DO算法的约束凸优化模型，它提供了一个数据隐私的统计保证，称为差分隐私，和一个序列的迭代收敛到一个最优解的期望。该算法推广了线性化的交替方向法的乘法器，通过引入多个本地更新技术，以减少通信成本，并将一个客观的扰动法的局部最优化模型计算和通信的随机可行的本地解决方案，不能被用来重建本地数据，从而保护数据隐私。在凸约束的存在下，我们表明，虽然这两种算法提供了相同水平的数据隐私，所提出的算法中使用的客观扰动可以提供更好的解决方案比广泛采用的输出扰动法，随机化的局部解决方案，通过添加一些噪声。我们提出的隐私和收敛性分析的细节，并通过将其应用于两个不同的应用程序，即分布式控制的潮流和联邦学习，数据隐私是关注的数值证明了该算法的有效性。
2023-02-28 cs.CR cs.LG math.OC
Federated One-Shot Learning with Data Privacy and Objective-Hiding
Technical University of Munich, Germany（慕尼黑技术大学）；École Polytechnique Fédérale de Lausanne, Switzerland（瑞士联邦理工学院洛桑分校）
提出一种结合秘密共享多方计算与基于图的私有信息检索的联邦学习新方法，同时保护客户端数据隐私并隐藏联邦器目标，提供信息论隐私保证，且优于现有工具。
2025-04-29 cs.CR cs.DC cs.IT
