Provable Privacy with Non-Private Pre-Processing
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
针对差分隐私机器学习流水线中数据依赖预处理隐私成本易被忽略的问题，提出基于Smooth DP和预处理有界敏感度的通用评估框架，可量化非隐私预处理的额外隐私成本，适配多种预处理与DP算法且易集成。
2024-06-21 cs.AI cs.CR cs.LG
PrivateHub: Contrastive Diffusion Model for Private Sensor-Intensive Environment Data Generation
Stanford University（斯坦福大学）；University of Virginia（弗吉尼亚大学）
PrivateHub是一种对比扩散模型，可生成隐私保护型多传感器数据流，在不损害非隐私应用性能的前提下降低隐私应用推断准确率40%-50%，且具备对抗攻击者重训练的鲁棒性。
2026-09-04 cs.AI cs.CR
Privacy Parameter Variation Using RAPPOR on a Malware Dataset
更严格的数据保护法规和隐私保护技术的应用不足，导致数据驱动型公司需要采用新的方法来分析敏感的用户数据。RAPPOR（随机可聚合隐私保护有序响应）方法增加了参数化噪声，必须仔细选择以保持足够的隐私而不失去分析价值。本文将RAPPOR隐私参数变化应用于包含运行Android应用程序数据列表的公共数据集。数据集过滤和采样成小（10，000）;中（100，000）;和大（1，200，000）样本量，同时应用RAPPOR与？= 10; 1.0;和0.1（分别为低、中、高隐私保证）。此外，为了观察高到中等隐私保证（？= 0.5 ~ 1.0），进行第二次实验。
2019-07-24 cs.CR
Enabling Privacy-Preserving, Compute- and Data-Intensive Computing using Heterogeneous Trusted Execution Environment
在大数据时代，迫切需要能够支持计算和数据密集型（CDI）计算的隐私保护技术。然而，现有的TEE都不能真正支持CDI计算任务，因为CDI需要像GPU和TPU这样的高吞吐量加速器，但是TEE不提供对这些加速器的安全保护。本文介绍了HETEE（异构TEE），第一个设计的TEE能够强有力地保护异构计算与不安全的加速器。HETEE的独特结构可以与当今的服务器配合使用，并且不需要对现有的商业CPU或加速器进行任何更改。我们设计的核心思想是将安全控制器作为一个独立的计算系统运行，通过PCIe交换机动态调整安全和不安全世界之间的边界，在不需要安全计算时将加速器的控制权移交给主机操作系统，并在需要时将其转移回来。控制器是系统中唯一的信任单元，它运行自定义操作系统和加速器运行时，以及加密，身份验证和远程证明组件。主机服务器和其他计算系统通过存储器中的任务队列与控制器通信，该存储器中的任务队列以加密和签名的代码和数据的形式容纳卸载到HETEE的计算任务。此外，HETEE还为主机CPU提供了通用且高效的编程模型。我们已经在硬件原型系统上实现了HETEE设计，并使用大规模神经网络推理和训练任务对其进行了评估。我们的评估表明，HETEE可以很容易地支持这样的安全计算任务，平均只会产生12.34%的吞吐量开销的推理和9.87%的训练开销。
2019-04-10 cs.AR cs.CR
Analysing the Influence of Attack Configurations on the Reconstruction of Medical Images in Federated Learning
Technical University of Denmark（丹麦技术大学）
联邦学习的思想是协同训练深度神经网络模型，并与多个参与者共享它们，而不会相互暴露他们的私人训练数据。由于患者的隐私记录，这在医疗领域非常有吸引力。然而，最近提出的一种名为Deep Leakage from Concentrants的方法使攻击者能够从共享梯度中重建数据。这项研究表明，它是多么容易重建不同的数据初始化方案和距离措施的图像。我们展示了数据和模型架构如何影响初始化方案和距离测量配置的最佳选择时，与单图像。我们证明了初始化方案和距离测量的选择可以显着提高收敛速度和质量。此外，我们发现，最佳的攻击配置在很大程度上取决于目标图像分布的性质和模型架构的复杂性。
2022-04-25 cs.CR cs.CV cs.LG
Connected Vehicles: A Privacy Analysis
正如计算机控制解决方案的引入永远改变了消费设备的世界一样，发动机控制单元（ECU）的引入也促使汽车从运输产品转变为技术平台。现代汽车能够以几年前无法预见的方式处理、分析和传输数据。这些汽车通常包含远程信息处理系统，用于通过蜂窝网络提供导航和互联网连接，以及用于保险和产品开发目的的数据记录设备。我们研究了生产车辆的远程信息处理系统，并旨在确定一些相关的隐私相关的威胁。我们还考虑了这种分析如何支持进一步的研究。
2022-07-13 cs.CR cs.CY cs.HC
Healthcare Data Governance, Privacy, and Security -- A Conceptual Framework
针对医疗数据管理不当引发的隐私与安全风险，本文全面评估医疗数据链，提出一个由隐私和安全驱动的医疗数据治理概念框架。
2024-03-26 cs.CR
Confidentiality without Encryption For Cloud Computational Privacy
技术的进步已经产生了新的计算模型，任何个人/组织云服务消费者（这里表示为CSC）可以将其数据上的计算密集型任务外包给远程云服务提供商（CSP），以获得许多优势，例如更低的成本，可扩展性等，但这些优势带来了更大的成本“数据的安全和隐私”正是由于这个原因，许多CSC对转向云计算模型持怀疑态度。虽然密码学研究的进展是有希望的，但还没有实际的解决方案来对加密数据执行任何操作[1]。正是由于这个原因，我们迫切需要找到其他可行的解决方案，以使我们从云计算中受益。过去提出了一种无需加密就能提供机密性的技术，即Ronald L. Rivest [2].虽然这种技术已被提出用于基于分组的通信系统，但它并不适用于所有云服务模型，如软件即服务，平台即服务或云结构即服务[3]。在本文中，我们提出了一种适应这种技术在云计算设置CSC的外包计算密集型任务，如Web日志解析，DNA测序等MapReduce像CSP服务。
2012-08-01 cs.CR
Enhancing Privacy of Spatiotemporal Federated Learning against Gradient Inversion Attacks
该研究针对时空联邦学习缺乏梯度反转攻击系统研究的空白，提出定制化ST-GIA攻击算法及自适应扰动防御策略，在三个真实数据集上实现了更优的隐私-效用权衡。
2024-07-15 cs.CR
Scoping Electronic Communication Privacy Rules: Data, Services and Values
本文通过服务、数据和价值三种方法分析电子通信隐私规则的适用范围，探讨其合理性和改进方向。
2025-11-25 cs.CR cs.CY
Federated Learning Based Decentralized Adaptive Intelligent Transmission Protocol for Privacy Preserving 6G Networks
Sir Syed University of Engineering & Technology（赛义德爵士工程技术大学）
本文提出基于联邦学习的去中心化自适应智能传输协议，旨在提升6G网络的隐私保护与适应性性能。
2025-12-20 cs.AI cs.CR
HySec-Flow: Privacy-Preserving Genomic Computing with SGX-based Big-Data Analytics Framework
可信执行环境（TEE）（如英特尔的软件防护扩展（SGX））已被广泛研究，以提高敏感数据（如人类基因组学）计算的安全性和隐私保护。然而，SGX通常会产生性能障碍，特别是来自小型安全区内存的性能障碍。在本文中，我们提出了一种新的混合安全流框架（称为“HySec-Flow”），用于使用SGX平台进行大规模基因组数据分析。在这里，数据密集型计算任务可以被划分为独立的子任务，以部署到不同的安全和非安全容器中，因此允许并行执行，同时减轻每个飞地中页面缓存（EPC）内存的有限大小。我们使用支持索引、对齐、分派和合并启用SGX的容器的执行的工作流来说明我们的贡献。我们提供了有关可信和不可信组件的架构以及底层Scorn和Graphene支持的详细信息，作为通用屏蔽执行框架来移植遗留代码。我们彻底评估我们的隐私保护读取映射算法使用真实的人类基因组测序数据的性能。结果表明，通过将耗时的基因组计算划分为子任务，与传统的在飞地中执行数据密集型读取映射算法相比，性能得到了增强。所提出的HySec-Flow框架作为开源提供，并适用于需要安全性和可扩展计算资源的其他大规模基因组任务的数据并行计算。
2021-07-26 cs.CR
Usability of Privacy Controls in Top Health Websites
随着人们对隐私的认识和关注，许多服务提供商为其用户提供各种隐私控制。通过这些控制，用户在服务收集、使用和传播其个人信息方面获得了更大的权力。然而，这些控件可能深埋在菜单或设置中，使得用户难以访问它们。此外，用于描述隐私控制的术语有时可能令人困惑或技术性强，进一步使用户理解和有效使用它们的能力变得复杂。健康网站尤其如此，因为用户经常分享有关其健康和福祉的敏感信息。虽然已经提出了许多隐私控制来保护这些网站上的用户数据，但现有的研究集中在个别控制上（例如，隐私政策或cookie退出），而不是提供隐私状况的全面概述。此外，许多研究集中在隐私控制的技术方面，而不考虑从用户的角度来看这些功能的可用性。本文旨在填补现有工作的空白，分析四个隐私控制，即隐私轻推，隐私通知，隐私政策，隐私设置，并评估其在前100名访问量最大的健康网站的可用性。首先，我们定义了三个网站访问场景中的每个隐私控制的可用性属性;访客，注册和登录访问。这些属性包括意识、效率、理解、功能和选择。然后，我们根据这些属性和场景设计了一个调查模板，并收集有关隐私控制的数据。接下来，我们分析健康网站上每个隐私控制的可用性和可用性。最后，我们根据数据分析结果，提出了改进这些隐私控制设计的建议。
2023-03-03 cs.CR
QueryCheetah: Fast Automated Discovery of Attribute Inference Attacks Against Query-Based Systems
Imperial College London（帝国理工学院）；EPFL（洛桑联邦理工学院）
本文提出QueryCheetah方法，用于快速自动化发现针对基于查询系统的属性推断攻击，在发现更强攻击的同时比现有最先进方法快18倍，并支持全面隐私风险评估及发现绕过临时防御的攻击。
2024-09-03 cs.AI cs.CR
Federated Transfer Learning with Differential Privacy
School of Mathematics, University of Birmingham（伯明翰大学数学学院）；Department of Statistics, Columbia University（哥伦比亚大学统计系）；Department of Biostatistics, School of Global Public Health, New York University（纽约大学全球公共卫生学院生物统计系）；Department of Statistics, University of Warwick（华威大学统计系）
本文提出联邦差分隐私框架，解决分布式数据异质性和隐私保护问题，通过多源数据信息提升目标数据集学习效果，分析隐私模型的统计问题及最小最大率。
2026-04-06 cs.CR cs.LG math.ST
Huff-DP: Huffman Coding based Differential Privacy Mechanism for Real-Time Data
随着连接设备的进步，正在生成大量的实时的【形】数据。实时的【形】大数据的有效存储、传输和分析非常重要，因为它可以用于从决策到故障预测等多种目的。除此之外，实时的【形】大数据具有严格的实用性和隐私要求，因此，精心选择处理策略也非常重要。以无损压缩的形式存储和传输数据的最佳方式之一是霍夫曼编码，其将数据压缩成可变长度的二进制流。同样，为了保护此类大数据的隐私，如今也在使用差分隐私，基于隐私预算和敏感度对数据进行扰动。然而，传统的差分隐私机制提供隐私保证。然而，另一方面，实时的【形】数据不能作为一组普通的记录来处理，因为它通常具有某些潜在的模式和周期，这些模式和周期可以用于形成到特定个人私人信息的链接，这可能导致严重的隐私泄露（例如，分析智能计量数据可以对个人日常生活进行分类）。因此，开发一个隐私保护模型同样重要，该模型可以根据数据中的事件和模式来保护隐私。在本文中，我们设计了一种新的Huff-DP机制，它选择的隐私预算的基础上的隐私要求的特定记录。为了进一步提高预算的确定，我们提出了静态，正弦，和模糊逻辑为基础的决策算法。从实验评估，可以得出结论，我们提出的Huff-DP机制提供了有效的隐私保护，同时减少隐私预算的计算成本。
2023-01-25 cs.CR
Lalaine: Measuring and Characterizing Non-Compliance of Apple Privacy Labels at Scale
作为众所周知的冗长且难以阅读的隐私政策的关键补充，Apple推出了应用程序隐私标签，据称可以帮助用户更容易地了解应用程序的隐私做法。然而，虚假和误导性的隐私标签可能会欺骗注重隐私的消费者下载数据密集型应用程序，最终侵蚀标签的可信度和完整性。尽管苹果发布了应用开发者创建隐私标签的要求和指导方针，但外界对隐私标签是否以及在多大程度上是正确和合规的，反映了iOS应用的实际数据做法知之甚少。本文提出了第一个系统的研究，基于我们的新方法命名为Lalaine，评估数据流的隐私标签（流到标签）的一致性。Lalaine分析了5，102个iOS应用程序的隐私标签和二进制文件，揭示了隐私标签违规的普遍性和严重性。我们提供详细的案例研究，并分析隐私标签不合规的根本原因，以补充先前的理解。这为改进隐私标签设计和合规性要求带来了新的见解，因此应用程序开发人员，平台利益相关者和政策制定者可以更好地实现其隐私和问责制目标。Lalaine是彻底评估其高效率和有效性。我们负责任地向利益相关者报告结果。
2022-06-19 cs.CR
E-DPNCT: An Enhanced Attack Resilient Differential Privacy Model For Smart Grids Using Split Noise Cancellation
针对智能电网差分隐私模型易受共谋攻击的问题，提出E-DPNCT模型，利用分裂噪声消除与多主智能电表实现抗共谋，兼顾隐私保护与准确计费负载监测，实验显示显著改进。
2023-09-05 cs.CR
Observational Auditing of Label Privacy
Meta；FAIR at Meta（Meta的FAIR）
本文提出一种无需修改数据集的观测审计框架，用于评估标签隐私保障，填补了传统方法在受保护属性审计方面的空白。
2026-01-17 cs.CR cs.LG
Efficient Privacy-Preserving Recommendation on Sparse Data using Fully Homomorphic Encryption
Independent Researcher（独立研究者）；Illinois Institute of Technology（伊利诺伊理工学院）
针对推荐系统依赖敏感数据存隐私风险、全同态加密处理稀疏评分矩阵计算与通信成本高的问题，提出结合CSR表示与FHE矩阵分解的方法，实现加密域高效稀疏处理与低通信开销，兼顾推荐准确率与隐私保护。
2025-09-03 cs.AI cs.CR cs.LG
D2M: A Decentralized, Privacy-Preserving, Incentive-Compatible Data Marketplace for Collaborative Learning
Department of Computer Science and Engineering, Indian Institute of Technology, Jodhpur（计算机科学与工程系，印度理工学院，乔浦尔）；School of Mathematics and Computational Sciences, Eastern University Pennsylvania（数学与计算科学学院，东部大学宾夕法尼亚）
D2M通过结合联邦学习、区块链仲裁和经济激励，构建了一个去中心化、隐私保护的数据市场，实现了高效且安全的数据共享。
2025-12-11 cs.AI cs.CR cs.DC
Covariance's Loss is Privacy's Gain: Computationally Efficient, Private and Accurate Synthetic Data
保护私人信息在数据驱动的研究、商业和政府中至关重要。隐私和实用性之间的冲突引发了计算机科学和统计学界的深入研究，他们开发了各种保护隐私的数据发布方法。出现的主要概念包括匿名和差分隐私。今天，另一种解决方案正在获得牵引力，合成数据。然而，通往隐私的道路是由NP难题铺就的。在本文中，我们专注于NP难的挑战，开发一个合成数据生成方法，计算效率高，具有可证明的隐私保证，并严格量化的数据效用。我们通过研究一个基本的，但乍一看完全无关的，关于协方差损失概念的概率问题来解决这个问题的一个轻松的版本。也就是说，我们找到了一个接近最优的和建设性的答案，当我们采取条件期望时，会损失多少信息。令人惊讶的是，这种对理论概率的探索产生了数学技术，使我们能够为涉及微聚集、隐私和合成数据的困难应用问题得出建设性的、近似最优的解决方案。
2022-08-10 cs.CR math.PR math.ST
Verifiable Privacy-Preserving Computing
该研究针对数据密集型外包场景对隐私与可验证正确性的双重需求，分析了结合可验证性与分布式数据隐私保护计算的现有方案，分类比较37种方案的安全、效率等特性，并提出未来研究方向。
2024-04-16 cs.CR
Big Data Privacy in Emerging Market Fintech and Financial Services: A Research Agenda
针对新兴市场金融科技数据隐私风险，白皮书提出含格局分析、隐私定义、风险与技术方案、非技术手段、方案权衡五方向的研究议程，推动负责任的消费者导向数据应用发展。
2023-10-08 cs.CR
Generating Synthetic Health Sensor Data for Privacy-Preserving Wearable Stress Detection
ScaDS.AI Dresden/Leipzig, Leipzig University（ScaDS.AI 德累斯顿/莱比锡，莱比锡大学）
本文提出一种利用GAN和差分隐私生成隐私保护的智能手表健康传感器数据，用于提升可穿戴压力检测的模型性能。
2024-05-14 cs.AI cs.CR cs.LG
Sensitivity analysis in differentially private machine learning using hybrid automatic differentiation
Technical University of Munich（慕尼黑工业大学）；OpenMined；Imperial College London（帝国理工学院）
近年来，出现了能够部署到数据驱动任务（如机器学习（ML））的隐私保护的正式方法，如差分隐私（DP）。要用个体隐私损失的原则性分析所需的封闭式推理来验证大规模ML，需要引入新的工具来进行自动敏感性分析，并通过计算流程跟踪个人数据及其特征。为此，我们引入了一种新的\textit{hybrid}自动微分（AD）系统，它结合了反向模式AD的效率，能够获得一个封闭形式的表达式中的任何给定的数量的计算图。这使得能够对任意可微函数组合的敏感性进行建模，例如在私有数据上训练神经网络。我们通过分析统计数据库查询的个人DP保证来证明我们的方法。此外，我们调查我们的技术的应用程序的DP神经网络的训练。我们的方法可以使原则推理的隐私损失的数据处理的设置，并进一步发展的自动敏感性分析和隐私预算系统。
2021-08-17 cs.CR cs.LG cs.SC
A Privacy-Preserving, Accountable and Spam-Resilient Geo-Marketplace
具有丰富功能的移动设备可以沿着用户轨迹记录视频、交通参数或空气质量读数。虽然这些数据可能很有价值，但用户很少因收集这些数据而获得奖励。新兴的数字市场允许所有者向感兴趣的买家宣传他们的数据。我们专注于地理市场，买家根据地理标签搜索数据。这些市场带来了重大挑战。首先，如果所有者上传带有暴露的地理标签的数据，他们将面临严重的隐私风险。其次，所有者必须对广告数据负责，并且不得允许随后更改地理标签。第三，这样的系统可能容易受到密集的垃圾邮件活动的影响，其中不诚实的所有者用虚假广告淹没系统。我们提出了一个地理市场，解决所有这些问题。我们采用可搜索加密、数字承诺和区块链来保护所有者的位置隐私，同时纳入问责制和垃圾邮件弹性机制。我们实现了一个原型，两种替代设计，获得不同的信任假设和性能之间的权衡。我们在真实位置数据上的实验表明，可以实现上述设计目标，具有实用的性能和合理的财务开销。
2019-09-30 cs.CR
Giving Up Privacy For Security: A Survey On Privacy Trade-off During Pandemic Emergency
尽管COVID-19疫情继续像以往一样复杂，但鉴于抗击冠状病毒，数据的收集和交换对全球隐私系统构成重大挑战。这种疾病的规模和严重程度并不罕见，但似乎已达到歇斯底里的地步，因此，在很短的时间内，处理这种情况的极端措施似乎已成为常态。任何此类行为尤其会影响个人隐私。在某些情况下，对整个人口进行密集监测，而被诊断感染病毒的人的医疗数据通常通过机构和国家传播。这很可能是为了拯救世界于一种致命的疾病，但这真的合适和正确吗？尽管许多国家已经实施了创造性的解决方案来解决这个问题，但隐私的支持者担心技术最终会侵蚀隐私，而监管机构和隐私支持者则担心这会带来什么样的影响。虽然这种紧张关系一直存在，但由于遏制呈指数级传播的病毒的紧迫性，隐私问题已经得到了极大的缓解。这一困境的本质表明，建立正确的均衡将是最佳解决方案。关于公职人员为了国家安全或公共健康的利益而愿意干涉宪法规定的隐私权的案例的判例一再证明，可以达到合理的平衡。
2020-07-01 cs.CR cs.CY
Security and Privacy for Low Power IoT Devices on 5G and Beyond Networks: Challenges and Future Directions
本文全面调查了5G及未来网络中低功耗IoT设备的安全与隐私问题，通过文献综述确定了影响下一代网络IoT安全的五个关键领域，并提出了未来研究机会。
2023-04-03 cs.CR
Glass-Vault: A Generic Transparent Privacy-preserving Exposure Notification Analytics Platform
高传染性的COVID-19疾病严重威胁着人们的健康和生命。为了自动追踪那些与新感染者有密切身体接触的人和/或分析追踪相关数据，研究人员提出了各种需要在用户智能手机上执行的特设程序。然而，现有的解决方案具有两个主要的限制：（1）缺乏一般性：对于每种类型的分析任务，需要将某种类型的数据发送给分析师;（2）缺乏透明度：向分析师提供数据的各方不一定是受感染的个体;因此，受感染的个体的数据可以与其他人共享（例如，分析师）未经他们的细粒度和直接同意。在这项工作中，我们提出了Glass-Vault，一个同时解决这两个限制的协议。它允许分析人员在收集到的感染性用户数据上运行授权程序，而无需学习输入数据。Glass-Vault依赖于我们在这项工作中提出的通用函数加密的新变体。这种新的变体称为DD钢，提供了这两个额外的属性：动态和分散。我们在通用可组合性设置中说明了Glass-Vault和DD-Steel的安全性。Glass-Vault是第一个UC安全协议，允许以保护隐私的方式分析曝光通知用户的数据。作为一个示例应用程序，我们指出了如何使用它来生成“感染热图”。
2022-08-19 cs.CR cs.CY
Qualitative Coding Analysis through Open-Source Large Language Models: A User Study and Design Recommendations
Technological University Dublin（都柏林理工大学）；National Economics University（越南国立经济大学）；University College Dublin（都柏林大学学院）；Foreign Trade University（对外贸易大学）
本文提出ChatQDA，一个基于开源LLMs的本地化定性分析工具，通过用户研究发现其在隐私保护和解释一致性方面的挑战，并提出设计建议以提升信任度。
2026-02-20 cs.CR cs.HC cs.SE
Goodbye Tracking? Impact of iOS App Tracking Transparency and Privacy Labels
跟踪是一种高度侵犯隐私的数据汇集做法，多年来在移动应用程序中无处不在，因为它支持基于广告的收入模式。作为回应，苹果在iOS 14中引入了两项重大变化：应用程序跟踪透明度（ATT），这是一个强制性的选择加入系统，用于在iOS上启用跟踪，以及隐私营养标签，它披露了每个应用程序处理的数据类型。到目前为止，这些变化对个人隐私和控制的影响还没有得到很好的理解。本文通过分析来自英国App Store的1，759个iOS应用程序的两个版本来解决这一差距：一个版本来自iOS 14之前，另一个版本已更新以符合新规则。我们发现，苹果的新政策正如承诺的那样，阻止了广告商标识符（IDFA）的收集，这是一个跨应用跟踪的标识符。从事侵入性数据行为的小型数据代理商现在将在跟踪用户方面面临更大的挑战-这对隐私来说是一个积极的发展。然而，在研究的应用程序中，跟踪库的数量大致保持不变。许多应用程序仍然收集设备信息，可用于在组级别跟踪用户（队列跟踪）或以概率方式识别个人（指纹识别）。我们发现应用程序通过使用服务器端代码计算并同意指纹派生的标识符的真实证据，从而违反了Apple的政策。我们发现，苹果公司本身也参与了某种形式的跟踪，并豁免了第一方跟踪和信用评分等侵入性数据做法。我们还发现，新的隐私营养标签有时不准确和误导。总的来说，我们的研究结果表明，虽然现在跟踪个人用户更加困难，但这些变化加强了看门人公司现有的市场力量，…
2022-05-07 cs.CR cs.CY
Noise-Aware Statistical Inference with Differentially Private Synthetic Data
University of Helsinki（赫尔辛基大学）；Aalto University（阿尔托大学）；University of Manchester（曼彻斯特大学）
虽然在数据隐私社区中，差分隐私（DP）下的合成数据的生成受到了很多关注，但合成数据的分析却少得多。现有的工作表明，简单地分析DP合成数据，就好像它是真实的一样，不会产生有效的人口水平数量的推断。例如，置信区间变得太窄，我们用一个简单的实验来证明。我们解决这个问题，结合合成数据分析技术，从该领域的多重插补（MI），合成数据生成使用噪声感知（NA）贝叶斯建模到一个管道NA+MI，允许计算准确的不确定性估计人口水平的数量从DP合成数据。为了实现NA+MI的离散数据生成使用的边缘查询的值，我们开发了一种新的噪声感知的合成数据生成算法NAPSU-MQ使用最大熵的原则。我们的实验表明，管道是能够产生准确的置信区间DP合成数据。间隔变得更宽，隐私更紧，以准确捕获DP噪声带来的额外不确定性。
2023-02-24 cs.CR cs.LG stat.ML
Efficient Federated Unlearning with Adaptive Differential Privacy Preservation
Nanyang Technological University（南洋理工大学）
针对联邦遗忘中存储历史更新引发的隐私风险，提出FedADP方法，通过自适应差分隐私机制、双层选择过程和新型校准方法，在降低存储与通信成本的同时有效平衡了遗忘效率与隐私保护。
2024-11-17 cs.CR cs.LG
IDPFilter: Mitigating Interdependent Privacy Issues in Third-Party Apps
本文系统调查第三方应用中的相互依赖隐私问题，分析权限结构、数据请求特征及监管忽视原因，提出平台无关的IDPFilter API以过滤涉及他人的附带数据，并实现文本过滤原型IDPTextFilter验证其隐私性、准确性和效率。
2024-05-02 cs.CR
LLM-Based Schema-Aware Split Learning for Privacy-Preserving Mental Distress Prediction Across Heterogeneous Surveys
Southern Illinois University Carbondale（南伊利诺伊大学卡本代尔分校）
提出一种基于LLM的架构感知分裂学习框架，通过语义编码统一异构调查数据，在保护隐私的同时实现高效协作学习，显著提升准确率并降低客户端计算开销。
2026-09-15 cs.AI cs.CR cs.LG
An Efficient Matrix Multiplication with Enhanced Privacy Protection in Cloud Computing and Its Applications
矩阵乘法运算（MMC）作为最重要的基本运算之一，在线性回归、k-近邻分类、生物识别等科学和工程领域有着广泛的应用。然而，处理这些任务与大规模的数据集将导致巨大的计算超出资源受限的客户端的计算能力。随着云计算的快速发展，将密集型任务外包给云服务器已经成为一种很有前途的方法。虽然云服务器通常不受客户端的控制，但仍然存在许多与客户端敏感数据的隐私安全有关的挑战。受此启发，Lei等人提出了一种基于随机置换的高效加密方案，以保护外包MMC任务中客户端数据的隐私。然而，他们的方案存在固有的安全缺陷，暴露了原始数据中零元素的统计信息，从而不满足计算不可验证性（IND-ZEA）。为了提高外包MMC任务的安全性，提出了一种新的加密方案，该方案基于巧妙设计的可逆矩阵，在乘法扰动的基础上引入了加法扰动。此外，我们表明，所提出的加密方案不仅可以适用于MMC任务，但也可以其他类型的外包任务，如线性回归和主成分分析。理论分析和实验表明，我们的方法是更安全的数据隐私方面，具有相当的性能，最先进的方案的基础上矩阵变换。
2021-05-12 cs.CR
Efficient Dropout-resilient Aggregation for Privacy-preserving Machine Learning
随着数据饥渴型机器学习算法越来越多地被采用，个人数据隐私已成为可能阻碍数字化转型成功的关键问题之一。因此，隐私保护机器学习（PPML）受到学术界和工业界的广泛关注。然而，组织面临着这样的困境：一方面，他们被鼓励共享数据以提高机器学习性能，但另一方面，他们可能违反相关的数据隐私法规。实际的PPML通常允许多个参与者单独训练他们的ML模型，然后将其聚合以隐私保护方式构建全局模型，例如，基于多方计算或同态加密。然而，在大规模PPML的大多数重要应用中，例如，通过聚合客户端的梯度来更新用于联邦学习（例如，移动应用服务的消费者行为建模）的全局模型，一些参与者不可避免地是资源受限的移动设备，这些移动设备可能由于其移动性而退出PPML系统。因此，隐私保护聚合的弹性已成为一个重要的问题要解决。在本文中，我们提出了一个可扩展的隐私保护聚合方案，可以容忍的参与者在任何时候辍学，并通过设置适当的系统参数是安全的，对半诚实和积极的恶意对手。通过用种子同态伪随机生成器代替通信密集型构造块，并利用Shamir秘密共享方案的可加同态性质，我们的方案在运行时性能比现有方案高出6.37 $\times$，并提供了更强的丢包恢复能力.我们的计划的简单性，使其有吸引力的实施和进一步的改进。
2022-03-31 cs.CR
Balancing Transparency and Risk: The Security and Privacy Risks of Open-Source Machine Learning Models
Technical University of Darmstadt（达姆施塔特工业大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心（hessian.AI））；National Research Center for Applied Cybersecurity ATHENE（雅典娜国家应用网络安全研究中心）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
本文系统梳理开源机器学习模型在广泛应用中被忽视的隐私与安全威胁，说明后门等攻击风险及后果，并呼吁负责任、安全地使用AI系统。
2023-08-18 cs.AI cs.CR cs.CY
Homomorphic Encryption-Enabled Federated Learning for Privacy-Preserving Intrusion Detection in Resource-Constrained IoV Networks
本文提出一种基于同态加密的联邦学习框架，通过允许服务器直接在量子安全密文上计算，解决了资源受限车联网中入侵检测系统面临的数据卸载隐私与计算瓶颈，性能逼近无加密方案。
2024-07-26 cs.CR
Secure Outsourced Decryption for FHE-based Privacy-preserving Cloud Computing
针对基于FHE的云计算中客户端解密计算负担重的问题，提出基于RLWE的外包解密协议，将计算密集部分交由云端，实现客户端解密最高67%加速与50%空间缩减，且保障安全性。
2024-07-09 cs.CR
Robust Representation Learning for Privacy-Preserving Machine Learning: A Multi-Objective Autoencoder Approach
University of Tuebingen（图宾根大学）；Institute for Bioinformatics and Medical Informatics (IBMI)（生物信息学与医学信息学研究所）
针对隐私保护机器学习技术存在的速度慢或性能损耗问题，提出一种多目标自编码器框架，通过鲁棒表示学习编码数据并优化隐私与效用权衡，支持安全第三方训练，在单模态和多模态设置下均取得优于现有技术的性能。
2023-09-08 cs.CR cs.LG
SGX-MR: Regulating Dataflows for Protecting Access Patterns of Data-Intensive SGX Applications
英特尔SGX是一种流行的可信执行环境（TEE），用于保护在云等不可信平台上运行的应用程序的完整性和机密性。然而，基于SGX的程序的访问模式仍然可以被对手观察到，这可能会泄露成功攻击的重要信息。研究人员一直在试验遗忘RAM（ORAM）来解决访问模式的隐私问题。ORAM是一种功能强大的低级原语，它为任何I/O操作提供与应用程序无关的保护，但成本很高。我们发现，一些特定于应用程序的访问模式，如顺序块I/O，不提供额外的信息给对手。其他算法，例如排序，可以用比ORAM更有效的特定不经意算法来取代。挑战在于，开发人员可能需要查看特定于应用程序的访问模式的所有细节，以设计合适的解决方案，这既耗时又容易出错。在本文中，我们提出了轻量级的SGX基于MapReduce（SGX-MR）的方法，调节数据密集型SGX应用程序的可扩展性，以更容易的应用程序级访问模式分析和保护。它使用MapReduce框架来覆盖大量的数据密集型应用程序，整个框架可以用很小的内存占用来实现。在此框架下，我们研究了数据处理的各个阶段，识别了需要保护的访问模式，并设计了相应的有效保护方法。我们的实验表明，基于SGX-MR的应用程序比基于ORAM的实现更有效。
2020-09-08 cs.CR cs.DC cs.SY
Hide-and-Seek Privacy Challenge
University of Oxford（牛津大学）；University of Cambridge（剑桥大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of Waterloo（滑铁卢大学）；Amsterdam UMC（阿姆斯特丹大学医学中心）；Cambridge University Hospitals NHS Foundation Trust（剑桥大学医院NHS基金会信托）；Microsoft Research（微软研究院）；Alan Turing Institute（艾伦·图灵研究所）
临床时间序列设置对数据建模和共享提出了独特的挑战组合。由于临床时间序列的高维性，使用普通的去身份化技术难以实现充分的去身份化以在保留数据效用的同时保护隐私。解决这个问题的一种创新方法是生成合成数据。从技术的角度来看，一个好的时间序列数据生成模型应该保持时间动态，在这个意义上，新的序列尊重高维变量之间的原始关系。从隐私的角度来看，该模型应通过限制成员推断攻击的脆弱性来防止患者重新识别。NeurIPS 2020捉迷藏隐私挑战赛是一项新颖的双轨竞赛，旨在同时加快解决这两个问题的进展。在我们的头对头格式中，合成数据生成轨道（即“隐藏者”）和患者重新识别轨道（即“寻求者”）中的参与者通过新的高质量重症监护时间序列数据集（阿姆斯特丹UMCdb数据集）直接相互竞争。最终，我们寻求推进密集和高维时间数据流的生成技术，这些技术（1）在保真度和预测性方面具有临床意义，以及（2）能够在患者重新识别的具体概念方面最大限度地减少会员隐私风险。
2020-07-24 cs.CR cs.CY cs.LG
Privacy-Preserving Verifiable Neural Network Inference Service
Virginia Tech（弗吉尼亚理工大学）；Robert Bosch LLC — RTC（罗伯特·博世有限责任公司 — 研发技术中心）
本文提出了一种隐私保护且可验证的 CNN 推理方案 vPIN，利用部分同态加密和承诺并证明的简洁非交互式知识论证技术，在保护客户端数据隐私的同时确保推理结果的可验证性，并在标准数据集上验证了其高效性。
2024-11-13 cs.CR cs.LG
CLOAK: Contrastive Guidance for Latent Diffusion-Based Data Obfuscation
University of Alberta（阿尔伯塔大学）
针对数据混淆问题，提出基于潜在扩散模型的Cloak框架，用对比学习提取解纠缠表示，指导潜在扩散过程平衡隐私与效用。实验表明该框架优于现有技术，能降低效用和隐私损失，适合资源受限环境。
2026-07-24 cs.CR cs.LG
ObCLIP: Oblivious CLoud-Device Hybrid Image Generation with Privacy Preservation
TikTok Inc.（TikTok公司）；National University of Singapore（新加坡国立大学）
针对扩散模型云侧推理的提示词隐私泄露问题，提出即插即用的ObCLIP云-端混合生成框架，通过候选提示词混淆、分步去噪及缓存加速实现严格隐私保障与接近云端的生成效用。
2025-10-05 cs.CR cs.LG
PCOR: Private Contextual Outlier Release via Differentially Private Search
异常检测在入侵、故障和欺诈检测等实际应用中起着重要的作用。传统上，离群值检测技术被应用于在整个数据集的上下文中发现离群值。然而，这种做法忽略了上下文离群值，即不是整个数据集中的离群值，而是某些特定邻域中的离群值。背景离群值在数据探索和有针对性的异常解释和诊断中特别重要。在这些场景中，数据所有者计算以下信息：i）有助于异常值的异常的属性（度量），ii）异常值的邻域的上下文描述（上下文），以及iii）上下文的效用分数，例如其在显示异常值的显著性方面的强度，或者与异常值的特定解释有关。然而，揭示离群值的上下文也会泄露人口中其他个体的信息，侵犯他们的隐私。我们在本文中解决人口隐私侵犯的问题，并提出了两个主要挑战的解决方案。在此设置中，数据所有者需要为查询的记录发布有效上下文，即记录是离群值的上下文。因此，第一个主要挑战是隐私技术必须保持每个记录的上下文的有效性。我们提出的技术，以保护个人的隐私，通过一个宽松的概念，差分隐私，以满足这一要求。第二个主要挑战是有效地应用所提出的技术，因为它们对基本算法施加了密集的计算。为了克服这一挑战，我们提出了一个图结构来映射的上下文，并引入差分隐私图搜索算法作为有效的解决方案所造成的计算问题的差分隐私技术。
2021-03-09 cs.CR cs.DB
Differentially Private Generative Adversarial Network
Michigan State University（密歇根州立大学）；Rutgers University（罗格斯大学）；Weill Cornell Medical School（威尔康奈尔医学院）
生成对抗网络（GAN）及其变体由于其良好的理论基础和出色的生成模型性能，近年来引起了广泛的研究兴趣。这些工具为数据可用性有限的研究提供了一个有希望的方向。GANs中的一个常见问题是，学习的生成分布的密度可能集中在训练数据点上，这意味着由于深度网络的高模型复杂性，它们可以很容易地记住训练样本。当GANs应用于患者病历等隐私或敏感数据时，这成为一个主要问题，并且分布的集中可能会泄露关键的患者信息。为了解决这个问题，在本文中，我们提出了一个差分隐私GAN（DPGAN）模型，在该模型中，我们通过在学习过程中向梯度添加精心设计的噪声来实现GANs中的差分隐私。我们为隐私保证提供了严格的证据，以及全面的经验证据来支持我们的分析，我们证明我们的方法可以在合理的隐私级别上生成高质量的数据点。
2018-02-19 cs.CR cs.LG stat.ML
