Inferentially-Private Private Information
针对信息关联导致的隐私泄露问题，提出满足推理隐私约束且遵循Blackwell序的最优私密信息结构设计方法，含二元场景高效发布机制及一般场景规划求解方法，其几何刻画具独立价值。
2024-12-13 cs.CR
Protecting Activity Sensing Data Privacy Using Hierarchical Information Dissociation
Michigan State University（密歇根州立大学）
本文提出 Hippo 统一模型，通过基于潜在引导的扩散模型解离私人元数据与多粒度活动信息，在无需隐私标签的情况下控制移动感知数据的敏感信息披露并保留应用效用。
2024-09-04 cs.AI cs.CR cs.LG
Privacy and Bias Analysis of Disclosure Avoidance Systems
Georgia Institute of Technology（佐治亚理工学院）；Syracuse University（雪城大学）；National Institute of Science Education and Research（国家科学教育与研究所）；Knexus Research Corporation（Knexus研究公司）
避免披露（DA）系统用于保护数据的机密性，同时允许出于分析目的对其进行分析和传播。这些方法，例如，细胞抑制、交换和k-匿名是通常应用的，并且可能具有显著的社会和经济影响。然而，一直缺乏对他们的隐私和偏见保障的正式分析。本文提出了一个框架，解决这一差距：它提出了这些机制的不同的私人版本，并得出他们的隐私边界。此外，本文还比较了它们与传统的差分隐私机制在美国人口普查数据发布和分类任务的准确性和公平性方面的性能。结果表明，与流行的信念相反，传统的差分隐私技术可能优于广泛使用的DA机制的差异隐私对应的准确性和公平性。
2023-01-28 cs.AI cs.CR cs.MA
MNC: Scope-Bound Semantic Declassification for Private LLM-Agent Communication
Nankai University（南开大学）；China University of Petroleum（中国石油大学）；Sun Yat-sen University（中山大学）；Columnbia University（哥伦比亚大学）
该研究针对多智能体LLM系统的隐私泄露问题，提出范围受限语义解密协议MNC，通过绑定披露范围实现授权信息传递，阻止未授权操作，为私有LLM智能体系统提供实用通信边界。
2026-08-04 cs.AI cs.CR
Using Private and Public Assessments in Security Information Sharing Agreements
各组织之间的信息共享作为改善网络安全的一种方法越来越受到关注。然而，相关的披露成本对公司的自愿合作起到了阻碍作用。在这项工作中，我们采取博弈论的方法来理解这些协议中的企业激励。我们提出了跨期激励的设计（即条件未来的合作对过去的互动）。具体而言，我们表明，充分合作的激励措施，可以设计，如果公司分享他们的私人评估其他公司的披露决定，通过一个共同的沟通平台。我们进一步表明，类似的激励措施可以设计的基础上的公共评级/评估系统的结果。
2020-01-16 cs.CR cs.GT
Private Information Disclosure from Web Searches. (The case of Google Web History)
随着存储在远程服务提供商处的个人信息量的增加，数据被盗的危险也在增加。当在明文中建立到远程服务的连接并使用HTTP cookie保持经过身份验证的会话时，数据窃取变得非常容易实现。在本文中，我们研究了世界上最大的服务提供商的架构，即，Google.首先，除了一些只能通过HTTPS访问的服务（例如，Gmail），我们发现许多Google服务仍然容易受到简单会话劫持的攻击。接下来，我们将介绍Historiographer，这是一种新型攻击，可以重建Google用户的网络搜索历史，即，Google的Web历史记录，尽管这样的服务应该受到更严格的访问控制策略的保护。历史学家使用一种重建技术，从谷歌搜索引擎提供的个性化建议中推断搜索历史。我们验证我们的技术，通过实验进行了真实的网络流量，并讨论可能的对策。我们的攻击是通用的，而不仅仅是针对Google的，并且强调了使用安全和不安全连接的混合架构的隐私问题。
2010-03-23 cs.CR
Mine Me but Don't Single Me Out: Differentially Private Event Logs for Process Mining
流程挖掘技术的适用性取决于捕获业务流程执行的事件日志的可用性。在某些用例中，特别是涉及面向客户的流程的用例，这些事件日志可能包含私人信息。数据保护法规限制将此类事件日志用于分析目的。规避这些限制的一种方法是将事件日志匿名化，使匿名日志无法单独识别任何个人。本文讨论了事件日志的匿名化问题，以保证在匿名日志被公开后，攻击者可能会挑出原始日志中表示的任何个人的概率不会增加超过一个阈值。本文提出了一种差分隐私披露机制，该机制对日志中的案例进行过采样，并在达到上述隐私保证所需的程度上向时间戳添加噪声。本文报告的实证评估所提出的方法，使用14个现实生活中的事件日志的数据效用损失和计算效率。
2021-08-30 cs.CR cs.SE
A Novel Microdata Privacy Disclosure Risk Measure
每天都会产生大量的个人数据，用于营销，决策者和机器学习应用程序。这些数据通常包含有关个人的私有和敏感信息，这些信息可能会被攻击者披露。攻击者可以通过查看准标识符属性的值来识别数据记录的潜在个人身份，这称为身份泄露，或者可以通过属性泄露来揭露关于个人的敏感信息。在统计披露控制中，提出了多种披露风险措施。这些方法有两个缺点：它们在风险度量中不同时考虑身份和属性的披露，它们通过假设某些属性是准标识符，并且在准标识符和敏感信息之间有明确的界限，对对手的知识进行限制性假设。在本文中，我们提出了一种新的披露风险的措施，解决这些限制，通过提出一个单一的组合度量的身份和属性披露风险，并提供灵活性，在建模对手的知识。我们已经开发了一种有效的算法来计算建议的风险度量，并评估了我们的方法在社会工作领域的真实数据集上的可行性和性能。
2019-01-02 cs.CR
An AI Agent Execution Environment to Safeguard User Data
University of California, Los Angeles（加州大学洛杉矶分校）；Google（谷歌）
GAAP通过动态用户提示收集权限规范，确保AI代理在共享用户隐私数据时符合规定，无需信任代理或模型，有效阻止数据泄露攻击。
2026-09-28 cs.AI cs.CR cs.OS
ToolPrivacyBench: Benchmarking Purpose-Bound Privacy in Tool-Using LLM Agents
Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing（北京未来区块链与隐私计算先进创新中心）
针对现有评估忽略多工具轨迹中目的绑定信息流的问题，提出ToolPrivacyBench基准，通过策略知识库审计工具参数和后端日志，评估任务完成与隐私过度披露，发现成功执行任务可能伴随不必要的隐私泄露。
2026-06-29 cs.AI cs.CR
Balancing the privacy-utility trade-off: How to draw reliable conclusions from private data
Federal Statistical Office（联邦统计局）
本文提出基于假设检验的新视角，量化相对披露风险，分析DP对统计显著性检验的影响，为非技术利益相关者提供隐私效用权衡的实用指导。
2026-08-31 cs.CR stat.ME
Generating Artificial Data for Private Deep Learning
Artificial Intelligence Laboratory（人工智能实验室）；Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
在本文中，我们建议生成保留真实数据的统计特性的人工数据，作为提供原始数据集隐私的手段。我们使用生成对抗网络来提取隐私保护的人工数据样本，并推导出一个经验方法来评估信息披露的风险，在一个不同的隐私类的方式。我们的实验表明，我们能够生成高质量的人工数据，并在此数据上成功地训练和验证机器学习模型，同时限制潜在的隐私损失。
2019-04-28 cs.CR cs.LG stat.ML
Disclosure Avoidance for the 2020 Census Demographic and Housing Characteristics File
本文描述了为发布2020年人口普查人口与住房特征（DHC）文件而对隐私规避系统（DAS）进行的更新、最终配置参数、误差指标及未来实验数据产品计划。
2025-08-11 cs.CR stat.CO
Visualizing Privacy-Utility Trade-Offs in Differentially Private Data Releases
各组织经常收集私人数据，并为公众的利益发布汇总统计数据。如果不采取保护隐私的措施，攻击者可能会使用发布的统计数据来推断有关私人数据集中描述的个人的未经授权的信息。不同的隐私算法通过用噪声稍微扰动底层统计数据来解决这一挑战，从而在数学上限制了可以从每个数据发布中推断出的信息量。正确校准这些算法--以及数据集中描述的人的披露风险--需要数据管理者为隐私预算参数$ε$选择一个值。然而，很少有正式的指导选择$ε$，一个任务，需要推理的概率隐私效用权衡。此外，在统计推断的上下文中选择$ε$需要在存在测量误差和差分隐私（DP）噪声两者的情况下推理关于准确性权衡。我们提出了可视化隐私（VIP），一个交互式界面，可视化之间的关系$ε$，准确性和披露风险，以支持设置和分裂$ε$查询。当用户调整$ε$时，ViP动态更新描述预期准确性和风险的可视化。ViP还具有推理设置，允许用户推理DP噪声对统计推理的影响。最后，我们提出了一项研究的结果，其中16个研究从业者很少或没有DP背景完成了一组相关的任务设置$ε$使用VIP和控制。我们发现，VIP可以帮助参与者更正确地回答与判断DP噪声释放可能下降的概率以及DP噪声和非私人置信区间之间的比较相关的问题。
2022-01-16 cs.CR cs.HC
Congenial Differential Privacy under Mandated Disclosure
不同的私有数据发布通常需要满足一系列外部约束，这些约束反映了数据管理者有义务遵守的法律、道德和逻辑要求。强制执行限制，如果被视为后处理，则在私有化数据的生产中增加了一个额外的阶段。在多阶段处理的理论中很好地理解，相性（congeniality）（阶段之间的程序兼容性的一种形式）是最终用户直接获得统计上有效的结果的先决条件。适宜的差分隐私在理论上是有原则的，它促进了机制的透明性和可理解性，否则这些机制将被特设的后处理过程所破坏。我们主张通过标准的概率条件不变的利润率的系统集成的强制披露到隐私机制的设计。条件作用自动地呈现适宜性，因为任何额外的后处理阶段变得不必要。我们提供了初始的理论保证和马尔可夫链算法，我们的建议。我们还讨论了比较先天性差分隐私和基于优化的后处理中出现的有趣的理论问题，以及进一步研究的方向。
2020-08-24 cs.CR
When Graph Convolution Meets Double Attention: Online Privacy Disclosure Detection with Multi-Label Text Classification
本文提出一种结合双重注意力机制与图卷积网络的多标签文本分类模型，用于检测在线社交平台上的隐私泄露，并在Twitter数据集上显著优于现有方法。
2023-12-20 cs.CR
Within-Dataset Disclosure Risk for Differential Privacy
University of Chicago（芝加哥大学）
本文提出相对披露风险指标，帮助控制器选择差分隐私参数ε，设计算法以满足隐私保护并高效处理多查询。
2026-05-01 cs.CR cs.DB
Deep Poisoning: Towards Robust Image Data Sharing against Visual Disclosure
University of South Carolina（南卡罗来纳大学）；Facebook AI（脸书人工智能）
由于各自有限的训练数据，基于某些敏感图像解决相同视觉任务的不同实体可能无法训练鲁棒的深度网络。本文介绍了一种新的视觉任务，其中各种实体共享特定于任务的图像数据，以扩大彼此的训练数据量，而不会在视觉上泄露敏感内容（例如非法图像）。然后，我们提出了一个新的基于结构的训练制度，使不同的实体学习特定于任务和重建证明图像表示的图像数据共享。具体来说，每个实体学习一个私有的深度中毒模块（Deep Poisoning Module，简称DPON），并将其插入到一个预先训练好的深度网络中，该深度网络旨在执行特定的视觉任务。该算法故意对卷积图像特征进行毒化，以防止图像重建，同时确保更改后的图像数据在功能上等同于特定视觉任务的未毒化数据。给定这种等价性，从一个实体共享的中毒特征可以被另一个实体用于进一步的模型细化。图像分类的实验结果证明了该方法的有效性。
2020-11-09 cs.CR cs.CV cs.LG
Statistical Data Privacy: A Song of Privacy and Utility
为了量化开放数据共享需求的增长和对敏感信息泄露的担忧之间的权衡，统计数据隐私（SDP）方法分析了基于机密数据的净化输出的数据发布机制。目前存在两个主要框架：统计披露控制（SDC）和最近的差分隐私（DP）。尽管框架不同，但SDC和DP在核心上都有相同的统计问题。对于推理问题，我们可以设计满足披露风险界限的最佳释放机制和相关估计，或者我们可以调整现有的净化输出以创建新的最佳估计。这两个问题都依赖于评估风险和效用的不确定性量化。在这篇评论中，我们讨论了共同的统计基础，SDC和DP，强调SDP的主要发展，并提出了令人兴奋的开放式研究问题的私人推理。
2022-05-06 cs.CR stat.ME
Towards Verifiable Differentially-Private Polling
满足差分隐私的分析为个人提供了合理的可否认性，同时允许分析师从数据中提取见解。然而，除了通常可接受的准确性折衷之外，这些统计公开技术通常抑制所提供的信息的可验证性，因为人们不能检查参与者的真实信息的正确性、差分隐私机制或无偏随机数生成。虽然相关的工作已经讨论了这个机会，一个有效的实现与精确的界限上的错误和相应的证明的差分隐私属性是到目前为止失踪。在本文中，我们遵循的方法基于零知识证明~（ZKPs），在特定的简洁的非交互式参数的知识，作为一种可验证的计算技术，以证明一个差异私人查询输出的正确性。特别是，我们确保差分隐私的保证，尽管ZKP的有限域上操作的限制，并具有有限的分支能力。我们证明了我们的方法具有实际的性能，并讨论了从业者如何使用我们的原语，以可验证的方式查询个人的年龄从他们的数字签名的身份证在不同的私人方式。
2022-06-15 cs.CR
Revisiting Differentially Private Hypothesis Tests for Categorical Data
在本文中，我们考虑的方法进行假设检验的数据保护的统计披露控制技术被称为差分隐私。以前的差异私有假设检验方法要么用具有大方差的随机噪声干扰检验统计量（并导致显著的功效损失），要么直接向数据添加少量噪声，但未能响应于添加的噪声调整检验（导致有偏差的、不可靠的$p$值）。在本文中，我们开发了各种实用的假设检验来解决这些问题。使用不同的渐近制度，更适合于假设检验与隐私，我们显示了修改后的卡方检验和似然比检验之间的等价性。然后，我们为表格数据的各种应用开发了差分私有似然比和卡方检验（即，独立性、样本比例和拟合优度检验）。使用各种各样的隐私设置的小型和大型数据集的实验评估证明了我们的方法的实用性和可靠性。
2017-03-18 cs.CR stat.ME
Differentially Private Runtime Monitoring
CISPA Helmholtz Center for Information Security（CISPA赫尔姆霍兹信息安全中心）
本文提出一种自动在流式监控规范中强制差分隐私的方法，通过分析时间依赖性和在规范中注入校准噪声，以保护隐私。在公共交通使用监控案例中验证了方法的有效性。
2026-05-10 cs.CR cs.LO
RASE: Efficient Privacy-preserving Data Aggregation against Disclosure Attacks for IoTs
针对物联网中数据聚合面临的披露攻击问题，本文提出了一种名为RASE的隐私保护新范式，通过差分隐私随机化器添加噪声、混洗器随机置换和参数估计三步流程，在保护数据隐私的同时实现了高效的聚合效用。
2024-05-31 cs.CR
WW-FL: Secure and Private Large-Scale Federated Learning
Technical University of Darmstadt（德累斯顿技术大学）；Technology Innovation Institute（技术创新研究所）；Royal Holloway, University of London（伦敦皇家霍洛威大学）
针对联邦学习中的安全与隐私漏洞，提出结合安全多方计算与分层联邦学习的WW-FL框架，能防模型参数投毒，并经PyTorch与CrypTen集成验证，性能鲁棒，适用于大规模安全私有联邦学习。
2025-10-14 cs.CR cs.DC cs.IT
Concept Drift Detection using Ensemble of Integrally Private Models
Umeå University（于默奥大学）
本文提出积分私有漂移检测（IPDD）集成方法，利用积分私有深度神经网络在无需标签的情况下私有检测流式数据中的概念漂移，实验表明其效用可比或优于 ADWIN 及差分私有模型。
2024-06-07 cs.CR cs.LG
"Nothing to See Here'': Unintended Disclosure through Revision Traces of LLM Deliverables
CISPA Helmholtz Center for Information Security（亥姆霍兹信息安全中心）
针对LLM交付物中修订痕迹导致的意外泄露问题，提出RevLeakBench基准，分析痕迹发生与恢复率，并设计输出端过滤器以在保留必需内容的同时降低泄露风险。
2026-09-29 cs.AI cs.CR
Hidden Secrets in the arXiv: Discovering, Analyzing, and Preventing Unintentional Information Disclosure in Source Files of Scientific Preprints
RWTH Aachen University（亚琛工业大学）
本文研究了arXiv预印本源文件中隐藏信息的披露问题，分析了270万份提交中不必要的文件、元数据和无关内容的分布情况，揭示了大量敏感信息的无意泄露，并提出ALC-NG工具以全面清除无关内容。
2026-04-22 cs.CR
sqSGD: Locally Private and Communication Efficient Federated Learning
Tsinghua Univerisity（清华大学）；Meituan（美团）；Google（谷歌）；Ant Group（蚂蚁集团）；Sony AI（索尼人工智能）；Galixir（星药科技）
联邦学习（FL）是一种从分散的数据源训练机器学习模型的技术。我们研究FL的隐私约束，这提供了强大的保护，防止敏感数据泄露，通过混淆数据离开客户端之前的本地概念。我们确定了两个主要问题，在设计实用的隐私保护FL算法：通信效率和高维兼容性。然后，我们开发了一个基于梯度的学习算法称为\emph{sqSGD}（选择性量化随机梯度下降），解决这两个问题。所提出的算法是基于一种新的隐私保护量化方案，使用每个客户端的每个维度的比特数恒定。然后，我们从三个方面改进了基本算法：首先，我们采用了梯度子采样策略，在固定的隐私预算下，同时提供更好的训练性能和更小的通信成本。其次，我们利用随机旋转作为预处理步骤，以减少量化误差。第三，采用自适应梯度范数上界收缩策略，以提高精度和稳定训练。最后，在基准数据集上验证了该框架的实用性.实验结果表明，sqSGD成功地学习了具有局部隐私约束的大型模型，如LeNet和ResNet。此外，在固定的隐私和通信级别下，sqSGD的性能显著优于各种基线算法。
2022-06-22 cs.CR cs.LG
Subspace Differential Privacy
许多数据应用程序由于实际需要而具有一定的不变约束。采用差分隐私的数据管理者需要尊重对净化数据产品的这些约束，将其作为主要的实用要求。不变量对隐私保障的制定、实现和解释提出了挑战。我们提出了子空间差分隐私，诚实地描述依赖的消毒输出的机密方面的数据。我们讨论了两个设计框架，转换众所周知的差分私有机制，如高斯和拉普拉斯机制，子空间差分私有的尊重由馆长指定的不变量。对于线性查询，我们讨论的设计接近最佳的机制，最大限度地减少均方误差。子空间差分私有机制由于不变量而无需后处理，保持输出的透明性和统计可理解性，并且可以适合于分布式实现。我们展示了2020年人口普查披露避免示范数据的拟议机制，以及大型大学校园中移动接入点连接的时空数据集。
2022-04-29 cs.CR stat.AP
Differentially Private Verification of Survey-Weighted Estimates
针对合成数据验证服务器可能泄露机密调查记录的问题，本文提出一种满足差分隐私、适用于复杂调查加权估计的验证度量，并通过模拟证明其可有效反馈合成数据推断质量。
2024-04-03 cs.CR stat.ME
Improving data utility in differential privacy and k-anonymity
本文重点研究了两种主流的隐私模型：k-匿名和差分隐私。一旦选择了一个隐私模型，目标是在尽可能多地保留数据效用的同时实施它。本论文的主要目的是提高k-匿名和差异隐私数据发布中的数据效用。k-匿名性有几个缺点。在披露限制方面，缺乏对属性披露和知情入侵者的保护。在数据实用程序方面，处理大量的准标识符属性是有问题的。我们建议放宽k-匿名处理这些问题。差分隐私通过噪声添加来限制披露风险。拉普拉斯分布通常用于随机噪声。我们发现，拉普拉斯分布是不是最佳的：相同的披露限制保证可以通过增加更少的噪音。最佳的单变量和多变量噪声的特征和构造。实现差分隐私的常见机制不考虑用户的先验知识;它们隐含地假设关于查询响应的初始知识为零。我们提出了一种机制，专注于限制知识增益超过先验知识。基于微聚合的k-匿名和差分隐私可以结合起来，以产生具有差分隐私的强隐私保证和改进的数据准确性的微数据发布。最后一个贡献是深入研究了t-贴近度和差分隐私之间的关系。我们看到，对于一个特定的距离，并在一些合理的假设下，入侵者的知识，t-接近导致差分隐私。
2013-07-03 cs.CR cs.DB
Bistochastically private release of data streams with zero delay
本文针对连续数据流提出一种基于双随机随机化回答的匿名化协议，通过基本合理否认性实现零延迟的个体原子化处理，并提供形式化隐私保证。
2024-02-25 cs.CR
HOMARD: Hammering Off-chip Memory via Aggregate power Rail Disclosure
CentraleSupélec, Univ. Rennes, Inria, CNRS, IRISA（中央苏佩莱克学院、雷恩大学、Inria、法国国家科学研究中心、IRISA）；Graz University of Technology（格拉茨工业大学）；Univ. Bretagne-Sud, Lab-STICC, UMR 6285（南布列塔尼大学、Lab-STICC实验室）；Univ. Lyon, UJM-Saint-Étienne, CNRS, Lab. Hubert Curien, UMR 5516（里昂大学、圣艾蒂安大学、法国国家科学研究中心、Hubert Curien实验室）
HOMARD利用Arm SoC的非特权电源遥测，提出两种攻击原语，可在时序方法失效时逆向DRAM寻址函数、恢复缓存行汉明重量与秘密字节，为微架构攻击提供新侧信道。
2026-10-12 cs.CR
Mitigating Private Data Leakage in LLMs with Whiteout
University of Chicago（芝加哥大学）
针对LLM记忆并泄露个人敏感信息的问题，本文提出Whiteout工具，通过精确混淆样本覆盖真实PSI，在多种LLM上验证其有效防泄露且对模型效用和安全影响极小，优于现有方法。
2026-10-05 cs.AI cs.CR
It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs
KAIST（韩国科学技术院）
本文提出SELFCI框架，通过分离信息抑制与任务解决，解决大语言模型中隐私与效用的权衡问题，通过互补的自我蒸馏方法提升上下文完整性。
2026-11-03 cs.AI cs.CR cs.LG
Privacy Preservation Intrusion Detection Technique for SCADA Systems
监控和数据采集（SCADA）系统面临着缺乏一种保护技术的问题，这种保护技术可以击败不同类型的入侵，并在使用其他应用程序（特别是入侵检测系统（IDS））处理这些数据时保护数据不被泄露。SCADA系统可以管理工业控制环境的关键基础设施。保护敏感信息在现实中是一项很难实现的任务，需要物理系统和数字系统的连接。因此，隐私保护技术已经变得有效，以保护敏感/私人信息并检测恶意活动，但它们在错误检测、数据泄露的敏感度百分比方面并不准确。在本文中，我们提出了一种新的隐私保护入侵检测（PPID）技术的基础上的相关系数和期望最大化（EM）聚类机制，选择重要的数据部分，并识别入侵事件。该技术在电力系统多类攻击数据集上进行评估，以衡量其检测可疑活动的可靠性。实验结果优于三种技术在上述条款，显示所提出的技术用于当前SCADA系统的效率和有效性。
2017-11-08 cs.CR
Bistochastically private release of longitudinal data
本文针对纵向数据隐私问题，提出基于双重随机扩展的随机响应方法，实现数据集与个体轨迹保护的灵活调节，方法简单且实用。
2025-08-14 cs.CR stat.ME
Obfuscated Location Disclosure for Remote ID Enabled Drones
本文提出 OLO-RID 方案，通过差分隐私混淆位置和加密扩展 RID 消息，在满足 Remote ID 法规的同时保护无人机位置隐私，实验证明其开销极低且效用损失极小。
2025-11-08 cs.CR
Secure Federated Submodel Learning
Shanghai Jiao Tong University（上海交通大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；Alibaba Group（阿里巴巴集团）
联邦学习的提出有一个有趣的愿景，即在众多客户端之间实现协作式机器学习，而无需将其私有数据上传到云服务器。然而，传统的框架要求每个客户端利用完整的模型进行学习，这对于资源受限的客户端和大规模深度学习任务来说可能是非常低效的。因此，我们提出了一个新的框架，称为联邦子模型学习，其中客户端只下载完整模型的所需部分，即子模型，然后上传子模型更新。然而，客户真正需要的子模型的“位置”对应于她的私有数据，并且在交互期间将其披露给云服务器不可避免地打破了联邦学习的宗旨。为了整合效率和隐私，我们设计了一个安全的联邦子模型学习计划，加上一个私有集联盟协议作为基石。我们的安全方案具有随机响应，安全聚合，和布隆过滤器的属性，并赋予每个客户端一个定制的似是而非的可否认性，在本地差分隐私，对她想要的子模型的位置，从而保护她的私人数据。我们进一步实例化我们的方案与电子商务推荐场景在阿里巴巴，实现了一个原型系统，并广泛评估其性能超过30天的淘宝用户数据。分析和评估结果从模型精度和收敛性、实际通信、计算和存储开销等方面证明了该方案的可行性和可扩展性，并显示了其相对于传统联邦学习框架的显著优势。
2019-11-11 cs.CR cs.DC cs.LG
Composing Differential Privacy and Secure Computation: A case study on scaling private record linkage
私有记录链接（PRL）是指根据输入匹配规则从双方不信任的数据库中识别相似的记录对的问题。我们确定了PRL解决方案必须确保的三个关键需求：1）匹配对的完美精确度和高召回率，2）端到端隐私的证明，以及3）在输入记录数量中以次二次方式扩展的通信和计算成本。我们表明，PRL的所有现有的解决方案-包括安全的2方计算（S2 PC），以及它们的变种，使用非私有或差分私有（DP）的阻塞，以确保次二次成本-违反至少一个的三个desiderata。特别是，S2 PC技术保证端到端的隐私，但具有低召回或二次成本。相比之下，对于实现次二次成本的解决方案，没有正式的端到端隐私保证。即使对于组成DP和S2 PC的解决方案也是如此：DP不允许发布关于数据库的任何确切信息，而PRL的S2 PC算法允许发布匹配记录。鉴于这一不足，我们提出了一种新的隐私模型，称为输出约束差分隐私，共享DP的强大的隐私保护，但允许真实发布的输出应用到数据的某个功能。我们将此应用到PRL，并表明，满足此隐私模型的协议允许披露的真实匹配记录，但他们的执行是不敏感的存在或不存在一个单一的非匹配记录。我们发现，以前的工作相结合的DP和S2 PC技术，甚至不能满足这个端到端的隐私模型。因此，我们开发新的协议，可证明实现这个端到端的隐私保证，连同其他两个迫切需要的PRL。
2017-09-01 cs.CR cs.DB
PII Jailbreaking in LLMs via Activation Steering Reveals Personal Information Leakage
本文提出通过线性探针定位与隐私拒绝相关的注意力头并引导其激活，实现对LLM的隐私越狱，在四个模型上披露率至少95%，证明记忆的私人信息可被定向提取。
2025-08-19 cs.CR
Lomas: A Platform for Confidential Analysis of Private Data
针对公共服务数据因隐私法规难以充分利用的问题，研究团队提出开源平台 Lomas，它在可信计算环境中运行，借助差分隐私保障数据安全，支持授权用户远程执行算法并获取结果，可在严守保密标准的同时释放数据价值、支撑研究与政策制定。
2024-06-24 cs.CR
Achieving Data Utility-Privacy Tradeoff in Internet of Medical Things: A Machine Learning Approach
物联网在医疗卫生领域的应用--医疗物联网（IoMT）的出现和快速发展，给现代医疗卫生系统带来了诸多变化和挑战。特别地，机器学习技术可用于处理IoMT中涉及的数据，用于医学分析和疾病诊断。然而，在这一过程中，个人隐私信息的披露必须得到相当的重视，特别是敏感的医疗数据。聚类分析是医学分析和疾病诊断的重要技术。为了在物联网中实现隐私保护的聚类分析，提出了一种基于MapReduce框架的高效差异私有数据聚类方案（EDPDCS）。在EDPDCS中，我们优化隐私预算的分配和初始质心的选择，以提高差分隐私K-means聚类算法的准确性。具体地，根据每次迭代的总隐私预算和最小隐私预算，将K-means算法的迭代次数设置为固定值。此外，提出了一种改进的初始质心选择方法，以提高聚类算法的准确性和效率。最后，我们证明了所提出的EDPDCS可以提高差分私有k-means算法的准确性，通过比较我们的算法在两个数据集上产生的归一化聚类内方差（NICV）与其他两种算法。
2019-02-08 cs.CR
Differentially-Private Two-Party Egocentric Betweenness Centrality
University of Melbourne（墨尔本大学）
我们描述了一种新的协议，用于计算一个节点的自我中心的介数中心性时，相关的边缘信息传播在两个相互不信任的双方，如两个电信提供商。虽然每个节点属于一个网络或另一个网络，但其自我网络可能包括其网络提供商未知的边。我们开发了一个协议的差分私有机制，以隐藏每个网络的内部边缘结构，从其他贡献一个新的两阶段分层采样器的时间和空间效率的指数改善。几个开放图形数据集的实证结果表明，实际的相对出错率，同时提供强大的隐私保证，如16%的错误Facebook数据集。
2019-01-16 cs.CR cs.LG cs.SI
Towards Quantifying Privacy in Process Mining
流程挖掘使用事件日志来提供对实际流程的见解。事件日志由信息系统记录，包含有价值的信息，可帮助组织改进其流程。然而，这些数据还包括高度敏感的私人信息，这是应用流程挖掘时的主要问题。因此，在进程挖掘中的隐私保护越来越重要，新的技术正在被引入。建议的隐私保护技术的有效性需要进行评估。重要的是要衡量敏感数据保护和数据实用程序保护。在本文中，我们提出了一种方法来量化隐私保护技术的有效性。我们引入了两种量化披露风险的措施，以评估敏感的数据保护方面。此外，提出了一种措施，以量化的数据效用保存的主要过程挖掘活动。所提出的措施已经过测试，使用各种现实生活中的事件日志。
2020-12-21 cs.CR cs.DB
