Practical Aspect of Privacy-Preserving Data Publishing in Process Mining
诸如流程发现和一致性检查的流程挖掘技术通过分析信息系统中广泛可用的事件数据来提供对实际流程的洞察。这些数据非常有价值,但通常包含敏感信息,流程分析师需要平衡机密性和实用性。过程挖掘中的隐私问题最近受到了研究人员的更多关注,应该通过一个工具来集成解决方案并使其在现实世界中可用。在本文中,我们介绍了一个基于Python的基础设施,实现了最先进的隐私保护技术的进程挖掘。基础设施提供了一个层次结构的使用从单一的技术,以收集技术,集成为基于网络的工具。我们的基础设施管理来自隐私保护技术的标准和非标准事件数据。它还存储显式隐私元数据,以跟踪为保护敏感数据而应用的修改。
2020-09-24 cs.CR
Privacy-preserving Data Mining, Sharing and Publishing
本文的目标是提出不同的方法来保护隐私的数据共享和电子医疗保健系统的背景下发布。特别是,在隐私保障和当前的现实生活中的高复杂性的医疗系统,假设适当的数据共享机制的实现的技术问题的文献综述。
2013-04-06 cs.CR cs.DB
General Confidentiality and Utility Metrics for Privacy-Preserving Data Publishing Based on the Permutation Model
隐私保护数据发布的匿名化,也称为统计披露控制(SDC),可以在置换模型的镜头下查看。根据这个模型,任何用于单个数据记录的SDC方法在功能上等效于置换步骤加上噪声添加步骤,其中添加的噪声是边际的,在这个意义上,它不改变等级。在这里,我们提出的指标来量化数据的机密性和实用性实现的SDC方法的基础上的置换模型。我们区分两个隐私的概念:在我们的工作中,匿名是指主题,因此主要是为了防止记录重新识别,而保密性是指保护属性值对属性披露。因此,我们的保密性指标是有用的,即使使用隐私模型,确保匿名水平事前。效用度量是一种通用度量,可以方便地与机密性度量进行权衡,因为它们都在0和1之间。作为一个应用程序,我们比较了几种匿名化方法,包括隐私模型(k-匿名和$ε$ -差分隐私)以及SDC方法(加性噪声,乘性噪声和合成数据)没有隐私模型的效用-机密性权衡。
2020-10-07 cs.CR
A Crypto-Assisted Approach for Publishing Graph Statistics with Node Local Differential Privacy
本文首次研究不依赖可信服务器的节点本地差分隐私下图度分布发布问题,提出密码辅助本地投影和边级参数选择方法,在真实图实验中准确性和效用分别最高提升79.8%和57.2%。
2023-04-15 cs.CR
Publishing Wikipedia usage data with strong privacy guarantees
本文介绍 Wikimedia Foundation 在 Tumult Labs 协助下,于2023年发布含来源国家的细粒度 Wikipedia 每日浏览统计,并采用差分隐私保护用户隐私的目标、流程、算法与发布结果。
2025-07-28 cs.CR
Privacy Preserving Web Query Log Publishing: A Survey on Anonymization Techniques
发布包含有研究或营销价值信息的Web查询日志可能会侵犯搜索引擎用户的隐私。因此,渲染查询日志,以限制查询链接到个人,同时保留数据的有用性进行分析,是一个重要的研究问题。本文对这一领域的最新研究进行了综述和讨论。
2012-11-10 cs.CR cs.DB
Survey on Privacy-Preserving Techniques for Data Publishing
收集、处理和共享的微数据呈指数级增长,引起了人们对个人隐私的担忧。因此,出现了控制组织如何处理微数据以及如何保护微数据的法律和法规。统计披露控制旨在通过取消识别来降低机密信息披露的风险。这种去身份化通过隐私保护技术来保证。然而,去识别数据通常会导致信息丢失,可能会影响数据分析精度和模型预测性能。主要目标是保护个人隐私,同时保持数据的可解释性,即其有用性。统计披露控制是一个正在扩大和需要探索的领域,因为仍然没有保证最佳隐私和效用的解决方案。这项调查的重点是去除身份进程的所有步骤。我们提出了现有的隐私保护技术中使用的微数据去识别,隐私措施适用于几种披露类型,信息丢失和预测性能的措施。在这次调查中,我们讨论了隐私限制所带来的主要挑战,描述了处理这些障碍的主要方法,回顾了隐私保护技术的分类,对现有的比较研究进行了理论分析,并提出了多个开放问题。
2022-01-20 cs.CR
A Summary of Privacy-Preserving Data Publishing in the Local Setting
本综述聚焦本地场景下隐私保护数据发布,梳理微数据去标识化的隐私技术、场景化隐私度量及效用评估指标,分析隐私约束挑战与缓解策略,指出领域未决问题。
2023-12-19 cs.CR
HyObscure: Hybrid Obscuring for Privacy-Preserving Data Publishing
Shanghai University of Finance and Economics(上海财经大学);Beihang University(北京航空航天大学)
在隐私保护数据发布任务中,最大限度地减少隐私泄露同时确保数据效用是数据持有者的关键问题。大多数现有的研究只关注一种类型的数据,并采取单一的模糊方法,\eg,混淆或泛化,以实现隐私-效用权衡,这是不足以保护现实生活中的异构数据,很难防御日益增长的机器学习为基础的推理攻击。本文针对异构数据保护中同时采用泛化和混淆操作的隐私保护数据发布问题进行了初步研究。为此,我们首先提出了新的隐私和效用量化措施,并制定了混合隐私保护数据模糊问题,以考虑泛化和模糊的联合效应。然后,我们设计了一种新的混合保护机制,称为HyObscure,交叉迭代优化的泛化和混淆操作的最大隐私保护在一定的效用保证。从理论上证明了HyObscure算法迭代过程的收敛性和隐私泄露的界。大量的实验表明,HyObscure显着优于各种国家的最先进的基线方法时,面对各种推理攻击在不同的情况下。HyObscure还可以线性扩展到数据大小,并在不同的关键参数下表现稳健。
2021-12-15 cs.AI cs.CR
Privacy-Preserving Data Publishing in Process Mining
流程挖掘旨在基于事件数据提供对实际流程的洞察。这些数据通常由信息系统记录,并广泛提供。然而,它们通常包含敏感的私人信息,应该负责任地进行分析。因此,进程挖掘中的隐私问题最近受到了更多的关注。隐私保护技术显然需要修改原始数据,但同时,它们应该保持数据效用。数据的隐私保护转换可能会导致不正确或误导性的分析结果。因此,需要设计新的基础设施来发布隐私感知事件数据,其目的是提供关于事件数据上的隐私相关变换的元数据,而不泄露隐私保护技术或受保护信息的细节。在本文中,我们提供了正式的定义,主要的匿名化操作,在过程挖掘中使用的隐私模型。这些用于创建用于记录隐私元数据的基础设施。我们提倡在实践中提出的隐私元数据的XES标准的隐私扩展和一般的数据结构的事件数据,而不是在标准的事件日志的形式设计。
2021-01-04 cs.CR cs.DB
MuCo: Publishing Microdata with Privacy Preservation through Mutual Cover
本文提出相互覆盖(MuCo)技术,通过随机替换准标识符值使相似元组相互覆盖,在防止身份和属性泄露的同时比泛化方法更有效地保留微数据的信息效用。
2024-03-29 cs.CR
$k^{τ,ε}$-anonymity: Towards Privacy-Preserving Publishing of Spatiotemporal Trajectory Data
移动网络运营商可以通过被动或主动监控设备位置来跟踪用户。记录的轨迹为大型用户群体的活动提供了前所未有的前景,这使得开发新的网络解决方案和服务成为可能,并扩大了跨研究学科的研究。然而,个人轨迹的披露引起了严重的隐私问题:因此,这些数据往往受到限制性的非披露协议的保护,限制了其可用性并阻碍了潜在的使用。在本文中,我们有助于发展的技术解决方案的隐私保护发布的移动用户的时空轨迹的问题。我们提出了一种算法,概括的数据,使他们满足$k^{τ,ε}$ -匿名,原始的隐私标准,阻止攻击的轨迹。与现实世界的数据集的评估表明,我们的算法达到了其目标,同时保留了相当程度的准确性的数据。我们的工作是朝着开放的,隐私保护的时空轨迹数据集的方向迈出了一步。
2017-01-09 cs.CR cs.CY
Preserving Individual Privacy in Serial Data Publishing
虽然以前的隐私保护串行数据发布的工作考虑的情况下,敏感值可能会持续多个数据发布,我们发现,没有以前的工作提供了足够的保护敏感值,可以随时间变化,这应该是更常见的情况。在这项工作中,我们建议研究这种瞬态敏感值的隐私保证,我们称之为全球保证。我们正式定义的问题,实现这一保证,并得出这个问题的一些理论性质。我们发现,在数据匿名化中使用的匿名组的大小是一个关键因素,在保护个人隐私的连续出版物。我们提出了两种策略的匿名化目标在最小化的平均组大小和最大组大小。最后,我们在一个医疗数据集上进行了实验,结果表明,我们的方法是高效的,也产生了非常高实用性的已发布数据。
2009-03-04 cs.CR cs.DB
Differentially Private Model Publishing for Deep Learning
Georgia Institute of Technology(佐治亚理工学院)
基于神经网络的深度学习技术在广泛的人工智能任务中取得了巨大成功。大规模的训练数据集是其成功的关键因素之一。然而,当训练数据集是从个人众包的,并且包含敏感信息时,模型参数可能会编码隐私信息并承担隐私泄露的风险。最近,共享和发布预训练模型的趋势日益增长,进一步加剧了这种隐私风险。为了解决这个问题,我们提出了一种用于训练神经网络的差异私有方法。我们的方法包括几种新技术,用于优化隐私丢失和模型准确性。我们采用了一个概括的差分隐私称为集中的差分隐私(CDP),与两个不同的数据隐藏方法的正式和精细的隐私损失分析。我们在训练过程中实现了动态隐私预算分配器,以提高模型的准确性。大量的实验表明,我们的方法有效地提高了隐私损失会计,训练效率和模型质量在给定的隐私预算。
2019-12-19 cs.CR cs.LG
Asymmetric Differential Privacy
差分隐私(DP)作为发布数据集统计信息时的隐私定义越来越受到关注。本文重点关注DP不可避免地导致双侧误差的局限性,这对于流行病分析(例如有多少COVID-19感染者访问了地点A)是不可取的。例如,考虑发布许多感染者没有访问地点A的错误信息,这可能导致扩大疫情的决策失误。为了解决这个问题,我们提出了一个放松DP,称为非对称差分隐私(ADP)。我们表明,ADP可以提供合理的隐私保护,同时实现片面的错误。最后,我们进行了实验,以评估使用真实世界的数据集,这表明我们的机制的实用性的流行病分析机制的效用。
2022-09-05 cs.CR
PrivDPR: Synthetic Graph Publishing with Deep PageRank under Differential Privacy
本文提出PrivDPR,一种基于深度PageRank的差分隐私合成图发布方法,通过向特定权重梯度加噪并利用权重归一化缓解高敏感性与隐私预算分割问题,实验证明其在多个图结构属性上保持高效用。
2025-01-04 cs.CR cs.DB
A Systematic Literature Review on Wearable Health Data Publishing under Differential Privacy
可穿戴设备生成关于个体的不同类型的生理数据。这些数据可以为医学研究人员和临床医生提供通过传统措施无法利用的有价值的见解。历史上,研究人员一直依赖于调查响应或观察到的行为。有趣的是,生理数据可以提供比从任何其他来源(包括用户自己)获得的更丰富的用户认知。因此,廉价的消费级可穿戴设备已成为健康研究人员的兴趣点。此外,它们还用于连续的远程健康监测,有时也被保险公司使用。然而,这种用例最大的问题是个人的隐私。抽象和k-匿名等几种隐私机制在信息系统中得到了广泛的应用。最近,差分隐私(DP)已经成为发布隐私敏感数据(包括来自可穿戴设备的数据)的熟练技术。在本文中,我们进行了系统性文献综述(SLR),以识别,选择和批判性地评价DP的研究,以及了解不同的技术和DP在可穿戴数据发布中的现有使用。根据我们的研究,我们已经确定了所提出的解决方案的局限性,并提供了未来的方向。
2021-09-15 cs.CR cs.CY
Slicing: A New Approach to Privacy Preserving Data Publishing
已经设计了几种匿名化技术,例如泛化和桶化,用于隐私保护微数据发布。最近的研究表明,泛化丢失了大量的信息,特别是对于高维数据。另一方面,桶化并不阻止成员身份泄露,也不适用于在准识别属性和敏感属性之间没有明确区分的数据。在本文中,我们提出了一种新的技术,称为切片,分区的数据水平和垂直。我们表明,切片保存更好的数据实用性比泛化,可用于成员披露保护。切片的另一个重要优点是它可以处理高维数据。我们展示了如何切片可以用于属性披露保护,并开发了一个有效的算法来计算切片数据,遵守l-多样性的要求。我们的工作负载实验证实,切片保留更好的实用性比泛化,是更有效的比桶化的工作负载涉及敏感属性。我们的实验还表明,切片可以用来防止成员披露。
2009-09-12 cs.CR cs.DB
Publishing Community-Preserving Attributed Social Graphs with a Differential Privacy Guarantee
我们提出了一种新的方法发布差异私人合成属性图。与以前的方法不同,我们的方法能够保留原始图的社区结构,而不牺牲捕获全局结构属性的能力。我们的建议依赖于C-AGM,一个新的社区保持属性图的生成模型。我们配备C-AGM与有效的方法,属性图采样和参数估计。对于后者,我们引入差分私有计算方法,这使我们能够发布具有强大的正式隐私保证的社区保护合成属性社交图。通过全面的实验,我们表明,我们的新模型优于其最相关的同行在合成差异私人属性的社会图,保留社区结构的原始图,以及度序列和聚类系数。
2019-08-31 cs.CR cs.SI physics.soc-ph
Privacy Preserving Location Data Publishing: A Machine Learning Approach
The University of Sydney(悉尼大学);Data61;Guangxi Huanan Communication Co., Ltd.(广西华南通信有限公司);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);NJUST(南京理工大学)
发布数据集在开放数据研究和促进政府机构透明度方面发挥着至关重要的作用。然而,这种数据发布可能会泄露用户的私人信息。最敏感的数据源之一是时空轨迹数据集。不幸的是,仅仅删除唯一标识符并不能保护用户的隐私。对手可能知道轨迹的一部分,或者能够将发布的数据集链接到其他来源,以识别用户。因此,在时空轨迹数据集发布之前应用隐私保护技术至关重要。在本文中,我们提出了一个强大的框架,称为基于机器学习匿名化(MLA)的时空轨迹数据集的匿名化。通过引入一个新的配方的问题,我们能够应用机器学习算法聚类的轨迹,并建议使用$k$ -手段算法用于此目的。为了在过于敏感的数据集上保护隐私,本文还提出了一种改进的$k$ -means算法.此外,我们通过考虑多序列比对作为MLA的一部分来改进比对过程。该框架和所有提出的算法都适用于TDrive和Geolife位置数据集。实验结果表明,基于MLA框架的匿名化数据集的效用显着提高。
2019-11-05 cs.CR cs.LG
Synthetic Data -- Anonymisation Groundhog Day
EPFL(洛桑联邦理工学院);UCL(伦敦大学学院)
合成数据被宣传为隐私保护数据发布的银弹解决方案,解决了传统匿名技术的缺点。其承诺是,从生成模型中提取的合成数据保留了原始数据集的统计特性,但同时提供了针对隐私攻击的完美保护。在这项工作中,我们首次对合成数据发布的隐私收益进行了定量评估,并将其与之前的匿名技术进行了比较。我们对各种最先进的生成模型的评估表明,合成数据要么不能防止推理攻击,要么不能保留数据效用。换句话说,我们的经验表明,与传统的匿名技术相比,合成数据并没有在隐私和实用性之间提供更好的权衡。此外,与传统的匿名化相比,合成数据发布的隐私-效用权衡难以预测。由于无法预测合成数据集将保留哪些信号以及将丢失哪些信息,因此合成数据导致高度可变的隐私增益和不可预测的效用损失。总之,我们发现合成数据远不是保护隐私的数据发布的圣杯。
2022-01-24 cs.CR cs.LG
Online publication of court records: circumventing the privacy-transparency trade-off
开放数据运动正在导致在线大规模发布法院记录,提高司法的透明度和可及性,并在现有丰富法律数据的基础上设计法律技术。然而,法律决策的敏感性也引发了重要的隐私问题。当前的实践通过将访问控制与(手动或半手动)文本编辑相结合来解决由此产生的隐私与透明度的权衡。在这项工作中,我们声称,目前的做法是不足以应付大规模访问的法律数据(限制性的访问控制政策是有害的开放性和实用性,而文本编辑是无法提供健全的隐私保护),并倡导一个整合的方法,可以受益于隐私保护的数据发布域的最新发展。我们提出了一个彻底的分析问题和当前的方法,并提出了一个稻草人多式联运架构铺平道路,一个成熟的隐私保护法律数据发布系统。
2020-07-03 cs.CR cs.CY
Simultaneous Discrimination Prevention and Privacy Protection in Data Publishing and Mining
数据采掘是一种越来越重要的技术,用于提取隐藏在大量数据中的有用知识。然而,社会上对数据采掘也有一些负面的看法,其中包括潜在的隐私侵犯和潜在的歧视。自动化的数据汇集和分类等数据采掘技术为自动化决策铺平了道路,如贷款授予/拒绝,保险费计算。如果训练数据集在性别、种族、宗教等歧视性属性方面存在偏见,那么可能会出现歧视性决策。在本论文的第一部分中,我们解决了歧视预防数据采掘,并提出了新的技术适用于直接或间接的歧视预防单独或同时。我们讨论如何清理训练数据集和外包数据集,以便将直接和/或间接的歧视性决策规则转换为合法(非歧视性)分类规则。在本文的第二部分,我们认为隐私和歧视风险应该一起处理。我们探讨隐私保护数据采掘和歧视预防之间的关系,在数据采掘设计能够同时解决这两个威胁的知识发现过程中的整体方法。作为这项工作的一部分,我们已经调查了第一次的歧视和隐私意识的频繁模式发现的问题,即从交易数据库中挖掘的模式的集合的净化,以这样的方式,既不侵犯隐私,也不歧视推断可以推断出的释放模式。此外,我们调查的歧视和隐私意识的数据发布的问题,即转换的数据,而不是模式,以同时实现隐私保护和歧视预防。
2013-06-28 cs.CR cs.DB
Differentially Private Distance Query with Asymmetric Noise
针对社交图距离发布的隐私保护需求,本文提出基于边差分隐私的非对称噪声距离查询机制,结合平滑敏感性提升效用,实验验证其可将误差降至0.0862。
2025-01-14 cs.CR
Publishing Neural Networks in Drug Discovery Might Compromise Training Data Privacy
AstraZeneca R&D Discovery Sciences(阿斯利康研发部研发科学部);Technical University of Munich(慕尼黑工业大学);Helmholtz Munich(慕尼黑亥姆霍兹中心);AI Sweden(瑞典AI中心);Chalmers University of Technology(查尔姆斯理工大学)
本研究通过成员推理攻击在黑盒设置下调查药物发现领域机器学习模型的训练数据隐私风险,发现所有数据集和架构均存在显著风险,少数类分子更脆弱,图表示和消息传递神经网络可缓解风险,并提供评估框架。
2024-10-22 cs.CR cs.LG
Privacy-Enhanced Database Synthesis for Benchmark Publishing (Technical Report)
本文提出基于和积网络的差分隐私数据库合成框架PrivBench,用于基准发布场景,在保护隐私的同时保持数据分布与查询运行时间的高保真度。
2025-04-10 cs.CR cs.DB
A Random Matrix Approach to Differential Privacy and Structure Preserved Social Network Graph Publishing
在线社交网络正越来越多地用于分析各种社会现象,例如流行病学、信息传播、营销和情感流动。流行的分析技术,如聚类和有影响力的节点分析,需要计算实图的邻接矩阵的特征向量。最近对Netflix和AOL数据集的去匿名化攻击表明,对此类图表的开放获取会造成隐私威胁。在各种隐私保护模型中,差分隐私提供了最强的隐私保护。结合随机矩阵理论和差分隐私理论,提出了一种满足差分隐私保证的社交网络图数据发布隐私保护机制.其核心思想是利用随机投影方法将邻接矩阵的每一行投影到一个低维空间,然后用随机噪声扰动投影矩阵。我们表明,与现有的方法相比,差分私人近似的特征向量,我们的方法是计算效率高,保持效用和满足差分隐私。我们评估我们的方法在Facebook,Live Journal和Pokec的社交网络图。结果表明,即使对于高值的噪声方差σ = 1的归一化互信息增益给出的聚类质量是低至0.74。对于有影响力的节点发现,所提出的方法是能够正确地恢复80个最有影响力的节点。我们还将我们的结果与[43]中提出的方法进行了比较,该方法通过拉普拉斯噪声直接扰动原始数据的特征向量。结果表明,该方法需要较大的随机扰动才能保持差分隐私,从而导致对大型社交网络的特征向量估计不佳。
2013-07-01 cs.CR cs.SI physics.soc-ph
Achilles' Heels: Vulnerable Record Identification in Synthetic Data Publishing
Imperial College London(帝国理工学院)
针对合成数据发布中的隐私评估,提出基于最近邻距离的脆弱记录识别方法,显著优于临时方法,且对MIA选择和参数鲁棒,并适用于差分隐私生成器。
2023-09-21 cs.AI cs.CR
Application-driven Privacy-preserving Data Publishing with Correlated Attributes
Stony Brook University(石溪大学);NVIDIA(英伟达);Rutgers University(罗格斯大学);UIUC(伊利诺伊大学厄巴纳-香槟分校);Bosch Research(博世研究院)
计算方面的最新进展使收集有关个人活动和私人生活空间的大量数据成为可能。为了解决用户在这种环境中的隐私问题,我们提出了一个新的框架,称为PR-GAN,使用生成对抗网络提供隐私保护机制。给定目标应用程序,PR-GAN自动修改数据以隐藏敏感属性-这些属性可能是隐藏的,可以通过机器学习算法推断-同时保留目标应用程序中的数据实用程序。与以前的作品,公众的目标应用程序和敏感属性之间的相关性的可能的知识是内置到我们的建模。我们将我们的问题表述为优化问题,证明存在最优解,并使用生成对抗网络(GAN)来创建扰动。我们进一步表明,我们的方法提供了隐私保障下的河豚框架,优雅的概括的差分隐私,允许对数据和相关性的先验知识建模。通过实验,我们表明,我们的方法优于传统的方法,有效地隐藏敏感属性,同时保证高性能的目标应用程序,属性推理和训练的目的。最后,我们通过进一步的实验证明,一旦我们的模型在一组个体上学习了隐私保护任务,例如隐藏受试者的身份,它就可以在一个单独的组上执行相同的任务,并且性能下降最小。
2021-01-05 cs.CR cs.LG stat.ML
Towards Measuring Membership Privacy
机器学习模型越来越多地通过公共查询接口提供给大众。最近的学术工作已经证明,可以查询这种模型的恶意用户能够推断出关于训练数据内的记录的敏感信息。差分隐私可以阻止这种攻击,但并不是所有的模型都可以很容易地训练来实现这种保证,或者以可接受的效用损失来实现它。因此,如果一个模型是在没有差分隐私保证的情况下训练的,那么我们对释放它的隐私风险知之甚少或可以说。在这项工作中,我们调查和分析了成员攻击,以了解它们为什么以及如何成功。基于这种理解,我们提出了差分训练隐私(DTP),一个经验性的度量,以估计隐私风险发布分类时,如差分隐私的方法不能应用。DTP是一个衡量分类器相对于其训练数据集,我们表明,计算DTP是有效的,在许多实际情况下。我们使用最先进的机器学习模型(例如在真实世界数据集上训练的神经网络)来经验性地验证DTP。我们的研究结果表明,DTP是高度预测的成功成员攻击,因此减少DTP也降低了隐私风险。我们提倡在考虑发布分类器时将DTP用作决策过程的一部分。为此,我们还建议采用DTP-1假设:如果分类器的DTP值大于1,则不应发布。
2017-12-25 cs.CR
Spatio-temporal Trajectory Dataset Privacy Based on Network Traffic Control
移动社交网络中包含丰富个人隐私的用户位置和轨迹信息的收集对于攻击者来说变得更加容易。网络流量控制是解决网络安全和隐私问题的重要手段。在本文中,我们考虑一个网络交通控制系统作为一个可信的第三方,并使用差分隐私保护更多的个人轨迹数据。我们研究了高维和稀疏的轨迹数据集的基础上发表的结果的可用性的影响。基于相似点聚合重构思想和前缀树模型,提出了一种差分隐私时空轨迹数据集的混合发布方法APTB。
2018-04-05 cs.CR
Approximate DBSCAN under Differential Privacy
Hong Kong University of Science and Technology(香港科技大学)
本文在差分隐私下重新审视DBSCAN问题,提出基于跨度的DP-DBSCAN定义,设计线性时间算法并实现质量保证,同时验证了算法在合成和真实数据集上的性能。
2025-08-13 cs.CR cs.DB
DP2-Pub: Differentially Private High-Dimensional Data Publication with Invariant Post Randomization
在实际应用中会出现大量的高维异构数据,这些数据往往会发布给第三方进行数据分析、推荐、定向广告和可靠预测。然而,公布这些数据可能会泄露个人敏感信息,从而导致对隐私侵犯的日益关注。近年来,隐私保护数据发布受到了相当大的关注。不幸的是,高维数据的差分私有发布仍然是一个具有挑战性的问题。在本文中,我们提出了一个差分私有的高维数据发布机制(DP2-Pub),运行在两个阶段:基于马尔可夫毯的属性聚类阶段和不变后随机化(PRAM)阶段。具体而言,将属性划分为具有高簇内凝聚力和低簇间耦合的低维簇有助于获得隐私预算的合理分配,而满足局部差分隐私的双扰动机制有助于保持不变的PRAM,以确保不丢失统计信息,从而显着保留数据效用。我们还扩展了我们的DP2-Pub机制的情况下,与一个半诚实的服务器,满足本地差分隐私。我们在四个真实数据集上进行了大量的实验,实验结果表明,该机制在满足差分隐私的同时,能够显著提高已发布数据的数据效用.
2022-08-24 cs.CR cs.CY
On Sampling, Anonymization, and Differential Privacy: Or, k-Anonymization Meets Differential Privacy
本文旨在回答以下两个问题,在隐私保护的数据分析和发布:什么正式的隐私保证(如果有的话)$k$ -匿名提供?如何从对手对数据的不确定性中获益?我们发现,随机抽样提供了一个连接,有助于回答这两个问题,因为抽样可以创建不确定性。本文的主要结果是,$k$ -匿名化,当做“安全”,并与随机抽样步骤时,满足$(ε,δ)$ -差分隐私与合理的参数。这一结果说明,“隐藏在一群$k$中“确实提供了一些隐私保证。这一结果还提出了一种满足差分隐私的输出扰动的替代方法:即,在开始时添加随机采样步骤,并修剪对单个元组的变化太敏感的结果。关于第二个问题,我们提供了积极和消极的结果。在积极的一面,我们表明,增加一个随机采样的预处理步骤的差分隐私算法可以大大放大的隐私保护的水平。因此,当给定由采样产生的数据集时,可以利用大得多的隐私预算。从消极的一面来看,任何利用对手的不确定性的隐私概念都不可能构成。我们讨论这些结果在实践中意味着什么。
2011-06-21 cs.CR
Advances in Differential Privacy and Differentially Private Machine Learning
本文综述差分隐私理论、Renyi DP与Concentrated DP等新变体、新机制及其在隐私保护机器学习中的理论进展与实际部署。
2024-04-06 cs.CR
Understanding the Sparse Vector Technique for Differential Privacy
稀疏向量技术(SVT)是满足差分隐私的一种基本技术,具有输出查询答案而不付出任何隐私代价的独特性质。SVT已被用于交互式设置,其中一个试图回答一系列的查询是不知道的时间提前,并在非交互式设置,其中所有的查询是已知的。由于潜在的隐私预算的节省,已经提出了许多变体的SVT和隐私保护数据采掘和发布中使用。然而,SVT的大多数变体实际上不是私有的。在本文中,我们分析了这些错误,并确定可能导致这些错误的误解。我们还提出了一个新的版本的SVT,提供更好的实用程序,并介绍了一种有效的技术,以提高性能的SVT。这些增强功能可用于提高交互式设置中的实用性。通过分析和实验比较,我们表明,在非交互式设置(但不是交互式设置),SVT技术是不必要的,因为它可以取代指数机制(EM)具有更好的精度。
2016-09-17 cs.CR
Anonymizing Periodical Releases of SRS Data by Fusing Differential Privacy
开发了自发报告系统(SRS),以收集包含个人人口统计学和敏感信息(如药物适应症和不良反应)的不良事件记录。SRS数据的发布可能会泄露数据提供者的隐私。与其他微数据不同,很少有人提出匿名化方法来保护个人隐私,同时发布SRS数据。MS(k,θ*)-bounding是SRS数据的第一个隐私模型,它考虑了多个单独的记录,多值敏感属性和罕见事件。然后提出了PPMS(k,θ*)-定界方法,解决了周期性SRS发布场景中后续事件引起的交叉发布攻击问题。微数据匿名化的一个新趋势是将传统的语法模型和差分隐私模型相结合,融合了两种模型的优点,产生了一种更好的隐私保护方法。本文提出了PPMS-DP(k,θ*,ε)框架,该框架是PPMS(k,θ*)-边界的增强,包含差分隐私,以提高周期性发布SRS数据的隐私保护。我们提出了两个符合PPMS-DP(k,θ*,ε)框架的匿名化算法PPMS-DPnum和PPMS-DPall。在FAERS数据集上的实验结果表明,PPMS-DPnum和PPMS-DPall都比PPMS-(k,θ*)-bounding提供了明显更好的隐私保护,而不牺牲数据失真和数据效用.
2022-11-19 cs.CR
Continuous Release of Data Streams under both Centralized and Local Differential Privacy
Carnegie Mellon University(卡内基梅隆大学);University of Virginia(弗吉尼亚大学);University of California, Irvine(加州大学欧文分校);CISPA(亥姆霍兹信息安全中心);Alibaba Inc.(阿里巴巴公司);NIO Security Research(蔚来安全研究院);Purdue University(普渡大学);University of Wisconsin, Madison(威斯康星大学麦迪逊分校)
针对实值数据流持续发布中的截断阈值与噪声问题,提出含阈值优化、扰动和平滑的隐私框架,并给出首个LDP流发布算法,效用较现有方法提升6至10个数量级。
2023-12-07 cs.CR cs.LG
Differential privacy with partial knowledge
差分隐私为数据集上的算法提供了形式化的定量保证,但它假设攻击者知道并可以影响数据库中除一条记录外的所有记录。这种假设往往大大高估了攻击者的实际实力,导致不必要的效用低下。最近的工作已经取得了显着的步骤隐私部分背景知识,它可以模拟一个现实的攻击者的不确定性的存在。然而,先前的工作对于相关数据存在定义问题,并且没有精确地描述底层攻击者模型。我们提出了一个实用的标准,以防止由于相关性的问题,我们展示了如何描述攻击者的影响力有限,或只有部分背景知识的数据集。我们使用这些基础来分析实际情况:我们显着改善已知的结果的隐私计数查询下的部分知识,我们表明,阈值可以提供正式的保证,对这种弱攻击者,即使在数据中的熵很小。这些结果使我们能够在部分知识下在k-匿名和差分隐私之间建立新的联系。最后,我们证明了部分知识下差分隐私的合成结果,量化了复杂机制的隐私泄露。我们的工作为正式量化许多广泛使用的机制的隐私提供了基础,例如发布调查,选举或全民投票的结果,以及发布在线服务的使用统计数据。
2020-11-27 cs.CR
A Decentralized Framework for Ethical Authorship Validation in Academic Publishing: Leveraging Self-Sovereign Identity and Blockchain Technology
College of Banking and Financial Studies(银行与金融研究学院)
针对学术出版中的不道德署名问题,本文提出基于自主身份和区块链的去中心化框架,利用DID、VC和零知识证明验证作者身份与贡献,提升伦理合规性和透明度。
2025-08-03 cs.CL cs.CR
One-sided Differential Privacy
在本文中,我们研究的问题,隐私保护的数据共享,其中只有一个子集的记录在数据库中是敏感的,可能基于预定义的隐私政策。现有的解决方案,即,差分隐私(DP),是过于悲观,并把所有的信息作为敏感。或者,访问控制和个性化差分隐私等技术真实地揭示了所有非敏感记录,它们通过排除攻击间接泄露了敏感记录的信息。由于先前工作的局限性,我们引入了单边差分隐私(OSDP)的概念。我们正式的排斥攻击,我们展示了OSDP如何防止它。OSDP提供差分隐私一样的保证,但只对敏感记录。OSDP允许真实地发布非敏感记录的子集。该示例可用于支持必须输出真实数据的应用程序,并且非常适合发布复杂类型的数据,例如轨迹。虽然一些非敏感的记录被抑制,以避免排斥攻击,我们的实验表明,在大多数情况下,抑制结果在效用的小损失。此外,我们提出了一个配方,把DP机制回答计数查询到OSDP技术相同的任务。我们的OSDP算法利用了非敏感记录的存在,并且能够提供比最先进的DP解决方案高出25倍的准确性。
2017-12-16 cs.CR
What to Consider When Considering Differential Privacy for Policy
本文面向政策制定者,梳理将差分隐私从理论引入实践时面临的三类理解挑战,并提出可用于预判部署影响的关键问题,以辅助隐私相关政策决策。
2024-09-18 cs.CR cs.CY
Communication-Efficient Publication of Sparse Vectors under Differential Privacy
提出一种针对稀疏向量聚合矩阵的差分隐私发布算法,将通信成本降至$O(\varepsilon m)$且结果与随机响应一致,兼顾了隐私保护与通信效率。
2025-06-25 cs.CR
Protecting Personalized Trajectory with Differential Privacy under Temporal Correlations
本文针对车载自组织网络中轨迹隐私泄露问题,提出个性化轨迹隐私保护机制 PTPPM,利用时间相关性确定保护位置集合并结合 Permute-and-Flip 扰动机制,在满足服务质量的同时提升隐私保护效果。
2024-01-20 cs.CR
Robust Optimization for Local Differential Privacy
我们考虑在不泄露敏感信息的情况下发布数据的设置。我们这样做的鲁棒本地差分隐私(RLDP)的框架。这确保了不确定性集中所有数据分布的隐私性。我们制定的问题,找到最佳的数据发布协议作为一个强大的优化问题。通过推导出封闭形式的表达式,我们得到一个凸优化问题。我们比较了四种可能的优化问题的性能,这取决于我们是否需要i)效用和ii)隐私的鲁棒性。
2022-05-10 cs.CR cs.IT math.IT
Verifiable Differential Privacy
针对差分隐私中恶意发布者利用随机性作恶的漏洞,提出可验证差分隐私,通过混合公私随机性生成零知识证明,实现可验证且实用的DP计数查询。
2023-01-20 cs.CR
Local Distance Query with Differential Privacy
针对无可信中心场景下的本地差分隐私距离查询问题,提出合成图与聚合本地距离向量两种方法,后者为首个专用LDP方法,经理论分析与实验验证有效。
2025-08-07 cs.CR
MTSP-LDP: A Framework for Multi-Task Streaming Data Publication under Local Differential Privacy
Xi’an Jiaotong University(西安交通大学)
MTSP-LDP通过最优隐私预算分配和数据自适应二进制树结构,提升多任务流数据发布下的隐私保护与效用。
2025-12-31 cs.CR
Privately Answering Queries on Skewed Data via Per Record Differential Privacy
针对偏态数据隐私发布问题,提出每条记录零集中差分隐私(PzCDP)形式化方法及相应机制,通过使隐私损失依赖于记录值,有效克服标准DP在重尾统计发布中的困难。
2024-12-18 cs.CR cs.DB
Privacy accounting $\varepsilon$conomics: Improving differential privacy composition via a posteriori bounds
本文提出输出差分隐私与新组合实验的后验隐私分析方法,在不削弱隐私保障的前提下优化DP组合的隐私-效用权衡,并验证了其在多种DP机制与场景中的适用性。
2023-06-19 cs.CR
Grafting Laplace and Gaussian distributions: A new noise mechanism for differential privacy
本文提出一种中心为拉普拉斯、尾部为高斯的混合噪声机制用于差分隐私,推导了其隐私保证条件,并通过仿真证明该机制能在隐私与准确性之间取得更好权衡。
2023-07-05 cs.CR cs.IT math.IT
How to Get Actual Privacy and Utility from Privacy Models: the k-Anonymity and Differential Privacy Families
Universitat Rovira i Virgili(罗维拉-伊维尔吉利大学)
本文评估主要隐私模型,指出k-匿名和差分隐私在保护与效用间的缺陷,并提出语义重构k-匿名以在不损效用下增强隐私。
2025-10-17 cs.CR cs.DB
How Private Are Commonly-Used Voting Rules?
差分隐私已被广泛应用于通过向函数输出添加随机噪声来提供隐私保证。然而,它不可避免地在许多高风险的投票场景中失败,其中投票规则需要是确定性的。在这项工作中,我们提出了回答这个问题的第一个框架:“如何私人常用的投票规则?“我们的答案是双重的。首先,我们表明,确定性投票规则提供了足够的隐私的意义上的分布式差分隐私(DDP)。我们表明,假设对抗性观察者对个人投票有不确定性,即使公布投票直方图也能实现良好的DDP。其次,我们引入了精确隐私的概念来比较各种常用的投票规则中的隐私保护,并在一个称为广义评分规则的大的投票规则子集内获得了精确DDP的二分法定理。
2021-03-23 cs.CR cs.GT
Link Inference Attack on Privacy-Preserving Knowledge Graphs
EURECOM(欧瑞康研究所)
本文提出一种针对隐私保护知识图谱的链接推断攻击,利用公开图谱的拓扑结构痕迹高精度恢复被隐藏的关系,并揭示隐私风险在不同实体和关系间的不均匀分布。
2026-10-01 cs.CR