Privacy Risks in Health Big Data: A Systematic Literature Review
本文通过系统性文献综述梳理健康大数据隐私与安全研究，分析同态加密、区块链、联邦学习和人工免疫系统等技术的保护作用，并指出挑战与未来研究框架。
2025-02-06 cs.CR
Privacy Salience: Taxonomies and Research Opportunities
隐私是物理世界中一个很好理解的概念，我们都希望从公众的视线中逃离。然而，尽管个人可能认为锁门是保护隐私，但他们很难在网上采取同样的行动。隐私显着性考虑了这一重要原则的有形性;这一原则在数字环境中往往被掩盖。通过广泛的调查研究，我们构建了第一个隐私显着性分类。在对文章进行编码并确定共性之后，我们根据其方法论、平台和潜在主题对作品进行分类。虽然网络浏览似乎经常被分析，但物联网却很少受到关注。通过我们使用的类别元组和频率矩阵，我们然后探索那些可能被忽视的研究机会。这些研究包括定向广告及其对社交网络中的显著性的影响。只有加深我们对这个重要课题的理解，我们才能更清楚地认识私隐问题。
2018-07-16 cs.CR cs.CY
Security and Privacy Issues of Big Data
本章修改了计算基础设施应如何配置和智能管理的最重要方面，以满足大数据应用程序所需的最重要的安全方面。其中之一就是隐私。这是一个需要解决的相关方面，因为用户通过他们的设备和计算机将越来越多的个人数据和内容共享到社交网络和公共云。因此，一个安全的社交网络框架是一个非常热门的研究课题。最后一个主题将在本章的两个部分之一通过案例研究加以讨论。此外，传统的支持安全的机制，如防火墙和非军事区，不适合应用于支持大数据的计算系统。SDN是一种紧急管理解决方案，可以成为在大数据系统中实现安全性的便捷机制，正如我们在本章末尾的第二个案例研究中所展示的那样。报告还讨论了目前的相关工作，并确定了未决问题。
2016-01-27 cs.CR
VFL: A Verifiable Federated Learning with Privacy-Preserving for Big Data in Industrial IoT
由于大数据强大的分析能力，深度学习在工业物联网中被广泛应用于对采集的数据进行训练。然而，对于隐私问题，传统的数据收集集中式学习并不适用于对训练集敏感的工业场景。最近，联邦学习受到了广泛的关注，因为它只依赖于梯度聚合而不访问训练集来训练模型。但已有的研究表明，共享梯度仍然保留了训练集的敏感信息。更糟糕的是，恶意聚合服务器可能返回伪造的聚合梯度。在本文中，我们提出了VFL，可验证的联邦学习与隐私保护的大数据在工业物联网。具体来说，我们使用拉格朗日插值精心设置插值点，以验证聚合梯度的正确性。与现有方案相比，VFL的验证开销保持不变，无论参与者的数量。此外，我们采用盲法技术来保护参与者提交的梯度的隐私。如果n个参与者中不超过n-2个参与者与聚合服务器勾结，则VFL可以保证其他参与者的加密梯度不被反转。实验评估证实了所提出的VFL框架具有高精度和高效率的实际性能。
2020-07-30 cs.CR
Revisiting Secure Computation Using Functional Encryption: Opportunities and Research Directions
越来越多的安全危害和隐私泄露事件引起了与网络空间有关的严重隐私问题。这种隐私问题有助于制定一些法规和法案，以限制隐私敏感数据的可用性和使用。安全计算问题最初由Andrew Yao于1986年正式提出，并被称为安全两方计算，由于其在构建许多现有的隐私保护方法中的基础作用，一直是学术界研究的焦点。现有的安全计算解决方案大多依赖于混淆电路和同态加密技术来解决安全计算问题，包括效率和安全保证。然而，在新兴的计算密集型和数据密集型应用（诸如新兴的机器学习解决方案）中采用这些安全计算方法仍然具有挑战性。最近提出的函数加密方案已经显示出其作为最近提出的隐私保护机器学习方法中的底层安全计算基础的前景。本文回顾了安全计算问题，新兴的和有前途的功能加密技术，并提出了一个全面的研究。我们首先简要总结了现有的传统安全计算方法建立在混淆电路，不经意传输，和同态加密技术。然后，我们阐述了新兴的功能加密的安全计算方法的独特性和挑战，并概述了几个研究方向。
2020-12-07 cs.CR
Open RAN Security: Challenges and Opportunities
开放式RAN（ORAN，O-RAN）代表了RAN（无线电接入网络）的一种新的行业级标准，它定义了支持供应商设备之间互操作的接口，并以较低的成本提供网络灵活性。Open RAN集成了网络软件化和人工智能的优势和进步，以增强RAN设备和操作的操作。Open RAN提供了新的可能性，使不同的利益相关者可以在这个开放的生态系统中开发RAN解决方案。然而，Open RAN的好处带来了新的安全和隐私挑战。由于Open RAN提供了与目前完全不同的RAN配置，如果管理不当，可能会导致严重的安全和隐私问题，利益相关者对Open RAN部署的安全性采取谨慎的态度是可以理解的。特别是，本文深入分析了与开放RAN架构相关的安全和隐私风险和挑战。然后，它讨论了可能的安全和隐私解决方案，以确保开放RAN架构，并提出了相关的开放RAN安全相关的安全标准化工作。最后，我们讨论了如何使用Open RAN在5G和RAN之外部署更先进的安全和隐私解决方案。
2022-12-03 cs.CR
A Survey on Blockchain for Big Data: Approaches, Opportunities, and Future Directions
在过去的几年里，大数据在各种科学和工程领域引起了强烈的兴趣。尽管有许多优点和应用，但为了更好的服务质量，大数据中存在许多有待解决的挑战，例如，大数据分析、大数据管理以及大数据隐私和安全。区块链以其去中心化和安全性的特点，具有改善大数据服务和应用的巨大潜力。在这篇文章中，我们提供了一个关于大数据区块链的全面调查，重点是最新的方法，机会和未来的方向。首先，我们简要概述了区块链和大数据以及它们集成背后的动机。接下来，我们调查了各种用于大数据的区块链服务，包括用于安全大数据采集、数据存储、数据分析和数据隐私保护的区块链。然后，我们回顾了在不同垂直领域（如智能城市，智能医疗，智能交通和智能电网）中使用区块链进行大数据应用的最新研究。为了更好地理解，还介绍和分析了一些具有代表性的区块链大数据项目。最后，挑战和未来的方向进行了讨论，以进一步推动在这个有前途的领域的研究。
2021-02-05 cs.CR cs.DC
Big Bird: Resilient Privacy Budgeting Across Untrusted Web Domains
Columbia University（哥伦比亚大学）；Meta Platforms, Inc.（Meta平台公司）；University of British Columbia（不列颠哥伦比亚大学）
Big Bird通过全局设备-时间周期差分隐私机制，解决多请求者系统中隐私预算耗尽问题，确保隐私保护与实用性的平衡。
2026-09-15 cs.CR
Position: Challenges and Opportunities for Differential Privacy in the U.S. Federal Government
Booz Allen Hamilton（博兹艾伦汉密尔顿公司）
本文从与美国政府合作的跨学科团队视角，分析差分隐私在联邦政府应用中的三大挑战，并通过两个示例展示其在多级隐私分析和涉密人员配置效率方面的机遇。
2024-10-21 cs.AI cs.CR cs.LG
Big Data Privacy in Emerging Market Fintech and Financial Services: A Research Agenda
针对新兴市场金融科技数据隐私风险，白皮书提出含格局分析、隐私定义、风险与技术方案、非技术手段、方案权衡五方向的研究议程，推动负责任的消费者导向数据应用发展。
2023-10-08 cs.CR
Federated Learning: Attacks, Defenses, Opportunities, and Challenges
本文针对联邦学习（FL）因安全隐私争议未获广泛信任的问题，全面梳理其攻击面与防御措施，发现安全问题多于隐私问题，通信瓶颈、投毒及后门攻击为主要威胁，并提出未来研究方向以推动FL落地。
2024-03-10 cs.CR
Enabling Privacy-preserving Auctions in Big Data
我们研究了如何在大数据环境中实现拍卖，以解决许多即将到来的基于数据的决策问题。我们考虑到大数据的特征，包括但不限于速度、数量、多样性和准确性，我们认为未来任何拍卖机制设计都应该考虑以下因素：1）通用性（多样性）; 2）效率和可扩展性（速度和数量）; 3）真实性和可验证性（准确性）。在本文中，我们提出了一个隐私保护结构的拍卖机制设计在大数据，防止对手学习不必要的信息，除了那些隐含在有效的拍卖输出。更具体地说，我们考虑了拍卖的最一般形式之一（处理多样性），并通过近似NP-难问题和避免基于乱码电路的设计（处理速度和体积），大大提高了效率和可扩展性，并最终防止利益相关者为了自己的利益而相互欺骗（处理真实性）。我们通过引入一种新的保护隐私的赢家确定算法和一种新的支付机制来实现这些。此外，我们进一步采用盲签名方案作为积木，让投标人验证他们的付款的真实性由拍卖人报告。通过与对等工作的比较表明，我们将对等工作开销的渐近性能从指数增长提高到线性增长，从线性增长提高到对数增长，从而大大提高了系统的可扩展性。
2015-01-21 cs.CR
Frictionless Authentication Systems: Emerging Trends, Research Challenges and Opportunities
身份验证和授权是保护各种在线系统、服务和内容的关键安全层。然而，可穿戴设备和移动设备的日益普及、对无摩擦体验的期望以及多样化的用户环境将对用户身份验证的方式提出挑战。消费者需要随时随地从任何设备进行安全和隐私感知的访问，没有任何障碍。本文回顾了无摩擦认证系统的新趋势和挑战，并确定了进一步研究的机会，涉及到用户注册，认证方案的可用性，以及移动和可穿戴连续认证系统的安全性和隐私权衡。
2018-02-20 cs.CR
Clustering based Privacy Preserving of Big Data using Fuzzification and Anonymization Operation
大数据被数据挖掘机用于分析目的，其中可能包含敏感信息。在这个过程中，它给研究人员带来了一些隐私方面的挑战。现有的隐私保护方法在保护敏感数据的同时，由于算法的不同，导致数据重构的局限性。提出了一种基于聚类的大数据隐私保护概率模型，用于保护敏感信息。模型，以达到最小的干扰和最大的隐私。在我们的模型中，敏感信息是安全的后，确定敏感数据从数据集群修改或推广它。得到的数据集进行分析，以计算我们的模型的准确性水平方面的隐藏数据，丢失的数据作为重建的结果。进行了大量的实验，以证明我们提出的模型的结果。基于聚类的大数据中个体数据的隐私保护具有最小的扰动和成功的重建，除了使用标准的性能评估措施外，还突出了我们模型的重要性。
2020-01-06 cs.CR cs.DB
Efficient privacy preservation of big data for accurate data mining
计算技术遍布物理空间和人类生活，并产生大量可供分析的数据。然而，人们越来越担心，如果收集到的数据在被发布用于调查之前没有适当地清理，潜在的敏感数据可能会被公开。虽然有几个以上的隐私保护方法可用，但它们不是有效的，可扩展的，或者在数据实用性和/或隐私方面存在问题。本文针对这些问题，提出了一种有效的和可扩展的不可逆扰动算法，PABIDOT，通过最佳几何变换的大数据的隐私保护。PABIDOT使用9个数据集和5个分类算法测试了效率、可扩展性、抵抗力和准确性。实验结果表明，与其他两种相关的隐私保护算法相比，PABIDOT算法在执行速度、可扩展性、抗攻击性和大规模隐私保护数据分类准确性等方面都有明显的优势。
2019-06-19 cs.CR cs.DB
Program Analysis of Commodity IoT Applications for Security and Privacy: Challenges and Opportunities
物联网（IoT）的最新进展已经实现了诸如灵巧家庭、个人监控设备和增强型制造的无数领域。物联网现在已经无处不在--几乎在每一个可以想象的环境中都在使用新的应用程序，这导致了基于设备的交互和自动化的采用。然而，物联网也提出了有关这些数字增强空间的安全性和隐私性的问题。程序分析在识别这些问题方面至关重要，但物联网中程序分析的应用和范围在很大程度上尚未被技术社区探索。在本文中，我们研究了物联网中需要程序分析技术的隐私和安全问题，重点是迄今为止针对这些系统的已识别攻击和防御措施。基于对五个物联网编程平台的研究，我们确定了程序分析和安全社区研究工作的关键见解，并将程序分析技术的有效性与安全和隐私问题联系起来。最后，我们研究了最近的物联网分析系统，并探索了它们的实现。通过这些探索，我们强调了在校准物联网系统使用环境方面的关键挑战和机遇。
2018-12-24 cs.CR cs.PL
Protecting Big Data Privacy Using Randomized Tensor Network Decomposition and Dispersed Tensor Computation
Nanyang Technological University（南洋理工大学）；RIKEN（理化学研究所）；Singapore Management University（新加坡管理大学）；University of Southern California（南加州大学）
数据隐私是组织和企业在云/雾上安全地外包数据存储，共享和计算的重要问题。然而，数据加密在密钥管理和分发方面是复杂的;现有的安全计算技术在计算/通信成本方面是昂贵的，因此不能扩展到大数据计算。张量网络分解和分布式张量计算在信号处理和机器学习中被广泛用于降维和大规模优化。然而，分布式张量网络在大数据隐私保护方面的潜力还没有被考虑过，这激发了目前的研究。我们的主要直觉是，张量网络表示在数学上是不唯一的，不可解释的，无法解释的;张量网络表示自然支持压缩和分布式/分散计算的一系列多线性运算。因此，我们提出了随机算法来将大数据分解成随机张量网络表示，并分析了1D到3D数据张量的隐私泄漏。随机性主要来自大数据中常见的复杂结构信息;随机化是基于在分解之前应用于张量块的受控扰动。分布式张量表示分散在具有元数据隐私的多个云/雾或服务器/设备上，这提供了分布式信任和管理，以无缝地保护大数据存储，通信，共享和计算。实验结果表明，所提出的随机化技术有助于大数据的匿名化，提高了大数据存储和计算的效率。
2021-01-04 cs.CR cs.CV
Privacy-Preserving Clustering of Unstructured Big Data for Cloud-Based Enterprise Search Solutions
基于云的企业搜索服务（例如，Amazon Kendra）通过在企业大数据集上为他们提供方便的搜索解决方案来吸引大数据所有者。然而，由于对数据隐私的合理担忧，处理机密大数据（例如，凭证文件）的个人和企业不愿意完全接受此类服务。已经探索了基于客户端加密的解决方案，以减轻隐私问题。尽管如此，这种解决方案阻碍了数据处理，特别是聚类，这在处理不同形式的大数据时至关重要。例如，聚类对于限制搜索空间和在大数据集上执行实时搜索操作至关重要。为了克服加密大数据聚类中的障碍，我们提出了三种形式的非结构化加密大数据集，即静态，半动态和动态数据集的隐私保护聚类方案。为了保护数据隐私，所提出的聚类方案基于数据的统计特征来起作用，并确定（A）合适的聚类数量和（B）每个聚类的适当内容。从评估的聚类方案在三个不同的数据集上获得的实验结果表明，与其他加密数据的聚类方案相比，聚类的一致性提高了30%至60%。在隐私保护的企业搜索系统中使用聚类方案，搜索时间减少了78%，而搜索准确率提高了35%。
2022-06-09 cs.CR cs.DB cs.DC
Huff-DP: Huffman Coding based Differential Privacy Mechanism for Real-Time Data
随着连接设备的进步，正在生成大量的实时的【形】数据。实时的【形】大数据的有效存储、传输和分析非常重要，因为它可以用于从决策到故障预测等多种目的。除此之外，实时的【形】大数据具有严格的实用性和隐私要求，因此，精心选择处理策略也非常重要。以无损压缩的形式存储和传输数据的最佳方式之一是霍夫曼编码，其将数据压缩成可变长度的二进制流。同样，为了保护此类大数据的隐私，如今也在使用差分隐私，基于隐私预算和敏感度对数据进行扰动。然而，传统的差分隐私机制提供隐私保证。然而，另一方面，实时的【形】数据不能作为一组普通的记录来处理，因为它通常具有某些潜在的模式和周期，这些模式和周期可以用于形成到特定个人私人信息的链接，这可能导致严重的隐私泄露（例如，分析智能计量数据可以对个人日常生活进行分类）。因此，开发一个隐私保护模型同样重要，该模型可以根据数据中的事件和模式来保护隐私。在本文中，我们设计了一种新的Huff-DP机制，它选择的隐私预算的基础上的隐私要求的特定记录。为了进一步提高预算的确定，我们提出了静态，正弦，和模糊逻辑为基础的决策算法。从实验评估，可以得出结论，我们提出的Huff-DP机制提供了有效的隐私保护，同时减少隐私预算的计算成本。
2023-01-25 cs.CR
Generative Models for Security: Attacks, Defenses, and Opportunities
生成模型从样本数据集中学习数据的分布，然后可以生成新的数据实例。深度学习的最新进展带来了生成模型架构的改进，一些最先进的模型可以（在某些情况下）产生足够逼真的输出来愚弄人类。我们调查了最近在安全和隐私以及生成模型的交叉点上的研究。特别是，我们讨论了生成模型在对抗性机器学习中的使用，帮助自动化或增强现有的攻击，以及在入侵检测，生物识别欺骗和恶意软件混淆等背景下作为防御的构建模块。我们还描述了生成模型在不同应用中的使用，例如机器学习中的公平性、隐私保护数据合成和隐写术。最后，我们讨论了生成模型带来的新威胁：合成媒体的创建，如可用于虚假信息的deepfakes。
2021-07-29 cs.CR
An Efficient and Scalable Privacy Preserving Algorithm for Big Data and Data Streams
由于智能网络物理系统的进步，产生了大量有价值的数据，并可用于分析。这些数据来自各种来源，例如医疗保健、灵巧家庭、智能车辆，并且通常包括私人的、潜在的敏感信息，这些信息在被发布用于分析之前需要适当的清理。这些系统中数据生成的增量和快速性质需要具有高隐私性和实用性的可扩展隐私保护机制。然而，隐私保护往往以牺牲数据效用为代价。基于Chebyshev插值和Laplacian噪声，提出了一种新的数据扰动算法SEAL（Secure and Efficient data disturbance Algorithm utilizing Local差分隐私），该算法在隐私性和实用性之间取得了很好的平衡，具有较高的效率和可扩展性。与现有的隐私保护算法的实验比较表明，SEAL在执行速度，可扩展性，准确性和抗攻击性方面表现出色。SEAL提供了选择最佳隐私参数的灵活性，例如添加的噪声量，可以根据域和数据集进行定制。
2019-07-31 cs.CR cs.DB
Relations among different privacy notions
我们提出了几个隐私概念之间的关系：差分隐私（DP）[1]，贝叶斯差分隐私（BDP）[2]，语义隐私（SP）[3]，成员隐私（MP）[4]的综合视图。结果分为两部分。在第一部分中，我们将语义隐私（SP）的概念扩展到贝叶斯语义隐私（BSP），并证明了它与贝叶斯差分隐私（BDP）在定量意义上的本质等价性。本文证明了BDP、BSP和SP之间的关系：$ε$ $\big(\frac{1}{2}-\frac{1}{e^ε+1}\big)$ -BSP，$ε$-BDP $\Longrightarrow$ $(e^{2ε}-1)$ -BSP $\Longrightarrow$ $(e^{2ε}-1)$ -SP.另外，我们还得到了一个次要结果$ε$ $\Longleftarrow$ $\big(\frac{1}{2}-\frac{1}{e^ε+1}\big)$ -SP，它改进了Kasiviswanathan和Smith [3]关于$ε$ $\Longleftarrow$ $ε/6$ -SP.第二部分，建立了BDP与MP的关系。首先，$ε$ -BDP $\Longrightarrow$ $ε$ -MP。其次，对于Li等人[4]意义上的向下可扩展的分布族，表明$ε$ -BDP $\Longleftarrow$ $ε$ -MP。
2019-11-02 cs.CR cs.CY
HySec-Flow: Privacy-Preserving Genomic Computing with SGX-based Big-Data Analytics Framework
可信执行环境（TEE）（如英特尔的软件防护扩展（SGX））已被广泛研究，以提高敏感数据（如人类基因组学）计算的安全性和隐私保护。然而，SGX通常会产生性能障碍，特别是来自小型安全区内存的性能障碍。在本文中，我们提出了一种新的混合安全流框架（称为“HySec-Flow”），用于使用SGX平台进行大规模基因组数据分析。在这里，数据密集型计算任务可以被划分为独立的子任务，以部署到不同的安全和非安全容器中，因此允许并行执行，同时减轻每个飞地中页面缓存（EPC）内存的有限大小。我们使用支持索引、对齐、分派和合并启用SGX的容器的执行的工作流来说明我们的贡献。我们提供了有关可信和不可信组件的架构以及底层Scorn和Graphene支持的详细信息，作为通用屏蔽执行框架来移植遗留代码。我们彻底评估我们的隐私保护读取映射算法使用真实的人类基因组测序数据的性能。结果表明，通过将耗时的基因组计算划分为子任务，与传统的在飞地中执行数据密集型读取映射算法相比，性能得到了增强。所提出的HySec-Flow框架作为开源提供，并适用于需要安全性和可扩展计算资源的其他大规模基因组任务的数据并行计算。
2021-07-26 cs.CR
Enhancing Privacy via Hierarchical Federated Learning
联邦学习存在几个与隐私相关的问题，这些问题使参与者面临各种威胁。这些问题中的许多问题因联邦学习的集中式架构而加剧。在本文中，我们讨论了将联邦学习应用于分层体系结构作为一种潜在的解决方案。我们介绍的机会，更灵活的分散控制的培训过程及其对参与者的隐私的影响。此外，我们调查的可能性，以提高效率和有效性的防御和验证方法。
2020-04-23 cs.CR
Hierarchical fuzzy neural networks with privacy preservation for heterogeneous big data
异构大数据给机器学习带来了许多挑战。其巨大的规模、高维度和固有的不确定性使得机器学习的几乎每个方面都很困难，从提供足够的处理能力到保持模型的准确性，再到保护隐私。然而，也许最令人担忧的问题是，大数据往往夹杂着敏感的个人数据。因此，我们提出了一个隐私保护层次模糊神经网络（PP-HFNN），以解决这些技术挑战，同时也减轻隐私问题。该网络的训练与两阶段的优化算法，并在层次结构的低级别的参数学习与计划的基础上，众所周知的交替方向的乘法器，它不会透露本地数据给其他代理。层次结构的高层协调由交替优化方法处理，该方法收敛非常快。整个训练过程是可扩展的，快速的，并且不会像基于反向传播的方法那样遭受梯度消失问题。在回归和分类任务上进行的综合仿真证明了所提出的模型的有效性。
2022-09-18 cs.AI cs.CR cs.LG
IEEE Big Data Cup 2022: Privacy Preserving Matching of Encrypted Images with Deep Learning
部署在智慧城市中的智能传感器、设备和系统为公民带来了更好的人身保护。通过这些技术进行运动检测、威胁和行为者分析以及实时警报，加强了犯罪预防、消防和生命安全保护。然而，在这些日益普遍的部署中，一个重要的要求是保护隐私和强制保护个人身份信息。因此，应将强加密和匿名化技术应用于收集的数据。在IEEE Big Data Cup 2022挑战赛中，不同的掩码、编码和同态加密技术被应用于图像，以保护其内容的隐私。参与者需要开发检测解决方案，以执行这些图像的隐私保护匹配。在本文中，我们描述了我们的解决方案，该解决方案基于最先进的深度卷积神经网络和各种数据增强技术。我们的解决方案在IEEE大数据杯2022：加密图像隐私保护匹配挑战赛中获得第一名。
2022-11-18 cs.AI cs.CR cs.CV
Local Differential Privacy: a tutorial
在过去的十年中，大数据分析在许多情况下都被证明是非常有价值的。本地差分隐私（LDP）是一种最先进的方法，它允许统计计算，同时保护每个单独用户的隐私。与差分隐私不同，不需要信任中央机构，因为噪声被本地添加到用户输入。在本文中，我们给出了一个概述不同的LDP算法的问题，如本地私人重打击识别和空间数据汇集。最后，对自民党存在的问题进行了展望.
2019-07-27 cs.CR
ClustCrypt: Privacy-Preserving Clustering of Unstructured Big Data in the Cloud
存储在云中的大数据的安全性和机密性是许多组织采用云服务的重要考虑因素。解决这些问题的一种常见方法是客户端加密，其中数据在存储到云中之前在客户端机器上加密。然而，在云中加密数据限制了数据聚类的能力，这是许多数据分析应用程序（如搜索系统）的关键部分。为了克服这一局限性，本文提出了一种名为ClustCrypt的方法，用于在云中对加密的非结构化大数据进行基于主题的高效聚类。ClustCrypt根据加密数据的统计特征动态估计最佳簇数。它还提供了加密数据的聚类方法。我们在一个安全的基于云的语义搜索系统（S3BD）的上下文中部署ClustCrypt。在三个数据集上评估ClustCrypt的实验结果表明，集群的一致性平均提高了60%。ClustCrypt还将搜索时间开销减少了78%，并将搜索结果的准确性提高了35%。
2019-08-14 cs.CR cs.DC
Security and Privacy for Artificial Intelligence: Opportunities and Challenges
The Cyber Security Cooperative Research Centre (CSCRC)（网络安全合作研究中心（CSCRC））；Penn State（宾夕法尼亚州立大学）；RMIT University（皇家墨尔本理工大学）；The University of Technology Sydney（悉尼科技大学）
人工智能（AI）的日益普及为解决许多社会经济和环境挑战提供了机会;然而，如果不确保AI支持的技术，这就无法实现。近年来，大多数人工智能模型都容易受到先进和复杂的黑客技术的攻击。这一挑战激发了对抗性人工智能的协同研究，目的是开发强大的机器和深度学习模型，这些模型可以适应不同类型的对抗性场景。在本文中，我们提出了一个整体的网络安全审查，展示了对人工智能应用程序的对抗攻击，包括对抗知识和能力，以及生成对抗示例的现有方法和现有的网络防御模型等方面。我们解释了数学AI模型，特别是强化和联邦学习的新变体，以演示攻击向量如何利用AI模型的漏洞。我们还提出了一个系统框架，用于演示针对AI应用程序的攻击技术，并审查了几种保护AI应用程序免受这些攻击的网络防御。我们还强调了了解对抗性目标及其能力的重要性，特别是最近针对行业应用程序的攻击，以开发评估安全AI应用程序的自适应防御。最后，我们描述了人工智能技术的安全和隐私领域的主要挑战和未来的研究方向。
2021-02-09 cs.AI cs.CR
Privacy with Good Taste: A Case Study in Quantifying Privacy Risks in Genetic Scores
基因数据分析为医学和科学进步提供了许多机会。使用表型信息和多基因风险评分来分析遗传数据是普遍的。大多数关于遗传隐私的工作都集中在基本的遗传数据上，如SNP值和特定的基因型。在本文中，我们介绍了一种新的方法来量化和防止隐私风险，专注于多基因分数和表型信息。我们的方法是基于工具支持的隐私风险分析方法Privug。我们展示了使用Privug来评估隐私风险所带来的披露多基因性状得分苦味受体，编码的TAS 2 R38和TAS 2 R16，一个人的隐私方面，他们的种族。我们提供了一个广泛的隐私风险分析的不同程序的遗传数据披露：品尝表型，品尝多基因得分，和多基因得分与噪声失真。最后，我们讨论了隐私/效用权衡的多基因得分。
2022-08-26 cs.CR
A Synergistic Approach to Digital Privacy
本文概述了IEEE领导数字隐私的方法，以调整现有的许多IEEE协会和努力领域的计算机系统和应用程序安全，组织和全球架构，政策支持立法，制定新的标准，将合规性融入技术，并帮助设计决策委员会的基础设施管理机构。目前对隐私技术发展的重点主要集中在大型企业和机构，导致该行业主要支持企业资产保护。培育技术以增强个人隐私保护工具的能力已经落后，个人隐私已经减少，因为企业大数据应用程序已经在利用私人数据方面进行了大量投资。作为最大的以个人成员为基础的组织之一，IEEE被敦促开发一种利用隐私使能技术的数字隐私协作方法，以使其成员受益。概述的建议定义了一个可能导致未来全球个性化隐私功能的前景，这些功能采用协同技术的组合，如分布式账本，差分隐私，同态加密，安全分布式多方计算，零信任架构，数据来源证明，软件或其他技术。这样的努力将涉及社区参与和推广，学术同行评审活动，建立治理机构，协调和扩展现有标准，以及开发公众可访问的原型。与其他IEEE赞助的交易能源系统、医疗记录和设备的保密性和安全性以及其他IEEE资助的项目合作，将有助于扩大在这些新兴技术应用中已经在进行的数字隐私投资。
2021-03-27 cs.CR
S3BD: Secure Semantic Search over Encrypted Big Data in the Cloud
云存储是一种广泛用于个人和企业需求的服务。然而，尽管其优点，许多潜在的用户与大量的敏感数据（大数据）避免充分利用云存储服务，由于对数据隐私的有效关注。云数据隐私问题的一个既定解决方案是在客户端执行加密。然而，这种方法限制了数据处理能力（例如，搜索数据）。因此，我们研究的研究问题是如何在云中对加密的大数据进行实时搜索。特别地，语义搜索对于处理大数据的客户是感兴趣的。为了解决这个问题，在这项研究中，我们开发了一个系统（称为S3BD），用于使用云服务搜索大数据，而不会将任何数据暴露给云提供商。为了保持对大数据的实时响应，S3BD主动将搜索空间修剪为整个数据集的子集。为此，我们提出了一种方法来聚类的加密数据。在客户端上维护每个聚类的摘要，以在搜索时将搜索操作导航到适当的聚类。在真实世界的大数据集上进行的实验结果表明，搜索操作可以实时实现，并且比其他同行更有效。此外，S3BD的一个功能齐全的原型是公开的。
2018-09-21 cs.CR
IPv6 Prefix Alteration: An Opportunity to Improve Online Privacy
本文主要研究IPv6地址前缀部分的隐私问题。长寿命前缀可能会为通信伙伴和第三方引入额外的跟踪机会。我们概述了一些前缀更改计划，可以部署，以保持用户的活动的不可链接性。虽然没有一个计划将解决所有的隐私问题在互联网上的自己，我们认为，实际的前缀更改技术的发展构成了一个明智的途径追求：他们将允许互联网服务提供商增加可达到的隐私水平远高于现状，在今天的IPv4网络。
2012-11-20 cs.CR
Privacy-Preserving Identity and Access Management in Multiple Cloud Environments: Models, Issues, and Solutions
本文聚焦多云环境下隐私保护的身份与访问管理，梳理现有模型与问题，并提出创新分类法以支撑未来解决方案。
2024-12-29 cs.CR
SoK: Privacy Preserving Machine Learning using Functional Encryption: Opportunities and Challenges
Georgia State University（佐治亚州立大学）
本文系统化梳理基于功能加密的隐私保护机器学习研究，重点分析内积 FE 与二次 FE 模型及相关库的性能、可用性和未来方向。
2022-09-02 cs.CR cs.LG
Secondary Use of Electronic Health Record: Opportunities and Challenges
在当今的技术时代，医疗保健提供者每天都会产生大量的临床数据。生成的临床数据以电子健康记录（EHR）的形式数字化存储，作为医院的中央数据存储库。电子健康记录所载的数据，不单用于病人的基层医疗服务，亦会用作多项次要用途，例如临床研究、自动化疾病监察及临床审核，以提高服务质素。在未经同意的情况下将EHR数据用于次要目的，或者在某些情况下甚至在同意的情况下使用EHR数据，会给个人带来隐私问题。其次，EHR数据也可以通过有线或无线网络访问各种利益相关者，包括不同地理位置的不同政府机构。在多个机构之间共享EHR使其容易受到网络攻击，也使其难以实施严格的隐私法，因为在某些情况下，数据与受特定区域法律管辖的组织共享。当EHR中包含的个人敏感私人信息被泄露或暴露给公众时，个人隐私可能会受到严重影响。数据泄露可能会导致经济损失，或者如果个人的医疗状况被公开，个人可能会遭到社会抵制。为了保护患者的个人数据免受此类威胁，存在不同的隐私法规，如GDPR，HIPAA和MHR。然而，机器学习、数据分析和黑客技术的不断发展，使得完全保护个人/患者的隐私变得更加困难。在这篇文章中，我们系统地研究了EHR的各种次要用途，旨在突出这些次要用途如何影响患者的隐私。其次，我们批判性地分析了GDPR，并强调了可能的改进领域，考虑了技术的升级使用和EHR的不同二次使用。
2020-01-26 cs.CR cs.CY
Federated Learning Meets Blockchain in Edge Computing: Opportunities and Challenges
移动边缘计算（MEC）被认为是一种有前途的范例，可以处理无处不在的移动设备生成的大量数据，以便在人工智能（AI）的帮助下实现智能服务。传统上，人工智能技术通常需要在单个实体中进行集中式数据汇集和训练，例如，MEC服务器，由于数据隐私问题和高数据通信开销，MEC服务器现在正成为一个弱点。在这种情况下，联邦学习（FL）已经被提出来提供协作数据训练解决方案，通过协调多个移动设备来训练共享的AI模型，而不暴露它们的数据，这享有相当大的隐私增强。为了提高FL实施的安全性和可扩展性，区块链作为一种分类账技术对于实现分散式FL培训而无需任何中央服务器是有吸引力的。特别是，FL和区块链的集成导致了一种新的范式，称为FLchain，它可能将智能MEC网络转变为分散的，安全的和隐私增强的系统。本文概述了基本概念，并探讨了FLchain在MEC网络中的机会。我们确定了FLchain设计中的几个主要问题，包括通信成本，资源分配，激励机制，安全和隐私保护。最后介绍了物流链设计的关键技术，并对物流链设计的发展前景进行了展望。然后，我们研究了FLchain在流行MEC领域的应用，如边缘数据共享，边缘内容缓存和边缘crowdsensing。最后，还强调了重要的研究挑战和未来的方向。
2021-04-05 cs.CR eess.SP
End-to-End Privacy for Open Big Data Markets
开放数据市场的概念设想创建一个数据交易模型，以促进物联网（IoT）领域中各方之间的数据交换。物联网产品和解决方案收集的数据预计将在这些市场上交易。数据所有者将使用物联网产品和解决方案收集数据。感兴趣的数据消费者将与数据所有者协商以访问此类数据。物联网产品捕获的数据将使数据消费者能够进一步了解数据所有者的偏好和行为，并使用从减少浪费到个性化服务产品等不同技术产生额外的商业价值。在开放的数据市场中，数据消费者将能够将产生的部分额外价值回馈给数据所有者。然而，当可用于获取极其个人信息的数据被交易时，隐私就成为一个重要问题。本文讨论了为什么隐私在物联网领域，特别是在开放数据市场中很重要，并调查了现有的隐私保护策略和设计技术，可用于促进开放数据市场的端到端隐私。我们还强调了一些需要解决的主要研究挑战，以便通过确保利益相关者的隐私来实现开放数据市场的愿景。
2015-10-23 cs.CR cs.CY cs.NI
Differentially Private Query Learning: from Data Publishing to Model Publishing
随着大数据和云数据共享的发展，隐私保护数据发布成为近十年来最重要的研究课题之一。差分隐私作为最有影响力的隐私定义之一，为数据发布提供了严格的、可证明的隐私保障。不同的私有交互发布在许多应用中实现了良好的性能;然而，在大数据时代，策展人必须批量发布大量查询或合成数据集。为了在差分隐私的约束下提供准确的非交互式发布结果，需要解决两个挑战：一个是如何降低大查询集之间的相关性，另一个是如何预测新的查询。传统的差分隐私机制难以解决这两个问题。本文将数据发布问题转化为机器学习问题，将查询视为训练样本，发布的是预测模型，而不是查询结果或合成数据集。当模型发布时，它可以用来回答当前提交的查询，并预测来自公众的新查询的结果。与传统方法相比，该预测模型提高了非交互式出版查询结果的准确性。实验结果表明，该方案在大规模查询集上的平均绝对值方面优于传统的差分隐私。这也表明学习模型可以成功地保留已发布查询的实用性，同时保护隐私。
2017-10-13 cs.CR
Privacy-Preserved Big Data Analysis Based on Asymmetric Imputation Kernels and Multiside Similarities
School of Information Technology, Monash University（莫纳什大学信息技术学院）
本文提出了一种有效的不完全数据分类方法，其中样本的条目由于隐私保护而丢失或被掩盖。为了处理这些不完全的数据，一个新的核函数与非对称的内在映射的建议。这种新的核使用三边相似性来形成核矩阵。测试实例和训练样本之间的相似性不仅依赖于它们之间的距离，而且依赖于测试样本和训练样本所属的类的质心之间的关系。这减少了有偏估计相比，典型的方法，当只有一个训练样本用于核矩阵的形成。此外，质心生成不涉及任何聚类算法。建议的内核是能够通过使用类相关的平均值进行数据填补。这增强了Fisher判别比和数据的可辨别性。在两个开放数据库上进行了实验，以评估所提出的方法。结果表明，该方法的精度高于基线。这些研究结果证明了拟议构想的有效性。
2016-11-21 cs.CR cs.LG
Privacy-Preserving Data Sharing in Agriculture: Enforcing Policy Rules for Secure and Confidential Data Synthesis
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Texas A&M University - Central Texas（德克萨斯农工大学中德克萨斯分校）
针对农业数据共享的隐私合规缺口，本研究提出一种可强制执行隐私政策规则的新型框架，通过提取农业行为准则中的隐私约束定义生成模型隐私边界，生成兼具实用性与安全性的农业合成数据。
2023-11-27 cs.AI cs.CR cs.LG
Overlook: Differentially Private Exploratory Visualization for Big Data
提供差分隐私的数据探索系统必须管理隐私预算，以衡量跨多个查询丢失的隐私量。管理隐私预算的一个有效策略是计算数据的一次性私有概要，用户可以对其进行无限次的查询。然而，使用概要的现有系统是为离线用例构建的，其中一组查询是提前已知的，并且系统仔细地为其优化概要。这些系统构建的概要计算成本高，并且存储成本也高。我们介绍了Overlook，这是一个系统，可以在交互式平台上为数据分析师和数据管理员提供私人数据探索。Overlook的关键思想是一个虚拟的概要，可以增量评估，而无需额外的空间存储或昂贵的预先计算。Overlook只是使用现有引擎（如SQL DBMS）执行查询，并在结果中添加噪声。由于Overlook的概要不需要昂贵的预先计算或存储，数据管理员还可以使用Overlook交互式地探索隐私参数的影响。Overlook提供了一个基于开源Hillview系统的丰富的可视化查询界面。Overlook实现了与现有基于概要的系统相当的准确性，同时提供了更好的性能并消除了对额外存储的需求。
2020-06-22 cs.CR cs.DB
Next-Generation Big Data Federation Access Control: A Reference Model
本文讨论了下一代大数据（BD）联合平台最重要的挑战之一，即Hadoop访问控制。联盟规模的隐私和安全仍然是从业者的重大关切。Hadoop当前的原始访问控制存在安全问题和限制，例如部署的复杂性和资源消耗。然而，这一主要问题尚未成为文献中深入研究的主题。本文批判性地回顾和研究了这些安全限制，并提供了一个称为BD联邦访问代理的框架来解决8个主要的安全限制。本文提出了联邦访问控制参考模型（FACRM），正式的Apache Hadoop堆栈内的安全BD解决方案的设计。此外，本文还讨论了访问代理的实现及其对安全漏洞检测和数字取证调查的有用性。所提出的访问代理的效率并没有持续地影响性能开销。实验结果表明，在一个WebHDFS中，每100 MB的读/写操作只有1%。总的来说，本文的研究结果为Hadoop堆栈安全性和隐私性的广泛革命性和最先进的增强以及未来趋势铺平了道路。
2019-12-25 cs.CR
A Statistical Overview on Data Privacy
随着大量和各种数据的收集和处理的增加，大数据的爆发导致了科学，工程，医学，商业，刑事司法和国家安全方面的突破性发现和创新，这在过去是不可能的。虽然收集和使用大数据有很多好处，但公众对收集哪些个人信息以及如何使用这些信息的担忧也越来越多。除了法律政策和条例外，还存在促进和保护个人隐私的技术工具和统计战略，同时发布和分享有用的人口信息。在这篇综述中，我介绍了其中的一些方法，以及统计数据隐私研究和应用中存在的挑战和机遇，以更好地满足隐私保护和信息共享的实际需求。
2020-07-01 cs.CR stat.OT
Privacy in Foundation Models: A Conceptual Framework for System Design
针对基础模型隐私评估的技术与非技术范围无共识、适配方法不明确的问题，本文提出整合多视角负责任AI模式的新概念框架以保障隐私。
2024-12-10 cs.CR
Truth in Motion: The Unprecedented Risks and Opportunities of Extended Reality Motion Data
本文聚焦扩展现实与元宇宙核心的运动追踪遥测数据，指出其虽常被视为无害，但实际可用于用户画像与去匿名化，会给元宇宙的安全隐私带来重大威胁。
2023-06-10 cs.CR cs.HC
A Codon Frequency Obfuscation Heuristic for Raw Genomic Data Privacy
基因组数据为临床研究人员提供了研究各种患者疾病的巨大机会。然而，同样的数据包含揭示信息，其中一些患者可能希望保持隐藏。于是问题就出现了：一个实体如何处理完整的DNA数据，同时隐藏基因组序列中的某些敏感信息，并保持DNA数据的效用？作为对这个问题的回答，我们提出了一个密码子频率混淆启发式，其中在相同的氨基酸组中完成具有高表达基因的密码子频率值的重新分配，生成混淆的DNA序列。我们的初步结果表明，它可能会发布一个混淆的DNA序列与原始DNA序列的相似性（效用）的期望水平。
2014-10-12 cs.CR
Privacy Technologies for Financial Intelligence
School of Information Technology, Deakin University（迪肯大学信息技术学院）；Data61, CSIRO（CSIRO数据61）；School of Computing, Australian National University（澳大利亚国立大学计算机学院）
本文探讨了隐私技术在金融犯罪检测中的应用，旨在提升金融智能领域的检测能力。
2026-02-15 cs.CR
Large Language Models and Social Media Information Integrity: Opportunities, Challenges, and Research Directions
Missouri University of Science and Technology（密苏里科技大学）；University of South Florida（南佛罗里达大学）；George Mason University（乔治梅森大学）
本综述分析LLMs对社交媒体信息完整性的双重影响，指出其可增强恶意内容检测能力但也会生成欺骗性内容，提出跨语言检测等研究方向以利用LLMs并降低风险。
2026-08-06 cs.CR
Privacy, Security and Trust in the Internet of Neurons
阿帕网，互联网，服务互联网，物联网，技能互联网。接下来呢？我们推测，从现在起的15-20年内，我们将拥有神经元互联网，这是一种新的互联网范式，人类将能够仅使用大脑双向连接到网络。神经元的互联网将提供新的，巨大的机会，由于不断访问无限的信息。它将赋予所有技术行业之外的人权力，实际上它将赋予所有人权力，让每个人都能够访问和使用技术产品和服务，即使没有笔记本电脑，平板电脑或智能手机。因此，神经元互联网将最终完成目前尚不成熟的知识和技术民主化。但它也将带来一些巨大的挑战，特别是在安全性（以及隐私和信任）方面。在本文中，我们推测到2038年神经元互联网的全球部署，并就其破坏性影响进行头脑风暴，讨论实现它所需的主要技术（和神经学）突破，它提供的新机遇以及它提出的安全挑战。我们还详细介绍了新的系统模型，威胁模型和安全属性，需要在互联网的神经元的隐私，安全和信任的原因。
2018-07-11 cs.CR cs.CY
Privacy-Preserving Synthetic Educational Data Generation
Inria Saclay（法国国家信息与自动化研究所萨克莱分院）
机构收集大量的学习痕迹，但出于隐私问题，它们可能不会披露。合成数据的产生为教育研究开辟了新的机会。在本文中，我们提出了一个生成模型的教育数据，可以保护参与者的隐私，并比较合成数据发电机的评估框架。我们将展示如何天真的匿名化可以导致重新识别的威胁，并建议技术，以保证隐私。我们评估我们的方法对现有的大量教育开放数据集。
2022-07-07 cs.AI cs.CR cs.CY
Privacy-Assured Outsourcing of Compressed Sensing Reconstruction Service in Cloud
压缩感知技术突破了Shannon-Nyquist采样定理的限制，是多媒体大数据时代非常有前途的数据采集技术。然而，CS重建算法的高复杂度对于难以提供强大计算能力的终端用户来说是一个很大的麻烦。CS和云的结合有可能通过巧妙地将计算工作负载从本地客户端转换到云平台，从而将最终用户从资源约束中解放出来。因此，CS的低复杂度编码优点在资源受限的传感设备中得到充分利用，但其高复杂度解码问题在云中得到有效解决。它看起来很完美，但隐私和安全问题被忽视了。提出了一种CS重建服务的安全外包方案。实验结果和安全性分析表明，该方案能有效地限制恶意访问，验证恢复数据的完整性，并能抵抗蛮干攻击、纯密文攻击和明文攻击。
2021-03-28 cs.CR eess.SP
Distributed Clustering in the Anonymized Space with Local Differential Privacy
对收集的数据进行聚类和分析可以改善大数据、物联网应用中的用户体验和服务质量。然而，直接发布原始数据带来了潜在的隐私问题，这为隐私保护聚类带来了挑战和机遇。本文在局部差分隐私框架下研究了分布式环境下的非交互式聚类问题。我们首先扩展了位向量，一种新的匿名化机制是功能性和隐私保护。基于改进的编码机制，我们提出了kCluster算法，可用于聚类的匿名空间。我们表明，修改后的编码机制可以很容易地实现在现有的聚类算法，只依赖于距离信息，如DBSCAN。理论分析和实验结果验证了所提方案的有效性。
2019-06-27 cs.CR cs.DB
Differential Privacy of Quantum and Quantum-Inspired Classical Recommendation Algorithms
Key Laboratory of System Software, CAS（系统软件重点实验室，中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）；Centre for Quantum Software and Information（量子软件与信息中心）；University of Technology Sydney（悉尼大学）
本文研究了量子和受量子启发的经典推荐算法的差分隐私特性，证明了在特定条件下无需额外噪声即可实现隐私保护，并通过实验验证了其有效性。
2026-02-26 cs.CR cs.ET cs.LG
