Removing Speech, Keeping Activities: Speech Removal for Privacy-Preserving Acoustic Sensing in Assisted Living
KIOS Research and Innovation Center of Excellence, University of Cyprus(塞浦路斯大学KIOS卓越研究与创新中心);School of Computing, University of Kent(肯特大学计算机学院)
该研究提出基于U-Net编解码器的隐私防火墙流水线,可去除环境音频中的语音并保留活动相关环境音,在ESC-50、SINS及真实家庭录音上验证了其隐私保护与活动识别性能,解决老年护理声学感知的隐私障碍。
2026-11-03 cs.CR cs.HC cs.SD
Securing Generative AI Agentic Workflows: Risks, Mitigation, and a Proposed Firewall Architecture
本文针对生成式AI智能体工作流的安全风险,提出集成多种安全服务并利用GenAI增强防御的防火墙架构,以保障系统安全部署。
2025-06-10 cs.CR
Deciphering the Interplay between Attack and Protection Complexity in Privacy-Preserving Federated Learning
Huazhong University of Science(华中科技大学);The Hong Kong Polytechnic University, China(香港理工大学)
本文提出理论框架,通过定义攻击复杂度和保护复杂度并推导其界限,定量揭示隐私保护联邦学习中隐私、效用与攻防代价之间的权衡。
2025-08-16 cs.AI cs.CR
User Behavior Analysis in Privacy Protection with Large Language Models: A Study on Privacy Preferences with Limited Data
University of Houston(休斯顿大学);Brown University(布朗大学);University of Miami(迈阿密大学);Nagoya University(名古屋大学);University of Michigan(密歇根大学);Northern Arizona University(北亚利桑那大学)
针对数据有限场景下的用户隐私偏好建模难题,提出融合少样本学习与隐私计算的LLM方法,并结合差分隐私与联邦学习,在提升建模准确性的同时降低数据暴露风险。
2025-05-08 cs.AI cs.CR
An Overview of AI and Blockchain Integration for Privacy-Preserving
Hainan University(海南大学)
本文综述了AI与区块链融合的隐私保护技术,涵盖应用场景、关键评估维度及未来发展方向,旨在提升隐私保护的效率与安全性。
2023-05-06 cs.AI cs.CR
The Cognitive Firewall:Securing Browser Based AI Agents Against Indirect Prompt Injection Via Hybrid Edge Cloud Defense
eBay Inc(eBay公司)
本文提出认知防火墙,通过混合边缘云防御机制,有效降低基于浏览器的AI代理遭受间接提示注入攻击的成功率,同时显著提升系统响应效率。
2026-03-24 cs.AI cs.CR
A comparison of web privacy protection techniques
Web隐私保护技术比较
2017-12-19 cs.CR cs.CY
Trajectory Privacy Protection Mechanism based on Social Attributes
目前的轨迹隐私保护技术只考虑了轨迹数据的时空属性,而忽略了轨迹数据的社会属性。然而,社会属性与人类活动轨迹之间存在着内在联系,这给轨迹隐私保护带来了新的挑战,使得现有的轨迹隐私保护技术无法抵御基于社会属性的轨迹隐私攻击。为此,本文首先研究了轨迹数据中的社会隐私攻击,构建了基于“时空”特征融合的社会隐私攻击模型,揭示了轨迹数据中的时空特征对社会隐私泄露的内在影响。- 匿名算法和轨迹发布隐私保护提供理论支持。在此基础上,将社会属性融入轨迹隐私保护技术,设计基于“时空-社会”三维移动模型的轨迹k-匿名算法,构建基于“时空-社会-语义”多维关联的轨迹数据发布隐私保护模型。
2022-12-13 cs.CR
Privacy protection based on mask template
Beijing University of Technology(北京工业大学);Beijing Friendship Hospital(北京友谊医院)
强大的识别算法被广泛应用于互联网或重要的医疗系统中,对个人隐私构成严重威胁。尽管法律规定了多样性保护,例如欧洲的通用数据保护条例(GDPR)和中国的民法典第1032条至第1039条。然而,作为重要的隐私泄露事件,生物特征数据往往具有隐蔽性,机主很难察觉和溯源。人体生物特征通常存在于图像中。为了避免个人隐私的泄露,我们应该防止未经授权的识别算法获取原始图像的真实特征。
2022-02-13 cs.AI cs.CR cs.CV
The approach with the Data Protection and Privacy Relationships Model (DAPPREMO)
我们描述了数据保护和隐私关系模型(DAPPREMO),这是基于集合论,认为这两个领域的数据保护和隐私法规和伦理原则属于一个集合。DAPPREMO是一个创新的解决方案,在任何数据保护和隐私活动中采用一种模式。我们认为DAPPREMO是一种创新的方法,可以从数据保护和隐私的角度对与特定案件或多个案件相关的所有对象进行广泛的概述。我们将DAPPREMO描述为多学科方法的解决方案,以解决任何数据保护和隐私问题。
2021-07-19 cs.CR
A hybrid privacy protection scheme for medical data
医疗保健数据包含敏感信息,说服医疗保健数据所有者在没有任何隐私保证的情况下出于研究目的共享其信息是具有挑战性的。所提出的混合医疗数据隐私保护方案探讨了提供自适应隐私保护和数据效用水平的可能性。评估结果表明,该方案可以提供自适应的隐私和数据效用水平,数据持有者可以选择自己喜欢的风险水平和数据效用通过该方案。心脏病和糖尿病数据的评估结果表明,该方案可以提供广泛的自适应隐私保护和数据效用水平,以满足不同的隐私保护和数据效用的要求。
2022-05-09 cs.CR
Data Security and Privacy Protection Data Security and Privacy Protection in Public Cloud
本文讨论了公共云计算中数据安全和隐私方面的挑战以及现有解决方案的优缺点。与云计算一样,海量数据将被存储。存储在公共云中的数据将面临外部攻击和内部攻击,因为公共云提供商本身是不可信的。传统的加密可以用于存储,但云中的大多数数据需要进一步计算。先解密后计算会给数据运算带来很大的开销和不便。因此,有效的方法来保护数据的安全性以及在云中的大量数据的隐私是必要的。本文讨论了公有云环境下数据安全和隐私保护的不同机制。提出了一种支持数据安全和隐私的多云架构。
2018-12-14 cs.CR
Learning to Customize Network Security Rules
Microsoft(微软)
安全性是希望利用云计算的组织的主要关注点。为了减少安全漏洞,公共云提供商提供了防火墙功能。如果配置得当,防火墙可以保护云网络免受网络攻击。但是,正确的防火墙配置需要对受保护系统有深入的了解、高度的专业知识和持续的维护。因此,许多组织没有有效地使用防火墙,使其云资源容易受到攻击。在本文中,我们提出了一种新的监督学习方法和原型,计算防火墙规则的建议。建议基于从公共云提供商收集的采样网络流量元数据(NetFlow)。标签是从被认为是由专家编写的防火墙配置中提取的。NetFlow从网络路由器收集,避免了从云虚拟机收集的昂贵费用,并缓解了隐私问题。所提出的方法捕获网络例程和资源与防火墙配置之间的依赖关系。该方法预测防火墙允许的IP。分组算法随后用于生成可管理数量的IP范围。每个范围都是防火墙规则的一个参数。我们目前的实验结果的真实数据,显示ROC AUC为0.92,相比之下,0.58的无监督的基线。结果证明了防火墙规则可以根据路由器数据自动生成的假设,并且自动方法可以有效地阻止高百分比的恶意流量。
2017-12-28 cs.CR cs.LG
Image Privacy Protection: A Survey
本文基于隐私保护目标对图像隐私保护方法进行系统综述,定义隐私敏感域并构建涵盖数据级、内容级和特征级三个层级的综合框架,分析了各类别的主要方法、代表性方案及未来挑战。
2024-12-05 cs.CR
Data Protection for Data Privacy-A South African Problem?
本研究针对南非的数据隐私相关数据保护问题,提出通过提升数据保护意识增强组织数据安全与隐私的综合框架,并采用定量调查法评估公共组织员工的相关意识水平。
2023-06-16 cs.CR cs.CY
An Example of Privacy and Data Protection Best Practices for Biometrics Data Processing in Border Control: Lesson Learned from SMILE
生物识别是一种高度采用的技术,以支持不同类型的应用,从安全和访问控制应用到低强制应用。然而,这样的系统引起了严重的隐私和数据保护问题。滥用数据、损害个人隐私和/或授权处理数据可能是不可逆转的,并可能对个人的隐私权和数据保护造成严重后果。这部分是由于在系统开发过程中缺乏通过设计将数据保护和隐私相结合的方法和指导。在本文中,我们提供了一个隐私和数据保护最佳实践的示例,为数据控制者和开发人员如何遵守数据保护的法律义务提供更多指导。这些隐私和数据保护最佳实践和注意事项是基于从欧洲陆地边界智能移动(SMILE)项目中吸取的经验教训。
2022-01-10 cs.CR cs.CY
LSTM-TrajGAN: A Deep Learning Approach to Trajectory Privacy Protection
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
基于位置的服务的流行促成了个人层面轨迹数据的爆炸式增长,也引发了公众对隐私问题的担忧。在这项研究中,我们提出了一种新的LSTM-TrajGAN方法,这是一种端到端的深度学习模型,用于生成隐私保护的合成轨迹数据,用于数据共享和发布。我们设计了一个损失度量函数TrajLoss来衡量模型训练和优化的轨迹相似性损失。该模型在真实世界的语义轨迹数据集上的自动用户链接任务上进行评估。与其他常见的地理掩蔽方法相比,我们的模型可以更好地防止用户被重新识别,它也保留了必要的空间,时间和主题的真实轨迹数据的特征。该模型更好地平衡了轨迹隐私保护的有效性和空间和时间分析的效用,为GeoAI驱动的隐私保护提供了新的见解。
2020-06-14 cs.AI cs.CR cs.LG
AI-Driven Anonymization: Protecting Personal Data Privacy While Leveraging Machine Learning
Sam Houston State University(山姆休斯顿州立大学);San Fransisco Bay University(旧金山湾大学);Sun Yat-Sen University(中山大学);University of Chicago(芝加哥大学);Guangdong University of Technology(广东工业大学)
本文面向AI应用中的个人数据泄露风险,研究利用机器学习差分隐私算法进行数据加密、匿名化、检测与保护,并分析隐私保护挑战及数据集影响因素。
2024-02-27 cs.AI cs.CR cs.LG
Research on Large Language Model Cross-Cloud Privacy Protection and Collaborative Training based on Federated Learning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对大语言模型跨云部署与训练中的隐私和数据安全挑战,本文提出基于联邦学习的协同训练框架,融合密码学原语、动态聚合、跨云数据协调与混合聚合方案,提升安全性、效率、可扩展性及模型性能。
2025-03-15 cs.AI cs.CR
An Economic Analysis of Privacy Protection and Statistical Accuracy as Social Choices
统计机构面临着发布准确统计数据和保护答卷人隐私的双重任务。增加隐私保护需要降低准确性。认识到这是一个资源分配问题,我们提出了一个经济的解决方案:在增加隐私的边际成本等于边际收益的地方运营。我们的生产模型来自计算机科学,假设数据是使用有效的差分私有算法发布的。最优选择权衡了对准确统计数据的需求和对隐私的需求。美国的例子统计程序显示了我们的框架如何指导决策。进一步的进展需要更好地理解为隐私和统计准确性付费的意愿。
2018-08-20 cs.CR
Visual Content Privacy Protection: A Survey
视觉是人类最重要的感官,也是人类认知的主要方式之一。因此,人们倾向于利用视觉内容来捕捉和分享他们的生活经历,这极大地促进了信息的传递。同时,它也增加了侵犯隐私的风险,例如,图像或视频可以揭示不同种类的隐私敏感信息。研究人员一直在不断努力开发有针对性的隐私保护解决方案,有几项调查从某些角度进行了总结。然而,这些调查要么是问题驱动的,要么是特定的,要么是特定的技术,这使得他们很难从宏观上总结现有的解决方案。在这项调查中,提出了一个框架,包括各种问题和解决方案的视觉隐私,这使得从一个全面的层面上对隐私问题的宏观理解。它基于隐私关注有对应的敌手这一事实,将隐私保护分为基于计算机视觉(CV)敌手、基于人类视觉(HV)敌手和基于CV \HV敌手三类。对于每一个类别,我们分析了隐私保护的主要方法的特点,然后系统地审查代表性的解决方案。还讨论了视觉隐私保护面临的挑战和未来的发展方向。
2023-03-29 cs.CR
Hide and Seek (HaS): A Lightweight Framework for Prompt Privacy Protection
Tencent(腾讯);Xuanwu Lab, Tencent(腾讯玄武实验室)
本文提出HaS轻量级框架,通过训练小模型去匿名化LLM返回结果,在最小计算开销下实现提示词隐私保护,并在翻译和分类任务中达到隐私与效用的最佳平衡。
2023-09-06 cs.AI cs.CR
A New Dimensionality Reduction Method Based on Hensel's Compression for Privacy Protection in Federated Learning
University of Houston(休斯顿大学)
本文提出一种结合亨塞尔引理无损降维与差分隐私的两层联邦学习隐私保护方法,通过仅对压缩数据集应用一次DP来避免组合定理导致的隐私泄露,在仅用25%原始数据量时达到97%准确率。
2022-05-01 cs.AI cs.CR
Cardea: Context-Aware Visual Privacy Protection from Pervasive Cameras
Hong Kong University of Science and Technology(香港科技大学)
内置摄像头的移动设备和可穿戴设备的日益普及、增强现实和生活日志系统等摄像头相关应用的美好前景、拍照和分享照片的便利性增加以及计算机视觉技术的进步在许多方面极大地便利了人们的生活,但同时也不可避免地提高了人们对视觉隐私的担忧。最近的用户研究表明,人们的隐私问题是依赖于上下文,在本文中,我们提出了Cardea,上下文感知和交互式的视觉隐私保护框架,强制执行隐私保护根据人们的隐私偏好。该框架为人们提供了细粒度的视觉隐私保护,使用:i)个人隐私配置文件,人们可以定义他们的上下文相关的隐私偏好;和ii)视觉指标:面部特征,用于设备自动定位请求隐私保护的个人;和iii)手势,用于人们灵活地与相机交互,以临时改变他们的隐私偏好。我们设计并实现了由Android设备上的客户端应用程序和云服务器组成的框架。我们的评估结果证实,该框架是实用和有效的86%的整体准确率,显示出有前途的前景,上下文感知的视觉隐私保护从普适相机。
2016-10-04 cs.CR cs.CV
On the utility and protection of optimization with differential privacy and classic regularization techniques
Politecnico di Milano(米兰理工大学)
如今,深度学习模型的所有者和开发人员必须考虑其训练数据的严格隐私保护规则,通常是众包和保留敏感信息。如今,最广泛采用的实施深度学习模型隐私保证的方法依赖于实施差分隐私的优化技术。根据文献,这种方法已被证明是一个成功的防御几个模型的隐私攻击,但其缺点是一个模型的性能大幅下降。在这项工作中,我们比较了差分私有随机梯度下降(DP-SGD)算法对标准的优化实践与正则化技术的有效性。我们分析了所得到的模型的效用,训练性能,以及对学习模型的隶属推理和模型反演攻击的有效性。最后,我们讨论了差分隐私的缺陷和局限性,并实证证明了往往优越的隐私保护性能的dropout和l2-正则化。
2022-09-07 cs.AI cs.CR cs.LG
Enable Portrait Privacy Protection in Photo Capturing and Sharing
带有内置摄像头的可穿戴智能设备的广泛采用大大增加了人们对侵犯隐私的关注。在这里,我们探讨了根据人们的隐私保护要求,使人们从智能设备捕获的照片中轻松获取的可能性。要做到这一点,我们需要解决两个挑战:1)如何让用户明确表达他们的隐私保护意图,以及2)如何准确有效地将隐私要求与拍摄照片中的人相关联。此外,关联过程本身不应导致肖像信息泄漏,并应以保护隐私的方式完成。在这项工作中,我们设计,开发,并评估一个协议,使用户能够灵活地表达她的隐私要求,并授权照片服务提供商(或图像拍摄者),以发挥隐私保护政策。利用视觉的人在视场和维数无关的属性向量相似性度量,我们实现了高精度和低开销。我们实现了一个原型系统,踪迹驱动实验和现实实验的评估结果证实了我们系统的可行性和效率。
2014-10-24 cs.CR
Tracking Protection in Firefox For Privacy and Performance
我们在Mozilla Firefox Web浏览器中提供跟踪保护。跟踪保护是一种新的隐私技术,通过阻止对跟踪域的请求来减轻对用户在线活动的侵入性跟踪。我们评估了我们的方法,并证明了在Alexa前200名新闻网站的抓取过程中设置的HTTP cookie数量减少了67.5%。由于Firefox不会从跟踪域下载和呈现内容,因此跟踪保护还可以在Alexa前200名新闻网站中减少44%的页面加载时间中位数和39%的数据使用量。
2015-06-12 cs.CR
Road Network-Aware Personalized Trajectory Protection with Differential Privacy under Spatiotemporal Correlations
China University of Mining and Technology(中国矿业大学);Wuhan University(武汉大学)
本文提出了一种基于道路网络的个性化轨迹保护机制,结合差分隐私与地理不可区分性,通过动态分配隐私预算和Permute-and-Flip机制,在保护隐私的同时维持服务质量。
2025-11-26 cs.CR
From Theory to Comprehension: A Comparative Study of Differential Privacy and $k$-Anonymity
本文通过数学定义、隐私风险转化和随机响应三种解释方式,比较用户对差分隐私与 $k$-匿名隐私保护的理解,发现风险模型和随机响应模型能提升理解,而 $k$-匿名仍更易理解。
2024-04-05 cs.CR cs.HC
Data Fusion Challenges Privacy: What Can Privacy Regulation Do?
University of Canterbury(坎特伯雷大学);University of Bonn(波恩大学);University of Auckland(奥克兰大学)
本文重点关注当前隐私和数据保护法规在充分解决人工智能驱动的数据处理实践的影响方面的一些不足,特别是在人工智能系统组合和处理数据集的情况下。我们提请注意与传统隐私和数据保护方法的两个基本假设相关的两个监管异常:(1)只有个人身份信息(PII)和个人数据(PD)需要隐私保护:隐私和数据保护法规仅针对PII/PD而非匿名数据触发。这不仅是有问题的,因为确定数据是否属于前一类或后一类不再是简单的,而且还因为与数据处理相关的隐私风险可能存在,无论是否可以识别个人。(2)如果以透明和可理解的方式提供足够的信息,个人就能够充分评估其行为对隐私的影响,并保护其隐私利益:然而,依赖于人类隐私期望无法解决重要的隐私威胁,因为这些期望与数据处理实践的实际隐私影响不一致,因为大多数人缺乏必要的技术素养,无法理解正在发挥作用的复杂技术,也无法正确评估其隐私影响。为了解决这些异常现象,我们建议从两个方向进行监管改革:(1)取消个人数据和匿名数据之间的区别,以触发隐私和数据保护法规的应用;(2)制定方法,根据个人数据处理行为造成的隐私风险水平优先考虑监管干预。
2023-01-17 cs.AI cs.CR cs.CY
Privacy Protection Cache Policy on Hybrid Main Memory
我们首先建议隐私保护缓存政策适用于删除个人信息的责任在混合主存储器系统。该缓存策略包括生成随机数据并将随机数据缓存到个人信息中。提出的缓存策略在数据完全删除方面更经济有效。
2017-07-29 cs.CR cs.CY
Personalized 3D Spatiotemporal Trajectory Privacy Protection with Differential and Distortion Geo-Perturbation
China University of Mining and Technology(中国矿业大学);Hefei University of Technology(合肥工业大学);University of Padua(帕多瓦大学);Peking University(北京大学);University of Houston(休斯顿大学);Kyung Hee University(庆熙大学)
针对3D时空轨迹中攻击者利用时空相关性和高度信息导致隐私泄露的问题,提出3DSTPM机制,结合3D地理不可区分性和失真隐私,通过窗口自适应隐私预算分配和PF扰动,平衡隐私保护与服务质量。
2026-06-09 cs.CR
Graph Analysis in Decentralized Online Social Networks with Fine-Grained Privacy Protection
图分析师不能直接获得分散的社交网络中的全局结构,并且分析这样的网络需要从个体用户收集社交图的局部视图。由于用户之间的边缘可能会在局部视图中揭示敏感的社交交互,因此通常期望在数据汇集过程中应用差分隐私,这提供了强大且严格的隐私保证。在实际的去中心化社交图中,由于不同的敏感度水平,不同的边具有不同的隐私要求。然而,现有的社交图谱的差异私有分析为所有边缘提供了相同的保护。为了解决这个问题,这项工作提出了细粒度的隐私概念以及用于私有图分析的新颖算法。首先,我们设计了一个细粒度的关系差分隐私(FGR-DP)的概念,社会图分析,强制执行不同的隐私要求的边缘不同的保护。然后,我们设计算法的三角形计数和k-星级计数,分别,可以准确地估计子图计数给定细粒度的保护社会边缘。我们还分析了估计误差的上限,包括k星和三角形计数,并显示其优越的性能相比,国家的最先进的。最后,我们在两个真实的社交图数据集上进行了大量的实验,并证明了所提出的机制满足FGR-DP具有更好的实用性比国家的最先进的机制,由于更细粒度的保护。
2022-12-10 cs.CR
Mining and Classifying Privacy and Data Protection Requirements in Issue Reports
数字足迹和物理足迹是在使用软件应用程序和系统过程中收集的用户活动的踪迹。随着软件变得无处不在,保护用户隐私已成为挑战。随着用户隐私意识的提高以及隐私法规和政策的出现,迫切需要实现增强个人数据处理保护的软件系统。然而,现有的数据保护和隐私法规提供了高层次的关键原则,使得软件工程师很难设计和实现隐私感知系统。在本文中,我们开发了一个分类,提供了一套全面的隐私要求的基础上,四个完善的个人数据保护法规和隐私框架,一般数据保护条例(GDPR),ISO/IEC 29100,泰国个人数据保护法(泰国PDPA)和亚太经济合作组织(APEC)隐私框架。这些需求被提取、细化并分类到一个级别,可用于与问题报告进行映射。我们还对两个大型开源软件项目(Google Chrome和Moodle)如何通过挖掘其问题报告来解决我们分类中的隐私要求进行了研究。本文讨论了如何收集的问题进行分类,并提出了我们的研究结果和见解。在问题报告中挖掘和分类隐私要求可以通过识别软件项目中尚未解决的隐私要求来帮助组织了解其合规性状态。该分类法还可以根据所识别的隐私要求追溯到软件项目未遵守的法规、标准和框架。
2022-03-27 cs.CR cs.SE
Load Shaping Based Privacy Protection in Smart Grids: An Overview
由智能电表(SM)收集的细粒度能源使用数据是智能电网(SG)的关键组成部分之一。虽然收集这些数据提高了SG的效率和灵活性,但也对消费者的隐私构成了严重威胁。通过非侵入式设备负载监控(NALM)等技术,这些数据可用于识别正在使用的设备,从而披露消费者的私人生活。在文献中已经提出了各种方法来保护消费者隐私。本文重点研究负载整形(LS)方法,该方法通过家庭设施来改变消费数据,以确保隐私。概述了隐私保护技术,以及用于隐私保护的LS方法、隐私措施和家庭设施的启发式方法,以深入分析这些方法在智能电网系统中的有效性和适用性。最后,对智能电网中隐私保护的研究方向进行了展望。
2020-01-18 cs.CR cs.SY eess.SY
Balancing Innovation and Privacy: Data Security Strategies in Natural Language Processing Applications
University of Southern California(南加州大学);San Francisco State University(旧金山州立大学);Southwest Jiaotong University(西南交通大学);Columbia University(哥伦比亚大学);Carnegie Mellon University(卡内基梅隆大学)
本研究提出一种基于差分隐私的NLP隐私保护算法,在确保数据分析准确性的同时有效防止敏感信息泄露,在效率、扩展性与隐私-实用性平衡上优于传统方法。
2024-10-11 cs.AI cs.CL cs.CR
Privacy protection and service evaluation methods for location-based services in edge computing environments
提出了一种边缘计算环境下位置服务的隐私保护和评估方法。通过构建边缘计算环境下站点服务数据保护与系统评估体系,在现有用户隐私保护工作的基础上,构建了数据处理模块和服务评估模块,设计了评估算法。根据IPE推荐的相关研究,设计了NPE评价模型和POE评价模型。具体而言,在NPE评估模型中,我们把每个用户的决策看作一组因素,并提出了一种方法来整合学习因素。在poe评估模型中,通过统一元数据信息、两个时间上下文和其他不同因素来理解用户对下一个动作的隐藏意图。实验验证了该方法的有效性和可行性。
2022-12-07 cs.CR cs.CY
Providing Input-Discriminative Protection for Local Differential Privacy
本地差分隐私(LDP)为数据汇集提供了可证明的隐私保护,而不需要假设可信的数据服务器。在现实世界中,由于不同的敏感性级别,不同的数据具有不同的隐私要求。但是,LDP为所有数据提供相同的保护。在本文中,我们解决的挑战,提供输入歧视性保护,以反映不同的输入不同的隐私要求。我们首先提出的输入判别LDP(ID-LDP)的隐私概念,并专注于一个特定的版本,称为MinID-LDP,这是一个细粒度的版本LDP。然后,重点研究了频率估计的应用,提出了基于一元编码的单项输入IDUE机制和扩展的项集输入IDUE-PS(带填充和采样协议)机制。在合成数据集和真实数据集上的实验结果验证了理论分析的正确性,并表明所提出的满足MinID-LDP的机制由于具有输入区分保护,比现有的满足LDP的机制具有更好的实用性.
2020-02-24 cs.CR cs.DS
HUT: Enabling High-UTility, Batched Queries under Differential Privacy Protection for Internet-of-Vehicles
车联网(IoV)的新兴趋势要求集中式服务器在单个车辆上以有限的计算资源收集/处理敏感数据。这种敏感数据的集中化需要实际的隐私保护。差分隐私是一种广泛应用的范例,它可以通过添加噪声来对敏感数据提供强有力的保护。然而,直接将DP应用于车联网会对数据利用和有效保护带来重大挑战。我们观察到,在车联网中启用DP保护的关键问题在于如何将DP与车联网的特殊特性协同结合起来,由于集中式服务器和边缘车辆之间的频繁交互,车联网的查询序列通常形成为不平衡的批次。为此,我们提出了HUT,这是一种新的算法,可以在车联网中实现DP保护的高实用性。我们的关键见解是利用车联网的固有特性:不平衡的批次。我们的主要思想是聚合本地批次并应用顺序约束,以便可以减轻DP保护的信息丢失。我们评估了HUT对最先进的DP保护机制的有效性。实验结果表明,HUT可以将信息丢失率降低95.69%,同时对敏感数据提供强有力的安全保护。
2022-02-15 cs.CR
Is External Database Protection Static in Retrieval-Augmented Generation? Rethinking Privacy Preservation under Dynamic Queries
School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机学院);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
研究检索增强生成中外部数据库隐私保护问题,提出Prompt-Aware动态分层差分隐私框架PA-HDP,通过风险分层评估和自适应保护,在减少隐私泄露的同时保持高检索质量,实现更好的隐私-效用权衡。
2026-07-17 cs.CR
Privacy Issues and Data Protection in Big Data: A Case Study Analysis under GDPR
大数据已成为许多组织的重要资产,有望改善运营并带来新的商业机会。然而,大数据增加了对敏感信息的访问,这些信息在处理时可能直接危及个人隐私并违反数据保护法。因此,数据控制者和数据处理者可能会因不遵守规定而受到严厉处罚,甚至可能导致破产。在本文中,我们讨论了法律法规的现状,并分析了大数据分析背景下的不同数据保护和隐私保护技术。此外,我们提出并分析了两个现实生活中的研究项目,作为处理敏感数据和遵守数据监管法律的行动的案例研究。我们展示了哪些类型的信息可能成为隐私风险,根据法律要求采用的隐私保护技术,以及这些技术对数据处理阶段和研究结果的影响。
2018-11-20 cs.CR
Enhancing Feature-Specific Data Protection via Bayesian Coordinate Differential Privacy
Rice University(莱斯大学);University of California, Berkeley(加州大学伯克利分校);INRIA(法国国家信息与自动化研究所)
针对LDP对所有特征统一保护导致下游性能下降的问题,本文提出贝叶斯坐标差分隐私框架BCDP,按特征敏感性量化并调整隐私保护,并在均值估计与最小二乘回归中验证其可在不损害隐私的前提下提升准确率。
2024-10-24 cs.CR cs.LG stat.ML
A Survey on Privacy Risks and Protection in Large Language Models
本文系统综述了大型语言模型面临的隐私泄露与攻击风险,梳理了推理检测、联邦学习等现有防护方法,并提出隐私风险评估与跨学科治理等未来方向。
2025-05-04 cs.CR
Privacy by Design: On the Formal Design and Conformance Check of Personal Data Protection Policies and Architectures
新的《通用数据保护条例》(GDPR)将于2018年5月生效,因此,设计合规的数据保护政策和系统架构对于组织避免处罚至关重要。不幸的是,以文本格式给出的规则很容易被策略和系统设计者误解,这也使得一致性检查容易出错。在本文中,我们采用正式的方法,以促进系统的政策和架构的设计,在一个明确的方式,并提供了一个框架,数学上健全的一致性检查,对目前的数据保护法规。我们提出了一个(半)正式的方法来指定和推理数据保护政策和架构,以及定义架构和政策之间的一致性关系。我们所提出的方法的可用性证明了智能计量服务的案例研究。
2018-05-14 cs.CR
Detecting Compliance of Privacy Policies with Data Protection Laws
National University of Computer and Emerging Sciences(国家计算机与新兴科学大学)
隐私政策是描述组织或公司在处理其用户个人数据时所采取的做法的法律文件。但由于政策是一份法律文件,它们往往是用大量难以理解的法律术语写成的。虽然已经在隐私政策方面做了工作,但没有一项工作能够满足验证给定隐私政策是否符合给定国家或州的数据保护法律的问题。我们的目标是通过提供一个根据各种数据保护法律(如《通用数据保护条例》(GDPR))分析隐私政策的框架来弥合这一差距。为了实现这一目标,我们首先标记了隐私政策和法律。然后,一个相关的计划,制定映射的隐私政策的内容,以适当的法律部分,政策必须符合。然后,我们使用NLP技术检查隐私政策的文本与相应的法律文本的一致性。通过使用这样的工具,用户将更好地了解他们的个人数据是如何管理的。目前,我们已经为GDPR和PDPA提供了一个映射,但其他法律可以很容易地纳入已经建立的管道中。
2021-02-21 cs.CL cs.CR
Changes in Conducting Data Protection Risk Assessment and After GDPR implementation
本文通过比较GDPR生效前后两组隐私专业人士焦点小组并进行主题分析,考察DPIA是否解决了以往PIA实施中的挑战。
2023-04-24 cs.CR
Resilient Privacy Protection for Location-Based Services through Decentralization
基于位置的服务(LBS)提供了有价值的服务,为移动用户提供了方便的功能。然而,通过对LBS的每个查询所公开的位置和其他信息侵蚀了用户隐私。这是一个值得关注的问题,特别是因为LBS提供商可能诚实但好奇,收集查询和跟踪用户的行踪,并推断敏感的用户数据。这激发了LBS的集中式和分散式位置隐私保护方案:匿名化和模糊化LBS查询,以不披露确切信息,同时仍然获得有用的响应。分散式方案克服了集中式方案的缺点,消除了匿名者,并增强了用户对敏感信息的控制。然而,一个不安全的去中心化系统可能会造成严重的风险,而不仅仅是私人信息泄露。更重要的是,攻击一个设计不当的去中心化LBS隐私保护方案可能是一个有效且低成本的侵犯用户隐私的步骤。我们正是解决这个问题,提出了移动数据共享系统的安全增强。我们保护用户隐私,同时保留用户活动的问责制,利用主流加密技术的匿名身份验证。我们表明,我们的计划可以部署在一个静态的汽车测试平台的实施的实验评估的基础上,与现成的设备。
2020-01-22 cs.CR
Perception of Digital Privacy Protection: An Empirical Study using GDPR Framework
本文基于GDPR框架实证研究公众对政府数据数字隐私保护的感知,发现知情权被认为保护最充分而反对权保护最弱,并揭示了由情境与文化导致的社会困境。
2024-11-19 cs.CR
Full Convergence of the Iterative Bayesian Update and Applications to Mechanisms for Privacy Protection
迭代贝叶斯更新(IBU)和矩阵求逆(INV)是从应用隐私保护机制产生的噪声数据中检索原始分布的主要方法。我们发现,在文献中建立的IBU的理论基础是有缺陷的,因为它们依赖于一个假设,在典型的真实数据集一般是不满意的。然后,我们修复的IBU理论,通过提供一个一般的收敛结果的基本期望最大化方法。我们的框架不依赖于上述假设,并且还涵盖了更一般的本地隐私模型。最后,我们评估的精度的IBU的几何,$k$ -RR,和RAPPOR机制的数据消毒,我们表明,它优于INV在第一种情况下,而它是在其他两种情况下,INV。
2019-09-06 cs.CR
Visual Privacy Protection via Mapping Distortion
Tsinghua University(清华大学);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院);Peng Cheng Laboratory(鹏城实验室)
隐私保护是一个重要的研究领域,在这个大数据时代尤为关键。在很大程度上,视觉分类数据的隐私性主要体现在图像与其对应标签之间的映射,因为这种关系提供了大量的信息,并且可以用于其他场景。在本文中,我们提出了基于映射失真的保护(MDP)及其基于增强的扩展(AugMDP),以保护数据隐私,通过修改原始数据集。在MDP生成的修改后的数据集中,图像和它的标签并不一致($e.g.$,一个类似猫的图像被标记为狗),而在其上训练的DNN仍然可以在良性测试集上取得良好的性能。因此,该方法可以在数据集泄露时保护隐私。通过大量的实验验证了该方法的有效性和可行性。用于再现主要结果的代码可在\url{https://github.com/PerdonLiu/Visual-Privacy-Protection-via-Mapping-Distortion}上获得。
2021-02-03 cs.CR cs.CV eess.IV
Privacy protection of occupant behavior data and using blockchain for securely transferring temperature records in HVAC systems
建筑行业的能源消耗比例很大,制冷和供暖系统的数量也很大。建筑采暖、通风、空调等系统的节能一直是学者们研究的课题。将居住者行为数据应用于建筑节能优化已开始受到学者们的关注。然而,乘员行为数据涉及乘员隐私的许多方面。不同类型的乘员行为数据包含不同层次的乘员隐私信息。在利用乘员行为进行节能时,对乘员行为数据进行隐私保护至关重要。本文介绍了使用乘员行为数据时的隐私问题,以及使用区块链技术保护数据隐私的方法。使用区块链进行隐私保护的两种选择,将数据记录作为交易发送并将文件存储在区块链上,都将通过开放获取论文中的温度记录进行解释和评估。可以在传感器和本地建筑物管理系统之间使用发送数据作为事务。在区块链上存储文件可以用于不同建筑管理系统的协作。讨论了使用区块链进行数据和文件传输的优点,缺点和潜力。研究结果对利用居住者行为数据进行建筑节能优化具有一定的参考价值。
2019-04-09 cs.CR
Integrating Privacy-Enhancing Technologies into the Internet Infrastructure
AN.ON-Next项目旨在将隐私增强技术整合到互联网基础设施中,并在消费大众市场中建立这些技术。重点关注的技术包括互联网服务提供商级别的基础保护,改进的基于覆盖网络的保护以及新兴5G移动网络中的隐私保护概念。一个关键的成功因素将是为这些新技术可行地调整和制定标准、商业模式和定价战略。
2017-11-20 cs.CR
Exploring the Relationships between Privacy by Design Schemes and Privacy Laws: A Comparative Analysis
物联网(IoT)应用有可能获取关于个人的敏感信息。因此,开发人员必须进行尽职调查,以确保根据隐私法规和数据保护法律管理数据。然而,这样做可能是一项困难和具有挑战性的任务。最近的研究表明,开发人员在遵守法规时通常会遇到困难。一个关键原因是,有时,法规是模糊的,提取和颁布此类法律要求可能具有挑战性。在我们的研究论文中,我们对不同大洲使用的数据保护法律进行了系统分析,即:(i)一般数据保护条例(GDPR),(ii)个人信息保护和电子文件法(PIPEDA),(iii)加利福尼亚州消费者隐私法(CCPA),(iv)澳大利亚隐私原则(APP),以及(v)新西兰1993年隐私法。在这份技术报告中,我们介绍了框架分析方法的详细结果,以全面了解不同的数据保护法律,并强调了差异,以帮助开发人员遵守不同地区的法规,并创建一个综合隐私法框架(CPLF)。在此之后,我们给出了一个概述的各种隐私设计(PbD)方案以前开发的不同的研究人员。然后,CPLF的关键原则和个人权利与隐私设计(PbD)计划的隐私原则,策略,指导方针和模式进行映射,以调查现有计划的差距。
2022-10-06 cs.CR
A Blockchain-based Data Governance Framework with Privacy Protection and Provenance for e-Prescription
医疗保健和供应链领域的实际应用程序在多利益相关者环境中生成、交换和共享数据。数据所有者希望在这样的设置中控制他们的数据和隐私。另一方面,数据消费者需要了解何时、如何以及谁产生数据的方法。这些需求需要数据治理框架来保证数据来源、隐私保护和同意管理。我们引入了一个基于区块链技术和代理重新加密的去中心化数据治理框架,让数据所有者通过隐私增强和同意管理机制来控制和跟踪他们的数据。此外,我们的框架允许数据消费者通过基于区块链的出处机制来理解数据沿袭。我们使用数字电子处方作为用例,因为它具有多个利益相关者和敏感数据,同时使医疗界能够管理患者的处方数据,将患者作为数据所有者,将医生和药剂师作为数据消费者。我们基于CosmWasm、Ethereum和pyUmbral PRE的概念验证实现和评估结果表明,所提出的去中心化系统以最小的开销保证了透明度、隐私和信任。
2021-12-28 cs.CR