A Tagging Solution to Discover IoT Devices in Apartments
本文提出一种基于无线协议、蜂鸣器和LED的标签方案,解决公寓等多用户共享空间中隐藏物联网设备的发现与隐私问题,并通过性能测试和用户研究验证其可行性。
2023-09-21 cs.CR
Verifiable Secure Aggregation via Dual Servers with Linear Tags in Federated Learning
针对联邦学习中服务器可能利用梯度反转侵犯隐私或操纵聚合结果的问题,提出一种基于伪随机函数和非共谋双服务器架构的轻量级可验证安全聚合方案,在保持通信开销与明文聚合相当且验证标签大小恒定的同时,实现用户隐私保护、端到端安全聚合及验证,并显著降低用户计算和验证开销。
2026-08-25 cs.CR
On Content-Based Recommendation and User Privacy in Social-Tagging Systems
基于注释和评级的推荐系统和内容过滤方法基本上依赖于用户通过他们的动作表达他们的偏好和兴趣,以便提供个性化内容。这种用户集体参与的活动被称为社会标签。虽然它为语义Web上的应用程序互操作性开辟了无数新的可能性,但它也带来了新的隐私威胁。社交标签包括通过使用自由文本标签(即标签)来描述在线或在线资源,因此将用户的个人资料和活动暴露给隐私攻击。标签伪造是一种隐私增强技术,包括为不反映用户实际偏好的类别或资源生成标签。标签伪造通过修改用户的个人资料,可能会对推荐系统的质量产生负面影响,从而在一定程度上保护用户隐私,但代价是效用损失。因此,标签伪造对基于内容的推荐的影响,在现实世界中的应用场景中,不同的伪造策略进行评估,并测量和比较随之而来的效用损失。
2016-05-20 cs.CR cs.CY cs.IR
Distributed Transition Systems with Tags for Privacy Analysis
Université d’Orléans(奥尔良大学)
我们提出了一个逻辑框架,正式模型如何存储在一个给定的数据库D上的一个给定的私人信息P,可以逐步捕获,由代理/对手反复查询数据库。该框架名为DLTTS(分布式标记转换系统),它借鉴了几个领域的思想:Segala的概率自动机,概率并发系统和概率标记转换系统。DLTTS上的每个节点都附加了一个标签,表示对手的“当前”知识,从DBMS的应答机制对他/她的查询的响应中获得,在先前遍历的节点处,沿着任何给定的运行;该知识在同一节点处完成,进一步的关系推导,可能与来自提前给出的其他数据库的“公共”信息结合。“黑盒”机制也是DLTTS的一部分,它的作用是判断对手是否在当前节点推断出了私有信息,如果是,则终止运行。一个额外的特殊特征是,黑盒还给出了关于在当前节点处对手的知识与私有信息P有多“接近”或多“远”的信息。为此目的,在给定数据库的所有“类型兼容”元组的集合上定义了一个度量,数据本身与基础的头部一起类型化。尽管我们的框架的过渡系统的味道,这个指标是不是“行为”的意义上提出的一些其他作品。它是专门面向数据库的,并允许定义新的概念的邻接和数据库之间的不相容性,更一般地比那些通常基于汉明度量(和一个有限的概念邻接)。一直以来都有例子来说明我们的框架是如何工作的。关键词:数据库,隐私,转移系统,概率,分布。
2022-06-21 cs.AI cs.CL cs.CR
Security and Privacy Analysis of Tile's Location Tracking Protocol
Georgia Institute of Technology(佐治亚理工学院)
该研究首次全面分析Tile众包位置追踪服务的安全性,发现多项可利用漏洞与设计缺陷,指出其问责机制存在安全隐患,呼吁建立该场景下问责制的正式定义。
2025-09-30 cs.CR
SecureFind: Secure and Privacy-Preserving Object Finding via Mobile Crowdsourcing
蓝牙标签的成本和移动设备的普及正在彻底改变传统的失物招领服务。本文介绍了SecureFind,通过移动众包的安全和隐私保护的对象查找系统。在SecureFind中,每个贵重物品都附有一个唯一的蓝牙标签,丢失物品的所有者通过SecureFind服务提供商向许多移动用户提交物品查找请求。每一个移动用户都代表失主在其附近搜索失物,失主可以根据移动用户的响应推断其失物的位置。SecureFind旨在确保强大的对象安全性,只有对象所有者才能发现其丢失对象的位置,并为相关移动用户提供强大的位置隐私。SecureFind的高效性和效率得到了大量模拟的证实。
2015-03-27 cs.CR
Mobile Access Control System Based on RFID Tags And Facial Information
更好的访问控制系统安全性需要付出更高的代价。在许多情况下,对于小公司来说,价格太高,使他们容易受到廉价和不安全系统的影响。在这项工作中,我们介绍了一种替代的访问控制方案,提高了访问控制的安全性,同时降低成本。在所提出的模型中,无源RFID标签安装在旋转栅门或智能门附近。标签读取和编程通过NFC芯片直接在用户的智能手机上完成。为了提高安全性,我们要求用户在进入安全门时提供其照片以及基于智能手机的授权。然后,照片与登记照片并排显示在监测仪表板上,以便两者可以相互匹配。开发的客户端-服务器应用程序提供了管理系统,用于配置大门访问策略,并通过访问时间,用户“与”门过滤器监控入口。此外,我们提出了一个移动应用程序,允许门注册,并作为一个门解锁钥匙。建议的访问控制模型降低了安装成本,同时保持良好的安全性。该系统是完全无线的,并使用廉价的自主RFID标签作为其主要组成部分。我们希望,拟议的系统架构将找到其应用在中小型公司。
2022-06-22 cs.CR
KIMAP: Key-Insulated Mutual Authentication Protocol for RFID
RFID标签在计算和存储能力方面受到很大限制,并且由于其对不同攻击的脆弱性而在日常生活中引起许多隐私问题。前向安全性和后向安全性都需要保持标签的隐私,标签的秘密密钥的暴露不应暴露标签的过去或未来的秘密密钥。我们设想需要一个正式的模型,为RFID协议设计的后向安全共享密钥设置,因为RFID标签的资源过于有限,以支持公钥设置。然而,自从Serge Vaudenay在他的Asiacrypt 2007论文中指出,如果没有公钥设置,就不可能实现完美的后向安全性以来,对共享密钥环境的后向安全性的研究并不多。本文提出了一种用于共享密钥环境的密钥隔离的双向认证协议KIMAP,该协议使用隔离密钥来最小化秘密密钥暴露所造成的损害。即使标签的秘密密钥在认证会话期间被暴露,标签的前向安全性和“受限”后向安全性也在我们的假设下被保留。“受限”后向安全性的概念是对手错过了更新受损秘密密钥所需的协议副本。虽然我们的定义并没有捕捉到完美的后向安全性,但它仍然适合于有效的实现,因为标签在实践中是高度移动的。我们还提供了一个形式化的KIMAP安全模型。从计算要求的角度来看,我们的方案比以前的建议更有效。
2012-09-23 cs.CR
Preliminary Analysis of Google+'s Privacy
在本文中,我们对Google+隐私进行了初步分析。我们发现Google+与可以访问照片的用户共享照片元数据,并讨论其对隐私的潜在影响。我们还发现,Google+鼓励提供其他姓名,包括婚前姓名,这可能有助于犯罪分子进行身份盗窃。我们表明,Facebook列表是一个超集的Google+圈,功能和逻辑,即使Google+提供了一个更好的用户界面。最后,我们比较了Google+与Facebook的加密使用和隐私控制深度。
2011-11-15 cs.CR cs.SI
Utility-Optimized Local Differential Privacy Mechanisms for Distribution Estimation
LDP(局部差分隐私)已经被广泛研究以估计个人数据的统计(例如,在保护用户隐私的同时,虽然LDP不需要可信的第三方,但它认为所有个人数据都是同样敏感的,这会导致过度混淆,从而失去效用。在本文中,我们介绍了ULDP(实用优化的LDP)的概念,它提供了一个隐私保证等同于LDP只对敏感数据。我们首先考虑所有用户使用相同的混淆机制的设置,并提出两种机制提供ULDP:效用优化的随机响应和效用优化的RAPPOR。然后,我们考虑敏感数据和非敏感数据之间的区别可能因用户而异的设置。对于这种设置,我们提出了一个个性化的ULDP机制与语义标签,以估计具有高效用的个人数据的分布,同时保持什么是每个用户的敏感秘密。我们从理论和实验上表明,我们的机制提供了更高的效用比现有的LDP机制时,有很多的非敏感数据。我们还表明,当大多数的数据是不敏感的,我们的机制甚至提供几乎相同的效用,在低隐私制度的非私有机制。
2019-05-27 cs.CR cs.DB cs.IT
Outsource Photo Sharing and Searching for Mobile Devices With Privacy Protection
随着移动设备的激增,基于云的照片共享和搜索服务由于移动设备的资源约束而变得普遍。与此同时,人们也越来越关注照片中的隐私。在这项工作中,我们提出了一个框架\ourprotocolNSP,它使云服务器提供隐私保护的照片共享和搜索作为一项服务,移动终端用户。寻求隐私的用户可以通过我们的框架分享他们的照片,只允许他们授权的朋友使用资源有限的移动设备浏览和搜索他们的照片。这是通过我们精心设计的架构和新颖的外包隐私保护计算协议实现的,通过这些协议,有关外包照片甚至搜索内容(包括结果)的信息都不会透露给云服务器。我们的框架与大多数现有的图像搜索技术兼容,并且只需对现有的云系统进行很少的更改。我们的原型系统与31,772现实生活中的图像的评估表明,我们的系统的通信和计算效率。
2014-10-24 cs.CR
Enable Portrait Privacy Protection in Photo Capturing and Sharing
带有内置摄像头的可穿戴智能设备的广泛采用大大增加了人们对侵犯隐私的关注。在这里,我们探讨了根据人们的隐私保护要求,使人们从智能设备捕获的照片中轻松获取的可能性。要做到这一点,我们需要解决两个挑战:1)如何让用户明确表达他们的隐私保护意图,以及2)如何准确有效地将隐私要求与拍摄照片中的人相关联。此外,关联过程本身不应导致肖像信息泄漏,并应以保护隐私的方式完成。在这项工作中,我们设计,开发,并评估一个协议,使用户能够灵活地表达她的隐私要求,并授权照片服务提供商(或图像拍摄者),以发挥隐私保护政策。利用视觉的人在视场和维数无关的属性向量相似性度量,我们实现了高精度和低开销。我们实现了一个原型系统,踪迹驱动实验和现实实验的评估结果证实了我们系统的可行性和效率。
2014-10-24 cs.CR
P3: Toward Privacy-Preserving Photo Sharing
随着移动设备的使用越来越多,照片共享服务正在经历更大的普及。除了提供存储之外,照片共享服务还通过执行服务器端图像转换(缩放、裁剪)来实现带宽效率高的移动设备下载。另一方面,照片共享服务也引发了隐私问题,例如照片泄露给未经授权的观众以及提供商使用算法识别技术。为了解决这些问题,我们提出了一个隐私保护的照片编码算法,提取和加密一个小的,但重要的,照片的组成部分,同时保留在一个公共的,标准兼容的,部分的其余部分。这两种成分可以分开储存。这种技术显著降低了信噪比以及公共部分自动检测和识别的准确性,同时保留了提供商执行服务器端转换以节省下载带宽使用的能力。我们的原型隐私保护照片共享系统P3与Facebook合作,也可以扩展到其他服务。P3不需要对现有服务或移动应用软件进行任何更改,并增加了最小的照片存储开销。
2013-02-20 cs.CR cs.MM
PoliteCamera: Respecting Strangers' Privacy in Mobile Photographing
University of Arkansas(阿肯色大学);Michigan State University(密歇根州立大学)
相机是现代手机的标准板载传感器。它使拍照流行,由于其方便和高分辨率。然而,当用户拍摄风景、建筑物或目标人物的照片时,照片中也可能无意中捕捉到陌生人。这些照片暴露了陌生人的位置和活动,因此可能侵犯他们的隐私。在本文中,我们提出了一个合作的移动拍照方案称为PoliteCamera,以保护陌生人的隐私。通过摄影师和陌生人之间的合作,照片中的陌生人的脸可以在拍摄照片时根据他的要求自动模糊。由于多个陌生人附近的摄影师可能会发出模糊的请求,但不是所有的人都在照片中,适应平衡卷积神经网络(ABCNN)提出了确定是否请求的陌生人在照片中的面部属性的基础上。评估表明,ABCNN可以准确地预测面部属性,PoliteCamera可以为陌生人提供准确的隐私保护。
2020-05-24 cs.CR cs.CV cs.CY
Privacy Intelligence: A Survey on Image Privacy in Online Social Networks
该综述针对在线社交网络图像分享的隐私风险与现有保护方案的不足,从用户视角提出隐私智能分析框架,梳理相关智能解决方案并展望未来方向。
2025-06-17 cs.CR cs.SI
CPAR: Cloud-Assisted Privacy-preserving Image Annotation with Randomized KD-Forest
随着智能手机拍摄的图片数量的爆炸式增长,组织和搜索图片已经成为重要的任务。为了有效地完成这些任务,关键使能器是用适当的关键字来注释图像,从而使基于关键字的搜索和组织变得可用于图像。目前,智能手机通常与云存储平台同步相册,并在云计算的帮助下对它们的图像进行注释。然而,“卸载到云”解决方案可能导致隐私泄露,因为来自智能照片的照片包含各种敏感信息。为了隐私保护,现有的研究努力通过利用密码原语来支持对加密图像的基于云的图像注释。然而,对于每个注释,它需要云对大规模加密数据集进行线性检查,计算成本很高。本文提出了一种云辅助的隐私保护图像标注与随机kd森林,即CPAR。使用CPAR,用户可以通过利用云的力量自动为他们的图像分配关键字,并保护隐私。CPAR提出了一种新的隐私保护的随机kd森林结构,显着提高了注释性能相比,现有的研究。深入分析了CPAR的安全性。在著名的IAPR TC-12数据集上的实验验证了CPAR的有效性。
2019-02-12 cs.CR
Privacy Preserving Face Retrieval in the Cloud for Mobile Users
Beijing Electronic Science and Technology Institute(北京电子科技学院);Chinese Academy of Sciences(中国科学院)
最近,云存储和处理已被广泛采用。一个家庭或一个团队中的移动用户可以自动将他们的照片备份到相同的共享云存储空间。由第三方训练和提供的强大的面部检测器可以用于从云存储服务器检索包含特定人群的照片集合。然而,移动用户的隐私可能会泄露给云服务器提供商。同时,人脸检测器的版权也应该受到保护。因此,在本文中,我们提出了一个协议的隐私保护人脸检索在云中的移动用户,同时保护用户的照片和人脸检测器。云服务器只提供存储和计算资源,不能学习用户照片和人脸检测器的任何内容。我们在几个家庭和类中测试我们的协议。实验结果表明,我们的协议可以成功地从云服务器检索正确的照片,并保护用户的照片和人脸检测器。
2017-08-09 cs.CR cs.CV
Make Identity Unextractable yet Perceptible: Synthesis-Based Privacy Protection for Subject Faces in Photos
针对基于扰动的抗人脸识别方法存在的虚假隐私感问题,提出首个基于合成的人脸隐私保护方法PerceptFace,通过引入感知相似性损失,在确保身份不可提取的同时保留熟人肉眼可感知的身份信息,实现了身份保护与感知的更优权衡。
2025-09-14 cs.CR
Towards Privacy-preserving Photorealistic Self-avatars in Mixed Reality
针对混合现实中照片级真实感自我化身的肖像隐私泄露风险,提出基于身份编码生成模型特征空间隔离的两种身份混淆算法,可在保留人口统计身份与自我感知属性的同时保护面部生物特征隐私,推动MR化身安全应用。
2025-07-29 cs.CR cs.HC
Differentially Private Imaging via Latent Space Manipulation
Purdue University(普渡大学)
由于社交媒体和照片设备的普及,以及人脸识别系统的使用越来越多,人们越来越关注图像隐私。然而,已建立的图像去识别技术要么太容易重新识别,要么产生不够真实的照片,或者两者兼而有之。为了解决这个问题,我们提出了一种新的方法,通过操纵一个无条件训练的生成模型,能够合成高分辨率的照片般逼真的面部图像的潜在空间的图像模糊。该操作以满足局部差分隐私的形式隐私标准的方式进行。据我们所知,这是第一种满足$\varepsilon$ -差分隐私\emph{for the person.}的图像隐私方法
2021-04-07 cs.CR cs.CV
FoggySight: A Scheme for Facial Lookup Privacy
University of Washington(华盛顿大学)
深度学习算法的进步使人脸识别任务的性能优于人类。与此同时,私营公司一直在收集社交媒体和其他将照片与身份联系起来的公共网站,并建立了带有标签的人脸图像的大型数据库。这些数据库中的数据现在被作为一种服务提供给执法部门和其他人,并为社交媒体用户带来了大量的隐私风险。在这项工作中,我们解决了从这样的人脸识别系统提供隐私的问题。我们提出并评估了FoggySight,这是一种解决方案,它应用了从对抗性示例文献中吸取的经验教训,在将面部照片上传到社交媒体之前,以保护隐私的方式对其进行修改。FoggySight的核心功能是一种社区保护策略,用户作为其他人的隐私保护者上传由对抗性机器学习算法生成的诱饵照片。我们探索了这个方案的不同设置,发现它确实可以保护面部隐私--包括针对内部结构未知的面部识别服务。
2020-12-15 cs.CR cs.CV cs.LG
FlowCrypt: Flow-Based Lightweight Encryption with Near-Lossless Recovery for Cloud Photo Privacy
Hohai University(河海大学)
本文提出FlowCrypt,一种基于流的轻量级图像加密框架,通过密钥条件随机分割和可逆FED模块实现近无损恢复、高安全性与仅1M参数的紧凑设计。
2025-09-23 cs.CR
The Birthmark Standard: Privacy-Preserving Photo Authentication via Hardware Roots of Trust and Consortium Blockchain
The Birthmark Standard Foundation
本研究提出一种基于硬件根信任和联盟区块链的图像认证方法,通过传感器熵生成认证密钥,确保隐私安全并提高验证效率。
2026-02-04 cs.CR cs.CY
Privacy Leakage Through AI-mediated Analysis of Smartphone Data
Harvard University(哈佛大学);Carnegie Mellon University(卡内基梅隆大学)
针对智能手机应用数据收集引发的隐私风险,构建基于LLM的Priva-See推理系统,经465人研究证明其能仅凭部分数据做出隐私侵犯推断,并据此提出改进系统同意机制的方案。
2026-09-25 cs.CR cs.HC
AnonymousNet: Natural Face De-Identification with Measurable Privacy
Purdue University(普渡大学);University of Rochester(罗切斯特大学)
每天从社交媒体和各种相机中生成数十亿张个人图像,安全和隐私受到前所未有的挑战。尽管已经进行了广泛的尝试,但是现有的人脸图像去识别技术要么在照片真实性方面不足,要么不能定性和定量地平衡隐私性和可用性,即,他们没有回答反事实的问题,如“现在是私人的吗?”,“有多私密?”,以及“能不能更私密一点?“在本文中,我们提出了一个名为AnciliousNet的新框架,旨在系统地解决这些问题,平衡可用性,并以自然和可衡量的方式增强隐私。该框架包括四个阶段:面部属性估计,面向隐私度量的面部混淆,定向自然图像合成,和对抗性扰动。我们不仅在图像质量和属性预测准确性方面达到了最先进的水平,而且还首次证明了面部隐私是可测量的,可以分解,并相应地以照片般逼真的方式进行操作,以满足不同的要求和应用场景。实验进一步证明了该框架的有效性。
2019-04-19 cs.CR cs.CV cs.IR
PrivPAS: A real time Privacy-Preserving AI System and applied ethics
Samsung R&D Institute Bangalore(三星班加罗尔研发研究院)
到2021年,全球有37.8亿社交媒体用户(占人口的48%),每天分享近30亿张图片。与此同时,智能手机摄像头的持续发展导致了摄影的爆炸式增长,85%的新照片都是使用智能手机拍摄的。然而,最近,当被拍照的人不知道正在拍摄的照片或对共享的照片持保留态度时,对隐私问题的讨论越来越多。这些侵犯隐私的行为对残疾人来说是放大的,他们可能会发现即使他们知道也很难提出异议。这种未经授权的图像捕获也可能被第三方组织滥用以获得同情,导致隐私泄露。到目前为止,残疾人的隐私受到AI社区的关注相对较少。这促使我们努力寻找一种解决方案,以产生隐私意识提示,提高智能手机用户对取景器内容敏感性的认识。为此,我们引入了PrivPAS(实时的隐私保护人工智能系统),这是一个识别敏感内容的新颖框架。此外,我们策划和注释数据集,以识别和本地化可访问性标记,并分类图像是否对具有残疾的特征主题敏感。我们证明了所提出的轻量级架构,内存占用量仅为8.49MB,在资源受限的设备上实现了89.52%的高mAP。此外,我们在面部匿名数据上训练的管道达到了73.1%的F1分数。
2022-02-08 cs.CR cs.CV
Distribution Discrepancy Maximization for Image Privacy Preserving
University of Science and Technology of China(中国科学技术大学)
随着在线照片共享活动的迅速增加,图像模糊算法对于保护共享照片中的敏感信息变得尤为重要。然而,现有的基于手工原理的图像混淆方法受到深度学习技术的巨大发展的挑战。为了解决这个问题,我们建议最大化原始图像域和加密图像域之间的分布差异。因此,我们引入了一个协同训练方案:一个$D$被训练来区分重建图像和加密图像,并需要一个加密模型$G_e$来生成这两种图像,以最大限度地提高$D$的识别率,从而导致$D$和$G_e$具有相同的训练目标。我们从理论上证明了这样的训练方案最大化两个分布的差异。与常用的图像混淆方法相比,我们的模型可以对深度识别模型的攻击产生令人满意的防御,这表明在FaceScrub,Casia-WebFace和LFW数据集上的准确性显着下降。
2018-11-18 cs.CR cs.CV
Visual Analysis of Photo Policy Misconfigurations Using Treemaps
在线照片隐私是社交媒体用户最关心的问题。已经提出了许多可视化工具来帮助用户容易地撰写和理解社交网络上的策略。然而,这些工具并不具备快速识别和修复意外照片共享的能力。我们提出了一个工具,显示相册w.r.t他们的政策错误配置使用树图可视化。
2019-03-06 cs.CR cs.HC
Adversarial Privacy-preserving Filter
Beijing Jiaotong University(北京交通大学);Peng Cheng Laboratory(鹏城实验室);Beijing University of Technology(北京工业大学);Beijing Artificial Intelligence Institute(北京人工智能研究院)
虽然人脸识别在实际应用中被广泛采用,但人脸识别已经就人脸图像的恶意使用和潜在的隐私问题进行了严格的讨论,例如,欺骗支付系统和造成个人破坏。在线照片共享服务无意中成为恶意爬虫和人脸识别应用程序的主要存储库。本文提出了一种基于端云协同的对抗攻击解决方案,以满足隐私、实用性和不可访问性的要求。具体而言,解决方案由三个模块组成:(1)图像特定梯度生成,以使用压缩探头模型在用户端提取图像特定梯度;(2)对抗性梯度转移,以微调服务器云中的图像特定梯度;以及(3)通用对抗性扰动增强,以附加图像无关扰动来导出最终的对抗性噪声。在三个数据集上的大量实验验证了所提出的解决方案的有效性和效率。我们希望这个端云协同攻击框架能够从用户的角度为解决在线多媒体共享的隐私保护问题提供参考。
2020-08-04 cs.CR cs.LG
Adversarial Image Perturbation for Privacy Protection -- A Game Theory Perspective
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
用户喜欢通过社交媒体与他人分享个人照片。与此同时,他们可能想让这些照片中的自动识别变得困难甚至不可能。经典的模糊处理方法,如模糊处理,不仅令人不快,而且也不像人们期望的那样有效。对抗性图像扰动(AIP)的最新研究表明,它是可能的,没有令人不快的伪影,有效地混淆识别系统。然而,在存在针对AIP的反措施的情况下,尚不清楚AIP的有效性,特别是在反措施的选择未知的情况下。博弈论提供了工具来研究代理之间的相互作用与不确定性的战略。我们介绍了一个一般的游戏理论框架的用户识别器的动态,并提出了一个案例研究,涉及目前最先进的AIP和个人识别技术。我们推导出最佳的策略,为用户,确保上界的识别率独立的识别器的反措施。代码可在https://goo.gl/hgvbNK上获得。
2017-07-26 cs.CR cs.CV cs.GT
Cloud-based Privacy Preserving Image Storage, Sharing and Search
高分辨率相机每天都会产生大量高质量的图像。这是非常具有挑战性的存储,共享,特别是搜索这些巨大的图像,越来越多的云服务,以支持这些功能。然而,图像往往包含丰富的敏感信息(\eg,人,位置和事件),人们的隐私问题阻碍了他们随时参与不可信的第三方提供的服务。在这项工作中,我们介绍了PIC:一个隐私保护的大规模图像搜索系统云。我们的系统可以实现高效而安全的基于内容的图像搜索与细粒度的访问控制,它还提供了隐私保护的图像存储和用户之间的共享。用户在使用系统时可以指定谁可以/不可以在他们的图像上进行搜索,如果他们满足图像所有者指定的条件,他们可以在其他人的图像上进行搜索。大多数计算密集型工作都外包给云端,用户只需在整个图像搜索过程中提交查询并接收结果。特别是,为了处理大量的图像,我们设计了适合分布式和并行计算的系统,并引入了几个优化,以进一步加快搜索过程。我们实现了一个PIC的原型,包括云端和客户端。云端是一个具有分布式文件系统(Hadoop HDFS)和MapReduce架构(Hadoop MapReduce)的计算机集群。客户端是为Windows操作系统笔记本电脑和Android手机构建的。我们评估的原型系统与大型现实生活中的照片集。我们的安全性分析和评估结果表明,PIC成功地保护图像隐私的计算和通信成本低。
2014-10-24 cs.CR
InfoScrub: Towards Attribute Privacy by Targeted Obfuscation
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
个人的个人照片在网上分享时,除了展示无数令人难忘的细节外,还揭示了广泛的私人信息,并可能带来隐私风险(例如,在线骚扰、跟踪)。为了减轻这些风险,研究允许个人限制视觉数据中泄露的私人信息的技术至关重要。我们解决这个问题,在一个新的图像混淆框架:最大限度地提高熵的推断目标的隐私属性,同时保持图像的保真度。我们基于编码器-解码器风格的架构来处理这个问题,其中有两个关键的新颖性:(a)引入一个自适应器来同时从多个不成对域执行双向翻译;(b)预测一个图像插值,该插值最大化目标属性集的不确定性。我们发现我们的方法生成的模糊图像忠实于原始输入图像,并额外增加6.2 $\times$(或高达0.85位)的非模糊对应的不确定性。
2021-06-01 cs.AI cs.CR cs.CV
Security and Privacy Preserving Deep Learning
Indian Institute Of Information Technology Bhagalpur(巴加尔布尔印度信息技术学院);Indian Institute of Technology Patna(巴特那印度理工学院)
大规模收集用户数据的商业公司一直是这一趋势的主要受益者,因为深度学习技术的成功与可用于训练的数据量成正比。深度学习所需的大量数据汇集存在明显的隐私问题。用户的个人,高度敏感的数据,如照片和录音,由收集它的公司无限期地保留。用户既不能删除它,也不能限制它的使用目的。因此,数据隐私一直是政府和公司非常关注的问题。这带来了一个非常有趣的挑战,因为一方面,我们正在进一步推动高质量的模型和可访问的数据,但另一方面,我们需要保护数据的安全,防止故意和意外的泄漏。数据越是个人化,就越受限制,这意味着一些最重要的社会问题无法使用机器学习来解决,因为研究人员无法获得适当的训练数据。但是,通过学习如何保护隐私的机器学习,我们可以在解决许多社会问题(如治疗疾病等)方面发挥巨大作用。深度神经网络容易受到各种推理攻击,因为它们记住了有关其训练数据的信息。在本章中,我们将介绍差分隐私,它确保不同类型的统计分析不会损害隐私和联邦学习,在我们无法访问的数据上训练机器学习模型。
2020-06-29 cs.AI cs.CR cs.LG
Conservative Plane Releasing for Spatial Privacy Protection in Mixed Reality
University of New South Wales(新南威尔士大学);University of Sydney(悉尼大学)
增强现实(AR)或混合现实(MR)平台需要空间理解来检测对象或表面,通常包括它们的结构(即空间几何形状)和光度(例如颜色和纹理)属性,以允许应用将虚拟或合成对象看似“锚定”在现实世界对象上;在某些情况下,甚至允许物理对象和虚拟对象之间的交互。这些功能需要AR/MR平台以高分辨率和高频率捕获3D空间信息;然而,这些对用户隐私造成了前所未有的风险。除了被检测到的对象之外,空间信息还以高特异性揭示用户的位置,例如用户在房屋的哪个部分。在这项工作中,我们建议利用空间概括加上保守的释放,以提供空间隐私,同时保持数据效用。我们设计了一个对手,建立在现有的位置和形状识别方法的3D数据作为攻击者,提出的空间隐私的方法可以进行评估。然后,我们模拟用户在空间内的移动,当他们利用从Microsoft HoloLens收集的3D点云移动时,可以显示更多的空间。结果表明,揭示不超过11个广义平面-从连续揭示的空间积累足够大的半径,即$r\leq1.0m$ -可以使对手无法识别用户的空间位置至少一半的时间。此外,如果累积的空间具有较小的半径,即每个连续揭示的空间是$r\leq 0.5m$,则我们可以释放多达29个广义平面,同时享受更好的数据效用和隐私。
2020-04-17 cs.CR cs.CV cs.HC
Fawkes: Protecting Privacy against Unauthorized Deep Learning Models
University of Chicago(芝加哥大学)
如今,强大的面部识别系统的激增对个人隐私构成了真正的威胁。正如Clearview.ai所展示的那样,任何人都可以在互联网上搜索数据,并在不知情的情况下训练高度准确的个人面部识别模型。我们需要工具来保护自己免受未经授权的面部识别系统的潜在滥用。不幸的是,目前还没有实际或有效的解决办法。在本文中,我们提出了Fawkes,这是一个帮助个人将他们的图像与未经授权的面部识别模型进行对比的系统。Fawkes通过帮助用户在发布照片之前添加难以察觉的像素级变化(我们称之为“斗篷”)来实现这一点。当用于训练面部识别模型时,这些“隐形”图像产生的功能模型始终会导致用户的正常图像被错误识别。我们的实验表明,福克斯提供95+%的保护,对用户识别,无论如何跟踪器训练他们的模型。即使干净的、未隐藏的图像被“泄露”给跟踪器并用于训练,福克斯仍然可以保持80%以上的保护成功率。我们在针对当今最先进的面部识别服务的实验中取得了100%的成功。最后,我们表明,福克斯是强大的各种对策,试图检测或破坏图像斗篷。
2020-06-23 cs.CR cs.CV cs.LG