Android OS Privacy Under the Loupe -- A Tale from the East
中国目前是Android智能手机用户最多的国家。我们使用静态和动态代码分析技术相结合的方法来研究中国最受欢迎的三家供应商的Android智能手机上预装的系统应用程序传输的数据。我们发现,数量惊人的预装系统、供应商和第三方应用程序被授予了危险的权限。通过流量分析,我们发现这些包向许多第三方域传输与用户设备(永久标识符),地理位置(GPS坐标,网络相关标识符),用户配置文件(电话号码,应用程序使用情况)和社交关系(例如,呼叫历史),而无需同意或甚至通知。这带来了严重的去匿名化和跟踪风险,当用户离开中国时,这些风险会延伸到中国境外,并要求更严格地执行最近通过的数据隐私立法。
2023-02-03 cs.CR
Do Vision-Language Models Respect Contextual Integrity in Location Disclosure?
Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学)
本文研究了视觉-语言模型在位置披露中的隐私问题,指出现有模型在隐私保护方面存在不足,提出VLM-GEOPRIVACY基准以评估模型对上下文完整性的尊重程度。
2026-02-17 cs.AI cs.CR
A Case Study of Intra-library Privacy Issues on Android GPS Navigation Apps
Android不受限制的应用程序市场具有开源性质,使其成为全球数百万智能设备上第三方应用程序的流行平台。具有广泛API(包括访问手机硬件、设置和用户数据)的应用程序的巨大增长引发了对用户隐私的担忧,因为从应用程序收集的信息可能用于分析目的。在这方面,本文侧重于地理定位数据和分析五个GPS应用程序,以确定隐私风险,如果没有适当的保障措施。我们的研究结果表明,GPS导航应用程序可以访问几种类型的设备数据,同时它们可能允许个人数据泄露给第三方,如图书馆提供商或跟踪服务,而不向用户提供足够或准确的信息。此外,由于他们使用的是第三方图书馆,他们遭受了图书馆内勾结的问题,这可能会被广告和分析公司通过应用程序利用,并在未经用户明确同意的情况下收集大量个人信息。
2021-09-08 cs.CR
An Automated Contact Tracing Approach for Controlling Covid-19 Spread Based on Geolocation Data from Mobile Cellular Networks
冠状病毒(COVID-19)由于其持续的结构进化以及缺乏针对这种特定病毒的适当解毒剂,因此似乎是最大的挑战。该病毒主要通过密切接触在大规模人群中传播和复制,不幸的是,这可能以许多不可预测的方式发生。因此,为了减缓这种新型病毒的传播,唯一相关的措施是保持社交距离,进行接触者追踪,使用适当的安全装备和实施隔离措施。但是,尽管这些方法在理论上是可行的,但在人口稠密的国家和地区很难坚持。因此,为了控制病毒传播,研究人员和当局正在考虑使用基于智能手机的移动应用程序(应用程序)来识别可能的感染者以及高风险区域,以保持隔离和封锁措施。然而,这些方法严重依赖于先进的技术特征,并暴露出重大的隐私漏洞。在本文中,我们提出了一种基于手机用户地理位置数据的COVID-19接触者追踪新方法。拟议的方法将有助于当局在不使用基于智能手机的移动应用程序的情况下确定可能感染的人数。此外,所提出的方法可以帮助人们做出何时寻求医疗援助的重要决定,让他们知道他们是否已经在暴露人员名单上。数值算例表明,该方法可以显着优于智能手机应用程序为基础的解决方案。
2020-07-06 cs.CR cs.CY
Privacy-Preserving and Secure Spectrum Sharing for Database-Driven Cognitive Radio Networks
University of South Florida(南佛罗里达大学);Bellini College of Artificial Intelligence, Cybersecurity and Computing(贝利尼人工智能、网络安全与计算学院);Zurich University of Applied Sciences (ZHAW)(苏黎世应用科学大学);Department of Informatics, University of Zurich (UZH)(苏黎世大学信息学系)
本文提出SLAPX框架,通过可委托匿名凭证和可验证延迟函数,实现数据库驱动认知无线电网络中的隐私保护频谱共享和安全防御。
2026-03-02 cs.CR
Not Your Average App: A Large-scale Privacy Analysis of Android Browsers
移动浏览器的透明度和隐私行为仍然没有被研究界广泛探索。事实上,与常规的Android应用程序相反,移动浏览器可能会出现相互矛盾的隐私行为。一方面,他们可以访问(并暴露)敏感用户数据的独特组合,从用户的浏览历史到受权限保护的个人身份信息(PII),如唯一标识符和地理位置。然而,另一方面,他们也处于一个独特的位置,通过实施广告拦截功能限制与其他方的数据共享来保护用户的隐私。在本文中,我们对数百种Android Web浏览器如何在浏览会话期间保护或暴露用户数据进行了比较和实证分析。为此,我们从Google Play商店和四个中国应用商店收集了迄今为止最大的Android浏览器数据集。然后,我们开发了一种新的分析管道,该管道结合了静态和动态分析方法来找到广泛的隐私增强(例如,广告拦截)和隐私损害行为(例如,将浏览历史发送给第三方,不验证TLS证书,并将PII(包括不可重置的标识符)暴露给第三方)。我们发现Google Play和中国商店中的各种流行应用程序都存在这些隐私损害行为,包括在描述中声称隐私增强的应用程序。总的来说,我们的研究不仅为浏览器的采用和透明度提供了重要但被忽视的考虑因素的新见解,而且自动应用分析系统(例如,沙箱)需要上下文特定分析来揭示这种隐私行为。
2022-12-07 cs.CR
Privacy Preserving Release of Mobile Sensor Data
移动智能设备中嵌入的传感器可以高精度地监测用户的活动,为最终用户提供各种服务,包括精确的地理定位、健康监测和手写文字识别。然而,这涉及访问个人的敏感信息并可能向应用程序披露个人敏感信息的风险,这可能导致隐私泄露。在本文中,我们的目标是通过用户跟踪和可验证性来最大限度地减少可能导致移动设备上用户身份识别的隐私泄露,同时保留应用程序和服务的功能。我们提出了一种隐私保护机制,有效地处理传感器数据波动(例如,在不同时间行走、坐着和跑步时传感器读数不一致)。该机制还使用了相关噪声序列的概念来对抗来自对手的噪声过滤攻击,其目的是从扰动数据中过滤掉噪声以重新识别原始数据。与现有的解决方案不同,我们的机制保持隔离运行,没有用户或服务提供者的交互。我们在基准数据集上进行了严格的实验,结果表明,与原始数据相比,我们提出的机制在很大程度上限制了用户跟踪和可扩展性威胁,同时保持了合理的功能实用性水平。总的来说,我们表明,我们的混淆机制在所有数据集上将用户可跟踪性威胁降低了60%,同时将效用损失保持在0.5平均绝对误差(MAE)以下。我们还观察到,我们的机制在大型数据集中更有效。例如,使用Swipes数据集,可重复性风险平均降低了60%,而效用损失低于0.5 MAE。
2022-05-13 cs.CR
A Systematic Literature Review On Privacy Of Deep Learning Systems
在过去的十年里,深度学习兴起,其应用范围遍及各个领域。但通常,用于驱动这些系统的数据集包含高度机密和敏感的数据。尽管深度学习模型可能会被窃取,或进行逆向工程,但可以推断出机密的训练数据,并且已经确定了其他隐私和安全问题。因此,这些系统非常容易受到安全攻击。本研究重点介绍了学术研究,重点介绍了几种类型的安全攻击,并全面概述了最广泛使用的隐私保护解决方案。这一相关的系统评估也阐明了隐私和深度学习领域未来潜在的学习、教学和使用可能性。
2022-12-07 cs.CR
Context-Aware Local Differential Privacy
Cornell University(康奈尔大学);Google(谷歌)
局部差分隐私(LDP)是个人用户的一种强隐私概念,通常以效用显著下降为代价。LDP的经典定义假设数据域中的所有元素都是同等敏感的。然而,在许多应用中,某些符号比其他符号更敏感。这项工作提出了一个上下文感知框架的本地差分隐私,允许隐私设计师将应用程序的上下文到隐私定义。对于二进制数据域,我们提供了一个普遍最优的私有化方案,并强调其连接到华纳的随机响应(RR)和Mangat的改进响应。受地理定位和Web搜索应用的启发,对于$k$元数据域,我们考虑了上下文感知LDP的两种特殊情况:块结构LDP和高低LDP。我们研究离散分布估计,并提供通信效率,样本最优方案和信息理论的下界这两个模型。我们表明,使用上下文信息可以需要更少的样本比经典的LDP达到相同的精度。
2020-07-27 cs.CR cs.DS cs.IT
Your Signal, Their Data: An Empirical Privacy Analysis of Wireless-scanning SDKs in Android
本研究首次系统性分析Android平台52款无线扫描SDK,揭示其数据收集与SDK间共享、ID桥接等隐私风险,并提出沙箱强化等缓解策略以限制未授权追踪。
2025-03-19 cs.CR
A systematic literature review on Virtual Reality and Augmented Reality in terms of privacy, authorization and data-leaks
近年来,VR和AR已经成为一个百万富翁市场。随着这项新兴技术已经传播到各种企业,并在用户中迅速增加。解决这些技术可能带来的潜在隐私和安全问题至关重要。在这项研究中,我们讨论了VR和AR中隐私和安全的现状。我们分析可能的问题和风险。此外,我们将详细介绍AR和VR的一些主要问题和相关安全解决方案。此外,由于VR和AR认证是该问题研究最彻底的方面,因此我们专注于该领域已经完成的研究。
2022-12-09 cs.CR
Privacy Risks in Health Big Data: A Systematic Literature Review
本文通过系统性文献综述梳理健康大数据隐私与安全研究,分析同态加密、区块链、联邦学习和人工免疫系统等技术的保护作用,并指出挑战与未来研究框架。
2025-02-06 cs.CR
A Systematic Review and Taxonomy for Privacy Breach Classification: Trends, Gaps, and Future Directions
The Beacom College of Computer;Cyber Sciences Dakota State University Madison, USA
本文通过系统综述和分类法,分析隐私泄露分类的研究趋势、缺口及未来方向,指出泄露检测和预测模型等领域的研究潜力。
2025-05-19 cs.CR
Lessons in VCR Repair: Compliance of Android App Developers with the California Consumer Privacy Act (CCPA)
本研究通过对比Android应用实际网络流量与隐私政策及VCR回复,调查开发者对CCPA的合规情况,发现大量应用存在未披露收集用户数据的问题,并提出改进建议。
2023-04-03 cs.CR cs.CY
Systematic Survey on Privacy-Preserving Architectures for IoT and Vehicular Data Sharing: Techniques, Challenges, and Future Directions
Ho Chi Minh City University of Technology (HCMUT)(胡志明市理工大学);Vietnam National University Ho Chi Minh City(越南国立大学胡志明市);FPT University(FPT大学);RMIT University(皇家墨尔本理工大学);Ton Duc Thang University(顿特堂大学)
本文系统分析了75篇关于物联网和车联网数据共享中隐私保护架构的论文,揭示了隐私-效率-信任三重困境,并指出混合架构是未来发展方向。
2026-03-04 cs.CR
Revealing the Landscape of Privacy-Enhancing Technologies in the Context of Data Markets for the IoT: A Systematic Literature Review
近年来,公共和私营机构的物联网数据市场变得越来越重要,因为它们有潜力提高数据可用性并开启新的商业模式。然而,在市场上交换数据面临着与披露敏感信息有关的相当大的挑战。尽管大量研究集中在物联网隐私增强数据市场的不同方面,但迄今为止提出的解决方案似乎都没有得到实际采用。因此,本研究的目的是组织最先进的解决方案,分析和范围内的技术,已建议在这种情况下,和结构剩余的挑战,以确定未来需要研究的领域。为了实现这一目标,我们对物联网数据市场的隐私增强进行了系统的文献综述,涵盖了截至2020年7月的50篇出版物,并提供了截至2022年5月的24篇出版物的更新。我们的研究结果表明,这一领域的大多数研究都是最近才出现的,而且没有一个物联网数据市场架构已经成为规范。现有的解决方案通常缺乏匿名化和安全计算技术的必要组合。此外,对于区块链技术在物联网数据市场的适当使用,以及利用现有库或重用通用数据市场架构的程度较低,还没有达成共识。我们还确定了仍然存在的重大挑战,如复制问题和递归强制执行问题,虽然解决方案已在一定程度上提出,但在拟议的设计中往往没有得到充分解决。我们的结论是,隐私增强技术需要进一步改进,以积极影响数据市场,以便最终通过数据稀缺性保护数据的价值,并保护用户的隐私和关键业务信息。
2022-07-12 cs.CR
Assessing metadata privacy in neuroimaging
Copenhagen University Hospital(哥本哈根大学医院);Instituto de Física de Cantabria(坎塔布里亚物理研究所);Stanford University(斯坦福大学)
该研究评估了神经影像学数据集的隐私风险,发现人口统计数据是主要隐私漏洞,提出了缓解措施以提高数据共享的安全性。
2026-01-27 cs.CR cs.CY eess.IV
You Can Run, But You Cannot Hide: Using Elevation Profiles to Breach Location Privacy through Trajectory Prediction
智能手机和可穿戴设备的广泛使用促进了许多有用的应用。例如,通过配备全球定位系统(GPS)的智能和可穿戴设备,许多应用程序可以收集、处理和共享丰富的元数据,例如地理位置、轨迹、海拔和时间。例如,诸如Strava和Runkeeper的健身应用利用信息进行活动跟踪,并且最近见证了流行的繁荣。这些跟踪器有自己的网络平台,并允许用户在这些平台上分享活动,甚至与其他社交网络平台。为了在允许共享的同时保护用户的隐私,这些平台允许用户公开部分信息,例如活动的海拔剖面,这应该不会泄露位置轨迹。在这项工作中,我们研究在何种程度上公开可用的海拔剖面可以用来预测用户的位置轨迹。为了解决这个问题,我们设计了三个威胁设置,在这些设置下,可以预测城市、自治市甚至路线。这些威胁设置定义了对手可用于发动预测攻击的信息量。建立高程剖面的简单特征,例如,光谱特征是不够的,我们设计了高度轮廓的自然语言处理(NLP)启发的类文本表示和计算机视觉启发的类图像表示,并且我们将手头的问题转换为文本和图像分类问题。我们使用传统的机器学习和基于深度学习的技术,并实现了59.59%至95.83%的预测成功率。研究结果令人震惊,并强调共享海拔剖面等信息可能会带来重大的隐私风险。
2019-10-20 cs.CR cs.SI
Empirical Analysis of Randomness Quality in Differential Privacy Mechanisms
Università degli Studi dell’Insubria(因苏布里亚大学);Random Power Srl(Random Power公司)
本研究实证分析随机性质量对差分隐私机制的影响,发现熵退化可被检测,但统计异常不等同于隐私泄露。
2026-09-18 cs.CR
Systematic Evaluation and User Study of Privacy of Default Apps in Apple's Mobile Ecosystem
用户需要在首次开始使用设备时配置默认应用程序。默认应用程序的隐私配置并不总是与用户认为他们最初启用的配置相匹配。我们首先系统地评估了默认应用程序的隐私配置。我们发现默认应用程序的文档存在严重问题。基于这些发现,我们探讨了用户的经验与访谈研究(N=15)。我们从两项研究中发现:设置默认应用程序的隐私配置的说明是模糊的,缺乏必要的步骤;用户无法禁用默认应用程序访问他们的个人信息;用户认为他们正在被一些默认应用程序跟踪;默认应用程序可能会导致家庭关系紧张,因为信息共享。我们的研究结果阐明了配置默认应用程序隐私的隐私和安全影响,以及用户如何感知和理解移动生态系统。
2022-10-10 cs.CR cs.HC
Image Privacy Protection: A Survey
本文基于隐私保护目标对图像隐私保护方法进行系统综述,定义隐私敏感域并构建涵盖数据级、内容级和特征级三个层级的综合框架,分析了各类别的主要方法、代表性方案及未来挑战。
2024-12-05 cs.CR
Assessing Mobile Application Privacy: A Quantitative Framework for Privacy Measurement
本文提出一种隐私量化框架,系统评估Android应用的隐私风险,通过定性标签帮助用户做出知情决策,推动隐私优先的数字环境建设。
2023-10-31 cs.CR
A Systematic Review of Technical Defenses Against Software-Based Cheating in Online Multiplayer Games
King Saud University(沙特国王大学)
本文综述了在线多人游戏中针对软件作弊的技术防御方法,分析了不同防御策略在检测效果、性能开销和隐私影响等方面的权衡,并强调了对抗作弊所需的稳健设计。
2025-12-24 cs.CR
Security and Privacy for mHealth and uHealth Systems: a Systematic Mapping Study
移动健康(mHealth)和无处不在的健康(uHealth)系统的日益普及使用户能够使用手持设备和嵌入式传感器来提供广泛的医疗保健服务。然而,m/uHealth系统面临着与数据安全和隐私相关的重大挑战,必须解决这些挑战,以提高此类系统的普及性。本研究旨在系统地识别、分类、比较和评估m/uHealth系统的安全性和隐私性。我们基于365项定性选择的研究进行了系统性映射研究(SMS),以(i)对已发表研究的类型,频率和人口统计进行分类,(ii)对研究主题进行综合和分类,(iii)经常性挑战,(iv)突出的解决方案(即,研究成果)及其(v)报告的评价(即,实际验证)。结果表明,现有的研究的安全和隐私的m/uHealth系统主要集中在选择组的控制家庭(符合NIST 800 -53),保护系统和信息,访问控制,身份验证,个人参与,和隐私授权。相比之下,数据治理、安全和隐私政策以及项目管理领域的代表性不足,尽管这些领域对大多数采用m/uHealth系统的组织至关重要。大多数研究提出了新的解决方案,但验证有限,反映了缺乏对现实世界中m/uHealth的安全性和隐私性的评估。经验研究,开发和验证的m/uHealth安全和隐私仍处于起步阶段,这可能会阻碍从业人员从文献中采用解决方案。该SMS促进了知识转移,使研究人员和从业人员能够为新兴和下一代m/uHealth系统设计安全和隐私。
2020-06-22 cs.CR cs.CY
Differentially Private Federated Learning: A Systematic Review
Stevens Institute of Technology(史蒂文斯理工学院);University of Connecticut(康涅狄格大学);Tongji University(同济大学);Northeastern University(东北大学);The Hong Kong Polytechnic University(香港理工大学);East China Normal University(华东师范大学);Institute of Science Tokyo(东京科学研究所)
该研究针对现有差分隐私联邦学习系统综述的不足,提出基于隐私模型定义、保障特性与联邦场景的新分类体系,梳理相关应用,为隐私保护联邦学习提供研究参考与未来方向。
2025-10-02 cs.CR cs.LG
Privacy Threats and Countermeasures in Federated Learning for Internet of Things: A Systematic Review
School of Computing, University of Kent(肯特大学计算机学院)
本文系统综述了物联网环境中联邦学习的隐私威胁与防御措施,指出需开发轻量级、结合区块链等新兴技术的隐私保护策略,以应对推理、投毒、重放及模型窃取等攻击。
2024-07-25 cs.AI cs.CR
A Systematic Literature Review on Wearable Health Data Publishing under Differential Privacy
可穿戴设备生成关于个体的不同类型的生理数据。这些数据可以为医学研究人员和临床医生提供通过传统措施无法利用的有价值的见解。历史上,研究人员一直依赖于调查响应或观察到的行为。有趣的是,生理数据可以提供比从任何其他来源(包括用户自己)获得的更丰富的用户认知。因此,廉价的消费级可穿戴设备已成为健康研究人员的兴趣点。此外,它们还用于连续的远程健康监测,有时也被保险公司使用。然而,这种用例最大的问题是个人的隐私。抽象和k-匿名等几种隐私机制在信息系统中得到了广泛的应用。最近,差分隐私(DP)已经成为发布隐私敏感数据(包括来自可穿戴设备的数据)的熟练技术。在本文中,我们进行了系统性文献综述(SLR),以识别,选择和批判性地评价DP的研究,以及了解不同的技术和DP在可穿戴数据发布中的现有使用。根据我们的研究,我们已经确定了所提出的解决方案的局限性,并提供了未来的方向。
2021-09-15 cs.CR cs.CY
Digital Privacy Under Attack: Challenges and Enablers
University of Technology Sydney(悉尼科技大学);Deakin University(迪肯大学);Hunan University(湖南大学);City University of Macau(澳门城市大学)
本文系统梳理数据驱动系统中针对匿名数据、统计聚合和隐私保护模型的隐私攻击及防御措施,分析隐私—效用权衡,并指出差分隐私的实现挑战与未来研究方向。
2025-09-29 cs.CR
Privacy in Location Based Services: Primitives Toward the Solution
基于位置的服务(LBS)是数据库系统、移动通信、互联网技术和定位系统等领域的融合技术中最有前途和创新的方向之一。虽然早在20世纪90年代中期就开始了,但直到最近,由于其商业和技术影响,LBS才受到系统深入的研究兴趣。由于LBS与用户的位置相关,可用于跟踪用户的活动,因此引起了强烈的隐私问题。为了保存用户的位置,已经引入了一些智能工程,但仍有许多挑战有待解决。本文介绍了一个调查的LBS系统考虑到本地化技术,模型和架构,保证隐私。我们还概述了可能用于保护LBS隐私的密码原语,随后是基本上与隐私问题有关的富有成效的研究方向。
2009-03-16 cs.CR
PrivacyBench: Privacy Isn't Free in Hybrid Privacy-Preserving Vision Systems
ML Collective(ML集体);Friedrich-Alexander-Universität Erlangen-Nürnberg(埃朗根-纽伦堡弗里德里希-亚历山大大学);Carnegie Mellon University(卡内基梅隆大学)
提出PrivacyBench框架,系统评估FL+DP、FL+SMPC等混合隐私技术在医学图像分类中的交互效应,发现FL+DP组合导致严重收敛失败和性能下降,而FL+SMPC保持近基线性能,为隐私-效用-成本权衡提供系统评估平台。
2026-06-26 cs.CR cs.CV
Lalaine: Measuring and Characterizing Non-Compliance of Apple Privacy Labels at Scale
作为众所周知的冗长且难以阅读的隐私政策的关键补充,Apple推出了应用程序隐私标签,据称可以帮助用户更容易地了解应用程序的隐私做法。然而,虚假和误导性的隐私标签可能会欺骗注重隐私的消费者下载数据密集型应用程序,最终侵蚀标签的可信度和完整性。尽管苹果发布了应用开发者创建隐私标签的要求和指导方针,但外界对隐私标签是否以及在多大程度上是正确和合规的,反映了iOS应用的实际数据做法知之甚少。本文提出了第一个系统的研究,基于我们的新方法命名为Lalaine,评估数据流的隐私标签(流到标签)的一致性。Lalaine分析了5,102个iOS应用程序的隐私标签和二进制文件,揭示了隐私标签违规的普遍性和严重性。我们提供详细的案例研究,并分析隐私标签不合规的根本原因,以补充先前的理解。这为改进隐私标签设计和合规性要求带来了新的见解,因此应用程序开发人员,平台利益相关者和政策制定者可以更好地实现其隐私和问责制目标。Lalaine是彻底评估其高效率和有效性。我们负责任地向利益相关者报告结果。
2022-06-19 cs.CR
Data Forensics in Diffusion Models: A Systematic Analysis of Membership Privacy
Technical University of Munich(慕尼黑工业大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本文系统分析扩散模型的成员推断攻击,利用易获取量设计针对不同场景的新攻击方法,在现实设置下取得接近完美的攻击性能,揭示了扩散模型在图像生成中的隐私与知识产权风险。
2023-08-05 cs.CR cs.LG
Technical Privacy Metrics: a Systematic Survey
隐私度量的目标是衡量系统中用户享有的隐私程度以及隐私增强技术提供的保护量。通过这种方式,隐私指标有助于改善数字世界中的用户隐私。在文献中的隐私指标的多样性和复杂性,使一个明智的选择具有挑战性的指标。因此,新的度量标准被频繁提出,而不是使用现有的度量标准,隐私研究往往是不可比较的。在本调查中,我们通过构建隐私指标的景观来缓解这些问题。为此,我们解释和讨论了80多个隐私指标,并根据它们测量的隐私方面,所需的输入以及需要保护的数据类型进行分类。此外,我们还提出了一种基于九个问题来选择隐私指标的方法,这些问题有助于为给定场景确定正确的隐私指标,并强调了需要在隐私指标上进行额外工作的主题。我们的调查涵盖多个隐私领域,可以理解为隐私测量的一般框架。
2018-06-20 cs.CR cs.IT cs.PF
A Systematic and Formal Study of the Impact of Local Differential Privacy on Fairness: Preliminary Results
INRIA(法国国家信息与自动化研究所);École Polytechnique(巴黎综合理工学院);IPP(IPP机构);Mathematical Institute of the Serbian Academy of Sciences and Arts(塞尔维亚科学院数学研究所);Inria Centre at the University Grenoble Alpes(格勒诺布尔大学Inria中心)
本研究系统形式化地分析局部差分隐私对机器学习公平性的影响,给出基于联合分布和隐私水平的界限,并区分隐私减少或加剧歧视的情形,在合成与真实数据上初步验证。
2024-05-23 cs.CR cs.LG
SOK: Privacy Definitions and Classical Mechanisms in the Local Setting
本文针对本地环境下的隐私概念,从逐点/平均情况保护、上下文感知/无上下文、交互式/非交互式模型三个维度展开对比分析,构建统一框架以辅助研究者和从业者选择适配的隐私方案。
2023-08-26 cs.CR
Learning Location from Shared Elevation Profiles in Fitness Apps: A Privacy Perspective
Meta;Google(谷歌);University of Central Florida(中佛罗里达大学);Korea University(高丽大学)
智能手机和可穿戴设备的广泛使用促进了许多有用的应用。例如,通过配备全球定位系统(GPS)的智能和可穿戴设备,许多应用程序可以收集、处理和共享丰富的元数据,例如地理位置、轨迹、海拔和时间。例如,诸如Runkeeper和Strava的健身应用程序利用信息进行活动跟踪,并且最近见证了流行的繁荣。这些健身追踪器应用程序有自己的网络平台,并允许用户在这些平台上甚至与其他社交网络平台分享活动。为了在允许共享的同时保护用户的隐私,其中一些平台可能允许用户披露部分信息,例如活动的海拔剖面,这应该不会泄露用户的位置。在这项工作中,作为一个警示性的故事,我们创建了一个概念证明,我们检查了海拔剖面可以用来预测用户位置的程度。为了解决这个问题,我们设计了三个合理的威胁设置下,城市或自治市的目标可以预测。这些威胁设置定义了对手可用于发动预测攻击的信息量。建立高程剖面的简单特征,例如,光谱特征是不够的,我们设计了高度轮廓的自然语言处理(NLP)启发的类文本表示和计算机视觉启发的类图像表示,并且我们将手头的问题转换为文本和图像分类问题。我们使用传统的机器学习和基于深度学习的技术,并实现了59.59%至99.80%的预测成功率。研究结果令人震惊,强调共享海拔信息可能会带来重大的位置隐私风险。
2022-10-27 cs.CR cs.CY cs.LG
Exploring the Relationships between Privacy by Design Schemes and Privacy Laws: A Comparative Analysis
物联网(IoT)应用有可能获取关于个人的敏感信息。因此,开发人员必须进行尽职调查,以确保根据隐私法规和数据保护法律管理数据。然而,这样做可能是一项困难和具有挑战性的任务。最近的研究表明,开发人员在遵守法规时通常会遇到困难。一个关键原因是,有时,法规是模糊的,提取和颁布此类法律要求可能具有挑战性。在我们的研究论文中,我们对不同大洲使用的数据保护法律进行了系统分析,即:(i)一般数据保护条例(GDPR),(ii)个人信息保护和电子文件法(PIPEDA),(iii)加利福尼亚州消费者隐私法(CCPA),(iv)澳大利亚隐私原则(APP),以及(v)新西兰1993年隐私法。在这份技术报告中,我们介绍了框架分析方法的详细结果,以全面了解不同的数据保护法律,并强调了差异,以帮助开发人员遵守不同地区的法规,并创建一个综合隐私法框架(CPLF)。在此之后,我们给出了一个概述的各种隐私设计(PbD)方案以前开发的不同的研究人员。然后,CPLF的关键原则和个人权利与隐私设计(PbD)计划的隐私原则,策略,指导方针和模式进行映射,以调查现有计划的差距。
2022-10-06 cs.CR
Security and Privacy on Generative Data in AIGC: A Survey
本综述首次从信息安全属性角度系统分析AIGC生成数据的安全与隐私问题,梳理了隐私、可控性、真实性和合规性方面的对策,并总结基准与未来方向。
2024-11-07 cs.CR
Systematic Evaluation of Privacy Risks of Machine Learning Models
Princeton University(普林斯顿大学)
机器学习模型倾向于记忆敏感数据,使其容易受到成员推断攻击,其中对手旨在猜测输入样本是否用于训练模型。在本文中,我们表明,以前的工作成员推断攻击可能严重低估了隐私风险,仅仅依靠训练自定义神经网络分类器来执行攻击,只关注数据样本的聚合结果,如攻击的准确性。为了克服这些局限性,我们首先提出了基准成员推理隐私风险,通过改进现有的非神经网络为基础的推理攻击,并提出了一种新的推理攻击方法的基础上修改的预测熵。我们还提出了防御机制的基准,通过考虑具有防御知识的自适应对手,并考虑模型准确性和隐私风险之间的权衡。使用我们的基准攻击,我们证明了现有的防御方法并不像以前报道的那样有效。接下来,我们引入了一种新的方法,通过制定和推导一个新的度量称为隐私风险评分细粒度的隐私分析。我们的隐私风险评分指标衡量了单个样本成为训练成员的可能性,这使得对手能够识别具有高隐私风险的样本并以高置信度执行攻击。我们通过实验验证了隐私风险评分的有效性,并证明了隐私风险评分在各个样本中的分布是异质的。最后,我们进行了深入的调查,以了解为什么某些样本具有高隐私风险,包括与模型敏感性,泛化误差和特征嵌入的相关性。我们的工作强调了对机器学习模型的隐私风险进行系统和严格评估的重要性。
2020-12-09 cs.CR cs.LG stat.ML
A Systematic Evaluation of Traditional Privacy Policy Analysis Tools Against LLMs
University of South Florida(佛罗里达州立大学);IBM T.J. Watson Research Center(IBM 汤普森研究中心)
本文系统评估现成大语言模型能否取代专业隐私分析工具,研究六个具三种主要功能及三个中间任务的工具,对比两个先进大语言模型与工具性能,发现大语言模型在隐私政策和法规分析功能上能匹配或超越现有工具。
2026-07-23 cs.CL cs.CR
Towards Efficient Privacy-Preserving Machine Learning: A Systematic Review from Protocol, Model, and System Perspectives
Peking University(北京大学)
本文从协议、模型和系统三个层级系统综述了隐私保护机器学习的高效优化研究,比较现有工作并提出跨层级整合优化的未来方向。
2025-07-19 cs.AI cs.CR
Reconciling Privacy and Explainability in High-Stakes: A Systematic Inquiry
SRM University AP, India(SRM大学)
本文系统探究高风险决策中隐私权与解释权的调和,聚焦差分隐私模型与事后解释器的交互,提出评估方法并概述兼顾两者的工业流水线。
2025-05-22 cs.AI cs.CR cs.CV
Security and Privacy Concerns in Cloud-based Scientific and Business Workflows: A Systematic Review
如今,数据密集型和计算密集型应用程序(如商业和科学工作流)的数量急剧增加,这使得云计算在按需提供大量计算资源方面更加流行。另一方面,安全性是影响云技术广泛采用的关键问题,特别是对于主要处理敏感数据和任务的工作流。在本文中,我们对云环境中科学和业务工作流程中的安全和隐私问题如何得到解决的最新技术进行了审查,并确定了该领域当前知识体系的局限性和差距。在这篇广泛的文献综述中,我们首先根据工作流生存周期的各个阶段对最先进的安全解决方案进行了分类。根据我们的研究结果,我们提供了一个详细的审查和分类的最相关的现有文献,重点是执行,监控和适应阶段的工作流程。最后,我们提出了一系列与基于云的工作流的安全性相关的开放研究问题,并对其进行了讨论。
2022-10-05 cs.CR cs.SE
Tagvisor: A Privacy Advisor for Sharing Hashtags
标签已经成为流行文化和运动中广泛使用的概念,但其对人们隐私的影响迄今尚未被调查。在本文中,我们提出了第一个由标签引起的隐私问题的系统分析。我们特别关注位置,这被认为是互联网时代的关键隐私问题之一。通过依赖于一个随机森林模型,我们表明,我们可以推断用户的精确位置从标签的准确性为70\ %至76\ %,这取决于城市。为了解决这种情况,我们引入了一个名为Tagvisor的系统,如果用户选择的标签对位置隐私构成威胁,该系统会系统地建议替代标签。tagvisor通过三种概念上不同的混淆技术和一个基于语义的度量来实现这一点,用于测量随之而来的效用损失。我们的研究结果表明,在我们的数据集中,混淆两个标签已经在隐私和实用性之间提供了接近最佳的权衡。这特别使Tagvisor具有高度的时间效率,因此在现实世界中非常实用。
2018-02-12 cs.CR cs.SI
Systematic Assessment of Tabular Data Synthesis
Purdue University(普渡大学)
本文提出系统性评估框架,引入保真度、隐私和效用的新指标,对8种表格数据合成器在12个数据集上评估,发现新方向。
2025-09-07 cs.CR cs.DB cs.LG
Metaverse Security and Privacy Research: A Systematic Review
本文系统综述了2013至2024年元宇宙安全与隐私研究,揭示研究快速增长且侧重实用方法,但政策合规、可访问性、互操作性和后端安全仍存关键空白,呼吁跨学科综合方法保障沉浸式环境安全。
2025-07-20 cs.CR cs.ET cs.HC
An In-depth Review of Privacy Concerns Raised by the COVID-19 Pandemic
COVID-19极大地改变了我们的生活、工作以及与人的互动。随着越来越多的在线活动,人们很容易受到隐私威胁。在本文中,我们探讨了用户如何在社交媒体上自我披露以及这些行为引起的隐私问题。根据最近的新闻、技术和研究,我们指出了COVID-19大流行造成的三种日益严重的隐私威胁。在此之后,我们对与COVID大流行相关的潜在隐私问题进行系统分析。此外,我们还提出了一系列关于在线用户自我披露和隐私问题的研究方向,以供未来工作以及可能的解决方案。
2021-01-23 cs.CR cs.SI
A Systematic Literature Review on Blockchain Enabled Federated Learning Framework for Internet of Vehicles
Jashore University of Science and Technology(贾绍尔科技大学);University of Information Technology and Sciences(信息技术与科学大学);Deakin University(迪肯大学);Charles Sturt University(查尔斯特大学)
虽然人工智能(AI)技术与改进的信息技术系统的融合确保了车联网(IoV)系统的巨大利益,但它也带来了越来越多的安全和隐私威胁。为了确保车联网数据的安全性,隐私保护方法在文献中得到了极大的关注。然而,这些策略也需要具体的调整和修改,以应对车联网设计的进步。在此期间,联邦学习(FL)已被证明是保护车联网数据隐私和安全的新兴理念。另一方面,区块链技术在安全、分散和可审计的数据记录和共享方案方面表现出了突出的可能性。在本文中,我们对物联网中基于区块链的联邦学习框架的应用和实现进行了全面的调查。此外,可能存在的问题,挑战,解决方案,以及未来的研究方向BC使能FL框架的车联网也提出了。该调查可进一步用作开发现代BC启用FL解决方案的基础,以解决不同的数据隐私问题和车联网场景。
2022-03-10 cs.AI cs.CR
ADAM: A Systematic Data Extraction Attack on Agent Memory via Adaptive Querying
University of Massachusetts Lowell, USA(马萨诸塞大学洛厄尔分校);Amazon, USA(亚马逊);University of South Florida, USA(南佛罗里达大学);Rochester Institute of Technology, USA(罗切斯特理工学院);Purdue University, USA(普渡大学);North Carolina State University, USA(北卡罗来纳州立大学)
本文提出ADAM攻击,通过估计受害者代理内存的数据分布和熵引导查询策略,提升隐私泄露效果,实验显示其攻击成功率高达100%。
2026-04-10 cs.AI cs.CR
SoK: Can Synthetic Images Replace Real Data? A Survey of Utility and Privacy of Synthetic Image Generation
Tulane University(Tulane大学)
本综述系统梳理了PPDS中生成-采样-分类流程的图像合成、隐私攻击与缓解方法,构建基准并利用MIAs评估隐私风险,揭示了合成数据的效用-隐私权衡,为真实数据发布策略提供指导。
2025-06-26 cs.CR cs.CV
A Path to Holistic Privacy in Stream Processing Systems
Technical University of Darmstadt(达姆施塔特工业大学)
本文系统审视了流处理系统与物联网交叉领域的隐私问题,识别了实现全面隐私保护的关键挑战并提出相应解决方案。
2023-05-19 cs.CR cs.LG
Self-Sovereign Identity: A Systematic Review, Mapping and Taxonomy
自我主权身份(SSI)是一种以用户为中心的身份模型。用户在这个模型中维护和控制他们的数据。当服务提供商向用户请求数据时,用户直接将其发送给服务提供商,绕过第三方中介。因此,SSI减少了身份提供者在识别、认证和授权中的参与,从而增加了用户隐私。此外,用户可以与服务提供商共享其个人信息的一部分,从而显著改善用户隐私。这一身份模式引起了全世界研究人员和组织的关注,导致关于这一主题的科学和非科学文献都有所增加。本研究对文献进行了全面而严格的系统回顾,并对SSI的理论和实践进展进行了系统的映射。我们确定并分析了来自审查材料的证据,以解决四个研究问题,从而产生了一种用于分类和审查出版物的新型SSI分类法。此外,开放的挑战进行了讨论,以及对未来工作的建议。
2022-06-20 cs.CR cs.DL
Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing
如何在保护用户隐私的同时支持高实用性分析,以实现低延迟流处理?回答这个问题:我们描述的设计,实施和评估的PRIVAPPROX,数据分析系统的隐私保护流处理。PRIVAPPROX提供了三个属性:(i)隐私:为用户提供零知识隐私保证,比最先进的差分隐私更严格的隐私约束;(ii)效用:数据分析师系统地探索输出准确性之间的权衡的接口(具有误差估计)和查询执行预算;(iii)延迟:基于可扩展的“无同步”分布式架构的近实时流处理。我们的方法背后的关键思想是将两种现有技术结合在一起:即采样(用于近似计算的背景下)和随机响应(用于隐私保护分析的背景下)。由此产生的婚姻是互补的-它实现了更强的隐私保证,并提高了性能,这是实现低延迟流分析的必要因素。
2017-06-05 cs.CR cs.DC
Gaze3P: Gaze-Based Prediction of User-Perceived Privacy
本文提出首个用于研究用户感知隐私的注视数据集Gaze3P,并训练机器学习模型从眼动中动态预测隐私,进而优化差分隐私机制参数,以提升与用户期望的契合度。
2025-09-10 cs.CR cs.HC