Privacy Assessment of De-identified Opal Data: A report for Transport for NSW
我们认为公开发布的去识别数据集的蛋白石卡交易的隐私影响。该数据最近发表在https://opendata.transport.nsw.gov.au/dataset/opal-tap-on-and-tap-off上。它包括新南威尔士州四种公共交通方式的自来水和自来水计数，收集了两个单独的为期一周的时间。这些数据已经被进一步处理，以通过删除小计数，聚合一些站点和路线，以及干扰计数来提高隐私性。这是我们调查结果的总结。
2017-04-27 cs.CR
PIA-Bench: Towards Automated Privacy Impact Assessment with Large Language Models
University of Edinburgh（爱丁堡大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出PIA-Bench，首个评估大语言模型在真实隐私影响评估任务上的开放基准，基于73份结构化PIA（含451项风险与831项缓解措施）测试，发现现成LLMs能产生有意义评估，并呼吁改进领域工作流与基础设施。
2026-09-14 cs.CR
Changes in Conducting Data Protection Risk Assessment and After GDPR implementation
本文通过比较GDPR生效前后两组隐私专业人士焦点小组并进行主题分析，考察DPIA是否解决了以往PIA实施中的挑战。
2023-04-24 cs.CR
Beyond Permissions: A Configuration-Aware Empirical Assessment of Privacy Exposure in Children-Oriented and General-Audience Mobile Gaming Apps
Computer Science Department, Jamoum University College, Umm Al-Qura University（乌姆·古拉大学贾穆姆大学学院计算机科学系）
本文通过三阶段方法分析Android游戏隐私风险，发现儿童游戏虽请求权限较少，但配置层面风险高且嵌入第三方跟踪SDK，为隐私设计提供改进方向。
2026-03-30 cs.CR
Technocracy, pseudoscience and performative compliance: the risks of privacy risk assessments. Lessons from NIST's Privacy Risk Assessment Methodology
本文批判性分析NIST隐私风险评估方法，揭示其自由裁量点导致表演性合规，前提不成立，指出功利主义和技术官僚方法的局限，并探讨替代方案与政策调整。
2023-08-24 cs.CR cs.CY
From Closed-world Enforcement to Open-world Assessment of Privacy
在本文中，我们开发了一个以用户为中心的隐私框架，定量评估个人信息在开放环境中的暴露。我们的形式化解决了这种开放环境所带来的关键挑战，如异构信息的非结构化传播和用户和上下文相关的隐私要求的必要性。我们提出了一个新的定义，信息的敏感性来自我们的形式化的隐私要求，并作为一个健全的检查，显示硬不披露保证是不可能实现的开放设置。在此之后，我们提供了一个实例，我们的框架来解决身份披露问题，导致新的概念的d-收敛。D-收敛基于实体的不可分割性，并且它限制了对手成功地将在线社区中的同一用户的两个简档链接起来的可能性。最后，我们提供了一个大规模的评估我们的框架上收集的1500万条评论从在线社交网络Reddit。我们的评估验证了d-收敛的概念，用于评估我们的数据集中的实体的可链接性，并提供了更深入的了解数据集的结构。
2016-05-12 cs.CR
The Privacy ZEBRA: Zero Evidence Biometric Recognition Assessment
越来越多的隐私立法要求保护语音技术中的隐私，尽管解决方案严重缺乏。虽然评价活动是长期以来证明有效的推动进展的工具，但考虑隐私对手的必要性意味着传统的评价方法必须适应对隐私和隐私保护解决方案的评估。本文介绍了在这个方向上的第一步：指标。我们介绍了零证据生物识别评估（ZEBRA）框架，并提出了两个新的隐私度量。它们衡量的是特定保障措施为人口提供的隐私保护的平均水平，以及个人在最坏情况下的隐私泄露。本文展示了他们的隐私保护评估的范围内的VoicePrivacy挑战的应用。虽然ZEBRA框架的设计考虑到语音应用程序，它是一个候选人纳入生物特征信息保护标准，并很容易扩展到隐私的研究，甚至超越语音和生物特征识别的应用程序。
2020-05-20 cs.CR eess.AS
Security and Privacy Assessment of U.S. and Non-U.S. Android E-Commerce Applications
University of Denver（丹佛大学）；George Mason University（乔治梅森大学）
本研究使用 MobSF、AndroBugs 和 RiskInDroid 评估 92 款美国与国际 Android 电商应用的安全与隐私，发现 SSL 漏洞和过度授权问题普遍存在，美国应用在代码层面漏洞较少但网络问题相似，呼吁全球采用更标准化的安全实践。
2025-10-14 cs.CR
Identification of Compositional Risks in Data Protection Impact Assessments and Beyond
Karlstad University（卡尔斯特德大学）；University of Oslo（奥斯陆大学）
针对服务组合中被忽视的隐私组合风险，本文提出一种新协议以识别并管理此类风险，从而优化数据保护影响评估结果。
2026-09-02 cs.CR
Flexible and scalable privacy assessment for very large datasets, with an application to official governmental microdata
本研究基于定量信息流（QIF）框架重构隐私分析方法，实现超大规模数据集的灵活可扩展隐私评估，并应用于巴西教育普查数据集，总结了相关科学、技术与沟通经验。
2022-07-25 cs.CR
A Novel Approach to Differential Privacy with Alpha Divergence
本文提出基于alpha散度的alpha差分隐私（ADP）框架，通过更灵活的隐私消耗评估，在中小规模迭代和严格隐私要求场景下提供比传统$(ε, δ)$-差分隐私更强的隐私保障。
2025-06-20 cs.CR
IT Risk Assessment for Group6 Healthcare Clinic Report
医疗保健领域的信息安全和隐私是一个日益重要的问题。数字病历的采用、监管的加强、供应商的整合以及患者、供应商和付款人之间信息交换需求的增加，都表明需要更好的信息安全。我们批判性地调查了有关医疗保健中信息安全和隐私的文献，这些文献发表在信息系统期刊以及许多其他相关学科，包括健康信息学、公共卫生、法律、医学以及行业新闻和行业报告
2017-12-12 cs.CR
Privacy Impact Assessment: Comparing methodologies with a focus on practicality
近年来，隐私和数据保护变得越来越重要，因为越来越多的企业和初创公司将收集个人数据作为其商业模式的一部分。GDPR的一个核心要求是对隐私关键系统实施数据保护影响评估。然而，法律并没有规定或建议使用任何特定的框架。在本文中，我们比较了不同的数据保护影响评估框架。我们开发了一种比较和评估方法，并将其应用于三个流行的影响评估框架。这个比较的结果显示了弱点和优点，但也清楚地表明，没有一个测试的框架满足所有期望的属性。因此，制定一个新的或改进的数据保护影响评估框架是今后工作的一个重要的未决问题，特别是对于具体部门的应用。
2021-10-14 cs.CR cs.CY
Privacy Impact Assessments in the Wild: A Scoping Review
本文遵循PRISMA指南开展真实场景中隐私影响评估（PIAs）的范围综述，纳入45项研究，梳理现有研究现状、方法质量与实践优缺点，指出研究空白并提出未来方向，明确PIAs是实证隐私工程的重要子领域。
2024-06-29 cs.CR
Multi-PA: A Multi-perspective Benchmark on Privacy Assessment for Large Vision-Language Models
State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（人工智能安全国家重点实验室，计算技术研究所，中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）
Multi-PA是一个多视角的隐私评估基准，用于评估大视觉-语言模型在隐私意识和泄露方面的保护能力，揭示了当前模型在隐私保护方面的风险和漏洞。
2026-03-02 cs.AI cs.CR
Quality Assessment of Online Automated Privacy Policy Generators: An Empirical Study
在线自动隐私政策生成器（APPG）是应用程序开发人员用来快速创建应用程序隐私政策的工具，这些隐私政策是隐私法规要求纳入每个移动应用程序的。这些工具的创建为应用程序开发人员带来了便利;然而，这些工具的质量使开发人员和利益相关者面临法律风险。在本文中，我们进行了实证研究，以评估在线APP的质量。我们分析隐私政策的完整性，确定完整的隐私政策应涵盖哪些类别和项目，并对样板应用进行APPG评估。评估结果表明，由于缺乏对应用行为的静态或动态分析，开发者可能会遇到两类由APP引起的问题。首先，生成的策略可能是不完整的，因为它们没有涵盖隐私策略所需的所有基本项目。其次，一些生成的隐私政策包含不必要的个人信息收集或与用户输入不一致的任意承诺。最终，APPG的缺陷可能会导致严重的法律问题。我们希望本文中的结果和见解可以激励APPG的健康和道德发展，以产生更完整，准确和强大的隐私政策。
2020-02-13 cs.CR cs.SE
An Empirical Assessment of Security and Privacy Risks of Web based-Chatbots
基于Web的聊天机器人为网站所有者提供了增加销售额、立即响应客户以及洞察客户行为的好处。虽然基于Web的聊天机器人越来越受欢迎，但它们并没有受到安全研究人员的严格审查。所有者的利益是以用户的隐私和安全为代价的。漏洞，如跟踪cookie和第三方域，可以隐藏在聊天机器人的iFrame脚本中。本文对Alexa排名前100万的网站中的五个基于Web的聊天机器人进行了大规模分析。通过我们的爬虫工具，我们可以识别这100万个网站中存在的聊天机器人。我们发现，前100万个Alexa网站中有13，515个（1.59%）使用五个分析的聊天机器人之一。我们的分析显示，Alexa排名前30万的网站由嵌入最少数量的第三方域名的内部通信聊天机器人主导。LiveChat聊天机器人在其余网站中占据主导地位，并嵌入了第三方域名的最高样本。我们还发现，850个（6.29%）聊天机器人使用不安全的协议以纯文本传输用户的聊天。此外，一些聊天机器人严重依赖cookie进行跟踪和广告。在聊天机器人iFrames中，超过三分之二（68.92%）的已识别cookie用于广告和跟踪用户。我们的研究结果表明，尽管大多数网站都承诺隐私，安全和匿名，但数百万用户可能会在不知不觉中受到聊天机器人服务提供商的不良安全保证
2022-05-17 cs.CR
A Programming Framework for Differential Privacy with Accuracy Concentration Bounds
差分隐私提供了一个正式的框架，推理的隐私和准确性的计算私人数据。它还为构建数据分析提供了丰富的构建块。当仔细校准时，这些分析同时保证了贡献数据的个人的隐私，以及推断人口有用属性的结果的准确性。差分隐私的组成性质已经激发了旨在帮助数据分析师对差异隐私分析进行编程的几种程序设计语言的设计和实现。然而，迄今为止提出的大多数差分隐私的程序设计语言提供了对隐私推理的支持，但不支持对数据分析准确性的推理。为了克服这一局限性，在这项工作中，我们提出了DPella，一个编程框架，为数据分析师提供支持，用于推理隐私，准确性及其权衡。DPella的显著特点是一个新的组件，可以静态跟踪不同数据分析的准确性。为了进行更严格的准确性估计，该组件利用污点分析来自动推断为保证隐私而添加的不同噪声量的统计独立性。我们展示了我们方法的灵活性，不仅实现了经典的计数查询（例如，CDF），但也可以通过分析分层计数查询（如人口普查局所做的查询），其中每个级别的准确性有不同的限制，数据分析师应该找出校准隐私的最佳方式，以满足准确性要求。
2019-09-10 cs.CR cs.DB cs.PL
Privacy Preserving Data Analytics in 5G-Enabled IoT for the Financial Industry
像5G这样的下一代无线网络承诺更快的速度，更短的延迟以及连接更多设备的能力。这些好处将使未来社会发生巨大变化，赋予智慧城市，实现自动驾驶汽车，增强业务流程，改变消费者行为等。在金融行业，银行评估物联网（IoT）技术和边缘计算的部署，以更好地与客户互动，例如，其中一个趋势是将单一的业务应用系统分解为微服务，以部署在分布式边缘服务器上，从而减少网络延迟并改善服务。这种移动在保护接入点之间的业务数据的安全性和隐私方面带来了挑战。本文介绍了一种新的架构和协议，以解决金融行业的用例。该解决方案假设在边缘服务器上部署信用评估模型。该模型接受并处理寻求在线信用评估的潜在客户提交的加密数据。加密后的评估结果将发送回客户进行解密和解释。数据传输采用异步通信方式，数据保护采用同态加密。概念验证实验表明，所提出的方法可以实现与短的响应时间和合理的预测精度。
2022-05-08 cs.CR
Is It a Trap? A Large-scale Empirical Study And Comprehensive Assessment of Online Automated Privacy Policy Generators for Mobile Apps
本文首次从多维度评估 10 个移动应用在线隐私政策生成器，并分析 Google Play 的 46,472 份政策，发现约 20.1% 可能由其生成且存在 GDPR、CCPA、LGPD 合规缺陷。
2023-09-23 cs.CR cs.SE
Assessing Privacy Compliance of Android Third-Party SDKs
本研究针对Android第三方SDK隐私保护空白，利用污点分析与大语言模型检测158款常用SDK的数据外泄与隐私合规情况，发现隐私问题普遍且长期未改善，并提出可行建议以保护用户隐私、为监管提供参考。
2025-06-18 cs.CR cs.SE
A Threat Model for Soft Privacy on Smart Cars
本文针对智能汽车个人数据隐私问题，提出通用软隐私威胁建模方法并应用于汽车领域，识别出17个领域无关威胁，结合41个领域特定资产形成新型领域相关威胁集，填补了智能汽车软隐私威胁建模的空白。
2023-06-07 cs.CR
PriEval-Protect: A Unified Framework for Privacy Evaluation and Protection in Healthcare Systems
National Institute of Applied Science and Technology INSAT（国立应用科学与技术学院）；Efrei Research Lab, Efrei, Paris-Panthéon-Assas University（巴黎-潘特翁-阿萨斯大学埃弗雷伊研究实验室）；LARIA Research Lab, National School Of Computer Science ENSI（国立计算机科学学院拉里亚研究实验室）
针对医疗系统隐私问题，PriEval-Protect框架分两阶段统一评估与缓解隐私风险。评估阶段结合法规评分与技术分析得出综合风险评分，保护阶段依风险推荐对策，实现法规与数据级风险分析的衔接，结果具合规性与可解释性。
2026-07-16 cs.CR
SoK: Cryptocurrency Mixing and Anonymity - Architectures, Threat Models, Operational Aspects and Security
Brno University of Technology（布尔诺工业大学）；University of Zürich（苏黎世大学）；Slovak University of Technology in Bratislava（布拉迪斯拉发斯洛伐克工业大学）
本文全面综述了区块链加密货币生态系统中的混币技术与实现，评估其对用户隐私的影响及安全漏洞，并探讨了扩展至智能合约与跨链领域的挑战与创新。
2026-09-28 cs.CR cs.DC
Secure and Distributed Assessment of Privacy-Preserving Releases of GWAS
全基因组关联研究（GWAS）确定遗传变异与可观察特征（如疾病）之间的相关性。以前的工作提出了隐私保护分布式算法的基因组数据持有者的联合会，跨越多个机构和立法领域，以安全地计算GWAS的结果。然而，这些算法的适用性有限，因为它们仍然需要集中实例来决定GWAS结果是否可以安全披露，这违反了GDPR等隐私法规。在这项工作中，我们介绍了GenDPR，一个分布式中间件，利用可信执行环境（TEE）安全地确定一个子集的潜在GWAS统计数据，可以安全地发布。GenDPR实现了与集中式解决方案相同的准确性，但需要传输的数据显著减少，因为TEE只交换中间结果，而不交换基因组。此外，GenDPR可以被配置为容忍除了一个诚实但好奇的联盟成员之外的所有成员勾结，目的是暴露正确成员的基因组。
2022-09-20 cs.CR cs.DC
Do as You Say: Consistency Detection of Data Practice in Program Code and Privacy Policy in Mini-App
迷你应用程序是一种新兴的移动应用程序形式，它将Web技术与本地功能相结合。其特点，例如，无需下载，无需安装，迅速流行起来。然而，违反法律或法规的隐私问题正在迅速扩大的迷你应用生态系统中滋生。迷你应用程序对程序代码中的数据所做的事情与它在隐私策略描述中声明的内容之间的一致性非常重要。但此前还没有研究对小程序的隐私问题进行系统的调查。在本文中，据我们所知，我们是第一个对迷你应用程序中的数据实践和策略描述进行合规性检测的人。本文首先针对小程序中JavaScript语言的特点，定制了一种基于数据实体依赖网络的污点分析方法。然后，将数据类型和数据操作转化为程序代码和隐私策略中的数据实践，从而完成细粒度的一致性匹配模型。我们在微信客户端上抓取了10万个小程序，并提取了2,998个带有隐私策略的小程序。其中，符合一致性要求的仅有318家，不一致的有2,680家，不一致比例高达89.4%。迷你应用程序的不一致性非常严重。基于6个真实案例的分析，为了降低这种潜在的数据泄露风险，我们建议开发者减少无关信息的收集和模板的直接使用，平台应提供数据流检测工具和隐私策略编写支持。
2023-02-27 cs.CR cs.SE
Security, Privacy and Safety Risk Assessment for Virtual Reality Learning Environment Applications
基于社交虚拟现实的学习环境（VRLE），例如vSocial，以三维沉浸式计算机体验呈现教学内容，用于训练有学习障碍的青少年。在VR技术中探索攻击漏洞的现有工作有限，因此需要系统框架来量化与安全、隐私和安全（SPS）威胁相对应的风险。SPS威胁会对教育用户体验产生不利影响，并阻碍VRLE内容的交付。在本文中，我们提出了一种新的风险评估框架，利用攻击树来计算风险评分为不同的VRLE威胁率和持续时间的威胁作为输入。我们比较了一个精心构造的攻击树与adhoc攻击树的影响，研究管理攻击树的开销之间的权衡，以及发现漏洞时的风险缓解成本。我们使用一个vSocial VRLE测试平台的案例研究，展示我们的框架的有效性，并演示了如何一个合适的攻击树形式主义可以导致一个更安全，隐私保护和安全的VRLE系统。
2018-11-29 cs.CR cs.HC
On the Security & Privacy in Federated Learning
最近的隐私意识举措，如欧盟通用数据保护条例，使机器学习（ML）屈服于隐私和安全评估。联邦学习（FL）提供了一个隐私驱动的分散训练方案，可以提高ML模型的安全性。业界对FL技术的快速适应和安全评估暴露了各种威胁FL机密性、完整性或可用性的漏洞。这项工作通过审查最先进的（SoTA）并创建一个包含攻击的表面，敌对行为者，能力和目标的威胁模型来评估FL的CIA。我们提出了第一个统一的攻击和防御分类，并提供了有前途的未来研究方向。
2022-03-16 cs.CR
A Public and Reproducible Assessment of the Topics API on Real Data
本研究在大规模公开真实浏览历史数据集上对谷歌Topics API开展可复现评估，验证其隐私保护能力，发现用户被跨站重识别的概率随观测次数增加而上升，凸显公开可复现评估的重要性。
2024-08-15 cs.CR
SMS-delivered network-initiated SUPL on Pixel 8: a privacy assessment
Trinity College Dublin（都柏林三一学院）
本研究评估了通过短信发送的SUPL_INIT消息对Pixel 8手机隐私的影响，发现手机不会向攻击者控制的服务器泄露位置或身份信息，未发现隐私问题。
2026-09-22 cs.CR cs.NI
Real-Time Privacy Risk Measurement with Privacy Tokens for Gradient Leakage
School of Information, Renmin University of China（中国人民大学信息学院）；School of Computer and Big Data, Minjiang University（闽江学院计算机与大数据学院）
针对深度学习训练中梯度泄露的隐私风险，提出从私有梯度提取的隐私令牌结合数据特征，以互信息为指标实现实时风险度量，实验验证其有效性，推动隐私监控进步与模型安全部署。
2025-02-12 cs.CR cs.LG
A Practical Framework for Evaluating Medical AI Security: Reproducible Assessment of Jailbreaking and Privacy Vulnerabilities Across Clinical Specialties
The Ohio State University（俄亥俄州立大学）
本文提出了一种可重复评估医疗AI安全性的框架，针对不同临床专科的劫持和隐私漏洞进行评估，无需特殊资源或数据权限。
2025-12-09 cs.AI cs.CR
Listen to the Voices of Everyday Users: Democratizing Privacy Ratings for Sensitive Data Access in Mobile Apps
Huazhong University of Science and Technology（华中科技大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出民主化隐私评估范式，通过用户参与设计开发DePRa系统，评估用户对敏感数据访问的隐私评分，验证其在补充专家审计中的可行性与包容性。
2026-04-27 cs.CR cs.HC
Privacy Assessment of Federated Learning using Private Personalized Layers
Univ Lyon（里昂大学）；INSA Lyon（里昂国立应用科学学院）；Inria（法国国家信息与自动化研究所）；Inserm（法国国家健康与医学研究院）
针对联邦学习中的推理攻击，本文评估私有个性化层在效用与隐私上的权衡，实验表明其可加快收敛、略微提升准确率，并优于局部差分隐私方案。
2021-09-26 cs.AI cs.CR cs.LG
An Automated, Scalable Machine Learning Model Inversion Assessment Pipeline
针对军事场景下ML模型反演攻击风险难量化、DT&E流程难扩展的问题，提出结合模型反演与VLM的自动化评估流水线，引入四个对抗风险维度，经多类MIA和军事图像任务验证，提升了隐私泄露分析的有效性与可扩展性。
2025-09-04 cs.CR
An Empirical Assessment of Global COVID-19 Contact Tracing Applications
COVID-19的快速传播使得人工追踪接触者变得困难。因此，各种公共卫生机构已经使用移动应用程序（或“app”）试验了自动接触追踪。然而，这些应用程序引发了安全和隐私方面的担忧。在本文中，我们提出了一个自动化的安全和隐私评估工具，COVIDGUARDIAN，它结合了识别和分析的个人身份信息（PII），静态程序分析和数据流分析，以确定安全和隐私的弱点。此外，根据我们的调查结果，我们进行了一项用户研究，以调查有关接触者追踪应用程序的担忧。我们希望COVIDGUARDIAN以及通过向供应商进行负责任的披露而提出的问题能够有助于移动接触者追踪的安全部署。作为其中的一部分，我们提供了具体的指导方针，并强调了用户需求和应用性能之间的差距。
2021-01-22 cs.CR cs.SE
How to Get Actual Privacy and Utility from Privacy Models: the k-Anonymity and Differential Privacy Families
Universitat Rovira i Virgili（罗维拉-伊维尔吉利大学）
本文评估主要隐私模型，指出k-匿名和差分隐私在保护与效用间的缺陷，并提出语义重构k-匿名以在不损效用下增强隐私。
2025-10-17 cs.CR cs.DB
A Survey on Privacy Risks and Protection in Large Language Models
本文系统综述了大型语言模型面临的隐私泄露与攻击风险，梳理了推理检测、联邦学习等现有防护方法，并提出隐私风险评估与跨学科治理等未来方向。
2025-05-04 cs.CR
On Protecting the Data Privacy of Large Language Models (LLMs): A Survey
本文综述了大型语言模型面临的数据隐私威胁（被动泄露与主动攻击），评估了各阶段隐私保护机制的有效性与局限，并展望了未来研究方向。
2024-03-14 cs.CR
How Much User Context Do We Need? Privacy by Design in Mental Health NLP Application
University of Marburg（马尔堡大学）；Technical University of Darmstadt（达姆施塔特工业大学）；Georgia Institute of Technology（佐治亚理工学院）；Manipal Institute of Technology（马尼帕尔理工学院）
临床NLP任务，如从文本进行心理健康评估，必须考虑社会约束-性能最大化必须受到保证用户数据隐私的最重要性的约束。消费者保护法规（如GDPR）通常通过限制数据可用性来处理隐私，例如要求将用户数据限制为特定目的所需的数据。在这项工作中，我们的理由是，提供更严格的正式隐私保证，同时增加模型中的用户数据的量，在大多数情况下，增加利益的所有参与方，特别是用户。我们证明了我们的论点上的两个现有的自杀风险评估数据集的Twitter和Reddit的职位。我们提出的第一个分析并列用户历史长度和差分隐私预算和详细说明如何建模额外的用户上下文使实用程序保存，同时保持可接受的用户隐私保证。
2022-09-05 cs.CL cs.CR
Classification and Evaluation the Privacy Preserving Data Mining Techniques by using a Data Modification-based Framework
近年来，人们对隐私问题的日益关注和担忧给数据采掘技术带来了严峻的挑战，即如何保护重要和敏感数据的隐私。隐私保护数据采掘已经提出了不同的技术和算法，可以分为三种常见的方法：数据修改方法，数据消毒方法和安全多方计算方法。提出了一种基于数据修改的隐私保护数据采掘技术分类和评价框架.基于我们的框架的技术分为两大类，即扰动方法和匿名化方法。此外，在拟议的框架，八个功能标准将用于分析和类比评估的技术，在这两个主要群体。建议的框架提供了一个很好的基础，更准确地比较给定的技术，隐私保护数据采掘。此外，这一框架允许识别不同方法的重叠量，并确定这一领域的现代方法。
2011-05-10 cs.CR
Speech Pseudonymisation Assessment Using Voice Similarity Matrices
随着语音技术的发展和隐私保护立法的不断完善，人们迫切需要为语音应用开发隐私保护解决方案。这些都是必不可少的，因为语音信号传达了丰富的、个人的和潜在敏感的信息。匿名化，最近的语音隐私倡议的重点，是一种策略，以保护发言人的身份信息。假名化解决方案的目的不仅是掩盖说话人的身份，并保持语言的内容，质量和自然性，这是匿名化的目标，但也要保持语音的独特性。现有的匿名化评估指标不合适，完全缺乏匿名化评估指标。基于语音相似性矩阵，本文提出了第一个直观的可视化的语音信号和两个新的客观评估指标的语音合成性能。它们反映了两个关键的非身份化要求，即去识别和声音独特性。
2020-08-30 cs.CR eess.AS
Assessing the Trustworthiness of Electronic Identity Management Systems: Framework and Insights from Inception to Deployment
针对电子身份管理系统可信性评估维度不全的问题，本文提出覆盖六大支柱、含65余种机制和400余项指标的DISTAF框架，并基于MOSIP验证其全生命周期评估能力。
2025-02-15 cs.CR
Reliability and Performance Assessment of Federated Learning on Clinical Benchmark Data
Sungkyunkwan University（成均馆大学）；Samsung Medical Center（三星医疗中心）
随着深度学习在临床环境中的应用，由于大量个人数据的收集和处理，隐私问题有所增加。最近，有人建议使用联邦学习（FL）来保护个人隐私，因为它在训练阶段不会集中数据。在这项研究中，我们评估了FL的可靠性和性能的基准数据集，包括MNIST和MIMIC-III。此外，我们试图在模拟现实临床数据分布的数据集上验证FL。我们实现了使用客户端和服务器架构的FL，并在修改后的MNIST和MIMIC-III数据集上测试了客户端和服务器FL。FL在不平衡和极度偏斜的分布上都提供了可靠的性能（即，每个医院的患者数量和患者特征的差异）。因此，FL适用于医疗数据的隐私保护。
2020-05-24 cs.CR cs.LG
Systematic Assessment of Tabular Data Synthesis
Purdue University（普渡大学）
本文提出系统性评估框架，引入保真度、隐私和效用的新指标，对8种表格数据合成器在12个数据集上评估，发现新方向。
2025-09-07 cs.CR cs.DB cs.LG
Privacy-Enhanced Adaptive Authentication: User Profiling with Privacy Guarantees
针对自适应认证中用户画像的隐私泄露风险，提出融合OPRF、匿名令牌与差分隐私的隐私增强认证协议，可动态调整认证要求，兼具强隐私保障与可控开销，满足合规要求。
2025-08-02 cs.CR
Privacy Engineering in Smart Home (SH) Systems: A Comprehensive Privacy Threat Analysis and Risk Management Approach
Carleton University（卡尔顿大学）
本研究将隐私工程原则应用于智能家居系统，采用LINDDUN PRO威胁模型和隐私影响评估，分析用户与设备数据隐私威胁，提出隐私增强技术，以实现有效的隐私风险管理。
2025-10-23 cs.CR
You can't always get what you want: towards user-controlled privacy on Android
移动应用程序（以下简称为应用程序）通过第三方分析库收集有关用户行为及其设备的大量信息。然而，这些数据的收集和使用引起了一些隐私问题，主要是因为最终用户，即，数据的实际所有者-在此收集过程中处于循环之外。此外，过去几年出现的现有隐私增强解决方案遵循“全有或全无”的方法，让用户唯一选择接受或完全拒绝对隐私相关数据的访问。这项工作有两个目标，一是评估移动应用程序中分析库使用的隐私影响，二是提出一种数据匿名化方法，该方法可以在收集的数据的实用性和隐私性之间进行权衡，并让用户完全控制共享过程。为了实现这一目标，我们对2020年11月至2021年1月期间Google Play商店中4500个最常用的Android应用程序中包含的分析库进行了实证隐私评估。然后，我们提出了一个授权的匿名化方法，基于MobHide，使最终用户完全控制收集和匿名化过程。最后，我们通过经验证明了这种匿名方法的适用性和有效性，这要归功于HideDroid，一个成熟的Android生态系统匿名应用程序。
2022-01-29 cs.CR
The Privacy Policy Landscape After the GDPR
University of Wisconsin（威斯康星大学）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
欧盟《通用数据保护条例》（GDPR）是有史以来最严格、最全面的隐私法规之一。在它生效一年后，我们研究了它对在线隐私政策的影响。我们在GDPR前后对隐私政策进行了首次纵向、深入和大规模的评估。我们评估这些策略的完整消费周期，从第一次用户印象到合规评估。我们创建了一个多样化的语料库，包含欧盟内外的两套6，278个独特的英语隐私政策，涵盖其GDPR之前和之后的版本。我们的测试和分析结果表明，GDPR已经成为欧盟内外隐私政策重大改革的催化剂。这一政策的彻底改革，体现在广泛的文本变化，特别是对欧盟网站，对用户的好处好坏参半。虽然隐私政策变得相当长，但我们对Amazon MTurk上的470名参与者进行的用户研究表明，从用户的角度来看，欧盟网站的隐私政策的视觉表示有了显着的改进。我们进一步开发了一个新的工作流程，用于自动评估隐私政策中的要求。使用此工作流程，我们表明隐私政策涵盖了更多的数据实践，并且与GDPR后的七项合规要求更加一致。我们还通过执行特异性分析来评估组织在隐私实践方面的透明度。在这项分析中，我们发现了GDPR引发的积极变化的证据，平均特异性水平有所提高。尽管如此，我们发现隐私政策的格局仍处于过渡阶段;许多政策仍然不符合GDPR的几个关键要求，或者其覆盖范围的改善伴随着特定性的降低。
2019-06-24 cs.CL cs.CR cs.CY
From Data Disclosure to Privacy Nudges: A Privacy-aware and User-centric Personal Data Management Framework
虽然有隐私增强工具旨在保护用户的在线隐私，但令人惊讶的是，由于数据泄露到多个平台，缺乏以用户为中心的解决方案，允许基于隐私风险和收益的联合评估进行隐私控制。在本文中，我们提出了一个概念框架，以填补这一空白：针对以用户为中心的隐私保护，我们表明，该框架不仅可以评估使用在线服务的隐私风险，但也从数据披露获得的附加值。通过遵循人在回路的方法，期望该框架通过偏好学习、持续隐私评估、行为监控和轻推来提供个性化的解决方案。最后，我们描述了一个案例研究对“休闲旅游者”和几个未来的领域进行研究，在正在进行的项目。
2019-09-22 cs.CR cs.CY cs.HC
Utility Assessment of Synthetic Data Generation Methods
KTH Royal Institute of Technology（瑞典皇家理工学院）
大数据分析提出了隐私保护和实用性的双重问题，即，在转换原始数据后，如何保持准确的数据分析，以保护数据所涉及的个人的隐私-以及它们是否足够准确，有意义。因此，在本文中，我们在几个数据集上研究了生成完全合成数据的不同方法是否在其先验效用上有所不同（当对数据进行的具体分析尚不清楚时），其结果与后验原始数据分析的一致性如何，以及这两种效应是否相关。我们发现一些方法（基于决策树）比其他方法表现得更好，一些插补参数（特别是发布的数据集的数量）的选择产生了相当大的影响，广泛的效用指标和分析准确性之间没有相关性，并且窄指标的相关性不同。当使用合成数据训练机器学习模型时，我们确实在分类任务中得到了有希望的发现，我们认为在减轻对ML模型的隐私攻击方面也值得进一步探索，例如成员推断和模型反演。
2022-11-23 cs.CR cs.LG
Towards Benchmarking Privacy Vulnerabilities in Selective Forgetting with Large Language Models
本文提出首个评估选择性遗忘隐私漏洞的基准，系统研究了反向学习技术的隐私漏洞，并为定制应用提供标准化工具。
2025-12-19 cs.CR cs.LG
Holistic risk assessment of inference attacks in machine learning
Donghua University（东华大学）
随着机器学习应用范围的不断扩大，随之而来的隐私和安全问题也越来越多。特别是针对机器学习模型的推理攻击，使得攻击者能够推断出目标模型的敏感信息，如训练数据、模型参数等。推理攻击可能导致严重的后果，包括侵犯个人隐私、损害机器学习模型所有者的知识产权。就目前而言，研究人员已经对几种类型的推理攻击进行了深入的研究和分析，尽管是孤立的，但仍然缺乏对针对机器学习模型的推理攻击的整体风险评估，例如它们在不同场景中的应用，影响这些攻击性能的共同因素以及攻击之间的关系。因此，本文进行了全面的风险评估不同的推理攻击对机器学习模型。本文重点研究了三种具有代表性的攻击：成员推断攻击、属性推理攻击和模型窃取攻击。并建立了威胁模型分类。使用AlexNet，ResNet18和Simple CNN三种模型架构的12个目标模型在CelebA，UTKFace，STL 10和FMNIST四个数据集上进行训练。
2022-12-15 cs.CR cs.LG
AnonPSI: An Anonymity Assessment Framework for PSI
本文提出AnonPSI匿名性评估框架，针对PSI协议易受集合成员推断攻击的问题，设计两种攻击策略并给出理论保证，同时利用PSI-SUM等辅助信息提升攻击效率，实验表明现有PSI协议隐私保障不足，需结合多种隐私增强技术。
2023-11-29 cs.CR cs.IR
