Privacy Leakage in Smart Homes and Its Mitigation: IFTTT as a Case Study
灵巧家庭平台和自动化应用程序的组合为灵巧家庭用户带来了很多便利。然而，这也带来了隐私泄露的可能性。如果允许灵巧家庭平台日夜收集用户的所有事件，那么该平台不久将学习该用户的行为模式。在本文中，我们调查IFTTT，最流行的灵巧家庭平台之一，有能力以各种方式，几乎不引人注目的监视用户的日常生活。此外，我们提出了多种减轻隐私泄露的想法，这些想法共同形成了一个过滤和模糊（F&F）过程：首先，它过滤掉IFTTT平台不需要的事件;然后，它模糊剩余事件的值和频率。我们评估的F&F过程，结果表明，所提出的解决方案使IFTTT无法识别任何用户的行为模式。
2019-02-14 cs.CR
Unveiling Privacy Risks in Multi-modal Large Language Models: Task-specific Vulnerabilities and Mitigation Challenges
Arizona State University（亚利桑那州立大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；North Carolina State University（北卡罗来纳州立大学）
本研究揭示了多模态大语言模型在处理图像和文本时存在的隐私泄露风险，通过构建MM-Privacy数据集评估了不同任务下的披露风险与保留风险，并强调了任务不一致性对隐私风险的影响。
2026-06-08 cs.AI cs.CR
The Impact of Differential Privacy on Group Disparity Mitigation
University of Marburg（马尔堡大学）；University of Copenhagen（哥本哈根大学）；Topdanmark A/S（Topdanmark公司）；Manipal Institute of Technology（马尼帕尔理工学院）
差分隐私的性能成本，对于某些应用程序，已被证明是较高的少数群体，公平，相反，已被证明是牺牲这些群体的成员的隐私。这一领域的大部分工作仅限于计算机视觉和风险评估。在本文中，我们评估的影响，差分隐私的公平性在四个任务，重点是如何尝试减轻隐私侵犯和组间的性能差异相互作用：隐私是否抑制尝试，以确保公平？为此，我们训练$(\varepsilon,δ)$-具有经验风险最小化和分组分布鲁棒训练目标的差分私有模型。与以前的研究结果一致，我们发现，差分隐私增加组间性能差异的基线设置，但更有趣的是，差分隐私减少组间性能差异的强大设置。我们通过将差分隐私重新解释为正则化来解释这一点。
2022-03-05 cs.CL cs.CR cs.LG
Social Media and User Privacy
在线用户产生了大量的数据。为了更好地服务用户，需要在研究人员、广告商和应用程序开发人员之间共享用户相关数据。公布这些数据将引发对用户隐私的更多担忧。为了鼓励数据共享并减轻用户隐私问题，已经开发了许多匿名化和去匿名化算法来帮助保护用户的隐私。本文回顾了我的博士研究在线用户的隐私，特别是在社交媒体。特别是，我提出了一种新的专门针对社交媒体数据的对抗攻击。我还提供了一种原则性的方法来评估匿名化社交媒体数据的不同方面的有效性。我的工作揭示了社交媒体数据中新的隐私风险，这是由于用户生成数据的固有异质性。
2018-06-26 cs.CR cs.SI
OnionBots: Subverting Privacy Infrastructure for Cyber Attacks
在过去的十年里，僵尸网络通过采取一系列日益复杂的策略来逃避检测和接管，并将其基础设施货币化而生存下来。与此同时，Tor等隐私基础设施的成功为非法活动打开了大门，包括僵尸网络、勒索软件以及毒品和违禁品市场。我们认为，下一波僵尸网络将广泛颠覆隐私基础设施和加密机制。在这项工作中，我们建议先发制人的调查设计和缓解这样的僵尸网络。首先，我们介绍OnionBots，我们相信它将成为下一代有弹性的隐形僵尸网络。OnionBots使用隐私基础设施进行网络攻击，将其操作与受感染的主机IP地址完全分离，并携带不会泄露有关其来源，目的地和性质的信息的流量。这些机器人在隐私基础设施内共生，以逃避检测，测量，规模估计，观察以及一般所有基于IP的当前缓解技术。此外，我们表明，有一个足够的自我修复的网络维护计划，这是简单的实现，洋葱机器人实现了低直径和低程度，并在节点删除分区是强大的。我们开发了一种缓解技术，称为SOAP，它可以中和基本OnionBots的节点。我们还概述并讨论了一组技术，可以实现超级洋葱机器人的后续浪潮。鉴于此类僵尸网络的潜力，我们认为研究界应该积极开发检测和缓解方法来阻止OnionBots，可能会对隐私基础设施进行调整。
2015-01-14 cs.CR
Association-based Privacy Attacks in Wireless Protocols: Formal Modeling and Mitigation
Indian Institute of Technology Jodhpur（印度技术学院焦特普尔分校）；Ohio State University（俄亥俄州立大学）
本文形式化研究无线通信中基于配对的隐私攻击的根本原因，通过对Wi-Fi P2P和蓝牙低功耗的建模提出解决方案，获相关组织认可，为隐私保护无线协议发展铺路。
2026-08-13 cs.CR cs.NI
Securing Social Media User Data - An Adversarial Approach
社交媒体用户产生了大量的数据。为了更好地服务用户，需要在研究人员、广告商和应用程序开发人员之间共享用户相关数据。公布这些数据将引发对用户隐私的更多担忧。为了鼓励数据共享并减轻用户隐私问题，已经开发了许多匿名化和去匿名化算法来帮助保护社交媒体用户的隐私。在这项工作中，我们提出了一个新的对抗攻击专门用于社会媒体数据。我们还提供了一种原则性的方法来评估匿名化社交媒体数据的不同方面的有效性。我们的工作揭示了社交媒体数据中新的隐私风险，这是由于用户生成数据的固有异质性，需要在共享用户数据和保护用户隐私之间取得平衡。
2018-05-01 cs.CR cs.SI
PIA-Bench: Towards Automated Privacy Impact Assessment with Large Language Models
University of Edinburgh（爱丁堡大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出PIA-Bench，首个评估大语言模型在真实隐私影响评估任务上的开放基准，基于73份结构化PIA（含451项风险与831项缓解措施）测试，发现现成LLMs能产生有意义评估，并呼吁改进领域工作流与基础设施。
2026-09-14 cs.CR
Credential Disclosure in (EU) Digital Identity Wallets: Privacy Risks and Practical Mitigations
ETH Zurich（苏黎世联邦理工学院）
通过大规模用户与专家调查，评估凭证助手（Credential Assistant）在减少用户过度披露凭证方面的有效性，发现其可将错误率从约15%降至约7%。
2026-06-04 cs.CR
Defeating Cerberus: Concept-Guided Privacy-Leakage Mitigation in Multimodal Language Models
CISPA Helmholtz Center for Information Security（CISPA赫尔姆霍茨信息安全中心）；Nokia Bell Labs（诺基亚贝尔实验室）
本研究针对多模态大语言模型的个人身份信息泄露风险，提出无需重训练的概念引导缓解方法，构建多模态PII数据集，实现93.3%的平均敏感任务拒绝率且对无关性能影响极小。
2025-09-29 cs.CR cs.LG
Accuracy-Privacy Trade-off in the Mitigation of Membership Inference Attack in Federated Learning
Old Dominion University（奥多明尼昂大学）；Deloitte & Touche LLP（德勤全球）
本文探索深度集成与联邦学习的关系，研究基于置信度的指标在FL中缓解成员推理攻击时的适用性，通过多客户端、数据集和融合策略实验，证实了FL中准确率与隐私权衡的明确存在。
2024-07-26 cs.AI cs.CR cs.LG
Effects of Differential Privacy and Data Skewness on Membership Inference Vulnerability
Georgia Institute of Technology（佐治亚理工学院）
成员推断攻击试图推断私人训练模型的各个训练实例的成员。本文提出了一个会员隐私分析和评估系统，称为MPLens，有三个独特的贡献。首先，通过MPLens，我们演示了如何在对抗性机器学习中利用成员推断攻击方法。其次，通过MPLens，我们强调了预训练模型在成员推断攻击下的脆弱性在所有类中是不一致的，特别是当训练数据本身是偏斜的时候。我们发现，当模型使用倾斜的训练数据时，成员推断攻击的风险通常会增加。最后，我们调查的有效性差分隐私作为缓解技术对成员推断攻击。我们讨论了实施这种缓解策略的权衡模型的复杂性，学习任务的复杂性，数据集的复杂性和隐私参数设置。我们的实证结果表明，（1）少数群体在偏斜的数据集显示成员推理的风险增加和（2）差分隐私提出了许多具有挑战性的权衡作为缓解技术的成员推理风险。
2019-11-21 cs.CR cs.LG stat.ML
Security and Privacy in O-RAN for 6G: A Comprehensive Review of Threats and Mitigation Approaches
James Watt School of Engineering, University of Glasgow（格拉斯哥大学詹姆斯·瓦特工程学院）
本文综述了O-RAN在6G中的安全漏洞和隐私问题，分析了基本漏洞、攻击向量及威胁，评估现有和未来安全机制，并探讨标准化活动以加强安全框架。
2026-03-22 cs.CR cs.NI
The Sum Leaks More Than Its Parts: Compositional Privacy Risks and Mitigations in Multi-Agent Collaboration
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文首次系统研究多智能体LLM系统中跨交互组合导致的隐私泄露，提出ToM和CoDef两种防御策略，其中CoDef在隐私与效用间取得最佳平衡（79.8%），为协作式LLM部署提供了防护设计依据。
2025-09-16 cs.AI cs.CL cs.CR
Adaptive Coded Federated Learning: Privacy Preservation and Straggler Mitigation
Division of Information Science and Engineering, School of Electrical Engineering and Computer Science, KTH Royal Institute of Technology（信息科学与工程系，电气工程与计算机科学学院，皇家理工学院）
针对联邦学习中的掉队者问题，提出自适应编码联邦学习（ACFL），通过自适应调整聚合权重，在保护隐私的同时提升学习性能，仿真验证其优于非自适应方法。
2025-08-06 cs.CR cs.LG eess.SP
What Browsers Do in the Shaders: A Measurement Study of WebGPU Privacy
International University of La Rioja（洛里奥纳国际大学）
本文提出WGPULens框架，通过受控场景、浏览器-原生共存、参与者现场研究、公共页面加载和缓解策略，测量WebGPU的隐私信号，发现管线编译状态是最清晰的隐私泄露面。
2026-06-26 cs.CR
Fairness Issues and Mitigations in (Differentially Private) Socio-Demographic Data Processes
University of Virginia（弗吉尼亚大学）；Georgia Institute of Technology（佐治亚理工学院）；RTI International（RTI国际公司）
本文研究差分隐私社会人口数据过程中的公平性问题，提出优化抽样方法，并发现差分隐私噪声可减少不公平性，经人口普查数据验证。
2025-01-19 cs.AI cs.CR cs.CY
Characterizing Browser Fingerprinting and its Mitigations
本研究探讨了浏览器指纹识别这一非 cookie 跨站追踪技术，详细分析了其工作原理、普及程度及可用的缓解防御措施。
2023-10-12 cs.CR
Reconciling Security and Utility in Next-Generation Epidemic Risk Mitigation Systems
本文提出 Silmarillion 系统，通过部署 Bluetooth 信标丰富接触数据并保障隐私，兼顾疫情分析效用与数据安全，原型评估和大学小规模部署验证了其实用性。
2024-05-09 cs.CR cs.CY cs.SI
The Landscape of Memorization in LLMs: Mechanisms, Measurement, and Mitigation
UC Berkeley（伯克利大学）；Google DeepMind（谷歌DeepMind）
本文研究了LLM记忆现象的机制、测量方法及缓解策略，探讨了影响记忆的因素和检测技术，并分析了其法律伦理影响及缓解措施。
2025-12-12 cs.CL cs.CR cs.LG
Quest: Practical and Oblivious Mitigation Strategies for COVID-19 using WiFi Datasets
接触者追踪已成为防止COVID-19等流行病传播的主要缓解策略之一。最近，已经发起了若干努力来使用技术跟踪个人、他们的运动和交互，例如，蓝牙信标、蜂窝数据记录和智能手机应用程序。这样的解决方案通常是侵入性的，可能侵犯个人隐私权，并且通常受到法规的约束（例如，GDPR和CCPR），要求需要选择加入政策来收集和使用个人信息。在本文中，我们介绍了Quest，一个系统，使组织能够观察个人和空间，以被动和隐私保护的方式使用WiFi连接数据实施社交距离和联系人追踪政策。目标是确保组织中员工和占用者的安全，同时保护各方的隐私。Quest结合了计算和信息理论上的安全协议，防止对手获得个人位置历史的知识（基于WiFi数据）;它包括支持准确识别在确诊患者附近的用户，然后通过选择机制通知他们。Quest支持一系列支持隐私保护的应用程序，以确保遵守社交距离、监控空间中的人员流动、识别可能受影响的区域并发出暴露警报。我们描述的体系结构，设计选择，并在Quest的建议的安全/隐私技术的实施。我们还验证了探索的实用性，并通过在加州大学欧文分校的实际校园规模部署超过50 M元组的一个非常大的数据集，彻底评估它。
2020-05-05 cs.CR cs.DB cs.DC
Understanding How to Inform Blind and Low-Vision Users about Data Privacy through Privacy Question Answering Assistants
本研究通过定性访谈21名美国盲人和低视力用户，探讨其数据隐私风险感知与缓解行为，发现他们面临更高风险但缓解不足，并期望隐私问答助手具备跨平台、多模态和强大功能，以改善隐私信息获取。
2023-10-12 cs.CR cs.HC
SWAT: A System-Wide Approach to Tunable Leakage Mitigation in Encrypted Data Stores
本文提出SWAT，一种面向加密数据存储的系统级泄漏缓解方法，通过为键值、范围查询和动态工作负载量身定制安全概念和可调算法，在隐私与效率间实现精细权衡，性能优于零泄漏方案且具竞争力。
2024-05-15 cs.CR
Federated Anomaly Detection and Mitigation for EV Charging Forecasting Under Cyberattacks
ICT Convergence Research Center（信息通信融合研究中心）；Kumoh National Institute of Technology（Kumoh国立技术学院）；IT-Convergence Engineering（信息融合工程）
本文提出一种联邦学习框架，用于在遭受网络攻击时实现电动汽车充电预测中的异常检测与缓解，通过保护隐私、检测攻击并提升预测准确性。
2025-11-22 cs.CR cs.LG
Routes for breaching and protecting genetic privacy
我们正在进入无处不在的遗传信息的时代，用于研究，临床护理和个人好奇心。共享这些数据集对于快速了解人类疾病的遗传基础至关重要。然而，一个越来越令人担忧的问题是保护数据来源者的基因隐私的能力。在这里，我们从技术上映射遗传隐私的威胁，并讨论潜在的缓解策略，以保护隐私的遗传数据的传播。
2013-10-11 cs.CR q-bio.GN stat.AP
Measuring Privacy vs. Fidelity in Synthetic Social Media Datasets
Maastricht University（马斯特里赫特大学）
本文研究了合成Instagram帖子的隐私与保真度之间的平衡，通过作者归属攻击评估隐私风险，并发现保真度越高隐私泄露越严重。
2026-03-05 cs.CR
SoK: Evaluating 5G Protocols Against Legacy and Emerging Privacy and Security Attacks
本文提出蜂窝网络隐私与安全攻击研究框架，系统梳理5G前攻击、5G至Release 19的缓解机制及新型5G攻击，并指出开放问题与未来方向。
2024-09-10 cs.CR cs.NI
LGBTQ Privacy Concerns on Social Media
我们对LGBTQ社区的成员进行了半结构化访谈，了解他们在社交网站上的隐私做法和担忧。参与者使用不同的社交媒体网站满足不同的需求，并适应不完全在每个网站上。我们将珍惜与研讨会参与者讨论这一人群独特的隐私和安全需求的机会，并从在这些社区工作的研究人员那里了解更多关于其他边缘化用户组的隐私需求。
2021-11-30 cs.CR cs.CY cs.HC
Survey on Security Issues in Cloud Computing and Associated Mitigation Techniques
云计算有可能消除为行业使用的基于IT的解决方案和服务建立高成本计算基础设施的要求。它承诺提供一个灵活的IT架构，通过互联网访问轻量级便携式设备。这将使现有软件和新软件的容量或能力成倍增加。在云计算环境中，整个数据驻留在一组联网资源上，使得能够通过虚拟机访问数据。由于这些数据中心可能位于用户无法触及和控制的世界任何角落，因此需要了解和处理各种安全和隐私挑战。此外，人们永远不能否认服务器崩溃的可能性，而在最近的时间经常被目睹。在云计算场景中存在需要处理的关于安全性和隐私的各种问题。这份广泛的调查报告旨在详细阐述和分析威胁云计算采用和扩散的众多未解决问题，这些问题影响着与之相关的各种云计算持有者。
2012-05-21 cs.CR
Users Authentication and Privacy control of RFID Card
无线射频识别（RFID）技术特别是RFID卡的安全和隐私问题是一个广泛的研究领域，吸引了研究人员十多年。在RFID技术的卡端对用户进行身份验证是对系统进行攻击的主要来源之一。在这项研究中，我们研究了各种已知的攻击和可用的缓解措施。我们提出了一个概念框架，可以用来减轻未经授权的使用RFID卡。这个概念将减轻RFID卡故障的单点：未经授权的使用。
2012-10-05 cs.CR
Understanding Users' Security and Privacy Concerns and Attitudes Towards Conversational AI Platforms
本研究通过分析Reddit的r/ChatGPT社区超250万条帖子，探究用户对对话式AI平台的安全隐私担忧与态度，发现用户担忧数据全生命周期风险、行为偏好各异且担忧随AI发展演变，并为多方提出提升信任的建议。
2025-05-15 cs.CR cs.CY
FedDICE: A ransomware spread detection in a distributed integrated clinical environment using federated learning and SDN based mitigation
CSIRO Data61（澳大利亚联邦科学与工业研究组织数据61）；The University of Newcastle（纽卡斯尔大学）；University of Zurich（苏黎世大学）；Cyber Security Cooperative Research Centre（网络安全合作研究中心）
集成临床环境（ICE）能够围绕医院患者的护理实现医疗物联网的连接和协调。然而，勒索软件攻击及其在包括ICE在内的医院基础设施上的传播正在增加。通常，攻击者会用相同的勒索软件攻击多个医院。通过使用机器学习算法检测这些攻击。但挑战在于在以下条件下设计反勒索软件学习机制和服务：（1）如果其中一家医院受到攻击，则为其他医院提供免疫力，（2）医院通常分布在不同的地理位置，以及（3）由于隐私问题，避免直接数据共享。在这方面，本文提出了一个联邦分布式集成临床环境，又名。FedDICE。FedDICE将联邦学习（FL）（隐私保护学习）集成到面向SDN的安全架构中，以实现协同学习、检测和缓解勒索软件攻击。我们展示了FedDICE在协作环境中的重要性，其中包括多达四家医院和四个流行的勒索软件家族，即WannaCry，Petya，BadRabbit和PowerGhost。我们的研究结果发现，在IID和非IID数据设置，FedDICE实现了集中的基线性能，需要直接数据共享检测。然而，作为对数据隐私的权衡，FedDICE在反勒索软件模型训练中观察到开销，例如，逻辑回归模型的28倍。此外，FedDICE利用SDN的动态网络可编程功能来删除ICE中受感染的设备。
2021-06-09 cs.AI cs.CR
Planting and Mitigating Memorized Content in Predictive-Text Language Models
University of Washington（华盛顿大学）；Microsoft（微软）
语言模型被广泛部署以在用户产品中提供自动文本完成服务。然而，最近的研究表明，语言模型（特别是大型的）承担着相当大的风险，记忆私人训练数据，这是脆弱的泄漏和提取的对手。在这项研究中，我们测试了一系列隐私保护技术的有效性，以减轻敏感用户文本的非故意记忆，同时改变其他因素，如模型大小和对抗性条件。我们测试了“启发式”缓解措施（没有正式隐私保证的缓解措施）和差异私有训练，后者以一些模型性能为代价提供了可证明的隐私级别。我们的实验表明，（L2正则化除外），启发式缓解在很大程度上是无效的，防止记忆在我们的测试套件，可能是因为他们做了太强的假设的特征，定义“敏感”或“私人”的文本。相比之下，差分隐私在我们的实验中可靠地防止记忆，尽管它的计算和模型性能成本。
2022-12-16 cs.CL cs.CR
SoK: Can Synthetic Images Replace Real Data? A Survey of Utility and Privacy of Synthetic Image Generation
Tulane University（Tulane大学）
本综述系统梳理了PPDS中生成-采样-分类流程的图像合成、隐私攻击与缓解方法，构建基准并利用MIAs评估隐私风险，揭示了合成数据的效用-隐私权衡，为真实数据发布策略提供指导。
2025-06-26 cs.CR cs.CV
Sanitize Your Responses: Mitigating Privacy Leakage in Large Language Models
提出Self-Sanitize框架，通过表征工程进行token级自我监控并就地修复有害内容，在三种隐私泄露场景和四个LLM上以低开销实现有效缓解且不损害模型效用。
2025-09-29 cs.CL cs.CR cs.LG
Verifiable Exponential Mechanism for Median Estimation
本文提出首个基于zk-SNARKs的可验证指数机制，并应用于差分隐私中位数估计，通过算术电路编码和缩放逆CDF采样，实现隐私与可验证性兼得。
2025-08-06 cs.CR
Mitigation of Social Media Platforms Impact on the Users
针对社交媒体平台对用户安全、隐私和保障的负面影响，提出一种基于分形树和L系统算法的去中心化数据排列框架，以缓解这些影响。
2025-07-26 cs.CR cs.CY cs.GR
Faceless Person Recognition; Privacy Implications in Social Media
Max-Planck Institute for Informatics（马克斯·普朗克信息学研究所）
随着我们将更多的生活转移到虚拟领域，网络上共享的数据量不断增加，并对我们的隐私构成威胁。这项工作有助于通过分析人们在社交媒体数据中的识别程度来理解这种数据共享对隐私的影响。为了便于系统的研究，我们定义了一些场景，考虑到一些因素，如一个人有多少个头被标记，以及这些头是否被混淆。我们提出了一个强大的人识别系统，可以处理姿势和服装的大变化，可以用很少的训练样本进行训练。我们的研究结果表明，即使存在模糊处理，少量图像也足以威胁用户的隐私。我们展示了详细的实验结果，并讨论了它们的影响。
2016-07-28 cs.AI cs.CR cs.CV
Don't be a Victim During a Pandemic! Analysing Security and Privacy Threats in Twitter During COVID-19
在COVID-19封锁期间，社交媒体平台的使用量大幅上升。这些封锁期导致了一系列新的网络犯罪，从而使攻击者能够用一系列威胁来攻击社交媒体用户。本文进行了一项大规模研究，以调查流行病和封锁期对社交媒体用户安全和隐私的影响。我们分析了来自533天数据抓取的1060万条与COVID相关的推文，并调查了用户在三个不同时期（即，在锁定之前、期间和之后）。我们的研究表明，用户在撰写有关大流行形势的文章时，无意中分享了更多的个人身份信息（例如，分享附近的冠状病毒检测地点）。如果用户发布三条或更多关于疫情的敏感推文，隐私风险将达到100%。我们调查了疫情不同阶段社交媒体上共享的可疑域名数量。我们的分析显示，与其他锁定阶段相比，锁定期间可疑域名的数量有所增加。我们观察到，IT、搜索引擎和企业是包含可疑域的前三大类别。我们的分析表明，对手煽动恶意活动的策略会随着国家的流行情况而变化。
2023-03-26 cs.CR cs.CY cs.SI
Mitigating Data Poisoning Attacks to Local Differential Privacy
针对本地差分隐私的分布式特性易遭数据投毒攻击的问题，提出含恶意用户检测、攻击模式识别、受损效用恢复的全面缓解框架，性能优于现有工作，并给出协议选型与未来研究设计的新参考。
2025-06-16 cs.CR
Reckless Designs and Broken Promises: Privacy Implications of Targeted Interactive Advertisements on Social Media Platforms
New York University（纽约大学）；Northeastern University（东北大学）；New York University Abu Dhabi（纽约大学阿布扎比分校）
本文研究了社交媒体平台定向互动广告的设计漏洞，指出其导致用户隐私泄露，并提出改进措施以增强透明度和保护用户隐私。
2026-03-05 cs.CR cs.CY
The privacy implications of Bluetooth
大量的研究，以及媒体炒作，已经围绕RFID技术及其隐私的影响。目前，研究人员和媒体关注RFID带来的隐私威胁，而消费者团体则选择抵制带有RFID标签的产品。然而，与此同时，一种非常相似的技术已经悄悄地成为我们日常生活的一部分：蓝牙。在本文中，我们强调的事实，蓝牙是一种广泛的技术，具有真正的隐私影响。此外，我们探讨了基于RFID的解决方案，以解决这些隐私问题的适用性。
2008-04-23 cs.CR cs.CY
Securing Generative AI Agentic Workflows: Risks, Mitigation, and a Proposed Firewall Architecture
本文针对生成式AI智能体工作流的安全风险，提出集成多种安全服务并利用GenAI增强防御的防火墙架构，以保障系统安全部署。
2025-06-10 cs.CR
Machine Learning for Healthcare-IoT Security: A Review and Risk Mitigation
本文综述了医疗物联网面临的安全与隐私挑战，并探讨了基于机器学习和深度学习的认证机制及分层监测等风险缓解策略，以增强H-IoT的韧性。
2024-01-17 cs.CR
Setting $\varepsilon$ is not the Issue in Differential Privacy
Institute of Science and Technology Austria（奥地利科学技术学院）
本文指出差分隐私中隐私预算的解释困难并非其本质问题，而是隐私风险评估的挑战，并主张应通过差分隐私框架或合理解释来解决。
2026-01-19 cs.CR cs.LG
Contamination Attacks and Mitigation in Multi-Party Machine Learning
Microsoft Research（微软研究院）
机器学习是数据饥渴型的;模型在训练中访问的数据越多，就越有可能在推理时表现良好。不同的参与方可能希望结合他们的本地数据，以获得在大型数据库上训练的模型的好处。我们考虑这样一种情况：各方可以访问在其联合数据上训练的模型，但看不到彼此的单独数据集。我们表明，在使用这种多方模型时需要小心，因为潜在的恶意方可以通过提供受污染的数据来污染模型。然后，我们展示了对抗性训练如何通过防止模型学习特定于个人数据的趋势来防御此类攻击，从而也保证了政党级别的成员隐私。
2019-01-08 cs.CR cs.LG
A Survey on Privacy Risks and Protection in Large Language Models
本文系统综述了大型语言模型面临的隐私泄露与攻击风险，梳理了推理检测、联邦学习等现有防护方法，并提出隐私风险评估与跨学科治理等未来方向。
2025-05-04 cs.CR
NLP Privacy Risk Identification in Social Media (NLP-PRISM): A Survey
George Mason University（乔治·马歇尔大学）
本文提出NLP-PRISM框架，系统评估社交媒体中NLP处理的隐私风险，揭示模型隐私保护与效用之间的权衡，并呼吁加强隐私保护措施。
2026-01-26 cs.AI cs.CL cs.CR
When Privacy Becomes a Weapon: Understanding Doxxing and Privacy Vulnerabilities in Mainland China's Social Media Ecosystem
Universitat Politècnica de València（瓦伦西亚理工大学）；University of Cambridge（剑桥大学）；King’s College London（伦敦国王学院）；University of Warwick（华威大学）；INGENIO (CSIC-Universitat Politècnica de València)（INGENIO（西班牙国家研究委员会-瓦伦西亚理工大学））
本研究通过访谈18名中国大陆人肉搜索幸存者，揭示人肉搜索在强制身份系统与文化逻辑下的运作机制，挑战以用户能动性为中心的隐私保护框架，提出法律、平台与社会层面的综合应对建议。
2026-09-30 cs.CR cs.HC
Differentially Private Auditing Under Strategic Response
University of Bath（巴斯大学）
本文研究了在审计方与开发者战略响应下，差分隐私审计的设计问题，提出了一种考虑福利权重、审计误判概率、检测弹性及缓解成本曲率的四因素平衡模型，通过开发者KKT系统提出SPAD算法。
2026-08-03 cs.CR cs.GT cs.LG
A Survey on Responsible LLMs: Inherent Risk, Malicious Use, and Mitigation Strategy
Tsinghua University（清华大学）；Huazhong University of Science and Technology（华中科技大学）
本文综述LLM的内在风险与恶意使用问题，按开发使用四阶段梳理隐私、幻觉、价值、毒性及越狱防御等缓解技术，并提出统一的负责任LLM框架。
2025-01-16 cs.AI cs.CL cs.CR
FoggySight: A Scheme for Facial Lookup Privacy
University of Washington（华盛顿大学）
深度学习算法的进步使人脸识别任务的性能优于人类。与此同时，私营公司一直在收集社交媒体和其他将照片与身份联系起来的公共网站，并建立了带有标签的人脸图像的大型数据库。这些数据库中的数据现在被作为一种服务提供给执法部门和其他人，并为社交媒体用户带来了大量的隐私风险。在这项工作中，我们解决了从这样的人脸识别系统提供隐私的问题。我们提出并评估了FoggySight，这是一种解决方案，它应用了从对抗性示例文献中吸取的经验教训，在将面部照片上传到社交媒体之前，以保护隐私的方式对其进行修改。FoggySight的核心功能是一种社区保护策略，用户作为其他人的隐私保护者上传由对抗性机器学习算法生成的诱饵照片。我们探索了这个方案的不同设置，发现它确实可以保护面部隐私--包括针对内部结构未知的面部识别服务。
2020-12-15 cs.CR cs.CV cs.LG
Privacy in Data Service Composition
在现代信息系统中，关于同一个人的不同信息特征通常由可能具有不同隐私策略的自主数据汇集服务来收集和管理。对许多最终用户的合法查询进行认证需要集成来自多个此类服务的数据。然而，数据集成往往受到缺乏可信实体（通常称为中介）的阻碍，服务可以与之共享数据并委托执行其隐私策略。在本文中，我们提出了一个灵活的隐私保护的数据集成方法回答数据集成查询，而不需要一个可信的调解人。在我们的方法中，允许服务在本地执行其隐私政策。中介被认为是不受信任的，只能访问加密信息，以允许它在不同的服务中链接数据主体。服务，凭借一个新的隐私要求，被称为k-Protection，限制隐私泄露，不能推断有关彼此持有的数据的信息。最终用户只能访问经过隐私保护的数据。我们使用一个例子和一个来自医疗应用领域的真实数据集来评估我们的方法。结果是有前途的隐私保护和性能的角度来看。
2020-01-03 cs.CR cs.DB cs.DC
Auditing M-LLMs for Privacy Risks: A Synthetic Benchmark and Evaluation Framework
本文提出首个多模态隐私推断合成基准PRISM及多智能体评估框架，系统评估六种主流M-LLM从社交媒体内容推断敏感属性的能力，揭示其显著超越人类的隐私风险。
2025-11-09 cs.CR
