The Illusion of Anonymity: Uncovering the Impact of User Actions on Privacy in Web3 Social Ecosystems
本研究揭示Web3社交生态中伪造活动、高参与度用户行为等会放大隐私风险，指出需更严格的隐私措施与伦理规范以应对相关挑战。
2024-05-22 cs.CR
SPAct: Self-supervised Privacy Preservation for Action Recognition
University of Central Florida（中佛罗里达大学）
视觉隐私信息泄漏是视频理解（如活动识别）快速发展的应用中出现的关键问题。现有的用于减轻动作识别中的隐私泄露的方法需要隐私标签以及来自视频数据集的动作标签。然而，为隐私标签注释视频数据集的帧是不可行的。自监督学习（SSL）的最新发展释放了未标记数据的未开发潜力。这是第一次，我们提出了一种新的训练框架，它以自我监督的方式从输入视频中删除隐私信息，而不需要隐私标签。我们的训练框架由三个主要部分组成：匿名化功能，自我监督隐私删除分支和动作识别分支。我们训练我们的框架使用极大极小优化策略，以最小化的动作识别成本函数和最大化的隐私成本函数，通过对比自我监督损失。采用现有的协议的已知的行动和隐私属性，我们的框架实现了竞争性的行动隐私权衡现有的国家的最先进的监督方法。此外，我们引入了一个新的协议来评估学习的匿名化功能的泛化到新的动作和隐私属性，并表明我们的自监督框架优于现有的监督方法。代码可在：https://github.com/DAVEISHAN/SPAct
2022-03-29 cs.CR cs.CV cs.LG
On the Semantics of Purpose Requirements in Privacy Policies
隐私政策通常对受管辖实体可能使用个人信息的目的提出要求。例如，诸如HIPAA之类的法规要求医院员工仅将医疗信息用于某些目的，例如治疗。因此，使用正式的或自动化的方法来执行隐私策略需要目的需求的语义来确定动作是否是为了某个目的。我们提供这样的语义使用基于规划的形式主义。我们使用马尔可夫决策过程的修改版本，排除冗余的正式定义冗余的行动模型规划。我们使用该模型来形式化一个动作序列是只为或不为一个目的。这种语义使我们能够提供一个自动化审计的算法，并正式描述和比较严格以前的执法方法。
2011-02-21 cs.CR
SAFECHAIN: Securing Trigger-Action Programming from Attack Chains (Extended Technical Report)
物联网（IoT）的普及正在重塑我们的生活方式。随着物联网传感器和设备通过互联网相互通信，人们可以定制自动化规则以满足他们的需求。然而，除非仔细定义，否则随着设备数量和规则复杂性的增加，这些规则很容易成为安全故障点。由于设备之间的复杂连锁反应，设备所有者可能最终无意中向未经授权的实体提供访问或泄露私人信息。以前的工作对攻击者行动编程要么集中在冲突解决或可用性问题，或未能准确和有效地检测这样的攻击链。本文探讨了安全漏洞时，用户可以自由地定制自动化规则，使用自动化操作编程。我们定义了两大类攻击-特权升级和隐私泄漏-并提出了一个实用的基于模型检查的系统称为SAFECHAIN，检测隐藏的攻击链利用规则的组合。基于现有的模型检查技术，SAFECHAIN通过将物联网生态系统建模为有限状态机来识别攻击链。为了提高实用性，SAFECHAIN通过频繁地重新检查给定当前状态的自动化规则来避免对环境进行精确建模的需要，并采用规则感知优化来进一步降低开销。我们的比较分析表明，SAFECHAIN可以有效地，准确地识别攻击链，我们的原型实现SAFECHAIN可以验证100条规则，在不到一秒钟，没有误报。
2019-03-09 cs.CR
Decoupled-IFTTT: Constraining Privilege in Trigger-Action Platforms for the Internet of Things
触发-动作平台是一种新兴的基于网络的系统，它使用户能够创建形式为"如果有烟雾报警器，请关闭我的烤箱"的自动化规则（或食谱）。"这些平台通过代表用户获取OAuth令牌，将各种在线服务（包括物联网设备、社交网络和生产力工具）整合在一起。不幸的是，这些平台也带来了长期的安全风险：如果它们受到损害，攻击者可以滥用属于数百万用户的OAuth令牌来任意操纵他们的设备和数据。在这项工作中，我们首先量化了用户在IFTTT（If-This-Then-That）背景下面临的风险。我们使用半自动化的工具，我们建立了克服IFTTT的闭源性质和在线服务API不一致的挑战，IFTTT的基于OAuth-based授权模型进行第一次实证分析。我们发现，75%的IFTTT渠道（在线服务的抽象）使用特权过高的OAuth令牌，从而增加了发生妥协时的风险。即使OAuth令牌被正确地授予特权，IFTTT的妥协也无法阻止它们的滥用。出于这种实证分析的动机，我们设计和评估解耦IFTTT（dIFTTT），第一个商家行动平台，用户不必给它高度特权访问他们的在线服务。我们的设计将细粒度OAuth令牌的概念推向了极致，并确保即使云服务被攻击者控制，它也不能滥用OAuth令牌来调用未经授权的操作。我们的评估确定，dIFTTT构成适度的开销：它增加了不到15毫秒的延迟配方执行时间，并减少了2.5%的吞吐量。
2017-07-03 cs.CR
IoTWarden: A Deep Reinforcement Learning Based Real-time Defense System to Mitigate Trigger-action IoT Attacks
本文提出IoTWarden，一种基于深度强化学习和深度Q网络的实时防御系统，通过定义奖励函数学习最优防御策略，以低计算开销有效识别并缓解触发-动作式物联网中的远程注入攻击。
2024-01-16 cs.CR
Smart Privacy Policy Assistant: An LLM-Powered System for Transparent and Actionable Privacy Notices
Binghamton University（宾汉姆顿大学）
本文提出基于大语言模型的智能隐私政策助手，通过自动提取和分类隐私条款，生成可理解的解释，提升用户对隐私政策的理解和透明度。
2026-01-09 cs.AI cs.CR
Privacy in Action: Towards Realistic Privacy Mitigation and Evaluation for LLM-Powered Agents
Wuhan University（武汉大学）；Microsoft（微软公司）
本文针对 LLM 智能体在真实通信中的隐私泄露问题，提出基于情境完整性的 PrivacyChecker 缓解方法和动态评估环境 PrivacyLens-Live，显著降低隐私泄露率并保持任务有用性。
2025-09-22 cs.AI cs.CR
Data Fusion Challenges Privacy: What Can Privacy Regulation Do?
University of Canterbury（坎特伯雷大学）；University of Bonn（波恩大学）；University of Auckland（奥克兰大学）
本文重点关注当前隐私和数据保护法规在充分解决人工智能驱动的数据处理实践的影响方面的一些不足，特别是在人工智能系统组合和处理数据集的情况下。我们提请注意与传统隐私和数据保护方法的两个基本假设相关的两个监管异常：（1）只有个人身份信息（PII）和个人数据（PD）需要隐私保护：隐私和数据保护法规仅针对PII/PD而非匿名数据触发。这不仅是有问题的，因为确定数据是否属于前一类或后一类不再是简单的，而且还因为与数据处理相关的隐私风险可能存在，无论是否可以识别个人。(2)如果以透明和可理解的方式提供足够的信息，个人就能够充分评估其行为对隐私的影响，并保护其隐私利益：然而，依赖于人类隐私期望无法解决重要的隐私威胁，因为这些期望与数据处理实践的实际隐私影响不一致，因为大多数人缺乏必要的技术素养，无法理解正在发挥作用的复杂技术，也无法正确评估其隐私影响。为了解决这些异常现象，我们建议从两个方向进行监管改革：（1）取消个人数据和匿名数据之间的区别，以触发隐私和数据保护法规的应用;（2）制定方法，根据个人数据处理行为造成的隐私风险水平优先考虑监管干预。
2023-01-17 cs.AI cs.CR cs.CY
PFirewall: Semantics-Aware Customizable Data Flow Control for Smart Home Privacy Protection
物联网（IoT）平台使用户能够部署家庭自动化应用程序。与此同时，随着大量敏感设备数据流流向物联网平台，隐私问题也随之出现。大多数流向平台的数据实际上不会触发自动化操作，而一旦设备绑定到平台，房主目前就无法控制。我们提出了PFirewall，一个可定制的数据流控制系统，以增强物联网平台用户的隐私。PFirewall自动生成数据最小化策略，仅公开最小量的数据以实现自动化。此外，PFirewall还为房主提供接口，通过定义用户指定的策略来定制个人隐私偏好。为了实施这些策略，PFirewall透明地干预和调解IoT设备与平台之间的通信，而无需修改平台、IoT设备或集线器。四个真实测试平台的评估结果表明，PFirewall将发送到平台的物联网数据减少了97%，而不会影响家庭自动化，并有效地减轻了用户活动推断/跟踪攻击和其他隐私风险。
2021-04-07 cs.CR
RESTRAIN: Reinforcement Learning-Based Secure Framework for Trigger-Action IoT Environment
Old Dominion University（奥多明尼昂大学）；Wichita State University（威奇托州立大学）；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
本文提出平台无关的多智能体在线防御系统RESTRAIN，利用强化学习在运行时优化防御策略，以应对物联网触发-动作环境中的远程注入攻击，实现实时防御并最大化安全收益。
2025-03-12 cs.AI cs.CR
PrivHAR-Bench: A Graduated Privacy Benchmark Dataset for Video-Based Action Recognition
本文提出PrivHAR-Bench，通过多层级隐私变换评估视频动作识别中的隐私-效用权衡，提供标准化的评估框架和工具，验证了隐私增强对识别性能的影响。
2026-04-01 cs.CR cs.CV
Crowding Out The Noise: Algorithmic Collective Action Under Differential Privacy
University of Waterloo, Vector Institute（滑铁卢大学，向量研究所）
本文研究了在差分隐私下算法集体行动的挑战，分析了集体行动效果与隐私参数的关系，并通过实验验证了隐私成本对集体形成的影响。
2026-05-11 cs.CR cs.LG
Beyond Attack Success Rate: Examining Trigger Leakage in Vision-Language Agentic Systems
University of New South Wales（新南威尔士大学）；CSIRO（澳大利亚联邦科学与工业研究组织）；Adelaide University（阿德莱德大学）
本文提出“触发器泄漏”概念，量化视觉-语言智能系统中后门触发器在视觉或语义相近输入下意外激活隐藏行为的风险，并引入邻域泄漏率（NLR）指标。
2026-06-12 cs.CR
PrivHAR: Recognizing Human Actions From Privacy-preserving Lens
Universidad Industrial de Santander（桑坦德工业大学）；Stanford University（斯坦福大学）
针对动作识别中的隐私问题，提出一种优化框架对相机镜头进行参数化，在降低视频质量以抑制隐私属性并防御对抗攻击的同时，保留用于活动识别的特征，并通过仿真和硬件实验验证。
2023-01-29 cs.AI cs.CR cs.CV
PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action
Stanford University（斯坦福大学）；Northeastern University（东北大学）；Harvard University（哈佛大学）
提出 PrivacyLens 框架，将隐私敏感种子扩展为情景与智能体轨迹，多层次评估 LM 行动中的隐私泄露，并发现 GPT-4 与 Llama-3-70B 仍存在显著泄露。
2025-03-14 cs.AI cs.CL cs.CR
Learning to Anonymize Faces for Privacy Preserving Action Detection
EgoVid Inc.（EgoVid公司）；University of California, Davis（加州大学戴维斯分校）
人们越来越担心计算机视觉设备通过记录不需要的视频来侵犯用户的隐私。一方面，我们希望摄像机系统能够识别重要事件，并通过理解其视频来帮助人们的日常生活，但另一方面，我们希望确保它们不会侵犯人们的隐私。在本文中，我们提出了一个新的原则性的方法来学习视频\emph{face anonymizer}。我们使用了一个对抗性的训练设置，其中两个竞争系统进行战斗：（1）一个视频匿名器，它修改原始视频以删除隐私敏感信息，同时仍然试图最大化空间动作检测性能，以及（2）一个匿名器，它试图从匿名视频中提取隐私敏感信息。最终的结果是一个视频匿名器，它执行像素级修改来匿名化每个人的面部，对动作检测性能的影响最小。我们通过实验证实了我们的方法与传统的手工匿名方法相比的好处，包括掩蔽，模糊和噪声添加。代码、演示和更多结果可以在我们的项目页面https://jason718.github.io/project/privacy/main.html上找到。
2018-07-26 cs.AI cs.CR cs.CV
Purpose IR: Compiling User Purpose for Privacy-Preserving Agent Workflow State
Southern University of Science and Technology（南方科技大学）；City University of Hong Kong（香港城市大学）；The University of Tokyo（东京大学）；Lingnan University（岭南大学）
该研究提出Purpose IR，一种有界类型化中间表示，通过编译用户意图构建智能体可复用状态的语义边界，在多数据集上的隐私、任务及合规表现均优于基线方法。
2026-10-14 cs.CR
Dye4AI: Assuring Data Boundary on Generative AI Services
针对生成式AI服务的数据边界安全问题，本文提出Dye4AI染色测试系统，通过三阶段流程检测供应商是否滥用用户数据微调模型，在6个LLM上验证了有效性，并分析了提示选择的优化方向。
2024-06-20 cs.CR
Frictionless Authentication System: Security & Privacy Analysis and Potential Solutions
本文提出了一个无摩擦认证系统，提供了一个全面的安全性分析，并提出了潜在的解决方案，该系统。它首先提出了一个系统，允许用户以无摩擦的方式认证服务，即，而不需要执行任何特定的认证相关动作。在此系统模型的基础上，本文分析了用户面临的安全问题和潜在的隐私威胁，从而规范了一组安全和隐私的要求。这些要求可以作为设计安全和隐私友好的无摩擦认证系统的指导。本文还概述了这类系统的三种可能的解决方案，并强调了它们的优点和缺点。
2018-02-20 cs.CR
AgentRAE: Remote Action Execution through Notification-based Visual Backdoors against Screenshots-based Mobile GUI Agents
Nanjing University of Science and Technology（南京理工大学）；Macquarie University（麦考瑞大学）；Western Sydney University（西澳大学）；University of Hong Kong（香港大学）；CSIRO’s Data61（澳大利亚CSIRO Data61）
针对基于截图的移动GUI代理，提出AgentRAE通过自然视觉触发器诱导远程动作执行，采用两阶段管道提升代理对细微图标差异的敏感度，并通过后训练关联触发器与特定动作，实现高攻击成功率和隐蔽性。
2026-03-24 cs.AI cs.CR
Goal-oriented Backdoor Attack against Vision-Language-Action Models via Physical Objects
The University of Auckland（奥克兰大学）；The King Abdullah University of Science and Technology（国王 Abdullah 科学与技术大学）
针对VLA模型，提出通过物理对象作为触发器注入训练数据的目标导向后门攻击GoBA，实现特定动作执行且不影响正常性能，并构建BadLIBERO数据集与三级评估体系。
2025-10-10 cs.CR cs.CV cs.LG
TAPInspector: Safety and Liveness Verification of Concurrent Trigger-Action IoT Systems
触发动作编程（TAP）是一种流行的最终用户编程框架，可以通过简单的触发动作规则简化物联网（IoT）自动化。但是，它也带来了新的安全威胁。已经提出了许多先进的技术来解决这个问题。严格推理基于TAP的物联网系统的安全性需要针对规则语义和物理世界特征的定义良好的模型和验证方法，例如，并发性、规则延迟、扩展操作、延迟属性和基于连接的规则交互，这些到目前为止一直缺少。通过分析这些特征，我们发现了9种新的规则交互漏洞，并在两个商业物联网平台上进行了验证。然后，我们提出了TAPInspector，这是一种新的系统，可以在并发的基于TAP的物联网系统中检测这些交互漏洞。它自动从物联网应用中提取TAP规则，通过模型切片和状态压缩将其转换为混合模型，并执行具有各种安全性和活性属性的语义分析和模型检验。我们的实验证实了TAPInspector的实用性：它从1108个真实市场的物联网应用程序中识别出533个与规则交互相关的违规行为，并且比没有优化的基线快至少60000倍。
2022-05-06 cs.CR cs.HC cs.NI
CFE-PPAR: Compression-friendly encryption for privacy-preserving action recognition leveraging video transformers
Graduate School of Informatics（信息研究生院）；Faculty of System Design（系统设计学部）；Chiba University（千叶大学）；Tokyo Metropolitan University（东京 Metropolitan 大学）
本文提出CFE-PPAR，一种压缩友好的加密方法，通过视频变换器实现加密视频的高效识别，优于现有方法。
2026-05-07 cs.AI cs.CR cs.CV
When the World Lies: Backdoor Attacks on Latent World Models for Downstream Control
Radboud University（拉德堡德大学）；IKERLAN Technology Research Centre（IKERLAN技术研究中心）；University of Bergen（卑尔根大学）；University of Zagreb（萨格勒布大学）
本研究揭示预训练世界模型重用中的供应链后门攻击，通过潜在状态路由与动力学重塑，使受害者优化自行发现攻击者目标动作，劫持下游控制器，且能通过干净数据诊断。
2026-09-15 cs.AI cs.CR cs.LG
PEARL: Structural Privacy-Utility Control in Human-Centric CPS via Personalized Early-Exit Deep Reinforcement Learning
University of California, Irvine（加利福尼亚大学欧文分校）
PEARL通过边缘双路径早退深度Q网络，利用互信息训练效用与隐私置信标签，在推理时选择最浅退出分支，实现结构隐私控制，平均降低25.67%推理准确率，效用成本仅10-16%。
2026-09-14 cs.CR cs.HC cs.LG
Designing Incentive Schemes For Privacy-Sensitive Users
企业（零售商）通常希望向个人（消费者）提供个性化的广告（优惠券），但有可能引起消费者的强烈反应，这些消费者想要定制的购物体验，但觉得他们的隐私受到了侵犯。现有的隐私模型，如差分隐私或信息论试图量化隐私风险，但没有捕捉到的主观经验和隐私敏感性的异质表达。我们提出了一个马尔可夫决策过程（MDP）模型来捕获（i）不同的消费者隐私敏感度通过随时间变化的状态;（ii）不同的优惠券类型（动作集）的零售商;（iii）的动作和状态相关的成本感知隐私侵犯。对于简单的情况下，两个状态（“正常”和“警报”），两个优惠券（有针对性的和非有针对性的）模型，和消费者的行为统计已知的零售商，我们表明，一个固定的阈值为基础的政策是最佳的优惠券提供策略的零售商，希望最大限度地减少其预期的折扣成本。阈值是所有模型参数的函数;如果零售商认为消费者处于“警报”状态，则零售商提供有针对性的优惠券。我们扩展这个两状态模型的消费者与多个隐私敏感性的状态，以及优惠券依赖的状态转移概率。此外，我们研究了不完美的（噪声）的消费者的成本反馈和不确定的初始信念状态的情况下。
2015-09-23 cs.CR cs.GT
Proactive Detection of Physical Inter-rule Vulnerabilities in IoT Services Using a Deep Learning Approach
School of Computer Science and Engineering, Nanyang Technological University（南洋理工大学计算机科学与工程学院）；Department of Computer Science, Western Washington University（西华盛顿大学计算机科学系）
本文提出一种基于深度学习的框架，利用Transformer从规则描述中提取触发-动作规则并结合NLP识别共享环境通道，以主动发现物联网服务中的物理规则间漏洞。
2024-06-06 cs.AI cs.CR
DropVLA: An Action-Level Backdoor Attack on Vision-Language-Action Models
Institute of Trustworthy Embodied AI, Fudan University（可信具身AI研究院，复旦大学）；Shanghai Key Laboratory of Multimodal Embodied AI（上海多模态具身AI重点实验室）；City University of Hong Kong（香港城市大学）
DropVLA是一种针对视觉-语言-动作模型的行动级后门攻击，通过有限的数据污染实现对特定动作的精准操控，验证了在现实环境中的有效性。
2026-09-14 cs.AI cs.CR cs.RO
StepTrigger: Contact-State-Triggered Backdoor Attacks on VLM-Powered Legged Robots
Michigan Technological University（密歇根理工大学）
本文提出StepTrigger，一种针对VLM驱动腿式机器人的接触状态触发后门攻击，利用压力和脚-地面接触模式作为隐藏触发条件，在保持正常行为的同时实现目标选择改变，揭示了现有防御的盲区。
2026-10-27 cs.AI cs.CR cs.RO
VLALeaks: Membership Inference Attacks against Vision-Language-Action Models
Beijing Institute of Technology（北京理工大学）
提出VLALeaks方法，利用VLA模型注意力差异，通过两阶段流程（成员特征提取和攻击模型构建）首次揭示VLA模型的隐私漏洞，在多个基准上实现最优攻击性能。
2026-06-16 cs.CR cs.RO
Covariance's Loss is Privacy's Gain: Computationally Efficient, Private and Accurate Synthetic Data
保护私人信息在数据驱动的研究、商业和政府中至关重要。隐私和实用性之间的冲突引发了计算机科学和统计学界的深入研究，他们开发了各种保护隐私的数据发布方法。出现的主要概念包括匿名和差分隐私。今天，另一种解决方案正在获得牵引力，合成数据。然而，通往隐私的道路是由NP难题铺就的。在本文中，我们专注于NP难的挑战，开发一个合成数据生成方法，计算效率高，具有可证明的隐私保证，并严格量化的数据效用。我们通过研究一个基本的，但乍一看完全无关的，关于协方差损失概念的概率问题来解决这个问题的一个轻松的版本。也就是说，我们找到了一个接近最优的和建设性的答案，当我们采取条件期望时，会损失多少信息。令人惊讶的是，这种对理论概率的探索产生了数学技术，使我们能够为涉及微聚集、隐私和合成数据的困难应用问题得出建设性的、近似最优的解决方案。
2022-08-10 cs.CR math.PR math.ST
PromptPET: Privacy-Utility Optimized Prompt Obfuscation
University of California, Irvine（加州大学 Irvine 分校）；Washington University in St. Louis（圣路易斯华盛顿大学）
旨在通过用户端机制保护用户隐私，该机制转换用户提示中的敏感信息，在保护隐私和保留效用间权衡。考虑评估比较四种混淆动作，提出基于大语言模型的PROMPTPET，优于现有方法。
2026-07-07 cs.AI cs.CR cs.HC
Towards Physical World Backdoor Attacks against Skeleton Action Recognition
Nanyang Technological University（南洋理工大学）；Lancaster University（兰卡斯特大学）
该研究首次探索针对骨骼动作识别的物理后门攻击PSBA，通过植入罕见难察的动作触发器实现攻击，在多场景下验证了有效性与鲁棒性，并通过真实采集数据集证实了物理攻击可行性。
2024-08-16 cs.CR cs.CV
TrojanWorld: Backdooring World-Model Agents via Imagination Steering
Shanghai Jiao Tong University（上海交通大学）；Nanyang Technological University（南洋理工大学）
TrojanWorld通过物理触发器引导世界模型智能体的内部想象，实现隐蔽后门攻击，在保持高保真性能的同时诱导恶意行为。
2026-09-09 cs.CR cs.LG
Actions Speak Louder Than Chats: Investigating AI Chatbot Age Gating
University of California, Irvine（加州大学尔湾分校）；The University of Alabama（阿拉巴马大学）
本文研究流行聊天机器人是否能通过对话估计用户年龄并采取行动限制儿童访问，发现其未能履行自身政策。
2026-02-10 cs.CR cs.HC
FedAdOb: Privacy-Preserving Federated Deep Learning with Adaptive Obfuscation
WeBank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）；University of Electronic Science and Technology of China（电子科技大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出了一种名为 FedAdOb 的自适应混淆机制，通过基于护照的自适应混淆保护私有数据，在水平和垂直联邦学习中实现了隐私保护与模型性能的更优权衡。
2024-06-03 cs.AI cs.CR
"My sex-related data is more sensitive than my financial data and I want the same level of security and privacy": User Risk Perceptions and Protective Actions in Female-oriented Technologies
本文针对FemTech行业渴求数据、敏感数据保障不足的问题，通过混合方法研究用户对女性导向技术的安全隐私认知，发现用户能感知风险却缺乏防护技能，提出参与式威胁建模等方法对保护用户至关重要。
2023-10-04 cs.CR cs.CY cs.HC
Privacy Challenges and Solutions in Retrieval-Augmented Generation-Enhanced LLMs for Healthcare Chatbots: A Review of Applications, Risks, and Future Directions
Centre for Smart Health, School of Nursing（智能健康中心、护理学院）；The Hong Kong Polytechnic University（香港理工大学）；Department of Electrical and Electronic Engineering（电子与电气工程系）；Faculty of Health Sciences（健康科学学院）；University of Maribor（马里博大学）
本综述分析医疗保健中RAG增强型大语言模型的隐私挑战，综合相关研究，通过流水线框架剖析风险与保护机制，指出临床验证等关键差距并提出方向，为构建兼顾临床有效性与隐私保护的系统提供框架与路线图。
2025-11-17 cs.AI cs.CR
Leveraging Privacy Profiles to Empower Users in the Digital Society
Università degli studi dell’Aquila（拉奎拉大学）
公民的隐私和道德是我们日益数字化的社会所提出的关切的核心。分析用户是软件应用程序的标准做法，触发了用户对正确管理隐私设置的需求，也受到法律的强制执行。用户需要正确管理软件隐私设置，以保护个人身份信息并表达个人道德偏好。人工智能技术通过反映用户的个人道德偏好，使用户能够与数字世界互动，这可能是建立一个值得信赖的数字社会的关键因素。我们专注于隐私维度，并通过对从健身域收集的现有数据集的实证研究，在上述方向上迈出了一步。我们找出哪一组问题适合根据用户的偏好区分用户。结果表明，一组紧凑的语义驱动的问题（关于域独立的隐私偏好）有助于区分用户比一个复杂的域相关的。这证实了该研究的假设，道德态度是相关的一块信息collect.Based的结果，我们实现了一个推荐系统，为用户提供合适的建议相关的隐私选择。然后，我们表明，建议的推荐系统提供相关的设置给用户，获得较高的准确性。
2022-04-01 cs.AI cs.CR cs.IR
State Backdoor: Towards Stealthy Real-world Poisoning Attack on Vision-Language-Action Model in State Space
Laboratory Of Intelligent Collaborative Computing, University of Electronic Science and Technology of China（智能协同计算实验室，电子科学与技术大学）；National Key Laboratory of Wireless Communications, University of Electronic Science and Technology of China（无线通信国家重点实验室，电子科学与技术大学）；School of Computer Science and Engineering, University of Electronic Science and Technology of China（计算机科学与工程学院，电子科学与技术大学）；College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics（计算机科学与技术学院，南京航空航天大学）；College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学）
提出状态后门攻击，利用机器人手臂初始状态作为触发器，通过偏好引导遗传算法优化触发器的隐蔽性和有效性，在五个VLA模型和五个真实任务中实现超过90%的攻击成功率。
2026-06-08 cs.CR cs.LG
Cross-reality location privacy protection in 6G-enabled vehicular metaverses: an LLM-enhanced hybrid generative diffusion model-based approach
School of Automation, Guangdong University of Technology（自动化学院，广东技术大学）；School of Computer Science and Engineering, Nanyang Technological University（计算机科学与工程学院，南洋理工大学）；Department of Electrical and Computer Engineering, University of Manitoba（电气与计算机工程系，曼尼托巴大学）；Department of Electrical and Computer Engineering, Sungkyunkwan University（电气与计算机工程系，成均馆大学）
本文提出了一种基于LLM增强混合生成扩散模型的方法，用于6G赋能车联网元宇宙中的跨现实位置隐私保护，通过混合动作优化平衡隐私保护、延迟降低和服务质量维护。
2026-07-27 cs.CR cs.HC cs.LG
Privacy is All You Need: Revolutionizing Wearable Health Data with Advanced PETs
VIT-AP University（VIT-AP大学）
本文提出一种通过整合联邦学习、轻量加密和区块链技术的隐私增强框架，旨在降低可穿戴健康数据的隐私风险，提升用户对数据的控制权。
2025-12-03 cs.AI cs.CR cs.ET
The Privacy Policy Landscape After the GDPR
University of Wisconsin（威斯康星大学）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
欧盟《通用数据保护条例》（GDPR）是有史以来最严格、最全面的隐私法规之一。在它生效一年后，我们研究了它对在线隐私政策的影响。我们在GDPR前后对隐私政策进行了首次纵向、深入和大规模的评估。我们评估这些策略的完整消费周期，从第一次用户印象到合规评估。我们创建了一个多样化的语料库，包含欧盟内外的两套6，278个独特的英语隐私政策，涵盖其GDPR之前和之后的版本。我们的测试和分析结果表明，GDPR已经成为欧盟内外隐私政策重大改革的催化剂。这一政策的彻底改革，体现在广泛的文本变化，特别是对欧盟网站，对用户的好处好坏参半。虽然隐私政策变得相当长，但我们对Amazon MTurk上的470名参与者进行的用户研究表明，从用户的角度来看，欧盟网站的隐私政策的视觉表示有了显着的改进。我们进一步开发了一个新的工作流程，用于自动评估隐私政策中的要求。使用此工作流程，我们表明隐私政策涵盖了更多的数据实践，并且与GDPR后的七项合规要求更加一致。我们还通过执行特异性分析来评估组织在隐私实践方面的透明度。在这项分析中，我们发现了GDPR引发的积极变化的证据，平均特异性水平有所提高。尽管如此，我们发现隐私政策的格局仍处于过渡阶段;许多政策仍然不符合GDPR的几个关键要求，或者其覆盖范围的改善伴随着特定性的降低。
2019-06-24 cs.CL cs.CR cs.CY
Practical Privacy Preserving POI Recommendation
Ant Financial Services Group（蚂蚁金融服务集团）；Peking University（北京大学）；Zhejiang University（浙江大学）
兴趣点推荐技术近年来得到了广泛的研究和成功的应用。然而，现有的方法大多是在收集用户数据的基础上建立集中式模型。私人数据和模型都由推荐器持有，这导致了严重的隐私问题。在本文中，我们提出了一种新的隐私保护POI推荐（PriRec）框架。首先，为了保护数据隐私，用户的私人数据（功能和操作）被保存在自己的一侧，例如，手机或平板电脑。同时，所有用户需要访问的公共数据由推荐器保存，以减少用户设备的存储成本。这些公开数据包括：（1）仅与POI的状态相关的静态数据，例如POI类别，以及（2）取决于用户POI动作的动态数据，例如访问计数。动态数据可能是敏感的，我们开发了本地差分隐私技术来向公众发布这些数据的隐私保证。其次，PriRec遵循由线性模型和特征交互模型组成的因式分解机（FM）的表示。为了保护模型的隐私，线性模型保存在用户端，我们提出了一个安全的分散梯度下降协议，供用户协作学习。由于特征交互模型不存在隐私风险，因此由推荐器保存，并采用联邦学习范式中的安全聚合策略进行学习，PriRec将用户私有的原始数据和模型保存在用户自己手中，在很大程度上保护了用户隐私。我们将PriRec应用于真实世界的数据集，综合实验表明，与FM相比，PriRec实现了相当甚至更好的推荐准确性。
2020-04-27 cs.CR cs.LG stat.ML
Concealing Backdoor Model Updates in Federated Learning by Trigger-Optimized Data Poisoning
Duke University（杜克大学）
针对联邦学习后门更新易被防御检测的问题，提出DPOT触发器优化数据投毒攻击，仅靠数据投毒即可隐藏恶意更新并突破现有防御。
2024-09-09 cs.AI cs.CR cs.LG
When Evolutionary Computation Meets Privacy
Guangzhou Institute of Technology, Xidian University（西安电子科技大学广州研究院）；South China University of Technology（华南理工大学）；Singapore Management University（新加坡管理大学）；Fuzhou University（福州大学）；Peng Cheng Laboratory（鹏城实验室）；Xidian University（西安电子科技大学）；Zhejiang Normal University（浙江师范大学）；Hanyang University（汉阳大学）
本文针对演化计算中的隐私泄露问题，通过三种典型优化范式和BOOM框架系统梳理了隐私保护的对象、动机、位置与方法，并展望了隐私保护演化计算的未来研究方向。
2023-03-22 cs.AI cs.CR cs.NE
Controllable Identifier Measurements for Private Authentication with Secret Keys
研究了在源序列保密性约束下的基于密钥的认证问题。在认证过程中的标识符测量被假定为通过成本约束的“动作”序列是可控的。单字母特征的最佳权衡之间的秘密密钥速率，存储速率，隐私泄漏率，和行动成本给出了四个问题，其中有噪声或无噪声的测量源注册生成或嵌入秘密密钥。结果是相关的几个用户认证的情况下，包括物理和生物认证与多个测量。我们的研究结果包括，作为特殊情况下，新的结果的秘密密钥生成和嵌入与动作相关的边信息，没有任何隐私约束的注册源序列。
2018-04-04 cs.CR cs.IT cs.MM
Towards a Visual Privacy Advisor: Understanding and Predicting Privacy Risks in Images
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland Informatics Campus（萨尔兰信息学园区）
随着越来越多的用户在网上分享信息，这种行为对隐私的影响是一个主要问题。对于明确的内容，例如用户简档或GPS数据，设备（例如移动电话）以及web服务（例如Facebook）提供设置隐私设置，以便实施用户的隐私偏好。我们提出了第一种方法，将这一概念扩展到图像内容的视觉隐私顾问的精神。首先，我们将图像中的个人信息分类为68个图像属性并收集数据集，这使我们能够训练模型，直接从图像中预测这些信息。其次，我们进行了一项用户研究，以了解不同用户的隐私偏好。这样的属性。第三，我们提出的模型，预测用户特定的隐私评分从图像，以加强用户的隐私偏好。我们的模型经过训练，可以预测用户特定的隐私风险，甚至优于用户的判断，用户通常无法遵循自己对图像数据的隐私偏好。
2017-08-07 cs.CR cs.CV cs.CY
