Personalizing Agent Privacy Decisions via Logical Entailment
University of Southern California(南加州大学);Google Research(谷歌研究院)
本文提出ARIEL框架,结合LLM与规则逻辑,实现结构化个性化隐私决策,实验显示其在适当判断的F1误差率上降低40.6%。
2026-03-16 cs.CR
Trading Location Data with Bounded Personalized Privacy Loss
由于个人数据已经成为数字时代的新石油,因此将个人数据视为商品的趋势越来越明显。虽然有些人愿意用他们的个人数据来换取金钱,但他们可能仍然期望有限的隐私损失,而最大可容忍的隐私损失因个人而异。在本文中,我们提出了一个框架,使个人能够交易他们的个人数据与有限的个性化隐私损失,这提出了在预算分配和仲裁自由方面的技术挑战。为了应对这些挑战,我们提出了两种具有不同优势的无仲裁交易机制。
2019-10-24 cs.CR cs.DB
Pricing Private Data with Personalized Differential Privacy and Partial Arbitrage Freeness
将个人数据视为商品的趋势越来越明显。现有的研究已经建立了框架和理论,如何确定一个给定的查询的无仲裁的价格,根据隐私损失量化的差分隐私。然而,这些研究假设数据购买者可以购买查询答案,而数据所有者的任意隐私损失,这在严格的隐私法规和数据所有者日益增加的隐私问题下可能是无效的。在本文中,我们研究了如何授权数据所有者控制数据交易中的隐私损失。首先,我们提出了一个交易个人数据的框架,使数据所有者能够限制他们的个性化隐私损失。其次,由于有界隐私损失表明查询答案的效用有界,因此我们提出了一种合理的无套利放松,称为部分无套利,即,仅对有限范围的公用事业保证无仲裁定价,这为我们的市场设计提供了更多的可能性。第三,为了避免套利,我们提出了一种通用的方法,以确保在个性化差分隐私的套利自由。第四,为了充分利用数据所有者的个性化隐私损失范围,我们提出了隐私预算分配技术来分配隐私损失的查询下套利自由。最后,我们进行实验来验证我们提出的交易协议的有效性。
2021-11-23 cs.CR cs.DB
Heterogeneous Differential Privacy
个人化系统大量收集个人数据,使保护个人隐私变得越来越困难。在个性化系统中保护隐私的大多数方法通常在用户之间统一解决这个问题,从而忽略了用户有不同的隐私态度和期望(甚至在他们自己的个人数据中)的事实。在本文中,我们建议考虑这种非均匀性的隐私期望,通过引入异构差分隐私的概念。这一概念既捕捉了用户之间隐私期望的变化,也捕捉了与同一用户相关的不同信息之间的变化。我们还描述了一个明确的机制,实现异构差分隐私,这是一个修改的拉普拉斯机制Dwork,McSherry,Nissim和Smith。简而言之,该机制通过在输入域上使用线性变换来操纵函数的灵敏度来实现异构差分隐私。最后,我们在真实数据集上评估了所提出的机制对语义聚类任务的影响。我们的实验结果表明,异构差分隐私可以解释不同的隐私态度,同时保持了良好的实用性水平的语义聚类任务的召回。
2015-04-27 cs.CR
Privacy Guarantees for Personal Mobility Data in Humanitarian Response
本文提出一种构建差分隐私移动矩阵的算法并推导其隐私与准确性界,利用阿富汗和卢旺达真实移动数据验证其在流行病响应和人道主义援助分配中的可用性,同时探讨隐私与准确性的平衡,以促进隐私移动数据在人道主义响应中的负责任使用。
2024-11-22 cs.CR
What's Privacy Good for? Measuring Privacy as a Shield from Harms due to Personal Data Use
提出以危害为中心的隐私概念化框架,通过400名大学生的在线研究,测量AI推断个人数据在教育和就业中引发的14种危害,为公平改善隐私提供理论与实践指导。
2025-06-28 cs.CR cs.CY
Differential Privacy By Sampling
在本文中,我们提出了采样隐私机制,私人发布的个人数据。采样隐私是一种基于采样的隐私机制,满足差分隐私。
2017-08-06 cs.CR
A Smart Wizard System Suitable for Use With Internet Mobile Devices to Adjust Personal Information Privacy Settings
个人信息隐私是影响互联网用户信心的重要问题。在线社交网络的广泛采用和使用移动设备访问这些平台鼓励开发人员使系统和界面为寻求隐私的用户所接受。本研究的目的是测试一个向导,允许用户控制与他人共享的个人信息。我们还评估用户对此类共享的关注,例如是否在当前的在线社交网络帐户中隐藏个人数据。调查结果显示,这名巫师工作得很好,女性比男性隐瞒更多的个人信息。此外,大多数担心个人信息被滥用的用户都隐藏了这些项目。研究结果可用于升级当前的隐私系统或设计在移动互联网设备上工作的新系统。该系统还可以用于在设置个人隐私设置时节省时间,并使用户更清楚地了解将与他人共享的项目。
2013-07-13 cs.CR cs.CY
AI-Driven Anonymization: Protecting Personal Data Privacy While Leveraging Machine Learning
Sam Houston State University(山姆休斯顿州立大学);San Fransisco Bay University(旧金山湾大学);Sun Yat-Sen University(中山大学);University of Chicago(芝加哥大学);Guangdong University of Technology(广东工业大学)
本文面向AI应用中的个人数据泄露风险,研究利用机器学习差分隐私算法进行数据加密、匿名化、检测与保护,并分析隐私保护挑战及数据集影响因素。
2024-02-27 cs.AI cs.CR cs.LG
A User-Centric, Privacy-Preserving, and Verifiable Ecosystem for Personal Data Management and Utilization
Case Western Reserve University(凯斯西储大学);The London School of Economics and Political Science (LSE)(伦敦政治经济学院)
本文提出一种去中心化、隐私保护的个人数据管理架构,利用安全飞地和联邦学习等技术,赋予用户完全的数据所有权与控制权,支持安全计算、验证及隐私共享。
2025-09-11 cs.CR cs.LG
Privacy Preserving Machine Learning Model Personalization through Federated Personalized Learning
American International University-Bangladesh(孟加拉国美国国际大学);North South University(北南大学)
本文通过PPMLFPL框架分析隐私保护下的机器学习模型个性化方法,比较APPLE+DP与APPLE+HE算法,发现前者执行效率高,后者整体表现更优,为隐私保护个性化学习提供实践指导。
2025-05-03 cs.CR cs.DC cs.LG
A review of approaches to the value of privacy
本文从价值中心的角度来审视信息隐私权。我们审查和比较不同的个人数据估值方法。我们考虑了个人数据在现在和不久的将来的价值,我们发现个人数据的持久部分很快就会成为众所周知的,它们的价格和价值将大幅下降。因此,基于个人数据提取的部门将需要专注于新的货币化方式和个人信息的动态部分。
2017-09-14 cs.CR cs.SI
Balancing Personal Privacy and Public Safety during COVID-19: The Case of South Korea
不同国家如何应对COVID-19大流行引发了激烈的争论。为了确保公共安全,韩国积极使用个人信息,冒着个人隐私的风险,而法国鼓励自愿合作,冒着公共安全的风险。在这篇文章中,在简要比较了与法国的背景差异后,我们重点介绍了韩国的流行病学调查方法。为了评估与个人隐私和公共健康有关的问题,我们研究了原始数据、去身份化数据和加密数据的使用模式。我们的具体提案讨论了COVID指数,该指数考虑了集体感染、爆发强度、医疗基础设施的可用性和死亡率。最后,我们总结了研究结果和教训,为未来的研究和政策含义。
2020-09-22 cs.CR cs.CY
Privacy by Design: On the Formal Design and Conformance Check of Personal Data Protection Policies and Architectures
新的《通用数据保护条例》(GDPR)将于2018年5月生效,因此,设计合规的数据保护政策和系统架构对于组织避免处罚至关重要。不幸的是,以文本格式给出的规则很容易被策略和系统设计者误解,这也使得一致性检查容易出错。在本文中,我们采用正式的方法,以促进系统的政策和架构的设计,在一个明确的方式,并提供了一个框架,数学上健全的一致性检查,对目前的数据保护法规。我们提出了一个(半)正式的方法来指定和推理数据保护政策和架构,以及定义架构和政策之间的一致性关系。我们所提出的方法的可用性证明了智能计量服务的案例研究。
2018-05-14 cs.CR
Privacy-preserving Analytics for Data Markets using MPC
数据市场有潜力培育新的数据驱动型应用程序,并帮助发展数据驱动型企业。在实践中建立和部署此类市场时,欧盟《通用数据保护条例》(GDPR)等法规对这些市场施加了约束和限制,特别是在处理个人或隐私敏感数据时。在本文中,我们提出了一个候选人的隐私保护个人数据市场的架构,依赖于密码原语,如多方计算(MPC)能够执行隐私保护计算的数据。除了指定这样一个数据市场的架构,我们还提出了一个隐私风险分析的市场以下LINDDUN方法。
2021-03-05 cs.CR
Smart Home Personal Assistants: A Security and Privacy Review
灵巧家庭个人助理(SPA)是一项新兴的创新,它正在改变家庭用户与技术交互的方式。然而,有许多因素使这些系统面临各种风险:i)它们使用的语音通道的开放性,ii)它们架构的复杂性,iii)它们依赖的人工智能功能,iv)它们使用广泛的底层技术。本文对SPA中的安全和隐私问题进行了深入的回顾,对最重要的攻击向量及其对策进行了分类。在此基础上,我们讨论了开放的研究挑战,可以帮助引导社区解决和解决SPA中当前的安全和隐私问题。我们的主要发现之一是,尽管SPA的攻击面非常广泛,并且最近在这一领域进行了大量的研究工作,但到目前为止,研究主要集中在攻击面的一小部分,特别是与用户和SPA设备之间的交互有关的问题。我们还指出,需要进一步的研究来解决与授权,语音识别或分析,仅举几例相关的问题。据我们所知,这是第一篇对SPA的安全和隐私问题及对策进行如此全面的回顾和定性的文章。
2020-08-17 cs.CR
Personalized w-Event Privacy for Infinite Stream Estimation
Hunan University(湖南大学);Tongji University(同济大学);HKUST (GZ)(香港科技大学(广州));HKUST(香港科技大学);Shanghai Jiaotong University(上海交通大学);Xi’an Jiaotong University(西安交通大学)
本文研究了个性化w-事件隐私在私有数据流估计中的应用,设计了PWSM机制并提出PBD和PBA算法,实现了动态调整隐私要求并满足个性化差分隐私,实验表明方法能显著降低估计误差。
2026-08-21 cs.CR cs.DB cs.IR
Differential Privacy Personalized Federated Learning Based on Dynamically Sparsified Client Updates
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);No.208 Research Institute of China Ordnance Industries(中国兵器工业第二〇八研究所)
针对差分隐私个性化联邦学习中个性化不足及隐私与性能平衡欠佳的问题,提出DP-pFedDSU方法,通过重参数化和自适应范数动态稀疏化客户端更新,有效减少噪声并提升模型性能。
2025-04-27 cs.CR cs.LG
Privacy-Preserving Load Forecasting via Personalized Model Obfuscation
University of California, Santa Cruz(加州大学圣克鲁兹分校);Argonne National Laboratory(阿贡国家实验室)
本文提出隐私保护联邦学习(PPFL),通过个性化层和差分隐私机制在异构智能电表数据上实现短期负荷预测,并在NREL ComStock数据集上验证了其有效性。
2023-11-21 cs.CR cs.LG
Statistical Feature-based Personal Information Detection in Mobile Network Traffic
School of Computer, National University of Defense Technology(国防科技大学计算机学院)
随着智能手机的普及,移动应用(app)已经渗透到人们的日常生活中。虽然应用程序提供了丰富的功能,但它们也同时访问大量的个人信息。因此,隐私问题引起了关注。为了了解应用程序收集了哪些个人信息,提出了许多解决方案来检测应用程序中的隐私泄露。近年来,基于流量监测的隐私泄漏检测方法表现出良好的性能和较强的可扩展性。但是,它仍然有一些缺点。首先,它遭受检测个人信息的泄漏与混淆。其次,它不能发现未定义类型的隐私泄漏。针对上述问题,提出了一种基于流量监测的个人信息检测方法。本文设计了个人信息的统计特征来刻画个人信息在流量中的出现模式,包括局部模式和全局模式。然后基于机器学习算法训练检测器,以发现具有相似模式的潜在个人信息。由于统计特征与个人信息的值和类型无关,因此经过训练的检测器能够识别各种类型的隐私泄漏和混淆的隐私泄漏。据我们所知,这是第一个基于统计特征检测个人信息的工作。实验结果表明,该方法能够取得比现有方法更好的性能。
2021-12-23 cs.CR cs.LG
FT-PrivacyScore: Personalized Privacy Scoring Service for Machine Learning Participation
UMBC(马里兰大学巴尔的摩分校)
针对受控数据访问模式下个体数据贡献者无法量化参与机器学习任务的隐私风险这一问题,研究团队开发了FT-PrivacyScore演示原型,可高效定量评估参与模型微调任务的隐私风险,源代码将开源。
2024-10-30 cs.CR cs.LG
Data Privacy in IoT Equipped Future Smart Homes
智能设备正变得与日常生活密不可分,并在提供智能服务和远程监控方面快速发展。为了提供个性化和定制化的服务,需要更多的个人数据汇集。因此,智能服务正变得越来越个性化,并引起了人们对数据隐私和安全的担忧。在本文中,数据隐私的要求,在灵巧家庭环境配备了“物联网”的数据和模型的隐私挑战得到解决。
2020-08-11 cs.CR cs.CY
BYOD, Personal Area Networks (PANs) and IOT: Threats to Patients Privacy
FISMA和HIPPA法案的通过强制执行了各种安全控制措施,以确保患者数据的隐私。法律要求医院和保健组织确保以安全的方式存储和传播患者数据。然而,自带设备(BYOD)、移动设备、即时消息(如WhatsApp)和云技术的出现带来了新的挑战。物联网(IOT)的出现使问题进一步复杂化,因为组织没有充分认识到数据隐私威胁的所有方面。医生和卫生保健从业人员需要了解需要保护和控制的各种新的数据存储和传输途径。在本文中,我们将探讨物联网、自带设备(BYOD)和个人局域网(PAN)技术对患者隐私数据构成的各种威胁和挑战。最后,我们提供了一项调查的结果,该调查衡量了医疗保健专业人员对患者隐私的新威胁的理解深度
2019-02-18 cs.CR cs.CY
Differential Privacy in Personalized Pricing with Nonparametric Demand Models
New York University(纽约大学);McGill University(麦吉尔大学);University of Florida(佛罗里达大学)
近几十年来,信息技术的进步和丰富的个人数据为算法个性化定价的应用提供了便利。然而,这导致人们越来越担心对抗性攻击可能侵犯隐私。针对隐私问题,研究了数据隐私保护下\textit{unknown}非参数需求模型下的动态个性化定价问题.介绍了两种在实践中得到广泛应用的数据隐私概念:\textit{central differential privacy (CDP)}和\textit{local differential privacy (LDP)},在许多情况下,\textit{local differential privacy (LDP)}被证明比CDP更强。我们开发了两个算法,使定价决策和学习的未知需求的飞行,同时满足CDP和LDP guarantees分别。特别地,对于具有CDP保证的算法,证明了遗憾最多为$\tilde O(T^{(d+2)/(d+4)}+\varepsilon^{-1}T^{d/(d+4)})$。这里,参数$T$表示时间范围的长度,$d$是个性化信息向量的维度,并且关键参数$\varepsilon>0$测量隐私的强度(较小的$\varepsilon$表示较强的隐私保护)。另一方面,对于具有LDP保证的算法,证明了其遗憾最多为$\tilde O(\varepsilon^{-2/(d+2)}T^{(d+1)/(d+2)})$,这是近优的,因为我们证明了任何具有LD…
2021-09-10 cs.CR cs.LG stat.ML
LADFA: A Framework of Using Large Language Models and Retrieval-Augmented Generation for Personal Data Flow Analysis in Privacy Policies
Institute of Cyber Security for Society (iCSS) \& School of Computing, University of Kent Canterbury United Kingdom;Honda Research Institute Europe GmbH Germany;Institute of Cyber Security for Society (iCSS) \& School of Computing, University of Kent;Honda Research Institute Europe GmbH
LADFA利用大型语言模型和检索增强生成技术,实现对隐私政策中个人数据流的自动化分析与可视化。
2026-01-15 cs.AI cs.CR
Group privacy for personalized federated learning
Scuola Normale Superiore(比萨高等师范学校);INRIA(法国国家信息与自动化研究所);École Polytechnique(巴黎综合理工学院);Scuola Superiore Sant’Anna(圣安娜高等学校)
联邦学习(FL)是一种协作式机器学习,其中参与的对等体/客户端在本地处理其数据,仅共享对协作模型的更新。这使得能够构建隐私感知的分布式机器学习模型等。目标是通过最小化由一组客户端本地存储的数据集集合的成本函数来优化统计模型的参数。这个过程暴露给客户端两个问题:隐私信息的泄漏和缺乏个性化的模型。另一方面,随着最近各种数据分析技术的进步,人们对参与客户端的隐私侵犯的担忧激增。为了缓解这种情况,差分隐私及其变体作为提供正式隐私保证的标准。通常,客户端代表非常异构的社区,并持有非常多样化的数据。因此,与FL社区最近关注的为代表其多样性的用户构建个性化模型框架相一致,保护客户的敏感和个人信息免受潜在威胁也至关重要。为了实现这一目标,我们考虑$d$ -隐私,也被称为度量隐私,这是本地差分隐私的变体,使用基于度量的混淆技术,保留了原始数据的拓扑分布。为了解决保护客户隐私和允许个性化模型训练以增强系统的公平性和实用性的问题,我们提出了一种利用$d$的一些关键属性来提供组隐私保证的方法。隐私,使个性化模型的框架下的FL。我们提供了理论的适用性和实验验证的真实数据集上说明的工作,我们的方法
2022-09-04 cs.AI cs.CR cs.LG
Personalized Differential Privacy for Ridge Regression
Georgia Institute of Technology(佐治亚理工学院);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
针对差分隐私统一隐私水平限制准确率的问题,提出支持逐点设置隐私水平的PDP-OP方法,给出理论保证并通过实验验证其能优化隐私-准确率权衡、优于现有方法。
2024-01-30 cs.CR cs.CY cs.LG
Privacy Preserving Recommender Systems Balancing Personalization with Privacy
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究个性化推荐系统中隐私保护问题,提出结合联邦学习、差分隐私等的框架,在合成零售数据集上实验,评估推荐质量指标,结果显示该框架在适度隐私预算下能保持竞争力,为隐私保护推荐系统提供实用框架。
2026-07-16 cs.AI cs.CR cs.LG
Towards Personalized Differentially Private Learning for Decentralized Local Graphs
School of Computer Science, Beijing University of Posts and Telecommunications(北京邮电大学计算机学院);State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications(北京邮电大学网络与交换技术国家重点实验室);School of Cyber Science and Technology, Shandong University(山东大学网络空间安全学院);School of Cyberspace Security, Beijing University of Posts and Telecommunications(北京邮电大学网络空间安全学院);Department of Computer Science, University of Illinois at Chicago(伊利诺伊大学芝加哥分校计算机科学系)
研究去中心化局部图隐私学习问题,提出PPGNN框架,含个性化扰动机制和加权校准策略,能平衡隐私保护与数据效用。
2026-07-07 cs.CR cs.LG
The Trusted Server: A secure computational environment for privacy compliant evaluations on plain personal data
不断增长的法律和道德要求框架限制了对个人数据的科学和商业评估。通常,匿名化、加密或分布式计算方法试图保护个人隐私。然而,计算基础设施仍然依赖于人类系统管理员。这引入了严重的安全风险,并对隐私产生了强烈的影响:系统管理员可以无限制地访问他们管理的计算机,包括加密密钥和加密表。分布式计算和数据混淆技术降低了但并没有消除管理员泄露隐私的风险。它们产生更高的实施工作量和可能的数据质量下降。本文提出了可信服务器作为一种替代方法,提供了一个密封的和不可访问的计算环境,在严格意义上的加密。在操作期间或通过直接物理访问存储介质,在可信服务器内存储和处理的数据绝不能被读取,操纵或泄露,除非通过暴力。因此,即使来自多个希望其数据相互保密的来源,也可以对普通的个人相关数据进行安全且符合隐私的数据处理或评估。
2018-07-27 cs.CR cs.CY
A Survey on Privacy and Security in Online Social Networks
在线社交网络(OSN)是一个永久的存在,在今天的个人和职业生活的一个巨大的部分人口,直接影响到离线活动。建立在信任的基础上用户与其他有共同兴趣或重叠的个人兴趣的用户建立联系在线社交网络和相关的应用程序提取了前所未有的大量个人信息。不出所料,出现了严重的隐私和安全风险,将自己定位为两种主要类型的攻击:利用嵌入在公开的社交关系中的隐含信任的攻击;以及收集用户个人信息用于恶意用途的攻击。本文概述了迄今为止OSN中出现的隐私和安全问题。我们介绍了OSN中的隐私和安全攻击的分类,我们概述了现有的解决方案,以减轻这些攻击,并概述了仍然需要克服的挑战。
2015-01-27 cs.CR cs.SI
Generating Privacy-Preserving Personalized Advice with Zero-Knowledge Proofs and LLMs
The Japan Research Institute, Ltd.(日本研究机构有限公司)
提出结合零知识证明(zkVM)与LLM聊天机器人的框架,通过验证用户特征而不泄露敏感信息,实现隐私保护的数据共享,并实证评估了其性能与可行性。
2025-04-24 cs.AI cs.CR
From Data Disclosure to Privacy Nudges: A Privacy-aware and User-centric Personal Data Management Framework
虽然有隐私增强工具旨在保护用户的在线隐私,但令人惊讶的是,由于数据泄露到多个平台,缺乏以用户为中心的解决方案,允许基于隐私风险和收益的联合评估进行隐私控制。在本文中,我们提出了一个概念框架,以填补这一空白:针对以用户为中心的隐私保护,我们表明,该框架不仅可以评估使用在线服务的隐私风险,但也从数据披露获得的附加值。通过遵循人在回路的方法,期望该框架通过偏好学习、持续隐私评估、行为监控和轻推来提供个性化的解决方案。最后,我们描述了一个案例研究对“休闲旅游者”和几个未来的领域进行研究,在正在进行的项目。
2019-09-22 cs.CR cs.CY cs.HC
From Personal Data to Digital Legacy: Exploring Conflicts in the Sharing, Security and Privacy of Post-mortem Data
随着数字技术变得越来越普遍,人们越来越意识到良好的安全和隐私实践的重要性。用于实现这一目标的工具和技术通常是在考虑活着的用户的情况下设计的,很少考虑在用户死后它们应该或将如何执行。我们报告了与密码管理器用户进行的两个研讨会,以探讨他们对一系列常见数字资产的事后共享,安全和隐私的看法。我们讨论了一个事后隐私悖论,用户认识到规划他们的数字遗产的价值,但避免积极这样做。重要的是,我们的研究结果强调了在生活中使用推荐的安全工具与促进适当的事后访问选定资产之间的紧张关系。我们提供设计建议,以促进和鼓励数字遗产规划,同时促进生活中良好的安全习惯。
2021-04-15 cs.CR cs.HC
No Peeking through My Windows: Conserving Privacy in Personal Drones
Binghamton University, SUNY(纽约州立大学宾汉姆顿分校);Penn State University(宾夕法尼亚州立大学)
在过去的十年里,无人机技术越来越多地被许多精通技术的消费者、一些国防公司、业余爱好者和爱好者使用。无人机通常有各种尺寸,并被设计用于多种目的。如今,许多人都拥有小型的个人无人机,用于娱乐,拍摄或将物品从一个地方运送到另一个地方。然而,个人无人机缺乏隐私保护机制。在执行任务时,无人机经常侵入其他人的私人领地,并在他们不知情和未经同意的情况下通过窗户拍摄照片或视频。它们还可以在无人机的范围内以清晰的形式捕捉人们行走,坐着或做私人事情的视频或图片,而无需他们的许可。这可能会侵犯人们的个人隐私。因此,本文提出了一种轻量级的隐私保护设计方法,可以防止无人机通过房屋的窗户偷窥,并捕捉人们在家里做私密事情。它是一种基于图像增强、形态变换、分割和轮廓处理(MASP)的快速窗口目标检测和置乱技术。此外,混沌置乱技术被纳入到它的隐私目的。因此,该机制在实时视频的每个图像或帧中检测窗口对象,并将它们混乱地掩蔽以保护人们的隐私。实验结果验证了所提出的MASP方法是轻量级的,适用于无人机,被认为是边缘设备。
2019-08-26 cs.CR cs.CV eess.IV
It's My Agent, Not Me: Personal Privacy Boundaries in AI-Delegated Information Sharing
Department of Human Centered Design & Engineering, University of Washington(华盛顿大学人中心设计与工程系);School of Information Sciences, University of Illinois(伊利诺伊大学香槟分校信息科学学院);Khoury College of Computer Sciences, Northeastern University(东北大学计算机科学学院)
本研究提出基于AI的判别性任务引出隐私边界,通过受试者间实验发现沟通角色、AI委托及隐私需求影响披露接受度,主张将细微隐私边界作为AI对齐目标。
2026-10-15 cs.AI cs.CR
Towards Practical Privacy-Preserving Analytics for IoT and Cloud Based Healthcare Systems
现代医疗保健系统现在依赖于先进的计算方法和技术,例如物联网(IoT)设备和云,以前所未有的规模和深度收集和分析个人健康数据。患者、医生、医疗服务提供者和研究人员依赖于从这些数据源导出的分析模型来远程监控患者、早期诊断疾病并找到个性化的治疗和药物。然而,如果没有适当的隐私保护,进行数据分析就会成为隐私噩梦的根源。在这篇文章中,我们提出了在医疗保健信息系统中开发实用的隐私保护分析的研究挑战。该研究基于kHealth --一种正在开发和测试用于疾病监测的个性化数字医疗信息系统。我们分析了相关各方的数据和分析要求,确定了隐私资产,分析了现有的隐私基板,并讨论了隐私,效率和模型质量之间的潜在权衡。
2018-04-11 cs.CR cs.CY
FedEgo: Privacy-preserving Personalized Federated Graph Learning with Ego-graphs
Sun Yat-sen University(中山大学)
图作为包含结构和特征信息的特殊信息载体,在图挖掘中有着广泛的应用,图神经网络。然而,在一些实际场景中,图数据被单独存储在多个分布式方中,由于利益冲突,这些数据可能不会直接共享。因此,联邦图神经网络被提出来解决这样的数据筒仓问题,同时保护每一方(或客户端)的隐私。然而,不同方之间的不同图数据分布,这被称为统计异质性,可能会降低像FedAvg这样的朴素联邦学习算法的性能。在本文中,我们提出了FedEgo,一个基于自我图的联邦图学习框架来解决上述挑战,每个客户端将训练他们的本地模型,同时也有助于训练一个全球模型。FedEgo将GraphSAGE应用于自我图,以充分利用结构信息,并利用Mixup解决隐私问题。为了处理统计异质性,我们将个性化学习,并提出了一个自适应的混合系数策略,使客户端实现其最佳个性化。大量的实验结果和深入的分析证明了FedEgo的有效性。
2022-09-09 cs.CR cs.LG
Privacy Risk Predictions Based on Fundamental Understanding of Personal Data and an Evolving Threat Landscape
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种基于身份生态系统图的隐私风险预测框架,通过分析身份盗窃和欺诈案例,利用图神经网络预测个人数据泄露的可能性。
2026-03-03 cs.CR cs.LG cs.SI
FedP3: Federated Personalized and Privacy-friendly Network Pruning under Model Heterogeneity
KAUST(阿卜杜拉国王科技大学);Sony AI(索尼人工智能公司)
针对联邦学习中客户端系统异构性导致需定制个性化模型的问题,提出适配模型异构场景的联邦个性化隐私友好剪枝框架FedP3及其本地差分隐私变体DP-FedP3,并完成理论验证。
2024-04-15 cs.CR cs.LG
On Privacy and Personalization in Cross-Silo Federated Learning
Carnegie Mellon University(卡内基梅隆大学)
虽然差分隐私(DP)的应用已经在跨设备联邦学习(FL)中得到了很好的研究,但缺乏考虑DP及其对跨筒仓FL的影响的工作,这种设置的特点是每个包含许多数据主体的客户端数量有限。在跨筒仓FL中,客户端级别DP的通常概念不太适合,因为现实世界的隐私法规通常涉及筒仓内的数据主体,而不是筒仓本身。在这项工作中,我们反而考虑了一个替代的概念,筒仓特定的样本级DP,其中筒仓设置自己的隐私目标,为他们的本地例子。在这种情况下,我们重新考虑个性化在联邦学习中的作用。特别是,我们表明,均值正则化多任务学习(MR-MTL),一个简单的个性化框架,是跨筒仓FL的一个强大的基线:在更强的隐私要求下,筒仓被激励相互联合,以减轻DP噪声,从而相对于标准基线方法实现一致的改进。我们提供了一个实证研究的竞争方法,以及MR-MTL的均值估计的理论表征,突出隐私和跨筒仓数据异质性之间的相互作用。我们的工作是为私人跨筒仓FL建立基线,并确定这一领域未来工作的主要方向。
2022-10-17 cs.CR cs.LG stat.ML
Unsupervised Model Personalization while Preserving Privacy and Scalability: An Open Problem
KU Leuven(鲁汶大学);Huawei(华为);Mila(米拉研究所)
这项工作研究了无监督模型个性化的任务,适应不断发展,未标记的本地用户图像。我们考虑的实际情况下,一个高容量的服务器与无数的资源有限的边缘设备进行交互,对可扩展性和本地数据隐私提出了很高的要求。我们的目标是在持续学习范式中解决这一挑战,并提供一个新的双重用户适应框架(DUA)来探索这个问题。该框架灵活地将用户自适应分解为服务器上的模型个性化和用户设备上的本地数据正则化,具有关于可扩展性和隐私约束的理想属性。首先,在服务器上,我们引入了特定于任务的专家模型的增量学习,随后使用隐藏的无监督用户先验进行聚合。聚合避免了再训练,而用户先验隐藏敏感的原始用户数据,并允许无监督的自适应。其次,本地用户自适应结合领域自适应的观点,适应正则化批量归一化参数的用户数据。我们探索各种经验的用户配置与不同的先验类别和麻省理工学院室内场景识别的10倍的变换,并分类在一个组合的MNIST和SVHN设置的数字。广泛的实验产生有前途的结果,数据驱动的本地适应和引发用户先验服务器适应依赖于模型,而不是用户数据。因此,尽管用户自适应仍然是一个具有挑战性的开放问题,但DUA框架正式确定了在服务器和用户设备上进行个性化的原则基础,同时保持隐私和可扩展性。
2020-03-30 cs.CR cs.CV
Privacy-Preserving Classification of Personal Text Messages with Secure Multi-Party Computation: An Application to Hate-Speech Detection
School of Engineering and Technology, University of Washington Tacoma(华盛顿大学塔科马分校工程与技术学院);Faculty of Information Technology, Monash University(莫纳什大学信息技术学院);Ghent University(根特大学)
个人文本消息的分类在监控、电子商务和精神卫生保健等方面有许多有用的应用。让应用程序访问个人文本很容易导致(非)故意侵犯隐私。我们提出了第一个隐私保护解决方案,可证明是安全的文本分类。我们的方法,这是基于安全多方计算(SMC),包括特征提取的文本,随后的分类与逻辑回归和树集成。我们证明,当使用我们的安全文本分类方法时,应用程序不会学习任何关于文本的信息,并且文本的作者不会学习任何关于应用程序所使用的文本分类模型的信息,除了分类结果本身所给出的信息。我们使用一个用于检测针对妇女和移民的仇恨言论的应用程序进行端到端实验,在不损失准确性的情况下展示了出色的运行时结果。
2021-03-12 cs.CR cs.IR cs.LG
Optimized, Direct Sale of Privacy in Personal-Data Marketplaces
最近,我们目睹了许多初创企业的出现,这些企业使个人能够直接向经纪人和企业出售他们的私人数据。虽然这种新模式可能会改变个人和收集数据的公司之间的力量平衡,但它为这些服务的用户提出了一些实际的基本问题:他们应该如何决定哪些数据必须出售,哪些数据受到保护,以及什么是好交易。在这项工作中,我们调查的机制,旨在帮助用户解决这些问题。研究机制依赖于一个硬隐私模型,并允许用户与经纪公司分享部分或完整的个人资料数据,以换取经济奖励。本文的研究目的是从理论上分析这种机制所带来的隐私和金钱之间的权衡。我们采用了一个通用的隐私措施,虽然我们的分析的一部分集中在一些重要的例子布雷格曼分歧。我们找到了一个参数的解决方案的最佳交换隐私的钱的问题,并获得一个封闭的形式的表达和特征之间的权衡配置文件披露的风险和经济回报几个有趣的情况。
2017-01-03 cs.CR cs.CY
Privacy Protection Cache Policy on Hybrid Main Memory
我们首先建议隐私保护缓存政策适用于删除个人信息的责任在混合主存储器系统。该缓存策略包括生成随机数据并将随机数据缓存到个人信息中。提出的缓存策略在数据完全删除方面更经济有效。
2017-07-29 cs.CR cs.CY
Personalized Privacy Amplification via Importance Sampling
Elekta(医科达);KTH Royal Institute of Technology(瑞典皇家理工学院);Linköping University(林雪平大学);Uppsala University(乌普萨拉大学)
本文研究重要性采样的隐私属性,提出两种采样分布构建方法以优化隐私-效率权衡或基于核心集效用保证,实验表明在差分隐私k均值问题上优于均匀采样。
2025-03-28 cs.CR cs.LG stat.ML
MAGNETO: Edge AI for Human Activity Recognition -- Privacy and Personalization
Technology Innovation Institute(技术创新研究院)
本文提出边缘AI平台MAGNETO,通过在边缘设备上直接进行增量人类活动学习,无需与云端交换数据,在保障隐私、降低延迟的同时实现高度个性化。
2024-02-14 cs.AI cs.CR cs.LG
Personalized Social Recommendations - Accurate or Private?
随着最近像Facebook这样的社交网络的兴起,新形式的推荐已经成为可能--个性化的广告推荐、内容推荐,甚至是基于一个人的社交互动的新朋友和产品联系。由于推荐可能使用敏感的社交信息,因此推测这些推荐与隐私风险相关。这项工作的主要贡献是在正规化这些预期的权衡之间的准确性和隐私的个性化社会建议。在本文中,我们研究是否“社会建议”,或建议,完全基于用户的社交网络,可以在不披露敏感的链接在社交图。更准确地说,我们量化的效用损失时,现有的推荐算法进行修改,以满足一个强有力的隐私概念,称为差分隐私。我们证明了任何推荐算法的最小效用损失的下界是差异私人。我们适应两个隐私保护算法的差分隐私文献的社会建议的问题,并分析其性能的下限相比,分析和实验。我们表明,良好的私人社交推荐仅适用于社交网络中的一小部分用户或宽松的隐私参数设置。
2011-05-21 cs.CR cs.DB cs.SI
Privacy issues on biometric systems
Escola Universitaria Politècnica de Mataró(马塔罗理工学院)
在21世纪,人们对隐私问题有着浓厚的兴趣。技术允许在未经个人同意的情况下获取个人信息,计算机使分享和处理这些信息成为可能,这可能带来破坏性的影响。从某种意义上说,生物特征信息是个人信息,所以当有人声称生物特征信息是对个人隐私的企图时,重要的是要有意识地了解什么是真的,什么是假的。在本文中,涉及到这个问题的关键点。
2022-02-23 cs.CR cs.LG
GOD model: Privacy Preserved AI School for Personal Assistant
PIN AI
提出GOD模型,一种在设备端训练和评估个人AI助理的隐私保护框架,通过模拟查询、课程学习和代币激励解决冷启动问题,实现个性化推荐与数据安全。
2025-02-27 cs.AI cs.CR cs.LG
Privacy Preservation in Artificial Intelligence and Extended Reality (AI-XR) Metaverses: A Survey
Qatar University(卡塔尔大学);Information Technology University (ITU)(信息技术大学(ITU))
本文综述了AI-XR元宇宙中的隐私挑战,分析了差分隐私、同态加密和联邦学习等解决方案,并探讨了相关社会技术问题。
2023-09-19 cs.AI cs.CR cs.LG
Let's Measure the Elephant in the Room: Facilitating Personalized Automated Analysis of Privacy Policies at Scale
University of Oxford(牛津大学)
本文提出神经符号系统PoliAnalyzer,通过NLP提取隐私政策形式化表示并与用户偏好进行逻辑合规分析,在大规模网站隐私政策中实现高准确率的个性化自动分析,显著降低用户认知负担。
2025-07-15 cs.CL cs.CR cs.CY
Differentially Private Graph Diffusion with Applications in Personalized PageRanks
Georgia Institute of Technology(佐治亚理工学院)
针对图扩散发布可能泄露敏感链接信息的问题,提出带边级差分隐私的图扩散框架,通过迭代注入拉普拉斯噪声、基于度的阈值函数及无穷瓦瑟斯坦距离跟踪优化隐私分析,在真实数据上验证了其在个性化PageRank任务中的隐私-效用优势。
2025-02-18 cs.CR cs.IR cs.LG
Personalized and Private Peer-to-Peer Machine Learning
INRIA;EPFL(瑞士联邦理工学院);Université de Lille(里尔大学)
本文提出一种高效算法,实现去中心化且异步的个性化机器学习,在强隐私要求下保证收敛性。通过差分隐私保护数据隐私,并分析隐私与效用的平衡。实验表明,在非隐私情况下优于先前方法,隐私约束下可显著提升模型性能。
2018-02-19 cs.CR cs.DC cs.LG