Privacy-preserving recommender system using the data collaboration analysis for distributed datasets
University of Tsukuba(筑波大学);Hosei University(法政大学)
本研究针对分布式数据集共享中的隐私保护问题,建立了一个基于数据协作分析的隐私保护推荐系统框架,数值实验表明该方法能提高评分预测准确率。
2024-05-24 cs.CR cs.IR cs.LG
A Scalable Algorithm for Privacy-Preserving Item-based Top-N Recommendation
近年来,推荐系统已成为在线服务中不可或缺的组成部分。有效的推荐对于提高各种在线商务应用的服务质量至关重要。然而,严重的隐私问题已经提出了推荐系统,需要收集用户的私人信息进行推荐。与此同时,电子商务的成功产生了大量的信息,使得可扩展性成为推荐系统设计中的一个关键挑战。因此,推荐系统需要保护用户的隐私,同时以低复杂度的计算实现高质量的推荐。提出了一种可扩展的基于隐私保护项的top-N推荐方案,在保证用户隐私信息得到保护的同时,降低了计算复杂度,实现了高质量的推荐。此外,该方法的计算复杂度随着用户数量的增加而缓慢增加,从而为隐私保护推荐系统提供了高的可扩展性。更具体地说,所提出的方法包括两个关键部分:(1)基于MinHash的相似性估计和(2)客户端隐私保护预测生成。我们使用真实数据进行的理论和实验分析证明了所提出方法的效率和有效性。
2018-11-06 cs.CR
Privacy-preserving and yet Robust Collaborative Filtering Recommender as a Service
Luxembourg Institute of Science and Technology (LIST)(卢森堡科学技术研究院(LIST))
协同过滤服务器以牺牲最终用户的隐私为代价提供有效的个性化服务。随着社会对隐私保护的日益关注和隐私保护法规的日益严格,设计一种既能保护隐私又能为隐私敏感用户提供推荐服务的鲁棒的推荐器成为一个迫切的研究挑战。我们的分析表明,现有的解决方案在几个方面存在不足,包括缺乏对最终用户的精确输出的关注和忽略相关的鲁棒性问题。在本文中,我们提供了一个通用的系统结构,潜在因素为基础的协同过滤过滤器,制定他们的模型训练和预测计算阶段,还描述了一个新的安全模型。针对务实的解决方案,我们首先展示了如何构建隐私保护,但强大的模型训练阶段的基础上现有的解决方案。然后,我们提出了两个密码协议来实现隐私保护的预测计算阶段,这取决于是否涉及额外的代理。与标准的Top-k推荐不同,作为我们隐私设计策略的结果,我们让最终用户检索预测高于阈值的未评级项目。实验结果表明,我们的新协议是相当有效的。
2019-10-09 cs.CR cs.IR cs.LG
A Deep Dive into Fairness, Bias, Threats, and Privacy in Recommender Systems: Insights and Future Research
本研究深入探讨推荐系统中的公平性、偏见、威胁与隐私挑战,分析算法决策的影响,并提出未来研究方向以增强系统的鲁棒性、公平性和隐私保护。
2024-09-19 cs.CR cs.HC cs.IR
Mechanism Design in Large Games: Incentives and Privacy
我们研究了在不完全信息的情况下实现完全信息博弈均衡的问题,并使用“推荐机制”来解决这个问题。“推荐机制是一种没有强制执行结果或强迫参与的权力的机制,它只有权在自愿参与的基础上建议结果。我们发现,尽管有这些限制,推荐机制可以实现均衡的完全信息游戏的设置不完全信息的条件下,游戏是大的-即有大量的球员,和任何球员的行动影响任何其他的收益最多一个小数额。我们的结果来自于差分隐私的一个新的应用。我们表明,任何算法,计算一个完整的信息博弈的相关均衡,同时满足一个变种的差分隐私-我们称之为联合差分隐私-可以用作推荐机制,同时满足我们所需的激励性能。我们的主要技术成果是一个算法,用于计算一个大型游戏的相关均衡,同时满足联合差分隐私。虽然我们的推荐机制的设计,以满足博弈论的属性,我们的解决方案最终满足一个强大的隐私属性以及。没有一组玩家可以从机制的建议中了解到组外任何玩家的类型,即使这些玩家以任意的方式勾结。因此,我们的算法能够实现完全信息博弈的均衡,而不透露有关实现类型的信息。
2015-12-10 cs.CR cs.DS cs.GT
The Users' Perspective on the Privacy-Utility Trade-offs in Health Recommender Systems
该研究通过两项 n=521 的联合决策实验,考察用户在健康推荐系统中对 k-匿名与差分隐私等保护机制及数据分享场景的偏好,并据此提出开发建议。
2018-04-13 cs.CR cs.CY cs.HC
User's Privacy in Recommendation Systems Applying Online Social Network Data, A Survey and Taxonomy
推荐系统已经成为许多社交网络的组成部分,并且利用用户的知识显式地和隐式地从用户的个人和敏感数据中提取知识。这一趋势引发了重大的隐私问题,因为用户大多不知道使用了哪些数据、多少数据以及使用的安全性如何。在这种情况下,已经做了一些工作来解决在线社交网络数据和推荐系统中使用的隐私问题。本文综述了大规模在线社交网络和推荐系统中的主要隐私问题、度量方法和隐私保护技术。它是基于安全,隐私保护,统计建模和数据集的历史作品,提供了一个概述的技术难点和问题,在网上社交网络的隐私保护。
2018-06-20 cs.CR
Decentralized Matrix Factorization with Heterogeneous Differential Privacy
Research Institute for Interdisciplinary Sciences(交叉科学研究院);School of Information Management and Engineering(信息管理与工程学院);Shanghai University of Finance and Economics(上海财经大学)
本文提出HDPMF算法,首次在不可信推荐器场景下实现去中心化矩阵分解的异构差分隐私,通过改进拉伸机制和隐私预算分配在强隐私保障、高维模型和稀疏数据场景下取得更优的隐私与准确性权衡。
2023-09-17 cs.CR cs.LG
How to Profile Privacy-Conscious Users in Recommender Systems
IBM Research(IBM研究院);OneSpan(OneSpan公司)
矩阵分解是构建推荐系统的一种常用方法。在这样的系统中,现有的用户和项目被关联到称为简档的低维向量。用户和项目的配置文件可以组合(通过内积)来预测用户将获得的项目评级。这种系统的一个重要问题是所谓的冷启动问题:如何让用户了解她的个人资料,以便她可以得到准确的建议?虽然如果用户愿意对精心选择的项目进行评级和/或提供补充属性或人口统计(诸如性别),则可以计算简档,但是已知揭示该附加信息以允许推荐系统的分析员推断出更多的个人敏感信息。我们设计了一个协议,让隐私意识的用户受益于基于矩阵分解的推荐系统,同时保护他们的隐私。更准确地说,我们的协议使用户能够了解她的个人资料,并从中预测评级,而无需用户透露任何个人信息。该协议在标准模型下对半诚实攻击者是安全的。
2018-12-01 cs.CR cs.LG
Stronger Privacy for Federated Collaborative Filtering with Implicit Feedback
Brave Software(Brave软件公司);Imperial College London(帝国理工学院)
推荐系统通常在集中收集的用户交互数据(如视图或点击)上进行训练。然而,这种做法引起了关于推荐者收集和处理潜在敏感数据的严重隐私问题。在最近的文献中已经提出了几个隐私感知推荐系统,但相对较少的关注已经给予系统的隐式反馈和隐私的交叉点。为了解决这个问题,我们提出了一个实用的联合推荐系统下的用户级本地差分隐私(LDP)的隐式数据。隐私-效用权衡由参数$ε$和$k$控制,分别调节每个更新的隐私预算和每个用户发送的$ε$ -LDP梯度更新的数量。为了进一步保护用户的隐私,我们引入了一个代理网络,以减少指纹表面匿名和洗牌的报告,然后将它们转发给推荐。我们在MovieLens数据集上实证证明了我们的框架的有效性,在50 k用户和5 k项目上实现了高达K=10(HR@10)0.68的命中率。即使在完整的数据集上,我们也可以在不损害用户隐私的情况下实现HR@10>0.5的合理效用。
2021-07-28 cs.CR cs.LG cs.MA
YOURPRIVACYPROTECTOR, A recommender system for privacy settings in social networks
确保社交网络用户的隐私可能是一个无法解决的难题。同时,社交网络参与者对现有隐私选项的知情使用可以减轻-甚至防止-一些更严重的隐私厌恶事件。不幸的是,最近的调查显示,普通用户要么不知道这些选项,要么不使用它们,可能是由于它们的复杂性。因此,有理由相信,帮助用户完成两项任务的工具:1)根据他们的隐私设置和广泛的隐私类别了解他们的社交网络行为,以及2)推荐合理的隐私选项,将是社交网络环境中日常隐私实践的有价值的工具。本文介绍了YourPrivacyProtector,一个推荐系统,显示如何简单的机器学习技术可以提供有用的帮助,在这两个任务的Facebook用户。我们支持我们的主张与经验的结果YourPrivacyProtector应用到两组Facebook用户。
2016-02-05 cs.CR cs.CY cs.IR
Differentially Private Neighborhood-based Recommender Systems
随着推荐系统出现在我们生活的各个角落,推荐系统的隐私问题已经成为社会关注的热点。与许多安全多方计算协议被提出来防止推荐计算过程中的信息泄漏的事实相反,很少有人做来限制推荐结果中的信息泄漏。在本文中,我们将差分隐私的概念应用到基于邻域的推荐方法(NBM)的概率框架下。首先,我们提出了一种解决方案,通过直接校准拉普拉斯噪声到训练过程中,差分私下找到最大后验参数相似性。然后,我们连接差分隐私NBMs利用最近的观察,从贝叶斯模型的缩放后验分布的结果,在可证明的差异隐私系统的采样。我们的实验表明,这两种解决方案都允许有希望的准确性与适度的隐私预算,和第二种解决方案产生更好的准确性,如果采样渐近收敛。我们还比较了我们的解决方案,最近的差分私人矩阵分解(MF)推荐系统,并表明我们的解决方案实现更好的准确性时,隐私预算是合理的小。这是一个有趣的结果,因为MF系统通常在不应用差分隐私时提供更好的准确性。
2017-03-10 cs.CR cs.IR
Shadow-Free Membership Inference Attacks: Recommender Systems Are More Vulnerable Than You Thought
针对依赖影子训练的成员推理攻击在黑盒且缺乏目标系统知识时性能下降的问题,提出直接依据推荐个性化程度判断成员身份的无影子 MIA,并在多种推荐系统上验证其更准、更省算。
2024-05-11 cs.CR
Human Aspects and Perception of Privacy in Relation to Personalization
隐私的概念与人类的态度和行为内在地交织在一起,因为大多数计算机系统主要是为人类使用而设计的。特别是在推荐系统的情况下,它依赖于个人提供的信息,它们的有效性主要取决于信息是否被外部化,如果是,这些信息中有多少对它们的性能和准确性有积极的贡献。在本文中,我们讨论了几个因素对用户的信息披露行为和隐私相关的态度的影响,以及如何推荐系统的用户可以被推动到更好的隐私决策为自己。除此之外,我们还解决了隐私适应的问题,即通过更深入地了解人们的认知决策过程来有效地定制推荐系统。
2018-05-21 cs.CR cs.CY
RecPS: Privacy Risk Scoring for Recommender Systems
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);University of Maryland, Baltimore Country(马里兰大学巴尔的摩县分校)
RecPS提出基于成员推理攻击的隐私评分方法,在交互和用户层面量化推荐系统训练数据的隐私风险,并通过实验验证其在风险评估和模型遗忘中的有效性。
2025-09-06 cs.AI cs.CR cs.IR
Multi-Resolution Diffusion for Privacy-Sensitive Recommender Systems
San Jose State University(圣何塞州立大学)
针对推荐系统依赖用户数据引发的隐私问题,提出基于分数的扩散推荐模块SDRM,可生成或增强合成数据保护隐私,其性能优于多种基线模型。
2024-06-19 cs.AI cs.CR cs.IR
Privacy Preserving Recommender Systems Balancing Personalization with Privacy
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究个性化推荐系统中隐私保护问题,提出结合联邦学习、差分隐私等的框架,在合成零售数据集上实验,评估推荐质量指标,结果显示该框架在适度隐私预算下能保持竞争力,为隐私保护推荐系统提供实用框架。
2026-07-16 cs.AI cs.CR cs.LG
User Consented Federated Recommender System Against Personalized Attribute Inference Attack
Department of CSE, HKUST(香港科技大学计算机科学与工程系)
针对联邦推荐系统中属性推断攻击和用户隐私偏好差异问题,提出用户同意的联邦推荐系统UC-FedRec,通过最小化准确度代价灵活满足隐私需求,实验证明其高效灵活。
2023-12-23 cs.CR cs.IR cs.LG
DPSR: Differentially Private Sparse Reconstruction via Multi-Stage Denoising for Recommender Systems
Columbia University Irving Medical Center(哥伦比亚大学伊文思医疗中心)
DPSR通过多阶段去噪框架在推荐系统中实现差分隐私保护,有效提升推荐质量,优于现有隐私保护机制。
2025-12-22 cs.CR cs.LG
TEE-based decentralized recommender systems: The raw data sharing redemption
EPFL - Swiss Federal Institute of Technology Lausanne(洛桑联邦理工学院)
推荐器在今天的许多应用中是核心。最有效的推荐方案,例如基于协同过滤(CF)的那些,利用用户简档之间的相似性来进行推荐,但是潜在地暴露隐私数据。联邦学习和分散式学习系统通过让数据留在用户的机器上来保护隐私来解决这个问题:每个用户都对本地数据进行训练,并且只共享模型参数。然而,在网络上共享模型参数仍然可能导致隐私泄露。在本文中,我们提出了REX,第一个基于飞地的分散CF推荐。REX利用可信执行环境(TEE),如英特尔软件防护扩展(SGX),在处理器内提供屏蔽环境,以提高收敛性,同时保护隐私。首先,REX支持原始数据共享,这最终会加快收敛速度并降低网络负载。其次,REX完全保护隐私。我们分析了原始数据共享在深度神经网络(DNN)和矩阵分解(MF)算法中的影响,并展示了可信环境在REX全面实施中的好处。我们的实验结果表明,通过原始数据共享,REX与仅共享参数的标准分散方法相比,将训练时间显著减少了18.3倍,网络负载减少了2个数量级,同时通过利用值得信赖的硬件飞地以非常小的开销来充分保护隐私。
2022-06-01 cs.CR cs.DC cs.IR
An Enhanced Middleware for Collaborative Privacy in IPTV Recommender Services
用户在使用IPTV系统时必须面对的问题之一是信息过载,这使得他们很难根据个人喜好找到合适的内容。推荐服务是缓解这一问题的最广泛采用的技术之一,这些服务旨在根据人们的偏好为他们提供他们将欣赏的项目的推荐。IPTV用户必须确保任何推荐服务收集的敏感偏好得到适当保护。在这项工作中,我们介绍了一个框架的私人推荐服务的基础上增强中间件的协作隐私(EMCP)。EMCP执行一个两阶段的隐藏过程,让用户完全控制他/她的个人资料的隐私级别。我们利用信任机制来增强推荐的准确性和隐私性。信任启发式发现相对于请求推荐的用户而言值得信任的用户。随后,使用基于这些可信用户的邻近度量来计算邻域形成。最后,用户以混淆的形式提交他们的简档,而不泄露关于他们的数据的任何信息,并且推荐的计算使用安全多方计算协议在混淆的数据上进行。我们扩大混淆范围从单一的混淆级别的所有用户的任意混淆级别的基础上用户之间的可信度。换句话说,我们将混淆级别与不同的信任级别相关联,因此目标用户越受信任,他可以访问的配置文件的混淆副本就越少。我们还提供了一个IPTV网络的场景和实验结果。我们的结果和分析表明,我们的两阶段隐藏过程,不仅保护了用户的隐私,但也可以保持推荐的准确性。
2017-11-21 cs.CR cs.IR
An Accuracy-Assured Privacy-Preserving Recommender System for Internet Commerce
推荐系统是一种通过计算用户的历史数据和兴趣来预测用户潜在偏好的工具,在网上购物等各种互联网应用中显示出越来越重要的作用。作为一种著名的推荐方法,基于邻域的协同过滤近年来引起了广泛的关注。在过滤过程中泄露用户隐私信息的风险已经引起了人们的关注。在目前的解决方案中,概率技术已经显示出强大的隐私保护效果。在面对$k$最近邻攻击时,由于全局随机性的引入,现有的方法都没有提供数据效用保证。在本文中,为了克服推荐精度损失的问题,我们提出了一种新的方法,分区概率邻居选择,以确保所需的预测精度,同时保持对$k$ NN攻击的高安全性。我们将$k$邻居的相似性之和定义为准确性度量alpha,用户分区的数量,我们选择$k$邻居,作为安全性度量beta。我们将$k$最近邻攻击推广到beta k最近邻攻击。不同于现有的方法,选择邻居在整个候选列表随机,我们的方法选择邻居从每个排他性分区大小$k$的概率递减。理论和实验分析表明,为了提供一个准确性保证的推荐,我们的分区概率邻居选择方法产生了更好的推荐准确性和系统安全性之间的权衡。
2015-06-04 cs.CR cs.IR
Membership Inference Attacks Against Recommender Systems
Shandong University(山东大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全研究中心)
近年来,推荐系统取得了令人瞩目的成绩,成为应用最广泛的网络应用之一。然而,推荐系统通常是在高度敏感的用户数据上训练的,因此来自推荐系统的潜在数据泄漏可能导致严重的隐私问题。在本文中,我们首次尝试量化的隐私泄漏的推荐系统,通过镜头的成员推理。与传统的隶属度推理对机器学习分类器相比,我们的攻击面临两个主要的区别。首先,我们的攻击是在用户级别,而不是在数据样本级别。第二,对手只能从推荐系统中观察到有序的推荐项目,而不是后验概率形式的预测结果。为了解决上述挑战,我们提出了一种新的方法,代表用户从相关的项目。此外,建立影子推荐器,以获得用于训练攻击模型的标记训练数据。大量的实验结果表明,我们的攻击框架实现了强大的性能。此外,我们设计了一种防御机制来有效减轻推荐系统的成员推理威胁。
2021-09-16 cs.CR cs.LG
Efficiency Boosting of Secure Cross-platform Recommender Systems over Sparse Data
由于其成功的商业化,推荐系统(RS)得到了广泛的关注。然而,由于输入RS模型的训练数据通常是高度敏感的,它最终会导致严重的隐私问题,特别是当数据在不同平台之间共享时。本文在前人工作的基础上,研究了跨平台RS系统的安全稀疏矩阵乘法问题。解决了两个基本而关键的问题:保护训练数据隐私和打破数据筒仓问题。具体来说,我们提出了两个具体的建设,显着提高效率。它们分别针对稀疏位置不敏感情况和位置敏感情况而设计。最先进的密码学构建块,包括同态加密(HE)和私人信息检索(PIR)融合到我们的协议与非平凡的优化。因此,我们的计划可以享受HE加速技术,而无需隐私权衡。我们给出了正式的安全性证明所提出的计划,并进行了广泛的实验,真实和大规模的模拟数据集。与现有方案相比,我们的两个方案的运行时间分别压缩了10* 和2.8*。它们还可以实现高达15* 和2.3* 的通信减少而不会损失精度。
2022-12-03 cs.CR
Towards Differential Privacy in Sequential Recommendation: A Noisy Graph Neural Network Approach
Shanghai University of Finance and Economics(上海财经大学)
针对现有差分隐私推荐系统无法适配序列推荐的动态依赖交互、且忽略敏感用户特征隐私风险的问题,提出DIPSGNN框架,通过分段机制保护用户特征、在图神经网络聚合步骤加校准噪声,实现序列推荐的差分隐私,在隐私与准确性平衡上优于现有方法。
2024-01-30 cs.CR cs.IR cs.LG
CryptoRec: Privacy-preserving Recommendation as a Service
推荐系统依赖于大量的历史数据集,并带来严重的隐私风险。向客户端提供推荐即服务的服务器可能会泄漏更多关于其推荐模型和数据集的信息。与此同时,向服务器披露客户端的偏好也是一个值得关注的问题。使用通用密码原语(例如,安全多方计算或同态加密)是克服隐私问题的典型方法,但是与现有技术的推荐系统相结合常常产生远不实用的解决方案。本文从构造密码友好的机器学习算法的方向来解决这个问题。特别是,我们提出了CryptoRec,一个安全的两方计算协议的推荐服务,其中包括一个新的推荐系统。该模型具有两个有趣的特性:(1)它在只有项目的潜在特征空间中对用户-项目交互进行建模,在该空间中,个性化的用户表示通过预先学习的项目特征的聚合来自动捕获。这意味着具有预训练模型的服务器可以为数据不在其训练集中的客户端提供建议。尽管如此,使用客户端数据重新训练模型仍然可以提高准确性。(2)它只使用加法和乘法运算,使模型直接兼容同态加密方案。我们在三个真实世界的数据集上展示了CryptoRec的效率和准确性。CryptoRec允许拥有数千个项目的服务器在几秒钟内在一台PC上私下回答预测查询,而其预测准确性仍然可以与最先进的推荐系统竞争。
2018-05-13 cs.CR
Model Stealing Attack against Recommender System
针对推荐系统模型隐私威胁,提出在有限数据和查询条件下利用辅助数据及注意力机制融合,并设计窃取函数,实现高效模型窃取攻击。
2023-12-26 cs.AI cs.CR cs.LG
Practical Privacy Preserving POI Recommendation
Ant Financial Services Group(蚂蚁金融服务集团);Peking University(北京大学);Zhejiang University(浙江大学)
兴趣点推荐技术近年来得到了广泛的研究和成功的应用。然而,现有的方法大多是在收集用户数据的基础上建立集中式模型。私人数据和模型都由推荐器持有,这导致了严重的隐私问题。在本文中,我们提出了一种新的隐私保护POI推荐(PriRec)框架。首先,为了保护数据隐私,用户的私人数据(功能和操作)被保存在自己的一侧,例如,手机或平板电脑。同时,所有用户需要访问的公共数据由推荐器保存,以减少用户设备的存储成本。这些公开数据包括:(1)仅与POI的状态相关的静态数据,例如POI类别,以及(2)取决于用户POI动作的动态数据,例如访问计数。动态数据可能是敏感的,我们开发了本地差分隐私技术来向公众发布这些数据的隐私保证。其次,PriRec遵循由线性模型和特征交互模型组成的因式分解机(FM)的表示。为了保护模型的隐私,线性模型保存在用户端,我们提出了一个安全的分散梯度下降协议,供用户协作学习。由于特征交互模型不存在隐私风险,因此由推荐器保存,并采用联邦学习范式中的安全聚合策略进行学习,PriRec将用户私有的原始数据和模型保存在用户自己手中,在很大程度上保护了用户隐私。我们将PriRec应用于真实世界的数据集,综合实验表明,与FM相比,PriRec实现了相当甚至更好的推荐准确性。
2020-04-27 cs.CR cs.LG stat.ML
A Scenario-Oriented Survey of Federated Recommender Systems: Techniques, Challenges, and Future Directions
School of Software Engineering, Xi’an Jiaotong University(西安交通大学软件工程学院);City, University of London(伦敦城市大学);Ministry of Education Key Laboratory for Intelligent Networks and Network Security, the School of Information and Communication Engineering, and SMILES LAB, Xi’an Jiaotong University(教育部智能网络与网络 security key laboratory、信息与通信工程学院及SMILES实验室,西安交通大学)
本文从推荐场景角度系统综述联邦推荐系统,分析场景与联邦学习框架的耦合关系、场景特定方法、实际挑战与未来方向,旨在推动FedRec的现实部署。
2025-08-27 cs.AI cs.CR cs.IR
Privacy Threats Against Federated Matrix Factorization
Hong Kong University of Science and Technology(香港科技大学);Southern University of Science and Technology(南方科技大学);WeBank Co. Ltd(微众银行)
矩阵分解在实际推荐应用和电子商务中非常成功。由于数据短缺和严格的法规,很难收集足够的数据来为单个公司构建高性能的推荐系统。联邦学习提供了在不损害隐私和安全的情况下桥接数据孤岛和构建机器学习模型的可能性。共享共同用户或项目的参与者协作地在来自所有参与者的数据上构建模型。已经有一些工作探索应用联邦学习的推荐系统和协同过滤系统中的隐私问题。然而,联邦矩阵分解中的隐私威胁没有被研究。本文根据特征空间的划分将联邦矩阵分解分为三类,并分析了每类联邦矩阵分解模型的隐私威胁。我们还讨论了隐私保护方法。据我们所知,这是联邦学习框架中的矩阵分解方法的隐私威胁的第一个研究。
2020-07-03 cs.CR cs.LG stat.ML
A Privacy Preserving System for Movie Recommendations Using Federated Learning
Fraunhofer Institute for Telecommunications, Heinrich Hertz Institute, HHI(弗劳恩霍夫电信研究所海因里希·赫兹研究所)
针对推荐系统收集大量个人数据的隐私问题,本文提出基于联邦学习的电影推荐系统,采用新型FedQ方案解决非独立同分布等问题并防重构攻击,结合压缩技术降通信开销,多层面保障隐私。
2024-05-16 cs.CR cs.IR cs.LG
LightFR: Lightweight Federated Recommendation with Privacy-preserving Matrix Factorization
联邦推荐系统(FRS)使多个本地设备能够在不传输本地原始数据的情况下联合训练共享模型,具有隐私保护的优点,已成为一种流行的推荐模式。然而,以往的FRS工作是在连续嵌入空间中通过内积进行相似性搜索,这在项目规模非常大时会导致效率瓶颈。我们认为,联邦设置中的这种方案忽略了资源受限的用户设备中的有限容量(即,存储空间、计算开销和通信带宽),并且使其更难被部署在大规模推荐系统中。此外,它已被证明,在服务器和客户端之间传输的实值形式的局部梯度可能会泄漏用户的隐私信息。为此,我们提出了一个轻量级的联邦推荐框架与隐私保护矩阵分解,LightFR,能够生成高质量的二进制代码,通过利用学习哈希技术在联邦设置下,从而享受快速的在线推理和经济的内存消耗。此外,我们设计了一个有效的联邦离散优化算法,以协同训练模型参数之间的服务器和客户端,可以有效地防止来自恶意方的实值梯度攻击。通过在四个真实数据集上的广泛实验,我们证明了我们的LightFR模型在推荐准确性,推理效率和数据隐私方面优于几种最先进的FRS方法。
2022-12-24 cs.CR cs.IR
Inferring Communities of Interest in Collaborative Learning-based Recommender Systems
LIRIS, INSA Lyon(里昂国立应用科学学院LIRIS实验室);INRIA(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);iExec Blockchain Tech(iExec区块链技术公司)
针对基于联邦学习和gossip学习的协同推荐系统的隐私漏洞,提出无需训练替代模型的社区推断攻击(CIA),实验显示其准确率比随机猜测高10倍,并发现“少共享”策略在GL中能更好平衡隐私与效用。
2025-04-15 cs.CR cs.IR cs.LG
Encoded but Exposed: Language Embeddings can Reveal More Than They Should in Recommender Systems
Czech Technical University in Prague(布拉格捷克理工大学)
该研究发现推荐系统中用于表示物品内容的语言嵌入存在隐私风险,攻击者可通过余弦相似度攻击恢复物品身份,且泄露可传播至用户重新识别,混淆描述的缓解措施存在泄露-效用权衡。
2026-10-19 cs.AI cs.CR cs.LG
Practical and Secure Federated Recommendation with Personalized Masks
Hong Kong University of Science and Technology(香港科技大学);Clustar;Peking University(北京大学);Fuzhou University(福州大学)
联合推荐解决了推荐系统的数据孤岛和隐私问题。目前的联合推荐系统主要利用密码学或混淆方法来保护原始评分不被泄露。然而,前者带来了额外的通信和计算成本,后者损害了模型的准确性。这两种方法都不能同时满足推荐系统的实时反馈和精确个性化的要求。在本文中,我们提出了联邦屏蔽矩阵分解(FedMMF),以保护联邦推荐系统中的数据隐私,而不牺牲效率和效果。更详细地说,我们介绍了新的思想,个性化的面具只产生从本地数据,并将其应用在FedMMF。一方面,个性化口罩为参与者的私人数据提供了保护,而不会损失有效性。另一方面,结合自适应安全聚合协议,个性化掩码可以进一步提高效率。从理论上分析了个性化口罩的安全性。从经验上讲,我们还显示了所设计的模型在不同的现实世界的数据集上的优越性。
2022-06-20 cs.AI cs.CR cs.IR
Privacy-Aware Recommendation with Private-Attribute Protection using Adversarial Learning
推荐是帮助用户找到与其兴趣相关的信息的关键应用之一。然而,恶意攻击者可以通过推荐来推断用户的私人信息。先前的工作在与推荐系统共享之前混淆用户项数据。这种方法在执行数据混淆时没有显式地解决推荐的质量。此外,它不能保护用户免受基于建议的私有属性推理攻击。这项工作是第一次尝试建立一个推荐与属性保护(RAP)模型,同时推荐相关的项目和计数器私有属性推理攻击。我们的方法的关键思想是制定这个问题作为一个对抗性的学习问题,有两个主要组成部分:私人属性推理攻击者,和贝叶斯个性化推荐。攻击者试图根据用户的项目列表和建议来推断用户的私有属性信息。推荐器的目标是提取用户的兴趣,同时利用攻击者来规范推荐过程。实验表明,该模型既保持了推荐服务的质量,又保护了用户免受私有属性推理攻击。
2019-11-22 cs.CR cs.IR cs.SI
Privacy in Personalized AI Is a System Property, Not Just a Model Property
SJTU Paris Elite Institute of Technology(上海交通大学巴黎卓越工程师学院);Kibo Ryoku Research(Kibo Ryoku研究院)
本文主张个性化AI的隐私应从系统层面审视,而非仅模型层面,提出四个隐私风险渠道及四项系统级评估要求,以完善隐私审计。
2026-10-01 cs.CR cs.IR cs.LG
Collusion Resistant DNS With Private Information Retrieval
针对 DoH/ODoH 依赖解析器与代理不合谋假设的问题,本文提出利用单服务器 PIR 的 DNS 扩展 PDNS,并通过原型与轨迹驱动实验证明其可提供强隐私且性能可接受。
2025-07-28 cs.CR cs.NI
Membership Inference Attacks on In-Context Examples in LLM-based Recommender Systems
University of Maryland, Baltimore County(马里兰大学巴尔的摩分校);University of Cincinnati(辛辛那提大学);University of Southern California(南加州大学)
本文提出两种针对LLM推荐系统中上下文示例的成员推断攻击,揭示了敏感信息暴露的风险及现有防御方法的不足。
2026-07-10 cs.AI cs.CL cs.CR