Model Stealing Attack against Recommender System
针对推荐系统模型隐私威胁，提出在有限数据和查询条件下利用辅助数据及注意力机制融合，并设计窃取函数，实现高效模型窃取攻击。
2023-12-26 cs.AI cs.CR cs.LG
Leveraging Privacy Profiles to Empower Users in the Digital Society
Università degli studi dell’Aquila（拉奎拉大学）
公民的隐私和道德是我们日益数字化的社会所提出的关切的核心。分析用户是软件应用程序的标准做法，触发了用户对正确管理隐私设置的需求，也受到法律的强制执行。用户需要正确管理软件隐私设置，以保护个人身份信息并表达个人道德偏好。人工智能技术通过反映用户的个人道德偏好，使用户能够与数字世界互动，这可能是建立一个值得信赖的数字社会的关键因素。我们专注于隐私维度，并通过对从健身域收集的现有数据集的实证研究，在上述方向上迈出了一步。我们找出哪一组问题适合根据用户的偏好区分用户。结果表明，一组紧凑的语义驱动的问题（关于域独立的隐私偏好）有助于区分用户比一个复杂的域相关的。这证实了该研究的假设，道德态度是相关的一块信息collect.Based的结果，我们实现了一个推荐系统，为用户提供合适的建议相关的隐私选择。然后，我们表明，建议的推荐系统提供相关的设置给用户，获得较高的准确性。
2022-04-01 cs.AI cs.CR cs.IR
A Scenario-Oriented Survey of Federated Recommender Systems: Techniques, Challenges, and Future Directions
School of Software Engineering, Xi’an Jiaotong University（西安交通大学软件工程学院）；City, University of London（伦敦城市大学）；Ministry of Education Key Laboratory for Intelligent Networks and Network Security, the School of Information and Communication Engineering, and SMILES LAB, Xi’an Jiaotong University（教育部智能网络与网络 security key laboratory、信息与通信工程学院及SMILES实验室，西安交通大学）
本文从推荐场景角度系统综述联邦推荐系统，分析场景与联邦学习框架的耦合关系、场景特定方法、实际挑战与未来方向，旨在推动FedRec的现实部署。
2025-08-27 cs.AI cs.CR cs.IR
Privacy-Preserving Personalized Fitness Recommender System (P3FitRec): A Multi-level Deep Learning Approach
The University of Sydney（悉尼大学）
借助机器学习算法，推荐系统已经成功地应用于许多领域。然而，此类应用程序往往使用多维用户数据，这引起了对用户隐私泄露的广泛关注。与此同时，可穿戴技术使用户能够通过嵌入式传感器收集与健身相关的数据，以监测他们的状况或实现个性化的健身目标。在本文中，我们提出了一种新的隐私意识的个性化健身推荐系统。我们引入了一个多层次的深度学习框架，该框架从可穿戴物联网设备收集的大规模真实健身数据集中学习重要特征，以获得智能健身建议。与大多数现有的方法不同，我们的方法通过从感官数据推断用户的健身特征来实现个性化，从而最大限度地减少了明确收集用户身份或生物特征信息（如姓名、年龄、身高、体重）的需要。特别是，我们提出的模型和算法预测（a）个性化的运动距离建议，以帮助用户达到目标卡路里，（b）个性化的速度序列建议，以调整运动速度给定的性质和所选的路线，以及（c）个性化的心率序列，以指导用户的潜在健康状况，为未来的锻炼。我们对真实世界Fitbit数据集的实验评估表明，与类似研究相比，预测运动距离，速度序列和心率序列的准确性很高。此外，与现有的研究相比，我们的方法是新颖的，因为它不需要收集和使用用户的敏感信息，因此它保护了用户的隐私。
2022-03-23 cs.AI
Practical and Secure Federated Recommendation with Personalized Masks
Hong Kong University of Science and Technology（香港科技大学）；Clustar；Peking University（北京大学）；Fuzhou University（福州大学）
联合推荐解决了推荐系统的数据孤岛和隐私问题。目前的联合推荐系统主要利用密码学或混淆方法来保护原始评分不被泄露。然而，前者带来了额外的通信和计算成本，后者损害了模型的准确性。这两种方法都不能同时满足推荐系统的实时反馈和精确个性化的要求。在本文中，我们提出了联邦屏蔽矩阵分解（FedMMF），以保护联邦推荐系统中的数据隐私，而不牺牲效率和效果。更详细地说，我们介绍了新的思想，个性化的面具只产生从本地数据，并将其应用在FedMMF。一方面，个性化口罩为参与者的私人数据提供了保护，而不会损失有效性。另一方面，结合自适应安全聚合协议，个性化掩码可以进一步提高效率。从理论上分析了个性化口罩的安全性。从经验上讲，我们还显示了所设计的模型在不同的现实世界的数据集上的优越性。
2022-06-20 cs.AI cs.CR cs.IR
Federated Collaborative Filtering for Privacy-Preserving Personalized Recommendation System
EU Cloud R&D Center of Helsinki（赫尔辛基欧盟云研发中心）；Huawei Technologies（华为技术有限公司）
对用户隐私的日益关注导致了新的隐私保护机器学习范例。在联邦学习范例中，主机器学习模型被分发给用户客户端，客户端使用其本地存储的数据和模型进行推理和计算模型更新。模型更新被发送回并在服务器上聚合以更新主模型，然后重新分发给客户端。在这种范例中，用户数据永远不会离开客户端，从而大大增强了用户的隐私，这与在超出用户控制的后端服务器上收集、存储和处理用户数据的传统范例形成对比。在本文中，我们介绍，据我们所知，第一个联邦实现的协作过滤器。对模型的联邦更新基于随机梯度方法。作为机器学习中的一个经典案例研究，我们探索了一个基于用户隐式反馈的个性化推荐系统，并证明了该方法对MovieLens和内部数据集的适用性。经验验证证实了一个协同过滤器可以联合没有损失的准确性相比，一个标准的实现，从而提高了用户的隐私在一个广泛使用的推荐应用程序，同时保持推荐性能。
2019-01-29 cs.AI cs.IR cs.LG
Membership Inference Attacks on In-Context Examples in LLM-based Recommender Systems
University of Maryland, Baltimore County（马里兰大学巴尔的摩分校）；University of Cincinnati（辛辛那提大学）；University of Southern California（南加州大学）
本文提出两种针对LLM推荐系统中上下文示例的成员推断攻击，揭示了敏感信息暴露的风险及现有防御方法的不足。
2026-07-10 cs.AI cs.CL cs.CR
A Survey on LLM-based News Recommender Systems
IEEE（电气和电子工程师协会）
本综述系统梳理基于大语言模型的新闻推荐系统，涵盖判别式与生成式方法，从新闻、用户和预测三个维度建模，并分析挑战与未来方向。
2025-02-21 cs.AI cs.IR
Proceedings of the 4th Workshop on Online Recommender Systems and User Modeling -- ORSUM 2021
现代在线服务以非常快的速度不断生成数据。这种连续的数据流包含内容-例如，帖子、新闻、产品、评论，还有用户反馈，例如，评级、视图、读取、点击-连同上下文数据-用户设备、空间或时间数据、用户任务或活动、天气。考虑到内容、上下文和用户偏好或意图的连续和潜在快速变化，这对于被设计成批量训练的系统和算法来说可能是压倒性的。因此，重要的是调查在线方法能够透明地适应在线服务的内在动态。从数据流中学习的增量模型在推荐系统社区中越来越受到关注，因为它们具有处理动态复杂环境中生成的连续数据流的自然能力。用户建模和个性化可以特别受益于能够增量和在线维护模型的算法。本次研讨会的目的是促进贡献，并汇集了越来越多的研究人员和从业者感兴趣的在线，自适应的方法来用户建模，推荐和个性化，以及他们对多个维度的影响，如评估，再现性，隐私和可解释性。
2022-01-17 cs.AI cs.IR cs.LG
Encoded but Exposed: Language Embeddings can Reveal More Than They Should in Recommender Systems
Czech Technical University in Prague（布拉格捷克理工大学）
该研究发现推荐系统中用于表示物品内容的语言嵌入存在隐私风险，攻击者可通过余弦相似度攻击恢复物品身份，且泄露可传播至用户重新识别，混淆描述的缓解措施存在泄露-效用权衡。
2026-10-19 cs.AI cs.CR cs.LG
Federated Learning with Diffusion Models for Privacy-Sensitive Vision Tasks
Kyung Hee University（庆熙大学）
本文研究如何利用联邦学习训练扩散模型，以在保护数据隐私的前提下为医疗等隐私敏感领域提供图像生成等视觉服务，并通过多场景实验验证了联邦扩散模型的潜力。
2023-11-28 cs.CR cs.LG
Federated Recommender System with Data Valuation for E-commerce Platform
College of Computing（计算学院）；Informatics, Sungkyunkwan University, Suwon, Republic of Korea（信息学，顺天大学，Suwon，韩国）
针对联邦推荐中本地数据稀疏问题，提出FedGDVE方法，利用全局数据语义对齐样本增强本地图，通过预训练编码器、有效性预测器和强化学习采样，性能提升最高34.86%。
2025-09-14 cs.AI cs.LG
PipAttack: Poisoning Federated Recommender Systems forManipulating Item Promotion
The University of Queensland（昆士兰大学）；Griffith University（格里菲斯大学）；Shandong University（山东大学）
由于隐私问题的日益严重，去中心化在个性化服务，特别是推荐服务中迅速兴起。此外，最近的研究表明，集中式模型容易受到中毒攻击，从而损害其完整性。在推荐系统的背景下，这种中毒攻击的典型目标是通过干扰训练数据集和/或过程来促进对手的目标项目。因此，一种常见的做法是在分散式联邦学习范式下对推荐系统进行子系统化，这使得所有用户设备能够协作地学习全局推荐，同时将所有敏感数据保留在本地。在不向终端用户暴露推荐器和整个数据集的全部知识的情况下，这种联合推荐被广泛认为是对中毒攻击“安全”的。在本文中，我们提出了一个系统的方法，后门联邦推荐系统有针对性的项目推广。其核心策略是利用数据驱动型博客中普遍存在的固有的流行偏见。由于流行项目更容易出现在推荐列表中，我们创新设计的攻击模型使目标项目具有嵌入空间中流行项目的特征。然后，通过上传精心制作的梯度通过少量的恶意用户在模型更新，我们可以有效地增加一个目标（不受欢迎的）项目的曝光率，在所产生的联合推荐。对两个真实数据集的评估表明：1）我们的攻击模型以一种隐秘的方式显着提高了目标项目的曝光率，而不会损害中毒推荐的准确性; 2）现有的防御措施不够有效，突出了对联邦推荐系统的本地模型中毒攻击的新防御措施的需求。
2021-10-21 cs.AI cs.IR
Explainable Multi-Stakeholder Job Recommender Systems
Maastricht University（马斯特里赫特大学）
本文总结了面向求职者、招聘人员和公司的可解释多利益相关方职位推荐系统研究，并提出了未来研究方向。
2024-10-01 cs.AI cs.HC
Metrics for popularity bias in dynamic recommender systems
Amsterdam University of Applied Sciences（阿姆斯特丹应用科学大学）
本文提出四个动态指标，量化推荐系统随时间对不同敏感用户群体的流行度偏见，并在四种协同过滤算法上验证，以揭示群体间待遇差异的扩大。
2023-10-12 cs.AI cs.CY
LEGO: A Lightweight and Efficient Multiple-Attribute Unlearning Framework for Recommender Systems
Zhejiang University（浙江大学）；Hangzhou Dianzi University（杭州电子科技大学）
针对推荐系统中多敏感属性动态遗忘的需求，提出轻量级高效框架LEGO，通过嵌入校准与灵活组合两步实现同时遗忘，并以互信息最小化提供理论保证，实验验证其有效性与效率。
2025-10-23 cs.AI cs.LG
Privacy-preserving recommender system using the data collaboration analysis for distributed datasets
University of Tsukuba（筑波大学）；Hosei University（法政大学）
本研究针对分布式数据集共享中的隐私保护问题，建立了一个基于数据协作分析的隐私保护推荐系统框架，数值实验表明该方法能提高评分预测准确率。
2024-05-24 cs.CR cs.IR cs.LG
Online certification of preference-based fairness for personalized recommender systems
Meta AI
推荐系统正面临审查，因为它们对我们所能获得的机会的影响越来越大。目前对公平性的审计仅限于敏感群体级别的粗粒度奇偶性评估。我们建议审计无嫉妒性，这是一个与个人偏好相一致的更细粒度的标准：每个用户都应该喜欢他们的推荐。由于审计嫉妒需要估计用户的偏好超出他们现有的建议，我们投审计作为一个新的纯探索多武装土匪的问题。我们提出了一个样本效率的算法，理论上保证它不会恶化用户体验。我们还研究了在现实世界的推荐数据集上实现的权衡。
2023-03-06 cs.AI cs.CY cs.LG
Privacy-preserving and yet Robust Collaborative Filtering Recommender as a Service
Luxembourg Institute of Science and Technology (LIST)（卢森堡科学技术研究院（LIST））
协同过滤服务器以牺牲最终用户的隐私为代价提供有效的个性化服务。随着社会对隐私保护的日益关注和隐私保护法规的日益严格，设计一种既能保护隐私又能为隐私敏感用户提供推荐服务的鲁棒的推荐器成为一个迫切的研究挑战。我们的分析表明，现有的解决方案在几个方面存在不足，包括缺乏对最终用户的精确输出的关注和忽略相关的鲁棒性问题。在本文中，我们提供了一个通用的系统结构，潜在因素为基础的协同过滤过滤器，制定他们的模型训练和预测计算阶段，还描述了一个新的安全模型。针对务实的解决方案，我们首先展示了如何构建隐私保护，但强大的模型训练阶段的基础上现有的解决方案。然后，我们提出了两个密码协议来实现隐私保护的预测计算阶段，这取决于是否涉及额外的代理。与标准的Top-k推荐不同，作为我们隐私设计策略的结果，我们让最终用户检索预测高于阈值的未评级项目。实验结果表明，我们的新协议是相当有效的。
2019-10-09 cs.CR cs.IR cs.LG
Prompt Optimization for User Simulation in Conversational Recommender Systems: A Multi-Objective Framework
Monash University（莫纳什大学）
提出多目标框架自动优化LLM提示，以生成更真实、多样化的用户模拟行为，缓解对话推荐系统中的评估与数据获取难题。
2026-07-02 cs.AI cs.CL cs.IR
A Novel Privacy-Preserved Recommender System Framework based on Federated Learning
College of Information Science and Engineering（信息科学与工程学院）；Ningbo University（宁波大学）
推荐系统是目前解决信息过载的有效方法。为了满足用户的下一次点击行为，RS需要收集用户的个人信息和行为，以实现全面而深刻的用户偏好感知。然而，这些集中收集的数据是隐私敏感的，任何泄漏都可能对用户和服务提供商造成严重问题。提出了一种新的隐私保护推荐系统框架（PPRSF），通过应用联邦学习范式，使推荐算法在不集中收集用户隐私数据的情况下进行训练和推理。PPRSF不仅能够降低隐私泄露风险，满足法律法规的要求，而且允许各种推荐算法的应用。
2020-11-11 cs.IR cs.LG
Position Paper on Simulating Privacy Dynamics in Recommender Systems
在这篇立场论文中，我们讨论了在推荐系统中模拟隐私动态的优点。我们从两个角度研究这个问题：首先，我们提出了一个概念性的方法，将隐私集成到推荐系统模拟，其关键要素是隐私代理。这些代理可以增强具有不同隐私偏好的用户的简档，例如，他们向推荐系统披露数据的倾向。此外，他们可以通过保护所有可能威胁隐私的行为来保护用户的隐私。例如，代理可以禁止用户的隐私威胁行为或应用隐私增强技术，例如，差分隐私，使行为不那么具有威胁性。其次，我们确定了隐私感知推荐系统模拟未来研究的三个关键主题：（一）我们如何建模用户的隐私偏好，并保护用户免受任何隐私威胁的行动？(ii)隐私代理在多大程度上修改用户的文档偏好？(iii)隐私偏好和隐私保护如何影响他人的建议和隐私？我们的概念性隐私感知模拟方法使研究隐私偏好和隐私保护对微观层面的影响成为可能，即，单个用户，而且在宏观层面上，即，所有推荐系统用户。通过这项工作，我们希望提出有关如何实现隐私感知模拟的观点，以便研究人员能够研究推荐系统中的隐私动态。
2021-09-14 cs.IR
Holistic Collaborative Privacy Framework for Users' Privacy in Social Recommender Service
现有推荐服务的当前商业模型围绕用户的个人数据在他们身边的可用性，而消费者必须相信推荐服务提供商不会以恶意的方式使用他们的数据。随着侵犯隐私的案件越来越多，不同国家和公司都颁布了隐私法律和法规，以确定保护个人信息的最佳做法。数据保护第95/46/EC号指令和经济合作与发展组织（经合组织）制定的隐私原则就是这种监管框架的例子。在本文中，我们断言，利用第三方推荐服务来生成准确的推荐是可行的，同时保护用户的敏感信息的隐私，这些信息将仅驻留在他/她自己的设备上的清晰形式上。因此，受益于第三方推荐服务的每个用户将对从他/她自己的偏好中释放的内容具有绝对控制权。我们提出了一个协同隐私中间件，执行一个分布式数据汇集协议内的两个阶段的隐藏过程，以达到这一要求。此外，所提出的解决方案以自然和功能的方式符合公平信息实践的常见隐私监管框架之一-即经合组织隐私原则。本文提出的方法很容易集成到当前的业务模型，因为它是使用一个中间件，运行在最终用户端，并利用社会性质的内容分发服务，实现拓扑数据汇集协议。
2014-11-13 cs.CR cs.IR
A Deep Dive into Fairness, Bias, Threats, and Privacy in Recommender Systems: Insights and Future Research
本研究深入探讨推荐系统中的公平性、偏见、威胁与隐私挑战，分析算法决策的影响，并提出未来研究方向以增强系统的鲁棒性、公平性和隐私保护。
2024-09-19 cs.CR cs.HC cs.IR
User Consented Federated Recommender System Against Personalized Attribute Inference Attack
Department of CSE, HKUST（香港科技大学计算机科学与工程系）
针对联邦推荐系统中属性推断攻击和用户隐私偏好差异问题，提出用户同意的联邦推荐系统UC-FedRec，通过最小化准确度代价灵活满足隐私需求，实验证明其高效灵活。
2023-12-23 cs.CR cs.IR cs.LG
Privacy and Fairness in Recommender Systems via Adversarial Training of User Representations
Intuit Tech Futures（财捷科技未来部门）；Bar Ilan University（巴伊兰大学）；Intuit（财捷公司）
推荐系统的潜在因素模型将用户和项目表示为低维向量。这种系统的隐私风险以前主要是在从训练数据中以使用记录的形式恢复个人信息的背景下研究的。然而，用户表示本身可以与外部数据一起使用，以恢复诸如性别和年龄的私人用户信息。在本文中，我们表明，用户向量计算的一个共同的推荐系统可以利用这种方式。我们提出了隐私对抗框架，以消除这种泄漏的私人信息，并研究推荐性能和泄漏之间的权衡理论和经验使用基准数据集。所提出的方法的优点是，它也有助于保证结果的公平性，因为一组属性的所有隐式知识都从模型使用的表示中擦除，因此不能进入决策。我们讨论了进一步的应用，这种方法对生成更深入，更有见地的建议。
2018-12-18 cs.IR cs.LG stat.ML
YOURPRIVACYPROTECTOR, A recommender system for privacy settings in social networks
确保社交网络用户的隐私可能是一个无法解决的难题。同时，社交网络参与者对现有隐私选项的知情使用可以减轻-甚至防止-一些更严重的隐私厌恶事件。不幸的是，最近的调查显示，普通用户要么不知道这些选项，要么不使用它们，可能是由于它们的复杂性。因此，有理由相信，帮助用户完成两项任务的工具：1）根据他们的隐私设置和广泛的隐私类别了解他们的社交网络行为，以及2）推荐合理的隐私选项，将是社交网络环境中日常隐私实践的有价值的工具。本文介绍了YourPrivacyProtector，一个推荐系统，显示如何简单的机器学习技术可以提供有用的帮助，在这两个任务的Facebook用户。我们支持我们的主张与经验的结果YourPrivacyProtector应用到两组Facebook用户。
2016-02-05 cs.CR cs.CY cs.IR
Differentially Private Neighborhood-based Recommender Systems
随着推荐系统出现在我们生活的各个角落，推荐系统的隐私问题已经成为社会关注的热点。与许多安全多方计算协议被提出来防止推荐计算过程中的信息泄漏的事实相反，很少有人做来限制推荐结果中的信息泄漏。在本文中，我们将差分隐私的概念应用到基于邻域的推荐方法（NBM）的概率框架下。首先，我们提出了一种解决方案，通过直接校准拉普拉斯噪声到训练过程中，差分私下找到最大后验参数相似性。然后，我们连接差分隐私NBMs利用最近的观察，从贝叶斯模型的缩放后验分布的结果，在可证明的差异隐私系统的采样。我们的实验表明，这两种解决方案都允许有希望的准确性与适度的隐私预算，和第二种解决方案产生更好的准确性，如果采样渐近收敛。我们还比较了我们的解决方案，最近的差分私人矩阵分解（MF）推荐系统，并表明我们的解决方案实现更好的准确性时，隐私预算是合理的小。这是一个有趣的结果，因为MF系统通常在不应用差分隐私时提供更好的准确性。
2017-03-10 cs.CR cs.IR
Towards Differential Privacy in Sequential Recommendation: A Noisy Graph Neural Network Approach
Shanghai University of Finance and Economics（上海财经大学）
针对现有差分隐私推荐系统无法适配序列推荐的动态依赖交互、且忽略敏感用户特征隐私风险的问题，提出DIPSGNN框架，通过分段机制保护用户特征、在图神经网络聚合步骤加校准噪声，实现序列推荐的差分隐私，在隐私与准确性平衡上优于现有方法。
2024-01-30 cs.CR cs.IR cs.LG
Comprehensive Privacy Analysis on Federated Recommender System against Attribute Inference Attacks
近年来，推荐系统对于提供满足用户偏好的个性化服务至关重要。通过个性化推荐服务，用户可以享受电影、书籍、广告、餐厅等多种推荐。尽管有很大的好处，个性化推荐通常需要收集个人数据进行用户建模和分析，这可能使用户容易受到属性推断攻击。具体地，现有集中式加密器在属性推断攻击下的脆弱性为恶意攻击者留下了推断用户的私有属性的后门，因为系统记住了它们的训练数据的信息（即，交互数据和辅助信息）。一种新兴的实践是在联合设置中实现推荐器系统，其使得所有用户设备能够协作地学习共享全局推荐器，同时将所有训练数据保持在设备上。然而，在联邦推荐系统中的隐私问题却很少被探讨。在本文中，我们首先设计了一个新的属性推理攻击执行一个全面的隐私分析的最先进的联邦推荐模型。实验结果表明，每个模型组件对属性推理攻击的脆弱性是不同的，突出了新的防御方法的需要。因此，我们提出了一种新的自适应隐私保护方法，以保护用户的敏感数据存在的属性推理攻击，同时最大限度地提高推荐精度。在两个真实数据集上的大量实验结果验证了我们的模型在推荐有效性和抵抗推理攻击方面的优越性能。
2023-03-19 cs.IR
TEE-based decentralized recommender systems: The raw data sharing redemption
EPFL - Swiss Federal Institute of Technology Lausanne（洛桑联邦理工学院）
推荐器在今天的许多应用中是核心。最有效的推荐方案，例如基于协同过滤（CF）的那些，利用用户简档之间的相似性来进行推荐，但是潜在地暴露隐私数据。联邦学习和分散式学习系统通过让数据留在用户的机器上来保护隐私来解决这个问题：每个用户都对本地数据进行训练，并且只共享模型参数。然而，在网络上共享模型参数仍然可能导致隐私泄露。在本文中，我们提出了REX，第一个基于飞地的分散CF推荐。REX利用可信执行环境（TEE），如英特尔软件防护扩展（SGX），在处理器内提供屏蔽环境，以提高收敛性，同时保护隐私。首先，REX支持原始数据共享，这最终会加快收敛速度并降低网络负载。其次，REX完全保护隐私。我们分析了原始数据共享在深度神经网络（DNN）和矩阵分解（MF）算法中的影响，并展示了可信环境在REX全面实施中的好处。我们的实验结果表明，通过原始数据共享，REX与仅共享参数的标准分散方法相比，将训练时间显著减少了18.3倍，网络负载减少了2个数量级，同时通过利用值得信赖的硬件飞地以非常小的开销来充分保护隐私。
2022-06-01 cs.CR cs.DC cs.IR
Privacy-Preserving Cross-Domain Sequential Recommendation
针对跨域序列推荐中的用户隐私保护需求，提出非侵入式的PriCDSR系统，设计兼顾ID与顺序信息的差分隐私机制，可适配任意基础模型，在三域实验中性能优于单域推荐系统。
2024-01-27 cs.IR
Blockchain-based Recommender Systems: Applications, Challenges and Future Opportunities
Qatar University（卡塔尔大学）；De Montfort University（德蒙福特大学）；University of Sharjah（沙迦大学）；Harokopio University of Athens（哈罗科皮奥大学）；San Jose State University（圣何塞州立大学）
推荐系统已经广泛应用于不同的应用领域，包括节能、电子商务、医疗保健、社交媒体等。这些应用需要分析和挖掘大量的各种类型的用户数据，包括人口统计、偏好、社交互动等，以便开发准确和精确的推荐系统。这些数据集通常包含敏感信息，但大多数推荐系统都专注于模型的准确性，而忽略了与安全和用户隐私相关的问题。尽管使用不同的风险降低技术来克服这些问题，但它们中没有一个在确保密码安全和保护用户的私人信息方面完全成功。为了弥合这一差距，区块链技术被认为是一种很有前途的策略，以促进推荐系统的安全性和隐私保护，不仅因为其安全性和隐私的显着特征，而且还由于其弹性，适应性，容错和信任特性。本文对基于区块链的推荐系统进行了全面的回顾，包括挑战，开放问题和解决方案。因此，引入了一个精心设计的分类法来描述安全和隐私挑战，概述现有框架，并在指出未来研究的机会之前讨论它们在使用区块链时的应用和好处。
2021-11-22 cs.IR cs.LG
Transparency, Privacy, and Fairness in Recommender Systems
本文从透明度与认知模型、隐私与有限偏好信息、公平性与流行度偏差三方面系统研究推荐系统的可信性问题，并提出心理学启发的设计方法、基于邻域重用的差分隐私协同过滤方案，以及基于智能体建模的长期公平性分析。
2024-06-28 cs.IR
GreyShot: Zeroshot and Privacy-preserving Recommender System by GM(1,1) Model
本文提出基于GM(1,1)灰色模型的零样本隐私保护推荐算法GreyShot，利用评分数据的泊松-帕累托特性，在无输入数据条件下实现准确且公平的推荐，为解决冷启动问题提供了灰色系统新思路。
2025-09-10 cs.IR
Building a privacy-preserving Federated Recommender system for mobile devices
Département d’informatique et de recherche opérationnelle（计算机与运筹研究部）
提出一种两阶段联邦推荐系统流水线，通过分离非敏感偏好数据与设备内敏感上下文数据，在保护隐私的同时实现移动设备上的个性化推荐。
2026-05-27 cs.IR cs.LG
How Much Are You Willing to Share? A "Poker-Styled" Selective Privacy Preserving Framework for Recommender Systems
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
大多数工业推荐系统依赖于流行的协同过滤（CF）技术，为用户提供个性化的建议。然而，CF的本质与用户隐私的想法是对立的，因为用户需要与其他人分享他们的偏好，以便与志同道合的人分组并获得准确的推荐。虽然以前的隐私保护方法已经成功，因为他们隐藏用户偏好信息在一定程度上从一个集中式推荐系统，他们也，然而，在隐私，可扩展性和准确性方面产生了显着的权衡。它们也容易受到恶意行为者的隐私侵犯。根据这些观察，我们提出了一种新的选择性隐私保护（SP2）范式，允许用户自定义定义的范围和程度，他们的个人隐私，通过标记他们的个人评级为公开（可以共享）或私人（这是从来没有共享和存储在用户设备上）。我们的SP2框架分两步工作：（i）首先，它基于用户共享的所有公共评级的总和构建初始推荐模型，（ii）然后，基于用户的私人评级在每个用户的设备上微调这个公共模型，从而最终学习更准确的模型。此外，在这项工作中，我们介绍了三种不同的算法来实现一个端到端的SP2框架，可以有效地从数千到数亿的项目。我们的用户调查显示，绝大多数用户可能会对更多的项目进行评分，以改善整体推荐，当他们可以控制哪些评分将与他人公开共享时。
2018-06-04 cs.HC cs.IR cs.LG
Debiasing Learning for Membership Inference Attacks Against Recommender Systems
Shandong University（山东大学）；Alibaba Group（阿里巴巴集团）；Meituan（美团）；University of Amsterdam（阿姆斯特丹大学）
学习推荐系统可能会无意中泄露有关其训练数据的信息，从而导致隐私侵犯。我们调查的隐私威胁所面临的推荐系统，通过镜头的成员推理。在这样的攻击中，对手旨在推断用户的数据是否用于训练目标推荐器。为了实现这一点，以前的工作已经使用了影子推荐器来获得攻击模型的训练数据，然后通过计算用户的历史交互和推荐项目之间的差异向量来预测成员资格。现有技术的方法面临两个挑战性的问题：（1）由于阴影和目标映射器之间的间隙，攻击模型的训练数据是有偏差的，以及（2）映射器中的隐藏状态是不可观测的，导致差异向量的估计不准确。为了解决上述限制，我们提出了一个针对推荐系统的成员推断攻击的去偏学习（DL-MIA）框架，该框架有四个主要组件：（1）差异向量生成器，（2）解纠缠编码器，（3）权重估计器和（4）攻击模型。为了缩小推荐器之间的差距，设计了一种基于变分自动编码器（VAE）的解纠缠编码器来识别推荐器不变特征和特定特征。为了减少估计偏差，我们设计了一个权重估计器，为每个差异向量分配一个真值分数来表示估计精度。我们评估DL-MIA对一般的排序器和顺序排序器在三个真实世界的数据集。实验结果表明，DL-MIA算法能够有效地同时消除训练偏差和估计偏差，达到了最佳的攻击性能。
2022-06-28 cs.CR cs.IR cs.LG
Fast-adapting and Privacy-preserving Federated Recommender System
在移动互联网时代，推荐系统已经成为帮助用户发现有用项目，从而缓解信息过载问题的不可替代的工具。最近基于深度神经网络（DNN）的推荐系统研究在提高预测准确率方面取得了重大进展，这在很大程度上归功于访问从用户设备收集的大量用户个人数据，然后集中存储在云服务器中。然而，随着全球对在线平台中用户隐私泄露的担忧日益增加，公众对此类滥用用户隐私的行为感到担忧。因此，开发一种既能达到高预测准确率又能高度保护用户隐私保护的推荐系统是迫切而有益的。为此，我们提出了一种基于DNN的推荐模型，称为PrivRec，运行在分散的联邦学习（FL）环境中，确保用户的数据在模型训练过程中永远不会离开他/她。另一方面，为了更好地拥抱FL中普遍存在的数据异构性，我们创新性地引入了一阶元学习方法，该方法只需很少的数据点就可以实现快速的设备内个性化。此外，防御潜在的恶意参与者，对其他用户构成严重的安全威胁，我们开发了一个用户级差分私有DP-PrivRec模型，使它无法确定是否存在一个特定的用户或不单独基于训练的模型。最后，我们在模拟FL环境中对两个大规模数据集进行了大量的实验，结果验证了我们提出的PrivRec和DP-PrivRec的优越性。
2021-09-11 cs.IR
An Enhanced Middleware for Collaborative Privacy in IPTV Recommender Services
用户在使用IPTV系统时必须面对的问题之一是信息过载，这使得他们很难根据个人喜好找到合适的内容。推荐服务是缓解这一问题的最广泛采用的技术之一，这些服务旨在根据人们的偏好为他们提供他们将欣赏的项目的推荐。IPTV用户必须确保任何推荐服务收集的敏感偏好得到适当保护。在这项工作中，我们介绍了一个框架的私人推荐服务的基础上增强中间件的协作隐私（EMCP）。EMCP执行一个两阶段的隐藏过程，让用户完全控制他/她的个人资料的隐私级别。我们利用信任机制来增强推荐的准确性和隐私性。信任启发式发现相对于请求推荐的用户而言值得信任的用户。随后，使用基于这些可信用户的邻近度量来计算邻域形成。最后，用户以混淆的形式提交他们的简档，而不泄露关于他们的数据的任何信息，并且推荐的计算使用安全多方计算协议在混淆的数据上进行。我们扩大混淆范围从单一的混淆级别的所有用户的任意混淆级别的基础上用户之间的可信度。换句话说，我们将混淆级别与不同的信任级别相关联，因此目标用户越受信任，他可以访问的配置文件的混淆副本就越少。我们还提供了一个IPTV网络的场景和实验结果。我们的结果和分析表明，我们的两阶段隐藏过程，不仅保护了用户的隐私，但也可以保持推荐的准确性。
2017-11-21 cs.CR cs.IR
An Accuracy-Assured Privacy-Preserving Recommender System for Internet Commerce
推荐系统是一种通过计算用户的历史数据和兴趣来预测用户潜在偏好的工具，在网上购物等各种互联网应用中显示出越来越重要的作用。作为一种著名的推荐方法，基于邻域的协同过滤近年来引起了广泛的关注。在过滤过程中泄露用户隐私信息的风险已经引起了人们的关注。在目前的解决方案中，概率技术已经显示出强大的隐私保护效果。在面对$k$最近邻攻击时，由于全局随机性的引入，现有的方法都没有提供数据效用保证。在本文中，为了克服推荐精度损失的问题，我们提出了一种新的方法，分区概率邻居选择，以确保所需的预测精度，同时保持对$k$ NN攻击的高安全性。我们将$k$邻居的相似性之和定义为准确性度量alpha，用户分区的数量，我们选择$k$邻居，作为安全性度量beta。我们将$k$最近邻攻击推广到beta k最近邻攻击。不同于现有的方法，选择邻居在整个候选列表随机，我们的方法选择邻居从每个排他性分区大小$k$的概率递减。理论和实验分析表明，为了提供一个准确性保证的推荐，我们的分区概率邻居选择方法产生了更好的推荐准确性和系统安全性之间的权衡。
2015-06-04 cs.CR cs.IR
Addressing the cold start problem in privacy preserving content-based recommender systems using hypercube graphs
本文针对推荐系统冷启动问题，提出基于超立方体图的隐私保护内容过滤方法，实验证明在评分极少时优于标准算法且保护隐私。
2023-10-13 cs.IR math.CO
Synthetic sequence generator for recommender systems - memory biased random walk on sequence multilayer network
个性化推荐系统依赖于系统中每个用户的个人使用数据，以便辅助决策。然而，保护用户权利的隐私政策阻止了这些高度个人化的数据向更广泛的研究人员受众公开。在这项工作中，我们提出了一个记忆偏置随机游走模型的多层序列网络，作为一个生成器的合成序列数据的推荐系统。我们证明了合成数据在训练推荐系统模型的情况下，隐私政策限制点击流发布的适用性。
2014-07-15 cs.CY cs.IR
PrivateJobMatch: A Privacy-Oriented Deferred Multi-Match Recommender System for Stable Employment
University of California, Merced（加州大学默塞德分校）
协调失败降低了就业市场上雇主和候选人之间的匹配质量，导致大量职位空缺和/或不稳定的短期就业。集中的职位搜索引擎提供了一个平台，直接连接雇主和求职者。然而，它们要求用户披露大量的个人数据，即，建立一个用户简档，以便提供有意义的建议。在本文中，我们提出了PrivateJobMatch -一个面向隐私的延迟多匹配推荐系统-它产生稳定的配对，同时要求用户只提供他们的偏好的部分排名。PrivateJobMatch探索了一系列基于博弈论的Gale-Shapley延迟接受算法，该算法将分散市场的灵活性与集中匹配的智能相结合。我们发现了原始算法应用于就业市场时的缺点，并提出了新的解决方案，依赖于机器学习技术。真实和合成数据上的实验结果证实了所提出的算法在几个质量指标上的好处。在过去的一年里，我们已经实施了PrivateJobMatch原型，并将其部署在活跃的就业市场经济中。使用收集的真实用户偏好数据，我们发现匹配推荐优于典型的分散式就业市场-同时只需要用户偏好的部分排名。
2019-05-11 cs.DS cs.IR cs.LG
Studying the Impact of Data Disclosure Mechanism in Recommender Systems via Simulation
近年来，依赖于用户个人数据的Web服务中的隐私问题引起了极大的关注。与联邦学习和差分隐私等现有隐私保护技术不同，我们探索了另一种减轻用户隐私担忧的方法，让他们能够控制自己的数据。为了实现这一目标，我们提出了一个隐私感知的推荐框架，让用户对他们的个人数据进行微妙的控制，包括隐式行为，例如，点击和观看。在这个新框架中，用户可以根据预期的隐私风险和潜在效用之间的权衡，主动控制要披露哪些数据。然后研究了用户在不同数据泄露机制和推荐模型下的隐私决策，以及用户的隐私决策对推荐系统性能的影响。为了避免现实世界的实验成本高，我们应用模拟来研究我们提出的框架的影响。具体来说，我们提出了一个强化学习算法来模拟用户的决定（与各种敏感性）下提出的平台机制在两个数据集上的三个代表性的推荐模型。仿真结果表明，与大多数实际应用所采用的“全有或全无”的二进制机制相比，具有更细的拆分粒度和更无限制的公开策略的平台机制可以为最终用户和平台带来更好的结果。这也表明，我们提出的框架可以有效地保护用户的隐私，因为他们可以获得可比的，甚至更好的结果与披露的数据少得多。
2022-10-20 cs.IR
The Application of Affective Measures in Text-based Emotion Aware Recommender Systems
George Mason University（乔治梅森大学）；George Mason University Korea（乔治梅森大学韩国分校）
本文提出利用生成式预训练Transformer检测情感特征，构建情感指数与指标，通过责任分离保护隐私，为情感感知推荐系统提供解决方案。
2023-05-04 cs.IR cs.LG
Federated Conversational Recommender System
针对对话式推荐系统的集中式隐私泄露风险，提出一种结合去中心化处理与用户级差分隐私的联邦对话推荐框架，在保护隐私的同时实现了具竞争力的推荐性能。
2025-03-02 cs.IR
Hide Your Model: A Parameter Transmission-free Federated Recommender System
针对传统联邦推荐系统需共享模型参数和通信开销大的问题，提出免参数传输框架PTF-FedRec，通过共享预测结果保护用户数据与平台模型隐私，显著降低通信成本。
2024-02-12 cs.IR
Interaction-level Membership Inference Attack Against Federated Recommender Systems
联邦学习和推荐系统（FedRec）的结合已被广泛用于解决个性化推荐服务中日益增长的数据隐私问题。在FedRecs中，用户的属性信息和行为数据（即，用户-项目交互数据）被本地保存在他们的个人设备上，因此，这被认为是保护用户隐私的相当安全的方法。因此，FedRecs的隐私问题很少被探讨。不幸的是，最近的几项研究表明，FedRecs容易受到用户属性推断攻击，突出了FedRecs的隐私问题。在本文中，我们进一步研究了用户行为数据的隐私问题（即，用户项交互）。具体来说，我们进行了第一次系统的研究交互级的成员推断攻击的FedRecs。首先设计了一种交互级成员推断攻击器，然后采用经典的隐私保护机制--局部差分隐私（LDP）来防御成员推断攻击。不幸的是，实证分析表明，LDP是不能有效地抵御这种新的攻击，除非推荐性能在很大程度上受到损害。为了减轻交互级成员攻击的威胁，我们设计了一个简单而有效的防御方法，以显着降低攻击者的推理准确性，而不损失推荐性能。在三个真实推荐数据集（MovieLens-100 K、Steam-200 K和Amazon Cell Phone）上，使用两个广泛使用的FedRecs（Fed-NCF和Fed-LightGCN）进行了大量实验，实验结果表明了我们的解决方案的有效性。
2023-01-30 cs.IR
On the User Behavior Leakage from Recommender System Exposure
现代推荐系统被训练成从用户的历史行为数据预测用户潜在的未来交互。在交互过程中，尽管数据来自用户侧推荐系统也产生曝光数据，为用户提供个性化的推荐板。与稀疏的用户行为数据相比，系统暴露数据的体积要大得多，因为只有非常少的暴露项目会被用户点击。此外，用户的历史行为数据是隐私敏感的，通常通过仔细的访问授权来保护。然而，大量的推荐曝光数据通常受到较少的关注，并且可以在相对较大的范围内访问各种信息搜索者。在本文中，我们研究了推荐系统中的用户行为泄漏问题。我们表明，隐私敏感的用户过去的行为数据可以推断，通过系统暴露的建模。此外，可以仅从对该用户的当前系统暴露的观察来推断用户已经点击了哪些项目。鉴于系统曝光数据可以从相对较大的范围广泛访问的事实，我们认为，用户过去的行为隐私在推荐系统中具有很高的泄漏风险。更准确地说，我们进行一个攻击模型，其输入是当前推荐的物品名单（即，系统暴露），而输出是用户的历史行为。在两个真实数据集上的实验结果表明，用户行为泄漏的危险性很大。为了解决这一风险，我们提出了一个两阶段的隐私保护机制，首先选择一个子集的项目从曝光石板，然后替换所选择的项目与统一的或基于流行度的曝光。实验结果表明，推荐准确率和隐私泄露风险之间的权衡效果。
2022-10-24 cs.IR
Secure Federated Graph-Filtering for Recommender Systems
本文提出两种去中心化安全框架，利用多方安全计算和低秩近似技术私密计算图滤波组件，在保证数据机密性与低通信成本的同时，实现了与集中式系统相当的推荐准确率。
2025-01-28 cs.CR cs.IR
A Privacy Preserving System for Movie Recommendations Using Federated Learning
Fraunhofer Institute for Telecommunications, Heinrich Hertz Institute, HHI（弗劳恩霍夫电信研究所海因里希·赫兹研究所）
针对推荐系统收集大量个人数据的隐私问题，本文提出基于联邦学习的电影推荐系统，采用新型FedQ方案解决非独立同分布等问题并防重构攻击，结合压缩技术降通信开销，多层面保障隐私。
2024-05-16 cs.CR cs.IR cs.LG
Practitioners Versus Users: A Value-Sensitive Evaluation of Current Industrial Recommender System Design
推荐系统在缓解信息过载和支持用户的各种需求方面发挥着越来越重要的作用，消费、社交和娱乐。然而，有限的研究集中在价值观应如何广泛考虑在工业部署的推荐系统，忽视这可能是有问题的。为了填补这一空白，在本文中，我们采用价值敏感的设计，全面探讨从业者和用户如何认识到当前的行业推荐系统的不同价值。基于概念和实证调查，我们专注于五个价值：推荐质量，隐私，透明度，公平性和可信度。我们进一步对20名用户和10名从业者进行了深入的定性访谈，以深入了解他们对这些价值观的看法。我们的研究结果揭示了从业者和用户之间的价值解释，评价和实践方面的紧张关系的存在和来源，这为设计更以人为本和价值敏感的推荐系统提供了新的启示。
2022-08-27 cs.CY cs.HC cs.IR
PDC-FRS: Privacy-preserving Data Contribution for Federated Recommender System
针对联邦推荐系统因本地数据不足、缺乏全局协同信息导致性能下降的问题，提出带差分隐私保障的数据贡献框架PDC-FRS，通过并行辅助模型扩充本地数据、融合全局信息，在两个公开数据集上优于基线方法。
2024-09-12 cs.IR
