User Consented Federated Recommender System Against Personalized Attribute Inference Attack
Department of CSE, HKUST（香港科技大学计算机科学与工程系）
针对联邦推荐系统中属性推断攻击和用户隐私偏好差异问题，提出用户同意的联邦推荐系统UC-FedRec，通过最小化准确度代价灵活满足隐私需求，实验证明其高效灵活。
2023-12-23 cs.CR cs.IR cs.LG
How Much Are You Willing to Share? A "Poker-Styled" Selective Privacy Preserving Framework for Recommender Systems
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
大多数工业推荐系统依赖于流行的协同过滤（CF）技术，为用户提供个性化的建议。然而，CF的本质与用户隐私的想法是对立的，因为用户需要与其他人分享他们的偏好，以便与志同道合的人分组并获得准确的推荐。虽然以前的隐私保护方法已经成功，因为他们隐藏用户偏好信息在一定程度上从一个集中式推荐系统，他们也，然而，在隐私，可扩展性和准确性方面产生了显着的权衡。它们也容易受到恶意行为者的隐私侵犯。根据这些观察，我们提出了一种新的选择性隐私保护（SP2）范式，允许用户自定义定义的范围和程度，他们的个人隐私，通过标记他们的个人评级为公开（可以共享）或私人（这是从来没有共享和存储在用户设备上）。我们的SP2框架分两步工作：（i）首先，它基于用户共享的所有公共评级的总和构建初始推荐模型，（ii）然后，基于用户的私人评级在每个用户的设备上微调这个公共模型，从而最终学习更准确的模型。此外，在这项工作中，我们介绍了三种不同的算法来实现一个端到端的SP2框架，可以有效地从数千到数亿的项目。我们的用户调查显示，绝大多数用户可能会对更多的项目进行评分，以改善整体推荐，当他们可以控制哪些评分将与他人公开共享时。
2018-06-04 cs.HC cs.IR cs.LG
Towards a More Reliable Privacy-preserving Recommender System
National Taiwan University（国立台湾大学）；Academia Sinica（中央研究院）；National Cheng Kung University（国立成功大学）
本文提出了一个隐私保护的分布式推荐框架，安全分布式协同过滤（SDCF），以保护隐私的价值，模型和存在。也就是说，在我们的框架中，不仅用户对项目的评分，而且评分的存在以及学习的推荐模型都是保密的。我们的解决方案依赖于分布式客户端-服务器架构和两阶段随机响应算法，以及流行的推荐模型矩阵分解（MF）的实现。我们进一步证明SDCF满足差分隐私的保证，使客户端可以指定任意的隐私级别。数值评分预测和一类评分行为预测的实验表明，SDCF不会牺牲太多的准确性隐私。
2017-11-22 cs.LG
Synthetic Data and Simulators for Recommendation Systems: Current State and Future Directions
NVIDIA（英伟达）
合成数据和模拟器有可能显著提高推荐系统的性能和鲁棒性。这些方法已经在其他机器学习驱动的领域产生了有益的影响。我们确定并讨论了一个关键的数据保真度和隐私之间的权衡在过去的工作合成数据和推荐系统的模拟器。对于根据合成数据的真实数据预测算法排名的重要用例，我们提供了动机和当前的成功与局限性。最后，我们概述了一些令人兴奋的推荐系统，我们认为值得进一步关注和工作的未来方向，包括混合真实和合成数据，在数据集生成的反馈，强大的模拟和隐私保护的方法。
2021-12-21 cs.IR cs.LG
Semantic IDs for Music Recommendation
SiriusXM Radio Inc.（SiriusXM广播公司）
本文研究下一项目推荐中逐项嵌入参数过大的问题，提出使用基于内容的共享 semantic IDs，以减小模型规模并提升音乐推荐的准确性与多样性，且在两个数据集及在线 A/B 测试中验证有效。
2025-07-24 cs.IR cs.LG
$C^3DRec$: Cloud-Client Cooperative Deep Learning for Temporal Recommendation in the Post-GDPR Era
Peking University（北京大学）
移动设备使用户能够随时随地检索信息。考虑到移动用户的临时需求和碎片化使用模式，提出了基于用户短期交互行为的时态兴趣学习方法，以提高移动设备上信息检索的效率.然而，隐私保护法律法规的实施，如GDPR，可能会使临时推荐的成功实践黯然失色。原因在于，现有的推荐系统需要在集中式服务器中收集和处理用户数据，但是用于临时推荐的交互行为数据通常是非事务性数据，根据GDPR，在没有用户的明确许可的情况下不允许收集这些数据。因此，如果用户不允许服务收集他们的交互行为数据，时间推荐就无法工作。为实现后GDPR时代的时态推荐，提出了一种基于云-客户端协同的深度学习框架$C^3DRec$，用于在保护用户隐私的同时挖掘交互行为进行推荐。$C^3DRec$使用GDPR之前收集的数据在集中式服务器上构建全局推荐模型，并使用GDPR之后收集的数据直接在各个本地设备上微调模型。我们设计了两种模式来完成推荐，即拉模式，其中候选项目被拉到设备上，并送入本地模型，以获得推荐项目，推模式，其中本地模型的输出推到服务器上，并与候选项目相结合，以获得推荐项目。评估结果表明，$C^3DRec$实现了类似的推荐精度集中的方法，以最小的隐私问题。
2021-01-13 cs.CR cs.IR cs.LG
Integrating User and Item Reviews in Deep Cooperative Neural Networks for Movie Recommendation
University of Patras（帕特雷大学）
用户评价包括在线平台上的大量信息。这种信息源被大多数现有的推荐系统所忽视，尽管它有可能缓解稀疏性问题并提高建议的质量。这项工作提出了一个深度模型，用于从评论文本中同时学习项目属性和用户行为。深度合作神经网络（DeepCoNN）是由两个并行的神经网络在其最后一层连接而成的建议模型。其中一个网络专注于从用户提交的评论中学习用户行为，而另一个网络则从用户评论中学习物品属性。在顶部，添加了一个共享层来连接这两个网络。与因子分解机器方法类似，共享层允许为人和事物获取的潜在因子彼此交互。根据实验结果，在许多数据集上，DeepCoNN超过了所有基线推荐系统。
2022-06-22 cs.IR cs.LG
Navigating the Future of Federated Recommendation Systems with Foundation Models
College of Computer Science and Technology, Jilin University（吉林大学计算机科学与技术学院）；School of Computer Science and Technology, Beijing Jiaotong University（北京交通大学计算机科学与技术学院）；Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University（香港理工大学数据科学与人工智能系）
本文系统探讨联邦推荐系统与基础模型的融合，分析其在个性化、通信效率和聚合上的提升，并提出应对隐私、非IID数据和资源约束的研究方向。
2025-04-11 cs.AI cs.IR cs.LG
Cali3F: Calibrated Fast Fair Federated Recommendation System
University of Science and Technology of China（中国科学技术大学）；Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）
越来越严格的隐私保护法规引发了人们对联邦学习的兴趣。作为一个分布式机器学习框架，它通过在设备上训练一个全局模型，同时保持数据本地化，从而弥合了孤立的数据孤岛。针对推荐系统，人们提出了许多联合推荐算法来实现隐私保护的协同推荐。然而，若干制约因素基本上仍未得到探讨。一个大的问题是如何确保联邦学习的参与者之间的公平性，也就是说，保持跨设备推荐性能的一致性。另一方面，由于数据的异构性和有限的网络，在收敛速度方面出现了额外的挑战。针对这些问题，本文首先提出了一种个性化的联邦推荐系统训练算法，以提高推荐性能的公平性。然后，我们采用基于聚类的聚合方法来加速训练过程。结合这两个组件，我们提出了Cali3F，一个校准的快速和公平的联邦推荐框架。Cali3F不仅通过集群内参数共享方法解决了收敛问题，而且通过用全局模型校准局部模型来显着提高公平性。我们展示了Cali3F在标准基准数据集上的性能，并与传统的聚合方法进行了比较。
2022-05-26 cs.CY cs.IR cs.LG
MultiBalance: Multi-Objective Gradient Balancing in Industrial-Scale Multi-Task Recommendation System
Meta
本文提出 MultiBalance 梯度平衡方法，通过仅平衡共享特征表示上的各任务梯度来缓解工业级多任务推荐中的负迁移问题，在 Meta 大规模广告与信息流系统上以几乎不增加训练成本实现显著性能提升。
2024-11-03 cs.IR cs.LG math.OC
CareerBERT: Matching Resumes to ESCO Jobs in a Shared Embedding Space for Generic Job Recommendations
提出CareerBERT模型，结合ESCO分类与EURES招聘广告构建语料库，在共享嵌入空间中利用简历等非结构化文本数据实现通用职位推荐，两步评估表明其超越现有方法并获专家认可。
2025-03-03 cs.CL cs.LG
Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统，利用高斯机制输出扰动和 Rényi 差分隐私，在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG
Meta-Learning and Targeted Differential Privacy to Improve the Accuracy-Privacy Trade-off in Recommendations
Know Center Research GmbH Graz Austria；Know Center Research GmbH \& University of Graz Graz Austria；Johannes Kepler University \& LIT Linz Linz Austria；Graz University of Technology Graz Austria；Know Center Research GmbH；Know Center Research GmbH \& University of Graz；Johannes Kepler University \& LIT Linz；Graz University of Technology
本文通过定向差分隐私和元学习方法，在数据和模型层面优化推荐系统中准确性与隐私的平衡，提升隐私保护下的推荐精度。
2026-05-12 cs.IR cs.LG
P4GCN: Vertical Federated Social Recommendation with Privacy-Preserving Two-Party Graph Convolution Network
Xiamen University（厦门大学）；Insightone Tech Co., Ltd（智联科技有限公司）
本文提出P4GCN方法，通过隐私保护两方图卷积网络实现纵向联邦社交推荐，在无需直接访问敏感社交数据的前提下提升推荐准确性，并在四个数据集上验证其优于现有方法。
2025-02-04 cs.AI cs.IR cs.LG
Towards Differential Privacy in Sequential Recommendation: A Noisy Graph Neural Network Approach
Shanghai University of Finance and Economics（上海财经大学）
针对现有差分隐私推荐系统无法适配序列推荐的动态依赖交互、且忽略敏感用户特征隐私风险的问题，提出DIPSGNN框架，通过分段机制保护用户特征、在图神经网络聚合步骤加校准噪声，实现序列推荐的差分隐私，在隐私与准确性平衡上优于现有方法。
2024-01-30 cs.CR cs.IR cs.LG
FedPDD: A Privacy-preserving Double Distillation Framework for Cross-silo Federated Recommendation
WeBank（微众银行）
针对跨筒仓联邦推荐中重叠用户少、现有方法性能受限且通信成本高、隐私风险大的问题，提出FedPDD双蒸馏框架，结合离线训练与差分隐私，在重叠用户有限时高效传递知识并保障隐私，在两个真实数据集上效果优于现有最优方法。
2024-01-30 cs.CR cs.DC cs.IR
Private and Utility Enhanced Recommendations with Local Differential Privacy and Gaussian Mixture Model
Northumbria University（诺森比亚大学）；University of Alberta（阿尔伯塔大学）
推荐系统在很大程度上依赖于用户的行为和偏好数据（例如评级，喜欢）来产生准确的推荐。然而，由于服务提供商（SP）进行的不道德的数据聚合和分析做法，用户会遇到隐私问题。基于局部差分隐私（LDP）的扰动机制在将用户数据发送到SP之前在用户侧将噪声添加到用户数据。SP然后使用扰动的数据来执行推荐。虽然LDP保护了用户的隐私不受SP的影响，但它导致预测准确性大幅下降。为了解决这个问题，我们提出了一个基于LDP的矩阵分解（MF）与高斯混合模型（MoG）。LDP扰动机制，有界拉普拉斯（BLP），通过将扰动评级限制在预定的域来调节噪声的影响。我们得到了BLP的尺度参数满足$ε$ LDP的一个充分条件。在SP处，MoG模型估计添加到扰动评级的噪声，MF算法预测缺失评级。我们提出的基于LDP的推荐系统在不违反LDP原则的情况下提高了推荐的准确性。对三个真实世界数据集进行了实证评估，即，Movielens，Libimseti和Jester证明了我们的方法在强隐私保证下大幅提高了预测准确性。
2021-03-06 cs.LG
FedPOIRec: Privacy Preserving Federated POI Recommendation with Social Influence
Institute for Language and Speech Processing, Athena Research Center（雅典娜研究中心语言与语音处理研究所）；Department of Electrical and Computer Engineering, Democritus University of Thrace（色雷斯德谟克利特大学电气与计算机工程系）
随着基于位置的社交网络数量的增长，隐私保护的位置预测已经成为帮助用户发现新的兴趣点（POI）的主要任务。传统的系统采用集中式方法，需要传输和收集用户的私人数据。在这项工作中，我们提出了FedPOIRec，一个隐私保护的联邦学习方法，增强了用户社交圈的功能，用于顶级$N$ POI推荐。首先，FedPOIRec框架是基于本地数据永远不会离开所有者设备的原则构建的，而本地更新是由参数服务器盲目聚合的。第二，通过允许用户交换他们学习到的参数，使知识在朋友之间传递，本地用户变得个性化。为此，我们提出了一个隐私保护协议，通过利用CKKS完全同态加密方案的属性，在联邦计算后集成用户的朋友的偏好。为了评估FedPOIRec，我们使用两个推荐模型将我们的方法应用于五个真实世界的数据集。大量的实验表明，FedPOIRec实现了类似的推荐质量集中的方法，而社会集成协议在用户端产生的计算和通信开销低。
2021-12-21 cs.CR cs.IR cs.LG
Practical Privacy Preserving POI Recommendation
Ant Financial Services Group（蚂蚁金融服务集团）；Peking University（北京大学）；Zhejiang University（浙江大学）
兴趣点推荐技术近年来得到了广泛的研究和成功的应用。然而，现有的方法大多是在收集用户数据的基础上建立集中式模型。私人数据和模型都由推荐器持有，这导致了严重的隐私问题。在本文中，我们提出了一种新的隐私保护POI推荐（PriRec）框架。首先，为了保护数据隐私，用户的私人数据（功能和操作）被保存在自己的一侧，例如，手机或平板电脑。同时，所有用户需要访问的公共数据由推荐器保存，以减少用户设备的存储成本。这些公开数据包括：（1）仅与POI的状态相关的静态数据，例如POI类别，以及（2）取决于用户POI动作的动态数据，例如访问计数。动态数据可能是敏感的，我们开发了本地差分隐私技术来向公众发布这些数据的隐私保证。其次，PriRec遵循由线性模型和特征交互模型组成的因式分解机（FM）的表示。为了保护模型的隐私，线性模型保存在用户端，我们提出了一个安全的分散梯度下降协议，供用户协作学习。由于特征交互模型不存在隐私风险，因此由推荐器保存，并采用联邦学习范式中的安全聚合策略进行学习，PriRec将用户私有的原始数据和模型保存在用户自己手中，在很大程度上保护了用户隐私。我们将PriRec应用于真实世界的数据集，综合实验表明，与FM相比，PriRec实现了相当甚至更好的推荐准确性。
2020-04-27 cs.CR cs.LG stat.ML
Graph Federated Learning for Personalized Privacy Recommendation
Yangzhou University（扬州大学）；Jilin University（吉林大学）；City University of Hong Kong（香港城市大学）；Nanjing University（南京大学）
本文提出GFed-PP框架，通过构建用户-项目交互图和用户关系图，利用公开用户数据并保护私有用户隐私，在适应不同隐私需求的同时显著提升了联邦推荐系统的准确性。
2025-08-08 cs.AI cs.LG
Decentralized Graph Neural Network for Privacy-Preserving Recommendation
Zhejiang University（浙江大学）；Zhejiang Lab（之江实验室）
针对联邦与去中心化GNN推荐中的通信低效和隐私泄露问题，提出DGREC，通过局部超图、全局用户图及安全梯度共享实现隐私保护推荐。
2023-08-15 cs.AI cs.CR cs.IR
Federated Continual Recommendation
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出联邦持续推荐任务FCRec及F3CRec框架，通过客户端自适应回放记忆和服务器逐项时序均值，在保护隐私的同时平衡知识保留与适应，实验证明其优于现有方法。
2025-08-17 cs.IR cs.LG
Differential Private Knowledge Transfer for Privacy-Preserving Cross-Domain Recommendation
Zhejiang University（浙江大学）；Ant Group（蚂蚁集团）；Sony AI（索尼人工智能）；JZTData Technology（捷智数科技术）
跨域推荐（CDR）是目前推荐系统中普遍存在的冷启动和数据稀疏性问题。CDR模型可以通过利用其他源域的数据来提高目标域的推荐性能。然而，大多数现有的CDR模型假设信息可以直接“跨桥传输”，忽略了隐私问题。为了解决CDR中的隐私问题，本文提出了一种新的基于两阶段的隐私保护CDR框架（PriCDR）。在第一阶段，我们提出了两种方法，即，基于Johnson-Lindenstrauss变换（JLT）和基于稀疏感知JLT（SJLT），使用差分隐私发布源域的评级矩阵。我们从理论上分析了我们提出的基于差分隐私的评级发布方法的隐私性和实用性。在第二阶段，我们提出了一种新的异构CDR模型（HeteroCDR），该模型使用深度自动编码器和深度神经网络分别对发布的源评级矩阵和目标评级矩阵进行建模。为此，PriCDR不仅可以保护源域的数据隐私，还可以缓解源域的数据稀疏性。我们在两个基准数据集上进行了实验，结果证明了我们提出的PriCDR和HeteroCDR的有效性。
2022-02-10 cs.LG
FedCL: Federated Contrastive Learning for Privacy-Preserving Recommendation
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）
对比学习被广泛用于推荐模型学习，其中选择具有代表性和信息丰富的负样本是至关重要的。现有的方法通常集中在集中的数据，其中丰富和高质量的负样本很容易获得。然而，集中的用户数据存储和利用可能会导致隐私风险和担忧，而单个客户端上的分散用户数据对于精确的对比学习来说可能过于稀疏和有偏见。本文提出了一种用于隐私保护推荐的联邦对比学习方法FedCL，该方法可以利用高质量的负样本进行有效的模型训练，同时很好地保护了隐私。我们首先通过每个客户端上的本地模型从本地用户数据中推断用户嵌入，然后在将它们发送到中央服务器进行硬负采样之前，使用本地差分隐私（LDP）对其进行扰动。由于个体用户嵌入包含大量的噪声，由于LDP，我们建议在服务器上聚类用户嵌入，以减轻噪声的影响，并使用聚类中心从项目池中检索硬负样本。这些硬阴性样本被交付给用户客户端，并与来自本地数据的观察到的阴性样本以及由阳性样本构建的批量阴性样本混合，用于联邦模型训练。在四个基准数据集上的大量实验表明，FedCL可以以隐私保护的方式为各种推荐方法提供支持。
2022-04-21 cs.LG
PrivNet: Safeguarding Private Attributes in Transfer Learning for Recommendation
HKUST（香港科技大学）
迁移学习是利用源领域知识改进目标推荐系统的一种有效方法。现有的研究主要关注目标域的推荐性能，而忽略了源域的隐私泄露问题。然而，转移的知识可能会无意中泄露源域的私有信息。例如，攻击者可以从源域数据所有者提供的用户历史购买中准确地推断出用户人口统计信息。本文通过学习一种隐私感知神经表示，在保护源隐私的同时提高目标性能，解决了上述隐私保护问题。其核心思想是在训练过程中模拟攻击，以保护未来未见过用户的隐私，通过对抗游戏建模，使迁移学习模型对攻击具有鲁棒性。实验结果表明，该模型能够有效地分离出有利于知识传输的知识和泄露的隐私。
2020-10-16 cs.AI cs.CL cs.IR
Decoupled Learning and Selection in Slate Recommendation for Privacy and Stability Under Noisy Scores
University of Bergen（卑尔根大学）；Centre for the Science of Learning & Technology (SLATE)（学习与技术科学中心（SLATE））；City University of Macau（澳门城市大学）
本研究提出榜单推荐中解耦评分学习与选择的方法，通过差分隐私范围契约和日志边际证书，在噪声评分下保证排序稳定性，实验验证了其有效性。
2026-09-25 cs.IR cs.LG
Lightweight yet Fine-grained: A Graph Capsule Convolutional Network with Subspace Alignment for Shared-account Sequential Recommendation
College of Computer Science and Engineering, Shandong University of Science and Technology（山东科技大学计算机科学与工程学院）；College of Computer Science and Technology, Ocean University of China（中国海洋大学计算机科学与技术学院）
针对共享账户序列推荐中难以捕捉细粒度关联且现有方法计算复杂的问题，提出轻量图胶囊卷积网络结合子空间对齐方法，实现交互与潜在用户的细粒度匹配并优化序列表示，在准确性和效率上优于九种先进方法。
2024-12-18 cs.AI cs.IR cs.LG
FastPFRec: A Fast Personalized Federated Recommendation with Secure Sharing
organization= Key Laboratory of Big Data \& Artificial Intelligence in Transportation (Beijing Jiaotong University) , addressline= Ministry of Education , city= Beijing , postcode= 100044 , country= China；organization= School of Computer Science；Technology , addressline= Beijing Jiaotong University , city= Beijing , postcode= 100044 , country= China
本文提出FastPFRec框架，通过高效本地更新策略和隐私感知参数共享机制，提升联邦推荐系统的训练效率和数据安全性，在四个真实数据集上表现优异。
2026-03-18 cs.IR cs.LG
Cluster-Enhanced Federated Graph Neural Network for Recommendation
针对联邦图神经网络推荐中个人图缺乏高阶协同信号且隐私风险高的问题，本文提出CFedGR框架，通过服务器聚类预训练用户表示增强个人图，并设计两种通信优化策略，在三个基准数据集上验证了有效性。
2024-12-28 cs.IR cs.LG
Federated Recommendation System via Differential Privacy
City University of Hong Kong（香港城市大学）；City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
在本文中，我们感兴趣的是我们所谓的联邦私人强盗框架，结合差分隐私与多代理强盗学习。我们探讨了如何差分隐私为基础的置信上限（UCB）的方法可以应用到多智能体环境中，特别是联邦学习环境中的“主工人”和“完全分散”的设置。我们提供了一个理论分析所提出的方法的隐私和遗憾的性能，并探讨这两者之间的权衡。
2020-05-16 cs.IT cs.LG math.IT
Probabilistic Matrix Factorization with Personalized Differential Privacy
Anhui University（安徽大学）
概率矩阵分解（PMF）在推荐系统中起着至关重要的作用。它需要大量的用户数据（如用户购物记录和电影评分）来预测个人偏好，从而为用户提供高质量的推荐服务，这暴露了用户隐私泄露的风险。差分隐私作为一种可证明的隐私保护框架，在推荐系统中得到了广泛的应用。不同的个人对项目有不同级别的隐私要求是常见的。然而，传统的差分隐私只能为所有用户提供统一级别的隐私保护。本文主要提出了一种具有个性化差分隐私的概率矩阵分解推荐方案（PDP-PMF）。它旨在满足用户在项目级别指定的隐私要求，而不是为所有人提供相同级别的隐私保证。然后，我们开发了一个修改的采样机制（有界差分隐私）实现PDP。我们还进行了理论分析的PDP-PMF计划，并证明了PDP-PMF计划的隐私。此外，我们实现了传统的和个性化的差分隐私（DP-PMF，PDP-PMF）的概率矩阵分解方案，并通过一系列的实验进行比较。实验结果表明，PDP-PMF方案在保护用户隐私方面表现良好，推荐质量明显优于DP-PMF方案。
2018-10-19 cs.CR cs.LG
Privacy Preserving Point-of-interest Recommendation Using Decentralized Matrix Factorization
AI Department, Ant Financial Services Group（蚂蚁金融服务集团人工智能部门）
兴趣点（POI）推荐最近由于基于位置的网络的日益普及而引起了很多关注，例如，Foursquare和Yelp在现有的POI推荐方法中，基于矩阵分解（MF）的技术已被证明是有效的。然而，现有的MF方法存在两个主要问题：（1）由于集中式模型训练机制而导致的昂贵的计算和存储：集中式学习器必须维护整个用户-项目评分矩阵，以及潜在的巨大的低秩矩阵。(2)隐私问题：用户的偏好存在通过集中式学习器泄露给恶意攻击者的风险。为了解决这些问题，我们提出了一个分散的MF（DMF）框架的兴趣点推荐。具体地说，我们提出了一种基于随机游走的分散训练技术来训练每个用户端的MF模型，而不是维护所有的低秩矩阵和敏感的评级数据用于训练，例如，手机和Pad。通过这样做，每个用户的评级仍然保持在自己的手上，而且，分散学习可以被视为具有多个学习者（用户）的分布式学习，从而简化了计算和存储问题。在两个真实数据集上的实验结果表明，与经典和最新的潜在因子模型相比，DMF在推荐精度和召回率方面都有显著的提高.
2020-03-12 cs.AI cs.LG stat.ML
Federated Social Recommendation with Graph Neural Network
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Beihang University（北京航空航天大学）
推荐系统是通过学习嵌入来预测用户对项目的潜在兴趣的系统。图神经网络~（GNN）的最新发展也为推荐系统提供了强大的骨干，以从用户项图中学习嵌入。然而，由于数据汇集的困难，仅利用用户-项目交互会遭受冷启动问题。因此，目前的努力提出融合社会信息与用户项目的互动，以减轻它，这是社会推荐问题。现有的工作使用GNN同时聚合社交链接和用户-项目交互。然而，它们都需要集中存储用户的社交链接和项目交互，这导致了隐私问题。此外，根据《一般数据保护条例》的严格隐私保护，集中式数据存储在未来可能不可行，因此迫切需要一个分散的社交推荐框架。为此，我们设计了一个新的框架\textbf{Fe}起草的\textbf{So}社会建议与\textbf{G}的神经网络（FeSoG）。首先，FeSoG采用关系注意和聚合来处理异构性。其次，FeSoG使用本地数据推断用户嵌入以保持个性化。最后但并非最不重要的是，该模型采用伪标签技术与项目抽样，以保护隐私和加强训练。在三个真实数据集上的大量实验证明了FeSoG在完成社会推荐和隐私保护方面的有效性。我们是第一个工作，提出了一个联邦学习框架的社会建议，以我们所知的最好的。
2021-11-21 cs.IR cs.LG
Efficient Privacy-Preserving Recommendation on Sparse Data using Fully Homomorphic Encryption
Independent Researcher（独立研究者）；Illinois Institute of Technology（伊利诺伊理工学院）
针对推荐系统依赖敏感数据存隐私风险、全同态加密处理稀疏评分矩阵计算与通信成本高的问题，提出结合CSR表示与FHE矩阵分解的方法，实现加密域高效稀疏处理与低通信开销，兼顾推荐准确率与隐私保护。
2025-09-03 cs.AI cs.CR cs.LG
Reinforcement Learning-enhanced Shared-account Cross-domain Sequential Recommendation
Shandong Normal University（山东师范大学）；The University of Queensland（昆士兰大学）
共享账户跨域顺序推荐（SCSR）是一个新兴的具有挑战性的研究课题，它同时考虑了共享账户和跨域的特点。现有的SCSR研究主要基于递归神经网络（RNN）和图神经网络（GNN），但忽略了多个用户共享一个帐号，但帐号每次主要由一个用户占用的事实。这种观察激励我们通过专注于其最近的行为来学习更准确的用户特定帐户表示。此外，虽然现有的工作赋予较低的权重，无关的互动，他们仍然可能稀释域信息，并阻碍跨域推荐。为了解决上述问题，我们提出了一个基于强化学习的解决方案，即RL-ISN，它由一个基本的跨域推荐和一个基于强化学习的域过滤器。具体来说，为了对共享账户场景中的账户表示进行建模，基本推荐器首先将用户的混合行为聚类为潜在用户，然后利用对它们的注意力模型来进行用户识别。为了减少不相关的领域信息的影响，我们制定的领域过滤器作为一个分层的强化学习任务，其中一个高层次的任务是用来决定是否修改整个传输序列或没有，如果是这样，一个低层次的任务是进一步执行，以确定是否删除其中的每个交互或没有。为了评估我们的解决方案的性能，我们在两个真实世界的数据集上进行了广泛的实验，实验结果表明，我们的RL-ISN方法相比，国家的最先进的推荐方法的优越性。
2022-06-16 cs.AI cs.IR cs.LG
Federated Latent Factor Model for Bias-Aware Recommendation with Privacy-Preserving
College of Computer and Information Science, Southwest University, Chongqing 400715, China（西南大学计算机与信息科学学院）；School of Engineering, University of Western Australia, Australia（西澳大学工程学院）；School of Cyber Science and Technology, Beihang University, Beijing 100191, China（北航信息科学与技术学院）
针对联邦推荐系统中因隐私保护而无法访问原始数据导致的评分偏差问题，提出联邦偏差感知潜在因子模型，将训练偏差纳入本地损失函数，在不损害隐私的前提下消除偏差，并在三个真实数据集上显著提升推荐准确性。
2025-04-21 cs.AI cs.LG
A Privacy Preserving System for Movie Recommendations Using Federated Learning
Fraunhofer Institute for Telecommunications, Heinrich Hertz Institute, HHI（弗劳恩霍夫电信研究所海因里希·赫兹研究所）
针对推荐系统收集大量个人数据的隐私问题，本文提出基于联邦学习的电影推荐系统，采用新型FedQ方案解决非独立同分布等问题并防重构攻击，结合压缩技术降通信开销，多层面保障隐私。
2024-05-16 cs.CR cs.IR cs.LG
BLC: Private Matrix Factorization Recommenders via Automatic Group Learning
School of Computer Science and Statistics, Trinity College（都柏林圣三一学院计算机科学与统计学院）
我们提出了一个隐私增强的矩阵分解推荐，利用这一事实，用户往往可以分组在一起的兴趣。这允许一种形式的“隐藏在人群中”的隐私。我们介绍了一种新的矩阵分解方法，适合在一个共享组（或NYM）设置和BLC算法进行这种矩阵分解的隐私增强的方式进行建议。我们证明，增加隐私并不以降低推荐准确性为代价。
2017-02-27 cs.LG stat.ML
Decentralized Collaborative Learning Framework for Next POI Recommendation
The University of Queensland（昆士兰大学）；Griffith University（格里菲斯大学）
下一个兴趣点（POI）推荐由于其在帮助人们决定下一个兴趣点访问方面的有效性而成为基于位置的社交网络（LBSNs）中不可或缺的功能。然而，准确的推荐需要大量的历史签到数据，从而威胁到用户隐私，因为位置敏感数据需要由云服务器处理。尽管已经存在用于隐私保护POI推荐的几种设备上框架，但是当涉及到存储和计算时，它们仍然是资源密集型的，并且对用户-POI交互的高稀疏性显示出有限的鲁棒性。在此基础上，我们提出了一种新的分散式协同学习框架的POI推荐（DPOI），它允许用户训练他们的个性化模型本地在一个合作的方式。DSPs显著降低了本地模型对云的依赖，并可用于扩展任意的集中式推荐模型。为了抵消学习每个本地模型时设备上用户数据的稀疏性，我们设计了两个自监督信号来预训练服务器上的POI表示，其中POI具有地理和分类相关性。为了促进协作学习，我们创新性地提出将知识从地理或语义相似的用户到每个本地模型与细心的聚合和互信息最大化。协作学习过程利用设备之间的通信，同时仅需要来自中央服务器的较小参与来识别用户组，并且与诸如差分隐私的常见隐私保护机制兼容。我们用两个真实世界的数据集来评估DALBO，结果表明DALBO的性能优于最先进的设备上框架，并且与集中式框架相比，DALBO产生了具有竞争力的结果。
2022-08-01 cs.IR cs.LG
Randomized algorithms for precise measurement of differentially-private, personalized recommendations
Apple（苹果公司）
本文提出一种支持精确测量且满足差分隐私的个性化推荐随机化算法，通过广告场景离线实验，量化了其对用户体验、广告主价值和平台收入等关键指标的影响。
2024-01-06 cs.CR cs.IR cs.LG
A Novel Privacy-Preserved Recommender System Framework based on Federated Learning
College of Information Science and Engineering（信息科学与工程学院）；Ningbo University（宁波大学）
推荐系统是目前解决信息过载的有效方法。为了满足用户的下一次点击行为，RS需要收集用户的个人信息和行为，以实现全面而深刻的用户偏好感知。然而，这些集中收集的数据是隐私敏感的，任何泄漏都可能对用户和服务提供商造成严重问题。提出了一种新的隐私保护推荐系统框架（PPRSF），通过应用联邦学习范式，使推荐算法在不集中收集用户隐私数据的情况下进行训练和推理。PPRSF不仅能够降低隐私泄露风险，满足法律法规的要求，而且允许各种推荐算法的应用。
2020-11-11 cs.IR cs.LG
A Survey of Personalized Federated Foundation Models for Privacy-Preserving Recommendation
Australian Artificial Intelligence Institute, University of Technology Sydney（澳大利亚人工智能研究所，悉尼技术大学）；College of Computer Science and Technology, Jilin University（吉林大学计算机科学与技术学院）；School of Computer Science and Technology, Beijing Jiaotong University（北京交通大学计算机科学与技术学院）；Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University（香港理工大学数据科学与人工智能系）
本文综述了面向隐私保护推荐的个性化联邦基础模型，分析了联邦环境下有效的个性化技术，并讨论了基础模型在联邦架构中的适应性，以平衡泛化能力与用户特定需求。
2026-05-06 cs.AI cs.LG
Privacy-Preserving Multimodal News Recommendation through Federated Learning
Department of Computer Science, University of Saskatchewan（计算机科学系，萨斯喀彻温大学）
本文提出多模态联邦学习新闻推荐方法，融合图文特征并用时间感知注意力平衡长短期兴趣，结合Shamir安全聚合保护隐私，实验性能优于现有系统。
2025-07-23 cs.LG cs.SI
Federating Recommendations Using Differentially Private Prototypes
University of Texas at Austin（得克萨斯大学奥斯汀分校）；CognitiveScale（认知规模公司）
机器学习方法允许我们通过利用用户交互模式的相似性，在包括娱乐、约会和商业在内的应用程序中向用户提供推荐。然而，在需要保护个人敏感数据的领域，如医疗或银行，我们如何在不访问敏感数据的情况下学习这样的模型，并且不会无意中泄露私人信息？我们提出了一种新的联邦方法来学习全局和局部私有模型，而无需收集原始数据，用户统计数据或有关个人偏好的信息。我们的方法产生了一组原型，使我们能够推断出全球的行为模式，同时提供差分隐私保证系统的任何数据库中的用户。通过只需要两轮通信，我们既降低了通信成本，又避免了与迭代过程相关的过度隐私损失。我们在合成数据以及真实的联邦医疗数据和Movielens评级数据上测试我们的框架。我们表明，局部适应的全球模型，使我们的方法优于集中式矩阵分解为基础的推荐系统模型，无论是在矩阵重建的准确性和相关性的建议，同时保持可证明的隐私保证。我们还表明，我们的方法是更强大的，其特点是较小的方差比独立实体学习的个别模型。
2020-03-01 cs.CR cs.IR cs.LG
Where have you been? A Study of Privacy Risk for Point-of-Interest Recommendation
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Rutgers University（罗格斯大学）；Florida State University（佛罗里达州立大学）；Meta
本文针对兴趣点推荐模型设计了一套包含数据提取和成员推断攻击的隐私攻击套件，通过真实数据集实验揭示了当前模型的隐私泄露风险，并评估了防御措施。
2024-07-05 cs.CR cs.LG
SoK: Privacy-aware LLM in Healthcare: Threat Model, Privacy Techniques, Challenges and Recommendations
University of Louisiana at Lafayette, Lafayette, LA, USA（路易斯安那州立大学拉斐特分校）；University of Northern British Columbia, Canada（北部BC大学）
本文系统分析了医疗领域大语言模型的隐私保护问题，探讨了威胁模型、隐私技术及挑战，并提出针对不同阶段的防护建议和未来研究方向。
2026-01-15 cs.CR cs.LG
Semi-decentralized Federated Ego Graph Learning for Recommendation
Southern University of Science and Technology（南方科技大学）；The University of Queensland（昆士兰大学）；Griffith University（格里菲斯大学）
基于协同过滤（CF）的推荐系统通常基于个人交互数据（例如，点击和购买），这些可以自然地表示为自我图。然而，现有的推荐方法大多收集所有用户的自我图组成一个全局图，以获取用户与项目之间的高阶协作信息，这些集中式CF推荐方法不可避免地导致用户隐私泄露的高风险。虽然最近提出的联合推荐系统可以缓解隐私问题，但它们要么将设备上的本地训练限制在孤立的自我图上，要么依赖于额外的第三方服务器来访问其他自我图，从而导致繁琐的管道，这在实践中很难工作。此外，现有的联合推荐系统需要资源有限的设备来维护整个嵌入表，从而导致高通信成本。有鉴于此，我们提出了一个半分散的联合自我图学习框架的设备上的建议，命名为SemiDFEGL，它引入了新的设备到设备的协作，以提高可扩展性和降低通信成本，并创新地利用预测的交互项目节点连接孤立的自我图，以增加本地子图，以便高阶用户项目的协作信息可以在隐私保护的方式使用。此外，所提出的框架是模型不可知的，这意味着它可以与现有的基于图神经网络的推荐方法和隐私保护技术无缝集成。为了验证所提出的SemiDFEGL的有效性，在三个公共数据集上进行了大量的实验，实验结果表明了所提出的SemiDFEGL与其他联邦推荐方法相比的优越性.
2023-02-10 cs.AI cs.IR cs.LG
Federated Heterogeneous Graph Neural Network for Privacy-preserving Recommendation
Beijing University of Posts and Telecommunications（北京邮电大学）；Hokkaido University（北海道大学）；National University of Defense Technology（国防科技大学）
针对分布式HIN语义断裂与隐私问题，提出FedHGNN框架，通过差分隐私保护的语义保持交互发布及HGNN聚合实现联邦隐私保护推荐，性能显著提升。
2024-02-28 cs.AI cs.CR cs.DC
Heterogeneous Graph Neural Network for Privacy-Preserving Recommendation
Guangxi Normal University（广西师范大学）；Beihang University（北京航空航天大学）；Macquarie University（麦考瑞大学）
社交网络被认为是具有深度学习技术进步的异构图神经网络（HGNNs）。与同质数据相比，HGNN在训练阶段吸收了关于个人的各个方面的信息。这意味着学习结果中包含了更多的信息，特别是敏感信息。然而，同质图上的隐私保护方法仅保留相同类型的节点属性或关系，由于复杂性，不能有效地工作在异构图上。针对这一问题，提出了一种基于差分隐私机制的异构图神经网络隐私保护方法HeteDP，该方法提供了图特征和拓扑的双重保证.特别是，我们首先定义了一个新的攻击方案，以揭示隐私泄漏的异构图。具体来说，我们设计了一个两阶段的流水线框架，包括隐私保护特征编码器和基于差分隐私的梯度扰动异构链路重构器，以容忍数据多样性和抵抗攻击。为了更好地控制噪声和提高模型性能，我们利用一个双层优化模式来分配一个合适的隐私预算的上述两个模块。我们在四个公共基准测试上的实验表明，HeteDP方法具有良好的模型泛化能力，可以抵抗异构图隐私泄漏。
2022-10-09 cs.CR cs.LG
Speech Privacy Leakage from Shared Gradients in Distributed Learning
University of Tennessee, Knoxville（田纳西大学诺克斯维尔分校）；Intuit AI Research（财捷人工智能研究院）
分布式机器学习范例，如联邦学习，最近已被采用在许多隐私关键的应用程序的语音分析。然而，这样的框架容易受到来自共享梯度的隐私泄露攻击。尽管在图像领域进行了广泛的努力，但对梯度语音隐私泄漏的探索非常有限。在本文中，我们探讨了在分布式学习环境中从共享梯度中恢复私人语音/说话人信息的方法。我们进行实验的关键字定位模型与两种不同类型的语音特征，通过测量原始和恢复的语音信号之间的相似性来量化泄漏的信息量。我们进一步证明了在分布式学习框架下，在不访问用户数据的情况下推断各种水平的侧信道信息（包括语音内容和说话人身份）的可行性。
2023-02-21 cs.CR cs.LG
Privacy-Preserving Orthogonal Aggregation for Guaranteeing Gender Fairness in Federated Recommendation
University of Science and Technology of China（中国科学技术大学）；Aarhus University（奥胡斯大学）
针对联邦推荐中性别公平性与隐私保护的问题，提出PPOA方法，通过安全聚合、量化技术和正交映射，在保护用户属性隐私的同时提升不同性别群体推荐效果，实现最优公平性。
2024-11-29 cs.LG
FedSPLIT: One-Shot Federated Recommendation System Based on Non-negative Joint Matrix Factorization and Knowledge Distillation
University of Maryland, Baltimore County（马里兰大学巴尔的摩郡分校）；LANL（洛斯阿拉莫斯国家实验室）
非负矩阵分解（NMF）与缺失值完成是一个著名的有效的协同过滤（CF）方法，用于提供个性化的用户推荐。然而，传统的CF依赖于隐私侵犯收集用户的显式和隐式反馈，以建立一个中央推荐模型。单次联邦学习最近出现了一种方法，以减轻隐私问题，同时解决传统的联邦学习的通信瓶颈。在本文中，我们提出了第一个无监督的一次性联邦CF实现，名为FedSPLIT，基于NMF联合因式分解。在我们的解决方案中，客户端首先并行应用本地CF来构建不同的客户端特定的编译器。然后，从每个客户端的隐私保护的本地项目模式和偏见与处理器共享，以执行联合因子分解，以提取全局项目模式。然后，将提取的模式聚合到每个客户端，以通过知识蒸馏构建本地模型。在我们的实验中，我们证明了我们的方法与标准的推荐数据集的可行性。FedSPLIT可以获得与现有技术相似的结果（在某些情况下甚至优于现有技术），但通信数量大幅减少。
2022-05-04 cs.IR cs.LG
AutoAssign+: Automatic Shared Embedding Assignment in Streaming Recommendation
City University of Hong Kong（香港城市大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
本文提出强化学习框架AutoAssign+，通过Identity Agent动态共享、保留或消除ID嵌入，以缓解流式推荐冷启动并降低约20–30%内存。
2023-08-14 cs.IR cs.LG
A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University（罗格斯大学）；Duke University（杜克大学）；University of California, Irvine（加州大学欧文分校）
本文提出融合联邦学习与差分隐私的广告个性化框架，通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术，在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
