Differentially Private User-based Collaborative Filtering Recommendation Based on K-means Clustering
协同过滤(CF)推荐算法以其优异的推荐性能而闻名,但已有研究表明,CF推荐算法可能会因k-最近邻(KNN)攻击而导致用户隐私泄露。最近,差分隐私(DP)的概念已被应用于协同过滤推荐算法的隐私保护。然而,据我们所知,现有的差异私人CF推荐方案的推荐性能(如召回率和精度)下降到一个不可接受的水平。为了解决协同过滤推荐系统性能下降的问题,提出了一种基于k-means聚类的差异化隐私用户协同过滤推荐方案(KDPCF)。具体而言,为了提高推荐性能,我们首先通过k-means聚类将数据集聚类到类别中,并适当调整目标用户所属的目标类别的大小,使得只有大小合适的目标类别中的用户才能用于推荐。然后,采用一种指数机制而不是多个指数机制的组合,从目标类别中一次性有效地选择出一组邻居,并基于邻居集进行推荐。我们从理论上证明了我们的方案实现了差分隐私。根据经验,我们使用MovieLens数据集来评估我们的推荐系统。实验结果表明,与现有的计划相比,显着的性能增益。
2018-12-05 cs.CR
A Utility-Preserving Obfuscation Approach for YouTube Recommendations
该研究针对现有YouTube推荐混淆方法隐私增强时效用下降的问题,提出带去噪器的De-Harpo混淆方法,在同等隐私水平下效用保留能力达现有最优方法的2倍,兼具隐蔽性与反混淆鲁棒性。
2023-06-16 cs.CR
A Privacy-Preserving QoS Prediction Framework for Web Service Recommendation
基于服务质量的Web服务推荐为用户提供高质量的服务,近年来受到了广泛的关注。为了促进这样的建议,现有的研究建议使用协同过滤技术的个性化QoS预测。这些方法,通过利用部分观察到的QoS值从用户,可以实现高精度的QoS预测的未观察到的。然而,要求收集用户的QoS数据可能会使用户的隐私处于危险之中,从而使他们不愿意贡献他们的使用数据的Web服务推荐系统。因此,隐私成为一个关键的挑战,在开发实用的Web服务推荐系统。在本文中,我们第一次尝试,以应付隐私问题的Web服务推荐。具体来说,我们提出了一个简单而有效的隐私保护框架,通过应用数据混淆技术,并进一步开发两个代表性的隐私保护QoS预测方法在此框架下。一个公开的真实世界的Web服务的QoS数据集的评估结果表明,我们的隐私保护的QoS预测方法的可行性和有效性。我们相信我们的工作可以作为一个很好的起点,激发更多的研究工作的隐私保护Web服务推荐。
2015-05-02 cs.CR cs.IR
Research on the Design of a Short Video Recommendation System Based on Multimodal Information and Differential Privacy
University of Houston(休斯顿大学);Brown University(布朗大学);Case Western Reserve University(凯斯西储大学);Johns Hopkins University(约翰霍普金斯大学)
针对短视频推荐系统利用多模态信息时的隐私泄露问题,本文提出融合多模态特征提取与差分隐私保护的系统,提升推荐准确率并保障隐私,性能优于主流方法。
2025-03-27 cs.AI cs.CR cs.IR
Privacy Preserving Techniques Applied to CPNI Data: Analysis and Recommendations
随着移动电话普及率达到90%,消费者专有网络信息(CPNI)可以为包括政策制定者在内的不同部门提供极有价值的信息。事实上,作为CPNI的一部分,呼叫详细记录已成功用于提供实时交通信息,提高我们对人口流动动态的了解,从而可以预防和采取措施防治传染病,并提供人口统计数据。虽然尼共数据的有用性是毫无疑问的,但对分享个人数据的隐私关切使其无法充分发挥潜力。传统的去匿名化措施,如匿名化和标准去身份化,已被证明不足以保护隐私。这一点在移动电话数据集上得到了具体体现。例如,研究人员已经表明,仅用用户的近似地点和时间信息的四个数据点,就可以在150万移动电话用户的数据集中重新识别95%的用户。在这篇风景论文中,我们将讨论最先进的匿名化技术及其缺点。
2021-01-25 cs.CR
Privacy Preserving Recommender Systems Balancing Personalization with Privacy
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究个性化推荐系统中隐私保护问题,提出结合联邦学习、差分隐私等的框架,在合成零售数据集上实验,评估推荐质量指标,结果显示该框架在适度隐私预算下能保持竞争力,为隐私保护推荐系统提供实用框架。
2026-07-16 cs.AI cs.CR cs.LG
Successive Point-of-Interest Recommendation with Local Differential Privacy
兴趣点(POI)推荐系统在基于位置的服务中扮演着重要的角色,因为它可以帮助人们探索新的位置并促进广告商在适当的位置投放广告。现有的POI推荐系统需要用户的原始签到历史,这可能会导致位置隐私侵犯。虽然已经有几个基于矩阵分解(MF)的隐私保护推荐系统,他们只能专注于用户的兴趣点关系,而不考虑人类的运动在签入历史。为了解决这个问题,我们设计了一个连续的POI推荐框架与本地差分隐私,命名为SPIREL。SPIREL使用两种类型的信息作为因子分解的输入:两个POI之间的转换模式和POI的访问计数。我们提出了一种新的目标函数,用于同时学习用户POI和POI-POI关系。我们进一步整合本地差分隐私机制,在我们提出的框架,以防止潜在的位置隐私漏洞。在4个公开数据集上的实验表明,SPIREL在实现更强隐私保护的同时,获得了更好的兴趣点推荐质量.
2021-05-10 cs.CR cs.CY cs.IR
Preserving Privacy and Utility in LLM-Based Product Recommendations
University of Southern California(南加州大学)
提出一种混合隐私保护推荐框架,通过分离敏感与非敏感数据并设计本地去混淆模块,在保护隐私的同时实现了与全数据共享相当的推荐效用。
2025-05-02 cs.CR cs.IR cs.LG
Self-Determined Reciprocal Recommender System with Strong Privacy Guarantees
推荐系统被广泛使用。通常,推荐系统是基于一个集中式的客户端-服务器架构。然而,这种方法意味着关于用户隐私的缺点。在本文中,我们提出了一个分布式互惠推荐系统与强大的,自我确定的隐私保证,即,局部差分隐私。更准确地说,用户在本地随机化他们的配置文件,并通过对等网络交换它们。然后通过估计简档之间的相似性来计算推荐并在本地进行排名。我们评估推荐准确性的工作推荐系统,并证明我们的方法提供了可接受的实用程序下强隐私的要求。
2021-07-14 cs.CR
SHELBRS: Location Based Recommendation Services using Switchable Homomorphic Encryption
近年来,基于位置的推荐服务(LBRS)的使用率出现了前所未有的增长。LBRS通过基于用户的位置和过去的偏好推荐服务来方便用户。然而,利用这种服务的代价是将一个人的敏感信息,如他们的购物偏好、住宿地点、饮食习惯、最近访问过的地方等泄露给第三方服务器。丢失这些信息可能至关重要,并威胁到一个人的隐私。如今,注重隐私的社会正在寻求能够以最小的风险提供此类服务的解决方案。最近,一些隐私保护的推荐服务已被提出,利用完全同态加密(FHE)属性来解决这个问题。虽然,它降低了隐私风险,但却遭受了沉重的计算开销,排除了它们的商业应用。在这里,我们提出了SHELBRS,一个轻量级的LBRS,是基于可切换的同态加密(SHE),这将有利于用户以及服务提供商。一个SHE利用加法以及乘法同态属性,但相对少得多的处理时间,因为它的FHE对应。我们评估我们提出的方案与其他国家的最先进的方法,而不影响安全性的性能。
2021-05-30 cs.CR
Personalized Social Recommendations - Accurate or Private?
随着最近像Facebook这样的社交网络的兴起,新形式的推荐已经成为可能--个性化的广告推荐、内容推荐,甚至是基于一个人的社交互动的新朋友和产品联系。由于推荐可能使用敏感的社交信息,因此推测这些推荐与隐私风险相关。这项工作的主要贡献是在正规化这些预期的权衡之间的准确性和隐私的个性化社会建议。在本文中,我们研究是否“社会建议”,或建议,完全基于用户的社交网络,可以在不披露敏感的链接在社交图。更准确地说,我们量化的效用损失时,现有的推荐算法进行修改,以满足一个强有力的隐私概念,称为差分隐私。我们证明了任何推荐算法的最小效用损失的下界是差异私人。我们适应两个隐私保护算法的差分隐私文献的社会建议的问题,并分析其性能的下限相比,分析和实验。我们表明,良好的私人社交推荐仅适用于社交网络中的一小部分用户或宽松的隐私参数设置。
2011-05-21 cs.CR cs.DB cs.SI
A Security-assured Accuracy-maximised Privacy Preserving Collaborative Filtering Recommendation Algorithm
基于邻域的协同过滤是推荐系统中广泛使用的一种方法。然而,在过滤过程中泄露客户隐私的风险最近引起了公众的关注。具体地说,$k$ NN攻击通过利用非敏感信息创建$k$伪最近邻来泄露目标用户的敏感信息。在目前针对$k$ NN攻击的解决方案中,概率方法表现出了较强的隐私保护效果。然而,现有的概率方法既不能保证足够的预测精度,由于全局随机性,也不能提供有保证的安全性实施对$k$ NN攻击。为了克服目前的概率方法的问题,我们提出了一种新的方法,分区概率邻居选择,以确保所需的安全保证,同时达到最佳的预测精度对$k$ NN攻击。在本文中,我们定义的$k$邻居的相似性的总和作为准确性度量$α$,用户分区的数量,我们选择的$k$邻居,作为安全性度量$β$。与现有的全局选择邻居的方法不同,本文的方法从具有指数差分隐私的每个组中选择邻居,以降低噪声的大小。理论和实验分析表明,在保证对$k$ NN攻击同样安全的前提下,该方法保证了最优的预测精度。
2015-06-04 cs.CR
When and where do you want to hide? Recommendation of location privacy preferences with local differential privacy
近年来,相当精确地获得位置信息已经变得容易。但此类信息的获取存在个人身份识别、敏感信息泄露等风险,需要保护位置信息的隐私。为此,人们应该知道他们的位置隐私偏好,即他/她是否可以在每个地点和时间发布位置信息。然而,每个用户做出这样的决定并不容易,并且每次设置隐私偏好是麻烦的。因此,我们提出了一种方法来推荐位置隐私偏好的决策。与现有方法相比,该方法利用矩阵分解提高了推荐的准确率,并利用局部差分隐私严格保护隐私,而现有方法没有实现形式化的隐私保护。此外,我们还找到了一个位置隐私偏好的最佳粒度,即如何表达位置隐私保护中的信息。为了评估和验证我们的方法的实用性,我们已经整合了两个现有的数据集,以创建一个丰富的用户数量方面的信息。从使用该数据集的评估结果中,我们证实了我们的方法可以准确地预测位置隐私偏好,并且它提供了一种合适的方法来定义位置隐私偏好。
2019-04-24 cs.CR cs.DB
Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology(孟加拉国工程技术大学)
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统,利用高斯机制输出扰动和 Rényi 差分隐私,在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG
Probabilistic Matrix Factorization with Personalized Differential Privacy
Anhui University(安徽大学)
概率矩阵分解(PMF)在推荐系统中起着至关重要的作用。它需要大量的用户数据(如用户购物记录和电影评分)来预测个人偏好,从而为用户提供高质量的推荐服务,这暴露了用户隐私泄露的风险。差分隐私作为一种可证明的隐私保护框架,在推荐系统中得到了广泛的应用。不同的个人对项目有不同级别的隐私要求是常见的。然而,传统的差分隐私只能为所有用户提供统一级别的隐私保护。本文主要提出了一种具有个性化差分隐私的概率矩阵分解推荐方案(PDP-PMF)。它旨在满足用户在项目级别指定的隐私要求,而不是为所有人提供相同级别的隐私保证。然后,我们开发了一个修改的采样机制(有界差分隐私)实现PDP。我们还进行了理论分析的PDP-PMF计划,并证明了PDP-PMF计划的隐私。此外,我们实现了传统的和个性化的差分隐私(DP-PMF,PDP-PMF)的概率矩阵分解方案,并通过一系列的实验进行比较。实验结果表明,PDP-PMF方案在保护用户隐私方面表现良好,推荐质量明显优于DP-PMF方案。
2018-10-19 cs.CR cs.LG
Beyond Personalization: Federated Recommendation with Calibration via Low-rank Decomposition
针对联邦推荐中全局物品聚合导致用户嵌入偏斜的问题,本文提出 PFedCLR,利用缓冲矩阵及其低秩分解联合校准用户嵌入并个性化物品嵌入,同时兼顾隐私与效率。
2025-06-11 cs.CR
Privacy-preserving Targeted Advertising
推荐系统形成了快速增长的万亿美元在线广告行业的中心部分。即使有许多优化和近似,基于协同过滤(CF)的方法需要涉及非常大的向量的实时计算。在门户网站上管理和存储这样的相关简档信息向量严重侵犯了用户的隐私。修改这样的系统以实现私人推荐还需要长加密向量的通信,使得整个过程效率低下。我们提出了一个更有效的推荐系统的替代方案,其中用户简档完全保持在他们的设备上,并从门户网站获取适当的建议,在一个有效的隐私保护的方式。我们基于这种方法的关联规则。
2018-06-18 cs.CR cs.IR
On Content-Based Recommendation and User Privacy in Social-Tagging Systems
基于注释和评级的推荐系统和内容过滤方法基本上依赖于用户通过他们的动作表达他们的偏好和兴趣,以便提供个性化内容。这种用户集体参与的活动被称为社会标签。虽然它为语义Web上的应用程序互操作性开辟了无数新的可能性,但它也带来了新的隐私威胁。社交标签包括通过使用自由文本标签(即标签)来描述在线或在线资源,因此将用户的个人资料和活动暴露给隐私攻击。标签伪造是一种隐私增强技术,包括为不反映用户实际偏好的类别或资源生成标签。标签伪造通过修改用户的个人资料,可能会对推荐系统的质量产生负面影响,从而在一定程度上保护用户隐私,但代价是效用损失。因此,标签伪造对基于内容的推荐的影响,在现实世界中的应用场景中,不同的伪造策略进行评估,并测量和比较随之而来的效用损失。
2016-05-20 cs.CR cs.CY cs.IR
LightFR: Lightweight Federated Recommendation with Privacy-preserving Matrix Factorization
联邦推荐系统(FRS)使多个本地设备能够在不传输本地原始数据的情况下联合训练共享模型,具有隐私保护的优点,已成为一种流行的推荐模式。然而,以往的FRS工作是在连续嵌入空间中通过内积进行相似性搜索,这在项目规模非常大时会导致效率瓶颈。我们认为,联邦设置中的这种方案忽略了资源受限的用户设备中的有限容量(即,存储空间、计算开销和通信带宽),并且使其更难被部署在大规模推荐系统中。此外,它已被证明,在服务器和客户端之间传输的实值形式的局部梯度可能会泄漏用户的隐私信息。为此,我们提出了一个轻量级的联邦推荐框架与隐私保护矩阵分解,LightFR,能够生成高质量的二进制代码,通过利用学习哈希技术在联邦设置下,从而享受快速的在线推理和经济的内存消耗。此外,我们设计了一个有效的联邦离散优化算法,以协同训练模型参数之间的服务器和客户端,可以有效地防止来自恶意方的实值梯度攻击。通过在四个真实数据集上的广泛实验,我们证明了我们的LightFR模型在推荐准确性,推理效率和数据隐私方面优于几种最先进的FRS方法。
2022-12-24 cs.CR cs.IR
PRSI: Privacy-Preserving Recommendation Model Based on Vector Splitting and Interactive Protocols
School of computer Science and Engineering Sun Yat-sen University(中山大学计算机科学与工程学院)
针对联邦推荐系统(FedRec)的隐私泄露问题及单用户交互数据下的训练挑战,本文提出PRSI隐私保护推荐系统,通过预处理模块、两阶段交互协议实现隐私保护,并验证其安全性、准确性和通信成本。
2024-11-27 cs.AI cs.CR
Towards Differential Privacy in Sequential Recommendation: A Noisy Graph Neural Network Approach
Shanghai University of Finance and Economics(上海财经大学)
针对现有差分隐私推荐系统无法适配序列推荐的动态依赖交互、且忽略敏感用户特征隐私风险的问题,提出DIPSGNN框架,通过分段机制保护用户特征、在图神经网络聚合步骤加校准噪声,实现序列推荐的差分隐私,在隐私与准确性平衡上优于现有方法。
2024-01-30 cs.CR cs.IR cs.LG
Where have you been? A Study of Privacy Risk for Point-of-Interest Recommendation
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Rutgers University(罗格斯大学);Florida State University(佛罗里达州立大学);Meta
本文针对兴趣点推荐模型设计了一套包含数据提取和成员推断攻击的隐私攻击套件,通过真实数据集实验揭示了当前模型的隐私泄露风险,并评估了防御措施。
2024-07-05 cs.CR cs.LG
Survey of Privacy-Preserving Collaborative Filtering
Missouri University of Science and Technology(密苏里科技大学);University of Missouri-Columbia(密苏里大学哥伦比亚分校);Applied Computational Intelligence Laboratory, Missouri University of Science and Technology(密苏里科技大学应用计算智能实验室)
协同过滤推荐系统基于用户自己的过去偏好以及共享相似兴趣的其他用户的偏好向用户提供推荐。近年来,推荐系统的使用越来越广泛,帮助人们选择要看的电影、要读的书和要买的东西。然而,用户在使用这类系统时往往会担心自己的隐私,许多用户不愿意向大多数在线服务提供准确的信息。隐私保护协同过滤推荐系统的目标是为用户提供准确的推荐,同时保持一定的保证他们的数据的隐私。这项调查研究了最近的文献在隐私保护的协同过滤,提供了一个广阔的视野,并使用两个不同的标准对文献中的关键贡献进行分类:他们解决的脆弱性类型和他们用来解决它的方法类型。
2020-03-18 cs.CR cs.IR cs.LG
FedPDD: A Privacy-preserving Double Distillation Framework for Cross-silo Federated Recommendation
WeBank(微众银行)
针对跨筒仓联邦推荐中重叠用户少、现有方法性能受限且通信成本高、隐私风险大的问题,提出FedPDD双蒸馏框架,结合离线训练与差分隐私,在重叠用户有限时高效传递知识并保障隐私,在两个真实数据集上效果优于现有最优方法。
2024-01-30 cs.CR cs.DC cs.IR
SoK: Privacy-aware LLM in Healthcare: Threat Model, Privacy Techniques, Challenges and Recommendations
University of Louisiana at Lafayette, Lafayette, LA, USA(路易斯安那州立大学拉斐特分校);University of Northern British Columbia, Canada(北部BC大学)
本文系统分析了医疗领域大语言模型的隐私保护问题,探讨了威胁模型、隐私技术及挑战,并提出针对不同阶段的防护建议和未来研究方向。
2026-01-15 cs.CR cs.LG
Efficient Privacy-Preserving Recommendation on Sparse Data using Fully Homomorphic Encryption
Independent Researcher(独立研究者);Illinois Institute of Technology(伊利诺伊理工学院)
针对推荐系统依赖敏感数据存隐私风险、全同态加密处理稀疏评分矩阵计算与通信成本高的问题,提出结合CSR表示与FHE矩阵分解的方法,实现加密域高效稀疏处理与低通信开销,兼顾推荐准确率与隐私保护。
2025-09-03 cs.AI cs.CR cs.LG
Privacy-Aware Recommendation with Private-Attribute Protection using Adversarial Learning
推荐是帮助用户找到与其兴趣相关的信息的关键应用之一。然而,恶意攻击者可以通过推荐来推断用户的私人信息。先前的工作在与推荐系统共享之前混淆用户项数据。这种方法在执行数据混淆时没有显式地解决推荐的质量。此外,它不能保护用户免受基于建议的私有属性推理攻击。这项工作是第一次尝试建立一个推荐与属性保护(RAP)模型,同时推荐相关的项目和计数器私有属性推理攻击。我们的方法的关键思想是制定这个问题作为一个对抗性的学习问题,有两个主要组成部分:私人属性推理攻击者,和贝叶斯个性化推荐。攻击者试图根据用户的项目列表和建议来推断用户的私有属性信息。推荐器的目标是提取用户的兴趣,同时利用攻击者来规范推荐过程。实验表明,该模型既保持了推荐服务的质量,又保护了用户免受私有属性推理攻击。
2019-11-22 cs.CR cs.IR cs.SI
Digital Surveillance Systems for Tracing COVID-19: Privacy and Security Challenges with Recommendations
2019冠状病毒病(即COVID-19)实施了保持社交距离的公共卫生措施,以防止COVID-19的大规模传播。为了监控社交距离和保持传播痕迹,我们有责任开发各种类型的数字监控系统,包括接触者追踪系统和基于无人机的监控系统。由于手工劳动的不便,传统的联系人追踪系统逐渐被为智能手机开发的高效自动化联系人追踪应用程序所取代。然而,自动化联系人追踪应用程序的启动带来了不可避免的隐私和安全挑战。然而,大众对智能手机的无知和/或缺乏使用导致了基于无人机的监控系统。这些系统还带来了不受欢迎的隐私和安全挑战。本文讨论了最近设计和开发的数字监控系统的应用程序与他们的协议部署在世界各地的几个国家。从隐私行为的角度讨论和分析了它们的隐私和安全挑战。针对自动联系人追踪系统和无人机监控系统分别提出了几项建议,之后可以进一步探索和实施,以防止任何可能的隐私侵犯,并保护不知情的人免受任何潜在的网络攻击。
2020-07-26 cs.CR cs.CY
FedPOIRec: Privacy Preserving Federated POI Recommendation with Social Influence
Institute for Language and Speech Processing, Athena Research Center(雅典娜研究中心语言与语音处理研究所);Department of Electrical and Computer Engineering, Democritus University of Thrace(色雷斯德谟克利特大学电气与计算机工程系)
随着基于位置的社交网络数量的增长,隐私保护的位置预测已经成为帮助用户发现新的兴趣点(POI)的主要任务。传统的系统采用集中式方法,需要传输和收集用户的私人数据。在这项工作中,我们提出了FedPOIRec,一个隐私保护的联邦学习方法,增强了用户社交圈的功能,用于顶级$N$ POI推荐。首先,FedPOIRec框架是基于本地数据永远不会离开所有者设备的原则构建的,而本地更新是由参数服务器盲目聚合的。第二,通过允许用户交换他们学习到的参数,使知识在朋友之间传递,本地用户变得个性化。为此,我们提出了一个隐私保护协议,通过利用CKKS完全同态加密方案的属性,在联邦计算后集成用户的朋友的偏好。为了评估FedPOIRec,我们使用两个推荐模型将我们的方法应用于五个真实世界的数据集。大量的实验表明,FedPOIRec实现了类似的推荐质量集中的方法,而社会集成协议在用户端产生的计算和通信开销低。
2021-12-21 cs.CR cs.IR cs.LG
Practical Privacy Preserving POI Recommendation
Ant Financial Services Group(蚂蚁金融服务集团);Peking University(北京大学);Zhejiang University(浙江大学)
兴趣点推荐技术近年来得到了广泛的研究和成功的应用。然而,现有的方法大多是在收集用户数据的基础上建立集中式模型。私人数据和模型都由推荐器持有,这导致了严重的隐私问题。在本文中,我们提出了一种新的隐私保护POI推荐(PriRec)框架。首先,为了保护数据隐私,用户的私人数据(功能和操作)被保存在自己的一侧,例如,手机或平板电脑。同时,所有用户需要访问的公共数据由推荐器保存,以减少用户设备的存储成本。这些公开数据包括:(1)仅与POI的状态相关的静态数据,例如POI类别,以及(2)取决于用户POI动作的动态数据,例如访问计数。动态数据可能是敏感的,我们开发了本地差分隐私技术来向公众发布这些数据的隐私保证。其次,PriRec遵循由线性模型和特征交互模型组成的因式分解机(FM)的表示。为了保护模型的隐私,线性模型保存在用户端,我们提出了一个安全的分散梯度下降协议,供用户协作学习。由于特征交互模型不存在隐私风险,因此由推荐器保存,并采用联邦学习范式中的安全聚合策略进行学习,PriRec将用户私有的原始数据和模型保存在用户自己手中,在很大程度上保护了用户隐私。我们将PriRec应用于真实世界的数据集,综合实验表明,与FM相比,PriRec实现了相当甚至更好的推荐准确性。
2020-04-27 cs.CR cs.LG stat.ML
Heterogeneous Graph Neural Network for Privacy-Preserving Recommendation
Guangxi Normal University(广西师范大学);Beihang University(北京航空航天大学);Macquarie University(麦考瑞大学)
社交网络被认为是具有深度学习技术进步的异构图神经网络(HGNNs)。与同质数据相比,HGNN在训练阶段吸收了关于个人的各个方面的信息。这意味着学习结果中包含了更多的信息,特别是敏感信息。然而,同质图上的隐私保护方法仅保留相同类型的节点属性或关系,由于复杂性,不能有效地工作在异构图上。针对这一问题,提出了一种基于差分隐私机制的异构图神经网络隐私保护方法HeteDP,该方法提供了图特征和拓扑的双重保证.特别是,我们首先定义了一个新的攻击方案,以揭示隐私泄漏的异构图。具体来说,我们设计了一个两阶段的流水线框架,包括隐私保护特征编码器和基于差分隐私的梯度扰动异构链路重构器,以容忍数据多样性和抵抗攻击。为了更好地控制噪声和提高模型性能,我们利用一个双层优化模式来分配一个合适的隐私预算的上述两个模块。我们在四个公共基准测试上的实验表明,HeteDP方法具有良好的模型泛化能力,可以抵抗异构图隐私泄漏。
2022-10-09 cs.CR cs.LG
FedRec+: Enhancing Privacy and Addressing Heterogeneity in Federated Recommendation Systems
The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
本文提出联邦推荐集成框架FedRec+,通过基于特征相似性的最优子集选择生成虚拟评分以增强隐私并降低噪声,同时利用Wasserstein距离估计客户端异质性和贡献以推导最优聚合权重,在多个数据集上取得最先进性能。
2023-10-31 cs.CR cs.IR cs.LG
Decentralized Graph Neural Network for Privacy-Preserving Recommendation
Zhejiang University(浙江大学);Zhejiang Lab(之江实验室)
针对联邦与去中心化GNN推荐中的通信低效和隐私泄露问题,提出DGREC,通过局部超图、全局用户图及安全梯度共享实现隐私保护推荐。
2023-08-15 cs.AI cs.CR cs.IR
Guidelines for Implementing and Auditing Differentially Private Systems
差分隐私是一种信息理论对算法和代码的约束。它提供了隐私泄露的量化和正式的隐私保证,目前被认为是隐私保护的黄金标准。在本文中,我们提供了一个初始的“最佳实践”开发差异隐私平台,单元测试的技术,具体到差分隐私,准则检查差分隐私是否被正确地应用在应用程序中,参数设置和建议。本文的起源是Facebook和Social Science One的一项倡议,旨在为社会科学研究人员提供对URL共享数据集的编程访问。为了在保护隐私的同时最大限度地利用数据进行研究,研究人员应该通过支持差分隐私的交互式平台访问数据。本文的目的是提供一般可以在各种系统中重复使用的指导方针和建议。出于这个原因,除了详细信息和理论出现在学术论文中的系统外,不会命名特定的平台。
2020-05-12 cs.CR
A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University(罗格斯大学);Duke University(杜克大学);University of California, Irvine(加州大学欧文分校)
本文提出融合联邦学习与差分隐私的广告个性化框架,通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术,在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
FedRKG: A Privacy-preserving Federated Recommendation Framework via Knowledge Graph Enhancement
Huazhong University of Science and Technology(华中科技大学);University of Glasgow(格拉斯哥大学)
本文提出 FedRKG 联邦推荐框架,通过服务器端全局知识图谱与客户端关系感知 GNN 建模高阶交互,并结合伪标签和 LDP 保护隐私,在三个真实数据集上较联邦基线平均提升 4% 准确率。
2024-01-20 cs.AI cs.CR cs.DC
An Enhanced Middleware for Collaborative Privacy in IPTV Recommender Services
用户在使用IPTV系统时必须面对的问题之一是信息过载,这使得他们很难根据个人喜好找到合适的内容。推荐服务是缓解这一问题的最广泛采用的技术之一,这些服务旨在根据人们的偏好为他们提供他们将欣赏的项目的推荐。IPTV用户必须确保任何推荐服务收集的敏感偏好得到适当保护。在这项工作中,我们介绍了一个框架的私人推荐服务的基础上增强中间件的协作隐私(EMCP)。EMCP执行一个两阶段的隐藏过程,让用户完全控制他/她的个人资料的隐私级别。我们利用信任机制来增强推荐的准确性和隐私性。信任启发式发现相对于请求推荐的用户而言值得信任的用户。随后,使用基于这些可信用户的邻近度量来计算邻域形成。最后,用户以混淆的形式提交他们的简档,而不泄露关于他们的数据的任何信息,并且推荐的计算使用安全多方计算协议在混淆的数据上进行。我们扩大混淆范围从单一的混淆级别的所有用户的任意混淆级别的基础上用户之间的可信度。换句话说,我们将混淆级别与不同的信任级别相关联,因此目标用户越受信任,他可以访问的配置文件的混淆副本就越少。我们还提供了一个IPTV网络的场景和实验结果。我们的结果和分析表明,我们的两阶段隐藏过程,不仅保护了用户的隐私,但也可以保持推荐的准确性。
2017-11-21 cs.CR cs.IR
Federated Heterogeneous Graph Neural Network for Privacy-preserving Recommendation
Beijing University of Posts and Telecommunications(北京邮电大学);Hokkaido University(北海道大学);National University of Defense Technology(国防科技大学)
针对分布式HIN语义断裂与隐私问题,提出FedHGNN框架,通过差分隐私保护的语义保持交互发布及HGNN聚合实现联邦隐私保护推荐,性能显著提升。
2024-02-28 cs.AI cs.CR cs.DC
A Survey on Federated Recommendation Systems
Joint SDU-NTU Centre for Artificial Intelligence Research (C-FAIR)(山东大学-南洋理工大学人工智能国际联合研究院(C-FAIR));Software School, Shandong University(山东大学软件学院);Shandong University(山东大学);Sino-Singapore International Joint Research Institute(中新国际联合研究院);Alibaba-NTU Singapore Joint Research Institute(阿里巴巴-新加坡南洋理工大学联合研究学院);Nanyang Technological University(南洋理工大学);Microsoft Research Asia(微软亚洲研究院)
联邦学习最近被应用于推荐系统以保护用户隐私。在联邦学习环境下,推荐系统只需要收集中间参数而不需要收集真实的用户数据就可以训练推荐模型,大大增强了用户隐私保护。此外,联合推荐系统能够与其他数据平台协作,以提高推荐模型的性能,同时满足监管和隐私约束。然而,联邦推荐系统面临着许多新的挑战,如隐私,安全性,异构性和通信成本。虽然在这些领域进行了大量研究,但调查文献中仍然存在空白。在本文中,我们-(1)总结了联邦推荐系统中常用的一些隐私机制,并讨论了每种机制的优点和局限性;(2)回顾了一些鲁棒的聚合策略和一些新的安全攻击;(3)总结了一些解决异构性和通信成本问题的方法;(4)介绍了一些可用于构建联邦推荐系统的开源平台;(5)提出了未来的研究方向。该调查可以指导研究者和实践者了解这些领域的研究进展。
2023-03-09 cs.AI cs.CR cs.IR
Privacy-preserving Medical Treatment System through Nondeterministic Finite Automata
在本文中,我们提出了一个隐私保护的医疗系统,使用非确定性有限自动机(NFA),以下简称为P-Med,专为远程医疗环境。P-Med利用NFA的非确定性转换特性,灵活地表示医学模型,包括疾病状态、治疗方法以及应用不同治疗方法引起的状态转换。医疗模型被加密并外包到云端以提供远程医疗服务。使用P-Med,可以即时进行以患者为中心的诊断和治疗,同时保护患者病情和治疗建议结果的机密性。此外,在P-Med中给出了一种新的隐私保护NFA评估方法,使加密NFA和加密数据集的评估结果具有保密性,避免了繁琐的内部状态转移判定。我们证明了P-Med实现了治疗程序的建议,而不会向未经授权的各方泄露隐私。我们进行了大量的实验和分析,以评估效率。
2020-05-26 cs.CR
User Consented Federated Recommender System Against Personalized Attribute Inference Attack
Department of CSE, HKUST(香港科技大学计算机科学与工程系)
针对联邦推荐系统中属性推断攻击和用户隐私偏好差异问题,提出用户同意的联邦推荐系统UC-FedRec,通过最小化准确度代价灵活满足隐私需求,实验证明其高效灵活。
2023-12-23 cs.CR cs.IR cs.LG
Naturally Private Recommendations with Determinantal Point Processes
Oblivious;Pento;Technical University of Munich(慕尼黑工业大学)
本文探讨行列式点过程在推荐中的自然隐私性,分析其满足ε-差分隐私所需的改动与敏感性,并提出更高效的替代方案以优化隐私-效用权衡。
2024-05-22 cs.CR cs.LG
A Privacy Preserving System for Movie Recommendations Using Federated Learning
Fraunhofer Institute for Telecommunications, Heinrich Hertz Institute, HHI(弗劳恩霍夫电信研究所海因里希·赫兹研究所)
针对推荐系统收集大量个人数据的隐私问题,本文提出基于联邦学习的电影推荐系统,采用新型FedQ方案解决非独立同分布等问题并防重构攻击,结合压缩技术降通信开销,多层面保障隐私。
2024-05-16 cs.CR cs.IR cs.LG
Randomized algorithms for precise measurement of differentially-private, personalized recommendations
Apple(苹果公司)
本文提出一种支持精确测量且满足差分隐私的个性化推荐随机化算法,通过广告场景离线实验,量化了其对用户体验、广告主价值和平台收入等关键指标的影响。
2024-01-06 cs.CR cs.IR cs.LG
Hiding Your Awful Online Choices Made More Efficient and Secure: A New Privacy-Aware Recommender System
本文提出一种新型隐私感知推荐系统,结合隐私感知机器学习与同态加密、多方计算等密码学原语,无需可信第三方或安全硬件,在保证隐私的同时将计算和内存开销降低三个数量级,首次在低功耗设备上实现1亿条目规模的隐私推荐。
2024-05-30 cs.CR
Privacy-preserving schemes for Ad Hoc Social Networks: A survey
在本文中,我们回顾了自组织社交网络(包括移动社交网络(MSN)和车载社交网络(VSN))的隐私保护方案的最新进展。具体而言,我们选择并详细研究了33个隐私保护计划的开发或应用的背景下,特设社交网络。这些计划于2008年至2016年期间公布。在此基础上,本文综述了隐私保护模型,包括位置隐私、身份隐私、匿名性、可追踪性、兴趣隐私、后向隐私和面向内容的隐私。以表格的形式总结了VSN和MSNs中最近发生的重要的隐私泄露攻击、对策和博弈论方法。此外,还概述了进一步研究的建议。通过本调查,读者可以更全面地了解ad hoc社交网络隐私保护方案的研究趋势
2016-10-19 cs.CR
An Accuracy-Assured Privacy-Preserving Recommender System for Internet Commerce
推荐系统是一种通过计算用户的历史数据和兴趣来预测用户潜在偏好的工具,在网上购物等各种互联网应用中显示出越来越重要的作用。作为一种著名的推荐方法,基于邻域的协同过滤近年来引起了广泛的关注。在过滤过程中泄露用户隐私信息的风险已经引起了人们的关注。在目前的解决方案中,概率技术已经显示出强大的隐私保护效果。在面对$k$最近邻攻击时,由于全局随机性的引入,现有的方法都没有提供数据效用保证。在本文中,为了克服推荐精度损失的问题,我们提出了一种新的方法,分区概率邻居选择,以确保所需的预测精度,同时保持对$k$ NN攻击的高安全性。我们将$k$邻居的相似性之和定义为准确性度量alpha,用户分区的数量,我们选择$k$邻居,作为安全性度量beta。我们将$k$最近邻攻击推广到beta k最近邻攻击。不同于现有的方法,选择邻居在整个候选列表随机,我们的方法选择邻居从每个排他性分区大小$k$的概率递减。理论和实验分析表明,为了提供一个准确性保证的推荐,我们的分区概率邻居选择方法产生了更好的推荐准确性和系统安全性之间的权衡。
2015-06-04 cs.CR cs.IR
Differentially Private Neighborhood-based Recommender Systems
随着推荐系统出现在我们生活的各个角落,推荐系统的隐私问题已经成为社会关注的热点。与许多安全多方计算协议被提出来防止推荐计算过程中的信息泄漏的事实相反,很少有人做来限制推荐结果中的信息泄漏。在本文中,我们将差分隐私的概念应用到基于邻域的推荐方法(NBM)的概率框架下。首先,我们提出了一种解决方案,通过直接校准拉普拉斯噪声到训练过程中,差分私下找到最大后验参数相似性。然后,我们连接差分隐私NBMs利用最近的观察,从贝叶斯模型的缩放后验分布的结果,在可证明的差异隐私系统的采样。我们的实验表明,这两种解决方案都允许有希望的准确性与适度的隐私预算,和第二种解决方案产生更好的准确性,如果采样渐近收敛。我们还比较了我们的解决方案,最近的差分私人矩阵分解(MF)推荐系统,并表明我们的解决方案实现更好的准确性时,隐私预算是合理的小。这是一个有趣的结果,因为MF系统通常在不应用差分隐私时提供更好的准确性。
2017-03-10 cs.CR cs.IR
$C^3DRec$: Cloud-Client Cooperative Deep Learning for Temporal Recommendation in the Post-GDPR Era
Peking University(北京大学)
移动设备使用户能够随时随地检索信息。考虑到移动用户的临时需求和碎片化使用模式,提出了基于用户短期交互行为的时态兴趣学习方法,以提高移动设备上信息检索的效率.然而,隐私保护法律法规的实施,如GDPR,可能会使临时推荐的成功实践黯然失色。原因在于,现有的推荐系统需要在集中式服务器中收集和处理用户数据,但是用于临时推荐的交互行为数据通常是非事务性数据,根据GDPR,在没有用户的明确许可的情况下不允许收集这些数据。因此,如果用户不允许服务收集他们的交互行为数据,时间推荐就无法工作。为实现后GDPR时代的时态推荐,提出了一种基于云-客户端协同的深度学习框架$C^3DRec$,用于在保护用户隐私的同时挖掘交互行为进行推荐。$C^3DRec$使用GDPR之前收集的数据在集中式服务器上构建全局推荐模型,并使用GDPR之后收集的数据直接在各个本地设备上微调模型。我们设计了两种模式来完成推荐,即拉模式,其中候选项目被拉到设备上,并送入本地模型,以获得推荐项目,推模式,其中本地模型的输出推到服务器上,并与候选项目相结合,以获得推荐项目。评估结果表明,$C^3DRec$实现了类似的推荐精度集中的方法,以最小的隐私问题。
2021-01-13 cs.CR cs.IR cs.LG
Qualitative Coding Analysis through Open-Source Large Language Models: A User Study and Design Recommendations
Technological University Dublin(都柏林理工大学);National Economics University(越南国立经济大学);University College Dublin(都柏林大学学院);Foreign Trade University(对外贸易大学)
本文提出ChatQDA,一个基于开源LLMs的本地化定性分析工具,通过用户研究发现其在隐私保护和解释一致性方面的挑战,并提出设计建议以提升信任度。
2026-02-20 cs.CR cs.HC cs.SE
Differential Privacy of Quantum and Quantum-Inspired Classical Recommendation Algorithms
Key Laboratory of System Software, CAS(系统软件重点实验室,中国科学院);University of Chinese Academy of Sciences(中国科学院大学);Centre for Quantum Software and Information(量子软件与信息中心);University of Technology Sydney(悉尼大学)
本文研究了量子和受量子启发的经典推荐算法的差分隐私特性,证明了在特定条件下无需额外噪声即可实现隐私保护,并通过实验验证了其有效性。
2026-02-26 cs.CR cs.ET cs.LG
PEAK: Explainable Privacy Assistant through Automated Knowledge Extraction
Bogazici University(海峡大学);Amazon Alexa AI(亚马逊Alexa人工智能);Utrecht University(乌得勒支大学)
本文提出PEAK隐私助手,通过潜在主题发现、解释类别识别和自动化解释生成,为隐私决策提供可理解解释,用户研究表明其解释有用易理解,并能提升隐私助手自身决策能力。
2023-05-31 cs.AI cs.CR cs.HC
Federating Recommendations Using Differentially Private Prototypes
University of Texas at Austin(得克萨斯大学奥斯汀分校);CognitiveScale(认知规模公司)
机器学习方法允许我们通过利用用户交互模式的相似性,在包括娱乐、约会和商业在内的应用程序中向用户提供推荐。然而,在需要保护个人敏感数据的领域,如医疗或银行,我们如何在不访问敏感数据的情况下学习这样的模型,并且不会无意中泄露私人信息?我们提出了一种新的联邦方法来学习全局和局部私有模型,而无需收集原始数据,用户统计数据或有关个人偏好的信息。我们的方法产生了一组原型,使我们能够推断出全球的行为模式,同时提供差分隐私保证系统的任何数据库中的用户。通过只需要两轮通信,我们既降低了通信成本,又避免了与迭代过程相关的过度隐私损失。我们在合成数据以及真实的联邦医疗数据和Movielens评级数据上测试我们的框架。我们表明,局部适应的全球模型,使我们的方法优于集中式矩阵分解为基础的推荐系统模型,无论是在矩阵重建的准确性和相关性的建议,同时保持可证明的隐私保证。我们还表明,我们的方法是更强大的,其特点是较小的方差比独立实体学习的个别模型。
2020-03-01 cs.CR cs.IR cs.LG
When being Weak is Brave: Privacy in Recommender Systems
我们探讨了弱关系的存在所产生的个性化和隐私之间的冲突。弱关系是一种意想不到的联系,提供偶然的建议。然而,关于弱关系的信息可以与其他数据源结合使用,以发现身份并泄露其他个人信息。在这篇文章中,我们使用图论模型来研究弱关系的收益和风险。
2001-05-18 cs.CR cs.DS