Song Recommendation with Non-Negative Matrix Factorization and Graph Total Variation
Swiss Federal Institute of Technology (EPFL)(瑞士联邦理工学院(洛桑联邦理工学院))
这项工作制定了一个新的歌曲推荐系统作为一个矩阵完成的问题,受益于协同过滤通过非负矩阵分解(NMF)和基于内容的过滤通过全变差(TV)的图形。这些图表使用音频、元数据和社交功能的丰富组合对播放列表接近度信息和歌曲相似度进行编码。正如我们所展示的,我们的混合推荐系统是非常通用的,并结合了几个著名的方法,同时优于他们。特别是,我们在现实世界的数据表明,我们的模型克服了w.r.t.两个评估度量:仅基于低秩信息、基于图的信息或两者的组合的模型的推荐。
2016-01-13 cs.IR cs.LG physics.data-an
Scalable Recommendation with Poisson Factorization
Princeton University(普林斯顿大学);Microsoft Research(微软研究院)
我们开发了一个贝叶斯泊松矩阵分解模型,用于从稀疏的用户行为数据中形成推荐。这些数据是大的用户/项目矩阵,其中每个用户仅对项目的小子集提供反馈,或者显式地(例如,通过星级)或隐含地(例如,通过浏览或购买)。与传统的矩阵分解方法不同,泊松分解隐式地对每个用户对消费项目的有限注意力进行建模。此外,由于泊松似然的数学形式,该模型只需要显式地考虑矩阵中观察到的条目,从而实现可扩展的计算和良好的预测性能。我们开发了一个变分推理算法的近似后验推理,规模庞大的数据集。这是一种有效的算法,它迭代观察到的条目并调整用户/项目表示的近似后验。我们将我们的方法应用于大型真实世界的用户数据,其中包含用户对电影的评分,用户听歌和用户阅读科学论文。在所有这些设置中,贝叶斯泊松分解优于最先进的矩阵分解方法。
2014-05-20 cs.AI cs.IR cs.LG
Fast Adaptively Weighted Matrix Factorization for Recommendation with Implicit Feedback
College of Computer Science, Zhejiang University(浙江大学计算机科学学院);Zhejiang University-LianlianPay Joint Research Center(浙江大学-连连支付联合研究中心)
由于缺乏可靠的观察到的负面数据,隐式反馈的推荐是一项极具挑战性的任务。一种流行而有效的隐式推荐方法是将未观察到的数据视为负面,但降低其置信度。当然,如何分配置信度权重和如何处理大量的未观测数据是隐式推荐模型的两个关键问题。然而,现有的方法要么追求快速学习,通过手动分配简单的信心权重,这缺乏灵活性,并可能会产生经验偏见,在评估用户的偏好;或自适应推断个性化的信心权重,但效率低下。为了实现自适应权重分配和有效的模型学习,我们提出了一种快速自适应加权矩阵分解(FAWMF)的变分自动编码器的基础上。个性化数据的置信度权重自适应分配与参数化神经网络(功能)和网络可以推断出的数据。此外,为了支持FAWMF的快速和稳定的学习,已经开发了一种新的特定的基于批处理的学习算法fBGD,其在所有反馈数据上进行训练,但其复杂度与观测数据的数量成线性关系。在真实数据集上的大量实验证明了所提出的FAWMF及其学习算法fBGD的优越性。
2020-03-04 cs.IR cs.LG stat.ML
Incremental Factorization Machines for Persistently Cold-starting Online Item Recommendation
The University of Tokyo(东京大学)
现实世界中的项目管理器通常遭受持续的冷启动问题,这是由动态变化的用户和项目引起的。为了克服这个问题,最近提出了几种上下文感知推荐技术。就可行性和性能而言,因子分解机(FM)作为传统矩阵分解技术的推广,是最有前途的方法之一。然而,由于在线算法适用于动态数据,静态FM仍然是不够的。因此,本文提出了增量FM(iFM),一个通用的在线分解框架,特别是扩展到一个在线项目推荐iFM。建议的框架可以是一个有前途的基线,为进一步发展的生产推荐系统。评估是在合成和真实世界的不稳定数据集上根据经验进行的。
2016-07-11 cs.IR cs.LG
Content-boosted Matrix Factorization Techniques for Recommender Systems
University College London(伦敦大学学院);University of Waterloo(滑铁卢大学)
许多企业正在使用推荐系统进行营销推广。推荐算法可以基于内容或由协同过滤驱动。我们研究了不同的方式,将内容信息直接到矩阵分解方法的协同过滤。这些内容提升的矩阵分解算法不仅提高了推荐的准确性,而且还提供了关于内容的有用见解,并使推荐更容易解释。
2013-01-04 cs.LG stat.ML
Live Multi-Streaming and Donation Recommendations via Coupled Donation-Response Tensor Factorization
National Chiao Tung Univ.(国立交通大学);Inst. of Information Science, Academia Sinica, Taiwan(中央研究院资讯科学研究所);The Pennsylvania State Univ.(宾夕法尼亚州立大学)
与传统的在线视频相比,直播多流媒体支持多个主播和观众之间的实时社交互动,例如捐赠。然而,捐赠和多流媒体频道推荐是具有挑战性的,由于复杂的流媒体和观众的关系,不对称的通信,以及个人兴趣和群体互动之间的权衡。在本文中,我们引入多流党(MSP),并制定了一个新的多流推荐问题,称为捐赠和MSP推荐(DAMRec)。我们提出了多流党推荐系统(MARS)通过社会时间耦合捐赠-响应张量因子分解捐赠和MSP建议提取潜在的功能。在Twitch和斗鱼上的实验结果表明,MARS在命中率和平均精度方面明显优于现有的搜索引擎至少38.8%。
2021-10-05 cs.IR cs.LG
Ordinal Non-negative Matrix Factorization for Recommendation
IRIT, Université de Toulouse, CNRS(图卢兹大学 IRIT 研究所、法国国家科学研究中心);ISAE-SUPAERO, Université de Toulouse(图卢兹大学 ISAE-SUPAERO 高等航空与航天学院)
本文提出了一种新的非负矩阵分解方法,称为OrdNMF。有序数据是类别数据,它们在类别之间表现出自然的顺序。特别是,它们可以在推荐系统中找到,无论是显式数据(如评级)还是隐式数据(如量化播放计数)。OrdNMF是一种概率潜在因子模型,它将Bernoulli-Poisson因子分解(BePoF)和Poisson因子分解(PF)推广到二进制数据。与这些方法相反,OrdNMF避免了二值化,并且可以利用数据的更多信息表示。我们设计了一个有效的变分算法的基础上,一个合适的模型增强和相关的变分PF。特别是,我们的算法保留了PF的可扩展性,并可以应用于巨大的稀疏数据集。我们报告了显式和隐式数据集上的推荐实验,并表明OrdNMF优于应用于二进制数据的BePoF和PF。
2020-09-02 cs.LG stat.ML
Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology(孟加拉国工程技术大学)
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统,利用高斯机制输出扰动和 Rényi 差分隐私,在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG
Triplet Losses-based Matrix Factorization for Robust Recommendations
Politecnico di Torino(都灵理工大学)
就像其他基于学习的模型一样,推荐系统也会受到训练数据偏差的影响。虽然典型的评估指标(如命中率)不关心它们,但某些类别的最终用户受到这些偏见的严重影响。在这项工作中,我们建议使用多个三重损失条款提取有意义的和强大的表示用户和项目。我们通过几个“偏见意识”的评价指标,以及在训练集的变化和预测方差w.r.t.协议的稳定性,经验评估这种表示的合理性。每个用户的。
2022-10-21 cs.IR cs.LG
FedSPLIT: One-Shot Federated Recommendation System Based on Non-negative Joint Matrix Factorization and Knowledge Distillation
University of Maryland, Baltimore County(马里兰大学巴尔的摩郡分校);LANL(洛斯阿拉莫斯国家实验室)
非负矩阵分解(NMF)与缺失值完成是一个著名的有效的协同过滤(CF)方法,用于提供个性化的用户推荐。然而,传统的CF依赖于隐私侵犯收集用户的显式和隐式反馈,以建立一个中央推荐模型。单次联邦学习最近出现了一种方法,以减轻隐私问题,同时解决传统的联邦学习的通信瓶颈。在本文中,我们提出了第一个无监督的一次性联邦CF实现,名为FedSPLIT,基于NMF联合因式分解。在我们的解决方案中,客户端首先并行应用本地CF来构建不同的客户端特定的编译器。然后,从每个客户端的隐私保护的本地项目模式和偏见与处理器共享,以执行联合因子分解,以提取全局项目模式。然后,将提取的模式聚合到每个客户端,以通过知识蒸馏构建本地模型。在我们的实验中,我们证明了我们的方法与标准的推荐数据集的可行性。FedSPLIT可以获得与现有技术相似的结果(在某些情况下甚至优于现有技术),但通信数量大幅减少。
2022-05-04 cs.IR cs.LG
Clustered Monotone Transforms for Rating Factorization
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft Research(微软研究院)
利用用户-项目评分矩阵的低秩结构一直是许多推荐引擎的关键。然而,现有的推荐引擎迫使具有异构行为简档的评级者将其内在评级尺度映射到公共评级尺度(例如,1-5)。评级量表的这种非线性变换打破了评级矩阵的低秩结构,因此导致拟合度差,从而导致不良推荐。在本文中,我们提出了一种新的方法来进行回归到未知的单调变换的评级因子分解(CMTRF),未知的单调变换未知的人口段。本质上,对于推荐系统,该技术搜索评级尺度的单调变换,从而得到更好的拟合。这是结合了一个潜在的矩阵分解回归模型,耦合用户明智的评级,以利用共享的低维结构。可以为每个用户,为一群用户,或为所有的用户一次,形成本文中提出的三个简单而有效的算法的基础上,所有这些都交替的评级尺度和矩阵分解回归之间的变换的评级尺度转换。尽管CMTRF的非凸性,理论上证明恢复一个唯一的解决方案,在温和的条件下。在两个合成数据集和七个真实数据集上的实验结果表明,CMTRF优于其他最先进的基线。
2018-10-31 cs.IR cs.LG stat.ML
VRConvMF: Visual Recurrent Convolutional Matrix Factorization for Movie Recommendation
China University of Petroleum(中国石油大学);East China Jiaotong University(华东交通大学);Federation University Australia(澳大利亚联邦大学)
用户对项目评分数据的稀疏性成为推荐系统面临的挑战之一,严重影响了推荐系统的性能。幸运的是,上下文感知推荐系统可以通过利用一些辅助信息,如用户和项目的信息来缓解稀疏性问题。特别是,项目的视觉信息,如电影海报,可以被认为是对项目描述文档的补充,这有助于获得更多的项目特征。本文针对电影推荐系统,提出了一种基于概率矩阵分解的视觉递归卷积矩阵分解(VRConvMF)推荐方案,该方案利用了从描述性文本和海报中分别提取的文本特征和多层次视觉特征。我们实现了所提出的VRConvMF,并在三个常用的真实世界数据集上进行了广泛的实验,以验证其有效性。实验结果表明,所提出的VRConvMF算法性能优于现有算法.
2022-02-16 cs.CV cs.IR cs.LG
BLC: Private Matrix Factorization Recommenders via Automatic Group Learning
School of Computer Science and Statistics, Trinity College(都柏林圣三一学院计算机科学与统计学院)
我们提出了一个隐私增强的矩阵分解推荐,利用这一事实,用户往往可以分组在一起的兴趣。这允许一种形式的“隐藏在人群中”的隐私。我们介绍了一种新的矩阵分解方法,适合在一个共享组(或NYM)设置和BLC算法进行这种矩阵分解的隐私增强的方式进行建议。我们证明,增加隐私并不以降低推荐准确性为代价。
2017-02-27 cs.LG stat.ML
Recommendation under Capacity Constraints
University of Minnesota(明尼苏达大学);Netflix
在本文中,我们研究了常见的情况下,每个候选项目的推荐是由一个最大容量,即,兴趣点(POI)中的座位数或物品库存的大小。尽管在各种设置中的能力约束下推荐项目的任务的流行,据我们所知,没有一个已知的推荐方法被设计为尊重能力约束。为了缩小这一差距,我们扩展了三种最先进的潜在因素推荐方法:概率矩阵分解(PMF),地理矩阵分解(GeoMF),和baidu个性化排名(BPR),以优化推荐精度和预期项目使用率,尊重容量限制。我们介绍了有用的概念,用户倾向于听和项目容量。我们的实验结果在现实世界的数据集,无论是项目推荐和兴趣点推荐领域,突出了我们的方法的好处,在容量限制的建议设置。
2017-03-12 cs.IR cs.LG stat.ML
Clustering-Based Matrix Factorization
推荐系统是一种新兴的技术,现在可以在许多应用程序中找到,如亚马逊,Netflix等。这些系统帮助用户找到相关信息,推荐和他们喜欢的项目。这些分类器的准确性的稍微提高可以高度影响推荐的质量。矩阵分解是推荐系统中的一种流行方法,在准确性和复杂性方面都有很好的效果。在本文中,我们提出了一个扩展的矩阵分解,增加了一般的邻域信息的推荐模型。用户和项目被聚集到不同的类别中,以查看这些类别如何共享首选项。然后,我们使用这些类别的共同利益的融合偏置矩阵分解,以实现更准确的建议。这是对当前邻域感知矩阵分解模型的补充,该模型依赖于使用用户和项目的直接邻域信息。该模型在两个著名的推荐系统数据集上进行了测试:Movielens100k和Netflix。我们的实验表明,将类别的一般潜在特征应用到因子化推荐模型中可以提高推荐的准确性。目前的邻域感知模型需要大量的邻域才能达到良好的精度。据我们所知,所提出的模型是更好的或与当前的邻居感知模型相比,当他们考虑较少的邻居。
2013-08-01 cs.LG
Reenvisioning Collaborative Filtering vs Matrix Factorization
Politecnico di Bari(巴里理工大学);Universidad Autónoma de Madrid(马德里自治大学)
近年来,基于矩阵分解和人工神经网络(ANN)学习相似性的协同过滤模型得到了极大的关注。这在一定程度上是因为人工神经网络在各种各样的推荐任务中表现出了良好的效果。在推荐生态系统中引入人工神经网络最近受到了质疑,在效率和有效性方面提出了一些比较。这些比较的一个共同点是,它们都关注准确性,而忽略了对推荐很重要的其他评估维度,如新颖性、多样性或偏见。我们复制了三篇比较神经协同过滤(NCF)和矩阵分解(MF)的论文中的实验,将分析扩展到其他评估维度。我们的贡献表明,实验是完全可重复的,我们扩展了研究,包括其他准确性指标和两个统计假设检验。我们调查了建议的多样性和新颖性,表明MF在长尾上也提供了更好的准确性,尽管NCF提供了更好的项目覆盖率和更多样化的建议。我们讨论了测试方法产生的偏差效应。它们显示出相对较小的偏差,但其他具有竞争力的准确性性能的推荐基线始终显示出受此问题的影响较小。这是第一项工作,据我们所知,几个评估维度已被探索的SOTA算法阵列涵盖最近的适应人工神经网络和MF。因此,我们展示了这些技术可能对超精度评估的潜力,同时分析了这些互补尺寸可能对再现性的影响。可在github.com/sisinflab/Reenvisioning-the-comparison-between-Neural-Collaborative-Filtering-and-Matrix-Factorizatio…
2021-07-28 cs.IR cs.LG
Privacy Preserving Point-of-interest Recommendation Using Decentralized Matrix Factorization
AI Department, Ant Financial Services Group(蚂蚁金融服务集团人工智能部门)
兴趣点(POI)推荐最近由于基于位置的网络的日益普及而引起了很多关注,例如,Foursquare和Yelp在现有的POI推荐方法中,基于矩阵分解(MF)的技术已被证明是有效的。然而,现有的MF方法存在两个主要问题:(1)由于集中式模型训练机制而导致的昂贵的计算和存储:集中式学习器必须维护整个用户-项目评分矩阵,以及潜在的巨大的低秩矩阵。(2)隐私问题:用户的偏好存在通过集中式学习器泄露给恶意攻击者的风险。为了解决这些问题,我们提出了一个分散的MF(DMF)框架的兴趣点推荐。具体地说,我们提出了一种基于随机游走的分散训练技术来训练每个用户端的MF模型,而不是维护所有的低秩矩阵和敏感的评级数据用于训练,例如,手机和Pad。通过这样做,每个用户的评级仍然保持在自己的手上,而且,分散学习可以被视为具有多个学习者(用户)的分布式学习,从而简化了计算和存储问题。在两个真实数据集上的实验结果表明,与经典和最新的潜在因子模型相比,DMF在推荐精度和召回率方面都有显著的提高.
2020-03-12 cs.AI cs.LG stat.ML
Knowledge-aware Neural Collective Matrix Factorization for Cross-domain Recommendation
University of Sheffield(谢菲尔德大学);University of Bristol(布里斯托大学);Amazon Inc.(亚马逊公司);Google Inc.(谷歌公司)
跨领域推荐可以帮助用户在不同的领域中找到更满意的商品。现有的CDR模型主要使用公共用户或映射函数作为域之间的桥梁,但在充分利用跨域的额外知识方面的探索非常有限。在本文中,我们提出了将知识图谱(KG)的CDR,这使得在不同领域的项目共享知识。为此,我们首先从Freebase KG和Amazon Review Data的子集(两个域对:电影-音乐,电影-书籍)构建一个新的数据集AmazonKG 4CDR。这个新的数据集有助于将知识与CDR的域内和跨域项目联系起来。然后,我们提出了一个新的框架,KG感知神经集体矩阵分解(KG-NeuCMF),利用KG丰富项目表示。它首先通过图卷积自动编码器学习项目嵌入,以从KG中的相邻和高阶邻居中捕获特定领域和一般领域的知识。然后,我们最大化从KG和用户-项目矩阵中学习到的项目嵌入之间的互信息,以建立更好的CDR的跨域关系。最后,我们对新构建的数据集进行了广泛的实验,并证明我们的模型显著优于性能最佳的基线。
2022-06-27 cs.IR cs.LG
Joint Geographical and Temporal Modeling based on Matrix Factorization for Point-of-Interest Recommendation
Università della Svizzera Italiana(意大利瑞士大学);Leiden University(莱顿大学)
随着基于位置的社交网络的普及,兴趣点推荐已成为一项重要任务,它学习用户的偏好和移动模式来推荐兴趣点。以往的研究表明,将上下文信息,如地理和时间的影响,是必要的,以改善POI推荐解决数据稀疏问题。然而,现有的方法模型的地理影响的基础上的物理距离POI和用户,而忽略了这种地理影响的时间特性。在本文中,我们进行了一项研究的用户移动模式,我们发现,用户的签到发生在几个中心,这取决于他们当前的时间状态。接下来,我们提出了一个时空活动中心算法来更准确地建模用户的行为。最后,我们证明了我们提出的上下文模型的有效性,将其纳入两个不同的设置下的矩阵分解模型:i)静态和ii)时间。为了证明我们所提出的方法的有效性,我们将其称为STACP,我们对从Gowalla和Foursquare LBSN获得的两个着名的真实世界数据集进行了实验。实验结果表明,STACP模型实现了统计上显着的性能改善,相比国家的最先进的技术。此外,我们证明了捕捉地理和时间信息建模用户的活动中心和建模的重要性,他们联合的有效性。
2020-01-24 cs.IR cs.LG
Context-aware recommendations from implicit data via scalable tensor factorization
尽管基于隐式反馈的推荐问题-当只有用户历史可用但没有评级时-是现实世界应用中最典型的设置,但它比显式反馈情况少得多。在显式情况下有效的最先进的算法不能自动转换到隐式情况下,如果应保持可伸缩性。很少有隐式反馈基准数据集,因此新的想法通常在显式基准上进行实验。在本文中,我们提出了一种通用的上下文感知隐式反馈推荐算法,称为iTALS。iTALS应用了一种快速的、基于ALS的张量因式分解学习方法,该方法与张量中非零元素的数量呈线性关系。我们还提出了两个近似的和更快的变体iTALS使用坐标下降和共轭梯度方法在学习。该方法还允许我们将各种上下文信息纳入模型,同时保持其计算效率。我们提出了两个上下文感知的iTALS的变体,将季节性和项目购买顺序性的模型,以区分用户行为在不同的时间间隔,和产品类型具有不同的重复性。在六个数据集上运行的实验表明,iTALS明显优于上下文感知模型和上下文感知基线,而在召回率和MAP方面,它与因子分解机器(12种情况中有7种)不相上下。
2013-09-29 cs.IR cs.LG
Dynamic Poisson Factorization
Columbia University(哥伦比亚大学);Princeton University(普林斯顿大学)
推荐系统的模型使用潜在因素来解释用户关于一组项目的偏好和行为(例如,电影、书籍、学术论文)。通常,假设潜在因素是静态的,并且给定这些因素,假设所观察到的用户的偏好和行为是无序生成的。这些假设限制了这些模型的探索和预测能力,因为用户的兴趣和项目流行度可能会随着时间的推移而变化。为了解决这个问题,我们提出了dPF,一个动态矩阵分解模型的基础上,最近的泊松因子分解模型的建议。dPF使用卡尔曼滤波器对随时间变化的潜在因素进行建模,并使用泊松分布对行为进行建模。我们推导出一个可扩展的变分推理算法来推断潜在的因素。最后,我们展示了dPF的10年的用户点击数据从arXiv.org,最大的科学论文库之一,一个强大的信息来源的科学家的行为。从经验上讲,我们表现出的性能改进静态和最近提出的动态推荐模型。我们还提供了一个彻底的探索推断后验的潜变量。
2015-09-15 cs.IR cs.LG stat.ML
Block based Singular Value Decomposition approach to matrix factorization for recommender systems
University of Hyderabad(海得拉巴大学);Central University of Rajasthan(拉贾斯坦中央大学)
近年来,随着数据的丰富,在推荐系统领域提出了有趣的挑战。生成具有可扩展性和性能的高质量推荐是当前的需求。基于奇异值分解(SVD)的推荐算法已经被利用来产生更好的结果。在本文中,我们进一步扩展SVD技术的可扩展性和性能的上下文中1)多线程2)多个计算单元(使用图形处理单元)和3)分布式计算。我们提出了基于块的矩阵分解(BMF)与SVD配对。这使我们能够利用SVD而不是基本矩阵分解(MF),同时利用BMF的并行性和可扩展性。我们使用统一计算设备架构(CUDA)平台和相关硬件来利用图形处理单元(GPU)以及基于块的SVD来展示性能和内存方面的优势。
2019-07-17 cs.AI cs.IR cs.LG
Conditional Restricted Boltzmann Machines for Cold Start Recommendations
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);School of Information Science and Engineering, University of Chinese Academy of Sciences(中国科学院大学信息科学与工程学院)
受限玻尔兹曼机(RBM)已经成功地应用于推荐系统中。然而,与大多数其他协同过滤技术一样,它不能解决冷启动问题,因为没有对新项目的评级。本文首先应用条件RBM(CRBM),它可以考虑额外的信息,并表明CRBM可以很好地解决冷启动问题,特别是额定值预测任务。CRBM自然地将内容和协作数据结合在一个可以有效适应的框架下。实验表明,CRBM可以媲美矩阵分解模型,而从前一个模型学习的隐藏特征更容易被解释。
2014-08-01 cs.IR cs.LG stat.ML
Recommendations with Sparse Comparison Data: Provably Fast Convergence for Nonconvex Matrix Factorization
EPFL(瑞士联邦理工学院);TUM(慕尼黑工业大学)
本文研究用户通过成对比较给出反馈的推荐问题,证明非凸损失在真实解附近具有受限强凸性,使梯度方法在稀疏比较数据下借助热启动实现指数级快速收敛。
2025-08-19 cs.LG
Probabilistic Matrix Factorization with Personalized Differential Privacy
Anhui University(安徽大学)
概率矩阵分解(PMF)在推荐系统中起着至关重要的作用。它需要大量的用户数据(如用户购物记录和电影评分)来预测个人偏好,从而为用户提供高质量的推荐服务,这暴露了用户隐私泄露的风险。差分隐私作为一种可证明的隐私保护框架,在推荐系统中得到了广泛的应用。不同的个人对项目有不同级别的隐私要求是常见的。然而,传统的差分隐私只能为所有用户提供统一级别的隐私保护。本文主要提出了一种具有个性化差分隐私的概率矩阵分解推荐方案(PDP-PMF)。它旨在满足用户在项目级别指定的隐私要求,而不是为所有人提供相同级别的隐私保证。然后,我们开发了一个修改的采样机制(有界差分隐私)实现PDP。我们还进行了理论分析的PDP-PMF计划,并证明了PDP-PMF计划的隐私。此外,我们实现了传统的和个性化的差分隐私(DP-PMF,PDP-PMF)的概率矩阵分解方案,并通过一系列的实验进行比较。实验结果表明,PDP-PMF方案在保护用户隐私方面表现良好,推荐质量明显优于DP-PMF方案。
2018-10-19 cs.CR cs.LG
Edge Data Based Trailer Inception Probabilistic Matrix Factorization for Context-Aware Movie Recommendation
China University of Petroleum(中国石油大学);Minjiang University(闽江学院);Dalian University of Technology(大连理工大学);Federation University Australia(澳大利亚联邦大学)
由部署在网络边缘的移动设备和应用程序生成的边缘数据的快速增长加剧了信息过载的问题。推荐系统作为缓解信息过载的一种有效方法,可以在稀疏的评分数据基础上,加入用户在边缘设备上产生的应用数据,如视觉和文本信息,从而提高各种服务的质量。电影预告片中的视觉信息是电影推荐系统的重要组成部分。然而,由于视觉信息抽取的复杂性,仅仅利用粗糙的视觉特征来提高收视率预测的准确性并不能显著改善数据稀疏性。幸运的是,卷积神经网络可以用来精确地提取视觉特征。因此,端到端的神经图像字幕(NIC)模型可以用来获得描述电影预告片的视觉特征的文本信息。本文提出了一种拖车初始概率矩阵分解模型(Ti-PMF),该模型结合了NIC、递归卷积神经网络和概率矩阵分解模型作为收视率预测模型。我们在三个真实世界的数据集上实现了所提出的Ti-PMF模型,并进行了大量的实验,以验证其有效性。实验结果表明,所提出的钛保偏光纤性能优于现有的。
2022-02-16 cs.CV cs.IR cs.LG
Private Matrix Factorization with Public Item Features
UC Berkeley(加州大学伯克利分校);Google(谷歌);Microsoft(微软)
本文提出基于集体矩阵分解的方法,在差分隐私约束下利用公开物品特征训练推荐模型,有效缩小私有与非私有模型的质量差距,实现从协同过滤到上下文推荐的平滑过渡。
2023-09-17 cs.CR cs.IR cs.LG
PoissonMat: Remodeling Matrix Factorization using Poisson Distribution and Solving the Cold Start Problem without Input Data
矩阵分解是近十年来最成功的推荐系统技术之一。然而,矩阵分解的经典概率理论框架是使用正态分布建模的。为了找到更好的概率模型,近年来发明了RankMat,ZeroMat和DotMat等算法。本文将推荐系统中的用户评分行为建模为泊松过程,设计了一种不依赖输入数据的算法,同时解决了推荐问题和冷启动问题。通过与矩阵分解、随机布局、Zipf布局、ZeroMat、DotMat等算法的比较,证明了该算法的优越性。
2022-12-06 cs.AI cs.IR cs.LG
Explaining Latent Factor Models for Recommendation with Influence Functions
Shanghai Jiao Tong University(上海交通大学)
潜在因素模型(LFM),如矩阵分解,实现了最先进的性能在各种协同过滤(CF)方法的推荐。尽管LFM的推荐准确性很高,但需要解决的一个关键问题是缺乏可解释性。在文献中已经做出了广泛的努力,将可解释性纳入LFM。然而,它们要么依赖于在实践中可能无法获得的辅助信息,要么未能提供易于理解的解释。在本文中,我们提出了一种快速的影响分析方法FIA,成功地执行显式的邻居风格的解释LFM的技术,影响函数源于稳健统计。我们首先描述如何采用影响函数LFM提供邻居风格的解释。在此基础上,提出了一种新的高效的矩阵分解影响计算算法。我们进一步将其扩展到更一般的神经协同过滤,并引入了一个近似算法,以加速对神经网络模型的影响分析。在真实数据集上的实验结果证明了该方法的正确性、有效性和实用性。
2018-11-20 cs.AI cs.IR cs.LG
Contrastive Learning for Cold Start Recommendation with Adaptive Feature Fusion
Tulane University(杜兰大学);University of Rochester(罗切斯特大学);Syracuse University(雪城大学);Shanghai Jiao Tong University(上海交通大学);Southwest Jiaotong University(西南交通大学)
本文提出一种融合自适应特征选择、多模态特征融合与对比学习的冷启动推荐模型,在MovieLens-1M上显著优于主流方法,并验证了各模块的有效性。
2025-02-05 cs.IR cs.LG
Addressing Cold Start For next-article Recommendation
University of Minnesota(明尼苏达大学)
本研究将ALMM模型改造用于MIND数据集上的新闻推荐,通过顺序点击建模和BERT/TF-IDF特征提取,在冷启动场景下优于基线模型,但指出最小修改的ALMM不适用。
2025-08-01 cs.IR cs.LG
Fast ALS-based tensor factorization for context-aware recommendation from implicit feedback
Budapest University of Technology and Economics(布达佩斯技术与经济大学)
提出iTALS算法,利用基于ALS的张量分解方法线性扩展至非零元素,整合上下文信息(如季节性和序列模式),在隐式反馈数据集上显著提升推荐质量。
2013-04-04 cs.IR cs.LG cs.NA
General Item Representation Learning for Cold-start Content Recommendations
Seoul National Univ.(首尔大学);Kakao Brain
针对冷启动推荐中原始内容信息未充分利用的问题,提出一种基于Transformer架构、免分类标签的领域无关多模态物品表示学习框架,实验证明其能更好保留细粒度用户品味并大规模适用于多个领域。
2024-04-22 cs.IR cs.LG cs.MM
Dynamic Matrix Factorization: A State Space Approach
Massachusetts Institute of Technology(麻省理工学院)
矩阵分解从一个小数目的观察到的条目最近获得了很多关注的成功推荐系统的关键成分。这一领域的一个未解决的问题是如何调整当前的方法来处理随着时间的推移而变化的用户偏好。最近的建议,以解决这个问题是启发式的性质,并没有充分利用时间依赖的结构的问题。作为一个原则性的和一般的时间公式,我们提出了一个动态的状态空间模型的矩阵分解。我们的建议建立在概率矩阵分解,高斯先验的贝叶斯模型。我们利用状态跟踪的结果,如卡尔曼滤波器,在过程和测量噪声的存在下提供准确的建议。我们展示了如何通过期望最大化来学习系统参数,并与当前已发表的技术进行比较。
2012-08-04 cs.LG
Metric Learning for Tag Recommendation: Tackling Data Sparsity and Cold Start Issues
Southwest Jiaotong University(西南交通大学);Carnegie Mellon University(卡内基梅隆大学);University of Southern California(南加州大学)
本文提出一种基于度量学习的标签推荐算法,通过学习距离或相似性度量捕捉用户偏好与物品特征差异,有效解决数据稀疏和冷启动问题,在多项指标上优于LRML、CML和ATF基线方法。
2024-11-10 cs.IR cs.LG
Data Context Adaptation for Accurate Recommendation with Additional Information
Seoul National University(首尔国立大学)
给定一个稀疏的评分矩阵和一个用户或项目的辅助矩阵,我们如何在考虑实体的不同数据上下文的情况下准确地预测缺失的评分?以往的研究证明,利用评分数据中的附加信息有助于提高绩效。然而,现有方法的局限性在于:1)它们忽略了评级和辅助矩阵的数据上下文不同的事实,2)它们具有有限的表达用户或项目的独立性信息的能力,以及3)它们假设用户和项目之间的关系是线性的。我们提出了DaConA,一个基于神经网络的方法与评级矩阵和辅助矩阵的推荐。DaConA的设计有以下三个主要思想。首先,我们提出了一个数据上下文适应层,以提取相关的功能,为不同的数据上下文。其次,DaConA用潜在相互作用向量和潜在独立向量表示每个实体。与以前的方法不同,这两个向量的大小都没有限制。最后,虽然以前的基于矩阵分解的方法通过潜在向量的内积预测缺失值,但DaConA通过神经网络学习它们的非线性函数。我们表明,DaConA是一个广义算法,包括标准矩阵分解和集体矩阵分解的特殊情况。通过对真实世界数据集的综合实验,我们表明DaConA提供了最先进的准确性。
2019-08-22 cs.LG stat.ML
NRBdMF: A recommendation algorithm for predicting drug effects considering directionality
The University of Tokyo(东京大学)
根据已批准药物的信息预测药物的新效应可以被视为推荐系统。矩阵因子分解是最常用的推荐系统之一,已经为它设计了各种算法,文献调查和现有的预测药物效果的算法的总结表明,大多数这样的方法,包括邻域正则化逻辑矩阵因子分解,这是在基准测试中表现最好的,使用一个二进制矩阵,只考虑存在或不存在的相互作用。然而,已知药物作用具有两个相反的方面,例如副作用和治疗作用。在本研究中,我们提出了使用邻域正则化双向矩阵分解(NRBdMF)预测药物效应,通过纳入双向性,这是药物效应的特征属性。我们使用这种提出的方法来预测副作用,使用一个考虑药物作用双向性的矩阵,其中已知的副作用被分配一个阳性标签(加1),已知的治疗效果被分配一个阴性(减1)标签。利用药物双向信息的NRBdMF模型在预测列表的顶部实现了副作用的富集,在底部实现了适应症的富集。首次尝试使用NRBdMF考虑药物作用的双向性质,表明它减少了假阳性,并产生了高度可解释的输出。
2023-01-13 cs.IR cs.LG q-bio.QM
Accelerating Matrix Factorization by Dynamic Pruning for Fast Recommendation
School of Computer Engineering and Science, Shanghai University(上海大学计算机工程与科学学院);College of Integrated Circuits and Optoelectronic Chips, School of Computer Engineering and Science, Shenzhen Technology University(深圳科技大学集成电路与光电芯片学院、计算机工程与科学学院)
本文提出通过动态剪枝减少矩阵分解计算量,提升推荐系统效率,实验显示在速度提升1.2-1.65倍的同时误差增加不超过20.08%。
2026-03-25 cs.IR cs.LG
A Collaborative Approach to Angel and Venture Capital Investment Recommendations
New York University(纽约大学)
矩阵分解被用来产生投资建议给投资者。采用迭代共轭梯度法优化正则化平方误差损失函数。探索了潜在因子的数量、迭代次数和正则化值。过拟合可以通过提前停止或正则化参数调整来解决。该模型实现了最高的平均预测精度为13.3%。使用类似的模型,使用相同的数据集为正在融资的公司生成投资者推荐,其预测准确率最高为11.1%。
2018-07-26 cs.IR cs.LG q-fin.GN
Towards Open-World Recommendation: An Inductive Model-based Collaborative Filtering Approach
Shanghai Jiao Tong University(上海交通大学);Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳人工智能与机器人研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
推荐模型可以有效地估计潜在的用户兴趣和预测一个人的未来行为,通过将观察到的用户-项目评分矩阵分解为两组潜在因素的乘积。然而,特定于用户的嵌入因素只能以转导的方式学习,这使得难以即时处理新用户。在本文中,我们提出了一个归纳协同过滤框架,其中包含两个表示模型。第一种模型是对一组关键用户的评分矩阵进行矩阵分解,得到Meta潜在项。第二个模型采用基于注意力的结构学习,估计从查询到关键用户的隐藏关系,并学习利用Meta潜伏期通过神经消息传递来归纳计算查询用户的嵌入。我们的模型使用户能够进行归纳表示学习,同时保证与矩阵分解等价的表示能力。实验表明,我们的模型取得了可喜的成果,推荐Few-Shot用户有限的训练评级和新的未知用户,这是经常遇到的开放世界推荐系统。
2022-03-07 cs.IR cs.LG
Advancing Cultural Inclusivity: Optimizing Embedding Spaces for Balanced Music Recommendations
Mila Quebec AI Institute(米拉魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学)
本研究针对音乐推荐系统中的流行度偏差,通过可解释的原型矩阵分解方法,提出过滤不相关原型和正则化技术优化嵌入空间,以增强文化公平性并保持推荐性能。
2024-05-27 cs.AI cs.IR cs.LG
Language-Based User Profiles for Recommendation
Cornell University(康奈尔大学)
本文提出基于语言的分解模型 LFM,用 LLM 编码用户评分历史为可读文本画像并用于下游预测,在冷启动场景中优于矩阵分解,且兼具可解释性与较短输入长度。
2024-02-23 cs.CL cs.HC cs.IR
A Synthetic Approach for Recommendation: Combining Ratings, Social Relations, and Reviews
National Key Laboratory for Novel Software Technology(新型软件技术国家重点实验室);Nanjing University(南京大学);Hong Kong Baptist University(香港浸会大学)
推荐系统(RS)提供了一种有效的方式来缓解信息过载问题,通过选择个性化的选择。在线社交网络和用户生成的内容为评级之外的推荐提供了多样化的来源,这为传统的RS带来了机遇和挑战。虽然社会矩阵分解(Social MF)可以将评分与社会关系结合起来,主题矩阵分解可以将评分与项目评论结合起来,但两者都忽略了一些有用的信息。在本文中,我们研究了有效的数据融合相结合的两种方法,在两个步骤。首先,我们扩展社会MF利用邻居的图结构。其次,我们提出了一个新的框架MR3联合建模这三种类型的信息有效地评级预测对齐潜在因素和隐藏的主题。我们在两个真实数据集上实现了更准确的评级预测。此外,我们衡量的贡献,每个数据源的建议框架。
2016-01-11 cs.AI cs.IR cs.LG
Matrix Factorization in Tropical and Mixed Tropical-Linear Algebras
National Technical University of Athens(雅典国立技术大学);Harvard University(哈佛大学)
本文研究热带代数及混合热带-线性矩阵分解,提出改进的TMF算法以规避局部最优,并引入三矩阵近似分解用于多用户效用学习,实验与推荐应用验证了有效性。
2023-09-25 cs.LG eess.SP
Extracting Implicit Social Relation for Social Recommendation Techniques in User Rating Prediction
Sharif University of Technology(谢里夫理工大学);Vienna University of Technology(维也纳工业大学)
推荐在我们的日常生活中扮演着越来越重要的角色。推荐系统自动向用户推荐他们可能感兴趣的项目。最近的研究表明,将社会信任的矩阵分解方法明显提高评级预测的准确性。这些方法主要使用用户明确表达的信任分数。然而,让用户提供彼此的明确信任分数通常是具有挑战性的。有相当多的作品,提出信任度来计算和预测用户之间的信任分数的基础上,他们的互动。在本文中,首先,我们提出了如何在推荐系统中通过描述用户之间的Hellinger距离来从用户对项目的评分中提取社会关系。然后,我们建议将预测的信任分数到社会矩阵分解模型。通过分析社会关系抽取从三个著名的现实世界的数据集,这两个:信任和推荐数据,我们得出结论,使用隐式的社会关系在社会推荐技术具有几乎相同的性能相比,由用户明确表达的实际信任分数。因此,我们建立我们的方法,称为Hell-TrustSVD,在最先进的社会推荐技术之上,将提取的隐式社会关系和用户对活跃用户的项目预测给出的评级结合起来。据我们所知,这是第一次使用提取的社会信任信息扩展TrustSVD。实验结果表明,在不存在显式信任的情况下,采用隐式信任进行矩阵分解,可以获得比现有方法更好的用户评分预测效果。
2017-03-17 cs.LG cs.SI
Recommending with an Agenda: Active Learning of Private Attributes using Matrix Factorization
Technicolor(特艺集团)
推荐系统利用用户人口统计信息,例如年龄、性别等,个性化推荐,更好地投放目标广告。通常情况下,由于隐私问题,或者由于缺乏填写在线个人资料的主动性,用户不会自愿提供这些信息。我们说明了一个新的威胁,其中推荐学习私人属性的用户谁不自愿透露他们。我们设计了被动和主动攻击,征求评级的战略选择的项目,因此可以使用的推荐系统来追求这个隐藏的议程。我们的方法是基于一个新的使用贝叶斯矩阵分解的主动学习设置。对多个数据集的评估表明,这种攻击确实是可行的,并且比静态推理方法使用更少的评级项目。重要的是,它们在不牺牲向用户推荐的质量的情况下取得了成功。
2014-07-30 cs.CY cs.LG
Discrete Factorization Machines for Fast Feature-based Recommendation
Shandong University(山东大学);National University of Singapore(新加坡国立大学);University of Electronic Science and Technology of China(电子科技大学);Nanyang Technological University(南洋理工大学)
辅助信息的用户特征和项目特征是实现准确推荐的关键。然而,大量的特征尺寸,例如,通常大于10^7,导致昂贵的存储和计算成本。这阻碍了快速推荐,特别是在计算资源非常有限的移动应用程序上。在本文中,我们开发了一个通用的基于特征的推荐模型,称为离散因子分解机(DFM),快速和准确的推荐。DFM将实值模型参数(例如,float32)嵌入到二进制代码中的每个特征(例如,布尔值),并因此支持高效存储和快速用户项得分计算。为了避免严重的量化损失的二值化,我们提出了一个收敛的更新规则,解决了具有挑战性的离散优化的DFM。通过对两个真实世界数据集的广泛实验,我们表明:1)DFM始终优于最先进的二进制推荐模型,2)DFM与其实值版本(FM)相比表现出非常有竞争力的性能,证明了最小化的量化损失。这项工作被IJCAI 2018接受。
2018-09-19 cs.IR cs.LG stat.ML
Recommendation from Raw Data with Adaptive Compound Poisson Factorization
IRIT(图卢兹计算机科学研究所);Université de Toulouse(图卢兹大学);CNRS(法国国家科学研究中心)
计数数据经常用于推荐系统:它们分布广泛(歌曲播放计数,产品购买,网页点击),可以在没有用户任何明确评级的情况下揭示用户偏好。已知这些数据是稀疏的,过度分散的和突发的,这使得它们在推荐系统中的直接使用具有挑战性,通常会导致预处理步骤,如二值化。本文的目的是建立推荐系统,从这些原始数据,通过最近提出的复合泊松因子分解(cPF)。论文的贡献是三方面的:我们提出了一个统一的框架离散数据(dcPF),导致自适应和可扩展的算法,我们表明,我们的框架实现了泊松因子分解(PF)应用于原始数据和二进制数据之间的权衡,我们研究了四个具体的实例,是相关的建议,并表现出新的联系与组合。三个不同数据集的实验表明,dcPF能够有效地调整过度分散,从而在原始数据或二进制数据上获得比PF更好的推荐分数。
2019-07-09 cs.IR cs.LG stat.ML
Hybrid Deep-Semantic Matrix Factorization for Tag-Aware Personalized Recommendation
矩阵分解现在已经成为社交网络上个性化推荐的主要解决方案。为了缓解冷启动问题,以前的方法已经将各种额外的信息源纳入传统的矩阵分解模型。然而,这些升级后的模型在个性化推荐的性能上仅实现了“边际”增强。因此,受深度语义建模的最新发展的启发,我们提出了一个混合的深度语义矩阵分解(HDMF)模型,以进一步提高标签感知个性化推荐的性能,通过集成深度语义建模,混合学习和矩阵分解技术。实验结果表明,HDMF在标签感知个性化推荐中的所有评价指标方面都显着优于最先进的基线,例如,其平均倒数秩(分别,平均精度)为1.52(分别,1.66)倍。
2017-08-12 cs.IR
Shared MF: A privacy-preserving recommendation system
College of Computer Science, Zhejiang University(浙江大学计算机学院)
矩阵分解是推荐系统中最常用的技术之一。随着推荐系统在电子商务购物、在线视频等方面的推广,分布式推荐系统得到了广泛推广,多源数据的隐私问题变得越来越重要。基于联邦学习技术,提出了一种共享矩阵分解方案SharedMF。首先构建了一个分布式推荐系统,然后采用秘密共享技术保护本地数据的隐私。实验结果表明,与现有的同态加密方法相比,该方法在不泄露隐私的情况下,具有更快的执行速度,能够更好地适应大数据量的推荐场景。
2020-08-18 cs.IR cs.LG stat.ML
Deep Factorization Model for Robust Recommendation
最近,恶意用户黑客攻击已经成为现实世界公司的一个巨大问题。为了学习推荐系统的预测模型,已经开发了因子分解技术来处理用户项目评级。在本文中,我们提出了一个带有对抗训练的因子分解模型的广泛架构,以克服这些问题。我们的系统的有效性证明了在现实世界的数据集上的实验结果。
2022-11-05 cs.IR
OFF-Set: One-pass Factorization of Feature Sets for Online Recommendation in Persistent Cold Start Settings
Yahoo! Labs(雅虎实验室);Yahoo! Smart Ad(雅虎智能广告)
最具挑战性的推荐任务之一是推荐给一个新的,以前看不见的用户。这就是所谓的“用户冷启动”问题。假设用户的某些特征或属性是已知的,用于处理新用户的一种方法是基于他们的特征对他们进行初始建模。受广告定位应用程序的启发,本文描述了一个极端的在线推荐设置,其中冷启动问题是永久的。每个用户只被系统遇到一次,收到一个推荐,要么消费,要么忽略它,注册一个二元奖励。本文介绍了一种新的基于潜在因子分析的推荐算法OFF-Set,它通过将用户的特征映射到一个潜在空间来对用户进行建模。此外,OFF-Set能够对特征对之间的非线性交互进行建模。OFF-Set是为纯粹的在线推荐而设计的,它会根据每个推荐-奖励观察对其模型进行轻量级更新。我们评估OFF-Set对几个国家的最先进的基线,并证明其优越性,对真正的广告定位数据。
2013-08-08 cs.IR cs.LG
Optimization Matrix Factorization Recommendation Algorithm Based on Rating Centrality
在推荐系统中,矩阵分解(MF)被广泛地用于从显式评分中挖掘用户偏好。然而,显式评分的可靠性并不总是一致的,因为许多因素可能会影响用户对物品的最终评价,包括商业广告和朋友的推荐。因此,挖掘用户的可靠评分是进一步提高推荐系统性能的关键。在这项工作中,我们分析的偏差程度的用户和项目的总体评分分布,并提出了基于用户的评分中心度和基于项目的评分中心度的概念,分别。此外,基于评分中心性,我们衡量每个用户评分的可靠性,并提供了一个优化的矩阵分解推荐算法。在两个常用的推荐数据集上的实验结果表明,该方法与其他矩阵分解推荐算法相比,具有更好的性能,尤其是在稀疏数据集上。
2018-06-20 cs.IR
Metric Factorization: Recommendation beyond Matrix Factorization
在过去的十年中,矩阵分解得到了广泛的研究,并已成为最流行的个性化推荐技术之一。然而,在基于矩阵分解的推荐模型中采用的点积不满足不等式性质,这可能限制它们的表达能力并导致次优解。为了克服这个问题,我们提出了一种新的推荐技术称为{ \em度量因子分解}。我们假设用户和项目可以被放置在一个低维空间中,并且它们的显式接近度可以使用满足不等式性质的欧几里得距离来测量。为了证明它的有效性,我们进一步设计了两个变量的度量因子分解与一个评级估计和个性化的项目排名。大量的真实世界的数据集上的实验表明,我们的方法优于现有的国家的最先进的评级预测和项目排名任务的大幅度提高。
2018-06-04 cs.IR