Rethinking Neural vs. Matrix-Factorization Collaborative Filtering: the Theoretical Perspectives
Walmart Labs(沃尔玛实验室);Instacart
Rendle等人(2020)的最新工作基于经验观察,认为矩阵分解协同过滤(MCF)优于神经协同过滤(NCF),并证明了点积作为相似性函数优于前馈神经网络。在本文中,我们通过回答以下问题严格地解决比较:1。每个模型的极限表达能力是什么; 2.在实际的梯度下降下,每条优化路径收敛到哪个解; 3.模型在归纳和转换学习环境下如何推广。我们的研究结果突出了类似的表达过度参数化的NCF和MCF作为内核化的预测,并揭示了它们的优化路径之间的关系。我们进一步展示了它们不同的泛化行为,其中MCF和NCF在转导和归纳协同过滤设置中经历了特定的权衡和比较。最后,通过展示一个新的推广结果,我们揭示了在归纳环境中校正暴露偏差对模型评估的关键作用。我们的研究结果解释了一些以前观察到的冲突,我们提供了合成和真实数据的实验,以进一步了解这一主题。
2021-10-23 cs.IR cs.LG
Maximum Entropy for Collaborative Filtering
Microsoft Research(微软研究院)
在协同过滤的任务中,存在两个计算条件概率的挑战。首先,可用的训练数据的量相对于域的大小通常是稀疏的。因此,通常不存在对高阶相互作用的支持。其次,我们所依赖的变量对于每个查询都是不同的。也就是说,用户在每次查询期间标记不同的变量。因此,没有一致的输入到输出映射。为了解决这些问题,我们的目的是最大熵的方法,使用非标准的熵测量。这种方法可以简化为求解一组可以有效求解的线性方程组。
2012-07-11 cs.IR cs.LG
Boosting Simple Collaborative Filtering Models Using Ensemble Methods
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
在本文中,我们将研究集成学习的协同过滤方法的性能的影响。我们提出了几个系统的方法来生成一个合奏的协同过滤模型的基础上,一个单一的协同过滤算法(单模型或同质合奏)。我们提出了一个适应机器学习中的几个流行的集成技术的协同过滤域,包括装袋,助推,融合和随机注入。我们评估所提出的方法上的几种类型的协同过滤基础模型:k- NN,矩阵分解和邻域矩阵分解模型。经验评估表明,预测的改善相比,所有的基础CF算法。特别是,我们表明,与单个强CF模型(如矩阵分解)相比,简单(弱)CF模型(如k-NN)的集合的性能具有竞争力,同时需要一个数量级的计算成本。
2012-11-13 cs.IR cs.LG stat.ML
ADRNet: A Generalized Collaborative Filtering Framework Combining Clinical and Non-Clinical Data for Adverse Drug Reaction Prediction
Peking University(北京大学);Yale University(耶鲁大学);University of California, San Diego(加利福尼亚大学圣迭戈分校);University of Science and Technology of China(中国科学技术大学)
ADRNet提出一个结合临床与非临床数据的广义协同过滤框架,通过浅层协同过滤与深层药物表示模块融合高维药物描述符和低维ADR嵌入,提升药物不良反应预测的准确性与效率。
2023-08-03 cs.IR cs.LG
ImplicitSLIM and How it Improves Embedding-based Collaborative Filtering
St. Petersburg Department of the Steklov Mathematical Institute(斯捷克洛夫数学研究所圣彼得堡分所)
本文提出 ImplicitSLIM,一种通过低成本、低内存方式从类 SLIM 模型提取嵌入以改进基于嵌入的协同过滤模型的无监督学习方法,无需显式训练繁重模型,能提升性能并加速收敛。
2024-05-31 cs.IR cs.LG
Deep Latent Factor Model for Collaborative Filtering
University of Paris-Est(巴黎东部大学)
潜在因素模型在基于协同过滤的推荐系统中得到了广泛的应用。近年来,深度学习已经成功地解决了各种各样的机器学习问题。受深度学习成功的启发,我们提出了一个更深版本的潜在因素模型。基准数据集上的实验表明,我们提出的技术显着优于所有国家的最先进的协同过滤技术。
2019-12-10 cs.IR cs.LG stat.ML
NeuSE: A Neural Snapshot Ensemble Method for Collaborative Filtering
Fudan University(复旦大学);University of Electronic Science and Technology of China(电子科技大学);Shanghai Jiao Tong University(上海交通大学);IBM Research - China(IBM中国研究院)
在协同过滤(CF)算法中,最优模型通常通过全局最小化所有观测数据的经验风险来学习。然而,全局模型通常经由用户/项目之间的性能折衷来获得,即,由于CF算法中的硬非凸优化问题,并非所有用户/项目都完全适合全局模型。包围学习可以通过学习多个不同的模型来解决这个问题,但通常在大型数据集或复杂算法上存在效率问题。在本文中,我们保持在全局模型学习过程中获得的中间模型作为快照模型,然后使用基于记忆网络的方法自适应地组合单个用户-项目对的快照模型。在三个真实数据集上的实验表明,该方法在应用于多种现有的协同过滤方法时,可以广泛而显著地提高准确率(相对提高15.9%).
2021-04-15 cs.IR cs.LG
Hotel Recommendation System Based on User Profiles and Collaborative Filtering
EtsTur İstanbul(EtsTur 伊斯坦布尔);Bilgisayar ve Bilişim Fakültesi İstanbul Teknik Üniversitesi(伊斯坦布尔理工大学计算机与信息学院);Bilgisayar Mühendisliği Bölümü Koç Üniversitesi(科奇大学计算机工程系)
如今,人们开始使用在线预订系统来计划他们的假期,因为他们有大量的选择。从这个大规模的选择中选择何时何地变得越来越困难。此外,有时消费者可能会错过更好的选择,因为在线预订系统上有丰富的信息。从这个意义上说,个性化服务,如推荐系统在决策中发挥着至关重要的作用。两种传统的推荐技术是基于内容的和协同过滤。虽然这两种方法都有各自的优点,但它们也有一定的缺点,其中一些可以通过结合这两种技术来解决,以提高推荐的质量。由此产生的系统被称为混合推荐系统。本文提出了一种新的混合式酒店推荐系统,该系统结合了基于内容和协同过滤的方法,为客户推荐他们需要的酒店,并节省他们的时间损失。
2020-09-21 cs.IR cs.LG
Broad Recommender System: An Efficient Nonlinear Collaborative Filtering Approach
South China Agricultural University(华南农业大学);Sun Yat-sen University(中山大学);South China University of Technology(华南理工大学)
本文提出广度协同过滤(BroadCF),用广度学习系统替代深度神经网络学习用户与物品间的非线性关系,并通过用户-物品评分协同向量预处理生成低维输入,在七个基准数据集上验证了其高效且准确的推荐性能。
2024-02-24 cs.IR cs.LG
UIPC-MF: User-Item Prototype Connection Matrix Factorization for Explainable Collaborative Filtering
National Tsing Hua University(台湾清华大学);Chang Gung University(长庚大学)
本文提出 UIPC-MF,一种基于用户-物品原型连接权重的矩阵分解方法,在保持高推荐准确率的同时提升可解释性,并在三个数据集上优于现有原型基线方法。
2023-08-14 cs.IR cs.LG
Ordinal Boltzmann Machines for Collaborative Filtering
Curtin University of Technology(科廷理工大学)
协同过滤是一种有效的推荐技术,其中个人的偏好可以潜在地基于其他成员的偏好来预测。早期的算法通常依赖于偏好数据中的强局部性,也就是说,基于具有相似品味的其他用户或具有相似属性的其他项目的一小部分来预测用户对特定项目的偏好就足够了。最近,降维技术已被证明是同样具有竞争力的,这些都是基于同现模式,而不是局部性。本文探讨和扩展了一个概率模型称为玻尔兹曼机的协同过滤任务。它无缝地集成了相似性和同现在一个原则的方式。特别是,我们研究参数化选项来处理的顺序性质的偏好,并提出了一个联合建模的用户为基础的和基于项目的过程。在中等规模和大规模的电影推荐上的实验表明,我们的框架可以与现有的知名方法相媲美。
2012-05-09 cs.IR cs.LG
Blurring-Sharpening Process Models for Collaborative Filtering
Yonsei University(延世大学)
受图滤波和基于分数的生成模型启发,提出模糊-锐化过程模型(BSPM)用于协同过滤,在理论上统摄现有模型,并在三个基准数据集上的Recall和NDCG指标上优于现有方法且处理时间与快速基线相当。
2023-04-06 cs.IR cs.LG
Data Poisoning Attacks on Factorization-Based Collaborative Filtering
Vanderbilt University(范德堡大学);Carnegie Mellon University(卡内基梅隆大学)
推荐和协同过滤系统在现代信息和电子商务应用中非常重要。随着这些系统在行业中越来越受欢迎,它们的输出可能会影响业务决策,从而促使敌对方损害这些系统的可用性或完整性。我们介绍了一个数据投毒攻击的协同过滤系统。我们展示了一个强大的攻击者如何充分了解学习者可以生成恶意数据,以最大限度地提高他/她的恶意目标,同时模仿正常的用户行为,以避免被检测到。虽然完整的知识假设似乎是极端的,它使一个强大的评估的脆弱性的协同过滤方案,以高度动机的攻击。我们提出了有效的解决方案,两个流行的基于因子分解的协同过滤算法:\emph{alternative minimization}制定和\emph{nuclear norm minimization}方法。最后,我们测试了我们提出的算法对真实世界的数据的有效性,并讨论了潜在的防御策略。
2016-10-05 cs.CR cs.IR cs.LG
Symmetric Collaborative Filtering Using the Noisy Sensor Model
University of British Columbia(不列颠哥伦比亚大学)
协同过滤是基于用户和多个其他用户对各种物品的偏好评级来做出关于用户的潜在偏好(例如,在因特网上购物)的推荐的过程。本文研究了基于显式多值评分的协同过滤。为了评估算法,我们只考虑{em pure}协同过滤,只使用评级,没有关于人或项目的其他信息。我们的方法是通过使用其他人对该项目的评价和用户对其他项目的评价作为噪声传感器来预测用户对特定项目的偏好。噪声传感器模型使用贝叶斯定理来计算用户对新项目的评分的概率分布。我们给出了两个变体模型:在一个例子中,我们学习了一个{em经典正态线性回归}模型来描述用户如何对项目进行评分;在另一个例子中,我们假设不同的用户对项目的评分相同,但是需要学习这些传感器的准确性。我们将这些变体模型与最先进的技术进行比较,并显示它们是如何明显更好的,无论用户只评价了两个项目还是多个项目。我们使用电影评级的EachMovie数据库脚注{http://research.compaq.com/SRC/eachmovie/}来验证临时结果。我们还表明,通过考虑项目的相似性以及用户的相似性,预测的准确性增加。
2013-01-10 cs.IR cs.LG
Simulated Annealing with Levy Distribution for Fast Matrix Factorization-Based Collaborative Filtering
Cairo University(开罗大学)
矩阵分解是协同过滤的最佳方法之一,因为它能准确地呈现用户和项目的潜在因素。矩阵分解的主要缺点是其复杂性,并且很难并行化,特别是对于非常大的矩阵。提出了一种基于矩阵分解的协同过滤算法,该算法将模拟退火算法与Levy分布相结合。通过使用这种方法,良好的解决方案,在可接受的时间内实现低计算,相比其他方法,如随机梯度下降,交替最小二乘法,加权非负矩阵分解。
2017-08-09 cs.IR cs.LG stat.ML
Quaternion Collaborative Filtering for Recommendation
University of New South Wales(新南威尔士大学);Nanyang Technological University(南洋理工大学);Amazon Inc.(亚马逊公司)
本文提出了一种新的表示学习推荐方法--四元数协同过滤(QCF)。我们提出的QCF依赖于并利用四元数代数的计算,受益于汉密尔顿产品的表达能力和丰富的表示学习能力。基于超复数的四元数表示使虚分量之间具有丰富的潜在依赖性。这鼓励在学习用户-物品交互时捕捉复杂的关系,与真实空间内积相比,这是一种强烈的归纳偏差。总之,我们在六个真实世界的数据集上进行了大量的实验,证明了四元数代数在推荐系统中的有效性。结果表明,QCF在所有数据集上都优于广泛的强神经基线。烧蚀实验证实了基于Hamilton的合成方法在实空间中的有效性。
2019-06-06 cs.IR cs.LG
Simultaneous Learning of the Inputs and Parameters in Neural Collaborative Filtering
Rakuten Group, Inc.(乐天集团)
基于神经网络的协同过滤系统的重点是设计网络架构,以学习更好的表示,同时固定的输入到用户/项目交互向量和/或ID。在本文中,我们首先表明,非零元素的输入是可学习的参数,确定在结合用户/项目嵌入的权重,并固定它们限制了在学习表示的模型的力量。然后,我们建议学习的非零元素的输入值与神经网络参数。我们分析了模型的复杂性和我们的方法的经验风险,并证明了学习输入导致更好的泛化界。我们在几个真实世界数据集上的实验表明,我们的方法优于最先进的方法,即使使用具有较少层数和参数的浅层网络结构。
2022-03-14 cs.IR cs.LG
Neural Fair Collaborative Filtering
University of Maryland, Baltimore County(马里兰大学巴尔的摩郡分校);Hong Kong University of Science and Technology(香港科技大学)
越来越多的人类互动在社交媒体平台上被数字化,并受到算法决策的影响,确保这些算法的公平对待变得越来越重要。在这项工作中,我们研究了在社交媒体数据上训练的协作过滤推荐系统中的性别偏见。我们开发了神经公平协同过滤(NFCF),这是一个实用的框架,用于在推荐敏感项目(例如工作,学术浓度或学习课程)时减轻性别偏见,使用神经协同过滤的预训练和微调方法,并辅以偏见校正技术。我们分别在MovieLens数据集和Facebook数据集上展示了我们的方法在性别去偏见职业和大学专业推荐方面的实用性,并实现了比几个最先进的模型更好的性能和更公平的行为。
2020-09-02 cs.IR cs.LG stat.ML
Fast Variational AutoEncoder with Inverted Multi-Index for Collaborative Filtering
University of Electronic Science and Technology of China(电子科技大学);University of Science and Technology of China(中国科学技术大学);Huawei Cloud Computing Technologies Co., Ltd.(华为云计算技术有限公司)
变分自编码器(VAE)是一种典型的非线性协同过滤方法。然而,VAE的瓶颈在于对所有项目的softmax计算,因此它需要项目数量的线性成本来计算优化的损失和梯度。这阻碍了实际使用,因为在现实世界中有数百万个项目。重要性采样是一种有效的逼近方法,基于此方法导出了采样softmax。然而,现有的方法通常利用均匀或流行的采样器作为建议分布,导致梯度估计的大偏差。为此,我们建议基于反向多指标分解基于内积的softmax概率,从而实现次线性时间和高精度采样。在此基础上,提出了一种快速的变分自编码器(FastVAE)。在三个真实数据集上的实验表明,FastVAE在采样质量和效率方面都优于最先进的基线。
2022-05-30 cs.IR cs.LG
Tensor-based Collaborative Filtering With Smooth Ratings Scale
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);AI Research Institute(人工智能研究院)
传统的协同过滤技术没有考虑用户评价感知差异的影响。有些用户可能很少给5星的项目,而其他人几乎总是分配5星的选择项目。即使他们有相同的项目的经验,这种系统性的差异,在他们的评价风格将导致系统的错误,在推荐系统的能力,有效地提取正确的模式从数据。为了缓解这个问题,我们引入了收视率的相似性矩阵,它代表了人口水平上的收视率的不同值之间的依赖关系。因此,如果平均而言评级之间的相关性存在,则可以通过抵消用户评级下调或上调的影响来提高所提出的推荐的质量。
2022-05-10 cs.IR cs.LG
Towards Large Scale Training Of Autoencoders For Collaborative Filtering
Anghami(安加米)
针对隐式反馈协同过滤问题,提出了一种基于小批量负采样的隐式反馈协同过滤潜因子自编码器模型的有效训练方法.我们将我们的工作与不同实验数据集上的最先进的基线模型进行比较,并表明这种方法可以导致基线模型性能的良好和快速近似。源代码可以在https://github.com/amoussawi/recoder上找到。
2018-10-23 cs.IR cs.LG stat.ML
Collaborative Ensemble Learning: Combining Collaborative and Content-Based Information Filtering via Hierarchical Bayes
Siemens Corporate Technology(西门子企业技术);Microsoft Research Asia(微软亚洲研究院)
协同过滤(CF)和基于内容的过滤(CBF)在信息过滤应用中得到了广泛的应用。这两种方法都有各自的优点和缺点,这就是为什么研究人员开发了混合系统。本文提出了一种新的方法来统一CF和CBF的概率框架,命名为协同集成学习。它使用概率支持向量机对每个用户的配置文件进行建模在预测阶段,它结合了一个社会的用户配置文件,由他们各自的SVM模型表示,以预测一个活跃的用户偏好(CF思想)。组合方案嵌入在概率框架中并保留直观的解释。此外,协同集成学习不需要一个全局的训练阶段,因此可以逐步纳入新的数据。2我们报告的结果基于两个数据集。对于路透社-21578文本数据集,我们模拟用户评级的假设下,每个用户只感兴趣的一个类别。在第二个实验中,我们使用用户对一组642艺术图像的意见,这些图像是通过基于网络的调查收集的。对于这两个数据集,协作集成在推荐准确性方面取得了优异的性能。
2012-10-19 cs.IR cs.LG stat.ML
Disentangled Graph Collaborative Filtering
National University of Singapore(新加坡国立大学);Peking University(北京大学);University of Science and Technology of China(中国科学技术大学)
从交互数据中学习用户和项目的信息表示对协同过滤(CF)至关重要。目前的嵌入函数利用用户-项目关系来丰富表示,从单个用户-项目实例发展到整体交互图。然而,它们在很大程度上以统一的方式对关系进行建模,而忽略了用户采用物品的意图的多样性,这些意图可能是为了打发时间,为了兴趣,或者为家人等其他人购物。这种对用户兴趣建模的统一方法很容易导致次优表示,无法对不同的关系进行建模并在表示中理清用户意图。在这项工作中,我们特别关注用户意图的更细粒度上的用户-项目关系。因此,我们设计了一个新的模型,解开图协同过滤(DGCF),解开这些因素,并产生解开表示。具体来说,通过对每个用户-项目交互的意图分布进行建模,我们迭代地细化意图感知交互图和表示。同时,我们鼓励不同意图的独立性。这导致了分离的表示,有效地提取了与每个意图相关的信息。我们在三个基准数据集上进行了广泛的实验,DGCF在NGCF,DisenGCN和MacridVAE等几个最先进的模型上取得了显着的改进。进一步的分析提供了深入了解DGCF的优势,用户的意图和可解释性的表示。我们的代码可在https://github.com/xiangwang1223/disentangled_graph_collaborative_filtering上找到。
2020-07-03 cs.IR cs.LG
Collaborative Filtering with Label Consistent Restricted Boltzmann Machine
IIIT Delhi(德里英德拉普拉斯塔信息技术学院)
采用受限玻尔兹曼机(RBM)进行协同过滤的可能性已经知道了大约十年。然而,自2007年以来,几乎没有关于这一专题的任何工作。这项工作回顾了RBM在推荐系统中的应用。基于RBM的协同过滤只使用评分信息,这是一个无监督的架构。这项工作通过利用用户人口统计信息和项目元数据来增加监督。网络是从表示层到标签(元数据)学习的。建议的标签一致的RBM制定显着改善现有的RBM为基础的方法和产量的结果与国家的最先进的潜在因素为基础的模型。
2019-10-17 cs.IR cs.LG cs.NE
User-Specific Bicluster-based Collaborative Filtering: Handling Preference Locality, Sparsity and Subjectivity
LASIGE(LASIGE实验室);Faculdade de Ciências, Universidade de Lisboa(里斯本大学理学院);INESC-ID(葡萄牙国家工程与计算机系统研究所);Instituto Superior Técnico, Universidade de Lisboa(里斯本大学高等理工学院)
协同过滤(CF),最常见的方法来建立推荐系统,成为我们的日常生活中无处不在的产品和服务的消费者。然而,挑战限制了协同过滤方法在处理推荐数据时的有效性,主要是由于用户偏好的多样性和局部性,用户项目评级的结构稀疏性,评级尺度的主观性,以及越来越高的项目维度和用户基础。为了应对这些挑战,一些作者提出了将CF与Biclustering技术相结合的成功方法。这项工作评估了双聚类方法对CF的有效性,比较了算法选择的影响,并确定了基于双聚类的优越CF的原则。因此,我们提出了USBFC,一个基于双聚类的CF方法,创建用户特定的模型,从强一致性和统计上显着的评级模式,对应于跨用户的共享偏好的子空间。对真实世界数据的评估表明,USBCF实现了与最先进的CF方法相比具有竞争力的预测准确性。此外,USBFC成功地抑制了以前提出的国家的最先进的双聚类为基础的CF的主要缺点,通过增加覆盖率,和coclustering为基础的CF通过加强子空间的均匀性。
2022-11-15 cs.IR cs.LG
A Hybrid Variational Autoencoder for Collaborative Filtering
Columbia University(哥伦比亚大学)
在当今时代,几乎每个行业都有在线存在,用户在在线市场中进行交互,个性化推荐变得非常重要。传统上,协同过滤的问题已经解决了使用矩阵分解,这是线性的性质。我们通过提出一种混合的多模态方法,扩展了[11]关于使用变分自编码器(VAE)进行隐式反馈的协同过滤的工作。我们的方法将电影嵌入(从兄弟VAE网络中学习)与Movielens 20M数据集的用户评级相结合,并将其应用于电影推荐任务。我们实证展示了VAE网络是如何通过将电影嵌入。我们还可视化的电影和用户嵌入聚类从VAE获得的潜在表示。
2018-09-23 cs.IR cs.LG stat.ML
Advances in Collaborative Filtering and Ranking
City University of Hong Kong(香港城市大学);University of California, Davis(加州大学戴维斯分校)
在这篇论文中,我们涵盖了协同过滤和排名的一些最新进展。在第一章中,我们简要介绍了协同过滤和排序的历史和现状;第二章首先讨论了基于图信息的逐点协同过滤问题,以及我们提出的新方法如何能够编码非常深的图信息,这对现有的四种图协同过滤算法有很大的帮助;第三章介绍了两两协作排序方法,以及如何将算法加速到接近线性的时间复杂度;第4章是关于新的列表方法的合作排名和如何列表方法是一个更好的选择损失的显式和隐式反馈点式和成对损失;第5章是关于我们为嵌入层提出的新的正则化技术随机共享嵌入(SSE),以及它如何在推荐和自然语言处理的6个不同任务中在理论上合理和经验上有效;第6章是我们如何在SSE的帮助下为最先进的顺序推荐模型引入个性化,这在防止我们的个性化模型过拟合到训练数据中起着重要的作用;第七章,我们总结了到目前为止所取得的成就,并预测了未来的发展方向;第八章是所有章节的附录。
2020-02-27 cs.IR cs.LG stat.ML
Completing partial recipes using item-based collaborative filtering to recommend ingredients
University of Edinburgh(爱丁堡大学)
公众对健康生活方式的兴趣增加,促使人们研究鼓励人们遵循健康饮食的算法。在只有隐式反馈的领域中,应用协同过滤来构建推荐系统也是一个快速发展的研究领域。在这份报告中,我们结合这两个趋势,开发了一个推荐系统,建议可以添加到部分食谱的成分。我们实现了基于项目的协同过滤算法,使用高维,稀疏数据集的食谱,它本质上只包含隐式反馈。我们探索了不同的相似性度量和降维对推荐质量的影响,发现我们最好的方法实现了大约40%的召回率。
2020-02-04 cs.IR cs.LG stat.ML
Survey of Privacy-Preserving Collaborative Filtering
Missouri University of Science and Technology(密苏里科技大学);University of Missouri-Columbia(密苏里大学哥伦比亚分校);Applied Computational Intelligence Laboratory, Missouri University of Science and Technology(密苏里科技大学应用计算智能实验室)
协同过滤推荐系统基于用户自己的过去偏好以及共享相似兴趣的其他用户的偏好向用户提供推荐。近年来,推荐系统的使用越来越广泛,帮助人们选择要看的电影、要读的书和要买的东西。然而,用户在使用这类系统时往往会担心自己的隐私,许多用户不愿意向大多数在线服务提供准确的信息。隐私保护协同过滤推荐系统的目标是为用户提供准确的推荐,同时保持一定的保证他们的数据的隐私。这项调查研究了最近的文献在隐私保护的协同过滤,提供了一个广阔的视野,并使用两个不同的标准对文献中的关键贡献进行分类:他们解决的脆弱性类型和他们用来解决它的方法类型。
2020-03-18 cs.CR cs.IR cs.LG
Beyond Parity: Fairness Objectives for Collaborative Filtering
Virginia Tech(弗吉尼亚理工大学)
我们研究了协同过滤推荐系统的公平性,该系统对历史数据中存在的歧视很敏感。有偏见的数据可能导致协作过滤方法对少数群体的用户做出不公平的预测。我们确定现有的公平性指标的不足,并提出了四个新的指标,解决不同形式的不公平。这些公平性度量可以通过向学习目标添加公平性项来优化。在合成数据和真实数据上的实验表明,我们的新指标可以更好地衡量公平性比基线,公平性目标有效地帮助减少不公平。
2017-11-30 cs.AI cs.IR cs.LG
Neural Network-Based Collaborative Filtering for Question Sequencing
电子学习系统(ELS)和智能教学系统(ITS)在当今的教育计划中发挥着重要作用。排序问题是为目标学习者生成个性化测验的艺术。个性化的测试将丰富学习者的经验,并将有助于更有效和更高效的学习过程。在本文中,我们使用神经协同过滤(NCF)模型来生成问题排序,并将其与基于成对记忆的问题排序算法EduRank进行比较。NCF模型显示出比EduRank模型更好的排名结果,平均精度相关性得分为0.85,而EduRank模型为0.8。
2020-04-25 cs.AI cs.IR cs.LG
Manipulation Robustness of Collaborative Filtering Systems
Stanford University(斯坦福大学)
协同过滤系统向用户推荐相似用户喜欢的产品。协同过滤系统影响购买决策,因此已成为肆无忌惮的供应商操纵的目标。我们提供的理论和实证结果表明,而常见的最近邻算法,这是广泛使用的商业系统中,可以是非常容易受到操纵,两类协同过滤算法,我们称之为线性和渐近线性是相对稳健的。这些结果为今后协同过滤系统的设计提供了指导。
2009-04-19 cs.IT cs.LG math.IT
Implicit Feedback Deep Collaborative Filtering Product Recommendation System
University of Toronto(多伦多大学)
在本文中,几个协同过滤(CF)的方法与潜变量的方法进行了研究,使用用户项目的相互作用,以捕捉重要的隐藏变化的稀疏客户购买行为。潜在因素被用来概括客户的购买模式,并提供产品建议。具有神经协同过滤(NCF)的CF在一家大型零件供应公司提供的真实专有数据集上显示出最高的归一化贴现累积增益(NDCG)性能。使用贝叶斯优化(BO)测试不同的超参数在CF框架中的适用性。外部数据源,如点击数据和指标,如点击率(CTR)进行了审查,以潜在的扩展工作。本文中所展示的工作提供了公司可以用来提供产品推荐的技术,以增加收入,吸引新客户,并获得超过竞争对手的优势。
2020-12-11 cs.IR cs.LG stat.ML
Exploiting sparsity to build efficient kernel based collaborative filtering for top-N item recommendation
University of Padova(帕多瓦大学)
越来越多的隐式反馈数据集的可用性提高了开发有效的协同过滤技术,能够处理不对称的明确的正反馈和模糊的负反馈的兴趣。在本文中,我们提出了一个原则性的基于核的协同过滤方法的前N项的建议与隐式反馈。我们提出了一个有效的实现使用的线性内核,我们展示了如何将其推广到内核的点积家庭保持效率。我们还研究了影响标准余弦核稀疏性的元素。该分析表明,核的稀疏性强烈地依赖于数据集的属性,特别是依赖于长尾分布。我们比较我们的方法与国家的最先进的算法取得了良好的效果,无论是在效率和有效性。
2016-12-17 cs.AI cs.IR cs.LG
Deep Variational Models for Collaborative Filtering-based Recommender Systems
Universidad Politécnica de Madrid(马德里理工大学)
深度学习提供了精确的协同过滤模型来改善推荐系统的结果。深度矩阵分解及其相关的协作神经网络是该领域的最新技术;然而,这两种模型都缺乏必要的随机性来创建变分自编码器所展示的鲁棒、连续和结构化的潜在空间。另一方面,由于推荐系统的高稀疏性,通过变分自编码器的数据增强在协同过滤领域中不提供准确的结果。我们提出的模型应用变分的概念,注入随机性的深层架构的潜在空间,引入变分技术在神经协同过滤领域。该方法不依赖于用于生成潜在表示的特定模型。通过这种方式,这种方法可以作为插件应用于任何当前和未来的特定模型。所提出的模型已经使用四个代表性的开放数据集,三种不同的质量指标和最先进的基线进行了测试。结果表明,所提出的方法的优越性的情况下,变分富集超过注入噪声的影响。此外,提供了一个框架,使进行的实验的再现性。
2021-07-27 cs.IR cs.LG cs.NE
Markov Random Fields for Collaborative Filtering
Netflix(网飞)
在本文中,我们通过高斯马尔可夫随机场(MRF)的项目之间的依赖关系,推荐给用户的协作过滤问题。我们建立在Besag的自正态参数化和伪似然的基础上,这不仅可以实现计算效率的学习,而且还将MRF和稀疏逆协方差估计与自动编码器和邻域模型(协作过滤中的两种成功方法)连接起来。我们提出了一种新的近似学习稀疏的MRF,其中的权衡精度和训练时间可以控制。与各种基线(包括深度非线性模型)相比,仅用一小部分训练时间,所提出的方法就在我们实验中使用的所有三个众所周知的数据集上实现了具有竞争力的排名准确性,特别是在具有最多项目的数据集上的准确性提高了20%。
2019-10-21 cs.IR cs.LG stat.ML
Collaborative filtering via sparse Markov random fields
Center for Pattern Recognition and Data Analytics(模式识别与数据分析中心);Deakin University(迪肯大学)
推荐系统在提供个性化的信息和服务方面发挥着核心作用。本文重点介绍了协同过滤,一种方法,利用共享结构之间的头脑喜欢的用户和类似的项目。特别是,我们专注于一个正式的概率框架称为马尔可夫随机场(MRF)。我们解决了结构学习的开放问题,并引入了稀疏诱导算法来自动估计用户之间和项目之间的交互结构。项目-项目和用户-用户相关网络作为副产品获得。在电影推荐和日期匹配数据集上的大规模实验证明了该方法的有效性。
2016-02-09 cs.IR cs.LG stat.ML
TimeKit: A Time-series Forecasting-based Upgrade Kit for Collaborative Filtering
Yonsei University(延世大学);Kakao Corporation(Kakao公司)
推荐系统是数据采掘和机器学习领域的一个长期研究课题。当新的用户-项交互日志到达时,它们本质上是增量的。在实际应用中,我们需要定期训练协同过滤算法来提取用户/项目嵌入向量,因此,可以自然地定义嵌入向量的时间序列。我们提出了一个基于时间序列预测的升级工具包(TimeKit),它的工作方式如下:i)首先确定一个基本的协同过滤算法,ii)使用基本算法从用户-项目交互日志中增量地提取用户/项目嵌入向量,例如,每个月,iii)用提取的嵌入向量的时间序列训练我们的时间序列预测模型,然后iv)预测未来的嵌入向量并由于最近在处理复杂的时间序列数据方面的突破而用它们的点积分数进行推荐,即,神经控制微分方程(NCDE)我们的实验与四个真实世界的基准数据集表明,所提出的时间序列预测为基础的升级工具包可以显着提高现有流行的协同过滤算法。
2022-11-08 cs.AI cs.IR cs.LG
Reducing offline evaluation bias of collaborative filtering algorithms
Viadeo;Université Paris 1 Panthéon - Sorbonne(巴黎第一大学先贤祠-索邦大学)
推荐系统已经被集成到大多数大型在线系统中,以根据用户简档过滤和排名信息。因此,它会影响用户与系统交互的方式,并因此影响使用历史数据计算的推荐算法的性能评估(通过离线评估)。本文提出了一种新的应用加权离线评估,以减少这种偏见的协同过滤算法。
2015-06-12 cs.IR cs.LG stat.ML
Dependency Networks for Collaborative Filtering and Data Visualization
Microsoft Research(微软研究院)
我们描述了一个概率关系的图形模型-贝叶斯网络的一种替代方案-称为依赖网络。与贝叶斯网络不同,依赖网络的图可能是循环的。与贝叶斯网络一样,依赖网络的概率分量是一组条件分布,每个节点都有一个条件分布。我们确定了这种表示的几个基本属性,并描述了一个计算效率高的程序,从数据中学习的图形和概率分量。我们描述了这种表示的应用概率推理,协同过滤(预测偏好的任务),和因果预测关系的可视化。
2013-01-16 cs.AI cs.IR cs.LG
A Bayesian Approach toward Active Learning for Collaborative Filtering
Michigan State University(密歇根州立大学);Carnegie Mellon University(卡内基梅隆大学)
协同过滤是利用一组用户的偏好模式来预测项目对活跃用户的效用的有用技术。一般来说,协同过滤的性能取决于活跃用户给出的评级示例的数量。活跃用户给出的评级示例的数量越多,预测的评级就越准确。主动学习提供了一种有效的方法来从活跃用户那里获得最具信息性的评级示例。协同过滤的主动学习以前的工作只考虑了预期的损失函数的基础上估计的模型,这可能是误导时,估计的模型是不准确的。本文进一步考虑了估计模型的后验分布,从而得到更鲁棒的主动学习算法。对电影评分数据集的实证研究表明,当活跃用户的评分数量被限制为很小时,仅基于估计模型的主动学习方法表现不佳,而使用模型分布的主动学习方法获得了更好的性能。
2012-07-11 cs.IR cs.LG stat.ML
Regret Guarantees for Item-Item Collaborative Filtering
Massachusetts Institute of Technology(麻省理工学院)
有很多经验证据表明,项目-项目协同过滤在实践中工作得很好。为了理解这一点,我们提供了一个框架来设计和分析各种推荐算法。设置相当于在线二进制矩阵完成,其中每次随机用户请求推荐,算法选择一个条目以显示在用户的行中。我们的目标是尽量减少遗憾,或者等价地最大化在任何时候显示的+1条目的数量。我们分析了一个项目-项目协同过滤算法,可以从根本上实现更好的性能相比,用户-用户协同过滤。该算法实现了良好的“冷启动”性能(适当定义),快速作出良好的建议,新用户的信息很少。
2016-01-08 cs.IR cs.IT cs.LG
An Explainable Autoencoder For Collaborative Filtering Recommendation
University of Louisville(路易斯维尔大学)
自编码器是深度学习架构的常见构建块,它们主要用于表示学习。它们也被成功地用于协同过滤(CF)推荐系统,以预测缺失的评级。不幸的是,像所有黑盒机器学习模型一样,它们无法解释它们的输出。因此,虽然基于Autoencoder的推荐系统的预测可能是准确的,但用户可能不清楚为什么会生成推荐。在这项工作中,我们设计了一个可解释的推荐系统,使用Autoencoder模型,其预测可以解释使用基于邻域的解释风格。我们的初步工作可以被认为是迈向基于自动编码器的可解释深度学习架构的第一步。
2019-12-23 cs.AI cs.IR cs.LG
Collaborative Filtering with Side Information: a Gaussian Process Perspective
University of Oxford(牛津大学)
我们通过高斯过程(GP)回归来解决带边信息的协同过滤(CF)问题。驱动的想法,使用内核来显式地模拟用户项目的相似性,我们制定的GP的方式,允许纳入低秩矩阵分解,到达我们的模型,塔克高斯过程(TGP)。因此,TGP概括了经典的贝叶斯矩阵分解模型,并超越了它们,给出了一种自然而优雅的方法,用于合并边信息,增强了CF问题的预测性能。此外,我们表明,这是一种新的回归模型,特别适合于网格结构的数据和问题的协变量的依赖是接近可分离的。
2017-06-08 cs.IR cs.LG stat.ML
Geometric Collaborative Filtering with Convergence
Amazon(亚马逊)
本文提出几何上界并利用物品元数据几何结构构造损失,形成具有理论保证的 GeoCF 潜变量协同过滤算法,在多个公开和内部大规模数据集上优于现有方法。
2024-10-27 cs.IR cs.LG cs.SY
Variational Autoencoders for Collaborative Filtering
Netflix(网飞);MIT(麻省理工学院);Google AI(谷歌人工智能)
我们扩展变分自编码器(VAE)的协同过滤隐式反馈。这种非线性的概率模型使我们能够超越线性因子模型的有限建模能力,仍然在很大程度上主导协同过滤的研究。我们引入了一个生成模型与多项式似然和使用贝叶斯推断的参数估计。尽管在语言建模和经济学中广泛使用,但在推荐系统文献中,多项式似然得到的关注较少。我们为学习目标引入了一个不同的正则化参数,这被证明是实现有竞争力的性能的关键。值得注意的是,有一种有效的方法来调整参数使用退火。由此产生的模型和学习算法具有信息理论的联系,最大熵歧视和信息瓶颈原则。从经验上讲,我们表明,所提出的方法显着优于几个国家的最先进的基线,包括两个最近提出的神经网络的方法,在几个现实世界的数据集。我们还提供了扩展的实验比较多项式似然与其他常用的似然函数的潜在因素协同过滤文献,并显示出良好的结果。最后,我们确定的优点和缺点,采用原则性的贝叶斯推断方法和特征设置,它提供了最显着的改进。
2018-02-16 cs.IR cs.LG stat.ML
Neural Graph Collaborative Filtering
National University of Singapore(新加坡国立大学);University of Science and Technology of China(中国科学技术大学);Hefei University of Technology(合肥工业大学)
学习向量表示(Learning Vector Representations)嵌入)是现代推荐系统的核心。从早期的矩阵分解到最近出现的基于深度学习的方法,现有的努力通常通过从描述用户(或项目)的预先存在的特征(例如ID和属性)进行映射来获得用户(或项目)的嵌入。我们认为,这种方法的一个固有的缺点是,合作的信号,这是潜在的用户项目的互动,是不是在嵌入过程中编码。因此,所得到的嵌入可能不足以捕获协同过滤效果。在这项工作中,我们建议将用户-项目交互-更具体地说,二分图结构-嵌入过程。提出了一种新的推荐框架神经图协同过滤(Neural Graph Collaborative Filtering,NGCF),该框架利用用户-项目图的结构,通过在其上传播嵌入,实现了用户-项目图的高阶连通性的表达建模,有效地将协同信号以显式的方式注入到嵌入过程中。我们在三个公共基准上进行了广泛的实验,证明了几个最先进的模型,如HOP-Rec和协作内存网络的显着改进。进一步的分析验证了嵌入传播对于学习更好的用户和项目表示的重要性,证明了NGCF的合理性和有效性。代码可在https://github.com/xiangwang1223/neural_graph_collaborative_filtering上获得。
2020-07-03 cs.IR cs.LG cs.SI
Active Collaborative Filtering
University of Toronto(多伦多大学)
协同过滤(CF)允许汇集多个用户的偏好,以针对未见过的产品进行推荐。我们认为在本文中的问题,在线和互动CF:鉴于当前的收视率与用户,什么样的查询(新的收视率)将最能提高质量的建议?我们将此术语转换为信息的期望值(EVOI);但是计算最优查询的在线计算成本是令人望而却步的。我们展示了如何离线原型设计和计算的界限EVOI可以用来显着减少所需的在线计算。我们开发的框架是一般的,但我们专注于推导和实证研究的多原因矢量量化模型的特定情况下。
2012-10-19 cs.IR cs.LG stat.ML
When Collaborative Filtering Meets Reinforcement Learning
The Hong Kong Polytechnic University(香港理工大学)
本文研究了一个多步交互式推荐问题,其中当前推荐的项目可能会影响未来推荐的质量。为了解决这个问题,我们开发了一种新颖而有效的方法,命名为CFRL,它无缝集成了协同过滤(CF)和强化学习(RL)的想法。更具体地说,我们首先将推荐者-用户交互式推荐问题建模为代理-环境RL任务,该任务在数学上由马尔可夫决策过程(MDP)描述。此外,为了实现整个用户社区的协作推荐,我们提出了一种新的CF为基础的MDP编码到一个共享的潜在向量空间的所有用户的状态。最后,我们提出了一种有效的Q-网络学习方法来学习基于CF的MDP的代理的最优策略。CFRL的能力是通过比较其性能对各种现有的方法在现实世界的数据集。
2019-04-02 cs.IR cs.LG stat.ML
Handling Cold-Start Collaborative Filtering with Reinforcement Learning
Carnegie Mellon University(卡内基梅隆大学)
推荐系统中的一个主要挑战是处理新用户,他们也被称为$\textit{cold-start}$用户。在本文中,我们提出了一种新的方法来学习一系列最佳的问题,以访问冷启动用户的电影推荐系统。我们建议使用Deep Q Networks来学习面试问题,以创建用户简档,从而为冷启动用户提供更好的推荐。虽然我们提出的系统是使用电影推荐系统进行训练的,但我们的Deep Q Network模型应该可以推广到各种类型的推荐系统。
2018-06-16 cs.AI cs.IR cs.LG
Review Regularized Neural Collaborative Filtering
University of Utah(犹他大学)
近年来,文本感知协同过滤方法被提出来解决推荐中的基本挑战,如数据稀疏性,冷启动问题,和长尾分布。然而,许多面向文本的方法严重依赖于每个用户和项目的文本信息的可用性,这在现实场景中显然不成立。此外,专门为文本处理设计的网络结构对于在线服务是非常低效的,并且难以集成到当前系统中。在本文中,我们提出了一个灵活的神经推荐框架,命名为审查正则化推荐,简称为R3。它由一个专注于预测输出的神经协同过滤部分和一个作为正则化器的文本处理部分组成。这种模块化设计在训练阶段将文本信息作为更丰富的数据源,同时对于在线服务高度友好,因为它在服务时间不需要即时文本处理。我们的初步结果表明,通过使用一个简单的文本处理方法,它可以实现更好的预测性能比国家的最先进的文本感知方法。
2020-08-20 cs.IR cs.LG stat.ML
Enhancing VAEs for Collaborative Filtering: Flexible Priors & Gating Mechanisms
Seoul National University(首尔大学)
基于神经网络的协同过滤模型最近开始受到关注。研究的一个分支是基于使用深度生成模型来模拟用户偏好,其中变分自动编码器被证明可以产生最先进的结果。然而,当前用于CF的变分自动编码器存在一些潜在的问题特性。第一个是VAE在学习用户偏好的潜在表示时引入的过于简单的先验知识。另一个是模型无法学习每个网络具有多个隐藏层的更深层次的表示。我们的目标是采用适当的技术来缓解变分自动编码器CF的上述问题,并进一步提高推荐性能。我们的工作是第一个应用灵活的先验协同过滤,并表明,简单的先验(在原始VAE)可能过于限制,以充分模拟用户的喜好和设置一个更灵活的先验提供了显着的收益。我们实验VampPrior,最初提出的图像生成,检查灵活的先验CF的效果。我们还表明,VampPriors加上门控机制优于SOTA结果,包括在2个流行的基准数据集(MovieLens和Netflix)上有意义的利润率的协同过滤的变分自动编码器。
2019-11-03 cs.IR cs.LG stat.ML
CB2CF: A Neural Multiview Content-to-Collaborative Filtering Model for Completely Cold Item Recommendations
Microsoft(微软);Tel Aviv University(特拉维夫大学);Technion(以色列理工学院)
在推荐系统的研究中,推荐算法通常被描述为协同过滤(CF)或基于内容(CB)。CF算法使用用户偏好的数据集进行训练,而CB算法通常基于项目配置文件。这些方法利用不同的数据源,因此产生的推荐项目通常非常不同。本文介绍了CB2CF,一种深度神经多视图模型,作为从项目内容到其CF表示的桥梁。CB2CF是一种真实世界的算法,专为处理全球约10亿用户的Microsoft Store服务而设计。CB2CF在电影和应用程序推荐上进行了演示,在完全冷的项目上,它的表现优于另一种CB模型。
2019-09-21 cs.CL cs.IR cs.LG
Improving information retrieval from electronic health records using dynamic and multi-collaborative filtering
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);CSCI Consulting Inc.(CSCI咨询公司);The Ohio State University(俄亥俄州立大学);Regenstrief Institute(雷根斯特里夫研究所);Indiana University School of Medicine(印第安纳大学医学院)
由于关于个体患者的可用信息的快速增长,大多数医生在他们审查健康信息技术系统中的患者信息时遭受信息过载。在这篇文章中,我们提出了一种新的混合动态和多协同过滤方法,以提高电子健康档案的信息检索。该方法在患者就诊期间为医生推荐来自电子健康记录的相关信息。它使用马尔可夫模型对信息搜索动态进行建模。它还利用了协同过滤的关键思想,起源于推荐系统,根据医生,患者和信息项之间的各种相似性来优先考虑信息。我们使用印第安纳州患者护理网络的真实电子健康记录数据测试了这种新方法。我们的实验结果表明,对于46.7%的测试案例,这种新方法能够正确地优先考虑医生真正感兴趣的前5个建议中的相关信息。
2020-08-12 cs.HC cs.IR cs.LG