Mixture Matrix Completion
Georgia State University(佐治亚州立大学)
完成数据矩阵X已成为现代数据科学中普遍存在的问题,其应用于推荐系统、计算机视觉和网络推理等。一个典型的假设是X是低秩的。一个更一般的模型假设X的每一列对应于几个低秩矩阵之一。本文将这些模型推广到我们称之为混合矩阵完备(MMC)的情况下,X的每个条目对应于几个低秩矩阵之一。MMC是一个更准确的推荐系统模型,并带来了更多的灵活性,以其他完成和聚类问题。我们对这一新模式做出了四个基本贡献。首先,我们证明了MMC在理论上是可能的(适定性)。其次,我们给出了它的精确的信息论可识别性条件。第三,我们推导了MMC的样本复杂度。最后,我们给出了一个实用的算法MMC与性能相媲美的国家的最先进的简单的相关问题,合成和真实的数据。
2018-08-02 cs.LG stat.ML
Spectral gap-based deterministic tensor completion
Western Washington University(西华盛顿大学);Harbor Branch Oceanographic Institute(港湾分支海洋学研究所);Florida Atlantic University(佛罗里达大西洋大学);University of California, Irvine(加州大学欧文分校)
该研究针对确定性采样下张量补全理论有限的问题,推导了Poisson损失与原子范数最小化方法的更紧泛化误差界,改进了秩依赖关系,验证了实用算法重构误差与谱间隙的关联,为张量算法研究提供新视角。
2023-06-09 cs.LG stat.ML
Polynomial Networks and Factorization Machines: New Insights and Efficient Training Algorithms
NTT Communication Science Laboratories(NTT通信科学研究所)
多项式网络和因子分解机是最近提出的两种模型,可以有效地在分类和回归任务中使用特征交互。在本文中,我们从一个统一的角度重新审视这两种模式。基于这一新的观点,我们研究了这两种模型的性质,并提出了新的有效的训练算法。我们的方法的关键是将参数学习作为一个低秩对称张量估计问题,我们通过多凸优化来解决。我们展示了我们关于回归和推荐系统任务的方法。
2016-07-29 cs.LG stat.ML
Neural Hybrid Recommender: Recommendation needs collaboration
Istanbul Technical University(伊斯坦布尔技术大学)
近年来,深度学习在计算机视觉、语音识别和自然语言处理方面取得了无可争议的成功。在这些具有挑战性的领域取得成功之后,它也被用于推荐系统,但主要是将内容特征纳入传统方法。在本文中,我们介绍了一个广义的神经网络为基础的推荐框架,很容易扩展额外的网络。这个名为NHR的框架,是神经混合推荐器的缩写,它允许我们从相同和不同的数据源中包含更详细的信息。我们已经研究了项目预测问题,但该框架也可以用于评级预测问题,只需对损失函数进行一次更改。为了评估这样一个框架的效果,我们已经测试了我们的方法在基准测试和尚未实验的数据集。在这些真实世界的数据集的结果表明,与最先进的方法相比,我们的方法的优越性能。
2019-09-29 cs.IR cs.LG
CRUISE on Quantum Computing for Feature Selection in Recommender Systems
School of Computing Technologies, RMIT University(RMIT大学计算技术学院)
本文提出利用量子退火器求解推荐系统特征选择中的QUBO问题,并引入反事实分析显著提升基于物品的KNN推荐算法性能。
2024-07-03 cs.AI cs.IR
A collaborative filtering model with heterogeneous neural networks for recommender systems
近年来,深度神经网络被引入到推荐系统中来解决协同过滤问题,在计算机视觉、语音识别和自然语言处理等领域取得了巨大的成功。一方面,深度神经网络可以用来对推荐系统中的辅助信息进行建模。另一方面,它也能够建模用户和项目之间的非线性关系。深度神经网络的一个优点是可以通过增加神经网络的深度来容易地增强算法的性能。然而,当利用深度神经工作来建模用户和项目之间的关系时,可能会出现两个潜在的问题。基本问题是,算法的复杂性随着神经网络深度的增加而显著增长。第二个是更深的神经网络可能会破坏算法的准确性。为了缓解这些问题,我们提出了一种混合神经网络,结合异构神经网络与不同的结构。在真实数据集上的实验结果表明,该方法在项目排序方面优于现有的方法。
2020-10-13 cs.IR cs.LG
A Simple and Scalable Tensor Completion Algorithm via Latent Invariant Constraint for Recommendation System
University of Missouri - Columbia(密苏里大学哥伦比亚分校);Stanford University(斯坦福大学)
在本文中,我们提供了一个潜在的变量制定和解决方案的推荐系统(RS)问题的基本属性,任何合理的解决方案应该满足。具体来说,我们研究了一种新的张量完成方法,以有效和准确地学习模型参数的不可观察的个人偏好,用户评级的基础。通过正则化张量分解与一个单一的潜在不变,我们实现了可靠的推荐系统的三个属性:(1)张量完成结果的唯一性与最小的假设,(2)单位的一致性,是独立于用户的任意偏好,和(3)共识排序保证,提供一致的排名之间的观察和未观察到的评分。我们的算法导致一个简单而优雅的推荐框架,具有线性计算复杂性,没有超参数调整。我们提供的实证结果表明,该方法显着优于目前最先进的方法。
2022-07-03 cs.HC cs.IR cs.LG
Towards an Integrative Educational Recommender for Lifelong Learners
University College London(伦敦大学学院)
计算机辅助学习最雄心勃勃的用例之一是建立终身学习的推荐系统。大多数推荐算法利用内容和用户之间的相似性,监督为学习者利用合理学习轨迹的必要性。因此,终身学习提出了独特的挑战,需要可扩展和透明的模型,可以同时考虑学习者的知识和内容的新颖性,同时也保留了长期准确的学习者表示。我们试图建立一个新的教育推荐系统,它依赖于一个综合的方法结合学习者参与的多个驱动程序。我们实现这一目标的第一步是TrueLearn,它对学习者的内容新颖性和背景知识进行建模,并在保留人类可解释的学习者模型的同时实现了有希望的性能。
2019-12-03 cs.AI cs.IR cs.LG
Commonality in Recommender Systems: Evaluating Recommender Systems to Enhance Cultural Citizenship
推荐系统已经成为策划文化内容的主要手段,显著影响个人的文化体验。由于推荐系统倾向于优化个性化的用户体验,因此它们可能会忽略对总体文化体验的影响。在证明了现有的指标不以文化为中心之后,我们引入了一个新的指标--共性,它衡量了推荐让给定的用户群体熟悉特定类别的文化内容的程度。我们通过计算机科学、社会科学和人文科学的研究人员之间的跨学科对话发展了共性。参照民主社会中公共服务媒体系统的基本原则,我们确定地址的普遍性和内容多样性在加强文化公民身份方面的服务是提供文化内容的推荐系统的特别相关目标。我们开发的共性作为衡量推荐系统的一致性,促进内容向一个共享的文化体验,在人口的用户。我们经验性地比较推荐算法的性能,使用共性与现有的指标,证明共性捕获一个新的属性的系统行为的补充现有的指标。除了现有的公平性和多样性指标,共性有助于越来越多的学术机构为机器学习系统开发“公益”理论。
2023-02-23 cs.IR
Deep Learning to Address Candidate Generation and Cold Start Challenges in Recommender Systems: A Research Survey
Indian Institute of Management Lucknow(勒克瑙印度管理学院);Indian Institute of Management Raipur(赖布尔印度管理学院)
在机器学习的商业应用中,推荐系统在成功和采用方面将占据领先地位。他们帮助用户加速搜索过程,同时帮助企业最大限度地提高销售额。在计算机视觉和语音识别领域取得巨大成功后,深度学习方法开始应用于推荐系统。当前关于推荐系统中深度学习的调查论文提供了基于类型的推荐系统的历史概述和分类。我们的论文解决了提供深度学习方法分类的差距,以解决推荐系统中的冷启动和候选生成领域的推荐系统问题。我们概述了推荐系统中的不同挑战,这些挑战与推荐本身有关(包括相关性,速度,准确性和可扩展性),与数据的性质有关(冷启动问题,不平衡和稀疏性)和候选生成。然后,我们提供了一个分类的深度学习技术来解决这些挑战。深度学习技术被映射到推荐系统中的不同挑战,提供了如何使用深度学习技术来解决这些挑战的概述。我们贡献了一个分类的深度学习技术,以解决推荐系统中的冷启动和候选生成问题。冷启动通过其他功能(音频、图像、文本)以及学习隐藏的用户和项目表示来解决。候选生成已经通过单独的网络、RNN、自动编码器和混合方法来解决。我们还总结了这些技术的优点和局限性,同时概述了未来的研究领域。
2019-07-17 cs.IR cs.LG stat.ML
GraphConfRec: A Graph Neural Network-Based Conference Recommender System
University of Mannheim(曼海姆大学)
在当今的学术出版模式中,特别是在计算机科学领域,会议通常是发布各自领域最新同行评议进展的主要平台。然而,选择一个合适的学术场所发表自己的研究可以代表一个具有挑战性的任务,考虑到过多的可用会议,特别是对于那些在他们的学术生涯开始,或对于那些寻求出版以外的通常域。在本文中,我们提出了GraphConfRec,一个会议推荐系统,它结合了SciGraph和图神经网络,推断建议的基础上不仅标题和摘要,但也对合著和引用关系。GraphConfRec通过基于图注意力网络的推荐模型实现了高达0.580的recall@10和高达0.336的MAP。25名受试者的用户研究支持积极的结果。
2021-06-23 cs.DL cs.IR cs.LG
A Survey on Accuracy-oriented Neural Recommendation: From Collaborative Filtering to Information-rich Recommendation
Hefei University of Technology(合肥工业大学);Institute of Artificial Intelligence, Hefei Comprehensive National Science Center(合肥综合性国家科学中心人工智能研究院);University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学)
受深度学习在计算机视觉和语言理解领域取得巨大成功的影响,推荐领域的研究已经转向发明基于神经网络的新推荐模型。近年来,由于神经网络强大的表示能力,神经推荐模型的研究取得了重大进展,它推广和超越了传统的推荐模型。本文从推荐建模的角度,以推荐准确率为目标,对神经推荐模型进行了系统的综述,旨在对该领域的研究进行总结,以方便推荐系统的研究者和实践者。具体来说,根据推荐建模过程中的数据使用情况,我们将工作分为协同过滤和信息丰富推荐:1)协同过滤,它利用用户-项目交互数据的关键来源; 2)内容丰富推荐,它另外利用与用户和项目相关的辅助信息,如用户简档和项目知识图谱;以及3)时间/顺序推荐,它考虑与交互相关的上下文信息,例如时间、位置和过去的交互。在回顾了每种类型的代表性工作后,我们最后讨论了这一领域中一些有前途的方向。
2021-12-27 cs.IR cs.LG
Hiformer: Heterogeneous Feature Interactions Learning with Transformers for Recommender Systems
Google DeepMind(谷歌DeepMind);Google Inc(谷歌公司)
针对网络规模推荐系统中特征交互稀疏且异构的挑战,提出Hiformer模型,通过异构自注意力层和低秩近似、剪枝实现高效部署,在Google Play上线后关键指标提升达2.66%。
2023-11-10 cs.IR cs.LG
Wide & Deep Learning for Recommender Systems
Google Inc.(谷歌公司)
具有非线性特征变换的广义线性模型被广泛应用于具有稀疏输入的大规模回归和分类问题。通过广泛的跨产品特征转换的特征交互的泛化是有效的和可解释的,而泛化需要更多的特征工程工作。通过较少的特征工程,深度神经网络可以通过为稀疏特征学习的低维密集嵌入来更好地泛化到看不见的特征组合。然而,当用户-项目交互稀疏且排名高时,具有嵌入的深度神经网络可能过度泛化并推荐不太相关的项目。在本文中,我们提出了宽和深度学习-联合训练的宽线性模型和深度神经网络-结合推荐系统的记忆和泛化的好处。我们在Google Play上对该系统进行了生产和评估,Google Play是一个商业移动应用程序商店,拥有超过10亿活跃用户和超过100万个应用程序。在线实验结果表明,与仅限宽和仅限深的模型相比,宽深模型显著增加了应用程序的获取。我们还在TensorFlow中开源了我们的实现。
2016-06-24 cs.IR cs.LG stat.ML
Tensor-based Collaborative Filtering With Smooth Ratings Scale
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);AI Research Institute(人工智能研究院)
传统的协同过滤技术没有考虑用户评价感知差异的影响。有些用户可能很少给5星的项目,而其他人几乎总是分配5星的选择项目。即使他们有相同的项目的经验,这种系统性的差异,在他们的评价风格将导致系统的错误,在推荐系统的能力,有效地提取正确的模式从数据。为了缓解这个问题,我们引入了收视率的相似性矩阵,它代表了人口水平上的收视率的不同值之间的依赖关系。因此,如果平均而言评级之间的相关性存在,则可以通过抵消用户评级下调或上调的影响来提高所提出的推荐的质量。
2022-05-10 cs.IR cs.LG
Probabilistic Models for Unified Collaborative and Content-Based Recommendation in Sparse-Data Environments
University of Pennsylvania(宾夕法尼亚大学);NEC Research Institute(NEC研究院)
推荐系统利用产品和社区信息将产品定位给消费者。研究人员已经开发出协作式浏览器、基于内容的浏览器和(主要是自组织的)混合系统。我们提出了一个统一的概率框架合并协作和基于内容的建议。我们扩展了Hofmann的[1999]方面模型,将用户,项目和项目内容之间的三路共现数据。协作数据与内容数据的相对影响不是作为外生参数强加的,而是从给定的数据源自然出现的。与标准期望最大化(EM)学习算法相结合的全局概率模型在稀疏数据情况下往往会严重过拟合,这在推荐应用中是典型的。我们表明,次要内容信息通常可以用来克服稀疏性。对来自计算机科学出版物的ResearchIndex库的数据的实验表明,适当的混合模型结合二级数据产生比k-最近邻(k-NN)更好的质量预测器。全局概率模型也允许比k-NN等局部方法更一般的推断。
2013-01-10 cs.IR cs.LG stat.ML
Measuring Commonality in Recommendation of Cultural Content: Recommender Systems to Enhance Cultural Citizenship
推荐系统已成为文化内容策划的主要手段,显著影响个人文化体验的性质。虽然大多数关于推荐系统的研究都是针对个性化用户体验进行优化,但这种模式并没有捕捉到推荐系统在总体上、在用户群体中影响文化体验的方式。尽管现有的新颖性、多样性和公平性研究探讨了系统如何与文化内容的更广泛的社会作用相关联,但它们并没有充分地将文化作为核心概念和挑战。在这项工作中,我们引入共性作为一个新的措施,反映了在何种程度上推荐熟悉特定类别的文化内容的用户群体。我们提出的共性度量响应一组参数开发通过跨学科的对话研究人员在计算机科学和社会科学和人文科学。参考的原则,支持非营利,公共服务媒体系统在民主社会中,我们确定的地址和内容多样性的普遍性,在加强文化公民的服务,特别是相关的目标,推荐系统提供文化内容。以电影推荐中的多样性为案例研究,在增强多元文化体验,我们实证比较系统的性能使用共性和现有的效用,多样性和公平性指标。我们的研究结果表明,共性捕获系统行为的属性补充现有的指标,并建议需要替代的,非个性化的干预措施,在推荐系统面向加强跨人群的用户的文化公民身份。通过这种方式,共性有助于越来越多的学术机构为数字媒体和ML系统开发“公共利益”理论。
2022-08-02 cs.CY cs.IR
TFNet: Multi-Semantic Feature Interaction for CTR Prediction
点击率(CTR)预测在计算广告和推荐系统中起着核心作用。在该领域中存在几种方法,例如逻辑回归(LR),因子分解机(FM)和基于深度学习的方法,如Wide&Deep,神经因子分解机(NFM)和DeepFM。然而,这样的方法通常使用每对特征的向量积,这忽略了特征交互的不同语义空间。在本文中,我们提出了一种新的基于张量的特征交互网络(TFNet)模型,该模型引入了一个操作张量,通过多个语义空间中的多切片矩阵来阐述特征交互。大量的离线和在线实验表明:TFNet:1)在典型的Criteo和Avazu数据集上的性能优于竞争性比较方法; 2)在中国最大的应用推荐系统腾讯MyApp的在线A/B测试中,收入和点击率都有很大的提高。
2020-06-29 cs.IR
CosRec: 2D Convolutional Neural Networks for Sequential Recommendation
University of California, San Diego(加州大学圣地亚哥分校)
序列模式在构建现代推荐系统中起着重要的作用。为此,几个推荐系统已经建立在马尔可夫链和递归模型(等)之上。尽管这些顺序模型在一系列任务中已经被证明是成功的,但它们仍然难以揭示用户购买历史中嵌套的复杂关系。在本文中,我们认为,成对关系建模直接导致一个有效的表示顺序功能,并捕捉复杂的项目相关性。具体来说,我们提出了一个用于顺序推荐的2D卷积网络(CosRec)。它将一系列项编码为三向张量;使用2D卷积滤波器学习局部特征;并以前馈方式聚合高阶交互。在两个公共数据集上的定量结果表明,我们的方法优于传统方法和最近的基于序列的方法,在各种评估指标上实现了最先进的性能。
2019-08-27 cs.IR cs.LG
Visually-aware Recommendation with Aesthetic Features
视觉信息在人类决策过程中起着至关重要的作用。虽然视觉感知推荐系统的最新发展已经考虑到产品形象,他们都没有考虑美学方面。我们认为,审美因素是非常重要的建模和预测用户的喜好,特别是对一些时尚相关的领域,如服装和珠宝。这项工作解决了视觉感知推荐系统中的审美信息建模的需要。从技术上讲,我们在利用深层美学特征方面做出了三个关键贡献:(1)为了描述产品的美学,我们引入了通过深层美学网络从产品图像中提取的美学特征。我们将这些功能纳入推荐系统中,在审美方面的用户的喜好模型。(2)在服装推荐中,时间对于用户的决策非常重要,因此我们设计了一个新的隐式反馈数据的张量分解模型。然后将美学特征注入到基本张量模型中以捕获美学偏好的时间动态(例如,季节性模式)。(3)我们还使用美学特征来优化内隐反馈数据的学习策略。我们通过考虑视觉空间和图空间中项目之间的相似性来丰富成对训练样本;关键思想是用户可能对相似项目有相似的感知。我们在几个真实世界的数据集上进行了广泛的实验,并证明了美学特征的有用性和我们提出的方法的有效性。
2021-01-16 cs.IR
Fast ALS-based tensor factorization for context-aware recommendation from implicit feedback
Budapest University of Technology and Economics(布达佩斯技术与经济大学)
提出iTALS算法,利用基于ALS的张量分解方法线性扩展至非零元素,整合上下文信息(如季节性和序列模式),在隐式反馈数据集上显著提升推荐质量。
2013-04-04 cs.IR cs.LG cs.NA
Context-aware recommendations from implicit data via scalable tensor factorization
尽管基于隐式反馈的推荐问题-当只有用户历史可用但没有评级时-是现实世界应用中最典型的设置,但它比显式反馈情况少得多。在显式情况下有效的最先进的算法不能自动转换到隐式情况下,如果应保持可伸缩性。很少有隐式反馈基准数据集,因此新的想法通常在显式基准上进行实验。在本文中,我们提出了一种通用的上下文感知隐式反馈推荐算法,称为iTALS。iTALS应用了一种快速的、基于ALS的张量因式分解学习方法,该方法与张量中非零元素的数量呈线性关系。我们还提出了两个近似的和更快的变体iTALS使用坐标下降和共轭梯度方法在学习。该方法还允许我们将各种上下文信息纳入模型,同时保持其计算效率。我们提出了两个上下文感知的iTALS的变体,将季节性和项目购买顺序性的模型,以区分用户行为在不同的时间间隔,和产品类型具有不同的重复性。在六个数据集上运行的实验表明,iTALS明显优于上下文感知模型和上下文感知基线,而在召回率和MAP方面,它与因子分解机器(12种情况中有7种)不相上下。
2013-09-29 cs.IR cs.LG
Display Content, Display Methods and Evaluation Methods of the HCI in Explainable Recommender Systems: A Survey
本文综述可解释推荐系统的人机交互层,提出统一研究框架,从生命周期梳理技术方法,强调视频解释,并结构化总结定性与定量评估。
2025-05-14 cs.HC cs.IR
Personalised and Dynamic Trust in Social Networks
我们提出了一种新的信任度量的社交网络,这是适用于推荐系统。它是个性化的和动态的,并允许计算两个代理之间的间接信任,这不是邻居的基础上,代理之间的直接信任是邻居。类似于某些个性化版本的PageRank,该指标利用了反馈中心性的概念,并克服了其他信任指标的一些局限性。特别是,它不会像其他一些算法那样忽略周期和其他表征社交网络的模式。为了将该度量应用于推荐系统,我们提出了一种使信任随时间变化的方法。我们通过解析近似和计算机模拟表明,该度量具有所需的属性。最后,我们进行了实证验证,从互联网社区爬取的数据集,并比较推荐系统的性能,使用我们的度量,一个使用协同过滤。
2009-05-09 cs.CY cs.IR physics.soc-ph
Exploring Adapter-based Transfer Learning for Recommender Systems: Empirical Studies and Practical Insights
本文实证研究 Adapter 在 TransRec 中的参数高效迁移效果,比较全参数微调、多模态推荐、插入方式及数据规模影响,并给出实践指导。
2023-12-08 cs.IR
RAH! RecSys-Assistant-Human: A Human-Centered Recommendation Framework with LLM Agents
Fudan University(复旦大学);Microsoft Research Asia(微软亚洲研究院)
本研究提出RAH框架,利用基于LLM的智能体(感知、学习、行动、评估、反思)和Learn-Act-Critic循环,通过以人为本的方法解决推荐系统中的准确性、偏见和冷启动问题,有效减轻用户负担并增强控制。
2023-10-17 cs.AI cs.IR