A Scalable Recommendation Engine for New Users and Items
Duke University(杜克大学);University College London(伦敦大学学院)
在许多数字环境中,诸如在线新闻和具有许多新用户和项目的电子零售,推荐系统面临若干挑战:冷启动问题),ii)如何学习用户对项目的偏好(测试和学习),以及iii)如何在具有无数人口统计和属性的许多用户和项目之间进行缩放。虽然许多推荐系统适应这些挑战的各个方面,但几乎没有解决所有问题的系统。本文介绍了一个协同过滤(CF)多臂强盗(B)与属性(A)推荐系统(CFB-A),以共同适应所有这些考虑。包括对MovieLens数据的离线测试、合成数据模拟和在线杂货店实验的经验应用表明,CFB-A导致累积平均奖励(例如,花费的总金钱或时间、点击次数、购买数量、平均评分等)相对于现存最强大的基线方法。
2023-02-27 cs.IR cs.LG
Variational Inference for Category Recommendation in E-Commerce platforms
Walmart Global Tech(沃尔玛全球技术)
在电子商业平台上为用户推荐类别是一项重要的任务,因为它决定了网站的流量。因此,重要的是要表面精确和多样化的类别建议,以帮助用户通过平台的旅程,并帮助他们发现新的项目组。类别推荐中一个经常被低估的部分是用户重复购买的倾向。这种时间行为的结构可以收获更好的类别推荐,在这项工作中,我们试图通过变分推理来利用这一点。此外,为了增强基于变分推理的优化,我们通过众所周知的Metapath2Vec算法在更好的起点初始化优化器。我们在两个真实世界的数据集上展示了我们的结果,并表明我们的模型优于标准基线方法。
2021-04-19 cs.IR cs.LG
Conditioned Variational Autoencoder for top-N item recommendation
University of Padova(帕多瓦大学)
在本文中,我们提出了一个有条件的变分自编码器(C-VAE)的约束top-N项目推荐,其中推荐的项目必须满足一个给定的条件。所提出的模型架构类似于标准VAE,其中条件向量被馈送到编码器中。由于考虑了输入条件的新的重建损失,在训练期间学习受约束的排名。我们表明,我们的模型概括了国家的最先进的多VAE协同过滤模型。此外,我们还提供了关于C-VAE在潜在空间中学习的内容的见解,提供了人性化的解释。实验结果强调了C-VAE在约束条件下提供准确建议的潜力。最后,所进行的分析表明,C-VAE可以用于其他推荐场景,如上下文感知推荐。
2020-05-04 cs.IR cs.LG
ContrastVAE: Contrastive Variational AutoEncoder for Sequential Recommendation
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Salesforce(赛富时)
顺序推荐是一种利用用户行为序列中丰富信息的推荐方法,在实际推荐系统中得到了广泛的应用。然而,目前的方法存在以下问题:1)用户-项目交互的稀疏性,2)顺序记录的不确定性,3)长尾项目。在本文中,我们建议将对比学习纳入变分自编码器的框架中,以同时应对这些挑战。首先,我们介绍了一种新的训练目标,将传统的单视图ELBO扩展到双视图的情况下,并从理论上建立了VAE和对比学习之间的连接从双视图的角度。然后,我们提出了对比变分自编码器(简称ContrastVAE),一个两分支的VAE模型与对比正则化作为一个实施例的ContrastELBO顺序推荐。我们进一步介绍了两个简单而有效的增强策略,命名为模型增强和变分增强,以创建一个序列的第二个视图,从而使对比学习成为可能。在四个基准数据集上的实验证明了ContrastVAE和所提出的增强方法的有效性。代码可在https://github.com/YuWang-1024/ContrastVAE上获得
2022-12-05 cs.IR cs.LG
Within-basket Recommendation via Neural Pattern Associator
Loblaw Digital(罗布劳数字公司);Dalhousie University(达尔豪斯大学)
针对篮内推荐忽视用户多意图、多粒度及意图切换的问题,提出神经模式关联器(NPA),通过向量量化学习意图码本并注意力查找,在杂货与音乐数据集上显著优于现有方法。
2024-03-14 cs.IR cs.LG
Adversarial and Contrastive Variational Autoencoder for Sequential Recommendation
Shanghai Jiao Tong University(上海交通大学);University of Michigan-Shanghai Jiao Tong University Joint Institute(密歇根大学-上海交通大学联合学院);School of Cyber Science and Engineering(网络空间科学与工程学院);School of Software(软件学院)
序贯推荐作为一个新兴的研究课题,由于其重要的现实意义而受到越来越多的关注。基于深度学习和注意力机制的模型在顺序推荐中取得了良好的性能。近年来,基于变分自编码器(VAE)的生成式模型在协同过滤中显示出独特的优势。特别地,序列VAE模型作为VAE的递归版本,可以有效地捕获用户序列中项目之间的时间依赖性并执行序列推荐。然而,基于VAE的模型遭受一个共同的限制,即所获得的近似后验分布的代表性能力是有限的,从而导致生成的样本的质量较低。对于生成序列尤其如此。为了解决上述问题,在这项工作中,我们提出了一种新的方法称为对抗和对比变分自编码器(ACVAE)的顺序推荐。具体来说,我们首先介绍了在对抗变分贝叶斯(AVB)框架下用于序列生成的对抗训练,这使得我们的模型能够生成高质量的潜变量。然后,我们使用对比损失。潜变量将能够通过最小化对比损失来学习更多个性化和显著的特征。此外,在对序列进行编码时,我们采用了递归和卷积结构来捕获序列中的全局和局部关系。最后,我们在四个真实世界的数据集上进行了广泛的实验。实验结果表明,我们提出的ACVAE模型优于其他国家的最先进的方法。
2021-03-19 cs.IR cs.LG
RecVAE: a New Variational Autoencoder for Top-N Recommendations with Implicit Feedback
Samsung-PDMI Joint AI Center(三星-PDMI联合人工智能中心);Steklov Institute of Mathematics at St. Petersburg(圣彼得堡斯捷克洛夫数学研究所);Moscow Institute of Physics and Technology(莫斯科物理技术学院)
最近的研究表明,使用基于深度神经网络的自动编码器进行协同过滤具有优势。特别是,最近提出的Mult-VAE模型,它使用了多项式似然变分自编码器,已经显示出优秀的结果,前N个建议。在这项工作中,我们提出了推荐VAE(RecVAE)模型,该模型源于我们对变分自编码器正则化技术的研究。RecVAE引入了几个新的想法来改进Mult-VAE,包括潜在代码的新复合先验分布,为$β$ -VAE框架设置$β$超参数的新方法,以及基于交替更新的新训练方法。在实验评估中,我们表明RecVAE在经典的协同过滤数据集上显著优于先前提出的基于自动编码器的模型,包括Mult-VAE和RaCT,并提出了详细的消融研究来评估我们的新发展。代码和模型可在https://github.com/ilya-shenbin/RecVAE上获得。
2019-12-24 cs.IR cs.LG
Providing Previously Unseen Users Fair Recommendations Using Variational Autoencoders
Norwegian University of Science and Technology(挪威科技大学)
针对推荐系统因用户建模而违反公平性且无法服务新用户的问题,提出限制变分自编码器中人口信息编码的方法,实现为未见用户提供公平推荐。
2023-08-29 cs.AI cs.IR cs.LG
Joint Variational Autoencoders for Recommendation with Implicit Feedback
Ontario Tech University(安大略理工大学)
变分自编码器(VAE)最近在隐式反馈的协同过滤中表现出很好的性能。这些现有的推荐模型学习用户表示来重建或预测用户偏好。我们介绍了联合变分自编码器(JoVA),两个VAE的合奏,其中VAE共同学习用户和项目表示,并共同重建和预测用户的喜好。这种设计允许JoVA同时捕获用户-用户和项目-项目的相关性。通过使用基于铰链的成对损失函数(JoVA-Hinge)扩展JoVA的目标函数,我们进一步将其专门用于具有隐式反馈的top-k推荐。我们在几个真实世界数据集上的广泛实验表明,在各种常用指标下,JoVA-Hinge的性能优于一系列最先进的协同过滤方法。我们的实证结果也证实了JoVA铰链优于现有的方法,冷启动用户与有限数量的训练数据。
2020-08-17 cs.IR cs.LG stat.ML
[RE] Modeling Personalized Item Frequency Information for Next-basket Recommendation
本文复现并扩展了基于个性化商品频率的TIFU-KNN下一篮推荐模型,通过多数据集与多指标验证其优于基线,并引入β-VAE架构,同时分析了公平性与小购物篮挑战。
2024-02-27 cs.IR
Item Cold Start Recommendation via Adversarial Variational Auto-encoder Warm-up
Tencent News(腾讯新闻)
随机初始化的项目ID嵌入和经过良好训练的暖项目ID嵌入之间的差距使得冷项目难以适应推荐系统,该推荐系统是在历史暖项目数据上训练的。为了缓解新项目推荐的性能下降,新项目ID嵌入的分布应该接近历史热门项目的分布。为了实现这一目标,我们提出了一个对抗变分自动编码器预热模型(AVAEW)来为冷项生成预热项ID嵌入。具体来说,我们开发了一个条件变分自动编码器模型,以利用项目的边信息来生成预热项目ID嵌入。特别是,我们引入了一个对抗模块来加强热身项目ID嵌入分布和历史项目ID嵌入分布之间的对齐。我们通过在公开数据集上的大量离线实验和在真实世界的大规模新闻推荐平台上的在线A/B测试,证明了所提出的方法的有效性和兼容性。
2023-02-28 cs.AI cs.IR cs.LG
Latent Variable Session-Based Recommendation
Durham University(杜伦大学);Criteo Research(科韬研究院)
基于会话的推荐为传统的特征工程推荐方法提供了一种有吸引力的替代方案。特征工程方法需要创建用户历史的手动调整特征以产生上下文向量。相比之下,基于会话的方法能够动态地对用户的行为状态进行建模。我们提出了一个基于会话的推荐概率框架。用户状态的潜在变量随着用户查看更多的项目而更新,并且我们更多地了解他们的兴趣。潜变量模型在概念上简单而优雅,但需要复杂的计算技术来近似潜变量的积分。我们使用重新参数化技巧和使用softmax函数的Bouchard界提供计算解决方案,我们进一步探索采用变分自动编码器和变分期望最大化算法来收紧变分界。该模型对一些基线表现良好。该模型的直观性质允许一个优雅的公式结合项目之间的相关性和他们的流行程度,并揭示了其他流行的推荐方法。潜在变量方法的一个有吸引力的特征是,随着用户继续行动,用户状态的后验收紧,反映了推荐系统对该用户的增加的知识。
2019-09-17 cs.IR cs.LG
Item Recommendation with Variational Autoencoders and Heterogenous Priors
Columbia University(哥伦比亚大学);Netflix(网飞)
近年来,变分自动编码器(VAE)已被证明是非常有效的标准协同过滤应用程序和扩展,如纳入隐式反馈。我们将VAE扩展到带有辅助信息的协同过滤,例如当评级与用户的明确文本反馈相结合时。而不是使用一个用户不可知的标准高斯先验,我们将用户相关的先验在潜在的VAE空间编码用户的偏好作为功能的评论文本。综合考虑评分和文本信息,在多模态潜在空间中表示用户,有望提高推荐质量。我们提出的模型优于现有的VAE模型的协同过滤(高达29.41%的排名指标的相对改善)以及其他基线,将用户评级和文本的项目推荐。
2018-10-07 cs.IR cs.LG stat.ML
Multi-Auxiliary Augmented Collaborative Variational Auto-encoder for Tag Recommendation
向项目推荐适当的标签可以促进内容组织、检索、消费和其他应用,其中混合标签推荐系统已经被用于集成协作信息和内容信息以用于更好的推荐。本文提出了一种多辅助增广协作变分自动编码器(MA-CVAE)用于标签推荐,它将项目协作信息和项目多辅助信息相耦合,内容和社交图谱,通过定义一个生成过程。具体而言,该模型使用变分自编码器(VAE)从不同的项目辅助信息中学习深度潜在嵌入,该变分自编码器通过引入由深度神经网络参数化的潜在变量来形成每个辅助信息的生成分布。此外,为了推荐新项目的标签,项目多辅助潜在嵌入被用作通过项目解码器预测每个标签的推荐概率的代理,其中重建损失被添加在训练阶段中,以通过不同的辅助嵌入来限制反馈预测的生成。此外,一个归纳变分图自动编码器的设计,新的项目节点可以推断在测试阶段,使项目社会嵌入可以利用新的项目。在MovieLens和Citeulike数据集上的实验证明了该方法的有效性。
2022-04-20 cs.IR
Dual Adversarial Variational Embedding for Robust Recommendation
鲁棒推荐的目的是从噪声数据中获取用户的真实偏好,目前已经提出了两种方法。一种是基于噪声注入,另一种是采用生成模型变分自动编码器(VAE)。然而,现有的工作仍然面临两个挑战。首先,基于噪声注入的方法通常从预先给定的固定噪声分布中提取噪声,而在现实世界中,由于个人行为和项目使用模式,不同用户和项目的噪声分布可能彼此不同。第二,基于VAE的模型表达能力不足以捕捉真实的偏好,因为VAE通常产生单一模态的嵌入空间,而在现实世界中,用户-项目交互通常表现出多模态的用户偏好分布。在本文中,我们提出了一种新的模型称为双对抗变分嵌入(DAVE)的鲁棒推荐,它可以提供个性化的降噪为不同的用户和项目,并捕捉多模态的嵌入空间,通过结合VAE和对抗训练的优点之间引入的辅助鉴别器和变分推理网络。在真实数据集上进行的大量实验验证了DAVE在鲁棒推荐方面的有效性。
2021-06-30 cs.IR
Exploiting Variational Domain-Invariant User Embedding for Partially Overlapped Cross Domain Recommendation
跨领域推荐(CDR)是利用不同领域的知识来解决推荐系统中的冷启动问题的一种方法。现有的CDR模型大多假设源域和目标域共享相同的重叠用户集进行知识转移。然而,在实际CDR任务中,只有少数比例的用户同时在源域和目标域上激活。在本文中,我们专注于部分重叠的跨域推荐(POCDR)问题,即如何利用重叠和非重叠用户的信息,以提高推荐性能。现有的方法不能充分利用跨域非重叠用户背后的有用知识,这限制了模型的性能时,大多数用户是非重叠的。为了解决这个问题,我们提出了一个端到端的双自动编码器与变域不变的嵌入对齐(VDEA)模型,跨域推荐框架的POCDR问题,它利用双变分自编码器与本地和全局嵌入对齐利用域不变的用户嵌入。VDEA首先采用变分推理捕获协作用户偏好,然后利用Gromov-Wasserstein分布共聚类最优传输对具有相似评级交互行为的用户进行聚类。我们在豆瓣和亚马逊数据集上的实证研究表明,VDEA显著优于最先进的模型,特别是在POCDR设置下。
2022-05-27 cs.IR
Can Perturbations Help Reduce Investment Risks? Risk-Aware Stock Recommendation via Split Variational Adversarial Training
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院);Data Science Research Center, Duke Kunshan University(昆山杜克大学数据科学研究中心);School of Software Engineering, Sun Yat-sen University(中山大学软件工程学院)
针对现有股票推荐方法风险控制不足的问题,提出基于分裂变分对抗训练的风险感知推荐方法,通过变分扰动生成器建模风险因素增强模型风险感知,在真实数据集上风险调整后收益优于最优基线30%以上。
2024-01-26 cs.IR cs.LG q-fin.RM
Mind the Gap: Bridging Behavioral Silos with LLMs in Multi-Vertical Recommendations
DoorDash Inc.(DoorDash公司)
提出利用LLM从数据丰富垂直领域(如餐厅)向稀疏领域(如杂货)迁移知识的框架,通过分层RAG生成多级特征,集成到MTL排序模型,显著提升新兴业务个性化与参与度。
2026-06-04 cs.AI cs.IR
AgentDR: Dynamic Recommendation with Implicit Item-Item Relations via LLM-based Agents
Amazon(亚马逊);University of Michigan(密歇根大学)
AgentDR通过基于LLM的代理利用隐式物品-物品关系,结合记忆机制和提示策略,提升动态推荐的全排名性能和相关性。
2026-02-24 cs.AI cs.IR
Item-based Variational Auto-encoder for Fair Music Recommendation
Pohang University of Science and Technology(浦项科技大学);Peoples' Friendship University of Russia (RUDN University)(俄罗斯人民友谊大学(RUDN大学));Joint Institute for Nuclear Research(联合核研究所);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Skövde(舍夫德大学)
我们为EvalRS DataChallenge提供解决方案。EvalRS DataChallenge旨在构建一个更现实的推荐系统,考虑评估的准确性,公平性和多样性。我们提出的系统是基于一个基于项目的变分自动编码器(VAE)和贝叶斯个性化排名矩阵分解(BPRMF)之间的合奏。为了减轻受欢迎程度的偏差,我们对每个受欢迎程度组使用基于项目的VAE,并附加公平正则化。为了在预测不准确的情况下也能做出合理的推荐,我们将BPRMF的推荐列表和基于项目的VAE的推荐列表相结合。通过实验,我们证明了基于项目的VAE与公平正则化显着减少流行的偏见相比,基于用户的VAE。基于项目的VAE和BPRMF之间的集成使得即使预测不准确,前1项也与地面实况相似。最后,我们提出了一个“系数方差为基础的公平性”作为一种新的评价指标的基础上,我们从广泛的实验反射。
2022-10-24 cs.CY cs.IR cs.LG
Improving Item Cold-start Recommendation via Model-agnostic Conditional Variational Autoencoder
嵌入式MLP已经成为现代大规模推荐系统的一种范式。然而,这种模式遭受冷启动问题,这将严重损害生态健康的推荐系统。本文试图通过为具有历史数据和有限交互记录的冷项目生成增强的预热ID嵌入来解决项目冷启动问题。从行业实践的角度来看,我们主要关注以下三点项目冷启动:1)在线推荐场景下,如何在没有额外数据需求的情况下进行冷启动,并使策略易于部署。2)如何利用历史记录和新项目不断出现的交互数据。3)如何从交互数据中稳定地建模项目ID和辅助信息之间的关系。为了解决这些问题,我们提出了一个模型无关的条件变分自编码器为基础的推荐(CVAR)框架,具有一些优点,包括各种骨干兼容性,没有额外的数据要求,利用历史数据和最近出现的互动。CVAR使用潜变量来学习项目边信息的分布,并使用条件解码器生成所需的项目ID嵌入。通过在公开数据集上的大量离线实验和在腾讯新闻推荐平台上的在线A/B测试,进一步验证了CVAR的优势和鲁棒性。
2022-05-27 cs.IR
Repeat-bias-aware Optimization of Beyond-accuracy Metrics for Next Basket Recommendation
针对下一购物篮推荐中的重复偏差,本文提出模型无关的后处理优化算法,在提升多样性与商品公平性的同时缓解重复推荐,并在三个真实数据集上验证有效。
2025-01-10 cs.IR
LSF-SR: Latent Semantic Fusion for Sequential Recommendation via Flow-based Conditional Variational Autoencoders
National Yang Ming Chiao Tung University(国立阳明交通大学);National Chung Hsing University(国立中兴大学)
针对序列推荐中协同信号与语义知识难以对齐的问题,提出基于流式条件变分自编码器的LSF-SR框架,融合物品ID嵌入与LLM语义信号,在五个基准数据集上显著提升推荐性能。
2026-09-25 cs.IR
DualVAE: Dual Disentangled Variational AutoEncoder for Recommendation
针对协同过滤中纠缠表示忽略用户与物品多样匹配关系的问题,提出 DualVAE 模型,结合注意力感知双解耦机制与变分推断学习解耦表示,并引入邻域增强约束与对比机制提升表示质量,在多个基准上显著超越基线且具备可解释性。
2024-01-10 cs.IR
Exploiting Latent Codes: Interactive Fashion Product Generation, Similar Image Retrieval, and Cross-Category Recommendation using Variational Autoencoders
University of the Philippines, Diliman(菲律宾大学迪利曼分校)
深度学习应用在时尚行业的兴起推动了大规模数据集的管理,以构建产品设计,图像检索和推荐系统的应用程序。本文提出利用变分自编码器(Variational Autoencoder,VAE)来构建一个交互式的时尚产品应用框架,允许用户根据自己的喜好生成具有属性的产品,检索同一产品类别的相似风格,并接收来自其他类别的基于内容的推荐。包含眼镜、鞋类和箱包的时尚产品图像数据集适合于说明该管道适用于蓬勃发展的电子商务行业,从而能够在指定所需产品时与新的数据匹配方法进行直接用户交互,并通过使用VAE并利用其生成的潜在代码来推荐系统。
2020-09-02 cs.CV cs.IR
i$^2$VAE: Interest Information Augmentation with Variational Regularizers for Cross-Domain Sequential Recommendation
提出基于变分自编码器的i$^2$VAE框架,通过互信息正则化器提取冷启动用户特征并生成伪序列增强长尾用户兴趣,有效提升了跨域序列推荐效果。
2025-05-29 cs.IR
Causal Disentangled Variational Auto-Encoder for Preference Understanding in Recommendation
The University of New South Wales(新南威尔士大学);Macquarie University(麦考瑞大学);Osaka University(大阪大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61)
本文提出因果解耦变分自编码器CaD-VAE,利用结构因果模型建模推荐场景中潜在因素间的因果关系,以学习因果解耦表示,从而提升推荐模型的鲁棒性、可解释性与可控性,并在实验中优于现有方法。
2023-04-17 cs.AI cs.IR
LatentCRS: A Variational EM Framework for Bridging Semantics and Behavior in LLM-based Conversational Recommendation
Nanjing University(南京大学)
提出LatentCRS框架,通过变分EM过程桥接LLM的语义空间与用户行为模式,解决对话推荐中语义理解与推荐精度不匹配的问题,实验表明其有效提升推荐性能。
2026-06-23 cs.CL cs.IR
Mutually-Regularized Dual Collaborative Variational Auto-encoder for Recommendation Systems
最近,面向用户的自动编码器(UAE)已被广泛用于推荐系统,以学习用户的语义表示的基础上,他们的历史评级。然而,由于潜在的项目变量在阿联酋没有建模,它是很难利用广泛可用的项目内容信息时,评级是稀疏的。此外,每当新物品到达时,我们需要等待收集这些物品的评级数据,并从头开始重新训练UAE,这在实践中效率低下。针对上述两个问题,我们提出了一个相互正则化的双重合作变分自动编码器(MD-CVAE)的建议。首先,通过用堆叠的潜在项嵌入替换vanilla UAE的随机初始化的最后一层权重,MD-CVAE集成了两个异构信息源,即,项目内容和用户评级,到相同的原则变分框架中,其中UAE的权重由项目内容正则化,使得可以避免由于数据稀疏而收敛到非最优。此外,正则化是相互的,因为用户评级也可以帮助双项内容模块学习更多面向正则化的项内容嵌入。最后,我们提出了一个对称的推理策略MD-CVAE阿联酋编码器的第一层权重绑定到阿联酋解码器的潜在项目嵌入。通过这一战略,不需要再培训就可以推荐新引进的项目。实证研究表明,MD-CVAE在正常和冷启动的情况下的有效性。代码可在https://github.com/yaochenzhu/MD-CVAE上获得。
2022-11-21 cs.IR
Coupled Variational Recurrent Collaborative Filtering
Texas A&M University(德州农工大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院)
本文研究了流媒体推荐系统中的问题,并探索了新的协同过滤算法来处理流媒体推荐系统中数据的动态性和复杂性。虽然深度神经网络已经证明了推荐任务的有效性,但缺乏在流推荐设置下集成概率模型和深度架构的探索。结合概率模型和深度神经网络的互补优势,可以提高模型的有效性和对推理不确定性的理解。为了弥补这一差距,本文提出了一种基于深度贝叶斯学习思想的耦合变分递归协同过滤(CVRCF)框架来处理流媒体推荐问题。该框架结合了贝叶斯范式下的随机过程和深度因子分解模型,对用户偏好和项目流行度的生成和演变进行建模。为了保证有效的优化和流更新,我们进一步提出了一个顺序变分推理算法的基础上交叉变分递归神经网络结构。在三个基准数据集上的实验结果表明,该框架在时间依赖建模和预测精度方面都优于最先进的方法。学习的潜变量还提供了时间动态演化的可视化解释。
2019-06-11 cs.IR cs.LG stat.ML
Cross-modal Variational Auto-encoder for Content-based Micro-video Background Music Recommendation
本文提出了一种基于内容的微视频背景音乐推荐的跨模态变分自动编码器(CMVAE)。CMVAE是一种分层贝叶斯生成模型,通过将这两个多模态输入投影到共享的低维潜在空间中来将相关背景音乐与微视频进行匹配,其中匹配的视频-音乐对的两个对应嵌入的对齐通过交叉生成来实现。此外,通过专家乘积(PoE)原理融合多模态信息,其中微视频的视觉和文本模态中的语义信息根据它们的方差估计被加权,使得具有较低噪声水平的模态被赋予更多权重。因此,微视频潜变量包含更少的无关信息,从而导致更鲁棒的模型泛化。此外,我们建立了一个大规模的基于内容的微视频背景音乐推荐数据集TT-150 k,由来自不同用户的150,000个微视频相关的大约3,000个不同的背景音乐片段组成。在已建立的TT-150 k数据集上的实验证明了该方法的有效性。还包括通过可视化一些推荐结果对CMVAE进行定性评估。
2022-12-11 cs.IR cs.MM
A Collective Variational Autoencoder for Top-$N$ Recommendation with Side Information
推荐系统由于其在许多现实世界中的实际应用而得到了广泛的研究。尽管如此,用稀疏的用户评级生成有效的推荐仍然是一个挑战。与项目相关联的边信息已被广泛用于解决评级稀疏性。现有的推荐模型,使用边信息是线性的,因此,有限制的表达。深度学习已经被用于通过从辅助信息学习深度项表示来捕获非线性,但是由于辅助信息是高维的,现有的深度模型往往具有大的输入维度,这支配了它们的整体大小。这使他们难以训练,特别是投入少的情况下。在本文中,我们建议通过边信息的深度学习来学习特征表示,而不是学习高维边信息的项目表示。另一方面,学习特征表示确保了足够数量的输入来训练深度网络。为了实现这一点,我们建议同时恢复用户评级和边信息,通过使用变分自编码器(VAE)。具体地,用户评级和边信息通过相同的推理网络和生成网络被共同编码和解码。这是可能的,因为用户评级和辅助信息都是与项目相关联的数据。为了考虑用户评级和边信息的异质性,生成网络的最后一层根据信息的类型遵循不同的分布。该模型易于实现和有效的优化,并表现出优于国家的最先进的顶级$N$推荐方法,使用边信息。
2018-07-16 cs.IR
A Hybrid Variational Autoencoder for Collaborative Filtering
Columbia University(哥伦比亚大学)
在当今时代,几乎每个行业都有在线存在,用户在在线市场中进行交互,个性化推荐变得非常重要。传统上,协同过滤的问题已经解决了使用矩阵分解,这是线性的性质。我们通过提出一种混合的多模态方法,扩展了[11]关于使用变分自编码器(VAE)进行隐式反馈的协同过滤的工作。我们的方法将电影嵌入(从兄弟VAE网络中学习)与Movielens 20M数据集的用户评级相结合,并将其应用于电影推荐任务。我们实证展示了VAE网络是如何通过将电影嵌入。我们还可视化的电影和用户嵌入聚类从VAE获得的潜在表示。
2018-09-23 cs.IR cs.LG stat.ML
Semantic Gaussian Mixture Variational Autoencoder for Sequential Recommendation
针对现有基于VAE的序列推荐模型单峰先验难以捕捉用户多兴趣的问题,提出采用高斯混合先验、含概率多兴趣提取模块和多兴趣感知ELBO的SIGMA模型,实验验证了其有效性。
2025-02-22 cs.IR
VM-Rec: A Variational Mapping Approach for Cold-start User Recommendation
针对冷启动推荐中用户辅助信息不足和训练成本高的问题,本文提出VM-Rec方法,通过变分映射将少量初始交互解码为可直接集成到预训练模型的表达性嵌入,并在三个数据集上验证了其优于现有冷启动方法的性能。
2024-09-02 cs.IR
Recurrent Latent Variable Networks for Session-Based Recommendation
Cyprus University of Technology(塞浦路斯理工大学)
在这项工作中,我们试图改善数据稀疏性的影响,在基于会话的建议。具体来说,我们试图设计一个机器学习机制,能够提取微妙的和复杂的潜在的时间动态观察到的会话数据,以便通知推荐算法。为此,我们改进了利用具有循环连接单元的深度学习技术的系统;我们通过采用贝叶斯统计领域的概念,即变分推理来实现这一点。我们提出的方法包括在治疗网络经常性单位作为随机潜变量与先验分布强加给他们。在此基础上,我们继续推断相应的后验;这些可以用于预测和推荐生成,在某种程度上,占可用的稀疏训练数据的不确定性。为了使我们的方法可以轻松地扩展到大型现实世界的数据集,我们在近似摊销变分推理(AVI)设置下执行推理,从而通过(传统的)神经网络参数化学习后验。我们使用具有挑战性的基准数据集对我们的方法进行了广泛的实验评估,并说明了其优于现有最先进技术的优越性。
2017-06-13 cs.IR cs.LG stat.ML
Fast ALS-based tensor factorization for context-aware recommendation from implicit feedback
Budapest University of Technology and Economics(布达佩斯技术与经济大学)
提出iTALS算法,利用基于ALS的张量分解方法线性扩展至非零元素,整合上下文信息(如季节性和序列模式),在隐式反馈数据集上显著提升推荐质量。
2013-04-04 cs.IR cs.LG cs.NA
M^2VAE: Multi-Modal Multi-View Variational Autoencoder for Cold-start Item Recommendation
Ant Group(蚂蚁集团)
针对冷启动物品推荐中现有多模态方法忽略多视图结构及特征区别的问题,本文提出M²VAE生成模型,通过类型特定潜在变量、PoE通用表示、解耦对比损失、偏好引导MoE及共现信号对比学习,提升推荐效果。
2025-11-12 cs.AI cs.IR
GaVaMoE: Gaussian-Variational Gated Mixture of Experts for Explainable Recommendation
Zhejiang University(浙江大学);Microsoft Research Asia(微软亚洲研究院);Baidu Inc.(百度公司)
针对大语言模型可解释推荐在协同偏好建模、个性化和数据稀疏方面的挑战,提出 GaVaMoE 框架,利用 VAE 与 GMM 构建多门控机制并耦合细粒度专家模型,显著提升了个性化解释质量与稀疏场景下的稳健性。
2025-03-04 cs.AI cs.IR
Disentangled Variational Auto-encoder Enhanced by Counterfactual Data for Debiasing Recommendation
提出解耦去偏变分自编码器框架(DB-VAE)解决推荐系统多偏差耦合问题,并利用反事实数据增强缓解稀疏数据监督信号缺乏,实验证明其有效性。
2023-06-28 cs.IR
A Real-Time Whole Page Personalization Framework for E-Commerce
Walmart Labs(沃尔玛实验室)
电子商业平台始终致力于提供个性化推荐,以推动用户参与,增强整体用户体验,并改善业务指标。大多数电子商业平台在其主页上包含多个旋转木马,每个旋转木马都试图捕捉购物体验的不同方面。考虑到不同的用户偏好,优化这些转盘的放置对于提高用户满意度至关重要。此外,轮播内的项目可以基于顺序的用户动作动态地改变,因此需要轮播的在线排名。在这项工作中,我们提出了一个可扩展的端到端的生产系统,以最佳的排名项目carousels在实时的【形】沃尔玛在线杂货主页。所提出的系统利用了一种新的模型,捕捉用户的亲和力不同的旋转木马和他们的可能性与以前看不见的项目进行交互。我们的系统是灵活的设计,很容易扩展到设置页面组件需要排名。我们提供了一个模型开发阶段和一个在线推理框架组成的系统架构。为了确保低延迟,在这些阶段实施了各种优化。我们进行了广泛的在线评估,以对照以往的经验。在生产中,我们的系统改善了项目发现,增加了在线参与度,并显着提升了主页上每位访问者的添加到购物车(ATC)。
2020-12-08 cs.IR cs.LG
Bandit Learning for Diversified Interactive Recommendation
Nanyang Technological University(南洋理工大学);University of Science and Technology of China(中国科学技术大学)
交互式推荐系统使用户和推荐系统之间的互动吸引了越来越多的研究关注。以前的方法主要集中在优化推荐精度。然而,它们往往忽略了推荐结果的多样性,从而往往导致不满意的用户体验。本文提出了一种新的基于用户隐式反馈的交互式推荐模型DC $^2$ B(DiversifiedContextualCombinatorialBandit)。具体地说,DC $^2$ B在推荐过程中采用决定点过程,以促进推荐结果的多样性。为了学习模型参数,提出了一种基于变分贝叶斯推理的Thompson采样型算法。此外,还对DC $^2$ B的性能进行了理论分析.在真实数据集上进行了大量的实验,以证明所提出的方法的有效性。
2019-07-01 cs.IR cs.LG stat.ML
Cross-Domain Recommendation to Cold-Start Users via Variational Information Bottleneck
推荐系统已被广泛应用于现实世界的许多应用中,但通常遭受长期存在的用户冷启动问题。跨域推荐(Cross-DomainRecommendation,CDR)是一种很有前途的推荐方式,其目的是将用户在源域中的偏好信息传递到目标域中进行推荐。以前的CDR方法主要通过遵循嵌入和映射(EMCDR)的思想来实现该目标,该思想试图学习映射函数以将预先训练的用户表示(嵌入)从源域转移到目标域。然而,他们为每个域独立地预训练用户/项目表示,忽略了同时考虑两个域的交互。因此,有偏见的预训练表示不可避免地涉及特定领域的信息,这可能会导致跨领域的信息传输的负面影响。在这项工作中,我们考虑的CDR任务的一个关键点:什么信息需要跨域共享?为了实现上述思想,本文利用信息瓶颈(IB)的原则,并提出了一种新的方法称为CDRIB加强表示编码域共享信息。为了得到无偏表示,我们设计了两个IB正则化器来同时对跨域/域内用户-项目交互进行建模,从而CDRIB可以考虑两个域的交互来共同消除偏置。
2022-03-31 cs.IR cs.SI
Disentangled Graph Variational Auto-Encoder for Multimodal Recommendation with Interpretability
针对多模态推荐中表示纠缠难解释的问题,提出解耦图变分自编码器 DGVAE,通过多模态转文本、图编码与互信息对齐提升推荐性能和可解释性,并在三个数据集上取得 10.02% 的性能提升。
2024-02-25 cs.IR cs.MM
Latent Multi-Criteria Ratings for Recommendations
New York University(纽约大学)
多准则推荐系统在帮助消费者基于用户体验的不同维度来识别最相关的物品方面已经变得越来越有价值。然而,以前提出的多标准模型没有考虑到潜在的嵌入用户评论,捕捉用户和项目之间的潜在语义关系。为了解决这些问题,我们利用变分自编码器映射到潜在的嵌入,随后压缩成低维离散向量的用户评论。由此产生的压缩向量构成潜在的多标准评级,我们使用的推荐目的,通过标准的多标准推荐方法。我们表明,建议的潜在多标准评级方法优于几个基线显着和一致的不同的数据集和性能评估措施。
2019-06-26 cs.IR cs.LG stat.ML
Beyond Ranking Accuracy: Evaluating LLM-Cited Feature Rationales for Next Basket Repurchase Recommendation
Walmart Global Tech(沃尔玛全球技术)
该研究针对下一个购物篮回购推荐,探究LLM作为独立推荐器的可行性,发现其排序能力不及监督排序器,但可作为经验证的解释组件,且理由质量需与排序准确率分开评估。
2026-09-01 cs.AI cs.IR
Edge-Enhanced Global Disentangled Graph Neural Network for Sequential Recommendation
Soochow University(苏州大学);Macquarie University(麦考瑞大学);Rutgers University(罗格斯大学);Texas Tech University(德州理工大学);The Hong Kong University of Science and Technology(香港科技大学)
顺序推荐一直是推荐系统研究的热点。现有的工作有助于增强基于各种方法的顺序推荐系统的预测能力,例如递归网络和自注意力机制。然而,他们未能发现和区分项目之间的各种关系,这可能是激发用户行为的潜在因素。在本文中,我们提出了一个边缘增强的全局解纠缠图神经网络(EGD-GNN)模型来捕捉项目之间的关系信息的全局项目表示和局部用户意图学习。在全局级别,我们在所有序列上构建全局链接图来建模项关系。然后设计了一个通道感知的解纠缠学习层,将边缘信息分解到不同的通道中,这些通道可以从其邻居中聚合来表示目标项。在局部层次上,我们应用变分自动编码器框架来学习用户对当前序列的意图。我们评估我们提出的方法在三个真实世界的数据集。实验结果表明,我们的模型可以得到一个关键的改进,比国家的最先进的基线,并能够区分项目的功能。
2021-11-23 cs.IR cs.LG
Hierarchical Bayesian Personalized Recommendation: A Case Study and Beyond
Facebook Inc(脸书公司)
现代推荐系统中的项目通常以层次结构组织。这些层次结构和其中的数据为构建个性化推荐系统提供了有价值的信息。在本文中,我们提出了一个通用的分层贝叶斯学习框架,即,\emph{HBayes},学习结构和相关的潜在因素。此外,我们开发了一个变分推理算法,能够学习模型参数,经验收敛速度快。建议HBayes评估两个现实世界的数据集,从不同的领域。结果表明,我们的方法的项目推荐任务的好处,并表明,它可以优于国家的最先进的模型在精度,召回率和归一化的折扣累积增益。为了鼓励可重复的结果,我们在git repo上公开了我们的代码:\url{https://tinyurl.com/ycruhk4t}。
2019-08-20 cs.IR cs.LG stat.ML
Deep Causal Reasoning for Recommendations
Wuhan University(武汉大学)
传统的推荐系统的目标是估计用户的评级的基础上观察到的评级从人口的项目。与所有观察性研究一样,隐藏的混杂因素是影响项目暴露和用户评级的因素,会导致估计中的系统性偏倚。因此,从因果关系的角度来消除混杂因素的影响是推荐系统研究的一个新趋势。观察到,在建议中的混杂因素通常是共享的项目,因此是多原因的混杂因素,我们模型的建议作为一个多原因多结果(MCMO)推理问题。具体来说,为了纠正混淆偏差,我们估计用户特定的潜变量,使项目曝光独立伯努利试验。生成分布由具有因子化逻辑似然的DNN参数化,并且通过变分推断估计难处理的后验。控制这些因素作为替代混杂因素,在温和的假设下,可以消除多原因混杂因素引起的偏倚。此外,我们表明,MCMO建模可能会导致高方差,由于稀缺的观测与高维因果空间。幸运的是,我们从理论上证明,引入用户特征作为预处理变量可以大大提高样本效率,减轻过拟合。模拟和真实世界数据集上的实证研究表明,所提出的深度因果推荐器比最先进的因果推荐器对未观察到的混杂因素表现出更强的鲁棒性。代码和数据集在https://github.com/yaochenzhu/deep-deconf上发布。
2022-11-21 cs.IR cs.LG
Exploration in Interactive Personalized Music Recommendation: A Reinforcement Learning Approach
National University of Singapore(新加坡国立大学);Institute of High Performance Computing, A*STAR(新加坡科技研究局高性能计算研究所)
当前的音乐推荐系统通常通过推荐具有最高用户评级的歌曲来以贪婪的方式起作用。然而,贪婪的推荐从长远来看是次优的:它不会主动收集用户偏好的信息,也不会推荐可能感兴趣的新颖歌曲。一个成功的推荐系统必须平衡探索用户偏好和利用这些信息进行推荐的需求。本文提出了一种新的音乐推荐方法,将这种探索-利用权衡公式化为一种称为多臂强盗的强化学习任务。为了学习用户偏好,它使用贝叶斯模型,该模型考虑了音频内容和推荐的新颖性。采用分段线性近似模型和变分推理算法来加快贝叶斯推理。我们的方法的另一个好处是音乐推荐和播放列表生成的单一统一模型。模拟结果和用户研究表明,新方法的强大潜力。
2013-11-06 cs.IR cs.LG cs.MM
Generative Slate Recommendation with Reinforcement Learning
Naver Labs Europe(Naver欧洲实验室);University of Amsterdam(阿姆斯特丹大学)
最近的研究采用了强化学习(RL)算法来优化推荐系统中的长期用户参与度,从而避免了用户无聊和过滤气泡等常见陷阱。它们抓住了推荐的顺序性和交互性,从而提供了一种处理长期奖励和避免短视行为的原则性方法。然而,RL方法在石板推荐场景中是棘手的-其中在每个交互回合推荐一个项目列表-由于组合动作空间。在该设置中,动作对应于可以包含项目的任何组合的石板。虽然以前的工作提出了精心选择的分解行动,以确保易处理性,这些依赖于限制性的,有时不切实际的假设。相反,在这项工作中,我们建议在一个连续的,低维的潜在空间学习变分自动编码器编码石板。然后,RL代理在这个潜在空间中选择连续的动作,这些动作最终被解码成相应的slate。通过这样做,我们能够(i)放松以前工作所需的假设,(ii)通过对完整的石板而不是独立的项目进行建模,特别是通过实现多样性来提高动作选择的质量。我们在各种模拟环境中进行的实验证实了我们在实际场景中对基线上的石板进行生成建模的有效性,其中基线的限制性假设被解除。我们的研究结果表明,使用生成模型的表示学习是一个有前途的方向,以推广基于RL的石板推荐。
2023-01-24 cs.IR cs.LG
Recommending Burgers based on Pizza Preferences: Addressing Data Sparsity with a Product of Experts
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Swisscom(瑞士电信)
在本文中,我们描述了一种方法来解决数据稀疏性,并在用户偏好知识有限的领域中创建推荐。我们将变分自编码器协同过滤从单域扩展到多域。直觉是,源域中的用户-项目交互可以增强目标域中的推荐质量。这种直觉可以发挥到极致,在跨域设置中,源域中的用户历史足以在目标域中生成高质量的推荐。因此,我们创建了一个产品的专家(POE)的建议,联合模型跨多个领域的用户项目交互架构。该方法对一个或多个域的丢失数据有弹性,这是现实生活中经常发现的情况。我们提出了两个广泛使用的数据集上的结果-亚马逊和Yelp,支持主张,全面的用户偏好知识导致更好的建议。令人惊讶的是,我们发现,在某些情况下,一个POE推荐,不访问目标域的用户表示可以超过一个强大的VAE推荐基线训练的目标域。
2021-09-07 cs.IR cs.LG
Double-Wing Mixture of Experts for Streaming Recommendations
流推荐系统(SRS)通常仅在新接收的数据上训练推荐模型以解决用户偏好漂移,即,改变用户对物品的偏好。然而,这种做法忽略了历史数据中嵌入的长期用户偏好。更重要的是,数据流中常见的异构性大大降低了流推荐的准确性。原因是不同类型的用户(或项目)的不同偏好(或特征)无法通过统一模型很好地学习。为了解决这两个问题,我们提出了一个变量和水库增强采样的双翼混合专家模型框架,称为VRS-DWMoE,以提高流媒体推荐的准确性。在VRS-DWMoE中,我们首先设计了变分和随机增强的采样,以明智地用历史数据补充新数据,从而在捕获长期用户偏好的同时解决用户偏好漂移问题。在此基础上,我们提出了一个双翼混合专家模型(DWMoE)模型,首先有效地学习异构用户的偏好和项目的特点,然后提出建议的基础上。具体而言,DWMoE包含两混合专家模型(MoE,一个有效的集成学习模型),分别学习用户偏好和项目特征。此外,每个MoE中的多个专家学习不同类型的用户(或项目)的偏好(或特性),其中每个专家专门研究一个基础类型。大量的实验表明,VRS-DWMoE始终优于最先进的SRS。
2020-09-14 cs.IR
MoToRec: Sparse-Regularized Multimodal Tokenization for Cold-Start Recommendation
MoToRec通过稀疏正则化的多模态分词方法,解决冷启动推荐中的数据稀疏性和新物品表示问题,提升推荐系统性能。
2026-03-03 cs.IR cs.LG