DACSR: Decoupled-Aggregated End-to-End Calibrated Sequential Recommendation
针对序列推荐中仅追求准确性导致的公平性和多样性问题，提出端到端校准框架DACSR，通过目标函数校准和分布修改，实现准确且校准的推荐。
2022-10-21 cs.IR
Decoupled Learning and Selection in Slate Recommendation for Privacy and Stability Under Noisy Scores
University of Bergen（卑尔根大学）；Centre for the Science of Learning & Technology (SLATE)（学习与技术科学中心（SLATE））；City University of Macau（澳门城市大学）
本研究提出榜单推荐中解耦评分学习与选择的方法，通过差分隐私范围契约和日志边际证书，在噪声评分下保证排序稳定性，实验验证了其有效性。
2026-09-25 cs.IR cs.LG
Language-Enhanced Session-Based Recommendation with Decoupled Contrastive Learning
针对现有会话推荐依赖物品ID导致的流行偏差与冷启动问题，提出融合文本与物品ID模态、结合解耦对比学习的多模态推荐方法，在KDD CUP 2023任务1中获第5名并开源相关资源。
2023-07-20 cs.IR
Decoupled Recommender Systems: Exploring Alternative Recommender Ecosystem Designs
本文研究推荐算法与平台解耦的架构，构建包含算法选择的推荐生态系统模型，探讨其对消费者、提供者和平台间效用分配的影响。
2025-03-06 cs.AI cs.HC cs.IR
Decoupled Residual Quantization for Robust Semantic IDs in Recommendation
Shopee
本文提出解耦残差量化（DRQ）方法，通过分离连续几何重建与离散分布匹配，并建立诊断框架（期望码字重叠和有效码本容量），以解决语义ID生成中码本利用不足、决策边界不稳定和嵌入空间几何失真等问题。
2026-06-01 cs.IR
Decoupled Temporal Encoding for Generative Recommendation
Rajax Network Technology（睿佳网络科技）；Yale School of Public Health（耶鲁大学公共卫生学院）
针对现有推荐模型难以区分时间动态与局部顺序线索的问题，提出解耦时间编码框架，通过两个互补模块分离时间与顺序信息，实现高效的生成式推荐。
2026-09-09 cs.AI cs.IR
The Oracle and The Prism: A Decoupled and Efficient Framework for Generative Recommendation Explanation
Sun Yat-sen University（中山大学）；School of Software Engineer Tong ji University（同济大学软件工程学院）
prism 通过解耦推荐过程和蒸馏技术，提升可解释推荐系统的效率与可信度。
2026-11-13 cs.AI cs.CL cs.IR
Recommender systems based on graph embedding techniques: A comprehensive review
University of Electronic Science and Technology of China（电子科技大学）
推荐系统作为缓解信息过载问题的关键工具，其目标是通过分析用户与项目之间的关系，从数百万候选项目中预测用户的偏好项目。为了解决推荐系统中的稀疏性和冷启动问题，研究者们采用了在推荐中引入边信息或知识的策略来发现隐藏的（间接的）用户-项目关系，旨在丰富推荐所需的观测信息（或数据）。然而，面对高复杂性和大规模的边信息和知识，该策略的有效实施依赖于推荐模型的可扩展性。直到机器学习流行之后，图嵌入技术才成为一个焦点，它可以有效地利用复杂和大规模的数据。有鉴于此，近年来，为推荐系统配备图嵌入技术得到了广泛的研究，似乎优于直接基于图拓扑分析实现的传统推荐。作为重点，本文从二分图、一般图和知识图谱的嵌入技术入手，回顾了基于图嵌入的推荐方法，并提出了基于图嵌入的推荐方法的一般设计流程。此外，通过仿真比较几种典型的基于图嵌入的推荐模型与最常用的传统推荐模型，发现传统推荐模型在预测隐式用户-项目交互方面的性能优于基于图嵌入的推荐模型，揭示了基于图嵌入的推荐模型在这些任务中的相对弱点。为了促进未来的研究，本文提出了在不同任务中权衡基于图嵌入的推荐和传统推荐的建议，并提出了开放性问题。
2022-03-22 cs.IR cs.LG
Learning to Embed Categorical Features without Embedding Tables for Recommendation
Google Research（谷歌研究院）
分类特征（例如用户/项目ID）的嵌入学习是各种推荐模型的核心，包括矩阵分解和神经协同过滤。标准方法创建一个嵌入表，其中每行表示每个唯一特征值的专用嵌入向量。然而，这种方法无法有效地处理在现实世界的推荐系统中普遍存在的高基数特征和看不见的特征值（例如，新的视频ID）。在本文中，我们提出了一个替代的嵌入框架深度哈希嵌入（DHE），用深度嵌入网络代替嵌入表来动态计算嵌入。DHE首先使用多个哈希函数和变换将特征值编码为唯一标识符向量，然后应用DNN将标识符向量转换为嵌入。编码模块是确定性的，不可学习的，并且不需要存储，而嵌入网络在训练期间更新以学习嵌入生成。实证结果表明，DHE实现了与标准的one-hot全嵌入相当的AUC，模型尺寸较小。我们的工作揭示了基于DNN的替代嵌入方案的分类功能的设计，而不使用嵌入查表。
2021-06-07 cs.IR cs.LG
Decoupled Side Information Fusion for Sequential Recommendation
HKUST（香港科技大学）；Upstage
序列推荐中的边信息融合旨在有效利用各种边信息来提高下一个项目的预测性能。大多数最先进的方法建立在自我注意网络的基础上，并专注于探索各种解决方案，以整合注意层之前的项目嵌入和边信息嵌入。然而，我们的分析表明，早期集成的各种类型的嵌入限制了注意力矩阵的表现力，由于排名瓶颈和约束梯度的灵活性。同时，它涉及到不同异构信息资源之间的混合相关性，这给注意力计算带来了额外的干扰。基于此，本文提出了一种用于顺序推荐的解耦边信息融合算法（DIF-SR），将边信息从输入端转移到注意力层，简化了各种边信息和项目表示的注意力计算。我们从理论上和经验表明，所提出的解决方案允许更高的秩注意矩阵和灵活的梯度，以提高边信息融合的建模能力。此外，辅助属性预测提出了进一步激活边信息和项目表示学习之间的有益的互动。在四个真实数据集上的大量实验表明，我们提出的解决方案稳定地优于最先进的SR模型。进一步的研究表明，我们提出的解决方案可以很容易地纳入目前的注意力为基础的SR模型，并显着提高性能。我们的源代码可以在https://github.com/AIM-SE/DIF-SR上找到。
2022-04-23 cs.AI cs.IR
Search-Based Serving Architecture of Embeddings-Based Recommendations
Outbrain Inc（Outbrain公司）
在过去的10年中，许多推荐技术都是基于在潜在向量空间中嵌入用户和项目，其中（用户，项目）向量对的内积表示用户对项目的预测亲和力。大量的文献都集中在各种建模方法，导致嵌入，并比较了它们的质量指标，学习复杂性等，但是，很少有人关注的问题，围绕产品化的嵌入式为基础的高吞吐量，低延迟推荐系统。特别是，当学习新模型时，系统如何跟上不断变化的嵌入。本文描述了一个参考架构的高吞吐量，大规模的推荐服务，利用搜索引擎作为其运行时的核心。我们描述了搜索索引和查询构建器如何适应嵌入的变化，这些变化通常发生在与索引构建不同的节奏上。我们为基于id和基于特征的嵌入以及批量索引和增量索引设置提供解决方案。所描述的系统是Web内容发现服务的核心，该服务每天响应数十亿用户请求提供数百亿次推荐。
2019-07-07 cs.IR cs.LG
ItemSage: Learning Product Embeddings for Shopping Recommendations at Pinterest
Pinterest（拼趣）
产品的学习嵌入是网络规模电子商务推荐系统的重要组成部分。在Pinterest，我们构建了一组名为ItemSage的产品嵌入，以在所有购物用例中提供相关推荐，包括基于用户，图像和搜索的推荐。这种方法显著改善了参与度和转化指标，同时降低了基础设施和维护成本。虽然大多数以前的工作集中在从单一模态的功能来构建产品嵌入，我们引入了一个基于transformer的架构，能够聚合来自文本和图像模态的信息，并表明它显着优于单一模态基线。我们还利用多任务学习，使ItemSage针对多种参与类型进行优化，从而形成一个候选人生成系统，该系统对端到端推荐系统的所有参与目标都是有效的。我们进行了大量的离线实验来说明我们的方法的有效性，在线A/B实验的结果显示，关键业务指标（高达+7%的商品总价值/用户和+11%的点击量）有了实质性的提高。
2022-05-24 cs.IR cs.LG
On the Embedding Collapse when Scaling up Recommendation Models
Tencent Inc（腾讯公司）
本文识别出推荐模型扩展中的嵌入坍缩现象，揭示特征交互的双面效应，并提出多嵌入设计以增强嵌入多样性、缓解坍缩并提升模型可扩展性。
2024-06-06 cs.IR cs.LG
DGEM: A New Dual-modal Graph Embedding Method in Recommendation System
Graduate School at Shenzhen, Tsinghua University（清华大学深圳国际研究生院）；Peng Cheng Laboratory（鹏城实验室）
在当前基于深度学习的推荐系统中，一般采用嵌入的方法来完成从高维稀疏特征向量到低维稠密特征向量的转换。然而，由于嵌入层的输入向量的维数太大，嵌入层的增加显著减慢了整个神经网络的收敛速度，这在现实场景中是不可接受的。此外，随着用户与项目之间的交互增加，项目之间的关系变得更加复杂，针对序列数据提出的嵌入方法不再适用于当前现实环境中的图形数据。因此，在本文中，我们提出了双模态图嵌入方法（DGEM）来解决这些问题。DGEM包括静态和动态两种模式。我们首先构造项目图来提取图的结构，并使用不等概率的随机游走来捕获项目之间的高阶邻近度。然后我们通过Skip-Gram模型生成图嵌入向量，最后反馈给下游深度神经网络进行推荐任务。实验结果表明，DGEM能够挖掘项目间的高阶相似度，增强推荐模型的表达能力。同时，它还利用项目之间的时间依赖关系，提高了推荐性能。
2021-08-09 cs.IR cs.LG
Hierarchical Attentive Knowledge Graph Embedding for Personalized Recommendation
Nanyang Technological University（南洋理工大学）；Macquarie University（麦考瑞大学）
事实证明，知识图谱（KG）对于高质量推荐是有效的，其中用户和项目之间的连接性为用户与项目的交互提供了丰富且互补的信息。然而，大多数现有的方法，是不足以利用的KG捕捉用户的喜好，因为他们要么表示用户项目的连接性通过路径有限的表现力或隐式地通过传播信息在整个KG不可避免的噪声模型。在本文中，我们设计了一个新的分层注意知识图谱嵌入（HAKG）框架，利用知识图谱进行有效的推荐。具体来说，HAKG首先提取的表达子图，链接用户项目对，以表征其连接性，这既容纳语义和拓扑结构的KG。然后，通过分层关注子图编码对子图进行编码，以生成用于增强的用户偏好预测的有效子图嵌入。大量的实验表明，HAKG对国家的最先进的推荐方法的优越性，以及其在缓解数据稀疏性问题的潜力。
2021-09-15 cs.IR cs.LG
Merchandise Recommendation for Retail Events with Word Embedding Weighted Tf-idf and Dynamic Query Expansion
eBay Inc.（易趣公司）
为了推荐季节性零售活动的相关商品，我们依赖于从市场库存中检索的商品。通过反馈来扩大查询范围，我们讨论了利用词嵌入相似度来选择关键词扩展候选词，并提出了一种改进的tf-idf扩展词搜索排序公式。
2022-08-18 cs.IR cs.LG
From Raw Features to Effective Embeddings: A Three-Stage Approach for Multimodal Recipe Recommendation
KAIST（韩国科学技术院）
本文提出TESMR三阶段框架，通过内容、关系和学习增强多模态特征，提升食谱推荐性能，实验表明其在Recall@10上比现有方法高7-15%。
2026-04-22 cs.IR cs.LG
Convolutional Gaussian Embeddings for Personalized Recommendation with Uncertainty
Fudan University（复旦大学）；Shanghai Institute of Intelligent Electronics & Systems（上海智能电子与系统研究院）
现有的基于嵌入的推荐模型大多使用嵌入（向量）对应于低维空间中的单个固定点，来表示用户和项目。这样的嵌入不能精确地表示推荐系统中经常观察到的具有不确定性的用户/项目。为了解决这个问题，我们提出了一个统一的深度推荐框架，采用高斯嵌入，这是证明适应一些用户表现出的不确定的偏好，从而更好的用户表示和推荐性能。此外，该框架采用Monte-Carlo抽样和卷积神经网络计算目标用户与候选项之间的相关性，并在此基础上实现精确推荐。我们在两个基准数据集上的大量实验不仅证明了我们提出的高斯嵌入很好地捕捉了用户的不确定性，而且还证明了其优于最先进的推荐模型的性能。
2020-06-19 cs.IR cs.LG stat.ML
Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding
Simon Fraser University（西蒙弗雷泽大学）
前- $N$顺序推荐将每个用户建模为过去交互的项目序列，旨在预测用户可能在“不久的将来”交互的前- $N$排名项目。交互的顺序意味着序列模式在序列中最近的项目对下一个项目有更大的影响时起着重要的作用。在本文中，我们提出了一个卷积序列嵌入推荐模型（\emph{Caser}）作为解决方案，以满足这一要求。其思想是将最近项目的序列嵌入到时间和潜在空间中的“图像”中，并使用卷积滤波器将序列模式作为图像的局部特征进行学习。这种方法提供了一个统一和灵活的网络结构，用于捕获一般偏好和顺序模式。在公共数据集上的实验表明，Caser在各种常见的评估指标上始终优于最先进的顺序推荐方法。
2018-09-19 cs.IR cs.LG
UBER-GNN: A User-Based Embeddings Recommendation based on Graph Neural Networks
Ping An Technology (Shenzhen) Co., Ltd（平安科技（深圳）有限公司）
基于会话的推荐问题旨在根据用户的会话历史预测用户的下一步行为。以前的方法将会话历史建模为序列，并通过RNN和GNN方法估计用户潜在特征以进行推荐。然而，在大规模、复杂的金融推荐场景下，虚拟商品和真实商品并存，这种方法不足以准确地表现用户的潜在特征，也忽略了用户的长期特征。为了兼顾用户的长期偏好和动态兴趣，本文提出了一种新的嵌入式推荐方法，即基于用户的图神经网络嵌入式推荐方法（UBER-GNN）。UBER-GNN利用结构化数据来生成长期用户偏好，并将会话序列转换为图来生成基于图的动态兴趣。最后利用注意力机制将用户潜在特征表示为用户长期偏好和动态兴趣的组合。在真实的平安场景上进行的大量实验表明，UBER-GNN优于最先进的基于会话的推荐方法。
2020-08-06 cs.IR cs.LG
MIARec: Mutual-influence-aware Heterogeneous Network Embedding for Scientific Paper Recommendation
College of Computer and Information Science, Southwest university（西南大学计算机与信息科学学院）；College of Computer and Information Science, Chongqing normal university（重庆师范大学计算机与信息科学学院）
针对现有图推荐方法忽视学术网络非对称影响的问题，提出MIARec模型，利用引力衡量学者间相互影响并融入特征聚合，通过多通道聚合捕获子网络个体与依赖嵌入，在真实数据集上超越基线模型。
2025-10-14 cs.IR cs.LG
Personalized Embedding-based e-Commerce Recommendations at eBay
eBay Inc.（易趣公司）
推荐系统是电子商业市场的重要组成部分，帮助消费者浏览大量库存，找到他们需要或喜欢的东西。在本文中，我们提出了一种方法来生成个性化的项目推荐在电子商业市场通过学习嵌入项目和用户在同一向量空间。为了缓解大型市场中存在的相当大的冷启动问题，分别使用内容特征和多模态现场用户活动来计算项目和用户嵌入。数据消融被纳入离线模型训练过程，以提高生产系统的鲁棒性。在使用从eBay流量收集的数据集进行离线评估时，我们的方法能够改进Recall@k度量，而不是Recently-Viewed-Item（RVI）方法。这种方法来生成个性化的建议已推出，以服务于生产流量，相应的可扩展的工程架构也提出了。初步的A/B测试结果表明，与目前生产中的个性化推荐模块相比，该方法将表面率提高了$\sim$ 6\%，为90\%的列表页面印象生成推荐。
2021-02-11 cs.IR cs.LG
Utilizing FastText for Venue Recommendation
University College Dublin（都柏林大学学院）
地点推荐系统对过去的交互（即，签到）的用户和推荐场地。传统的推荐系统采用协同过滤，基于内容的过滤或矩阵分解。最近，向量空间嵌入和深度学习算法也被用于推荐。在这项工作中，我提出了一种方法来推荐前k个场馆，利用序列特征的签到和最近的向量空间嵌入方法，即快速文本。我们提出的方法;形成签到组，学习场地的向量空间表示，并利用学习的嵌入来进行场地推荐。通过对Foursquare签到数据集的测试，结果表明该方法的性能优于现有的方法。
2020-05-14 cs.IR cs.LG
Semantic IDs for Music Recommendation
SiriusXM Radio Inc.（SiriusXM广播公司）
本文研究下一项目推荐中逐项嵌入参数过大的问题，提出使用基于内容的共享 semantic IDs，以减小模型规模并提升音乐推荐的准确性与多样性，且在两个数据集及在线 A/B 测试中验证有效。
2025-07-24 cs.IR cs.LG
Matrix embedding method in match for session-based recommendation
基于会话的推荐模型在推荐系统中得到了广泛的应用。该算法将用户点击序列作为递归神经网络的输入，将递归神经网络的输出作为会话的向量嵌入，并将会话的向量嵌入与下一个条目的向量嵌入的内积作为评分，作为对下一个条目的兴趣度量。该方法可用于项目数很大的推荐系统的匹配阶段，可以采用KD-Tree或Ball-Tree等索引方法。但是这种方法否认了用户在会话中兴趣的多样性。我们生成的模型修改的向量嵌入会话的对称矩阵嵌入，这是等价于一个二次型的向量空间的项目。得分被构建为二次型下下的下一项的向量嵌入的值。通过构造正特征值所对应的对称矩阵嵌入的特征向量来表示会话中用户的兴趣。该方法也可用于“匹配”阶段。实验表明，该方法优于矢量嵌入方法。
2019-08-27 cs.IR cs.LG
DenseRec: Revisiting Dense Content Embeddings for Sequential Transformer-based Recommendation
Albatross AI
针对基于Transformer的序列推荐模型的物品冷启动问题，提出DenseRec双路径嵌入方法，通过训练时学习密集嵌入到ID嵌入的线性投影，无缝泛化到未见过物品，在三个数据集上持续优于仅用ID的基线，为冷启动序列推荐提供实用方案。
2025-08-25 cs.IR cs.LG
RELINE: Point-of-Interest Recommendations using Multiple Network Embeddings
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；Open University of Cyprus（塞浦路斯开放大学）
用户参与基于位置的社交网络（LBSNs）的快速增长导致了数据在全球范围内的快速增长。访问和检索接近用户偏好的相关信息的需求是一个开放的问题，不断提出新的挑战，推荐系统。现有的兴趣点推荐模型由于兴趣点的稀疏性和冷启动问题而不能很好地进行兴趣点推荐。为了克服这些问题，在文献中提出了许多模型，但它们中的大多数都忽略了重要的因素，如：地理邻近性，社会影响，或时间和偏好动态，这解决了他们的准确性，同时个性化他们的建议。在这项工作中，我们调查这些问题，并提出了一个统一的模型，共同学习用户和POI动态。我们的建议被称为RELINE（多网络嵌入建议）。更具体地说，RELINE通过将八个关系图嵌入到一个共享潜在空间中来捕获：i）社会的，ii）地理的，iii）时间的影响，以及iv）用户的偏好动态。我们已经评估了我们的方法对国家的最先进的方法与三个大型的真实世界的数据集的准确性。此外，我们已经检查了我们的方法对冷启动问题的有效性。性能评估的结果表明，显着的性能改善相比，现有的国家的最先进的方法。
2019-02-02 cs.IR cs.LG
Two Is Better Than One: Dual Embeddings for Complementary Product Recommendations
Overstock.com Inc.（Overstock公司）；University of Maryland, College Park（马里兰大学帕克分校）
基于嵌入的产品推荐近年来越来越受欢迎，因为它能够轻松集成到大规模系统中，并允许实时进行最近邻搜索。这一领域的大部分研究主要集中在类似的项目建议上。另一方面，对补充项目建议的研究仍然相当不足。我们将相似项定义为在其效用方面可互换的项，将互补项定义为服务于不同目的但在相互使用时兼容的项。在本文中，我们采用了一种新的方法来寻找互补项目，利用双嵌入表示的产品。我们证明了在NLP中发现的skip-gram negative sampling（SGNS）模型的相关性概念在使用共同购买数据训练项目表示时有效地转化为互补性概念。由于购买数据的稀疏性是现实世界场景中的一个主要挑战，因此我们使用合成样本进一步增强模型以扩展覆盖范围。这使得该模型提供补充建议的项目，不共享共同购买的数据，利用其他丰富的可用数据形式，如图像，文本，点击等，我们建立了我们的方法在提高覆盖面和质量的建议对现实世界的数据为一个主要的在线零售公司的有效性。我们进一步展示了任务特定的超参数调整在训练SGNS中的重要性。我们的模型是有效的，但简单的实现，使其成为一个伟大的候选人在任何电子商务网站生成补充项目的建议。
2022-11-29 cs.IR cs.LG
IISAN: Efficiently Adapting Multimodal Representation for Sequential Recommendation with Decoupled PEFT
University of Glasgow（格拉斯哥大学）；Shandong University（山东大学）；Amazon（亚马逊）；Telefonica Research（西班牙电信研究院）
提出IISAN，一种采用解耦PEFT的多模态序列推荐适配架构，性能媲美全量微调，同时将GPU内存从47GB降至3GB，训练时间从443秒降至22秒，并引入TPME综合效率指标。
2024-07-21 cs.CV cs.IR
Initialization Matters: Regularizing Manifold-informed Initialization for Neural Recommendation Systems
School of Computer Science and Engineering, Nanyang Technological University（南洋理工大学计算机科学与工程学院）；Joint NTU-UBC Research Centre of Excellence in Active Living for the Elderly (LILY)（南洋理工大学-不列颠哥伦比亚大学老年活跃生活联合卓越研究中心）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-南洋理工大学新加坡联合研究院）；Alibaba Group（阿里巴巴集团）
适当的初始化对神经网络的优化和推广是至关重要的。然而，大多数现有的神经推荐系统随机初始化用户和项目嵌入。在这项工作中，我们提出了一个新的初始化方案的用户和项目嵌入称为拉普拉斯特征映射与流行为基础的正则化孤立数据（LEPORID）。LEPORID赋予嵌入关于数据流形上的多尺度邻域结构的信息，并执行自适应正则化以补偿数据分布尾部的高嵌入方差。利用矩阵的稀疏性，LEPORID嵌入可以有效地计算。我们在广泛的神经推荐模型中评估LEPORID。与最近令人惊讶的发现，简单的K-最近邻（KNN）方法往往优于神经推荐系统，我们表明，现有的神经系统初始化LEPORID往往表现相当或优于KNN。为了最大限度地提高初始化的效果，我们提出了双损失剩余推荐（DLR 2）网络，当用LEPORID初始化时，它的性能大大优于传统和最先进的神经推荐系统。
2021-08-12 cs.IR cs.LG
Aligning Hotel Embeddings using Domain Adaptation for Next-Item Recommendation
Expedia Group（亿客行集团）
在在线平台中，通常情况下，同一集团下有多个品牌，这些品牌可能针对不同的客户配置文件，或具有不同的域。例如，在酒店领域，Expedia集团拥有多个品牌，如Brand Expedia、Hotels.com和Wotif，这些品牌要么有不同的旅行者资料，要么与当地环境更相关。在这种情况下，可以在多个品牌的推荐任务中利用的酒店的学习嵌入需要具有可以使用对齐方法诱导的公共嵌入。同时，需要确保这种公共嵌入空间不会降低任何品牌的性能。在这项工作中，我们建立在hotel2vec模型，并提出了一个简单的正则化方法，通过领域自适应调整酒店嵌入不同的品牌。我们还探索了以前用于跨语言嵌入的对齐方法，以对齐不同语言的空间。我们目前的结果，下一个酒店预测使用点击会议从两个品牌的任务。实验结果表明，该方法可以对齐两个嵌入空间，同时在两个品牌中都获得了良好的性能。此外，对于单品牌训练，我们表明，所提出的方法可以显着减少训练时间，提高预测性能。
2021-08-31 cs.IR cs.LG
Joint Text Embedding for Personalized Content-based Recommendation
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Etsy Inc.（Etsy公司）；Yahoo! Research（雅虎研究院）；Facebook（脸书）
学习良好的文本表示是许多推荐应用程序的关键。示例包括新闻推荐，其中每天不断地发布要推荐的文本。然而，大多数现有的推荐技术，如基于矩阵分解的方法，主要依赖于交互历史来学习项目的表示。虽然可以从用户交互数据中有效地学习项目的潜在因素，但在许多情况下，这样的数据是不可用的，特别是对于新出现的项目。在这项工作中，我们的目标是解决这个问题的个性化推荐完全新的项目与文本信息。我们铸造的问题作为一个个性化的文本排名问题，并提出了一个通用的框架，结合文本嵌入与个性化推荐。用户和文本内容被嵌入到潜在的特征空间。文本嵌入功能可以通过预测用户与项目的交互来端到端学习。为了减轻交互数据的稀疏性，并利用大量的文本数据，很少或没有用户交互，我们进一步提出了一个联合文本嵌入模型，该模型将无监督文本嵌入与组合模块相结合。实验结果表明，我们的模型可以显着提高推荐系统的有效性在现实世界的数据集。
2017-06-23 cs.CL cs.IR cs.LG
Two-Stage Session-based Recommendations with Candidate Rank Embeddings
Zalando SE
基于会话的推荐系统的最新进展由于其提供具有高召回率的实时个性化推荐的潜力而受到关注，特别是与矩阵分解和基于项目的协同过滤等传统方法相比。目前，最新的两种方法是短时注意/记忆优先级模型基于会话的推荐（STAMP）和神经注意基于会话的推荐（NARM）。然而，当这两种方法应用于Zalando（Fashion-Similar）的相似项目推荐数据集时，与简单的协作过滤方法相比，它们并不能开箱即用。为了提高相似项目推荐，我们建议集中精力提高排名的几个最相关的项目从原始的建议，通过使用的会话的用户的注意力网络编码的信息。当使用一种新的候选人排名嵌入，编码的全球排名信息的每个候选人在重新排名过程中，这种策略的有效性得到了证实。Fashion-Similar的实验结果显示，在20岁时，召回率和MRR的基线有了显着改善，在线测试的点击率也有了改善。此外，重要的是要从评估中指出这种方法在下一次点击预测问题上的潜力，因为当应用于STAMP和NARM时，它在两个公开的真实世界数据集上提高了20的召回率和MRR。
2019-08-22 cs.IR cs.LG
Lightweight Self-Attentive Sequential Recommendation
The University of Queensland（昆士兰大学）
现代深度神经网络（DNN）通过在各种顺序推荐任务上实现最先进的推荐性能，极大地促进了顺序推荐系统的开发。给定交互项的序列，现有的基于DNN的顺序排序器通常将每个项嵌入到唯一向量中以支持用户兴趣的后续计算。然而，由于潜在的大量项目，顺序推荐器的过参数化项目嵌入矩阵已经成为资源受限环境中有效部署的存储器瓶颈，例如，智能手机和其他边缘设备。此外，我们观察到，广泛使用的多头自我注意，虽然是有效的建模项目之间的顺序依赖关系，在很大程度上依赖于冗余的注意力单元，以充分捕捉全球和本地项目的项目转移模式的序列。本文介绍了一种用于顺序推荐的新型轻量级自关注网络（LSAN）。为了积极地压缩原始嵌入矩阵，LSAN利用了组合嵌入的概念，其中每个项嵌入都是通过合并从小得多的嵌入矩阵中导出的一组选定的基本嵌入向量来组成的。同时，考虑到每个项目的内在动态，我们进一步提出了一个时间上下文感知的嵌入组合方案。此外，我们开发了一种创新的双注意力网络，它在保留捕获长期和短期（即，全局和局部）项依赖性。综合实验表明，LSAN显着提高了现有的顺序排序器的准确性和内存效率。
2021-08-25 cs.IR cs.LG
Learning Recommender Systems with Soft Target: A Decoupled Perspective
针对推荐系统标准Softmax损失易忽略潜在正反馈与真负反馈差异的问题，提出解耦软标签优化框架及对应损失函数与软标签生成算法，经多模型多数据集实验验证有效且通用。
2024-10-09 cs.IR
Layered Graph Embedding for Entity Recommendation using Wikipedia in the Yahoo! Knowledge Graph
Yahoo! Research（雅虎研究院）；Stony Brook University（石溪大学）
在本文中，我们描述了一个基于嵌入的实体推荐框架的维基百科，组织维基百科成一个集合的图形分层在彼此之上，学习互补的实体表示从他们的拓扑结构和内容，并将它们与一个轻量级的学习排名的方法来推荐维基百科上的相关实体。通过离线和在线评估，我们表明，由此产生的嵌入和推荐在质量和用户参与度方面表现良好。平衡简单性和质量，这个框架提供了默认的实体建议英语和其他语言的雅虎！知识图谱，维基百科是其中的核心子集。
2020-04-15 cs.IR cs.LG cs.SI
Learnable Embedding Sizes for Recommender Systems
University of Electronic Science and Technology of China（电子科技大学）；University College London（伦敦大学学院）；Tsinghua University（清华大学）
基于嵌入的表示学习通常用于深度学习推荐模型中，以将原始稀疏特征映射到密集向量。传统的嵌入方式，分配一个统一的大小，所有的功能有两个问题。首先，众多的功能不可避免地导致巨大的嵌入表，从而导致高内存使用成本。其次，它可能会导致过度拟合的问题，这些功能，不需要太大的表示能力。现有的工作，试图解决这个问题，总是导致推荐性能显着下降，或遭受难以负担的训练时间成本的限制。在本文中，我们提出了一种新的方法，命名为PEP（插件嵌入修剪的缩写），以减少嵌入表的大小，同时避免了推荐准确率的下降。PEP修剪嵌入参数，其中修剪阈值可以从数据中自适应地学习。因此，我们可以自动获得一个混合维嵌入方案，通过修剪冗余参数的每个功能。PEP是一个通用的框架，可以插件各种基本的推荐模型。大量实验表明，该算法可以有效地减少嵌入参数，提高基模型的性能。具体来说，它实现了强大的推荐性能，同时减少了97-99%的参数。至于计算成本，PEP只带来了额外的20-30%的时间成本相比，基本模型。代码可在https://github.com/ssui-liu/learnable-embed-sizes-for-RecSys上获得。
2021-03-11 cs.IR cs.LG
Robust Training Objectives Improve Embedding-based Retrieval in Industrial Recommendation Systems
Snap, Inc.（斯耐普公司）
研究验证自监督多任务学习（SSMTL）鲁棒训练目标在大规模工业推荐系统中的有效性，通过在线A/B测试证明其显著提升好友推荐关键指标。
2024-09-23 cs.IR cs.LG
Advancing Cultural Inclusivity: Optimizing Embedding Spaces for Balanced Music Recommendations
Mila Quebec AI Institute（米拉魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；McGill University（麦吉尔大学）
本研究针对音乐推荐系统中的流行度偏差，通过可解释的原型矩阵分解方法，提出过滤不相关原型和正则化技术优化嵌入空间，以增强文化公平性并保持推荐性能。
2024-05-27 cs.AI cs.IR cs.LG
A Jointly Learned Context-Aware Place of Interest Embedding for Trip Recommendations
The University of Melbourne（墨尔本大学）
旅行推荐是一种重要的基于位置的服务，它可以帮助用户从旅行计划中节省时间和精力。它的目的是为用户推荐一系列感兴趣的地方（POI），以最大限度地提高用户的满意度。当将POI添加到推荐行程时，理解推荐的上下文是至关重要的，包括POI流行度、在行程中共同出现的其他POI以及用户的偏好。这些背景因素在现有的研究中是单独学习的，而在现实中，它们共同影响用户对要访问的POI的选择。在这项研究中，我们提出了一个POI嵌入模型，共同学习这些上下文因素的影响。我们将学习的POI嵌入称为上下文感知的POI嵌入。为了展示这种嵌入的有效性，我们应用它来生成给定用户和时间预算的旅行建议。我们提出了两个行程推荐算法的基础上，我们的上下文感知POI嵌入。第一种算法通过将出行推荐问题转化为整数线性规划问题求解，从而得到精确的最优出行。为了提高计算效率，第二种算法基于自适应大邻域搜索来寻找最优行程。我们在真实数据集上进行了大量的实验。结果表明，我们提出的算法始终优于国家的最先进的算法在旅行推荐质量，与F1分数的优势高达43%。
2018-08-24 cs.IR cs.LG stat.ML
A Deep Multimodal Approach for Cold-start Music Recommendation
Universitat Pompeu Fabra（庞培法布拉大学）；Pandora Media, Inc.（潘多拉媒体公司）
每天都有越来越多的数字音乐被发布。音乐流媒体服务通常会摄取所有可用的音乐，但这带来了一个挑战：如何推荐缺乏先验知识的新艺术家？在这项工作中，我们的目标是通过使用深度网络架构将文本和音频信息与用户反馈数据相结合来解决这个所谓的冷启动问题。我们的方法分为三个步骤。首先，通过结合语义、文本特征和聚合使用数据，从传记中学习艺术家嵌入。第二，从音频信号和可用的反馈数据学习轨道嵌入。最后，艺术家和轨道嵌入在一个多模态网络相结合。结果表明，在特征级别之间分割推荐问题（即，艺术家元数据和音轨），并且在多模式方法中合并特征嵌入提高了推荐的准确性。
2017-07-24 cs.IR cs.LG
Are ID Embeddings Necessary? Whitening Pre-trained Text Embeddings for Effective Sequential Recommendation
本文研究了仅依赖文本特征无需ID嵌入的序列推荐，发现预训练文本嵌入的各向异性阻碍性能，提出利用白化变换将其转为各向同性的WhitenRec+集成方法，在三个基准数据集上优于现有方法。
2024-02-16 cs.IR
HySAGE: A Hybrid Static and Adaptive Graph Embedding Network for Context-Drifting Recommendations
最近边缘设备和人工智能物联网（AIoT）的流行推动了新一波的上下文推荐，例如基于位置的兴趣点（POI）推荐和计算资源感知的移动应用推荐。在许多这样的推荐场景中，上下文随着时间的推移而漂移。例如，在移动游戏推荐中，移动设备的位置、电池和存储水平等上下文特征经常随着时间而漂移。然而，大多数现有的基于图的协同过滤方法是在静态特征的假设下设计的。因此，它们将需要频繁的再训练和/或产生大小迅速增长的图形模型，从而阻碍它们对上下文漂移推荐的适用性。在这项工作中，我们提出了一个专门定制的混合静态和自适应图嵌入（HySAGE）网络的上下文漂移的建议。我们的核心思想是理清相对静态的用户-项目交互和快速漂移的上下文特征。具体来说，我们提出的HySAGE网络从用户-项目交互中学习相对静态的图形嵌入，并从漂移的上下文特征中学习自适应嵌入。这些嵌入被合并到兴趣网络中，以在某些特定的上下文中生成用户兴趣。我们采用交互式注意模块来学习静态图嵌入、自适应上下文嵌入和用户兴趣之间的交互，从而帮助实现更好的最终表示。在真实数据集上的大量实验表明，HySAGE显著提高了现有推荐算法的性能。
2022-08-20 cs.IR
Distilling Structured Knowledge into Embeddings for Explainable and Accurate Recommendation
最近，基于嵌入的推荐模型（例如，矩阵分解和深度模型）由于其有效性和灵活性而在学术界和工业界都很流行。但是，它们也有一些内在的局限性，如缺乏可解释性和数据稀疏性。在本文中，我们提出了一个端到端的联合学习框架，以绕过这些限制，而不引入任何额外的开销，通过从可区分的基于路径的推荐模型中提取结构化知识。通过大量的实验，我们表明，我们提出的框架可以实现国家的最先进的推荐性能，同时提供可解释的推荐理由。
2019-12-18 cs.IR
Saec: Similarity-Aware Embedding Compression in Recommendation Systems
Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系）；Platform and Content Group, Tencent（腾讯平台与内容业务线）
产品推荐系统依赖于嵌入方法来表示各种特征。实践中的一个阻碍性挑战是，随着特征的数量随着时间的推移而增长，大的嵌入矩阵在服务中引起大量的存储器占用。我们提出了一种相似性感知的嵌入矩阵压缩方法称为Saec来解决这一挑战。Saec将相似的特征聚集在一个字段中，以减少嵌入矩阵的大小。Saec还采用了一种基于特征频率的快速聚类优化方法，大大提高了聚类时间。我们在腾讯的分布式机器学习系统Many上实现并评估了Saec，使用了QQ手机浏览器10天的特征数据。测试床实验表明，Saec将嵌入向量的数量减少了两个数量级，将嵌入大小压缩了约27倍，并提供了相同的AUC和log loss性能。
2019-02-26 cs.IR cs.LG stat.ML
Item Cold Start Recommendation via Adversarial Variational Auto-encoder Warm-up
Tencent News（腾讯新闻）
随机初始化的项目ID嵌入和经过良好训练的暖项目ID嵌入之间的差距使得冷项目难以适应推荐系统，该推荐系统是在历史暖项目数据上训练的。为了缓解新项目推荐的性能下降，新项目ID嵌入的分布应该接近历史热门项目的分布。为了实现这一目标，我们提出了一个对抗变分自动编码器预热模型（AVAEW）来为冷项生成预热项ID嵌入。具体来说，我们开发了一个条件变分自动编码器模型，以利用项目的边信息来生成预热项目ID嵌入。特别是，我们引入了一个对抗模块来加强热身项目ID嵌入分布和历史项目ID嵌入分布之间的对齐。我们通过在公开数据集上的大量离线实验和在真实世界的大规模新闻推荐平台上的在线A/B测试，证明了所提出的方法的有效性和兼容性。
2023-02-28 cs.AI cs.IR cs.LG
Graph Embedding Based Hybrid Social Recommendation System
项目推荐任务是一个广泛研究的课题。深度学习和谱方法的最新发展为高效的图嵌入技术铺平了道路。但是很少有研究将这些图嵌入应用于社交图的推荐任务。本文重点研究了各种嵌入方法应用于社会图的项目推荐任务的性能。此外，提出了一种混合模型，其中所选择的嵌入模型组合在一起，给出一个集体输出。我们提出了这样一个混合模型的假设，将执行更好的推荐任务比个人嵌入。以个体嵌入为基准，对混合模型在同一任务下的推荐性能进行了评估和比较。标准度量用于定性比较。结果发现，所提出的混合模型优于基线。
2019-08-26 cs.IR cs.SI
CITIES: Contextual Inference of Tail-Item Embeddings for Sequential Recommendation
顺序推荐技术通过处理随时间变化的用户偏好，为用户提供适合其当前偏好的产品推荐。以前的研究集中在对序列动态进行建模，而没有太多地考虑哪种最畅销的产品（即，标题项目）或利基产品（即，尾项）。我们仔细研究的结构原因，为什么尾项几乎没有在当前的顺序推荐模型，其中包括一个项目嵌入层，一个序列建模层，和一个推荐层。设计良好的序列建模和推荐层有望自然地学习合适的项目嵌入。然而，尾项可能达不到这一预期，因为当前的模型结构不适合在数据不足的情况下学习高质量的嵌入。因此，尾项很少被推荐。为了消除这个问题，我们提出了一个名为CITIES的框架，其目的是通过使用多个上下文头项训练嵌入推理函数来提高尾项嵌入的质量，从而不仅提高尾项的推荐性能，而且提高头项的推荐性能。此外，我们的框架可以推断新的项目嵌入，而无需额外的学习过程。在两个真实数据集上的大量实验表明，将CITIES应用于最先进的方法可以提高尾项和头项的推荐性能。我们进行了一个额外的实验，以验证CITIES可以推断出合适的新项目嵌入。
2021-05-23 cs.IR
Quick Lists: Enriched Playlist Embeddings for Future Playlist Recommendation
iHeart（iHeart公司）
在数字音乐服务的上下文中向用户推荐播放列表是一项困难的任务，因为播放列表通常不仅仅是其部分的总和。我们提出了一种新的方法来生成播放列表嵌入，是不变的播放列表长度和敏感的本地和全球的轨道排序。嵌入还捕获关于播放列表排序的信息，并且用关于播放列表用户的辅助信息来丰富。我们表明，这些嵌入是有用的生成下一个最好的播放列表的建议，和边信息可以用于冷启动问题。
2020-06-17 cs.IR cs.LG cs.SD
Neural Input Search for Large Scale Recommendation Models
Google（谷歌）
大量离散项目（如产品、网页或视频）的推荐问题在技术行业中普遍存在。深度神经网络正越来越多地用于这些推荐问题。这些模型使用嵌入将离散项表示为连续向量，并且词汇大小和嵌入维度虽然严重影响模型的准确性，但通常以手动方式选择。我们提出了神经输入搜索（NIS），一种学习分类特征的最佳词汇量和嵌入维度的技术。我们的目标是最大限度地提高预测精度，但要限制所有嵌入所使用的总内存。此外，我们认为，传统的单尺寸嵌入（SE），它使用相同的嵌入维数的所有值的功能，遭受从模型容量和训练数据的使用效率低下。我们提出了一种新的嵌入类型，即多尺寸嵌入（ME），它允许嵌入维数不同的功能值。在训练过程中，我们使用强化学习来为每个特征找到最佳词汇量，并为每个特征值找到嵌入维度。在两种常见类型的大规模推荐问题的实验中，即检索和排名问题，NIS自动发现更好的词汇和嵌入大小，从而导致$6.8\%$和$1.8\%$在Recall@1和ROC-AUC上相对于手动优化的相对改进。
2019-07-10 cs.IR cs.LG stat.ML
Decoupled Multimodal Fusion for User Interest Modeling in Click-Through Rate Prediction
Alibaba International Digital Commerce Group（阿里巴巴国际数字商业集团）；Renmin University of China（中国人民大学）
本文提出解耦多模态融合方法，通过构建目标感知特征和优化注意力机制，提升用户兴趣建模效果，实验表明在公开和工业数据集上均取得显著提升。
2026-04-16 cs.IR
Metadata Embeddings for User and Item Cold-start Recommendations
我提出了一个混合矩阵分解模型表示用户和项目的线性组合，其内容特征的潜在因素。该模型在冷启动或稀疏交互数据场景（使用用户和项目元数据）中优于协作和基于内容的模型，并且至少与交互数据丰富的纯协作矩阵分解模型一样好。此外，由模型产生的特征嵌入以一种让人联想到词嵌入方法的方式对语义信息进行编码，使其对一系列相关任务（如标签推荐）非常有用。
2015-07-30 cs.IR
Rating and aspect-based opinion graph embeddings for explainable recommendations
Universidad Autónoma de Madrid（马德里自治大学）；Pontificia Universidad Católica de Chile（智利天主教大学）
神经网络嵌入的成功引发了人们对使用知识图谱进行各种机器学习和信息检索任务的新兴趣。特别是，最近的推荐方法的基础上图嵌入显示出最先进的性能。通常，这些方法编码潜在的评级模式和内容特征。从以前的工作，在本文中，我们建议利用嵌入提取的图形，结合信息的评级和基于方面的意见，在文本评论。然后，我们适应和评估国家的最先进的图形嵌入技术，从亚马逊和Yelp评论六个域生成的图形，优于基线嵌入器。此外，我们的方法的优点是提供的解释，涉及的覆盖面的方面为基础的意见，由用户推荐的项目。
2022-07-28 cs.AI cs.IR cs.LG
Hybrid Recommendation System using Graph Neural Network and BERT Embeddings
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本研究提出结合图神经网络与句子转换器嵌入的混合动漫推荐模型，兼顾动漫特征与用户交互，可同时实现推荐与评分预测，提升推荐准确性并可跨领域扩展。
2023-10-07 cs.AI cs.IR cs.LG
