Layered Graph Embedding for Entity Recommendation using Wikipedia in the Yahoo! Knowledge Graph
Yahoo! Research（雅虎研究院）；Stony Brook University（石溪大学）
在本文中，我们描述了一个基于嵌入的实体推荐框架的维基百科，组织维基百科成一个集合的图形分层在彼此之上，学习互补的实体表示从他们的拓扑结构和内容，并将它们与一个轻量级的学习排名的方法来推荐维基百科上的相关实体。通过离线和在线评估，我们表明，由此产生的嵌入和推荐在质量和用户参与度方面表现良好。平衡简单性和质量，这个框架提供了默认的实体建议英语和其他语言的雅虎！知识图谱，维基百科是其中的核心子集。
2020-04-15 cs.IR cs.LG cs.SI
Time-aware Hyperbolic Graph Attention Network for Session-based Recommendation
Walmart Global Tech（沃尔玛全球技术）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
基于会话的推荐（SBR）是根据用户先前的浏览会话来预测用户下一个感兴趣的项目。现有方法将会话建模为图形或序列，以基于用户交互的项目来估计用户兴趣，从而进行推荐。近年来，基于图的方法在SBR上取得了优异的性能。然而，这些方法都没有考虑时间信息，这是SBR中的一个重要特征，因为它表明了时间性或时效性。此外，会话图呈现出层次结构，并被证明是适用于双曲几何。但在双曲空间中设计模型的文献还很少，这方面的研究还处于探索阶段。在本文中，我们提出了时间感知双曲图注意力网络（TA-HGAT）-一种新的双曲图神经网络框架，建立一个基于会话的推荐模型考虑时间信息。更具体地说，在TA-HGAT中有三个组成部分。首先，双曲投影模块将项目特征转换到双曲空间。第二，时间感知图形注意力模块对项目与用户当前兴趣之间的时间间隔进行建模。第三，在模型结束时的进化损失提供了基于给定时间戳的推荐项目的准确预测。TA-HGAT构建在双曲空间中，用于学习会话图的层次结构。实验结果表明，提出的TA-HGAT具有最好的性能相比，10个基线模型在两个真实世界的数据集。
2023-01-10 cs.IR cs.LG cs.SI
Heterogeneous Graph Neural Network for Recommendation
电子商务的蓬勃发展催生了各种各样的推荐系统。事实上，在现实世界的推荐系统中，各种类型的节点之间存在着丰富而复杂的交互关系，这些节点可以被构造成异构图。如何学习代表节点嵌入是个性化推荐系统的基础和核心。元路径是一种广泛使用的结构，以捕捉这种交互下的语义，并显示潜在的能力，提高节点嵌入。本文提出了一种异构图神经网络推荐算法（HGRec），该算法通过聚合基于邻居的多跳元路径将高阶语义注入节点嵌入，并基于注意力机制通过多个元路径融合丰富的语义，得到综合的节点嵌入。实验结果表明，丰富的高阶语义的重要性，也显示了潜在的良好的解释性HGRec。
2020-09-02 cs.IR cs.LG cs.SI
Semi-decentralized Federated Ego Graph Learning for Recommendation
Southern University of Science and Technology（南方科技大学）；The University of Queensland（昆士兰大学）；Griffith University（格里菲斯大学）
基于协同过滤（CF）的推荐系统通常基于个人交互数据（例如，点击和购买），这些可以自然地表示为自我图。然而，现有的推荐方法大多收集所有用户的自我图组成一个全局图，以获取用户与项目之间的高阶协作信息，这些集中式CF推荐方法不可避免地导致用户隐私泄露的高风险。虽然最近提出的联合推荐系统可以缓解隐私问题，但它们要么将设备上的本地训练限制在孤立的自我图上，要么依赖于额外的第三方服务器来访问其他自我图，从而导致繁琐的管道，这在实践中很难工作。此外，现有的联合推荐系统需要资源有限的设备来维护整个嵌入表，从而导致高通信成本。有鉴于此，我们提出了一个半分散的联合自我图学习框架的设备上的建议，命名为SemiDFEGL，它引入了新的设备到设备的协作，以提高可扩展性和降低通信成本，并创新地利用预测的交互项目节点连接孤立的自我图，以增加本地子图，以便高阶用户项目的协作信息可以在隐私保护的方式使用。此外，所提出的框架是模型不可知的，这意味着它可以与现有的基于图神经网络的推荐方法和隐私保护技术无缝集成。为了验证所提出的SemiDFEGL的有效性，在三个公共数据集上进行了大量的实验，实验结果表明了所提出的SemiDFEGL与其他联邦推荐方法相比的优越性.
2023-02-10 cs.AI cs.IR cs.LG
Graphing else matters: exploiting aspect opinions and ratings in explainable graph-based recommendations
Universidad Autónoma de Madrid（马德里自治大学）；Pontificia Universidad Católica de Chile（智利天主教大学）
神经网络嵌入的成功引发了人们对使用知识图谱进行各种机器学习和信息检索任务的新兴趣。特别是，目前基于图嵌入的推荐方法已经显示出最先进的性能。这些方法通常对潜在的评级模式和内容特征进行编码。与以往的工作不同，在本文中，我们建议利用从图中提取的嵌入，结合文本评论中表达的评级和基于方面的意见的信息。然后，我们适应和评估国家的最先进的图形嵌入技术，从亚马逊和Yelp评论六个域生成的图形，优于基线嵌入器。我们的方法的优点是提供的解释，利用基于方面的意见，由用户推荐的项目。此外，我们还提供了利用方面意见作为可视化仪表板中的解释的建议的适用性的示例，该仪表板允许获得关于从输入图的嵌入中获得的类似用户的最喜欢和最不喜欢的方面的信息。
2022-07-28 cs.AI cs.IR cs.LG
A Knowledge-Enhanced Recommendation Model with Attribute-Level Co-Attention
Fudan University（复旦大学）
深度神经网络（DNN）已被广泛应用于推荐系统中，包括结合注意力机制以提高性能。然而，现有的基于注意力的推荐模型大多只对用户进行项目级的注意，限制了推荐性能的进一步提高。在本文中，我们提出了一个知识增强的推荐模型ACAM，它结合了从知识图谱（KG）提取的项目属性作为边信息，并建立了一个共同的注意力机制的属性级别，以实现性能增益。具体地说，ACAM中的每个用户和项目首先由一组属性嵌入来表示。然后，用户表示和项目表示的同时，通过捕获不同属性之间的相关性，由一个共同注意模块。我们在两个真实数据集上的广泛实验表明，通过属性级共同注意增强的用户表示和项目表示获得了ACAM优于最先进的深度模型的优势。
2020-06-18 cs.IR cs.LG
SpecFormer: Mitigating Embedding and Attention Collapse via Spectral-Aware Transformer for Recommendation
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）
研究针对推荐场景中Transformer性能瓶颈问题，提出SpecFormer，通过引入可学习频谱软化模块、频谱软化注意力机制和频谱残差位置编码，有效减轻嵌入和注意力崩溃，实验证明其显著优于基线且有卓越扩展能力。
2026-08-04 cs.IR cs.LG
Attention Mixtures for Time-Aware Sequential Recommendation
Deezer Research（Deezer研究院）
本文提出MOJITO，一种改进的Transformer序列推荐系统，利用基于注意力的时间上下文和物品嵌入表示的高斯混合体进行序列建模，在多个真实数据集上超越现有方法。
2023-07-03 cs.IR cs.LG
Attention-based neural re-ranking approach for next city in trip recommendations
Edinburgh（爱丁堡）；Saint-Petersburg（圣彼得堡）
本文描述了一种解决旅游预订系统下一个目的地城市推荐问题的方法。我们提出了一个两阶段的方法：一个启发式的候选人选择方法和一个注意力神经网络模型的候选人重新排名。我们的方法的灵感来自列表学习排名方法和自然语言处理的最新发展，特别是Transformer架构。我们使用这种方法来解决Booking.com推荐挑战我们的团队使用这种方法在挑战中获得了第5名，在数据集的封闭部分上获得了0.555的准确度@4值。
2021-03-23 cs.IR cs.LG
Sequential Recommendation with Relation-Aware Kernelized Self-Attention
最近的研究表明，顺序推荐是由注意力机制改善。通过这种发展，我们提出了一个自注意力机制的Transformer的概率模型的增强的感知核自注意力（RKSA）。Transformer最初的自注意力是一种确定性测度，没有关系意识。因此，我们引入了一个潜在的空间的自注意力力，和潜在的空间模型的推荐上下文的关系作为一个多变量的偏态正态分布与核化协方差矩阵的同现，项目的特点，和用户信息。该工作通过添加推荐任务细节的概率模型，将Transformer的自注意力和顺序推荐相结合。我们在基准数据集上进行了RKSA实验，与最近的基线模型相比，RKSA显示出显着的改进。此外，RKSA还能够生成一个潜在空间模型来回答推荐的原因。
2019-11-15 cs.IR cs.LG stat.ML
Pairwise Interactive Graph Attention Network for Context-Aware Recommendation
Nanjing University（南京大学）
上下文感知推荐系统（CARS）考虑了丰富的边信息来提高推荐性能，引起了学术界和工业界越来越多的关注。如何从不同的上下文特征中预测用户偏好是CARS的核心。最近的几个模型关注用户行为，并使用专门设计的结构来从历史行为中提取自适应的用户兴趣。然而，很少有研究考虑项目历史交互，这导致项目特征表示和项目吸引力提取的不足。根据这些观察，我们将用户-项目交互建模为动态交互图（DIG），并提出了一种基于GNN的模型，称为成对交互图注意力网络（PIGAT），以同时捕获动态用户兴趣和项目吸引力。PIGAT引入了注意力机制来考虑每个交互的用户/项目对用户和项目的重要性，该机制捕获用户兴趣、项目吸引力及其对推荐上下文的影响。此外，置信度嵌入应用于交互，以区分在不同时间发生的交互的置信度。然后，更有表现力的用户/项目表示和自适应交互功能，这有利于推荐性能，特别是当涉及长尾项目。我们在三个真实世界的数据集上进行实验，以证明PIGAT的有效性。
2019-11-18 cs.IR cs.LG
Price-guided user attention in large-scale E-commerce group recommendation
Rakuten Group, Inc.（乐天集团）
本文针对群组推荐中关键用户选择受价格影响的问题，提出以商品价格引导用户聚合的注意力方法，通过自适应sigmoid调整logits，并在命中率和均方误差上优于现有方法。
2024-10-02 cs.IR cs.LG
Cross-attention Secretly Performs Orthogonal Alignment in Recommendation Models
Meta
该研究揭示了推荐模型中交叉注意力隐式执行正交对齐机制，发现其能自然产生并改善缩放定律，在超300次实验中提升性能，为多模态参数高效缩放提供了新方向。
2025-10-10 cs.IR cs.LG
Attention-based Mixture Density Recurrent Networks for History-based Recommendation
eBay；New York University（纽约大学）
个性化的基于历史的推荐的目标是自动输出一个分布在所有的项目给定的一系列以前购买的用户。在这项工作中，我们提出了一种新的方法，使用一个经常性的网络来总结购买的历史，连续的向量表示项目的可扩展性，和一个新的基于注意力的经常性混合密度网络，它输出每个组件的混合物顺序，建模多模态条件分布。我们在两个公开的数据集MovieLens-20 M和RecSys 15上评估了所提出的方法。实验表明，所提出的方法，明确建模的多模态性质的预测分布，是能够提高性能在各种基线的精度，召回率和nDCG。
2017-09-22 cs.IR cs.LG
SAM: A Self-adaptive Attention Module for Context-Aware Recommendation System
School of Data Science, Fudan University（复旦大学数据科学学院）；School of Computer Science, Fudan University（复旦大学计算机科学技术学院）
近年来，文本信息在推荐系统中的作用越来越受到人们的重视。然而，现有的评价方法大多只关注评分中文本信息的表示学习，而忽略了文本信息可能引起的选择偏差。在这项工作中，我们提出了一种新的和一般的自适应模块，自适应注意力模块（SAM），它调整的选择偏差，通过捕获上下文信息的基础上，其表示。该模块可以嵌入到包含上下文信息的学习组件的推荐系统中。在三个真实数据集上的实验结果证明了我们的建议的有效性，与SAM的最先进的模型显着优于原来的。
2021-10-13 cs.IR cs.LG
Learning Self-Modulating Attention in Continuous Time Space with Applications to Sequential Recommendation
Shanghai Jiao Tong University（上海交通大学）；Meituan（美团）
用户兴趣在现实世界中通常是动态的，这对从丰富的行为数据中学习准确的偏好提出了理论和实践挑战。在现有的用户行为建模解决方案中，注意力网络因其有效性和相对简单性而被广泛采用。尽管被广泛研究，现有的注意力仍然遭受两个局限性：i）传统的注意力主要考虑用户行为之间的空间相关性，而不管这些行为在连续时间空间中的距离;和ii）这些注意力大多提供了一个密集的和不可区分的分布在所有过去的行为，然后用心地将它们编码到输出的潜在表示。然而，这在用户的未来动作与她/他的历史行为的小子集相关的实际场景中是不合适的。在本文中，我们提出了一种新的注意力网络，命名为自调节注意力，模型的复杂和非线性演变的动态用户偏好。我们实证证明了我们的方法在前N个顺序推荐任务上的有效性，并且在三个大规模真实世界数据集上的结果表明，我们的模型可以达到最先进的性能。
2022-03-30 cs.IR cs.LG
Hybrid-Hierarchical Fashion Graph Attention Network for Compatibility-Oriented and Personalized Outfit Recommendation
Tarbiat Modares University (TMU)（塔比亚特莫达雷斯大学）
针对现有研究独立处理穿搭兼容性和个性化推荐的问题，提出FGAT框架，通过用户-穿搭-商品三层图及图注意力机制联合建模，在POG数据集上多指标优于基线，提升推荐效果。
2025-08-20 cs.IR cs.LG
Modeling Long-Term and Short-Term Interests with Parallel Attentions for Session-based Recommendation
Shanghai Jiao Tong University（上海交通大学）
基于会话的推荐的目的是预测用户的下一个点击项目，这是一个具有挑战性的任务，由于用户行为的固有的不确定性和匿名的隐式反馈信息。强大的基于会话的推荐器通常可以探索用户不断变化的兴趣（即，他/她的长期和短期利益的结合）。注意力机制的最新进展已经导致了用于解决该任务的最先进的方法。然而，存在两个主要缺点。首先，大多数基于注意力的方法只是简单地利用最后一次点击的项目来表示用户的短期兴趣，忽略了时间信息和行为上下文，这可能无法全面地捕获用户的近期偏好。其次，目前的研究通常认为长期和短期利益同样重要，但它们的重要性应该是用户特定的。因此，我们提出了一种新的并行注意力网络模型（PAN）的基于会话的推荐。具体而言，我们提出了一种新的时间感知的注意力机制，学习用户的短期兴趣，同时考虑到上下文信息和时间信号。此外，我们引入了一个门控融合方法，自适应地整合用户的长期和短期的喜好，以产生混合兴趣表示。在三个真实数据集上的实验表明，PAN方法比现有方法有明显的改进。
2020-07-24 cs.IR cs.LG
Leveraging Negative Signals with Self-Attention for Sequential Music Recommendation
Georgia Institute of Technology（佐治亚理工学院）；TU Wien（维也纳工业大学）
针对序列音乐推荐中短内容场景和会话级负反馈利用不足的问题，提出可嵌入多种深度架构的对比学习损失，用跳过曲目等负信号提升推荐效果。
2024-01-18 cs.IR cs.LG
GraphFusionSBR: Denoising Multi-Channel Graphs for Session-Based Recommendation
Department of Computer Science and Information Engineering（计算机科学与信息工程系）；National Central University（国立中央大学）
图融合SBR通过多通道图融合和去噪技术提升基于会话的推荐准确性
2026-01-13 cs.IR cs.LG
Reinforcement Knowledge Graph Reasoning for Explainable Recommendation
Rutgers University（罗格斯大学）
个性化推荐的最新进展激发了人们对利用知识图谱提供的丰富结构化信息的极大兴趣。与大多数现有的方法，只专注于利用知识图谱更准确的建议，我们进行明确的推理与决策的知识，使建议产生和支持的解释因果推理过程。为此，我们提出了一种称为策略引导路径推理（PGPR）的方法，该方法通过在知识图谱中提供实际路径来耦合推荐和可解释性。我们的贡献包括四个方面。我们首先强调的意义，将知识图谱的建议，正式定义和解释的推理过程。其次，我们提出了一个强化学习（RL）的方法，具有创新的软奖励策略，用户条件动作修剪和多跳评分函数。第三，我们设计了一个策略引导的图搜索算法，以有效地和有效地采样推理路径的推荐。最后，我们在几个大规模的真实世界的基准数据集上广泛地评估了我们的方法，与最先进的方法相比，获得了有利的结果。
2019-06-12 cs.IR cs.LG
Mixed Attention Network for Cross-domain Sequential Recommendation
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）；Kuaishou Technology（快手科技）；Hefei University of Technology（合肥工业大学）
本文提出混合注意力网络（MAN），通过局部与全局注意力模块提取领域特定和跨领域信息，解决跨域序列推荐中依赖重叠用户的问题，在两个真实数据集上验证了优越性。
2023-11-14 cs.IR cs.LG
Query-based Interactive Recommendation by Meta-Path and Adapted Attention-GRU
Alibaba Group（阿里巴巴集团）；Zhejiang University（浙江大学）；Xidian University（西安电子科技大学）
近年来，交互式推荐系统越来越受欢迎。通过用户与系统之间的交互，（1）用户可以主动干预推荐结果，而不是被动地接受它们，（2）系统可以更多地了解用户，以便提供更好的推荐。我们专注于单轮交互，即系统向用户提问（步骤1），并利用他的反馈来生成更好的推荐（步骤2）。本文提出了一种新的基于查询的交互式推荐系统，其中步骤1是\textbf{personalized questions are accurately generated from millions of automatically constructed questions}，步骤2是\textbf{the recommendation is ensured to be closely-related to users' feedback}。我们通过将步骤1转换为查询推荐任务，将步骤2转换为检索任务来实现这一点。前一项任务是我们的主要挑战。我们首先提出了一个基于元路径的模型，以有效地从大型查询池中检索数百个查询候选。然后，一个自适应的Attention-GRU模型的开发，以有效地排名这些候选人的推荐。在中国大型电子商务平台淘宝网上进行的离线和在线实验验证了我们的交互系统的有效性。自2018年11月11日起，该系统已在淘宝App首页投入使用（在线工作方式请参见https://v.qq.com/x/page/s0833tkp1uo.ht…
2019-06-24 cs.IR cs.LG
Ultra Fast Warm Start Solution for Graph Recommendations
HSE University（俄罗斯莫斯科高等经济大学）
本研究针对图推荐系统UltraGCN的推荐更新需求，提出适配低秩近似的线性热启动方法，速度较传统方法最高快30倍，同时提升推荐质量，具备高可扩展性。
2025-09-01 cs.IR cs.LG
ReFORM: Review-aggregated Profile Generation via LLM with Multi-Factor Attention for Restaurant Recommendation
University of Southern California, USA（美国南加州大学）；Sejong University, South Korea（韩国世宗大学）
本文提出ReFORM框架，利用LLM和多因素注意力机制从评论中生成用户和物品资料，提升餐厅推荐的鲁棒性和性能。
2026-03-17 cs.IR cs.LG
Sequential Recommendation via Adaptive Robust Attention with Multi-dimensional Embeddings
Salesforce（Salesforce公司）；University of Technology Sydney（悉尼科技大学）
针对序列推荐中用户行为多样及模型鲁棒性问题，提出ADRRec框架，结合多维时间上下文核嵌入、混合注意力与LNI正则化，实验表明其优于现有自注意力架构。
2024-09-08 cs.AI cs.IR cs.LG
Dynamic Memory based Attention Network for Sequential Recommendation
Texas A&M University（德克萨斯A&M大学）；Alibaba Group（阿里巴巴集团）；The Hong Kong Polytechnic University（香港理工大学）
顺序推荐在各种在线服务中变得越来越重要。它旨在从用户的历史交互中建模用户的动态偏好，并预测他们的下一个项目。真实系统上积累的用户行为记录可能会很长。这些丰富的数据为跟踪用户的实际兴趣带来了机会。先前的努力主要集中在基于相对较新的行为提出建议。然而，由于早期的交互可能会影响用户当前的选择，因此整体顺序数据可能无法得到有效利用。此外，由于现实世界的系统需要短的响应时间，因此在为每个用户执行推理时扫描整个行为序列变得不可容忍。为了弥补这一不足，我们提出了一种新的长序列推荐模型，称为动态基于记忆的注意力网络（DMAN）。它将整个长行为序列分割成一系列子序列，然后训练模型并维护一组内存块以保存用户的长期兴趣。为了提高记忆保真度，DMAN动态地抽象每个用户的长期兴趣到自己的记忆块，通过最小化的辅助重建损失。基于动态记忆，用户的短期和长期兴趣可以显式地提取和组合的有效联合推荐。四个基准数据集的实证结果表明，我们的模型在捕获长期依赖性方面优于各种最先进的序列模型。
2021-02-18 cs.IR cs.LG
NRPA: Neural Recommendation with Personalized Attention
Tianjin University（天津大学）；Microsoft Research Asia（微软亚洲研究院）；Tsinghua University（清华大学）
现有的基于评论的推荐方法通常使用相同的模型来从用户对项目发布的评论中学习所有用户/项目的表示。然而，不同的用户有不同的偏好，不同的项目有不同的特点。因此，相同的词或类似的评论对于不同的用户和项目可能具有不同的信息量。在本文中，我们提出了一种具有个性化注意力的神经推荐方法，以从评论中学习用户和项目的个性化表示。我们使用评论编码器从单词中学习评论的表示，使用用户/项目编码器从评论中学习用户或项目的表示。我们提出了一个个性化的注意力模型，并将其应用到评论和用户/项目编码器，以选择不同的重要的话和评论，为不同的用户/项目。在五个数据集上的实验验证了该方法可以有效地提高神经推荐的性能。
2019-05-29 cs.CL cs.IR cs.LG
Multi-Item-Query Attention for Stable Sequential Recommendation
Hong Kong University of Science and Technology（香港理工大学）
针对序列推荐中单一最近物品查询易受交互噪声影响的问题，本文提出可即插即用的 MIQ-Attn，通过多物品查询增强稳定性、一致性与准确性。
2025-09-29 cs.AI cs.IR cs.LG
Beyong Tokens: Item-aware Attention for LLM-based Recommendation
City University of Hong Kong（香港城市大学）
本文提出项感知注意力机制，通过区分项内和项间标记关系，提升LLM在推荐中的表现，实验证明其有效性。
2026-04-14 cs.IR
Session-based Recommendation with Self-Attention Networks
基于会话的推荐旨在通过当前会话和先前的匿名会话预测用户的下一个行为。在基于会话的推荐中，捕获项目之间的长距离依赖关系是一个重要的挑战。提出了一种新的基于会话的推荐方法，并将自注意网络（SR-SAN）作为一种补救措施。自注意网络（SAN）允许SR-SAN捕获会话的所有项目之间的全局依赖关系，而不管它们的距离。在SR-SAN中，使用单个项目的潜在向量来捕获当前兴趣和全局兴趣，而不是由当前兴趣嵌入和全局兴趣嵌入组成的会话嵌入。在一些开放的基准数据集上进行了一些实验。实验结果表明，该方法优于一些国家的艺术比较。
2021-02-03 cs.IR
Pay Attention to Attention for Sequential Recommendation
本文提出 AWRSR，通过显式关注并细化注意力权重来增强自注意力，以捕捉序列推荐中的高阶物品依赖，实验证明其持续优于现有 SR 模型。
2024-10-28 cs.IR
Attention Is Not the Only Choice: Counterfactual Reasoning for Path-Based Explainable Recommendation
针对基于路径推荐中注意力权重不稳定且不符直觉的问题，提出用反事实推理学习路径可解释权重，并设计两种算法及定性定量评估方案，实验验证其有效可靠。
2024-03-03 cs.IR
Application of Knowledge Graphs to Provide Side Information for Improved Recommendation Accuracy
Concordia University（康考迪亚大学）
个性化推荐在互联网驱动的活动中很受欢迎，特别是购物。推荐方法可以分为三大类，基于内容的过滤，协同过滤和机器学习增强。关于不同用户的产品和偏好的信息主要用于推断特定用户的偏好。不充分的信息显然会导致这些方法失败或性能不佳。我们为这些方法提供的信息越多，这些方法就越有可能表现得更好。知识图谱代表了以实体之间的关系形式记录信息的当前趋势，并可以提供有关产品和用户的附加（侧面）信息。这些信息可以用于改进最近邻搜索，聚类用户和产品，或者在使用神经网络时训练神经网络。在这项工作中，我们提出了一个新的通用推荐系统框架，集成知识图谱到推荐管道。我们描述了它的软件设计和实现，然后通过实验表明，这样的框架可以专门为一个域，说电影推荐，并可能由于侧信息从知识图谱表示这样的信息得到的建议结果的改进。我们的框架支持不同的知识图谱表示格式，并方便格式转换，合并和信息抽取所需的训练推荐方法。
2021-01-07 cs.IR cs.LG
Next Item Recommendation with Self-Attention
在本文中，我们提出了一种新的序列感知推荐模型。我们的模型利用自我注意力机制，从用户的历史交互推断项目之间的关系。通过自注意，它能够估计用户交互轨迹中每个项目的相对权重，以更好地学习用户瞬时兴趣的表示。该模型最终在度量学习框架中进行训练，同时考虑短期和长期意图。在不同领域的广泛数据集上的实验表明，我们的方法远远优于最先进的方法。
2018-08-25 cs.IR
An Efficient Recommendation Model Based on Knowledge Graph Attention-Assisted Network (KGATAX)
UC Berkeley（加州大学伯克利分校）
针对传统推荐算法忽视多源信息整合的问题，本研究提出知识图谱注意力辅助网络（KGAT-AX），通过引入知识图谱、注意力机制、多层交互信息传播和全息嵌入聚合辅助信息，在公开数据集上展现出优于基线模型的性能与关系学习能力。
2024-09-05 cs.AI cs.IR cs.LG
Unveiling Optimal SDG Pathways: An Innovative Approach Leveraging Graph Pruning and Intent Graph for Effective Recommendations
College of Computer, Nanjing University of Posts and Telecommunications（南京邮电大学计算机学院）；Institute of Geographic Sciences and Natural Resources Research, Chinese Academy of Sciences（中国科学院地理科学与资源研究所）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出UGPIG方法，通过剪枝用户图解决空间异质性忽视问题，并构建意图图缓解区域历史交互数据稀疏性，从而有效提升可持续发展模式推荐性能。
2023-09-21 cs.IR cs.LG
MEANTIME: Mixture of Attention Mechanisms with Multi-temporal Embeddings for Sequential Recommendation
Seoul National University（首尔大学）；POSTECH（浦项工科大学）；Neural Processing Research Center（神经处理研究中心）
近年来，基于自我注意的推荐模型在顺序推荐任务中取得了很好的效果。遵循语言处理的习惯，这些模型中的大多数依赖于简单的位置嵌入来利用用户历史的顺序性质。然而，目前的方法有一些局限性。首先，顺序推荐与语言处理的不同之处在于时间戳信息是可用的。以前的模型没有很好地利用它来提取额外的上下文信息。其次，使用简单的嵌入方案可能导致信息瓶颈，因为相同的嵌入必须代表所有可能的上下文偏见。第三，由于以前的模型在每个注意力头部中使用相同的位置嵌入，它们可以浪费地学习重叠模式。为了解决这些限制，我们提出了MEANTIME（AtteNTION机制与多时间嵌入的混合），它采用多种类型的时间嵌入，旨在从用户的行为序列中捕获各种模式，以及充分利用这种多样性的注意力结构。对真实数据的实验表明，我们提出的方法优于当前最先进的顺序推荐方法，我们提供了一个广泛的消融研究，分析模型如何从不同的位置信息中获益。
2020-08-21 cs.IR cs.LG stat.ML
Local Citation Recommendation with Hierarchical-Attention Text Encoder and SciBERT-based Reranking
Institute of Neuroinformatics, University of Zurich（苏黎世大学神经信息学研究所）；ETH Zurich（苏黎世联邦理工学院）
本地引用推荐的目标是从本地引用上下文以及可选地从全局上下文推荐缺失的参考文献。为了在大规模论文数据库的背景下平衡引用推荐的速度和准确性之间的权衡，一种可行的方法是首先使用有效的排名方法预取有限数量的相关文档，然后使用更复杂的模型执行细粒度的重新排名。在这种情况下，BM 25被发现是一种难以击败的预取方法，这就是为什么最近的工作主要集中在重新排序步骤上。即便如此，我们探索预取与最近邻搜索之间的文本嵌入构造的层次注意力网络。当再加上一个SciBERT reranker微调本地引文推荐任务，我们的分层注意力编码器（HAtten）实现了高预取召回给定数量的候选人进行重新排名。因此，我们的重新排名器需要更少的预取候选项来重新排名，但仍然在ACL-200、FullTextPeerRead、RefSeer和arXiv等各种本地引文推荐数据集上实现了最先进的性能。
2022-03-17 cs.CL cs.IR cs.LG
Attentive Graph-based Text-aware Preference Modeling for Top-N Recommendation
National Taiwan University（国立台湾大学）
针对现有评论模型在Top-N推荐中表现不佳且数据受限的问题，提出AGTM模型，通过结合图卷积网络的高阶连通性与物品文本内容，有效提升了Top-N推荐性能。
2023-05-22 cs.IR cs.LG
MLSA4Rec: Mamba Combined with Low-Rank Decomposed Self-Attention for Sequential Recommendation
School of Computer Science, South China Normal University（华南师范大学计算机学院）
MLSA4Rec通过结合Mamba和低秩分解自注意力，提升序列推荐的准确性与效率。
2024-07-18 cs.IR
Déjà vu: A Contextualized Temporal Attention Mechanism for Sequential Recommendation
University of Virginia（弗吉尼亚大学）
根据用户的历史行为序列预测用户的偏好是现代推荐系统的关键和挑战。现有的顺序推荐算法在建模历史事件对当前预测的影响时，大多关注顺序行为之间的过渡结构，而忽略了时间和上下文信息。在本文中，我们认为，过去的事件对用户的当前行动的影响应该随着时间的推移和不同的上下文。因此，我们提出了一个语境化的时间注意力机制，它学会权衡历史行动的影响，不仅是什么行动，而且行动何时以及如何发生。更具体地说，为了动态地校准来自自注意力机制的相对输入依赖性，我们部署了多个参数化核函数来学习各种时间动态，然后使用上下文信息来确定每个输入遵循这些重新加权核中的哪一个。在对两个大型公共推荐数据集的实证评估中，我们的模型始终优于一组广泛的最先进的顺序推荐方法。
2020-01-29 cs.CL cs.IR cs.LG
Reusable Self-Attention-based Recommender System for Fashion
Zalando SE（Zalando SE（扎兰多））
大量关于在推荐系统领域中应用自注意模型的实证研究都是基于标准化数据集上计算的离线评估和度量，而没有深入了解这些模型在现实生活中的表现。此外，他们中的许多人不考虑项目和客户元数据等信息，尽管深度学习分类器只有在包含大量异构类型的特征时才能充分发挥其潜力。此外，通常推荐模型被设计为仅很好地服务于单个用例，这增加了建模复杂性和维护成本，并且可能导致不一致的客户体验。在这项工作中，我们提出了一个可重用的基于注意力的时尚推荐算法（AFRA），利用各种交互类型与不同的时尚实体，如项目（例如，衬衫），服装和影响者，以及他们的异质特征。此外，我们利用时间和上下文信息来解决短期和长期客户偏好。我们展示了它在服装推荐用例上的有效性，特别是：1）个性化排名提要; 2）按风格推荐服装; 3）相似项目推荐和4）由最近的客户行为启发的会话推荐。我们提出了离线和在线实验结果，证明了客户保留和参与的实质性改善。
2022-11-29 cs.IR cs.LG
DCAN: Diversified News Recommendation with Coverage-Attentive Networks
基于自我注意的模型被广泛应用于新闻推荐任务中。然而，以往的Attention体系结构没有约束用户历史行为中的重复信息，这限制了隐藏表示的能力，并导致了信息冗余和过滤气泡等问题。为了解决这个问题，我们提出了一个个性化新闻推荐模型DCAN，它通过新闻编码器和用户编码器捕获多粒度的用户-新闻匹配信号。我们不断更新覆盖向量来跟踪新闻关注的历史，并以4种方式增加向量。然后将扩展后的Coverage向量输入到多头自注意模型中，帮助调整未来注意力，并在损失函数（CRL）中加入Coverage规则，使推荐系统能够更多地考虑差异化信息。在微软新闻推荐数据集（MIND）上的大量实验表明，我们的模型在准确性方面的牺牲最小的情况下，显着提高了新闻推荐的多样性。
2022-06-02 cs.IR
Att-KGCN: Tourist Attractions Recommendation System by using Attention mechanism and Knowledge Graph Convolution Network
Ibb University（伊卜大学）；Shaanxi Normal University（陕西师范大学）
针对旅游领域景点属性筛选复杂的推荐问题，提出融合注意力机制的Att-KGCN模型，可自动发现景点语义邻域并聚合相似地点，基于也门索科特拉岛数据验证了其推荐效果的优越性。
2023-07-03 cs.AI cs.GR cs.IR
LA-LDA: A Limited Attention Topic Model for Social Recommendation
USC Information Sciences Institute（南加州大学信息科学研究所）；University of Maryland（马里兰大学）
社交媒体用户的注意力有限，这限制了他们可以处理的来自朋友的传入消息的数量。此外，他们比其他人更关注某些朋友的意见和建议。在本文中，我们提出了LA-LDA，一个潜在的主题模型，其中包括有限的，非均匀分布的注意力在扩散过程中的意见和信息在社会网络上传播。我们表明，我们提出的模型是能够学习更准确的用户模型，从用户的社交网络和项目采用行为比模型，不考虑有限的注意力。我们分析了社会新闻聚合器Digg上的新闻项目投票，并表明我们提出的模型能够更好地预测投票。我们的研究表明，心理社会动机的模型比只考虑主题的模型有更好的描述和预测观察到的行为的能力。
2013-01-26 cs.IR cs.LG cs.SI
Attention over Self-attention:Intention-aware Re-ranking with Dynamic Transformer Encoders for Recommendation
重新排序模型细化了由先前的全局排序模型生成的项目推荐列表，这已经证明了它们在提高推荐质量方面的有效性。然而，大多数现有的重排序解决方案只学习隐式反馈与共享的预测模型，这令人遗憾地忽略了不同的用户意图下的项目间的关系。在本文中，我们提出了一种新的意图感知重排序模型与动态Transformer编码器（RAISE），旨在执行用户特定的预测，为每个单独的用户的基础上，她的意图。具体来说，我们首先提出挖掘潜在的用户意图从文本评论与意图发现模块（IDM）。通过区分评论信息的重要性与共同注意力网络，潜在的用户意图可以显式地建模为每个用户项目对。然后，我们引入了一个动态的Transformer编码器（DTE），以捕捉用户特定的项目之间的项目候选人无缝地容纳通过IDM学习潜在的用户意图之间的关系。因此，人们不仅可以实现更个性化的推荐，而且还可以通过在现有的推荐引擎上构建RAISE来获得相应的解释。在4个公开数据集上的实验结果表明，本文提出的RAISE算法在Precision@5、MAP@5和NDCG@5下的相对性能分别提高了13.95%、9.60%和13.03%。
2023-03-12 cs.IR
Time-aware Self-Attention Meets Logic Reasoning in Recommender Systems
Jiaying University（嘉应学院）
在大数据时代，推荐系统作为我们日常生活中信息过滤的关键手段已经取得了显着的成功。近年来，推荐系统的技术发展经历了从感知学习到认知推理的过程，将推荐任务直观地构建为逻辑推理的过程，并取得了显著的进步。然而，推理中的逻辑陈述隐含地承认了排序的无关性，甚至没有考虑在许多推荐任务中起重要作用的时间信息。此外，结合时间上下文的推荐模型将倾向于自我关注，即，自动聚焦更多（更少）的相关性（无关性）。针对这些问题，本文提出了一种基于时间感知的自注意力神经协作推理（TiSANCR）推荐模型，将时间模式和自注意力机制集成到基于推理的推荐中。特别是，时间模式表示的相对时间，提供上下文和辅助信息来描述用户的偏好在推荐，而自我注意是利用提取信息模式和抑制无关。因此，自我注意的时间信息的融合提供了更深层次的表示用户的偏好。在基准数据集上进行的大量实验表明，提出的TiSANCR推荐算法性能显著提高，并且始终优于现有的推荐方法。
2022-08-29 cs.AI cs.IR cs.LG
NAIRS: A Neural Attentive Interpretable Recommendation System
School of Computer Science, Fudan University（复旦大学计算机学院）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；School of Electronics, Electrical Engineering and Computer Science, Queen’s University Belfast（贝尔法斯特女王大学电子、电气工程与计算机科学学院）
在本文中，我们开发了一个神经注意的可解释的推荐系统，NAIRS。自注意网络作为系统的关键部分，被设计用于为用户的交互项目分配注意权重。该注意力机制可以区分各种交互项在对用户简档作出贡献方面的重要性。基于自注意网络获得的用户简档，NAIRS提供个性化的高质量推荐。此外，它还开发了视觉线索来解释建议。这个演示应用程序实现了NAIRS，使用户能够与推荐系统进行交互，它持续收集训练数据以改进系统。演示和实验结果表明了NAIRS的有效性。
2019-02-20 cs.IR cs.LG cs.SI
Linear-Time Self Attention with Codeword Histogram for Efficient Recommendation
自注意由于其有效性，在从自然语言处理到推荐的各种序列建模任务中变得越来越流行。然而，自注意具有二次计算和存储复杂性，限制了其在长序列上的应用。解决这个问题的现有方法主要依赖于稀疏注意上下文，或者使用本地窗口，或者通过局部敏感哈希（LSH）或排序获得的置换桶，而关键信息可能会丢失。受矢量量化思想的启发，提出了一种LISA（LNear-time Self Attention）算法，该算法既具有自注意的有效性，又具有稀疏注意的高效性。LISA随序列长度线性缩放，同时通过计算码字分布的可微分直方图来实现完全的上下文注意力。同时，与一些有效的注意力方法不同，我们的方法对偶然掩蔽或序列长度没有限制。我们评估我们的方法在四个现实世界的数据集顺序推荐。结果表明，LISA在性能和速度方面都优于最先进的高效注意力方法;它比香草自我注意力快57倍，内存效率高78倍。
2021-05-28 cs.IR
SOLAR: SVD-Optimized Lifelong Attention for Recommendation
SOLAR通过SVD-Attention优化低秩结构，提升推荐系统中长序列建模效率，实现0.68%的视频观看量增长。
2026-10-01 cs.CV cs.IR cs.LG
FD-GATDR: A Federated-Decentralized-Learning Graph Attention Network for Doctor Recommendation Using EHR
Iowa State University（爱荷华州立大学）；IQVIA（艾昆纬）；The Ohio State University（俄亥俄州立大学）
在过去的十年中，随着大数据技术的发展，越来越多的患者信息被存储为电子健康记录（EHR）。利用这些数据，已经提出了各种医生推荐系统。通常，这样的研究以平面结构的方式处理EHR数据，其中每个遭遇都被视为无序的特征集。然而，不应忽视索赔中存储的服务顺序等异构结构化信息。本文提出了一个具有时间嵌入的医生推荐系统，利用异构图注意力网络重构患者和医生之间的潜在联系。此外，针对跨医院患者数据共享的隐私问题，提出了一种基于最小化优化模型的联邦分散学习方法。基于图的推荐系统已经在EHR数据集上进行了验证。与基线模型相比，该方法将AUC提高了6.2%。我们所提出的基于联邦的融合算法，不仅产生虚拟融合中心的性能，但也享有O（1/T）的收敛速度。
2022-07-11 cs.AI cs.IR cs.LG
Position-Aware Sequential Attention for Accurate Next Item Recommendations
Skolkovo Institute of Science and Technology（斯克尔科夫科学与技术研究所）；AIRI
本文提出位置核化的自注意力机制，用于提升序列推荐的准确性。
2026-02-24 cs.AI cs.IR cs.LG
Integrating Structure-Aware Attention and Knowledge Graphs in Explainable Recommendation Systems
Carnegie Mellon University（卡内基梅隆大学）；Trine University（特莱恩大学）；Syracuse University（雪城大学）；Northwestern University（西北大学）；University of Toronto（多伦多大学）
本文提出一种融合知识图谱与结构感知注意力机制的可解释推荐模型，通过图神经网络多跳聚合和动态权重分配捕捉隐式偏好，在Amazon Books数据集上验证了其优越性能与稳定性。
2025-10-11 cs.IR
