LITEWAY: LIghtweight HAR via Temporal Efficient highWAY
RPTU, DFKI(RPTU,DFKI)
针对可穿戴HAR现有轻量循环模型的局限,提出全卷积框架LITEWAY,在16个HAR数据集上实现具竞争力性能,同时大幅缩减模型体积与能耗。
2026-08-11 cs.AI cs.HC cs.LG
Multi-Scale Quasi-RNN for Next Item Recommendation
School of Computer Science and Engineering, Nanyang Technological University(南洋理工大学计算机科学与工程学院);LILY Research Centre, Nanyang Technological University(南洋理工大学LILY研究中心)
如何更好地利用序列信息已被广泛研究的推荐系统的设置。为此,架构归纳偏差,如马尔可夫链,递归模型,卷积网络和许多其他已经证明了合理的成功在这项任务。本文提出了一种新的神经网络结构,多尺度准RNN下一个项目推荐(QR-Rec)任务。我们的模型通过利用多尺度卷积特征作为循环单元的组合门控函数,提供了两全其美的效果。该模型以多尺度方式实现,即,实现各种宽度的卷积滤波器以捕获影响合成编码器的输入序列的不同联合级特征。其关键思想是捕捉不同类型的局部特征之间的循环关系,这在推荐的背景下从未被研究过。通过大量的实验,我们证明了我们的模型在15个成熟的数据集上实现了最先进的性能,在MAP,Recall@10和NDCG@10方面,绝对优于FPMC,Fossil和Caser等强大的竞争对手0.57%-7.16%,相对于1.44%-17.65%。
2019-02-26 cs.IR cs.LG cs.NE
Multi-Objective Neural Architecture Search Based on Diverse Structures and Adaptive Recommendation
Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室)
卷积神经网络(CNN)的神经结构搜索(NAS)的搜索空间是巨大的。为了减少搜索开销,大多数NAS算法使用固定的外部网络层结构,并且只搜索可重复的单元结构。当使用足够的小区和信道时,这种固定架构表现良好。然而,当架构变得更加轻量级时,性能会显著降低。为了获得更好的轻量级结构,需要更灵活和多样化的神经结构,并且应该为更大的搜索空间设计更有效的方法。受此启发,我们提出了MoARR算法,它利用现有的研究成果和历史信息,快速找到架构,既轻量级和准确。我们使用所发现的高性能细胞来构建网络架构。该方法增加了网络结构的多样性,同时也减少了单元结构设计的搜索空间。此外,设计了一种新的多目标方法,有效地分析历史评价信息,从而高效地搜索精度高、参数少的Pareto最优结构。实验结果表明,MoARR在CIFAR-10上仅用6个GPU时就能实现一个功能强大、轻量级的模型(出错率为1.9%,参数为2.3M),优于现有的模型。探索的架构可转移到ImageNet,并在4.9M参数下达到76.0%的top-1准确率。
2020-08-13 cs.CV cs.LG
Pre-trained Language Model and Knowledge Distillation for Lightweight Sequential Recommendation
University of Science and Technology of China(中国科学技术大学)
针对预训练语言模型在实时推荐中推理慢的问题,提出基于知识蒸馏的两阶段序列推荐算法,将预训练知识迁移至轻量级模型,在提升准确率的同时实现及时推荐。
2024-09-23 cs.IR cs.LG
Lightweight yet Fine-grained: A Graph Capsule Convolutional Network with Subspace Alignment for Shared-account Sequential Recommendation
College of Computer Science and Engineering, Shandong University of Science and Technology(山东科技大学计算机科学与工程学院);College of Computer Science and Technology, Ocean University of China(中国海洋大学计算机科学与技术学院)
针对共享账户序列推荐中难以捕捉细粒度关联且现有方法计算复杂的问题,提出轻量图胶囊卷积网络结合子空间对齐方法,实现交互与潜在用户的细粒度匹配并优化序列表示,在准确性和效率上优于九种先进方法。
2024-12-18 cs.AI cs.IR cs.LG
Federated Personal Knowledge Graph Completion with Lightweight Large Language Models for Personalized Recommendations
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出FedTREK-LM框架,结合轻量级大语言模型、演化个人知识图谱和联邦学习,实现可扩展的去中心化个性化推荐,实验显示其在电影和食谱推荐中F1分数提升超4倍。
2026-02-25 cs.IR cs.LG
TV-Rec: Time-Variant Convolutional Filter for Sequential Recommendation
KAIST(韩国科学技术院)
TV-Rec通过引入时间变换单元卷积滤波器,提升了序列推荐中对复杂用户行为交互模式的捕捉能力,同时减少了计算量并加速了推理过程。
2025-10-29 cs.AI cs.IR cs.LG
A Framework for Lightweight Responsible Prompting Recommendation
IBM Research(IBM研究院);Washington University in St. Louis(圣路易斯华盛顿大学);Purdue University(普渡大学)
针对生成式人工智能(GenAI)交互缺乏指导的问题,提出轻量级负责任提示推荐框架,含人工数据集、红队数据集、语义映射模型等组件,助力用户更负责任地与GenAI交互。
2025-03-29 cs.AI cs.IR
Ripple Knowledge Graph Convolutional Networks For Recommendation Systems
Nagoya University(名古屋大学);Deakin University(迪肯大学);University of South Australia(南澳大学);Hiroshima University(广岛大学)
针对推荐系统的效果提升问题,提出结合用户端与物品端知识图的RKGCN模型,动态分析用户偏好以丰富表征,在三个真实数据集上优于5个基线模型。
2024-04-10 cs.AI cs.IR cs.LG
Lightweight Self-Attentive Sequential Recommendation
The University of Queensland(昆士兰大学)
现代深度神经网络(DNN)通过在各种顺序推荐任务上实现最先进的推荐性能,极大地促进了顺序推荐系统的开发。给定交互项的序列,现有的基于DNN的顺序排序器通常将每个项嵌入到唯一向量中以支持用户兴趣的后续计算。然而,由于潜在的大量项目,顺序推荐器的过参数化项目嵌入矩阵已经成为资源受限环境中有效部署的存储器瓶颈,例如,智能手机和其他边缘设备。此外,我们观察到,广泛使用的多头自我注意,虽然是有效的建模项目之间的顺序依赖关系,在很大程度上依赖于冗余的注意力单元,以充分捕捉全球和本地项目的项目转移模式的序列。本文介绍了一种用于顺序推荐的新型轻量级自关注网络(LSAN)。为了积极地压缩原始嵌入矩阵,LSAN利用了组合嵌入的概念,其中每个项嵌入都是通过合并从小得多的嵌入矩阵中导出的一组选定的基本嵌入向量来组成的。同时,考虑到每个项目的内在动态,我们进一步提出了一个时间上下文感知的嵌入组合方案。此外,我们开发了一种创新的双注意力网络,它在保留捕获长期和短期(即,全局和局部)项依赖性。综合实验表明,LSAN显着提高了现有的顺序排序器的准确性和内存效率。
2021-08-25 cs.IR cs.LG
Lightweight representation learning for efficient and scalable recommendation
在过去的几十年里,推荐已经成为许多在线服务(如流媒体和电子商务)的关键组成部分。算法、评估方法和数据集的最新进展导致了最先进技术的不断改进。然而,要使这些方法扩展到互联网的规模,还有很多工作要做。在线广告为大规模推荐提供了一个独特的试验平台。每天,数十亿用户与数百万产品进行实时交互。解决这一问题的系统必须能够大规模可靠地工作。我们提出了一个有效的模型(LED,轻量级编码器-解码器),达到了复杂性,规模和性能之间的新的权衡。具体来说,我们表明,将大规模矩阵因式分解与轻量级嵌入微调相结合,可以大规模释放最先进的性能。我们进一步提供了系统架构的详细描述,并在互联网的规模上展示了其两个多月的操作。我们的设计允许使用标准硬件在几毫秒内为数十亿用户提供数亿项服务。
2021-11-29 cs.IR
Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding
Simon Fraser University(西蒙弗雷泽大学)
前- $N$顺序推荐将每个用户建模为过去交互的项目序列,旨在预测用户可能在“不久的将来”交互的前- $N$排名项目。交互的顺序意味着序列模式在序列中最近的项目对下一个项目有更大的影响时起着重要的作用。在本文中,我们提出了一个卷积序列嵌入推荐模型(\emph{Caser})作为解决方案,以满足这一要求。其思想是将最近项目的序列嵌入到时间和潜在空间中的“图像”中,并使用卷积滤波器将序列模式作为图像的局部特征进行学习。这种方法提供了一个统一和灵活的网络结构,用于捕获一般偏好和顺序模式。在公共数据集上的实验表明,Caser在各种常见的评估指标上始终优于最先进的顺序推荐方法。
2018-09-19 cs.IR cs.LG
P4GCN: Vertical Federated Social Recommendation with Privacy-Preserving Two-Party Graph Convolution Network
Xiamen University(厦门大学);Insightone Tech Co., Ltd(智联科技有限公司)
本文提出P4GCN方法,通过隐私保护两方图卷积网络实现纵向联邦社交推荐,在无需直接访问敏感社交数据的前提下提升推荐准确性,并在四个数据集上验证其优于现有方法。
2025-02-04 cs.AI cs.IR cs.LG
Convolutional Gaussian Embeddings for Personalized Recommendation with Uncertainty
Fudan University(复旦大学);Shanghai Institute of Intelligent Electronics & Systems(上海智能电子与系统研究院)
现有的基于嵌入的推荐模型大多使用嵌入(向量)对应于低维空间中的单个固定点,来表示用户和项目。这样的嵌入不能精确地表示推荐系统中经常观察到的具有不确定性的用户/项目。为了解决这个问题,我们提出了一个统一的深度推荐框架,采用高斯嵌入,这是证明适应一些用户表现出的不确定的偏好,从而更好的用户表示和推荐性能。此外,该框架采用Monte-Carlo抽样和卷积神经网络计算目标用户与候选项之间的相关性,并在此基础上实现精确推荐。我们在两个基准数据集上的大量实验不仅证明了我们提出的高斯嵌入很好地捕捉了用户的不确定性,而且还证明了其优于最先进的推荐模型的性能。
2020-06-19 cs.IR cs.LG stat.ML
ELIXIR: Efficient and LIghtweight model for eXplaIning Recommendations
Sorbonne University, CNRS, ISIR(索邦大学、国家科学研究中心、信息科学研究所)
针对推荐系统可解释性不足及现有文本解释生成方法的缺陷,提出结合评分预测与个性化评论生成的多任务轻量模型ELIXIR,在小模型规模下实现了更优的个性化解释效果。
2025-09-05 cs.CL cs.IR cs.LG
Attentive Knowledge-aware Graph Convolutional Networks with Collaborative Guidance for Personalized Recommendation
The Chinese University of Hong Kong(香港中文大学);Microsoft Research Asia(微软亚洲研究院);Carnegie Mellon University(卡内基梅隆大学)
为了解决传统推荐系统的数据稀疏性和冷启动问题,引入知识图谱来补充辅助信息成为近年来的研究热点。然而,在现有的基于KG的RS模型中,简单地集成KG并不一定能保证提高推荐性能,这甚至可能削弱整体模型的能力。这是因为这些KG的构建独立于历史用户-项目交互的收集;因此,这些KG中的信息可能并不总是有助于向所有用户推荐。在本文中,我们提出了专注的知识感知的图卷积网络与个性化推荐的协作指导(CG-KGR)。CG-KGR是一种新的知识感知推荐模型,通过我们提出的协作指导机制,可以充分和一致地学习知识组和用户-项目交互。具体来说,CG-KGR首先将历史交互封装为交互式信息摘要。然后CG-KGR利用它作为指导,以提取信息的KG,最终提供更精确的个性化推荐。我们在四个真实世界的数据集上进行了两个推荐任务的广泛实验,即,Top-K推荐和点击率(CTR)预测。实验结果表明,CG-KGR模型在Top-K推荐的召回度量方面显著优于最近的最先进的模型1.4-27.0%。
2022-01-02 cs.AI cs.IR
Reviewing Developments of Graph Convolutional Network Techniques for Recommendation Systems
Institute of Advanced Scientific Research(高级科学研究所);Shivaji University(希瓦吉大学)
本文综述了图神经网络在推荐系统中的应用,涵盖背景、分类、动机及图构建、嵌入传播和计算效率的挑战,并展望未来方向。
2023-11-10 cs.AI cs.IR cs.LG
Factorization Machines Leveraging Lightweight Linked Open Data-enabled Features for Top-N Recommendations
随着链接开放数据(LOD)的普及和相关的增长,可以通过LOD访问的免费访问的知识,利用LOD的推荐系统已被广泛研究基于各种方法,如基于图或使用不同的机器学习模型与LOD启用功能。许多先前的方法需要构造附加图以运行基于图的算法或通过组合用户-项目交互(例如,喜欢、不喜欢)和来自LOD的背景知识。在本文中,我们研究了基于特别轻量级的LOD功能的因子分解机(FM),这些功能可以通过公共SPARQL端点直接获得,而无需任何额外的努力来构建图。首先,我们的目标是研究使用FM与这些轻量级的LOD功能相比,是否可以提供有竞争力的性能学习排名的方法,利用LOD以及其他成熟的方法,如kNN项目和BPRMF。其次,我们感兴趣的是找出在多大程度上每一组LOD功能的推荐性能的贡献。标准数据集上的实验评估表明,我们提出的方法使用FM与轻量级的LOD功能提供了最好的性能相比,其他方法在五个评估指标。此外,基于不同的LOD功能集的推荐性能的研究表明,属性对象列表和项目的PageRank分数是有用的,以提高性能,并可以提供最佳的性能,通过使用它们一起FM。我们观察到,主题属性列表的项目并没有贡献的推荐性能,而是降低了性能。
2017-07-28 cs.IR
LightLM: A Lightweight Deep and Narrow Language Model for Generative Recommendation
Rutgers University(罗格斯大学)
本文提出轻量级深窄Transformer模型LightLM,结合SCI和GCI索引方法及约束生成过程,在生成式推荐中兼顾准确性与效率并超越大规模语言模型。
2023-10-30 cs.CL cs.IR
A Lightweight Method for Modeling Confidence in Recommendations with Learned Beta Distributions
Radboud University(拉德堡德大学)
本文提出学习型 Beta 分布(LBD)方法,以轻量级方式为推荐系统提供显式置信度度量,在保持竞争性准确率的同时显著提升准确率与置信度的相关性,并在高精度定向推荐任务中表现更优。
2023-08-06 cs.IR cs.LG
Lightweight yet Efficient: An External Attentive Graph Convolutional Network with Positional Prompts for Sequential Recommendation
College of Computer Science and Engineering, Shandong University of Science and Technology(山东科技大学计算机科学与工程学院)
针对图序列推荐计算复杂度高且难以捕捉复杂位置依赖的问题,提出轻量级外部注意力图卷积网络EA-GPS,通过外部记忆单元与位置提示解码器提升推荐效率与性能。
2025-03-04 cs.AI cs.IR cs.LG
Graph Convolutional Network for Recommendation with Low-pass Collaborative Filters
Tsinghua University(清华大学)
\textbf{G}卷积\textbf{N}网络(\textbf{GCN})被广泛用于图数据学习任务,例如推荐。然而,当面对一个大的图,图卷积是非常昂贵的计算,因此被简化在所有现有的GCN,但严重受损,由于过度简化。为了解决这个问题,我们利用GCN中的\textit{original graph convolution},并提出了一个\textbf{L}低通\textbf{C}协同\textbf{F}过滤器(\textbf{LCF}),使其适用于大型图。LCF的设计目的是去除观测数据中由曝光和量化引起的噪声,并且以无损的方式降低图卷积的复杂度。实验表明,LCF提高了图卷积的有效性和效率,我们的GCN显着优于现有的GCN。代码可在\url{https://github.com/Wenhui-Yu/LCFN}上获得。
2021-01-18 cs.IR cs.LG stat.ML
CosRec: 2D Convolutional Neural Networks for Sequential Recommendation
University of California, San Diego(加州大学圣地亚哥分校)
序列模式在构建现代推荐系统中起着重要的作用。为此,几个推荐系统已经建立在马尔可夫链和递归模型(等)之上。尽管这些顺序模型在一系列任务中已经被证明是成功的,但它们仍然难以揭示用户购买历史中嵌套的复杂关系。在本文中,我们认为,成对关系建模直接导致一个有效的表示顺序功能,并捕捉复杂的项目相关性。具体来说,我们提出了一个用于顺序推荐的2D卷积网络(CosRec)。它将一系列项编码为三向张量;使用2D卷积滤波器学习局部特征;并以前馈方式聚合高阶交互。在两个公共数据集上的定量结果表明,我们的方法优于传统方法和最近的基于序列的方法,在各种评估指标上实现了最先进的性能。
2019-08-27 cs.IR cs.LG
RRCN: A Reinforced Random Convolutional Network based Reciprocal Recommendation Approach for Online Dating
Harbin Institute of Technology, ShenZhen(哈尔滨工业大学(深圳));University of New South Wales(新南威尔士大学);Peng Cheng Laboratory(鹏城实验室)
近年来,交互推荐,特别是在线约会应用程序中的交互推荐,引起了越来越多的研究关注。与传统的推荐问题不同,互惠推荐的目标是同时最好地匹配用户的相互偏好。直觉上,相互偏好可能会受到用户喜欢或不喜欢的一些关键属性的影响。同时,用户属性与其关键属性之间的相互作用对于关键属性的选择也是非常重要的。受这些观察的启发,在本文中,我们提出了一种新的增强随机卷积网络(RRCN)方法用于互惠推荐任务。特别是,我们在技术上提出了一种新的随机CNN组件,可以随机卷积非相邻特征以捕获它们的交互信息,并学习关键属性的特征嵌入以进行最终推荐。此外,我们设计了一种基于强化学习的策略,与随机CNN组件集成,以选择显著属性,形成关键属性的候选集。我们评估了建议RRCN对一些基线和国家的最先进的方法在两个真实世界的数据集,和有希望的结果已经证明了RRCN的优越性,对比较的方法在一些评估标准。
2020-11-25 cs.AI cs.IR
Coarse-to-Fine Lightweight Meta-Embedding for ID-Based Recommendation
School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机与信息工程学院);College of Information and Intelligence, Hunan Agricultural University(湖南农业大学信息与智能科学技术学院)
针对现有轻量级推荐元嵌入仅关注粗粒度、忽略细粒度语义导致效果次优的问题,提出基于GNN的从粗到精元嵌入推荐方法,结合稀疏初始化与权重桥接更新策略,在内存约束下提升推荐效果。
2025-03-19 cs.AI cs.IR
Self-Attentive Sequential Recommendation with Cheap Causal Convolutions
顺序推荐是当前的一个研究热点,它利用用户的行为序列作为输入来预测用户的未来行为。基于自我注意力机制的模型通过点积估计历史行为的相关强度,可以捕捉序列的长期偏好。然而,它有两个局限性。一方面,它没有有效地利用项目的本地上下文信息时,确定的注意力和创建的序列表示。另一方面,卷积层和线性层通常包含冗余信息,这限制了对序列进行编码的能力。本文提出了一种基于廉价因果卷积的自注意顺序推荐模型。它利用因果卷积来捕获项目的局部信息,以计算注意力并生成序列嵌入。它还使用廉价的卷积,以提高表示的轻量级结构。我们评估所提出的模型的有效性,准确和校准的顺序推荐。在基准数据集上的实验表明,该模型在单目标和多目标推荐场景下都有较好的推荐效果。
2023-02-22 cs.IR
Bundle Recommendation with Graph Convolutional Networks
Beijing National Research Center for Information Science and Technology (BNRist)(北京信息科学与技术国家研究中心);Tsinghua University(清华大学);University of Science and Technology of China(中国科学技术大学)
捆绑推荐的目的是推荐一个捆绑的项目,供用户作为一个整体消费。现有的解决方案通过共享模型参数或多任务学习的方式将用户-项目交互建模集成到捆绑包推荐中,无法显式地对项目和捆绑包之间的关联进行建模,也无法探索用户选择捆绑包时的决策过程。在这项工作中,我们提出了一个图神经网络模型BGCN(简称\textit{\textBF{B}undle \textBF{G}raph \textBF{C}onvolutional \textBF{N}etwork})的捆绑推荐。BGCN将用户-项目交互、用户-捆绑包交互和产品-项目关联统一到一个异构图中。以项目节点为桥梁,用户和捆绑节点之间的图卷积传播使学习的表示捕获项目级语义。通过基于硬负采样器的训练,进一步区分用户对相似捆绑包的细粒度偏好。在两个真实数据集上的实证结果表明,BGCN具有较强的性能增益,其性能优于最先进的基线10.77%至23.18%。
2020-05-07 cs.IR cs.LG
LightFR: Lightweight Federated Recommendation with Privacy-preserving Matrix Factorization
联邦推荐系统(FRS)使多个本地设备能够在不传输本地原始数据的情况下联合训练共享模型,具有隐私保护的优点,已成为一种流行的推荐模式。然而,以往的FRS工作是在连续嵌入空间中通过内积进行相似性搜索,这在项目规模非常大时会导致效率瓶颈。我们认为,联邦设置中的这种方案忽略了资源受限的用户设备中的有限容量(即,存储空间、计算开销和通信带宽),并且使其更难被部署在大规模推荐系统中。此外,它已被证明,在服务器和客户端之间传输的实值形式的局部梯度可能会泄漏用户的隐私信息。为此,我们提出了一个轻量级的联邦推荐框架与隐私保护矩阵分解,LightFR,能够生成高质量的二进制代码,通过利用学习哈希技术在联邦设置下,从而享受快速的在线推理和经济的内存消耗。此外,我们设计了一个有效的联邦离散优化算法,以协同训练模型参数之间的服务器和客户端,可以有效地防止来自恶意方的实值梯度攻击。通过在四个真实数据集上的广泛实验,我们证明了我们的LightFR模型在推荐准确性,推理效率和数据隐私方面优于几种最先进的FRS方法。
2022-12-24 cs.CR cs.IR
Item Graph Convolution Collaborative Filtering for Inductive Recommendations
Insight Centre for Data Analytics(洞察数据分析中心)
图卷积网络(GCN)最近已被用作推荐系统算法的构建中的核心组件,解释用户项目的交互作为一个二分图的边缘。然而,在没有边信息的情况下,大多数现有模型采用随机初始化用户嵌入并在整个训练过程中对其进行优化的方法。这种策略使这些算法具有内在的传导性,从而削弱了它们为用户生成在训练时看不到的预测的能力。为了解决这个问题,我们提出了一个基于卷积的算法,这是归纳从用户的角度来看,而在同一时间,只依赖于隐式的用户项交互数据。我们建议通过二分交互网络的加权投影构建项目-项目图,并采用卷积将高阶关联注入项目嵌入,同时将用户表示构建为与其交互的项目的加权和。尽管没有为每个用户训练单独的嵌入,但我们的方法在四个真实世界数据集上的转换基线方面实现了最先进的推荐性能,同时显示了强大的归纳性能。
2023-03-28 cs.IR cs.LG
JSCN: Joint Spectral Convolutional Network for Cross Domain Recommendation
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Florida State University(佛罗里达州立大学);Jilin University(吉林大学)
跨域推荐可以缓解推荐系统中的数据稀疏性问题。为了将知识从一个域转移到另一个域,可以利用邻域信息或学习直接映射函数。然而,现有的方法都忽略了跨域推荐区域的高阶连通性信息,并且存在域不兼容问题。在本文中,我们提出了一个\textbf{J}点\textbf{S}频谱\textbf{C}卷积\textbf{N}网络(JSCN)的跨域推荐。JSCN将同时在不同的图上操作多层谱卷积,并与域自适应用户映射模块联合学习域不变的用户表示。因此,高阶全面的连接信息可以提取的频谱卷积和信息可以跨域传递域不变的用户映射。领域自适应用户映射模块可以帮助不兼容的领域相互传递知识。在$24$ Amazon评分数据集上进行的大量实验表明,JSCN在跨域推荐中的有效性,与现有方法相比,$9.2\%$在召回率上有所提高,$36.4\%$在MAP上有所提高.我们的代码可在线获取~ \footnote{https://github.com/JimLiu96/JSCN}。
2019-10-18 cs.IR cs.LG stat.ML
Position-enhanced and Time-aware Graph Convolutional Network for Sequential Recommendations
School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院);Beijing Institute of Remote Sensing(北京遥感信息研究所);School of Computer Science, Wuhan University(武汉大学计算机学院);Department of Computer Science, Stanford University(斯坦福大学计算机科学系);Chinese Academy of Engineering(中国工程院)
现有的大多数基于深度学习的顺序推荐方法利用递归神经网络架构或自注意力来对用户历史行为中的顺序模式和时间影响进行建模,并学习用户在特定时间的偏好。然而,这些方法具有两个主要缺点。首先,他们专注于从以用户为中心的角度对用户的动态状态进行建模,而总是忽略项目随时间的动态变化。第二,他们中的大多数只处理一阶的用户和项目之间的相互作用,并没有考虑用户和项目之间的高阶连接,这是最近被证明是有益的顺序推荐。针对上述问题,本文尝试用二分图结构对用户-项目交互进行建模,并提出一种基于位置增强和时间感知的图卷积网络(PTGCN)的顺序推荐方法. PTGCN通过定义一个位置增强和时间感知的图卷积运算,并使用自注意力聚合器在二分图上同时学习用户和项目的动态表示,对用户-项目交互之间的顺序模式和时间动态进行建模。此外,它实现了用户和项目之间的高阶连接,通过堆叠多层图卷积。为了证明PTGCN的有效性,我们在三个不同大小的真实数据集上对PTGCN进行了全面的评估,并与一些竞争基线进行了比较。实验结果表明,PTGCN优于几个国家的最先进的模型在两个常用的评价指标的排名。
2022-01-14 cs.IR cs.LG
Lossless and Privacy-Preserving Graph Convolution Network for Federated Item Recommendation
针对联邦GNN推荐中图卷积不完整导致性能下降的问题,提出LP-GCN,在隐私约束下利用去中心化子图实现无损卷积,性能媲美集中式方法并优于现有联邦方法。
2024-12-02 cs.IR
Fully Hyperbolic Graph Convolution Network for Recommendation
最近,基于图卷积网络(GCN)的方法已经取得了出色的性能推荐。这些方法将用户和项目嵌入到欧氏空间中,并在用户-项目交互图上执行图卷积。然而,现实世界中的数据集通常表现出树状层次结构,这使得欧氏空间在捕捉用户-项目关系时效率较低。相比之下,双曲空间,作为一个连续的模拟树图,提供了一个有前途的选择。在本文中,我们提出了一个全双曲GCN模型的建议,其中所有的操作都在双曲空间中进行。利用双曲空间的优势,我们的方法是能够嵌入用户/项目失真较小,更准确地捕捉用户与项目的交互关系。在公共基准数据集上进行的大量实验表明,我们的方法优于欧几里得和双曲型方法,并且需要更低的嵌入维数才能达到相当的性能。
2021-08-10 cs.IR
A Simple Convolutional Generative Network for Next Item Recommendation
Tencent(腾讯);Telefonica Research(西班牙电信研究院);University of Glasgow(格拉斯哥大学);National University of Singapore(新加坡国立大学)
卷积神经网络(CNN)最近被引入到基于会话的下一个项目推荐领域。用户在会话(或序列)中与之交互的过去项目的有序集合被嵌入到二维潜在矩阵中,并被视为图像。然后将卷积和池化操作应用于映射的项嵌入。在本文中,我们首先研究了典型的基于会话的CNN推荐,并表明生成模型和网络架构是次优的建模项目序列中的长程依赖关系时。为了解决这些问题,我们引入了一个简单但非常有效的生成模型,该模型能够从短期和长期项目依赖关系中学习高级表示。所提出的模型的网络架构由\emph{holed}卷积层的堆栈形成,其可以有效地增加感受野而不依赖于池化操作。另一个贡献是在推荐系统中有效地使用剩余块结构,这可以简化更深层次网络的优化。所提出的生成式模型在下一个项目推荐任务中以更少的训练时间达到最先进的准确性。因此,它可以作为一个强大的推荐基线,在未来击败,特别是当有很长的用户反馈序列。
2018-11-29 cs.IR cs.LG stat.ML
No Attention, No Problem: Rethinking Session-based Recommendation with Pure Convolution
School of Big data and Software Engineering, Chongqing University(重庆大学大数据与软件工程学院)
本研究针对基于会话推荐中传统卷积模型全局建模弱的问题,提出纯卷积框架NextConvRec,结合结构位置编码与深浅卷积扩大感受野,在4个基准上性能超SOTA基线约1.73%且推理提速16.7%。
2026-09-28 cs.IR
KQGC: Knowledge Graph Embedding with Smoothing Effects of Graph Convolutions for Recommendation
Rakuten Institute of Technology, Rakuten Group, Inc.(乐天集团乐天技术研究所);The University of Tokyo(东京大学)
随着图表示学习(GRL)的发展,在推荐系统中利用图已经变得流行起来。其中,知识图谱嵌入(KGE)和图神经网络(GNNs)是GRL的代表性方法,在多个推荐任务上取得了最佳性能。此外,KGE和GNNs的组合(KG-GNNs)已在许多学术文献中进行了探索并发现有效。GNN的主要特征之一是它们能够在所产生的稠密表示中保留邻居之间的结构属性,这通常被称为平滑。平滑是特别需要在同伦图的存在下,如我们在推荐系统中发现的。在本文中,我们提出了一个新的推荐系统模型命名为基于知识查询的图卷积(KQGC)。与对KG-GNN进行平滑相比,KQGC专注于平滑,并利用简单的线性图卷积来平滑KGE。一个预先训练好的KGE被输入KQGC,通过聚集邻居知识查询来平滑KGE,这允许实体嵌入在适当的向量点上对齐,以有效地平滑KGE。我们建议KQGC的推荐任务,针对特定产品的潜在用户。在一个真实的电子商务数据集上进行的大量实验证明了KQGC的有效性。
2022-05-23 cs.IR cs.LG
VRConvMF: Visual Recurrent Convolutional Matrix Factorization for Movie Recommendation
China University of Petroleum(中国石油大学);East China Jiaotong University(华东交通大学);Federation University Australia(澳大利亚联邦大学)
用户对项目评分数据的稀疏性成为推荐系统面临的挑战之一,严重影响了推荐系统的性能。幸运的是,上下文感知推荐系统可以通过利用一些辅助信息,如用户和项目的信息来缓解稀疏性问题。特别是,项目的视觉信息,如电影海报,可以被认为是对项目描述文档的补充,这有助于获得更多的项目特征。本文针对电影推荐系统,提出了一种基于概率矩阵分解的视觉递归卷积矩阵分解(VRConvMF)推荐方案,该方案利用了从描述性文本和海报中分别提取的文本特征和多层次视觉特征。我们实现了所提出的VRConvMF,并在三个常用的真实世界数据集上进行了广泛的实验,以验证其有效性。实验结果表明,所提出的VRConvMF算法性能优于现有算法.
2022-02-16 cs.CV cs.IR cs.LG
LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学);Beijing Kuaishou Technology Co., Ltd.(北京快手科技有限公司);Hefei University of Technology(合肥工业大学)
图卷积网络(GCN)已经成为协同过滤的新的最先进的。然而,其推荐有效性的原因并不清楚。现有的工作,适应GCN推荐缺乏彻底的消融分析GCN,这是最初设计的图分类任务,并配备了许多神经网络操作。然而,我们的经验发现,GCN中最常见的两种设计-特征转换和非线性激活-对协同过滤的性能贡献不大。更糟糕的是,包含它们会增加训练的难度,并降低推荐性能。在这项工作中,我们的目标是简化GCN的设计,使其更简洁,适合推荐。我们提出了一个新的模型名为LightGCN,只包括GCN中最重要的组件-邻域聚合-用于协同过滤。具体来说,LightGCN通过在用户-项目交互图上线性传播来学习用户和项目嵌入,并使用在所有层学习的嵌入的加权和作为最终嵌入。这种简单、线性和整洁的模型更容易实现和训练,在完全相同的实验设置下,与神经图协同过滤(NGCF)(一种最先进的基于GCN的推荐模型)相比,表现出实质性的改进(平均约16.0\%的相对改进)。从分析和实证两个角度进一步分析了简单LightGCN的合理性。
2020-07-07 cs.IR cs.LG
Hypergraph-Enhanced Dual Convolutional Network for Bundle Recommendation
Northwestern Polytechnical University(西北工业大学);Eindhoven University of Technology(埃因霍温理工大学);Nanyang Technological University(南洋理工大学)
针对捆绑包推荐中用户、商品与捆绑包三元关系易受损的问题,提出HED模型,利用完整超图和U-B交互增强表示,并在两个数据集上验证其优于现有基线。
2026-10-08 cs.AI cs.IR
Flattened Graph Convolutional Networks For Recommendation
Alibaba Group(阿里巴巴集团);Tencent Inc.(腾讯公司);Cainiao Network(菜鸟网络);Zhejiang University(浙江大学);Jinan University(暨南大学)
图卷积网络及其变体在各种推荐任务上取得了显著的性能。然而,许多现有的GCN模型倾向于在所有相关节点之间执行递归聚合,这会产生严重的计算负担,从而阻碍其应用于大规模推荐任务。为此,本文提出了扁平化的GCN~(FlatGCN)模型,它能够实现优越的性能,与现有的模型相比,显着降低复杂度。我们的主要贡献有三个方面。首先,我们提出了一个简化但功能强大的GCN架构,它使用一个扁平化的GCN层,而不是递归地聚合邻域信息。FlatGCN中的聚合步骤是无参数的,因此可以通过并行计算进行预计算,以节省内存和计算成本。其次,我们提出了一个信息的邻居infomax抽样方法来选择最有价值的邻居,通过测量相邻节点之间的相关性的基础上的原则性度量。第三,我们提出了一种层集成技术,通过在最后一层组装逐层邻域表示来提高学习表示的表达能力。在三个数据集上进行的大量实验验证了我们提出的模型比现有的GCN模型性能更好,并且在训练效率上产生了几个数量级的加速。
2022-09-25 cs.IR cs.LG
SWAG: Item Recommendations using Convolutions on Weighted Graphs
Target Corporation(塔吉特公司)
最近在用于图结构数据的深度神经网络方面的进展已经导致推荐系统基准测试的最新性能。在这项工作中,我们提出了一个图卷积网络(GCN)算法SWAG(样本权重和AGgregate),它结合了有效的随机游走和加权图上的图卷积生成嵌入的节点(项目),结合图结构以及节点的特征信息,如项目的描述和项目的图像。使我们能够有效地基于图结构生成节点嵌入的三个重要SWAG操作是:(a)将图采样为同构结构,(b)加权采样,行走和卷积操作,以及(c)使用AGgregation函数生成卷积。这项工作是一个适应graphSAGE加权图。我们在Target部署SWAG,并在一个包含超过50万条边的在线销售产品的图形上对其进行训练。离线和在线评估揭示了使用基于图的方法的好处,以及加权产生高质量嵌入和产品推荐的好处。
2019-11-22 cs.IR cs.LG stat.CO
DGCN: Diversified Recommendation with Graph Convolutional Networks
这些年来,人们一直致力于提高推荐系统的准确性或相关性。多样性是衡量所推荐项目之间差异的一个关键因素,但几乎没有得到详细审查。与用户满意度直接相关,通常在生成候选项之后考虑多样化。然而,这种多样化和候选生成的解耦设计使得整个系统次优。在本文中,我们的目标是推动多元化的上游候选生成阶段,借助图卷积网络(GCN)。虽然基于GCN的推荐算法在建模复杂的协同过滤效果以提高推荐的准确性方面表现出了很大的能力,但这些先进的工作忽略了多样性的变化。我们建议在GCN之上执行重新平衡的邻居发现,类别提升的负采样和对抗学习。我们在真实世界的数据集上进行了广泛的实验。实验结果验证了该方法在多样化问题上的有效性。进一步的消融研究验证了我们提出的方法显着地消除了准确性多样性的困境。
2021-08-16 cs.IR
GCNSLIM: Graph Convolutional Network with Sparse Linear Methods for E-government Service Recommendation
针对现有GCN协同过滤方法在电子政务服务推荐中因矩阵分解框架限制而性能不佳的问题,提出结合GCN与稀疏线性方法的GCNSLIM模型,通过注入高阶协同信号并优化,提升推荐准确性与操作性能。
2023-05-15 cs.IR
SUGER: A Subgraph-based Graph Convolutional Network Method for Bundle Recommendation
捆绑式推荐是推荐系统中一个新兴的研究方向,其重点是为用户推荐定制的捆绑式项目。虽然图神经网络(GNNs)已经被应用于该问题并取得了优异的性能,但现有的方法对图级GNN方法的探索不足,而图级GNN方法在传统的推荐系统中表现出了巨大的潜力。此外,它们通常缺乏从一个有足够监督的域到另一个可能遭受标签稀缺问题的域的可转移性。在这项工作中,我们提出了一个基于子图的图神经网络模型,SUGER,捆绑推荐,以处理这些限制。SUGER围绕用户束对生成异构子图,然后通过神经关系图传播将这些子图映射到用户的偏好预测。实验结果表明,SUGER显着优于国家的最先进的基线在基本和传输捆绑推荐问题。
2022-05-05 cs.IR
Syndrome-aware Herb Recommendation with Multi-Graph Convolution Network
East China Normal University(华东师范大学);University of Science and Technology of China(中国科学技术大学);Tongji University(同济大学)
中药推荐在中医药治疗过程中起着至关重要的作用,其目的是推荐一组药物来治疗患者的症状。虽然已经开发了几种机器学习方法用于药物推荐,但它们仅限于对药物和症状之间的相互作用进行建模,而忽略了证候诱导的中间过程。在进行中医诊断时,有经验的医生通常会从患者的症状中归纳出症状,然后根据归纳出的症状建议草药。因此,我们认为证候的归纳,即对症状的全面描述,对于药物推荐是重要的,应该正确处理。然而,由于证候归纳的模糊性和复杂性,大多数处方缺乏明确的证候基础知识。在本文中,我们提出了一种新的方法,考虑到隐式证候诱导过程中的草药推荐。给定一组要治疗的症状,我们的目标是通过有效地融合集合中所有症状的嵌入来生成整体综合征表示,以模仿医生如何诱导综合征。对于症状嵌入学习,我们还从输入处方中构建了一个症状图,用于捕获症状之间的关系;然后我们在症状图和草药图上构建了图卷积网络(GCN)来学习症状嵌入。同样,我们构建了一个草药-草药图,并在草药-草药图和草药-草药图上构建GCN来学习草药嵌入,最后与证候表示进行交互,以预测草药的得分。通过这种方式,可以获得更全面的表示。我们在一个公开的中医数据集上进行了广泛的实验,显示出比最先进的草药推荐方法有显着的改进。
2020-02-20 cs.IR cs.LG
Pure Spectral Graph Embeddings: Reinterpreting Graph Convolution for Top-N Recommendation
Insight Centre for Data Analytics(洞察数据分析中心);University College of Dublin(都柏林大学学院)
本文从图谱理论角度解释图卷积在协同过滤中有效的原因,并提出直接利用归一化邻接矩阵特征向量模拟图卷积解的方法,在三个真实数据集上以更低训练成本取得更高Top-N推荐性能。
2023-05-28 cs.IR cs.LG
Collaboration-Aware Graph Convolutional Network for Recommender Systems
Vanderbilt University(范德堡大学)
图神经网络(GNNs)凭借其隐式捕捉协作效果的消息传递功能,已被成功地应用于推荐系统中。然而,大多数现有的推荐消息传递机制都是直接从GNN继承而来的,而没有仔细检查捕获的协作效果是否有利于预测用户偏好。在本文中,我们首先分析了如何通过消息传递捕获的协作效果,并提出了一个面向简化的拓扑度量,共同互动比(CIR),它衡量一个节点的特定邻居与其他邻居之间的互动水平。在展示了利用来自具有较高CIR的邻居的协作的好处之后,我们提出了一个定制的GNN,协作感知图卷积网络(CAGCN),它在区分非二部子图同构图方面超越了1-Weisfeiler-Lehman(1-WL)测试。在六个基准数据集上的实验表明,最好的CAGCN变体在Recall@20中的性能比最具代表性的基于GNN的推荐模型LightGCN高出近10%,并且还实现了约80%的加速比。我们的代码可在https://github.com/YuWVandy/CAGCN上公开获取。
2023-02-20 cs.IR cs.LG
Self-Supervised Multi-Channel Hypergraph Convolutional Network for Social Recommendation
在推荐系统中,当用户-项目交互数据稀疏时,经常使用社会关系来提高推荐质量。大多数现有的社会推荐模型利用成对关系挖掘潜在的用户偏好。然而,现实生活中的用户之间的交互是非常复杂的,用户关系可以是高阶的。超图提供了一种自然的方式来建模复杂的高阶关系,而其潜力,以改善社会推荐是未被开发。在本文中,我们填补了这一空白,并提出了一个多通道超图卷积网络,通过利用高阶用户关系来增强社交推荐。从技术上讲,网络中的每个通道都编码一个超图,通过超图卷积来描述一个常见的高阶用户关系模式。通过聚合通过多个渠道学习的嵌入,我们获得全面的用户表示,以生成推荐结果。然而,聚合操作也可能掩盖不同类型的高阶连接性信息的固有特性。为了弥补聚合损失,我们创新性地将自监督学习融入超图卷积网络的训练中,以分层互信息最大化的方式重新获得连通性信息。在多个真实数据集上的实验结果表明,该模型的性能优于SOTA方法,消融实验验证了多通道设置和自监督任务的有效性。我们的模型的实现可以通过https://github.com/Coder-Yu/RecQ获得。
2022-02-27 cs.IR cs.SI
Convolutional Collaborative Filter Network for Video Based Recommendation Systems
th Century Fox(二十世纪福克斯);Miso Technologies(味噌科技)
这个分析探讨了电影预告片中物体的时间顺序。电影预告片中对象的时间排序(例如,物体的长镜头与间歇的短镜头)可以传达关于电影类型、电影情节、主要人物的角色以及电影制作者的电影摄影选择的信息。当与历史客户数据相结合时,序列分析可用于改善对客户行为的预测。例如,在一个示例中,顾客购买新电影的票,并且可能该顾客在过去已经看过包含类似序列的电影。为了探索电影预告片中的对象排序,我们提出了一个视频卷积网络来捕捉可以预测客户偏好的动作和场景。模型学习不同类型对象的序列的特定性质(例如,汽车与面孔),以及序列在预测客户未来行为中的作用。我们展示了这样一个时间感知模型如何优于我们以前的作品中提出的简单特征池方法,重要的是,展示了这样一个模型所允许的额外模型解释能力。
2018-10-22 cs.AI cs.CV cs.IR
Joint Item Recommendation and Attribute Inference: An Adaptive Graph Convolutional Network Approach
Hefei University of Technology(合肥工业大学)
在许多推荐系统中,用户和项目与属性相关联,用户对项目表示偏好。属性信息描述了用户(项目)的特征,具有广泛的应用,如用户分析,项目注释和功能增强的推荐。由于注释用户(项目)属性是一项劳动密集型任务,因此属性值通常不完整,并且有许多属性值缺失。因此,项目推荐和属性推理成为这些平台的两个主要任务。长期以来,研究者们一致认为用户(物品)属性和偏好行为是高度相关的。一些研究人员提出利用一种数据来完成剩余的任务,并显示出提高性能的效果。然而,这些模型要么忽略了用户(项目)属性的不完整性,要么考虑了两个任务的相关性与简单的模型,导致这两个任务的次优性能。为此,在本文中,我们定义了这两个任务的属性用户项二分图,并提出了一个自适应图卷积网络(AGCN)的联合项目推荐和属性推理的方法。AGCN的关键思想是迭代地执行两个部分:1)使用先前学习的近似属性值来学习图嵌入参数,以促进两个任务; 2)将近似的更新属性值发送回属性图,以进行更好的图嵌入学习。因此,AGCN可以自适应地调整图嵌入学习参数,通过结合给定的属性和估计的属性值,以提供弱监督的信息,以改善这两个任务。在三个真实世界数据集上的大量实验结果清楚地表明了所提出的模型的有效性。
2020-05-25 cs.IR cs.LG
The Best is Yet to Come: Graph Convolution in the Testing Phase for Multimodal Recommendation
针对多模态推荐中训练阶段使用GCN导致成本高、模态孤立和有害配对的问题,提出FastMMRec,仅在测试阶段执行图卷积,在三个公开数据集上提升效率、可扩展性与推荐性能。
2025-07-24 cs.IR
Lightweight Modality Adaptation to Sequential Recommendation via Correlation Supervision
本文提出一种轻量级知识蒸馏方法,通过整体与分解的模态相关性监督及异步学习缓解序列推荐中的模态遗忘,在多种骨干架构上平均提升6.8%。
2024-01-14 cs.IR
Do We Really Need Graph Convolution During Training? Light Post-Training Graph-ODE for Efficient Recommendation
University of Illinois Chicago(伊利诺伊大学芝加哥分校);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
针对图卷积网络训练推荐系统效率低的问题,提出轻量级训练后图常微分方程LightGODE,通过非参数连续ODE绕过密集消息传递以动态建模节点,大幅减少训练时间并缓解嵌入差异。
2024-07-29 cs.IR cs.LG
Rolling Forward: Enhancing LightGCN with Causal Graph Convolution for Credit Bond Recommendation
BNP Paribas(法国巴黎银行);École Polytechnique(巴黎综合理工学院)
针对金融场景中用户兴趣与物品流行度快速变化的问题,本文用因果卷积和滑动窗口动态嵌入扩展 LightGCN,在法国巴黎银行真实数据上提升了信用债券推荐性能。
2025-03-18 cs.IR cs.LG q-fin.CP