Batch versus Sequential Active Learning for Recommender Systems
Imec - WAVES - Ghent University(imec - WAVES - 根特大学)
推荐系统已经研究了很多年,目的是产生尽可能准确的推荐。然而,关于新用户的可用数据往往不足,导致不准确的建议;这个问题被称为冷启动问题。解决方案可以是主动学习。主动学习策略主动选择项目,并要求用户对这些项目进行评分。这样,可以获取详细的用户偏好,并且因此可以向用户提供更准确的推荐。在这项研究中,我们比较了五个主动学习算法,结合三种不同的预测算法,这是用来估计到什么程度的用户会喜欢的项目,要求评级。此外,还测试了两种选择项目的模式:批处理模式(一次选择所有项目)和顺序模式(逐个选择项目)。在评分预测,决策支持,和项目的排名方面的评价的推荐,顺序模式产生最准确的建议密集的数据集。主动学习算法之间的差异很小。对于大多数活跃的学习者来说,最好的预测结果是FunkSVD与顺序模式的结合。
2022-01-19 cs.IR cs.LG
Deep Context-Aware Recommender System Utilizing Sequential Latent Context
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Telekom Innovation Laboratories at BGU(BGU德国电信创新实验室);Stern School of Business, New York University(纽约大学斯特恩商学院)
上下文感知推荐系统(CARS)通过感知和分析用户上下文来提供个性化服务。将上下文添加到推荐模型是具有挑战性的,因为上下文的添加可能增加模型的维度和稀疏性。最近的研究表明,将上下文信息建模为潜在向量可以解决稀疏性和维度挑战。本文提出了一种新的序列上下文潜在建模方法,通过生成上下文信息序列并将其上下文空间压缩为一个压缩的潜在空间,对上下文信息序列进行训练,构造一个长短期记忆(LSTM)编码解码器网络,并从网络的隐藏层提取序列潜在上下文,以压缩表示序列数据。我们提出了新的上下文感知推荐模型,扩展了神经协同过滤方法,并学习用户,项目和上下文的潜在特征之间的非线性相互作用,考虑到顺序的潜在上下文表示作为推荐过程的一部分。我们使用两个具有不同上下文维度的上下文感知数据集部署了我们的方法。我们的研究结果的实证分析验证了我们提出的顺序潜在的上下文感知模型(SLCM),超越了最先进的CARS模型。
2020-08-06 cs.LG stat.ML
Data Augmentation Strategies for Improving Sequential Recommender Systems
Seoul National University(首尔国立大学)
最近,顺序推荐系统通过利用基于深度学习(DL)的方法实现了显著的性能改进。然而,尽管已经介绍了各种基于DL的方法,其中大多数只关注网络结构的转换,忽略了其他影响因素的重要性,包括数据增强。显然,基于DL的模型需要大量的训练数据,以便很好地估计参数并实现高性能,这导致早期的努力通过计算机视觉和语音领域的数据增强来增加训练数据。在本文中,我们试图找出各种数据增强策略可以提高顺序推荐系统的性能,特别是当训练数据集不够大。为此,我们提出了一组简单的数据增强策略,所有这些策略都以直接损坏的方式转换原始项序列,并描述了数据增强如何改变性能。在最新的基于DL的模型上进行的大量实验表明,应用数据增强可以帮助模型更好地泛化,特别是当训练数据量很小时,它可以显着有效地提高模型的性能。此外,它表明,我们提出的策略可以提高性能到一个更好的或有竞争力的水平,现有的战略建议在以前的作品。
2022-03-26 cs.IR cs.LG
DRIFT: A Federated Recommender System with Implicit Feedback on the Items
本文提出联邦推荐系统DRIFT,基于SAROS算法利用隐式反馈实现精准推荐,在保护用户隐私的同时保证线性计算复杂度和安全性。
2023-04-17 cs.IR cs.LG
RECE: Reduced Cross-Entropy Loss for Large-Catalogue Sequential Recommenders
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);HSE University(高等经济大学);Artificial Intelligence Research Institute(人工智能研究院)
针对大规模目录下序列推荐中全交叉熵损失GPU内存占用过高的问题,提出基于类局部敏感哈希近似logits张量的RECE损失,可最高降12倍内存且保持或超越原有性能。
2024-08-14 cs.IR cs.LG
A Generic Network Compression Framework for Sequential Recommender Systems
University of Science and Technology of China(中国科学技术大学);Tencent(腾讯);SIAT, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Zhejiang University(浙江大学)
顺序推荐系统(SRS)已经成为捕捉用户动态兴趣和生成高质量推荐的关键技术。当前最先进的顺序推荐模型通常基于嵌入式结构的深度神经网络,其中一个或多个中间(隐藏)层放置在输入嵌入层和输出softmax层之间。一般来说,这些模型需要大量的参数(例如使用大的嵌入维度或深度网络架构)来获得其最佳性能。尽管有效,但在某些时候,进一步增加模型大小可能更难在资源受限设备中部署模型,导致更长的响应时间和更大的内存占用。为了解决这些问题,我们提出了一个压缩的顺序推荐框架,称为CpRec,其中两个通用的模型收缩技术。具体来说,我们首先提出了一个块式自适应分解近似的输入和softmax矩阵,利用SRS中的项目服从长尾分布的事实。为了减少中间层的参数,我们引入了三个逐层参数共享计划。我们使用深度卷积神经网络实例化CpRec,考虑到推荐准确性和效率,使用膨胀的内核。通过广泛的消融研究,我们证明了所提出的CpRec可以在真实世界的SRS数据集上实现高达4 $\sim$ 8倍的压缩率。同时,CpRec在训练\inference期间更快,并且在大多数情况下优于其未压缩的对应物。
2020-05-26 cs.IR cs.LG
Bilateral Self-unbiased Learning from Biased Implicit Feedback
Sungkyunkwan University(成均馆大学);Google Research(谷歌研究院);Seoul National University(首尔国立大学)
隐式反馈已被广泛用于商业推荐系统的构建。因为观察到的反馈代表用户的点击日志,所以在真实相关性和观察到的反馈之间存在语义鸿沟。更重要的是,观察到的反馈通常偏向于流行项目,从而高估了流行项目的实际相关性。虽然现有的研究已经开发出无偏的学习方法,使用逆倾向加权(IPW)或因果推理,他们只专注于消除项目的流行性偏见。在本文中,我们提出了一种新的无偏推荐学习模型,即双边SElf-unbiased推荐(BISER),以消除由推荐模型造成的项目曝光偏差。具体来说,BISER由两个关键组成部分组成:(i)自逆倾向加权(SIPW),以逐渐减轻项目的偏差,而不会产生高计算成本;以及(ii)双边无偏学习(BU),以弥合模型预测中两个互补模型之间的差距,即,基于用户和项目的自动编码器,缓解SIPW的高方差。大量的实验表明,BISER始终优于国家的最先进的无偏推荐模型在几个数据集,包括大衣,雅虎!R3、MovieLens和CiteULike。
2022-07-26 cs.IR cs.LG
On Detecting Data Pollution Attacks On Recommender Systems Using Sequential GANs
WalmartLabs(沃尔玛实验室)
推荐系统是任何电子商务平台的重要组成部分。推荐通常通过聚集大量用户数据来生成。恶意行为者可能被激励通过注入恶意数据点来影响这样的推荐系统的输出,以利用系统获得经济利益。在这项工作中,我们提出了一个半监督的攻击检测算法来识别恶意数据点。我们通过利用一部分被污染的可能性较低的数据集来学习真正数据点的分布来做到这一点。我们提出的方法修改了生成对抗网络架构,以考虑到用户活动的上下文信息。这允许模型区分合法的数据点和注入的数据点。
2020-12-04 cs.LG
Learning Vector-Quantized Item Representation for Transferable Sequential Recommenders
Renmin University of China(中国人民大学);UC San Diego(加州大学圣地亚哥分校)
最近,自然语言文本的通用性已经被利用来开发可转移的推荐系统。其基本思想是使用预先训练好的语言模型~(PLM)将项目文本编码成项目表示。尽管具有良好的可移植性,但项目文本和项目表征之间的绑定可能过于紧密,导致潜在的问题,例如过分强调文本特征的作用和夸大域间隙的负面影响。为了解决这个问题,本文提出了VQ-Rec,一种新的方法来学习矢量量化的项目表示可转移的顺序推荐。我们的方法的主要新颖之处在于新的项目表示方案:它首先将项目文本映射到离散索引(称为项目代码)的向量,然后使用这些索引来查找代码嵌入表,以获得项目表示。这种方案可以表示为“文本$\Longrightarrow$代码$\Longrightarrow$表示”。基于这种表示方案,我们进一步提出了一种增强的对比预训练方法,使用半合成和混合域代码表示作为硬否定。此外,我们设计了一个新的跨域微调方法的基础上可微置换为基础的网络。在六个公共基准上进行的大量实验表明了所提出的方法在跨域和跨平台设置中的有效性。代码和预训练模型可在https://github.com/RUCAIBox/VQ-Rec上获得。
2023-02-12 cs.IR cs.LG
Does It Look Sequential? An Analysis of Datasets for Evaluation of Sequential Recommendations
Sber AI Lab(Sber AI实验室);Lomonosov Moscow State University (MSU)(莫斯科罗蒙诺索夫国立大学)
本文通过随机打乱用户交互序列并比较指标,评估了15个常用序列推荐数据集的序列结构强度,发现部分流行数据集的序列结构相当弱。
2024-08-21 cs.AI cs.IR cs.LG
Lightweight Self-Attentive Sequential Recommendation
The University of Queensland(昆士兰大学)
现代深度神经网络(DNN)通过在各种顺序推荐任务上实现最先进的推荐性能,极大地促进了顺序推荐系统的开发。给定交互项的序列,现有的基于DNN的顺序排序器通常将每个项嵌入到唯一向量中以支持用户兴趣的后续计算。然而,由于潜在的大量项目,顺序推荐器的过参数化项目嵌入矩阵已经成为资源受限环境中有效部署的存储器瓶颈,例如,智能手机和其他边缘设备。此外,我们观察到,广泛使用的多头自我注意,虽然是有效的建模项目之间的顺序依赖关系,在很大程度上依赖于冗余的注意力单元,以充分捕捉全球和本地项目的项目转移模式的序列。本文介绍了一种用于顺序推荐的新型轻量级自关注网络(LSAN)。为了积极地压缩原始嵌入矩阵,LSAN利用了组合嵌入的概念,其中每个项嵌入都是通过合并从小得多的嵌入矩阵中导出的一组选定的基本嵌入向量来组成的。同时,考虑到每个项目的内在动态,我们进一步提出了一个时间上下文感知的嵌入组合方案。此外,我们开发了一种创新的双注意力网络,它在保留捕获长期和短期(即,全局和局部)项依赖性。综合实验表明,LSAN显着提高了现有的顺序排序器的准确性和内存效率。
2021-08-25 cs.IR cs.LG
Few-shot Model Extraction Attacks against Sequential Recommender Systems
本文提出了一种针对顺序推荐系统的少样本模型提取框架,通过自回归增强生成策略和双向修复损失促进模型蒸馏,有效构建高功能相似性的代理模型。
2026-03-03 cs.CR cs.IR cs.LG
Time-Aware Music Recommender Systems: Modeling the Evolution of Implicit User Preferences and User Listening Habits in A Collaborative Filtering Approach
University of Salamanca(萨拉曼卡大学);Illinois Institute of Technology(伊利诺伊理工大学)
在线流媒体服务已成为最流行的听音乐的方式。这些服务中的大多数都具有推荐机制,可以帮助用户从大量可用的音乐中发现他们可能感兴趣的歌曲和艺术家。然而,许多是不可靠的,因为它们可能没有考虑到上下文方面或不断发展的用户行为。因此,有必要开发考虑这些方面的系统。在音乐领域,时间是影响用户偏好和管理其效果的最重要因素之一,也是本文提出的工作背后的动机。这里,检查关于何时播放歌曲的时间信息。其目的是模拟用户偏好的演变形式的演变隐式评级和用户收听行为。在这项工作中提出的协同过滤方法,日常收听习惯被捕获,以表征用户,并为他们提供更可靠的建议。验证结果表明,该方法在生成上下文感知和上下文无关的推荐方面都优于其他方法
2020-08-26 cs.IR cs.LG
RecSim: A Configurable Simulation Platform for Recommender Systems
Google Research(谷歌研究院);Department of Computer Science, University of Texas at Austin(德克萨斯大学奥斯汀分校计算机科学系)
我们提出RecSim,一个可配置的平台,创作的推荐系统(RS),自然支持与用户的顺序交互的模拟环境。RecSim允许创建新的环境,反映用户行为和项目结构的特定方面,在一个抽象的水平,非常适合推动当前的强化学习(RL)和RS技术在顺序交互式推荐问题的限制。环境可以很容易地配置,以改变以下假设:用户偏好和项目熟悉度;用户潜在状态及其动态;选择模型和其他用户响应行为。我们概述了RecSim如何为RL和RS研究人员和从业者提供价值,以及它如何作为学术-工业合作的工具。
2019-09-26 cs.HC cs.IR cs.LG
Time to Split: Exploring Data Splitting Strategies for Offline Evaluation of Sequential Recommenders
AIRI, Skoltech Moscow Russian Federation(AIRI,斯克里普钦斯基因工学院莫斯科俄罗斯联邦);Sber AI Lab, Skoltech Moscow Russian Federation(Sber AI Lab,斯克里普钦斯基因工学院莫斯科俄罗斯联邦);Sber AI Lab Moscow Russian Federation(Sber AI Lab,莫斯科斯克里普钦斯基因工学院俄罗斯联邦);Sber AI Lab, HSE University Moscow Russian Federation(Sber AI Lab,莫斯科高等经济大学俄罗斯联邦)
本文系统比较了序列推荐中不同数据分割策略对离线评估的影响,发现留一法等常见策略存在时间泄漏等问题,与更现实的评估策略不一致,并提供了代码以提升可重复性。
2025-07-22 cs.IR cs.LG
Breaking the Softmax Bottleneck for Sequential Recommender Systems with Dropout and Decoupling
Softmax瓶颈首先在语言建模中被确定为对基于Softmax的模型的表达能力的理论限制。作为最广泛使用的输出概率的方法之一,基于Softmax的模型已经得到了广泛的应用,包括基于会话的推荐系统(SBRS)。基于Softmax的模型由最终线性层顶部的Softmax函数组成。瓶颈已被证明是由于在最后的线性层秩不足,由于其与矩阵分解。在本文中,我们展示了SBRS中Softmax瓶颈的更多方面。与通常的看法相反,过拟合确实发生在最后的线性层,而它通常与复杂网络有关。此外,我们发现在会话序列和候选池之间共享项嵌入的常见技术会产生紧耦合,这也会导致瓶颈。我们提出了一个简单而有效的方法,辍学和解耦(D&D),以减轻这些问题。我们的实验表明,我们的方法显着提高了各种基于Softmax的SBRS算法的准确性。当与其他计算昂贵的方法,如MLP和MoS(Softmax的混合)相比,我们的方法与这些方法相当,有时甚至更好,同时保持与基于Softmax的模型相同的时间复杂度。
2021-10-11 cs.IR cs.LG
CSRec: Rethinking Sequential Recommendation from A Causal Perspective
University of Maryland, College Park(马里兰大学帕克分校)
本文提出因果序列推荐框架CSRec,通过预测推荐物品接受概率并回溯决策成因,隔离推荐系统等因素影响,且可融入现有方法,实验证明其显著优于基线。
2024-08-23 cs.IR cs.LG
xDeepFM: Combining Explicit and Implicit Feature Interactions for Recommender Systems
University of Science and Technology of China(中国科学技术大学);Beijing University of Posts and Telecommunications(北京邮电大学);Microsoft Research(微软研究院)
组合特性对于许多商业模型的成功至关重要。由于Web规模系统中原始数据的多样性、数量和速度,手动制作这些功能通常会带来很高的成本。基于因子分解的模型,以向量积的形式测量相互作用,可以自动学习组合特征的模式,并推广到看不见的特征。随着深度神经网络(DNN)在各个领域的巨大成功,最近研究人员提出了几种基于DNN的因子分解模型来学习低阶和高阶特征交互。尽管从数据中学习任意函数的能力很强大,但普通DNN会隐式地在位级别生成特征交互。在本文中,我们提出了一种新的压缩交互网络(CIN),其目的是生成功能的互动,在一个明确的方式和矢量的水平。我们证明了CIN与卷积神经网络(CNN)和递归神经网络(RNN)共享一些功能。我们进一步将CIN和经典DNN结合成一个统一的模型,并将这个新模型命名为eXtreme Deep Factorization Machine(xDeepFM)。一方面,xDeepFM能够显式地学习某些有界度的特征交互;另一方面,它可以隐式地学习任意的低阶和高阶特征交互。我们在三个真实世界的数据集上进行了全面的实验。我们的结果表明,xDeepFM优于最先进的模型。我们已经在\url{https://github.com/Leavingseason/xDeepFM}上发布了xDeepFM的源代码。
2018-05-30 cs.IR cs.LG
INTERPOS: Interaction Rhythm Guided Positional Morphing for Mobile App Recommender Systems
Independent Researcher(独立研究者);University of Kentucky(肯塔基大学);Louisiana State University(路易斯安那州立大学);University of Central Florida(中央佛罗里达大学)
针对移动应用推荐中用户交互间隔长、传统位置嵌入未考虑时间节律的问题,提出INTERPOS节律引导位置变形策略,整合入Transformer架构,在7个数据集的NDCG@K和HIT@K指标上超越SOTA模型。
2025-06-14 cs.IR cs.LG
CosRec: 2D Convolutional Neural Networks for Sequential Recommendation
University of California, San Diego(加州大学圣地亚哥分校)
序列模式在构建现代推荐系统中起着重要的作用。为此,几个推荐系统已经建立在马尔可夫链和递归模型(等)之上。尽管这些顺序模型在一系列任务中已经被证明是成功的,但它们仍然难以揭示用户购买历史中嵌套的复杂关系。在本文中,我们认为,成对关系建模直接导致一个有效的表示顺序功能,并捕捉复杂的项目相关性。具体来说,我们提出了一个用于顺序推荐的2D卷积网络(CosRec)。它将一系列项编码为三向张量;使用2D卷积滤波器学习局部特征;并以前馈方式聚合高阶交互。在两个公共数据集上的定量结果表明,我们的方法优于传统方法和最近的基于序列的方法,在各种评估指标上实现了最先进的性能。
2019-08-27 cs.IR cs.LG
Massive Memorization with Hundreds of Trillions of Parameters for Sequential Transducer Generative Recommenders
Meta;Yale University(耶鲁大学)
本文提出VISTA框架,通过将传统目标注意力分解为两个阶段,实现对超长用户历史的记忆压缩,从而在保持训练和推理成本不变的情况下,支持数百万项的长期用户历史。
2026-03-26 cs.IR cs.LG
DiPS: Differentiable Policy for Sketching in Recommender Systems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Adobe Research(Adobe 研究院)
在顺序推荐系统应用中,重要的是开发能够捕获用户随时间变化的兴趣的模型,以成功地推荐他们可能与之交互的未来项目。对于历史悠久的用户,基于递归神经网络的典型模型往往会忘记遥远过去的重要项目。最近的研究表明,存储过去项目的小草图可以改善顺序推荐任务。然而,这些作品都依赖于静态素描策略,即,选择要保留在草图中的项目的技巧,这些项目不一定是最佳的,并且不能随着时间的推移而随着更多的训练数据而改进。在本文中,我们提出了一个可区分的素描政策(DiPS),一个框架,学习数据驱动的素描政策,在一个端到端的方式与推荐系统模型,以明确最大限度地提高推荐质量的未来。我们还提出了一个近似估计的梯度优化的草图算法参数,这是计算效率。我们在各种实际设置下验证了DiPS在真实世界数据集上的有效性,并表明它需要最多$50\%$更少的草图项才能达到与现有草图策略相同的预测质量。
2021-12-08 cs.IR cs.LG cs.SI
Explicit Feedbacks Meet with Implicit Feedbacks : A Combined Approach for Recommendation System
Indian Institute of Technology Patna(印度理工学院巴特那分校)
推荐系统通过分析用户对不同品牌商品的潜在兴趣,更准确地推荐商品。结合用户的评分相似性,用户的隐式反馈的存在,如点击项目,查看项目规格,观看视频等已被证明有助于学习用户的嵌入,这有助于更好地预测用户的评分。现有的推荐系统大多集中于对用户的评价和隐式反馈进行建模,而忽略了用户的显式反馈。显式反馈可以用于验证特定用户的可靠性,并且可以用于了解用户的特性。用户特征是指用户是什么类型的审稿人。在本文中,我们探讨了三种不同的模型,以更准确地侧重于用户的显式反馈和隐式反馈的推荐。第一种是RHC-PMF,它基于用户的三个显式反馈(评级,有用性得分和中心性)更准确地预测用户的评级;第二种是RV-PMF,其中考虑了用户的隐式反馈(视图关系)。最后一个是RHCV-PMF,其中考虑了两种类型的反馈。在该模型中,用户外显反馈的相似性反映了用户反馈的可靠性和特征的相似性,而用户内隐反馈的相似性反映了用户反馈偏好的相似性。在真实世界数据集上的大量实验表明,与基线模型相比,我们的模型在用户评级预测方面表现更好。Amazon.com与基线模型相比,RHCV-PMF模型对冷启动用户和冷启动项目的评分预测效果更好。
2018-10-29 cs.IR cs.LG stat.ML
Using Shortlists to Support Decision Making and Improve Recommender System Performance
Cornell University(康奈尔大学);Microsoft Research(微软研究院)
在本文中,我们研究入围推荐系统的双重目标,支持用户的决策过程中,以及提高隐式反馈启发,以提高推荐质量的接口组件。入围名单是用户当前正在考虑的候选人的临时列表,例如,用户当前考虑观看的几部电影的列表。从认知的角度来看,入围名单作为数字短期记忆,用户可以卸载正在考虑的项目-从而减少他们的认知负荷。从机器学习的角度来看,将项目添加到候选列表会生成新的隐式反馈信号,作为探索和决策的副产品,这可以提高推荐质量。因此,入围为训练推荐系统提供了额外的数据,而不会增加要求明确反馈的认知负荷。我们使用电影推荐设置进行用户研究,以比较提供入围支持的界面和不提供入围支持的界面。从用户的研究,我们得出结论:(一)用户作出更好的决定与入围名单;(二)用户更喜欢一个界面与入围名单的支持;和(三)额外的隐式反馈会议与入围名单提高了近两倍的推荐质量。
2016-02-08 cs.HC cs.IR cs.LG
Sim2Rec: A Simulator-based Decision-making Approach to Optimize Real-World Long-term User Engagement in Sequential Recommender Systems
Nanjing University(南京大学);DiDi AI Labs(滴滴人工智能实验室);Peng Cheng Laboratory(鹏城实验室);City University of Hong Kong(香港城市大学);Lyft(来福车)
针对顺序推荐系统中长期用户参与度优化面临的现实差距问题,提出基于模拟器集合的Sim2Rec方法,通过环境参数提取与上下文感知策略训练,实现策略直接迁移至真实环境,并在合成及滴滴出行真实数据上取得显著性能提升。
2023-05-03 cs.IR cs.LG
Estimating and Penalizing Induced Preference Shifts in Recommender Systems
MIT(麻省理工学院);University of YYY(YYY大学);Institute of WWW(WWW研究院);Institute for Clarity in Documentation(文档清晰性研究所);Inria Paris-Rocquencourt(法国国家信息与自动化研究所巴黎-罗克库尔中心);Rajiv Gandhi University(拉吉夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕尔默研究实验室)
推荐系统(RS)向用户展示的内容会影响用户。因此,在选择推荐器部署时,也隐含地选择诱导用户的特定内部状态。更重要的是,通过长期优化训练的系统将有直接的动机来操纵用户:在这项工作中,我们关注的是改变用户偏好的动机,这样他们就更容易满足。我们认为,在部署之前,系统设计者应该:估计的变化,推荐将诱导;评估这种变化是否将是不可取的,甚至可能积极优化,以避免有问题的转变。这些步骤涉及两个具有挑战性的成分:估计需要预测假设的算法将如何影响用户偏好,如果部署-我们这样做是通过使用历史用户交互数据训练一个预测用户模型,其中隐含地包含他们的偏好动态;评估和优化另外需要度量来评估这种影响是人为的还是不想要的我们使用“安全转移”的概念,定义了一个信任区域,在该区域内行为是安全的:例如,用户在不受系统干扰的情况下自然移动的方式可以被认为是“安全的”。在模拟实验中,我们表明,我们的学习偏好动态模型是有效的估计用户的喜好,以及他们将如何应对新的浏览器。此外,我们表明,优化留在信任区域的决策者可以避免操纵行为,同时仍然产生参与。
2022-07-14 cs.IR cs.LG
Order Matters at Fanatics Recommending Sequentially Ordered Products by LSTM Embedded with Word2Vec
Fanatics Inc.(Fanatics公司);Airbnb Inc.(爱彼迎公司);eHealth Inc.(eHealth公司)
电子商务推荐面临的一个独特挑战是,客户通常对比他们已经购买的产品更先进的产品感兴趣,但不是相反。现有的几个推荐系统建模单向序列输出有限数量的类别或连续变量。为了对有序序列进行建模,我们设计了第一个推荐系统,该系统使用Word 2 Vec嵌入购买的项目,并使用无状态LSTM RNN对序列进行建模。这个推荐系统在生产中的点击率超过了它唯一基于Word 2 Vec的前身。它开发于2017年,可能是第一个发布的真实世界应用程序,可以在Spark从节点上对单个机器训练的Keras模型进行分布式预测,每行超过40万列。
2019-11-22 cs.CL cs.IR cs.LG
Influential Recommender System
Hong Kong University of Science and Technology(香港科技大学);Shanghai Jiao Tong University(上海交通大学);BNU-HKBU United International College(北京师范大学-香港浸会大学联合国际学院)
传统的推荐系统通常是被动的,因为它们试图使它们的推荐适应用户的历史兴趣。然而,对于诸如电子商务、广告投放和新闻门户之类的商业应用,非常期望能够扩展用户的兴趣,使得他们将接受他们最初不知道或不感兴趣的项目,以增加客户交互。在本文中,我们提出了有影响力的推荐系统(IRS),一个新的推荐模式,旨在积极主动地引导用户喜欢一个给定的目标项目,逐步推荐给用户一系列精心挑选的项目(称为影响路径)。我们提出了有影响力的推荐网络(IRN),这是一个基于转换器的顺序模型来编码项目的顺序依赖性。由于不同的人对外部影响的反应不同,我们引入了个性化印象面具(PIM)来模拟用户对外部影响的接受程度,从而为用户生成最有效的影响路径。为了评估IRN,我们设计了几个性能指标来衡量是否影响路径可以顺利扩大用户的兴趣,包括客观的项目,同时保持用户的满意度的建议。实验结果表明,IRN显著优于基准分类器,并展示了其影响用户兴趣的能力。
2022-11-23 cs.AI cs.IR cs.LG
A Hybrid Recommender System for Recommending Smartphones to Prospective Customers
Verizon Communications(威瑞森通信)
推荐系统是机器学习系统的一个子类,它采用复杂的信息过滤策略来减少搜索时间并向任何特定用户推荐最相关的项目。混合推荐系统将多种推荐策略以不同的方式结合起来,以发挥它们的互补优势。一些混合推荐系统结合了协同过滤和基于内容的方法来构建更健壮的系统。在本文中,我们提出了一个混合推荐系统,它结合了交替最小二乘(ALS)的协同过滤与深度学习,以提高推荐性能,以及克服与协同过滤方法,特别是有关其冷启动问题的限制。从本质上讲,我们使用ALS(协同过滤)的输出来影响深度神经网络(DNN)的推荐,该网络在大数据处理框架中结合了特征,上下文,结构和顺序信息。我们已经进行了几个实验,在测试所提出的混合架构的有效性,在推荐智能手机给潜在客户,并比较其性能与其他开源路由器。结果表明,该系统的性能优于现有的几个混合推荐系统。
2022-07-19 cs.IR cs.LG
Incremental Learning for Personalized Recommender Systems
LinkedIn Corporation(领英公司)
无处不在的个性化推荐系统的建立是为了实现两个看似冲突的目标,以提供高质量的内容,适合个人用户的口味,并迅速适应不断变化的环境。前者需要一个复杂的机器学习模型,该模型是在大量数据上训练的;后者需要频繁更新模型。我们提出了一种增量学习解决方案,以提供训练效率和模型质量。我们的解决方案是基于序贯贝叶斯更新和二次近似。我们的重点是大规模个性化逻辑回归模型,以及对深度学习模型的扩展。本文填补了理论和实践之间的差距,解决了一些实施时出现的挑战,将增量学习大型个性化推荐系统。详细的离线和在线实验表明,我们的方法可以显着缩短训练时间,同时保持模型的准确性。该解决方案部署在LinkedIn中,并直接适用于工业规模的推荐系统。
2021-08-13 cs.IR cs.LG
Unleash LLMs Potential for Sequential Recommendation by Coordinating Dual Dynamic Index Mechanism
Central South University(中南大学);Microsoft(微软公司);Microsoft Research Asia(微软亚洲研究院);Griffith University(格里菲斯大学)
本文提出端到端双动态(ED$^2$)推荐器,通过双动态索引机制统一索引生成与序列推荐,并利用用户相关信息,在三个公开数据集上分别提升命中率19.62%和NDCG 21.11%。
2026-09-17 cs.AI cs.CL cs.IR
DUALRec: A Hybrid Sequential and Language Model Framework for Context-Aware Movie Recommendation
University of Amsterdam(阿姆斯特丹大学)
本文提出DUALRec框架,结合LSTM的时间建模能力与微调大语言模型的语义推理能力,在MovieLens-1M上实现优于基线的上下文感知电影推荐。
2025-07-18 cs.AI cs.IR cs.LG
Sequential/Session-based Recommendations: Challenges, Approaches, Applications and Opportunities
RMIT University(皇家墨尔本理工大学);Macquarie University(麦考瑞大学);DeepBlue Academy of Sciences(深兰科学院);Tongji University(同济大学);IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心)
近年来,顺序推荐系统(SRS)和基于会话的推荐系统(SBRS)已经成为一种新的RS范例,以捕获用户的短期但动态的偏好,从而实现更及时和准确的推荐。虽然SRS和SBRS已经得到了广泛的研究,但由于描述、设置、假设和应用领域的不同,在这一领域存在许多不一致之处。没有工作提供一个统一的框架和问题说明,以消除SR/SBR领域中普遍存在的各种不一致之处。目前还缺乏对该领域的数据特征、关键挑战、最具代表性和最先进的方法、典型的实际应用和未来重要研究方向进行全面和系统的展示。这项工作旨在填补这些空白,以促进在这个令人兴奋和充满活力的领域的进一步研究。
2022-05-22 cs.AI cs.IR cs.LG
Beyond Learning from Next Item: Sequential Recommendation via Personalized Interest Sustainability
Pohang University of Science and Technology(浦项科技大学);Korea Advanced Institute of Science and Technology(韩国高等科学技术研究院)
顺序推荐系统通过捕捉用户的兴趣漂移,实现了有效的推荐。现有的顺序模型有两组:以用户为中心的模型和以项目为中心的模型。以用户为中心的模型基于每个用户的顺序消费历史来捕获个性化的兴趣漂移,但是没有明确地考虑用户对物品的兴趣是否持续超过训练时间,即,兴趣可持续性。另一方面,以项目为中心的模型考虑的是用户的一般兴趣在训练时间后是否持续,但它不是个性化的。在这项工作中,我们提出了一个推荐系统,利用这两类模型。我们提出的模型捕捉个性化的兴趣可持续性,表明是否每个用户的项目的兴趣将持续超过训练时间或没有。我们首先制定了一个任务,需要预测哪些项目,每个用户将消费在最近一段时间的训练时间的基础上用户的消费历史。然后,我们提出了简单而有效的计划,以增加用户的稀疏消费历史。大量的实验表明,该模型优于10个基线模型在11个真实世界的数据集。这些代码可在https://github.com/dmhyun/PERIS上获得。
2022-09-14 cs.AI cs.IR cs.LG
Addressing bias in Recommender Systems: A Case Study on Data Debiasing Techniques in Mobile Games
King(金氏公司)
针对移动游戏推荐系统数据偏差问题,本研究分析该领域现有研究缺口,评估多种去偏差技术在隐式反馈数据上的去偏差质量、数据需求及计算需求。
2024-11-27 cs.LG
Freudian and Newtonian Recurrent Cell for Sequential Recommendation
NCSOFT Co.(NCSoft公司);Yonsei University(延世大学)
顺序推荐系统的目的是根据用户的行为模式向用户推荐有吸引力的项目。主要的顺序推荐模型是基于自然语言处理模型的,例如门控递归单元,其将项目嵌入在某些定义的空间中,并基于项目嵌入来掌握用户的长期和短期偏好。然而,这些方法缺乏对这些模型如何与用户的固有决策过程相关的基本见解。为了提供这种见解,我们提出了一种新的复发细胞,即FaNC,从弗洛伊德和牛顿的观点。FaNC将用户的状态分为有意识和无意识状态,用户的决策过程以弗洛伊德的两个原则为模型:快乐原则和现实原则。为了模拟快乐原则,即,自由浮动的用户的本能,我们把用户的无意识状态和项目嵌入在同一个潜在的空间,并使他们受到牛顿的万有引力定律。此外,为了向用户推荐项目,我们对现实原则进行建模,即,通过门控功能来平衡意识和无意识状态。基于各种基准数据集上的大量实验,本文提供了洞察所提出的模型的特点。FaNC在精神分析和推荐系统的融合中开创了顺序推荐的新方向。
2021-02-11 cs.AI cs.IR cs.LG
From Implicit to Explicit feedback: A deep neural network for modeling sequential behaviours and long-short term preferences of online users
Hanoi University of Science and Technology(河内理工大学);VCCorp Corporation(VCCorp公司)
在这项工作中,我们研究了在推荐系统中使用多种类型的行为的优势。直觉上,每个用户都必须做一些隐式动作(例如,点击)之前做出明确的决定(例如,购买)。以往的研究表明,内隐和外显反馈有不同的作用,一个有用的建议。然而,这些研究要么分别利用内隐和外显行为,要么忽略了用户和项目之间的顺序交互的语义。此外,我们假设用户的偏好是长期和短期利益的组合。在本文中,我们提出了一些深度学习架构。第一种是隐式到显式(ITE),通过用户的行为序列来利用用户的兴趣。以及两个版本的ITE与双向编码器表示,从Transformers为基础的(BERT为基础的)架构称为BERT-ITE和BERT-ITE-Si,它结合了用户的长期和短期的喜好,没有和副信息,以提高用户的表示。实验结果表明,我们的模型优于以前的国家的最先进的,也证明了我们的意见,利用隐式显式顺序的有效性,以及结合长期和短期的偏好在两个大规模的数据集。
2021-07-26 cs.LG
Latent User Intent Modeling for Sequential Recommenders
Google, Inc.(谷歌公司)
顺序推荐模型是现代工业推荐系统的重要组成部分。这些模型学习基于用户在平台上的交互历史来预测用户可能与之交互的下一个项目。然而,大多数顺序浏览器缺乏对用户意图的更高层次的理解,这通常会驱动用户的在线行为。因此,意图建模对于理解用户和优化长期用户体验至关重要。我们提出了一种概率建模方法,并制定用户的意图作为潜在变量,这是推断的基础上,使用变分自编码器(VAE)的用户行为信号。然后,在给定推断出的用户意图的情况下,相应地调整推荐策略。我们通过离线分析以及在大型工业推荐平台上的现场实验证明了潜在用户意图建模的有效性。
2023-03-27 cs.IR cs.LG
SRSUPM: Sequential Recommender System Based on User Psychological Motivation
本文提出SRSUPM框架,通过建模用户心理动机变化提升序列推荐性能,通过心理动机变化评估、状态建模和信息分解等方法,有效捕捉用户行为模式,实验表明其在多个基准测试中表现优异。
2026-04-17 cs.IR
Item Recommendation from Implicit Feedback
Google Research(谷歌研究院)
商品推荐的任务是从一个庞大的商品目录中为用户选择最好的商品。项目识别者通常是从隐性反馈中训练出来的,隐性反馈只包括过去积极的行为。项目推荐的核心挑战是(1)如何从隐式反馈中制定训练目标和(2)如何在大型项目目录上有效地训练模型。本文介绍了项目推荐的基本概念、特点和常用方法。它首先介绍了这个问题,并讨论了不同的培训目标。主体涉及学习算法,并提出了采样为基础的算法,一般的神经网络和更有效的算法点积模型。最后讨论了项目检索器在检索任务中的应用。
2021-01-21 cs.IR cs.LG
XDM: Improving Sequential Deep Matching with Unclicked User Behaviors for Recommender System
基于深度学习的顺序推荐系统近年来引起了学术界和工业界越来越多的关注。大多数工业化的基于嵌入的检索(EBR)系统的推荐共享与顺序查询相似的思想。其中,如何全面捕捉序列用户兴趣是一个根本性的问题。然而,大多数现有的顺序推荐模型作为输入点击或购买的行为序列,从用户项目的交互。这导致不全面的用户表示和次优的模型性能,因为它们忽略了完整的用户行为暴露数据,即,用户印象深刻但未点击的项目。在这项工作中,我们试图采用一种新的学习方法,以探索更好的顺序推荐技术,将这些未点击的项目序列和模型。提出了一种有效的三元组度量学习算法来适当地学习未点击项目的表示。我们的方法可以简单地集成与现有的顺序推荐模型的置信度融合网络,并进一步获得更好的用户表示。基于真实电子商务数据的离线实验结果验证了该方法的有效性,并验证了未点击项目在顺序推荐中的重要性。此外,我们部署我们的新模型(命名为XDM)在淘宝推荐系统的EBR,性能优于部署的前一代SDM。
2022-03-31 cs.IR
Defending Substitution-Based Profile Pollution Attacks on Sequential Recommenders
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
虽然顺序推荐系统在捕获用户动态方面取得了显着的改进,但我们认为顺序推荐系统容易受到基于替换的配置文件污染攻击。为了证明我们的假设,我们提出了一个基于替换的对抗攻击算法,该算法通过选择某些易受攻击的元素并将其替换为对抗项来修改输入序列。在无目标和有针对性的攻击情况下,我们观察到显着的性能恶化,使用建议的配置文件污染算法。受这些观察的启发,我们设计了一种有效的对抗性防御方法,称为Dirichlet邻域采样。具体来说,我们从多跳邻居构造的凸包中抽取项目嵌入,以替换输入序列中的原始项目。在采样过程中,使用狄利克雷分布来近似邻域中的概率分布,使得推荐器学习对抗局部扰动。此外,我们还设计了一种针对顺序推荐系统的对抗性训练方法。特别是,我们用独热编码表示选定的项,并对编码执行梯度上升,以搜索训练中项嵌入的最坏情况线性组合。因此,嵌入函数学习鲁棒的项目表示,并且训练的推荐器能够抵抗测试时的对抗性示例。大量的实验表明了我们的攻击和防御方法的有效性,这些方法在模型架构和数据集上的表现始终优于基线。
2022-07-19 cs.AI cs.CR cs.IR
A Generic Coordinate Descent Framework for Learning from Implicit Feedback
University of Konstanz(康斯坦茨大学);National University of Singapore(新加坡国立大学);Google Inc.(谷歌公司)
近年来,对推荐系统的研究兴趣已经从显式反馈转向隐式反馈数据。各种各样的复杂模型已经被提出用于各种各样的应用。尽管如此,从内隐反馈中学习仍然是计算上的挑战。到目前为止,大多数工作都依赖于随机梯度下降(SGD)求解器,这些求解器很容易导出,但在实践中应用起来很有挑战性,特别是对于具有许多项目的任务。对于简单的矩阵分解模型,先前已经提出了一种有效的坐标下降(CD)求解器。然而,有效的CD方法还没有得到更复杂的模型。在本文中,我们提供了一个新的框架,推导出有效的CD算法复杂的推荐模型。我们识别并介绍了k-可分模型的性质。我们表明,k-可分性是一个足够的属性,允许有效的优化隐式推荐问题与CD。我们说明了这个框架上的各种国家的最先进的模型,包括因式分解机和塔克分解。总之,我们的工作提供了理论和积木,以获得高效的隐式CD算法复杂的推荐模型。
2016-11-15 cs.IR cs.LG
Eye Tracking as a Source of Implicit Feedback in Recommender Systems: A Preliminary Analysis
本研究利用眼动追踪数据增强电影推荐的协同过滤模型,相比点击数据提升了性能,并验证了AOI时长与用户兴趣的一致性。
2023-05-12 cs.HC cs.IR
Black-Box Attacks on Sequential Recommenders via Data-Free Model Extraction
Technical University of Munich(慕尼黑工业大学);University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们研究模型提取是否可以用来“窃取”顺序推荐系统的权重,以及这种攻击对受害者构成的潜在威胁。这种类型的风险在图像和文本分类中引起了关注,但据我们所知,在推荐系统中没有。我们认为,顺序推荐系统受到独特的漏洞,由于特定的自回归制度用于训练他们。与许多现有的推荐攻击者不同,这些攻击者假设用于训练受害者模型的数据集暴露给攻击者,我们考虑无数据设置,其中训练数据不可访问。在此背景下,我们提出了一种基于API的模型提取方法,通过有限预算的合成数据生成和知识蒸馏。我们研究了最先进的顺序推荐模型,并显示了它们在模型提取和下游攻击下的脆弱性。我们分两个阶段进行攻击。(1)模型提取:给定从黑盒推荐器检索的不同类型的合成数据和它们的标签,我们通过蒸馏将黑盒模型提取为白盒模型。(2)下游攻击:我们用白盒推荐器生成的对抗样本攻击黑盒模型。实验结果表明,我们的无数据模型提取和下游攻击的连续的病毒在两个配置文件污染和数据投毒设置的有效性。
2021-09-01 cs.AI cs.CR cs.IR
Implicit Feedback-based Group Recommender System for Internet of Thing Applications
随着基于物联网(IoT)的社交媒体应用的普及,人与人之间的距离大大缩短。因此,基于物联网的社交媒体中的推荐系统需要面向用户群体而不是单个用户开发。然而,现有的方法高度依赖于显式偏好反馈,忽略了隐式反馈的情况。为了弥补这一差距,本文提出了一个隐式反馈为基础的群体推荐系统,使用概率推理和非合作博弈(GREPING)基于物联网的社交媒体。特别地,未知的过程变量可以通过贝叶斯后验概率推断从可观察的隐式反馈估计。此外,可以计算全局最优的推荐结果与非合作博弈的援助。通过两组实验从效率和鲁棒性两个方面对GREPING进行了评估。实验结果表明,与基线方法相比,GREPING有明显的提升和相当的稳定性。
2021-04-23 cs.AI cs.IR
Learning Robust Sequential Recommenders through Confident Soft Labels
针对序列推荐中独热标签稀疏导致训练有偏的问题,提出含教师-学生模块的CSRec框架,通过三类教师模块生成置信软标签结合独热标签训练,在四个基准数据集上验证了其提升推荐性能的有效性。
2023-11-04 cs.IR
Unbiased Recommender Systems with Implicit Feedback
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本研究针对隐式反馈推荐系统的位置偏差与流行度偏差,开发了适配排序学习、协同过滤及图神经网络社交推荐系统的无偏方法,以生成更贴合用户偏好的个性化推荐。
2026-08-18 cs.IR
Learning Robust Recommender from Noisy Implicit Feedback
National University of Singapore(新加坡国立大学);University of Science and Technology of China(中国科学技术大学);Shandong University(山东大学)
隐式反馈的普遍性使得它在推荐系统的构建中不可或缺。但实际上并不能反映用户的实际满意度。例如,在电子商务中,很大一部分点击并没有转化为购买,许多购买最终都得到了负面评价。因此,它是重要的是要考虑到不可避免的噪声在隐式反馈。然而,很少有工作建议已考虑到噪音的性质隐式反馈。在这项工作中,我们探讨了去噪隐式反馈的推荐学习,包括训练和推理的中心主题。通过观察正常推荐训练的过程,我们发现,噪声反馈通常在早期阶段具有较大的损失值。受此观察的启发,我们提出了一种名为自适应去噪训练(ADT)的新训练策略,它通过两种范式(即,损失和重新加权损失)。此外,我们考虑额外的反馈(例如,rating)作为辅助信号,并提出了三种策略,将额外的反馈纳入ADT:微调,热身训练,碰撞推理。我们在广泛使用的二进制交叉熵损失上实例化了这两种范例,并在三个有代表性的推荐模型上进行了测试。在三个基准测试上的大量实验表明,ADT在不使用额外反馈的情况下,显着提高了推荐的质量。此外,所提出的三种额外反馈策略大大增强了ADT的去噪能力。
2021-12-02 cs.AI cs.IR
Large Language Model Can Interpret Latent Space of Sequential Recommender
本文提出RecInterpreter框架,通过轻量适配器和序列残差提示,使LLaMA等大语言模型能够解读基于ID的序列推荐器的隐空间表示,并实例化生成式推荐器输出的理想物品。
2023-10-31 cs.IR
Denoising Implicit Feedback for Recommendation
普遍存在的隐式反馈使其成为构建在线推荐系统的默认选择。虽然大量的隐式反馈消除了数据稀疏性问题,但缺点是它们在反映用户的实际满意度方面并不干净。例如,在电子商务中,很大一部分点击并没有转化为购买,许多购买最终都得到了负面评价。因此,它是至关重要的,以考虑到不可避免的噪声在隐式反馈的推荐训练。然而,很少有工作建议已考虑到噪音的性质隐式反馈。在这项工作中,我们探讨了去噪隐式反馈推荐训练的中心主题。我们发现嘈杂的隐式反馈的严重负面影响,即,拟合噪声数据阻止了推荐器学习实际的用户偏好。我们的目标是识别和修剪噪声的相互作用,从而提高推荐训练的质量。通过观察正常推荐训练的过程,我们发现,噪声反馈通常在早期阶段具有较大的损失值。受此启发,我们提出了一种新的训练策略,称为自适应去噪训练(ADT),它自适应地修剪训练过程中的噪声相互作用。具体来说,我们设计了两种自适应损失公式化的范例:截断损失,丢弃大损失的样本在每次迭代中的动态阈值;和重加权损失,自适应地降低大损失样本的权重。我们在广泛使用的二进制交叉熵损失上实例化了这两种范例,并在三个有代表性的机器上测试了所提出的ADT策略。在三个基准测试上的大量实验表明,ADT显著提高了推荐的质量。
2021-01-03 cs.IR
PTF-FSR: A Parameter Transmission-Free Federated Sequential Recommender System
本文提出无参数传输的联邦序列推荐框架PTF-FSR,通过仅传输隐私保护下的预测结果,同时保护模型与数据隐私,并支持更大规模序列推荐模型。
2024-06-08 cs.IR
Privacy-Preserving Cross-Domain Sequential Recommendation
针对跨域序列推荐中的用户隐私保护需求,提出非侵入式的PriCDSR系统,设计兼顾ID与顺序信息的差分隐私机制,可适配任意基础模型,在三域实验中性能优于单域推荐系统。
2024-01-27 cs.IR
Sequences, Items And Latent Links: Recommendation With Consumed Item Packs
推荐器通常通过使用协同过滤来基于显式反馈使用户(或项目)相关来个性化web内容,评级.收集这种反馈的困难最近促使人们考虑隐式反馈(例如,项目消耗以及相应的时间)。在本文中,我们介绍了消费项目包(CIP)的概念,使链接用户(或项目)的基础上,他们的隐式类似的消费行为。我们的建议是通用的,我们表明,它捕获三个新的隐式的搜索:基于用户的(CIP-U),基于项目的(CIP-I),和基于词嵌入(DEEPCIP),以及一个国家的最先进的技术,使用隐式反馈(FISM)。我们表明,我们的用户处理增量更新,将新鲜消费的项目。我们证明,所有这三个推荐者提供的推荐质量是具有竞争力的国家的最先进的,包括一个结合明确和隐含的反馈。
2017-12-07 cs.IR cs.SI stat.ML