A Survey on Accuracy-oriented Neural Recommendation: From Collaborative Filtering to Information-rich Recommendation
Hefei University of Technology(合肥工业大学);Institute of Artificial Intelligence, Hefei Comprehensive National Science Center(合肥综合性国家科学中心人工智能研究院);University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学)
受深度学习在计算机视觉和语言理解领域取得巨大成功的影响,推荐领域的研究已经转向发明基于神经网络的新推荐模型。近年来,由于神经网络强大的表示能力,神经推荐模型的研究取得了重大进展,它推广和超越了传统的推荐模型。本文从推荐建模的角度,以推荐准确率为目标,对神经推荐模型进行了系统的综述,旨在对该领域的研究进行总结,以方便推荐系统的研究者和实践者。具体来说,根据推荐建模过程中的数据使用情况,我们将工作分为协同过滤和信息丰富推荐:1)协同过滤,它利用用户-项目交互数据的关键来源; 2)内容丰富推荐,它另外利用与用户和项目相关的辅助信息,如用户简档和项目知识图谱;以及3)时间/顺序推荐,它考虑与交互相关的上下文信息,例如时间、位置和过去的交互。在回顾了每种类型的代表性工作后,我们最后讨论了这一领域中一些有前途的方向。
2021-12-27 cs.IR cs.LG
Future Data Helps Training: Modeling Future Contexts for Session-based Recommendation
Tencent(腾讯);University of Science and Technology of China(中国科学技术大学);University of Edinburgh(爱丁堡大学);Northeastern University(东北大学)
基于会话的推荐系统近年来受到了广泛的关注。现有的预测方法主要采用数据增强技术或自回归训练方法来捕捉用户行为的序列依赖关系,由于这些方法的目的是对用户行为的序列特性进行建模,因此在构建预测模型时忽略了目标交互的未来数据,然而,我们认为,目标交互之后的未来交互,在训练过程中也是可用的,提供关于用户偏好的有价值的信号,并且可以用于增强推荐质量。然而,将未来的数据正确地集成到模型训练中并不是一件容易的事情,因为它违背了机器学习原则,并且很容易导致数据泄漏。为此,我们提出了一个新的编码器-解码器框架命名为间隙填充推荐(GRec),它训练的编码器和解码器的间隙填充机制。具体地,编码器将部分完整的会话序列(其中一些项目被目的屏蔽)作为输入,并且解码器以编码表示为条件来预测这些被屏蔽的项目。我们使用具有稀疏核的卷积神经网络实例化通用GRec框架,兼顾精度和效率。我们在两个真实世界的数据集上进行了实验,涵盖了短,中,长距离用户会话,表明GRec显着优于最先进的顺序推荐方法。更多的实证研究验证了在我们的GRec框架下建模未来上下文的高效用。
2020-01-25 cs.IR cs.LG
Personalized, Health-Aware Recipe Recommendation: An Ensemble Topic Modeling Based Approach
Insight Centre for Data Analytics(洞察数据分析中心);University College Dublin(都柏林大学学院)
食物选择是个人的和复杂的,对我们的长期健康和生活质量有重大影响。通过帮助用户做出明智和满意的决定,推荐系统(RS)有可能支持用户做出更健康的食物选择。智能用户建模是实现这一潜力的关键挑战。本文研究了基于Ensemble Topic Modeling(EnsTM)的特征识别技术,用于高效的用户建模和食谱推荐。它基于EnsTM的研究结果,提出了一种简化的数据表示格式和智能用户建模策略,使捕获用户偏好快速,高效和交互。这种方法支持个性化,即使在冷启动场景中也是如此。本文提出了两种不同的EnsTM为基础的和一个混合EnsTM为基础的嵌入式系统。我们通过一项有48名参与者的用户研究,使用230,876个食谱的大规模真实语料库,比较了所有三种基于EnsTM的变体,并与传统的基于内容(CB)的方法进行比较。基于EnsTM的神经网络的性能明显优于CB方法。除了承认多领域的内容,如口味,人口统计和成本,我们提出的方法还考虑到用户的营养偏好,并帮助他们找到不同的营养类别下的食谱。此外,它提供了出色的覆盖范围,并使用户的饮食习惯的隐式理解。随后的分析也揭示了某些特征与更健康的生活方式之间的相关性。
2019-07-31 cs.IR cs.LG
Multimodal Foundation Model-Driven User Interest Modeling and Behavior Analysis on Short Video Platforms
Washington University in St. Louis(圣路易斯华盛顿大学);Columbia University(哥伦比亚大学);Amazon(亚马逊);Johns Hopkins University(约翰斯·霍普金斯大学);Vanderbilt University(范德堡大学);Boston University(波士顿大学)
针对传统单模态兴趣建模方法在短视频多模态内容环境下的局限,提出基于多模态基础模型的用户兴趣建模框架,结合跨模态对齐与行为特征嵌入,在多任务上取得显著提升并增强推荐可解释性。
2025-09-05 cs.IR cs.LG
Modeling Behavioral Patterns in News Recommendations Using Fuzzy Neural Networks
Institute of Human-Centred Computing, Graz University of Technology, Austria(以人为中心计算研究所,格拉茨技术大学,奥地利)
本文提出利用模糊神经网络建模新闻推荐中的行为模式,通过学习可读规则提升推荐透明度和可解释性。
2026-01-07 cs.IR cs.LG
A Lightweight Method for Modeling Confidence in Recommendations with Learned Beta Distributions
Radboud University(拉德堡德大学)
本文提出学习型 Beta 分布(LBD)方法,以轻量级方式为推荐系统提供显式置信度度量,在保持竞争性准确率的同时显著提升准确率与置信度的相关性,并在高精度定向推荐任务中表现更优。
2023-08-06 cs.IR cs.LG
The Potential of the Confluence of Theoretical and Algorithmic Modeling in Music Recommendation
Johannes Kepler University Linz(林茨约翰内斯·开普勒大学)
音乐推荐系统的任务是预测特定用户接下来想要听什么音乐项。这份立场文件讨论了音乐偏好预测任务的主要挑战:在现有的开放数据集中,缺乏关于影响用户音乐偏好的许多背景因素的信息,缺乏对音乐的正确选择是什么以及是否存在正确选择的明确性;众多标准(超出准确性);以及需要对关系进行解释以识别(并潜在地抵消)推荐方法中的不想要的偏差。本文证实了理论建模(旨在解释行为)和算法建模(旨在预测行为)的融合似乎是音乐推荐系统计算建模的有效途径。
2019-11-17 cs.HC cs.LG
ARIES: Relation Assessment and Model Recommendation for Deep Time Series Forecasting
Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
ARIES构建合成数据集,系统评估时间序列属性与建模策略的关系,基于50多种模型的基准测试,提出首个可解释的深度预测模型推荐器,为现实时间序列提供建议。
2025-09-07 cs.AI cs.LG
Recurrent Neural Networks for Long and Short-Term Sequential Recommendation
CAIL;Université de Lille(里尔大学)
推荐系统的目标可以概括为在短期或长期时间范围内对用户偏好进行建模。以往的大量研究通过降维技术应用于历史用户-项目交互来研究长期推荐。最近引入的基于会话的推荐设置强调了建模短期用户偏好的重要性。在这项任务中,循环神经网络(RNN)已被证明在短时间内成功捕捉用户交互的细微差别。在本文中,我们评估了基于RNN的短期和长期推荐任务模型。我们的实验结果表明,RNN能够预测即时和远程用户交互。我们还发现性能最好的配置是具有层归一化和绑定项嵌入的堆叠RNN。
2018-07-23 cs.IR cs.LG stat.ML
Temporal Learning and Sequence Modeling for a Job Recommender System
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所)
我们为RecSys Challenge 2016提出了工作推荐任务的解决方案。我们的工作的主要贡献是结合时序学习与序列建模,捕捉复杂的用户项活动模式,以提高工作推荐。首先,我们提出了一个基于时间的排名模型应用于历史观测和混合矩阵分解随着时间的重新加权的相互作用。其次,我们利用用户项活动中的序列属性,并开发了一个基于RNN的推荐模型。我们的解决方案在100多名参与者的挑战中获得了5个$^{th}$名次。值得注意的是,我们的RNN方法的强大性能显示了在推荐系统中采用序列建模的一个有希望的新方向。
2016-08-11 cs.LG stat.ML
The Nah Bandit: Modeling User Non-compliance in Recommendation Systems
Department of Civil and Environmental Engineering(土木与环境工程系);Laboratory for Information & Decision Systems(信息与决策系统实验室);Massachusetts Institute of Technology(麻省理工学院);Institute for Data, Systems, and Society(数据、系统与社会研究所)
针对物理世界推荐系统中用户易拒绝推荐、回归基线行为的问题,本文提出Nah Bandit问题框架,建模用户不服从行为,并设计带聚类的专家算法EWC,理论与实验均验证其优于传统方法,为相关研究奠定基础。
2025-09-03 cs.IR cs.LG cs.MA
Reading Between the Lines: Modeling User Behavior and Costs in AI-Assisted Programming
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院)
研究程序员与GitHub Copilot等代码推荐系统的交互,提出CUPS行为分类体系,通过21名程序员实验揭示交互低效与时间成本,为界面设计和评估指标提供依据。
2024-04-22 cs.HC cs.LG cs.SE
Attentive Graph-based Text-aware Preference Modeling for Top-N Recommendation
National Taiwan University(国立台湾大学)
针对现有评论模型在Top-N推荐中表现不佳且数据受限的问题,提出AGTM模型,通过结合图卷积网络的高阶连通性与物品文本内容,有效提升了Top-N推荐性能。
2023-05-22 cs.IR cs.LG
Sequential Recommendation with Dual Side Neighbor-based Collaborative Relation Modeling
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院)
顺序推荐任务的目的是根据用户的历史行为预测用户对未来项目的偏好。用户行为的顺序意味着在行为历史中嵌入了丰富的序列模式,这些模式揭示了用户兴趣的潜在动态。提出了各种顺序推荐方法来建模动态用户行为。然而,大多数模型只考虑了用户自身的行为和动态,而忽略了用户和项目之间的协作关系,即,用户的相似品味或物品的相似属性。由于没有对协作关系进行建模,这些方法缺乏推荐多样性,因此可能具有更差的性能。更糟糕的是,大多数现有的方法只考虑用户端的序列,而忽略了项目端的时间动态。为了解决目前的顺序推荐模型的问题,我们提出了顺序协作推荐(SCoRe),有效地挖掘高阶协作信息,使用跨邻居关系建模,并利用用户端和项目端的历史序列,以更好地捕捉用户和项目的动态。在三个真实世界的大规模数据集上的实验表明,该模型优于强基线。
2019-11-10 cs.IR cs.LG
Positive, Negative and Neutral: Modeling Implicit Feedback in Session-based News Recommendation
Shanghai Jiao Tong University(上海交通大学)
对于许多新闻门户网站来说,为匿名读者推荐新闻是一项有用但具有挑战性的任务,其中读者与文章之间的交互仅限于临时登录会话。以往的工作往往制定基于会话的推荐作为下一个项目的预测任务,而他们忽略了用户行为的隐式反馈,这表明用户真正喜欢或不喜欢。因此,我们提出了一个全面的框架,通过积极的反馈(即,他们花费更多时间的文章)和负面反馈(即,他们选择跳过而不点击的文章)。此外,该框架隐式地使用会话开始时间对用户进行建模,并使用其初始发布时间对文章进行建模,我们称之为“中立反馈”。三个真实世界的新闻数据集的实证评估表明,该框架的更准确,更多样化,甚至比其他国家的最先进的基于会话的推荐方法意想不到的建议有前途的表现。
2022-05-12 cs.IR cs.LG
Modeling Multi-Hop Semantic Paths for Recommendation in Heterogeneous Information Networks
The Chinese University of Hong Kong(香港中文大学);University of Pennsylvania(宾夕法尼亚大学);Johns Hopkins University(约翰斯·霍普金斯大学);Brown University(布朗大学);Shanghai Jiao Tong University(上海交通大学);University of Southern California(南加州大学)
本文提出一种多跳路径感知的异构信息网络推荐框架,通过路径选择、语义表示和注意力融合建模用户偏好,在Amazon-Book等数据集上显著提升HR@10、Recall@10等指标。
2025-05-09 cs.IR cs.LG
When and What to Recommend: Joint Modeling of Timing and Content for Active Sequential Recommendation
School of Computing, Macquarie University(麦考瑞大学计算学院);Oracle Analytics Cloud, Oracle Corporation(Oracle公司分析云)
PASRec通过联合建模时机与内容,主动预测用户交互时间并推荐感兴趣物品,优于现有基线方法。
2025-11-24 cs.IR cs.LG
Efficient user history modeling with amortized inference for deep learning recommendation models
LinkedIn Corporation(领英公司)
针对DLRM中Transformer用户历史建模延迟高的问题,通过将候选物品追加到历史列表末尾的早期融合方式,适配摊销推理算法M-FALCON,在保证效果的同时降低30%推理延迟,已在LinkedIn相关场景部署。
2024-12-09 cs.IR cs.LG
Jointly Modeling Intra- and Inter-transaction Dependencies with Hierarchical Attentive Transaction Embeddings for Next-item Recommendation
基于事务的推荐系统(TBRS)旨在通过对事务数据中的依赖关系进行建模来预测下一个项目。通常,考虑两种类型的依赖关系:事务内依赖关系和事务间依赖关系。大多数现有的TBRS推荐下一个项目,只建模的事务内的依赖关系,而忽略了最近的事务,也可能影响下一个项目的事务间的依赖关系。然而,并非所有最近的交易都与当前和下一个项目相关,因此应确定相关交易并确定其优先次序。在本文中,我们提出了一种新的分层注意事务嵌入(HATE)模型来解决这些问题。具体而言,两级注意力机制集成项目嵌入和事务嵌入,以构建一个关注的上下文表示,结合了事务内和事务间的依赖关系。有了学习的上下文表示,HATE然后推荐下一个项目。两个真实世界的交易数据集上的实验评估表明,HATE显着优于国家的最先进的方法在推荐精度。
2020-05-30 cs.IR cs.LG
Joint Modeling and Optimization of Search and Recommendation
尽管开发搜索引擎和推荐系统所使用的技术有些不同,但它们都遵循相同的目标:帮助人们在正确的时间获得所需的信息。由于这个共同的目标,搜索和推荐模型可以潜在地相互受益。神经网络技术的最新进展使其有效且易于扩展用于各种任务,包括检索和推荐。这提高了联合建模和优化搜索排名和推荐算法的可能性,对两者都有潜在的好处。在本文中,我们提出了理论和实践的原因,激励联合建模的搜索和推荐作为一个研究方向。我们提出了一个通用的框架,同时学习检索模型和推荐模型,通过优化联合损失函数。我们在产品数据集上的初步结果表明,所提出的联合建模大大优于独立训练的检索和推荐模型。我们列出了这一研究领域的一些未来方向,这些方向可能会导致最先进的搜索和推荐模型的发展。
2018-07-15 cs.IR
Modeling Personalized Item Frequency Information for Next-basket Recommendation
University of Minnesota, Twin Cities(明尼苏达大学双城分校);University of Science and Technology of China(中国科学技术大学);Alibaba Group(阿里巴巴集团)
下一个购物篮推荐(NBR)在电子商务和零售业中非常流行。在这种情况下,用户一次购买一组物品(一个购物篮)。NBR基于篮子序列执行顺序建模和推荐。NBR通常比广泛研究的顺序(基于会话)推荐更复杂,顺序推荐基于项目序列推荐下一个项目。递归神经网络(RNN)已被证明是非常有效的顺序建模,因此适用于丁腈橡胶。然而,我们认为,现有的RNN不能直接捕捉项目的频率信息的推荐方案。通过对真实世界数据集的仔细分析,我们发现{ \em个性化项目频率}(PIF)信息(记录用户购买每个项目的次数)为NBR提供了两个关键信号。但是,这在很大程度上被现有的方法所忽视。尽管现有的方法,如基于RNN的方法具有很强的表示能力,但我们的实证结果表明,它们无法学习和捕获PIF。因此,现有的方法不能充分利用PIF中包含的关键信号。鉴于RNN的这种固有限制,我们提出了一种简单的基于项目频率的k-最近邻(kNN)方法来直接利用这些关键信号。我们在四个公共的真实世界数据集上评估了我们的方法。尽管相对简单,但我们的方法经常优于最先进的NBR方法-包括使用RNN的基于深度学习的方法-当与PIF相关的模式在数据中起重要作用时。
2020-05-31 cs.IR cs.LG
Modeling the Dynamics of User Preferences for Sequence-Aware Recommendation Using Hidden Markov Models
DePaul University(德保罗大学)
在涉及与最终用户交互的各种在线设置中,系统适应用户偏好的变化至关重要。用户对项目的偏好往往会随着时间的推移而改变,这是由于各种因素,如上下文的变化、正在执行的任务或其他短期或长期的外部因素。推荐系统需要能够捕获用户偏好中的这些动态,以便保持对用户最新兴趣的调整。在这项工作中,我们提出了一个建议框架,考虑到用户偏好的动态。我们提出了一种基于隐马尔可夫模型(HMM)的方法来识别用户交互序列中的变点,根据数据中所有用户的顺序行为来反映偏好的显着变化。所提出的框架利用所确定的变化点,使用序列感知的非负矩阵分解模型生成建议。我们经验证明了基于HMM的变化检测方法的有效性相比,标准的基线方法。此外,我们评估了所提出的推荐方法的性能,并表明它相比有利的最先进的序列感知推荐模型。
2019-05-14 cs.IR cs.LG
Conditionally Identifiable Latent-Environment Modeling for Out-of-Distribution Recommendation
Southern University of Science and Technology(南方科技大学);Massey University(梅西大学)
针对分布外推荐的偏好偏移问题,提出条件可识别隐环境推荐模型CILER,在三类偏移下的12项OOD排序指标上均实现提升。
2026-08-05 cs.IR cs.LG
FUM: Fine-grained and Fast User Modeling for News Recommendation
用户建模是新闻推荐的重要环节。现有的方法通常首先将用户点击的新闻独立编码成新闻嵌入,然后将其聚合成用户嵌入。然而,这些方法忽略了来自同一用户的不同点击新闻之间的词级交互,其中包含丰富的详细线索来推断用户兴趣。在本文中,我们提出了一个细粒度和快速的用户建模框架(FUM)模型的用户兴趣从细粒度的行为交互的新闻推荐。FUM的核心思想是将被点击的新闻连接成一个长文档,并将用户建模转换为一个文档建模任务,同时具有新闻内部和新闻之间的词级交互。由于普通的Transformer不能有效地处理长文档,我们应用一个高效的Transformer Fastformer来建模细粒度的行为交互。在两个真实数据集上的大量实验验证了FUM能够有效地为新闻推荐建模。
2022-04-10 cs.IR
Modeling Dynamic User Preference via Dictionary Learning for Sequential Recommendation
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院);Fudan University(复旦大学)
捕捉用户偏好的动态对于更好地预测用户未来的行为至关重要,因为用户偏好通常会随着时间的推移而漂移。许多现有的推荐算法--包括浅层和深层推荐算法--通常独立地对这种动态进行建模,即,用户静态和动态偏好没有在同一潜在空间下建模,这使得很难将它们融合以进行推荐。本文考虑将用户的序列行为嵌入到用户偏好的潜在空间中,即将序列转化为偏好的问题。为此,我们将顺序推荐任务表述为字典学习问题,其学习:1)共享字典矩阵,其每行表示跨用户共享的用户动态偏好的部分信号;以及2)使用与门控递归单元(GRU)集成的深度自回归模型的后验分布估计器,其可以选择字典的相关行来表示以他/她的过去行为为条件的用户的动态偏好。Netflix数据集上的定性研究表明,该方法可以捕获用户偏好随时间的漂移,多个真实世界数据集上的定量研究表明,与最先进的因子分解和神经顺序推荐方法相比,该方法可以实现更高的准确性。该代码可在https://github.com/cchao0116/S2PNM-TKDE2021上获得。
2022-04-02 cs.IR cs.LG
News Recommendation with Candidate-aware User Modeling
新闻推荐的目的是将新闻与个性化的用户兴趣相匹配。现有的新闻推荐方法通常从历史点击新闻中建模用户兴趣,而不考虑候选新闻。然而,每个用户通常具有多个兴趣,并且这些方法难以将候选新闻与特定用户兴趣准确地匹配。本文提出了一种候选感知的个性化新闻推荐用户建模方法,该方法可以将候选新闻加入到用户建模中,以更好地匹配候选新闻和用户兴趣。我们提出了一个候选人意识的自我注意力网络,使用候选人的新闻作为线索,模型候选人意识的全球用户兴趣。此外,我们提出了一个候选人感知的CNN网络,将候选新闻纳入本地行为上下文建模,并学习候选人感知的短期用户兴趣。此外,我们使用候选人感知的注意力网络聚合以前点击的新闻加权他们的相关性与候选新闻,以建立候选人感知的用户表示。在真实数据集上的实验表明了该方法在提高新闻推荐性能方面的有效性。
2022-04-10 cs.IR
Joint Geographical and Temporal Modeling based on Matrix Factorization for Point-of-Interest Recommendation
Università della Svizzera Italiana(意大利瑞士大学);Leiden University(莱顿大学)
随着基于位置的社交网络的普及,兴趣点推荐已成为一项重要任务,它学习用户的偏好和移动模式来推荐兴趣点。以往的研究表明,将上下文信息,如地理和时间的影响,是必要的,以改善POI推荐解决数据稀疏问题。然而,现有的方法模型的地理影响的基础上的物理距离POI和用户,而忽略了这种地理影响的时间特性。在本文中,我们进行了一项研究的用户移动模式,我们发现,用户的签到发生在几个中心,这取决于他们当前的时间状态。接下来,我们提出了一个时空活动中心算法来更准确地建模用户的行为。最后,我们证明了我们提出的上下文模型的有效性,将其纳入两个不同的设置下的矩阵分解模型:i)静态和ii)时间。为了证明我们所提出的方法的有效性,我们将其称为STACP,我们对从Gowalla和Foursquare LBSN获得的两个着名的真实世界数据集进行了实验。实验结果表明,STACP模型实现了统计上显着的性能改善,相比国家的最先进的技术。此外,我们证明了捕捉地理和时间信息建模用户的活动中心和建模的重要性,他们联合的有效性。
2020-01-24 cs.IR cs.LG
Joint Modeling in Recommendations: A Survey
针对传统推荐系统难以反映用户复杂偏好,本文综述了多任务、多场景、多模态和多行为四维度的联合建模方法,并展望未来方向。
2025-02-28 cs.IR
HieRec: Hierarchical User Interest Modeling for Personalized News Recommendation
用户兴趣建模是个性化新闻推荐的关键。现有的新闻推荐方法通常从每个用户之前的行为中学习单个用户嵌入,以代表他们的整体兴趣。然而,用户兴趣通常是多样的和多粒度的,这是很难被准确地建模的单一用户嵌入。在本文中,我们提出了一个新闻推荐方法与层次用户兴趣建模,命名为HieRec。而不是一个单一的用户嵌入,在我们的方法中,每个用户表示在一个分层的兴趣树,以更好地捕捉他们的多样化和多粒度的新闻兴趣。我们使用一个三层的层次结构来表示:1)整体用户兴趣; 2)用户对体育等粗粒度主题的兴趣; 3)用户对足球等细粒度主题的兴趣。此外,我们提出了一个分层的用户兴趣匹配框架,以匹配候选新闻与不同层次的用户兴趣更准确的用户兴趣定位。在两个真实数据集上的大量实验验证了该方法可以有效地提高个性化新闻推荐的用户建模性能。
2021-06-08 cs.IR
Empowering News Recommendation with Pre-trained Language Models
个性化新闻推荐是在线新闻服务的一项重要技术。新闻文章通常包含丰富的文本内容,准确的新闻建模对于个性化新闻推荐非常重要。现有的新闻推荐方法主要基于传统的文本建模方法对新闻文本进行建模,这对于挖掘新闻文本中的深层语义信息并不是最优的。预训练的语言模型(PLM)对于自然语言理解是强大的,这具有更好的新闻建模的潜力。然而,目前还没有公开的报道表明PLM已经应用于新闻推荐。在本文中,我们报告了我们的工作,利用预先训练的语言模型,使新闻推荐。在单语言和多语言新闻推荐数据集上的离线实验结果表明,利用PLM进行新闻建模可以有效地提高新闻推荐的性能。我们基于PLM的新闻推荐模型已部署到Microsoft News平台,并在英语和全球市场的点击量和页面浏览量方面取得了显著增长。
2021-04-15 cs.IR
Heterogeneous User Modeling for LLM-based Recommendation
针对开放域推荐中跨域异构行为建模难题,本文提出 HUM,通过行为 token 压缩、掩码机制和领域重要性分数提升效果与鲁棒性。
2025-07-27 cs.IR
Interpreting Contextual Effects By Contextual Modeling In Recommender Systems
推荐系统已经被广泛应用于通过提供个性化项目推荐列表来辅助用户的决策。上下文感知推荐系统(CARS)在推荐过程中还考虑了上下文信息,因为用户对物品的品味可能因上下文而异。为了提高推荐的质量,已经提出并开发了几种上下文感知的推荐算法。然而,有有限的研究探索和讨论的能力,解释的上下文效果的推荐模型。在本文中,我们特别关注不同的上下文建模方法,重塑模型的结构,并探讨如何利用现有的上下文建模解释的上下文效果的推荐系统。我们比较了上下文效应的解释,以及在两个真实世界的数据集的推荐性能,以检查解释的质量。
2017-10-23 cs.IR
Sequential Modeling with Multiple Attributes for Watchlist Recommendation in E-Commerce
eBay Research(eBay研究院);Ben-Gurion University of the Negev(内盖夫本-古里安大学)
在电子商业中,观察列表使用户能够随着时间的推移跟踪物品,并已成为一项主要功能,在用户的购物旅程中发挥着重要作用。监视列表项通常具有其值可随时间改变的多个属性(例如,价格,数量)。由于许多用户在他们的监视列表上积累了数十个项目,并且由于购物意图随着时间的推移而变化,因此在给定的上下文中推荐监视列表中的顶级项目可能是有价值的。在这项工作中,我们研究了在电子商业的监视列表功能,并介绍了一种新的监视列表推荐任务。我们的目标是通过预测用户将点击的下一个项目来优先考虑用户接下来应该关注的监视列表项目。我们铸造这个任务作为一个专门的顺序推荐任务,并讨论其特点。我们提出的推荐模型,trans 2D,是建立在Transformer架构的顶部,在那里我们进一步提出了一种新的扩展注意力机制(Attention 2D),允许学习复杂的项目-项目,属性-属性和项目-属性模式,从序列数据与多个项目属性。使用eBay的大规模观察列表数据集,我们评估了我们提出的模型,与多个最先进的基线相比,我们证明了它的优越性,其中许多基线都适用于这项任务。
2021-10-24 cs.IR cs.LG
Contextual Sequence Modeling for Recommendation with Recurrent Neural Networks
推荐可以从推荐时良好的用户状态表示中受益匪浅。最近利用循环神经网络(RNN)进行基于会话的推荐的方法表明,深度学习模型可以为推荐提供有用的用户表示。然而,当前的RNN建模方法仅通过考虑用户过去与之交互的项目序列来总结用户状态,而不考虑其他基本类型的上下文信息,例如用户-项目交互的关联类型,事件之间的时间间隔以及每次交互的时间。为了解决这个问题,我们提出了一类新的上下文循环神经网络推荐(CRNN),它可以考虑输入和输出层的上下文信息,并通过将上下文嵌入与项目嵌入相结合来修改RNN的行为,更明确地说,在模型动态中,通过将隐藏单元转换参数化为上下文信息的函数。我们将CRNN方法与RNN和非顺序基线进行了比较,并在下一个事件预测任务上显示出良好的改进。
2017-06-23 cs.IR
Modeling Behavioral Intensity and Transitions for Generative Recommendation
Ant Group(蚂蚁集团);Fudan University(复旦大学)
本文提出BITRec框架,通过选择性依赖激活和转换关系编码,解决多行为推荐中行为强度差异和转换模式捕捉问题,实验表明在多个数据集上提升15-23%。
2026-04-27 cs.AI cs.IR cs.LG
Retrievable Domain-Sensitive Feature Memory for Multi-Domain Recommendation
Noah’s Ark Lab, Huawei(华为诺亚实验室);Tsinghua University(清华大学)
针对现有多域推荐方法忽略域敏感特征、域差异学习不足的问题,提出域敏感特征归因方法与可检索记忆架构,有效捕捉域差异,提升推荐性能。
2025-05-16 cs.IR cs.LG
Modeling Sequences as Distributions with Uncertainty for Sequential Recommendation
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Pinterest Inc.(拼趣公司)
用户交互中的顺序模式对于表示用户的偏好和捕获项目之间的潜在关系至关重要。最近Transformers在序列建模方面的进步促使社区为序列推荐设计更有效的编码器。大多数现有的顺序方法假设用户是确定性的。然而,项目-项目转换可能会在几个项目方面波动很大,并表现出用户兴趣的随机性。该\textit{stochastic characteristics}提出了在表示序列和项时包含不确定性的可靠需求。此外,对具有不确定性的序列和项目进行建模扩展了用户和项目的交互空间,从而进一步缓解了冷启动问题。在这项工作中,我们提出了一个基于分布的Transformer顺序推荐(DT 4SR),它注入不确定性的顺序建模。我们使用椭圆高斯分布来描述具有不确定性的项目和序列。我们将项目和序列中的不确定性描述为椭圆高斯分布。并采用Wasserstein距离来度量分布之间的相似性。我们设计了两个新的变压器建模的均值和协方差,这保证了正定性的分布。所提出的方法显着优于国家的最先进的方法。在三个基准数据集上的实验也证明了它在缓解冷启动问题方面的有效性。该代码可在https://www.example.com上获得。github.com/DyGRec/DT4SR
2021-06-11 cs.AI cs.IR cs.LG
Unified Dual-Intent Translation for Joint Modeling of Search and Recommendation
本文提出统一双意图翻译模型UDITSR,利用搜索查询监督推荐中的需求意图生成,并通过双意图翻译传播机制在同一语义空间建模内在意图、需求意图与交互物品的关系,在搜索和推荐任务上均超越SOTA基线。
2024-07-01 cs.IR
Modeling and Leveraging Prerequisite Context in Recommendation
Prediction可以在用户的决策中发挥至关重要的作用,但推荐系统还没有充分利用这种上下文背景知识。传统的推荐系统(RS)主要是丰富的上下文由静态的用户简档和项目描述,忽略了上下文逻辑和约束,他们的用户项目交互。例如,RS可以在用户已经与另一项交互作为其先决条件的条件下推荐项。从概念侧信息建模先决条件上下文可以克服这一弱点。我们提出了先决条件驱动的推荐(PDR),一个通用的上下文感知框架,先决条件的上下文显式建模,以促进推荐。我们首先设计了一个先决条件知识链接(PKL)算法,以策展数据集,促进PDR研究。利用它,我们构建了一个跨越三个领域的75k+高质量的先决条件概念数据集。然后,我们贡献PDRS,PDR的神经实例。通过多层感知器联合优化先决条件学习和推荐任务,我们发现PDRS在所有三个领域的表现始终优于基线模型,平均幅度为7.41%。重要的是,PDRS在冷启动场景中表现尤其出色,改善高达17.65%。
2022-09-23 cs.IR
Masked and Swapped Sequence Modeling for Next Novel Basket Recommendation in Grocery Shopping
University of Amsterdam(阿姆斯特丹大学)
提出下一个新篮子推荐任务及双向transformer模型BTBR,通过多种掩码与物品-篮子交换策略直接建模物品相关性,大幅提升仅含新物品篮子的推荐性能。
2023-08-02 cs.IR cs.LG
Empowering Next POI Recommendation with Multi-Relational Modeling
University of Virginia(弗吉尼亚大学)
随着移动设备和Web应用的广泛采用,基于位置的社交网络(LBSN)提供大规模的个人级别的位置相关活动和体验。下一个兴趣点推荐是LBSNs中最重要的任务之一,旨在通过用户的历史活动发现用户的偏好,为用户提供下一个合适位置的个性化推荐。值得注意的是,LBSN提供了对关于用户和POI的丰富的异构关系信息(包括用户-用户社交关系,诸如家庭或同事;以及用户-POI访问关系)的无与伦比的访问。这种关系信息具有促进下一POI推荐的巨大潜力。然而,大多数现有的方法要么只关注用户兴趣点访问,或处理不同的关系基于过于简化的假设,而忽略了关系的异质性。为了填补这些关键的空白,我们提出了一种新的框架,MEMO,它有效地利用了异构关系与多网络表示学习模块,并明确地将跨时间的用户POI相互影响与耦合的递归神经网络。在真实世界的LBSN数据上进行的大量实验验证了我们的框架优于最先进的下一代POI推荐方法。
2022-04-24 cs.AI cs.IR cs.LG
Multi-Interest Recommendation: A Survey
本综述系统梳理多兴趣推荐的研究进展,回答其重要性、建模关注点及应用技术细节,为研究者提供基础框架与未来方向指引。
2025-06-18 cs.IR
Thoroughly Modeling Multi-domain Pre-trained Recommendation as Language
提出UPSR模型,通过五个关键指标指导文本-项目与行为序列-文本序列适配,在七个数据集上实现多领域序列推荐的最佳性能。
2023-11-27 cs.IR
UniSAR: Modeling User Transition Behaviors between Search and Recommendation
针对现有方法未充分建模用户搜索与推荐间行为转换的问题,提出UniSAR框架,经提取、对齐、融合三步建模细粒度转换并联合学习,可同时提升搜索与推荐效果。
2024-04-15 cs.IR
Denoising Time Cycle Modeling for Recommendation
Ant Group(蚂蚁集团)
本文提出DiCycle方法,通过去噪用户行为并选择与目标物品高度相关的子集,显式建模多样化时间周期模式,在公共和真实数据集上超越现有推荐方法。
2024-02-05 cs.AI cs.IR
Pyramid Mixer: Multi-dimensional Multi-period Interest Modeling for Sequential Recommendation
针对序列推荐中用户兴趣建模不全面的问题,提出基于MLP-Mixer的金字塔混合器模型,通过跨行为、跨特征及跨周期建模,在离线与在线实验中提升效果,并成功部署于工业平台。
2025-06-20 cs.IR
Modeling Long-Term and Short-Term Interests with Parallel Attentions for Session-based Recommendation
Shanghai Jiao Tong University(上海交通大学)
基于会话的推荐的目的是预测用户的下一个点击项目,这是一个具有挑战性的任务,由于用户行为的固有的不确定性和匿名的隐式反馈信息。强大的基于会话的推荐器通常可以探索用户不断变化的兴趣(即,他/她的长期和短期利益的结合)。注意力机制的最新进展已经导致了用于解决该任务的最先进的方法。然而,存在两个主要缺点。首先,大多数基于注意力的方法只是简单地利用最后一次点击的项目来表示用户的短期兴趣,忽略了时间信息和行为上下文,这可能无法全面地捕获用户的近期偏好。其次,目前的研究通常认为长期和短期利益同样重要,但它们的重要性应该是用户特定的。因此,我们提出了一种新的并行注意力网络模型(PAN)的基于会话的推荐。具体而言,我们提出了一种新的时间感知的注意力机制,学习用户的短期兴趣,同时考虑到上下文信息和时间信号。此外,我们引入了一个门控融合方法,自适应地整合用户的长期和短期的喜好,以产生混合兴趣表示。在三个真实数据集上的实验表明,PAN方法比现有方法有明显的改进。
2020-07-24 cs.IR cs.LG
Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and Recommendation
Tencent(腾讯);University of Science and Technology of China(中国科学技术大学);Google(谷歌);Telefonica Research(西班牙电信研究院)
归纳迁移学习对计算机视觉和NLP领域产生了很大的影响,但尚未用于推荐系统领域。尽管已经有大量的研究生成建议的基础上建模用户-项目交互序列,他们中的一些人试图表示和转移这些模型为下游任务,只有有限的数据存在。在本文中,我们深入研究的任务,有效地学习一个单一的用户表示,可以应用到各种各样的任务,从跨域的建议,用户简档预测。微调大型预训练网络并使其适应下游任务是解决此类任务的有效方法。然而,考虑到整个模型需要为每个新任务重新训练,微调参数效率低下。为了克服这个问题,我们开发了一个参数有效的迁移学习架构,称为PeterRec,它可以被配置在飞行中的各种下游任务。具体来说,PeterRec通过注入一系列重新学习的神经网络,允许预先训练的参数在微调过程中保持不变,这些网络很小,但与学习整个网络一样具有表达力。我们进行了广泛的实验消融,以显示在五个下游任务的学习用户表示的有效性。此外,我们还证明了PeterRec在多个领域中进行了有效的迁移学习,在这些领域中,相对于微调整个模型参数,它实现了相当或有时更好的性能。代码和数据集可在https://github.com/fajieyuan/sigir2020_peterrec上获得。
2020-06-09 cs.IR cs.LG
Modeling Scale-free Graphs with Hyperbolic Geometry for Knowledge-aware Recommendation
针对传统推荐系统的数据稀疏性和冷启动问题,引入知识图谱(KGs)来补充辅助信息的方法受到了广泛关注。通过将KG与用户-项目交互统一到一个三方图中,最近的工作探索了图的拓扑结构,以学习具有丰富语义的用户和项目的低维表示。然而,这些现实世界中的三分图通常是无标度的,其内在的层次图结构在现有的工作中是强调不足,因此,导致次优的推荐性能。为了解决这个问题,提供更准确的推荐,我们提出了一种基于双曲几何的知识感知推荐方法,即洛伦兹知识增强的图卷积网络推荐(LKGR)。在数据统一后,LKGR有助于更好地建模无标度三部图。具体来说,我们采用不同的信息传播策略,在双曲空间明确编码异构信息的历史相互作用和KG。我们提出的知识感知的注意力机制使模型能够自动测量信息的贡献,在双曲空间中产生连贯的信息聚合。在三个真实世界的基准上进行的大量实验表明,LKGR在Top-K推荐上的Recall@20的3.6-15.3%优于最先进的方法。
2022-01-02 cs.IR
Recommendation System based on Semantic Scholar Mining and Topic modeling: A behavioral analysis of researchers from six conferences
Nanjing University of Science and Technology(南京理工大学)
推荐系统在互联网社会中有着重要的作用。计算机科学中的推荐系统在互联网门户的各个方面都有非常实际的用途,例如社交网络和图书馆网站。实现推荐系统的方法有很多种,潜在狄利克雷分配(LDA)是主题建模中的一种常用技术。近年来,研究人员提出了许多基于推荐系统和LDA的方法。根据主题的重要性,本文发现了主题的发展趋势,并发现了LDA主题与学术背景文献之间的关系。实际上,我们应用基于Gibbs抽样算法的概率主题建模,从DBLP数据集中的六个计算机科学会议出版物中进行语义挖掘。根据我们的实验结果,我们的语义框架可以有效地帮助组织更好地组织这些会议,并涵盖未来的研究课题。
2018-12-20 cs.CL cs.IR
Modeling Dual Period-Varying Preferences for Takeaway Recommendation
针对外卖推荐中店铺-餐食双重偏好与日内时段偏好变化的挑战,提出DPVP模型,通过双重交互感知模块、时间分解模块及时序门控机制建模偏好,实验效果优于SOTA,已在美团上线提升GMV 0.70%。
2023-06-16 cs.IR
DebiasedRec: Bias-aware User Modeling and Click Prediction for Personalized News Recommendation
新闻推荐是个性化新闻访问的关键。现有的新闻推荐方法通常根据用户的历史新闻点击量来推断用户的个人兴趣,并通过预测未来的新闻点击量来训练新闻推荐模型。这些方法背后的一个核心假设是,新闻点击行为可以表明用户的兴趣。然而,在实际场景中,除了用户兴趣与新闻内容之间的相关性之外,新闻点击行为还可能受到其他因素的影响,例如在线平台中新闻呈现的偏差。例如,位置较高、尺寸较大的新闻通常更容易被点击。点击新闻的偏向性会给用户兴趣建模和模型训练带来噪声,影响新闻推荐模型的性能。本文提出了一种具有偏见意识的个性化新闻推荐方法DebiasRec,该方法可以处理偏见信息,从而更准确地进行用户兴趣推断和模型训练。我们的方法的核心包括一个偏见表示模块,一个偏见意识的用户建模模块,和一个偏见意识的点击预测模块。偏见表征模块用于对不同类型的新闻偏见及其相互作用进行建模,以捕捉它们对点击行为的联合影响。偏见感知的用户建模模块旨在通过使用用户的偏见信息来校准兴趣模型,从而从点击的新闻文章中推断用户的去偏见兴趣。偏置感知点击预测模块用于根据偏置点击行为来训练去偏置新闻推荐模型,其中点击分数被分解为指示用户对新闻内容的兴趣的偏好分数和从其不同偏置特征推断的新闻偏置分数。在两个真实数据集上的实验表明,该方法能有效地提高新闻推荐的性能。
2021-04-15 cs.IR
BLADE: A Behavior-Level Data Augmentation Framework with Dual Fusion Modeling for Multi-Behavior Sequential Recommendation
University of Science and Technology of China(中国科学技术大学);iFLYTEK Co., Ltd.(科大讯飞股份有限公司)
BLADE通过双融合建模和行为级数据增强,提升多行为序列推荐的性能和泛化能力。
2025-12-15 cs.IR
MLFriend: Interactive Prediction Task Recommendation for Event-Driven Time-Series Data
Massachusetts Institute of Technology(麻省理工学院)
机器学习中的大多数自动化都集中在模型选择和超参数调整上,许多人忽视了自动定义预测任务的挑战。我们仍然严重依赖人类专家来定义预测任务,并通过汇总原始数据来生成标签。在本文中,我们解决了在事件驱动的时间序列数据上定义有用的预测问题的挑战。我们引入MLFriend来应对这一挑战。MLFriend首先在预定义的空间下生成所有可能的预测任务,然后与数据科学家交互,学习数据的上下文,并从空间中的所有任务中推荐好的预测任务。我们在三个不同的数据集上评估了我们的系统,并生成了总共2885个预测任务并解决了它们。其中722个被专家数据科学家认为有用。我们还表明,一个自动预测任务发现系统是能够识别前10名的任务,用户可能会喜欢在一批100个任务。
2019-06-28 cs.IR cs.LG stat.ML