PHKT:Personalized Dynamic Hypergraph-enhanced KAN-Transformer for Multi-behavior Sequential Recommendation
Hangzhou Dianzi University(杭州电子科技大学);School of Computer Science and Technology, Hangzhou Dianzi University(杭州电子科技大学计算机科学与技术学院);Sanya Traditional Chinese Medicine Hospital(三亚市中医医院);Combat Support College, Rocket Force University of Engineering(火箭军工程大学勤务学院);Fuxi AI Lab, NetEase Games, NetEase Inc.(网易伏羲实验室,网易游戏,网易公司)
提出PHKT模型,通过个性化动态超图模块捕获用户特定异构高阶关系,并利用KAN增强Transformer的前馈网络,以提升多行为序列推荐中目标行为预测的性能。
2026-10-30 cs.IR
Personalized Transformer-based Ranking for e-Commerce at Yandex
针对电商召回导向模型的特征不适配排序阶段的问题,提出基于Transformer的双塔模型两阶段训练法及上下文去偏技术,在Yandex上线后提升了推荐排序性能。
2023-10-09 cs.IR
UQABench: Evaluating User Embedding for Prompting LLMs in Personalized Question Answering
提出UQABench基准,通过序列理解、动作预测和兴趣感知三个维度任务,评估用户嵌入作为软提示在个性化问答中提示LLMs的有效性,并揭示缩放定律。
2025-04-01 cs.IR
Towards Personalized and Semantic Retrieval: An End-to-End Solution for E-commerce Search via Embedding Learning
如今,电子商业搜索已经成为许多人购物常规中不可或缺的一部分。在当今的电子商业搜索中存在两个关键挑战:如何检索语义相关但与查询词不精确匹配的项目,以及如何检索对于相同搜索查询的不同用户而言更加个性化的项目。在本文中,我们提出了一种称为DPSR的新方法,它代表深度个性化和语义检索,以解决这个问题。解释,我们分享我们的设计决策,如何架构一个检索系统,以有效地服务于行业规模的交通,以及如何训练模型,以准确地学习查询和项目语义。基于离线评估和实时流量的在线A/B测试,我们表明DPSR模型优于现有模型,DPSR系统可以检索更多个性化和语义相关的项目,显着改善用户的搜索体验+1.29%的转换率,特别是长尾查询+10.03%。因此,自二零一九年起,我们的DPSR系统已成功应用于JD.com的搜索产品。
2020-06-05 cs.IR
Personalized Federated Knowledge Graph Embedding with Client-Wise Relation Graph
Joint NTU-Webank Research Institute on Fintech(南洋理工大学-微众银行金融科技联合研究院);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);Joint NTU-UBC Research Centre of Excellence in Active Living for the Elderly(南洋理工大学-不列颠哥伦比亚大学老年人积极生活联合卓越研究中心)
针对现有联邦知识图谱嵌入忽略客户端语义差异、嵌入质量受限的问题,提出基于客户端关系图的个性化方法PFedEG,通过邻近客户端亲和度融合生成个性化补充知识,在四个基准数据集上性能优于现有最优模型。
2024-06-17 cs.AI cs.IR
Personalized Transformer for Explainable Recommendation
Hong Kong Baptist University(香港浸会大学);Rutgers University(罗格斯大学)
自然语言生成的个性化在诸如可解释的推荐、评论摘要和对话系统等大量任务中起着至关重要的作用。在这些任务中,用户和项目ID是个性化的重要标识符。Transformer被证明具有强大的语言建模能力,然而,它不是个性化的,并且不能利用用户和项目ID,因为ID标记甚至与单词不在相同的语义空间中。针对这一问题,本文提出了一种用于解释性推荐的个性化Transformer(PETER),并在此基础上设计了一个简单有效的学习目标,利用识别码预测目标解释中的单词,从而赋予识别码以语言学意义,实现个性化的Transformer。除了生成解释,PETER还可以提出建议,这使其成为整个解释-解释管道的统一模型。大量的实验表明,我们的小型未经预训练的模型在生成任务上的有效性和效率方面优于微调的BERT,这突出了我们设计的重要性和良好的实用性。
2021-06-05 cs.AI cs.CL cs.IR
HieRec: Hierarchical User Interest Modeling for Personalized News Recommendation
用户兴趣建模是个性化新闻推荐的关键。现有的新闻推荐方法通常从每个用户之前的行为中学习单个用户嵌入,以代表他们的整体兴趣。然而,用户兴趣通常是多样的和多粒度的,这是很难被准确地建模的单一用户嵌入。在本文中,我们提出了一个新闻推荐方法与层次用户兴趣建模,命名为HieRec。而不是一个单一的用户嵌入,在我们的方法中,每个用户表示在一个分层的兴趣树,以更好地捕捉他们的多样化和多粒度的新闻兴趣。我们使用一个三层的层次结构来表示:1)整体用户兴趣; 2)用户对体育等粗粒度主题的兴趣; 3)用户对足球等细粒度主题的兴趣。此外,我们提出了一个分层的用户兴趣匹配框架,以匹配候选新闻与不同层次的用户兴趣更准确的用户兴趣定位。在两个真实数据集上的大量实验验证了该方法可以有效地提高个性化新闻推荐的用户建模性能。
2021-06-08 cs.IR
A Model-agnostic Strategy to Mitigate Embedding Degradation in Personalized Federated Recommendation
本文提出模型无关的个性化局部-全局协作策略 PLGC,通过冻结全局物品嵌入、神经正切核动态平衡和对比目标函数缓解联邦推荐中的维度坍缩与嵌入退化问题,并在多个数据集上验证其有效性。
2025-08-27 cs.DC cs.IR
Content-Based Personalized Recommender System Using Entity Embeddings
Manipal Institute of Technology(马尼帕尔理工学院)
推荐器系统是一类机器学习算法,其基于用户与类似项目的交互或基于项目的内容向用户提供相关推荐。在要保留项目内容的设置中,基于内容的方法将是有益的。本文的目的是突出的优势,基于内容的方法,通过学习嵌入和利用这些优势,提供更好的和个性化的电影推荐基于用户的喜好,如类型和关键字标签的各种电影功能。
2020-10-24 cs.IR cs.LG
Adaptive Fair Representation Learning for Personalized Fairness in Recommendations via Information Alignment
针对推荐系统个性化公平现有方法训练成本高、公平与准确性权衡次优的问题,提出仅需训练一个模型、推理时自适应满足不同公平要求的AFRL模型,通过信息对齐机制兼顾公平性与推荐准确性,经实验和理论分析验证了其优越性。
2024-04-13 cs.IR
HyperTeNet: Hypergraph and Transformer-based Neural Network for Personalized List Continuation
Indian Institute of Science(印度科学研究所)
个性化列表延续(PLC)任务是以个性化的方式将下一个项目管理到用户生成的列表(有序的项目序列)。这项任务的主要挑战是理解现有作品没有考虑的交互实体(用户,项目和列表)之间的三元关系。此外,它们没有考虑相同类型的实体之间的多跳关系。此外,捕获列表中已经存在的项目之间的顺序信息也在确定下一个被策展的相关项目方面起着至关重要的作用。在这项工作中,我们提出了HyperTeNet --一种基于自注意超图和Transformer的神经网络架构,用于个性化列表延续任务,以解决上述挑战。我们使用图卷积来学习相同类型的实体之间的多跳关系,并利用基于自注意力的超图神经网络通过3-均匀超图中的超链接预测来学习交互实体之间的三元关系。此外,实体嵌入与基于transformer的架构共享,并通过交替优化过程进行学习。因此,该网络还学习了策划下一个要添加到列表中的项目所需的顺序信息。实验结果表明,HyperTeNet显着优于其他国家的最先进的模型在现实世界的数据集。我们的实现和数据集可以在https://github.com/mvijaikumar/HyperTeNet上找到。
2021-10-07 cs.IR cs.LG
Personalized Embedding-based e-Commerce Recommendations at eBay
eBay Inc.(易趣公司)
推荐系统是电子商业市场的重要组成部分,帮助消费者浏览大量库存,找到他们需要或喜欢的东西。在本文中,我们提出了一种方法来生成个性化的项目推荐在电子商业市场通过学习嵌入项目和用户在同一向量空间。为了缓解大型市场中存在的相当大的冷启动问题,分别使用内容特征和多模态现场用户活动来计算项目和用户嵌入。数据消融被纳入离线模型训练过程,以提高生产系统的鲁棒性。在使用从eBay流量收集的数据集进行离线评估时,我们的方法能够改进Recall@k度量,而不是Recently-Viewed-Item(RVI)方法。这种方法来生成个性化的建议已推出,以服务于生产流量,相应的可扩展的工程架构也提出了。初步的A/B测试结果表明,与目前生产中的个性化推荐模块相比,该方法将表面率提高了$\sim$ 6\%,为90\%的列表页面印象生成推荐。
2021-02-11 cs.IR cs.LG
Joint Text Embedding for Personalized Content-based Recommendation
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Etsy Inc.(Etsy公司);Yahoo! Research(雅虎研究院);Facebook(脸书)
学习良好的文本表示是许多推荐应用程序的关键。示例包括新闻推荐,其中每天不断地发布要推荐的文本。然而,大多数现有的推荐技术,如基于矩阵分解的方法,主要依赖于交互历史来学习项目的表示。虽然可以从用户交互数据中有效地学习项目的潜在因素,但在许多情况下,这样的数据是不可用的,特别是对于新出现的项目。在这项工作中,我们的目标是解决这个问题的个性化推荐完全新的项目与文本信息。我们铸造的问题作为一个个性化的文本排名问题,并提出了一个通用的框架,结合文本嵌入与个性化推荐。用户和文本内容被嵌入到潜在的特征空间。文本嵌入功能可以通过预测用户与项目的交互来端到端学习。为了减轻交互数据的稀疏性,并利用大量的文本数据,很少或没有用户交互,我们进一步提出了一个联合文本嵌入模型,该模型将无监督文本嵌入与组合模块相结合。实验结果表明,我们的模型可以显着提高推荐系统的有效性在现实世界的数据集。
2017-06-23 cs.CL cs.IR cs.LG
PEAR: Personalized Re-ranking with Contextualized Transformer for Recommendation
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
推荐系统的目标是向用户提供最符合其兴趣的有序项目列表。作为推荐流程中的一项关键任务,重新排序近年来受到越来越多的关注。与单独对每个项目进行评分的传统排名模型相比,重新排名旨在明确地对项目之间的相互影响进行建模,以进一步细化给定初始排名列表的项目的排序。在本文中,我们提出了一个个性化的重新排序模型(称为PEAR)的基础上,上下文化的Transformer。PEAR对现有方法进行了几项重大改进。具体来说,PEAR不仅捕获功能级和项目级的交互,而且还从初始排名列表和历史点击项目列表中对项目上下文进行建模。除了项目级别的排名分数预测,我们还通过列表级别的分类任务来增强PEAR的训练,以评估用户对整个排名列表的满意度。在公共数据集和生产数据集上的实验结果表明,与以前的重新排序模型相比,PEAR具有更好的有效性。
2022-03-23 cs.IR cs.LG
Unified Embedding Based Personalized Retrieval in Etsy Search
Etsy Inc.(Etsy公司)
本文提出一种融合图、transformer和词项嵌入的端到端统一嵌入模型,用于解决Etsy产品搜索中的语义鸿沟和个性化检索问题,显著提升了搜索购买率和全站转化率。
2024-09-25 cs.AI cs.IR
A Personalized Recommender System Based-on Knowledge Graph Embeddings
Université de technologie de Compiègne(贡比涅技术大学);CNRS(法国国家科学研究中心);Vivocaz(Vivocaz公司)
针对推荐系统中用户与物品隐含关联捕捉的需求,提出一种应用于车辆购销领域的基于知识图谱嵌入的个性化推荐系统,实验验证其能提供符合用户个体特征的相关推荐。
2023-07-20 cs.AI cs.IR
Mamba for Scalable and Efficient Personalized Recommendations
Lirio AI Research(Lirio AI研究机构);Lirio, Inc.(Lirio公司)
提出FT-Mamba模型,用Mamba层替换FT-Transformer中的Transformer层处理表格数据,将计算复杂度降至线性,在三个数据集上实验证明其计算效率更优且推荐性能保持或提升。
2024-09-11 cs.IR cs.LG
Personalized Behavior-Aware Transformer for Multi-Behavior Sequential Recommendation
Zhejiang University(浙江大学)
本文针对多行为序列推荐提出个性化行为感知Transformer框架PBAT,通过个性化行为模式生成器和行为感知协作提取器融合行为与时间影响,在三个基准数据集上验证了其有效性和可解释性。
2024-02-22 cs.AI cs.IR
Convolutional Gaussian Embeddings for Personalized Recommendation with Uncertainty
Fudan University(复旦大学);Shanghai Institute of Intelligent Electronics & Systems(上海智能电子与系统研究院)
现有的基于嵌入的推荐模型大多使用嵌入(向量)对应于低维空间中的单个固定点,来表示用户和项目。这样的嵌入不能精确地表示推荐系统中经常观察到的具有不确定性的用户/项目。为了解决这个问题,我们提出了一个统一的深度推荐框架,采用高斯嵌入,这是证明适应一些用户表现出的不确定的偏好,从而更好的用户表示和推荐性能。此外,该框架采用Monte-Carlo抽样和卷积神经网络计算目标用户与候选项之间的相关性,并在此基础上实现精确推荐。我们在两个基准数据集上的大量实验不仅证明了我们提出的高斯嵌入很好地捕捉了用户的不确定性,而且还证明了其优于最先进的推荐模型的性能。
2020-06-19 cs.IR cs.LG stat.ML
Personalized Neural Embeddings for Collaborative Filtering with Text
Hong Kong University of Science and Technology(香港科技大学);Department of Computer Science and Engineering(计算机科学与工程系)
协同过滤是推荐系统的核心技术。传统的CF方法利用用户-项目关系(例如,点击、喜欢和观看),因此它们遭受数据稀疏性问题。项目通常与非结构化文本相关联,例如文章摘要和产品评论。我们开发了一个个性化神经嵌入(PNE)框架,以无缝地利用交互和单词。我们学习这样的嵌入用户,项目和单词联合,并预测用户的喜好项目的基础上,这些学习的表示。PNE通过行为因素和语义因素两个方面来估计用户喜欢某个项目的概率。在两个真实世界的数据集上,PNE在三个指标方面表现出比四个最先进的基线更好的性能。我们还表明,PNE学习有意义的词嵌入的可视化。
2019-03-19 cs.AI cs.CL cs.IR
PERSOMA: PERsonalized SOft ProMpt Adapter Architecture for Personalized Language Prompting
Google Research(谷歌研究院)
PERSOMA提出一种个性化软提示适配器架构,通过将用户交互历史重采样、压缩并转化为软提示嵌入,高效建模用户偏好,实验证明其在处理大规模复杂用户历史上优于现有嵌入和文本提示方法。
2024-08-02 cs.AI cs.CL cs.IR
Temporal Collaborative Ranking Via Personalized Transformer
University of California, Davis(加州大学戴维斯分校);University of California, Los Angles(加州大学洛杉矶分校)
协同排名问题一直是一个重要的开放式研究问题,因为大多数推荐问题可以自然地表示为排名问题。虽然大部分的协同排名方法假设静态的排名数据,时间信息,以提高排名性能的重要性越来越明显。深度学习的最新进展,特别是除了在自然语言处理中广泛使用的RNN和CNN之外,还发现了各种注意力机制和更新的架构,使我们能够更好地利用每个用户参与的项目的时间排序。特别是,SASRec模型受到自然语言处理中流行的Transformer模型的启发,在时间协作排名问题上取得了最先进的结果,并且与早期的CNN相比,速度提高了10倍以上/基于RNN的方法。然而,SASRec本质上是一个非个性化的模型,不包括个性化的用户嵌入。为了克服这一限制,我们提出了一个个性化的Transformer(SSE-PT)模型,在5个真实世界的数据集上,NDCG@10方面的性能比SASRec高出近5%。此外,在检查了一些随机用户的参与历史和相应的注意力热图在推理阶段使用,我们发现我们的模型不仅是更可解释的,而且能够集中在最近的参与模式为每个用户。此外,我们的SSE-PT模型稍加修改,我们称之为SSE-PT++,可以处理极长的序列,并在训练速度相当的情况下在排名结果方面优于SASRec,在性能和速度要求之间取得平衡。代码和数据在https://github.com/wuliwei9278/SSE-PT上开源。
2019-08-15 cs.IR cs.LG stat.ML
User Embedding Model for Personalized Language Prompting
Google Research(谷歌研究院)
本研究提出 User Embedding Module (UEM),将长用户历史压缩为嵌入作为语言模型的软提示,有效提升个性化推荐的预测性能并支持更长历史处理。
2024-01-10 cs.AI cs.CL cs.IR
Think-to-Personalize: Unifying Reasoning and Retrieval for User-Centric Personalized Dense Retrieval
University of Science and Technology of China(中国科学技术大学);Meituan(美团)
本文提出TTP框架,将用户意图推理与密集检索统一,经两阶段训练后在电商场景实验及在线测试中均取得优于基线的效果,提升了订单量。
2026-08-25 cs.IR
A Multi-tiered Solution for Personalized Baggage Item Recommendations using FastText and Association Rule Mining
本研究提出结合FastText词嵌入与关联规则挖掘的四层架构智能行李推荐系统,为航空旅客提供定制化打包建议,经多指标验证可提升满意度、优化行李利用,推动出行领域个性化推荐等技术发展。
2025-01-16 cs.IR
Pfeed: Generating near real-time personalized feeds using precomputed embedding similarities
Bol(博尔公司);Eindhoven University of Technology(埃因霍温理工大学);Last Mile Solutions(最后一英里解决方案公司);Radboud University Nijmegen(奈梅亨拉德堡德大学)
针对个性化推荐中用户嵌入兴趣多样性不足、实时更新成本高的问题,提出Pfeed方法,利用预计算嵌入相似度每两分钟动态更新用户画像并生成信息流,在Bol平台部署后实现4.9%的转化率提升。
2024-03-06 cs.AI cs.IR cs.LG
Hierarchical Attentive Knowledge Graph Embedding for Personalized Recommendation
Nanyang Technological University(南洋理工大学);Macquarie University(麦考瑞大学)
事实证明,知识图谱(KG)对于高质量推荐是有效的,其中用户和项目之间的连接性为用户与项目的交互提供了丰富且互补的信息。然而,大多数现有的方法,是不足以利用的KG捕捉用户的喜好,因为他们要么表示用户项目的连接性通过路径有限的表现力或隐式地通过传播信息在整个KG不可避免的噪声模型。在本文中,我们设计了一个新的分层注意知识图谱嵌入(HAKG)框架,利用知识图谱进行有效的推荐。具体来说,HAKG首先提取的表达子图,链接用户项目对,以表征其连接性,这既容纳语义和拓扑结构的KG。然后,通过分层关注子图编码对子图进行编码,以生成用于增强的用户偏好预测的有效子图嵌入。大量的实验表明,HAKG对国家的最先进的推荐方法的优越性,以及其在缓解数据稀疏性问题的潜力。
2021-09-15 cs.IR cs.LG
Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding
Simon Fraser University(西蒙弗雷泽大学)
前- $N$顺序推荐将每个用户建模为过去交互的项目序列,旨在预测用户可能在“不久的将来”交互的前- $N$排名项目。交互的顺序意味着序列模式在序列中最近的项目对下一个项目有更大的影响时起着重要的作用。在本文中,我们提出了一个卷积序列嵌入推荐模型(\emph{Caser})作为解决方案,以满足这一要求。其思想是将最近项目的序列嵌入到时间和潜在空间中的“图像”中,并使用卷积滤波器将序列模式作为图像的局部特征进行学习。这种方法提供了一个统一和灵活的网络结构,用于捕获一般偏好和顺序模式。在公共数据集上的实验表明,Caser在各种常见的评估指标上始终优于最先进的顺序推荐方法。
2018-09-19 cs.IR cs.LG
A Simple Deep Personalized Recommendation System
Vrbo, part of Expedia Group(Vrbo,亿客行集团旗下品牌)
推荐系统是在双边度假租赁市场中匹配列表和旅行者的关键工具。这样的系统需要高容量来从大规模的隐式信号中提取用户对项目的偏好。为了学习这些偏好,我们提出了一个简单的深度个性化推荐系统来计算旅行者的条件嵌入。我们的方法结合了监督结构中的列表嵌入,以构建短期历史背景,从而为旅行者提供个性化建议。部署在生产环境中,这种方法计算效率高,可扩展,并允许我们捕获非线性依赖关系。我们的离线评估表明,使用深度平均网络创建的旅行者嵌入可以将下游转化预测模型的精度提高7%,优于更复杂的在线购物体验个性化基准方法。
2019-08-06 cs.IR cs.LG
Personalized Multi-task Training for Recommender System
本文提出首个个性化多任务学习算法PMTRec,通过动态调整任务权重、Task Focusing和Gradient Magnitude Balancing模块解决多源信息融合挑战,在3个真实数据集上显著提升了推荐准确度。
2024-07-31 cs.IR
Do We Trust What They Say or What They Do? A Multimodal User Embedding Provides Personalized Explanations
University of Washington(华盛顿大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文提出贡献感知多模态用户嵌入框架CAMUE,通过自动权衡文本与图结构信息,为社交网络用户提供个性化可解释预测,并验证图结构信息对多数用户更可信。
2024-09-04 cs.IR cs.LG cs.SI
Rankformer: A Graph Transformer for Recommendation based on Ranking Objective
针对推荐系统模型架构常忽视个性化排序核心特性的问题,提出受排序目标梯度启发的图Transformer推荐模型Rankformer,搭配线性复杂度加速算法,实验证明其性能优于现有最优方法。
2025-03-21 cs.IR
A Geometric Approach to Personalized Recommendation with Set-Theoretic Constraints Using Box Embeddings
Manning College of Information \& Computer Sciences, UMass Amherst
提出用 Box Embeddings 以几何集合方式建模用户与属性,支持否定、交集等复杂约束,并在推荐查询上较向量神经方法最高提升30%。
2025-02-15 cs.AI cs.IR cs.LG
Centaur: A Chiplet-based, Hybrid Sparse-Dense Accelerator for Personalized Recommendations
KAIST(韩国科学技术院)
个性化推荐是支持几个重要应用领域(例如,广告、电子商务等)。稀疏嵌入层是设计建议的关键构建块,但很少注意适当加速这个重要的ML算法。本文首先提供了一个详细的个性化推荐的工作负载特征,并确定了两个显着的性能限制:内存密集型嵌入层和计算密集型多层感知器(MLP)层。然后,我们提出了Centaur,一个基于芯片的混合稀疏-密集加速器,它既解决了嵌入层的内存吞吐量挑战,又解决了MLP层的计算限制。我们实现并展示了我们的建议,英特尔HARPv 2,封装集成的CPU+FPGA设备,它显示了1.7- 17.2倍的性能加速和1.7- 19.5倍的能源效率比传统的方法改进。
2020-05-12 cs.DC cs.IR cs.LG
Learning Behaviorally Grounded Item Embeddings via Personalized Temporal Contexts
Federal University of São Carlos(巴西萨尔瓦多大学)
本文提出TAI2Vec模型,通过整合时间接近性提升推荐系统中物品嵌入的准确性,实验显示其在80%以上的数据集上优于静态基线。
2026-04-16 cs.IR cs.LG
Beyond Similarity: Personalized Federated Recommendation with Composite Aggregation
针对联邦推荐中的嵌入偏斜问题,本文提出FedCA模型,通过同时聚合相似客户端和互补客户端来更新已训练与未训练嵌入,并设计统一优化算法联合学习相似性与互补性,实验验证了其有效性。
2024-06-06 cs.CR cs.IR
SBTRec- A Transformer Framework for Personalized Tour Recommendation Problem with Sentiment Analysis
Singapore University of Technology and Design(新加坡科技设计大学)
针对旅游行程规划在时间可行性与用户偏好上的不足,提出基于BERT与情感分析的SBTRec算法,通过分析用户签到、照片及评论推荐个性化POI序列,在8个城市数据集上F1达61.45%,显著超越基线。
2023-11-18 cs.AI cs.IR cs.LG
Cold-start Recommendation by Personalized Embedding Region Elicitation
VinAI Research(VinAI研究院);The Chinese University of Hong Kong(香港中文大学);College of Engineering & Computer Science, VinUniversity(VinUniversity工程与计算机科学学院)
针对冷启动推荐中固定物品集限制性能的问题,提出两阶段个性化评分提取方案,利用区域估计表示用户嵌入并顺序选择自适应物品,显著提升了推荐效果。
2024-06-03 cs.IR cs.LG
Personalized Re-ranking for Recommendation
Alibaba Group(阿里巴巴集团);Rutgers University(罗格斯大学);Kwai Inc.(快手公司)
排序是推荐系统的核心任务,其目的是为用户提供一个有序的项目列表。通常,从标记的数据集学习排名函数以优化全局性能,这为每个单独的项目产生排名分数。然而,它可能是次优的,因为评分函数单独地应用于每个项目,并且没有明确地考虑项目之间的相互影响,以及用户的偏好或意图的差异。因此,我们提出了一个个性化的重新排序模型的推荐系统。建议的重新排名模型可以很容易地部署为后续模块后,任何排名算法,直接使用现有的排名特征向量。该算法采用一种Transformer结构对推荐列表中所有项目的信息进行有效编码,从而直接优化整个推荐列表。具体地说,Transformer应用了一种自我注意力机制,该机制直接对整个列表中任何一对项之间的全局关系进行建模。我们确认,通过引入预训练的嵌入来学习不同用户的个性化编码函数,可以进一步提高性能。离线基准测试和真实在线电子商务系统上的实验结果表明,所提出的重排序模型的显着改善。
2019-07-23 cs.AI cs.IR
UpDLRM: Accelerating Personalized Recommendation using Real-World PIM Architecture
Hong Kong Baptist University(香港浸会大学);Shenzhen University(深圳大学);Nankai University(南开大学);Meta
针对深度学习推荐模型嵌入层的内存带宽瓶颈,提出基于UPMEM DPU存内计算硬件的UpDLRM方案,通过嵌入表划分优化负载与缓存,显著降低推理延迟。
2024-10-09 cs.AI cs.IR
Personalized Product Search Ranking: A Multi-Task Learning Approach with Tabular and Non-Tabular Data
Walmart Global Tech(沃尔玛全球技术)
本文提出一种基于多任务学习的个性化产品搜索排序模型架构,整合表格与非表格数据并利用预训练TinyBERT,结合可扩展相关性标注机制,显著提升了模型性能。
2025-08-13 cs.AI cs.CL cs.IR
Knowledge-enhanced Session-based Recommendation with Temporal Transformer
最近的研究在基于会话的推荐方面取得了令人印象深刻的进展。然而,信息,如项目知识和点击时间间隔,这可能是潜在的利用,以提高性能,仍然在很大程度上未被利用。在本文中,我们提出了一个框架,称为知识增强的基于会话的建议与时间Transformer(KSTT),将这些信息时,学习项目和会话嵌入。具体地说,知识图谱,它模型的上下文之间的项目在一个会话及其相应的属性,提出了通过图表示学习获得项目嵌入。我们引入时间间隔嵌入来表示需要预测的项目和历史点击之间的时间模式,并使用它来代替原始Transformer(称为时间Transformer)中的位置嵌入。会话中的项目嵌入通过时态Transformer网络进行传递,以获得会话嵌入,并在此基础上进行最终推荐。大量的实验表明,我们的模型在四个基准数据集上的性能优于最先进的基线。
2021-12-16 cs.IR cs.SI
MPFormer: Adaptive Framework for Industrial Multi-Task Personalized Sequential Retriever
Kuaishou Technology(快手科技);Unaffiliated(无隶属)
本文提出MPFormer框架,通过三项创新机制解决多阶段优化不一致问题,提升推荐系统用户参与度和系统效率。
2025-08-28 cs.AI cs.IR
DenseRec: Revisiting Dense Content Embeddings for Sequential Transformer-based Recommendation
Albatross AI
针对基于Transformer的序列推荐模型的物品冷启动问题,提出DenseRec双路径嵌入方法,通过训练时学习密集嵌入到ID嵌入的线性投影,无缝泛化到未见过物品,在三个数据集上持续优于仅用ID的基线,为冷启动序列推荐提供实用方案。
2025-08-25 cs.IR cs.LG
Tensor Casting: Co-Designing Algorithm-Architecture for Personalized Recommendation Training
KAIST(韩国科学技术院)
个性化推荐是云计算中心提供服务的最广泛部署的机器学习(ML)工作负载之一。因此,高性能推荐推理的架构解决方案最近已经成为几个先前文献的目标。不幸的是,关于这种新兴ML工作负载的培训方面,人们几乎没有探索和理解。在本文中,我们首先对训练建议进行了详细的工作负载表征研究,导致稀疏嵌入层训练成为最重要的性能瓶颈之一。然后,我们提出了我们的算法架构协同设计,称为张量铸造,这使得开发一个通用的加速器架构的张量散射,包括所有的关键原语的训练嵌入层。当在真实的CPU-GPU系统上进行原型设计时,与最先进的方法相比,Tensor Casting在训练吞吐量方面提供了1.9- 21倍的改进。
2020-10-25 cs.AR cs.DC cs.IR
ELIXIR: Efficient and LIghtweight model for eXplaIning Recommendations
Sorbonne University, CNRS, ISIR(索邦大学、国家科学研究中心、信息科学研究所)
针对推荐系统可解释性不足及现有文本解释生成方法的缺陷,提出结合评分预测与个性化评论生成的多任务轻量模型ELIXIR,在小模型规模下实现了更优的个性化解释效果。
2025-09-05 cs.CL cs.IR cs.LG
Style4Rec: Enhancing Transformer-based E-commerce Recommendation Systems with Style and Shopping Cart Information
National Taiwan University(台湾大学)
针对现有基于Transformer的电商序列推荐未有效利用商品风格与购物车数据的问题,提出Style4Rec系统,利用两类信息优化推荐,在合作企业数据集上多项指标显著优于基准,推动了个性化电商推荐发展。
2025-01-16 cs.AI cs.IR
Enhancing Social Media Personalization: Dynamic User Profile Embeddings and Multimodal Contextual Analysis Using Transformer Models
Indian Institute of Management, Indore(印度管理学院印多尔分校)
本研究针对社交媒体个性化需求,提出基于Transformer的动态用户画像嵌入方法,在超2000万数据点的数据集上验证其能更精准追踪用户偏好、提升推荐效果与用户参与度,为社交平台优化体验提供支撑。
2024-07-09 cs.AI cs.IR cs.SI
KARMA: Knowledge-Action Regularized Multimodal Alignment for Personalized Search at Taobao
Taobao \& Tmall Group of Alibaba Hangzhou China;Taobao \& Tmall Group of Alibaba
KARMA通过知识-行动正则化多模态对齐框架,解决个性化搜索中知识与行动冲突问题,提升语义可解性与行动指标,实现GMV增长。
2026-03-31 cs.AI cs.IR cs.LG
Personalized Query Auto-Completion Through a Lightweight Representation of the User Context
eBay Inc.(eBay公司)
查询自动完成(QAC)是在许多领域(包括Web和电子商务搜索)中广泛使用的功能,基于用户键入的前缀建议完整查询。近年来,QAC在文献中得到了广泛的研究,并且一直表明,添加个性化特征可以显着提高QAC的性能。在这项工作中,我们提出了一种新的个性化QAC的方法,使用轻量级的嵌入通过fastText学习。我们构造一个嵌入的用户上下文查询,这是最后几个查询由用户发出。我们还使用相同的模型来获得要排名的候选查询的嵌入。我们引入排名功能,计算候选查询和上下文查询之间的距离在嵌入空间。然后将这些特征与其他常用的QAC排名特征相结合,以学习排名模型。我们将我们的方法应用于大型电子商务搜索引擎(eBay),并表明具有我们提出的功能的排名器在所有测量的离线指标上都显着优于基线,这些指标包括平均倒数排名(MRR),成功率(SR),平均平均精度(MAP)和归一化折扣累积增益(NDCG)。我们的基线包括最受欢迎的完成(MPC)模型以及没有我们提出的功能的排名模型。具有所提出的特征的排名模型在所有度量上都比MPC模型有$20-30\%$改进。对于所有会话,我们获得了比基线排名模型高的$5\%$改进,当我们限制包含用户上下文的会话时,其提高到大约$10\%$。此外,我们提出的功能也显着优于基于文本的个性化功能在文献中研究之前,并添加基于文本的功能,我们提出的基于嵌入的功能的结果只有轻微的改进。
2019-05-03 cs.AI cs.CL cs.IR
PinnerSage: Multi-Modal User Embedding Framework for Recommendations at Pinterest
Pinterest Inc.(Pinterest公司)
潜在用户表示在技术行业中被广泛采用,用于为个性化推荐系统提供动力。大多数先前的工作推断出一个单一的高维嵌入来表示用户,这是一个很好的起点,但在提供用户的兴趣的充分理解不足。在这项工作中,我们介绍PinnerSage,一个端到端的推荐系统,通过多模态嵌入代表每个用户,并利用这种丰富的用户表示提供高质量的个性化推荐。PinnerSage通过层次聚类方法(Ward)将用户的行为聚类为概念上连贯的聚类来实现这一点,并通过代表性引脚(Medoids)总结聚类以提高效率和可解释性。PinnerSage已部署在Pinterest的生产中,我们概述了使其在非常大的规模上无缝运行的几个设计决策。我们进行了几个离线和在线A/B实验,以表明我们的方法显着优于单一的嵌入方法。
2020-07-07 cs.IR cs.LG cs.SI