MAMDR: A Model Agnostic Learning Method for Multi-Domain Recommendation
现实世界中的大型电子商务平台通常包含各种推荐场景(域),以满足不同客户群的需求。多领域推荐(MDR)是一种能够在所有领域上联合改进推荐的方法,能够很容易地扩展到数千个领域,受到了越来越多的研究者和实践者的关注。现有的MDR方法通常采用一个共享的结构和几个特定的组件,分别利用可重用的功能和领域特定的信息。然而,不同领域的数据分布不同,这使得开发一个可以应用于所有情况的通用模型变得具有挑战性。此外,在训练过程中,共享参数经常遭受域冲突,而特定参数则倾向于在数据稀疏域上过拟合。我们首先介绍了一个可扩展的MDR平台,该平台在淘宝上提供服务,能够为数千个域名提供服务,而无需专家参与。为了解决MDR方法的问题,我们提出了一种新的模型不可知的学习框架,即MAMDR,多领域推荐。具体来说,我们首先提出了一个域协商(DN)策略,以减轻域之间的冲突。然后,我们开发了一个域正则化(DR),通过从其他域学习来提高特定参数的泛化能力。我们将这些组件集成到一个统一的框架中,并提出了MAMDR,它可以应用于任何模型结构来执行多域推荐。最后,我们在淘宝应用程序中实现了MAMDR,并构建了各种公共MDR基准数据集,可用于后续研究。在基准数据集和行业数据集上的大量实验证明了MAMDR的有效性和通用性。
2023-03-07 cs.IR
SWGCN: Synergy Weighted Graph Convolutional Network for Multi-Behavior Recommendation
Chongqing University(重庆大学)
SWGCN通过引入目标偏好加权器和协同对齐任务,提升多行为推荐的性能,实现命中率和NDCG的显著提升。
2026-01-31 cs.IR
A Generative Re-ranking Model for List-level Multi-objective Optimization at Taobao
本文提出端到端生成式重排模型 SORT-Gen,通过有序回归估计子列表多目标值,并结合掩码驱动快速生成算法,在淘宝百亿补贴实现 CLCK 提升4.13%、GMV提升8.10%。
2025-05-12 cs.IR
FORGE: Forming Semantic Identifiers for Generative Retrieval in Industrial Datasets
Zhejiang University(浙江大学);Taobao & Tmall Group of Alibaba(阿里巴巴淘宝天猫集团)
提出FORGE基准,通过多视角分类和离线实验研究语义标识符构建策略,并设计无需完整GR训练的新评估指标,在淘宝线上A/B测试中实现交易量提升0.35%。
2026-05-27 cs.IR
Modeling Behavioral Intensity and Transitions for Generative Recommendation
Ant Group(蚂蚁集团);Fudan University(复旦大学)
本文提出BITRec框架,通过选择性依赖激活和转换关系编码,解决多行为推荐中行为强度差异和转换模式捕捉问题,实验表明在多个数据集上提升15-23%。
2026-04-27 cs.AI cs.IR cs.LG
Explore User Neighborhood for Real-time E-commerce Recommendation
Center for Data Science, Peking University(北京大学数据科学中心);Alibaba Group(阿里巴巴集团)
推荐系统在现代在线服务中发挥着至关重要的作用,例如亚马逊和淘宝。传统的个性化方法主要关注用户-项目(UI)关系,由于其高效性和有效性,在工业环境中得到了广泛的应用。尽管他们的成功,我们认为,这些方法忽略了本地信息隐藏在类似的用户。为了解决这个问题,基于用户的方法利用相似的用户关系,在本地的角度进行推荐。然而,传统的基于用户的方法,如userKNN和矩阵分解,是难以部署在实时的应用,因为这样的转导模型必须重新计算或重新训练与任何新的交互。为了克服这一挑战,我们提出了一个框架称为自互补协同过滤~(SCCF),它可以作出建议与全球和本地的信息在实时的。一方面,它利用UI关系和用户邻域来捕获全局和局部信息。另一方面,它可以识别相似的用户为每个用户在实时的通过推断用户表示的飞行与归纳模型。该框架可以无缝地集成到现有的归纳UI方法中,并受益于用户邻域,只需很少的额外计算。这也是在实时的设置中应用基于用户的方法的第一次尝试。通过在4个公开数据集上的大量离线实验以及在淘宝网上的大规模在线A/B测试,验证了SCCF的有效性和效率。
2021-02-28 cs.AI cs.IR
Exploring Periodicity and Interactivity in Multi-Interest Framework for Sequential Recommendation
顺序推荐系统缓解了信息过载的问题,引起了越来越多的关注。现有的大多数作品通常是基于用户的行为序列来获得整体表征,不能充分反映用户的多种兴趣。为此,我们提出了一种名为PIMI的新方法来缓解这个问题。PIMI模型能够同时考虑项目序列的周期性和交互性,有效地描述用户的多兴趣表示。具体来说,我们设计了一个感知用户行为的模块,利用用户行为之间的时间间隔信息。同时,提出了一种巧妙的图来增强用户行为序列中项目之间的交互性,该图可以捕获全局和局部项目特征。最后,一个多兴趣提取模块被应用到描述用户的多种兴趣的基础上获得的项目表示。在Amazon和Taobao两个真实数据集上的大量实验表明,PIMI的性能始终优于最先进的方法。
2021-06-07 cs.IR
ZOOMER: Boosting Retrieval on Web-scale Graphs by Regions of Interest
Peking University(北京大学);Alibaba Group(阿里巴巴集团)
我们介绍ZOOMER,这是一个部署在中国最大的电子商务平台淘宝上的系统,用于在网络规模的图上训练和提供基于GNN的推荐。ZOOMER旨在解决淘宝海量用户数据带来的两个挑战:由于图的规模巨大而导致的低训练/服务效率,以及由于信息过载而导致的低推荐质量,这分散了推荐模型对特定用户意图的注意力。ZOOMER通过在GNN中引入一个关键概念,即用于推荐的感兴趣区域(ROI)来实现这一点,即,图中与强用户意图显著相关的邻域区域。ZOOMER缩小了整个图的焦点,并“放大”了更相关的ROI,从而降低了培训/服务成本,同时减轻了信息过载。通过精心设计的机制,ZOOMER识别每个推荐请求所表达的兴趣,通过对兴趣进行采样来构建ROI子图,并通过多层次注意力模块引导GNN对ROI的不同部分进行重新加权。作为一个大规模的分布式系统部署,ZOOMER支持具有数十亿个节点的图形进行训练,每秒可处理数千个请求。ZOOMER在缩小采样规模时实现了高达14倍的加速,与基线方法相比具有相当(甚至更好)的AUC性能。此外,离线评估和在线A/B测试都证明了ZOOMER的有效性。
2022-03-20 cs.AI cs.IR cs.LG
XDM: Improving Sequential Deep Matching with Unclicked User Behaviors for Recommender System
基于深度学习的顺序推荐系统近年来引起了学术界和工业界越来越多的关注。大多数工业化的基于嵌入的检索(EBR)系统的推荐共享与顺序查询相似的思想。其中,如何全面捕捉序列用户兴趣是一个根本性的问题。然而,大多数现有的顺序推荐模型作为输入点击或购买的行为序列,从用户项目的交互。这导致不全面的用户表示和次优的模型性能,因为它们忽略了完整的用户行为暴露数据,即,用户印象深刻但未点击的项目。在这项工作中,我们试图采用一种新的学习方法,以探索更好的顺序推荐技术,将这些未点击的项目序列和模型。提出了一种有效的三元组度量学习算法来适当地学习未点击项目的表示。我们的方法可以简单地集成与现有的顺序推荐模型的置信度融合网络,并进一步获得更好的用户表示。基于真实电子商务数据的离线实验结果验证了该方法的有效性,并验证了未点击项目在顺序推荐中的重要性。此外,我们部署我们的新模型(命名为XDM)在淘宝推荐系统的EBR,性能优于部署的前一代SDM。
2022-03-31 cs.IR
Adaptive Domain Interest Network for Multi-domain Recommendation
工业推荐系统通常保存来自多个业务场景的数据,并期望同时为这些场景提供推荐服务。在检索步骤中,从大量语料库中选择的topK高质量项目通常需要针对多个场景而变化。以阿里巴巴展示广告系统为例,不仅是因为淘宝用户的行为模式多样,差异化场景的广告主分配的竞价也差异显著。传统的方法要么为每个场景分别训练模型,忽略用户组和项目的跨域重叠,要么简单地混合所有样本并维护一个共享模型,这使得难以捕获场景之间的显著差异。在本文中,我们提出了自适应领域兴趣网络,自适应地处理跨场景的共性和差异,在训练过程中充分利用多场景数据。然后,所提出的方法是能够提高每个业务领域的性能,在不同的情况下,在在线推理过程中给出各种topK候选。具体来说,我们提出的ADI模型的共性和不同领域的共享网络和特定领域的网络,分别。此外,我们应用特定领域的批量归一化和设计领域兴趣适应层的特征级领域自适应。ADI还引入了自训练策略,以捕获跨域的标签级连接。ADI已被部署在阿里巴巴的展示广告系统中,并获得了1.8%的广告收入提升。
2022-06-20 cs.IR
ATBRG: Adaptive Target-Behavior Relational Graph Network for Effective Recommendation
推荐系统(RS)致力于预测用户对给定项目的偏好,并已被广泛部署在大多数网络规模的应用。近年来,知识图谱以其丰富的关联信息在遥感领域引起了广泛的关注。现有的方法要么在KG上探索用户-项目对的独立元路径,要么在整个KG上采用图神经网络(GNN)分别产生用户和项目的表示。尽管有效,前一类方法未能充分捕捉隐含在KG中的结构信息,而后者忽略了嵌入传播过程中目标用户和项目之间的相互影响。在这项工作中,我们提出了一个新的框架命名为自适应目标行为关系图网络(简称ATBRG),以有效地捕捉结构关系的目标用户项目对KG。具体来说,为了将给定的目标项与KG上的用户行为相关联,我们提出了图连接和图修剪技术来构建自适应的目标行为关系图。为了从由丰富的关系以端到端的方式连接的子图中充分提取结构信息,我们详细介绍了ATBRG的模型设计,配备了关系感知提取器层和表示激活层。我们在工业和基准数据集上进行了广泛的实验。实证结果表明,ATBRG一贯和显着优于国家的最先进的方法。此外,在淘宝APP的一个热门推荐场景中成功部署后,ATBRG在CTR指标上也实现了5.1%的性能提升。
2020-05-27 cs.IR
CTR is not Enough: a Novel Reinforcement Learning based Ranking Approach for Optimizing Session Clicks
针对传统CTR排序方法忽略用户离开、不适配会话点击优化的问题,提出CTE长期优化目标及强化学习排序模型,经离线和淘宝线上实验验证可有效提升性能。
2023-08-27 cs.IR
MoE-MLoRA for Multi-Domain CTR Prediction: Efficient Adaptation with Expert Specialization
Department of Software and Information Systems Engineering, Ben-Gurion University of the Negev(软件与信息系统工程系,本·古里安大学)
提出 MoE-MLoRA 混合专家框架,通过独立域专家训练与动态门控加权提升多域 CTR 预测,在八个模型和两个数据集上验证其优势及调参必要性。
2025-06-11 cs.AI cs.IR
M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems
Alibaba Group(阿里巴巴集团);Hong Kong Polytechnic University(香港理工大学)
将图表示学习与多视图数据(边信息)相结合进行推荐是业界的一种趋势。大多数现有的方法可以归类为\emph{multi-view representation fusion} ;它们首先构建一个图,然后将多视图数据集成到图中每个节点的单个紧凑表示中。然而,这些方法在工程和算法方面都引起了人们的关注:1)多视图数据在工业中是丰富和信息丰富的,并且可能超过单个向量的容量,以及2)由于多视图数据通常来自不同的分布,因此可能引入归纳偏差。在本文中,我们使用\emph{multi-view representation alignment}的方法来解决这个问题。特别是,我们提出了一个多任务多视图图表示学习框架(M2 GRL)学习网络规模推荐系统的节点表示从多视图图。M2 GRL为每个单视图数据构建一个图,从多个图中学习多个单独的表示,并执行对齐以建模跨视图关系。M2 GRL选择多任务学习范式来联合学习视图内表示和跨视图关系。此外,M2 GRL应用同方差不确定性自适应调整训练过程中任务的损失权重。我们在淘宝部署了M2 GRL,并在570亿个示例上对其进行训练。根据离线指标和在线A/B测试,M2 GRL明显优于其他最先进的算法。在淘宝网上对多样性推荐的进一步探索表明了利用\method{}产生的多个表示的有效性,我们认为这是一个有前途的方向,为各种不同关注点的行业推荐任务。
2020-07-13 cs.IR cs.LG
SPARC: Sequence-aware Progressive Attribute Routing and Compression Framework for Generative Recommendation
Alibaba Group(阿里巴巴集团)
研究针对生成式推荐中现有离散语义ID问题,提出SPARC框架,通过建模序列依赖、路由多表示到插槽及轻量级交互,在不增输入长度下丰富用户历史表示,实验证明其性能优于基线,改进源于上下文条件信息保留。
2026-07-29 cs.IR
Beyond the Trigger: Learning Collaborative Context for Generalizable Trigger-Induced Recommendation
Alibaba Group(阿里巴巴集团)
本文提出CCN框架,通过学习用户特定偏好提升触发诱导推荐的泛化能力,在淘宝新场景中实现CTR和订单量提升。
2026-04-15 cs.IR
Multi-channel Integrated Recommendation with Exposure Constraints
针对带曝光约束的多渠道整合推荐任务,提出两层框架MIREC,通过在线分配算法与协同模型实现全局最优曝光分配与异构物品布局,并已在淘宝首页部署验证有效。
2023-05-21 cs.IR
Controllable Multi-Interest Framework for Recommendation
Tsinghua University(清华大学);DAMO Academy, Alibaba Group(阿里巴巴达摩院)
近年来,由于深度学习的快速发展,神经网络在电子商务推荐系统中得到了广泛的应用。我们正式的推荐系统作为一个顺序推荐问题,打算预测下一个项目,用户可能会与。最近的作品通常从用户的行为序列给出一个整体的嵌入。然而,统一的用户嵌入不能反映用户在一段时间内的多种兴趣。在本文中,我们提出了一种新的可控多兴趣框架的顺序推荐,称为ComiRec。我们的多兴趣模块捕获多个用户行为序列的兴趣,可以利用检索候选项目从大规模的项目池。这些项目然后被馈送到聚合模块以获得总体推荐。聚合模块利用可控因素来平衡推荐准确性和多样性。我们在两个真实世界的数据集上进行了实验,亚马逊和淘宝。实验结果表明,我们的框架实现了显着的改进,国家的最先进的模型。我们的框架也已成功部署在阿里巴巴分布式云平台上。
2020-08-03 cs.IR cs.LG stat.ML
Sequential Scenario-Specific Meta Learner for Online Recommendation
Tsinghua University(清华大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
冷启动问题是实际建议的长期挑战。大多数现有的推荐算法依赖于大量的观察数据,并且对于交互很少的推荐场景是脆弱的。本文使用少样本学习和Meta学习来解决这些问题。我们的方法是基于这样的见解,即从几个例子中获得良好的泛化依赖于通用模型初始化和使该模型适应新出现的任务的有效策略。为了实现这一点,我们将特定场景的学习与模型不可知的顺序元学习相结合,并将它们统一到一个集成的端到端框架中,即特定场景的顺序Meta学习器(或s^2 meta)。通过这样做,我们的元学习器通过聚合来自各种预测任务的上下文信息来生成通用的初始模型,同时通过利用学习知识来有效地适应特定的任务。在各种真实数据集上的大量实验表明,我们提出的模型可以在在线推荐的冷启动问题上取得显着的收益。部署在猜你喜欢的会议,手机淘宝的首页。
2019-06-02 cs.IR cs.LG stat.ML
RankGR: Rank-Enhanced Generative Retrieval with Listwise Direct Preference Optimization in Recommendation
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
RankGR通过列表级直接偏好优化提升生成检索的推荐效果,实现更精确的用户偏好建模和高效候选评估。
2026-02-09 cs.IR
GIMIRec: Global Interaction Information Aware Multi-Interest Framework for Sequential Recommendation
Nanjing University of Posts and Telecommunications(南京邮电大学)
基于多兴趣框架的顺序推荐将用户最近的交互序列建模为多个不同的兴趣向量,因为单个低维向量不能完全表示用户兴趣的多样性。然而,现有的模型大多只截取用户最近的交互行为作为训练数据,丢弃了大量的历史交互序列。这可能引起两个问题。一方面,反映用户多种兴趣的数据缺失;另一方面,历史用户-项目交互中项目之间的共现没有得到充分探索。针对这两个问题,本文提出了一种新的顺序推荐模型,称为“全局交互感知多兴趣顺序推荐框架(GIMIRec)”。具体而言,在不引入任何外部信息的情况下,首先提出了全局上下文提取模块,该模块从所有用户的历史交互序列中,根据每个项目对的约束同现数及其时间间隔计算加权同现矩阵,然后利用简化的图卷积得到每个项目的全局上下文嵌入.其次,捕获每个用户最近交互序列中每个项目对的时间间隔,并与全局上下文项目嵌入相结合,得到个性化项目嵌入。最后,一个基于自我注意力的多兴趣框架被应用到学习用户的不同兴趣的顺序推荐。在Amazon-Books、Taobao-Buy和Amazon-Hybrid三个真实世界数据集上的大量实验表明,GIMIRec在召回率、NDCG和点击率指标上的性能明显优于现有方法。此外,所提出的全局上下文提取模块可以很容易地移植到大多数顺序推荐模型。
2021-12-16 cs.AI cs.IR
Multi-factor Sequential Re-ranking with Perception-Aware Diversification
提出MPAD框架,通过图聚类提取多尺度兴趣并设计两个子模型评估准确性与多样性,以序列方式联合优化信息流推荐,已应用于淘宝首页主流量。
2023-05-21 cs.IR
PI2I: A Personalized Item-Based Collaborative Filtering Retrieval Framework
Alibaba Group(阿里巴巴集团);Zhejiang University(浙江大学)
PI2I通过两阶段检索框架提升个性化推荐效果,优于传统CF方法并接近双塔模型,部署后提升淘宝交易率1.05%。
2026-01-23 cs.IR
TBGRecall: A Generative Retrieval Model for E-commerce Recommendation Scenarios
Shanghai Jiaotong University(上海交通大学);Alibaba Inc.(阿里巴巴公司)
TBGRecall通过整合下一会话预测,提升电商推荐系统的生成检索能力,有效解决传统模型在多会话生成中的局限性。
2025-11-23 cs.AI cs.IR
MetaCVR: Conversion Rate Prediction via Meta Learning in Small-Scale Recommendation Scenarios
Alibaba Group(阿里巴巴集团);The University of Sydney(悉尼大学)
与淘宝、亚马逊等大规模平台不同,小规模推荐场景下的CVR建模由于数据分布波动(DDF)问题严重而更具挑战性。DDF阻碍了现有CVR模型的有效性,因为1)在小场景中需要几个月的数据来充分训练CVR模型,导致训练和在线服务之间的相当大的分布差异;以及2)电子商务促销对小场景有显著影响,导致即将到来的时间段的分布不确定性。在这项工作中,我们提出了一种新的CVR方法命名为MetaCVR从元学习的角度来解决DDF问题。首先,设计了一个由特征表示网络(FRN)和输出层组成的基础CVR模型,并使用跨月的样本进行了充分的训练。然后,我们将具有不同数据分布的时间段视为不同的场合,并使用相应的样本和预训练的FRN获得每个场合的正原型和负原型。随后,距离度量网络(DMN)的设计,以计算每个样本和所有原型之间的距离度量,以便于减轻分布的不确定性。最后,我们开发了一个包围预测网络(EPN),它结合了FRN和DMN的输出,以做出最终的CVR预测。在这个阶段,我们冻结FRN,并使用最近时间段的样本训练DMN和EPN,从而有效地缓解分布差异。据我们所知,这是第一个针对小规模推荐场景中DDF问题的CVR预测研究。在真实数据集上的实验结果验证了我们的MetaCVR的优越性,在线A/B测试也表明我们的模型在PCVR和GMV上分别获得了11.92%和8.64%的显著增益。
2022-04-28 cs.IR cs.LG
Approximate Nearest Neighbor Search under Neural Similarity Metric for Large-Scale Recommendation
Alibaba group(阿里巴巴集团)
基于模型的推荐系统已经被广泛研究了很多年。现代推荐系统通常采用表示学习模型和基于嵌入的近似最近邻(Approximate Nearest Neighbor,ANN)搜索来解决大规模语料库带来的效率问题。在提供高效检索的同时,基于嵌入的检索模式也限制了模型容量,因为用户项偏好度量的形式受限于它们的嵌入表示之间的距离。然而,对于其他更精确的用户项目偏好度量,例如,直接从深度神经网络导出的偏好分数,由于缺乏有效的检索方法,它们在计算上是难以处理的,并且对所有用户-项目对的穷举搜索是不切实际的。在本文中,我们提出了一种新的方法来扩展人工神经网络搜索任意匹配功能,例如,深度神经网络。我们的主要思想是执行一个贪婪的步行与匹配功能的相似性图构造的所有项目。为了解决图构造和用户-项目匹配函数的相似性度量异构的问题,提出了一种可插入的对抗训练任务,以确保具有任意匹配函数的图搜索能够达到相当高的精度。在开源和工业数据集上的实验结果证明了该方法的有效性。该方法已在淘宝展示广告平台中全面部署,并带来了可观的广告收入增长。我们还总结了我们的部署在本文中的详细经验。
2022-02-28 cs.IR cs.LG
SAR-Net: A Scenario-Aware Ranking Network for Personalized Fair Recommendation in Hundreds of Travel Scenarios
Alibaba Group(阿里巴巴集团);The University of Sydney(悉尼大学)
阿里巴巴的旅游营销平台为Fliggy、淘宝、支付宝等数百个不同的旅游场景提供了不可或缺的作用。要为访问不同场景的用户提供个性化推荐服务,有两个关键问题需要仔细解决。首先,由于不同场景的交通特点,训练一个统一的模型来服务所有人是非常具有挑战性的。其次,在推广期间,由于人工干预,一些特定项目的曝光量会重新加权,从而产生有偏差的日志,这会使使用这些有偏差的数据训练的排名模型降级。在本文中,我们提出了一种新的场景感知排名网络(SAR-Net)来解决这些问题。SAR-Net通过两个特定的注意力模块学习用户的跨场景兴趣,从不同的场景中获取丰富的数据,分别利用场景特征和项目特征来调节用户的行为特征。然后,以前一模块的编码特征为输入,采用一个特定于机器人的线性变换层进一步提取特定于机器人的特征,接着是两组去偏专家网络,即,粮农组织特有专家和粮农组织共有专家。它们独立地输出中间结果,这些中间结果通过多场景门控模块进一步融合到最终结果中。此外,为了减轻人工干预造成的数据公平性问题,我们提出了公平系数(FC)的概念来衡量个体样本的重要性,并使用它来重新权衡去偏专家网络中的预测。在覆盖超过8000万用户和155万旅游项目的离线数据集上的实验和在线A/B测试证明了我们的SAR-Net的有效性及其优于最先进的方法。
2021-10-19 cs.AI cs.IR cs.LG
Beyond Existing Retrievals: Cross-Scenario Incremental Sample Learning Framework
Taobao \& Tmall Group of Alibaba Hangzhou China;Taobao \& Tmall Group of Alibaba Beijing China;Taobao \& Tmall Group of Alibaba
本文提出IncRec框架,通过构建极端跨场景增量样本和一致性感知对齐模块,提升跨场景推荐系统的检索性能。
2025-12-06 cs.IR
RecGPT Technical Report
Taobao(淘宝)
针对传统推荐系统依赖日志拟合导致的过拟合、信息茧房等问题,提出以用户意图为核心的RecGPT框架,集成LLM并采用多阶段训练范式,已在淘宝部署且实现全利益相关方性能提升。
2025-07-31 cs.CL cs.IR
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
Alibaba Group(阿里巴巴集团);University of Science and Technology Beijing(北京科技大学)
针对现有方法依赖ID嵌入难以捕捉用户真实内容兴趣的问题,提出多模态内容兴趣建模范式MIM,通过预训练、C-SFT和CiUBM三阶段整合多模态与协同过滤信号,在淘宝上线后CTR提升14.14%,RPM提升4.12%。
2025-02-23 cs.AI cs.IR