Contextual User Browsing Bandits for Large-Scale Online Mobile Recommendation
Nanyang Technological University（南洋理工大学）；Alibaba Group（阿里巴巴集团）
在线推荐服务向用户推荐多种商品。如今，相当比例的用户通过移动设备访问电子商务平台。由于移动设备的屏幕尺寸有限，商品的位置对点击有很大的影响：1）位置越高，一个商品的点击就越多。2)“伪曝光”问题：第一眼只显示了几个推荐项目，用户需要滑动屏幕才能浏览其他项目。因此，一些排名靠后的推荐项目不会被用户查看，将这类项目视为负样本是不恰当的。虽然许多工作模型的在线推荐作为上下文强盗问题，他们很少考虑到的影响的立场，因此，估计的奖励函数可能会有偏差。在本文中，我们旨在解决这两个问题，以提高性能的在线移动推荐。我们的贡献是四方面的。首先，由于我们关注的是一组推荐项目的奖励，我们将在线推荐建模为上下文组合强盗问题，并定义了推荐集的奖励。其次，我们提出了一种新的上下文组合强盗方法称为UBM-LinUCB解决两个问题，通过采用用户浏览模型（UBM），点击网络搜索模型的位置。第三，我们提供了一个正式的遗憾分析，并证明我们的算法实现次线性遗憾的项目数无关。最后，我们评估我们的算法在两个真实世界的数据集由一个新的无偏估计。淘宝网是世界上最受欢迎的电子商务平台之一。两个CTR指标上的实验结果表明，该算法优于其他上下文强盗算法。
2020-08-21 cs.IR cs.LG
Entire Space Multi-Task Modeling via Post-Click Behavior Decomposition for Conversion Rate Prediction
Alibaba Group（阿里巴巴集团）；The University of Sydney（悉尼大学）
推荐系统作为现代电子商务的重要组成部分，由点击率（CTR）和转化率（CVR）预测两个基本模块组成。虽然CVR对购买量有直接影响，但由于样本选择偏差（SSB）和数据稀疏性（DS）问题，其预测是众所周知的挑战。虽然现有的方法，通常建立在用户顺序行为路径"印象$\to$点击$\to$购买“，是有效的处理SSB问题，他们仍然难以解决DS问题，由于罕见的购买训练样本。观察到用户总是采取几个购买相关的行动后，点击，我们提出了一个新的想法后点击行为分解。具体地，在点击和购买之间并行地插入不相交的购买相关确定性动作（DAction）和其他动作（OAction），形成新颖的用户顺序行为图"印象$\to$点击$\to$ D（O）动作$\to$购买“。在此图上定义模型能够利用整个空间上的所有印象样本和来自D（O）Action的额外丰富的监督信号，这将有效地解决SSB和DS问题。为此，我们设计了一个新的深度推荐模型命名为精心设计的整个空间监督多任务模型（$ESM^{2}$）。根据图上定义的条件概率规则，采用多任务学习并行预测分解的子目标，并将其依次组合，形成最终的CVR。在离线和在线环境下进行的大量实验表明，$ESM^{2}$优于最先进的模型。将发布源代码和数据集。
2020-06-10 cs.IR cs.LG stat.ML
Delayed Feedback Modeling for Post-Click Gross Merchandise Volume Prediction: Benchmark, Insights and Approaches
School of Informatics, Xiamen University Xiamen China；Taobao \& Tmall Group of Alibaba Beijing China；School of Informatics, Xiamen University；Taobao \& Tmall Group of Alibaba
本文提出READER模型，通过在线流式训练和动态校准回归目标，提升GMV预测性能，揭示复购样本与单次购买样本标签分布差异，推动延迟反馈建模研究。
2026-01-28 cs.LG
From Clicks to Intent: Cross-Platform Session Embeddings with LLM-Distilled Taxonomy for Financial Services Recommendations
Capital One
针对金融服务中网页匿名浏览与移动端登录行为差异导致的意图信号利用不足问题，提出自监督Transformer编码会话嵌入与LLM提炼分类法生成可解释标签的双用途框架，在移动端首页排序和用户转化预测任务上显著提升性能。
2026-10-15 cs.AI cs.CE cs.CL
Fragment and Integrate Network (FIN): A Novel Spatial-Temporal Modeling Based on Long Sequential Behavior for Online Food Ordering Click-Through Rate Prediction
Alibaba Group（阿里巴巴集团）
针对现有方法缺乏丰富时空表示和只能处理有限长度行为的问题，提出片段与整合网络（FIN），通过片段网络提取多个子序列并建模，整合网络利用时空交互构建整合序列，在饿了么部署后CTR提升5.7%，RPM提升7.3%。
2023-08-30 cs.IR cs.LG
Click-Through Rate Prediction in Online Advertising: A Literature Review
Huazhong University of Science and Technology（华中科技大学）
预测用户点击特定广告的概率一直是在线广告中的一个普遍问题，在过去的几十年里吸引了许多研究关注。近年来，随着行业需求的不断增长，越来越多的新的学习模型被用于广告点击率预测。虽然现有的研究提供了必要的细节算法设计，以解决各种具体问题，在广告点击率预测，方法的演变和建模框架之间的连接被排除在外。然而，据我们所知，很少有关于这一主题的全面调查。我们对最新的CTR预测研究进行了系统的文献综述，特别关注建模框架。具体而言，我们给出了一个分类的国家的最先进的CTR预测模型在现存的文献中，基本建模框架及其扩展，优点和缺点，并进行CTR预测的性能评估。此外，我们总结了CTR预测模型的复杂性和特征交互的顺序，以及在各种数据集上的性能比较。此外，我们确定了当前的研究趋势，主要挑战和潜在的未来方向值得进一步探索。这篇综述有望为希望从事这一领域的IS和营销学者提供基础知识和有效的切入点。
2022-02-22 cs.AI cs.IR cs.LG
MOEF: Modeling Occasion Evolution in Frequency Domain for Promotion-Aware Click-Through Rate Prediction
Alibaba Group（阿里巴巴集团）；The University of Sydney（悉尼大学）
促销活动在电子商务中变得越来越重要和普遍，以吸引客户并促进销售，导致场合频繁变化，这促使用户采取不同的行为。在这种情况下，大多数现有的点击率（CTR）模型不能很好地推广到在线服务，由于即将到来的场合分布的不确定性。在本文中，我们提出了一种新的CTR模型命名为MOEF频繁变化的情况下的建议。首先，我们设计了一个时间序列，由在线业务场景产生的场合信号。由于场合信号在频域中更具鉴别力，我们将傅立叶变换应用于时间序列上的滑动时间窗口，获得频谱序列，然后通过场合演化层（OEL）进行处理。通过这种方式，可以学习高阶场合表示来处理在线分布不确定性。此外，我们采用多个专家学习的特征表示，从多个方面，这是通过注意力机制的场合表示的指导。因此，对于不同的场合自适应地获得特征表示的混合以预测最终CTR。在真实数据集上的实验结果验证了MOEF的优越性，在线A/B测试也表明MOEF明显优于典型的CTR模型。
2023-03-30 cs.IR cs.LG
Res-embedding for Deep Learning Based Click-Through Rate Prediction Modeling
Alibaba Group（阿里巴巴集团）
最近，点击率（CTR）预测模型已经从浅层方法发展到深层神经网络。大多数深度CTR模型遵循Embedding\&MLP范式，即首先使用嵌入模块将离散id特征（例如用户访问的项目）映射到低维向量，然后学习多层感知（MLP）以适应目标。因此，嵌入模块作为代表性学习，对模型的性能起着关键作用。然而，在许多实际应用中，深度CTR模型通常具有较差的泛化性能，这主要是由于嵌入参数的学习。本文利用兴趣延迟模型对用户行为进行建模，研究了深度CTR模型的嵌入机制，得到了两个重要结果：（1）从理论上证明了同一用户兴趣域的项目嵌入向量的聚集半径越小，深度CTR模型的泛化性能越好。(ii)在理论分析的基础上，设计了一种新的嵌入结构res-embedding。在res-embedding模块中，每个项目的嵌入向量是两个分量之和：（i）从基于项目的兴趣图计算的中心嵌入向量（ii）其规模相对较小的残差嵌入向量。在多个公开数据集上的实验结果表明，所提出的res-embedding结构能够有效地提高模型的性能.
2019-06-25 cs.LG stat.ML
Efficient Long Sequential User Data Modeling for Click-Through Rate Prediction
Alibaba Group（阿里巴巴集团）
最近的研究点击率（CTR）预测达到了新的水平，通过建模更长的用户行为序列。其中，两阶段方法作为工业应用的最先进（SOTA）解决方案脱颖而出。两阶段方法首先训练检索模型，以预先截断长行为序列，然后使用截断的序列来训练CTR模型。然而，检索模型和CTR模型是分开训练的。因此，CTR模型中检索到的连续性是不准确的，这降低了最终的性能。在本文中，我们提出了一个端到端的范式来建模长行为序列，这是能够实现卓越的性能以及显着的成本效益相比，现有的模型。我们的贡献是三方面的：首先，我们提出了一个基于哈希的高效目标注意力（TA）网络ETA-Net，使端到端的用户行为检索的基础上，低成本的逐位操作。提出的ETA-Net可以降低标准TA的复杂性的数量级的顺序数据建模。其次，我们提出了一个通用的系统架构作为一个可行的解决方案，部署ETA-Net的工业系统。特别是，ETA-Net已经部署在淘宝推荐系统上，与SOTA两阶段方法相比，CTR和GMV分别提高了1.8%和3.1%。第三，我们在离线数据集和在线A/B测试上进行了广泛的实验。实验结果表明，该模型在CTR预测性能和在线成本效率方面均优于现有CTR模型。ETA-Net现在服务于淘宝的主要流量，每天为数亿用户提供数十亿件商品的服务。
2022-09-25 cs.IR cs.LG
Mobile APP User Attribute Prediction by Heterogeneous Information Network Modeling
Yanshan University（燕山大学）；Beihang University（北京航空航天大学）；Fordham University（福特汉姆大学）
基于用户的属性信息，例如年龄和性别，通常被认为是用户隐私信息。企业很难获得基于用户的隐私属性信息。而基于用户隐私属性信息在个性化服务、用户行为分析等方面有着广泛的应用。本文提出了HetPathMine模型，提出了TPathMine模型。利用节点下属性的点击次数来表达用户的情感偏好信息，并对元路径权重的求解进行了优化。该模型以异构信息网络中的元路径为基础，将对象间的所有关系整合为分类对象间的同构关系。利用矩阵实现同构对象之间的类别知识的知识传播。实验结果表明：（1）基于异构信息网络的用户属性预测比传统的机器学习分类方法能达到更高的准确率;（2）基于点击次数的TPathMine模型对不同年龄段的用户分类更准确，且各元路径的权重与人类直觉或真实世界情况一致。
2019-10-06 cs.LG stat.ML
HMDN: Hierarchical Multi-Distribution Network for Click-Through Rate Prediction
OPPO；Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
针对推荐中多种多分布共存且呈层次关系的问题，提出 HMDN，通过多级残差量化精炼层次表示并扩展现有 MoE、DW 等模型，实验验证其有效且灵活。
2024-08-02 cs.LG
FAN: Fatigue-Aware Network for Click-Through Rate Prediction in E-commerce Recommendation
Alibaba Group（阿里巴巴集团）
本文提出 FAN 模型，通过 Fourier Transformation 处理未点击时间序列获取疲劳频谱，并结合类别调制、gating network 和辅助任务学习疲劳表示，显著提升了电商推荐中的 CTR 预测效果。
2023-04-10 cs.HC cs.IR cs.LG
Deep Interest Evolution Network for Click-Through Rate Prediction
Alibaba Inc（阿里巴巴集团）
点击率预测是广告系统的核心任务之一，其目标是估计用户点击的概率。对于点击率预测模型，需要捕捉用户行为数据背后潜在的用户兴趣。此外，考虑到外部环境和内部认知的变化，用户兴趣随时间动态演化。兴趣建模的点击率预测方法有多种，但大多数都是直接将行为的表现形式看作兴趣，缺乏对具体行为背后潜在兴趣的专门建模。此外，很少有研究考虑到利益的变化趋势。在本文中，我们提出了一种新的模型，命名为深度兴趣进化网络~（DIEN），点击率预测。具体来说，我们设计了兴趣提取器层，从历史行为序列中捕获时间兴趣。在这一层，我们引入了一个辅助损失来监督每一步的利息提取。由于用户兴趣的多样性，特别是在电子商务系统中，我们提出的兴趣进化层捕捉的兴趣演变过程，是相对于目标项目。在利益演化层，注意机制被新颖地嵌入到序列结构中，在利益演化过程中强化了相对利益的作用。在公共和工业数据集上的实验中，DIEN的性能明显优于最先进的解决方案。值得注意的是，DIEN已经部署在淘宝的展示广告系统中，并获得了20.7%的CTR提升。
2018-11-16 cs.IR cs.LG stat.ML
Predicting and Explaining Mobile UI Tappability with Vision Modeling and Saliency Analysis
Google Research（谷歌研究）
提出一种仅基于像素的深度学习方法预测移动 UI 元素可点击性，并结合 XRAI 与 k-Nearest Neighbors 提供可解释的设计反馈。
2022-04-05 cs.AI cs.CV cs.HC
Modeling Mobile Health Users as Reinforcement Learning Agents
Harvard University（哈佛大学）
移动健康（mHealth）技术通过提供针对用户需求定制的干预（例如推送通知），使患者能够在日常生活中采用/保持健康行为。在这些环境中，如果没有干预，人类的决策可能会受到损害（例如，将短期快乐置于自己的长期目标之上）。在这项工作中，我们正式这种关系的框架中，用户优化（可能受损）马尔可夫决策过程（MDP）和mHealth代理干预用户的MDP参数。我们发现，不同类型的障碍意味着不同类型的最佳干预。我们还提供了这些差异的分析和实证探索。
2022-12-01 cs.AI cs.LG
Deep Interest with Hierarchical Attention Network for Click-Through Rate Prediction
Alibaba Group（阿里巴巴集团）
深度兴趣网络（DIN）是一种使用注意力机制从历史行为中捕获用户兴趣的最新模型。用户兴趣直观地遵循分层模式，使得用户通常从较高级别然后到较低级别抽象示出兴趣。在注意力网络中对这种兴趣层次进行建模可以从根本上提高用户行为的表示。因此，我们提出了一种改进的DIN模型任意的兴趣层次：层次注意力网络（DHAN）的深度兴趣。在该模型中，第一个关注层上引入多维层次结构，关注单个项目，同一维度下的后续关注层关注在较低层之上的更高层次。为了支持多维层次结构的建模，引入了一种扩展机制来捕获一个到多个层次结构。为了验证该模型的有效性，将简化的DHAN应用于点击率（CTR）预测，并在三个公共数据集上进行了实验，实验结果表明，DHAN模型能够有效地捕捉用户在不同维度（如类别、价格或品牌）上的兴趣。与DIN相比，DHAN的AUC从12%显著提高到21%，显示出其优越性。DHAN还与另一种最先进的模型深度兴趣进化网络（DIEN）进行了比较，该模型对时间兴趣进行了建模。简化的DHAN的AUC也比DIEN略有提高，从1.0%提高到1.7%。一个潜在的未来的工作可以结合DHAN和DIEN模型的时间和层次的利益。
2020-05-22 cs.AI cs.IR cs.LG
Multi-Channel Sequential Behavior Networks for User Modeling in Online Advertising
Microsoft Bing Ads（微软必应广告）
多个内容提供方通过在其页面的有机内容中放置广告来依赖原生广告获得收入。我们将此设置称为“无查询”，以区别于用户提交搜索查询并返回相关广告的搜索广告。了解用户意图至关重要，因为相关广告可以改善用户体验，并增加为广告商提供有价值点击的可能性。本文提出了多通道顺序行为网络（MC-SBN），这是一种深度学习方法，用于将用户和广告嵌入到可以评估相关性的语义空间中。我们提出的用户编码器架构总结用户活动从多个输入通道-如以前的搜索查询，访问过的页面，或点击广告-到一个用户向量。它使用多个RNN来编码来自不同通道的事件会话序列，然后应用注意力机制来创建用户表示。我们的方法的一个关键属性是，用户向量可以保持和更新增量，这使得它可以部署为大规模的服务。我们在真实世界的数据集上进行了广泛的实验。实验结果表明，MC-SBN可以提高相关广告的排名，并在无查询原生广告设置中提高点击预测和转化预测的性能。
2020-12-27 cs.IR cs.LG
Graph Based Long-Term And Short-Term Interest Model for Click-Through Rate Prediction
Meituan（美团）
针对点击率预测中长短期行为建模的信息丢失与噪声问题，提出基于图的长短期兴趣模型GLSM，融合多兴趣图与多场景序列，离线达SOTA，线上CTR提升4.9%、GMV提升4.3%。
2023-06-05 cs.IR cs.LG
Modeling Behavioral Patterns in News Recommendations Using Fuzzy Neural Networks
Institute of Human-Centred Computing, Graz University of Technology, Austria（以人为中心计算研究所，格拉茨技术大学，奥地利）
本文提出利用模糊神经网络建模新闻推荐中的行为模式，通过学习可读规则提升推荐透明度和可解释性。
2026-01-07 cs.IR cs.LG
Calibration-then-Calculation: A Variance Reduced Metric Framework in Deep Click-Through Rate Prediction Models
Carnegie Mellon University（卡内基梅隆大学）；University of Chicago Booth School of Business（芝加哥大学布斯商学院）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对深度点击率预测模型训练随机性导致评估指标方差大、多次训练受算力限制不可行的问题，提出校准损失度量框架以降低指标方差，提升建模改进检测准确性，且经理论和实验验证。
2024-05-18 cs.LG
On a Scale-Invariant Approach to Bundle Recommendations in Candy Crush Saga
King（King公司）
针对移动游戏内容推荐需求，提出结合监督无监督方法的尺度不变捆绑包推荐方案，在《Candy Crush Saga》验证中实现点击率提升30%、领取率提升超40%，并量化了推荐精度对参与度的递减效应。
2024-08-14 cs.LG
RAT: Retrieval-Augmented Transformer for Click-Through Rate Prediction
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机与软件学院）；Research Center of Artificial Intelligence, Peng Cheng Laboratory（鹏城实验室人工智能研究中心）
本文提出检索增强Transformer（RAT），通过检索相似样本构建增强输入，并利用级联注意力同时建模样本内与跨样本特征交互，在保持效率的同时提升CTR预测性能，尤其在长尾场景中表现优越。
2024-04-05 cs.AI cs.IR cs.LG
Online Diverse Learning to Rank from Partial-Click Feedback
Carnegie Mellon University（卡内基梅隆大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；New York University（纽约大学）；Google Research（谷歌研究院）；Adobe Research（奥多比研究院）
学习排序是机器学习和推荐系统中的一个重要问题。在推荐系统中，通常向用户推荐项目列表。由于用户不太可能检查整个推荐列表，因此部分反馈自然会出现。同时，多样化的推荐很重要，因为在实践中对用户的所有口味进行建模是具有挑战性的。在本文中，我们提出了第一个算法在线学习排序不同的项目从部分点击反馈。我们假设用户检查推荐项目列表，直到用户被一个项目吸引，点击它，并且不检查其余的项目。这种用户行为模型被称为级联模型。我们提出了一个在线学习算法，juelsb，解决我们的问题。该算法主动探索用户的口味，学习的目标是推荐最佳的多样性列表。我们分析了该算法，并证明了一个无间隙的上界的n步遗憾。我们在合成和真实世界的数据集上评估了Cumelsb，将其与各种基线进行了比较，并表明即使我们的建模假设不完全成立，它也能学习。
2018-11-21 cs.IR cs.LG stat.ML
Time Matters: A Novel Real-Time Long- and Short-term User Interest Model for Click-Through Rate Prediction
National Key Laboratory for Novel Software Technology（新型软件技术国家重点实验室）；Nanjing University（南京大学）
本文针对CTR预测中用户兴趣随时间变化的问题，提出基于周期性模式和时间点模式的时间感知长短期兴趣建模方法，并在公开及工业数据集上验证其优于现有方法。
2025-11-09 cs.IR cs.LG
