Maximizing Cumulative User Engagement in Sequential Recommendation: An Online Optimization Perspective
Alibaba Group(阿里巴巴集团);Microsoft(微软)
为了最大化顺序推荐中的累积用户参与度(例如累积点击),通常需要权衡两个潜在冲突的目标,即,追求更高的即时用户参与度(例如,点击率)和鼓励用户浏览(即,更多项目已确认)。现有的工作往往研究这两个任务分开,从而往往导致次优的结果。在本文中,我们从在线优化的角度研究这个问题,并提出了一个灵活实用的框架,明确权衡较长的用户浏览长度和高即时用户参与。具体来说,通过考虑项目的行动,用户的请求作为状态和用户离开作为吸收状态,我们制定每个用户的行为作为一个个性化的马尔可夫决策过程(MDP),和最大化的累积用户参与的问题减少到一个随机最短路径(SSP)的问题。同时,通过即时用户参与和退出概率估计,证明了SSP问题可以通过动态规划有效地解决。在真实数据集上的实验证明了该方法的有效性。该方法在某大型电子商务平台上进行了部署,取得了超过7%的累计点击量提升。
2020-06-02 cs.AI cs.IR cs.LG
ChorusCVR: Chorus Supervision for Entire Space Post-Click Conversion Rate Modeling
针对CVR估计中训练与推理样本空间不一致的问题,提出ChorusCVR模型,通过合唱监督区分模糊负样本与事实负样本,实现全空间无偏CVR学习,提升模型鲁棒性。
2025-02-14 cs.IR cs.SI
Generalized Delayed Feedback Model with Post-Click Information in Recommender Systems
Nanjing University(南京大学)
预测转化率(例如,用户将购买项目的概率)是基于机器学习的推荐系统中的基本问题。然而,准确的转换标签显示后,很长一段时间的延迟,这损害了推荐系统的及时性。以前的文献集中在利用早期转换,以减轻这种延迟反馈问题。在本文中,我们表明,点击后的用户行为也提供信息的转化率预测,并可用于提高时效性。我们提出了一个广义延迟反馈模型(GDFM),统一后点击行为和早期转换为随机后点击信息,它可以用来训练GDFM在流的方式有效。基于GDFM,我们进一步建立了一个新的观点,延迟反馈引入的性能差距可以归因于时间差距和采样差距。受我们分析的启发,我们建议结合时间距离和样本复杂度来衡量点击后信息的质量。训练目标被相应地重新加权,以突出信息和及时的信号。我们在公共数据集上验证了我们的分析,实验性能证实了我们的方法的有效性。
2022-11-24 cs.AI cs.IR
Modeling Users' Contextualized Page-wise Feedback for Click-Through Rate Prediction in E-commerce Search
Alibaba Group(阿里巴巴集团);Nanjing University(南京大学)
在个性化搜索和推荐中,对用户的历史反馈进行建模是进行点击率预测的关键。现有的方法通常只对用户的正反馈信息(如点击序列)进行建模,而忽略了反馈的上下文信息。在本文中,我们提出了一个新的视角上下文感知用户的行为建模,包括整个页面明智的暴露产品和相应的反馈作为上下文页面明智的反馈序列。可以捕获页面内上下文信息和页面间兴趣演变,以了解更具体的用户偏好。我们设计了一个新的神经排序模型RACP(即,上下文化页面序列上的循环注意力),其利用页面上下文感知注意力来对页面内上下文进行建模。一个循环的注意力过程被用来模拟跨页面的兴趣收敛的演变,在前一页的兴趣去噪。在公共数据集和真实工业数据集上的实验验证了模型的有效性。
2022-03-29 cs.AI cs.IR
From Collapse to Stability: A Knowledge-Driven Ensemble Framework for Scaling Up Click-Through Rate Prediction Models
本文针对点击率预测模型扩展时集成网络性能下降的问题,提出结合知识蒸馏与深度相互学习的知识驱动集成框架(KDEF),以提升模型遵循缩放定律的能力并降低子网络间差异。
2025-06-20 cs.IR
User Behavior Retrieval for Click-Through Rate Prediction
点击率(CTR)预测在现代在线个性化服务中起着关键作用。在实际应用中,有必要通过对用户的连续行为建模来捕捉用户的兴趣漂移,从而建立准确的点击率预测模型。然而,随着用户在平台上积累越来越多的行为数据,序列模型利用每个用户的整个行为历史变得不平凡。首先,直接输入长的行为序列将使在线推理时间和系统负载变得不可行。第二,在如此长的历史中有很多噪声使顺序模型学习失败。当前的工业解决方案主要截断序列,并且仅将最近的行为馈送到预测模型,这导致诸如周期性或长期依赖性的序列模式没有嵌入最近的几个行为中,而是嵌入很久以前的历史中的问题。为了解决这些问题,在本文中,我们认为它从数据的角度,而不仅仅是设计更复杂的模型,并提出了用户行为检索CTR预测(UBR4CTR)框架。在UBR4CTR中,最相关和最合适的用户行为将首先使用可学习的搜索方法从整个用户历史序列中检索。然后,这些检索到的行为被输入到一个深度模型中,以进行最终预测,而不是简单地使用最近的行为。将UBR4CTR应用于工业模型管道具有很高的可行性和较低的成本。三个真实世界的大规模数据集上的实验证明了我们提出的框架和模型的优越性和有效性。
2020-05-28 cs.IR
Large-scale Causal Approaches to Debiasing Post-click Conversion Rate Estimation with Multi-task Learning
University of California, Los Angeles(加州大学洛杉矶分校);Alibaba Group(阿里巴巴集团);Columbia University(哥伦比亚大学)
点击后转化率(CVR)估计是电子商务推荐系统中的一项关键任务。这个任务在工业环境下被认为是相当具有挑战性的,有两个主要问题:1)由用户自我选择引起的选择偏差,以及2)由于罕见的点击事件引起的数据稀疏。成功的转换通常具有以下顺序事件:“曝光->点击->转换”。传统的CVR估计器是在点击空间中训练的,但推理是在整个曝光空间中完成的。他们没有考虑到缺失数据的原因,并将其视为随机缺失。因此,他们的估计很可能与实际价值大不相同。此外,数据稀疏性问题也会阻碍许多工业CVR估计,通常有大的参数空间。在本文中,我们提出了两个原则性的,高效的和高度有效的CVR估计工业CVR估计,即多IPW和多DR。所提出的模型接近CVR估计从因果关系的角度来看,并占的原因,失踪不是随机的。此外,我们的方法是基于多任务学习框架和减轻数据稀疏性问题。工业级数据集上的大量实验表明,我们的方法优于最先进的CVR模型。
2020-04-04 cs.IR cs.LG
Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate
Alibaba Inc.(阿里巴巴公司)
准确估计点击后转化率(CVR)对于推荐和广告等行业应用中的排名系统至关重要。传统的CVR建模应用流行的深度学习方法并实现最先进的性能。然而,它在实践中遇到了一些特定于任务的问题,使得CVR建模具有挑战性。例如,传统的CVR模型使用点击印象的样本进行训练,同时用于使用所有印象的样本对整个空间进行推断。这就造成了样本选择偏差的问题。此外,存在一个极端的数据稀疏性问题,使模型拟合相当困难。本文从一个全新的角度对CVR进行建模,充分利用了用户行为的序列模式,印象->点击->转化。所提出的全空间多任务模型(ESMM)可以通过i)直接在整个空间上对CVR建模,ii)采用特征表示迁移学习策略来同时消除这两个问题。在淘宝网推荐系统的数据集上的实验表明,ESMM的性能明显优于竞争对手的方法。我们还发布了该数据集的采样版本,以支持未来的研究。据我们所知,这是第一个包含CVR建模中点击和转换标签顺序依赖样本的公共数据集。
2018-04-24 cs.IR cs.LG stat.ML
Time Matters: A Novel Real-Time Long- and Short-term User Interest Model for Click-Through Rate Prediction
National Key Laboratory for Novel Software Technology(新型软件技术国家重点实验室);Nanjing University(南京大学)
本文针对CTR预测中用户兴趣随时间变化的问题,提出基于周期性模式和时间点模式的时间感知长短期兴趣建模方法,并在公开及工业数据集上验证其优于现有方法。
2025-11-09 cs.IR cs.LG
Learning Graph Meta Embeddings for Cold-Start Ads in Click-Through Rate Prediction
Alibaba Group(阿里巴巴集团)
点击率(CTR)预测是在线广告系统中最核心的任务之一。最近基于深度学习的模型利用了特征嵌入和高阶数据非线性,在CTR预测方面取得了巨大的成功。然而,这些模型在具有新ID的冷启动广告上效果不佳,其嵌入尚未很好地学习。在本文中,我们提出了图Meta Embedding(GME)模型,可以快速学习如何生成所需的初始嵌入新的广告ID的基础上图神经网络和元学习。以前的作品解决这个问题,从新的广告本身,但忽略了可能有用的信息包含在现有的旧广告。相反,GME同时考虑两个信息源:新广告和现有的旧广告。对于新广告,GME利用其相关属性。对于现有的旧广告,GME首先构建一个图,将它们与新广告联系起来,然后自适应地提取有用的信息。我们从不同的角度提出了三个具体的GME,以探讨使用什么样的信息和如何提取信息。具体地,GME-P使用预训练的邻居ID嵌入,GME-G使用生成的邻居ID嵌入,并且GME-A使用邻居属性。在三个真实世界数据集上的实验结果表明,GME可以显着提高冷启动(即,没有训练数据可用)和预热(即,收集少量的训练样本)场景超过五个主要的基于深度学习的CTR预测模型。GME也可以应用于转化率(CVR)预测。
2021-05-19 cs.IR cs.LG
Review-based Recommender Systems: A Survey of Approaches, Challenges and Future Perspectives
本文综述了基于评论的推荐系统,分类总结最新方法,分析挑战,并提出多模态数据、多标准评分和伦理等未来研究方向。
2025-05-24 cs.IR
All-domain Moveline Evolution Network for Click-Through Rate Prediction
本文提出跨域行为演化网络(AMEN),通过建模用户行为与场景的交互,解决传统CTR预测中对场景级行为关注不足的问题,提升点击通过率预测精度。
2026-04-13 cs.IR
Recommending on graphs: a comprehensive review from a data perspective
基于图的学习方法的最新进展已经证明了它们在为推荐系统(RSS)建模用户偏好和项目特征方面的有效性。RSS中的大多数数据都可以组织成图形,其中各种对象(例如,用户、项目和属性)通过各种关系显式地或隐式地相互连接和影响。这样的基于图的组织为利用图学习中的潜在属性(例如,随机游走和网络嵌入)技术来丰富用户和项目节点的表示,这是成功推荐的基本因素。在本文中,我们提供了一个全面的调查基于图学习的推荐系统(GLRS)。具体而言,我们从数据驱动的角度出发,系统地对GLRS中的各种图进行分类,并分析其特征。然后,我们讨论了最先进的框架,重点是图学习模块,以及它们如何解决实际的推荐挑战,如可扩展性,公平性,多样性,可解释性等。最后,我们分享了一些潜在的研究方向,在这个快速增长的领域。
2023-03-13 cs.IR
Neighbour Interaction based Click-Through Rate Prediction via Graph-masked Transformer
The University of Manchester(曼彻斯特大学);National Centre for Text Mining(国家文本挖掘中心);Tencent AI Lab(腾讯人工智能实验室);Tencent(腾讯);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
点击率(CTR)预测,其目的是估计用户将点击一个项目的概率,是在线广告的一个重要组成部分。现有的方法主要试图从用户的历史行为中挖掘用户兴趣,其中包含用户直接交互的项目。虽然这些方法已经取得了很大的进步,但它们往往受到推荐系统的直接暴露和不活跃的交互的限制,从而无法挖掘所有潜在的用户兴趣。为了解决这些问题,我们提出了基于邻居交互的CTR预测(NI-CTR),它认为这是一个异构信息网络(HIN)设置下的任务。简而言之,基于邻居交互的CTR预测涉及HIN中目标用户-项目对的局部邻居以预测它们的链接。为了指导局部邻域的表示学习,我们进一步从显式和隐式两个角度考虑了局部邻域节点之间的不同类型的交互,并提出了一种新的图掩码Transformer(GMT)算法,有效地结合了这些类型的交互,为目标用户-项目对生成具有高度代表性的嵌入.此外,为了提高模型对邻居采样的鲁棒性,我们在邻域嵌入上实施了一致性正则化损失。我们在两个真实世界的数据集上进行了大量的实验,实验结果表明,我们提出的方法明显优于最先进的CTR模型。同时,全面的消融研究验证了我们的模型的每个组成部分的有效性。此外,我们已经在拥有数十亿用户的微信公众号平台上部署了这个框架。在线A/B测试表明,与所有在线基线相比,平均CTR提高了21.9。
2022-07-22 cs.AI cs.IR cs.LG
Adversarial Gradient Driven Exploration for Deep Click-Through Rate Prediction
Alibaba Group(阿里巴巴集团);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
探索-利用(Exploration-Exploitation,E{\&}E)算法是解决大规模在线推荐系统中反馈循环问题的常用算法。现有的研究大多认为高不确定性是潜在回报的良好指标,因此主要集中在模型不确定性的估计上。我们认为,这种方法忽略了探索对模型训练的后续影响。从在线学习的角度来看,探索策略的采用也会影响训练数据的收集,从而进一步影响模型学习。为了理解探索和训练之间的相互作用,我们设计了一个伪探索模块,该模块模拟了在探索某个项目并收到相应反馈后的模型更新过程。我们进一步证明,这样的过程相当于向模型输入添加对抗性扰动,因此将我们提出的方法命名为对抗性梯度驱动探索(AGE)。对于生产部署,我们提出了一个动态门控单元来预先确定勘探的效用。这使我们能够利用有限的资源进行探索,避免将浏览量资源浪费在无效的探索上。AGE的有效性首先通过学术数据集上的大量消融研究进行了检查。同时,AGE亦已部署至其中一个世界领先的展示广告平台,我们观察到多项顶线评估指标均显著改善。
2022-05-30 cs.IR cs.LG
Biological Systems as Heterogeneous Information Networks: A Mini-review and Perspectives
在现实世界中,大多数对象和数据都具有多种类型的属性和相互连接。这种数据结构被称为“异构信息网络”(HIN),并已得到广泛的研究。生物系统也被认为是高度复杂的HIN。在这项工作中,我们回顾了HIN方法在生物和化学数据中的各种应用,讨论了一些先进的主题,并描述了一些未来的研究方向。
2017-12-24 cs.IR q-bio.MN
Automatic Discourse Segmentation: Review and Perspectives
Laboratoire Informatique d’Avignon, UAPV(阿维尼翁信息学实验室(UAPV));Institut Universitari de Lingüística Aplicada, UPF(庞培法布拉大学应用语言学大学院(UPF));Djibouti Institute of Science and Information Technologies – CERD(吉布提科学与信息技术研究所 – CERD)
多语言篇章分析是一个非常突出的研究课题。语篇分析的第一个阶段是语篇切分。在这篇文章中报告的研究地址的两个在线可用的话语段(英语和葡萄牙语)的审查。我们评估了为西班牙语、法语和非洲语言开发类似话语分段器的可能性。
2020-05-01 cs.CL cs.IR
Challenges and approaches to privacy preserving post-click conversion prediction
Twitter(推特)
通过使用机器学习模型和实时拍卖进行广告定位,在线广告通常比离线广告更加个性化。一个特定的任务,预测转换的可能性(即\用户将购买广告产品的概率)对于广告生态系统的目标定位和定价广告都是至关重要的。目前,这些模型通常通过观察个人用户行为来训练,但越来越多的监管和技术限制需要隐私保护方法。例如,主要平台正在限制在多个应用程序中跟踪单个用户事件,世界各地的政府对规范个人数据的使用表现出越来越大的兴趣。广告商可以接收隐私保护反馈,而不是接收有关个人用户行为的数据,例如由一组用户产生的广告应用程序的安装数量。在本文中,我们从机器学习的角度概述了最近在线广告生态系统中与隐私相关的变化。我们提供了在这种设置下学习转换模型时的挑战和限制的概述。我们介绍了一种新的方法来训练这些模型,利用排名后的信号。我们使用真实世界数据的离线实验表明,它优于仅依赖于选择加入数据的模型,并且在没有单独标签时显着降低了模型退化。最后,我们讨论了未来的研究方向,在这个不断发展的领域。
2022-01-29 cs.CR cs.IR cs.LG
See Beyond a Single View: Multi-Attribution Learning Leads to Better Conversion Rate Prediction
Taobao \& Tmall Group of Alibaba Beijing China;Taobao \& Tmall Group of Alibaba
本文提出多归因学习框架MAL,通过归因知识聚合器、主目标预测器和笛卡尔积训练策略整合多种归因信号,显著提升CVR预测的GAUC和ROI。
2025-08-21 cs.IR cs.LG
Disentangled Interest Network for Out-of-Distribution CTR Prediction
Tsinghua University(清华大学);Hefei University of Technology(合肥工业大学)
DiseCTR通过解耦用户兴趣,提升分布外点击率预测的准确性和鲁棒性。
2025-11-14 cs.AI cs.IR cs.LG
Sentiment-Aware Recommendation Systems in E-Commerce: A Review from a Natural Language Processing Perspective
University of Dayton(代顿大学)
本文从自然语言处理视角系统综述了2023至2025年初电子商务情感感知推荐系统,归纳了深度学习、Transformer、图神经网络和对话式推荐四类方法,并指出关键挑战与未来研究方向。
2025-05-03 cs.AI cs.CL cs.IR
Data-Driven Interaction Review of an Ed-Tech Application
Smile and Learn是一家教育科技公司,运营着一个智能图书馆,拥有100多个应用程序、游戏和互动故事,面向2至10岁的儿童及其家人。该平台从与系统的交互中收集了数千个数据点,随后提供报告和建议。考虑到导航所有内容的复杂性,图书馆实现了一个推荐系统。本文的目的是评估两个方面的这种系统集中在儿童:用户探索性行为的建议的顺序的影响,和参与的推荐算法的选择的影响。该评估基于2018年10月15日至2018年12月1日期间收集的数据,需要根据其排序分析对建议进行的点击次数,并进行A/B/C测试,其中将两种标准推荐算法与作为基线的随机推荐进行比较。结果表明,建议的顺序和提出的兴趣之间有直接的联系,以及基于受欢迎程度的建议相对于其他选择的优越性。
2019-04-22 cs.CY cs.HC cs.IR
Balancing Domestic and Global Perspectives: Evaluating Dual-Calibration and LLM-Generated Nudges for Diverse News Recommendation
Grouplens Research, University of Minnesota(群体Lens研究,明尼苏达大学);Northwestern University(西北大学)
本研究提出双校准算法和LLM生成提示,通过五周实验验证其在提升新闻推荐多样性中的效果,发现算法提示提升多样性,而LLM提示影响因人而异,用户兴趣和相关性提升显著。
2026-03-06 cs.AI cs.HC cs.IR
Impact of large language models on peer review opinions from a fine-grained perspective: Evidence from top conference proceedings in AI
School of Management, Anhui University(安徽大学管理学院)
本文研究大型语言模型对同行评审意见的影响,分析了评审报告在语言特征、评价重点和推荐信号方面的变化,发现评审文本变得更长、更流畅,但深入评价维度有所下降。
2026-04-21 cs.AI cs.CL cs.DL