Learning Multi-touch Conversion Attribution with Dual-attention Mechanisms for Online Advertising
Shanghai Jiao Tong University（上海交通大学）；University College London（伦敦大学学院）
在在线广告中，互联网用户可能会接触到一系列不同的广告活动，即，显示广告，搜索，或转介从多个渠道，之前导致了任何最终的销售转化和交易.对于广告主和发布商来说，在客户旅程（转化漏斗）中估计广告活动接触点的贡献并相应地将正确的信用分配给正确的广告曝光至关重要。然而，对多点触摸归属问题的现有研究缺乏利用用户的转换前动作（即，点击），并且经常无法根据用户的行为数据对触摸点之间的顺序模式进行建模。更糟糕的是，目前的行业实践仅仅是采用一组任意规则作为归因模型，例如，流行的最后接触模型将100%的信用分配给最后接触点，而不管实际归属。在本文中，我们提出了一个双注意递归神经网络（DARNN）的多点触摸归因问题。它通过注意力机制直接从转换估计目标学习属性值。为了实现这一点，我们利用序列到序列预测用户点击，并结合后视图和后点击归因模式在一起的最终转换估计。为了定量基准归因模型，我们还提出了一种新颖而实用的归因评估方案，通过代理的预算分配（根据估计的归因）在广告渠道。在两个真实数据集上的实验结果表明，我们的归因模型相对于最先进的归因模型具有显着的性能增益。
2018-08-30 cs.AI cs.IR cs.LG
Conversion-Based Dynamic-Creative-Optimization in Native Advertising
Yahoo Research（雅虎研究院）
Yahoo Gemini原生广告市场每天为数亿独立用户提供数十亿次展示，并达到数亿美元的年收入。为预测广告（ad）事件概率（如转换和点击）的Gemini原生模型提供支持的是OFFSET -一种基于协同过滤（CF）的事件预测算法。预测的概率，然后使用在双子座本地拍卖，以确定哪些广告，目前为每个服务事件（印象）。动态创意优化（DCO）是最近推出的双子座原生产品，两年前推出，越来越受到广告主的关注。DCO产品使广告商能够为每个原生广告属性发布多个资产，为每个DCO广告创建多个组合。由于不同的组合可能吸引不同的人群，因此比其他组合更频繁地呈现某些组合以最大化收入同时保持广告商和用户满意可能是有益的。最初的DCO报价是优化点击率（CTR），然而随着市场更多地转向基于转换的广告活动，广告客户也要求基于转换的解决方案。为了满足这一要求，我们提出了一个拍卖后的解决方案，其中DCO广告组合根据其预测转化率（CVR）而受到青睐。预测由基于辅助OFFSET的组合CVR预测模型提供，并且用于生成在服务时间期间用于DCO广告呈现的组合分布。通过在线桶A/B测试对这种探索-利用解决方案进行在线评估，服务于Gemini本地DCO流量，与随机均匀服务于所有组合的对照桶相比，CVR提升了53.5%。
2022-11-13 cs.IR cs.LG
Optimal Delivery with Budget Constraint in E-Commerce Advertising
Alibaba Group（阿里巴巴集团）
电子商业平台中的在线广告为卖家提供了一个机会，以实现具有不同目标的潜在受众。将广告分配到页面的广告服务系统（如显示和搜索广告系统）应满足目标，例如品牌广告商的大量受众，基于性能的广告商的点击或转换，同时尝试最大化平台的整体收入。在本文中，我们提出了一种基于线性规划受约束的方法，以优化收入，同时提高不同的性能目标。通过在阿里巴巴电子商业平台上实现一个离线仿真系统，并在考虑系统性能、排名和定价模式的情况下运行在线请求的拍卖，验证了我们的算法。我们还将我们的算法与相关工作进行了比较，结果表明，我们的算法可以有效地提高活动的性能和平台的收入。
2019-10-08 cs.AI cs.LG stat.ML
Personalized Interpolation: Achieving Efficient Conversion Estimation with Flexible Optimization Windows
Meta Platforms, Inc.（Meta平台公司）
针对在线广告中转化延迟差异大的问题，提出Personalized Interpolation方法，通过支持灵活的广告商特定优化窗口，在不增加系统复杂性的前提下实现高效准确的转化估计。
2025-11-04 cs.LG
Stochastic Bandit Models for Delayed Conversions
Université Paris-Saclay（巴黎萨克雷大学）；Telecom ParisTech（巴黎高等电信学院）；LIMSI, CNRS（法国国家科学研究中心计算机科学与人机交互实验室）；ENS Paris-Saclay（巴黎萨克雷高等师范学校）；Criteo Research（Criteo研究院）
在线广告和产品推荐是多臂强盗方法的重要应用领域。在这些领域中，立即可用的奖励通常只是兴趣的实际结果的代理，我们称之为转换。例如，在网络广告中，点击可以在广告显示后的几秒钟内观察到，但相应的销售（如果有的话）将需要几个小时，如果不是几天的话。本文在Chapelle（2014）提出的框架内提出并研究了一个新的随机多臂强盗模型-基于网络广告领域的实证研究-其中每个行为都可能触发未来的奖励，然后会发生随机延迟。我们假设与每个动作相关联的转换的概率是未知的，而转换延迟的分布是已知的，区分（理想化）的情况下，转换事件可以观察到无论他们的延迟和更现实的设置中，后期转换审查。我们提供了性能下限，以及两个简单而有效的算法的基础上UCB和KLUCB框架。后一种算法，这是最好的转换率低时，是基于泊松化参数，在其他设置中，需要不同的成功概率的伯努利观测的聚合独立的兴趣。
2017-07-12 cs.LG
EGEAN: An Exposure-Guided Embedding Alignment Network for Post-Click Conversion Estimation
Meituan（美团）
针对CVR估计中的协变量偏移问题，提出EGEAN嵌入对齐网络及带稳态控制的参数可变双重稳健估计器，并在美团广告系统的在线A/B测试中显著提升CVR与GMV。
2024-12-08 cs.AI cs.LG
Privacy Preserving Conversion Modeling in Data Clean Room
Pinterest Inc.（Pininterest公司）
针对在线广告CVR预测中的隐私保护难题，提出一种基于批次级聚合梯度、参数高效微调与去偏技术的协同训练框架，在数据洁净室环境下实现了兼顾隐私、低通信成本与高精度的CVR预测。
2025-05-20 cs.IR cs.LG
Challenges and approaches to privacy preserving post-click conversion prediction
Twitter（推特）
通过使用机器学习模型和实时拍卖进行广告定位，在线广告通常比离线广告更加个性化。一个特定的任务，预测转换的可能性（即\用户将购买广告产品的概率）对于广告生态系统的目标定位和定价广告都是至关重要的。目前，这些模型通常通过观察个人用户行为来训练，但越来越多的监管和技术限制需要隐私保护方法。例如，主要平台正在限制在多个应用程序中跟踪单个用户事件，世界各地的政府对规范个人数据的使用表现出越来越大的兴趣。广告商可以接收隐私保护反馈，而不是接收有关个人用户行为的数据，例如由一组用户产生的广告应用程序的安装数量。在本文中，我们从机器学习的角度概述了最近在线广告生态系统中与隐私相关的变化。我们提供了在这种设置下学习转换模型时的挑战和限制的概述。我们介绍了一种新的方法来训练这些模型，利用排名后的信号。我们使用真实世界数据的离线实验表明，它优于仅依赖于选择加入数据的模型，并且在没有单独标签时显着降低了模型退化。最后，我们讨论了未来的研究方向，在这个不断发展的领域。
2022-01-29 cs.CR cs.IR cs.LG
Real Time Bid Optimization with Smooth Budget Delivery in Online Advertising
Turn Inc（Turn公司）
如今，每天都有数十亿的展示广告展示通过实时的竞价（RTB）交易所主办的公开拍卖进行购买。广告商必须在毫秒内做出决定，为每个选定的RTB广告请求提交出价。受预算限制，目标是购买一组广告展示，以达到尽可能多的目标用户。广告主特定的期望动作（转换）包括购买产品、填写表格、注册电子邮件等。此外，广告主通常更喜欢随着时间的推移平稳地花费他们的预算，以便在一天中接触到更广泛的受众，并产生可持续的影响。然而，由于转换很少发生，并且发生反馈通常延迟，因此同时实现预算和性能目标非常具有挑战性。在本文中，我们提出了一种在线方法，以顺利交付预算，同时优化转换性能。我们的算法试图选择高质量的印象，并调整投标价格的基础上，在一个自适应的方式，通过分配预算最佳跨时间的先验性能分布。我们从真实的广告活动的实验结果表明，我们所提出的方法的有效性。
2013-05-14 cs.GT cs.LG
Cost-sensitive Learning for Utility Optimization in Online Advertising Auctions
Criteo；Facebook；Google
计算广告中最具挑战性的问题之一是在线广告拍卖中投标的点击率和转换率的预测。在以前的方法中未解决的问题是存在高度非均匀的误预测成本。虽然对于模型评估，这些成本已经通过最近提出的业务感知离线指标（例如衡量对广告商利润影响的效用指标）考虑在内，但在训练模型本身时并非如此。在本文中，弥合差距，我们正式分析优化效用度量和日志损失之间的关系，这被认为是国家的最先进的方法之一，在转换建模。我们的分析激发了用预测结果的商业价值来加权日志损失的想法。我们提出并分析了一种新的成本加权方案，并表明可以实现离线和在线性能的显着收益。
2017-07-12 cs.LG
Field-aware Factorization Machines in a Real-world Online Advertising System
Criteo Research（Criteo研究院）；Facebook；Google
预测用户响应是计算广告中的核心机器学习任务之一。领域感知因子分解机（FFM）最近被确立为解决该问题的最先进方法，特别是赢得了两次Kaggle挑战。本文提出了一些结果，从实现这种方法在生产系统中预测点击率和转化率的显示广告，并表明这种方法不仅是有效的赢得挑战，但在现实世界中的预测系统也是有价值的。我们还讨论了一些具体的挑战和解决方案，以减少训练时间，即使用创新的播种算法和分布式学习机制。
2017-02-23 cs.LG
Deep Neural Net with Attention for Multi-channel Multi-touch Attribution
Adobe（奥多比）
客户通常会接触到在线数字广告渠道，如电子邮件营销，展示广告，付费搜索引擎营销，在他们购买或订阅产品（又名。转换）。营销人员跟踪所有的客户旅程数据，并试图衡量每个广告渠道的有效性.对各渠道影响的推断在预算分配和库存定价决策中起着重要的作用。几种简单的基于规则的策略和数据驱动的算法策略在营销领域得到了广泛的应用，但它们并没有解决渠道交互、时间依赖、用户特征等问题。在本文中，我们提出了一种基于深度学习的新型归因算法，以评估每个广告渠道的影响。我们提出了带注意力的深度神经网络多点触摸归因模型（DNAMTA），该模型以监督学习的方式预测一系列事件是否会导致转换，它使我们对媒体渠道之间的动态交互效应有了深入的了解。DNAMTA还结合了用户背景信息，如用户人口统计和行为，作为控制变量，以减少媒体效果的估计偏差。我们使用大型真实世界营销数据集的计算实验来证明我们提出的模型在转化预测和媒体渠道影响力评估方面都优于现有方法。
2018-09-06 cs.LG stat.ML
Dynamic Hierarchical Empirical Bayes: A Predictive Model Applied to Online Advertising
Adobe（奥多比公司）
预测关键词性能，如印象数、点击率（CTR）、转化率（CVR）、每次点击收入（RPC）和每次点击成本（CPC），对于在线广告行业的赞助搜索至关重要。一个有趣的现象是，尽管总体数据很大，但在单个单元级别上数据非常稀疏。为了克服稀疏性并利用数据结构中的分层信息，我们提出了一种动态分层经验贝叶斯（DHEB）模型，该模型通过数据驱动的过程动态确定层次结构，并提供基于收缩的估计。我们的方法还配备了一个有效的经验方法，通过层次结构推导出的推论。我们在模拟和真实世界的数据集，并比较几个竞争模型所提出的方法。结果表明，在所有的比较中，无论是准确性和效率的建议方法。最后，我们设计了一个两阶段的系统，以服务于实时预测。
2018-09-06 cs.LG stat.ML
Demystifying Advertising Campaign Bid Recommendation: A Constraint target CPA Goal Optimization
Yahoo Research（雅虎研究院）
在每次点击成本（CPC）或每次展示成本（CPM）广告活动中，广告商总是冒着花费预算而没有获得足够转换的风险。此外，对广告库存的出价与倾向性的联系很少，可以达到目标每次获取成本（tCPA）的目标。为了解决这个问题，本文提出了一个出价优化方案，以实现所需的tCPA目标的广告客户。特别是，我们构建了优化引擎，通过解决严格形式化的约束优化问题来做出决策，该问题利用了使用非参数学习从丰富的历史拍卖数据中学习的出价景观模型。该模型通过对广告主的历史拍卖行为进行推理，自然地推荐出符合广告主期望的出价，本质上解决了出价景观建模中常见的数据挑战：拍卖日志不完整，以及广告出价行为变化和波动带来的不确定性。出价优化模型在现实世界的活动中优于基线方法，并已应用于各种各样的性能改进和收入生命周期的场景。
2022-12-26 cs.AI cs.IR cs.LG
Follow the Prophet: Accurate Online Conversion Rate Prediction in the Face of Delayed Feedback
University of Chinese Academy of Sciences（中国科学院大学）；Tencent（腾讯）
延迟反馈问题是在线广告中的迫切挑战之一，这是由从几分钟到几天不等的高度多样化的反馈延迟引起的。对于不同类型的广告和不同的用户，在这些不相同的延迟下，很难设计出合适的在线学习系统。在本文中，我们提出了解决延迟反馈问题的在线广告“跟随先知”（FTP简称）。关键的见解是，如果所有记录的样本的反馈都是即时的，我们可以得到一个没有延迟反馈的模型，即“先知”。虽然先知不能在在线学习，我们表明，我们可以预测先知的预测聚合政策的一组多任务的预测，其中每个任务捕捉不同时期的反馈模式。我们提出了策略的目标和优化方法，并使用日志数据来模拟预测器。在三个真实世界的广告数据集上进行的大量实验表明，我们的方法优于以前的最先进的基线。
2021-08-13 cs.LG
An Analysis Of Entire Space Multi-Task Models For Post-Click Conversion Prediction
Twitter（推特）
工业推荐系统的任务经常是为多个通常密切相关的用户动作近似概率。例如，预测用户是否会点击广告以及他们是否会购买广告产品。这些任务之间的概念相似性促进了多任务学习的使用：这是一类旨在从相关任务中带来积极归纳转移的算法。在这里，我们经验评估多任务学习方法与神经网络的在线广告任务。具体而言，我们考虑使用相关点击事件（CTR）作为辅助任务，近似计算大规模广告平台上移动应用广告的点击后转化事件（安装）（CVR）的概率。我们使用消融的方法来系统地研究最近的方法，结合多任务学习和“整个空间建模”，训练CVR的所有记录的例子，而不是学习的条件可能性转换点击。基于这些结果，我们表明，几种不同的方法导致类似的水平的正向转移从数据丰富的CTR任务的CVR任务，并提供一些见解如何多任务的设计选择解决影响CVR任务的两个主要问题：数据稀疏性和数据偏差。我们的研究结果增加了越来越多的证据表明，标准的多任务学习是一种明智的方法来模拟现实世界中的大规模应用程序中的相关事件，并建议特定的多任务方法可以通过在现有系统中的易用性来指导。
2021-08-18 cs.IR cs.LG
Multi-Manifold Learning for Large-scale Targeted Advertising System
NAVER Corp.（Naver公司）
信使广告（广告）提供直接和个人的用户体验，从而产生高转化率和销售。然而，人们对广告持怀疑态度，有时将其视为垃圾邮件，最终导致用户满意度下降。强烈需要有针对性的广告，即向可能对特定广告信息感兴趣的个人提供广告。精确用户定位成功的关键在于学习嵌入空间中的准确用户和广告表示。以前的大多数研究都限制了在欧几里得空间中的表示学习，但最近的研究表明，双曲流形学习的复杂网络属性的不同投影出现在现实世界的数据集，如社交网络，推荐系统和广告。我们提出了一个框架，可以有效地学习在双曲空间上的用户和广告的层次结构，并扩展到多流形学习。我们的方法构造多个双曲流形与可学习的曲率和映射的表示用户和广告到每个流形。每个流形的原点被设置为每个用户聚类的质心。使用双曲空间中两个实体之间的距离来估计每个广告的用户偏好，并且通过聚合从学习的多个流形计算的值来确定最终预测。我们在公共基准数据集和大型商业信使系统LINE上评估了我们的方法，并通过提高性能证明了其有效性。
2020-07-08 cs.LG stat.ML
An Enhanced Ad Event-Prediction Method Based on Feature Engineering
SKYLADS（SKYLADS公司）
在数字广告中，点击率（CTR）和转化率（CVR）是评估广告效果的重要指标。因此，广告事件预测系统是至关重要的，并广泛用于赞助搜索和显示广告以及实时竞价（RTB）。在这项工作中，我们介绍了一种增强的方法，广告事件预测（即点击，转换），提出了一种新的高效的功能工程方法。一个大型的真实世界的基于事件的数据集的运行营销活动被用来评估所提出的预测算法的效率。结果表明，所提出的广告事件预测方法的好处，这显着优于替代的。
2019-07-03 cs.LG stat.ML
A Feedback Shift Correction in Predicting Conversion Rates under Delayed Feedback
Cyberagent, Inc.（赛博艾金特公司）
在显示广告中，预测转化率，即用户在广告商的网站上采取预定义动作（诸如购买商品）的概率，是估计显示广告的价值的基础。然而，在点击和其结果转换之间存在相对较长的时间延迟。由于延迟反馈，训练周期中的一些肯定实例被标记为否定，因为当收集训练数据时，一些转换尚未发生。结果，条件标签分布在训练数据和生产环境之间不同。这种情况被称为反馈移位。我们解决这个问题，通过使用一个重要的权重方法通常用于协变量偏移校正。我们证明了它的一致性的反馈移位。离线和在线实验结果表明，我们提出的方法优于现有的方法。
2020-02-06 cs.LG stat.ML
Interpretable Deep Learning Model for Online Multi-touch Attribution
Unversity of Southern California（南加州大学）；eBay Inc.（eBay公司）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
在在线广告中，用户可能会接触到一系列不同的广告活动，例如自然搜索或推荐或有机搜索，然后才导致最终交易。估计广告活动对用户旅程的贡献是非常有意义和关键的。营销人员可以观察每个客户与不同营销渠道的互动，并相应地修改他们的投资策略。现有的方法，包括传统的最后一次点击的方法和最近的数据驱动的方法的多点触摸归因（MTA）问题缺乏足够的解释，为什么这些方法的工作。在本文中，我们提出了一种新的模型称为DeepMTA，它结合了深度学习模型和可解释的在线多点触摸归因的附加特征解释模型。DeepMTA主要包括两个部分，基于分段LSTM的转换预测模型，以捕捉不同的时间段，和添加剂特征属性模型结合页岩值。加性特征属性是解释性的，包含二元变量的线性函数。作为MTA的第一个可解释的深度学习模型，DeepMTA考虑了客户旅程中的三个重要特征：事件序列顺序、事件频率和事件的时间衰减效应。在实际数据集上的测试表明，该模型的预测精度达到91%.
2020-03-26 cs.AI cs.IR cs.LG
Dynamic Knapsack Optimization Towards Efficient Multi-Channel Sequential Advertising
Tianjin University（天津大学）；Alimama, Alibaba Group（阿里妈妈，阿里巴巴集团）；Tsinghua University（清华大学）；Shanghai Jiao Tong University（上海交通大学）
在电子商务中，广告对于商家接触目标用户至关重要。典型的目标是在预算约束下最大化广告客户在一段时间内的累积收入。在实际应用中，广告（ad）通常需要多次暴露给同一用户，直到用户最终贡献收入（例如，下订单）。然而，现有的广告系统主要关注单次广告曝光的即时收入，忽略了每次曝光对最终转化的贡献，因此通常陷入次优解决方案。在本文中，我们将顺序广告策略优化描述为一个动态背包问题。我们提出了一个理论上有保证的双层优化框架，它大大减少了原来的优化空间的解决方案空间，同时确保解决方案的质量。为了提高强化学习的探索效率，我们还设计了一种有效的动作空间缩减方法。大量的离线和在线实验表明，我们的方法在累积收入方面优于最先进的基线。
2020-06-29 cs.DS cs.IR cs.LG
PlatformBid: An Auto-Bidding Benchmark from a Unified Advertising Platform's Perspective
Southeast University（东南大学）；Kuaishou Technology（快手科技）；Nanyang Technological University（南洋理工大学）
该研究针对现有自动竞价算法仅聚焦DSP侧的问题，提出首个以统一广告平台为中心的自动竞价基准PlatformBid，定义三类竞争场景并评估多种方法，还提出BidFlow方法，在快手实验中目标成本提升0.68%。
2026-07-31 cs.LG
Contrastive Learning for Conversion Rate Prediction
Alibaba Group（阿里巴巴集团）
针对CVR预测中的数据稀疏问题，提出CL4CVR框架，通过EM、FNE和SPI机制结合对比学习与监督任务，利用无标签数据和转化事件提升预测性能。
2023-07-12 cs.IR cs.LG
Multi-Channel Sequential Behavior Networks for User Modeling in Online Advertising
Microsoft Bing Ads（微软必应广告）
多个内容提供方通过在其页面的有机内容中放置广告来依赖原生广告获得收入。我们将此设置称为“无查询”，以区别于用户提交搜索查询并返回相关广告的搜索广告。了解用户意图至关重要，因为相关广告可以改善用户体验，并增加为广告商提供有价值点击的可能性。本文提出了多通道顺序行为网络（MC-SBN），这是一种深度学习方法，用于将用户和广告嵌入到可以评估相关性的语义空间中。我们提出的用户编码器架构总结用户活动从多个输入通道-如以前的搜索查询，访问过的页面，或点击广告-到一个用户向量。它使用多个RNN来编码来自不同通道的事件会话序列，然后应用注意力机制来创建用户表示。我们的方法的一个关键属性是，用户向量可以保持和更新增量，这使得它可以部署为大规模的服务。我们在真实世界的数据集上进行了广泛的实验。实验结果表明，MC-SBN可以提高相关广告的排名，并在无查询原生广告设置中提高点击预测和转化预测的性能。
2020-12-27 cs.IR cs.LG
Handling many conversions per click in modeling delayed feedback
Google Research（谷歌研究院）；Google（谷歌）
预测点击后转化（购买或其他事件）的预期价值或数量是基于性能的数字广告的关键任务。在训练转换优化器模型时，最关键的方面之一是处理与转换相关的延迟反馈，这可能会以不同的延迟多次发生。这个任务是困难的，因为延迟分布对于每个广告客户是不同的，是长尾的，通常不遵循任何特定类别的参数分布，并且可以随时间变化。我们使用基于三个核心思想的无偏估计模型来应对这些挑战。第一个想法是将标签拆分为具有不同延迟桶的标签之和，每个标签仅在成熟标签上训练，第二个是使用温度计编码来提高准确性并降低推理成本，第三个是使用辅助信息来提高模型的稳定性并处理分布中的漂移。
2021-01-06 cs.LG
Delayed Feedback Modeling with Influence Functions
针对在线广告中延迟反馈导致CVR预测偏差的问题，提出IF-DFM方法，利用影响函数估计转化对参数的影响以实现无需全量重训的高效更新，在准确性与适应性上优于现有方法。
2025-08-14 cs.AI cs.IR cs.LG
Bidding Machine: Learning to Bid for Directly Optimizing Profits in Display Advertising
Meituan-Dianping Inc.（美团点评公司）；University College London（伦敦大学学院）
基于实时竞价（RTB）的显示广告已经成为计算广告中的关键技术进步之一。RTB使广告商能够通过实时拍卖购买个人广告展示，并促进多个广告商对个人展示的评估和出价。在RTB中，广告主在优化其出价策略时面临三个主要挑战，即（i）估计效用（例如，转换、点击），（ii）预测给定广告印象的市场价值（因此成本），以及（iii）基于前两者决定给定拍卖的最佳出价。先前的解决方案假设在解决投标优化问题之前解决前两个问题。然而，这些挑战是密切相关的，独立处理任何单个问题可能不是全局最优的。在本文中，我们提出了出价机，一个全面的学习出价框架，它由三个优化器处理上述每一个挑战，并作为一个整体，共同优化这三个部分。我们表明，这样的联合优化将大大提高运动的有效性和利润。从学习的角度来看，我们表明，投标机可以顺利更新离线定期批量或在线顺序训练计划。我们广泛的离线实证研究和在线A/B测试验证了所提出的投标机的高效率。
2018-03-11 cs.CY cs.GT cs.IR
A Nonparametric Delayed Feedback Model for Conversion Rate Prediction
Chiba Institute of Technology（千叶工业大学）；CyberAgent, Inc.（CyberAgent公司）
预测显示广告中的转化率（CVR）（例如，预测购买物品的用户的比例（即，转换）在其相应的广告被点击之后）在测量向用户显示的广告的效果和理解用户的兴趣时是重要的。通常存在时间延迟（即，所谓的{ \it延迟反馈}）。由于延迟的反馈，在观察周期之后转换的样本可以被视为负的。为了克服这个缺点，已经提出了假设时间延迟遵循指数分布的CVR预测。然而，在实践中，不能保证延迟是从指数分布产生的，并且表示延迟的最佳分布取决于数据。在本文中，我们提出了一个非参数延迟反馈模型CVR预测，表示的时间延迟的分布，而不假设一个参数分布，如指数或威布尔分布。因为时间延迟的分布是根据广告的内容和用户的特征来建模的，所以可以潜在地表示分布的各种形状。在实验中，我们表明，该模型可以捕获的时间延迟的分布在一个合成的数据集，即使当分布是复杂的。此外，在一个真实的数据集上，我们证明了该模型在转换率预测方面优于现有的假设时间延迟为指数分布的方法。
2018-02-01 cs.LG stat.AP stat.ML
Capturing Delayed Feedback in Conversion Rate Prediction via Elapsed-Time Sampling
Alibaba（阿里巴巴）
转化率（CVR）预测是数字显示广告最关键的任务之一。商业系统通常需要以在线学习的方式更新模型，以赶上不断发展的数据分布。但是，转换通常不会在用户单击后立即发生。这可能导致不准确的标记，这被称为延迟反馈问题。在以前的研究中，延迟反馈问题是通过等待很长一段时间的积极标签，或通过消耗其到达时的负样本，然后插入一个积极的副本时，转换发生后，处理。事实上，在等待更准确的标签和利用新的数据之间存在权衡，这在现有的工作中没有考虑。为了在这种权衡中取得平衡，我们提出了时间采样延迟反馈模型（ES-DFM），该模型模拟了观察到的转换分布和真实转换分布之间的关系。然后在时间抽样分布下，通过重要性采样优化真实转化率分布的期望。我们进一步估计每个实例的重要性权重，将其用作CVR预测中损失函数的权重。为了证明ES-DFM的有效性，我们对公共数据和私人工业数据集进行了广泛的实验。实验结果证实，我们的方法始终优于以前的国家的最先进的结果。
2021-07-16 cs.LG
Reacting to Variations in Product Demand: An Application for Conversion Rate (CR) Prediction in Sponsored Search
Criteo Labs（科韬实验室）
在在线互联网广告中，机器学习模型被广泛用于计算用户参与产品相关广告的可能性。然而，由于用户和广告商行为的变化，传统机器学习模型的性能经常受到影响。例如，花店的搜索引擎流量通常会在情人节、母亲节等前后达到峰值。为了克服这一挑战，在这篇文章中，我们提出了三种模型，它们能够将由于产品需求变化而产生的影响结合起来。所提出的模型是产品需求特点，专门的数据抽样方法和集成技术的组合。我们证明了我们提出的模型从现实世界的设置获得的数据集上的性能。我们的研究结果表明，所提出的模型更准确地预测用户与产品相关的广告互动的结果，同时对用户和广告商行为的波动具有鲁棒性。
2018-05-25 cs.IR cs.LG cs.SI
Operation-aware Neural Networks for User Response Prediction
Nanjing University（南京大学）
用户反应预测对在线广告系统和推荐系统的快速发展做出了至关重要的贡献。学习特征交互的重要性已经被许多作品所强调。许多深度模型被提出来自动学习高阶特征交互。由于广告系统和推荐系统中的大多数特征都是高维稀疏特征，因此深度模型通常为底层的每个特征学习一个低维的分布式表示。除了传统的全连接架构外，还提出了一些新的操作，如卷积操作和乘积操作，以更好地学习特征交互。在这些模型中，表示在不同的操作之间共享。然而，不同操作的最佳表示可能不同。在本文中，我们提出了一个新的神经模型命名为操作感知神经网络（ONN），学习不同的表示为不同的操作。我们在两个大规模真实世界广告点击/转换数据集上的实验结果表明，ONN在离线训练环境和在线训练环境中的表现始终优于最先进的模型。
2019-04-02 cs.IR cs.LG stat.ML
FedAds: A Benchmark for Privacy-Preserving CVR Estimation with Vertical Federated Learning
Alibaba Group（阿里巴巴集团）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出FedAds，首个基于纵向联邦学习的CVR估计基准，包含阿里巴巴真实数据集和系统评估，旨在标准化vFL算法比较并促进隐私保护研究。
2023-05-15 cs.IR cs.LG
CAMTA: Causal Attention Model for Multi-touch Attribution
Indian Institute of Technology, Kharagpur（印度理工学院克勒格布尔分校）；TCS Research & Innovation（塔塔咨询服务公司研究与创新部）；IIIT-Delhi（德里印度信息技术学院）
广告渠道已经从传统的印刷媒体、广告牌和无线电广告发展到在线数字广告（ad），其中用户经由社交网络、显示广告、搜索等暴露于一系列广告活动。当广告商重新审视广告活动的设计以同时服务于新广告渠道出现的需求时，对于广告商来说，基于客户动作的顺序来估计来自不同渠道上的接触点（观看、点击、转换）的贡献也是至关重要的。这种贡献测量过程通常被称为多点触摸归因（MTA）。在这项工作中，我们提出了CAMTA，这是一种新型的深度递归神经网络架构，它是在观察数据的背景下用户个性化MTA的休闲归因机制。CAMTA最大限度地减少了跨时间步长和接触点的通道分配中的选择偏差。此外，它利用用户的转换前的行为，以原则的方式，以预测前渠道归属。为了定量地对所提出的MTA模型进行基准测试，我们采用了真实世界的Criteo数据集，并证明了CAMTA在预测准确性方面的优越性能。此外，我们提供的预算分配和用户行为建模的预测渠道属性的结果。
2021-02-16 cs.LG
Mixture of Virtual-Kernel Experts for Multi-Objective User Profile Modeling
Tencent Inc.（腾讯公司）
在在线广告和推荐系统等行业应用中，多样化和准确的用户简档可以极大地帮助提高个性化。深度学习被广泛应用于从用户在系统中的历史交互中挖掘对用户的表达性标签，例如，点击，转化动作在广告链中。通常的方法是以某个动作为目标，引入多个独立的Two-Tower模型来预测用户对标签的动作可能性（称为CTR或CVR预测）。预测用户的高吸引力标签代表他们的偏好。然而，单一动作模型不能互补学习，也不能支持对数据稀疏动作的有效培训。此外，由于两个塔之间缺乏信息融合，该模型的学习不足以很好地表示用户对各种标签\textbf{topics}的偏好。本文介绍了一种新的多任务模型称为混合虚拟内核专家（MVKE），学习用户对各种动作和主题的偏好统一。在MVKE中，我们提出了虚拟内核专家的概念，它专注于对用户偏好的一个特定方面进行建模，并且所有这些方面都是协调学习的。此外，MVKE采用基于门的结构，在双塔之间搭建了一座信息融合的桥梁，提高了模型的性能，保持了较高的效率。我们将该模型应用于腾讯广告系统，线上和线下的评估结果表明，该方法较现有方法有了明显的改进，并对实际广告收入带来了明显的提升。
2022-05-31 cs.IR cs.LG
A Lightweight MPC Bidding Framework for Brand Auction Ads
Bytedance Inc.（字节跳动公司）
针对品牌广告的独特属性，提出轻量级模型预测控制竞价框架，利用在线保序回归构建单调竞价-花费和竞价-转化模型，实现高效在线竞价。
2026-06-23 cs.GT cs.LG cs.SY
On Predicting Post-Click Conversion Rate via Counterfactual Inference
Naver Corp.（纳维尔公司）；Seoul National University（首尔国立大学）
针对点击样本稀疏导致的CVR预测偏差问题，提出基于因果反事实推理的ESCIM模型，通过为未点击样本生成反事实转化标签扩充训练数据，在公开数据集和真实场景A/B测试中均取得更优效果。
2025-10-06 cs.AI cs.IR cs.LG
No One Left Behind: How to Exploit the Incomplete and Skewed Multi-Label Data for Conversion Rate Prediction
Peking University（北京大学）；Noah's Ark Lab, Huawei（华为诺亚实验室）；Huawei Technology Co., Ltd.（华为技术有限公司）
本文提出KAML框架，通过细粒度知识转移和分层知识提取机制，解决不完整且偏斜多标签数据下的转化率预测问题。
2025-12-15 cs.AI cs.IR cs.LG
Unbiased Filtering Of Accidental Clicks in Verizon Media Native Advertising
Yahoo Research（雅虎研究院）
针对原生广告中的短停留意外点击导致 CTR 训练偏差的问题，本文用辅助模型估计负事件引发误点的概率并以软标签重分配正样本权重，线上收入提升 1.18%。
2023-12-08 cs.IR cs.LG
A Real-World Implementation of Unbiased Lift-based Bidding System
CyberAgent, Inc.（CyberAgent公司）；University of Southern California（南加州大学）；Cornell University（康奈尔大学）；Hanjuku-kaso Co Ltd（Hanjuku-kaso有限公司）
在实时竞价（RTB）的显示广告拍卖中，典型的需求方平台（DSP）基于广告展示后的预测点击和转化概率进行竞价。最近的研究发现这种策略是次优的，并提出了一种更好的出价策略，称为基于提升的出价，基于提升的出价简单地根据广告印象的提升效果出价，并实现销售等目标指标的最大化。尽管有其优越性，但基于举升的出价尚未被广告业广泛接受。其中一个原因是，在目前的计费规则下，基于电梯的投标对DSP提供商来说利润较低。第二，由于缺乏对其影响的全面调查，基于lift-based竞价的实用性在在线广告行业中并没有得到广泛的理解。我们进行了广泛的实验usinga真实世界的广告活动，并检查在各种设置下的性能。我们发现，升降机为基础的出价，特别是公正的升降机为基础的出价是最有利可图的DSP供应商和广告客户。我们的消融研究强调，电梯为基础的投标有一个很好的属性，目前占主导地位的第一价格拍卖。结果将激励在线
2022-02-23 cs.IR cs.LG
Real Negatives Matter: Continuous Training with Real Negatives for Delayed Feedback Modeling
Alibaba Group（阿里巴巴集团）
转化率（CVR）预测的难点之一是转化可能会延迟，并且在点击之后很长时间才发生。延迟的反馈带来了一个挑战：新鲜的数据有利于连续训练，但在被摄入训练管道时可能没有完整的标签信息。为了平衡模型新鲜度和标签确定性，先前的方法设置短的等待窗口，甚至不等待转换信号。如果转换发生在等待窗口之外，则该样本将被复制并以阳性标签摄取到训练管道中。然而，这些方法存在一些问题。首先，他们假设观察到的特征分布与实际分布保持一致。但由于摄入了重复的样本，这一假设并不成立。第二，转换行动的确定性只来自积极因素。但积极的是稀缺的转换是稀疏的商业系统。这些问题在延迟反馈的建模过程中引起偏差。在本文中，我们提出了延迟反馈建模与真正的消极（DEFER）的方法来解决这些问题。所提出的方法将真实阴性样本摄入训练管道中。摄取真实底片确保观察到的特征分布与实际分布相等，从而减少偏差。摄取真正的底片也带来了更多的转换确定性信息。为了校正分布偏移，DEFER采用重要性采样来加权损失函数。工业数据集上的实验结果验证了DEFER的优越性。DEFER已经在阿里巴巴的展示广告系统中部署，在多个场景中获得了超过6.0%的CVR提升。本文中的代码和数据现在是开源的{https：//github.com/guscumstar/defer.git}。
2021-08-12 cs.LG
DCRMTA: Deep Causal Representation Learning for Multi-Touch Attribution
University of Michigan（密歇根大学）；Beijing Jiaotong University（北京交通大学）
提出端到端框架DCRMTA，通过结构因果建模与自适应反事实注意力扰动保留用户因果信号并解耦混杂，在工业数据上PR-AUC相对提升5.2%，实现稳健的Shapley归因。
2026-09-25 cs.AI cs.LG stat.ME
Fatigue-Aware Ad Creative Selection
CyberAgent, Inc.（赛博艾坚特公司）；Keio University（庆应义塾大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）
在在线展示广告中，为每次展示选择最有效的广告创意（广告图像）是DSP（需求方平台）实现其目标（点击率，转换数量，收入和品牌提升）的关键任务。正如营销文献中广泛认识到的那样，广告创意的效果随着重复广告曝光的数量而变化。在这项研究中，我们提出了一个有效的和易于实现的广告创意选择算法，明确考虑用户的心理状态时，选择广告创意。所提出的系统部署在一个真实的生产环境中，并对基线算法进行了测试。实验结果表明了该算法的优越性。
2020-01-14 cs.CY cs.LG stat.ML
Masked Multi-Domain Network: Multi-Type and Multi-Scenario Conversion Rate Prediction with a Single Model
Alibaba Group（阿里巴巴集团）
针对广告系统中多类型与多场景转化率预测难以兼顾准确性、可扩展性和便捷性的问题，提出掩码多域网络（MMN），通过特定域参数建模、动态加权损失、参数共享与组合及自动掩码策略，实现单一模型的高效高精度预测，已在UC头条上线。
2024-03-26 cs.IR cs.LG
Generative Modeling with Multi-Instance Reward Learning for E-commerce Creative Optimization
针对电商广告创意组合搜索空间庞大且用户反馈稀疏的问题，提出GenCO框架，结合生成式建模与多实例奖励学习，通过强化学习优化生成并精准归因奖励，显著提升了广告收入并开源了数据集。
2025-08-13 cs.LG
A novel auction system for selecting advertisements in Real-Time bidding
Technological University Dublin（都柏林理工大学）；University of Murcia（穆尔西亚大学）
实时的【形】竞价是近年来非常流行的一种新的互联网广告系统。这个系统的工作原理就像一个全球拍卖，广告商出价显示他们的印象在出版商的广告位。最流行的选择哪个广告商赢得每次拍卖的系统是广义第二价格拍卖，其中提供最多的广告商赢得赌注，并收取第二大赌注的价格。在本文中，我们提出了一种新的方法，不仅考虑了经济方面，但也为广告系统的运作其他相关因素的替代投注系统。我们考虑的因素包括，可以给每个广告商带来的好处，广告转换的概率，访问是欺诈性的概率，参与RTB的网络的平衡程度以及广告商是否没有支付超过市场价格的费用。此外，我们提出了一种基于遗传算法的方法来优化每个广告客户的选择。我们还进行了一些实验，以比较所提出的模型与著名的广义第二价格方法的性能。我们认为，这种新方法考虑了除价格之外的更多相关方面，在中长期内为RTB网络提供了更大的好处。
2020-10-22 cs.DS cs.GT cs.LG
The Evolution of Embedding Table Optimization and Multi-Epoch Training in Pinterest Ads Conversion
Pinterest Inc.（Pinterest公司）
本文针对 Pinterest 广告转化模型中大型嵌入表收敛慢和多轮训练过拟合问题，提出频率自适应学习率方法，并与嵌入重新初始化进行离线对比。
2025-05-08 cs.CE cs.IR cs.LG
Multi-channel Autobidding with Budget and ROI Constraints
Google Research（谷歌研究院）；Sloan School of Management, Massachusetts Institute of Technology（麻省理工学院斯隆管理学院）；Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology（麻省理工学院电气工程与计算机科学系）；Operations Research Center, Massachusetts Institute of Technology（麻省理工学院运营研究中心）
针对多渠道广告投放中满足总体预算与ROI约束下最大化转化量的问题，分析单渠道ROI与预算两种调控手段的效果，提出基于老虎机反馈的单渠道预算优化学习算法，可逼近全局最优转化量，且结果适用于单/多品拍卖场景。
2023-06-14 cs.GT cs.LG
Learning in Budgeted Auctions with Spacing Objectives
Cornell University（康奈尔大学）；Microsoft（微软）；Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
该研究针对重复拍卖中获胜/转化需均匀时间间隔的需求，构建带凹价值函数的预算拍卖模型，提出计算高效的$\tilde O(\frac 1 e)$近似的相关结论。
2025-06-12 cs.GT cs.LG
Generative Auto-Bidding in Large-Scale Competitive Auctions via Diffusion Completer-Aligner
Kuaishou Technology（快手科技）；Nanyang Technological University（南洋理工大学）；City University of HongKong（香港城市大学）；Chinese University of HongKong（香港中文大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对扩散模型在自动出价中生成动态合法性不足导致曝光损失的问题，提出基于扩散补全-对齐器的因果自动出价方法CBD，在基准和快手平台均实现性能提升。
2025-09-03 cs.GT cs.LG
