Modelling customer online behaviours with neural networks: applications to conversion prediction and advertising retargeting
GMF Assurances, Groupe Covéa(GMF保险公司,科维亚集团)
在本文中,我们将神经网络应用到数字营销世界中,以更好地定位潜在客户。为此,我们使用专用神经网络架构对客户在线行为进行建模。从用户在搜索引擎中搜索关键字开始到着陆页和不同的后续页面,直到用户离开网站,我们用递归神经网络(RNN)和卷积神经网络(CNN)对整个访问过程进行建模,该网络可以考虑用户搜索关键字和不同访问页面名称的语义。在此模型下,我们使用蒙特卡罗模拟来估计每个潜在客户在未来访问中的转化率。我们相信我们的概念和本文中初步的有希望的结果能够使用大量可用的客户在线行为数据进行高级数字营销分析。
2018-04-20 cs.LG stat.ML
Improving conversion rate prediction via self-supervised pre-training in online advertising
Yahoo Research(雅虎研究院)
针对在线广告点击归因转化数据稀疏且不能用非点击归因数据训练以保障模型校准的问题,提出用在全量转化数据上预训练的自编码器做特征提取增强FM模型,在离线和在线A/B测试中均有提升,已部署于Yahoo原生广告系统。
2024-01-25 cs.IR cs.LG stat.ML
Learning Adaptive Display Exposure for Real-Time Advertising
Tianjin University(天津大学);Alibaba Group(阿里巴巴集团);Shanghai Jiao Tong University(上海交通大学);University College London(伦敦大学学院)
在电子商务广告中,产品推荐和产品广告同时呈现给用户,传统的设置是在固定位置显示广告。然而,在这样的设置下,广告系统失去了控制广告数量和位置的灵活性,导致次优的平台收入和用户体验。因此,主要的电子商务平台(例如,Taobao.com)已经开始考虑更灵活的方式来显示广告。在本文中,我们研究的问题,广告与自适应曝光:我们可以动态地确定广告的数量和位置,为每个用户访问在一定的业务约束,使平台的收入可以增加?更具体地说,我们考虑两种类型的约束:请求级约束确保每次用户访问的用户体验,平台级约束控制整体平台货币化率。我们将这个问题建模为一个具有每状态约束的约束马尔可夫决策过程(psCMDP),并提出了一种约束两级强化学习方法,将原问题分解为两个相对独立的子问题。为了加速策略学习,我们还设计了一个有约束的后见之明经验重放机制。工业规模的真实世界数据集上的实验评估表明,我们的方法在获得更高的收入下的约束和约束后见之明的经验重放机制的有效性的优点。
2019-09-03 cs.AI cs.LG stat.ML
Dynamic Bidding Strategies with Multivariate Feedback Control for Multiple Goals in Display Advertising
Copilot AI;Xaxis
实时竞价(RTB)展示广告是一种在毫秒内发生的拍卖中购买展示广告库存的方法。RTB活动的绩效通常通过一系列关键绩效指标(KPI)来衡量,这些指标用于确保活动具有成本效益,并购买有价值的库存。虽然RTB活动应该理想地满足所有KPI,但同时改进往往非常具有挑战性,因为任何一个KPI的改进都有可能对其他KPI产生不利影响。在这里,我们提出了一种方法,同时控制多个KPI与基于PID的反馈控制系统。该方法基于PID控制器模块的输出和量化每个KPI对于内部业务需求的重要性的度量来为每个KPI生成控制分数。定期,此算法-顺序控制-将选择具有最大总体改进需求的KPI。通过这种方式,我们的算法能够不断寻求对其当前状态的最大边际改进。多个控制方法可以与每个KPI相关联,并且可以同时触发或随机选择,以避免局部最优。在离线广告竞价模拟和实时流量测试中,我们的方法被证明可以有效地同时控制多个KPI,并使它们达到各自的目标。
2020-06-01 cs.GT cs.LG stat.ML
Field-weighted Factorization Machines for Click-Through Rate Prediction in Display Advertising
Yahoo Research(雅虎研究院);TouchPal Inc.(触宝公司);UC Berkeley(加州大学伯克利分校);LinkedIn Corporation(领英公司);Ablibaba Group(阿里巴巴集团)
点击率(CTR)预测是在线展示广告中的一项关键任务。CTR预测中涉及的数据通常是多字段分类数据,即,每个特征都是分类的,并且属于一个且仅属于一个字段。这种数据的一个有趣的特征是,来自一个领域的特征通常与来自不同其他领域的特征以不同的方式相互作用。最近,场感知因子分解机(FFM)已经通过显式地建模这种差异而成为CTR预测的最佳模型之一。然而,FFM中的参数数量是特征数量乘以字段数量的顺序,这在现实世界的生产系统中是不可接受的。在本文中,我们提出了字段加权因子分解机(FwFM),以一种更有效的方式来模拟不同字段之间的不同特征交互。我们的实验评估表明,FwFM可以实现有竞争力的预测性能,只有4%的FFM参数。当使用相同数量的参数时,在两个真实CTR预测数据集上,FwFM可以使FFM的AUC提升0.92%和0.47%。
2020-03-08 cs.LG stat.ML
Stochastic Blockmodeling for Online Advertising
网络广告是一个重要而巨大的产业。了解网站属性可以大大有助于广告定位,内容展示,库存购买或收入预测的业务策略。由于数据的海量、稀疏、高维和噪声,对用户和站点的经典推理提出了挑战。在本文中,我们介绍了一个随机块模型的网站关系引起的事件的在线用户访问。我们提出了两种聚类算法来发现网站的内在结构,并比较了性能的拟合优度方法和确定性图划分方法。我们证明了我们的算法在模拟和AOL网站数据集的有效性。
2014-11-17 stat.AP stat.ML
Real-Time Bidding with Multi-Agent Reinforcement Learning in Display Advertising
Alibaba Group(阿里巴巴集团);University College London(伦敦大学学院);Shanghai JiaoTong University(上海交通大学)
实时广告允许广告商为访问用户的每个印象出价。为了优化特定的目标,如最大化的收入和投资回报率(ROI)的广告投放,广告客户不仅需要估计广告和用户的兴趣之间的相关性,但最重要的是需要一个战略响应相对于其他广告客户在市场上出价。在本文中,我们制定投标优化与多智能体强化学习。为了处理大量的广告客户,我们提出了一种聚类方法,并为每个聚类分配一个策略投标代理。提出并实现了一种实用的分布式协调多代理竞价系统(DCMAB),以平衡广告主之间的竞争与合作。对行业规模的真实世界数据的实证研究证明了我们的方法的有效性。我们的研究结果表明,基于集群的投标将在很大程度上优于单代理和土匪的方法,和协调投标实现更好的整体目标比纯粹的自利投标代理。
2018-09-11 cs.AI cs.LG stat.ML
Targeted display advertising: the case of preferential attachment
University of Minnesota Twin Cities(明尼苏达大学双城分校);Criteo AI Lab(Criteo人工智能实验室);Virginia Tech(弗吉尼亚理工大学)
一个普通的成年人每天都会接触到数百个数字广告(https://www.mediadadminicsinc.com/uploads/files/PR092214-Note-only-150-Ads-2mk.pdf),这使得数字广告行业成为大数据驱动平台的经典例子。因此,广告技术行业依赖于历史参与日志(点击或购买)来识别合作伙伴(希望为其产品定位用户的卖家)的广告活动的潜在感兴趣的用户。为合作伙伴显示的广告的数量以及因此可用于合作伙伴的历史活动数据取决于合作伙伴的预算约束。因此,高预算合作伙伴可以收集足够的数据来做出准确的预测,而低预算合作伙伴则不然。数据的这种偏斜分布导致目标显示广告平台对高预算合作伙伴的“优先附件”。在本文中,我们开发了“领域适应”方法来解决预测数据不足的合作伙伴感兴趣的用户的挑战,即,尾巴伙伴具体来说,我们开发了简单而有效的方法,利用合作伙伴之间的相似性,将信息从具有足够数据的合作伙伴转移到冷启动合作伙伴,即,没有任何活动数据的合作伙伴。我们的方法很容易适应新的运动数据的增量微调,因此工作在不同点的运动,而不仅仅是冷启动。我们提出了一个主要的显示广告平台(https://www.criteo.com/)的历史日志的实验分析。具体来说,我们在149个合作伙伴的活动的不同阶段评估了我们的方法。实验结果表明,所提出的方法优于其他“域适应”的方法在不同的时间点的运动。
2020-02-07 cs.IR cs.LG cs.SI
Optimal Delivery with Budget Constraint in E-Commerce Advertising
Alibaba Group(阿里巴巴集团)
电子商业平台中的在线广告为卖家提供了一个机会,以实现具有不同目标的潜在受众。将广告分配到页面的广告服务系统(如显示和搜索广告系统)应满足目标,例如品牌广告商的大量受众,基于性能的广告商的点击或转换,同时尝试最大化平台的整体收入。在本文中,我们提出了一种基于线性规划受约束的方法,以优化收入,同时提高不同的性能目标。通过在阿里巴巴电子商业平台上实现一个离线仿真系统,并在考虑系统性能、排名和定价模式的情况下运行在线请求的拍卖,验证了我们的算法。我们还将我们的算法与相关工作进行了比较,结果表明,我们的算法可以有效地提高活动的性能和平台的收入。
2019-10-08 cs.AI cs.LG stat.ML
Deep Neural Net with Attention for Multi-channel Multi-touch Attribution
Adobe(奥多比)
客户通常会接触到在线数字广告渠道,如电子邮件营销,展示广告,付费搜索引擎营销,在他们购买或订阅产品(又名。转换)。营销人员跟踪所有的客户旅程数据,并试图衡量每个广告渠道的有效性.对各渠道影响的推断在预算分配和库存定价决策中起着重要的作用。几种简单的基于规则的策略和数据驱动的算法策略在营销领域得到了广泛的应用,但它们并没有解决渠道交互、时间依赖、用户特征等问题。在本文中,我们提出了一种基于深度学习的新型归因算法,以评估每个广告渠道的影响。我们提出了带注意力的深度神经网络多点触摸归因模型(DNAMTA),该模型以监督学习的方式预测一系列事件是否会导致转换,它使我们对媒体渠道之间的动态交互效应有了深入的了解。DNAMTA还结合了用户背景信息,如用户人口统计和行为,作为控制变量,以减少媒体效果的估计偏差。我们使用大型真实世界营销数据集的计算实验来证明我们提出的模型在转化预测和媒体渠道影响力评估方面都优于现有方法。
2018-09-06 cs.LG stat.ML
Dynamic Hierarchical Empirical Bayes: A Predictive Model Applied to Online Advertising
Adobe(奥多比公司)
预测关键词性能,如印象数、点击率(CTR)、转化率(CVR)、每次点击收入(RPC)和每次点击成本(CPC),对于在线广告行业的赞助搜索至关重要。一个有趣的现象是,尽管总体数据很大,但在单个单元级别上数据非常稀疏。为了克服稀疏性并利用数据结构中的分层信息,我们提出了一种动态分层经验贝叶斯(DHEB)模型,该模型通过数据驱动的过程动态确定层次结构,并提供基于收缩的估计。我们的方法还配备了一个有效的经验方法,通过层次结构推导出的推论。我们在模拟和真实世界的数据集,并比较几个竞争模型所提出的方法。结果表明,在所有的比较中,无论是准确性和效率的建议方法。最后,我们设计了一个两阶段的系统,以服务于实时预测。
2018-09-06 cs.LG stat.ML
Online Evaluation of Audiences for Targeted Advertising via Bandit Experiments
Stanford University(斯坦福大学)
实施数字广告活动的公司在确定广告创意与目标受众之间的正确匹配方面面临着一个复杂的问题。解决这个问题的典型方法是利用非实验性的方法,或者使用“分裂测试”策略,这些策略没有明确解决目标受众可能相互重叠所引起的复杂性。本文提出了一种自适应算法,通过在线实验来解决这个问题。该算法被设置为一个上下文强盗和解决重叠的问题,通过划分的目标受众到不相交的,不重叠的子群体。它在不相交空间中学习最佳创意展示策略,同时并行评估哪个创意在可能重叠的目标受众空间中具有最佳匹配。实验结果表明,该方法是更有效的相比,天真的“分裂测试”或非自适应的“A/B/n”测试的方法。我们还描述了一个测试产品,我们建立了使用该算法。该产品目前部署在JD.com的广告平台上,这是一家电子商务公司,也是中国的数字广告发布商。
2019-09-04 cs.LG stat.ML
Causal Inference on Stopped Random Walks in Online Advertising
Jia Yuan Yu(尤家元)
本研究通过停止随机游走模型和预算分割设计,构建在线广告中长期处理效应的置信区间。
2026-02-05 cs.LG stat.ME stat.ML
An Analysis of Selection Bias Issue for Online Advertising
Yahoo Japan Corporation(雅虎日本公司)
在在线广告中,一组潜在的广告可以通过某个拍卖系统进行排名,其中通常前1个广告将被选择并显示在广告空间处。在本文中,我们展示了一个选择偏差的问题,是目前在拍卖系统。我们分析了选择偏差破坏了拍卖的真实性,这意味着拍卖中的买家(广告商)不能最大化他们的利润。虽然选择偏差在统计学领域是众所周知的,并且有很多关于它的研究,但我们的主要贡献是将选择偏差的理论分析与拍卖机制结合起来。在我们的实验中,使用在线A/B测试,我们评估的选择偏差的拍卖系统的排名分数是预测的CTR(点击率)的广告。实验表明,通过使用学习所有广告数据的多任务学习,选择偏差大大减少。
2022-06-07 cs.GT cs.IR cs.LG
Dynamic Knapsack Optimization Towards Efficient Multi-Channel Sequential Advertising
Tianjin University(天津大学);Alimama, Alibaba Group(阿里妈妈,阿里巴巴集团);Tsinghua University(清华大学);Shanghai Jiao Tong University(上海交通大学)
在电子商务中,广告对于商家接触目标用户至关重要。典型的目标是在预算约束下最大化广告客户在一段时间内的累积收入。在实际应用中,广告(ad)通常需要多次暴露给同一用户,直到用户最终贡献收入(例如,下订单)。然而,现有的广告系统主要关注单次广告曝光的即时收入,忽略了每次曝光对最终转化的贡献,因此通常陷入次优解决方案。在本文中,我们将顺序广告策略优化描述为一个动态背包问题。我们提出了一个理论上有保证的双层优化框架,它大大减少了原来的优化空间的解决方案空间,同时确保解决方案的质量。为了提高强化学习的探索效率,我们还设计了一种有效的动作空间缩减方法。大量的离线和在线实验表明,我们的方法在累积收入方面优于最先进的基线。
2020-06-29 cs.DS cs.IR cs.LG
Multi-Manifold Learning for Large-scale Targeted Advertising System
NAVER Corp.(Naver公司)
信使广告(广告)提供直接和个人的用户体验,从而产生高转化率和销售。然而,人们对广告持怀疑态度,有时将其视为垃圾邮件,最终导致用户满意度下降。强烈需要有针对性的广告,即向可能对特定广告信息感兴趣的个人提供广告。精确用户定位成功的关键在于学习嵌入空间中的准确用户和广告表示。以前的大多数研究都限制了在欧几里得空间中的表示学习,但最近的研究表明,双曲流形学习的复杂网络属性的不同投影出现在现实世界的数据集,如社交网络,推荐系统和广告。我们提出了一个框架,可以有效地学习在双曲空间上的用户和广告的层次结构,并扩展到多流形学习。我们的方法构造多个双曲流形与可学习的曲率和映射的表示用户和广告到每个流形。每个流形的原点被设置为每个用户聚类的质心。使用双曲空间中两个实体之间的距离来估计每个广告的用户偏好,并且通过聚合从学习的多个流形计算的值来确定最终预测。我们在公共基准数据集和大型商业信使系统LINE上评估了我们的方法,并通过提高性能证明了其有效性。
2020-07-08 cs.LG stat.ML
An Enhanced Ad Event-Prediction Method Based on Feature Engineering
SKYLADS(SKYLADS公司)
在数字广告中,点击率(CTR)和转化率(CVR)是评估广告效果的重要指标。因此,广告事件预测系统是至关重要的,并广泛用于赞助搜索和显示广告以及实时竞价(RTB)。在这项工作中,我们介绍了一种增强的方法,广告事件预测(即点击,转换),提出了一种新的高效的功能工程方法。一个大型的真实世界的基于事件的数据集的运行营销活动被用来评估所提出的预测算法的效率。结果表明,所提出的广告事件预测方法的好处,这显着优于替代的。
2019-07-03 cs.LG stat.ML
MCNet: Monotonic Calibration Networks for Expressive Uncertainty Calibration in Online Advertising
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);The HK PolyU(香港理工大学);Tsinghua University(清华大学)
提出单调校准网络MCNet,通过单调校准函数、保序正则化器和字段平衡正则化器,在在线广告中实现表达性更强、上下文感知且性能均衡的不确定性校准。
2025-03-01 cs.AI cs.LG stat.ML
Online Joint Bid/Daily Budget Optimization of Internet Advertising Campaigns
Politecnico di Milano(米兰理工大学)
按点击付费广告包括各种形式(\emph{e.g.}、搜索、上下文、社交),全球每年的总投资超过2000亿美元。广告主每天都有预算分配几个,甚至数千个活动,主要是区分广告,目标或渠道。此外,发布商选择要显示的广告以及如何使用拍卖机制来分配它们,在拍卖机制中,广告商每天为每个活动设置与他们愿意支付的每次点击的最大金额和每日预算的一部分相对应的出价。在本文中,我们研究的问题,自动化的在线联合投标/每日预算优化付费点击广告活动在多个渠道。我们制定我们的问题作为一个组合半强盗问题,这需要解决一个特殊的情况下,多选择背包问题的每一天。此外,对于每个广告系列,我们通过高斯过程捕获点击次数对出价和每日预算的依赖性,因此需要对这些函数的规律性进行温和的假设。我们设计了四个算法,并表明他们遭受的遗憾,这是一个上限的高概率为O(sqrt{T}),其中T是学习过程的时间范围。我们实验评估我们的算法与合成设置从雅虎的真实数据生成,我们提出了在现实世界的应用程序中采用我们的算法的结果,每天平均花费1,000欧元超过一年。
2020-03-03 cs.LG stat.ML
A Nonparametric Delayed Feedback Model for Conversion Rate Prediction
Chiba Institute of Technology(千叶工业大学);CyberAgent, Inc.(CyberAgent公司)
预测显示广告中的转化率(CVR)(例如,预测购买物品的用户的比例(即,转换)在其相应的广告被点击之后)在测量向用户显示的广告的效果和理解用户的兴趣时是重要的。通常存在时间延迟(即,所谓的{ \it延迟反馈})。由于延迟的反馈,在观察周期之后转换的样本可以被视为负的。为了克服这个缺点,已经提出了假设时间延迟遵循指数分布的CVR预测。然而,在实践中,不能保证延迟是从指数分布产生的,并且表示延迟的最佳分布取决于数据。在本文中,我们提出了一个非参数延迟反馈模型CVR预测,表示的时间延迟的分布,而不假设一个参数分布,如指数或威布尔分布。因为时间延迟的分布是根据广告的内容和用户的特征来建模的,所以可以潜在地表示分布的各种形状。在实验中,我们表明,该模型可以捕获的时间延迟的分布在一个合成的数据集,即使当分布是复杂的。此外,在一个真实的数据集上,我们证明了该模型在转换率预测方面优于现有的假设时间延迟为指数分布的方法。
2018-02-01 cs.LG stat.AP stat.ML
Online Model Evaluation in a Large-Scale Computational Advertising Platform
Turn Inc.(Turn公司)
在线媒体为营销人员提供了机会,通过这些机会,他们可以向广泛的受众传递有效的品牌信息。广告技术平台使广告商能够通过实时的向在线用户传递广告印象来接触目标受众。为了为用户识别最佳营销信息并以合适的价格购买展示,我们在很大程度上依赖于出价预测和优化模型。尽管投标预测模型在文献中得到了很好的研究,但同样重要的模型评估问题通常被忽视。有效和可靠地评估在线投标模型对于更快地改进模型以及更有效地利用营销预算至关重要。在本文中,我们提出了一个实验框架,投标预测模型,我们的重点是模型评估的实际方面。具体来说,我们概述了我们在平台上遇到的独特挑战,这些挑战是由于各种因素造成的,例如异构的目标定义、不同活动的预算要求、高季节性和基于拍卖的库存采购环境。然后,我们引入投资回报率(ROI)作为统一的模型性能(即,成功)指标,并解释其相对于点击率(CTR)或转化率(CVR)等传统指标的优点。最重要的是,我们详细讨论了常用的评估和度量摘要方法,并提出了一种更准确的方法,用于在线评估新的实验模型对基线。我们的基于荟萃分析的方法解决了其他方法的各种缺点,并产生统计上可靠的结论,使我们能够以可靠的方式更快地得出实验结论。我们证明了我们的评估策略的有效性,通过一些实验的真实活动数据。
2015-08-31 cs.AI stat.ME stat.ML
Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate
Alibaba Inc.(阿里巴巴公司)
准确估计点击后转化率(CVR)对于推荐和广告等行业应用中的排名系统至关重要。传统的CVR建模应用流行的深度学习方法并实现最先进的性能。然而,它在实践中遇到了一些特定于任务的问题,使得CVR建模具有挑战性。例如,传统的CVR模型使用点击印象的样本进行训练,同时用于使用所有印象的样本对整个空间进行推断。这就造成了样本选择偏差的问题。此外,存在一个极端的数据稀疏性问题,使模型拟合相当困难。本文从一个全新的角度对CVR进行建模,充分利用了用户行为的序列模式,印象->点击->转化。所提出的全空间多任务模型(ESMM)可以通过i)直接在整个空间上对CVR建模,ii)采用特征表示迁移学习策略来同时消除这两个问题。在淘宝网推荐系统的数据集上的实验表明,ESMM的性能明显优于竞争对手的方法。我们还发布了该数据集的采样版本,以支持未来的研究。据我们所知,这是第一个包含CVR建模中点击和转换标签顺序依赖样本的公共数据集。
2018-04-24 cs.IR cs.LG stat.ML