A Learning-based Optimal Market Bidding Strategy for Price-Maker Energy Storage
University of California, Berkeley(加州大学伯克利分校)
具有存储单元的负荷服务实体达到可以显著影响电力市场中的清算价格的大小和性能。然而,价格内生性很少被考虑在存储报价策略和建模电力市场是一项具有挑战性的任务。与此同时,无模型强化学习(如Actor-Critic)在设计能源系统控制器方面越来越受欢迎。然而,实施通常需要冗长、数据密集和不安全的试错训练。为了填补这些空白,我们实现了一个在线的监督Actor-Critic(SAC)算法,监督与基于模型的控制器-模型预测控制(MPC)。能量存储代理使用该算法进行训练,以在学习和调整其对市场清算价格的影响的同时进行最佳出价。我们将有监督的Actor-Critic算法与MPC算法作为监督者进行了比较,发现前者通过学习获得了更高的利润。因此,我们的贡献,是一个在线和安全的SAC算法,优于目前基于模型的国家的最先进的。
2021-06-04 cs.LG cs.SY eess.SY
Arbitrary Distribution Modeling with Censorship in Real-Time Bidding Advertising
FreeWheel;Northwestern University(西北大学)
库存定价的目的是为在线广告机会提供合适的价格,这对于需求方平台(DSP)在实时的【形】竞价(RTB)中赢得广告拍卖至关重要。在规划阶段,广告主需要概率模型的预测来做出投标决策。但是,以往的研究大多对中标价格的分布形式进行了强有力的假设,这降低了它们的准确性,削弱了它们进行概括的能力。虽然最近的一些工作试图直接拟合分布,但其复杂的结构缺乏在线推理的效率。在本文中,我们设计了一个新的损失函数,邻域似然损失(NLL),与一个建议的框架,任意分布模型(ADM)合作,预测获胜的价格分布下审查,没有预先假设。我们在两个真实世界的实验数据集和一个大规模的非模拟生产数据集上进行了实验。实验表明,ADM在算法和业务指标上都优于基线。通过回放生产环境的历史数据,该方法在我们的系统中显示出良好的良率。在没有任何预先假设的具体分销形式的情况下,ADM在有效性和效率方面表现出显着的优势,证明了其在建模复杂价格格局方面的强大能力。
2021-10-26 cs.LG
Bid Optimization using Maximum Entropy Reinforcement Learning
University of Electronic Science and Technology of China(电子科技大学)
实时竞价(RTB)已经成为网络广告的一种重要方式。在RTB中,广告商可以参与竞价广告印象以显示其广告。广告主根据自己的竞价策略来确定每一次展示的竞价价格。因此,一个好的竞价策略可以帮助广告主提高成本效益。本文重点研究了在RTB中使用强化学习(RL)优化单个广告主的竞价策略。不幸的是,由于RTB环境的高度动态性,通过RL在印象粒度上优化投标策略是具有挑战性的。在本文中,我们首先利用一个广泛接受的线性投标函数来计算每个印象的底价,并优化它的可变调整因子来自RTB拍卖环境,以避免优化每个印象的投标价格直接。具体来说,我们使用最大熵RL算法(软演员-评论家),以优化调整因子生成策略的印象粒度的水平。最后,在一个公开数据集上的实证研究表明,所提出的报价策略具有优越的性能相比,基线。
2021-10-11 cs.AI cs.GT cs.LG
Learn to Bid as a Price-Maker Wind Power Producer
本文提出一种在线学习算法,通过上下文信息优化价格制定者设定下的风力发电生产商出价,以最小化遗憾并提升市场竞争力。
2025-10-08 cs.LG cs.SY eess.SY
ML-Based Bidding Price Prediction for Pay-As-Bid Ancillary Services Markets: A Use Case in the German Control Reserve Market
Fraunhofer Institute for Manufacturing Engineering and Automation(弗劳恩霍夫制造工程与自动化研究所)
针对德国控制储备市场等按报价付费辅助服务市场参与者竞价策略简单、收入未达最大化的问题,提出含偏移调整技术的机器学习竞价价格预测方法,通过评估多模型提升潜在收入27.43%-37.31%,助力优化策略并增强电网稳定性。
2025-03-21 cs.CE cs.LG stat.AP
Machine Learning-Driven Virtual Bidding with Electricity Market Efficiency Analysis
提出了一种基于机器学习的电力市场虚拟竞价投资组合优化框架,该框架同时考虑了风险约束和价格敏感性。算法交易策略是从自营交易公司的角度开发的,以实现利润最大化。利用市场出清算法的小时间依赖性,建立了基于递归神经网络的LMP价差预测模型。利用所提出的约束梯度提升树,将LMP价差对净虚拟报价的灵敏度建模为单调函数。我们利用所提出的算法虚拟投标交易策略来评估虚拟投标组合的盈利能力和美国批发电力市场的效率。对PJM、ISO-NE和CAISO的综合实证分析表明,考虑价格敏感性的虚拟投标组合优化策略明显优于忽略价格敏感性的虚拟投标组合优化策略。所有三个电力市场的虚拟投标组合的夏普比率都远高于标准普尔500指数。CAISO的双结算系统的效率低于PJM和ISO-NE。
2021-04-06 cs.LG
HOB: A Holistically Optimized Bidding Strategy under Heterogeneous Bidding Environments
Alibaba Group(阿里巴巴集团);Tsinghua University(清华大学)
针对异构渠道中的广告竞价优化问题,提出HOB策略,通过可计算且可对齐的边际成本(MC)协调不同渠道,并采用零膨胀指数分布建模非均匀一价拍卖,实现全局MC均衡,显著提升GMV。
2026-06-26 cs.GT cs.IR cs.LG
Deep Learning-Based Electricity Price Forecast for Virtual Bidding in Wholesale Electricity Market
Wayne State University(韦恩州立大学);Northville High School(诺维尔高中);Greenwich Commodities LLC(格林威治商品有限责任公司)
提出基于 Transformer 的 ERCOT 日前—实时电价价差预测模型,并结合每周滚动验证与交易回测,发现高峰时段策略可获得近乎稳定的累计利润。
2024-11-25 cs.LG q-fin.CP
An Efficient Deep Distribution Network for Bid Shading in First-Price Auctions
Yahoo Research(雅虎研究院);Verizon Media(威瑞森传媒);Tencent(腾讯)
自2019年以来,在线广告行业的大多数广告交易所和卖方平台(SSP)从第二价格拍卖转向第一价格拍卖。由于这些拍卖之间的根本差异,需求方平台(DSP)不得不更新其投标策略,以避免出价不必要的高,从而支付过高。出价遮蔽被提出来调整第二价格拍卖的出价,以平衡第一价格拍卖中的成本和获胜概率。在这项研究中,我们引入了一种新的深度分布网络,用于开放(非审查)和封闭(审查)在线一价拍卖中的最优投标。离线和在线A/B测试结果表明,我们的算法优于以前的最先进的算法在盈余和有效的每动作成本(eCPX)指标。此外,该算法在运行时进行了优化,并已部署到VerizonMedia DSP中作为生产算法,每天服务数千亿个投标请求。在线A/B测试表明,广告主的ROI分别提高了+2.4%,+2.4%,+8.6%,基于印象(CPM),基于点击(CPC)和基于转换(CPA)的活动。
2021-07-15 cs.GT cs.LG stat.ML
Strategically-Robust Learning Algorithms for Bidding in First-Price Auctions
Columbia University(哥伦比亚大学);Google Research(谷歌研究院)
本文针对第一价格拍卖提出基于凹规划和自然梯度上升的出价学习算法,首次同时实现最优遗憾(对手环境 $O(\sqrt{T})$,随机环境 $O(\log T)$)与策略鲁棒性和激励相容性。
2024-07-07 cs.GT cs.LG
Learning to Bid Optimally and Efficiently in Adversarial First-price Auctions
Courant Institute of Mathematical Sciences and the Center for Data Science, New York University(Courant数学科学研究所和数据科学中心,纽约大学);Stern School of Business, New York University(商学院,纽约大学);Department of Electrical Engineering, Stanford University(电气工程系,斯坦福大学);Yahoo! Research at Verizon Media(Verizon Media的Yahoo!研究)
针对首价拍卖中投标人面临的最优出价问题,提出首个极小极大最优在线出价算法,实现$\widetilde{O}(\sqrt{T})$遗憾,并通过层次化专家链结构改进为计算高效版本,在真实数据集上验证了优越性能。
2025-09-24 cs.GT cs.IT cs.LG
No-regret Learning in Repeated First-Price Auctions with Budget Constraints
Peking University(北京大学);Zhejiang University(浙江大学);Shanghai Jiaotong University(上海交通大学)
最近,在线广告市场已经呈现出从第二价格拍卖到第一价格拍卖的逐渐转变。虽然已经有一系列的工作,关于网上投标策略在一价拍卖,它仍然是开放的,如何处理预算约束的问题。在本文中,我们提出了一个买家的预算学习在线投标策略在重复的第一价格拍卖。针对静态竞争下的最优非预期策略,提出了一种基于RL的竞价算法。我们的算法获得$\widetilde O(\sqrt T)$ -如果出价都在每轮结束时显示,则表示遗憾。在每轮投标后买方只能看到中标者的限制下,我们的改进算法利用生存分析的技术得到$\widetilde O(T^{\frac{7}{12}})$ -后悔。我们的分析扩展到更一般的情况下,买方有任何有界的瞬时效用函数的遗憾相同的顺序。
2022-05-29 cs.GT cs.LG
A Real-World Implementation of Unbiased Lift-based Bidding System
CyberAgent, Inc.(CyberAgent公司);University of Southern California(南加州大学);Cornell University(康奈尔大学);Hanjuku-kaso Co Ltd(Hanjuku-kaso有限公司)
在实时竞价(RTB)的显示广告拍卖中,典型的需求方平台(DSP)基于广告展示后的预测点击和转化概率进行竞价。最近的研究发现这种策略是次优的,并提出了一种更好的出价策略,称为基于提升的出价,基于提升的出价简单地根据广告印象的提升效果出价,并实现销售等目标指标的最大化。尽管有其优越性,但基于举升的出价尚未被广告业广泛接受。其中一个原因是,在目前的计费规则下,基于电梯的投标对DSP提供商来说利润较低。第二,由于缺乏对其影响的全面调查,基于lift-based竞价的实用性在在线广告行业中并没有得到广泛的理解。我们进行了广泛的实验usinga真实世界的广告活动,并检查在各种设置下的性能。我们发现,升降机为基础的出价,特别是公正的升降机为基础的出价是最有利可图的DSP供应商和广告客户。我们的消融研究强调,电梯为基础的投标有一个很好的属性,目前占主导地位的第一价格拍卖。结果将激励在线
2022-02-23 cs.IR cs.LG
A General Stochastic Optimization Framework for Convergence Bidding
Invenia Labs(因维尼亚实验室)
收敛(虚拟)竞价是两结算电力市场的重要组成部分,它可以有效地减少日前市场和实时市场之间的差异。因此,有广泛的研究投标策略的虚拟参与者,旨在获得最佳的出价提交给日前的市场。在本文中,我们引入了一个基于价格的一般随机最优化框架,以获得最优收敛投标曲线。在此框架内,我们开发了一个计算易处理的线性规划为基础的最优化模型,同时产生投标价格和数量。我们还表明,不同的近似和简化的一般模型自然导致国家的最先进的收敛投标方法,如自调度和机会主义的方法。我们的一般框架还提供了一种简单的方法来比较这些模型的性能,这是由加州(CAISO)市场上的数值实验证明。
2023-02-07 cs.GT cs.LG eess.SP
Improving Real-Time Bidding in Online Advertising Using Markov Decision Processes and Machine Learning Techniques
Birla Institute of Technology and Science(贝拉理工科学技术学院)
本文提出一种结合深度学习和强化学习的实时竞价方法,利用深度神经网络预测拍卖细节与价格,强化学习确定最优出价,在iPinYou数据集上验证了其成本效益和精度优势。
2023-05-05 cs.IR cs.LG
Joint Value Estimation and Bidding in Repeated First-Price Auctions
Courant Institute of Mathematical Sciences(Courant数学科学研究所);New York University(纽约大学);Center for Data Science(数据科学中心);Stern School of Business(斯特恩商学院);Arena Technologies(Arena技术公司)
本文研究重复第一价格拍卖中的 regrets 最小化问题,提出结合因果推断的算法,在不同反馈类型下实现近最优 regret 绑定。
2026-03-17 cs.GT cs.IT cs.LG
Algorithmic Bidding for Virtual Trading in Electricity Markets
Cornell University(康奈尔大学)
研究了两结算电力市场中虚拟交易的最优报价问题。虚拟交易者的目标是利用前一天和实时市场价格之间的差异进行套利;然而,这两种价格都是随机的,市场参与者不知道。提出了一种在线学习算法,通过在每个交易时段中将交易者的预算分配给他对K个期权的出价,来最大化有限个交易时段的累积收益。结果表明,所提出的算法收敛,几乎最优的收敛速度,对应的情况下,当潜在的价格分布是已知的全局最优。所提出的算法也推广到交易策略的风险措施。通过使用累积回报和夏普比率作为绩效指标,根据NYISO和PJM市场十年的历史数据进行评估。结果表明,该战略优于标准基准和标准普尔500指数在同一时期。
2018-07-31 cs.CR cs.GT cs.LG
A novel auction system for selecting advertisements in Real-Time bidding
Technological University Dublin(都柏林理工大学);University of Murcia(穆尔西亚大学)
实时的【形】竞价是近年来非常流行的一种新的互联网广告系统。这个系统的工作原理就像一个全球拍卖,广告商出价显示他们的印象在出版商的广告位。最流行的选择哪个广告商赢得每次拍卖的系统是广义第二价格拍卖,其中提供最多的广告商赢得赌注,并收取第二大赌注的价格。在本文中,我们提出了一种新的方法,不仅考虑了经济方面,但也为广告系统的运作其他相关因素的替代投注系统。我们考虑的因素包括,可以给每个广告商带来的好处,广告转换的概率,访问是欺诈性的概率,参与RTB的网络的平衡程度以及广告商是否没有支付超过市场价格的费用。此外,我们提出了一种基于遗传算法的方法来优化每个广告客户的选择。我们还进行了一些实验,以比较所提出的模型与著名的广义第二价格方法的性能。我们认为,这种新方法考虑了除价格之外的更多相关方面,在中长期内为RTB网络提供了更大的好处。
2020-10-22 cs.DS cs.GT cs.LG
Temporal-Aware Deep Reinforcement Learning for Energy Storage Bidding in Energy and Contingency Reserve Markets
Monash University(莫纳什大学);University of Electronic Science and Technology of China(电子科技大学)
针对BESS在价格不确定下多市场联合竞价难题,提出基于transformer时间特征提取的DRL策略,在澳大利亚七个现货与应急FCAS市场中显著提升收益和可解释性。
2024-02-29 cs.LG cs.SY eess.SY
Energy Storage Arbitrage in Two-settlement Markets: A Transformer-Based Approach
Columbia University(哥伦比亚大学)
本文提出一种集成日前与实时市场的储能 bidding 模型,利用 Transformer 预测实时价格指导日前 bidding,并结合 LSTM-动态规划混合模型进行实时 bidding,在 New York State 数据上实现利润近 20% 增长且降低风险。
2024-04-26 cs.GT cs.LG cs.SY
Electricity price forecasting across Norway's five bidding zones in the post-crisis era
Independent researcher(独立研究者);Department of Mathematics, University of Oslo(奥斯陆大学数学系);Department of Computer Science, The Arctic University of Norway(挪威北极大学计算机科学系);Faculty of Medicine, University of Oslo(奥斯陆大学医学院)
本文研究了挪威五个竞价区在能源危机后电力价格预测的问题,通过构建多模态数据集并评估了八种预测模型,发现LightGBM在所有区域表现最佳,同时强调了外部特征在不同市场状况下的重要性。
2026-06-03 cs.LG econ.GN q-fin.EC
Efficient Algorithms for Stochastic Repeated Second-price Auctions
ENS Paris(巴黎高等师范学院);Université PSL(巴黎文理研究大学);mercis Group(1000mercis集团);INRIA(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);UMPA(纯粹与应用数学研究所);ENS Lyon(里昂高等师范学院)
在各种市场营销任务中,为重复拍卖开发有效的顺序投标策略是一个重要的实际挑战。在这种情况下,投标代理人只有在赢得拍卖时才能获得关于出售物品的价值和其他投标人的行为的信息。标准的强盗理论不适用于这个问题,由于存在行动依赖的审查。在这项工作中,我们考虑第二价格拍卖,并提出了新的,高效的UCB类算法完成这项任务。这些算法进行了分析,在随机设置,假设规则的分布对手的出价。我们提供了遗憾的上限,量化的改进在文献中提出的基线算法。这种改善在拍卖物品价值较低的情况下尤其显著,从而使最坏情况下的遗憾程度显著降低。我们进一步提供了第一个参数下限这个问题,适用于通用的UCB类策略。作为一种替代方案,我们提出了更容易解释的策略,这让人想起探索然后提交强盗算法。我们对此类策略进行了批判性分析,展示了重要的优势和局限性。特别是,我们提供了一个极大极小的下限,并提出了一个近极大极小最优的实例,这个类。
2021-02-26 cs.LG stat.ML
Deep Landscape Forecasting for Real-time Bidding Advertising
Shanghai Jiao Tong University(上海交通大学)
在线广告中实时的【形】拍卖的出现引起了对市场竞争建模的巨大关注,即,景观预测该问题被公式化为预测每个广告拍卖的市场价格的概率分布。考虑到第二价格拍卖机制所带来的审查问题,许多研究者将医学研究领域的生存分析引入到竞价景观预测中。然而,大多数现有的解决方案主要集中在基于计数的统计的分割样本聚类,或学习一个参数化模型的基础上的一些启发式假设的分布形式。此外,他们也没有考虑该功能在价格空间上的序列模式。为了在数据的细粒度级别捕获更复杂但灵活的模式,我们提出了一种深度景观预测(DLF)模型,该模型结合了用于概率分布预测的深度学习和用于审查处理的生存分析。具体来说,我们利用一个循环神经网络灵活地建模的条件获胜概率w.r.t.每一个出价。然后通过严格的数学推导,运用概率链法则对投标前景进行预测。而且,在端到端的方式,我们优化模型,最大限度地减少两个负面的可能性损失与综合动机。在没有对投标景观的分布形式进行任何具体假设的情况下,我们的模型在拟合各种复杂的市场价格分布方面表现出了很大的优势。在两个大规模真实世界数据集上的实验中,我们的模型在各种指标下都显着优于最先进的解决方案。
2019-05-12 cs.GT cs.IR cs.LG
Plan-Driven Adaptive Bidding for First-Price Auctions with Budget Constraints under Nonstationarity
Department of Industrial Engineering & Decision Analytics, Hong Kong University of Science and Technology(香港科技大学工业工程与决策分析系)
研究在非平稳环境下,预算受限的投标人如何学习适应性投标以最大化累积收益。提出基于双梯度下降的投标策略,并分析在不同未来私人价值知识设定下的性能损失。
2026-09-22 cs.GT cs.LG
High-dimensional Bid Learning for Energy Storage Bidding in Energy Markets
Tsinghua university(清华大学);Guangdong Power Grid Corporation Power Dispatching & Control Center(广东电网公司电力调度控制中心)
针对现有方法无法充分利用能源市场高维报价的问题,提出神经网络嵌入报价的强化学习方法,通过策略网络训练、单调离散调整及等价转换实现高维报价学习,在真实数据集上收益较基线提升18%。
2023-11-05 cs.GT cs.LG cs.SY
Real-Time Bidding by Reinforcement Learning in Display Advertising
Shanghai Jiao Tong University(上海交通大学);University College London(伦敦大学学院);MediaGamma Ltd(MediaGamma有限公司);Vlion Inc(Vlion公司)
大多数在线展示广告都是通过实时的【形】竞价(RTB)提供的-当每个广告展示印象刚刚从用户访问中生成时,它就被实时的【形】拍卖掉。为了自动和最佳地投放广告,广告商设计一种学习算法来巧妙地实时的【形】出价广告印象是至关重要的。大多数以前的作品认为投标决策作为一个静态的优化问题,要么单独对待每个印象的价值或设置一个投标价格的广告量的每个部分。然而,在预算耗尽之前,对给定广告活动的竞标将在其生命周期内反复发生。因此,每个出价通过受约束的预算和活动的整体有效性(例如,来自生成的点击的奖励),这仅在活动完成之后被观察到。因此,顺序地设计最优出价策略是非常有意义的,使得可以基于即时和未来奖励两者在所有可用印象上动态地分配活动预算。在本文中,我们制定的投标决策过程作为一个强化学习问题,其中的状态空间表示的拍卖信息和活动的实时的【形】参数,而一个行动是投标价格设置。通过模拟拍卖竞争的状态转移,我们建立了一个马尔可夫决策过程框架来学习最优的投标策略,以优化动态实时的【形】投标环境中的广告效果。此外,从大的现实世界的拍卖量和运动预算的可扩展性问题很好地处理状态值近似使用神经网络。
2017-01-12 cs.AI cs.GT cs.LG
Leveraging Asynchronous Cross-border Market Data for Improved Day-Ahead Electricity Price Forecasting in European Markets
Technical University of Denmark, Denmark(丹麦技术大学);KTH Royal Institute of Technology, Sweden(瑞典皇家理工学院)
本文通过利用异步跨境市场价格数据,提升了欧洲市场日间电力价格预测的准确性,为优化投标策略提供了新方法。
2025-07-17 cs.LG cs.SY eess.SY
Adaptive Risk-Aware Bidding with Budget Constraint in Display Advertising
Texas A&M University(德克萨斯A&M大学);Rice University(莱斯大学);Samsung Research America(三星美国研究院);Samsung Electronics(三星电子)
实时竞价(RTB)已经成为显示广告的主要范例。从用户访问中生成的每个广告印象被实时的拍卖,其中需求方平台(DSP)通常依赖于广告印象值估计和最佳投标价格确定来自动提供投标价格。然而,当前的出价策略忽视了用户行为的较大随机性(例如,点击)和拍卖竞争造成的成本不确定性。在这项工作中,我们明确的估计广告印象值的不确定性因素和模型的风险偏好的DSP在特定的状态和市场环境下,通过一个顺序的决策过程。具体而言,我们提出了一种新的自适应风险意识投标算法与预算约束通过强化学习,这是第一个同时考虑估计的不确定性和动态风险趋势的DSP。本文从理论上揭示了不确定性与风险倾向之间的内在联系。因此,我们提出了两个实例来模拟风险趋势,包括专家知识为基础的配方包括三个基本属性和自适应学习方法的基础上,自监督强化学习。我们在公共数据集上进行了广泛的实验,并表明所提出的框架在实际环境中优于最先进的方法。
2022-12-06 cs.AI cs.IR cs.LG
Risk-Aware Bid Optimization for Online Display Advertisement
GERAD;HEC Montréal(蒙特利尔高等商学院)
本研究的重点是在实时竞价设置在线显示广告,其中的广告客户,或广告客户的代理人,有机会访问的网站访问者的功能和广告位的类型,以决定最佳的投标价格给定一个预定的总广告预算的出价优化问题。我们提出了一个风险感知的数据驱动的投标优化模型,利用历史数据设计前期的投标策略,将广告机会的类型映射到投标价格,并考虑在给定的时间段内违反预算约束的风险,从而最大限度地提高广告客户的预期利润。采用拉格朗日松弛后,我们推导出一个参数化的最优投标策略的封闭形式的表达。使用真实世界的数据集,我们证明了我们的风险规避方法可以有效地控制超支预算的风险,同时实现具有竞争力的利润水平相比,风险中性模型和最先进的数据驱动的风险感知投标方法。
2022-10-28 cs.GT cs.IR cs.LG
Strategic bidding in freight transport using deep reinforcement learning
提出了一种多智能体强化学习算法来表征货运市场中的策略性投标行为。使用该算法,我们调查是否可行的市场均衡出现没有任何中央控制或代理之间的通信。在这样的环境中研究行为可能会成为像物理互联网这样的自组织物流系统的垫脚石。我们模拟一个基于代理的环境中,托运人和承运人积极学习投标策略,使用策略梯度方法,提出出价和要价在个别集装箱水平。这两个代理的目标是学习最好的反应给定的预期行为的对手。中立经纪人根据买卖价差分配工作。我们的博弈理论分析和数值实验专注于行为洞察。为了评估系统的性能,我们衡量坚持纳什均衡,公平的奖励分工和利用的运输能力。我们在可预测的、确定性的环境(约95%符合纳什均衡)和高度随机的环境(约85%符合)中都观察到了良好的性能。风险寻求行为可能会增加代理人的奖励份额,只要策略不是过于激进。研究结果表明,货运市场有可能实现完全自动化和分散化。
2021-02-18 cs.LG
Optimization of a SSP's Header Bidding Strategy using Thompson Sampling
AlephD;IMT
在过去的十年中,数字媒体(网络或应用程序发布商)普遍使用实时的广告拍卖来出售其广告空间。创建了多个拍卖平台,也称为供应方平台(SSP)。由于这种多样性,出版商开始在SSP之间进行竞争。在这种情况下,有两个连续的拍卖:第二价格拍卖在每个SSP和第二次,第一价格拍卖,称为标头投标拍卖,SSP之间。在本文中,我们考虑SSP与其他SSP竞争广告空间。SSP充当想要购买广告空间的广告商和想要出售其广告空间的网络发布商之间的中介,并且需要定义投标策略,以便能够向广告商提供尽可能多的广告,同时尽可能少地花费。这个SSP的收益优化可以写成一个上下文强盗问题,其中上下文由关于广告机会的可用信息组成,例如互联网用户或广告投放的属性。使用经典的多臂强盗策略(例如UCB和EXP3的原始版本)在这种设置中效率低下,并且收敛速度慢,因为臂非常相关。在本文中,我们设计和实验的汤普森采样算法的版本,很容易考虑到这种相关性。我们结合这个baidu算法与粒子滤波器,它允许处理非平稳性,通过顺序估计的分布,以赢得拍卖的最高出价击败。我们将这种方法应用于两个真实的拍卖数据集,并表明它显着优于更经典的approaches.The本文中定义的策略正在开发部署在全球数千家出版商。
2018-07-09 cs.GT cs.LG stat.ME
Online Causal Inference for Advertising in Real-Time Bidding Auctions
Cornell Johnson(康奈尔大学约翰逊商学院);Berkeley EECS(加州大学伯克利分校电气工程与计算机科学系);Stanford GSB(斯坦福大学商学院);UCSD Rady(加州大学圣迭戈分校雷迪管理学院);Yale SOM(耶鲁大学管理学院);Insper(因斯佩尔商学院);Chicago Booth(芝加哥大学布斯商学院);Temple Fox(天普大学福克斯商学院)
本文针对实时竞价拍卖中的广告效果评估问题,提出基于最优出价识别的因果推断方法,并设计自适应汤普森采样算法在最小化实验成本的同时恢复广告效果,理论和实验均验证了其优越性。
2024-02-26 cs.GT cs.LG econ.EM
Deep Reinforcement Learning-Based Bidding Strategies for Prosumers Trading in Double Auction-Based Transactive Energy Market
Santa Clara University(圣克拉拉大学);Concordia University(康考迪亚大学);Beijing University of Posts and Telecommunications(北京邮电大学);Shenzhen University(深圳大学)
针对可交易能源市场建模难、强化学习应用受限等问题,设计含多产消者的双拍卖TEM,提出分布式DRL竞价模型,通过价格与电量双动作优化策略,平衡支出与舒适度,性能优于现有方法。
2025-02-16 cs.GT cs.LG cs.SY
Learning Safe Strategies for Value Maximizing Buyers in Uniform Price Auctions
Sloan School of Management, Massachusetts Institute of Technology(麻省理工学院斯隆管理学院);Operations Research Center, Massachusetts Institute of Technology(麻省理工学院运筹学研究中心)
针对重复统一价格多单位拍卖中价值最大化买家的RoI约束出价问题,提出安全出价策略概念及多项式时间学习算法,实现次线性遗憾且可推广至更复杂模型。
2025-10-05 cs.DS cs.GT cs.LG