CPS-MEBR: Click Feedback-Aware Web Page Summarization for Multi-Embedding-Based Retrieval
针对单嵌入难以完整表征复杂网页的问题,提出融合点击反馈的网页摘要框架CPS-MEBR,结合句子级语义交互生成多嵌入,提升检索质量。
2023-05-07 cs.IR
An F-shape Click Model for Information Retrieval on Multi-block Mobile Pages
Shanghai Jiao Tong University(上海交通大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
为了提供基于用户隐式交互反馈的点击模拟或相关性估计,点击模型近年来得到了大量的研究。大多数点击模型关注用户对单个列表的行为。然而,随着用户界面(UI)设计的发展,结果页面上显示的项目的布局趋向于多块(即,多列表)样式,而不是单个列表,这需要不同的假设来更准确地建模用户行为。桌面环境下存在多块页面的点击模型,但由于交互方式、结果类型,特别是多块页面呈现方式的不同,无法直接应用于移动场景。特别地,多块移动页面通常可以被分解为基本垂直块和水平块的交织,从而导致典型的F形形式。为了减少多块页面的桌面和移动上下文之间的差距,我们进行了用户眼动跟踪研究,并确定用户的顺序浏览,块跳过和比较模式的F形页面。这些发现导致一个新的F形点击模型(FSCM),它作为一个通用的解决方案,多块移动页面的设计。首先,我们为每个页面构造一个有向无环图(DAG),其中每个项目被视为一个顶点,每个边表示用户可能的检查流程。其次,我们提出了DAG结构的GRU和一个比较模块,分别对用户的顺序(顺序浏览,块跳过)和非顺序(比较)行为进行建模。最后,我们结合GRU状态和比较模式来执行用户点击预测。在大规模真实数据集上的实验验证了FSCM与基线模型相比在用户行为预测上的有效性。
2022-11-17 cs.AI cs.IR
An Adversarial Imitation Click Model for Information Retrieval
现代信息检索系统,包括网络搜索、广告投放和推荐系统,通常依赖于从用户反馈中学习。点击模型,研究用户如何与排名的项目列表进行交互,为学习排名模型提供了对用户反馈的有用理解。构建“正确的”依赖关系是任何成功的点击模型的关键。然而,概率图模型(PGMs)必须依赖于手动分配的依赖关系,并过度简化用户行为。现有的基于神经网络的方法通过增强表达能力和允许灵活的依赖性来促进PGMs,但仍然遭受暴露偏差和劣估计。在本文中,我们提出了一个新的框架,对抗模仿点击模型(AICM),基于模仿学习。首先,我们显式地学习奖励函数,以恢复用户的内在效用和潜在意图。其次,我们将用户交互与排名列表建模为一个动态系统,而不是一步点击预测,从而缓解了曝光偏差问题。最后,我们通过对抗训练最小化JS分歧,并学习点击序列的稳定分布,这使得AICM在不同分布的排名列表中具有很好的泛化能力。理论分析表明,AICM将暴露偏倚从$O(T^2)$降低到$O(T)$。我们对公共网络搜索数据集的研究表明,AICM不仅在传统的点击度量方面优于最先进的模型,而且在解决曝光偏差和恢复点击序列的潜在模式方面也取得了优异的性能。
2021-04-19 cs.IR
Modeling Users' Contextualized Page-wise Feedback for Click-Through Rate Prediction in E-commerce Search
Alibaba Group(阿里巴巴集团);Nanjing University(南京大学)
在个性化搜索和推荐中,对用户的历史反馈进行建模是进行点击率预测的关键。现有的方法通常只对用户的正反馈信息(如点击序列)进行建模,而忽略了反馈的上下文信息。在本文中,我们提出了一个新的视角上下文感知用户的行为建模,包括整个页面明智的暴露产品和相应的反馈作为上下文页面明智的反馈序列。可以捕获页面内上下文信息和页面间兴趣演变,以了解更具体的用户偏好。我们设计了一个新的神经排序模型RACP(即,上下文化页面序列上的循环注意力),其利用页面上下文感知注意力来对页面内上下文进行建模。一个循环的注意力过程被用来模拟跨页面的兴趣收敛的演变,在前一页的兴趣去噪。在公共数据集和真实工业数据集上的实验验证了模型的有效性。
2022-03-29 cs.AI cs.IR
TripJudge: A Relevance Judgement Test Collection for TripClick Health Retrieval
健壮的测试集是信息检索研究的关键。最近有越来越多的兴趣在评估特定领域的检索任务的检索系统,但这些任务往往缺乏一个可靠的测试收集与人类注释的相关性评估后,克兰菲尔德范式。在医疗领域,最近提出了TripClick收集,它包含来自Trip搜索引擎的点击日志数据,并包括两个基于点击的测试集。然而,点击偏向于所使用的检索模型,这仍然是未知的,和以前的研究表明,测试集有一个低的判断覆盖率的前10名的词汇和神经检索模型的结果。在本文中,我们提出了新的,相关性判断测试收集TripJudge TripClick健康检索。我们收集相关性的判断,在一个注释活动,并确保质量和可重用性TripJudge的各种排名方法创建池,由多个判断每个查询文档对,并通过至少适度的注释者之间的协议。我们比较系统评价与TripJudge和TripClick,发现点击和判断为基础的评价,可以导致显着不同的系统排名。
2022-08-14 cs.IR
Deep Context Interest Network for Click-Through Rate Prediction
Meituan(美团)
本文提出深度上下文兴趣网络DCIN,通过聚合展示上下文、融合点击与上下文特征并匹配目标兴趣,提升CTR预测性能,已在在线广告系统部署并带来1.5%的CTR和RPM提升。
2023-08-11 cs.AI cs.IR
To Click or not to Click? The Role of Contextualized and User-Centric Web Snippets
在搜索网络时,通常可能有太多的结果可用于模糊查询。从检索到的页面中提取的文本片段是页面对查询意图的有用性的指示器,并且可以用于集中搜索结果的范围。在本文中,我们提出了一种新的方法来自动提取网页片段,是高度相关的查询意图和表达的网页的整个内容。我们表明,语义的使用,作为重点检索的基础,产生高质量的文本片段的建议。与使用页面的统计内容获得的片段相比,我们的方法提供的片段在检索性能方面明显更好。此外,我们的研究表明,语义驱动的片段生成也可以用来增强传统的段落检索算法的基础上,字重叠或统计权重,因为它们通常在覆盖范围不同,并产生不同的结果。用户点击查询的相关片段可以用来细化查询结果,并促进最全面的相关文档。
2009-03-14 cs.IR
DebiasedRec: Bias-aware User Modeling and Click Prediction for Personalized News Recommendation
新闻推荐是个性化新闻访问的关键。现有的新闻推荐方法通常根据用户的历史新闻点击量来推断用户的个人兴趣,并通过预测未来的新闻点击量来训练新闻推荐模型。这些方法背后的一个核心假设是,新闻点击行为可以表明用户的兴趣。然而,在实际场景中,除了用户兴趣与新闻内容之间的相关性之外,新闻点击行为还可能受到其他因素的影响,例如在线平台中新闻呈现的偏差。例如,位置较高、尺寸较大的新闻通常更容易被点击。点击新闻的偏向性会给用户兴趣建模和模型训练带来噪声,影响新闻推荐模型的性能。本文提出了一种具有偏见意识的个性化新闻推荐方法DebiasRec,该方法可以处理偏见信息,从而更准确地进行用户兴趣推断和模型训练。我们的方法的核心包括一个偏见表示模块,一个偏见意识的用户建模模块,和一个偏见意识的点击预测模块。偏见表征模块用于对不同类型的新闻偏见及其相互作用进行建模,以捕捉它们对点击行为的联合影响。偏见感知的用户建模模块旨在通过使用用户的偏见信息来校准兴趣模型,从而从点击的新闻文章中推断用户的去偏见兴趣。偏置感知点击预测模块用于根据偏置点击行为来训练去偏置新闻推荐模型,其中点击分数被分解为指示用户对新闻内容的兴趣的偏好分数和从其不同偏置特征推断的新闻偏置分数。在两个真实数据集上的实验表明,该方法能有效地提高新闻推荐的性能。
2021-04-15 cs.IR
EventKG+Click: A Dataset of Language-specific Event-centric User Interaction Traces
分析以事件为中心的跨语言信息的需求日益增长,这就需要创新的用户交互模型来帮助用户跨越语言障碍。然而,数据集,反映跨语言设置所需的训练和评估用户交互模型的用户交互痕迹大多是失踪。在本文中,我们提出了EventKG+Click数据集,旨在促进这种交互模型的创建和评估。EventKG+Click建立在以事件为中心的EventKG知识图谱和特定于语言的信息之上,这些信息是关于用户与事件、实体及其关系的交互的,这些信息来自维基百科的点击流。
2020-10-23 cs.IR
Modeling Orders of User Behaviors via Differentiable Sorting: A Multi-task Framework to Predicting User Post-click Conversion
针对点击后转化预测中的选择偏差与数据稀疏问题,提出利用可微排序建模点击和点击后标签顺序的多任务框架,并在公开及工业数据集上验证其优于强基线。
2023-07-18 cs.IR
Clicks can be Cheating: Counterfactual Recommendation for Mitigating Clickbait Issue
推荐服务是信息系统中普遍存在的一项重要服务。为了向用户提供个性化建议,行业参与者采用了机器学习,更具体地说,是基于点击行为数据构建预测模型。这就是所谓的点击率(CTR)预测,它已经成为构建个性化推荐服务的黄金标准。然而,我们认为,点击和用户满意度之间存在显着的差距-这是常见的,用户被“欺骗”点击一个项目的有吸引力的标题/封面的项目。如果用户发现点击的项目的实际内容令人失望,这将严重损害用户对系统的信任。更糟糕的是,在这些有缺陷的数据上优化CTR模型将导致马太效应,使看似有吸引力但实际上质量较低的项目更频繁地被推荐。在本文中,我们制定的推荐模型作为一个因果图,反映了因果关系的因素,在推荐,并解决点击诱饵问题,通过执行反事实推理的因果图。我们想象一个反事实的世界,其中每个项目只有暴露特征(即,用户在做出点击决定之前可以看到的特征)。通过估计用户在反事实世界中的点击可能性,我们能够减少暴露特征的直接影响并消除点击诱饵问题。在真实数据集上的实验表明,该方法显著提高了CTR模型的点击后满意度。
2021-05-22 cs.IR
Soft Retargeting Network for Click Through Rate Prediction
近年来,用户兴趣模型的研究在点击率(CTR)预测中得到了广泛的关注。这些模型旨在从不同的角度捕捉用户兴趣,包括用户兴趣演化、会话兴趣、多重兴趣等。用户重定向兴趣。用户重定向兴趣定义为用户对与历史点击项目相同或相似的目标项目的点击兴趣。我们提出了一种新的软重定向网络(SRN)来模拟这种特定的兴趣。具体来说,我们首先计算目标项目和每个历史项目之间的相似度与图嵌入的帮助。然后,我们学习聚合的相似性权重来衡量用户的点击兴趣的程度的目标项目。此外,我们模型的用户重定向兴趣的演变。在公共数据集和工业数据集上的实验结果表明,我们的模型比最先进的模型取得了显着的改进。
2022-06-04 cs.IR
Refining Recency Search Results with User Click Feedback
Yahoo! Labs(雅虎实验室)
传统的用于网络搜索的机器学习排名系统通常被训练为捕获文档与查询的静态相关性,这限制了及时跟踪非静态用户意图的能力。例如,在近因搜索中,文档与突发新闻查询的相关性通常会随着时间的推移而发生显著变化,这需要有效地适应用户的意图。在本文中,我们专注于近度搜索和研究了一些算法,以改善排名结果,利用用户点击反馈。我们的贡献是三方面的。首先,我们使用在随机探索桶中收集的真实搜索会话对这些算法进行\emph{reliable}离线评估,这提供了一个无偏见的算法比较,而无需在线桶测试。其次,我们提出了一个重新排名的方法来改善搜索结果的近因查询使用用户点击。第三,我们对现实生活中的搜索数据的十几种算法的实证比较表明,在这些应用程序中,一些算法选择的重要性,包括在不同的查询-文档对之间的泛化,对流行查询的专业化,以及用户点击的实时适应。
2011-03-19 cs.AI cs.IR cs.LG
Reweighting Clicks with Dwell Time in Recommendation
点击行为是推荐中使用最广泛的用户正反馈。然而,在训练中简单地平等地考虑每次点击可能会遭受点击诱饵和标题-内容不匹配,因此无法精确地捕获用户对项目的真正满意度。停留时间可以被看作是一个高质量的定量指标,用户的偏好,每次点击,而现有的推荐模型没有充分探索停留时间的建模。在这项工作中,我们专注于重新加权点击停留时间的建议。准确地说,我们首先定义了一个名为有效读取的新行为,它有助于通过停留时间为不同的用户和项目选择高质量的点击实例。接下来,我们提出了一个归一化的停留时间函数来重新加权点击信号的训练推荐。点击重新加权模型在现实世界的系统中实现了离线和在线评估的显着改进。
2023-02-28 cs.IR
MIRA: Leveraging Multi-Intention Co-click Information in Web-scale Document Retrieval using Deep Neural Networks
Microsoft(微软)
研究了工业Web搜索中的深度查全率模型问题,即给定用户查询,从数十亿个候选文档中检索出数百个最相关的文档。通用的框架是训练两个基于神经嵌入的编码模型,分别学习查询和文档的分布式表示,并在潜在语义空间中进行匹配。然而,所有现有的编码模型都只利用文档本身的信息,这往往是不够的,在实践中与查询词匹配时,特别是对于硬尾查询。在这项工作中,我们的目标是利用额外的信息,每个文件从其共同点击邻居,以帮助文档检索。挑战包括如何在深度模型中涉及共点击信息时有效地提取信息并消除噪声,同时满足实时的在线推理对十亿级数据大小的需求。为了处理协同点击关系中的噪声,本文首先提出了一种Web规模的多意图协同点击文档图(MICG),该图在点击意图层面而非文档层面构建文档之间的协同点击连接。然后,我们提出了一个编码框架MIRA的基础上BERT和图的注意力网络,利用两个因素的注意力机制聚合邻居。为了满足在线延迟的要求,我们只在文档端涉及邻居信息,这样可以节省实时的服务中耗时的查询邻居搜索。我们进行了广泛的离线实验上的公共数据集和私人网络规模的数据集,从两个主要的商业搜索引擎证明所提出的方法的有效性和可扩展性相比,几个基线。进一步的案例分析表明,共点击关系主要从关键概念增强和查询词互补两个方面提高了网络搜索质量。
2020-07-03 cs.CL cs.IR cs.LG
Pretraining De-Biased Language Model with Large-scale Click Logs for Document Ranking
预训练语言模型在各种大规模信息检索任务中取得了巨大的成功。然而,大多数预训练任务是基于伪造的检索数据,其中定制规则产生的查询被假设为用户对给定文档或段落发出的查询。因此,我们探索使用大规模点击日志来预训练语言模型,而不是对模拟查询进行回复。具体来说,我们建议使用用户行为特征来预训练一个用于文档排序的去偏见语言模型。对百度脱敏点击日志的大量实验验证了我们方法的有效性。我们的团队在WSDM Cup 2023网络搜索预训练中以12.16525的折扣累积增益@10(DCG@10)得分在最终排行榜上获得第一名。
2023-02-27 cs.IR
Predict your Click-out: Modeling User-Item Interactions and Session Actions in an Ensemble Learning Fashion
本文介绍了POLINKS团队对RecSys Challenge 2019的解决方案,该解决方案的重点是预测基于会话的交互中的最后点击。我们提出了一个集成的方法,包括一个矩阵分解的交互用户项建模,和会话感知学习模型与递归神经网络实现。这种方法似乎是有效的预测最后点击得分0.60277的平均倒数排名的本地测试集。
2020-02-08 cs.IR
RAT: Retrieval-Augmented Transformer for Click-Through Rate Prediction
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院);Research Center of Artificial Intelligence, Peng Cheng Laboratory(鹏城实验室人工智能研究中心)
本文提出检索增强Transformer(RAT),通过检索相似样本构建增强输入,并利用级联注意力同时建模样本内与跨样本特征交互,在保持效率的同时提升CTR预测性能,尤其在长尾场景中表现优越。
2024-04-05 cs.AI cs.IR cs.LG
A Graph-Enhanced Click Model for Web Search
Shanghai Jiao Tong University(上海交通大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
为了更好地利用搜索日志和模型用户的行为模式,许多点击模型被提出来提取用户的隐式交互反馈。大多数传统的点击模型是基于概率图模型(PGM)框架,这需要手动设计的依赖关系,并可能过度简化用户的行为。最近,提出了基于神经网络的方法,通过增强表达能力和允许灵活的依赖关系来提高用户行为的预测精度。然而,它们仍然遭受数据稀疏和冷启动问题。在本文中,我们提出了一种新的图形增强点击模型(GraphCM)的Web搜索。首先,我们把每个查询或文档作为一个顶点,并提出了新的同构图的查询和文档分别构造方法,充分利用会话内和会话间的稀疏性和冷启动问题的信息。其次,根据检验假设,分别对吸引力估计器和检验预测器进行建模,输出吸引力得分和检验概率,并利用图神经网络和邻居交互技术提取编码在预构造的齐次图中的辅助信息.最后,我们应用组合函数将检查概率和吸引力分数整合到点击预测中。在三个真实世界的会话数据集上进行的大量实验表明,GraphCM不仅优于最先进的模型,而且在解决数据稀疏性和冷启动问题方面也取得了优异的性能。
2022-08-22 cs.AI cs.IR
Multi-Granularity Click Confidence Learning via Self-Distillation in Recommendation
本文提出CLSD框架,通过全局自蒸馏与用户群局部置信度调整实现多粒度点击置信度学习,在不增加额外数据和结构的情况下提升推荐效果,并已服务超4亿用户。
2023-09-28 cs.IR
Learning From Weights: A Cost-Sensitive Approach For Ad Retrieval
Microsoft India(微软印度)
检索模型(如CLSM)是在点击数据上训练的,它将每个点击的查询-文档对视为等同的。虽然对点击数据进行训练是合理的,但本文认为,由于其噪声和长尾性质(特别是对于赞助搜索),它是次优的。在本文中,我们讨论了在训练集中合并或忽略长尾对的影响。此外,我们提出了一个基于权重的策略,使用它我们可以学习尾对的语义表示,而不会影响检索的质量。我们在Bing赞助搜索和亚马逊产品推荐上进行了实验,以证明该方法是领域不可知的。在现场搜索引擎流量的在线A/B测试显示,与未加权模型相比,点击率提高了11.8%,质量也有所改善(跳出率降低了8.2%)。我们还对亚马逊产品推荐数据进行了实验,我们看到通过在共同购买的产品中检索计算的NDCG分数略有改善。
2018-12-03 cs.IR cs.LG
Implicit Feedback for Dense Passage Retrieval: A Counterfactual Approach
在本文中,我们研究如何有效地利用隐式反馈的密集检索(DR)。我们考虑的特定情况下,点击数据从历史点击日志可作为隐式反馈。然后,我们利用这样的历史隐式的相互作用,以提高DR的有效性。一个关键的挑战,我们研究的点击信号,如位置偏差,对DR的影响。为了克服与这种偏见的存在相关的问题,我们提出了反事实的Rocchio(CoRocchio)算法利用隐式反馈在密集检索。我们从理论上和经验上证明,密集查询表示与CoRocchio学习是公正的位置偏差,并导致更高的检索效率。我们在https://github.com/ielab/Counterfactual-DR上提供了所提出的方法和实验框架的实现以及所有结果。
2022-04-29 cs.IR
Cascade Model-based Propensity Estimation for Counterfactual Learning to Rank
无偏见的CLTR需要点击倾向,以弥补用户点击和通过IPS搜索结果的真实相关性之间的差异。当前的倾向估计方法假设用户点击行为遵循PBM,并基于此假设估计点击倾向。然而,在现实中,用户点击往往遵循CM,用户从上到下扫描搜索结果,每次下一次点击都取决于前一次点击。在这种级联场景中,基于PBM的倾向估计是不准确的,这反过来又会损害CLTR的性能。在本文中,我们提出了一个倾向估计方法的级联方案,称为CM-IPS。我们发现,CM-IPS保持CLTR性能接近的情况下,用户点击遵循CM的全信息性能,而基于PBM的CLTR有一个显着的差距,对全信息。如果用户单击跟随PBM而不是CM,则情况相反。最后,我们提出了一种基于历史用户点击的CM和PBM倾向估计方法之间的选择。
2020-05-25 cs.IR
Neural News Recommendation with Negative Feedback
新闻推荐是在线新闻服务的重要组成部分。精确的用户兴趣建模是个性化新闻推荐的关键。现有的新闻推荐方法通常依赖于用户的隐式反馈,如新闻点击来建模用户的兴趣。然而,新闻点击可能不一定反映用户的兴趣,因为用户可能由于其标题的吸引力而点击新闻,但对其内容感到失望。新闻阅读的停留时间是用户兴趣建模的一个重要线索,因为短的阅读停留时间通常表明低,甚至负面的兴趣。因此,结合从新闻阅读的停留时间推断的负反馈可以提高用户建模的质量。在本文中,我们提出了一个神经新闻推荐方法,可以考虑到隐式的负面用户反馈。我们提出了根据阅读停留时间区分正面和负面新闻点击,并通过Transformer和附加注意力网络的组合分别从正面和负面新闻点击中学习用户表征。此外,我们建议计算一个积极的点击得分和一个消极的点击得分的基础上候选新闻表示和用户表示从积极和消极的新闻点击学习之间的相关性。最终的点击分数是正点击分数和负点击分数的组合。此外,我们提出了一种交互式的新闻建模方法,在新闻建模中考虑标题和正文之间的相关性。在真实数据集上的大量实验验证了该方法可以实现更准确的新闻推荐用户兴趣建模。
2021-01-12 cs.IR
User-click Modelling for Predicting Purchase Intent
Faculty of Science(理学院)
本论文以机器学习方法建构使用者行为模型之开放精算数学问题,以预测非寿险产品之购买意愿。对于一家公司来说,了解用户与其网站的互动是很有价值的,因为它提供了对消费者行为的丰富和个性化的见解。大多数现有的用户行为建模研究旨在解释或预测搜索引擎结果页面上的点击或估计赞助搜索中的点击率。这些模型是基于用户的网页的检查模式和网页的项目表示的概念。调查的问题建模的用户行为预测购买意图的商业网站上,我们观察到,用户的意图产生高度依赖于用户如何导航的网站上有多少不同的网页,用户访问,什么样的网页,用户交互,以及用户花了多少时间在每个网页上。受这些发现的启发,我们提出了两种不同的方式来表示用户会话的功能,从而产生两种基于用户点击的购买预测模型:一种基于前馈神经网络,另一种基于递归神经网络。我们通过比较上述两个模型与一个使用用户人口统计特征的模型来检验用户点击预测购买意图的区分度。我们的实验结果表明,我们的点击为基础的模型显着优于人口模型,在标准的分类评估指标,和基于用户点击的顺序表示模型产生的性能略高于基于特征工程的点击模型。
2021-12-03 cs.IR cs.LG
What Would You Click? Personalized Video Thumbnail Generation with Preference-aware Highlight Retrieval
Tsinghua University(清华大学);The University of Queensland(昆士兰大学)
研究针对视频平台个性化视频缩略图生成问题,提出两阶段框架,先通过偏好感知检索选取视觉锚点,再经VLM引导的扩散管道生成缩略图,实验和用户研究证明该方法性能优且能提升用户参与度。
2026-07-15 cs.IR cs.MM
A Click Sequence Model for Web Search
更好地了解用户行为对于改进信息检索系统是很重要的。现有的工作集中在建模和预测单一的交互事件,如点击。在本文中,我们第一次专注于相互作用事件序列的建模和预测。尤其是,点击的序列。我们制定的点击序列预测的问题,并提出了一个点击序列模型(CSM),旨在预测用户将与搜索引擎结果进行交互的顺序。CSM基于遵循编码器-解码器架构的神经网络。编码器计算结果的上下文嵌入。解码器预测点击结果的位置序列。它使用一个注意力机制在每个时间步提取关于结果的必要信息。我们通过最大化观察到的点击序列的可能性来优化CSM的参数。我们测试CSM的有效性上三个新的任务:(i)预测点击序列,(ii)预测点击的数量,以及(iii)预测用户是否会与结果的顺序,这些结果呈现在一个搜索引擎结果页面(SERP)。此外,我们表明,CSM实现国家的最先进的结果,在一个标准的点击预测任务,其目标是预测一组无序的结果,用户将点击。
2018-05-09 cs.IR
User Behavior Retrieval for Click-Through Rate Prediction
点击率(CTR)预测在现代在线个性化服务中起着关键作用。在实际应用中,有必要通过对用户的连续行为建模来捕捉用户的兴趣漂移,从而建立准确的点击率预测模型。然而,随着用户在平台上积累越来越多的行为数据,序列模型利用每个用户的整个行为历史变得不平凡。首先,直接输入长的行为序列将使在线推理时间和系统负载变得不可行。第二,在如此长的历史中有很多噪声使顺序模型学习失败。当前的工业解决方案主要截断序列,并且仅将最近的行为馈送到预测模型,这导致诸如周期性或长期依赖性的序列模式没有嵌入最近的几个行为中,而是嵌入很久以前的历史中的问题。为了解决这些问题,在本文中,我们认为它从数据的角度,而不仅仅是设计更复杂的模型,并提出了用户行为检索CTR预测(UBR4CTR)框架。在UBR4CTR中,最相关和最合适的用户行为将首先使用可学习的搜索方法从整个用户历史序列中检索。然后,这些检索到的行为被输入到一个深度模型中,以进行最终预测,而不是简单地使用最近的行为。将UBR4CTR应用于工业模型管道具有很高的可行性和较低的成本。三个真实世界的大规模数据集上的实验证明了我们提出的框架和模型的优越性和有效性。
2020-05-28 cs.IR
DebiasGAN: Eliminating Position Bias in News Recommendation with Adversarial Learning
新闻推荐对于提高用户的新闻阅读体验具有重要意义。用户的新闻点击行为被广泛用于推断用户的兴趣和预测未来的点击。然而,点击行为受到网页上显示的新闻位置所带来的偏见的严重影响。为了准确地定位用户兴趣,消除位置偏差对推荐模型的影响是很重要的。在本文中,我们提出了一种名为DebiasGAN的新闻推荐方法,可以通过对抗学习有效地消除位置偏差的影响。我们使用一个偏见感知点击模型来捕捉位置偏见对点击行为的影响,我们使用一个偏见不变的点击模型与随机候选新闻位置来估计理想的无偏点击分数。我们将对抗学习技术应用于两个模型学习的隐藏表示,以帮助偏差不变的点击模型捕获用户对新闻的独立于偏差的兴趣。在两个真实数据集上的实验结果表明,DebiasGAN能够有效地消除位置偏差,提高新闻推荐的准确率。
2021-06-11 cs.IR
Validating Synthetic Usage Data in Living Lab Environments
本研究提出在数据稀疏的生活实验室环境中验证点击模型生成的合成使用数据的方法,发现简单模型在小数据下可靠,复杂模型在数据充足时更优,并共享代码。
2023-10-11 cs.IR
On the Impact of Outlier Bias on User Clicks
该研究识别出排序中离群点条目带来的用户点击偏差,提出同时考虑离群点偏差与位置偏差的OPBM点击模型,经实验验证其在排序性能和相关性估计上优于基线模型。
2023-05-01 cs.IR
Modeling Attractiveness and Multiple Clicks in Sponsored Search Results
Microsoft Bing Ads(微软必应广告);Purdue University(普渡大学)
点击模型是用于利用用户反馈的重要工具,并且被商业搜索引擎用于显现相关搜索结果。然而,现有的点击模型缺乏两个方面。首先,在计算吸引力时,它们不会在搜索结果中共享信息。其次,他们假设用户按顺序与搜索结果交互。基于我们对商业搜索引擎的点击日志的分析,我们观察到顺序扫描假设并不总是成立的,特别是对于赞助商的搜索结果。为了克服上述两个局限性,我们提出了一个新的点击模型。我们的关键见解是,在搜索结果中共享信息有助于识别重要的单词或关键短语,然后可以用来准确计算搜索结果的吸引力。此外,我们认为,点击概率的位置,以及其吸引力的变化,在用户会话,并取决于用户过去的点击经验。我们的模型无缝地结合了外部性(响应用户查询显示的其他搜索结果的质量),用户疲劳,以及前和后点击赞助搜索结果的相关性的影响。我们提出了一个有效的一遍推理方案,并通过大量的实验,使用大型商业搜索引擎的点击日志经验评估我们的模型的性能。
2014-01-01 cs.IR cs.LG
Query Suggestion for Click-Absent Queries in Enterprise Search
创建替代查询,也称为查询建议,已被证明有助于改善用户的搜索体验。由于这些建议,用户可以更快,更准确地检索他们的信息需要。在许多情况下,通过建立被点击的查询-文档对的二分图,可以从点击日志中生成这些建议。现有的方法大多集中在点击现有的查询,拥有点击信息的搜索日志,建议相关的查询使用的共同点击的文件。在本文中,我们提出了一个简单而有效的查询建议方法,特别是点击不存在的查询,通过确保语义一致性,而不利用任何额外的资源。我们的实验结果表明,所提出的技术产生了比较好的建议,一个真正的双语企业搜索日志上的点击缺席查询。
2021-12-28 cs.IR
Improving Legal Case Retrieval with Brain Signals
本文针对法律案例检索中传统反馈信号粗糙且无效的挑战,提出利用脑机接口收集的EEG脑信号构建相关性反馈框架,通过提取有效特征并结合SVM-RFE模型实现71%预测准确率,显著提升了重排序结果的用户满意度。
2024-03-20 cs.IR
Adversarial Filtering Modeling on Long-term User Behavior Sequences for Click-Through Rate Prediction
丰富的用户行为信息对于获取和理解用户兴趣点进率(CTR)预测具有重要意义。为了提高丰富性,收集长期行为成为学术界和工业界的典型方法,但代价是增加在线存储和延迟。最近,研究人员提出了几种方法来缩短长期行为序列,然后建模用户的兴趣。这些方法有效地降低了在线成本,但不能很好地处理长期用户行为中的噪声信息,这可能会显着降低CTR预测的性能。为了获得更好的成本/性能权衡,我们提出了一种新的对抗性过滤模型(ADFM)来建模长期用户行为。ADFM使用分层聚合表示来压缩原始行为序列,然后通过对抗过滤机制学习去除无用的行为信息。所选择的用户行为被馈送到兴趣提取模块用于CTR预测。在公共数据集和工业数据集上的实验结果表明,我们的方法在最先进的模型上取得了显着的改进。
2022-04-26 cs.IR
Click-Through Rate Prediction Using Graph Neural Networks and Online Learning
Stanford University(斯坦福大学);Google LLC(谷歌有限责任公司)
推荐系统在过去已经被许多文献广泛研究,并且在在线广告、购物行业/电子商务、搜索引擎中的查询建议以及社交网络中的朋友推荐中无处不在。此外,餐厅/音乐/产品/电影/新闻/应用程序推荐只是推荐系统的几个应用程序。CTR预测准确性的一个小百分比的改进已经被提到为广告行业增加数百万美元的收入。点击率预测是推荐系统的一个特殊版本,其目标是预测用户是否会点击推荐项目。基于内容的推荐方法考虑用户行为的过去历史,即推荐的产品和用户对它们的反应。因此,在正确的时间将正确的项目推荐给正确的用户的个性化模型是构建这样一个模型的关键。另一方面,所谓的协同过滤方法结合了与特定用户非常相似的用户的点击历史,从而通过利用在连接的用户网络中分享他们的品味的用户的更广泛的知识来帮助推荐器为该特定用户提出更自信的预测。在这个项目中,我们有兴趣建立一个CTR预测器使用图神经网络补充的在线学习算法,模拟这种动态的相互作用。通过将问题框定为二进制分类任务,我们使用由10,000个数据点组成的Criteo公共数据集的子采样版本,在测试AUC为0.7417的离线模型(GNN,深度因子分解机)和测试AUC为0.7585的在线学习模型上评估了该系统。
2021-05-09 cs.AI cs.IR cs.LG
Personalized Advertisement Recommendation: A Ranking Approach to Address the Ubiquitous Click Sparsity Problem
University of Michigan(密歇根大学);Adobe Big Data Experience Lab(奥多比大数据体验实验室)
研究了个性化广告推荐问题,即用户访问一个系统(网站),系统向用户显示一个$K$广告。系统使用内部广告推荐策略将用户的配置文件(上下文)映射到其中一个广告。用户点击或忽略广告,相应地,系统更新其推荐策略。PAR问题通常由可扩展的\emph{contextual bandit}算法来解决,其中策略通常基于分类器。PAR中的一个实际问题是极端的点击稀疏性,这是由于很少有用户真正点击广告。系统地研究了基于分类器策略的上下文强盗算法在极端点击稀疏情况下的缺陷。然后,我们提出了一个替代政策,排名的基础上,通过优化曲线下面积(AUC)排名损失,这可以显着缓解点击稀疏的问题。我们在公共数据集以及三个行业专有数据集上进行了广泛的实验,以说明通过使用基于排名的策略比基于分类器的策略获得的点击率(CTR)的改进。
2016-03-06 cs.IR cs.LG
De-Biased Modelling of Search Click Behavior with Reinforcement Learning
用户对Web搜索结果的点击是评价和提高Web搜索质量的关键信号之一,并已被广泛应用于当前最先进的学习排名(LTR)模型的一部分。随着主要搜索引擎的大量搜索日志,出现了有效的点击行为模型来评估和训练LTR模型。然而,在对用户的点击行为进行建模时,必须考虑行为的偏差。特别地,当搜索结果没有被点击时,它不一定被用户选择为不相关,而是可能被简单地错过,特别是对于排名较低的结果。点击日志数据中的这些类型的偏差可以被并入到点击模型中,从而将错误传播到所得到的LTR排名模型或评估度量。在本文中,我们提出了去偏强化学习点击模型(DRLC)。DRLC模型放松了先前对用户的检查行为和由此产生的潜在状态的假设。为了实现DRLC模型,卷积神经网络被用作强化学习的值网络,被训练以学习减少点击日志中的偏差的策略。为了证明DRLC模型的有效性,我们首先使用已建立的点击预测指标(包括对数似然和困惑度)将性能与以前的最先进方法进行比较。我们进一步表明,DRLC也导致排名性能的改善。我们的实验证明了DRLC模型在学习中的有效性,以减少点击日志中的偏见,从而提高建模性能,并显示使用DRLC提高Web搜索质量的潜力。
2021-05-21 cs.IR
Click-aware purchase prediction with push at the top
从购买记录中获取用户偏好以执行购买预测是具有挑战性的,因为没有明确地观察到负面反馈,并且因为将所有未购买的物品同等地视为负面反馈是不现实的。因此,在这项研究中,我们提出了一个框架,利用用户过去的点击记录来弥补购买记录中缺失的用户-项目交互,即,非购买物品。我们首先制定各种模型的假设,每一个假设不同的顺序购买,点击,但不购买,和非点击项目的用户偏好,研究利用点击记录的有用性。我们使用贝叶斯个性化排名模型实现模型假设,该模型最大化了二分排名的曲线下面积。然而,我们认为,使用点击记录的二分排名需要一个精心设计的模型,因为相对不可靠的点击记录相比,购买记录。因此,我们最终提出了一种新的学习排名方法,称为P3 Stop,用于执行购买预测。建议的模型是定制的相对不可靠的点击记录,特别是专注于排名靠前的项目的准确性是强大的。在两个真实的电子商务数据集上的实验结果表明,P3 STop的性能大大优于最先进的隐式反馈推荐方法,特别是对排名靠前的项目。
2020-05-29 cs.IR
Scaling Dense Retrieval with LLM-Annotated Training Data: Structured Mining and Progressive Curriculum for E-Commerce Sponsored Search
Walmart Global Tech(沃尔玛全球科技)
针对电商搜索中点击信号偏差和人工标注成本高的问题,提出利用多通道检索挖掘、校准的LLM级联标注和五级渐进式课程训练,在Walmart搜索中实现NDCG@10提升5.1%,尾查询提升显著。
2026-06-24 cs.IR
FINN.no Slates Dataset: A new Sequential Dataset Logging Interactions, allViewed Items and Click Responses/No-Click for Recommender Systems Research
University of Oslo(奥斯陆大学);University of Lancaster(兰卡斯特大学);Schibsted ASA
我们提出了一种新的推荐系统数据集,记录用户和在线市场之间的顺序交互。用户被顺序地呈现以来自市场的被称为石板的项目的排名列表的形式的推荐和搜索结果两者。该数据集包括在每一轮呈现的石板,用户是否点击了这些项目中的任何一个,以及用户点击了哪个项目。虽然在推荐系统中曝光数据的使用正在增长,据我们所知,没有开放的大规模推荐系统数据集,包括在每次交互时呈现给用户的项目的石板。因此,大多数关于推荐系统的文章都没有利用这种曝光信息。相反,所提出的模型只依赖于用户的点击响应,并假设用户在每一步都接触到项目宇宙中的所有项目,通常称为均匀候选抽样。这是一个不完整的假设,因为它考虑了用户可能没有接触到的项目。这样,项目可能会被错误地视为用户不感兴趣。考虑到实际显示的石板允许模型使用更自然的可能性,基于给定项目暴露集的点击概率,如在强盗和强化学习文献中流行的那样。\cite{Eide2021DynamicSampling}表明,基于均匀候选抽样(以及类似假设)的似然性隐含地假设平台仅向用户显示最相关的项目。这使得推荐系统隐含地加强反馈循环,并偏向于先前向用户展示的项目。
2021-11-05 cs.IR cs.LG stat.ML
Incorporating Clicks, Attention and Satisfaction into a Search Engine Result Page Evaluation Model
现代搜索引擎的结果页面通常为用户提供即时价值,并以易于导航的方式组织信息。核心排名功能有助于实现这一点,结果片段,结果块的智能组织以及对一箱答案或侧面板的广泛使用也是如此。虽然它们对用户有用,并帮助搜索引擎脱颖而出,但这些功能对评估提出了两大挑战。首先,在搜索引擎结果页面(SERP)上存在这样的元素可能会导致点击的缺失,然而,这与不满意无关,即所谓的“良好放弃”。“其次,SERP项目的非线性布局和视觉差异可能会导致用户注意力的非平凡模式,这是现有评估指标无法捕捉的。在本文中,我们提出了一个模型,共同捕捉点击行为,用户注意力和满意度,CAS模型的SERP用户行为,并证明它提供了更准确的预测用户的行动和自我报告的满意度比现有的模型的基础上点击单独。我们使用CAS模型来构建一个新的评估指标,该指标可应用于非线性SERP布局,并可考虑用户直接在SERP上获得的效用。我们证明,这个指标显示出更好的协议与用户报告的满意度比传统的评价指标。
2016-09-02 cs.IR
Unbiased Learning to Rank with Query-Level Click Propensity Estimation: Beyond Pointwise Observation and Relevance
针对用户检视多个相关结果却少点击导致的相关性饱和偏差,本文提出查询级点击倾向性模型与 DualIPW 机制,结合位置级 IPW 实现无偏排序学习,并在 Baidu-ULTR 上验证其优于现有基线。
2025-02-18 cs.IR
On Predicting Post-Click Conversion Rate via Counterfactual Inference
Naver Corp.(纳维尔公司);Seoul National University(首尔国立大学)
针对点击样本稀疏导致的CVR预测偏差问题,提出基于因果反事实推理的ESCIM模型,通过为未点击样本生成反事实转化标签扩充训练数据,在公开数据集和真实场景A/B测试中均取得更优效果。
2025-10-06 cs.AI cs.IR cs.LG
Boosting the Rating Prediction with Click Data and Textual Contents
SOKENDAI (The Graduate University for Advanced Studies)(综合研究大学院大学(SOKENDAI));National Institute of Informatics(日本国立信息学研究所)
矩阵分解(MF)是最有效的收视率预测方法之一。MF通过分解用户-项目评级矩阵来学习用户和项目表示。此外,文本内容集成到传统的MF,以解决冷启动问题。然而,文本内容并没有反映项目的所有方面。在本文中,我们提出了一个模型,利用隐藏在项目共同点击中的信息(即,经常被用户一起点击的项目)转换为学习项目表示。我们开发了TCMF(Textual Co Matrix Factorization),它从用户-项目矩阵、文本内容和从点击数据构建的项目共同点击矩阵中共同学习用户和项目表示。项目共同点击信息捕获未通过文本内容捕获的项目之间的关系。在两个真实数据集MovieTweetings和Bookcrossing上的实验表明,我们的方法在评级预测方面优于竞争方法。此外,我们表明,该模型可以学习有效的项目表示,通过比较与国家的最先进的方法在分类任务,使用项目表示作为输入向量。
2021-05-12 cs.IR cs.LG
Document Similarity Enhanced IPS Estimation for Unbiased Learning to Rank
针对学习排序中的位置偏差,提出IPSsim估计器,利用文档相似性改进IPS加权,在多个数据集上显著提升无偏排序性能。
2025-07-10 cs.IR
Why Don't You Click: Neural Correlates of Non-Click Behaviors in Web Search
网络搜索在很大程度上依赖于点击行为,作为性能改进和评估的重要反馈信号。传统上,点击通常被视为相关性或有用性的正隐反馈信号,而非点击(尤其是检查后的非点击)则被视为无关性或无用性的信号。然而,在许多情况下,用户不点击任何搜索结果,但仍然通过搜索引擎结果页面(SERP)上显示的结果内容来满足他们的信息需求。这就提出了在“零点击”搜索场景中测量结果有用性和建模用户满意度的问题。以前的工作已经解决了这个问题,通过(1)检测用户满意度放弃SERP与上下文信息和(2)考虑结果级点击的必要性与外部评估员的注释。然而,很少有作品调查了非点击行为背后的原因,并估计非点击结果的有用性。这个研究问题的一个挑战是如何收集非点击结果的有价值的反馈。利用神经成像技术,我们设计了一个基于实验室的用户研究,并揭示了大脑信号的差异,同时检查了具有不同有用性水平的非点击搜索结果。在显著脑区和脑电频谱上的发现也表明,有用性判断过程可能涉及相似的认知功能,即相关感知和满意解码。受这些发现的启发,我们进行了监督学习任务,用大脑信号和常规信息(即,内容和背景因素)。结果表明,在“零点击”搜索场景下,利用脑电信号来提高有用性估计性能和增强人机交互是可行的。
2021-09-22 cs.IR cs.IT math.IT
Click-through Rate Prediction with Auto-Quantized Contrastive Learning
Shanghai Jiao Tong University(上海交通大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Hong Kong Baptist University(香港浸会大学)
点击率(CTR)预测成为无处不在的Web推荐应用中不可或缺的。然而,当前的方法在用户交互极其稀疏的冷启动场景下挣扎。我们认为这个问题是一个自动识别的用户行为是否足够丰富,以捕捉预测的兴趣,并提出了一个自动量化的对比学习(AQCL)损失正则化模型。与以往的方法不同,AQCL同时利用实例-实例和实例-聚类的相似性来增强潜在表示的鲁棒性,并自动减少由于量化而导致的主动用户的信息损失。所提出的框架对不同的模型架构是不可知的,并且可以以端到端的方式进行训练。广泛的结果表明,它一贯改善目前的国家的最先进的CTR模型。
2021-09-27 cs.AI cs.IR cs.LG
Time-aligned Exposure-enhanced Model for Click-Through Rate Prediction
针对多反馈序列时间不对齐及缺乏细粒度交互的问题,本文提出TEM4CTR框架,通过表示投影机制实现时间对齐并利用辅助反馈增强点击行为建模。
2023-08-19 cs.IR
FeedRec: News Feed Recommendation with Various User Feedbacks
准确的用户兴趣建模对于新闻推荐具有重要意义。现有的大多数新闻推荐方法都依赖于像点击这样的隐式反馈来推断用户兴趣和模型训练。然而,点击行为通常包含大量噪声,并且不能帮助推断复杂的用户兴趣,例如不喜欢。此外,仅基于点击行为训练的提要推荐模型无法优化其他目标,如用户参与度。在本文中,我们提出了一个新闻提要推荐方法,可以利用各种用户反馈,以提高用户兴趣建模和模型训练。我们提出了一个统一的用户建模框架,将各种显式和隐式的用户反馈来推断积极和消极的用户兴趣。此外,我们提出了一个从强到弱的注意力网络,它使用较强反馈的表示来从隐式弱反馈中提取积极和消极的用户兴趣,以进行准确的用户兴趣建模。此外,我们提出了一个多反馈模型训练框架来学习一个具有成就感的提要推荐模型。在真实数据集上的大量实验表明,我们的方法可以有效地提高模型在新闻点击和用户参与方面的性能。
2022-02-04 cs.IR
AMinerGNN: Heterogeneous Graph Neural Network for Paper Click-through Rate Prediction with Fusion Query
基于用户生成关键词的论文推荐是指推荐既符合用户兴趣又与输入关键词相关的论文。这是一个包含两个查询的推荐任务,用户ID和关键字。然而,现有的方法集中在根据一个查询,也就是推荐。用户ID,不适用于解决此问题。提出了一种基于异构图神经网络的点击率预测模型AMinerGNN,用于推荐具有两个查询的论文。具体来说,AMinerGNN通过图表示学习构建一个异构图,将用户、论文和关键词投影到同一个嵌入空间。为了处理两个查询,一个新的查询关注融合层的设计,动态地认识到他们的重要性,然后融合他们作为一个查询,建立一个统一的,端到端的推荐系统。在我们提出的数据集和在线A/B测试上的实验结果证明了AMinerGNN的优越性。
2022-08-15 cs.IR
HIEN: Hierarchical Intention Embedding Network for Click-Through Rate Prediction
点击率预测是在线广告和推荐系统中的一个重要环节,其目的是估计用户点击某一特定项目的概率。特征交互建模和用户兴趣建模方法是点击率预测中的两个热点领域,近年来得到了广泛的研究。然而,这些方法仍然受到两个限制。首先,传统方法将项目属性视为ID特征,而忽略了属性间的结构信息和关系依赖。第二,当从用户-项目交互中挖掘用户兴趣时,现有模型忽略了用户意图和项目意图的不同属性,缺乏可解释性。基于这一观察,在本文中,我们提出了一种新的方法层次意图嵌入网络(HIEN),它认为在构造的属性图的基础上自底向上树聚合的属性的依赖关系。HIEN还捕获不同项目属性的用户意图以及基于我们提出的分层注意力机制的项目意图。在公共数据集和生产数据集上的大量实验表明,该模型的性能明显优于最先进的方法。此外,HIEN可以作为输入模块应用于最先进的CTR预测方法,为这些可能已经在实际系统中广泛使用的现有模型带来进一步的性能提升。
2022-06-01 cs.IR
DMGIN: How Multimodal LLMs Enhance Large Recommendation Models for Lifelong User Post-click Behaviors
针对终身点击后行为序列建模及多模态嵌入集成难题,本文提出DMGIN,利用MLLM对行为序列分组并通过组内与组间transformer捕捉兴趣演化,实验和线上A/B测试验证其高效且显著提升CTR与收入。
2025-08-29 cs.IR
MTBRN: Multiplex Target-Behavior Relation Enhanced Network for Click-Through Rate Prediction
点击率(CTR)预测是许多工业系统,如显示广告和推荐系统的关键任务。近年来,用户行为序列建模在CTR领域得到了广泛的关注,并取得了很大的进展。现有的工作主要是在考虑用户行为与目标项之间的关系时,利用基于嵌入产品的注意力机制。然而,这种方法缺乏具体的语义,忽略了驱动用户点击目标项的根本原因。在本文中,我们提出了一个新的框架命名为多重目标行为关系增强网络(MTBRN),利用用户行为和目标项目之间的多重关系,以提高点击率预测。多重关系包含了有意义的语义,可以从不同的角度理解用户的兴趣。为了探索和建模多重关系,我们建议合并各种图(例如,知识图谱和项目-项目相似度图)来构建用户行为与目标项目之间的多个关系路径。然后应用Bi-LSTM对路径提取器层中的每个路径进行编码。设计了一个路径融合网络和一个路径激活网络来自适应地聚集并最终学习所有路径的表示以进行CTR预测。大量的离线和在线实验清楚地验证了我们的框架的有效性。
2020-08-26 cs.IR