Reading Position Is the Baseline to Beat: A Time-Ordered Evaluation of Personalised Highlight Prediction
Glasp Inc.(Glasp公司)
本研究提出阅读位置作为个性化高亮预测的基线,通过时间顺序评估证明其优于流行度和相似度方法,并强调评估应遵循时间顺序。
2026-10-08 cs.HC cs.IR
BPR: Bayesian Personalized Ranking from Implicit Feedback
University of Hildesheim(希尔德斯海姆大学)
项目推荐是预测一组项目(例如网站,电影,产品)的个性化排名的任务。在本文中,我们调查了最常见的情况下,隐式反馈(例如,点击,购买)。基于隐式反馈的项目推荐方法有很多,如矩阵分解(MF)和自适应knearest-neighbor(kNN)。尽管这些方法是为个性化排名的项目预测任务而设计的,但它们都没有直接针对排名进行优化。在本文中,我们提出了一个通用的优化标准BPR-Opt的个性化排名,这是来自贝叶斯分析的问题的最大后验估计。我们还提供了一个通用的学习算法优化模型的BPR-Opt。学习方法是基于自举抽样的随机梯度下降。我们展示了如何将我们的方法应用于两个最先进的推荐模型:矩阵分解和自适应kNN。我们的实验表明,对于个性化排名的任务,我们的优化方法优于MF和kNN的标准学习技术。结果表明,优化模型的正确标准的重要性。
2012-05-09 cs.IR cs.LG stat.ML
VBPR: Visual Bayesian Personalized Ranking from Implicit Feedback
UC San Diego(加州大学圣地亚哥分校)
现代推荐系统通过发现或“挑拨离间”编码项目属性和用户偏好的潜在维度来对人和项目进行建模。关键是,这些维度是基于用户反馈发现的,通常是隐式形式的(例如购买历史、浏览日志等);此外,一些推荐系统利用诸如产品属性、时间信息或评论文本之类辅助信息。然而,现有的个性化推荐和排名方法通常忽略的一个重要特征是正在考虑的项目的视觉外观。在本文中,我们提出了一个可扩展的因子分解模型,将视觉信号纳入人们的意见,我们适用于选择的大型,真实世界的数据集的预测。我们利用(预先训练的)深度网络从产品图像中提取的视觉特征,在此基础上,我们学习了一个额外的层,该层揭示了最能解释人们反馈变化的视觉维度。这不仅导致显著更准确的个性化排名方法,而且还有助于缓解冷启动问题,并定性地分析影响人们意见的视觉维度。
2015-10-06 cs.AI cs.IR
U-rank: Utility-oriented Learning to Rank with Implicit Feedback
学习排序是许多现实世界信息系统中最重要的任务之一,其中目标是一些特定的效用,例如,点击和收入。然而,我们指出,现有的方法基于概率排序原则不一定达到最高的效用。为此,我们提出了一种新的排名框架,称为U-排名,直接优化的预期效用的排名列表。通过一个位置感知的深度点击率预测模型,我们解决了同时考虑查询级和项目级特征的注意偏差。由于项目特定的注意力偏差模型,预期效用的优化对应于项目位置二分图上的最大权重匹配。我们基于一个有效的Lambdaloss框架,这是支持理论和实证分析的优化这一目标。我们在三个基准数据集和两个专有数据集上对网络搜索和推荐系统进行了广泛的实验,其中展示了U-排名在最先进技术上的性能增益。此外,我们提出的U-排名已部署在一个大规模的商业推荐和生产基线的大幅度改善已被观察到在在线A/B测试。
2020-11-01 cs.IR
Learning Neural Ranking Models Online from Implicit User Feedback
University of Virginia(弗吉尼亚大学)
现有的在线学习排序(OL 2 R)解决方案仅限于线性模型,这是不足以捕捉查询和文档之间可能的非线性关系。在这项工作中,为了释放OL 2 R中表示学习的力量,我们提出直接从用户的隐式反馈(例如,点击)在飞行中收集。我们专注于RankNet和LambdaRank,由于它们在离线设置中的巨大经验成功和广泛采用,并基于使用神经切线核的神经网络的收敛分析来控制臭名昭著的探索-利用权衡。具体而言,在每轮结果服务中,仅对两个文档之间的预测排名顺序不确定的文档对进行探索;否则,将在结果排名中遵循排名器的预测顺序。我们证明了在标准假设下,我们的OL 2 R解决方案实现了间隙依赖的遗憾上限$O(\log^2(T))$,其中的遗憾是定义在$T$轮的错序对的总数。在两个公共学习排序基准数据集上对一组广泛的最先进的OL 2 R基线进行比较,证明了所提出的解决方案的有效性。
2022-01-17 cs.IR cs.LG
Query Chains: Learning to Rank from Implicit Feedback
本文提出了一种使用点进数据来学习网络搜索结果的排名检索函数的新方法。我们观察到,用户搜索网络经常执行一个序列,或链,查询具有类似的信息需求。使用查询链,我们从搜索引擎日志中生成新类型的偏好判断,从而利用用户智能重新制定查询。为了验证我们的方法,我们进行了一个受控的用户研究比较生成的偏好判断明确的相关性判断。我们还实现了一个真实世界的搜索引擎来测试我们的方法,使用修改后的排名SVM从偏好数据中学习改进的排名函数。我们的研究结果表明,显着改善排名的搜索引擎。学习的排名优于静态排名函数,以及在不考虑查询链的情况下训练的排名。
2006-05-08 cs.IR cs.LG
Towards Comprehensive Recommender Systems: Time-Aware UnifiedcRecommendations Based on Listwise Ranking of Implicit Cross-Network Data
School of Computing, National University of Singapore(新加坡国立大学计算机学院)
Web应用程序中信息的丰富性使得推荐对于用户和应用程序都是必不可少的。尽管现有的推荐系统的有效性,我们发现两个主要的限制,降低其整体性能:(1)无法提供及时的建议,为新的和现有的用户考虑用户偏好的动态性质,(2)没有完全优化的排名任务时,使用隐式反馈。因此,本文提出了一种基于深度学习的统一跨网络解决方案,以缓解冷启动和数据稀疏问题,并为新用户和现有用户提供及时的推荐。此外,本文将隐式反馈下的排序问题视为分类任务,并提出了一种通用的隐式数据个性化列表优化准则,以有效地对项目列表进行排序。我们说明了我们的跨网络模型使用Twitter的辅助信息的建议在YouTube的目标网络。与多个时间感知和跨网络基线的广泛比较表明,所提出的解决方案在准确性,新颖性和多样性方面是优越的。此外,在流行的MovieLens数据集上进行的实验表明,所提出的列表排序方法优于现有的最先进的排序技术。
2020-08-25 cs.AI cs.IR cs.LG
Factorization Machines for Data with Implicit Feedback
在这项工作中,我们提出了FM对,一个适应的因式分解机与成对的损失函数,使它们有效的数据集与隐式反馈。FM-Pair中的优化模型基于BPR(贝叶斯个性化排名)标准,这是一个成熟的成对优化模型。FM-Pair保留了FM在通用性、表现力和性能方面的优势,但它可以用于具有隐式反馈的数据集。我们还提出了如何有效地应用FM对两个协同过滤问题,即上下文感知的推荐和跨域协同过滤。通过在具有显式或隐式反馈的不同数据集上进行实验,我们凭经验证明,在大多数测试数据集中,FM对击败了最先进的学习排名方法,如BPR-MF(BPR with Matrix Factorization model)。我们还表明,FM对是显着更有效的排名相比,标准的FM模型。此外,我们表明FM对可以有效地利用上下文或跨域信息,因为推荐的准确性总是会随着正确的辅助特征而提高。最后,我们证明了FM对具有线性时间复杂度,并通过利用额外的功能线性扩展。
2018-12-19 cs.IR
Self-supervised Contrastive Learning for Implicit Collaborative Filtering
针对隐式协同过滤中推荐系统假正/负例干扰偏好学习的问题,提出结合正例特征与负例标签增强的自监督对比学习框架,经理论验证与多数据集实验,在运行时间相当的前提下显著优于BPR基线。
2024-03-12 cs.IR
Set2setRank: Collaborative Set to Set Ranking for Implicit Feedback based Recommendation
Hefei University of Technology(合肥工业大学);Hefei Comprehensive National Science Center(合肥综合性国家科学中心)
由于用户经常使用二进制行为数据(隐式反馈)来表达他们的偏好,例如点击项目或购买产品,基于隐式反馈的协同过滤(CF)模型通过利用隐式用户-项目交互数据来预测用户可能喜欢的排名靠前的项目。对于每个用户,隐式反馈被分成两个集合:一个观察到的项目集有限的观察到的行为,和一个大的未观察到的项目集,混合负项目行为和未知行为。给定任何用户偏好预测模型,研究人员要么设计基于排名的优化目标,要么依赖于负项挖掘技术来进行更好的优化。尽管这些基于隐式反馈的模型的性能增益,推荐结果仍然是远远不能令人满意的,由于每个用户的观察项目集的稀疏性。为此,在本文中,我们探讨了隐式反馈的独特特性,并提出了Set 2setRank框架的建议。Set 2setRank的优化标准有两个方面:首先,我们设计了一个项目到项目集的比较,鼓励来自采样观察集的每个观察项目的排名高于来自采样未观察集的任何未观察项目。第二,我们模型集水平比较,鼓励从观察项目集总结的距离和最“硬”未观察到的项目从抽样的负面集之间的利润率。此外,还设计了一种自适应采样技术来实现这两个目标。我们必须注意到,我们提出的框架是模型不可知的,可以很容易地应用于大多数推荐预测方法,并在实践中是时间效率。最后,在三个真实世界的数据集上进行了大量的实验,证明了我们所提出的方法的优越性。
2021-05-26 cs.AI cs.IR
Inferring Conceptual Relationships When Ranking Patients
基于患者的医疗记录的相关性来搜索患者是具有挑战性的,因为患者的医疗记录和查询中固有的隐含知识。这样的知识对于医学从业者是已知的,但是可以对搜索系统隐藏。举例来说,在搜寻心脏病患者时,医生通常知道服用胺碘酮药物的患者是相关的,因为这种药物是用于对抗心脏病的。在这篇文章中,我们认为,利用这种隐含的知识,提高了检索的有效性,因为它提供了新的证据来推断患者的医疗记录对查询的相关性。具体而言,建立在现有的概念表示的医疗记录和查询,我们提出了一种新的扩展查询,推断额外的概念关系,从特定领域的资源,以及通过提取信息的概念,从排名靠前的患者的医疗记录。我们在TREC 2011年和2012年医疗记录跟踪的背景下评估我们提出的方法的检索有效性。我们的研究结果表明,我们的方法来模拟患者搜索的隐式知识的有效性,从而检索性能显着提高了一个有效的概念表示基线和现有的语义查询扩展基线。此外,我们提供了一个分析的类型的查询,所提出的方法可能是有效的。
2017-02-01 cs.IR
SetRank: A Setwise Bayesian Approach for Collaborative Ranking from Implicit Feedback
University of Science and Technology of China(中国科学技术大学);Baidu Talent Intelligence Center, Baidu Inc.(百度人才智能中心(百度公司));Business Intelligence Lab, Baidu Research(百度研究院商业智能实验室)
最近发展的在线推荐系统的重点是从隐式反馈,如用户点击和购买的协作排名。与反映分级用户偏好的显式评分不同,隐式反馈仅生成正面和未观察到的标签。虽然在这方面已经作出了相当大的努力,但众所周知的成对和列表方法仍然受到各种挑战的限制。具体而言,对于成对方法,独立的成对偏好的假设并不总是在实践中举行。此外,由于整个列表排列的前提条件,列表方法不能有效地容纳“领带”。为此,在本文中,我们提出了一种新的setwise贝叶斯方法的协作排名,即SetRank,内在地容纳在推荐系统中的隐式反馈的特点。具体来说,SetRank的目标是最大化新的setwise偏好比较的后验概率,可以用矩阵分解和神经网络来实现。同时,对SetRank进行了理论分析,证明了SetRank的超额风险界与$\sqrt{M/N}$成正比,其中$M$和$N$分别为项目数和用户数.最后,在四个真实世界数据集上进行的广泛实验清楚地验证了SetRank与各种最先进的基线相比的优越性。
2020-02-23 cs.IR cs.LG stat.ML
Representation Learning and Pairwise Ranking for Implicit Feedback in Recommendation Systems
Univ. Grenoble Alpes/CNRS(格勒诺布尔阿尔卑斯大学/法国国家科学研究中心);Center for Energy Systems, Skolkovo Institute of Science(斯科尔科沃科技学院能源系统中心);T-4 and CNLS, Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室T-4与CNLS);Center for Energy Systems, Skolkovo Institute of Science and Technology(斯科尔科沃科技学院能源系统中心)
在本文中,我们提出了一种新的排名框架,协同过滤的总体目标是学习用户的偏好,通过最大限度地减少成对的排名损失。我们表明,最小化问题涉及到相关的随机变量,并提供了一个理论分析,证明了在最坏的情况下,所有用户选择的积极和消极的项目的最小数量的经验风险最小化的一致性。我们进一步推导出一个神经网络模型,共同学习一个新的表示的用户和项目在一个嵌入式空间,以及用户的偏好关系对项目。的学习目标是基于三种情况下的排名损失,控制的能力的模型,以保持从用户的喜好,以及,在学习的嵌入式空间中定义的点积的能力,以产生的排序引起的项目的排序。所提出的模型本质上适合于隐式反馈,并且只涉及很少的参数估计。通过对隐式数据的几个真实世界的基准测试进行广泛的实验,我们显示了与单独学习相比,同时学习偏好和嵌入的兴趣。我们还表明,我们的方法是非常有竞争力的最好的国家的最先进的协同过滤技术提出的隐式反馈。
2018-07-12 cs.CL cs.IR stat.ML
MetaSynth: Multi-Agent Metadata Generation from Implicit Feedback in Black-Box Systems
Walmart Global Tech(沃尔玛全球科技)
MetaSynth通过多智能体检索增强生成框架,利用黑盒系统中的隐式反馈优化元数据生成,提升了CTR和点击率表现。
2025-12-04 cs.IR
Debiased Explainable Pairwise Ranking from Implicit Feedback
University of Louisville(路易斯维尔大学)
最近的工作在推荐系统中强调了公平的重要性,特别是在偏见和透明度,除了预测准确性。在本文中,我们专注于最先进的成对排名模型,贝叶斯个性化排名(BPR),它以前被发现在预测准确性方面优于逐点模型,同时也能够处理隐式反馈。具体来说,我们解决了BPR的两个局限性:(1)BPR是一个黑箱模型,不解释其输出,从而限制了用户对建议的信任,以及分析师审查模型输出的能力;(2)由于数据是非随机缺失(MNAR),BPR容易受到暴露偏差的影响。这种曝光偏差通常会转化为对最不受欢迎的项目的不公平,因为它们有被推荐系统曝光不足的风险。在这项工作中,我们首先提出了一种新的可解释的损失函数和相应的矩阵分解为基础的模型,称为可解释的贝叶斯个性化排名(EBPR),生成建议以及基于项目的解释。然后,我们从理论上量化额外的曝光偏差所造成的可解释性,并使用它作为基础,提出一个无偏估计的理想EBPR损失。其结果是一个排名模型,恰当地捕捉了去偏见和可解释的用户偏好。最后,我们对三个真实世界的数据集进行了实证研究,证明了我们提出的模型的优点。
2021-07-30 cs.AI cs.IR cs.LG
Generative Product Recommendations for Implicit Superlative Queries
Emory University(埃默里大学);Amazon.com Inc.(亚马逊公司)
针对推荐系统中缺乏明确属性的隐式最高级查询,本文研究利用大型语言模型生成并推理隐式属性以改进产品推荐,提出了四点标注模式SUPERB和新数据集,并评估了现有检索与排序方法在真实电商系统中的应用。
2025-04-26 cs.CL cs.IR
Interventions for Ranking in the Presence of Implicit Bias
Yale University(耶鲁大学);Indian Institute of Technology, Kanpur(坎pur印度理工学院)
内隐偏见是将特定品质(或缺乏)无意识地归因于来自特定社会群体的成员(例如,按性别或种族划分)。对内隐偏见的研究表明,这些无意识的刻板印象在各种社会背景下都会产生不良后果,例如工作筛选,教学或警务。最近,(Kleinberg和Raghavan,2018)考虑了隐式偏差的数学模型,并证明了鲁尼规则作为约束的有效性,以提高子集选择问题某些情况下结果的效用。在这里,我们研究的问题,设计干预措施的泛化子集选择-排名-需要输出一个有序的集合,是一个中央原语在各种社会和计算环境。我们提出了一系列简单且可解释的约束条件,并表明它们可以最佳地减轻隐式偏差,以推广(Kleinberg和Raghavan,2018)中研究的模型。随后,我们证明,在自然分布的假设下,项目的效用,简单的,鲁尼规则一样,约束也可以令人惊讶地恢复几乎所有的效用损失,由于隐含的偏见。最后,我们用来自IIT-JEE(2009)数据集和Semantic Scholar Research语料库的真实世界分布的经验发现来增强我们的理论结果。
2020-01-23 cs.AI cs.CY cs.DS
Implicit Negative Feedback in Clinical Information Retrieval
在本文中,我们反映了如何提高生物医学信息检索的质量,通过绘制隐含的负反馈,从否定的信息在嘈杂的自然语言搜索查询。我们首先研究在何种程度上否定发生在临床文本和量化检索性能的不利影响。随后,我们提出了一些查询重构和排名的方法,解决这些缺点自然语言否定。我们的实验结果是基于TREC临床决策支持跟踪过程中收集的数据,与最先进的方法相比,显示出一致的改进。使用我们的新算法,我们能够将否定对早期精度的负面影响减少高达65%。
2016-07-12 cs.IR
AgentDR: Dynamic Recommendation with Implicit Item-Item Relations via LLM-based Agents
Amazon(亚马逊);University of Michigan(密歇根大学)
AgentDR通过基于LLM的代理利用隐式物品-物品关系,结合记忆机制和提示策略,提升动态推荐的全排名性能和相关性。
2026-02-24 cs.AI cs.IR
Variational Bayesian Personalized Ranking
School of Computing and Artificial Intelligence, Southwest Jiaotong University (SWJTU)(西南交通大学计算机与人工智能学院);School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University (SJTU)(上海交通大学电子信息与电气工程学院);School of Electronic Information and Communications, Huazhong University of Science and Technology (HUST)(华中科技大学电子信息与通信学院);School of Transportation and Logistics, Southwest Jiaotong University(西南交通大学交通运输与物流学院)
本文提出变分贝叶斯个性化排序(VarBPR),通过变分推断框架解决隐式反馈配对学习中的稀疏监督、噪声和曝光偏差问题,提供理论解释和曝光可控性。
2026-03-24 cs.IR
AIRwaves at CheckThat! 2025: Retrieving Scientific Sources for Implicit Claims on Social Media with Dual Encoders and Neural Re-Ranking
TU Wien(维也纳技术大学)
本研究提出双编码器与神经重排序的两阶段检索流程,用于社交媒体隐含科学声明的证据检索,在CheckThat! 2025中显著提升MRR@5至0.6828。
2025-09-23 cs.AI cs.IR cs.LG
Ranker-agnostic Contextual Position Bias Estimation
学习排名(LTR)算法是无处不在的,是探索媒体提供商的广泛目录所必需的。为了避免用户检查所有结果,其首选项用于提供相对较小的子集。如果显式评级不可用,则可以从与所呈现的内容的交互中推断用户偏好。然而,直接使用隐式反馈可能会导致学习错误的相关性模型,被称为有偏见的LTR。隐性反馈和真实关联之间的不匹配是由于各种滋扰,与位置偏见最相关的。位置偏差模型认为,与所呈现的项目缺乏相互作用不仅归因于项目不相关,而且因为项目没有被检查。本文介绍了一种用于对物品在不同上下文中被看到的概率进行建模的方法,例如,对于不同的用户,使用一个估计器。我们建议的方法,表示为上下文(EM)为基础的回归,是排名不可知的,能够正确地学习潜在的检查概率,而只使用隐式反馈。我们的实证结果表明,本文介绍的方法优于其他现有的位置偏差估计的相对误差时,检查概率不同的查询。此外,当用于消除隐式排名数据的偏差时,即使不存在对检查概率的上下文依赖性,估计值也提供排名性能提升。
2021-07-28 cs.IR
Exploring the Implicit Semantic Ability of Multimodal Large Language Models: A Pilot Study on Entity Set Expansion
Shenzhen International Graduate School Tsinghua University(清华大学深圳国际研究生院);Peng Cheng Laboratory(鹏城实验室);Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)(广东省人工智能与数字经济实验室(深圳));Seoul National University(首尔大学)
本文首次将生成式多模态大语言模型应用于多模态实体集扩展任务,提出列表排序方法LUSAR,将局部得分映射为全局排序,显著提升了模型在实体级隐式语义理解上的表现。
2024-12-31 cs.AI cs.CL cs.IR
Deep Retrieval at CheckThat! 2025: Identifying Scientific Papers from Implicit Social Media Mentions via Hybrid Retrieval and Re-Ranking
University of Zurich(苏黎世大学);Centre for Artificial Intelligence(人工智能中心);Zurich University of Applied Sciences(应用科学大学);Institute of Neuroinformatics(神经信息学研究所);European Centre for Living Technology(欧洲生活技术中心)
本文提出结合 BM25、FAISS 稠密检索与 LLM 重排序的混合检索流程,用于从社交媒体帖子中检索科学文献,在 CheckThat! 2025 子任务 4b 中取得开发集第 1、测试集第 3 的成绩。
2025-07-04 cs.AI cs.IR
Explicit and Implicit Semantic Ranking Framework
Microsoft(微软公司);Nuance Communications(Nuance通信公司)
本文提出自训练语义交叉注意力排序框架sRank,通过线性成对损失和可变批大小实现高效高质量排序,在微软智能回复和临床智能任务上显著提升准确率并减少时间成本。
2024-11-12 cs.AI cs.IR
Latent Relational Metric Learning via Memory-based Attention for Collaborative Ranking
Nanyang Technological University(南洋理工大学);Institute for Infocomm Research(信息通信研究院)
提出了一种新的隐式反馈协同排序神经网络结构。我们的模型LRML(\textit{Latent Relational Metric Learning})是一种新颖的推荐指标学习方法。更具体地说,而不是简单的推拉机制之间的用户和项目对,我们建议学习潜在的关系,描述每个用户项目的互动。这有助于缓解现有度量学习方法的潜在几何不确定性。这不仅可以实现更好的性能,还可以实现更大程度的建模能力,允许我们的模型扩展到更大数量的交互。为了做到这一点,我们采用了一个增强的记忆模块,并学习关注这些记忆块来构建潜在的关系。基于记忆的注意力模块由用户-项目交互控制,使得学习到的关系向量特定于每个用户-项目对。因此,这可以被解释为学习每个用户-项目交互的排他性和最佳关系翻译。所提出的架构展示了跨多个推荐基准的最先进的性能。LRML在Netflix和MovieLens 20 M等大型数据集上的Hits@10和nDCG@10方面优于$6\%-7.5\%$的其他度量学习模型。此外,定性研究还证明,我们提出的模型能够推断和编码明确的情感,时间和属性信息,尽管只接受隐式反馈的训练。因此,这保证了LRML发现隐式数据集中隐藏的关系结构的能力。
2018-02-13 cs.AI cs.IR
Stochastic Rank Aggregation
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
本文讨论了排名聚合问题,其目的是在多个排名输入之间找到一个共识排名。传统的秩聚集方法是确定性的,并且根据秩信息是显式地还是隐式地被利用而被分为显式方法和隐式方法。令人惊讶的是,在真实数据集上的实验结果表明,显式秩聚合方法的效果不如隐式方法,尽管秩信息对任务至关重要。我们的分析表明,主要原因可能是不完整的排名输入的不可靠的排名信息。为了解决这个问题,我们建议将不确定性纳入秩聚合,并在无监督和监督的情况下解决这个问题。我们称这种新的框架为{随机秩聚合}(简称St.Agg)。具体来说,我们引入了一个先验分布的排名,并将传统的显式方法的排名功能或目标,他们的期望在这个分布。我们在基准数据集上的实验表明,所提出的St.Agg在无监督和有监督的情况下都优于基线。
2013-09-26 cs.IR cs.LG stat.ML
Leveraging Reference Documents for Zero-Shot Ranking via Large Language Models
Tsinghua University(清华大学);CSIRO(澳大利亚联邦科学与工业研究组织)
RefRank 通过利用固定参考文档实现零样本排序,以线性时间复杂度提升排序准确性并降低计算成本。
2025-12-02 cs.IR
Sequential Learning over Implicit Feedback for Robust Large-Scale Recommender Systems
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);University Grenoble-Alpes(格勒诺布尔-阿尔卑斯大学)
在本文中,我们提出了一个强大的顺序学习策略,用于训练大规模的推荐系统(RS)的隐式反馈主要是在点击的形式。我们的方法依赖于最小化的成对排名损失块的连续项目构成的一系列非点击的项目,然后点击一个为每个用户。如果对于给定用户,连续块的数量低于或高于在训练集中块的数量分布上估计的某些给定阈值,则丢弃参数更新。这是为了防止对一些目标项目的异常点击次数,主要是由于机器人;或很少的用户交互。这两种情况都会影响RS的决策,并意味着向用户显示的项目分布会发生变化。我们提供了一个理论分析表明,在排名损失是凸的情况下,相对于所提出的算法发现的权重序列的损失和其最小值之间的偏差是有界的。此外,五个大规模的集合上的实验结果表明,所提出的算法的效率相对于国家的最先进的方法,无论是关于不同的排名措施和计算时间。
2019-02-21 cs.IR cs.LG stat.ML
A Deep Recurrent Survival Model for Unbiased Ranking
位置偏差是信息检索中处理隐含但有偏差的用户反馈数据时的一个关键问题。无偏排名方法通常依赖于因果关系模型,并通过反向倾向加权来消除用户反馈的偏见。虽然实用,但这些方法仍然存在两个主要问题。首先,当推断用户点击时,上下文信息(例如已检查的文档)的影响通常被忽略。第二,只考虑了位置偏差,而忽略了用户浏览行为导致的其他问题。在本文中,我们提出了一个端到端的深度递归生存排名(DRSR),一个统一的框架,以联合建模用户的各种行为,(i)考虑排名列表中丰富的上下文信息;(ii)解决用户行为背后的隐藏问题,即,挖掘无点击查询(non-click queries)中的观察模式,对不能真实反映用户浏览意图的跟踪日志(untrusted observation)进行建模。具体来说,我们采用了一个递归神经网络来建模的上下文信息,并估计在每个位置的用户反馈的条件可能性。然后,我们将生存分析技术与概率链规则数学恢复一个用户的各种行为的无偏联合概率。DRSR可以很容易地与逐点和逐对学习目标相结合。在两个大规模工业数据集上进行的大量实验表明,与现有技术相比,我们的模型具有显着的性能增益。
2020-05-24 cs.IR
Unbiased Learning-to-Rank with Biased Feedback
Cornell University(康奈尔大学)
隐式反馈(例如,点击、停留时间等)是人机交互系统中丰富的数据源。虽然隐式反馈具有许多优点(例如,收集成本低、以用户为中心、及时),但其固有的偏见是其有效使用的主要障碍。例如,搜索排名中的位置偏差强烈影响结果接收的点击量,因此在学习排序(LTR)方法中直接使用点击数据作为训练信号会产生次优结果。为了克服这个偏差问题,我们提出了一个反事实推理框架,提供了理论基础,无偏LTR通过经验风险最小化,尽管有偏见的数据。使用这个框架,我们推导出一个倾向加权排名SVM的歧视性学习隐式反馈,点击模型的倾向估计的作用。与使用点击模型来消除数据偏见的大多数传统方法相比,这允许即使在查询不重复的设置中也能训练排名函数。除了理论支持之外,我们还从经验上证明了所提出的学习方法在处理偏差方面非常有效,它对噪声和倾向模型的错误设定具有鲁棒性,并且它可以有效地扩展。我们还证明了我们的方法在实际操作中的搜索引擎,它大大提高了检索性能的适用性。
2016-08-16 cs.IR cs.LG
Policy-Gradient Training of Fair and Unbiased Ranking Functions
Cornell University(康奈尔大学);Tsinghua University(清华大学)
虽然隐式反馈(例如,点击、停留时间等)是学习排序的一个丰富而有吸引力的数据来源,但它可能会产生不公平的排名政策,无论是外部的还是内部的原因。外生原因通常表现为训练数据中的偏差,然后反映在学习的排名策略中,并经常导致富人越来越富的动态。此外,即使在纠正了这些偏差之后,学习算法设计的内在原因仍然可能导致排名策略不能以公平的方式在项目之间分配曝光。为了解决外源性和内源性的不公平性,我们提出了第一个学习排名的方法,同时解决介绍偏见和择优公平的曝光。具体来说,我们定义了一类摊销公平的曝光限制,可以选择基于应用程序的需求,我们展示了如何执行这些公平的标准,尽管隐式反馈数据中的选择偏差。关键的结果是一个有效的和灵活的政策梯度算法,称为FULTR,这是第一个使使用反事实估计效用估计和公平性约束。除了框架的理论依据,我们的经验表明,该算法可以学习准确和公平的排名政策,从偏见和嘈杂的反馈。
2021-05-09 cs.CY cs.IR cs.LG
Unbiased Pairwise Learning from Implicit Feedback for Recommender Systems without Biased Variance Control
针对隐式反馈中正负样本不确定及稀有项目被低估的问题,本文提出低方差无偏成对学习方法UPL,在避免有偏方差控制的同时提升推荐排序性能。
2023-04-14 cs.IR
Leverage Implicit Feedback for Context-aware Product Search
产品搜索是网上购物的重要入口。与网络搜索相比,产品搜索中检索到的结果不仅需要相关,而且还应该满足客户的偏好,以吸引购买。以前的工作已经显示了购买历史在个性化产品搜索中的功效。然而,很少或没有购买历史的客户不会从个性化产品搜索中受益。此外,从客户的购买历史中提取的偏好通常是长期的,并不总是与她的短期利益一致。因此,在本文中,我们利用查询会话中的点击,作为隐式反馈,来表示用户的隐藏意图,这进一步作为重新排序后续结果页面的查询的基础。在推荐任务中,利用隐式反馈对用户偏好进行建模已经得到了广泛的研究。然而,很少有研究建模用户的短期兴趣在产品搜索。我们研究短期上下文是否有助于促进用户的理想项目在以下结果页面的查询。此外,我们提出了一个端到端的上下文感知嵌入模型,可以捕获长期和短期的上下文依赖关系。我们在商业产品搜索引擎的搜索日志中收集的数据集上的实验结果表明,与长期和无上下文相比,短期上下文导致更好的性能。我们的研究结果也表明,我们提出的模型是更有效的基于词的上下文感知模型。
2020-01-09 cs.IR
NEAR$^2$: A Nested Embedding Approach to Efficient Product Retrieval and Ranking
University of Surrey, United Kingdom(英国萨里大学);Birmingham City University, United Kingdom(英国伯明翰城市大学)
提出嵌套嵌入方法NEAR$^2$,在推理时嵌入大小效率提升12倍且不增训练成本,提升检索排序准确率。
2025-06-24 cs.CL cs.IR
An IPW-based Unbiased Ranking Metric in Two-sided Markets
Recruit Co., Ltd.(瑞可利有限公司);Tokyo Institute of Technology(东京工业大学)
针对双边市场隐式反馈存在双向位置偏差的问题,本文提出双边IPW无偏排序估计器,经理论证明无偏,且在真实平台实验中精准度和鲁棒性优于基线,处理稀有物品效果更突出。
2023-07-14 cs.IR cs.LG stat.ML
A Control Function Framework for Mitigating Position Bias in Learning to Rank Systems
University of Illinois Chicago(伊利诺伊大学芝加哥分校);California Polytechnic State University(加州州立大学彭塞科分校)
本文提出一种基于控制函数的两阶段方法,用于纠正学习排序中位置偏差,无需依赖点击或倾向模型,且适用于各种排序算法。
2026-08-11 cs.IR cs.LG
Integrating Reviews into Personalized Ranking for Cold Start Recommendation
Hong Kong University of Science and Technology(香港科技大学);Nanjing University(南京大学)
项目推荐任务为每个用户预测一组项目的个性化排名。一个范例是基于评级的方法,专注于明确的反馈,因此面临着收集他们的困难。同时,提出了基于评分的方法,对评分后的项目进行排序。这种模式利用了广泛存在的内隐反馈。然而,它通常忽略了一种重要的信息:项目评论。项目审查不仅证明了用户的偏好,而且还有助于减轻冷启动问题,失败的协同过滤。在本文中,我们提出了两个新颖而简单的模型,将项目评论贝叶斯个性化排名。在每个模型中,我们使用词嵌入从项目评论中提取的文本特征。在文本特征之上,我们发现了解释用户反馈变化的评论维度,这些评论因素代表了用户的优先偏好。在六个真实数据集上的实验显示了利用项目评论进行排名预测的好处。我们还进行分析,以了解所提出的模型。
2018-12-05 cs.AI cs.CL cs.IR
A Missing Information Loss function for implicit feedback datasets
BBVA Data & Analytics(BBVA数据分析公司)
隐式反馈推荐系统的潜在因素模型通常将未观察到的用户-项目交互(即丢失信息)视为负反馈。这通常是通过负采样(逐点损失)或排序损失函数(成对或列表估计)来完成的。由于零偏好推荐是大多数常见目标函数的有效解决方案,因此将未知值视为实际零会导致用户对大多数可用项目具有零偏好推荐。在本文中,我们提出了一种新的目标函数,\emph{Missing Information Loss}(MIL),明确禁止治疗未观察到的用户项交互的积极或消极的反馈。我们将这种损失应用于传统的矩阵分解和基于用户的去噪自动编码器,并将其与其他已建立的目标函数进行比较,如交叉熵(点和成对)或最近提出的多项式对数似然。MIL在应用于三个数据集时,在排名感知指标方面取得了有竞争力的性能。此外,我们表明,这种相关性的建议,同时显示受欢迎的项目不太频繁(最多$20 \%$减少相对于最好的竞争方法)。这种对流行项目推荐的去偏倾向于不常见项目的出现(直到长尾推荐的$50 \%$增加),这对于具有大的产品目录的推荐系统是有价值的特征。
2018-08-16 cs.AI cs.IR cs.LG
Real-time Short Video Recommendation on Mobile Devices
近年来,短视频应用吸引了数十亿用户,以多样化的内容满足了他们的各种需求。用户通常会在短时间内在移动设备上观看多个话题的短视频,并非常迅速地对所观看的短视频给予显性或隐性的反馈。推荐系统需要实时的【形】感知用户的偏好,以满足用户不断变化的兴趣。传统上,推荐系统部署在服务器端返回一个排名的视频列表,从客户端的每个请求。因此,它不能在下一次请求之前根据用户的实时的【形】反馈来调整推荐结果。由于客户机-服务器传输延迟,它也无法立即利用用户的实时的【形】反馈。然而,随着用户不断观看视频和反馈,不断变化的上下文导致服务器端推荐系统的排名不准确。在本文中,我们提出了在移动设备上部署短视频推荐框架来解决这些问题。具体来说,我们设计并部署了一个小型的设备上的排名模型,以实现服务器端推荐结果的实时的【形】重新排名。我们通过利用用户对观看视频的实时的【形】反馈和客户端特定的实时的【形】功能来提高其预测准确性。在预测更加准确的基础上,进一步考虑候选视频之间的交互,提出了一种基于自适应束搜索的上下文感知重排序方法。该框架已部署在亿级用户规模的短视频应用快手上,有效观看、点赞和关注分别提升了1.28%、8.22%和13.6%。
2022-11-08 cs.IR
Mining Implicit Relevance Feedback from User Behavior for Web Question Answering
Microsoft(微软);BUPT(北京邮电大学);Simon Fraser University(西蒙弗雷泽大学)
针对多语言商业搜索引擎的网络规模的问答(QA)系统的训练和更新通常需要大量的训练样本。一个原则性的想法是从记录在搜索引擎日志中的用户行为中挖掘隐含的相关反馈。以往的隐式相关反馈挖掘都是针对网页文档的相关性而不是段落。由于问答任务的一些独特的特点,现有的Web文档的用户行为模型不能应用于推断段落相关性。本文首先研究了用户行为与段落相关性之间的关系,提出了一种新的Web问答训练数据挖掘方法。我们在四个测试数据集上进行了大量的实验,结果表明,我们的方法显着提高了通道排名的准确性,而无需额外的人类标记数据。在实践中,这项工作已被证明是有效的,以大大减少人工标注成本的QA服务在全球商业搜索引擎,特别是对语言资源少。我们的技术已经部署在多语言服务中。
2020-06-16 cs.CL cs.IR
Advances in Collaborative Filtering and Ranking
City University of Hong Kong(香港城市大学);University of California, Davis(加州大学戴维斯分校)
在这篇论文中,我们涵盖了协同过滤和排名的一些最新进展。在第一章中,我们简要介绍了协同过滤和排序的历史和现状;第二章首先讨论了基于图信息的逐点协同过滤问题,以及我们提出的新方法如何能够编码非常深的图信息,这对现有的四种图协同过滤算法有很大的帮助;第三章介绍了两两协作排序方法,以及如何将算法加速到接近线性的时间复杂度;第4章是关于新的列表方法的合作排名和如何列表方法是一个更好的选择损失的显式和隐式反馈点式和成对损失;第5章是关于我们为嵌入层提出的新的正则化技术随机共享嵌入(SSE),以及它如何在推荐和自然语言处理的6个不同任务中在理论上合理和经验上有效;第6章是我们如何在SSE的帮助下为最先进的顺序推荐模型引入个性化,这在防止我们的个性化模型过拟合到训练数据中起着重要的作用;第七章,我们总结了到目前为止所取得的成就,并预测了未来的发展方向;第八章是所有章节的附录。
2020-02-27 cs.IR cs.LG stat.ML
Consistent Position Bias Estimation without Online Interventions for Learning-to-Rank
Cornell University(康奈尔大学)
呈现偏差是从搜索引擎中的隐式反馈中学习时的关键挑战之一,因为它由于排名中的位置、显著性和其他呈现因素而将相关性信号与无信息信号混淆。虽然最近显示了如何反事实的学习排序(LTR)方法\cite{Joachims/etal/17a}可以证明克服演示偏差,如果观察倾向是已知的,它仍然显示如何准确地估计这些倾向。在本文中,我们提出了第一种方法来产生一致的倾向估计没有手动相关性判断,破坏性干预,或限制性的相关性建模假设。我们只需要我们有来自多个不同排名函数的隐式反馈数据。此外,我们认为,我们的估计技术适用于扩展类的上下文基于位置的倾向模型,其中倾向不仅取决于位置,但也可观察到的查询和文档的功能。初步的模拟研究证实,该方法是可扩展的,准确的,和强大的。
2018-06-09 cs.IR cs.LG stat.ML
Parallel Ranking of Ads and Creatives in Real-Time Advertising Systems
针对现有广告与创意串行排序的局限,本文首次提出在线并行估计架构与离线联合优化模型,实现个性化创意建模并降低延迟,实验证明其在响应时间、CTR和CPM上优于两种最先进方法。
2023-12-20 cs.AI cs.IR
Correct and Weight: A Simple Yet Effective Loss for Implicit Feedback Recommendation
Department of Computer Science, University at Albany(大学 at Albany 计算机科学系);Department of Management Information Systems, West Virginia University(西弗吉尼亚大学管理信息学系);Department of Electrical and Computer Engineering, Duke University(杜克大学电气与计算机工程系);Department of Computer Science and Engineering, University of Notre Dame(诺特大学计算机科学与工程系)
本文提出了一种简单有效的隐式反馈推荐损失函数,通过纠正假负样本影响和动态加权机制提升推荐性能。
2026-01-07 cs.IR cs.LG
Towards Reliable Negative Sampling for Recommendation with Implicit Feedback via In-Community Popularity
College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院)
本文提出ICPNS框架,通过利用用户社区结构识别可靠负样本,提升推荐系统中隐式反馈的学习效果。
2026-02-21 cs.AI cs.IR
Adapting Triplet Importance of Implicit Feedback for Personalized Recommendation
McGill University(麦吉尔大学);City University of Hong Kong(香港城市大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
隐式反馈由于其在现实系统中的普遍性和可访问性,经常被用于开发个性化推荐服务。为了有效地利用这些信息,大多数研究采用成对排序方法构建训练三元组(用户,积极项目,消极项目),旨在区分每个用户的积极项目和消极项目。然而,这些方法中的大多数都平等地对待所有的训练三元组,这忽略了不同的积极或消极项目之间的细微差异。另一方面,即使其他一些作品利用辅助信息(例如,停留时间)来捕捉这种微妙的差异,这样的辅助信息是难以获得的。为了缓解上述问题,我们提出了一种名为Triplet Importance Learning(TIL)的新型训练框架,该框架自适应地学习训练三元组的重要性得分。我们设计了两种策略的重要性得分生成和制定的整个过程作为一个双层优化,这不需要任何基于规则的设计。我们将建议的训练过程与几个矩阵分解(MF)和图神经网络(GNN)为基础的推荐模型,证明了我们的框架的兼容性。通过使用三个真实世界的数据集与许多最先进的方法进行比较,我们表明,我们提出的方法在Recall@k方面优于最好的现有模型3-21\%。
2022-12-17 cs.IR cs.LG
Sampler Design for Implicit Feedback Data by Noisy-label Robust Learning
Tsinghua University(清华大学)
内隐反馈数据因其易于收集和普遍适用而在推荐中被广泛探讨。然而,预测用户对隐式反馈数据的偏好是一项具有挑战性的任务,因为我们只能观察到积极的(投票)样本和未投票的样本。很难区分负样本和未标记的正样本与未投票的样本。现有的作品,如贝叶斯个性化排名(BPR),样本未投票的项目作为负样本均匀,因此遭受一个关键的噪声标签问题。为了解决这一问题,我们设计了一个基于噪声标签鲁棒学习的自适应采样器。为了使问题公式化,我们首先引入贝叶斯逐点优化(BPO)来学习模型,例如,矩阵分解(MF),通过最大似然估计。我们用模型预测用户的偏好,并通过最大化观察到的数据标签的可能性来学习它,即,用户更喜欢她的肯定样本,并且对她的未投票样本没有兴趣。然而,实际上,用户可能对她的一些未投票样本感兴趣,这些未投票样本实际上是被错误标记为负面样本的正面样本。然后,我们考虑这些噪声标签的风险,并提出了一个噪声标签鲁棒BPO(NBPO)。NBPO还最大化观察似然,同时通过基于贝叶斯定理的标签翻转似然将用户偏好和观察到的标签连接起来。在NBPO中,用户更喜欢她的真阳性样本,而对她的真阴性样本不感兴趣,因此优化质量得到了显着提高。在两个公开的真实世界数据集上的大量实验表明,我们提出的优化方法有显着的改善。
2020-06-28 cs.IR cs.LG stat.ML
Multi-Label Network Classification via Weighted Personalized Factorizations
University of Hildesheim(希尔德斯海姆大学)
多标签网络分类是一个众所周知的任务,被用于各种各样的基于Web和非基于Web的域。它可以被形式化为一个多关系学习任务,用于根据网络中的关系预测节点标签。在稀疏网络中,当只有隐式反馈信息可用时,例如在预测社交网络中的用户兴趣时,该预测任务可能非常具有挑战性。目前的方法依赖于通过利用网络结构来学习每个节点的潜在表示,然而,隐式反馈关系是自然稀疏的,并且仅包含正的观察到的反馈,这意味着这些方法将把所有观察到的关系视为同等重要。这在现实世界的场景中不一定是这种情况,因为隐式关系可能具有反映这些关系的强度的语义权重。如果这些权重可以近似,则可以训练模型以区分强关系和弱关系。提出了一种基于贝叶斯个性化排序损失的加权个性化两阶段多关系矩阵分解网络分类模型,该模型利用基本传递节点相似度函数对隐式反馈关系进行加权.实验表明,该模型显着优于国家的最先进的模型在三个不同的现实世界的基于Web的数据集和基于生物学的数据集。
2019-02-25 cs.IR cs.LG cs.SI