Mitigating Exploitation Bias in Learning to Rank with an Uncertainty-aware Empirical Bayes Approach
本文提出EBRank，一种基于经验贝叶斯的不确定性感知排序算法，通过仅用非行为特征构建先验、利用用户行为更新后验并结合主动探索，缓解学习排序中的利用偏差，在三个公开数据集上显著优于现有排序算法。
2023-05-26 cs.IR
Feature-aware Diversified Re-ranking with Disentangled Representations for Relevant Recommendation
相关推荐是一种特殊的推荐场景，当用户对一个目标项目表示兴趣时，点击，喜欢和购买）。除了考虑建议与触发项目之间的相关性外，建议还应多样化，以避免信息茧。然而，现有的多样化推荐方法主要集中在项目级的多样性，这是不够的，当推荐的项目都是相关的目标项目。此外，冗余或嘈杂的项目功能可能会影响性能的简单特征感知推荐方法。面对这些问题，我们提出了一个功能分解自平衡重新排序框架（FDSB），以捕获功能感知的多样性。该框架包括两个主要模块，即解纠缠注意编码器（DAE）和自平衡多方面排名。在DAE中，我们使用多头注意力从丰富的项目特征中学习分离的方面。在排名器中，我们开发了一个特定于方面的排名机制，能够自适应地平衡每个方面的相关性和多样性。在实验中，我们对收集的数据集进行离线评估，并在快手应用程序上部署FDSB，对相关推荐功能进行在线A/B测试。推荐质量和用户体验的显著改善验证了该方法的有效性。
2022-06-10 cs.IR
Evaluation of Field-Aware Neural Ranking Models for Recipe Search
复杂文档结构中的场交互和相关性的显式建模最近在神经文档嵌入和检索任务中得到了普及。虽然这需要定制的任务依赖模型的规格，令人鼓舞的实证结果开始出现。在这项工作中，我们提出了第一次深入分析的非线性多场相互作用（NL-MFI）在烹饪领域的排名。我们的研究结果表明，字段加权因子分解机模型提供了一个统计上显着的改进，在配方检索任务的基线。此外，我们表明，稀疏捕获的领域知识和特征选择算法的基础上的相互作用的子集提供了显着的优势，基线和详尽的替代品。虽然场交互感知模型在架构基础上更加精细，但由于镜像文档和模型分解，它们在优化方面通常更有效，并且更适合解释性。
2021-07-08 cs.IR
Attention over Self-attention:Intention-aware Re-ranking with Dynamic Transformer Encoders for Recommendation
重新排序模型细化了由先前的全局排序模型生成的项目推荐列表，这已经证明了它们在提高推荐质量方面的有效性。然而，大多数现有的重排序解决方案只学习隐式反馈与共享的预测模型，这令人遗憾地忽略了不同的用户意图下的项目间的关系。在本文中，我们提出了一种新的意图感知重排序模型与动态Transformer编码器（RAISE），旨在执行用户特定的预测，为每个单独的用户的基础上，她的意图。具体来说，我们首先提出挖掘潜在的用户意图从文本评论与意图发现模块（IDM）。通过区分评论信息的重要性与共同注意力网络，潜在的用户意图可以显式地建模为每个用户项目对。然后，我们引入了一个动态的Transformer编码器（DTE），以捕捉用户特定的项目之间的项目候选人无缝地容纳通过IDM学习潜在的用户意图之间的关系。因此，人们不仅可以实现更个性化的推荐，而且还可以通过在现有的推荐引擎上构建RAISE来获得相应的解释。在4个公开数据集上的实验结果表明，本文提出的RAISE算法在Precision@5、MAP@5和NDCG@5下的相对性能分别提高了13.95%、9.60%和13.03%。
2023-03-12 cs.IR
Intent-aware Ranking Ensemble for Personalized Recommendation
本文提出意图感知排序集成模型IntEL，通过学习物品级个性化权重融合不同目标的排序列表，以同时满足用户多种行为意图，并在理论上和两个大规模数据集上验证了其有效性。
2023-04-15 cs.IR
Contrastive Learning of User Behavior Sequence for Context-Aware Document Ranking
事实证明，搜索会话中的上下文信息对于捕获用户搜索意图非常有用。现有的研究探讨了用户行为序列在会话中以不同的方式，以提高查询建议或文档排序。然而，用户行为序列通常被视为反映用户行为的明确且准确的信号。实际上，它是高度可变的：用户对同一意图的查询可能会有所不同，并且可以单击不同的文档。为了学习一个更强大的表示用户的行为序列，我们提出了一种基于对比学习的方法，它考虑到用户的行为序列的可能变化。具体来说，我们提出了三个数据增强策略，以产生类似的用户行为序列的变体，并将它们与其他序列进行对比。在这样做时，模型被迫在可能的变化方面更加稳健。将优化后的序列表示方法引入到文档排序中。在两个真实查询日志数据集上的实验表明，该模型的性能明显优于现有的方法，证明了该方法在上下文感知文档排序中的有效性.
2021-08-24 cs.IR
NGAT4Rec: Neighbor-Aware Graph Attention Network For Recommendation
学习信息表示（aka。嵌入）是现代推荐系统的核心。以前的作品利用用户-项目交互图中的单跳邻居的用户-项目关系来提高表示的质量。近年来，图神经网络（GNN）的推荐研究考虑了隐含的多跳邻居的协作信息，以丰富的表示。然而，大多数工作的GNN推荐系统没有考虑的关系信息，这意味着不同的邻居在附近的表达差异显式。每个相邻项对用户偏好表示的影响可以通过项与用户的相邻项之间的相关性来表示。对称地，对于给定的项目，一个相邻用户与相邻用户之间的相关性可以反映关于项目特征的信号的强度。为了对图嵌入聚合中邻居间的隐式相关性进行建模，我们提出了一种用于推荐任务的邻居感知图注意力网络，称为NGAT 4 Rec。它采用了一种新的邻居感知图注意力层，通过计算这些邻居之间的注意力，为给定节点的不同邻居分配不同的邻居感知注意力系数。然后NGAT 4 Rec根据相应的邻居感知注意系数聚合邻居的嵌入，以生成每个节点的下一层嵌入。此外，我们结合了更多的邻居感知的图注意层，以收集来自多跳邻居的有影响的信号。我们删除了特征变换和非线性激活，证明是无用的协同过滤。在三个基准数据集上的大量实验表明，我们的模型始终优于各种最先进的模型。
2021-03-01 cs.IR
MARS: Memory Attention-Aware Recommender System
在本文中，我们研究的问题，建模用户的不同兴趣。以前的方法通常学习一个固定的用户表示，它具有有限的能力来表示用户的不同兴趣。为了模拟用户的各种兴趣，我们提出了一个记忆注意力感知推荐系统（MARS）。MARS利用记忆成分和新的注意力机制来学习深度\textit{adaptive user representations}。以端到端的方式进行训练，MARS自适应地总结用户的兴趣。在实验中，MARS在三个真实世界的数据集上的召回率和平均精度方面优于七种最先进的方法。我们还证明了MARS具有很好的解释性来解释其推荐结果，这在许多推荐场景中非常重要。
2018-05-18 cs.IR
Co-BERT: A Context-Aware BERT Retrieval Model Incorporating Local and Query-specific Context
基于BERT的文本排序模型极大地提高了自组织检索的最新水平，其中大多数模型倾向于独立地考虑单个查询-文档对。与此同时，在排名模型中考虑跨文档交互和查询特定特征的重要性和有用性已被反复证实，主要是在学习排序的背景下。然而，基于BERT的排名模型还不能完全结合这两种类型的排名上下文，从而忽略了来自排名的文档间关系和查询之间的差异。为了缓解这一差距，在这项工作中，一个端到端的基于转换器的排名模型，名为共同BERT，已提出利用几个BERT架构校准查询文档表示使用伪相关反馈建模前的一组文档的相关性联合。在两个标准测试集上进行的大量实验证实了所提出的模型在提高文本重排序性能方面的有效性。我们计划使我们的实现开源，以便进行进一步的比较。
2021-04-17 cs.IR
A Framework for Ranking Content Providers Using Prompt Engineering and Self-Attention Network
针对内容推荐系统中的内容提供者排序问题，提出融合显式反馈、内容特征、提示工程构建真值及自注意力 ListWise 排序网络的框架，在线实验证明可提升推荐质量、可信度与多样性。
2024-09-17 cs.IR
Modeling Document Interactions for Learning to Rank with Regularized Self-Attention
Johns Hopkins University（约翰斯·霍普金斯大学）
学习排序是一个重要的任务，已经成功地部署在许多现实世界的信息检索系统。大多数现有的方法计算独立的文档的相关性判断，没有整体考虑整个竞争文件集。在本文中，我们将探讨基于自注意的神经网络的文档交互建模。虽然自我注意网络在许多NLP任务中取得了最先进的成果，但我们发现，经验表明，自我注意与基线神经学习排序架构相比，几乎没有什么好处。为了改进自注意权重的学习，我们提出了简单而有效的正则化项，旨在对文档之间的交互进行建模。在公开的学习排序（LETOR）数据集上的评估表明，使用我们提出的正则化项训练自注意网络可以显着优于现有的学习排序方法。
2020-05-08 cs.IR cs.LG
Structure-aware Relative Policy Optimization for Ranking
Tsinghua University（清华大学）；Renmin University of China（中国人民大学）
研究排序问题，提出结构感知相对策略优化框架SRPO，通过顶部加权肯德尔-陶距离测量排列差异并归一化奖励差异，强调高效局部优化，实验证明该方法能提高列表排序的有效性和稳定性。
2026-07-29 cs.AI cs.IR
Text Assisted Insight Ranking Using Context-Aware Memory Network
Stony Brook University（石溪大学）；Microsoft Research Asia（微软亚洲研究院）；Shanghai Discovering Investment（上海发现投资）；Peking University（北京大学）
从多维表中提取有价值的事实或信息摘要，即洞察挖掘，是数据分析和商业智能中的一项重要任务。然而，对洞察力的重要性进行排名仍然是一项具有挑战性和未经探索的任务。主要的挑战是，显式地对洞察力进行评分或给它一个排名需要对表格的透彻理解，并且需要花费大量的手动工作，这导致缺乏用于洞察力排名问题的可用训练数据。在本文中，我们提出了一个洞察力排名模型，由两部分组成：神经排名模型探索的数据特征，如头部语义和数据的统计特征，和记忆网络模型引入表结构和上下文信息的排名过程。我们还建立了一个带有文本辅助的数据集。实验结果表明，我们的方法在很大程度上提高了多评价指标的排名精度。
2018-11-13 cs.CL cs.IR
From Easy to Hard: A Dual Curriculum Learning Framework for Context-Aware Document Ranking
University of Montreal（蒙特利尔大学）；University of Cambridge（剑桥大学）；Renmin University of China（中国人民大学）；Huawei Poisson Lab（华为泊松实验室）
搜索会话中的上下文信息对于捕获用户的搜索意图是重要的。已经提出了各种方法来对用户行为序列进行建模以改进会话中的文档排序。通常，（搜索上下文，文档）对的训练样本在每个训练时期中随机采样。在现实中，理解用户的搜索意图和判断文档的相关性的难度在不同的搜索上下文之间有很大的差异。混淆不同难度的训练样本可能会混淆模型的优化过程。在这项工作中，我们提出了一个课程学习框架上下文感知的文档排序，其中的排名模型学习搜索上下文和候选文件之间的匹配信号，在一个容易到困难的方式。在这样做的过程中，我们的目标是引导模型逐渐走向全局最优。为了利用正面和负面的例子，设计了两个课程。在两个真实查询日志数据集上的实验表明，该框架可以显著提高现有方法的性能，证明了课程学习在上下文感知文档排序中的有效性.
2022-09-15 cs.AI cs.IR
Multimodal Matching-aware Co-attention Networks with Mutual Knowledge Distillation for Fake News Detection
本文提出多模态匹配感知协同注意力网络，通过图像-文本对齐融合与互知识蒸馏提升假新闻检测性能，并在三个基准数据集上取得最先进结果。
2023-04-12 cs.IR cs.MM
Fairness-Aware Ranking in Search & Recommendation Systems with Application to LinkedIn Talent Search
LinkedIn Corporation（领英公司）
我们提出了一个框架，用于量化和减轻算法偏见的机制，设计用于排名的个人，通常用作网络规模的搜索和推荐系统的一部分。我们首先提出了补充措施，以量化偏见方面的保护属性，如性别和年龄。然后，我们提出了算法计算公平意识的重新排名的结果。对于一个给定的搜索或推荐任务，我们的算法寻求实现一个期望的分布排名靠前的结果相对于一个或多个受保护的属性。我们表明，这样的框架可以量身定制，以实现公平的标准，如机会均等和人口均等取决于所需的分配的选择。我们评估所提出的算法，通过广泛的模拟在不同的参数选择，并研究了公平意识排名的偏见和效用的措施。最后，我们提出了在线A/B测试结果，从应用我们的框架对LinkedIn人才搜索的代表性排名，并讨论在实践中吸取的教训。我们的方法在不影响业务指标的情况下，极大地改善了公平性指标（具有代表性结果的搜索查询数量增加了近三倍），这为全球100%的LinkedIn Recruiter用户部署铺平了道路。我们是第一个大规模部署的框架，用于确保招聘领域的公平性，对超过6.3亿LinkedIn会员产生了潜在的积极影响。
2019-07-24 cs.IR cs.LG
Context Aware Query Rewriting for Text Rankers using LLM
L3S Research Institute（L3S研究所）；Delft University of Technology（代尔夫特理工大学）；University of Stavanger（斯塔万格大学）
本文提出上下文感知查询重写（CAR）方法，在训练阶段利用LLM重写模糊查询，微调排序器，在段落和文档排序任务上分别提升高达33%和28%。
2023-08-31 cs.AI cs.IR
Sequential Recommendation with Relation-Aware Kernelized Self-Attention
最近的研究表明，顺序推荐是由注意力机制改善。通过这种发展，我们提出了一个自注意力机制的Transformer的概率模型的增强的感知核自注意力（RKSA）。Transformer最初的自注意力是一种确定性测度，没有关系意识。因此，我们引入了一个潜在的空间的自注意力力，和潜在的空间模型的推荐上下文的关系作为一个多变量的偏态正态分布与核化协方差矩阵的同现，项目的特点，和用户信息。该工作通过添加推荐任务细节的概率模型，将Transformer的自注意力和顺序推荐相结合。我们在基准数据集上进行了RKSA实验，与最近的基线模型相比，RKSA显示出显着的改进。此外，RKSA还能够生成一个潜在空间模型来回答推荐的原因。
2019-11-15 cs.IR cs.LG stat.ML
Context Features Are Cheap: Rank-Aware Decomposition for Efficient Feature Interaction in Recommender Systems
Taboola Israel（Taboola以色列）
提出一种秩感知分解方法，通过将上下文相关计算从每个候选一次减少为每个请求一次，在不改变模型预测的情况下显著提升工业推荐系统的吞吐量。
2026-05-24 cs.IR cs.LG
Enhancing Cross-Sectional Currency Strategies by Context-Aware Learning to Rank with Self-Attention
University of Oxford（牛津大学）；Oxford-Man Institute of Quantitative Finance（牛津-曼氏量化金融研究所）
跨部门货币策略的表现关键取决于在投资组合构建之前对工具进行准确排名。虽然这个排名步骤传统上是使用分类法，或通过排序逐点回归或分类技术产生的输出来执行的，但使用学习排名算法的策略最近已经成为具有竞争力和可行的替代方案。虽然这些策略的核心排名是在全球范围内学习的，并且平均提高了排名的准确性，但它们忽略了投资组合重新平衡时资产特征分布之间的差异。这一缺陷使得它们容易产生次优排名，可能在最需要准确性的重要时期。例如，这可能发生在关键的风险规避时期，从而使投资组合面临大量不必要的提款。我们解决这个缺点与类似的想法从信息检索：查询的顶部检索到的文档或本地排名上下文提供有关查询的自身特征，然后可以用来完善初始排名列表的重要信息。在这项工作中，我们使用一个上下文感知的学习排名模型，该模型是基于Transformer架构的编码顶部/底部排名的资产，学习上下文，并利用这些信息来重新排名的初始结果。对31种货币进行回测，我们提出的方法将夏普比率提高了约30%，并显著增强了各种性能指标。此外，这种方法还提高了夏普比率时，分别在正常和风险小康市场状态的条件。
2022-01-27 cs.IR cs.LG q-fin.PM
