Test-Time Optimization of Query Embeddings with Ranking Aware Reward Maximization
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究提出TTT-Embed框架，将排名奖励提炼为轻量学习向量，无需访问模型权重即可优化，在多嵌入模型和MTEB任务上显著提升测试时检索效果，且具备良好泛化性，解决了灾难性遗忘问题。
2026-08-14 cs.IR
Compact Token Representations with Contextual Quantization for Efficient Document Re-ranking
基于Transformer的重排序模型可以通过上下文感知的查询令牌与文档令牌的软匹配来实现高搜索相关性。为了减轻运行时的复杂性，这样的推理，以前的工作已经采用了一个后期的互动架构与预先计算的上下文令牌表示的成本一个大的在线存储。本文提出了上下文量化的令牌嵌入解耦的文档特定的和文档无关的排名的贡献，在基于码本的压缩。这允许有效的在线解压缩和嵌入组合，以获得更好的搜索相关性。本文提出了一个评估上述紧凑的令牌表示模型的相关性和空间效率。
2022-03-29 cs.IR
BeLink: Biomedical Entity Linking Meets Generative Re-Ranking
University of Milan（米兰大学）；University of Chicago（芝加哥大学）
本文提出了一种基于生成模型的重新排序方法，通过指令微调提高生物医学实体链接的效率和准确性，在多个基准测试中实现了3%-24%的链接准确率提升，同时减少了推理时间。
2026-05-21 cs.AI cs.CL cs.IR
Quantizing Intent: Cross-Domain Semantic IDs from Organic Activity for Industrial Ranking
LinkedIn（领英）
提出从有机feed活动中提取跨域用户语义ID，并通过残差有限标量量化方法（RQ-FSQ）离散化预训练嵌入，在显著降低存储的同时匹配或超越密集嵌入的AUC，有效提升广告点击率预测中稀疏用户监督的跨域迁移效果。
2026-05-31 cs.IR
AGRaME: Any-Granularity Ranking with Multi-Vector Embeddings
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Apple（苹果公司）；Adobe（奥多比公司）
本文提出任意粒度排序方法AGRaME，利用多向量嵌入在单一编码粒度下实现多粒度排序，通过多粒度对比损失训练，并应用于检索增强生成的引用添加，性能优于提示驱动方法。
2024-05-23 cs.CL cs.IR
CEDR: Contextualized Embeddings for Document Ranking
Georgetown University（乔治城大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
虽然最近对神经排序架构给予了相当大的关注，但对用作这些模型输入的术语表示的关注要少得多。在这项工作中，我们研究了两个预训练的上下文语言模型（ELMo和BERT）可以用于ad-hoc文档排序。通过对TREC基准测试的实验，我们发现几种现有的神经排名架构可以受益于上下文化语言模型提供的额外上下文。此外，我们提出了一种联合方法，将BERT的分类向量纳入现有的神经模型，并表明它优于最先进的ad-hoc排名基线。我们称这种联合方法为CEDR（上下文嵌入文档排序）。我们还解决了使用这些模型进行排名的实际挑战，包括由BERT施加的最大输入长度和上下文化语言模型的运行时性能影响。
2019-08-19 cs.CL cs.IR
NEAR$^2$: A Nested Embedding Approach to Efficient Product Retrieval and Ranking
University of Surrey, United Kingdom（英国萨里大学）；Birmingham City University, United Kingdom（英国伯明翰城市大学）
提出嵌套嵌入方法NEAR$^2$，在推理时嵌入大小效率提升12倍且不增训练成本，提升检索排序准确率。
2025-06-24 cs.CL cs.IR
Ranking Entity Based on Both of Word Frequency and Word Sematic Features
实体搜索是满足搜索引擎用户精确或模糊需求的新应用。百度杯2016挑战赛正好提供了这样一个解决实体搜索问题的机会。我们在电影、电视节目、名人和餐馆等4项任务上的平均MAP得分均名列第一。在本文中，我们提出了一系列的相似性特征的基础上的词频特征和词的语义特征，描述了我们的排名架构和实验细节。
2016-08-03 cs.IR
HyQE: Ranking Contexts with Hypothetical Query Embeddings
Boston University（波士顿大学）；Intuit AI Research（Intuit人工智能研究院）
HyQE提出一种无需微调LLM的可扩展上下文排序框架，通过让预训练LLM基于检索上下文生成假设查询，再计算其与用户查询的嵌入相似度来排序，在多个基准上提升了排序性能。
2024-10-20 cs.AI cs.IR
End-to-End Cross-Modality Retrieval with CCA Projections and Pairwise Ranking Loss
跨模态检索包括检索任务，其中获取的项目与搜索查询的类型不同，例如，检索与给定文本查询相关的图片。跨模态检索的最新方法依赖于学习两种模态的联合嵌入空间，其中使用最近邻搜索检索来自任一模态的项目。在这项工作中，我们引入了一个基于典型相关分析（CCA）的神经网络层，通过分析计算最大化相关性的投影来学习更好的嵌入空间。与以前的方法相比，CCA层（CCAL）允许我们将现有的嵌入空间学习目标（如成对排序损失）与CCA的最佳投影相结合。我们展示了我们的方法在三种不同场景（文本到图像，音频单音乐和zero-shot检索）上进行跨模态检索的有效性，超过了Deep CCA和使用成对排名损失优化的自由学习投影的多视图网络，特别是当训练数据很少时（所有三种方法的代码发布在：https：//github.com/CPJKU/cca_layer）。
2018-04-16 cs.IR
Rethinking Hybrid Retrieval: When Small Embeddings and LLM Re-ranking Beat Bigger Models
SAP（SAP公司）
本文研究了RAG系统的三模态混合检索，发现紧凑的MiniLM-v6结合LLM重排序在性能上优于更大的BGE-Large，表明嵌入模型选择应优先考虑多信号融合与LLM对齐而非单纯依赖模型规模。
2025-05-28 cs.AI cs.IR
A Study on Passage Re-ranking in Embedding based Unsupervised Semantic Search
IBM Research（IBM研究）；IBM Watson
用于（基于嵌入的）无监督语义搜索的现有技术方法利用（查询和段落的）组成相似性或（来自查询和段落的）成对词（或术语）相似性。通过设计，基于单词的方法不包含更大上下文（查询/段落）中的相似性，而基于成分相似性的方法通常无法利用上下文中最重要的线索。在本文中，我们提出了一种新的成分相似性为基础的方法，称为可变质心向量（VCVB），试图解决这两个限制。我们还提出了使用不同类型的成分相似性为基础的方法，利用通用的句子嵌入的结果。我们提供了两个不同的基准的实证评估。
2019-03-13 cs.CL cs.IR
Dimension Reduction for Efficient Dense Retrieval via Conditional Autoencoder
密集检索器对查询和文档进行编码，并使用预训练的语言模型将它们映射到嵌入空间中。这些嵌入需要是高维的，以适应训练信号，并保证密集检索器的检索效率。然而，这些高维嵌入导致更大的索引存储和更高的检索延迟。为了降低稠密检索的嵌入维数，提出了一种条件自动编码器（ConAE）对高维嵌入进行压缩，以保持相同的嵌入分布，更好地恢复排序特征。我们的实验表明，ConAE是有效的压缩嵌入实现可比的排名性能与教师模型，使检索系统更有效。进一步的分析表明，ConAE算法可以有效地降低稠密检索中嵌入的冗余度，而只需要一个线性层。这项工作的所有代码都可以在https://github.com/NEUIR/ConAE上找到。
2022-10-22 cs.IR
Embedding Meta-Textual Information for Improved Learning to Rank
学习术语嵌入的神经方法已经导致了信息检索（IR）中相似性和排名的改进计算。到目前为止，神经表示学习还没有扩展到元文本信息，这是很容易获得的许多IR任务，例如，在现有技术检索的专利类别，在维基百科文章的主题信息，或在电子商务数据的产品类别。我们提出了一个框架，学习嵌入的元文本类别，并优化了成对的排名目标，以改善匹配的基础上结合嵌入的文本和元文本信息。我们表现出相当大的收益，在维基百科领域的跨语言检索的实验评估的三种语言对，并在专利领域的一种语言对。我们的研究结果强调，不同类型的信息相结合的模式是模型改进的关键。
2020-10-30 cs.IR
End-to-End Neural Ranking for eCommerce Product Search: an application of task models and textual embeddings
我们考虑的问题，检索和排名的电子商务目录中的项目，通常被称为SKU，为了相关的用户发出的查询。用于排序的输入数据是查询的文本和目录中索引的SKU的文本字段。我们审查的方式，这个问题既相似又不同的问题，IR在网络搜索的背景下。产品搜索问题和网络搜索的IR问题之间的差异需要在模型和数据集方面采用不同的方法。我们首先回顾了最近的国家的最先进的网络搜索IR模型，区分两种不同类型的模型，我们称之为分布式和本地交互型。不同类型的相关性模型开发的IR有互补的优点和缺点时，应用于电子商务产品搜索。此外，我们解释了为什么在IR文献中使用的数据集构建的传统方法无法产生足以用于电子商务产品搜索模型的训练或评估的数据。我们解释了我们自己的方法，将任务建模技术应用于电子商务网站的点击日志，可以构建一个大规模的数据集，用于相关性模型的训练和鲁棒基准测试。我们的实验包括将IR文献中的几个模型应用于我们自己的数据集。根据经验，我们已经确定，当应用于我们的数据集时，与基线tf-idf相比，某些局部交互类型的模型将排名错误减少了三分之一。应用于我们的数据集，分布式模型未能超越基线。作为部署系统的基础，分布式模型在计算上比本地交互模型有几个优点。这激发了一个正在进行的工作计划，我们在论文的结尾处概述了这个计划。
2018-06-19 cs.IR
LLMs Meet Isolation Kernel: Lightweight, Learning-free Binary Embeddings for Fast Retrieval
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学本科软件技术国家重点实验室）
本文提出无学习的隔离内核嵌入（IKE），将LLM嵌入转换为二进制嵌入，实现低内存和快速检索，实验显示其检索速度提升16.7倍，内存使用降低16倍，同时保持相似精度。
2026-07-08 cs.IR
Embedding Ranking-Oriented Recommender System Graphs
基于图的推荐系统（GRSs）分析数据的图形表示中的结构信息以做出更好的推荐，特别是当直接用户-项目关系数据稀疏时。面向排名的GRS形成了一个主要类别的推荐系统，主要使用偏好（或排名）数据的图形表示来测量节点的相似性，从这些相似性中，它们可以使用基于邻域的机制来推断推荐列表。在本文中，我们提出了PGRec，一种新的基于图的面向排名的推荐框架。PGRec通过一种名为PrefGraph的新型图结构对用户对项目的偏好进行建模。然后通过改进的嵌入方法利用该图，利用因子分解和深度学习方法，提取代表用户，项目和偏好的向量。然后，将得到的嵌入用于预测用户的未知成对偏好，从该偏好推断出最终的推荐列表。我们已经评估了所提出的方法对最先进的基于模型和基于邻域的推荐方法的性能，我们的实验表明，PGRec优于基线算法高达3.2%的NDCG@10在不同的MovieLens数据集。
2020-07-31 cs.IR cs.LG stat.ML
UniNote: A Unified Embedding Model for Multimodal Representation and Ranking
Xiaohongshu Beijing China（小红书北京中国）；Shanghai Jiao Tong University（上海交通大学）；Huazhong University of Science and Technology（华中科技大学）；Beijing Institute of Technology（北京理工大学）
提出UniNote统一嵌入模型，通过两阶段训练（对比SFT和强化学习）解决工业级Item-to-Item检索中全局表示与局部检索的平衡、解耦流水线效率及精度-延迟权衡问题，在小红书部署后显著提升检索质量和成本效率。
2026-06-01 cs.CV cs.IR
Farewell to Item IDs: Unlocking the Scaling Potential of Large Ranking Models via Semantic Tokens
ByteDance（字节跳动）
TRM通过语义标记替代物品ID，提升排序模型的扩展性与性能，实现存储减少和AUC提升。
2026-01-30 cs.IR
SemanticZ at SemEval-2016 Task 3: Ranking Relevant Answers in Community Question Answering Using Semantic Similarity Based on Fine-tuned Word Embeddings
Research Training Group AIPHES（AIPHES研究培训组）；Institute for Computational Linguistics（计算语言学研究所）；Heidelberg University（海德堡大学）；Qatar Computing Research Institute, HBKU（哈马德·本·哈利法大学卡塔尔计算研究所）
我们描述了我们在社区论坛中寻找好答案的系统，如SemEval-2016，关于社区问答的任务3中所定义的。我们的方法依赖于几个语义相似性特征的基础上微调词嵌入和主题的相似性。在主要的子任务C中，我们的主要提交排名第三，MAP为51.68，准确率为69.94。在子任务A中，我们的主要提交也是第三名，MAP为77.58，准确率为73.39。
2019-11-20 cs.AI cs.CL cs.IR
Affect Enriched Word Embeddings for News Information Retrieval
Adobe（奥多比）
词的分布式表示已被证明是有用的，以提高效率的IR系统在许多子任务，如查询扩展，检索和排名。像word 2 vec、GloVe等算法也是不同NLP任务中许多改进的关键因素。这种嵌入模型的一个常见问题是，像快乐和悲伤这样的词出现在类似的上下文中，因此在嵌入空间中被错误地聚集在一起。在本文中，我们利用Aff 2 Vec，一组词嵌入模型，其中包括影响信息，以更好地捕捉新闻文本中的影响方面，以实现更好的结果在信息检索任务，也这样的嵌入是由同义词/反义词的问题较少击中。我们评估其有效性的两个IR相关的任务（查询扩展和排名）在纽约时报数据集（TREC-core '17）比较他们对其他词嵌入为基础的模型和经典的排名模型。
2019-09-04 cs.CL cs.IR
End-to-End Neural Ad-hoc Ranking with Kernel Pooling
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）；Allen Institute for AI（艾伦人工智能研究院）
提出了一种基于核的文档排序神经网络模型K-NRM。给定一个查询和一组文档，K-NRM使用一个翻译矩阵，通过词嵌入对词级相似性进行建模，一种新的内核池技术，使用内核来提取多级软匹配特征，以及一个学习排名层，将这些特征组合到最终的排名分数中。整个模型都是端到端训练的。排序层从成对排序损失中学习所需的特征模式。核函数将特征模式转换为每个相似度级别的软匹配目标，并将其强制到转换矩阵上。相应地调整词嵌入，以便它们可以产生所需的软匹配。在商业搜索引擎的查询日志上的实验证明了K-NRM相对于现有的基于特征和基于神经的最新技术的改进，并解释了K-NRM的优势的来源：其内核引导嵌入编码为匹配查询词到文档词而定制的相似性度量，并提供有效的多级软匹配。
2017-06-20 cs.CL cs.IR
Guiding Graph Embeddings using Path-Ranking Methods for Error Detection innoisy Knowledge Graphs
Institute of Informatics and Telecommunications, National Center Scientific Research Demokritos（德谟克利特国家科学研究中心信息与电信研究所）；Department of Informatics and Telecommunications, National and Kapodistrian University of Athens（雅典大学信息与电信学院）
知识图谱是目前异构大数据关系信息表示的主流方法，但其自动构建时可能包含大量的输入噪声。为了解决这个问题，已经提出了不同的错误检测方法，主要集中在路径排序和表示学习。这项工作提出了各种主流的方法，并提出了一个混合和模块化的方法的任务。我们在两个基准和一个真实世界的生物医学出版物数据集上比较了不同的方法，展示了我们方法的潜力，并提供了在处理有噪知识图谱时图嵌入的见解。
2020-12-12 cs.AI cs.IR cs.LG
Dynamic Visual Semantic Sub-Embeddings and Fast Re-Ranking
Wuhan University（武汉大学）；Nanjing University of Science and Technology（南京理工大学）
提出动态视觉语义子嵌入框架（DVSE）和快速重排序策略（FR），通过正交约束和方差感知加权损失降低信息熵，提升跨模态匹配精度，并在三个基准数据集上验证了有效性。
2023-12-21 cs.CV cs.IR
Multi-Faceted Large Embedding Tables for Pinterest Ads Ranking
Pinterest USA（Pinterest美国）
针对Pinterest广告排序中大型嵌入表训练难题，提出多面预训练方案结合多种算法丰富嵌入表，并设计CPU-GPU混合服务架构，在CTR和CVR上取得显著提升，上线后CPC降1.34%、CTR增2.60%。
2025-08-11 cs.AI cs.IR cs.LG
Graph-Embedding Empowered Entity Retrieval
在这项研究中，我们改进了目前的艺术实体检索的结果列表使用图嵌入重新排名。本文表明，图嵌入是有用的面向实体的搜索任务。我们的经验表明，编码信息从知识图谱到（图）嵌入有助于更高的增加实体检索结果的有效性比使用普通的词嵌入。我们分析了实体链接器的准确性对整体检索效果的影响。我们的分析进一步部署集群假设来解释观察到的优势，图嵌入更广泛使用的词嵌入，用户任务涉及排名实体。
2020-05-06 cs.CL cs.IR
Unbiased Learning to Rank Meets Reality: Lessons from Baidu's Large-Scale Search Dataset
University of Amsterdam（阿姆斯特丹大学）；Naver Labs Europe（Naver欧洲实验室）
本研究基于百度Baidu-ULTR数据集验证无偏学习排序技术的真实效果，发现其虽能稳定提升点击预测，但难以持续改善排序性能，且性能结论高度依赖基准的评估指标。
2024-05-15 cs.AI cs.IR
End-to-end training of Multimodal Model and ranking Model
本文提出工业级多模态推荐框架EM3，通过Fusion-Q-Former、LoRA长序列建模和Content-ID对比学习实现多模态模型与排序模型端到端训练，在离线、在线及公开数据集上均验证显著效果。
2024-04-09 cs.IR
Personalized Search Via Neural Contextual Semantic Relevance Ranking
本文提出一种神经学习框架，通过结合词汇表示和语义嵌入建模文档内容与用户查询上下文的关系，利用个性化上下文信号优化文档排序，有效提升了个性化搜索效果。
2023-09-10 cs.IR
Evaluation of a Search Interface for Preference-Based Ranking -- Measuring User Satisfaction and System Performance
在线查找产品对用户来说可能是一项具有挑战性的任务。分面搜索界面，通常与搜索引擎相结合，可以帮助用户找到符合他们偏好的产品。然而，这些偏好并不总是平等的权重：有些偏好对用户来说可能比其他偏好更重要（例如红色是最喜欢的颜色，但蓝色也很好），有时偏好甚至是矛盾的（例如最低价格与最高性能）。通常情况下，甚至没有一种产品能满足所有的偏好。在这些情况下，分面搜索界面达到了极限。在我们的研究中，我们调查了搜索界面的潜力，它允许基于加权搜索和方面的条款的偏好为基础的排名。我们对24名参与者进行了用户研究，并测量了用户满意度和系统性能。结果表明，与基于偏好的搜索界面的用户被赋予更多的选择，最好地满足他们的喜好，他们更满意所选择的产品比使用标准方面的搜索界面。此外，在这项工作中，我们研究了用户满意度和搜索精度之间的关系，在整个搜索会话，并发现第一个迹象表明，它们之间可能有关系。
2023-02-13 cs.HC cs.IR
MixLM: High-Throughput and Effective LLM Ranking via Text-Embedding Mix-Interaction
LinkedIn
MixLM通过文本嵌入混合交互技术，显著提升LLM排序系统的吞吐量，实现高效率的实时搜索应用部署。
2026-01-31 cs.AI cs.CL cs.IR
Graph Embedding for Citation Recommendation
随着科学的进步，学术界发表了数百万篇研究论文。研究人员在撰写论文或只是为了跟上当前的研究时，会花费时间和精力搜索相关的手稿。本文研究了图上的引文推荐问题，提出了一种基于任务的邻域构造策略来学习论文的分布式表示。此外，鉴于所学到的表示，我们调查各种计划排名的候选论文引用推荐。实验结果表明，我们提出的邻域构造策略优于广泛使用的随机游走为基础的采样策略的所有排名方案，和基于模型的排名方案优于嵌入的邻域构造策略的排名。我们还证明了图嵌入是一种鲁棒的引用推荐方法，当隐藏率变化时，而经典方法的性能显着下降时，种子论文集变得很小。
2018-12-06 cs.DL cs.IR cs.SI
Improving Neural Ranking Models with Traditional IR Methods
Rensselaer Polytechnic Inst.（伦斯勒理工学院）；IBM Research（IBM研究院）
本文提出将传统TF-IDF方法与浅层嵌入模型结合，以低成本方式在3个数据集上媲美大型Transformer神经排序模型的性能，并提升大规模微调模型的效果。
2023-08-29 cs.CL cs.IR
Decoupled Entity Representation Learning for Pinterest Ads Ranking
Pinterest, Inc（Pinterest公司）
该研究提出一种上游-下游范式的解耦实体表示学习框架，通过上游模型定期学习用户与Pin嵌入并供下游广告召回、排序等任务使用，在Pinterest广告排序场景的离线在线实验均获性能提升，已上线生产系统。
2025-09-04 cs.AI cs.IR cs.LG
E2Rank: Unifying Text Embedding and Listwise Reranking for Effective and Efficient Search
Renmin University of China（中国人民大学）；Alibaba Group（阿里巴巴集团）
E2Rank是统一文本嵌入与列表式重排序的框架，通过将列表式提示视为伪相关反馈查询，在单一模型内实现高效检索与重排序，在BEIR等基准上性能优异且延迟更低。
2026-08-27 cs.AI cs.CL cs.IR
Efficient Document Ranking with Learnable Late Interactions
Google（谷歌公司）
提出可学习晚期交互模型LITE，作为通用逼近器，在域内和零样本重排序中优于ColBERT，同时降低延迟和存储开销。
2024-06-25 cs.AI cs.IR cs.LG
Do Neural Ranking Models Intensify Gender Bias?
Johannes Kepler University（约翰内斯·开普勒大学）
关于信息检索（IR）系统中的社会偏见的足迹的关注已经在以前的几项研究中提出。在这项工作中，我们研究了各种最近的IR模型的角度来看，在其检索结果的性别偏见的程度。为此，我们首先提供了一个偏差测量框架，其中包括两个指标来量化的程度不平衡的存在，性别相关的概念在一个给定的IR模型的排名列表。为了通过框架检查IR模型，我们创建了一个由人类注释者选择的非性别查询数据集。将这些查询应用于MS MARCO Passage检索集合，然后测量BM 25模型和几个最近的神经排名模型的性别偏见。结果表明，虽然所有模型都强烈偏向男性，但神经模型，特别是基于情境嵌入模型的模型，显着加剧了性别偏见。我们的实验还表明，当神经模型利用迁移学习时，即当它们使用（已经有偏见的）预训练嵌入时，神经模型的性别偏见会整体增加。
2020-06-15 cs.IR cs.LG
Machine Translation Evaluation Meets Community Question Answering
Qatar Computing Research Institute, HBKU（HBKU卡塔尔计算研究所）
我们探讨了机器翻译评估（MTE）方法对一个非常不同的问题的适用性：社区问答中的答案排名。特别是，我们采用了成对的神经网络（NN）架构，它结合了MTE功能，以及丰富的语法和语义嵌入，并有效地模拟复杂的非线性交互。评估结果显示了最先进的性能，MTE功能和成对NN架构都有相当大的贡献。
2019-12-06 cs.CL cs.IR cs.LG
Personalized Product Search Ranking: A Multi-Task Learning Approach with Tabular and Non-Tabular Data
Walmart Global Tech（沃尔玛全球技术）
本文提出一种基于多任务学习的个性化产品搜索排序模型架构，整合表格与非表格数据并利用预训练TinyBERT，结合可扩展相关性标注机制，显著提升了模型性能。
2025-08-13 cs.AI cs.CL cs.IR
COFFEE: COdesign Framework for Feature Enriched Embeddings in Ads-Ranking Systems
Meta Platforms, Inc.（Meta平台公司）
COFFEE框架通过整合多样化事件源、延长用户历史和多模态嵌入，提升广告排序系统中用户-广告表示的准确性和规模效应。
2026-01-06 cs.IR cs.LG
Optimizing E-commerce Search: Toward a Generalizable and Rank-Consistent Pre-Ranking Model
针对电商搜索精排前阶段，提出通用且排序一致的GRACE模型，通过多二分类任务和对比学习提升排序一致性与泛化性，离线AUC提升0.75%，在线CVR提升1.28%。
2024-08-21 cs.IR cs.LG
Personalized Query Auto-Completion Through a Lightweight Representation of the User Context
eBay Inc.（eBay公司）
查询自动完成（QAC）是在许多领域（包括Web和电子商务搜索）中广泛使用的功能，基于用户键入的前缀建议完整查询。近年来，QAC在文献中得到了广泛的研究，并且一直表明，添加个性化特征可以显着提高QAC的性能。在这项工作中，我们提出了一种新的个性化QAC的方法，使用轻量级的嵌入通过fastText学习。我们构造一个嵌入的用户上下文查询，这是最后几个查询由用户发出。我们还使用相同的模型来获得要排名的候选查询的嵌入。我们引入排名功能，计算候选查询和上下文查询之间的距离在嵌入空间。然后将这些特征与其他常用的QAC排名特征相结合，以学习排名模型。我们将我们的方法应用于大型电子商务搜索引擎（eBay），并表明具有我们提出的功能的排名器在所有测量的离线指标上都显着优于基线，这些指标包括平均倒数排名（MRR），成功率（SR），平均平均精度（MAP）和归一化折扣累积增益（NDCG）。我们的基线包括最受欢迎的完成（MPC）模型以及没有我们提出的功能的排名模型。具有所提出的特征的排名模型在所有度量上都比MPC模型有$20-30\%$改进。对于所有会话，我们获得了比基线排名模型高的$5\%$改进，当我们限制包含用户上下文的会话时，其提高到大约$10\%$。此外，我们提出的功能也显着优于基于文本的个性化功能在文献中研究之前，并添加基于文本的功能，我们提出的基于嵌入的功能的结果只有轻微的改进。
2019-05-03 cs.AI cs.CL cs.IR
Automatic Identification and Ranking of Emergency Aids in Social Media Macro Community
包括Twitter在内的在线社交微博平台越来越多地用于在灾害事件期间协助救援行动。在大多数灾难中，可能是自然灾害，甚至是武装袭击，非政府组织寻找有关资源的重要信息，以支持受影响的人。尽管最近使用深度神经网络的自然语言处理取得了进展，但是短文本的检索和排序成为一项具有挑战性的任务，因为大量的会话和同情内容与关键信息合并。在本文中，我们解决的问题，分类信息检索和排名的最相关的信息，同时考虑到存在的短文本和多语种的语言，出现在这样的事件。我们提出的模型基于文本和统计预处理的帮助下形成嵌入向量，最后，使用前馈神经网络对整个训练的2，100，000个向量进行标准化，以满足需求和可用性推文。本文的另一个重要贡献在于基于前五个通用术语的加权Ranking Key算法，对与分类最相关的分类推文进行排名。最后，我们在尼泊尔地震数据集（包含短文本和多语言推文）上测试了我们的模型，并在5，250，000个救灾推文的未标记嵌入向量上实现了6.81%的平均精度。
2018-10-26 cs.IR cs.SI
Personalized Ranking in eCommerce Search
eBay Inc.（eBay公司）
我们在电子商务搜索的背景下解决个性化的问题。具体来说，我们开发个性化排名功能，使用会话上下文来增强针对转换和相关性进行优化的通用排名器。我们使用了从历史会话中的项目共同点击和基于内容的功能，使用项目标题和价格的潜在功能的组合。搜索中的个性化在现有文献中已经被广泛讨论。我们的工作的新颖性是结合和比较基于内容和内容不可知的功能，并表明它们相互补充，导致显着改善的排名。此外，我们的技术不需要一个明确的重新排名的步骤，不依赖于学习用户简档从长期的搜索行为，并不涉及复杂的建模查询项用户功能。我们的方法捕获项目共同点击倾向使用轻量级项目嵌入。我们的实验表明，我们的技术显着优于一个通用的排名平均倒数排名（MRR）。我们还提供了轶事证据的语义相似性捕获的项目嵌入在eBay搜索引擎。
2019-04-30 cs.CL cs.IR cs.LG
Product Knowledge Graph Embedding for E-commerce
Walmart Labs（沃尔玛实验室）
在本文中，我们提出了一种新的产品知识图谱（PKG）嵌入方法学习的内在产品关系作为产品知识的电子商业。我们定义了关键实体，并总结了关键的产品关系，是至关重要的一般电子商业应用程序，包括营销，广告，搜索排名和推荐。我们首先提供了一个全面的比较PKG和普通的知识图谱（KG），然后说明为什么KG嵌入方法不适合PKG学习。我们构建了一个自我注意增强的分布式表示学习模型，用于以端到端的方式从原始客户活动数据中学习PKG嵌入。我们设计了一个有效的多任务学习模式，充分利用多模态电子商业数据。庞加莱嵌入也被用来处理复杂的实体结构。我们使用来自grocery.walmart.com的真实世界数据集来评估知识完成，搜索排名和推荐的性能。所提出的方法相比，在知识完成和下游任务的基线。
2019-11-28 cs.IR cs.LG stat.ML
Advances in Collaborative Filtering and Ranking
City University of Hong Kong（香港城市大学）；University of California, Davis（加州大学戴维斯分校）
在这篇论文中，我们涵盖了协同过滤和排名的一些最新进展。在第一章中，我们简要介绍了协同过滤和排序的历史和现状;第二章首先讨论了基于图信息的逐点协同过滤问题，以及我们提出的新方法如何能够编码非常深的图信息，这对现有的四种图协同过滤算法有很大的帮助;第三章介绍了两两协作排序方法，以及如何将算法加速到接近线性的时间复杂度;第4章是关于新的列表方法的合作排名和如何列表方法是一个更好的选择损失的显式和隐式反馈点式和成对损失;第5章是关于我们为嵌入层提出的新的正则化技术随机共享嵌入（SSE），以及它如何在推荐和自然语言处理的6个不同任务中在理论上合理和经验上有效;第6章是我们如何在SSE的帮助下为最先进的顺序推荐模型引入个性化，这在防止我们的个性化模型过拟合到训练数据中起着重要的作用;第七章，我们总结了到目前为止所取得的成就，并预测了未来的发展方向;第八章是所有章节的附录。
2020-02-27 cs.IR cs.LG stat.ML
When Text Embedding Meets Large Language Model: A Comprehensive Survey
School of Computer Science and Engineering, Beihang University（计算机科学与工程学院，北京航空航天大学）
本文综述 LLM 与文本嵌入的融合研究，按“LLM 增强嵌入、LLM 作为嵌入器、LLM 理解嵌入”三类系统梳理进展，并指出遗留挑战、新兴障碍与未来方向。
2025-10-21 cs.AI cs.CL cs.IR
Better Generalization with Semantic IDs: A Case Study in Ranking for Recommendations
Google（谷歌）；Google DeepMind（谷歌DeepMind）
针对推荐系统中随机哈希ID导致相似物品泛化困难的问题，提出使用RQ-VAE从内容嵌入学习的Semantic ID替代随机ID，通过哈希子片段适应工业级排序模型，在不牺牲整体质量下提升长尾物品泛化。
2024-05-30 cs.IR cs.LG
Scene Graph Embeddings Using Relative Similarity Supervision
Adobe Research（Adobe研究院）
场景图是图像底层内容的一种强大的结构化表示，从它们派生的嵌入已被证明在多个下游任务中非常有用。在这项工作中，我们采用了一个图卷积网络，利用场景图的结构，并产生图像嵌入有用的语义图像检索。不同于传统上可用于学习图像表示的以分类为中心的监督，我们解决了在排名上下文中从相对相似性标签学习的任务。基于对比学习范式，我们提出了一种新型的损失函数，该函数对相似和不相似的图像对进行运算，并在嵌入空间中对它们之间施加相对排序。我们证明，这种排名损失，再加上一个直观的三重抽样策略，导致强大的表示，优于众所周知的对比损失的检索任务。此外，我们提供了定性的证据，检索结果，利用结构化的场景信息捕获的全球范围内的场景，不同的视觉相似性搜索。
2021-04-06 cs.CV cs.IR cs.LG
DeText: A Deep Text Ranking Framework with BERT
LinkedIn（领英）
排名是搜索系统中最重要的组成部分。大多数搜索系统处理大量的自然语言数据，因此一个有效的排名系统需要深入理解文本语义。最近，基于深度学习的自然语言处理（deep NLP）模型在排名系统上产生了有希望的结果。BERT是学习上下文嵌入的最成功的模型之一，它已被应用于捕获复杂的查询-文档关系以进行搜索排名。然而，这通常是通过详尽地将每个查询词与每个文档词交互来完成的，这对于搜索产品系统中的在线服务是低效的。在本文中，我们研究了如何为行业用例构建一个高效的基于BERT的排名模型，并将该解决方案进一步扩展到一个通用的排名框架DeText，该框架是开源的，可以应用于各种排名产品。离线和在线实验的DeText在三个现实世界的搜索系统提出了显着的改善overstate-of-the-art方法。
2020-08-06 cs.CL cs.IR
Consistency and Variation in Kernel Neural Ranking Model
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）
本文研究了基于核的神经排序模型K-NRM的一致性，K-NRM是最近最先进的神经IR模型，对于工业中的可重复研究和部署非常重要。我们发现，K-NRM具有低方差的相关性为基础的指标在整个实验试验。尽管总体性能差异很小，但不同的试验会为单个查询产生不同的文档排序。在我们的实验中，方差的主要来源被发现是不同的潜在匹配模式所捕获的K-NRM。在由K-NRM学习的IR定制的词嵌入中，查询文档词对遵循两种不同的匹配模式，这两种模式同样有效，但在嵌入空间中对齐词对的方式不同。不同的潜在匹配模式使一个简单而有效的方法来构建集成排名，提高K-NRM的有效性和推广能力。
2018-09-27 cs.CL cs.IR cs.LG
Expert Finding in Heterogeneous Bibliographic Networks with Locally-trained Embeddings
Facebook（脸书）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Amazon AI（亚马逊人工智能）
专家发现是工业界和学术界的一项重要任务。对于各种查询，对具有适当专业知识的候选人进行排名具有挑战性。此外，不同类型的对象相互作用，自然形成异构信息网络。本文从文本内容分析和权威性排序两个方面研究了异构书目网络中的专家发现问题。在文本内容分析方面，提出了一种基于概念层次结构的局部嵌入学习的查询扩展方法，该方法特别适合于语义较窄的查询.与全局嵌入学习相比，局部训练的嵌入学习将词项映射到一个受相关主题约束的潜在语义空间中，从而为特定查询保留了更精确和微妙的信息。考虑到候选人的排名，异构的信息网络结构，而在很大程度上被忽略了在以前的研究中的专家发现，提供了额外的信息。具体来说，对象之间不同类型的交互作用起着不同的作用。我们提出了一种排名算法来估计网络中对象的权威性，单独对待每个强类型的边缘类型。为了证明所提出的框架的有效性，我们将所提出的方法应用到一个大规模的书目数据集，超过200万个条目和100万名研究人员候选人。实验结果表明，该框架优于现有的方法，一般和特定的查询。
2018-03-09 cs.AI cs.CL cs.IR
NectaRSS, an RSS feed ranking system that implicitly learns user preferences
本文介绍了一种新的RSS提要排名方法NectaRSS。系统根据用户过去的选择向他/她推荐信息。用户偏好是自动获取的，避免了明确的反馈，排名是基于提取到用户简档的那些偏好。NectaRSS对用户简档和新文档使用众所周知的向量空间模型，并使用信息检索技术对它们进行比较，但引入了一种新的方法来创建用户简档，并根据用户过去的选择进行调整。所提出的方法的效率进行了测试，将其嵌入到一个智能聚合器（RSS提要阅读器），这已被不同的和异构的用户使用。此外，本文证明了NectaRSS产生的新闻网站的排名提高其质量与用户的选择，其优越性比其他算法，使用不同的信息表示方法。
2006-10-04 cs.HC cs.IR
HARE: a Flexible Highlighting Annotator for Ranking and Exploration
The Ohio State University（俄亥俄州立大学）；National Institutes of Health（美国国立卫生研究院）
潜在数据源的探索和分析是自然语言处理技术应用于新信息领域的一个重大挑战。我们描述了HARE，一个系统，用于突出显示文档集合中的相关信息，以支持排名和分流，它提供了用于模型开发和调整的后处理和定性分析的工具。我们将HARE应用于临床数据中移动信息的叙述性描述的用例，并证明其在比较候选嵌入特征中的实用性。我们提供了一个基于Web的接口，用于注释可视化和文档排序，并提供了一个模块化后端，以支持与现有注释工具的互操作性。我们的系统可在https://github.com/OSU-slatelab/HARE上在线获得。
2019-08-29 cs.AI cs.CL cs.IR
