Recommendation or Discrimination?: Quantifying Distribution Parity in Information Retrieval Systems
True Fit Corporation(True Fit公司)
信息检索(IR)系统通常利用查询数据向用户建议相关项目。这引入了不公平的可能性,如果查询(即,输入)并且所得到的推荐无意中与作为受保护变量的潜在因素相关(例如,种族、性别和年龄)。例如,用于时尚推荐的视觉搜索系统可以在生成推荐时拾取人体模型的特征而不是时尚服装。在这项工作中,我们在前K IR结果中引入了“分布平价”的统计测试,该测试评估给定的一组建议对于特定的受保护变量是否公平。我们评估我们的测试使用模拟和实证结果。首先,使用人工偏见的建议,我们证明了统计检测偏差和搜索目录的大小之间的权衡。其次,我们将我们的测试应用于时尚服装的视觉搜索系统,特别是测试基于时尚模特肤色的推荐偏差。我们的分布奇偶性测试可以帮助确保IR系统的结果是公平的,并为所有用户提供良好的体验。
2019-09-13 cs.IR cs.LG stat.ML
Mamba for Scalable and Efficient Personalized Recommendations
Lirio AI Research(Lirio AI研究机构);Lirio, Inc.(Lirio公司)
提出FT-Mamba模型,用Mamba层替换FT-Transformer中的Transformer层处理表格数据,将计算复杂度降至线性,在三个数据集上实验证明其计算效率更优且推荐性能保持或提升。
2024-09-11 cs.IR cs.LG
LightSAGE: Graph Neural Networks for Large Scale Item Retrieval in Shopee's Advertisement Recommendation
Shopee, SEA Group(Shopee,SEA集团)
本文提出LightSAGE,一种结合协同过滤构建商品图并处理数据偏斜的GNN架构,用于Shopee大规模广告商品检索,在离线与在线测试中均取得改进并已部署。
2023-10-30 cs.IR cs.LG
A Knowledge Graph and Deep Learning-Based Semantic Recommendation Database System for Advertisement Retrieval and Personalization
The University of Hong Kong(香港大学);Northeastern University(东北大学);Stanford University(斯坦福大学)
本文提出KGSR-ADS系统,通过知识图谱与深度学习结合,实现广告检索与个性化推荐的高效语义匹配和大规模检索。
2025-12-25 cs.AI cs.IR cs.LG
Towards Scalable Semantic Representation for Recommendation
Tsinghua University(清华大学);Tencent Inc(腾讯公司)
本文提出Mixture-of-Codes方法,通过构建多个独立码本并结合融合模块,扩大基于LLM的推荐语义表示规模,解决了维度压缩导致的判别性和鲁棒性损失问题,实现了最佳的规模扩展性能。
2024-10-12 cs.IR cs.LG
AI-assisted Coding with Cody: Lessons from Context Retrieval and Evaluation for Code Recommendations
Sourcegraph
本文以Cody为例探讨基于LLM的编程助手,将其代码推荐任务与传统推荐系统对比,总结上下文检索增强及离线和在线评估的经验教训。
2024-08-09 cs.IR cs.LG cs.SE
ZoRRO: A Zero-Weight Personalized Recommender System for Scalable News Recommendation
Technical University of Denmark(丹麦技术大学);ZOZO Research(ZOZO研究公司);University of California San Diego(加州大学圣地亚哥分校);Pioneer Centre for Artificial Intelligence(先锋人工智能中心)
研究针对可扩展新闻推荐提出零权重、无需训练的ZoRRO框架,在离线评估中优于神经基线,在线测试中点击率性能与先进模型相近且速度快600多倍,并揭示相关性能差距,凸显该框架对大规模新闻推荐的实用性及多指标评估的重要性。
2026-07-14 cs.IR cs.LG
Robust Training Objectives Improve Embedding-based Retrieval in Industrial Recommendation Systems
Snap, Inc.(斯耐普公司)
研究验证自监督多任务学习(SSMTL)鲁棒训练目标在大规模工业推荐系统中的有效性,通过在线A/B测试证明其显著提升好友推荐关键指标。
2024-09-23 cs.IR cs.LG
RRCM: Ranking-Driven Retrieval over Collaborative and Meta Memories for LLM Recommendation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Illinois at Chicago(伊利诺伊大学香槟分校);Capital One AI Foundations(Capital One AI基金会);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
RRCM通过排序驱动的检索与推理框架,解决LLM推荐中构建相关上下文的挑战,利用自然语言表示的协作和元记忆,实现灵活的证据获取,提升推荐质量。
2026-09-29 cs.AI cs.IR cs.LG
Probabilistic Rank and Reward: A Scalable Model for Slate Recommendation
Criteo AI Lab(Criteo人工智能实验室);CREST ENSAE
本文提出概率排序与奖励模型PRR,通过结合奖励与排序高效学习石板成功概率,在离策略奖励优化和大动作空间可扩展性上优于现有方法,并支持基于MIPS的低延迟推荐。
2024-07-05 cs.IR cs.LG stat.ML
Retrieve-then-Adapt: Retrieval-Augmented Test-Time Adaptation for Sequential Recommendation
Shenzhen Technology University(深圳技术大学);City University of Hong Kong(香港城市大学);McGill University(麦吉尔大学);Shenzhen University(深圳大学)
本文提出ReAd框架,通过检索用户偏好信号动态适应序列推荐模型,提升测试时适应性能,实验表明优于现有方法。
2026-08-17 cs.IR cs.LG
Embedding the Teacher: Distilling vLLM Preferences for Scalable Image Retrieval
University of Cambridge(剑桥大学);Apta
本文提出将强大的视觉-语言模型(vLLM)的偏好排名蒸馏到基于嵌入的检索系统中,以在保持可扩展性的同时提升对抽象或角色驱动属性的文本-图像检索性能,实验证明该方法显著优于现有基线。
2025-10-13 cs.IR cs.LG
Parallel and Multi-Stage Knowledge Graph Retrieval for Behaviorally Aligned Financial Asset Recommendations
Rensselaer Polytechnic Institute(伦斯勒理工学院)
针对大语言模型金融推荐存在的上下文受限、幻觉、缺乏行为依据等问题,本文提出检索增强框架RAG-FLARKO,通过多阶段并行知识图谱检索构建紧凑子图,可让小模型实现高推荐质量与行为对齐效果。
2025-10-08 cs.AI cs.IR cs.LG
KuaiFormer: Transformer-Based Retrieval at Kuaishou
Kuaishou Technology(快手科技)
本文提出KuaiFormer,一种部署于大规模内容推荐系统的基于transformer的检索框架,将传统分数估计转向Next Action Prediction范式,有效提升实时兴趣获取与多兴趣提取,在Kuaishou成功服务超4亿日活用户并显著增加使用时长。
2024-11-15 cs.AI cs.IR cs.LG
The Future is Sparse: Embedding Compression for Scalable Retrieval in Recommender Systems
Recombee(Recombee公司);Czech Technical University in Prague(捷克技术大学布拉格分校);Charles University Prague(布拉格查尔斯大学)
针对工业级推荐系统高基数实体密集嵌入存储访问的内存瓶颈,提出一种轻量级可学习嵌入压缩技术,将嵌入投影到高维稀疏激活空间,在保性能的同时降内存,为大规模推荐系统效率提升提供了可行思路并开源代码。
2025-05-16 cs.IR cs.LG
Deep Retrieval: Learning A Retrievable Structure for Large-Scale Recommendations
ByteDance Inc.(字节跳动有限公司)
大规模推荐中的核心问题之一是准确有效地检索最相关的候选人,最好是在亚线性时间内。以前的方法大多基于两步过程:首先学习内积模型,然后使用近似最近邻(ANN)搜索算法来找到最佳候选人。在本文中,我们提出了深度检索(DR),直接使用用户-项目交互数据(例如点击)来学习可检索的结构,而无需在ANN算法中采用欧几里德空间假设。DR的结构将所有候选项编码到离散的潜在空间中。候选者的那些潜在代码是模型参数,并且与其他神经网络参数一起学习以最大化相同的目标函数。随着模型的学习,在结构上执行束搜索以检索用于重新排序的最佳候选。从经验上讲,我们首先证明了DR,具有次线性计算复杂性,可以达到几乎相同的精度作为两个公共数据集上的蛮力基线。此外,我们表明,在现场生产推荐系统中,部署的DR方法在参与指标方面显着优于精心调整的ANN基线。据我们所知,DR是第一个成功部署在工业推荐系统中数亿项规模的非ANN算法之一。
2021-05-18 cs.IR cs.LG stat.ML
PathGPT: Reframing Path Recommendation as a Natural Language Generation Task with Retrieval-Augmented Language Models
Shanghai Jiao Tong University(上海交通大学)
本文针对传统路径推荐方法灵活性与泛化性不足的问题,提出PathGPT框架,将路径推荐重构为自然语言生成任务,通过检索增强的LLM实现自适应零样本路径生成,性能与专用方法相当且无需 costly 重新训练。
2025-08-20 cs.AI cs.IR cs.LG
Scalable Cross-Entropy Loss for Sequential Recommendations with Large Item Catalogs
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);HSE University(高等经济大学);Artificial Intelligence Research Institute(人工智能研究院)
针对序列推荐中完整交叉熵损失在大型物品目录下 GPU 内存开销过大的问题,提出 SCE 损失,通过最大内积搜索选择关键输出近似 softmax,最高降低 100 倍峰值内存且保持推荐质量。
2024-11-30 cs.IR cs.LG
RNE: A Scalable Network Embedding for Billion-scale Recommendation
Tsinghua University(清华大学);Ant Financial Services Group(蚂蚁金融服务集团);Alibaba Group(阿里巴巴集团)
设计一个真正的推荐系统已经成为学术界和工业界的一个关键问题。然而,由于用户数量和项目数量的巨大性、用户兴趣的多样性和动态性,如何设计一个可扩展的推荐系统,使其能够在数十亿级的场景中高效地产生有效的、多样化的推荐结果,仍然是现有方法面临的一个挑战性和开放性问题。在本文中,给定的用户-项目交互图,我们提出了RNE,一个数据有效的基于推荐的网络嵌入方法,给个性化和多样化的项目给用户。具体来说,我们提出了一个多样性和动态感知的邻居采样方法的网络嵌入。一方面,该方法能够保持用户和项目之间的局部结构,同时建模用户兴趣的多样性和动态性,以提高推荐质量。另一方面,抽样方法从理论上降低了整个方法的复杂度,使十亿级推荐成为可能。为了进一步提高算法的可扩展性,我们还采用分布式的方式实现了所设计的算法。在实验上,我们将RNE部署在中国最大的电子商务平台淘宝的推荐场景上,并在十亿级用户-项目图上对其进行训练。正如A/B测试的几个在线指标所示,与基于CF的方法相比,RNE能够实现高质量和多样化的结果。在Pinterest数据集上进行了离线实验,并与现有的推荐方法和网络嵌入方法进行了比较。结果表明,我们的方法是能够产生一个很好的结果,而运行速度远远快于基线方法。
2020-04-09 cs.IR cs.LG stat.ML
NewsQuote: A Dataset Built on Quote Extraction and Attribution for Expert Recommendation in Fact-Checking
University of Warwick(华威大学);The Alan Turing Institute(阿兰·图灵研究所)
提出专家推荐任务,构建含24,031对引文-说话者的NewsQuote数据集,用BERT提取引文,实验表明文档检索优于专家检索。
2023-05-05 cs.HC cs.IR cs.LG
Multimodal Graph Retrieval-Augmented Sequential Recommendation via Collaborative Filtering Paths
University of New South Wales(新南威尔士大学)
针对现有多模态序列推荐方法忽略协同信号或计算开销大的问题,提出MGRASRec框架,通过检索用户-物品交互图的协同过滤路径注入信号,在三个公开数据集上实现最优推荐性能。
2026-10-09 cs.LG
Deep Uncertainty-Based Explore for Index Construction and Retrieval in Recommendation System
Shopee Discovery Ads(Shopee 探索广告部门)
针对推荐匹配阶段相关性与新颖性难以兼顾的问题,提出 UICR 算法,通过联合建模模型与索引不确定性并融合相关性、不确定性分数,在工业环境和开源数据集上提升新颖性且不损失相关性。
2024-08-06 cs.IR cs.LG stat.ML
TutorLLM: Customizing Learning Recommendations with Knowledge Tracing and Retrieval-Augmented Generation
University of Southampton(索姆塞特大学);Durham University(杜 ham 大学);Japan Advanced Institute of Science and Technology(日本先进科学和技术研究院);Newcastle University(新卡斯尔大学)
本文提出TutorLLM,一个结合知识追踪(KT)与检索增强生成(RAG)的个性化学习推荐LLM系统,通过MLFBK模型预测学习状态并利用Scraper模型提升准确度,显著提升了用户满意度与测验成绩。
2025-04-27 cs.AI cs.IR cs.LG
Scalable Demand-Aware Recommendation
Tencent AI Lab(腾讯人工智能实验室);AI Foundations Lab, IBM Thomas J. Watson Research Center(IBM托马斯·J·沃森研究中心人工智能基础实验室);University of California, Davis(加州大学戴维斯分校);IBM Research AI(IBM人工智能研究院);National Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室)
推荐电子商务与耐用品和非耐用品的混合有特点,区分它从研究的媒体推荐问题。对物品的需求是形式效用和时间效用的综合效应,即,产品必须既对消费者具有内在吸引力,又必须是合适的购买时间。特别是对于耐用品,时间效用是产品类别内的购买持续时间的函数,因为消费者不太可能在时间上连续购买同一类别中的两个项目。此外,与评级数据相比,购买数据是隐含的,不购买不一定表示不喜欢。总之,这些问题引起了积极的未标记的需求感知推荐问题,我们提出通过联合低秩张量完成和产品类别间购买持续时间向量估计。我们进一步放松这个问题,并提出了一个高度可扩展的交替最小化方法,我们可以解决数百万用户和数百万项目在一个线程的问题。我们还在多个真实世界数据集上展示了出色的预测准确性。
2017-11-26 cs.LG
CSRN: Collaborative Sequential Recommendation Networks for News Retrieval
Tencent(腾讯);Harbin Institute of Technology(哈尔滨工业大学);The University of Kansas(堪萨斯大学)
如今,新闻应用程序已经取代了纸质媒体的流行,为个性化提供了一个很好的机会。基于递归神经网络(RNN)的顺序推荐是一种流行的方法,它利用用户最近的浏览历史来预测未来的项目。这种方法的局限性在于它没有考虑新闻消费的社会影响,即,用户可能关注不断变化的流行话题,而某些热门话题可能只在特定人群中传播。这种社会影响很难预测,只考虑用户自己的阅读历史。另一方面,传统的基于用户的协同过滤(UserCF)基于“邻居”的兴趣进行推荐,为补充基于RNN方法的不足提供了可能。然而,传统的UserCF只使用一个单一的相似性度量来建模用户之间的关系,这是太粗粒度,从而限制了性能。在本文中,我们提出了一个深度神经网络的框架,以集成基于RNN的顺序推荐和UserCF的关键思想,开发协作顺序推荐网络(CSRNs)。首先,我们建立了一个有向的用户共读网络,在向量空间中捕获用户之间的细粒度主题相似性。然后,CSRN模型用RNN对用户进行编码,并学会关注邻居,总结他们目前正在阅读的新闻。最后,根据用户自己的状态和邻居的总结状态推荐新闻文章。在两个公开数据集上的实验表明,该模型的性能明显优于现有的方法。
2020-04-07 cs.IR cs.LG stat.ML
A Scalable Hybrid Research Paper Recommender System for Microsoft Academic
Microsoft Research(微软研究院)
我们提出的设计和方法的大规模混合论文推荐系统使用的微软学术。该系统为大约1.6亿篇英文研究论文和专利提供建议。我们的方法处理不完整的引用信息,同时也减轻了冷启动问题,往往会影响其他推荐系统。我们使用Microsoft Academic Graph(MAG),标题和研究论文的可用摘要为所有文档构建推荐列表,从而结合了共引和基于内容的方法。调整系统参数还允许混合和优先考虑每种方法,这反过来又允许我们在推荐结果中平衡论文的新颖性和权威性。我们通过对40名参与者的用户研究评估了生成的推荐,对超过2400个推荐对进行了评分,并使用P@10和nDCG分数讨论了结果的质量。我们看到,有一个很强的相关性,参与者的分数和相似性排名由我们的系统,但额外的重点需要放在提高推荐精度,特别是基于内容的建议。用户调查的结果和相关的分析脚本通过GitHub提供,我们的系统产生的建议可作为Azure上MAG的一部分,以促进进一步的研究并点亮新的研究论文推荐应用程序。
2019-05-21 cs.DL cs.IR cs.LG
WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture
Meta Platforms, Inc.(Meta平台公司)
研究如何在推荐建模中统一非序列与序列特征。核心方法是基于悟空和 HSTU 架构构建 WHALE 模型,含特定模块与融合方式,并采用协同设计技术。主要贡献是在工业数据上离线实验有收益,在线也有积极效果且已用于生产系统。
2026-08-04 cs.AI cs.IR cs.LG
A multimodal deep learning framework for scalable content based visual media retrieval
University of Waterloo(滑铁卢大学)
我们提出了一种新颖的,高效的,模块化和可扩展的框架,基于内容的视觉媒体检索系统,利用深度学习的力量,这是灵活的工作,无论是图像和视频结合,我们还介绍了一个有效的比较和过滤检索指标。我们提出了我们的研究结果,从关键的性能测试比较我们的方法,以证明所提出的解决方案的可行性和效率与最佳实践,可能的改进,可能进一步增强检索架构的能力。
2021-05-18 cs.CV cs.LG
Learning Federated Representations and Recommendations with Limited Negatives
Google Research(谷歌研究院);Google(谷歌)
深度检索模型广泛用于学习实体表示和推荐。联邦学习提供了一种保护隐私的方式来训练这些模型,而不需要集中用户数据。然而,由于客户端上的非IID(独立同分布)训练数据,联邦深度检索模型的性能通常比集中式模型差得多,这是联邦学习的固有属性,限制了可用于训练的负面影响。我们证明,这个问题是不同的,从通常研究的客户端漂移问题。这项工作提出了批量不敏感的损失,以减轻非IID负面问题的联合电影推荐。我们探索了各种技术,并发现批量不敏感的损失可以有效地提高联邦深度检索模型的性能,将联邦模型的相对召回率提高到93.15%,并将其与集中式模型之间的召回率相对差距从27.22% - 43.14%减少到0.53% -2.42%。我们还开源了我们的代码框架,以加速联邦深度检索模型的进一步研究和应用。
2021-11-02 cs.DC cs.LG
A Simple and Scalable Tensor Completion Algorithm via Latent Invariant Constraint for Recommendation System
University of Missouri - Columbia(密苏里大学哥伦比亚分校);Stanford University(斯坦福大学)
在本文中,我们提供了一个潜在的变量制定和解决方案的推荐系统(RS)问题的基本属性,任何合理的解决方案应该满足。具体来说,我们研究了一种新的张量完成方法,以有效和准确地学习模型参数的不可观察的个人偏好,用户评级的基础。通过正则化张量分解与一个单一的潜在不变,我们实现了可靠的推荐系统的三个属性:(1)张量完成结果的唯一性与最小的假设,(2)单位的一致性,是独立于用户的任意偏好,和(3)共识排序保证,提供一致的排名之间的观察和未观察到的评分。我们的算法导致一个简单而优雅的推荐框架,具有线性计算复杂性,没有超参数调整。我们提供的实证结果表明,该方法显着优于目前最先进的方法。
2022-07-03 cs.HC cs.IR cs.LG
Rethinking ANN-based Retrieval: Multifaceted Learnable Index for Large-scale Recommendation System
Meta Platforms, Inc.(Meta平台)
本文提出MFLI,一种通过统一框架学习多维嵌入和索引的实时检索方法,有效提升推荐系统中召回率、冷内容交付和语义相关性。
2026-02-18 cs.AI cs.IR cs.LG
HybridCite: A Hybrid Model for Context-Aware Citation Recommendation
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院);University of Freiburg(弗赖堡大学)
引文推荐系统的目标是为一篇完整的论文或一小部分被称为引文上下文的文本推荐引文。为引文上下文推荐引文的过程被称为本地引文推荐,这是本文的重点。首先,我们开发了基于嵌入、主题建模和信息检索技术的引文推荐方法。我们结合,第一次尽我们所知,最好的性能算法到一个半遗传混合推荐系统的引文推荐。我们评估的单一方法和混合方法离线的基础上,几个数据集,如微软学术图(MAG)和MAG结合arXiv和ACL。我们进一步进行用户研究,以在线评估我们的方法。我们的评估结果表明,包含嵌入和信息检索为基础的组件的混合模型优于其单独的组件和进一步的算法的大幅度。
2020-06-01 cs.DL cs.IR cs.LG
Test-Time Scaling Strategies for Generative Retrieval in Multimodal Conversational Recommendations
Research Center for Information Technology Innovation, Academia Sinica(资讯科技创新研究所以);NVIDIA(NVIDIA公司);Department of Computer Science, National Chengchi University(国立政治大学计算机科学系)
针对传统产品检索系统在多轮用户交互中的局限,提出将测试时缩放引入多模态生成式检索的新框架,增强测试时重排序机制,有效建模用户演化意图,在多轮对话推荐中提升检索性能。
2025-08-25 cs.AI cs.IR cs.LG
Crash Narrative-Guided Countermeasure Recommendation Using Large Language Models: A Retrieval-Augmented Generation Framework for Intersection Safety
University of Central Florida(中佛罗里达大学)
提出一种碰撞叙事引导的检索增强生成框架,利用大语言模型将非结构化碰撞叙事转化为交叉口安全对策建议,在佛罗里达州数据上实现0.82的F1分数,验证了其可解释性和可扩展性。
2026-09-16 cs.CL cs.LG
Crop Recommendation and Agricultural Query Answering System Using Spatio-Temporal Graph Neural Networks and Hybrid Retrieval Augmentation
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
提出融合时空图神经网络(STGCN)与检索增强生成(RAG)的精准农业系统,实现30天天气预报、作物推荐及农业问答,在尼泊尔1359个地点数据上STGCN预测MSE达0.011。
2026-06-08 cs.AI cs.LG
SCRec: A Scalable Computational Storage System with Statistical Sharding and Tensor-train Decomposition for Recommendation Models
Samsung Electronics Co., Ltd.(三星电子有限公司)
提出可扩展计算存储推荐系统SCRec,结合基于MIP的软件框架与硬件加速器,在单服务器器上实现TB级DLRM的高效推理,相比CPU和多GPU系统分别实现55.77倍加速和13.35倍能效提升。
2025-04-01 cs.AR cs.LG
HiRes: Inspectable Precedent Memory for Reaction Condition Recommendation
Mstack AI
HiRes通过结合图编码器、变换感知交叉注意力、多流反应融合和k-NN检索层,实现了反应条件推荐的高准确率和可解释性,其在催化剂、溶剂和试剂的Top-1准确率分别达到0.929、0.534和0.530,优于现有方法。
2026-05-20 cs.AI cs.LG q-bio.MN
Pragya: An AI-Based Semantic Recommendation System for Sanskrit Subhasitas
Department of Computer Engineering Don Bosco Institute of Technology Mumbai, India(计算机工程系 内华大学技术学院 孟买 印度);Department of Mechanical Engineering Don Bosco Institute of Technology Mumbai, India(机械工程系 内华大学技术学院 孟买 印度)
Pragya通过结合检索与生成技术,为印地语Subhasitas提供语义推荐,提升其在数字时代的可访问性和应用价值。
2026-01-10 cs.AI cs.CL cs.LG