PIFS-Rec: Process-In-Fabric-Switch for Large-Scale Recommendation System Inferences
The Pennsylvania State University（宾夕法尼亚州立大学）；AMD, Inc（超威半导体公司）
本文提出PIFS-Rec，一种基于CXL架构内交换机处理的方案，通过交换机下行端口实现近数据处理，有效解决DLRM推理的内存与带宽瓶颈，延迟比Pond低3.89倍，性能比BEACON高2.03倍。
2024-09-25 cs.AR cs.DC cs.IR
RecSSD: Near Data Processing for Solid State Drive Based Recommendation Inference
Harvard University（哈佛大学）；Facebook（脸书）
神经个性化推荐模型用于各种数据中心应用，包括搜索、社交媒体和娱乐。最先进的模型包括具有数十亿个参数的大型嵌入表，这些参数需要大的存储容量。不幸的是，基于DRAM的大而快的存储器征收高的基础设施成本。传统的基于SSD的存储解决方案提供了一个数量级的更大容量，但具有更差的读取延迟和带宽，从而降低了推理性能。RecSSD是一种基于近数据处理的SSD存储系统，专为神经推荐推理而定制，与使用COTS SSD相比，在八个行业代表性模型上将端到端模型推理延迟减少了2倍。
2021-01-29 cs.AR cs.LG
Large Music Recommendation Studies for Small Teams
David R. Cheriton School of Computer Science, University of Waterloo（滑铁卢大学大卫·R·切里顿计算机科学学院）
在没有直接行业合作的情况下进行现场音乐推荐研究可能是一项令人望而却步的任务，特别是对于小型团队来说。为了帮助未来的研究人员对这种评估感兴趣，我们提出了一些我们在生成自己的这种评估系统的过程中所面临的斗争以及潜在的解决方案。这些问题涉及用户、数据、计算和应用程序架构等主题。
2023-01-31 cs.HC cs.IR cs.LG
Personalizing Session-based Recommendations with Hierarchical Recurrent Neural Networks
Politecnico di Milano（米兰理工大学）；Telefonica Research（西班牙电信研究）；Gravity R&D（Gravity研发公司）
基于会话的推荐在许多现代在线服务（例如，电子商务、视频流）和推荐设置中高度相关。最近，循环神经网络已经被证明在基于会话的设置中表现得非常好。虽然在许多基于会话的推荐域中很难获得用户标识符，但也存在用户简档很容易获得的域。我们提出了一种无缝的方法来个性化RNN模型与跨会话信息传输，并设计了一个分层的RNN模型，中继端演变的RNN在用户会话的潜在隐藏状态。两个行业数据集的结果显示，与仅会话RNN相比，有很大的改进。
2017-08-23 cs.HC cs.IR cs.LG
A Deep Learning Method for Predicting Mergers and Acquisitions: Temporal Dynamic Industry Networks
University of Delaware（特拉华大学）
本文提出时序动态行业网络模型，利用时序点过程和深度学习捕捉并购事件间的复杂依赖关系，无需特征工程或数据再平衡，即可实现交易级预测并为竞购方和目标公司提供具体建议。
2024-10-17 cs.LG cs.SI q-fin.GN
Massive Memorization with Hundreds of Trillions of Parameters for Sequential Transducer Generative Recommenders
Meta；Yale University（耶鲁大学）
本文提出VISTA框架，通过将传统目标注意力分解为两个阶段，实现对超长用户历史的记忆压缩，从而在保持训练和推理成本不变的情况下，支持数百万项的长期用户历史。
2026-03-26 cs.IR cs.LG
Recommending Insurance products by using Users' Sentiments
Amity University Kolkata（阿米蒂大学加尔各答分校）
在当今技术娴熟的世界里，每个行业都在试图通过结合多种技术和算法来形成一个池，从而提出最增强的预测模型，从而制定推荐产品的方法。在此基础上，本文重点研究了情感分析在保险领域的应用。我们尝试构建以下机器学习模型，即逻辑回归、多项式朴素贝叶斯和强大的随机森林，用于分析客户给出的给定反馈线的极性。然后，我们使用这个极性以及其他属性，如年龄，性别，地点，收入，以及现有客户已经购买的其他产品列表作为我们推荐模型的输入。然后，我们将极性得分与用户的配置文件进行匹配，并按降序生成要推荐的保险产品列表。尽管我们的模型很简单，而且缺乏关键数据集，但结果似乎非常符合逻辑和现实。因此，通过开发具有更多增强方法的模型，并访问从保险行业收集的更好和真实的数据，该行业可能会从情感分析与建议的合并中受益匪浅。
2021-08-05 cs.AI cs.CY cs.IR
Topic-Enhanced Memory Networks for Personalised Point-of-Interest Recommendation
University of Cambridge（剑桥大学）；Tencent Inc.（腾讯公司）
兴趣点推荐系统通过向用户推荐未知兴趣点而在人们的生活中发挥着重要作用，引起了学术界和工业界的广泛关注。尽管他们的价值，但是，他们仍然遭受的挑战，捕捉复杂的用户偏好和细粒度的用户-兴趣点关系的时空敏感的兴趣点推荐。现有的推荐算法，包括浅层和深层的方法，通常嵌入到一个单一的潜在向量的访问记录的用户的偏好模型：这具有有限的能力表示和解释。在本文中，我们提出了一种新的主题增强的记忆网络（TEMN），一个深度的架构集成的主题模型和记忆网络的优势，利用全球结构的潜在模式和本地邻域为基础的功能，在一个非线性的方式。我们进一步纳入了地理模块，利用用户特定的空间偏好和POI特定的空间影响，以提高建议。所提出的统一混合模型可广泛应用于各种兴趣点推荐场景。在真实世界的微信数据集上进行的大量实验证明了其有效性（上下文感知推荐和顺序推荐的改进率分别为3.25%和29.95%）。此外，定性分析的关注权重和主题建模提供了洞察模型的推荐过程和结果。
2019-05-19 cs.IR cs.LG stat.ML
Pairwise Interactive Graph Attention Network for Context-Aware Recommendation
Nanjing University（南京大学）
上下文感知推荐系统（CARS）考虑了丰富的边信息来提高推荐性能，引起了学术界和工业界越来越多的关注。如何从不同的上下文特征中预测用户偏好是CARS的核心。最近的几个模型关注用户行为，并使用专门设计的结构来从历史行为中提取自适应的用户兴趣。然而，很少有研究考虑项目历史交互，这导致项目特征表示和项目吸引力提取的不足。根据这些观察，我们将用户-项目交互建模为动态交互图（DIG），并提出了一种基于GNN的模型，称为成对交互图注意力网络（PIGAT），以同时捕获动态用户兴趣和项目吸引力。PIGAT引入了注意力机制来考虑每个交互的用户/项目对用户和项目的重要性，该机制捕获用户兴趣、项目吸引力及其对推荐上下文的影响。此外，置信度嵌入应用于交互，以区分在不同时间发生的交互的置信度。然后，更有表现力的用户/项目表示和自适应交互功能，这有利于推荐性能，特别是当涉及长尾项目。我们在三个真实世界的数据集上进行实验，以证明PIGAT的有效性。
2019-11-18 cs.IR cs.LG
Behavior Importance-Aware Graph Neural Architecture Search for Cross-Domain Recommendation
Tencent（腾讯）
本文提出BiGNAS框架，通过跨域定制超网络和图行为重要性感知器联合优化GNN架构与源域行为数据重要性，在多个基准及工业数据集上取得优于现有方法的跨域推荐效果。
2025-03-11 cs.IR cs.LG
Top-N Recommender System via Matrix Completion
Southern Illinois University（南伊利诺伊大学）
Top-N推荐系统在工业界和学术界都得到了广泛的研究。然而，推荐质量远远不能令人满意。在本文中，我们提出了一个简单而有前途的算法。我们基于低秩假设填充用户-项目矩阵，同时保持原始信息。为此，采用非凸秩松弛而不是核范数来提供更好的秩逼近，并设计了一种有效的优化策略。在真实数据集上进行的一系列实验表明，该方法将Top-N推荐的准确率提高到了一个新的水平。
2016-01-19 cs.AI cs.IR cs.LG
Machine Learning in the Internet of Things for Industry 4.0
AGH University of Science and Technology（AGH科技大学）
物联网设备的数量不断增加，这导致计算的复杂性和高数据速度。处理传感器数据的方法之一是并行编程。它可以开发处理时间短、响应时间快的反应式软件，尤其是在移动到网络边缘时。这在利用在线机器学习算法来分析正在进行的过程（例如在工业4.0中观察到的过程）的系统中尤其重要。在本文中，我们展示了此类系统的组织取决于整个处理堆栈，从硬件层一直到软件层，以及物联网系统所需的响应时间。我们为这样的系统提出了一个流处理堆栈，以及组织机器学习架构模式，使学习和推理在边缘和云上传播的可能性。在本文中，我们分析了物联网中用于云连接的通信技术引入的延迟以及它们如何影响系统的响应时间。最后，我们根据应用类型提供了在物联网系统中应使用哪些机器学习模式的建议。
2020-05-22 cs.LG cs.NI
Neural Input Search for Large Scale Recommendation Models
Google（谷歌）
大量离散项目（如产品、网页或视频）的推荐问题在技术行业中普遍存在。深度神经网络正越来越多地用于这些推荐问题。这些模型使用嵌入将离散项表示为连续向量，并且词汇大小和嵌入维度虽然严重影响模型的准确性，但通常以手动方式选择。我们提出了神经输入搜索（NIS），一种学习分类特征的最佳词汇量和嵌入维度的技术。我们的目标是最大限度地提高预测精度，但要限制所有嵌入所使用的总内存。此外，我们认为，传统的单尺寸嵌入（SE），它使用相同的嵌入维数的所有值的功能，遭受从模型容量和训练数据的使用效率低下。我们提出了一种新的嵌入类型，即多尺寸嵌入（ME），它允许嵌入维数不同的功能值。在训练过程中，我们使用强化学习来为每个特征找到最佳词汇量，并为每个特征值找到嵌入维度。在两种常见类型的大规模推荐问题的实验中，即检索和排名问题，NIS自动发现更好的词汇和嵌入大小，从而导致$6.8\%$和$1.8\%$在Recall@1和ROC-AUC上相对于手动优化的相对改进。
2019-07-10 cs.IR cs.LG stat.ML
Click-Through Rate Prediction Using Graph Neural Networks and Online Learning
Stanford University（斯坦福大学）；Google LLC（谷歌有限责任公司）
推荐系统在过去已经被许多文献广泛研究，并且在在线广告、购物行业/电子商务、搜索引擎中的查询建议以及社交网络中的朋友推荐中无处不在。此外，餐厅/音乐/产品/电影/新闻/应用程序推荐只是推荐系统的几个应用程序。CTR预测准确性的一个小百分比的改进已经被提到为广告行业增加数百万美元的收入。点击率预测是推荐系统的一个特殊版本，其目标是预测用户是否会点击推荐项目。基于内容的推荐方法考虑用户行为的过去历史，即推荐的产品和用户对它们的反应。因此，在正确的时间将正确的项目推荐给正确的用户的个性化模型是构建这样一个模型的关键。另一方面，所谓的协同过滤方法结合了与特定用户非常相似的用户的点击历史，从而通过利用在连接的用户网络中分享他们的品味的用户的更广泛的知识来帮助推荐器为该特定用户提出更自信的预测。在这个项目中，我们有兴趣建立一个CTR预测器使用图神经网络补充的在线学习算法，模拟这种动态的相互作用。通过将问题框定为二进制分类任务，我们使用由10，000个数据点组成的Criteo公共数据集的子采样版本，在测试AUC为0.7417的离线模型（GNN，深度因子分解机）和测试AUC为0.7585的在线学习模型上评估了该系统。
2021-05-09 cs.AI cs.IR cs.LG
Retrievable Domain-Sensitive Feature Memory for Multi-Domain Recommendation
Noah’s Ark Lab, Huawei（华为诺亚实验室）；Tsinghua University（清华大学）
针对现有多域推荐方法忽略域敏感特征、域差异学习不足的问题，提出域敏感特征归因方法与可检索记忆架构，有效捕捉域差异，提升推荐性能。
2025-05-16 cs.IR cs.LG
WSLRec: Weakly Supervised Learning for Neural Sequential Recommendation Models
Alibaba Group（阿里巴巴集团）
学习隐藏在隐式反馈数据中的用户-项目相关性在现代推荐系统中发挥着重要作用。神经顺序推荐模型将用户与项目的相关性学习转化为一个顺序分类问题，根据用户的历史行为将未来行为中的项目与其他项目区分开来，由于其巨大的实用价值，引起了工业界和学术界的广泛兴趣。虽然取得了许多实际的成功，我们认为，内在的{ \bf不完全}和{ \bf不准确}的用户行为的隐式反馈数据被忽略，并进行初步的实验支持我们的主张。基于无模型方法如行为重定向（BR）和基于项目的协同过滤（ItemCF）与神经顺序推荐模型相比，在用户-项目相关性方面有不同的表现，我们提出了一种新的模型无关的训练方法WSLRec，它采用了三个阶段的框架：预训练，顶部$k$挖掘和微调。WSLRec通过从BR和ItemCF等无模型方法中预训练额外弱监督的模型来解决不完整性问题，同时通过利用顶部$k$挖掘来解决不准确性问题，以从弱监督中筛选出可靠的用户项相关性进行微调。在两个基准数据集上的实验和在线A/B测试验证了我们的主张的合理性，并证明了WSLRec的有效性。
2022-02-28 cs.IR cs.LG
Identifying Substitute and Complementary Products for Assortment Optimization with Cleora Embeddings
Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）；Faculty of Mathematics and Information Science, Warsaw University of Technology（华沙理工大学数学与信息科学学院）；Synerise（Synerise公司）；Faculty of Physics and Applied Computer Science, AGH University of Science and Technology（AGH科技大学物理与应用计算机科学学院）
近年来，人们对机器学习算法在电子商务、全渠道营销和销售行业中的应用越来越感兴趣。这不仅是算法的进步，也是数据的可用性，代表交易，用户和后台产品信息。找到以不同方式相关的产品，即，替代品和补充品对于供应商网站上的用户推荐和供应商来说至关重要-以执行有效的分类优化。提出了一种基于图嵌入Cleora算法的产品替代品和互补品查找方法。我们还提供了关于最先进的Shopper算法的实验评估，研究了行业专家调查建议的相关性。它的结论是，这里提出的新方法提供了合适的选择推荐的产品，需要最少的额外信息。该算法可用于各种企业，有效地识别替代和互补产品的选择。
2022-08-10 cs.IR cs.LG
Offline Evaluation of Reward-Optimizing Recommender Systems: The Case of Simulation
Criteo（科亿多）；University of Antwerp（安特卫普大学）
在学术和行业研究中，在线评估方法被视为推荐系统等交互式应用程序的黄金标准。当然，这样做的原因是我们可以直接测量依赖于干预的效用指标，即向用户显示的建议。尽管如此，在线评估方法由于多种原因而成本高昂，显然仍然需要可靠的离线评估程序。在工业中，离线指标通常被用作一线评估，以生成有希望的候选模型进行在线评估。在学术工作中，对在线系统的有限访问使得离线度量成为验证新方法的事实上的方法。存在两类离线度量：基于代理的方法和反事实方法。第一类通常与我们关心的在线指标相关性很差，后一类仅在现实环境中无法实现的假设下提供理论保证。在这里，我们提出了基于模拟的比较提供了超越离线指标的方法，并认为它们是一种更好的评估手段。
2022-09-18 cs.AI cs.IR cs.LG
