LightFusionRec: Lightweight Transformers-Based Cross-Domain Recommendation Model
Mukesh Patel School of Technology Management & Engineering, SVKM’s Narsee Monjee Institute of Management Studies (NMIMS) Deemed-to-be University(SVKM's Narsee Monjee管理学院(NMIMS)德emed大学穆克什·帕特尔技术管理与工程学院)
本文提出轻量级跨领域推荐模型LightFusionRec,融合DistilBERT文本特征与FastText类型嵌入,以低计算成本缓解数据稀疏和冷启动问题,在电影和图书数据集上取得优于传统方法的推荐效果。
2024-10-21 cs.AI
DeepFair: Deep Learning for Improving Fairness in Recommender Systems
Universidad Politécnica de Madrid(马德里理工大学)
推荐系统中缺乏偏见管理导致少数群体收到不公平的推荐。此外,公平与精确之间的权衡使得很难获得同时符合这两项标准的建议。在这里,我们提出了一种基于深度学习的协同过滤算法,该算法在不知道用户的人口统计信息的情况下,提供了公平性和准确性之间的最佳平衡的推荐。实验结果表明,它是可能的,使公平的建议,而不会失去一个显着比例的准确性。
2020-06-09 cs.AI cs.LG stat.ML
Cross-domain recommendation via user interest alignment
Tianjin University(天津大学);Lenovo Research(联想研究院);Hangzhou Dianzi University(杭州电子科技大学)
跨领域推荐旨在利用多个领域的知识来缓解传统推荐系统中的数据稀疏和冷启动问题。一种流行的范例是采用重叠的用户表示来建立域连接,从而在所有场景中提高推荐性能。然而,这种方法的一般做法是在每个域中分别训练用户嵌入,然后以简单的方式聚合它们,通常忽略用户和项目之间潜在的跨域相似性。此外,考虑到它们的训练目标是面向推荐任务的,而没有特定的正则化,优化的嵌入忽略了用户视图之间的兴趣对齐,甚至违反了用户的原始兴趣分布。为了解决这些挑战,我们提出了一种新的跨域推荐框架,即COAST,通过感知实体之间的跨域相似性和对齐用户兴趣来提高双域推荐性能。具体来说,我们首先构建了一个统一的跨域异构图,并重新定义了图卷积网络的消息传递机制,以捕获跨域用户和项目的高阶相似性。针对用户兴趣对齐,我们开发了两个更细粒度的角度,用户-用户和用户-项目兴趣不变性跨领域凭借丰富的无监督和语义信号的深刻见解。我们对多个任务进行了深入的实验,这些任务是从两个大型推荐数据集构建的。大量的结果表明,COAST一致和显着优于国家的最先进的跨域推荐算法,以及经典的单域推荐方法。
2023-01-26 cs.AI cs.IR
CoNet: Collaborative Cross Networks for Cross-Domain Recommendation
Hong Kong University of Science and Technology(香港科技大学)
跨领域推荐技术是利用相关领域知识来缓解推荐系统中数据稀疏问题的一种有效方法。迁移学习是基于这些技术的一类算法。在本文中,我们提出了一种新的跨域推荐的迁移学习方法,使用神经网络作为基础模型。与基于矩阵分解的跨域技术相比,我们的方法是深度迁移学习,可以学习复杂的用户-项目交互关系。我们假设两个基本网络中的隐藏层通过交叉映射连接,从而形成协作交叉网络(CoNet)。CoNet通过引入从一个基础网络到另一个基础网络的交叉连接,实现了跨领域的双重知识转移。CoNet是在多层前馈网络中通过添加对偶连接和联合损失函数来实现的,可以通过反向传播来有效地训练。该模型在两个大型真实世界数据集上进行了全面评估。在NDCG中,它比基线相对提高了7.84%。我们证明了自适应选择表示转移的必要性。与非迁移方法相比,我们的模型可以减少数万个训练样本,并且仍然具有与它们竞争的性能。
2018-12-04 cs.AI cs.IR cs.LG
Deep Learning Model Acceleration and Optimization Strategies for Real-Time Recommendation Systems
Columbia University(哥伦比亚大学);University of Michigan(密歇根大学);Duke University(杜克大学);University of Nebraska - Lincoln(内布拉斯加大学林肯分校)
本文针对实时推荐系统推理延迟高和资源瓶颈问题,提出模型与系统双层优化策略,通过轻量化设计、剪枝、量化及异构计算与弹性调度,在保持准确率下将延迟降至30%以下并翻倍吞吐量。
2025-08-13 cs.AI cs.IR cs.LG
Dual Metric Learning for Effective and Efficient Cross-Domain Recommendations
New York University(纽约大学)
跨领域推荐系统在帮助消费者识别不同应用中的有用项目方面越来越有价值。然而,现有的跨领域模型通常需要大量的重叠用户,这在某些应用中可能难以获得。此外,他们没有考虑跨域推荐任务的二元结构,从而无法考虑用户和项目之间的双向潜在关系,并实现最佳推荐性能。为了解决这些问题,在本文中,我们提出了一种新的跨域推荐模型的基础上,双学习,在两个相关的域之间的信息传递,以迭代的方式,直到学习过程稳定。我们开发了一种新的潜在的正交映射提取用户的偏好在多个领域,同时保持用户之间的关系在不同的潜在空间。此外,我们结合了双重学习方法与度量学习方法,这使我们能够显着减少所需的共同用户在两个域的重叠,并导致更好的跨域推荐性能。我们在两个大规模工业数据集和六个域对上测试了所提出的模型,证明它始终显著优于所有最先进的基线。我们还表明,所提出的模型可以很好地与非常少的重叠用户,以获得令人满意的推荐性能相媲美的国家的最先进的基线,使用许多重叠用户。
2021-04-20 cs.IR cs.LG
RecGURU: Adversarial Learning of Generalized User Representations for Cross-Domain Recommendation
University of Alberta(阿尔伯塔大学);Tencent(腾讯);Sun Yat-sen University(中山大学)
跨领域推荐可以帮助缓解传统顺序推荐系统中的数据稀疏问题。在本文中,我们提出了RecGURU算法框架生成一个广义用户表示(GUR),将用户信息跨域的顺序推荐,即使有最小或没有共同的用户在两个域。我们提出了一个自我关注的自动编码器,以获得潜在的用户表示,和一个域编码器,其目的是预测生成的潜在表示的起源域。我们提出了一种新的对抗学习方法来训练这两个模块,以统一从不同的域生成的用户嵌入到一个单一的全球GUR为每个用户。所学习的GUR捕获用户的总体偏好和特征,并且因此可以用于增强行为数据并且改进用户所涉及的任何单个域中的推荐。在两个公开的跨域推荐数据集和一个从实际应用中收集的大型数据集上进行了大量的实验。结果表明,RecGURU提高了性能,优于各种最先进的顺序推荐和跨域推荐方法。收集到的数据将被公布,以方便未来的研究。
2021-11-19 cs.AI cs.IR
PPGenCDR: A Stable and Robust Framework for Privacy-Preserving Cross-Domain Recommendation
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Midea Group(美的集团)
针对现有跨域推荐忽视隐私保护的问题,本文提出PPGenCDR框架,通过选择性隐私保护器、GAN稳定器和鲁棒性导体,在稳定保护源域隐私的同时鲁棒利用迁移知识,并在Douban和Amazon数据集上显著超越现有模型。
2023-05-11 cs.AI cs.IR
Domain-Aware Cross-Attention for Cross-domain Recommendation
BUPT(北京邮电大学)
本文提出两步域感知交叉注意力跨域推荐模型,从多粒度提取源域可迁移特征并简化训练,实验与在线广告部署均验证其在CTR和ECPM上的显著效果。
2024-01-22 cs.AI cs.IR
LSTM Networks for Online Cross-Network Recommendations
School of Computing, National University of Singapore(新加坡国立大学计算机学院)
跨网络推荐系统使用来自多个源网络的辅助信息来创建整体用户简档并改进目标网络中的推荐。然而,我们发现在现有的跨网络解决方案,降低整体推荐性能的两个主要限制。现有的模型(1)无法捕捉用户交互中复杂的非线性关系,(2)是为离线设置而设计的,因此,不能用输入的交互来在线更新以捕捉推荐环境中的动态。我们提出了一种新的基于多层长短期记忆(LSTM)网络的在线解决方案来缓解这些问题。该模型包含对标准LSTM的三个主要扩展:第一,注意力门控机制,用于捕获长期用户偏好变化。第二,更高阶的交互层,以减轻数据稀疏性。第三,时间感知LSTM单元门,以捕获用户交互之间的不规则时间间隔。我们使用Twitter和Google Plus的辅助信息来说明我们的解决方案,以改善YouTube上的推荐。大量实验表明,该模型在准确性、多样性和新颖性方面始终优于最先进的模型。
2020-09-03 cs.AI cs.IR cs.LG
Real-Time Learning from An Expert in Deep Recommendation Systems with Marginal Distance Probability Distribution
Florida Institute for Human and Machine Cognition(佛罗里达人类与机器认知研究所)
推荐系统在当今的数字世界中发挥着重要作用。它们已经在诸如音乐平台的各种应用中得到应用,Spotify和电影流媒体服务,例如,网飞体育锻炼推荐系统的研究较少。久坐不动的生活方式已经成为几种疾病和医疗费用的主要驱动力。在本文中,我们开发了一个推荐系统的日常锻炼活动的用户的基础上,他们的历史,个人资料和类似的用户。开发的推荐系统使用了深度递归神经网络与用户配置文件的注意力和时间注意力机制。此外,练习推荐系统与流推荐系统有很大的不同,因为我们无法从练习推荐系统的参与者那里收集点击反馈。因此,我们提出了一个实时的【形】的,专家在环主动学习过程。主动学习器计算每个用户在每个时间步的推荐器的不确定性,并在确定性低时向专家请求推荐。本文推导了边际距离的概率分布函数,并利用它来确定何时向专家征求反馈。我们在mHealth数据集上的实验结果显示,将实时的【形】主动学习者与推荐系统结合后,准确性得到了提高。
2022-04-04 cs.AI cs.CV cs.HC
Causality Enhancement for Cross-Domain Recommendation
Xiaohongshu Co., Ltd(小红书公司)
针对跨域推荐中因果信息利用不足的问题,提出因果增强框架CE-CDR,通过因果图重构、因果感知数据集构建及无偏部分标签因果损失,生成丰富跨域表示以增强目标域推荐,实验验证其有效性和通用性。
2025-10-16 cs.AI cs.IR
Synthetic Data from Cross-Domain Events for Large-Scale Recommendation Systems
Meta
提出SCALR框架,通过源域事件生成目标域的合成用户-物品交互事件,以缓解数据稀疏和噪声反馈问题,并在工业推荐平台的在线A/B测试中取得显著改进。
2026-05-29 cs.AI cs.IR
Heterogeneity-aware Cross-school Electives Recommendation: a Hybrid Federated Approach
The Hong Kong Polytechnic University(香港理工大学)
针对跨校选修课推荐中数据隐私与异构性问题,提出混合联邦推荐系统HFRec,通过构建异构图与注意力机制捕获异构感知表示,在保护隐私下实现个性化推荐,效果优于现有模型。
2024-02-19 cs.AI cs.IR
MultiHead MultiModal Deep Interest Recommendation Network
Guizhou University(贵州大学)
随着信息技术的发展,人类每时每刻都在不断产生大量的信息。如何从海量的信息中获取用户感兴趣的信息,成为用户乃至企业管理者非常关心的问题。为了解决这一问题,从传统的机器学习到深度学习推荐系统,研究人员不断改进优化模型,探索解决方案。由于研究者对推荐模型网络结构的优化较多,对丰富推荐模型特征的研究较少,推荐模型的深入优化仍有空间。本文在DIN \cite{Authors01}模型的基础上,增加了多头和多模态模块,丰富了模型可以使用的特征集,同时加强了模型的交叉组合和拟合能力。实验表明,多头多模态DIN提高了推荐预测效果,在各项综合指标上均优于当前最先进的方法。
2021-10-19 cs.AI cs.IR
Deep learning-based citation recommendation system for patents
Konkuk University(建国大学);TEAMLAB;Gachon University(嘉泉大学)
在这项研究中,我们解决了开发一个基于深度学习的自动专利引文推荐系统的挑战。虽然基于深度学习的推荐系统在各个领域(如电影、产品和论文引用)都表现出了出色的性能,但由于缺乏免费提供的高质量数据集和相关基准模型,它们在专利引用中的有效性尚未得到研究。为了解决这些问题,我们提出了一个名为PatentNet的新数据集,其中包括来自Google Big Query服务的大约110,000项专利的文本信息和元数据。此外,我们提出了强大的基准模型,考虑到文本信息和元数据(如合作专利分类代码)的相似性。与现有的推荐方法相比,所提出的基准方法在测试集上实现了0.2377的平均倒数排名,而现有的最先进的推荐方法实现了0.2073。
2020-10-21 cs.AI cs.CL cs.IR
A GPU-specialized Inference Parameter Server for Large-Scale Deep Recommendation Models
NVIDIA(英伟达)
推荐系统对于各种现代应用程序和Web服务至关重要,例如新闻提要,社交网络,电子商务,搜索等。为了实现峰值预测精度,现代推荐模型将深度学习与TB级嵌入表相结合,以获得底层数据的细粒度表示。传统的推理服务架构需要将整个模型部署到独立的服务器上,这在如此大规模的情况下是不可行的。在本文中,我们提供的见解有趣和具有挑战性的推理域的在线推荐系统。我们提出了HugeCTR分层参数服务器(HPS),一个行业领先的分布式推荐推理框架,它结合了一个高性能的GPU嵌入式缓存与分层存储架构,以实现低延迟检索嵌入在线模型推理任务。除此之外,HPS还具有(1)冗余分层存储系统,(2)新型高带宽缓存,可加速NVIDIA GPU上的并行嵌入查找,(3)在线培训支持以及(4)轻量级API,可轻松集成到现有的大规模推荐工作流程中。为了证明其能力,我们使用综合工程和公共数据集进行了广泛的研究。我们表明,我们的HPS可以显着减少端到端的推理延迟,实现5~ 62倍的加速(取决于批量大小)CPU基线实现流行的推荐模型。通过多GPU并行部署,HPS还可以大大提高推理QPS。
2022-10-17 cs.AI cs.DC cs.IR
Signed Distance-based Deep Memory Recommender
Worcester Polytechnic Institute(伍斯特理工学院)
个性化推荐算法通过测量它们之间的距离/相似性来学习用户对项目的偏好。然而,一些现有的推荐模型(例如,矩阵分解)假设用户和项目之间的线性关系。这种方法限制了推荐系统的容量,因为在现实世界的应用程序中,用户和项目之间的交互要比线性关系复杂得多。为了克服这一局限性,本文设计并提出了一个基于符号距离的深度学习框架--基于深度记忆的推荐器(Signed Distance-based Deep Memory Recommender),该框架能够显式和隐式地捕捉用户和物品之间的非线性关系,在一般推荐任务和基于购物篮的推荐任务中都能很好地工作。通过对六个真实数据集的两个推荐任务的广泛实证研究,我们提出的方法取得了显着的改进,超过了十个国家的最先进的推荐模型。
2019-05-01 cs.AI cs.IR
Few-shot News Recommendation via Cross-lingual Transfer
University of Notre Dame(圣母大学);Ant Group(蚂蚁集团);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
针对新闻推荐中的少样本问题,提出通过无监督跨语言迁移模型对齐跨域新闻,并迁移用户偏好,在两个真实数据集上验证了其优于基线。
2023-12-28 cs.AI cs.IR
Collaborative Filtering with Attribution Alignment for Review-based Non-overlapped Cross Domain Recommendation
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
跨领域推荐(CDR)是利用不同领域的知识来解决推荐系统中的数据稀疏性和冷启动问题的一种方法。在本文中,我们专注于基于评论的非重叠推荐(RNCDR)问题。该问题是一个普遍存在且具有挑战性的问题,主要表现在两个方面,即目标域上只有正的用户项目评分和不同域之间没有重叠的用户。大多数先前的CDR方法不能很好地解决RNCDR问题,因为(1)它们不能有效地将审查与其他信息(例如,ID或评级)来获得富有表现力的用户或项目嵌入,(2)它们不能减少用户和项目上的域差异。为了填补这一空白,我们提出了协同过滤与归因对齐模型(CFAA),一个跨域推荐框架的RNCDR问题。CFAA包括两个主要模块,即,评分预测模块和嵌入属性对齐模块。前者旨在联合挖掘评论,一个热门ID和多个热门历史评分,以生成富有表现力的用户和项目嵌入。后者包括纵向归因一致性和横向归因一致性,倾向于基于多个视角减少差异。我们对豆瓣和亚马逊数据集的实证研究表明,CFAA在RNCDR设置下显着优于最先进的模型。
2022-02-10 cs.AI cs.IR
Representation Extraction and Deep Neural Recommendation for Collaborative Filtering
Simon Fraser University(西蒙弗雷泽大学);University of Tehran(德黑兰大学)
许多深度学习方法通过从原始输入数据分层构建复杂特征来解决复杂的分类和回归问题。虽然有一些工作已经研究了深度神经网络在推荐领域的应用,但它们大多通过利用视觉和文本信息等非结构化辅助数据来提取实体特征,并且当涉及到使用用户-项目评分矩阵时,特征提取通过使用矩阵分解来完成。由于矩阵分解有一定的局限性,已经做了一些工作,以取代它的深度神经网络。但这些作品要么需要利用非结构化数据,如项目评论或图像,要么专门设计使用隐式数据,不考虑用户-项目评分矩阵。在本文中,我们研究了新的表示学习算法的使用,以提取用户和项目表示的评级矩阵,并提供了一个深度神经网络的协同过滤。我们提出的方法是一个模块化的算法,包括两个主要阶段:REpresentation提取和一个深神经网络(RexNet)。在RexNet中使用两个联合和并行的神经网络,使其能够为每个实体提取一个层次的特征,以预测用户对项目的兴趣程度。最后的预测结果将用于最终的推荐。与其他深度学习推荐方法不同,RexNet不依赖于视觉和文本信息等非结构化辅助数据,而是仅使用用户-项目比率矩阵作为输入。我们在一组广泛的实验中评估了RexNet对最先进的推荐方法的影响。结果表明,RexNet在具有不同密度的各种数据集上显著优于基线算法。
2020-12-09 cs.IR cs.LG
An Introduction to Matrix factorization and Factorization Machines in Recommendation System, and Beyond
本文旨在更好地理解矩阵分解(MF),分解机(FM),以及它们与深层算法的结合在推荐系统中的应用。具体来说,本文将重点介绍奇异值分解(SVD)及其衍生物,例如Funk-SVD,SVD++等。逐步公式计算和解释图片显示。更重要的是,我们解释了DeepFM模型,其中FM由深度学习辅助。通过数值例子,我们试图将理论与现实世界的问题联系起来。
2022-03-12 cs.IR cs.LG
FedHCDR: Federated Cross-Domain Recommendation with Hypergraph Signal Decoupling
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Peng Cheng Laboratory(鹏城实验室);Sun Yat-sen University(中山大学);Chongqing University(重庆大学);Shanghai Pudong Development Bank(上海浦东发展银行)
针对联邦跨域推荐中的数据异质性问题,提出FedHCDR框架,通过超图信号解耦分离领域专属与共享特征,并结合超图对比学习提升共享关系建模,在多个真实场景中显著优于现有方法。
2024-06-10 cs.IR cs.LG cs.SI
UniNet: Next Term Course Recommendation using Deep Learning
Universidad Metropolitana(大都会大学)
课程招生推荐是帮助大学生决定下学期最佳课程组合的相关任务。特别是,推荐系统技术,如矩阵分解和协同过滤已被开发,试图解决这个问题。由于这些技术无法表示学习成绩数据集的时间依赖性,我们提出了一种使用递归神经网络的深度学习方法,旨在更好地表示课程成绩的时间顺序如何影响成功的概率。我们已经表明,它是可能的,以获得性能的81.10%的AUC指标,仅使用等级信息,它是可能的,以开发一个推荐系统与学术学生的表现预测。这是有意义的跨不同的学生GPA水平和课程的困难
2020-09-20 cs.CY cs.IR cs.LG
Deep Adversarial Social Recommendation
City University of Hong Kong(香港城市大学);Michigan State University(密歇根州立大学);The Hong Kong Polytechnic University(香港理工大学)
随着社交网络对人们日常生活的影响越来越大,近年来,社会推荐技术得到了快速发展,以提高推荐系统的性能。大多数现有的社会化推荐方法统一了用户-项目交互(项目域)和用户-用户连接(社会域)的用户表示。然而,它可能会限制用户在各自领域的表示学习,因为用户在两个领域中的行为和交互不同,这使得他们的表示是异构的。此外,大多数传统的推荐系统不能有效地优化这些目标,因为他们利用负采样技术,这是无法提供足够的信息指导训练过程中的优化过程。在本文中,为了解决上述挑战,我们提出了一种新的深度对抗性社交推荐框架DASO。它采用双向映射的方法来传递用户的信息之间的社会域和项目域使用对抗学习。在两个真实数据集上的综合实验表明了该框架的有效性。
2019-05-30 cs.IR cs.LG cs.SI
Deep Attention Q-Network for Personalized Treatment Recommendation
Georgia Institute of Technology(佐治亚理工学院)
本文提出深度注意力Q网络,在深度强化学习框架中引入Transformer整合患者历史观察数据,用于个性化治疗推荐,并在脓毒症和急性低血压真实数据上验证其优于现有最优模型。
2023-07-04 cs.AI cs.LG
A Survey on Cross-domain Recommendation: Taxonomies, Methods, and Future Directions
Shanghai Jiao Tong University(上海交通大学)
传统的推荐系统面临着数据稀疏和冷启动两个长期存在的障碍,这两个问题促进了跨域推荐(Cross-Domain Recommendation,CDR)的产生和发展。CDR的核心思想是利用从其他领域收集的信息来缓解一个领域中的两个问题。在过去的十年中,许多努力已经从事跨域推荐。最近,随着深度学习和神经网络的发展,涌现出了大量的方法。然而,关于CDR的系统调查数量有限,特别是关于最新提出的方法以及它们所解决的建议场景和建议任务。在这篇调查论文中,我们首先提出了一个两级分类的跨域推荐分类不同的推荐场景和推荐任务。然后,我们介绍和总结现有的跨域推荐方法在不同的推荐场景下,以结构化的方式。我们还组织了常用的数据集。最后,我们提供了几个潜在的研究方向,这一领域的调查。
2022-07-24 cs.IR cs.LG
A Unified Framework for Cross-Domain and Cross-System Recommendations
Ant Group(蚂蚁集团);Macquarie University(麦考瑞大学)
跨域推荐(CDR)和跨系统推荐(CSR)被提出来在具有相对丰富信息的源数据集的帮助下提高目标数据集(域/系统)的推荐准确性。然而,大多数现有的CDR和CSR方法是单目标的,即存在单个目标数据集,这只能帮助目标数据集,因此不能使源数据集受益。在本文中,我们关注三个新的场景,即,双目标CDR(DTCDR),多目标CDR(MTCDR)和CDR+CSR,旨在同时提高所有场景下所有数据集的推荐准确性。为此,我们提出了一个统一的框架,称为GA(基于图形嵌入和注意力技术),用于所有三种情况。在遗传算法中,我们首先构建独立的异构图,以生成更具代表性的用户和项目嵌入。然后,我们提出了一个元素明智的注意力机制,有效地结合嵌入的共同实体(用户/项目)从不同的数据集学习。此外,为了避免负迁移,我们进一步提出了一种个性化的训练策略,以最大限度地减少丰富数据集和稀疏数据集之间的公共实体嵌入差异,导出了三个新模型,即,GA-DTCDR-P、GA-MTCDR-P和GA-CDR+CSR-P。在四个真实世界的数据集上进行的大量实验表明,我们提出的GA模型显着优于最先进的方法。
2021-08-18 cs.AI cs.IR cs.LG
Joint Group Profiling and Recommendation via Deep Neural Network-based Multi-Task Learning
Université de technologie de Compiègne(贡比涅技术大学);CNRS(法国国家科学研究中心);Heudiasyc (Heuristics and Diagnosis of Complex Systems)(启发式与复杂系统诊断实验室)
本文提出一种基于深度神经网络多任务学习的联合群体画像与推荐框架,通过共享表示和注意力机制提升群体推荐准确性,并在真实数据集上验证其优于基线模型。
2025-03-05 cs.AI cs.IR cs.LG
Improving Cross-domain Recommendation through Probabilistic Cluster-level Latent Factor Model--Extended Version
Beijing University of Posts and Telecommunications(北京邮电大学)
跨领域推荐通过将多个领域的评分数据集中在一起来传递用户行为模式,以缓解单一评分领域中出现的稀疏性问题。然而,以前的模型只假设多个领域共享一个潜在的共同评级模式的基础上的用户项目的共同聚类。为了捕捉不同领域之间的差异,我们提出了一种新的概率统计等级潜在因子(PCLF)模型,以提高跨域推荐性能。在多个真实数据集上的实验表明,我们提出的模型在跨域推荐任务中的性能优于现有的方法。
2014-09-24 cs.IR cs.LG stat.ML
DeepRec: An Open-source Toolkit for Deep Learning based Recommendation
University of New South Wales(新南威尔士大学);Nanyang Technological University(南洋理工大学);Zhengzhou Univeristy(郑州大学)
近年来,基于深度学习的推荐系统得到了广泛的研究。然而,每年提出的大量模型对研究人员和从业人员来说都是一个巨大的挑战,他们需要复制结果以进行进一步的比较。虽然部分论文提供了源代码,但它们采用了不同的程序设计语言或不同的深度学习包,这也提高了理解这些想法的难度。为了缓解这个问题,我们发布了开源项目:\textbf{DeepRec}。在这个工具包中,我们使用Python和广泛使用的深度学习包- Tensorflow实现了许多基于深度学习的推荐算法。三个主要的推荐场景:评级预测,前N推荐(项目排名)和顺序推荐。同时,DeepRec保持了良好的模块化和可扩展性,可以轻松地将新模型纳入框架。它在GNU通用公共许可证的条款下发布。源代码可以在github上找到:\url{https://github.com/cheungdaven/DeepRec}
2019-05-25 cs.IR cs.LG
Use of Deep Learning in Modern Recommendation System: A Summary of Recent Works
Contata Solutions LLC(Contata Solutions有限责任公司)
随着互联网上数字信息量的指数级增长,在线商店、在线音乐、视频和图像库、搜索引擎和推荐系统已经成为在短时间内找到相关信息的最方便的方式。近年来,深度学习的进展在语音识别、图像处理和自然语言处理领域获得了极大的关注。与此同时,最近的一些研究已经表明了深度学习在推荐系统和信息检索领域的实用性。在这篇简短的综述中,我们将介绍使用各种深度学习技术变体在推荐领域取得的最新进展。我们将综述分为三个部分:协作系统、基于内容的系统和混合系统。该综述还讨论了深度学习集成推荐系统对几个应用领域的贡献。本文最后讨论了深度学习在各个领域的推荐系统中的影响,以及深度学习是否比传统的推荐系统有任何显着的改进。最后,我们还提供了未来的研究方向,这是可能的基础上使用的深度学习在推荐系统的当前状态。
2017-12-20 cs.IR cs.LG
Reinforcement Learning-enhanced Shared-account Cross-domain Sequential Recommendation
Shandong Normal University(山东师范大学);The University of Queensland(昆士兰大学)
共享账户跨域顺序推荐(SCSR)是一个新兴的具有挑战性的研究课题,它同时考虑了共享账户和跨域的特点。现有的SCSR研究主要基于递归神经网络(RNN)和图神经网络(GNN),但忽略了多个用户共享一个帐号,但帐号每次主要由一个用户占用的事实。这种观察激励我们通过专注于其最近的行为来学习更准确的用户特定帐户表示。此外,虽然现有的工作赋予较低的权重,无关的互动,他们仍然可能稀释域信息,并阻碍跨域推荐。为了解决上述问题,我们提出了一个基于强化学习的解决方案,即RL-ISN,它由一个基本的跨域推荐和一个基于强化学习的域过滤器。具体来说,为了对共享账户场景中的账户表示进行建模,基本推荐器首先将用户的混合行为聚类为潜在用户,然后利用对它们的注意力模型来进行用户识别。为了减少不相关的领域信息的影响,我们制定的领域过滤器作为一个分层的强化学习任务,其中一个高层次的任务是用来决定是否修改整个传输序列或没有,如果是这样,一个低层次的任务是进一步执行,以确定是否删除其中的每个交互或没有。为了评估我们的解决方案的性能,我们在两个真实世界的数据集上进行了广泛的实验,实验结果表明,我们的RL-ISN方法相比,国家的最先进的推荐方法的优越性。
2022-06-16 cs.AI cs.IR cs.LG
Deep Learning Recommendation Model for Personalization and Recommendation Systems
Northwestern University(西北大学);Harvard University(哈佛大学);Facebook(脸书)
随着深度学习的出现,基于神经网络的推荐模型已经成为处理个性化和推荐任务的重要工具。这些网络与其他深度学习网络有很大的不同,因为它们需要处理分类特征,并且没有得到很好的研究或理解。在本文中,我们开发了一个最先进的深度学习推荐模型(DLRM),并在PyTorch和Caffe2框架中实现了它。此外,我们设计了一个专门的并行化方案,利用嵌入表上的模型并行来减轻内存限制,同时利用数据并行从全连接层向外扩展计算。我们将DLRM与现有的推荐模型进行了比较,并描述了其在Big Basin AI平台上的性能,证明了其作为未来算法实验和系统协同设计基准的有用性。
2019-05-31 cs.IR cs.LG
Practical recommendations for gradient-based training of deep architectures
与人工神经网络相关的学习算法,特别是用于深度学习的学习算法,似乎涉及许多花里胡哨的东西,称为超参数。本章是一个实用指南,对一些最常用的超参数提出了建议,特别是在基于反向传播梯度和基于梯度的优化的学习算法的背景下。它还讨论了如何处理这样一个事实,即当允许调整多个超参数时,可以获得更有趣的结果。总的来说,它描述了用于成功有效地训练和调试大规模且通常是深度多层神经网络的实践要素。最后,它提出了一些关于在更深层次的架构中观察到的训练困难的开放性问题。
2012-09-16 cs.LG
LLMDistill4Ads: Using Cross-Encoders to Distill from LLM Signals for Advertiser Keyphrase Recommendations at eBay
eBay Inc(eBay公司)
LLMDistill4Ads通过交叉编码器从LLM信号中蒸馏,旨在提升eBay广告商关键词推荐的多样性和准确性。
2026-02-18 cs.AI cs.IR cs.LG
DDTCDR: Deep Dual Transfer Cross Domain Recommendation
New York University(纽约大学)
跨领域推荐系统在帮助消费者从不同的类别中识别最满意的商品方面越来越有价值。然而,以前提出的跨领域模型没有考虑用户和项目之间的双向潜在关系。此外,它们不显式地对用户和项目特征的信息进行建模,而仅利用用户评级信息进行推荐。为了解决这些问题,在本文中,我们提出了一种新的方法,跨域建议的基础上的双重学习机制,在两个相关的域之间的信息传输,在迭代的方式,直到学习过程稳定。我们开发了一种新的潜在的正交映射提取用户的偏好在多个领域,同时保持用户之间的关系在不同的潜在空间。结合自动编码器方法提取特征信息的潜在本质,提出了深度双传输跨域推荐(DDTCDR)模型,在各个领域提供推荐。我们在包含电影,书籍和音乐项目三个领域的大型数据集上测试了所提出的方法,并证明它始终显着优于几种最先进的基线和经典的迁移学习方法。
2019-10-11 cs.IR cs.LG
Cluster Based Deep Contextual Reinforcement Learning for top-k Recommendations
Delhi Technological University(德里理工大学)
在过去的几十年里,电子商务领域的快速发展导致了对个性化,高效和动态推荐系统的迫切需求。为了充分满足这一需求,我们提出了一种新的方法,通过创建一个集成的聚类与强化学习来生成前k推荐。我们采用了DB扫描集群来处理巨大的项目空间,从而提高了效率。此外,通过使用深度上下文强化学习,我们提出的工作充分利用了用户特征。通过部分更新和批量更新,模型可以不断学习用户模式。基于Duelling Bandit的探索由于其自适应性质而与最先进的策略相比提供了稳健的探索。在公共数据集上进行的详细实验验证了我们关于我们的技术与现有技术相比的效率的说法。
2020-11-29 cs.AI cs.IR cs.LG
Decentralized Multi-Target Cross-Domain Recommendation for Multi-Organization Collaborations
Duke University(杜克大学);University of Minnesota-Twin Cities(明尼苏达大学双城分校)
在许多现实场景中,推荐系统(RS)由不同的组织在本地运行。如果各个组织能够完全共享他们的数据并以集中的方式执行计算,他们可能会显着提高建议的准确性。然而,多个组织之间在提高建议绩效方面的合作主要受到限制,原因是难以共享数据和模型。为了应对这一挑战,我们提出了具有多目标辅助学习(MTAL)和辅助自动编码器(AAE)的分散式多目标跨域推荐(DMTCDR)。我们的方法可以帮助多个组织以分散的方式协作提高推荐性能,而无需共享敏感资产。因此,它允许分散的组织进行协作,形成一个共同利益的社区。我们进行了大量的实验,以证明新方法可以显着优于本地训练的RS和减轻冷启动问题。
2022-11-07 cs.IR cs.LG
Multi-stage Ensemble Model for Cross-market Recommendation
Politecnico di Milano(米兰理工大学)
本文介绍了我们的团队PolimiRank为WSDM Cup 2022提供的跨市场推荐解决方案。比赛的目标是有效地利用从不同市场提取的信息,以提高两个目标市场的推荐排名准确性。我们的模型是基于属于不同市场的数据组合的多阶段方法。在第一阶段,国家的最先进的预测器被用来预测得分的用户项夫妇,这是在以下2个阶段,采用一个简单的线性组合和更强大的梯度提升决策树技术。我们队在决赛中名列第四。
2022-02-17 cs.IR cs.LG
Deep Adaptive Interest Network: Personalized Recommendation with Context-Aware Learning
University of Science and Technology of China(中国科学技术大学);University of Houston(休斯顿大学);University of Southern California(南加州大学);University of Tokyo(东京大学)
本文提出深度自适应兴趣网络(DAIN),通过动态建模用户兴趣并结合上下文感知学习机制,利用深度学习技术实时捕捉兴趣变化并整合上下文信息优化推荐结果,实验证明其在性能与计算效率上均表现出色。
2024-12-24 cs.IR cs.LG
A Survey on Deep Learning Based Point-Of-Interest (POI) Recommendations
Bangladesh University of Engineering and Technology (BUET)(孟加拉国工程技术大学(BUET))
基于位置的社交网络(LBSN)使用户能够通过分享他们的签到、意见、照片和评论来与朋友和熟人进行社交。LBSN产生的大量数据开辟了一条新的研究途径,催生了一个新的推荐系统子领域,称为兴趣点(POI)推荐。POI推荐技术本质上利用用户的历史签到和其他多模态信息(诸如POI属性和友谊网络)来推荐适合于用户的下一组POI。大量早期的工作都集中在传统的机器学习技术上,使用数据集中手工制作的特征。随着最近深度学习研究的激增,我们已经目睹了利用不同的深度学习范例的各种各样的POI推荐工作。这些技术在问题表述、提出的技术、使用的数据集和特征等方面存在很大差异。据我们所知,这项工作是对所有主要的基于深度学习的POI推荐工作的第一次全面调查。我们的工作分类和批判性地分析了最近的POI推荐工作的基础上不同的深度学习范式和其他相关功能。这篇评论可以被认为是POI推荐领域的研究人员或从业人员的食谱。
2020-11-20 cs.IR cs.LG
Exploiting Data Sparsity in Secure Cross-Platform Social Recommendation
Ant Group(蚂蚁集团);Zhejiang University(浙江大学);Sony AI(索尼人工智能);Emory University(埃默里大学)
社会推荐已经显示出比传统系统有希望的改进,因为它利用社会相关数据作为额外的输入。大多数现有的工作假设所有数据都可用于推荐平台。然而,在实践中,用户-项目交互数据(例如,评级)和用户-用户社交数据通常由不同的平台生成,并且两者都包含敏感信息。因此,“如何在数据高度稀疏的不同平台上执行安全有效的社交推荐”仍然是一个重要的挑战。在这项工作中,我们将安全计算技术引入社交推荐,并提出S3 Rec,一个稀疏感知的安全跨平台的社交推荐框架。结果表明,该模型不仅可以通过整合社交平台上的稀疏社交数据来提高评级平台的推荐性能,而且可以保护两个平台的数据隐私。此外,为了进一步提高模型训练效率,我们提出了两种基于同态加密和私有信息检索的安全稀疏矩阵乘法协议。我们在两个基准数据集上的实验证明了S3 Rec的有效性。
2022-02-15 cs.CR cs.LG
Cross-domain User Preference Learning for Cold-start Recommendation
DAMO Academy, Alibaba Group(阿里巴巴达摩院)
跨领域冷启动推荐是推荐系统中一个日益重要的问题。现有的工作主要集中在解决跨域用户推荐或冷启动内容推荐。然而,当一个新的领域在其早期阶段发展时,它的潜在用户类似于源领域,但交互少得多。从源域学习用户的偏好并将其转移到目标域是至关重要的,特别是在用户反馈有限的新到达的内容上。为了弥合这一差距,我们提出了一个自我训练的跨领域用户偏好学习(COUPLE)框架,针对冷启动推荐与各种语义标签,如项目的属性或视频的类型。更具体地说,我们考虑三个层次的偏好,包括用户历史,用户内容和用户组提供可靠的推荐。通过由域感知的顺序模型表示的用户历史,频率编码器被应用于用于用户内容偏好学习的底层标签。然后,提出了一个层次记忆树与正交节点表示,以进一步推广跨域的用户组偏好。整个框架采用先进先出(FIFO)队列以对比的方式更新,以获得更独特的表示。在两个数据集上的大量实验证明了COUPLE在用户和内容冷启动情况下的效率。通过部署一周的在线A/B测试,我们发现COUPLE的点击率(CTR)优于淘宝APP上使用的其他基线。目前该方法已在线服务于跨域冷微视频推荐。
2021-12-07 cs.IR cs.LG
DARec: Deep Domain Adaptation for Cross-Domain Recommendation via Transferring Rating Patterns
University of New South Wales(新南威尔士大学)
跨领域推荐一直是推荐系统研究的热点之一。最近,已经提出了各种深度模型来跨领域转移学习的知识,但是它们中的大多数集中于从辅助内容中提取抽象的可转移特征,例如,图像和评论文本,而评级矩阵本身的模式很少被触及。在这项工作中,受领域自适应概念的启发,我们提出了一个深度领域自适应模型(DARec),该模型能够从评级矩阵{ \em only}中提取和传输模式,而不依赖于任何辅助信息。我们在公共数据集上实证证明,我们的方法在几种最先进的跨域推荐模型中达到了最佳性能。
2019-05-26 cs.IR cs.LG stat.ML
Behavior Importance-Aware Graph Neural Architecture Search for Cross-Domain Recommendation
Tencent(腾讯)
本文提出BiGNAS框架,通过跨域定制超网络和图行为重要性感知器联合优化GNN架构与源域行为数据重要性,在多个基准及工业数据集上取得优于现有方法的跨域推荐效果。
2025-03-11 cs.IR cs.LG
Solving Cold-Start Problem in Large-scale Recommendation Engines: A Deep Learning Approach
University of Rochester(罗切斯特大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);CareerBuilder
协同过滤(CF)因其高效、准确和可扩展性而被广泛应用于大规模推荐引擎中。然而,在实践中,基于CF的推荐引擎在进行推荐之前需要用户和项目之间的交互,这使得尚未暴露给最终用户的新项目不适合进行交互。这就是所谓的冷启动问题。在本文中,我们介绍了一种新的方法,采用深度学习来解决这个问题,在任何CF为基础的推荐引擎。所提出的技术的最重要的特点之一是,它可以应用于任何现有的CF基于推荐引擎,而不改变CF核心的事实。我们成功地应用这种技术,以克服项目冷启动问题,在凯业必达的CF推荐引擎。我们的实验表明,所提出的技术是非常有效的解决冷启动问题,同时保持高精度的CF建议。
2016-11-16 cs.IR cs.LG
Pre-training Graph Neural Network for Cross Domain Recommendation
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of Sydney(悉尼大学)
推荐系统预测用户对项目的潜在兴趣,其核心是学习用户/项目嵌入。然而,它遭受的数据稀疏性问题,跨域的建议可以缓解。然而,大多数现有的工作要么共同学习源域和目标领域模型,或需要侧特征。然而,联合训练和侧特征会影响目标域上的预测,因为学习的嵌入由包含偏差信息的源域主导。受图表示学习中预训练的当代艺术的启发,我们提出了一个用于跨域推荐的预训练和微调图。提出了一种新的用于跨域推荐的预训练图神经网络(PCRec),它采用了图编码器的对比自监督预训练。然后,我们将预先训练好的图编码器用于初始化目标域上的节点嵌入,这有利于单域推荐系统在目标域上的微调。实验结果证明了PCRec的优越性。详细的分析验证了PCRec在传递信息的同时避免源域偏差的优越性。
2021-11-16 cs.IR cs.LG
JSCN: Joint Spectral Convolutional Network for Cross Domain Recommendation
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Florida State University(佛罗里达州立大学);Jilin University(吉林大学)
跨域推荐可以缓解推荐系统中的数据稀疏性问题。为了将知识从一个域转移到另一个域,可以利用邻域信息或学习直接映射函数。然而,现有的方法都忽略了跨域推荐区域的高阶连通性信息,并且存在域不兼容问题。在本文中,我们提出了一个\textbf{J}点\textbf{S}频谱\textbf{C}卷积\textbf{N}网络(JSCN)的跨域推荐。JSCN将同时在不同的图上操作多层谱卷积,并与域自适应用户映射模块联合学习域不变的用户表示。因此,高阶全面的连接信息可以提取的频谱卷积和信息可以跨域传递域不变的用户映射。领域自适应用户映射模块可以帮助不兼容的领域相互传递知识。在$24$ Amazon评分数据集上进行的大量实验表明,JSCN在跨域推荐中的有效性,与现有方法相比,$9.2\%$在召回率上有所提高,$36.4\%$在MAP上有所提高.我们的代码可在线获取~ \footnote{https://github.com/JimLiu96/JSCN}。
2019-10-18 cs.IR cs.LG stat.ML
Cross-attention Secretly Performs Orthogonal Alignment in Recommendation Models
Meta
该研究揭示了推荐模型中交叉注意力隐式执行正交对齐机制,发现其能自然产生并改善缩放定律,在超300次实验中提升性能,为多模态参数高效缩放提供了新方向。
2025-10-10 cs.IR cs.LG
Integrating User and Item Reviews in Deep Cooperative Neural Networks for Movie Recommendation
University of Patras(帕特雷大学)
用户评价包括在线平台上的大量信息。这种信息源被大多数现有的推荐系统所忽视,尽管它有可能缓解稀疏性问题并提高建议的质量。这项工作提出了一个深度模型,用于从评论文本中同时学习项目属性和用户行为。深度合作神经网络(DeepCoNN)是由两个并行的神经网络在其最后一层连接而成的建议模型。其中一个网络专注于从用户提交的评论中学习用户行为,而另一个网络则从用户评论中学习物品属性。在顶部,添加了一个共享层来连接这两个网络。与因子分解机器方法类似,共享层允许为人和事物获取的潜在因子彼此交互。根据实验结果,在许多数据集上,DeepCoNN超过了所有基线推荐系统。
2022-06-22 cs.IR cs.LG
Knowledge-guided Deep Reinforcement Learning for Interactive Recommendation
University of New South Wales(新南威尔士大学);University of Technology Sydney(悉尼科技大学)
交互式推荐旨在从项目和用户之间的动态交互中学习,以实现响应性和准确性。强化学习在应对动态环境方面具有先天优势,因此在交互式推荐研究中引起了越来越多的关注。受知识感知推荐的启发,本文提出了知识引导的深度强化学习(KGRL),利用强化学习和知识图谱的优势进行交互式推荐。该模型是在演员-评论家网络框架上实现的。它维护一个本地知识网络来指导决策,并采用注意力机制来捕获项目之间的长期语义。我们在模拟的在线环境中使用六个公开的真实世界数据集进行了全面的实验,并证明了我们的模型优于几种最先进的方法。
2020-04-17 cs.IR cs.LG stat.ML
The complementarity of a diverse range of deep learning features extracted from video content for video recommendation
University of Pretoria(比勒陀利亚大学);MultiChoice Group(MultiChoice 集团)
随着流媒体的普及,许多视频流媒体服务不断购买新的视频内容,以从中挖掘潜在的利润。因此,必须很好地处理新添加的内容以推荐给合适的用户。在本文中,我们通过探索各种深度学习功能提供视频推荐的潜力来解决新项目冷启动问题。所研究的深度学习特征包括从视频内容捕获视觉外观、音频和运动信息的特征。我们还探讨了不同的融合方法,以评估如何以及这些功能模态可以结合起来,充分利用它们所捕获的互补信息。在真实世界的视频数据集上进行的电影推荐实验表明,深度学习特征的性能优于手工制作的特征。特别是,使用深度学习音频特征和以动作为中心的深度学习特征生成的推荐优于MFCC和最先进的iDT特征。此外,将各种深度学习功能与手工制作的功能和文本元数据相结合,与仅结合前者相比,在推荐方面产生了显着的改进。
2022-01-01 cs.IR cs.LG cs.MM
A Simple Deep Personalized Recommendation System
Vrbo, part of Expedia Group(Vrbo,亿客行集团旗下品牌)
推荐系统是在双边度假租赁市场中匹配列表和旅行者的关键工具。这样的系统需要高容量来从大规模的隐式信号中提取用户对项目的偏好。为了学习这些偏好,我们提出了一个简单的深度个性化推荐系统来计算旅行者的条件嵌入。我们的方法结合了监督结构中的列表嵌入,以构建短期历史背景,从而为旅行者提供个性化建议。部署在生产环境中,这种方法计算效率高,可扩展,并允许我们捕获非线性依赖关系。我们的离线评估表明,使用深度平均网络创建的旅行者嵌入可以将下游转化预测模型的精度提高7%,优于更复杂的在线购物体验个性化基准方法。
2019-08-06 cs.IR cs.LG