Fairness Attacks on Recommender Systems
Department of Information Systems and Operations Management, College of Business, The University of Texas at Arlington(信息系统与运营管理系,商学院,德克萨斯大学阿灵顿分校);Department of Management Information Systems, Eller College of Management, the University of Arizona(管理信息系,埃勒管理学院,亚利桑那大学)
提出一种基于结构感知强化学习的公平性攻击方法,通过图编码和循环神经网络生成虚假交互,联合学习物品选择和性别选择策略,以加剧推荐系统的不公平性。
2026-06-27 cs.AI cs.IR
Coarse-to-Fine Sparse Sequential Recommendation
University of California, San Diego(加州大学圣地亚哥分校);Amazon(亚马逊)
顺序推荐的目的是从历史交互中建模动态用户行为。事实证明,自我关注的方法可以有效地捕捉短期动态和长期偏好。尽管取得了成功,但这些方法仍然难以对稀疏数据进行建模,难以在稀疏数据上学习高质量的项目表示。我们建议同时从购物意图和交互项目中建模用户动态。学习的意图是粗粒度的,并作为项目推荐的先验知识。为此,我们提出了一个从粗到细的自注意框架,即CaFe,它明确地学习粗粒度和细粒度的顺序动态。具体来说,CaFe首先从密集的粗粒度序列中学习意图,从而提供高质量的用户意图表示。然后,CaFe将意图表示融合到项目编码器输出中以获得改进的项目表示。最后,我们推断推荐项目的表示和相应的意图的基础上。在稀疏数据集上的实验表明,CaFe比最先进的自注意分类器平均高出44.03%NDCG@5。
2022-04-04 cs.AI cs.IR
AutoInt: Automatic Feature Interaction Learning via Self-Attentive Neural Networks
Peking University(北京大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Mila-Quebec AI Institute(米拉-魁北克人工智能研究所);HEC Montreal(蒙特利尔高等商学院)
点击率(CTR)预测的目的是预测用户点击广告或项目的概率,其对于诸如在线广告和推荐系统的许多在线应用至关重要。该问题非常具有挑战性,因为(1)输入特征(例如,用户ID、用户年龄、项目ID、项目类别)通常是稀疏的和高维的,以及(2)有效的预测依赖于高阶组合特征(\textit{a.k.a.}交叉特征),其对于领域专家手工制作是非常耗时的并且不可能被枚举。因此,人们一直在努力寻找稀疏和高维原始特征的低维表示及其有意义的组合。在本文中,我们提出了一个有效的和高效的方法称为\emph{AutoInt}自动学习输入功能的高阶功能的相互作用。我们提出的算法是非常普遍的,它可以适用于数值和分类输入功能。具体来说,我们将数值和分类特征映射到同一个低维空间。然后,提出了一种带剩余连接的多头自关注神经网络,在低维空间中显式地对特征交互进行建模。利用多头自关注神经网络的不同层,可以对输入特征的不同顺序的特征组合进行建模。整个模型可以以端到端的方式有效地拟合大规模原始数据。在四个真实世界数据集上的实验结果表明,我们提出的方法不仅优于现有的最先进的预测方法,而且还提供了良好的可解释性。代码可在:\url{https://github.com/DeepGraphLearning/RecommenderSystems} .
2019-08-23 cs.AI cs.IR cs.LG
Attentive Knowledge-aware Graph Convolutional Networks with Collaborative Guidance for Personalized Recommendation
The Chinese University of Hong Kong(香港中文大学);Microsoft Research Asia(微软亚洲研究院);Carnegie Mellon University(卡内基梅隆大学)
为了解决传统推荐系统的数据稀疏性和冷启动问题,引入知识图谱来补充辅助信息成为近年来的研究热点。然而,在现有的基于KG的RS模型中,简单地集成KG并不一定能保证提高推荐性能,这甚至可能削弱整体模型的能力。这是因为这些KG的构建独立于历史用户-项目交互的收集;因此,这些KG中的信息可能并不总是有助于向所有用户推荐。在本文中,我们提出了专注的知识感知的图卷积网络与个性化推荐的协作指导(CG-KGR)。CG-KGR是一种新的知识感知推荐模型,通过我们提出的协作指导机制,可以充分和一致地学习知识组和用户-项目交互。具体来说,CG-KGR首先将历史交互封装为交互式信息摘要。然后CG-KGR利用它作为指导,以提取信息的KG,最终提供更精确的个性化推荐。我们在四个真实世界的数据集上进行了两个推荐任务的广泛实验,即,Top-K推荐和点击率(CTR)预测。实验结果表明,CG-KGR模型在Top-K推荐的召回度量方面显著优于最近的最先进的模型1.4-27.0%。
2022-01-02 cs.AI cs.IR
Tensor-based Sequential Learning via Hankel Matrix Representation for Next Item Recommendations
Skolkovo Institute of Science;Artificial Intelligence Research Institute, 105064, Moscow, Russia
最近,自我关注的Transformer模型已经被证明可以非常有效地解决下一个项目的推荐任务。学习到的注意力权重捕捉用户行为中的顺序动态,并且具有很好的泛化能力。由于学习参数空间的特殊结构,我们质疑是否有可能用另一种更轻量级的方法来模仿它。我们开发了一种新的基于张量分解的模型,该模型在学习过程中嵌入了有关序列数据的结构知识。我们演示了如何自我注意网络的某些属性可以复制与我们的方法基于特殊的汉克尔矩阵表示。由此产生的模型有一个浅的线性结构,并与其神经对应物竞争。
2022-12-12 cs.AI cs.IR cs.LG
Modeling Dynamic Attributes for Next Basket Recommendation
Salesforce(赛富时);UC San Diego(加州大学圣地亚哥分校)
传统的下一个商品和下一个购物篮推荐方法通常基于用户过去的交互和相关联的静态上下文信息(例如,用户id或商品类别)来提取用户的兴趣。然而,提取的利益可能是不准确的,并成为过时的。动态属性,如用户收入变化、物品价格变化等,随着时间的推移而改变。这种动态可以内在地反映用户兴趣的演变。我们认为,这样的动态属性建模可以提高推荐性能。然而,将它们适当地集成到用户兴趣模型中是具有挑战性的,因为属性动态可以是多样的,例如时间间隔感知的、周期性模式(等),它们从不同的角度代表用户的行为,这些行为可以与交互异步发生。除了动态属性之外,每个篮子中的项目还包含复杂的相互依赖关系,这可能是有益的,但对于有效捕获来说并不微不足道。为了应对这些挑战,我们提出了一种新的Attentive网络来建模动态属性(命名为Anda)。Anda分别编码动态属性和篮子项目序列。我们设计了一个周期性感知编码器,使模型能够从动态属性中捕获各种时间模式。为了有效地学习有用的项目关系,提出了篮内注意模块。在三个真实世界数据集上的实验结果表明,我们的方法始终优于最先进的。
2021-09-23 cs.AI cs.IR
Hybrid Deep Embedding for Recommendations with Dynamic Aspect-Level Explanations
Sichuan University(四川大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
可解释性推荐还远未得到很好的解决,部分原因在于三个挑战。第一种是偏好学习的个性化,这要求不同的项目/用户对用户偏好或项目质量的学习有不同的贡献。二是动态解释,这对建议解释的及时性至关重要。最后一个是解释的粒度。在实践中,方面级的解释比项目级或用户级的更有说服力。在本文中,为了同时解决这些挑战,我们提出了一种新的模型,称为混合深度嵌入(HDE),用于基于方面的可解释建议,可以使用动态方面级解释进行建议。HDE的主要思想是通过融合从评论中提取的动态隐式反馈和关注的用户-项目交互,学习用于评分预测的用户和项目的动态嵌入以及用于生成方面级解释的动态潜在方面偏好/质量向量。特别地,由于自动学习用户/项目的方面偏好/质量,HDE能够捕获在用户或项目的评论中未提及的方面的影响。在真实数据集上进行的大量实验验证了HDE的推荐性能和可解释性。我们工作的源代码可以在\url{https://github.com/lola63/HDE-Python}上找到
2020-01-18 cs.AI cs.IR cs.LG
Deep Structural Point Process for Learning Temporal Interaction Networks
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);National Computer Network Emergency Response Technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心);Xiaomi AI Lab, Xiaomi Inc.(小米公司小米人工智能实验室)
本文研究了时间交互网络的学习问题。时间交互网络由用户和项目之间的一系列按时间顺序的交互组成。以前的方法通过使用递归神经网络的不同变体来建模顺序交互来解决这个问题,这些方法没有考虑时间交互网络的结构信息,不可避免地导致次优结果。为此,我们提出了一种新的深度结构点过程称为DSPP学习时间交互网络。DSPP同时将拓扑结构和长程依赖结构结合到强度函数中,以增强模型的表达能力。具体来说,我们首先利用拓扑结构作为强先验,设计一个拓扑融合编码器来获得节点嵌入。一个专注的移位编码器,然后开发学习用户和项目之间的长期依赖结构在连续的时间。提出的两个模块使我们的模型能够捕捉用户-项目的相关性和动态影响的时间交互网络。DSPP在三个真实世界的数据集上进行了项目预测和时间预测任务的评估。大量的实验表明,我们的模型实现了一致的和显着的改进超过国家的最先进的基线。
2021-07-08 cs.AI cs.SI
AutoAttention: Automatic Field Pair Selection for Attention in User Behavior Modeling
Shanghai Jiao Tong University(上海交通大学);Tencent Inc.(腾讯公司);Shandong University(山东大学)
在点击率(CTR)预测模型中,用户的兴趣通常被表示为一个固定长度的向量,基于她的历史行为。最近,提出了几种方法来学习每个用户行为的关注权重,并进行加权和池。然而,这些方法仅从目标项侧手动选择几个字段作为查询来与行为交互,而忽略了其他目标项字段以及用户和上下文字段。直接将所有这些字段包括在注意力中可能会引入噪声并降低性能。在本文中,我们提出了一种新的模型命名为AutoAttention,它包括所有项目/用户/上下文侧字段作为查询,并为行为字段和查询字段之间的每个字段对分配一个可学习的权重。通过这些可学习的权重对这些字段对进行修剪,导致自动字段对选择,从而识别和去除噪声字段对。虽然包含更多的字段,但由于使用了简单的注意力函数和字段对选择,AutoAttention的计算成本仍然很低。在公共数据集和腾讯生产数据集上的实验证明了该方法的有效性。
2022-10-27 cs.AI cs.IR
Learning Intents behind Interactions with Knowledge Graph for Recommendation
National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学);eBay(易贝);The Hong Kong Polytechnic University(香港理工大学);University of Science and Technology of China(中国科学技术大学)
知识图谱在推荐系统中扮演着越来越重要的角色。最近的技术趋势是开发基于图神经网络(GNN)的端到端模型。然而,现有的基于GNN的模型在关系建模中是粗粒度的,未能(1)在细粒度的意图级别识别用户-项目关系,以及(2)利用关系依赖性来保留长距离连接的语义。在这项研究中,我们通过使用辅助项目知识来探索用户-项目交互背后的意图,并提出了一个新的模型,知识图谱-基于意图网络(KGIN)。从技术上讲,我们将每个意图建模为KG关系的精心组合,鼓励不同意图的独立性,以获得更好的模型能力和可解释性。此外,我们设计了一种新的GNN信息聚合方案,它递归地整合了长距离连接的关系序列(即,关系路径)。该方案允许我们提取有关用户意图的有用信息,并将其编码为用户和项目的表示。在三个基准数据集上的实验结果表明,KGIN与KGAT,KGNN-LS和CKAN等最先进的方法相比取得了显着的改进。进一步的分析表明,KGIN通过识别有影响力的意图和关系路径,为预测提供了可解释的解释。这些实现可在https://github.com/huangtinglin/Knowledge_Graph_based_Intent_Network上获得。
2021-02-14 cs.AI cs.IR
Improving One-class Recommendation with Multi-tasking on Various Preference Intensities
National Taiwan University(国立台湾大学)
本文针对单类推荐中隐式反馈偏好强度固定的不现实假设,提出多任务框架建模不同偏好强度,并结合注意力图卷积捕获高阶关系,在三个大规模数据集上显著超越现有方法。
2024-01-18 cs.AI cs.IR cs.LG
DDGHM: Dual Dynamic Graph with Hybrid Metric Training for Cross-Domain Sequential Recommendation
Zhejiang University(浙江大学)
顺序推荐(SR)通过对用户在项目之间的转换进行建模来描述用户行为的演变模式。然而,短的交互序列限制了现有的SR的性能。为了解决这个问题,我们专注于跨域顺序推荐(CDSR)在本文中,旨在利用其他领域的信息,以提高顺序推荐性能的一个领域。解决CDSR具有挑战性。一方面,如何在保持单一领域偏好的同时,整合跨领域的影响力仍然是一个关键问题。另一方面,由于合并序列的长度有限,数据稀疏性问题不能完全通过简单地利用其他领域的知识来解决。为了应对这些挑战,我们提出了DDGHM,一个新的框架CDSR问题,其中包括两个主要模块,即,双动态图建模和混合度量训练。前者通过动态构造两级图来捕捉域内和域间的顺序转换,即,局部图和全局图,并将它们与融合注意门控机制相结合。后者通过采用混合度量学习来增强用户和项目表示,包括用于实现对齐的协作度量和用于保持一致性的对比度量,以进一步缓解数据稀疏问题并提高预测精度。我们在两个基准数据集上进行了实验,结果证明了DDHMG的有效性。
2022-09-21 cs.AI cs.IR
RecGOAT: Graph Optimal Adaptive Transport for LLM-Enhanced Multimodal Recommendation with Dual Semantic Alignment
Fudan University(复旦大学);University of Southern California(南加州大学)
针对生成式语言模型表示与ID协同信号之间的语义异质性,提出基于图神经网络和最优传输理论的双粒度语义对齐框架RecGOAT,通过实例级和分布级对齐实现统一特征空间,理论证明其表示误差更低,实验达到最优性能。
2026-05-25 cs.AI cs.IR