XAI-KG: knowledge graph to support XAI and decision-making in manufacturing
Jožef Stefan International Postgraduate School(约热夫·斯特凡国际研究生院);Jožef Stefan Institute(约热夫·斯特凡研究所);Qlector d.o.o.(Qlector 有限责任公司)
越来越多地采用人工智能需要准确的预测和手段来理解这种预测背后的人工智能模型的推理。可解释的人工智能(XAI)旨在为为什么模型发布某种预测提供线索。这些线索对决策至关重要,因为它们提供了对影响大多数特定预测的特征的见解,并让用户决定预测是否可信。虽然许多技术被开发来解释黑箱模型,但很少有研究评估这些解释的质量及其对决策的影响。我们提出了一个本体和知识图谱,以支持收集反馈的预测,预测解释,推荐的决策选项,和用户的行动。通过这种方式,我们提供了改进预测模型、解释和决策选项建议的方法。我们为需求预测领域定制了知识图谱,并在真实数据上对其进行了验证。
2021-05-06 cs.AI
A Geometric Approach to Personalized Recommendation with Set-Theoretic Constraints Using Box Embeddings
Manning College of Information \& Computer Sciences, UMass Amherst
提出用 Box Embeddings 以几何集合方式建模用户与属性,支持否定、交集等复杂约束,并在推荐查询上较向量神经方法最高提升30%。
2025-02-15 cs.AI cs.IR cs.LG
Learning Post-Hoc Causal Explanations for Recommendation
Rutgers University(罗格斯大学);Renmin University of China(中国人民大学)
最先进的推荐系统具有生成高质量推荐的能力,但由于使用黑盒预测模型,通常不能向人类提供直观的解释。缺乏透明度突出了提高推荐系统的可解释性的至关重要性。在本文中,我们建议从用户交互历史中提取因果规则作为黑盒顺序推荐机制的事后解释,同时保持推荐模型的预测准确性。我们的方法首先获得反事实的例子与援助的扰动模型,然后提取个性化的因果关系的推荐模型,通过因果规则挖掘算法。在几个最先进的顺序推荐模型和真实数据集上进行了实验,以验证我们的模型在生成因果解释方面的性能。同时,我们从质量和可信度两个方面对所发现的因果解释进行了评价,结果表明,与传统的关联规则相比,因果规则能够为黑盒推荐模型的行为提供个性化的、更有效的解释。
2021-02-23 cs.AI cs.IR cs.LG
Knowledge-enhanced Black-box Attacks for Recommendations
Nanjing University(南京大学);The Hong Kong Polytechnic University(香港理工大学);City University of Hong Kong(香港城市大学)
最近的研究表明,基于深度神经网络的推荐系统容易受到对抗攻击的攻击,其中攻击者可以注入精心制作的虚假用户简档(即,假冒用户已经与之交互的一组项目)进入目标推荐系统,以实现恶意目的,例如提升或降级一组目标项目。出于安全和隐私方面的考虑,在黑盒设置下执行对抗攻击更为实际,其中目标系统的架构/参数和训练数据不容易被攻击者访问。然而,在黑盒设置下生成高质量的假用户简档是相当具有挑战性的,目标系统的资源有限。为了应对这一挑战,在这项工作中,我们引入了一种新的策略,利用项目的属性信息(即,项的知识图谱),其可以是公开可访问的并且提供丰富的辅助知识以增强伪造用户简档的生成。更具体地说,我们提出了一个知识图增强的黑盒攻击框架(KGAttack),通过深度强化学习技术,有效地学习攻击策略,其中知识图谱无缝集成到分层策略网络中,以生成虚假的用户简档,用于执行对抗性黑盒攻击。在各种真实数据集上的综合实验证明了该攻击框架在黑盒环境下的有效性。
2022-07-21 cs.AI cs.IR cs.LG
Defining a Lingua Franca to Open the Black Box of a Naïve Bayes Recommender
Science Buddies(科学伙伴)
许多人工智能系统具有黑箱性质,这使得人们很难理解它们是如何提出建议的。这可能会令人不安,因为设计师无法确定系统将如何应对新颖性。为了穿透朴素贝叶斯推荐器的黑盒子,我们首先要问,我们想从系统中知道什么,以及如何获得它?这些答案让我们递归地定义了一个与AI(一种通用语言)共同的词汇,使用系统排名的项目来创建系统识别的元符号,并使我们能够以简单的术语和不同的抽象层次来理解系统的知识。作为一个额外的好处,使用其现有的知识,通用语言可以使系统能够将推荐扩展到相关的,但全新的领域,改善冷启动问题。我们还补充了通用语的可视化系统的知识状态的技术,开发指标,用于评估通用语的术语的意义,并概括了在其他应用程序中开发类似的通用语的要求。
2017-09-21 cs.AI cs.IR
Can We Steer the Black-Box? Towards Controllability-Centric Evaluation of Recommender Systems with Collaborative Agents
Institute of Information Engineering, Chinese Academy of Sciences, China(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences, China(中国科学院大学网络安全学院)
针对推荐系统缺乏可控性的问题,提出CtrlBench-Rec协同多智能体框架,形式化三个基本任务衡量可操纵性,通过实验有效量化可控性、揭示系统瓶颈,为可控推荐研究等提供首个标准化工具包。
2026-07-17 cs.AI cs.IR
Thinking inside The Box: Learning Hypercube Representations for Group Recommendation
群组推荐是对传统个性化推荐的一种超越,它是向一组用户推荐满意的推荐项目。在群体推荐中,核心是设计偏好聚合函数,以获得群体成员偏好的高质量汇总。这样的用户和组偏好通常被表示为向量空间中的点(即,嵌入),其中多个用户嵌入被压缩成一个,以便于对组项对进行排名。然而,所得到的组表示,作为点,缺乏足够的灵活性和能力来考虑多方面的用户偏好。此外,基于点嵌入的偏好聚合是一个群体的决策过程,其中所有用户必须同意在每个嵌入维的某个值,而不是一个可协商的间隔不太忠实的反映。在本文中,我们提出了一种新的表示群通过概念的超立方体,这是子空间包含无数的点在向量空间。具体来说,我们设计的超立方体推荐(CubeRec)自适应学习组超立方体从用户嵌入在偏好聚合过程中的信息损失最小,并利用一个改进的距离度量来衡量组超立方体和项目点之间的亲和力。此外,针对群组推荐中数据稀疏性的长期问题,我们充分利用超立方体的几何表达能力,并创新性地通过交叉两个群组来引入自我监督。在四个真实世界数据集上的实验验证了CubeRec相对于最先进基线的优越性。
2022-12-05 cs.IR
BOXREC: Recommending a Box of Preferred Outfits in Online Shopping
本文提出BOXREC框架,结合用户对各类服装的价格区间偏好和总预算约束,通过BOXREC-OSF评分生成一盒能最大化适场合穿搭数量的时尚物品组合。
2024-02-26 cs.IR
Opening the Black Box: Interpretable Remedies for Popularity Bias in Recommender Systems
针对推荐系统流行度偏差导致推荐质量下降和物品曝光不公且现有缓解技术缺乏透明度的问题,提出基于稀疏自编码器(SAE)的事后方法,通过识别并调整编码流行度信号的神经元激活,在保证准确性的同时显著提升公平性,还具备可解释性与细粒度控制能力。
2025-08-24 cs.IR
RecExplainer: Aligning Large Language Models for Explaining Recommendation Models
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
针对黑盒推荐模型缺乏透明度的问题,本文提出RecExplainer框架,通过三种对齐方法让大语言模型作为代理模拟推荐模型行为,生成高保真可定制的自然语言解释,在三个公开数据集上验证了效果。
2024-06-22 cs.AI cs.IR
CogRec: A Cognitive Recommender Agent Fusing Large Language Models and Soar for Explainable Recommendation
CogRec融合大型语言模型和Soar认知架构,通过符号推理与在线学习提升推荐系统的可解释性和准确性。
2025-12-30 cs.AI cs.IR
An Explainable Autoencoder For Collaborative Filtering Recommendation
University of Louisville(路易斯维尔大学)
自编码器是深度学习架构的常见构建块,它们主要用于表示学习。它们也被成功地用于协同过滤(CF)推荐系统,以预测缺失的评级。不幸的是,像所有黑盒机器学习模型一样,它们无法解释它们的输出。因此,虽然基于Autoencoder的推荐系统的预测可能是准确的,但用户可能不清楚为什么会生成推荐。在这项工作中,我们设计了一个可解释的推荐系统,使用Autoencoder模型,其预测可以解释使用基于邻域的解释风格。我们的初步工作可以被认为是迈向基于自动编码器的可解释深度学习架构的第一步。
2019-12-23 cs.AI cs.IR cs.LG
Attacking Black-box Recommendations via Copying Cross-domain User Profiles
City University of Hong Kong(香港城市大学);Michigan State University(密歇根州立大学);The Hong Kong Polytechnic University(香港理工大学)
最近,旨在为用户提供个性化项目列表以供在线交互的推荐系统引起了广泛的关注。事实上,许多这些最先进的技术都是基于深度学习的。最近的研究表明,这些深度学习模型(特别是推荐系统)很容易受到攻击,例如数据投毒,这会导致用户推荐一组选定的项目。然而,最近,已经开发了防御策略来检测这些具有虚假配置文件的生成用户。因此,创建更“真实”的用户简档以推广一组项目的高级注入攻击仍然是基于深度学习的推荐系统领域中的关键挑战。在这项工作中,我们提出了我们的框架CopyAttack,这是一个基于强化学习的黑盒攻击方法,利用真实用户从源域复制到目标域的配置文件,以促进项目的子集的目标。CopyAttack被构造为高效且有效地学习策略梯度网络,该策略梯度网络首先选择,然后进一步细化/制作来自源域的用户简档,以最终复制到目标域中。CopyAttack的目标是最大化目标域中用户的Top- $k$推荐列表中目标项目的命中率。我们在两个真实世界的数据集上进行了实验,并从经验上验证了我们提出的框架的有效性,并进一步进行了全面的模型分析。
2022-04-24 cs.CR cs.IR cs.LG
CARCA: Context and Attribute-Aware Next-Item Recommendation via Cross-Attention
University of Hildesheim(希尔德斯海姆大学)
在稀疏推荐环境中,用户的上下文和项目属性在决定下一步推荐哪些项目时起着至关重要的作用。尽管如此,最近在顺序和时间感知推荐方面的工作通常要么忽略这两个方面,要么只考虑其中一个,限制了它们的预测性能。在本文中,我们提出了一个上下文和属性感知的推荐模型(CARCA),可以捕捉动态性质的用户简档的上下文功能和项目属性,通过专用的多头自我注意块,提取配置文件级别的功能和预测项目得分。此外,与许多当前最先进的顺序项目推荐方法不同,这些方法使用最新项目的潜在特征和目标项目嵌入之间的简单点积进行评分,CARCA使用所有配置文件项目和目标项目之间的交叉注意力来预测它们的最终得分。这种交叉关注使CARCA能够利用用户简档中旧项目和新项目之间的相关性,以及它们对决定下一步推荐哪个项目的影响。在四个真实推荐系统数据集上的实验表明,该模型在项目推荐任务中的性能明显优于所有最先进的模型,并且在归一化折扣累积增益(NDCG)和命中率方面实现了高达53%的改进。结果还表明,CARCA的性能优于几个最先进的专用的基于图像的推荐系统,仅仅是利用从预先训练的ResNet50中提取的图像属性在黑盒的方式。
2022-04-04 cs.AI cs.IR
Explaining the (Not So) Obvious: Simple and Fast Explanation of STAN, a Next Point of Interest Recommendation System
LTCI, Télécom Paris(法国电信学院 LTCI);Institut Polytechnique de Paris(巴黎综合理工学院)
针对下一个兴趣点推荐系统STAN,提出结合其协同过滤与序列预测特性的简单快速可解释方案,可通过用户相似性、关键时间步解释结果并辅助调试输出。
2024-10-04 cs.AI cs.IR cs.LG
DRE: Generating Recommendation Explanations by Aligning Large Language Models at Data-level
本文提出非侵入式DRE框架,在数据级利用大语言模型对齐用户数据与推荐物品,并通过目标感知偏好蒸馏丰富解释,从而为黑盒推荐模型生成准确、以用户为中心的解释。
2024-04-09 cs.IR
Neural Rating Regression with Abstractive Tips Generation for Recommendation
The Chinese University of Hong Kong(香港中文大学);Tencent Inc.(腾讯公司)
最近,一些电子商务网站在他们的移动应用程序上推出了一个名为Tips的新交互框。用户可以使用简短的文本(通常是几个词或一句话)来表达他们的经验和感受或提供建议。从本质上讲,写一些提示和给出一个数字评分是用户产品评估行为的两个方面,表达了用户体验和感受。这两个方面的联合建模有助于设计更好的推荐系统。虽然一些现有的模型集成文本信息,如项目规格或用户评论到用户和项目的潜在因素,以提高评级预测,没有现有的作品考虑提高推荐质量的提示。我们提出了一个基于深度学习的框架NRT,它可以同时预测精确的评分,并生成具有良好语言质量的抽象提示,模拟用户体验和感受。对于抽象提示生成,门控递归神经网络被用来将用户和项目的潜在表示“翻译”成简洁的句子。在不同领域的基准数据集上进行的大量实验表明,NRT比现有的方法有显著的改进。而且,生成的提示可以生动地预测用户体验和感受。
2017-08-01 cs.AI cs.CL cs.IR
Audio Prototypical Network For Controllable Music Recommendation
针对传统音乐推荐系统黑盒建模缺乏可解释性与可控性的问题,提出音频原型网络,以音乐语义特征原型表示用户偏好,在保持推荐性能竞争力的同时实现了可解释可控的用户画像构建。
2025-07-31 cs.IR eess.AS
Black-Box Attacks on Sequential Recommenders via Data-Free Model Extraction
Technical University of Munich(慕尼黑工业大学);University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们研究模型提取是否可以用来“窃取”顺序推荐系统的权重,以及这种攻击对受害者构成的潜在威胁。这种类型的风险在图像和文本分类中引起了关注,但据我们所知,在推荐系统中没有。我们认为,顺序推荐系统受到独特的漏洞,由于特定的自回归制度用于训练他们。与许多现有的推荐攻击者不同,这些攻击者假设用于训练受害者模型的数据集暴露给攻击者,我们考虑无数据设置,其中训练数据不可访问。在此背景下,我们提出了一种基于API的模型提取方法,通过有限预算的合成数据生成和知识蒸馏。我们研究了最先进的顺序推荐模型,并显示了它们在模型提取和下游攻击下的脆弱性。我们分两个阶段进行攻击。(1)模型提取:给定从黑盒推荐器检索的不同类型的合成数据和它们的标签,我们通过蒸馏将黑盒模型提取为白盒模型。(2)下游攻击:我们用白盒推荐器生成的对抗样本攻击黑盒模型。实验结果表明,我们的无数据模型提取和下游攻击的连续的病毒在两个配置文件污染和数据投毒设置的有效性。
2021-09-01 cs.AI cs.CR cs.IR
Probabilistic Residual Learning for Online Recommendations
Rutgers University Piscataway New Jersey United States(Meta);Meta Sunnyvale California United States;University of Copenhagen Copenhagen Denmark;Rutgers University \& UIUC Piscataway New Jersey United States;Rutgers University;Meta;University of Copenhagen;Rutgers University \& UIUC
针对现代推荐系统存在的问题,提出概率残差学习(PRL)方法,通过对真实值与基础预测间残差建模,概率性分组用户、建模混杂因素并聚合残差预测,与多种深度学习推荐系统兼容,能提升性能并发现有意义用户聚类。
2026-07-24 cs.AI cs.IR cs.LG
GREASE: Generate Factual and Counterfactual Explanations for GNN-based Recommendations
Stony Brook University(石溪大学);Sapienza University of Rome(罗马第一大学);The Xi’an Jiaotong-Liverpool University(西交利物浦大学);Rutgers University(罗格斯大学);South China Normal University(华南师范大学)
最近,图神经网络(GNNs)已被广泛用于开发成功的推荐系统。虽然功能强大,但基于GNN的推荐系统很难附加具体的解释,说明为什么特定的项目最终出现在给定用户的建议列表中。事实上,解释基于GNN的建议是独特的,现有的GNN解释方法是不合适的,原因有两个。首先,传统的GNN解释方法是为节点、边或图分类任务而设计的,而不是像推荐系统中那样进行排名。其次,标准的机器学习解释通常旨在支持熟练的决策者。相反,建议是为任何最终用户设计的,因此应以用户可理解的方式提供解释。在这项工作中,我们提出了GREASE,一种新的方法来解释任何黑盒GNN推荐系统提供的建议。具体来说,GREASE首先在目标用户-项目对及其$l$跳邻域上训练代理模型。然后,它产生的事实和反事实的解释,通过寻找最佳的邻接矩阵扰动捕获的充分和必要条件的一个项目被推荐,分别。在真实数据集上进行的实验结果表明,GREASE可以为流行的基于GNN的推荐模型生成简洁有效的解释。
2022-08-04 cs.AI cs.IR cs.LG
PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
Kuaishou Technology(快手科技)
针对生成式推荐模型黑箱化阻碍部署且推理成本高的问题,提出轻量模型PushDualGen,生成语义ID的同时生成可跳过的解释副本,已部署于快手推送系统,使有效播放率升8.50%、不满率降37.70%,优化了内容生态。
2026-08-11 cs.IR
Combining Open-box Simulation and Importance Sampling for Tuning Large-Scale Recommenders
Microsoft(微软)
针对大规模广告推荐平台调优计算成本高的问题,提出融合开盒仿真与重要性采样的SGIS方法,先粗筛参数再迭代优化,在保证精度的同时降低开销并提升KPI。
2024-09-23 cs.AI cs.IR cs.LG
Demystifying Sequential Recommendations: Counterfactual Explanations via Genetic Algorithms
本文提出首个针对序列推荐系统的反事实解释方法,利用遗传算法生成最小交互变化以产生不同推荐,并在多数据集上验证了高保真度,提升了系统透明度和用户信任。
2025-08-05 cs.IR
Bayesian Prior Learning via Neural Networks for Next-item Recommendation
下一项预测是推荐系统领域的一个研究热点。顾名思义,该任务是在给定的上下文信息和历史交互数据中推荐用户感兴趣的后续项目。在我们的论文中,我们通过一系列的项目相互作用的背景下建模的一般概念。我们使用贝叶斯框架对下一个项目预测问题进行建模,并通过Beta分布的后验均值捕获序列出现的概率。我们训练两个神经网络来准确预测Beta分布的alpha和beta参数值。我们的新方法结合黑箱风格的神经网络,已知是适合函数近似与贝叶斯估计方法,导致了一个创新的方法,优于各种国家的最先进的基线。我们证明了我们的方法在两个现实世界的数据集的有效性。我们的框架是建立隐私保护推荐系统的目标的重要一步。
2022-05-10 cs.IR
Decoding Style: Efficient Fine-Tuning of LLMs for Image-Guided Outfit Recommendation with Preference
Walmart Global Tech(沃尔玛全球技术部门)
本研究提出一种图像引导的个性化穿搭推荐框架,通过MLLM弥合视觉-文本鸿沟,在Polyvore数据集上高效微调LLM并结合直接偏好机制构建自增强反馈循环,在两项核心任务上性能显著优于基础LLM。
2024-09-18 cs.AI cs.IR cs.LG
Retrieving Black-box Optimal Images from External Databases
Kyoto University(京都大学);RIKEN AIP(理化学研究所革新智能综合研究中心)
假设我们有一个黑盒函数(例如,深度神经网络),其将图像作为输入并输出指示偏好的值。我们如何从互联网上的外部数据库中检索与此功能相关的最佳图像?文献中的标准检索问题(例如,项推荐)假定算法具有对该组项的完全访问权。换句话说,这些算法是为服务提供商设计的。在本文中,我们考虑在不同的假设下的检索问题。具体来说,我们考虑如何与有限的访问图像数据库的用户可以检索图像使用自己的黑盒功能。该公式实现了由每个用户定义的灵活且更细粒度的图像搜索。我们假设用户可以通过具有严格API限制的搜索查询来访问数据库。因此,用户需要在查询的数量方面有效地检索最佳图像。我们提出了一个有效的检索算法Tiara这个问题。在实验中,我们确认我们提出的方法在各种设置下比几个基线表现得更好。
2021-12-30 cs.AI cs.CV cs.IR
Debias the Black-box: A Fair Ranking Framework via Knowledge Distillation
Ping An Technology (Shenzhen) Co., Ltd.(平安科技(深圳)有限公司);University of Science and Technology of China(中国科学技术大学);Shanghai International Studies University(上海外国语大学);Peking University(北京大学)
深度神经网络由于具有许多复杂的非线性单元,可以捕捉查询和文档之间错综复杂的交互历史信息,从而提供正确的搜索推荐。然而,服务提供商在现实环境中经常面临更复杂的障碍,例如部署成本约束和公平性要求。知识蒸馏是将一个经过良好训练的复杂模型(教师)的知识转移到一个简单的模型(学生)中,它的提出可以缓解前一种担忧,但目前最好的蒸馏方法只关注如何使学生模型模仿教师模型的预测。为了更好地促进深度模型的应用,我们提出了一个基于知识蒸馏的公平信息检索框架。该框架可以提高模型的公平性,同时大大减少模型的大小。我们在三个大型数据集上的大量实验表明,我们提出的框架可以将模型大小减少到原始大小的至少1%,同时保持其黑盒状态。在保持较高推荐有效性的同时,公平性提高了15%~46%。
2022-08-24 cs.CY cs.IR cs.LG
Rec-R1: Bridging Generative Large Language Models and User-Centric Recommendation Systems via Reinforcement Learning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
Rec-R1通过强化学习连接生成式大语言模型与用户导向推荐系统,有效提升推荐性能并保留LLM通用能力。
2026-01-28 cs.CL cs.IR
LLM-as-a-Judge for Reliable and Explainable Offline Evaluation in Top-K Recommendation
City University of Hong Kong(香港城市大学);Shanghai Jiao Tong University(上海交通大学);Xiamen University(厦门大学)
针对离线评估中反馈偏差和缺乏解释的问题,提出基于LLM的语义代理和推理评分框架,提升评估可靠性与可解释性。
2026-06-23 cs.IR
Poisoning Attacks to Graph-Based Recommender Systems
Iowa State University(爱荷华州立大学);Facebook, Inc.(Facebook公司)
推荐系统是许多Web服务的重要组成部分,帮助用户找到符合他们兴趣的项目。几项研究表明,推荐系统容易受到中毒攻击,攻击者将虚假数据注入给定系统,使系统根据攻击者的意愿进行推荐。然而,这些中毒攻击要么是不可知的推荐算法或优化的推荐系统,不是基于图的。与基于关联规则和基于矩阵分解的推荐系统一样,基于图的推荐系统也被部署在实践中,例如,eBay、华为应用商店。然而,如何为基于图的推荐系统设计优化的中毒攻击仍然是一个悬而未决的问题。在这项工作中,我们进行了系统的研究中毒攻击基于图的推荐系统。由于有限的资源和避免检测,我们假设可以注入到系统中的假用户的数量是有界的。关键的挑战是如何为假用户分配评分,以便将目标项目推荐给尽可能多的正常用户。为了解决这一挑战,我们将中毒攻击制定为优化问题,解决该问题决定了虚假用户的评级分数。我们还提出了解决优化问题的技术。我们评估我们的攻击,并将其与现有的攻击下的白盒(推荐算法及其参数是已知的),灰盒(推荐算法是已知的,但其参数是未知的),黑盒(推荐算法是未知的)设置使用两个真实世界的数据集。我们的研究结果表明,我们的攻击是有效的,优于现有的攻击基于图的推荐系统。例如,当1%的虚假用户被注入时,我们的攻击可以在某些情况下将目标项目推荐给580倍的正常用户。
2018-09-11 cs.CR cs.IR cs.LG
Conformal Group Recommender System
针对传统群推荐系统仅重准确率、缺乏置信度支撑的问题,本研究提出融合共形预测框架的群推荐方法,设计多种满足交换性的非一致性度量,在多个基准数据集上验证了有效性,且满足有效性与效率性质。
2023-07-22 cs.IR
Two-Stage Session-based Recommendations with Candidate Rank Embeddings
Zalando SE
基于会话的推荐系统的最新进展由于其提供具有高召回率的实时个性化推荐的潜力而受到关注,特别是与矩阵分解和基于项目的协同过滤等传统方法相比。目前,最新的两种方法是短时注意/记忆优先级模型基于会话的推荐(STAMP)和神经注意基于会话的推荐(NARM)。然而,当这两种方法应用于Zalando(Fashion-Similar)的相似项目推荐数据集时,与简单的协作过滤方法相比,它们并不能开箱即用。为了提高相似项目推荐,我们建议集中精力提高排名的几个最相关的项目从原始的建议,通过使用的会话的用户的注意力网络编码的信息。当使用一种新的候选人排名嵌入,编码的全球排名信息的每个候选人在重新排名过程中,这种策略的有效性得到了证实。Fashion-Similar的实验结果显示,在20岁时,召回率和MRR的基线有了显着改善,在线测试的点击率也有了改善。此外,重要的是要从评估中指出这种方法在下一次点击预测问题上的潜力,因为当应用于STAMP和NARM时,它在两个公开的真实世界数据集上提高了20的召回率和MRR。
2019-08-22 cs.IR cs.LG
Filtering Discomforting Recommendations with Large Language Models
针对个性化推荐可能引发不适的问题,提出基于大语言模型的DiscomfortFilter工具,通过可编辑偏好档案和对话式过滤,实现灵活透明的推荐过滤,并验证其有效性。
2025-01-23 cs.HC cs.IR
Enhancing Group Recommendation with Memory-Augmented Reasoning in LLM Agent
Capital Normal University(首都师范大学);The University of Queensland(昆士兰大学)
本研究提出基于LLM智能体的AGR模型,通过记忆模块与推理模块建模群组偏好动态演变及决策过程,在公开数据集上显著提升了群组推荐的准确率与可解释性。
2026-08-25 cs.IR
Knowledge-Aware Multi-Intent Contrastive Learning for Multi-Behavior Recommendation
School of Information Science and Engineering, Yanshan University(燕山大学信息科学与工程学院);School of Information Science and Engineering, Xinjiang College Of Science & Technology(新疆科学技术学院信息科学与工程学院)
提出知识感知多意图对比学习模型,利用知识图谱构建意图并采用双对比学习缓解数据稀疏,提升多行为推荐的准确性。
2024-04-18 cs.IR cs.LG
Modeling Behavioral Patterns in News Recommendations Using Fuzzy Neural Networks
Institute of Human-Centred Computing, Graz University of Technology, Austria(以人为中心计算研究所,格拉茨技术大学,奥地利)
本文提出利用模糊神经网络建模新闻推荐中的行为模式,通过学习可读规则提升推荐透明度和可解释性。
2026-01-07 cs.IR cs.LG
Counterfactual Explainable Recommendation
Rutgers University(罗格斯大学);Renmin University of China(中国人民大学)
可解释性推荐通过为用户和系统设计者提供解释性信息来帮助他们更好地理解和决策,已经成为一个重要的研究课题。在本文中,我们提出了反事实解释性推荐(CountER),它采取了反事实推理的见解,从因果推理的解释性推荐。CountER能够公式化解释的复杂性和强度,并采用反事实学习框架为模型决策寻求简单(低复杂性)和有效(高强度)的解释。从技术上讲,对于推荐给每个用户的每个项目,CountER制定了一个联合优化问题,以在项目方面产生最小的变化,从而创建一个反事实项目,从而逆转对反事实项目的推荐决策。这些改变的方面构成了为什么推荐原始项目的解释。这种反事实解释既有助于用户更好地理解,也有助于系统设计人员更好地调试模型。另一个贡献的工作是可解释的建议,这一直是一个具有挑战性的任务的评价。幸运的是,反事实解释非常适合标准的定量评估。为了衡量解释质量,我们设计了两种类型的评价指标,一种是从用户的角度(即用户为什么喜欢该项目),另一种是从模型的角度(即模型为什么推荐该项目)。我们将我们的反事实学习算法应用于黑盒推荐系统,并在五个真实世界的数据集上评估生成的解释。结果表明,我们的模型产生更准确和有效的解释比国家的最先进的可解释的推荐模型。
2023-02-17 cs.IR cs.LG
Knowledge-aware Autoencoders for Explainable Recommender Sytems
推荐系统被广泛用于帮助用户找到他们正在寻找的信息,从而解决信息过载的问题。经过几年的研究和工业发现,寻找更好的算法来提高准确性和多样性指标,推荐的解释服务作为一种工具正在获得动力,在大多数情况下,通过黑箱机器学习技术计算的结果提供人类可理解的反馈。事实上,解释可以保证用户对系统的满意度、信任度和忠诚度。在本文中,我们评估如何不同的信息编码在知识图谱被认为是由用户时,他们被采用,以显示他们的解释。更确切地说,我们比较如何使用分类信息,事实的一个或两者的混合物在建设的解释,影响解释标准的推荐系统。实验结果通过A/B测试平台进行验证,该平台使用基于语义感知自动编码器的推荐引擎来构建用户配置文件,这些配置文件又被用来计算推荐列表并提供解释。
2018-07-17 cs.IR
CURE:Circuit-Aware Unlearning for LLM-based Recommendation
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校);Zhejiang University(浙江大学);The Chinese University of Hong Kong(香港中文大学);National University of Singapore(新加坡国立大学)
本文提出CURE框架,通过分离模型组件并按功能分类,解决LLM推荐系统去学习中的梯度冲突问题,提升去学习效果和模型稳定性。
2026-04-04 cs.AI cs.CL cs.IR
Rethinking Recommendation Paradigms: From Pipelines to Agentic Recommender Systems
University of Chinese Academy(中国科学院大学);Alibaba International Digital Commerce Group(阿里巴巴国际数字商业集团)
本文提出基于代理的推荐系统,通过将关键模块转化为代理,实现动态进化,解决传统多阶段和单模型设计的静态问题。
2026-04-09 cs.IR
Frozen LVLMs for Micro-Video Recommendation: A Systematic Study of Feature Extraction and Fusion
Nanjing University of Science and Technology(南京理工大学);Singapore Management University(新加坡管理大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);GienTech Technology Co., Ltd.(极氪科技有限公司)
本文通过系统研究冻结LVLMs的特征提取与融合策略,提出DFF框架,证明中间隐藏状态优于标题表示,ID嵌入融合优于替换,并在微视频推荐中取得最佳性能。
2025-12-26 cs.IR cs.MM
Z-REx: Human-Interpretable GNN Explanations for Real Estate Recommendations
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文提出Z-REx框架,通过结构和属性扰动结合领域知识,为异构链路预测任务生成人类可解释的GNN解释,在真实房地产数据集上Fidelity指标优于SOTA方法61%。
2025-06-30 cs.IR cs.LG cs.SI
Optimizing Audio Recommendations for the Long-Term: A Reinforcement Learning Perspective
Spotify(Spotify( Spotify 公司));Columbia University(哥伦比亚大学)
本文提出一种工业级播客推荐系统,基于强化学习框架优化数亿用户的长期收听体验,通过定制价值函数与用户状态表示,在A/B测试中显著提升长期性能,且大幅降低数据需求。
2024-07-27 cs.AI cs.IR cs.LG
Unleashing the Potential of Multi-Channel Fusion in Retrieval for Personalized Recommendations
本文首次系统研究推荐系统检索阶段的多通道融合问题,提出基于交叉熵、贝叶斯优化和策略梯度的权重优化方法,实现个性化和灵活的多通道结果合并,在多个数据集和实际部署中显著提升性能。
2024-10-21 cs.IR
RecRec: Algorithmic Recourse for Recommender Systems
University of Washington(华盛顿大学);Pinterest, Inc.(品趣志公司);University of Maryland(马里兰大学)
本文提出RecRec,一个面向内容提供商的推荐系统算法补救框架,通过生成有效、稀疏且可操作的行动来修改项目排名,并在三个真实数据集上验证其有效性。
2023-08-28 cs.AI cs.IR cs.LG
A Network-centric Framework for Auditing Recommendation Systems
为了改善消费者的体验,所有社交媒体、商业和娱乐网站都部署了推荐系统(RS),旨在帮助用户找到感兴趣的内容。这些RS是黑盒子--从一个大的信息库中过滤出一大块信息并提供给用户的方式大多是不透明的。除了母公司之外,没有人可以访问审计这些系统所需的全部信息-算法的细节和用户与项目的交互都不会公开给第三方审计员。因此,审计RS仍然是一个重要的挑战,特别是最近人们担心RS如何影响整个社会的观点,新的技术术语,如“回声室”,“确认偏差”,“过滤气泡”等。许多先前的作品已经评估了不同的属性的RS,如多样性,新颖性等,然而,这些都集中在评估静态快照的RS。今天,审计人员不仅对系统快照的静态评估感兴趣,而且对这些系统如何随着时间的推移影响社会感兴趣。在这项工作中,我们提出了一种新的网络为中心的框架,它不仅能够量化各种静态属性的RS,但也能够量化动态属性,如RS是如何可能导致极化或隔离的信息之间的用户。我们将该框架应用于几部流行的电影RS,以证明其实用性。
2019-02-11 cs.IR cs.SI
Robust Explainable Recommendation
本文针对可解释推荐系统在噪声和攻击下解释能力退化的问题,提出一个通用防御框架,并在多个数据集上验证其能提升全局可解释性的鲁棒性与泛化性。
2025-03-07 cs.IR cs.LG
Adversarial Attacks and Detection on Reinforcement Learning-Based Interactive Recommender Systems
University of New South Wales(新南威尔士大学);University of Technology Sydney(悉尼科技大学);University of Adelaide(阿德莱德大学)
对抗攻击对在早期阶段检测对抗攻击提出了重大挑战。我们提出了基于强化学习的交互式推荐系统的攻击不可知检测。我们首先制作对抗性示例以显示其不同的分布,然后通过基于精心制作的数据的基于深度学习的分类器检测潜在的攻击来增强推荐系统。最后,我们研究了对抗性示例的攻击强度和频率,并使用多种制作方法在标准数据集上评估我们的模型。实验结果表明,大多数对抗攻击都是有效的,攻击强度和攻击频率对攻击性能都有影响。策略定时攻击仅需1/3 ~ 1/2的攻击频率就能达到相当的攻击性能。此外,我们的黑盒检测器训练与一个手工方法具有推广能力超过几个手工方法。
2020-06-14 cs.CR cs.IR cs.LG
Adversarial Robustness of Deep Reinforcement Learning based Dynamic Recommender Systems
University of New South Wales(新南威尔士大学);University of Technology Sydney(悉尼科技大学);Macquarie University(麦考瑞大学)
对抗攻击,例如,输入和对抗样本的对抗性扰动对包括交互式推荐系统在内的机器学习和深度学习技术提出了重大挑战。这些技术的潜在嵌入空间使得对抗攻击难以在早期阶段检测到。因果关系研究的最新进展表明,反事实也可以被认为是生成来自不同分布的对抗样本作为训练样本的方法之一。我们建议在基于强化学习的交互式推荐系统上探索对抗性示例和攻击不可知检测。我们首先通过向输入中添加扰动并干预偶然因素来制作不同类型的对抗性示例。然后,我们通过基于精心制作的数据的基于深度学习的分类器检测潜在的攻击来增强推荐系统。最后,我们研究了对抗性示例的攻击强度和频率,并使用多种制作方法在标准数据集上评估我们的模型。实验结果表明,大多数对抗攻击都是有效的,攻击强度和攻击频率对攻击性能都有影响。策略定时攻击仅需1/3 ~ 1/2的攻击频率就能达到相当的攻击性能。此外,我们的黑盒检测器训练与一个手工方法具有泛化能力超过其他几个手工方法。
2021-12-02 cs.IR cs.LG
A Unified Causal Framework for Auditing Recommender Systems for Ethical Concerns
Carnegie Mellon University(卡内基梅隆大学);Amazon AWS AI/ML(亚马逊AWS人工智能/机器学习部门);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出一个统一因果框架用于审计推荐系统伦理问题,定义了两类新指标(未来/过去可达性和稳定性)以衡量用户能动性,并提供梯度与黑盒计算方法,实验验证了其有效性。
2024-09-20 cs.IR cs.LG
Exploring the Individuality and Collectivity of Intents behind Interactions for Graph Collaborative Filtering
针对现有意图建模方法捕捉粗粒度意图、受隐式反馈稀疏性限制的问题,提出融合个体与集体意图的BIGCF图协同过滤框架,结合高斯图生成、双边意图引导重采样及图对比正则化,在三个真实数据集上取得更优推荐效果。
2024-05-15 cs.IR
Answering Compositional Queries with Set-Theoretic Embeddings
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Google(谷歌);Google Research(谷歌研究院)
针对向量嵌入难以准确表示属性集合组合的问题,本文提出可学习的 box embeddings,并构建组合查询基准,证明其在中大型检索集上显著优于向量嵌入。
2023-06-07 cs.IR cs.LG
I know why you like this movie: Interpretable Efficient Multimodal Recommender
Synerise(Synerise公司);Warsaw University of Technology(华沙理工大学)
最近,有效流形密度估计(EMDE)模型已经被引入。该模型利用局部敏感哈希和计数最小草图算法,将它们与神经网络相结合,以在多个推荐数据集上实现最先进的结果。然而,该模型为每个用户/会话摄取所有输入项的压缩联合表示,因此通过基于梯度的方法计算单独项的属性似乎不适用。我们证明,解释这个模型在白盒设置是可能的,由于EMDE项目检索方法的属性。通过利用该模型的多模态灵活性,我们获得了有意义的结果,显示了多模态的影响:文本,分类特征,和图像,对电影推荐输出。
2020-06-09 cs.IR cs.LG