Counterfactually Evaluating Explanations in Recommender Systems
ByteDance（字节跳动）
现代推荐系统面临着越来越多的需要解释他们的建议。尽管在这一领域取得了相当大的进展，但评估解释的质量仍然是研究人员和从业人员面临的重大挑战。以往的研究主要是通过人工研究来评价解释的质量，这通常是昂贵的，耗时的，并且容易受到人为的偏见。在本文中，我们提出了一种离线评估方法，可以计算没有人的参与。为了评估一个解释，我们的方法量化了它对推荐的反事实影响。为了验证我们的方法的有效性，我们进行了在线用户研究。我们表明，与传统的方法相比，我们的方法可以产生更相关的评价分数与真实的人类的判断，因此可以作为一个更好的代理人的评价。此外，我们表明，具有高评价分数的解释被人类认为是更好的。我们的研究结果强调了使用反事实方法作为评估推荐解释的一种可能方式的有希望的方向。
2022-11-17 cs.AI
Towards Generating Robust, Fair, and Emotion-Aware Explanations for Recommender Systems
University of Washington（华盛顿大学）；Rutgers University（罗格斯大学）
随着推荐系统变得越来越复杂，它们往往缺乏公平性和透明度。为推荐提供可靠和公正的解释已经引起了越来越多的关注，因为它可以帮助解决这些问题，提高推荐系统的可信度和信息量。然而，尽管这样的解释是为对具有适当情绪的消息做出更强烈响应的人生成的，但是在生成对推荐的解释时缺乏对情绪的考虑。目前的解释生成模型被发现夸大了某些情绪，而没有准确地捕捉潜在的语气或含义。在本文中，我们提出了一种新的方法的基础上，多头Transformer，称为解释性推荐（解释器），以产生更强大的，公平的，和情感增强的解释，具有解释意识的Transformer。为了衡量生成的解释的语言质量和情感公平性，我们采用自动文本度量和人类感知进行评估。在三个广泛使用的基准数据集上进行的实验表明，在文本质量、可解释性和对情感分布的公平性的考虑方面，CRAMTER始终优于现有的最先进的解释生成模型。将作为支持进一步研究的开放源码工具包发布该工具包的执行情况。
2022-08-17 cs.AI
Towards LLM-Enhanced Group Recommender Systems
Graz University of Technology（格拉茨技术大学）
本文探讨 LLM 如何支持群体动态理解、群体决策、成员适配及多层解释，以提升群体推荐系统的决策支持质量与适用性。
2025-07-25 cs.AI cs.IR
Recent Developments in Recommender Systems: A Survey
本文综述了推荐系统的最新进展，涵盖主要分类、基于知识的方法、鲁棒性与公平性问题及评价指标，并展望了未来研究方向。
2023-06-22 cs.AI cs.IR cs.LG
Justification vs. Transparency: Why and How Visual Explanations in a Scientific Literature Recommender System
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本文在科学文献推荐系统RIMA中，基于HCD方法和What-Why-How框架设计并实现“为什么”与“如何”两类视觉解释，通过用户研究证实解释可理解性类型的选择取决于解释目标与用户类型。
2023-05-26 cs.AI cs.HC cs.IR
RecXplainer: Amortized Attribute-based Personalized Explanations for Recommender Systems
Amazon（亚马逊）
针对推荐系统缺乏个性化解释的问题，提出RecXplainer方法，基于用户对物品属性的偏好生成细粒度解释，在五个数据集和五种推荐系统上验证，优于五个基线，在十个指标上表现卓越。
2023-08-29 cs.AI cs.CY cs.IR
Beyond Persuasion: Towards Conversational Recommender System with Credible Explanations
Sichuan University（四川大学）；Singapore Management University（新加坡管理大学）；National University of Singapore（新加坡国立大学）
针对现有对话推荐系统解释易含不可信信息、损害用户长期信任的问题，提出PC-CRS方法，通过可信度感知说服策略和事后自反思生成兼具说服力与可信度的解释，验证了其有效性及可信解释对推荐准确率的提升潜力。
2024-10-07 cs.AI cs.CL
A Survey on Recommendation Unlearning: Fundamentals, Taxonomy, Evaluation, and Open Questions
School of Communication Engineering, Hangzhou Dianzi University（杭州电子科技大学通信工程学院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Hong Kong Polytechnic University, Academy for AI（香港理工大学人工智能学院）
本文综述了推荐去学习的基本原理、分类、评估方法及开放问题，旨在推动更高效、可扩展的去学习技术发展。
2025-12-03 cs.AI cs.IR
Is More Always Better? The Effects of Personal Characteristics and Level of Detail on the Perception of Explanations in a Recommender System
University of Duisburg-Essen（杜伊斯堡-埃森大学）；National University of Sciences and Technology（国立科技大学）
本文旨在将可解释推荐从一刀切模式转变为个性化方法，开发了提供按需个性化解释的RIMA应用，并通过N=31的用户研究探讨了个人特征与解释细节程度对推荐系统解释感知的影响，提出了针对用户情境的界面设计指南。
2023-04-03 cs.AI cs.HC cs.IR
HELM: A Human-Centered Evaluation Framework for LLM-Powered Recommender Systems
HELM框架通过五个以人为本的维度评估LLM推荐系统，揭示传统指标无法捕捉的关键质量维度，并展示GPT-4在解释质量与交互自然性上的优势及流行度偏差。
2026-01-27 cs.AI cs.IR
Faithfully Explaining Rankings in a News Recommender System
University of Amsterdam（阿姆斯特丹大学）；Blendle Research（Blendle研究院）
人们越来越需要算法来解释其结果。到目前为止，还没有一种方法可以解释排名算法产生的排名。为了解决这个差距，我们提出LISTEN，一个列表解释器，解释排名算法产生的排名。为了在生产中有效地使用LISTEN，我们训练一个神经网络来学习LISTEN创建的底层解释空间;我们称这个模型为Q-LISTEN。我们表明，LISTEN产生忠实的解释，Q-LISTEN能够学习这些解释。此外，我们表明，LISTEN是安全的，在现实世界的环境中使用：新闻推荐系统的用户不会表现出显着不同，当他们接触到LISTEN生成的解释，而不是手动生成的解释。
2018-05-14 cs.AI
Visual or Textual: Effects of Explanation Format and Personal Characteristics on the Perception of Explanations in an Educational Recommender System
University of Duisburg-Essen（杜伊斯堡-埃森大学）；RWTH Aachen University（亚琛工业大学）
研究探讨了解释格式（视觉 vs. 文本）和用户个性特征如何共同影响教育推荐系统中感知控制、透明度、信任和满意度，提出了一套有效设计解释的指南。
2026-03-26 cs.AI cs.CY cs.HC
PRINCE: Provider-side Interpretability with Counterfactual Explanations in Recommender Systems
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Inria（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）
推荐系统和其他机器学习模型的可解释性解释对于获得用户信任至关重要。专注于连接异构网络中的用户和项目的路径的先前工作具有若干限制，诸如发现关系而不是真实的解释，或者忽视其他用户的隐私。在这项工作中，我们采取了一个新的视角，并提出PRINCE：一个提供方机制，为最终用户提供切实的解释，其中解释被定义为用户执行的一组最小操作，如果删除，则将建议更改为不同的项目。给定一个推荐，PRINCE使用多项式时间最优算法从指数搜索空间中找到用户行为的最小集合，该算法基于动态图上的随机游走。在两个真实世界数据集上的实验表明，PRINCE提供了比直观基线更紧凑的解释，来自众包用户研究的见解证明了这种基于行动的解释的可行性。因此，我们认为PRINCE产生可理解的，可操作的，简洁的解释，由于其使用反事实证据，用户自己的行动，和最小集，分别。
2019-12-24 cs.AI cs.LG stat.ML
Fast Multi-Step Critiquing for VAE-based Recommender Systems
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
最近的研究表明，在推荐的同时提供个性化的解释可以增加信任和感知质量。此外，它为用户提供了一个机会，通过批评部分解释来完善建议。一方面，目前的推荐系统模型的推荐，解释和批评的目标联合，但这造成了一个固有的权衡各自的性能。另一方面，虽然最近潜在的线性批评方法是建立在现有的推荐系统，他们遭受计算效率低下的推理，由于在每个会话的回合优化的目标。我们解决这些缺陷与M&Ms-VAE，一种新的变分自编码器的建议和解释，是基于多模态建模假设。我们训练模型下的弱监督计划，以模拟完全和部分观察到的变量。然后，我们利用训练的M&Ms-VAE模型的泛化能力，分别嵌入用户偏好和评论。我们的工作最重要的创新是我们的批评模块，它是建立在一个简单的排名目标的自我监督的方式和训练。在四个真实世界数据集上的实验表明，在最先进的模型中，我们的系统是第一个在推荐，解释和多步批评方面占据主导地位或匹配性能的系统。此外，M&Ms-VAE处理评论的速度比最佳基线快25.6倍。最后，我们表明，我们的模型推断连贯的联合和交叉生成，即使在弱监督下，由于我们的多模态为基础的建模和训练方案。
2021-07-07 cs.AI cs.IR cs.LG
Interactive Explanation with Varying Level of Details in an Explainable Scientific Literature Recommender System
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本文针对可解释推荐系统中解释静态且一刀切的问题，提出一种以用户为中心的交互式解释模型，在RIMA系统中实现基础、中级和高级三个细节层级的解释。定性用户研究（N=14）表明，赋予用户控制权能满足不同需求，有效提升系统的透明度、信任、满意度和用户体验。
2023-10-18 cs.AI cs.CY cs.HC
A Co-design Study for Multi-Stakeholder Job Recommender System Explanations
Maastricht University（马斯特里赫特大学）
针对职位推荐系统中不同利益相关者的解释偏好，通过半结构化访谈和扎根理论分析发现候选人、招聘人员与招聘经理的偏好差异，并提出了满足多方需求的解释界面设计指南及验证过的访谈指南。
2023-09-11 cs.AI cs.HC
From latent factors to language: a user study on LLM-generated explanations for an inherently interpretable matrix-based recommender system
Department of Technological Innovation Management, Faculty of Engineering, University of Mons (UMONS), Mons, Belgium（蒙斯大学工程学院技术创新管理系）；Department of Mathematics and Operational Research, Faculty of Engineering, University of Mons (UMONS), Mons, Belgium（蒙斯大学工程学院数学与运筹学系）；Department of Mathematics（数学系）；Operational Research, Faculty of Engineering, University of Mons (UMONS), Mons, Belgium（运筹学系）
本研究针对约束矩阵分解的可解释推荐模型，通过精心设计的提示让LLM生成自然语言解释，以326名参与者的用户研究评估多维度效果，发现各解释类型均受好评且存在中等统计差异。
2025-10-01 cs.AI cs.HC cs.IR
Why should I not follow you? Reasons For and Reasons Against in Responsible Recommender Systems
Universidade de São Paulo（圣保罗大学）
一些推荐系统（RS）诉诸解释，以提高信任的建议。然而，目前的解释生成技术倾向于强烈支持推荐的产品，而不是提出支持和反对它们的理由。我们认为，一个RS可以更好地提高整体的信任和透明度，坦率地显示这两种原因给users.We开发了这样一个RS利用知识图谱和应用Snedegar的实践推理理论。我们表明，我们实现的RS具有出色的性能，我们报告的实验与人类受试者，显示的价值，提出支持和反对的理由，在信任，参与和说服力的显着改善。
2020-09-08 cs.AI cs.IR cs.SI
Fairness and Transparency in Recommendation: The Users' Perspective
University of Colorado Boulder（科罗拉多大学博尔德分校）
虽然推荐系统是由个性化定义的，但最近的工作表明了额外的，超越准确性目标的重要性，例如公平性。由于用户通常希望他们的推荐是纯粹个性化的，这些新的算法目标必须在公平意识推荐系统中透明地传达。虽然解释在推荐系统研究中有很长的历史，但很少有工作试图解释使用公平目标的系统。尽管人工智能其他分支以前的工作已经探索了使用解释作为提高公平性的工具，但这项工作并没有集中在推荐上。在这里，我们认为公平意识推荐系统和技术，以提高其透明度的用户的观点。我们描述了一个探索性的访谈研究，调查用户的公平感，推荐系统，公平意识的目标的结果。我们提出了三个功能-通知我们的参与者的需求-可以提高用户的理解和信任的公平意识的推荐系统。
2021-03-16 cs.AI cs.HC cs.IR
Evaluating graph-based explanations for AI-based recommender systems
Télécom Paris, Institut Polytechnique de Paris（巴黎理工学院电信学院）；LTCI（通信与信息处理实验室）
本研究通过混合方法评估基于图的解释在AI推荐系统中的效果，发现其可用性优于特征重要性设计，但客观理解低于文本解释，且用户偏好与实际评分存在反差，凸显了设计混合解释的挑战。
2024-07-17 cs.AI cs.HC
Trust and Transparency in Recommender Systems
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本文梳理推荐系统中信任的不同理解与测量方式，分析信任与透明度及心智模型的关系，并探讨解释、探索和探索性解释等透明度实现策略，指出需进一步研究这些概念及其相互关系。
2023-04-17 cs.AI cs.HC cs.IR
Providing Explanations for Recommendations in Reciprocal Environments
Bar-Ilan University（巴伊兰大学）；Weizmann Institute of Science（魏茨曼科学研究所）
支持用户找到互利匹配的自动化平台，如在线约会和招聘网站，正变得越来越受欢迎。这些平台通常包括帮助用户找到合适匹配的推荐系统。虽然为他们的推荐提供解释的推荐系统已经显示出许多好处，但解释方法还有待于在推荐合适的匹配中进行调整和测试。在本文中，我们介绍并广泛评估使用“互惠解释”-解释提供推理，为什么双方都有望从比赛中受益。通过广泛的实证评估，在有287名人类参与者的模拟和现实世界约会平台中，我们发现，当接受推荐涉及重大成本时（例如，货币或情感），互惠解释优于仅考虑推荐接收者的标准解释方法。然而，与人们的预期相反，当接受一项建议的成本可以忽略不计时，相互解释的效果不如传统的解释方法。
2018-07-03 cs.AI cs.HC cs.IR
Review of Explainable Graph-Based Recommender Systems
University of Reading（雷丁大学）；Newcastle University（纽卡斯尔大学）
该综述聚焦基于图的可解释推荐系统，梳理前沿方法并从学习、解释方法及解释类型三方面分类，同时介绍常用数据集、评估方法与未来方向，为开发新型相关系统提供参考。
2025-10-21 cs.AI cs.IR cs.LG
Deep Dynamic Neural Network to trade-off between Accuracy and Diversity in a News Recommender System
Ryerson University（瑞尔森大学）
新闻推荐系统的特点是一些独特的挑战，具体到新闻领域。这些挑战来自于读者对动态生成的新闻项目的快速变化的兴趣，这些新闻项目随时间不断变化。新闻阅读也是由读者的长期和短期利益驱动的。此外，新闻推荐系统需要多样性，不仅要让读者参与阅读过程，还要让他们接触到不同的观点和意见。在本文中，我们提出了一个深度神经网络，它将信息丰富的新闻和读者的兴趣共同学习到一个统一的框架中。我们从新闻的标题、摘要（正文）和分类（类别、子类别）中学习新闻的表征（特征）。我们从读者的点击历史中了解读者的长期兴趣，通过LSTMS从最近的点击中了解读者的短期兴趣，通过注意力机制了解读者的多样化兴趣。我们还对我们的模型应用了不同程度的注意力。我们在两个新闻数据集上进行了广泛的实验，以证明我们的方法的有效性。
2021-03-17 cs.AI cs.IR cs.LG
A Survey of Latent Factor Models in Recommender Systems
King Saud University（沙特国王大学）
本文系统综述了推荐系统中的隐因子模型，从学习数据、模型架构、学习策略和优化技术四个维度梳理核心方法与最新进展，并指出未来研究方向。
2024-05-28 cs.AI cs.IR cs.LG
Improving Explainable Recommendations with Synthetic Reviews
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学学院）；Aalborg University（奥尔堡大学）
推荐系统的一项重要任务是为用户提供可解释的解释。这对系统的可信度很重要。当前的可解释推荐系统倾向于关注对用户来说重要的某些特征，并以结构化的形式提供它们的解释。众所周知，用户生成的评论和来自评论者的反馈对用户的决策有很强的影响力。另一方面，最近的文本生成工作已被证明可以生成与人类书面文本质量相似的文本，我们的目标是表明生成的文本可以成功地用于解释建议。在本文中，我们提出了一个框架，包括流行的审查为导向的生成模型，旨在创建个性化的解释建议。这些解释是在字和词两个层面上产生的。我们构建了一个数据集，其中包含来自亚马逊书评数据集的评论者反馈。我们的跨领域实验旨在从自然语言处理到推荐系统领域的桥梁。除了语言模型评估方法，我们采用DeepCoNN，一种新的面向评论的推荐系统，使用深度神经网络，通过均方根误差（RMSE）来评估生成的评论的推荐性能。我们证明了合成个性化评论比人类书面评论具有更好的推荐性能。据我们所知，这是第一个机器生成的自然语言解释评级预测。
2018-07-18 cs.AI cs.CL cs.IR
Learning Post-Hoc Causal Explanations for Recommendation
Rutgers University（罗格斯大学）；Renmin University of China（中国人民大学）
最先进的推荐系统具有生成高质量推荐的能力，但由于使用黑盒预测模型，通常不能向人类提供直观的解释。缺乏透明度突出了提高推荐系统的可解释性的至关重要性。在本文中，我们建议从用户交互历史中提取因果规则作为黑盒顺序推荐机制的事后解释，同时保持推荐模型的预测准确性。我们的方法首先获得反事实的例子与援助的扰动模型，然后提取个性化的因果关系的推荐模型，通过因果规则挖掘算法。在几个最先进的顺序推荐模型和真实数据集上进行了实验，以验证我们的模型在生成因果解释方面的性能。同时，我们从质量和可信度两个方面对所发现的因果解释进行了评价，结果表明，与传统的关联规则相比，因果规则能够为黑盒推荐模型的行为提供个性化的、更有效的解释。
2021-02-23 cs.AI cs.IR cs.LG
Toward Holistic Evaluation of Recommender Systems Powered by Generative Models
Polytechnic University of Bari（巴里理工大学）；Duke University（杜克大学）；Bespoke Labs（Bespoke实验室）；ETH Zurich（苏黎世联邦理工学院）；Autónoma University of Madrid（马德里自治大学）；University of California, San Diego（加州大学圣地亚哥分校）
本文针对生成式推荐系统（Gen-RecSys）超越传统排序带来的新风险，将评估挑战分为加剧的现有问题和全新风险两类，并提出包含场景评估与多指标检查的整体评估框架，以指导负责任的部署。
2025-07-10 cs.AI cs.IR
A Survey on Diffusion Models for Recommender Systems
Shanghai Jiao Tong University（上海交通大学）；Texas A&M University（德克萨斯农工大学）；Yale University（耶鲁大学）
本文是首篇推荐系统领域扩散模型的全面综述，按全流程将相关研究分为数据工程、推荐模型、内容呈现三类，总结核心特征与未来方向，并维护了相关资源仓库。
2024-09-15 cs.AI cs.IR
Sustainable techniques to improve Data Quality for training image-based explanatory models for Recommender Systems
Universidade da Coruña（拉科鲁尼亚大学）
针对推荐系统视觉解释模型训练数据质量差的问题，提出三种可持续数据质量增强策略，提升排名指标5%且不损害可持续性。
2025-03-29 cs.AI cs.CV cs.IR
From Intrinsic to Counterfactual: On the Explainability of Contextualized Recommender Systems
University of Illinois Urbana Champaign（伊利诺伊大学香槟分校）；Instacart
随着基于深度学习的嵌入方法的流行，推荐系统已经成为各种信息过滤应用中被证明的和不可或缺的工具。然而，他们中的许多人仍然很难诊断深层模型输入的哪些方面驱动最终的排名决定，因此，他们通常不能被人类利益相关者理解。在本文中，我们研究了推荐和可解释性之间的困境，并表明通过利用上下文特征（例如，用户的项目评论），我们可以设计一系列可解释的推荐系统，而不会牺牲它们的性能。特别是，我们提出了三种类型的可解释的推荐策略模型的透明度逐渐变化：白盒，灰盒和黑盒。每种策略都通过不同的机制来解释其排名决策：注意力权重，对抗性扰动和反事实扰动。我们将这些可解释的模型应用于五个真实世界的数据集的上下文环境下，用户和项目有明确的互动。实证结果表明，我们的模型实现了极具竞争力的排名性能，并在众多的定量指标和定性可视化方面产生了准确有效的解释。
2021-10-28 cs.AI cs.IR
Consumer-side Fairness in Recommender Systems: A Systematic Survey of Methods and Evaluation
Norwegian University of Science and Technology（挪威科技大学）
本文系统综述了推荐系统中消费者侧公平性的研究，提出基于高层次公平性解释的新型分类法，对现有方法和评估指标进行分类，并展望未来研究方向。
2023-05-16 cs.AI cs.CY cs.IR
Fidelity-Aware Recommendation Explanations via Stochastic Path Integration
SPINRec通过概率路径积分技术提升推荐系统解释的保真度，通过随机基线采样实现更稳定和个性化的解释，建立了新的可解释性基准。
2025-11-22 cs.AI cs.IR cs.LG
OKRA: an Explainable, Heterogeneous, Multi-Stakeholder Job Recommender System
Maastricht University（马斯特里赫特大学）
本文提出基于图神经网络的可解释多利益相关方职位推荐系统OKRA，在准确率、可解释性与公平性之间取得平衡，并在两个数据集上显著优于六个基线模型。
2025-03-17 cs.AI cs.HC cs.IR
Interactive Counterfactual Exploration of Algorithmic Harms in Recommender Systems
University of Pittsburgh（匹兹堡大学）；Quest Diagnostics（奎斯特诊断公司）
针对推荐系统存在算法偏差引发不公平体验的问题，本研究开发了结合可视化、反事实解释与交互模块的探索工具，经用户访谈验证可提升算法透明度，助力理解偏差并推动更公平的推荐。
2024-09-10 cs.AI cs.HC cs.IR
A survey on the impacts of recommender systems on users, items, and human-AI ecosystems
University of Pisa（比萨大学）
本文综述了推荐系统对用户、物品及人机生态系统的影响，系统梳理了不同领域中的方法、结果及分析层次，为未来研究提供方向。
2025-12-10 cs.AI cs.CY cs.HC
Explained, yet misunderstood: How AI Literacy shapes HR Managers' interpretation of User Interfaces in Recruiting Recommender Systems
HTW Berlin University of Applied Sciences（柏林应用科学大学）
通过410名德国HR经理的在线实验，研究发现XAI界面能否改善招聘推荐系统理解取决于AI素养，需定制解释与培训。
2025-09-08 cs.AI cs.CY cs.HC
Augment or Not? A Comparative Study of Pure and Augmented Large Language Model Recommenders
National Taiwan University（台湾大学）
本研究提出将LLM推荐系统分为纯LLM与增强LLM两类的系统分类法，并构建统一评估平台进行基准测试，为下一代LLM推荐器的研究与实践提供指导。
2025-05-29 cs.AI cs.IR
Automated Explanation Selection for Scientific Discovery
Karlsruhe Institute of Technology, Germany（卡尔斯鲁厄理工学院，德国）
本文提出结合机器学习和自动推理的科学发现循环，通过社会学和认知科学的洞察，构建解释选择的分类体系，扩展并完善现有解释方法。
2026-03-19 cs.AI
Creating Healthy Friction: Determining Stakeholder Requirements of Job Recommendation Explanations
Maastricht University（马斯特里赫特大学）
本研究通过混合方法用户研究评估了可解释职位推荐系统，发现真实解释未显著提升决策速度和准确性，但利益相关者更倾向于将其视为提供健康摩擦的决策支持工具。
2024-09-24 cs.AI cs.HC
A Survey of Deep Reinforcement Learning in Recommender Systems: A Systematic Review and Future Directions
University of New South Wales（新南威尔士大学）；University of California, San Diego（加利福尼亚大学圣迭戈分校）；University of Technology Sydney（悉尼科技大学）
鉴于深度强化学习（DRL）在推荐系统研究中的出现以及近年来取得的一些丰硕成果，本文旨在对深度强化学习在推荐系统中的最新发展趋势进行及时而全面的综述。我们首先介绍了在推荐系统中应用DRL的动机。然后，我们提供了一个分类目前基于DRL推荐系统和现有的方法的总结。我们讨论新出现的主题和开放的问题，并提供我们对推进该领域的观点。本调查作为学术界和工业界读者对这一主题的介绍材料，并确定了进一步研究的重要机会。
2021-09-09 cs.AI cs.IR
CLEAR: Causal Explanations from Attention in Neural Recommenders
Intel Labs（英特尔实验室）
我们提出了CLEAR，一种学习特定会话的因果图的方法，在可能存在的潜在混杂因素，从预先训练的基于注意力的决策者的注意力。这些因果图描述了用户行为，在注意力捕获的背景下，可以为推荐提供反事实的解释。从本质上讲，这些因果图允许回答任何特定会话的“为什么”问题。使用实证评估，我们表明，相比天真地使用注意力权重来解释输入-输出关系，CLEAR发现的反事实解释更短，替代建议在原始的前k建议中排名更高。
2022-10-07 cs.AI cs.IR cs.LG
ELIXIR: Learning from User Feedback on Explanations to Improve Recommender Models
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；IIT Bhilai（印度理工学院比莱校区）
系统提供的建议解释是实现透明和可信赖的AI的重要组成部分。然而，在最先进的研究中，这是一个单向信号，以提高用户的接受度。在本文中，我们把解释的作用，并调查他们如何有助于提高质量的建议本身。我们设计了一个人在环框架，称为ELIXIR，用户反馈的解释是利用成对学习的用户偏好。ELIXIR利用对推荐和解释的反馈来学习用户特定的潜在偏好向量，通过基于项目相似性的邻域的标签传播来克服稀疏性。我们的框架实例化使用广义图推荐通过随机游走与重启。一个真实的用户研究的有见地的实验表明，在项目级反馈的电影和书籍推荐显着改善。
2021-04-30 cs.AI cs.IR cs.LG
Towards the Linear Algebra Based Taxonomy of XAI Explanations
本文提出了一种替代方法的基本分类的解释所产生的可解释的人工智能技术。可解释人工智能（XAI）的方法被开发出来，以回答为什么做出某种预测或估计的问题，最好是用人类代理容易理解的术语。文献中提出的XAI分类法主要集中在区分涉及人类代理的解释上，这使得提供更多的数学方法来区分和比较不同的解释变得复杂。本文缩小其注意力的情况下，感兴趣的数据集属于$\mathbb{R} ^n$，并提出了一个简单的线性代数为基础的分类局部解释。
2023-01-30 cs.AI cs.LG
GREASE: Generate Factual and Counterfactual Explanations for GNN-based Recommendations
Stony Brook University（石溪大学）；Sapienza University of Rome（罗马第一大学）；The Xi’an Jiaotong-Liverpool University（西交利物浦大学）；Rutgers University（罗格斯大学）；South China Normal University（华南师范大学）
最近，图神经网络（GNNs）已被广泛用于开发成功的推荐系统。虽然功能强大，但基于GNN的推荐系统很难附加具体的解释，说明为什么特定的项目最终出现在给定用户的建议列表中。事实上，解释基于GNN的建议是独特的，现有的GNN解释方法是不合适的，原因有两个。首先，传统的GNN解释方法是为节点、边或图分类任务而设计的，而不是像推荐系统中那样进行排名。其次，标准的机器学习解释通常旨在支持熟练的决策者。相反，建议是为任何最终用户设计的，因此应以用户可理解的方式提供解释。在这项工作中，我们提出了GREASE，一种新的方法来解释任何黑盒GNN推荐系统提供的建议。具体来说，GREASE首先在目标用户-项目对及其$l$跳邻域上训练代理模型。然后，它产生的事实和反事实的解释，通过寻找最佳的邻接矩阵扰动捕获的充分和必要条件的一个项目被推荐，分别。在真实数据集上进行的实验结果表明，GREASE可以为流行的基于GNN的推荐模型生成简洁有效的解释。
2022-08-04 cs.AI cs.IR cs.LG
Path-based summary explanations for graph recommenders (extended version)
Archimedes/Athena RC（阿基米德/雅典娜研究中心）；University of Ioannina（约阿尼纳大学）
针对现有图推荐路径解释多聚焦个体推荐的局限，提出基于斯坦纳树等高效图算法的摘要解释方法，可生成精简且保信息的集体行为解释，多维度质量优于基线方法。
2024-12-07 cs.AI
A taxonomy of explanations to support Explainability-by-Design
Vrije Universiteit Brussel（布鲁塞尔自由大学）；King’s College London（伦敦国王学院）；University of Sussex（萨塞克斯大学）
本文提出一种包含九个维度的解释分类体系，作为项目PLEAD“可解释性设计”方法的一部分，旨在将解释作为检测控制以辅助自动合规策略，并提供了轻量本体格式和示例。
2024-11-14 cs.AI cs.CY
LLM-Powered Explanations: Unraveling Recommendations Through Subgraph Reasoning
Monash University（莫纳什大学）；Shanghai University of Finance and Economics（上海财经大学）；Bosch Corporate Research（博世企业研究中心）；Bosch(China) Investment Ltd.（博世（中国）投资有限公司）；BSH Home Appliances Holding (China) Co. Ltd（博世和西门子家用电器集团（中国）控股有限公司）；Griffith University（格里菲斯大学）
本文提出将大语言模型与知识图谱协同，通过LLM增强知识图谱重建并引入子图推理模块发现推理路径，从而提升推荐系统的有效性和可解释性，在四个真实数据集上平均性能提升12%，并在跨国公司的交叉销售推荐系统中验证了实用价值。
2024-06-30 cs.AI cs.IR
Towards Feasible Counterfactual Explanations: A Taxonomy Guided Template-based NLG Method
Robert Gordon University（罗伯特·戈登大学）
针对现有反事实解释方法忽略变化可行性的问题，提出分类法引导的基于模板的自然语言生成方法，经用户研究验证在多维度表现更优。
2023-10-03 cs.AI
Positive and Negative Critiquing for VAE-based Recommenders
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
提供对推荐项目的解释允许用户通过批评解释的部分来细化推荐。作为从多模态生成模型的角度重新审视批评的结果，最近的工作提出了M&Ms-VAE，它在推荐，解释和批评方面实现了最先进的性能。M&Ms-VAE和类似模型允许用户进行负面评论（即，明确表示不同意）。然而，它们都有一个显著的缺点：用户不能积极地评论（即，突出显示所需特征）。我们用M&Ms-VAE+来解决这个问题，M&Ms-VAE+是M&Ms-VAE的扩展，可以进行积极和消极的批评。除了对用户的交互和关键词使用偏好进行建模之外，我们还对他们不喜欢的关键词使用进行建模。此外，我们设计了一个新的批评模块，它是在一个自我监督的方式训练。我们在两个数据集上的实验表明，M&Ms-VAE+在推荐和解释性能上与M&Ms-VAE相当或超过M&Ms-VAE。此外，我们的研究结果表明，不同地表示积极和消极的批评，使M&Ms-VAE+显着优于M&Ms-VAE和其他模型在积极和消极的多步批评。
2022-04-05 cs.AI cs.IR cs.LG
A Taxonomy for Design and Evaluation of Prompt-Based Natural Language Explanations
National Research Council Canada（加拿大国家研究理事会）
本文借鉴可解释AI文献，针对基于提示的自然语言解释（NLEs）提出了一种涵盖上下文、生成与呈现及评估三个维度的分类法，为研究人员、审计人员和政策制定者设计、表征和增强透明AI系统的NLEs提供了框架。
2025-07-11 cs.AI cs.CL
One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques
IBM Research（IBM研究院）
随着人工智能和机器学习算法进一步进入社会，多个利益相关者越来越多地要求这些算法解释其输出。与此同时，这些利益相关者，无论是受影响的公民、政府监管机构、领域专家还是系统开发人员，都对解释提出了不同的要求。为了满足这些需求，我们引入了AI Explainability 360（http：//aix360.mybluemix.net/），这是一个开源软件工具包，具有八种不同的最先进的解释方法和两个评估指标。同样重要的是，我们提供了一个分类法，以帮助需要解释的实体导航的解释方法的空间，不仅在工具包中，而且在更广泛的文献解释。对于数据科学家和工具包的其他用户，我们已经实现了一个可扩展的软件架构，该架构根据方法在AI建模管道中的位置来组织方法。我们还讨论了增强功能，以使研究创新更接近解释的消费者，从简化的，更容易访问的算法版本，到教程和交互式Web演示，以向不同的受众和应用领域介绍人工智能的可解释性。总之，我们的工具包和分类法可以帮助识别需要更多可解释性方法的差距，并提供一个平台来整合它们。
2019-09-14 cs.AI cs.CV cs.HC
Rethinking Saliency Maps: A Cognitive Human Aligned Taxonomy and Evaluation Framework for Explanations
本文提出RFxG分类法，通过区分点对点与对比性解释及不同粒度，改进显著性图的评估框架，以更符合人类认知需求。
2025-11-18 cs.AI cs.CV cs.LG
Reinforcement Learning based Recommender System using Biclustering Technique
Seoul National University（首尔大学）；Korea University（高丽大学）
推荐系统的目的是在许多项目中推荐用户感兴趣的项目。随着信息爆炸的发展，人们对推荐系统的需求也越来越大。已经提出了用于向用户提供有意义的推荐的各种方法。建议的方法之一是考虑一个推荐系统的马尔可夫决策过程（MDP）的问题，并尝试解决它使用强化学习（RL）。然而，现有的基于RL的方法有一个明显的缺点。为了解决推荐系统中的MDP，他们遇到了大量离散动作的问题，这些动作将RL带到了更大的一类问题。在本文中，我们提出了一种新的基于RL的推荐系统。我们制定了一个推荐系统作为一个gridworld游戏，通过使用双聚类技术，可以减少状态和动作空间显着。使用双聚类不仅减少了空间，而且提高了推荐质量，有效地处理了冷启动问题。此外，我们的方法可以为用户提供一些解释，为什么系统推荐某些项目。最后，我们在真实世界的数据集上测试了该算法，并取得了比广泛使用的推荐算法更好的性能。
2018-01-17 cs.AI cs.IR
