Explainable Restricted Boltzmann Machines for Collaborative Filtering
University of Louisville（路易斯维尔大学）
大多数精确的推荐系统都是黑盒模型，隐藏了推荐背后的推理。然而，解释已经被证明可以增加用户对系统的信任，除了提供其他好处，如可感知性，这意味着能够验证推荐的有效性。准确性和透明度或可解释性之间的这种差距产生了对自动解释生成方法的兴趣。受限玻尔兹曼机（RBM）是CF的精确模型，也缺乏可解释性。在本文中，我们专注于基于RBM的协同过滤推荐，并进一步假设没有任何额外的数据源，如项目内容或用户属性。因此，我们提出了一个新的可解释的RBM技术，计算的前n个推荐列表的项目是可解释的。实验结果表明，我们的方法是有效的，在生成准确和可解释的建议。
2016-06-22 cs.LG stat.ML
Explainable Recommendation via Interpretable Feature Mapping and Evaluation of Explainability
Wayne State University（韦恩州立大学）
潜因子协同过滤（CF）通过学习用户和项目的语义表达，已成为推荐系统中广泛使用的技术。近年来，可解释推荐引起了研究界的广泛关注。然而，在推荐的可解释性和性能之间存在权衡，其中经常需要元数据来缓解困境。我们提出了一种新的特征映射方法，将不可解释的一般特征映射到可解释的方面特征上，通过同时最小化评级预测损失和解释损失，在推荐中实现令人满意的准确性和可解释性。为了评估的可解释性，我们提出了两个新的评价指标，专门为方面级的解释使用代理地面真理。实验结果表明，在推荐和解释说明，消除了元数据的需要强大的性能。代码可从https://github.com/pd90506/AMCF获得。
2020-07-12 cs.LG stat.ML
Survey for Trust-aware Recommender Systems: A Deep Learning Perspective
University of New South Wales（新南威尔士大学）；University of Technology Sydney（悉尼科技大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织数据61研究所）
现有推荐系统的一个重要挑战是用户可能不信任推荐系统，因为缺乏解释或推荐结果不准确。因此，拥有一个值得信赖的推荐系统变得至关重要。该调查提供了三种类型的信任感知推荐系统的系统总结：利用用户的社会关系的社会感知推荐系统;过滤不真实噪音的鲁棒推荐系统（例如，垃圾邮件发送者和虚假信息）或增强攻击抵抗力;提供推荐项目解释的可解释推荐系统。我们专注于基于深度学习技术的工作，这是推荐研究中的一个新兴领域。
2020-10-06 cs.IR cs.LG
Attribute-aware Explainable Complementary Clothing Recommendation
The University of Queensland（昆士兰大学）
现代电子商务推荐系统对时尚商品之间的混搭关系建模的要求越来越高，但也越来越具有挑战性。在进行服装匹配时，大多数现有的方法利用从时尚物品图像中提取的潜在视觉特征进行兼容性建模，这缺乏对所生成的匹配结果的可解释性，并且难以说服用户推荐。尽管最近的方法开始结合预定义的属性信息（例如，颜色、款式、长度等）对于学习项目表示和改进模型可解释性，它们对属性信息的利用仍然主要保留用于增强所学习的项目表示和经由后处理生成解释。因此，当我们试图提高推荐准确性并生成细粒度的解释时，这会产生严重的瓶颈，因为显式属性与实际推荐过程只有松散的联系。本文提出了一种新颖的属性感知的时尚推荐器（AFRec），旨在解决时尚推荐任务中的可解释性挑战。具体而言，AFRec推荐器通过明确利用从每个项目的视觉特征中提取的属性级表示来评估服装兼容性。属性作为两个时尚物品之间的桥梁，我们通过学习它们属性之间的兼容性来量化一对物品的亲和力。大量的实验表明，通过充分利用推荐过程中的显式属性，AFRec能够实现最先进的推荐准确率，同时生成直观的解释。
2021-07-04 cs.IR cs.LG
A Survey on Knowledge Graph-Based Recommender Systems
Institute of Computing Technology, CAS（中国科学院计算技术研究所）；Hong Kong University of Science and Technology（香港科技大学）；University of Chinese Academy of Sciences（中国科学院大学）；University of Science and Technology of China（中国科学技术大学）；Baidu Talent Intelligence Center, Baidu Inc.（百度人才智能中心（百度公司））；Business Intelligence Lab, Baidu Research（百度研究院商业智能实验室）；Microsoft Research Asia（微软亚洲研究院）
为了解决各种在线应用中的信息爆炸问题并增强用户体验，已经开发了推荐系统来对用户偏好进行建模。尽管人们已经做出了许多努力来实现更个性化的推荐，但推荐系统仍然面临着一些挑战，例如数据稀疏性和冷启动。近年来，利用知识图谱作为辅助信息生成推荐吸引了相当大的兴趣。这种方法不仅可以缓解上述问题，以获得更准确的推荐，而且还可以为推荐项目提供解释。本文对基于知识图谱的推荐系统进行了系统的研究。我们收集了该领域最近发表的论文，并从两个角度进行了总结。一方面，我们研究了所提出的算法，重点是如何利用知识图谱的论文准确和可解释的推荐。另一方面，我们介绍了这些作品中使用的数据集。最后，我们提出了几个潜在的研究方向在这一领域。
2020-02-28 cs.IR cs.LG stat.ML
PARSRec: Explainable Personalized Attention-fused Recurrent Sequential Recommendation Using Session Partial Actions
UC Davis（加州大学戴维斯分校）
新兴的Meta和多元宇宙景观是朝着更普遍地使用已经无处不在的在线市场迈出的又一步。在这样的市场中，推荐系统通过向用户提供感兴趣的项目，从而缩小包括数十万产品的巨大搜索空间而发挥关键作用。推荐系统通常被设计为学习常见的用户行为并依赖它们进行推理。这种方法虽然有效，但却忽视了区分人类的微妙特质。专注于这一观察，我们提出了一个架构，依赖于共同的模式，以及个人的行为，为每个人量身定制的建议。在受控环境下的仿真表明，我们提出的模型学习可解释的个性化用户行为。尼尔森消费者面板数据集上的实证结果表明，所提出的方法实现了高达27.9%的性能提高相比，国家的最先进的。
2022-09-16 cs.AI cs.IR cs.LG
Why Should I Choose You? AutoXAI: A Framework for Selecting and Tuning eXplainable AI Solutions
IRIT（图卢兹计算机科学研究所）；Université Toulouse 2（图卢兹第二大学）；Université Toulouse 1（图卢兹第一大学）；Université Toulouse 3（图卢兹第三大学）；SolutionData Group（SolutionData集团）
近年来，已经提出了大量的XAI（可解释的人工智能）解决方案来解释现有的ML（机器学习）模型或创建可解释的ML模型。最近提出了评估措施，现在可以比较这些XAI解决方案。然而，在所有这些多样性中选择最相关的XAI解决方案仍然是一项繁琐的任务，特别是在满足特定需求和限制时。在本文中，我们提出了AutoXAI，这是一个框架，它根据特定的XAI评估指标推荐最佳XAI解决方案及其超参数，同时考虑用户的上下文（数据集，ML模型，XAI需求和约束）。它采用了上下文感知推荐系统的方法和AutoML（自动机器学习）的优化和评估策略。我们将AutoXAI应用于两个用例，并表明它建议XAI解决方案适应用户的需求，最佳超参数匹配用户的约束条件。
2022-10-10 cs.LG
ProReco: A Process Discovery Recommender System
RWTH Aachen University（亚琛工业大学）
本文提出 ProReco 推荐系统，依据用户偏好与事件日志特征推荐流程发现算法，并通过扩展特征池和 XAI 提升推荐适用性与可解释性。
2025-02-14 cs.IR cs.LG
A Design Space for Explainable Ranking and Ranking Models
University of Zurich（苏黎世大学）；Digital Society Initiative（数字社会倡议）
针对当前排序解释方法匮乏的问题，研究整合推荐系统、可解释AI与可视化领域的解释方法，提出首个跨领域可解释排序设计空间，刻画现有解释器与三类用户群体特征，为后续开发针对性排序解释方案提供支撑。
2022-05-27 cs.IR cs.LG
Course Recommender Systems Need to Consider the Job Market
EPFL（洛桑联邦理工学院）
本文提出课程推荐系统应纳入就业市场技能需求，并介绍了一个结合大语言模型进行技能提取和强化学习进行就业市场对齐的初始系统，通过开源数据验证了其有效性。
2024-05-01 cs.IR cs.LG
Interpretability is not Explainability: New Quantitative XAI Approach with a focus on Recommender Systems in Education
Universita degli Studi di Milano-Bicocca（米兰比可卡大学）
针对XAI领域缺乏公认可解释性量化评估分类体系的问题，本文提出以透明度等五维度为核心的新型XAI分类体系，并结合SHAP工具包在教育推荐系统案例中验证了其量化提升可解释性的效用。
2023-09-18 cs.IR cs.LG
Explainability in Music Recommender Systems
Deezer Research（Deezer研究院）；Johannes Kepler University（约翰内斯·开普勒大学）；Linz Institute of Technology（林茨理工学院）
如今，收听录制音乐的最常见方式是通过流媒体平台，该平台提供数千万首曲目的访问。为了帮助用户有效地浏览这些大型目录，音乐推荐系统（MRS）的集成已经变得至关重要。当前现实世界的MRS通常相当复杂，并且针对推荐准确性进行了优化。它们结合了基于协同过滤和基于内容的推荐的几个构建块。这种复杂性可能会阻碍向最终用户解释推荐的能力，这对于被认为是意外或不合适的推荐尤其重要。虽然纯粹的推荐性能通常与用户满意度相关，但可解释性对其他因素（如信任和宽恕）有积极影响，这些因素最终对保持用户忠诚度至关重要。在这篇文章中，我们将讨论如何在MRS的背景下解决可解释性问题。我们提供的观点如何解释性可以改善音乐推荐算法和增强用户体验。首先，我们回顾了音乐消费者的可解释性和可解释的人工智能（XAI）的共同维度和目标，并详细说明了这些适用于或需要适应音乐消费和推荐的具体特征的程度。然后，我们将展示如何解释组件可以集成在MRS和以何种形式可以提供解释。由于解释质量的评价是从纯粹的准确性为基础的评价标准解耦，我们还讨论了音乐推荐的解释评价的要求和策略。最后，我们描述了目前的挑战，在一个大规模的工业音乐推荐系统中引入可解释性，并提供研究前景。
2022-01-25 cs.LG
Jointly Learning Explainable Rules for Recommendation with Knowledge Graph
Tsinghua University（清华大学）；University of Southern California（南加利福尼亚大学）
可解释性和有效性是构建推荐系统的两个关键方面。以前的努力主要集中在合并边信息，以实现更好的推荐性能。然而，这些方法具有一些弱点：（1）基于神经网络的嵌入方法的预测难以解释和调试;（2）基于符号、图形的方法（例如，基于Meta路径的模型）需要人工努力和领域知识来定义模式和规则，并且忽略项目关联类型（例如，可替换的和互补的）。在本文中，我们提出了一种新的联合学习框架集成\textit{induction of explainable rules from knowledge graph}与\textit{construction of a rule-guided neural recommendation model}。该框架鼓励两个模块相互补充，以产生有效的和可解释的推荐：1）归纳规则，从以项目为中心的知识图谱中挖掘，总结常见的多跳关系模式，用于推断不同的项目关联，并为模型预测提供人类可读的解释; 2）推荐模块可以通过归纳规则进行扩充，从而在处理冷启动问题时具有更好的泛化能力。大量的实验\footnote{Code and data can be found at: \url{https://github.com/THUIR/RuleRec}}表明，我们提出的方法已经取得了显着的改善，在现实世界的数据集上的基线项目推荐。我们的模型在通过将项目名称链接到相关实体而生成的“嘈杂”项目知识…
2019-03-09 cs.AI cs.IR cs.LG
Counterfactual Explainable Recommendation
Rutgers University（罗格斯大学）；Renmin University of China（中国人民大学）
可解释性推荐通过为用户和系统设计者提供解释性信息来帮助他们更好地理解和决策，已经成为一个重要的研究课题。在本文中，我们提出了反事实解释性推荐（CountER），它采取了反事实推理的见解，从因果推理的解释性推荐。CountER能够公式化解释的复杂性和强度，并采用反事实学习框架为模型决策寻求简单（低复杂性）和有效（高强度）的解释。从技术上讲，对于推荐给每个用户的每个项目，CountER制定了一个联合优化问题，以在项目方面产生最小的变化，从而创建一个反事实项目，从而逆转对反事实项目的推荐决策。这些改变的方面构成了为什么推荐原始项目的解释。这种反事实解释既有助于用户更好地理解，也有助于系统设计人员更好地调试模型。另一个贡献的工作是可解释的建议，这一直是一个具有挑战性的任务的评价。幸运的是，反事实解释非常适合标准的定量评估。为了衡量解释质量，我们设计了两种类型的评价指标，一种是从用户的角度（即用户为什么喜欢该项目），另一种是从模型的角度（即模型为什么推荐该项目）。我们将我们的反事实学习算法应用于黑盒推荐系统，并在五个真实世界的数据集上评估生成的解释。结果表明，我们的模型产生更准确和有效的解释比国家的最先进的可解释的推荐模型。
2023-02-17 cs.IR cs.LG
EUGENE: Explainable Structure-aware Graph Edit Distance Estimation with Generalized Edit Costs
针对神经 GED 近似缺乏可解释编辑路径、依赖 NP 困难真值且需逐数据集训练的问题，提出代数结构感知优化方法 EUGENE，可同时估计 GED 并给出编辑路径，取得最先进精度与更强可扩展性。
2025-09-26 cs.LG
Zero-Shot Recommender Systems
AWS AI Labs（亚马逊人工智能实验室）；Rutgers University（罗格斯大学）
推荐系统（RS）的性能在很大程度上依赖于可用的训练数据的量。这给早期产品带来了一个先有鸡还是先有蛋的问题，而早期产品的数据量又依赖于RS的性能。另一方面，零样本学习承诺从旧数据集到全新数据集的某种程度的泛化。在本文中，我们探讨了零样本学习在RS中的可能性。我们开发了一种名为ZEro-Shot Recommenders（ZESRec）的算法，该算法在旧数据集上进行训练，并推广到一个新的数据集，其中既没有重叠的用户，也没有重叠的项目，这是一种对比典型的跨域RS的设置。与分类项目指数不同，即，item ID，在以前的方法中，ZESRec使用项目的自然语言描述（或描述嵌入）作为其连续索引，因此自然地推广到任何未见过的项目。在用户方面，ZESRec建立在序列RS的最新进展基础上，利用用户与项目的交互来表示用户，从而也推广到看不见的用户。我们研究了三对真实世界的RS数据集，并证明ZESRec可以成功地在这种zero-shot设置中实现推荐，为解决数据稀缺的初创公司或早期产品的鸡和蛋问题开辟了新的机会。
2021-10-12 cs.AI cs.IR cs.LG
Explainable Recommendations via Attentive Multi-Persona Collaborative Filtering
Ariel University（阿里尔大学）；Tel Aviv University（特拉维夫大学）；Bar-Ilan University（巴伊兰大学）
在推荐系统中，两个主要的挑战是对具有不同品味的用户进行建模，并提供可解释的推荐。在本文中，我们提出了一个统一的解决方案，这两个问题的神经注意力多角色协作过滤（AMP-CF）模型。AMP-CF将用户分解为几个潜在的“人物角色”（配置文件），以识别和辨别用户的不同品味和倾向。然后，揭示的人物角色用于为用户生成和解释最终的推荐列表。AMP-CF将用户建模为一个有注意力的人物角色混合体，支持基于所考虑的项目而变化的动态用户表示。我们展示了AMP-CF上的五个协同过滤数据集的域的电影，音乐，视频游戏和社交网络。作为一个额外的贡献，我们提出了一种新的评价方案，用于比较不同的项目在推荐列表中的基础上的距离从底层分布的“口味”在用户的历史项目。实验结果表明，AMP-CF是竞争力与其他国家的最先进的模型。最后，我们提供了定性的结果来展示AMP-CF解释其建议的能力。
2020-09-26 cs.AI cs.IR cs.LG
Large Language Models are Competitive Near Cold-start Recommenders for Language- and Item-based Preferences
University of Toronto（多伦多大学）；Google（谷歌）
本研究探索LLM在近冷启动场景下利用语言偏好进行推荐，实验证明其性能可与基于物品的协同过滤方法相媲美，且语言偏好表示更具可解释性。
2023-07-26 cs.IR cs.LG
HADSF: Aspect Aware Semantic Control for Explainable Recommendation
National University of Singapore（新加坡国立大学）；Nanjing University of Posts and Telecommunications（南京邮电大学）
提出HADSF两阶段语义框架，通过自适应方面词汇表引导结构化提取，引入ADR和OFR指标评估幻觉，有效降低评分预测误差并提升小模型性能。
2025-11-03 cs.LG
Lusifer: LLM-based User SImulated Feedback Environment for online Recommender systems
University of Windsor（温莎大学）
提出Lusifer，一个基于LLM的模拟环境，通过增量更新用户画像并利用文本元数据生成动态真实反馈，支持强化学习推荐系统的训练与冷启动场景，在预测准确性上与传统模型相当，但更擅长捕捉动态用户响应并提供可解释结果。
2025-03-29 cs.IR cs.LG
Personalized Prompt Learning for Explainable Recommendation
Hong Kong Baptist University（香港浸会大学）；Rutgers University（罗格斯大学）
提供用户可理解的解释来证明推荐可以帮助用户更好地理解推荐项目，增加系统的易用性，并获得用户的信任。一种典型的实现方法是自然语言生成。然而，以前的工作大多采用递归神经网络来满足目的，留下潜在的更有效的预训练Transformer模型未被探索。事实上，作为推荐系统中重要的标识符，用户ID和项目ID作为预先训练好的模型中的单词，本质上处于不同的语义空间，因此如何有效地将ID融合到这些模型中成为一个关键问题。受提示学习最新进展的启发，我们提出了两种解决方案：找到替代词来表示ID（称为离散提示学习），并直接将ID向量输入到预先训练的模型（称为连续提示学习）。在后一种情况下，ID向量是随机初始化的，但模型是在大型语料库上预先训练的，因此它们实际上处于不同的学习阶段。为了弥补这一差距，我们进一步提出了两种训练策略：顺序调优和推荐正则化。大量的实验表明，我们的持续提示学习方法配备的训练策略一致优于强基线上的三个数据集的可解释的建议。
2023-01-13 cs.AI cs.CL cs.IR
Towards Explainable Personalized Recommendations by Learning from Users' Photos
Artificial Intelligence Center Universidad de Oviedo at Gijón Campus de Viesques（奥维多大学吉隆分校人工智能中心）
本文提出将个性化解释作为推荐任务，通过预测用户对物品可能拍摄的照片来解释推荐结果，并在TripAdvisor餐厅数据上验证了该框架的有效性。
2025-10-24 cs.LG
Towards Resolving Propensity Contradiction in Offline Recommender Learning
Cornell University（康奈尔大学）；CyberAgent, Inc.（CyberAgent公司）
本文研究了存在选择偏差的离线推荐学习问题。目前有希望的偏差解决方案是逆倾向得分（IPS）估计。然而，现有基于倾向的方法的性能可能会受到倾向估计偏差的显着影响。事实上，大多数以前的基于IPS的方法需要一定量的完全随机缺失（MCAR）数据来准确估计倾向。这导致了一个严重的自相矛盾; IPS在没有MCAR数据的情况下是无效的，即使它最初的目标是从丢失的非随机反馈中学习决策者。为了解决这个倾向矛盾，我们推导出一个倾向独立的泛化误差界，并提出了一种新的算法，通过对抗学习来最小化理论界。我们的理论和算法不需要一个倾向估计过程，从而导致一个表现良好的评级预测没有真正的倾向信息。大量的实验表明，所提出的方法是优于一系列现有的方法在评级预测和排名指标在实际设置中没有MCAR数据。
2022-04-21 cs.IR cs.LG stat.ML
Leveraging Large Language Models in Conversational Recommender Systems
Google Research（谷歌研究院）
本文提出使用LLMs构建端到端大规模对话式推荐系统（CRS）的路线图，通过集成架构实现用户偏好理解、灵活对话管理和可解释推荐，并引入RecLLM作为概念验证。
2023-05-16 cs.CL cs.IR cs.LG
Visual Analytics for Explainable and Trustworthy Artificial Intelligence
Utrecht University（乌特勒支大学）
本文探讨了可视化分析如何通过结合AI模型与交互式可视化，在典型AI管道各阶段培养信任，并提出创新可视化设计空间及支持关键任务的VA仪表板。
2025-07-14 cs.AI cs.HC cs.LG
User-Controllable Recommendation via Counterfactual Retrospective and Prospective Explanations
Rutgers University（罗格斯大学）；Meta Platforms, Inc.（Meta平台公司）；University of Rochester（罗切斯特大学）
本文提出一种结合反事实回顾与前瞻性解释的统一用户可控推荐框架，通过引入可控性复杂度与准确度属性，在MovieLens和Yelp数据集上验证了其有效性，并证明提供控制选项可提升未来推荐准确度。
2023-08-02 cs.IR cs.LG stat.ME
An Explainable Autoencoder For Collaborative Filtering Recommendation
University of Louisville（路易斯维尔大学）
自编码器是深度学习架构的常见构建块，它们主要用于表示学习。它们也被成功地用于协同过滤（CF）推荐系统，以预测缺失的评级。不幸的是，像所有黑盒机器学习模型一样，它们无法解释它们的输出。因此，虽然基于Autoencoder的推荐系统的预测可能是准确的，但用户可能不清楚为什么会生成推荐。在这项工作中，我们设计了一个可解释的推荐系统，使用Autoencoder模型，其预测可以解释使用基于邻域的解释风格。我们的初步工作可以被认为是迈向基于自动编码器的可解释深度学习架构的第一步。
2019-12-23 cs.AI cs.IR cs.LG
Explaining Recommendation System Using Counterfactual Textual Explanations
Amirkabir University of Technology (Tehran Polytechnic)（阿米尔卡比尔理工大学（德黑兰理工学院））
本文提出一种同时针对表格和文本特征生成反事实解释的方法，用于提升推荐系统可解释性，并在三个真实数据集上相比基线方法在发现有效特征方面取得+5%的提升。
2023-06-01 cs.HC cs.IR cs.LG
Unleash LLMs Potential for Sequential Recommendation by Coordinating Dual Dynamic Index Mechanism
Central South University（中南大学）；Microsoft（微软公司）；Microsoft Research Asia（微软亚洲研究院）；Griffith University（格里菲斯大学）
本文提出端到端双动态（ED$^2$）推荐器，通过双动态索引机制统一索引生成与序列推荐，并利用用户相关信息，在三个公开数据集上分别提升命中率19.62%和NDCG 21.11%。
2026-09-17 cs.AI cs.CL cs.IR
Faithful Path Language Modeling for Explainable Recommendation over Knowledge Graph
University of Cagliari（卡利亚里大学）；Polytechnic University of Turin（都灵理工大学）
本文提出PEARLM模型，通过知识图谱约束解码机制确保推荐解释路径真实有效，在提升可解释性的同时显著提高推荐准确性。
2024-04-30 cs.AI cs.IR cs.LG
An Information-Theoretic Approach to Personalized Explainable Machine Learning
Aalto University（阿尔托大学）；Lappeenranta-Lahti University of Technology（拉彭兰塔-拉赫蒂理工大学）
自动化决策在我们的日常生活中经常使用。推荐系统决定哪些工作、电影或其他用户简档可能是我们感兴趣的。拼写检查帮助我们更好地使用语言。欺诈检测系统决定是否应该更仔细地验证信用卡交易。这些决策系统中的许多使用机器学习方法，这些方法将复杂模型拟合到大量数据集。将机器学习（ML）方法成功部署到许多（关键）应用领域至关重要地取决于其可解释性。事实上，人类强烈希望得到解释，以解决经验现象的不确定性，例如从ML方法获得的预测和决策。可解释的机器学习具有挑战性，因为解释必须针对不同背景的个人用户进行定制（个性化）。一些用户可能接受过ML的大学教育，而其他用户可能没有接受过线性代数的正式培训。具有很少特征的线性回归对于第一组可能是完全可解释的，但对于后者可能被认为是黑箱。我们提出了一个简单的概率模型的预测和用户的知识。该模型允许使用信息论来研究可解释的ML。解释在这里被认为是减少预测所引起的“惊讶”的任务。我们量化的解释和预测之间的条件互信息，给定的用户背景的解释的效果。
2020-03-15 cs.LG stat.ML
XInsight: Revealing Model Insights for GNNs with Flow-based Explanations
Southern Methodist University（南卫理公会大学）
针对图神经网络的黑箱问题，提出基于GFlowNets的可解释算法XInsight，可生成多样化的模型解释分布，在两项图分类任务中验证了其揭示模型底层关系、辅助发现隐藏规律的价值。
2023-06-07 cs.AI cs.LG
Automatic Generation of Natural Language Explanations
Aalborg Universitet（奥尔堡大学）；Insight Centre for Data Analytics（数据分析洞察中心）；University College Dublin（都柏林大学学院）
推荐系统的一个重要任务是根据用户的偏好生成解释。目前大多数用于可解释推荐的方法使用结构化句子来提供描述以及它们产生的推荐。然而，这些方法忽略了以评论为导向的文本写作方式，尽管我们知道这些评论对用户的决策有很大的影响。在本文中，我们提出了一种自动生成的自然语言的解释，预测用户将如何写一个项目，根据用户的评级，从不同的项目的功能。我们设计了一个字符级递归神经网络（RNN）模型，该模型使用长短期记忆（LSTM）生成项目的评论解释。该模型生成文本评论，给出评论和评级分数的组合，表达对项目的不同因素或方面的意见。我们的网络是在来自大型真实世界数据集BeerAdvocate的子样本上训练的。我们使用自然语言处理指标的实证评估显示，生成的文本的质量接近真实的用户书面评论，识别否定，拼写错误，和特定领域的词汇。
2017-07-04 cs.CL cs.LG
Debiased Explainable Pairwise Ranking from Implicit Feedback
University of Louisville（路易斯维尔大学）
最近的工作在推荐系统中强调了公平的重要性，特别是在偏见和透明度，除了预测准确性。在本文中，我们专注于最先进的成对排名模型，贝叶斯个性化排名（BPR），它以前被发现在预测准确性方面优于逐点模型，同时也能够处理隐式反馈。具体来说，我们解决了BPR的两个局限性：（1）BPR是一个黑箱模型，不解释其输出，从而限制了用户对建议的信任，以及分析师审查模型输出的能力;（2）由于数据是非随机缺失（MNAR），BPR容易受到暴露偏差的影响。这种曝光偏差通常会转化为对最不受欢迎的项目的不公平，因为它们有被推荐系统曝光不足的风险。在这项工作中，我们首先提出了一种新的可解释的损失函数和相应的矩阵分解为基础的模型，称为可解释的贝叶斯个性化排名（EBPR），生成建议以及基于项目的解释。然后，我们从理论上量化额外的曝光偏差所造成的可解释性，并使用它作为基础，提出一个无偏估计的理想EBPR损失。其结果是一个排名模型，恰当地捕捉了去偏见和可解释的用户偏好。最后，我们对三个真实世界的数据集进行了实证研究，证明了我们提出的模型的优点。
2021-07-30 cs.AI cs.IR cs.LG
Presentation of a Recommender System with Ensemble Learning and Graph Embedding: A Case on MovieLens
University of Applied Science and Technology（应用科学与技术大学）；Center of Tehran Municipality ICT org.（德黑兰市政信息通信技术中心）；Queensland University of Technology（昆士兰科技大学）；University of Kurdistan（库尔德斯坦大学）
信息技术已经广泛传播，用户可以获得非常大量的数据，这使得选择符合用户需求的数据变得非常困难。为了解决上述问题，推荐系统应运而生，它可以帮助用户完成决策和选择相关数据的过程。推荐系统预测用户行为，以便能够检测他们的兴趣和需求，并且它通常使用分类技术来实现此目的。采用个别分类可能不够准确，因为并非所有情况都可以检查，这使得该方法不适合具体问题。在本研究中，群组分类和集成学习技术被用来提高推荐系统的预测精度。这里提出的另一个问题涉及用户分析。由于数据量大，用户数量多，推荐系统中的用户需求分析和预测（大多数情况下使用图，表示用户与其所选项目之间的关系）过程复杂而繁琐。为了解决这个问题，图嵌入也被提出，通过生成多个向量来模拟用户的全部或部分行为，在保持高效率的同时，很大程度上解决了用户行为分析的问题。在这项研究中，个人最相似的目标用户进行分类，使用集成学习，模糊规则和决策树，并提出了相关的建议，每个用户的异构知识图谱和嵌入向量。该研究在MovieLens数据集上进行，所获得的结果表明所提出的方法的高效率。
2020-07-15 cs.IR cs.LG stat.ML
Rating and aspect-based opinion graph embeddings for explainable recommendations
Universidad Autónoma de Madrid（马德里自治大学）；Pontificia Universidad Católica de Chile（智利天主教大学）
神经网络嵌入的成功引发了人们对使用知识图谱进行各种机器学习和信息检索任务的新兴趣。特别是，最近的推荐方法的基础上图嵌入显示出最先进的性能。通常，这些方法编码潜在的评级模式和内容特征。从以前的工作，在本文中，我们建议利用嵌入提取的图形，结合信息的评级和基于方面的意见，在文本评论。然后，我们适应和评估国家的最先进的图形嵌入技术，从亚马逊和Yelp评论六个域生成的图形，优于基线嵌入器。此外，我们的方法的优点是提供的解释，涉及的覆盖面的方面为基础的意见，由用户推荐的项目。
2022-07-28 cs.AI cs.IR cs.LG
Graphing else matters: exploiting aspect opinions and ratings in explainable graph-based recommendations
Universidad Autónoma de Madrid（马德里自治大学）；Pontificia Universidad Católica de Chile（智利天主教大学）
神经网络嵌入的成功引发了人们对使用知识图谱进行各种机器学习和信息检索任务的新兴趣。特别是，目前基于图嵌入的推荐方法已经显示出最先进的性能。这些方法通常对潜在的评级模式和内容特征进行编码。与以往的工作不同，在本文中，我们建议利用从图中提取的嵌入，结合文本评论中表达的评级和基于方面的意见的信息。然后，我们适应和评估国家的最先进的图形嵌入技术，从亚马逊和Yelp评论六个域生成的图形，优于基线嵌入器。我们的方法的优点是提供的解释，利用基于方面的意见，由用户推荐的项目。此外，我们还提供了利用方面意见作为可视化仪表板中的解释的建议的适用性的示例，该仪表板允许获得关于从输入图的嵌入中获得的类似用户的最喜欢和最不喜欢的方面的信息。
2022-07-28 cs.AI cs.IR cs.LG
ChatDiet: Empowering Personalized Nutrition-Oriented Food Recommender Chatbots through an LLM-Augmented Framework
University of California, Irvine（加州大学欧文分校）
本文提出ChatDiet框架，通过集成个人因果模型与群体模型并利用LLM编排，实现个性化、可解释且交互式的营养导向食物推荐，在案例研究中达到92%有效性。
2024-09-25 cs.AI cs.IR cs.LG
The Disagreement Problem in Explainable Machine Learning: A Practitioner's Perspective
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）；Drexel University（德雷塞尔大学）
针对可解释机器学习中事后解释方法存在分歧却缺乏研究的问题，通过访谈定义分歧概念、构建定量框架，结合实证分析与用户研究发现解释方法常分歧且从业者用临时启发式解决，强调需开发原则性评估框架。
2025-04-17 cs.AI cs.LG
The Meta-Evaluation Problem in Explainable AI: Identifying Reliable Estimators with MetaQuantus
Technical University of Berlin（柏林工业大学）；Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所）；UiT Arctic University of Norway（挪威北极大学）；Fraunhofer Heinrich-Hertz-Institute（弗劳恩霍夫海因里希·赫兹研究所）；University of Potsdam（波茨坦大学）；Leibniz Institute of Agricultural Engineering and Bioeconomy e.V.（莱布尼茨农业工程与生物经济研究所）
针对可解释AI缺乏真实标签时解释质量评估结果矛盾的问题，提出元评估框架MetaQuantus，通过分析质量估计器的抗噪性和随机性反应性识别可靠评估方法，已开源并为领域提供理论指导。
2023-07-19 cs.AI cs.LG
Meta-Learning for Cold-Start Personalization in Prompt-Tuned LLMs
Northwestern University（西北大学）；Columbia University（哥伦比亚大学）
本文提出一种元学习框架，通过参数高效的提示微调实现LLM推荐系统的冷启动个性化，在多个数据集上超越基线并以275毫秒级实时适应能力支持金融风险画像。
2025-07-22 cs.AI cs.LG
