DimBridge: Interactive Explanation of Visual Patterns in Dimensionality Reductions with Predicate Logic
针对降维投影视觉模式难以在原始数据空间解释的问题,提出可视化分析工具DimBridge,以一阶谓词逻辑识别相关子空间并支持交互分析,助力用户提取数据洞见。
2024-04-12 cs.HC
Interactive Example-based Explanations to Improve Health Professionals' Onboarding with AI for Human-AI Collaborative Decision Making
Singapore Management University(新加坡管理大学);Singapore General Hospital(新加坡综合医院)
提出交互式基于示例的解释方法,通过呈现最近邻样本协助健康专业人员入门AI,实验证明该方法能优化人员对AI的依赖并提高正确决策比例,降低错误决策比例。
2024-09-24 cs.AI cs.HC cs.LG
From Explanation to Diagnosis: Next Generation Interactive Video Coach with Misstep Awareness
Georgia Institute of Technology(佐治亚理工学院)
提出一种基于双模型架构的失误感知教练能力,通过将任务-方法-知识模型与教学模型结合,实现学习者错误的检测、分类和诊断性支架生成,从而提供更精确、可操作的反馈。
2026-08-04 cs.HC
Improving Human Verification of LLM Reasoning through Interactive Explanation Interfaces
University of Virginia(弗吉尼亚大学);Auburn University(奥本大学)
本文提出三种交互式推理界面,通过增强用户对LLM推理过程的理解,提高人类验证效率和准确性。
2026-01-26 cs.HC
X-SYS: A Reference Architecture for Interactive Explanation Systems
Fraunhofer Heinrich Hertz Institute(弗劳恩霍夫海因里希·赫兹研究所);Technische Universität Berlin(柏林工业大学);BIFOLD – Berlin Institute for the Foundations of Learning and Data(BIFOLD – 柏林学习与数据基础研究所);Technical University Dublin(都柏林理工大学)
本文提出X-SYS参考架构,通过STAR质量属性和五组件分解,指导交互解释系统的设计与实现,解决可解释AI在系统部署中的挑战。
2026-04-13 cs.AI cs.HC cs.SE
ASQ-IT: Interactive Explanations for Reinforcement-Learning Agents
Technion - I.I.T(以色列理工学院);University of Haifa(海法大学)
随着强化学习方法越来越多地积累成就,理解其解决方案的需求变得更加重要。大多数可解释的强化学习(XRL)方法生成静态解释,描述了开发人员对应该解释什么和如何解释的直觉。相反,社会科学的文献提出,有意义的解释被构造为解释者和被解释者之间的对话,这表明用户和她与代理人的沟通扮演着更积极的角色。在本文中,我们提出了ASQ-IT -一个交互式工具,提出了代理在其环境中的查询的基础上,描述感兴趣的行为的时间属性的代理的视频剪辑。我们的方法是基于形式化的方法:查询ASQ-IT的用户界面映射到一个片段的线性时序逻辑有限的痕迹(LTLf),我们开发的,我们的算法是基于自动机理论的查询处理。用户研究表明,最终用户可以理解和制定查询ASQ-IT,并使用ASQ-IT帮助用户识别错误的代理行为。
2023-01-24 cs.AI cs.HC
Interactive Explanation with Varying Level of Details in an Explainable Scientific Literature Recommender System
University of Duisburg-Essen(杜伊斯堡-埃森大学)
本文针对可解释推荐系统中解释静态且一刀切的问题,提出一种以用户为中心的交互式解释模型,在RIMA系统中实现基础、中级和高级三个细节层级的解释。定性用户研究(N=14)表明,赋予用户控制权能满足不同需求,有效提升系统的透明度、信任、满意度和用户体验。
2023-10-18 cs.AI cs.CY cs.HC
Interactive dense pixel visualizations for time series and model attribution explanations
University of Konstanz(康斯坦茨大学)
提出交互式可视化分析方法 DAVOTS,通过密集像素可视化探索时间序列数据、神经网络激活值与归因,并应用聚类和排序策略辅助发现模式,帮助理解模型决策与解释。
2024-08-27 cs.AI cs.HC cs.LG
Dialogue based Interactive Explanations for Safety Decisions in Human Robot Collaboration
Department of Civil Engineering and Management, Faculty of Science and Engineering, The University of Manchester(曼彻斯特大学科学与工程学院土木工程与管理系);VRAIN, Universitat Politècnica de València(瓦伦西亚理工大学VRAIN研究所);Department of Engineering, University of Cambridge(剑桥大学工程系);Department of Mechanical and Aerospace Engineering, Faculty of Science and Engineering, The University of Manchester(曼彻斯特大学科学与工程学院机械与航空航天工程系);Center for the Possible Futures, Kyoto Institute of Technology(京都工艺纤维大学未来可能性中心);Institute of Industrial Science, The University of Tokyo(东京大学生产技术研究所);Graduate School of Frontier Sciences, The University of Tokyo(东京大学新领域创成科学研究科)
本文提出一种基于对话的交互式解释框架,用于人机协作中的安全决策,通过约束基础的安全评估实现解释与决策的紧密耦合,支持因果、对比和反事实查询,提升安全干预的透明度和协作效率。
2026-04-10 cs.HC cs.RO
Understanding the Effect of Out-of-distribution Examples and Interactive Explanations on Human-AI Decision Making
University of Chicago(芝加哥大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
尽管人工智能有望改善人类在社会关键领域的决策,但人类-人工智能团队如何在具有挑战性的预测任务(也称为互补性能)中可靠地超越人工智能和人类仍然是一个悬而未决的问题。我们探索两个方向,以了解在实现互补性能的差距。首先,我们认为典型的实验设置限制了人类-AI团队的潜力。为了解释由于分布偏移而导致的分布外AI性能低于分布内AI性能,我们设计了具有不同分布类型的实验,并研究了分布内和分布外示例的人类性能。其次,我们开发了新的界面来支持交互式解释,以便人类可以积极参与人工智能的帮助。使用虚拟试点研究和三个任务的大规模随机实验,我们证明了分布内和分布外之间的明显差异,并观察到交互式解释的混合结果:虽然交互式解释提高了人类对人工智能辅助有用性的感知,但它们可能会加强人类的偏见并导致有限的性能改善。总的来说,我们的工作指出了在人工智能辅助下提高人类绩效的关键挑战和未来方向。
2021-10-05 cs.AI cs.CY cs.HC
LangLasso: Interactive Cluster Descriptions through LLM Explanation
University of Konstanz(康斯坦茨大学);Utrecht University(乌得勒支大学);Eindhoven University of Technology(埃因霍温理工大学)
LangLasso通过LLM生成交互式自然语言描述,使非专家也能理解聚类结构并整合外部知识。
2026-01-15 cs.HC cs.LG stat.CO
Effects of interactivity and presentation on review-based explanations for recommendations
用户评论已经成为推荐和解释产品或服务的重要来源。特别地,基于用户评论提供解释可以改善用户对推荐系统(RS)的感知。然而,很少有人知道如何审查为基础的解释,可以有效地和高效地呈现给用户的RS。我们调查的潜力,互动的解释在评论为基础的RS领域的酒店,并提出了一个解释方案的启发对话模型和正式的论点结构。此外,我们还解决了交互性和不同的演示风格(即只使用文本,条形图或表格)的综合效果,以及不同的用户特征可能对用户的感知系统及其解释的影响。为此,我们使用矩阵分解解释方法实现了基于评论的RS,并进行了用户研究。我们的研究结果表明,提供更多的交互式解释在基于评论的RS有一个显着的积极影响的解释质量,有效性和信任的感知系统的用户,用户的特征,如理性的决策风格和社会意识也有显着的影响,这种看法。
2021-09-03 cs.HC
Impact of Feedback Type on Explanatory Interactive Learning
University College Dublin(都柏林大学)
解释性交互学习(XIL)收集用户对视觉模型解释的反馈,以实现基于人在回路(HITL)的交互学习场景。不同的用户反馈类型将对用户体验和与收集反馈相关联的成本具有不同的影响,因为不同的反馈类型涉及不同级别的图像注释。虽然XIL已被用于提高多个领域的分类性能,但不同用户反馈类型对模型性能和解释准确性的影响尚未得到很好的研究。为了指导未来的XIL工作,我们比较了图像分类任务中两种不同用户反馈类型的有效性:(1)指示算法忽略某些虚假图像特征,以及(2)指示算法专注于某些有效图像特征。我们使用的解释,从一个服从加权类激活映射(GradCAM)为基础的XIL模型,以支持这两种反馈类型。我们发现,识别和注释虚假的图像特征,一个模型发现显着的结果在优越的分类和解释精度比用户反馈,告诉模型专注于有效的图像特征。
2022-09-26 cs.AI cs.HC
Outcome-Explorer: A Causality Guided Interactive Visual Interface for Interpretable Algorithmic Decision Making
算法决策系统的广泛采用带来了解释这些决策背后的推理的必要性。这些系统中的大多数是复杂的黑盒模型,辅助模型通常用于近似并解释其行为。然而,最近的研究表明,这种解释对于没有机器学习专业知识的普通用户来说并不容易理解,这可能导致对底层模型的错误解释。在本文中,我们表明,基于因果关系的预测和交互式模型本质上是可解释的,不需要任何辅助模型,并允许专家和非专家用户全面理解模型。为了证明我们的方法,我们开发了结果资源管理器,因果关系引导的交互式界面,并进行有声思维会议与三个专家用户和用户研究与18个非专家用户进行评估。所有三个专家用户都发现我们的工具在支持他们的解释需求方面是全面的,而非专家用户能够轻松理解模型的内部工作原理。
2022-02-25 cs.HC
Generative Lecture: Making Lecture Videos Interactive with LLMs and AI Clone Instructors
University of Colorado Boulder(科罗拉多大学博尔德分校)
Generative Lecture通过AI克隆讲师和生成式AI使讲座视频互动化,支持学生个性化学习和双向沟通。
2025-12-29 cs.HC
From Philosophy to Interfaces: an Explanatory Method and a Tool Inspired by Achinstein's Theory of Explanation
我们提出了一种新的方法解释人工智能(AI)和一个工具来测试其表达能力在用户界面。为了弥合哲学和人机界面之间的差距,我们展示了一种新的方法,用于生成基于复杂的人工智能算法管道的交互式解释,用于将自然语言文档结构化为知识图谱,有效地和令人满意地回答问题。在解释的主流哲学理论中,我们发现了一个在我们看来更容易作为以用户为中心的工具的实用模型的解释理论:Achinstein的解释理论。通过这项工作,我们的目标是证明Achinstein提出的理论实际上可以适用于被实施到一个具体的软件应用程序,作为一个互动的过程回答问题。为此,我们找到了一种处理一般(原型)问题的方法,这些问题隐含地将解释过程作为初步的概述,而不是作为对明确问题的回答。为了展示这种方法的表达能力,我们设计并实现了一个人工智能算法的管道,用于以概述的形式生成交互式解释,专注于解释的这一方面,而不是现有的接口和问答的呈现逻辑层。我们在IBM著名的XAI支持的信贷审批系统上测试了我们的假设,将PEM(一种用于事后解释的静态解释工具)与我们开发的基于我们的模型添加交互式解释的扩展进行比较。涉及100多名参与者的用户研究结果表明,我们提出的解决方案在基线上产生了统计学相关的有效性改善(U=931.0,p=0.036),从而为我们的理论提供了证据。
2021-09-09 cs.AI cs.HC
SQLucid: Grounding Natural Language Database Queries with Interactive Explanations
Purdue University(普渡大学);University of Sydney(悉尼大学);University of Notre Dame(圣母大学)
本文提出 SQLucid 交互式界面,通过视觉对应、中间结果和可编辑的自然语言分步 SQL 解释,帮助非专家理解并优化查询,实验证明其提升了任务准确性与用户信心。
2024-09-10 cs.CL cs.HC
DeepSeer: Interactive RNN Explanation and Debugging via State Abstraction
University of Alberta(阿尔伯塔大学);The University of Tokyo(东京大学);Purdue University(普渡大学)
递归神经网络(RNN)在处理序列数据时具有优越的性能,已被广泛应用于自然语言处理(NLP)任务中。然而,由于RNN固有的复杂性和缺乏透明度,解释和调试RNN具有挑战性。虽然已经为RNN提出了许多可解释的AI(XAI)技术,但其中大多数只支持局部解释而不是全局解释。在本文中,我们介绍了DeepSeer,这是一个交互式系统,它在多个紧密协调的视图中提供了RNN行为的全局和局部解释,用于模型理解和调试。DeepSeer的核心是一种状态抽象方法,它将语义相似的隐藏状态捆绑在RNN模型中,并将模型抽象为有限状态机。用户可以通过检查与每个状态相关联的文本模式以及状态之间的转换来探索全局模型行为。用户还可以通过检查给定输入的状态跟踪和中间预测结果来深入到各个预测中。一项有28名参与者的受试者间用户研究表明,与流行的XAI技术LIME相比,使用DeepSeer的参与者对RNN模型行为进行了更深入、更全面的评估,更准确地识别了错误预测的根本原因,并提出了更可行的计划来提高模型性能。
2023-03-02 cs.HC cs.LG cs.SE
Fanoos: Multi-Resolution, Multi-Strength, Interactive Explanations for Learned Systems
Carnegie Mellon University(卡内基梅隆大学)
机器学习对于控制复杂环境中的安全和财务关键组件的行为变得越来越重要,在复杂环境中,无法理解一般的学习组件,特别是神经网络,对它们的采用构成了严重障碍。学习系统的可解释性和可解释性方法已经获得了相当多的学术关注,但是当前方法的焦点仅集中在解释的一个方面,在固定的抽象层次上,并且如果有任何正式保证的话,则有限,这阻止了相关利益相关者(例如,最终用户、认证机构、工程师)的不同背景和具体情况的需求。我们介绍Fanoos,结合形式化验证技术,启发式搜索和用户交互的框架,以探索在所需的粒度和保真度水平的解释。我们证明了Fanoos的能力,生产和调整的抽象性的解释,以响应用户的要求,在一个学习控制器的倒立双摆和学习的CPU使用模型。
2022-02-15 cs.AI cs.HC cs.LG
Interactive Analysis of Global Explanations using Aggregated Class Activation Maps for Network Data
Fraunhofer IGD(弗劳恩霍夫计算机图形学研究所);TU Darmstadt(达姆施塔特工业大学)
针对网络流量分类中同一类别内存在不同模式的问题,提出基于聚合类激活图的可视化交互式系统,可实现全局解释的探索优化,辅助专家检测新模式、制定网络管理规则及优化深度学习模型。
2026-08-17 cs.AI cs.HC cs.LG
CueTip: An Interactive and Explainable Physics-aware Pool Assistant
University of Edinburgh(爱丁堡大学);Lightspeed Studios(光速工作室);Independent Researcher(独立研究者)
本文提出 CueTip 台球助手,通过自然语言事件轨迹、物理感知推理、专家规则解释和神经适配器,实现可复用的交互式可解释教练功能。
2025-03-18 cs.AI cs.HC
Vivifying LIME: Visual Interactive Testbed for LIME Analysis
Hankuk University of Foreign Studies(韩国外国语大学);Kwangwoon University(光云大学)
本文提出LIMEVis,一种交互式可视化工具,用于提升LIME分析的效率,通过同时探索多个结果并直接修改以识别模型分类的关键特征。
2026-02-04 cs.HC
CohortVA: A Visual Analytic System for Interactive Exploration of Cohorts based on Historical Data
在历史研究中,队列分析试图通过研究历史人物的群体行为来识别社会结构和人物流动性。以往的工作主要采用自动数据采掘方法,缺乏有效的可视化解释。在本文中,我们提出了CohortVA,一个互动的视觉分析方法,使历史学家将专业知识和洞察力的迭代探索过程。CohortVA的核心是一种新的识别模型,它通过从大规模历史数据库中构建的预构建知识图谱来生成候选队列并构建队列特征。我们提出了一套协调的意见,以说明确定的队列和功能,再加上历史事件和数字配置文件。两个案例研究和对历史学家的采访表明,CohortVA可以大大提高队列识别,数字认证和假设生成的能力。
2022-08-19 cs.HC
Transformer Explainer: Learning LLM Transformers with Interactive Visual Explanation and Experimentation
Georgia Tech(佐治亚理工学院);IBM Research AI(IBM研究院人工智能部门);Yonsei University(延世大学)
针对非专家难以学习Transformer的问题,本文推出交互式可视化工具Transformer Explainer,可在浏览器运行GPT-2实例支持实验,经90人研究验证其提升理解与参与度的优势,已获超49万用户使用。
2026-08-11 cs.AI cs.CL cs.HC
EXMOS: Explanatory Model Steering Through Multifaceted Explanations and Data Configurations
KU Leuven(鲁汶大学);University of Glasgow(格拉斯哥大学);University of Maribor(马里博尔大学)
本研究针对交互式机器学习系统中不同类型全局解释辅助医疗专家优化模型的有效性问题,通过定量与定性研究验证了数据中心与模型中心解释的混合融合方案效果最优,并给出解释驱动型系统的设计启示。
2024-02-01 cs.AI cs.HC
Understanding Large Language Model Behaviors through Interactive Counterfactual Generation and Analysis
ETH Zürich(苏黎世联邦理工学院);University of Konstanz(康斯坦茨大学);IBM Research(IBM研究院)
本文提出LLM Analyzer交互式可视化系统,通过反事实分析高效探索LLM行为,生成语义反事实并计算特征归因,经用户研究验证其有效性与人机协作价值。
2025-08-07 cs.AI cs.CL cs.HC
Personalized Interpretability -- Interactive Alignment of Prototypical Parts Networks
Jagiellonian University(雅盖隆大学);University of Trento(特伦托大学);Transmission Dynamics University of Warsaw(传输动力学华沙大学);Ardigen SA(阿德金集团)
本文提出YoursProtoP交互式策略,通过用户监督对原型部件概念进行适配与拆分,在保持模型准确率的同时实现概念一致性,满足用户个性化理解需求。
2025-06-05 cs.CV cs.HC
Interactive Counterfactual Generation for Univariate Time Series
University of Konstanz(康斯坦茨大学)
提出一种交互式方法,利用二维投影和决策边界图生成单变量时间序列分类的反事实解释,通过ECG5000数据集验证,显著提升可解释性和用户理解。
2024-08-20 cs.HC cs.LG
ViCE: Visual Counterfactual Explanations for Machine Learning Models
New York University Abu Dhabi(纽约大学阿布扎比分校);NYU Tandon School of Engineering(纽约大学坦登工程学院)
机器学习模型的预测准确性的持续改进使得它们能够广泛地实际应用。然而,许多看似准确的模型做出的决策仍然需要领域专家的验证。此外,模型的最终用户还希望了解具体决策背后的原因。因此,对可解释性的需求越来越重要。在本文中,我们提出了一个交互式的可视化分析工具,ViCE,生成反事实的解释,上下文和评估模型的决策。评估每个样本,以确定翻转模型输出所需的最小更改集。这些解释旨在为最终用户提供个性化的可操作见解,以便理解,并可能质疑或改进自动化决策。结果有效地显示在一个可视化界面中,其中突出显示了反事实的解释,并为用户提供了交互式方法来探索数据和模型。该工具的功能证明了其应用程序的房屋净值信贷额度数据集。
2020-03-05 cs.AI cs.HC cs.LG
Enhancing XAI Interpretation through a Reverse Mapping from Insights to Visualizations
针对用户难以有效推理AI解释的问题,提出反向映射方法,通过大型语言模型提取用户结构化洞察并映射回视觉解释,促进审慎交互,在原型系统中展示效果并获得定性反馈。
2025-08-26 cs.HC
VERA: Generating Visual Explanations of Two-Dimensional Embeddings via Region Annotation
Faculty of Computer and Information Science, University of Ljubljana(卢布尔雅那大学计算机与信息科学系);Baylor College of Medicine(贝勒医学院)
VERA通过自动生成静态区域注释,为二维嵌入提供可视化解释,减少手动探索时间,支持探索性数据分析。
2026-04-30 cs.HC cs.LG
VOICE: Visual Oracle for Interaction, Conversation, and Explanation
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);TU Wien(维也纳工业大学);Linköping University(林雪平大学);Umeå University(于默奥大学)
本文提出VOICE,一种将大语言模型的对话能力与交互式探索可视化相结合的科学传播新方法,通过多机器人系统实现任务分配、指令提取和内容生成,结合文本到可视化方法和自然语言交互,实现实时3D模型导航和操控,并在分子可视化领域验证其有效性。
2024-01-22 cs.GR cs.HC
Interactive Sketchpad: A Multimodal Tutoring System for Collaborative, Visual Problem-Solving
Massachusetts Institute of Technology(麻省理工学院)
本文提出Interactive Sketchpad多模态辅导系统,结合语言解释与交互式可视化,通过微调预训练LMM提供图文逐步指导并生成准确图表,显著提升了学生在数学问题上的理解力、准确率和参与度。
2025-04-02 cs.AI cs.HC
Explainability Requires Interactivity
Hasso Plattner Institute for Digital Engineering, University of Potsdam(波茨坦大学哈索·普拉特纳数字工程研究所);TU Kaiserslautern(凯泽斯劳滕工业大学);Hasso Plattner Institute for Digital Health, Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院哈索·普拉特纳数字健康研究所)
在解释深层神经网络的决策时,简单的故事很诱人,但也很危险。特别是在计算机视觉中,最流行的解释方法给用户一种错误的理解感,并提供一个过于简单的图片。我们引入了一个交互式框架来理解现代视觉模型的高度复杂的决策边界。它允许用户彻底检查,探测和测试网络的决策。在一系列的案例研究中,我们比较了我们的交互式方法与静态解释方法的力量,展示了这些方法如何导致用户误入歧途,并可能带来严重的后果。
2021-09-16 cs.CV cs.HC cs.LG
LIVE: LaTex Interactive Visual Editing
Monash University(莫纳什大学)
针对LaTex静态图形元素交互性不足的问题,提出交互式LaTex图形设计方案LIVE,可生成Gitems并自动获取论文引用关系,以NeRF论文为示例验证功能,代码已开源。
2024-05-10 cs.CL cs.HC
Non Linear Software Documentation with Interactive Code Examples
本文提出名为 Casdoc 的交互式文档格式,以代码示例为中心、按需展示注释,并通过 300 余人参与的实地研究验证其能承载更多信息而不干扰读者,同时总结出可推广的设计见解与在线文档导航改进指南。
2023-11-29 cs.HC cs.SE
Preliminary Quantitative Study on Explainability and Trust in AI Systems
University of Maryland, College Park(马里兰大学学院公园分校)
本研究通过交互式贷款审批模拟实验,定量探究AI系统可解释性与用户信任的关系,发现交互性增强参与度和信心,解释清晰度与相关性是信任关键决定因素。
2025-10-17 cs.AI cs.HC
Interactive Visual Learning for Stable Diffusion
Georgia Tech(佐治亚理工学院);IBM Research(IBM研究院)
针对扩散模型内部机制难以被非专家理解的问题,提出首个交互式可视化工具Diffusion Explainer,通过集成视觉概览与详细解释,支持用户在浏览器中实时调整Stable Diffusion参数,已有超113国7200余名用户使用,有效推动了AI民主化。
2024-04-22 cs.AI cs.HC
User Driven Model Adjustment via Boolean Rule Explanations
IBM Research(IBM研究院)
人工智能解决方案在很大程度上依赖于输入训练数据的质量和准确性,然而,训练数据可能并不总是完全反映最新的策略环境,或者可能缺少业务逻辑。可解释性的进步为用户提供了与机器学习预测的可解释进行交互的可能性,以便注入更准确地反映系统当前现实的修改或约束。在本文中,我们提出了一种解决方案,该解决方案利用ML模型的预测能力,同时允许用户指定对决策边界的修改。我们的交互式叠加方法实现了这一目标,而不需要模型重新训练,使其适用于需要即时更改决策的系统。我们证明了用户反馈规则可以与ML预测分层,以提供即时的变化,从而支持使用更少的数据进行学习。
2022-03-28 cs.AI cs.HC cs.LG
AdViCE: Aggregated Visual Counterfactual Explanations for Machine Learning Model Validation
机器学习模型性能的快速改进将它们推向了数据驱动决策的前沿。与此同时,这些模型越来越多地集成到各种应用领域,进一步突出了提高可解释性和透明度的必要性。为了识别偏差、过度拟合和不正确的相关性等问题,数据科学家需要工具来解释这些模型决策的机制。在本文中,我们介绍了AdViCE,一个可视化的分析工具,旨在指导用户在黑盒模型调试和验证。该解决方案依赖于两个主要的视觉用户界面创新:(1)交互式可视化设计,可以对用户定义的数据子集进行决策比较;(2)算法和视觉设计,可以计算和可视化反事实解释-当数据特征从其原始值扰动时,描述模型结果的解释。我们提供了一个演示的工具,通过一个用例,展示了所提出的方法的能力和潜在的局限性。
2021-09-12 cs.AI cs.HC cs.LG
Visual or Textual: Effects of Explanation Format and Personal Characteristics on the Perception of Explanations in an Educational Recommender System
University of Duisburg-Essen(杜伊斯堡-埃森大学);RWTH Aachen University(亚琛工业大学)
研究探讨了解释格式(视觉 vs. 文本)和用户个性特征如何共同影响教育推荐系统中感知控制、透明度、信任和满意度,提出了一套有效设计解释的指南。
2026-03-26 cs.AI cs.CY cs.HC