LLM-Guided Diagnostic Evidence Alignment for Medical Vision-Language Pretraining under Limited Pairing
Institute of Intelligent Information Processing, Shanxi University(山西大学智能信息处理研究所);Alliance Manchester Business School, The University of Manchester(曼彻斯特大学阿利安斯商学院);Department of Computer Science and Engineering, The Hong Kong University of Science and Technology(香港科技大学计算机科学与工程系)
本文提出LLM引导的诊断证据对齐方法,旨在解决有限配对数据下医学视觉-语言预训练的诊断表示学习问题,通过提取关键诊断证据提升跨模态对齐效果。
2026-02-07 cs.CV cs.LG
XStacking: Explanation-Guided Stacked Ensemble Learning
IRIT, UMR 5505 CNRS, Université Toulouse Capitole, Toulouse 31000, France(里莫-伊夫研究所,法国图卢兹大学);Aix-Marseille University, CNRS, LIS UMR 7020, Marseille 13007, France(阿基-马赛大学,法国马赛);IRIT, UMR 5505 CNRS, Université de Toulouse, UT2J, Toulouse 31000, France(里莫-伊夫研究所,法国图卢兹大学)
本文提出XStacking框架,通过结合动态特征变换与模型无关的Shapley加性解释,在保持堆叠集成模型预测准确性的同时赋予其内在可解释性,并在29个数据集上验证了其有效性。
2025-07-23 cs.LG
Explanation-Guided Training for Cross-Domain Few-Shot Classification
Singapore University of Technology and Design(新加坡科技设计大学);Fraunhofer Heinrich Hertz Institute(弗劳恩霍夫海因里希·赫兹研究所)
跨域Few-Shot分类任务(CD-FSC)将Few-Shot分类与跨数据集表示的域进行概括的要求相结合。这种设置面临着来自每个类中有限的标记数据以及训练集和测试集之间的域转移的挑战。在本文中,我们介绍了一种新的训练方法,现有的FSC模型。它利用了解释分数,从现有的解释方法中获得时,应用于FSC模型的预测,计算模型的中间特征图。首先,我们定制了分层相关传播(LRP)方法来解释FSC模型的预测。其次,我们开发了一个模型不可知的推理引导的训练策略,动态地发现和强调对预测重要的特征。我们的贡献并不针对一个新的解释方法,但在于一个新的应用程序的解释训练阶段。我们表明,简化指导的训练有效地提高了模型的泛化能力。我们观察到三种不同的FSC模型的准确性提高:神经网络,交叉注意力网络,和一个基于图神经网络的配方,在五个少样本学习数据集:miniImagenet,CUB,汽车,地方,和植物。源代码可在https://github.com/SunJiamei/few-shot-lrp-guided上获得
2020-12-09 cs.CV cs.LG
Encoding Invisible Causation for Bridge Diagnostic Agents: Triple-Guided Retrieval-Augmented Fine-Tuning with QLoRA
研究针对桥梁损伤原因难以肉眼察觉及专家诊断依赖隐性知识的问题,提出基于QLoRA的三重引导检索增强微调方法(含知识三元组提取等组件),能在消费级硬件上实现内存高效、高精度的桥梁诊断代理。
2026-07-27 cs.LG
DA-DGCEx: Ensuring Validity of Deep Guided Counterfactual Explanations With Distribution-Aware Autoencoder Loss
Ikerlan Technology Research Centre(伊克尔兰技术研究中心);Basque Research and Technology Alliance (BRTA)(巴斯克研究与技术联盟);Mondragon University(蒙德拉贡大学)
深度学习已经成为不同领域中非常有价值的工具,没有人怀疑这些模型的学习能力。然而,由于深度学习模型由于缺乏可解释性而经常被视为黑匣子,因此在其决策过程中存在普遍的不信任。为了在有效性和可解释性之间找到平衡,可解释人工智能(XAI)近年来越来越受欢迎,该领域的一些方法用于生成反事实解释。生成这些解释的过程通常包括为要解释的每个输入求解优化问题,这在需要实时反馈时是不可行的。为了加快这个过程,一些方法利用自动编码器来生成即时的反事实解释。最近,提出了一种称为深度引导反事实解释(DGCEx)的方法,该方法训练了一个连接到分类模型的自动编码器,以生成简单的反事实解释。然而,该方法不能确保生成的反事实实例接近数据流形,因此可能生成不切实际的反事实实例。为了克服这个问题,本文提出了分布式感知深度引导反事实推理(DA-DGCEx),它在DGCEx成本函数中添加了一个项,该项对分布式反事实实例进行惩罚。
2021-04-22 cs.AI cs.LG
GANMEX: One-vs-One Attributions Guided by GAN-based Counterfactual Explanation Baselines
Amazon(亚马逊)
归因方法已被证明是识别导致学习模型预测的关键特征的有前途的方法。虽然大多数现有的归因方法依赖于基线输入进行功能扰动,有限的研究已经进行,以解决基线选择问题。基线选择不当限制了多类分类器的一对一(1-vs-1)解释能力,这意味着归因方法无法解释为什么输入属于其原始类而不是其他指定的目标类。当某些类别比其他类别更相似时,1-vs-1解释是至关重要的,例如多个动物中的两种鸟类,通过关注关键的差异特征而不是跨类别的共享特征。在本文中,我们提出了基于GAN的模型可解释性(GANMEX),这是一种通过将待解释的分类器作为对抗网络的一部分来应用生成对抗网络(GAN)的新方法。我们的方法有效地选择了反事实基线作为最接近的现实样本属于目标类,这使得归因方法提供真正的1对1的解释。我们发现,GANMEX基线改善了显着性图,并在基于扰动的评估指标上比现有基线表现更好。已知现有的归因结果对模型随机化不敏感,我们证明了GANMEX基线在模型的级联随机化下会产生更好的结果。
2021-06-23 cs.LG
Do Explanations Increase the Risk of Decision Logic Leakage? Explanation-Guided Stealing of Graph Models
The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));Xiamen University(厦门大学);The Pennsylvania State University(宾夕法尼亚州立大学)
研究解释机制可能泄露图神经网络决策逻辑的风险,提出一种结合解释对齐与数据增强的模型窃取框架,实验证明其优于传统方法。
2026-06-02 cs.AI cs.LG
Interpretable Counterfactual Explanations Guided by Prototypes
Seldon Technologies Ltd(塞尔登科技有限公司)
我们提出了一个快速的,模型不可知的方法,通过使用类原型来寻找分类器预测的可解释的反事实解释。我们表明,使用编码器或通过特定于类的k-d树获得的类原型显着加快了对反事实实例的搜索速度,并产生更多可解释的解释。我们引入了两个新的指标来定量评估本地的可解释性在实例级。我们使用这些指标来说明我们的方法在图像和表格数据集上的有效性,分别是MNIST和威斯康星州乳腺癌(诊断)。该方法还消除了计算瓶颈,因为数值梯度评估$\textit{black box}$模型。
2020-02-18 cs.LG stat.ML
Density-Guided Robust Counterfactual Explanations on Tabular Data under Model Multiplicity
School of Computer Science and Engineering, Central South University, Changsha, China(计算机科学与工程学院,中南大学,长沙,中国)
提出DensityFlow生成框架,利用神经ODE和密度评分构建鲁棒反事实解释,避免低密度区域,并在模型多重性下保持有效性。
2026-05-29 cs.LG
XRand: Differentially Private Defense against Explanation-Guided Attacks
University of Florida(佛罗里达大学);New Jersey Institute of Technology(新泽西理工学院)
可解释人工智能(XAI)领域的最新发展有助于提高机器学习即服务(MLaaS)系统的信任度,在MLaaS系统中,响应于每个查询,解释与模型预测一起提供。然而,XAI也为对手打开了一扇门,让他们能够深入了解MLaaS中的黑盒模型,从而使模型更容易受到多种攻击。例如,基于特征的解释(例如,SHAP)可能会暴露黑盒模型关注的最重要的功能。这种披露已被利用来制作针对恶意软件分类器的有效后门触发器。为了解决这种权衡,我们引入了一个新的概念,实现本地差分隐私(LDP)的解释,并从我们建立一个防御,称为XRand,对这种攻击。我们表明,我们的机制限制了信息,对手可以了解的最重要的功能,同时保持忠实的解释。
2022-12-14 cs.CR cs.LG
Guided by Stars: Interpretable Concept Learning Over Time Series via Temporal Logic Semantics
Università degli Studi di Trieste(特里埃斯特大学)
本文提出神经符号框架STELLE,通过将时间序列嵌入时序逻辑概念空间,在分类的同时提供局部与全局可解释性,并在多个基准上验证了其准确性与解释的忠实性。
2025-11-06 cs.LG
Explanation-Guided Fairness Testing through Genetic Algorithm
Xi’an Jiaotong University(西安交通大学)
公平性是可信AI系统的一个重要属性。大量的研究提出了不同的方法来测试个人的公平性。然而,它们受到三大限制,即,低效率、低效益和模型特异性。这项工作提出了ExpGA,通过遗传算法(GA)的推理引导的公平性测试方法。ExpGA采用可解释方法产生的解释结果来收集高质量的初始种子,这些种子易于通过稍微修改特征值来获得歧视性样本。ExpGA然后采用GA搜索歧视性的样本候选人,通过优化的适应值。将解释结果与遗传算法相结合,使得ExpGA能够有效地检测出歧视个体。此外,ExpGA只需要测试模型的预测概率,从而导致更好的泛化能力,以各种模型。多个真实世界的基准测试,包括表格和文本数据集上的实验表明,ExpGA比四个国家的最先进的方法具有更高的效率和有效性。
2022-05-16 cs.LG cs.NE
Info-CELS: Informative Saliency Map Guided Counterfactual Explanation
Utah State University(犹他州立大学)
针对 CELS 反事实解释模型有效性不足的问题,本文提出移除掩码归一化的 Info-CELS,在多领域数据集上提升了反事实解释的有效性与信息量。
2024-10-27 cs.LG stat.ML
Trustworthy AI-based crack-tip segmentation using domain-guided explanations
Institute for Frontier Materials on Earth and in Space, German Aerospace Center (DLR)(地球和空间前沿材料研究所,德国航空航天中心(DLR))
本文提出一种结合可解释AI和领域先验知识的注意力引导训练框架,用于提升裂缝尖端分割任务的模型泛化能力和解释可信度。
2026-02-03 cond-mat.mtrl-sci cs.LG
MEGL: Multimodal Explanation-Guided Learning
Emory University(埃默里大学);University of Michigan(密歇根大学)
本文提出多模态解释引导学习框架MEGL,通过融合视觉与文本解释并引入显著性驱动文本定位、文本监督和分布一致性损失,在Object-ME和Action-ME数据集上同时提升图像分类准确性与解释质量。
2024-11-20 cs.AI cs.CV cs.LG
Explanation-Guided Fair Federated Learning for Transparent 6G RAN Slicing
Iquadrat Informatica S.L.(伊夸德拉特信息有限公司);Technical University of Catalonia (UPC)(加泰罗尼亚理工大学);i2CAT Foundation(i2CAT基金会);ATHENA/ISI(雅典娜信息系统研究所);University of Patras(帕特雷大学)
本文提出解释引导联邦学习(EGFL-JS)方案,利用XAI解释和JS散度实现6G RAN切片中的透明公平预测,显著提升解释全面性和召回率。
2024-09-19 cs.LG cs.NI
CoLa-DCE -- Concept-guided Latent Diffusion Counterfactual Explanations
Continental Automotive Technologies GmbH(大陆汽车技术有限公司);University of Bamberg(班贝格大学)
提出CoLa-DCE方法,利用概念引导的潜在扩散模型为图像分类器生成高可控、高粒度的反事实解释,通过最小特征变化提升透明度与可理解性。
2024-06-03 cs.AI cs.LG stat.ME
Enhancing SHAP Explainability for Diagnostic and Prognostic ML Models in Alzheimer Disease
本文提出多级框架提升AD诊断预后模型SHAP解释的稳健性和一致性,通过整合相干性、稳定性与跨任务一致性验证解释的可靠性。
2026-03-06 cs.AI cs.LG
Explanation-Guided Adversarial Training for Robust and Interpretable Models
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Fuzhou University(福州大学);NLPR, MAIS, Institute of Automation, Chinese Academy of Sciences(神经网络与模式识别实验室、机器学习与智能系统研究所、自动化研究所,中国科学院)
EGAT结合对抗训练和解释引导学习,提升模型的预测性能、鲁棒性和解释质量,通过生成对抗示例并施加解释约束,在保持效率的同时增强模型的稳健性和可解释性。
2026-03-02 cs.AI cs.LG
Guided AbsoluteGrad: Magnitude of Gradients Matters to Explanation's Localization and Saliency
ImageNet-S;ResNet-50;ISIC;EfficientNet;Places365;DenseNet-161
本文提出基于梯度的XAI方法Guided AbsoluteGrad,利用正负梯度幅值和方差降噪,并引入RCAP指标评估定位与噪声,在三个数据集上超越七种基线方法。
2025-06-18 cs.AI cs.CV cs.HC
Comparative Explanations: Explanation Guided Decision Making for Human-in-the-Loop Preference Selection
Continental Automotive Technologies GmbH, AI Lab Berlin, Germany(大陆汽车技术有限公司,柏林AI实验室,德国);University of Marburg(马尔堡大学);Continental Automotive Technologies GmbH, Frankfurt, Germany(大陆汽车技术有限公司,法兰克福,德国)
本文提出比较性解释方法MOLONE,通过同时解释输入特征与输出目标在局部邻域内的重要性,帮助决策者理解多目标权衡,从而在人在回路偏好贝叶斯优化中加速偏好选择与收敛。
2025-08-22 cs.AI cs.LG
GCAN: Generative Counterfactual Attention-guided Network for Explainable Cognitive Decline Diagnostics based on fMRI Functional Connectivity
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
本文提出 GCAN,通过反事实推理生成认知衰退相关脑区注意力图,并用 AABT 提升受脑图谱约束的 FC 生成质量,从而在医院数据与 ADNI 上实现更准确且可解释的 MCI/SCD 诊断。
2024-08-24 cs.CV cs.LG eess.IV
Explainable AI guided unsupervised fault diagnostics for high-voltage circuit breakers
High Voltage Laboratory, ETH Zurich(苏黎世联邦理工学院高压实验室);Intelligent Maintenance and Operations Systems Laboratory, EPFL(洛桑联邦理工学院智能维护与运营系统实验室)
针对高压断路器实际场景缺乏故障标签的问题,提出仅用健康数据训练的无监督故障检测、分割与聚类框架,并结合 XAI 定位老化或故障部件。
2025-07-25 cs.LG eess.SP
Global Human-guided Counterfactual Explanations for Molecular Properties via Reinforcement Learning
Carnegie Mellon University(卡内基梅隆大学);University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校);Harvard University(哈佛大学);Visa Inc.(维萨公司)
针对分子科学中全局反事实解释缺乏人工真值难评估、大数据下随机搜索法受限的问题,提出基于强化学习的RLHEX模型,结合VAE生成器与适配器对齐人类原则,提升解释覆盖度与贴近度,可灵活融合领域知识。
2024-06-19 cs.LG q-bio.BM
ReLaX: Retinal Layer Attribution for Guided Explanations of Automated Optical Coherence Tomography Classification
The Pingry School(平格里学校);Chinle Comprehensive Health Care Facility(钦利综合医疗中心);University of Maryland, College Park(马里兰大学帕克分校);NVIDIA(英伟达)
每年有3000万次光学相干断层扫描(OCT)成像测试用于诊断各种视网膜疾病,但OCT扫描的准确诊断需要训练有素的眼科护理专业人员,他们仍然容易出错。有了更好的诊断系统,许多由视网膜疾病引起的视力丧失病例是可以完全避免的。在这项工作中,我们提出了ReLaX,这是一种新型的深度学习框架,用于对视网膜病变进行可解释的准确分类,达到了最先进的准确性。此外,我们强调生产模型的决策的定性和定量的解释。虽然以前的作品使用像素级的属性方法生成模型的解释,我们的工作使用一种新的视网膜层属性方法产生丰富的定性和定量的模型解释。ReLaX通过将热图与OCT分割模型相结合来确定每个视网膜层的重要性。我们的工作是第一次以这种方式对模型的预测进行详细的定量解释。准确性和可解释性的结合可以在临床上应用于可访问的、高质量的患者护理。
2022-10-01 cs.CV cs.LG eess.IV
From Answers to Arguments: Toward Trustworthy Clinical Diagnostic Reasoning with Toulmin-Guided Curriculum Goal-Conditioned Learning
School of Electronic and Electrical Engineering, Shanghai University of Engineering Science(上海工程技术大学电子与电气工程学院);Tencent Youtu Lab(腾讯优图实验室)
本文提出托尔金引导的课程目标条件学习框架,通过逐步训练LLM生成符合托尔金结构的诊断论证,提升临床诊断的透明性和可靠性。
2026-04-19 cs.AI cs.LG
OptiLIME: Optimized LIME Explanations for Diagnostic Computer Algorithms
University of Bologna(博洛尼亚大学)
局部可解释模型不可知推理(LIME)是一种流行的方法来执行任何类型的机器学习(ML)模型的可解释性。它每次解释一个ML预测,通过围绕预测学习一个简单的线性模型。该模型在随机生成的数据点上进行训练,从训练数据集分布中采样,并根据与参考点的距离进行加权-LIME解释了这一点。应用特征选择以仅保留最重要的变量。石灰广泛分布于不同的领域,尽管它的不稳定性-一个单一的预测可能会得到不同的解释-是主要的缺点之一。这是由于采样步骤中的随机性,以及调整权重的灵活性,并确定检索的解释缺乏可靠性,使得LIME的采用存在问题。特别是在医学领域,考虑到决策的重要性和相关的法律问题,临床专业人员必须确定是否接受可解释的算法。在本文中,我们强调了解释的稳定性和坚持性之间的权衡,即它与ML模型的相似程度。利用我们的创新发现,我们提出了一个框架,以最大限度地提高稳定性,同时保持预定义的遵守水平。OptiLIME提供了选择最佳粘附稳定性权衡水平的自由,更重要的是,它清楚地突出了检索解释的数学属性。因此,医生提供的工具,以决定是否解释是可靠的,根据手头的问题。我们在玩具数据集和医疗数据集上广泛测试了OptiLIME-以直观地呈现几何发现。在后者中,我们展示了该方法如何从医学和数学的角度提出有意义的解释。
2022-02-07 cs.AI cs.LG stat.ML
Diagnostic-Guided Longitudinal Modeling for Forecasting Retinal Atrophy Progression
Department of Ophthalmology, Massachusetts Eye and Ear, Harvard Medical School(眼科部门,麻省眼耳医院,哈佛医学院);Harvard Ophthalmology AI Lab, Schepens Eye Research Institute, Harvard Medical School(哈佛眼科人工智能实验室,斯科普斯眼研究所,哈佛医学院);Ocular Genomics Institute, Massachusetts Eye and Ear, Harvard Medical School(眼科基因组研究所,麻省眼耳医院,哈佛医学院);Broad Institute of MIT and Harvard, Cambridge, MA, USA(麻省理工学院与哈佛大学 Broad 实验室,剑桥,马萨诸塞州,美国)
本文研究了在纵向视网膜图像预测中,训练-推断输入对齐比框架选择更重要,通过分析任务熵和后验集中度,提出生成复杂度应与任务条件后验的熵匹配,实验表明对齐输入能显著提升性能,而框架选择无临床意义差异。
2026-09-21 cs.AI cs.CV cs.LG
STEP-EZ: Syntax Tree guided semantic ExPlanation for Explainable Zero-shot modeling of clinical depression symptoms from text
University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute (AMII)(阿尔伯塔机器智能研究所)
我们专注于探索零射击学习(Zero-Shot Learning,简称ZRL)的各种方法,以及它们对一个具有挑战性但又重要的监督学习任务的可解释性,该任务因训练数据稀缺而臭名昭著,即从文本中进行抑郁症状检测(Depression Symptoms Detection,简称DSD)。我们首先全面综合了我们的EML建模的不同组成部分,并在执业临床医生的帮助下分析了我们的地面真实样本和抑郁症状线索的治疗过程。接下来,我们将分析各种最先进的ARML模型的准确性及其对我们任务的潜在增强。此外,我们勾勒出一个框架,使用的层次化的基于文本的解释机制,我们称之为,语义树引导的语义解释(STEP)。最后,我们总结了实验,从中我们得出结论,我们可以使用CNOL模型,并实现合理的准确性和可解释性,衡量一个建议的可解释性指数(EI)。这项工作是,据我们所知,第一次工作,详尽地探讨的有效性,DSDtask,无论是在准确性和可解释性方面的CNOL模型。
2021-06-23 cs.AI cs.CL cs.IR
M-CELS: Counterfactual Explanation for Multivariate Time Series Data Guided by Learned Saliency Maps
Utah State University(犹他州立大学)
本文提出M-CELS,一种基于学习显著性图引导的反事实解释模型,用于提升多变量时间序列分类的可解释性,并在七个真实数据集上优于现有基线。
2024-11-04 cs.AI cs.LG
UGCE: User-Guided Incremental Counterfactual Exploration
University of Ioannina(伊奥安妮亚大学);Archimedes, Athena Research Center(阿提卡研究中心)
针对现有反事实解释方法无法适应动态约束且需从头计算的缺陷,提出基于遗传算法的增量框架UGCE,在保持高质量解的同时显著提升计算效率并支持稳定迭代。
2025-05-27 cs.LG
Diagnostic Benchmark and Iterative Inpainting for Layout-Guided Image Generation
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Microsoft Research(微软研究院)
针对布局引导图像生成在任意未见布局上泛化不足的问题,提出诊断基准LayoutBench和迭代修复基线IterInpaint,后者在OOD布局上显著优于现有模型,并在真实物体基准上全面超越SOTA。
2024-07-21 cs.AI cs.CL cs.CV
Auto-Discovery-Bench: Diagnosing Structured State Tracking in Oracle-Guided Discovery
National University of Singapore(国立新加坡大学);Mila-Quebec AI institute(魁北克AI研究院);Meta Superintelligence Labs(Meta超智能实验室)
提出Auto-Discovery-Bench基准,通过确定性Oracle引导的假设-干预-反馈循环,诊断智能体在结构化状态追踪中的能力瓶颈。
2026-05-29 cs.AI cs.LG
Leveraging Multiple Teachers for Test-Time Adaptation of Language-Guided Classifiers
Texas A&M University(德克萨斯A&M大学);UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出TALC框架,利用数据编程在测试时结合多个教师的解释和未标记示例自适应语言引导分类器,相对基线提升9.3%,并展示了对解释质量与数量的鲁棒性。
2023-11-13 cs.CL cs.LG
Adaptive Learning Guided by Bias-Noise-Alignment Diagnostics
Department of Electrical, Computer and Software Engineering, Ontario Tech University(电气、计算机与软件工程系, Ontario Tech 大学)
本文提出了一种由偏倚-噪声对齐诊断引导的自适应学习框架,通过分解误差演变的三个组成部分,为监督优化、强化学习和学习优化器提供统一控制核心,并展示了其在动态环境中的稳定性和有效性。
2026-01-02 cs.LG cs.SY eess.SY
Counterfactual Explanations in Medical Imaging: Exploring SPN-Guided Latent Space Manipulation
Johannes Gutenberg University Mainz(法兰克福-主茨大学)
本文提出用 SPN 建模半监督 VAE 潜空间并引导反事实优化,使医学影像反事实同时贴近原数据与目标类别分布,且在 cheXpert 上验证其效果。
2025-07-25 cs.AI cs.LG
EG-Booster: Explanation-Guided Booster of ML Evasion Attacks
University of Michigan, Dearborn(密歇根大学迪尔伯恩分校)
机器学习(ML)在众多领域的广泛使用引发了对其在安全关键环境中的可信度的质疑。对可信ML的部分追求是对ML模型进行鲁棒性评估,以测试对抗性示例。与可信赖的ML目标相一致,可能有助于鲁棒性评估的有用输入是模型预测的基于特征的解释。在本文中,我们提出了一种名为EG-Booster的新方法,该方法利用可解释的ML技术来指导对抗性示例制作,以便在将ML模型部署到安全关键设置中之前对其进行改进的鲁棒性评估。EG-Booster的关键见解是使用基于特征的模型预测解释来指导对抗性示例制作,方法是添加可能导致模型规避的结果性扰动,并避免不太可能导致规避的非结果性扰动。EG-Booster对模型架构、威胁模型不可知,并支持文献中以前使用的各种距离度量。我们使用图像分类基准数据集,MNIST和CIFAR 10评估EG-Booster。我们的研究结果表明,EG-Booster显着提高了最先进的攻击的逃避率,同时执行更少的扰动。通过涵盖四种白盒和三种黑盒攻击的广泛实验,我们证明了EG-Booster对两个在MNIST和CIFAR 10上训练的无防御神经网络以及另一个在CIFAR 10上训练的对抗训练ResNet模型的有效性。此外,我们引入了一个稳定性评估指标,并通过观察EG-Booster多次运行的模型分类输出之间的相似性来评估我们基于简化的方法的可靠性。
2021-09-02 cs.CR cs.LG
ENGAGE: Explanation Guided Data Augmentation for Graph Representation Learning
University of Georgia(佐治亚大学);Rice University(莱斯大学)
针对图对比学习中随机扰动易破坏图结构的问题,提出解释引导的数据增强方法ENGAGE,利用平滑激活图评估节点重要性并设计结构与特征增强方案,有效提升了图表示学习性能。
2023-07-03 cs.AI cs.IT cs.LG
DriveBLIP2: Attention-Guided Explanation Generation for Complex Driving Scenarios
School of Computing and Information, University of Pittsburgh(计算与信息学院,匹兹堡大学)
本文提出基于 BLIP2-OPT 的 DriveBLIP2 框架,通过注意力图生成器突出关键目标,提升复杂驾驶场景下决策解释的准确性与可解释性。
2025-06-25 cs.CV cs.LG cs.RO
CASE: Contrastive Activation for Class-Sensitive Explanations
University of Virginia(弗吉尼亚大学)
本文提出类敏感性诊断测试,发现多数显著性方法对竞争类标签产生几乎相同的解释,并引入对比解释方法CASE,以分离预测类独有的判别特征,生成更忠实且类别特异的解释。
2026-09-21 cs.CV cs.LG
Bridging Stepwise Lab-Informed Pretraining and Knowledge-Guided Learning for Diagnostic Reasoning
Stevens Institute of Technology(史蒂文斯理工学院);Weill Cornell Medicine, Cornell University(康奈尔大学威尔医学院)
针对数据驱动模型难以整合临床医学知识的问题,提出DuaLK双专业框架,结合诊断知识图谱与实验室信息代理任务,在两个EHR数据集的四个临床预测任务中持续优于基线,提升诊断预测的准确性与可解释性。
2025-04-15 cs.AI cs.IR cs.LG
Experience-Guided Self-Adaptive Cascaded Agents for Breast Cancer Screening and Diagnosis with Reduced Biopsy Referrals
Department of Engineering Science, University of Oxford(牛津大学工程科学系);Department of Computer Science, Khalifa University(卡利法大学计算机科学系)
基于经验的自适应级联代理框架用于乳腺癌筛查与诊断,通过减少诊断升级和活检指征提升诊断特异性。
2026-02-27 cs.AI cs.CV cs.LG
EMAP: Explanation by Minimal Adversarial Perturbation
Edinburgh University(爱丁堡大学);RWTH Aachen University(亚琛工业大学);QuantumBlack(昆腾布莱克)
现代基于实例的模型不可知解释方法(LIME,SHAP,L2X)在数据密集型行业中非常有用,用于模型诊断和最终用户解释。这些方法通常返回输入特征的权重或子集作为实例分类的解释。另一种文献认为,相反,反事实的情况下提供了一个更有用的表征黑盒分类器的决定。我们提出了EMAP,一个基于神经网络的方法,返回解释的最小对抗扰动的一个实例,导致底层的黑盒模型misclassify。我们表明,这种方法结合了这两种范式,恢复输出的特征加权方法在连续的特征空间,同时也表明了方向,其中最近的反事实可以找到我们的方法还提供了一个隐含的信心估计在自己的解释,增加了清晰的模型诊断其他方法缺乏。此外,EMAP将基于采样的方法(如LIME)的速度提高了一个数量级,允许在时间关键型应用程序中或在数据集级别进行模型解释,其中基于采样的方法是不可行的。我们使用分区Gumbel层扩展我们的方法到分类特征,并在几个标准数据集上证明了其有效性。
2019-12-02 cs.LG stat.ML
CR3G: Causal Reasoning for Patient-Centric Explanations in Radiology Report Generation
IIT Bombay(博伊斯大学)
CR3G通过因果推理提升放射学报告生成的解释能力,增强AI诊断的可信度和实用性。
2025-12-03 cs.AI cs.LG
A Causal Lens for Evaluating Faithfulness Metrics
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出因果诊断性框架,用于评估自然语言解释的忠实度度量,通过生成忠实-不忠实解释对,发现Filler Tokens在多任务中表现最佳,连续度量更优但易受噪声影响。
2025-12-24 cs.AI cs.CL cs.LG
Adaptive Language-Guided Abstraction from Contrastive Explanations
MIT(麻省理工学院);Princeton(普林斯顿大学);The AI Institute(人工智能研究院)
针对机器人从演示学习奖励时端到端方法脆弱、泛化性差的问题,提出ALGAE方法,交替用语言模型提取人类可理解特征、逆强化学习分配权重,仅需少量演示就能学习可泛化的可解释奖励函数,还能自主补全缺失特征。
2024-09-13 cs.LG cs.RO
Explanation-Guided Backdoor Poisoning Attacks Against Malware Classifiers
Northeastern University(东北大学);FireEye Inc.(火眼公司);Xailient Inc.(Xailient公司)
用于基于机器学习(ML)的恶意软件分类的训练管道通常依赖于众包威胁源,从而暴露出自然的攻击注入点。在本文中,我们研究了基于特征的ML恶意软件分类器对后门中毒攻击的敏感性,特别关注具有挑战性的“干净标签”攻击,其中攻击者不控制样本标签过程。我们建议使用可解释的机器学习技术来指导相关特征和值的选择,从而以与模型无关的方式创建有效的后门触发器。使用多个参考数据集进行恶意软件分类,包括Windows PE文件,PDF和Android应用程序,我们展示了对各种机器学习模型的有效攻击,并评估了对攻击者施加的各种约束的影响。为了证明我们的后门攻击在实践中的可行性,我们为Windows PE文件创建了一个水印实用程序,保留了二进制文件的功能,我们利用类似的行为保留更改方法为Android和PDF文件。最后,我们实验了潜在的防御策略,并展示了完全防御这些攻击的困难,特别是当攻击与合法的样本分布相融合时。
2021-01-11 cs.CR cs.LG
Going Beyond XAI: A Systematic Survey for Explanation-Guided Learning
Emory University(埃默里大学);George Mason University(乔治梅森大学)
随着深度神经网络(DNN)的社会影响力不断增长,推进DNN的目标变得更加复杂和多样化,从提高传统模型的准确性指标到注入先进的人类美德,如公平,问责制,透明度(FaccT)和无偏见。最近,可解释人工智能(XAI)的技术引起了相当大的关注,并极大地帮助了机器学习(ML)工程师理解AI模型。然而,与此同时,我们开始看到AI社区对XAI之外的新兴需求;基于从XAI学到的见解,我们如何更好地授权ML工程师指导他们的DNN,以便模型的合理性和性能可以按照预期得到改善?这篇文章提供了一个及时和广泛的文献综述领域的解释引导学习(EGL),一个技术领域,引导DNN的推理过程,通过添加正则化,监督或干预模型解释。在这样做的时候,我们首先提供了一个正式的定义EGL和它的一般学习范式。其次,概述了EGL评估的关键因素,以及现有的EGL评估程序和指标的总结和分类。最后,当前和潜在的未来应用领域和方向的EGL进行了讨论,并提出了广泛的实验研究,旨在提供全面的比较研究现有EGL模型在各种流行的应用领域,如计算机视觉(CV)和自然语言处理(NLP)领域。
2022-12-07 cs.AI cs.CV cs.HC
XGBD: Explanation-Guided Graph Backdoor Detection
University of Georgia(佐治亚大学);New Jersey Institute of Technology(新泽西理工学院)
本文提出解释引导的图后门检测方法XGBD,利用图拓扑信息通过解释方法提取判别性子图,有效区分后门样本与干净样本,并在多个数据集上验证了其有效性和可解释性。
2023-08-08 cs.CR cs.LG cs.SI
ExPO: Unlocking Hard Reasoning with Self-Explanation-Guided Reinforcement Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校)
ExPO通过自我解释引导强化学习,提升模型在复杂推理任务中的学习效率和性能。
2026-01-26 cs.CL cs.LG
Improving Model's Interpretability and Reliability using Biomarkers
Carnegie Mellon University(卡内基梅隆大学);Louisiana State University(路易斯安那州立大学)
本研究提出基于生物标志物的肺部超声诊断流程,发现决策树解释比传统显著性图更能帮助临床医生识别模型的不准确预测并检测假阳性,从而提升医学诊断模型的可解释性与可靠性。
2025-01-30 cs.AI cs.HC cs.LG
Machine Guides, Human Supervises: Interactive Learning with Global Explanations
KU Leuven(KU Leuven(天主教鲁汶大学));University of Trento(特伦托大学)
我们介绍解释性引导学习(XGL),一种新的交互式学习策略,其中机器引导人类主管选择信息丰富的分类器的例子。通过全局解释来提供指导,该全局解释总结了分类器在实例空间的不同区域上的行为并暴露其缺陷。与其他解释性交互式学习策略相比,这些策略是机器发起的,依赖于本地解释,XGL被设计为对机器提供的解释超过分类器质量的情况具有鲁棒性。此外,XGL利用全局解释来打开人类发起的交互的黑盒子,使主管能够选择挑战学习模型的信息示例。通过与交互式机器教学相联系,我们从理论上证明了全局解释是指导主管的可行方法。我们的模拟表明,解释性引导学习避免了过度销售模型的质量,并在模型质量方面比机器和人类发起的交互式学习策略表现更好。
2020-09-21 cs.AI cs.LG stat.ML
SAEExplainer: Interpreting SAE Features with Activation-Guided Preference Optimization
Shanghai Jiao Tong University(上海交通大学);NJIT(新泽西理工学院);Jilin University(吉林大学);Institute of Computing Technology, CAS(中国科学院计算技术研究所);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
提出SAEExplainer框架,利用激活分数作为奖励信号,通过两轮优化迭代自纠正基础解释,减少解释幻觉并增强因果触发模式。
2026-09-14 cs.CL cs.LG
Exploring Deep Learning for Full-disk Solar Flare Prediction with Empirical Insights from Guided Grad-CAM Explanations
Georgia State University(佐治亚州立大学)
本研究提出全日面深度学习模型预测≥M级太阳耀斑,利用Guided Grad-CAM解释,在中心和近临边均有效,TSS约0.51,HSS约0.38,识别活动区特征,对业务预测有重要意义。
2023-08-30 astro-ph.IM astro-ph.SR cs.LG