Towards Explaining Distribution Shifts
Purdue University(普渡大学)
本文提出用可解释传输映射解释分布偏移,通过最优传输松弛限制候选映射,在表格、文本和图像数据集上验证,平衡了细节与可解释性。
2023-06-20 cs.CV cs.LG
Decoding pedestrian and automated vehicle interactions using immersive virtual reality and interpretable deep learning
Ryerson University(瑞尔森大学)
为了确保在自动驾驶汽车时代行人友好的街道,重新评估城市地区的现行政策,做法,设计,规则和法规至关重要。本研究调查行人过街行为,作为城市动态的一个重要因素,预计将受到自动驾驶汽车的存在。为此,提出了一个可解释的机器学习框架,以探讨在自动驾驶汽车存在的情况下,影响行人在穿过中间街区人行横道前等待时间的因素。为了收集丰富的行为数据,我们开发了一个动态和沉浸式的虚拟现实实验,180名参与者来自大多伦多地区(GTA)4个不同地点的异质人群。然后使用数据驱动的Cox比例风险(CPH)模型分析行人等待时间行为,其中协变量的线性组合被灵活的非线性深度神经网络取代。所提出的模型在拟合优度方面实现了5%的改进,但更重要的是,使我们能够纳入更丰富的协变量集。一个基于博弈论的可解释性方法被用来了解不同的协变量的行人等待过马路前的时间的贡献。结果表明,道路上自动驾驶汽车的存在,更宽的车道宽度,道路上的高密度,有限的视线距离和缺乏步行习惯是导致等待时间延长的主要因素。我们的研究表明,为了向对残疾人友好的城市地区迈进,应考虑国家一级的儿童教育方案,加强老年人的安全措施,推广积极的交通方式,并修订交通规则和条例。
2021-01-05 cs.HC cs.LG
Interpretable Machine Learning for Self-Service High-Risk Decision-Making
Central Washington University(中央华盛顿大学)
本文通过一般线坐标(GLC)的视觉知识发现,可解释的机器学习。超块作为可解释的数据集单元和一般线坐标的概念相结合,以创建一个可视化的自助机器学习模型。提出了DSC1和DSC2无损多维坐标系。DSC1和DSC2可以使用图形构造算法将多个数据集属性映射到单个二维(X,Y)笛卡尔平面。超块分析用于确定视觉上吸引人的数据集属性顺序并减少线遮挡。结果表明,超块可以推广决策树规则,一系列的DSC1或DSC2图可以可视化一棵决策树。DSC1和DSC2图在UCI ML存储库的基准数据集上进行了测试。它们允许对数据进行视觉分类。此外,还发现了超块杂质区域,并用于建立数据集分割,突出最坏情况下模型准确性的上限估计,以指导高风险决策的模型选择。DSC1和DSC2的主要优点是它们的高度可解释性。它们允许领域专家通过视觉模式发现来控制或建立新的机器学习模型。
2022-05-09 cs.GR cs.LG
Prediction Intervals: Split Normal Mixture from Quality-Driven Deep Ensembles
Norwegian University of Science and Technology (NTNU)(挪威科技大学)
预测区间是一种机器和人类可解释的方式,用于表示回归分析中的预测不确定性。在本文中,我们提出了一种方法,用于生成预测区间以及点估计从合奏的神经网络。我们提出了一个多目标的损失函数融合的质量措施有关的预测区间和点估计,和惩罚函数,这加强了语义完整性的结果和稳定的神经网络的训练过程。集成的预测区间被聚合为分裂的正态混合物,考虑到后验预测分布的可能的多峰性和不对称性,并导致捕获任意和认知不确定性的预测区间。我们的研究结果表明,我们的质量驱动的损失函数和我们的聚合方法有助于良好校准的预测区间和点估计。
2020-07-19 cs.LG stat.ML
Greenhouse gases emissions: estimating corporate non-reported emissions using interpretable machine learning
BNP Paribas(法国巴黎银行);CentraleSupélec, Université Paris-Saclay(巴黎萨克雷大学中央理工-高等电力学院)
截至2022年,温室气体(GHG)排放报告和审计尚未强制要求所有公司,测量和估计方法也未统一。我们提出了一个基于机器学习的模型来估计尚未报告的公司的范围1和范围2温室气体排放量。我们的模型专门设计为透明并完全适应这种用例,能够估计大量公司的排放量。它显示出良好的样本外的全球表现,以及良好的样本外的粒度性能时,按部门,按国家或收入桶进行评估。我们还将我们的结果与其他供应商的结果进行比较,发现我们的估计更准确。由于使用Shapley值的可解释性工具,我们的模型是完全可解释的,用户能够理解哪些因素可以解释每个特定公司的温室气体排放。
2022-12-21 cs.AI cs.LG q-fin.GN
Interpretable Machine Learning for Discovery: Statistical Challenges \& Opportunities
Rice University(莱斯大学);Baylor College of Medicine(贝勒医学院)
本文综述了 Interpretable Machine Learning 在科学发现中的应用,重点探讨了在监督和无监督环境下生成新知识的技术,并以数据划分、稳定性及统计推断等理论与实践视角分析了验证发现的重大挑战。
2023-08-02 cs.LG stat.ME stat.ML
Dynamic Model Tree for Interpretable Data Stream Learning
University of Tuebingen(蒂宾根大学);Schufa Holding AG(Schufa控股股份公司)
数据流在现代商业和社会中无处不在。在实践中,数据流可能会随着时间的推移而演变,并且不能无限期地存储。因此,对数据流进行有效和透明的机器学习通常具有挑战性。Hoeffding树已经成为在线预测建模的最先进技术。它们易于训练,并在静态过程下提供有意义的收敛保证。然而,在同一时间,Hoeffding树往往需要启发式和昂贵的扩展,以适应分布的变化,这可能会大大削弱其可解释性。在这项工作中,我们重新访问模型树的机器学习在不断变化的数据流。模型树能够维护活动数据概念的更灵活和局部鲁棒的表示,使其自然适合数据流应用程序。我们的新框架,称为动态模型树,满足理想的一致性和最小属性。在合成和现实世界的表格流数据集的实验中,我们表明,所提出的框架可以大大减少现有的增量决策树所需的分裂的数量。与此同时,我们的框架在预测质量方面通常优于最先进的模型-特别是当涉及概念漂移时。因此,动态模型树是一个强大的在线学习框架,有助于在数据流中进行更轻量级和更可解释的机器学习。
2022-03-30 cs.LG stat.ML
Feature graphs for interpretable unsupervised tree ensembles: centrality, interaction, and application in disease subtyping
University of Urbino(乌尔比诺大学);Medical University of Graz(格拉茨医科大学)
本研究提出从无监督随机森林构建特征图并据此进行特征选择的方法,通过特征中心性和边权重评估特征相关性,在合成与组学数据中有效提升了聚类性能与可解释性。
2024-04-27 cs.AI cs.LG
LHT: Statistically-Driven Oblique Decision Trees for Interpretable Classification
Department of Automation(自动化系);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Department of Computing Science(计算机科学系);University of Alberta(阿尔伯塔大学)
本文提出学习超平面树(LHT),通过统计驱动方式直接计算斜分裂超平面,结合分段线性隶属函数进行可解释分类,并在基准数据集上验证了其竞争力和理论可行性。
2025-05-07 cs.LG
Predicting the Transportation Activities of Construction Waste Hauling Trucks: An Input-Output Hidden Markov Approach
Southwest Jiaotong University(西南交通大学)
本文提出基于输入-输出隐马尔可夫模型(IOHMM)的可解释活动预测方法,结合情境因素预测成都300辆建筑垃圾运输车的目的地与停留时间,性能优于马尔可夫链、线性回归和LSTM。
2023-12-06 cs.LG
Interpretable Stability Bounds for Spectral Graph Filters
University of Oxford(牛津大学);EPFL(洛桑联邦理工学院)
图结构数据出现在各种现实世界的背景下,从传感器和交通到生物和社交网络。作为处理图结构数据的普遍工具,谱图滤波器已被用于解决去噪和异常检测等常见任务,以及设计深度学习架构,如图神经网络。尽管是一个重要的工具,但缺乏对谱图滤波器稳定性的理论理解,这对于设计鲁棒的机器学习模型非常重要。在本文中,我们研究了滤波器的稳定性,并提供了一个新的和可解释的上限滤波器输出的变化,其中界表示在删除和新添加的边缘的端点度,以及这些边缘的空间接近。这个上界允许我们根据图的结构性质来推理谱图滤波器何时是稳定的。我们进一步进行了广泛的实验,以验证直觉,可以从边界。
2021-02-18 cs.LG
Interpretable clustering via optimal multi-way decision trees
Graduate School of Science and Technology, University of Tsukuba(科学技术研究生院,东京大学);Institute of Systems and Information Engineering, University of Tsukuba(系统与信息工程研究所,东京大学)
本文提出基于最优多方式分割决策树的可解释聚类方法,通过整合一维K均值算法实现灵活分支,提升聚类准确性和可解释性。
2026-08-24 cs.LG
Interpretable Rule Discovery Through Bilevel Optimization of Split-Rules of Nonlinear Decision Trees for Classification Problems
Michigan State University(密歇根州立大学)
对于涉及设计,控制,其他实际目的的监督分类问题,用户不仅有兴趣找到一个高精度的分类器,但他们也要求得到的分类器是容易解释的。虽然分类器的可解释性的定义可以因情况而异,但在这里,通过人类可解释的分类器,我们将其限制为用简单的数学术语表示。作为一种新的方法,我们表示一个简单的数学规则,使用非线性决策树(NLDT)的组合分类器。树的每个条件(非终端)节点表示涉及特征的非线性数学规则(分裂规则),以便将给定条件节点中的数据集划分为两个不重叠的子集。这种划分旨在最小化结果子节点的不纯性。通过限制每个条件节点上的分裂规则结构和决策树的深度,保证了分类器的可解释性。在一个给定的条件节点的非线性分裂规则是使用进化的双层优化算法,而上层集中在到达一个可解释的结构的分裂规则,较低的水平实现最合适的权重(系数)的规则的各个组成部分,以最大限度地减少净杂质的两个子节点。所提出的算法的性能证明了一些控制测试问题,现有的基准问题,和工业问题。两个到500个特征问题的结果是令人鼓舞的,并开辟了进一步的范围,应用所提出的方法,更具有挑战性和复杂的分类任务。
2020-08-02 cs.LG cs.NE stat.ML
Splitting the Difference: Interpretable Causal Forests for Treatment Effect Heterogeneity and Bias
University of Regensburg(雷根斯堡大学)
本文提出一种基于决策树和随机森林的简单算法,通过结合异质性与偏差校正两个分裂准则,无需额外估计倾向函数即可估计个体处理效应,兼顾预测准确性与可解释性。
2026-09-16 cs.LG stat.ML
From Street Views to Urban Science: Discovering Road Safety Factors with Multimodal Large Language Models
McGill University(麦吉尔大学);Massachusetts Institute of Technology(麻省理工学院);The University of Hong Kong(香港大学)
针对城市道路安全研究依赖人工假设且可解释性差的问题,提出基于多模态大语言模型的UrbanX框架,自动生成、评估和精炼假设,在曼哈顿数据上优于深度学习模型并保持完全可解释性。
2025-06-17 cs.CY cs.LG
UniST-Pred: A Robust Unified Framework for Spatio-Temporal Traffic Forecasting in Transportation Networks Under Disruptions
UniST-Pred提出了一种统一的时空预测框架,通过解耦时间建模与空间表示学习,实现对交通网络中断下的鲁棒预测。
2026-10-07 cs.AI cs.LG
Rectified Decision Trees: Exploring the Landscape of Interpretable and Effective Machine Learning
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
可解释性和有效性是在现实中采用机器学习方法的两个基本且不可或缺的要求。在本文中,我们提出了一个知识蒸馏为基础的决策树扩展,被称为整流决策树(ReDT),探索同时满足这些要求的可能性。具体来说,我们扩展了标准决策树的分裂标准和结束条件,允许使用软标签进行训练,同时保留确定性的分裂路径。然后,我们训练的ReDT的基础上的软标签从一个训练有素的教师模型通过一种新的基于折刀的方法。因此,ReDT保留了决策树的优秀可解释性,同时具有相对良好的性能。本文还从理论和实证两方面分析了采用软标签替代硬标签的有效性。令人惊讶的是,实验表明,软标签的引入也减少了模型的大小相比,标准的决策树从总节点和规则的方面,这是一个意想不到的礼物,从“暗知识”从教师模型蒸馏。
2020-08-21 cs.LG stat.ML
A Fairness Audit of the Duckworth-Lewis-Stern Method: Format-Specific and Gender-Differential Bias, with an Interpretable Calibration Layer for Cricket Target Revision
St. Xavier’s College (Autonomous)(圣泽维尔学院(自治))
本文审计板球目标修正的DLS方法,发现其存在赛制特定偏差与性别差异偏差,提出轻量级可解释校准层DLS-Cal可显著降低偏差,性别感知变体可缩小性别偏差差距。
2026-09-07 cs.LG
Smart Transportation Without Neurons -- Fair Metro Network Expansion with Tabular Reinforcement Learning
Socially Intelligent Artificial Systems University of Amsterdam(社会智能人工智能系统大学阿姆斯特丹)
针对地铁网络扩展问题,提出将非马尔可夫奖励决策过程与表格强化学习相结合的方法,在保证性能的同时大幅降低训练轮次和碳排放,并融入社会公平性指标。
2026-06-02 cs.AI cs.LG
Physics-Informed Machine Learning for Vessel Shaft Power and Fuel Consumption Prediction: Interpretable KAN-based Approach
Simula Research Laboratory(Simula研究实验室)
本文提出了一种结合物理信息和可解释性方法的KAN网络,用于提高船舶轴功率和燃油消耗预测的准确性与可解释性。
2026-02-25 cs.AI cs.LG
Making Neural Networks Interpretable with Attribution: Application to Implicit Signals Prediction
Deezer Research(Deezer 研究院)
解释建议使用户能够了解推荐的项目是否与他们的需求相关,并已被证明可以增加他们对系统的信任。更一般地说,如果设计可解释的机器学习模型是检查决策过程的健全性和鲁棒性并提高其效率的关键,那么对于复杂的架构,特别是通常被认为是“黑匣子”的深度神经网络,这仍然是一个挑战。在本文中,我们提出了一种新的可解释的深层神经网络的归因任务的制定。与流行的事后方法不同,我们的方法是可解释的设计。使用掩码权重,隐藏的特征可以被深度归因,分成几个输入受限的子网络,并训练为专家的增强混合专家模型。在合成数据和真实世界推荐任务上的实验结果表明,我们的方法能够构建模型,实现与不可解释的模型接近的预测性能,同时提供信息丰富的归因解释。
2020-08-26 cs.LG stat.ML
Individual Mobility Prediction: An Interpretable Activity-based Hidden Markov Approach
Massachusetts Institute of Technology(麻省理工学院);The University of Hong Kong(香港大学);Northeastern University(东北大学)
个体流动性是由不同时空模式的活动需求驱动的,但现有的流动性预测方法往往忽略了潜在的活动模式。为了解决这个问题,本研究开发了一个基于活动的建模框架,个人流动性预测。具体而言,输入输出隐马尔可夫模型(IOHMM)框架,提出了同时预测(连续)的时间和(离散)的个人的下一次旅行使用过境灵巧卡数据的位置。预测任务可以转化为预测隐藏活动持续时间和结束位置。基于香港地铁系统的案例研究,我们表明,该模型可以实现与最先进的长短期记忆(LSTM)模型相似的预测性能。与LSTM不同的是,IOHMM模型还可以用来分析隐藏的活动模式,这为个人为什么进行某次旅行提供了有意义的行为解释。因此,基于活动的预测框架提供了一种方法来保留高级机器学习方法的预测能力,同时增强我们生成有洞察力的行为解释的能力,这对于增强以用户为中心的交通应用(如个性化旅行者信息)中的态势感知非常有用。
2021-01-11 cs.AI cs.LG stat.ML
Evolving Features vs Evolving Entire Trees with GP for Interpretable Survival Analysis
Leiden University Medical Center(莱顿大学医学中心);Centrum Wiskunde & Informatica(数学与信息学研究中心)
本研究使用遗传编程多目标进化可检查的特征集,并联合优化生存树结构与非线性分裂逻辑,以提高浅层生存树的预测性能和可解释性。
2026-06-05 cs.AI cs.LG cs.NE
Context-aware Attention-based Gaussian Mixture Models for Vehicular Trajectory Prediction
University of Central Florida(中佛罗里达大学)
本文提出CAA-GMM模型,利用上下文感知注意力机制和高斯混合实现多模态轨迹预测,在nuScenes和Argoverse 2数据集上达到先进精度且计算高效。
2026-10-08 cs.LG
A Multi-Head Attention Soft Random Forest for Interpretable Patient No-Show Prediction
Kumoh National Institute of Technology(金乌国立工科大学)
多头注意力软随机森林通过概率性软分裂和注意力机制,提升患者缺席预测的准确性和可解释性。
2026-01-20 cs.AI cs.CY cs.LG
Uncertainty Quantification of Sparse Travel Demand Prediction with Spatial-Temporal Graph Neural Networks
Massachusetts Institute of Technology(麻省理工学院);University of Florida(佛罗里达大学);Northeastern University(东北大学)
出行需求预测是交通领域的一项基本挑战。最近,时空深度学习模型展示了提高预测精度的巨大潜力。然而,很少有研究解决细粒度O-D矩阵的不确定性和稀疏性问题。这带来了一个严重的问题,因为大量的零偏离了确定性深度学习模型的高斯假设。为了解决这个问题,我们设计了一个时空零膨胀负二项图神经网络(STZINB-GNN)来量化稀疏出行需求的不确定性。它使用扩散和时间卷积网络分析空间和时间相关性,然后将其融合以参数化出行需求的概率分布。STZINB-GNN使用具有各种空间和时间分辨率的两个真实世界数据集进行检查。结果表明STZINB-GNN优于基准模型,特别是在高时空分辨率下,因为它的高精度,紧置信区间和可解释的参数。STZINB-GNN的稀疏性参数对于各种运输应用具有物理解释。
2022-08-11 cs.LG stat.ML
Semantic Communication-Enhanced Split Federated Learning for Vehicular Networks: Architecture, Challenges, and Case Study
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院);Faculty of Information Technology, University of Jyväskylä(于韦斯屈莱大学信息科技学院);Center for Intelligent Networking and Communications (CINC), University of Electronic Science and Technology of China(电子科技大学智能网络与通信中心)
本文提出一种增强语义通信的分裂联邦学习框架,通过压缩传输任务相关信息以降低通信开销并保护隐私,适用于车联网环境。
2026-03-05 cs.LG
Interpretable Cascading Mixture-of-Experts for Urban Traffic Congestion Prediction
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);Didichuxing Co. Ltd(滴滴出行有限公司)
针对交通拥堵预测中异构动态时空依赖难捕捉、数据含噪缺失的问题,本文提出带拥堵感知偏置的级联混合专家模型CP-MoE,结合有序回归实现多专家协作,性能优于现有模型且已部署于DiDi提升行程时间估计效果。
2024-06-14 cs.LG cs.MA
KernelOnet: An Interpretable Neural Operator Based on Kernel Functions
Hohai University(河海大学);Bauhaus-University Weimar(包豪斯大学魏玛)
KernelOnet通过显式核函数构建可解释神经算子,提供数据驱动、物理信息和混合三种核,在基准与波导问题上以更少参数实现高精度,并支持无监督训练与高效推理。
2026-09-30 cs.LG
Development of a graph neural network surrogate for travel demand modelling
Technical University of Munich(慕尼黑工业大学)
针对出行需求建模的现有方法局限,研究提出GATv3图注意力网络变体与细粒度分类框架,结合合成数据生成策略,验证了细粒度分类的优势及GATv3在交通分类场景的适用性。
2025-03-20 cs.AI cs.LG
A Clustering-aided Ensemble Method for Predicting Ridesourcing Demand in Chicago
University of Florida(佛罗里达大学)
准确预测出行需求对于有效的交通规划和决策至关重要。随着人工智能(AI)的兴起,研究人员已经开始利用机器学习模型来预测出行需求,在许多情况下,这种模型可以产生比统计模型更高的预测精度。然而,大多数现有的机器学习研究使用全局模型来预测需求,忽略了空间异质性的影响(即,解释变量影响的空间差异)。空间异质性可以驱动参数估计随空间变化;不考虑空间变化可能会限制模型的预测性能。为了考虑空间异质性,本研究提出了一种基于聚类辅助的包围方法(CEM)来预测区域间(人口普查区到人口普查区)的乘车服务需求。具体来说,我们开发了一个聚类框架,将起点-目的地对分成不同的聚类,并集成特定于聚类的机器学习模型进行预测。我们实施和测试所提出的方法,使用在芝加哥的乘车行程数据。结果表明,由于模型结构更加透明和灵活,CEM比基准模型(即,全局机器学习和统计模型直接在所有观察上训练)。这项研究为交通研究人员和从业人员提供了一种新的出行需求预测方法,特别是对于新的出行模式,如乘车和微出行。
2021-09-08 cs.LG
Interpretable Dynamic Graph Neural Networks for Small Occluded Object Detection and Tracking
Department of Computer Science, American International University-Bangladesh(美国国际大学-孟加拉国计算机科学系);Department of Industrial Engineering and Management, Khulna University of Engineering and Technology (KUET)(Khulna工程与技术大学工业工程与管理系);Physics and Biology Unit, Okinawa Institute of Science and Technology Graduate University (OIST)(冲绳科学与技术研究生大学物理与生物学单元)
本文提出DGNN-YOLO框架,将动态图神经网络与YOLO11结合,并引入Grad-CAM等可视化技术,有效解决城市交通中小尺寸遮挡目标的实时检测与跟踪难题,性能显著优于现有方法。
2025-05-05 cs.CV cs.LG
A Compact and Interpretable Convolutional Neural Network for Cross-Subject Driver Drowsiness Detection from Single-Channel EEG
Fraunhofer Singapore(弗劳恩霍夫新加坡);Nanyang Technological University(南洋理工大学)
在交通运输行业中,驾驶员困倦是导致道路交通事故和危害的主要因素之一。脑电(EEG)直接测量大脑的神经生理活动,被认为是检测驾驶员困倦状态的最佳生理信号之一。然而,设计一个免校准的驾驶员困倦检测系统与脑电图仍然是一个具有挑战性的任务,因为脑电图遭受严重的精神和身体漂移在不同的主题。在本文中,我们提出了一个紧凑的和可解释的卷积神经网络(CNN),发现共享的EEG特征,在不同的主题驾驶员困倦检测。我们将全局平均池(GAP)层的模型结构,允许类激活图(CAM)方法用于本地化的输入信号,最有助于分类的区域。实验结果表明,该模型在11名受试者的2类跨受试者脑电信号分类中,平均准确率为73.22%,高于传统的机器学习方法和其他先进的深度学习方法。可视化技术揭示了模型已经学习了生物学上可解释的特征,例如,阿尔法纺锤波和西塔纺锤波爆发,作为昏昏欲睡状态的证据。同样有趣的是,该模型使用了通常主导清醒EEG的伪影,例如,肌肉伪影和传感器漂移,以识别警报状态。该模型说明了一个潜在的方向,使用CNN模型作为一个强大的工具,发现共享的功能,不同的精神状态在不同的主题从EEG信号。
2021-05-30 cs.HC cs.LG cs.NE
Information Bottleneck Learning for Faithful Time Series Forecasting Explanations
针对现有可解释时间序列预测器忠实性不足的问题,提出IB-Forecast框架,其通过分解预测分量与信息瓶颈优化,在保证预测精度的同时提供高忠实度解释,性能优于多种基线方法。
2026-07-31 cs.AI cs.LG
Smoothing-Based Conformal Prediction for Balancing Efficiency and Interpretability
Shanghai University of Finance and Economics(上海财经大学);Fudan University(复旦大学)
针对 CD-split 预测集含多个不相连子区间、难以解释的问题,提出融入平滑操作的 SCD-split,在保持覆盖保证和区间长度的同时减少子区间数量。
2025-09-26 cs.LG stat.ML
Leakage Safe Graph Features for Interpretable Fraud Detection in Temporal Transaction Networks
The University of Tulsa(塔尔萨大学)
本文提出了一种用于时间交易网络中可解释欺诈检测的泄漏安全图特征提取方法,通过构建交易图并计算结构描述符,结合因果变异特征和随机森林分类器,提升欺诈检测的可解释性和实用性。
2026-02-24 cs.CR cs.LG
I-SPLIT: Deep Network Interpretability for Split Computing
University of Verona(维罗纳大学)
这项工作在分裂计算领域迈出了实质性的一步,即,如何拆分深度神经网络,将其早期部分托管在嵌入式设备上,其余部分托管在服务器上。到目前为止,已经确定了潜在的分裂位置,利用独特的架构方面,即,基于层的大小。在这种模式下,只有在执行分割并重新训练整个管道之后,才能评估分割在准确性方面的功效,从而在时间上禁止对所有合理的分割点进行详尽的评估。在这里,我们表明,不仅层的结构很重要,而且其中包含的神经元的重要性也很重要。如果神经元相对于正确的类决策的梯度很高,则神经元是重要的。因此,应该在具有高密度重要神经元的层之后立即应用分裂,以保留信息流直到那时。基于这一想法,我们提出了可解释的分裂(I-SPLIT):一个程序,确定最合适的分裂点,提供一个可靠的预测如何以及这种分裂将执行分类精度,其有效实施之前。作为I-SPLIT的另一个主要贡献,我们证明了在多类分类问题上分裂点的最佳选择也取决于网络要处理的特定类。在两个网络VGG 16和ResNet-50以及三个数据集Tiny-Imagenet-200、notMNIST和胸部X射线肺炎上进行了详尽的实验。源代码可在https://github.com/vips4/I-Split上获得。
2022-09-23 cs.CV cs.DC cs.LG
Interpretable Physics Informed WiFi Indoor Localization: Learning an Effective Access Point Geometry and Using It to Prune
提出物理信息驱动的分层深度学习框架,联合预测位置并学习AP几何以剪枝,在UJIIndoorLoc上降低误差26%-36%,并支持无坐标场景下的有效特征选择。
2026-09-29 cs.AI cs.LG
Encoding Visual Attributes in Capsules for Explainable Medical Diagnoses
University of Central Florida(中佛罗里达大学);University of Pennsylvania(宾夕法尼亚大学)
基于卷积神经网络的系统由于其高度不可解释的“黑匣子”性质,在许多高风险应用领域(包括医疗保健、军事、安全、运输、金融和法律)中基本上未能被采用。为了解决这一缺陷,我们教授了一种新的多任务胶囊网络,通过体现人类专家使用的相同高级语言来提高预测的可解释性。我们的可解释胶囊网络X-Caps在其胶囊的向量中编码高级视觉对象属性,然后仅基于这些人类可解释的特征形成预测。为了对属性进行编码,X-Caps利用一个新的路由sigmoid函数来独立地将信息从子胶囊路由到父胶囊。此外,为了向放射科医生提供模型置信度的估计,我们训练我们的网络关于专家标签的分布,对观察者间的协议进行建模,并在训练期间惩罚过度/不足的置信度,由人类专家的协议监督。X-Caps同时从1000多个肺癌筛查患者CT扫描的多中心数据集中学习属性和恶性程度评分。我们证明了一个简单的2D胶囊网络可以在捕获视觉上可解释的高级属性和恶性肿瘤预测方面胜过最先进的深度密集双路径3D CNN,同时提供接近不可解释的3D CNN的恶性肿瘤预测分数。据我们所知,这是第一个研究胶囊网络的研究,用于基于放射科医生级别的可解释属性及其在医学图像诊断中的应用进行预测。代码可在https://github.com/lalonderodney/X-Caps上公开获取。
2020-06-20 cs.CV cs.LG eess.IV
Strada-LLM: Graph LLM for traffic prediction
Department of Electronics and Informatics, Vrije Universiteit Brussel(布鲁塞尔自由大学电子与信息系);VITA Lab, EPFL(EPFL VITA实验室)
针对现有LLM交通预测方案难以捕捉时空依赖、适应性不足的问题,提出Strada-LLM图大语言模型,结合协变量建模与轻量域适应策略,在少样本场景下预测精度、效率与泛化性均优于现有最优方法。
2025-11-14 cs.AI cs.LG
Interpretable Perturbation Modeling Through Biomedical Knowledge Graphs
Massachusetts Institute of Technology(麻省理工学院)
本文提出一种基于生物医学知识图谱的可解释扰动建模方法,通过整合多模态嵌入和图注意力网络,提升对药物-细胞对基因表达扰动的预测能力。
2025-12-31 cs.AI cs.LG
Fast Interpretable Greedy-Tree Sums
National University of Singapore(新加坡国立大学);UC Berkeley(加州大学伯克利分校);Microsoft Research(微软研究院);Overjet;UC San Francisco(加州大学旧金山分校)
本文提出FIGS模型,通过同时生长多棵决策树并以求和方式组合来适应加性结构,在保持可解释性的同时取得最先进预测性能,并进一步提出G-FIGS和Bagging-FIGS以分别处理医学数据异质性和避免过拟合。
2023-07-08 cs.AI cs.LG stat.AP