Interpretable time series neural representation for classification purposes
Sorbonne Université(索邦大学);AgroParisTech(巴黎高科农业学院)
本文提出一种满足可解释性需求的无监督神经架构,用于生成一致、离散且可可视化的单变量时间序列表示,并在UCR数据集分类实验中平均优于其他可解释方法。
2023-10-25 cs.LG
Towards Interpretable Semantic Segmentation via Gradient-weighted Class Activation Mapping
Max Planck Institute of Molecular Cell Biology and Genetics(马克斯·普朗克分子细胞生物学与遗传学研究所);Center for Systems Biology Dresden(德累斯顿系统生物学中心)
卷积神经网络已成为最先进的在广泛的图像识别任务。然而,对他们的预测的解释是一个活跃的研究领域。尽管已经提出了各种解释方法用于图像分类,但是图像分割的解释仍然在很大程度上未被探索。为此,我们提出了SEG-GRAD-CAM,一个基于梯度的方法来解释语义分割。我们的方法是广泛使用的Grad-CAM方法的扩展,局部应用于生成热图,显示语义分割的各个像素的相关性。
2020-02-26 cs.CV cs.LG eess.IV
MLOW: Interpretable Low-Rank Frequency Magnitude Decomposition of Multiple Effects for Time Series Forecasting
Macquarie University(麦考瑞大学);Shanghai Jiao Tong University(上海交通大学);Nanyang Technological University(南洋理工大学);Hong Kong Polytechnic University(香港理工大学)
MLOW通过低秩频率幅度分解方法,实现时间序列中多效应的可解释分解,解决了传统模型在可解释性、效率和泛化性上的不足。
2026-03-19 cs.LG
Interpretable Multivariate Time Series Forecasting Using Neural Fourier Transform
Technion - Israel Institute of Technology(以色列理工学院)
本文提出神经傅里叶变换(NFT)算法,结合多维傅里叶变换与时间卷积网络,在十四个数据集上验证了其高准确性和可解释性,为多元时间序列预测树立了新基准。
2024-05-22 cs.LG
$k$-Graph: A Graph Embedding for Interpretable Time Series Clustering
本文提出无监督图嵌入方法 $k$-Graph,通过多长度子序列图表示支持变长时间序列聚类,在准确率上超过现有先进算法并增强结果可解释性。
2025-02-18 cs.LG
Interpretable Feature Construction for Time Series Extrinsic Regression
Université de La Réunion(留尼汪大学);Orange Labs(Orange实验室)
时间序列数据的监督学习在分类目标变量的情况下得到了广泛的研究。在一些应用领域中,例如,在能源、环境和健康监测中,目标变量是数值的,这个问题被称为时间序列外部回归(TSER)。在文献中,一些著名的时间序列分类器已被扩展为TSER问题。由于第一个基准研究集中在预测性能,很少注意到可解释性。为了填补这一空白,在本文中,我们提出了一个扩展的贝叶斯方法,强大的和可解释的功能建设和选择的上下文中TSER。我们的方法利用关系的方式来处理TSER:(i),我们建立各种简单的表示的时间序列存储在一个关系数据方案,然后,(ii),一个命题化技术(基于来自关系数据领域的经典聚合/选择函数)被应用于从辅助表构建可解释的特征以“扁平化”数据;以及(iii)通过贝叶斯最大后验概率方法过滤出所构造的特征。所得到的转换数据可以用各种现有的回归器进行处理。各种基准数据集上的实验验证证明了所提出的方法的好处。
2021-03-15 cs.LG
Interpretable Categorization of Heterogeneous Time Series Data
Carnegie Mellon University Silicon Valley(卡内基梅隆大学硅谷校区);Stanford University(斯坦福大学);Johns Hopkins University Applied Physics Laboratory(约翰·霍普金斯大学应用物理实验室)
了解异构多变量时间序列数据在从灵巧家庭到航空的许多应用中非常重要。也是人类可解释的异质多变量时间序列的学习模型是具有挑战性的,现有文献没有充分解决。我们提出了基于语法的决策树(GBDTs)和学习它们的算法。GBDTs用语法框架扩展了决策树。从上下文无关文法导出的逻辑表达式用于分支,以代替属性上的简单阈值。增加的表达能力支持广泛的数据类型,同时保持决策树的可解释性。特别是,当使用基于时序逻辑的语法时,我们表明GBDTs可用于高维和异构时间序列数据的可解释分类。此外,我们还展示了如何将GBDTs用于分类,这是聚类和为每个聚类生成可解释的组合。我们应用GBDTs来分析经典的澳大利亚手语数据集以及近空中碰撞(NMAC)的数据。NMAC数据来自下一代机载防撞系统(ACAS X)开发中使用的飞机模拟。
2018-01-26 cs.LG
Leveraging Uncertainty for Deep Interpretable Classification and Weakly-Supervised Segmentation of Histology Images
ÉTS(蒙特利尔高等技术学院)
仅使用图像类标签进行训练,深度弱监督方法允许图像分类和ROI分割以实现可解释性。尽管他们在自然图像上取得了成功,但他们在组织学数据上面临着一些挑战,其中ROI在视觉上与背景相似,使得模型容易受到高像素误报的影响。这些方法缺乏明确的非歧视性区域建模机制,这会提高假阳性率。我们提出了新的正则化项,使模型能够同时寻求非歧视性和歧视性区域,同时阻止不平衡分割和仅使用图像类标签。我们的方法由两个网络组成:产生分割掩码的定位器,然后是分类器。训练损失推动定位器构建一个分割掩模,该掩模在对背景区域建模的同时保持大多数区分区域。在两个组织学数据集上的综合实验表明,该方法在减少假阳性和准确分割ROI方面具有优势。
2022-05-12 cs.CV cs.LG eess.IV
Interpretable Time Series Clustering Using Local Explanations
Toronto Metropolitan University(多伦多都会大学)
本研究的重点是探索使用局部解释性方法来解释时间序列聚类模型。许多最先进的聚类模型无法直接解释。为了解释这些聚类算法,我们训练分类模型来估计聚类标签。然后,我们使用可解释性方法来解释分类模型的决策。这些解释用于深入了解聚类模型。我们进行了详细的数值研究,以测试所提出的方法在多个数据集,聚类模型和分类模型。结果的分析表明,所提出的方法可以用来解释时间序列聚类模型,特别是当底层分类模型是准确的。最后,我们对结果进行了详细的分析,讨论了我们的方法如何在现实生活中使用。
2022-08-01 cs.LG
Functionally Modular and Interpretable Temporal Filtering for Robust Segmentation
Bosch Center for Artificial Intelligence(博世人工智能中心);University of Bonn(波恩大学)
自治系统的性能在很大程度上依赖于它们生成环境的鲁棒表示的能力。深度神经网络极大地改善了基于视觉的感知系统,但在具有挑战性的情况下仍然失败,例如传感器中断或恶劣天气。这些故障通常是由数据固有的扰动引入的,这显著减少了提供给感知系统的信息。我们提出了一个功能模块化的时间滤波器,它稳定了一个抽象的特征表示的单帧分割模型使用以前的时间步长的信息。我们的过滤器模块将过滤器任务拆分为多个不太复杂且更易于解释的子任务。滤波器的基本结构是由贝叶斯估计的预测和更新步骤组成的启发。为了使预测更加透明,我们使用几何投影来实现它并估计其参数。这另外使得能够将滤波器任务分解为静态表示滤波和低维运动滤波。我们的模型可以处理丢失的帧,并且可以以端到端的方式进行训练。使用逼真的,合成的视频数据,我们展示了所提出的架构,以克服数据固有的扰动的能力。实验特别突出了一个可解释的和明确的过滤器模块引入的优点。
2018-10-15 cs.CV cs.LG
Towards Interpretable Concept Learning over Time Series via Temporal Logic Semantics
Università degli Studi di Trieste(特里埃斯特大学)
本文提出一种神经符号框架,将时间序列嵌入信号时序逻辑概念空间,通过STL核函数联合优化分类准确性与可解释性,实现基于可解释时序模式的分类及局部与全局符号解释。
2025-08-27 cs.LG
ProtoTSNet: Interpretable Multivariate Time Series Classification With Prototypical Parts
Doctoral School of Exact and Natural Sciences Jagiellonian University(杰洛尼沃大学精确与自然科学博士学校);Faculty of Physics, Astronomy and Applied Computer Science, Institute of Applied Computer Science, and Jagiellonian Human-Centered AI Lab Jagiellonian University(杰洛尼沃大学物理、天文学和应用计算机科学学院,应用计算机科学研究所,杰洛尼沃人本AI实验室)
针对多变量时间序列分类问题,提出ProtoTSNet方法,通过改进ProtoPNet架构,利用分组卷积的卷积编码器克服时间序列分析挑战,在30个数据集上评估,该方法在事前可解释方法中性能最佳,兼具与其他方法的竞争力并提供可解释结果。
2026-07-21 cs.LG
Interpretable Segmentation of Medical Free-Text Records Based on Word Embeddings
University of Warsaw(华沙大学);Institute of Computer Science Polish Academy of Sciences(波兰科学院计算机科学研究所)
有类似情况的病人得到类似的诊断是真的吗?在本文中,我们展示了NLP方法和一个独特的文档语料库来验证这一说法。我们(1)介绍了一种基于医生记录的自由文本描述的医疗访问表示方法,(2)介绍了一种新的患者访问聚类方法,(3)给出了该方法在10万次访问语料库上的应用。与所提出的方法,我们得到了稳定的和分离的部分访问,对最终的医疗诊断进行了积极的验证。我们展示了如何提出的算法可以用来帮助医生在他们的实践。
2020-06-05 cs.CL cs.LG stat.ML
IBN: An Interpretable Bidirectional-Modeling Network for Multivariate Time Series Forecasting with Variable Missing
University of Science and Technology of China(中国科学技术大学)
针对变量缺失的多元时间序列预测,提出可解释双向建模网络IBN,集成不确定性感知插补与高斯核图卷积,实现最先进预测性能。
2025-09-09 cs.LG
FocusLearn: Fully-Interpretable, High-Performance Modular Neural Networks for Time Series
City, University of London(伦敦城市大学)
本文提出FocusLearn模块化神经网络,通过循环网络学习时间依赖、注意力机制选择关键特征,并以模块化深度网络实现结构可解释性,在时间序列回归与分类上超越NAM并接近LSTM和XGBoost。
2024-05-03 cs.AI cs.LG
CICADA: Cross-Domain Interpretable Coding for Anomaly Detection and Adaptation in Multivariate Time Series
Tsinghua University(清华大学)
提出CICADA框架,通过混合专家、选择性元学习、自适应扩展和分层注意力四项创新,解决多变量时间序列跨域异常检测中的分布偏移与泛化问题,并在性能和可解释性上超越现有方法。
2025-05-01 cs.LG
StackVAE-G: An efficient and interpretable model for time series anomaly detection
Tsinghua University(清华大学);Hefei University of Technology(合肥工业大学);Siemens AG(西门子股份公司)
最近的研究表明,基于自动编码器的模型可以在异常检测任务上实现卓越的性能,因为它们具有以无监督方式拟合复杂数据的出色能力。在这项工作中,我们提出了一种新的自动编码器为基础的模型,命名为StackVAE-G,可以显着带来的效率和可解释性,多变量时间序列异常检测。具体来说,我们利用跨时间序列通道的相似性,通过堆叠块式重建与权重共享方案,以减少学习模型的大小,也减轻了过拟合到未知的噪音在训练数据。我们还利用图学习模块来学习稀疏邻接矩阵,以显式地捕获多个时间序列通道之间的稳定相互关系结构,用于相互关联通道的可解释模式重构。结合这两个模块,我们介绍了堆叠分块VAE(变分自编码器)与GNN(图神经网络)模型的多变量时间序列异常检测。我们在三个常用的公共数据集上进行了大量的实验,结果表明,我们的模型与最先进的模型具有相当的(甚至更好的)性能,同时需要更少的计算和内存成本。此外,我们证明了我们的模型学习的邻接矩阵准确地捕捉多个通道之间的相互关系,可以为故障诊断应用提供有价值的信息。
2022-09-19 cs.LG
Semantic Feature Segmentation for Interpretable Predictive Maintenance in Complex Systems
INAF, Osservatorio Astrofisico di Catania(意大利国家天文研究所,卡塔尼亚天文台)
本文提出语义特征分割框架,通过领域知识将特征空间分解为包含主导预测信息的规范部分和包含结构外围信号的残差部分,实验表明该方法能提升预测维护的可解释性和性能。
2026-05-14 cs.AI cs.LG
TSNN: A Non-parametric and Interpretable Framework for Traffic Time Series Forecasting
Faculty of Applied Sciences, Macao Polytechnic University(应用科学学院,澳门理工学院);Amazon Web Services, Inc.(亚马逊网络服务公司);Macao Polytechnic University(澳门理工学院)
TSNN通过解耦时间序列提升预测精度,采用非参数方法保持模型简洁,实验显示其在四个真实交通数据集上表现优异,且能可视化解耦过程和模型可解释性。
2026-05-09 cs.LG
Interpretable and synergistic deep learning for visual explanation and statistical estimations of segmentation of disease features from medical images
Massachusetts Institute of Technology(麻省理工学院)
用于疾病分类或医学图像分割的深度学习(DL)模型越来越多地使用来自不相关自然世界图像的迁移学习(TL)进行训练。然而,TL在医学成像领域的专门任务的缺点和效用仍然未知,并且基于增加训练数据将提高性能的假设。我们报告了详细的比较,严格的统计分析和广泛使用的DL架构的二进制分割后,TL与ImageNet初始化(TII模型)与监督学习的宏观光学皮肤癌,显微镜前列腺芯活检和计算机断层扫描(CT)DICOM图像的医学图像(LMI模型)的比较。通过对TII和LMI模型输出及其Grad-CAM对应物的目视检查,我们的结果确定了几种违反直觉的情况,其中两种模型对一个肿瘤的自动分割或使用单个模型的各种组合中的单个分割输出掩码导致性能提高10%。我们还报告了复杂的集成DL策略,用于在低数据状态下实现临床级医学图像分割和模型解释。例如:我们所描述的LMI和TII模型的估计性能、解释和可复制性可用于稀疏性促进更好学习的情况。TII和LMI模型、代码和超过10,000个医学图像及其Grad-CAM输出的免费GitHub存储库可用作高级计算医学和DL研究的起点,用于生物医学发现和应用。
2020-11-11 cs.LG stat.ML
BasisFormer: Attention-based Time Series Forecasting with Learnable and Interpretable Basis
Shanghai Jiao Tong University(上海交通大学);Ant Group(蚂蚁集团)
本文提出BasisFormer端到端预测架构,通过自监督对比学习获得可解释基,并以双向交叉注意力和预测模块整合基,在六个数据集上显著提升单、多变量时间序列预测性能。
2024-01-18 cs.LG
PrecTime: A Deep Learning Architecture for Precise Time Series Segmentation in Industrial Manufacturing Operations
Bosch Rexroth AG(博世力士乐公司);University of Ulm(乌尔姆大学)
本文提出PrecTime架构,结合滑动窗口与密集标注方法进行时间序列分割,在液压泵End-of-Line测试数据集上表现优于五种基线网络,分割准确率达96%,接近人类智能水平。
2023-01-27 cs.LG
Multi-Stage Prototype Learning for Interpretable Time Series Classification
Department of Neurology, University of California, San Francisco(加州大学旧金山分校神经科部门);Department of Bioengineering and Therapeutic Sciences, University of California, San Francisco(加州大学旧金山分校生物工程与治疗科学部门);UCSF Weill Institute for Neurosciences(UCSF Weill神经科学研究所)
本文提出多阶段原型学习框架,通过显式层次化解释提升时间序列分类的可解释性,验证了在模拟和真实数据集上的性能。
2026-05-07 cs.LG
ConceptTS: LLM-Guided Concept Bottlenecks for Interpretable Multivariate Time-Series Forecasting
Stanford University(斯坦福大学);University of California, Davis(加州大学戴维斯分校)
ConceptTS是围绕人类可理解概念的可解释多变量时间序列预测框架,利用大语言模型生成概念与标注规则,在空气质量数据集上达到与黑箱基线相当的准确率,且决策过程可解释。
2026-08-24 cs.LG
Faithful and Interpretable Explanations for Complex Ensemble Time Series Forecasts using Surrogate Models and Forecastability Analysis
AWS Supply Chain(AWS供应链)
本文提出双方法框架,用LightGBM代理模型忠实解释AutoGluon集成时间序列预测,并结合频谱可预测性分析量化置信度,在M5数据集上验证了高忠实度与可预测性的关联。
2025-10-09 cs.LG
Learning Interpretable Differentiable Logic Networks for Time-Series Classification
Department of Electrical and Computer Engineering, Princeton University(普林斯顿大学电气与计算机工程系)
首次将兼具准确性、可解释性和计算效率的可微分逻辑网络(DLNs)应用于单变量时间序列分类,通过Catch22和TSFresh特征表示转换序列,整合训练配置到超参数搜索空间,在51个基准上验证其核心优势。
2026-10-06 cs.LG
Uncertainty-Supervised Interpretable and Robust Evidential Segmentation
School of Data Science, Fudan University, Shanghai, China(复旦大学数据科学学院);Institute of Science and Technology for Brain-inspired intelligence, Fudan University, Shanghai, China(复旦大学脑启发式智能技术研究所);Nuffield Department of Population Health, University of Oxford, Oxford, UK(牛津大学人口健康牛津部门)
本文提出一种自监督不确定性监督方法,通过两个损失函数增强医学图像分割中不确定性估计的可解释性和鲁棒性,在OOD场景中表现更优。
2025-10-14 cs.CV cs.LG
DecoVAE: a Lightweight Interpretable Trend-Seasonal VAE Framework for Efficient Probabilistic Time Series Forecasting
Applied AI Institute(应用人工智能研究所)
DecoVAE是一种轻量级可解释的趋势-季节VAE框架,通过分解时间序列的趋势与季节组件解决概率时间序列预测的局限,在7个真实基准上精度优于基线且效率显著提升。
2026-09-28 cs.LG
Multivariable times series classification through an interpretable representation
University of Granada(格拉纳达大学)
多变量时间序列分类是一项重要性日益增加的任务,由于在各个领域(经济,卫生,能源,交通,作物等)的新问题的扩散。其中大量的信息源是可用的。传统上在单变量环境中工作的方法的直接外推不能经常应用于多变量问题中以获得最佳结果。这主要是由于这些方法无法捕捉符合多元时间序列的不同变量之间的关系。迄今为止发布的多元提案提供了有竞争力的结果,但很难解释。在本文中,我们提出了一种时间序列分类方法,考虑到一个多变量时间序列的不同变量之间的关系,通过一组描述性的功能,考虑到时间序列的替代表示。我们采用传统的分类算法,获得可解释的和有竞争力的结果。
2020-09-08 cs.LG stat.ML
Improving Anomaly Detection in Industrial Time Series: The Role of Segmentation and Heterogeneous Ensemble
INAF, Osservatorio Astrofisico di Catania(意大利国家天体物理研究所卡塔尼亚天体物理观测站)
本研究探讨了在工业时间序列异常检测中,将分割技术作为预处理步骤与异构集成相结合,显著提升了AUC-ROC指标,并减少了时间模糊性。
2025-10-10 cs.LG
TSKAN: Interpretable Machine Learning for QoE modeling over Time Series Data
提出TSKAN,结合Kolmogorov-Arnold网络与频域特征,在时间序列数据上实现可解释的QoE建模,提升预测精度并保持模型透明性。
2025-09-24 cs.LG cs.NI
Interpretable Super-Resolution via a Learned Time-Series Representation
Rice University(莱斯大学);Univ. Toulon(土伦大学);Aix Marseille Univ.(艾克斯-马赛大学);CNRS(法国国家科学研究中心)
我们开发了一个可解释和可学习的Wigner-Ville分布,它可以产生用于时间序列分析的超分辨二次信号表示。我们的方法有两个主要特点。首先,它在已知的时间-频率表示(TFR)之间进行插值,因为它可以达到超分辨率,时间和频率分辨率增加,超出海森堡不确定性原理规定的范围,从而超出常用的TFR,其次,由于Wigner-Ville分布的明确的低维和物理参数化,它是可解释的。我们证明了我们的方法能够学习高度适应的TFR,并且已经准备好并且能够处理各种大规模的分类任务,与基线和学习的TFR相比,我们达到了最先进的性能。
2020-06-13 cs.LG eess.SP
A Robust Interpretable Deep Learning Classifier for Heart Anomaly Detection Without Segmentation
Queensland University of Technology(昆士兰科技大学);M3DICINE Pty Ltd(M3DICINE私人有限公司)
传统上,异常心音分类被框定为三阶段过程。第一阶段涉及分割心音图以检测基本心音;之后提取特征并进行分类。该领域的一些研究人员认为分割步骤是一个不必要的计算负担,而其他人则将其作为特征提取的优先步骤。当比较在分析之前分割心音的研究与忽略这一步骤的研究所达到的准确度时,是否在特征提取之前分割心音的问题仍然是开放的。在这项研究中,我们明确地检查心音分割的重要性,作为一个事先步骤的心音分类,然后寻求应用所获得的见解,提出一个强大的分类器异常心音检测。此外,认识到医疗领域对可解释的人工智能(AI)模型的迫切需求,我们还揭示了分类器使用模型解释技术学习的隐藏表示。实验结果表明,分割在异常心音分类中起着至关重要的作用。我们的新分类器也被证明是鲁棒的,稳定的,最重要的是,可解释的,在广泛使用的PhysioNet数据集上的准确率几乎为100%。
2020-09-29 cs.LG cs.SD eess.AS
Extracting Interpretable Local and Global Representations from Attention on Time Series
Osnabrück University(奥斯纳布吕克大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI))
该研究针对时间序列场景下基于Transformer注意力的两类可解释性方法,构建综合框架并通过UCR UEA单变量数据集实验验证,在保持基线性能的同时显著提升了可理解度/复杂度,为方法应用提供指导。
2023-09-16 cs.LG
Deep Interpretable Classification and Weakly-Supervised Segmentation of Histology Images via Max-Min Uncertainty
École de technologie supérieure(高等技术学院);Goodman Cancer Research Centre(古德曼癌症研究中心);McGill University(麦吉尔大学)
弱监督学习(WSL)最近引起了人们的极大兴趣,因为它缓解了像素级注释的缺乏。给定全局图像标签,WSL方法产生像素级预测(分割),这使得能够解释类预测。尽管它们最近取得了成功,主要是自然图像,但当前景和背景区域具有相似的视觉线索时,这种方法可能面临重要的挑战,在分割中产生高假阳性率,就像在具有挑战性的组织学图像中一样。WSL训练通常由标准分类损失驱动,这隐含地最大化模型置信度,并定位与分类决策相关的判别区域。因此,他们缺乏明确的非歧视性区域建模和降低假阳性率的机制。我们提出了新的正则化项,使模型能够同时寻求非歧视性和歧视性区域,同时阻止不平衡的分割。我们引入了高不确定性作为标准,以本地化不影响分类器决策的非歧视性区域,并用原始Kullback-Leibler(KL)发散损失来描述它,以评估后验预测与均匀分布的偏差。当模型输入潜在的非歧视区域时,我们的KL项鼓励模型的高不确定性。我们的损失包括:(i)寻找前景的交叉熵,其中关于类别预测的模型置信度高;(ii)寻找背景的KL正则化器,其中模型不确定性高;以及(iii)阻止不平衡分割的对数障碍项。对公开的GlaS结肠癌数据和基于Camelyon 16贴片的乳腺癌基准的综合实验和消融研究显示,与最先进的WSL方法相比,有了实质性的改善,并证实了我们新的调节剂的效果。
2021-10-09 cs.CV cs.LG
PatchX: Explaining Deep Models by Intelligible Pattern Patches for Time-series Classification
Technische Universität Kaiserslautern(凯泽斯劳滕工业大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI))
时间序列数据的分类是流数据的关键,也带来了许多挑战。尽管公开可用的数据集数量迅速增加,但深度神经模型仅在少数领域得到利用。与深度神经模型相比,传统方法仍然经常使用。这些方法由于其可解释的结果而在安全关键,金融或医疗领域中受到青睐。然而,它们的性能和扩展能力是有限的,并且由于数字时间序列数据中隐藏的概念,为时间序列分类任务找到合适的解释是具有挑战性的。可视化完整的时间序列会导致我们对感知的认知过载,并导致混乱。因此,我们认为,分批处理的数据结果在一个更可解释的表示。我们提出了一种新的混合方法,该方法利用深度神经网络和传统的机器学习算法来引入可解释和可扩展的时间序列分类方法。我们的方法首先进行细粒度的分类,其次是样本级分类的补丁。
2021-02-11 cs.LG
SASWISE-UE: Segmentation and Synthesis with Interpretable Scalable Ensembles for Uncertainty Estimation
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出SASWISE-UE子模型集成框架,通过生成不确定性图增强医学深度学习模型的可解释性,在分割和合成任务上保持性能并提升鲁棒性。
2024-11-08 cs.CV cs.LG stat.ME
Neuro-symbolic Models for Interpretable Time Series Classification using Temporal Logic Description
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心);IBM Research(IBM研究院)
现有的时间序列分类模型大多缺乏可解释性,难以检验。可解释的机器学习模型可以帮助发现数据中的模式,并为领域专家提供易于理解的见解。在这项研究中,我们提出了神经符号时间序列分类(NSTSC),一个神经符号模型,利用信号时序逻辑(STL)和神经网络(NN)完成TSC任务,使用多视图数据表示,并表示该模型作为一个人类可读的,可解释的公式。在NSTSC中,每个神经元都链接到一个符号表达式,即,STL(sub)公式。因此,NSTSC的输出可以解释为类似于自然语言的STL公式,描述隐藏在数据中的时间和逻辑关系。我们提出了一个基于NSTSC的分类器,采用决策树的方法来学习公式结构,完成多类TSC任务。所提出的wSTL平滑激活函数允许以端到端的方式学习模型。我们在来自小鼠的真实伤口愈合数据集和来自UCR时间序列库的基准数据集上测试NSTSC,证明NSTSC实现了与最先进模型相当的性能。此外,NSTSC可以生成与领域知识相匹配的可解释公式。
2022-09-15 cs.AI cs.LG
Learning Interpretable Shapelets for Time Series Classification through Adversarial Regularization
Univ Rennes(雷恩大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);IRISA(雷恩信息与随机系统研究所);Laboratoire Hubert Curien UMR 5516(于贝尔·居里安实验室 UMR 5516);Univ Lyon(里昂大学);LETG(环境时空地理学实验室)
时间序列分类可以通过联合学习数据集中序列的基于shapelet的表示并根据此表示对序列进行分类来成功解决。然而,尽管学习的形状是有区别的,但它们并不总是与数据集中的真实序列相似。这使得难以解释决策,即难以分析是否存在触发决策的系列中的特定行为。在本文中,我们使用一个简单的卷积网络来处理时间序列分类任务,并引入了一个对抗性正则化来约束模型学习更多可解释的形状。我们对所有常见的时间序列基准的分类结果与类似的最先进的算法获得的结果相当,但我们的逆向正则化方法学习的形状,通过设计,可解释。
2019-06-12 cs.AI cs.LG stat.ML
A Time-Aware Bag-of-Receptive-Fields for Interpretable Irregular Time Series Classification
University of Pisa(比萨大学);ISTI-CNR(意大利国家研究委员会信息科学与技术研究所)
本研究扩展BORF至不规则时间序列,提出时间加权归一化方案,保持线性复杂度,在PYRREGULAR数据集上达到竞争性能并提供可解释性。
2026-10-01 cs.AI cs.LG
An Interpretable Generative Framework for Anomaly Detection in High-Dimensional Financial Time Series
Department of Information Systems & Analytics(信息系统与分析系);Farmer School of Business(农民商学院)
ReGEN-TAD通过结合现代机器学习与经济计量诊断,提出了一种可解释的生成框架,用于高维金融时间序列中的异常检测,提升了鲁棒性和经济一致性。
2026-03-09 cs.LG stat.ML
N-BEATS: Neural basis expansion analysis for interpretable time series forecasting
Element AI(元素人工智能公司);Mila(米拉人工智能研究所)
我们专注于使用深度学习解决单变量时间序列点预测问题。我们提出了一种基于向后和向前残差链接的深度神经架构,以及一个非常深的全连接层堆栈。该体系结构具有许多理想的属性,是可解释的,适用于广泛的目标域,无需修改,快速训练。我们测试了几个著名的数据集,包括M3,M4和TOURISM竞争数据集包含来自不同领域的时间序列的建议架构。我们为所有数据集展示了N-BEATS两种配置的最新性能,将预测准确性提高了11%,比去年的M4竞赛冠军提高了3%,M4竞赛是神经网络和统计时间序列模型之间的领域调整手工制作的混合体。我们模型的第一种配置不使用任何时间序列特定的组件,其在异构数据集上的性能强烈表明,与公认的智慧相反,深度学习原语(如残差块)本身足以解决广泛的预测问题。最后,我们演示了如何增强所提出的体系结构,以提供可解释的输出,而不会在准确性上造成相当大的损失。
2020-02-20 cs.LG stat.ML
Factorizer: A Scalable Interpretable Approach to Context Modeling for Medical Image Segmentation
KU Leuven(鲁汶大学);Université Claude-Bernard Lyon 1(里昂第一大学);icometrix;KU Leuven Kulak(鲁汶大学库拉克校区)
具有U形架构的卷积神经网络(CNN)主导了医学图像分割,这对于各种临床目的至关重要。然而,卷积的固有局部性使得CNN无法充分利用全局上下文,这对于更好地识别某些结构至关重要,例如,脑损伤Transformers最近在视觉任务(包括语义分割)上证明了有前途的性能,这主要是因为它们能够对长距离依赖关系进行建模。然而,注意力的二次复杂性使得现有的基于transformer的模型仅在以某种方式降低图像分辨率之后才使用自注意力层,这限制了以更高分辨率捕获全局上下文的能力。因此,这项工作引入了一系列模型,称为Factorizer,它利用低秩矩阵分解的功能来构建端到端的分割模型。具体来说,我们提出了一个线性可扩展的方法来上下文建模,制定非负矩阵分解(NMF)作为一个可微层集成到一个U形架构。移位窗口技术还与NMF结合使用,以有效地聚合局部信息。因子分解器在准确性、可扩展性和可解释性方面与CNN和Transformers竞争,在BraTS数据集的脑肿瘤分割和ISLES 22数据集的中风病变分割上实现了最先进的结果。相对于CNN和Transformers,高度有意义的NMF分量为因子分解器提供了额外的可解释性优势。此外,我们的消融研究揭示了因式分解器的一个独特特征,即在不需要任何额外步骤的情况下,在不牺牲太多准确性的情况下,可以显著加快经过训练的因式分解器的推理速度。代码和模型可在https://g…
2022-12-13 cs.CV cs.LG eess.IV
EAMDrift: An interpretable self retrain model for time series
NOVA School of Science and Technology(NOVA科学与技术学院);Novobanco(新银行)
本文提出 EAMDrift 方法,通过性能加权组合多个预测器并借助可解释规则和自动再训练机制适应分布外模式,在真实数据集上比基线模型提升 20% 且达到与不可解释集成模型相当的精度。
2023-05-31 cs.LG stat.ML
SOM-VAE: Interpretable Discrete Representation Learning on Time Series
ETH Zürich(苏黎世联邦理工学院);University College London(伦敦大学学院)
高维时间序列在很多领域都很常见。由于人类的认知并没有被优化到在高维空间中很好地工作,这些领域可以从可解释的低维表示中受益。然而,大多数时间序列数据的表示学习算法很难解释。这是由于从数据特征到表示的显着属性的非直观映射以及随时间的非平滑性。为了解决这个问题,我们提出了一个新的表示学习框架,该框架基于可解释离散降维和深度生成建模的思想。这个框架使我们能够学习时间序列的离散表示,从而产生具有卓越聚类性能的平滑和可解释的嵌入。我们引入了一种新的方法来克服离散表示学习中的不可微性,并提出了一个基于梯度的版本的传统自组织映射算法,比原来的性能更好。此外,为了允许我们的方法的概率解释,我们在表示空间中集成了马尔可夫模型。该模型揭示了时间转换结构,进一步提高了聚类性能,并提供了额外的解释性见解以及不确定性的自然表示。我们评估我们的模型在静态(时尚)MNIST数据的聚类性能和可解释性,线性插值(时尚)MNIST图像的时间序列,具有两个宏观状态的混沌Lorenz吸引子系统,以及具有挑战性的现实世界的医疗时间序列应用程序的eICU数据集。我们学到的表示与竞争对手的方法相比毫不逊色,并促进了现实世界数据的下游任务。
2019-01-04 cs.LG stat.ML
Temporal Fusion Transformers for Interpretable Multi-horizon Time Series Forecasting
University of Oxford(牛津大学);Google Cloud AI Research(谷歌云人工智能研究院);Google Cloud AI(谷歌云人工智能)
多视野预测问题通常包含复杂的输入组合-包括静态(即时不变)协变量,已知的未来输入,以及其他仅在历史上观察到的外生时间序列-没有任何关于它们如何与目标相互作用的先验信息。虽然已经提出了几种用于多步预测的深度学习模型,但它们通常包括黑盒模型,这些模型不能考虑常见场景中存在的全部输入。在本文中,我们介绍了时间融合Transformer(TFT)-一种新的基于注意力的架构,它结合了高性能的多水平预测与时间动态的可解释的见解。为了学习不同尺度下的时间关系,TFT利用递归层进行本地处理,并利用可解释的自我注意层来学习长期依赖关系。TFT还使用专门的组件来明智地选择相关功能,并使用一系列选通层来抑制不必要的组件,从而在广泛的范围内实现高性能。在各种真实世界的数据集上,我们展示了与现有基准相比的显着性能改进,并展示了TFT的三个实际可解释性用例。
2020-09-27 cs.LG stat.ML
Fast, Accurate and Interpretable Time Series Classification Through Randomization
RMIT University(皇家墨尔本理工大学);The University of Melbourne(墨尔本大学)
时间序列分类(TSC)旨在预测给定时间序列的类别标签,这对于经济学和医学等丰富的应用领域至关重要。最先进的TSC方法主要集中在分类准确性和效率上,而不考虑其分类的可解释性,这是现代应用(例如电器建模)和立法(例如欧洲通用数据保护条例)所要求的重要属性。为了解决这个问题,我们提出了一种新的TSC方法-随机监督时间序列森林(r-STSF)。r-STSF是高效的,达到了最先进的分类精度,并实现了可解释性。r-STSF采用一种有效的基于区间的方法,根据判别子序列(区间)的聚合值对时间序列进行分类。为了达到最先进的精度,r-STSF使用判别子序列构建随机树的集合。它使用四个时间序列表示,九个聚合函数和一个监督的二进制启发搜索结合特征排名指标,以确定高度歧视性的子系列。歧视性的子系列有助于进行可解释的分类。在大量数据集上的实验表明,r-STSF达到了最先进的精度,同时比大多数现有的TSC方法快了几个数量级。它是唯一的分类器从国家的最先进的组,使解释性。我们的研究结果还强调,r-STSF是分类复杂时间序列数据集时最好的TSC方法。
2021-05-31 cs.LG stat.ML
Interpretable and backpropagation-free Green Learning for efficient multi-task echocardiographic segmentation and classification
Harvard Medical School and Massachusetts General Hospital(哈佛医学院和麻省总医院);Graduate Institute of Biomedical Electronics and Bioinformatics(生物医学电子与生物信息学研究生院);University of Southern California(南加州大学)
提出一种无需反向传播的多任务绿色学习框架,通过无监督VoxelHop编码器与多级回归解码器及XG-Boost分类器,在EchoNet-Dynamic数据集上实现左心室分割与射血分数分类,以极低参数量达到高精度。
2026-05-25 cs.CV cs.LG eess.IV
EVIL: Evolving Interpretable Algorithms for Zero-Shot Inference on Event Sequences and Time Series with LLMs
Lamarr Institute(拉马尔研究所);Fraunhofer IAIS(弗劳恩霍夫人工智能研究所)
EVIL通过LLM引导的进化搜索发现简单可解释的算法,用于动态系统推断,无需训练神经网络,能在多个任务中实现跨数据集泛化。
2026-04-17 cs.AI cs.LG
iTFKAN: Interpretable Time Series Forecasting with Kolmogorov-Arnold Network
Hong Kong Polytechnic University(香港理工大学);Northwestern Polytechnical University(西北工业大学);Sun Yat-sen University(中山大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文提出可解释时间序列预测模型iTFKAN,通过模型符号化实现可解释性,并采用先验知识注入与时频协同学习策略处理复杂数据,在保持出色预测性能的同时提升模型可信度。
2025-08-08 cs.AI cs.LG
Interpretable Time Series Models for Wastewater Modeling in Combined Sewer Overflows
Berliner Hochschule für Technik(柏林工程应用技术大学);Einstein Center Digital Future(爱因斯坦数字未来中心)
针对暴雨导致污水溢出污染水体的问题,研究利用最先进的可解释时间序列模型预测临界水位点以实现溢出水量迅速重新分配,结果表明该模型有助于改善污水管理并防止环境污染。
2024-01-04 cs.AI cs.LG
PatchDecomp: Interpretable Patch-Based Time Series Forecasting
PatchDecomp是一种基于片段的时间序列预测方法,通过可解释的片段贡献实现高准确性和可解释性。
2026-03-04 cs.AI cs.LG
Abstracted Shapes as Tokens -- A Generalizable and Interpretable Model for Time-series Classification
Rensselaer Polytechnic Institute(伦斯勒理工学院);Stony Brook University(石溪大学);University of California, San Diego(加利福尼亚大学圣地亚哥分校);IBM Research(IBM研究院)
本文提出可解释预训练模型 VQShape,利用向量量化将跨域时间序列统一表示为抽象形状码,支持可解释分类并具备零样本跨域泛化能力。
2025-01-07 cs.LG stat.ML
ConceptAttention: Diffusion Transformers Learn Highly Interpretable Features
ibm(IBM研究院)
本文提出ConceptAttention方法,利用扩散Transformer注意力层输出空间中的线性投影生成高质量显著性图,无需额外训练即可在零样本图像分割上达到最先进性能,并首次证明多模态DiT表征对视觉任务具有高度可迁移性。
2025-07-01 cs.CV cs.LG