Wrapped Classifier with Dummy Teacher for training physics-based classifier at unlabeled radar data
ISTP SB RAS（俄罗斯科学院西伯利亚分院日地物理研究所）
本文介绍了2021年EKB和MAGW ISTP SB RAS相干散射雷达（工作频率8- 20 MHz）接收信号的自动分类方法。该方法适用于实验数据的实时分类结果的自动物理解释。我们称这个算法为Wrapped Classifier with Dummy Teacher。该方法在未标记的数据集上进行训练，并基于使用聚类结果训练最佳的基于物理的分类。该方法接近于最优嵌入搜索，其中嵌入被解释为软分类的概率向量。该方法允许找到最佳的分类算法，基于物理上可解释的参数的接收到的数据，无论是在基于物理的数值模拟和实验测量。用于标记未标记数据集的Dummy Teacher聚类器是高斯混合聚类算法。对于算法功能，我们扩展了雷达获得的参数，增加了使用射线跟踪和IRI-2012和IGRF电离层和地球磁场模型模拟无线电波传播期间计算的参数。对于Dummy Teacher的聚类，我们使用可用参数的整个数据集（测量和模拟参数）。对于Wrapped Classifier的分类，我们只使用物理解释良好的参数。因此，我们训练了分类网络，并在现有数据中从物理角度找到了11个可解释的类别。其他五个发现的类从物理的角度来看是不可解释的，这表明考虑到无线电波传播的重要性，正确的分类。
2022-01-15 cs.LG physics.data-an physics.geo-ph
Dynamic Context Pruning for Efficient and Interpretable Autoregressive Transformers
ETH Zürich（苏黎世联邦理工学院）；ML, CSEM SA（CSEM SA（ML部门））；University of Basel（巴塞尔大学）
提出一种动态上下文剪枝方法，通过可学习机制在生成过程中丢弃无信息token，在保留表达能力的同时降低推理成本并提升可解释性，最高可剪枝80%上下文且性能不降，实现2倍吞吐量提升。
2024-05-31 cs.CL cs.LG
Towards Interpretable Deep Local Learning with Successive Gradient Reconciliation
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）；Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；Peng Cheng Laboratory（鹏城实验室）；University of Oxford（牛津大学）
本文针对全局反向传播的生物不合理性与高内存消耗问题，从理论上揭示了局部学习中相邻模块梯度不协调会导致收敛无法保证，并提出一种逐次梯度协调的局部训练策略，在不破坏梯度隔离的前提下显著提升CNN和Transformer在ImageNet上的性能，同时节省超过40%的内存。
2024-06-07 cs.LG cs.NE
Interpretable Multi Labeled Bengali Toxic Comments Classification using Deep Learning
Islamic University of Technology（伊斯兰技术大学）；Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）
本文提出两阶段深度学习流水线，先二分类识别孟加拉语有毒评论，再用注意力CNN-BiLSTM进行六类多标签毒性识别，并借助LIME解释预测、公开16,073条人工标注数据集。
2023-04-08 cs.AI cs.CL cs.LG
Trading with the Momentum Transformer: An Intelligent and Interpretable Architecture
Oxford-Man Institute of Quantitative Finance, University of Oxford（牛津大学牛津-曼定量金融研究所）；Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究所）
我们介绍了动量Transformer，这是一种基于注意力的深度学习架构，其表现优于基准时间序列动量和均值回归交易策略。与最先进的长短期记忆（LSTM）架构不同，LSTM架构本质上是顺序的，并为本地处理量身定制，注意力机制为我们的架构提供了与所有先前时间步的直接连接。我们的架构是注意力-LSTM的混合体，使我们能够学习长期依赖关系，在考虑交易成本的净回报时提高性能，并自然适应新的市场机制，例如在SARS-CoV-2危机期间。通过引入多个注意头，我们可以捕捉并发政权，或时间动态，这是发生在不同的时间尺度。动量Transformer具有内在的可解释性，为我们提供了对深度学习动量交易策略的更深入见解，包括不同因素随时间的重要性以及对模型最重要的过去时间步长。
2022-11-22 cs.LG q-fin.TR stat.ML
Lattice: Learning to Efficiently Compress the Memory
Google Research（谷歌研究院）；Google DeepMind（谷歌DeepMind）
Lattice通过正交更新机制，高效压缩内存，提升语言建模和联想回忆任务的性能与内存效率。
2025-12-30 cs.AI cs.LG
MemoryLLM: Plug-n-Play Interpretable Feed-Forward Memory for Transformers
Apple（苹果公司）
MemoryLLM通过解耦前馈模块与自注意力机制，实现无上下文的token级神经检索记忆，提升大语言模型的可解释性和推理效率。
2026-01-30 cs.LG
Interpretable Memory Models for Spaced Repetition
针对间隔重复软件的记忆模型需可解释且能外推现有调度器数据，研究提出SBD模型，其可解释性更强、规模比当前最先进模型小80%且准确率相近。
2026-10-09 cs.LG q-bio.NC
BINAS: Bilinear Interpretable Neural Architecture Search
Alibaba Group（阿里巴巴集团）；Technion - Israel Institute of Technology（以色列理工学院）
神经网络的实际使用通常涉及对延迟、能量和存储器等的要求。在这种要求下查找网络的一种流行方法是通过约束神经架构搜索（NAS）。然而，以前的方法使用复杂的预测网络的准确性。这些预测器很难解释，并且对许多要调整的超参数很敏感，因此，生成的模型的准确性经常受到损害。在这项工作中，我们通过引入双线性可解释神经架构搜索（BINAS）来解决这个问题，该搜索基于准确度估计器和预期资源需求的准确和简单的双线性公式，以及具有理论保证的可扩展搜索方法。我们提出的估计器的简单性以及它的直观构造方式，通过对不同设计选择的贡献的许多见解带来了可解释性。例如，我们发现，在检查的搜索空间中，在网络的更深阶段和每个解析阶段的开始，增加深度和宽度更有效。我们的实验表明，BINAS产生可比或更好的架构比其他国家的最先进的NAS方法在降低边际搜索成本，同时严格满足资源约束。
2022-04-27 cs.AI cs.CV cs.LG
A Biologically Inspired Visual Working Memory for Deep Networks
University of Southampton（南安普顿大学）
通过一系列姿势调整的一瞥多次观看的能力是人类视觉的基础。这种批判性的能力使我们能够理解高度复杂的视觉场景。短期记忆在汇总从这些瞥见中获得的信息并告知我们对场景的解释方面起着不可或缺的作用。计算模型试图解决瞥见和视觉注意，但未能纳入记忆的概念。我们介绍一种新颖的，生物启发的视觉工作记忆架构，我们的赫布-罗森布拉特记忆。我们随后介绍了一个完全可区分的短期注意工作记忆模型（STAWM），它使用转换注意来学习它所看到的每一幅图像的记忆。我们的Hebb-Rosenblatt记忆的状态被嵌入到STAWM中作为层的权重空间。通过投影不同的查询通过这一层，我们可以获得面向目标的潜在表示的任务，包括分类和视觉重建。我们的模型在MNIST和CIFAR-10上获得了极具竞争力的分类性能。如CelebA数据集所示，为了执行重建，模型学习对画布进行一系列更新，这些更新构成了基于部件的表示。从MNIST获得的自监督表示的分类被证明是符合最先进的模型（其中没有一个使用视觉注意力机制）的状态。最后，我们证明了STAWM可以在分类和重建的双重约束下进行训练，以提供一个可解释的视觉画板，这有助于打开深度学习的“黑盒子”。
2019-01-09 cs.CV cs.LG stat.ML
Asymmetric-Loss-Guided Hybrid CNN-BiLSTM-Attention Model for Industrial RUL Prediction with Interpretable Failure Heatmaps
Omdurman Islamic University（奥尔曼伊斯兰大学）
本文提出融合1D-CNN、BiLSTM和自定义Bahdanau加性注意力机制的模型，通过非对称指数损失函数提升工业安全预测精度，并利用可解释性故障热图支持维护决策。
2026-04-17 cs.AI cs.LG cs.SY
Principal Prototype Analysis on Manifold for Interpretable Reinforcement Learning
University of Maryland College park（马里兰大学帕克分校）
本文提出一种自动选择最优原型的方法，用于增强强化学习的可解释性，无需人工定义原型，实验显示其性能与现有方法相当。
2026-03-31 cs.LG
TSNN: A Non-parametric and Interpretable Framework for Traffic Time Series Forecasting
Faculty of Applied Sciences, Macao Polytechnic University（应用科学学院，澳门理工学院）；Amazon Web Services, Inc.（亚马逊网络服务公司）；Macao Polytechnic University（澳门理工学院）
TSNN通过解耦时间序列提升预测精度，采用非参数方法保持模型简洁，实验显示其在四个真实交通数据集上表现优异，且能可视化解耦过程和模型可解释性。
2026-05-09 cs.LG
Interpretable Concept-Based Memory Reasoning
KU Leuven（鲁汶大学）；Universita’ della Svizzera Italiana（瑞士意大利大学）；University of Cambridge（剑桥大学）；Scuola Normale Superiore（高等师范学院）；Politecnico di Torino（都灵理工大学）；University of Siena（锡耶纳大学）
针对现有概念瓶颈模型任务预测器不完全可解释的问题，提出基于概念的记忆推理器（CMR），通过神经选择机制和符号评估建模任务预测，实现高准确性与可验证性。
2024-11-15 cs.AI cs.LG
Graph Memory: A Structured and Interpretable Framework for Modality-Agnostic Embedding-Based Inference
Institute of Mathematics and Statistics, University of São Paulo（数学统计研究所，圣保罗大学）
图记忆通过紧凑的可靠性标注原型区域图表示嵌入空间，结合原型关系编码局部几何和区域模糊性，实现查询证据扩散推理，统一实例检索、原型推理和图扩散，提供更准确和可解释的多模态推理。
2026-03-25 cs.CV cs.LG
CAME: Company-Aware Evidence-Memory Experts for Interpretable Quarter-Ahead Revenue Forecasting
CAME通过残差预测框架结合无泄漏统计锚点与语义证据，在336个公司-季度回测中实现最低点估计误差，优于历史+指引方法，并提供可解释的证据卡与记忆痕迹。
2026-09-29 cs.CL cs.LG
Co-Design of Memory-Storage Systems for Workload Awareness with Interpretable Models
Micron Technology（美光技术）
本文提出一种基于机器学习的系统方法，用于协同设计内存错误管理子系统及存储技术，通过分析多种工作负载提升存储架构设计。
2026-03-16 cs.AR cs.LG cs.SY
Facts as Experts: Adaptable and Interpretable Neural Memory over Symbolic Knowledge
Google Research（谷歌研究院）
大量的语言模型是现代NLP建模的核心，并且已经被证明可以编码大量的常识和事实信息。然而，这些知识只存在于模型的潜在参数中，无法进行检查和解释，更糟糕的是，随着世界的变化，从训练语料库中记忆的事实信息可能会变得陈旧。作为参数存储的知识也将不可避免地表现出源材料中固有的所有偏见。为了解决这些问题，我们开发了一个神经语言模型，其中包括一个明确的接口之间的象征性可解释的事实信息和subsymbolic神经知识。我们表明，该模型显着提高了两个知识密集型问答任务的性能。更有趣的是，模型可以通过操纵其符号表示来更新，而无需重新训练。特别是，这个模型允许我们添加新的事实，并以早期模型不可能的方式覆盖现有的事实。
2020-07-02 cs.AI cs.CL cs.LG
TREEMENT: Interpretable Patient-Trial Matching via Personalized Dynamic Tree-Based Memory Network
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Relativity Inc.（Relativity公司）
针对现有患者-临床试验匹配模型泛化性差、可解释性不足的问题，提出基于个性化动态树记忆网络的TREEMENT模型，通过临床本体扩展患者表征、注意力束搜索实现细粒度对齐，在真实数据集上匹配性能优于基线且具备可解释性。
2023-07-19 cs.AI cs.LG
EGAMA-RC: Risk-Calibrated Evidence-Gated Adaptive Malware Analysis for Robust and Interpretable Memory-Forensic Triage
School of Information Technology, University of Cincinnati（辛辛那提大学信息技术学院）
EGAMA-RC是用于内存取证分类的风险校准证据门控框架，结合多维度评估与路由，在三个恶意软件数据集上实现高接受准确率与低误接受率，为可靠恶意软件分析提供方案。
2026-08-25 cs.CR cs.LG
Dynamic Memory for Interpretable Sequential Optimisation
Apple（苹果公司）
强化学习在推荐和实验中的实际应用面临着一个实际的挑战：不同强盗武器的相对奖励可以在学习代理的生命周期中演变。为了处理这些非平稳的情况下，代理必须忘记一些历史知识，因为它可能不再相关，以尽量减少遗憾。我们提出了一个解决方案来处理非平稳性，适合大规模部署，为业务运营商提供自动化自适应优化。我们的解决方案旨在提供人类可以信任的可解释学习，同时响应非平稳性以最大限度地减少遗憾。为此，我们开发了一个自适应贝叶斯学习代理，采用了一种新的形式的动态记忆。它通过统计假设检验实现可解释性，通过在比较奖励时瞄准统计功率的设定点并动态调整其记忆以实现此功率。通过设计，代理对不同类型的非平稳性是不可知的。使用数值模拟，我们将其性能与现有的建议进行比较，并表明，在多个非平稳的情况下，我们的代理正确地适应真实奖励的真实变化。在所有的bandit解决方案中，在学习和实现最大性能之间存在明确的权衡。与另一种类似的鲁棒方法相比，我们的解决方案在这种权衡上处于不同的位置：我们优先考虑可解释性，这依赖于更多的学习，以一些遗憾为代价。我们描述了一个大规模部署的自动优化作为一种服务，我们的代理实现可解释性，同时适应不断变化的情况下的架构。
2022-06-28 cs.AI cs.LG stat.ML
Event-Centric World Modeling with Memory-Augmented Retrieval for Embodied Decision-Making
Zhaowen Fan（Fan 研究院）；Rongchao Zhang（Zhang 实验室）
本文提出一种事件中心世界建模框架，通过记忆增强检索实现具身决策，结合语义事件和先前经验进行决策，提升动态环境的结构抽象与可解释性。
2026-07-09 cs.IR cs.LG cs.RO
Decreasing the Computing Time of Bayesian Optimization using Generalizable Memory Pruning
Massachusetts Institute of Technology（麻省理工学院）
提出一种结合内存剪枝和有界优化的可泛化贝叶斯优化包装器，将计算时间从多项式增长转变为非递增锯齿状模式，且不牺牲收敛性能，适用于任意代理模型和采集函数。
2023-09-08 cs.LG
Modeling citation worthiness by using attention-based bidirectional long short-term memory networks and interpretable models
School of Information Management, Nanjing University（南京大学信息管理学院）；School of Information Studies, Syracuse University（雪城大学信息研究学院）
本文提出融合注意力与上下文信息的 BiLSTM 引用必要性检测模型，构建大规模 PMOA-CITE 数据集，并结合可解释模型分析引用语言，在 ACL-ARC 和 PMOA-CITE 上取得先进结果。
2024-05-20 cs.CL cs.LG
Tensor-Train Recurrent Neural Networks for Interpretable Multi-Way Financial Forecasting
Imperial College London（帝国理工学院）
循环神经网络（RNN）代表了序列建模的事实标准机器学习工具，这是由于它们的表达能力和记忆。然而，当处理大维度数据时，相应的参数数量的指数增加会造成计算瓶颈。需要让RNN具备处理维数灾难的能力，例如通过张量固有的参数压缩能力，这导致了Tensor-Train RNN（TT-RNN）的发展。尽管在许多应用中取得了令人鼓舞的结果，但TT-RNN的全部潜力还有待于在可解释的金融建模中进行探索，这是一项以低信噪比的多模态数据为特征的具有挑战性的任务。为了解决这个问题，我们研究了TT-RNN在货币金融预测任务中的潜力。通过对TT因子的分析，我们表明，张量分解背后的物理意义使TT-RNN模型能够帮助结果的可解释性，从而减轻了与神经网络相关的臭名昭著的“黑箱”问题。此外，仿真结果突出了TT分解的正则化能力，证明了TT-RNN优于未压缩RNN和其他张量预测方法的性能。
2021-05-11 cs.LG
A Maritime Industry Experience for Vessel Operational Anomaly Detection: Utilizing Deep Learning Augmented with Lightweight Interpretable Models
Mälardalen University（梅拉达伦大学）；Gdansk University of Technology（格但斯克工业大学）
本研究提出一种结合LSTM自编码器与轻量级代理模型的船舶运营异常检测方法，在TUCANA传感船舶上验证了其高检测性能与可解释性，有效提升了工程师的决策效率。
2025-01-25 cs.LG
StackVAE-G: An efficient and interpretable model for time series anomaly detection
Tsinghua University（清华大学）；Hefei University of Technology（合肥工业大学）；Siemens AG（西门子股份公司）
最近的研究表明，基于自动编码器的模型可以在异常检测任务上实现卓越的性能，因为它们具有以无监督方式拟合复杂数据的出色能力。在这项工作中，我们提出了一种新的自动编码器为基础的模型，命名为StackVAE-G，可以显着带来的效率和可解释性，多变量时间序列异常检测。具体来说，我们利用跨时间序列通道的相似性，通过堆叠块式重建与权重共享方案，以减少学习模型的大小，也减轻了过拟合到未知的噪音在训练数据。我们还利用图学习模块来学习稀疏邻接矩阵，以显式地捕获多个时间序列通道之间的稳定相互关系结构，用于相互关联通道的可解释模式重构。结合这两个模块，我们介绍了堆叠分块VAE（变分自编码器）与GNN（图神经网络）模型的多变量时间序列异常检测。我们在三个常用的公共数据集上进行了大量的实验，结果表明，我们的模型与最先进的模型具有相当的（甚至更好的）性能，同时需要更少的计算和内存成本。此外，我们证明了我们的模型学习的邻接矩阵准确地捕捉多个通道之间的相互关系，可以为故障诊断应用提供有价值的信息。
2022-09-19 cs.LG
Iterative Rule Extension for Logic Analysis of Data: an MILP-based heuristic to derive interpretable binary classification from large datasets
Tilburg University（蒂尔堡大学）
数据驱动的决策正在迅速普及，这得益于不断增加的可用数据量，以及可以识别线性输入输出关系之外的模型的开发。与此同时，对可解释的预测和分类方法的需求也在增加，因为这既提高了我们对这些模型的信任，也增加了我们可以从数据中提取的信息量。这种可解释性的一个重要方面是获得由多个合理的输入-输出关系构成的灵敏度-特异性权衡的洞察力。这些通常显示在受试者工作特征（ROC）曲线中。这些发展结合起来导致需要一种方法，可以从大数据中抽象出复杂但可解释的输入-输出关系，即包含大量样本和样本特征的数据。选言范式（DNF）中的布尔短语非常适合以可理解的方式解释非线性输入输出关系。混合整数线性规划（MILP）可以用来从二进制数据中提取这些布尔短语，尽管其计算复杂性限制了对大型数据集的分析。这项工作提出了IRELAND，一种算法，允许从多达10，000个样本和样本特征的数据中提取DNF中的布尔短语。结果表明，对于大型数据集，IRELAND的性能优于当前最先进的技术，并且可以为当前模型耗尽内存或需要过多运行时间的数据集找到解决方案。此外，爱尔兰通过建设，可以有效地计算敏感性-特异性权衡曲线，从而进一步了解基本的投入-产出关系。
2021-10-25 cs.LG
RFFNet: Large-Scale Interpretable Kernel Methods via Random Fourier Features
Federal University of São Carlos（圣卡洛斯联邦大学）；Universidade de São Paulo（圣保罗大学）；Instituto de Ciências Matemáticas e de Computação, Universidade de São Paulo（圣保罗大学数学与计算机科学学院）
针对现有可扩展核方法无法消除无关特征影响的问题，该研究为ARD核设计随机傅里叶特征并提出RFFNet，通过一阶随机优化学习核相关性，兼具低内存、低误差和高可解释性，还提供了符合scikit-learn API的PyTorch库与复现代码。
2024-04-12 cs.LG stat.ML
Memory Augmented Generative Adversarial Networks for Anomaly Detection
Stanford University（斯坦福大学）；Ford Greenfield Labs（福特格林菲尔德实验室）
在本文中，我们提出了一个内存增强算法的异常检测。经典的异常检测算法主要关注于学习建模和生成正常数据，但通常对检测异常数据的保证很弱。所提出的记忆增强生成对抗网络（MEMGAN）的编码和生成过程中的记忆模块进行交互。我们的算法是这样的\textit{encoded}正常的数据是在凸包的内存单元，而异常数据是孤立的外部。这样一个显着的属性导致良好的（分别）。重建正常（分别为异常）数据，因此为异常检测提供了强有力的保证。MEMGAN中解码后的记忆单元比以前的方法更具有可解释性和解纠缠性，这进一步证明了记忆机制的有效性。在CIFAR-10和MNIST的20个异常检测数据集上的实验结果表明，MEMGAN比以前的异常检测方法有明显的改进。
2020-02-07 cs.LG stat.ML
Interpretable Anomaly Detection with Mondrian P{ó}lya Forests on Data Streams
University of Warwick（华威大学）；University of Cambridge（剑桥大学）；Amazon（亚马逊）
大规模异常检测是一个极具挑战性和实用性的问题。当数据很大且高维时，很难检测出哪些观测结果不符合预期行为。最近的工作已经结合了（随机）$k$ \emph{d-trees}的变化，以总结异常检测的数据。然而，这些方法依赖于不容易解释的ad-hoc评分函数，使得难以评估检测到的异常的严重性或在没有标记的异常的情况下选择合理的阈值。为了解决这些问题，我们将这些方法置于一个概率框架中，我们称之为蒙德里安\Polya{}森林，用于估计生成数据的潜在概率密度函数，并使其比以前的工作具有更大的可解释性。此外，我们开发了一个内存效率的变种，能够在现代流媒体环境中运行。我们的实验表明，这些方法实现了最先进的性能，同时提供统计上可解释的异常分数。
2020-08-04 cs.LG stat.ML
Stream-CQSA: Exact Out-of-Memory Recovery for Attention
Lewis-Sigler Institute of Integrative Genomics（刘易斯-西格勒整合基因组学研究所）；Princeton University（普林斯顿大学）
本文提出Stream-CQSA框架，通过分解注意力计算为可调度的子任务，实现内存适应性调度，使单GPU可处理十亿token序列的精确注意力计算。
2026-09-03 cs.DC cs.LG
Learning to Remember, Forget and Ignore using Attention Control in Memory
IBM Research AI（IBM研究院人工智能部门）；Almaden Research Center（阿尔马登研究中心）
典型的具有外部记忆的神经网络不能有效地分离人类推理所需的情景记忆和工作记忆的容量。运用心理学研究中获得的知识，我们设计了一个新的模型，称为可区分工作记忆（DWM），以专门模仿人类的工作记忆。由于它显示出与工作记忆相同的功能特征，它可以强大地学习心理学启发的任务，并且比同类最先进的模型收敛得更快。此外，DWM模型成功地推广到比训练中使用的序列长两个数量级的序列。我们的深入分析表明，DWM的行为是可解释的，它学会了对记忆进行精细的控制，允许它根据相关性保留，忽略或忘记信息。
2018-09-28 cs.LG cs.NE stat.ML
Interpretable Time Series Classification using Linear Models and Multi-resolution Multi-domain Symbolic Representations
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学学院）
时间序列分类文献在过去十年中迅速扩展，每年都有许多新的分类方法出版。以往的研究主要集中在提高分类器的准确性和效率上，而对分类器的可解释性则有所忽视。分类器的这一方面对于许多应用领域来说已经变得至关重要，2018年欧盟GDPR立法的引入可能会进一步强调可解释的学习算法的重要性。目前，最先进的分类精度是通过基于大型集成（COTE）或深度神经网络（FCN）的非常复杂的模型来实现的。这些方法在时间或空间方面效率不高，难以解释，并且不能应用于可变长度的时间序列，需要将原始序列预处理为固定长度。在本文中，我们提出了新的时间序列分类算法，以解决这些差距。我们的方法是基于时间序列的符号表示，有效的序列挖掘算法和线性分类模型。我们的线性模型与深度学习模型一样准确，但在运行时间和内存方面更有效，可以处理可变长度的时间序列，并且可以通过突出原始时间序列上的区别性符号特征来解释。我们表明，我们的多分辨率多域线性分类器（mtSS-SEQL+LR）实现了与最先进的COTE集成和最近的深度学习方法（FCN，ResNet）相似的准确性，但使用COTE或深度模型所需的时间和内存的一小部分。为了进一步分析我们的分类器的可解释性，我们提出了一个案例研究的作者收集的人体运动数据集。我们发布所有结果、源代码和数据，以鼓励可重复性。
2020-05-31 cs.LG eess.SP stat.ML
Towards Interpretable End-Stage Renal Disease (ESRD) Prediction: Utilizing Administrative Claims Data with Explainable AI Techniques
Carnegie Mellon University（卡内基梅隆大学）；National Institutes of Health（美国国立卫生研究院）
该研究基于10年保险理赔数据，比较传统机器学习与LSTM模型并结合SHAP解释，发现24个月窗口的LSTM在ESRD进展预测中表现最优。
2024-10-25 cs.AI cs.LG
Sequence-to-Sequence Models with Attention Mechanistically Map to the Architecture of Human Memory Search
Rutgers University-New Brunswick（新 Brunswick罗切斯特大学）；Department of Computer Science（计算机科学系）；Department of Psychology（心理学系）；Rutgers Center for Cognitive Science（罗切斯特认知科学中心）
本研究揭示带注意力的序列到序列模型与人类记忆的CMR模型机制对应，并据此构建可解释的认知模型，有效捕捉人类记忆搜索的平均与最优行为模式。
2025-06-20 cs.LG q-bio.NC
Extending Deep Knowledge Tracing: Inferring Interpretable Knowledge and Predicting Post-System Performance
Graduate School of Education, University of Pennsylvania（宾夕法尼亚大学教育研究生院）；Human-Computer Interaction Institute, Carnegie Mellon University（卡内基梅隆大学人机交互研究所）
最近的学生知识建模算法，如深度知识跟踪（DKT）和动态键值记忆网络（DKVMN），已被证明可以在同一个学习系统中准确预测问题的正确性。然而，这些算法并不试图直接推断学生的知识。在本文中，我们提出了一个扩展这些算法也推断知识。我们将此扩展应用于DKT和DKVMN，从而使知识估计与后测的相关性优于贝叶斯知识追踪（BKT）（一种旨在推断知识的算法）和另一种经典算法性能因素分析（PFA）的知识估计。我们还将我们的扩展BKT和PFA的正确性预测，发现它产生的知识估计相关性更好地与后测比BKT和PFA的标准知识估计。这些发现意义重大，因为教育的主要目的是让学生为即时学习活动之外的后续经历做好准备。
2020-08-31 cs.CY cs.LG stat.ML
Graph-Based Spatio-temporal Attention and Multi-Scale Fusion for Clinically Interpretable, High-Fidelity Fetal ECG Extraction
University of Nevada, Las Vegas（内华达大学拉斯维加斯分校）
提出FHNet框架，融合图神经网络与多尺度Transformer，动态建模导联相关性，在低信噪比下高保真提取胎儿心电，性能优于现有模型，并具备临床可解释性。
2025-09-05 cs.LG eess.SP
An interpretable classifier for high-resolution breast cancer screening images utilizing weakly supervised localization
Center for Data Science, New York University（纽约大学数据科学中心）；Department of Computer Science, Courant Institute, New York University（纽约大学库朗研究所计算机科学系）；Department of Radiology, NYU School of Medicine（纽约大学医学院放射科）；Perlmutter Cancer Center, NYU Langone Health（纽约大学朗格尼健康系统珀尔马特癌症中心）；Center for Advanced Imaging Innovation and Research, NYU Langone Health（纽约大学朗格尼健康系统先进成像创新与研究中心）；CIFAR Associate Fellow（CIFAR研究员（注：CIFAR是加拿大英属哥伦比亚大学的一个研究机构，但根据提取规则，此处仅提取“CIFAR”相关部分，严格按英文保留））
医学图像与自然图像的不同之处在于分辨率明显更高，感兴趣区域更小。由于这些差异，对于自然图像工作良好的神经网络架构可能不适用于医学图像分析。在这项工作中，我们扩展了全局感知的多实例分类器，我们提出了一个框架，以解决这些独特的属性的医学图像。该模型首先在整个图像上使用低容量但内存效率高的网络来识别信息量最大的区域。然后，它应用另一个更高容量的网络来收集选定区域的详细信息。最后，它采用了一个融合模块，聚合全局和局部信息，以作出最终的预测。虽然现有的方法通常需要在训练过程中进行病变分割，但我们的模型仅使用图像级标签进行训练，并且可以生成指示可能的恶性结果的像素级显著性图。我们将该模型应用于筛查乳腺X线摄影解释：预测良性和恶性病变的存在或不存在。在由超过100万张图像组成的纽约大学乳腺癌筛查数据集上，我们的模型在对具有恶性结果的乳房进行分类时达到了0.93的AUC，优于ResNet-34和Faster R-CNN。与ResNet-34相比，我们的模型推理速度快4.1倍，同时使用的GPU内存减少78.4%。此外，我们在一项读者研究中证明，我们的模型超过放射科医生水平的AUC 0.11。拟议的模型可在网上查阅：https://github.com/nyukat/GMIC。
2020-02-13 cs.CV cs.LG eess.IV
Interpretable Structure-Evolving LSTM
Carnegie Mellon University（卡内基梅隆大学）；Sun Yat-sen University（中山大学）；Adobe Research（Adobe研究院）；National University of Singapore（新加坡国立大学）
本文开发了一个通用框架，用于通过分层图结构上的长短期记忆（LSTM）递归神经网络学习可解释的数据表示。我们建议在LSTM网络优化过程中，以渐进和随机的方式从数据中进一步学习中间可解释的多级图结构，而不是在预先固定的结构上学习LSTM模型。因此，我们将这种模型称为结构演化LSTM。特别是，从每个节点都是小数据元素的初始元素级图形表示开始，结构进化LSTM通过随机合并具有高兼容性的图形节点来逐步进化多层图形表示。在每个LSTM层中，我们从两个连接节点对应的LSTM门输出中估计它们的兼容性，这用于生成合并概率。相应地生成候选图结构，其中节点被分组为具有其合并概率的团。然后，我们用Metropolis-Hasting算法产生新的图结构，该算法通过具有接受概率的随机采样来消除陷入局部最优的风险。一旦一个图结构被接受，一个更高级别的图，然后构造通过分区集团作为其节点。在演化过程中，表示在更高的层次上变得更加抽象，其中冗余信息被过滤掉，从而允许更有效地传播长距离数据依赖关系。我们评估了结构演化LSTM在语义对象解析应用中的有效性，并在标准基准测试中展示了其相对于最先进LSTM模型的优势。
2017-03-08 cs.AI cs.CV cs.LG
