Interpretable Outcome Prediction with Sparse Bayesian Neural Networks in Intensive Care
Microsoft Research Cambridge（微软研究院剑桥）；University of Cambridge（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）
由于病理学的复杂性以及作为常规临床护理的一部分而产生的大量异质数据，临床决策具有挑战性。近年来，已经开发了机器学习工具来帮助这一过程。重症监护病房（ICU）的入院代表了最密集的数据和时间紧迫的病人护理事件。在这种情况下，预测模型可以帮助临床医生确定哪些患者风险最高，并优先考虑护理。然而，灵活的工具，如人工神经网络（ANN）缺乏可解释性，限制了它们对临床医生的可接受性。在这项工作中，我们提出了一种新的可解释贝叶斯神经网络架构，它提供了人工神经网络的灵活性和可解释性方面的特征选择。特别是，我们采用稀疏诱导先验分布在一个捆绑的方式来学习哪些功能是重要的结果预测。我们使用两个真实世界的ICU队列来评估我们在死亡率预测任务上的方法。在与临床医生的合作中，我们发现，除了预测的结果外，我们的方法还可以为不同临床测量的重要性提供新的见解。这表明我们的模型可以支持医学专家的决策过程。
2019-09-09 cs.LG stat.ML
MolEvolve: LLM-Guided Evolutionary Search for Interpretable Molecular Optimization
Hong Kong University of Science（香港科技大学）；Hong Kong Polytechnic University（香港理工大学）；Tsinghua University（清华大学）；Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））
MolEvolve通过大语言模型引导进化搜索，实现可解释的分子优化，优于传统方法在属性预测和分子优化任务中表现更优。
2026-03-25 cs.AI cs.CE cs.LG
Incremental Bounded Model Checking of Artificial Neural Networks in CUDA
Federal University of Amazonas（亚马逊联邦大学）；SIDIA Instituto de Ciência e Tecnologia（SIDIA科学技术研究所）；University of Manchester（曼彻斯特大学）
人工神经网络（ANN）是用于各种应用的强大的计算系统，这是由于其通用性来概括和响应意外的输入/模式。然而，人工神经网络的安全关键系统的实现可能会导致故障，这是很难预测的设计阶段，因为人工神经网络是高度并行的，他们的参数是很难解释。在这里，我们开发并评估了一种基于增量有界模型检验（BMC）的新型符号软件验证框架，以检查多层感知器（MLP）中的对抗性情况和覆盖方法。特别是，我们进一步开发了高效的基于SMT的图形处理单元上下文有界模型（ESBMC-GPU），以确保某些安全属性的可靠性，其中安全关键系统可能会出现故障并做出错误的决策，从而导致不必要的材料损坏甚至危及生命。本文标志着第一个符号验证框架的原因在CUDA实现的人工神经网络。我们的实验结果表明，我们在ESBMC-GPU上实现的方法可以成功地验证人工神经网络的安全属性和覆盖方法，并正确地生成28个MLP对抗案例。
2019-07-30 cs.LG cs.LO cs.NE
Gradient-Adjusted Neuron Activation Profiles for Comprehensive Introspection of Convolutional Speech Recognition Models
Otto von Guericke University Magdeburg（马格德堡奥托·冯·格里克大学）
基于深度学习的自动语音识别（ASR）模型非常成功，但很难解释。为了更好地理解人工神经网络（ANN）如何完成它们的任务，已经提出了内省方法。将这样的技术从计算机视觉应用到语音识别并不简单，因为语音数据比图像数据更复杂且更难解释。在这项工作中，我们引入了顺应性调整的神经元激活轮廓（GradNAP）作为解释深度神经网络中的特征和表示的手段。GradNAP是ANN对特定输入组的特征响应，其中包含用于预测的神经元的相关性。我们展示了如何利用GradNAP来深入了解数据如何在ANN中处理。这包括不同的可视化功能和GradNAP聚类的方式，以比较给定网络的任何层中不同输入组的嵌入。我们使用全卷积ASR模型演示了我们提出的技术。
2020-02-19 cs.LG cs.SD eess.AS
GPEX, A Framework For Interpreting Artificial Neural Networks
University of Alberta（阿尔伯塔大学）
本文提出GPEX框架，通过证据下界使高斯过程匹配任意人工神经网络输出，并利用可扩展计算和核函数解释网络决策，在5个数据集上验证了其有效性。
2024-01-10 cs.LG stat.ML
Semantic HELM: A Human-Readable Memory for Reinforcement Learning
ELLIS Unit Linz and LIT AI Lab, Institute for Machine Learning（ELLIS 林茨分部与 LIT AI 实验室，机器学习研究所）
本文提出语义 HELM 记忆机制，利用 CLIP 和预训练语言模型将智能体的过去事件表示为人类可读语言，在需要记忆的部分可观测任务中性能优异，且收敛速度比先前方法快两个数量级，显著提升了可解释性。
2023-10-27 cs.AI cs.CL cs.LG
A mechanistically interpretable neural network for regulatory genomics
Genentech（基因泰克）；Biology Research（生物学研究）；AI Development（人工智能开发）
针对调控基因组学领域传统基序提取方法信息分散难解释、重要性得分法不稳定的问题，提出一种机制可解释的神经网络架构，基序及语法可直接从权重和激活中读取，兼具完全表达能力与高可解释性，在基序发现等任务上表现优异且支持可解释的功能序列生成。
2024-10-08 cs.LG q-bio.GN
DEM: A Distilled Explanation Model for Interpretable Anomaly Detection in Physiological Sensor Networks
Department of Computer Science and Information Systems（计算机科学与信息系统系）；Department of Electrical and Electronics Engineering（电气与电子工程系）
提出一种三阶段玻璃箱框架DEM，通过将梯度提升专家模型的知识蒸馏到基于线性基线残差的决策树中，实现高精度与内在可解释性的异常检测，并引入蒸馏保真度指标量化解释可信度。
2026-05-29 cs.AI cs.LG
Unsupervised Symbolic Anomaly Detection
TU Dortmund University, Dortmund, Germany Research Center Trustworthy Data Science（图鲁特大学，德国多特蒙德 Research Center Trustworthy Data Science）
SYRAN通过学习可读的符号方程来检测异常，利用近似常数的符号不变量，提供可解释的异常评分，实验表明其在可解释性和检测性能上表现优异。
2026-03-18 cs.AI cs.LG cs.SC
Efficient Global Optimization of Two-Layer ReLU Networks: Quadratic-Time Algorithms and Adversarial Training
Department of Mechanical Engineering, University of California, Berkeley（机械工程系，加州大学伯克利分校）；Department of Electrical Engineering and Computer Science, University of California, Berkeley（电气工程与计算机科学系，加州大学伯克利分校）
针对人工神经网络训练的非凸优化难题，刻画ReLU网络凸训练近似解的质量，提出两种带全局收敛保证的高效算法，并构建适用于对抗训练的鲁棒凸训练公式。
2025-06-17 cs.LG
Programmatically Interpretable Reinforcement Learning
Rice University（莱斯大学）；Google Brain（谷歌大脑）；Deepmind（深度思维）
我们提出了一个强化学习框架，称为程序可解释的强化学习（PIRL），旨在生成可解释和可验证的代理政策。与流行的深度强化学习（DRL）范式不同，它通过神经网络来表示策略，PIRL使用高级的、特定于领域的程序设计语言来表示策略。这种程序化策略的好处是比神经网络更容易解释，并且可以通过符号方法进行验证。我们提出了一种新的方法，称为神经导向程序搜索（NDPS），解决具有挑战性的非光滑优化问题，找到一个最大的奖励计划的政策。NDPS的工作原理是首先使用DRL学习神经策略网络，然后在编程策略上执行本地搜索，以最大限度地减少与这个神经“oracle”的距离。我们评估NDPS的任务，学习驾驶模拟汽车在TORCS赛车环境。我们证明，NDPS是能够发现人类可读的政策，通过一些显着的性能酒吧。我们还表明，PIRL政策可以有更平滑的轨迹，可以更容易地转移到训练过程中没有遇到的环境，比DRL发现相应的政策。
2019-04-10 cs.AI cs.LG cs.PL
Structural Compositional Function Networks: Interpretable Functional Compositions for Tabular Discovery
Department of Computer Science（计算机科学系）；Oklahoma Christian University（俄克拉荷马基督教大学）
结构组合函数网络通过可解释的功能组合提升表格数据发现的性能和可解释性。
2026-01-27 cs.AI cs.LG
SLogic: Subgraph-Informed Logical Rule Learning for Knowledge Graph Completion
Department of Computer Science（计算机科学系）；New Mexico State University（新墨西哥州立大学）
SLogic通过子图指导的逻辑规则学习方法，在知识图谱补全中实现更精准的规则权重分配和可解释的推理规则生成。
2026-08-25 cs.AI cs.LG
An interpretable prototype parts-based neural network for medical tabular data
Poznan University of Technology, Institute of Computing Science（波兹南技术大学计算科学学院）
本文提出了一种可解释的原型部件基于神经网络，用于医疗表格数据，通过可训练的特征片段学习有意义的原型部件，实现可解释的预测和临床决策支持。
2026-03-05 cs.LG
On the Computational Complexity and Formal Hierarchy of Second Order Recurrent Neural Networks
University of South Florida（南佛罗里达大学）；Rochester Institute of Technology（罗切斯特理工学院）；Pennsylvania State University（宾夕法尼亚州立大学）
本文研究二阶 RNN 的计算能力与形式层级，证明其可在有界时间内图灵完备，并在正则文法识别、神经元界及状态机抽取上优于一阶模型。
2023-09-26 cs.CC cs.LG
Guided by Stars: Interpretable Concept Learning Over Time Series via Temporal Logic Semantics
Università degli Studi di Trieste（特里埃斯特大学）
本文提出神经符号框架STELLE，通过将时间序列嵌入时序逻辑概念空间，在分类的同时提供局部与全局可解释性，并在多个基准上验证了其准确性与解释的忠实性。
2025-11-06 cs.LG
Capturing and Explaining Trajectory Singularities using Composite Signal Neural Networks
Université de Nantes（南特大学）；CNRS（法国国家科学研究中心）；Norwich Medical School, University of East Anglia（东英吉利大学诺里奇医学院）；University College London（伦敦大学学院）
空间轨迹是无处不在的复杂信号。他们的分析在许多研究领域都至关重要，从城市规划到神经科学。已经提出了几种方法来聚类轨迹。它们依赖于手工制作的特征，这些特征难以捕捉信号的时空复杂性，或者依赖于人工神经网络（ANN），后者效率更高，但可解释性较差。在本文中，我们提出了一种新的人工神经网络架构，旨在捕捉一组轨迹的时空模式特性，同时考虑到人口统计的导航。因此，我们的模型提取了与行为和人口统计学相关的标记。我们提出了一个复合信号分析仪（CompSNN）结合三个简单的人工神经网络模块。这些模块中的每一个都使用轨迹的不同信号表示，同时保持可解释性。我们的CompSNN比孤立的模块表现得更好，并且可以可视化信号的哪些部分对区分轨迹最有用。
2020-05-07 cs.LG stat.ML
MonoKAN: Certified Monotonic Kolmogorov-Arnold Network
Institute for Research in Technology (IIT)（技术研究机构）；ICAI School of Engineering（工程学院）；Universidad Pontificia Comillas（Pontificia Comillas大学）；Department of Applied Mathematics（应用数学系）；Department of Quantitative Methods（定量方法系）；ICADE（ICADE学院）
MonoKAN是一种基于KAN架构的神经网络，通过使用三次赫尔姆霍茨样条和正权重，实现验证性单调性和增强的可解释性，同时在多个基准上提升了预测性能。
2025-11-21 cs.AI cs.LG cs.NE
Rule Extraction in Machine Learning: Chat Incremental Pattern Constructor
Caleb Princewill Nwokocha
提出ChatIPC系统，通过增量学习从文本中提取有序令牌转换规则，利用定义扩展和相似度引导候选选择构建响应，实现可解释的规则提取。
2026-08-11 cs.LG
STYLE-ANALYZER: fixing code style inconsistencies with interpretable unsupervised algorithms
source { d }；Madrid, Spain（西班牙马德里（注：原文本中“Madrid, Spain”为地点信息，非机构名称，此处可能为笔误或格式问题，根据提取规则仅提取明确机构名，若仅保留“source { d }”则符合要求））
源代码审查是手动的，耗时且昂贵。人的参与应该集中在分析程序最相关的方面，比如逻辑和可维护性，而不是修改风格、语法或格式缺陷。一些具有linting功能的工具可以自动格式化代码，并报告支持的程序设计语言的各种样式冲突。它们基于领域专家编写的规则，因此，它们的配置通常是繁琐的，并且给定的规则集覆盖所有可能的角落情况是不切实际的。存在一些基于机器学习的解决方案，但它们仍然是不可解释的黑箱。本文介绍了STYLE-ANALYZER，一个新的开源工具，使用决策树森林模型自动修复代码格式违规，该模型适用于每个代码库，完全无监督。STYLE-ANALYZER构建在我们新颖的辅助代码审查框架Lookout之上。它准确地挖掘每个分析的Git存储库的格式样式，并使用紧凑的人类可读规则表达发现的格式模式。然后STYLE-ANALYZER可以以代码评审注释的形式建议风格不一致的修复。我们评估的输出质量和实际相关性的风格分析，证明它可以重现原始风格的高精度，测量19个流行的JavaScript项目，并显示它产生有前途的结果，在修复真正的风格错误。STYLE-ANALYZER包括一个Web应用程序，用于可视化规则是如何触发的。我们在GitHub上发布STYLE-ANALYZER作为可重用和可扩展的开源软件包，以造福社区。
2019-04-01 cs.LG cs.SE stat.ML
Learning Transformer Programs
Princeton University（普林斯顿大学）
本文提出 Transformer Programs，通过训练改进的 Transformer 并自动转换为人类可读程序，在多种任务上达到与标准 Transformer 相当的性能，同时显著提升模型可解释性。
2023-10-31 cs.CL cs.LG
Understanding Structured Financial Data with LLMs: A Case Study on Fraud Detection
The Ohio State University（俄亥俄州立大学）；Coinbase, Inc.（Coinbase公司）
本文提出FinFRE-RAG方法，通过特征缩减和检索增强学习提升欺诈检测性能，优于直接提示方法并在某些设置中与传统模型竞争。
2026-04-08 cs.CL cs.LG
