Unsupervised Discovery of Interpretable Directions in the GAN Latent Space
Yandex（扬德克斯）；National Research University Higher School of Economics（国立研究型大学高等经济学院）
GAN模型的潜在空间通常具有语义上有意义的方向。在这些方向上移动对应于人类可解释的图像变换，例如缩放或缩放，从而实现更可控的生成过程。然而，这些方向的发现目前是以监督的方式执行的，需要人类标签，预训练模型或某种形式的自我监督。这些要求严重限制了现有方法可以发现的方向范围。在本文中，我们引入了一种无监督的方法来识别预训练的GAN模型的潜在空间中的可解释方向。通过一个简单的模型不可知的程序，我们发现方向对应于明智的语义操作，没有任何形式的（自我）监督。此外，我们揭示了几个非平凡的发现，这将是很难获得现有的方法，例如，对应于背景去除的方向。作为我们工作的直接实际好处，我们展示了如何利用这一发现来实现弱监督显着性检测的竞争性能。
2020-06-24 cs.CV cs.LG stat.ML
Unsupervised and interpretable scene discovery with Discrete-Attend-Infer-Repeat
University of Cambridge（剑桥大学）
在这项工作中，我们提出了离散注意推断重复（离散空气），一个经常性的自动编码器与结构化的潜在分布包含离散分类分布，连续属性分布，和分解空间注意。离散空气模型的灵感来自于原始空气模型和保留空气模型的能力，在识别图像中的对象，离散空气提供了直接解释的潜在代码。我们表明，对于多MNIST和多对象版本的dSprites数据集，离散空气模型只需要一个分类的潜在变量，一个属性变量（仅适用于多MNIST），以及空间注意力变量，有效的推理。我们进行分析表明，学习的分类分布有效地捕捉多MNIST和多精灵的场景中的对象的类别。
2019-03-14 cs.CV cs.LG stat.ML
LatentCLR: A Contrastive Learning Approach for Unsupervised Discovery of Interpretable Directions
EPFL（洛桑联邦理工学院）；Technical University of Munich（慕尼黑工业大学）；Boğaziçi University（博阿齐奇大学）
最近的研究表明，在预训练的生成对抗网络（GANs）的潜在空间中找到可解释的方向是可能的。这些方向实现了可控的图像生成，并支持广泛的语义编辑操作，如缩放或旋转。这种方向的发现通常以监督或半监督的方式进行，并且需要手动注释，这限制了它们在实践中的使用。相比之下，无监督发现允许发现难以先验检测的微妙方向。在这项工作中，我们提出了一种基于对比学习的方法，以自我监督的方式在预训练的GANs的潜在空间中发现语义方向。我们的方法发现语义上有意义的尺寸与国家的最先进的方法。
2021-10-06 cs.CV cs.LG
Interpretable Scientific Discovery with Symbolic Regression: A Review
Qatar Computing Research Institute（卡塔尔计算研究所）
本综述聚焦符号回归这一可直接从数据中学习可解释数学表达式的机器学习方法，梳理了其从遗传编程到深度学习驱动的发展脉络，系统总结各类方法的优劣，覆盖多领域应用进展。
2023-05-02 cs.AI cs.LG hep-ph
Interpretable Reinforcement Learning with Multilevel Subgoal Discovery
Ershov Institute of Informatics Systems（埃尔绍夫信息系统研究所）
我们提出了一种新的强化学习模型的离散环境，这是内在的可解释性，并支持发现深层次的子目标层次。在该模型中，智能体以概率规则的形式学习有关环境的信息，而（子）目标的策略则以其组合的形式学习。学习不需要奖励函数;智能体只需要被赋予一个要实现的主要目标。来自层次结构的目标G的子目标被计算为状态的描述，如果先前实现，则增加G的可用策略的总效率。这些状态描述作为新的传感器谓词引入到代理的规则语言中，这允许感测重要的中间状态并相应地更新环境规则和策略。
2022-02-15 cs.AI cs.LG
Interpretable, multi-dimensional Evaluation Framework for Causal Discovery from observational i.i.d. Data
Humboldt University Berlin（柏林洪堡大学）；Bucharest University of Economic Studies（布加勒斯特经济研究大学）
针对观测数据非线性因果发现缺乏统一评估框架的问题，提出可解释的六维评估指标DOS，并通过大规模模拟研究评估七类结构学习算法，发现摊销因果发现性能接近最优。
2024-12-16 cs.LG stat.ML
Which Style Makes Me Attractive? Interpretable Control Discovery and Counterfactual Explanation on StyleGAN
JD Technology（京东科技）；Tsinghua University（清华大学）
GAN中语义上分离的潜在子空间为图像生成提供了丰富的可解释控制。本文包括使用StyleGAN2的人脸生成场景中的语义潜在子空间分析的两个贡献。首先，我们提出了一种新的方法来解开潜在子空间语义利用现有的人脸分析模型，例如，面部解析器和面部界标检测器。这些模型提供了构建具有非常具体和可解释的语义含义的各种标准的灵活性（例如，改变面部形状或改变肤色）以限制潜在子空间解纠缠。利用所构造的准则可以发现以前未知的丰富的潜空间控制。其次，我们提出了一个新的视角来解释CNN分类器的行为，通过在我们发现的可解释的潜在子空间中生成反事实。这种解释有助于揭示分类器是否按预期学习语义。在不同解纠缠准则下的实验结果表明了该方法的有效性。我们相信这种方法有助于CNN的图像处理和反事实解释。代码可在\url{https://github.com/prclibo/ice}上获得。
2022-01-24 cs.AI cs.CV cs.LG
Toward Interpretable Topic Discovery via Anchored Correlation Explanation
USC Information Sciences Institute（南加州大学信息科学研究所）
许多预测性任务，例如根据患者的病历诊断患者，最终由人类专家的决策来定义。不幸的是，编码专家的知识往往是耗时和昂贵的。我们提出了一种简单的方法，使用模糊和非正式的知识，从专家指导发现可解释的潜在主题的文本。我们的方法的基本直觉是，潜在的因素应该提供有关数据中的相关性和专家指定的一组相关变量的信息。从数学上讲，这种方法是信息瓶颈和总相关解释（CorEx）的组合。我们给出了锚定CorEx的初步评价，表明它产生更连贯和可解释的主题上两个不同的语料库。
2016-06-22 cs.CL cs.LG stat.ML
Data-driven discovery of interpretable causal relations for deep learning material laws with uncertainty propagation
Johns Hopkins University（约翰斯·霍普金斯大学）；Columbia University（哥伦比亚大学）
本文提出了一个计算框架，产生合奏预测力学模型与不确定性量化（UQ）。首先，我们开发了一个因果发现算法，通过有向无环图（DAG）来推断在每个代表性体积元素（RVE）模拟过程中测量的时间历史数据之间的因果关系。利用从多个RVE模拟估计的多组合理的因果关系，预测在导出的因果图中传播，同时使用配备有dropout层的深度神经网络作为用于不确定性量化的贝叶斯近似。我们选择了两个有代表性的数值例子（摩擦界面的牵引分离定律，颗粒集合体的弹塑性模型）来检验所提出的因果发现方法在土木工程应用中常见的材料定律预测的准确性和鲁棒性。
2021-05-20 cs.LG stat.ML
Interpretable Subgroup Discovery in Treatment Effect Estimation with Application to Opioid Prescribing Guidelines
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）；IBM Global Business Services（IBM全球企业咨询服务部）
医生处方指南的缺乏是目前美国阿片类药物流行的一个关键驱动因素。在这项工作中，我们分析了医疗和药物索赔数据，以了解在最初的合成阿片类药物处方后更容易出现不良结果的患者的特征。为此，我们提出了一个生成模型，允许从亚组的观察数据中发现，这些亚组表现出由于治疗而增强或减弱的因果效应。我们的方法将这些子群体建模为混合分布，使用稀疏性来增强可解释性，同时联合学习潜在结果的非线性预测因子，以更好地调整混淆。该方法导致人类可解释的见解发现的子群，提高决策支持的实际效用
2020-03-04 cs.LG stat.ML
Dagma-DCE: Interpretable, Non-Parametric Differentiable Causal Discovery
Stony Brook University（石溪大学）
针对可微因果发现现有方法代理指标与实际因果强度偏差大的问题，提出可解释、模型无关的Dagma-DCE方案，用可解释因果强度度量定义加权邻接矩阵，在模拟数据集上达SOTA性能，支持专家阈值设定与稀疏惩罚，代码开源且易适配。
2024-01-05 cs.LG stat.ME stat.ML
Discovering interpretable Lagrangian of dynamical systems from data
Indian Institute of Technology Delhi（印度理工学院德里分校）
对物理系统的完整理解需要精确且遵守自然守恒定律的模型。表征学习的最新趋势涉及从数据中学习拉格朗日，而不是直接发现运动的控制方程。方程发现技术的推广具有巨大的潜力，然而，现有的拉格朗日发现框架本质上是黑箱。这引起了人们对已发现的拉格朗日函数的可重用性的关注。在这篇文章中，我们提出了一种新的数据驱动的机器学习算法来自动从数据中发现可解释的拉格朗日。拉格朗日量以可解释的形式导出，这也允许自动发现守恒定律和运动的控制方程。所提出的框架的架构设计在这样一种方式，它允许学习拉格朗日从一个子集的基础域，然后概括为一个无限维的系统。所提出的框架的保真度举例说明使用的例子所描述的系统的常微分方程和偏微分方程的拉格朗日量和守恒量是已知的。
2023-02-09 cond-mat.dis-nn cs.LG stat.ML
Adaptive Discovery of Interpretable Audio Attributes with Multimodal LLMs for Low-Resource Classification
Kyoto University（京都大学）
本文提出利用多模态大语言模型自适应发现可解释音频属性，提升低资源音频分类的效率和准确性。
2026-03-07 cs.LG cs.SD
Interpretable Causal Discovery via Causal-Effect Constraints
Yale University（耶鲁大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
该研究将条件因果发现转化为贝叶斯推理问题，采用稀有事件估计技术解决小后验质量事件的计算挑战，经合成图和Sachs蛋白质数据集验证了方法的准确性与辅助科学探索的作用。
2026-09-24 cs.AI cs.LG stat.ML
Uncertainty quantification in model discovery by distilling interpretable material constitutive models from Gaussian process posteriors
Technische Universität Braunschweig, Institute of Applied Mechanics（Braunschweig 技术大学应用力学研究所）；Technische Universität Braunschweig, Institute for Acoustics（Braunschweig 技术大学声学研究所）
本文提出了一种部分贝叶斯框架，通过从高斯过程后验中提炼可解释的材料本构模型，实现模型发现中的不确定性量化，适用于各向同性和各向异性数据。
2026-01-26 cs.LG stat.ML
The Kalman Evolve: Closing the Gap in Kalman Filtering via Interpretable Algorithm Discovery
KTH Royal Institute of Technology（皇家理工学院）
针对非线性传感场景下卡尔曼滤波性能下降的问题，提出Kalman Evolve框架，联合优化噪声参数与更新结构，利用大语言模型生成可解释的非仿射修改，在多个基准上实现高达12%的RMSE降低。
2026-05-26 cs.AI cs.CV cs.LG
Data-Driven Discovery of Interpretable Kalman Filter Variants through Large Language Models and Genetic Programming
University of Reading（reading大学）；University of Cambridge（剑桥大学）
本文探讨通过遗传编程和大规模语言模型自动发现卡尔曼滤波变种的可能性，展示框架在不同条件下发现最优解及可解释替代方案的能力。
2025-08-25 cs.LG cs.NE
Contextual Regression: An Accurate and Conveniently Interpretable Nonlinear Model for Mining Discovery from Scientific Data
线性回归、支持向量机、神经网络等机器学习算法在科学发现过程中发挥着越来越重要的作用。然而，它们中没有一个在非线性数据集上既可解释又准确。在这里，我们提出了上下文回归，一种方法，将这两个理想的属性一起使用的混合架构的神经网络嵌入和点积层。我们通过模拟数据集上的预测特征选择任务和预测人类基因组中开放染色质位点的应用证明了其高预测精度和灵敏度。在模拟数据上，我们的方法在高达200%的随机噪声水平下实现了特征贡献的高保真恢复。在开放染色质数据集上，我们的方法的应用不仅在准确性方面优于最先进的方法，而且还揭示了两个以前未发现的开放染色质相关组蛋白标记。该方法可以填补科学数据挖掘任务中精确和可解释的非线性建模的空白。
2017-10-30 cs.LG q-bio.QM stat.AP
Unsupervised Discovery of Interpretable Directions in h-space of Pre-trained Diffusion Models
Zhejiang University（浙江大学）；ByteDance（字节跳动）
本文提出首个无监督学习方法，在预训练扩散模型h空间中发现全局可扩展的可解释方向，并设计显存高效训练算法以支持梯度反向传播。
2023-11-30 cs.CV cs.LG
Towards scientific discovery with dictionary learning: Extracting biological concepts from microscopy foundation models
Valence Labs（Valence实验室）；Rutgers University（罗格斯大学）；University of Cambridge（剑桥大学）；University of Manchester（曼彻斯特大学）
本文提出将迭代码本特征学习与PCA白化预处理相结合，从细胞显微镜视觉基础模型中提取细胞类型、遗传扰动等生物学概念，并揭示细微形态变化，为生物成像中的机制可解释性科学发现开辟新路径。
2025-07-18 cs.AI cs.CV cs.LG
Automatic Discovery of Interpretable Planning Strategies
在做决策时，人们往往会忽视关键信息，或者被无关信息过度左右。减轻这些偏见的一种常见方法是为决策者，特别是医生等专业人员提供决策辅助工具，如决策树和流程图。设计有效的决策辅助工具是一个难题。我们建议，最近开发的强化学习方法，发现聪明的策略，良好的决策，可以部分利用，以协助人类专家在这个设计过程中。利用上述方法的最大障碍之一是，他们学到的政策对人们来说是不透明的。为了解决这个问题，我们引入了AI-Interpret：一种将特殊策略转换为简单且可解释的描述的通用方法。我们的算法结合了模仿学习和程序归纳的最新进展，一个新的聚类方法，用于识别一个大的子集的演示，可以准确地描述了一个简单的，高性能的决策规则。我们评估我们的新算法，并采用它来翻译通过元级强化学习发现的信息获取策略。大型行为实验的结果表明，将AI-Interpret生成的决策规则作为流程图提供，可以显着改善人们在三种不同类别的顺序决策问题中的规划策略和决策。此外，另一项实验表明，这种方法比通过给人们提供绩效反馈来培训他们更有效。最后，一系列的消融研究证实了AI解释对于发现可解释的决策规则至关重要。我们的结论是，本文提出的方法和研究结果是利用自动策略发现来改善人类决策的重要一步。
2021-04-10 cs.AI cs.CY cs.HC
MARS: A neurosymbolic approach for interpretable drug discovery
University of Edinburgh（爱丁堡大学）；Enveda Therapeutics；Cancer Research UK Scotland Institute（英国癌症研究中心苏格兰研究所）
本文提出MARS，一种结合逻辑规则与神经网络的神经符号方法，用于药物作用机制解构，通过识别并缓解推理捷径提升药物发现的可解释性与可靠性。
2026-06-28 cs.AI cs.LG cs.LO
Explainable Mixed Data Representation and Lossless Visualization Toolkit for Knowledge Discovery
Central Washington University（中央华盛顿大学）
针对异构/混合数据开发机器学习（ML）算法是一个长期存在的问题。许多ML算法不适用于混合数据，包括数值和非数值数据，文本，图形等，以生成可解释的模型。另一个长期存在的问题是开发多维混合数据的无损可视化算法。ML的进一步发展在很大程度上取决于混合数据的成功可解释ML算法和多维数据的无损可解释可视化。后者允许最终用户使用可视化知识发现来开发可解释的ML模型，最终用户可以带来训练数据中缺少的有价值的领域知识。混合数据的挑战包括：（1）为数值ML算法的非数值属性生成数值编码方案，以提供准确和可解释的ML模型，（2）生成n-D非数值数据的无损可视化方法和这些可视化中的可视化规则发现。本文对混合数据类型进行了分类，分析了它们在机器学习中的重要性，并给出了开发的处理混合数据的实验工具包。它结合了数据类型编辑器，VisCanvas数据可视化和GitHub上的规则发现系统。
2022-06-13 cs.LG
DiSciPLE: Learning Interpretable Programs for Scientific Visual Discovery
Columbia University（哥伦比亚大学）；Cornell University（康奈尔大学）
提出 DiSciPLE 进化算法，借助 LLM 先验知识生成交错神经网络的可解释 Python 程序，并通过批评器与简化器优化，在新颖科学视觉任务上达到领先性能。
2025-02-14 cs.CV cs.LG
CB-SLICE: Concept-Based Interpretable Error Slice Discovery
Department of Computer Science and Technology, University of Cambridge, Cambridge, UK（计算机科学与技术系，剑桥大学，剑桥，英国）；Trinity College, University of Oxford, Oxford, UK（牛津大学三一学院，牛津，英国）；Cambridge Institute for Technology and Humanity, Cambridge, UK（剑桥技术与人类研究所，剑桥，英国）
提出CB-SLICE方法，利用概念瓶颈模型的概念预测失败来发现错误切片，并通过关键词概念解释失败模式，优于现有方法。
2026-05-28 cs.AI cs.LG stat.ML
Dynamic Sparse Causal-Attention Temporal Networks for Interpretable Causality Discovery in Multivariate Time Series
针对多变量时间序列因果发现难题，提出DyCAST-Net架构，结合膨胀卷积与动态稀疏注意力过滤虚假连接，在金融与营销数据集上优于现有模型，提供更精确的因果延迟估计与可解释性。
2025-07-13 cs.AI cs.IR cs.LG
SAGE: Agentic Framework for Interpretable and Clinically Translatable Computational Pathology Biomarker Discovery
Emory University（埃默里大学）；Georgia Institute of Technology（佐治亚理工学院）；NVIDIA（NVIDIA公司）；University of Arkansas at Little Rock（阿拉伯州立大学）
SAGE通过生物证据引导生物标志物发现，结合多代理系统生成和评估假设，实现结构化、可追溯的病理学研究方法。
2026-05-10 cs.LG
Interpretable Machine Learning for Discovery: Statistical Challenges \& Opportunities
Rice University（莱斯大学）；Baylor College of Medicine（贝勒医学院）
本文综述了 Interpretable Machine Learning 在科学发现中的应用，重点探讨了在监督和无监督环境下生成新知识的技术，并以数据划分、稳定性及统计推断等理论与实践视角分析了验证发现的重大挑战。
2023-08-02 cs.LG stat.ME stat.ML
Projective Kolmogorov Arnold Neural Networks (P-KANs): Entropy-Driven Functional Space Discovery for Interpretable Machine Learning
Centre for Applied Industrial Intelligence, University of Strathclyde（应用工业智能中心，斯特拉思克莱德大学）
针对KANs高维样条参数冗余导致的过拟合问题，提出P-KANs框架，通过熵最小化引导边函数收敛至低参数投影空间，实现高达80%参数压缩并增强可解释性。
2025-09-24 cs.AI cs.LG cs.NE
Beyond Coefficients: Forecast-Necessity Testing for Interpretable Causal Discovery in Nonlinear Time-Series Models
Lucy Family Institute for Data & Society（数据与社会联合研究所）；University of Notre Dame（诺特大学）；Department of Political Science（政治学系）
针对非线性时间序列模型中因果分数被误读为回归系数的问题，提出基于边消融和预测比较的预测必要性检验框架，以评估因果关系的实际必要性。
2026-04-20 cs.AI cs.LG stat.ME
An Interpretable Ensemble Framework for Multi-Omics Dementia Biomarker Discovery Under HDLSS Conditions
Department of Mathematics and Physics, Mathematics Major, Gangneung-Wonju National University（数学与物理系，数学专业，江陵-Wonju国立大学）；Department of Data Science, Gangneung-Wonju National University（数据科学系，江陵-Wonju国立大学）
针对低样本高维多组学数据，提出结合GAT、MOVE、弹性网和FDR的可解释集成框架，在模拟和ADNI数据上表现出更高的预测准确性与生物学相关性，揭示了痴呆潜在分子机制。
2025-09-04 cs.CY cs.LG eess.IV
Interpretable Deep Learning in Drug Discovery
LIT AI Lab & Institute for Machine Learning, Johannes Kepler University Linz（林茨约翰开普勒大学LIT人工智能实验室和机器学习研究所）；Computational Chemistry & Biology, Merck KGaA（默克集团计算化学与生物学部）
如果没有任何解释手段，预测分子特性和生物活性的神经网络只是黑匣子。我们将解开这些黑盒子，并将展示理解隐藏在这些模型中的学习表征的方法。我们展示了如何将单个神经元解释为分类器，其确定药效团或毒力团样结构的存在或不存在，从而产生化学，药理学和生物化学的新见解和相关知识。我们进一步讨论了如何从网络中确定这些新的药效团/毒性基团，通过识别化合物的最相关组分来预测网络。此外，我们提出了一种方法，可用于从模型中提取新的药效团，并将显示这些提取的结构与文献结果一致。我们设想，获得这种可解释的知识是开发和设计新的药物活性分子的关键帮助，并有助于调查和了解当前方法的失败和成功。
2019-03-18 cs.LG q-bio.QM stat.ML
Have an LLM Write Your Anomaly Detector: Autonomous Discovery of Compact, Interpretable Detectors for Time Series
Lamarr Institute（Lamarr 研究所）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）
本文利用大语言模型自主编写紧凑、可解释的时间序列异常检测程序，在TSB-AD基准上超越强基线，无需训练网络或GPU，实现精度、效率与可解释性的统一。
2026-10-02 cs.AI cs.LG
Evolutionary Causal Discovery with Relative Impact Stratification for Interpretable Data Analysis
Waseda University（早稻田大学）
研究提出ECD方法，结合遗传编程与RIS算法解析变量关系并评估相对影响，通过表达式树增强可解释性，在合成和真实EHR数据上验证了其高准确性与稳定性。
2024-04-25 cs.LG cs.NE cs.SC
Helix 1.0: An Open-Source Framework for Reproducible and Interpretable Machine Learning on Tabular Scientific Data
University of Nottingham（诺丁汉大学）；La Trobe University（拉筹伯大学）；Monash University（莫纳什大学）
本文介绍开源 Python 框架 Helix 1.0，通过模块化、可溯源与语言化解释界面，支持表格科学数据的可复现、可解释机器学习分析。
2025-07-23 cs.AI cs.LG
Automated discovery of interpretable gravitational-wave population models
Flatiron Institute（熨斗研究所）；Princeton University（普林斯顿大学）
我们提出了一个自动的方法来发现分析人口模型的引力波（GW）事件的数据。随着更多的引力波（GW）事件被检测到，灵活的模型，如高斯混合模型已变得更加重要，在拟合GW属性的分布，由于他们的表达。然而，灵活的模型带有许多缺乏物理动机的参数，使得解释这些模型的含义具有挑战性。在这项工作中，我们证明了符号回归可以补充灵活的模型，通过蒸馏的后验预测分布，这种灵活的模型到可解释的分析表达式。我们恢复常见的GW人口模型，如幂律加高斯，并找到一个新的经验人口模型相结合的准确性和简单性。这展示了一种在不断增长的GW目录中自动发现可解释的人口模型的策略，该策略可以应用于其他天体物理现象。
2022-07-25 astro-ph.HE astro-ph.IM cs.LG
CohortNet: Empowering Cohort Discovery for Interpretable Healthcare Analytics
National University of Singapore（新加坡国立大学）；University of Michigan（密歇根大学）；National University Health System（国立大学医院系统）
针对现有医疗队列研究方法依赖人工或聚类缺乏医学相关性的问题，提出CohortNet模型，通过细粒度表征、启发式探索等实现可解释队列自动发现，性能优于现有方法并提供多维度见解。
2024-06-20 cs.LG
Interpretable Discovery of One-parameter Subgroups: A Modular Framework for Elliptical, Hyperbolic, and Parabolic Symmetries
Indian Institute of Science（印度科学研究院）；Carnegie Mellon University（卡内基梅隆大学）
本文提出了一种模块化框架，用于从数据中发现单参数对称子群，通过学习生成器参数实现对称性的可解释性建模。
2026-02-09 cs.AI cs.LG
Neural Interpretable PDEs: Harmonizing Fourier Insights with Attention for Scalable and Interpretable Physics Discovery
Ning Liu；Yue Yu
提出Neural Interpretable PDEs（NIPS）架构，通过线性注意力机制和Fourier空间中通道独立的可学习核网络，提升了Nonlocal Attention Operators的精度与效率，实现了可扩展、可解释的物理发现。
2025-05-29 cs.LG cs.NA math.NA
Interpretable Discovery from Unstructured Data: A High-Dimensional Approach
Harvard University（哈佛大学）
本文针对社会科学家利用非结构化数据获取实证见解的需求，提出通用灵活框架。借AI可解释性方法映射数据到概念嵌入，计算统计量检验假设，经选择性推断得出发现，并生成评估自然语言描述，具有低自由度、鲁棒性等优点。
2026-10-05 cs.LG econ.EM
SCTA: An Agentic Framework for Stable and Interpretable Target Gene Discovery from Single-Cell RNA Sequencing
Novartis Biomedical Research（诺华生物医学研究公司）
研究旨在从scRNA-seq数据中稳定且可解释地发现靶基因，提出SCTA智能体框架，将靶标发现分解为专门智能体并结合结构化证据约束推理，通过遗传性慢性胰腺炎研究验证其能提高靶标发现的多项性能。
2026-07-28 cs.LG q-bio.GN
Interpretable Neural ODEs for Gene Regulatory Network Discovery under Perturbations
Department of Computer Science, Columbia University, New York, U.S.（哥伦比亚大学计算机科学系）；Department of Industrial Engineering and Operations Research, Columbia University, New York, U.S.（哥伦比亚大学工业工程与运筹学系）；Department of Applied Mathematics and Applied Physics, Columbia University, New York, U.S.（哥伦比亚大学应用数学与应用物理系）；New York Genome Center, New York, U.S.（纽约基因组中心）；Irving Institute of Cancer Dynamics, New York, U.S.（伊万·罗伯特癌症动力学研究所）；Institute of Computational Biology, Helmholtz Munich, Munich, Germany（海德堡医学院计算生物学研究所）；Department of Mathematics, Technische Universität München, Munich, Germany（慕尼黑技术大学数学系）
提出PerturbODE框架，利用可解释神经常微分方程建模扰动下的细胞状态轨迹，从ODE参数中推导因果基因调控网络，实现未见遗传干预的模拟。
2026-05-29 cs.AI cs.CE cs.LG
CausalFormer: An Interpretable Transformer for Temporal Causal Discovery
Tongji University（同济大学）；Fudan University（复旦大学）
针对现有时间因果发现方法仅利用深度学习模型部分组件参数、映射不完整的问题，提出由因果感知Transformer和基于分解的因果检测器组成的CausalFormer模型，在多类数据集上实现了当前最优的时间因果发现性能。
2024-06-24 cs.LG stat.ME
Scalable and Interpretable Scientific Discovery via Sparse Variational Gaussian Process Kolmogorov-Arnold Networks (SVGP KAN)
UCLA（加州大学洛杉矶分校）
SVGP-KAN 通过稀疏变分推断和 KAN 结构，实现可扩展且可解释的概率 KAN，适用于大规模科学数据集，并能识别相关输入和功能关系。
2025-11-29 cs.LG stat.ML
Interpretable Option Discovery using Deep Q-Learning and Variational Autoencoders
University of Agder（阿格德大学）
深度强化学习（RL）无疑是一个强大的框架，可以在各种学科中训练自主智能体。然而，传统的深层和浅层无模型强化学习算法存在样本效率低和对稀疏状态空间泛化能力不足的问题。具有时间抽象的期权框架也许是解决这些问题最有前途的方法，但它仍然存在明显的缺点。它只能保证局部收敛，并且自动启动和终止条件具有挑战性，实际上通常是手工制作的。我们的建议，深度变分Q网络（DVQN），结合了深度生成学习和强化学习。该算法从高斯分布的潜在空间中找到好的策略，这对于定义选项特别有用。DVQN算法使用具有KL发散的MSE作为正则化，并结合传统的Q-Learning更新。该算法学习一个潜在的空间，代表良好的政策与状态集群的选项。我们表明，DVQN算法是一种很有前途的方法，用于确定基于选项的强化学习的启动和终止条件。实验结果表明，DVQN算法，自动启动和终止，具有与彩虹相当的性能，并能保持稳定的训练后，收敛后的延长时间。
2022-10-03 cs.AI cs.LG
Incorporating contextual information into KGWAS for interpretable GWAS discovery
University of Michigan（密歇根大学）；gRED, Genentech（基因泰克研究与早期开发部）；Stanford University（斯坦福大学）
本文提出通过整合基因-基因关系提升KGWAS的解释性，利用稀疏上下文特定KG提高疾病关键网络的一致性和生物学鲁棒性。
2026-03-26 cs.LG
Interpretable Rule Discovery Through Bilevel Optimization of Split-Rules of Nonlinear Decision Trees for Classification Problems
Michigan State University（密歇根州立大学）
对于涉及设计，控制，其他实际目的的监督分类问题，用户不仅有兴趣找到一个高精度的分类器，但他们也要求得到的分类器是容易解释的。虽然分类器的可解释性的定义可以因情况而异，但在这里，通过人类可解释的分类器，我们将其限制为用简单的数学术语表示。作为一种新的方法，我们表示一个简单的数学规则，使用非线性决策树（NLDT）的组合分类器。树的每个条件（非终端）节点表示涉及特征的非线性数学规则（分裂规则），以便将给定条件节点中的数据集划分为两个不重叠的子集。这种划分旨在最小化结果子节点的不纯性。通过限制每个条件节点上的分裂规则结构和决策树的深度，保证了分类器的可解释性。在一个给定的条件节点的非线性分裂规则是使用进化的双层优化算法，而上层集中在到达一个可解释的结构的分裂规则，较低的水平实现最合适的权重（系数）的规则的各个组成部分，以最大限度地减少净杂质的两个子节点。所提出的算法的性能证明了一些控制测试问题，现有的基准问题，和工业问题。两个到500个特征问题的结果是令人鼓舞的，并开辟了进一步的范围，应用所提出的方法，更具有挑战性和复杂的分类任务。
2020-08-02 cs.LG cs.NE stat.ML
Structural Compositional Function Networks: Interpretable Functional Compositions for Tabular Discovery
Department of Computer Science（计算机科学系）；Oklahoma Christian University（俄克拉荷马基督教大学）
结构组合函数网络通过可解释的功能组合提升表格数据发现的性能和可解释性。
2026-01-27 cs.AI cs.LG
Wavelet Scattering Transform for Interpretable Schizophrenia Biomarker Discovery and Classification from Resting-State EEG
Department of EECE, Military Institute of Science and Technology (MIST)（电子工程与计算机科学系，军事科学与技术学院（MIST））
针对现有精神分裂症EEG分类方法存在特征缺陷、数据泄露的问题，本研究结合小波散射变换、留一受试者交叉验证与SHAP可解释性方法，实现高精度分类并识别出关键生物标志物。
2026-07-07 cs.AI cs.LG eess.SP
Embedding-Aware Feature Discovery: Bridging Latent Representations and Interpretable Features in Event Sequences
Sber AI Lab（Sber AI实验室）；ISP RAS Research Center for Trusted AI（俄罗斯科学院信息与系统研究所可信人工智能研究中心）
本文提出EAFD框架，通过结合预训练事件序列嵌入与自反思LLM驱动特征生成代理，解决嵌入与特征管道间的断层问题，实现特征的发现、评估与优化，提升事件序列处理性能。
2026-03-16 cs.AI cs.IR cs.LG
A Bayesian framework for discovering interpretable Lagrangian of dynamical systems from data
Indian Institute of Technology Delhi（德里印度理工学院）
提出一种稀疏贝叶斯框架，从有限数据中学习可解释的拉格朗日量，并自动推导哈密顿量，支持ODE和PDE描述，经六个离散与连续系统验证有效。
2023-10-10 cs.LG stat.ML
Neural Network-Guided Symbolic Regression for Interpretable Descriptor Discovery in Perovskite Catalysts
The University of Toledo（托莱多大学）
提出结合神经网络、特征重要性分析和符号回归的两阶段框架，在数据稀缺下发现钙钛矿催化剂OER活性的可解释描述符，兼顾准确性与物理意义。
2025-07-16 cond-mat.mtrl-sci cs.LG physics.comp-ph
Surrogate-assisted performance prediction for data-driven knowledge discovery algorithms: application to evolutionary modeling of clinical pathways
ITMO University（圣彼得堡国立信息技术机械与光学大学）；Almazov National Medical Research Center（阿尔马佐夫国家医学研究中心）
提出并研究了一种基于代理的数据驱动知识发现算法性能预测方法。该方法基于代理模型的识别，用于预测目标算法的质量和性能。所提出的方法被实施和研究应用到一个进化算法，发现集群的可解释的临床路径在电子健康记录的急性冠状动脉综合征患者。多个聚类指标和执行时间分别作为目标质量和性能指标。一个分析软件原型的基础上提出的方法预测的算法特性和特征分析，提供了一个更可解释的预测目标算法的性能和质量，可以进一步用于参数调整。
2022-01-07 cs.LG stat.ML
RandomSCM: interpretable ensembles of sparse classifiers tailored for omics data
Université Laval（拉瓦尔大学）；Element AI, a ServiceNow company（ServiceNow旗下Element AI公司）
背景：理解组学和表型之间的关系是精准医学的核心问题。代谢组学数据的高维性对学习算法的可扩展性和泛化能力提出了挑战。大多数学习算法不产生可解释的模型-方法：我们提出了一个集成的学习算法基于合取或析取的决策规则。结果：代谢组学数据的应用表明，它产生的模型具有很高的预测性能。模型的可解释性使得它们对于高维数据中的生物标志物发现和模式发现非常有用。
2022-08-11 cs.LG
