Parallel Coordinates for Discovery of Interpretable Machine Learning Models
Central Washington University（中华盛顿大学）
本研究利用平行坐标进行可视化知识发现，提出了基于超块的分类器算法Hyper，泛化了决策树并有效防止过拟合和过度泛化，同时实现了对缺失数据的新可视化方法。
2023-11-26 cs.HC cs.LG
Discovering interpretable models of scientific image data with deep learning
Alan Turing Institute（阿兰·图灵研究所）；University College London（伦敦大学学院）；Institute for the Physics of Living Systems（生命系统物理研究所）
本文提出结合解耦表示学习、稀疏深度网络和符号回归的方法，在显微镜图像分类中构建高度简洁的可解释模型，以98%的黑盒准确率实现科学洞见提取。
2024-02-05 cs.LG
Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety
Rota Labs（Rota实验室）
提出基于质量-多样性进化框架（MAP-Elites）在语义层面生成可解释攻击策略，发现不同LLM的特定漏洞模式。
2026-05-30 cs.CL cs.CR cs.ET
Neuro-symbolic Models for Interpretable Time Series Classification using Temporal Logic Description
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Research（IBM研究院）
现有的时间序列分类模型大多缺乏可解释性，难以检验。可解释的机器学习模型可以帮助发现数据中的模式，并为领域专家提供易于理解的见解。在这项研究中，我们提出了神经符号时间序列分类（NSTSC），一个神经符号模型，利用信号时序逻辑（STL）和神经网络（NN）完成TSC任务，使用多视图数据表示，并表示该模型作为一个人类可读的，可解释的公式。在NSTSC中，每个神经元都链接到一个符号表达式，即，STL（sub）公式。因此，NSTSC的输出可以解释为类似于自然语言的STL公式，描述隐藏在数据中的时间和逻辑关系。我们提出了一个基于NSTSC的分类器，采用决策树的方法来学习公式结构，完成多类TSC任务。所提出的wSTL平滑激活函数允许以端到端的方式学习模型。我们在来自小鼠的真实伤口愈合数据集和来自UCR时间序列库的基准数据集上测试NSTSC，证明NSTSC实现了与最先进模型相当的性能。此外，NSTSC可以生成与领域知识相匹配的可解释公式。
2022-09-15 cs.AI cs.LG
Symmetry-Constrained Language-Guided Program Synthesis for Discovering Governing Equations from Noisy and Partial Observations
Fandaqah (Owned by Dyafa)（法达卡（由迪法夫所有））；Hamdard University（哈姆达德大学）
SymLang 通过结合对称约束、语言模型引导程序合成和贝叶斯模型选择，实现了从噪声和部分观测中发现 governing 方程的高精度结构恢复。
2026-03-06 cs.AI cs.CL cs.LG
Self-service Data Classification Using Interactive Visualization and Interpretable Machine Learning
Central Washington University（中央华盛顿大学）
机器学习算法通常会产生被最终用户和开发人员视为复杂黑盒模型的模型。他们未能解释模型的领域，他们是专为。所提出的迭代视觉逻辑分类器（IVLC）是一种可解释的机器学习算法，允许最终用户设计模型并以更高的置信度对数据进行分类，而不必牺牲准确性。这种技术在处理敏感和关键数据时特别有用，如医疗领域中的癌症数据，错误成本很高。在所提出的交互式无损多维可视化的帮助下，最终用户可以识别数据中的模式，并根据该模式做出可解释的决策。这样的选项在黑盒机器学习方法中是不可能的。交互式移位配对坐标软件系统（SPCVis）支持可解释的IVLC算法。它是一个具有用户交互功能的无损多维数据可视化系统。交互式方法为最终用户提供了灵活性，使其能够自助执行数据分类，而不必依赖于机器学习专家。在处理具有数百个维度/特征的大型数据集时，交互式模式发现变得具有挑战性。为了克服这个问题，本章提出了一个自动分类方法结合新的坐标顺序优化（COO）算法和遗传算法。COO算法自动生成最能代表数据分离的坐标对序列，而遗传算法通过自动生成用于数据分类的区域来帮助优化所提出的IVLC算法。该方法的可行性的基准数据集，包括用于数据分类的交互式和自动化过程的实验。
2021-07-11 cs.AI cs.LG
Discovering Sparse Interpretable Dynamics from Partial Observations
Massachusetts Institute of Technology（麻省理工学院）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
识别非线性动力系统的控制方程是理解系统的物理特征和构建精确的动力学模型的关键，该模型的推广远远超出了现有数据。我们提出了一个机器学习框架，发现这些控制方程只使用部分观察，结合编码器的状态重建与稀疏的符号模型。我们的测试表明，该方法可以成功地重建完整的系统状态，并确定各种常微分方程和偏微分方程系统的潜在动力学。
2021-12-15 cs.LG physics.comp-ph physics.data-an
DISCO: DISCovering Overfittings as Causal Rules for Text Classification Models
DISCO通过因果规则发现文本分类模型的过拟合，以100%检测率识别训练数据中的捷径，并导致模型性能下降18.8%，优于现有方法。
2024-11-07 cs.AI cs.CL cs.LG
DIDER: Discovering Interpretable Dynamically Evolving Relations
Honda Research Institute（本田研究院）
有效理解动态演化的多智能体交互对于捕获社会系统中智能体的潜在行为至关重要。直接观察这些相互作用通常具有挑战性，因此对潜在的相互作用进行建模对于实现复杂的行为至关重要。动态神经关系推理（DNRI）最近的工作捕捉在每一步明确的代理间的相互作用。然而，在每一步的预测结果在嘈杂的相互作用，缺乏内在的可解释性，没有事后检查。此外，它需要访问地面实况注释来分析预测的相互作用，这是很难获得的。本文介绍了DIDER，发现可解释的动态演化关系，一个通用的端到端的交互建模框架与内在的可解释性。DIDER通过将潜在交互预测任务分解为子交互预测和持续时间估计，发现了一个可解释的智能体间交互序列。通过在较长的持续时间内施加子交互类型的一致性，所提出的框架实现了内在的可解释性，而不需要任何事后检查。我们在合成和真实世界的数据集上评估DIDER。实验结果表明，建模解纠缠和可解释的动态关系，提高性能的轨迹预测任务。
2022-08-22 cs.AI cs.LG cs.RO
Sparse Feature Circuits: Discovering and Editing Interpretable Causal Graphs in Language Models
Northeastern University（东北大学）；MIT（麻省理工学院）；Technion – IIT（以色列理工学院）
本文提出稀疏特征电路方法，通过细粒度可解释特征构建因果子网络，并引入SHIFT提升分类器泛化，实现无监督可扩展的模型行为解释。
2025-03-27 cs.AI cs.CL cs.LG
A Bayesian framework for discovering interpretable Lagrangian of dynamical systems from data
Indian Institute of Technology Delhi（德里印度理工学院）
提出一种稀疏贝叶斯框架，从有限数据中学习可解释的拉格朗日量，并自动推导哈密顿量，支持ODE和PDE描述，经六个离散与连续系统验证有效。
2023-10-10 cs.LG stat.ML
Effective catchment hydrologic representations are low-dimensional but interaction-dependent
该研究提出雪水质量守恒感知机框架，在513个CAMELS-US流域验证其性能，发现两状态MCP网络平衡精度与复杂度，参数少于LSTM，为水文表征状态选择提供经验依据。
2026-11-03 cs.LG
Discovering interpretable Lagrangian of dynamical systems from data
Indian Institute of Technology Delhi（印度理工学院德里分校）
对物理系统的完整理解需要精确且遵守自然守恒定律的模型。表征学习的最新趋势涉及从数据中学习拉格朗日，而不是直接发现运动的控制方程。方程发现技术的推广具有巨大的潜力，然而，现有的拉格朗日发现框架本质上是黑箱。这引起了人们对已发现的拉格朗日函数的可重用性的关注。在这篇文章中，我们提出了一种新的数据驱动的机器学习算法来自动从数据中发现可解释的拉格朗日。拉格朗日量以可解释的形式导出，这也允许自动发现守恒定律和运动的控制方程。所提出的框架的架构设计在这样一种方式，它允许学习拉格朗日从一个子集的基础域，然后概括为一个无限维的系统。所提出的框架的保真度举例说明使用的例子所描述的系统的常微分方程和偏微分方程的拉格朗日量和守恒量是已知的。
2023-02-09 cond-mat.dis-nn cs.LG stat.ML
Discovering interpretable elastoplasticity models via the neural polynomial method enabled symbolic regressions
Columbia University（哥伦比亚大学）
本文提出一种两步机器学习方法，结合代理模型与符号回归，将神经网络弹塑性模型转化为可解释的数学表达式，克服扩展性问题并提升可移植性。
2024-02-01 cs.CE cs.LG
Discovering New Interpretable Conservation Laws as Sparse Invariants
Massachusetts Institute of Technology（麻省理工学院）；University of Southern California（南加州大学）；Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）
本文提出稀疏不变量检测器SID，从已知微分方程中自动发现守恒定律，并在流体力学和大气化学实例中发现了超出专家已知数量的新守恒量。
2023-07-04 cs.LG math.DS nlin.SI
Discovering and Steering Interpretable Concepts in Large Generative Music Models
Dartmouth College（达特茅斯学院）；MIT（麻省理工学院）
本文提出了一种基于稀疏自编码器的方法，在大规模生成音乐模型中发现可解释概念，并用于引导模型生成，揭示了传统方法未发现的音乐结构原理。
2026-03-01 cs.LG cs.SD eess.AS
Discovering Interpretable Algorithms by Decompiling Transformers to RASP
Saarland Informatics Campus, Saarland University（萨尔兰大学信息学院校区，萨尔兰大学）；University of Oxford（牛津大学）；Allen Institute for AI（人工智能研究所）
提出一种将训练好的Transformer忠实重参数化为RASP程序，并通过因果干预发现小型充分子程序的方法，实验表明长度泛化的Transformer内部实现了简单可解释的RASP程序。
2026-06-05 cs.AI cs.CL cs.LG
Data is Moody: Discovering Data Modification Rules from Process Event Logs
Airbus Operations GmbH（空中客车运营有限公司）；Stahl-Holding-Saar（萨尔钢铁控股公司）；CISPA Helmholtz Center for Information Security（CISPA赫尔姆霍茨信息安全中心）
针对事件日志中属性数据变化规则挖掘缺失的问题，提出基于MDL原理的Moody算法，以发现简洁可解释的if-then规则，实验证明其高效、鲁棒且需少量数据。
2023-12-22 cs.LG
Discovering Persistent Behavioural Patterns for Interpretable Blockchain Forensics
Griffith University（格里菲斯大学）；Australian Catholic University（澳大利亚天主教大学）
该研究提出一种可扩展、应用无关的区块链行为模式发现框架，结合两步嵌入与可解释分析，可在以太坊超3000万笔交易中发现常规与恶意模式，支持区块链取证等应用。
2026-08-14 cs.CR cs.LG
EEGminer: Discovering Interpretable Features of Brain Activity with Learnable Filters
Imperial College London（帝国理工学院）；Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；National and Kapodistrian University of Athens（雅典国立卡波迪斯特里亚大学）；Cogitat Ltd.（Cogitat有限公司）
大脑活动模式与不同的大脑过程有关，可用于识别不同的大脑状态并进行行为预测。然而，相关特征并不显而易见和容易获得。为了从正在进行的EEG活动的多通道记录中挖掘信息丰富的潜在表示，我们提出了一种新的可区分的解码管道，包括可学习的过滤器和预定的特征提取模块。具体来说，我们引入了由广义高斯函数参数化的滤波器，这些滤波器为稳定的端到端模型训练提供了平滑的导数，并允许学习可解释的特征。对于特征模块，我们使用信号幅度和功能连接估计。我们证明了我们的模型在SEED数据集上对EEG信号的情感识别的实用性，以及在前所未有的大小的新EEG数据集上的实用性（即，761名受试者），其中我们确定了音乐感知的一致趋势和相关的个体差异。这些发现的特征与之前的神经科学研究一致，并提供了新的见解，例如在听音乐时左右颞区之间的功能连接特征存在显著差异。这与文献中提出的关于音乐感知的颞叶各自的专门化相一致。
2022-02-02 cs.HC cs.LG
Discovering Interpretable Biological Concepts in Single-cell RNA-seq Foundation Models
Scienta Lab
单细胞RNA测序基础模型在下游任务上实现了强大的性能，但仍然是黑匣子，限制了它们在生物发现中的实用性。最近的研究表明，稀疏字典学习可以从深度学习模型中提取概念，在生物医学成像和蛋白质模型中有很好的应用前景。然而，解释生物学概念仍然具有挑战性，因为生物序列本质上不是人类可以解释的。我们介绍了一种新的基于概念的可解释性框架的单细胞RNA测序模型，重点是概念的解释和评估。我们提出了一种归因方法与反事实扰动，确定影响概念激活的基因，超越相关的方法，如差异表达分析。然后，我们提供了两种互补的解释方法：一个专家驱动的分析促进了交互式界面和本体驱动的方法与基于属性的生物途径富集。将我们的框架应用于文献中的两个众所周知的单细胞RNA测序模型，我们解释了在两个免疫细胞数据集上训练的Top-K稀疏自动编码器提取的概念。与免疫学领域的专家，我们表明，概念提高了可解释性相比，单个神经元，同时保留了丰富性和信息的潜在表示。这项工作提供了一个原则性的框架，用于解释生物知识基础模型编码了什么，为它们用于假设生成和发现铺平了道路。
2025-10-29 cs.LG q-bio.GN
Scientifically-Interpretable Reasoning Network (ScIReN): Discovering Hidden Relationships in the Carbon Cycle and Beyond
Department of Informatics and Intelligent Systems, Institute of Energy and the Environment, The Pennsylvania State University（信息学与智能系统系，能源与环境研究所，宾夕法尼亚州立大学）
ScIReN结合可解释神经网络与基于过程的推理，通过揭示隐藏关系提升科学可解释性，应用于土壤碳循环和生态系统呼吸建模。
2026-01-26 cs.AI cs.LG
Discovering Interpretable Directions in the Semantic Latent Space of Diffusion Models
IT University of Copenhagen（哥本哈根信息技术大学）；Technion（以色列理工学院）
本文探索扩散模型h-空间的语义方向，提出无监督与监督方法发现可解释方向，无需架构修改或微调，实现语义编辑。
2024-05-29 cs.CV cs.LG
Discovering Millions of Interpretable Features with Sparse Autoencoders
AI DATA, Alibaba Group Holding Limited（阿里巴巴集团控股有限公司 AI DATA）；Beijing Institute of Technology（北京理工大学）
本文提出Qwen3-Instruct SAE，在Qwen3指令微调模型系列上训练稀疏自编码器，通过激活级和模型级评估揭示稀疏性-保真度权衡，并展示其在拒绝行为引导中的应用。
2026-06-26 cs.AI cs.LG
Discovering Interpretable Physical Models using Symbolic Regression and Discrete Exterior Calculus
Aarhus University（奥胡斯大学）
本文提出结合符号回归与离散外微积分的框架，从实验数据自动发现可解释且数学一致的物理模型，并通过重新发现泊松方程、欧拉弹性线和线性弹性方程验证其有效性。
2023-12-05 cs.DM cs.LG cs.NE
LieAugmenter: Equivariant Learning by Discovering Symmetries with Learnable Augmentations
Technical University of Munich (School of CIT)（慕尼黑技术大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Munich Data Science Institute（慕尼黑数据科学研究所）；MIT (Department of EECS and CSAIL)（麻省理工学院）
LieAugmenter通过可学习增强发现任务相关连续对称性，实现等变学习，提升图像分类、N体动力学和分子性质预测性能，并提供对称性缺失的可解释签名。
2026-02-12 cs.LG
Discovering Interpretable Ordinary Differential Equations from Noisy Data
Texas A&M Energy Institute（德克萨斯农工大学能源研究所）；Texas A&M University（德克萨斯农工大学）
针对现有数据驱动动力学模型缺乏物理可解释性的问题，提出无监督参数估计方法，通过近似通解与样条变换线性估计ODE系数，在含噪数据下仍能高精度发现稀疏可解释的ODE，适用于真实实验的物理学习。
2025-07-29 cs.LG physics.comp-ph
Discovering Interpretable Multi-Parameter Control Policies for Evolutionary Algorithms Using Deep Reinforcement Learning
University of St Andrews（圣安德鲁大学）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；LIP6（巴黎第六大学信息科学实验室）
针对进化算法多参数控制缺乏可解释策略的问题，提出深度强化学习结合动作空间分解、奖励平移和长期折扣的方法，蒸馏出符号控制策略，在OneMax问题上超越现有基线。
2026-06-08 cs.LG cs.NE
Mining Interpretable Spatio-temporal Logic Properties for Spatially Distributed Systems
University of Southern California（南加州大学）；University of Trieste（的里雅斯特大学）
物联网、复杂传感器网络、多智能体网络物理系统都是随时间不断演变的空间分布式系统的例子。这样的系统会产生大量的时空数据，系统设计人员通常对分析和发现数据中的结构感兴趣。一直有相当大的兴趣在学习的因果关系和逻辑属性的时间数据使用逻辑，如信号时序逻辑（STL），但是，有有限的工作，发现这种关系的时空数据。我们提出了第一套时空数据的无监督学习算法。我们的方法做自动特征提取的时空数据投影到参数空间的参数时空到达和逃逸逻辑（PSTREL）。我们提出了一个凝聚层次聚类技术，保证每个集群满足一个不同的STREL公式。我们表明，我们的方法产生STREL公式的有限的描述复杂性，使用一种新的决策树方法，概括了以前的无监督学习技术信号时序逻辑。我们证明了我们的方法的有效性，从不同领域的案例研究，如城市交通，流行病学，绿色基础设施和空气质量监测。
2021-06-16 cs.LG
GINN-LP: A Growing Interpretable Neural Network for Discovering Multivariate Laurent Polynomial Equations
University of Melbourne（墨尔本大学）；Monash University（莫纳什大学）
提出可解释神经网络GINN-LP，通过幂项近似器块和增长策略自动发现多元Laurent多项式方程，结合符号回归集成方法在SRBench基准上取得最先进结果。
2024-02-15 cs.AI cs.LG
Discovering an interpretable mathematical expression for a full wind-turbine wake with artificial intelligence enhanced symbolic regression
School of Ocean and Civil Engineering, Shanghai Jiao Tong University（上海交通大学海洋与土木工程学院）；Ningbo Institute of Digital Twin, Eastern Institute of Technology（东方理工大学宁波数字孪生研究院）
本研究提出一种遗传符号回归算法，结合双高斯分布领域知识与分层方程结构，发现了全尾流区平均速度亏损的可解释数学表达式，该模型经实验与高保真数值模拟验证，具备高精度与稳健性。
2024-06-02 cs.LG cs.SC physics.flu-dyn
Discovering Symmetry Invariants and Conserved Quantities by Interpreting Siamese Neural Networks
Perimeter Institute for Theoretical Physics（圆周理论物理研究所）；University of Waterloo（滑铁卢大学）
在本文中，我们介绍了可解释的暹罗神经网络（SNN）的相似性检测的理论物理领域。更准确地说，我们将SNN应用于狭义相对论中的事件、电磁场的变换以及中心势中粒子的运动。在这些示例中，SNN学习识别属于相同事件、场配置或运动轨迹的数据点。事实证明，在学习哪些数据点属于同一事件或场配置的过程中，这些SNN也学习了相关的对称不变量和守恒量。这些SNN是高度可解释的，这使我们能够揭示对称不变量和守恒量没有先验知识。
2020-08-25 cond-mat.dis-nn cs.LG physics.comp-ph
InterPLM: Discovering Interpretable Features in Protein Language Models via Sparse Autoencoders
Stanford University（斯坦福大学）
本文提出InterPLM框架，利用稀疏自编码器从ESM-2中提取可解释特征，识别大量生物学概念，填补数据库注释并引导序列生成，同时提供可视化平台和代码。
2024-11-13 cs.AI cs.LG q-bio.BM
Fast discovery of multidimensional subsequences for robust trajectory classification
Federal University of Santa Catarina（圣卡塔琳娜联邦大学）
随着每天生成大量移动数据，并通过新的信息源（如社交网络和物联网传感器）进行丰富，轨迹分类任务变得更加复杂。快速分类算法对于在实际应用中发现轨迹数据中的知识是必不可少的。在这项工作中，我们提出了一种方法，用于快速发现的子轨迹减少的搜索空间和优化的MASTERFovelets方法，这已被证明是有效的发现可解释的模式分类问题。
2021-02-09 cs.LG
Discovering Mathematical Equations with Diffusion Language Model
本文提出基于连续状态扩散语言模型的符号回归预训练框架DiffuSR，通过可训练嵌入层和交叉注意力机制建模方程分布并引导去噪生成，结合注入logit先验的遗传规划推理策略，在标准基准上实现了与最先进自回归方法相媲美的性能，并生成更具可解释性和多样性的数学表达式。
2025-09-16 cs.LG
Discovering Car-following Dynamics from Trajectory Data through Deep Learning
University of Washington（华盛顿大学）；University of Southern California（南加利福尼亚大学）
本文提出基于深度符号回归与变量交集选择的框架，从轨迹数据中自动发现简约且可解释的跟驰动力学数学表达式，并通过双惩罚奖励函数提升模型学习性能。
2024-08-01 cs.LG
Discovering Invariant Rationales for Graph Neural Networks
University of Science and Technology of China（中国科学技术大学）；National University of Singapore（新加坡国立大学）
图神经网络（GNN）的内在可解释性是找到输入图特征的一个小子集-基本原理-它指导模型预测。不幸的是，领先的合理化模型往往依赖于数据偏差，特别是捷径功能，组成的理由，并作出预测，而不探讨关键和因果模式。此外，这种数据偏差很容易在训练分布之外发生变化。因此，这些模型在可解释性和对分布外数据的预测性能方面存在巨大下降。在这项工作中，我们提出了一种新的策略，发现不变的理由（），以构建内在可解释的GNN。它对训练分布进行干预，以创建多个干预分布。然后，它接近在不同分布之间不变的因果原理，同时过滤掉不稳定的虚假模式。在合成数据集和真实数据集上的实验验证了我们的神经网络在图分类的可解释性和泛化能力方面优于领先的基线。代码和数据集可在https://github.com/Wuyxin/DIR-GNN上获得。
2022-01-30 cs.LG
Discovering physical laws with parallel symbolic enumeration
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院）；School of Engineering Science, University of Chinese Academy of Sciences（中国科学院大学工程科学学院）；State Key Laboratory of Nonlinear Mechanics, Institute of Mechanics, Chinese Academy of Sciences（中国科学院力学研究所非线性力学重点实验室）；Department of Computer Science and Engineering, HKUST（香港科技大学计算机科学与工程系）
本文提出并行符号枚举（PSE）方法，在无限搜索空间中高效发现简洁可泛化的数学公式，较现有算法在200多个数据集上准确率最高提升99%、速度提升一个数量级，推动了符号回归在科学发现中的应用。
2025-09-11 cs.AI cs.LG
Discovering Concept Directions from Diffusion-based Counterfactuals via Latent Clustering
German Research Center for Artificial Intelligence GmbH (DFKI)（德国人工智能研究中心）
本文提出CDLC方法，通过潜在聚类提取概念方向，减少存储需求并加速概念发现，适用于高风险领域和多样化数据模态。
2025-11-27 cs.CV cs.LG
Autoencoders for discovering manifold dimension and coordinates in data from complex dynamical systems
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
提出结合内部线性层与权重衰减的自编码器框架，可自动估计复杂动力系统数据的流形维度、构造正交坐标并实现样本外投影、建模与预测。
2023-12-06 cs.LG nlin.CD
Discovering Governing Equations from Partial Measurements with Deep Delay Autoencoders
University of Washington（华盛顿大学）
数据驱动模型发现的一个核心挑战是隐藏的或潜在的变量的存在，这些变量不能直接测量，但动态重要。塔肯斯定理提供了条件，当它是可能的，以增加这些部分测量与时间延迟的信息，导致在一个吸引子，这是同构的原始全状态系统。然而，回到原始吸引子的坐标变换通常是未知的，并且学习嵌入空间中的动态几十年来一直是一个开放的挑战。在这里，我们设计了一个自定义的深度自动编码器网络，以学习从延迟嵌入空间到新空间的坐标变换，在新空间中可以以稀疏的封闭形式表示动态。我们在洛伦兹、罗斯勒和洛特卡-沃尔泰拉系统上演示了这种方法，从单个测量变量学习动力学。作为一个具有挑战性的例子，我们学习洛伦兹模拟从一个单一的标量变量从视频中提取的混沌水车实验。由此产生的建模框架结合了深度学习来揭示有效坐标和非线性动力学的稀疏识别（SINDy），以进行可解释的建模。因此，我们表明，有可能同时学习一个封闭形式的模型和相关的坐标系部分观察到的动力学。
2022-01-13 cs.CE cs.LG math.DS
Non-linear Visual Knowledge Discovery with Elliptic Paired Coordinates
Central Washington University（中央华盛顿大学）
对于人类来说，用肉眼在超过2-3维的数据中实现视觉知识发现是具有挑战性的。本章探讨了使用新的椭圆配对坐标（EPC）可视化交互式发现预测机器学习模型的效率。结果表明，EPC能够可视化多维数据，并支持可视化机器学习与二维多维信息的保存。相对于平行和径向坐标，EPC可视化仅需要每个n-D点的一半视觉元素。在这项工作中开发的交互式软件系统EllipseVis，处理高维数据集，创建EPC可视化，并通过发现EPC中的优势规则来产生预测分类模型。通过使用交互式和自动化的过程，它发现了EPC中具有单一类别的高优势的区域。EPC方法在计算实验中成功地发现了具有高覆盖率和高精度的非线性预测模型。这可以通过产生视觉上吸引人的优势规则来使多个域受益。本章介绍了使用真实和模拟数据在实验中成功测试EPC非线性方法的结果、将EPC推广到动态椭圆配对坐标（DEPC）、结合坐标权重以优化视觉发现、引入替代设计以及引入基于EPC/DEPC的松散机器学习方法论的概念。
2021-07-11 cs.CV cs.GR cs.LG
Interpretable Clustering with Adaptive Heterogeneous Causal Structure Learning in Mixed Observational Data
Tsinghua University（清华大学）
针对现有聚类方法因果感知不足、异质性建模欠缺的问题，提出无监督框架HCL，通过双向迭代与自监督正则从混合观测数据中联合推断潜在簇与异质因果结构，理论可识别且性能优异，可用于发现机制层面的可解释因果异质性。
2025-10-28 cs.LG
Learning Multiple Visual Tasks while Discovering their Structure
Istituto Italiano di Tecnologia（意大利理工学院）；Università di Genova（热那亚大学）
多任务学习是计算机视觉应用的一种自然方法，这些应用需要同时解决几个不同但相关的问题，例如目标检测、分类、跟踪多个代理或去噪等。关键的想法是，探索任务相关性（结构）可以提高性能。在本文中，我们提出并研究了一种新的稀疏，非参数的方法，利用再生核希尔伯特空间的理论，向量值函数。我们开发了一个合适的正则化框架，可以制定为一个凸优化问题，并证明可解使用交替最小化方法。实证测试表明，所提出的方法相比有利的最先进的技术，并进一步允许恢复可解释的结构，在其本身的权利感兴趣的问题。
2015-04-13 cs.CV cs.LG
From Street Views to Urban Science: Discovering Road Safety Factors with Multimodal Large Language Models
McGill University（麦吉尔大学）；Massachusetts Institute of Technology（麻省理工学院）；The University of Hong Kong（香港大学）
针对城市道路安全研究依赖人工假设且可解释性差的问题，提出基于多模态大语言模型的UrbanX框架，自动生成、评估和精炼假设，在曼哈顿数据上优于深度学习模型并保持完全可解释性。
2025-06-17 cs.CY cs.LG
Sparsity exploitation via discovering graphical models in multi-variate time-series forecasting
FPT Software AI Center（FPT软件人工智能中心）；University of California San Diego（加州大学圣迭戈分校）
针对多变量时间序列预测中生成图缺乏稀疏性导致计算昂贵且难解释的问题，提出包含图生成与预测模块的解耦训练方法，利用GraphLASSO构建稀疏图结构并输入GCRN，在保持竞争力的同时提升可解释性并减少约40%训练时间。
2023-06-29 cs.LG
Learning Interpretable Musical Compositional Rules and Traces
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
纵观音乐史，理论家们已经确定并记录了可解释的规则，这些规则捕捉了作曲家的决定。这篇论文提出了这样一个问题：“机器能像音乐理论家一样工作吗？它介绍了MUS-ROVER，一个自动从符号音乐中发现规则的自学习系统。MUS-ROVER通过$n$ -gram模型执行特征学习，以提取组成规则-在所得特征上的统计模式。我们评估MUS-ROVER巴赫的（SATB）合唱，证明它可以恢复已知的规则，以及确定新的，特征模式，以供进一步研究。我们将讨论如何提取的规则可以用于机器和人类组成。
2016-06-17 cs.LG stat.ML
CIMLA: Interpretable AI for inference of differential causal networks
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Georgia Institute of Technology（佐治亚理工学院）
本文提出 CIMLA，将特征归因模型与因果解释相结合，用于推断不同生物条件下的差异基因调控网络，并在模拟和阿尔茨海默病单细胞数据中验证其准确性与发现能力。
2023-04-25 cs.LG q-bio.QM stat.ME
Discovering Phase Space Structure in Learned Hamiltonian Systems
Princeton University（普林斯顿大学）；Tsinghua University（清华大学）
本文提出SPS-GAN，通过辛相空间GAN架构实现多系统轨迹生成与对称性发现，无需先验配置空间知识，通过物理动机项优化实现配置空间的稀疏表示。
2026-11-05 cs.AI cs.LG cs.SY
Data-Driven Discovery of Interpretable Kalman Filter Variants through Large Language Models and Genetic Programming
University of Reading（reading大学）；University of Cambridge（剑桥大学）
本文探讨通过遗传编程和大规模语言模型自动发现卡尔曼滤波变种的可能性，展示框架在不同条件下发现最优解及可解释替代方案的能力。
2025-08-25 cs.LG cs.NE
AI Discovering a Coordinate System of Chemical Elements: Dual Representation by Variational Autoencoders
本文利用卷积beta变分自编码器在二维潜在空间中无监督表示化学元素，并探索其双重表示能力，发现潜在空间中的变量顺序与马德隆规则完全匹配。
2025-01-22 cs.LG physics.chem-ph
Discovering Symmetry Breaking in Physical Systems with Relaxed Group Convolution
Massachusetts Institute of Technology（麻省理工学院）；Harvard University（哈佛大学）；Northeastern University（东北大学）
本文提出使用松弛群卷积学习物理系统中的不对称性，证明该方法能在保持与数据一致的最高等变性下，发现晶体相变、湍流和摆系统中可解释的对称性破缺因子。
2025-07-10 cs.AI cs.LG
Al-Khwarizmi: Discovering Physical Laws with Foundation Models
Huawei's Noahs Ark Lab, London, UK.（华为诺亚实验室，伦敦，英国）
本文提出Al-Khwarizmi智能体框架，结合基础模型与SINDy，自动化物理定律发现，在198个模型上相比最优方法提升20%。
2025-06-20 cs.LG
Latent space mapping of interpretable structural coordinates from stochastic single-molecule signals
imec
提出通过对比编码器将纳米孔随机信号映射到可解释分子结构坐标的潜空间，实现高效识别与数据融合。
2026-06-16 cs.LG physics.bio-ph physics.chem-ph
