Interpretable Control by Reinforcement Learning
Siemens AG（西门子股份公司）
在本文中，三个最近推出的强化学习（RL）方法被用来生成人类可解释的政策的车杆平衡基准。新的RL方法以紧凑的模糊控制器和简单的代数方程的形式学习人类可解释的策略。的表示，以及实现的控制性能进行了比较，与两个经典的控制器设计方法和三个不可解释的RL方法。所有八种方法都使用相同的先前生成的数据批次，并离线生成其控制器-而不与真实的基准动态进行交互。实验表明，新的强化学习方法能够自动生成性能良好的策略，同时这些策略是人类可解释的。此外，其中一种方法被应用到自动学习基于方程的政策，硬件车杆演示器通过只使用人类玩家生成的批处理数据。在第一次尝试中生成的解决方案已经代表了成功的平衡策略，这表明该方法适用于现实世界的问题。
2020-07-20 cs.AI cs.LG cs.RO
Towards the Automatic Synthesis of Interpretable Chess Tactics
North Carolina State University（北卡罗来纳州立大学）
该工作提出一种基于归纳逻辑编程的符号子策略模型，用于生成可解释的国际象棋战术，并通过散度度量与引擎增强评估其有效性。
2026-10-07 cs.AI cs.LG cs.SC
New Insights into Automatic Treatment Planning for Cancer Radiotherapy Using Explainable Artificial Intelligence
Department of Physics, The University of Texas at Arlington（德克萨斯大学阿灵顿分校物理系）；Department of Radiation Oncology and Molecular Radiation Sciences, Johns Hopkins University（约翰霍普金斯大学放射肿瘤学与分子放射科学系）
本研究针对癌症放疗自动治疗计划中AI智能体决策不透明的问题，通过EXAI方法分析ACER智能体的DVH输入到TPP调整决策的归因，揭示其决策过程并验证高性能智能体的规划效果，为提升临床信任和优化计划提供新见解。
2025-08-19 cs.AI physics.med-ph
Exploiting Transformer in Sparse Reward Reinforcement Learning for Interpretable Temporal Logic Motion Planning
University of Science and Technology of China（中国科学技术大学）
本文提出双 Transformer 引导的 T2TL 框架，结合 LTL progression 与环境无关预训练，将复杂时序逻辑任务分解为可学习子目标，提升稀疏奖励强化学习运动规划性能。
2023-07-17 cs.AI cs.LO cs.RO
Asking the Right Questions: Learning Interpretable Action Models Through Query Answering
Arizona State University（亚利桑那州立大学）
本文提出了一种新的方法来估计一个可解释的，关系模型的黑盒自主智能体，可以计划和行动。我们的主要贡献是一个新的范例，估计这样的模型使用最小的查询接口与代理，和一个分层查询算法，生成一个询问政策，估计代理的内部模型在用户提供的词汇表。我们的方法的实证评估表明，尽管棘手的搜索空间可能的代理模型，我们的方法允许正确的和可扩展的估计解释代理模型的广泛的黑盒自主智能体。我们的研究结果还表明，这种方法可以使用谓词分类器来学习可解释的模型的规划代理，代表国家的图像。
2021-04-09 cs.AI
Interpretable Apprenticeship Learning with Temporal Logic Specifications
本文提出通过多目标优化从MDP中的行为轨迹推断LTL规范，采用违反成本概念设计状态和动作基于的目标函数，并通过遗传算法在简单领域验证方法有效性。
2017-10-28 cs.AI cs.LG cs.SY
Identifying Decision Points for Safe and Interpretable Reinforcement Learning in Hypotension Treatment
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）；Massachusetts General Hospital（麻省总医院）
许多批处理RL健康应用程序首先将时间离散化为固定的时间间隔。然而，这种离散化既失去了分辨率，又迫使在每个（潜在的精细）间隔进行策略计算。在这项工作中，我们开发了一个新的框架，将连续的轨迹压缩成几个可解释的决策点-批量数据支持多个备选方案的地方。我们应用我们的方法从一组肥胖患者数据集创建推荐。我们减少了状态空间，从而加快了规划速度，并允许临床专家轻松检查。
2021-01-09 cs.LG
Planning Transformer: Long-Horizon Offline Reinforcement Learning with Planning Tokens
Durham University（杜伦大学）
针对Decision Transformer等离线强化学习监督方法在长时序任务中累积误差高的问题，提出带有规划令牌的Planning Transformer，通过双时间尺度令牌预测实现隐式规划指导低层策略，在D4RL环境中达SOTA并提升策略可解释性。
2024-09-14 cs.AI cs.CL cs.LG
Planning with RL and episodic-memory behavioral priors
IIIT Allahabad（印度阿拉哈巴德信息技术学院）；University of Bielefeld（比勒费尔德大学）
学习代理的实际应用需要样本高效和可解释的算法。从行为先验中学习是一种很有前途的方法，可以用比随机探索策略更好的引导代理，或者防止早期学习的陷阱。现有的模仿学习解决方案需要大量的专家演示，并依赖于难以解释的学习方法，如深度Q学习。在这项工作中，我们提出了一种基于规划的方法，可以使用这些行为先验在强化学习环境中进行有效的探索和学习，我们证明了以行为先验形式的策划探索策略可以帮助代理更快地学习。
2022-07-07 cs.AI
Unsupervised Grounding of Plannable First-Order Logic Representation from Images
IBM Research（IBM研究）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
最近，在强化学习社区中，人们对获取环境的关系结构越来越感兴趣。然而，由此产生的“关系”不是离散的，逻辑谓词兼容的符号推理，如经典的规划或目标识别。与此同时，Latplan（Asai and Fukunaga 2018）弥合了深度学习感知系统和符号经典规划器之间的差距。该系统的一个关键组成部分是一个称为状态自动编码器（SAE）的神经网络，它将基于图像的输入编码为与经典规划兼容的命题表示。为了两全其美，我们提出了一阶状态自动编码器，这是一种无监督的架构，用于为一阶逻辑谓词和事实奠定基础。每个谓词通过获取可解释的参数并返回一个命题值来建模对象之间的关系。在使用8-Puzzle和照片般逼真的Blocksworld环境的实验中，我们表明：（1）所得到的谓词捕获了可解释的关系（例如空间），（2）它们有助于获得环境的紧凑，抽象模型，最后，（3）所得到的模型与符号经典规划兼容。
2019-03-27 cs.AI cs.LG
Refining Manually-Designed Symbol Grounding and High-Level Planning by Policy Gradients
NEC Central Research Laboratories（NEC中央研究实验室）；National Institute of Advanced Industrial Science and Technology（日本产业技术综合研究所）；The University of Tokyo（东京大学）
分层规划，产生可解释的和适当的计划是理想的，特别是在其应用程序，以支持人类的决策。在分层规划器的典型开发中，更高级别的规划器和符号基础功能是手动创建的，并且这种手动创建需要大量的人力。在本文中，我们提出了一个框架，可以自动细化符号接地功能和高层次的规划，以减少设计这些模块的人力。在我们的框架中，符号接地和高层次的规划，这是基于人工设计的知识库，建模与半马尔可夫决策过程。一个策略梯度方法，然后应用到细化模块，其中两个条款更新模块被认为是。第一个术语，称为强化术语，有助于更新模块，以提高层次规划器的整体性能，以产生适当的计划。第二项，称为惩罚项，有助于保持细化模块与手动设计的原始模块一致。也就是说，它保持计划器，使用细化的模块，产生可解释的计划。我们进行了初步的实验，以解决山地车问题，其结果表明，一个手动设计的高级规划器和符号接地功能，成功地改进了我们的框架。
2018-09-29 cs.AI
Empowering recommender systems using automatically generated Knowledge Graphs and Reinforcement Learning
Insight Research Ireland Centre for Data Analytics, Data Science Institute, University of Galway（爱尔兰高威大学数据科学研究所Insight爱尔兰数据分析研究中心）；Fidelity Investments（富达投资）
本文提出两种基于知识图谱和强化学习的方法，用于金融服务中的个性化文章推荐，兼顾准确性与可解释性。
2025-02-24 cs.AI cs.IR cs.LG
Towards an Interpretable Hierarchical Agent Framework using Semantic Goals
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；US Army Research Lab（美国陆军研究实验室）
用强化学习来学习解决长时间扩展任务已经是几年来的挑战。我们认为，重要的是要利用复杂任务的层次结构，并尽可能使用专家监督来解决这些任务。本文通过结合规划和语义目标导向的强化学习，提出了一种可解释的层次Agent框架。我们假设访问某些空间和触觉谓词，并构建一个简单而强大的语义目标空间。这些语义目标表示更易于解释，使专家监督和干预更容易。它们还消除了编写复杂、密集的奖励函数的需要，从而减少了人类工程工作。我们评估了我们的框架上的机器人块操作任务，并表明它比其他方法，包括稀疏和密集的奖励函数更好地执行。我们还提出了一些后续步骤，并讨论了这个框架如何使与人类的交互和协作变得更容易。
2022-10-16 cs.LG cs.RO
Automated Attack Planning
渗透测试是一种通过生成和执行可能的攻击来评估网络安全的方法。这样做自动允许定期和系统的测试。一个关键问题是如何自动生成攻击。解决这个问题的一个自然方法是作为一个攻击规划问题。在这篇论文中，我们关注的是定期自动渗透测试的具体情况，并在这个意义上使用术语“攻击计划”。研究了以下三个研究方向。首先，我们介绍了一个概念模型的计算机网络攻击，基于渗透测试的实践分析。我们研究如何这种攻击模型可以表示在PDDL语言。然后，我们描述了一个实现，集成了一个经典的计划与渗透测试工具。这使我们能够自动生成真实世界渗透测试场景的攻击路径，并通过执行这些攻击来验证它们。其次，我们提出了高效的概率规划算法，专门为这个问题而设计，实现工业规模的运行时性能（能够解决数百个主机和漏洞的情况）。这些算法考虑了动作的成功概率及其预期成本（例如，在执行时间或生成的网络流量方面）。最后，我们采取了不同的方向：而不是试图提高开发的解决方案的效率，我们专注于改进攻击者的模型。我们模型的攻击规划问题的部分可观测马尔可夫决策过程（POMDP）。这是渗透测试在一个良好的研究形式主义的基础。POMDPs允许将信息收集建模为问题的一个组成部分，从而首次提供了一种智能地将扫描操作与实际利用相结合的方法。
2013-07-30 cs.AI cs.CR
Counterexample-guided Planning
UC Berkeley（加州大学伯克利分校）；EPFL（洛桑联邦理工学院）；UC San Diego（加州大学圣迭戈分校）；UC Los Angeles（加州大学洛杉矶分校）
对抗性和不确定性环境中的规划问题可以建模为随机完全信息博弈中的策略设计问题。这些游戏是马尔可夫决策过程（MDP）的推广：有两个（对抗性）玩家和一个随机性来源。在这类博弈中计算获胜策略的主要实际障碍是状态空间的大小。因此，在实践中，人们通常使用模型的抽象。困难的是提出一个抽象，既不能太粗糙而不能删除所有获胜的策略（计划），也不能太精细而不能处理。在验证中，反例引导的抽象精化的范例已经成功地自动构造有用但简约的抽象。我们将这种范式扩展到概率模型（即完美信息博弈，作为特例，MDP）。这使我们能够将反例引导的抽象范式应用于AI规划问题。作为特殊情况，我们得到了MDP和确定性系统的规划算法，自动构建系统抽象。
2012-07-04 cs.AI cs.GT
Integrated Decision and Control: Towards Interpretable and Computationally Efficient Driving Intelligence
Tsinghua University（清华大学）；Suzhou Automotive Research Institute, Tsinghua University（清华大学苏州汽车研究院）
决策和控制是高级自动驾驶汽车的核心功能。当前的主流方法，如功能分解和端到端强化学习（RL），要么具有较高的时间复杂度，要么具有较差的可解释性和适应性。在本文中，我们提出了一个可解释的和计算效率高的框架，称为集成决策和控制（IDC）的自动驾驶汽车，它分解成静态路径规划和动态优化跟踪的分层结构的驾驶任务。首先，静态路径规划生成几个候选路径只考虑静态交通元素。然后，设计了动态最优跟踪算法，在考虑动态障碍物的情况下跟踪最优路径。为此，我们制定了一个约束最优控制问题（OCP）的每个候选路径，分别优化它们，并遵循一个最佳的跟踪性能。为了减轻繁重的在线计算，我们提出了一个基于基于模型的强化学习（RL）算法，可以作为一个近似的约束OCP求解器。具体地说，所有路径的OCP被认为是在一起，以构建一个完整的RL问题，然后解决离线的价值和策略网络的形式，分别为实时在线路径选择和跟踪。我们在模拟和现实世界中验证我们的框架。结果表明，与基线方法相比，IDC的在线计算效率提高了一个数量级，以及更好的驾驶性能，包括交通效率和安全性。此外，它产生了很大的解释性和适应性之间的不同的驾驶任务。在复杂交通条件下的实际道路试验中也证明了该方法的有效性。
2021-05-11 cs.LG cs.RO
Coordinating Planning and Tracking in Layered Control Policies via Actor-Critic Learning
University of Pennsylvania（宾夕法尼亚大学）
提出一种基于强化学习的actor-critic算法，联合训练分层控制中的规划器与跟踪控制器，通过对偶网络协调二者，实现可解释策略，并在LQR下证明收敛，在非线性独轮车模型上验证有效性。
2024-12-17 cs.LG cs.SY eess.SY
Perceive, Predict, and Plan: Safe Motion Planning Through Interpretable Semantic Representations
Uber ATG（Uber 先进技术集团）；University of Toronto（多伦多大学）
在本文中，我们提出了一种新型的端到端可学习网络，该网络可以为自动驾驶车辆执行联合感知，预测和运动规划，并产生可解释的中间表示。与现有的神经运动规划器不同，我们的运动规划成本与我们的感知和预测估计一致。这是通过一种新颖的可区分的语义占用表示来实现的，该表示被明确地用作运动规划过程的成本。我们的网络是从人类演示中端到端学习的。在大规模手动驾驶数据集和闭环仿真中的实验表明，该模型在模仿人类行为的同时产生更安全的轨迹，显着优于最先进的规划器。
2020-08-13 cs.AI cs.CV cs.LG
MATS: An Interpretable Trajectory Forecasting Representation for Planning and Control
Stanford University（斯坦福大学）；Toyota Research Institute（丰田研究院）
人体运动推理是现代人机交互系统的核心组成部分。特别地，行为预测在自主系统中的主要用途之一是通知机器人运动规划和控制。然而，大多数规划和控制算法的原因是系统动态而不是预测的代理轨迹（即，路径点的有序集合），其通常由轨迹预测方法输出，这可能妨碍它们的集成。为此，我们提出仿射时变系统（MATS）的混合物作为输出表示的轨迹预测，更适合下游规划和控制使用。我们的方法利用成功的想法，从概率轨迹预测工程学习动力系统表示，在规划和控制文献中得到充分研究。我们将我们的预测与建议的多模态规划方法相结合，并在大规模自动驾驶数据集上展示了显着的计算效率改进。
2021-01-14 cs.HC cs.LG cs.RO
SkillDiffuser: Interpretable Hierarchical Planning via Skill Abstractions in Diffusion-Based Task Execution
Shanghai AI Laboratory（上海人工智能实验室）；University of California, Berkeley（加州大学伯克利分校）；The University of Hong Kong（香港大学）
SkillDiffuser提出一种端到端分层规划框架，通过从视觉和语言中学习可解释技能表示并条件化扩散模型生成轨迹，在Meta-World和LOReL等基准上实现了最先进的长程多技能任务执行性能。
2024-03-28 cs.CV cs.LG cs.RO
Automatic Multi-Label Prompting: Simple and Interpretable Few-Shot Classification
New York University（纽约大学）；University of California, San Diego（加州大学圣地亚哥分校）
基于知识的学习（即，提示）是一种用于利用由预训练的语言模型学习的知识的新兴范例。在本文中，我们提出了自动多标签标注（AMuLaP），一个简单而有效的方法来自动选择标签映射的Few-Shot文本分类提示。我们的方法利用一对多的标签映射和一个基于代数的算法来选择标签映射给出一个提示模板。我们的实验表明，AMuLaP达到竞争力的性能，在没有人力或外部资源的情况下，在GLUE基准。
2022-04-14 cs.AI cs.CL cs.LG
BézierGAN: Automatic Generation of Smooth Curves from Interpretable Low-Dimensional Parameters
University of Maryland（马里兰大学）
许多现实世界的物体都是由光滑曲线设计的，特别是在航空航天和船舶领域，其中空气动力学形状（例如，翼型）和流体动力学形状（例如，设计（设计）。为了方便这些对象的设计过程，我们提出了一个基于深度学习的生成模型，可以合成平滑曲线。该模型将低维潜在表示映射到从有理Bézier曲线采样的离散点序列。我们展示了我们的方法在完成合成和现实世界的生成任务的性能。结果表明，该方法能够生成多样、真实的曲线，同时保持潜在空间中形状变化的一致性，有利于潜在空间设计优化或设计空间探索。
2021-01-05 cs.AI cs.CG cs.LG
VLAD: A VLM-Augmented Autonomous Driving Framework with Hierarchical Planning and Interpretable Decision Process
Gifu University（福井大学）；DENSO CORPORATION（Denso公司）
本文提出VLAD框架，将微调视觉语言模型与端到端系统VAD集成，通过生成高层导航指令和可解释决策解释，在nuScenes上使平均碰撞率降低31.82%。
2025-07-02 cs.AI cs.CV cs.ET
MechRetro is a chemical-mechanism-driven graph learning framework for interpretable retrosynthesis prediction and pathway planning
School of Software, Shandong University（山东大学软件学院）；Joint SDU-NTU Centre for Artificial Intelligence Research (C-FAIR), Shandong University（山东大学-新加坡南洋理工大学人工智能联合研究中心（C-FAIR））；Institute of Fundamental and Frontier Sciences, University of Electronic Science and Technology of China（电子科技大学基础与前沿研究院）
提出化学机制驱动的图学习框架MechRetro，通过自适应联合学习实现可解释的逆合成预测与路径规划，在基准上显著优于现有方法，并发现新合成路径。
2022-10-06 cs.LG physics.chem-ph q-bio.BM
QuAD: Query-based Interpretable Neural Motion Planning for Autonomous Driving
Waabi（瓦比公司）；University of Toronto（多伦多大学）
本文提出QuAD框架，通过让规划器在相关时空点直接查询占据情况来替代传统感知-预测-规划级联流程，并围绕避撞、舒适性和进度评估候选轨迹，在高保真闭环仿真中实现了优于现有方法的高速公路驾驶质量。
2024-04-01 cs.AI cs.CV cs.LG
An Interpretable Determinantal Choice Model for Subset Selection
Cornell University（康奈尔大学）
了解如何从提供的集合中选择商品子集对于分类规划、无线网络规划和许多其他应用程序至关重要。有两种看似无关的子集选择模型可以捕捉项目之间的依赖关系：直观和可解释的随机效用模型;以及易处理的决定点过程（DPP）。本文将两者联系起来。首先，所有的DPP被证明是随机效用模型。接下来，一个决定性的选择模型，享有最好的两个世界的指定，该模型被证明substantially logistic回归时的依赖是最小的，和MNL时的依赖是最大的负面。这使得模型具有可解释性，同时保留了DPP的易处理性。仿真研究验证了该模型可以从数据中学习连续的负相关性，并且使用原始实验数据的应用研究对LoRa网络中的无线干扰产生了新的见解。
2023-02-22 cs.LG
AutoAct: Automatic Agent Learning from Scratch for QA via Self-Planning
AIWaves Inc.（AIWaves公司）；Alibaba Group（阿里巴巴集团）；Zhejiang University（浙江大学）
AutoAct提出无需大规模标注数据和闭源模型，通过自动合成规划轨迹和分工策略，实现问答智能体的自动学习，性能优于或媲美强基线。
2024-05-26 cs.AI cs.CL cs.HC
N-ACT: An Interpretable Deep Learning Model for Automatic Cell Type and Salient Gene Identification
University of California（加利福尼亚大学）；Health Sciences Research Institute（健康科学研究院）
单细胞RNA测序（scRNAseq）正在迅速推进我们对复杂组织和生物体中细胞组成的理解。大多数scRNAseq分析管道中的主要限制是依赖于手动注释来确定细胞身份，这是耗时的，主观的，并且需要专业知识。鉴于细胞测序的激增，已经开发了用于自动细胞类型识别（ACTI）的监督方法，特别是深度学习模型，这些方法实现了高准确性和可扩展性。然而，所有现有的ACTI深度学习框架都缺乏可解释性，并被用作“黑盒”模型。我们提出了N-ACT（细胞类型识别的神经注意力）：第一个可解释的ACTI深度神经网络，利用神经注意力来检测用于细胞类型识别的显著基因。我们在两个先前手动注释的数据集上将N-ACT与传统注释方法进行了比较，证明N-ACT以无监督的方式准确地识别标记基因和细胞类型，同时在多个数据集上对传统监督ACTI中当前最先进的模型进行了验证。
2022-05-08 cs.AI cs.LG q-bio.GN
Feature Engineering for Agents: An Adaptive Cognitive Architecture for Interpretable ML Monitoring
Barcelona Supercomputing Center（巴塞罗那超级计算中心）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）；Emory University（埃默里大学）
针对传统ML监测输出可解释性低的问题，提出融合特征工程与LLM的认知架构，通过重构、分解、编译三步模拟特征工程，提升输出可解释性与确定性，实验验证其在多领域准确率优于基线。
2025-06-11 cs.AI cs.LG
Automatic Componentwise Boosting: An Interpretable AutoML System
LMU Munich（慕尼黑大学）
在实践中，机器学习（ML）工作流程需要各种不同的步骤，从数据预处理、缺失值填补、模型选择到模型调整以及模型评估。其中许多步骤依赖于人类ML专家。AutoML --自动化这些ML管道的领域--试图帮助从业者在没有任何专业知识的情况下应用ML。大多数现代AutoML系统，如auto-sklearn、H20-AutoML或TPOT，都以高预测性能为目标，从而生成几乎完全由黑盒模型组成的集合。这反过来又使外行的解释更加复杂，并为用户增加了另一层不透明性。我们提出了一个AutoML系统，该系统构建了一个可解释的添加剂模型，可以使用高度可扩展的组件提升算法来拟合。我们的系统提供了易于模型解释的工具，例如可视化部分效应和成对相互作用，允许直接计算特征重要性，并深入了解所需的模型复杂性以适应给定的任务。我们介绍的一般框架，并概述其实现autocompboost。为了证明框架的有效性，我们将autocompboost与基于OpenML AutoML基准的其他现有系统进行了比较。尽管其限制到一个可解释的模型空间，我们的系统在大多数数据集的预测性能方面具有竞争力，同时更加用户友好和透明。
2021-10-16 cs.LG stat.ML
Interpretable Question Answering on Knowledge Bases and Text
iteratec GmbH（iteratec有限公司）；LMU Munich（慕尼黑大学）
机器学习（ML）模型的可解释性随着其越来越多的采用而变得更加相关。在这项工作中，我们解决了基于ML的问答（QA）模型的知识库（KB）和文本文档的组合的可解释性。我们采用LIME和输入扰动（IP）等事后解释方法，并将其与模型的自解释注意力机制进行比较。为此，我们提出了一个自动评估范例的解释方法的背景下，QA。我们还与人类注释者进行了一项研究，以评估解释是否有助于他们识别更好的QA模型。我们的研究结果表明，IP提供了更好的解释比石灰或注意，根据自动和人类的评价。我们在两个实验中获得了相同的方法排名，这支持了我们的自动评估范式的有效性。
2019-06-26 cs.AI cs.CL cs.LG
DeepFaceLIFT: Interpretable Personalized Models for Automatic Estimation of Self-Reported Pain
Computer Science and Artificial Intelligence Laboratory, MIT（麻省理工学院计算机科学与人工智能实验室）；Department of Electrical Engineering and Computer Science, MIT（麻省理工学院电气工程与计算机科学系）；Media Lab, MIT（麻省理工学院媒体实验室）
先前关于从面部表情自动估计疼痛的研究主要集中在“一刀切”的度量（例如PSPI）。在这项工作中，我们专注于直接估计每个人的自我报告的视觉模拟量表（VAS）疼痛指标，因为这被认为是疼痛测量的黄金标准。VAS疼痛评分具有高度主观性和背景依赖性，其范围在不同的人之间可能存在显著差异。为了解决这些问题，我们提出了一种新的两阶段个性化模型，名为DeepFaceLIFT，用于自动估计VAS。该模型基于（1）神经网络和（2）高斯过程回归模型，并用于通过一组手工制作的个人特征和多任务学习来个性化自我报告疼痛的估计。我们在疼痛分析的基准数据集（UNBC-McMaster Shoulder Pain Expression Archive）上显示，所提出的个性化模型在很大程度上优于传统的非个性化模型：类内相关性从19\%的基线性能提高到35\%的个性化性能，同时还提供了模型\textquotesingle估计的置信度-与目标任务的现有模型相比。此外，DeepFaceLIFT自动发现每个人的疼痛相关面部区域，从而可以轻松解释与疼痛相关的面部线索。
2017-08-09 cs.AI cs.CV cs.LG
Careful Whisper -- leveraging advances in automatic speech recognition for robust and interpretable aphasia subtype classification
nyra health GmbH（nyra健康有限公司）
本文提出一种结合CTC和编码器-解码器自动语音识别模型及自然语言处理技术的全自动化流程，通过提取语音特征生成健康语音原型，实现了区分失语症与健康对照组的人类水平准确率及90%的亚型分类准确率。
2023-08-02 cs.CL cs.LG cs.SD
Automatic Patient-Specific Microwave Ablation Planning Accelerated by a Physics-Guided Deep Learning Model
Yonsei University（延世大学）；Innovative & Intelligent Computational Science Institute (IN2CSI)（创新与智能计算科学研究所（IN2CSI））
该研究提出结合神经消融预测模型与遗传算法的数字孪生框架，可快速实现患者特异性微波消融自动规划，提升消融效率、减少器官损伤且规划速度快约420倍
2026-08-05 cs.LG eess.IV
GalaxAI: Machine learning toolbox for interpretable analysis of spacecraft telemetry data
Bias Variance Labs（Bias Variance实验室）；Jožef Stefan Institute（约泽夫·斯蒂芬研究所）；LSE Space GmbH（LSE航天有限公司）；ESOC, European Space Agency（欧洲空间局欧洲空间运行中心）；Solenix Engineering（Solenix工程公司）；University of Cambridge（剑桥大学）
我们介绍GalaxAI -一个多功能的机器学习工具箱，用于航天器遥测数据的高效和可解释的端到端分析。GalaxAI采用各种机器学习算法进行多变量时间序列分析、分类、回归和结构化输出预测，能够处理高吞吐量的异构数据。这些方法允许构建鲁棒和准确的预测模型，这些模型又被应用于航天器监测和操作规划的不同任务。更重要的是，除了精确构建模型外，GalaxAI还实现了可视化层，为任务专家和操作员提供了数据分析过程的完整，详细和可解释的视图。我们展示了GalaxAI在两个不同航天器的两个用例上的实用性和多功能性：i）火星快车热功耗的分析和规划，ii）预测INTEGRAL穿过范艾伦带的交叉点。
2021-08-09 cs.LG
Interpretable and Personalized Apprenticeship Scheduling: Learning Interpretable Scheduling Policies from Heterogeneous User Demonstrations
Georgia Institute of Technology（佐治亚理工学院）
资源调度和协调是一个NP难的优化，需要有效地分配代理的一组任务的上限和下限的时间和资源的限制。由于医院和工厂中资源协调的大规模和动态性，人力领域专家手动规划和调整时间表。为了完成这项工作，领域专家利用了多年学徒生涯中磨练出来的各种策略和经验法则。迫切需要的是在异构和可解释的学徒学习框架中提取该领域知识的能力，以超越单个人类专家的能力，这在安全关键领域是必要的。我们提出了一个个性化的和可解释的学徒调度算法，推断出一个可解释的表示所有的人类任务示威者提取决策标准，通过推断，个性化的嵌入非参数的示威者类型的数量。我们在合成域中实现了近乎完美的LfD准确度，在规划域中实现了88.22%的准确度，并且具有真实世界，优于基线。最后，我们的用户研究表明，我们的方法比神经网络（$p < 0.05$）产生更多的可解释性和更易于使用的模型。
2021-12-07 cs.AI cs.LG stat.ML
Interpretable Bayesian Tensor Network Kernel Machines with Automatic Rank and Feature Selection
Delft Center for Systems and Control（德雷夫特系统与控制中心）；Delft University of Technology（德雷夫特理工大学）
提出贝叶斯张量网络核机框架，通过诱导稀疏的分层先验自动推断张量秩和特征维度，在无额外计算成本下实现不确定性量化与特征选择，提升模型可解释性。
2025-07-15 cs.LG stat.ML
Interpretable Deep Learning for Automatic Diagnosis of 12-lead Electrocardiogram
The Ohio State University（俄亥俄州立大学）；Wuhan University of Technology（武汉理工大学）
心电图（ECG）是一种广泛使用的可靠的，非侵入性的心血管疾病诊断方法。随着心电信号检测的快速增长和心内科医生的不足，对心电信号进行准确、自动的诊断已成为研究的热点。深度学习方法已经在预测性医疗任务中展示了有希望的结果。在本文中，我们开发了一个深度神经网络，用于12导联心电图记录中心律失常的多标签分类。在公开的12导联心电数据集上的实验表明了该方法的有效性。所提出的模型实现了0.970的受试者工作特征曲线（AUC）下的平均面积和0.813的平均F1评分。深度模型显示出比从提取的专家特征中学习的4种机器学习方法更优越的性能。此外，在单导联ECG上训练的深度模型的性能低于同时使用所有12个导联。在12个导联中，表现最好的导联是I、aVR和V5。最后，我们采用SHapley加法解释（SHAP）方法来解释模型在患者水平和人群水平上的行为。我们的代码可以在www.example.com上免费获得。
2020-10-20 cs.LG eess.SP
Interpretable long-term traffic modelling on national road networks using theory-informed deep learning
Martin Centre for Architectural and Urban Studies, University of Cambridge（剑桥大学马丁建筑与城市研究中心）；Independent Researcher（独立研究员）
本文提出DeepDemand框架，结合交通理论与深度学习，通过社会经济特征和道路网络结构预测长期高速公路交通量，验证了其在长期规划中的有效性与地理可转移性。
2026-03-27 cs.CE cs.LG
RePrompt: Planning by Automatic Prompt Engineering for Large Language Models Agents
University of Southern California（南加州大学）
针对LLM智能体中自动提示工程依赖最终检查器的问题，提出\textsc{RePrompt}方法，基于交互反思的聊天历史以类似梯度下降方式优化逐步指令，无需最终检查器，在多推理任务上提升性能。
2025-02-13 cs.AI cs.CL cs.LG
Automated discovery of interpretable gravitational-wave population models
Flatiron Institute（熨斗研究所）；Princeton University（普林斯顿大学）
我们提出了一个自动的方法来发现分析人口模型的引力波（GW）事件的数据。随着更多的引力波（GW）事件被检测到，灵活的模型，如高斯混合模型已变得更加重要，在拟合GW属性的分布，由于他们的表达。然而，灵活的模型带有许多缺乏物理动机的参数，使得解释这些模型的含义具有挑战性。在这项工作中，我们证明了符号回归可以补充灵活的模型，通过蒸馏的后验预测分布，这种灵活的模型到可解释的分析表达式。我们恢复常见的GW人口模型，如幂律加高斯，并找到一个新的经验人口模型相结合的准确性和简单性。这展示了一种在不断增长的GW目录中自动发现可解释的人口模型的策略，该策略可以应用于其他天体物理现象。
2022-07-25 astro-ph.HE astro-ph.IM cs.LG
DialoGraph: Incorporating Interpretable Strategy-Graph Networks into Negotiation Dialogues
Carnegie Mellon University（卡内基梅隆大学）
要成功地谈判达成协议，仅仅流利地沟通是不够的：有说服力的谈判策略的务实规划至关重要。虽然现代对话代理擅长生成流畅的句子，但他们仍然缺乏语用基础，无法进行战略推理。我们提出了DialoGraph，一个谈判系统，采用图神经网络的谈判对话中的语用策略。DialoGraph明确地结合了策略序列之间的依赖关系，以在给定对话上下文的情况下，实现对下一个最佳策略的改进和可解释的预测。我们的基于图的方法优于现有的国家的最先进的谈判模型在战略/对话行为预测的准确性和下游对话响应生成的质量。我们定性地展示了学习策略图在对话过程中提供有效谈判策略之间的明确关联的进一步好处，从而导致可解释的战略对话。
2021-06-02 cs.AI cs.CL cs.LG
A learning-driven automatic planning framework for proton PBS treatments of H&N cancers
Department of Radiation Medicine and Applied Sciences, University of California at San Diego（放射医学与应用科学系，加州大学圣地亚哥分校）；Amazon Inc.（亚马逊公司）；California Protons Cancer Therapy Center（加利福尼亚质子癌症治疗中心）
提出一种学习驱动的逆优化器并集成至PPO框架，用于头颈部癌症质子PBS治疗自动规划，显著提升优化效率与靶区覆盖。
2025-09-15 cs.AI cs.LG
Automatic Operator-level Parallelism Planning for Distributed Deep Learning -- A Mixed-Integer Programming Approach
本文提出一种基于混合整数规划的算子级自动并行规划方法，通过双层求解框架兼顾最优性与计算效率，在相同内存约束下将计算气泡减少一半，性能达到或超越 DeepSeek DualPipe 等专家策略。
2025-03-12 cs.AI cs.DC cs.DM
Interpretable Discovery from Unstructured Data: A High-Dimensional Approach
Harvard University（哈佛大学）
本文针对社会科学家利用非结构化数据获取实证见解的需求，提出通用灵活框架。借AI可解释性方法映射数据到概念嵌入，计算统计量检验假设，经选择性推断得出发现，并生成评估自然语言描述，具有低自由度、鲁棒性等优点。
2026-10-05 cs.LG econ.EM
HAPMoE: Heterogeneity-Aware Automatic Parallelism Planning for Mixture-of-Experts Models Training
Peking University（北京大学）；Infinigence AI（无问智能）；Tsinghua University（清华大学）
针对MoE模型在异构集群上的自动并行化难题，提出HAPMoE，通过MoE感知成本模型和六维并行空间搜索，实现吞吐量最高提升3.2倍，并在一分钟内完成规划。
2026-10-01 cs.DC cs.LG
Patient-specific virtual spine straightening and vertebra inpainting: An automatic framework for osteoplasty planning
Helmholtz Zentrum Muenchen（慕尼黑亥姆霍兹中心）；Technische Universitaet Muenchen（慕尼黑工业大学）；Reply SpA（瑞普公司）；Johns Hopkins University（约翰斯·霍普金斯大学）
症状性脊柱椎体压缩性骨折（VCF）通常需要骨成形术治疗。一种类似水泥的材料被注入骨头中，以稳定骨折，恢复椎体高度并减轻疼痛。渗漏是一种常见的并发症，可能是由于注入过多骨水泥所致。在这项工作中，我们提出了一个自动化的患者特定的框架，可以让医生计算骨水泥注射的上限，并估计骨成形术的最佳结果。该框架使用患者CT扫描和骨折椎骨标签来使用高级方法构建虚拟健康脊柱。首先，用三步卷积神经网络（CNN）架构分割骨折的脊柱。接下来，到健康脊柱图谱的每椎骨刚性配准恢复其曲率。最后，一种基于GAN的修复方法用其原始形状的估计来替换骨折的椎骨。根据这一结果，我们估计了骨水泥的最大注射量。我们通过比较10名患者的虚拟椎骨体积与其健康等效值来评估我们的框架，并报告平均误差为3.88 $\pm$ 7.63\%。所提出的管道提供了一个个性化的自动规划骨成形术程序的高层次框架的第一种方法。
2021-03-23 cs.CV cs.LG cs.NE
ARIMA_PLUS: Large-scale, Accurate, Automatic and Interpretable In-Database Time Series Forecasting and Anomaly Detection in Google BigQuery
Google（谷歌）
针对大规模时间序列预测与异常检测的效率、精度及可解释性挑战，提出内置在Google BigQuery中的ARIMA_PLUS框架，通过模块化模型与云托管架构实现高精度、高吞吐量与强可解释性，性能优于多种统计及神经网络方法。
2025-10-28 cs.DC cs.LG
Visual Exclusivity Attacks: Automatic Multimodal Red Teaming via Agentic Planning
本文提出视觉排斥攻击，通过多模态多轮代理规划框架MM-Plan，实现基于视觉内容的攻击，展示了对前沿模型的高攻击成功率，揭示了当前安全对齐的不足。
2026-02-05 cs.CR cs.CV cs.LG
