SubROC: AUC-Based Discovery of Exceptional Subgroup Performance for Binary Classifiers
University of Rostock（罗斯托克大学）；University of Passau（帕绍大学）；Hessian AI / Marburg University（黑森AI / 马堡大学）
本文提出开源框架SubROC，基于Exceptional Model Mining和AUC指标，通过高效搜索、剪枝与显著性检验，可靠发现二分类器表现异常的可解释子群，用于指导模型安全部署与数据补充。
2025-08-27 cs.LG
Recovering Sparse and Interpretable Subgroups with Heterogeneous Treatment Effects with Censored Time-to-Event Outcomes
Carnegie Mellon（卡内基梅隆大学）
涉及随机化实验以及观察性数据的研究通常涉及至事件结局的时间，例如至失败、死亡或不良状况发生的时间。由于失访，这些结局通常会被删失，并且既定的统计实践涉及比较治疗组和对照组之间的风险比方面的治疗疗效。在本文中，我们提出了一种统计方法来恢复稀疏表型（或亚型），表现出差异处理效应相比，研究人群。我们的方法包括将数据建模为混合物，同时通过结构化稀疏正则化来执行参数收缩。我们提出了一种新的推理程序所提出的模型，并证明其在恢复稀疏表型在心血管健康的大型标志性现实世界的临床研究的有效性。
2023-02-24 cs.LG stat.ME stat.ML
Automatic Discovery of Disease Subgroups by Contrasting with Healthy Controls
NeuroSpin（神经旋）；Université Paris-Saclay（巴黎-萨克勒大学）；CEA（法国原子能委员会）；LTCI；Institut Polytechnique de Paris（巴黎高等理工学院）
本文提出了一种通过对比患者与健康对照组来发现可解释且同质的疾病亚组的方法，该方法在医学影像数据集上展示了改进的亚组估计质量。
2026-05-20 cs.CV cs.LG
Robust subgroup discovery
CWI（荷兰国家数学与计算机科学研究所）；LIACS（莱顿大学高级计算机科学研究所）
我们介绍了鲁棒子群发现的问题，即，找到子集的一组可解释的描述，所述子集1）相对于一个或多个目标属性突出，2）在统计上是稳健的，以及3）非冗余的。已经进行了许多尝试，挖掘本地强大的子组或解决模式爆炸，但我们是第一个从全球建模的角度同时解决这两个挑战的。首先，我们用公式表示子组列表的广义模型类，即，子组的有序集合，用于可以由名义或数字变量组成的单变量和多变量目标，包括其定义中的传统的前1个子组发现。这种新的模型类使我们能够使用最小描述长度（MDL）原则，在那里我们诉诸最佳归一化最大似然和贝叶斯编码的名义和数字目标，分别正式的最佳鲁棒子群发现的问题。其次，寻找最优子群列表是NP难的。因此，我们提出了SSD++，一个贪婪的启发式，找到良好的子组列表，并保证最重要的子组根据MDL标准被添加到每次迭代。事实上，贪婪的增益被证明是等价于贝叶斯单样本比例，多项式，或t检验之间的子组和数据集的边缘目标分布加上多个假设检验惩罚。此外，我们在54个数据集上的经验表明，SSD++在质量、对未知数据的概括和子组列表大小方面优于以前的子组发现方法。
2022-06-30 cs.AI cs.LG stat.ML
Interpretable Subgroup Discovery in Treatment Effect Estimation with Application to Opioid Prescribing Guidelines
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）；IBM Global Business Services（IBM全球企业咨询服务部）
医生处方指南的缺乏是目前美国阿片类药物流行的一个关键驱动因素。在这项工作中，我们分析了医疗和药物索赔数据，以了解在最初的合成阿片类药物处方后更容易出现不良结果的患者的特征。为此，我们提出了一个生成模型，允许从亚组的观察数据中发现，这些亚组表现出由于治疗而增强或减弱的因果效应。我们的方法将这些子群体建模为混合分布，使用稀疏性来增强可解释性，同时联合学习潜在结果的非线性预测因子，以更好地调整混淆。该方法导致人类可解释的见解发现的子群，提高决策支持的实际效用
2020-03-04 cs.LG stat.ML
Interpretable Discovery of One-parameter Subgroups: A Modular Framework for Elliptical, Hyperbolic, and Parabolic Symmetries
Indian Institute of Science（印度科学研究院）；Carnegie Mellon University（卡内基梅隆大学）
本文提出了一种模块化框架，用于从数据中发现单参数对称子群，通过学习生成器参数实现对称性的可解释性建模。
2026-02-09 cs.AI cs.LG
Subgroup Discovery in MOOCs: A Big Data Application for Describing Different Types of Learners
University of Cordoba（科尔多瓦大学）；King Abdulaziz University（阿卜杜勒阿齐兹国王大学）
本研究提出基于MapReduce的扩展FP-Growth子群发现方法，结合阈值与后处理步骤，在edX平台16门课程数据上挖掘MOOC学习者的无冗余IF-THEN规则，效率优于传统串行方法，可支撑教学分析与个性化应用。
2024-02-10 cs.CY cs.DB cs.LG
Subgroup Discovery with the Cox Model
NEC Labs America（NEC美国实验室）
本文提出基于Cox模型的子群发现方法，通过引入预期预测熵和条件排名统计等新指标，解决现有方法的不足，实验证实其在生存分析中提升模型拟合效果。
2026-01-05 cs.LG math.ST stat.ML
Local Exceptionality Detection in Time Series Using Subgroup Discovery
Osnabrück University（奥斯纳布吕克大学）；Tilburg University（蒂尔堡大学）
在本文中，我们提出了一种新的方法，局部异常检测时间序列数据。这种方法提供了发现数据中可解释模式的能力，这些模式可用于理解和预测时间序列的进展。这是一种探索性的方法，其结果可用于生成关于描述特定过程及其动态的变量之间关系的假设。我们详细介绍了我们的方法在一个具体的实例和示范性的实施，特别是在团队合作研究领域。使用真实世界的团队互动数据集，我们包括我们提出的方法的示例数据分析应用程序的结果，展示新颖的分析选项，并从团队合作研究的角度讨论结果的可能影响。
2021-08-05 cs.DB cs.LG
Identifying latent disease factors differently expressed in patient subgroups using group factor analysis
University College London（伦敦大学学院）；Max Planck University College London Centre for Computational Psychiatry and Ageing Research（马克斯·普朗克伦敦大学学院计算精神病学与衰老研究中心）；Wellcome Centre for Human Neuroimaging（惠康人类神经影像中心）；UCL Queen Square Institute of Neurology（伦敦大学学院女王广场神经病学研究所）；Erasmus Medical Centre（伊拉斯姆斯医学中心）；Hospital Clinic（临床医院）
提出带正则化马蹄铁先验的稀疏 GFA 方法，揭示神经精神障碍患者亚组中差异表达的潜在疾病因子，整合多模态数据以改善患者表征与分层。
2024-10-10 cs.LG stat.ML
Flexibly Mining Better Subgroups
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland University（萨尔大学）
在子组发现中，也称为监督模式挖掘，发现高质量的一维子组和这些子组的细化是一项至关重要的任务。对于名义属性，这相对简单，因为我们可以将单个属性值视为二进制特征。对于数值属性，任务更具挑战性，因为单个数值不是可靠的统计数据。相反，我们可以考虑相邻值的组合，即bin。然而，现有的分箱策略并不适合于子组发现。也就是说，它们不直接优化子组的质量，从而可能降低挖掘结果。为了解决这个问题，我们提出了FLEXI。简而言之，使用FLEXI，我们建议使用最佳装箱来为数值和序数属性找到高质量的二进制特征。我们实例化FLEXI与各种质量措施，并显示如何实现相应的效率。在合成数据集和真实数据集上的实验表明，FLEXI的性能优于最先进的技术，子组质量提高了25倍。
2015-10-28 cs.LG stat.ML
Identification of relevant subtypes via preweighted sparse clustering
Harvard University（哈佛大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
聚类分析方法用于识别数据集中的同质子组。在生物医学应用中，人们经常使用聚类分析来识别生物学上感兴趣的亚组。特别地，人们可能希望识别与特定的感兴趣的结果相关联的子组。传统的聚类方法通常不能识别这样的子组，特别是当数据集中有大量的高方差特征时。当希望获得生物学上更有趣或与特定感兴趣结果更强相关的次级聚类时，常规方法可以识别与这些高方差特征相关联的聚类。稀疏聚类的修改可以用于识别这样的次级聚类或与感兴趣的结果相关联的聚类。这种方法正确地识别在几个模拟场景中感兴趣的集群。该方法也适用于颞下颌关节紊乱病和白血病微阵列数据集的大型前瞻性队列研究。
2016-09-21 cs.LG q-bio.QM stat.AP
Explainable Subgraphs with Surprising Densities: A Subgroup Discovery Approach
Ghent University（根特大学）
图的连通性结构通常与节点的属性有关。例如，在社交网络中，两个人之间建立友谊的概率取决于他们的属性，例如他们的年龄、地址和爱好。因此，图的连通性可以用以下形式的模式来理解：“具有属性X的个体的子群通常（或很少）与具有属性Y的另一个子群中的个体是朋友”。这些规则呈现了对图的潜在可操作和可推广的见解。我们提出了一种方法，发现对节点子群之间的边缘密度是有趣的高或低，使用信息理论的定义的兴趣。这种兴趣度是主观量化的，以与分析师可能拥有的关于图的先验信息形成对比。该视图立即支持对此类模式的迭代挖掘。我们的工作概括了以前的工作密集子图挖掘（即由一个单一的子群诱导的子图）。此外，不仅是所提出的方法更一般，我们也表现出相当大的实际优势，为单子群的特殊情况。
2020-01-10 cs.LG cs.SI stat.ML
On sparse regression, Lp-regularization, and automated model discovery
Stanford University（斯坦福大学）；Hamburg University of Technology（汉堡工业大学）
本文研究如何利用结合Lp正则化与物理约束的本构神经网络实现自动模型发现，通过大量实验表明L0正则化能最佳平衡可解释性与预测性，从而同时发现可解释模型和具有物理意义的参数。
2024-01-16 cs.LG
Sparse Orthogonal Regression Technique: A Spectral Framework for Equation Discovery, Approximation, and Integration
Jožef Stefan Institute（约热夫·斯泰凡研究所）；University of Ljubljana（卢布尔雅那大学）
本文提出SORT稀疏正交回归技术，作为从含噪不规则采样数据学习正交基展开的稀疏谱框架，可用于方程发现、近似与积分，在动力系统实验中表现优于基线方法，性能下降更稳定。
2026-08-14 cs.LG
CTSR: Cartesian tensor-based sparse regression for data-driven discovery of high-dimensional invariant governing equations
Beijing Institute of Technology（北京理工大学）
针对现有稀疏回归方法难以高效发现高维不变控制方程的问题，本文提出基于笛卡尔张量的稀疏回归（CTSR）技术，在保证旋转和反射不变性的同时，于2D和3D测试中取得更优的准确性与效率。
2025-07-16 cs.LG
Automatic Expert Discovery in LLM Upcycling via Sparse Interpolated Mixture-of-Experts
Thomson Reuters（汤森路透）；Zhejiang University（浙江大学）
本研究提出SIMoE指令微调算法，可将稠密预训练LLM自动转化为多专业领域的MoE模型，在指定稀疏约束下识别结构稀疏的领域专家并学习输入依赖的专家合并策略，在常用基准上实现SOTA性能与最优性能-计算权衡。
2025-06-14 cs.LG
Machine learning for subgroup discovery under treatment effect
National Research University Higher School of Economics（国立研究型大学高等经济学院）
在许多实际工作中，需要估计个体水平上的治疗效果。例如，在医学中，确定将从某种药物中受益的患者是至关重要的。在市场营销中，了解可能购买新产品的人将减少垃圾邮件的数量。在本章中，我们回顾了从随机试验中估计个体处理效应的方法，即，当一部分人接受新的治疗，而其他人没有的实验。最后，它表明，新的有效的方法，需要在这个领域。
2019-02-27 cs.LG stat.ME stat.ML
REDS: Rule Extraction for Discovering Scenarios
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
场景发现是在模拟产生的数据空间中找到感兴趣区域（称为场景）的过程。例如，可以搜索条件，即，仿真模型的输入，其中系统是不稳定的。子组发现方法通常用于方案发现。他们以超盒的形式找到场景，这很容易理解。给定计算预算，随着模拟模型的输入数量和模拟成本的增加，结果往往变得更糟。我们提出了一个新的程序，从几个模拟场景发现，被称为REDS。一个关键的组成部分是使用中间机器学习模型来标记数据，以便随后由传统的子组发现方法使用。我们提供统计数据论证为什么这是一种改进。在我们的实验中，REDS平均减少了50- 75%所需的模拟次数，具体取决于质量度量。它也可以用作半监督子组发现方法，并在仿真模型不可用时从第三方数据中发现更好的场景。
2022-05-05 cs.LG stat.ML
Discovery of sparse hysteresis models for piezoelectric materials
Eindhoven University of Technology（埃因霍温理工大学）；Stanford University（斯坦福大学）
本文提出利用带序贯阈值的最小二乘稀疏回归算法建模压电材料的非线性迟滞现象，该方法在预测精度上表现优异且比传统方法更高效鲁棒。
2023-05-15 cs.LG
Which Sparse Autoencoder Features Are Real? Model-X Knockoffs for False Discovery Rate Control
Mongol AI（蒙古AI）
针对稀疏自编码器特征难辨真伪的问题，本文引入Model-X knockoffs方法控制FDR，在Pythia-70M情感分类任务中实现了具备有限样本保证的可靠特征筛选，为机制可解释性研究提供了规范框架。
2025-11-12 cs.LG
Learning Subgroups with Maximum Treatment Effects without Causal Heuristics
本文提出了一种基于结构因果模型的方法，无需使用因果启发式，直接学习具有最大治疗效应的子群。
2025-11-25 cs.LG
AI-Assisted Tumor-Growth Law Discovery from Sparse Data: Refitting and LLM-Based Ranking
University of Oklahoma（俄克拉荷马大学）
本研究提出含符号回归、系数重拟合及LLM排序的AI辅助工作流，用合成Gompertz数据验证，发现经典非线性最小二乘重拟合可减小生长规律误差，LLM排序无一致改进且存数学推理错误，强调需结合数学有效性与预测性能评估生长规律。
2026-10-14 cs.LG
Stable discovery of interpretable subgroups via calibration in causal studies
University of California, Berkeley（加州大学伯克利分校）；Northeastern University（东北大学）；Protypia Inc（Protypia公司）；Chan Zuckerberg Biohub（陈-扎克伯格生物中心）
基于Yu和Kumbier的PCS框架和随机实验，我们引入了一种新的方法，通过校准稳定发现可解释的亚组（StaDISC），具有大的异质性处理效应。StaDISC是在我们对1999-2000年VIGOR研究的重新分析中开发的，该研究是一项8076例患者的随机对照试验（RCT），比较了当时新批准的药物罗非考昔（万络）与较老的药物萘普生的不良事件风险。平均而言，与萘普生相比，万络可降低胃肠道（GI）事件的风险，但增加血栓性心血管（CVT）事件的风险。应用StaDISC，我们适合18个流行的条件平均处理效应（CATE）估计的结果和使用校准，以证明其较差的全球性能。但是，它们在局部校准良好且稳定，能够识别出具有大于（估计）平均处理效应的患者组。事实上，StaDISC发现了三个临床可解释的亚组，每个亚组的GI结局（总计占研究规模的29.4%）和CVT结局（总计11.0%）。使用2001-2004年APPROVe研究对发现的亚组进行补充分析，该研究是一项单独独立进行的RCT，纳入2587例患者，为StaDISC的前景提供了进一步的支持证据。
2020-09-29 cs.LG stat.AP stat.ME
Sparsely constrained neural networks for model discovery of PDEs
Leiden University（莱顿大学）
稀疏回归的候选功能库已发展为主要的方法来发现偏微分方程的时空数据集。这些特征包括高阶导数，将模型发现限制在具有低噪声的密集采样数据集。基于神经网络的方法通过构建数据的代理模型来规避这一限制，但迄今为止忽略了稀疏回归算法的进步。在本文中，我们提出了一个模块化框架，该框架使用任何稀疏回归技术动态确定基于深度学习的代理的稀疏模式。使用我们的新方法，我们引入了一个新的约束条件的神经网络，并显示了不同的网络架构和稀疏估计提高模型发现的准确性和收敛的几个基准的例子。我们的框架可以在\url{https://github.com/PhIMaL/DeePyMoD}上找到
2021-05-04 cs.LG physics.comp-ph
Sparse Causal Discovery with Generative Intervention for Unsupervised Graph Domain Adaptation
State Key Laboratory for Multimedia Information Processing, School of Computer Science, PKU-Anker LLM Lab（多媒体信息处理国家重点实验室，计算机科学学院，PKU-Anker LLM实验室）；Peking University（北京大学）；University of California, Los Angeles（加州大学洛杉矶分校）；Paul G. Allen School of Computer Science（保罗·G·艾伦计算机科学学院）；University of Washington（华盛顿大学）；Hong Kong University of Science and Technology（香港科技大学）
针对无监督图域适应中因果与伪特征纠缠及全局对齐失效问题，提出 SLOGAN 方法，通过稀疏因果建模、生成式干预机制与类别自适应动态校准策略，实现稳定的图表示迁移，并在多个数据集上显著优于基线。
2025-07-10 cs.LG
Parsimony-Enhanced Sparse Bayesian Learning for Robust Discovery of Partial Differential Equations
Arizona State University（亚利桑那州立大学）
稳健物理发现在许多科学和工程领域都具有重要意义。受代表模型尽可能简单原则的启发，提出了一种兼顾模型简约性和稀疏性的模型选择准则。提出了一种用于发现非线性动力系统控制偏微分方程的简约增强稀疏贝叶斯学习（PeSBL）方法。与传统的稀疏贝叶斯学习（SBL）方法相比，PeSBL方法除了提高学习模型的稀疏性外，还提高了学习模型的简约性。在该方法中，模型项的简约性使用它们在规定的候选库中的位置来评估，首次考虑到多项式的幂和空间导数的阶增加的复杂性。随后，通过贝叶斯推断与原始数据更新模型参数。该过程旨在减少与稀疏回归之前的数据预处理和数值微分中可能的信息丢失相关的误差。数值算例的结果表明，许多规范动力系统的偏微分方程可以正确地识别使用建议的PeSBL方法从高噪声数据（高达50%，在目前的研究）。接下来，所提出的方法被扩展为随机PDE学习，其中所有参数和建模误差被认为是随机变量。层次贝叶斯推理（HBI）集成了从人口的观察随机PDE学习的建议框架。最后，所提出的PeSBL证明了系统响应预测的不确定性和异常诊断。本研究中所有示例的代码可在网站上获得：https://github.com/ymlasu。
2021-07-08 cs.LG
Sparsity-based Feature Selection for Anomalous Subgroup Discovery
IBM Research Africa（IBM非洲研究院）；Carnegie Mellon University Africa（卡内基梅隆大学非洲分校）；IBM Research - Cambridge（IBM剑桥研究院）
异常模式检测旨在识别明显偏离正常的情况，并且广泛适用于各个领域。在现有技术中，已经提出了多种异常检测技术。然而，普遍缺乏用于有效发现的原则性和可扩展的特征选择方法。现有的特征选择技术通常通过优化预测结果的性能而不是其与预期的系统偏差来进行。在本文中，我们提出了一个基于稀疏性的自动特征选择（SAFS）框架，通过特征驱动的比值比的稀疏性编码系统的结果偏差。SAFS是一种与模型无关的方法，可以跨不同的发现技术使用。SAFS实现了超过$3\times$的计算时间减少，同时保持检测性能时，在公共可用的重症监护数据集验证。当与用于特征选择的多个基线相比时，SAFS还导致了优异的性能。
2022-01-06 cs.AI cs.LG eess.SP
PDE-READ: Human-readable Partial Differential Equation Discovery using Deep Learning
Cornell University（康奈尔大学）
PDE发现显示出揭示复杂物理系统的预测模型的希望，但当测量稀疏且有噪声时有困难。我们介绍了一种新的方法PDE发现，使用两个理性神经网络和一个原则性的稀疏回归算法，以确定隐藏的动态，管理系统的响应。第一个网络学习系统响应函数，而第二个学习描述系统演化的隐藏PDE。然后，我们使用无参数稀疏回归算法从第二个网络中提取人类可读形式的隐藏PDE。我们在一个名为PDE-READ的开源库中实现了我们的方法。我们的方法成功地确定了执政PDE在六个基准的例子。我们证明，我们的方法是强大的稀疏性和噪声，因此，它持有的承诺，应用到现实世界的观测数据。
2022-06-17 cs.LG
Gradual Capacity Growth for Sparse Network Discovery
Georgia Institute of Technology（佐治亚理工学院）；The Cyprus Institute（塞浦路斯研究所）
提出渐进容量增长（GCG）框架，通过路径增长规则在训练中逐步分配网络容量，无需预训练或预设稀疏度，以较低成本发现接近稠密性能的稀疏网络。
2026-06-23 cs.LG
A new algorithm for Subgroup Set Discovery based on Information Gain
Centro de Tecnología Biomédica（生物医学技术中心）；Escuela Técnica Superior de Ingenieros Informáticos（高等信息工程学院）；Hospital Universitario Puerta de Hierro Majadahonda（马哈拉翁达铁之门大学医院）
本文提出了一种结合信息增益和优势比的新型子群发现算法IGSD，解决了现有算法参数微调难、搜索标准单一等局限，在11个数据集上表现优于FSSD和SSD++，且专家验证显示其模式一致性更高。
2023-07-31 cs.AI cs.LG
A PINN Approach to Symbolic Differential Operator Discovery with Sparse Data
University of Waterloo（滑铁卢大学）
从由微分方程控制的系统中获得充足的实验数据，可以使用深度学习技术来构建基础微分算子。在这项工作中，我们执行的情况下，有稀疏的实验数据的微分算子的符号发现。机器学习中的这种小数据机制可以通过为我们的算法提供有关底层动态的先验信息来变得易于处理。物理信息神经网络（PINN）在这方面非常成功（仅使用单个点或整个PDE解重建整个ODE解，只需很少的初始条件测量）。我们修改PINN的方法，通过添加一个神经网络，学习表示未知的隐藏项的微分方程。该算法产生的微分方程的替代解决方案和黑盒表示的隐藏条款。这些隐藏项神经网络可以使用符号回归技术（如AI Feynman）转换为符号方程。为了实现这些神经网络的收敛，我们为我们的算法提供了初始条件以及稍后获得的（合成）实验数据的（有噪）测量值。我们证明了这种方法的强大性能，即使在ODE和PDE制度的噪声数据的测量非常少。
2022-12-09 cs.LG
Convergence of uncertainty estimates in Ensemble and Bayesian sparse model discovery
University of Washington（华盛顿大学）；Imperial College（帝国理工学院）
本文理论分析基于bootstrap的序贯阈值最小二乘集成稀疏模型发现，证明其变量选择错误率指数收敛，并能高效实现趋近真实值的不确定性量化。
2023-04-26 cs.LG math.DS stat.ME
LLM-based Agents for Automated Confounder Discovery and Subgroup Analysis in Causal Inference
National Sun Yat-Sen University（中山大学）
提出基于LLM的智能体框架，将其集成至因果机器学习流程中，通过模拟领域专家知识实现自动混杂因素发现与亚组分析，在减少人工依赖的同时提升了处理效应估计的稳健性与可解释性。
2025-08-10 cs.AI cs.LG cs.MA
Accelerating System-Level Debug Using Rule Learning and Subgroup Discovery Techniques
Intel Israel Development Center（英特尔以色列研发中心）
本文提出一种基于规则学习的根因分析程序，通过从测试日志中提取特征并生成调试提示，有效加速系统级调试，并支持经验重用以减少对专家的依赖。
2024-06-01 cs.AI cs.LG cs.SE
Intersectional Unfairness Discovery
University of Western Ontario（西安大略大学）；Vector Institute（向量研究院）；University of Toronto（多伦多大学）
本文提出偏见引导生成网络BGGN，将偏见值作为奖励以高效发现交叉敏感属性下的高偏见子群体，并通过生成式AI验证了现代AI系统中潜在的不公平。
2024-06-07 cs.CY cs.LG
TOP-SPIN: TOPic discovery via Sparse Principal component INterference
Singapore University of Technology and Design（新加坡科技设计大学）；University of Edinburgh（爱丁堡大学）
提出了一种基于词袋框架的无标签图像主题发现算法。我们首先提取一个字典的视觉单词，随后为每个图像计算一个视觉单词出现直方图。我们将这些直方图视为一个大矩阵的行，从中提取稀疏主成分（PC）。每台PC识别一个稀疏的视觉词的组合，这些词在某些图像中频繁出现，但在其他图像中很少出现。每个稀疏PC对应于一个主题，并且与PC干扰高的图像属于该主题，从而揭示图像所具有的共同部分。我们建议使用交替最大化（AM）的方法，我们修改的目的，有效地提取多个PC在紧缩方案来解决相关的稀疏PCA问题。我们的方法直接攻击稀疏PCA中的最大化问题，并且可扩展到高维数据。自动主题发现和类别预测的实验表明，令人鼓舞的性能，我们的方法。
2013-11-04 cs.CV cs.IR cs.LG
Causal Clustering for Conditional Average Treatment Effects Estimation and Subgroup Discovery
Georgia Institute of Technology（佐治亚理工学院）
提出基于因果森林学习核的聚类框架，通过估计去偏CATEs并应用核化聚类，有效发现对处理敏感的亚群并捕捉异质性处理效应。
2025-09-17 cs.LG stat.ML
Variational Offline Multi-agent Skill Discovery
Carnegie Mellon University（卡内基梅隆大学）；The George Washington University（乔治华盛顿大学）；Purdue University（普渡大学）
针对多智能体任务中自动提取子群协调模式的挑战，提出两种自编码器方案VO-MASD-3D和VO-MASD-Hier，通过动态分组函数捕获子群与时间级抽象以形成多智能体技能，在离线多任务数据上实现技能跨任务迁移，显著优于现有分层MARL方法并降低稀疏奖励下的学习难度。
2025-04-30 cs.AI cs.LG
Fairpriori: Improving Biased Subgroup Discovery for Deep Neural Network Fairness
The University of Sydney（悉尼大学）；CSIRO（联邦科学与工业研究组织）
本文提出 Fairpriori，利用频繁项集生成快速计算多类公平性指标并发现有偏子群，在易用性、解释性、适用范围和效率上优于现有方法。
2024-06-25 cs.CY cs.LG cs.SE
Post-discovery Analysis of Anomalous Subsets
IBM Research Africa（IBM非洲研究院）
分析人群对疾病和干预措施的反应行为对于挖掘医疗保健的变异性以及了解需要专门关注的亚人群至关重要，而且有助于设计未来的干预措施。在这种分析中，两个方面变得非常重要，即：i）发现亚群表现出的分化模式，和ii）鉴定的亚群的表征。对于发现阶段，一系列的方法在异常模式检测文献已被用来揭示差异化的模式，特别是识别异常的子群。然而，这些技术仅限于描述异常亚组，并且几乎没有提供有见地的表征形式，从而限制了临床实践中这些数据驱动技术的可解释性和理解。在这项工作中，我们提出了一个差异化的输出（而不是发现）的分析和量化类似的反事实设置的错误。为此，我们设计了一种方法来执行异常子集的发现后分析，在该方法中，我们最初确定的最重要的功能上的子集，然后通过扰动，该方法旨在确定最少数量的变化所需的失去的异常性。介绍了我们的方法，并对2019年MarketScan商业索赔和医疗保险数据进行了评估，结果表明，可以通过对已确定的亚组进行外推检查来获得额外的见解。
2021-11-23 cs.AI cs.LG
MOSAIC: Module Discovery via Sparse Additive Identifiable Causal Learning for Scientific Time Series
University of Illinois Chicago（伊利诺伊大学香槟分校）；Case Western Reserve University（凯斯西储大学）；Carnegie Mellon University（卡内基梅隆大学）；MBZUAI
MOSAIC通过稀疏加法可识别因果学习，在科学时间序列中发现模块结构，通过稀疏解码器恢复观测变量支持，实现可解释的潜在机制发现。
2026-10-19 cs.AI cs.LG
Causal Discovery from Sparse Time-Series Data Using Echo State Network
University of Waterloo（滑铁卢大学）；ATS Automation（ATS自动化公司）
时间序列数据集合之间的因果关系发现可以帮助诊断症状的原因，并有望在故障发生之前预防故障。然而，可靠的因果发现可能是非常具有挑战性的，特别是当数据采集速率变化时（即，非均匀数据采样），或者在存在缺失数据点的情况下（例如，稀疏数据采样）。为了解决这些问题，我们提出了一个由两部分组成的新系统，第一部分用高斯过程回归填充缺失数据，第二部分利用回声状态网络，这是一种水库计算机（即，用于混沌系统建模）用于因果发现。我们评估我们提出的系统对其他三个现成的因果发现算法，即结构期望最大化，子采样线性自回归绝对系数，和多变量Granger因果关系与向量自回归使用田纳西伊士曼化学数据集的性能;我们报告了相应的马修斯相关系数（MCC）和受试者工作特征曲线（ROC）并表明，该系统优于现有的算法，证明了我们的方法的可行性，发现在一个复杂的系统中的因果关系与丢失的条目。
2023-01-11 cs.LG stat.ME
Induced Covariance for Causal Discovery in Linear Sparse Structures
Virginia Tech（弗吉尼亚理工大学）
针对线性稀疏因果结构，本文提出利用结构矩阵的数据重构能力及其诱导的统计性质识别 DAG，无需独立性检验或图拟合，并在有限数据仿真中优于 PC、GES、BIC 精确搜索和 LINGAM 方法。
2024-10-02 cs.LG stat.ML
Model-free feature selection to facilitate automatic discovery of divergent subgroups in tabular data
IBM Research Africa（IBM非洲研究院）
以数据为中心的人工智能鼓励对数据的清理和理解，以实现可信赖的人工智能。AutoML等现有技术使自动设计和训练模型变得更容易，但缺乏类似水平的功能来提取以数据为中心的见解。按特征手动分层表格数据（例如，性别）被限制为按比例放大更高的特征维度，这可以使用自动发现不同的子组来解决。尽管如此，这些自动发现技术通常在可以使用前面的特征选择步骤来简化的特征的潜在指数组合上进行搜索。现有的用于表格数据的特征选择技术通常涉及拟合特定模型以便选择重要特征。然而，这种基于模型的选择除了需要额外的资源来设计、微调和训练模型之外，还容易出现模型偏差和虚假相关。在本文中，我们提出了一个无模型和基于稀疏性的自动特征选择（SAFS）框架，以促进自动发现不同的子群。与基于过滤器的选择技术不同，我们利用特征值之间客观度量的稀疏性来对特征进行排序和选择。我们在两个公开的数据集（MIMIC-III和Allstate索赔）上验证了SAFS，并将其与六种现有的特征选择方法进行了比较。SAFS实现了特征选择时间的81倍和104倍的减少，分别在MIMIC-III和索赔数据集中的现有方法的平均值。SAFS选择的特征也被示出为实现有竞争力的检测性能，例如，SAFS在Claims数据集中选择的18.3%的特征检测到的发散样本与使用Jaccard相似度为0.95的整体特征检测到的样本相似，但检测时间减少了16倍。
2022-03-08 cs.AI cs.IT cs.LG
VLSlice: Interactive Vision-and-Language Slice Discovery
Oregon State University（俄勒冈州立大学）；Google Research（谷歌研究院）
针对视觉与语言模型子群体分析依赖标注且复杂输入下现有自动发现方法失效的问题，本文提出交互式系统 VLSlice，从无标注图像中发现高连贯的视觉语言切片，并通过用户研究验证其有效性。
2023-09-13 cs.CL cs.CV cs.HC
Sparse Regression and Adaptive Feature Generation for the Discovery of Dynamical Systems
我们研究了稀疏回归方法的性能，并提出了新的技术，从数据中提取动力系统的控制方程。我们首先看一下Brunton等人提出的从数据中学习可解释方程形式的通用方法，然后为此目的进行LASSO。然后，我们提出了一个新的算法，使用的对偶LASSO优化更高的精度和稳定性。在第二部分中，我们提出了一种新的算法，学习候选函数库在一个完全的数据驱动的方式来提取动力系统的控制方程。这是通过正交多项式空间上的顺序阈值岭回归（STRidge）来实现的。以Lorenz 63系统和二次Lorenz系统为例，说明了这三种方法的性能。
2019-03-21 cs.LG stat.ML
Interpretable Summaries of Black Box Incident Triaging with Subgroup Discovery
Univ Lyon（里昂大学）；INSA Lyon（里昂国立应用科学学院）；CNRS（法国国家科学研究中心）；Infologic（Infologic公司）
随着监控系统和设备/软件用户报告的事件数量的增加，预测性维护的需求也随之而来。在一线，待命工程师（OCE）必须快速评估事件的严重程度，并决定联系哪个服务部门采取纠正措施。为了自动化这些决策，已经提出了几种预测模型，但最有效的模型是不透明的（比如黑盒），严重限制了它们的采用。在本文中，我们提出了一个有效的黑盒模型的基础上报告给我们公司在过去的7年170 K事件，并强调需要自动化分流时，事件大量报告数千台服务器上运行我们的产品，ERP。可解释人工智能（XAI）的最新发展有助于为模型提供全局解释，但最重要的是，为每个模型预测/结果提供局部解释。可悲的是，在处理大量的日常预测时，为每个结果提供解释是不可想象的。为了解决这个问题，我们提出了一个原始的数据挖掘方法，植根于子组发现，模式挖掘技术与自然的能力，分组对象，共享类似的解释，他们的黑盒预测，并为每个组提供一个描述。我们评估这种方法，并提出我们的初步结果，这给了我们很好的希望对一个有效的OCE的通过。我们相信，这种方法提供了一种新的方法来解决模型不可知的结果解释的问题。
2021-08-06 cs.AI cs.LG cs.SE
Discovery of Nonlinear Dynamical Systems using a Runge-Kutta Inspired Dictionary-based Sparse Regression Approach
Max Planck Institute for Dynamics of Complex Technical Systems（马克斯·普朗克复杂技术系统动力学研究所）
发现动力学模型来描述潜在的动力学行为对于得出决定性的结论和工程研究是必不可少的，例如，优化一个过程尽管实验数据的可用性显着增加，但科学和工程中可解释和可解释的模型仍然难以理解。在这项工作中，我们将机器学习和基于字典的学习与数值分析工具相结合，从噪声和稀疏采样的测量数据中发现控制微分方程。我们利用这样一个事实，即给定一个包含大量候选非线性函数的字典，动力学模型通常可以由几个适当选择的候选函数来描述。其结果是，我们得到的解释和简约的模型，易于推广更好地超越抽样制度。此外，我们将数值积分框架与字典学习相结合，在任何阶段都不需要或近似导数信息即可生成微分方程。因此，它在损坏和稀疏采样的数据中是完全有效的。我们讨论其扩展到控制方程，包含理性的非线性，通常出现在生物网络。此外，我们推广的方法，受到参数变化和外部控制输入的控制方程。我们证明了该方法的效率，发现了一些不同的微分方程，使用噪声测量，包括描述神经动力学，混沌洛伦兹模型，米氏动力学模型，和参数化的霍普夫范式。
2021-05-11 cs.CE cs.LG
Sparse PCA with False Discovery Rate Controlled Variable Selection
Technische Universität Darmstadt（达姆施塔特工业大学）；Conservatoire National des Arts et Métiers（法国国立工艺学院）；The Hong Kong University of Science and Technology（香港科技大学）
本文提出T-Rex PCA，利用错误发现率控制和终止随机实验选择器自动确定稀疏载荷向量支持集，无需调整稀疏性参数，在数值实验和股票市场数据中显著提升了变量选择性能。
2024-01-16 cs.LG stat.ML
Symbolic Graph Networks for Robust PDE Discovery from Noisy Sparse Data
School of Software Engineering, Chengdu University of Information Technology（成都信息科技学院软件工程学院）；School of Statistics, Chengdu University of Information Technology（成都信息科技学院统计学院）；College of Applied Mathematics, Chengdu University of Information Technology（成都信息科技学院应用数学学院）；Key Laboratory of Mathematical Meteorology, Chengdu University of Information Technology（成都信息科技学院数学气象重点实验室）
本文提出符号图网络框架，通过图消息传递建模空间交互，结合符号回归提取可解释数学表达式，验证了在噪声和稀疏条件下发现偏微分方程的有效性。
2026-03-23 cs.AI cs.LG
Sparse Subspace Clustering for Concept Discovery (SSCCD)
Fraunhofer Heinrich-Hertz-Institute（弗劳恩霍夫海因里希·赫兹研究所）；TU Berlin（柏林工业大学）；Oldenburg University（奥尔登堡大学）
概念是人类更高层次理解的关键组成部分。近年来，可解释人工智能（XAI）方法取得了巨大的进展，然而，局部归因方法不允许识别跨样本的连贯模型行为，因此错过了这一重要组成部分。在这项工作中，我们研究了基于概念的解释，并提出了一个新的定义概念的低维子空间的隐藏特征层。我们新颖地应用稀疏子空间聚类来发现这些概念子空间。展望未来，我们从概念子空间的本地化输入（概念）地图方面获得见解，展示如何量化概念相关性，最后，评估概念之间的相似性和可转移性。我们经验证明了建议的稀疏子空间聚类概念发现（SSCCD）方法的各种不同的图像分类任务的合理性。这种方法可以更深入地了解实际模型的行为，而这些行为在传统的输入级热图中仍然是隐藏的。
2022-03-11 cs.AI cs.LG stat.ML
SPADE: Faster Drug Discovery by Learning from Sparse Data
NVIDIA（英伟达）
SPADE通过从稀疏数据中学习，以更少的测试次数找到高质量的药物分子，相比深度学习和贝叶斯优化方法在样本效率上提升了7%-32%，且在评分速度上快10倍。
2026-05-06 cs.AI cs.LG
Discovering New Interpretable Conservation Laws as Sparse Invariants
Massachusetts Institute of Technology（麻省理工学院）；University of Southern California（南加州大学）；Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）
本文提出稀疏不变量检测器SID，从已知微分方程中自动发现守恒定律，并在流体力学和大气化学实例中发现了超出专家已知数量的新守恒量。
2023-07-04 cs.LG math.DS nlin.SI
