Interpretable Discovery of One-parameter Subgroups: A Modular Framework for Elliptical, Hyperbolic, and Parabolic Symmetries
Indian Institute of Science(印度科学研究院);Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种模块化框架,用于从数据中发现单参数对称子群,通过学习生成器参数实现对称性的可解释性建模。
2026-02-09 cs.AI cs.LG
FarmTest: Factor-Adjusted Robust Multiple Testing with Approximate False Discovery Control
具有相关和重尾数据的大规模多重检验出现在从基因组学、医学成像到金融的广泛研究领域中。传统的估计错误发现率的方法往往忽略了重尾效应和检验统计量之间的依赖结构,导致估计效率低下甚至不一致。此外,通常强加的联合正常假设可以说是过于严格的许多应用。为了解决这些挑战,在本文中,我们提出了一个因素调整的鲁棒多重检验(FarmTest)的大规模同时推理与控制的错误发现比例的过程。我们证明了稳健的因子调整在控制FDP和提高功率方面都是非常重要的。我们确定的一般条件下,所提出的方法产生相合估计的FDP。作为一个副产品,是独立的利益,我们建立了一个指数型偏差不等式的稳健$U$型协方差估计谱范数。大量的数值实验表明,所提出的方法的优势,特别是当数据是从重尾分布产生的一些国家的最先进的方法。建议的程序在R-package FarmTest中实施。
2018-09-18 stat.ME
Explainable Subgraphs with Surprising Densities: A Subgroup Discovery Approach
Ghent University(根特大学)
图的连通性结构通常与节点的属性有关。例如,在社交网络中,两个人之间建立友谊的概率取决于他们的属性,例如他们的年龄、地址和爱好。因此,图的连通性可以用以下形式的模式来理解:“具有属性X的个体的子群通常(或很少)与具有属性Y的另一个子群中的个体是朋友”。这些规则呈现了对图的潜在可操作和可推广的见解。我们提出了一种方法,发现对节点子群之间的边缘密度是有趣的高或低,使用信息理论的定义的兴趣。这种兴趣度是主观量化的,以与分析师可能拥有的关于图的先验信息形成对比。该视图立即支持对此类模式的迭代挖掘。我们的工作概括了以前的工作密集子图挖掘(即由一个单一的子群诱导的子图)。此外,不仅是所提出的方法更一般,我们也表现出相当大的实际优势,为单子群的特殊情况。
2020-01-10 cs.LG cs.SI stat.ML
Subgroup Discovery with the Cox Model
NEC Labs America(NEC美国实验室)
本文提出基于Cox模型的子群发现方法,通过引入预期预测熵和条件排名统计等新指标,解决现有方法的不足,实验证实其在生存分析中提升模型拟合效果。
2026-01-05 cs.LG math.ST stat.ML
Discovering outstanding subgroup lists for numeric targets using MDL
Leiden University(莱顿大学);National Research Institute for Mathematics and Computer Science in the Netherlands (CWI)(荷兰国家数学与计算机科学研究院(CWI))
子组发现(SD)的任务是找到一个数据集的子集,突出相对于目标属性的可解释的描述。为了解决挖掘大量冗余子群的问题,已经提出了子群集发现(SSD)。然而,最先进的SSD方法有其局限性,因为它们通常严重依赖于几何学和/或用户选择的超参数。我们提出了一个分散意识的问题制定的子群集发现,是基于最小描述长度(MDL)的原则和子群列表。我们认为,最好的子组列表是一个最好的总结数据给定的目标的总体分布。我们限制我们的重点是一个单一的数字目标变量,并表明,我们的形式化符合现有的质量措施时,找到一个单一的子群,但除此之外,它允许权衡子群质量与子群的复杂性。接下来,我们提出SSD++,一个启发式算法,我们的经验表明,它返回优秀的子组列表:非冗余集的紧凑的子组,突出具有强烈的偏离手段和小的蔓延。
2020-06-16 cs.LG stat.ML
Subgroup Performance Analysis in Hidden Stratifications
Inselspital, Bern University Hospital, University of Bern(伯尔尼大学医院因塞尔spital(伯尔尼大学医院));Diabetes Center Berne(伯尔尼糖尿病中心);Cluster of Excellence: Machine Learning - New Perspectives for Science, University of Tübingen(蒂宾根大学卓越集群:机器学习——科学新视角);Faculty of Health Sciences and Medicine, University of Lucerne(卢塞恩大学健康科学与医学院)
针对传统元数据子群分析难揭示ML模型隐藏性能差异的问题,提出将子群发现技术用于医学影像分类性能监控,设计新评估策略,证明无标签元数据的简化方法效果更优,为可信AI监控提供新工具。
2025-03-13 cs.LG
Machine learning for subgroup discovery under treatment effect
National Research University Higher School of Economics(国立研究型大学高等经济学院)
在许多实际工作中,需要估计个体水平上的治疗效果。例如,在医学中,确定将从某种药物中受益的患者是至关重要的。在市场营销中,了解可能购买新产品的人将减少垃圾邮件的数量。在本章中,我们回顾了从随机试验中估计个体处理效应的方法,即,当一部分人接受新的治疗,而其他人没有的实验。最后,它表明,新的有效的方法,需要在这个领域。
2019-02-27 cs.LG stat.ME stat.ML
Using Constraints to Discover Sparse and Alternative Subgroup Descriptions
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
本文针对子群发现,提出稀疏与替代描述两类约束,集成至启发式方法并构建SMT白盒优化,证明NP难,经27个数据集验证启发式搜索高效且高质量。
2025-02-19 cs.LG
Neural Discovery of Permutation Subgroups
Indian Institute of Science(印度科学学院)
针对置换群子群未知的问题,提出通过学习 $S_{n}$-不变函数和线性变换来发现底层子群的方法,证明了其对 $S_{k}$、循环和二面子群的适用性,并给出可扩展的一般性定理及实验验证。
2023-09-11 cs.LG
Differential Subgroup Discovery: Characterizing Where Two Populations Differ, and Why
CISPA Helmholtz Center \ Information Security Saarbrücken Germany;CISPA Helmholtz Center \ Information Security
本文提出DiffSub方法,通过梯度优化发现可解释的微分子群,揭示群体差异的特征空间区域及原因,适用于临床分析、模型诊断和治疗效应研究。
2026-04-30 cs.LG
Automatic Discovery of Disease Subgroups by Contrasting with Healthy Controls
NeuroSpin(神经旋);Université Paris-Saclay(巴黎-萨克勒大学);CEA(法国原子能委员会);LTCI;Institut Polytechnique de Paris(巴黎高等理工学院)
本文提出了一种通过对比患者与健康对照组来发现可解释且同质的疾病亚组的方法,该方法在医学影像数据集上展示了改进的亚组估计质量。
2026-05-20 cs.CV cs.LG
Robust Mutual Fund Selection with False Discovery Rate Control
本文针对共同基金技能识别问题,提出基于空间符号的SS-BH和因子调整的FSS-BH多重检验程序,在控制错误发现率的同时对协方差结构和误差分布具有稳健性,并通过模拟和实际数据验证了FSS-BH的优越性。
2024-11-21 stat.ME
Sparsity-based Feature Selection for Anomalous Subgroup Discovery
IBM Research Africa(IBM非洲研究院);Carnegie Mellon University Africa(卡内基梅隆大学非洲分校);IBM Research - Cambridge(IBM剑桥研究院)
异常模式检测旨在识别明显偏离正常的情况,并且广泛适用于各个领域。在现有技术中,已经提出了多种异常检测技术。然而,普遍缺乏用于有效发现的原则性和可扩展的特征选择方法。现有的特征选择技术通常通过优化预测结果的性能而不是其与预期的系统偏差来进行。在本文中,我们提出了一个基于稀疏性的自动特征选择(SAFS)框架,通过特征驱动的比值比的稀疏性编码系统的结果偏差。SAFS是一种与模型无关的方法,可以跨不同的发现技术使用。SAFS实现了超过$3\times$的计算时间减少,同时保持检测性能时,在公共可用的重症监护数据集验证。当与用于特征选择的多个基线相比时,SAFS还导致了优异的性能。
2022-01-06 cs.AI cs.LG eess.SP
Design-Based RCT Estimators and Central Limit Theorems for Baseline Subgroup and Related Analyses
本文扩展基于设计的RCT估计方法至预处理变量定义的离散子组,提出比率估计量并证明有限总体中心极限定理,模拟显示其置信区间覆盖率接近名义水平。
2023-10-12 stat.ME
REDS: Rule Extraction for Discovering Scenarios
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
场景发现是在模拟产生的数据空间中找到感兴趣区域(称为场景)的过程。例如,可以搜索条件,即,仿真模型的输入,其中系统是不稳定的。子组发现方法通常用于方案发现。他们以超盒的形式找到场景,这很容易理解。给定计算预算,随着模拟模型的输入数量和模拟成本的增加,结果往往变得更糟。我们提出了一个新的程序,从几个模拟场景发现,被称为REDS。一个关键的组成部分是使用中间机器学习模型来标记数据,以便随后由传统的子组发现方法使用。我们提供统计数据论证为什么这是一种改进。在我们的实验中,REDS平均减少了50- 75%所需的模拟次数,具体取决于质量度量。它也可以用作半监督子组发现方法,并在仿真模型不可用时从第三方数据中发现更好的场景。
2022-05-05 cs.LG stat.ML
Subgroup Discovery in MOOCs: A Big Data Application for Describing Different Types of Learners
University of Cordoba(科尔多瓦大学);King Abdulaziz University(阿卜杜勒阿齐兹国王大学)
本研究提出基于MapReduce的扩展FP-Growth子群发现方法,结合阈值与后处理步骤,在edX平台16门课程数据上挖掘MOOC学习者的无冗余IF-THEN规则,效率优于传统串行方法,可支撑教学分析与个性化应用。
2024-02-10 cs.CY cs.DB cs.LG
A new algorithm for Subgroup Set Discovery based on Information Gain
Centro de Tecnología Biomédica(生物医学技术中心);Escuela Técnica Superior de Ingenieros Informáticos(高等信息工程学院);Hospital Universitario Puerta de Hierro Majadahonda(马哈拉翁达铁之门大学医院)
本文提出了一种结合信息增益和优势比的新型子群发现算法IGSD,解决了现有算法参数微调难、搜索标准单一等局限,在11个数据集上表现优于FSSD和SSD++,且专家验证显示其模式一致性更高。
2023-07-31 cs.AI cs.LG
Flexibly Mining Better Subgroups
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland University(萨尔大学)
在子组发现中,也称为监督模式挖掘,发现高质量的一维子组和这些子组的细化是一项至关重要的任务。对于名义属性,这相对简单,因为我们可以将单个属性值视为二进制特征。对于数值属性,任务更具挑战性,因为单个数值不是可靠的统计数据。相反,我们可以考虑相邻值的组合,即bin。然而,现有的分箱策略并不适合于子组发现。也就是说,它们不直接优化子组的质量,从而可能降低挖掘结果。为了解决这个问题,我们提出了FLEXI。简而言之,使用FLEXI,我们建议使用最佳装箱来为数值和序数属性找到高质量的二进制特征。我们实例化FLEXI与各种质量措施,并显示如何实现相应的效率。在合成数据集和真实数据集上的实验表明,FLEXI的性能优于最先进的技术,子组质量提高了25倍。
2015-10-28 cs.LG stat.ML
LLM-based Agents for Automated Confounder Discovery and Subgroup Analysis in Causal Inference
National Sun Yat-Sen University(中山大学)
提出基于LLM的智能体框架,将其集成至因果机器学习流程中,通过模拟领域专家知识实现自动混杂因素发现与亚组分析,在减少人工依赖的同时提升了处理效应估计的稳健性与可解释性。
2025-08-10 cs.AI cs.LG cs.MA
Post-discovery Analysis of Anomalous Subsets
IBM Research Africa(IBM非洲研究院)
分析人群对疾病和干预措施的反应行为对于挖掘医疗保健的变异性以及了解需要专门关注的亚人群至关重要,而且有助于设计未来的干预措施。在这种分析中,两个方面变得非常重要,即:i)发现亚群表现出的分化模式,和ii)鉴定的亚群的表征。对于发现阶段,一系列的方法在异常模式检测文献已被用来揭示差异化的模式,特别是识别异常的子群。然而,这些技术仅限于描述异常亚组,并且几乎没有提供有见地的表征形式,从而限制了临床实践中这些数据驱动技术的可解释性和理解。在这项工作中,我们提出了一个差异化的输出(而不是发现)的分析和量化类似的反事实设置的错误。为此,我们设计了一种方法来执行异常子集的发现后分析,在该方法中,我们最初确定的最重要的功能上的子集,然后通过扰动,该方法旨在确定最少数量的变化所需的失去的异常性。介绍了我们的方法,并对2019年MarketScan商业索赔和医疗保险数据进行了评估,结果表明,可以通过对已确定的亚组进行外推检查来获得额外的见解。
2021-11-23 cs.AI cs.LG
Accelerating System-Level Debug Using Rule Learning and Subgroup Discovery Techniques
Intel Israel Development Center(英特尔以色列研发中心)
本文提出一种基于规则学习的根因分析程序,通过从测试日志中提取特征并生成调试提示,有效加速系统级调试,并支持经验重用以减少对专家的依赖。
2024-06-01 cs.AI cs.LG cs.SE
Subgroup discovery of Parkinson's Disease by utilizing a multi-modal smart device system
University of Münster(明斯特大学);Klinikum Osnabrück(奥斯纳布吕克医院)
近年来,来自智能消费设备的传感器在运动障碍方面显示出巨大的诊断潜力。在这种情况下,电子问卷、手部运动和语音捕获等数据模式已成功捕获生物标志物,并允许区分帕金森病(PD)和健康对照(HC)或鉴别诊断(DD)。然而,据我们所知,仍然缺乏对多模式智能设备系统的评估进行全面评价。在一项探索PD的前瞻性研究中,我们使用智能手表和智能手机收集了504名参与者的多模态数据,包括PD患者,DD和HC。本研究旨在评估多模态与单模态数据对PD与HC和PD与DD分类的影响,以及对用于亚组识别的PD组聚类的影响。我们能够证明,通过结合各种模式,分类准确性提高,并发现了进一步的PD集群。
2022-05-12 cs.LG
Causal Clustering for Conditional Average Treatment Effects Estimation and Subgroup Discovery
Georgia Institute of Technology(佐治亚理工学院)
提出基于因果森林学习核的聚类框架,通过估计去偏CATEs并应用核化聚类,有效发现对处理敏感的亚群并捕捉异质性处理效应。
2025-09-17 cs.LG stat.ML
Local Exceptionality Detection in Time Series Using Subgroup Discovery
Osnabrück University(奥斯纳布吕克大学);Tilburg University(蒂尔堡大学)
在本文中,我们提出了一种新的方法,局部异常检测时间序列数据。这种方法提供了发现数据中可解释模式的能力,这些模式可用于理解和预测时间序列的进展。这是一种探索性的方法,其结果可用于生成关于描述特定过程及其动态的变量之间关系的假设。我们详细介绍了我们的方法在一个具体的实例和示范性的实施,特别是在团队合作研究领域。使用真实世界的团队互动数据集,我们包括我们提出的方法的示例数据分析应用程序的结果,展示新颖的分析选项,并从团队合作研究的角度讨论结果的可能影响。
2021-08-05 cs.DB cs.LG
SubROC: AUC-Based Discovery of Exceptional Subgroup Performance for Binary Classifiers
University of Rostock(罗斯托克大学);University of Passau(帕绍大学);Hessian AI / Marburg University(黑森AI / 马堡大学)
本文提出开源框架SubROC,基于Exceptional Model Mining和AUC指标,通过高效搜索、剪枝与显著性检验,可靠发现二分类器表现异常的可解释子群,用于指导模型安全部署与数据补充。
2025-08-27 cs.LG
Model-free feature selection to facilitate automatic discovery of divergent subgroups in tabular data
IBM Research Africa(IBM非洲研究院)
以数据为中心的人工智能鼓励对数据的清理和理解,以实现可信赖的人工智能。AutoML等现有技术使自动设计和训练模型变得更容易,但缺乏类似水平的功能来提取以数据为中心的见解。按特征手动分层表格数据(例如,性别)被限制为按比例放大更高的特征维度,这可以使用自动发现不同的子组来解决。尽管如此,这些自动发现技术通常在可以使用前面的特征选择步骤来简化的特征的潜在指数组合上进行搜索。现有的用于表格数据的特征选择技术通常涉及拟合特定模型以便选择重要特征。然而,这种基于模型的选择除了需要额外的资源来设计、微调和训练模型之外,还容易出现模型偏差和虚假相关。在本文中,我们提出了一个无模型和基于稀疏性的自动特征选择(SAFS)框架,以促进自动发现不同的子群。与基于过滤器的选择技术不同,我们利用特征值之间客观度量的稀疏性来对特征进行排序和选择。我们在两个公开的数据集(MIMIC-III和Allstate索赔)上验证了SAFS,并将其与六种现有的特征选择方法进行了比较。SAFS实现了特征选择时间的81倍和104倍的减少,分别在MIMIC-III和索赔数据集中的现有方法的平均值。SAFS选择的特征也被示出为实现有竞争力的检测性能,例如,SAFS在Claims数据集中选择的18.3%的特征检测到的发散样本与使用Jaccard相似度为0.95的整体特征检测到的样本相似,但检测时间减少了16倍。
2022-03-08 cs.AI cs.IT cs.LG
Interpretable Summaries of Black Box Incident Triaging with Subgroup Discovery
Univ Lyon(里昂大学);INSA Lyon(里昂国立应用科学学院);CNRS(法国国家科学研究中心);Infologic(Infologic公司)
随着监控系统和设备/软件用户报告的事件数量的增加,预测性维护的需求也随之而来。在一线,待命工程师(OCE)必须快速评估事件的严重程度,并决定联系哪个服务部门采取纠正措施。为了自动化这些决策,已经提出了几种预测模型,但最有效的模型是不透明的(比如黑盒),严重限制了它们的采用。在本文中,我们提出了一个有效的黑盒模型的基础上报告给我们公司在过去的7年170 K事件,并强调需要自动化分流时,事件大量报告数千台服务器上运行我们的产品,ERP。可解释人工智能(XAI)的最新发展有助于为模型提供全局解释,但最重要的是,为每个模型预测/结果提供局部解释。可悲的是,在处理大量的日常预测时,为每个结果提供解释是不可想象的。为了解决这个问题,我们提出了一个原始的数据挖掘方法,植根于子组发现,模式挖掘技术与自然的能力,分组对象,共享类似的解释,他们的黑盒预测,并为每个组提供一个描述。我们评估这种方法,并提出我们的初步结果,这给了我们很好的希望对一个有效的OCE的通过。我们相信,这种方法提供了一种新的方法来解决模型不可知的结果解释的问题。
2021-08-06 cs.AI cs.LG cs.SE
Stable discovery of interpretable subgroups via calibration in causal studies
University of California, Berkeley(加州大学伯克利分校);Northeastern University(东北大学);Protypia Inc(Protypia公司);Chan Zuckerberg Biohub(陈-扎克伯格生物中心)
基于Yu和Kumbier的PCS框架和随机实验,我们引入了一种新的方法,通过校准稳定发现可解释的亚组(StaDISC),具有大的异质性处理效应。StaDISC是在我们对1999-2000年VIGOR研究的重新分析中开发的,该研究是一项8076例患者的随机对照试验(RCT),比较了当时新批准的药物罗非考昔(万络)与较老的药物萘普生的不良事件风险。平均而言,与萘普生相比,万络可降低胃肠道(GI)事件的风险,但增加血栓性心血管(CVT)事件的风险。应用StaDISC,我们适合18个流行的条件平均处理效应(CATE)估计的结果和使用校准,以证明其较差的全球性能。但是,它们在局部校准良好且稳定,能够识别出具有大于(估计)平均处理效应的患者组。事实上,StaDISC发现了三个临床可解释的亚组,每个亚组的GI结局(总计占研究规模的29.4%)和CVT结局(总计11.0%)。使用2001-2004年APPROVe研究对发现的亚组进行补充分析,该研究是一项单独独立进行的RCT,纳入2587例患者,为StaDISC的前景提供了进一步的支持证据。
2020-09-29 cs.LG stat.AP stat.ME
Variational Offline Multi-agent Skill Discovery
Carnegie Mellon University(卡内基梅隆大学);The George Washington University(乔治华盛顿大学);Purdue University(普渡大学)
针对多智能体任务中自动提取子群协调模式的挑战,提出两种自编码器方案VO-MASD-3D和VO-MASD-Hier,通过动态分组函数捕获子群与时间级抽象以形成多智能体技能,在离线多任务数据上实现技能跨任务迁移,显著优于现有分层MARL方法并降低稀疏奖励下的学习难度。
2025-04-30 cs.AI cs.LG
Fairpriori: Improving Biased Subgroup Discovery for Deep Neural Network Fairness
The University of Sydney(悉尼大学);CSIRO(联邦科学与工业研究组织)
本文提出 Fairpriori,利用频繁项集生成快速计算多类公平性指标并发现有偏子群,在易用性、解释性、适用范围和效率上优于现有方法。
2024-06-25 cs.CY cs.LG cs.SE
Subgroups Matter for Robust Bias Mitigation
University of Oxford, UK(牛津大学);Imperial College London, UK(伦敦帝国理工学院)
本文研究了偏见缓解技术失败的原因,发现子组定义的选择显著影响缓解效果,有时甚至加剧不公平,提出应将子组定义作为提升模型鲁棒性和公平性的关键手段。
2025-07-14 cs.AI cs.LG
VLSlice: Interactive Vision-and-Language Slice Discovery
Oregon State University(俄勒冈州立大学);Google Research(谷歌研究院)
针对视觉与语言模型子群体分析依赖标注且复杂输入下现有自动发现方法失效的问题,本文提出交互式系统 VLSlice,从无标注图像中发现高连贯的视觉语言切片,并通过用户研究验证其有效性。
2023-09-13 cs.CL cs.CV cs.HC
Intersectional Unfairness Discovery
University of Western Ontario(西安大略大学);Vector Institute(向量研究院);University of Toronto(多伦多大学)
本文提出偏见引导生成网络BGGN,将偏见值作为奖励以高效发现交叉敏感属性下的高偏见子群体,并通过生成式AI验证了现代AI系统中潜在的不公平。
2024-06-07 cs.CY cs.LG
Discovering Latent Groups for Robust Classification
提出神经分类树(NCT),通过树形架构编码子群结构,无需子群监督即可分离冲突子群,在多个基准上取得与最先进方法相当的鲁棒性,并提供了可解释性。
2026-09-09 cs.AI cs.CV cs.LG
Are Compressed Language Models Less Subgroup Robust?
BCAM Severo Ochoa Strategic Lab on Trustworthy Machine Learning(BCAM塞维罗·奥乔亚可信机器学习战略实验室);Monash University(莫纳什大学);University of Sussex(萨塞克斯大学)
本文研究了18种压缩方法对BERT模型少数子群鲁棒性的影响,发现最差组性能取决于模型大小和压缩方法,且压缩不必然恶化子群性能。
2024-03-26 cs.CL cs.LG
Towards Robust Relational Causal Discovery
Purdue University(普渡大学);Pennsylvania State University(宾夕法尼亚州立大学)
我们考虑从关系数据中学习因果关系的问题。现有的方法依赖于查询的关系条件独立(RCI)的甲骨文建立和定向因果关系,在这样的设置。在实践中,对RCI oracle的查询必须被针对可用数据的RCI可靠测试所取代。关系数据在RCI测试中提出了几个独特的挑战。我们研究的条件下,传统的基于iid的条件独立性(CI)测试产生可靠的答案,RCI查询对关系数据。我们展示了如何对关系数据进行CI测试,以稳健地恢复底层关系因果结构。我们的实验结果证明了我们所提出的方法的有效性。
2019-12-05 cs.AI cs.LG stat.ML
Robust Recursive Partitioning for Heterogeneous Treatment Effects with Uncertainty Quantification
Sejong University(世宗大学);University of Cambridge(剑桥大学);UCLA(加州大学洛杉矶分校);University of Virginia(弗吉尼亚大学);Yonsei University(延世大学);The Alan Turing Institute(艾伦·图灵研究所)
处理效应的亚组分析在从医学到公共政策到推荐系统的应用中起着重要作用。它允许医生(例如)识别给定药物或治疗可能有效的患者组和无效的患者组。大多数当前的亚组分析方法开始于用于估计个体化处理效应(ITE)的特定算法,并通过最大化每个亚组中的平均处理效应的亚组间差异来识别亚组。这些方法有几个缺点:它们依赖于一个特定的算法来估计ITE,它们忽略了已确定的子组内的同质性,并且它们不能产生良好的置信度估计。本文提出了一种新的子群分析方法,R2P,解决了所有这些弱点。R2P使用一种任意的、外部规定的算法来估计ITE,并使用一种比其他方法更鲁棒的构造来量化ITE估计的不确定性。使用合成和半合成数据集(基于真实数据)的实验表明,R2P构造的分区在组内更均匀,在组间更异质,而不是其他方法产生的分区。此外,由于R2P可以使用任何ITE估计器,它也产生了比其他方法更窄的置信区间,具有规定的覆盖保证。
2020-10-18 cs.LG stat.ML
Subgroup Robustness Grows On Trees: An Empirical Baseline Investigation
University of Washington(华盛顿大学)
本文通过八个数据集上超34万次配置实验,实证表明基于树的集成模型在表格数据子群鲁棒性上优于多种公平与鲁棒学习方法,且对超参数更不敏感、训练成本更低,适合作为默认基线。
2023-04-17 cs.CY cs.LG
Efficient Discovery of Significant Patterns with Few-Shot Resampling
University of Padova(帕多瓦大学)
针对统计显著模式挖掘计算昂贵、复杂子群缺乏高效方案的问题,提出FSR算法,用少量重采样数据集和紧界严格控制错误发现,并在真实数据上验证其有效性。
2024-06-17 cs.DB cs.LG stat.ML
Robust Causal Discovery under Imperfect Structural Constraints
本文针对不完美结构约束下的因果发现问题,提出通过先验对齐与多任务多梯度优化协调知识与数据,提升线性和非线性场景下的鲁棒因果发现性能。
2025-11-10 cs.AI cs.LG stat.ML
Restricted Boltzmann Machines for Robust and Fast Latent Truth Discovery
SCHUFA Holding AG, Innovation Lab(SCHUFA控股公司创新实验室)
我们解决的问题,潜在的真理发现,有限责任公司的简称,其目标是发现潜在的真实价值的实体属性存在的噪音,冲突或不完整的信息。尽管可以在文献中找到大量的算法来解决LTD问题,但对于它们在有效性(在真相发现能力方面)、效率和鲁棒性方面的整体性能知之甚少。一个实用的LTD方法应该满足所有这些特征,以便它可以应用于不同质量和清洁度的异构数据集。我们提出了一种新的算法有限责任公司,满足上述要求。该模型是基于限制玻尔兹曼机,因此创造了LTD-RBM。在各种异构和公开可用的数据集上进行的广泛实验中,LTD-RBM在有效性,效率和鲁棒性的综合考虑方面优于最先进的LTD技术。
2017-12-31 cs.LG stat.ML
Symbolic Graph Networks for Robust PDE Discovery from Noisy Sparse Data
School of Software Engineering, Chengdu University of Information Technology(成都信息科技学院软件工程学院);School of Statistics, Chengdu University of Information Technology(成都信息科技学院统计学院);College of Applied Mathematics, Chengdu University of Information Technology(成都信息科技学院应用数学学院);Key Laboratory of Mathematical Meteorology, Chengdu University of Information Technology(成都信息科技学院数学气象重点实验室)
本文提出符号图网络框架,通过图消息传递建模空间交互,结合符号回归提取可解释数学表达式,验证了在噪声和稀疏条件下发现偏微分方程的有效性。
2026-03-23 cs.AI cs.LG
A framework for causal segmentation analysis with machine learning in large-scale digital experiments
Netflix(Netflix(奈飞))
我们提出了一个端到端的因果段发现的方法框架,旨在揭示大规模数字实验中用户亚组之间治疗的差异影响。基于因果推断和非/半参数统计的最新发展,我们的方法统一了两个目标:(1)发现基于亚组特定处理效应的候选治疗受益的用户细分,以及(2)基于其预测的细分特定受益或损害,动态分配单位到研究治疗组的因果影响评估。我们的建议是模型不可知的,能够将国家的最先进的机器学习算法的估计过程,并适用于随机A/B测试和准实验。介绍了一个开源的R包实现Sherlock。
2021-11-01 cs.LG stat.AP stat.ME
Fast discovery of multidimensional subsequences for robust trajectory classification
Federal University of Santa Catarina(圣卡塔琳娜联邦大学)
随着每天生成大量移动数据,并通过新的信息源(如社交网络和物联网传感器)进行丰富,轨迹分类任务变得更加复杂。快速分类算法对于在实际应用中发现轨迹数据中的知识是必不可少的。在这项工作中,我们提出了一种方法,用于快速发现的子轨迹减少的搜索空间和优化的MASTERFovelets方法,这已被证明是有效的发现可解释的模式分类问题。
2021-02-09 cs.LG
Causal Analysis of the TOPCAT Trial: Spironolactone for Preserved Cardiac Function Heart Failure
causaLens(causaLens公司);King’s College London(伦敦国王学院);Baylor Scott & White Research Institute(贝勒斯科特与怀特研究所);University of Mississippi(密西西比大学);Hobart Group(霍巴特集团)
我们描述的结果应用因果发现方法的数据,从多个站点的临床试验,对保留心脏功能的心力衰竭与醛固酮拮抗剂(TOPCAT)的治疗。该试验是不确定的,没有明确的好处一致显示整个队列。然而,对于队列的地理亚组,存在关于诊断和治疗方案可靠性的问题。随着医疗背景下的领域知识的形式,因果发现被用来证明区域差异和框架的区域可移植性的结果。此外,我们表明,在全球范围内,特别是对于某些亚组,治疗具有显着的因果关系,从而提供了一个更精细的视图的试验结果。
2022-11-23 cs.LG stat.AP stat.ML
Empirical Bayesian Approaches for Robust Constraint-based Causal Discovery under Insufficient Data
Rensselaer Polytechnic Institute(伦斯勒理工学院);Northeast Normal University(东北师范大学)
因果发现是在给定的观测数据中学习变量之间的因果关系,对于许多应用都很重要。现有的因果发现方法假设数据充足,这在许多现实世界的数据集中可能不是这种情况。因此,许多现有的因果发现方法可能在有限的数据下失败。本文提出了一种贝叶斯-增广频率独立性检验方法,以提高基于约束的因果发现方法在数据不足情况下的性能:1)首先引入贝叶斯方法估计互信息,并在此基础上提出了一种鲁棒的基于互信息的独立性检验方法; 2)其次,我们考虑假设似然的贝叶斯估计,并将其纳入一个定义良好的统计检验,从而产生基于稳健统计测试的独立性测试。我们提出的独立性测试的约束为基础的因果发现方法,并评估基准数据集的样本不足的性能。实验表明,显着的性能改善方面的准确性和效率SOTA方法。
2022-06-16 cs.LG stat.ME
Robust discovery of partial differential equations in complex situations
Peking University(北京大学);Southern University of Science and Technology(南方科技大学);Peng Cheng Laboratory(鹏城实验室)
数据驱动的偏微分方程发现在近年来取得了长足的发展。基于稀疏回归和基于神经网络的方法解决了几个方面的问题。然而,现有方法在处理高噪声稀疏数据、高阶导数和冲击波等复杂情况时,性能缺乏稳定性,给精确计算导数带来了障碍。因此,在这项工作中,提出了一个强大的PDE发现框架,称为强大的深度学习-遗传算法(R-DLGA),它结合了物理信息神经网络(PINN)。在该框架中,将深度学习-遗传算法提供的潜在项的初步结果作为物理约束加入PINN的损失函数中,以提高导数计算的准确性。它有助于优化初步结果,并通过消除误差补偿项获得最终发现的PDE。在几个复杂的情况下,所提出的R-DLGA的稳定性和准确性进行了检查的证明和概念,结果证明,所提出的框架是能够准确地计算与PINN的优化衍生物,并具有令人惊讶的鲁棒性复杂的情况下,包括稀疏的数据与高噪声,高阶导数,冲击波。
2021-05-31 cs.AI cs.LG math.OC
ASDFormer: A Transformer with Mixtures of Pooling-Classifier Experts for Robust Autism Diagnosis and Biomarker Discovery
针对自闭症谱系障碍(ASD)诊断与生物标志物发现需求,提出ASDFormer——结合混合池化分类器专家(MoE)的Transformer,通过注意力机制捕捉ASD相关脑区及连接模式,在ABIDE数据集上实现最优诊断准确率并揭示功能连接中断的稳健见解。
2025-08-19 cs.AI cs.LG
Robust Causal Discovery in Real-World Time Series with Power-Laws
Department of Computer Science, Sapienza University of Rome(罗马大学计算机科学系)
本文提出了一种基于幂律谱特征提取的鲁棒因果发现方法,以提高在现实时间序列中因果关系发现的鲁棒性,该方法在合成数据集和真实数据集上均优于现有方法。
2026-06-03 cs.LG physics.data-an stat.ML
Skewness-Robust Causal Discovery in Location-Scale Noise Models
研究双变量因果发现问题,提出基于似然的SkewD算法,在位置尺度噪声模型下处理偏态噪声分布,结合启发式搜索和期望条件最大化算法估计参数,在新合成数据集和基准数据集上表现强劲且高偏度下稳健。
2026-07-17 cs.LG stat.ML
TimeGraph: Synthetic Benchmark Datasets for Robust Time-Series Causal Discovery
Causal AI Lab University of Maryland, Baltimore County(因果AI实验室 乌尔利卡大学巴尔的摩县)
TimeGraph 提出了一套包含趋势、季节性、不规则采样和未观测混杂因素的合成时间序列因果发现基准数据集,并通过系统评估 PCMCI+、LPCMCI 和 FGES 等算法,揭示了现实时间条件下算法性能的显著差异。
2025-06-02 cs.IR cs.LG stat.ML
AGRO: Adversarial Discovery of Error-prone groups for Robust Optimization
University of Washington(华盛顿大学);Allen Institute of Artificial Intelligence(艾伦人工智能研究所);University of Utah(犹他大学);Meta AI
通过经验风险最小化(ERM)训练的模型依赖于标签和任务无关输入特征之间的虚假相关性,导致对分布变化的泛化能力差。组分布鲁棒优化(G-DRO)可以通过最小化训练数据上的一组预定义组的最坏情况损失来缓解这个问题。G-DRO成功地提高了相关性不成立的最差组的性能。然而,G-DRO假设虚假相关性和相关的最差组是预先已知的,这使得将其应用于具有潜在的多个未知虚假相关性的新任务具有挑战性。我们提出了AGRO --分布式鲁棒优化的对抗组发现--一种端到端的方法,可以联合识别易出错的组并提高其准确性。AGRO为G-DRO配备了一个对抗切片模型,以找到一个训练样本的组分配,从而最大限度地提高所发现的组的最坏情况损失。在WILDS基准测试中,与G-DRO使用的先前组发现方法相比,AGRO在已知最差组上的平均模型性能高出8%。AGRO还提高了SST 2、QQP和MS-COCO数据集的分布外性能,这些数据集的潜在虚假相关性尚未得到表征。对ARGO组的人类评估表明,它们包含定义明确、但以前未研究过的导致模型误差的虚假相关性。
2022-12-08 cs.AI cs.CL cs.LG
Adaptive Group Robust Ensemble Knowledge Distillation
ÉTS Montréal(蒙特利尔ÉTS);Mila - Quebec AI Institute(魁北克AI研究所);University of Calgary(卡尔加里大学);CIFAR AI Chair(卡尔加里大学AI主席)
针对集成知识蒸馏中代表性不足子群体性能下降问题,提出AGRE-KD策略,利用有偏模型选择性加权教师,使蒸馏学生模型在最差子群体上表现优于传统集成蒸馏和多数投票集成。
2025-11-10 cs.LG
Robust physics discovery via supervised and unsupervised pattern recognition using the Euler characteristic
Arizona State University(亚利桑那州立大学)
机器学习方法已被广泛用于从测量数据中发现动力系统的底层物理。然而,现有的方法仍然缺乏鲁棒性,特别是当测量数据包含大量噪声时。鲁棒性的缺乏主要归因于所使用的特征的代表性不足。因此,无法准确识别控制所观察系统的内在机制。在这项研究中,我们使用一个有效的拓扑描述符复杂的数据,即,欧拉特征(EC),作为特征来表征从动力系统收集的时空数据并发现潜在的物理。无监督流形学习和监督分类结果表明,EC可以有效地区分不同的系统,但相似的控制模型。我们还证明了使用EC的机器学习方法可以提高物理发现的稀疏回归方法的置信水平。
2021-10-15 cs.CE cs.LG