Learn to explain yourself, when you can: Equipping Concept Bottleneck Models with the ability to abstain on their concept predictions
J.P. Morgan AI Research(摩根大通人工智能研究院)
Koh等人[2020]的概念瓶颈模型(CBM)提供了一种方法,以确保基于神经网络的分类器仅基于人类可理解的概念进行预测。概念标签,或者我们所说的基本原理,是由CBM的概念标签组件学习的。另一个组件学习从这些预测的概念标签中预测目标分类标签。不幸的是,这些模型严重依赖于人类为每个数据点提供的概念标签。为了使建立信任措施的表现稳健时,这些标签是不容易获得的,我们展示了如何装备他们的能力,放弃预测概念时,概念标签组件是不确定的。换句话说,我们的模型学会为其预测提供理论依据,但只有在它确定理论依据正确的情况下。
2022-12-18 cs.LG
Interpretability for Time Series Transformers using A Concept Bottleneck Framework
University of Amsterdam(阿姆斯特丹大学)
本文提出使用概念瓶颈框架提升时间序列转换器的可解释性,通过修改训练目标和干预实验验证了方法的有效性。
2025-11-28 cs.LG
AnyCBMs: How to Turn Any Black Box into a Concept Bottleneck Model
Università della Svizzera Italiana(提契诺大学);Scuola Normale Superiore(比萨高等师范学校)
AnyCBM方法可将任意预训练黑盒模型转化为概念瓶颈模型,以最小计算资源实现可解释性,并验证了其分类性能与概念干预的有效性。
2024-05-26 cs.LG
Uncertainty-aware Language Guidance for Concept Bottleneck Models
Iowa State University(爱荷华州立大学)
本文提出了一种具有不确定性的概念瓶颈模型方法,通过量化LLM标注概念的不确定性并将其纳入训练过程,以提高模型的可靠性和准确性。
2026-02-26 cs.LG
Stochastic Concept Bottleneck Models
ETH Zurich(苏黎世联邦理工学院)
本文提出随机概念瓶颈模型(SCBMs),通过显式分布参数化建模概念依赖关系,使单概念干预影响相关概念,并基于置信区域推导干预策略,在合成与自然图像数据上显著提升干预有效性。
2024-10-17 cs.LG
When Are Concept Bottleneck Model Explanations Faithful and Compact?
University of Trento(特伦托大学);University of Copenhagen(哥本哈根大学);University of Edinburgh(爱丁堡大学)
本文针对概念瓶颈模型,论证忠实解释需包含全部概念,损害紧凑性,并提出概率建模与组套索稀疏化策略,以促进紧凑且忠实的解释,警示天真的可解释性主张。
2026-10-06 cs.AI cs.LG stat.ML
Diverse Concept Proposals for Concept Bottleneck Models
Harvard SEAS(哈佛大学工程与应用科学学院)
提出一种为概念瓶颈模型生成多样化概念提议的方法,通过提供多种替代解释供专家选择,解决了最具预测性概念与专家直觉不一致的问题,并在合成数据集和EHR数据上验证了有效性。
2024-12-24 cs.LG
Concepts' Information Bottleneck Models
University of Amsterdam(阿姆斯特丹大学);University of West of England(西英格兰大学);University of Hull(赫尔大学);University of Oslo(奥斯陆大学)
本文提出信息瓶颈正则化器,通过最小充分的概念表示提升CBM的预测性能和干预可靠性。
2026-02-16 cs.LG
Towards learning to explain with concept bottleneck models: mitigating information leakage
J.P. Morgan AI Research(摩根大通人工智能研究院)
概念瓶颈模型通过首先预测人类提供的概念列表中的哪些关于数据点是正确的来执行分类。然后,下游模型使用这些预测的概念标签来预测目标标签。预测的概念充当目标预测的基本原理。当使用软概念标签时,模型信任问题出现在这种范式中:以前已经观察到有关数据分布的额外信息泄漏到概念预测中。在这项工作中,我们将展示如何使用蒙特卡罗Dropout来实现不包含泄漏信息的软概念预测。
2022-11-07 cs.CR cs.LG
Adaptive Test-Time Intervention for Concept Bottleneck Models
Columbia University(哥伦比亚大学);UC Berkeley(加州大学伯克利分校)
针对概念瓶颈模型(CBM)中概念使用存在黑箱或性能牺牲的问题,提出FIGS-BD方法,通过二元蒸馏将CBM的概念-目标部分转化为可解释树模型,保持性能的同时实现归因解释,并在4个数据集上通过自适应测试时干预显著提升人在环场景的性能。
2025-04-14 cs.LG
Post-hoc Stochastic Concept Bottleneck Models
Department of Computer Science, ETH Zurich(苏黎世联邦理工学院计算机科学系)
本文提出PSCBMs,通过在预训练CBM中添加小的协方差预测模块,实现轻量级改进,无需重新训练即可提升概念和目标准确率,并在干预下表现更优。
2026-03-14 cs.LG
ShifaMind: A Multiplicative Concept Bottleneck for Interpretable ICD-10 Coding
College of Information Science, University of Arizona(亚利桑那大学信息科学学院)
本文提出ShifaMind,一种基于乘法概念瓶颈的架构,通过改变瓶颈形式而非宽度,提升ICD-10编码的准确性和可解释性。
2026-05-08 cs.CL cs.LG
Hyperbolic Concept Bottleneck Models
Informatics Institute, University of Amsterdam(阿姆斯特丹大学信息学院)
本文提出双曲概念瓶颈模型,通过在双曲空间中重构概念激活,提升神经网络的可解释性,实验表明其在稀疏场景下表现更优。
2026-05-12 cs.CV cs.LG
Incremental Residual Concept Bottleneck Models
Tsinghua University(清华大学);Shanghai AI Laboratory(上海人工智能实验室)
针对概念瓶颈模型因概念库不完整导致性能受限的问题,提出增量残差概念瓶颈模型,通过可优化向量补全概念并增量发现潜在概念,还提出概念利用效率指标,在多数据集上实现准确率与效率的提升。
2024-04-17 cs.AI cs.LG
Graph Concept Bottleneck Models
Department of Applied Mathematics & Statistics(应用数学与统计学系);State University of New York at Stony Brook(石溪州立大学);Halıcıoğlu Data Science Institute(Halıcıoğlu数据科学研究所);University of California, San Diego(加州大学圣地亚哥分校);Thomas J. Watson Research Center(汤普森·J·沃森研究中心);IBM Research(IBM研究院);Department of Biomedical Informatics(生物医学信息学系)
图概念瓶颈模型通过构建潜在概念图来增强概念关系,提升模型性能和可解释性,实验证明其在图像分类中具有更高的准确性与鲁棒性。
2026-04-30 cs.LG
ConceptTS: LLM-Guided Concept Bottlenecks for Interpretable Multivariate Time-Series Forecasting
Stanford University(斯坦福大学);University of California, Davis(加州大学戴维斯分校)
ConceptTS是围绕人类可理解概念的可解释多变量时间序列预测框架,利用大语言模型生成概念与标注规则,在空气质量数据集上达到与黑箱基线相当的准确率,且决策过程可解释。
2026-08-24 cs.LG
SurroCBM: Concept Bottleneck Surrogate Models for Generative Post-hoc Explanation
Emory University(埃默里大学)
本文提出SurroCBM框架,利用自动发现的概念通过代理模型对黑盒进行事后解释,并采用自生成数据训练策略提升解释质量,实验验证其有效性。
2023-10-11 cs.AI cs.LG
Interpretable Reward Modeling with Active Concept Bottlenecks
Department of Computer Science, ETH Zurich, Zurich, Switzerland(苏黎世联邦理工学院计算机科学系);Department of Applied Mathematics and Theoretical Physics, University of Cambridge, United Kingdom(剑桥大学应用数学与理论物理系)
本文提出概念瓶颈奖励模型CB-RM,通过主动学习动态选择最有信息量的概念标签,在保持偏好准确率的同时提升可解释性和样本效率。
2025-07-20 cs.LG
Measuring What Matters: Synthetic Benchmarks for Concept Bottleneck Models
University of California, San Diego(加州大学圣地亚哥分校)
本文开发了用于概念瓶颈模型的合成基准,通过控制数据模态、概念选择、标注质量和完整性等属性,评估模型在决策支持和自动化场景下的性能,并诊断失败模式。
2026-11-19 cs.AI cs.LG
Multimodal Concept Bottleneck Models
UC San Diego(加州大学圣地亚哥分校)
提出多模态概念瓶颈模型(MM-CBM),利用双概念瓶颈层对齐图像和文本嵌入,实现可解释的零样本分类和图像检索,在四个基准上平均准确率提升高达51.26%。
2026-11-10 cs.CV cs.LG
Controllable Concept Bottleneck Models
本文提出可控概念瓶颈模型,通过支持多层次的模型编辑功能,实现无需重新训练的高效可编辑CBMs,以适应动态变化的环境需求。
2026-01-01 cs.LG
Concept Bottleneck Model with Additional Unsupervised Concepts
Tokyo Research Center, Aisin(爱信东京研究中心)
随着对问责制的需求不断增加,可解释性正在成为现实世界人工智能应用的一项基本能力。然而,大多数方法使用事后方法,而不是训练可解释的模型。在这篇文章中,我们提出了一个新的解释模型的基础上的概念瓶颈模型(CBM)。CBM使用概念标签来训练中间层作为附加可见层。然而,由于概念标签的数量限制了该层的维度,因此很难用少量标签获得高精度。为了解决这个问题,我们将监督概念与用自解释神经网络(SENN)训练的无监督概念相结合。通过无缝训练这两种类型的概念,同时减少计算量,我们可以同时获得监督和非监督概念,即使是大尺寸的图像。我们将所提出的模型称为具有额外无监督概念的概念瓶颈模型(CBM-AUC)。我们通过实验证实,该模型优于CBM和SENN。我们还可视化了每个概念的显着图,并确认它与语义一致。
2022-02-03 cs.AI cs.CV cs.LG
Bayesian Concept Bottleneck Models with LLM Priors
University of California, San Francisco(加州大学旧金山分校);Microsoft Research(微软研究院);National University of Singapore(新加坡国立大学)
本文提出BC-LLM模型,利用贝叶斯框架和LLM作为先验,实现高效的概念提取和可解释性提升。
2025-12-04 cs.AI cs.LG stat.ML
Concept Flow Models: Anchoring Concept-Based Reasoning with Hierarchical Bottlenecks
Fraunhofer Institute for Open Communication Systems(弗劳恩霍夫开放通信系统研究所);Freie Universität Berlin(柏林自由大学)
提出概念流模型(CFM),用层次化概念决策树替代扁平瓶颈,通过逐步缩小预测范围减少信息泄露,在保持预测性能的同时提升可解释性。
2026-06-19 cs.AI cs.LG
Towards Reasonable Concept Bottleneck Models
Saarland University(萨尔兰大学)
本文提出一种灵活高效的框架,用于设计概念瓶颈模型(CBMs),通过显式编码概念间关系和概念到任务的关系,提升模型的可解释性和任务性能。
2026-10-09 cs.AI cs.LG stat.ML
Matryoshka Concept Bottleneck Models
Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·扎耶德人工智能大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州))
提出 Matryoshka 概念瓶颈模型 (MCBM),通过嵌套层次结构实现自适应概念利用,将预期干预成本从线性降低到对数阶 O(log K),同时保证单调性能提升。
2026-05-28 cs.LG
Concept Labels Are Not Enough: Rethinking Concept Bottleneck Models through Representation Integrity
HKUST(GZ)(香港科技大学(广州))
本文提出轻量解耦概念瓶颈模型LDCBM,通过滤波分组损失和联合概念监督提升视觉模式与概念的对齐,实验证明其在概念和分类准确率上优于现有CBMs,且计算复杂度更低。
2026-08-12 cs.CV cs.LG
Concept Bottleneck Models Without Predefined Concepts
University of Freiburg(弗赖堡大学)
本文提出一种无需预定义概念的概念瓶颈模型,利用无监督概念发现和输入依赖的概念选择机制,在显著减少概念数量的同时缩小与黑盒模型的性能差距,并展示大型视觉-语言模型可干预最终权重以纠正错误。
2024-07-04 cs.CV cs.LG
Energy-Based Concept Bottleneck Models: Unifying Prediction, Concept Intervention, and Probabilistic Interpretations
The Hong Kong University of Science and Technology(香港科技大学);University of Washington(华盛顿大学);Rutgers University(罗格斯大学)
本文提出基于能量的概念瓶颈模型(ECBMs),通过联合能量函数统一预测、概念纠正和条件依赖量化,以解决现有CBMs无法建模概念间高阶交互和条件依赖的问题,并在真实数据集上取得领先准确率。
2024-12-31 cs.AI cs.CV cs.LG
Zero-shot Concept Bottleneck Models
Kyoto University(京都大学)
本文提出零样本概念瓶颈模型,通过大规模概念库实现无需训练的跨领域概念与标签预测,提供可解释的干预概念。
2026-04-03 cs.AI cs.CV cs.LG
Interpretable Prognostics with Concept Bottleneck Models
Intelligent Maintenance and Operations Systems, EPFL(EPFL智能维护与运营系统中心)
本研究提出将概念瓶颈模型应用于工业资产剩余使用寿命预测,利用退化模式作为可解释概念,在N-CMAPSS数据集上验证了其性能可与黑盒模型媲美或更优,同时提供固有可解释性和干预能力。
2024-05-27 cs.LG eess.SP stat.ML
Learning Concept Bottleneck Models from Mechanistic Explanations
Politecnico di Milano(米兰理工大学);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
本文提出机制CBM模型,通过从黑盒模型自身学习的概念构建瓶颈层,提升模型的可解释性和预测性能。
2026-03-07 cs.AI cs.LG
Probabilistic Concept Bottleneck Models
Seoul National University(首尔国立大学)
针对CBM确定性概念预测无法处理概念歧义的问题,本文提出ProbCBM,用概率概念嵌入建模并传递概念不确定性,从而提升类别预测解释的可靠性。
2023-06-02 cs.AI cs.CV cs.LG
Flexible Concept Bottleneck Model
本文提出灵活的概念瓶颈模型(FCBM),通过动态概念适应和改进的稀疏max模块,提升模型在新概念下的适应性与灵活性,实验表明其在多个基准上的表现优异。
2025-11-10 cs.CV cs.LG
Exploring Concept Subspace for Self-explainable Text-Attributed Graph Learning
Department of Computer Science, Stevens Institute of Technology(斯蒂文斯理工学院计算机科学系)
本文提出Graph Concept Bottleneck方法,通过概念子空间提升文本属性图学习的可解释性,实现更简洁准确的解释并增强模型鲁棒性和泛化能力。
2026-04-13 cs.LG
Concept Bottleneck Language Models For protein design
Genentech(基因泰克);Prescient Design;University of California San Diego(加州大学圣迭戈分校);Guide Labs;New York University(纽约大学)
本研究提出具备可控性、可解释性和可调试性的概念瓶颈蛋白质语言模型CB-pLM,性能与传统模型相当,参数量最高达30亿,是最大且首个支持生成式语言建模的此类模型。
2024-12-11 cs.LG
Addressing Concept Mislabeling in Concept Bottleneck Models Through Preference Optimization
Mila - Québec AI Institute(魁北克人工智能研究所);University of Cambridge(剑桥大学)
针对概念瓶颈模型中概念标签错误导致性能显著下降的问题,提出基于直接偏好优化的概念偏好优化损失函数,有效缓解噪声影响并在多个数据集上优于二元交叉熵。
2025-09-08 cs.AI cs.LG
Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
Saarland University(萨尔兰大学);Tianjin University of Technology(天津工业大学);University of Macau(澳门大学);University of Exeter(埃克塞特大学)
本研究通过生成器框架比较概念瓶颈模型与标准分类器在几何和语义扰动下的鲁棒性,揭示可解释性不固有提升鲁棒性,而是重新分配敏感性,存在依赖扰动机制的任务结构权衡。
2026-10-22 cs.AI cs.LG
Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification
Massachusetts Institute of Technology(麻省理工学院)
本文提出三种技术缓解概念瓶颈模型中的偏见,以提升图像分类的公平性和可解释性。
2026-03-06 cs.CV cs.LG
Eliminating Information Leakage in Hard Concept Bottleneck Models with Supervised, Hierarchical Concept Learning
The Hong Kong University of Science and Technology(香港科技大学)
针对概念瓶颈模型的信息泄漏问题,提出SupCBM,通过标签监督和分层概念集,利用干预矩阵实现标签预测,显著减少信息泄漏并提升性能。
2024-02-03 cs.AI cs.LG
Interpretable and Steerable Concept Bottleneck Sparse Autoencoders
University of California, San Diego(加州大学圣迭戈分校);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
本文提出CB-SAE框架,通过剪枝低效神经元和增加概念瓶颈提升LVLMs和图像生成任务的可解释性和可操控性,效果提升分别为32.1%和14.5%。
2026-03-30 cs.CV cs.LG
Learning to Intervene on Concept Bottlenecks
TU Darmstadt(达姆施塔特工业大学);Hessian Center for Artificial Intelligence (hessian.AI)(黑森人工智能中心);Centre for Cognitive Science, TU Darmstadt(达姆施塔特工业大学认知科学中心);German Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
提出概念瓶颈记忆模型(CB2Ms),利用双重记忆保留并泛化过去干预,使模型能自动识别错误并重用干预以提升性能,在分布偏移等场景下有效减少人工干预需求。
2024-06-04 cs.AI cs.LG
Driving through the Concept Gridlock: Unraveling Explainability Bottlenecks in Automated Driving
University of California, San Diego(加州大学圣迭戈分校);InfoTech Labs, Toyota Motor North America R&D(丰田汽车北美研发中心InfoTech实验室)
本文提出将概念瓶颈作为视觉特征用于自动驾驶控制命令预测与行为解释,通过学习人类可理解的概念层解释驾驶场景,并判断行为变化源于外部刺激还是偏好变化,在保持可解释性的同时取得与潜在视觉特征相当的竞争性能。
2023-10-26 cs.CV cs.LG
Interactive Concept Bottleneck Models
Google Research(谷歌研究院)
本文提出交互式概念瓶颈模型,通过结合概念不确定性与预测影响的策略向人类查询概念标签,仅5次交互即在多个数据集上较基线提升5-10%准确率。
2023-04-27 cs.AI cs.LG
OceanCBM: A Concept Bottleneck Model for Mechanistic Interpretability in Ocean Forecasting
University of California, Davis(加州大学戴维斯分校);University of Washington(华盛顿大学);NOAA Geophysical Fluid Dynamics Laboratory(国家海洋大气管理局流体动力学实验室)
本文提出OceanCBM,一种用于时空预测和海洋动力机制解释的概念瓶颈模型,通过混合监督预测混合层热含量,实现可解释且物理基础的表示。
2026-05-12 cs.LG
Upper Bound of Bayesian Generalization Error in Partial Concept Bottleneck Model (CBM): Partial CBM outperforms naive CBM
Tokyo Research Center(东京研究中心);AISIN Corporation(爱信公司)
本文研究部分概念瓶颈模型(PCBM)的贝叶斯泛化误差上界,证明在三层线性架构下,部分观测概念相比全观测概念能降低泛化误差,从而优于朴素CBM。
2024-03-14 cs.AI cs.LG math.ST
If Concept Bottlenecks are the Question, are Foundation Models the Answer?
DISI, University of Trento(特伦托大学DISI实验室);IBM Research Zurich(IBM瑞士苏黎世研究实验室);Faculty of Sciences, Scuola Normale Superiore(科学学院,正则大学);CIMeC, University of Trento(特伦托大学CIMeC实验室)
本文研究了基础模型在概念瓶颈模型中的影响,发现其在不同任务中与专家标注存在差异,且概念准确性与质量不强相关。
2025-04-29 cs.LG
Towards Fine-Grained and Verifiable Concept Bottleneck Models
Bioengineering Department(生物工程部门);Imperial-X, Imperial College London, London, UK(帝国理工学院伦敦校区);Thoughtworks AI Labs, Singapore(Thoughtworks AI实验室,新加坡)
本文提出细粒度概念瓶颈模型框架,通过局部视觉证据 grounding 每个概念,提升模型透明度与可验证性,实验显示其概念空间信息完整且预测性能优异。
2026-05-14 cs.AI cs.LG
Automatic Concept Extraction for Concept Bottleneck-based Video Classification
University of California Los Angeles(加州大学洛杉矶分校);University College London(伦敦大学学院);USC Information Sciences Institute(南加州大学信息科学研究所);Imperial College London(帝国理工学院);U.S. Army Research Laboratory(美国陆军研究实验室);U.S. Air Force Research Lab(美国空军研究实验室)
最近在可解释的深度学习模型方面的努力表明,基于概念的解释方法实现了与标准端到端模型竞争的准确性,并且能够对从图像中提取的高级视觉概念进行推理和干预,例如,确定鸟类种类分类的翅膀颜色和喙长。然而,这些概念瓶颈模型依赖于一个必要的和足够的预定义的概念,这是棘手的复杂任务,如视频分类。对于复杂的任务,标签和视觉元素之间的关系跨越许多帧,例如,识别飞行或捕捉猎物的鸟-需要各种抽象层次的概念。为此,我们提出了CoDEx,一个自动的概念发现和提取模块,严格组成一个必要的和足够的概念抽象的概念为基础的视频分类。CoDEx从视频的自然语言解释中识别出一组丰富的复杂概念抽象,从而消除了对无定形概念集进行分类的需要。为了证明我们的方法的可行性,我们构建了两个新的公共数据集,将现有的复杂视频分类数据集与简短的众包自然语言解释相结合。该方法消除了自然语言中固有的复杂概念抽象,将概念瓶颈方法推广到复杂任务中。
2022-06-21 cs.CV cs.IR cs.LG
Process-Guided Concept Bottleneck Model
SEOSAW Partnership(SEOSAW合作机构)
过程引导的概念瓶颈模型通过引入生物物理意义的中间概念,提升科学领域中深度学习模型的可解释性和透明性,减少误差和偏见,同时利用多源数据产生可解释的中间输出。
2026-01-15 cs.AI cs.CV cs.LG
Mixture of Concept Bottleneck Experts
University of Padua(帕多瓦大学)
提出概念瓶颈专家混合模型(M-CBE),通过引入多个专家表达式和灵活的函数形式,在保持可解释性的同时提升预测精度和适应性。
2026-06-01 cs.AI cs.LG
Tree-Based Leakage Inspection and Control in Concept Bottleneck Models
Imperial College London(帝国理工学院)
针对概念瓶颈模型(CBMs)存在的信息泄漏影响可解释性的问题,提出基于决策树的泄漏检测控制方法,通过对比软硬CBMs决策路径量化泄漏,提升了任务准确率与解释的透明度和信息量。
2024-10-08 cs.LG
GlassMol: Interpretable Molecular Property Prediction with Concept Bottleneck Models
Northwestern University(西北大学);AbbVie(阿比维)
GlassMol通过自动化概念整理和LLM引导的概念选择,解决分子属性预测中的可解释性与性能权衡问题。
2026-03-01 cs.AI cs.LG
DF-CBM: Region-Aware Concept Bottleneck Models for Deepfake Detection
Kingston University London(伦敦金斯顿大学);Centre for Research and Technology Hellas (CERTH)(希腊研究与技术中心)
提出DF-CBM,一种区域感知概念瓶颈模型,通过概念预测与掩蔽注意力实现可解释的深度伪造检测,优于概念基线并接近黑盒检测器性能。
2026-09-29 cs.CV cs.LG