Uncertainty-aware Language Guidance for Concept Bottleneck Models
Iowa State University(爱荷华州立大学)
本文提出了一种具有不确定性的概念瓶颈模型方法,通过量化LLM标注概念的不确定性并将其纳入训练过程,以提高模型的可靠性和准确性。
2026-02-26 cs.LG
Stochastic Concept Bottleneck Models
ETH Zurich(苏黎世联邦理工学院)
本文提出随机概念瓶颈模型(SCBMs),通过显式分布参数化建模概念依赖关系,使单概念干预影响相关概念,并基于置信区域推导干预策略,在合成与自然图像数据上显著提升干预有效性。
2024-10-17 cs.LG
Diverse Concept Proposals for Concept Bottleneck Models
Harvard SEAS(哈佛大学工程与应用科学学院)
提出一种为概念瓶颈模型生成多样化概念提议的方法,通过提供多种替代解释供专家选择,解决了最具预测性概念与专家直觉不一致的问题,并在合成数据集和EHR数据上验证了有效性。
2024-12-24 cs.LG
Concepts' Information Bottleneck Models
University of Amsterdam(阿姆斯特丹大学);University of West of England(西英格兰大学);University of Hull(赫尔大学);University of Oslo(奥斯陆大学)
本文提出信息瓶颈正则化器,通过最小充分的概念表示提升CBM的预测性能和干预可靠性。
2026-02-16 cs.LG
Adaptive Test-Time Intervention for Concept Bottleneck Models
Columbia University(哥伦比亚大学);UC Berkeley(加州大学伯克利分校)
针对概念瓶颈模型(CBM)中概念使用存在黑箱或性能牺牲的问题,提出FIGS-BD方法,通过二元蒸馏将CBM的概念-目标部分转化为可解释树模型,保持性能的同时实现归因解释,并在4个数据集上通过自适应测试时干预显著提升人在环场景的性能。
2025-04-14 cs.LG
Post-hoc Stochastic Concept Bottleneck Models
Department of Computer Science, ETH Zurich(苏黎世联邦理工学院计算机科学系)
本文提出PSCBMs,通过在预训练CBM中添加小的协方差预测模块,实现轻量级改进,无需重新训练即可提升概念和目标准确率,并在干预下表现更优。
2026-03-14 cs.LG
Composable Crystals: Controllable Materials Discovery via Concept Learning
National University of Singapore(新加坡国立大学);Loyola Marymount University(洛桑玛丽蒙大学)
提出基于概念组合的晶体生成框架,利用向量量化变分自编码器自动发现可重用晶体概念,通过概念重组实现可控的新晶体探索,在MP-20和Alex-MP-20上V.S.U.N指标提升最高53.2%和51.7%。
2026-05-25 cs.LG
Graph Concept Bottleneck Models
Department of Applied Mathematics & Statistics(应用数学与统计学系);State University of New York at Stony Brook(石溪州立大学);Halıcıoğlu Data Science Institute(Halıcıoğlu数据科学研究所);University of California, San Diego(加州大学圣地亚哥分校);Thomas J. Watson Research Center(汤普森·J·沃森研究中心);IBM Research(IBM研究院);Department of Biomedical Informatics(生物医学信息学系)
图概念瓶颈模型通过构建潜在概念图来增强概念关系,提升模型性能和可解释性,实验证明其在图像分类中具有更高的准确性与鲁棒性。
2026-04-30 cs.LG
ConceptTS: LLM-Guided Concept Bottlenecks for Interpretable Multivariate Time-Series Forecasting
Stanford University(斯坦福大学);University of California, Davis(加州大学戴维斯分校)
ConceptTS是围绕人类可理解概念的可解释多变量时间序列预测框架,利用大语言模型生成概念与标注规则,在空气质量数据集上达到与黑箱基线相当的准确率,且决策过程可解释。
2026-08-24 cs.LG
Interpretable Reward Modeling with Active Concept Bottlenecks
Department of Computer Science, ETH Zurich, Zurich, Switzerland(苏黎世联邦理工学院计算机科学系);Department of Applied Mathematics and Theoretical Physics, University of Cambridge, United Kingdom(剑桥大学应用数学与理论物理系)
本文提出概念瓶颈奖励模型CB-RM,通过主动学习动态选择最有信息量的概念标签,在保持偏好准确率的同时提升可解释性和样本效率。
2025-07-20 cs.LG
Do Concept Bottleneck Models Learn as Intended?
University of Cambridge(剑桥大学);University of Edinburgh(爱丁堡大学);The Alan Turing Institute(艾伦·图灵研究所)
概念瓶颈模型从原始输入映射到概念,然后从概念映射到目标。这种模式的目的是将预先指定的,高层次的概念到学习过程中,并已被激励,以满足三个desiderata:可解释性,可预测性和可干预性。然而,我们发现概念瓶颈模型很难达到这些目标。使用事后可解释性方法,我们证明,概念不对应于任何语义上有意义的输入空间,从而质疑概念瓶颈模型在其目前的形式的有用性。
2021-05-10 cs.AI cs.LG
Matryoshka Concept Bottleneck Models
Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·扎耶德人工智能大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州))
提出 Matryoshka 概念瓶颈模型 (MCBM),通过嵌套层次结构实现自适应概念利用,将预期干预成本从线性降低到对数阶 O(log K),同时保证单调性能提升。
2026-05-28 cs.LG
Exploring Concept Subspace for Self-explainable Text-Attributed Graph Learning
Department of Computer Science, Stevens Institute of Technology(斯蒂文斯理工学院计算机科学系)
本文提出Graph Concept Bottleneck方法,通过概念子空间提升文本属性图学习的可解释性,实现更简洁准确的解释并增强模型鲁棒性和泛化能力。
2026-04-13 cs.LG
Concept Bottleneck Language Models For protein design
Genentech(基因泰克);Prescient Design;University of California San Diego(加州大学圣迭戈分校);Guide Labs;New York University(纽约大学)
本研究提出具备可控性、可解释性和可调试性的概念瓶颈蛋白质语言模型CB-pLM,性能与传统模型相当,参数量最高达30亿,是最大且首个支持生成式语言建模的此类模型。
2024-12-11 cs.LG
TCNL: Transparent and Controllable Network Learning Via Embedding Human-Guided Concepts
Beijing University of Posts and Telecommunications(北京邮电大学)
解释深度学习模型对于理解人工智能系统、提高安全性和评估公平性至关重要。为了更好地理解和控制CNN模型,已经提出了许多用于可解释性的方法。然而,这些作品中的大多数对于人类的理解来说不太直观,并且对CNN模型的人类控制不足。我们提出了一种新的方法,透明和可控的网络学习(TCNL),以克服这些挑战。为了提高分类的可解释性,TCNL通过对人类直觉的科学研究,为特定的分类任务定义了一些概念,并将概念信息融入到CNN模型中。在TCNL中,浅层特征提取器首先获得初步特征。然后在浅层特征提取器之后建立多个概念特征提取器来学习高维概念表示。鼓励概念特征提取器对与预定义概念相关的信息进行编码。我们还构建了概念映射器,以直观的方式可视化概念提取器提取的特征。TCNL提供了一种可推广的方法来实现可解释性。研究人员可以定义与某些分类任务相对应的概念,并鼓励模型编码特定的概念信息,这在一定程度上提高了CNN模型的可解释性和可控性。我们实验的数据集(包含概念集)也将发布(https://github.com/bupt-ai-cz/TCNL)。
2022-11-22 cs.AI cs.LG
OceanCBM: A Concept Bottleneck Model for Mechanistic Interpretability in Ocean Forecasting
University of California, Davis(加州大学戴维斯分校);University of Washington(华盛顿大学);NOAA Geophysical Fluid Dynamics Laboratory(国家海洋大气管理局流体动力学实验室)
本文提出OceanCBM,一种用于时空预测和海洋动力机制解释的概念瓶颈模型,通过混合监督预测混合层热含量,实现可解释且物理基础的表示。
2026-05-12 cs.LG
If Concept Bottlenecks are the Question, are Foundation Models the Answer?
DISI, University of Trento(特伦托大学DISI实验室);IBM Research Zurich(IBM瑞士苏黎世研究实验室);Faculty of Sciences, Scuola Normale Superiore(科学学院,正则大学);CIMeC, University of Trento(特伦托大学CIMeC实验室)
本文研究了基础模型在概念瓶颈模型中的影响,发现其在不同任务中与专家标注存在差异,且概念准确性与质量不强相关。
2025-04-29 cs.LG
Tree-Based Leakage Inspection and Control in Concept Bottleneck Models
Imperial College London(帝国理工学院)
针对概念瓶颈模型(CBMs)存在的信息泄漏影响可解释性的问题,提出基于决策树的泄漏检测控制方法,通过对比软硬CBMs决策路径量化泄漏,提升了任务准确率与解释的透明度和信息量。
2024-10-08 cs.LG
Towards learning to explain with concept bottleneck models: mitigating information leakage
J.P. Morgan AI Research(摩根大通人工智能研究院)
概念瓶颈模型通过首先预测人类提供的概念列表中的哪些关于数据点是正确的来执行分类。然后,下游模型使用这些预测的概念标签来预测目标标签。预测的概念充当目标预测的基本原理。当使用软概念标签时,模型信任问题出现在这种范式中:以前已经观察到有关数据分布的额外信息泄漏到概念预测中。在这项工作中,我们将展示如何使用蒙特卡罗Dropout来实现不包含泄漏信息的软概念预测。
2022-11-07 cs.CR cs.LG
ShifaMind: A Multiplicative Concept Bottleneck for Interpretable ICD-10 Coding
College of Information Science, University of Arizona(亚利桑那大学信息科学学院)
本文提出ShifaMind,一种基于乘法概念瓶颈的架构,通过改变瓶颈形式而非宽度,提升ICD-10编码的准确性和可解释性。
2026-05-08 cs.CL cs.LG
Hyperbolic Concept Bottleneck Models
Informatics Institute, University of Amsterdam(阿姆斯特丹大学信息学院)
本文提出双曲概念瓶颈模型,通过在双曲空间中重构概念激活,提升神经网络的可解释性,实验表明其在稀疏场景下表现更优。
2026-05-12 cs.CV cs.LG
Incremental Residual Concept Bottleneck Models
Tsinghua University(清华大学);Shanghai AI Laboratory(上海人工智能实验室)
针对概念瓶颈模型因概念库不完整导致性能受限的问题,提出增量残差概念瓶颈模型,通过可优化向量补全概念并增量发现潜在概念,还提出概念利用效率指标,在多数据集上实现准确率与效率的提升。
2024-04-17 cs.AI cs.LG
SurroCBM: Concept Bottleneck Surrogate Models for Generative Post-hoc Explanation
Emory University(埃默里大学)
本文提出SurroCBM框架,利用自动发现的概念通过代理模型对黑盒进行事后解释,并采用自生成数据训练策略提升解释质量,实验验证其有效性。
2023-10-11 cs.AI cs.LG
Measuring What Matters: Synthetic Benchmarks for Concept Bottleneck Models
University of California, San Diego(加州大学圣地亚哥分校)
本文开发了用于概念瓶颈模型的合成基准,通过控制数据模态、概念选择、标注质量和完整性等属性,评估模型在决策支持和自动化场景下的性能,并诊断失败模式。
2026-11-19 cs.AI cs.LG
Multimodal Concept Bottleneck Models
UC San Diego(加州大学圣地亚哥分校)
提出多模态概念瓶颈模型(MM-CBM),利用双概念瓶颈层对齐图像和文本嵌入,实现可解释的零样本分类和图像检索,在四个基准上平均准确率提升高达51.26%。
2026-11-10 cs.CV cs.LG
Clarity: The Flexibility-Interpretability Trade-Off in Sparsity-aware Concept Bottleneck Models
Department of Statistics, University of Economics and Business(经济与商业大学统计系);UMR TETIS, Inria, EVERGREEN, University of Montpellier(蒙彼利埃大学)
研究探讨了概念瓶颈模型中稀疏性对语义对齐的影响,提出Clarity指标衡量下游性能与概念激活稀疏性和精度的相互作用,通过实验揭示灵活性与可解释性之间的关键权衡。
2026-08-12 cs.LG
Concept Flow Models: Anchoring Concept-Based Reasoning with Hierarchical Bottlenecks
Fraunhofer Institute for Open Communication Systems(弗劳恩霍夫开放通信系统研究所);Freie Universität Berlin(柏林自由大学)
提出概念流模型(CFM),用层次化概念决策树替代扁平瓶颈,通过逐步缩小预测范围减少信息泄露,在保持预测性能的同时提升可解释性。
2026-06-19 cs.AI cs.LG
Post-hoc Concept Bottleneck Models
Stanford University(斯坦福大学)
概念瓶颈模型(CBMs)将输入映射到一组可解释的概念(“瓶颈”)上,并使用这些概念进行预测。概念瓶颈增强了可解释性,因为可以对其进行调查以了解模型在输入中“看到”什么概念以及这些概念中哪些被认为是重要的。然而,CBM在实践中是限制性的,因为它们需要训练数据中的密集概念注释来学习瓶颈。此外,建立信任措施往往与不受限制的神经网络的准确性不匹配,从而降低了在实践中部署它们的激励。在这项工作中,我们通过引入事后概念瓶颈模型(PCBM)来解决这些限制。我们证明了我们可以将任何神经网络转换为PCBM,而不会牺牲模型性能,同时仍然保留可解释性的好处。当训练数据上没有概念注释时,我们证明了PCBM可以通过多模态模型从其他数据集或概念的自然语言描述中转移概念。PCBM的一个主要优点是,它使用户能够快速调试和更新模型,以减少虚假相关性并提高对新分布的泛化能力。PCBM允许全局模型编辑,这可能比以前修复特定预测的局部干预工作更有效。通过模型编辑用户研究,我们表明,通过概念级反馈编辑PCBM可以提供显着的性能增益,而无需使用来自目标域或模型再训练的数据。
2023-02-01 cs.AI cs.LG stat.ML
A Closer Look at the Intervention Procedure of Concept Bottleneck Models
POSTECH(浦项科技大学);Amazon – Alexa AI(亚马逊——Alexa人工智能部门)
本文深入探究概念瓶颈模型的干预过程,提出多种干预概念选择方法并进行深入分析,发现在相同干预次数下知情策略可显著降低任务误差,并揭示了当前实践在可靠性与公平性方面的陷阱。
2023-07-03 cs.LG
Concept Bottleneck Models
Stanford University(斯坦福大学);Google Research(谷歌研究院)
我们试图学习模型,我们可以使用高级概念进行交互:如果模型不认为x射线中有骨刺,它仍然可以预测严重的关节炎吗?当今最先进的模型通常不支持对诸如“骨刺的存在”之类的概念的操纵,因为它们被端到端地训练以直接从原始输入(例如,像素)输出(例如,关节炎严重程度)。我们重温了经典的想法,首先预测在训练时提供的概念,然后使用这些概念来预测标签。通过构造,我们可以通过编辑它们的预测概念值并将这些变化传播到最终预测来干预这些概念瓶颈模型。在X射线分级和鸟类识别方面,概念瓶颈模型实现了与标准端到端模型竞争的准确性,同时能够根据高级临床概念(“骨刺”)或鸟类属性(“翅膀颜色”)进行解释。这些模型还允许更丰富的人机交互:如果我们能够在测试时纠正模型在概念上的错误,准确性会显著提高。
2020-12-29 cs.LG stat.ML
Concept Labels Are Not Enough: Rethinking Concept Bottleneck Models through Representation Integrity
HKUST(GZ)(香港科技大学(广州))
本文提出轻量解耦概念瓶颈模型LDCBM,通过滤波分组损失和联合概念监督提升视觉模式与概念的对齐,实验证明其在概念和分类准确率上优于现有CBMs,且计算复杂度更低。
2026-08-12 cs.CV cs.LG
Concept Bottleneck Models Without Predefined Concepts
University of Freiburg(弗赖堡大学)
本文提出一种无需预定义概念的概念瓶颈模型,利用无监督概念发现和输入依赖的概念选择机制,在显著减少概念数量的同时缩小与黑盒模型的性能差距,并展示大型视觉-语言模型可干预最终权重以纠正错误。
2024-07-04 cs.CV cs.LG
Learning Concept Bottleneck Models from Mechanistic Explanations
Politecnico di Milano(米兰理工大学);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
本文提出机制CBM模型,通过从黑盒模型自身学习的概念构建瓶颈层,提升模型的可解释性和预测性能。
2026-03-07 cs.AI cs.LG
Concept Bottleneck Model with Additional Unsupervised Concepts
Tokyo Research Center, Aisin(爱信东京研究中心)
随着对问责制的需求不断增加,可解释性正在成为现实世界人工智能应用的一项基本能力。然而,大多数方法使用事后方法,而不是训练可解释的模型。在这篇文章中,我们提出了一个新的解释模型的基础上的概念瓶颈模型(CBM)。CBM使用概念标签来训练中间层作为附加可见层。然而,由于概念标签的数量限制了该层的维度,因此很难用少量标签获得高精度。为了解决这个问题,我们将监督概念与用自解释神经网络(SENN)训练的无监督概念相结合。通过无缝训练这两种类型的概念,同时减少计算量,我们可以同时获得监督和非监督概念,即使是大尺寸的图像。我们将所提出的模型称为具有额外无监督概念的概念瓶颈模型(CBM-AUC)。我们通过实验证实,该模型优于CBM和SENN。我们还可视化了每个概念的显着图,并确认它与语义一致。
2022-02-03 cs.AI cs.CV cs.LG
Flexible Concept Bottleneck Model
本文提出灵活的概念瓶颈模型(FCBM),通过动态概念适应和改进的稀疏max模块,提升模型在新概念下的适应性与灵活性,实验表明其在多个基准上的表现优异。
2025-11-10 cs.CV cs.LG
Addressing Concept Mislabeling in Concept Bottleneck Models Through Preference Optimization
Mila - Québec AI Institute(魁北克人工智能研究所);University of Cambridge(剑桥大学)
针对概念瓶颈模型中概念标签错误导致性能显著下降的问题,提出基于直接偏好优化的概念偏好优化损失函数,有效缓解噪声影响并在多个数据集上优于二元交叉熵。
2025-09-08 cs.AI cs.LG
Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
Saarland University(萨尔兰大学);Tianjin University of Technology(天津工业大学);University of Macau(澳门大学);University of Exeter(埃克塞特大学)
本研究通过生成器框架比较概念瓶颈模型与标准分类器在几何和语义扰动下的鲁棒性,揭示可解释性不固有提升鲁棒性,而是重新分配敏感性,存在依赖扰动机制的任务结构权衡。
2026-10-22 cs.AI cs.LG
Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification
Massachusetts Institute of Technology(麻省理工学院)
本文提出三种技术缓解概念瓶颈模型中的偏见,以提升图像分类的公平性和可解释性。
2026-03-06 cs.CV cs.LG
Eliminating Information Leakage in Hard Concept Bottleneck Models with Supervised, Hierarchical Concept Learning
The Hong Kong University of Science and Technology(香港科技大学)
针对概念瓶颈模型的信息泄漏问题,提出SupCBM,通过标签监督和分层概念集,利用干预矩阵实现标签预测,显著减少信息泄漏并提升性能。
2024-02-03 cs.AI cs.LG
Zero-shot Concept Bottleneck Models
Kyoto University(京都大学)
本文提出零样本概念瓶颈模型,通过大规模概念库实现无需训练的跨领域概念与标签预测,提供可解释的干预概念。
2026-04-03 cs.AI cs.CV cs.LG
Interpretable and Steerable Concept Bottleneck Sparse Autoencoders
University of California, San Diego(加州大学圣迭戈分校);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
本文提出CB-SAE框架,通过剪枝低效神经元和增加概念瓶颈提升LVLMs和图像生成任务的可解释性和可操控性,效果提升分别为32.1%和14.5%。
2026-03-30 cs.CV cs.LG
Probabilistic Concept Bottleneck Models
Seoul National University(首尔国立大学)
针对CBM确定性概念预测无法处理概念歧义的问题,本文提出ProbCBM,用概率概念嵌入建模并传递概念不确定性,从而提升类别预测解释的可靠性。
2023-06-02 cs.AI cs.CV cs.LG
Learning to Intervene on Concept Bottlenecks
TU Darmstadt(达姆施塔特工业大学);Hessian Center for Artificial Intelligence (hessian.AI)(黑森人工智能中心);Centre for Cognitive Science, TU Darmstadt(达姆施塔特工业大学认知科学中心);German Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
提出概念瓶颈记忆模型(CB2Ms),利用双重记忆保留并泛化过去干预,使模型能自动识别错误并重用干预以提升性能,在分布偏移等场景下有效减少人工干预需求。
2024-06-04 cs.AI cs.LG
Driving through the Concept Gridlock: Unraveling Explainability Bottlenecks in Automated Driving
University of California, San Diego(加州大学圣迭戈分校);InfoTech Labs, Toyota Motor North America R&D(丰田汽车北美研发中心InfoTech实验室)
本文提出将概念瓶颈作为视觉特征用于自动驾驶控制命令预测与行为解释,通过学习人类可理解的概念层解释驾驶场景,并判断行为变化源于外部刺激还是偏好变化,在保持可解释性的同时取得与潜在视觉特征相当的竞争性能。
2023-10-26 cs.CV cs.LG
Interactive Concept Bottleneck Models
Google Research(谷歌研究院)
本文提出交互式概念瓶颈模型,通过结合概念不确定性与预测影响的策略向人类查询概念标签,仅5次交互即在多个数据集上较基线提升5-10%准确率。
2023-04-27 cs.AI cs.LG
Towards Fine-Grained and Verifiable Concept Bottleneck Models
Bioengineering Department(生物工程部门);Imperial-X, Imperial College London, London, UK(帝国理工学院伦敦校区);Thoughtworks AI Labs, Singapore(Thoughtworks AI实验室,新加坡)
本文提出细粒度概念瓶颈模型框架,通过局部视觉证据 grounding 每个概念,提升模型透明度与可验证性,实验显示其概念空间信息完整且预测性能优异。
2026-05-14 cs.AI cs.LG
Hoeffding Concept Bottleneck Models with Applications to Overhead Images
Thales cortAIx-Labs(泰雷兹 cortAIx 实验室);Université Paris-Saclay, CentraleSupélec(巴黎-萨克雷大学,中央理工-巴黎高等学院)
针对线性概念瓶颈模型可解释性差和信息泄露问题,提出基于Hoeffding泛函分解的非线性稀疏聚合方法HCBM,并证明其对概念间泄露的鲁棒性,在分类和俯视图像目标检测任务中优于传统线性CBM。
2026-10-14 cs.AI cs.LG stat.ML
Mixture of Concept Bottleneck Experts
University of Padua(帕多瓦大学)
提出概念瓶颈专家混合模型(M-CBE),通过引入多个专家表达式和灵活的函数形式,在保持可解释性的同时提升预测精度和适应性。
2026-06-01 cs.AI cs.LG
GlassMol: Interpretable Molecular Property Prediction with Concept Bottleneck Models
Northwestern University(西北大学);AbbVie(阿比维)
GlassMol通过自动化概念整理和LLM引导的概念选择,解决分子属性预测中的可解释性与性能权衡问题。
2026-03-01 cs.AI cs.LG
Coarse-to-Fine Concept Bottleneck Models
Inria(法国国家信息与自动化研究所);University of Montpellier(蒙彼利埃大学);Inrae(法国国家农业食品与环境研究院)
本文提出由粗到细的概念瓶颈模型框架,结合视觉语言模型与贝叶斯稀疏选择方法,在两个粒度上利用图像块区域的概念层次结构,实现了优于现有CBM方法的可解释决策。
2024-06-27 cs.LG stat.ML
DF-CBM: Region-Aware Concept Bottleneck Models for Deepfake Detection
Kingston University London(伦敦金斯顿大学);Centre for Research and Technology Hellas (CERTH)(希腊研究与技术中心)
提出DF-CBM,一种区域感知概念瓶颈模型,通过概念预测与掩蔽注意力实现可解释的深度伪造检测,优于概念基线并接近黑盒检测器性能。
2026-09-29 cs.CV cs.LG
Causally Reliable Concept Bottleneck Models
Università della Svizzera Italiana(瑞士意大利大学);University of Liechtenstein(利赫泰森大学);Politecnico di Torino(托尼诺理工学院);IBM Research(IBM研究院);Scuola Universitaria Professionale della Svizzera Italiana(瑞士意大利专业大学)
本文提出C$^2$BMs,一种基于概念的因果可靠模型,通过结构化概念瓶颈提升可解释性和因果推理能力。
2026-01-31 cs.AI cs.LG
VLG-CBM: Training Concept Bottleneck Models with Vision-Language Guidance
UC San Diego(加州大学圣迭戈分校)
针对现有概念瓶颈模型存在的概念预测不匹配、信息泄漏导致解释不可信的问题,提出视觉-语言引导的VLG-CBM框架,结合开放域接地目标检测器实现视觉接地概念标注,提出NEC指标控制信息泄漏,在五个基准上显著提升准确率并保障概念的可信性与可解释性。
2025-01-16 cs.CV cs.LG
Revealing Combinatorial Reasoning of GNNs via Graph Concept Bottleneck Layer
Tongji University, Shanghai, China(同济大学);City University of Macau, Macau, China(澳门城市大学)
本文提出图概念瓶颈层,通过将概念视为图词并利用语言模型学习嵌入,提升GNNs的组合推理可解释性与性能。
2026-03-02 cs.AI cs.LG