PSEO: Optimizing Post-hoc Stacking Ensemble Through Hyperparameter Tuning
Beicheng Xu 1(Xu Beicheng 团队);Wei Liu 1(Liu Wei 团队);Keyao Ding 1(Ding Keyao 团队);Yupeng Lu 1(Lu Yupeng 团队);Bin Cui 1(Cui Bin 团队)
本文提出PSEO框架,通过二元二次规划选择基模型并优化堆叠集成策略,提升多层堆叠的性能,实验证明在80个公开数据集上取得最佳测试排名。
2025-11-09 cs.LG
Contextualizing Hate Speech Classifiers with Post-hoc Explanation
University of Southern California(南加州大学)
在不平衡数据集上训练的仇恨语音分类器很难确定“同性恋”或“黑人”等群体标识符是否以冒犯或偏见的方式使用。当这些标识符存在时,这种偏见表现为误报,这是由于模型无法学习构成对标识符的仇恨使用的上下文。我们从微调的BERT分类器中提取SOC事后解释,以有效地检测对身份术语的偏见。然后,我们提出了一种新的正则化技术的基础上,这些解释,鼓励模型学习组标识符的上下文,除了标识符本身。我们的方法在限制域外数据的误报方面优于基线,同时保持或提高域内性能。项目页面:https://inklab.usc.edu/contextualize-hate-speech/。
2020-07-06 cs.CL cs.IR cs.LG
HAPEns: Hardware-Aware Post-Hoc Ensembling for Tabular Data
HAPEns通过多目标优化方法,在表格数据集成中平衡预测性能与硬件效率,实验表明其在性能和成本权衡上优于现有方法。
2026-08-05 cs.LG
Meta-Cal: Well-controlled Post-hoc Calibration by Ranking
KU Leuven(鲁汶大学)
在许多应用中,期望分类器不仅做出准确的预测,而且输出校准的后验概率。然而,许多现有的分类器,特别是深度神经网络分类器,往往是未校准的。事后校准是一种通过学习校准图来重新校准模型的技术。现有的方法主要集中在构建校准图与低校准误差,然而,这种质量是不够的校准是有用的。在本文中,我们介绍了两个约束条件,值得考虑在设计一个事后校准的校准图。然后,我们提出Meta-Cal,这是建立在一个基地校准和排名模型。在一些温和的假设下,给出了两个高概率界关于这些约束。在CIFAR-10、CIFAR-100和ImageNet以及一系列流行的网络架构上的实证结果表明,我们提出的方法在事后多类分类校准方面的性能明显优于当前最先进的方法。
2021-06-23 cs.LG stat.ML
How to Fix a Broken Confidence Estimator: Evaluating Post-hoc Methods for Selective Classification with Deep Neural Networks
Department of Electrical and Electronic Engineering Federal University of Santa Catarina (UFSC)(电子与电气工程系联邦圣卡塔琳娜大学(UFSC))
本文通过事后方法修复深度神经网络中损坏的置信度估计器,提出对logits进行p-范数归一化后取最大logit作为置信度估计,显著提升选择性分类性能,使其几乎完全由准确率决定。
2024-05-24 cs.LG
Reliability, Faithfulness, and the Limits of Post-hoc Explanations of Opaque Scientific Models
socius labs(socius实验室)
本文论证事后解释方法不能仅凭可靠性和忠实性保证对现象结构的洞察,需外部验证支持候选假设。
2026-06-28 cs.LG
Post hoc Explanations may be Ineffective for Detecting Unknown Spurious Correlation
MIT(麻省理工学院);Google Research(谷歌研究院)
我们调查三种类型的事后模型的解释-特征属性,概念激活,和训练点排名-是否有效地检测模型的依赖虚假信号的训练数据。具体来说,我们考虑的情况下,要检测到的虚假信号是未知的,在测试时,用户的解释方法。我们设计了一种经验方法,该方法使用半合成数据集以及预先指定的虚假伪影来获得可验证地依赖于这些虚假训练信号的模型。然后,我们提供了一套指标,评估解释方法的可靠性,在各种条件下的虚假信号检测。我们发现,事后的解释方法测试是无效的,特别是对于不可见的文物,如背景模糊时,在测试时的虚假的工件是未知的。此外,我们发现,特征归因方法容易错误地指示依赖于虚假信号,即使被解释的模型不依赖于虚假的文物。这一发现使人们对这些方法的实用性产生了怀疑,在实践者手中,用于检测模型对虚假信号的依赖。
2022-12-09 cs.LG
Federated Learning with Ad-hoc Adapter Insertions: The Case of Soft-Embeddings for Training Classifier-as-Retriever
webAI
本文提出在冻结的小语言模型前插入可训练适配器生成软嵌入,并附加分类器头作为检索器,结合联邦学习与差分隐私实现在边缘设备上高效、隐私保护的RAG编码器更新。
2025-09-20 cs.LG
Distributionally Robust Post-hoc Classifiers under Prior Shifts
UC Santa Cruz(加州大学圣克鲁兹分校);Google Research(谷歌研究院)
针对类别或群体先验分布偏移问题,本文提出一种轻量级事后分类器方法,通过对预训练模型预测进行缩放调整来最小化目标分布周围的分布鲁棒损失,并提供了可证明的保证。
2023-09-16 cs.AI cs.LG
Augmented Functional Random Forests: Classifier Construction and Unbiased Functional Principal Components Importance through Ad-Hoc Conditional Permutations
Faculty of Technological and Innovation Sciences(技术与创新科学学院);Faculty of Economics and Law(经济与法学院)
本研究将函数型数据分析与树模型结合,提出增强型函数型分类树和随机森林,通过特设条件置换实现无偏函数主成分重要性评估,在真实与模拟数据集上均提升了分类性能。
2024-08-23 cs.LG math.ST stat.ME
Efficient Post-Hoc Uncertainty Calibration via Variance-Based Smoothing
University of Antwerp(安特卫普大学)
针对现有不确定性估计方法计算成本高的问题,提出基于方差的缩放框架,利用输入子部分预测的方差作为不确定性代理,实现高效的事后校准,还可扩展深度集成以提升预测分布表达力。
2025-03-19 cs.LG
LMEMs for post-hoc analysis of HPO Benchmarking
University of Freiburg(弗赖堡大学);Mila(米拉研究所);ELLIS Institute Tübingen(埃利斯研究所蒂宾根分所)
本文提出用线性混合效应模型对HPO基准测试进行事后显著性检验,以揭示平均性能掩盖的方法间差异,并通过PriorBand数据案例验证其能发现新见解。
2024-08-05 cs.LG
Implet: A Post-hoc Subsequence Explainer for Time Series Models
Department of Computer Science(计算机科学系);UC Davis(加州大学戴维斯分校);College of Engineering(工程学院);Georgia Institute of Technology(佐治亚理工学院)
本文提出事后解释器 Implet,通过识别影响预测的关键时间子序列并引入队列级解释框架,提升时间序列模型解释的准确性与简洁性。
2025-05-13 cs.LG
From Model Explanation to Data Misinterpretation: A Cautionary Analysis of Post Hoc Explainers in Business Research
Yale University(耶鲁大学);University of New Hampshire(新罕布什尔大学);Tsinghua University(清华大学);Purdue University(普渡大学)
本文警示事后解释器在商业研究中用于假设检验的不足,指出其作为探索性工具生成而非验证实质性见解的作用。
2026-03-06 cs.LG
Invertible Logits Transformation for Accuracy-Preserving Post-Hoc Uncertainty Calibration
University of Pennsylvania(宾夕法尼亚大学)
针对现有事后不确定性校准方法的缺陷,提出可逆对数变换InvLT,通过共享标量MLP实现参数不随类别数增长,在保留分类准确率的同时提升校准性能。
2026-08-12 cs.LG
Scaling of Class-wise Training Losses for Post-hoc Calibration
Chung-Ang University(中央大学);Naver CLOVA
针对类别级训练损失发散导致预测不可靠的问题,提出一种通过多个类别级缩放因子同步训练损失的事后校准方法,在保持准确性的同时提升校准性能,且适用于不平衡数据集。
2023-06-19 cs.LG
Revisiting the robustness of post-hoc interpretability methods
National University of Singapore(新加坡国立大学);College of Design and Engineering(设计与工程学院);University of Geneva(日内瓦大学);University hospitals of Geneva(日内瓦大学医院)
针对事后可解释性方法缺乏样本级细粒度评估的问题,提出一种新方法和两个新指标来评估其鲁棒性,并发现鲁棒性与粗粒度性能相关联。
2024-07-29 cs.AI cs.LG
Perturb and Correct: Post-Hoc Ensembles using Affine Redundancy
Department of Computing(计算系)
本文提出P&C方法,通过在预训练网络中引入随机隐藏层扰动并进行最小二乘校正,构建出在校准数据上一致但远离时分歧的预测器,实现ID/OOD的优异权衡。
2026-10-06 cs.LG
On the Robustness of Post-hoc GNN Explainers to Label Noise
Aarhus University(奥胡斯大学);Rice University(莱斯大学)
本研究系统评估了事后GNN解释器在不同程度标签噪声下的鲁棒性,发现解释器易受标签扰动影响,轻微噪声即可大幅损害解释质量,并探讨了高噪声下解释有效性的恢复现象。
2023-09-08 cs.AI cs.LG
TwinTrack: Post-hoc Multi-Rater Calibration for Medical Image Segmentation
ICube Laboratory, CNRS UMR-7357, University of Strasbourg(ICube实验室,CNRS UMR-7357,斯特拉斯堡大学);CLCC Institut Strauss(CLCC斯特拉斯堡研究所);German Cancer Research Center (DKFZ) Heidelberg, Division of Medical Image Computing(海德堡德国癌症研究中心(DKFZ),医学图像计算部门);Pattern Analysis and Learning Group, Department of Radiation Oncology, Heidelberg University Hospital(放射肿瘤科,海德堡大学医院模式分析与学习小组);Medical Faculty Heidelberg, Heidelberg University(海德堡医学系,海德堡大学)
针对医学图像分割中多评分者不确定性建模问题,TwinTrack通过后验校准方法将集成分割概率校准到经验人类响应(MHR),提高概率校准和可解释性。
2026-05-18 cs.LG
Fooling LIME and SHAP: Adversarial Attacks on Post hoc Explanation Methods
University of California, Irvine(加州大学欧文分校);Harvard University(哈佛大学)
随着机器学习黑匣子越来越多地被部署在医疗保健和刑事司法等领域,人们越来越重视构建以可解释的方式解释这些黑匣子的工具和技术。这些解释被领域专家用来诊断系统性错误和黑箱的潜在偏见。在本文中,我们证明了事后解释技术,依赖于输入扰动,如石灰和SHAP,是不可靠的。具体来说,我们提出了一种新的脚手架技术,通过允许敌对实体制作任意所需的解释,有效地隐藏了任何给定分类器的偏见。我们的方法可以用于支架任何偏见的分类器在这样一种方式,其预测的输入数据分布仍然存在偏见,但事后解释的支架分类器看起来无害。使用多个真实世界数据集(包括COMPAS)的广泛评估,我们展示了我们的框架制作的极端偏见(种族主义)分类器如何轻松地欺骗流行的解释技术,如LIME和SHAP,以生成不反映潜在偏见的无害解释。
2020-02-03 cs.AI cs.LG stat.ML
Post-Hoc Explanations Fail to Achieve their Purpose in Adversarial Contexts
University of Tübingen(蒂宾根大学)
现有和计划中的立法规定了提供有关机器学习算法及其功能的信息的各种义务,通常被解释为“解释”的义务。许多研究人员建议使用事后解释算法来实现这一目的。在本文中,我们结合法律,哲学和技术参数表明,事后解释算法是不适合实现法律的目标。事实上,大多数要求解释的情况都是对抗性的,这意味着解释的提供者和接受者有相反的利益和动机,因此提供者可能会为了自己的目的而操纵解释。我们表明,这一根本冲突无法解决,因为高度的模糊性的事后解释在现实的应用场景。因此,事后解释算法不适合实现法律规范所固有的透明度目标。相反,有必要更明确地讨论“可解释性”义务所依据的目标,因为这些目标往往可以通过其他机制更好地实现。特别是鉴于目前正在就欧洲联盟《人工智能法》草案进行谈判,迫切需要就对抗性背景下的事后解释的潜力和局限性进行更公开和诚实的讨论。
2022-05-10 cs.AI cs.LG
Issues with post-hoc counterfactual explanations: a discussion
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);AXA(安盛);Polish Academy of Science(波兰科学院)
反事实事后可解释性方法已被证明是有用的工具,以生成解释的训练黑盒分类器的预测。然而,他们对数据和分类器的假设使他们在许多情况下不可靠。在本文中,我们讨论了三个理想的属性和方法来量化它们:邻近性,连通性和稳定性。此外,我们还说明了事后反事实方法不满足这些属性的风险。
2019-06-11 cs.AI cs.LG stat.ML
Beyond Post-Hoc Temperature Scaling: Bilevel Optimization for LLM Calibration
Dartmouth College(达特茅斯学院);University of Pennsylvania(宾夕法尼亚大学);National University of Singapore(新加坡国立大学)
针对LLM偏好对齐导致的过度自信与校准问题,提出基于双层优化的校准方法,通过最大化预测分布熵实现,在多项选择与开放式问答任务中提升了校准效果与域外泛化能力。
2026-08-10 cs.LG
In Defence of Post-hoc Explainability
socius labs(socius实验室)
该论文构建基于中介理解与有限事实性的哲学框架,回应事后可解释性方法的可靠性与认知地位质疑,结合生物医学ML应用证明其恰当使用可生成新假设、推动科学理解,确立其作为ML领域科学知识生产工具的合法性。
2025-10-30 cs.AI cs.LG
Explanations Go Linear: Post-hoc Explainability for Tabular Data with Interpretable Meta-Encoding
University of Pisa(比萨大学);ISTI-CNR(意大利国家研究委员会ISTI研究所);Scuola Normale Superiore - Pisa, Italy(比萨大学正常学院 - 意大利)
本文提出ILLUME框架,结合全局训练的替代模型与实例特定的线性变换,生成准确且高效的局部和全局解释,解决传统替代方法的局限性。
2026-03-18 cs.LG
Smooth InfoMax -- Towards Easier Post-Hoc Interpretability
University of Antwerp(安特卫普大学);Vrije Universiteit Brussel(布鲁塞尔自由大学)
提出Smooth InfoMax方法,通过概率模块和InfoNCE损失优化,在语音数据上实现更平滑解耦的潜在空间,提升后验可解释性。
2025-06-21 cs.AI cs.LG
Branch & Learn with Post-hoc Correction for Predict+Optimize with Unknown Parameters in Constraints
The Chinese University of Hong Kong(香港中文大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
结合机器学习和约束优化,Predict + Optimize可处理包含求解时未知参数的优化问题。以前的作品只关注目标未知数的情况。最近提出了一个新的框架,以满足未知的约束,通过引入一个损失函数,所谓的事后后悔,考虑到纠正的成本不可满足的预测。由于事后后悔是不可微的,以前的工作只计算其近似。虽然事后后悔的概念是通用的,但其具体实现仅适用于包装和覆盖线性规划问题。在本文中,我们首先展示了如何计算事后后悔精确的任何优化问题可解的递归算法满足简单的条件。实验表明,与早期的近似方法相比,解决方案的质量有了很大的提高。此外,我们的实验表明,不同的组合的校正和惩罚函数中使用的事后后悔相同的基准的经验行为。研究结果为在不同的应用场景中定义适当的事后后悔提供了见解。
2023-03-12 cs.AI cs.LG math.OC
Calibrating Deep Neural Network Classifiers on Out-of-Distribution Datasets
UC Riverside(加州大学河滨分校)
为了提高深度神经网络(DNN)分类器的可信度,表示正确性真实可能性的准确预测置信度至关重要。为此,已经提出了许多事后校准方法来利用轻量级模型将目标DNN的输出层映射到校准的置信度。尽管如此,在实践中,在分布外(OOD)数据集上,目标DNN通常会以高置信度对样本进行错误分类,这对现有的校准方法产生准确的置信度带来了重大挑战。在本文中,我们提出了一种新的事后置信度校准方法,称为CCAC(带有辅助类的置信度校准),用于OOD数据集上的DNN分类器。CCAC的关键新颖之处在于校准模型中的一个辅助类,它将错误分类的样本与正确分类的样本分开,从而有效地减轻了目标DNN的错误。我们还提出了一个简化版本的CCAC,以减少自由参数,并促进转移到一个新的看不见的数据集。我们在不同DNN模型,数据集和应用程序上的实验表明,CCAC可以始终优于先前的事后校准方法。
2020-06-16 cs.LG stat.ML
Post-hoc Stochastic Concept Bottleneck Models
Department of Computer Science, ETH Zurich(苏黎世联邦理工学院计算机科学系)
本文提出PSCBMs,通过在预训练CBM中添加小的协方差预测模块,实现轻量级改进,无需重新训练即可提升概念和目标准确率,并在干预下表现更优。
2026-03-14 cs.LG
ARC-STAR: Auditable Post-Hoc Correction for PDE Foundation Models
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Beijing University of Posts and Telecommunications(北京邮电大学);North China Electric Power University(华北电力大学)
针对PDE基础模型预测漂移且误差空间集中的问题,提出冻结求解器的事后修正框架ARC-STAR,通过全局修正、局部精炼和预算感知路由三阶段实现可审计、低误差的修正。
2026-05-25 cs.LG
Unifying Post-hoc Explanations of Knowledge Graph Completions
Sony AI, Barcelona, Spain(索尼人工智能,巴塞罗那,西班牙)
针对知识图谱补全缺乏统一事后解释框架的问题,提出基于多目标优化的分类法,统一现有算法,改进评估协议,强调可解释性对用户查询的重要性。
2026-06-16 cs.AI cs.LG
Parameterized Temperature Scaling for Boosting the Expressive Power in Post-Hoc Uncertainty Calibration
Technical University of Munich(慕尼黑工业大学);German Cancer Research Center (DKFZ)(德国癌症研究中心(DKFZ));Goethe University Frankfurt(法兰克福歌德大学)
我们解决了不确定度校准的问题,并介绍了一种新的校准方法,参数化温度标度(PTS)。标准深度神经网络通常产生未校准的预测,可以使用事后校准方法将其转换为校准的置信度分数。在这方面的贡献,我们表明,准确性保持国家的最先进的事后校准品的性能是有限的,其内在的表达能力。我们通过计算预测特定的温度来推广温度缩放,由神经网络参数化。我们通过大量的实验表明,我们新的保持准确性的方法在大量的模型架构,数据集和指标上始终优于现有的算法。
2022-09-17 cs.AI cs.LG
To Each Metric Its Decoding: Post-Hoc Optimal Decision Rules of Probabilistic Hierarchical Classifiers
Soda, Inria Saclay, France(Soda,法国萨克利研究所);Fundamental Technologies, USA(Fundamental Technologies,美国)
本文提出针对目标度量对概率层次分类器输出进行事后最优解码的框架,推导了节点预测及节点子集预测场景下的最优决策规则,并通过实验证明其在欠确定场景中优于启发式方法。
2025-06-02 cs.LG stat.ML
Heterogeneous Calibration: A post-hoc model-agnostic framework for improved generalization
LinkedIn Corporation(领英公司)
我们引入了异构校准的概念,该概念将事后模型不可知的转换应用于模型输出,以提高AUC在二进制分类任务上的性能。我们考虑了过度自信的模型,其在训练数据上的表现明显优于测试数据,并直观地解释了为什么它们可能没有充分利用数据中的适度有效的简单模式。我们将这些简单的模式称为特征空间的异质分区,并从理论上证明,完美地分别校准每个分区可以优化AUC。这给出了作为事后程序的异构校准的一般范例,通过该事后程序,通过基于树的算法识别特征空间的异构分区,并将事后校准技术应用于每个分区以提高AUC。虽然这个框架的理论最优性适用于任何模型,但我们专注于深度神经网络(DNN),并在各种开源数据集上测试这种范式的最简单实例。实验证明了该框架的有效性,以及未来应用更高性能的分区方案和更有效的校准技术的潜力。
2022-02-10 cs.LG stat.ML
Propagate, Then Sharpen: Post-Hoc Refinement of Frozen Node Classifiers
University of Bergen(卑尔根大学);Norwegian Research Centre (NORCE)(挪威研究中心(NORCE))
提出PtS方法,通过交替传播和锐化来精炼冻结节点分类器的预测,无需访问特征或参数,在多个图上优于APPNP,并显著减少深度传播的准确率损失。
2026-09-29 cs.LG stat.ML
Quantifying Model Complexity via Functional Decomposition for Better Post-Hoc Interpretability
LMU Munich(慕尼黑大学)
可以采用诸如部分依赖图的事后模型不可知解释方法来解释复杂的机器学习模型。尽管这些解释方法可以应用于模型的复杂性,但如果模型太复杂,特别是w.r.t.,它们可能会产生误导和冗长的结果。功能交互。为了量化任意机器学习模型的复杂性,我们提出了基于功能分解的模型不可知复杂性度量:使用的特征数量,交互强度和主效应复杂性。我们表明,事后解释的模型,最大限度地减少了三个措施是更可靠和紧凑。此外,我们展示了这些措施的应用程序中的多目标优化方法,同时最大限度地减少损失和复杂性。
2019-09-23 cs.LG stat.ML
Conformal Semantic Image Segmentation: Post-hoc Quantification of Predictive Uncertainty
IRT Saint Exupéry;Institut de Mathématiques de Toulouse(图卢兹数学研究所);SNCF(法国国家铁路公司)
本文提出基于保形预测的事后轻量方法,为语义图像分割生成具有覆盖保证的预测集,并结合热力图可视化与有效性指标量化不确定性。
2024-04-16 cs.CV cs.LG
Density-Ratio Losses for Post-Hoc Learning to Defer
KTH(皇家理工学院);Google Research(谷歌研究)
本文研究了后验学习延迟(L2D)问题,通过理想分布的视角定义延迟,并提出基于密度比损失的CPE损失函数,通过阈值判断延迟决策,从而在不重新训练的情况下调整延迟率,同时揭示了Chow规则与专家倾斜贝叶斯后验之间的联系。
2026-11-11 cs.LG stat.ML
Post-Hoc Reversal: Are We Selecting Models Prematurely?
Stanford University(斯坦福大学);Carnegie Mellon University(卡内基梅隆大学);Chan Zuckerberg Biohub(陈·扎克伯格生物中心)
该研究发现模型性能在应用事后变换后会出现“事后反转”现象,据此提出事后选择技术以优化模型开发决策,在多类数据集上验证有效,在LLM指令微调任务中MMLU提升超1.5倍。
2024-10-04 cs.AI cs.LG stat.ML
Are We Merely Justifying Results ex Post Facto? Quantifying Explanatory Inversion in Post-Hoc Model Explanations
Arizona State University(亚利桑那州立大学);University of Virginia(弗吉尼亚大学);Michigan State University(密歇根州立大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
针对事后模型解释是否存在解释倒置(从输出合理化预测而非反映真实决策过程)的问题,提出IQ框架量化倒置程度,发现LIME、SHAP等方法易出现倒置,进而提出RBP增强方法,理论上可缓解倒置且在合成数据上平均降低1.8%。
2025-04-11 cs.AI cs.LG
Mixtures of Laplace Approximations for Improved Post-Hoc Uncertainty in Deep Learning
University of Tübingen(图宾根大学);University of Cambridge(剑桥大学);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
深度神经网络倾向于对离群值进行过度自信的预测。贝叶斯神经网络和深度集成都被证明可以在一定程度上缓解这个问题。在这项工作中,我们的目标是结合这两种方法的优点,提出用高斯混合模型后验进行预测,该模型由独立训练的深度神经网络的拉普拉斯近似的加权和组成。该方法可以与任何一组预先训练的网络一起使用,并且与常规集成相比只需要很小的计算和内存开销。我们从理论上验证,我们的方法减轻过度自信“远离”的训练数据和经验比较对国家的最先进的基线标准的不确定性量化基准。
2021-11-05 cs.LG stat.ML
Ranked Activation Shift for Post-Hoc Out-of-Distribution Detection
Graz University of Technology(格拉茨技术大学)
本文提出一种无需超参数的后验分布检测方法,通过替换排序激活幅度为固定分布参考轮廓,实现跨数据集和架构的稳定性能,同时保持分布内分类准确度。
2026-07-01 cs.CV cs.LG
Post-hoc Uncertainty Calibration for Domain Drift Scenarios
Technical University of Munich(慕尼黑工业大学);Siemens AG(西门子股份公司);German Cancer Consortium(德国癌症联盟);German Cancer Research Center Heidelberg(海德堡德国癌症研究中心);Frankfurt University(法兰克福大学)
我们解决不确定度校准的问题。虽然标准深度神经网络通常产生未校准的预测,但可以使用事后校准方法来实现表示预测的真实可能性的校准置信度分数。然而,迄今为止,这些方法的重点一直是在域内校准。我们的贡献是双重的。首先,我们表明,现有的事后校准方法产生高度过度自信的预测下域转移。其次,我们引入了一个简单的策略,在执行事后校准步骤之前,将扰动应用于验证集中的样本。在广泛的实验中,我们证明了这种扰动步骤导致在广泛的架构和建模任务的域偏移下更好的校准。
2021-06-23 cs.AI cs.LG stat.ML
Explaining Time Series Classifiers with PHAR: Rule Extraction and Fusion from Post-hoc Attributions
Jagiellonian Human-Centered AI Lab, Mark Kac Center for Complex Systems Research(杰克利昂人类中心人工智能实验室、马克·卡复杂系统研究中心);Institute of Applied Computer Science, Jagiellonian University(应用计算机科学研究所、杰克利昂大学)
PHAR通过提取和融合规则提升时间序列分类模型的可解释性,提供简洁的人类可读规则以增强透明度和实用性。
2026-01-16 cs.AI cs.LG
Post-hoc explanation of black-box classifiers using confident itemsets
Institute for Artificial Intelligence and Decision Support(人工智能与决策支持研究所);Medical University of Vienna(维也纳医科大学)
黑盒人工智能(AI)方法,例如深度神经网络,已经被广泛用于构建预测模型,该预测模型可以提取数据集中的复杂关系并对新的不可见数据记录进行预测。然而,很难信任这些方法做出的决策,因为它们的内部工作和决策逻辑对用户是隐藏的。可解释的人工智能(XAI)是指试图解释黑盒AI模型如何产生其结果的系统。事后XAI方法通过提取特征值和预测之间的关系来近似黑盒的行为。基于扰动和决策集的方法是常用的事后XAI系统。前一种模型依赖于数据记录的随机扰动来构建局部或全局线性模型,以解释单个预测或整个模型。后一种算法使用那些出现频率更高的特征值来构造一组决策规则,这些规则产生与目标黑盒相同的结果。然而,这两类XAI方法有一些局限性。随机扰动不考虑特征值在不同子空间中的分布,导致误导近似。决策集只关注频繁出现的特征值,而忽略了特征和类标签之间的许多重要相关性,这些特征和类标签出现的频率较低,但准确地表示了模型的决策边界。在本文中,我们提出了一种解释方法,称为置信项集解释(CIE),以解决上述挑战。我们引入了置信项集,这是一组与特定类别标签高度相关的特征值。CIE利用置信项集将模型的整个决策空间离散化为更小的子空间。
2020-09-20 cs.AI cs.LG
Post-hoc Interpretability for Neural NLP: A Survey
École Polytechnique de Montréal(蒙特利尔综合理工学院);Mila(米拉研究所);McGill University(麦吉尔大学);Facebook(脸书)
本文综述了神经自然语言处理中的事后可解释性方法,系统分类其解释方式、深入分析各类方法并讨论验证问题,以促进模型的安全、伦理与问责。
2023-11-28 cs.CL cs.LG cs.NE
IrekoGPT: Turning Structured Pruning into Post-Hoc Slimmable LLMs
University of Modena and Reggio Emilia(摩德纳和雷焦艾米利亚大学)
IrekoGPT通过保留投影矩阵并逐层校准,将预训练大语言模型转化为推理时可调宽度的可瘦身模型,在Llama和Qwen上优于PCA方法,尤其在高压缩率下。
2026-10-02 cs.LG stat.ML
In defence of post-hoc explanations in medical AI
Center for the Philosophy of AI(哲学人工智能中心);University of Copenhagen(哥本哈根大学);Department of Philosophy and History of Ideas(哲学与思想史系);Aarhus University(奥胡斯大学)
本文为医疗AI中的事后解释辩护,指出其虽无法完全复制黑盒推理过程,但能提升用户理解、提高临床团队准确性并辅助医生决策。
2025-04-29 cs.AI cs.CY cs.HC
Post-hoc loss-calibration for Bayesian neural networks
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);IBM Research(IBM研究院)
贝叶斯决策理论提供了一个优雅的框架下采取最佳行动的不确定性时,易于处理的后验分布。然而,现代贝叶斯模型通常涉及难以处理的后验,这些后验是用可能是粗糙的替代品近似的。这种困难产生了损失校准技术,旨在学习有利于高效用决策的后验近似。在本文中,专注于贝叶斯神经网络,我们开发的方法来纠正近似后验预测分布,鼓励他们喜欢高效用的决定。与以前的工作相比,我们的方法是不可知的近似推理算法的选择,允许有效的测试时间决策,通过摊销,并根据经验产生更高质量的决策。我们通过跨越各种任务和数据集的对照实验证明了我们方法的有效性。
2021-06-13 cs.LG stat.ML
Bayesian post-hoc regularization of random forests
Institute for Medical Informatics, Statistics and Documentation(医学信息学、统计学与文献学研究所);Medical University Graz(格拉茨医科大学)
针对随机森林易过拟合噪声特征的问题,提出贝叶斯事后正则化,依据叶节点距根节点的远近调整其影响,在多个数据集上取得优于或可比现有方法的泛化表现。
2023-06-06 cs.AI cs.LG
Attention Meets Post-hoc Interpretability: A Mathematical Perspective
Universit\'e C\ ote d'Azur, Inria, CNRS
针对注意力权重能否作为模型解释的争论,本文从数学上分析简单注意力架构,比较事后解释与注意力解释,证明事后方法虽有局限,却能提供更有用的内部行为洞见。
2024-06-17 cs.CL cs.LG stat.ML
Explainer Divergence Scores (EDS): Some Post-Hoc Explanations May be Effective for Detecting Unknown Spurious Correlations
University of Toronto(多伦多大学);University of Cambridge(剑桥大学)
最近的研究表明,事后解释器可能无法有效检测深度神经网络(DNN)中的虚假相关性。然而,我们发现,现有的评估框架存在严重的缺陷。以前提出的指标是非常难以解释的,并没有直接可比的解释方法之间。为了缓解这些限制,我们提出了一种新的评价方法,解释者分歧分数(EDS),接地在信息论的方法来评估解释。EDS易于解释,并且在解释器之间具有自然的可比性。我们使用我们的方法来比较三种不同的解释器的检测性能-特征归属方法,有影响力的例子和概念提取,在两个不同的图像数据集。我们发现事后解释器通常包含有关DNN对虚假工件的依赖性的大量信息,但通常是人类用户无法察觉的。这表明需要新的技术,可以使用这些信息来更好地检测DNN对虚假相关性的依赖。
2022-11-14 cs.AI cs.LG
SAGE: Retain-Aware Post-Hoc Sanitization of Final Unlearning Vector
Institute of Image Processing and Pattern Recognition, Shanghai Jiao Tong University(上海交通大学图像处理与模式识别研究所)
提出SAGE方法,通过事后净化最终更新向量,在不重新运行原始遗忘流程的情况下,缓解大语言模型遗忘与保留能力之间的权衡。
2026-06-18 cs.AI cs.LG