An Additive Model View to Sparse Gaussian Process Classifier Design
Yahoo! Labs（雅虎实验室）；Indian Institute of Science（印度科学学院）
我们考虑的问题，设计一个稀疏高斯过程分类器（SGPC），推广良好。将SGPC设计看作是构建一个类似于boosting的加性模型，我们提出了一种高效的SGPC设计方法来执行预测损失函数的逐阶段优化。我们介绍了两个关键组件的新方法，即，场地参数估计和基向量选择。所提出的基于自适应采样的基向量选择方法有助于以降低的计算成本实现提高的泛化性能。该方法也可与其它场地参数估计方法结合使用。它具有与众所周知的信息向量机相似的计算和存储复杂性，适用于大型数据集。超参数可以通过优化预测损失函数来确定。实验结果表明，所提出的基向量选择方法在几个基准数据集上具有更好的泛化性能，特别是对于相对较小的基向量集大小或困难的数据集。
2012-06-26 cs.LG stat.ML
Optimization of Genomic Classifiers for Clinical Deployment: Evaluation of Bayesian Optimization to Select Predictive Models of Acute Infection and In-Hospital Mortality
Inflammatix, Inc.（英弗马特克斯公司）
急性感染，如果不能迅速和准确地发现，可能导致败血症，器官衰竭，甚至死亡。目前对急性感染的检测以及对患者病情严重程度的评估都是不完善的。通过定量血液中特定基因的表达水平来表征患者的免疫应答代表了完成这两项任务的可能更及时和精确的手段。机器学习方法提供了一个平台来利用这种“主机响应”来开发部署就绪的分类模型。有前途的分类器的优先级部分地依赖于超参数优化，其中包括网格搜索、随机采样和贝叶斯优化的许多方法已被证明是有效的。我们比较HO方法的发展，急性感染和住院死亡率的基因表达的29个诊断标志物的诊断分类。我们采用以部署为中心的方法进行综合分析，通过选择数据集分区和超参数优化目标以及在外部（以及内部）验证中评估选定的分类器，解释了多研究患者队列中的异质性。我们发现，贝叶斯优化选择的分类器在医院死亡率可以优于那些选择网格搜索或随机抽样。然而，与以前的研究相反：1）与网格搜索或基于随机采样的方法相比，贝叶斯优化在所有情况下选择分类器并不更有效，2）我们注意到，当使用贝叶斯优化的常见变体（即自动相关性确定）时，分类器性能仅在特定情况下有边际收益。我们的分析强调，需要进一步的实际，部署为中心的基准HO方法在医疗保健方面。
2020-10-13 cs.LG q-bio.QM stat.ML
Variable selection for Gaussian processes via sensitivity analysis of the posterior predictive distribution
用于高斯过程模型的变量选择通常使用自动相关性确定来完成，该自动相关性确定使用每个输入变量的逆长度尺度参数作为变量相关性的代理。这种隐式确定的相关性有几个缺点，防止在预测性能方面的最佳输入变量的选择。为了改善这一点，我们提出了两种新的变量选择方法的高斯过程模型，利用一个完整的模型在附近的训练点的预测，从而排名的变量根据其预测的相关性。我们对合成和真实世界数据集的实证结果表明，与自动相关性确定相比，在可变性和预测性能方面改进了变量选择。
2019-03-06 stat.ME stat.ML
Predictive Active Set Selection Methods for Gaussian Processes
我们提出了一个积极的集合选择框架高斯过程分类的情况下，数据集是足够大，使其推理禁止。我们的方案由活动集更新规则和基于边际似然最大化的超参数优化的两步交替过程组成。活动集更新规则依赖于高斯过程分类器的预测分布的能力，以估计数据点在被包括或从模型中移除时的相对贡献。这意味着我们可以使用它来包含对分类器决策过程具有潜在高影响的点，同时删除那些不太相关的点。我们介绍了两个基于不同标准的活动集规则，第一个更喜欢一个模型与可解释的活动集参数，而第二个把计算复杂性放在第一位，因此一个模型与活动集参数，直接控制其复杂性。我们还提供了理论和经验支持，我们的积极集选择策略是一个很好的近似一个完整的高斯过程分类。我们广泛的实验表明，我们的方法可以与国家的最先进的分类技术与合理的时间复杂度。源代码可在http://cogsys.imm.dtu.dk/passgp上公开获取。
2011-06-23 stat.ML
Comparison of Bayesian predictive methods for model selection
Aalto University（阿尔托大学）
本文的目的是比较几个广泛使用的贝叶斯模型选择方法在实际的模型选择问题，突出他们的差异，并给出建议的首选方法。我们专注于回归和分类的变量子集选择，并使用模拟和真实世界的数据进行了几个数值实验。结果表明，由于数据稀缺时效用估计的方差相对较高，因此交叉验证（CV）评分等效用估计的优化容易发现过拟合模型。这也可能导致在对所选模型的性能评估中产生大量选择诱导的偏见和乐观。从预测的角度来看，最好的结果是通过考虑模型的不确定性，形成完整的包容性模型，如贝叶斯模型平均解决方案的候选模型。如果包含模型过于复杂，则可以通过投影方法对其进行鲁棒简化，在该方法中，完整模型的信息被投影到子模型上。这种方法比基于CV分数的选择更不容易过拟合。总体而言，投影方法似乎也优于最大后验模型和最可能的变量的选择。研究还表明，模型选择可以大大受益于使用交叉验证搜索过程之外的指导模型大小的选择和评估的预测性能的最终选择的模型。
2016-03-23 cs.LG stat.ME
Optimal predictive model selection
通常，模型选择的目标是为未来预测选择一个模型，并且很自然地通过平方误差损失来衡量未来预测的准确性。在贝叶斯方法下，通常认为最佳预测模型是具有最高后验概率的模型，但情况不一定如此。在本文中，我们表明，在正常的线性模型中的选择，最佳的预测模型往往是中位概率模型，这是定义为那些变量的总体后验概率大于或等于1/2的模型。中位概率模型通常不同于最高概率模型。
2004-06-23 math.ST stat.TH
Application of Predictive Model Selection to Coupled Models
提出了一种预测贝叶斯模型选择方法来区分用于预测未观测到的感兴趣量（QoI）的耦合模型。气候、航空航天和国防等各种关键应用都需要准确的预测。引入模型问题来研究两个物理/子分量耦合产生的预测。对于每个物理领域，都有一组模型类和一组传感器观测值。然后，使用贝叶斯模型选择的预测方法的目标导向算法来选择最佳预测QoI的单个物理模型的组合。结果表明，最好的耦合模型的预测是一个提供最强大的预测分布的生活质量。
2011-07-05 cs.IT math.IT physics.data-an
Bayesian Estimation of Gaussian Graphical Models with Predictive Covariance Selection
高斯图形模型用于确定变量之间的条件关系。这是通过识别逆协方差阵中非零的非对角元素来实现的。当变量（p）与观测值（n）之比接近1时，协方差阵的极大似然估计量变得不稳定，需要收缩估计。虽然已经引入了几种经典（频率论）方法来解决这个问题，但完全贝叶斯方法在实践和方法学文献中仍然相对罕见。在这里，我们介绍了一种估计稀疏矩阵的贝叶斯方法，其中的条件关系确定与投影预测选择。该方法利用库尔贝克-莱布勒散度和交叉验证进行邻域选择，在低维和高维环境下重建逆协方差阵。通过模拟和应用示例，我们将性能与几种贝叶斯方法和图形套索以及TIGER进行了比较，TIGER类似地使用回归估计逆协方差阵。我们的研究结果表明，投影预测选择不仅具有优越的性能相比，选择最可能的模型和贝叶斯模型平均，特别是对于高维数据，而且相比贝叶斯和经典glasso方法。此外，我们表明，估计逆协方差阵与多元回归往往是更准确的，相对于各种损失函数，和效率比直接估计。在低维环境中，我们证明了投影预测选择也提供了有竞争力的性能。我们在R软件包GGMprojpred中实现了协方差选择的投影预测方法
2018-08-04 stat.AP stat.ME
Projection predictive model selection for Gaussian processes
我们提出了一种新的方法来简化的高斯过程（GP）模型，通过投影的信息包含在全包围模型和选择减少数量的变量的预测相关性的基础上。我们的合成和真实世界的数据集上的结果表明，所提出的方法相比，通过长度尺度参数的自动相关性确定（ARD），提高了变量相关性的评估。我们期望该方法有助于提高模型的可解释性，降低未来的测量成本，并减少进行新预测的计算时间。
2016-08-02 stat.ME
Projection Predictive Inference for Generalized Linear and Additive Multilevel Models
投影预测推理是一种决策理论贝叶斯方法，它将模型估计与决策相结合。给定先前构建的包括数据中存在的所有变量的参考模型，投影预测推理将其后验投影到变量子集的约束空间上。然后通过顺序添加相关变量来进行变量选择，直到预测性能令人满意。以前，投影预测推理已被证明只有广义线性模型（GLM）和高斯过程（GP），它表现出优越的性能，竞争变量的选择程序。在这项工作中，我们扩展了投影预测推理，以支持广义线性多水平模型（GLP-S）和广义加性多水平模型（GAMM）的变量和结构选择。我们的模拟和真实世界的实验表明，我们的方法可以大大降低所需的模型复杂度，达到参考预测性能，并实现良好的频率特性。
2020-10-14 stat.CO stat.ME
Robust Bayesian Predictive Model Selection using Bregman Divergence
Harvard University（哈佛大学）；University of Connecticut（康涅狄格大学）
针对基于对数得分的ELPD对异常值和尾部不匹配敏感的问题，提出基于Bregman散度的广义ELPD框架，通过β-散度族控制低密度观测影响，实现稳健模型选择。
2026-06-09 stat.ME
Predictive analysis of microarray data
Instituto de Matemática e Estatística da Universidade de São Paulo（圣保罗大学数学与统计学院）
本研究用贝叶斯非参数模型分析微阵列基因表达数据，聚焦未来可观测值预测，提出差异表达基因选择方法与分类器。
2014-06-10 stat.AP stat.ME
Advances in projection predictive inference
本文综述了投影预测推断的核心概念与最新进展，提出一种安全、高效、模块化的预测导向模型选择工作流程，并分析了其在因果设定中的局限性。
2024-08-06 stat.CO stat.ME
Evaluating the Predictive Performance of Positive-Unlabelled Classifiers: a brief critical review and practical recommendations for improvement
University of Kent（肯特大学）
正非标记（PU）学习是机器学习的一个不断发展的领域，旨在从由标记的正和未标记的实例组成的数据中学习分类器。虽然已经做了很多工作，提出了PU学习的方法，但很少有人写过关于评估这些方法的主题。由于缺乏完全标记的数据，许多流行的标准分类指标无法精确计算，因此必须采取替代方法。这篇简短的评论文章批判性地回顾了主要的PU学习评估方法和51篇提出PU分类器的文章中预测准确性指标的选择，并为这一领域的改进提供了实用的建议。
2022-06-06 cs.LG stat.ML
Bayesian Predictive Inference For Finite Population Quantities Under Informative Sampling
我们研究贝叶斯预测推理有限的人口数量时，有不平等的选择概率。关于样本设计的信息有限;即，只有对应于采样单元的一阶选择概率是已知的。与Chambers，Dorfman和Wang（1998）的方法不同，我们的方法可用于对有限总体数量进行推断，并提供精度和区间的度量。此外，我们的方法，使用马尔可夫链蒙特卡罗方法，避免了使用渐近封闭形式的近似，必要的其他方法，已提出。一组模拟的例子表明，信息模型提供了一个标准的可扩展模型的精度提高，并纠正选择偏差。
2018-04-09 stat.ME
Constructing multi-modality and multi-classifier radiomics predictive models through reliable classifier fusion
UT Southwestern Medical Center（德克萨斯大学西南医学中心）；Xidian University（西安电子科技大学）
放射组学旨在从医学图像中提取和分析大量的定量特征，并且在癌症治疗的分期，诊断和预测结果方面具有很大的前景。然而，需要解决几个挑战，以构建最佳的放射组学预测模型。首先，当从个体成像模态提取的特征被盲组合到单个预测模型中时，模型的预测性能可能降低。其次，由于许多不同类型的分类器可用于构建预测模型，因此为特定应用选择最佳分类器仍然具有挑战性。在这项工作中，我们开发了多模态和多分类器放射组学预测模型，解决了目前可用模型中的上述问题。具体而言，提出了一种新的可靠的分类器融合策略，以最佳地组合来自不同模态和分类器的输出。在该策略中，首先训练特定于模态的分类器，并开发分析证据推理（ER）规则来融合每个模态的输出分数以构建最佳预测模型。一个公共数据集和两个临床病例研究进行了验证模型的性能。实验结果表明，所提出的ER规则为基础的放射组学模型优于传统的模型，依赖于一个单一的分类器或简单地使用组合的功能，从不同的方式。
2017-10-05 cs.LG physics.med-ph stat.ML
Efficient screening of predictive biomarkers for individual treatment selection
开发分子诊断工具以实现个体化医学需要识别与可能从不同可用治疗中获得有益或有害影响的个体亚组相关的预测性生物标志物。然而，由于大规模遗传学和分子生物学研究中候选生物标志物数量众多，临床结局、生物标志物和治疗之间的关系复杂，常规的治疗和协变量之间相互作用的统计检验因其有限的统计功效而存在困难。在本文中，我们提出了一种有效的方法来检测预测生物标志物。我们采用Chen et al.（2017）的加权损失函数直接估计个体治疗评分，并提出生物标志物效应量的合成后验推断。我们发展了一种经验贝叶斯方法，即基于数据估计先验分布中的未知超参数。然后，我们提供了有效的筛选方法的候选生物标志物，通过最佳的发现程序与适当的控制错误发现率。所提出的方法被证明在模拟研究和乳腺癌的临床研究，其中所提出的方法被证明比现有的标准方法检测到更大数量的显着的生物标志物的应用。
2020-01-17 stat.ME
Fair Bayes-Optimal Classifiers Under Predictive Parity
Shenzhen Research Institute of Big Data（深圳大数据研究院）；University of Pennsylvania（宾夕法尼亚大学）；University of California, Los Angeles（加州大学洛杉矶分校）
对人工智能不同影响的日益关注激发了大量关于公平机器学习的工作。现有工作主要侧重于基于独立和分离的措施（例如，人口均等、机会均等、机会均等），而预测均等等基于生育率的衡量标准则研究得少得多。本文认为预测奇偶校验，这需要均衡的成功概率给出了积极的预测之间的不同保护组。我们证明，如果不同群体的整体表现只有适度的变化，预测奇偶校验下的所有公平贝叶斯最优分类器是组明智的阈值规则。也许令人惊讶的是，这可能不成立，如果组的性能水平变化很大，在这种情况下，我们发现，受保护的群体之间的预测奇偶性可能会导致组内的不公平。然后，我们提出了一个算法，我们称之为FairBayes-DPP，旨在确保预测奇偶校验时，我们的条件得到满足。FairBayes-DPP是一种自适应阈值算法，旨在实现预测奇偶校验，同时还寻求最大化测试精度。我们提供支持的合成和经验数据进行的实验。
2022-06-03 cs.LG stat.ML
Asymptotic Supervised Predictive Classifiers under Partition Exchangeability
University of Helsinki（赫尔辛基大学）
研究了监督分类中同时预测分类器和边缘预测分类器在分区交换下的收敛性。结果表明，在无限数量的训练或测试数据下，这些分类器都是渐近收敛的，使得在观测了无数的数据后，这些分类器之间的差异可以忽略不计。这是一个重要的结果，从实践的角度来看，在足够大的数据量的存在下，可以用计算上更昂贵的同时一个取代简单的边缘分类。
2021-01-26 cs.LG math.ST stat.ML
Identifying Significant Predictive Bias in Classifiers
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一种新的子集扫描方法来检测概率二进制分类器是否具有统计上显著的偏差-超过或低于预测的风险-对于某些亚组，并确定该亚组的特征。这种形式的模型检查和拟合优度测试提供了一种可解释地检测分类器偏差或分类器拟合差区域的存在的方法。这不仅允许考虑先验兴趣或小尺寸的子组，而且允许考虑所有可能的特征子组的空间。为了解决考虑这些指数许多可能的子群的困难，我们使用子集扫描和参数引导的方法。扩展该方法，我们可以惩罚检测到的子组的复杂性，也可以识别具有高分类错误的子组。我们展示了这些方法，并发现有趣的结果COMPAS犯罪累犯和信用拖欠数据。
2017-07-04 cs.LG stat.ML
Performance Evaluation of Predictive Classifiers For Knowledge Discovery From Engineering Materials Data Sets
Mangalore University（芒伽罗大学）
本文将朴素贝叶斯分类器和C4. 5决策树分类器（DTC）分别应用于材料信息学中，对工程材料进行分类，以选择符合设计要求的材料。本文对分类器进行了单独分析，并利用混淆矩阵预测参数和标准测度对分类器的性能评估进行了分析，对不同类别的材料进行了分类结果分析。分类器的比较发现，朴素贝叶斯分类器是更准确，优于C4.5 DTC。朴素贝叶斯分类器发现的知识可用于制造业的材料选择决策。
2012-09-12 cs.LG
Analyzing different prototype selection techniques for dynamic classifier and ensemble selection
École de technologie supérieure - Université du Québec（魁北克大学高等技术学院）；Centro de Informática - Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）
在动态选择（DS）技术中，只有最有能力的分类器，为一个特定的测试样本的分类选择来预测样本的类标签。DES技术中更重要的一步是估计基本分类器对每个特定测试样本的分类能力。分类器的能力通常是通过定义在验证样本上的测试样本的邻域来估计的，称为能力区域。因此，DS技术的性能对验证集的分布敏感。在本文中，我们评估了六种原型选择技术，这些技术通过编辑验证数据来消除噪声和冗余实例。使用几个国家的最先进的DS技术超过30个分类问题进行的实验表明，通过使用原型选择技术，我们可以提高DS技术的分类精度，并显着降低所涉及的计算成本。
2018-11-01 cs.LG stat.ML
Improving the Predictive Performances of $k$ Nearest Neighbors Learning by Efficient Variable Selection
Rochester Institute of Technology（罗切斯特理工学院）
本文计算证明了一个急剧改善的预测性能$k$最近的邻居由于一个有效的前向选择的预测变量。我们展示了模拟和真实世界的数据，这种新的方法反复优于逐步选择下的回归模型
2022-11-04 cs.LG stat.ML
Facility Locations Utility for Uncovering Classifier Overconfidence
Miami University（迈阿密大学）；Air Force Research Lab（空军研究实验室）
在没有标记的测试数据集的情况下，评估黑盒分类器的预测准确性是具有挑战性的。在这些情况下，我们可能需要依赖人类预言来评估各个预测;这就提出了创建查询算法来指导搜索提供有关分类器预测特征的最多信息的点的挑战。以前的工作都集中在开发实用程序模型和查询算法，发现未知的未知数--错误分类的预测信心高于一些任意阈值。然而，如果错误分类的发生率由置信度值所反映，那么这些搜索方法只不过揭示了预测确定性的适当评估。当模型的预测置信度超过实际模型准确度时，我们无法适当降低与模型缺陷相关的风险。我们提出了一个设施的位置效用模型和相应的贪婪查询算法，而不是搜索过度自信的未知未知数。通过强大的实证实验，我们证明了贪婪的查询算法与设施的位置效用模型一致的结果在Oracle查询具有优越的性能，发现过度自信的未知的未知数比以前的方法。
2018-10-12 cs.LG stat.ML
A DEEP analysis of the META-DES framework for dynamic selection of ensemble of classifiers
École de Technologie Supérieure, University of Quebec（魁北克大学高等技术学院）；Universidade Federal de Pernambuco（伯南布哥联邦大学）
动态集成选择（DES）技术的工作原理是从一个分类器池中估计每个分类器的能力水平。只选择最有能力的人来分类给定的测试样本。因此，在DES的关键问题是用于估计的能力水平的分类器在预测一个给定的测试样本的标签的标准。为了执行更鲁棒的集成选择，我们提出了使用元学习的META-DES框架，其中多个标准被编码为元特征，并传递到一个元分类器，该元分类器被训练以估计给定分类器的能力水平。在这份技术报告中，我们对框架在训练和测试期间的每个阶段进行了逐步分析。我们展示了如何提取每组元特征以及它们对基础分类器的能力水平估计的影响。此外，分析了几个因素对系统性能的影响，如池中分类器的数量，使用不同的线性基分类器，以及验证数据的大小。我们表明，通过META-DES框架使用线性分类器的动态选择，我们可以解决复杂的非线性分类问题，其他组合技术，如AdaBoost不能。
2015-09-11 cs.LG stat.ML
Search Strategies for Binary Feature Selection for a Naive Bayes Classifier
Université Paris 1 Panthéon-Sorbonne（巴黎第一大学先贤祠-索邦大学）；Snecma Groupe Safran（赛峰集团斯奈克玛公司）
本文比较了几种特征选择方法的朴素贝叶斯分类器（NBC）时，所研究的数据描述了大量的冗余二进制指标。由分类错误概率的NBC估计指导的包装器方法优于过滤器方法，同时保持合理的计算成本。
2015-06-12 cs.LG stat.ML
A Method For Dynamic Ensemble Selection Based on a Filter and an Adaptive Distance to Improve the Quality of the Regions of Competence
Center of Informatics, Federal University of Pernambuco（伯南布哥联邦大学信息中心）
动态分类器选择系统的目标是选择一组最适合特定查询模式的分类器。这是通过在查询模式周围定义一个区域并分析该区域中分类器的能力来完成的。然而，这些区域通常被噪声包围，这会给分类器选择带来困难。这一事实使得大多数动态选择系统的性能并不比静态选择好。在本文中，我们证明了性能的动态选择系统最终有限的提取区域的质量。此后，我们提出了一个新的动态分类器选择，提高了区域的能力，以实现更高的识别率。实验结果表明，该方法不仅提高了识别性能，而且降低了计算量。
2018-11-01 cs.LG stat.ML
Designing Adversarially Resilient Classifiers using Resilient Feature Engineering
University of Michigan（密歇根大学）
我们提供了一种方法，弹性特征工程，用于创建adversarially弹性分类器。根据现有的工作，对抗攻击识别分类器在训练期间学习的弱相关或非预测特征，并设计对抗噪声以利用这些特征。因此，在分类过程中应首先使用高度预测性的特征，以确定可能的输出标签集。我们的方法集中在弹性分类器的设计问题，这些高度预测功能的弹性特征提取器的设计问题。我们提供了两个定理，支持我们的方法。串行组合弹性和并行组合弹性定理表明，对抗弹性特征提取器的输出可以组合起来创建一个同样弹性的分类器。基于我们的理论结果，我们概述了一个adversarially弹性分类器的设计。
2018-12-17 cs.CR cs.LG stat.ML
Robustness Quantification for Discriminative Models: a New Robustness Metric and its Application to Dynamic Classifier Selection
Foundations Lab for imprecise probabilities (FLip)（不精确概率基础实验室）；Ghent University（根特大学）；Statistics Dept.（统计系）；Federal University of São Carlos（萨尔瓦多·克鲁斯联邦大学）；Institute of Mathematic and Computer Sciences（数学与计算机科学学院）；University of São Paulo（圣保罗大学）
本文提出了一种适用于任何概率判别分类器和任何特征类型的新型鲁棒性度量，用于区分可靠与不可靠的预测，并应用于动态分类器选择。
2026-07-10 cs.LG stat.ML
Comparison of Evolving Granular Classifiers applied to Anomaly Detection for Predictive Maintenance in Computing Centers
University of Bologna（博洛尼亚大学）；INFN（意大利国家核物理研究所）；Federal University of Lavras（拉夫拉斯联邦大学）；INFN-CNAF（意大利国家核物理研究所国家核物理计算中心）
计算中心基于日志的预测性维护是支持CERN（欧洲核研究组织）物理实验的全球计算网格的主要关注点。日志作为面向事件的临时信息，通常以非结构化大数据的形式给出。测井数据处理是一项耗时的计算任务。目标是从不断变化的网格环境中获取必要的信息，以构建分类模型。不断发展的粒度分类器适合于从随时间变化的日志流中学习，因此可以对异常的严重程度进行在线分类。我们制定了一个4类在线异常分类问题，并采用时间窗口之间的地标和两种粒度计算方法，即基于模糊集的进化建模（FBeM）和进化粒度神经网络（eGNN），建模和监测测井活动率。分类结果对于预测性维护至关重要，因为可以优先考虑特定的时间间隔，其中分类器指示存在高或中等严重性异常。
2020-04-08 cs.LG cs.NE stat.ML
Bayes in Wonderland! Predictive supervised classification inference hits unpredictability
University of Helsinki（赫尔辛基大学）
边缘贝叶斯预测分类器（mBpc），而不是同步贝叶斯预测分类器（SBpc），单独处理每个数据，因此默认的独立性的意见。然而，由于生成模型参数的学习饱和，这种错误假设对mBpc准确性的不利影响往往会在训练数据量增加的情况下逐渐消失;在de Finetti类型的交换机下保证这两个分类器的收敛。然而，这个结果对于在分区交换（PE）下生成的序列来说是非常重要的，即使是无数的训练数据也不能排除未观察到结果的可能性（仙境！）。我们提供了一个计算方案，允许在PE下生成序列。在此基础上，通过控制训练数据的增加，我们证明了sBpc和mBpc的收敛性。这是使用更简单但计算效率更高的边缘分类器而不是同时分类器的基础。我们还提供了一个参数估计的生成模型产生的分区可交换的序列，以及在不同的样本，这个参数的平等性的测试范例。Ewens抽样公式生成模型的贝叶斯预测监督分类、参数估计和假设检验的软件包作为PEkit软件包存放在CRAN上，并可从https://github.com/AmiryousefiLab/PEkit免费获得。
2021-12-03 cs.LG stat.ML
Learning Maximally Predictive Prototypes in Multiple Instance Learning
Bogazici University（博阿齐奇大学）
在这项工作中，我们提出了一个简单的模型，提供置换不变的最大预测原型生成器从一个给定的数据集，这导致解释的解决方案和具体的见解的性质和解决方案的问题。我们的目标是在特征空间中找出原型，将实例集合（即袋子）映射到距离特征空间，同时学习多实例学习（MIL）的线性分类器。在经典MIL基准数据集上的实验表明，与现有方法相比，该框架是一个准确和高效的分类器。
2021-01-22 cs.LG stat.ML
META-DES.Oracle: Meta-learning and feature selection for ensemble selection
École de Technologie Supérieure, University of Quebec（魁北克大学高等技术学院）；Universidade Federal de Pernambuco（伯南布哥联邦大学）
动态包围圈选择（DES）的关键问题是定义一个合适的标准来计算分类器的能力。有几个标准可用于衡量基本分类器的能力水平，例如局部准确性估计和排名。然而，仅使用一个标准可能导致分类器能力的差估计。为了解决这个问题，我们提出了一种新的动态集成选择框架，使用元学习，称为META-DES。META-DES框架的一个重要方面是，可以将多个标准嵌入到系统中，编码为不同的元特征集。然而，有些DES准则并不适用于所有的分类问题。例如，当类别之间存在高度重叠时，局部准确度估计可能产生差的结果。此外，如果元分类器的性能针对相应的数据进行优化，则可以获得更高的分类精度。在本文中，我们提出了一个新的版本的META-DES框架的基础上正式定义的Oracle，称为META-DES. Oracle。Oracle是一个抽象的方法，代表了一个理想的分类器选择方案。为了提高元分类器的性能，提出了一种使用过拟合谨慎二进制粒子群优化算法（BPSO）的Meta特征选择方案。元分类器获得的输出与Oracle提供的输出之间的差异被最小化。因此，期望元分类器获得与Oracle相似的结果。使用30个分类问题进行的实验表明，基于Oracle定义的优化过程相比，以前版本的META-DES框架和其他国家的最先进的DES技术的分类精度显着提高。
2018-11-01 cs.LG stat.ML
Using a Classifier Ensemble for Proactive Quality Monitoring and Control: the impact of the choice of classifiers types, selection criterion, and fusion process
Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；ACTA Mobilier
近年来，制造过程面临许多外部或内部的问题（定制产品重新安排、工艺可靠性的增加等）变化因此，这些制造过程的监测和质量管理活动是困难的。因此，管理人员需要更积极主动的方法来处理这种变化。在这项研究中，提出了一种主动的质量监测和控制方法的基础上分类预测缺陷的发生，并提供最佳值的质量过程的关键因素。在之前的工作中（Noyel等人，2013年），分类方法已被用于提高公司工厂的涂漆工艺质量;所获得的结果是有希望的，但所使用的分类模型的准确性需要提高。实现这一点的一种方法是构建一个分类器委员会（称为集成），以获得比其组成模型更好的预测模型。然而，最佳分类方法的选择和最终集成的构建仍然是一个具有挑战性的问题。在这项研究中，我们重点分析了分类器类型的选择对分类器集成精度的影响，此外，我们还探讨了选择标准和融合过程对集成精度的影响。基于一个实际案例，对几种融合方案进行了测试和比较。我们的研究结果表明，使用集成分类导致分类器模型的准确性增加。因此，可以改进对所考虑的真实世界情况的监测和控制。
2018-04-05 cs.LG stat.ML
Online Active Model Selection for Pre-trained Classifiers
ETH Zürich（苏黎世联邦理工学院）
给定$k$预训练的分类器和一系列未标记的数据示例，我们如何主动决定何时查询标签，以便在进行少量查询的同时区分最佳模型？探讨这个问题对一系列实际情况有着深远的影响。在这项工作中，我们设计了一个在线选择性抽样方法，积极选择信息丰富的例子进行标记，并在任何一轮输出最佳模型的概率很高。我们的算法可用于在线预测任务的对抗性和随机流。我们建立了几个理论保证我们的算法，并广泛地证明了它的有效性，在我们的实验研究。
2021-04-17 cs.LG stat.ML
Improving classification performance by feature space transformations and model selection
INFOTEC Centro de Investigación e Innovación en Tecnologías de la Información y Comunicación（INFOTEC信息与通信技术研究与创新中心）；Universidad Michoacana de San Nicolás de Hidalgo（米却肯州圣尼古拉斯·伊达尔戈大学）；CONACyT Consejo Nacional de Ciencia y Tecnología（国家科学技术委员会）
提高分类器的性能是特征映射，原型选择和核函数转换的领域;这些技术旨在降低复杂性，同时提高模型的准确性。特别是，我们的目标是将它们结合起来，将数据的形状转换为另一种更方便的分布;这样一些简单的算法，如朴素贝叶斯或k-最近邻，就可以产生有竞争力的分类器。在本文中，我们介绍了一个家庭的分类特征映射和核函数的基础上，编排的模型选择方案，在性能上表现出色。我们提供了一个广泛的实验比较，我们的方法与16个流行的分类超过30个基准支持我们的主张。除了他们的竞争力表现，我们的统计测试还发现，我们的方法是不同的，他们之间，支持我们的要求，一个令人信服的家庭的分类。
2019-10-03 cs.LG stat.ML
Predictive process mining by network of classifiers and clusterers: the PEDF model
在这项研究中，提出了一个模型来学习事件日志和预测系统的未来事件。所提出的PEDF模型基于事件的序列、持续时间和额外特征进行学习。PEDF模型由标准聚类器和分类器组成的网络构建，具有很高的迭代更新灵活性。该模型需要从日志文件中提取两组数据，即，过渡差异和累积特征。该模型具有一层记忆，这意味着每个转换都依赖于当前事件和前一个事件。为了评估所提出的模型的性能，它是比较的递归神经网络和序贯预测模型，它优于他们。由于事件日志预测模型缺少性能度量，提出了三种度量方法。
2020-11-22 cs.LG
Mitigating the Multiplicity Burden: The Role of Calibration in Reducing Predictive Multiplicity of Classifiers
Eskisehir Technical University, Department of Statistics（埃斯基谢普大学统计学系）
本文研究了分类校准与预测多重性之间的关系，发现少数类观测承担了不成比例的多重性负担，通过后处理校准可降低Rashomon集中的模糊性。
2026-03-16 cs.LG
FIRE-DES++: Enhanced Online Pruning of Base Classifiers for Dynamic Ensemble Selection
École de Technologie Supérieure - Université du Québec（魁北克大学高等技术学院）；Centro de Informática - Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）
尽管在几个分类任务中非常有效，但动态包围选择（DES）技术可以选择将能力区域中的所有样本分类为来自同一类的分类器。Frienemy Indecision Region DES（FIRE-DES）通过预先选择分类器来解决这个问题，该分类器正确地将来自测试样本的能力区域中的不同类别的至少一对样本分类。然而，FIRE-DES应用预选的测试样本的分类，当且仅当其能力的区域是由来自不同类别的样本（indecision区域），即使这个标准是不可靠的，以确定是否测试样本位于接近类的边界（真正的indecision区域）时，使用经典的最近邻方法获得的能力的区域。正因为如此，FIRE-DES将噪声区域误认为是真正的犹豫不决区域，导致不合格分类器的预选，并将真正的犹豫不决区域误认为是安全区域，将样本留在这些区域而不进行任何预选。为了解决这些问题，我们提出了FIRE-DES++，一个增强的FIRE-DES，消除噪音，减少验证集中的类的重叠，并定义了使用相同数量的每个类的样本的竞争力的区域，避免选择一个区域的竞争力与一个单一的类的样本。实验使用FIRE-DES++与8种不同的动态选择技术上的64个分类数据集。实验结果表明，FIRE-DES++提高了所有DES技术的分类性能，在8种DES技术中有7种技术的性能优于FIRE-DES，并且优于最先进的DES框架。
2018-10-02 cs.LG stat.ML
Fast Optimal Bandwidth Selection for RBF Kernel using Reproducing Kernel Hilbert Space Operators for Kernel Based Classifiers
IRISA（法国信息与随机系统研究所）
基于核的方法在许多遥感分类任务中表现出了有效的性能。然而，它们的性能显着依赖于其超参数。估计参数的常规技术具有高计算复杂度。因此，这封信的目的是提出一种快速有效的方法来选择高斯核的带宽参数在基于核的分类方法。提出的方法是基于再生核希尔伯特空间中的算子，并在支持向量机和PerTurbo分类方法上进行评估。高光谱数据集进行的实验表明，我们提出的方法优于国家的最先进的方法在计算时间和分类性能。
2018-04-14 cs.LG stat.ML
Enhanced Classification Accuracy for Cardiotocogram Data with Ensemble Feature Selection and Classifier Ensemble
Prince of Songkla University（宋卡王子大学）；Khon Kaen University（孔敬大学）
本文提出了基于集成学习的特征选择和分类器集成模型来提高分类精度。从集成特征选择到支持向量机集成，假设好的特征集包含与类高度相关的特征，这可以在分类精度的性能上实现。所提出的方法包括两个阶段：（i）通过应用基于集成的特征选择方法来选择可能是支持向量的特征集;以及（ii）使用所选择的特征来构建SVM集成。通过在分娩图像数据集上的实验对所提出的方法进行了评估。使用了四种特征选择技术：（i）基于相关性，（ii）基于一致性，（iii）ReliefF和（iv）信息增益。实验结果表明，将信息增益特征选择和基于相关性的特征选择与SVM集成相结合，比单一SVM分类器和集成特征选择与SVM分类器的分类精度都要高。
2020-10-27 cs.LG
Equipment Failure Analysis for Oil and Gas Industry with an Ensemble Predictive Model
School of Computer Science, University of Nottingham Malaysia Campus（诺丁汉大学马来西亚校区计算机科学学院）；Tentacle Technologies（触手科技公司）
针对油气设备故障分类中不平衡数据导致分类器性能不佳的问题，提出结合SMO训练算法的SVM与混合规则-神经网络分类器的堆叠集成预测模型，分类性能显著优于传统分类器。
2020-12-30 cs.LG
Greedy feature selection: Classifier-dependent feature selection via greedy methods
Università di Genova（热那亚大学）；Istituto Nazionale di Astrofisica（意大利国家天体物理研究所）；Università di Padova（帕多瓦大学）；Politecnico di Torino（都灵理工大学）
本研究提出一种依赖分类器的贪心特征选择新方法，每步结合所选分类器确定最重要特征，从VC维、核对齐等模型容量指标做理论分析，并在太阳活动地球效应预测任务上完成数值验证。
2024-03-08 cs.LG cs.NA math.NA
Feature Selection Using Classifier in High Dimensional Data
Mody Institute of Technology and Science（莫迪理工学院）
特征选择经常被用作机器学习的预处理步骤。它是一个选择原始特征子集的过程，以便根据一定的评价标准最优地缩减特征空间。本文的中心目标是通过寻找一小部分可以提供良好分类性能的重要特征来降低数据的维度。我们分别使用不同的分类器QDA和LDA进行过滤和包装。广泛使用的过滤方法用于生物信息学数据，即分别对每个特征使用单变量标准，假设特征之间没有相互作用，然后应用顺序特征选择方法。实验结果表明，滤波方法在误分类出错率方面有较好的性能。
2014-01-05 cs.CV cs.LG stat.ML
Cost-sensitive Hierarchical Clustering for Dynamic Classifier Selection
GE Global Research（通用电气全球研究中心）
我们考虑动态分类器选择（DCS）问题：给定一个分类器集合，我们要根据要分类的特定输入向量选择使用哪个分类器。这个问题是一般算法选择问题的一个特例，在这个问题中，我们有多个不同的算法可以用来处理给定的输入。我们调查，如果开发的一般算法选择命名为成本敏感的层次聚类（CSHC）的方法是适合DCS。我们介绍了一些额外的原始CSHC方法的特殊情况下，选择一个分类算法，并评估其对性能的影响。然后，我们比较了一些国家的最先进的动态分类器选择方法。我们的实验结果表明，我们的修改CSHC算法相比，
2020-12-18 cs.AI cs.LG
A gradient-based variable selection for binary classification in reproducing kernel Hilbert space
Seoul National University（首尔国立大学）；Korea University（高丽大学）
变量选择在高维数据分析中至关重要。虽然已经开发了各种变量选择方法，但大多数依赖于线性模型假设。提出了一种基于再生核希尔伯特空间（RKHS）的大间隔分类器的非参数变量选择方法。我们提出了一种基于梯度的大间隔分类器的表示，然后通过组套索惩罚来正则化梯度函数，以获得自然导致变量选择的稀疏梯度。提出了分组优化下降算法（GMD，Yang和Zou，2015），以有效地解决具有大量参数的所提出的问题。我们采用强顺序规则（Tibshirani等人，2012年），以促进调整程序。该方法的选择一致性是通过获得估计分类器的风险界及其梯度来建立的。最后，我们通过仿真和实际数据说明了所提出的方法有前途的性能。
2021-09-29 cs.LG stat.ML
A Classifier-free Ensemble Selection Method based on Data Diversity in Random Subspaces
École de technologie supérieure (ÉTS), Université du Québec（魁北克大学高等技术学院）；Pontifícia Universidade Católica do Paraná (PUCPR)（巴拉那天主教大学）；Universidade Federal do Paraná (UFPR)（巴拉那联邦大学）
分类器的包围（EoC）已被证明是有效的，在提高单个分类器的性能，通过组合它们的输出，和最好的EoC从一个池中的分类器的选择所涉及的最重要的属性之一被认为是分类器的多样性。通常，分类器多样性不是随机发生的，而是通过各种集成创建方法系统地生成的。通过使用不同的数据子集来训练分类器，这些方法可以为EoC创建不同的分类器。在这项工作中，我们提出了一个计划来衡量数据的多样性直接从随机子空间，并探讨使用它来选择最佳的数据子集的建设的EoC的可能性。我们的计划是第一个集成选择方法在文献中提出的数据多样性的概念的基础上。与传统框架（集成创建然后选择）相比，其主要优点是它避免了在集成选择之前进行分类器训练的需要。分别采用单遗传算法和多目标遗传算法进行无分类器集成选择。在这两种情况下，基于不同的聚类多样性措施的目标函数的实施和测试。将所提出的无分类器集成选择方法与传统的基于分类器的集成选择方法进行了比较。在UCI机器学习问题和NIST SD 19手写数字上测试了该方法的适用性。
2014-08-13 cs.LG cs.NE
Relearning ensemble selection based on new generated features
Wrocław University of Science and Technology（弗罗茨瓦夫理工大学）
集成方法是结合几种基本机器学习技术以提高分类有效性的元算法。许多现有的分类器委员会使用分类器选择过程来确定基础分类器的最佳集合。在这篇文章中，我们提出了分类器选择框架与再学习基分类器。此外，我们在建议的框架中使用新生成的功能，这可以在重新学习过程后获得。所提出的技术进行了比较与国家的最先进的集成方法使用三个基准数据集和一个合成数据集。四个分类性能指标被用来评估所提出的方法。
2021-06-12 cs.LG
Efficient Model Selection for Predictive Pattern Mining Model by Safe Pattern Pruning
Nagoya Institute of Technology（名古屋工业大学）；RIKEN（理化学研究所）；Nagoya University（名古屋大学）；The University of Tokyo（东京大学）
本研究提出安全模式剪枝（SPP）方法，以解决预测模式挖掘中模式数量随数据复杂性指数增长的问题，并通过在集合、图和序列上的回归与分类实验验证其有效性。
2023-06-23 cs.LG stat.ML
A Robust Classifier Under Missing-Not-At-Random Sample Selection Bias
University of Arkansas（阿肯色大学）
针对训练集中标签非随机缺失的样本选择偏差问题，本文提出BiasCorr算法，通过修改训练集改进Greene方法，并在理论上和真实数据集实验中验证其鲁棒性及超越现有最先进分类器的性能。
2023-05-25 cs.LG
Sparse Feature Selection in Kernel Discriminant Analysis via Optimal Scoring
Texas A&M University（德克萨斯A&M大学）
我们考虑两组分类问题，并提出了一个基于最佳评分框架的核分类器。与以往的方法不同，我们提供了理论保证的方法的预期风险的一致性。我们还允许通过使用加权内核施加结构化稀疏性来进行特征选择。我们提出了全自动的方法来选择所有的调整参数，特别是适应核收缩的想法，脊参数选择。数值研究表明，所提出的方法相比，现有的非参数分类器的优越的分类性能。
2019-02-12 cs.LG stat.ML
Model Evaluation in the Dark: Robust Classifier Metrics with Missing Labels
J.P. Morgan AI Research（摩根大通人工智能研究院）
针对模型评估中标签缺失问题，提出多重插补技术以准确估计分类器指标，提供预测分布并证明其近似高斯性及鲁棒性。
2025-04-25 cs.LG stat.ML
META-DES: A Dynamic Ensemble Selection Framework using Meta-Learning
University of Quebec（魁北克大学）；Universidade Federal de Pernambuco（伯南布哥联邦大学）
动态集成选择系统通过从分类器池中估计每个分类器的能力水平来工作。只选择最有能力的人来分类给定的测试样本。这是通过定义一个标准来衡量一个基本分类器的能力水平，例如，它在查询实例周围的特征空间的局部区域的准确性。然而，只使用一个基本分类器的行为的标准是不够的，以准确地估计其能力水平。在本文中，我们提出了一种新的动态集成选择框架，使用元学习。我们提出了五组不同的元特征，每一个对应于一个不同的标准来衡量一个分类器的输入样本的分类能力的水平。从训练数据中提取元特征，并将其用于训练元分类器，以预测基本分类器是否足以胜任对输入实例进行分类。在泛化阶段，从查询实例中提取元特征，并将其作为输入传递给元分类器。元分类器估计基础分类器是否足够胜任以被添加到集成。对几个小样本分类问题进行了实验，即，由于缺乏训练数据而具有高度不确定性的问题。实验结果表明，所提出的元学习框架大大提高了分类精度相比，目前国家的最先进的动态集成选择技术。
2018-09-30 cs.AI cs.LG stat.ML
META-DES.H: a dynamic ensemble selection technique using meta-learning and a dynamic weighting approach
École de technologie supérieure - Université du Québec（魁北克大学高等技术学院）；Centro de Informática - Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）
在动态包围圈选择（DES）技术中，只有最称职的分类器被选择来分类给定的查询样本。因此，DES的关键问题是如何估计池中每个分类器的能力，以选择最有能力的。为了解决这个问题，我们提出了一种新的动态集成选择框架，使用元学习，称为META-DES。该框架分为三个步骤。在第一步骤中，从训练数据生成分类器池。在第二阶段，使用训练数据计算元特征，并将其用于训练元分类器，该元分类器能够预测来自池的基本分类器是否足以胜任对输入实例进行分类。在本文中，我们提出了改进的训练和推广阶段的META-DES框架。在训练阶段，我们评估了四种不同的元分类器训练算法。对于泛化阶段，评估了三种组合方法：动态选择，其中仅选择达到一定能力水平的分类器;动态加权，其中元分类器估计池中每个分类器的能力，并且池中所有分类器的输出基于其能力水平加权;以及混合方法，其中首先选择具有最胜任的分类器的集合，之后估计所选择的分类器的权重以便在加权多数表决方案中使用。在30个分类数据集上进行了实验。实验结果表明，本文提出的变化显着提高了系统的识别精度在几个数据集。
2018-11-01 cs.AI cs.LG stat.ML
