Using the Naive Bayes as a discriminative classifier
Telecom SudParis（南巴黎电信学院）；Institut Polytechnique de Paris（巴黎综合理工学院）；IBM GSB France（IBM法国全球企业服务部）
对于分类任务，概率模型可以分为两个不相交的类：生成或判别。它取决于给定观测$y$，$p(x | y)$的标签$x$的后验概率计算。一方面，生成式分类器，如朴素贝叶斯或隐马尔可夫模型（HMM），在使用贝叶斯规则来计算$p(x | y)$之前，需要计算联合概率p（x，y）。另一方面，判别分类器直接计算$p(x | y)$，而不管观测的规律。它们现在被广泛使用，具有逻辑斯谛回归、条件随机场（CRF）和人工神经网络等模型。然而，最近的熵前向-后向算法表明，隐马尔可夫模型，作为一个生成模型，也可以匹配的歧视性的定义。这个例子引发了一个问题，即其他生成模型是否也是如此。在本文中，我们证明了朴素贝叶斯分类器也可以匹配判别分类器的定义，因此它可以以生成或判别的方式使用。此外，这一观察还讨论了生成-判别对的概念，例如，将朴素贝叶斯和逻辑斯谛回归或HMM和CRF联系起来。与此相关，我们表明，逻辑斯谛回归可以被看作是一个特殊的情况下，朴素贝叶斯用于判别的方式。
2021-03-05 cs.LG stat.ML
Structure of Classifier Boundaries: Case Study for a Naive Bayes Classifier
Temple University, Department of Statistics, Operations, and Data Science（特拉华大学统计学、运营与数据科学系）；Fraunhofer USA Center Mid-Atlantic（弗劳恩霍夫美国中大西洋中心）；University of Maryland, Department of Computer Science（马里兰大学计算机科学系）；University of Pennsylvania, Computational Social Science Laboratory（宾夕法尼亚大学计算社会科学实验室）
研究贝叶斯分类器在输入空间为图时的边界结构，通过邻域相似性度量分类不确定性，并应用于DNA读段分配问题。
2026-05-27 cs.LG stat.ML
Locally Weighted Learning for Naive Bayes Classifier
The Chinese University of Hong Kong（香港中文大学）；Stanford University（斯坦福大学）
由于朴素贝叶斯（NB）分类器的条件独立性假设（CIA）较强且经常被违反，当样本量增加时，NB分类器的性能越来越不如复杂分类器。我们从这种现象中了解到，当训练数据的大小很大时，我们应该放松假设或将NB应用于“简化”的数据集，例如使用NB作为局部模型。后一种方法用忽略的信息换取对模型假设的鲁棒性。在本文中，我们考虑使用NB作为局部加权数据的模型。设计了一个特殊的加权函数，使得如果CIA对未加权的数据成立，它也对加权的数据成立。新方法直观，能够处理类不平衡。从理论上讲，它比仅基于$k$最近邻居的朴素贝叶斯局部加权学习器更可靠。实验结果表明，新方法与适当的参数选择优于现有的7个类似性质的分类器。
2014-12-21 cs.LG stat.ML
A Bayesian Network Classifier that Combines a Finite Mixture Model and a Naive Bayes Model
University of Pittsburgh（匹兹堡大学）
在本文中，我们提出了一个新的贝叶斯网络模型的分类，结合朴素贝叶斯（NB）分类器和有限混合（FM）分类器。由此产生的分类器的目的是放松的两个组件模型的基础上的强假设，在试图提高其分类性能，无论是在准确性和校准的估计概率。建议的分类器是通过叠加一个有限的混合模型的一组特征变量的朴素贝叶斯模型。我们目前的实验结果，比较真实数据集上的新分类器的预测性能与NB分类器和FM分类器的预测性能。
2013-01-23 cs.AI cs.LG stat.ML
Explaining Naive Bayes and Other Linear Classifiers with Polynomial Time and Delay
ANITI, Université de Toulouse（图卢兹大学ANITI）；IRIT, Université de Toulouse III（图卢兹第三大学IRIT）；Monash University（莫纳什大学）；VMware Research（VMware研究）
最近的工作提出了所谓的PI解释的朴素贝叶斯分类器（NBCs）的计算。PI解释是足以用于预测的特征值对的子集最小集合，并且已经用在时间和空间上是最坏情况指数的最先进的精确算法计算。相比之下，我们表明，一个PI解释NBC的计算可以实现在对数线性时间，同样的结果也适用于更一般的线性分类器类。此外，我们证明了PI-解释的枚举可以得到多项式延迟。实验结果表明，与早期的工作相比，新算法的性能增益。实验结果还探讨了衡量启发式解释质量的方法
2020-11-04 cs.LG stat.ML
Naive Feature Selection: a Nearly Tight Convex Relaxation for Sparse Naive Bayes
UC Berkeley（加州大学伯克利分校）；CNRS（法国国家科学研究中心）；École Normale Supérieure（巴黎高等师范学院）
本文提出稀疏朴素贝叶斯特征选择方法，通过 Shapley-Folkman 定理给出近乎紧的凸松弛界，在保持统计效果的同时实现比 LASSO 等方法快数个数量级的特征选择。
2025-03-12 cs.LG stat.ML
Budgeted Learning of Naive-Bayes Classifiers
University of Alberta（阿尔伯塔大学）
通常，获取训练数据具有相关联的成本。我们考虑的情况下，学习者可以购买数据在训练过程中，受预算。特别地，我们研究了每个特征标签都有相关成本的情况，并且在训练过程中获得的所有特征标签的总成本不得超过预算。本文比较了在给定预算和朴素贝叶斯模型参数的当前信念状态的情况下，选择下一个购买哪个特征标签的方法。而主动学习传统上专注于查询选择的近视（贪婪）策略，本文提出了一种将预算知识融入决策过程的易处理的方法，它提高了绩效。
2012-10-19 cs.LG stat.ML
An Efficient Shapley Value Computation for the Naive Bayes Classifier
Orange Innovation（Orange创新研究院）
本文针对 naive Bayes 分类器提出了 Shapley value 的精确解析表达式，通过与 WoE 和 KernelShap 对比，证明该方法在极大数据集上具有计算时间极短且低复杂度的优势。
2023-07-31 cs.LG stat.ML
Naive Bayes with Correlation Factor for Text Classification Problem
Georgia Institute of Technology（佐治亚理工学院）
朴素贝叶斯估计被广泛应用于文本分类问题。然而，它在小规模训练数据集上表现不佳。我们提出了一种新的方法，基于朴素贝叶斯估计来解决这个问题。引入了一个相关因子来综合不同类之间的相关性。实验结果表明，我们的估计实现了更好的准确性相比，传统的朴素贝叶斯在现实世界中的数据。
2019-05-08 cs.IR cs.LG stat.ML
Generalized Naive Bayes
Budapest University of Technology and Economics（布达佩斯技术与经济大学）；Institute for Computer Science and Control (SZTAKI), Hungarian Research Network (HUN-REN)（匈牙利研究网络计算机科学与控制研究所（SZTAKI））
本文提出Generalized Naive Bayes结构作为Naive Bayes的扩展，设计了两种寻找最优概率分布的算法以最大化信息内容并最小化冗余，并基于此引入新的特征选择方法，实验证明其在多数情况下优于相关算法。
2024-08-28 cs.LG stat.ML
Induction of Selective Bayesian Classifiers
Institute for the Study of Learning and Expertise（学习与专长研究所）
在本文中，我们研究了以前的工作的朴素贝叶斯分类器，并审查其局限性，其中包括相关功能的敏感性。我们通过将朴素贝叶斯归纳方案嵌入到一个算法中来解决这个问题，该算法通过特征空间进行贪婪搜索。我们假设，这种方法将提高渐近准确性的域，涉及相关的功能，而不会降低学习的速度，不。我们报告六个自然领域的实验结果，包括与决策树归纳的比较，支持这些假设。最后，我们讨论了扩展朴素贝叶斯分类器的其他方法，并概述了未来研究的一些方向。
2013-02-27 cs.LG stat.ML
Positive Feature Values Prioritized Hierarchical Redundancy Eliminated Tree Augmented Naive Bayes Classifier for Hierarchical Feature Spaces
Birkbeck, University of London（伦敦大学伯贝克学院）
分层冗余消除树增强朴素贝叶斯（HRE-TAN）分类器是一种半朴素贝叶斯模型，它学习一种分层无冗余的树状特征表示来估计数据分布。在这项工作中，我们提出了两种新类型的积极的特征值优先级分层冗余消除树增强朴素贝叶斯分类器，专注于承载积极的实例值的功能。这两种新提出的方法被应用于28个真实世界的生物信息学数据集，显示出比传统的HRE-TAN分类器更好的预测性能。
2022-04-12 cs.LG q-bio.GN
Enhancing naive classifier for positive unlabeled data based on logistic regression approach
Warsaw University of Technology（华沙理工大学）
本文在 SCAR 假设下利用错误设定逻辑回归拟合 PU 数据，并结合 F1 类指标优化截距，提出性能可比或更优的增强朴素分类器。
2023-06-05 cs.LG stat.ML
Naive Bayes and Text Classification I - Introduction and Theory
朴素贝叶斯分类器是基于流行的贝叶斯概率定理的分类器家族，以创建简单但性能良好的模型而闻名，特别是在文档分类和疾病预测领域。在本文中，我们将在文档分类的背景下研究朴素贝叶斯分类的主要概念。
2017-02-14 cs.LG
Reasoning about Bayesian Network Classifiers
University of California, Los Angeles（加州大学洛杉矶分校）
贝叶斯网络分类器在很多领域都有应用，其中一种常见的分类器是朴素贝叶斯分类器。在本文中，我们介绍了一种推理贝叶斯网络分类器的方法，我们显式地将它们转换为有序决策图（ODD），然后使用这些分类器的属性的原因。具体来说，我们提出了一个算法转换成一个ODD的任何朴素贝叶斯分类器，我们从理论上和实验表明，该算法可以给我们一个ODD的大小是易于处理的，即使给定一个棘手的实例数。由于ODD是分类器的易处理表示，我们的算法允许我们有效地测试两个朴素贝叶斯分类器的等价性，并描述它们之间的差异。我们还显示了一些额外的结果，包括不同的分类器，可以通过改变一些CPT在一个朴素贝叶斯分类器，和允许的范围内的CPT保持当前分类器不变的变化引起的计数。
2012-10-19 cs.AI cs.LG stat.ML
A New Hierarchical Redundancy Eliminated Tree Augmented Naive Bayes Classifier for Coping with Gene Ontology-based Features
University College London（伦敦大学学院）
树增强朴素贝叶斯分类器是一种概率图模型，可以表示一些特征依赖关系。在这项工作中，我们提出了一个分层冗余消除树增强朴素贝叶斯（HRE-TAN）算法，它考虑在分类器的学习过程中，消除分层冗余处理数据时，包含层次结构的功能。实验结果表明，HRE-TAN在以Gene Ontology术语为特征的衰老相关基因数据集上获得了比传统的树增强朴素贝叶斯分类器更好的预测性能，并增强了对不平衡类分布的鲁棒性。
2016-07-06 cs.AI cs.LG
An Improved Naive Bayes Classifier-based Noise Detection Technique for Classifying User Phone Call Behavior
Swinburne University of Technology（斯威本科技大学）；Charles Sturt University（查尔斯特大学）
移动电话数据中噪声实例的存在是对用户电话呼叫行为进行分类的基本问题（即，接受、拒绝、错过和外出），具有许多潜在的负面后果。由于冗余训练样本的数量，分类精度可能降低，并且分类器的复杂度可能增加。为了从训练数据集中检测出这种噪声实例，研究人员使用朴素贝叶斯分类器（NBC），因为它通过考虑属性的独立性假设和条件概率来识别错误分类的实例。然而，这些错误分类的实例中的一些可能指示个别移动电话用户的使用行为模式。现有的基于朴素贝叶斯分类器的噪声检测技术没有考虑这个问题，因此，缺乏分类精度。在本文中，我们提出了一种改进的噪声检测技术的基础上朴素贝叶斯分类器，有效地分类用户的电话呼叫行为。为了提高分类精度，我们通过分析个体的行为模式有效地从训练数据集中识别噪声实例。我们动态地确定一个噪声阈值，根据个人的独特的行为模式，通过使用朴素贝叶斯分类器和拉普拉斯估计。我们使用这个噪声阈值来识别噪声实例。为了测量我们的技术在分类用户电话呼叫行为中的有效性，我们采用最流行的分类算法（例如，决策树）。在真实电话记录数据集上的实验结果表明，该方法可以更准确地识别训练数据集中的噪声实例，从而提高分类精度。
2017-12-01 cs.LG cs.SI stat.ML
From Log-Odds to Shapley Values: An Explanatory Geometry for the Weighted Naive Bayes Classifier
Orange Research（橙研）
本文构建加权朴素贝叶斯分类器的解释性空间，证明其诱导的距离与Shapley值向量的ℓ₁距离一致，还通过k近邻分类器实证比较相关监督距离，凸显监督距离、局部解释与预测行为的关联。
2026-10-09 cs.AI cs.LG stat.ML
How do the naive Bayes classifier and the Support Vector Machine compare in their ability to forecast the Stock Exchange of Thailand?
Bangkok Patana School（曼谷帕塔纳学校）
本文研究了朴素贝叶斯分类器和支持向量机在预测泰国证券交易所的能力方面的比较问题。探讨了支持向量机和朴素贝叶斯分类器背后的理论。这些算法使用2010年1月的数据进行训练，这些数据摘自MarketWatch.com网站。输入要素是根据先前对SET100指数的研究选择的。Weka 3软件用于从标记的训练数据创建模型。均方误差和正确分类的实例的比例，以及一些其他的误差测量是用来比较这两种算法。这篇文章表明，这两个算法目前还不够先进，准确地模拟股票交易所。尽管如此，朴素贝叶斯是优于支持向量机在预测泰国证券交易所。
2015-11-29 cs.LG
Improving spam filtering by combining Naive Bayes with simple k-nearest neighbor searches
在过去的几个月里，使用朴素贝叶斯进行电子邮件分类已经变得非常流行。它们很容易实现，而且非常有效。在本文中，我们要提出的经验结果的电子邮件分类使用朴素贝叶斯和k-最近邻搜索的组合。使用这种技术，我们表明，贝叶斯过滤器的准确性可以稍微提高了大量的功能和显着的少量功能。
2003-11-30 cs.LG
Class-Conditional Compression and Disentanglement: Bridging the Gap between Neural Networks and Naive Bayes Classifiers
在这篇报告正在进行的工作的草稿中，我们1）通过用类条件压缩替换压缩项来适应信息瓶颈泛函，2）使用与类条件解纠缠相关的变分界限来放松该泛函，3）将该泛函视为随机神经网络的训练目标，以及4）示出了潜在表示被学习，使得它们可以用于朴素贝叶斯分类器。我们继续建议沿着非线性信息瓶颈线进行一系列实验[Kolchinsky等人，2018年]，深度变分信息瓶颈[Alemi等人，2017年]，和信息辍学[Alberle和Soatto，2018年]。此外，我们提出了一个神经网络的解码器架构是一个参数化的朴素贝叶斯解码器。
2019-06-06 cs.IT cs.LG math.IT
Learning Fair Naive Bayes Classifiers by Discovering and Eliminating Discrimination Patterns
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；Polytechnique Montréal（蒙特利尔理工学院）
随着机器学习越来越多地用于现实世界的决策，最近的研究工作旨在定义和确保算法决策的公平性。现有的方法通常假设一组固定的可观察特征来定义个体，但缺乏对测试时未观察到的某些特征的讨论。在本文中，我们研究了朴素贝叶斯分类器的公平性，它允许部分观察。特别是，我们引入了歧视模式的概念，这是指一个人接受不同的分类，这取决于是否观察到一些敏感的属性。如果一个模型没有这样的模式，它就被认为是公平的。我们提出了一个算法来发现和挖掘的歧视模式在一个朴素贝叶斯分类器，并展示了如何学习最大似然参数受到这些公平性约束。我们的方法迭代地发现和消除歧视模式，直到学习到一个公平的模型。三个真实世界的数据集上的实证评估表明，我们可以删除指数许多歧视模式，只增加了一小部分作为约束。
2020-05-07 cs.AI cs.LG stat.ML
Bayes and Naive Bayes Classifier
Rajiv Gandhi University of Knowledge Technologies（拉吉夫·甘地知识技术大学）
贝叶斯分类代表了一种监督学习方法以及一种用于分类的统计方法。假设一个潜在的概率模型，它允许我们通过确定结果的概率以原则性的方式捕获模型的不确定性。该分类以托马斯·贝叶斯（1702-1761）命名，他提出了贝叶斯定理。贝叶斯分类提供了实用的学习算法，先验知识和观测数据可以结合起来。贝叶斯分类为理解和评估许多学习算法提供了一个有用的视角。它计算假设的显式概率，并且对输入数据中的噪声具有鲁棒性。在统计分类中，贝叶斯分类器使错误分类的概率最小化。这是贝叶斯分类器的一个简单案例的视觉直觉，也称为：1）白痴贝叶斯2）朴素贝叶斯3）简单贝叶斯
2014-04-03 cs.LG
Local Robustness Quantification for Naive Bayes Classifiers and Generative Forests: a General Approach
Ghent University（根特大学）
本文提出一种通用方法，量化朴素贝叶斯分类器和生成森林在概率图模型下的预测鲁棒性，通过多种扰动邻域评估，并以鲁棒性值作为预测可信度的指标。
2026-09-11 cs.LG
On Generalized Naive Bayes with Continuous Features
Budapest University of Technology and Economics（布达佩斯技术与经济大学）
本文扩展一般化朴素贝叶斯至连续特征，证明其结构学习仅依赖成对copula，并基于拟阵提出贪心算法以最小化KL散度，涵盖高斯、高斯copula及任意分布三种情况，最后通过GNB森林简化模型并在真实数据上验证性能。
2026-09-22 cs.LG stat.ML
Comparing Bayesian Network Classifiers
University of Alberta（阿尔伯塔大学）
在本文中，我们经验评估算法学习四种类型的贝叶斯网络（BN）分类-朴素贝叶斯，树增强朴素贝叶斯，BN增强朴素贝叶斯和一般的BN，其中后两个学习使用两个变量的条件独立（CI）的BN-学习算法。实验结果表明，所获得的分类器，学习使用CI为基础的算法，是有竞争力的（或优于）最知名的分类器，基于贝叶斯网络和其他形式主义，学习和使用这些分类器的计算时间是相对较小的。此外，这些结果还提出了一种学习更有效分类器的方法;我们根据经验证明，这种新算法确实如预期那样工作。总的来说，这些结果表明BN分类器在机器学习和数据采掘社区中值得更多的关注。
2013-01-23 cs.AI cs.LG stat.ML
On the Rates of Convergence from Surrogate Risk Minimizers to the Bayes Optimal Classifier
The University of Sydney（悉尼大学）
我们研究了从经验代理风险最小化到贝叶斯最优分类器的收敛速度。具体来说，我们引入了\emph{consistency intensity}的概念来表征代理损失函数，并利用这个概念来获得从经验代理风险最小化到贝叶斯最优分类器的收敛速度，从而能够公平地比较不同代理风险最小化的超额风险。本文的主要结果具有实际意义，包括（1）表明铰链损失优于逻辑和指数损失的意义上，其经验极小收敛到贝叶斯最优分类器和（2）指导修改代理损失函数，以加速收敛到贝叶斯最优分类器。
2021-02-25 cs.LG stat.ML
A Bayes consistent 1-NN classifier
Ben Gurion University（本-古里安大学）
我们表明，一个简单的修改的1-最近邻分类器产生一个强贝叶斯一致的学习。在这项工作之前，唯一的强贝叶斯一致的基于近似的方法是k-最近邻分类器，k随着样本大小适当地增长。我们将认为，一个边缘正则化的1-NN享有相当大的统计和算法优势的k-NN分类。这些包括用户友好的有限样本误差范围，以及时间和内存有效的学习和测试点评估算法，具有原则性的速度-准确性权衡。令人鼓舞的实证结果报告。
2018-08-17 cs.LG stat.ML
Differentially Private Naive Bayes Classifier using Smooth Sensitivity
Purdue University（普渡大学）
随着用户数据收集的不断增加，保护个人隐私受到了越来越多的关注。差分隐私是保护个人的一个强有力的概念。朴素贝叶斯是一种流行的机器学习算法，被用作许多任务的基线。在这项工作中，我们提供了一个差分私有朴素贝叶斯分类器，它添加了与其参数的平滑敏感度成比例的噪声。我们将我们的结果与Vaidya，Shafiq，Basu和Hong进行了比较，他们将噪声缩放到参数的全局灵敏度。在真实数据集上的实验结果表明，该方法在保持$\varepsilon$-差分隐私的同时，准确率有了显著提高.
2021-07-19 cs.CR cs.LG
Naive Bayes Entrapment Detection for Planetary Rovers
Carnegie Mellon University（卡内基梅隆大学）
探测行星探测器被困是探测器进行自主救援的前提。在这项研究中，漫游车截留和近似截留标准正式定义。诱捕检测使用朴素贝叶斯分类器的建议和讨论一起从实验中的朴素贝叶斯诱捕检测器应用于AutoKralwer漫游者的结果。最后的结论和进一步的讨论在最后一节。
2018-01-31 cs.LG cs.RO
Bayesian Network Classifiers in a High Dimensional Framework
Mid Sweden University（中瑞典大学）；Swedish University of Agricultural Sciences（瑞典农业科学大学）
我们提出了一个增长维渐近形式主义。本文的观点是分类理论，我们表明，它可以容纳概率网络分类器，包括朴素贝叶斯模型及其增强版本。当表示为贝叶斯网络时，这些分类器有一个重要的优势：相应的判别函数原来是广义加性模型的特殊情况，这使得有可能得到这里使用的渐近误分类概率的封闭形式表达式作为分类精度的度量。此外，在本文中，我们提出了一个新的数量评估的一组功能，然后用于阐述增强朴素贝叶斯分类器的区分能力。结果是一个加权形式的增强朴素贝叶斯，它根据特征集的区分能力在特征集之间分配权重。我们推导出基于样本的鉴别力的渐近分布，并表明它是严重高估了在高维的情况下。然后，我们应用这个结果找到最佳的，在某种意义上最小的误分类概率，类型的加权。
2012-12-12 cs.LG stat.ML
Performance Evaluation of Predictive Classifiers For Knowledge Discovery From Engineering Materials Data Sets
Mangalore University（芒伽罗大学）
本文将朴素贝叶斯分类器和C4. 5决策树分类器（DTC）分别应用于材料信息学中，对工程材料进行分类，以选择符合设计要求的材料。本文对分类器进行了单独分析，并利用混淆矩阵预测参数和标准测度对分类器的性能评估进行了分析，对不同类别的材料进行了分类结果分析。分类器的比较发现，朴素贝叶斯分类器是更准确，优于C4.5 DTC。朴素贝叶斯分类器发现的知识可用于制造业的材料选择决策。
2012-09-12 cs.LG
Comparison of the C4.5 and a Naive Bayes Classifier for the Prediction of Lung Cancer Survivability
Hood College（胡德学院）；Marriott International（万豪国际集团）；The George Washington University（乔治华盛顿大学）
已经开发了许多数据采掘技术来从大型数据集中提取信息并识别模式和预测趋势。在这项研究中，两种分类技术，J48实现的C4.5算法和朴素贝叶斯分类器应用于预测肺癌的生存率从一个广泛的数据集与15年的患者记录。该项目的目的是验证这两种技术对真实历史数据的预测有效性。除了使J48略优于朴素贝叶斯技术的性能结果外，还有对数据和所需预处理活动的详细描述。性能结果证实了预期，而在实验过程中出现的一些问题强调了对特定领域的理解的价值，以利用数据中固有的任何特定领域的特征。
2012-09-01 cs.LG
Dynamic classifier chains for multi-label learning
Wroclaw University of Technology（弗罗茨瓦夫理工大学）
在本文中，我们处理的任务是建立一个动态集成的链分类器的多标签分类。为此，我们提出了两种分类器链算法的概念，这些算法能够在不重建整个模型的情况下改变链的标签顺序。这样的模式允许在不显著增加计算负担的情况下预测实例特定的链顺序。建议的链模型使用朴素贝叶斯分类器和最近邻方法作为基础的单标签分类器。为了利用所提出的算法的好处，我们开发了一个简单的启发式算法，允许系统找到相对较好的标签顺序。启发式排序标签根据标签特定的分类质量在验证阶段获得。启发式算法试图最大限度地减少链中的错误传播现象。实验结果表明，该模型基于朴素贝叶斯分类器，上述启发式是一个有效的工具，建立动态链分类器。
2017-11-22 cs.LG stat.ML
A new class of generative classifiers based on staged tree models
Università degli Studi di Genova（热那亚大学）；IE University（IE大学）；Universitat de València（瓦伦西亚大学）
分类的生成模型使用类变量和特征的联合概率分布来构造决策规则。在生成模型中，贝叶斯网络和朴素贝叶斯分类器是最常用的，它们为所有变量之间的关系提供了清晰的图形表示。然而，这些都有缺点，高度限制了可能存在的关系的类型，不允许上下文特定的独立性。在这里，我们介绍了一类新的生成分类器，称为分级树分类器，正式占上下文特定的独立性。它们是由一个事件树的顶点的分区，条件独立性可以正式读取。朴素阶段树分类器也被定义，它扩展了经典的朴素贝叶斯分类器，同时保持相同的复杂性。一个广泛的模拟研究表明，分级树分类器的分类精度是有竞争力的国家的最先进的分类器和一个例子展示了他们在实践中的使用。
2022-08-04 cs.AI cs.LG stat.ML
Naive Bayes Classification for Subset Selection
ISAE-SUPAERO - Institut Supérieur de l’Aéronautique et de l’Espace（法国高等航空航天学院）
本文重点讨论如何在一个较大的集合中自动选择一个子集。我们介绍了一种方法的推理合奏的离散值，朴素贝叶斯假设的基础上。我们的动机源于实际用例，其中希望从一组观察到的特征中预测一组无序的（可能相互依赖的）值。这个问题可以在多标签分类（MLC）的上下文中考虑，其中这些值被视为与连续或离散特征相关联的标签。我们介绍了\nbx算法，朴素贝叶斯分类到多标签域的扩展，讨论其属性和评估我们的方法在现实世界中的问题。
2017-07-19 cs.LG
Locally Differentially Private Naive Bayes Classification
Case Western Reserve University（凯斯西储大学）；University of South Florida（南佛罗里达大学）
在机器学习中，需要训练分类模型以预测类别标签。当训练数据包含关于个人的个人信息时，由于隐私问题，收集训练数据变得困难。局部差分隐私是一种度量不存在可信数据管理者时个人隐私的定义。个人与不受信任的数据聚合器交互，该数据聚合器在不了解个人数据的情况下获得关于人口的统计信息。为了训练一个朴素贝叶斯分类器在一个不可信的设置，我们建议使用满足本地差分隐私的方法。个体发送他们的扰动输入，保持特征值和类标签之间的关系。数据聚合器估计朴素贝叶斯分类器所需的所有概率。然后，可以基于估计的概率对新实例进行分类。我们提出了离散和连续数据的解决方案。为了消除大量的噪声和降低通信成本的多维数据，我们建议利用降维技术，可以由个人应用之前扰动他们的输入。实验结果表明，在局部差分隐私下，即使个人隐私得到保证，朴素贝叶斯分类器仍能保持准确性，并且通过降维提高了分类器的准确性.
2019-05-03 cs.CR cs.LG stat.ML
Optimal Projections for Classification with Naive Bayes
David P. Hofmeyr School of Mathematical Sciences, Lancaster University, United Kingdom（大卫·P·霍夫梅尔 威廉·朗斯特大学数学科学学院）；Francois Kamper Swiss Data Science Centre, EPFL & ETH Zürich, Switzerland（弗朗索瓦·卡默尔 瑞士数据科学中心，EPFL与苏黎世联邦理工学院）；Michail C. Melonas Kohort, Cape Town, South Africa（米哈伊尔·C·梅洛纳斯 哥特，开普敦，南非）
本文提出通过投影寻踪为朴素贝叶斯分类寻找最优线性投影，利用多项似然优化判别能力，在162个基准数据集上显著优于其他概率判别分析模型，并与支持向量机高度竞争。
2025-08-17 cs.LG stat.ML
Naive Bayes Classifiers over Missing Data: Decision and Poisoning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文研究缺失数据下朴素贝叶斯分类器的可认证鲁棒性，提出多项式时间判定算法，并证明多测试点投毒攻击为NP完全，实验验证算法高效且优于基线。
2024-05-28 cs.DB cs.LG
Bayes classifier cannot be learned from noisy responses with unknown noise rates
University of Michigan（密歇根大学）
本文证明在噪声率未知时大多数分类问题中贝叶斯决策规则不可识别，因此无法普遍绕过对噪声分布的要求，并在可识别情形下给出无需噪声分布知识的简单学习算法。
2023-04-13 cs.LG stat.ML
Exact Learning Augmented Naive Bayes Classifier
The University of Electro-Communications（电气通信大学）
早期的研究表明，贝叶斯网络（BN）的分类精度通过最大化类变量的条件对数似然（CLL），给定的特征变量，比通过最大化边际似然（ML）获得的更高。然而，在早期的研究中，两个分数的表现之间的差异可能是由于他们使用近似学习算法，而不是精确的。本文比较了使用CLL近似学习的BN的分类精度与使用ML精确学习的BN的分类精度。结果表明，在大数据情况下，最大似然比最大似然比得到的贝叶斯网络的分类准确率要高。然而，结果也表明，使用ML的精确学习BN的分类精度比其他方法差得多时，样本量小，类变量有许多父母。为了解决这个问题，我们提出了一个精确学习的增强朴素贝叶斯分类器（ANB），它确保了一个类变量没有父母。所提出的方法是保证渐近估计的同类后，准确学习BN。对比实验证明了该方法的优越性能。
2021-07-07 cs.AI cs.LG stat.ML
Active Bayesian Assessment for Black-Box Classifiers
University of California, Irvine（加州大学欧文分校）
机器学习的最新进展已经导致在各种各样的应用中增加了黑盒分类器的部署。在许多这样的情况下，迫切需要可靠地评估这些预先训练的模型的性能，并以标签有效的方式执行这种评估（考虑到标签可能稀缺且收集成本高）。在本文中，我们介绍了一种主动贝叶斯方法来评估分类器的性能，以满足desiderata的可靠性和标签效率。我们首先开发推理策略，以量化常见的评估指标，如准确性，误分类成本和校准误差的不确定性。然后，我们提出了一个通用的框架，主动贝叶斯评估使用推断的不确定性，以指导有效的选择标签的实例，使更好的性能评估与更少的标签。我们通过一系列评估现代神经分类器性能的系统经验实验（例如，ResNet和BERT）在几个标准的图像和文本分类数据集上进行了测试。
2021-03-15 cs.LG stat.ML
XNB: Explainable Class-Specific NaIve-Bayes Classifier
School of Engineering（工程学院）；Pablo de Olavide University（巴勃罗·德·奥拉维德大学）；Minsait (Indra)（明赛特公司（因陀罗公司））；Istituto Italiano di Tecnologia (IIT)（意大利技术研究院）；University of Genova（热那亚大学）
针对高维数据下通用特征集易遗漏类别独特特征的问题，提出融合核密度估计与类别特定特征子集选择的XNB分类器，性能与传统朴素贝叶斯相当且可解释性更强。
2024-11-02 cs.AI cs.LG stat.ML
Bayes metaclassifier and Soft-confusion-matrix classifier in the task of multi-label classification
Wroclaw University of Science and Technology（弗罗茨瓦夫科技大学）
本文的目的是比较软混淆矩阵方法和贝叶斯元分类器下的多标签分类框架。虽然这些方法在多标签分类框架下得到了成功的应用，但到目前为止还没有直接进行比较。这种比较是至关重要的，因为这两种方法是非常相似的，因为它们都是基于随机参考分类器的概念。由于这两种算法都是针对单标签问题设计的，因此将它们与多标签分类的问题转换方法相结合。本研究包括29个基准数据集和四个不同的基础分类器。算法进行了比较，在11个质量标准和结果进行了统计分析。
2019-01-25 cs.LG stat.ML
Novel Fine-Tuned Attribute Weighted Naïve Bayes NLoS Classifier for UWB Positioning
University of Huddersfield（哈德斯菲尔德大学）；University of Oklahoma（俄克拉荷马大学）
针对室内UWB定位的LoS/NLoS识别问题，提出为特征加权并微调概率的FT-WNB分类器，在平衡与不平衡数据上分别达到99.8%和99.7%的NLoS准确率。
2023-04-14 cs.LG eess.SP
An Efficient Detection of Malware by Naive Bayes Classifier Using GPGPU
BITS, Pilani（皮拉尼贝拉技术科学学院）
由于计算设备中恶意软件和文件的数量不断增加（根据AV-Test Institute，已知的恶意软件总数约为8 x 10^8，并且每天注册约2.5 x 10^4恶意软件），设计一个不仅有效而且还可以有效检测新的或以前未见过的恶意软件以防止/最小化损害的系统非常重要。因此，本文提出了一种新的分组方法，通过使用GPGPU的功能并行分类来有效检测恶意软件，并表明通过使用朴素贝叶斯分类器，检测速度可以提高到200倍。研究还表明，分类时间显着增加的特征的数量。
2019-05-30 cs.CR cs.LG
PAC-Bayesian Generalization Guarantees for Fairness on Stochastic and Deterministic Classifiers
CNRS（法国国家科学研究中心）；Institut d Optique Graduate School（高等光学学院）；Inria（法国国家信息与自动化研究所）；Institut Universitaire de France（法国大学研究院）；Universite Claude Bernard Lyon 1（里昂第一大学）；Univ Rennes（雷恩大学）
本文提出了一种PAC-Bayesian框架，用于推导公平性的泛化界，适用于随机和确定性分类器，并通过实验验证了其有效性。
2026-02-12 cs.LG stat.ML
A Mixture Model Based Defense for Data Poisoning Attacks Against Naive Bayes Spam Filters
The Pennsylvania State University（宾夕法尼亚州立大学）
朴素贝叶斯垃圾邮件过滤器非常容易受到数据投毒攻击。在这里，已知的垃圾邮件源/列入黑名单的IP利用了这样的事实，即它们接收到的电子邮件将被视为（地面实况）标记的垃圾邮件示例，并用于分类器训练（或重新训练）。因此，攻击源生成的电子邮件将扭曲垃圾邮件模型，可能导致分类器准确性的大幅下降。这种攻击之所以成功，主要是因为朴素贝叶斯（NB）模型的表现能力很差，只有一个单一的（组件）密度来表示垃圾邮件（加上可能的攻击）。我们提出了一种基于NB模型的混合使用的防御。我们证明，学习的混合物几乎完全隔离在第二NB组件的攻击，与原来的垃圾邮件组件基本上不变的攻击。我们的方法既解决了根据新数据重新训练分类器的情况，也解决了攻击嵌入原始垃圾邮件训练集中的更具挑战性的情况。即使对于较弱的攻击强度，基于BIC的模型顺序选择也会选择两个组件的解决方案，从而调用基于混合的防御。在TREC 2005垃圾邮件语料库上给出了有希望的结果。
2018-10-31 cs.CR cs.LG stat.ML
Boosting the Discriminant Power of Naive Bayes
University of Nottingham Ningbo China（宁波诺丁汉大学）；Ningbo Beilun Taihe High School（宁波市北仑区泰河中学）；Nanyang Technological University（南洋理工大学）
针对朴素贝叶斯因忽略特征相关性和数据噪声导致性能受限的问题，提出基于栈式自编码器的特征增强方法，结合正则化朴素贝叶斯，显著提升了分类性能。
2022-09-20 cs.LG
Discriminative classification with generative features: bridging Naive Bayes and logistic regression
Brigham Young University（杨百翰大学）；University of California, Santa Barbara（加州大学圣芭芭拉分校）
Smart Bayes通过整合生成特征与判别模型，提升分类性能，优于朴素贝叶斯和逻辑回归。
2025-11-30 cs.AI cs.LG stat.CO
Federated Learning with Discriminative Naive Bayes Classifier
Instituto de Investigación en Informática de Albacete（阿尔瓦塞特信息学研究所）；Universidad de Castilla-La Mancha（卡斯蒂利亚-拉曼恰大学）
本文提出一种基于判别式朴素贝叶斯分类器的联邦学习方法，通过共享无意义参数替代条件概率表提升抗攻击性，并在12个数据集上验证了其分类准确性与有效性。
2025-02-03 cs.LG
Cascade of one-class classifier ensemble and dynamic naive Bayes classifier applied to the myoelectric-based upper limb prosthesis control with contaminated channels detection
Wroclaw University of Science and Technology（弗罗茨瓦夫理工大学）
本文提出级联单类分类器集成与动态朴素贝叶斯分类器的肌电假肢控制系统，用于检测受污染 sEMG 通道并识别运动意图，真实信号实验表明其提升了分类质量。
2025-03-10 cs.LG eess.SP
Fast and accurate sentiment classification using an enhanced Naive Bayes model
Indian Institute of Technology (BHU)（印度理工学院（贝拿勒斯印度教大学））
我们已经探索了不同的方法来提高情感分析的朴素贝叶斯分类器的准确性。我们观察到，否定处理，字n-gram和特征选择的互信息的结果在一个显着的提高准确性的方法的组合。这意味着可以使用具有线性训练和测试时间复杂度的简单朴素贝叶斯模型来构建高度准确和快速的情感分类器。我们在流行的IMDB电影评论数据集上实现了88.80%的准确率。
2013-09-16 cs.CL cs.IR cs.LG
Improved Naive Bayes with Mislabeled Data
Peking University（北京大学）；University of International Business and Economics（对外经济贸易大学）；Fudan University（复旦大学）；Renmin University of China（中国人民大学）；Hohai University（河海大学）；Beijing Percent Technology Group Co., Ltd.（北京百分点科技集团股份有限公司）
针对标签错误降低分类性能的问题，本文提出一种基于EM算法迭代优化对数似然的改进朴素贝叶斯文本分类方法，无需主观判断标签正误，并在模拟与实验中显著提升了分类性能。
2023-04-13 cs.LG stat.AP stat.ME
