Boosting the Discriminant Power of Naive Bayes
University of Nottingham Ningbo China(宁波诺丁汉大学);Ningbo Beilun Taihe High School(宁波市北仑区泰河中学);Nanyang Technological University(南洋理工大学)
针对朴素贝叶斯因忽略特征相关性和数据噪声导致性能受限的问题,提出基于栈式自编码器的特征增强方法,结合正则化朴素贝叶斯,显著提升了分类性能。
2022-09-20 cs.LG
Comparison of the C4.5 and a Naive Bayes Classifier for the Prediction of Lung Cancer Survivability
Hood College(胡德学院);Marriott International(万豪国际集团);The George Washington University(乔治华盛顿大学)
已经开发了许多数据采掘技术来从大型数据集中提取信息并识别模式和预测趋势。在这项研究中,两种分类技术,J48实现的C4.5算法和朴素贝叶斯分类器应用于预测肺癌的生存率从一个广泛的数据集与15年的患者记录。该项目的目的是验证这两种技术对真实历史数据的预测有效性。除了使J48略优于朴素贝叶斯技术的性能结果外,还有对数据和所需预处理活动的详细描述。性能结果证实了预期,而在实验过程中出现的一些问题强调了对特定领域的理解的价值,以利用数据中固有的任何特定领域的特征。
2012-09-01 cs.LG
Naive Bayes Entrapment Detection for Planetary Rovers
Carnegie Mellon University(卡内基梅隆大学)
探测行星探测器被困是探测器进行自主救援的前提。在这项研究中,漫游车截留和近似截留标准正式定义。诱捕检测使用朴素贝叶斯分类器的建议和讨论一起从实验中的朴素贝叶斯诱捕检测器应用于AutoKralwer漫游者的结果。最后的结论和进一步的讨论在最后一节。
2018-01-31 cs.LG cs.RO
Positive Feature Values Prioritized Hierarchical Redundancy Eliminated Tree Augmented Naive Bayes Classifier for Hierarchical Feature Spaces
Birkbeck, University of London(伦敦大学伯贝克学院)
分层冗余消除树增强朴素贝叶斯(HRE-TAN)分类器是一种半朴素贝叶斯模型,它学习一种分层无冗余的树状特征表示来估计数据分布。在这项工作中,我们提出了两种新类型的积极的特征值优先级分层冗余消除树增强朴素贝叶斯分类器,专注于承载积极的实例值的功能。这两种新提出的方法被应用于28个真实世界的生物信息学数据集,显示出比传统的HRE-TAN分类器更好的预测性能。
2022-04-12 cs.LG q-bio.GN
Local Robustness Quantification for Naive Bayes Classifiers and Generative Forests: a General Approach
Ghent University(根特大学)
本文提出一种通用方法,量化朴素贝叶斯分类器和生成森林在概率图模型下的预测鲁棒性,通过多种扰动邻域评估,并以鲁棒性值作为预测可信度的指标。
2026-09-11 cs.LG
Fractional Naive Bayes (FNB): non-convex optimization for a parsimonious weighted selective naive Bayes classifier
Orange Labs(奥兰治实验室)
针对高维数据分类中朴素贝叶斯条件独立假设失效的问题,提出带稀疏正则化的变量权重直接估计方法,通过两阶段非凸优化算法构建简约鲁棒的加权分类器,在基准数据集上性能与平均基分类器相当且变量更少。
2024-09-17 cs.LG stat.ML
A New Hierarchical Redundancy Eliminated Tree Augmented Naive Bayes Classifier for Coping with Gene Ontology-based Features
University College London(伦敦大学学院)
树增强朴素贝叶斯分类器是一种概率图模型,可以表示一些特征依赖关系。在这项工作中,我们提出了一个分层冗余消除树增强朴素贝叶斯(HRE-TAN)算法,它考虑在分类器的学习过程中,消除分层冗余处理数据时,包含层次结构的功能。实验结果表明,HRE-TAN在以Gene Ontology术语为特征的衰老相关基因数据集上获得了比传统的树增强朴素贝叶斯分类器更好的预测性能,并增强了对不平衡类分布的鲁棒性。
2016-07-06 cs.AI cs.LG
A Blended Likelihood Approach for Achieving Fairness Using Naive Bayes
Department of Computer Science and Information Technology, University of Cape Coast(计算机科学与信息技术系,卡普科斯特大学)
提出一种公平感知的朴素贝叶斯扩展(BMNB),通过混合似然估计和自适应阈值后处理来平衡公平性与准确性,在多个数据集上实现接近公平的指标。
2026-05-24 cs.LG
Naive Bayes with Correlation Factor for Text Classification Problem
Georgia Institute of Technology(佐治亚理工学院)
朴素贝叶斯估计被广泛应用于文本分类问题。然而,它在小规模训练数据集上表现不佳。我们提出了一种新的方法,基于朴素贝叶斯估计来解决这个问题。引入了一个相关因子来综合不同类之间的相关性。实验结果表明,我们的估计实现了更好的准确性相比,传统的朴素贝叶斯在现实世界中的数据。
2019-05-08 cs.IR cs.LG stat.ML
Federated Learning with Discriminative Naive Bayes Classifier
Instituto de Investigación en Informática de Albacete(阿尔瓦塞特信息学研究所);Universidad de Castilla-La Mancha(卡斯蒂利亚-拉曼恰大学)
本文提出一种基于判别式朴素贝叶斯分类器的联邦学习方法,通过共享无意义参数替代条件概率表提升抗攻击性,并在12个数据集上验证了其分类准确性与有效性。
2025-02-03 cs.LG
Naive Feature Selection: a Nearly Tight Convex Relaxation for Sparse Naive Bayes
UC Berkeley(加州大学伯克利分校);CNRS(法国国家科学研究中心);École Normale Supérieure(巴黎高等师范学院)
本文提出稀疏朴素贝叶斯特征选择方法,通过 Shapley-Folkman 定理给出近乎紧的凸松弛界,在保持统计效果的同时实现比 LASSO 等方法快数个数量级的特征选择。
2025-03-12 cs.LG stat.ML
Differentially Private Naive Bayes Classifier using Smooth Sensitivity
Purdue University(普渡大学)
随着用户数据收集的不断增加,保护个人隐私受到了越来越多的关注。差分隐私是保护个人的一个强有力的概念。朴素贝叶斯是一种流行的机器学习算法,被用作许多任务的基线。在这项工作中,我们提供了一个差分私有朴素贝叶斯分类器,它添加了与其参数的平滑敏感度成比例的噪声。我们将我们的结果与Vaidya,Shafiq,Basu和Hong进行了比较,他们将噪声缩放到参数的全局灵敏度。在真实数据集上的实验结果表明,该方法在保持$\varepsilon$-差分隐私的同时,准确率有了显著提高.
2021-07-19 cs.CR cs.LG
Hierarchical Empirical-Bayes Naive Bayes: Minimax Smoothing and Calibration with AODE Extension
Van Lang University(范朗大学);Ho Chi Minh City University of Transport(胡志明市交通大学)
该研究提出HEB-NB及HEB-AODE,解决NB固定平滑强度致高基数表格数据偏差问题,经31个基准测试,其在概率指标、对数损失及ECE上均有显著改进。
2026-08-12 cs.LG
A Survey of Naïve Bayes Machine Learning approach in Text Document Classification
Pondicherry University(本地治里大学)
文本文档分类的目的是根据标签文档训练集所建议的可能性将一个或多个预定义的类别关联起来。许多机器学习算法在训练具有预定义类别的系统方面发挥着至关重要的作用,其中朴素贝叶斯有一些有趣的事实,即它简单、易于实现,并且尽管存在朴素的依赖性,但在大型数据集中仍能获得更好的准确性。朴素贝叶斯机器学习方法的重要性已经被认识到,因此该研究已经被用于文本文档分类和可用的统计事件模型。本文对文本分类中的各种特征选择方法以及与文本分类相关的度量进行了讨论和比较。
2010-03-09 cs.IR cs.LG
A Bayesian Network Classifier that Combines a Finite Mixture Model and a Naive Bayes Model
University of Pittsburgh(匹兹堡大学)
在本文中,我们提出了一个新的贝叶斯网络模型的分类,结合朴素贝叶斯(NB)分类器和有限混合(FM)分类器。由此产生的分类器的目的是放松的两个组件模型的基础上的强假设,在试图提高其分类性能,无论是在准确性和校准的估计概率。建议的分类器是通过叠加一个有限的混合模型的一组特征变量的朴素贝叶斯模型。我们目前的实验结果,比较真实数据集上的新分类器的预测性能与NB分类器和FM分类器的预测性能。
2013-01-23 cs.AI cs.LG stat.ML
Asymptotic Model Selection for Naive Bayesian Networks
Technion - Israel Institute of Technology(以色列理工学院)
我们开发了一个封闭形式的渐近公式来计算数据的边际似然给定的朴素贝叶斯网络模型,具有两个隐藏状态和二进制功能。这个公式偏离了标准的BIC分数。我们的工作提供了一个具体的例子,BIC分数通常是不属于分层指数族的统计模型有效。这与线性和曲线指数族形成对比,在线性和曲线指数族中,BIC分数已被证明为边缘似然提供正确的近似。
2012-12-12 cs.AI cs.LG
Generalized Naive Bayes
Budapest University of Technology and Economics(布达佩斯技术与经济大学);Institute for Computer Science and Control (SZTAKI), Hungarian Research Network (HUN-REN)(匈牙利研究网络计算机科学与控制研究所(SZTAKI))
本文提出Generalized Naive Bayes结构作为Naive Bayes的扩展,设计了两种寻找最优概率分布的算法以最大化信息内容并最小化冗余,并基于此引入新的特征选择方法,实验证明其在多数情况下优于相关算法。
2024-08-28 cs.LG stat.ML
Search Strategies for Binary Feature Selection for a Naive Bayes Classifier
Université Paris 1 Panthéon-Sorbonne(巴黎第一大学先贤祠-索邦大学);Snecma Groupe Safran(赛峰集团斯奈克玛公司)
本文比较了几种特征选择方法的朴素贝叶斯分类器(NBC)时,所研究的数据描述了大量的冗余二进制指标。由分类错误概率的NBC估计指导的包装器方法优于过滤器方法,同时保持合理的计算成本。
2015-06-12 cs.LG stat.ML
Using the Naive Bayes as a discriminative classifier
Telecom SudParis(南巴黎电信学院);Institut Polytechnique de Paris(巴黎综合理工学院);IBM GSB France(IBM法国全球企业服务部)
对于分类任务,概率模型可以分为两个不相交的类:生成或判别。它取决于给定观测$y$,$p(x | y)$的标签$x$的后验概率计算。一方面,生成式分类器,如朴素贝叶斯或隐马尔可夫模型(HMM),在使用贝叶斯规则来计算$p(x | y)$之前,需要计算联合概率p(x,y)。另一方面,判别分类器直接计算$p(x | y)$,而不管观测的规律。它们现在被广泛使用,具有逻辑斯谛回归、条件随机场(CRF)和人工神经网络等模型。然而,最近的熵前向-后向算法表明,隐马尔可夫模型,作为一个生成模型,也可以匹配的歧视性的定义。这个例子引发了一个问题,即其他生成模型是否也是如此。在本文中,我们证明了朴素贝叶斯分类器也可以匹配判别分类器的定义,因此它可以以生成或判别的方式使用。此外,这一观察还讨论了生成-判别对的概念,例如,将朴素贝叶斯和逻辑斯谛回归或HMM和CRF联系起来。与此相关,我们表明,逻辑斯谛回归可以被看作是一个特殊的情况下,朴素贝叶斯用于判别的方式。
2021-03-05 cs.LG stat.ML
Hierarchical Dependency Constrained Tree Augmented Naive Bayes Classifiers for Hierarchical Feature Spaces
Birkbeck, University of London(伦敦大学伯克贝克学院);University of Kent(肯特大学)
树增强朴素贝叶斯(TAN)分类器是一种概率图模型,它构造一个单亲依赖树来估计数据的分布。在这项工作中,我们提出了两个新的层次依赖的树增强朴素贝叶斯算法,即Hie-TAN和Hie-TAN-Lite。这两种方法都利用预定义的父子(泛化-专业化)之间的关系的功能作为一种类型的约束,学习树表示的依赖关系的功能,而后者进一步消除了分层冗余在分类器学习阶段。实验结果表明,Hie-TAN成功地获得了比其他几种层次依赖约束分类算法更好的预测性能,并通过消除层次冗余进一步提高了其预测性能,Hie-TAN-Lite获得了更高的准确率。
2022-02-08 cs.LG stat.ML
Evaluation of the Performance of the Markov Blanket Bayesian Classifier Algorithm
马尔可夫覆盖贝叶斯分类器是最近提出的概率分类器的构造算法。本文提出了一个经验比较的MBBC算法与其他三个贝叶斯分类:朴素贝叶斯,树增强朴素贝叶斯和一般贝叶斯网络。所有这些都使用Cooper和Herskovits的K2框架实现。分类器的性能(使用简单的准确性措施和ROC曲线)和速度方面进行了比较,在一系列的标准基准数据集。它的结论是MBBC是竞争力的速度和精度与其他算法考虑。
2002-11-01 cs.LG
Fast and accurate sentiment classification using an enhanced Naive Bayes model
Indian Institute of Technology (BHU)(印度理工学院(贝拿勒斯印度教大学))
我们已经探索了不同的方法来提高情感分析的朴素贝叶斯分类器的准确性。我们观察到,否定处理,字n-gram和特征选择的互信息的结果在一个显着的提高准确性的方法的组合。这意味着可以使用具有线性训练和测试时间复杂度的简单朴素贝叶斯模型来构建高度准确和快速的情感分类器。我们在流行的IMDB电影评论数据集上实现了88.80%的准确率。
2013-09-16 cs.CL cs.IR cs.LG
Improved Naive Bayes with Mislabeled Data
Peking University(北京大学);University of International Business and Economics(对外经济贸易大学);Fudan University(复旦大学);Renmin University of China(中国人民大学);Hohai University(河海大学);Beijing Percent Technology Group Co., Ltd.(北京百分点科技集团股份有限公司)
针对标签错误降低分类性能的问题,本文提出一种基于EM算法迭代优化对数似然的改进朴素贝叶斯文本分类方法,无需主观判断标签正误,并在模拟与实验中显著提升了分类性能。
2023-04-13 cs.LG stat.AP stat.ME
A Semi-Supervised Adaptive Discriminative Discretization Method Improving Discrimination Power of Regularized Naive Bayes
University of Nottingham Ningbo China(宁波诺丁汉大学)
针对正则化朴素贝叶斯离散化信息损失大的问题,提出半监督自适应判别离散化框架RNB+,利用伪标记结合有标记与无标记数据,显著提升判别能力并在多数据集上优于现有NB分类器。
2023-04-05 cs.IT cs.LG math.IT
A Meta-analytical Comparison of Naive Bayes and Random Forest for Software Defect Prediction
Innopolis University(因诺波利斯大学);Università di Bologna(博洛尼亚大学)
通过系统文献综述和元分析,比较朴素贝叶斯和随机森林在召回率、F-measure和精确度上的统计差异,发现两者无显著差异。
2023-06-27 cs.LG cs.SE
Budgeted Learning of Naive-Bayes Classifiers
University of Alberta(阿尔伯塔大学)
通常,获取训练数据具有相关联的成本。我们考虑的情况下,学习者可以购买数据在训练过程中,受预算。特别地,我们研究了每个特征标签都有相关成本的情况,并且在训练过程中获得的所有特征标签的总成本不得超过预算。本文比较了在给定预算和朴素贝叶斯模型参数的当前信念状态的情况下,选择下一个购买哪个特征标签的方法。而主动学习传统上专注于查询选择的近视(贪婪)策略,本文提出了一种将预算知识融入决策过程的易处理的方法,它提高了绩效。
2012-10-19 cs.LG stat.ML
Learning Optimal Augmented Bayes Networks
朴素贝叶斯是一种简单的贝叶斯分类器,具有很强的属性独立性假设。该分类器具有较强的独立性假设,在实际应用中表现良好。相信放松朴素贝叶斯分类器的独立性假设可以提高所得结构的分类精度。虽然寻找最佳无约束贝叶斯网络(对于大多数合理的评分措施)是NP难问题,但可以在多项式时间内学习遵守各种结构限制的最佳网络。一些作者已经研究了在朴素贝叶斯分类器的属性之间添加增强弧的可能性。Friedman、Geiger和Goldszynst定义了TAN结构,其中增广弧在属性上形成树,并提出了一个多项式时间算法,该算法学习相对于MDL分数的最优TAN。Keogh和Pazzani定义了增强贝叶斯网络,其中增强弧在属性上形成森林(树的集合,因此放松了TAN的结构限制),并提出了启发式搜索方法来学习好的,但不是最优的,增强弧集。然而,作者仅根据观察到的误分类错误来评估学习的结构,而不是针对评分指标,如MDL。在本文中,我们提出了一个简单的,多项式时间的贪心算法学习最佳的增强贝叶斯网络的MDL得分。
2005-09-19 cs.LG
Variable selection for Naïve Bayes classification
Universidad de Sevilla(塞维利亚大学);Universidad de Cádiz(加的斯大学)
针对朴素贝叶斯分类受特征相关性影响、高维特征拖慢速度且难解释的问题,提出一种考虑协变量相关结构、支持多性能指标引导与组性能约束的稀疏朴素贝叶斯方法,在平衡及不平衡数据集上均取得有竞争力的效果。
2024-01-31 cs.LG stat.ML
Sampling Audit Evidence Using a Naive Bayes Classifier
Chang-Jung Christian University(长荣大学)
本研究将朴素贝叶斯分类器等机器学习技术与抽样结合,提出基于用户、项目或混合的审计证据抽取方法,以解决台湾审计人员处理海量数据的问题,在平衡代表性与风险性的同时提升大数据抽样效率。
2024-03-21 cs.LG
Naive Bayes Classifiers and One-hot Encoding of Categorical Variables
School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文研究了在朴素贝叶斯分类器中对分类变量错误使用独热编码的影响,发现这会引发伯努利乘积假设,并通过数学和实验分析比较了其与正确分类朴素贝叶斯分类器的差异。
2024-04-28 cs.LG stat.ML
Locally Weighted Learning for Naive Bayes Classifier
The Chinese University of Hong Kong(香港中文大学);Stanford University(斯坦福大学)
由于朴素贝叶斯(NB)分类器的条件独立性假设(CIA)较强且经常被违反,当样本量增加时,NB分类器的性能越来越不如复杂分类器。我们从这种现象中了解到,当训练数据的大小很大时,我们应该放松假设或将NB应用于“简化”的数据集,例如使用NB作为局部模型。后一种方法用忽略的信息换取对模型假设的鲁棒性。在本文中,我们考虑使用NB作为局部加权数据的模型。设计了一个特殊的加权函数,使得如果CIA对未加权的数据成立,它也对加权的数据成立。新方法直观,能够处理类不平衡。从理论上讲,它比仅基于$k$最近邻居的朴素贝叶斯局部加权学习器更可靠。实验结果表明,新方法与适当的参数选择优于现有的7个类似性质的分类器。
2014-12-21 cs.LG stat.ML
Is a Data-Driven Approach still Better than Random Choice with Naive Bayes classifiers?
Wrocław University of Technology(弗罗茨瓦夫理工大学)
我们研究了数据驱动的,先验的和随机的方法来划分标签空间的多标签分类与高斯朴素贝叶斯分类器的性能。在12个基准数据集上进行实验,并对5个已建立的分类质量指标进行评估:微观和宏观平均F1得分,子集准确度和汉明损失。数据驱动的方法明显优于随机基线的平均运行。在F1评分和子集准确度的情况下-在最差情况下,数据驱动方法比随机方法更有可能表现得更好。总有一种方法在最坏的情况下比先验方法表现得更好。数据驱动的方法对一个先验的方法与弱分类器的优势是小于当使用树分类器。
2017-02-13 cs.LG stat.ML
Class-Conditional Compression and Disentanglement: Bridging the Gap between Neural Networks and Naive Bayes Classifiers
在这篇报告正在进行的工作的草稿中,我们1)通过用类条件压缩替换压缩项来适应信息瓶颈泛函,2)使用与类条件解纠缠相关的变分界限来放松该泛函,3)将该泛函视为随机神经网络的训练目标,以及4)示出了潜在表示被学习,使得它们可以用于朴素贝叶斯分类器。我们继续建议沿着非线性信息瓶颈线进行一系列实验[Kolchinsky等人,2018年],深度变分信息瓶颈[Alemi等人,2017年],和信息辍学[Alberle和Soatto,2018年]。此外,我们提出了一个神经网络的解码器架构是一个参数化的朴素贝叶斯解码器。
2019-06-06 cs.IT cs.LG math.IT
An Efficient Detection of Malware by Naive Bayes Classifier Using GPGPU
BITS, Pilani(皮拉尼贝拉技术科学学院)
由于计算设备中恶意软件和文件的数量不断增加(根据AV-Test Institute,已知的恶意软件总数约为8 x 10^8,并且每天注册约2.5 x 10^4恶意软件),设计一个不仅有效而且还可以有效检测新的或以前未见过的恶意软件以防止/最小化损害的系统非常重要。因此,本文提出了一种新的分组方法,通过使用GPGPU的功能并行分类来有效检测恶意软件,并表明通过使用朴素贝叶斯分类器,检测速度可以提高到200倍。研究还表明,分类时间显着增加的特征的数量。
2019-05-30 cs.CR cs.LG
Explaining Naive Bayes and Other Linear Classifiers with Polynomial Time and Delay
ANITI, Université de Toulouse(图卢兹大学ANITI);IRIT, Université de Toulouse III(图卢兹第三大学IRIT);Monash University(莫纳什大学);VMware Research(VMware研究)
最近的工作提出了所谓的PI解释的朴素贝叶斯分类器(NBCs)的计算。PI解释是足以用于预测的特征值对的子集最小集合,并且已经用在时间和空间上是最坏情况指数的最先进的精确算法计算。相比之下,我们表明,一个PI解释NBC的计算可以实现在对数线性时间,同样的结果也适用于更一般的线性分类器类。此外,我们证明了PI-解释的枚举可以得到多项式延迟。实验结果表明,与早期的工作相比,新算法的性能增益。实验结果还探讨了衡量启发式解释质量的方法
2020-11-04 cs.LG stat.ML
An Efficient Shapley Value Computation for the Naive Bayes Classifier
Orange Innovation(Orange创新研究院)
本文针对 naive Bayes 分类器提出了 Shapley value 的精确解析表达式,通过与 WoE 和 KernelShap 对比,证明该方法在极大数据集上具有计算时间极短且低复杂度的优势。
2023-07-31 cs.LG stat.ML
Locally Differentially Private Naive Bayes Classification
Case Western Reserve University(凯斯西储大学);University of South Florida(南佛罗里达大学)
在机器学习中,需要训练分类模型以预测类别标签。当训练数据包含关于个人的个人信息时,由于隐私问题,收集训练数据变得困难。局部差分隐私是一种度量不存在可信数据管理者时个人隐私的定义。个人与不受信任的数据聚合器交互,该数据聚合器在不了解个人数据的情况下获得关于人口的统计信息。为了训练一个朴素贝叶斯分类器在一个不可信的设置,我们建议使用满足本地差分隐私的方法。个体发送他们的扰动输入,保持特征值和类标签之间的关系。数据聚合器估计朴素贝叶斯分类器所需的所有概率。然后,可以基于估计的概率对新实例进行分类。我们提出了离散和连续数据的解决方案。为了消除大量的噪声和降低通信成本的多维数据,我们建议利用降维技术,可以由个人应用之前扰动他们的输入。实验结果表明,在局部差分隐私下,即使个人隐私得到保证,朴素贝叶斯分类器仍能保持准确性,并且通过降维提高了分类器的准确性.
2019-05-03 cs.CR cs.LG stat.ML
On Generalized Naive Bayes with Continuous Features
Budapest University of Technology and Economics(布达佩斯技术与经济大学)
本文扩展一般化朴素贝叶斯至连续特征,证明其结构学习仅依赖成对copula,并基于拟阵提出贪心算法以最小化KL散度,涵盖高斯、高斯copula及任意分布三种情况,最后通过GNB森林简化模型并在真实数据上验证性能。
2026-09-22 cs.LG stat.ML
Applying Naive Bayes Classification to Google Play Apps Categorization
University of Saskatchewan(萨斯喀彻温大学)
Google Play商店中有超过100万个应用程序和超过50万个发布商。拥有如此大量的应用程序和开发人员可能会对应用程序用户和商店上的新发布者构成挑战。如果应用程序没有正确地发布在正确的类别中,发现应用程序可能是一个挑战,反过来又会减少应用程序开发人员的收入。此外,Google Play商店中有超过41个类别,由于他们必须选择的类别数量众多,因此决定发布应用程序的正确类别对开发人员来说可能具有挑战性。机器学习已经非常有用,特别是在分类问题,如情感分析,文档分类和垃圾邮件检测。这些策略还可以应用于Google Play商店上的应用分类,以便使用应用程序中的详细信息为应用程序发布商建议适当的类别。在这个项目中,我们使用Google Play Store上顶级开发者应用的开放元数据构建了两种不同的朴素贝叶斯分类器,以分类商店中的新应用。然后使用各种评估方法对这些分类器进行评估,并将其结果相互比较。结果表明,Naive Bayes算法对我们的分类问题表现良好,并且可以为Google Play Store上的Android应用发布商自动进行应用分类
2016-08-30 cs.IR cs.LG
Discriminative classification with generative features: bridging Naive Bayes and logistic regression
Brigham Young University(杨百翰大学);University of California, Santa Barbara(加州大学圣芭芭拉分校)
Smart Bayes通过整合生成特征与判别模型,提升分类性能,优于朴素贝叶斯和逻辑回归。
2025-11-30 cs.AI cs.LG stat.CO
Structure of Classifier Boundaries: Case Study for a Naive Bayes Classifier
Temple University, Department of Statistics, Operations, and Data Science(特拉华大学统计学、运营与数据科学系);Fraunhofer USA Center Mid-Atlantic(弗劳恩霍夫美国中大西洋中心);University of Maryland, Department of Computer Science(马里兰大学计算机科学系);University of Pennsylvania, Computational Social Science Laboratory(宾夕法尼亚大学计算社会科学实验室)
研究贝叶斯分类器在输入空间为图时的边界结构,通过邻域相似性度量分类不确定性,并应用于DNA读段分配问题。
2026-05-27 cs.LG stat.ML
An Improved Naive Bayes Classifier-based Noise Detection Technique for Classifying User Phone Call Behavior
Swinburne University of Technology(斯威本科技大学);Charles Sturt University(查尔斯特大学)
移动电话数据中噪声实例的存在是对用户电话呼叫行为进行分类的基本问题(即,接受、拒绝、错过和外出),具有许多潜在的负面后果。由于冗余训练样本的数量,分类精度可能降低,并且分类器的复杂度可能增加。为了从训练数据集中检测出这种噪声实例,研究人员使用朴素贝叶斯分类器(NBC),因为它通过考虑属性的独立性假设和条件概率来识别错误分类的实例。然而,这些错误分类的实例中的一些可能指示个别移动电话用户的使用行为模式。现有的基于朴素贝叶斯分类器的噪声检测技术没有考虑这个问题,因此,缺乏分类精度。在本文中,我们提出了一种改进的噪声检测技术的基础上朴素贝叶斯分类器,有效地分类用户的电话呼叫行为。为了提高分类精度,我们通过分析个体的行为模式有效地从训练数据集中识别噪声实例。我们动态地确定一个噪声阈值,根据个人的独特的行为模式,通过使用朴素贝叶斯分类器和拉普拉斯估计。我们使用这个噪声阈值来识别噪声实例。为了测量我们的技术在分类用户电话呼叫行为中的有效性,我们采用最流行的分类算法(例如,决策树)。在真实电话记录数据集上的实验结果表明,该方法可以更准确地识别训练数据集中的噪声实例,从而提高分类精度。
2017-12-01 cs.LG cs.SI stat.ML
Learning Fair Naive Bayes Classifiers by Discovering and Eliminating Discrimination Patterns
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Mila(米拉研究所);Université de Montréal(蒙特利尔大学);Polytechnique Montréal(蒙特利尔理工学院)
随着机器学习越来越多地用于现实世界的决策,最近的研究工作旨在定义和确保算法决策的公平性。现有的方法通常假设一组固定的可观察特征来定义个体,但缺乏对测试时未观察到的某些特征的讨论。在本文中,我们研究了朴素贝叶斯分类器的公平性,它允许部分观察。特别是,我们引入了歧视模式的概念,这是指一个人接受不同的分类,这取决于是否观察到一些敏感的属性。如果一个模型没有这样的模式,它就被认为是公平的。我们提出了一个算法来发现和挖掘的歧视模式在一个朴素贝叶斯分类器,并展示了如何学习最大似然参数受到这些公平性约束。我们的方法迭代地发现和消除歧视模式,直到学习到一个公平的模型。三个真实世界的数据集上的实证评估表明,我们可以删除指数许多歧视模式,只增加了一小部分作为约束。
2020-05-07 cs.AI cs.LG stat.ML
Reasoning about Bayesian Network Classifiers
University of California, Los Angeles(加州大学洛杉矶分校)
贝叶斯网络分类器在很多领域都有应用,其中一种常见的分类器是朴素贝叶斯分类器。在本文中,我们介绍了一种推理贝叶斯网络分类器的方法,我们显式地将它们转换为有序决策图(ODD),然后使用这些分类器的属性的原因。具体来说,我们提出了一个算法转换成一个ODD的任何朴素贝叶斯分类器,我们从理论上和实验表明,该算法可以给我们一个ODD的大小是易于处理的,即使给定一个棘手的实例数。由于ODD是分类器的易处理表示,我们的算法允许我们有效地测试两个朴素贝叶斯分类器的等价性,并描述它们之间的差异。我们还显示了一些额外的结果,包括不同的分类器,可以通过改变一些CPT在一个朴素贝叶斯分类器,和允许的范围内的CPT保持当前分类器不变的变化引起的计数。
2012-10-19 cs.AI cs.LG stat.ML
Naive Bayes Classifiers over Missing Data: Decision and Poisoning
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文研究缺失数据下朴素贝叶斯分类器的可认证鲁棒性,提出多项式时间判定算法,并证明多测试点投毒攻击为NP完全,实验验证算法高效且优于基线。
2024-05-28 cs.DB cs.LG
From Log-Odds to Shapley Values: An Explanatory Geometry for the Weighted Naive Bayes Classifier
Orange Research(橙研)
本文构建加权朴素贝叶斯分类器的解释性空间,证明其诱导的距离与Shapley值向量的ℓ₁距离一致,还通过k近邻分类器实证比较相关监督距离,凸显监督距离、局部解释与预测行为的关联。
2026-10-09 cs.AI cs.LG stat.ML
A Mixture Model Based Defense for Data Poisoning Attacks Against Naive Bayes Spam Filters
The Pennsylvania State University(宾夕法尼亚州立大学)
朴素贝叶斯垃圾邮件过滤器非常容易受到数据投毒攻击。在这里,已知的垃圾邮件源/列入黑名单的IP利用了这样的事实,即它们接收到的电子邮件将被视为(地面实况)标记的垃圾邮件示例,并用于分类器训练(或重新训练)。因此,攻击源生成的电子邮件将扭曲垃圾邮件模型,可能导致分类器准确性的大幅下降。这种攻击之所以成功,主要是因为朴素贝叶斯(NB)模型的表现能力很差,只有一个单一的(组件)密度来表示垃圾邮件(加上可能的攻击)。我们提出了一种基于NB模型的混合使用的防御。我们证明,学习的混合物几乎完全隔离在第二NB组件的攻击,与原来的垃圾邮件组件基本上不变的攻击。我们的方法既解决了根据新数据重新训练分类器的情况,也解决了攻击嵌入原始垃圾邮件训练集中的更具挑战性的情况。即使对于较弱的攻击强度,基于BIC的模型顺序选择也会选择两个组件的解决方案,从而调用基于混合的防御。在TREC 2005垃圾邮件语料库上给出了有希望的结果。
2018-10-31 cs.CR cs.LG stat.ML
Optimal Projections for Classification with Naive Bayes
David P. Hofmeyr School of Mathematical Sciences, Lancaster University, United Kingdom(大卫·P·霍夫梅尔 威廉·朗斯特大学数学科学学院);Francois Kamper Swiss Data Science Centre, EPFL & ETH Zürich, Switzerland(弗朗索瓦·卡默尔 瑞士数据科学中心,EPFL与苏黎世联邦理工学院);Michail C. Melonas Kohort, Cape Town, South Africa(米哈伊尔·C·梅洛纳斯 哥特,开普敦,南非)
本文提出通过投影寻踪为朴素贝叶斯分类寻找最优线性投影,利用多项似然优化判别能力,在162个基准数据集上显著优于其他概率判别分析模型,并与支持向量机高度竞争。
2025-08-17 cs.LG stat.ML
Optimal partition of feature using Bayesian classifier
针对朴素贝叶斯分类器中特征条件依赖易引发决策偏差、条件独立难实现的问题,提出共单调独立分类器CIBer实现特征最优划分,在多数据集上取得比随机森林、XGBoost更低错误率及相当或更高准确率。
2024-12-08 cs.AI cs.LG
Comparing Bayesian Network Classifiers
University of Alberta(阿尔伯塔大学)
在本文中,我们经验评估算法学习四种类型的贝叶斯网络(BN)分类-朴素贝叶斯,树增强朴素贝叶斯,BN增强朴素贝叶斯和一般的BN,其中后两个学习使用两个变量的条件独立(CI)的BN-学习算法。实验结果表明,所获得的分类器,学习使用CI为基础的算法,是有竞争力的(或优于)最知名的分类器,基于贝叶斯网络和其他形式主义,学习和使用这些分类器的计算时间是相对较小的。此外,这些结果还提出了一种学习更有效分类器的方法;我们根据经验证明,这种新算法确实如预期那样工作。总的来说,这些结果表明BN分类器在机器学习和数据采掘社区中值得更多的关注。
2013-01-23 cs.AI cs.LG stat.ML
NBcoded: network attack classifiers based on Encoder and Naive Bayes model for resource limited devices
Vicomtech Foundation, Basque Research and Technology Alliance (BRTA)(Vicomtech基金会,巴斯克研究与技术联盟);Institute of Smart Cities, Public University of Navarre(纳瓦拉公立大学智慧城市研究所)
近年来,网络安全变得越来越重要,将检测攻击或入侵转变为一项关键任务。事实上,系统、应用程序或网络中的一个小漏洞可能会对公司造成巨大损害。然而,当这种攻击检测遇到人工智能范例时,可以使用高质量的分类器来解决,这些分类器在计算或存储器使用方面通常需要高资源需求。当攻击分类器需要与资源有限的设备一起使用或不使设备的性能过载时,这种情况具有很大的影响,例如在物联网设备或工业系统中发生的情况。为了克服这个问题,NBcoded,一个新的轻攻击分类工具,在这项工作中提出。NBcoded在流水线中工作,将编码器的噪声数据属性的去除与朴素贝叶斯分类器获得的低资源和时间消耗相结合。这项工作比较了三种不同的NBcoded实现基于三种不同的朴素贝叶斯似然分布假设(高斯,互补和伯努利)。然后,将最佳NB编码与最先进的分类器(如多层感知器和随机森林)进行比较。我们的实现被证明是减少训练时间和磁盘使用量影响的最佳模型,即使它在准确性和F1得分方面优于其他两个模型(约2%)。
2021-09-15 cs.CR cs.LG
Fairness-Aware Naive Bayes Classifier for Data with Multiple Sensitive Features
University of Durham(杜伦大学)
公平感知机器学习寻求在生成预测时最大化效用,同时避免基于种族、性别、宗教等敏感属性的不公平歧视。遵循这种策略的简单而有效的二进制分类算法是两个朴素贝叶斯(2NB),它强制执行统计奇偶性-要求组成数据集的组以相同的可能性接收阳性标签。在本文中,我们将此算法推广到N-naive-Bayes(NNB),以消除假设数据中只有两个敏感组的简化,而是将其应用于任意数量的组。我们提出了一个扩展的原始算法的统计奇偶约束和后处理例程,强制执行统计独立的标签和单个敏感属性。然后,我们研究了它的应用程序的数据与多个敏感功能,并提出了一个新的约束和后处理例程,以执行差分公平,扩展已建立的组公平约束集中在交叉。我们实证证明了美国人口普查数据集的NNB算法的有效性,并比较其准确性和去偏性能,不同的影响和DF- $ε$分数,与类似的组公平算法。最后,我们列出了用户在将该算法纳入其应用程序之前应该注意的重要事项,并指导他们进一步阅读使用统计奇偶性作为公平标准的利弊和道德影响。
2022-02-23 cs.AI cs.LG
Exact Learning Augmented Naive Bayes Classifier
The University of Electro-Communications(电气通信大学)
早期的研究表明,贝叶斯网络(BN)的分类精度通过最大化类变量的条件对数似然(CLL),给定的特征变量,比通过最大化边际似然(ML)获得的更高。然而,在早期的研究中,两个分数的表现之间的差异可能是由于他们使用近似学习算法,而不是精确的。本文比较了使用CLL近似学习的BN的分类精度与使用ML精确学习的BN的分类精度。结果表明,在大数据情况下,最大似然比最大似然比得到的贝叶斯网络的分类准确率要高。然而,结果也表明,使用ML的精确学习BN的分类精度比其他方法差得多时,样本量小,类变量有许多父母。为了解决这个问题,我们提出了一个精确学习的增强朴素贝叶斯分类器(ANB),它确保了一个类变量没有父母。所提出的方法是保证渐近估计的同类后,准确学习BN。对比实验证明了该方法的优越性能。
2021-07-07 cs.AI cs.LG stat.ML
Discrimination and Class Imbalance Aware Online Naive Bayes
L3S Research Center(L3S研究中心);Leibniz University of Hannover(汉诺威莱布尼茨大学)
大规模数据流的公平意识挖掘是当代机器学习领域日益增长且具有挑战性的问题。许多流学习算法用于在关键决策点代替人类,招聘员工、评估信用风险等。这就要求以最小的响应延迟处理大量传入的信息,同时确保公平和高质量的决策。最近的区分感知学习方法基于整体准确性进行优化。然而,总体准确性偏向于多数类;因此,最先进的方法主要通过部分或完全忽略少数类来减少歧视。在这种情况下,我们提出了一种新的适应朴素贝叶斯,以减轻歧视嵌入在流中,同时保持高预测性能的多数和少数类。该算法简单、快速,可实现多目标优化。为了处理类不平衡和概念漂移问题,提出了一种动态实例加权模块,根据实例在少数类或多数类中的隶属度,赋予新实例更高的重要性,而对过时实例的重要性降低。我们在一系列流数据集和静态数据集上进行了实验,并推断我们提出的方法在区分分数和平衡准确性方面优于现有的最先进的公平性感知方法。
2022-11-09 cs.CY cs.LG