Path-Weighted Integrated Gradients for Interpretable Dementia Classification
Department of Electrical Engineering Canadian University Dubai(电气工程系迪拜加拿大大学);Department of Informatics Abu Dhabi School of Management(信息学系阿布扎赫尔管理学院)
本文提出路径加权积分梯度(PWIG),通过在积分梯度中引入可定制加权函数,提升痴呆分类模型的可解释性与稳定性,并在 OASIS-1 MRI 数据集上验证其能突出临床相关脑区。
2025-09-22 cs.LG
Improving Performance in Classification Tasks with LCEN and the Weighted Focal Differentiable MCC Loss
Massachusetts Institute of Technology(麻省理工学院)
本文改进了LCEN算法以适应分类任务,通过加权焦点可微MCC损失函数提升模型性能,实验显示其在F1和MCC指标上优于多数模型,且特征选择效果显著。
2026-04-23 cs.LG
A Generalized Weighted Loss for SVC and MLP
在回归任务的情况下,通常标准算法采用损失,其中每个误差仅仅是真实值和预测值之间的绝对差。在目前,我们介绍了几个误差加权计划,是一个概括的统一例程。我们研究了支持向量分类的二进制分类模型和多层感知器的回归网络。结果证明,该误差从未比标准程序更差,并且好几次都更好。
2023-02-22 cs.LG
Federated Source-free Domain Adaptation for Classification: Weighted Cluster Aggregation for Unlabeled Data
NEC Corporation(日本电装公司);Kyoto University(京都大学)
针对联邦学习中无标签目标域数据且无法访问源数据的分类任务,提出FedWCA方法,通过客户端聚类、加权聚合及伪标签本地适应,有效缓解域偏移并保护隐私,实验验证其优越性。
2024-12-18 cs.LG
Scaling Optimal Classification Trees via Adaptive Feature and Sample Reduction
The Hong Kong Polytechnic University(香港理工大学)
针对最优分类树动态规划计算昂贵的问题,提出基于STreeD的联合特征与样本缩减框架,通过加权合并与自适应候选集优化,实现最高121倍加速并保持预测性能。
2026-09-09 cs.LG
Vehicle classification using ResNets, localisation and spatially-weighted pooling
University of York(约克大学)
我们研究ResNet架构是否可以在细粒度车辆分类任务上优于更传统的卷积神经网络。我们在Comprehensive Cars数据集上对ResNet-18、ResNet-34和ResNet-50进行了训练和测试,而没有在其他数据集上进行预训练。然后,我们修改网络以使用空间加权池。最后,我们使用基于ResNet-50的网络在分类过程之前添加了一个本地化步骤。我们发现,使用空间加权池和本地化都提高了ResNet 50的分类精度。空间加权池化将准确度提高1.5%,本地化将准确度提高3.4%。使用这两种方法将准确率提高了3.7%,在Comprehensive Cars数据集上的前1准确率为96.351%。我们的方法比一系列方法(包括使用传统CNN的方法)实现了更高的准确性。然而,我们的方法并不像使用空间加权池的预训练网络那样好。
2018-10-15 cs.CV cs.LG stat.ML
Weighted graphlets and deep neural networks for protein structure classification
University of Notre Dame(圣母大学);Eck Institute for Global Health, University of Notre Dame(圣母大学埃克全球健康研究所);Interdisciplinary Center for Network Science & Applications, University of Notre Dame(圣母大学网络科学与应用跨学科中心);University of Tennessee at Knoxville(田纳西大学诺克斯维尔分校)
由于结构相似的蛋白质通常具有相似的功能,因此分析蛋白质结构可以帮助预测蛋白质功能,因此非常重要。我们考虑蛋白质结构分类的问题,它通过计算将蛋白质的结构分为预定义的组。我们开发了一个描述蛋白质结构的加权网络,更重要的是,我们提出了第一个适用于加权网络的基于图的度量。此外,我们开发了一个由卷积层和递归层组成的深度神经网络(DNN),以使用此度量进行分类。总的来说,我们的方法在36个真实数据集上显示了比现有的基于graphlet的方法性能的显着改进。即使与最先进的方法相比,它几乎将分类错误减半。除了蛋白质结构网络之外,我们的加权图测度和DNN分类器还可以应用于计算生物学以及其他领域的其他加权网络的分类。
2019-10-07 cs.LG q-bio.BM stat.ML
Adaptive Weighted LSSVM for Multi-View Classification
Vrije Universiteit Brussel - AI Lab(布鲁塞尔自由大学-人工智能实验室)
本研究提出AW-LSSVM,通过迭代全局耦合提升多视图分类性能,实现互补学习并保持原始特征隔离,适用于隐私保护场景。
2026-07-31 cs.LG
A comprehensive theoretical framework for the optimization of neural networks classification performance with respect to weighted metrics
University of Padova(帕多瓦大学);University of Genova(热那亚大学)
本文针对神经网络训练中损失函数最小化与加权分类分数最大化之间的差异,提出一个完整理论框架,将加权分类指标形式化并构建相应损失函数以优化目标指标,且涵盖多种成熟方法。
2023-05-22 cs.LG cs.NA math.NA
Incoporating Weighted Board Learning System for Accurate Occupational Pneumoconiosis Staging
Dongguan University of Technology(东莞理工学院);Chongqing prevention and treatment center for occupational diseases(重庆市职业病防治院)
职业性尘肺病(OP)分期是关系到受试者肺部健康的重要任务。患者的分期结果取决于分期标准和患者的胸部X线片。它本质上是一个图像分类任务。然而,OP数据的分布通常是不平衡的,这在很大程度上降低了分类模型的效果,这些模型是在数据遵循平衡分布的假设下提出的,并导致不准确的分期结果。为了实现准确的OP分期,我们提出了一个OP分期模型谁是能够处理不平衡的数据在这项工作中。该模型采用灰度共生矩阵(GLCM)提取胸部X线图像的纹理特征,并利用加权广义学习系统(WBLS)实现分类。对某医院提供的六个数据案例的实证研究表明,该模型可以执行更好的OP分期比国家的最先进的分类器不平衡的数据。
2022-08-13 cs.LG
Weighted Aggregation of Conformity Scores for Classification
City University of Hong Kong(香港城市大学);Alpha Benito Research(阿尔法贝尼托研究院)
本文提出一种结合多个得分函数并最小化预测集大小的共形预测方法,在保持有效覆盖的同时提升了分类任务中预测的效率与实用性。
2025-03-04 cs.LG stat.ML
Vertex Classification on Weighted Networks
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出了一种加权网络中顶点的判别方法。我们假设网络中的边权重和邻接是条件独立的,并且两个信息源都对类成员信息进行编码。特别地,我们在标准K-块随机块模型中引入边权重分布矩阵来对加权网络进行建模。这使我们能够开发简单而强大的扩展的分类技术,使用谱嵌入的未加权邻接矩阵。我们考虑两个假设的边缘权重分布,并提出在这两种设置的分类程序。我们通过将它们与变换后的加权网络的谱嵌入后的二次判别分析进行比较,展示了所提出的分类器的有效性。此外,我们讨论并显示如何执行的方法时,边缘权重不编码类成员信息。
2019-06-07 cs.LG cs.SI stat.ME
W-RNN: News text classification based on a Weighted RNN
大多数信息都是以文本的形式存储的,因此文本挖掘被认为具有很高的商业潜力。针对基于稀疏表示的分类方法存在的语义约束问题,提出了一种加权递归神经网络(W-RNN),能够充分提取文本序列化语义信息。针对文本数据表示中特征维数高、语义关系不清晰的问题,首先利用词向量表示文本中的词汇,然后利用递归神经网络(RNN)对序列化文本数据进行特征提取。然后,使用词向量的中间输出对词向量进行自动加权和求和,以形成文本表示向量。最后,利用神经网络进行分类。在新闻数据集上对W-RNN进行了验证,证明W-RNN在精度、召回率、F1和损失值方面优于其他四种基线方法,适合于文本分类。
2019-09-28 cs.IR cs.LG stat.ML
Classification of Imbalanced Credit scoring data sets Based on Ensemble Method with the Weighted-Hybrid-Sampling
Beijing Jiaotong University(北京交通大学)
大数据时代,利用信用评分模型准确判断申请人的信用风险成为未来的趋势。传统的机器学习对信用评分数据集的分类往往对少数类别的分类效果不佳,这可能给银行带来巨大的商业危害。为了对不平衡数据集进行分类,提出了一种新的集成算法,即加权混合采样增强算法(WHSBoost)。在数据采样方面,我们采用加权SMOTE方法和欠采样加权方法对不平衡的数据集进行处理,从而得到一个等权的平衡训练样本数据集。在集成算法中,每次对基分类器进行训练时,均采用上述方法得到平衡数据集。为了验证WHSBoost算法的适用性和鲁棒性,在仿真数据集、真实基准数据集和真实信用评分数据集上进行了实验,并与基于SVM、BPNN、DT和KNN的SMOTE、SMOTEBoost和HSBoost算法进行了比较。
2021-02-09 cs.LG stat.ML
Weighted Graph Structure Learning with Attention Denoising for Node Classification
Ocean University of China(中国海洋大学)
针对加权图中噪声边和异常权重导致节点分类不准的问题,提出EWGSL方法,融合权重学习与结构学习,改进注意力系数和损失函数,平均Micro-F1提升17.8%。
2025-03-29 cs.AI cs.LG
Class-Weighted Classification: Trade-offs and Robust Approaches
Carnegie Mellon University(卡内基梅隆大学)
我们解决不平衡的分类,其中一个标签可能具有较低的边际概率相对于其他标签的问题,根据正确的类加权损失。首先,我们研究了插件分类器的预期超额加权风险的收敛速度,其中插件分类器和风险的权重可能不同。这会导致不可约的错误,这些错误不会收敛到加权贝叶斯风险,这促使我们考虑稳健风险。我们定义了一个强大的风险,最大限度地减少风险超过一组权重,并显示这个问题的超额风险界限。最后,我们表明,特定的选择的权重集导致一个特殊的情况下,条件风险价值(CVaR)从随机规划,我们称之为标签条件风险价值(LCVaR)。此外,我们推广这种加权,以获得一个新的强大的风险问题,我们称之为标签异质条件风险值(LHCVaR)。最后,我们实证证明了LCVaR和LHCVaR改善类条件风险的有效性。
2020-05-26 cs.LG stat.ML
Nishimori meets Bethe: a spectral method for node classification in sparse weighted graphs
GIPSA-lab Université Grenoble Alpes, CNRS, Grenoble INP(格勒诺布尔阿尔卑斯大学、法国国家科学研究中心、格勒诺布尔国立理工学院联合吉卜赛实验室);Laboratoire d’Informatique de Grenoble (LIG), Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学格勒诺布尔信息学实验室(LIG))
本文揭示了边权按P分布的随机Erdos-Renyi图的参数化Nishimori温度与Bethe自由能之间的一个新关系。Nishimori温度的估计是贝叶斯推断问题中的一个重要任务,作为这个新关系的一个实际推论,提出了一种从加权图的Bethe Hessian矩阵的特征值精确估计Nishimori温度的数值方法。该算法,反过来,是用来提出一个新的频谱方法的节点分类加权(可能稀疏)图。通过理论论证和实际数据实验,证明了该方法优于竞争国家的最先进的方法。
2021-09-24 cond-mat.stat-mech cs.LG stat.ML
Weighted Least Squares Twin Support Vector Machine with Fuzzy Rough Set Theory for Imbalanced Data Classification
University of Isfahan(伊斯法罕大学)
支持向量机(SVM)是为解决分类问题而开发的强大的监督学习工具。然而,支持向量机在不平衡数据的分类中可能表现不佳。粗糙集理论提供了一种在不确定情况下进行推理的数学工具,它提供了从数据中删除不相关信息的方法。在这项工作中,我们提出了一种方法,有效地利用模糊粗糙集理论的加权最小二乘双支持向量机称为FRLSTSVM分类的不平衡数据。第一个创新是引入了一种新的基于模糊粗糙集的欠采样策略,使分类器对不平衡数据具有鲁棒性。为了构造FRLSTSVM中的两个邻近超平面,少数类的数据点保持不变,而多数类中的数据点的子集使用一种新的方法来选择。在这个模型中,我们嵌入的LSTSVM配方的权重偏差,以克服在原来的双SVM的不平衡数据的分类偏差现象。为了确定这些权重在这个配方中,我们引入了一个新的策略,使用模糊粗糙集理论作为第二次创新。在著名的不平衡数据集上的实验结果表明,与传统的SVM方法相比,该模型在不平衡数据分类方面具有明显的优势。
2021-05-21 cs.CV cs.LG
Weighted Data Normalization Based on Eigenvalues for Artificial Neural Network Classification
East China Normal University(华东师范大学)
人工神经网络(ANN)是解决学习问题的一种非常有用的工具。提高人工神经网络的性能主要可以从优化网络结构和对原始数据进行归一化两个方面来实现。它完全利用了不同功能应该扮演不同角色的事实。该方法首先对原始数据进行主成分分析(PCA)预处理,然后对主成分进行特征值加权。从几个方面分析了其理论基础和适用场合。三个分类问题的主动学习算法来验证所提出的方法。实验结果表明,该方法能显著提高人工神经网络的性能。
2017-12-24 cs.LG stat.ML
Self-Weighted Robust LDA for Multiclass Classification with Edge Classes
Xi’an Jiaotong University(西安交通大学);Monash University(莫纳什大学);Wenzhou University(温州大学);Qilu University of Technology(齐鲁工业大学);Shandong Academy of Sciences(山东省科学院);Northwestern Polytechnical University(西北工业大学)
线性判别分析(LDA)是一种流行的技术,学习最具鉴别力的多类分类特征。绝大多数现有的LDA算法都倾向于被与其他算法有很大偏差的类所支配,即,边缘类是多类分类中经常出现的一类。首先,在计算类间散布矩阵时,边缘类的存在往往会使总均值有偏。其次,利用基于l2范数的类间距离准则,放大了边缘类对应的极大距离。在这方面,一种新的自加权鲁棒LDA与l21-范数为基础的成对类间距离准则,称为SWRLDA,提出了多类分类,特别是边缘类。SWRLDA可以自动避免最优均值计算,同时学习每个类对的自适应权重,而无需设置任何额外的参数。一个有效的重新加权算法被用来获得具有挑战性的l21-范数最大化问题的全局最优解。所提出的SWRLDA易于实现,在实践中收敛速度快。大量的实验表明,SWRLDA表现良好,对其他比较方法的合成和真实世界的数据集,同时提出优越的计算效率与其他技术相比。
2020-09-24 cs.LG stat.ML
Improved Weighted Random Forest for Classification Problems
Iowa State University(爱荷华州立大学)
一些研究表明,以适当的方式组合机器学习模型将改进基础模型所做的单个预测。构建性能良好的集成模型的关键在于基模型的多样性。在决策树中引入多样性的最常见的解决方案是装袋和随机森林。Bagging通过替换抽样和生成许多训练数据集来增强多样性,而随机森林也增加了选择随机数的特征。这使得随机森林成为许多机器学习应用的候选者。然而,假设所有基本决策树的权重相等似乎并不合理,因为采样和输入特征选择的随机化可能导致基本决策树上的决策能力的不同水平。因此,我们提出了几个算法,旨在修改规则随机森林的加权策略,从而作出更好的预测。所设计的加权框架包括基于精度的最优加权随机森林、基于曲线下面积的最优加权随机森林、基于性能的加权随机森林和几种基于叠加的加权随机森林模型。数值结果表明,所提出的模型是能够引入显着的改善相比,定期随机森林。
2020-09-01 cs.LG stat.ML
Efficient Policy Learning from Surrogate-Loss Classification Reductions
Cornell University(康奈尔大学)
最近关于从观察数据中学习政策的同策略学习工作突出了有效政策评价的重要性,并建议减少加权(对成本敏感的)分类。但是,有效的政策评估不需要产生有效的政策参数估计。我们认为估计问题的加权代理损失分类减少的策略学习与任何评分函数,无论是直接的,逆倾向加权,或双鲁棒。我们表明,在一个正确的规范假设下,加权分类公式不需要是有效的政策参数。我们绘制了一个对比实际(可能加权)的二进制分类,正确的规格意味着一个参数模型,而策略学习,它只意味着一个半参数模型。鉴于此,我们提出了一种基于广义矩量法的估计方法,该方法对策略参数是有效的。我们提出了一个特定的方法,基于最近的发展解决矩问题,使用神经网络,并证明了这种方法的效率和遗憾的好处经验。
2020-02-12 cs.LG econ.EM math.ST
A Regression Tsetlin Machine with Integer Weighted Clauses for Compact Pattern Representation
University of Agder(阿格德大学)
回归Tsetlin机(RTM)解决了缺乏可解释性阻碍最先进的非线性回归模型。它通过在命题逻辑中使用合取子句来捕获数据中潜在的非线性频繁模式来实现这一点。这些又通过求和组合成连续输出,类似于线性回归函数,但是具有非线性分量和单位权重。尽管RTM已经以具有竞争力的精度解决了非线性回归问题,但是输出的分辨率与所采用的子句的数量成比例。这意味着计算成本随着分辨率的增加而增加。为了减少这个问题,我们在这里引入整数加权RTM条款。我们的整数加权子句是捕获相同子模式的多个子句的紧凑表示-N个重复子句变成一个,具有整数权重N。这将计算成本降低了N倍,并通过更稀疏的表示增加了可解释性。我们进一步介绍了一种新的学习方案,使我们能够同时学习的条款和他们的权重,利用所谓的随机搜索的线上。我们评估的潜力,整数加权RTM经验使用六个人工数据集。结果表明,整数加权RTM是能够获得同等或更好的精度,使用显着更少的计算资源相比,常规RTM。我们进一步表明,整数权重比实值权重的精度更高。
2020-02-04 cs.AI cs.LG stat.ML
Signal classification using weighted orthogonal regression method
本文提出了一种新的基于数据内在属性的分类器。在基于数据采掘的应用中,分类是一项重要的任务.当训练集的大小不足以与问题的维度进行比较时,分类问题将具有挑战性。本文提出了一种新的分类方法,利用每个类的内在结构,通过相应的本征分量。每个组件都通过特定的权重对每个类的学习广度做出贡献。权重由相关的特征值确定。该方法在面对有限训练数据的分类问题时,具有可靠的学习鲁棒性。所提出的方法涉及到从每个类的数据的奇异值分解得到的特征向量选择每个子空间的基。此外,它认为一个有效的加权决策标准区分两类。除了在人工数据上的高性能外,该方法还提高了国际比赛的最佳成绩。
2020-10-12 cs.AI cs.LG stat.ML
Classification using Ensemble Learning under Weighted Misclassification Loss
Brown University(布朗大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);Academic Model Providing Access to Healthcare (AMPATH)(学术模式提供医疗保健(AMPATH));Moi University(莫伊大学)
基于协变量的二进制分类规则通常依赖于简单的损失函数,如0 - 1误分类。某些情况下可能需要更复杂的损失函数。例如,对接受抗逆转录病毒治疗(ART)的艾滋病毒感染者进行个体水平的监测,需要定期评估治疗失败情况,治疗失败的定义是病毒载量(VL)值高于某个阈值。在一些资源有限的环境中,VL测试可能会受到成本或技术的限制,诊断是基于其他临床标志物。根据不同的情况,可能会对避免假阳性给予更高的重视,这会带来更大的成本和减少的治疗选择。这里,通过最小化加权误分类损失/风险来确定最优规则。我们提出了一种方法,发现和交叉验证加权误分类损失下的最佳二进制分类规则。我们专注于规则,包括一个预测分数和相关的阈值,其中的分数是使用集成学习器。仿真和示例表明,与首先推导分数并根据分数有条件地推导截止值的方法相比,我们联合推导分数和阈值的方法更准确地估计了总体风险,并且具有更好的操作特性,尤其是对于有限样本。
2019-05-10 cs.LG stat.ML
Imbalance-XGBoost: Leveraging Weighted and Focal Losses for Binary Label-Imbalanced Classification with XGBoost
Rutgers University - New Brunswick(罗格斯大学新布朗斯维克分校);Weifang Medical University(潍坊医学院)
本文介绍了Imbalance-XGBoost,这是一个Python软件包,它将强大的XGBoost软件与加权和焦点损失相结合,以解决二进制标签不平衡分类任务。虽然就大小而言是一个小规模的程序,但据作者所知,该软件包是同类软件中的第一个,它为XGBoost上的两个损失提供了一个集成的实现,并为标签不平衡的场景带来了XGBoost上的通用扩展。本文通过示例代码清单描述了该软件包的设计和使用,并说明了其集成到Python驱动的机器学习项目中的方便性。此外,由于损失函数的一阶和二阶导数对于实现是必不可少的,因此讨论了代数推导,并且可以将其视为单独的算法贡献。在帕金森病分类数据集上经验性地评估了在包中实现的算法的性能,并且已经观察到多个最先进的性能。鉴于XGBoost的可扩展性,该软件包具有很大的潜力,可应用于现实生活中的二进制分类任务,这通常是大规模和标签不平衡。
2021-08-22 cs.LG stat.ML
Multiclass Classification via Class-Weighted Nearest Neighbors
Carnegie Mellon University(卡内基梅隆大学);Google(谷歌)
我们研究的k-近邻算法的多类分类的统计特性,重点是设置类的数量可能是大的和/或类可能是高度不平衡的。特别是,我们考虑一个变种的k-近邻分类器与非均匀类权重,我们推导出上界和最小最大下界的准确性,类加权风险,和均匀误差。此外,我们表明,统一的误差界导致的经验混淆矩阵的数量和他们的人口之间的差异跨越一组权重的界限。因此,我们可以调整类权重以优化分类度量,例如F1得分或Matthew的相关系数,它们通常在实践中使用,特别是在具有不平衡类的设置中。我们还提供了一个简单的例子来实例化我们的边界和数值实验。
2020-05-04 cs.LG math.ST stat.ML
A Weighted Mutual k-Nearest Neighbour for Classification Mining
ABV-Indian Institute of Information Technology & Management(ABV印度信息技术与管理学院)
kNN是一种非常有效的基于实例的学习方法,并且易于实现。由于数据的异质性,来自不同可能来源的噪声在自然界中也很普遍,特别是在大规模数据库的情况下。为了消除噪声和伪邻居的影响,本文提出了一种新的学习算法,该算法执行异常检测和从数据集中去除伪邻居的任务,从而提供相对更好的结果。该算法还试图最小化那些远离的邻居的影响。对实验结果引入了确定性测度的概念。使用相互邻居和距离加权投票的概念的优点是,在去除异常之后,数据集将被细化,并且权重概念迫使更多地考虑那些更接近的邻居。因此,最后计算所提出的算法的性能。
2020-05-14 cs.LG stat.ML
OLC-WA: Drift Aware Tuning-Free Online Classification with Weighted Average
Department of Computer Science and Engineering, University of North Texas(计算机科学与工程系,北卡罗来纳大学达顿分校)
OLC-WA是一种无超参数的在线分类模型,通过指数加权移动平均和自动优化机制有效适应动态数据分布,实验证明其在漂移情况下性能优于现有方法。
2025-12-14 cs.AI cs.LG
Revisiting the Vector Space Model: Sparse Weighted Nearest-Neighbor Method for Extreme Multi-Label Classification
Graduate School of Keio University(庆应义塾大学研究生院);Keio University(庆应义塾大学)
近年来,机器学习在信息检索(IR)中发挥了重要作用。例如,在搜索引擎中,接受查询关键字,并按照与给定查询的相关性顺序返回文档;这可以被视为机器学习中的多标签排名问题。通常,候选文档的数量非常大(从几千到几百万);因此,分类器必须处理许多标签。这个问题被称为极端多标签分类(XMLC)。在本文中,我们提出了一种新的方法XMLC称为稀疏加权最近邻方法。这种技术可以作为最先进的(SOTA)一对休息的线性分类器非常稀疏的数据集的快速实现。此外,我们表明,分类器可以写为一个稀疏的推广的代表定理与线性内核。此外,我们的方法可以被看作是在IR中使用的向量空间模型。最后,我们表明,稀疏加权最近邻方法可以处理数据点在XMLC数据集上的实时与SOTA模型的性能相当,具有单线程和更小的存储空间。特别是,我们的方法在具有300万个标签的数据集上表现出优于SOTA模型的性能。
2018-02-12 cs.LG stat.ML
Combining pattern-based CRFs and weighted context-free grammars
我们考虑两个模型的序列标记(标签)的问题。第一个是{ \em Pattern-Based Conditional Random Field }(\PB),其中字符串(链标记)$x=x_1\ldots x_n\in D^n$的能量是间隔$[i,j]$上的项的和,其中每个项仅在子串$x_i\ldots x_j$等于预先指定的字$w\in Λ$时才是非零的。第二个模型是经常用于自然语言处理的{ \em加权上下文无关语法}(\WCFG)。\PB和\WCFG分别编码局部和非局部相互作用,因此可以被视为互补的。我们提出了一个{ \em基于语法模式的CRF模型}(\GPB),它以一种自然的方式将两者结合起来。我们认为,它具有一定的优势,现有的方法,如{ \em混合模型}的本尼特{i}和桑切斯,结合{ \em $\mbox{$ N $-grams}$ }和\WCFGs。本文的重点是分析的\GPB推理任务的复杂性,如计算MAP。我们提出了一个多项式时间算法一般\GPBs和一个更快的版本,我们称之为{ \em交互语法}的特殊情况。
2014-11-01 cs.DS cs.FL cs.LG
Imbalanced Malware Images Classification: a CNN based Approach
University of Wisconsin(威斯康星大学);Austin Peay State University(奥斯汀佩伊州立大学)
深度卷积神经网络(CNN)可以通过图像分类应用于恶意软件二进制检测。然而,由于恶意软件家族(类)的不平衡,性能降低。为了缓解这个问题,我们提出了一种简单而有效的加权softmax损失,可以用作深度CNN的最后一层。对原有的softmax loss进行加权,可以根据类大小确定权值。在计算权重时还包括缩放参数。适当选择这个参数进行了研究,并提出了一个经验的选择。加权损失旨在以端到端的学习方式减轻数据不平衡的影响。为了验证其有效性,我们在预训练的深度CNN模型中部署了所提出的加权损失,并对其进行了微调,以在恶意软件图像分类方面取得有希望的结果。大量的实验也表明,新的损失函数可以很好地适应其他典型的CNN,产生一个改进的分类性能。
2022-02-20 cs.CV cs.LG stat.ML
Light-Weighted CNN for Text Classification
Technical University of Kaiserslautern(凯泽斯劳滕工业大学)
对于管理,文档被分类到一个特定的类别中,为了做到这一点,大多数组织使用手工劳动。在今天的自动化时代,手动完成这样的任务是不合理的,为了避免这种情况,我们在市场上有很多软件。然而,效率和最低的资源消耗是焦点,这也是创造竞争的焦点。通过机器将这些文档分类到指定的类中提供了很好的帮助。分类技术之一是使用卷积神经网络(TextCNN)的文本分类。TextCNN使用多种大小的过滤器,就像Googlenet中引入的inception层一样。该网络提供了良好的精度,但由于大量的可训练参数而导致高内存消耗。为了解决这个问题,我们引入了一种基于可分离卷积的全新架构。可分离卷积的思想已经存在于图像分类领域,但尚未引入文本分类任务。在这种架构的帮助下,我们可以大幅减少可训练参数。
2020-04-16 cs.CL cs.LG stat.ML
Discovery of Shifting Patterns in Sequence Classification
University of Minnesota(明尼苏达大学)
本文从多示例学习的角度研究了多变量序列分类问题。真实世界的序列数据通常只在特定的时间段显示出有区别的模式。例如,我们可以在生长季节识别农田,但它看起来类似于收获后或种植前的贫瘠土地。此外,即使在同一类中,判别模式也可能出现在不同的时序数据周期中。由于这种性质,这些区别性图案也被称为移位图案。在没有足够的训练数据的情况下,序列数据中的移位模式严重降低了传统分类方法的性能。提出了一种新的序列分类方法,通过自动挖掘多变量序列的移动模式。该方法采用多实例学习方法来检测移位模式,同时还通过LSTM模型对每个多实例包内的时间关系进行建模,以进一步提高分类性能。我们广泛地评估我们的方法在两个现实世界的应用-耕地映射和情感状态识别。实验表明,我们提出的方法在序列分类性能和检测歧视性移位模式的优越性。
2017-12-19 cs.LG stat.ML
WePaMaDM-Outlier Detection: Weighted Outlier Detection using Pattern Approaches for Mass Data Mining
Nirma University(尼尔玛大学)
该研究提出面向海量数据挖掘领域的WePaMaDM-Outlier Detection加权异常检测方法,验证了异常检测技术的领域依赖性,并探讨了数据建模在监控等领域异常/新颖性检测中的重要性。
2023-06-09 cs.AI cs.CV cs.LG
Multilevel Weighted Support Vector Machine for Classification on Healthcare Data with Missing Values
Clemson University(克莱姆森大学);Geisinger Health System(盖辛格健康系统)
这项工作的动机是对以电子病历为代表的医疗数据进行预测分析的需求。这样的数据总是有问题的:嘈杂,缺少条目,兴趣类别不平衡,导致预测建模中的严重偏差。由于标准的数据挖掘方法往往会产生不良的性能指标,我们主张开发的数据预处理和分类的专门技术。在本文中,我们提出了一种新的方法,同时分类大型数据集,并减少缺失值的影响。它是基于一个多层次的框架的成本敏感的SVM和期望最大化填补方法的缺失值,这依赖于迭代回归分析。我们比较了基于多级SVM的算法在具有不平衡类和缺失值的公共基准数据集以及健康应用中的真实数据上的分类结果,并表明我们的基于多级SVM的方法产生快速,更准确和鲁棒的分类结果。
2016-04-07 cs.LG stat.AP stat.ML
Pattern Sampling for Shapelet-based Time Series Classification
Johannes Gutenberg University Mainz(美因茨约翰内斯·古腾堡大学)
基于子序列的时间序列分类算法提供了准确和可解释的模型,但训练这些模型是非常计算密集型的。基于连续性的算法的渐近时间复杂度仍然是一个高阶多项式,因为这些算法是基于对高判别连续性的穷举搜索。模式采样是一种有效的解决模式爆炸问题的方法。因此,我们采用模式采样从离散时间序列数据中提取判别特征。基于离散化的时间序列数据创建加权trie树,以采样高度区分的模式。这些采样模式被用来识别形状,用于将时间序列分类问题转化为基于特征的分类问题。最后,可以使用任何现成的算法来训练分类模型。创建模式采样器需要少量的模式进行评估相比,以前的方法采用的穷举搜索。与以前提出的算法相比,我们的方法需要更少的计算和内存资源。实验证明了所提出的方法在分类精度和运行时性能方面的表现。
2021-02-16 cs.LG stat.ML
Diversity-Aware Weighted Majority Vote Classifier for Imbalanced Data
NEC Laboratories Europe GmbH(欧洲NEC实验室有限公司)
在本文中,我们提出了一个多样性感知集成学习的算法,简称为DAMVI,处理不平衡的二进制分类任务。具体地,在学习基本分类器之后,算法i)增加用均匀加权的基本分类器进行分类“困难”的正样本(少数类)的权重;以及ii)然后通过优化考虑分类器之间的准确性和多样性的PAC-Bayesian C-Bound来学习基本分类器的权重。我们显示了所提出的方法的效率相对于预测性维护任务,信用卡欺诈检测,网页分类和医疗应用的最先进的模型。
2020-04-16 cs.LG stat.ML
Data-Driven Analysis of Intersectional Bias in Image Classification: A Framework with Bias-Weighted Augmentation
Independent Researcher(独立研究者)
提出IFEF框架识别图像分类中的交叉偏见,并通过依据子群体分布调整增强强度的BWA方法,在Open Images V7上显著提升弱势交叉组合准确率并降低公平性差异。
2025-10-17 cs.AI cs.CV cs.LG
Weighted Patterns as a Tool for Improving the Hopfield Model
Scientific Research Institute for System Analysis Russian Academy of Sciences(俄罗斯科学院系统分析科学研究所)
我们推广的标准Hopfield模型的情况下,当一个权重被分配给每个输入模式。权重可以解释为网络输入处模式出现的频率。在统计物理方法的框架下,我们得到了鞍点方程,使我们能够检查网络的记忆。在不等权重的情况下,我们的模型不会由于内存溢出而导致内存的灾难性破坏(这是标准Hopfield模型的典型特征)。真实记忆仅由权重超过由权重分布确定的临界值的模式组成。我们得到的算法,使我们能够找到这个临界值的任意分布的权重,并详细分析了一些特定的权重分布。它示出的记忆减少的情况下相比,标准的Hopfield模型。然而,在我们的模型中,网络可以在线学习,而不会对记忆造成灾难性的破坏。
2012-05-04 cond-mat.dis-nn cs.LG cs.NE
Text classification based on ensemble extreme learning machine
Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences(中国科学院重庆绿色智能技术研究院);The University of Edinburgh(爱丁堡大学)
在本文中,我们提出了一种新的方法,基于成本敏感的集成加权极端学习机,我们称之为AE 1-WELM。我们将这种方法应用于文本分类。AE 1-WELM是一种包含平衡和不平衡多重分类的文本分类算法。加权ELM对不同类别的样本赋予不同的权重,在一定程度上提高了分类精度,但加权ELM只考虑了不同类别样本之间的差异,而忽略了同一类别样本之间的差异。通过样本信息熵度量文档的重要性,并根据文档的重要性生成代价敏感矩阵和代价敏感因子,将代价敏感加权ELM无缝嵌入AdaBoost. M1框架中。向量空间模型(VSM)文本表示方法维数高、特征稀疏,增加了ELM的负担。为了克服这个问题,我们开发了一个文本分类框架相结合的词向量和AE 1-WELM。实验结果表明,该方法为文本分类提供了一种准确、可靠、有效的解决方案。
2018-05-10 cs.AI cs.CL cs.IR
Saliency-based Weighted Multi-label Linear Discriminant Analysis
Tampere University(坦佩雷大学);Finnish Environment Institute(芬兰环境研究所);Aarhus University(奥胡斯大学)
在本文中,我们提出了一个新的变体的线性判别分析(LDA)来解决多标签分类任务。所提出的方法是基于一个概率模型,用于定义加权多标签LDA方法中的各个样本的权重。线性判别分析是一种经典的统计机器学习方法,其目的是在一个最佳判别子空间中寻找一个提高类别判别力的线性数据变换。传统LDA设置与高斯类分布和单标签数据注释相关的假设。为了在多标签分类问题中采用LDA技术,我们利用来自类显着性的概率解释的直觉来重新定义类间和类内散布矩阵。基于各种相似度编码先验信息获得的基于显着性的权重用于揭示每个实例在多标签问题中对其每个类别显着的概率。所提出的基于显着性的加权多标签LDA的方法,导致在各种多标签分类问题的性能改善。
2020-04-08 cs.LG stat.ML
Robust Triple-Matrix-Recovery-Based Auto-Weighted Label Propagation for Classification
School of Computer Science, Nanjing University of Science and Technology(南京理工大学计算机学院)
基于图的半监督标签传播算法提供了令人印象深刻的分类结果。然而,估计的软标签通常包含混合的符号和噪声,由于缺乏合适的约束,这会导致不准确的预测。此外,可用的方法通常计算权重并估计原始输入空间中的标签,原始输入空间通常包含噪声和损坏。因此,编码的相似性和流形平滑度对于标签估计可能是不准确的。本文针对这些问题提出了有效的解决方案,并提出了一种新的鲁棒半监督分类算法,即基于三重矩阵恢复的鲁棒自动加权标签传播框架(ALP-TMR)。我们的ALP-TMR引入了一个三重矩阵恢复机制,从估计的软标签中去除噪声或混合符号,并在分配权重和同时预测标签的步骤中提高对噪声和离群值的鲁棒性。我们的方法可以通过将原始数据,预测的软标签或权重分解为干净的部分加上误差部分,通过拟合噪声,联合重新覆盖底层的干净数据,干净的标签和干净的权重空间。此外,ALP-TMR通过最小化恢复的干净数据和干净软标签上的重建误差来集成自动加权过程,这可以更准确地编码权重,以改善数据表示和分类。通过对恢复的干净标签和权重空间中的样本进行分类,可以潜在地改善标签预测结果。大量的实验结果表明,我们的ALP-TMR令人满意的性能。
2019-11-20 cs.LG stat.ML
Explain Graph Neural Networks to Understand Weighted Graph Features in Node Classification
Yale University(耶鲁大学);J.P. Morgan AI Research(摩根大通人工智能研究院)
从不同的应用程序,具有额外的拓扑结构和连接信息收集的真实数据是服从表示为加权图。图神经网络(GNNs)是研究节点标注问题的一种强有力的工具,它可以模拟专家对节点标注的决策。GNN通过使用神经网络来嵌入节点信息并通过图中的边将其传递,从而将节点特征、连接模式和图结构相结合。我们希望识别GNN模型使用的输入数据中的模式,以做出决策,并检查模型是否按我们的期望工作。然而,由于复杂的数据表示和非线性变换,解释GNN做出的决策是具有挑战性的。在这项工作中,我们提出了新的图形特征的解释方法,以确定信息组件和重要的节点特征。此外,我们提出了一个管道,以确定用于节点分类的关键因素。我们使用四个数据集(两个合成和两个真实)来验证我们的方法。我们的研究结果表明,我们的解释方法可以模仿用于节点分类的数据模式,通过人类的解释和解开图中的不同功能。此外,我们的解释方法可用于理解数据,调试GNN模型,并检查模型决策。
2020-02-02 cs.AI cs.LG cs.SI
TF-DWGNet: A Directed Weighted Graph Neural Network with Tensor Fusion for Multi-Omics Cancer Subtype Classification
Mathematics and Statistical Science University of Idaho(数学与统计科学大学 Idaho 大学);Computer Science and Engineering Mississippi State University(计算机科学与工程密苏里州立大学)
提出TF-DWGNet框架,结合基于树的有向加权图构建与张量融合机制,解决多组学数据异质性和高阶交互问题,在癌症亚型分类中优于现有方法并提供可解释性。
2026-02-11 cs.LG q-bio.QM
Machine Learning on Sequential Data Using a Recurrent Weighted Average
UT Southwestern Medical Center(德克萨斯大学西南医学中心)
递归神经网络(RNN)是一种设计用于处理序列数据的统计模型。模型一次读取一个序列的一个符号。基于从先前符号收集的信息来处理每个符号。对于现有的RNN架构,每个符号仅使用来自先前处理步骤的信息进行处理。为了克服这一限制,我们提出了一种新的RNN模型,它在过去的每个处理步骤中计算递归加权平均值(RWA)。由于RWA可以计算为运行平均值,因此计算开销与任何其他RNN架构类似。该方法基本上将注意力机制重新表述为一个独立的模型。的RWA模型的性能进行评估的变量复制问题,添加问题,人工语法的分类,按长度的序列分类,和分类的MNIST图像(其中的像素顺序读取一个在一个时间)。在几乎每一项任务上,RWA模型都优于标准LSTM模型。
2017-05-04 cs.LG stat.ML
Classification of Major Depressive Disorder via Multi-Site Weighted LASSO Model
Imaging Genetics Center, USC Stevens Neuroimaging and Informatics Institute, Keck School of Medicine of the University of Southern California(南加州大学凯克医学院USC Stevens神经影像与信息学研究所影像遗传学中心);BCN NeuroImaging Center and Department of Neuroscience of the University of Groningen, University Medical Center Groningen(格罗宁根大学医学中心格罗宁根大学BCN神经影像中心与神经科学系);University of Cape Town(开普敦大学);Stanford University(斯坦福大学);City, University of London(伦敦城市大学);Imperial College London(伦敦帝国理工学院);Charité Universitätsmedizin Berlin(柏林夏里特医学院);Trinity College Dublin(都柏林圣三一学院);Otto von Guericke University Magdeburg(马格德堡奥托·冯·格里克大学);VU University Medical Center(阿姆斯特丹自由大学医学中心);Orygen, The National Centre of Excellence in Youth Mental Health(Orygen国家青少年心理健康卓越中心);The University of Melbourne(墨尔本大学)
在精神病学和神经病学中,脑成像数据的大规模协作分析提供了一种新的统计力量来源,以发现提高疾病分类、鉴别诊断和结果预测准确性的特征。然而,由于数据隐私法规或对世界各地大型数据集的可访问性有限,有效集成分布式信息具有挑战性。在这里,我们提出了一种新的分类框架,通过多站点加权LASSO:每个站点执行迭代加权LASSO特征选择分开。在每次迭代中,收集分类结果和所选特征以更新每个特征的加权参数。这个新的权重用于在下一次迭代中指导LASSO过程。只保留有助于提高分类精度的特征。在对5个站点(299例重度抑郁症(MDD)患者和258例正常对照)的数据进行测试时,我们的方法平均将MDD的分类准确率提高了4.9%。这一结果显示了所提出的新策略作为大规模分布式成像和生物库数据上的机器学习的有效和实用的协作平台的潜力。
2017-06-03 cs.CE cs.LG stat.AP
The Classification of Cropping Patterns Based on Regional Climate Classification Using Decision Tree Approach
Universitas Serang Raya(塞朗拉亚大学)
如今,农业领域正在经历与气候变化有关的问题,这些问题导致种植季节的模式发生变化,特别是对于水稻和粗粮,豆类根和块茎(CGPRT/Palawija)作物。水稻和CGPRT作物的种植模式在很大程度上取决于全年的降雨量。雨季的变化和转移导致了作物季节的变化。根据各地区的月降雨量分布规律,确定水稻和农作物的种植模式是十分重要的。Oldeman方法通常用于水稻和CGPRT作物的种植模式分类,但由于该方法需要查看全年的降雨量数据,因此被认为不太能够确定种植模式。本研究提出一种利用决策树方法,根据该地区的降雨模式来确定水稻和CGPRT作物的种植模式的替代方案。通过对J 48、RandomTree和REPTree三种算法的测试,确定了该地区种植模式分类过程中使用的最佳算法。结果表明,J 48算法的分类准确率分别比RandomTree和REPTree算法高48%、42.67%和38.67%。同时,对决策树规则进行数据检验的结果表明,DKI雅加达的大部分地区建议采用1种水稻和1种CGRPT(1种PS + 1种PL)的种植模式。万丹有3种种植模式可供选择,即1季稻1季CGPRT(1 PS + 1 PL)、3季短季稻或2季稻1季CGPRT(3季短季PS或2 PS + 1 PL)和2季稻1季CGPRT(2 PS + 1 PL)。
2018-03-26 cs.CY cs.LG
Optimizing the Optimal Weighted Average: Efficient Distributed Sparse Classification
Booz Allen Hamilton(博思艾伦汉密尔顿公司);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);Laboratory for Physical Sciences(物理科学实验室)
针对分布式线性模型通信成本高且单轮通信近似随机器增多而退化的问题,本文提出新技术ACOWA,通过增加一轮通信在略微增加运行时间下显著提升近似质量,在稀疏分布式逻辑回归中实现了更高准确率。
2024-06-03 cs.DC cs.LG stat.ML
Second Order PAC-Bayesian Bounds for the Weighted Majority Vote
University of Almería(阿尔梅里亚大学);University of Copenhagen(哥本哈根大学)
我们提出了一个新的分析加权多数表决的预期风险在多类分类。该分析考虑到合奏成员的预测的相关性,并提供了一个约束,这是服从有效的最小化,从而产生改善的加权多数票。我们还提供了一个专门版本的二进制分类,它允许利用额外的未标记数据进行更严格的风险估计。在实验中,我们应用的范围,以提高加权的树木在随机森林和显示,在常用的一阶界,最小化的新的界限通常不会导致退化的测试误差的合奏。
2020-12-17 cs.LG stat.ML
Model-based Classification and Novelty Detection For Point Pattern Data
Curtin University(科廷大学);Deakin University(迪肯大学)
点模式是无序元素的集合或多集合,可以在许多数据源中找到。然而,在数据分析任务,如分类和新颖性检测,适当的点模式数据的统计模型没有得到太多的关注。提出了一种基于随机有限集的点模式数据建模方法。特别是,我们提出了适当的似然函数,并学习一个易于处理的家庭RFS模型的最大似然估计。在新颖性检测,我们提出了新的排名功能的基础上RFS模型,大大提高了性能。
2017-02-08 cs.LG stat.ML
Unsupervised Feature Learning for Environmental Sound Classification Using Weighted Cycle-Consistent Generative Adversarial Network
École de Technologie Supérieure, Université du Québec(魁北克大学高等技术学院)
在本文中,我们提出了一种新的环境声音分类方法,结合无监督的特征学习的码本通过球形$K$ -Means++算法和一个新的架构,高层次的数据增强。使用离散小波变换(DWT)将音频信号变换成2D表示。然后通过一种新的周期一致性生成对抗网络架构来增强DWT谱图。这种高级增强引导通过将结构特征从样本转换到样本来以类内和类间方式生成谱图。采用加速鲁棒特征检测器(SURF)和K-Means++算法对小波变换谱图进行编码,建立码书。随机森林是我们最终的学习算法,它从码本中的聚类码字中学习环境声音分类任务。在四个基准环境声音数据集(ESC-10,ESC-50,UrbanSound 8 k和DCASE-2017)中的实验结果表明,所提出的分类方法优于该范围内的最先进的分类器,包括高级和密集的卷积神经网络,如AlexNet和GoogLeNet,根据数据集的不同,分类率提高了3.51%至14.34%。
2019-11-25 cs.LG cs.SD eess.AS
Multi-Label Network Classification via Weighted Personalized Factorizations
University of Hildesheim(希尔德斯海姆大学)
多标签网络分类是一个众所周知的任务,被用于各种各样的基于Web和非基于Web的域。它可以被形式化为一个多关系学习任务,用于根据网络中的关系预测节点标签。在稀疏网络中,当只有隐式反馈信息可用时,例如在预测社交网络中的用户兴趣时,该预测任务可能非常具有挑战性。目前的方法依赖于通过利用网络结构来学习每个节点的潜在表示,然而,隐式反馈关系是自然稀疏的,并且仅包含正的观察到的反馈,这意味着这些方法将把所有观察到的关系视为同等重要。这在现实世界的场景中不一定是这种情况,因为隐式关系可能具有反映这些关系的强度的语义权重。如果这些权重可以近似,则可以训练模型以区分强关系和弱关系。提出了一种基于贝叶斯个性化排序损失的加权个性化两阶段多关系矩阵分解网络分类模型,该模型利用基本传递节点相似度函数对隐式反馈关系进行加权.实验表明,该模型显着优于国家的最先进的模型在三个不同的现实世界的基于Web的数据集和基于生物学的数据集。
2019-02-25 cs.IR cs.LG cs.SI
Features based Mammogram Image Classification using Weighted Feature Support Vector Machine
SSN College of Engineering(SSN工程学院);RMK College of Engineering and Technology(RMK工程技术学院)
在现有的乳腺X线照片图像分类研究中,临床数据或特定类型的图像特征与诸如神经网络(NN)和支持向量机(SVM)的监督分类器一起被考虑。本文考虑使用加权特征支持向量机(WFSVM)对乳腺组织类型进行自动分类,通过使用最大偏差原则为相关特征分配更多权重来构造预先计算的核函数。首先将MIAS乳腺X线图像数据集分为训练集和测试集,然后对输入图像进行去噪、背景去除等预处理,识别出感兴趣区域(ROI)。从ROI中提取统计特征和纹理特征,并直接从数据集中获得临床特征。提取的训练数据集的特征被用来构造加权特征和预先计算的线性核用于训练WFSVM,从训练模型文件被创建。使用该模型文件,测试样本的核矩阵被分类为良性或恶性。该分析表明,纹理特征导致了更好的准确性比其他功能与WFSVM和SVM。然而,WFSVM中创建的支持向量的数量少于SVM分类器。
2020-09-19 cs.AI cs.CV cs.LG