Column Networks for Collective Classification
Deakin University(迪肯大学)
关系学习处理以关系结构为特征的数据。一个重要的任务是集体分类,这是联合分类网络对象。虽然它有很大的希望产生比非集体分类器更好的准确性,但集体分类在计算上具有挑战性,并且没有利用深度学习的最新突破。我们提出了列网络(CLN),一种新的深度学习模型,用于多关系域中的集体分类。CLN具有许多理想的理论特性:(i)它编码任何两个实例之间的多关系;(ii)它是深而紧凑的,允许复杂的功能在网络级近似一个小的自由参数集;(iii)本地和关系特征同时学习;(iv)自然支持实例之间的长范围,高阶依赖关系;以及(v)至关重要的是,学习和推理是有效的,在网络的大小和关系的数量上是线性的。我们评估CLN在多个现实世界中的应用:(a)软件项目中的延迟预测,(b)PubMed糖尿病出版物分类和(c)电影类型分类。在所有应用中,CLN都表现出比最先进的竞争对手更高的准确性。
2016-11-29 cs.AI cs.LG stat.ML
A Relational-learning Perspective to Multi-label Chest X-ray Classification
NEC Labs(NEC实验室)
胸部X射线图像的多标签分类经常使用判别方法来执行,即学习将图像直接映射到其二进制标签。这样的方法使得合并辅助信息(诸如标注不确定性或标签之间的依赖性)变得具有挑战性。为此,我们提出了一种新的知识图谱重新制定的多标签分类,这不仅很容易增加预测性能的编码器,但也作为一个通用框架,引入新的领域知识。具体来说,我们构建了一个多模态的知识图谱的胸部X射线图像和它的标签和构成多标签分类作为一个链接预测问题。然后,可以通过添加附加节点和它们之间的关系来简单地实现对辅助信息的描述。当在公开可用的射线照片数据集(CheXpert)上进行测试时,我们使用朴素知识图谱的关系重构通过实现83.5%的ROC曲线下的面积而优于最新技术水平,这比纯粹的判别方法提高了“sim 1”。
2021-03-10 cs.AI cs.CV cs.LG
Relational Schemata in BERT Are Inducible, Not Emergent: A Study of Performance vs. Competence in Language Models
Cole Gawin(独立研究者)
该研究探究BERT是否编码抽象关系模式,发现预训练BERT有潜在关系信号但关系模式非预训练涌现,可通过监督任务微调诱导获得,揭示模型行为表现不必然等同于结构化概念理解。
2025-06-13 cs.AI cs.CL
Integrating Association Rules with Decision Trees in Object-Relational Databases
研究提供的证据表明,与其他分类模型相比,关联分类产生更准确的结果。基于关联的分类(CBA)是一种著名的关联分类算法,它可以产生精确的分类器。然而,当前的关联分类算法驻留在数据库外部,这降低了企业分析系统的灵活性。本文采用两种不同的模型在Oracle数据库中实现了CBA:将CBA硬编码在Oracle数据采掘(ODM)包中,以及将Oracle Apriori模型与Oracle决策树模型相结合。我们在UCI的18个数据集上比较了所提出的模型与朴素贝叶斯、支持向量机、随机森林和决策树的性能。结果表明,我们的模型比原始CBA模型的性能高出1%,并且与基准数据集上的选定分类模型相比具有竞争力。
2019-04-21 cs.AI cs.IR
Detecting Hostile Posts using Relational Graph Convolutional Network
Samsung Research Institute(三星研究院);ABV-Indian Institute of Information Technology & Management, Gwalior(ABV-印度信息技术与管理学院)
这项工作是基于提交给竞争印地语约束进行AAAI@2021检测在印地语在社交媒体平台上的敌意职位。在这里,提出了一个模型检测和分类的敌对职位,并进一步分类为虚假,攻击性,仇恨和诽谤使用关系图卷积网络。与其他现有的工作不同,我们的方法专注于使用语义含义以及上下文信息进行更好的分类。AAAI@2021的结果表明,该模型在给定数据集上的表现与Google的XLM-RoBERTA相当。我们使用RGCN提交的最佳作品在粗粒度评估中获得了0.97的F1分数(第7名),并在识别虚假帖子方面取得了最佳性能。在所有提交的挑战中,我们的分类系统与XLM-Roberta在细粒度分类上获得了第二名。
2021-04-07 cs.AI cs.CL
A Neuro-Symbolic Framework for Sequence Classification with Relational and Temporal Knowledge
University of Pisa(比萨大学);University of Modena and Reggio Emilia(摩德纳和雷吉奥艾米利亚大学);University of Florence(佛罗伦萨大学);University of Siena(锡耶纳大学)
本文提出一种结合关系与时间知识的神经符号序列分类框架,针对不同时间步需使用不同知识且含时间关系的知识驱动序列分类问题,通过新基准对比神经符号与纯神经架构,揭示了现有神经符号方法的不足。
2025-05-08 cs.AI
LERD: Latent Event-Relational Dynamics for Neurodegenerative Classification
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);University of Washington(华盛顿大学);University of California, San Diego(加州大学圣地亚哥分校);University of California, Los Angeles(加州大学洛杉矶分校)
提出LERD,一种端到端贝叶斯潜在事件-关系动力系统,直接从多通道脑电图推断潜在神经事件及其关系结构,无需事件或交互标注,在阿尔茨海默病分类中优于基线方法并提供生理对齐的动力学摘要。
2026-05-30 cs.AI cs.LG
Relational Boosted Bandits
Indian Institute of Technology Madras(马德拉斯印度理工学院);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
近年来,上下文强盗算法在现实世界的用户交互问题中变得至关重要。然而,这些算法依赖于上下文作为属性值表示,这使得它们不可行的现实世界的领域,如社交网络是内在的关系。我们提出了关系提升强盗(RB2),上下文强盗算法的基础上(关系)提升树的关系域。RB2使我们能够学习可解释和可解释的模型,因为关系表示的描述性更强。我们实证证明了RB2在链接预测、关系分类和推荐等任务上的有效性和可解释性。
2020-12-16 cs.AI cs.LG
Scaling up Heuristic Planning with Relational Decision Trees
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
目前的启发式规划的评价函数是昂贵的计算。在许多规划问题中,这些函数为解决方案提供了很好的指导,因此它们是值得的。然而,当评价函数具有误导性或规划问题足够大时,必须计算大量的节点评价,这严重限制了启发式规划器的可扩展性。在本文中,我们提出了一种新的解决方案,以减少节点评估启发式规划的基础上机器学习。特别是,我们定义的任务,学习搜索控制的启发式规划作为一个关系分类任务,我们使用现成的关系分类工具来解决这个学习任务。我们的关系分类任务捕获在特定规划域的不同规划上下文中选择的首选操作。这些计划上下文由当前状态的有用操作集、有待实现的目标以及计划任务的静态谓词定义。本文展示了两种方法来指导搜索的启发式规划与学习分类。第一种方法是使用产生的分类器作为动作策略。第二个包括应用分类器在最佳优先搜索算法内生成前瞻状态。在各种领域的实验表明,我们的启发式规划使用学习分类解决更大的问题比国家的最先进的规划。
2014-01-16 cs.AI
ReAct: Temporal Action Detection with Relational Queries
Beihang University(北京航空航天大学);Meituan Inc(美团公司);The University of Sydney(悉尼大学);JD Explore Academy(京东探索研究院)
这项工作的目的是在推进时间动作检测(ESTA)使用的编码器-解码器框架与动作查询,类似于DETR,这已经显示出巨大的成功,在目标检测。然而,该框架遭受的几个问题,如果直接应用到搜索引擎:在解码器中的查询间关系的探索不足,不充分的分类训练,由于有限数量的训练样本,和不可靠的分类分数在推理。为此,我们首先在解码器中提出了一种关系注意力机制,它根据查询之间的关系来引导查询之间的注意力。此外,我们提出了两个损失,以促进和稳定的动作分类的训练。最后,我们建议在推理时预测每个动作查询的本地化质量,以区分高质量的查询。所提出的方法,命名为ReAct,实现了最先进的性能在THUMOS 14上,与以前的方法相比,具有更低的计算成本。此外,进行了广泛的消融研究,以验证每个拟议组件的有效性。该代码可在https://github.com/sssste/React上获得。
2022-07-14 cs.AI cs.CV
Kalman Filter-based Heuristic Ensemble (KFHE): A new perspective on multi-class ensemble classification using Kalman filters
Insight Centre for Data Analytics(数据 analytics 洞察中心);University College Dublin(都柏林大学学院)
本文介绍了一种新的观点,多类集成分类认为训练集成的状态估计问题。新的观点认为,最终的集成分类器模型作为一个静态的状态,它可以使用一个卡尔曼滤波器,结合噪声的估计由个别分类器模型进行估计。本文还提出了一种基于这种观点的新算法--基于卡尔曼滤波器的启发式包络算法(KFHE),表明了这种新观点的实用性。在30个数据集上进行的实验将KFHE与最先进的多类集成分类算法进行了比较,并显示了新视角和算法的潜力和有效性。现有的集成方法权衡分类准确性对类标签噪声的鲁棒性,但KFHE被证明是显着更好或至少一样好的最先进的算法的数据集都有和没有类标签噪声。
2019-02-21 cs.AI cs.LG stat.ML
A Comparative Study of Distributional and Symbolic Paradigms for Relational Learning
KU Leuven(鲁汶大学);EPFL(洛桑联邦理工学院);NEC Labs(日本电气实验室)
许多现实世界的领域可以表示为图,更一般地,表示为多关系知识图谱。虽然知识图谱的推理和学习传统上是通过符号方法来解决的,但(深度)表示学习的最新方法已经显示出对专门任务(如知识库完成)有希望的结果。这些方法摒弃了传统的符号范式,用欧氏空间中的向量代替符号。除了少数例外,象征性和分配性办法在不同社区得到探讨,但对它们各自的优缺点知之甚少。在这项工作中,我们比较表示学习和关系学习的各种关系分类和聚类任务,并分析这些方法隐式使用的规则的复杂性。初步结果揭示了可能的指标,有助于为特定的知识图谱选择一种方法而不是另一种方法。
2020-03-24 cs.AI cs.LG stat.ML
Node Classification Meets Link Prediction on Knowledge Graphs
University of Oxford(牛津大学)
节点分类和链接预测在图表示学习中得到了广泛的研究。虽然直推节点分类和链接预测都是在单个输入图上操作的,但到目前为止,它们被分别研究。节点分类模型采用具有节点特征和不完整节点标签的输入图,并隐含地假设该图是关系完整的,即,没有边缘缺失。相比之下,链接预测模型仅由输入图的关系不完整性驱动,并且通常不利用节点特征或类。我们提出了一个统一的观点和研究的问题(一)不完整的图和(二)链接预测的节点功能的图上的转导节点分类,介绍了一个新的数据集,维基校友,并进行了广泛的基准测试研究。
2021-08-30 cs.AI cs.LG
kLog: A Language for Logical and Relational Learning with Kernels
Università degli Studi di Firenze(佛罗伦萨大学);KU Leuven(鲁汶大学);Albert-Ludwigs-Universität(阿尔伯特-路德维希大学)
我们介绍kLog,一种新的统计关系学习方法。与标准方法不同,kLog不直接表示概率分布。它更像是一种在表达性逻辑和关系表示上执行基于内核的学习的语言。kLog允许用户以声明的方式指定学习问题。它建立在简单但强大的概念上:从解释中学习,实体/关系数据建模,逻辑编程和演绎数据库。内核对丰富表示的访问是通过一种我们称为图形化的技术来进行的:关系表示首先被转换成一个图-特别是一个接地的实体/关系图。随后,图核的选择定义特征空间。kLog支持混合的数字和符号数据,以及以Prolog或Datalog程序形式存在的背景知识,如归纳逻辑程序设计系统。kLog框架可以应用于处理使统计关系学习如此流行的相同范围的任务,包括分类,回归,多任务学习和集体分类。我们还报告了经验比较,表明kLog可以更准确,或者在相同的精度水平下比Tilde和Alchemy快得多。kLog是GPL v3许可的,可在http://klog.dinfo.unifi.it上获得,并附有教程。
2014-07-28 cs.AI cs.LG cs.PL
Experimental Comparison of Classification Uncertainty for Randomised and Bayesian Decision Tree Ensembles
在本文中,我们实验比较的分类不确定性的随机决策树(DT)集成技术和贝叶斯DT技术与重新启动策略上的合成数据集,以及在机器学习社区常用的一些数据集。对于分类不确定性的定量评估,我们使用不确定性包络处理类后验分布和给定的置信概率。计数的分类器的结果,这种技术产生的分类不确定性的可行的评估。在我们的实验中使用这种技术,我们发现贝叶斯DT技术优于随机DT集成技术。
2005-04-11 cs.AI cs.LG
Ensemble Classifier for Eye State Classification using EEG Signals
Middle Technical University(中央技术大学)
在脑机接口(BCI)应用中,测量脑电波(例如,眼睛状态的EEG信号)的重要性和利用率的增长突出了对合适的分类方法的需要。在本文中,三个著名的分类方法(即支持向量机(SVM),隐马尔可夫映射(HMM)和径向基函数(RBF)的EEG的眼睛状态分类的比较。此外,建议的方法,是基于集成模型进行了测试。建议(集成系统)的方法的基础上的投票算法有两个内核:随机森林(RF)和Kstar分类方法。使用三个测量参数测试性能:准确度,平均绝对误差(MAE)和混淆矩阵。实验结果表明,该方法优于其他测试方法。例如,建议的方法的性能是97.27%的准确性和0.13 MAE。
2017-09-26 cs.AI cs.HC
Ensemble Methods of Classification for Power Systems Security Assessment
Energy Systems Institute Russian Academy of Sciences(俄罗斯科学院能源系统研究所);Queens University Belfast(贝尔法斯特女王大学)
复杂技术系统分析的最有前途的方法之一是采用集成分类方法。包围方法使得能够在系统存在许多可能状态的情况下为特征空间分类建立可靠的决策规则。本文将基于决策树的新技术应用于电力系统状态可靠性评估。我们提出了基于随机森林模型和boosting模型的混合方法。这些技术可以应用于预测可再生能源、存储设备的增加以及智能家用电器、加热器和空调单元以及电动汽车与电网的智能负载的切换的相互作用,以增强决策。集成分类方法进行了测试,修改后的118节点IEEE电力系统表明,所提出的技术可以用来检查电力系统是否是安全的稳态运行条件下。
2016-01-07 cs.AI cs.LG
DeepFlorist: Rethinking Deep Neural Networks and Ensemble Learning as A Meta-Classifier For Object Classification
University of Melbourne(墨尔本大学)
本文提出DeepFlorist花卉分类范式,以集成学习作为元分类器,结合DCNN与CNN提取特征,在基准数据集上取得优于现有方法的准确率与鲁棒性,推动了植物分类与生态研究应用。
2023-07-04 cs.AI cs.CV cs.DC
Ensemble Learning Based Classification Algorithm Recommendation
本文提出一种多视角集成元学习框架,通过不同异构元特征组的组合构建基础推荐模型,并采用准确率和多样性感知的集成策略,实验证明该方法能有效提升分类算法推荐的性能。
2026-06-27 cs.AI cs.IR cs.LG
Imbalanced Data Stream Classification using Dynamic Ensemble Selection
针对非平稳不平衡数据流中的概念漂移与类别重叠问题,提出融合数据预处理与动态集成选择的框架,并在多组人工漂移数据流上验证其显著提升分类准确率。
2023-09-28 cs.AI cs.LG
Large Scale Multimodal Classification Using an Ensemble of Transformer Models and Co-Attention
Palo Alto Research Center(帕洛阿尔托研究中心)
准确和高效的产品分类对于电子商务应用非常重要,因为它可以实现各种下游任务,如推荐,检索和定价。项目通常包含文本和视觉信息,并且利用这两种模式通常优于单独使用任何一种模式的分类。在本文中,我们描述了我们的方法和结果的SIGIR电子商务乐天数据挑战。我们采用双重注意力技术,使用预训练的语言和图像嵌入来建模图像-文本关系。虽然双重注意已被广泛用于视觉问答(VQA)任务,我们是第一次尝试应用多模态分类的概念。
2020-11-23 cs.AI cs.CV cs.LG
Dynamic Logistic Ensembles with Recursive Probability and Automatic Subset Splitting for Enhanced Binary Classification
Katz School of Science and Health(卡茨科学与健康学院);Yeshiva University(叶史瓦大学)
针对含固有内部簇且无明确特征分离的二分类数据集,提出动态逻辑回归集成方法,通过自动子集拆分、递归概率计算构建模型,在保持可解释性的同时,相较Bagging和Boosting等传统方法性能具竞争力,在自定义数据集上验证有效。
2024-11-27 cs.AI cs.LG
Transfer-Ensemble Learning based Deep Convolutional Neural Networks for Diabetic Retinopathy Classification
Jadavpur University(jadavpur大学)
本文提出一种基于VGG16和Inception V3的迁移集成学习模型,通过冻结部分层并拼接全局平均池化特征,在APTOS数据集上将糖尿病视网膜病变五分类准确率提升至96.4%。
2023-08-01 cs.AI cs.CV
An Instance-based Plus Ensemble Learning Method for Classification of Scientific Papers
Hubei University of Arts and Science(湖北文理学院);Ulster University(阿尔斯特大学)
本文提出一种结合基于实例学习与集成学习的新方法,通过手动分配种子论文并分别比较内容与引用特征,实现对科学论文的有效且高效分类。
2024-09-21 cs.AI cs.DL
DynED: Dynamic Ensemble Diversification in Data Stream Classification
Bilkent University(比尔肯特大学)
DynED提出基于MMR的动态集成构建方法,在数据流分类中结合多样性与准确性,实验显示优于五种先进基线。
2023-09-06 cs.AI cs.IR cs.LG
Ensemble CNNs for Breast Tumor Classification
本文提出融合 XceptionNet、DenseNet 与 EfficientNet 概率输出的集成 CNN 方法,用于乳腺 X 线影像肿块分类,并在公共数据集上实现性能提升。
2023-04-11 cs.AI cs.CV cs.LG