Deep Clustering With Consensus Representations
University of Vienna(维也纳大学);Ludwig Maximilian University of Munich(慕尼黑大学)
深度聚类领域将深度学习和聚类相结合,以学习表示,从而改进学习的表示和所考虑的聚类方法的性能。大多数现有的深度聚类方法被设计用于单个聚类方法,例如,k-means、谱聚类或高斯混合模型,但众所周知,没有一种聚类算法在所有情况下都是最好的。共识聚类试图通过在聚类集合的成员之间建立共识来减轻聚类算法的个体弱点。目前,还没有一种深度聚类方法可以在集成中包括多个异构聚类算法来一起更新表示和聚类。为了缩小这一差距,我们引入了一个共识表示的想法,最大限度地提高合奏成员之间的协议。此外,我们提出了DECCS(Deep Embedded Clustering with Consensus representationS),这是一种深度共识聚类方法,通过将嵌入空间增强到所有集成成员都同意共同聚类结果的程度来学习共识表示。我们的贡献如下:(1)我们介绍了学习一致性表示的异构聚类,一个新的概念,以接近一致性聚类的想法。(2)我们提出了DECCS,第一个深度聚类方法,共同提高了多个异构聚类算法的表示和聚类结果。(3)我们在实验中表明,使用DECCS学习共识表示的性能优于深度聚类和共识聚类的几个相关基线。我们的代码可以在https://gitlab.cs.univie.ac.at/lukas/deccs上找到
2022-10-13 cs.AI cs.LG
Second Opinion Matters: Towards Adaptive Clinical AI via the Consensus of Expert Model Ensemble
Sully AI;Stanford University(斯坦福大学)
针对临床AI依赖单一模型的问题,提出基于专家模型集成的共识机制,模拟临床分诊与多学科决策,在多个医学基准上显著提升准确率与诊断性能。
2025-06-20 cs.AI cs.LG
Optimized Participation of Multiple Fusion Functions in Consensus Creation: An Evolutionary Approach
Isfahan University of Technology(伊斯法罕理工大学)
最近的研究表明集成方法增强了无监督学习的稳定性和鲁棒性。这些方法被成功地用于构建多个聚类,并将它们组合成一个具有代表性的共识聚类,提高了质量。融合函数的使用直接决定了一致性聚类的质量。通过引入一种新的进化融合函数,对层次聚类集成技术进行了扩展。在所提出的方法中,多层次聚类方法通过装袋产生。然后,利用遗传算法的搜索能力,在不同融合函数的不同聚合聚类方法之间进行一致性聚类。对一些流行的数据集进行了实证研究,并将该方法与常规的聚类集成方法进行了比较。实验结果表明,聚合聚类结果的准确性提高。
2018-05-31 cs.LG cs.NE
Robust speech recognition using consensus function based on multi-layer networks
University of Tunis(突尼斯大学);Higher Institute of Computer Science(计算机科学高等学院)
聚类集成将指定数据的多个分区混合到单个聚类解决方案中。聚类集成已成为一种有效的方法,以改善双方的力量和稳定性的无监督分类结果。聚类集成的主要问题之一是找到最佳的一致性函数。从不同的聚类结果中找到最终的划分需要分类算法的技巧和鲁棒性。此外,共识函数的主要问题是它对所使用的数据集质量的敏感性。这种限制是由于存在噪声、静音或冗余数据。提出了一种基于多层网络技术的聚类集成一致性函数和一种维护数据库的方法。这种维护数据库的方法是用来处理任何给定的嘈杂的语音,从而保证数据库的质量。这可以产生良好的结果和有效的数据分区。为了证明其有效性,我们支持我们的策略与实证评估失真的语音从极光语音数据库。
2015-07-22 cs.CL cs.LG
Autonomous Collaborative Learning Among an Ensemble of Tsetlin Machines with Consensus-Based Inference
Faculty of Engineering, Bar Ilan University(巴伊兰大学工程学院)
本文针对分布式和去中心化TM学习关注不足的问题,提出基于共识推理的Tsetlin机集成去中心化协作学习范式,各智能体维护私有模型,不交换原始数据,实验表明该范式下分类准确率与集中式模型相当,促进了信息集成融合。
2026-07-23 cs.LG cs.MA
On Hyperparameter Search in Cluster Ensembles
Zuse-Institute Berlin(柏林祖斯研究所);Freie Universität Berlin(柏林自由大学);Institut für Mathematik(数学研究所)
无监督学习中模型的质量评估,特别是聚类验证,一直是机器学习研究中的一个难题。由于缺乏鲁棒且普遍适用的聚类有效性得分,算法选择和超参数评估往往是一个艰难的猜测。在本文中,我们表明,集群集成聚合技术,如共识聚类,可用于评估集群及其超参数配置。我们使用归一化的互信息来比较单个对象的聚类集成构建的共识,整个集成和显示,所得到的分数可以作为一个整体的质量度量聚类问题。这种方法能够突出的聚类和超参数配置的合奏,即使在扭曲的共识的情况下。我们将这个非常一般的框架应用于各种数据集,并为未来的研究提供了可能的方向。
2018-03-29 cs.LG stat.ML
Composing Ensembles of Pre-trained Models via Iterative Consensus
Google Brain(谷歌大脑)
大型的预训练模型根据训练数据表现出不同的互补能力。语言模型(如GPT-3)能够进行文本推理,但无法理解视觉信息,而视觉模型(如DALL-E)可以生成逼真的照片,但无法理解复杂的语言描述。在这项工作中,我们提出了一个统一的框架,用于组成不同预训练模型的集合-结合每个模型的优势,以zero-shot方式解决各种多模态问题。我们使用预先训练的模型作为“生成器”或“评分器”,并通过闭环迭代共识优化来组合它们。生成器构造建议,评分器迭代地提供反馈以细化生成的结果。这种闭环通信使模型能够纠正由其他模型引起的错误,显著提高下游任务的性能,例如将小学数学问题的准确性提高7.5%,而无需任何模型微调。我们证明,通过利用每个专家模型的优势,由一个整体的评分者达成的共识优于单个评分者的反馈。结果表明,所提出的方法可以作为一个通用的框架,广泛的zero-shot多模态任务,如图像生成,视频问答,数学推理和机器人操作。项目页面:https://energy-based-model.github.io/composing-pretrained-models。
2022-10-20 cs.AI cs.CV cs.LG
CIRCUS: Circuit Consensus under Uncertainty via Stability Ensembles
Intuit
CIRCUS通过不确定性框架重构电路发现,通过稳定性集合提取鲁棒结构,使电路在保持解释力的同时显著减小规模,优于基线方法。
2026-03-20 cs.AI cs.CL cs.LG
Semi-supervised Clustering Ensemble by Voting
Dalhousie University(达尔豪斯大学)
聚类集成是无监督学习的最新进展之一。它的目的是将不同算法得到的聚类结果或同一聚类算法对同一数据集的不同运行得到的聚类结果结合起来,这是通过一个一致性函数来实现的,这种方法的效率和准确性已经在许多文献中得到了证明。在本文的第一部分中,我们对现有文献中的聚类集成方法进行了比较。所有这些方法包括两个主要步骤:集成生成和共识功能。在本文的第二部分中,我们建议在聚类集成过程中加入监督,以获得更多的增强聚类结果。监督可以在两个地方应用:通过在聚类集成生成步骤中使用半监督算法,或者以共识函数阶段使用的反馈形式。此外,我们引入了一个灵活的两个参数的加权机制,第一个参数描述了所研究的数据集和用于生成基本分区的半监督聚类算法之间的兼容性,第二个参数用于提供用户对这些分区的反馈。这两个参数参与基于“重新标记和投票”的共识函数,以产生最终的聚类。
2012-08-20 cs.LG stat.ML
Adaptive Consensus in LLM Ensembles via Sequential Evidence Accumulation: Automatic Budget Identification and Calibrated Commit Signals
Independent Researcher(独立研究员)
本文提出DASE方法,通过顺序证据累积实现LLM集成的自适应共识,通过自动预算识别和校准承诺信号提升推理准确性。
2026-05-14 cs.LG
Determining the Number of Clusters via Iterative Consensus Clustering
North Carolina State University(北卡罗来纳州立大学);University of North Carolina Chapel Hill(北卡罗来纳大学教堂山分校)
我们使用聚类集合来确定一组数据中的聚类数k。一致性相似性矩阵是使用多个算法和k的多个值从集合中形成的。在一致矩阵定义的图上诱导随机游动,并使用相关转移概率矩阵的特征值来确定聚类的数量。对于有噪声或高维数据,提出了一种迭代技术,以改进这种共识矩阵的方式,鼓励块对角形式。结果表明,所得到的共识矩阵一般优于现有的相似性矩阵,这种类型的光谱分析。
2014-08-05 cs.CV cs.LG stat.ML
Probabilistic Consensus through Ensemble Validation: A Framework for LLM Reliability
针对LLM在高风险领域自主部署可靠性不足的问题,提出通过模型共识进行内容验证的集成框架,显著提升了事实准确率和因果一致性。
2024-11-10 cs.AI cs.CL cs.LG
Voting of predictive models for clinical outcomes: consensus of algorithms for the early prediction of sepsis from clinical data and an analysis of the PhysioNet/Computing in Cardiology Challenge 2019
Emory University(埃默里大学);Georgia Institute of Technology(佐治亚理工学院)
虽然在弱学习者的提升方面已经有了大量的研究,但是在强学习者的提升方面的工作却很少。后一种范例是一种具有学习权重的加权投票形式。在这项工作中,我们考虑的问题,从70个单独的算法早期预测败血症的临床数据构建一个集成算法。我们发现,这种集成算法优于单独的算法,特别是在一个隐藏的测试集上,大多数算法未能推广。
2020-12-20 cs.LG
Graph-based Selective Outlier Ensembles
George Mason University(乔治梅森大学);Sapienza, University of Rome(罗马大学萨皮恩扎学院(萨皮恩扎大学))
集成技术的特征在于生成组件的机制和组合组件的机制。达成共识的一种常见方法是使每个组件平等地参与聚合过程。这种方法的一个问题是,差的组件可能会对共识结果的质量产生负面影响。为了解决这个问题,在文献中已经探索了替代方案来构建选择性分类器和聚类集合,其中只有组件的子集有助于共识的计算。在集成方法中,离群值集成是研究最少的。直到最近,离群集合的选择问题才被讨论。在这项工作中,我们定义了一个新的基于图的类的排名选择方法。这类方法的特征在于两个主要步骤:(1)将排名映射到图结构上;以及(2)挖掘结果图以识别排名的子集。我们定义了一个基于图的排名选择类的具体实例。具体来说,我们将选择集成组件的问题映射到图中的挖掘问题上。对各种异构数据和方法进行了广泛的评估。我们的实证结果表明,我们的方法优于国家的最先进的选择性离群值集成技术。
2018-04-17 cs.LG stat.ML
Improving Sentence Representations with Consensus Maximisation
UC San Diego(加州大学圣地亚哥分校)
共识最大化学习可以提供自我监督时,不同的意见是相同的数据。分布假设提供了另一种形式的有用的自我监督从相邻的句子,这是丰富的大型未标记语料库。出于观察,不同的学习架构往往强调句子意义的不同方面,我们提出了一个新的自监督学习框架学习句子表示,最大限度地减少了两个视图之间的分歧,同一个句子,其中一个视图编码的句子与递归神经网络(RNN),和其他视图编码相同的句子与一个简单的线性模型。学习后,根据标准下游任务的表现来判断,个体视图(网络)比单视图学习的对应视图(仅使用分布假设学习)产生更高质量的句子表示。这两种视图的集合提供了对监督和无监督下游任务的更好概括。此外,重要的是,在两个不同架构之间用共识最大化训练的视图的集合在下游任务上比由单视图训练的对应物制成的类似集合表现得更好。
2019-05-07 cs.CL cs.LG cs.NE
Multi-objective Consensus Clustering Framework for Flight Search Recommendation
Université Côte d’Azur(蔚蓝海岸大学);CNRS(法国国家科学研究中心);I3S(I3S研究所);Amadeus S.A.S(阿玛迪斯公司);EURECOM(欧洲通信学院)
在旅游行业,在线客户根据几个特征预订他们的旅行行程,如旅行的成本和持续时间或设施的质量。为了提供个性化的旅游搜索建议,需要对客户进行适当的细分。聚类集成方法的发展是为了克服经典聚类方法中的众所周知的问题,即每个方法都依赖于不同的理论模型,因此可以在数据空间中只识别对应于该模型的聚类。聚类集成方法结合多个聚类结果,每个聚类结果来自不同的算法配置,用于生成与初始聚类之间的协议相对应的更鲁棒的共识聚类。我们提出了一个新的聚类集成多目标优化为基础的框架,分析Amadeus客户搜索数据,提高个性化的建议。该框架优化了聚类集成搜索空间的多样性,并自动确定适当数量的聚类,而不需要用户的输入。实验结果比较了这种方法的效率与其他现有的方法对Amadeus客户搜索数据的内部(调整后的兰德指数)和外部(Amadeus业务指标)验证。
2020-02-26 cs.AI cs.IR cs.LG
Determinantal consensus clustering
Université de Montréal(蒙特利尔大学)
给定算法的随机重新启动产生许多分区以产生共识聚类。诸如一致性聚类的包围方法已经被认为是比单一聚类算法更鲁棒的数据聚类方法。我们建议使用的决定性点过程或DPP的随机重新启动的聚类算法的基础上的初始集的中心点,如k-中心点或k-均值。DPP和基于核的方法之间的关系使得DPP适合于描述和量化对象之间的相似性。DPP有利于子集内中心点的多样性。因此,具有更多相似点的子集比具有非常不同点的子集生成的机会更少。当前最流行的采样技术是随机均匀地对中心点进行采样。我们通过大量的模拟表明,与DPP相反,这种技术既不能确保多样性,也不能很好地覆盖所有数据方面。DPP的这两个性质是使DPP在小集合的情况下获得良好性能的关键。人工数据集的模拟和真实数据集的应用表明,确定性一致性聚类优于经典算法,如k-medoids和k-means一致性聚类,这是基于均匀随机抽样的中心点。
2021-02-07 cs.LG stat.ML
Heterogeneous Ensemble Knowledge Transfer for Training Large Models in Federated Learning
Microsoft Research(微软研究院);Carnegie Mellon University(卡内基梅隆大学)
联邦学习(FL)使边缘设备能够协作学习模型,而无需向中央聚合服务器公开其私有数据。现有的FL算法大多要求在客户端和服务器端部署相同架构的模型,由于客户端系统资源有限,无法训练大型模型。在这项工作中,我们提出了一种新的集成知识转移方法命名为Fed-ET,其中小模型(不同的架构)的客户端进行训练,并用于训练一个更大的模型在服务器上。与传统的集成学习不同,在FL中,集成可以在客户端的高度异构数据上进行训练。认识到这一特性,Fed-ET使用了一个加权的共识蒸馏方案与多样性正则化,有效地提取可靠的共识,同时提高泛化利用集成内的多样性。我们展示了在异构数据集上训练的加权模型集合的泛化界,这支持了Fed-ET的直觉。我们对图像和语言任务的实验表明,Fed-ET显着优于其他国家的最先进的FL算法与更少的通信参数,也是强大的高数据异构性。
2022-04-27 cs.LG
Reasoning Consensus: Structural Ensembling of LLM Reasoning via Weighted DAG Aggregation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
该研究提出通过加权DAG聚合集成LLM推理结构的框架,在六个基准上优于多数投票基线,可提供可检查的共识推理图,还能分析不同推理视角。
2026-11-03 cs.AI cs.CL cs.LG
Uncertainty Quantification of Surrogate Explanations: an Ordinal Consensus Approach
TU Dresden(德累斯顿工业大学);University of Bristol(布里斯托大学)
黑盒机器学习模型的可解释性至关重要,特别是在医学或自动驾驶汽车等关键应用中部署时。现有的方法产生的解释模型的预测,然而,如何评估这种解释的质量和可靠性仍然是一个悬而未决的问题。在本文中,我们更进一步,以便为从业者提供工具来判断解释的可信度。为此,我们通过测量一组不同的自举代理解释者之间的有序共识来估计给定解释的不确定性。虽然我们鼓励多样性,使用集成技术,我们提出和分析指标,通过一个评级计划,聚合内的一组解释器中包含的信息。我们通过对最先进的卷积神经网络集成的实验来实证说明这种方法的特性。此外,通过量身定制的可视化,我们展示了具体的情况下,不确定性估计提供了具体的可操作的见解,用户超出了标准的替代解释。
2021-11-17 cs.AI cs.LG stat.ML
Robust Ensemble Clustering Using Probability Trajectories
Sun Yat-sen University(中山大学);South China Agricultural University(华南农业大学);Guangdong Key Laboratory of Information Security Technology(广东省信息安全技术重点实验室);SYSU-CMU Shunde International Joint Research Institute (JRI)(中山大学-卡内基梅隆大学顺德国际联合研究院(JRI))
虽然近年来已经发展了许多成功的集成聚类方法,但大多数现有方法仍然存在两个局限性。首先,它们大多忽视了不确定的联系问题,这可能误导整个协商一致进程。第二,它们普遍缺乏纳入全球信息以完善地方联系的能力。针对这两个局限性,本文提出了一种基于稀疏图表示和概率轨迹分析的集成聚类方法。特别是,我们提出了精英邻居选择策略,以确定局部自适应阈值的不确定的链接,并建立一个稀疏图与少量的可能可靠的链接。我们认为,少量的可能可靠的链接可以导致显着更好的共识结果比使用所有的图形链接,无论其可靠性。利用一个新的转移概率矩阵驱动的随机游动过程来探索图中的全局信息。通过分析随机游走者的概率轨迹,我们从稀疏图中推导出一种新的稠密相似性度量,并在此基础上进一步提出了两个一致性函数。在多个真实数据集上的实验结果证明了该方法的有效性和效率。
2016-06-03 cs.LG stat.ML
B-PL-PINN: Stabilizing PINN Training with Bayesian Pseudo Labeling
Institute of Human-Centred Computing, Graz University of Technology, Graz, Austria(以人为中心计算研究所,格拉茨技术大学,格拉茨,奥地利);Know Center Research GmbH, Graz, Austria(格拉茨know研究中心有限责任公司,格拉茨,奥地利);Signal Processing and Speech Communication Laboratory, Graz University of Technology, Graz, Austria(信号处理与语音通信实验室,格拉茨技术大学,格拉茨,奥地利)
本文提出B-PL-PINN方法,用贝叶斯PINN的后验方差替代集成共识来扩展主动训练域,以稳定PINN训练并改善正向问题的收敛性,在基准测试中优于传统集成方法。
2025-07-02 cs.LG
Locally Weighted Ensemble Clustering
South China Agricultural University(华南农业大学);Sun Yat-sen University(中山大学)
集成聚类技术由于其能够将多个基本聚类组合成一个可能更好、更鲁棒的聚类,近年来受到越来越多的关注。尽管取得了显著的成功,但大多数现有的集成聚类方法的一个局限性是,它们通常平等地对待所有的基本聚类,而不管它们的可靠性如何,这使得它们容易受到低质量的基本聚类的影响。虽然已经做出了一些努力来(全局)评估和加权的基础聚类,但这些方法往往将每个基础聚类视为一个个体,而忽略了同一基础聚类内聚类的局部多样性。如何评价聚类的可靠性,利用集合中的局部多样性来提高一致性,特别是在没有数据特征或数据分布假设的情况下,仍然是一个有待解决的问题。为了解决这个问题,在本文中,我们提出了一种新的集成聚类方法基于集成驱动的聚类不确定性估计和局部加权策略。特别是,每个集群的不确定性估计通过考虑集群标签在整个合奏通过熵标准。提出了一种新的聚类有效性度量方法,并给出了一个局部加权的协关联矩阵来概括不同聚类的聚类结果。利用集成的局部多样性,进一步提出了两个新的一致性函数。在各种真实世界数据集上的大量实验表明,所提出的方法优于最先进的。
2019-12-28 cs.LG
Ensemble Clustering for Graphs
Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
提出了一种基于Louvain算法和一致性聚类概念的集成图聚类算法。我们通过复制最近发表的一项研究来验证我们的方法,该研究比较了人工网络上的图聚类算法,表明ECG优于该研究中的领先算法。我们还说明了如何与ECG获得的合奏可以用来量化社区结构的存在图。
2018-09-14 cs.LG cs.SI stat.ML
Proof of Swarm Based Ensemble Learning for Federated Learning Applications
Univ. Lille(里尔大学);ENSAIT(法国国立高等纺织工艺学院);University of Kent(肯特大学)
包围学习结合了来自多个机器学习模型的结果,以便提供具有减少的偏差、方差和改进的预测的更好和优化的预测模型。然而,在联邦学习中,由于隐私问题,直接应用集中式集成学习是不可行的。因此,需要一种机制来组合局部模型的结果以产生全局模型。大多数分布式共识算法,如拜占庭容错(BFT),通常在这样的应用中表现不佳。这是因为,在这样的方法中,一些对等体的预测被忽略,因此大多数对等体可以在甚至不考虑其他对等体的决定的情况下获胜。此外,每个节点的结果的置信度通常不被考虑在内,尽管它是集成学习要考虑的一个重要特征。此外,平局事件的问题通常未被诸如BFT的方法解决。为了填补这些研究空白,我们提出了PoSw(证明群),一种新的分布式共识算法集成学习在联邦设置,这是启发基于粒子群算法解决优化问题。该算法理论上被证明总是收敛在一个相对较小的步骤,并有机制来解决领带事件,同时试图实现次优解决方案。我们使用ECG分类作为医疗保健中的示例应用,实验验证了所提出的算法的性能,表明集成学习模型优于所有局部模型,甚至基于FL的全局模型。据我们所知,该算法是第一次尝试使用联邦学习训练的分布式模型的输出结果达成共识。
2023-01-02 cs.AI cs.LG eess.SP
A Flexible Iterative Framework for Consensus Clustering
提出了一种新的共识聚类框架,它能够使用多种算法确定聚类的数量和最终的解决方案。一致性相似性矩阵是使用多个算法和k的多个值从系综形成的。各种各样的降维技术和聚类算法被认为是分析。对于噪声或高维数据,迭代技术,以改善这种共识矩阵的方式,鼓励算法达成一致的共同解决方案。我们利用几乎解耦的马尔可夫链的理论,通过考虑由一致性矩阵定义的图上的随机游动来确定数据集中的聚类数k。相关的转移概率矩阵的特征值用于确定聚类的数量。这种方法成功地确定了许多数据集中的聚类数,而以前的方法失败了。在每个考虑的数据集上,我们的共识方法提供了一个最终结果,其准确性远高于单个算法的平均水平。
2014-08-05 cs.CV cs.LG stat.ML
CauTion: Knowing When to Trust LLMs for Ensemble Causal Discovery
Shanghai AI Laboratory(上海人工智能实验室);Shanghai Innovation Institute(上海创新研究院);Shanghai Jiao Tong University(上海交通大学);Nanjing University(南京大学);Tongji University(同济大学)
提出CauTion框架,通过共识过滤和LLM可靠性估计,将LLM领域知识可靠地集成到多个统计因果发现算法中,解决纯统计方法的局限和LLM错误问题。
2026-10-19 cs.AI cs.CL cs.LG
Preventing Value Function Collapse in Ensemble {Q}-Learning by Maximizing Representation Diversity
Intel Labs(英特尔实验室);University of Central Florida(中佛罗里达大学)
经典的DQN算法受到学习Q函数的高估偏差的限制。随后的算法提出了技术,以减少这个问题,而不是完全消除它。最近,最大最小和EnergyQ-学习算法使用不同的估计提供的学习者的合奏,以减少高估偏差。不幸的是,这些学习器可以收敛到参数或表示空间中的同一点,回到经典的单神经网络DQN。在本文中,我们描述了一种正则化技术,以最大限度地提高这些算法的集成多样性。我们提出并比较了五个正则化函数的灵感来自经济学理论和共识优化。我们表明,正则化的方法显着优于Maxmin和Enclusive Q-学习算法以及非集成基线。
2022-01-21 cs.AI cs.LG stat.ML
PIMPC-GNN: Physics-Informed Multi-Phase Consensus Learning for Enhancing Imbalanced Node Classification in Graph Neural Networks
School of Information and Communication Technology, Griffith University(信息与通信技术学院,格里菲斯大学)
PIMPC-GNN通过融合物理信息的多阶段共识学习,提升图神经网络在不平衡节点分类中的性能,实现少数类召回率和平衡准确率的显著提升。
2026-02-02 cs.AI cs.LG
Randomly Initialized Networks Can Learn from Peer-to-Peer Consensus
研究探讨了自蒸馏在学习动态中的作用,通过训练随机初始化网络发现其在下游任务中能获得非平凡改进,分析了超参数影响及模型学习内容。
2026-04-20 cs.AI cs.LG
Graph-based Ensemble Machine Learning for Student Performance Prediction
学生表现预测是了解学生需求、提供适当的学习机会/资源、提高教学质量的重要研究课题。然而,传统的机器学习方法无法产生稳定和准确的预测结果。在本文中,我们提出了一个基于图的集成机器学习方法,旨在提高稳定性的单一机器学习方法通过多个方法的共识。具体来说,我们利用监督预测方法和无监督聚类方法,构建一种迭代方法,该方法在二分图中传播,并收敛到更稳定和准确的预测结果。大量的实验表明,我们提出的方法在预测更准确的学生表现的有效性。具体来说,我们的模型在预测准确率方面比最好的传统机器学习算法高出14.8%。
2021-12-22 cs.AI cs.CY cs.LG
Bankruptcy Prediction via Hybrid Resampling and Stacking Ensemble Techniques with Explainable Artificial Intelligence (XAI)-Driven Analysis
本研究提出整合多技术的破产预测框架,在不平衡金融数据中优化少数类检测,经实验验证了模型性能,可助力财务困境企业的早期预警系统建设。
2026-08-24 cs.LG stat.AP
Ensemble Clustering for Graphs: Comparisons and Applications
Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
最近,我们提出了一个新的集成聚类算法的基础上的一致性聚类的概念图(ECG)。我们验证了我们的方法,通过复制一项研究比较图聚类算法在基准图,显示心电图优于领先的算法。在本文中,我们通过考虑更广泛的基准参数来扩展我们的比较,生成具有不同属性的图。我们提供了新的实验结果表明,心电图算法解决了众所周知的分辨率限制问题,它导致更好的稳定性的分区。我们还说明了如何与ECG获得的合奏可以用来量化社区结构的存在图中,并放大与种子顶点最密切相关的子图。最后,我们说明了进一步的应用心电图通过比较它与以前的结果加权图上的社区发现,社区感知异常检测。
2019-03-19 cs.LG cs.SI stat.ML
Clustering ensemble algorithm with high-order consistency learning
Shanxi University(山西大学);Sichuan University(四川大学);Anhui University(安徽大学)
针对基聚类质量不均影响聚类集成性能的问题,提出基于高阶共识学习的聚类集成算法HCLCE,通过多阶信息融合得到一致聚类结果,性能显著优于次优算法。
2024-10-31 cs.LG
Harmonizing Intra-coherence and Inter-divergence in Ensemble Attacks for Adversarial Transferability
针对模型集成攻击中共享梯度捕捉不足和权重分配缺乏自适应的问题,提出HEAT方法,首次将领域泛化引入对抗样本生成,通过奇异值分解合成共识梯度并动态平衡内一致性与间多样性,显著提升了对抗迁移性。
2025-05-02 cs.AI cs.LG
Hierarchical Pruning of Deep Ensembles with Focal Diversity
Florida International University(佛罗里达国际大学);Georgia Institute of Technology(佐治亚理工学院)
本文提出层次化深度集成剪枝方法(HQ),利用焦点多样性指标高效识别高质量小子集,提升集成准确性、鲁棒性与效率。
2023-11-17 cs.CV cs.LG