Flattening a Hierarchical Clustering through Active Learning
INRIA Lille(里尔法国国家信息与自动化研究所);Sapienza University of Rome(罗马大学);Google(谷歌)
我们研究主动学习的两两相似性的树叶起源于层次聚类程序。在可实现的设置中,我们提供了一个完整的表征的查询数量需要实现完美的重建的树切割。在不可实现的设置,我们依靠已知的重要抽样程序,以获得遗憾和查询复杂性的界限。我们的算法来与理论保证的统计误差,更重要的是,借给自己的线性时间实现的相关参数的问题。我们讨论这样的实现,证明他们的运行时间保证,并在现实世界的数据集上展示了令人信服的实际性能相比,被动学习和简单的主动学习基线我们的算法的初步实验。
2019-10-12 cs.LG stat.ML
Active Orthogonal Matching Pursuit for Sparse Subspace Clustering
Tsinghua University(清华大学)
稀疏子空间聚类(SSC)是一种对低维子空间中的高维数据点进行聚类的方法。然而,虽然基于$\ell_1$优化的SSC算法遭受高计算复杂性,但是SSC的其他变体,诸如基于正交匹配追踪的SSC(OMP-SSC),在追求提高时间效率时损失聚类准确性。在这封信中,我们提出了一种新的主动OMP-SSC,它提高了OMP-SSC的聚类精度,通过自适应更新数据点和随机丢弃的数据点在OMP过程中,同时仍然享受低计算复杂性的贪婪追求算法。我们提供启发式分析我们的方法,并解释这两个积极的步骤如何实现更好的连接和分离之间的权衡。对合成数据和实际数据的数值结果验证了我们的分析,并显示了所提出的主动算法的优点。
2017-08-16 cs.CV cs.IT cs.LG
Active Clustering: Robust and Efficient Hierarchical Clustering using Adaptively Selected Similarities
Boston University(波士顿大学);University of Wisconsin - Madison(威斯康星大学麦迪逊分校);Carnegie Mellon University(卡内基梅隆大学)
基于成对相似性的层次聚类是广泛应用于科学领域的常用工具。然而,在许多问题中,获得或计算待聚类的项目之间的相似性可能是昂贵的。本文研究了N个项目的层次聚类的基础上的一个小子集的成对相似性,显着小于完整的N(N-1)/2相似性。首先,我们表明,如果集群内的相似性超过集群间的相似性,那么它是可以正确地确定从少至3 N对数N相似性的层次聚类。我们证明了这种数量级的节省成对相似性的数量需要顺序选择的相似性,以获得自适应的方式,而不是随机挑选。然后,我们提出了一个积极的聚类方法,是强大的异常相似性的一个有限的部分,并显示如何即使在这些嘈杂的相似性值的存在下,我们可以解决层次聚类使用仅O(N log^2 N)成对的相似性。
2011-02-18 cs.IT cs.LG math.IT
Efficient Active Algorithms for Hierarchical Clustering
Carnegie Mellon University(卡内基梅隆大学)
传感技术的进步和互联网的发展导致了现代数据集规模的爆炸式增长,而存储和处理能力仍然落后。这激发了对高效算法的需求,无论是在所需的测量数量还是运行时间方面。为了应对与大型数据集相关的挑战,我们提出了一个通用的主动层次聚类框架,该框架在小的数据子集上重复运行现成的聚类算法,并保证性能,测量复杂性和运行时复杂性。我们实例化这个框架与一个简单的谱聚类算法,并提供其性能的具体结果,表明,在某些假设下,该算法恢复所有集群的大小?(log对于一个包含n个对象的数据集,时间复杂度为O(n log^3 n)。通过大量的实验,我们也证明了这个框架实际上是诱人的。
2012-06-18 cs.LG stat.ML
Correlation Clustering with Active Learning of Pairwise Similarities
Chalmers University of Technology(查尔姆斯理工大学)
针对成对相似度未预先给出的相关聚类问题,提出通用的主动学习框架,具备反馈灵活、适应任意算法与查询策略及抗噪等优势,并设计了多种新颖查询策略,实验验证了其有效性。
2024-02-12 cs.LG stat.ML
Mitigating shortage of labeled data using clustering-based active learning with diversity exploration
North Carolina A & T State University(北卡罗来纳农工州立大学);Clark Altanta University(克拉克亚特兰大大学)
本文提出了一种新的基于聚类的主动学习框架,即基于聚类的采样的主动学习(ALCS),以解决标记数据不足的问题。ALCS采用基于密度的聚类方法来探索集群结构的数据,而不需要详尽的参数调整。提出了一种基于双聚类边界的样本查询方法,提高了算法在高重叠类分类时的学习性能。此外,我们开发了一个有效的多样性探索策略,以解决查询样本之间的冗余。我们的实验结果证明了ALCS方法的有效性。
2022-07-06 cs.AI cs.LG
Active Domain Adaptation via Clustering Uncertainty-weighted Embeddings
Georgia Tech(佐治亚理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Boston University(波士顿大学)
将深度神经网络推广到新的目标域对其现实世界的效用至关重要。在实践中,它可能是可行的,以获得一些目标数据标记,但成本效益,它是可取的,选择一个最大的信息子集通过主动学习(AL)。我们研究了主动领域自适应(Active DA)领域转移下的人工智能问题。我们展示了现有的AL方法仅基于模型的不确定性或多样性采样是不太有效的主动DA。我们提出了聚类不确定性加权嵌入(CLUE),主动DA,执行不确定性加权聚类,以确定目标实例的标签是不确定的模型和不同的特征空间的一种新的标签采集策略。CLUE在图像分类的6个不同域移位的学习设置中始终优于Active DA和AL的竞争标签获取策略。
2021-10-10 cs.CV cs.LG
Cold-Start Active Correlation Clustering
Chalmers University of Technology \& University of Gothenburg Sweden;Chalmers University of Technology \& University of Gothenburg
本文提出一种覆盖意识方法,解决冷启动场景下主动相关聚类中的成对相似性查询问题,通过合成和现实世界实验验证了方法的有效性。
2026-03-07 cs.AI cs.LG cs.SI
Probabilistic K-means Clustering via Nonlinear Programming
Beijing University of Technology(北京工业大学);Guilin University of Electronic Technology(桂林电子科技大学)
K-means算法是一种经典的聚类算法,有着广泛的应用。然而,自1981年以来,软K均值,或m=1的模糊c均值仍然没有解决。为了解决这个具有挑战性的开放问题,我们提出了一种新的聚类模型,即概率K均值(PKM),这也是一个非线性规划模型约束的线性等式和线性不等式。理论上,我们可以通过主动梯度投影来求解该模型,但效率较低。因此,我们进一步提出了最大步长主动梯度投影和快速最大步长主动梯度投影,以更有效地解决这个问题。通过实验,我们从初始化鲁棒性、聚类性能、下降稳定性、迭代次数和收敛速度五个方面对PKM算法的性能进行了评估。
2020-11-20 cs.LG stat.ML
A Correlation Clustering Approach to Link Classification in Signed Networks -- Full Version --
Università degli Studi di Milano(米兰大学);Università dell’Insubria(因苏布里亚大学)
受社会平衡理论的启发,我们提出了一种基于关联聚类指数的标记网络链接分类理论。我们得出学习界限的相关聚类在三个基本的转导学习设置:在线,批量和主动。我们的主要算法的贡献是在积极的设置,在那里我们引入了一个新的家庭的有效的链接分类器的基础上覆盖的输入图与小电路。这些是第一个主动算法的链接分类错误的界限,持有任意签署的网络。
2013-02-28 cs.DS cs.LG stat.ML
LSCALE: Latent Space Clustering-Based Active Learning for Node Classification
National University of Singapore(新加坡国立大学)
图上的节点分类是许多实际领域中的一个重要课题。它通常需要标签进行培训,这在实践中可能很难或昂贵。给定标记预算,主动学习旨在通过仔细选择标记哪些节点来提高性能。以前的图主动学习方法使用标记的节点学习表示,并选择一些未标记的节点进行标记获取。然而,它们没有充分利用未标记节点中存在的表示能力。我们认为,在未标记的节点的表示能力可以是有用的主动学习和进一步提高节点分类的主动学习的性能。在本文中,我们提出了一个潜在的空间聚类为基础的主动学习框架节点分类(LSCALE),我们充分利用标记和未标记的节点的表示能力。具体来说,为了选择用于标记的节点,我们的框架在基于无监督特征和监督特征的动态组合的潜在空间上使用K-Medoids聚类算法。此外,我们还设计了一个增量式分簇模块,以避免在不同步骤中选择的节点之间的冗余。在五个数据集上进行的大量实验表明,我们提出的框架LSCALE始终显著优于最先进的方法。
2022-07-20 cs.LG cs.SI
Active clustering with bandit feedback
INRAE(法国国家农业食品与环境研究院);Institut Agro(法国国家农业、食品与环境学院);Univ Montpellier(蒙彼利埃大学);Université Paris-Saclay(巴黎萨克雷大学);Institut für Mathematik, Universität Potsdam(波茨坦大学数学研究所)
针对带次高斯反馈的随机老虎机中的隐藏臂分区问题,本文给出非渐近预算下界,并提出计算高效且在多数情形下达到下界的 ACB 主动聚类算法。
2024-06-17 cs.LG stat.ML
Active Clustering with Model-Based Uncertainty Reduction
SUNY at Buffalo(纽约州立大学布法罗分校)
半监督聚类试图通过结合人类专业知识提供的辅助信息来增强传统的聚类方法,以增加所得到的聚类的语义意义。然而,大多数当前的方法是\emph{passive},在这个意义上,边信息被预先提供并且被随机选择。这可能需要大量的约束,其中一些可能是冗余的,不必要的,甚至对聚类结果有害。因此,为了将这样的半监督算法扩展到更大的问题,期望追求\emph{active}聚类方法-即,通过仅在将具有最大影响的地方请求人的输入来最大化可用人力劳动的有效性的算法。在这里,我们提出了一个新的在线框架,主动半监督谱聚类,选择成对的约束聚类进行,基于不确定性减少的原则。使用一阶泰勒展开,我们分解成一个梯度和一个步骤规模,通过矩阵扰动理论和集群分配熵的应用程序计算,分别预期的不确定性降低问题。由此产生的模型用于估计数据集中每个样本的不确定性降低潜力。然后,我们提出的人类用户与成对查询,只有最好的候选样本。我们使用三种不同的图像数据集(人脸、树叶和狗)、一组常见的UCI机器学习数据集和一个基因数据集来评估我们的方法。结果验证了我们的分解公式,并表明我们的方法始终优于现有的最先进的技术,以及对噪声和未知数量的聚类具有鲁棒性。
2014-02-14 cs.CV cs.LG stat.ML
Fast kNN mode seeking clustering applied to active learning
PRLab, Delft University of Technology(代尔夫特理工大学模式识别实验室);Prime Vision(Prime Vision 公司)
一个显着更快的算法,提出了原来的kNN模式搜索过程。它的优点是在高维向量空间中是可行的,并导致唯一的,定义良好的模式。此外,没有任何额外的计算工作,它可以产生一个多尺度层次的聚类。时间复杂度为O(n^1.5)结果计算时间从10^4个物体的秒到10^5个物体的分钟到10^6个物体的不到一小时不等。时间复杂度为O(n)。该程序非常适合于寻找大的小集群集,从而是一个候选人,以分析数以百万计的对象中的数千个集群。kNN模式搜索过程可以通过将聚类分配给聚类的模态对象的类来用于主动学习。最多可达150万个手写体数字的实例表明了该方法的可行性。将基于聚类得到的分类结果与最近邻规则和基于相同标记对象训练的支持向量分类器得到的分类结果进行了比较。可以得出结论,使用聚类结构进行分类可以明显优于使用训练的分类器。然而,使用聚类进行分类的缺点在于,没有获得可以用于样本外对象的分类器。
2017-12-20 cs.LG stat.ML
Foundation Model Makes Clustering A Better Initialization For Cold-Start Active Learning
Centre for Quantitative Medicine, Duke-NUS Medical School(杜克-新加坡国立大学医学院定量医学中心);Duke University(杜克大学)
本文提出将基础模型与聚类方法结合,利用其生成的紧凑嵌入替代原始特征,为冷启动主动学习选择初始样本,实验证明该方法在临床图像分类与分割任务中优于基线。
2024-03-27 cs.CV cs.LG
Query-augmented Active Metric Learning
University of Illinois, Urbana-Champaign(伊利诺伊大学香槟分校);University of California, Irvine(加利福尼亚大学尔湾分校);Eli Lilly and Company(礼来公司)
在本文中,我们提出了一个主动度量学习方法的聚类与成对约束。该方法主动查询信息实例对的标签,同时通过合并未标记的实例对来估计底层度量,从而导致更准确和高效的聚类过程。特别是,我们通过生成更多的成对标签来增加查询的约束,以在学习度量时提供额外的信息来提高聚类性能。此外,我们增加了度量学习的鲁棒性,通过更新学习的度量顺序和惩罚不相关的功能自适应。此外,我们还提出了一种新的主动查询策略,该策略通过引入邻域结构来更准确地评估实例对的信息增益,从而在不增加额外标签成本的情况下提高了聚类效率。在理论上,我们提供了一个更严格的误差界的建议度量学习方法,利用增强查询相比,使用现有的限制。此外,我们还研究了改进使用主动查询策略,而不是随机选择。仿真和真实数据集的数值研究表明,所提出的方法是特别有利的,当显着的功能和不相关的功能之间的信噪比低。
2021-11-08 cs.LG stat.ML
Oracle Based Active Set Algorithm for Scalable Elastic Net Subspace Clustering
Johns Hopkins University(约翰斯·霍普金斯大学);Beijing University of Posts and Telecommunications(北京邮电大学)
现有技术的子空间聚类方法基于将每个数据点表示为其他数据点的线性组合,同时用$\ell_1$、$\ell_2$或核范数正则化系数矩阵。保证$\ell_1$正则化给出子空间保持亲和性(即,来自不同子空间的点之间没有连接),但是簇可以不连接。$\ell_2$和核范数正则化通常会改善连通性,但仅对独立子空间给出子空间保持亲和性。混合的$\ell_1$、$\ell_2$和核范数正则化提供了子空间保持和连通性属性之间的平衡,但这是以增加的计算复杂性为代价的。本文研究了弹性网络正则化子($\ell_1$和$\ell_2$范数的混合)的几何结构,并利用它导出了一个可证明正确的和可扩展的有效集方法来寻找最佳系数。我们的几何分析还提供了一个理论上的理由和几何解释之间的平衡的连通性(由于$\ell_2$正则化)和子空间保持(由于$\ell_1$正则化)属性的弹性网络子空间聚类。实验结果表明,该方法不仅具有最佳的聚类性能,而且能够有效地处理大规模数据集。
2016-05-09 cs.CV cs.LG stat.ML
Semi-Supervised Active Clustering with Weak Oracles
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
半监督主动聚类(SSAC)利用领域专家的知识,通过交互式地进行成对的“同类”查询来聚类数据点。然而,要求人类预言机回答每个成对查询是不切实际的。在本文中,我们研究的影响,允许“不确定”的答案从一个弱的预言,并提出算法,以有效地处理不确定性。不同类型的模型假设进行了分析,以涵盖现实的情况下,甲骨文抽象。在第一个模型中,随机弱预言机,预言机以一定的概率随机弃权。我们还提出了两个距离弱预言机模型,模拟了两点之间的距离在成对查询混淆的情况。对于每个弱预言模型,我们表明,一个小的查询复杂度是足够的有效的$k$手段聚类的概率高。用于保证的充分条件包括数据的$γ$ -余量属性,以及存在接近每个聚类中心的点。此外,我们提供了一个样本的复杂性,降低了集群的利润率的影响,只有对数依赖于数据维度。我们的研究结果允许显着减少相同的集群查询的数量,如果集群的边缘是紧的,即$γ\approx 1$。合成数据的实验结果表明,我们的方法在克服不确定性的有效性能。
2017-09-11 cs.LG stat.ML
Data Skeleton Learning: Scalable Active Clustering with Sparse Graph Structures
School of Computer Science and Software Engineering, Southwest Petroleum University(计算机科学与软件工程学院,西南石油大学);School of Computer and Software Engineering, Xihua University(计算机与软件工程学院,西华大学);Web Sciences Center, University of Electronic Science and Technology of China(网络科学中心,电子科技大学);College of Science and Engineering, University of Minnesota(科学与工程学院,明尼苏达大学)
本文提出一种基于双稀疏图的数据骨架学习主动聚类算法,通过协同更新数据骨架与约束图,降低计算与内存开销,以更少用户约束实现更精确、可扩展的聚类。
2025-09-10 cs.LG
Active Distance-Based Clustering using K-medoids
Sharif University of Technology(谢里夫理工大学)
k-medoids算法是一种分区的、基于质心的聚类算法,它使用数据点的成对距离,并试图将具有$n$点的数据集直接分解成一组$k$不相交的聚类。然而,k-medoids本身需要数据点之间的所有距离,这在许多应用中并不容易获得。在本文中,我们介绍了一种新的方法,它只需要一小部分的整个距离集,并努力估计未知的距离使用查询的上限。该算法利用三角不等式计算未知距离的上界估计。我们的方法是建立在一个递归的方法来聚类对象,并选择一些点主动从每一束数据,并获得这些突出点之间的距离从Oracle。实验结果表明,该方法只使用一个小的子集的距离可以找到适当的聚类在许多真实世界和合成数据集。
2015-12-12 cs.LG
FAL-CUR: Fair Active Learning using Uncertainty and Representativeness on Fair Clustering
Eindhoven University of Technology(埃因霍温理工大学);Leiden University(莱顿大学)
针对现有主动学习方法提升公平性时易降低准确率的问题,提出结合公平聚类与基于不确定性、代表性的采集函数的FAL-CUR策略,在四个真实数据集上实现公平性15%-20%提升且准确率稳定。
2023-12-19 cs.LG
Semi-Supervised and Active Few-Shot Learning with Prototypical Networks
The Curious AI Company(好奇人工智能公司)
我们考虑半监督的Few-Shot分类问题,其中分类器需要使用几个标记的示例和(可能是许多)未标记的示例来适应新的任务。我们提出了一个聚类的方法来解决这个问题。使用原型网络提取的特征使用$K$ -均值进行聚类,并使用少数标记示例指导聚类过程。我们注意到,在许多实际应用中,通过用户反馈请求少量标签,可以显著提高自适应性能。我们展示了良好的性能,使用图像数据的主动适应策略。
2018-04-25 cs.LG stat.ML
A Structural-Clustering Based Active Learning for Graph Neural Networks
Eindhoven University of Technology(埃因霍温理工大学);The University of Aberdeen(阿伯丁大学)
针对图主动学习中结构信息利用不足的问题,提出融合 SCAN 社区检测与 PageRank 评分的 SPA 节点选择方法,以更低查询时间和更少超参数提升准确率与 macro-F1。
2023-12-07 cs.LG
Almost Asymptotically Optimal Active Clustering Through Pairwise Observations
National University of Singapore(国立新加坡大学);Indian Institute of Technology Hyderabad(印度海得拉巴理工学院);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
通过成对观测实现近似最优的主动聚类,利用测度变化技术建立查询次数下界,并设计渐近最优算法。
2026-02-05 cs.IT cs.LG math.IT
Analysis of Self-Supervised Learning and Dimensionality Reduction Methods in Clustering-Based Active Learning for Speech Emotion Recognition
Unit of Computing Sciences, Tampere University, Finland(图皮大学计算科学系,芬兰);Helsinki University Hospital, Helsinki, Finland(赫尔辛基大学医院,芬兰)
本文研究了在语音情感识别中,利用自监督学习和降维方法提升基于聚类的主动学习性能,探讨了特征空间局部和全局拓扑结构对主动学习的影响,发现降维不影响性能且二维特征表现良好。
2022-06-21 cs.LG cs.SD eess.AS
Guess What's on my Screen? Clustering Smartphone Screenshots with Active Learning
The Pennsylvania State University(宾夕法尼亚州立大学);Stanford University(斯坦福大学)
个人日常活动的很大一部分是通过数字设备体验的。特别是智能手机已经成为内容消费和社交互动的首选界面之一。因此,识别嵌入在频繁捕获的智能手机屏幕截图中的内容是研究媒体行为和健康干预计划的关键先决条件,这些计划分析了活动的相互作用和随着时间的推移的内容切换。屏幕截图图像可以描述异构的内容和应用程序,使得适当分类的先验定义成为一项繁琐的任务,即使对于人类来说也是如此。对屏幕上捕获的敏感数据的隐私保护意味着与手动注释相关的成本很大,因为这项工作无法众包。因此,有必要研究数字屏幕截图分类的无监督和半监督方法的实用性。这项工作介绍了在只有有限数量的标签可用时,在大型屏幕截图集上应用聚类的含义。在本文中,我们开发了一个框架,用于将K-Means聚类与主动学习相结合,以有效利用标记和未标记的样本,其目标是发现潜在类并描述大量的屏幕截图数据。我们测试了类概率传播的SVM嵌入式或XGBoost嵌入式解决方案是否提供了更良好的集群配置。视觉和文本矢量表示的屏幕截图图像的推导和组合,以评估多模态功能的整体性能的相对贡献。
2019-01-10 cs.CV cs.LG cs.MM
Active Learning of Custering with Side Information Using $\eps$-Smooth Relative Regret Approximations
聚类被认为是一种非监督学习设置,其目标是将数据点的集合划分为不相交的聚类。通常,从业者给出或假设聚类数量的界限$k$。这个问题的许多版本已经被定义,最著名的是$k$ -均值和$k$ -中位数。聚类的无监督性质的一个潜在问题是确定相似性函数。缓解这种困难的一种方法被称为边信息聚类,或者半监督聚类。在这里,从业者以数据点对的“必须被聚类”或“必须被分离”标签的形式并入辅助信息。每一条这样的信息都有一个“查询成本”(通常涉及人工响应请求)。然后,将标签的集合作为严格约束或软约束并入通常的聚类算法中,可能向所选择的聚类目标添加成对约束惩罚函数。我们的工作主要是与边信息聚类。我们问如何选择数据点对。我们的分析产生了一种方法,证明比简单地随机选择它们更好。粗略地说,我们表明,分布必须是有偏见的,以便更多的重量放在对事件的元素在较小的集群中的一些最佳解决方案。当然,我们不知道最优解,因此我们不知道偏差。使用最近推出的方法$\eps$ -光滑的相对遗憾近似的Ailon,Begleiter和以斯拉,我们可以显示一个迭代的过程,提高了集群和偏见串联。该过程可证明收敛到最优解的速度(查询成本方面)比算法选择对一致。
2012-01-31 cs.LG
Leveraging Union of Subspace Structure to Improve Constrained Clustering
University Michigan(密歇根大学)
在计算机视觉和其他背景下的许多聚类问题也是分类问题,其中每个聚类共享一个有意义的标签。特别是子空间聚类算法通常应用于符合这种描述的问题,例如人脸图像或手写数字。虽然在这些数据集上请求人工输入很简单,但我们的目标是尽可能减少这种输入。我们提出了一个成对约束的聚类算法,积极选择查询的基础上的联盟的子空间模型。该算法的中心步骤是在查询点之间的最小间隔估计的子空间,类似于分类器的利润,这些谎言附近的决策边界。我们证明了位于子空间的交点附近的点是具有低边缘的点。我们的程序可以在任何输出亲和矩阵的子空间聚类算法之后使用。我们在几个数据集上证明,我们的算法比具有子空间结构的数据集上的最先进的主动查询算法更快地降低了聚类错误,并且在其他数据集上具有竞争力。
2017-09-13 cs.CV cs.LG
Offline Clustering of Preference Learning with Active-data Augmentation
Nanjing University(南京大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学)
针对离线偏好学习中的用户相似性识别与数据不平衡挑战,提出Off-C$^2$PL及带主动数据增强的A$^2$-Off-C$^2$PL算法,通过聚类聚合数据并主动补充信息量最少的维度样本,理论证明与实验均验证了其有效性。
2025-10-31 cs.LG
Curriculum Learning for Deep Generative Models with Clustering
Xiaomi AI Lab(小米人工智能实验室);Chinese University of Hong Kong(香港中文大学);Peking University(北京大学)
训练像生成对抗网络(GAN)这样的生成模型对于噪声数据来说是一个挑战。提出了一种新的基于聚类的课程学习算法。课程建设是基于数据点的底层集群的中心性。在训练期间,高中心性的数据点优先被馈送到生成模型中。为了使我们的算法可扩展到大规模数据,设计了活动集,在这个意义上,每一轮的训练只在包含一小部分已经训练过的数据和较低中心度的增量数据的活动子集上进行。此外,本文还从几何学的角度分析了集群课程生成模式的必要性。在猫和人脸数据上的实验验证了我们的算法能够学习最佳生成模型(例如ProGAN),并针对噪声数据的指定质量度量。一个有趣的发现是,最佳集群课程是密切相关的临界点的几何渗流过程中制定的文件。
2019-09-26 cs.CV cs.LG stat.ML
Learning in Unlabeled Networks - An Active Learning and Inference Approach
Bournemouth University(伯恩茅斯大学)
基于网络结构和节点的某个训练子集的标签的知识来确定所有网络节点的标签的任务被称为网络内分类。可能发生的是,节点的标签都是未知的,并且另外没有关于节点可以被分配到的类的数量的信息。在这种情况下,必须选择节点的子集用于初始标签获取。由此产生的问题是:“应该收集哪些节点的标签并用于学习,以便为整个网络提供最佳的分类精度?".主动学习和推理是研究这一问题的一个实用框架。提出并验证了一套网络内分类的主动学习和推理方法。基于网络结构的每个节点的效用得分计算是该过程中的第一步。分数使得能够对节点进行排名。基于排名,选择为其获取标签的一组节点(例如,通过从排名中取顶部或底部N)。本文提出的新的测量邻居方法建议不从排名中获得节点的标签,而是获取其邻居的标签。本文研究了29个不同的配方的效用分数和选择方法报告其影响的结果,两个集体分类算法:迭代分类算法和循环的信念传播。我们主张,所提出的方法的准确性取决于所检查的网络的结构特性。我们声称,测量邻居的方法将工作更好地比常规方法的网络具有较高的聚类系数和比常规方法的网络具有较低的聚类系数。根据我们的假设,基于聚类系数,我们能够推荐合适的主动学习和推理方法。
2015-10-05 cs.LG cs.SI stat.ML
Risk-averse Batch Active Inverse Reward Design
本文提出RBAIRD方法,通过批量环境处理和风险规避规划器改进AIRD,使智能体能在现实环境中安全学习未知特征并提升对齐效率。
2023-11-20 cs.LG
NTKCPL: Active Learning on Top of Self-Supervised Model by Estimating True Coverage
University of Sydney(悉尼大学);Norwegian University of Science and Technology(挪威科技大学)
针对自监督模型上主动学习相变点提前、策略难选的问题,提出NTKCPL,利用NTK近似、伪标签与聚类生成更准确估计经验风险,并在五个数据集上验证其优势。
2023-06-07 cs.LG
CSAL: Self-adaptive Labeling based Clustering Integrating Supervised Learning on Unlabeled Data
University of Technology Sydney(悉尼科技大学)
由于监督训练过程,监督分类方法可以预测未知数据的标签。分类的成功在很大程度上依赖于标记的训练数据。聚类是揭示未标记数据聚集性的有效方法,但大多数聚类方法的性能受到标记数据缺失的限制。然而,在实际应用中,获取标记数据是耗时的,有时甚至是不可能的。聚类和分类相结合是一种很有前途的方法,可以大大提高性能。在本文中,我们提出了一个创新的和有效的聚类框架的基础上,自适应标签(CSAL)集成的聚类和分类的未标记的数据。首先采用聚类方法对数据进行划分,并从聚类后的数据中选取一定比例的数据进行分类器训练。为了改进训练的分类器,期望最大化算法的迭代过程被设计到所提出的聚类框架CSAL。在公开数据集上进行实验,测试聚类算法和分类模型的不同组合以及各种训练数据标记方法。实验结果表明,我们的方法以及自适应方法优于其他方法。
2015-02-18 cs.LG
Active Learning and Transfer Learning for Anomaly Detection in Time-Series Data
ADAPT Research Centre(ADAPT研究中心);School of Computer Science and Statistics(计算机科学与统计学学院);Trinity College Dublin(都柏林三一学院);ReliaQuest(ReliaQuest公司)
本研究结合主动学习与迁移学习进行跨域时间序列异常检测,发现不聚类时性能最佳,主动学习提升较文献慢,且性能随目标点增加先升后降。
2025-08-05 cs.AI cs.LG
Consistency between ordering and clustering methods for graphs
Artificial Intelligence Research Center, National Institute of Advanced Industrial Science and Technology(国立先进工业科学技术研究所人工智能研究中心);The University of Tokyo(东京大学);Kobe University(神户大学)
本研究通过谱技术探讨图的聚类与排序方法间的方法论联系,提出标签连续性误差度量序列与划分的一致性,并在合成与真实数据集上评估了排序识别模块结构和聚类识别带状结构的能力。
2023-04-07 cs.LG cs.SI physics.soc-ph