COBRA: A Fast and Simple Method for Active Clustering with Pairwise Constraints
KU Leuven（鲁汶大学）
聚类本质上是不适定的：单个数据集通常存在多个有效的聚类，如果没有任何额外的信息，聚类系统就无法知道它应该生成哪个聚类。这促使在聚类中使用约束，因为它们允许用户将他们的兴趣传达给聚类系统。基于主动约束的聚类算法选择最有用的约束进行查询，旨在使用尽可能少的约束产生良好的聚类。我们提出了COBRA，一个积极的方法，第一次过集群的数据运行K-means与$K$，这是打算太大，随后合并产生的小集群成较大的成对约束的基础上。在其合并步骤中，COBRA是能够保持成对查询的数量低，最大限度地利用约束传递性和蕴涵。我们的实验表明，COBRA优于国家的最先进的聚类质量和运行时间，而不需要预先的集群数量。
2018-01-30 cs.AI cs.LG stat.ML
Subspace Clustering with Active Learning
Lancaster University（兰卡斯特大学）
子空间聚类是一个不断发展的无监督学习领域，在计算机视觉社区中非常受欢迎。可以在运动分割和人脸聚类等领域找到应用。它假设数据来自子空间的并集，并根据相应的子空间对数据进行聚类。在实践中，合理的假设是，可以获得有限数量的标签，可能是有成本的。因此，算法，可以有效地和高效地将这些信息，以改善聚类模型是可取的。在本文中，我们提出了一个主动学习框架的子空间聚类，顺序查询信息点和更新的子空间模型。所提出的框架的查询阶段依赖于从扰动理论的主成分分析的结果，以确定有影响力的和潜在的误分类点。提出了一种约束子空间聚类算法，该算法在标签数据约束条件下，单调递减目标函数。我们表明，我们提出的框架是适合的子空间聚类算法，包括迭代方法和谱方法。在合成数据集、运动分割数据集和Yale Faces数据集上的实验证明了我们提出的主动策略优于最先进的主动策略。
2019-11-11 cs.LG stat.ML
Oracle Based Active Set Algorithm for Scalable Elastic Net Subspace Clustering
Johns Hopkins University（约翰斯·霍普金斯大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
现有技术的子空间聚类方法基于将每个数据点表示为其他数据点的线性组合，同时用$\ell_1$、$\ell_2$或核范数正则化系数矩阵。保证$\ell_1$正则化给出子空间保持亲和性（即，来自不同子空间的点之间没有连接），但是簇可以不连接。$\ell_2$和核范数正则化通常会改善连通性，但仅对独立子空间给出子空间保持亲和性。混合的$\ell_1$、$\ell_2$和核范数正则化提供了子空间保持和连通性属性之间的平衡，但这是以增加的计算复杂性为代价的。本文研究了弹性网络正则化子（$\ell_1$和$\ell_2$范数的混合）的几何结构，并利用它导出了一个可证明正确的和可扩展的有效集方法来寻找最佳系数。我们的几何分析还提供了一个理论上的理由和几何解释之间的平衡的连通性（由于$\ell_2$正则化）和子空间保持（由于$\ell_1$正则化）属性的弹性网络子空间聚类。实验结果表明，该方法不仅具有最佳的聚类性能，而且能够有效地处理大规模数据集。
2016-05-09 cs.CV cs.LG stat.ML
A Greedy and Optimistic Approach to Clustering with a Specified Uncertainty of Covariates
The Institute of Statistical Mathematics（统计数学研究所）；RIKEN Center for Advanced Intelligence Project（理化学研究所高级智能项目中心）；National Astronomical Observatory of Japan（日本国立天文台）；University of Michigan（密歇根大学）
在这项研究中，我们研究了一个聚类问题，其中数据集中每个元素的协变量与该元素特定的不确定性相关。更具体地说，我们考虑一种聚类方法，其中使用对协变量应用非线性变换的预处理来捕获隐藏的数据结构。为此，我们根据经验近似表示预处理特征的传播不确定性的集合。为了利用经验的不确定性集，我们提出了一个贪婪和乐观的聚类（GOC）算法，发现更好的功能候选人在这样的集合，产生更多的凝聚集群。作为一个重要的应用，我们应用GOC算法的合成数据集的恒星的轨道特性，通过我们的数值模拟模拟银河系的形成过程。GOC算法在寻找起源于同一矮星系的兄弟星方面表现出更好的性能。这些真实的数据集也已公开提供。
2022-04-18 cs.LG stat.ME stat.ML
COBRAS: Fast, Iterative, Active Clustering with Pairwise Constraints
Department of Computer Science, KU Leuven（比利时鲁汶大学计算机科学系）
基于约束的聚类算法利用背景知识来构造与特定用户的兴趣一致的聚类。这种背景知识通常是通过允许聚类系统向用户提出成对查询来获得的：这两个元素是否应该在同一个聚类中？主动聚类方法的目标是通过首先查询信息量最大的对来最小化获得良好聚类所需的查询数量。理想情况下，用户应该能够回答其中的几个查询，检查结果聚类，并重复这两个步骤，直到获得满意的结果。我们提出了COBRAS，一种主动聚类与成对的约束，适合这样一个互动的聚类过程。COBRAS中的一个核心概念是超级实例：数据中的一个局部区域，其中所有实例都被假设属于同一个集群。COBRAS构建这样的超级实例在一个自上而下的方式产生高质量的结果在聚类过程的早期，并不断完善这些超级实例，更多的成对查询，以获得更详细的clustrings.We实验证明，COBRAS产生良好的聚类在快速运行时间，使其成为一个很好的候选人的迭代聚类场景上面概述。
2018-03-29 cs.AI cs.LG stat.ML
Flattening a Hierarchical Clustering through Active Learning
INRIA Lille（里尔法国国家信息与自动化研究所）；Sapienza University of Rome（罗马大学）；Google（谷歌）
我们研究主动学习的两两相似性的树叶起源于层次聚类程序。在可实现的设置中，我们提供了一个完整的表征的查询数量需要实现完美的重建的树切割。在不可实现的设置，我们依靠已知的重要抽样程序，以获得遗憾和查询复杂性的界限。我们的算法来与理论保证的统计误差，更重要的是，借给自己的线性时间实现的相关参数的问题。我们讨论这样的实现，证明他们的运行时间保证，并在现实世界的数据集上展示了令人信服的实际性能相比，被动学习和简单的主动学习基线我们的算法的初步实验。
2019-10-12 cs.LG stat.ML
Foundation Model Makes Clustering A Better Initialization For Cold-Start Active Learning
Centre for Quantitative Medicine, Duke-NUS Medical School（杜克-新加坡国立大学医学院定量医学中心）；Duke University（杜克大学）
本文提出将基础模型与聚类方法结合，利用其生成的紧凑嵌入替代原始特征，为冷启动主动学习选择初始样本，实验证明该方法在临床图像分类与分割任务中优于基线。
2024-03-27 cs.CV cs.LG
Quantifying uncertainty in spectral clusterings: expectations for perturbed and incomplete data
University of Bonn（波恩大学）；Institute for Numerical Simulation（数值模拟研究所）
本文针对谱聚类在数据扰动或不完整时结果不可靠的问题，基于随机集理论提出计算期望聚类的蒙特卡罗框架，并分析一致性及数值验证。
2025-05-23 cs.LG stat.ML
Efficient Active Algorithms for Hierarchical Clustering
Carnegie Mellon University（卡内基梅隆大学）
传感技术的进步和互联网的发展导致了现代数据集规模的爆炸式增长，而存储和处理能力仍然落后。这激发了对高效算法的需求，无论是在所需的测量数量还是运行时间方面。为了应对与大型数据集相关的挑战，我们提出了一个通用的主动层次聚类框架，该框架在小的数据子集上重复运行现成的聚类算法，并保证性能，测量复杂性和运行时复杂性。我们实例化这个框架与一个简单的谱聚类算法，并提供其性能的具体结果，表明，在某些假设下，该算法恢复所有集群的大小？(log对于一个包含n个对象的数据集，时间复杂度为O（n log^3 n）。通过大量的实验，我们也证明了这个框架实际上是诱人的。
2012-06-18 cs.LG stat.ML
A3S: A General Active Clustering Method with Pairwise Constraints
Alibaba Group（阿里巴巴集团）；University of Science and Technology of China（中国科学技术大学）；Peking University（北京大学）
针对传统半监督主动聚类在大类别数据集上查询成本高的问题，提出基于聚类调整的A3S框架，通过信息论指导的自适应聚合分裂调整初始聚类，在多数据集上以更少查询实现更优性能与可扩展性。
2024-07-14 cs.AI cs.LG
Correlation Clustering with Active Learning of Pairwise Similarities
Chalmers University of Technology（查尔姆斯理工大学）
针对成对相似度未预先给出的相关聚类问题，提出通用的主动学习框架，具备反馈灵活、适应任意算法与查询策略及抗噪等优势，并设计了多种新颖查询策略，实验验证了其有效性。
2024-02-12 cs.LG stat.ML
Enhanced Federated Deep Multi-View Clustering under Uncertainty Scenario
本文提出EFDMVC框架，通过语义对齐、视图自适应漂移和平衡聚合机制，解决联邦多视图聚类中的视图不确定性和聚合不确定性问题，实验验证其在异构不确定视图下的鲁棒性。
2025-11-19 cs.LG
Active Clustering: Robust and Efficient Hierarchical Clustering using Adaptively Selected Similarities
Boston University（波士顿大学）；University of Wisconsin - Madison（威斯康星大学麦迪逊分校）；Carnegie Mellon University（卡内基梅隆大学）
基于成对相似性的层次聚类是广泛应用于科学领域的常用工具。然而，在许多问题中，获得或计算待聚类的项目之间的相似性可能是昂贵的。本文研究了N个项目的层次聚类的基础上的一个小子集的成对相似性，显着小于完整的N（N-1）/2相似性。首先，我们表明，如果集群内的相似性超过集群间的相似性，那么它是可以正确地确定从少至3 N对数N相似性的层次聚类。我们证明了这种数量级的节省成对相似性的数量需要顺序选择的相似性，以获得自适应的方式，而不是随机挑选。然后，我们提出了一个积极的聚类方法，是强大的异常相似性的一个有限的部分，并显示如何即使在这些嘈杂的相似性值的存在下，我们可以解决层次聚类使用仅O（N log^2 N）成对的相似性。
2011-02-18 cs.IT cs.LG math.IT
Uncertainty Propagation in Deep Neural Network Using Active Subspace
Tsinghua University（清华大学）；Princeton University（普林斯顿大学）
深度神经网络（DNN）的输入来自真实世界的数据，通常带有不确定性。然而，以低计算成本将输入特征中的不确定性传播到DNN预测是具有挑战性的。这项工作采用了基于梯度的子空间方法和响应面技术来加速DNN中的不确定性传播。具体而言，采用主动子空间方法来使用DNN输出到输入的梯度来识别输入特征中最重要的子空间。然后，可以有效地构建该低维子空间内的响应面，并且可以通过评估计算成本低的响应面而不是DNN模型来获得预测的不确定性。此外，子空间可以帮助解释对抗性示例。该方法在MNIST数据集与卷积神经网络。代码可在：https://github.com/jiweiqi/nnsubspace.
2020-01-11 cs.CV cs.LG stat.ML
Optimal Clustering under Uncertainty
The Ohio State University（俄亥俄州立大学）；Secretaría Nacional de Educación Superior, Ciencia, Tecnología e Innovación (SENESCYT)（厄瓜多尔高等教育、科学、技术与创新秘书处（SENESCYT））；Consejo Nacional de Investigaciones Científicas y Técnicas (CONICET)（阿根廷国家科学技术研究委员会（CONICET））；Universidad Nacional de Mar del Plata（马德普拉塔国立大学）；Escuela Politécnica Nacional（国立理工学院）；Texas A&M University（德州农工大学）
经典的聚类算法通常要么缺乏一个潜在的概率框架，使他们的预测或专注于参数估计，而不是定义和最小化的错误的概念。最近的工作解决了这些问题，通过开发一个概率框架的基础上随机标记点过程的理论和表征贝叶斯聚类器，最大限度地减少误聚类点的数量。贝叶斯聚类器类似于贝叶斯分类器。而确定贝叶斯分类器需要的特征标签分布的全部知识，推导贝叶斯聚类需要的点过程的全部知识。当点过程不确定时，人们希望找到一个在不确定性上最优的鲁棒聚类器，就像人们可以找到具有不确定特征标签分布的最优鲁棒分类器一样。在这里，我们得到一个最佳的鲁棒聚类器，首先找到一个有效的随机点过程，它将所有的随机性在其自身的概率结构，并从贝叶斯聚类器可以得出，提供了一个最佳的鲁棒聚类器相对于不确定性。这类似于在稳健分类中使用有效类条件分布。在评估了高斯模型的合成混合物中的鲁棒聚类器的性能后，我们将该框架应用于颗粒成像，在那里我们利用颗粒图像的渐近粒度矩理论将鲁棒聚类理论与应用程序联系起来。
2018-06-02 cs.CV cs.LG eess.IV
Active Learning for Approximation of Expensive Functions with Normal Distributed Output Uncertainty
Ghent University（根特大学）
当近似黑盒函数时，通过关注具有非线性响应的区域的主动学习进行采样往往会提高精度。我们提出了之前针对确定性响应引入的FLOLA-Voronoi方法，并从理论上推导出输出不确定性的影响。该算法自动将更多的重点放在探索上，为模型提供更多的信息。
2016-08-18 cs.LG stat.ML
Probabilistic K-means Clustering via Nonlinear Programming
Beijing University of Technology（北京工业大学）；Guilin University of Electronic Technology（桂林电子科技大学）
K-means算法是一种经典的聚类算法，有着广泛的应用。然而，自1981年以来，软K均值，或m=1的模糊c均值仍然没有解决。为了解决这个具有挑战性的开放问题，我们提出了一种新的聚类模型，即概率K均值（PKM），这也是一个非线性规划模型约束的线性等式和线性不等式。理论上，我们可以通过主动梯度投影来求解该模型，但效率较低。因此，我们进一步提出了最大步长主动梯度投影和快速最大步长主动梯度投影，以更有效地解决这个问题。通过实验，我们从初始化鲁棒性、聚类性能、下降稳定性、迭代次数和收敛速度五个方面对PKM算法的性能进行了评估。
2020-11-20 cs.LG stat.ML
Uncertainty Disentanglement with Non-stationary Heteroscedastic Gaussian Processes for Active Learning
IIT Gandhinagar（印度理工学院甘地纳加尔分校）；Google（谷歌）
高斯过程是贝叶斯非参数模型，在许多领域都有应用。在这项工作中，我们提出了一个非平稳异方差高斯过程模型，可以学习与基于梯度的技术。我们证明了所提出的模型的可解释性分离成任意（不可约）和认知（模型）的不确定性的整体不确定性。我们说明了派生的认知不确定性的主动学习问题的可用性。我们证明了我们的模型与多个数据集上的各种消融的有效性。
2022-10-20 cs.LG stat.ML
Mitigating shortage of labeled data using clustering-based active learning with diversity exploration
North Carolina A & T State University（北卡罗来纳农工州立大学）；Clark Altanta University（克拉克亚特兰大大学）
本文提出了一种新的基于聚类的主动学习框架，即基于聚类的采样的主动学习（ALCS），以解决标记数据不足的问题。ALCS采用基于密度的聚类方法来探索集群结构的数据，而不需要详尽的参数调整。提出了一种基于双聚类边界的样本查询方法，提高了算法在高重叠类分类时的学习性能。此外，我们开发了一个有效的多样性探索策略，以解决查询样本之间的冗余。我们的实验结果证明了ALCS方法的有效性。
2022-07-06 cs.AI cs.LG
Depth Uncertainty Networks for Active Learning
University of Cambridge（剑桥大学）
在主动学习中，训练数据集的大小和复杂性会随着时间的推移而变化。在主动学习开始时由可用数据量很好地指定的简单模型可能会因为更多的点被主动采样而遭受偏差。可能非常适合完整数据集的灵活模型在主动学习开始时可能会出现过拟合。我们使用深度不确定性网络（DUN）来解决这个问题，这是一种BNN变体，可以推断网络的深度及其复杂性。我们发现DUN在几个主动学习任务上优于其他BNN变体。重要的是，我们表明，在任务中，DUN表现最好，他们目前显着低于过拟合比基线。
2022-05-04 cs.LG stat.ML
Active clustering with bandit feedback
INRAE（法国国家农业食品与环境研究院）；Institut Agro（法国国家农业、食品与环境学院）；Univ Montpellier（蒙彼利埃大学）；Université Paris-Saclay（巴黎萨克雷大学）；Institut für Mathematik, Universität Potsdam（波茨坦大学数学研究所）
针对带次高斯反馈的随机老虎机中的隐藏臂分区问题，本文给出非渐近预算下界，并提出计算高效且在多数情形下达到下界的 ACB 主动聚类算法。
2024-06-17 cs.LG stat.ML
A Correlation Clustering Approach to Link Classification in Signed Networks -- Full Version --
Università degli Studi di Milano（米兰大学）；Università dell’Insubria（因苏布里亚大学）
受社会平衡理论的启发，我们提出了一种基于关联聚类指数的标记网络链接分类理论。我们得出学习界限的相关聚类在三个基本的转导学习设置：在线，批量和主动。我们的主要算法的贡献是在积极的设置，在那里我们引入了一个新的家庭的有效的链接分类器的基础上覆盖的输入图与小电路。这些是第一个主动算法的链接分类错误的界限，持有任意签署的网络。
2013-02-28 cs.DS cs.LG stat.ML
Semantic Token Clustering for Efficient Uncertainty Quantification in Large Language Models
The University of Tokyo（东京大学）
本文提出语义标记聚类方法，通过语义信息高效量化大型语言模型的不确定性，无需辅助模型且计算开销低。
2026-03-20 cs.AI cs.CL cs.LG
Fast kNN mode seeking clustering applied to active learning
PRLab, Delft University of Technology（代尔夫特理工大学模式识别实验室）；Prime Vision（Prime Vision 公司）
一个显着更快的算法，提出了原来的kNN模式搜索过程。它的优点是在高维向量空间中是可行的，并导致唯一的，定义良好的模式。此外，没有任何额外的计算工作，它可以产生一个多尺度层次的聚类。时间复杂度为O（n^1.5）结果计算时间从10^4个物体的秒到10^5个物体的分钟到10^6个物体的不到一小时不等。时间复杂度为O（n）。该程序非常适合于寻找大的小集群集，从而是一个候选人，以分析数以百万计的对象中的数千个集群。kNN模式搜索过程可以通过将聚类分配给聚类的模态对象的类来用于主动学习。最多可达150万个手写体数字的实例表明了该方法的可行性。将基于聚类得到的分类结果与最近邻规则和基于相同标记对象训练的支持向量分类器得到的分类结果进行了比较。可以得出结论，使用聚类结构进行分类可以明显优于使用训练的分类器。然而，使用聚类进行分类的缺点在于，没有获得可以用于样本外对象的分类器。
2017-12-20 cs.LG stat.ML
Cold-Start Active Correlation Clustering
Chalmers University of Technology \& University of Gothenburg Sweden；Chalmers University of Technology \& University of Gothenburg
本文提出一种覆盖意识方法，解决冷启动场景下主动相关聚类中的成对相似性查询问题，通过合成和现实世界实验验证了方法的有效性。
2026-03-07 cs.AI cs.LG cs.SI
Poisson Reweighted Laplacian Uncertainty Sampling for Graph-based Active Learning
Oden Institute of Computational Engineering and Sciences, University of Texas（德克萨斯大学奥登计算工程与科学研究所）；University of Minnesota（明尼苏达大学）
我们表明，不确定性采样足以实现基于图的主动学习中的探索与利用，只要不确定性的度量与底层模型正确对齐，并且模型正确反映了未探索区域的不确定性。特别是，我们使用最近开发的算法，泊松重新加权拉普拉斯学习（PWLL）的分类器，我们引入了一个采集功能，旨在测量不确定性，在这个基于图形的分类器，识别未探索的数据区域。我们在PWLL中引入对角扰动，它产生解的指数局部化，并控制主动学习中的探索与利用权衡。我们使用PWLL的适定性连续极限来严格分析我们的方法，并给出了一些基于图的图像分类问题的实验结果。
2022-10-27 cs.LG stat.ML
Query-augmented Active Metric Learning
University of Illinois, Urbana-Champaign（伊利诺伊大学香槟分校）；University of California, Irvine（加利福尼亚大学尔湾分校）；Eli Lilly and Company（礼来公司）
在本文中，我们提出了一个主动度量学习方法的聚类与成对约束。该方法主动查询信息实例对的标签，同时通过合并未标记的实例对来估计底层度量，从而导致更准确和高效的聚类过程。特别是，我们通过生成更多的成对标签来增加查询的约束，以在学习度量时提供额外的信息来提高聚类性能。此外，我们增加了度量学习的鲁棒性，通过更新学习的度量顺序和惩罚不相关的功能自适应。此外，我们还提出了一种新的主动查询策略，该策略通过引入邻域结构来更准确地评估实例对的信息增益，从而在不增加额外标签成本的情况下提高了聚类效率。在理论上，我们提供了一个更严格的误差界的建议度量学习方法，利用增强查询相比，使用现有的限制。此外，我们还研究了改进使用主动查询策略，而不是随机选择。仿真和真实数据集的数值研究表明，所提出的方法是特别有利的，当显着的功能和不相关的功能之间的信噪比低。
2021-11-08 cs.LG stat.ML
Uncertainty-Aware Probabilistic Constrained Clustering from Entangled Pairwise Supervision
The University of Manchester（曼彻斯特大学）
针对现实中成对监督的不确定性问题，提出ECI-PP框架结合ProbPair目标，在概率约束聚类任务中优于现有DCC方法且鲁棒性强。
2026-10-15 cs.AI cs.LG
On uncertainty estimation in active learning for image segmentation
University of Ghent（根特大学）；Technical University of Denmark（丹麦技术大学）
不确定性估计在许多应用中对于解释机器学习模型的可信度是重要的。这在数据驱动的主动学习设置中尤其重要，其中目标是以最小的标记工作实现一定的准确性。在这样的设置中，模型学习根据其估计的不确定性选择信息量最大的未标记样本进行注释。高度不确定的预测被认为是更翔实的，以提高模型的性能。在本文中，我们探讨不确定性校准的主动学习框架内的医学图像分割，标签往往是稀缺的。研究了各种不确定性估计方法和采集策略（区域和全图像）。我们观察到，选择区域而不是完整的图像进行注释会导致更好的校准模型。此外，我们的实验表明，与注释完整图像相比，注释区域可以削减50%需要由人类标记的像素。
2020-07-13 cs.CV cs.LG
Semi-Supervised Active Clustering with Weak Oracles
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
半监督主动聚类（SSAC）利用领域专家的知识，通过交互式地进行成对的“同类”查询来聚类数据点。然而，要求人类预言机回答每个成对查询是不切实际的。在本文中，我们研究的影响，允许“不确定”的答案从一个弱的预言，并提出算法，以有效地处理不确定性。不同类型的模型假设进行了分析，以涵盖现实的情况下，甲骨文抽象。在第一个模型中，随机弱预言机，预言机以一定的概率随机弃权。我们还提出了两个距离弱预言机模型，模拟了两点之间的距离在成对查询混淆的情况。对于每个弱预言模型，我们表明，一个小的查询复杂度是足够的有效的$k$手段聚类的概率高。用于保证的充分条件包括数据的$γ$ -余量属性，以及存在接近每个聚类中心的点。此外，我们提供了一个样本的复杂性，降低了集群的利润率的影响，只有对数依赖于数据维度。我们的研究结果允许显着减少相同的集群查询的数量，如果集群的边缘是紧的，即$γ\approx 1$。合成数据的实验结果表明，我们的方法在克服不确定性的有效性能。
2017-09-11 cs.LG stat.ML
LSCALE: Latent Space Clustering-Based Active Learning for Node Classification
National University of Singapore（新加坡国立大学）
图上的节点分类是许多实际领域中的一个重要课题。它通常需要标签进行培训，这在实践中可能很难或昂贵。给定标记预算，主动学习旨在通过仔细选择标记哪些节点来提高性能。以前的图主动学习方法使用标记的节点学习表示，并选择一些未标记的节点进行标记获取。然而，它们没有充分利用未标记节点中存在的表示能力。我们认为，在未标记的节点的表示能力可以是有用的主动学习和进一步提高节点分类的主动学习的性能。在本文中，我们提出了一个潜在的空间聚类为基础的主动学习框架节点分类（LSCALE），我们充分利用标记和未标记的节点的表示能力。具体来说，为了选择用于标记的节点，我们的框架在基于无监督特征和监督特征的动态组合的潜在空间上使用K-Medoids聚类算法。此外，我们还设计了一个增量式分簇模块，以避免在不同步骤中选择的节点之间的冗余。在五个数据集上进行的大量实验表明，我们提出的框架LSCALE始终显著优于最先进的方法。
2022-07-20 cs.LG cs.SI
On weighted uncertainty sampling in active learning
Seal Software
本文探讨了主动学习中不确定性加权的概率抽样。这种方法以前曾被使用过，作者对它的有效性进行了简要的评论。该方案具有几个优点：（1）它在计算上是便宜的，（2）它可以以单通道流式方式实现，这在部署在不同子系统执行建议评分和用户反馈提取的现实世界系统中时是有益的，以及（3）它是容易参数化的。在本文中，我们在公开的数据集上表明，使用概率加权通常是有益的，并且在探索和表示之间取得了很好的折衷，特别是当标记点的起始集有偏差时。
2019-09-11 cs.LG stat.ML
Bracketing Uncertainty in Clustering Under the Manifold Hypothesis
Yale University（耶鲁大学）；IE University（IE大学）
针对流形假设下聚类数不确定性问题，提出基于流形的聚类方法，通过几何权衡形式化不确定性区间，量化而非强制解决聚类数模糊性。
2026-09-17 cs.LG q-bio.QM stat.ML
FAL-CUR: Fair Active Learning using Uncertainty and Representativeness on Fair Clustering
Eindhoven University of Technology（埃因霍温理工大学）；Leiden University（莱顿大学）
针对现有主动学习方法提升公平性时易降低准确率的问题，提出结合公平聚类与基于不确定性、代表性的采集函数的FAL-CUR策略，在四个真实数据集上实现公平性15%-20%提升且准确率稳定。
2023-12-19 cs.LG
Addressing Bias in Active Learning with Depth Uncertainty Networks... or Not
University of Cambridge（剑桥大学）
Farquhar等人[2021]表明，用参数化不足的模型纠正主动学习偏差可以改善下游性能。然而，对于过度参数化的模型，如NN，校正导致性能下降或不变。他们认为这是由于“过度拟合偏差”抵消了主动学习偏差。我们表明，深度不确定性网络在低过拟合制度，很像欠参数化模型。因此，他们应该看到通过偏差校正的性能提高。令人惊讶的是，他们没有。我们提出，这个负面结果以及Farquhar等人的结果。[2021]，可以通过泛化误差的偏差-方差分解的镜头来解释。
2021-12-13 cs.LG stat.ML
Model-free Bayesian Clustering and Multimodal Posterior Summarisation
University of Edinburgh（爱丁堡大学）
该研究提出无模型感知噪声贝叶斯聚类框架，结合Wasserstein型摘要方法，可避免复杂模型指定与昂贵采样，能有效捕捉聚类及噪声不确定性。
2026-10-12 cs.LG stat.ML
Evidential uncertainty sampling for active learning
University of Rennes（雷恩大学）；CNRS（法国国家科学研究中心）；Orange innovation（奥兰治创新公司）；IRISA（IRISA研究所）；DRUID（DRUID研究所）
本文提出两种基于信念函数的主动学习采样策略，简化计算并考虑标签固有不确定性，实验证明优于传统不确定性采样。
2024-05-25 cs.LG
Data Skeleton Learning: Scalable Active Clustering with Sparse Graph Structures
School of Computer Science and Software Engineering, Southwest Petroleum University（计算机科学与软件工程学院，西南石油大学）；School of Computer and Software Engineering, Xihua University（计算机与软件工程学院，西华大学）；Web Sciences Center, University of Electronic Science and Technology of China（网络科学中心，电子科技大学）；College of Science and Engineering, University of Minnesota（科学与工程学院，明尼苏达大学）
本文提出一种基于双稀疏图的数据骨架学习主动聚类算法，通过协同更新数据骨架与约束图，降低计算与内存开销，以更少用户约束实现更精确、可扩展的聚类。
2025-09-10 cs.LG
Active Distance-Based Clustering using K-medoids
Sharif University of Technology（谢里夫理工大学）
k-medoids算法是一种分区的、基于质心的聚类算法，它使用数据点的成对距离，并试图将具有$n$点的数据集直接分解成一组$k$不相交的聚类。然而，k-medoids本身需要数据点之间的所有距离，这在许多应用中并不容易获得。在本文中，我们介绍了一种新的方法，它只需要一小部分的整个距离集，并努力估计未知的距离使用查询的上限。该算法利用三角不等式计算未知距离的上界估计。我们的方法是建立在一个递归的方法来聚类对象，并选择一些点主动从每一束数据，并获得这些突出点之间的距离从Oracle。实验结果表明，该方法只使用一个小的子集的距离可以找到适当的聚类在许多真实世界和合成数据集。
2015-12-12 cs.LG
The Relevance of Bayesian Layer Positioning to Model Uncertainty in Deep Bayesian Active Learning
Stanford University（斯坦福大学）；NVIDIA（英伟达）
深度学习工具的主要挑战之一是它们无法捕捉模型的不确定性。虽然贝叶斯深度学习可以用来解决这个问题，但贝叶斯神经网络通常需要比确定性网络更多的时间和计算能力来进行训练。我们的工作探讨是否需要完全贝叶斯网络来成功地捕捉模型的不确定性。我们改变贝叶斯层在网络中的数量和位置，并将它们在主动学习上的性能与MNIST数据集进行比较。我们发现，我们可以充分捕捉模型的不确定性，只需使用几个贝叶斯层附近的网络输出，结合确定性和贝叶斯网络的优势。
2018-11-29 cs.AI cs.LG stat.ML
Semi-Supervised and Active Few-Shot Learning with Prototypical Networks
The Curious AI Company（好奇人工智能公司）
我们考虑半监督的Few-Shot分类问题，其中分类器需要使用几个标记的示例和（可能是许多）未标记的示例来适应新的任务。我们提出了一个聚类的方法来解决这个问题。使用原型网络提取的特征使用$K$ -均值进行聚类，并使用少数标记示例指导聚类过程。我们注意到，在许多实际应用中，通过用户反馈请求少量标签，可以显著提高自适应性能。我们展示了良好的性能，使用图像数据的主动适应策略。
2018-04-25 cs.LG stat.ML
Robust Fair Clustering with Group Membership Uncertainty Sets
University of Maryland, College Park（马里兰大学帕克分校）；University of Chicago（芝加哥大学）
本文针对群组成员资格含噪声的公平聚类问题，提出一种只需少量参数的噪声模型及具有最坏情况理论保证的鲁棒公平聚类算法，并在真实数据集上验证了其优于现有基线方法的性能。
2024-11-20 cs.AI cs.CY cs.DS
Interpretable Active Learning
Haverford College（哈弗福德学院）；Google Inc.（谷歌公司）
主动学习一直是机器学习的研究主题。然而，随着越来越复杂和不透明的模式成为标准做法，主动学习的过程也变得越来越不透明。很少有研究解释什么样的具体趋势和模式的主动学习策略可能正在探索。这项工作扩展了本地可解释模型不可知解释框架（LIME），为主动学习建议提供解释。我们展示了如何使用LIME来为主动学习策略生成本地忠实的解释，以及如何使用这些解释来理解不同的模型和数据集如何随着时间的推移探索问题空间。为了量化主动学习策略如何查询空间区域的每个子组差异，我们引入了不确定性偏差的概念（基于不同的影响）来衡量一个子组和另一个子组之间模型预测的置信度差异。使用不确定性偏差的措施，我们表明，我们的查询解释准确地反映了小组的重点主动学习查询，允许一个可解释的解释是什么正在学习的点与类似的不确定性来源有他们的不确定性偏差解决。我们证明，这种技术可以应用于跟踪用户定义的集群或自动生成的集群的基础上的不确定性的来源的不确定性偏差。
2018-06-24 cs.LG stat.ML
evclust: Python library for evidential clustering
University of Clermont Auvergne（克莱蒙奥弗涅大学）；CNRS（法国国家科学研究中心）；Mines of Saint-Etienne（圣埃蒂安矿业学院）；Clermont-Auvergne-INP（克莱蒙奥弗涅国立综合理工学院）；LIMOS（信息、建模与优化实验室）
针对聚类中需表达簇成员不确定性的问题，本文提出Python库evclust，基于Dempster-Shafer信念函数理论实现证据聚类，提供高效算法及信度划分的可视化、评估与分析工具。
2025-02-10 cs.CV cs.LG cs.SE
Uncertainty for Active Learning on Graphs
Technical University of Munich（慕尼黑工业大学）；Munich Data Science Institute（慕尼黑数据科学研究所）
本研究首次系统评估了图上节点分类中的不确定性采样主动学习策略，发现其性能差距，提出基于数据生成过程的贝叶斯不确定性估计及近似方法，以指导最优查询并提升模型数据效率。
2025-02-27 cs.LG
Bayesian semi-supervised learning for uncertainty-calibrated prediction of molecular properties and active learning
University of Cambridge（剑桥大学）
预测小分子的生物活性和物理性质是药物发现的核心挑战。深度学习正在成为首选方法，但迄今为止的研究都集中在平均准确度作为主要指标。然而，要用模型取代昂贵的关键任务实验，高平均精度是不够的：离群值可能会破坏发现活动，因此模型需要可靠地预测何时会失败，即使训练数据有偏差;实验是昂贵的，因此模型需要数据高效，并使用主动学习建议信息丰富的训练集。我们表明，不确定性量化和主动学习可以实现贝叶斯半监督图卷积神经网络。贝叶斯方法通过从后验分布中采样，以统计学原则的方式估计不确定性。半监督学习将表示学习和回归分离，在低数据限制下保持不确定性估计的准确性，并允许模型从一个小的初始训练数据池开始主动学习。我们的研究强调了贝叶斯深度学习在化学领域的前景。
2019-07-25 cs.LG physics.chem-ph stat.ML
Bridging Diversity and Uncertainty in Active learning with Self-Supervised Pre-Training
ETH Zürich（苏黎世联邦理工学院）
本研究针对主动学习中多样性与不确定性采样策略的整合问题，提出TCM启发式方法，结合TypiClust多样性采样与Margin不确定性采样，缓解冷启动问题，在多数据集高低数据量场景下均优于现有方法。
2025-01-17 cs.AI cs.CV cs.LG
Multiple instance active learning for object detection
University of Chinese Academy of Sciences（中国科学院大学）；Tsinghua University（清华大学）
尽管用于图像识别的主动学习取得了实质性进展，但仍然缺乏用于目标检测的实例级主动学习方法。在本文中，我们提出了多实例主动目标检测（MI-AOD），通过观察实例级的不确定性来选择最具信息量的图像进行检测器训练。MI-AOD定义了一个实例不确定性学习模块，该模块利用在标记集上训练的两个对抗性实例分类器的差异来预测未标记集的实例不确定性。MI-AOD将未标记图像视为实例包，将图像中的特征锚视为实例，并通过多实例学习（MIL）方式重新加权实例来估计图像的不确定性。迭代实例不确定性学习和重新加权有助于抑制噪声实例，从而弥合实例不确定性和图像级不确定性之间的差距。实验验证了MI-AOD为实例级主动学习设置了坚实的基线。在常用的目标检测数据集上，MI-AOD优于最先进的方法，具有显著的裕度，特别是当标记集很小时。代码可在https://github.com/yuantn/MI-AOD上获得。
2021-04-06 cs.AI cs.CV cs.LG
Model Uncertainty based Active Learning on Tabular Data using Boosted Trees
Ericsson（爱立信）
本文研究表格数据主动学习中基于提升树的模型不确定性采样，提出回归任务的不确定性采样方法及低成本主动学习方法，并改进分类任务的低成本主动学习方法。
2023-10-30 cs.LG
Convergence of Uncertainty Sampling for Active Learning
Inria（法国国家信息与自动化研究所）；Ecole Normale Supérieure（巴黎高等师范学院）；PSL Research University（巴黎文理研究大学）
主动学习中的不确定性采样在实践中被大量使用以降低标注成本。然而，一直没有广泛的共识的功能，用于不确定性估计在二进制分类任务和相应的主动学习算法的收敛保证没有得到很好的理解。对于多类别分类来说，这种情况更具挑战性。在这项工作中，我们提出了一个有效的不确定性估计的二进制分类，我们也扩展到多个类，并提供了一个非渐近收敛速度为我们的不确定性采样为基础的主动学习算法在这两种情况下，在无噪声条件下（即，线性可分离数据）。我们还扩展我们的分析，噪声的情况下，我们的算法在噪声的影响下，在二进制和多类分类任务提供理论保证。
2021-10-29 cs.LG math.OC
Leveraging Active Subspaces to Capture Epistemic Model Uncertainty in Deep Generative Models for Molecular Design
本研究利用活动子空间近似后验分布，为JT-VAE分子设计模型提供无需改动架构的认知不确定性量化方法，并验证其对分子优化的潜在价值。
2024-08-15 cs.LG q-bio.QM stat.ML
Guess What's on my Screen? Clustering Smartphone Screenshots with Active Learning
The Pennsylvania State University（宾夕法尼亚州立大学）；Stanford University（斯坦福大学）
个人日常活动的很大一部分是通过数字设备体验的。特别是智能手机已经成为内容消费和社交互动的首选界面之一。因此，识别嵌入在频繁捕获的智能手机屏幕截图中的内容是研究媒体行为和健康干预计划的关键先决条件，这些计划分析了活动的相互作用和随着时间的推移的内容切换。屏幕截图图像可以描述异构的内容和应用程序，使得适当分类的先验定义成为一项繁琐的任务，即使对于人类来说也是如此。对屏幕上捕获的敏感数据的隐私保护意味着与手动注释相关的成本很大，因为这项工作无法众包。因此，有必要研究数字屏幕截图分类的无监督和半监督方法的实用性。这项工作介绍了在只有有限数量的标签可用时，在大型屏幕截图集上应用聚类的含义。在本文中，我们开发了一个框架，用于将K-Means聚类与主动学习相结合，以有效利用标记和未标记的样本，其目标是发现潜在类并描述大量的屏幕截图数据。我们测试了类概率传播的SVM嵌入式或XGBoost嵌入式解决方案是否提供了更良好的集群配置。视觉和文本矢量表示的屏幕截图图像的推导和组合，以评估多模态功能的整体性能的相对贡献。
2019-01-10 cs.CV cs.LG cs.MM
A Structural-Clustering Based Active Learning for Graph Neural Networks
Eindhoven University of Technology（埃因霍温理工大学）；The University of Aberdeen（阿伯丁大学）
针对图主动学习中结构信息利用不足的问题，提出融合 SCAN 社区检测与 PageRank 评分的 SPA 节点选择方法，以更低查询时间和更少超参数提升准确率与 macro-F1。
2023-12-07 cs.LG
Information theoretic model validation for clustering
Swiss Federal Institute of Technology, ETH Zurich（苏黎世联邦理工学院）
聚类中的模型选择需要（i）指定合适的聚类原则和（ii）通过根据数据中的噪声水平选择适当数量的聚类来控制模型阶数复杂度。我们提倡一种信息理论的观点，在测量的不确定性量化的数据分区的集合，从而诱导聚类的解决方案空间中的不确定性。一个聚类模型，它可以容忍更高水平的波动的测量比替代模型，被认为是优越的，提供聚类解决方案是同样的信息。\emph{informativeness}和\emph{robustness}之间的这种折衷用作模型选择标准。数据划分应该从一个数据集推广到一个同样可能的第二个数据集的要求引起了一个新的概念的结构诱导信息。
2010-06-02 cs.IT cs.LG math.IT
