A Method for Stopping Active Learning Based on Stabilizing Predictions and the Need for User-Adjustable Stopping
Johns Hopkins University(约翰斯·霍普金斯大学);University of Delaware(特拉华大学)
对现有停止主动学习(AL)方法的调查揭示了对以下方法的需求:更广泛的适用性;更积极地保存注释;以及在不断变化的数据集上更稳定。提出了一种基于稳定预测来停止AL的新方法,以满足这些需求。此外,需要停止方法来处理广泛的不同注释/性能权衡评估。尽管如此,现有的工作主体主要是保守的方法,很少(如果有的话)注意为用户提供对停止方法行为的控制。所提出的方法填补了缺口的积极性水平可用于停止AL和支持提供用户控制停止行为。
2014-09-17 cs.CL cs.LG stat.ML
Stopping Criterion for Active Learning Based on Error Stability
Kyushu Institute of Technology(九州工业大学);The Institute of Statistical Mathematics(统计数理研究所);RIKEN AIP(理化学研究所革新智能统合研究中心)
主动学习是一种监督学习框架,通过自适应地标注少量样本来提高预测性能。为了实现有效的主动学习,应该考虑确定下一个数据的采集函数和确定何时停止学习的停止标准。在这项研究中,我们提出了一个基于误差稳定性的停止准则,它保证了添加新样本时泛化误差的变化受注释成本的限制,并且可以应用于任何贝叶斯主动学习。我们证明了所提出的标准在各种学习模型和真实数据集的适当时机停止主动学习。
2021-04-09 cs.LG stat.ML
Stopping criterion for active learning based on deterministic generalization bounds
Kyushu Institute of Technology(九州工业大学);The Institute of Statistical Mathematics(统计数学研究所);RIKEN AIP(理化学研究所人工智能研究中心)
主动学习是一种框架,学习机可以在其中选择要用于训练的样本。这种技术是有前途的,特别是当数据采集和标记的成本很高。在主动学习中,确定学习应该停止的时机是一个关键问题。在这项研究中,我们提出了一个自动停止主动学习的标准。提出的停止准则是基于期望泛化误差和假设检验的差异。我们推导出一个新的上限的差异,在获得一个新的训练数据的基础上的PAC-Bayesian理论的预期泛化误差。然而,与普通的PAC-贝叶斯边界不同,所提出的边界是确定性的;因此,在不等式的置信度和紧密度之间没有不可控的权衡。我们结合上界与统计测试,以获得主动学习的停止标准。我们通过人工和真实数据集的实验证明了所提出的方法的有效性。
2020-05-15 cs.LG stat.ML
Deciding when to stop: Efficient stopping of active learning guided drug-target prediction
Freiburg Institute for Advanced Studies, University of Freiburg(弗赖堡大学弗赖堡高等研究院);Carnegie Mellon University(卡内基梅隆大学)
主动学习已经证明可以减少获得高置信度药物靶点预测所需的实验数量。然而,为了使用主动学习实际保存实验,关键是要有一种方法来评估当前预测的质量并决定何时停止实验过程。只有将可靠的停止准则应用于主动学习,才能真正节省实验过程中的时间和成本。我们在模拟药物-目标矩阵上计算主动学习痕迹,以便学习主动学习者准确性的回归模型。通过分析回归模型在模拟数据上的性能,我们设计了以前看不见的实验矩阵的停止准则。我们在四个先前表征的药物效应数据集上证明,应用停止标准可以节省高达40%的总实验,以实现高度准确的预测。
2015-04-09 cs.LG q-bio.QM stat.ML
BatchBALD: Efficient and Diverse Batch Acquisition for Deep Bayesian Active Learning
University of Oxford(牛津大学)
我们开发了BatchBALD,这是一批点和模型参数之间的互信息的一种易于处理的近似,我们将其用作采集函数,以联合选择多个信息点,用于深度贝叶斯主动学习的任务。BatchBALD是一个贪婪的线性时间$1 - \frac{1}{e}$近似算法,适合于动态规划和高效缓存。我们将BatchBALD与常用的批量数据采集方法进行比较,发现当前方法采集相似和冗余点,有时比随机采集数据的性能更差。最后,我们表明,使用BatchBALD考虑在一个收购批次的依赖关系,我们实现了新的国家的最先进的性能标准的基准测试,提供大量的数据效率提高批量收购。
2019-10-28 cs.LG stat.ML
Hitting the Target: Stopping Active Learning at the Cost-Based Optimum
University of Auckland(奥克兰大学);University of Waikato(怀卡托大学)
本文针对主动学习缺乏有效停止机制的问题,首次大规模比较了基于池的主动学习中的停止准则,利用成本度量量化准确率与标签权衡,并提供了开源评估框架,帮助从业者选择最优准则以大幅降低标注成本。
2022-09-02 cs.LG
BatchGFN: Generative Flow Networks for Batch Active Learning
University of Oxford(牛津大学);Université de Montréal(蒙特利尔大学);Mila – Québec AI Institute(米拉-魁北克人工智能研究所)
提出BatchGFN方法,利用生成流网络按批次奖励比例采样数据点,在主动学习中以单次前向传递构建接近最优效用的批次,降低计算复杂度并避免贪婪近似。
2023-06-26 cs.LG stat.ML
Deep Batch Active Learning by Diverse, Uncertain Gradient Lower Bounds
Princeton University(普林斯顿大学);University of Arizona(亚利桑那大学);Microsoft Research NYC(微软研究院纽约分部);Microsoft Research Redmond(微软研究院雷德蒙德分部)
我们设计了一种新的算法,用于使用深度神经网络模型进行批量主动学习。我们的算法,批量主动学习的多样性梯度嵌入(BADGE),样本组的点是不同的和高幅度时,表示在一个幻觉梯度空间,一个策略,旨在将预测的不确定性和样本多样性到每个选定的批次。至关重要的是,BADGE在多样性和不确定性之间进行权衡,而不需要任何手动调整的超参数。我们表明,虽然其他方法有时成功的特定批量大小或架构,BADGE一贯表现良好或更好,使其成为一个通用的选择,为实际的主动学习问题。
2020-02-24 cs.LG stat.ML
Fast Rates in Pool-Based Batch Active Learning
Google Research(谷歌研究院);New York University(纽约大学);The Hong Kong University of Science and Technology(香港科技大学)
我们考虑批量主动学习场景,其中学习者自适应地向标记预言机发出批量点。在实践中,由于与标签预言机(通常是人类)的交互轮次较少,因此批量采样标签是非常可取的。然而,批量主动学习通常以降低自适应性为代价,导致次优结果。在本文中,我们提出了一个解决方案,需要仔细权衡查询点的信息量和多样性之间。我们从理论上研究了批量主动学习在实际相关的情况下,未标记的数据池是事先可用的({ \em池为基础的}主动学习)。我们分析了一种新的阶段明智的贪心算法,并表明,作为标签复杂性的函数,该算法的超额风险匹配已知的极大极小率在标准的统计学习设置。我们的研究结果也表现出轻微的依赖批量大小。这些是第一个理论结果,采用信息量和多样性之间的仔细权衡,严格量化的统计性能的批量主动学习在基于池的情况下。
2022-06-13 cs.LG stat.ML
Batch Bayesian Active Learning with Partial Batch Label Sampling
Georgia Institute of Technology(佐治亚理工学院)
本文提出ParBaLS方法,用于改进EPIG算法在大规模批量中的性能,通过实验验证其在固定预算下优于其他方法,适用于基于大预训练模型的贝叶斯逻辑回归。
2026-10-14 cs.AI cs.LG stat.ML
Big Batch Bayesian Active Learning by Considering Predictive Probabilities
AstraZeneca(阿斯利康);University of Bristol(布里斯托尔大学);Lancaster University(兰卡斯特大学)
针对BatchBALD采集函数混淆两类不确定性导致性能不佳的问题,提出基于仅含认知不确定性的预测概率的批量贝叶斯主动学习采集函数,兼具更优性能与更快评估速度,可支持更大批量。
2025-01-14 cs.LG stat.ML
Batch Active Learning in Gaussian Process Regression using Derivatives
Bosch Center for Artificial Intelligence (BCAI)(博世人工智能中心(BCAI))
本文提出在高斯过程回归批量主动学习中利用导数信息,并借助预测协方差矩阵选择批次,理论分析与实验表明其在多种应用中更有效。
2024-08-03 cs.LG stat.ML
Analysis of Stopping Active Learning based on Stabilizing Predictions
Center for Advanced Study of Language(语言高级研究中心);University of Maryland(马里兰大学);Raytheon BBN Technologies(雷神BBN技术公司)
在自然语言处理(NLP)社区中,主动学习已经被广泛研究和应用,以减轻新的NLP系统和技术的开发者所面临的注释瓶颈。本文首次提出了基于稳定化预测(SP)的停止主动学习的理论分析。分析揭示了SP方法成功的三个核心要素:(1)连续训练模型之间Cohen Kappa一致性的界限对模型的F度量性能差异施加了界限;(2)由于止动装置不必被标记,因此在实践中可以将其制造得很大,有助于保证结果在测试/应用时转移到先前看不见的示例流;以及(3)可以获得连续模型之间的Kappa的良好(低方差)样本估计。的Kappa协议和连续模型之间的性能差异的水平之间的关系的证明。具体地,如果两个模型之间的Kappa一致性超过阈值T(其中$T>0$),则在所有情况下,这些模型之间的F测量性能的差异都以$\frac{4(1-T)}{T}$为界。如果模型的正合取精度被假定为$p$,则边界可以被收紧为$\frac{4(1-T)}{(p+1)T}$。
2015-04-23 cs.CL cs.LG stat.ML
Bayesian Batch Active Learning as Sparse Subset Approximation
University of Cambridge(剑桥大学)
利用近年来产生的大量未标记数据为改进监督模型提供了巨大的潜力。当获取标签的成本很高时,可以使用概率主动学习方法来选择要标记的信息量最大的数据点。然而,对于许多大规模的问题,标准的贪婪程序在计算上变得不可行,并且遭受可以忽略不计的模型变化。在本文中,我们介绍了一种新的贝叶斯批量主动学习方法,减轻这些问题。我们的方法的动机是近似模型参数的完整数据后验。虽然朴素的批处理构造方法会导致相关查询,但我们的算法会产生不同的批处理,从而实现大规模的有效主动学习。我们推导出类似于现有的线性模型的主动学习程序的可解释的封闭形式的解决方案,并推广到任意模型使用随机投影。我们证明了我们的方法在几个大规模的回归和分类任务的好处。
2021-02-08 cs.LG stat.ML
Batch Active Learning Using Determinantal Point Processes
Stanford University(斯坦福大学)
数据汇集和标记是在具有有限数据的各种现实世界应用中采用机器学习算法的主要挑战之一。虽然主动学习方法试图通过仅标记提供高信息的数据样本来解决这个问题,但它们通常具有较大的计算成本,并且在可以并行收集数据的设置中是不切实际的。批量主动学习方法试图通过一次查询批量样本来克服这种计算负担。为了避免样本之间的冗余,以前的作品依赖于一些特设的样本质量和多样性的组合。在本文中,我们提出了一个新的原则批主动学习方法使用行列式点过程,排斥点过程,使不同批次的样本。我们开发了易于处理的算法来近似DPP分布的模式,并提供理论保证的近似程度。我们进一步证明了一个迭代贪婪的方法DPP最大化,具有较低的计算成本,但更差的理论保证,仍然给批量主动学习的竞争力的结果。我们的实验显示了我们的方法在几个数据集上对最先进的基线的价值。
2019-06-19 cs.LG stat.ML
Noisy Batch Active Learning with Deterministic Annealing
University of Southern California(南加州大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
我们研究的问题,训练机器学习模型增量与批量的样本注释有噪声的预言机。我们通过聚类和重要性采样选择每批重要且多样的样本。更重要的是,我们将模型的不确定性纳入抽样概率,以弥补当训练数据太小而无法建立有意义的模型时对重要性分数的估计不足。在基准图像分类数据集(MNIST,SVHN,CIFAR10和EMNIST)上的实验表明,与现有的主动学习策略相比,该方法有了改进。我们在深度网络中引入了一个额外的去噪层,使主动学习对标签噪声具有鲁棒性,并显示出显著的改进。
2020-10-28 cs.LG stat.ML
Diverse mini-batch Active Learning
Amazon Research(亚马逊研究院)
我们研究了如何减少训练监督分类模型所需的标记训练数据量的问题。我们通过利用主动学习,通过顺序选择最有利于模型的例子来接近它。对于现代深度学习模型所需的训练样本数量来说,逐个选择样本是不切实际的。我们考虑小批量主动学习设置,其中一次选择多个示例。我们提出了一种方法,既考虑到模型的例子的信息量,以及在一个小批量的例子的多样性。通过使用研究良好的K-means聚类算法,这种方法比以前提出的方法更好地扩展,并实现可比或更好的性能。
2019-01-17 cs.LG stat.ML
Data Shapley Valuation for Efficient Batch Active Learning
Stanford University(斯坦福大学);Salesforce Research(Salesforce研究院)
在所有可用的数据点中注释正确的数据集是许多机器学习应用程序中的关键挑战。批量主动学习是解决这个问题的一种流行方法,其中选择批量未标记的数据点进行注释,而底层学习算法随后进行更新。越来越大的批量在数据可以并行注释的环境中特别有吸引力,并且模型训练在计算上是昂贵的。这里的一个关键挑战是规模-典型的主动学习方法依赖于多样性技术,该技术从未标记的池中选择一组不同的数据点进行注释。在这项工作中,我们引入了Active Data Shapley(ADS)-一种用于批量主动学习的过滤层,通过使用线性时间计算预先选择未标记数据集中的最高值点,显着提高了主动学习的效率。使用数据的Shapley值的概念,我们的方法估计了未标记数据点关于手头预测任务的值。我们表明,ADS是特别有效的,当池的未标记的数据表现出现实世界的警告:噪音,异质性和域转移。我们运行的实验表明,当ADS用于预先选择未标记数据集的最高排名部分时,最先进的批量主动学习方法的效率平均提高了6倍,同时保持了性能有效性。
2021-04-16 cs.LG stat.ML
Semi-supervised Batch Active Learning via Bilevel Optimization
ETH Zurich(苏黎世联邦理工学院);Google Research(谷歌研究院)
主动学习是一种通过提高数据效率来降低标注成本的有效技术。在这项工作中,我们提出了一种新的批量采集策略的主动学习在设置中的模型训练是在半监督的方式进行。我们制定了我们的方法作为一个数据汇总问题,通过双层优化,其中查询批次由最好的总结未标记的数据池的点。我们表明,我们的方法是非常有效的关键字检测任务的制度时,只有少数标记的样本。
2020-10-19 cs.LG cs.SD stat.ML
Black-Box Batch Active Learning for Regression
University of Oxford(牛津大学)
本文提出仅依赖模型预测的黑盒批量主动学习方法,将BADGE、BAIT、LCMD等白盒方法扩展到随机森林等不可微模型,并在回归任务上取得优于白盒方法的性能。
2023-07-07 cs.LG stat.ML
Scalable Batch Acquisition for Deep Bayesian Active Learning
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Technology Innovation Institute(技术创新研究院)
在深度主动学习中,在每一步选择多个示例进行标记以高效工作尤其重要,尤其是在大型数据集上。与此同时,在贝叶斯设置,如BatchBALD,这个问题的现有解决方案,在选择大量的例子,与计算联合随机变量的互信息的指数复杂性有很大的局限性。因此,我们提出了大型BatchBALD算法,它提供了一个良好的基础近似的BatchBALD方法,旨在实现可比的质量,同时更计算效率。我们提供了该算法的复杂性分析,显示计算时间的减少,特别是对于大批量。此外,我们提出了一套广泛的实验结果的图像和文本数据,无论是玩具数据集和较大的,如CIFAR-100。
2023-02-16 cs.LG stat.ML
Optimal Conditional Inference in Adaptive Experiments
本文研究了自适应实验中条件推断的最优方法,通过分析位置不变性和多面体事件依赖性,提出计算可行的最优推断程序。
2026-01-16 cs.LG econ.EM math.ST
A Hierarchical Approach to Scaling Batch Active Search Over Structured Data
Stanford University(斯坦福大学)
主动搜索是在大型且通常是高维的参数空间中识别高值数据点的过程,这些参数空间的评估成本可能很高。传统的主动搜索技术(如贝叶斯优化)在连续评估中权衡了探索和利用,并且历史上专注于每轮评估的单个或少量(<5)示例。随着现代数据集的增长,需要将主动搜索扩展到大型数据集和批量大小。在本文中,我们提出了一个一般的层次框架的基础上,强盗算法的规模积极搜索大批量的大小,最大限度地提高信息来自每个数据集的独特结构。我们的分层框架,分层批量Bandit搜索(HBBS),通过促进对数据集内不同结构元素的广泛探索,在学习的嵌入空间中战略性地分布批量选择。我们将HBBS的应用集中在现代生物学上,大批量实验通常是研究过程的基础,并演示了生物序列(蛋白质和DNA)的批量设计。我们还提出了一个新的Gym环境,可以轻松地模拟不同的生物序列,并能够更全面地评估跨异构数据集的主动搜索方法。HBBS框架通过在结构化数据的每个分区内使用跨粗分区的广泛探索策略和细粒度利用,改进了用于批处理搜索的标准性能、挂钟和可扩展性基准。
2020-07-20 cs.LG q-bio.QM stat.ML
Batch Active Learning via Coordinated Matching
Oregon State University(俄勒冈州立大学);Williams College(威廉姆斯学院)
大多数关于分类器的主动学习的先前工作都集中在每次顺序地选择一个未标记的示例进行标记,以减少整体标记工作。然而,在许多情况下,希望一次标记整个批次的示例,例如,当可以并行获取标签时。这促使我们研究批量主动学习,它迭代地选择要标记的$k>1$示例的批次。我们提出了一种新的批处理主动学习方法,该方法利用高质量和高效的顺序主动学习策略的可用性,通过尝试近似它们的行为时,适用于$k$步骤。具体来说,我们的算法首先使用蒙特卡罗模拟来估计分布的顺序策略选择的未标记的例子在$k$步骤执行。然后,该算法试图选择一组$k$的例子,最好的匹配这个分布,导致一个组合优化问题,我们称之为“有界协调匹配”。虽然我们表明这个问题是NP-困难的一般情况下,我们给出了一个有效的贪婪的解决方案,它继承了近似界的超模最小化理论。在八个基准数据集上的实验结果表明,该方法是非常有效的
2012-06-27 cs.LG stat.ML
Stochastic Batch Acquisition: A Simple Baseline for Deep Active Learning
University of Oxford(牛津大学);ServiceNow
本文提出一种基于分数或排名的随机批量采样策略来适配单点获取函数,在多种实验设置下能以远低于BatchBALD、BADGE等方法的计算成本取得相当性能,并质疑昂贵批量获取方法的实际价值。
2023-09-19 cs.LG stat.ML
Scalable Batch-Mode Deep Bayesian Active Learning via Equivalence Class Annealing
University of Chicago(芝加哥大学)
主动学习已经在许多领域证明了数据效率。现有的主动学习算法,特别是在批量模式深度贝叶斯主动模型的背景下,严重依赖于模型的不确定性估计的质量,并且通常难以扩展到大批量。在本文中,我们提出了批平衡,一个可扩展的批处理模式的主动学习算法,它结合了决策理论的见解主动学习,组合信息测量,多样性采样。在其核心,批量平衡依赖于一个新的决策理论采集功能,促进不同的等价类之间的差异。直觉上,每个等价类都由假设组成(例如,深度神经网络的后验样本)具有相似的预测,并且Batch-BALanCe随着学习的进行自适应地调整等价类的大小。为了将查询的计算扩展到大批量,我们进一步提出了一个高效的批处理模式采集过程,其目的是最大限度地提高通过采集函数定义的新信息度量。我们表明,我们的算法可以有效地处理现实的多类分类任务,并在几个基准数据集上取得令人信服的性能低批量和大批量制度下的主动学习。参考代码发布于https://github.com/zhangrenyuuchicago/BALanCe。
2023-02-20 cs.AI cs.LG
Batch Decorrelation for Active Metric Learning
IIT Bombay(印度理工学院孟买分校);Adobe Research(奥多比研究院)
我们提出了一种主动学习策略,用于训练距离度量的参数模型,给出基于三元组的相似性评估:对象$x_i$更类似于对象$x_j$而不是$x_k$。在基于类的学习,其中的基本目标是分类和任何隐式或显式的度量是二进制的以前的工作相比,我们专注于{ \em感知}度量表示的{ \em度}的(不)对象之间的相似性。我们发现,标准的主动学习方法降低注释时,要求{ \em batches}的三胞胎在同一时间:我们的研究表明,三胞胎之间的相关性负责。在这项工作中,我们提出了一种新的方法{ \em decorrelate}批次的三元组,共同平衡的信息和多样性,同时解耦的启发式选择为每个标准。实验结果表明,该方法具有通用性、适应性强、性能优于现有方法的特点。
2020-05-23 cs.LG stat.ML
Cost-minimising strategies for data labelling : optimal stopping and active learning
University of Leoben(莱奥本大学)
监督学习处理以观测空间$\CX$中的点为条件的输出或标签空间$\CY$上的分布的推断,给定$\CX \times \CY$中的对的训练数据集$D$。然而,在许多感兴趣的应用中,获取大量的观察是容易的,而生成标签的过程是耗时或昂贵的。处理这个问题的一种方法是{ \em主动}学习,其中选择要标记的点,目的是创建一个比在相同数量的随机采样点上训练的模型性能更好的模型。在本文中,我们建议直接处理标签成本:学习目标被定义为成本的最小化,该成本是预期模型性能和所使用标签的总成本的函数。这允许开发一般策略和特定算法,用于(a)最佳停止,其中预期成本决定标签获取是否应该继续(b)经验评估,其中成本用作推断、停止和采样方法的给定组合的性能度量。虽然本文的主要焦点是最佳停止,我们也旨在为进一步发展和讨论主动学习的相关领域的背景。
2007-11-15 cs.LG
Batch Active Preference-Based Learning of Reward Functions
Stanford University(斯坦福大学)
数据生成和标记通常是机器人学习的昂贵部分。虽然主动学习方法通常用于解决前一个问题,但基于偏好的学习是一个试图通过向用户询问偏好问题来解决后者的概念。在本文中,我们将开发一种新的算法,批量主动基于偏好的学习,它可以使用尽可能少的数据样本有效地学习奖励函数,同时仍然具有较短的查询生成时间。我们介绍了几个近似的批量主动学习问题,并提供理论保证,我们的算法的收敛性。最后,我们提出了我们的实验结果,在模拟各种机器人任务。我们的研究结果表明,我们的批处理主动学习算法只需要几个查询,在很短的时间内计算。然后,我们在一项研究中展示了我们的算法,以学习人类用户的偏好。
2018-10-10 cs.AI cs.LG cs.RO
Speeding Up BatchBALD: A k-BALD Family of Approximations for Active Learning
University of Oxford(牛津大学)
主动学习是一种用于训练具有有限标记数据的机器学习模型的强大方法。一种常用的主动学习技术是BatchBALD,它使用贝叶斯神经网络来查找池集中要标记的信息量最大的点。但是,BatchBALD的计算速度可能非常慢,尤其是对于较大的数据集。在本文中,我们提出了一个新的近似,k-BALD,它使用k-wise互信息条款近似BatchBALD,使其计算成本低得多。MNIST数据集上的结果显示,k-BALD在保持类似性能的同时,明显快于BatchBALD。此外,我们还提出了一种基于近似质量选择k的动态方法,使其对于较大的数据集更有效。
2023-01-23 cs.LG
Batch Active Learning from the Perspective of Sparse Approximation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Massachusetts Institute of Technology(麻省理工学院);University of Pennsylvania(宾夕法尼亚大学);Stanford University(斯坦福大学)
主动学习通过利用机器学习代理和人类注释器之间的交互来实现高效的模型训练。我们研究并提出了一个新的框架,制定批量主动学习的稀疏近似的角度来看。我们的主动学习方法旨在从未标记的数据池中找到一个信息子集,使得相应的训练损失函数近似于其完整的数据池对应。我们实现的框架稀疏约束的不连续优化问题,明确平衡的不确定性和大规模应用的表示,可以解决贪婪或近似迭代硬阈值算法。所提出的方法可以适应各种设置,包括贝叶斯和非贝叶斯神经网络。数值实验表明,我们的工作在不同的设置具有较低的计算复杂性竞争力的性能。
2022-11-05 cs.LG stat.ML
Big Batch SGD: Automated Inference using Adaptive Batch Sizes
University of Maryland, College Park(马里兰大学帕克分校)
本文提出大批次SGD方法,通过自适应增长批次大小保持梯度近似信号与噪声比,实现无需凸优化的高效收敛,并支持自动学习率选择。
2017-04-06 cs.LG cs.NA math.NA
Adaptive Batch Sizes for Active Learning A Probabilistic Numerics Approach
University of Oxford(牛津大学);Toyota Motor Corporation(丰田汽车公司);University of Helsinki(赫尔辛基大学);Amazon(亚马逊公司)
提出一种基于概率数值的自适应批量大小框架,将批量选择构建为求积任务以自动调整批量满足精度目标,显著提升了贝叶斯批量主动学习与优化的效率和灵活性。
2024-02-21 cs.AI cs.LG cs.NA
Discriminative Active Learning
the Hebrew University(希伯来大学)
我们提出了一个新的批处理模式主动学习算法设计的神经网络和大批量查询。该方法,判别式主动学习(DAL),构成主动学习作为一个二元分类任务,试图选择的例子,以这样一种方式标记,使标记的集合和未标记的池无法区分。在图像分类任务上进行实验,我们凭经验证明我们的方法在中型和大型查询批量中与最先进的方法不相上下,同时易于实现,并且还扩展到除了分类任务之外的其他领域。我们的实验还表明,没有一个国家的最先进的方法,今天是明显优于不确定性抽样时,批量相对较大,否定了一些报道的结果,在最近的文献。
2019-07-15 cs.LG stat.ML
Batch Active Learning at Scale
Google Research(谷歌研究院)
训练复杂和高效模型的能力通常需要大量的训练数据,这很容易成为成本、时间和计算资源的瓶颈。批处理主动学习是解决这个问题的一种常用方法,它自适应地将批处理查询发送到标记oracle。批量抽样的实际好处是适应性较差,而且存在在一个批量中抽样冗余示例的风险--这种风险随着批量的大小而增加。在这项工作中,我们分析了一个有效的主动学习算法,重点是大批量设置。特别是,我们表明,我们的采样方法结合了不确定性和多样性的概念,很容易扩展到比以前研究中使用的批量大小(100 K-1 M)大几个数量级,并且与最近的基线相比,模型训练效率有了显着的提高。最后,我们提供了一个初步的理论分析,证明标签的复杂性保证相关的采样方法,我们表明是近似等于我们的采样方法在特定的设置。
2021-07-29 cs.AI cs.LG
Active Mini-Batch Sampling using Repulsive Point Processes
Microsoft Research(微软研究院);Disney Research(迪士尼研究院);KTH Royal Institute of Technology(瑞典皇家理工学院)
随机梯度下降(SGD)的收敛速度可以通过积极选择小批量来提高。我们探索的抽样方案,类似的数据点是不太可能被选中在同一个小批量。特别是,我们证明了这种排斥抽样方案降低了梯度估计的方差。这概括了最近关于使用决定点过程(DPP)进行小批量多样化的工作(Zhang等人,2017年)到更广泛的类排斥点过程。我们首先表明,由多样化的采样方差减少的现象,特别是推广到非平稳点过程。然后,我们表明,其他点的过程可能是计算更有效的比DPP。特别是,我们建议和调查泊松磁盘采样-经常遇到的计算机图形社区-这项任务。我们的经验表明,我们的方法在收敛速度和最终模型性能方面都优于标准SGD。
2018-06-20 cs.AI cs.LG stat.ML
Novel Batch Active Learning Approach and Its Application to Synthetic Aperture Radar Datasets
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);University of Minnesota(明尼苏达大学)
针对批量主动学习效率高但准确率难匹配序列主动学习的问题,提出由DAC核心集生成和LocalMax批量采样组成的两阶段批量主动学习方法,构建的SAR图像分类流水线在FUSAR-Ship等数据集上优于现有CNN方法。
2023-07-19 cs.CV cs.LG eess.SP
Information Condensing Active Learning
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
我们介绍了信息浓缩主动学习(ICAL),一个批处理模式的模型不可知的主动学习(AL)方法,针对深度贝叶斯主动学习,重点是获取标签的点,有尽可能多的信息,仍然未获得的点。ICAL使用Hilbert Schmidt独立性准则(HSIC)来衡量候选批次点与未标记集之间的依赖性强度。我们开发了关键优化,使我们能够将我们的方法扩展到大型未标记集。与用于深度学习的最先进的批处理模式AL方法相比,我们在几个图像数据集上的模型准确性和负对数似然(NLL)方面显示出显着的改进。
2020-02-20 cs.LG stat.ML
Batch Selection and Communication for Active Learning with Edge Labeling
Aalborg University(奥尔堡大学);King’s College London(伦敦国王学院)
本文提出CC-BAKD协议,通过线性混合压缩与贝叶斯主动学习结合,优化边缘标注中的批量选择与通信,减少通信轮数并提升效率。
2024-05-22 cs.LG
Batch Active Learning of Reward Functions from Human Preferences
University of Southern California(南加州大学);Stanford University(斯坦福大学)
本文提出基于行列式点过程和启发式策略的批量主动偏好学习方法,在保持并行化和短查询生成时间的同时,用少量偏好查询高效学习奖励函数,并在仿真机器人任务和人类用户偏好学习中验证了有效性。
2024-02-24 cs.AI cs.LG cs.RO
Batch versus Sequential Active Learning for Recommender Systems
Imec - WAVES - Ghent University(imec - WAVES - 根特大学)
推荐系统已经研究了很多年,目的是产生尽可能准确的推荐。然而,关于新用户的可用数据往往不足,导致不准确的建议;这个问题被称为冷启动问题。解决方案可以是主动学习。主动学习策略主动选择项目,并要求用户对这些项目进行评分。这样,可以获取详细的用户偏好,并且因此可以向用户提供更准确的推荐。在这项研究中,我们比较了五个主动学习算法,结合三种不同的预测算法,这是用来估计到什么程度的用户会喜欢的项目,要求评级。此外,还测试了两种选择项目的模式:批处理模式(一次选择所有项目)和顺序模式(逐个选择项目)。在评分预测,决策支持,和项目的排名方面的评价的推荐,顺序模式产生最准确的建议密集的数据集。主动学习算法之间的差异很小。对于大多数活跃的学习者来说,最好的预测结果是FunkSVD与顺序模式的结合。
2022-01-19 cs.IR cs.LG
Effectiveness of Tree-based Ensembles for Anomaly Discovery: Insights, Batch and Streaming Active Learning
Washington State University(华盛顿州立大学)
该研究针对异常检测中需人工配置以减少误报的问题,基于树集成方法提出批量与流式主动学习算法及漂移检测方案,通过实验验证其在异常发现数量、多样性及流式场景下的优异性能。
2024-05-14 cs.LG stat.ML
Combining X-Vectors and Bayesian Batch Active Learning: Two-Stage Active Learning Pipeline for Speech Recognition
本文提出一种结合X向量和贝叶斯批量主动学习的两阶段流程,用于优化语音识别中的主动学习效率与数据利用。
2025-04-25 cs.AI cs.CL cs.LG
A Unified Batch Selection Policy for Active Metric Learning
IIT Bombay(印度理工学院孟买分校);Adobe Research(奥多比研究院)
主动度量学习是递增地选择高效用批次的训练数据(通常是有序的三元组)进行注释的问题,以便尽可能快地在一些输入域上逐步改进度量的学习模型。独立评估批次中每个三联体的信息量的标准方法易受具有许多冗余三联体的高度相关批次的影响,因此总体效用较低。虽然最近的工作\cite{kumari2020batch}提出了批量去相关策略的度量学习,他们依赖于特设算法来估计两个三元组之间的相关性的时间。我们提出了一种新的批量主动度量学习方法,利用最大熵原理来学习三重态分布的最小偏差估计为一组给定的先验约束。为了避免三元组之间的冗余,我们的方法集体选择具有最大联合熵的批次,同时捕获信息量和多样性。我们利用联合熵函数的次模块性,使用一个有效的贪心算法的基础上Gram-Schmidt正交化,可证明是$\left( 1 - \frac{1}{e} \right)$最优的,以构建一个易于处理的解决方案。我们的方法是第一批主动度量学习方法来定义一个统一的分数,平衡整个一批三胞胎的信息性和多样性。几个真实世界的数据集的实验表明,我们的算法是强大的,以及推广到不同的应用程序和输入方式,并始终优于国家的最先进的。
2021-08-01 cs.CV cs.IT cs.LG
Fantasizing with Dual GPs in Bayesian Optimization and Active Learning
Aalto University(阿尔托大学)
高斯过程(GP)是用于序列建模的主要替代函数,如贝叶斯优化和主动学习。它们的缺点是数据缩放能力差,并且在使用非高斯似然时需要运行优化循环。在本文中,我们专注于“幻想”批量采集功能,需要的能力条件下,新的幻想数据计算效率。通过使用稀疏双GP参数化,我们获得了线性缩放批量大小以及非高斯似然的一步更新,从而将稀疏模型扩展到贪婪批量幻想采集函数。
2022-11-02 cs.LG stat.ML
Optimal Rates for Multi-pass Stochastic Gradient Methods
Laboratory for Computational and Statistical Learning(计算与统计学习实验室);Istituto Italiano di Tecnologia(意大利理工学院);Massachusetts Institute of Technology(麻省理工学院);DIBRIS, Università di Genova(热那亚大学DIBRIS(信息学、生物信息学与系统生物学系));Università di Genova(热那亚大学)
我们分析了随机梯度方法的学习特性时,多次通过的数据和小批量是允许的。我们研究了正则化的性质是如何控制的步长,通过的数量和小批量的大小。特别是,我们认为平方损失,并表明,对于一个普遍的步长选择,通过的数量作为一个正则化参数,和最佳的有限样本界可以实现提前停止。此外,我们表明,更大的步长是允许的,当考虑小批量。我们的分析是基于一个统一的方法,包括批处理和随机梯度方法的特殊情况。作为一个副产品,我们得到最佳的收敛结果,批量梯度方法(即使在无法实现的情况下)。
2019-03-15 cs.LG math.OC stat.ML
Submodularity in Batch Active Learning and Survey Problems on Gaussian Random Fields
Carnegie Mellon University(卡内基梅隆大学)
许多真实世界的数据集可以以图的形式表示,其边权重指定实例之间的相似性。离散高斯随机场(GRF)模型是一个有限维高斯过程(GP),其先验协方差是图拉普拉斯算子的逆。最小化GRF上的预测协方差Sigma(V-最优性)的迹已被证明在具有预算约束的批量主动学习分类问题中是成功的。然而,它的最坏情况界限一直缺失。我们表明,作为批量查询集的函数的GRF上的V-最优性是次模的,因此其贪婪选择算法保证了(1-1/e)的近似比。此外,GRF模型具有抑制子缺失(AofS)条件。对于主动调查问题,我们提出了一个类似的调查标准,最小化1 '(西格玛)1。在实践中,V-最优性准则比具有互信息增益准则的GP执行得更好,并且允许不同节点的非均匀代价。
2012-09-17 cs.AI cs.DS cs.LG
Offline EEG-Based Driver Drowsiness Estimation Using Enhanced Batch-Mode Active Learning (EBMAL) for Regression
DataNova;U.S. Army Research Laboratory(美国陆军研究实验室);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校);DCS Corp(DCS公司);National Chiao-Tung University(国立交通大学);University of Technology, Sydney(悉尼科技大学)
在现实世界的脑机接口(BCI)应用中存在许多重要的回归问题,例如,从EEG信号估计驾驶员困倦。本文考虑离线分析:给定一个在驾驶过程中记录的未标记的EEG epoch池,我们如何最佳地选择其中的一小部分进行标记,以便可以从它们中构建准确的回归模型来标记其余部分?主动学习是解决这个问题的一个很有前途的方法,但有趣的是,据我们所知,到目前为止,它还没有被用于脑机接口中的回归问题。本文提出了一种新的增强型批量模式主动学习(EBMAL)回归方法,该方法通过提高所选样本的可靠性、代表性和多样性来改进基线主动学习算法,以获得更好的回归性能。我们验证了其有效性,驾驶员的困倦估计从脑电信号。然而,EBMAL是一种通用方法,也可以应用于BCI之外的许多其他离线回归问题。
2018-05-12 cs.HC cs.LG stat.ML
Batch Multi-Fidelity Active Learning with Budget Constraints
University of Utah(犹他大学)
高维输出函数的学习在物理仿真和工程设计等许多应用中至关重要。然而,为这些应用收集训练样本通常是昂贵的,例如通过运行数值求解器。最近的工作(Li et al.,2022)提出了第一种面向高维输出的多保真度主动学习方法,该方法可以获取不同维数的样本,在提高学习性能的同时降低学习成本。然而,该方法一次只能查询一对保真度和输入,因此存在引入强相关示例以降低学习效率的风险。在本文中,我们提出了批量多保真度主动学习与预算约束(BMFAL-BC),它可以促进训练样本的多样性,以提高效益成本比,同时尊重一个给定的预算约束批量查询。因此,我们的方法可以更实用。具体而言,我们提出了一种新的批量采集功能,测量一批多保真度查询和目标函数之间的互信息,从而惩罚高度相关的查询,并鼓励多样性。批量采集功能的优化是具有挑战性的,因为它涉及到许多并行性的组合搜索,同时受到预算约束。为了解决这一挑战,我们开发了一个加权贪心算法,可以顺序地识别每个(保真度,输入)对,同时实现近$(1 - 1/e)$ -近似的最佳。我们在几个计算物理和工程应用中显示了我们的方法的优势。
2022-10-23 cs.LG
Efficient nonmyopic active search with applications in drug and materials discovery
WUSTL(华盛顿大学圣路易斯分校);Tepper School of Business, CMU(卡内基梅隆大学泰珀商学院)
主动搜索是一种学习范式,用于主动识别尽可能多的给定类的成员。一个关键的目标场景是科学发现的高通量筛选,如药物或材料发现。在本文中,我们接近这个问题的贝叶斯决策框架。本文首先推导了自然效用下的贝叶斯最优策略,建立了主动搜索的理论难度,证明了最优策略对于任何常数比率都是不可近似的。我们还首次研究了批处理设置,其中可以在每次迭代中查询一批$b>1$点。我们给出了一个渐近下界,线性批量大小,自适应差距:我们可能会失去多少,如果我们查询$b$点的时间$t$迭代,而不是一个点的时间$bt$迭代。然后,我们介绍了一种新的方法,承认有效的计算的最优策略的非近视近似。我们提出的策略可以自动权衡勘探和开采,而不依赖于任何调优参数。我们还将我们的策略推广到批量设置,并提出了两种方法来解决组合搜索的挑战。我们评估我们提出的政策上的药物发现和材料科学的大型数据库。结果表明,我们提出的政策在顺序和批量设置的优越性能,非近视的行为也说明了在各个方面。
2018-11-23 cs.LG stat.ML
ConBatch-BAL: Batch Bayesian Active Learning under Budget Constraints
Delft University of Technology(代尔夫特理工大学)
本文提出两种预算约束下的批量贝叶斯主动学习策略ConBatch-BAL,通过动态阈值或贪心选择样本,并发布两个地理定位航拍图像数据集,实验证明其能减少迭代次数和获取成本。
2025-07-07 cs.CV cs.LG
Minimum-Margin Active Learning
Google Research(谷歌研究院)
我们提出了一种新的主动采样方法,我们称之为min-margin,它在bootstrap样本上训练多个学习器,然后根据候选者的最小margin在bootstrap模型中选择要标记的示例。这扩展了标准保证金采样的方式,增加其多样性的监督方式,因为它来自模型的不确定性。我们专注于一次性批量主动学习设置,并在理论上和广泛的问题,最小利润率优于其他方法,特别是随着批量大小的增长,通过广泛的实验。
2019-05-31 cs.AI cs.LG stat.ML
Deep Active Learning: Unified and Principled Method for Query and Training
Université Laval(拉瓦尔大学);Mila, Canada CIFAR AI Chair(Mila(加拿大)CIFAR人工智能主席);University of Western Ontario(西安大略大学);Vector Institute(Vector研究所(注:该机构常见译名为“Vector研究院”))
在本文中,我们提出了一个统一的和原则性的方法,查询和训练过程中的深批主动学习。我们通过采用Wasserstein距离,将主动学习中的交互过程建模为分布匹配,从而提供理论见解。因此,我们从理论分析中推导出一个新的训练损失,通过交替优化将其分解为优化深度神经网络参数和批量查询选择。此外,通过利用未标记的数据信息,训练深度神经网络的损失自然地被公式化为最小-最大优化问题。此外,所提出的原则也表明了一个明确的不确定性多样性的权衡在查询批量选择。最后,我们评估我们提出的方法在不同的基准,一贯表现出更好的经验性能和更好的时间效率的查询策略相比,基线。
2020-02-26 cs.LG stat.ML
Multi-fidelity Batch Active Learning for Gaussian Process Classifiers
Mechanical Engineering, Stanford University(斯坦福大学机械工程系);University College London(伦敦大学学院)
本文提出BPMI算法,利用一阶泰勒展开近似互信息,实现多保真高斯过程分类器的批量主动学习,在合成与真实案例中均以固定预算获得更高预测精度。
2025-10-09 cs.CE cs.LG physics.comp-ph