Replicability is Asymptotically Free in Multi-armed Bandits
New York University（纽约大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；RIKEN AIP（理化学研究所人工智能研究中心）；The University of Tokyo（东京大学）；National Institute of Informatics（信息处理研究所）
研究可重复随机多臂老虎机算法，通过特定方法，在时间范围足够大时，使算法行动序列不受数据集中随机性影响，且探索代价更小，还给出限制不可重复性概率的方法及双臂问题下界。
2026-07-07 cs.LG stat.ML
Capacity Provisioning Motivated Online Non-Convex Optimization Problem with Memory and Switching Cost
本文研究带记忆和切换代价的在线非凸优化问题，通过调节活跃服务器数量最小化作业总延迟，并针对最坏情况和随机输入分别提出竞争算法。
2024-07-01 cs.DS cs.LG
Replicability in Reinforcement Learning
Yale University（耶鲁大学）；Google Research（谷歌研究院）；UCLA（加州大学洛杉矶分校）
本文首次在强化学习中研究可复现性，针对折扣表格MDP提出高效可复现策略估计算法，并给出确定性算法下界、TV不可区分性松弛方案及近似可复现性改进结果。
2023-10-27 cs.AI cs.LG stat.ML
Average-Case Active Learning with Costs
University of Washington（华盛顿大学）
我们分析了一个贪婪的主动学习算法的期望成本。我们的分析扩展了以前的工作，以更一般的设置，不同的查询有不同的成本。此外，查询可能具有两个以上的可能响应，并且在假设上的分布可能是不均匀的。具体应用包括具有标签成本的主动学习、用于多类和部分标签查询的主动学习以及批处理模式主动学习。我们还讨论了一个近似版本的兴趣时，有很多查询。
2009-05-18 cs.LG
SWAG: A Wrapper Method for Sparse Learning
Auburn University（奥本大学）；University of Geneva（日内瓦大学）；Swiss Finance Institute（瑞士金融研究所）
大多数机器学习方法和算法对预测性能给予高优先级，这可能并不总是对应于用户的优先级。在许多情况下，不同领域的从业者和研究人员，从工程到遗传学，需要结果的可解释性和可复制性，特别是在环境中，例如，不是所有属性都可以提供给他们。因此，需要使机器学习算法的输出更具可解释性，并提供用户可以基于属性可用性选择的“等效”学习器库（在预测性能方面），以便测试和/或利用这些学习器进行预测/诊断。为了满足这些需求，我们建议研究一个程序，结合筛选和包装的方法，基于用户指定的学习方法，greenhouse探索属性空间，找到一个稀疏的学习者，从而降低数据收集和存储成本的库。这种新方法（i）提供了一个低维的属性网络，可以很容易地解释和（ii）增加了潜在的可复制性的基础上的属性组合的多样性，定义强学习者具有同等的预测能力。我们称这种算法为“稀疏包装AlGorithm”（SWAG）。
2021-11-01 cs.LG stat.ML
Improve Cost Efficiency of Active Learning over Noisy Dataset
Kwansei Gakuin University（关西学院大学）；Victoria University of Wellington（惠灵顿维多利亚大学）
针对二分类中正例标注成本高昂且数据含噪的问题，提出平移正态分布采样函数，以比不确定性采样更宽的范围采样，减少噪声标签和正标签选择，并在多个数据集上提升20%至32%的成本效率。
2024-03-02 cs.LG
A Tutorial on Bayesian Optimization of Expensive Cost Functions, with Application to Active User Modeling and Hierarchical Reinforcement Learning
我们提出了一个教程贝叶斯优化，找到最大的昂贵的成本函数的方法。贝叶斯优化采用贝叶斯技术，在目标函数上设置先验，并将其与证据相结合以获得后验函数。这允许基于效用选择下一个观测值，以便对目标函数进行观测，这必须考虑到勘探（从高度不确定性的区域取样）和开发（取样区域可能提供比当前最佳观测值更好的结果）。我们还提出了两个详细的扩展贝叶斯优化，与实验-主动用户建模与偏好，和分层强化学习--和讨论的优点和缺点贝叶斯优化的基础上，我们的经验。
2010-12-12 cs.LG
Cost-minimising strategies for data labelling : optimal stopping and active learning
University of Leoben（莱奥本大学）
监督学习处理以观测空间$\CX$中的点为条件的输出或标签空间$\CY$上的分布的推断，给定$\CX \times \CY$中的对的训练数据集$D$。然而，在许多感兴趣的应用中，获取大量的观察是容易的，而生成标签的过程是耗时或昂贵的。处理这个问题的一种方法是{ \em主动}学习，其中选择要标记的点，目的是创建一个比在相同数量的随机采样点上训练的模型性能更好的模型。在本文中，我们建议直接处理标签成本：学习目标被定义为成本的最小化，该成本是预期模型性能和所使用标签的总成本的函数。这允许开发一般策略和特定算法，用于（a）最佳停止，其中预期成本决定标签获取是否应该继续（b）经验评估，其中成本用作推断、停止和采样方法的给定组合的性能度量。虽然本文的主要焦点是最佳停止，我们也旨在为进一步发展和讨论主动学习的相关领域的背景。
2007-11-15 cs.LG
Hitting the Target: Stopping Active Learning at the Cost-Based Optimum
University of Auckland（奥克兰大学）；University of Waikato（怀卡托大学）
本文针对主动学习缺乏有效停止机制的问题，首次大规模比较了基于池的主动学习中的停止准则，利用成本度量量化准确率与标签权衡，并提供了开源评估框架，帮助从业者选择最优准则以大幅降低标注成本。
2022-09-02 cs.LG
Auditing: Active Learning with Outcome-Dependent Query Costs
Microsoft Research New England（微软新英格兰研究院）；Toyota Technological Institute at Chicago（芝加哥丰田理工学院）
我们提出了一个学习设置，其中未标记的数据是免费的，标签的成本取决于它的价值，这是事先不知道的。我们在一个极端的情况下研究二进制分类，该算法只支付负标签。我们的动机是应用程序，如欺诈检测，在其中调查一个诚实的交易，应尽量避免。我们称之为设置审计，并考虑算法的审计复杂度：算法需要的否定标签的数量，以便学习相对误差较低的假设。我们设计了简单的假设类（阈值和矩形）的审计算法，并表明，这些算法，审计的复杂性可以显着低于活动标签的复杂性。我们还讨论了一个一般的竞争性审计方法和可能的修改框架。
2015-07-12 cs.LG
QueryMarket: Cost-Aware Online Active Learning in Data Markets
Dyson School of Design Engineering, Imperial College London（帝国理工学院戴森设计工程学院）；Halfspace (part of Accenture)（埃森哲旗下Halfspace）；Technical University of Denmark (DTU Management)（丹麦技术大学（DTU管理系））；Aarhus University (CoRE)（奥胡斯大学（CoRE））
提出QueryMarket框架和OVBAL算法，通过D-最优性准则估计边际效用，在滚动预算约束下实现成本感知的在线主动学习，适应非平稳流和异构标签成本。
2026-06-17 cs.LG
When Should Active RAG Retrieve? A Budget-Aware Evaluation of Utility, Calibration, and Cost
Carnegie Mellon University（卡内基梅隆大学）；University of Glasgow（格拉斯哥大学）；Georgia Institute of Technology（佐治亚理工学院）
研究主动检索生成式人工智能何时检索，通过将其重述为效用估计进行预算感知评估，并分离出相关三个问题，利用多种方法实现，在多数据集和模型中验证，强调评估应报告多方面指标。
2026-07-28 cs.LG
Cost-Optimal Active AI Model Evaluation
Google DeepMind（谷歌DeepMind）；Google Research（谷歌研究）
本文面向生成式 AI 持续评估中的标注成本问题，提出在弱评分者与强评分者间分配预算的成本最优主动策略，以更低预算获得无偏、低方差的强评分均值估计。
2025-06-09 cs.LG
A Contextual Bandit Approach for Stream-Based Active Learning
University of California, Los Angeles（加州大学洛杉矶分校）；University of Miami（迈阿密大学）
上下文强盗算法-一类利用上下文信息的多臂强盗算法-已被证明在解决不确定性下的顺序决策问题中是有效的。在文献中采用的一个常见的假设是，通过采取所选择的动作实现的（地面实况）奖励被学习者观察到没有成本，然而，这在许多实际情况下是不现实的。当观察地面真相奖励是昂贵的，学习者的一个关键挑战是如何明智地获得地面真相通过评估的好处和成本，以平衡学习效率和学习成本。从信息论的角度来看，一个可能更有趣的问题是，由于这种成本，可能会损失多少效率。在本文中，我们设计了一个新的上下文带为基础的学习算法，并赋予它的主动学习能力。我们的算法的关键特征是，除了向注释器发送查询以获取地面实况之外，还将学习器学习到的地面实况的先验信息一起发送，从而降低查询成本。我们证明，通过仔细选择的算法参数，所提出的算法的学习遗憾达到相同的顺序，传统的上下文强盗算法在无成本的情况下，这意味着，令人惊讶的是，由于获取地面真相的成本不会增加学习遗憾在长期运行。我们的分析表明，在主动学习是必要的情况下，地面真相的先验信息在提高系统性能方面起着至关重要的作用。
2017-01-24 cs.LG
Neural Active Learning Meets the Partial Monitoring Framework
Université Laval（拉瓦尔大学）；Thales Research and Technology (cortAIx)（泰勒斯研究与技术（cortAIx））；Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；Institut Intelligence et Données（智能与数据研究所）
研究在线主动学习设置，基于部分监测为OAL任务提出新基础，表明相关任务是部分监测实例，引入成本敏感型任务扩展潜力，提出NeuralCBP策略，实验显示其在多类OAL任务上性能优于基线。
2026-07-14 cs.LG
Stream-based Online Active Learning in a Contextual Multi-Armed Bandit Framework
University of California, Los Angeles（加州大学洛杉矶分校）
我们研究了基于流的在线主动学习的上下文多臂强盗框架。在这个框架中，奖励取决于手臂和环境。在基于流的主动学习设置中，获得奖励的基础事实是昂贵的，并且常规的上下文多臂强盗算法由于该成本而未能实现次线性遗憾。因此，该算法需要确定是否请求当前时隙处的奖励的基础事实。在我们的框架中，我们考虑了一个基于流的主动学习设置，其中地面实况的查询请求被发送到注释器，连同地面实况的一些先验信息。根据先验信息的准确性，查询成本会有所不同。我们的算法主要进行两个操作：细化的上下文和手臂空间和动作的选择。在我们的算法中，上下文空间和手臂空间的分区保持一定的时间槽，然后变得更精细的更多信息的奖励积累。我们使用一种策略性的方法来选择武器并请求奖励的地面真值，旨在最大化总奖励。我们分析表明，遗憾是次线性的，并在相同的顺序与传统的上下文多臂强盗算法，其中没有查询成本
2016-07-11 cs.LG
Multi-Resolution Active Learning of Fourier Neural Operators
Kahlert School of Computing, University of Utah（犹他大学卡勒特计算学院）；Scientific Computing and Imaging (SCI) Institute, University of Utah（犹他大学科学计算与成像研究所）；School of Mathematics and Statistics, University of Sheffield（谢菲尔德大学数学与统计学院）
本文提出MRA-FNO，通过概率多分辨率建模、效用-成本比主动获取和成本退火策略，动态选择输入函数与分辨率，以降低FNO训练数据成本并提升学习效率。
2024-03-29 cs.LG
The Lagrangian Structure of Cost-Penalized Active Feature Acquisition
Faculty of Computer Science（计算机学院）；Faculty of Biology（生物学院）；Technion – Israel Institute of Technology（以色列理工学院）
本文研究代价惩罚主动特征获取（EIG-Cost）的理论性质，将其分解为拉格朗日松弛的贪婪优化，在近子模性区域给出次优性界，通过MIMIC-IV实验验证其在低预算下的有效性。
2026-10-16 cs.LG
Model Uncertainty based Active Learning on Tabular Data using Boosted Trees
Ericsson（爱立信）
本文研究表格数据主动学习中基于提升树的模型不确定性采样，提出回归任务的不确定性采样方法及低成本主动学习方法，并改进分类任务的低成本主动学习方法。
2023-10-30 cs.LG
Active Learning for Cost-Sensitive Classification
Microsoft Research（微软研究院）；Uber Advanced Technology Center（优步先进技术中心）
我们设计了一个主动学习算法的成本敏感的多类分类：不同的错误有不同的成本的问题。我们的算法COAL通过回归每个标签的成本并预测最小的成本来进行预测。在一个新的例子中，它使用了一组对过去数据表现良好的回归器来估计每个标签的可能成本。它只查询可能是最好的标签，忽略了肯定会失败的标签。我们证明了COAL可以有效地实现任何回归家庭，承认平方损失优化，它也享有强有力的保证方面的预测性能和标签的努力。我们将COAL与被动学习和几个主动学习基线进行了经验比较，显示出在真实世界数据集上标记工作和测试成本方面的显着改进。
2021-10-11 cs.LG stat.ML
Collaborative Active Learning in Conditional Trust Environment
Kwansei Gakuin University（关西学院大学）；Victoria University of Wellington（惠灵顿维多利亚大学）
本文提出一种无需披露数据和模型的协作主动学习框架，通过共享预测结果和新标签实现多方协作，仿真证明其AUC分数优于独立学习，有效兼顾隐私保护与成本效率。
2024-03-27 cs.LG
Compute-Efficient Active Learning
aiMotive
本文针对大规模数据集上主动学习计算成本高的问题，提出一种方法无关的高效数据选择与标注框架，在保持或提升模型性能的同时显著降低计算开销。
2024-01-15 cs.LG
Evaluating Zero-cost Active Learning for Object Detection
University of Applied Sciences（应用科学大学）；Hasty GmbH（Hasty有限责任公司）
目标检测需要大量的标记工作来学习鲁棒模型。主动学习可以通过智能地选择要注释的相关示例来减少这种努力。然而，正确地选择这些示例而不引入对泛化性能产生负面影响的采样偏差并不简单，并且大多数主动学习技术不能在真实世界的基准上保持其承诺。在我们的评估论文中，我们关注的是除了推理之外没有计算开销的主动学习技术，我们称之为零成本主动学习。特别是，我们表明，一个关键的成分不仅是分数的限界框水平，但也用于聚合的排名图像的分数的技术。我们概述了我们的实验设置，并讨论了使用主动学习进行目标检测时的实际考虑因素。
2022-12-08 cs.CV cs.LG
Cost-Based Budget Active Learning for Deep Learning
Paris8 University（巴黎第八大学）
经典的主动学习（AL）方法通常使用熵和间隔等统计理论来度量实例效用，但无法捕捉到未标记数据中包含的数据分布信息。这最终会导致分类器选择离群实例进行标记。同时，在典型的分类任务中，与错误标记实例相关的损失远远高于与相反错误相关的损失。为了解决这些挑战，我们提出了一个基于成本的Bugdet主动学习（CBAL），它考虑了分类的不确定性，以及实例的多样性，在人口的预算约束。基于最小-最大原则的方法被认为是最小化所选实例的标记和决策成本，这确保了一个接近最优的结果，大大减少了计算工作量。大量的实验结果表明，该方法优于几个国家的最先进的主动学习方法。
2020-12-09 cs.LG stat.ML
Cost Aware Asynchronous Multi-Agent Active Search
Carnegie Mellon University（卡内基梅隆大学）
多智能体主动搜索要求自主智能体选择有效定位目标的感知动作。在现实环境中，代理人还必须考虑他们的决策所产生的成本。以前提出的主动搜索算法简化了问题，忽略了代理的环境中的不确定性，使用近视决策，和/或忽略成本。在本文中，我们引入了一个在线主动搜索算法来检测目标在一个未知的环境中，通过自适应成本意识的决策代理的行动。我们的算法结合了汤普森采样（搜索空间探索和分散的多智能体决策），蒙特卡罗树搜索（长期规划）和帕累托最优置信区间（在未知环境中的多目标优化）的原则，提出了一个在线前瞻计划，删除所有的简化。我们通过仿真分析了算法的性能，证明了算法在代价感知主动搜索中的有效性。
2022-10-05 cs.LG cs.MA cs.RO
Enhancing Cost Efficiency in Active Learning with Candidate Set Query
POSTECH（浦项科技大学）
本文提出基于候选集查询的成本高效主动学习框架，通过共形预测动态生成可靠候选集并设计低本高效采集函数，在ImageNet64x64上降低48%标注成本。
2025-08-19 cs.CV cs.LG
Quantifying Policy Administration Cost in an Active Learning Framework
University of Calgary（卡尔加里大学）
本文提出在主动学习框架中量化访问控制的策略管理成本，通过查询复杂度建模不同策略，首次证明基于域的启发式策略比访问控制矩阵更具成本优势。
2023-12-29 cs.CR cs.LG
Cost-Sensitive Active Learning for Intracranial Hemorrhage Detection
University of California Berkeley（加州大学伯克利分校）；University of California San Francisco School of Medicine（加州大学旧金山分校医学院）
用于临床应用的深度学习受到严格的性能要求，这就需要大型标记数据集。然而，标记医疗数据的巨大成本使得这一点具有挑战性。针对头部CT图像中颅内出血的检测和分割问题，建立了一个代价敏感的主动学习系统。我们表明，我们的合奏方法相比，与国家的最先进的，同时运行速度更快，使用更少的内存。此外，我们的实验是使用比以前关于这个主题的论文大得多的数据集完成的。由于标记时间在不同的示例中可能会有很大的差异，我们对标记时间进行建模并优化投资回报。我们通过在我们的大型标记数据集上选择核心集并使用来自野外的数据来增长它来验证这个想法。
2018-09-08 cs.CV cs.LG
Feature Alignment: Rethinking Efficient Active Learning via Proxy in the Context of Pre-trained Models
Australian Centre for Robotics, University of Sydney（澳大利亚悉尼大学澳大利亚机器人中心）；Norwegian University of Science and Technology（挪威科技大学）
本文针对预训练模型下基于代理的主动学习性能下降问题，提出一种通过更新预计算特征和选择合适训练方法的对齐选择新方法，在保持计算效率的同时有效降低了总成本。
2024-11-16 cs.AI cs.LG
Rényi Entropy Bounds on the Active Learning Cost-Performance Tradeoff
University of Erlangen-Nuremberg（埃尔朗根-纽伦堡大学）；University of Napoli Federico II（那不勒斯腓特烈二世大学）；New York University（纽约大学）
半监督分类是机器学习中最重要的领域之一，它研究如何将大量未标记数据的统计知识与有限的标记数据相结合，以最大限度地提高整体分类精度。在这种情况下，主动选择要标记的数据的过程被称为主动学习。在本文中，我们开始的非渐近分析的最优策略的半监督分类与积极获得的标记数据。考虑到一个一般的贝叶斯分类模型，我们提供了第一个表征的联合最佳的主动学习和半监督分类政策，在成本性能权衡驱动的标签查询预算（数据项的数量被标记）和整体分类精度。利用最近的研究结果的雷尼熵，我们得到严格的信息理论界这样的主动学习的成本-性能权衡。
2020-02-05 cs.IT cs.LG math.IT
Cost-effective Variational Active Entity Resolution
Peak AI Ltd.（Peak AI有限公司）；University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap研究所）
准确识别同一真实世界实体的不同表示是数据清理的一个组成部分，已经提出了许多方法来完成它。这个实体解析任务需要如此多的研究关注的挑战往往植根于任务的特殊性和用户依赖的过程。采用深度学习技术有可能减轻这些挑战。在本文中，我们着手设计一种实体解析方法，该方法建立在深度自动编码器所赋予的鲁棒性基础上，以降低人工参与成本。具体来说，我们通过执行无监督表示学习来降低训练深度实体解析模型的成本。这揭示了所得到的模型的可移植性，可以通过迁移学习进一步降低将该方法应用于新数据集的成本。最后，我们通过一种主动学习方法来降低标记训练数据的成本，这种方法建立在使用深度自动编码器所赋予的属性之上。经验评估证实，我们的成本降低desideratum的成就，同时实现与国家的最先进的替代品相当的有效性。
2021-02-26 cs.DB cs.LG
Cost-Effective Training of Deep CNNs with Active Model Adaptation
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics（南京航空航天大学计算机科学与技术学院）；Collaborative Innovation Center of Novel Software Technology and Industrialization（新型软件技术与产业化协同创新中心）
深度卷积神经网络在各种应用中取得了巨大成功。然而，为特定任务训练有效的DNN模型是相当具有挑战性的，因为它需要先验知识或经验来设计网络架构，重复的试错过程来调整参数，以及大量的标记数据来训练模型。在本文中，我们提出通过主动调整预训练模型来克服这些挑战，以适应具有较少标记示例的新任务。具体来说，预先训练的模型基于最有用的示例进行迭代微调。基于一种新的标准主动选择示例，该标准联合估计示例对优化特征表示以及改进目标任务的分类模型的潜在贡献。一方面，预训练的模型从其原始任务中带来了丰富的信息，避免了重新设计网络架构或从头开始训练;另一方面，通过主动标签查询可以显着降低标签成本。在多个数据集和不同预训练模型上的实验表明，该方法可以实现DNN的成本有效的训练。
2018-06-05 cs.LG stat.ML
Cost-effective Reduced-Order Modeling via Bayesian Active Learning
Texas A&M University（德克萨斯大学）；Brookheaven National Laboratory（布鲁克海文国家实验室）
提出基于贝叶斯本征正交分解的主动学习框架BayPOD-AL，通过不确定性感知有效学习高保真模型的降阶模型，减少数据集构建成本并提升泛化性。
2025-06-27 cs.LG stat.ML
Active Learning Framework for Cost-Effective TCR-Epitope Binding Affinity Prediction
Arizona State University（亚利桑那州立大学）；Google DeepMind（谷歌DeepMind）
本文提出ActiveTCR框架，将主动学习与TCR-表位结合亲和力预测模型结合，通过迭代筛选高价值未标记配对，在保持模型性能的同时将注释成本降低约40%，并识别超过40%的已注释数据冗余，首次系统研究了该任务的数据优化问题。
2023-10-30 cs.LG q-bio.QM
Nonparametric active learning for cost-sensitive classification
University of Mons（蒙斯大学）
本文提出一种用于代价敏感分类的通用非参数主动学习算法，通过置信界和最小代价查询实现最优交互复杂度，并证明其相对被动学习的增益及上下界近最优性。
2023-09-30 cs.LG math.ST stat.TH
Active multi-fidelity Bayesian online changepoint detection
Princeton University（普林斯顿大学）；Arm ML Research Lab（Arm机器学习研究实验室）
用于检测变化点或时间序列的行为中的突然转变的在线算法通常利用有限的资源来部署，移动电话或工业传感器等边缘计算环境。在这些情况下，将收集环境测量的成本与该测量的质量或"保真度"以及测量如何影响变点估计进行交易可能是有益的。例如，可以在惯性测量或GPS之间做出决定，以确定运动的变化点。贝叶斯变点检测方法特别有吸引力，因为我们可以表示关于变点的后验不确定性，并对数据保真度做出积极的、成本敏感的决策，以减少这种后验不确定性。此外，通过主动保真切换，总成本可以大大降低，同时对数据分布的变化保持鲁棒性。我们提出了一个多保真度的方法，使成本敏感的决定，收集数据保真度的基础上最大限度地提高信息增益的变化点。我们对合成，视频和音频数据的框架进行了评估，并表明这种基于信息的方法可以在降低总成本的同时实现准确的预测。
2021-07-25 cs.LG stat.ML
Cost-Aware Query Policies in Active Learning for Efficient Autonomous Robotic Exploration
针对资源受限下自主机器人高效探索需求，分析结合动作代价的高斯过程回归主动学习算法，实验发现带距离约束的传统不确定性指标在轨迹约束下降误差效果最优，为真实任务约束下的探索优化提供参考。
2024-10-31 cs.IR cs.LG cs.RO
ALiPy: Active Learning in Python
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；MIIT Key Laboratory of Pattern Analysis and Machine Intelligence（工业和信息化部模式分析与机器智能重点实验室）
有监督的机器学习方法通常需要大量的标记样本来进行模型训练。然而，在许多实际应用中，存在大量的未标记数据和有限的标记数据，并且标记的获取是昂贵的。主动学习（AL）通过迭代地选择最有价值的数据来从注释器查询它们的标签，从而降低了标签成本。本文介绍了一个用于主动学习的Python工具箱ALiPy。ALiPy提供了一个基于模块的主动学习框架的实现，它允许用户方便地评估，比较和分析主动学习方法的性能。在工具箱中，学习框架的每个组件都有多个选项可供选择，包括数据处理、主动选择、标签查询、结果可视化等，除了实现20多种最先进的主动学习算法外，ALiPy还支持用户在不同的主动学习设置下轻松配置和实现自己的方法，如AL用于多标签数据，带有噪声注释器的AL，带有不同成本的AL等等。工具箱在Github上有很好的文档和开源，可以通过PyPI轻松安装。
2019-01-12 cs.LG stat.ML
Consistency-based Semi-supervised Active Learning: Towards Minimizing Labeling Cost
Google（谷歌）；Salesforce Research（Salesforce研究院）；University of Maryland（马里兰大学）；Google Cloud AI（谷歌云AI）；University of Washington（华盛顿大学）
主动学习（AL）结合了数据标记和模型训练，通过优先选择能够最好地提高模型性能的高价值数据来最小化标记成本。在基于池的主动学习中，可访问的未标记数据在大多数传统方法中不用于模型训练。在这里，我们建议将未标记的样本选择和模型训练统一起来，以最小化标记成本，并为此做出两个贡献。首先，我们利用标记和未标记的数据，使用半监督学习（SSL）在训练阶段从未标记的数据中提取信息。其次，我们提出了一个基于一致性的样本选择度量，该度量与训练目标一致，使得所选择的样本有效地提高模型性能。我们对图像分类任务进行了广泛的实验。在CIFAR-10、CIFAR-100和ImageNet上的实验结果表明，与现有方法以及替代的AL和SSL组合相比，我们提出的方法在有限的标记数据下具有优异的性能。此外，我们还研究了一个重要但尚未探索的问题--“我们什么时候可以开始基于学习的人工智能选择？".我们提出了一个措施，是经验相关的AL目标损失，并可能用于确定适当的起点，基于学习的AL方法。
2020-07-18 cs.CV cs.LG
ConBatch-BAL: Batch Bayesian Active Learning under Budget Constraints
Delft University of Technology（代尔夫特理工大学）
本文提出两种预算约束下的批量贝叶斯主动学习策略ConBatch-BAL，通过动态阈值或贪心选择样本，并发布两个地理定位航拍图像数据集，实验证明其能减少迭代次数和获取成本。
2025-07-07 cs.CV cs.LG
Multi-Label Active Learning from Crowds
Nanjing University（南京大学）
多标签主动学习是一个热门话题，在减少标签成本，通过最佳选择最有价值的实例查询其标签从一个预言。在本文中，我们认为基于池的多标签主动学习下的众包设置，在主动查询过程中，而不是诉诸于高成本的预言机的地面真相，多个低成本的不完美的注释器与各种专业知识的标签。为了解决这个问题，我们提出了MAC（Multi-label主动学习from Crowds）方法，该方法结合标签相关性的局部影响，在多标签分类器和注释器上建立概率模型。基于该模型，我们可以估计实例的标签以及每个注释者的专业知识。然后，我们提出了实例选择和注释器选择标准，考虑实例的不确定性/多样性和注释器的可靠性，这样最可靠的注释器将被查询最有价值的实例。实验结果证明了该方法的有效性。
2015-08-04 cs.LG cs.SI
Self-focusing virtual screening with active design space pruning
Harvard University（哈佛大学）；MIT（麻省理工学院）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Research Europe（IBM欧洲研究院）
高通量虚拟筛选是小分子发现中不可或缺的技术。在分子库非常大的情况下，穷举虚拟筛选的成本可能过高。与随机选择相比，模型引导的优化已被用于通过显著提高样本效率来降低这些成本。然而，这些技术通过代理模型训练和推理步骤向工作流引入了新的成本。在这项研究中，我们提出了一个扩展的框架模型引导的优化，减轻推理成本使用的技术，我们称之为设计空间修剪（DSP），不可逆地删除性能差的候选人的考虑。我们研究了DSP的应用程序的各种优化任务，并观察到显着降低开销成本，同时表现出类似的性能的基线优化。DSP代表了模型引导优化的一个有吸引力的扩展，它可以限制优化设置中的开销成本，其中这些成本相对于目标成本（例如对接）是不可忽略的。
2022-05-03 cs.LG q-bio.QM
Active Learning: Problem Settings and Recent Developments
The Institute of Statistical Mathematics（统计数学研究所）
在监督学习中，获取预测模型的标记训练数据可能非常昂贵，但获取大量未标记数据通常非常容易。主动学习是一种通过自适应地选择样本进行标注，以有限的代价获得高精度预测模型的方法。本文阐述了主动学习的基本问题设置和最新研究动态。特别是，学习采集功能的研究，从数据中选择样本进行标记，主动学习算法的理论工作，并停止标准顺序数据采集突出显示。介绍了材料开发和测量的应用实例。
2020-12-16 cs.LG stat.ML
Active Reinforcement Learning: Observing Rewards at a Cost
Montreal Institute for Learning Algorithms（蒙特利尔学习算法研究所）；University of Montreal（蒙特利尔大学）；Future of Humanity Institute（人类未来研究所）；University of Oxford（牛津大学）；AI Impacts
主动强化学习（ARL）是强化学习的一种变体，其中智能体不观察奖励，除非它选择支付查询成本c > 0。ARL的核心问题是如何量化奖励信息的长期价值。即使是在多武器的强盗中，计算这些信息的价值也是棘手的，我们不得不依靠计算机。我们提出并评估了几种启发式方法ARL多武装土匪和（表格）马尔可夫决策过程，并讨论和说明了一些具有挑战性的方面的ARL问题。
2020-11-24 cs.AI cs.LG stat.ML
Cost-Aware Diffusion Active Search
School of Computer Science, Carnegie Mellon University（计算机科学系，卡内基梅隆大学）
本文提出基于扩散模型的主动搜索方法，通过序列建模能力采样动作序列，实现高效成本感知决策，提升目标恢复率。
2026-02-23 cs.AI cs.LG cs.RO
Active Multi-Information Source Bayesian Quadrature
University of Tübingen（蒂宾根大学）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；Amazon Research（亚马逊研究院）
贝叶斯求积（Bayesian quadrature，BQ）是一种样本效率高的概率数值方法，用于求解计算成本高的黑箱函数的积分，但目前的主动BQ学习方法只关注被积函数本身作为信息源，不考虑从成本低的相关函数中传递信息.在这里，我们为BQ中的主动学习设置场景，当可变成本的多个相关信息源（在输入和源中）可访问时。例如，当评估被积函数需要运行复杂的模拟时，可以通过以较低的复杂程度和较低的费用进行模拟来近似。我们构建了有意义的成本敏感的多源采集率作为一个扩展，从香草BQ（VBQ）常见的效用函数，并讨论了陷阱，从盲目推广。此外，我们表明，VBQ收购政策是一个角落的情况下，所有考虑成本敏感的收购计划，崩溃到一个单一的退化政策的情况下，一个源和恒定的成本。在概念验证实验中，我们仔细检查了我们的广义获取功能的行为。在一个流行病学模型上，我们证明了主动多源BQ（AMS-BQ）比VBQ更有效地分配预算，以获得更好的积分精度。
2021-02-12 cs.LG stat.ML
Bucking the Trend: Large-Scale Cost-Focused Active Learning for Statistical Machine Translation
Johns Hopkins University（约翰斯·霍普金斯大学）
我们探索如何通过在我们已经拥有大量资源的情况下添加更多的翻译数据来改进机器翻译系统。主要的挑战是如何扭转经常遇到的收益递减趋势。我们提出了一个主动学习式的数据征集算法，以满足这一挑战。我们测试了它，通过Amazon Mechanical Turk收集注释，并发现我们在性能改进率方面获得了一个数量级的提高。
2014-10-21 cs.CL cs.LG stat.ML
DADO -- Low-Cost Query Strategies for Deep Active Design Optimization
Universität Kassel（卡塞尔大学）
本文将深度主动学习应用于结构组件设计优化以减少昂贵的数值模拟，提出两种低成本选择策略，在流体动力学数据集上验证了其相比随机采样的显著加速效果，且无需不确定性估计。
2023-10-02 cs.CE cs.LG
MCAL: Minimum Cost Human-Machine Active Labeling
University of Southern California（南加州大学）；Microsoft Research（微软研究院）
如今，地面实况生成使用由基于云的注释服务注释的数据集。这些服务依赖于人工注释，这可能非常昂贵。在本文中，我们考虑混合人机标记的问题，训练分类器准确地自动标记数据集的一部分。然而，训练分类器也可能是昂贵的。我们提出了一种迭代方法，通过在每一步共同确定使用人类标记哪些样本以及使用训练的分类器标记哪些样本，来最大限度地降低总成本。我们在Fashion-MNIST、CIFAR-10、CIFAR-100和ImageNet等公知的公共数据集上验证了我们的方法。在某些情况下，我们的方法相对于人类标记整个数据集的总成本低6倍，并且总是比最便宜的竞争策略便宜。
2023-02-27 cs.CV cs.LG stat.ML
Towards Multimodal Active Learning: Efficient Learning with Limited Paired Data
University of California, Riverside（加州大学河滨分校）
本文提出首个处理对齐数据的多模态主动学习框架，结合不确定性与多样性原则，实现线性时间获取，降低多模态标注成本且保持性能。
2026-04-23 cs.AI cs.LG
Reinforcement Learning with Efficient Active Feature Acquisition
Nanyang Technological University（南洋理工大学）；Microsoft Research（微软研究院）；University of Vienna（维也纳大学）
解决现实生活中的序贯决策问题的部分可观性涉及到一个探索-开发问题。为了取得成功，智能体需要有效地收集有关世界状态的有价值的信息，以便做出有价值的决策。然而，在现实生活中，获取有价值的信息通常是非常昂贵的，例如，在医学领域中，信息获取可以对应于对患者执行医学测试。这对智能体提出了一个重大挑战，即在降低信息获取成本的同时，以最佳方式执行任务。在本文中，我们提出了一个基于模型的强化学习框架，学习一个积极的特征获取策略，以解决其执行过程中的探索-利用问题。成功的关键是一种新的顺序变分自动编码器，它从部分观察到的状态中学习高质量的表示，然后由策略使用，以成本效益的方式最大化任务奖励。我们证明了我们提出的框架在控制域以及使用医疗模拟器的有效性。在这两项任务中，我们提出的方法优于传统的基线，并导致具有更高的成本效率的政策。
2020-11-02 cs.AI cs.LG
Why Pay More When You Can Pay Less: A Joint Learning Framework for Active Feature Acquisition and Classification
我们考虑主动特征获取的问题，在这里我们顺序地选择特征的子集，以便以最具成本效益的方式实现最大的预测性能。在这项工作中，我们制定这个主动特征获取问题作为一个强化学习问题，并提供了一个新的框架，共同学习的RL代理和分类器（环境）。我们还介绍了一种更系统的方法来编码特征子集，可以正确处理主动特征获取问题中缺少条目的固有挑战，该方法使用基于有序LSTM的集合编码机制，该机制很容易适应联合学习框架。我们在一个精心设计的用于主动特征获取的合成数据集以及几个真实数据集（如电子健康记录（EHR）数据集）上评估了我们的模型，在这些数据集上，它在预测性能和特征获取成本方面优于所有基线。
2017-09-18 cs.LG stat.ML
How to Purchase Labels? A Cost-Effective Approach Using Active Learning Markets
Dyson School of Design Engineering, Imperial College London（帝国理工学院伦敦校区设计工程学院）；Department of Technology, Management and Economics, Technical University of Denmark（丹麦技术大学技术、管理和经济系）；CoRE, Aarhus University（奥胡斯大学CoRE）
本文提出利用主动学习市场进行高效标签获取，通过两种主动学习策略和不同定价机制，在房地产和能源预测中实现更高效的数据采集。
2026-02-10 cs.LG stat.ML
Cold-start Active Learning through Self-supervised Language Modeling
University of Maryland（马里兰大学）；National Taiwan University（台湾大学）
主动学习通过选择最关键的示例进行标记来努力降低注释成本。通常，主动学习策略取决于分类模型。例如，不确定性抽样依赖于校准不良的模型置信度得分。在冷启动设置中，由于模型不稳定和数据稀缺，主动学习是不切实际的。幸运的是，现代NLP提供了额外的信息源：预先训练的语言模型。预训练损失可以找到令模型惊讶的例子，并且应该标记为有效的微调。因此，我们将语言建模损失视为分类不确定性的代理。使用BERT，我们开发了一个简单的策略，基于掩蔽语言建模损失，最大限度地减少标签成本的文本分类。与其他基线相比，我们的方法在更少的采样迭代和计算时间内达到更高的精度。
2020-10-22 cs.CL cs.LG
