Cost-Aware Diffusion Active Search
School of Computer Science, Carnegie Mellon University（计算机科学系，卡内基梅隆大学）
本文提出基于扩散模型的主动搜索方法，通过序列建模能力采样动作序列，实现高效成本感知决策，提升目标恢复率。
2026-02-23 cs.AI cs.LG cs.RO
Efficient Active Search for Combinatorial Optimization Problems
Bielefeld University（比勒费尔德大学）；Samsung SDS（三星SDS）
最近，已经提出了许多用于组合优化问题的基于机器学习的方法，这些方法通过强化学习在顺序决策过程中学习构造解。虽然这些方法可以很容易地与像采样和束搜索这样的搜索策略相结合，但是将它们集成到提供强搜索指导的高级搜索过程中并不简单。Bello等人（2016）提出了主动搜索，它使用强化学习在测试时调整（训练）模型相对于单个实例的权重。虽然主动搜索很容易实现，但它与最先进的方法没有竞争力，因为为每个测试实例调整所有模型权重是非常耗时和内存密集的。而不是更新所有的模型权重，我们提出并评估三个有效的主动搜索策略，只更新一个子集的参数在搜索过程中。所提出的方法提供了一种简单的方法，显着提高搜索性能的一个给定的模型，并优于国家的最先进的机器学习的组合问题的方法，甚至超过了著名的启发式求解器LKH 3的能力限制的车辆路径问题。最后，我们证明了（有效的）主动搜索使学习模型能够有效地解决比训练过程中看到的大得多的实例。
2022-03-15 cs.AI cs.LG math.OC
Neural Active Learning with Performance Guarantees
Google Research（谷歌研究院）；Cornell University（康奈尔大学）；New York University（纽约大学）
我们调查的问题，主动学习在流设置在非参数制度，其中的标签是随机生成的一类功能上，我们不做任何假设。我们依靠最近提出的神经切线核（NTK）近似工具来构建一个合适的神经嵌入，该神经嵌入确定算法操作的特征空间和在其上计算的学习模型。由于标签请求阈值的形状与要学习的函数的复杂性密切相关，这是先验未知的，因此我们还推导出一个对任何先验知识都不可知的算法版本。该算法依赖于遗憾平衡计划来解决由此产生的在线模型选择问题，并且计算效率高。我们证明了联合保证的累积遗憾和数量的要求标签，这取决于手头的标签功能的复杂性。在线性情况下，这些保证恢复作为标准统计学习设置中的标签复杂度的函数的泛化误差的已知极大极小结果。
2021-06-06 cs.LG
Active Safety Envelopes using Light Curtains with Probabilistic Guarantees
Carnegie Mellon University（卡内基梅隆大学）
为了安全地在未知环境中航行，机器人必须准确地感知动态障碍物。我们没有直接使用LiDAR传感器测量场景深度，而是探索使用一种更便宜、分辨率更高的传感器：可编程光幕。光幕是可控的深度传感器，仅沿用户选择的表面进行感测。我们使用光幕来估计场景的安全范围：一个将机器人与所有障碍物隔开的假设表面。我们表明，生成感测随机位置（从特定分布）的光幕可以快速发现具有未知对象的场景的安全包络。重要的是，我们产生的理论上的安全保证的概率检测障碍物使用随机窗帘。我们将随机窗帘与基于机器学习的模型相结合，该模型可以有效地预测和跟踪安全外壳的运动。我们的方法准确地估计安全信封，同时提供概率安全保证，可用于验证机器人感知系统的效率，以检测和避免动态障碍物。我们评估我们的方法在一个模拟的城市驾驶环境和现实世界的环境中移动的行人使用光幕设备，并表明我们可以有效地估计安全信封。项目网址：https://siddancha.github.io/projects/active-safety-envelopes-with-guarantees
2021-07-08 cs.AI cs.CV cs.LG
Nonmyopic Multifidelity Active Search
Washington University in St. Louis（圣路易斯华盛顿大学）；University of Toronto（多伦多大学）
主动搜索是一种学习范式，我们试图在给定标签预算的情况下识别尽可能多的稀有，有价值的类的成员。以前的主动搜索工作假设可以访问一个忠实的（和昂贵的）预言报告实验结果。然而，某些设置提供了更便宜的替代品，例如可能有助于搜索的计算模拟。我们提出了一个模型的多保真度主动搜索，以及一种新的，计算效率高的政策，这种设置是出于最先进的经典政策。我们的政策是非短视和预算意识，允许探索和开发之间的动态权衡。我们评估了我们的解决方案在真实世界数据集上的性能，并展示了比自然基准测试更好的性能。
2021-07-07 cs.LG
Approximation Guarantees of Local Search Algorithms via Localizability of Set Functions
National Institute of Informatics（国立信息学研究所）
本文提出了一个新的框架，提供近似保证的局部搜索算法。局部搜索是一种基本的算法设计技术，广泛应用于各种组合优化问题。为了分析集函数最大化的局部搜索算法，我们提出了一个新的概念，称为集函数的局部化能力，它衡量局部改进的有效性。此外，我们提供了近似保证标准的局部搜索算法在各种组合约束条件下的局部化。我们的框架的主要应用是稀疏优化，我们表明，限制性强的光滑性和限制性的目标函数意味着本地化，并进一步发展本地搜索算法的加速版本。我们在稀疏回归和图模型的结构学习中进行实验，以确认所提出的局部搜索算法的实际效率。
2020-06-02 cs.DS cs.LG
Similarity Search for Efficient Active Learning and Search of Rare Concepts
Stanford University（斯坦福大学）；Facebook AI（脸书人工智能）；University of Wisconsin（威斯康星大学）；Facebook AI Research（脸书人工智能研究院）
许多主动学习和搜索方法对于具有数十亿未标记示例的大规模工业环境是难以处理的。现有的方法在全局范围内搜索最优的样本来标记，与未标记的数据进行线性甚至二次缩放。在本文中，我们提高了计算效率的主动学习和搜索方法的限制候选池标记到最近的邻居的当前标记的集合，而不是扫描所有的未标记的数据。我们在三个大型计算机视觉数据集上评估了几种选择策略：ImageNet，OpenImages和一家大型互联网公司提供的100亿张图像的去识别和聚合数据集。我们的方法实现了类似的平均平均精度和召回率的传统的全球方法，同时减少了多达三个数量级的选择的计算成本，从而使网络规模的主动学习。
2021-07-22 cs.AI cs.CV cs.LG
Policy Search: Any Local Optimum Enjoys a Global Performance Guarantee
LORIA（洛林信息学及其应用研究实验室）；Supélec（高等电力学院）
局部策略搜索是一种用于处理大型状态空间的流行强化学习方法。形式上，它在参数化策略空间中进行本地搜索，以最大化在某些预定义分布上平均的关联价值函数。人们可能普遍认为，一般来说，从这种方法中所能希望的最好结果是得到该准则的局部最优值。在本文中，我们给出了以下令人惊讶的结果：\emph{any}（近似）\emph{local optimum}享有一个\emph{global performance guarantee} .我们比较这个guarantee与直接策略迭代，一个近似的动态规划算法，做一些形式的政策搜索满足：如果局部策略搜索的近似误差可能一般较大（因为局部搜索需要考虑一个空间的随机策略），我们认为，集中系数出现在性能界是更好的。最后，我们讨论了我们的分析的几个实际和理论后果。
2013-06-06 cs.AI cs.LG cs.RO
Conformal Autoregressive Generation: Beam Search with Coverage Guarantees
IBM Research（IBM研究院）
本文提出了两种基于 conformal predictions 的 beam search 扩展算法，通过动态子集和可变 beam width 生成具有理论覆盖保证的序列集，并在 NLP 和化学任务上进行了实证评估。
2023-09-07 cs.LG
Deep Active Learning with a Neural Architecture Search
Technion – Israel Institute of Technology（以色列理工学院）
我们考虑深度神经网络的主动学习。大多数主动学习作品在这方面的重点是研究有效的查询机制，并假设一个合适的网络架构是先验已知的问题。我们挑战这一假设，并提出了一种新的主动策略，使学习算法搜索有效的架构上飞，同时积极学习。我们应用我们的策略使用三个已知的查询技术（softmax响应，MC-辍学，和coresets），并表明所提出的方法压倒性地优于使用固定架构的主动学习。
2019-09-05 cs.LG stat.ML
Search Improves Label for Active Learning
Yahoo Research（雅虎研究院）；Columbia University（哥伦比亚大学）；Microsoft Research（微软研究院）；University of California, San Diego（加利福尼亚大学圣地亚哥分校）
我们研究了主动学习与访问两个不同的预言：标签（这是标准的）和搜索（这不是）。搜索预言机模拟了人类搜索数据库以播种或反例现有解决方案的情况。搜索比标签更强大，同时在许多情况下自然实现。我们表明，使用这两个预言机的算法可以提供指数级大的问题依赖的标签单独的改进。
2016-10-24 cs.LG stat.ML
Tail-Risk-Safe Monte Carlo Tree Search under PAC-Level Guarantees
The George Washington University（乔治·华盛顿大学）；New Jersey Institute of Technology（新泽西理工学院）
针对MCTS忽略尾部风险的问题，提出CVaR-MCTS和W-MCTS，分别嵌入CVaR度量和Wasserstein模糊集，提供PAC级尾部安全保证，实验验证优于基线。
2025-08-07 cs.AI cs.LG
Active Learning for Decision Trees with Provable Guarantees
本文提出了一种基于决策树的主动学习算法，通过可证明的保证实现多项对数级别的标签查询效率，并建立了标签复杂度的下界。
2026-02-18 cs.CC cs.DS cs.LG
Neural Active Learning Beyond Bandits
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；IBM Research（IBM研究院）
本文针对主动学习中类别数K带来的性能与计算开销问题，提出两种基于利用与探索神经网络的流式和池式主动学习算法，在非参数设置下提供理论保证，并实验验证其优于现有基线。
2024-04-18 cs.AI cs.LG
Active Algorithms For Preference Learning Problems with Multiple Populations
University of Wisconsin, Madison（威斯康星大学麦迪逊分校）；Walmart Labs（沃尔玛实验室）
在本文中，我们将人口的学习偏好问题建模为一个主动学习问题。我们提出了一种算法，可以自适应地选择项目对显示给来自异质人口的用户，并使用获得的奖励来决定哪对项目下一个显示。我们提供了计算效率高的算法与可证明的样本复杂性保证这个问题在无噪声和噪声的情况下。在为我们的算法建立样本复杂度保证的过程中，我们使用Nystr{<$} m类方法建立了新的结果，该方法可以是独立的。我们补充我们的理论结果与实验比较。
2016-06-22 cs.AI cs.LG stat.ML
Nonmyopic Multiclass Active Search with Diminishing Returns for Diverse Discovery
Washington University in St. Louis（圣路易斯华盛顿大学）
主动搜索是自适应实验设计中的一种设置，我们的目标是在预算约束下发现稀有、有价值的类的成员。在这个问题中，一个重要的考虑因素是发现的目标之间的多样性-在许多应用中，不同的发现提供了更多的洞察力，并且在下游任务中可能是优选的。然而，大多数现有的主动搜索策略要么假设所有目标属于一个共同的积极类，或鼓励通过简单的搜索多样性。我们提出了一种新的制定积极的搜索与多个目标类，其特征在于从一个灵活的家庭，其成员鼓励多样性通过收益递减机制的效用函数。然后，我们研究这个问题的贝叶斯透镜下，证明了一个硬度的结果，近似的最佳政策，任意积极的，增加的，凹效用函数。最后，我们设计了一个有效的，非近视近似的最佳政策，这类公用事业，并证明其优越的经验表现在各种设置，包括药物发现。
2023-02-17 cs.LG
Cost Aware Asynchronous Multi-Agent Active Search
Carnegie Mellon University（卡内基梅隆大学）
多智能体主动搜索要求自主智能体选择有效定位目标的感知动作。在现实环境中，代理人还必须考虑他们的决策所产生的成本。以前提出的主动搜索算法简化了问题，忽略了代理的环境中的不确定性，使用近视决策，和/或忽略成本。在本文中，我们引入了一个在线主动搜索算法来检测目标在一个未知的环境中，通过自适应成本意识的决策代理的行动。我们的算法结合了汤普森采样（搜索空间探索和分散的多智能体决策），蒙特卡罗树搜索（长期规划）和帕累托最优置信区间（在未知环境中的多目标优化）的原则，提出了一个在线前瞻计划，删除所有的简化。我们通过仿真分析了算法的性能，证明了算法在代价感知主动搜索中的有效性。
2022-10-05 cs.LG cs.MA cs.RO
Safe Active Feature Selection for Sparse Learning
Texas A&M University（得克萨斯农工大学）；University of Washington（华盛顿大学）
我们提出了安全的主动增量特征选择~（SAIF）来扩展LASSO解决方案的计算。SAIF不需要像在顺序筛选中那样来自较重惩罚参数的解决方案，也不需要像在动态筛选中那样针对每次迭代更新完整模型。与这些现有的筛选方法不同，SAIF从少量特征开始，逐步招募活跃特征并更新显著减少的模型。因此，它在计算上更加高效，并且随着特征的数量而可扩展。更重要的是，SAIF具有安全保证，因为它具有对原始完整LASSO问题的最优解的收敛保证。这种增量过程和理论收敛保证可以扩展到融合LASSO问题。与现有的筛选方法、工作集方法和同伦方法相比，SAIF方法在处理极高维数据集时，在保证安全性的前提下，具有更高的效率和可扩展性。使用合成和真实世界数据集的实验表明，SAIF可以比动态筛选快50倍，比计算LASSO或融合LASSO解决方案快数百倍。
2018-06-19 cs.LG stat.ML
Active Search for Sparse Signals with Region Sensing
Carnegie Mellon University（卡内基梅隆大学）；Washington University in St. Louis（圣路易斯华盛顿大学）
自治系统可以用于在大空间中搜索稀疏信号;例如，空中机器人可以用来定位威胁，探测气体泄漏，或响应求救电话。直观地，搜索算法可以通过收集汇总大的连续区域的聚合测量来提高效率。然而，大多数现有的搜索方法要么忽略这种区域观测的可能性（例如，贝叶斯优化和多臂强盗）或对允许每个测量任意编码整个环境中的所有信号的感测机制做出强假设（例如，压缩感测）。我们提出了一种基于信息增益贪婪最大化的算法，该算法仅使用矩形区域（包括单点）上平均值的有噪测量来主动收集数据以搜索稀疏信号。我们分析了我们的算法在一维，并表明，它需要$\tilde{O}(\frac{n}{μ^2}+k^2)$测量恢复所有的$k$信号的位置与小贝叶斯误差，其中$μ$和$n$的信号强度和搜索空间的大小，分别。我们还表明，有源设计可以从根本上比区域感测的无源设计更有效，与Arias-Castro，Candes和Davenport（2013）的结果形成对比。我们证明了我们的算法的经验性能的搜索问题，使用卫星图像数据和高维。
2016-12-02 cs.AI cs.LG stat.ML
Multi-class Generalized Binary Search for Active Inverse Reinforcement Learning
INESC-ID/Instituto Superior Técnico（INESC-ID/高等技术学院）；INRIA Bordeaux Sud-Ouest（法国国立信息与自动化研究院波尔多西南分院）
本文讨论了从演示中学习任务的问题。我们采用逆强化学习的框架，其中任务以奖励函数的形式表示。我们的贡献是一种新的主动学习算法，使学习代理查询专家提供更多的信息演示，从而导致更多的样本有效的学习。对于这种新算法（广义二进制搜索逆强化学习，或GBS-IRL），我们提供了一个理论上的样本复杂度的界限，并说明其适用于几个不同的任务。据我们所知，GBS-IRL是第一个主动IRL算法与可证明的样本复杂度界。我们还讨论了我们的方法，在文献中的其他现有的方法和它的一般适用性，在多类分类问题。最后，由最近的工作在机器人的示教学习的动机，我们还讨论了如何不同形式的人类反馈可以集成在我们的学习框架中的一个透明的方式。
2013-01-23 cs.AI cs.LG stat.ML
Active Search for Nearest Neighbors
Handong Global University（韩东国际大学）
在模式识别或机器学习中，寻找给定点的最近邻是一项非常基本的任务。任务的所有方法基本上都是通过将给定点与数据集中的所有点进行比较来工作的。这就是为什么计算成本随着数据点的数量而增加。然而，人类的视觉系统似乎以不同的方式工作。当人类视觉系统试图在地图上找到一个点的邻居时，它直接关注该点周围的区域，并通过查看或放大和缩小该点来主动搜索邻居。在本文中，我们提出了一种创新的搜索方法，最近的邻居，这似乎非常类似于人类视觉系统的工作方式的任务。
2019-12-08 cs.LG
Bayesian Optimal Active Search and Surveying
Carnegie Mellon University（卡内基梅隆大学）；Uppsala Universitet（乌普萨拉大学）
我们考虑两个积极的二进制分类问题与非典型目标。在第一个主动搜索中，我们的目标是主动发现尽可能多的给定类的成员。在第二个主动调查中，我们的目标是主动查询点，以最终预测给定类的比例。许多现实世界中的问题都可以用这些术语来描述，在任何一种情况下，典型的基于模型的问题，如泛化误差都只是次要的。我们通过贝叶斯决策理论来解决这些问题，在选择自然效用函数后，我们得到最优策略。我们提供三项贡献。除了引入主动测量问题，我们扩展了以前的工作，主动搜索在两个方面。首先，我们证明了一个新的理论结果，少近视近似的最优策略可以优于任何程度的近视近似。然后，我们推导出的界限，对于某些模型，使我们能够减少（在实践中显着）的指数搜索空间所需的一个天真的实施的最佳政策，使进一步的前瞻，同时仍然确保最佳决策总是。
2012-06-27 cs.LG stat.ML
Multi-Agent Active Search using Realistic Depth-Aware Noise Model
Robotics Institute, School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院机器人研究所）；School of Earth Sciences, Ohio State University（俄亥俄州立大学地球科学学院）
在未知环境中主动搜索感兴趣的物体有许多机器人应用，包括搜索和救援，检测气体泄漏或定位动物偷猎者。现有的算法通常优先考虑感兴趣的对象的位置精度，而其他实际问题，如作为距离和视线的函数的目标检测的可靠性仍然在很大程度上被忽略。此外，在许多主动搜索场景中，通信基础设施可能不可靠或未建立，使得对多个代理的集中控制不切实际。我们提出了一种算法，称为噪声感知汤普森采样（NATS），解决这些问题的多个地面机器人进行主动搜索考虑两个来源的感官信息从单目光学图像和深度图。通过使用汤普森采样，NATS允许多个代理之间的分散协调。NATS还考虑了来自深度的目标检测不确定性以及环境遮挡，并且在保持对感兴趣的对象的数量不可知的同时进行操作。使用模拟结果，我们表明，NATS显着优于现有的方法，如信息贪婪的政策或穷举搜索。我们展示了现实世界的可行性NATS使用伪现实环境中创建的虚幻引擎4游戏开发平台与AirSim插件。
2021-03-22 cs.AI cs.LG cs.RO
Active Geospatial Search for Efficient Tenant Eviction Outreach
Washington University in St. Louis（圣路易斯华盛顿大学）；George Mason University（乔治梅森大学）
针对租户驱逐风险，提出主动地理空间搜索（AGS）建模框架，结合物业级信息与分层强化学习策略，在预算约束下平衡探索与利用，动态识别高风险出租单元并提供支持，显著优于基线方法。
2024-12-19 cs.AI cs.CY cs.LG
Composite Active Learning: Towards Multi-Domain Active Learning with Theoretical Guarantees
Rutgers（罗格斯大学）
本文提出复合主动学习（CAL），首个通用多领域主动学习方法，通过优化上界误差分配领域预算并结合实例级查询策略，在理论和实证上优于现有方法。
2024-02-03 cs.AI cs.CV cs.LG
Active-DiNTS: Active Differentiable Network Topology Search
XLIM, Université de Poitiers（普瓦捷大学XLIM实验室）；Université de Limoges, CNRS（利摩日大学，法国国家科学研究中心）
提出Active-DiNTS，将主动学习嵌入双层可微分拓扑搜索，联合优化架构与标注，在单GPU上以少量标注超越现有方法，显著提升3D分割精度与效率。
2026-10-06 cs.AI cs.CV cs.LG
Part-X: A Family of Stochastic Algorithms for Search-Based Test Generation with Probabilistic Guarantees
Arizona State University（亚利桑那州立大学）；Yuan Ze University（元智大学）；Lockheed Martin（洛克希德·马丁公司）
需求驱动的基于搜索的测试（也称为证伪）已被证明是一种实用和有效的方法，发现错误的行为，在网络物理系统。尽管证伪方法的性能和适用性不断改进，但它们都有一个共同的特点。也就是说，它们是尽力而为的方法，当测试预算耗尽时，它们不能保证不存在错误行为（证伪者）。缺乏有限的时间保证是一个主要的限制，妨碍了在核证程序中使用伪造方法。在本文中，我们解决有限时间保证问题，通过开发一个新的随机算法。我们提出的算法不仅估计（边界）的概率，伪造行为存在，但它也确定了这些伪造行为可能发生的区域。我们证明了我们的方法的适用性标准的基准函数从优化文献和F16基准问题。
2021-10-20 cs.AI cs.DS cs.LG
Amortized nonmyopic active search via deep imitation learning
Washington University in St. Louis（圣路易斯华盛顿大学）
本文提出用深度模仿学习训练策略网络，摊销昂贵的非近视主动搜索策略，在保持接近专家性能的同时大幅降低计算成本。
2024-05-23 cs.LG
Active Learning for Nonlinear System Identification with Guarantees
University of California, Berkeley（加州大学伯克利分校）
虽然非线性动态系统的识别是基于模型的强化学习和反馈控制的基本构建块，但其样本复杂性仅适用于具有离散状态和动作的系统，或者可以从i.i.d.生成的数据中识别的系统。随机输入。尽管如此，许多有趣的动力系统具有连续的状态和动作，只能通过明智的输入选择来识别。受实际背景的启发，我们研究了一类非线性动力系统，其状态转移线性依赖于状态-动作对的已知特征嵌入。为了在有限时间内估计这样的系统，识别方法必须在特征空间中探索所有方向。我们提出了一种主动学习方法，通过重复三个步骤来实现这一目标：轨迹规划，轨迹跟踪和从所有可用数据重新估计系统。我们表明，我们的方法估计非线性动力系统的参数率，类似于标准的线性回归的统计率。
2020-06-18 cs.LG math.OC stat.ML
Active Contextual Entropy Search
Universität Bremen（不来梅大学）；DFKI GmbH（德国人工智能研究中心有限公司）
上下文策略搜索允许机器人运动原语适应不同的情况。例如，运动基元可以适于不同的地形倾斜度或期望的行走速度。这种自适应通常可以通过修改少量的超参数来实现。然而，当在真实的机器人系统上进行学习时，通常仅限于少量的试验。贝叶斯优化最近被提出作为一个样本有效的上下文策略搜索，是非常适合在这些条件下的手段。在这项工作中，我们扩展熵搜索，贝叶斯优化的一个变种，使它可以用于主动上下文策略搜索的代理选择这些任务在训练过程中，它期望学习最。模拟实验的结果表明，这使得学习成功的行为与更少的尝试。
2015-11-16 cs.LG stat.ML
PAC Apprenticeship Learning with Bayesian Active Inverse Reinforcement Learning
本文提出PAC-EIG获取函数，通过最大化学徒策略遗憾的信息增益，首次为带噪声专家示范的主动逆强化学习提供PAC理论保证，并实验验证其优于现有启发式方法。
2025-09-19 cs.LG
Active Learning for Product Type Ontology Enhancement in E-commerce
The Home Depot（家得宝）
基于语义的语义搜索已被现代搜索引擎广泛采用，以通过理解用户的意图来提高搜索的准确性。在电子商业中，准确、完整的产品类型（PT）本体对于识别查询中的产品实体和从目录中检索相关产品至关重要。然而，寻找产品类型（PT）构建这样的本体通常是昂贵的，由于它可能涉及相当数量的人力。在这项工作中，我们提出了一个主动学习框架，有效地利用领域专家的知识PT发现。我们还在实验结果中显示了所得到的PT的质量和覆盖率。
2021-03-11 cs.AI cs.CL cs.LG
A Hierarchical Approach to Scaling Batch Active Search Over Structured Data
Stanford University（斯坦福大学）
主动搜索是在大型且通常是高维的参数空间中识别高值数据点的过程，这些参数空间的评估成本可能很高。传统的主动搜索技术（如贝叶斯优化）在连续评估中权衡了探索和利用，并且历史上专注于每轮评估的单个或少量（<5）示例。随着现代数据集的增长，需要将主动搜索扩展到大型数据集和批量大小。在本文中，我们提出了一个一般的层次框架的基础上，强盗算法的规模积极搜索大批量的大小，最大限度地提高信息来自每个数据集的独特结构。我们的分层框架，分层批量Bandit搜索（HBBS），通过促进对数据集内不同结构元素的广泛探索，在学习的嵌入空间中战略性地分布批量选择。我们将HBBS的应用集中在现代生物学上，大批量实验通常是研究过程的基础，并演示了生物序列（蛋白质和DNA）的批量设计。我们还提出了一个新的Gym环境，可以轻松地模拟不同的生物序列，并能够更全面地评估跨异构数据集的主动搜索方法。HBBS框架通过在结构化数据的每个分区内使用跨粗分区的广泛探索策略和细粒度利用，改进了用于批处理搜索的标准性能、挂钟和可扩展性基准。
2020-07-20 cs.LG q-bio.QM stat.ML
Dynamic Ensemble Active Learning: A Non-Stationary Bandit with Expert Advice
University of Edinburgh（爱丁堡大学）；University College London（伦敦大学学院）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
主动学习旨在通过预测哪些样本对人类教师标记有用来降低注释成本。然而，很明显，不存在最佳的主动学习算法。受各种关于什么是好的标准的哲学的启发，不同的算法在不同的数据集上表现良好。这促使人们研究主动学习者的集合，这些学习者通常通过多臂强盗算法来学习在给定场景中构成良好标准的内容。虽然算法集成可以带来更好的结果，但它们忽略了一个事实，即算法效率不仅在数据集之间存在差异，而且在单个主动学习会话期间也存在差异。也就是说，最好的标准是非平稳的。这打破了现有算法的保证，并阻碍了它们在实践中的性能。在本文中，我们提出动态集成主动学习作为一个更普遍和有前途的研究方向。我们开发了一个动态集成主动学习器的基础上，非平稳的多臂强盗专家建议算法。我们的动态集成在主动学习的每一步都选择正确的标准。它有理论上的保证，并在$13$流行的数据集上显示出令人鼓舞的结果。
2018-09-29 cs.AI cs.LG stat.ML
Adaptive Submodularity: Theory and Applications in Active Learning and Stochastic Optimization
California Institute of Technology（加州理工学院）；ETH Zurich（苏黎世联邦理工学院）
在部分可观测性下求解随机优化问题，其中需要自适应地做出具有不确定结果的决策，这是一个基本但众所周知的困难挑战。在本文中，我们引入了自适应子模块的概念，推广子模块集函数的自适应政策。我们证明了，如果一个问题满足这一性质，一个简单的自适应贪心算法是保证竞争的最优策略。除了为随机最大化和覆盖提供性能保证之外，还可以利用自适应子模块化通过使用惰性评估来大幅加速贪心算法。我们说明了有用的概念，给出了几个例子，自适应子模块化的目标在不同的应用，包括传感器的位置，病毒式营销和主动学习。证明这些问题的自适应子模块性，使我们能够恢复现有的结果在这些应用中的特殊情况下，提高近似保证和处理自然的推广。
2017-12-06 cs.AI cs.DS cs.LG
On the Discrimination Power and Effective Utilization of Active Learning Measures in Version Space Search
Alpen-Adria Universität Klagenfurt（克拉根福阿尔卑斯-亚德里亚大学）
主动学习（AL）方法已被证明在许多应用领域比被动监督方法节省成本。一个主动的学习者，旨在找到一些目标假设，制定顺序查询一些神谕。与已经回答的查询一致的假设集称为版本空间。已经提出了几个查询选择措施（QSM），以确定最好的查询问下一个。假设binaryoutcome查询，我们分析各种QSM wrt。在当前版本空间内他们选择的查询的辨别力。因此，我们得出这些QSM之间的优越性和等价关系，并引入现有的QSM的改进版本，以克服确定的问题。所获得的图片给出了关于在基于池的AL场景中应该优选使用哪些QSM的提示。此外，我们推导出最优查询wrt的性质。QSM必须满足。在此基础上，我们展示了如何有效的启发式搜索方法的最佳查询，查询合成AL的情况下，可以设计。
2017-09-22 cs.LG
Evaluator Ensembles Under Reward Hacking: Covariance Geometry and Finite-Search Guarantees
Kalinga Institute of Industrial Technology（卡林加工业技术学院）；Iowa State University（爱荷华州立大学）
该研究针对奖励黑客攻击下评估器集成的失效问题，基于协方差几何分析，提出有限搜索的保证方法，通过压力测试与模型审计验证理论，明确分歧诊断的局限。
2026-08-11 cs.LG
Active Learning with Neural Networks: Insights from Nonparametric Statistics
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本文提出基于非参数统计学的深度主动学习方法，首次提供了近最优的标签复杂性保证，无需低噪声假设，并扩展至Radon BV²空间。
2025-12-30 cs.LG stat.ML
Low-Cost Learning via Active Data Procurement
University of Michigan（密歇根大学）；Harvard SEAS（哈佛大学约翰·A·保尔森工程与应用科学学院）；UCLA（加州大学洛杉矶分校）
我们设计的机制，在线采购数据的战略代理机器学习任务。挑战在于使用过去的数据来积极地为未来的数据定价，并提供学习保证，即使代理人透露数据的成本可能任意取决于数据本身。我们通过展示如何将一大类无遗憾算法转换为在线发布价格和学习机制来实现这一目标。我们的结果在某种意义上平行经典样本的复杂性保证，但与关键资源是金钱，而不是数据量：与预算约束$B$，我们给强大的风险（预测误差）界的顺序$1/\sqrt{B}$。因为我们使用主动的方法，我们通常可以通过利用成本和数据之间的相关性来保证做得更好。我们的算法和分析经历了一个模型的无悔学习$T$到达对（成本，数据）和预算约束$B$。我们对这个模型的遗憾界的顺序是$T/\sqrt{B}$，我们给出了相同的顺序下界。
2015-06-06 cs.AI cs.GT cs.LG
Active Reinforcement Learning with Monte-Carlo Tree Search
University of Oxford（牛津大学）
主动强化学习（ARL）是强化学习的一种扭曲，其中代理只有在支付成本时才会观察奖励信息。这种微妙的变化使探索更具挑战性。强化学习中强大的原则，如乐观主义、汤普森抽样和随机探索，对ARL没有帮助。我们将表格环境中的ARL与贝叶斯自适应MDP相关联。我们提供了一个ARL算法，使用蒙特卡罗树搜索是渐近贝叶斯最优的。实验表明，该算法在小Bandit问题和MDP上是近最优的。在更大的MDP上，它的表现优于用ARL的专门算法增强的Q学习器。通过详细分析探索行为，我们发现了扩大基于模拟的算法ARL的障碍。
2018-03-26 cs.LG stat.ML
An Active Learning Framework for Efficient Robust Policy Search
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Indian Institute of Technology Madras（马德拉斯印度理工学院）
鲁棒策略搜索是学习策略的问题，这些策略在受到未知环境模型参数的影响时不会降低性能。它特别适用于将在模拟环境中学到的政策转移到现实世界。现有的几种方法涉及对大量反映各种可能环境差异的轨迹进行采样，然后选择其中的一些子集来学习鲁棒策略，例如导致最差性能的策略。我们提出了一个基于主动学习的框架，EffAcTS，选择性地选择模型参数，以便只收集尽可能多的数据，必要的选择这样一个子集。我们使用线性Bandits应用这个框架，并通过实验验证了样本效率的增益和我们的方法在标准连续控制任务上的性能。我们还提出了一个多任务学习的角度来看，强大的政策搜索的问题，并从我们提出的框架，现有的工作多任务学习的连接。
2021-11-21 cs.AI cs.LG cs.RO
Active Nearest-Neighbor Learning in Metric Spaces
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；York University（约克大学）
我们提出了一个基于池的非参数主动学习算法一般度量空间，称为MARGIN正则度量主动最近邻（MARMANN），输出一个最近邻分类器。我们给预测误差的保证，依赖于输入样本的噪声裕度属性，并与以前提出的被动学习者所获得的竞争力。我们证明了MARMANN的标签复杂性显着低于任何被动学习者具有类似的错误保证。MARMANN是基于一个广义的样本压缩方案，和一个新的标签有效的主动模型选择过程。
2018-10-31 cs.LG math.ST stat.TH
Convergence of Uncertainty Sampling for Active Learning
Inria（法国国家信息与自动化研究所）；Ecole Normale Supérieure（巴黎高等师范学院）；PSL Research University（巴黎文理研究大学）
主动学习中的不确定性采样在实践中被大量使用以降低标注成本。然而，一直没有广泛的共识的功能，用于不确定性估计在二进制分类任务和相应的主动学习算法的收敛保证没有得到很好的理解。对于多类别分类来说，这种情况更具挑战性。在这项工作中，我们提出了一个有效的不确定性估计的二进制分类，我们也扩展到多个类，并提供了一个非渐近收敛速度为我们的不确定性采样为基础的主动学习算法在这两种情况下，在无噪声条件下（即，线性可分离数据）。我们还扩展我们的分析，噪声的情况下，我们的算法在噪声的影响下，在二进制和多类分类任务提供理论保证。
2021-10-29 cs.LG math.OC
Flattening a Hierarchical Clustering through Active Learning
INRIA Lille（里尔法国国家信息与自动化研究所）；Sapienza University of Rome（罗马大学）；Google（谷歌）
我们研究主动学习的两两相似性的树叶起源于层次聚类程序。在可实现的设置中，我们提供了一个完整的表征的查询数量需要实现完美的重建的树切割。在不可实现的设置，我们依靠已知的重要抽样程序，以获得遗憾和查询复杂性的界限。我们的算法来与理论保证的统计误差，更重要的是，借给自己的线性时间实现的相关参数的问题。我们讨论这样的实现，证明他们的运行时间保证，并在现实世界的数据集上展示了令人信服的实际性能相比，被动学习和简单的主动学习基线我们的算法的初步实验。
2019-10-12 cs.LG stat.ML
Asynchronous Multi Agent Active Search
Carnegie Mellon University（卡内基梅隆大学）
主动搜索是指通过主动做出数据收集决策来有效地在未知环境中定位目标的问题，并且具有许多应用，包括使用空中和/或地面机器人（代理）检测气体泄漏，辐射源或灾难的人类幸存者。现有的主动搜索方法一般只适用于单个智能体，或者如果它们扩展到多智能体，它们需要一个中央控制系统来协调所有智能体的动作。然而，这样的控制系统在机器人应用中通常是不切实际的。在本文中，我们提出了两种不同的主动搜索算法，称为SPATS（稀疏并行异步汤普森采样）和LATSI（LAplace汤普森采样与信息增益），允许多个代理独立地进行数据收集决策，而无需中央协调员。在整个过程中，我们认为目标稀疏地分布在环境中，以符合压缩感知假设及其在现实世界中的适用性。此外，虽然大多数常见的搜索算法假设智能体可以随时感知整个环境（例如压缩感知）或逐点感知（例如贝叶斯优化），但我们做出了一个现实的假设，即每个智能体每次只能感知空间的连续区域。我们提供了仿真结果以及理论分析，以证明我们所提出的算法的有效性。
2020-06-25 cs.LG cs.RO eess.SP
Efficient Evaluation of LLM Performance with Statistical Guarantees
Department of Statistics（统计学系）
本文提出Factorized Active Querying方法，在有限查询预算下通过统计推断提升模型准确率的置信区间，实现有效样本量提升5倍，支持可重复评估。
2026-10-30 cs.LG stat.ML
Efficient Active Learning with Abstention
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本文提出了一种高效的主动学习算法，允许在困难样本上回避预测，从而显著降低标签复杂性，同时避免噪声寻求行为。
2025-12-29 cs.LG stat.ML
Improving Differentially Private Models with Active Learning
UC Irvine（加州大学欧文分校）；Google Brain（谷歌大脑）
机器学习技术的广泛采用增加了对敏感数据（如医疗记录）训练的模型的隐私问题。现有的训练差分隐私（DP）模型的技术提供了严格的隐私保证，但将这些技术应用于神经网络会严重降低模型的性能。这种性能降低是在现实世界中部署私有模型的一个障碍。在这项工作中，我们通过对公共数据的主动学习来微调DP模型，从而提高DP模型的性能。我们引入了两种新技术- DIVERSEPUBLIC和NEARPRIVATE -用于以隐私感知的方式进行微调。对于MNIST和SVHN数据集，这些技术提高了DP模型的最新准确性，同时保留了隐私保证。
2019-10-02 cs.LG stat.ML
Fast Neural-Network Approximation of Active Target Search Under Uncertainty
Technical University of Cluj-Napoca（克卢日-纳波卡技术大学）
本文提出用卷积神经网络近似主动搜索算法，以降低在线计算成本，通过多通道网格训练实现目标检测率与传统方法相当。
2026-04-24 cs.LG cs.MA
Multi-Agent Active Search using Detection and Location Uncertainty
Carnegie Mellon University（卡内基梅隆大学）
本文提出了一种联合处理目标检测和位置不确定性的推理方法，并基于Thompson sampling构建去中心化多智能体主动搜索决策算法，仿真和真实环境实验证明其优于仅考虑单一不确定性的基线方法。
2023-05-22 cs.LG cs.MA cs.RO
Modelling Human Active Search in Optimizing Black-box Functions
University of Milano-Bicocca（米兰比可卡大学）
人类功能学习的建模一直是认知科学研究的热点。该主题与黑盒优化相关，其中有关目标和/或约束的信息不可用，必须通过函数求值来学习。在本文中，我们专注于人类的行为之间的关系，寻找最大值和概率模型中使用的贝叶斯优化。作为未知函数的代理模型，高斯过程和随机森林都被考虑：贝叶斯学习范式是主动学习方法发展的核心，在不确定条件下平衡探索/利用，在大决策空间中实现有效的泛化。在本文中，我们通过实验分析了贝叶斯优化与人类搜索未知2D函数的最大值的比较。一组有60名受试者的对照实验，使用两种代理模型，证实贝叶斯优化提供了一个通用模型来表示人类主动学习的个体模式
2020-03-09 cs.CY cs.LG math.OC
Algorithmic Optimality Guarantees for Nonsmooth $H_\infty$ Output-Feedback Policy Search
针对非光滑 $H_\infty$ 输出反馈策略搜索，证明在扩展凸提升的精确切片上 $\varepsilon$-平稳性导致 $O(\varepsilon)$-次优性，给出收敛速率保证，并提出二分法构造显式 $\varepsilon$-最优镇定控制器。
2026-09-10 cs.LG cs.SY eess.SY
Scaling Active Search using Linear Similarity Functions
Carnegie Mellon University（卡内基梅隆大学）
主动搜索已经成为信息检索问题中越来越有用的工具，其目标是仅使用有限的标签查询来发现尽可能多的目标元素。随着大数据的出现，人们越来越强调这种技术的可扩展性，以处理非常大和非常复杂的数据集。在本文中，我们考虑主动搜索的问题，我们被赋予一个相似性函数之间的数据点。我们研究了Wang et al. [2013]为图上的主动搜索引入的算法，并提出了关键的修改，使其能够显着扩展。他们的方法通过最小化由数据上的相似性函数引起的图上的能量函数来选择点。我们的修改要求相似性函数是数据点的特征向量之间的点积，相当于具有邻接矩阵的线性核。有了这个，我们能够极大地扩展：对于$n$数据点，原始算法在每次迭代中运行$O(n^2)$时间，而我们的算法在给定$r$维特征的情况下仅运行$O(nr + r^2)$。我们还描述了一个简单的替代方法，使用加权邻居预测，也规模很好。在我们的实验中，我们表明，我们的方法与现有的半监督方法是有竞争力的。我们还简要讨论了我们的算法表现良好的条件下。
2017-08-22 cs.LG stat.ML
ZAPS: Zero-Cost Active Proxy Search for Neural Architecture Search
ENSICAEN（卡昂国立高等工程师学校）；ISIA Lab, Université de Mons（蒙斯大学ISIA实验室）
ZAPS提出四阶段零成本主动代理搜索流水线，结合抗冗余代理选择、混合K-means播种、自助投票重选及XGBoost集成，在NAS-Bench-201上以200次评估恢复超半数真实顶级架构，优于现有基线。
2026-09-15 cs.LG
