Deep Active Learning with a Neural Architecture Search
Technion – Israel Institute of Technology(以色列理工学院)
我们考虑深度神经网络的主动学习。大多数主动学习作品在这方面的重点是研究有效的查询机制,并假设一个合适的网络架构是先验已知的问题。我们挑战这一假设,并提出了一种新的主动策略,使学习算法搜索有效的架构上飞,同时积极学习。我们应用我们的策略使用三个已知的查询技术(softmax响应,MC-辍学,和coresets),并表明所提出的方法压倒性地优于使用固定架构的主动学习。
2019-09-05 cs.LG stat.ML
Search Improves Label for Active Learning
Yahoo Research(雅虎研究院);Columbia University(哥伦比亚大学);Microsoft Research(微软研究院);University of California, San Diego(加利福尼亚大学圣地亚哥分校)
我们研究了主动学习与访问两个不同的预言:标签(这是标准的)和搜索(这不是)。搜索预言机模拟了人类搜索数据库以播种或反例现有解决方案的情况。搜索比标签更强大,同时在许多情况下自然实现。我们表明,使用这两个预言机的算法可以提供指数级大的问题依赖的标签单独的改进。
2016-10-24 cs.LG stat.ML
Cost Aware Asynchronous Multi-Agent Active Search
Carnegie Mellon University(卡内基梅隆大学)
多智能体主动搜索要求自主智能体选择有效定位目标的感知动作。在现实环境中,代理人还必须考虑他们的决策所产生的成本。以前提出的主动搜索算法简化了问题,忽略了代理的环境中的不确定性,使用近视决策,和/或忽略成本。在本文中,我们引入了一个在线主动搜索算法来检测目标在一个未知的环境中,通过自适应成本意识的决策代理的行动。我们的算法结合了汤普森采样(搜索空间探索和分散的多智能体决策),蒙特卡罗树搜索(长期规划)和帕累托最优置信区间(在未知环境中的多目标优化)的原则,提出了一个在线前瞻计划,删除所有的简化。我们通过仿真分析了算法的性能,证明了算法在代价感知主动搜索中的有效性。
2022-10-05 cs.LG cs.MA cs.RO
Nonmyopic Multiclass Active Search with Diminishing Returns for Diverse Discovery
Washington University in St. Louis(圣路易斯华盛顿大学)
主动搜索是自适应实验设计中的一种设置,我们的目标是在预算约束下发现稀有、有价值的类的成员。在这个问题中,一个重要的考虑因素是发现的目标之间的多样性-在许多应用中,不同的发现提供了更多的洞察力,并且在下游任务中可能是优选的。然而,大多数现有的主动搜索策略要么假设所有目标属于一个共同的积极类,或鼓励通过简单的搜索多样性。我们提出了一种新的制定积极的搜索与多个目标类,其特征在于从一个灵活的家庭,其成员鼓励多样性通过收益递减机制的效用函数。然后,我们研究这个问题的贝叶斯透镜下,证明了一个硬度的结果,近似的最佳政策,任意积极的,增加的,凹效用函数。最后,我们设计了一个有效的,非近视近似的最佳政策,这类公用事业,并证明其优越的经验表现在各种设置,包括药物发现。
2023-02-17 cs.LG
Active Search for Nearest Neighbors
Handong Global University(韩东国际大学)
在模式识别或机器学习中,寻找给定点的最近邻是一项非常基本的任务。任务的所有方法基本上都是通过将给定点与数据集中的所有点进行比较来工作的。这就是为什么计算成本随着数据点的数量而增加。然而,人类的视觉系统似乎以不同的方式工作。当人类视觉系统试图在地图上找到一个点的邻居时,它直接关注该点周围的区域,并通过查看或放大和缩小该点来主动搜索邻居。在本文中,我们提出了一种创新的搜索方法,最近的邻居,这似乎非常类似于人类视觉系统的工作方式的任务。
2019-12-08 cs.LG
Cost-Aware Diffusion Active Search
School of Computer Science, Carnegie Mellon University(计算机科学系,卡内基梅隆大学)
本文提出基于扩散模型的主动搜索方法,通过序列建模能力采样动作序列,实现高效成本感知决策,提升目标恢复率。
2026-02-23 cs.AI cs.LG cs.RO
Efficient Active Search for Combinatorial Optimization Problems
Bielefeld University(比勒费尔德大学);Samsung SDS(三星SDS)
最近,已经提出了许多用于组合优化问题的基于机器学习的方法,这些方法通过强化学习在顺序决策过程中学习构造解。虽然这些方法可以很容易地与像采样和束搜索这样的搜索策略相结合,但是将它们集成到提供强搜索指导的高级搜索过程中并不简单。Bello等人(2016)提出了主动搜索,它使用强化学习在测试时调整(训练)模型相对于单个实例的权重。虽然主动搜索很容易实现,但它与最先进的方法没有竞争力,因为为每个测试实例调整所有模型权重是非常耗时和内存密集的。而不是更新所有的模型权重,我们提出并评估三个有效的主动搜索策略,只更新一个子集的参数在搜索过程中。所提出的方法提供了一种简单的方法,显着提高搜索性能的一个给定的模型,并优于国家的最先进的机器学习的组合问题的方法,甚至超过了著名的启发式求解器LKH 3的能力限制的车辆路径问题。最后,我们证明了(有效的)主动搜索使学习模型能够有效地解决比训练过程中看到的大得多的实例。
2022-03-15 cs.AI cs.LG math.OC
Similarity Search for Efficient Active Learning and Search of Rare Concepts
Stanford University(斯坦福大学);Facebook AI(脸书人工智能);University of Wisconsin(威斯康星大学);Facebook AI Research(脸书人工智能研究院)
许多主动学习和搜索方法对于具有数十亿未标记示例的大规模工业环境是难以处理的。现有的方法在全局范围内搜索最优的样本来标记,与未标记的数据进行线性甚至二次缩放。在本文中,我们提高了计算效率的主动学习和搜索方法的限制候选池标记到最近的邻居的当前标记的集合,而不是扫描所有的未标记的数据。我们在三个大型计算机视觉数据集上评估了几种选择策略:ImageNet,OpenImages和一家大型互联网公司提供的100亿张图像的去识别和聚合数据集。我们的方法实现了类似的平均平均精度和召回率的传统的全球方法,同时减少了多达三个数量级的选择的计算成本,从而使网络规模的主动学习。
2021-07-22 cs.AI cs.CV cs.LG
Amortized nonmyopic active search via deep imitation learning
Washington University in St. Louis(圣路易斯华盛顿大学)
本文提出用深度模仿学习训练策略网络,摊销昂贵的非近视主动搜索策略,在保持接近专家性能的同时大幅降低计算成本。
2024-05-23 cs.LG
On the Discrimination Power and Effective Utilization of Active Learning Measures in Version Space Search
Alpen-Adria Universität Klagenfurt(克拉根福阿尔卑斯-亚德里亚大学)
主动学习(AL)方法已被证明在许多应用领域比被动监督方法节省成本。一个主动的学习者,旨在找到一些目标假设,制定顺序查询一些神谕。与已经回答的查询一致的假设集称为版本空间。已经提出了几个查询选择措施(QSM),以确定最好的查询问下一个。假设binaryoutcome查询,我们分析各种QSM wrt。在当前版本空间内他们选择的查询的辨别力。因此,我们得出这些QSM之间的优越性和等价关系,并引入现有的QSM的改进版本,以克服确定的问题。所获得的图片给出了关于在基于池的AL场景中应该优选使用哪些QSM的提示。此外,我们推导出最优查询wrt的性质。QSM必须满足。在此基础上,我们展示了如何有效的启发式搜索方法的最佳查询,查询合成AL的情况下,可以设计。
2017-09-22 cs.LG
Efficient search of active inference policy spaces using k-means
VERSES Research Labs(VERSES研究实验室);Monash University(莫纳什大学);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
我们开发了一种主动推理中的策略选择方法,该方法使我们能够通过将每个策略映射到其在向量空间中的嵌入来有效地搜索大的策略空间。我们对空间中代表点的预期自由能进行采样,然后围绕这个初始样本中最有希望的点进行更彻底的策略搜索。我们考虑各种方法来创建的政策嵌入空间,并建议使用k-均值聚类选择代表点。我们将我们的技术应用到一个面向目标的图遍历问题,其中天真的政策选择是棘手的,即使是中等规模的图形。
2022-10-06 cs.AI cs.LG
Active Reinforcement Learning with Monte-Carlo Tree Search
University of Oxford(牛津大学)
主动强化学习(ARL)是强化学习的一种扭曲,其中代理只有在支付成本时才会观察奖励信息。这种微妙的变化使探索更具挑战性。强化学习中强大的原则,如乐观主义、汤普森抽样和随机探索,对ARL没有帮助。我们将表格环境中的ARL与贝叶斯自适应MDP相关联。我们提供了一个ARL算法,使用蒙特卡罗树搜索是渐近贝叶斯最优的。实验表明,该算法在小Bandit问题和MDP上是近最优的。在更大的MDP上,它的表现优于用ARL的专门算法增强的Q学习器。通过详细分析探索行为,我们发现了扩大基于模拟的算法ARL的障碍。
2018-03-26 cs.LG stat.ML
Machine Learning for Complex Systems Dynamics: Detecting Bifurcations in Dynamical Systems with Deep Neural Networks
MS2Discovery Interdisciplinary Research Institute, Wilfrid Laurier University, Waterloo, Canada;Department of Mathematics, SRM Institute of Science;BCAM - Basque Center for Applied Mathematics, Bilbao, Spain
本文提出基于深度神经网络的EINNs方法,用于检测复杂系统中临界转变的阈值,通过平衡状态输入推断参数以识别灾难性制度转变。
2026-02-14 cs.LG math.DS q-bio.NC
Fast Neural-Network Approximation of Active Target Search Under Uncertainty
Technical University of Cluj-Napoca(克卢日-纳波卡技术大学)
本文提出用卷积神经网络近似主动搜索算法,以降低在线计算成本,通过多通道网格训练实现目标检测率与传统方法相当。
2026-04-24 cs.LG cs.MA
Multi-Agent Active Search using Detection and Location Uncertainty
Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种联合处理目标检测和位置不确定性的推理方法,并基于Thompson sampling构建去中心化多智能体主动搜索决策算法,仿真和真实环境实验证明其优于仅考虑单一不确定性的基线方法。
2023-05-22 cs.LG cs.MA cs.RO
Modelling Human Active Search in Optimizing Black-box Functions
University of Milano-Bicocca(米兰比可卡大学)
人类功能学习的建模一直是认知科学研究的热点。该主题与黑盒优化相关,其中有关目标和/或约束的信息不可用,必须通过函数求值来学习。在本文中,我们专注于人类的行为之间的关系,寻找最大值和概率模型中使用的贝叶斯优化。作为未知函数的代理模型,高斯过程和随机森林都被考虑:贝叶斯学习范式是主动学习方法发展的核心,在不确定条件下平衡探索/利用,在大决策空间中实现有效的泛化。在本文中,我们通过实验分析了贝叶斯优化与人类搜索未知2D函数的最大值的比较。一组有60名受试者的对照实验,使用两种代理模型,证实贝叶斯优化提供了一个通用模型来表示人类主动学习的个体模式
2020-03-09 cs.CY cs.LG math.OC
Multi-Agent Active Search using Realistic Depth-Aware Noise Model
Robotics Institute, School of Computer Science, Carnegie Mellon University(卡内基梅隆大学计算机科学学院机器人研究所);School of Earth Sciences, Ohio State University(俄亥俄州立大学地球科学学院)
在未知环境中主动搜索感兴趣的物体有许多机器人应用,包括搜索和救援,检测气体泄漏或定位动物偷猎者。现有的算法通常优先考虑感兴趣的对象的位置精度,而其他实际问题,如作为距离和视线的函数的目标检测的可靠性仍然在很大程度上被忽略。此外,在许多主动搜索场景中,通信基础设施可能不可靠或未建立,使得对多个代理的集中控制不切实际。我们提出了一种算法,称为噪声感知汤普森采样(NATS),解决这些问题的多个地面机器人进行主动搜索考虑两个来源的感官信息从单目光学图像和深度图。通过使用汤普森采样,NATS允许多个代理之间的分散协调。NATS还考虑了来自深度的目标检测不确定性以及环境遮挡,并且在保持对感兴趣的对象的数量不可知的同时进行操作。使用模拟结果,我们表明,NATS显着优于现有的方法,如信息贪婪的政策或穷举搜索。我们展示了现实世界的可行性NATS使用伪现实环境中创建的虚幻引擎4游戏开发平台与AirSim插件。
2021-03-22 cs.AI cs.LG cs.RO
Scaling Active Search using Linear Similarity Functions
Carnegie Mellon University(卡内基梅隆大学)
主动搜索已经成为信息检索问题中越来越有用的工具,其目标是仅使用有限的标签查询来发现尽可能多的目标元素。随着大数据的出现,人们越来越强调这种技术的可扩展性,以处理非常大和非常复杂的数据集。在本文中,我们考虑主动搜索的问题,我们被赋予一个相似性函数之间的数据点。我们研究了Wang et al. [2013]为图上的主动搜索引入的算法,并提出了关键的修改,使其能够显着扩展。他们的方法通过最小化由数据上的相似性函数引起的图上的能量函数来选择点。我们的修改要求相似性函数是数据点的特征向量之间的点积,相当于具有邻接矩阵的线性核。有了这个,我们能够极大地扩展:对于$n$数据点,原始算法在每次迭代中运行$O(n^2)$时间,而我们的算法在给定$r$维特征的情况下仅运行$O(nr + r^2)$。我们还描述了一个简单的替代方法,使用加权邻居预测,也规模很好。在我们的实验中,我们表明,我们的方法与现有的半监督方法是有竞争力的。我们还简要讨论了我们的算法表现良好的条件下。
2017-08-22 cs.LG stat.ML
Active Search for Sparse Signals with Region Sensing
Carnegie Mellon University(卡内基梅隆大学);Washington University in St. Louis(圣路易斯华盛顿大学)
自治系统可以用于在大空间中搜索稀疏信号;例如,空中机器人可以用来定位威胁,探测气体泄漏,或响应求救电话。直观地,搜索算法可以通过收集汇总大的连续区域的聚合测量来提高效率。然而,大多数现有的搜索方法要么忽略这种区域观测的可能性(例如,贝叶斯优化和多臂强盗)或对允许每个测量任意编码整个环境中的所有信号的感测机制做出强假设(例如,压缩感测)。我们提出了一种基于信息增益贪婪最大化的算法,该算法仅使用矩形区域(包括单点)上平均值的有噪测量来主动收集数据以搜索稀疏信号。我们分析了我们的算法在一维,并表明,它需要$\tilde{O}(\frac{n}{μ^2}+k^2)$测量恢复所有的$k$信号的位置与小贝叶斯误差,其中$μ$和$n$的信号强度和搜索空间的大小,分别。我们还表明,有源设计可以从根本上比区域感测的无源设计更有效,与Arias-Castro,Candes和Davenport(2013)的结果形成对比。我们证明了我们的算法的经验性能的搜索问题,使用卫星图像数据和高维。
2016-12-02 cs.AI cs.LG stat.ML
Active-DiNTS: Active Differentiable Network Topology Search
XLIM, Université de Poitiers(普瓦捷大学XLIM实验室);Université de Limoges, CNRS(利摩日大学,法国国家科学研究中心)
提出Active-DiNTS,将主动学习嵌入双层可微分拓扑搜索,联合优化架构与标注,在单GPU上以少量标注超越现有方法,显著提升3D分割精度与效率。
2026-10-06 cs.AI cs.CV cs.LG
Empirical Evaluation of Contextual Policy Search with a Comparison-based Surrogate Model and Active Covariance Matrix Adaptation
Robotics Innovation Center, DFKI GmbH(德国人工智能研究中心有限公司机器人创新中心)
上下文策略搜索(CPS)是一类多任务强化学习算法,对机器人应用特别有用。背景协方差矩阵自适应演化策略(C-CMA-ES)是最近的一种最先进的方法。它基于标准的黑盒优化算法CMA-ES。CMA-ES有两个有用的扩展,我们将转移到C-CMA-ES和经验评估:ACM-ES,它使用基于比较的代理模型,和aCMA-ES,它使用协方差矩阵的主动更新。我们将证明,这些方法的改进在样本效率方面可以令人印象深刻,尽管这与机器人领域不再相关。
2019-04-14 cs.LG cs.NE stat.ML
SPASS: Scientific Prominence Active Search System with Deep Image Captioning Network
Carnegie Mellon University(卡内基梅隆大学)
火星漫游者的行星探测任务是复杂的,通常需要人类专家进行详细的任务规划,从要采取的路径到要捕获的图像。NASA已经使用这个过程从火星上获取了超过2200万张图像。为了提高自动化程度,从而在这个过程中的效率,我们提出了一个系统的行星漫游车,积极寻找突出的预先指定的科学功能在捕获的图像。科学家可以用自然语言预先指定这些搜索任务,并将其上传到漫游者上,在漫游者上,部署的系统不断地用深度图像描述网络为捕获的图像添加字幕,并通过某些指标将自动生成的字幕与预先指定的搜索任务进行比较,以便优先考虑这些图像进行传输。作为一个有益的副作用,所提出的系统也可以部署到地面行星数据系统作为基于内容的搜索引擎。
2018-09-10 cs.CV cs.IR cs.LG
Multi-class Generalized Binary Search for Active Inverse Reinforcement Learning
INESC-ID/Instituto Superior Técnico(INESC-ID/高等技术学院);INRIA Bordeaux Sud-Ouest(法国国立信息与自动化研究院波尔多西南分院)
本文讨论了从演示中学习任务的问题。我们采用逆强化学习的框架,其中任务以奖励函数的形式表示。我们的贡献是一种新的主动学习算法,使学习代理查询专家提供更多的信息演示,从而导致更多的样本有效的学习。对于这种新算法(广义二进制搜索逆强化学习,或GBS-IRL),我们提供了一个理论上的样本复杂度的界限,并说明其适用于几个不同的任务。据我们所知,GBS-IRL是第一个主动IRL算法与可证明的样本复杂度界。我们还讨论了我们的方法,在文献中的其他现有的方法和它的一般适用性,在多类分类问题。最后,由最近的工作在机器人的示教学习的动机,我们还讨论了如何不同形式的人类反馈可以集成在我们的学习框架中的一个透明的方式。
2013-01-23 cs.AI cs.LG stat.ML
Active Geospatial Search for Efficient Tenant Eviction Outreach
Washington University in St. Louis(圣路易斯华盛顿大学);George Mason University(乔治梅森大学)
针对租户驱逐风险,提出主动地理空间搜索(AGS)建模框架,结合物业级信息与分层强化学习策略,在预算约束下平衡探索与利用,动态识别高风险出租单元并提供支持,显著优于基线方法。
2024-12-19 cs.AI cs.CY cs.LG