AvAtar: Learning to Align via Active Optimal Transport
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Florida(佛罗里达大学);Arizona State University(亚利桑那州立大学)
提出AvAtar框架,利用主动学习策略通过熵正则化最优输运的梯度影响量化候选点信息量,并采用伴随状态法高效求解,以提升对齐性能。
2026-07-16 cs.LG
An Interactive Visualization Tool for Understanding Active Learning
Simon Fraser University(西蒙菲莎大学)
尽管最近在人工智能和机器学习方面取得了进展,但许多最先进的方法缺乏可解释性和透明度。解释机器学习模型做出的预测并准确评估这些模型的能力至关重要。在本文中,我们提出了一个交互式可视化工具来阐明主动学习的训练过程。该工具使人们能够选择感兴趣的数据点样本,查看其预测值在不同查询阶段如何变化,从而更好地了解主动学习何时以及如何工作。此外,用户可以利用这个工具来比较不同的主动学习策略,同时检查为什么有些策略优于其他在某些情况下。通过一些初步的实验,我们证明了我们的可视化面板具有很大的潜力,可以用于各种主动学习实验,并帮助用户适当地评估他们的模型。
2021-11-09 cs.HC cs.LG
Near-optimal Active Reconstruction
ETH Zürich(苏黎世联邦理工学院)
针对主动重建中的下一最佳视角问题,提出基于高斯过程优化的算法,给出次线性累积遗憾界限以保证近最优性,并通过模拟实验验证性能。
2025-03-24 cs.LG
Inverse Active Sensing: Modeling and Understanding Timely Decision-Making
University of Cambridge(剑桥大学);UCLA(加州大学洛杉矶分校)
基于证据的决策需要收集(昂贵的)关于感兴趣的潜在现象的观察结果,然后根据积累的证据做出(知情的)决定。在这种情况下,主动感知是目标导向的问题,有效地选择哪些收购,以及何时和什么决定解决。作为其补充,反向主动感知试图揭示代理的偏好和策略,给出他们的可观察的决策行为。在本文中,我们开发了一个表达,统一的框架,一般设置的证据为基础的决策下内生的,上下文相关的时间压力-这需要谈判(主观)之间的权衡准确性,快速性和成本的信息。使用这种语言,我们演示了它如何使建模直观的概念,惊喜,悬念和最优决策策略(前向问题)。最后,我们说明了如何通过量化所观察到的决策策略(逆问题)中隐含的偏好来理解决策行为。
2020-06-25 cs.LG stat.ML
Towards minimax optimal algorithms for Active Simple Hypothesis Testing
Tata Institute of Fundamental Research(塔塔基础研究所)
本文研究主动简单假设检验(ASHT)问题,通过博弈论和偏微分方程提出近似最优算法,并利用Blackwell可达性设计高效算法,在多种实例中达到最优指数。
2025-04-26 cs.LG stat.ML
Reinforcement learning of optimal active particle navigation
Institute of Condensed Matter Physics, Technische Universität Darmstadt(达姆施塔特工业大学凝聚态物理研究所)
自推进粒子在微米和纳米尺度上的发展为未来在活性物质物理学、显微外科和靶向药物递送方面的应用带来了巨大的潜力。然而,尽管后一种应用激发了对如何最佳地朝向目标(例如癌细胞)导航的探索,但仍然没有已知的简单方法来确定在足够复杂的环境中的最佳路线。在这里,我们开发了一种基于机器学习的方法,使我们能够第一次确定可以在复杂环境中自由转向的自推进代理的渐进最优路径。我们的方法依赖于基于策略梯度的深度强化学习技术,而且最重要的是,它不需要任何奖励整形或激励。所提出的方法提供了一个强大的替代目前的分析方法来计算最佳轨迹,并打开了一个通用的路径规划器为未来的智能活性粒子的路线。
2022-02-01 cond-mat.soft cond-mat.stat-mech cs.LG
Estimating Optimal Active Learning via Model Retraining Improvement
Imperial College London(帝国理工学院);Heilbronn Institute for Mathematical Research(海尔布伦数学研究所);University of Bristol(布里斯托尔大学)
主动学习(AL)的一个核心问题是:“什么是最佳选择?”“通过分类器损失定义最优性,通过将预期损失减少视为估计的统计目标,产生了最优AL行为的新特征。这个目标的基础上形成的模型再训练改进(MRI),一种新的方法,提供了一个统计估计框架AL。这个框架的构建,以解决AL最优性的中心问题,并激励估计算法的设计。MRI允许探索最佳AL行为,并检查AL组织学,精确显示它们如何做出次优选择。MRI的抽象公式被用来为AL提供一个新的保证,即无偏的MRI估计应该优于随机选择。这个MRI框架揭示了复杂的估计问题,反过来又激发了新的统计AL算法的建设。一个新的算法,特别是在大规模的实验研究中表现强劲,相比标准的AL方法。这种竞争力的表现表明,实际的努力,以尽量减少估计偏差可能是重要的AL应用。
2015-02-05 cs.LG stat.ML
Open challenges in understanding development and evolution of speech forms: The roles of embodied self-organization, motivation and active exploration
本文讨论了理解言语形式的发展和演变的开放性科学挑战,作为对Moulin-Frier等人的评论(Moulin-Frier等人,2015年)。基于对语音形式起源的数学模型的分析,重点放在他们的假设上,我们研究了语音如何从非语音中形成的基本问题,在发展和进化的尺度上。特别是,我们强调体现自我组织的重要性,以及在言语形成的动机和积极的好奇心驱动的探索机制的作用。最后,我们讨论了一个进化发展的角度来看,讲话的起源。
2016-01-05 cs.AI cs.CL cs.CY
Targeting Optimal Active Learning via Example Quality
Imperial College London(帝国理工学院);Heilbronn Institute for Mathematical Research(海尔布伦数学研究所);University of Bristol(布里斯托大学)
在许多分类问题中,未标记的数据是丰富的,可以选择一个子集进行标记。这定义了主动学习(AL)的上下文,其中方法系统地选择该子集,以通过再训练来改进分类器。给定一个分类问题,以及一个在少量标记示例上训练的分类器,考虑选择一个单独的进一步示例。这个例子将由oracle标记,然后用于重新训练分类器。这个例子的选择提出了一个中心问题:给定一个完全指定的随机描述的分类问题,哪一个例子是最佳选择?如果最优性是根据损失定义的,这个定义直接产生期望损失减少(ELR),一个中心量,其最大值产生最优的例子选择。这项工作提出了一种新的理论方法AL,示例质量,它定义了最佳AL行为的ELR。一旦最佳AL行为的数学定义,推理这个抽象提供了见解AL。在理论上的最佳选择相比,现有的AL方法,显示出,prostitics可以次优的选择。构造了直接评价实例质量的算法。一个大规模的实验研究表明,这些算法是有竞争力的标准AL方法。
2014-07-30 cs.LG stat.ML
LiDAR dataset distillation within bayesian active learning framework: Understanding the effect of data augmentation
Navya(纳维亚)
在过去的几年中,自动驾驶(AD)数据集的规模逐渐增长,以实现更好的深度表示学习。主动学习(AL)最近重新获得关注,以解决减少注释成本和数据集大小的问题。对于AD数据集,AL仍然相对未被探索,特别是在来自LiDAR的点云数据上。本文在大型Semantic-KITTI数据集的(1/4)上对基于AL的数据集蒸馏进行了原则性评估。此外,由于数据增强(DA)的模型性能的增益在AL循环的不同子集之间被证明。我们还演示了DA如何提高选择的信息样本进行注释。我们观察到,数据增强仅使用来自所选数据集配置的60%的样本就实现了完整的数据集准确度。这提供了更快的训练时间和随后的注释成本收益。
2022-02-06 cs.CV cs.LG
Near Optimal Bayesian Active Learning for Decision Making
Carnegie Mellon University(卡内基梅隆大学);ETH Zürich(苏黎世联邦理工学院)
我们应该如何收集信息以做出有效的决策?我们解决贝叶斯主动学习和实验设计问题,在那里我们依次选择测试,以减少一组假设的不确定性。而不是最小化不确定性本身,我们认为这些假设的一组重叠的决策区域。我们的目标是尽可能快地将不确定性引入单个决策区域。我们确定的必要条件和充分条件,正确识别一个决策区域,包含所有的假设与观察一致。我们开发了一种新的超边缘切割(HEC)算法,并证明了这是竞争的棘手的最优策略。该算法的有效实现依赖于计算完全齐次对称多项式的子集。最后,我们证明了它的有效性在两个实际应用:近似比较为基础的学习和主动定位使用机器人操作器。
2014-02-24 cs.AI cs.LG
Understanding Goal-Oriented Active Learning via Influence Functions
Bloomberg L.P.(彭博有限合伙企业)
主动学习(AL)关注的是通过使用选定的未标记样本主动和迭代地查询预言机,从尽可能少的标记数据中学习模型。在本文中,我们专注于分析一种流行的类型的AL中,一个样本的效用是衡量一个指定的目标实现后,占样本的边际影响的再训练模型。这种AL策略由于其直观的动机而吸引了大量的关注,但由于它们需要多次迭代的模型再训练,它们也遭受不切实际的高计算成本。在影响函数的帮助下,我们提出了一个有效的近似,完全绕过模型再训练,并提出了一个通用的有效实现,使这种AL策略在实践中适用,无论是在串行和更具有挑战性的批处理模式设置。此外,我们提出了理论和实证研究结果,质疑一些常见的做法和信念,这种AL战略。
2019-11-30 cs.LG stat.ML
Near-optimal Bayesian Active Learning with Correlated and Noisy Tests
ETH Zurich(苏黎世联邦理工学院)
我们考虑贝叶斯主动学习和实验设计问题,其目标是通过一系列信息丰富的噪声测试来学习一些未知目标变量的值。与以前的工作相比,我们专注于具有挑战性的,但实际相关的设置,测试结果可以有条件地依赖于给定的隐藏目标变量。在这样的假设下,常见的检验学,如最大限度地减少目标的不确定性的grenesty执行测试,往往表现不佳。在本文中,我们提出了ECED,一种新的,计算效率高的主动学习算法,并证明了强有力的理论保证,相关的,嘈杂的测试。ECED不是直接优化预测误差,而是在每一步中选择最大化代理目标增益的测试,这考虑了测试之间的依赖性。我们的分析依赖于一个信息理论的辅助功能,以跟踪ECED的进展,并利用自适应子模块,以达到近最优的界限。我们展示了强大的实证表现ECED两个问题的情况下,包括贝叶斯实验设计任务,旨在区分人们如何做出风险决策的经济理论,和一个积极的偏好学习任务,通过成对比较。
2016-07-11 cs.AI cs.LG
Active inference, Bayesian optimal design, and expected utility
Wellcome Centre for Human Neuroimaging, University College London(伦敦大学学院威康人类神经影像中心);Department of Mathematics, Imperial College London(伦敦帝国理工学院数学系)
主动推理是自由能原理的一个推论,是描述具有感知外观的某些随机动力系统行为的一种形式化方法。在这一章中,我们描述了主动推理如何结合贝叶斯决策理论和最优贝叶斯设计原则,在一个单一的命令,以最大限度地减少预期的自由能。正是主动推理的这一方面使得信息寻求行为自然出现。当从期望自由能中去除先前结果偏好时,主动推理简化为最优贝叶斯设计,即,信息增益最大化相反,在没有歧义和相对风险的情况下,主动推理简化为贝叶斯决策理论,即,期望效用最大化使用这些限制的情况下,我们说明了如何不同的行为时,代理选择的行动,优化预期的效用,预期的信息增益,和预期的自由能。我们的T型迷宫模拟表明,优化预期的自由能产生目标导向的信息寻求行为,而优化预期的效用诱导纯粹的剥削行为和最大限度地提高信息增益产生内在动机的行为。
2021-09-21 cs.AI cs.IT cs.LG
Near-Optimal Bayesian Active Learning with Noisy Observations
Caltech(加州理工学院)
我们解决了贝叶斯主动学习与噪声的基本问题,我们需要自适应地选择从一些昂贵的测试,以确定一个未知的假设采样从已知的先验分布。在无噪声观测的情况下,称为广义二进制搜索(GBS)的贪心算法被称为执行接近最优。我们表明,如果观察是嘈杂的,也许令人惊讶的是,GBS可以执行非常差。我们开发了EC2,一种新的,贪婪的主动学习算法,并证明了它是竞争的最优策略,从而获得第一竞争力保证贝叶斯主动学习与噪声观测。我们的界限依赖于最近发现的收益递减属性称为自适应次模块化,推广的经典概念的次模块集函数的自适应政策。即使测试具有非均匀成本并且它们的噪声是相关的,我们的结果也成立。我们还提出了EffECXtive,一个特别快的近似EC2,并评估它的贝叶斯实验设计问题,涉及人类受试者,旨在梳理除了竞争的经济理论,人们如何在不确定性下作出决定。
2013-12-16 cs.AI cs.DS cs.LG
Toward Optimal Probabilistic Active Learning Using a Bayesian Approach
University of Kassel(卡塞尔大学);Utrecht University(乌得勒支大学)
收集标记数据以训练性能良好的机器学习模型是许多应用中的关键挑战之一。主动学习旨在通过高效和有效地分配昂贵的标签资源来降低标签成本。在这篇文章中,我们提出了一个决策理论的选择策略,(1)直接优化误分类误差的增益,(2)使用贝叶斯方法,通过引入共轭先验分布来确定类后验来处理不确定性。通过在我们提出的模型中重新制定现有的选择策略,我们可以解释哪些方面在当前最先进的技术中没有涵盖,以及为什么这会导致我们的方法具有优异的性能。大量的各种数据集和不同的内核上的实验验证了我们的主张。
2020-06-02 cs.LG stat.ML
Improved Algorithm for Deep Active Learning under Imbalance via Optimal Separation
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of Washington, Seattle(华盛顿大学西雅图分校)
针对类别不平衡与标签噪声下的主动学习问题,提出DIRECT算法,通过识别类别边界选取不确定样本标注,将问题降维为一维主动学习以利用成熟理论,大幅降低标注成本且对标签噪声鲁棒。
2025-06-12 cs.AI cs.CV cs.LG
Near-Optimal Active Learning of Multi-Output Gaussian Processes
National University of Singapore(新加坡国立大学)
研究了多输出高斯过程模型的主动学习问题。与现有的工作相比,我们的主动学习问题不仅涉及选择要观察的信息量最大的采样位置,而且还涉及选择每个选定位置处的测量类型,以最小化预测不确定性(即,后验联合熵)。不幸的是,这样的熵准则在优化时在候选采样位置和所选观测的数量上的比例很差。为了解决这个问题,我们首先利用稀疏MOGP模型的共同结构,推导出一种新的主动学习标准。然后,我们利用我们的新标准,设计一个多项式时间近似算法,保证了一个常数因子近似的最佳的一组选定的意见,实现了一个宽松的形式的子模块属性。在真实数据集上的实验结果表明,该方法在MOGP和单输出GP模型的主动学习方面优于现有算法。
2015-11-24 cs.AI cs.LG stat.ML
Active Learning on Trees and Graphs
Università degli Studi di Milano(米兰大学);Università dell’Insubria(因苏布里亚大学)
我们研究的问题,主动学习在一个给定的树,其节点被分配的二元标签在一个对抗的方式。受Guillory和Bilmes最近结果的启发,我们描述了查询的最佳位置(常数因子),以便最大限度地减少非查询节点上的错误。我们的查询选择算法是非常有效的,和非查询节点上的错误的最佳数量是通过一个简单而有效的mincut分类器实现的。通过一个简单的修改的查询选择算法,我们还显示最优性(常数因子)的查询数量和非查询节点上的错误数量之间的权衡。通过使用生成树,我们的算法可以有效地应用到一般的图形,虽然找到最佳和有效的主动学习算法的一般图形的问题仍然是开放的。为此,我们提供了一个下界上的任意图形上的错误的数量由任何主动学习算法使用的查询的数量是一个恒定的分数的图形大小。
2013-01-22 cs.LG stat.ML
Near-optimal Active Regression of Single-Index Models
针对单指标模型的主动回归问题,提出首个达到 $(1+\varepsilon)$ 近似且查询复杂度近最优的算法,并证明其在 $p\in[1,2]$ 时最优,$p>2$ 时 $\varepsilon$ 依赖最优。
2025-02-25 cs.DS cs.LG
Optimal experimental design via Bayesian optimization: active causal structure learning for Gaussian process networks
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);Amazon(亚马逊);The Alan Turing Institute(艾伦·图灵研究所)
我们通过有针对性的干预措施来研究因果发现的问题。从几个观测测量开始,我们遵循贝叶斯主动学习方法来执行这些实验,这些实验在当前模型的预期中,最大限度地提供有关潜在因果结构的信息。与以前的工作不同,我们考虑设置连续随机变量与非线性函数关系,建模与高斯过程先验。为了解决所产生的问题,选择从一个不可数的一组可能的干预措施,我们建议使用贝叶斯优化,有效地最大限度地提高预期的信息增益的蒙特卡罗估计。
2019-10-09 cs.LG stat.ML
Active Learning for the Optimal Design of Multinomial Classification in Physics
University of the Basque Country UPV/EHU(巴斯克大学);ProQuam Co., Ltd.(ProQuam有限公司);University of Valencia(瓦伦西亚大学);Shanghai University(上海大学)
模型训练的优化设计是机器学习中的一个重要课题。主动学习的目的是通过根据人工标记的估计模型查询具有最大不确定性的样本来获得改进的模型;这具有通过减少标记样本数量来实现成功性能的额外优势。我们分析了它作为实验设计助手的能力,以最小的保真度损失成本提取最大的学习信息,或降低实验室中标记的总操作成本。本文介绍了两个典型的应用:量子体系中的量子信息检索和多体物理中的相边界预测。对于一个等价的多项式分类问题,我们实现了99%的正确率小于2%的样本标记。我们认为,主动学习启发的物理实验将显着节省预算,而不损失准确性。
2021-09-17 cs.AI cs.LG quant-ph
Optimal active particle navigation meets machine learning
Technische Universität Darmstadt(达姆施塔特工业大学);Heinrich-Heine-Universität Düsseldorf(杜塞尔多夫海因里希·海涅大学)
本文综述了从微观到宏观尺度的最优活性粒子导航问题,重点探讨了基于机器学习的方法如何揭示复杂、高维或未知环境下的高效导航策略,并对该领域面临的挑战提供了前瞻性视角。
2023-03-09 cond-mat.soft cond-mat.stat-mech cs.LG
Constraint-Informed Active Learning for End-to-End ACOPF Optimization Proxies
University of Texas at Austin, TX, USA(德克萨斯大学奥斯汀分校)
本文提出一种约束知情的主动采样框架,通过主动约束集生成真实多样的训练数据,在同等预算下显著提升端到端ACOPF优化代理的泛化性能。
2025-11-09 cs.AI cs.LG
Optimal Centered Active Excitation in Linear System Identification
The University of Tokyo(东京大学);KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出一种基于普通最小二乘和半定规划的主动学习算法,通过最优中心噪声激励实现最小样本复杂度和高效系统矩阵估计。
2026-10-02 cs.LG cs.SY eess.SY
Low-Budget Active Learning through Entropic Optimal Transport
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LIG(格勒诺布尔信息学实验室);LJK(格勒诺布尔数学与应用实验室)
本文提出利用熵正则最优传输(Sinkhorn散度)进行低预算主动学习中的核心集选择,在特征空间直接操作,获得无维度样本复杂度与高效梯度计算,实验优于现有启发式方法。
2026-10-02 cs.LG math.OC
Understanding active learning of molecular docking and its applications
Galux Inc(Galux 公司);Seoul National University(首尔大学)
本研究针对主动学习替代模型仅用二维结构预测分子对接分数的机制开展基准研究,发现模型会记忆高打分化合物的结构模式,且仍可有效用于超大规模虚拟筛选,验证了该方法的可靠性与应用潜力。
2024-06-14 cs.LG physics.chem-ph q-bio.BM
Point Location and Active Learning: Learning Halfspaces Almost Optimally
UCSD(加州大学圣地亚哥分校)
给定一个有限集合$X \subset \mathbb{R}^d$和一个二元线性分类器$c: \mathbb{R}^d \to \{0,1\}$,需要多少个$c(x)$形式的查询来学习$X$中每个点的标签?这个问题被称为\textit{point location},它激发了35年来对最优算法的研究。基于Kane,Lovett和Moran(ICALP 2018)的先前工作,我们提供了第一个接近最优的解决方案,一个深度$\tilde{O}(d\log(|X|))$的随机线性决策树,改进了Ezra和Sharir(离散和计算几何,2019)之前最好的$\tilde{O}(d^2\log(|X|))$。作为一个推论,我们还提供了第一个接近最佳的算法,积极学习半空间的成员查询模型。途中这些结果,我们证明了一个新的表征巴特定理(数学发明,1998年)的独立利益。特别地,我们证明了$X$可以变换为近似各向同性位置的充要条件是不存在$k$维子空间,且不存在大于$X$的一个$k/d$ -分数的$k$维子空间,并给出了精确各向同性位置的类似刻画.
2020-04-23 cs.CG cs.LG stat.ML
Active Learning for Optimal Intervention Design in Causal Models
Massachusetts Institute of Technology(麻省理工学院);Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学布罗德研究所);Harvard University(哈佛大学)
本文提出融合贝叶斯因果模型与闭式因果采集函数的主动学习方法,以更少实验高效识别最优干预,并在合成数据和 Perturb-CITE-seq 单细胞数据上验证其优势。
2023-08-16 cs.LG stat.ME
Near-optimal Policy Identification in Active Reinforcement Learning
ETH Zurich(苏黎世联邦理工学院);Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);University College London(伦敦大学学院);University of Alberta(阿尔伯塔大学)
许多现实世界的强化学习任务需要控制复杂的动态系统,这些系统涉及昂贵的数据采集过程和大型状态空间。在可以容易地在指定状态(例如,通过模拟器),代理可以在通常被称为利用\emph{generative model}的规划中操作。我们提出了AE-LSVI算法的最佳策略识别,一个新的变种的核化最小二乘值迭代(LSVI)算法,结合积极探索(AE)的乐观与悲观。AE-LSVI可证明地在整个状态空间上识别接近最优的策略\emph{uniformly},并实现与状态数无关的多项式样本复杂度保证。当专门为最近推出的离线上下文贝叶斯优化设置,我们的算法实现了改进的样本复杂度界限。实验上,我们证明了AE-LSVI优于其他RL算法在各种环境中的鲁棒性的初始状态是必需的。
2022-12-19 cs.AI cs.LG stat.ML
Toward Ownership Understanding of Objects: Active Question Generation with Large Language Model and Probabilistic Generative Model
Ritsumeikan University(立命馆大学);Soka University(创价大学);Kyoto University(京都大学)
提出ActOwL框架,结合概率生成模型最大化信息增益和LLM常识预分类,通过主动提问高效获取物体所有权知识,在模拟和真实环境中以更少问题实现更高聚类准确率。
2025-09-16 cs.AI cs.HC cs.LG
Online A-Optimal Design and Active Linear Regression
ENS Paris-Saclay(巴黎萨克雷高等师范学院);Inria(法国国家信息与自动化研究所);Deepmind(深度思维);ENSAE(法国国家统计与经济管理学院);Criteo AI Lab(Criteo人工智能实验室)
本文考虑了最优试验设计问题,其中决策者可以选择哪些点进行采样,以获得潜在线性模型的隐参数$β^{\star}$的估计$\hatβ$。这项工作的关键挑战在于我们所做的异方差假设,这意味着每个协变量都有一个不同的未知方差。然后,决策者的目标是找出在协变量之间分配$T$样本的总预算的最佳方法,因为对特定样本进行多次采样将减少其周围估计模型的方差(但以其他地方可能更高的方差为代价)。通过尝试最小化$\ell^2$ -损失$\mathbb{E} [\lVert\hatβ-β^{\star}\rVert^2]$,决策者实际上是最小化问题的协方差阵的迹,这对应于在线A-最优设计。结合强盗和凸优化技术,我们提出了一个新的主动采样算法,我们比较它与现有的。我们在不同的设置,包括$\mathcal{O}(T^{-2})$遗憾的情况下,协变量形成的基础上的特征空间,推广和改进现有的结果,该算法提供了理论保证。数值实验验证了我们的理论研究结果。
2020-12-30 cs.LG math.OC stat.ML
Optimal Derivative Feedback Control for an Active Magnetic Levitation System: An Experimental Study on Data-Driven Approaches
University of New Hampshire(新罕布什尔大学)
本文通过实验研究,提出了一种基于强化学习的直接无模型控制方法,证明其在主动磁悬浮系统中优于传统间接最优控制方法。
2026-02-06 cs.LG cs.SY eess.SY
Optimal Bayesian Affine Estimator and Active Learning for the Wiener Model
Delft Center for Systems and Control, Delft University of Technology(代尔夫特理工大学代尔夫特系统与控制中心)
本文针对Wiener模型提出贝叶斯仿射估计框架,推导闭式最优估计器并分析其性质,基于闭式误差开发主动学习算法,实验证明优于传统正则化最小二乘方法。
2025-04-21 cs.LG cs.SY eess.SY
Targeted Active Learning for Bayesian Decision-Making
Aalto University(阿尔托大学);University of Manchester(曼彻斯特大学)
在监督学习中,主动学习通常用于获取信息数据点的标签,以样本有效的方式最大限度地提高准确性。然而,当结果用于决策时,例如在个性化医疗或经济学中,最大限度地提高准确性并不是最终目标。我们认为,当连续获取样本时,分离学习和决策是次优的,我们引入了一个主动学习策略,该策略考虑到了线下决策问题。具体来说,我们引入了一种新的主动学习标准,最大限度地提高预期的信息增益的后验分布的最优决策。我们将我们的目标主动学习策略与模拟和真实数据上的现有替代方案进行了比较,并在决策准确性方面表现出更好的性能。
2021-10-20 cs.AI cs.LG stat.ML
Active Learning with Imperfect Labels: Optimal Labeler Assignment and Sample Selection
School of Industrial and Systems Engineering Georgia Institute of Technology Atlanta, GA 30332, USA(工业与系统工程学院 佐治亚理工学院 阿拉巴马州亚特兰大 30332, 美国);Ford Motor Company(福特汽车公司)
本文提出了一种新的主动学习框架,通过优化标签分配和采样方法,减少噪声影响以提高分类性能。
2026-10-01 cs.AI cs.LG math.OC
Bayes-Optimal Entropy Pursuit for Active Choice-Based Preference Learning
Cornell University(康奈尔大学)
我们分析的问题,学习一个单一的用户的喜好在一个积极的学习设置,顺序和自适应查询用户在有限的时间范围内。学习是通过基于选择的查询进行的,用户在提供的备选方案的一小部分中选择她的首选方案。这些查询已被证明是一种强大而有效的方式来了解个人的偏好。我们采取参数化的方法,并通过线性分类器对用户的偏好进行建模,使用贝叶斯先验对我们当前对该分类器的知识进行编码。我们学习的速度取决于每个时间点提供的选择。在某些噪声假设下,我们证明了最大限度地减少该线性分类器的后验分布的熵的贝叶斯最优策略是贪婪策略,并且当可以从连续统中构造替代方案时,该策略实现了线性下界。此外,我们分析了一个不同的度量称为误分类错误,证明了最小化误分类错误的最优策略的性能是有界的微分熵的线性函数以下。最后,我们数值比较贪婪的熵减少政策与知识梯度政策下的一些情况下,检查他们的性能下的微分熵和误分类错误。
2017-02-24 cs.IT cs.LG math.IT
Robustly optimal dynamics for active matter reservoir computing
WIN-Kolleg of the Young Academy $\vert$ Heidelberg Academy of Science and the Humanities(年轻学院WIN-Kolleg $\vert$ 科学与人文学院)
该研究发现主动物质在特定动力学区域下能实现鲁棒最优的回授计算性能,通过内在弛豫能力实现高效信息处理。
2026-01-23 cond-mat.soft cs.LG nlin.AO
Active Learning for Identification of Linear Dynamical Systems
Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院)
我们提出了一种算法,主动估计的线性动力系统的参数。由于完全控制系统的输入,我们的算法自适应地选择输入,以加速估计。我们展示了一个有限的时间范围量化的估计率,我们的算法达到和证明匹配的上界和下界,保证其渐近最优,常数。此外,我们表明,这种最佳速率是无法实现的,当使用高斯噪声来激发系统,即使最佳调整协方差,并分析几个例子,我们的算法证明提高了播放噪声获得的速率。我们的分析严重依赖于一个新的结果量化的误差估计的动态系统的参数时,任意周期性的输入正在播放。最后,我们用数值例子说明了我们的算法在实践中的有效性。
2020-06-22 cs.LG cs.SY eess.SY
Active Fairness Auditing
Carnegie Mellon University(卡内基梅隆大学);University of Arizona(亚利桑那大学)
各行各业的公司对机器学习(ML)的快速普及带来了重大的监管挑战。其中一个挑战是可扩展性:监管机构如何有效地审计这些ML模型,确保它们是公平的?在本文中,我们开始研究基于查询的审计算法,该算法可以以查询高效的方式估计ML模型的人口统计学奇偶性。我们提出了一个最佳的确定性算法,以及一个实用的随机,预言机高效的算法具有可比的保证。此外,我们取得进展,了解随机主动公平性估计算法的最佳查询复杂度。我们对主动公平性评估的首次探索旨在将人工智能治理置于更坚实的理论基础之上。
2022-06-16 cs.CY cs.DS cs.LG