Screening Sinkhorn Algorithm for Regularized Optimal Transport
LITIS EA4108;University of Rouen Normandy(诺曼底鲁昂大学);INSA, University of Rouen Normandy(诺曼底鲁昂大学INSA);Criteo AI Lab, Criteo Paris(Criteo巴黎Criteo人工智能实验室)
在本文中,我们介绍了一种新的策略,有效地近似两个离散措施之间的Sinkhorn距离。在确定正则化Sinkhorn问题的对偶解的可忽略的组件后,我们建议在进入Sinkhorn问题之前通过直接将它们设置为该值来筛选这些组件。这使我们能够解决一个较小的Sinkhorn问题,同时确保近似可证明的保证。更正式地说,该方法是基于一个新的配方的对偶Sinkhorn发散问题和这个问题的KKT最优性条件,使识别的对偶组件进行筛选。这种新的分析导致了Screenkhorn算法。我们说明了Screenkhorn在复杂任务上的效率,例如降维和涉及正则化最优运输的域适应。
2020-01-18 cs.LG stat.ML
Using Bayesian Optimization to Accelerate Virtual Screening for the Discovery of Therapeutics Appropriate for Repurposing for COVID-19
IBM Research Europe(IBM欧洲研究院)
被称为SARS-CoV-2的新型武汉冠状病毒在非战时环境中带来了几乎前所未有的影响,严重打击了社会,经济和卫生系统。能够采取药物干预措施来抵消其影响将是这场正在进行的战斗中扭转局势的一个重大转折点。最近,世界上最强大的超级计算机SUMMIT通过高通量虚拟筛选方法来鉴定现有的可能具有抗SARS-CoV-2活性的小分子药物。在这次交流中,我们展示了如何使用贝叶斯优化可以为这些计算的优先级提供有价值的服务,从而加速识别高性能候选人,从而扩大HPC系统用于时间关键筛选的实用范围
2020-05-11 cs.LG q-bio.BM q-bio.QM
Sparse Identification for Automatic Large-Scale Screening: A Constraint-Aware Framework with Ultra Fast Decoding Algorithm
Zhejiang University(浙江大学)
针对大流行早期大规模筛查中现有分组检测方法在硬约束下计算复杂或精度不足的问题,本文提出LoSc框架,其基于逻辑运算的超快解码算法仅需O(klogn)次检测即可识别全部阳性,并纳入稀释与样本使用约束,兼具理论保证与高效可扩展性。
2026-09-21 cs.LG eess.SP stat.ML
Accelerating Psychometric Screening Tests With Bayesian Active Differential Selection
Washington University in St. Louis(圣路易斯华盛顿大学);SigOpt(SigOpt公司)
经典的心理测量函数估计方法要么需要过多的测量,要么只产生目标心理测量函数的低分辨率近似。在本文中,我们提出了一种新的解决方案,用于快速筛选给定患者的心理测量功能估计的变化。我们使用贝叶斯主动模型选择来执行自动纯音听力图测试,目标是快速发现当前听力图是否与以前的听力图不同。我们验证我们的方法使用听力数据从国家职业安全与健康研究所NIOSH。初步结果表明,用几个音调,我们可以检测到患者的听力功能是否在两个测试会话之间发生了变化,并且具有很高的置信度。
2020-02-04 cs.LG stat.ML
Simultaneous Safe Screening of Features and Samples in Doubly Sparse Modeling
学习稀疏模型的问题在概念上被解释为识别活动特征/样本,然后优化模型的过程。最近引入的安全筛选允许我们识别部分非活动特征/样本。到目前为止,安全筛选已被单独研究,无论是特征筛选或样本筛选。在本文中,我们介绍了一种新的方法,安全筛选功能和样本同时交替迭代功能和样本筛选步骤。同时考虑它们而不是单独考虑它们的显著优点是它们具有协同效应,在这个意义上,先前安全特征筛选的结果可以用于改善下一个安全样本筛选性能,反之亦然。我们首先从理论上研究了协同效应,然后通过针对具有大量特征和样本的问题进行密集的数值实验来说明其实际优势。
2016-02-08 stat.ML
Interaction Pursuit with Feature Screening and Selection
了解特征如何相互作用在许多科学发现和当代应用中至关重要。然而,即使对于中等数量的协变量,相互作用识别也变得具有挑战性。在本文中,我们提出了一个有效的和灵活的程序,称为相互作用的追求(IP),在超高维度的相互作用识别。该方法首先通过一种新的特征筛选方法将交互作用和主效应的数量减少到中等规模,然后使用正则化方法在减少的特征空间中选择重要的交互作用和主效应。与现有方法相比,我们的方法将交互作用与主效应分开筛选,因此可以更有效地筛选交互作用。在一个较一般的框架下,我们证明了对于交互作用和主效应,该方法在筛选时具有确定的筛选性质,在选择时具有预言不等式.我们的方法和理论结果支持几个模拟和真实数据的例子。
2016-05-28 stat.ME stat.ML
Active Learning for Nonlinear System Identification with Guarantees
University of California, Berkeley(加州大学伯克利分校)
虽然非线性动态系统的识别是基于模型的强化学习和反馈控制的基本构建块,但其样本复杂性仅适用于具有离散状态和动作的系统,或者可以从i.i.d.生成的数据中识别的系统。随机输入。尽管如此,许多有趣的动力系统具有连续的状态和动作,只能通过明智的输入选择来识别。受实际背景的启发,我们研究了一类非线性动力系统,其状态转移线性依赖于状态-动作对的已知特征嵌入。为了在有限时间内估计这样的系统,识别方法必须在特征空间中探索所有方向。我们提出了一种主动学习方法,通过重复三个步骤来实现这一目标:轨迹规划,轨迹跟踪和从所有可用数据重新估计系统。我们表明,我们的方法估计非线性动力系统的参数率,类似于标准的线性回归的统计率。
2020-06-18 cs.LG math.OC stat.ML
Look-Ahead Screening Rules for the Lasso
Lund University(隆德大学)
针对高维场景下套索求解计算成本高的问题,本文提出前瞻筛选策略,利用安全筛选规则确定预测变量无法入模的惩罚值范围以沿解路径筛选变量,实验证明其性能优于Gap Safe规则的主动热启动版本。
2021-06-29 cs.LG stat.CO stat.ML
BLADE: Bayesian Langevin Active Discovery with Replica Exchange for Identification of Complex Systems
Purdue University(普渡大学);Department of Mathematics, Purdue University(普渡大学数学系);School of Mechanical Engineering, Purdue University(普渡大学机械工程学院)
BLADE是一种结合副本交换随机梯度拉格朗日蒙特卡洛与主动学习的贝叶斯框架,通过平衡梯度驱动的探索与利用,在系数空间中提供概率参数估计和原则性不确定性量化,显著提升数据效率。
2026-04-12 cs.LG stat.ML
Active Diagnosis via AUC Maximization: An Efficient Approach for Multiple Fault Identification in Large Scale, Noisy Networks
University of Michigan(密歇根大学);University of Texas Medical Branch(德克萨斯大学医学部);Institute for Translational Sciences(转化科学研究所);Electrical Engineering and Computer Science(电气工程与计算机科学学院)
主动诊断的问题出现在诸如疾病诊断和计算机网络中的故障诊断的若干应用中,其中目标是快速识别一组对象的二进制状态(例如,故障或工作)通过顺序地选择和观察对二进制值查询的(噪声)响应。目前在这方面的算法依赖于循环的信念传播主动查询选择。这些算法具有指数级的时间复杂度,这使得它们在大型网络中变得缓慢甚至难以处理。我们提出了一个基于排名的贪心算法,顺序选择查询,使基于排名的输出的ROC曲线下的面积最大化。AUC准则允许我们做出一个简化的假设,显著降低了主动查询选择的复杂性(从指数到接近二次),而对性能质量几乎没有影响。
2012-02-14 cs.AI cs.LG stat.ML
Near-optimal Policy Identification in Active Reinforcement Learning
ETH Zurich(苏黎世联邦理工学院);Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);University College London(伦敦大学学院);University of Alberta(阿尔伯塔大学)
许多现实世界的强化学习任务需要控制复杂的动态系统,这些系统涉及昂贵的数据采集过程和大型状态空间。在可以容易地在指定状态(例如,通过模拟器),代理可以在通常被称为利用\emph{generative model}的规划中操作。我们提出了AE-LSVI算法的最佳策略识别,一个新的变种的核化最小二乘值迭代(LSVI)算法,结合积极探索(AE)的乐观与悲观。AE-LSVI可证明地在整个状态空间上识别接近最优的策略\emph{uniformly},并实现与状态数无关的多项式样本复杂度保证。当专门为最近推出的离线上下文贝叶斯优化设置,我们的算法实现了改进的样本复杂度界限。实验上,我们证明了AE-LSVI优于其他RL算法在各种环境中的鲁棒性的初始状态是必需的。
2022-12-19 cs.AI cs.LG stat.ML
Active Learning for Identification of Linear Dynamical Systems
Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院)
我们提出了一种算法,主动估计的线性动力系统的参数。由于完全控制系统的输入,我们的算法自适应地选择输入,以加速估计。我们展示了一个有限的时间范围量化的估计率,我们的算法达到和证明匹配的上界和下界,保证其渐近最优,常数。此外,我们表明,这种最佳速率是无法实现的,当使用高斯噪声来激发系统,即使最佳调整协方差,并分析几个例子,我们的算法证明提高了播放噪声获得的速率。我们的分析严重依赖于一个新的结果量化的误差估计的动态系统的参数时,任意周期性的输入正在播放。最后,我们用数值例子说明了我们的算法在实践中的有效性。
2020-06-22 cs.LG cs.SY eess.SY
Font Identification in Historical Documents Using Active Learning
Texas A&M University(德克萨斯A&M大学)
识别字体的类型(例如,Roman,Blackletter)可以帮助光学字符识别(OCR)系统产生更准确的文本译文。为此,我们提出了一种主动学习策略,可以显着减少标记样本的数量需要训练的字体分类器。我们的方法提取基于图像的功能,利用字体之间的几何差异,在字的水平,并将它们组合成一个词袋表示为每个页面的文档。我们评估六个采样策略的基础上的不确定性,相异度和多样性的标准,并测试他们在一个数据库中包含超过3,000个历史文件的黑体字,罗马和混合字体。我们的研究结果表明,不确定性和多样性的组合实现了最高的预测精度(89%的测试用例正确分类),同时只需要一小部分数据(17%)被标记。我们讨论了这一结果的历史文献的大规模数字化项目的影响。
2016-01-27 cs.AI cs.CV cs.DL