Unified Sample-Optimal Property Estimation in Near-Linear Time
University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们考虑的基本学习问题,估计大域上的分布的属性。使用一种新的分段多项式逼近技术,我们推导出第一个统一的方法来构建样本和时间有效的估计所有足够光滑,对称和非对称,添加剂的属性。该方法得到了近似值渐近最优且高度集中的近似线性时间可计算估计量,得到了如下结果:1)对于所有$k$符号Lipschitz性质,估计量都达到了$\mathcal{O}(k/(\varepsilon^2\log k))$ min-max $\varepsilon$ -误差样本复杂度; 2)对于各种性质,统一的近似最优差分私有估计量; 3)对5个重要性质给出了最优偏差和近似最优方差的统一估计; 4)对几个重要对称性质给出了在域大小和置信水平上的近似最优样本复杂性估计。另外,在Poisson抽样下建立了一个McDiarmid不等式,该不等式具有独立的意义.
2020-03-17 cs.LG math.ST stat.ML
Near-Optimal Algorithms for Making the Gradient Small in Stochastic Minimax Optimization
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);School of Data Science, Fudan University(复旦大学数据科学学院);Shanghai Key Laboratory for Contemporary Applied Mathematics(上海市现代应用数学重点实验室)
针对随机极小极大优化中EAG方法直接扩展低效的问题,提出RAIN算法,在凸-凹、强凸-强凹及结构化非凸-非凹情况下均实现近似最优的SFO复杂度。
2025-02-03 cs.LG
Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise
本文提出了一种去中心化归一化随机梯度下降方法,结合 Pull-Diag 梯度跟踪,以实现近似 stationary 点,并在样本复杂度和通信复杂度上达到最优。
2026-01-16 cs.LG math.OC
Nearly Optimal Dynamic $k$-Means Clustering for High-Dimensional Data
Princeton University(普林斯顿大学);Columbia University(哥伦比亚大学)
我们认为$k$ -均值聚类问题中的动态流设置,其中点从离散欧几里德空间$\{1, 2, \ldots, Δ\}^d$可以动态插入或删除的数据集。对于这个问题,我们提供了一个一遍coret构造算法使用空间$\tilde{O}(k\cdot \mathrm{poly}(d, \logΔ))$,其中$k$是目标中心数。据我们所知,这是$k$的第一个动态几何数据流算法-意味着在$k$中使用空间多项式维数和近似最优(线性)。
2019-02-07 cs.DS cs.LG stat.ML
Simple and near-optimal algorithms for hidden stratification and multi-group learning
Memorial Sloan Kettering Cancer Center(纪念斯隆凯特琳癌症中心);Columbia University(哥伦比亚大学)
针对多组不可知学习中的子组公平性与隐藏分层问题,论文研究其解的结构,并提出简单且近最优的学习算法。
2024-06-14 cs.LG stat.ML
Distributed Bandit Learning: Near-Optimal Regret with Efficient Communication
Tsinghua University(清华大学);Peking University(北京大学)
研究了分布式强盗学习中的后悔最小化问题,其中$M$代理在中央服务器的协调下协同工作以最小化总后悔.我们的目标是设计具有接近最优遗憾和很少通信成本的通信协议,这是通过传输数据的总量来衡量的。对于分布式多臂强盗,我们提出了一个具有接近最优遗憾且只有$O(M\log(MK))$通信代价的协议,其中$K$是武器的数目.通信成本是独立的时间范围$T$,只有对数依赖于臂的数量,并匹配的下限,除了一个对数因子。对于分布式$d$维线性强盗,我们提出了一个协议,实现了接近最优的遗憾,并有$\tilde{O}(Md)$阶的通信成本,这只有对数依赖于$T$。
2019-05-29 cs.LG stat.ML
O$^2$TD: (Near)-Optimal Off-Policy TD Learning
Auburn University(奥本大学);University of Buffalo(布法罗大学)
时间差分学习和残差梯度方法是最广泛使用的基于时间差分的学习算法;然而,已经表明,它们的目标函数都不是最佳的,不能近似真价值函数$V$。提出了两种逼近真价值函数$V$的新算法。本文的主要贡献如下:(1)提出了一种批处理算法,可以帮助找到真价值函数$V$的近似最优离策略预测。(2)一种线性计算成本(每步)接近最优的算法,可以从一组非策略样本中学习。(3)一个新的视角的时间差分学习,它弥合了政策外最优性和政策外稳定性之间的差距。
2017-04-19 cs.LG stat.ML
Near Instance Optimal Model Selection for Pure Exploration Linear Bandits
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
我们介绍了纯探索线性强盗的模型选择问题,其中学习者需要适应包含真实模型的最小假设类的实例相关复杂性度量。我们设计的算法在固定的信心和固定的预算设置与近实例最优保证。我们的算法的核心是一个新的优化问题的基础上试验设计,利用几何的动作集,以确定一个接近最优的假设类。我们的固定预算算法是基于一种新的选择验证过程,它提供了一种新的方法来研究欠研究的固定预算设置(即使没有增加的挑战模型选择)。我们适应我们的算法,在固定的信心和固定的预算设置,模型误指定的问题。
2022-03-17 cs.LG stat.ML
Near-linear time approximation algorithms for optimal transport via Sinkhorn iteration
计算最佳运输距离(例如推土机的距离)是机器学习、统计学和计算机视觉中的基本问题。尽管最近推出的几种算法具有良好的经验性能,它是未知的一般最佳运输距离是否可以近似在近线性时间。本文证明,这一雄心勃勃的目标实际上是通过Cuturi的Sinkhorn Distances实现的。这一结果依赖于对Sinkhorn迭代的新分析,该分析也直接提出了一种新的贪婪坐标下降算法Greenkhorn,具有相同的理论保证。数值模拟表明,Greenkhorn算法在实际应用中明显优于经典的Sinkhorn算法。
2018-02-07 cs.DS stat.ML
Finding the Near Optimal Policy via Adaptive Reduced Regularization in MDPs
Academy for Advanced Interdisciplinary Studies, Peking University(北京大学前沿交叉学科研究院);School of Mathematical Sciences, Peking University(北京大学数学科学学院)
正则化的MDP充当原始MDP的平滑版本。然而,有偏的最优策略总是存在正则化的MDP。我们提出了一种自适应的λ约简方案来逼近原MDP的最优策略,而不是使正则项的系数λ足够小.结果表明,与设定足够小的λ相比,得到ε-最优策略的迭代复杂度可以降低.此外,该约简方法与直接求解原始MDP之间存在着很强的对偶关系,由此可以推导出对某些算法更具自适应性的约简方法。
2020-10-31 cs.LG stat.ML
Near-optimal Reinforcement Learning in Factored MDPs
Stanford University(斯坦福大学)
任何适用于所有马尔可夫决策过程(MDP)的强化学习算法都会在某些MDP上遭受$Ω(\sqrt{SAT})$遗憾,其中$T$是经过的时间,$S$和$A$是状态和动作空间的基数。这意味着需要$T = Ω(SA)$时间来保证接近最优的策略。在实际感兴趣的许多设置中,由于维数灾难,$S$和$A$可能非常巨大,以至于这种学习时间是不可接受的。我们建立,如果系统是已知的是一个\emph{factored} MDP,它是可能的,以实现遗憾,规模多项式的数量\emph{parameters}编码的因子MDP,这可能是指数小于$S$或$A$。我们提供了两种算法,满足近最佳的遗憾界在这种情况下:后验采样强化学习(PSRL)和置信上限算法(UCRL因子)。
2014-10-31 cs.LG stat.ML
Near-Optimal MNL Bandits Under Risk Criteria
University of Maryland, College Park(马里兰大学帕克分校);Indiana University Bloomington(印第安纳大学伯明顿分校);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们研究MNL土匪,这是一个变种的传统的多臂土匪问题,风险标准。与一般的期望收益不同,风险准则是一种更为普遍的目标,在工商业中得到了广泛的应用。我们设计了一个广泛的类的风险标准,包括但不限于著名的条件风险值,夏普比率和熵风险的算法,并证明他们遭受一个接近最优的遗憾。作为补充,我们还进行了实验与合成和真实的数据,以显示我们提出的算法的经验性能。
2021-03-16 cs.LG stat.ML
Near-Optimal BRL using Optimistic Local Transitions
LORIA(洛里亚实验室)
基于模型的贝叶斯强化学习(BRL)允许在面对未知环境时最佳地采取行动的问题的发现形式化,即,避免勘探开发的困境。然而,明确解决BRL的算法遭受这样的组合爆炸,大量的工作依赖于启发式算法。本文介绍了BOLT,一个简单的和(几乎)确定性的启发式算法BRL是乐观的过渡函数。我们分析了BOLT的样本复杂度,并表明,在一定的参数下,该算法是近最优的贝叶斯意义上的高概率。然后,实验结果突出了该方法与以前的工作相比的主要区别。
2012-06-18 cs.AI cs.LG stat.ML
Bayesian Inverse Transition Learning: Learning Dynamics From Near-Optimal Trajectories
Harvard University(哈佛大学);Imperial College London(帝国理工学院伦敦分校)
本文提出逆向转移学习方法,通过近优轨迹的有限覆盖作为特征,结合贝叶斯方法估计动态,提升决策质量并指导迁移成功判断。
2026-04-27 cs.AI cs.LG stat.ML
A Near-Optimal Algorithm for Debiasing Trained Machine Learning Models
Google Research(谷歌研究院)
我们提出了一种可扩展的后处理算法,用于消除训练模型的偏差,包括深度神经网络(DNN),我们通过限制其超额贝叶斯风险来证明其接近最优。我们在经典算法和现代DNN架构的标准基准数据集上实证验证了它的优势,并证明它优于以前的后处理方法,同时与处理中的性能相当。此外,我们还证明了该算法对于大规模训练的模型特别有效,其中后处理是一种自然和实用的选择。
2022-08-23 cs.AI cs.LG stat.ML
Clinician-in-the-Loop Decision Making: Reinforcement Learning with Near-Optimal Set-Valued Policies
University of Michigan(密歇根大学);Michigan Medicine, University of Michigan(密歇根大学密歇根医学院);Institute for Healthcare Policy & Innovation, University of Michigan(密歇根大学医疗政策与创新研究所)
标准的强化学习(RL)旨在找到一个最优策略,为每个状态确定最佳行动。然而,在医疗保健环境中,许多动作可以相对于奖励几乎等同(例如,生存)。我们考虑了另一个目标-学习集值策略,以捕获导致类似累积奖励的近似等价行为。我们提出了一个无模型算法的基础上的时间差异学习和一个近似贪婪的启发式动作选择。我们分析了所提出的算法的理论特性,提供最优性保证,并在模拟环境和实际临床任务上演示了我们的方法。经验上,该算法表现出良好的收敛性能,并发现有意义的近等价行动。我们的工作为临床医生/人在环决策提供了理论和实践基础,其中人类(例如,临床医生,患者)可以结合额外的知识(例如,副作用、患者偏好)。
2020-07-24 cs.AI cs.LG stat.ML
Nearly Minimax Optimal Offline Reinforcement Learning with Linear Function Approximation: Single-Agent MDP and Markov Game
The Hong Kong University of Science Technology(香港科技大学);Peking University(北京大学);University of Virginia(弗吉尼亚大学)
离线强化学习(RL)的目标是使用预先收集的数据集学习最佳策略,而无需与环境进行进一步的交互。虽然在以前的文献中已经提出了各种离线RL算法,但极大极小最优性只(几乎)建立了表马尔可夫决策过程(MDP)。本文主要研究了具有线性函数逼近的离线强化学习,提出了一种新的基于悲观的离线线性多目标规划算法。在我们的算法的核心是不确定性分解通过一个参考函数,这是新的离线RL下的线性函数近似的文献。理论分析表明,我们的算法可以匹配的性能下限对数因子。我们还将我们的技术扩展到两人零和马尔可夫博弈(MG),并建立了一个新的性能下界,收紧了现有的结果,并验证了所提出的算法的近似极小极大最优性.据我们所知,这些是第一个计算效率和近极大极小最优算法离线单代理MDP和MG与线性函数近似。
2023-03-01 cs.GT cs.LG stat.ML
Quasi-uniform designs with optimal and near-optimal uniformity constant
CNRS, Université Côte d’Azur, I3S(法国国家科学研究中心,蔚蓝海岸大学,I3S实验室);Cardiff University(卡迪夫大学)
设计是给定集合$X$中的不同点的集合,该集合被假定为$R^d$的紧致子集,并且设计的网格比是其填充距离与其分离半径的比率。一系列套设计的均匀常数是设计的网格比的最小上界。我们推导出这个均匀常数的下界,并表明,一个简单的贪婪的建设达到这个下界。然后,我们扩展该计划,以允许更多的灵活性,在设计施工。
2021-12-20 cs.LG math.ST stat.ML
High-Dimensional Differentially-Private EM Algorithm: Methods and Near-Optimal Statistical Guarantees
Rutgers University(罗格斯大学)
在本文中,我们开发了一个通用的框架来设计差分私人期望最大化(EM)算法在高维潜变量模型,基于噪声迭代硬阈值。我们推导出所提出的框架的统计保证,并将其应用到三个特定的模型:高斯混合,混合回归,回归与缺失协变量。在每个模型中,我们建立了接近最优的收敛速度与差分隐私约束,并表明该算法是最小最大率最优的对数因子。开发的技术工具的高维设置,然后扩展到经典的低维潜变量模型,我们提出了一个近速率最优的期望最大化算法在这种设置与差分隐私保证。仿真研究和实际数据分析进行支持我们的结果。
2021-09-09 cs.CR cs.LG math.ST
The Nearest Neighbor Information Estimator is Adaptively Near Minimax Rate-Optimal
我们分析了Kozachenko-Leonenko(KL)最近邻估计的微分熵。我们获得了其性能的第一个统一的上限在一个环面上的Hölder球,而不假设任何条件的密度可以从零接近。伴随着一个新的极大极小下界的Hölder球,我们表明,KL估计实现极大极小率对数因子没有认识到的平滑参数$s$的Hölder球$s\in (0,2]$和任意尺寸$d$,使它的第一个估计,证明满足这一属性。
2018-09-12 cs.IT math.IT stat.ML
Tractable and Near-Optimal Adversarial Algorithms for Robust Estimation in Contaminated Gaussian Models
考虑Huber污染高斯模型下位置和方差阵的同时估计问题。首先,我们研究了总体水平上的最小$f$ -发散估计,对应于具有非参数估计的生成对抗方法,并建立了导致稳健估计的$f$ -发散的条件,类似于最小距离估计的稳健性。更重要的是,我们开发了易于处理的对抗算法与简单的样条判别器,它可以通过嵌套优化实现,这样可以通过最大化凹目标函数给定的电流发生器,完全更新的参数。所提出的方法,以实现极大极小最优率或接近最优率取决于$f$发散和所使用的惩罚。这是第一次建立这样的接近最优的差错率的对抗算法与线性鉴别器下的Huber的污染模型。我们目前的模拟研究,以证明所提出的方法优于经典的鲁棒估计,成对的方法,和神经网络鉴别器的生成对抗方法。
2022-08-06 math.ST stat.ML stat.TH