Nonconvex Regularization for Feature Selection in Reinforcement Learning
Institute of Science Tokyo, Japan Department of Information
本文针对强化学习特征选择提出基于非凸PMC惩罚的批量算法，并给出FRBS算法的新收敛条件，在噪声特征多的场景下显著优于现有方法。
2025-09-19 cs.LG
Finite-Sample Analysis of Proximal Gradient TD Algorithms
UMass Amherst（马萨诸塞大学阿默斯特分校）；University of Rochester（罗切斯特大学）；Adobe（奥多比公司）；INRIA Lille（法国国家信息与自动化研究所里尔分部）；IBM Research（IBM研究院）
在本文中，我们分析了梯度时间差分学习（GTD）系列算法的收敛速度。以往的分析这类算法使用ODE技术来证明渐近收敛，并尽我们所知，没有有限样本分析已经完成。此外，对于收敛的非策略强化学习算法的有限样本分析还没有太多的工作。在本文中，我们将GTD方法表述为随机梯度算法w.r.t.~一个原始-对偶鞍点目标函数，然后进行鞍点误差分析，以获得其性能的有限样本界。还提出了两种改进的算法，即投影GTD 2和GTD 2-MP，分别提供改进的收敛保证和加速。我们的理论分析的结果表明，在离策略学习的情况下，GTD系列算法确实可以与现有的LSTD方法相媲美。
2020-07-03 cs.LG stat.ML
Value Function Approximation in Zero-Sum Markov Games
Duke University（杜克大学）
本文研究了零和马尔可夫博弈中的价值函数逼近问题，该问题可以看作是马尔可夫决策过程（MDP）框架在两主体情形下的推广.我们将误差界从MDP推广到马尔可夫博弈，并将强化学习算法推广到马尔可夫博弈。我们提出了一个推广的最佳停止问题的两个球员同时移动马尔可夫博弈。对于这个特殊的问题，我们提供了更强的界限，可以保证收敛的LSTD和时间差学习与线性价值函数逼近。我们证明了价值函数近似马尔可夫游戏的可行性，通过使用最小二乘策略迭代（LSPI）算法学习足球领域和流量控制问题的好政策。
2012-12-12 cs.AI
Krylov-Bellman boosting: Super-linear policy evaluation in general state spaces
UC Berkeley（加州大学伯克利分校）；Massachusetts Institute of Technology（麻省理工学院）
我们提出并分析了Krylov-Bellman Boosting（KBB）算法在一般状态空间的政策评估。它交替使用非参数回归拟合Bellman残差（如boosting），并通过最小二乘时间差（LSTD）程序估计值函数，该程序应用了随时间自适应增长的特征集。通过利用Krylov方法的连接，我们配备了两个有吸引力的保证，这种方法。首先，我们提供了一个通用的收敛界，允许单独的估计误差在残差拟合和LSTD计算。与我们的数值实验相一致，这个界限表明收敛速度取决于限制的谱结构，并且是典型的超线性。其次，通过将此元结果与残差拟合和LSTD计算的样本大小相关保证相结合，我们获得了具体的统计保证，这些保证取决于样本量以及用于拟合残差的函数类的复杂性。我们说明了KBB算法的各种类型的政策评估问题的行为，并通常发现大量减少样本的复杂性相对于标准的方法拟合值iterationn。
2022-10-20 cs.LG math.OC math.ST
Adaptive Lambda Least-Squares Temporal Difference Learning
Google DeepMind（谷歌DeepMind）；The Technion（以色列理工学院）
时间差分学习（$λ$）是强化学习领域的一种基本算法。然而，设置TD的$λ$参数（其控制TD更新的时间尺度）通常留给从业者。我们正式的$λ$选择问题作为一个偏差方差权衡的解决方案是值的$λ$，导致最小的均方值误差（MSVE）。为了解决这个权衡，我们建议应用留一轨迹交叉验证（LOTO-CV）来搜索$λ$值的空间。不幸的是，这种方法对于大多数实际应用来说在计算上过于昂贵。对于最小二乘TD（LSTD），我们表明，LOTO-CV可以有效地实现自动调整$λ$和应用函数优化方法，有效地搜索空间的$λ$值。由此产生的算法，ALLSTD，是无参数的，我们的实验表明，ALLSTD是显着的计算速度比天真的LOTO-CV实现，同时实现类似的性能。
2016-12-30 cs.AI cs.LG stat.ML
Concentration bounds for temporal difference learning with linear function approximation: The case of batch data and uniform sampling
Indian Institute of Technology Madras（马德拉斯印度理工学院）；Oxford University（牛津大学）；Google Deepmind（谷歌DeepMind）
我们提出了一种基于随机近似（SA）的方法与随机化的样本的政策评估使用最小二乘时间差（LSTD）算法。我们提出的方案相当于使用线性函数近似运行常规的时间差学习，尽管样本是从给定的数据集中统一挑选的。我们的方法导致$O(d)$的复杂性相比，LSTD，其中$d$是数据的维度的改善。我们提供了非渐近的界限，我们提出的方法，在高概率和期望，假设下，矩阵的LSTD解决方案是正定的。对于[23]中提出的路径LSTD变体，可以容易地满足后一个假设。此外，我们还建立了使用我们的方法代替LSTD不影响近似价值函数到真实价值函数的收敛速度。这些速率结果加上我们的方法的低计算复杂性，使其在大数据设置中的实施具有吸引力，其中$d$很大。最小二乘回归的一个类似的低复杂度替代方案是众所周知的随机梯度下降（SGD）算法。我们为SGD提供了有限时间界。我们证明了我们的方法的实用性，作为一个有效的替代路径LSTD经验相结合的最小二乘策略迭代（LSPI）算法在交通信号控制应用。我们还进行了另一组实验，结合SA为基础的低复杂度的最小二乘回归与LinUCB算法的上下文土匪，使用大规模的新闻推荐数据集从雅虎。
2020-01-24 cs.LG stat.ML
Linear Convergence for Natural Policy Gradient with Log-linear Policy Parametrization
University of Oxford（牛津大学）
在无限时间折扣马氏决策过程中，我们分析了具有对数线性策略参数化的非正则化自然策略梯度算法的收敛速度。在确定性的情况下，当Q值是已知的，可以近似由一个已知的特征函数的线性组合的偏差误差，我们表明，几何增加的步长产生线性收敛速度向最优策略。然后，我们考虑基于样本的情况下，当一个已知的特征函数的线性组合的Q-价值函数的最佳表示是已知的估计误差。在这种设置中，我们表明，该算法享有相同的线性保证，在确定性的情况下，取决于估计误差，偏置误差，和特征协方差矩阵的条件数的误差项。我们的研究结果建立在政策镜像下降的一般框架，并将以前的研究结果softmax表格参数化的对数线性政策类。
2023-03-13 cs.LG math.OC math.ST
Policy Evaluation and Temporal-Difference Learning in Continuous Time and Space: A Martingale Approach
Columbia University（哥伦比亚大学）；Data Science Institute, Columbia University（哥伦比亚大学数据科学研究所）
我们提出了一个统一的框架来研究政策评估（PE）和相关的时间差异（TD）方法的强化学习在连续的时间和空间。我们证明了PE等价于保持过程的鞅条件。从这个角度来看，我们发现，均方TD误差近似的二次变化的鞅，因此是不是一个合适的目标PE。我们提出了两种方法来使用鞅特征设计PE算法。第一种方法最小化一个“鞅损失函数“，其解被证明是真价值函数在均方意义下的最佳逼近。该方法解释了经典的梯度Monte-Carlo算法。第二种方法是基于一个系统的方程称为“鞅正交条件”的测试功能。以不同的方式求解这些方程可以恢复各种经典的TD算法，例如TD（$λ$）、LSTD和GTD。测试函数的不同选择决定了结果解在何种意义上接近真价值函数。此外，我们证明了任何收敛的时间离散算法收敛到其连续时间对应的网格尺寸为零，我们提供的收敛速度。我们通过数值实验和应用证明了理论结果和相应的算法。
2022-02-01 cs.LG q-fin.MF
A Unifying View of Coverage in Linear Off-Policy Evaluation
University of California, Berkeley（加州大学伯克利分校）；University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Research（微软研究院）
本文提出了一种新的线性反政策评估中覆盖性的统一视角，通过引入特征动力学覆盖参数，统一了不同设置下的覆盖性定义。
2026-01-26 cs.AI cs.LG stat.ML
Convergence Guarantees for Deep Epsilon Greedy Policy Learning
University of Maryland, College Park（马里兰大学帕克分校）；Department of Mathematics, University of Maryland, College Park（马里兰大学帕克分校数学系）
策略学习是一个快速发展的领域。随着机器人和计算机控制日常生活，它们的出错率需要被最小化和控制。有许多策略学习方法和bandit方法都伴随着可证明的出错率。我们显示了一个错误或遗憾界和收敛性的深度Epperiment贪婪方法，选择行动与神经网络的预测。我们还表明，Eppery Greedy方法遗憾上限最小化与立方根探索。在真实世界数据集MNIST的实验中，我们构建了一个非线性强化学习问题。我们见证了无论是高噪声还是低噪声，有些方法收敛，有些不收敛，这与我们的收敛性证明一致。
2022-01-27 cs.IT cs.LG math.IT
Statistical guarantees for continuous-time policy evaluation: blessing of ellipticity and new tradeoffs
University of Toronto（多伦多大学）
本文针对连续时间马尔可夫扩散过程，利用单条离散观测轨迹研究LSTD价值函数估计，证明在轨迹长度与混合时间及基函数数量近线性缩放时可达$O(1/\sqrt{T})$收敛速率，并揭示椭圆性带来的稳健性及近似与统计误差的新权衡。
2025-02-06 cs.LG math.OC math.PR
Exact Gap between Generalization Error and Uniform Convergence in Random Feature Models
University of California, Berkeley（加州大学伯克利分校）；Salesforce Research（Salesforce研究院）
最近的研究表明，经典的一致收敛界和零训练误差预测器（插值器）（如深度神经网络）的实际测试误差之间可能存在很大的差距。为了更好地理解这一差距，我们研究了非线性随机特征模型的一致收敛性，并对一致收敛如何依赖于样本大小和参数数量进行了精确的理论分析。我们推导并证明了该模型中三个量的解析表达式：1）范数球上的经典一致收敛，2）范数球上插值器上的一致收敛（最近由Zhou et al.（2020）提出），以及3）最小范数收敛的风险。我们证明，在经典一致收敛界为空（偏离$\infty$）的情况下，插值器的一致收敛仍然给出了插值解测试误差的非平凡界。我们还展示了一个不同的设置，经典的一致收敛界是非空的，但一致收敛插值可以提供一个改进的样本复杂度保证。我们的结果提供了第一个精确的比较之间的测试误差和一致收敛界的插值超越简单的线性模型。
2021-03-08 cs.LG math.ST stat.ML
On Least Squares Estimation under Heteroscedastic and Heavy-Tailed Errors
Carnegie Mellon University（卡内基梅隆大学）；University of Florida（佛罗里达大学）
考虑一般非参数回归模型的最小二乘估计。当误差为亚高斯时，研究了未知回归函数的最小二乘估计（LSE）的收敛速率。我们发现上界的收敛速度时，误差有一致有界的条件方差和只有200多个时刻的最小二乘估计。我们发现，矩假设的错误，度量熵的类的功能，和“本地”结构的功能类周围的真理驱动器的LSE的收敛速率之间的相互作用。我们找到了误差的充分条件，在此条件下，最小二乘估计的速率与次高斯误差下的最小二乘估计的速率相匹配。我们的结果是有限样本，并允许异方差和重尾误差。
2021-04-08 cs.LG math.ST stat.ML
Stochastic Gradient Descent with Exponential Convergence Rates of Expected Classification Errors
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
我们考虑再生核希尔伯特空间中的二进制分类问题的随机梯度下降及其平均变量。在使用损失函数的一致性性质的传统分析中，已知即使在条件标签概率上假设低噪声条件时，期望分类误差也比期望风险收敛得更慢。因此，所得速率是次线性的。因此，重要的是考虑是否可以实现预期分类误差的更快收敛。在最近的研究中，在强低噪声条件下显示了随机梯度下降的指数收敛率，但理论分析仅限于平方损失函数，这对于二元分类任务来说有些不足。在本文中，我们显示了一个指数收敛的期望分类误差在最后阶段的随机梯度下降的一类广泛的可微凸损失函数在类似的假设。至于平均随机梯度下降，我们表明，从训练的早期阶段相同的收敛速度。在实验中，我们验证了我们的分析上的$L_2$正则化逻辑斯谛回归。
2022-07-25 cs.LG math.OC stat.ML
Convergence Rates of Inexact Proximal-Gradient Methods for Convex Optimization
INRIA（法国国家信息与自动化研究所）；Laboratoire d’Informatique de l’École Normale Supérieure（巴黎高等师范学院计算机实验室）
我们考虑的问题，优化的光滑凸函数和非光滑凸函数使用近似梯度方法，其中存在的误差在计算的梯度的光滑项或在邻近算子相对于非光滑项的总和。我们证明了基本近似梯度法和加速近似梯度法都能达到与无误差情况下相同的收敛速度，只要误差以适当的速率减小，在一组结构稀疏性问题上，我们的性能与精心选择的固定误差水平一样好或更好。
2011-12-01 cs.LG math.OC
Stagewise Training Accelerates Convergence of Testing Error Over SGD
The University of Iowa（爱荷华大学）；Alibaba Group（阿里巴巴集团）
逐步训练策略广泛用于学习神经网络，其运行随机算法（例如，SGD）以相对较大的步长（也称为学习率）开始，并在多次迭代后以几何方式减小步长。已经观察到，在训练误差和测试误差方面，逐阶段SGD比具有多项式衰减步长的香草SGD具有快得多的收敛。{ \it但如何解释这一现象在很大程度上被现有的研究所忽视。}本文为解释这种快速收敛提供了一些理论依据。特别是，我们考虑了一个阶段式的训练策略，以最大限度地减少经验风险，满足Polyak-Jasojasiewicz（PL）条件，这已被观察/证明为神经网络，也适用于一个广泛的家庭的凸函数。对于凸损失函数和两类接近凸函数的“良好行为”非凸目标，我们在PL条件下建立了比香草SGD更快的阶段训练收敛，无论是训练误差还是测试误差。对深度残差网络的阶段式学习的实验表明，它满足一种非凸性假设，因此可以用我们的理论来解释。独立的利益，所考虑的非凸损失函数的测试误差界的维数和范数独立。
2019-02-02 cs.LG math.OC stat.ML
Perturbed Iterate SGD for Lipschitz Continuous Loss Functions with Numerical Error and Adaptive Step Sizes
针对有限精度环境，研究扰动迭代SGD在数值误差与自适应步长下的收敛性，证明其渐近收敛至Clarke稳定点及期望非渐近收敛至近似稳定点。
2026-10-08 cs.LG math.OC
On the Convergence of the Gradient Descent Method with Stochastic Fixed-point Rounding Errors under the Polyak-Lojasiewicz Inequality
Eindhoven University of Technology（埃因霍温理工大学）；Università di Pisa（比萨大学）
本文证明在Polyak-Lojasiewicz条件下，有偏随机舍入误差可消除梯度消失并引导下降，且收敛速率上界优于无偏随机舍入，实验验证了理论。
2025-01-18 cs.LG cs.NA math.NA
Spectral convergence of diffusion maps: improved error bounds and an alternative normalisation
Sorbonne Université（索邦大学）；Université de Paris（巴黎大学）；University of Potsdam（波茨坦大学）
扩散映射是一种广泛用于降维的流形学习算法。使用一个样本的分布，它近似的本征值和本征函数相关的拉普拉斯-贝尔特拉米运营商。然而，近似误差的理论界限通常比实践中看到的速率弱得多。本文使用新的方法来提高误差界的模型的情况下，分布是支持的超环面。对于数据采样（方差）组件的错误，我们空间局部化的紧凑嵌入估计某些哈代空间，我们研究的确定性（偏差）组件作为一个扰动的拉普拉斯-贝尔特拉米算子的相关PDE，并适用于相关的谱稳定性结果。使用这些方法，我们匹配长期存在的逐点误差界的光谱数据和规范收敛的操作员离散化。我们还介绍了另一种基于Sinkhorn权重的扩散图归一化。这种归一化近似于样品上的朗之万扩散，并产生对称算子近似。我们证明了它具有更好的收敛性相比，在平坦域上的标准规范化，并提出了一个高效的算法来计算Sinkhorn权重。
2021-04-07 cs.LG cs.NA math.NA
An Exploration of Multicalibration Uniform Convergence Bounds
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；University of California, San Diego（加利福尼亚大学圣地亚哥分校）
最近的工作已经调查了公平的机器学习所需的样本复杂度。最先进的这种样本复杂性界的开发，通过分析多校准一致收敛为一个给定的预测类。我们提出了一个框架，通过重新参数化经验风险最小化（ERM）学习的样本复杂性，产生多校准误差一致收敛界。从这个框架中，我们证明了多校准误差表现出依赖于分类器架构以及底层数据分布。我们进行了实验评估，调查不同的家庭分类器的多校准错误的行为。我们比较多校准误差集中界限的评价结果。我们的调查提供了额外的视角，算法公平性和多校准误差收敛范围。鉴于普遍存在的ERM样本复杂性界限，我们提出的框架使机器学习从业者能够轻松地理解无数分类器架构的多校准误差的收敛行为。
2022-02-09 cs.LG
Exponential convergence of testing error for stochastic gradient methods
INRIA（法国国家信息与自动化研究所）；Département d’Informatique de l’ENS（巴黎高等师范学院计算机系）；Ecole Normale Supérieure（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；PSL Research University（巴黎文理研究大学）
本文考虑了具有正定核和平方损失的二元分类问题，研究了随机梯度方法的收敛速度。我们表明，虽然过量的测试损失（平方损失）慢慢收敛到零的观察（从而迭代）的数量趋于无穷大，测试误差（分类误差）收敛指数快速，如果假设低噪声条件。
2018-11-20 cs.LG stat.ML
Convergence Analysis of Federated Learning Methods Using Backward Error Analysis
Seoul National University（首尔大学）；Korea Institute of Science and Technology（韩国科学技术研究院）
本文利用向后误差分析推导非独立同分布下联邦学习算法的隐式正则化器，揭示FedAvg梯度方差增加的收敛阻碍，并解释FedSAM与SCAFFOLD消除偏差的优势及在非凸设置下的局限。
2025-03-05 cs.AI cs.DC cs.LG
Error Estimate and Convergence Analysis for Data Valuation
National Center for Applied Mathematics, Tianjin University（应用数学国家中心，天津大学）；School of Mechanical and Aerospace Engineering, Jilin University（机械与航空航天工程学院，吉林大学）；School of Mathematics, Physics and Computing, University of Southern Queensland（数学、物理与计算学院，南方昆士兰大学）
本文提出基于NDDV的数据估值误差估计与收敛性分析方法，推导了损失差异的二次误差界，并证明了训练损失的梯度范数渐近消失及元损失的次线性收敛性。
2025-12-18 cs.LG
Exponential Convergence Rates of Classification Errors on Learning with SGD and Random Features
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
虽然核方法在许多学习问题中得到了广泛的应用，但它们对大数据集的可扩展性很差。为了解决这个问题，草图和随机梯度方法是最常用的技术，以获得有效的大规模学习算法。在这项研究中，我们考虑使用随机特征和随机梯度下降来解决二元分类问题。在最近的研究中，在强低噪声条件下的期望分类误差的指数收敛速度已被证明。我们将这些分析扩展到随机特征设置，分析由随机特征的近似引起的误差，所产生的假设之间的距离，包括人口风险最小化和经验风险最小化时，使用一般Lipschitz损失函数，以表明即使随机特征近似实现的预期分类误差的指数收敛。此外，我们证明了收敛速度不依赖于特征的数量，并且由于强低噪声条件，在分类问题中使用随机特征具有显着的计算优势。
2022-06-02 cs.LG stat.ML
Convergence and Error Bounds for Universal Prediction of Nonbinary Sequences
Solomonoff的不可计算的通用预测方案$ξ$允许预测序列$x_1...x_{k-1}$的下一个符号$x_k$，用于任何图灵可计算的但在其他方面未知的概率环境$μ$。该方案将推广到任意环境类，其中，除其他外，允许可计算的通用预测方案$ξ$的建设。证明了$ξ$到$μ$在条件均方意义下以$μ$概率1收敛.它示出的通用$ξ$计划的预测误差的平均数迅速收敛到那些由最好的可能通知$μ$计划。给出了一般有限字母表的方案、定理和证明，与二进制情况相比，这导致了额外的复杂性。几个扩展所提出的理论和结果进行了概述。它们包括一般的损失函数和界限，机会游戏，无限字母表，部分和延迟预测，分类，和更积极的系统。
2001-06-15 cs.AI cs.CC cs.LG
Error analysis of generative adversarial network
University of Mississippi（密西西比大学）
本研究通过应用Talagrand不等式和Borel-Cantelli引理，为基于VC型函数的GAN模型建立了紧密的误差收敛速率，该方法还能改进现有误差估计。
2023-10-23 cs.LG stat.ML
Full error analysis for the training of deep neural networks
ETH Zurich（苏黎世联邦理工学院）；University of Münster（明斯特大学）；University of Düsseldorf（杜塞尔多夫大学）
近年来，深度学习算法已经非常成功地应用于经典解范式无法解决的一系列问题。然而，没有完全严格的数学误差和收敛性分析来解释深度学习算法的成功。在许多情况下，深度学习算法的误差可以分解为三个部分：近似误差、泛化误差和优化误差。在这项工作中，我们为某个深度学习算法估计这三个误差中的每一个，并将这三个误差估计组合起来，以获得所考虑的深度学习算法的总体误差分析。特别是，我们由此建立了针对所考虑的深度学习算法的总体误差的适当收敛速度的收敛。我们的收敛速度分析是远离最佳的收敛速度，我们建立的是相当缓慢，在维度上呈指数级增加，特别是，从灾难的维度。相反，这项工作的主要贡献是提供一个完整的误差分析（i）涵盖深度学习算法中通常出现的三个不同误差源中的每一个，以及（ii）将这三个误差源合并为所考虑的深度学习算法的一个整体误差估计。
2020-01-30 cs.LG cs.NA math.NA
Sample Complexity of Uniform Convergence for Multicalibration
Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
人们越来越关注机器学习系统中的社会问题，特别是公平性问题。多重校准提供了一个全面的方法来解决组公平性。在这项工作中，我们解决了多校准误差，并将其与预测误差解耦。解耦公平性度量（多校准）和准确性（预测误差）的重要性是由于两者之间的固有权衡，以及关于“正确权衡”的社会决定（如监管机构多次施加的）。我们的工作给出了样本复杂性界的一致收敛保证的多校准误差，这意味着，无论精度，我们可以保证经验和（真实）多校准误差是接近的。我们强调，我们的结果：（1）比以前的边界更一般，因为它们适用于不可知和可实现的设置，并且不依赖于特定类型的算法（例如，延迟私有），（2）改善了以前的多校准样本复杂性边界，以及（3）暗示了经典校准误差的一致收敛保证。
2021-06-07 cs.DS cs.LG stat.ML
Convergence of Unregularized Online Learning Algorithms
City University of Hong Kong（香港城市大学）；Fudan University（复旦大学）；Zhejiang University（浙江大学）
本文研究了在线梯度下降算法在再生核Hilbert空间（RKHS）中的收敛性。给出了超泛化误差收敛于期望值的一个充分条件和一个必要条件。给出了几乎处处收敛的一个充分条件。以高概率，我们提供了显式的平均迭代和最后一次迭代的超额泛化误差的收敛速度，这反过来也意味着收敛速度的概率为1。据我们所知，这是第一个高概率收敛速度的最后一个在线梯度下降算法没有强凸性。没有任何有界性假设的迭代，我们的结果是由一个新的使用的两个措施的算法的一步进展，分别由泛化误差和RKHS的距离，其中所涉及的鞅的方差被抵消了算法的下降属性。
2017-08-09 cs.LG
Online Regularized Learning Algorithm for Functional Data
Zhejiang University（浙江大学）
近年来，函数线性模型在统计学和机器学习中引起了越来越多的关注，其目的是恢复斜率函数或其函数预测器。研究再生核Hilbert空间中泛函线性模型的在线正则化学习算法。分别给出了多项式衰减步长和常数步长下超差预测误差和估计误差的收敛性分析。快速收敛速度可以通过容量相关分析得出。通过引入显式正则化项，提高了非正则化在线学习算法在步长多项式衰减时的饱和边界，并在没有容量假设的情况下建立了估计误差的快速收敛速度.然而，它仍然是一个开放的问题，以获得容量无关的收敛速度的估计误差的非正则化在线学习算法与衰减步长。在定步长条件下，预测误差和估计误差的收敛速度与文献中的结果相当。
2022-11-24 cs.LG stat.ML
Exponential Error Convergence in Data Classification with Optimized Random Features: Acceleration by Quantum Machine Learning
IQOQI Vienna, Austrian Academy of Sciences（奥地利科学院维也纳量子光学与量子信息研究所）；Atominstitut, Technische Universität Wien（维也纳技术大学原子研究所）；RIKEN AIP（理化学研究所人工智能研究中心）
分类是机器学习中的一项常见任务。随机特征（RF）是基于核方法的可扩展学习算法的核心技术，最近提出的优化随机特征，根据模型和数据分布进行采样，可以显着减少并可证明最小化所需的特征数量。然而，现有的研究分类使用优化的RF遭受计算困难，在采样每个优化的RF，而且，它未能实现指数快速的误差收敛速度，其他国家的最先进的核方法可以实现在低噪声条件下。为了克服这些慢化，我们在这里构建了一个分类算法，通过量子机器学习（QML）加速优化的RF，并研究其运行时，以阐明整体优势。我们证明，我们的算法可以实现指数误差收敛下的低噪声条件下，即使与优化的RF，在同一时间，我们的算法可以利用的优势，显着减少的数量的功能，而不会由于QML的计算难度。这些结果发现了一个有前途的应用QML加速领先的基于核的分类算法，而不破坏其广泛的适用性和指数误差收敛速度。
2022-06-13 cs.LG quant-ph stat.ML
Convergence Analysis of the Deep Galerkin Method for Weak Solutions
Wuhan University（武汉大学）；The Hong Kong University of Science and Technology（香港科技大学）；University of Maryland, College Park（马里兰大学帕克分校）
在$\mathbb{R}^d$上分析了二阶椭圆型偏微分方程弱解的深度Galerkin方法在Dirichlet、Neumann和Robin边界条件下的收敛速度.在DGMW中，应用深度神经网络来参数化PDE解，并采用第二个神经网络来参数化传统Galerkin公式中的检验函数。通过根据训练样本数$n$适当选择两个网络的深度和宽度，证明了DGMW的收敛速度为$\mathcal{O}(n^{-1/d})$，这是对弱解的第一个收敛结果.证明的主要思想是将DGMW的误差分为近似误差和统计误差。我们推导出一个上界的近似误差的$H^{1}$规范和限制的统计误差通过Rademacher复杂性。
2023-02-05 cs.LG cs.NA math.NA
A new approach to generalisation error of machine learning algorithms: Estimates and convergence
National Technical University of Athens（雅典国家技术大学）；IACM-FORTH（希腊基础研究与技术基金会计算机科学研究所）；University of Crete（克里特大学）；University of Sussex（萨塞克斯大学）
本文研究深度神经学习模型问题，提出了一种在无神经网络结构假设下估计泛化误差并证明其收敛性的新方法。
2023-06-23 cs.LG math.PR stat.ML
Error Mitigation-Aided Optimization of Parameterized Quantum Circuits: Convergence Analysis
University of Birmingham（伯明翰大学）；King’s College London（伦敦国王学院）
变分量子算法（VQA）提供了最有前途的途径，以获得量子优势通过噪声的中间尺度量子（NISQ）处理器。这样的系统利用经典优化来调整参数化量子线路（PQC）的参数。目标是最小化成本函数，该成本函数取决于从PQC获得的测量输出。优化通常通过随机梯度下降（SGD）来实现。在NISQ计算机上，由于缺陷和退相干引起的门噪声通过引入偏差来影响随机梯度估计。量子误差缓解（QEM）技术可以减少估计偏差，而不需要增加量子位的数量，但它们反过来会导致梯度估计的方差增加。本文研究了量子门噪声对变分本征解（VQE）SGD收敛性的影响。主要目标是确定条件下，QEM可以提高性能的SGD的VQE。结果表明，量子门噪声诱导SGD的收敛误差（相对于参考无噪声PQC评估），这取决于噪声门的数量，噪声的强度，以及被测量和最小化的可观察的本征谱的非零误差地板。相反，使用QEM，可以获得任何任意小的误差。此外，对于在有或没有QEM的情况下可达到的误差水平，QEM可以减少所需迭代的次数，但仅在量子噪声水平足够小的情况下，并且在每次SGD迭代时允许足够大数量的测量。最大割问题的数值例子证实了主要的理论研究结果。
2022-09-23 cs.LG quant-ph
Wireless Quantized Federated Learning: A Joint Computation and Communication Design
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
最近，联邦学习（FL）作为一种有前途的分散式机器学习方法引起了广泛的关注，它提供了隐私和低延迟。然而，通信瓶颈仍然构成一个问题，需要解决的FL在无线网络上的有效部署。在本文中，我们的目标是最大限度地减少FL的总收敛时间，通过量化的本地模型参数之前，上行链路传输。更具体地说，FL算法与随机量化的收敛性分析，揭示了量化误差对收敛速度的影响。在此之后，我们共同优化计算，通信资源和量化位数，以保证最小化的收敛时间在所有的全球轮，受到能量和量化误差的要求，这源于收敛分析。量化误差对收敛时间的影响进行了评估，并揭示了模型精度和及时执行之间的权衡。此外，所提出的方法被证明是导致更快的收敛与基线计划相比。最后，有用的见解的量化误差容限的选择提供。
2022-03-11 cs.LG eess.SP
Convergence radius and sample complexity of ITKM algorithms for dictionary learning
University of Innsbruck（因斯布鲁克大学）
在这项工作中，我们表明，迭代阈值和K-均值（ITKM）算法可以恢复生成字典K原子从嘈杂的$S$稀疏信号的错误$\tilde \varepsilon$，只要初始化是在收敛半径内，这是一个$\log K$因子成反比的信号的动态范围，和样本大小成正比于$K \log K \tilde \varepsilon^{-2}$。结果是有效的任意目标误差，如果稀疏水平的信号尺寸$d$的平方根的顺序和目标误差下降到$K^{-\ell}$，如果$S$规模为$S \leq d/(\ell \log K)$。
2016-08-08 cs.IT cs.LG math.IT
