Escaping Local Minima Provably in Non-convex Matrix Sensing: A Deterministic Framework via Simulated Lifting
本文提出了一种确定性框架，通过模拟提升方法在非凸矩阵感知中证明性地逃离虚假局部极小值，无需实际提升计算，且具有最小的计算成本。
2026-08-20 cs.LG math.OC
DP-AdamBC: Your DP-Adam Is Actually DP-SGD (Unless You Apply Bias Correction)
University of British Columbia（不列颠哥伦比亚大学）
针对DP-Adam因第二矩估计偏差导致性能下降的问题，提出DP-AdamBC算法消除偏差，在图像、文本和图节点分类任务中最终准确率提升高达3.5%。
2023-12-21 cs.CR cs.LG
Provably Efficient Off-Policy Adversarial Imitation Learning with Convergence Guarantees
Division of Systems Engineering（系统工程系）；Department of Computer Science（计算机科学系）；Amazon Robotics（亚马逊机器人）；Department of Electrical and Computer Engineering（电气与计算机工程系）
研究离策略对抗模仿学习算法的收敛特性与样本复杂性，证明重用特定策略生成的样本不影响收敛保证，且离策略更新的分布转移误差被更多数据带来的好处主导，为离策略AIL算法样本效率提供理论支持。
2026-07-09 cs.LG
Learning Provably Robust Motion Planners Using Funnel Libraries
Princeton University（普林斯顿大学）
本文提出了一种学习运动规划者的方法，伴随着概率保证成功的新环境，在一个允许的集合内的机器人的动态一致的任何干扰。我们实现这一点，汇集了工具，从泛化理论和鲁棒控制。首先，我们策划了一个运动基元库，其中每个基元的鲁棒性的特征在于前向可达集的过度近似，即，一个“漏斗”。然后，我们优化可能近似正确（PAC）贝叶斯泛化边界训练我们的计划组成这些原语，使整个漏斗尊重的问题规范。我们展示了我们的方法在两个模拟示例上提供强有力保证的能力：（i）在具有多辆车的五车道高速公路上，在外部干扰下自主车辆的导航，以及（ii）在存在风干扰的情况下无人机穿过障碍物场的导航。
2021-11-16 cs.LG cs.RO cs.SY
Provably Efficient Self-Calibrating Quantum Fault Tolerance
School of Engineering and Applied Sciences, Harvard University（哈佛大学工程与应用科学学院）；Department of Physics, Harvard University（哈佛大学物理系）
该研究建立自校准量子容错理论框架，利用错码测量实现高效在线优化，其收敛率与量子LDPC码的码距无关，经模拟证实该范式可同时保护逻辑信息并稳定硬件。
2026-08-21 cs.LG quant-ph
Deep Networks Provably Classify Data on Curves
Department of Electrical Engineering, Columbia University（哥伦比亚大学电气工程系）；Data Science Institute, Columbia University（哥伦比亚大学数据科学研究所）；Center for Brain Science, Harvard University（哈佛大学脑科学中心）；Department of Applied Physics and Applied Mathematics, Columbia University（哥伦比亚大学应用物理与应用数学系）
具有低维非线性结构的数据在工程和科学问题中普遍存在。我们研究了一个具有这种结构的模型问题--一个二元分类任务，它使用一个深度全连接的神经网络来对从单位球面上两条不相交的光滑曲线中提取的数据进行分类。除了温和的正则条件外，我们对曲线的形状没有任何限制。我们证明，当（i）网络深度相对于确定问题难度的某些几何属性较大，以及（ii）网络宽度和样本数量在深度上是多项式时，随机初始化梯度下降快速学习以高概率正确分类两条曲线上的所有点。据我们所知，这是深度网络的第一个泛化保证，其非线性数据仅取决于内在数据属性。我们的分析通过减少神经正切核（NTK）机制中的动态来进行，其中网络深度在解决分类问题中扮演着拟合资源的角色。特别是，通过对NTK衰减特性的细粒度控制，我们证明，当网络足够深时，NTK可以通过流形上的平移不变算子进行局部逼近，并在光滑函数上稳定求逆，这保证了收敛性和推广。
2021-10-29 cs.LG math.OC stat.ML
A Provably Correct and Robust Algorithm for Convolutive Nonnegative Matrix Factorization
Stanford University（斯坦福大学）；Université de Mons（蒙斯大学）
在本文中，我们提出了一个可证明正确的算法卷积非负矩阵分解（CNMF）的分离性假设。CNMF是非负矩阵分解（NMF）的卷积变体，其作为具有附加序列结构的NMF起作用。该模型在许多应用中是有用的，例如音频声源分离和神经序列识别。虽然已经提出了一些启发式算法来解决CNMF，但据我们所知，还没有开发出可证明正确的算法。我们提出了一种算法，利用CNMF的NMF模型的基础上，利用现有的算法可分离NMF证明找到一个解决方案在一定条件下。我们的方法保证在低噪声设置的解决方案，并运行在多项式时间。我们说明了它的有效性合成数据集，并在唱歌的鸟的音频序列。
2019-11-13 cs.LG math.OC stat.ML
Provably Learning Diverse Features in Multi-View Data with Midpoint Mixup
Duke University（杜克大学）
本研究从特征学习角度证明，中点Mixup相比经验风险最小化，能更有效地在多视图分类数据中学习每个类别的全部特征，并在修改后的图像基准上验证了该理论。
2024-11-04 cs.AI cs.CV cs.LG
Provably Correct Automatic Subdifferentiation for Qualified Programs
University of Washington, Seattle（华盛顿大学西雅图分校）；University of Southern California（南加州大学）
廉价梯度原理（Griewank 2008）--计算标量值函数梯度的计算成本几乎相同（通常在$5$的因子内），因为简单地计算函数本身-在优化中具有中心重要性;它允许我们快速获得标量损失函数的（高维）梯度，其随后用于基于黑盒梯度的优化过程。目前的情况在计算次导数方面有明显的不同：广泛使用的ML库，包括TensorFlow和PyTorch，即使在简单的例子中也不能正确计算（广义）次导数。这项工作考虑的问题：是否有一个便宜的次梯度原则？我们的主要结果表明，在一定的限制下，我们的图书馆的非光滑函数（标准的非线性规划），可证明正确的广义次导数可以计算的计算成本是在一个（无量纲）因子的$6$的计算标量函数本身的成本。
2019-01-14 cs.LG math.OC stat.ML
Provably Correct Optimization and Exploration with Non-linear Policies
Microsoft Research（微软研究院）
策略优化方法仍然是经验强化学习（RL）中强大的主力，重点是可以轻松推理复杂和连续状态和/或动作空间的神经策略。然而，在基于政策的方法与非线性函数逼近的战略探索的理论理解，在很大程度上是缺失的。在本文中，我们通过设计ENIAC来解决这个问题，ENIAC是一种演员-评论家方法，允许在评论家中进行非线性函数逼近。我们表明，在某些假设下，例如，一个有界的逃避者维度$d$的评论家类，学习者发现一个接近最优的政策，在$O(\poly(d))$探索轮。该方法对模型误设定具有鲁棒性，并严格扩展了线性函数逼近的现有工作。我们还对我们的方法进行了一些计算优化，其中统计保证略差，并且基于现有的深度RL工具进行了经验适应。我们实证评估这种适应，并表明它优于线性方法启发的先验知识，通过正确推理代理的非线性函数近似下的不确定性来建立价值。
2021-03-22 cs.LG stat.ML
PAC-Bayes Control: Learning Policies that Provably Generalize to Novel Environments
Department of Mechanical and Aerospace Engineering（1,2 机械与航空航天工程系）；Department of Computer Science Princeton University（3 计算机科学系 纽约大学普林斯顿分校）
本文提出了一种基于PAC-Bayes框架的机器人策略学习方法，通过在新环境中泛化能力的理论分析，为机器人系统提供强泛化保证。
2020-08-25 cs.AI cs.LG cs.RO
Provably Correct Automata Embeddings for Optimal Automata-Conditioned Reinforcement Learning
University of California Berkeley（加州大学伯克利分校）；Nissan Advanced Technology Center Silicon Valley（日产先进技术研发中心硅谷）
本文为自动机条件强化学习提供理论框架，证明其可学习性，并提出可证明正确的自动机嵌入方法，保证最优多任务策略学习，实验验证了理论结果。
2025-05-22 cs.AI cs.CL cs.FL
Probably Approximately Correct Vision-Based Planning using Motion Primitives
Princeton University（普林斯顿大学）
本文提出了一种学习基于视觉的规划器的方法，该方法可证明地推广到新的环境（即，在训练中看不到的环境）。我们利用可能近似正确（PAC）贝叶斯框架，以获得在所有环境中的政策的预期成本的上限。因此，最小化PAC-Bayes上限可以训练伴随着新环境性能证书的策略。我们提出的训练管道为深度神经网络策略提供了强有力的泛化保证，方法是：（a）使用进化策略（ES）在策略空间上获得良好的先验分布，然后（b）将PAC-Bayes优化公式化为有效可解的参数凸优化问题。我们证明了我们的方法产生强大的泛化保证学习基于视觉的运动规划的有效性，通过两个模拟的例子：（1）无人机（UAV）导航障碍领域与板载视觉传感器，和（2）一个动态的四足机器人穿越粗糙的地形与本体感受和外感受传感器。
2020-11-10 cs.LG cs.RO cs.SY
ART: Abstraction Refinement-Guided Training for Provably Correct Neural Networks
Purdue University（普渡大学）；Rutgers University（罗格斯大学）
人工神经网络（ANN）在各种具有挑战性的机器学习应用中已经表现出显著的实用性。虽然他们的行为的正式验证的属性是高度期望的，他们已经证明是出了名的难以推导和执行。现有的方法通常将此问题表述为事后分析过程。在本文中，我们提出了一种新的学习框架，确保这种正式的保证，强制执行的建设。我们的技术能够训练可证明正确的网络，这些网络具有广泛的安全属性，这种能力远远超出了现有的方法，而不会影响准确性。我们的关键见解是，我们可以将基于优化的抽象细化循环集成到学习过程中，并在动态构建的输入空间分区上进行操作，以协同考虑准确性和安全性目标。细化过程迭代地分割从中提取训练数据的输入空间，由这样的分区实现安全验证的功效指导。我们已经在一个工具（ART）中实现了我们的方法，并将其应用于无人驾驶飞行员防撞系统ACAS Xu数据集和碰撞检测数据集的一般安全属性。重要的是，我们的经验表明，实现安全并不以牺牲准确性为代价。我们的方法表明，抽象细化方法为构建准确和正确的机器学习网络提供了一条有意义的途径。
2020-10-01 cs.AI cs.LG cs.PL
Simplex-Structured Matrix Factorization: Sparsity-based Identifiability and Provably Correct Algorithms
Department of Mathematics and Operational Research（数学与运筹学系）；Faculté Polytechnique, Université de Mons（蒙斯大学理工学院）
在本文中，我们提供了新的算法与可识别性保证单纯形结构矩阵分解（SSMF），推广的非负矩阵分解。为SSMF提供可识别性结果的当前最先进的算法依赖于充分分散条件（SSC），其要求数据点在基向量的凸包内良好地分散。在大多数情况下，我们提出的算法恢复唯一分解的条件比SSC弱得多。我们只需要在维数为$d-1$的基向量的凸包的每个面上具有$d$点。关键思想是基于提取包含最大数量的点的小平面。我们说明了我们的方法对合成数据集和高光谱图像的有效性，表明它优于最先进的SSMF算法，因为它能够处理更高的噪声水平，秩亏矩阵，离群值和输入数据，高度违反SSC。
2020-07-22 cs.LG eess.IV eess.SP
Verified Neural Compressed Sensing
Google DeepMind（谷歌DeepMind）；Inria（法国国家信息与自动化研究所）；École Normale Supérieure（巴黎高等师范学院）；PSL University（巴黎文理研究大学）；CNRS（法国国家科学研究中心）
本文提出训练并自动验证用于压缩感知的可证明正确神经网络，能在最高50维问题中从线性及二值化线性测量恢复稀疏向量，并以自适应网络复杂度解决传统方法缺乏保证的情形。
2024-05-08 cs.AI cs.LG
Intersecting Faces: Non-negative Matrix Factorization With New Guarantees
Microsoft Research New England（新英格兰微软研究院）
非负矩阵分解（NMF）是一种自然的混合模型，在科学和工程中有着广泛的应用。已经开发了大量的算法来解决NMF，但由于问题的非凸性质，几乎不能保证这些方法的工作效果。最近的研究热潮集中在一类非常有限的NMF，称为可分离NMF，其中已开发出可证明正确的算法。在本文中，我们提出了子集可分NMF的概念，它实质上推广了可分性的性质。我们表明，子集可分性是一个自然的必要条件，分解是唯一的或有最小的体积。我们提出了面交算法，该算法在自然条件下可有效地解决子集可分NMF问题，并证明了该算法对小噪声具有鲁棒性。我们探讨了模拟的面相交的性能，并讨论了它在经验上优于最先进方法的设置。我们的工作是一个步骤，找到可证明正确的算法，解决大类NMF问题。
2015-07-08 cs.LG stat.ML
Gradient Methods Provably Converge to Non-Robust Networks
TTI Chicago（芝加哥丰田技术研究所）；Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Weizmann Institute of Science（魏茨曼科学研究所）
尽管进行了大量的研究，但仍然不清楚为什么神经网络如此容易受到对抗性样本的影响。在这项工作中，我们确定了自然环境，其中使用梯度流训练的深度$2$ ReLU网络可证明是非鲁棒的（易受小的对抗性$\ell_2$扰动的影响），即使正确分类训练数据集的鲁棒网络存在。也许令人惊讶的是，我们证明了众所周知的隐式偏差对利润最大化诱导非鲁棒网络的偏见，通过证明每个网络满足KKT条件的最大利润问题是非鲁棒的。
2022-10-04 cs.LG
On some provably correct cases of variational inference for topic models
Princeton University（普林斯顿大学）
变分推理是一种非常有效和流行的启发式方法，在潜变量模型的上下文中以各种形式使用。它与期望最大化（EM）密切相关，并且当精确EM在计算上不可行时应用。尽管是非常流行的，目前的理论理解的有效性variaitonal推理为基础的算法是非常有限的。在这项工作中，我们提供了第一次分析的情况下，变分推理算法收敛到全局最优，在设置的主题模型。更具体地说，我们证明了变分推理可证明学习主题模型的最佳参数下的主题词矩阵和主题先验的自然假设。在我们的设置中主题词矩阵必须满足的性质与在（Anandkumar等人，2013），以及（Arora et al.，2012年c）。关于主题先验的假设与众所周知的Dirichlet先验有关，Dirichlet先验由（Blei et al.，2003年）。众所周知，初始化在基于变分的算法在实践中的表现中起着至关重要的作用。我们使用的初始化是相当自然的。其中之一类似于LDA-c中目前使用的内容，LDA-c是主题模型变分推理的最流行实现。另一种是重叠聚类算法，其灵感来自于（Arora et al.，2014）关于字典学习，这是非常简单和有效的。虽然我们的主要目标是提供变分推理在实践中可能工作的见解，但变分推理更新的乘法性质而不是加法性质迫使我们使用相当非标准的证明参数，我们相信这将引起普遍兴趣。
2015-08-22 cs.DS cs.LG stat.ML
Provably Correct Training of Neural Network Controllers Using Reachability Analysis
University of California, Irvine（加州大学欧文分校）
在本文中，我们考虑了非线性动力系统的神经网络（NN）控制器的训练问题，这些控制器保证满足安全性和活性（例如，到达-避免）属性。我们的方法是结合基于模型的动力系统的设计方法与数据驱动的方法来实现这一目标。我们将注意力限制在具有整流器线性单元（ReLU）非线性的NN上，这些NN已知代表连续分段仿射（CPWA）函数。给定一个动力系统的数学模型，我们计算一个有限状态的抽象模型，捕捉所有可能的CPWA控制器下的闭环行为。使用这个有限状态的抽象模型，我们的框架确定了一个家庭的CPWA功能保证满足安全要求。我们在训练过程中使用NN权重投影算子来增强学习算法，从而强制产生的NN表示来自可证明安全的CPWA函数家族的CPWA函数。此外，该框架使用有限状态抽象模型来识别可能满足活性属性的候选CPWA函数。使用这样的候选CPWA函数，所提出的框架偏置NN训练以实现活性规范。我们在模拟和实际的机器人车辆上显示了所提出的框架的有效性。
2021-09-05 cs.LG cs.RO cs.SY
Synthesis of Provably Correct Autonomy Protocols for Shared Control
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Radboud University Nijmegen（拉德堡德大学奈梅亨分校）
我们综合共享控制协议的概率时序逻辑规范。更具体地说，我们开发了一个框架，在这个框架中，人类和自治协议可以发出命令来执行某项任务。我们将这些命令混合到机器人的关节输入中。我们建模的人与机器人之间的交互作为一个马尔可夫决策过程（MDP），代表了共享的控制方案。使用逆强化学习，我们获得了人类的行为和决策的抽象。我们使用随机策略来解释人类决策的随机性，这是由任务规范的复杂性或不完美的界面等因素造成的。我们设计的自治协议，以确保由此产生的机器人的行为满足给定的安全和性能规范的概率时序逻辑。此外，所产生的策略生成的行为尽可能类似于人类命令所诱导的行为。我们有效地解决了潜在的问题，使用拟凸规划。涉及自主轮椅导航和无人机任务规划的案例研究展示了我们的方法的适用性。
2019-05-15 cs.AI cs.LG cs.RO
Deep Learning is Provably Robust to Symmetric Label Noise
Johns Hopkins University（约翰斯·霍普金斯大学）；Meta AI
深度神经网络（DNN）能够完美地拟合训练数据，包括记忆噪声数据。人们普遍认为，死记硬背不利于概括。因此，许多最近的作品提出缓解策略，以避免嘈杂的数据或正确的记忆。在这项工作中，我们退一步问一个问题：深度学习是否可以在没有任何缓解的情况下对大量标签噪声保持鲁棒性？我们为对称标签噪声的情况提供了肯定的答案：我们发现某些DNN，包括欠参数化和过参数化模型，可以容忍高达信息论阈值的大规模对称标签噪声。通过诉诸经典统计理论和DNN的普遍一致性，我们证明了对于多类分类，如果标签噪声概率小于$\frac{K-1}{K}$，其中$K \ge 2$是类的数量，则在对称标签噪声下训练的$L_1$一致DNN分类器可以渐近地实现贝叶斯最优性。我们的研究结果表明，对称标签噪声，没有缓解是必要的$L_1$ -相合估计量。我们推测，对于一般的标签噪声，利用噪声数据的缓解策略将优于那些忽略噪声数据的策略。
2022-10-26 cs.LG stat.ML
Is Your Diffusion Sampler Actually Correct? A Sampler-Centric Evaluation of Discrete Diffusion Language Models
University of California, Riverside（加州大学河滨分校）
针对离散扩散语言模型评估中采样误差与去噪误差混淆的问题，提出基于oracle的采样器中心框架，通过精确隐马尔可夫模型后验隔离采样误差，发现少步离散扩散采样器在oracle去噪器下仍存在分布偏差。
2026-05-27 cs.LG
Contrastive UCB: Provably Efficient Contrastive Self-Supervised Learning in Online Reinforcement Learning
University of Chicago（芝加哥大学）；Northwestern University（西北大学）；Shanghai AI Laboratory（上海人工智能实验室）；Yale University（耶鲁大学）
该研究针对低秩转移的MDPs和MGs场景，提出融合对比损失的UCB类在线强化学习算法，从理论上证明其能恢复真实表示且具备样本效率，并通过实证验证了有效性，是首个可证明高效的结合对比学习做表示学习的在线RL算法。
2024-04-13 cs.LG stat.ML
A Provably-Correct and Robust Convex Model for Smooth Separable NMF
Department of Mathematics, Hong Kong Baptist University, Hong Kong（香港 Baptist 大学数学系）；Institute of Data Science and Artificial Intelligence, Faculty of Computer Science and Engineering, Innopolis University（Innopolis 大学数据科学与人工智能研究院）；Department of Mathematics and Operational Research, Université de Mons, Rue de Houdain 9, 7000 Mons, Belgium（蒙斯大学数学与运筹系）；European Research Council (ERC consolidator, eLinoR, no 101085607)（欧洲研究理事会（ERC consolidator, eLinoR, no 101085607））
研究针对非负矩阵分解（NMF）难题，利用光滑可分性假设提出光滑可分NMF（SSNMF）凸模型，探讨其性质及与其他方法关系，证明可恢复因子，并给出快速梯度法求解，在数据集上表现良好。
2026-07-07 cs.LG cs.NA eess.SP
A Practically Competitive and Provably Consistent Algorithm for Uplift Modeling
Massachusetts Institute of Technology（麻省理工学院）
几十年来，随机实验一直是决策的重要工具。然而，在许多重要的应用中，受试者对治疗的反应可能显示出显著的异质性。因此，仅仅知道哪种治疗对整个人群是最佳的是不够的。我们需要的是一个模型，正确定制治疗分配的基础上受试者的特点。从随机化实验数据构造这样的模型的问题在文献中被称为非线性建模。已经提出了许多算法隆升建模和一些已产生的各种数据集上的有前途的结果。然而，很少有人知道这些算法的理论特性。在本文中，我们提出了一种新的基于树的集成算法隆起建模。实验表明，我们的算法可以取得有竞争力的结果合成和工业提供的数据。此外，通过适当调整节点大小参数，证明了算法在弱正则性条件下的一致性。这是我们所知道的第一个用于隆起建模的一致算法。
2017-09-12 cs.AI cs.LG stat.ML
Provably Fast and Accurate Recovery of Evolutionary Trees through Harmonic Greedy Triplets
我们给出了一个贪婪的学习算法重建进化树的基础上，一定的调和平均的三元组的终端类群。在从序列数据估计终端分类群之间的成对距离之后，该算法在O（n）工作空间中在O（n^2）时间内运行，其中n是终端分类群的数量。这些时间和空间复杂度是最优的，因为输入距离矩阵的大小为n^2，输出树的大小为n。在Jukes-Cantor进化模型中，该算法利用（1）n中长度多项式的样本序列，（2）错误概率的对数，（3）两个小参数的逆，以高概率恢复正确的树拓扑.
2000-11-23 cs.DS cs.LG
Mitigating Gradient Bias in Multi-objective Learning: A Provably Convergent Stochastic Approach
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Research（IBM研究院）
针对现有随机多目标梯度方法存在梯度偏差的问题，提出MoCo方法，在不增加批量大小的情况下保证非凸收敛，并在多任务监督和强化学习中验证了有效性。
2024-03-19 cs.LG math.OC stat.ML
Verifier-Grounded Agentic RL for Provably Correct Code
UC Berkeley（加州大学伯克利分校）；AWS AI Labs（亚马逊云科技人工智能实验室）
该研究提出基于验证器的智能体强化学习方法，通过读取验证器诊断、引入完整性审计及协作证明专家，使Qwen系列模型在代码验证与补丁生成任务上的准确率显著提升。
2026-10-13 cs.LG
An effective Procedure for Speeding up Algorithms
可证明渐近最快的算法在一个因素内的5正式描述的问题将被构造。其主要思想是通过列举所有证明来列举所有可证明等价于原问题的程序。该算法可以被解释为Levin搜索的推广和改进，Levin搜索是在乘法常数范围内求逆函数的最快算法。通过只考虑存在正确性证明的程序，避免了Blum的加速定理。此外，它表明，最快的程序，计算某一功能也是最短的程序可证明计算此功能之一。为了量化这一陈述，扩展了Kolmogorov复杂性的定义，并定义了两个新的函数复杂性的自然测度。
2001-02-21 cs.AI cs.CC cs.LG
Provably Efficient Model-Free Algorithm for MDPs with Peak Constraints
Purdue University（普渡大学）；AI Sweden（瑞典人工智能研究所）
在动态系统的优化中，变量通常具有约束。这些问题可以被建模为约束马尔可夫决策过程（CMDP）。本文考虑了峰值约束马尔可夫决策过程（PCMDP），在该过程中，智能体选择的策略使有限时间内的总报酬最大化，同时在每个时间点以概率1满足约束条件。我们提出了一个无模型算法，将PCMDP问题转化为一个无约束的问题和Q学习为基础的方法。我们定义的概念可能近似正确（PAC）的建议PCMDP问题。证明了当事件数为$K\geqΩ(\frac{I^2H^6SA\ell}{ε^2})$（其中$S$和$A$分别为状态数和动作数）时，该算法能实现$(ε,p)$-PAC策略. $H$是每次发作的时期数。$I$是约束函数的数量，而$\ell=\log(\frac{SAT}{p})$。我们注意到，这是第一个结果PAC的分析PCMDP与峰值的限制，其中的过渡动力学是不知道的先验。我们证明了所提出的算法上的能量收集问题和单机调度问题，它的研究最优化问题的理论上界。
2022-06-13 cs.LG cs.SY eess.SY
Correcting the Mythos of KL-Regularization: Direct Alignment without Overoptimization via Chi-Squared Preference Optimization
Microsoft（微软）
针对RLHF等方法的过度优化问题，提出仅修改DPO对数链接函数的χPO算法，通过卡方散度正则化缓解过度优化，获单策略集中度样本复杂度保证，成首个可证明鲁棒的实用通用离线对齐算法。
2025-02-18 cs.AI cs.CL cs.LG
Outcome-Based RL Provably Leads Transformers to Reason, but Only With the Right Data
Tel Aviv University（特拉维夫大学）
本文通过分析单层Transformer在合成图遍历任务上的策略梯度动力学，证明了基于结果的强化学习能够使Transformer自发学习出结构化的迭代推理算法，并揭示了训练数据中“简单示例”的分布对推理能力涌现的关键作用。
2026-06-03 cs.AI cs.LG
Provably Safe Sim-to-Real Transfer
EPFL（洛桑联邦理工学院）
该研究针对安全仿真到现实迁移问题，在无奖励安全强化学习框架下设计高效算法，可减少现实交互并保证安全探索，还能计算接近最优的可行策略，刻画了仿真器的益处。
2026-09-28 cs.AI cs.LG
Provably-Safe Neural Network Training Using Hybrid Zonotope Reachability Analysis
Department of Mechanical Engineering, Georgia Institute of Technology（机械工程系，佐治亚理工学院）
提出一种利用缩放混合多面体可达性分析训练神经网络的方法，使其输出避开非凸不安全区域，实现可证明的安全控制，并验证了其有效性和实用性。
2025-08-25 cs.AI cs.LG
Neural Network Decoders for Permutation Codes Correcting Different Errors
National University of Singapore（新加坡国立大学）
为了纠正电力线通信和闪存的秩调制等应用中的不同类型的错误，对排列码进行了广泛的研究。在本文中，我们介绍了神经网络解码器的置换码，以纠正这些错误与一次性解码，处理的解码为$n$分类任务的非二进制符号的代码长度$n$。这些实际上是第一个通用解码器，用于处理这两个应用程序的任何错误类型。解码器的性能进行了评估与不同的错误模型的模拟。
2022-06-07 cs.IT cs.LG math.IT
Provably Feedback-Efficient Reinforcement Learning via Active Reward Learning
Peking University（北京大学）
本文提出一种基于主动奖励学习的强化学习框架，通过少量人类反馈即可在理论上保证获得近似最优策略，显著降低反馈查询复杂度。
2023-04-18 cs.AI cs.LG math.OC
