Learning CHARME models with neural networks
Normandie Université（诺曼底大学）；UNICAEN（卡昂大学）；CNRS（法国国家科学研究中心）；ENSICAEN（卡昂高等工程师学院）
在本文中，我们考虑一个称为CHARME（条件异方差自回归混合专家），一类广义混合的非线性非参数AR-时间序列时间序列。在自回归函数和波动率函数满足一定Lipschitz型条件下，证明了该模型是平稳、遍历和$τ$ -弱相依的.这些条件比处理该模型的文献中提出的条件弱得多。此外，这一结果构成了推导基础（非）参数估计的渐进理论的理论基础，我们为此模型提出了该理论。作为应用，从神经网络（NN）的普适逼近性质出发，建立了基于NN的自回归函数模型的学习理论，在较弱的条件下，保证了所考虑的NN权和偏差估计的强相合性和渐近正态性.
2020-11-17 cs.LG math.ST stat.ML
Linear Transformers as VAR Models: Aligning Autoregressive Attention Mechanisms with Autoregressive Forecasting
Georgia Institute of Technology（佐治亚理工学院）
本文提出SAMoVAR，一种将Transformer架构与自回归目标对齐的线性变换器变体，通过整合可解释的动态VAR权重，提升时间序列预测的性能和可解释性。
2026-02-05 cs.AI cs.LG stat.ML
Mixture of Tokens: Continuous MoE through Cross-Example Aggregation
IDEAS NCBR；University of Warsaw（华沙大学）；Polish Academy of Sciences（波兰科学院）；Nomagic（诺玛吉克公司）
本文提出Mixture of Tokens (MoT)，一种连续MoE架构，通过跨样本聚合token实现参数扩展，兼容自回归训练，训练速度提升3倍且性能媲美SOTA MoE。
2024-09-24 cs.CL cs.LG
SoftMoE: Soft Differentiable Routing for Mixture-of-Experts in LLMs
AGH University of Krakow, Poland（克拉科夫AGH大学）；Faculty of Mathematics（数学系）；Computer Science, Jagiellonian University, Poland（计算机科学系，杰哥利安大学，波兰）；Centre for Credible Artificial Intelligence, Warsaw University of Technology（可信人工智能中心，华沙技术大学）
提出SoftMoE，通过软top-k LapSum松弛替代离散路由，实现专家路由的梯度优化，并学习每层专家激活数量，在语言建模中激活更少专家达到相当或更优性能。
2026-06-17 cs.AI cs.LG
SequenceMatch: Imitation Learning for Autoregressive Sequence Modelling with Backtracking
Stanford University（斯坦福大学）
本文提出 SequenceMatch，将自回归序列生成建模为模仿学习问题，并引入退格动作实现回溯，以缓解复合误差，在文本生成和算术任务上优于 MLE。
2024-05-06 cs.AI cs.LG
Multi-variable LSTM neural network for autoregressive exogenous model
ETH Zurich（苏黎世联邦理工学院）；EPFL Lausanne（洛桑联邦理工学院）
在本文中，我们提出了多变量LSTM，能够对带有外生变量的时间序列进行准确预测和变量重要性解释。目前递归神经网络中的注意力机制主要集中在数据的时间方面，缺乏对变量重要性的表征。为此，开发了配备张量化隐藏状态的多变量LSTM来学习单个变量的隐藏状态，这引起了我们的混合时间和变量注意力。基于这种注意力机制，我们推断和量化变量的重要性。使用具有Granger因果关系检验的真实数据集和具有地面真值的合成数据集进行的大量实验证明了与各种基线相比，多变量LSTM的预测性能和可解释性。它展示了多变量LSTM作为预测和知识发现的端到端框架的前景。
2018-06-17 cs.LG stat.ML
Sumi: Open Uniform Diffusion Language Model from Scratch
Tohoku University（东北大学）
本文提出Sumi，一个从零开始预训练的70亿参数均匀扩散语言模型，在1.5T tokens上训练，性能与同规模自回归模型相当，并开源所有资源。
2026-06-18 cs.CL cs.LG
FM-LLM: A frequency-enhanced mixture-of-experts framework for adapting LLMs to time series forecasting
Beijing University of Posts and Telecommunications（北京邮电大学）；China Telecom Research Institute（中国电信研究院）
本研究提出FM-LLM框架，通过频谱标记对齐器与非对称MoE解码器等设计，在11个基准的多数指标上优于现有LLM基线，且具备良好迁移性。
2026-08-13 cs.AI cs.LG cs.NI
Language-Conditioned Representations and Mixture-of-Experts Policy for Robust Multi-Task Robotic Manipulation
Xiucheng Zhang（未知）；Yang Jiang（未知）；Jiashuo Bai（未知）
针对多任务机器人操作中感知歧义与任务冲突的问题，提出融合语言条件视觉表征模块和语言条件混合专家密度策略的框架，在真实机器人基准上显著提升了多任务操作成功率。
2025-10-28 cs.LG cs.RO
The Dynamics of Continuous Mixture Collapse in Language Models
Massachusetts Institute of Technology（麻省理工学院）
该研究探究LLMs隐态推理中连续混合坍缩的原因，结合理论与实证识别出三个失效来源，验证了相关动力学预测，指出精确保留多成分混合需依赖上下文的校正。
2026-09-03 cs.CL cs.LG
Information Maximizing Curriculum: A Curriculum-Based Approach for Imitating Diverse Skills
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；FZI Research Center for Information Technology（FZI信息技术研究中心）
本文提出信息最大化课程方法，通过为数据点分配权重并结合专家混合策略与最大熵目标，缓解模仿学习中的模式平均问题，实现多样化技能学习，在复杂模拟控制任务上优于现有方法。
2023-10-31 cs.LG
Quantization-Free Autoregressive Action Transformer
University of Tübingen（图宾根大学）；Google DeepMind（谷歌DeepMind）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
无量化自回归动作变压器通过生成无限词汇变换器直接参数化连续策略，简化流程并提升在模拟机器人任务中的性能。
2025-12-08 cs.LG cs.RO
Circuit Tracing in Autoregressive Protein Language Models
Stanford University（斯坦福大学）
提出ProGenMech框架，通过跨层稀疏编码器忠实恢复ProGen3的生成计算，并零样本发现与蛋白质生成和适应性预测相关的稀疏电路，揭示生物意义基序。
2026-06-16 cs.LG q-bio.QM
AQuaMaM: An Autoregressive, Quaternion Manifold Model for Rapidly Estimating Complex SO(3) Distributions
USDA（美国农业部）
针对SO(3)旋转分布建模中IPDF推理速度慢的问题，提出自回归四元数流形模型AQuaMaM，可单次前向计算精确似然，在精度、参数量、推理速度上均优于IPDF。
2025-09-30 cs.LG
More Experts, Worse Dynamics: Inverse Scaling and Spectral Bias in Mixture-of-Experts State-Space Models
Delhi Technological University（德里理工大学）
该研究在合成环境中评估混合专家状态空间模型，发现增加专家数量会导致逆缩放等问题，算子级混合模型未优于单专家基线，需几何感知评估模式切换动力学系统。
2026-08-25 cs.LG
Efficient Large Scale Language Modeling with Mixtures of Experts
Meta AI
混合专家模型层（MoE）通过条件计算实现语言模型的有效缩放。本文提出了一个详细的实证研究，自回归MoE语言模型的规模与密集的模型相比，在广泛的设置：在域和域外的语言建模，零和Few-Shot启动，全镜头微调。除了微调之外，我们发现MoE的计算效率大大提高。在更适度的训练预算下，MoE可以使用少$\sim$ 4倍的计算来匹配密集模型的性能。这个差距缩小规模，但我们最大的MoE模型（1.1 T参数）始终优于计算等效的密集模型（6.7 B参数）。总的来说，这种性能差距在不同的任务和领域中变化很大，这表明MoE和密集模型以不同的方式进行推广，值得将来研究。我们公开我们的代码和模型供研究使用。
2022-10-26 cs.AI cs.CL cs.LG
Liquid Networks with Mixture Density Heads for Efficient Imitation Learning
University of Colorado Boulder（科罗拉多大学博尔德分校）
本文比较了具有混合密度头的液体网络与扩散策略在多个任务中的性能，发现液体网络参数更少、预测误差更低且推理更快，且在样本效率实验中表现更稳健。
2026-03-28 cs.LG cs.RO
Mixtures of Sparse Autoregressive Networks
University of Chicago（芝加哥大学）
我们考虑通过自回归网络的高维分布估计。通过结合稀疏性，混合物和参数共享的概念，我们得到了一个简单的模型，它是快速的训练，并实现了国家的最先进的或更好的结果在几个标准的基准数据集。具体来说，我们使用L1罚正则化的条件分布，并介绍了一个自动参数共享混合组分之间的过程。此外，我们提出了一个简单的分布式表示，允许精确的似然评估，因为潜在变量与可观察变量交织，可以很容易地集成出来。我们的模型实现了出色的泛化性能，并可扩展到极高的维度。
2016-04-26 cs.LG stat.ML
MoËT: Mixture of Expert Trees and its Application to Verifiable Reinforcement Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Singidunum University（辛吉杜努姆大学）；Google（谷歌）；University of Belgrade（贝尔格莱德大学）；Google Brain（谷歌大脑）
深度学习的快速发展带来了许多新的突破。虽然深度学习模型实现了卓越的性能，通常在统计上优于人类，但它们在医疗保健或自动驾驶汽车等安全关键环境中的应用受到阻碍，因为它们无法提供安全保证或以人类可理解的形式暴露模型的内部工作原理。本文提出了一种基于混合专家模型的MokerT模型，它由决策树专家和广义线性模型门函数组成。由于这样的门控功能，该模型比标准的决策树更有表现力。为了支持不可微的决策树作为专家，我们制定了一个新的训练过程。此外，我们介绍了一个硬阈值的版本，MojetTH，其中预测是由一个单一的专家选择通过门控功能。多亏了这个属性，MoCHTH允许每个预测都可以很容易地分解成一组逻辑规则，并且可以很容易地验证。虽然MoSRT是一个通用模型，但我们在强化学习环境中展示了它的强大功能。通过在深度RL代理上使用模仿学习过程来训练MokerT模型，我们的表现优于之前基于决策树的最先进技术，同时保留了模型的可验证性。此外，我们还表明，MoSRT也可以用于现实世界的监督问题，它优于其他可验证的机器学习模型。
2022-04-06 cs.AI cs.LG stat.ML
Computational-Statistical Tradeoffs at the Next-Token Prediction Barrier: Autoregressive and Imitation Learning under Misspecification
Microsoft（微软）
本文研究错误设定下自回归下一 token 预测的误差放大，证明其存在 $\Omega(H)$ 的内在壁垒，并揭示信息论、计算与统计之间的近似因子权衡，结论推广至模仿学习。
2025-02-18 cs.DS cs.LG
Maximum Causal Tsallis Entropy Imitation Learning
Seoul National University（首尔国立大学）；Kakao Brain
在本文中，我们提出了一种新的最大因果Tsallis熵（MCTE）框架的模仿学习，可以有效地学习稀疏的多模态策略分布的演示。我们提供了完整的数学分析所提出的框架。首先，最佳解决方案的MCTE问题是一个稀疏分布，其支持集可以调整。所提出的方法比softmax分布具有优势，因为它可以通过分配零概率来排除不必要的操作。其次，我们证明了一个MCTE问题是等价于鲁棒贝叶斯估计的意义上的Brier得分。第三，我们提出了一个最大因果Tsallis熵模仿学习（MCTEIL）算法与稀疏混合密度网络（稀疏MDN）的混合权重建模使用sparsemax分布。特别是，我们表明，因果Tsallis熵的MDN鼓励探索和有效的混合利用，而玻尔兹曼吉布斯熵是不太有效的。我们验证了所提出的方法在两个模拟研究和MCTEIL优于现有的模仿学习方法的平均回报和学习多模态政策。
2018-05-28 cs.LG stat.ML
Application of a Mixture of Experts-based Foundation Model to the GlueX DIRC Detector
1 William \& Mary, Department of Data Science, Williamsburg, VA 23185, USA 2 William \& Mary, Department of Physics, Williamsburg, VA 23185, USA Author to whom any correspondence should be addressed.
本文提出了一种基于混合专家的基础模型，用于GlueX DIRC探测器的快速模拟、粒子识别和击级噪声过滤，展示了其作为统一框架的实用性。
2026-04-17 cs.LG hep-ex nucl-ex
A mixture of experts model for predicting persistent weather patterns
University of Cambridge（剑桥大学）；University of Córdoba（科尔多瓦大学）；University of Birmingham（伯明翰大学）；Universidad Politécnica de Madrid（马德里理工大学）；University of Alcalá（阿尔卡拉大学）
天气和大气模式往往是持久的。最简单的天气预报方法是所谓的持续性模型，它假设系统的未来状态将与当前状态相似（或相等）。机器学习（ML）模型广泛应用于不同的天气预报应用中，但需要将它们与持久性模型进行比较，以分析它们是否为手头的问题提供了有竞争力的解决方案。在本文中，我们设计了一个新的模型预测低能见度在机场使用的概念，混合专家模型。能见度水平被编码为两个不同的有序分类变量：云高度和跑道视觉高度。这个应用程序中的底层系统在大约90%的情况下是停滞的，标准ML模型无法提高持久化模型的性能。正因为如此，我们不是试图简单地使用ML击败持久性模型，而是使用这种持久性作为基线，并学习一个有序的神经网络模型，该模型通过专注于学习天气波动来改进其结果。结果表明，该建议优于持久性和其他有序自回归模型，特别是较长的时间范围的预测和跑道的视觉高度变量。
2019-03-24 cs.AI cs.LG stat.ML
Optimizing Neurorobot Policy under Limited Demonstration Data through Preference Regret
Rochester Institute of Technology（罗切斯特理工学院）；Advanced Micro Devices, Inc.（超威半导体公司）；University of Liverpool（利物浦大学）
本文提出MYOE框架，通过可查询的偏好混合状态空间模型估计每一步的目标，利用偏好遗憾优化机器人控制策略，实验显示其鲁棒性、适应性和泛化能力优于其他RLfD方法。
2026-04-04 cs.AI cs.CV cs.LG
A Mixture Autoregressive Image Generative Model on Quadtree Regions for Gaussian Noise Removal via Variational Bayes and Gradient Methods
Gunma University（群马大学）；Waseda University（早稻田大学）
本文提出一种结合四叉树区域划分模型与混合自回归模型的图像生成模型，通过变分下界最大化实现图像去噪，采用变分贝叶斯与梯度方法交替优化，推导出解析的梯度更新规则，验证了去噪效果及未来改进方向。
2026-08-25 cs.CV cs.LG
Probabilistic Classification by Density Estimation Using Gaussian Mixture Model and Masked Autoregressive Flow
University of Waterloo（滑铁卢大学）；Drexel University（德雷塞尔大学）
本文提出利用高斯混合模型和掩码自回归流进行密度估计，以建模类别似然实现分类，优于线性判别分析，为概率分类器开辟新方向。
2023-10-16 cs.LG cs.NE stat.ML
MixAR: Mixture Autoregressive Image Generation
Tsinghua University（清华大学）；Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（Mohamed bin Zayed人工智能大学）；École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）；Carnegie Mellon University（卡内基梅隆大学）
针对离散AR图像生成保真度受限、连续AR建模难度高的问题，提出MixAR混合自回归框架，设计多种离散-连续混合策略与TI-Mix机制，平衡效率与保真度并实现训练推理分布一致。
2025-11-15 cs.CV cs.LG
Re-Mix: Optimizing Data Mixtures for Large Scale Imitation Learning
Stanford University（斯坦福大学）；UC Berkeley（加州大学伯克利分校）
本研究针对机器人模仿学习的数据选择问题，提出Re-Mix方法，基于分布鲁棒优化学习数据集域权重，通过早停等策略适配机器人数据差异，在Open X-Embodiment数据集上显著优于均匀及人工权重。
2024-08-26 cs.LG cs.RO
Stochastic Action Prediction for Imitation Learning
Indian Institute of Science（印度科学学院）；Robert Bosch Center for Cyber Physical Systems（罗伯特·博世信息物理系统中心）
模仿学习是一种数据驱动的获取技能的方法，它依赖于专家演示来学习将观察映射到行动的策略。在执行演示时，专家并不总是一致的，可能会以略有不同的方式完成相同的任务。在本文中，我们展示了固有的随机性，收集的任务，包括线以下的遥控车和操作任务，包括达到，推动，采摘和放置一个对象的演示。我们使用自回归动作生成，生成对抗网络和变分预测来模拟数据分布的随机性，并比较这些方法的性能。我们发现，占随机性的专家数据导致任务完成的成功率大幅提高。
2020-12-26 cs.LG cs.RO
Diverse Imitation Learning via Self-Organizing Generative Models
University of California, Los Angeles（加州大学洛杉矶分校）
模仿学习是从示范中复制专家策略的任务，而无需访问奖励函数。当专家表现出混合的行为时，这项任务变得特别具有挑战性。先前的工作已经引入了潜变量来模拟专家策略的变化。然而，我们的实验表明，现有的作品没有表现出适当的模仿个别模式。为了解决这个问题，我们采用了一个无编码器的行为克隆（BC）生成模型，以准确地区分和模仿不同的模式。然后，我们将其与GAIL集成，使学习对不可见状态下的复合错误具有鲁棒性。我们表明，我们的方法在多个实验中显着优于现有技术。
2022-05-06 cs.LG
Multi-Instance Aware Localization for End-to-End Imitation Learning
Indian Institute of Science（印度科学学院）；Robert Bosch Center for Cyber-Physical Systems（罗伯特·博世信息物理系统研究中心）
当呈现包含感兴趣对象的多个实例的输入图像时，使用图像到动作策略网络的用于模仿学习的现有架构表现不佳，特别是当可用于训练的专家演示的数量有限时。我们表明，端到端策略网络可以通过以下方式以样本有效的方式进行训练：（a）将视觉层的特征映射输出附加上嵌入，该嵌入可以指示实例偏好或利用专家演示中存在的隐式偏好，以及（b）采用自回归动作生成器网络用于控制层。所提出的定位架构提高了准确性和样本效率，并且可以推广到比训练期间看到的更多对象实例的存在。当用于端到端的模仿学习以在真实机器人上执行到达、推动和拾取和放置任务时，只需15个专家演示即可实现培训。
2020-12-26 cs.LG cs.RO
Adversarial Mixture Density Networks: Learning to Drive Safely from Collision Data
University of Surrey（萨里大学）
模仿学习已被广泛用于基于预先记录的数据来学习用于自动驾驶的控制策略。然而，基于模仿学习的策略已经被证明在遇到训练分布之外的状态时容易出现复合错误。此外，这些代理已被证明是很容易利用的敌对道路使用者的目的是创造碰撞。为了克服这些缺点，我们引入了对抗混合密度网络（AMDN），它从不同的数据集学习两个分布。第一个是从自然主义人类驾驶数据集学习的安全行动分布。第二个是代表可能导致碰撞的不安全行为的分布，从碰撞数据集学习。在训练过程中，我们利用这两个分布来提供基于两个分布相似性的额外损失。当在碰撞数据集上训练时，通过基于安全动作分布与不安全动作分布的相似性来惩罚安全动作分布，获得更鲁棒和安全的控制策略。我们在车辆跟随用例中演示了所提出的AMDN方法，并在自然和对抗性测试环境下进行了评估。我们发现，尽管它的简单性，AMDN提供了显着的好处，学习控制策略的安全性相比，纯模仿学习或标准的混合密度网络方法。
2021-07-09 cs.AI cs.LG cs.SY
FastVLM: Self-Speculative Decoding for Fast Vision-Language Model Inference
Dept. of IEOR, IIT Bombay（工业工程与运营研究系，印度理工学院班加罗尔）
FastVLM提出基于模仿学习的自推测解码框架，用轻量草稿模型自回归生成令牌并由完整模型非自回归验证，实现1.55-1.85倍加速且性能损失极小。
2025-10-26 cs.AI cs.LG
RNADE: The real-valued neural autoregressive density-estimator
University of Edinburgh（爱丁堡大学）；Université de Sherbrooke（舍布鲁克大学）
介绍了一种新的实值向量联合密度估计模型--RNADE。我们的模型将数据点的密度计算为使用具有共享参数的混合密度网络建模的一维条件的乘积。RNADE学习数据的分布式表示，同时具有用于计算密度的易于处理的表达式。易于处理的可能性允许与其他方法进行直接比较，并通过标准的基于梯度的优化器进行训练。我们比较了RNADE在几个异构和感知数据集上的性能，发现它在所有情况下都优于混合模型，只有一种情况除外。
2014-01-09 cs.LG stat.ML
Is Behavior Cloning All You Need? Understanding Horizon in Imitation Learning
Microsoft Research（微软研究院）；MIT（麻省理工学院）
该研究从学习理论角度重新审视离线与在线模仿学习的差距，分析带对数损失的行为克隆，发现满足特定条件时离线IL可实现时间跨度无关的样本复杂度，且离线与在线IL的差距小于此前认知，实验验证了结果的实际相关性。
2024-11-30 cs.AI cs.LG math.ST
CubeDAgger: Interactive Imitation Learning for Dynamic Systems with Efficient yet Low-risk Interaction
National Institute of Informatics（国立信息研究所）；The Graduate University for Advanced Studies（Graduate University for Advanced Studies）
本文提出CubeDAgger方法，通过改进EnsembleDAgger基线，提升动态任务中控制策略的鲁棒性，减少动态稳定性损失，并通过仿真和真实机器人实验验证其有效性。
2026-11-06 cs.LG cs.RO
Curriculum Offline Imitation Learning
Shanghai Jiao Tong University（上海交通大学）；Microsoft Research（微软研究院）
离线强化学习（RL）任务要求智能体从预先收集的数据集中学习，而不需要与环境进行进一步的交互。尽管有可能超越行为策略，但基于RL的方法通常是不切实际的，因为训练不稳定性和自举外推误差，这总是需要通过在线评估进行仔细的超参数调整。相比之下，离线模仿学习（IL）没有这样的问题，因为它直接学习策略而不通过自举估计价值函数。然而，IL通常受限于行为策略的能力，并且倾向于从由策略混合收集的数据集中学习平庸的行为。在本文中，我们的目标是利用IL，但减轻这样的缺点。观察到行为克隆是能够模仿邻居的政策与更少的数据，我们提出了\textit{Curriculum Offline Imitation Learning (COIL)}，它利用了一个经验挑选策略，模仿从适应性的邻居的政策，具有较高的回报，并改善了目前的政策沿课程阶段。在连续控制基准测试中，我们将COIL与基于模仿和基于RL的方法进行了比较，表明它不仅避免了在混合数据集上学习平庸的行为，而且甚至与最先进的离线RL方法竞争。
2022-01-12 cs.AI cs.LG
Autoregressive Learning in Joint KL: Sharp Oracle Bounds and Lower Bounds
National University of Singapore（新加坡国立大学）；University College London（伦敦大学学院）
本文研究了在模型不规范情况下，自回归建模中长序列学习和下一个token预测的联合KL散度问题，通过建立上界和下界，首次完整刻画了长horizon误差行为，改进了现有工作的速率并证明了最优性。
2026-05-12 cs.LG
Towards Faster Language Model Inference Using Mixture-of-Experts Flow Matching
Duke University（杜克大学）
本文提出MoE-FM框架，通过分解复杂潜空间传输几何结构，提升语言模型推断效率，YAN模型在多个任务中表现优异，速度提升显著。
2026-04-16 cs.AI cs.LG
A system identification approach to clustering vector autoregressive time series
School of Artificial Intelligence and Automation, Huazhong University of Science and Technology, China（华中科技大学人工智能与自动化学院）；School of Electrical Engineering and Telecommunications, UNSW Sydney, NSW, Australia（新南威尔士大学悉尼分校电子与电信工程学院）
针对现有时间序列聚类方法忽略自相关特征、多仅处理标量序列的问题，提出基于系统辨识的k-LMVAR算法及配套BIC准则，解决了原混合自回归聚类算法的计算难题，在模拟实验中表现优异且扩展性好。
2025-05-20 cs.LG cs.SY eess.SP
M2Distill: Multi-Modal Distillation for Lifelong Imitation Learning
CSIRO（联邦科学与工业研究组织）；DATA61；Queensland University of Technology（昆士兰科技大学）
针对终身模仿学习中的分布偏移与灾难性遗忘问题，提出多模态蒸馏方法M2Distill，通过跨模态潜在表示对齐与GMM策略差异最小化，在LIBERO基准上全面超越现有方法。
2025-03-07 cs.AI cs.CV cs.LG
Time-series Generation by Contrastive Imitation
University of Cambridge（剑桥大学）；University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本文提出对比模仿生成框架，用可逐步分解的全局能量模型训练前瞻性局部转移策略，兼顾显式动态与轨迹分布，理论一致且实证达到现有基准水平。
2023-11-02 cs.LG stat.ML
Provably Breaking the Quadratic Error Compounding Barrier in Imitation Learning, Optimally
University of California, Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）；University of California, Los Angeles（加州大学洛杉矶分校）
研究了状态空间为$\mathcal{S}$的情景马尔可夫决策过程中模仿学习的统计极限。我们专注于已知的过渡设置，学习者提供了一个数据集的$N$长度- $H$轨迹从一个确定性的专家政策，并知道MDP过渡。我们使用Rajaraman等人（2020）中的Mimic-MD算法建立了次优性的上限$O(|\mathcal{S}|H^{3/2}/N)$，我们证明了该算法在计算上是有效的。相比之下，我们发现当$|\mathcal{S}|\geq 3$时，极小极大次优性随着$Ω( H^{3/2}/N)$的增长而增长，而未知转换设置受到更大的急剧率$Θ(|\mathcal{S}|H^2/N)$的影响（Rajaraman et al（2020））。通过证明IL和未知专家策略的值估计问题在任何给定的奖励函数下的双向约简，以及与具有子采样观测的线性函数估计建立联系，建立了下界。我们进一步表明，在额外的假设下，专家是最佳的真正的奖励函数，存在一个有效的算法，我们称之为模仿混合，可证明实现次优性$O(1/N)$的任意3状态MDP奖励只在终端层。相反，如果专家不被约束为最优，则没有算法可以以高概率实现次优性$O(\sqrt{H}/N)$。我们的工作正式确立了专家最优假设在已知过渡设置中的好处，而Rajaraman等人（2020）表明，当过渡未知时，它没有帮助。
2021-02-25 cs.LG stat.ML
A context-adaptive policy framework for robust and reactive robotic manipulation via uncertainty-aware imitation learning
German Aerospace Center (DLR)（德国航空航天中心）
研究如何生成适应变化的机器人操作策略，基于策略融合与不确定性量化提出上下文自适应框架，用LfD获取策略并结合MoE提升鲁棒性，在多种场景下评估该方法。
2026-07-29 cs.AI cs.LG cs.RO
PFPN: Continuous Control of Physically Simulated Characters using Particle Filtering Policy Network
Clemson University（克莱姆森大学）
使用强化学习的基于物理的角色控制的数据驱动方法已成功应用于生成高质量的运动。然而，现有的方法通常依赖于高斯分布来表示动作策略，这可能会过早地在解决高清晰度角色的高维连续控制问题时承诺次优动作。在本文中，为了提高基于物理的字符控制器的学习性能，我们提出了一个框架，认为基于粒子的行动政策作为高斯政策的替代品。我们利用粒子滤波动态探索和离散化的行动空间，并跟踪后验政策表示为一个混合分布。由此产生的策略可以取代单峰高斯策略，这是字符控制问题的主食，而不改变用于执行策略优化的强化学习算法的底层模型架构。我们证明了我们的方法在各种动作捕捉模仿任务的适用性。基线使用我们的基于粒子的政策实现更好的模仿性能和收敛速度相比，相应的实现使用高斯，更强大的外部扰动字符控制。相关代码可在https://motion-lab.github.io/PFPN上获得。
2021-10-01 cs.GR cs.LG stat.ML
The Unreasonable Effectiveness of Discrete-Time Gaussian Process Mixtures for Robot Policy Learning
Department of Computer Science, University of Freiburg, Germany（弗赖堡大学计算机科学系）
提出MiDiGap方法，利用少量演示和相机观测，通过离散时间高斯过程混合实现机器人操作策略的灵活表示与模仿学习，在长时域、高约束、动态和多模态任务上取得SOTA性能，并支持推理时引导。
2026-06-11 cs.AI cs.LG cs.RO
Test-Time Scaling in Diffusion LLMs via Hidden Semi-Autoregressive Experts
Yonsei University（延世大学）；Oracle（Oracle公司）；CMU（卡内基梅隆大学）；UMD（马里兰大学）；UCF（佛罗里达大学）
提出HEX方法，通过集成不同块大小的生成路径进行多数投票，实现无需训练的测试时扩展，显著提升扩散语言模型在推理基准上的性能。
2025-10-06 cs.AI cs.LG
