Autoregressive Text Generation Beyond Feedback Loops
ETH Zürich（苏黎世联邦理工学院）；University of California, Irvine（加州大学欧文分校）
自回归状态转换（其中预测以过去的预测为条件）是确定性和随机序列模型的主要选择。然而，自回归反馈暴露了隐藏状态轨迹的演变，从众所周知的训练测试差异的潜在偏见。在本文中，我们结合了潜在的状态空间模型与CRF观测模型。我们认为，这样的自回归观测模型形成了一个有趣的中间立场，表示当地的相关性在字的水平，但保持状态演变的非自回归。在无条件句子生成方面，与RNN和GAN基线相比，我们显示了性能改进，同时避免了自回归模型的一些典型故障模式。
2019-08-30 cs.CL cs.LG stat.ML
Inferring Latent Graphs from Stationary Signals Using a Graphical Autoregressive Model
本文提出图自回归模型GAR，将逆协方差表示为潜在图归一化拉普拉斯的二阶多项式，并用惩罚最大似然三步法推断潜在图，在模拟和S&P 500数据中优于高斯图模型。
2024-10-24 stat.ME
Prediction of Hilbertian autoregressive processes : a Recurrent Neural Network approach
Bionomeex（Bionomeex公司）；IMAG, CNRS, Univ. Montpellier（蒙彼利埃大学 IMAG 研究所，法国国家科学研究中心）
自回归希尔伯特模型（ARH）是由Denis Bosq在90年代初提出的。这是一个庞大的文学主题，并产生了许多扩展。该模型推广了时间序列分析中广泛使用的经典多维自回归模型。它已成功应用于金融、工业、生物等众多领域。我们建议在这里比较经典的预测方法的基础上估计的自相关算子与神经网络学习方法。后者基于一种流行的递归神经网络：长短期记忆网络。通过模拟和真实数据集进行比较。
2020-08-25 cs.LG stat.CO
Hidden Markov Mixture Autoregressive Models: Parameter Estimation
本报告介绍了一个简约的结构，混合自回归模型，其中的权系数确定通过潜在的随机变量的函数，所有过去的观察。这些变量遵循隐马尔可夫模型。我们修改EM和Baum-Welch算法来估计模型的参数。
2011-05-14 math.ST stat.TH
CEDAR: Causal Edge Discovery for Autoregressive Processes
Bloomberg LP（彭博有限合伙企业）
研究稀疏自回归时间序列滞后因果边发现问题，提出CEDAR方法，通过AR(1)残差化等筛选候选滞后，经条件独立性测试、MCI修剪等确定因果边，在数据稀缺等情况效果好，兼具边级可解释性。
2026-07-24 cs.LG stat.ME
Mixture latent autoregressive models for longitudinal data
许多用于纵向数据分析的相关统计和计量经济学模型包括一个潜在的过程，以动态的方式解释受试者之间未观察到的异质性。这样的过程可以是连续的（通常是AR（1））或离散的（通常是马尔可夫链）。在本文中，我们提出了一个模型的纵向数据是基于混合的AR（1）过程具有不同的均值和相关系数，但具有等方差。该模型属于基于连续潜在过程的一类模型，并且在许多应用环境中具有自然的解释，但它比该类中的其他模型更灵活，达到类似于离散潜在过程模型的拟合优度，具有减少的参数数量。我们将展示如何执行极大似然估计的联合使用的期望最大化算法和牛顿-拉夫森算法，实现了隐马尔可夫文献中的递归开发的装置所提出的模型。我们还介绍了一个简单的方法来获得标准误差的参数估计和一个准则来选择混合成分的数量。所提出的方法说明了一个纵向数据集的应用程序，来自健康和退休研究，关于自我评价的健康状况的样本的主题。在此应用中，响应变量为有序变量，时间常数和随时间变化的单个协变量可用。
2011-08-06 math.ST stat.TH
The different asymptotic regimes of nearly unstable autoregressive processes
我们将关于几乎不稳定AR（p）过程收敛性的经典结果推广到无限阶情形。为了做到这一点，我们继续在最近的工作霍克斯过程中使用极限定理的一些精心挑选的几何和。证明了当系数序列具有轻尾时，无穷阶近似不稳定自回归过程表现为Ornstein-Uhlenbeck模型。然而，在重尾的情况下，我们表明，分数扩散出现的限制法律，这样的过程。
2015-02-23 math.ST stat.TH
Representation of I(1) and I(2) autoregressive Hilbertian processes
我们推广了I（1）和I（2）向量自回归过程的Granger-Johansen表示定理，使其适用于在任意复可分希尔伯特空间中取值的过程.这种更一般的设置对于涉及函数时间序列的统计应用具有核心意义。首先给出了全纯指标为零的弗雷德霍姆算子束的逆中极点为一阶或二阶的一系列充要条件。这些条件构成了我们发展自回归希尔伯特过程的I（1）和I（2）表示的基础。协整子空间和吸引子空间的特征在于自回归算子束在一个邻域中的行为。
2019-09-06 econ.EM math.ST stat.TH
Hawkes autoregressive processes: a new model for multiscale and heterogeneous processes
CEREMADE, Université Paris Dauphine - PSL（巴黎第九大学-PSL大学）
本文提出霍克斯自回归（HAR）模型，融合连续时间与离散时间动力学，并证明了平稳性、聚类表示、稳定性及遍历性等概率性质。
2026-05-11 math.PR math.ST stat.TH
Generalised Network Autoregressive Processes and the GNAR package
本文介绍了GNAR软件包，该软件包拟合、预测和模拟了一类功能强大的新广义网络自回归过程。这些过程由多变量时间序列以及提供变量间关系信息的真实或推断网络组成。GNAR模型将给定变量和时间的时间序列的值与同一变量和相邻变量的较早值联系起来，并由网络结构控制是否包含。GNAR包旨在适应这种新模型，同时使用标准ts对象和igraph包以便于使用。
2019-12-10 stat.ME
On the edge eigenvalues of the precision matrices of nonstationary autoregressive processes
Institute of Statistical Science, Academia Sinica（中央研究院统计科学研究所）
本文研究非平稳自回归过程参数的结构性变化，通过分析精度矩阵的边缘特征值，并提出一种检测异常值的估计方法。
2024-09-05 math.ST stat.ME stat.TH
Shrinkage priors on complex-valued circular-symmetric autoregressive processes
研究复值循环对称自回归过程功率谱密度的收缩先验。我们构造收缩预测功率谱密度，其渐近地支配（i）基于Jeffreys先验的贝叶斯预测功率谱密度和（ii）具有最大似然估计的估计功率谱密度，其中从真实功率谱密度到预测功率谱密度的Kullback-Leibler发散被采用作为风险。此外，我们提出了一般的结构的目标先验的Kähler参数空间，利用一个积极的连续的本征函数的Laplace-Beltrami算子的负特征值。本文给出了一个$1$阶复值平稳自回归模型的数值实验。
2021-02-04 math.ST stat.TH
Conditional Autoregressive Hilbertian processes
当考虑预测一个连续时间随机过程在整个时间区间内的最近的过去，自回归希尔伯特空间过程（ARH）的概念出现。该模型可以看作是经典自回归过程到Hilbert空间值随机变量的推广。它的估计提出了一些挑战，解决了许多作者在最近几年。在本文中，我们提出了一个扩展的基础上，该模型通过引入一个条件化过程的arh。这样一来，我们的目标是双重的。首先，arh的内在线性是压倒性的。其次，我们允许在这个函数值时间序列模型上引入外生协变量.我们开始定义一种新的过程，我们称之为条件arh。然后，我们提出了估计的无穷维参数与这样的过程。使用arh框架中定义的两类预测器，我们将其扩展到我们的情况。一致性的结果，以及一个真实的数据应用有关的电力负荷预测。
2013-02-14 stat.ME
Multivariate stochastic volatility modelling using Wishart autoregressive processes
提出了一种新的金融时间序列多元随机波动率估计方法。波动率精度协方差矩阵采用Wishart自回归过程，其估计采用两步法。第一步是对自回归参数的条件推断，第二步是基于Newton-Raphson迭代算法的无条件推断。所提出的方法，这主要是贝叶斯，是适合于中维数据，它的桥梁之间的差距封闭形式的估计和基于模拟的估计算法。一个由外汇汇率数据组成的例子说明了所提出的方法。
2013-11-03 q-fin.CP stat.ME
Non-Gaussian Autoregressive Processes with Tukey g-and-h Transformations
当对连续数据进行时间序列分析时，例如气候或环境问题，通常会违反高斯过程的假设。因此，我们引入了两个非高斯自回归时间序列模型，能够适应倾斜和重尾时间序列数据。我们的两个模型都是基于Tukey g-and-h变换。我们讨论了参数估计，顺序选择，和预测程序，我们的模型，并在模拟研究中检查其性能。我们证明了我们的模型的实用性，将它们应用到两组风速数据。
2018-04-18 stat.ME
Testing second order dynamics for autoregressive processes in presence of time-varying variance
研究了自回归单变量时间序列的波动率建模问题。基准方法是Engle（1982）的平稳ARCH模型。受真实数据证据的启发，最近引入了具有非常数无条件方差和非线性效应的过程。我们考虑到这种可能的非平稳性，并提出了简单的测试程序的非平稳效应。自适应McLeod和李的portmanteau和ARCH-LM测试检查二阶动力学。这些检验的标准版本，通常由从业者使用，假设恒定的无条件方差。我们用时变无条件方差证明了这些标准检验的失败。通过模拟和实际数据说明了理论结果。
2012-12-11 stat.ME
Time-varying first-order autoregressive processes with irregular innovations
考虑了一个具有非规则新息的时变一阶自回归模型，其中假定系数函数是Hölder连续的。为了估计这个函数，我们使用一个准最大似然为基础的方法。这种方法的精确控制需要对某些弱相关过程的极端情况进行细致的分析，我们的主要结果是这些量的浓度不等式。基于我们的分析，上界和匹配的极大极小下界推导，显示我们的估计的最优性。与常规情况不同，信息论复杂性取决于平滑度和额外的形状参数，表征底层分布的不规则性。证明的结果和思想与经典的和最近的方法在局部平稳过程的统计和推断方面有很大的不同。
2023-02-26 math.ST stat.TH
Autoregressive Models for Variance Matrices: Stationary Inverse Wishart Processes
我们介绍和探索一类新的平稳时间序列模型的方差矩阵的基础上建设性的定义，利用逆Wishart分布理论。探索的模型的主要类别是一类新的平稳，一阶自回归（AR）过程的锥半正定矩阵。多变量“波动”过程的理论和这些新模型的结构方面进行了详细描述和举例说明。然后，我们通过基于贝叶斯模拟的计算开发模型拟合方法，创建一个依赖于高效创新采样器的自定义过滤方法。然后提供了一个例子，在分析的多变量脑电图（EEG）时间序列在神经学研究。最后，我们讨论了高阶AR模型的潜在进一步发展以及与先前方法的一些联系。
2011-07-26 stat.ME
Matrix-variate integer-valued autoregressive processes
本文针对社会学和经济学中矩阵值整数值时间序列的建模需求，提出矩阵值整数值自回归模型，通过左右矩阵薄化算子定义模型，研究其性质，开发投影与迭代最小二乘估计，并证明其优于现有模型。
2025-09-09 math.ST stat.TH
On continuous-time autoregressive fractionally integrated moving average processes
本文考虑了一个连续时间自回归分数积分滑动平均（CARFIMA）模型，它被定义为由标准分数布朗运动驱动的随机微分方程的平稳解.与离散时间ARFIMA模型一样，CARFIMA模型也适用于研究具有短记忆、长记忆和反持续性的时间序列。我们研究了模型的平稳性，并推导出其协方差结构。此外，我们还导出了平稳CARFIMA过程的谱密度函数。
2009-02-09 math.ST stat.TH
Hidden Markov Mixture Autoregressive Models: Stability and Moments
本文提出了混合自回归模型的一种新的简约结构。所述权系数是根据隐马尔可夫模型通过潜在随机变量确定的。本文提出了一种应用于预测的动态规划算法。我们还得到了过程的无条件一阶矩的极限行为和方差极限值的一个合适的上界。这可以被认为是进程的长期运行行为。最后证明了二阶矩的收敛性和稳定性。此外，我们通过模拟和预测来说明所提出的模型的有效性。
2011-05-11 math.ST stat.TH
Evaluating Approximations of Count Distributions and Forecasts for Poisson-Lindley Integer Autoregressive Processes
本文针对离散时间序列使用连续 Gaussian 模型导致预测不一致的问题，通过模拟比较了 PLINAR 模型与 Gaussian 预测变体的预测效果，并利用三种参数估计方法验证了其实用性。
2024-05-30 stat.ME
Can Latent Alignments Improve Autoregressive Machine Translation?
The Blavatnik School of Computer Science（布拉瓦特尼克计算机科学学院）；Tel Aviv University（特拉维夫大学）
潜在的对齐目标，如CTC和AXE显着改善非自回归机器翻译模型。他们也能改进自回归模型吗？我们探讨了训练具有潜在对齐目标的自回归机器翻译模型的可能性，并观察到，在实践中，这种方法会导致退化模型。我们为这些实证结果提供了一个理论解释，并证明潜在的对齐目标是不相容的教师强迫。
2021-04-19 cs.AI cs.CL cs.LG
HALO: Enhancing Time Series Generation via Hyperspherical Latents and Masked AutoregRessive Modeling
East China Normal University（华东师范大学）
HALO提出超球面VAE约束连续潜变量并采用掩码自回归模型，解决时间序列生成中信息丢失与误差累积问题，实现最先进性能并大幅提升推理效率。
2026-09-30 cs.LG
Improving Sequential Latent Variable Models with Autoregressive Flows
California Institute of Technology（加州理工学院）；Simon Fraser University（西蒙弗雷泽大学）；University of California Irvine（加州大学欧文分校）
提出了一种基于自回归归一化流的序列建模方法。每个自回归变换，跨时间作用，作为一个移动的参考框架，消除时间相关性，并简化更高层次的动态建模。这种技术提供了一种简单的，通用的方法来改善序列建模，与现有的和经典的技术连接。我们证明了所提出的方法都与独立的基于流的模型，并作为一个组件内的顺序潜变量模型。结果在三个基准视频数据集上，其中基于自回归流的动态提高了基线模型的对数似然性能。最后，我们说明了去相关和改进的泛化性能，使用基于流的动态。
2022-03-08 cs.LG
Non-Autoregressive Machine Translation with Latent Alignments
Google Research（谷歌研究院）
本文提出了两种强有力的方法，CTC和输入，非自回归机器翻译模型潜在的对齐与动态规划。我们重新CTC的机器翻译，并证明了一个简单的CTC模型可以实现最先进的单步非自回归机器翻译，与以前的工作表明。此外，我们还将Imputer模型用于非自回归机器翻译，并证明了只有4个生成步骤的Imputer可以匹配自回归Transformer基线的性能。我们的潜在对齐模型比许多现有的非自回归翻译基线更简单;例如，我们不需要使用自回归模型进行目标长度预测或重新评分。在竞争性的WMT'14 En $\rightarrow$ De任务中，我们的CTC模型使用单个生成步骤实现了25.7 BLEU，而Imputer使用2个生成步骤实现了27.5 BLEU，使用4个生成步骤实现了28.0 BLEU。这与27.8 BLEU的自回归Transformer基线相比具有优势。
2020-11-16 cs.CL cs.LG
Improving Variational Inference with Inverse Autoregressive Flow
OpenAI；University of Amsterdam（阿姆斯特丹大学）；University of California Irvine（加利福尼亚大学尔湾分校）；Canadian Institute for Advanced Research（加拿大高等研究院）
规范化流的框架提供了一个通用的策略，灵活的变分推理的后验的潜在变量。我们提出了一种新的类型的归一化流，逆自回归流（IAF），与早期发表的流量，规模以及高维潜在空间。所提出的流程由一系列可逆变换组成，其中每个变换都基于自回归神经网络。在实验中，我们表明，IAF显着改善对角高斯近似后验。此外，我们证明了一种新型的变分自编码器，再加上IAF，是有竞争力的神经自回归模型在自然图像上获得的对数似然，同时允许显着更快的合成。
2017-01-30 cs.LG stat.ML
AR-Flow VAE: A Structured Autoregressive Flow Prior Variational Autoencoder for Unsupervised Blind Source Separation
Hong Kong Polytechnic University（香港理工大学）；Wuhan University of Technology（武汉理工大学）；The University of Hong Kong（香港大学）
本文提出AR-Flow VAE，通过自回归流先验提升潜变量建模灵活性，有效捕捉复杂非高斯行为和结构依赖，验证了其在盲源分离中的有效性。
2026-03-18 cs.LG stat.ML
Autoregressive latent diffusion for 3D molecule generation
研究3D分子生成问题，提出KRONOS潜自回归扩散框架，联合建模分子图拓扑和几何，引入混合训练策略。实验表明其在自回归方法中无条件生成性能领先，与扩散模型竞争，单一架构可支持两种生成范式。
2026-10-05 cs.LG
Active Exploration via Autoregressive Generation of Missing Data
Columbia University（哥伦比亚大学）；Imperial College London（帝国理工学院）
将在线决策中的不确定性量化和探索问题转化为自回归序列模型的训练与生成，通过预测缺失结果而非潜在参数来建模不确定性，理论证明在线学习可归约为离线下一结果预测，并在新闻推荐中验证有效性。
2026-07-15 cs.LG stat.ML
Autoregressivity in the Latent Space of a GP-VAE Language Model: An Empirical Ablation Study
Conservatoire National des Arts et Métiers（法国国家艺术与工艺学院）
本文通过实验验证了GP-VAE中潜在自回归在组织长距离结构中的有效性，并展示了其与令牌级自回归建模的互补性。
2025-12-30 cs.LG
Generative Modeling of Bach-Style Symbolic Music: A Comparative Study of Autoregressive, Latent-Variable, and Adversarial Approaches
Stanford University（斯坦福大学）
比较自回归LSTM、潜变量模型和生成对抗网络在巴赫风格钢琴音乐生成中的表现，发现带注意力的自回归LSTM生成音乐最连贯，向量量化缓解后验塌陷，对抗方法捕捉局部音高但训练困难。
2026-06-15 cs.LG cs.SD
Bidirectional Autoregressive Latent Diffusion for Forward and Inverse Magnetohydrodynamics
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
提出双向自回归潜扩散方法预测磁流体动力学多场演化，利用双向流作为自监督一致性度量估计不确定性，并展示其作为非侵入式等离子体诊断的潜力。
2026-06-28 cs.LG nlin.AO physics.plasm-ph
Latent-Autoregressive GP-VAE Language Model
Conservatoire National des Arts et Métiers（法国国家艺术与工艺 conservatoire）
该研究提出了一种基于高斯过程和变分自编码器的潜在自回归模型，通过概率几何支持语言模型的时间结构，而非显式神经运算。
2025-12-15 cs.LG
Latent-Variable Non-Autoregressive Neural Machine Translation with Deterministic Inference Using a Delta Posterior
The University of Tokyo（东京大学）；New York University（纽约大学）；Facebook AI Research（脸书人工智能研究院）
虽然神经机器翻译模型达到了高翻译质量，但自回归性质使得推理难以并行化，并导致高翻译延迟。受最近基于精化的方法的启发，我们提出了LaNMT，一个具有连续潜变量和确定性推理过程的潜变量非自回归模型。与现有的方法相比，我们使用一个确定性的推理算法来找到目标序列，最大限度地降低了对数概率。在推理过程中，翻译的长度会自动调整。我们的实验表明，通过运行推理算法，可以大大提高下限，从而显着提高翻译质量。我们提出的模型缩小了ASPEC Ja-En数据集上非自回归和自回归方法之间的性能差距，解码速度提高了8.6倍。在WMT'14 En-De数据集上，我们的模型将自回归基线的差距缩小到2.0个BLEU点，加速12.5倍。通过并行解码多个初始隐变量并使用教师模型重新评分，该模型进一步将WMT'14 En-De任务的差距缩小到1.0 BLEU点，加速比为6.8倍。
2019-11-21 cs.CL cs.LG
Latent Memory Palace: Reasoning for Control as Autoregressive Variational Inference
University of Washington（华盛顿大学）；Toyota Research Institute（丰田研究院）
研究将语言模型的推理能力应用于连续控制策略的问题，提出潜在记忆宫殿（LMP）方法，通过自回归潜在空间组织信息进行变分推理，推导强化学习技术优化下限，该方法在模拟和现实领域表现良好，还产生高性能动作分词器，为控制的潜在推理提供新视角。
2026-07-10 cs.LG cs.RO
Latent Normalizing Flows for Discrete Sequences
Harvard University（哈佛大学）
规范化流是连续随机变量的一类强大的生成模型，显示出强大的模型灵活性和非自回归生成的潜力。当对诸如文本的离散随机变量建模时，也期望这些益处，但是将归一化流直接应用于离散序列会带来显著的额外挑战。我们提出了一个基于VAE的生成模型，该模型联合学习潜在空间中基于流的归一化分布和到观察到的离散空间的随机映射。在这种情况下，我们发现，这是至关重要的基于流量的分布是高度多模态。为了捕捉这个属性，我们提出了几个规范化的流架构，以最大限度地提高模型的灵活性。实验考虑字符级语言建模和复调音乐生成的常见离散序列任务。我们的研究结果表明，一个自回归流为基础的模型可以匹配一个可比较的自回归基线的性能，和一个非自回归流为基础的模型可以提高生成速度与性能的惩罚。
2019-06-04 cs.CL cs.LG stat.ML
Fast Decoding in Sequence Models using Discrete Latent Variables
Google Brain（谷歌大脑）
基于深度神经网络（如RNN、Wavenet和Transformer）的自回归序列模型在许多任务上获得了最先进的结果。然而，它们很难并行化，因此在处理长序列时很慢。RNN在训练和解码过程中都缺乏并行性，而WaveNet和Transformer等架构在训练过程中的并行性要高得多，但在解码过程中仍然按顺序操作。受[arxiv：1711.00937]的启发，我们提出了一种使用离散潜变量扩展序列模型的方法，使解码更具并行性。我们首先将目标序列自动编码为一个较短的离散潜变量序列，该序列在推理时自回归生成，最后并行地从这个较短的潜序列解码输出序列。为此，我们介绍了一种新的方法来构建一个序列的离散潜变量，并将其与以前介绍的方法进行比较。最后，我们在神经机器翻译的任务上对我们的模型进行端到端的评估，其中它在解码时比可比的自回归模型快一个数量级。虽然BLEU比纯自回归模型低，但我们的模型比以前提出的非自回归翻译模型获得了更高的分数。
2018-06-07 cs.LG
Shared Latent Space by Both Languages in Non-Autoregressive Neural Machine Translation
Handong Global University（韩东全球大学）
针对非自回归机器翻译的多模态问题及辅助后验模型缺陷，本文提出跨语言共享潜在空间的双重重构分层潜在变量方法，显著提升翻译质量。
2024-09-09 cs.CL cs.LG
Multivariate Scientific Data Compression with Learned Cross-Variable Latent Decorrelation and Autoregressive Entropy Modeling
University of Florida（佛罗里达大学）
该研究提出CAESAR-LDAR压缩器，通过正交变换与自回归先验结合，在多元科学数据压缩中实现优异率失真性能，为多元科学压缩提供了实用设计原则。
2026-09-01 cs.LG
Multi-scale Autoregressive Models are Laplacian, Discrete, and Latent Diffusion Models in Disguise
University of Cambridge（剑桥大学）
本文将多尺度自回归模型重新诠释为拉普拉斯、离散和潜在扩散模型，通过分析其设计选择揭示其效率与质量的权衡，并展示其在不同任务中的应用。
2026-02-16 cs.LG
Geometry-aware Latent Autoregressive Generative Model for PDEs in Complex Domains
Stanford University（斯坦福大学）
本文针对复杂几何下PDE求解难题，提出GeoLAMP模型，通过双编码器、流匹配Transformer与灵活解码器实现稳定预测，构建多物理场基准数据集并取得最优性能。
2026-10-01 cs.AI cs.LG
Stabilizing autoregressive forecasts in chaotic systems via multi-rate latent recurrence
Department of Mechanical & Aerospace Engineering University of Tennessee, Knoxville（机械与航空航天工程系 田纳西大学）
通过多速率潜在递归方法，MSR-HINE在混沌系统中显著提升了长周期自回归预测的精度和稳定性。
2026-01-20 cs.LG
PepALD: Macrocyclic Peptide Generation via Autoregressive Latent Diffusion
College of Computer Science, Sichuan University（四川大学计算机科学学院）；School of Mathematics, Sichuan University（四川大学数学学院）；School of Artificial Intelligence, Sichuan University（四川大学人工智能学院）；Lingang Laboratory（临港实验室）
提出PepALD模型，结合自回归潜在扩散与化学嵌入，实现从头设计大环肽，并利用偏好优化提升亲和力，在生成质量和奖励优化上优于基线。
2026-06-19 cs.LG q-bio.BM
Fast Autoregressive Models for Continuous Latent Generation
Microsoft Research Asia（微软亚洲研究院）
针对自回归模型在连续图像生成中推理慢的问题，提出FAR框架，用轻量捷径头替代扩散头，实现少步采样，推理速度提升2.3倍，保持图像质量。
2025-04-24 cs.CV cs.LG
LS-AR: Future-Predictive Latent Steering in Autoregressive LLMs
University College London（伦敦大学学院）
LS-AR通过双通道架构将连续目标引导与离散令牌解码解耦，在长程检索和规划任务中显著提升性能与效率，并增强对提示注入的防御。
2026-10-05 cs.LG
Latent Autoregressive Source Separation
Sapienza University of Rome（罗马第一大学）；Ca’ Foscari University of Venice（威尼斯大学）
自回归模型在发电质量和下游任务性能方面在广泛的领域取得了令人印象深刻的结果。在连续域中，这种成功背后的关键因素是量化潜在空间的使用（例如，通过VQ-VAE自动编码器获得），这允许降维和更快的推理时间。然而，使用现有的预训练模型来执行新的非平凡任务是困难的，因为它需要额外的微调或广泛的训练来引发提示。本文介绍了LASS作为执行矢量量化潜在自回归声源分离（即，将输入信号去混合成其组成源），而不需要对现有模型进行附加的基于梯度的优化或修改。我们的分离方法依赖于贝叶斯公式，其中自回归模型是先验的，通过对加数令牌的潜在和进行频率计数来构建离散（非参数）似然函数。我们使用多种采样策略（例如，祖先的、束搜索）在分离质量方面显示出与现有方法竞争的结果，同时在推理时间和对更高维数据的可扩展性方面提供显著的加速。
2023-01-09 cs.LG cs.SD eess.AS
A conditional latent autoregressive recurrent model for generation and forecasting of beam dynamics in particle accelerators
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
提出无监督深度学习框架CLARM，结合CVAE与LSTM学习加速器中带电粒子时空动力学，实现多模块束流相空间投影生成与未来状态预测。
2024-03-19 cs.CV cs.LG physics.acc-ph
Latent-DARM: Bridging Discrete Diffusion And Autoregressive Models For Reasoning
EPFL（苏黎世联邦理工学院）；MBZUAI（马克斯·普朗克人工智能研究所）；ETH Zürich（苏黎世联邦理工学院）；Microsoft Research Asia（微软亚洲研究院）
Latent-DARM通过结合离散扩散模型与自回归模型，提升多智能体系统在推理任务中的表现和协作效率。
2026-03-10 cs.AI cs.LG
Autoregressive Hidden Markov Models with partial knowledge on latent space applied to aero-engines prognostics
Department of Applied Mechanics（应用力学系）；Institut FEMTO-ST, UBFC/UFC/ENSMM/CNRS/UTBM（FEMTO-ST 研究所，UBFC/UFC/ENSMM/CNRS/UTBM）
[This论文最初发表在2016年的PHME会议上，被选为进一步发表在国际预后与健康管理杂志上。提出了一种基于传感器数据的设备故障检测与故障诊断的自回归部分隐马尔可夫模型（ARPHMM）。它是一种特殊的动态贝叶斯网络，允许通过隐马尔可夫模型（HMM）和自回归（AR）过程来表示系统的动态。马尔可夫链假设系统在内部状态之间来回切换，而AR过程确保传感器测量的时间相干性。基于极大似然的标准ARHMM的良好学习过程允许同时迭代地估计所有参数。本文提出了一种修改的学习过程，考虑到一个可能有先验知识的结构，成为部分隐藏。先验的整合是基于加权分布理论，该理论与期望最大化算法在收敛性质仍然满足的意义上兼容。我们将展示如何应用该模型来估计剩余的使用寿命的健康指标的基础上。自回归参数确实可以用于预测，而潜在结构可以用于获得有关退化水平的信息。CMAPSS数据集上证明了所提出的方法的性能和健康评估的兴趣。
2021-05-01 cs.LG stat.AP stat.ME
LAViG-FLOW: Latent Autoregressive Video Generation for Fluid Flow Simulations
LAViG-FLOW通过潜在自回归视频生成框架高效模拟流体流动，实现比传统方法快百倍的饱和度和压力场生成。
2026-02-16 cs.LG physics.flu-dyn
Learning Latent Protein Languages for Autoregressive Generation
University of Missouri（密苏里大学）；University of Southern California（南加州大学）
本文提出两种潜在蛋白质语言（PLL和SLL），通过自回归Transformer预训练，在序列生成、结构预测和骨架生成上显著优于氨基酸模型，并支持快速采样。
2026-10-06 cs.LG q-bio.BM
When Latent Geometry Is Not Enough: Draft-Conditioned Latent Refinement for Non-Autoregressive Text Generation
Technical Report v1, May 2026（技术报告v1，2026年5月）
本文提出通过草稿条件潜在细化模型提升非自回归文本生成效果，发现潜在几何本身不足以保证生成质量，需结合解码器可读性与结构保持。
2026-05-15 cs.CL cs.LG
Latent Bayesian Optimization via Autoregressive Normalizing Flows
Department of Computer Science and Engineering, Korea University（韩国大学计算机科学与工程系）；School of Computing, KAIST（韩国科学技术院计算机科学学院）
针对潜在贝叶斯优化中的价值差异问题，提出基于归一化流的NF-BO方法，通过SeqFlow自回归流消除重构差距，并采用动态探索概率采样策略，在分子生成任务上显著优于现有方法。
2025-04-21 cs.AI cs.LG
