Long-Context Autoregressive Video Modeling with Next-Frame Prediction
Showlab, National University of Singapore(新加坡国立大学Showlab)
针对长视频自回归建模计算成本高的问题,提出基于非对称分块核的长短时上下文建模方法,在长短视频生成上均达SOTA,提供了有效基线。
2025-05-18 cs.CV
MSC: Multi-Scale Spatio-Temporal Causal Attention for Autoregressive Video Diffusion
针对高分辨率视频生成的技术与计算挑战,提出多尺度因果(MSC)框架,通过时空多尺度高效注意力与可控因果条件建模降低计算复杂度,还可用于自回归长视频生成。
2024-12-13 cs.CV
TempAct: Advancing Temporal Plausibility in Autoregressive Video Generation via Planner-Executor RL
Shenzhen Campus of Sun Yat-Sen University(中山大学深圳校区);Tencent Hunyuan(腾讯混元);Tsinghua University(清华大学);Peking University(北京大学);USTB(北京科技大学)
提出TempAct框架,利用规划器-执行器强化学习联合优化时间分解与步骤条件执行,解决自回归视频生成中时间指令模糊、延迟反应和错误传播问题,提升时间一致性。
2026-07-03 cs.CV
InfinityStar: Unified Spacetime AutoRegressive Modeling for Visual Generation
ByteDance(字节跳动)
InfinityStar是一种统一的时空自回归模型,能够高效生成高分辨率图像和动态视频,其在VBench上的表现优于现有自回归模型,且生成速度显著快于扩散方法。
2025-11-27 cs.CV
STARCaster: Spatio-Temporal AutoRegressive Video Diffusion for Identity- and View-Aware Talking Portraits
Imperial College London, UK(伦敦帝国理工学院);FAU Erlangen–Nürnberg, Germany(埃朗根-纽伦堡大学)
研究提出STARCaster模型,通过重新思考参考和几何范式,采用组合方法及解耦学习,解决语音驱动肖像动画和动态视点控制问题,能有效泛化,超越先前方法。
2026-07-21 cs.CV
Knot Forcing: Taming Autoregressive Video Diffusion Models for Real-time Infinite Interactive Portrait Animation
Tongyi Lab, Alibaba Group(通义实验室,阿里集团)
Knot Forcing通过分块生成、时间结模块和提前运行机制,解决实时肖像动画中的时间一致性、误差累积和长期一致性问题,实现高保真、低延迟的无限交互动画。
2025-12-29 cs.CV
Infinity-RoPE: Action-Controllable Infinite Video Generation Emerges From Autoregressive Self-Rollout
Virginia Tech(弗吉尼亚理工学院)
本文提出Infinity-RoPE,通过Block-Relativistic RoPE、KV Flush和RoPE Cut三个组件解决自回归视频扩散模型的三个瓶颈,实现无限时域、可控和电影级视频生成。
2026-03-19 cs.CV
MagicProp: Diffusion-based Video Editing via Motion-aware Appearance Propagation
ByteDance Inc.(字节跳动公司)
MagicProp提出两阶段扩散视频编辑框架,先编辑单帧外观,再通过PropDPM自回归传播,兼顾编辑灵活性与时间一致性。
2023-09-02 cs.CV
VideoAR: Autoregressive Video Generation via Next-Frame & Scale Prediction
ERNIE Team, Baidu(百度ERNIE团队)
VideoAR通过多尺度下一帧预测与自回归建模,实现高效、一致的视频生成,提升性能并减少计算成本。
2026-01-14 cs.AI cs.CV
Autoregressive Video Generation beyond Next Frames Prediction
Johns Hopkins University(约翰霍普金斯大学);Apple(苹果公司)
本文提出 VideoAR 统一框架,以时空立方体替代逐帧作为自回归预测单元,在 VBench 上提升质量、速度与时间一致性,并支持分钟级视频生成。
2025-09-28 cs.CV
Autoregression-free video prediction using diffusion model for mitigating error propagation
IEEE
本文提出首个基于扩散模型的无自回归(ARFree)视频预测框架,通过直接从上下文帧预测未来帧并引入运动预测模块与训练方法,有效缓解误差传播,在两个基准数据集上优于多种先进方法。
2025-05-30 cs.CV
FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion
Zhejiang University(浙江大学);University of New South Wales (UNSW)(新南威尔士大学);Data61/CSIRO;Baidu Inc(百度公司)
提出FadeMem,一种距离感知的KV记忆巩固机制,在固定缓存预算下将历史KV块组织成时间层次,通过幂律分配实现近密远疏的记忆,提升长视频生成中的主体一致性和时间连贯性。
2026-08-05 cs.CV
SPATE-GAN: Improved Generative Modeling of Dynamic Spatio-Temporal Patterns with an Autoregressive Embedding Loss
University of Warwick(华威大学);New York University(纽约大学);London School of Economics(伦敦政治经济学院);ETH Zurich(苏黎世联邦理工学院)
从生态学到大气科学,许多学科都处理具有复杂时空复杂性的数据,其建模通常需要专门的方法。这些数据的生成模型特别令人感兴趣,因为它们能够实现一系列有影响力的下游应用,如模拟或创建合成训练数据。最近的工作突出了生成对抗网络(GANs)用于生成时空数据的潜力。受因果最优传输理论的启发,提出了一种新的GAN算法COT-GAN.然而,学习更复杂的时空模式的任务需要额外的知识,其特定的数据结构。在这项研究中,我们提出了一种新的损失目标结合COT-GAN基于自回归嵌入,以加强时空动态的学习。我们设计了SPATE(时空关联),一个新的度量测量时空自相关性,通过使用偏离其期望值的观测。我们计算真实和合成数据样本的SPATE,并使用它来计算考虑时空相互作用的嵌入损失,推动GAN学习忠实于观察到的动态的输出。我们测试这个新的目标上的一组复杂的时空模式:湍流,对数高斯考克斯过程和全球天气数据。我们表明,我们的新型嵌入损失在不改变COT-GAN骨干网架构的情况下提高了性能,突出了我们的模型捕获自回归结构的能力。我们还将我们的工作与物理学深度学习的最新进展以及将神经网络与地理和地球物理科学联系起来的跨学科工作联系起来。
2021-09-30 cs.CV cs.LG
CubeComposer: Spatio-Temporal Autoregressive 4K 360° Video Generation from Perspective Video
The Chinese University of Hong Kong(香港中文大学);ARC Lab, Tencent PCG Project lead(腾讯PCG项目负责人)
CubeComposer通过空间-时间自回归扩散模型实现4K分辨率360°视频生成,提升VR沉浸体验
2026-03-04 cs.AI cs.CV
JoyStreamer-Flash: Real-time and Infinite Audio-Driven Avatar Generation with Autoregressive Diffusion
JD Technology(京东科技)
本文提出JoyStreamer-Flash,一种能实现实时推断和无限长度视频生成的音频驱动自回归模型,通过渐进式步进 bootstrap、运动条件注入和无界RoPE via Cache-Resetting提升生成质量与一致性。
2026-03-31 cs.CV
Parallel Jacobi Decoding for Fast Autoregressive Image Generation
Westlake University(西交利物浦大学)
提出并行雅可比解码(PJD),通过二维空间域扩展草稿令牌并调整注意力掩码,实现无需训练的自回归图像生成加速,在保持生成质量的同时获得4.8倍至6.4倍加速。
2026-06-04 cs.CV
Infinite Gaze Generation for Videos with Autoregressive Diffusion
New York University(纽约大学);Stanford University(斯坦福大学)
本文提出一种自回归扩散模型,用于生成任意长度视频的无限 horizon 原始 gaze,通过在 saliency-aware 视觉潜在空间中条件化,提升长程时空准确性和轨迹真实性。
2026-11-20 cs.CV
VideoMAR: Autoregressive Video Generatio with Continuous Tokens
University of Science and Technology of China(中国科学技术大学)
本文提出VideoMAR,一种基于连续令牌的仅解码器自回归图像到视频模型,通过时间因果性和空间双向性设计、下一帧扩散损失及渐进训练策略,在VBench-I2V上超越SOTA,且参数、数据和GPU需求大幅降低。
2025-06-18 cs.AI cs.CV
Spatiotemporally Decoupled Autoregressive Diffusion Model for Human Motion Generation
AI Institute, Shanghai Jiao Tong University(上海交通大学AI学院)
本文提出名为DeMoDiff的时空解耦框架,通过针对每个身体关节编码的时空VAE与融入时空掩码和注意力的自回归扩散生成器,在HumanML3D和KIT-ML数据集上取得最优重构性能与动作生成效果,且具备强时空编辑能力。
2026-08-25 cs.CV
Fast Autoregressive Video Diffusion and World Models with Temporal Cache Compression and Sparse Attention
Hebrew University of Jerusalem(特拉维夫大学);Google Research(谷歌研究)
提出FAST-AR框架,通过TempCache压缩KV缓存、AnnCA加速交叉注意力、AnnSA稀疏化自注意力,实现自回归视频扩散模型5-10倍加速,同时保持视觉质量并稳定GPU内存使用。
2026-06-15 cs.AI cs.CV
JoyAI-Video-Edit: Real-Time Open-Ended Video Editing with Autoregressive Diffusion
研究针对实时视频编辑的低延迟、时序一致等需求,提出160亿参数的JoyAI-Video-Edit自回归扩散框架,结合多种蒸馏技术,在单张Nvidia B200 GPU上实现约30 FPS的720p视频编辑,性能优于现有流式编辑器且与离线系统相当。
2026-08-05 cs.CV
End-to-End Training for Autoregressive Video Diffusion via Self-Resampling
The Chinese University of Hong Kong(香港中文大学);ByteDance Seed(字节跳动Seed);ByteDance(字节跳动)
提出自回归视频扩散模型的端到端训练框架Resampling Forcing,通过自重采样模拟推理错误,结合稀疏因果掩码和动态历史路由,实现长视频生成的时间一致性。
2026-07-02 cs.CV
Macro-from-Micro Planning for High-Quality and Parallelized Autoregressive Long Video Generation
Nanjing University(南京大学);Institute of Artificial Intelligence, China Telecom (TeleAI)(中国电信人工智能研究院);Shanghai Jiao Tong University(上海交通大学);Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));University of Chinese Academy of Sciences(中国科学院大学)
针对自回归扩散模型在长视频生成中的时间漂移和并行化难题,提出宏微规划(MMPL)框架,通过分层关键帧规划保证全局一致性,并实现并行填充,显著提升生成质量与效率。
2025-10-14 cs.CV
Relax Forcing: Relaxed KV-Memory for Consistent Long Video Generation
Queen Mary University of London(伦敦玛丽女王大学);Imperial College London(伦敦帝国学院)
本文提出Relax Forcing机制,通过结构化时间内存提升长视频生成的运动动态和时间一致性,减少注意力开销。
2026-08-31 cs.CV
VGGT-World: Transforming VGGT into an Autoregressive Geometry World Model
UQMM Lab, The University of Queensland(昆士兰大学UQMM实验室);Beijing Jiaotong University(北京交通大学)
本文提出VGGT-World,通过自回归方法预测冻结几何基础模型特征的时空演变,提升深度预测性能并提高效率。
2026-03-13 cs.CV
FluentAvatar: Flicker-Free Talking-Head Animation via Phoneme-Guided Autoregressive Modeling
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Pengcheng Laboratory(鹏城实验室)
本文提出FluentAvatar,通过音素引导的自回归模型解决现有扩散模型中帧间闪烁问题,实现了高质量的说话头动画生成。
2026-04-20 cs.CV
DeepVerse: 4D Autoregressive Video Generation as a World Model
SJTU(上海交通大学);Shanghai AI Lab(上海人工智能实验室);USTC(中国科学技术大学);THU(清华大学);ZJU(浙江大学);FDU(福建师范大学);NTU(国立台湾大学)
DeepVerse提出一种4D交互式世界模型,通过将历史几何预测显式纳入动作条件下的当前预测,减少漂移并提升时间一致性,从而实现高保真、长时程的未来序列生成。
2025-06-01 cs.CV
MosaiChunk: Compositing Spatio-Temporal Memory for Autoregressive Video Generation
Cornell University(康奈尔大学);University of California, Berkeley(加州大学伯克利分校);Harvard University(哈佛大学);Impossible, Inc.(Impossible 公司)
MosaiChunk通过组合历史键值条目的时空记忆,在固定预算下提升长时程自回归视频生成的重访一致性,并引入RememBench基准验证其效果。
2026-10-02 cs.CV cs.GR
InterCMDM: Block-Causal Diffusion for Autoregressive Human Interaction Generation
LY Corporation(LY公司)
提出InterCMDM块因果潜扩散框架,通过双流因果扩散Transformer和多重任务注意力掩码实现自回归双人交互生成,解决因果性缺失和时间漂移问题,在InterHuman和InterX上达到最优性能。
2026-07-03 cs.CV
Rollout-Marginal Distillation for Long-Horizon Autoregressive Video Generation
The Chinese University of Hong Kong(香港中文大学);Tencent AIPD(腾讯AIPD)
针对自回归视频生成中长时程误差累积问题,提出Rollout-Marginal蒸馏,通过独立片段评分并辅以视频级蒸馏,在远超训练时域保持高视觉质量。
2026-09-30 cs.AI cs.CV
Recency Forcing: Bridging the Long-Horizon Gap in Autoregressive Video Generation
Qualcomm AI Research(高通人工智能研究院)
针对自回归视频生成长视界性能下降问题,提出近期性强制方法,通过时间响应偏置调整注意力,弥合训练-推理差距,实现无额外推理成本的最优长视界生成。
2026-09-18 cs.CV
In-Context Forcing: Uncovering Context Effects in Autoregressive Video Diffusion
School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);Tencent Youtu Lab(腾讯云图实验室);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
针对自回归视频扩散模型依赖干净帧导致的时间一致性差等问题,提出In-Context Forcing方法,通过递减噪声水平的上下文实现自适应指导,兼具时间一致性与动态性,还可并行去噪加速推理,在VBench上性能优于SOTA。
2026-08-07 cs.AI cs.CV
Edit-VAR: Taming Visual Autoregressive Model for Precise Video Editing
Sun Yat-sen University(中山大学);South China University of Technology(华南理工大学);Tsinghua University(清华大学);Shandong University(山东大学);Nankai University(南开大学);Hunan University(湖南大学)
Edit-VAR提出首个免训练免反演的视觉自回归视频编辑框架,通过概率引导令牌替换和尺度解耦生成,实现高保真、源保留且高效的视频编辑。
2026-09-21 cs.CV
Directing the World: Fast Autoregressive Video Generation with Compositional Human-Camera Control
Institute of Artificial Intelligence, China Telecom (TeleAI)(中国电信人工智能研究院(TeleAI))
提出一种快速自回归框架,通过解耦控制学习并保持统一视频先验,实现人体运动和相机轨迹的组合控制,支持稳定长程生成与高视觉质量。
2026-06-29 cs.CV
DiCoDe: Diffusion-Compressed Deep Tokens for Autoregressive Video Generation with Language Models
DiCoDe利用扩散压缩深度标记,通过自回归语言模型生成视频,实现高效压缩与高质量输出,展示了在视频建模中的潜力。
2026-03-15 cs.CV
HiAR: Efficient Autoregressive Long Video Generation via Hierarchical Denoising
HiAR通过分层去噪框架在保持时间连续性的同时减少误差传播,实现高效长视频生成。
2026-03-09 cs.CV
Flowception: Temporally Expansive Flow Matching for Video Generation
FAIR at Meta;Univ.\ Grenoble Alpes, Inria, CNRS, Grenoble INP, LJK, France
Flowception提出了一种非自回归且可变长度的视频生成框架,通过交替插入离散帧与连续去噪帧学习概率路径,减少误差积累并提升长序列处理效率,实验显示其在FVD和VBench指标上优于基线方法。
2026-03-22 cs.AI cs.CV
Fast Autoregressive Video Generation with Diagonal Decoding
Microsoft Research(微软研究院)
针对自回归视频生成逐 token 解码过慢的问题,本文提出免训练的 DiagD 对角并行解码及低成本注意力对齐微调,在多模型与数据集上最高加速 10× 且保持视觉质量。
2025-03-18 cs.AI cs.CV
Neighboring Autoregressive Modeling for Efficient Visual Generation
Zhejiang University(浙江大学);Shanghai AI Laboratory(上海人工智能实验室);The University of Adelaide(阿德莱德大学)
提出 NAR 邻近自回归建模范式,通过曼哈顿距离由近到远扩展并利用面向维度的解码头并行预测相邻 token,显著提升图像与视频生成效率和质量。
2025-03-12 cs.CV eess.IV
TokenTrim: Inference-Time Token Pruning for Autoregressive Long Video Generation
TokenTrim通过在推理时修剪不稳定潜在标记,减少自回归长视频生成中的时序漂移,提升长时间一致性。
2026-01-30 cs.AI cs.CV
BioVid: Autoregressive Video Generation with Biological Behavior Semantic Comprehension
Department of Electrical Engineering, National Taiwan Ocean University(国立台湾海洋大学电子工程系);AI research center, National Taiwan Ocean University(国立台湾海洋大学人工智能研究中心)
提出BioVid,一种数据驱动的自回归视频生成框架,通过FSQ-R3GAN分词器和因果Transformer学习生物行为的自然时长分布,无需预设长度约束。
2026-06-25 cs.AI cs.CV
EditStream: A Unified Autoregressive Framework for Interactive Video Generation and Editing
Adobe Research(Adobe研究院);University of Rochester(罗切斯特大学)
本研究提出EditStream框架,整合多类视频生成编辑任务,通过两阶段蒸馏方法优化自回归模型,实现高质量交互式视频创作,填补了扩散模型与创意工作流的衔接空白。
2026-08-25 cs.CV cs.GR cs.HC
MORPHOS: Autoregressive 4D Generation with Temporal Structured Latents
KAIST AI(韩国国立科学技术院人工智能实验室)
提出MORPHOS框架,利用时间结构化潜变量(T-SLAT)统一表示4D动态资产,通过自回归因果注意力生成,解决多表示兼容、拓扑变化和长时间一致性问题。
2026-06-01 cs.CV
Probabilistic Wildfire Spread Prediction Using an Autoregressive Conditional Generative Adversarial Network
Ajou University(亚洲大学)
本文提出基于自回归条件生成对抗网络的野火传播预测方法,通过对抗学习提升预测准确性和物理可解释性,以应对野火的复杂非线性动态。
2025-11-26 cs.AI cs.CE cs.CV
Autoregressive Queries for Adaptive Tracking with Spatio-TemporalTransformers
Guangxi Normal University(广西师范大学);Wuzhou University(梧州学院);Harbin Institute of Technology(哈尔滨工业大学);Xiamen University(厦门大学)
提出AQATrack,利用自回归查询和时空变换器有效融合时空信息,无需大量手工组件,在六个主流跟踪基准上显著提升性能。
2024-03-15 cs.CV
DSAR: Dual-Stream Autoregressive Modeling of Temporal Cloth Dynamics for Photorealistic Animatable Avatars
Nanjing University(南京大学)
本文提出DSAR双流自回归框架,显式建模布料时序因果结构,解决现有方法布料动力学捕捉不足问题,在多方面性能获显著提升。
2026-08-12 cs.CV
StarPose: 3D Human Pose Estimation via Spatial-Temporal Autoregressive Diffusion
School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院);Centre for Smart Health, The Hong Kong Polytechnic University(香港理工大学智能健康中心);Cloud Computing Center, Chinese Academy of Sciences(中国科学院云计算中心);Guangzhou Yichuang Information Technology Co., Ltd.(广州亿创信息技术有限公司);School of Computing and Information Systems, Singapore Management University(新加坡管理大学计算机与信息系)
本文提出StarPose,一种自回归扩散框架,通过历史姿态集成模块和时空物理指导机制将二维到三维姿态映射建模为自回归扩散过程,显著提升了三维人体姿态估计的准确性和时间一致性。
2025-08-09 cs.CV
ARVideo: Autoregressive Pretraining for Self-Supervised Video Representation Learning
Johns Hopkins University(约翰斯·霍普金斯大学);UC Santa Cruz(加州大学圣克鲁兹分校)
ARVideo通过自回归预测时空簇中的视频令牌,采用随机化预测顺序,在ViT-B上达到Kinetics-400 81.2%和SSv2 70.9%的准确率,且训练更快、内存更省。
2024-05-24 cs.CV
LaVieID: Local Autoregressive Diffusion Transformers for Identity-Preserving Video Creation
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区);Hong Kong University of Science and Technology(香港科学与技术大学);Mohamed bin Zayed University of Artificial Intelligence(马尔代夫 bin Zayed 人工智能大学);Lenovo Research(联想研究)
LaVieID提出局部自回归视频扩散框架,通过局部路由器显式表示面部潜在状态并集成时间自回归模块校正潜在token,有效缓解身份信息丢失,显著提升帧间身份一致性,实现高保真个性化视频生成。
2025-08-11 cs.CV
Object-Centric Temporal Consistency via Conditional Autoregressive Inductive Biases
Delft University of Technology(代尔夫特理工大学);The University of Tokyo(东京大学);Mila, University of Montreal(蒙特利尔大学米拉研究所);Google DeepMind(谷歌DeepMind);Agency for Science, Technology and Research(新加坡科技研究局);Nanyang Technological University(南洋理工大学)
本文提出条件自回归槽注意力(CA-SA)框架,通过自回归先验网络和一致性损失函数增强视频中以对象为中心表示的时间一致性,并在视频预测和视觉问答任务上优于基线方法。
2024-10-21 cs.CV cs.LG
TEACH: Temporal Action Composition for 3D Humans
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);École des Ponts(巴黎桥路学院);Univ Gustave Eiffel(古斯塔夫·埃菲尔大学);CNRS(法国国家科学研究中心)
给定一系列自然语言描述,我们的任务是生成与文本语义相对应的三维人体运动,并遵循指令的时间顺序。特别是,我们的目标是使一系列的行动,我们称之为时间的行动组成的合成。当前的文本条件运动合成技术仅将单个动作或单个句子作为输入。这部分是由于缺乏包含动作序列的合适的训练数据,但也由于其非自回归模型公式化的计算复杂性,其不能很好地扩展到长序列。在这项工作中,我们解决这两个问题。首先,我们利用最近的BABEL运动文本集合,它有广泛的标记动作,其中许多发生在它们之间的过渡序列。接下来,我们设计了一个基于transformer的方法,它在一个动作中非自回归地操作,但在动作序列中自回归地操作。在我们的实验中,与多个基线相比,这种分层公式证明是有效的。我们的方法,被称为“TEACH为人类运动的临时动作组成”,产生逼真的人类运动的各种各样的行动和时间组成的语言描述。为了鼓励在这个新任务上的工作,我们在我们的$\href{teach.is.tue.mpg.de}{\text{website}}$上提供我们的代码用于研究目的。
2022-09-12 cs.CV
SynVAR: Synergizing Spatial and Semantic Alignment in Visual Autoregressive Model
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);Western University(西安大略大学);JIUTIAN Research, CMCC, China(中国移动通信集团九天研究)
本文提出首个专为视觉自回归模型(VAR)定制的无训练增强框架SynVAR,通过空间-语义协同控制策略及三个关键组件抑制误差,显著提升了VAR的复杂场景建模能力。
2026-08-11 cs.CV
Locate Anything in Videos: Rethinking Efficient Generative Spatio-Temporal Video Grounding
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);University of California, Merced(加州大学默塞德分校);Apertix(阿珀蒂克斯公司)
针对时空视频定位的自回归解码存在延迟高、误差易传播的问题,提出并行轨迹解码,在VidSTG等数据集上实现显著的延迟降低与吞吐量提升,且可零样本泛化到多项相关任务
2026-08-31 cs.CV
CARRNN: A Continuous Autoregressive Recurrent Neural Network for Deep Representation Learning from Sporadic Temporal Data
University College London(伦敦大学学院);Biomediq A/S(Biomediq公司);University of Copenhagen(哥本哈根大学);Cerebriu A/S(Cerebriu公司)
从多变量纵向数据中学习时间模式是具有挑战性的,特别是在数据是零星的情况下,如经常在例如,在医疗保健应用中,数据可能遭受不规则性和重复性,因为连续数据点之间的时间可能在特征和样本之间变化,从而阻碍了针对具有固定序列长度的完整、均匀间隔的数据构建的现有深度学习模型的应用。在本文中,开发了一种新的基于深度学习的模型,用于使用基于循环神经网络(RNN)单元和连续时间自回归(CAR)模型的集成深度学习架构对零星数据中的多个时间特征进行建模。所提出的模型称为CARRNN,使用广义离散时间自回归模型,该模型可使用受时间滞后调制的神经网络进行端到端训练,以描述由不规则性和异步性引起的变化。它被应用于多变量时间序列回归任务,使用为阿尔茨海默病进展建模和重症监护病房(ICU)死亡率预测提供的数据,其中基于门控复发单元(GRU)的模型在所提出的基于RNN的模型和在其架构中使用GRU和长短期记忆(LSTM)网络的最新方法中实现了最低的预测误差。
2021-04-08 cs.AI cs.CV cs.LG