Optimizing Training Trajectories in Variational Autoencoders via Latent Bayesian Optimization Approach
UT-Battelle, LLC(UT-巴特尔有限责任公司);U.S. Department of Energy(美国能源部)
无监督和半监督ML方法(如变分自编码器(VAE))已被广泛应用于物理,化学和材料科学的多个领域,因为它们能够解开表示并能够找到复杂实验数据的分类和回归的潜在流形。与其他ML问题一样,VAE需要超参数调整,例如,平衡Kullback Leibler(KL)和重建项。然而,训练过程和由此产生的流形拓扑和连通性不仅取决于超参数,还取决于它们在训练过程中的演变。由于在高维超参数空间中进行穷举搜索对于训练模型来说效率低下,因此我们在无监督和半监督ML的超参数轨迹优化中探索了潜在贝叶斯优化(zBO)方法,并对具有旋转不变性的联合VAE进行了演示。我们展示了这种方法的应用程序,找到联合离散和连续的旋转不变表示MNIST和实验数据的等离子体纳米粒子材料系统。所提出的方法的性能已经被广泛讨论,其中它允许任何高维超参数调整或其他ML模型的轨迹优化。
2022-06-30 cs.LG stat.ML
Goal-Conditioned Variational Autoencoder Trajectory Primitives with Continuous and Discrete Latent Codes
Kyushu Institute of Technology(九州工业大学);RIKEN center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
模仿学习是一种直观的方法,用于教导机器人系统的运动。虽然以前的研究已经提出了各种方法来模拟演示运动原语,现有方法的局限性之一是,在高维空间中编码的轨迹的形状。轨迹表示的高维性可能是后续过程(例如规划原始运动序列)中的瓶颈。我们通过学习机器人轨迹的潜在空间来解决这个问题。如果轨迹的潜变量可以被学习,则即使当用户不是专家时,它也可以用于以直观的方式调整轨迹。我们提出了一个框架,演示轨迹与神经网络,学习低维潜在空间建模。我们的神经网络结构是建立在变分自编码器(VAE)的离散和连续的潜变量。我们扩展了现有的VAE的结构,以获得解码器,该解码器以轨迹的目标位置为条件,用于泛化到不同的目标位置。虽然VAE的推断不准确,但通过将投影引入解空间,可以将广义目标位置处的定位误差减小到1 mm以内。为了满足大量训练数据的需求,我们使用了一种轨迹增强技术,该技术受到了计算机视觉领域常用的数据增强的启发。在所提出的框架中,编码多种类型的轨迹的潜变量是以无监督的方式学习的,尽管现有的方法通常需要标签信息来对不同的行为进行建模。学习的解码器可以用作运动规划器,其中用户可以通过设置潜变量来指定目标位置和轨迹类型。
2020-09-23 cs.LG cs.RO
Kinematics-aware Trajectory Generation and Prediction with Latent Stochastic Differential Modeling
Northwestern University(西北大学);the University of Southampton(南安普顿大学)
提出将运动学知识集成到神经随机微分方程中并构建变分自编码器,以生成物理现实且精确可控的车辆轨迹,同时预测潜在空间中的不可观测物理变量。
2024-03-22 cs.LG cs.RO
A Generic Framework for Clustering Vehicle Motion Trajectories
Chalmers University of Technology(查尔姆斯理工大学)
自动驾驶汽车的发展需要在相关的驾驶场景中访问大量数据。然而,这种驾驶场景的手动注释是昂贵的,并且容易受到基于规则的轨迹标记系统中的错误的影响。为了解决这个问题,我们提出了一个有效的非参数轨迹聚类框架,包括五个阶段:(1)对齐轨迹并量化它们的成对时间相异性,(2)将基于相似性的相异性嵌入到向量空间中,(3)提取传递关系,(4)将传递关系嵌入到新的向量空间中,以及(5)以最佳数目的簇对轨迹进行聚类。我们调查和评估一个具有挑战性的现实世界的数据集组成的注释轨迹的建议框架。我们观察到,所提出的框架取得了可喜的成果,尽管具有不同长度的轨迹所造成的复杂性。此外,我们扩展了框架,以验证真实数据集与生成对抗网络(GAN)生成的合成数据的增强,我们检查生成的轨迹是否与真实的底层集群一致。
2020-09-25 cs.LG stat.ML
Active Learning of Driving Scenario Trajectories
Chalmers University of Technology(查尔姆斯理工大学);Volvo Cars Corporation(沃尔沃汽车公司)
注释的驾驶场景轨迹对于自动驾驶车辆的验证和确认至关重要。然而,仅基于显式规则(即,基于知识的方法)对这样的轨迹的注释可能容易出现错误,诸如对位于两个场景类的边界上的场景的假阳性/阴性分类、遗漏未知场景类、或者甚至未能检测到异常。另一方面,由注释者对标签进行验证并不具有成本效益。为此目的,主动学习(AL)可以通过以有效的方式包括注释者/专家来潜在地改进注释过程。在这项研究中,我们开发了一个通用的主动学习框架来注释驾驶轨迹时间序列数据。我们首先计算嵌入的轨迹到一个潜在的空间,以提取数据的时间性质。给定这样的嵌入,该框架变得与任务无关,因为主动学习可以使用任何分类方法和任何查询策略来执行,而不管原始时间序列数据的结构如何。此外,我们利用我们的主动学习框架来发现未知的驾驶场景轨迹。这将确保先前未知的轨迹类型可以被有效地检测并包括在标记的数据集中。我们评估我们提出的框架,在不同的设置在新的现实世界的数据集组成的驾驶轨迹沃尔沃汽车公司收集。我们观察到,主动学习构成了一个有效的工具,标签驾驶轨迹,以及检测未知类。预期的是,嵌入的质量在所提出的框架的成功中起着重要作用。
2022-12-29 cs.AI cs.LG
Augmenting Safety-Critical Driving Scenarios while Preserving Similarity to Expert Trajectories
Noah’s Ark Lab, Huawei Technologies Canada(诺亚方舟实验室,华为技术加拿大公司)
提出一种保持与专家轨迹相似性的轨迹增强方法,通过聚类识别少数安全关键轨迹并经几何变换生成新轨迹加入训练集,显著提升了模仿学习模型的闭环性能。
2024-04-20 cs.AI cs.LG
Latent Reasoning Does Not Lack Signal, It Lacks Invariance: Subspace-Constrained Refinement for Robust Reasoning
发现潜在推理轨迹中存在稳定不变方向,提出TILR方法通过低秩子空间干预提升推理一致性与稳定性。
2026-11-10 cs.AI cs.CG cs.LG
Segmenting Hybrid Trajectories using Latent ODEs
University of Toronto(多伦多大学);Vector Institute(向量研究所);Memorial Sloan Kettering Cancer Center(纪念斯隆-凯特琳癌症中心)
被不连续性中断的光滑动力学被称为混合系统,并且在自然界中常见。潜常微分方程允许不规则采样的时间序列的强大的代表性,但不是为了捕捉混合动力系统所产生的轨迹。在这里,我们提出了潜在的分段常微分方程(LatSegODE),它使用潜在的常微分方程进行重建和变化点检测的混合轨迹具有跳跃的不连续性和切换动力学模式。在有可能训练一个潜在的常微分方程的光滑动态流之间的不连续性,我们应用修剪精确线性时间(PELT)算法来检测变化点,潜在的动态重新启动,从而最大限度地提高联合概率的分段连续潜在的动态表示。我们建议使用的边际似然作为评分函数PELT,规避模型复杂性为基础的惩罚的需要。LatSegODE在重建和分割任务中的表现优于基线,包括正弦波、Lotka Volterra动力学和UCI字符轨迹的合成数据集。
2021-06-10 cs.LG
TrajSurv: Learning Continuous Latent Trajectories from Electronic Health Records for Trustworthy Survival Prediction
Department of Biomedical Informatics and Medical Education University of Washington(生物医学信息学与医学教育系,华盛顿大学);Fred Hutch Cancer Center(Fred Hutch癌症中心);Department of Biomedical Informatics Harvard University(生物医学信息学系,哈佛大学)
针对电子健康记录不规则采样下临床进展建模与生存预测透明度不足的问题,提出TrajSurv模型,结合NCDE、时间感知对比学习与分治解释实现可信生存预测,在两个真实数据集上准确率具竞争力且透明度更优。
2025-08-01 cs.LG
LIDAR-AD: A Decoder-Free Latent-Interaction Dreamer with Action-Residual Chains for Autonomous Driving
School of Mechanical Engineering, Southeast University(东南大学机械工程学院);Department of Civil and Environmental Engineering, University of Michigan(密歇根大学土木与环境工程系);Xheart Technology Co., Ltd.(芯驰科技有限公司)
研究针对自动驾驶中多源观测冗余问题,提出LIDAR-AD,用减少冗余的潜在对齐取代观测重建,将车辆控制建模为残差动作更新,经实验验证其在模拟场景和现实布局下性能优异,能提升风险感知等能力。
2026-07-15 cs.LG
RD-JEPA: Predictive latent pretraining for few-trajectory transfer across reaction--diffusion equations
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对反应-扩散方程代理模型迁移需新模拟数据的问题,提出RD-JEPA自监督预训练架构,在五个系统预训练后适应三个保留系统,用少量轨迹即超越多种基线,实现数据高效迁移。
2026-09-25 cs.AI cs.LG
Latent Action World Models for Control with Unlabeled Trajectories
Technical University of Munich(慕尼黑技术大学);Machine Learning Research Lab, Volkswagen Group(大众集团机器学习研究实验室);Eötvös Loránd University Budapest(布达佩斯欧多立大学);Foundation Robotics Labs(基础机器人实验室)
本文提出了一种潜在动作世界模型,通过结合动作条件和无动作数据,提升离线强化学习在未标记轨迹上的性能。
2025-12-10 cs.LG
Reinforcement Learning for Autonomous Driving with Latent State Inference and Spatial-Temporal Relationships
Honda Research Institute US(美国本田研究所);Stanford University(斯坦福大学);University of California, Berkeley(加州大学伯克利分校)
深度强化学习(DRL)为复杂自动驾驶场景中的导航学习提供了一种很有前途的方法。然而,识别可能表明截然不同结果的微妙线索仍然是设计在人类环境中运行的自主系统的一个开放性问题。在这项工作中,我们表明,明确推断的潜在状态和编码的时空关系的强化学习框架可以帮助解决这个困难。我们通过一个框架,结合了强化学习者与监督学习者的潜在状态编码先验知识的其他驱动程序。此外,我们通过图神经网络(GNNs)对不同车辆之间的影响进行建模。与最先进的基线方法相比,所提出的框架显着提高了在T形交叉口导航的性能。
2021-03-24 cs.LG
Learning Soft Driving Constraints from Vectorized Scene Embeddings while Imitating Expert Trajectories
Simon Fraser University(西蒙菲莎大学);Huawei Technologies(华为技术有限公司);University of Toronto(多伦多大学);University of Waterloo(滑铁卢大学);Vector Institute(矢量研究院)
本研究提出一种无需模拟器的方法,从向量化场景嵌入中提取驾驶约束并融入模仿学习,通过最大熵模型分离奖励与约束流,提升了运动规划的可解释性与闭环性能,可适配更多数据集和真实场景。
2024-12-07 cs.AI cs.LG cs.RO
Final Checkpoints Are Not Enough: Analyzing Latent Reasoning Faithfulness Along Training Trajectories
Tongji University(同济大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
研究潜在推理方法的忠实度问题,通过对输入和潜在推理步骤做特定编辑与补丁,追踪不同范式在训练检查点间忠实度演变,发现其受训练阶段和答案格式影响。
2026-11-05 cs.CL cs.LG
Semantic Step Prediction: Multi-Step Latent Forecasting in LLM Reasoning Trajectories via Step Sampling
Home Team Science and Technology Agency(家庭团队科技机构)
本文通过步采样改进语义管预测方法,提升多步潜在预测的准确性,并提出新的评估指标。
2026-04-20 cs.LG
CAN-Trace Attack: Exploit CAN Messages to Uncover Driving Trajectories
Global Big Data Technologies Centre, University of Technology Sydney(技术大数据中心,悉尼技术大学)
本文提出CAN-Trace攻击机制,利用CAN消息重建驾驶轨迹,在无GPS数据时仍能以高达99.41%的成功率揭示轨迹,对长期隐私构成重大风险。
2025-07-13 cs.CR cs.LG
Efficient and Generalized end-to-end Autonomous Driving System with Latent Deep Reinforcement Learning and Demonstrations
Shanghai Qizhi Institute(上海启智研究所);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息学院);Mogo Auto Intelligence and Telematics Information Technology Co., Ltd(摩戈智能与 telemetry 信息技术有限公司)
本文提出EGADS,一种结合变分推断、归一化流和专家示范的端到端自动驾驶系统,显著降低样本复杂度、提升安全性并增强复杂城市场景的泛化能力。
2025-09-10 cs.AI cs.LG cs.RO
BattVAE-GP: Generative Modeling of Long-Horizon Battery Degradation with Uncertainty Quantification
CNRS(法国国家科学研究中心)
研究针对长周期电池退化模拟计算昂贵的问题,提出BattVAE - GP框架,先利用VAE编码数据至潜在空间,再用GP训练并估计不确定性,能准确恢复轨迹,提供高效且具不确定性意识的长周期退化建模代理。
2026-07-15 cs.AI cs.LG
Latent World Models for Automated Driving: A Unified Taxonomy, Evaluation Framework, and Open Challenges
RWTH Aachen University(亚琛工业大学);Delft University of Technology(代尔夫特理工大学)
本文提出统一的潜在空间框架,整合自动驾驶世界模型的最新进展,探讨潜在表示的分类、评估方法及未来研究方向。
2026-03-10 cs.AI cs.LG cs.MA
CLAP: Contrastive Latent-space Prompt Optimization for End-to-end Autonomous Driving
University of Michigan(密歇根大学);University of Arizona(亚利桑那大学)
本文提出CLAP方法,通过对比潜在空间提示优化解决自动驾驶中罕见但安全关键的长尾场景问题,利用V2X通信获取数据并优化提示,从而提升规划性能。
2026-05-17 cs.AI cs.CV cs.LG
DreamerAD: Efficient Reinforcement Learning via Latent World Model for Autonomous Driving
Institute of Automation, CAS(中国科学院自动化研究所);Chongqing Chang’an Technology Co., Ltd(重庆长安科技有限公司);School of Advanced Interdisciplinary Sciences, UCAS(中国科学院大学先进交叉科学学院);School of Artificial Intelligence, UCAS(中国科学院大学人工智能学院)
DreamerAD通过压缩扩散采样将步骤从100步减少到1步,实现80倍加速并保持视觉可解释性,解决了自动驾驶中真实世界数据训练成本高和安全风险大的问题。
2026-04-01 cs.LG cs.RO
Modeling Complex Disease Trajectories using Deep Generative Models with Semi-Supervised Latent Processes
University of Zurich(苏黎世大学);ETH AI Center(苏黎世联邦理工学院人工智能中心);Oslo University Hospital(奥斯陆大学医院);University of Oslo(奥斯陆大学);University Hospital Zurich(苏黎世大学医院);Bogomolets National Medical University(博戈莫列茨国立医科大学)
本研究提出带半监督潜过程的深度生成时间序列方法,结合医学知识解耦潜空间以提升可解释性,可用于疾病轨迹建模、患者匹配、亚型聚类及个性化监测预测,在系统性硬化症中验证了有效性。
2024-01-29 cs.LG stat.ML
Less Language, More Latents: Annotation-Efficient VLAs for Driving
Robert Bosch GmbH(罗伯特·博世有限公司);Five AI Ltd.(Five AI 有限公司)
针对VLA训练中语言标注稀缺问题,提出LADA三阶段流水线,利用隐变量动作模型和少量标注实现高效语言条件驾驶,在Bench2Drive上以不到5%标注超越全监督基线。
2026-09-24 cs.LG cs.RO
Anomaly Detection in Multi-Agent Trajectories for Automated Driving
Mercedes-Benz AG(梅赛德斯-奔驰股份公司);Ulm University(乌尔姆大学)
人类驾驶员可以快速识别异常驾驶情况,以避免事故。与人类类似,自动驾驶汽车应该执行异常检测。在这项工作中,我们提出了时空图自动编码器学习正常的驾驶行为。我们的创新是能够共同学习动态数量的代理的多个轨迹。为了执行异常检测,我们首先估计学习的轨迹特征表示的密度函数,然后检测低密度区域中的异常。由于缺乏用于自动驾驶中异常检测的多智能体轨迹数据集,我们使用驾驶模拟器介绍了我们的数据集,用于正常和异常操纵。我们的评估表明,我们的方法学习不同的代理之间的关系,并提供有前途的结果相比,相关的作品。代码、模拟和数据集可在https://github.com/againerju/maad_highway上公开获得。
2021-10-28 cs.LG cs.MA cs.RO
UniGen: Unified Modeling of Initial Agent States and Trajectories for Generating Autonomous Driving Scenarios
Waymo(威摩科技)
提出 UniGen 统一建模新智能体位置、初始状态与轨迹,并结合自回归注入生成低碰撞率逼真驾驶场景,在 Waymo Open Motion Dataset 上超越现有方法。
2024-05-06 cs.LG cs.RO
Language-Enhanced Latent Representations for Out-of-Distribution Detection in Autonomous Driving
University of Florida(佛罗里达大学)
本文提出利用CLIP多模态模型中图像与文本表示的余弦相似度作为语言增强潜在表示,用于自动驾驶分布外检测,实验证明其优于传统视觉编码器表示并能提升检测性能。
2024-05-02 cs.CV cs.LG cs.RO
End-to-end Autonomous Driving Perception with Sequential Latent Representation Learning
University of California, Berkeley(加州大学伯克利分校)
当前的自动驾驶系统由感知系统和决策系统组成。两者都分为多个子系统,由大量的人力物力建立起来。端到端的方法可以清理系统,避免人类工程的巨大努力,并随着数据和计算资源的增加获得更好的性能。与决策系统相比,感知系统更适合在端到端框架中设计,因为它不需要在线驾驶探索。在本文中,我们提出了一种新的端到端的自动驾驶感知方法。引入一个潜在空间来捕获所有对感知有用的相关特征,这些特征是通过顺序潜在表示学习来学习的。学习的端到端感知模型能够解决检测,跟踪,定位和映射问题,只需最少的人类工程工作,而无需在线存储任何地图。在一个现实的城市驾驶模拟器,与摄像机图像和激光雷达点云作为传感器输入,所提出的方法进行评估。这个工作的代码和视频可以在我们的github repo和项目网站上找到。
2020-10-09 cs.CV cs.LG stat.ML
Interpretable End-to-end Urban Autonomous Driving with Latent Deep Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校);Tsinghua University(清华大学)
与流行的模块化框架不同,端到端自动驾驶寻求以集成的方式解决感知,决策和控制问题,这可以更好地适应新场景,更容易大规模推广。然而,现有的端到端方法往往缺乏可解释性,只能处理简单的驾驶任务,如车道保持。在本文中,我们提出了一种用于端到端自动驾驶的可解释的深度强化学习方法,该方法能够处理复杂的城市场景。引入了一个顺序的潜在环境模型,并与强化学习过程一起学习。利用该潜在模型,可以生成语义birdeye mask,该语义birdeye mask被强制与当今模块化框架中的某个中间属性连接,以解释学习策略的行为。潜在空间还显著降低了强化学习的样本复杂度。与CARLA中模拟自动驾驶汽车的比较测试表明,我们的方法在周围车辆拥挤的城市场景中的性能占主导地位,包括DQN,DDPG,TD3和SAC。此外,通过掩蔽输出,学习的策略能够更好地解释汽车如何对驾驶环境进行推理。这个工作的代码和视频可以在我们的github repo和项目网站上找到。
2020-07-07 cs.CV cs.LG cs.RO
CARNet: A Dynamic Autoencoder for Learning Latent Dynamics in Autonomous Driving Tasks
Georgia Institute of Technology(佐治亚理工学院);Ford Motor Company(福特汽车公司)
自动驾驶在汽车行业受到了广泛关注,通常被视为交通运输的未来。配备有各种传感器的乘用车(例如,相机、前置雷达、LiDAR和IMU)变得越来越普遍。这些传感器提供了一系列高维、时间相关的数据,这对于可靠的自动驾驶至关重要。自动驾驶系统应该有效地使用从各种传感器收集的信息,以便形成对世界的抽象描述并保持态势感知。自动编码器等深度学习模型可以用于此目的,因为它们可以从传入数据流中学习紧凑的潜在表示。然而,大多数自动编码器模型独立地处理数据,而不假设任何时间上的相互依赖性。因此,需要在其架构中明确考虑数据的时间依赖性的深度学习模型。这项工作提出了CARNet,这是一种组合动态自动编码器网络架构,它利用自动编码器与递归神经网络相结合来学习当前的潜在表示,此外,还可以在自动驾驶的背景下预测未来的潜在表示。我们使用模拟和真实数据集在模仿和强化学习设置中证明了所提出的模型的有效性。我们的研究结果表明,该模型优于基线最先进的模型,同时具有显着更少的可训练参数。
2022-05-26 cs.LG cs.RO
Dreamer-SAC: Off-Policy Learning in Latent World Models for Sample-Efficient Autonomous Driving
Tongji University(同济大学)
本文提出Dreamer-SAC框架,结合循环状态空间世界模型与离线策略SAC算法,在自动驾驶场景中优于DreamerV3、SAC等基线,且所需真实环境交互更少。
2026-08-12 cs.LG cs.RO
How To Not Drive: Learning Driving Constraints from Demonstration
Huawei Technologies(华为技术有限公司)
我们提出了一个新的计划,学习运动规划约束,从人类驾驶轨迹。行为和运动规划是自动驾驶系统的关键组成部分。行为规划负责遵守交通规则并与其他道路参与者互动所需的高层次决策。运动规划器的作用是为自动驾驶车辆生成可行、安全的轨迹。轨迹通过优化方案生成,以基于与平滑度、可移动性和舒适度相关的度量来优化成本函数,并且受到从计划行为、安全考虑和可行性导出的一组约束。通常的做法是手动设计成本函数和约束。最近的工作研究了从人类驾驶演示中学习成本函数。虽然有效,但这些方法在自动驾驶中的实际应用仍然值得怀疑。相比之下,本文的重点是学习驾驶约束,这可以作为现有自动驾驶解决方案的附加模块。为了学习约束,规划问题被制定为一个受约束的马尔可夫决策过程,其元素被假定为已知的,除了约束。然后通过学习专家轨迹的分布并估计属于所学习的分布的最优轨迹的概率来学习约束。该方案使用NGSIM数据集进行评估,产生小于1\%的碰撞率和道路机动时,学习的约束条件是在基于优化的运动规划器中使用。
2021-10-01 cs.LG cs.RO
Motion planning for off-road autonomous driving based on human-like cognition and weight adaptation
School of Mechanical Engineering, Beijing Institute of Technology(北京理工大学机械工程学院)
针对越野自动驾驶中固定代价函数难以适应复杂地形的问题,提出基于类人认知与权重自适应的运动规划器,通过构建多层地图并利用CNN-LSTM学习人类驾驶轨迹,生成高适应性、稳定且高效的轨迹。
2024-04-27 cs.AI cs.LG cs.RO
Latent Neural ODEs with Sparse Bayesian Multiple Shooting
Aalto University(阿尔托大学);University of Tübingen(图宾根大学)
在长轨迹上训练动态模型(如神经ODE)是一个很难的问题,需要使用各种技巧(如轨迹分裂)才能使模型训练在实践中发挥作用。这些方法通常是理论论证不佳的方法,并且需要迭代的手动调优。我们提出了一个原则性的多射击技术的神经常微分方程,分裂的轨迹成可管理的短段,这是并行优化,同时确保连续段的连续性概率控制。我们推导出变分推理我们的射击为基础的潜在神经ODE模型,并提出摊销编码的不规则采样轨迹与基于变换的识别网络的时间注意力和相对位置编码。我们在多个大规模基准数据集上展示了高效稳定的训练和最先进的性能。
2023-02-08 cs.LG
Prioritize the Process, Not Just the Outcome: Rewarding Latent Thought Trajectories Improves Reasoning in Looped Language Models
Department of Computer Science, Princeton University, Princeton NJ, U.S.A(普林斯顿大学计算机科学系)
针对循环语言模型(LoopLM)中标准强化学习(如GRPO)仅奖励最终潜在状态导致推理改进失败的问题,提出RLTT框架,通过在整个潜在推理轨迹上分配奖励实现密集的轨迹级信用分配,显著提升数学推理性能并泛化至非数学任务。
2026-05-28 cs.LG
Variational Latent Branching Model for Off-Policy Evaluation
Duke University(杜克大学);North Carolina State University(北卡罗来纳州立大学)
基于模型的方法最近显示出极大的潜力,离线政策评估(OPE)的行为政策引起的离线轨迹拟合马尔可夫决策过程(MDP),这是用来推出模拟轨迹和估计政策的性能的过渡。基于模型的OPE方法面临两个关键挑战。首先,由于离线轨迹通常是固定的,它们往往覆盖有限的状态和动作空间。其次,基于模型的方法的性能可能对其参数的初始化敏感。在这项工作中,我们提出了变分潜在分支模型(VLBM),通过将环境动态制定为一个紧凑的潜在空间,然后从中采样下一个状态和奖励来学习MDP的过渡函数。具体而言,VLBM利用并扩展了具有递归状态对齐(RSA)的变分推理框架,其被设计为通过平滑VLBM的变分(编码)和生成(解码)部分之间的信息流来捕获尽可能多的有限训练数据的信息。此外,我们还引入了分支结构,以提高模型的鲁棒性对随机初始化的模型权重。VLBM的有效性进行评估的深OPE(DOPE)基准,从训练轨迹的设计,导致不同的覆盖范围的状态-动作空间。我们表明,VLBM优于现有的最先进的OPE方法一般。
2023-02-03 cs.AI cs.LG stat.ML
ThinkRouter: Efficient Reasoning via Routing Thinking between Latent and Discrete Spaces
Adobe Research(Adobe研究)
ThinkRouter通过在低信心时路由至离散空间,高信心时路由至潜在空间,提升推理效率和准确性,平均提高Pass@1 19.70分,减少生成长度15.55%。
2026-02-12 cs.AI cs.CL cs.LG
Augmenting Reinforcement Learning with Transformer-based Scene Representation Learning for Decision-making of Autonomous Driving
Nanyang Technological University(南洋理工大学)
针对城市自动驾驶强化学习决策样本效率低、适应性差的问题,提出Scene-Rep Transformer方法,通过多阶段Transformer编码交互与意图、序列潜在Transformer蒸馏未来预测信息,提升SAC决策的数据效率与成功率、安全性等性能。
2023-08-25 cs.AI cs.LG cs.RO
Scalable Unsupervised Multi-Criteria Trajectory Segmentation and Driving Preference Mining
Universität Stuttgart(斯图加特大学);Aalborg University(奥尔堡大学)
我们提出了大型轨迹数据集的分析技术,其目的是提供一个语义理解的轨迹达到超越他们在时间和空间上的点序列。所提出的技术使用驾驶偏好模型w.r.t.路段穿越成本,例如,旅行时间和距离,分析和解释轨迹。特别地,我们提出了轨迹挖掘技术,其可以(a)在轨迹内找到感兴趣的点,例如,经由点,以及(b)基于驾驶员所选择的轨迹恢复驾驶员的驾驶偏好。我们评估我们的技术上的任务,通过点识别和个性化的路由使用的数据集超过1万辆车的轨迹收集在整个丹麦在3年的时间。我们的技术可以有效地实现,并且是高度并行的,允许它们扩展到数百万或数十亿的轨迹。
2020-10-23 cs.DB cs.LG cs.RO
Neural operator discovery from heterogeneous trajectories
Massachusetts Institute of Technology(麻省理工学院);Zhejiang University(浙江大学)
研究如何从异构轨迹发现神经算子,提出因式分解潜在条件公式,联合学习神经算子与低维潜在表示,能捕获系统变化内在维度,实现零样本外推等泛化,为无显式监督的算子学习建立可解释范式。
2026-07-28 cs.LG
NeurInt : Learning to Interpolate through Neural ODEs
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
广泛的应用需要学习图像生成模型,其潜在空间有效地捕获数据分布中存在的高级变化因素。模型通过其潜在空间表示这种变化的程度可以通过其在图像之间平滑插值的能力来判断。然而,大多数生成模型在生成图像之前映射一个固定的插值轨迹,导致插值轨迹缺乏平滑度,并且包含质量降低的图像。在这项工作中,我们提出了一种新的生成模型,学习一个灵活的非参数先验插值轨迹,条件对源和目标图像。我们不依赖于确定性插值方法(例如潜在空间中的线性或球面插值),而是设计了一个框架,该框架使用潜在二阶神经常微分方程来学习两个给定图像之间的轨迹分布。通过重建和对抗损失的混合组合,生成器被训练成将来自这些轨迹的采样点映射到从源图像平滑过渡到目标图像的真实图像序列。通过全面的定性和定量实验,我们证明了我们的方法在生成质量更高的图像方面的有效性,以及它在任何一对真实源和目标图像的平滑插值轨迹上学习不同分布的能力。
2021-11-07 cs.AI cs.CV cs.LG
Probabilistic Prediction of Interactive Driving Behavior via Hierarchical Inverse Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校)
自动驾驶汽车(AVs)已经上路。为了安全有效地与其他道路参与者进行交互,自动驾驶汽车必须准确预测周围车辆的行为并相应地进行规划。这种预测应该是概率性的,以解决人类行为中的不确定性。这种预测也应该是互动的,因为在所有可能的轨迹的预测车辆的分布不仅取决于历史信息,但也对未来的计划,其他车辆与它互动。为了实现这种互动感知的预测,我们提出了一种概率预测方法的基础上分层逆强化学习(IRL)。首先,我们明确地考虑了人类驾驶员的分层自动生成过程,涉及离散和连续的驾驶决策。在此基础上,在所有未来轨迹的预测车辆的分布被制定为一个混合的分布划分的离散决策。然后,我们应用IRL分层学习分布从真正的人类示威。提供了一个案例研究的坡道合并驾驶方案。定量结果表明,所提出的方法可以准确地预测离散的驾驶决策,如屈服或通过以及连续的轨迹。
2018-09-09 cs.AI cs.LG cs.RO
Optimizing Trajectories for Highway Driving with Offline Reinforcement Learning
University of Freiburg(弗莱堡大学);BMW Group(宝马集团)
实现能够输出可行、平滑和高效轨迹的自动驾驶车辆是一项长期挑战。已经考虑了几种方法,大致分为两类:基于规则的方法和基于学习的方法。基于规则的方法虽然保证了安全性和可行性,但在长期规划和推广方面存在不足。基于学习的方法能够解释长期规划和对未知情况的概括,但可能无法实现基于规则的方法所确保的平滑性,安全性和可行性。因此,将这两种方法结合起来,显然是朝着在两者之间取得最佳折衷的方向迈出的一步。我们提出了一种基于强化学习的方法,该方法可以学习高速公路上完全自动驾驶的目标轨迹参数。经过训练的代理输出连续的轨迹参数,基于这些参数生成并执行可行的基于多项式的轨迹。我们比较我们的代理对其他四个高速公路驾驶代理的性能。实验是在相扑模拟器中进行的,考虑到各种现实的,动态变化的高速公路场景,包括周围的车辆与不同的驾驶员行为。我们证明,我们的离线训练代理,随机收集的数据,学习驾驶平稳,实现速度尽可能接近所需的速度,同时优于其他代理。代码、训练数据和详细信息请访问:www.example.com。de/branka. mirchevska/offline-rl-tp.
2022-03-21 cs.LG cs.RO
Semi-Supervised Generative Models for Disease Trajectories: A Case Study on Systemic Sclerosis
University of Zurich(苏黎世大学);Oslo University Hospital(奥斯陆大学医院);University of Oslo(奥斯陆大学);University Hospital Zurich(苏黎世大学医院);Bogomolets National Medical University(博格莫列茨国立医科大学);CHU Lille(里尔大学医院中心);Lille University(里尔大学);University of Brescia(布雷西亚大学);Charles University(查理大学);University College London(伦敦大学学院);University of Split(斯普利特大学);University Hospital Center Split(斯普利特大学医院中心)
本文提出一种半监督深度生成模型,利用潜在时间过程建模系统性硬化症疾病轨迹,结合医学知识解耦潜在空间,支持患者聚类、亚型发现及带不确定性量化的个性化在线监测与预测。
2024-08-08 cs.LG stat.ML
ODE-GS: Latent ODEs for Dynamic Scene Extrapolation with 3D Gaussian Splatting
Yale University(耶鲁大学);TU Delft(代尔夫特理工大学);Louisiana State University(路易斯安那州立大学);RTX(RTX公司)
ODE-GS结合隐式ODE与3D高斯点划法,通过连续时间隐式动态建模实现动态3D场景的未来外推,优于传统时间条件变形网络方法,提升外推性能19.8%。
2026-04-26 cs.CV cs.GR cs.LG
Localized Conformal Safety Monitoring with Vision-Language Models for Autonomous Driving
University of Michigan(密歇根大学)
针对自动驾驶安全监控,提出分割标签局部共形预测(SLLCP),在冻结视觉语言模型上实现事后校准,将碰撞检测率从4.6%提升至89.6%。
2026-10-05 cs.LG cs.RO
Tracing the Dynamics of Refusal: Exploiting Latent Refusal Trajectories for Robust Jailbreak Detection
Peking University(北京大学);Nanyang Technological University(南洋理工大学);Beijing Jiaotong University(北京交通大学)
通过因果追踪识别出稀疏的“拒绝轨迹”激活模式,并提出轻量级白盒检测器SALO,基于隐藏状态窗口实现鲁棒越狱检测。
2026-05-26 cs.AI cs.CL cs.CR
RiskWorld: Object-Centric Latent World Modeling for Autonomous Driving Risk Identification
提出 RiskWorld 模型,以对象为中心的潜在世界建模,结合预训练视频表示与自车-对象历史,在 RiskBench 上实现 63.0% F1 和 2.1% 误报率,可有效识别自动驾驶风险。
2026-08-25 cs.LG cs.RO
Decoding Emotional Trajectories: A Temporal-Semantic Network Approach for Latent Depression Assessment in Social Media
Beijing Institute of Technology(北京理工大学);University of Delaware(特拉华大学)
本文提出一种基于时序-语义网络的方法,用于社交媒体中潜在抑郁症的评估,通过捕捉用户情感表达的时序模式和语义原型,提供持续性解释,提升模型的可解释性和临床应用价值。
2025-12-16 cs.AI cs.CY cs.LG
Learning non-stationary Langevin dynamics from stochastic observations of latent trajectories
Cold Spring Harbor Laboratory(冷泉港实验室);University of Michigan(密歇根大学)
许多复杂的系统在远离平衡点的情况下运行,表现出可以用朗之万方程描述的随机动力学。从数据中推断朗之万方程可以揭示这些系统的瞬态动力学如何产生它们的功能。然而,动态通常无法直接访问,只能通过随机观察过程收集,这使得推理具有挑战性。在这里,我们提出了一个非参数的框架推断的朗之万方程,明确建模的随机观测过程和非平稳的潜在动力学。该框架考虑了观测系统的非平衡初始和最终状态,以及系统动态定义观测持续时间的可能性。忽略这些非平稳分量中的任何一个都会导致不正确的推断,其中由于非平稳数据分布而在动态中出现错误的特征。我们说明了框架使用模型的神经动力学决策在大脑中。
2020-12-29 cond-mat.stat-mech cs.LG physics.bio-ph
Conditional Latent Block Model: a Multivariate Time Series Clustering Approach for Autonomous Driving Validation
Laboratoire Informatique de Paris-Nord(巴黎北部信息学实验室);Université Sorbonne Paris Nord(索邦巴黎北大学);Groupe Renault SAS(雷诺集团)
自动驾驶系统验证仍然是汽车制造商必须解决的最大挑战之一,以提供安全的无人驾驶汽车。高度复杂性源于几个因素:车辆的多样性,嵌入式系统,用例,以及驾驶系统至少与人类驾驶员一样安全的非常高的可靠性要求。为了规避这些问题,人们大量使用再现各种物理条件的大规模模拟来测试无人驾驶汽车。因此,验证步骤会产生大量的数据,包括许多时间索引的数据,需要处理。在这种情况下,必须在特征空间中构建结构来解释各种场景。在这项工作中,我们提出了一种新的共聚类方法,适用于高维时间序列分析,扩展了标准的基于模型的共聚类。FunCLBM模型扩展了最近提出的功能潜在块模型,并允许在行和列集群之间创建依赖结构。这种结构化的划分作为一种特征选择方法,它提供了数据集的几个聚类视图,同时区分不相关的特征。在这个工作流程中,时间序列被投影到一个公共的插值低维频率空间,这允许优化投影基础。此外,FunCLBM通过执行逐块降维和特征选择来细化每个潜在块的定义。我们提出了一个SEM-Gibbs算法来推断这个模型,以及一个专用的标准来选择最佳的嵌套分区。模拟和真实情况下的雷诺数据集上的实验表明,所提出的工具的有效性和我们的用例的充分性。
2020-08-03 cs.LG stat.ML
The Role of Machine Learning for Trajectory Prediction in Cooperative Driving
King’s College London(伦敦国王学院);Centre For Telecommunications Research Department of Engineering(电信研究中心工程系)
在本文中,我们研究的作用,机器学习可以发挥协同驾驶。鉴于现代车辆和道路基础设施的连接率不断提高,协同驾驶是自动驾驶的第一步。本文探讨的示例场景是协调车道合并,数据汇集、测试和评估都在汽车测试轨道上进行。假设车辆是配备车载通信单元的车辆(即连接车辆)和未连接车辆的混合。然而,路边摄像头是连接的,可以捕捉所有车辆,包括那些没有连接的车辆。我们开发了一个交通导航器,它可以根据这两个信息源(即连接的车辆和连接的路边摄像头)来建议轨迹。建立推荐的轨迹,然后将其传达回连接的车辆。我们探索使用不同的机器学习技术,准确和及时的预测轨迹。
2020-10-21 cs.LG cs.RO
CoIRL-AD: Collaborative-Competitive Imitation-Reinforcement Learning in Latent World Models for Autonomous Driving
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
提出CoIRL-AD框架,通过解耦模仿学习与强化学习、利用潜在世界模型进行长时程奖励估计以及引入竞争机制,在离线训练中提升自动驾驶的鲁棒性,尤其在跨城市泛化和长尾场景中表现优异。
2026-06-16 cs.CV cs.LG cs.RO
Assessing Markov Property in Driving Behaviors: Insights from Statistical Tests
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本研究通过统计检验验证自动驾驶与人类驾驶轨迹的马尔可夫性质,发现自动驾驶轨迹具有更强且更低阶的马尔可夫性质,为驾驶行为建模与交通仿真提供依据。
2025-01-18 cs.LG cs.SY eess.SY