Uncertainty-Aware and Temporally Regulated Expert Advice in Reinforcement Learning for Autonomous Driving
FZI Research Center for Information Technology(弗劳恩霍夫信息技术研究所);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
提出一种不确定性感知框架,通过自适应阈值触发专家建议并采用承诺-冷却策略调控指导时长,结合离线策略隐式分位数网络实现安全高效的探索,在CARLA中成功率提升5-7%。
2026-05-28 cs.AI
UMBRELLA: Uncertainty-Aware Model-Based Offline Reinforcement Learning Leveraging Planning
TU Dortmund University(多特蒙德工业大学)
离线强化学习(RL)提供了一个从离线数据中学习决策的框架,因此构成了自动驾驶等现实世界应用的一种有前途的方法。自动驾驶汽车(SDV)学习一种策略,这种策略甚至可能优于次优数据集中的行为。特别是在自动驾驶等安全关键型应用中,可解释性和可移植性是成功的关键。这促使使用基于模型的离线RL方法,该方法利用规划。然而,目前的最先进的方法往往忽略了任意的不确定性所产生的多智能体系统的随机行为的影响。本文提出了一种基于不确定性感知模型的离线强化学习杠杆规划(UMBRELLA)方法,该方法以一种可解释的基于学习的方式联合解决了SDV的预测、规划和控制问题。经过训练的动作条件随机动力学模型捕捉交通场景的不同未来演变。该分析为我们的方法在挑战自动驾驶模拟和基于真实世界公共数据集方面的有效性提供了经验证据。
2022-06-28 cs.AI cs.LG cs.RO
HyPlan: Hybrid Learning-Assisted Planning Under Uncertainty for Safe Autonomous Driving
Saarland University, Computer Science Dept.(萨尔兰大学计算机科学系);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);French National Centre for Scientific Research (CNRS)(法国国家科学研究中心)
HyPlan通过结合多智能体行为预测、深度强化学习和POMDP规划,实现安全且高效的自动驾驶导航
2026-02-06 cs.AI cs.RO
Addressing Inherent Uncertainty: Risk-Sensitive Behavior Generation for Automated Driving using Distributional Reinforcement Learning
fortiss GmbH(福蒂斯有限公司);Technische Universität München(慕尼黑工业大学)
对于SAE 3级以上的高度自动化驾驶,行为生成算法必须可靠地考虑交通环境的固有不确定性,例如由各种人类驾驶风格引起的不确定性。这种不确定性可能会产生模糊的决策,要求算法适当地平衡低概率的危险事件(例如碰撞)和高概率的有益事件(例如快速穿过十字路口)。最先进的行为生成算法缺乏决策结果的分布式处理。这妨碍了在模棱两可的情况下进行适当的风险评估,往往鼓励不安全或保守的行为。因此,我们提出了一个两步的方法,结合离线分布学习与在线风险评估的风险敏感行为生成。具体来说,我们首先使用深度分布式强化学习在不确定环境中学习最优策略。在执行过程中,通过将已建立的风险标准(例如条件风险值)应用于学习的状态-动作回报分布来选择最佳风险敏感动作。在交叉路口的情况下,我们评估不同的风险标准,并证明我们的方法增加了安全性,同时保持积极的驾驶风格。我们的方法将鼓励进一步研究风险敏感方法对自动驾驶车辆的好处。
2021-02-05 cs.AI
Uncertainty-Aware Motion Planning for Autonomous Driving in Mixed Traffic Environment
Central South University(中南大学);City University of Macau(澳门城市大学)
提出不确定性感知运动规划(UAMP),通过量化人类意图不确定性并引入不确定性校准值学习,提升自动驾驶在混合交通中的安全性和舒适性。
2026-06-08 cs.AI cs.RO
SoftCTRL: Soft conservative KL-control of Transformer Reinforcement Learning for Autonomous Driving
Ho Chi Minh City University of Technology (HCMUT)(胡志明市技术大学(HCMUT));Vietnam National University Ho Chi Minh City (VNUHCM)(越南国家大学胡志明市分校(VNUHCM))
针对城市自动驾驶运动规划中模仿学习存在的安全可靠性不足、与强化学习结合后易过度保守的问题,提出采用隐式熵-KL控制的SoftCTRL方法,在模拟场景中实现超17%的故障减少,提升鲁棒性并生成类人驾驶行为。
2024-10-30 cs.AI cs.RO
MTA-RL: Robust Urban Driving via Multi-modal Transformer-based 3D Affordances and Reinforcement Learning
Dongguan Key Laboratory of Intelligent Equipment and Smart Industry, School of Advanced Engineering, Great Bay University(东莞智能装备与智能制造重点实验室,先进工程学院,大湾大学);Chair of Applied Statistics, Technische Universität Dresden(应用统计学教授职位,德累斯顿技术大学);Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI)(可扩展数据解析与人工智能中心(ScaDS.AI));College of Automation, Guangdong University of Technology(自动化学院,广东技术大学)
本文提出MTA-RL框架,通过多模态Transformer-based 3D affordances和强化学习实现可靠的城市自动驾驶,提升样本效率和稳定性,优于现有基线方法。
2026-05-11 cs.AI cs.CV cs.RO
BayesFormer: Transformer with Uncertainty Estimation
Meta AI
Transformer由于其在各种NLP和图像处理任务中的主导性能而变得无处不在。然而,它缺乏对如何为Transformer架构生成数学基础的不确定性估计的理解。配备有这种不确定性估计的模型通常可以提高预测性能,使网络鲁棒,避免过拟合,并用作主动学习中的获取函数。本文介绍了一种基于贝叶斯理论设计的带漏失的Transformer模型BayesFormer。我们提出了一个新的理论框架,以扩展的近似变分推理为基础的辍学,以transformer为基础的架构。通过大量的实验,我们验证了所提出的架构在四个范例,并显示全面的改进:语言建模和分类,长序列的理解,机器翻译和采集功能的主动学习。
2022-06-02 cs.AI cs.CL cs.LG
UCTECG-Net: Uncertainty-aware Convolution Transformer ECG Network for Arrhythmia Detection
Deakin University(德金大学);University of Southern Queensland(南方昆士兰大学);School of Mathematics, Physics and Computing(数学、物理与计算学院)
UCTECG-Net通过结合一维卷积和Transformer编码器,提升ECG信号处理的准确性与可靠性,实现98.58%的MIT-BIH心律失常检测准确率。
2026-02-18 cs.AI cs.LG
Transformers Learn Robust In-Context Regression under Distributional Uncertainty
Faculty of Computer Science;Engineering, Ho Chi Minh University of Technology (HCMUT), Vietnam National University Ho Chi Minh City (VNU-HCM), Vietnam
研究探讨了Transformer在非高斯系数、重尾噪声和非i.i.d.提示下的稳健上下文回归能力,证明其在多种分布偏移下优于传统基线方法。
2026-03-19 cs.AI cs.LG
Sensitivity Analysis of GRU, LSTM and Transformer Encoder in Classification of Automated Driving Systems
本文研究GRU、LSTM、Transformer编码器对Level 2级自动驾驶系统的分类性能,提出含5类损坏的鲁棒性评估框架,发现时间抖动会大幅降低三类模型的宏F1。
2026-08-03 cs.AI cs.LG
A Survey of Vision Transformers in Autonomous Driving: Current Trends and Future Directions
Cho Chun Shik Graduate School of Mobility, Daejeon, Korea(赵陈夏石移动研究生院)
本综述聚焦自动驾驶领域的视觉Transformer应用,梳理其基础概念与多场景应用,对比架构优劣,并指明未来研究方向。
2024-03-12 cs.CV cs.LG
Augmenting Reinforcement Learning with Transformer-based Scene Representation Learning for Decision-making of Autonomous Driving
Nanyang Technological University(南洋理工大学)
针对城市自动驾驶强化学习决策样本效率低、适应性差的问题,提出Scene-Rep Transformer方法,通过多阶段Transformer编码交互与意图、序列潜在Transformer蒸馏未来预测信息,提升SAC决策的数据效率与成功率、安全性等性能。
2023-08-25 cs.AI cs.LG cs.RO
Model-Predictive Policy Learning with Uncertainty Regularization for Driving in Dense Traffic
Courant Institute, New York University(纽约大学库朗研究所);Microsoft Research(微软研究院);Facebook AI Research(脸书人工智能研究院)
仅使用观察数据学习策略是具有挑战性的,因为它在执行时诱导的状态分布可能与训练期间观察到的分布不同。我们建议通过在多个时间步长上展开环境动态的学习模型来训练策略,同时显式地惩罚两个成本:策略寻求优化的原始成本,以及表示其与训练状态的偏差的不确定性成本。我们通过使用动态模型关于其自身预测的不确定性来测量第二个成本,使用来自深度网络的不确定性估计的最新想法。我们使用从交通摄像头记录的驾驶行为的大规模观测数据集来评估我们的方法,并表明我们能够从纯粹的观测数据中学习有效的驾驶策略,而无需环境交互。
2019-01-08 cs.AI cs.LG stat.ML
TransFuser: Imitation with Transformer-Based Sensor Fusion for Autonomous Driving
University of Tübingen(图宾根大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们应该如何整合来自互补传感器的表示以实现自动驾驶?基于几何的融合已经显示出感知(例如,目标检测、运动预测)的前景。然而,在端到端驾驶的情况下,我们发现,模仿学习基于现有的传感器融合方法在复杂的驾驶场景中表现不佳,具有高密度的动态代理。因此,我们提出了TransFuser,这是一种使用自我注意力整合图像和LiDAR表示的机制。我们的方法使用多分辨率的Transformer模块来融合透视图和鸟瞰图特征图。我们通过实验验证了其在具有长路线和密集交通的具有挑战性的新基准上的有效性,以及CARLA城市驾驶模拟器的官方排行榜。在提交时,TransFuser在驾驶分数方面远远超过了CARLA排行榜上的所有先前工作。与基于几何的融合相比,TransFuser将每公里的平均碰撞减少了48%。
2022-05-31 cs.AI cs.CV cs.LG
PRIMEDrive-CoT: A Precognitive Chain-of-Thought Framework for Uncertainty-Aware Object Interaction in Driving Scene Scenario
SRM Institute of Science and Technology(SRM科学技术学院)
本文提出PRIMEDrive-CoT框架,结合LiDAR 3D检测、多视角RGB、贝叶斯图神经网络和思维链推理,在DriveCoT数据集上实现了优于现有方法的不确定性感知驾驶场景物体交互与可解释决策。
2025-04-08 cs.AI cs.CV cs.LG
Multi-Modal Fusion Transformer for End-to-End Autonomous Driving
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Tübingen(图宾根大学)
如何将互补传感器的表示集成到自动驾驶中?基于几何特征的传感器融合在诸如目标检测和运动预测等感知任务中显示出巨大的前景。然而,对于实际驾驶任务,3D场景的全局上下文是关键,例如交通灯状态的变化可能会影响在几何上远离该交通灯的车辆的行为。因此,单独的几何形状可能不足以有效地融合端到端驾驶模型中的表示。在这项工作中,我们证明了模仿学习政策的基础上现有的传感器融合方法下执行的动态代理和复杂的情况下,需要全局上下文推理,如处理交通迎面而来的多个方向在不受控制的十字路口的存在下。因此,我们提出了transFuser,一种新的多模态融合Transformer,集成图像和激光雷达表示使用注意。我们的实验验证了我们的方法在城市环境中的有效性,涉及复杂的情况下,使用CARLA城市驾驶模拟器。我们的方法实现了最先进的驾驶性能,同时与基于几何的融合相比,减少了76%的碰撞。
2021-04-19 cs.AI cs.CV cs.LG
Vision Transformer for Learning Driving Policies in Complex Multi-Agent Environments
School of Electrical Engineering, Aalto University(阿尔托大学电气工程学院)
在复杂的城市环境中驾驶是一项艰巨的任务,需要复杂的决策策略。为了做出明智的决定,人们需要了解长期背景和其他车辆的重要性。在这项工作中,我们建议使用视觉Transformer(ViT)学习驾驶政策,在城市设置与鸟瞰(BEV)输入图像。ViT网络比早期提出的卷积神经网络(ConvNets)更有效地学习场景的全局上下文。此外,ViT的注意力机制有助于学习场景的注意力地图,这使得自我汽车能够确定哪些周围的汽车对其下一个决定很重要。我们证明了具有ViT骨干的DQN代理优于具有以各种方式预训练的ConvNet骨干的基线算法。特别是,所提出的方法有助于强化学习算法更快地学习,提高性能,减少数据比基线。
2021-09-14 cs.AI cs.LG cs.MA
HDGT: Heterogeneous Driving Graph Transformer for Multi-Agent Trajectory Prediction via Scene Encoding
Shanghai Jiao Tong University(上海交通大学);Shanghai AI Lab(上海人工智能实验室)
针对自动驾驶场景元素异质、空间关系具相对性的特点,提出将场景建模为异质图、采用分层Transformer聚合的HDGT方法,在两项轨迹预测挑战赛中达到SOTA性能。
2023-07-20 cs.AI cs.CV cs.LG
Diffusion-Inspired Reconfiguration of Transformers for Uncertainty Calibration
National University of Singapore(新加坡国立大学);Hanoi University of Science and Technology(河内科学技术大学);National Institute of Advanced Industrial Science and Technology(国家先进工业科学与技术研究院);Washington State University(华盛顿州立大学)
本文提出一种受扩散启发的Transformer重构方法,通过概率映射模拟扩散过程,实现不确定性校准和预测精度提升。
2026-09-09 cs.LG
Revisiting Uncertainty-based Query Strategies for Active Learning with Transformers
Leipzig University(莱比锡大学)
主动学习是通过有针对性的标记迭代构建分类模型,从而显著节省标记成本。由于大多数关于主动学习的研究都是在基于transformer的语言模型(Transformers)流行之前进行的,尽管它具有实际的重要性,但迄今为止,很少有论文研究如何将Transformers与主动学习相结合。这可以归因于这样一个事实,即对Transformers使用最先进的查询策略会导致令人望而却步的运行时开销,这实际上使所需的成本节省无效,甚至超过了所需的成本节省。出于这个原因,我们重新审视基于不确定性的查询策略,这在很大程度上优于以前,但特别适合在微调Transformers的上下文中。在广泛的评估中,我们将Transformers连接到以前的研究实验中,评估它们在五个广泛使用的文本分类基准上的性能。对于使用Transformers的主动学习,其他几种基于不确定性的方法优于众所周知的预测熵查询策略,从而挑战其作为文本分类的主动学习中最流行的不确定性基线的地位。
2022-03-20 cs.CL cs.LG
Gaze-Informed Vision Transformers: Predicting Driving Decisions Under Uncertainty
Columbia University(哥伦比亚大学);Georgia Institute of Technology(佐治亚理工学院)
本文提出融合眼动注视信息的 ViT 与 FAX 损失,使模型注意力对齐人类注视,从而提升真实及虚拟现实高不确定性驾驶场景中的左右决策预测性能。
2025-01-09 cs.AI cs.CV cs.LG
Transformer-Based Autonomous Driving Models and Deployment-Oriented Compression: A Survey
Renmin University of China(中国人民大学);Artificial Intelligence Innovation and Incubation Institute, Fudan University(复旦大学人工智能创新与孵化院);Shanghai Academy of AI for Science(上海人工智能科学研究院);Department of houmo.ai(houmo.ai部门)
本文综述了基于Transformer的自动驾驶模型,并从部署角度分析了压缩与加速策略(如量化、剪枝、知识蒸馏等)如何影响模型设计、部署性、鲁棒性和安全性。
2026-08-31 cs.AI cs.CV cs.LG
Driving Through Uncertainty: Risk-Averse Control with LLM Commonsense for Autonomous Driving under Perception Deficits
University at Buffalo(布法罗大学);University of Notre Dame(诺特尔大学)
本文提出LLM-RCO框架,利用大语言模型整合人类驾驶常识,以提升自动驾驶在感知缺陷下的风险规避与适应性控制能力。
2025-12-12 cs.AI cs.LG cs.RO
Uncertainty Quantification with Statistical Guarantees in End-to-End Autonomous Driving Control
University of Oxford(牛津大学)
用于自动驾驶的深度神经网络控制器最近受益于显著的性能改进,并已开始在现实世界中部署。在它们被广泛采用之前,需要对控制器行为进行安全保证,这些行为适当地考虑了模型中的不确定性以及传感器噪声。贝叶斯神经网络,假设先验的权重,已被证明能够产生这样的不确定性措施,但其安全性周围的属性尚未被量化用于自动驾驶场景。在本文中,我们开发了一个框架的基础上评估端到端贝叶斯控制器的最先进的模拟器。除了计算逐点的不确定性措施,可以实时的计算和统计保证,我们还提供了一种方法来估计的概率,给定的情况下,控制器保持汽车安全在有限的地平线。我们实验评估质量的不确定性计算的贝叶斯推理方法在不同的情况下,并显示如何的不确定性措施可以结合和校准用于避碰。我们的研究结果表明,不确定性估计可以极大地帮助自动驾驶决策。
2019-09-21 cs.LG stat.ML
Gluformer: Transformer-Based Personalized Glucose Forecasting with Uncertainty Quantification
University of YYY(YYY大学);Institute of WWW(WWW研究所)
深度学习模型在预测血糖轨迹方面取得了最先进的成果,并提出了各种架构。然而,这种模型在临床实践中的适应是缓慢的,主要是由于缺乏所提供的预测的不确定性量化。在这项工作中,我们提出将以过去为条件的未来葡萄糖轨迹建模为基础分布的无限混合(即,高斯、拉普拉斯等)。这种变化使我们能够学习不确定性,并在轨迹具有异质或多模态分布的情况下更准确地预测。为了估计预测分布的参数,我们利用Transformer架构。我们经验证明,我们的方法优于现有的国家的最先进的技术,无论是在合成和基准葡萄糖数据集的准确性和不确定性。
2023-03-07 cs.LG
MedFormer-UR: Uncertainty-Routed Transformer for Medical Image Classification
Lakehead University(湖首大学)
本文提出MedFormer-UR,通过原型学习和不确定性引导路由提升医学图像分类的可靠性,实现实时不确定性量化与局部化,减少校准误差达35%。
2026-04-10 cs.AI cs.CV cs.LG
Variational Neurons in Transformers for Language Modeling
Conservatoire National des Arts et Métiers(法国国立工艺学院)
本文提出在变换器中引入变分神经元,使不确定性成为内部计算的一部分,通过实验验证其在语言建模中的有效性,展示了变分变换器在不确定性建模中的实用性。
2026-03-30 cs.LG
MMCAformer: Macro-Micro Cross-Attention Transformer for Traffic Speed Prediction with Microscopic Connected Vehicle Driving Behavior
MMCAformer通过结合宏观交通特征和微观驾驶行为特征,提升交通速度预测的准确性和不确定性估计。
2026-02-17 cs.LG
Evaluating Uncertainty Quantification in End-to-End Autonomous Driving Control
University of Oxford(牛津大学)
深度神经网络(DNN)的普及,归因于更强大的GPU和广泛可用的数据集,已经看到它们越来越多地用于安全关键领域。其中一个领域,自动驾驶,已经从显着的性能改进中受益,在没有人为干预的情况下驾驶了数百万英里。尽管如此,崩溃和错误行为仍然会发生,部分原因是验证DNN正确性的复杂性和缺乏安全保证。在本文中,我们演示了如何实时提取不确定性的定量度量,并在自动驾驶汽车的端到端控制器中评估其质量。为此,我们利用最近的方法从DNN收集近似的不确定性信息,而不改变网络的架构。我们提出了两个独立的架构,使用的不确定性预测崩溃提前5秒的不确定性评估技术。我们发现,互信息,在分类网络的不确定性的措施,是一个有前途的指标即将崩溃。
2018-11-16 cs.CV cs.LG stat.ML
Learning an Uncertainty-Aware Object Detector for Autonomous Driving
Uber Advanced Technologies Group(优步先进技术集团);Georgia Institute of Technology(佐治亚理工学院)
检测物体的能力是自动驾驶的核心部分。由于传感器噪声和不完整的数据,完美地检测和定位每个目标是不可行的。因此,检测器提供每个预测中的不确定性量是很重要的。为自主系统提供可靠的不确定性使得车辆能够基于不确定性水平做出不同的反应。先前的工作已经通过预测对象边界框上的概率分布来估计检测中的不确定性。在这项工作中,我们提出了一种方法来提高学习的能力,通过考虑潜在的噪声在地面真实标记的数据的概率分布。我们提出的方法不仅提高了学习分布的准确性,而且提高了目标检测性能。
2020-02-03 cs.CV cs.LG cs.RO
HiLO: High-Level Object Fusion for Autonomous Driving using Transformers
Institute of Control Theory and Systems Engineering, TU Dortmund University(控制理论与系统工程研究所,杜伊斯堡-埃森大学)
本文提出基于Transformer的高层级目标融合方法HiLO,并改进自适应卡尔曼滤波,在自动驾驶感知中显著提升F1分数和平均IoU,且具备跨域泛化能力。
2025-06-03 cs.AI cs.CV cs.LG
Safety-Enhanced Autonomous Driving Using Interpretable Sensor Fusion Transformer
SenseTime Research(商汤科技研究院);University of Toronto(多伦多大学);The Chinese University of Hong Kong(香港中文大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
由于安全问题,自动驾驶汽车的大规模部署一直被推迟。一方面,全面的场景理解是必不可少的,缺乏这种理解将导致对罕见但复杂的交通情况的脆弱性,例如突然出现的未知物体。然而,从全局上下文中进行推理需要访问多种类型的传感器和多模态传感器信号的充分融合,这是难以实现的。另一方面,学习模型缺乏可解释性也阻碍了无法验证故障原因的安全性。在本文中,我们提出了一个安全增强的自动驾驶框架,命名为可解释的传感器融合Transformer(InterFuser),充分处理和融合来自多模态多视角传感器的信息,以实现全面的场景理解和对抗性事件检测。此外,从我们的框架中生成的中间可解释的功能,提供更多的语义和利用,以更好地约束行动内的安全集。我们对CARLA基准进行了广泛的实验,我们的模型优于以前的方法,在公共CARLA排行榜上排名第一。我们的代码将在https://github.com/opendilab/InterFuser上提供
2022-12-07 cs.AI cs.CV cs.LG
STT: Stateful Tracking with Transformers for Autonomous Driving
Waymo LLC(Waymo公司);Google Research(谷歌研究院)
本文提出基于Transformer的有状态跟踪模型STT,通过长期检测历史联合优化数据关联与状态估计,并引入S-MOTA和MOTPS新指标,在Waymo Open Dataset上实现有竞争力的实时跟踪性能。
2024-04-30 cs.AI cs.CV cs.LG
Uncertainty Quantification for Transformer Models for Dark-Pattern Detection
Advantx Technological Foundation (Funditec)(Advantx技术基金会(Funditec))
针对Transformer模型在暗模式检测中的不透明性问题,提出差异微调结合SNGPs/BNNs不确定性量化方法,在保持性能的同时提升透明度与可解释性,为高可信度模型开发提供支持。
2024-12-06 cs.AI cs.CL cs.LG
Multimodal Manoeuvre and Trajectory Prediction for Automated Driving on Highways Using Transformer Networks
WMG, University of Warwick(华威大学WMG学院);Queen’s University of Belfast(贝尔法斯特女王大学)
提出一种基于Transformer的多模态预测框架,通过定制问题公式化、预测模型和训练方法,在NGSIM、highD和exiD数据集上优于现有方法,实现更准确的高速公路车辆机动与轨迹预测。
2023-07-26 cs.LG cs.RO
Uncertainty Estimation of Transformers' Predictions via Topological Analysis of the Attention Matrices
AIRI
针对Transformer语言模型不确定性估计效果不佳的问题,提出从注意力矩阵提取拓扑特征的方法,在相关基准上显著优于现有技术,提供了更高效可解释的解决方案。
2024-09-17 cs.LG
S2TNet: Spatio-Temporal Transformer Networks for Trajectory Prediction in Autonomous Driving
Xi’an Jiaotong University(西安交通大学)
为了安全合理地参与密集和异构的交通,自动驾驶汽车需要充分分析周围交通代理的运动模式,并准确预测其未来的轨迹。这是具有挑战性的,因为交通代理的轨迹不仅受到交通代理本身的影响,而且还受到空间相互作用的影响。以往的方法通常依赖于对长短期记忆网络(LSTM)的逐步处理,并且只提取单一类型交通代理的空间邻居之间的相互作用。提出了时空Transformer网络(S2 TNet),它用时空Transformer来描述时空交互,用时间Transformer来处理时间序列。我们输入额外的类别,形状和标题信息到我们的网络来处理交通代理的异质性。在ApolloScape Trajectory数据集上,该方法在平均位移误差和最终位移误差的加权和上均优于最先进的方法7%以上.我们的代码可在https://github.com/chenghuang66/s2tnet上获得。
2022-06-22 cs.CV cs.LG cs.RO
Bayesian Transformer for Pan-Arctic Sea Ice Concentration Mapping and Uncertainty Estimation using Sentinel-1, RCM, and AMSR2 Data
Department of Geomatics Engineering, University of Calgary(地质测绘工程系,卡尔加里大学)
本文提出一种新型贝叶斯变换器方法,利用Sentinel-1、RCM和AMSR2数据实现北极海冰浓度制图及不确定性估计,通过改进特征提取、不确定性量化和数据异质性处理提升制图精度与鲁棒性。
2025-09-29 cs.CV cs.LG
Uncertainty-Aware Token Importance Estimation in Spiking Transformers
School of Computer Science, Peking University(北京大学计算机科学学院);School of Computer Science, Peking University. Institute for Artificial Intelligence, Peking University(北京大学计算机科学学院。人工智能研究所);Peking University(北京大学)
本文提出Uncert框架,通过建模类证据和时间不确定性模式,提升脉冲变换器的标记重要性估计,实现更高效的推理。
2026-05-10 cs.CV cs.LG
MSF3DDETR: Multi-Sensor Fusion 3D Detection Transformer for Autonomous Driving
Institute of System and Robotics(系统与机器人研究所);University of Coimbra(科英布拉大学)
3D目标检测是自动驾驶的重要任务。近年来随着视觉Transformer的发展,2D目标检测问题正以集合到集合的损失来处理。受这些二维目标检测方法和多视角三维目标检测方法DETR 3D的启发,我们提出了MSF 3DDETR:Multi-Sensor Fusion 3D Detection Transformer架构,融合图像和LiDAR特征,提高检测精度。我们的端到端单级、无锚点和无NMS网络可以接收多视图图像和LiDAR点云,并预测3D边界框。首先,我们使用一种新的MSF 3DDETR交叉注意块将从数据中学习到的对象查询与图像和LiDAR特征联系起来。其次,对象查询在多头自注意块中相互交互。最后,将MSF 3DDETR块重复$L$多次以细化对象查询。MSF 3DDETR网络使用基于匈牙利算法的二分匹配和受DETR启发的集到集损失在nuScenes数据集上进行端到端训练。我们提出了定量和定性的结果,这是有竞争力的国家的最先进的方法。
2022-10-27 cs.CV cs.LG cs.RO
Can Transformer Attention Spread Give Insights Into Uncertainty of Detected and Tracked Objects?
Robert Bosch GmbH(罗伯特·博世有限公司);Ulm University(乌尔姆大学)
Transformers最近已经被用于在自动驾驶的背景下执行目标检测和跟踪。这些模型的一个独特特征是在每个前向传递中计算注意力权重,从而洞察模型的内部,特别是,它认为给定任务对输入数据的哪一部分感兴趣。这种具有输入网格的注意力矩阵可用于每个Transformer解码器层中的每个检测到的(或跟踪到的)对象。在这项工作中,我们调查这些注意力权重的分布:它们如何通过解码器层和通过轨道的生命周期变化?它们是否可以用来推断关于物体的附加信息,例如探测不确定性?特别是在非结构化环境中,或者在训练过程中不常见的环境中,检测不确定性的可靠度量对于决定系统是否仍然可信至关重要。
2022-10-26 cs.CV cs.LG
Physics-Informed Machine Learning for Transformer Condition Monitoring -- Part II: Physics-Informed Neural Networks and Uncertainty Quantification
University of the Basque Country (UPV/EHU)(巴斯克大学)
本文提出基于物理的神经网络和贝叶斯框架,用于变压器状态监测中的不确定性量化与预测。
2025-12-20 cs.LG
Uncertainty Decomposition for Bayes-Filtered Transformers via Bayesian Predictive Inference
Bocconi University(博科尼大学);Monash University(墨尔本大学);University of Oxford(牛津大学)
本文提出在TabPFN中进行不确定性分解的原理框架,通过贝叶斯预测推断方法,推导出基于预测更新波动性的方差估计器,并实现快速计算的可信区间,同时针对分类任务提出基于熵的不确定性分解方法。
2026-07-21 cs.LG stat.ME stat.ML
SMURF-THP: Score Matching-based UnceRtainty quantiFication for Transformer Hawkes Process
Georgia Institute of Technology(佐治亚理工学院);Amazon(亚马逊);The Chinese University of Hong Kong(香港中文大学)
提出SMURF-THP方法,基于分数匹配学习Transformer Hawkes过程并量化预测不确定性,避免了难以处理的似然积分计算,在置信度校准上优于现有方法且保持相当的预测准确率。
2023-10-25 cs.LG stat.ML
TransFollower: Long-Sequence Car-Following Trajectory Prediction through Transformer
University of Washington(华盛顿大学);Tongji University(同济大学);Monash University(莫纳什大学)
车辆跟驰是指跟随车辆(FV)试图通过响应于前方车辆的动作而调整其加速度来保持自身与引导车辆(LV)之间的安全距离的控制过程。相应的跟驰模型描述了车辆在交通流中如何跟随另一车辆,是微观交通仿真和智能车辆开发的基石。汽车跟驰模型的一个主要动机是复制人类驾驶员的纵向驾驶轨迹。为了对未来行为对历史驾驶情况的长期依赖性进行建模,我们基于基于注意力的Transformer模型开发了一个长序列车辆跟驰轨迹预测模型。该模型遵循编码器-解码器架构的一般格式。编码器将历史速度和间距数据作为输入,并使用多头自注意形成历史驾驶上下文的混合表示。解码器将未来LV速度曲线作为输入,并以生成方式(而不是自回归方式,避免复合误差)输出预测的未来FV速度曲线。通过编码器和解码器之间的交叉关注,解码器学习建立历史驾驶和未来LV速度之间的联系,基于此可以获得未来FV速度的预测。我们用从上海自然驾驶研究(SH-NDS)中提取的112,597个真实世界的跟车事件来训练和测试我们的模型。结果表明,该模型在长序列轨迹预测精度方面优于传统智能驾驶员模型(IDM)、全连接神经网络模型和基于长短期记忆(LSTM)的模型.我们还可视化了自我注意力和交叉注意力热图,以解释模型如何得出其预测。
2022-02-04 cs.AI cs.CV cs.LG
FANTF: Fuzzy attention network based transformers for time series analysis
本文提出 FANTF 框架,通过将模糊逻辑与模糊隶属函数嵌入 Transformer 自注意力模块,有效处理时间序列数据的不确定性,显著提升了预测、分类与异常检测性能。
2026-10-16 cs.LG
Uncertainty-Aware Genomic Classification of Alzheimer's Disease: A Transformer-Based Ensemble Approach with Monte Carlo Dropout
Indiana University School of Medicine(印第安纳大学医学院)
本文提出TrUE-Net,将保留SNP序列结构的Transformer与随机森林集成,并利用蒙特卡洛Dropout估计不确定性,通过剔除高不确定样本显著提升阿尔茨海默病基因组分类的准确率与F1。
2025-05-31 cs.LG q-bio.GN
PlanT: Explainable Planning Transformers via Object-Level Representations
University of Tübingen(图宾根大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
在复杂环境中规划最佳路线需要对周围场景进行有效推理。虽然人类驾驶员优先考虑重要对象并忽略与决策无关的细节,但基于学习的规划者通常从包含所有车辆和道路上下文信息的密集高维网格表示中提取特征。在本文中,我们提出了PlanT,这是一种在自动驾驶背景下使用标准Transformer架构进行规划的新方法。PlanT基于具有紧凑对象级输入表示的模仿学习。在CARLA的Longest6基准测试中,PlanT优于所有先前的方法(匹配专家的驾驶分数),同时在推理过程中比同等的基于像素的规划基线快5.3倍。将PlanT与现成的感知模块相结合,提供了一个基于传感器的驾驶系统,该系统在驾驶评分方面比现有的最新技术水平高出10分以上。此外,我们提出了一个评估协议,以量化规划者识别相关对象的能力,为他们的决策提供见解。我们的研究结果表明,植物可以集中在场景中最相关的对象,即使这个对象是几何距离。
2022-10-25 cs.AI cs.CV cs.LG
Molecular Transformer - A Model for Uncertainty-Calibrated Chemical Reaction Prediction
IBM Research GmbH(IBM研究院(瑞士));University of Cambridge(剑桥大学)
有机合成是药物化学中的主要障碍之一。在规划合成中,一个必要但尚未解决的步骤是解决正问题:给定反应物和试剂,预测产物。与其他工作类似,我们将反应预测视为SMILES反应物-试剂和产物字符串之间的机器翻译问题。我们表明,多头注意分子Transformer模型优于文献中的所有算法,在一个共同的基准数据集上实现了90%以上的前1精度。我们的算法不需要手工制定的规则,并准确地预测微妙的化学变化。至关重要的是,我们的模型可以准确地估计自己的不确定性,在分类预测是否正确方面,不确定性得分的准确率为89%。此外,我们表明,该模型是能够处理输入没有反应物-试剂分裂,包括立体化学,这使得我们的方法普遍适用。
2019-05-30 cs.LG physics.chem-ph
Uncertainty-aware Short-term Motion Prediction of Traffic Actors for Autonomous Driving
Uber Advanced Technologies Group(优步先进技术集团)
我们解决了自动驾驶汽车安全有效运行所必需的关键方面之一,即预测自动驾驶汽车周围交通行为者的未来状态。我们引入了一种基于深度学习的方法,该方法考虑了当前的世界状态,并生成每个演员附近的光栅图像。然后,这些光栅被用作深度卷积模型的输入,以推断参与者的未来运动,同时还考虑和捕获预测任务的固有不确定性。对真实世界数据的广泛实验强烈表明所提出的方法的好处。此外,在完成离线测试后,该系统成功地在自动驾驶汽车上进行了测试。
2020-03-04 cs.CV cs.LG cs.RO
Uncertainty-Aware Transformers: Conformal Prediction for Language Models
本文提出CONFIDE框架,通过置信预测提升语言模型的可解释性和准确性,在BERT-tiny上测试准确率提升4.09%,并在资源受限和高风险任务中表现出鲁棒性和可解释性。
2026-04-10 cs.LG
Efficient Equivariant Transformer for Self-Driving Agent Modeling
Waabi;University of Toronto(多伦多大学)
本文提出DriveGATr,一种基于变换器的架构,通过多向量在2D投影几何代数中建模几何关系,实现SE(2)-等价性,无需显式成对相对位置编码,提升大规模场景下的效率。
2026-04-01 cs.CV cs.LG cs.RO
Uncertainty-Aware Learning from Demonstration using Mixture Density Networks with Sampling-Free Variance Modeling
Seoul National University(首尔国立大学);Korea University(高丽大学)
在本文中,我们提出了一种不确定性感知的示教学习方法,提出了一种新的不确定性估计方法,利用混合密度网络建模复杂和嘈杂的人类行为。建议的不确定性采集可以用一个单一的前向路径,而无需蒙特卡罗采样,是适合于实时机器人应用。通过三个不同的合成例子,没有数据,重测量噪声,和组合功能的情况下,建议的不确定性度量的属性进行了分析。我们表明,每种情况下,可以区分使用所提出的不确定性措施,并提出了一个不确定性意识的学习,从演示方法的自动驾驶使用此属性。所提出的不确定性感知的示教学习方法在使用复杂的真实世界驾驶数据集的安全性方面优于其他比较方法。
2017-09-08 cs.AI cs.CV cs.LG