Reducing Overconfidence Predictions for Autonomous Driving Perception
Federal Institute of Espirito Santo（圣埃斯皮里图联邦学院）；Institute of Systems and Robotics (ISR-UC)（系统与机器人研究所（科英布拉大学））；University of Coimbra（科英布拉大学）；Nottingham Trent University（诺丁汉特伦特大学）；University of Hertfordshire（赫特福德大学）；Portuguese Mint and Official Printing Office（葡萄牙铸币与官方印刷局）
在用于对象识别的最先进的深度学习中，SoftMax和Sigmoid函数最常用作预测器输出。这些层通常会产生过度自信的预测，而不是正确的概率得分，这可能会损害自动驾驶和机器人技术中应用的“关键”感知系统的决策。考虑到这一点，这项工作中的实验提出了一种概率方法，该方法基于从预训练网络的Logit层分数中计算出的分布。我们证明，最大似然（ML）和最大后验概率（MAP）函数更适合概率解释比SoftMax和Sigmoid为基础的预测对象识别。我们通过RGB图像和来自KITTI和Lyft Level-5数据集的LiDAR（RV：范围视图）数据探索不同的传感器模式，与通常的SoftMax和Sigmoid层相比，我们的方法显示出有前途的性能，并具有可解释的概率预测的好处。本文介绍的方法的另一个优点是ML和MAP函数可以在现有的训练网络中实现，也就是说，该方法受益于预训练网络的Logit层的输出。因此，不需要执行新的训练阶段，因为在测试/预测阶段中使用了ML和MAP函数。
2022-05-12 cs.AI cs.CV cs.LG
DeepPSL: End-to-end perception and reasoning
EY Global Delivery Services India LLP（安永全球交付服务印度有限责任合伙公司）；Ernst & Young (EY) LLP USA（美国安永有限责任合伙公司）
我们引入了概率软逻辑（PSL）的变体DeepPSL，以产生一个集成推理和感知的端到端可训练系统。PSL表示一阶逻辑的凸图形模型-铰链损失马尔可夫随机场（HL-MRF）。PSL在概率逻辑框架中脱颖而出，因为它的易处理性已被应用于超过10亿条基本规则的系统。我们方法的关键是使用深度神经网络表示一阶逻辑中的谓词，然后通过HL-MRF近似反向传播，从而训练所表示的一阶系统的各个方面。我们认为，这种方法代表了深度学习和推理技术与知识库学习、多任务学习和可解释性应用集成的一个有趣方向。对三个不同任务的评估表明，DeepPSL在可扩展性方面明显优于最先进的神经符号方法，同时实现了相当或更好的准确性。
2023-02-04 cs.AI cs.CL cs.LG
A Joint Model of Language and Perception for Grounded Attribute Learning
University of Washington（华盛顿大学）
随着机器人变得越来越普遍和强大，让未经训练的用户能够轻松地与它们进行交互变得越来越重要。最近，这导致了对语言基础问题的研究，其目标是提取与物理世界中的感知和驱动相关的自然语言的含义的表示。在本文中，我们提出了一种联合学习的语言和感知模型接地属性归纳的方法。我们的感知模型包括属性分类器，例如检测对象的颜色和形状，和语言模型是基于概率范畴语法，使丰富的，组成的意义表示的建设。该方法进行评估的任务解释的句子，描述在物理工作空间中的对象集。我们展示了准确的任务性能和有效的潜在变量概念归纳在物理接地场景。
2012-06-27 cs.CL cs.LG cs.RO
FireCommander: An Interactive, Probabilistic Multi-agent Environment for Heterogeneous Robot Teams
Georgia Institute of Technology（佐治亚理工学院）
本教程的目的是帮助个人使用\underline{FireCommander}游戏环境进行研究应用。FireCommander是一个交互式的、概率性的联合感知-行动侦察环境，在该环境中，机器人）协作以对抗动态的、传播的火点（例如，目标）。在FireCommander游戏中，一组代理必须负责在具有蔓延的火灾区域和一些设施（如房屋，医院，发电站等）的环境中最佳地处理野火情况。估计火灾状态），彼此之间传送感测到的火灾信息并且然后基于感测到的信息采取行动来扑灭火灾（例如，在估计的火灾位置上滴水）。FireCommander环境可以用于研究主题，涵盖从强化学习（RL）和从演示示教学习（LfD）到协调，心理学，人机交互（HRI）和团队合作的广泛应用。FireCommander环境有四个重要方面，总体而言，创建了一个非平凡的游戏：（1）复杂目标：多目标随机环境，（2）概率环境：代理的行为导致概率性能，（3）隐藏目标：部分可观察环境，（4）单任务机器人：仅感知和仅感知的代理。FireCommander环境在包括用于协调的仅Perception-only代理和仅Perception-only代理方面是首创的。它是一种通用的多用途游戏，可以用于各种组合优化问题和随机游戏，例如强化学习（RL），示教学习（LfD）和逆RL（iRL）的应用。
2021-10-27 cs.AI cs.HC cs.LG
Towards Bayesian Deep Learning: A Framework and Some Existing Methods
Hong Kong University of Science and Technology（香港科技大学）
虽然视觉对象识别和文本理解等感知任务在人类智能中发挥着重要作用，但涉及推理，推理和规划的后续任务需要更高水平的智能。在过去的几年里，使用深度学习模型的许多感知任务取得了重大进展。然而，对于更高级别的推理，具有贝叶斯性质的概率图模型仍然更强大和灵活。为了实现涉及感知和推理的集成智能，自然需要在一个有原则的概率框架内紧密集成深度学习和贝叶斯模型，我们称之为贝叶斯深度学习。在这个统一的框架中，使用深度学习对文本或图像的感知可以提高高级推理的性能，反过来，推理过程的反馈能够增强对文本或图像的感知。本文提出了贝叶斯深度学习的一般框架，并回顾了其最近在推荐系统，主题模型和控制方面的应用。在本文中，我们还讨论了贝叶斯深度学习与其他相关主题（如神经网络的贝叶斯处理）之间的关系和区别。
2016-09-03 cs.CV cs.LG cs.NE
Latent Distribution Decoupling: A Probabilistic Framework for Uncertainty-Aware Multimodal Emotion Recognition
College of Computer Science, Chongqing University（重庆大学计算机学院）；Tsinghua University（清华大学）；Meituan Inc.（美团公司）
本文提出LDDU概率框架，通过对比解耦分布机制分离语义特征与偶然不确定性，并进行不确定性感知融合，在CMU-MOSEI和M³ED上达到MMER最先进性能。
2025-02-19 cs.CL cs.LG
Perceptions of Linguistic Uncertainty by Language Models and Humans
University of California Irvine（加州大学欧文分校）
本研究探究语言模型如何将不确定性表达映射为数值概率，发现多数模型能类人映射，但受先验知识影响产生偏见，影响人机与AI间交流。
2024-11-07 cs.AI cs.CL cs.LG
Scenic: A Language for Scenario Specification and Scene Generation
University of California, Berkeley（加州大学伯克利分校）
我们提出了一种新的概率程序设计语言的设计和分析的感知系统，特别是那些基于机器学习。具体来说，我们认为训练感知系统处理罕见事件，测试其性能在不同的条件下，和调试失败的问题。我们展示了概率程序设计语言如何通过指定对有趣的输入类型进行编码的分布并对这些输入进行采样以生成专门的训练集和测试集来帮助解决这些问题。更一般地说，这种语言可以用于网络物理系统和机器人来编写环境模型，这是任何形式分析的必要先决条件。在本文中，我们专注于自动驾驶汽车和机器人等系统，其环境是一个“场景”，一个物理对象和代理的配置。我们设计了一个特定领域的语言，风景，描述“场景”，分布在场景。作为一种概率程序设计语言，Scenic允许将分布分配给场景的特征，以及声明性地对场景施加硬约束和软约束。我们开发专门的技术，从产生的分布采样，利用风景区的特定于域的语法提供的结构。最后，我们将Scenic应用于一个卷积神经网络的案例研究中，该网络旨在检测道路图像中的汽车，从而提高其性能，超越了最先进的合成数据生成方法。
2019-06-21 cs.CV cs.LG cs.PL
Cooperative Probabilistic Trajectory Forecasting under Occlusion
Virginia Tech（弗吉尼亚理工大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
针对遮挡场景下通信受限和定位困难，本文提出端到端协作网络，通过共享视场智能体间的相对位姿估计预测被遮挡行人状态与轨迹，并验证其接近无遮挡真值。
2023-12-06 cs.CV cs.LG cs.RO
Towards a Causal Probabilistic Framework for Prediction, Action-Selection & Explanations for Robot Block-Stacking Tasks
University of Oxford（牛津大学）
针对机器人积木堆叠任务，本文提出将物理仿真嵌入结构因果模型的因果概率框架，以实现状态评估、下一最优动作选择和事后反事实解释。
2023-09-29 cs.AI cs.LG cs.RO
Probabilistic Warnings in National Security Crises: Pearl Harbor Revisited
Johns Hopkins University（约翰斯·霍普金斯大学）；Stanford University（斯坦福大学）
想象一下，一群对手正在准备对美国或美国利益发动攻击。一位情报分析师观察到了一些信号，但情况正在迅速变化。分析师面临着这样一个决定：是向主要决策者发出攻击即将发生的警报，还是等到对情况有更多了解时再行动。这种预警决策是基于分析师对信号（独立或相关）的观察和评估，以及她对可能情景及其结果的先验概率的更新。预警决定还取决于分析师对危机动态的评估和对主要决策者偏好的看法，以及作出适当反应所需的准备时间。本文提出了一个模型，以支持该分析师的动态预警决策。与大多数涉及预警的问题一样，关键是要在假阳性和假阴性之间进行权衡，因为这两种类型的情报失败都有可能发生。该模型是通过重温1941年12月袭击珍珠港的情况下说明。它表明，日本舰队的无线电静默携带了相当多的信息（阿瑟·柯南·道尔爵士的“夜间狗”问题），这在当时被误解了。尽管不同攻击的概率相对较低，但其后果是如此，这里描述的贝叶斯动态推理可能为关键决策者提供了有价值的信息。
2018-02-13 cs.AI cs.LG
