Neuromorphic dreaming: A pathway to efficient learning in artificial agents
Institute of Neuroinformatics, University of Zurich and ETH Zurich(苏黎世大学与苏黎世联邦理工学院神经信息学研究所);Technical University of Munich(慕尼黑工业大学);Istituto Superiore di Sanità(意大利高等卫生研究院)
本文提出一种基于脉冲神经网络和混合信号神经形态硬件的模型强化学习实现,通过“清醒”与“梦境”阶段交替,在Pong游戏中显著减少所需真实经验,迈向能效高、学习快的神经形态系统。
2024-05-24 cs.AI cs.LG cs.NE
Dreaming Of Others: Latent Teammate Modeling In World Models For Multi-Agent Reinforcement Learning
Tomas Leroy-Stone
提出一种将队友建模为世界模型中可学习组件的方法,通过分解潜在状态并引入心智理论头来推断队友行为,实现零样本和少样本协调。
2026-05-29 cs.AI cs.LG cs.MA
Nightmare Dreamer: Dreaming About Unsafe States And Planning Ahead
Nightmare Dreamer是一种基于模型的安全强化学习算法,通过预测潜在安全违规并规划动作,在机器人控制任务中实现了接近零安全违规和高奖励效率。
2026-01-08 cs.LG cs.RO
Vectorized Representation Dreamer (VRD): Dreaming-Assisted Multi-Agent Motion-Forecasting
York University(约克大学)
针对现有运动预测方法少考虑自车行为影响的问题,提出受向量化世界模型启发的VRD方法,结合开环训练与梦境闭环训练流程,在相关数据集上取得了优异性能。
2024-06-20 cs.LG cs.RO
Learning World Models With Hierarchical Temporal Abstractions: A Probabilistic Perspective
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院);Technische Universität Darmstadt (TU Darmstadt)(达姆施塔特工业大学)
针对状态空间模型作为世界模型的局限性,提出Hidden-Parameter SSMs和Multi-Time Scale SSMs两种概率形式化体系,实现可扩展的分层时间抽象与不确定性建模,在长程预测任务中超越Transformer变体。
2025-06-30 cs.AI cs.LG
Language-Constraint Reachability Learning in Probabilistic Graphs
概率图框架通过概率边来模拟现实世界中固有的不确定性,概率边的值量化了边存在的可能性或它所代表的链接的强度。本文的目标是提供一种学习方法来计算基于概率图的框架中的两个节点之间的最可能的关系。特别地,给定一个概率图,我们采用语言约束可达性方法来计算两个节点之间可能存在的可能互连的概率。这些连接中的每一个可以被视为两个节点之间的特征或因子,并且相应的概率作为其权重。每个观察到的链接被认为是其对应的链接标签的正实例。给定已观察链接的训练集,采用L2正则化逻辑回归来学习能够预测未观察链接标签的模型。对一个实际的协同过滤问题的实验证明,该方法比经典方法取得了更好的结果。
2012-05-24 cs.AI cs.LG
Probabilistic Learning of Multivariate Time Series with Temporal Irregularity
City University of Hong Kong(香港城市大学)
针对非均匀间隔、变量错位的多元时间序列,提出端到端概率框架,用动态条件连续归一化流和分解对数似然建模联合分布及依赖关系,实验证明其更优且适应性更强。
2025-02-15 cs.AI cs.LG
PROB: Probabilistic Objectness for Open World Object Detection
Stanford(斯坦福大学)
开放世界目标检测(OWOD)是一个新的和具有挑战性的计算机视觉任务,它弥合了经典目标检测(OD)基准和现实世界中的目标检测之间的差距。除了检测和分类看到/标记的对象外,OWOD算法还有望检测新的/未知的对象-这些对象可以被分类和增量学习。在标准OD中,不与标记的对象重叠的对象建议被自动分类为背景。因此,简单地将OD方法应用于OWOD失败,因为未知对象将被预测为背景。检测未知物体的挑战源于在区分未知物体和背景物体建议方面缺乏监督。先前的OWOD方法试图通过使用伪标记生成监督来克服这个问题,然而,未知目标检测仍然很低。概率/生成模型可以为这一挑战提供解决方案。在这里,我们介绍了一种新的概率框架的对象估计,我们之间的概率分布估计和对象的可能性最大化的已知对象在嵌入式特征空间交替-最终使我们能够估计不同的建议的对象概率。由此产生的基于ProbabilityObjectness变换的开放世界检测器PROB将我们的框架集成到传统的目标检测模型中,使其适应开放世界的设置。在OWOD基准测试上的综合实验表明,PROB在未知目标检测($\sim 2\times$未知召回)和已知目标检测($\sim 10\%$ mAP)两个方面都优于现有的OWOD方法.我们的代码将在https://github.com/orrzohar/PROB上发布。
2022-12-02 cs.AI cs.CV cs.LG
PaP-NF: Probabilistic Long-Term Time Series Forecasting via Prefix-as-Prompt Reprogramming and Normalizing Flows
Department of Industrial Engineering, Inha University, Incheon, Republic of Korea(韩国Inha大学工业工程系)
提出PaP-NF框架,利用前缀作为提示机制对齐连续时间序列表示与冻结的大语言模型,并基于归一化流解码器生成概率预测,在长期基准上捕获多模态不确定性并保持点预测精度。
2026-05-22 cs.AI cs.LG
Predicting Sim-to-Real Transfer with Probabilistic Dynamics Models
DeepMind(深度思维);OpenAI(开放人工智能研究中心)
我们提出了一种方法来预测RL策略的仿真到现实迁移性能。我们的转移指标简化了模拟中训练设置(如算法、超参数、随机化)和策略的选择,而不需要大量耗时的真实世界部署。概率动力学模型与策略一起训练,并在一组固定的真实世界轨迹上进行评估,以获得转移度量。实验表明,传输度量是高度相关的策略性能在模拟和真实世界的机器人环境中的复杂操作任务。我们进一步表明,转移度量可以预测训练设置对策略转移性能的影响。
2020-09-27 cs.AI cs.LG cs.RO
GPU-accelerated simulated annealing based on p-bits with real-world device-variability modeling
Research Institute of Electrical Communication, Tohoku University(电气通信研究所,东京东大学)
本研究提出基于p-bits的GPU加速模拟退火框架,通过建模设备变异性因素提升算法性能,实现MAX-CUT问题的高效求解。
2026-01-20 cs.AI cs.LG
CASSANDRA: Programmatic and Probabilistic Learning and Inference for Stochastic World Modeling
Skyfall AI;Tufts University(塔夫茨大学);University of Texas at Dallas(德克萨斯大学达拉斯分校);University of Toronto(多伦多大学);Vector Instiute(Vector研究所)
CASSANDRA通过结合LLM的知识先验和概率图模型结构学习,提升随机世界建模中的转移预测与规划能力。
2026-01-26 cs.LG
Collaborative Deterministic-Probabilistic Forecasting for Diverse Spatiotemporal Systems
Tsinghua University(清华大学)
本文提出 CoST 框架,通过确定性模型与轻量扩散模型协同进行均值-残差分解,并引入尺度感知扩散,在十类真实数据集上提升预测性能并降低计算成本。
2025-09-27 cs.AI cs.LG
Probabilistic World Modeling with Asymmetric Distance Measure
UC San Diego(加州大学圣迭戈分校)
本文提出通过非对称对比学习学习距离函数,将概率世界动态嵌入表示空间,以支持规划推理,并利用几何显著状态作为子目标分解长时程任务,在网格世界中验证了有效性。
2024-03-16 cs.LG
World Modeling with Probabilistic Structure Integration
Stanford NeuroAI Lab(斯坦福神经人工智能实验室)
提出PSI系统,通过概率预测、结构提取和集成的三步循环学习可控世界模型,在1.4万亿视频token上训练,实现视频预测理解并提取SOTA光流、深度和分割,支持预测改进闭环。
2025-09-10 cs.AI cs.CV cs.LG
MDN-VJEPA: Multimodal Probabilistic Joint-Embedding World Models
University of Aberdeen(阿伯丁大学)
本文提出MDN-VJEPA,一种基于混合密度网络的多模态概率联合嵌入世界模型,通过满足时间相干性与组合一致性要求,在分支未来下实现了更优规划决策。
2026-10-14 cs.LG
Pixels to Proofs: Probabilistically-Safe Latent World Model Control via Parallel Conformal Robust MPC
Georgia Institute of Technology(佐治亚理工学院)
提出SLS^2框架,结合保形预测与鲁棒模型预测控制,在学习的潜在世界模型中实现基于视觉的安全运动规划,提升目标到达性能与安全性。
2026-06-16 cs.AI cs.CV cs.LG
CogDPM: Diffusion Probabilistic Models via Cognitive Predictive Coding
Tsinghua University(清华大学);School of Software(软件学院)
本文提出CogDPM,将扩散概率模型与预测编码理论结合,利用扩散模型的分层采样能力估计精度权重,并在英国降水和ERA地表风数据集上验证其优于现有业务模型和深度预测模型。
2024-05-03 cs.AI cs.LG cs.NE
Group Fairness by Probabilistic Modeling with Latent Fair Decisions
University of California, Los Angeles(加州大学洛杉矶分校)
机器学习系统越来越多地用于做出有影响力的决策,例如贷款申请和刑事司法风险评估,因此,确保这些系统的公平性至关重要。这通常具有挑战性,因为数据中的标签是有偏见的。本文研究了通过显式建模一个代表隐藏的无偏标签的潜在变量来从有偏数据中学习公平的概率分布。特别是,我们的目标是通过在学习模型中强制执行某些独立性来实现人口均等。我们还表明,只有当用于提供这些保证的分布确实捕获了真实世界的数据时,组公平性保证才有意义。为了密切的数据分布模型,我们采用概率电路,一个富有表现力和易处理的概率模型,并提出了一个算法来学习他们从不完整的数据。我们在一个合成数据集上评估了我们的方法,在这个数据集上观察到的标签确实来自公平标签,但有额外的偏见,并证明了公平标签被成功检索。此外,我们在现实世界的数据集上表明,我们的方法不仅是一个比现有的数据生成方法更好的模型,而且还达到了有竞争力的准确性。
2020-12-17 cs.AI cs.LG stat.ML
Adaptive Sampling for Probabilistic Forecasting under Distribution Shift
Carnegie Mellon University(卡内基梅隆大学);AWS AI Labs(亚马逊云科技人工智能实验室);D2S Inc.(D2S公司)
世界不是静止的:这导致真实世界的时间序列随着时间的推移而发生变化,例如宏观经济周期或COVID-19大流行等外部和潜在的破坏性事件。我们提出了一种自适应采样策略,选择的时间序列的历史,是相关的预测的一部分。我们通过贝叶斯优化在相关时间步长上学习离散分布来实现这一点。我们用一个两步方法来实例化这个想法,该方法用均匀采样进行预训练,然后用自适应采样训练一个轻量级的自适应架构。我们用合成和真实世界的实验表明,该方法适应分布偏移,并显着减少了五个数据集的三个基础模型的预测误差。
2023-02-23 cs.LG
VJEPA: Variational Joint Embedding Predictive Architectures as Probabilistic World Models
VJEPA通过变分目标学习预测分布,统一表征学习与贝叶斯过滤,提供概率世界模型框架,适用于高维噪声环境中的鲁棒规划。
2026-01-20 cs.LG
Meta-Inverse Reinforcement Learning for Mean Field Games via Probabilistic Context Variables
针对平均场博弈中现有逆强化学习方法受智能体同质性假设限制、难处理异构目标演示的问题,提出基于深度潜变量的元逆强化学习方法,无需先验上下文知识即可跨相似任务推断奖励,在模拟和真实出租车定价场景中效果优于现有方法。
2025-09-04 cs.AI cs.GT cs.LG
PRISM: Probabilistic Real-Time Inference in Spatial World Models
Volkswagen Group(大众集团);Technical University of Munich(慕尼黑工业大学)
我们介绍PRISM,实时的【形】过滤的概率生成模型的代理运动和视觉感知的方法。以前的方法要么缺乏对地图和智能体状态的不确定性估计,要么不能实时的【形】运行,要么没有密集的场景表示,要么没有对智能体动态进行建模。我们的解决方案兼顾了所有这些方面。我们从一个预定义的状态空间模型,它结合了微分渲染和6自由度动态。在这个模型中的概率推理相当于同时定位和映射(SLAM),是棘手的。我们使用一系列的近似贝叶斯推理到达概率地图和状态估计。我们利用成熟的方法和封闭形式的更新,保持准确性并实现实时的【形】功能。所提出的解决方案以10 Hz的频率实时的【形】运行,并且在中小型室内环境中具有与最先进的SLAM相似的精度,具有高速UAV和手持摄像机代理(Blackbird,EuRoC和TUM-RGBD)。
2022-12-06 cs.CV cs.LG cs.RO
Mind the Residual Gap: Probabilistic Downscaling under Real-World Bias
Cornell University(康奈尔大学)
针对现实应用中均值-残差降尺度方法产生的偏差和欠分散问题,提出ReMatch方法,通过PCA空间中的最优传输对齐训练与测试残差分布,减少欠分散并改善校准。
2026-09-29 cs.CE cs.LG
Conditional Diffusion Modeling with Attention for Probabilistic Battery Capacity Prediction under Real-World Condition
University of Electronic Science and Technology of China(电子科技大学);University of Twente(代尔夫特理工大学)
本文提出CDUA模型,结合特征工程与深度学习,通过扩散生成模型和注意力机制提升电池容量预测精度与不确定性量化能力。
2026-04-21 cs.LG
EventMapper: Detecting Real-World Physical Events Using Corroborative and Probabilistic Sources
School of Computer Science(计算机科学学院);Georgia Institute of Technology(佐治亚理工学院)
社交媒体的无处不在使其成为灾害等物理事件检测的丰富来源,并成为危机管理资源分配的潜在资源。最近有一些关于利用社交媒体资源对地震或飓风等大型事件进行回顾性、事后事件检测的工作。同样,使用气候卫星等传统物理传感器进行区域事件探测也有着悠久的历史。然而,将社交媒体与确证的物理传感器相结合,以实现实时、准确和全球的物理检测,这一点尚未得到探索。本文介绍了EventMapper,一个框架,以支持小但同样昂贵的事件(山体滑坡,洪水,野火)的事件识别。EventMapper集成了高延迟、高准确性的确证源(如物理传感器)和低延迟、噪声概率源(如社交媒体流),以提供实时的全局事件识别。此外,EventMapper对概念漂移现象具有弹性,其中机器学习模型需要持续微调以保持高性能。通过利用概率性和确证性来源的共同特征,EventMapper可自动执行机器学习模型更新、维护和微调。我们描述了三个应用程序建立在EventMapper滑坡,野火,洪水检测。
2020-01-23 cs.CL cs.IR cs.LG
Learning Multiple Probabilistic Degradation Generators for Unsupervised Real World Image Super Resolution
Soongsil University(崇实大学);SI Analytics(SI分析公司)
无监督真实世界超分辨率(USR)的目标是在低分辨率(LR)输入下恢复高分辨率(HR)图像,其困难在于缺乏配对数据集。最常见的方法之一是使用GANs(即,退化生成器)以及利用合成数据集以监督的方式训练模型。虽然训练退化生成器的目标是在给定HR图像的情况下近似LR图像的分布,但以前的工作严重依赖于条件分布是δ函数的不切实际的假设,并学习了从HR图像到LR图像的确定性映射。在本文中,我们表明,我们可以改善的USR模型的性能,通过放松的假设,并建议训练的概率退化发生器。我们的概率退化生成器可以被看作是一个深层次的潜变量模型,更适合于复杂的条件分布建模。我们还揭示了与StyleGAN的噪声注入的显着联系。此外,我们训练多个退化发生器,以提高模式覆盖率和应用协同学习,以方便培训。我们在PSNR和SSIM方面优于基准数据集的几个基线,并证明了我们的方法对未知数据分布的鲁棒性。代码可在https://github.com/sangyun884/MSSR上获得。
2022-08-21 cs.CV cs.LG eess.IV
LLMs are not (consistently) Bayesian: Quantifying internal (in)consistencies of LLMs' probabilistic beliefs
Apple(苹果公司);Stanford University(斯坦福大学);Princeton University(普林斯顿大学)
本文引入信息处理差距来研究 LLMs 在更新概率信念时的内部不一致性,发现非贝叶斯启发式更新在下游任务中常优于精确贝叶斯计算,表明 LLMs 的世界概率模型存在错误设定。
2026-05-26 cs.LG
Towards a Causal Probabilistic Framework for Prediction, Action-Selection & Explanations for Robot Block-Stacking Tasks
University of Oxford(牛津大学)
针对机器人积木堆叠任务,本文提出将物理仿真嵌入结构因果模型的因果概率框架,以实现状态评估、下一最优动作选择和事后反事实解释。
2023-09-29 cs.AI cs.LG cs.RO
Amortized Variational Inference for Partial-Label Learning: A Probabilistic Approach to Label Disambiguation
Karlsruhe Institute of Technology(卡尔斯鲁厄理工大学)
本文提出了一种基于概率方法的amortized变分推断框架,用于部分标签学习中的标签消歧,通过神经网络预测变分参数实现高效推断,提高了准确性和效率。
2026-01-09 cs.LG stat.ML
Enhancing Cloud-Native Resource Allocation with Probabilistic Forecasting Techniques in O-RAN
Centre Tecnològic de Telecomunicacions de Catalunya (CTTC)(加泰罗尼亚电信技术中心);Nearby Computing S.L.(Nearby Computing有限公司)
本文探讨O-RAN云原生资源分配,提出将概率预测技术作为rApp集成,通过比较分析证明DeepAR优于其他确定性估计器,并讨论实际应用可行性。
2024-07-19 cs.AI cs.DC cs.IT
Event Detection in Noisy Streaming Data with Combination of Corroborative and Probabilistic Sources
Georgia Institute of Technology(佐治亚理工学院)
全球物理事件检测传统上依赖于世界各地物理传感器的密集覆盖;虽然这是一项昂贵的工作,但直到最近才有替代方案。现场无处不在的社交网络和人类传感器提供了大量关于世界各地真实物理事件的实时实时数据。然而,虽然这样的人类传感器数据已经被用于回顾性的大规模事件检测,如飓风或地震,但它们在利用这种丰富的资源进行一般物理事件检测方面一直受到限制,没有成功。先前的实现方法已经遭受概念漂移现象,其中真实世界数据在其数据分布中表现出恒定的、未知的、无界的变化,使得静态机器学习模型长期无效。我们提出并实现了一个端到端的协作漂移自适应系统,该系统集成了确证和概率源,以提供实时预测。此外,我们的系统是自适应的概念漂移,并执行自动持续学习,以保持高性能。我们展示了我们的方法在实时演示在线滑坡灾害检测,可扩展到其他现实世界的物理事件,如洪水,野火,飓风和地震。
2019-11-21 cs.LG cs.SI cs.SY
Continual learning via probabilistic exchangeable sequence modelling
University of Oxford(牛津大学)
提出基于神经过程的概率持续学习模型CL-BRUNO,通过贝叶斯更新和正则化防止灾难性遗忘,在图像和生物医学数据上优于现有方法。
2025-03-26 cs.LG stat.ML
Multi-modal Probabilistic Prediction of Interactive Behavior via an Interpretable Model
University of California, Berkeley(加州大学伯克利分校)
对于自主智能体来说,预测场景中周围实体未来运动的能力可以大大提高它们的安全水平,因为可以提前避免潜在的危险情况。虽然令人印象深刻的结果已经显示在预测每个代理的行为独立,我们认为,这是不有效的,考虑道路实体单独的车辆状态的转换是高度耦合的。此外,随着预测范围变得更长,对未来序列的预测不确定性和多模态分布进行建模将成为一项更具挑战性的任务。在本文中,我们提出了一种多模态概率预测方法来解决这一挑战。所提出的方法是基于生成模型,并能够联合预测每对相互作用的代理的顺序运动。最重要的是,我们的模型是可解释的,这可以解释底层的逻辑,以及获得更多的可靠性,在实际应用中使用。一个复杂的现实世界的环形交叉口的情况下,利用实现和检查所提出的方法。
2019-06-02 cs.LG stat.ML
Improving Cross-domain Recommendation through Probabilistic Cluster-level Latent Factor Model--Extended Version
Beijing University of Posts and Telecommunications(北京邮电大学)
跨领域推荐通过将多个领域的评分数据集中在一起来传递用户行为模式,以缓解单一评分领域中出现的稀疏性问题。然而,以前的模型只假设多个领域共享一个潜在的共同评级模式的基础上的用户项目的共同聚类。为了捕捉不同领域之间的差异,我们提出了一种新的概率统计等级潜在因子(PCLF)模型,以提高跨域推荐性能。在多个真实数据集上的实验表明,我们提出的模型在跨域推荐任务中的性能优于现有的方法。
2014-09-24 cs.IR cs.LG stat.ML