Exploiting locality in high-dimensional factorial hidden Markov models
Lancaster University（兰卡斯特大学）；University of Bristol（布里斯托尔大学）；Alan Turing Institute（阿兰·图灵研究所）
我们提出了近似滤波和平滑算法在高维阶乘隐马尔可夫模型。近似涉及以原则性的方式根据与发射分布相关联的因子图中的局部性的概念丢弃似然因子。这允许避免精确滤波和平滑的指数维度成本。我们证明了近似精度，在当地的总变差范数测量，是“无量纲”的意义上说，作为模型的整体尺寸的增加，我们得出的误差范围不一定会降低。分析中的一个关键步骤是量化贝叶斯规则更新中局部化似然函数所引入的误差。当数据具有已知的空间或网络结构时，我们利用的似然函数的阶乘结构自然出现。我们证明了新的算法合成的例子和伦敦地铁客流问题，其中的因素图是有效地由训练网络。
2022-03-03 cs.LG stat.ML
Generalized Bayesian Filtering via Sequential Monte Carlo
University of Warwick（华威大学）；The Alan Turing Institute（艾伦·图灵研究所）
我们引入了一个框架，在一般的状态空间隐马尔可夫模型（HHALGORY）的可能性误指定的推理。特别是，我们利用广义贝叶斯推断（GBI）的损失理论的角度来定义广义过滤递归的障碍，可以解决模型误指定下的推理问题。在这样做的过程中，我们到达的原则性程序，强大的推理对观察污染利用$β$分歧。通过序贯蒙特卡罗方法（SMC），其中大多数标准粒子方法及其相关的收敛结果，可以很容易地适应新的设置操作所提出的框架。我们将我们的方法应用于目标跟踪和高斯过程回归问题，并观察到标准滤波算法和其他鲁棒滤波器的性能改善。
2020-10-21 cs.LG stat.CO stat.ME
Approximate Bayesian Computation for an Explicit-Duration Hidden Markov Model of COVID-19 Hospital Trajectories
Tufts University（塔夫茨大学）；Tufts Medical Center（塔夫茨医疗中心）
我们致力于解决在COVID-19疫情期间对有限的医院资源进行建模的问题，以告知决策者未来的需求，并评估可能干预措施的社会价值。对于广泛的适用性，我们专注于常见但具有挑战性的情况下，患者水平的数据，为感兴趣的区域不可用。相反，给定每日入院计数，我们对观察到的资源使用的汇总计数进行建模，例如普通病房、重症监护病房或呼吸机上的患者数量。为了解释个体患者轨迹如何产生这些计数，我们提出了一个总计数显式持续时间隐马尔可夫模型，绰号ACED-HMM，具有可解释的，紧凑的参数化。我们开发了一种近似贝叶斯计算方法，该方法从模型的过渡和持续时间参数的后验分布中提取样本，从而使模型适应于感兴趣的区域或单个医院站点。然后，可以使用来自该后验的样本来产生任何感兴趣的计数的未来预测。使用来自美国和英国的数据，我们表明，我们的机械方法提供了有竞争力的概率预测，即使在大流行的动态变化。此外，我们还展示了我们的模型如何提供有关恢复概率或住院时间分布的见解，并建议其有可能回答有关可能干预措施的社会价值的具有挑战性的假设问题。
2021-07-28 cs.LG stat.AP stat.ML
Inference with Aggregate Data: An Optimal Transport Approach
Georgia Institute of Technology（佐治亚理工学院）；KTH Royal Institute of Technology（瑞典皇家理工学院）
我们认为推理（过滤）问题的概率图模型与聚合数据产生的一个大的人口的个人。提出了一种新的树结构图上的有效的置信传播算法，该算法具有多项式计算复杂性和全局收敛性保证。这与以前的方法相反，这些方法要么随着人口的增长而表现出令人望而却步的复杂性，要么不保证收敛。我们的方法是基于最优运输，或更具体地说，多边际最优运输理论。特别是，我们考虑一个推理问题与总的意见，可以被看作是一个结构化的多边际最优运输问题的成本函数分解根据底层图。因此，著名的Sinkhorn/迭代缩放算法的多边际最优运输可以利用标准的信念传播算法一起建立一个有效的推理方案，我们称之为Sinkhorn信念传播（SBP）。我们进一步专门的SBP算法的情况下，由于其控制和估计的意义与隐马尔可夫模型。我们证明了我们的算法的应用程序，如推断人口流动的聚集观察的性能。我们还表明，在特殊的情况下，观察是由一个单独的，我们的算法自然减少到标准的信念传播算法。
2020-10-03 cs.LG cs.SY eess.SY
A Hidden Absorbing Semi-Markov Model for Informatively Censored Temporal Data: Learning and Inference
University of California, Los Angeles (UCLA)（加州大学洛杉矶分校）；University of Oxford（牛津大学）
模拟连续时间的生理过程，体现了病人的不断发展的临床状态是一个关键步骤，在医疗保健中解决许多问题。在本文中，我们开发了隐藏吸收半马尔可夫模型（HASMM）：一个通用的概率模型，能够捕获现代电子健康记录（EHR）数据。与现有模型不同，HASMM适应不规则采样的、时间相关的和信息性删失的生理数据，并且可以描述非平稳的临床状态转换。从EHR数据学习HASMM是经由新颖的前向滤波后向采样Monte-Carlo EM算法来实现的，该算法利用EHR数据中的终点临床结果的知识（信息删失），并且通过在逆时间方向上顺序地采样患者的临床状态同时调节未来状态来实现E步骤。实时推理是通过前向滤波算法得出的，该算法在虚拟构建的离散时间嵌入式马尔可夫链上操作，该马尔可夫链反映了患者的连续时间状态轨迹。我们证明了诊断和预后效用的HASMM在重症监护预后设置使用现实世界的数据集，患者入住罗纳德里根加州大学洛杉矶分校医学中心。
2016-12-27 cs.AI stat.ML
Hidden Markov Neural Networks
ESOMAS, University of Torino（都灵大学ESOMAS学院）；Collegio Carlo Alberto（卡洛阿尔贝托学院）；School of Mathematics, University of Bristol（布里斯托大学数学学院）
该研究提出隐马尔可夫神经网络，将网络权重建模为隐马尔可夫模型隐状态，结合序列反向传播贝叶斯与变分DropConnect，在多任务上实现了优异预测性能与有效不确定性量化。
2025-01-16 cs.LG stat.ML
Temporal Parallelization of Inference in Hidden Markov Models
本文提出了隐马尔可夫模型（HMRM）的并行推理算法。特别是，我们提出了并行向后-向前型滤波和平滑算法以及并行维特比型最大后验概率（MAP）算法。我们定义关联元素和运营商提出这些推理问题的并行前缀和计算的总和产品和最大产品的算法和并行化，使用并行扫描算法。所提出的算法的优点是，它们是计算效率的HMM推理问题与长时间的视野。我们经验比较所提出的方法的性能，经典的方法在一个高度并行的图形处理单元（GPU）。
2021-09-04 cs.DC stat.ML
[Re] The Discriminative Kalman Filter for Bayesian Filtering with Nonlinear and Non-Gaussian Observation Models
Rice University（莱斯大学）
本研究复现了Burkhart等人2020年提出的判别式卡尔曼滤波器的神经科学核心结果，提供了该MATLAB算法的开源Python替代版本，通过多随机种子和未用试次进一步验证了滤波器有效性。
2024-01-24 cs.LG cs.RO eess.SP
Time Series Anomaly Detection for Cyber-Physical Systems via Neural System Identification and Bayesian Filtering
Siemens AG（西门子股份公司）
AIoT技术的最新进展已经导致利用机器学习算法来检测网络物理系统（CPS）的操作故障的日益普及。在其基本形式中，异常检测模块监视来自物理设备的传感器测量和致动器状态，并且检测这些测量中的异常以识别异常操作状态。然而，建立有效的异常检测模型CPS是相当具有挑战性的，因为该模型必须准确地检测异常的高度复杂的系统动态和未知量的传感器噪声的存在。在这项工作中，我们提出了一种新的时间序列异常检测方法，称为神经系统辨识和贝叶斯过滤（NSIBF），其中一个特制的神经网络架构构成的系统辨识，即，在动态状态空间模型中捕获CPS的动态;然后贝叶斯滤波算法自然地应用于“识别的”状态空间模型之上，用于通过随时间递归地跟踪系统的隐藏状态的不确定性来进行鲁棒异常检测。我们提供了定性和定量的实验与所提出的方法在合成和三个现实世界的CPS数据集，显示NSIBF相比有利的国家的最先进的方法，在CPS异常检测有很大的改进。
2022-01-07 cs.CR cs.LG stat.ML
Closed-form Filtering for Non-linear Systems
Inria（法国国家信息与自动化研究所）；PSL Research University（巴黎文理研究大学）；University College London（伦敦大学学院）；Inria Lille - Nord Europe（法国国家信息与自动化研究所里尔-北欧分部）；Inria London（法国国家信息与自动化研究所伦敦分部）
本文提出基于高斯PSD模型的新型闭式滤波器，解决非线性系统的序贯贝叶斯滤波问题，在保证理论误差界的前提下显著降低了内存与计算复杂度。
2024-02-15 cs.LG cs.RO stat.ML
ESG investments: Filtering versus machine learning approaches
我们设计了一种机器学习算法，用于识别大型投资领域公司的ESG概况与财务表现之间的模式。该算法由定期更新的规则集组成，这些规则集将区域映射到ESG特征的高维空间中，以预测超额收益率。最终的综合预测被转化为分数，使我们能够设计简单的策略，筛选具有积极得分的股票的投资宇宙。通过以非线性方式将ESG特征与财务表现联系起来，我们基于机器学习算法的策略被证明是一种有效的选股工具，其表现优于根据ESG评级筛选股票的经典策略，作为流行的同类最佳方法。我们的论文在不断增长的金融文献领域带来了新的想法，这些文献调查了ESG行为与经济之间的联系。我们确实表明，在公司的ESG概况中显然存在某种形式的alpha，但这种alpha只能通过强大的非线性技术（如机器学习）来访问。
2020-04-06 q-fin.GN q-fin.PM stat.ML
Filtered Markovian Projection: Dimensionality Reduction in Filtering for Stochastic Reaction Networks
本文提出了一种基于马尔可夫投影的滤波方法，用于解决随机反应网络中高维滤波问题，通过降维提高计算效率。
2025-11-24 cs.NA math.NA math.PR
