Learning Sequential Latent Variable Models from Multimodal Time Series Data
University of Toronto Institute for Aerospace Studies (UTIAS)（多伦多大学航空航天研究所）
高维数据的序列建模是包括基于模型的强化学习和控制动态辨识在内的许多领域的重要问题。应用于序列数据的潜变量模型（即，潜在动态模型）已经被证明是解决该问题的特别有效的概率方法，尤其是在处理图像时。然而，在许多应用领域（例如，机器人技术），来自多个感测模态的信息是可用的-现有的潜在动态方法尚未被扩展以有效地利用这种多模态顺序数据。多模态传感器流可以以有用的方式相关，并且通常包含跨模态的互补信息。在这项工作中，我们提出了一个自监督生成建模框架，以共同学习多模态数据的概率潜在状态表示和相应的动态。使用来自多模式机器人平面推动任务的合成和真实世界数据集，我们证明我们的方法可以显着提高预测和表示质量。此外，我们比较了连接潜在空间中的每个模态的共同学习基线，并表明我们的原则概率公式执行得更好。最后，尽管是完全自我监督的，但我们证明了我们的方法几乎与依赖于地面真实标签的现有监督方法一样有效。
2023-01-20 cs.AI cs.CV cs.LG
Probabilistic machine learning based predictive and interpretable digital twin for dynamical systems
Indian Institute of Technology Delhi（印度理工学院德里分校）；University of Glasgow（格拉斯哥大学）
提出了一种从基于物理的函数库中创建和更新动力系统数字孪生的框架。稀疏贝叶斯机器学习用于更新和导出数字孪生的可解释表达式。提出了两种更新数字孪生模型的方法。第一种方法利用来自动力系统的输入和输出信息，而第二种方法利用仅输出的观测来更新数字孪生。这两种方法都使用代表某些物理的候选函数库来推断现有数字孪生模型中的新扰动项。在这两种情况下，更新后的数字孪生子的表达是相同的，此外，认知的不确定性被量化。在第一种方法中，回归问题是从一个状态空间模型，而在后一种情况下，输出的唯一信息被视为一个随机过程。利用伊藤演算和Kramers-Moyal展开的概念导出回归方程。所提出的方法的性能证明使用高度非线性动力系统，如裂纹退化问题。数值结果表明，本文几乎准确地确定正确的扰动项及其相关参数的动力系统。所提出的方法的概率性质也有助于量化与更新模型相关的不确定性。所提出的方法提供了对数字孪生模型中扰动的准确和可解释的描述，可直接用于更好的网络物理集成、长期未来预测、退化监测和模型不可知控制。
2022-12-19 cs.LG stat.ML
Generating Digital Twins with Multiple Sclerosis Using Probabilistic Neural Networks
Unlearn.AI, Inc.（Unlearn.AI公司）
多发性硬化症（MS）是一种神经退行性疾病，其特征在于一组复杂的临床评估。我们使用一种称为条件限制玻尔兹曼机（CRBM）的无监督机器学习模型来学习通常用于表征MS临床试验中受试者及其疾病进展的协变量之间的关系。CRBM能够生成数字孪生，数字孪生是具有与实际受试者相同的基线数据的模拟受试者。数字双胞胎允许对疾病进展进行受试者水平的统计分析。CRBM是使用来自2395名受试者的数据进行训练的，这些受试者参加了MS三种主要亚型的临床试验的安慰剂组。我们讨论了CRBM是如何训练的，并表明该模型生成的数字双胞胎在统计学上与实际受试者的数据在许多方面没有区别。
2020-04-19 cs.LG q-bio.QM stat.ML
Probabilistic Constrained Reinforcement Learning with Formal Interpretability
Imperial College London（帝国理工学院）
针对强化学习奖励与策略难以解释的问题，提出 AWaVO 自适应 Wasserstein 变分优化框架，利用形式化方法保证收敛、透明训练与决策可解释，并在仿真和四旋翼任务中验证其性能优势。
2024-06-17 cs.AI cs.LG cs.RO
Probabilistic Digital Twin for Misspecified Structural Dynamical Systems via Latent Force Modeling and Bayesian Neural Networks
Department of Applied Mechanics, Indian Institute of Technology Delhi（印度理工学院德里分校应用力学系）
本文提出一种基于潜在力建模和贝叶斯神经网络的概率数字孪生框架，用于误指定结构动力学系统的响应预测，通过联合估计模型误差和系统状态以提升预测准确性与鲁棒性。
2025-11-27 cs.LG stat.AP stat.ML
SNACK: A Sequential Notation Framework for Probabilistic Graph Generation
Seoul National University（首尔大学）
研究提出用于概率图生成的序列表示框架SNACK，通过编码下三角邻接矩阵非零项建立双射对应，支持无效logit掩码与GFlowNet训练，在图生成任务中样本质量有竞争力且训练吞吐量大幅提升。
2026-10-27 cs.LG stat.ML
Measuring the non-asymptotic convergence of sequential Monte Carlo samplers using probabilistic programming
Massachusetts Institute of Technology（麻省理工学院）
近似推理的采样算法的一个关键限制是难以量化其近似误差。广泛使用的采样方案，例如具有恢复和Metropolis-Hastings的顺序重要性采样，产生从可能远离目标后验分布的分布中提取的输出样本。本文介绍了如何上限的对称KL发散之间的输出分布的一个广泛的类序贯蒙特卡罗（SMC）采样器和他们的目标后验分布，受到一个单独的金标准采样器的准确性的假设。所提出的方法适用于采样器，结合多个粒子，多项式rescue，和复兴内核。实验表明，该技术被用来估计的SMC样本的后验推理在贝叶斯线性回归模型和Dirichlet过程的混合模型的分歧的界限。
2017-05-06 cs.AI cs.LG stat.ML
Data-driven Sequential Monte Carlo in Probabilistic Programming
University of Oxford（牛津大学）
现有的概率规划系统中的大多数马尔可夫链蒙特卡罗（MCMC）和顺序蒙特卡罗（SMC）算法仅使用模型先验作为建议分布。在这项工作中，我们描述了一种训练判别模型，即一个神经网络的方法，以近似的最佳建议，通过使用后验估计从以前运行的推理。我们展示了一个例子，结合了数据驱动的建议，用于在英国圣公会概率编程系统的非参数模型。我们的研究结果表明，数据驱动的建议可以显着提高推理性能，因此需要相当少的粒子来执行良好的后验估计。
2016-05-16 cs.AI stat.AP stat.ML
Meta-Learning surrogate models for sequential decision making
DeepMind（深度思维）
我们引入了一个统一的概率框架，用于解决从贝叶斯优化到上下文强盗和强化学习的顺序决策问题。这是通过一种基于概率模型的方法来实现的，该方法解释了观测数据，同时在决策过程中捕获了预测的不确定性。至关重要的是，这个概率模型被选为元学习系统，允许从相关问题的分布中学习，允许数据有效地适应目标任务。作为这个框架的一个合适的实例，我们探讨了由于统计和计算的需要而使用神经过程。我们将我们的框架应用于广泛的问题领域，例如控制问题，推荐系统和对RL代理的对抗性攻击，展示了一种有效和通用的黑盒学习方法。
2019-06-12 cs.LG stat.ML
Probabilistic sequential matrix factorization
The Alan Turing Institute（阿兰·图灵研究所）；University of Warwick（华威大学）
我们介绍了概率顺序矩阵分解（PSMF）方法分解的时变和非平稳数据集组成的高维时间序列。特别是，我们考虑非线性高斯状态空间模型，其中顺序近似推理导致数据矩阵分解为字典和具有潜在非线性马尔可夫依赖性的时变系数。假设的马尔可夫结构的系数，使我们能够编码到一个低维的特征空间的时间依赖性。所提出的推理方法是完全基于一个近似的扩展卡尔曼滤波方案，这使得所得到的方法特别有效。PSMF可以解释时间非线性，更重要的是，可以用来校准和估计通用可微非线性子空间模型。我们还介绍了一个强大的版本的PSMF，称为rPSMF，它使用Student-t过滤器来处理模型误指定。我们表明，PSMF可以用于多种情况下：建模的时间序列与周期性的子空间，robustifying变点检测方法，并填补缺失数据在几个高维时间序列，如测量伦敦的污染物。
2021-03-18 cs.LG stat.CO stat.ML
On the Efficient Marginalization of Probabilistic Sequence Models
University of California, Irvine（加利福尼亚大学欧文分校）
本研究针对现实序列数据的复杂长程概率查询需求，提出一类模型无关的高效序列模型边缘化近似技术，可适配离散序列模型、标记时间点过程等多类模型，仅需预训练自回归模型的下一步条件分布即可实现。
2024-03-06 cs.LG stat.ML
Coarse-to-Fine Sequential Monte Carlo for Probabilistic Programs
Stanford University（斯坦福大学）
概率推理的许多实用技术需要一系列分布，这些分布在易处理的分布和感兴趣的难处理的分布之间进行插值。通常，使用的序列是简单的，例如，基于分布之间的几何平均值。当模型表示为概率程序时，模型本身是高度结构化的对象，可以用于导出对域结构更敏感的退火序列。我们提出了一种算法，用于将概率程序转换为具有与原始程序相同的边缘分布的粗到细程序，但生成的数据在增加的细节水平，从粗到细。我们将此算法应用于伊辛模型，其深度从视差变化，和阶乘隐马尔可夫模型。我们初步的证据表明，使用粗到细的模型可以使现有的通用推理算法更有效。
2015-09-09 cs.AI stat.ML
Deep Sequential Mosaicking of Fetoscopic Videos
University College London（伦敦大学学院）；KU Leuven University（鲁汶大学）；University Hospital Leuven（鲁汶大学医院）
双胎输血综合征的治疗需要胎镜下激光光凝胎盘血管病变，以调节两个胎儿的血流。有限的视野（FoV）和低视觉质量在胎儿镜检查过程中，使其具有挑战性，以确定所有的血管连接。镶嵌可以对齐多个重叠图像以生成具有增加的FoV的图像，然而，现有技术由于视觉质量低、纹理缺乏而不适用于胎儿镜检查，并且因此由于随时间积累的漂移而在较长序列中失败。深度学习技术可以帮助克服这些挑战。因此，我们提出了一个新的广义深度顺序镶嵌（DSM）框架，从不同的设置，如模拟，幻影，和真实的环境中捕获的胎儿镜视频。DSM通过提出受控数据增强和离群值拒绝方法，将现有的基于深度图像的单应性模型扩展到序列数据。与现有方法不同，DSM可以处理由于镜面高光和相邻帧之间的反射而引起的视觉变化，从而减少累积漂移。我们使用5个不同的胎儿镜视频进行实验验证和比较，以证明我们的框架的鲁棒性。
2019-07-15 cs.CV cs.LG eess.IV
Sequential Aggregation of Probabilistic Forecasts -- Applicaton to Wind Speed Ensemble Forecasts
在数值天气预报（NWP）领域中，大气未来状态的概率分布是用类似蒙特卡罗的模拟进行采样的，称为集合。这些集合有缺陷（如条件偏差），可以通过统计后处理方法进行纠正。存在几个集合，可以用不同的统计方法进行校正。进一步的步骤是组合这些原始或后处理的集合。专家建议的预测理论使我们能够构建具有预测性能理论保证的组合算法。本文将这一理论应用于以逐步累积分布函数（CDF）形式发布的概率预测。该理论应用于风速预测，通过结合几个原始或后处理的合奏，被认为是CDF。本研究的第二个目标是探索两个预测性能标准的使用：连续排名概率得分（CRPS）和Jolliffe-Primo检验。比较这两个标准得到的结果导致重新考虑通常的方式来建立熟练的概率预测，最小化的CRPS的基础上。根据Jolliffe-Primo检验，最小化CRPS并不一定会产生可靠的预测。Jolliffe-Primo检验通常选择可靠的预测，但可能导致发布CRPS方面的次优预测。建议使用这两个标准，以实现可靠和熟练的概率预测。
2020-05-07 stat.AP stat.ME stat.ML
Knowledge Elicitation via Sequential Probabilistic Inference for High-Dimensional Prediction
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）
在小样本和大量协变量的情况下进行预测，即“小n，大p”问题，是一个具有挑战性的问题。这种设置在多种应用中遇到，例如精密医学，其中获得额外的样本可能非常昂贵甚至不可能，并且最近已经致力于寻找准确预测的原则性解决方案。然而，一个有价值的额外信息来源，领域专家，尚未得到有效利用。我们制定的知识启发一般作为一个概率推理过程，专家知识依次查询，以提高预测。在稀疏线性回归的特定情况下，我们假设专家具有关于回归系数的值或关于特征的相关性的知识，我们提出了一种算法和计算近似，用于快速有效的交互，其顺序地识别最翔实的特征以查询专家知识。在模拟和真实用户的实验中，我们的方法的评估表明，预测精度已经提高了专家的一个小的努力。
2017-07-13 cs.AI cs.HC cs.LG
Automatic Inference for Inverting Software Simulators via Probabilistic Programming
复杂系统的模型通常形式化为顺序软件模拟器：计算密集型程序，在给定参数和初始条件下迭代建立可能的系统配置。这些模拟器使建模人员能够捕捉难以分析或统计总结的影响。然而，在许多现实世界的应用中，这些模拟需要被反转以匹配观察到的数据。这通常需要定制设计、推导和实现复杂的反演算法。在这里，我们给出了一个框架，通过概率编程和自动推理，使用下20行概率代码，反转广泛的一类复杂的软件模拟器。我们的方法是基于一个简单的顺序概率模型的近似推理的反演公式。我们实现了四种推理策略，包括Metropolis-Hastings，一个序列化的Metropolis-Hastings计划，和一个粒子马尔可夫链蒙特卡罗计划，需要4行或更少的概率代码。我们证明了我们的框架，将其应用于石油和天然气行业的一个真正的地质软件模拟器。
2015-05-31 stat.ML
A Probabilistic Semi-Supervised Approach with Triplet Markov Chains
Telecom SudParis（南巴黎电信学院）；Institut Polytechnique（理工学院）
针对序列数据生成模型在缺乏全部标签时的参数估计问题，提出一种基于变分贝叶斯推断的通用半监督训练框架，用于训练参数化三元马尔可夫链模型，并能推导出适用于多种序列贝叶斯分类生成模型的半监督算法。
2023-09-07 cs.LG math.PR stat.ME
Machine learning based digital twin for dynamical systems with multiple time-scales
Indian Institute of Technology Delhi（印度理工学院德里分校）；Swansea University（斯旺西大学）
数字孪生技术在基础设施、航空航天和汽车等不同工业领域具有广泛应用的巨大潜力。然而，这项技术的实际采用速度较慢，主要是由于缺乏特定于应用程序的细节。在这里，我们专注于一个数字孪生框架的线性单自由度结构动力系统，除了其内在的动态时间尺度在两个不同的操作时间尺度演变。我们的方法战略上分为两个组成部分-（a）基于物理的标称模型的数据处理和响应预测，和（b）数据驱动的机器学习模型的系统参数的时间演变。基于物理的标称模型是系统特定的，并且基于所考虑的问题来选择。另一方面，数据驱动的机器学习模型是通用的。为了跟踪系统参数的多尺度演化，我们建议利用混合专家作为数据驱动模型。在混合专家模型中，采用高斯过程（GP）作为专家模型。其主要思想是让每个专家在一个单一的时间尺度上跟踪系统参数的演变。为了学习“混合专家使用GP”的超参数，一个有效的框架，利用期望最大化和序贯蒙特卡罗采样器。数字孪生的性能示出了一个多时间尺度的动态系统的刚度和/或质量的变化。数字孪生被认为是强大的，并产生合理的准确结果。拟议中的数字孪生模型的一个令人兴奋的功能是它能够在未来的时间步长提供合理的预测。还调查了与数据质量和数据量有关的方面。
2020-06-14 cs.LG stat.ML
Auto-Encoding Sequential Monte Carlo
我们建立在自动编码序贯蒙特卡罗（AESMC）：模型和建议学习的基础上，最大限度地提高了一个广泛的家庭的结构化概率模型的对数边际似然下界的方法。我们的方法依赖于序贯蒙特卡罗（SMC）在结构化概率模型中执行推理的效率，以及深度神经网络对复杂条件概率分布建模的灵活性。我们开发了更多的理论见解，并引入了一个新的训练过程，提高了模型和建议学习。我们证明了我们的方法为深度生成模型中的同时模型学习和建议适应提供了一种快速，易于实现和可扩展的方法。
2018-04-05 stat.ML
Probabilistic learning of the Purkinje network from the electrocardiogram
Pontificia Universidad Católica de Chile（智利天主教大学）；Delft University of Technology（代尔夫特理工大学）；Università di Trento（特伦托大学）；Università della Svizzera italiana（瑞士意大利语区大学）
本研究提出一种基于心电图的浦肯野网络概率识别方法，结合心脏成像、贝叶斯优化等技术生成拟合ECG的浦肯野网络并估计参数不确定性，为精准医学数字孪生构建提供新路径。
2023-12-15 cs.LG eess.SP q-bio.QM
Privacy-preserving data sharing via probabilistic modelling
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；University of Helsinki（赫尔辛基大学）；University of Manchester（曼彻斯特大学）；Aalto University（阿尔托大学）
差异隐私允许量化访问敏感个人数据造成的隐私损失。对底层数据的重复访问会导致越来越多的损失。将数据作为隐私保护合成数据发布可以避免这种限制，但会留下设计什么样的合成数据的问题。我们建议通过概率建模来制定私人数据发布的问题。这种方法将设计合成数据的问题转换为选择数据模型，还允许包括先验知识，这提高了合成数据的质量。我们在一项流行病学研究中以经验证明，统计发现可以从合成数据中可靠地重现。我们希望该方法在创建用于研究的关键数据集的高质量匿名数据双胞胎方面具有广泛的用途。
2021-03-01 cs.CR cs.LG stat.ML
Elements of Sequential Monte Carlo
Columbia University（哥伦比亚大学）；Linköping University（林雪平大学）；Uppsala University（乌普萨拉大学）
本教程系统综述 SMC 近似推断方法，涵盖基础、理论、提议与中间目标设计、变分摊销学习及归一化常数估计，并展示其在多类概率模型中的应用。
2024-12-05 cs.LG stat.CO stat.ML
Graph representation forecasting of patient's medical conditions: towards a digital twin
University of Cambridge（剑桥大学）
目的：现代医学需要从等待和反应，治疗学科转向预防性，跨学科的科学，旨在为患者提供个性化，系统和精确的治疗计划。这项工作的目的是介绍如何整合机器学习方法与机械计算建模可以产生一个可靠的基础设施，运行概率模拟，整个生物体被认为是一个整体。研究方法：我们提出了一个通用框架，该框架由先进的人工智能方法组成，并集成了数学建模，以提供对当前和未来生理条件的全景视图。所提出的架构基于预测临床相关终点（如血压）的图神经网络（GNNs）和提供转录组可集成性概念证明的生成对抗网络（GANs）。结果如下：我们显示了在心血管功能的多个组织中不同信号通路中ACE2过表达的病理影响的调查结果。我们提供了一个概念的证明，使用分子数据来驱动本地和全球的临床参数，并得出未来的轨迹代表患者的生理状态的演变，整合了一个大的组合的临床模型。重要性：我们认为，计算患者的图形表示有可能解决将多尺度计算建模与AI集成的重要技术挑战。我们认为，这项工作代表着向医疗保健数字孪生模型迈出了一步。
2020-09-17 cs.LG stat.ML
Sequential sampling of Gaussian process latent variable models
University of Oxford（牛津大学）
我们考虑的问题，推断一个潜在的功能在概率模型的数据。当潜在函数的依赖性由高斯过程指定并且数据似然是复杂的时，有效的计算通常涉及马尔可夫链蒙特卡罗采样，其对大数据集的适用性有限。我们扩展这些技术的一些规模有效地当问题表现出顺序结构。我们提出了一个近似，使序贯抽样的潜在变量和相关参数。我们展示了强大的性能增长的数据设置，否则是不可行的天真，非序贯抽样。
2018-07-20 cs.LG stat.ML
Improving Sequential Determinantal Point Processes for Supervised Video Summarization
University of Central Florida（中佛罗里达大学）；Massachusetts Institute of Technology（麻省理工学院）；University of Iowa（爱荷华大学）；Tencent AI Lab（腾讯人工智能实验室）
现在制作视频比以往任何时候都容易。虽然无处不在的视频数据是信息发现和提取的重要来源，但计算挑战是无与伦比的。自动总结视频已经成为浏览、搜索和索引视觉内容的实质性需求。本文是在静脉的监督视频摘要使用顺序决定点过程（SeqDPP），模型的多样性的概率分布。我们从两个方面改进了这个模型。在学习方面，我们提出了一个大的利润率算法来解决SeqDPP中的曝光偏差问题。在建模方面，我们设计了一个新的概率分布，当它被集成到SeqDPP中时，所得到的模型接受用户关于摘要预期长度的输入。此外，我们还通过1）更多以自我为中心的视频，2）密集的用户注释和3）精细的评估方案来显着扩展流行的视频摘要数据集。我们在这个数据集上进行了广泛的实验（总共大约60小时的视频），并将我们的方法与几个竞争基线进行了比较。
2018-10-24 cs.LG stat.ML
Meta-learning of Sequential Strategies
DeepMind
在这份报告中，我们回顾了基于记忆的元学习作为一种工具，用于建立样本有效的策略，从过去的经验中学习，以适应目标类中的任何任务。我们的目标是让读者了解这个工具的概念基础，以构建在广泛领域中运行的新的、可扩展的代理。为此，我们提出了基本的算法模板，用于构建接近最优的预测器和强化学习器，这些预测器和强化学习器的行为就像它们有一个概率模型，使它们能够有效地利用任务结构。此外，我们重铸基于记忆的元学习贝叶斯框架内，元学习的策略是接近最佳的，因为他们摊销贝叶斯过滤的数据，其中的适应是实现在内存动态作为一个状态机的足够的统计。本质上，基于记忆的元学习将概率顺序推理的难题转化为回归问题。
2019-07-18 cs.AI cs.LG stat.ML
The Probabilistic Structure of Large Language Models
本文以概率测度和随机过程统一描述大语言模型，将训练视为最大似然估计、生成视为序贯模拟，并探讨KL散度不对称性与幻觉的关系，同时类比扩散模型。
2026-09-23 cs.AI cs.LG math.PR
Learning of state-space models with highly informative observations: a tempered Sequential Monte Carlo solution
概率论（或贝叶斯）建模和学习提供了有趣的可能性，使用概率论的不确定性的系统表示。然而，概率学习往往导致计算上具有挑战性的问题。由于蒙特卡罗方法的最新进展，这类以前难以解决的问题现在可以在标准个人计算机上解决。特别地，对于非线性状态空间模型中的未知参数的学习，基于粒子滤波器（一种蒙特卡罗方法）的方法已被证明是非常有用的。然而，当状态空间模型中的观测具有高度信息性时，即当相对于过程噪声的量存在非常少或不存在测量噪声时，仍然会出现众所周知的挑战性问题。然后，粒子滤波器将努力估计概率学习的基本分量之一，即似然$p($数据$|$参数$)$。为此，我们建议一种算法，它最初假设有大量的人工测量噪声存在。这种噪声的方差以自适应的方式依次减小，这样我们最终就可以恢复原来的问题，或者可能是它的一个非常接近的近似值。我们算法的主要组成部分是一个序贯蒙特卡罗（SMC）采样器，它使我们提出的方法与SMC方法有着明显的相似之处。另一个自然的联系也作出了基本的想法近似贝叶斯计算（ABC）。我们用数值例子说明了这一点，特别是一个具有挑战性的Wiener-Hammerstein基准问题显示出有希望的结果。
2017-12-13 stat.CO stat.ML
Sequential detection of multiple change points in networks: a graphical model approach
我们提出了一个概率公式，使连续检测网络设置中的多个变化点。我们提出了一类序列检测规则的某些泛函的变化点（最小的子集），并证明了其渐近最优性的期望检测延迟时间。从图形模型的形式主义，顺序检测规则可以实现一个计算高效的消息传递协议，可以线性放大网络的大小和等待时间。我们的推理算法的有效性证明了模拟。
2012-07-06 math.ST stat.ML stat.TH
Divide-and-Conquer with Sequential Monte Carlo
我们提出了一类新的序贯蒙特卡罗（SMC）算法，适用于概率图模型的推理。这类算法采用了分治的方法，基于一个辅助树结构分解的模型的兴趣，把整体推理任务成一个集合的递归解决的子问题。所提出的方法适用于广泛的概率图模型，包括带有循环的模型。与标准SMC采样器不同，所提出的分治SMC采用多个独立的加权粒子群，这些粒子随着方法的进展而被重新采样、合并和传播。我们的经验表明，这种方法可以优于标准的方法在后验期望和边际似然近似的准确性。分治SMC还开辟了新的并行实现选项，并有可能将计算工作集中在最具挑战性的子问题上。我们证明了其性能的马尔可夫随机场和分层逻辑斯谛回归问题。
2015-06-30 stat.CO stat.ML
Black-Box Policy Search with Probabilistic Programs
University of Oxford（牛津大学）
在这项工作中，我们将探讨如何概率程序可以用来表示顺序决策问题的政策。在这个公式中，概率程序是一个黑盒随机模拟器的问题域和代理。我们将经典的政策梯度技术，最近推出的黑盒变分方法，推广到概率程序推理。我们目前的案例研究，在加拿大旅行者的问题，岩石样本，和最佳诊断的启发猜猜谁的基准。每项研究都说明了程序如何使用适度数量的参数有效地表示策略。
2016-08-04 cs.AI stat.ML
Probability Tools for Sequential Random Projection
针对不确定性下序列决策衍生的高维序列依赖随机变量分析难题，提出首个序列随机投影概率框架，通过构造停时过程结合自归一化混合法得到非渐近概率界，实现JL引理的非平凡鞅扩展。
2024-05-12 cs.DS cs.IT cs.NA
