Aggregated Wasserstein Metric and State Registration for Hidden Markov Models
The Pennsylvania State University（宾夕法尼亚州立大学）
我们提出了一个框架，名为聚合Wasserstein，用于计算两个隐马尔可夫模型之间的相异性度量或距离，状态条件分布为高斯。对于这样的障碍，在任何时间位置处的边缘分布遵循高斯混合分布，这是一个被利用来软匹配（也称为寄存器）两个障碍中的状态的事实。我们把这种隐马尔可夫模型称为高斯混合模型-隐马尔可夫模型（GMM-HMM）。状态注册的灵感来自于最优传输的内在关系和分布之间的Wasserstein度量。具体而言，通过解决最优运输问题，其中组件之间的成本是高斯分布的Wasserstein度量的边缘Gestival的组件相匹配。最优化问题的解是两个Gyngeal之间的Wasserstein度量的快速近似。新的聚合Wasserstein距离是一个半度量，可以在不生成Monte Carlo样本的情况下计算。它对于状态的重新标记或置换是不变的。即使对于从不同维度的数据估计的两个障碍，距离也被有意义地定义，这种情况可能是由于缺失变量而出现的。该距离通过测量两个边缘GMM之间的差异和两个转移矩阵之间的差异来量化GMM-HMM的相异性。我们的新距离进行了测试的检索，分类和t-SNE可视化的时间序列的任务。合成和真实数据的实验表明，它的优势，在精度和效率方面与现有的距离的基础上的Kullback-Leibler分歧。
2017-11-19 cs.CV cs.LG stat.ML
Active Learning for Regression with Aggregated Outputs
NTT Communication Science Laboratories（NTT通信科学实验室）
由于隐私保护或数据收集的困难，我们无法观察每个实例的单独输出，但我们可以观察在一些现实世界应用程序中对多个实例进行汇总的聚合输出。为了降低这种聚合数据的回归模型训练的标记成本，我们提出了一种主动学习方法，该方法顺序选择要标记的集合，以提高具有较少标记集合的预测性能。对于选择度量，该方法使用互信息，通过观察聚合输出来量化模型参数的不确定性的减少。利用贝叶斯线性基函数对给定输入的输出进行建模，包括近似高斯过程和神经网络，我们可以有效地计算封闭形式的互信息。通过使用不同数据集的实验，我们证明了所提出的方法比现有方法具有更少的标记集，实现了更好的预测性能。
2022-10-04 cs.AI cs.LG stat.ML
Twenty ways to estimate the Log Gaussian Cox Process model with point and aggregated case data: the rts2 package for R
该论文介绍了R包rts2，提供了二十种估计Log高斯Cox过程模型的方法，包括数据处理工具和针对聚合数据的新颖实现，支持实时监测和不确定性量化。
2024-03-14 stat.CO
A Hierarchical Model for Aggregated Functional Data
在许多科学领域，人们的目标是仅根据对聚集总体曲线的观察来估计潜在子总体平均曲线。所谓聚合曲线，我们指的是无法单独观察到的函数数据的线性组合。我们假设有几条具有线性独立系数的聚合曲线。更具体地说，我们假设每个聚合曲线是一个独立的部分实现的高斯过程与平均建模通过加权线性组合的分解曲线。我们建模的高斯过程的平均值作为一个光滑的函数近似的函数属于一个有限维空间${\cal H}_K$，它是由$K$ B-样条基函数跨越。我们探讨两种不同规格的协方差函数的高斯过程：一个是假设一个恒定的方差在整个域的过程中，和一个更一般的方差结构，这本身是建模为一个平滑的功能，提供一个非平稳的协方差函数。推理过程是按照贝叶斯范式进行的，允许在估计分解曲线时考虑专家的意见。此外，它自然地提供了与参数估计和拟合值相关的不确定性。我们的模型适用于广泛的应用。我们集中在两个不同的实际例子：近红外光谱数据的校准问题和不同类型的消费者之间的能量分布的分析。
2011-02-14 stat.ME
On the Necessity and Effectiveness of Learning the Prior of Variational Auto-Encoder
Beijing National Research Center for Information Science and Technology（北京国家信息科学与技术研究中心）；Tsinghua University（清华大学）
使用强大的后验分布是实现更好的变分推理的流行方法。然而，最近的工作表明，聚合后验可能无法匹配单位高斯先验，因此学习先验成为另一种方法来提高下界。本文在文献中首次证明了当聚合后验不匹配单位高斯先验时学习先验的必要性和有效性，分析了这种情况发生的原因，并提出了学习先验可以改善重建损失的假设，所有这些都得到了我们广泛的实验结果的支持。我们表明，使用学习的真实NVP先验知识和VAE中的一个潜在变量，我们可以实现与非常深的最先进的分层VAE相当的测试NLL，优于许多以前的复杂分层VAE架构的作品。
2019-05-31 cs.LG stat.ML
Modeling Severe Traffic Accidents With Spatial And Temporal Features
New York University（纽约大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
我们提出了一种方法来估计交通事故的严重程度，在汇总（区域级）和分解（点级）的数据。探索空间特征，我们衡量道路网络的复杂性，使用几个区域级变量。还使用纽约市开放数据的时间和其他情景特征，我们使用梯度提升模型进行推理和测量特征重要性，以及高斯过程来建模数据中的空间依赖性。结果表明，聚合模型的复杂性以及预测中的其他特征具有重要意义，这可能有助于制定预防严重交通事故和伤害的政策和针对性干预措施。
2019-06-25 cs.LG stat.ML
Deep convolutional Gaussian processes
Aalto university（阿尔托大学）；Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所（HIIT））
我们提出了深度卷积高斯过程，这是一种具有卷积结构的深度高斯过程架构。该模型是一个原则性的贝叶斯框架，用于检测图像分类的局部特征的分层组合。我们证明了极大地提高了图像分类性能相比，目前的高斯过程的MNIST和CIFAR-10数据集的方法。特别是，我们将CIFAR-10的准确性提高了10个百分点以上。
2018-10-06 cs.LG stat.ML
Gaussian Processes and Statistical Decision-making in Non-Euclidean Spaces
Imperial College London（帝国理工学院）
使用高斯过程的贝叶斯学习提供了一个基础框架，用于以平衡已知与通过收集数据可以学习到的内容的方式做出决策。在这篇论文中，我们开发的技术，扩大高斯过程的适用性。这是通过两种方式完成的。首先，我们开发了高斯过程的路径条件技术，它允许一个表示后随机函数作为前随机函数加上一个相关的更新项。我们引入了一个广泛的有效的近似建立从这个角度来看，它可以被随机抽样一次提前，并在任意位置进行评估，没有任何后续的随机性。这一关键属性提高了效率，并使在决策设置中部署高斯过程模型变得更简单。其次，我们发展了一系列非欧空间上的高斯过程模型，包括黎曼流形和图。我们推导出黎曼流形和图上标量值高斯过程的协方差核的完全构造性表达式。基于这些思想，我们描述了一个形式主义定义向量值高斯过程的黎曼流形。引入的技术允许使用标准计算方法训练所有这些模型。总的来说，这些贡献使高斯过程更容易使用，并允许它们以有效和有原则的方式在更广泛的领域中使用。反过来，这使得有可能将高斯过程应用于新的决策设置。
2022-04-28 cs.LG stat.ML
Deep Gaussian Processes: A Survey
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
高斯过程是贝叶斯学习中的主要方法之一。虽然这种方法已经成功地应用于许多问题，但它有一些基本的局限性。文献中的多种方法已经解决了这些局限性。然而，迄今为止还没有对这些专题进行全面调查。大多数现有的调查集中在高斯过程及其衍生物的一个特定的变种。这项调查详细介绍了使用高斯过程的核心动机，它们的数学公式，局限性以及多年来为解决上述局限性而蓬勃发展的研究主题。此外，一个特殊的研究领域是深度高斯过程（DGPs），它在过去十年中有了很大的改进。在他们的调查中概述了推进这一研究领域前沿的重要出版物。最后，对有待解决的问题和今后的研究方向进行了简要的讨论。
2021-06-21 cs.LG stat.ML
Gaussian Graphical Models as an Ensemble Method for Distributed Gaussian Processes
University of Tuebingen（图宾根大学）
分布式高斯过程（Distributed Gaussian Process，DGP）是一种将GP扩展到大数据的流行方法，它将训练数据划分为若干子集，对每个子集执行局部推理，并将结果聚合以获得全局预测。为了组合局部预测，使用条件独立假设，这基本上意味着子集之间存在完美的多样性。虽然它使聚合易于处理，但在实践中经常违反它，并且通常产生很差的结果。在本文中，我们提出了一种新的方法来聚集高斯专家的预测高斯图模型（GGM）的目标聚集被定义为一个不可观测的潜变量和本地预测的观测变量。我们首先使用期望最大化（EM）算法估计潜变量和观测变量的联合分布。利用联合分布的精度矩阵对专家间的交互作用进行编码，并根据条件高斯分布的性质得到聚合预测。使用合成和真实数据集，我们的实验评估表明，我们的新方法优于其他国家的最先进的DGP方法。
2022-02-07 cs.DC cs.LG stat.ML
Discrepancies in Epidemiological Modeling of Aggregated Heterogeneous Data
Harvard John A. Paulson School Of Engineering and Applied Sciences（哈佛大学约翰·A·保尔森工程与应用科学学院）；Harvard Medical School（哈佛医学院）；Harvard T.H. Chan School of Public Health（哈佛大学陈曾熙公共卫生学院）
在流行病学建模中，大多数分析假设一个单一的流行病过程来生成地面实况数据。然而，这种假设的数据生成过程可能是不现实的，因为流行病的数据来源往往是跨地理区域和社区汇总的。因此，用于估计流行病学参数的最新模型，例如~当面对复杂的系统时，传输速率可能不合适。我们的工作经验证明了将流行病学模型应用于聚合数据集的一些局限性。我们生成三个复杂的爆发情况下，结合发病率曲线，从多个流行病，独立模拟通过SEIR模型与不同的参数集。使用这些情况下，我们评估了一个国家的最先进的贝叶斯推断方法，估计从病毒载量监测数据的流行轨迹的鲁棒性。我们评估两个数据生成模型在这个贝叶斯推理框架：一个简单的指数增长模型和一个高度灵活的高斯过程先验模型。我们的研究结果表明，这两个模型产生准确的传播率估计的组合发病率曲线的成本产生偏差估计每个潜在的流行病，反映高度异质性的潜在人口动态。指数增长模型虽然可以解释，但无法捕捉潜在流行病的复杂性。有足够的监测数据，高斯过程先验模型捕捉复杂的轨迹的形状，但不精确的低数据覆盖率的时期。因此，我们的研究结果突出了忽视数据生成过程中的复杂性和异质性的潜在陷阱，这可能会掩盖潜在的特定地点和人群的流行动态。
2021-06-20 cs.AI q-bio.PE stat.AP
Aggregation Models with Optimal Weights for Distributed Gaussian Processes
Department of Industrial and Systems Engineering（工业与系统工程系）；Texas A&M University（德克萨斯大学）
本文提出了一种具有最优权重的分布式高斯过程聚合方法，通过整合专家间相关性提升预测准确性，且计算效率更高。
2026-02-10 cs.LG stat.ME stat.ML
Bayesian Optimization using Deep Gaussian Processes
Université de Lille（里尔大学）；CNRS/CRIStAL（法国国家科学研究中心/CRIStAL实验室）；Inria Lille（法国里尔国家信息与自动化研究所）
使用高斯过程的贝叶斯优化是处理昂贵的黑盒函数优化的流行方法。然而，由于经典高斯过程的协方差阵的平稳性是先验的，这种方法可能不适用于非平稳函数的优化问题。为了克服这个问题，提出了一种新的贝叶斯优化方法。它基于深度高斯过程作为代理模型，而不是经典的高斯过程。这种建模技术通过简单地考虑平稳高斯过程的功能组成来增加表示的能力以捕获非平稳性，从而提供多层结构。本文提出了一种耦合深度高斯过程和贝叶斯优化的全局优化算法。这种优化方法的特殊性进行了讨论，并突出了学术测试案例。分析测试用例和航空航天设计优化问题的性能评估所提出的算法相比，最先进的静态和非静态的贝叶斯优化方法。
2019-05-07 cs.CE cs.LG stat.ML
A brief note on understanding neural networks as Gaussian processes
University of Twente（特文特大学）
作为[Lee等人，2017]，本文简要讨论了神经网络输出的先验何时遵循高斯过程，以及神经网络诱导的高斯过程是如何形成的。这种高斯过程回归的后验均值函数位于由神经网络诱导核定义的再生核希尔伯特空间中。在两层神经网络的情况下，诱导高斯过程提供了再生核希尔伯特空间的一种解释，其联合形成巴伦空间。
2021-07-25 cs.CE cs.LG stat.ML
Information fusion in multi-task Gaussian processes
Australian Centre for Field Robotics, The University of Sydney（悉尼大学澳大利亚现场机器人中心）
本文评估异构信息融合的背景下，地质资源建模使用多任务高斯过程。具体来说，它经验表明，跨异构信息源的信息集成导致所有被建模的量的优越估计，单独建模它们相比。多任务高斯过程提供了一种强大的方法，同时考虑这些量之间的相关性的同时建模的多个感兴趣的量。在大规模真实传感器数据上进行了实验。
2013-09-05 cs.AI cs.LG stat.ML
Graph Convolutional Gaussian Processes
Imperial College London（帝国理工学院）
我们提出了一种新的贝叶斯非参数方法来学习非欧域上的不变性关系。所得到的图卷积高斯过程可以应用于机器学习中的问题，其中输入观测是具有一般图上的域的函数。这些模型的结构允许高维输入，同时保持可表达性，如卷积神经网络的情况。我们目前的应用程序的图形卷积高斯过程的图像和三角形网格，证明其通用性和有效性，相比现有的方法，尽管相对简单的模型。
2019-05-14 cs.CV cs.LG stat.ML
Upgrading from Gaussian Processes to Student's-T Processes
高斯过程先验通常用于航空航天设计以执行贝叶斯优化。尽管如此，高斯过程有两个明显的缺点：离群值是先验假设不太可能的，并且以观测数据为条件的后验方差仅取决于这些数据的位置，而不是相关的样本值。Student's-T过程是高斯过程的推广，建立在Student's-T分布而不是高斯分布上。Student's-T过程保持了高斯过程的主要优点（核函数，解析更新规则），并具有超越高斯过程的额外好处。Student's-T分布具有比高斯分布更高的峰度，因此离群值更有可能，并且后验方差根据观察到的数据样本值的方差增加或减少。在这里，我们描述学生的T过程，并讨论其优势的背景下，航空航天优化。我们将展示如何使用核函数构建学生T过程，以及如何在给定新样本的情况下更新该过程。我们提供了一个明确的推导优化相关的数量，如预期的改善，并与高斯过程的相关计算的对比。最后，我们比较了Student's T过程和Gauss过程在贝叶斯优化中典型测试问题上的性能，并将Student's T过程应用于一个气动结构设计问题的优化。
2018-01-18 stat.ML
Wavelet-based estimation in aggregated functional data with positive and correlated errors
Universidade Estadual de Campinas (UNICAMP)（坎皮纳斯州立大学）
本文提出基于小波的贝叶斯方法，用于估计聚合函数数据中的构成曲线，通过模拟和实际数据验证了该方法在处理具有正相关误差的Gamma分布误差时的优越性。
2026-03-25 stat.ME
The Use of Gaussian Processes in System Identification
在机器学习中使用高斯过程来从观察到的数据中学习输入-输出映射。高斯过程回归基于对未知回归函数施加高斯过程先验，并根据观察数据对其进行统计调节。在系统识别中，高斯过程用于形成时间序列预测模型，例如非线性有限脉冲响应（NFIR）模型以及非线性自回归（NARX）模型。高斯过程状态空间模型（GPSS）可用于学习输入-输出数据的状态空间表示的动态和测量模型。时间和时空高斯过程可以直接用于在时域上对数据形成回归量。这篇文章的目的是简要概述了系统识别方法的主要方向，使用高斯过程。
2019-07-13 cs.LG cs.SY eess.SY
Improving Output Uncertainty Estimation and Generalization in Deep Learning via Neural Network Gaussian Processes
我们提出了一个简单的方法，结合神经网络和高斯过程。该方法可以估计输出的不确定性，并在训练数据存在的情况下灵活地调整目标函数，这是高斯过程的优点。所提出的方法还可以实现高的泛化性能的未知输入配置，这是神经网络的一个优点。利用所提出的方法，神经网络被用于高斯过程的均值函数。我们提出了一个可扩展的随机推理过程，稀疏高斯过程的随机变分推断推断，神经网络和内核的参数估计的随机梯度下降方法，同时。我们使用两个真实世界的时空数据集，实验表明，该方法实现了更好的不确定性估计和泛化性能比神经网络和高斯过程。
2017-07-19 stat.ML
Nonlinear Hawkes Process with Gaussian Process Self Effects
University of Potsdam（波茨坦大学）；Technische Universität Berlin（柏林工业大学）
传统上，Hawkes过程被用来描述具有历史依赖的时间连续点过程.在这里，我们提出了一个扩展的模型，其中的自我效应是兴奋和抑制类型，并遵循高斯过程。而以前的工作要么依赖于一个不太灵活的参数化模型，或需要大量的数据，我们的配方允许一个灵活的模型和学习时，数据稀缺。我们继续霍克斯过程的贝叶斯推断的工作路线，我们的方法免除了估计后验的分支结构的必要性，因为我们对高斯过程的聚合和进行推断。有效的近似贝叶斯推断是通过数据增强，我们描述了一个平均场变分推断方法来学习模型参数。为了证明该模型的灵活性，我们应用我们的方法对来自三个不同领域的数据，并将其与以前报道的结果进行比较。
2021-05-20 cs.AI cs.LG stat.AP
Non-Gaussian processes and neural networks at finite widths
Facebook AI Research（Facebook人工智能研究院）
高斯过程在自然界和工程中普遍存在。一个恰当的例子是一类无限宽极限的神经网络，其先验对应于高斯过程。在这里，我们微扰扩展到有限宽度的神经网络，产生非高斯过程作为先验。本文开发的方法使我们能够跟踪流的预激活分布逐步整合出随机变量从较低到较高的层，让人想起重整化群流。我们进一步开发了一个微扰过程来执行具有弱非高斯先验的贝叶斯推断。
2020-08-26 cond-mat.dis-nn cs.LG hep-th
Student-t Processes as Alternatives to Gaussian Processes
University of Cambridge（剑桥大学）
我们调查学生t过程作为替代的高斯过程作为一个非参数先验函数。通过在高斯过程模型的协方差核上先积分一个逆Wishart过程，得到了Student-t过程的边缘似然和预测分布的封闭形式表达式.我们发现令人惊讶的等效性不同层次的高斯过程模型导致学生t过程，并推导出一个新的采样方案的逆Wishart过程，这有助于阐明这些等效性。总体而言，我们表明，学生t过程可以保留高斯过程的吸引人的属性-非参数表示，分析的边缘和预测分布，并通过协方差内核容易模型选择-但具有增强的灵活性，预测协方差，不像高斯过程，明确地依赖于训练观测值。我们经验验证，学生t过程是特别有用的情况下，有变化的协方差结构，或在应用程序，如贝叶斯优化，准确的预测协方差是至关重要的良好的性能。这些优点与高斯过程相比没有额外的计算成本。
2014-02-19 cs.AI cs.LG stat.ME
Spatially continuous modelling of aggregated outcome data
Imperial College London（伦敦帝国理工学院）；Lancaster University（兰卡斯特大学）；University of Edinburgh（爱丁堡大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Northumbria University（诺森比亚大学）
本文提出了一种块聚合方法，用于在响应数据在较粗尺度观测（如行政区域事件计数）时的空间估计与预测，结合高分辨率协变量数据。方法通过线性预测器结合协变量效应和空间连续高斯过程，通过逆链接函数和空间积分确定响应分布，并在两个实际应用中验证了其有效性。
2026-04-16 stat.CO stat.ME
Kalman Filtering with Gaussian Processes Measurement Noise
机器人等应用中的真实测量噪声通常与时间相关，但我们通常假设i.i.d.高斯噪声滤波。我们提出了一般高斯过程作为相关测量噪声的非参数模型，它足够灵活，可以及时准确地反映相关性，但又足够简单，可以实现高效的计算。我们表明，该模型准确地反映了基于视觉的同时定位和映射（SLAM）产生的测量噪声，并认为它提供了一种灵活的手段建模测量噪声的各种传感器系统和感知算法。然后，我们扩展现有的结果与自回归过程的卡尔曼滤波更一般的高斯过程，并证明我们的方法的改进性能。
2019-09-23 cs.LG cs.RO cs.SY
Precision Aggregated Local Models
大规模高斯过程（GP）回归对于较大的数据集是不可行的，这是由于在处理协方差阵时涉及到触发器的立方缩放和二次存储。最近文献中的补救措施侧重于分而治之，例如，划分成子问题，并诱导功能（从而计算）的独立性。这种近似可以是快速的，准确的，有时甚至比普通的GPS更灵活。然而，一个很大的缺点是分区边界处的连续性损失。像局部近似GP（LAGP）这样的现代方法实际上意味着无限划分，因此在这方面是病态的好和坏。模型平均，一个替代分治，可以保持绝对的连续性，但往往过于平滑，降低准确性。在这里，我们建议将类似LAGP的方法放入类似本地专家的框架中，将基于分区的速度与模型平均连续性相结合，作为我们称之为精确聚合本地模型（PALM）的旗舰示例。使用$K$ LAGP，每个选择$n$从$N$总的数据对，我们说明了一个计划，最多立方的$n$，二次的$K$，线性的$N$，大大减少了计算和存储的需求。大量的经验说明显示了PALM如何至少与LAGP一样准确，在速度方面可以快得多，并消除连续的预测表面。最后，我们提出了顺序更新方案，它greetly细化PALM预测的计算预算。
2020-05-27 stat.CO stat.ME
Strong Approximation of Empirical Copula Processes by Gaussian Processes
我们提供了高斯过程对经验copula过程的强逼近。此外，我们建立了光滑经验copula过程的强逼近和一个重对数律。
2011-06-19 math.ST stat.TH
Asynchronous Federated Learning with Reduced Number of Rounds and with Differential Privacy from Less Aggregated Gaussian Noise
University of Connecticut（康涅狄格大学）；CWI Amsterdam（阿姆斯特丹数学与计算机科学研究中心）；IBM Research（IBM研究院）；The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
联邦学习的可行性在网络通信方面受到服务器-客户端基础设施的高度约束。大多数新推出的智能手机和物联网设备都配备了GPU或足够的计算硬件来运行强大的AI模型。然而，在原始同步联邦学习的情况下，客户端设备遭受等待时间，并且需要客户端和服务器之间的定期通信。这意味着对局部模型训练时间和不规则或错过的更新更敏感，因此，对大量客户端的可扩展性较小或有限，并且实时的测量的收敛速率将受到影响。我们提出了一种新的异步联邦学习算法，它消除了等待时间，减少了整体网络通信-我们为强凸目标函数提供了严格的理论分析，并提供了仿真结果。通过添加高斯噪声，我们展示了我们的算法是如何被差分私有化的--新的定理展示了聚合的高斯噪声是如何被显着减少的。
2020-07-17 cs.CR cs.LG math.OC
Gaussian Processes: A Quick Introduction
高斯过程（Gaussian Processes，GP）本文档的三个部分考虑了用于回归、分类和降维的GP。
2015-08-29 math.ST stat.TH
Parameter estimation for SDEs related to stationary Gaussian processes
本文研究一般平稳高斯场泛函的部分和的中心极限定理和非中心极限定理。我们应用所得结果研究了与平稳高斯过程有关的随机微分方程的漂移参数估计问题。
2015-01-20 math.PR math.ST stat.TH
Asymptotic properties of the maximum likelihood and cross validation estimators for transformed Gaussian processes
高斯过程协方差参数估计的渐近分析一直是人们研究的热点。然而，这种渐近分析是非常罕见的非高斯过程。本文研究了一类由高斯过程的正则非线性变换得到的非高斯过程。我们提供了增加域渐近性质的（高斯）最大似然和交叉验证估计的协方差参数的非高斯过程的这一类。我们表明，这些估计是一致的，渐近正态的，虽然他们被定义为如果该过程是高斯。它们不需要对非线性变换进行建模或估计。因此，我们的结果可以被解释为（高斯）最大似然和交叉验证对非高斯的鲁棒性。我们的证明依赖于两个技术成果，这是独立的兴趣的空间过程的渐增域渐近文献。首先，我们表明，在温和的假设下，大的协方差阵的逆的系数衰减作为相应的观测位置距离的函数的逆多项式率。其次，我们给出了由变换高斯过程得到的二次型的一般中心极限定理。最后，通过数值模拟说明了我们的渐近结果.
2019-11-25 math.ST stat.TH
Deep Learning Gaussian Processes For Computer Models with Heteroskedastic and High-Dimensional Outputs
深度学习高斯过程（DL-GP）是一种分析（近似）产生异方差和高维输出的计算机模型的方法。计算机仿真模型有许多应用领域，包括社会经济过程、农业、环境、生物、工程和物理问题。通过深度学习执行输入的确定性转换，并通过传统的高斯过程计算预测。我们使用摩托车事故模拟和埃博拉疫情模拟来说明我们的方法。最后，我们总结了未来研究的方向。
2022-09-05 stat.AP
Short-range dependent processes subordinated to the Gaussian may not be strong mixing
有各种各样的弱依赖。例如，强混合。短程相关（SRD）也是弱相关的一种形式。它发生在从属于高斯过程的背景下。如果高斯过程是长程相关的，那么SRD过程是强混合的吗？我们表明，这是不一定的情况下。
2015-08-19 math.PR math.ST stat.TH
Piterbarg's max-discretisation theorem for stationary vector Gaussian processes observed on different grids
在本文中，我们推导出Piterbarg的最大离散定理，考虑两个不同的网格中心平稳向量高斯过程。到目前为止，在这个方向上的文献结果已经得出了联合分布的最大高斯过程在$[0,T]$和网格$ \mathfrak{R}(δ_1(T))=\{kδ_1(T): k=0,1,\cdots\}$。在本文中，我们扩展了最近的研究结果，考虑另外的\bE{maximum}在另一个网格$ \mathfrak{R}(δ_2(T))$。我们通过令$T\to \infty$得到了在不同网格选择下平稳高斯向量过程最大值的联合极限分布。
2014-10-07 math.PR math.ST stat.OT
Cox processes driven by transformed Gaussian processes on linear networks -- A review and new contributions
本文针对线性网络上点过程模型缺乏的问题，提出由变换高斯过程驱动的三类Cox过程模型，并首次给出参数族统计推断方法、模拟算法及度量选择的讨论。
2024-01-15 math.ST stat.TH
Gaussian Processes for HRF estimation for BOLD fMRI
我们提出了一种非参数联合估计方法的fMRI任务激活值和血流动力学反应函数（HRF）。HRF被建模为一个高斯过程，使连续评估抖动的范例，并提供在每个点的方差估计。
2017-08-31 stat.AP
Estimation of log-Gaussian gamma processes with iterated posterior linearization and Hamiltonian Monte Carlo
Aalto University（阿尔托大学）
本文提出基于迭代后验线性化和Hamilton蒙特卡洛的方法，用于估计log-Gaussian伽马过程的后验分布，并通过实验验证其有效性。
2026-02-07 stat.CO stat.ME
Stochastic modelling of Gaussian processes by improper linear functionals
随机过程的各种方法存在，注意到关键属性，如可测性和连续性不是平凡的满足。我们引入一个新的理论高斯过程使用不当线性泛函。使用一组身份证。在标准正态变量的基础上，定义了高斯白噪声，并讨论了它的性质。这是推广到一般的高斯过程的希尔伯特空间，其中的方差是允许的任何合适的操作。我们的主要重点是$L^2$空间，我们讨论高斯过程是连续的，在这种设置的标准。最后，我们概述了一个框架，统计推断使用所提出的理论，重点是特殊情况下的$L^2[0,1]$。我们将弗雷德霍姆行列式引入到函数对数似然中。我们证明了朴素函数对数似然与多元似然不一致。引入了一个修正项，并证明了一个渐近结果。
2020-10-14 math.ST stat.ME stat.TH
Remarks on multivariate Gaussian Process
高斯过程在现代统计学和概率论中占据主导地位，因为它们的重要性和大量强有力的结果。高斯过程的常见用途是与估计，检测和许多统计或机器学习模型相关的问题。随着高斯过程应用的快速发展，有必要巩固向量值随机过程，特别是多元高斯过程的基本理论，这是许多多个相关响应的应用问题的基本理论。本文在向量值函数空间上基于高斯测度给出了多元高斯过程的精确定义，并给出了其存在性证明。此外，还介绍了多元高斯过程的几个基本性质，如严格平稳性和独立性。我们进一步推导了多元布朗运动，包括作为多元高斯过程的一种特殊情况的伊藤引理，并简要介绍了多元高斯过程回归作为多输出预测问题的一种有用的统计学习方法。
2021-02-24 math.PR math.ST stat.TH
Tests of independence for pairs of paths of non-stationary Gaussian processes
本文为非平稳高斯过程（标准布朗运动与分数布朗运动）路径对的独立性检验提供了理论结果。
2025-10-27 math.PR math.ST stat.TH
Spatial risk measure for gaussian processes
在本文中，我们研究了一个空间风险度量对应于一个损害函数和一个区域，考虑到潜在的过程的空间依赖性的定量行为。在[Koch 2015]中，这种风险度量已经被引入并研究了一些最大稳定过程。本文考虑了各向同性高斯过程和超过阈值的超额损伤函数。我们进行了模拟研究和真实数据研究。
2016-12-30 math.PR math.ST stat.TH
Applications of the Theory of Aggregated Markov Processes in Stochastic Learning Theory
University of California, Berkeley（加州大学伯克利分校）
本文梳理聚合马尔可夫过程（AMP）的马尔可夫性条件与规范表示理论，并阐述其在随机学习任务建模与分析中的应用。
2023-11-01 cs.LG math.PR stat.AP
A constrained L1 minimization approach for estimating multiple Sparse Gaussian or Nonparanormal Graphical Models
University of Virginia（弗吉尼亚大学）
从聚合数据中识别特定于上下文的实体网络是一项重要的任务，经常出现在生物信息学和神经成像中。在计算上，这个任务可以被公式化为联合估计多个不同的，但相关的，稀疏的无向图形模型（UGM）从聚合样本在几个上下文中。之前的联合UGM研究主要集中在稀疏高斯图形模型（sGGM）上，并且无法直接识别特定于上下文的边缘模式。因此，我们提出了一种新的方法，SIMULE（检测共享和单个部分的MULtiple图解释）通过约束L1最小化学习多UGM。SIMULE自动推断每个上下文唯一的特定边缘模式和所有上下文之间保留的共享交互。通过L1约束公式，该问题被转换为多个独立的子任务的线性规划，可以有效地并行求解。除了高斯数据之外，SIMULE还可以处理多元非超常数据，这些数据极大地放松了许多现实世界应用程序不遵循的正态性假设。我们提供了一个新的理论证明，SIMULE实现了一致的结果，在速率O（log（Kp）/ n_{tot}）。在多个合成数据集和两个生物医学数据集上，SIMULE显示出比最先进的多sGGM和单UGM基线有显着改善。
2017-09-18 cs.AI cs.LG stat.ML
Aggregated Posterior Predictive Checks for Generative Modeling
Rutgers University（罗格斯大学）
针对潜变量生成模型中先验与聚合后验不匹配的问题，提出聚合后验预测检验（APPC）方法，理论上证明其渐近校准性，实验表明聚合后验采样能改善生成质量。
2026-09-21 cs.LG math.ST stat.ME
SYNC: A Copula based Framework for Generating Synthetic Data from Aggregated Sources
Northeastern University Toronto（多伦多东北大学）；Arima Inc.（阿里马公司）；H. John Heinz III College Carnegie Mellon University（卡内基梅隆大学约翰·海因茨三世学院）；University of Toronto（多伦多大学）
合成数据集是以编程方式生成的数据对象，当直接收集困难或成本高昂时，从多个源创建单个数据集可能很有价值。虽然它是许多数据科学任务的基本步骤，但缺乏有效和标准的框架。在本文中，我们研究了一种称为降尺度的特定合成数据生成任务，这是一种推断高分辨率，难以收集的信息（例如，个人水平的记录）从许多低分辨率，易于收集的来源，并提出了一个多阶段的框架，称为同步（通过高斯Copula合成数据生成）。对于给定的低分辨率数据集，SYNC的中心思想是将高斯copula模型拟合到每个低分辨率数据集，以便正确地捕获依赖性和边缘分布，然后从拟合的模型中采样以获得所需的高分辨率子集。然后使用预测模型将采样子集合并为一个，最后根据低分辨率边缘约束对采样数据集进行缩放。我们在这项工作中做出了四项重要贡献：1）提出一种新的框架，用于通过结合最先进的机器学习和统计技术从聚合数据源生成个体级数据，2）执行模拟研究以验证SYNC作为合成数据生成算法的性能，3）证明其作为特征工程工具的价值，以及在难以通过两个真实世界数据集收集的情况下的数据收集的替代方案，4）发布易于使用的框架实现，以在生产级别上实现可再现性和可扩展性，从而容易地合并新数据。
2020-09-20 cs.DB cs.LG stat.AP
Large Margin Multiclass Gaussian Classification with Differential Privacy
Carnegie Mellon University（卡内基梅隆大学）
随着越来越多的敏感个人信息被聚集到数据存储库中，开发用于处理数据而不泄露关于个体数据实例的信息的机制变得重要。差分隐私模型为这种机制的发展和理论分析提供了一个框架。在本文中，我们提出了一种算法，用于学习一个判别式训练的多类高斯分类器，满足差分隐私使用一个大的利润损失函数与扰动正则化项。我们提出了一个理论上的上限的扰动引入的分类器的超额风险。
2010-07-28 cs.CR cs.LG stat.ML
