Bayesian dependent mixture models: A predictive comparison and survey
本文综述了贝叶斯协变量相依混合模型，将其分为联合模型、单权重条件模型和协变量相依权重条件模型三类，并通过预测方程分析和模拟数据比较探讨模型选择问题。
2023-07-30 stat.ME
Affine Invariant Ensemble Transform Methods to Improve Predictive Uncertainty in Neural Networks
University of Potsdam（波茨坦大学）
本文提出两种基于集合卡尔曼滤波扩展的仿射不变相互作用粒子系统，用于逻辑回归的贝叶斯推断，证明其定量收敛速率，并验证其在神经网络预测不确定性量化中的有效性。
2024-07-01 cs.LG cs.NA math.NA
Beyond the Mean-Field: Structured Deep Gaussian Processes Improve the Predictive Uncertainties
Bosch Center for Artificial Intelligence（博世人工智能中心）；Hasso Plattner Institute（哈索·普拉特纳研究所）；University of Potsdam（波茨坦大学）
深度高斯过程通过级联多个高斯过程来学习监督学习的概率数据表示。虽然这个模型家族承诺灵活的预测分布，精确的推断是不容易处理的。近似推理技术权衡了与后验分布非常相似的能力与收敛速度和计算效率。我们提出了一个新的高斯变分家庭，允许保留潜在的过程之间的协方差，同时实现快速收敛边缘化的所有全球潜在变量。在证明了如何对一般协方差进行边缘化之后，我们将它们限制在我们根据经验发现最重要的那些，以便也实现计算效率。我们提供了一个有效的实现我们的新方法，并将其应用到几个基准数据集。它产生了出色的结果，并在准确性和校准的不确定性估计之间取得了比其最先进的替代品更好的平衡。
2020-10-22 cs.LG stat.ML
Predictive Modeling through Hyper-Bayesian Optimization
Deakin University（迪肯大学）；Applied Artificial Intelligence Institute（应用人工智能研究院）
本文提出一种将模型选择与贝叶斯优化集成的新方法，通过在模型空间与函数空间交替优化并引入评分函数，实现了更快的收敛、更高的样本效率及黑盒函数信息输出。
2023-08-01 cs.LG stat.ML
Scalable and Robust Spatial Prediction via Multi-Resolution Ensembles of Predictive Processes
Scientific Computing Center, Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院科学计算中心）
本文提出基于空间划分的预测过程集合，通过多分辨率方法实现空间预测的可扩展性和鲁棒性，提升计算效率与预测精度。
2026-10-05 stat.ME
Convergence rate for predictive recursion estimation of finite mixtures
预测递归（PR）是混合模型中非参数估计的一种快速随机算法。众所周知，PR估计的混合和混合密度是一致的，在相当温和的条件下，但目前很少知道的收敛速率。在这里，我首先研究的渐近收敛性质的PR估计下的模型误设定的特殊情况下，有限混合已知的支持。从随机逼近理论的工具被用来证明PR估计收敛，最好的Kullback-Leibler近似，在近根$n$率。当支持度未知时，PR可用于构造目标函数，当优化时，该目标函数产生支持度的估计。我适用于已知的支持结果，推导出一个收敛速率为这个修改后的PR估计在未知的支持情况下，这比已知的最佳速率有利。
2011-10-14 math.ST stat.ME stat.TH
Topology, Convergence, and Reconstruction of Predictive States
University of California at Davis（加利福尼亚大学戴维斯分校）
离散随机过程中的预测等价性已经成功地应用于统计物理和混沌动力系统中的随机性和结构识别以及隐马尔可夫模型的推断。我们研究的条件下，他们可以可靠地重建从时间序列数据，表明收敛的预测状态可以实现从经验样本中的弱拓扑结构的措施。此外，预测状态可以在复制弱拓扑的希尔伯特空间中表示。我们在数学上解释了这些表示在重建高内存过程时是如何特别有益的，并将它们连接到再生核希尔伯特空间。
2021-09-19 cond-mat.stat-mech cs.LG math.DS
Asymptotic Supervised Predictive Classifiers under Partition Exchangeability
University of Helsinki（赫尔辛基大学）
研究了监督分类中同时预测分类器和边缘预测分类器在分区交换下的收敛性。结果表明，在无限数量的训练或测试数据下，这些分类器都是渐近收敛的，使得在观测了无数的数据后，这些分类器之间的差异可以忽略不计。这是一个重要的结果，从实践的角度来看，在足够大的数据量的存在下，可以用计算上更昂贵的同时一个取代简单的边缘分类。
2021-01-26 cs.LG math.ST stat.ML
Weak convergence of predictive distributions
本文研究随机变量序列预测分布的弱收敛条件，用稳定收敛加以刻画，并考察条件同分布的三种弱化形式能否保证该条件成立。
2025-07-25 math.PR math.ST stat.ME
A strong uniform convergence rate of a kernel conditional quantile estimator under random left-truncation and dependent data
本文研究了随机左截尾数据具有某种相依性时核条件分位数估计的一些渐近性质。本文推广了Lemdani，Ould-Saïd和Poulin [16]在iid情形下的结果.在强混合假设下，得到了估计的一致强收敛速度。
2008-10-07 math.ST stat.TH
A Compound Poisson Convergence Theorem for Sums of $m$-Dependent Variables
本文证明了$m$相依随机变量的和$S_n$的Simons-Johnson定理，其中$S_n$具有指数权和极限复合泊松分布$\CP(s,λ)$。更精确地说，我们给出了$\sum_{k=0}^\infty\ee^{hk}\ab{P(S_n=k)-\CP(s,λ)\{k\}}\to 0$的充分条件，并提供了一个估计的收敛速度。证明了Simons-Johnson定理对加权Wasserstein范数也成立。定义在%不同格上的两个泊松变量的%极限和。然后显示$N(n;k_1,k_2)$和$k$运行统计量的结果。
2014-02-02 math.ST stat.TH
Model selection for weakly dependent time series forecasting
观察到一个平稳的时间序列，我们提出了一个两步的程序预测的下一个值的时间序列。第一步遵循机器学习理论范式，并且包括确定一组可能的预测因子作为（可能许多）不同预测模型中的随机估计。第二步遵循模型选择范例，并且包括在第一步的所有预测器中选择一个具有良好性质的预测器。我们研究我们的程序为两种不同类型的观测：因果伯努利移位和有界弱相关过程。在这两种情况下，我们都给出了预言不等式：在我们考虑的所有预测模型中，所选预测因子的风险接近于最佳预测风险。我们应用我们的预测模型，如线性预测，神经网络预测和非参数自回归的程序。
2012-07-03 math.ST stat.ME stat.TH
On the convergence rate in the central limit theorem for linearly extended negative quadrant dependent random variables and its applications
本文研究 LENQD 随机变量中心极限定理的收敛速度，得到正态逼近速度为 $O(n^{-1/9})$，并将其应用于非参数回归模型的小波估计，通过真实数据模拟验证了结果。
2025-09-18 math.ST stat.TH
Asymptotic optimality of a cross-validatory predictive approach to linear model selection
在这篇文章中，我们研究了基于交叉验证预测密度的模型选择准则的渐近预测最优性，已经在文献中。对于一个因变量和相关的解释变量，我们考虑一类线性模型作为真实回归函数的近似。人们使用所研究的标准在这些模型中选择一个模型，并通过所选模型下的最佳预测因子预测因变量的未来重复。我们表明，平方误差预测损失，该计划的预测执行渐近以及预言，这里的预言是指模型选择规则，最大限度地减少这种损失，如果真正的回归是已知的。
2008-05-21 math.ST stat.ME stat.TH
Convergence rates for density estimators of weakly dependent time series
假设$(X_t)_{t\in\Z}$是一个向量值时间序列，具有一个共同的边缘分布，允许密度$f$，我们的目的是提供一个广泛的一致估计$f$。我们考虑不同的方法估计的密度核，投影或小波的。研究了弱相依级数的各种情形，包括Doukhan & Louhichi（1999）的$η$ -弱相依条件，以及Dedecker & Prieur（2005）的$\tilde ϕ$ -相依条件.因此，我们得到的结果马尔可夫链，动力系统，双线性模型，非因果移动平均.从Doukhan & Louhichi（1999）的矩不等式出发，给出了具有$Ł^q$损失的估计的误差项的收敛速度，或者几乎必然地，在紧子集上一致收敛.
2007-01-10 math.PR math.ST stat.TH
Weak Convergence of the Sequential Empirical Process of some Long-Range Dependent Sequences with Respect to a Weighted Norm
设$(X_k)_{k\geq1}$是一个具有$EX_1=0$、$EX_1^2=1$和协方差函数$r(k)=k^{-D}L(k)$的高斯长程相依过程。对于任何可测量函数$G$，令$(Y_k)_{k\geq1}=(G(X_k))_{k\geq1}$。我们研究了相关的序列经验过程$\left(R_N(x,t)\right)$关于加权范数$\|\cdot\|_w$的渐近行为。证明了在适当的正规化后，$\left(R_N(x,t)\right)$在有限权范数的càdlàg函数空间中弱收敛到Hermite过程.
2014-10-21 math.PR math.ST stat.TH
