Non-Stationary Spectral Kernels
Helsinki Institute for Information Technology（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）
我们提出了非平稳谱核的高斯过程回归。我们建议将非平稳核函数的谱密度建模为依赖于输入的高斯过程频率密度表面的混合。我们解决了广义傅立叶变换与这样的模型，并提出了一个家庭的非平稳和非单调的内核，可以学习输入相关的和潜在的远程，非单调的输入之间的协方差。我们推导出有效的推理使用模型白化和边缘化后，并与案例研究表明，这些内核是必要的建模时，甚至相当简单的时间序列，图像或地理空间数据的非平稳特性。
2017-05-24 cs.LG stat.ML
Using Latent Variable Models to Observe Academic Pathways
Stanford University（斯坦福大学）
了解大规模的模式，在学生课程招生是一个非常感兴趣的问题，大学管理者和教育研究人员。然而，重要的决定往往是在没有一个良好的定量框架的过程中，学生的选择。我们提出了一种概率方法建模课程招生决策，从多标签分类和混合模型的灵感。我们使用一所大型大学十年的匿名学生成绩单来构建一个高斯潜变量模型，该模型可以学习课程注册的联合分布。该模型允许一组不同的推理查询和数据稀疏的鲁棒性。我们展示了这种方法与其他方法（包括深度学习架构）相比的有效性，并展示了其推断指导招生决策的潜在学生兴趣的能力。
2019-05-31 cs.LG stat.ML
Beyond Sequential Prediction: Learning Financial Market Dynamics in Volatile and Non-Stationary Environments through Sentiment-Conditioned Generative Modelling
Department of Mechanical Engineering and Aeronautics, University of Patras（帕特拉斯大学机械工程与航空系）；FICC Market Risk, BNP Paribas CIB（BNP巴黎银行投行部市场风险部）
本文提出一种集成上下文对抗学习模型，结合生成对抗网络与自然语言处理获取的文本情感信息，提升股票价格预测的可靠性，实验证明其优于传统ARIMA和LSTM模型。
2026-05-04 cs.LG q-fin.ST
Neural Non-Stationary Spectral Kernel
Aalto University（阿尔托大学）；Silo AI
标准的核函数，如Matérn或RBF核函数，只对输入空间中的简单单调依赖进行编码。光谱混合核已被提出作为通用的，灵活的内核，用于学习和发现数据中更复杂的模式。谱混合核最近被推广到非平稳核取代的混合权重，频率均值和方差的输入相关的功能。这些函数本身也被建模为高斯过程。在本文中，我们提出了建模的超参数函数与神经网络，并提供了一个实验比较之间的平稳光谱混合物和两个非平稳光谱混合物。可扩展高斯过程推理的稀疏变分框架内考虑的所有内核。我们表明，内核的神经变体能够在几个基准数据集上实现最佳性能。
2018-11-27 cs.LG stat.ML
Non-asymptotic Analysis of Diffusion Annealed Langevin Monte Carlo for Generative Modelling
Imperial College London（帝国理工学院）；The Alan Turing Institute（阿兰·图灵研究所）
在数据分布弱条件下，研究扩散退火朗之万蒙特卡洛（DALMC）的非渐近误差界，扩展至重尾扩散路径，为插值简单分布与数据分布的得分生成模型提供理论保证，拓宽了标准扩散方法视角。
2025-02-13 cs.LG math.PR stat.CO
Student-t Process Quadratures for Filtering of Non-Linear Systems with Heavy-Tailed Noise
本文的目的是设计一个矩变换的学生- t分布的随机变量，这是能够占的误差，在数值计算的平均值。我们采用学生-t过程正交，贝叶斯正交的一个实例，这使我们能够把积分本身作为一个随机变量，其方差提供有关所发生的积分误差的信息。Student-t过程求积相对于传统高斯过程求积的优点在于积分方差也取决于函数值，从而允许对积分误差进行更鲁棒的建模。矩变换应用于非线性西格玛点滤波和评估的两个数值例子，它被证明优于国家的最先进的矩变换。
2017-03-16 stat.ME stat.ML
An introduction and tutorial to model-based clustering in education via Gaussian mixture modelling
该教育领域教程介绍基于高斯混合建模的模型式聚类方法，结合真实数据集与代码，讲解簇数选择、结果评估等流程，展示其在识别学生投入度异质性子群体上的应用与优势。
2023-06-09 stat.ME
Non-Stationary Gaussian Process Regression with Hamiltonian Monte Carlo
提出了一种新的完全非平稳高斯过程回归（GPR）方法，其中所有三个关键参数-噪声方差，信号方差和长度尺度-可以同时依赖于输入。我们开发了基于梯度的推理方法来学习未知函数和非平稳模型参数，而不需要任何模型近似。我们提出了推断全参数后验的哈密顿蒙特卡罗（HMC），方便地扩展了基于分析梯度的GPR学习与模型梯度引导采样。我们还学习后验的梯度上升的MAP解决方案。在几个合成数据集的实验和时间基因表达的建模中，非平稳GPR被证明是必要的建模现实的输入相关的动态，而它执行传统的固定或以前的非平稳GPR模型，否则。
2015-08-18 stat.ML
Modelling student online behaviour in a virtual learning environment
Knowledge Media Institute, The Open University（开放大学知识媒体研究所）；University of Economics, Prague（布拉格经济大学）
近几年来，远程教育蓬勃发展。开放大学的大部分工作都集中在提高这些模块的保留率，为那些有可能不及格的学生提供及时的支持。在本文中，我们探讨了分析学生活动在网上虚拟学习环境（VLE）的方法-一般一元假设自动机（GUHA）和基于马尔可夫链的分析-我们解释了如何这种分析可以是相关的模块导师和其他学生支持人员。我们表明，这两种方法是一种有效的方法来模拟学生活动。马尔可夫链为基础的方法的一个优点是在其图形输出和学生活动的时间依赖性建模的可能性。
2018-11-09 cs.CY cs.LG stat.ML
A natural 4-parameter family of covariance functions for stationary Gaussian processes
本文给出了平稳高斯过程的一个四参数协方差函数族。我们称之为2DSYS。它对应于一个自治的二阶线性随机微分方程的通解，因此自然地从建模中产生。它包括欠阻尼和过阻尼系统，因此，建议使用这个家庭时，人们希望决定是否一个时间序列对应于随机强迫阻尼振荡或随机强迫过阻尼系统。
2018-10-17 math.ST stat.TH
Bayesian Inference in Epidemic Modelling: A Beginner's Guide
本文通过经典SIR模型介绍贝叶斯推断与MCMC方法，推导似然函数，设定先验分布，并实现Metropolis-Hastings算法以采样后验分布，适合数学流行病学研究生和研究者入门。
2026-03-17 math.DS q-bio.PE stat.ME
Gaussian Processes for Music Audio Modelling and Content Analysis
Queen Mary University of London（伦敦玛丽女王大学）
真正的音乐信号是高度可变的，但它们具有强大的统计结构。关于声音产生的基本物理机制和构建复杂声音结构的规则（音符，和弦，完整的乐谱）的先验信息可以使用贝叶斯建模技术自然统一。通常，自动音乐转录的算法独立地执行单个任务，例如多个F0检测和节拍跟踪。挑战仍然是执行所有参数的联合估计。我们提出了一种贝叶斯方法来建模音乐音频和内容分析。所提出的方法的基础上高斯过程寻求联合估计的多个音乐概念，通过合并到内核先验信息的非平稳行为，动态，和丰富的频谱内容中存在的建模音乐信号。我们说明了这种方法的好处，通过两个任务：音高估计，并推断丢失的段在复调录音。
2016-06-10 cs.SD stat.ML
Modelling Skewed and Heavy-Tailed Errors in Bayesian Mediation Analysis
针对传统中介模型误差正态假设违背的问题，提出中心化两段式学生t分布建模偏态厚尾误差，结合贝叶斯框架提升检验功效与稳健性，还开发了对应R包。
2025-09-03 stat.ME
Bayesian Survival Modelling of University Outcomes
本文的目的是在智利天主教大学本科生在大学注册的长度和相关的学术成果建模。生存时间被定义为直到注册期结束的时间，这可能与不同的原因有关-毕业或两种类型的辍学-由不同的过程驱动。因此，采用竞争风险模型进行分析。分离的结果（这排除了极大似然估计）的问题是通过使用贝叶斯推断与适当选择的先验处理。我们感兴趣的是确定大学成果的重要决定因素，并通过贝叶斯模型平均正式解决相关模型的不确定性。为模拟大学成果而采用的方法适用于三个选定的学位课程，这些课程特别受到辍学和迟毕业的影响。
2014-06-25 stat.AP
TopicResponse: A Marriage of Topic Modelling and Rasch Modelling for Automatic Measurement in MOOCs
The University of Melbourne（墨尔本大学）；CSIRO（澳大利亚联邦科学与工业研究组织）
本文探讨了使用自动发现的主题从MOOC论坛建模学生的学术能力的适用性。来自心理测量学的Rasch模型是一种流行的生成概率模型，它将潜在的学生技能，潜在的项目难度和观察到的学生项目反应在一个原则性的统一框架内联系起来。根据学术教育理论，发现的主题可以被视为适当的测量项目，如果（1）学生对发现的主题的参与符合Rasch模型，如果（2）主题可以被主题专家解释为具有教育意义。这种Rasch分级的主题，以及相关的难度水平，可能对课程改进，学生评估和个性化反馈有潜在的好处。剩下的技术挑战是发现有意义的主题，同时实现与Rasch模型的良好统计拟合。为了应对这一挑战，我们结合了Rasch模型与基于非负矩阵分解的主题建模，共同拟合这两个模型。我们通过对三个Coursera MOOC数据的定量实验以及对离散优化MOOC主题可解释性的定性调查结果证明了我们方法的适用性。
2017-03-20 cs.CL cs.IR cs.LG
The Gaussian process modelling module in UQLab
我们介绍了高斯过程（GP）建模模块开发的UQLab软件框架。GP模块的新颖设计旨在将GP建模无缝集成到任何不确定性量化工作流程中，以及独立的替代建模工具。我们首先简要介绍了关键的数学工具的基础上，GP建模（a.k.a.克里格法），以及相关的理论和计算框架。然后，我们提供了一个广泛的概述软件的可用功能，并展示其灵活性和用户友好性。最后，我们展示了从不同的工程领域借用的几个应用程序的软件的使用和性能。这些包括一个著名的分析基准函数的基本替代品，应用于风力涡轮机气动伺服弹性模拟和一个更复杂的岩土工程的例子，需要一个非静态的，用户定义的相关函数的分层克里格的例子。GP模块，像UQLab附带的其他科学代码一样，是开源的（BSD许可证）。
2018-08-09 stat.CO
Deep Recurrent Modelling of Stationary Bitcoin Price Formation Using the Order Flow
University College London（伦敦大学学院）
本文提出了一个基于订单流的深度递归模型，用于高频方向性价格波动的平稳建模。订单流是到达交易所的微秒级订单流，推动股票或货币价格图表上的价格形成。为了测试我们提出的模型的平稳性，我们在2017年比特币泡沫时期之前的数据上训练我们的模型，并在泡沫期间和之后测试我们的模型。我们表明，在没有任何再训练的情况下，即使比特币交易进入一个极其不稳定的“泡沫麻烦”时期，所提出的模型也是暂时稳定的。结果的重要性是通过对文献中现有的最先进的模型进行基准测试来显示的，用于使用深度学习来建模价格形成。
2020-03-31 cs.LG q-fin.ST q-fin.TR
Modelling non-stationary extremal dependence through a geometric approach
本文通过几何方法将极值相依性建模扩展到非平稳情形，提出半参数框架估计极限集，经模拟验证稳健，并应用于金融数据。
2025-09-26 stat.AP stat.ME stat.ML
Supervised Learning in the Presence of Concept Drift: A modelling framework
Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence, University of Groningen（格罗宁根大学伯努利数学、计算机科学与人工智能研究所）；Aksum University（阿克苏姆大学）；Bielefeld University（比勒费尔德大学）
我们提出了一个建模框架的调查监督学习在非平稳环境。具体来说，我们对两种示例类型的学习系统进行建模：基于原型的学习向量量化（LVQ）用于分类，浅层分层神经网络用于回归任务。我们研究了所谓的学生教师场景，在这些场景中，系统是从高维的标记数据流中训练出来的。目标任务的属性被认为是非平稳的，由于漂移过程，而执行的训练。不同类型的概念漂移进行了研究，影响密度的例子输入，目标规则本身，或两者兼而有之。通过应用统计物理学的方法，我们开发了一个建模框架，用于对非平稳环境中的训练动态进行数学分析。我们的研究结果表明，标准LVQ算法已经在一定程度上适用于非平稳环境中的训练。然而，应用权重衰减作为遗忘的显式机制并不能提高所考虑的漂移过程下的性能。此外，我们研究了具有S形激活函数的分层神经网络的基于梯度的训练，并与整流线性单元（ReLU）的使用进行了比较。我们的研究结果表明，两种类型的激活函数之间的概念漂移的敏感性和权重衰减的有效性显着不同。
2021-02-27 cond-mat.stat-mech cs.LG stat.ML
Prototype-based classifiers in the presence of concept drift: A modelling framework
University of Groningen（格罗宁根大学）；Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence（伯努利数学、计算机科学与人工智能研究所）；Bielefeld University（比勒费尔德大学）
我们提出了一个建模框架，在非平稳环境中的原型为基础的分类器的调查。具体来说，我们研究了从高维聚类数据流中训练的学习矢量量化（LVQ）系统。我们考虑了标准的赢家通吃更新，称为LVQ1。输入数据的统计属性在训练过程定义的时间尺度上变化。我们应用从统计物理学借来的分析方法，这些方法以前曾用于精确描述静态环境中的学习。建议的框架有利于学习曲线的计算中存在的虚拟和真实的概念漂移。在这里，我们专注于训练数据中的时间依赖类偏差。第一个结果表明，虽然基本LVQ算法适用于非平稳环境中的训练，但权重衰减作为遗忘的显式机制并不能提高所考虑的漂移过程下的性能。
2019-03-18 cond-mat.dis-nn cs.LG stat.ML
Modelling time evolving interactions in networks through a non stationary extension of stochastic block models
在本文中，我们专注于随机块模型（SBM），一个概率工具描述网络节点之间的相互作用，使用潜在的集群。SBM假设网络具有平稳结构，其中不考虑时变强度的连接。换句话说，在整个观察时间内，两个群体之间的相互作用被迫具有相同的特征。为了克服这一限制，我们提出了一个分区的整个时间范围内，在其中观察到的相互作用，并开发了一个非静态扩展的SBM，允许同时集群的节点在网络中的固定时间间隔，其中发生的相互作用。最后通过贪婪搜索方法最大化全数据综合似然度得到聚类数（K为节点，D为时间间隔）和类成员数。在展示了模型对模拟数据的正确处理后，我们将重点放在真实数据集上。因此，我们考虑在都灵举行的为期三天的ACM超文本会议，2009年6月29日至7月1日。在第一天的与会者之间的接近互动建模和interestingclustering的日常时间最终获得，与社会聚会（如咖啡休息时间）的方法恢复的时间。由于贪婪搜索的计算复杂度受初始化中使用的簇的数量$K\_{max}$和$D\_{max}$的支配，因此在大型网络中的应用受到限制。因此，高级聚类工具被认为可以减少数据中预期的聚类数量，使贪婪搜索适用于大型网络。
2015-09-08 stat.ML
An Embedded Model Estimator for Non-Stationary Random Functions using Multiple Secondary Variables
提出了一种利用多个辅助变量进行非平稳空间建模的算法。将地统计学与分位数随机森林相结合，给出了一种新的插值和随机模拟算法。本文介绍了该方法，并表明它具有一致性的结果，在性质上类似于那些适用于地质统计建模和分位数随机森林。该方法允许嵌入更简单的插值技术，如克里格，以进一步调节模型。该算法通过估计每个目标位置处的目标变量的条件分布来工作。这类分布族称为目标变量的包络。由此，有可能获得空间估计、分位数和不确定性。还开发了一种从包络产生条件模拟的算法。由于它们是从包络线中取样，因此实现情况受到次要变量、趋势和可变性重要性相对变化的局部影响。
2022-01-11 stat.ME stat.ML
Multiple Change Point Estimation in Stationary Ergodic Time Series
给定一个异质时间序列样本，目标是找到生成数据的概率分布发生变化的时间点（称为变化点）。数据被假定为已产生的任意未知的平稳遍历分布。没有建模、独立性或混合假设。提出了一种新的，计算效率高，非参数的方法，并证明是渐近一致的，在这个一般的框架。理论结果与实验评价的补充。
2015-05-11 cs.IT math.IT math.ST
Learning Causally-Generated Stationary Time Series
我们提出了因果高斯过程卷积模型（CGPCM），因果，频谱复杂的动力学现象的双非参数模型。CGPCM是一种生成模型，其中白噪声通过因果，非参数窗口移动平均滤波器，我们证明，该结构相当于一个高斯过程与非参数内核偏向因果生成的信号。我们为CGPCM及其先前的因果变体GPCM开发了增强的变分推断和学习方案（Tobar等人，2015b），这大大提高了统计准确性。这些建模和推理的贡献证明了一系列的合成和现实世界的信号。
2018-02-22 stat.ML
Modelling higher education dropouts using sparse and interpretable post-clustering logistic regression
针对高校辍学风险子群识别问题，提出先聚类再以聚类特定效应 logistic 回归建模并用定制 LASSO 实现稀疏可解释的方法，且在意大利大学体系案例中验证。
2025-05-12 stat.AP stat.ML
