The maximum of the periodogram of Hilbert space valued time series
当周期长度未知时,我们感兴趣的是检测希尔伯特空间值时间序列中的周期信号。自然的检验统计量是周期图算子在所有基频上的最大希尔伯特-施密特范数。本文分析了这一检验统计量的渐近分布。我们考虑的情况下,噪声变量是独立的,然后将我们的结果推广到功能的线性过程。为函数自回归过程类提供了实现测试的细节。我们说明了我们的方法的有用性,通过检查奥地利格拉茨的空气质量数据。在有限样本的渐近理论的准确性进行了评估,在模拟实验。
2020-07-04 math.ST stat.TH
Goodness-of-Fit Tests for Censored and Truncated Data: Maximum Mean Discrepancy Over Regular Functionals
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Universidade de Vigo(维戈大学)
本文提出了一种基于最大均值差异的适配性检验方法,用于处理删失和截断数据,解决了传统方法在计算和收敛性上的不足。
2026-02-08 stat.ME
regMMD: An R package for parametric estimation and regression with maximum mean discrepancy
本文介绍R包regMMD,它利用最大均值差异(MMD)作为目标函数进行参数估计和回归,提供多种核函数与优化过程,并展示模拟及真实数据应用。
2025-04-24 stat.CO stat.ME
Testing error distribution by kernelized Stein discrepancy in multivariate time series models
知道误差分布在许多多变量时间序列应用中是重要的。为了减少错误分布的风险,需要测试方法来检测所选择的错误分布是否正确。然而,现有的大多数检验方法只针对某些特殊的多元时间序列模型进行了多元正态分布的检验,因而不能用于检验实际应用中常见的重尾和偏态误差分布。本文基于核化Stein差异,构造了一般多元时间序列模型的一种新的相容性检验。考虑到估计的不确定性和未观测到的初始值,提供了一种自举方法来计算临界值。我们的新测试是易于实现的大范围的多元误差分布,其重要性是由模拟和真实数据说明。
2020-08-03 econ.EM stat.ME
Robust and Sparse Generalized Linear Models for High-Dimensional Data via Maximum Mean Discrepancy
Institute of Supply Chain Analytics and International Business College, Dongbei University of Finance and Economics(东北财经大学供应链分析研究所与国际商学院);Department of Mathematics and Statistics, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校数学与统计系)
针对高维数据中的异常值和重尾噪声,提出基于最大均值差异(MMD)的惩罚广义线性模型,通过ℓ1惩罚和ADMM算法实现鲁棒估计与变量选择,在模拟中优于传统方法。
2026-06-05 stat.ME
Estimation of copulas via Maximum Mean Discrepancy
本文讨论了参数copula模型的鲁棒推断问题。使用典型极大似然估计可能不稳定,尤其是在存在离群值的情况下。我们建议使用基于最大平均离散(MMD)原则的程序。得到了新估计量的非渐近预言不等式、相合性和渐近正态性。特别地,预言不等式在没有对copula族作任何假设的情况下成立,并且可以应用于存在异常值或错误设定的情况。此外,在我们的MMD框架中,Copula模型的统计推断,不存在密度关于$[0,1]^d$上的Lebesgue测度,作为Marshall-Olkin copula,成为可行的。仿真研究表明,我们的新方法的鲁棒性,特别是相比伪极大似然估计。一个R软件包实现了Copula模型的MMD估计器。
2022-01-14 math.ST stat.CO stat.ME
Hypothesis testing for matched pairs with missing data by maximum mean discrepancy: An application to continuous glucose monitoring
统计科学中经常遇到的问题是如何正确处理配对观测中的缺失数据。有大量的文献处理单变量的情况下。然而,在测量生物系统方面正在进行的技术进步提出了处理更复杂数据的需要,例如,图形、字符串和概率分布等。为了填补这一空白,本文提出了新的估计的最大平均差异(MMD)处理复杂的匹配对缺失数据。这些估计器可以检测不同缺失机制下数据分布的差异。这种方法的有效性得到证明,并在广泛的仿真研究中进一步研究,并提供统计一致性的结果。在一个纵向人群为基础的糖尿病研究的连续血糖监测数据被用来说明这种方法的应用。通过采用新的分布表示与聚类分析,可以探索五年内葡萄糖变化在分布水平上如何变化的新临床标准。
2022-06-03 stat.ME stat.ML
Optimal quantisation of probability measures using maximum mean discrepancy
Newcastle University(纽卡斯尔大学);Alan Turing Institute(艾伦·图灵研究所);Whisper.ai, Inc.(Whisper.ai公司);King’s College London(伦敦国王学院)
几个研究人员已经提出最大平均差异(MMD)的最小化作为量化概率测度的方法,即,以通过代表性点集来近似目标分布。我们考虑顺序算法,greetly最小化MMD在一个离散的候选集。我们提出了一种新的非近视算法,为了提高统计效率和降低计算成本,我们研究了一种变体,该变体在每次迭代时将该技术应用于小批量的候选集。当从目标中采样候选点时,这些新算法及其小批量变体的一致性就建立起来了。我们展示了一系列重要的计算问题的算法,包括优化节点的贝叶斯立方和细化的马尔可夫链输出。
2021-02-12 cs.LG stat.CO stat.ME
Optimally-Weighted Estimators of the Maximum Mean Discrepancy for Likelihood-Free Inference
本文提出一种改进样本复杂度的最大均值差异(MMD)最优加权估计器,用于似然无关推断,特别适用于计算昂贵的中低维平滑模拟器,并通过理论和模拟研究验证其有效性。
2023-05-10 stat.CO stat.ME stat.ML
Simulation-Based Inference with Convolutional Maximum Mean Discrepancy for Noisy Data
The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Utah(犹他大学)
本文提出一种基于卷积最大均值差异(convMMD)的推断方法,用于处理受异方差噪声污染的数据,通过建立有限样本偏差界和等价性证明,实现了统计推断的一致性和渐近正态性。
2026-10-30 stat.ME stat.ML
Closed-form Expressions for Maximum Mean Discrepancy with Applications to Wasserstein Auto-Encoders
AT&T Labs(AT&T实验室)
最大平均离散度(MMD)在统计学和机器学习中有许多应用,最近作为Wasserstein自动编码器(WAE)中的惩罚。在本文中,我们计算封闭形式的表达式估计高斯核MMD之间的一个给定的分布和标准的多元正态分布。该公式揭示了与Henze-Zirkler检验的Baringhaus-Henze-Epps-Pulley(BHEP)统计量的联系,并提供了关于MMD的进一步见解。我们引入MMD的标准化版本作为WAE训练目标的惩罚,允许MMD值的更好的可解释性和不同超参数设置的更多兼容性。接下来,我们建议在代码层使用一种批处理规范化版本;这具有使内核宽度选择更容易,减少训练工作量和防止聚合代码分布中的离群值的好处。我们的合成和真实数据的实验表明,分析公式改善了常用的MMD的随机逼近,并证明代码规范化提供了显着的好处时,训练WAE。
2020-06-02 cs.LG stat.ME stat.ML
Generative Models and Model Criticism via Optimized Maximum Mean Discrepancy
University College London(伦敦大学学院);Carnegie Mellon University(卡内基梅隆大学);University of California at Berkeley(加州大学伯克利分校)
我们提出了一种方法来优化的代表性和可重复性的样本从两个概率分布,通过最大化估计功率的统计检验的基础上的最大均值差异(MMD)。这种优化的MMD被应用于生成对抗网络(GAN)的无监督学习设置,其中模型试图生成真实的样本,而模型试图将这些样本与数据样本区分开来。在此上下文中,MMD可用于两个角色:第一,作为直接在样本上或在样本的特征上的标记。第二,MMD可以用于评估生成模型的性能,通过测试模型的样本对参考数据集。在后一个角色中,优化的MMD特别有用,因为它给出了模型和数据分布如何不同的可解释指示,即使在单个模型样本不容易通过眼睛或分类器区分的情况下。
2021-01-14 cs.AI cs.LG cs.NE
Statistical Inference for Generative Models with Maximum Mean Discrepancy
University of Cambridge(剑桥大学);The Alan Turing Institute(艾伦·图灵研究所);Imperial College London(帝国理工学院)
虽然基于似然的推理及其变体提供了一种统计上有效且广泛适用的参数推理方法,但将其应用于涉及棘手似然的模型会带来挑战。在这项工作中,我们研究了一类最小距离估计的棘手的生成模型,即统计模型的可能性是棘手的,但模拟是廉价的。考虑的距离,最大平均差异(MMD),通过嵌入到再生核希尔伯特空间的概率测度定义。我们研究了这些估计量的理论性质,证明了它们是相合的、渐近正态的和对模型误设的鲁棒性。这些估计器的一个主要优点是核的选择所提供的灵活性,这可以用来权衡统计效率和鲁棒性。在算法方面,我们研究了几何形状引起的MMD的参数空间,并使用此引入一种新的自然梯度下降算法,有效地实现这些估计。我们说明了几类模型,包括离散时间潜在的马尔可夫过程和两个多变量随机微分方程模型的理论结果的相关性。
2019-06-13 cs.LG math.ST stat.CO
A Bayesian Non-parametric Approach to Generative Models: Integrating Variational Autoencoder and Generative Adversarial Networks using Wasserstein and Maximum Mean Discrepancy
Department of Statistics and Actuarial Science University of Hong Kong(统计与精算科学系香港大学)
本文提出一种基于贝叶斯非参数框架的生成模型,整合VAE、GAN及CGAN,采用Wasserstein距离和最大均值差异损失,以解决过拟合和噪声样本问题,提升训练稳定性并生成高质量多样样本。
2025-06-22 cs.LG stat.AP stat.CO
Maximum Mean Discrepancy with Unequal Sample Sizes via Generalized U-Statistics
University of British Columbia(不列颠哥伦比亚大学);Alberta Machine Intelligence Institute(阿尔伯塔人工智能研究所)
研究不等样本量下的MMD检验问题,通过扩展广义U统计量理论应用于MMD估计量,得到其渐近分布新特征及检验功效优化准则,保留所有数据提升检验准确性与适用性,还清晰刻画了MMD估计量方差。
2026-07-10 cs.LG math.ST stat.ME
Semiparametric Time Series Models with Log-concave Innovations: Maximum Likelihood Estimation and its Consistency
研究新息服从对数凹分布的半参数时间序列模型。我们提出了一个一般的极大似然框架,使我们能够同时估计模型的参数和创新的密度。这个框架可以很容易地适应许多著名的模型,包括ARMA,GARCH和ARMA-GARCH。此外,我们表明,我们的新框架下的估计是一致的ARMA和ARMA-GARCH设置。我们通过一个全面的模拟研究证明了它的有限样本性能,并将其应用于模拟FTSE 100指数和兔子种群的日对数收益率。
2013-07-10 stat.ME
A Semi-Bayesian Nonparametric Estimator of the Maximum Mean Discrepancy Measure: Applications in Goodness-of-Fit Testing and Generative Adversarial Networks
University of Hong Kong(香港大学);University of Maryland(马里兰大学)
针对难以处理似然的模型,提出半贝叶斯非参数MMD估计器用于拟合优度检验,并嵌入GAN框架,实现更低的错误率、增强样本多样性和推断准确性。
2023-11-10 cs.LG stat.AP stat.ME
Minimum Stein Discrepancy Estimators
Imperial College London(帝国理工学院);University College London(伦敦大学学院);University of Cambridge(剑桥大学);Microsoft Research(微软研究院)
当极大似然估计不可行时,人们往往转向得分匹配,对比发散,或最小概率流,以获得易于处理的参数估计。我们提供了一个统一的角度来看,这些技术的最小斯坦差异估计,并使用这个镜头设计新的扩散核斯坦差异(DKSD)和扩散评分匹配(DSM)估计互补的优势。我们建立了DKSD和DSM估计量的相合性、渐近正态性和稳健性,然后推导了随机黎曼梯度下降算法,使其有效地优化。我们的方法的主要优势是它的灵活性,这使我们能够设计估计与所需的属性为特定的模型在手仔细选择斯坦差异。我们说明了这一优势的分数匹配,如非光滑,重尾或轻尾密度的几个具有挑战性的问题。
2022-10-06 cs.LG math.ST stat.ME
Generative neural networks for characteristic functions
本研究提出一种基于生成式神经网络的黑盒特征函数仿真算法,利用最大均值差异度量的特定表示构造损失函数,具备维度无关、无假设的通用性,并推导了有限样本近似保证,通过仿真研究验证了方法有效性。
2024-09-16 cs.LG stat.ME stat.ML
On the asymptotic distribution of the maximum sample spectral coherence of Gaussian time series in the high dimensional regime
研究了当维数M和样本样本个数N均趋于无穷大时,M元复高斯时间序列的谱相干性的频率平滑估计的最大值的渐近分布.如果B表示基础平滑周期图估计的平滑跨度,则在速率假设M N $\rightarrow$ 0和M B $\rightarrow$ c $\in$(0,+ $\infty$)下获得I型极值极限分布。然后利用这一结果来建立一个具有受控渐近水平的统计量,用于检验所观察到的时间序列的M个分量之间的独立性。数值模拟支持我们的结果。
2021-06-24 math.PR math.ST stat.ME
Computer Model Calibration with Time Series Data using Deep Learning and Quantile Regression
University of Cincinnati(辛辛那提大学);Miami University(迈阿密大学);Argonne National Laboratory(阿贡国家实验室)
计算机模型在许多科学和工程问题中起着关键作用。计算机模型实验中不确定性的一个主要来源是输入参数不确定性。计算机模型校正是一个正式的统计过程,通过结合来自模型运行和观测数据的信息来推断输入参数。当模型输出和观测数据是高维相关数据(例如大型时间序列)时,现有的标准校准框架由于难以构建仿真器以及输入参数和数据-模型差异的影响之间的不可识别性而遭受推理问题。为了克服这些挑战,我们提出了一个新的校准框架的基础上,深度神经网络(DNN)的长期短期记忆层,直接模拟模型输出和输入参数之间的反比关系。采用“带噪声学习”的思想,我们训练我们的DNN模型,以过滤数据模型差异对输入参数推断的影响。我们还制定了一种新的方法来构建区间预测DNN使用分位数回归量化输入参数估计的不确定性。通过WRF水文模型的模拟研究和实际数据应用,我们表明,我们的方法可以得到准确的点估计和良好的校准输入参数的区间估计。
2020-09-08 cs.LG stat.ME stat.ML