Bayesian nonparametric regression using complex wavelets
本文提出了一种新的基于复小波的自适应小波去噪方法。该方法是基于一个完整的贝叶斯分层模型在复杂的小波域，使用一个双变量的混合物之前的小波系数。该过程的核心是计算性的，后验均值通过马尔可夫链蒙特卡罗（MCMC）模拟计算。我们表明，该方法具有良好的性能，通过模拟上的著名的测试功能，并通过比较一个完善的复杂的基于小波的去噪程序。还考虑了实际数据集的应用。
2018-03-07 stat.ME
Wavelet Shrinkage in Nonparametric Regression Models with Positive Noise
小波收缩估计器通过降低经验系数的大小来对小波域的数据进行去噪，在许多科学领域中得到了广泛的应用。在非参数回归问题中，大多数的收缩规则都是由带有加性高斯噪声的未知函数组成的模型推导出来的。虽然高斯噪声假设在一些实际数据分析中是合理的，主要是在大样本量的情况下，但它并不普遍。在实际应用中，正噪声污染数据是经常出现的，正噪声污染的非参数回归模型给小波收缩带来了挑战。本文在指数和对数正态分布下，利用加性和严格正噪声的非参数回归框架，提出了一种估计小波系数的贝叶斯收缩规则。计算方面进行了讨论和模拟研究，以分析所提出的收缩规则的性能，并与标准技术进行比较。最后给出了在波士顿马拉松比赛数据集上的应用.
2021-09-13 stat.ME
Joint rank and variable selection for parsimonious estimation in a high-dimensional finite mixture regression model
本文研究了高维多元响应回归模型的有限混合模型的降维技术。响应的维数和预测变量的数量都允许超过样本量。我们考虑预测器的选择和降秩，以获得低维近似。引入了一类具有快速收敛速率的估计量。我们将此结果应用于[11]中介绍的特定程序，其中相关预测因子由Group-Lasso选择。
2017-02-16 math.ST stat.TH
A Bayesian Mixture of Lasso Regressions with t-Errors
出于金融交易中的一个具有挑战性的问题，我们提出了一个混合回归与变量选择问题。在这方面，人们面临的数据具有离群值，偏度，同时，由于金融交易的性质，人们希望能够构建具有相当稀疏的特定预测因子的聚类。我们开发了一个贝叶斯混合套索回归与$t-$错误，以反映这些特定的需求。产生的模型必然很复杂，为了使模型与真实数据相匹配，我们开发了一种基于序贯蒙特卡罗（SMC）方法的最先进的粒子马尔可夫链蒙特卡罗（PMCMC）算法。模型和算法进行了研究模拟和真实数据。
2012-05-22 stat.AP
Gradient-Boosted Mixture Regression Models for Postprocessing Ensemble Weather Forecasts
针对集合天气预报校准不足的问题，提出MIXMOS、MIXSAMOS及结合梯度提升的MIXSAMOS-GB混合回归后处理模型，实现自动变量选择，在德国2米地表温度预报案例中性能显著优于现有模型。
2024-12-12 stat.AP
An \ell_1-oracle inequality for the Lasso in finite mixture of multivariate Gaussian regression models
考虑高维数据的多元有限混合高斯回归模型，其中协变量的数量和响应的大小可能远大于样本量。在Kullback-Leibler损失下，给出了Lasso估计满足的一个$\ell_1$ -oracle不等式.这个结果是Meynet在\cite{Meynet}中建立的$\ell_1$ -oracle不等式在多元情形下的推广.我们专注于Lasso的$\ell_1$ -正则化属性，而不是变量选择过程，因为它是在\cite{Stadler}的Städler中完成的。
2014-10-17 math.ST stat.TH
Finite mixture regression: A sparse variable selection by model selection for clustering
考虑高维数据的有限混合高斯回归模型，其中协变量的数目可能远大于样本量。我们建议估计未知的条件混合密度的最大似然估计，1-惩罚最大似然估计选择的相关变量的限制。我们得到了一个具有Jensen-Kullback-Leibler型损失的估计量所满足的预言不等式。我们的预言不等式推导出一个一般的模型选择定理的最大似然估计的随机模型集合。我们可以推导出该准则的惩罚形状，这取决于随机模型集合的复杂性。
2014-09-04 math.ST stat.TH
Intrinsic wavelet regression for surfaces of Hermitian positive definite matrices
本文发展了Hermitian正定矩阵曲面的内在小波去噪方法，并将其应用于多元局部平稳时间序列的时变谱矩阵的非参数估计。首先，我们构造内在平均插值小波变换直接作用在曲面黎曼流形上的Hermitian正定矩阵的表面上的仿射不变度量。其次，我们推导了Hermitian正定矩阵的内在光滑曲面的小波系数衰减和线性小波阈值的收敛速度，并在黎曼流形的内在信号加噪声模型的背景下，研究了基于迹的小波系数的实用非线性阈值。通过模拟数据评估了非线性树结构迹阈值的有限样本性能，并将所提出的固有小波方法用于估计癫痫脑发作期间记录的非平稳多变量脑电图（EEG）时间序列的时变谱矩阵。
2019-05-21 stat.ME
Intrinsic wavelet regression for curves of Hermitian positive definite matrices
介绍了Hermitian正定矩阵的非欧空间曲线的内禀小波变换和小波估计方法，并将其应用于多元平稳时间序列的Fourier谱估计。重点研究了具有仿射不变黎曼度量的正定矩阵空间中的内禀平均插值小波变换，并对Hermitian正定矩阵的内禀光滑曲线导出了线性小波阈值的收敛速度.在多变量傅立叶谱估计中，当时间序列的基发生变化时，固有小波阈值是等变的，而非线性小波阈值能够捕捉到谱密度矩阵在频率上的局部特征，始终保证正定估计。有限样本性能的内在小波阈值评估通过模拟数据，并比较几个基准估计在黎曼流形。通过检查在学习实验期间记录的试验复制的脑信号时间序列的多变量谱，提供了进一步的说明。
2019-11-10 stat.ME
Minimax wavelet estimation for multisample heteroscedastic non-parametric regression
研究了从多采样噪声曲线中估计基线信号的问题。本文考虑了功能性混合效应模型，假设功能性固定效应属于Besov类。这个框架允许我们对可能表现出强烈不规则性的曲线进行建模，例如峰值或跳跃。提供了$L_2$极小极大风险的下限，以及极小极大比率的上限，该上限是通过构建函数固定效应的小波估计量推导出来的。我们的工作构成了多样本非参数回归的第一个理论结果。我们的方法说明了现实的模拟数据集以及实验数据。
2015-11-14 stat.ME
Least Squares Wavelet-based Estimation for Additive Regression Models using Non Equally-Spaced Designs
加性回归模型在统计学领域中被积极研究，因为它们在分析由多变量预测的非线性关系确定的响应中是有用的。在这类统计模型中，响应线性地依赖于预测变量的未知函数，并且通常，分析的目标是对这些函数进行推断。本文研究了区间[0，1]上基于周期正交小波的最小二乘可加回归问题。对于这个估计，我们得到强一致性（相对于$\mathbb{L}_{2}$规范），其特征在于最佳的收敛速度的对数因子，独立的问题的维数。这是通过截断的模型估计由一个适当选择的参数，并选择用于小波展开的多分辨率水平$J$，作为一个函数的样本量。在这种方法中，我们得到这些结果，而无需假设一个均匀的设计，通常假设在大多数基于小波的程序的条件。最后，我们展示了从模拟研究和实际应用中获得的实际结果，证明了所提出的方法对非线性鲁棒可加性回归模型问题的适用性。
2018-04-06 stat.ME
On Bayesian wavelet shrinkage estimation of nonparametric regression models with stationary errors
本文提出一种基于零点质量与逻辑分布混合的贝叶斯规则，用于平稳误差非参数回归模型的小波收缩，其表现优于标准软阈值规则且对信噪比变化不敏感。
2024-04-22 stat.ME
On wavelets to select the parametric form of a regression model
设Y是与一组解释变量相关的响应变量，设f1，f2，.，fk是表示一组候选模型的一组参数形式。设f* 为k个合理模型集合中的真实模型。本文讨论用小波回归方法辅助选择回归模型的“真”参数形式，特别是非线性回归和广义线性模型的情况。在回归问题中使用非参数方法来选择更合适的参数方程在实践中将是有趣的，因为简单，因为不需要概率假设。我们评估所提出的小波过程的性能的基础上的正确的参数形式之间的一系列k候选模型的真实分类率，考虑到广泛的场景和配置，以及在实际的数据集应用。
2018-09-28 stat.CO stat.ME
Bayesian wavelet shrinkage for low SNR data based on the Epanechnikov kernel
针对低信噪比数据，提出一种基于Epanechnikov分布与零点质量混合先验的贝叶斯小波收缩规则，并验证了其统计性质及在模拟与真实EEG数据上的优越性。
2025-07-15 stat.ME
Wavelet Tree Ensembles for Triangulable Manifolds
Rice University（莱斯大学）；Computational Research Division, Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室计算研究部）；University of California Davis（加州大学戴维斯分校）；Department of Statistics & Data Science Institute, University of Chicago（芝加哥大学统计与数据科学研究所）
本文提出了一种针对可三角化流形的UH小波树集成方法，通过测地线三角化实现数据驱动的回归，显著优于传统树集成和非自适应网格小波。
2026-01-28 stat.ME
Nonlocal Prior Mixture-Based Bayesian Wavelet Regression with Application to Noisy Imaging and Audio Data
本文提出一种基于三成分尖峰-厚板先验的贝叶斯小波回归方法，结合MOM与IMOM先验并采用经验贝叶斯估计超参数，在脑电图和含噪音频数据上显著优于双成分小波方法。
2025-08-23 stat.AP stat.ME
Unified Heat Kernel Regression for Diffusion, Kernel Smoothing and Wavelets on Manifolds and Its Application to Mandible Growth Modeling in CT Images
University of Wisconsin, Madison（威斯康星大学麦迪逊分校）；National University of Singapore（新加坡国立大学）；Seoul National University（首尔大学）
我们提出了一种新的核回归框架平滑标量表面数据使用Laplace-Beltrami特征函数。从特征函数构造的热核开始，我们将一个新的二元核回归框架表述为以热核为权重的加权特征函数展开。新的核回归在数学上等价于各向同性热扩散，核平滑和最近流行的扩散小波。与许多以前的偏微分方程为基础的方法，涉及扩散，我们的方法表示扩散解析的解决方案，减少数值不准确性和收敛速度慢。数值实现验证了一个单位球使用球谐函数。作为一个例子，我们已经应用该方法在表征的局部生长模式的下颌骨表面从0岁至20岁之间的受试者的CT图像中获得的位移向量的长度相对于模板表面回归。
2015-02-17 cs.CV stat.ME
A wavelet-based method in aggregated functional data analysis
在本文中，我们考虑聚集的功能数据组成的线性组合的组成曲线和估计这些组成曲线的问题。我们提出了一个baidu小波收缩规则的基础上的混合物的点质量函数在零和逻辑斯谛分布之前，小波系数估计的平均曲线的组件。由于函数的小波基展开的特征，该过程具有估计具有重要局部特征（例如不连续性、尖峰和振荡）的分量函数的优点。仿真研究进行了评估所提出的方法的性能，并将其结果与基于样条的方法进行了比较。还提供了所谓的tecator数据集上的应用。
2022-05-31 stat.ME
Mixture of Regression Models with Single-Index
本文提出了一类单指标半参数混合回归模型。我们认为，许多最近提出的半参数/非参数混合回归模型可以被认为是所提出的模型的特殊情况。然而，与现有的半参数混合回归模型不同，新提出的模型可以轻松地将多元预测变量纳入非参数分量中。为了获得参数函数和非参数函数的最优收敛速度，提出了相应的回拟估计和算法。我们证明了非参数函数的参数估计与参数已知时具有相同的渐近精度，指数参数的估计可以用传统的参数根n收敛速度来估计.模拟研究和NBA数据的应用已经进行了证明所提出的模型的有限样本性能。
2016-02-22 stat.ME
Using mixtures in seemingly unrelated linear regression models with non-normal errors
引入了误差分布为有限高斯混合的看似无关的线性回归模型。提供了可识别性条件。导出了分数向量和Hessian矩阵。采用极大似然法进行参数估计，并开发了期望最大化算法。所提出的方法和数值评估其属性的有用性说明通过一个真实的数据集的分析。
2014-03-17 stat.ME
Repulsive g-Priors for Regression Mixtures
本文提出了一种用于回归混合的排斥性g先验，通过在马氏度量下强制分离组件，提高模型的简洁性和预测性能。
2025-12-18 stat.ME
Semiparametric Mixtures of Regressions with Single-index for Model Based Clustering
在这篇文章中，我们提出了两类半参数单指标混合回归模型的基于模型的聚类。与许多只能应用于低维预测因子的半参数/非参数混合回归模型不同，新的半参数模型可以很容易地将高维预测因子纳入非参数分量。所提出的模型是非常一般的，许多最近提出的半参数/非参数混合回归模型确实是新模型的特殊情况。为了获得参数和非参数部分的最优收敛速度，提出了反拟合估计和相应的修正期望最大化算法。我们建立了所提出的两个模型的可辨识性结果，并研究了所提出的估计程序的渐近性质。仿真研究表明，所提出的模型的有限样本性能。通过新模型对NBA数据的应用，揭示了一些新的发现。
2017-08-11 stat.ME
A k-Inflated Negative Binomial Mixture Regression Model: Application to Rate--Making Systems
本文介绍了一种k-膨胀负二项混合分布/回归模型，作为零膨胀泊松分布/回归模型的更灵活的替代。采用期望最大化算法估计模型参数。然后，将该模型与帕累托混合模型相结合，设计了一个最优费率制定系统。也就是说，本文采用了伊朗第三方保险数据集报告的索赔数量/规模。然后，它采用k-膨胀负二项混合分布/回归模型以及其他成熟的计数模型以及帕累托混合模型来模拟伊朗第三方保险数据集中报告的索赔频率/严重程度。这样的数值说明表明：（{ \bf 1}）在费率制定系统下，k-膨胀负二项混合模型为投保人提供了更公平的费率/纯保费;以及（{ \bf 2}）在投保人的过去经验中报告的索赔数量均匀分布的情况下（例如$k_1=1$和$k_2=1$而不是$k_1=0$和$k_2=2$）。k-膨胀负二项混合模型下的费率/纯保费更有吸引力且更容易接受。
2017-01-19 stat.ME
Semiparametric Mixture Regression with Unspecified Error Distributions
在混合线性回归模型的拟合中，传统的方法是采用正态假设来建立误差模型，然后用极大似然估计来估计回归参数。如果违反了正常假设，则此程序无效。为了放松误差分布的正态假设，从而降低建模偏差，我们提出了具有未知误差分布的半参数混合线性回归模型。在比已有结果更弱的条件下，我们建立了一个更一般的可辨识性结果，构造了一类新的估计量，并建立了它们的渐近性质。这些渐近结果也适用于许多现有的半参数混合回归估计的渐近性质仍然未知，由于在获得它们的固有困难。利用模拟研究，我们证明了所提出的估计的优越性超过极大似然估计时，违反了正常的错误假设和可比性时，错误是正常的。对2017年新收集的马传染性贫血病毒数据进行分析，以说明新估计量的有效性。
2018-11-02 stat.ME
A Mixture of Linear-Linear Regression Models for Linear-Circular Regression
我们介绍了一种新的方法，线性循环回归问题，涉及多个线性预测的循环响应。我们遵循一个包裹的正态分布，描述角变量和角分布的建模方法，并提出了一个线性-圆形回归分析。以往的一些工作将圆形变量建模为二元高斯随机向量在单位正方形上的投影，并且所得到的模型的统计推断涉及复杂的采样步骤。该模型将圆形响应视为对未观测到的线性响应进行取模运算的结果。所得到的模型是多个线性-线性回归模型的混合。本文给出了混合模型极大似然估计的两种期望最大化算法，一种用于参数模型，另一种用于非参数模型。估计算法提供了一个很大的计算和估计精度之间的权衡，这是用五个数值例子数值显示。所提出的方法被应用到一个问题，估计风向，通常表现出复杂的模式与大的变化和圆形。
2019-09-15 stat.ME
Sparse Wavelet Estimation in Quantile Regression with Multiple Functional Predictors
本文研究了部分函数线性模型中的分位数回归问题，其中响应是标量，预测变量既包括标量又包括多个函数。采用小波基更好地逼近函数斜率，同时有效地检测局部特征。稀疏组套索惩罚施加到选择重要的功能预测，同时捕获共享的信息之间。估计问题可以转化为一个标准的二阶锥规划，然后用内点方法求解。我们还提出了一种新的算法，利用交替方向法的乘数（ADMM），这是最近许多研究人员在解决惩罚分位数回归问题。建立了算法的收敛速度和预测误差界等渐近性质。仿真和一个实际的数据从ADHD-200 fMRI数据进行调查，以显示我们提出的方法的优越性。
2017-12-02 math.ST stat.AP stat.CO
Mixture regression for observational data, with application to functional regression models
在回归分析中，假设我们怀疑样本所代表的总体中存在几个异质群体。混合回归模型已被应用于解决这些问题。通过将协变量作为混合变量对响应的条件分布进行建模，可以将样本聚类到组中，并同时估计各组的个体回归模型。该方法将协变量视为确定性的，使得协变量不携带关于受试者可能属于哪个组的信息。虽然这种假设在协变量完全由实验者确定的实验中可能是合理的，但在观察数据中，协变量在各组中的表现可能不同。因此，该模型还应包含协变量的异质性，这使我们能够从协变量中估计受试者的成员资格。在本文中，我们考虑一个混合回归模型，其中响应和协变量的联合分布被建模为混合。给定协变量的一个新的观测值，这种方法允许我们计算受试者属于每个组的后验概率。使用这些后验概率，响应的预测可以自适应地使用协变量。我们介绍了这种方法的推理过程，并显示其性质的估计和预测。该模型探讨了函数协变量以及多变量协变量。我们提出了一个真实数据的例子，我们的方法优于传统的方法，使用分析良好的伯克利增长研究数据。
2013-06-30 stat.ME
Confidence ellipsoids for regression coefficients by observations from a mixture
线性回归系数的置信椭圆是由不同浓度的混合物的观测值构造的。两种方法进行了讨论。第一种是基于加权最小二乘技术的非参数方法。第二种是近似的极大似然估计，应用EM算法进行估计计算。
2018-06-11 stat.ME
A bayesian wavelet shrinkage rule under LINEX loss function
本文针对具有高斯误差的非参数回归模型，提出了一种基于非对称LINEX损失函数的贝叶斯小波收缩规则，采用零点质点与逻辑斯蒂分布的混合先验，推导了其统计性质，并通过模拟和红外光谱数据验证了其有效性。
2023-07-26 stat.ME
Structured Mixture of Continuation-ratio Logits Models for Ordinal Regression
提出一种基于延续比率Logit混合的非参数贝叶斯序数回归方法，利用Pólya-Gamma数据增广实现高效后验模拟，避免了协变量效应的线性假设。
2024-03-22 stat.ME
Wavelet shrinkage based on the raised cosine prior
提出基于零点质量与升余弦分布混合先验的贝叶斯小波收缩规则，用于高斯误差非参数回归估计，在特定信噪比与样本量下优于既有方法并验证统计性质。
2025-07-14 stat.ME
Robust Bayesian model selection for heavy-tailed linear regression using finite mixtures
在本文中，我们提出了一种新的方法来执行重尾分布的线性模型的贝叶斯模型选择。我们考虑一个有限的混合分布模型的潜在变量，其中每个组成部分的混合物对应于一个可能的模型内的对称类的正态独立分布。当然，高斯模型是其中一种可能性。这允许基于每个模型的后验概率进行同时分析。推理是通过马尔可夫链蒙特卡罗-吉布斯抽样与大都会黑斯廷斯步骤的一类参数。模拟的例子突出了这种方法的优势相比，隔离分析的基础上任意选择的模型选择标准。给出了真实数据的示例，并介绍和讨论了对截尾线性回归的扩展。
2017-08-18 stat.ME
Nonparametric contaminated Gaussian mixture of regressions
本文提出半参数和非参数污染高斯回归混合模型，通过EM和ECM算法实现鲁棒估计，用于观测聚类和异常值检测。
2026-01-10 stat.ME
Log-Regularly Varying Scale Mixture of Normals for Robust Regression
由于潜在的离群值，对误差分布采用经典正态假设的线性回归可能导致回归系数的不良后验推断。本文将具有薄尾和重尾的两个分量的有限混合作为误差分布，这在应用统计学中是经常使用的。对于重尾分量，我们引入了一类新的分布;它们的密度是对数规则变化的，并且比柯西分布具有更重的尾部，但它们表示为正态分布的尺度混合，并且能够通过Gibbs采样器进行有效的后验推断。我们证明了鲁棒性的离群值的后验分布在所提出的模型与最小的一组假设，这证明了使用收缩先验与无界密度的系数向量存在离群值。通过仿真研究与现有方法进行了广泛的比较，结果表明，该模型在点估计和区间估计方面的性能以及计算效率都有所提高。此外，我们证实了我们的方法的后验稳健性的实证研究与收缩先验的回归系数。
2021-01-09 stat.ME
Robust estimation of mixtures of regressions with random covariates, via trimming and constraints
本文给出了一类混合线性回归的稳健估计。稳健性是基于联合采用聚类加权模型和基于修剪和限制的估计量。所选模型提供每组响应的条件分布（如混合回归），并进一步提供解释变量的局部分布。一个新的版本的限制已经设计出来，在这个模型下，分别控制两个来源的变异性确定it.This建议避免奇异的对数似然，造成近似的本地共线性的解释变量或本地精确拟合回归，并减少发生虚假的本地最大化。由于模型和估计量之间的相互作用，该过程能够以一种自然的方式抵抗沿着混合回归估计的不良杠杆点的有害影响，这在文献中仍然是一个开放的问题。给定的方法定义了一个适定的统计问题，其估计存在，并一致的人口最优相应的解决方案，在广泛的一般条件下。并给出了一种可行的期望最大化算法来获得相应的估计。许多模拟的例子和两个真实的数据集已被选中，以显示该程序的能力，一方面，检测异常数据，另一方面，以确定真正的集群回归没有污染的影响。
2015-02-04 stat.ME
Unsupervised Liu-type Shrinkage Estimators for Mixture of Regression Models
在许多应用中（例如，医学研究），感兴趣的群体（例如，疾病状态）包括异质亚群。混合概率回归模型是将协变量信息引入总体异质性学习的最常用方法之一。尽管它的灵活性，该模型可能会导致不可靠的估计存在多重共线性问题。在本文中，我们开发了Liu型收缩方法，通过无监督学习方法来估计多重共线性模型的系数。所开发的方法的性能进行评估，通过分类和随机版本的期望最大化算法。数值研究表明，所提出的方法优于他们的岭和极大似然同行。最后，所开发的方法被应用于分析50岁及以上的妇女的骨矿物质数据。
2022-09-10 stat.ME
Unsupervised Learning of Mixture Regression Models for Longitudinal Data
研究了重复测量个体的混合回归模型的学习问题。形容词“无监督”意味着混合成分的数量是未知的，必须由数据驱动工具来确定。为此，提出了一种新的惩罚方法，同时选择混合组分的数量，并估计混合比例和未知参数的模型。所提出的方法是能够处理连续和离散响应，只需要前两个时刻的条件下的模型分布。它被证明是一致的，在选择的组分数量和估计的混合比例和未知的回归参数。此外，一个修改的期望最大化算法开发无缝集成模型选择和估计。仿真研究进行评估所提出的程序的有限样本性能。并通过对原发性胆汁性肝硬化数据集的分析进一步说明。
2018-01-08 stat.ME
Frequentist and Bayesian inference for Gaussian-log-Gaussian wavelet trees, and statistical signal processing applications
我们引入新的估计方法的子类的高斯尺度混合模型的小波树Wainwright，Simoncelli和Willsky依赖于现代的结果，复合似然和近似贝叶斯推理。我们的方法说明在二维图像中的去噪和边缘检测问题。
2017-08-10 math.ST stat.ME stat.TH
Mean regression for (0,1) responses via beta scale mixtures
University of Pretoria（比勒陀利亚大学）；University of the Witwatersrand（威特沃特斯兰德大学）
本文提出beta尺度混合模型，用于更灵活地建模(0,1)响应，通过引入混合随机变量控制尾部行为，提升skewness和kurtosis的适应性，在模拟和真实数据上验证了其优于传统方法的性能。
2026-02-09 stat.ME
A quantile-based g-computation approach to addressing the effects of exposure mixtures
提出分位数g-computation方法估计暴露混合物联合效应，结合WQS回归简单性和g-computation灵活性，在常见场景下无偏估计并优于WQS回归，为公共卫生干预提供支持。
2020-03-11 stat.ME
Quantile Regression Modelling via Location and Scale Mixtures of Normal Distributions
我们发现，分位数回归的估计方程可以解决使用一个简单的期望最大化算法，其中M-步骤通过加权最小二乘法计算，在E-步骤计算的权重作为独立的广义逆高斯变量的期望。我们使用核密度估计器计算分位数回归系数的方差-协方差阵，该估计器产生比现有软件产生的标准误更稳定的标准误差。期望最大化算法的自然修改涉及在M步拟合线性混合模型，将方法扩展到混合效应分位数回归模型。在这种情况下，拟合方法可以被证明为广义交替最小化算法。通过加权最小二乘法获得分位数回归估计值可实现与线性回归设置中使用的模型诊断技术类似的模型诊断技术。与现有的软件，使用模拟数据的计算方法进行比较，并说明了几个案例研究的方法。
2021-06-28 stat.ME
Mixture Quantiles Estimated by Constrained Linear Regression
Stony Brook University（石溪大学）
本文提出了一种通过约束线性回归估计混合分位数的方法，能够高效建模分布的中央部分和极端尾部。
2026-02-03 stat.ME
Identifying regime switches through Bayesian wavelet estimation: evidence from flood detection in the Taquari River Valley
针对传统双成分混合模型权重恒定的局限性，提出基于MCMC的动态权重混合模型估计算法，经模拟验证后应用于塔夸里河洪水检测，可准确描述洪水状态。
2023-10-07 stat.AP stat.ME
Robust mixture regression with Exponential Power distribution
假设指数幂分布是处理回归和聚类中离群值的一种方法，这可以增加分析的鲁棒性。高斯分布是指数分布的一种特殊情况。指数幂分布可以看作是正态分布的尺度混合。因此，模型选择方法开发的高斯混合模型可以很容易地扩展到指数幂混合模型。此外，高斯混合模型在实际情况下倾向于选择比指数幂混合模型更多的分量，这意味着指数幂混合模型更容易解释。本文研究了误差服从指数幂次分布的混合回归模型。它对异常值具有鲁棒性，并且模型选择易于实现。
2020-12-19 stat.CO stat.ME
Data augmentation for non-Gaussian regression models using variance-mean mixtures
我们使用正态方差均值混合理论，推导出一类常见的正则化问题的数据增强方案。这推广了回归和分类中先验正态方差混合的现有理论。它还允许期望最大化算法的变体被带到比以前认识到的更广泛的模型上。我们演示了几个例子，包括稀疏分位数回归和二元逻辑斯谛回归的方法。我们还表明，拟牛顿加速可以大大提高算法的速度，而不影响其鲁棒性。
2012-09-22 stat.CO stat.ME
Fuzzy sets in nonparametric Bayes regression
一个简单的贝叶斯方法非参数回归描述使用模糊集和隶属函数。隶属函数被解释为未知回归函数的似然函数，因此借助于参考先验，它们可以被转换为先验密度函数。未知的回归函数被分解成小波和分层贝叶斯方法是用于对所得到的小波系数进行推断。
2008-05-21 math.LO math.ST stat.ME
Liu-type Shrinkage Estimators for Mixture of Logistic Regressions: An Osteoporosis Study
针对混合逻辑回归模型中多重共线性导致最大似然估计不可靠的问题，本研究开发了岭估计器和Liu型估计器等收缩方法，数值研究及50岁及以上女性骨质疏松应用均证实该方法能提供更可靠的系数估计。
2023-09-07 stat.CO stat.ME
Families of Parsimonious Finite Mixtures of Regression Models
回归模型的有限混合为研究具有函数依赖关系的数据的异质性提供了灵活的框架。这些模型可以方便地用于具有明确回归关系的数据的无监督学习。我们通过对多元误差协方差阵进行特征分解来扩展这种模型。通过约束部分分解，我们得到了简约的回归混合和伴随变量的回归混合的家庭。这些模型家族解释了多个响应之间的相关性。提出了一种期望最大化算法用于参数估计，并在模拟和实际数据上说明了该算法的性能。
2013-12-02 stat.CO stat.ME stat.ML
Robust mixture regression based on the skew t distribution
在这项研究中，我们提出了一个强大的混合回归过程的基础上偏t分布模型重尾和/或偏误的混合回归设置。利用斜t分布的尺度混合表示，我们给出了一个期望最大化（EM）算法来计算感兴趣的参数的最大似然（ML）估计。模拟研究和实际数据的例子证明了所提出的估计的性能。
2015-12-01 math.ST stat.ME stat.TH
A semiparametric scale-mixture regression model and predictive recursion maximum likelihood
为了避免在回归模型中对误差分布的指定，我们提出了一个一般的非参数尺度混合模型的误差分布。对于拟合这样的混合物，预测递归方法是现有方法的一种简单且计算效率高的替代方法。我们定义了一个基于预测递归的边缘似然函数，通过最大化这个函数来估计回归参数。为此提出了一种混合预测递归算法--期望最大化算法。在仿真和实际数据分析中，该方法的性能与现有的方法进行了比较。
2015-09-01 stat.CO stat.ME
On an estimator achieving the adaptive rate in nonparametric regression under $L^p$-loss for all $1\leq p \leq \infty$
考虑$L^p$ -损失下的非参数函数估计。在一个光滑度指数为$β$的Hölder球上估计回归函数的极大极小化率为$n^{-β/(2β+1)}$，如果是$1\leq p<\infty$，而$(n/\log n)^{-β/(2β+1)}$，如果是$p=\infty.$有许多已知的方法可以在$p=\infty$上达到这个速率，但在$p<\infty$上通过$\log n$因子是次优的，或者相反。在这篇文章中，我们构建了一个估计，同时达到最佳率下$L^p$ -风险所有$1\leq p\leq \infty$没有先验知识的$β.$相比，经典的小波阈值方法，杀死小的经验小波系数，并保持大的，它是必不可少的同时适应，在每个分辨率水平上，最大的经验小波系数被截断。这导致了一个完全不同的观点小波阈值。在估计器的建设中的关键部分是截断水平的大小，这是链接到未知的平滑指数。虽然平滑度指数的估计是一项艰巨的任务，但有一个数据驱动的截断水平选择，对于我们的目的来说足够精确。
2015-02-07 math.ST stat.ME stat.TH
Statistical inference with anchored Bayesian mixture of regressions models: A case study analysis of allometric data
针对哺乳动物脑质量与身体质量异速生长关系的线性模型拟合问题，提出用案例影响诊断选择锚点的锚定贝叶斯回归混合模型，并通过真实数据与模拟比较三种锚定方法。
2023-06-08 stat.AP stat.ME
Moment-based Estimation of Mixtures of Regression Models
回归模型的有限混合为许多现象提供了灵活的建模框架。使用矩为基础的估计的回归参数，我们开发无偏估计的混合成分的假设最少。特别地，只需要混合模型中的一个分量的平均回归模型，并且对分布没有要求。估计量的一致性和渐近分布推导和所提出的方法是通过一系列的模拟研究进行验证，并被证明是高度准确的。我们说明了使用的时刻为基础的混合回归模型与应用程序的葡萄酒质量数据。
2019-05-15 math.ST stat.AP stat.ME
Component-wise Adaptive Trimming For Robust Mixture Regression
Purdue University（普渡大学）；Indiana University（印第安纳大学）；Indiana University School of Medicine（印第安纳大学医学院）
混合回归模型的参数估计采用期望最大化（EM）算法，对异常值非常敏感。在这里，我们提出了一种快速，高效的鲁棒混合回归算法，称为逐行自适应修剪（CAT）方法。我们考虑同时离群检测和鲁棒参数估计，以尽量减少离群污染的影响。稳健混合回归具有许多重要的应用，包括人类癌症基因组学数据，其中群体通常显示出由不必要的技术扰动增加的强烈异质性。现有的稳健混合回归方法要么在存在离群值的情况下进行参数估计，要么依赖于离群值污染水平的先验知识，因此受到离群值的影响。CAT是在分类期望最大化的框架内实施的，在此框架下，可以得出离群值的自然定义。它实现了一个最小的修剪平方（LTS）的方法在每个排他性的混合成分，其中的鲁棒性问题可以从混合的情况下，简单的线性回归的情况下。LTS方法的高击穿点允许我们避免预先指定微调参数。与现有的多种算法相比，CAT是最有竞争力的一个，可以处理和自适应修剪离群值以及重尾噪声，在不同的场景下的模拟数据和真实的基因组数据。CAT已在CRAN中可用的R包“RobMixReg”中实现。
2021-04-19 cs.LG stat.ME
