Optimal shrinkage estimation in heteroscedastic hierarchical linear models
该研究针对存在线性预测变量的异方差分层回归场景，提出基于无偏风险估计的参数与半参数收缩估计量，证明其均方误差下的渐近最优性，经模拟与真实数据验证效果良好。
2015-03-21 stat.ME
Optimal High-Dimensional Shrinkage Covariance Estimation for Elliptical Distributions
本文给出了一个最优收缩样本协方差阵（SCM）估计器，它适用于高维问题和从一个非指定的椭圆对称分布采样时。具体来说，我们推导出最佳（oracle）收缩参数，获得最小的均方误差（MMSE）之间的收缩SCM和真正的协方差阵从椭圆分布采样时。随后，我们展示了如何在随机矩阵理论下一致地估计预言收缩参数。仿真结果表明，所提出的估计的优势，由于Ledoit和Wolf（2004）的传统收缩SCM估计。建议收缩SCM估计往往提供了显着更好的性能比Ledoit-Wolf估计，并具有的优点，即一致性保证在整个类的椭圆分布有限的四阶矩。
2017-06-30 stat.ME
High-dimensional Portfolio Optimization using Joint Shrinkage
我们考虑优化金融资产的投资组合的问题，其中资产的数量可以远远大于观察的数量。最优投资组合权重需要估计超额资产收益的逆协方差矩阵，经典的解决方案在高维情况下表现不佳。我们建议使用基于回归的联合收缩方法来估计资产之间的偏相关性。广泛的模拟研究表明，所提出的方法的优越性能的方差，权重和风险估计误差相比，竞争的方法，全球最小方差投资组合和Markowitz均值-方差投资组合。我们还证明了我们的方法对标准普尔500指数成分股的日收益和月收益的出色实证表现。
2021-09-24 q-fin.PM stat.AP
Small Area Predictors with Dual Shrinkage of Means and Variances
本文研究了具有随机离差的Fay-Herriot型区域水平模型中的小区域估计问题，该模型模拟了抽样误差随区域变化的情况。由此产生的贝叶斯估计缩小了均值和方差，但需要数值计算来提供估计。本文提出了一种封闭形式的近似经验贝叶斯（AEB）估计。模型参数采用矩量法估计，AEB的均方误差采用单参数自助法估计。文中还给出了均方误差的基准估计量和二阶无偏估计量。
2015-07-29 stat.ME
A shrinkage estimation for large dimensional precision matrices using random matrix theory
本文提出了精度矩阵的一种新的岭型收缩估计。导出了渐近最优收缩系数和理论损失。基于随机矩阵理论的渐近结果，对收缩系数进行了数据驱动的估计。新的估计量具有简单的显式公式，是分布自由的，适用于观测维数大于样本量的情况。此外，无需对总体协方差阵或精密度矩阵的结构进行假设。最后，进行数值研究，以检查性能的新估计和现有的方法，为广泛的设置。
2019-09-03 stat.ME
Bayesian Fusion Estimation via t-Shrinkage
收缩先验在许多数据分析中取得了很大的成功，但其应用主要集中在稀疏参数的贝叶斯建模。在这项工作中，我们将贝叶斯收缩模型的高维参数，拥有一个未知的块结构。我们建议在此之前进行重尾收缩，例如，$t$先验，并且这样的融合先验将使连续的差异朝向零收缩，因此引起后阻滞。与传统的基于Laplace融合先验的贝叶斯融合套索算法相比，$t$融合先验具有更强的收缩效应和良好的后验一致性。仿真研究和实际数据分析表明，$t$融合具有优于频率论融合估计和贝叶斯拉普拉斯融合先验的性能。将这种$t$融合策略进一步发展，进行贝叶斯聚类分析，仿真结果表明，该算法比经典Dirichlet过程建模具有更好的后验分布收敛性。
2018-12-27 stat.ME
Robust Shrinkage Estimation of High-dimensional Covariance Matrices
我们解决了椭圆分布样本的高维协方差估计，这也被称为球不变随机向量（SIRV）或复合高斯过程。具体来说，我们考虑收缩方法，适用于高维问题的少量样本（大$p$小$n$）。我们从一个经典的稳健协方差估计器[Tyler（1987）]开始，该估计器在椭圆分布族中是分布自由的，但在$n<p$时不适用。使用收缩系数，我们正则化泰勒的不动点迭代。我们证明了，对于所有的$n$和$p$，建议的不动点迭代收敛到一个唯一的极限，而不管初始条件。接下来，我们提出了一个简单的，封闭的形式和数据依赖的收缩系数，这是基于最小的均方误差框架的选择。仿真结果表明，该方法具有较低的估计误差，对重尾样本具有较好的鲁棒性。最后，作为一个现实世界中的应用程序，我们展示了所提出的技术的活动/入侵检测使用无线传感器网络的背景下的性能。
2010-09-27 stat.ME
Non-parametric shrinkage mean estimation for quadratic loss functions with unknown covariance matrices
本文在已知二次损失函数和未知协方差阵的情况下，提出了总体均值的收缩估计。新的估计量是非参数的，因为它不假设数据的特定参数分布，也不需要关于总体协方差阵的先验信息。分析结果的改进建议的收缩估计，并得到一些相应的渐近性质。最后，我们通过广泛的模拟研究和实际数据分析证明了所提出的方法比现有方法的实际改进。关键词：高维数据;收缩估计;大$p$小$n$ ; $U$ -统计量。
2014-11-06 stat.ME
R-NL: Covariance Matrix Estimation for Elliptical Distributions based on Nonlinear Shrinkage
本文提出R-NL方法，将Tyler稳健估计与非线性收缩结合，用于椭圆分布协方差矩阵估计，兼具对重尾和高维的稳健性，并通过理论收敛性证明、模拟和实证验证了其优越性能。
2023-05-03 stat.ME
Bayesian Variable Selection and Estimation Based on Global-Local Shrinkage Priors
本文研究了具有全局-局部收缩先验的线性回归模型的贝叶斯变量选择问题。我们提出了一个变量选择程序，选择一个变量，如果后验均值的比例，相应的系数的普通最小二乘估计大于$1/2$。在正交设计的假设下，证明了当局部参数具有多项式尾先验时，该方法具有预言性质，即可以同时获得变量选择的一致性和最优估计率.然而，如果相反，指数尾先验被用于局部参数，所提出的方法不具有预言属性。
2016-05-25 stat.ME
Bounds for the weight of external data in shrinkage estimation
元分析框架中的收缩估计可用于促进信息的动态借用。这个框架可以用来根据以前的数据分析一项新的研究，这些数据可能在设计上有所不同（例如，随机对照试验（RCT）和临床登记）。我们展示了如何常见的研究权重出现在效果和收缩估计，以及如何将这些推广到贝叶斯荟萃分析的情况下。接下来，我们开发简单的方法来计算权重的界限，以便可以先验地评估外部证据的贡献。这些考虑因素的说明和讨论使用数值的例子，包括应用程序在治疗克雅氏病和胎儿监护，以防止发生代谢性酸中毒。目标研究对所得估计值的贡献显示为有界。因此，对证据容易被外部数据淹没的担忧在很大程度上是没有根据的。
2020-11-18 stat.ME
Shrinkage Estimation and Selection for Multiple Functional Regression
泛函线性回归是简单线性回归的一种有效推广，已被许多学者所研究。然而，与多元线性回归中的函数变量选择问题相对应的多个函数观测值存在时的函数变量选择问题却很少被研究。在这里，我们提出了一种方法，使用组平滑剪切绝对偏差惩罚（gSCAD），可以同时进行回归估计和变量选择。我们证明了该方法可以一致地识别真实模型，并讨论了函数系数估计的逐点置信区间的构造。我们的方法和理论验证了模拟研究以及光谱数据的应用。
2011-08-19 stat.ME
Tuning-Free Covariance-Aware Sequential Shrinkage for Multi-Source Estimation
College of Business, City University of Hong Kong（香港城市大学商学院）；Stern School of Business, New York University（纽约大学斯特恩商学院）；Department of IEOR and Data Science Institute, Columbia University（哥伦比亚大学工业工程与运筹学系及数据科学研究所）；Daniels School of Business, Purdue University（普渡大学丹尼尔斯商学院）
提出一种免调参的协方差感知收缩框架，利用协方差信息构造收缩方向，通过序贯算法逐步收缩至各源数据，在温和条件下渐近达到最优风险，并推广至一般光滑M估计问题。
2026-09-22 stat.ME
Post Selection Shrinkage Estimation for High Dimensional Data Analysis
在高维数据环境中，$p\gg n$，许多惩罚正则化方法进行了研究，同时变量的选择和估计。然而，由于弱效应协变量的存在，许多现有的变量选择方法，包括Lasso及其衍生方法，无法区分弱贡献和无贡献的协变量。因此，仅基于选定协变量的子集模型的预测可能是低效的。在本文中，我们提出了一个后选择收缩估计策略，以提高选择子集模型的预测性能。这种后选择收缩估计器（PSE）是数据自适应的，并且通过在所选择的候选子集的方向上收缩后选择加权脊估计器来构造。在渐近分布二次风险准则下，分析了其预测性能。我们表明，建议后选择PSE表现优于后选择加权岭估计。更重要的是，它显著提高了从大多数现有的Lasso型变量选择方法中选择的任何候选子集模型的预测性能。通过仿真研究和实际数据分析，证明了后选择PSE的相对性能。
2016-03-23 stat.ME
Estimation of clusterwise linear regression models with a shrinkage-like approach
文献中已经提出了有限混合法域中极大似然估计的约束方法。提出了一种完全依赖于数据约束的聚类线性回归极大似然估计方法，推广了等变数据驱动的有限高斯混合估计方法.该方法对分量方差施加合理的界限，基于从数据估计的目标值，我们将其视为同方差方差。然而，目前的工作不仅集中在分类恢复，而且如何以及模型参数估计。特别是，该文件揭示了收缩样的解释的过程中，目标是同方差模型：这不仅关系到如何接近目标的估计尺度，但扩展到估计聚类线性回归和分类。我们表明，基于模拟和基于真实数据的结果，我们的方法产生一个最终的模型是最合适的异方差模型和同方差模型之间的数据妥协。
2016-11-10 stat.ME
Shrinkage Tuning Parameter Selection in Precision Matrices Estimation
最近的文献提供了许多计算和建模方法的协方差阵估计的惩罚高斯图模型，但相对较少的研究已经进行了调整参数的选择。本文试图通过关注使用惩罚似然方法估计稀疏精度矩阵时的收缩参数选择问题来填补这一空白。在这方面，以前的方法通常使用K折交叉验证。在本文中，我们首先推导出的广义近似交叉验证调整参数的选择，这不仅是一个更有效的计算替代，但也实现了更小的误差率模型拟合相比，留一交叉验证。为了在精度矩阵中选择非零项的一致性，我们采用了贝叶斯信息准则，该准则可证明地可以识别高斯模型中的非零条件相关性。我们的模拟表明，这两个建议的选择器相比，留一交叉验证，十倍交叉验证和赤池信息准则的一般优越性。
2009-09-07 stat.ME
On Improved Loss Estimation for Shrinkage Estimators
令$X$是具有分布$P_θ$的随机向量，其中$θ$是未知参数。当在损失函数$L(θ,φ)$下通过某种估计量$φ(X)$估计$θ$时，经典决策理论主张，如果这样的决策规则对于频率论风险$R(θ,φ)$具有合适的性质，则应该使用这样的决策规则。然而，在观测$X=x$之后，在实践中出现了这样的情况，即$φ$应伴随其损失评估$L(θ,φ(x))$，这是不可观测的，因为$θ$是未知的。这种评估的常用方法是考虑通过估计量$δ$（称为损失估计量）估计$L(θ,φ(x))$。我们提出了一个简要的发展损失估计的设置，其中的分布背景是正常的，其扩展的情况下，基本分布是球对称的实质性的重点。我们的概述涵盖了改进的最小二乘损失估计，但主要集中在收缩估计。贝叶斯估计也被认为是与无偏估计的比较。
2012-03-22 stat.ME
Bayesian Covariance Estimation for Multi-group Matrix-variate Data
针对小样本多组矩阵变量数据协方差估计的方法选择难题，提出可同时实现跨组合并收缩与组内Kronecker结构收缩的分层先验，在语音识别等场景验证了效用。
2024-03-07 stat.ME
Large-Scale Shrinkage Estimation under Markovian Dependence
我们考虑的问题，同时估计的序列的相关参数，产生的隐马尔可夫模型。基于观察噪声污染的观测向量从这样的序列模型，我们考虑同时估计的所有参数，而不管其隐藏状态下的平方误差损失。我们研究了统计收缩的作用，以改善这些相关参数的估计。由于对未知的底层隐马尔可夫模型的分布特性完全不可知，我们开发了一种新型的非参数收缩算法。我们所提出的方法优雅地结合了基于\textit{Tweedie}的非参数收缩思想，有效地估计马尔可夫依赖下的隐藏状态。基于广泛的数值实验，我们建立优越的性能，我们提出的算法相比，非收缩的最先进的参数以及隐马尔可夫模型中使用的非参数算法。我们提供了我们的方法的决策理论属性，并表现出其增强的功效，流行的收缩方法下建立的独立。我们展示了我们的方法在真实世界数据集上的应用，用于分析时间依赖的社会和经济指标，如搜索趋势和失业率，以及估计空间依赖的拷贝数变异。
2020-03-12 stat.ME stat.ML
On Bayesian wavelet shrinkage estimation of nonparametric regression models with stationary errors
本文提出一种基于零点质量与逻辑分布混合的贝叶斯规则，用于平稳误差非参数回归模型的小波收缩，其表现优于标准软阈值规则且对信噪比变化不敏感。
2024-04-22 stat.ME
Shrinkage estimation of large covariance matrices using multiple shrinkage targets
协方差矩阵的线性收缩估计量--由样本协方差阵的加权平均值和预先指定的收缩目标矩阵定义--在分析高通量分子数据时很受欢迎。然而，它们的业绩在很大程度上取决于目标矩阵的适当选择。本文介绍了一类更灵活的线性收缩估计，可以容纳多个收缩目标矩阵，直接占目标选择的不确定性。这是在共轭贝叶斯框架内完成的，这在计算上是有效的。使用模拟和真实数据，我们表明，该估计是不太敏感的目标误指定，可以优于国家的最先进的（非参数）单目标线性收缩估计。使用来自癌症蛋白质组图谱的蛋白质表达数据，我们说明了如何将多个先验信息来源（从30多种不同的癌症类型中获得）纳入所提出的多目标线性收缩估计器中。特别是，它表明，目标特定的权重可以提供洞察癌症类型之间的差异和相似性。用于该方法的软件可以在http://github.com/HGray384/TAS作为R包免费获得。
2018-09-21 stat.AP stat.ME
Unified implementation and comparison of Bayesian shrinkage methods for treatment effect estimation in subgroups
Data Science and Analytics, Roche, Basel, Switzerland（罗氏，巴塞尔）；Clinical Statistics and Analytics, Bayer BCC AG, Basel, Switzerland（拜耳 BCC AG，巴塞尔）；Indivi AG, Basel, Switzerland（Indivi AG，巴塞尔）
本文比较了单向和全局收缩方法在连续、二分类、计数和时间到事件终点中的表现，证明收缩方法在均方误差和识别非有效亚组方面优于传统方法。
2026-08-31 stat.ME
Core Shrinkage Covariance Estimation for Matrix-variate Data
随机矩阵的可分离协方差模型提供了矩阵行与列之间的协方差的简约描述，并允许以非常小的样本量进行基于似然的推断。然而，在许多应用中，精确可分性的假设不太可能得到满足，并且使用可分离模型的数据分析可能会忽略或歪曲数据中的重要依赖模式。在这篇文章中，我们提出了一个折衷的可分离和非结构化的协方差估计。我们展示了如何设置的协方差阵可以唯一参数化的一组可分离的协方差阵和一个互补的“核心”协方差阵，其中的核心可分离的协方差阵的单位矩阵。该参数化定义了协方差阵的克罗内克核分解。通过经验Bayes方法对样本协方差阵的核进行收缩，得到了一个能适应总体协方差阵可分性的估计量.
2022-07-25 stat.ME
Shrinkage Estimation in Multilevel Normal Models
这篇评论追溯了理论的演变，开始时查尔斯斯坦在1955年[在Proc。数学统计学家可能吧I（1956）197- 206，Univ. California Press]表明，使用来自$k\ge3$正常群体的每个单独的样本均值来估计其自身的群体平均值$k\ge3$可以对每个可能的$μ=(μ_1,...,μ_k)'$均匀地改进。主要估计量，这里称为“模型I极大极小”，可以通过向任何常数向量收缩样本均值来找到。Stein等人基于随机效应模型（此处为“模型II”）作为后验均值推导出可容许的极小极大收缩估计量，其中$μ_i$值具有其自身的分布。第2节集中在图2，它组织了未知的II级超参数的广泛类别的先验，这些超参数已被证明在“等方差情况下”产生可容许的模型I极大极小收缩估计。“在II级方差上放置一个平坦的先验在这类方差中是独一无二的，因为它具有标度不变性和共轭性，并且它在$μ_i$上引入了Stein的调和先验（SHP）。
2012-03-26 stat.ME
Least Squares and Shrinkage Estimation under Bimonotonicity Constraints
在本文中，我们描述了有效的集类型的算法，最小化的光滑函数一般顺序约束下，一个重要的情况下，双单调的r-由-s矩阵的集合上的功能。这些算法可以用于例如经由最小二乘法或最小绝对偏差（的平滑近似）来估计双单色调回归函数。另一个应用是图像去噪中的收缩估计，或者更一般地，在以合适的基础表示数据之后具有两个有序因子的回归问题，该基础由{1，.，r}x{1，.，s}。各种数值例子说明我们的方法。
2009-01-26 stat.CO stat.ME
Designing Experiments Toward Shrinkage Estimation
我们考虑如何利用越来越多的观察数据来改进随机对照试验（RCT）的设计。我们试图设计一个前瞻性随机对照试验，目的是使用经验贝叶斯估计量来缩小我们试验的因果估计量，使其接近从观察性研究中获得的因果估计量。我们问：我们如何设计实验以更好地补充这种环境下的观察性研究？我们建议使用一个估计，缩小RCT因果估计的每个组成部分向其观测对应的一个因素成比例的方差。首先，我们证明了这个估计的风险可以通过数值积分有效地计算。然后，我们提出了算法，以确定最佳分配的单位层（最好的“设计”）。我们考虑三种选择：奈曼分配;一种是“朴素”设计，假设观察性研究中没有未测量的混杂因素;另一种是“防御性”设计，解释了我们从观察性研究中获得的不完美的参数估计值，以及未测量的混杂因素。我们也结合敏感性分析的结果，以建立护栏的设计，使我们的实验可以合理地分析有和没有收缩。我们证明了这些试验设计的优越性与一个罕见的，二元结果的模拟研究，涉及因果推断。
2022-04-14 stat.ME
Mixed Models and Shrinkage Estimation for Balanced and Unbalanced Designs
收缩估计，经验贝叶斯和混合效应模型之间的已知连接进行了探讨，并应用于平衡和不平衡的设计，其中的响应是相关的。作为一个例子，一个混合模型提出了预测结果的英超联赛，考虑到主客场球队的影响。从拟合混合线性模型获得的经验最佳线性无偏预测的基础上的结果进行比较，充分利用先验信息从上一个赛季的贝叶斯预测。
2021-11-04 stat.AP stat.CO stat.ME
Lasso Regression: Estimation and Shrinkage via Limit of Gibbs Sampling
套索的应用是支持在高维设置，只有少数的回归系数被认为是非零的。此外，高维Lasso估计的统计性质通常是在预测变量之间的相关性有界的假设下证明的。在这种情况下，坐标方式的方法，最常见的手段计算套索解决方案，以及在存在低到中等的多重共线性。然而，随着稀疏性的降低和多重共线性的增加，坐标算法的计算速度降低。出于这些限制，我们提出了新的“确定性贝叶斯套索”算法计算套索解决方案。该算法是通过考虑限制版本的贝叶斯套索。确定性贝叶斯套索的性能随着稀疏性的降低和多重共线性的增加而提高，并且可以大幅提高计算速度。一个严格的理论分析表明，（1）确定性贝叶斯套索算法收敛到套索解，（2）它导致了一个表示的套索估计，显示它如何实现两个$\ell_1$和$\ell_2$类型的收缩同时。还提供了与其他算法的连接。确定性贝叶斯套索算法的好处，然后说明模拟和真实数据。
2015-01-06 stat.ME
Shrinkage Algorithms for MMSE Covariance Estimation
我们解决的协方差估计的意义下，最小均方误差（MMSE）的高斯样本。具体来说，我们考虑收缩的方法，这是适合于高维问题的样本数量少（大p小n）。首先，我们改进的Ledoit-Wolf（LW）方法的条件下，充分统计量。通过Rao-Blackwell定理，这产生了一个新的估计称为RBLW，其均方误差优于高斯变量的LW。其次，为了进一步减少估计误差，我们提出了一种迭代的方法，近似千里眼收缩估计。这种迭代方法的收敛性的建立和封闭形式的表达式的限制，这是被称为Oracle逼近收缩（OAS）估计。RBLW和OAS估计器都具有简单的表达式，并且易于实现。虽然这两种方法是从不同的角度发展起来的，但它们的结构在特定的常数下是相同的。RBLW估计证明优于LW方法。数值模拟表明，OAS的方法可以执行甚至比RBLW更好，特别是当n远小于p。我们还证明了这些技术的自适应波束形成的背景下的性能。
2009-07-27 stat.CO stat.ME
On a Class of Shrinkage Priors for Covariance Matrix Estimation
我们提出了一类灵活的模型，基于均匀分布的尺度混合构造收缩先验的协方差阵估计。这类新的先验比传统的常规先验尺度混合具有许多优点，包括其在表征先验密度方面的简单性和灵活性。我们还展示了一个简单的，易于实现的吉布斯采样器的后验模拟，从而导致在高维问题的有效估计。我们首先讨论了这种新方法的理论和计算细节，然后将基本模型扩展到一类新的多元条件自回归模型，用于分析多元面积数据。所提出的空间模型灵活地表征空间和结果的相关性结构在一个吸引人的计算成本。合成和真实世界的数据组成的例子表明，这个新的框架的实用性方面的稳健估计，以及提高预测性能。
2011-10-06 stat.CO stat.ME
Dynamically borrowing strength from another study through shrinkage estimation
元分析方法可用于合并来自不同信息来源的证据。通常，正态-正态分层模型（NNHM）包括随机效应以解释研究间异质性，用于此类分析。同样的建模框架不仅可以用于导出组合估计，还可以用于通过导出收缩估计来从另一个研究中借用特定研究的强度。例如，一项小规模的随机对照试验可以得到一项非随机研究的支持，例如临床登记研究。这在罕见疾病的背景下特别有吸引力。我们证明，荟萃分析仍然是有意义的，在这个极端的两个研究设置，如使用最近的试验和临床登记的克雅氏病。在贝叶斯随机效应荟萃分析中推导收缩估计值可能会大大改善给定的估计值，即使仅基于单个额外的估计值，同时考虑到研究之间的潜在效应异质性。或者，可以通过模型规范等效地进行推断，该模型规范不需要共同的总体平均参数，但考虑了一项研究中的处理效应以及研究之间的效果差异。所提出的方法是相当普遍适用于结合不同类型的证据，例如来自荟萃分析或个别研究。这种更普遍的设置的应用提供了在儿童肝移植后的免疫抑制。
2018-12-04 stat.ME
Flexible Shrinkage Estimation in High-Dimensional Varying Coefficient Models
研究了基于B样条基展开的高维变系数模型中的变量选择和常系数辨识问题。这两个目标可以被认为是某种类型的模型选择问题，我们表明，他们可以通过一个双收缩策略。我们将自适应组Lasso惩罚应用于涉及不同数量协变量的模型中，这些协变量可能远大于样本量，但我们假设相关变量的数量小于通过模型稀疏性获得的样本量。这种所谓的超高维度设置在我们在这里考虑的半参数模型中特别具有挑战性，并且以前没有处理过。在适当的条件下，我们证明了在变量选择和常数系数识别方面的一致性，以及常数系数的预言性质。即使在零系数和常系数先验已知的情况下，我们的结果似乎是新的，因为它减少到半变系数模型（a.k.a.部分线性变系数模型）。我们还从理论上证明了半参数BIC型准则在这个高维背景下的一致性，扩展了以前的几个结果。通过蒙特卡罗方法研究了估计量的有限样本性质。
2010-08-13 stat.ME
Unbiased Shrinkage Estimation
收缩估计通常以偏差为代价来减少方差。但是，当我们只关心模型的一些参数时，我证明了如果我们有关于协变量分布的额外信息，我们可以减少方差而不会产生偏差。在具有同方差正态噪声的线性回归模型中，考虑了与控制变量相关的冗余参数的收缩估计。对于至少三个控制变量和外源性治疗，我建立了标准的最小二乘估计是占主导地位的治疗效果的平方误差损失，即使在无偏估计，甚至当目标参数是低维的。在高维正态均值问题中，我通过James-Stein收缩的一个变体构造了支配估计。它可以被解释为一个不变的广义贝叶斯估计与一个无信息（不适当的）Jeffreys先验的目标参数。
2017-10-31 econ.EM math.ST stat.ME
Shrinkage Estimation of Higher Order Bochner Integrals
本文考虑高阶希尔伯特空间值Bochner积分在非参数情形下的收缩估计。我们提出的估计，收缩的$U$ -统计估计的Bochner积分对一个预先指定的目标元素在希尔伯特空间。根据退化的内核的$U$ -统计量，我们构建了一致的收缩估计与快速收敛速度，并开发Oracle不等式比较的风险的$U$ -统计量估计和它的收缩版本。令人惊讶的是，我们表明，收缩估计设计的假设完全退化的内核的$U$ -统计量是一个一致的估计，即使内核是不完全退化。这项工作包含并改进了Krikovich等人，2016年，JMLR和Zhou等人，2019年，JMVA，它只处理再生核希尔伯特空间中的均值元素和协方差算子估计。我们还专门我们的结果正常的均值估计，并表明，对于$d\ge 3$，该估计严格提高后，样本均值的均方误差。
2022-07-21 math.ST stat.ME stat.ML
Proper Bayes minimax multiple shrinkage estimation
University of Alberta（阿尔伯塔大学）；Rutgers University（罗格斯大学）；The Wharton School, University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
研究在平方误差损失下估计多元正态均值问题，通过引入新方法证明适当贝叶斯极小极大多重收缩估计量存在，其能自适应向更有前景目标收缩，解决多目标选择挑战，且构建方式与以往不同。
2026-08-13 math.ST stat.ME stat.TH
Interquantile Shrinkage in Spatial Quantile Autoregressive Regression models
空间相关数据经常出现在空间计量经济学、流行病学等领域。为了处理变量间的相关性和利用协变量估计分位数效应，引入了空间分位数自回归模型（SQAR模型）。传统的分位数回归只关注拟合模型，而忽略了多个条件分位数函数的检验，这提供了对响应和协变量之间关系的全面视图。因此，有必要研究不同分位数下的不同回归斜率，特别是在分位数系数具有某些共同特征的情况下。然而，传统的Wald多重检验不仅增加了计算负担，而且带来了更大的FDR。本文将参数估计和检验问题转化为惩罚问题，在估计不同分位数下的参数的同时，识别分位数间的共性。为了避免SQAR模型中空间滞后变量引起的内隐问题，在估计前引入工具变量，提出了基于融合自适应LASSO和融合自适应超范数惩罚的两阶段估计方法。所提出的估计方法的预言性质的建立。数值实验表明，该方法比传统的分位数回归方法具有更高的估计效率。
2021-11-13 stat.ME
Bias Reduction in Instrumental Variable Estimation through First-Stage Shrinkage
两阶段最小二乘（2SLS）估计是已知的有偏时，其第一阶段的拟合差。我表明，更好的第一阶段预测可以减轻这种偏见。在带正态噪声的两阶段线性回归模型中，考虑了第一阶段工具变量系数估计中的收缩效应。对于至少四个工具变量和一个单一的内生回归，我建立了标准的2SLS估计是占主导地位的偏差。占主导地位的IV估计应用詹姆斯-斯坦型收缩在第一阶段的高维正态平均值问题，其次是控制功能的方法在第二阶段。它保持了结构辅助变量方程的不变性。
2017-10-31 econ.EM math.ST stat.ME
Bayesian Shrinkage Estimation of Negative Multinomial Parameter Vectors
负多项分布是负二项分布的多元推广。本文考虑了在标准化平方误差损失下，基于负多项式变量的观测值估计未知概率矩阵的问题。首先，给出了收缩估计优于UMVU估计的一般充分条件，并构造了满足该条件的经验Bayes估计。其次，介绍了一种分层收缩先验，在一定条件下，一个相关的贝叶斯估计量在UMVU估计量中占主导地位，并对后验计算给出了一些说明。最后，通过模拟比较了收缩估计和UMVU估计。
2020-10-29 math.ST stat.ME stat.TH
Bayesian Shrinkage Approaches to Unbalanced Problems of Estimation and Prediction on the Basis of Negative Multinomial Samples
在本文中，我们处理负多项式变量的估计和预测问题，特别是考虑不平衡的设置。首先，在标准化平方误差损失下，讨论了多个负多项式参数向量的估计问题，在适当的条件下，得到了一个新的优于UMVU估计的经验Bayes估计。其次，我们考虑了Kullback-Leibler发散下多个多项式表的联合预测密度的估计，得到了关于分层收缩先验的贝叶斯预测密度优于关于Jeffreys先验的贝叶斯预测密度的一个充分条件.第三，我们提出的贝叶斯估计和预测密度在模拟中提供了风险改善。最后讨论了负多项式变量的联合预测密度的估计问题。
2021-11-19 math.ST stat.ME stat.TH
System Reliability Estimation via Shrinkage
本文针对多组件相干可靠性系统，提出一种对组件级估计器应用收缩变换的非参数方法，在特定损失函数下提升了系统可靠性估计的效率。
2025-09-17 math.ST stat.ME stat.TH
A Fast Data Driven Shrinkage of Singular Values for Arbitrary Rank Signal Matrix Denoising
从噪声观测中恢复低秩信号矩阵，通常称为矩阵去噪，是统计信号处理中的一个基本逆问题。矩阵去噪方法通常基于具有预定收缩参数或阈值的奇异值的收缩或阈值化。然而，大多数现有的自适应收缩方法使用多个参数来获得更好的收缩灵活性。使用交叉验证或Stein原则确定这些参数的最佳值。在这两种情况下，各种参数的迭代估计使得现有的收缩方法对于大多数实时应用而言在计算上是潜在的。本文提出了一种有效的数据依赖的收缩函数，其参数估计使用斯坦的原则，但在非迭代的方式，从而提供了一个相对较快的收缩方法。此外，我们发现所提出的估计与最近提出的渐近最优估计是一致的，使用随机矩阵理论的结果。人工生成的低秩矩阵和磁共振成像数据的实验研究，表明所提出的去噪方法的有效性。
2017-01-20 stat.ME
Prediction-Powered Adaptive Shrinkage Estimation
Data Science Institute, The University of Chicago（芝加哥大学数据科学研究所）；Department of Statistics, The University of Chicago（芝加哥大学统计学系）
本文提出预测驱动的自适应收缩（PAS）方法，将预测驱动推断与经验贝叶斯收缩结合，通过去偏ML预测并跨任务借用强度来估计多个均值，并证明其调参策略渐近最优，在大规模应用中优于现有基线。
2025-11-07 cs.LG stat.ME stat.ML
Horseshoe shrinkage methods for Bayesian fusion estimation
我们考虑高维信号的估计和结构学习的问题，通过正常的序列模型，其中潜在的参数向量是分段常数，或具有块结构。我们开发了一种贝叶斯融合估计方法，通过使用马蹄铁前诱导一个强大的收缩效应的连续差异的平均参数，同时施加足够的前浓度为非零值相同。因此，所提出的方法有利于一致的估计和结构恢复的信号片。我们提供了理论上的理由，我们的方法推导出后验收敛率和建立选择的一致性在适当的假设。我们还将我们提出的方法扩展到任意图上的信号去噪，并开发了有效的计算方法，同时提供了理论保证。我们通过大量的模拟和两个现实生活中的信号去噪在生物和地球物理应用的例子证明了基于马蹄铁贝叶斯融合估计方法的优越性能。我们还展示了我们的方法在一个现实世界的大型网络的图形信号去噪问题的估计性能。
2021-03-30 math.ST stat.ME stat.TH
Skellam shrinkage: Wavelet-based intensity estimation for inhomogeneous Poisson data
在成像和其他应用中集成检测器的普遍性意味着各种真实世界的数据被很好地建模为泊松随机变量，其均值又与感兴趣的潜在矢量值信号成比例。在这篇文章中，我们首先展示了所谓的Haar小波和滤波器组变换系数对应于这种类型的测量值分布为泊松计数的总和和差异，这一事实是如何产生的。然后，我们提供了两个主要的定理，在贝叶斯设置和其他提供无偏的风险估计在频率论的背景下，显示了接近最优的收缩。这些结果有助于在Haar变换域中产生新的估计量，包括Haar-Fisz方差稳定数据收缩的无偏风险估计，以及伴随的低复杂性推理算法。最后，我们的模拟研究表明，我们的kirlam收缩估计的标准单变量小波测试函数，以及各种测试图像从图像处理文献的功效，确认他们提供了大量的性能改进现有的替代品。
2009-05-29 stat.AP stat.CO stat.ME
Mens: Nonlinear shrinkage estimation in nonparanormal models for financial applications
Persian Gulf University（波斯湾大学）；Ferdowsi University of Mashhad（马什哈德费尔多西大学）
研究针对非正态模型开发非线性收缩协方差估计理论，提出无边际非线性收缩估计器MENS，给出其经验谱分布收敛律及渐近最优性，建立尖峰相变，通过模拟和回测验证其优势，兼具稳健性与效率，对高维配置决策有实用价值。
2026-07-23 math.ST stat.ME stat.TH
Robust regression based on shrinkage estimators
针对线性回归问题，提出了一种参数的鲁棒估计方法.它是基于收缩的概念，经常用于金融和以前研究的异常检测多变量数据。一个彻底的模拟研究进行调查：正常和重尾误差的效率，在污染下的鲁棒性，计算时间，仿射等方差和崩溃值的回归估计。两个经典的数据集经常使用的文献和一个真正的社会经济数据集的生活环境Deadly的地区在利物浦（英国），进行了研究。仿真结果和实际数据的例子表明，所提出的稳健估计回归的优点。
2019-05-08 stat.ME
Flexible signal denoising via flexible empirical Bayes shrinkage
信号去噪-也称为非参数回归-通常通过变换后的收缩估计来执行（例如，小波）域;变换域中的收缩对应于原始域中的平滑。这类应用中的一个关键问题是要收缩多少，或者说要平滑多少。经验贝叶斯收缩方法为这个问题提供了一个有吸引力的解决方案;它们使用数据来估计潜在“效应”的分布，从而自动选择适当的收缩量。然而，经验贝叶斯收缩的大多数现有实现都不如它们所能做到的灵活-无论是在它们对效应的潜在分布的假设上，还是在它们处理异方差的能力上-这限制了它们的信号去噪应用。在这里，我们通过采取一种特别灵活，稳定和计算方便的经验贝叶斯收缩方法来解决这个问题，并将其应用于几个信号去噪问题。这些应用包括泊松数据和异方差高斯数据的平滑。我们通过实证比较表明，与其他方法，包括简单的阈值规则和专门建立的经验贝叶斯程序的结果是有竞争力的。我们的方法是在R包smashr中实现的，“Smoothing by Adaptive Shrinkage in R”，可在https://www.github.com/stephenslab/smashr获得
2020-09-08 stat.ME
Contraction of a quasi-Bayesian model with shrinkage priors in precision matrix estimation
目前有几种贝叶斯方法可用于估计大型稀疏精度矩阵，包括贝叶斯图形Lasso（Wang，2012），贝叶斯结构学习（Banerjee和Ghosal，2015）和图形马蹄铁（Li et al.，2019年）。虽然这些方法表现出很好的经验性能，但一般来说，它们的计算成本很高。此外，我们对理论性质的了解有限，例如，后验收缩率，图形贝叶斯套索和图形马蹄铁。在本文中，我们提出了一种新的方法，集成了一些常用的连续收缩先验到一个准贝叶斯框架的特点是伪似然。在适当的条件下，我们建立了一个最佳的后验收缩率所提出的方法。与现有的方法相比，我们的方法有两个主要优点。首先，我们的方法在计算上更有效，同时实现类似的错误率;其次，我们的框架更适合理论分析。大量的模拟实验和实际数据集上的分析支持我们的理论结果。
2021-04-25 stat.ME stat.OT
Combined shrinkage of fixed and random effects in linear mixed models using empirical Bayes
本文提出了一种数据驱动的方法，用于线性混合模型中固定效应和随机效应的联合先验参数选择，通过经验贝叶斯框架提高参数估计和预测性能。
2026-04-27 stat.ME
Gene network reconstruction using global-local shrinkage priors
从高通量分子数据重建基因网络通常是一项具有挑战性的任务，因为容易估计的参数数量远远大于样本量。传统的补救措施是正则化或惩罚模型的可能性。在网络模型中，这通常是在每个节点或基因的邻域内局部完成的。然而，许多正则化参数的估计往往是困难的，并可能导致很大的统计不确定性。在本文中，我们提出了结合局部正则化与正则化参数的全局收缩，借用基因之间的力量，提高推理。我们采用了一个简单的贝叶斯模型与非稀疏，共轭先验，以方便使用快速变分近似后验。我们讨论了先验超参数的经验贝叶斯估计，并提出了一种新的基于秩的后验阈值化方法。使用广泛的基于模型和数据的模拟，我们证明了所提出的推理策略优于流行的（稀疏）方法，产生更稳定的边缘，并且更具可重复性。
2015-10-13 stat.ME
An empirical Bayes Approach to stochastic blockmodels and graphons: shrinkage estimation and model selection
图子（W-图），包括作为特例的随机块模型，已广泛应用于网络数据建模和分析。这种随机图模型的图子函数是一个很好的刻画，图子函数的估计是近年来的一个研究热点。大多数现有的工作集中在潜在空间的模型中的社区检测，而采用简单的极大似然或贝叶斯估计的graphon或连接参数给定的社区。在这项工作中，我们提出了一个分层二项模型，并开发了一个新的经验贝叶斯估计的随机块模型的连接矩阵来近似的图子函数。基于我们的分层模型的可能性，我们进一步引入了一个模型选择标准，用于选择社区的数量。大量的模拟和两个注释良好的社交网络的数值结果表明，我们的方法在估计精度和模型选择方面的优越性。
2021-09-05 stat.CO stat.ME
Empirical Bayes Shrinkage and False Discovery Rate Estimation, Allowing For Unwanted Variation
University of Chicago（芝加哥大学）
本文提出了一种结合经验贝叶斯方法和因子分析的新型方法，用于分析基因组学实验，以同时处理稀疏效应和未想要的变异。
2018-06-18 stat.ME
Shrinkage Estimation and Prediction for Joint Type-II Censored Data from Two Burr-XII Populations
本文针对两个2参数Burr-XII分布，在联合II型删失方案下应用线性和预检收缩估计技术进行参数估计与预测，并通过Monte Carlo模拟和真实数据集验证了方法性能。
2024-01-05 stat.AP stat.CO stat.ME
Big Data Analysis Using Shrinkage Strategies
本文针对样本数小于预测变量数的高维多元回归模型，利用收缩策略有效地估计了回归系数。我们假设在稀疏线性模型中，一些预测因子对感兴趣的响应具有非常弱的影响。我们建议收缩估计比平常更多。具体来说，我们使用集成估计策略，在子模型和完整的模型和收缩的集成估计，通过纳入一个有界的可测函数的一些权重。所展示的双收缩估计量显著提高了从现有Lasso型变量选择方法中选择的子模型的预测性能。蒙特卡罗模拟研究以及眼睛数据和Riboavin数据的真实例子证实了估计器在高维回归模型中的优越性能。
2017-04-17 stat.ME
