A fast subsampling method for estimating the distribution of signal-to-noise ratio statistics in nonparametric time series regression models
信噪比（SNR）统计在许多应用中起着核心作用。研究SNR的常见情况是当连续时间信号以固定频率采样时，背景中存在一些噪声。虽然存在估计方法，但当噪声不是弱平稳时，对其分布知之甚少。在本文中，我们开发了一种非参数的方法来估计分布的SNR统计噪声属于一个相当普遍的一类随机过程，包括短期和长期的依赖性，以及非线性。该方法是基于平滑和子采样技术的组合。计算仅在子样本水平上进行，这允许管理由现代数据采集技术产生的典型的巨大样本量。我们推导出所提出的方法的渐近保证，我们展示了有限样本的数值实验的基础上的性能。最后，我们提出了一个应用程序的脑电图（EEG）数据。
2021-07-01 stat.ME
Optimal Subsampling for Large Sample Logistic Regression
对于海量数据，二次抽样算法族是一种常用的算法，可以减小数据量，减少计算负担。现有的研究主要集中在线性回归中普通最小二乘估计的近似，其中统计杠杆分数通常用于定义子采样概率。在本文中，我们提出了快速子采样算法，有效地逼近逻辑斯谛回归的最大似然估计。我们首先建立一致性和渐近正态性的估计从一般的子采样算法，然后推导出最佳子采样概率，最小化的渐近均方误差的估计。另一种最小化准则也提出了进一步降低计算成本。最优子采样概率依赖于全数据估计，因此我们开发了一个两步算法来近似最优子采样过程。该算法计算效率高，与全数据方法相比，计算时间显著减少。本文还建立了两步算法估计量的相合性和渐近正态性。合成和真实数据集被用来评估所提出的方法的实际性能。
2018-03-07 stat.CO stat.ME stat.ML
Optimal Subsampling Approaches for Large Sample Linear Regression
分析大样本数据的一个重要障碍是缺乏有效的统计计算和推断方法。子采样是一种新兴的分析大样本数据的强大方法，它从原始全样本中随机抽取子样本，并将其用作后续计算和估计的替代。本文研究了两种情形下的二次抽样方法：全样本最小二乘（OLS）估计的逼近和线性回归中系数的估计。给出了加权估计和非加权估计两种算法，并在一般条件下分析了其子样本估计的渐近性质。对于加权估计算法，我们利用渐近结果提出了一个选择最优抽样概率的准则。在此基础上，提出了两种新的子采样方法：最优子采样方法和预测子采样方法。预测因子长度子采样方法基于预测因子的L2范数，而不是杠杆分数。其计算成本是可伸缩的。对于未加权估计算法，我们证明了它的子样本估计与全样本OLS估计不一致。然而，它具有更好的性能比加权估计算法估计的系数。仿真研究和实际数据的例子来证明我们提出的子采样方法的有效性。
2015-11-23 stat.ME stat.ML
Optimal Subsampling Algorithms for Big Data Regressions
为了快速逼近海量数据下的极大似然估计，本文研究了广义线性模型在A-最优准则下的最优子抽样方法。建立了一般抽样算法估计的相合性和渐近正态性，并在A-和L-最优性准则下导出了最优抽样概率。利用Frobenius范数矩阵集中不等式，得到了基于最优子采样概率的子样本估计量的有限样本性质。由于最佳子采样概率依赖于全数据估计，自适应两步算法的发展。建立了自适应算法估计量的渐近正态性和最优性。所提出的方法进行了说明和评估，通过模拟和真实数据集的数值实验。
2019-06-26 math.ST stat.CO stat.ME
Optimal Subsampling Bootstrap for Massive Data
自举法是一种广泛使用的统计推断方法，因为它的简单性和吸引人的统计特性。然而，由于需要重复对整个数据进行重新采样，因此对于许多现代大规模数据集来说，bootstrap的普通版本在计算上不再可行。因此，近年来对Bootstrap方法进行了一些改进，通过在重新抽样之前对整个数据集进行二次抽样来评估估计量的质量。自然地，这些现代子采样方法的性能受到调整参数的影响，例如子样本的大小、子样本的数量以及每个子样本的重采样数量。在本文中，我们开发了一种新的超参数选择方法来选择这些调谐参数。制定为一个优化问题，以找到最佳值的一些措施的准确性估计的计算成本，我们的框架提供了封闭形式的解决方案的最佳超参数值的二次抽样引导，二次抽样双引导和袋的小引导，在没有或很少的额外的时间成本。使用的均方误差作为代理的准确性措施，我们应用我们的方法来研究，比较和提高这些现代版本的引导程序的性能，通过模拟研究开发的海量数据。结果令人鼓舞。
2023-02-15 stat.ME
D-optimal Subsampling Design for Massive Data Linear Regression
针对海量观测数据线性回归的计算限制，基于最优设计理论推导了 D-最优子抽样设计及其简化方法，并提供了简单易实现的接受或拒绝数据点规则，模拟表明其在固定子样本量下与 IBOSS 方法具有可比性。
2025-05-29 math.ST stat.ME stat.TH
Mastering Rare Event Analysis: Optimal Subsample Size in Logistic and Cox Regressions
针对现有最优子采样方法缺乏最优子样本量选择工具的问题，本研究提出了适配稀有事件Cox回归、平衡与不平衡数据logistic回归的样本量选择工具及不平衡数据logistic回归的新型子采样流程，并通过模拟与真实数据集分析验证了有效性。
2024-06-19 stat.ME
Balanced Subsampling for Big Data with Categorical Covariates
本文针对含分类预测变量的大数据，提出非奇异、可最优估计参数并支持稳健预测的平衡子抽样方法，并通过模拟与真实应用验证其优越性。
2025-03-18 stat.ME
Efficient subsampling for exponential family models
提出一种基于最优设计的两阶段子采样算法，利用密度聚类近似设计空间并确定最优设计，通过矩阵距离选取剩余样本，适用于包括高秩Fisher信息在内的指数族回归模型。
2024-03-18 stat.ME
Recurrent event analysis in the presence of real-time high frequency data via random subsampling
数字监测研究通过受试者自然环境中的移动传感器收集实时高频数据。这些数据可用于模拟生理学变化对复发事件结局的影响，如吸烟、吸毒、饮酒或自我认定的自杀意念。然而，在这种情况下，用于复发事件分析的似然计算在计算上变得令人望而却步。受此启发，提出了一种随机子采样框架，用于计算效率高，基于近似似然的估计。累积风险的导数的子抽样无偏估计量进入对数似然的近似。估计量有两个变异来源：第一个是由于经常性事件模型，第二个是由于二次抽样。后者可以通过增加采样率来减少;然而，这会导致计算成本增加。近似评分方程相当于逻辑斯谛回归评分方程，允许使用标准的“现成”软件拟合这些模型。仿真结果表明，该方法和效率的计算权衡。最后，我们使用来自自杀意念数字监测研究的数据来说明我们的方法。
2022-04-13 stat.ME
Independence-Encouraging Subsampling for Nonparametric Additive Models
加性模型是一种流行的非参数回归方法，因为它能够保持建模的灵活性，同时避免维数灾难。后拟合算法是一种直观且广泛使用的拟合加性模型的数值方法。然而，它的应用到大型数据集可能会产生很高的计算成本，因此在实践中是不可行的。为了解决这个问题，我们提出了一种新的方法，称为独立鼓励子采样（IES），从大数据中选择一个子样本来训练加性模型。受正交表（OA）的极小极大最优性的启发，由于其成对独立的预测因子和每个预测因子范围的均匀覆盖，IES方法选择一个近似OA的子样本来实现极小极大最优性。我们的渐近分析表明，IES子样本收敛到OA，并且子样本上的后拟合算法收敛到唯一的解，即使预测因子高度依赖于原始大数据。建议的IES方法也被证明是数值吸引力，通过模拟和实际数据的应用。
2023-02-26 stat.ME
Computationally efficient methods for fitting mixed models to electronic health records data
出于两个案例研究使用初级保健记录的临床实践研究数据链，我们描述了统计方法，便于分析高大的数据，非常大量的观察。我们的重点是调查患者特征和感兴趣的结果之间的关联，同时允许一般做法之间的变化。我们探索了将混合效应模型拟合到高数据的方法，包括作为协变量的感兴趣的预测因子和混杂因素，并包括随机截取以允许实践之间结果的异质性。我们介绍：（1）加权回归和（2）荟萃分析估计回归系数从每个实践。这两种方法都减少了数据集的大小，从而减少了统计分析所需的时间。我们比较现有的子采样方法的方法。所有方法给出的点估计值相似，加权回归和荟萃分析给出的点估计值的标准误与整个数据集的分析相似，但二次抽样方法给出的标准误更大。在所有数据都是离散的情况下，加权回归等效于将混合模型拟合到整个数据集。在存在连续协变量时，荟萃分析是有用的。这两种方法都很容易在标准统计软件中实现。
2018-05-11 stat.ME
Information-Based Optimal Subdata Selection for Big Data Linear Regression
在许多科学分支中产生了大量的数据。由于计算的局限性，非线性统计方法不再适用于超大数据集。大数据分析的一个关键步骤是数据简化。在线性回归的背景下，现有的调查集中在基于子采样的方法。然而，这种方法不仅容易产生采样误差，而且还导致估计量的协方差阵通常由子数据大小的倒数的项从下面限定。我们提出了一种新的方法，称为基于信息的最优子数据选择（IBOSS）。与领先的现有子数据方法相比，IBOSS方法具有以下优点：（i）速度明显更快;（ii）适合分布式并行计算;（iii）即使子数据大小固定，随着完整数据大小的增加，斜率参数估计量的方差也收敛到0，即，收敛速度取决于完整的数据大小;（四）数据分析的IBOSS子数据是直截了当的，抽样分布的IBOSS估计是很容易评估。理论结果和大量的模拟表明，IBOSS的方法是优于基于子采样的方法，有时由数量级。通过对实际数据的分析，说明了新方法的优越性.
2017-10-28 stat.ME
Quantile regression approach to conditional mode estimation
在本文中，我们考虑估计的条件模式的结果变量给定的回归。为此，我们提出并分析了一个计算可扩展的估计来自一个线性分位数回归模型，并发展渐近分布理论的估计。具体来说，我们发现，逐点极限分布是一个规模的转换，尽管存在的回归的Dalloff的分布。此外，我们考虑分析和基于子采样的置信区间的建议估计。我们还进行蒙特卡罗模拟来评估所提出的估计量的有限样本性能以及分析和子采样置信区间。最后，我们应用所提出的估计预测净小时发电量使用联合循环电厂数据。
2019-07-29 math.ST stat.ME stat.TH
Targeted maximum likelihood estimation for longitudinal two-stage designs with outcome subsampling
University of California, Berkeley（加州大学伯克利分校）
针对纵向两阶段设计中结局子抽样的因果参数估计问题，基于HIV相关死亡率研究中的重抽样设计。提出两种估计器，包括IPCW纵向TMLE及新LTMLE，通过模拟表明新方法可降低方差，还指出交叉拟合方差估计对有效推断很关键。
2026-07-07 stat.ME
Subsampling and Jackknifing: A Practically Convenient Solution for Large Data Analysis with Limited Computational Resources
本文提出一种结合有放回子抽样与刀切去偏的方法，在有限计算资源下高效分析大规模数据，所得最终估计量具有一致性、渐近正态性，且统计效率可与全样本估计量相媲美。
2023-04-13 stat.ME
SuRF: a New Method for Sparse Variable Selection, with Application in Microbiome Data Analysis
在本文中，我们提出了一个新的变量选择方法的回归和分类的目的。我们的方法，称为子采样排名向前选择（SuRF），是基于LASSO惩罚回归，子采样和向前选择方法。SuRF在所选模型的稀疏性和模型推理方面都比现有的变量选择方法具有重大优势。我们提供了一个R包，可以实现我们的方法的广义线性模型。我们将我们的方法应用于微生物组数据的分类问题，使用一种新的聚集方法来处理变量的特殊树状相关结构。现有的方法在进行分析之前任意选择一个先验的分类学水平，而通过将SuRF与这些聚集的变量相结合，我们能够在适当的分类学水平上识别关键的生物标志物，如数据所示。我们提出了在多个稀疏设置的模拟，以证明我们的方法比其他几个常用的现有方法在恢复真实的变量。我们将SuRF应用于两个微生物组数据集：一个关于结肠袋炎的预测，另一个用于识别来自两个健康个体的样本。我们发现，SuRF可以提供一个更好的或可比的预测与其他方法，同时控制假阳性率的变量选择。
2019-09-13 stat.ME
Two-Stage Metropolis-Hastings for Tall Data
本文讨论了与贝叶斯分类（特别是二进制分类）相关的高数据问题所带来的挑战以及处理它们的现有方法。目前的方法包括并行的可能性，二次抽样，和共识蒙特卡罗。提出了一种基于两阶段梅特罗波利斯-黑斯廷斯算法的新方法。该算法的目的是在高数据量的情况下减少精确似然的计算量。在第一阶段，一个新的建议是测试的近似似然模型。只有当提案通过第一阶段筛选时，才会进行基于全似然的后验计算。此外，该方法还可以应用到共识蒙特卡罗框架中。两阶段方法适用于逻辑斯谛回归，分层逻辑斯谛回归，贝叶斯多元自适应回归样条。
2017-03-20 stat.ME
Scalable MCMC for Large Data Problems using Data Subsampling and the Difference Estimator
我们提出了一个通用的马尔可夫链蒙特卡罗（MCMC）算法，以加快计算的数据集与许多观察。我们的方法的一个关键特点是使用高效的差异估计从调查抽样文献估计的对数似然准确地使用只有一小部分的数据。我们的算法改进了常规MCMC的$O(n)$复杂性，在计算似然时，通过在局部数据簇而不是全样本上操作。在伪边缘框架中使用似然估计，从扰动后验中采样，该扰动后验在真实后验的$O(m^{-1/2})$范围内，其中$m$是子样本量。该方法被应用到一个逻辑斯谛回归模型预测公司破产的一个大的数据集。我们记录了一个显着的速度相比，标准MCMC的完整数据集。
2017-08-02 stat.CO stat.ME stat.ML
Rank-transformed subsampling: inference for multiple data splitting and exchangeable p-values
本文提出秩变换子采样方法，通过组合多次随机数据分割的统计量或p值进行大样本推断，在控制第I类错误的同时显著提升检验功效。
2024-09-04 math.ST stat.ME stat.TH
Adaptive and Stratified Subsampling for High-Dimensional Robust Estimation
Motilal Nehru National Institute of Technology Allahabad, Prayagraj 211004, India（Motilal Nehru国家理工学院Allahabad, Prayagraj 211004, 印度）
本文提出自适应重要抽样和分层抽样方法，用于高维稳健估计，在有限方差厚尾噪声和alpha混合依赖下实现最优估计性能。
2026-03-10 cs.LG math.ST stat.ME
PCA-Guided Quantile Sampling: Preserving Data Structure in Large-Scale Subsampling
Institute of Statistical Science（统计科学研究所）；Academia Sinica, Taipei, Taiwan（台湾中央研究院）
PCA引导的分位数采样通过保留数据结构和理论保证，提升大规模数据子采样效率与模型性能。
2026-01-12 stat.ME stat.ML
Core-elements Subsampling for Alternating Least Squares
Institute of Statistics and Big Data, Renmin University of China（统计与大数据研究院，中国人民大学）；Department of Statistics and Data Science, Tsinghua University（统计与数据科学系，清华大学）；School of Science, Department of Mathematics Beijing University of Posts and Telecommunications（科学学院，数学系，北京邮电大学）
针对交替最小二乘法（ALS）处理大规模含缺失值矩阵分解时计算成本高的问题，提出核心元素子采样方法，通过选择代表性数据子集并结合稀疏矩阵运算近似ALS估计，理论证明精度相当且耗时更少，实验验证其在大规模推荐系统中的有效性。
2025-11-11 cs.LG stat.CO stat.ME
A note on centering in subsample selection for linear regression
居中是线性回归分析中常用的技术。使用响应和协变量的中心数据，可以从没有截距的模型计算斜率参数的普通最小二乘估计量。如果从居中的完整数据中选择子样本，则子样本通常不居中。在这种情况下，在没有截距的情况下拟合模型仍然合适吗？答案是肯定的，我们表明，最小二乘估计的斜率参数从一个模型没有截距是无偏的，它有一个较小的方差协方差阵的Loewner顺序比从一个模型的截距。我们进一步表明，对于非信息加权子采样时，使用加权最小二乘估计，使用全数据加权均值重新定位子样本提高了估计效率。
2022-09-30 stat.CO stat.ME
Logistic regression models for aggregated data
逻辑斯谛回归模型是预测分类响应数据概率的一种流行而有效的方法。然而，对于大型数据集，这些模型的推理可能在计算上变得难以实现。在这里，我们采用符号数据分析的思想，将预测变量的集合汇总为直方图形式，并在此汇总数据集上进行推理。我们开发的想法的基础上，复合似然率，以获得一个有效的一对休息的近似复合似然模型的直方图为基础的随机变量，从低维边缘直方图从完整的直方图。我们证明，这种程序可以实现可比的分类率相比，标准的全数据多项式分析和对国家的最先进的二次抽样算法的逻辑斯谛回归，但在一个显着降低计算成本。通过模拟示例以及对大型超对称性和卫星作物分类数据集的分析来探索性能。
2020-08-24 stat.CO stat.ME stat.ML
On the selection of optimal subdata for big data regression based on leverage scores
本文研究大数据回归中的最优子数据选择问题，将基于杠杆得分的方法从线性模型判别扩展到一阶线性模型和含交互项模型，并通过模拟实验和真实数据应用证明其优于现有方法。
2023-07-05 stat.AP stat.ME
Active Subsampling for Measurement-Constrained M-Estimation of Individualized Thresholds with High-Dimensional Data
Cornell University（康奈尔大学）
针对测量受限问题，提出K步主动子采样算法，通过迭代采样最具信息量的观测并求解正则化M估计，实现高维线性阈值参数估计，并揭示条件密度光滑性导致的相变现象。
2026-06-17 math.ST stat.ME stat.ML
Modern strategies for time series regression
本文讨论了几种现代回归分析方法，涉及时间序列数据，其中一些预测变量也按时间索引。我们讨论了经典的统计方法以及最近在机器学习文献中提出的方法。这些方法进行了比较和对比，可以看出，目前大多数可用的方法有优点和缺点。在这一领域有很大的发展方法的余地。这项工作的动机是一个应用程序，涉及预测水位作为降雨量和其他气候变量的函数在澳大利亚东部的含水层。
2020-10-29 stat.ME stat.ML
Real-time semiparametric regression
我们开发了实时执行半参数回归分析的算法，数据在收集时进行处理，并通过现代电信技术立即提供。我们的半参数回归的定义是相当广泛的，包括，作为特殊情况下，广义线性混合模型，广义可加模型，地质统计模型，小波非参数回归模型及其各种组合。快速更新回归拟合是通过将半参数回归耦合到贝叶斯分层模型或等价的图形模型框架中并采用在线平均场变分思想来实现的。本文所附的一个网站realtime-semiparametric-regression.net说明了不断获得股票市场、房地产和航空公司数据的方法。基于日益普遍的流数据源的灵活实时分析将受益匪浅。
2013-02-06 stat.ME
Properties of Test Statistics for Nonparametric Cointegrating Regression Functions Based on Subsamples
本文针对非参数协整回归模型，提出两个适用于长记忆和半长记忆内生回归元的检验统计量，利用子抽样方法构建经验分布，并通过蒙特卡罗模拟和实证例子验证其性质。
2023-12-26 stat.AP stat.CO stat.ME
Semiparametric regression and risk prediction with competing risks data under missing cause of failure
队列研究中涉及竞争风险的失败原因经常观察不完全。为了解决这一问题，在随机缺失假设下，已经提出了几种半参数比例原因特异性风险模型的方法。然而，这些建议仅提供了对回归系数的推断，而没有考虑无穷维参数，如协变量特定的累积发生率函数。然而，后者的数量是必不可少的风险预测在现代医学。在本文中，我们提出了一个统一的框架推断的回归系数的比例原因特定的风险模型和协变量特定的累积发生率函数下的随机缺失的故障原因。我们的方法是基于一种新的计算效率的最大伪偏似然估计方法的半参数比例原因特定的风险模型。利用现代经验过程理论，我们推导出所提出的估计的渐近性质的回归系数和协变量特定的累积发生率函数，并提供了方法，为后者同时构建置信带。模拟研究表明，我们的估计表现良好，即使在存在一个大部分的缺失故障原因，回归系数估计可以大大提高效率相比，以前提出的增广逆概率加权估计。该方法使用来自HIV队列研究和膀胱癌临床试验的数据应用。
2020-02-20 stat.ME
Dimension Reduction via Supervised Clustering of Regression Coefficients: A Review
降维方法的发展和使用在现代统计文献中很普遍。本文回顾了一类降维技术，其目的是同时选择相关的预测，并找到集群内共享的响应的共同影响。已证明此类方法相对于OLS估计值和套索[Tibshirani，1996]具有优越的性能，尤其是当预测因子存在多重共线性时。它们的应用，其中包括遗传学，流行病学和功能磁共振成像研究，也进行了讨论。
2022-02-17 stat.ME
Influential Observations in Bayesian Regression Tree Models
本文研究了BCART和BART等贝叶斯回归树模型中影响观测的检测与预测调整问题，提出了三种检测诊断方法及一种重要性抽样算法来消除影响数据的作用，并在真实数据上验证了方法的有效性。
2023-05-17 stat.ME
A Scalable Bootstrap for Massive Data
自助法提供了一种简单而有力的方法来评估估计量的质量。然而，在涉及大数据集的设置中-这越来越普遍-基于引导的量的计算在计算上可能要求过高。虽然子采样和$n$引导的$m$等变体原则上可以用于降低引导计算的成本，但我们发现这些方法通常对超参数（如子采样数据点的数量）的指定不具有鲁棒性，并且它们通常需要使用比引导更多的先验信息（如估计量的收敛率）。作为一种替代方案，我们介绍了袋小Bootstrap（BLB），一个新的程序，它结合了功能的引导和二次抽样，以产生一个强大的，计算效率高的方法来评估质量的估计。BLB非常适合于现代并行和分布式计算架构，并进一步保留了自举的通用适用性和统计效率。我们证明了BLB的有利的统计性能，通过理论分析阐明了程序的属性，以及比较BLB的引导，$m$的$n$引导，和二次抽样的模拟研究。此外，我们提出的结果，从大规模的分布式实现的BLB展示其计算优势，对海量数据，自适应选择BLB的超参数的方法，应用BLB到几个真实的数据集的实证研究，和扩展的BLB的时间序列数据。
2012-06-28 stat.CO stat.ME stat.ML
Tensor Regression with Applications in Neuroimaging Data Analysis
经典回归方法将协变量视为向量，并估计回归系数的相应向量。医学成像中的现代应用产生更复杂形式的协变量，例如多维数组（张量）。传统的统计和计算方法被证明不足以分析这些高通量的数据，由于其复杂的结构和多维性。在这篇文章中，我们提出了一个新的家庭张量回归模型，有效地利用特殊结构的张量协变量。在此框架下，将数据的维数降低到可管理的水平，从而实现有效的估计和预测。本文提出了一种快速、高扩展性的极大似然估计算法，并研究了它的渐近性质。合成和真实的MRI成像数据的新方法的有效性证明。
2012-03-14 stat.ME
Kernel regression for cause-specific hazard models with time-dependent coefficients
竞争风险数据在现代生物医学研究中广泛存在。在过去的二十年中，特定原因危害模型经常被用来处理竞争风险数据。目前还没有研究核似然方法的原因特定的风险模型与时变系数。我们提出了使用局部部分对数似然方法的非参数时变系数估计。仿真研究表明，我们提出的非参数核估计器具有良好的性能，在假设有限的样本设置。最后，我们应用所提出的方法来分析糖尿病透析研究与竞争的死亡原因。
2021-09-11 stat.ME
Modern Non-Linear Function-on-Function Regression
Pennsylvania State University（宾夕法尼亚州立大学）
本研究针对函数型数据提出基于神经网络的非线性函数对函数回归框架，含连续隐藏层与两种拟合策略，通过函数梯度和正则化拟合，经模拟与真实数据验证了方法的效力与灵活性。
2023-10-07 cs.AI cs.LG stat.ME
Efficient Construction of Test-Inversion Confidence Intervals Using Quantile Regression, With Application To Population Genetics
现代统计学中的问题往往包括高计算复杂性和复杂分布的估计。对此类估计量的统计推断通常依赖于渐近正态性假设，然而，由于数据的依赖性和其他原因，此类假设通常不适用于可用的样本量。一种常见的替代方法是使用重新采样程序，如自举，但这些可能是计算密集的程度，使他们不切实际的现代问题。本文提出了一种快速构造检验反演自举置信区间的方法。我们的方法使用分位数回归来模拟的分位数的估计条件的参数的真实值，我们将其应用于Watterson估计的突变率在一个标准的合并模型。我们证明了使用分位数回归相比，最先进的方法的基础上随机逼近，以达到可比的精度所需的模拟的数量来衡量，提高效率高达40%。
2016-12-07 stat.AP stat.ME
Machine-Learning-Assisted Comparison of Regression Functions
针对回归函数比较这一经典统计问题受维数灾难限制的痛点，提出基于核的条件均值依赖广义概念，构建两种结合机器学习的灵活检验方法，在高低维场景下均有效且假设条件更弱，经数值研究验证了效能。
2025-10-28 econ.EM stat.ME stat.ML
A modern maximum-likelihood theory for high-dimensional logistic regression
每个统计学或数据科学的学生都很早就知道，当样本量大大超过变量数量时，拟合逻辑模型会产生近似无偏的估计。每个学生还学习到，有一些公式可以预测这些估计值的变异性，这些估计值用于统计推断的目的;例如，产生p值来检验回归系数的显著性。虽然这些公式来自大样本渐近，我们经常被告知，我们是在合理的安全理由时，$n$是大的，以这种方式，$n \ge 5p$或$n \ge 10p$。本文表明，这是远离的情况下，因此，推理通常产生的常见软件包往往是不可靠的。考虑一个具有独立特征的Logistic模型，其中$n$和$p$以固定比例逐渐增大。然后，我们表明（1）MLE是有偏的，（2）MLE的变异性远远大于经典预测，（3）常用的似然比检验（LRT）不是卡方分布。MLE的偏倚是非常有问题的，因为它基于协变量的观测值对病例概率产生了完全错误的预测。我们发展了一个新的理论，它渐近地预测（1）最大似然估计的偏差，（2）最大似然估计的变异性，和（3）LRT的分布。我们的经验也表明，这些预测是非常准确的有限样本。此外，一个吸引人的特点是，这些新的预测取决于未知序列的回归系数，只有通过一个单一的标量，信号的整体强度。这表明非常具体的程序来调整推理;我们描述了一个这样的程序，从数据中学习单个参数并产生准确的推理
2018-06-16 math.ST stat.ME stat.TH
Balancing Statistical and Computational Precision: A General Theory and Applications to Sparse Regression
现代技术正在产生越来越多的数据。利用这些数据需要既有统计上的合理性又有计算效率的方法。通常，统计和计算方面被分开处理。在本文中，我们提出了一种方法来纠缠这两个方面的背景下，正则化估计。将我们的方法应用于稀疏和组稀疏回归，我们表明它可以在统计和计算上改进标准管道。
2022-09-14 stat.CO stat.ME stat.ML
Spectrum-Aware Debiasing: A Modern Inference Framework with Applications to Principal Components Regression
Harvard University（哈佛大学）
本文提出了一种考虑频谱的去偏方法，用于高维回归，并应用于主成分回归，提供了首个去偏PCR估计器，同时引入了检验信号与协方差矩阵特征向量对齐的原理性检验。
2025-12-31 cs.IT math.IT math.ST
On Soft Bayesian Additive Regression Trees and asynchronous longitudinal regression analysis
在许多纵向研究中，协变量和响应经常在不规则、不匹配和受试者特定的时间间歇性观察到。当协变量和响应被异步观测时，如何处理这样的数据是一个经常提出的问题。贝叶斯加性回归树（Bayesian Additive Regression Trees，BART）是一种贝叶斯非参数方法，已被证明与最好的现代预测方法（如随机森林和提升决策树）具有竞争力。树的和结构与贝叶斯推理框架相结合，提供了一个准确和鲁棒的统计方法。BART变体软贝叶斯加性回归树（SBART）构造使用随机决策树和实质性的理论和实践的好处。在本文中，我们提出了一个加权SBART模型的解决方案，异步纵向数据。与其他方法相比，现有方法在对协变量过程的假设较少的情况下是有效的。广泛的模拟研究提供了这种解决方案的数值支持。来自艾滋病研究的数据被用来说明我们的方法
2021-08-26 stat.AP stat.ME
Simulation-based Regularized Logistic Regression
在本文中，我们开发了一个基于模拟的框架，正则化逻辑斯谛回归，利用两个新的结果，规模混合的法线。通过仔细选择一种类型的混合物的似然分层模型，并与另一个实施正则化，我们得到新的MCMC计划与不同的效率取决于数据类型（二进制与二项式，说）和所需的估计（极大似然，最大后验概率，后验均值）。我们的综合方法的优点包括灵活性，计算效率，p >> n设置中的适用性，不确定性估计，变量选择和评估最佳正则化程度。我们将我们的方法与合成和真实数据的现代替代品进行比较。CRAN上有一个名为reglogit的R包。
2012-01-07 stat.CO stat.ME
Detecting influential observations in single-index Fréchet regression
针对随机数据对象回归易受异常观测影响的问题，提出适用于度量值响应与欧氏预测变量的度量 Cook 距离，并通过多空间实验和 COVID-19、脑网络应用验证其检测有影响观测的效果。
2024-07-05 stat.AP stat.CO stat.ME
