On Robust Inference in Time Series Regression
针对时间序列回归中OLS-HAC推断的四个主要缺陷,提出简单易行的DURBIN动态回归程序,通过模拟验证其能有效避免这些问题,提升推断稳健性。
2024-05-27 econ.EM stat.AP
Efficient and automatic methods for flexible regression on spatiotemporal data, with applications to groundwater monitoring
将统计模型拟合到时空数据需要在施加平滑度和遵循数据之间找到正确的平衡。在p-样条的背景下,我们提出了一个贝叶斯框架,选择平滑参数,允许建设全自动的数据驱动的方法,以适应灵活的模型时空数据。一个计算效率高的实现,利用所产生的设计和惩罚矩阵的稀疏性,提出了。使用模拟和两个例子,都与地下水中的污染物,这表明,所提出的战略是更稳定的竞争战略的基础上使用的标准,如GCV和AIC的建模的结果进行说明。
2013-10-29 stat.AP
Seasonally-Adjusted Auto-Regression of Vector Time Series
Stanford University(斯坦福大学)
提出了一种简单的预测向量时间序列的算法,该算法在训练和推理中对缺失数据具有鲁棒性。它对季节性的年度、每周和每日基线以及季节性调整残差的高斯过程进行建模。我们开发了一个自定义截断特征分解,以适应低秩加块对角高斯内核。使用Schur补进行推理,使用Tikhonov正则化来防止过拟合,并使用Woodbury公式来有效地反转内核的子矩阵。推理需要在时间序列维度上线性的内存和计算量,因此模型可以扩展到非常大的数据集。我们还提出了一个简单的“贪婪”网格搜索自动超参数调整。该文件附有沙皇(即,时间序列自回归器),一个实现该算法的Python库。
2019-11-04 cs.LG math.OC stat.ML
Inference for Network Regression Models with Community Structure
Facebook(脸书);University of Washington(华盛顿大学);Colorado State University(科罗拉多州立大学)
网络回归模型,其中的结果包括网络中的有价值的边缘和预测因子是演员或二元水平的协变量,被广泛用于社会和生物科学。有效的推理依赖于准确地建模的关系之间的残留依赖关系。经常同质性假设放在错误通常是不正确的,忽视关键的,自然的演员集群。在这项工作中,我们提出了一种新的回归建模框架,该框架对基于社区的依赖结构产生的误差进行建模,并利用误差分布的后续交换性质来获得回归参数的简约标准误。
2021-06-08 cs.LG cs.SI stat.AP
Estimating change points in nonparametric time series regression models
在本文中,我们考虑一个回归模型,允许时间序列协变量以及异方差与回归函数,是非参数建模。我们假设回归函数在某个未知时间发生变化$\lfloor ns_0\rfloor$、$s_0\in(0,1)$,我们的目标是估计(重新缩放的)变化点$s_0$。所考虑的估计是基于一个Kolmogorov-Smirnov功能的显着经验过程的残差。我们证明了估计量的一致性,并证明了$O_P(n^{-1})$的收敛速率,在这种情况下,该收敛速度显然是最优的,因为序列中只有$n$点。此外,我们还研究了滞后相关协变量的情况,即非参数(自动)回归函数发生变化的自回归模型,并给出了一致性结果。证明的方法也允许不同种类的泛函,这样Cramér-von Mises型估计可以被类似地考虑。该方法扩展了现有文献,允许非参数模型,时间序列数据以及异方差。有限样本模拟表明,我们的估计在回归和自回归模型中具有良好的性能,一个真实的数据例子表明了它在实践中的适用性。
2019-09-16 math.ST stat.TH
A Generalized Estimating Equation Approach to Network Regression
针对网络数据回归中未考虑社区结构与因变量双重角色的问题,提出基于社区检测聚类的广义估计方程方法,证明了渐近正态性,并验证了其在COVID-19发病率分析中的有效性。
2024-02-14 stat.ME
Logistic Regression Augmented Community Detection for Network Data with Application in Identifying Autism-Related Gene Pathways
当寻找导致特定疾病结果的基因通路时,通常可以获得关于基因特征的额外信息,当观察到涉及两种类型基因的连接并且它们与疾病的关系未知时,这些信息可以有助于区分与疾病相关的基因和不相关的背景。我们提出了一种通过逻辑斯谛回归在辅助信息的帮助下挑选出不相关背景基因的方法,并使用邻接矩阵将相关基因聚类成内聚群。修改期望最大化算法,以最大化联合伪似然,假设与疾病相关的潜在指标和潜在组成员以及组内和组间的泊松或多项式分布链接数。一个强大的版本,允许任意连锁模式的背景下,进一步推导。证明了随机块模型下标签分配的渐近一致性。在模拟研究中观察到有限样本的优越性能和鲁棒性。所提出的鲁棒方法使用包括从头突变、基因表达和蛋白质-蛋白质相互作用在内的多种数据源来识别先前遗漏的自闭症相关神经系统疾病相关基因集。
2018-09-07 cs.LG stat.ME stat.ML
Uncovering dynamics between SARS-CoV-2 wastewater concentrations and community infections via Bayesian spatial functional concurrent regression
提出贝叶斯空间函数并发回归模型,联合噪声、缺失及时空相关性,推断SARS-CoV-2废水浓度峰值较临床阳性率领先5至11天,并揭示二者关联随疫情状态波动。
2024-12-04 stat.AP stat.ME
Autocovariance estimation in regression with a discontinuous signal and $m$-dependent errors: A difference-based approach
我们讨论了一类基于差分的估计的自协方差非参数回归时,信号是不连续的(变点回归),可能高度波动,和错误形成一个平稳的$m$依赖的过程。这些估计器规避了未知回归函数的显式预估计,这对于此类信号是特别具有挑战性的任务。当信号函数为分段常数(分段回归)且误差为高斯分布时,我们给出了它们的均方误差的显式表达式。在此基础上,我们得出有偏优化的估计,不依赖于特定的(未知的)自协方差结构。值得注意的是,对于正相关的误差,我们的估计量的方差依赖于信号的那部分也是最小的。此外,我们提供了充分条件$\sqrt{n}$一致性,这一结果被扩展到分段持有人回归与非高斯误差。我们结合我们的偏置优化的自协方差估计与基于投影的方法,并推导出协方差阵估计,这是一种独立的方法。几个模拟研究,以及生物物理测量的应用补充本文。
2016-08-08 stat.ME
Quantile Regression for Partially Linear Varying Coefficient Spatial Autoregressive Models
本文研究了具有可能变系数的部分线性空间自回归模型的分位数回归方法。采用B样条函数对变系数进行逼近。参数估计采用工具变量分位数回归方法。秩分检验是对系数的假设进行的检验,包括对不变系数和变系数恒常性的假设。建立了估计量和检验统计量的渐近性质。蒙特卡罗模拟进行研究所提出的方法的有限样本性能。一个真实的数据的例子进行分析说明。
2016-08-05 stat.ME
Semi-automated simultaneous predictor selection for Regression-SARIMA models
在广泛的应用中,决定使用哪些预测因子在推导统计模型中起着不可或缺的作用。出于在电信网络中预测事件的挑战,我们提出了一个半自动的,联合模型拟合和预测选择过程的线性回归模型。我们的方法可以建模和解释回归残差中的序列相关性,产生稀疏和可解释的模型,并可用于联合选择一组相关响应的模型。这是通过拟合线性模型的约束下的非零系数的数量,使用最近开发的混合二次优化方法的概括。从我们的方法所得到的模型实现更好的预测性能的激励电信数据比目前使用的工业方法。
2020-01-09 stat.ME
Automated Selection of Post-Strata using a Model-Assisted Regression Tree Estimator
当辅助模型捕捉到辅助数据与研究变量之间的某些关系时,辅助信息可以通过辅助模型提高调查估计器的效率。尽管模型辅助估计数具有优越的性质,但统计机构很少以最简单的形式使用它们来编制官方统计数据。这是因为在模型辅助估计中使用的更复杂的模型往往不适合现有的辅助数据。在一个模型辅助的框架下,我们提出了一个有限总体的回归树估计。回归树模型擅长处理抽样框中通常可用的辅助数据类型,并提供易于解释和证明的模型。该估计器可以被视为后分层估计器,其中后分层由回归树的递归划分算法自动选择。我们建立了回归树估计的一致性,并使用美国劳工统计局职业就业统计调查的其他调查估计比较其性能。
2017-12-15 stat.ME
Online Change-Point Detection in Linear Regression with Autoregressive Errors via Streaming Variational Bayes
Yonsei University(延世大学)
该研究提出流式变分贝叶斯方法,用于带自回归误差的线性回归在线变点检测,经模拟和比特币波动率数据验证,其检测性能优于频率主义序贯监测程序。
2026-10-14 stat.ME
On the estimators of autocorrelation model parameters
自相关和谱密度的估计在许多科学领域都具有根本的重要性,从天文学中识别脉冲星信号到医学中测量心跳。在对不适合任何简单模型族的特定自相关函数感兴趣的情况下,例如自回归移动平均(ARMA),通常以两种方式之一来估计模型参数:通过回归分析将模型自相关函数拟合到非参数自相关估计,或者通过极大似然将模型自相关函数直接拟合到数据。先前的文献表明,变差函数回归产生的参数估计可比质量的极大似然。在这封信中,我们证明,随着样本量的增加,最大似然估计(MLE)的准确性最终提高了几个数量级,超过变异函数回归。对于相对连续的高斯过程,这种改进可以发生在小于100的样本量。此外,即使这些方法的准确性是可比的,MLE仍然几乎普遍更好,更关键的是,变异函数回归不提供可靠的置信区间。不准确的回归参数估计通常伴随着被低估的标准误,而似然提供可靠的置信区间。
2013-01-21 stat.ME
Generalized Connectivity Matrix Response Regression with Applications in Brain Connectivity Studies
近年来,多学科网络数据快速出现,其中在每个个体学科的一组公共节点上测量单独的连接矩阵,以及学科协变量信息。在这篇文章中,我们提出了一个新的广义矩阵响应回归模型,其中观察到的网络被视为矩阵值的响应和主题协变量作为预测。新模型通过一个低秩截距矩阵来表征总体水平的连通性模式,通过一个稀疏的斜率张量来表征受试者协变量的影响。我们开发了一个有效的交替梯度下降算法的参数估计,并建立了非渐近误差界的实际估计算法,量化的计算和统计误差之间的相互作用。我们进一步证明了图社区恢复的强一致性,以及边选择的一致性。我们通过模拟和两个大脑连接研究证明了我们的方法的有效性。
2021-03-19 stat.ME
Interquantile Shrinkage in Spatial Quantile Autoregressive Regression models
空间相关数据经常出现在空间计量经济学、流行病学等领域。为了处理变量间的相关性和利用协变量估计分位数效应,引入了空间分位数自回归模型(SQAR模型)。传统的分位数回归只关注拟合模型,而忽略了多个条件分位数函数的检验,这提供了对响应和协变量之间关系的全面视图。因此,有必要研究不同分位数下的不同回归斜率,特别是在分位数系数具有某些共同特征的情况下。然而,传统的Wald多重检验不仅增加了计算负担,而且带来了更大的FDR。本文将参数估计和检验问题转化为惩罚问题,在估计不同分位数下的参数的同时,识别分位数间的共性。为了避免SQAR模型中空间滞后变量引起的内隐问题,在估计前引入工具变量,提出了基于融合自适应LASSO和融合自适应超范数惩罚的两阶段估计方法。所提出的估计方法的预言性质的建立。数值实验表明,该方法比传统的分位数回归方法具有更高的估计效率。
2021-11-13 stat.ME
Environmental Risk Assessment via Nonhomogeneous Hidden Semi-Markov Models with Penalized Vector Auto-Regression
提出基于非齐次隐半马尔可夫向量自回归的多元空气污染建模框架,结合EM算法和L1正则化估计参数,并利用Shapley值分解评估环境风险,有效识别高污染事件以支持政策干预。
2025-09-17 stat.ME
Network-based Neighborhood regression
University of Toronto(多伦多大学);Carnegie Mellon University(卡内基梅隆大学)
针对现有生物模块统计分析未结合网络数据的问题,提出融合全局社区信息与局部连接结构的网络邻域回归框架,通过社区级最小二乘优化实现极小极大最优与节点数线性一致性,实验验证有效并可用于自闭症多组学模块关联分析。
2025-03-20 cs.LG stat.ME stat.ML
A Note on the Asymptotic Properties of the GLS Estimator in Multivariate Regression with Heteroskedastic and Autocorrelated Errors
本文针对误差存在异方差与自相关的多元回归,分析GLS估计量的渐近性质,推导线性约束检验的Wald统计量,并证明其稳健性。
2025-03-18 econ.EM q-fin.ST stat.ME
Automatic Response Category Combination in Multinomial Logistic Regression
我们提出了一种惩罚似然方法,同时适合多项逻辑斯谛回归模型,并结合子集的响应类别。当优化变量中的列对相等时,惩罚是不可微的。这鼓励估计量中的这些列成对相等,这对应于响应类别组合。我们使用交替方向乘子算法来计算估计量,并讨论了算法的收敛性。预测和模型选择也得到了解决。
2017-05-10 stat.ME stat.ML
Automatic Inference for Value-Added Regressions
University College London(伦敦大学学院)
本文研究了价值增加值回归中经验贝叶斯估计器的性质,指出正确建模异方差性可实现自动偏倚校正,从而提高推断效率。
2025-12-09 econ.EM stat.ME
Censored autoregressive regression models with Student-$t$ innovations
Student- $t$分布广泛用于涉及离群值的数据集的统计建模,因为其长于正常的尾部提供了处理此类数据的稳健方法。此外,随着时间的推移收集的数据可能包含删失或缺失的观察结果,因此无法使用标准统计程序。本文提出了一种新息服从Student- $t$分布且回归误差自相关时截尾线性回归模型参数估计的算法。为了适应所提出的模型,最大似然估计获得整个SAEM算法,这是一个随机逼近的期望最大化算法的模型中,E-步骤不具有解析形式。该方法说明了一个真正的数据集,左删失和缺失的观察分析。我们还进行了两个模拟研究,以检查估计的渐近性质和模型的鲁棒性。
2022-01-19 stat.AP stat.ME
Bayesian Degree-Corrected Stochastic Blockmodels for Community Detection
网络中的社区发现在社会科学领域引起了广泛的关注。鉴于其重要性,已经有大量的文献从许多领域的方法。在这里,我们提出了一个统计框架,是有代表性的,可扩展的,并产生一个估计具有良好的性能。我们提出的方法认为,一个随机块模型的基础上,逻辑斯谛回归制定与节点校正项。我们遵循贝叶斯方法,通过事先规范明确捕获社区行为。我们进一步采用了一个数据增强策略与潜在的Polya-Gamma变量,以获得后验样本。我们进行推理的基础上的原则,规范映射的质心估计,正式解决标签不可识别性,并捕捉代表性的社区分配。我们证明了所提出的模型和估计在现实世界以及模拟的基准网络,并表明,所提出的模型和估计更灵活,代表性,并产生较小的错误率相比,MAP估计从经典的度校正随机块模型。
2014-12-17 cs.SI physics.soc-ph stat.ME
Coefficient Decomposition of Spatial Regressive Models Based on Standardized Variables
空间自相关分析是空间自回归建模的基础。然而,空间相关系数和空间回归模型之间的关系还没有很好地阐明。本文致力于探索空间回归系数的深层结构。通过数学推理,从基于标准化变量的一般空间回归模型出发,导出了一对典型空间回归系数公式。空间自回归和滞后回归系数被简化为一系列统计参数和度量,包括常规回归系数、Pearson相关系数、Moran指数、空间互相关系数和预测残差方差。这些公式表明了空间相关系数和空间回归系数之间确定的内在关系。新发现如下:空间自回归系数主要取决于自变量的Moran指数,空间滞后回归系数主要取决于自变量与因变量的互相关系数。利用京津冀地区城市系统的观测资料对新公式进行了验证,结果令人满意。新公式及其变量有助于从空间相关性的角度理解空间回归模型,并可用于辅助空间回归建模。
2022-02-14 physics.data-an stat.ME