A modern maximum-likelihood theory for high-dimensional logistic regression
每个统计学或数据科学的学生都很早就知道，当样本量大大超过变量数量时，拟合逻辑模型会产生近似无偏的估计。每个学生还学习到，有一些公式可以预测这些估计值的变异性，这些估计值用于统计推断的目的;例如，产生p值来检验回归系数的显著性。虽然这些公式来自大样本渐近，我们经常被告知，我们是在合理的安全理由时，$n$是大的，以这种方式，$n \ge 5p$或$n \ge 10p$。本文表明，这是远离的情况下，因此，推理通常产生的常见软件包往往是不可靠的。考虑一个具有独立特征的Logistic模型，其中$n$和$p$以固定比例逐渐增大。然后，我们表明（1）MLE是有偏的，（2）MLE的变异性远远大于经典预测，（3）常用的似然比检验（LRT）不是卡方分布。MLE的偏倚是非常有问题的，因为它基于协变量的观测值对病例概率产生了完全错误的预测。我们发展了一个新的理论，它渐近地预测（1）最大似然估计的偏差，（2）最大似然估计的变异性，和（3）LRT的分布。我们的经验也表明，这些预测是非常准确的有限样本。此外，一个吸引人的特点是，这些新的预测取决于未知序列的回归系数，只有通过一个单一的标量，信号的整体强度。这表明非常具体的程序来调整推理;我们描述了一个这样的程序，从数据中学习单个参数并产生准确的推理
2018-06-16 math.ST stat.ME stat.TH
Are Latent Factor Regression and Sparse Regression Adequate?
Princeton University（普林斯顿大学）
我们提出了因子增广稀疏线性回归模型（FARM），它不仅包含了潜在因子回归和稀疏线性回归的特殊情况，而且将降维和稀疏回归联系在一起。我们分别在亚高斯噪声和重尾噪声（具有有界的（1+x）阶矩，对于所有x>0）的存在下，为我们的模型的估计提供了理论保证。此外，现有的监督学习的工作往往假设潜在的因素回归或稀疏线性回归是真正的基础模型，而没有证明其充分性。为了填补这一重要空白，我们还利用我们的模型作为替代模型来测试潜在因子回归和稀疏线性回归模型的充分性。为了实现这些目标，我们分别提出了因子调整去偏检验（FabTest）和两阶段方差分析类型检验。我们还进行了大规模的数值实验，包括合成和FRED宏观经济数据，以证实我们的方法的理论特性。数值结果表明，我们的模型对潜在的因素回归和稀疏线性回归模型的鲁棒性和有效性。
2022-03-02 cs.LG math.ST stat.ME
Real-time semiparametric regression
我们开发了实时执行半参数回归分析的算法，数据在收集时进行处理，并通过现代电信技术立即提供。我们的半参数回归的定义是相当广泛的，包括，作为特殊情况下，广义线性混合模型，广义可加模型，地质统计模型，小波非参数回归模型及其各种组合。快速更新回归拟合是通过将半参数回归耦合到贝叶斯分层模型或等价的图形模型框架中并采用在线平均场变分思想来实现的。本文所附的一个网站realtime-semiparametric-regression.net说明了不断获得股票市场、房地产和航空公司数据的方法。基于日益普遍的流数据源的灵活实时分析将受益匪浅。
2013-02-06 stat.ME
Semiparametric regression and risk prediction with competing risks data under missing cause of failure
队列研究中涉及竞争风险的失败原因经常观察不完全。为了解决这一问题，在随机缺失假设下，已经提出了几种半参数比例原因特异性风险模型的方法。然而，这些建议仅提供了对回归系数的推断，而没有考虑无穷维参数，如协变量特定的累积发生率函数。然而，后者的数量是必不可少的风险预测在现代医学。在本文中，我们提出了一个统一的框架推断的回归系数的比例原因特定的风险模型和协变量特定的累积发生率函数下的随机缺失的故障原因。我们的方法是基于一种新的计算效率的最大伪偏似然估计方法的半参数比例原因特定的风险模型。利用现代经验过程理论，我们推导出所提出的估计的渐近性质的回归系数和协变量特定的累积发生率函数，并提供了方法，为后者同时构建置信带。模拟研究表明，我们的估计表现良好，即使在存在一个大部分的缺失故障原因，回归系数估计可以大大提高效率相比，以前提出的增广逆概率加权估计。该方法使用来自HIV队列研究和膀胱癌临床试验的数据应用。
2020-02-20 stat.ME
Semi-supervised learning for linear extremile regression
本文针对高维环境下非参数极值分位数回归的不足，提出线性极值分位数回归新定义及估计方法，并引入半监督学习提升估计效率，即使模型误设也有效，模拟和实证验证了其有限样本性能。
2025-07-02 stat.ME stat.ML
Dimension Reduction via Supervised Clustering of Regression Coefficients: A Review
降维方法的发展和使用在现代统计文献中很普遍。本文回顾了一类降维技术，其目的是同时选择相关的预测，并找到集群内共享的响应的共同影响。已证明此类方法相对于OLS估计值和套索[Tibshirani，1996]具有优越的性能，尤其是当预测因子存在多重共线性时。它们的应用，其中包括遗传学，流行病学和功能磁共振成像研究，也进行了讨论。
2022-02-17 stat.ME
A Mixture of Linear-Linear Regression Models for Linear-Circular Regression
我们介绍了一种新的方法，线性循环回归问题，涉及多个线性预测的循环响应。我们遵循一个包裹的正态分布，描述角变量和角分布的建模方法，并提出了一个线性-圆形回归分析。以往的一些工作将圆形变量建模为二元高斯随机向量在单位正方形上的投影，并且所得到的模型的统计推断涉及复杂的采样步骤。该模型将圆形响应视为对未观测到的线性响应进行取模运算的结果。所得到的模型是多个线性-线性回归模型的混合。本文给出了混合模型极大似然估计的两种期望最大化算法，一种用于参数模型，另一种用于非参数模型。估计算法提供了一个很大的计算和估计精度之间的权衡，这是用五个数值例子数值显示。所提出的方法被应用到一个问题，估计风向，通常表现出复杂的模式与大的变化和圆形。
2019-09-15 stat.ME
Generalized Ridge Regression: Applications to Nonorthogonal Linear Regression Models
本文研究广义岭回归在缓解多元线性回归多重共线性中的应用，推导了估计方差、变异系数、相关系数、方差膨胀因子和条件数的表达式，并用两个数值例子验证结果。
2025-04-08 stat.ME
Influential Observations in Bayesian Regression Tree Models
本文研究了BCART和BART等贝叶斯回归树模型中影响观测的检测与预测调整问题，提出了三种检测诊断方法及一种重要性抽样算法来消除影响数据的作用，并在真实数据上验证了方法的有效性。
2023-05-17 stat.ME
Linear regression in the Bayesian framework
这些注释旨在阐明从给定数据集执行线性回归的不同策略。文献中提出了加权和普通最小二乘法、岭回归或LASSO等方法。本文是我对这些方法的理解，据我所知，这些方法更好地统一在贝叶斯框架中。导出了用这些方法进行线性回归的计算公式。模型选择的KIC也在本文档的最后导出。
2019-08-09 stat.ME
Distribution free testing for linear regression. Extension to general parametric regression
最近，\cite{Khm13, Khm16, Khm17}提出了一种基于酉变换的检验参数假设的无分布方法，并在\cite{Ngu17}和\cite{Rob19}中进行了进一步的研究。本文证明了在线性回归的分布自由检验中，变换的形式是极其简单的。然后将其推广到向量值协变量的一般参数回归。
2020-02-07 math.ST stat.ME stat.TH
Confidence Sets for a level set in linear regression
回归建模是统计学的主要工具，有大量关于回归函数估计的文献。近年来人们认识到，在回归分析中，最终目标可能是估计回归函数的水平集，而不是估计回归函数本身。已发表的工作估计水平集迄今主要集中在非参数回归，特别是点估计。本文考虑了线性回归水平集置信集的构造问题。特别是，$1-α$水平的上限，下限和双侧置信集的正态误差线性回归构建。结果表明，这些置信集可以很容易地从相应的$1-α$水平的同时置信带构造。本文还指出，该构造方法同样适用于均值响应通过单调连接函数依赖于线性预测量的其它参数回归模型，包括广义线性模型、线性混合模型和广义线性混合模型。因此，本文提出的方法具有广泛的适用性。最后给出了实例说明该方法。
2022-07-26 stat.ME
Correlation Estimation System Minimization Compared to Least Squares Minimization in Simple Linear Regression
在简单的线性回归中，对于正态数据的参数估计，相对于最小二乘法，本文给出了一种利用相关系数和顺序统计量的最小化方法。
2018-02-07 stat.ME
Empirical likelihood inference for partial functional linear regression models based on B spline
本文将经验似然方法应用于基于B样条的部分泛函线性回归模型中回归参数的推断。我们证明了回归参数的经验对数似然比收敛于独立χ 2分布的加权和的规律，并运行模拟来评估我们的方法的有限样本性能。
2017-10-31 stat.ME
The Tilted Beta Binomial Linear Regression Model: a Bayesian Approach
本文提出了新的线性回归模型来处理过分散的二项数据集。这些新的模型称为倾斜贝塔二项回归模型，是根据倾斜贝塔二项分布定义的，假设二项分布的参数遵循倾斜β分布。作为这种回归模型的一种特殊情况，我们提出了β矩形二项回归模型，从二项分布定义，假设他们的参数遵循β矩形分布。这些新的线性回归模型，定义假设这些新的分布的参数遵循回归结构，使用贝叶斯方法和OpenBUGS软件进行拟合。建议的回归模型拟合到一个过度分散的二项数据集的种子发芽取决于所选择的种子androot的类型的数量。
2019-11-25 stat.ME
Linear shrinkage for predicting responses in large-scale multivariate linear regression
我们提出了一种新的预测方法的多变量线性回归问题的特征数量小于样本量，但结果的数量是非常大的。许多流行的程序，如惩罚回归程序，需要参数调整，这是计算上无法在这样的大规模问题。我们采取了不同的方法，从同步估计问题的想法，执行普通的最小二乘参数估计线性收缩的动机。我们的方法是非常计算效率和调谐自由。我们表明，它可以渐近优于普通最小二乘，而无需对真实回归系数进行任何结构假设，并说明其在模拟和单细胞RNA-seq数据分析中的良好性能。
2021-04-18 stat.ME
Variable Selection in Restricted Linear Regression Models
在线性回归中使用先验信息是公知的，以提供回归系数的更有效的估计。当先验信息可用时，Theil和Goldberger（1961）提出的非随机约束回归估计方法是首选方法。本文利用Tibshirani（1996）提出的最小绝对收缩和选择算子（LASSO）方法，研究非随机约束线性回归模型的参数估计和变量选择问题。通过一个小规模的仿真研究和实际数据的例子来说明所提出的方法处理约束线性回归模型中变量选择和参数估计的性能。
2017-10-11 stat.AP stat.ME
Markov-Modulated Linear Regression
经典的线性回归被认为是回归参数依赖于外部随机环境的情况下。最后一个被描述为一个具有有限状态空间的连续时间马尔可夫链。在这里，在不同状态下的预期逗留时间是额外的回归变量。导出了估计回归参数的必要公式。数值例子说明了所得结果。
2019-01-28 stat.ME
Bayesian Analysis on Limiting the Student-$t$ Linear Regression Model
针对线性回归中异常值处理时Student-$t$模型应用缺乏理论支撑的问题，本研究基于正则变化理论提出了保证该模型对y方向异常值稳健性的实用简洁条件。
2025-10-03 stat.ME
PLS Generalized Linear Regression and Kernel Multilogit Algorithm (KMA) for Microarray Data Classification
本文将Bastien等人（2005）提出的偏最小二乘广义线性回归（PLSGLR）与逻辑斯谛回归和线性判别分析相结合，得到偏最小二乘广义线性回归-逻辑斯谛回归模型（PLSGLR-log）和偏最小二乘广义线性回归-线性判别分析模型（PLSGLRDA）。这两种分类方法，然后与经典的方法，如k-近邻（KNN），线性判别分析（LDA），偏最小二乘判别分析（PLSDA），岭偏最小二乘（RPLS），和支持向量机（SVM）进行比较。此外，我们实现了Dalmau等人的核多对数算法（KMA）。（2015）并将其性能与其他分类器进行了比较。结果表明，对于未经预处理和预处理的数据，KMA具有最低的分类错误率。
2019-06-19 stat.CO stat.ME
Generalized Ridge Regression: Biased Estimation for Multiple Linear Regression Models
本文针对多元线性回归中回归变量非正交导致普通最小二乘估计不佳的问题，系统研究了广义岭回归的估计、均方误差、拟合优度及自助法推断。
2024-07-02 stat.ME
Simultaneous Confidence Tubes for Comparison of Several Multivariate Linear Regression Models
在过去的60多年里，关于多重比较和同时推理的研究大多是针对几个总体均值的比较。Spurrier（1999）似乎是第一个使用同时置信带研究几个简单线性回归线的多重比较的人。本文将Liu等（2004）利用联合置信带对几个单变量线性回归模型进行有限比较的工作推广到利用联合置信管对几个多元线性回归模型进行有限比较。我们展示了如何同时置信管可以构建允许多个多元线性回归模型的比较，比目前的假设检验方法更翔实的推论。用实例说明了这些方法。
2020-05-20 stat.ME
Scalar-on-function local linear regression and beyond
对随机函数的标量响应进行回归是当今常见的情况。在非参数情况下，本文为基于投影方法的局部线性回归成为解决这类回归问题的突出方法铺平了道路。我们的渐近结果表明，功能的局部线性回归优于其功能的局部常数对应。除了回归算子本身的估计之外，局部线性回归也是预测回归算子的函数导数的有用工具，其本身是一个有前途的数学对象。局部线性估计的功能衍生物被证明是一致的。在模拟数据集上，我们说明了这两种方法良好的有限样本特性。在一个单函数指数模型的实际数据例子中，我们指出了回归算子的函数导数如何提供了一种原始的、快速的、广泛适用的估计方法。
2019-07-18 math.ST stat.ME stat.TH
Tensor Regression with Applications in Neuroimaging Data Analysis
经典回归方法将协变量视为向量，并估计回归系数的相应向量。医学成像中的现代应用产生更复杂形式的协变量，例如多维数组（张量）。传统的统计和计算方法被证明不足以分析这些高通量的数据，由于其复杂的结构和多维性。在这篇文章中，我们提出了一个新的家庭张量回归模型，有效地利用特殊结构的张量协变量。在此框架下，将数据的维数降低到可管理的水平，从而实现有效的估计和预测。本文提出了一种快速、高扩展性的极大似然估计算法，并研究了它的渐近性质。合成和真实的MRI成像数据的新方法的有效性证明。
2012-03-14 stat.ME
On function-on-function linear quantile regression
提出两种函数偏分位数回归算法，通过基展开和投影将无限维函数-on-函数线性分位数回归模型转化为多变量分位数回归模型，在有限样本下表现优于现有方法。
2025-10-12 stat.ME
Best subset selection in linear regression via bi-objective mixed integer linear programming
研究了在给定n个观测值的线性回归中p个特征的最佳子集的选择问题。这个问题自然包含两个目标函数，包括最小化偏差量和最小化预测因子的数量。现有的方法将问题转化为一个单目标优化问题。我们解释了现有方法的主要弱点，并克服其缺点，我们提出了一个双目标混合整数线性规划方法。计算研究表明，所提出的方法的有效性。
2018-04-21 stat.ME
Bayesian model selection for linear regression
在这篇笔记中，我们介绍了线性回归与基函数，以应用贝叶斯模型选择。我们的目标是结合贝叶斯分析提供的奥卡姆剃刀，以便自动选择能够最佳地解释数据而不过度拟合的模型。
2015-12-15 math.ST stat.ME stat.TH
A Minimum Message Length Criterion for Robust Linear Regression
本文将最小信息长度原理应用于具有Student-t误差的线性回归模型的推断。提出了一种新的Student-t回归变量选择和参数估计准则。通过利用回归模型的性质，我们得到了一个合适的无信息的适当的均匀先验分布的回归系数，导致一个简单和易于应用的标准。我们提出的准则不需要指定超参数，并且在设计矩阵的满秩变换和结果的线性变换下都是不变的。我们比较了建议的标准与几个标准的模型选择标准，如赤池信息标准和贝叶斯信息标准，模拟和实际数据与有希望的结果。
2018-02-20 stat.ME
On Linear Regression for Interval-valued Data in $\mathcal{K}_{\mathcal{C}}\left(\mathbb{R}\right)$
研究区间值线性回归已有一段时间了。本文在随机集的框架下研究了区间值数据的线性回归。我们提出的模型推广了一系列现有的模型。我们建立了$\mathbb{R}$的紧凸子集空间中的模型的重要性质，类似于经典的线性回归。此外，我们进行了理论研究，在文献中广泛使用的最小二乘估计。一个模拟研究，支持我们的定理。最后，一个气候数据集的应用程序，以证明我们的模型的适用性。
2015-06-10 stat.ME
Bootstrapping for multivariate linear regression models
多元线性回归模型是研究多个响应变量和多个预测变量之间关系的重要工具。主要的兴趣是关于未知的回归系数矩阵的推断。我们提出多元自助技术作为一种手段，使未知的回归系数矩阵的推断。这些自举技术是Freedman（1981）中开发的技术的扩展，其仅适用于单变量响应。对多元线性回归模型的扩展是在没有证明的情况下进行的。我们形式化的扩展，并证明其有效性。一个真实的数据例子和两个模拟数据的例子，提供了一些有限的样本验证我们的理论结果。
2017-09-12 math.ST stat.ME stat.TH
Testing Multiple Linear Regression Systems with Metamorphic Testing
回归是最常用的统计技术之一。然而，测试回归系统是一个巨大的挑战，因为缺乏测试预言一般。在本文中，我们表明，变形测试是一种有效的方法来测试多个线性回归系统。在此过程中，我们确定内在的数学性质的线性回归，然后提出11个变形关系用于测试。他们的有效性进行检查，使用突变分析与一系列不同的回归程序。我们进一步研究如何以更有效的方式采用测试。我们的工作是适用于检查预测系统的可靠性的基础上回归，已被广泛应用于经济，工程和科学，以及统计用户操纵的回归计算。
2021-08-17 cs.SE stat.ME
Model Prior Distribution for Variable Selection in Linear Regression Models
本文讨论了线性回归中变量选择的先验概率模型。这个想法是在客观意义上确定先验质量，通过考虑每个可能的回归模型的价值，给定所考虑的协变量的数量。通过仿真研究，我们表明，所提出的先验优于均匀先验和Scott \& Berger先验的情况下，没有先验知识的真实回归模型的大小。我们使用两个著名的数据集，分别为15和4协变量说明了使用的先验。
2015-12-26 stat.ME
A unified framework for model-based clustering, linear regression and multiple cluster structure detection
描述了一个处理线性回归和聚类问题的一般框架。它包括随机协变量的高斯聚类线性回归分析和通过变量选择的高斯混合模型的聚类分析。它还承认一种新的方法，用于检测多个聚类可能相关的子向量的变量，定义为条件独立的高斯混合模型的产品的模型的基础上。给出了该模型可辨识的必要条件。所描述的方法的有用性和有效性，说明使用模拟和真实的数据集。
2015-10-12 stat.ME
The Unbiasedness Approach to Linear Regression Models
线性回归模型是一种在实际应用中广泛使用的统计技术。标准回归模型需要对回归量和误差项进行若干假设。使用最小二乘法估计回归参数。本文考虑具有任意回归变量且不含误差项的回归模型。得到了回归参数向量的显式表达式。无偏性方法被用来估计回归参数和它的各种性质进行了研究。结果表明，得到的无偏估计量等于固定设计模型的最小二乘估计。残差和回归平方和的分析可以以自然的方式进行。并得到了该无偏估计量的离差矩阵的无偏估计量。文中还讨论了AR（p）模型的应用和数值例子。
2015-11-03 stat.ME
Equivalence testing for linear regression
本文提出线性回归的等价性检验方法，用于确认连续结果与预测变量间无有意义关联，涵盖非标准化回归系数和半偏相关系数的检验，并比较了贝叶斯方法。
2023-05-16 stat.ME
Revisiting the Conceptualization of Multiple Linear Regression
被称为多元共线的问题长期以来一直被认为是从根本上和负面影响多元回归。本文不打算提出一个数值评估的程度，这个问题存在于任何数据集或解决问题本身。相反，它是我们的意图，说明潜在的严重后果多重共线性的传统发展的多元线性回归（MLR）模型及其相关的统计使用已建立的方程，维恩图，和真实的数据。
2023-01-29 stat.ME
Indirect multivariate response linear regression
我们提出了一类新的估计的多元响应线性回归系数矩阵，利用假设的响应和预测有一个联合的多元正态分布。这使得我们能够通过对逆回归的参数进行收缩估计，或者通过给定响应的预测因子的条件分布来间接估计回归系数矩阵。我们建立了一个收敛速度界估计在我们的类，我们研究了两个例子。第一示例估计器利用逆回归的系数矩阵是稀疏的假设。第二示例估计器利用逆回归的系数矩阵是秩亏的假设。这些估计不需要流行的假设，即前向回归系数矩阵是稀疏的或具有小的Frobenius范数。使用模拟研究，我们表明，我们的例子估计优于一些数据生成模型的相关竞争对手。
2015-07-16 stat.ME
On the implied weights of linear regression for causal inference
观察性研究设计的一个基本原则是近似于在受控环境下进行的随机实验。目前，线性回归模型常用于分析观测数据和估计因果效应。观察性研究中的线性回归调整如何模拟随机化实验的关键特征，如协变量平衡、自加权抽样和研究代表性？在本文中，我们通过分析线性回归方法的隐含（个体水平数据）权重来回答这个问题和相关问题。我们推导出新的封闭形式的权重表达式，并在有限和渐近制度检查其属性。我们证明了一般回归问题的隐含权可以等价地通过求解一个凸优化问题得到。其中，我们研究了双重和多重稳健性回归估计的角度来看，其隐含的权重。这种等价性使我们能够从回归建模和因果推断文献中桥接思想。因此，我们提出了新的回归诊断的因果推断的一部分，设计阶段的观察性研究。作为特殊情况，我们分析了在常见的设置，如多值处理和匹配后的回归调整隐含的权重。我们在R的新lmw包中实现了权重和诊断。
2022-07-07 stat.ME
Log-Linear Bayesian Additive Regression Trees for Multinomial Logistic and Count Regression Models
本文介绍了对数线性模型的贝叶斯加性回归树（BART），包括多项逻辑斯谛回归和计数回归，其中包含零膨胀和过度离差。BART已被应用于非参数均值回归和二进制分类问题在一系列的设置。然而，现有的应用程序的BART已被限制为高斯“数据”，无论是观察到的或潜在的模型。这主要是因为有效的MCMC算法可用于高斯似然。但是，虽然许多有用的模型是自然铸造的潜在高斯变量，许多其他人不是-包括本文考虑的模型。我们开发了新的数据增强策略，并仔细指定这些新模型的先验分布。像原来的BART先验一样，新的先验分布经过精心构造和校准，在防止过拟合的同时具有灵活性。新的先验和数据增强方案使我们能够在高斯模型的背景之外实现一个有效的MCMC采样器。这些新方法的效用说明了与以前公布的数据集的例子和应用程序。
2019-08-26 stat.ME
Simultaneous Inference for Time Series Functional Linear Regression
Illinois State University（伊利诺伊州立大学）；University of Toronto（多伦多大学）
本文提出一种统一的乘数Bootstrap方法，用于构建时间序列标量-函数线性回归系数函数的联合置信带，该方法在粗糙度惩罚估计下具有正确的覆盖概率渐近性，并对不一致估计的标准差具有渐近鲁棒性。
2026-04-27 stat.ME
A Type of Nonlinear Fréchet Regressions
本文提出一类非线性Fréchet回归，用于在一般度量空间中拟合本质非线性模型并在Hilbert空间中唯一识别非线性结构，具有估计一致性等理论性质且表现显著优于竞争方法。
2024-03-27 stat.ME
On Soft Bayesian Additive Regression Trees and asynchronous longitudinal regression analysis
在许多纵向研究中，协变量和响应经常在不规则、不匹配和受试者特定的时间间歇性观察到。当协变量和响应被异步观测时，如何处理这样的数据是一个经常提出的问题。贝叶斯加性回归树（Bayesian Additive Regression Trees，BART）是一种贝叶斯非参数方法，已被证明与最好的现代预测方法（如随机森林和提升决策树）具有竞争力。树的和结构与贝叶斯推理框架相结合，提供了一个准确和鲁棒的统计方法。BART变体软贝叶斯加性回归树（SBART）构造使用随机决策树和实质性的理论和实践的好处。在本文中，我们提出了一个加权SBART模型的解决方案，异步纵向数据。与其他方法相比，现有方法在对协变量过程的假设较少的情况下是有效的。广泛的模拟研究提供了这种解决方案的数值支持。来自艾滋病研究的数据被用来说明我们的方法
2021-08-26 stat.AP stat.ME
Kernel regression for cause-specific hazard models with time-dependent coefficients
竞争风险数据在现代生物医学研究中广泛存在。在过去的二十年中，特定原因危害模型经常被用来处理竞争风险数据。目前还没有研究核似然方法的原因特定的风险模型与时变系数。我们提出了使用局部部分对数似然方法的非参数时变系数估计。仿真研究表明，我们提出的非参数核估计器具有良好的性能，在假设有限的样本设置。最后，我们应用所提出的方法来分析糖尿病透析研究与竞争的死亡原因。
2021-09-11 stat.ME
Bayesian Estimation Approach for Linear Regression Models with Linear Inequality Restrictions
受线性不等式约束的单变量和多变量一般线性回归模型在许多科学应用中出现。对模型参数的线性不等式限制通常可以从现象学知识中获得，并受到高后果工程系统的机器学习应用的启发（Rollll，2019; Veiga和Marrel，2012）。多线性模型的一些研究考虑限制在上下限之间的回归系数参数的已知线性组合。在本文中，我们考虑了单变量和多变量一般线性模型在这类线性约束下的情形。迄今为止，基于贝叶斯方法的单变量情形的研究都是在线性约束的系数矩阵为满秩方阵的条件下进行的。然而，这个条件并不总是可行的。另一个困难出现在估计步骤中，通过实施吉布斯算法，其在大多数情况下表现出缓慢的收敛。本文提出了一种在线性不等式约束矩阵不满足任何条件的情况下估计回归参数的贝叶斯方法。对于多变量情形，当约束条件的个数小于每个多个线性模型中的回归系数的个数时，我们的贝叶斯方法估计回归参数。我们通过单变量和多变量回归的模拟研究，我们的贝叶斯方法的效率。在此之后，我们说明了我们的算法的收敛速度比以前的方法相对更快。最后，我们使用我们的方法来分析两个真实的数据集。
2021-12-06 stat.CO stat.ME stat.OT
Using mixtures in seemingly unrelated linear regression models with non-normal errors
引入了误差分布为有限高斯混合的看似无关的线性回归模型。提供了可识别性条件。导出了分数向量和Hessian矩阵。采用极大似然法进行参数估计，并开发了期望最大化算法。所提出的方法和数值评估其属性的有用性说明通过一个真实的数据集的分析。
2014-03-17 stat.ME
Simulation-based Regularized Logistic Regression
在本文中，我们开发了一个基于模拟的框架，正则化逻辑斯谛回归，利用两个新的结果，规模混合的法线。通过仔细选择一种类型的混合物的似然分层模型，并与另一个实施正则化，我们得到新的MCMC计划与不同的效率取决于数据类型（二进制与二项式，说）和所需的估计（极大似然，最大后验概率，后验均值）。我们的综合方法的优点包括灵活性，计算效率，p >> n设置中的适用性，不确定性估计，变量选择和评估最佳正则化程度。我们将我们的方法与合成和真实数据的现代替代品进行比较。CRAN上有一个名为reglogit的R包。
2012-01-07 stat.CO stat.ME
Linear regression for Poisson count data: A new semi-analytical method with applications to COVID-19 events
本文提出一种基于最大似然和Fisher信息矩阵的泊松计数数据半解析线性回归新方法，通过解析求解参数与协方差矩阵，并将其应用于COVID-19数据分析，与最小二乘和$χ^2$回归进行了优缺点比较。
2023-06-28 stat.AP stat.ME
Detecting influential observations in single-index Fréchet regression
针对随机数据对象回归易受异常观测影响的问题，提出适用于度量值响应与欧氏预测变量的度量 Cook 距离，并通过多空间实验和 COVID-19、脑网络应用验证其检测有影响观测的效果。
2024-07-05 stat.AP stat.CO stat.ME
Theoretical properties of Bayesian Student-$t$ linear regression
Bayesian Student- $t$线性回归是正态模型的一种常见的稳健替代模型，但其理论特性还不是很好地理解。我们的目标是通过提供两种不同的渐近情景分析来填补一些空白。结果允许精确地表征通过自由度（至少渐近地）控制的鲁棒性和效率之间的权衡。
2023-02-07 math.ST stat.ME stat.TH
Sufficient Conditions for a Linear Estimator to be a Local Polynomial Regression
证明了任何满足矩条件的线性估计直到$p$阶等价于局部多项式回归的阶为$p$与一些非负的权重函数当且仅当内核最多有$p$的符号变化。如果数据点关于估计点对称放置，则线性加权函数等效于标准二次加权函数。
2018-03-16 math.ST stat.ME stat.TH
Power analysis for a linear regression model when regressors are matrix sampled
多重矩阵抽样是一种调查方法技术，它随机选择一个相对较小的项目子集向调查受访者提供，以减轻受访者的负担。产生的数据是完全随机缺失的（MCAR），在线性回归和其他多元统计分析中应使用特殊的缺失数据技术。我们推导出回归参数估计值的渐近方差，使我们能够对通过多矩阵抽样设计获得的数据拟合的线性回归模型进行功效分析。这些想法是通过大五心理特质清单的一个变体来证明的。回归参数空间的探索表明，不稳定的样本量的要求，和大量的损失与矩阵采样回归的精度。非正态数据的模拟表明了半参数多重插补方案的优点。
2017-09-30 stat.ME stat.OT
A New Bootstrap Goodness-of-Fit Test for Normal Linear Regression Models
本文通过分析似然信息准则中拟合优度项的分布性质，提出了一种基于非参数自助法的正态线性回归模型拟合优度检验，并通过模拟研究验证了其相对于现有方法的优势。
2023-09-19 stat.AP stat.ME
Multiple Linear Regression and Correlation: A Geometric Analysis
在这篇综述文章中，我们从几何角度考虑线性回归分析，从相关向量的长度和这些向量之间的角度来看标准方法和输出。我们表明，标准的回归输出可以写在各种输入向量之间的长度和角度，这样的几何信息是足够的线性回归问题。这使我们能够获得多重相关的标准公式，并给出几何解释。我们研究多重共线性如何影响数据的总解释力，我们研究了一个反直觉的现象，称为“增强”，其中解释向量的总信息大于边际部分的总和。
2021-09-13 math.ST stat.ME stat.TH
On posterior propriety for the Student-$t$ linear regression model under Jeffreys priors
具有厚尾误差项的回归模型是一种越来越受欢迎的选择，以获得对离群观测值的更稳健的推断。本文主要研究基于Jeffreys规则的客观先验下Student- $t$线性回归模型的贝叶斯推断。对Fonseca等人（2008）提出的后部适当性结果进行了重新审查和纠正。特别是，它表明，标准的杰弗里斯规则事先排除存在一个适当的后验分布。
2013-11-08 math.ST stat.AP stat.ME
