L-Estimation of Population Quantiles Using Ranked Set Sampling
University of Manitoba(曼尼托巴大学);University of Isfahan(伊斯法罕大学);The George Washington University(乔治华盛顿大学)
本文提出两种基于秩集抽样的L估计方法,用于估计人口分位数,通过分解秩集设计构造了可扩展的计算方法,并在模拟和实际数据中验证了其效率优势。
2026-05-02 math.ST stat.ME stat.TH
A Wald-type test statistic for testing linear hypothesis in logistic regression models based on minimum density power divergence estimator
本文对逻辑斯谛回归模型中的线性假设引入了经典Wald检验统计量的一个稳健版本,并研究了它的性质。我们在随机协变量的假设下研究这个问题,虽然也考虑了一些非随机协变量的想法。所考虑的检验族是基于最小密度幂离估计而不是基于最大似然估计,本文称之为Wald型检验统计量。得到了Wald型检验统计量的渐近分布,并研究了其稳健性.通过影响函数分析以及适当的实际例子,从理论上研究了测试的鲁棒性。理论上建立了Wald型检验的水平和功效对污染是稳定的,而经典Wald型检验在这种情况下失效。一些经典的例子,数值证实了理论的发展。最后通过仿真研究进一步验证了本文理论结果的正确性。
2016-09-23 math.ST stat.TH
Nonlinear sequential designs for logistic item response theory models with applications to computerized adaptive tests
随着现代计算机技术的发展,计算机化自适应测试越来越受到人们的欢迎。它与传统的标准化考试不同之处在于,试题的选择是根据考生的能力水平而定的。由此产生的选择策略是一个非线性的序贯设计问题。在本文中,我们研究的序贯设计问题的背景下,逻辑的项目反应理论模型。我们表明,通过最大化项目信息获得的自适应设计导致一个一致的和渐近正态的能力估计的情况下,Rasch模型。最大信息方法的修改,提出了两个和三个参数的逻辑模型。类似的渐近性质的修改后的设计和由此产生的估计。在两参数Logistic模型的情况下,给出了例子,表明没有这样的修改,能力参数的极大似然估计可能是不相容的。
2009-06-10 math.ST stat.TH
A note on "MLE in logistic regression with a diverging dimension"
这个简短的说明是为了指出读者注意到,证明高维渐近正态性的MLE估计逻辑斯谛回归的制度$p_n=o(n)$中给出的文件:“极大似然估计逻辑斯谛回归模型与发散数量的协变量。电子统计杂志,6,1838-1846。“是错误的。
2018-01-26 math.ST stat.TH
Nonparametric estimation of the entropy using a ranked set sample
本文研究了秩集抽样中熵的非参数估计。所提出的估计的理论性质进行了研究。在简单随机抽样下,将该估计与竞争估计进行了比较。给出了该估计器在互信息估计和库尔贝克-莱布勒散度估计中的应用.几个蒙特卡罗模拟研究进行了检查的估计性能。结果被应用到长叶松(pinus palustris)树木和体脂百分比数据集,以说明理论结果的适用性。
2015-06-14 stat.CO
Finite-sample performance of the maximum likelihood estimator in logistic regression
Department of Statistics, University of California, Berkeley, USA(加州大学伯克利分校统计学系);Department of Statistics, CREST/ENSAE Paris, Palaiseau, France(巴黎中央银行与应用经济学院统计学系)
本文研究了逻辑回归中最大似然估计的有限样本性能,分析了其存在性和准确性,并在不同数据条件下提供了非渐近保证。
2026-02-19 cs.LG math.ST stat.ML
Robust semiparametric inference for polytomous logistic regression with complex survey design
分析复杂调查方案(如分层或整群抽样)的多分类响应在一些社会经济学应用中非常重要。本文给出了多分类逻辑斯谛回归模型的一类最小拟加权密度幂离估计。这个家庭的半参数估计是一个强大的推广的最大拟加权似然估计,利用流行的密度功率发散措施的优势。相应地,还导出了设计效应的鲁棒估计。利用新的估计量对回归系数进行了一般线性假设的稳健检验。理论上研究了它们的渐近分布和鲁棒性,并通过数值算例和广泛的蒙特卡罗研究进行了经验验证。
2019-04-03 math.ST stat.AP stat.ME
Asymptotic distribution and sparsistency for l1-penalized parametric M-estimators with applications to linear SVM and logistic regression
由于其早期使用的最小二乘回归问题,变量选择的l1-惩罚框架已与广泛的损失函数,包括回归,分类和生存分析。虽然一个发达的理论存在的l1-惩罚最小二乘估计,很少有结果关注的一般损失函数的l1-惩罚估计的行为。在本文中,我们得到了两个结果,惩罚估计的惩罚和损失函数的广泛阵列。我们的第一个结果刻画了经典情形(固定p大n)下惩罚参数M-估计在损失和罚函数的较弱条件下的渐近分布.我们的第二个结果explanarized必要和充分的广义不可表示性(GI)条件l1-惩罚参数M-估计一致地选择一个模型的组件(稀疏性)以及他们的符号(符号一致性)。一般而言,GI条件取决于风险函数在未知参数的真实值处的Hessian。在高斯预测下,我们得到了一组条件,在这些条件下,GI条件可以仅仅用预测的二阶矩来重新表示。我们应用我们的理论来对比l1-惩罚SVM和逻辑斯谛回归分类器,并找到条件下,他们有相同的行为,在他们的模型选择的一致性(稀疏性和符号的一致性)。最后,我们提供了仿真证据的理论基础上,这些分类的例子。
2009-08-13 math.ST stat.TH
On the stochastic restricted Liu-type maximum likelihood estimator in logistic regression
为了克服多重共线性,当线性约束是随机的时,我们通过将Liu型极大似然估计(Inan and Erdo- GAN,2013)结合到逻辑斯谛回归模型中,提出了随机约束Liu型最大似然估计。我们还讨论了新的估计量的性质。此外,我们还给出了新估计量中偏置参数的选择方法。最后,仿真研究显示了新的估计器的性能。
2017-10-06 stat.ME
Comparing two samples by penalized logistic regression
提出并研究了基于惩罚密度比模型的推理方法。所考虑的模型是通过假设两个未知密度的对数似然函数具有某种参数形式来指定的。该模型已被扩展到涵盖多个样本的问题,而其理论性质已使用大样本理论进行了研究。密度比模型的一个主要应用是检验两个或多个分布是否相等。我们扩展了这些结果,认为惩罚最大经验似然估计量的均方误差比普通最大似然估计量的均方误差要小,特别是对于小样本。事实上,惩罚方法解决了估计量的存在性问题,并且可以使用一个修正的Wald型检验统计量来检验两个分布的相等性。有限的模拟研究进一步支持了这一理论。
2008-07-16 math.ST stat.TH
Improved estimator of the entropy and goodness of fit tests in ranked set sampling
熵是许多统计和工程问题中最适用的不确定性度量之一。在统计文献中,熵用于计算Kullback-Leibler(KL)信息,这是用于执行拟合优度检验的有力平均值。秩集抽样(RSS)在大量的文献研究问题中似乎提供了许多总体参数的改进估计。它是针对感兴趣的变量难以测量或测量成本高的情况而开发的,但在小的子样本中进行排名很容易。本文介绍了两种熵的估计,并对它们进行了比较,同时对简单随机抽样(SRS)中的熵的估计在有偏和均方误差根(RMSE)意义下进行了比较。据观察,RSS计划将改善这种估计。利用熵的最佳估计量和均值的估计量以及基于RSS方案的方差的两个有偏估计量和无偏估计量来估计KL信息,并对指数性和正态性进行拟合优度检验。计算所需的临界值和功率。还观察到,RSS估计器将增加功率。
2011-06-09 stat.CO
Robust Liu-Type Estimation for Multicollinearity in Fuzzy Logistic Regression
University of Wasit(瓦西特大学);University of Diyala(迪亚拉大学)
本文提出了一种针对模糊逻辑回归中多重共线性问题的鲁棒刘型估计方法,通过模拟和实际数据验证了FLLTPE和FLLTE在参数估计中的优越性。
2026-01-31 stat.AP stat.ME
A penalized logistic generalized regression estimator
Reed College(里德学院);Bucknell University(巴克内尔大学);Genospace
本文在模型辅助框架下提出一种惩罚逻辑广义回归估计量,结合Lasso或Ridge惩罚控制辅助变量影响,经模拟和实例验证可提高稀疏模型下估计效率,适用于含多辅助变量的复杂调查数据场景。
2026-09-01 stat.ME
Estimating the logistic regression equation when the model is incorrect
Norwegian Computing Centre(挪威计算中心);University of Oslo(奥斯陆大学)
研究当逻辑回归模型仅为真实函数的近似时,基于似然的估计量(如最大似然估计)的一致性和渐近正态性,并指出最小化加权距离的“最小假”参数值。
2026-05-26 math.ST stat.TH
An improper estimator with optimal excess risk in misspecified density estimation and logistic regression
CREST, ENSAE, Institut Polytechnique de Paris(巴黎综合理工学院国立统计与经济行政学院 CREST);CMAP, École polytechnique(巴黎综合理工学院应用数学中心);LPSM, UMR 8001, Université de Paris(巴黎大学概率与统计实验室);DMA, UMR 8553, Ecole normale supérieure(巴黎高等师范学院数学系)
本文介绍了一种对数损失下的条件密度估计方法,称之为SMP(Sample Minmax Predictor)。该估计量最小化了统计学习的新的一般超额风险界限。在标准示例中,该界限按$d/n$缩放,其中$d$为模型尺寸,$n$为样本量,并且在模型错误指定的情况下仍然有效。作为一个不适当的(模型外)的程序,SMP改善了模型内的估计,如最大似然估计,其超额风险下的误指定。与简化为序列问题的方法相比,我们的边界去除了次优的$\log n$因子,并且可以处理无界类。对于高斯线性模型,SMP的预测和风险界限由协变量的杠杆分数决定,在没有线性模型的噪声方差或逼近误差条件的情况下,几乎匹配指定情况下的最佳风险。对于逻辑斯谛回归,SMP提供了一种非贝叶斯方法来校准依赖于虚拟样本的概率预测,并且可以通过求解两个逻辑回归来计算。它实现了$O((d + B^2R^2)/n)$的非渐近超额风险,其中$R$限制了特征的范数,$B$限制了比较参数的范数;相比之下,一般来说,没有模型内估计量可以实现比$\min({B R}/{\sqrt{n}}, {d e^{BR}}/{n} )$更好的比率。这为贝叶斯方法提供了一种更实用的替代方法,贝叶斯方法需要近似的后验抽样,从而部分解决了Foster et al.(2018)提出的问题。
2021-12-08 cs.LG math.ST stat.ML
Nonparametric logistic regression with deep learning
本文提出一种统一方法,在温和假设下直接证明非参数逻辑回归中最大似然估计在Hellinger距离下的收敛速率,并应用于深度神经网络,达到近乎极小极大最优速率。
2025-02-25 math.ST stat.ML stat.TH
Proportional-limit asymptotics for Diaconis-Ylvisaker-penalised logistic regression with fitted intercept
本文为带拟合截距的Diaconis-Ylvisaker惩罚逻辑回归建立比例极限下的估计量渐近理论,给出斜率极限律、检验统计量分布及可行推断方法。
2026-09-10 math.ST stat.ME stat.TH
Inference in high-dimensional logistic regression under tensor network dependence
University of Florida(佛罗里达大学)
本文研究了在个体间依赖由马尔可夫随机场诱导的情况下,高维协变量逻辑回归的统计推断问题,提出了一种能处理更高阶依赖的张量结构框架,并开发了两步方法以获得渐近正态的估计量,用于构建置信区间和假设检验。
2026-03-20 math.ST stat.ME stat.TH
Statistical Inference for Genetic Relatedness Based on High-Dimensional Logistic Regression
研究了基于个体水平全基因组关联数据的二元性状间遗传相关性的统计推断问题。具体而言,在高维逻辑斯谛回归模型下,我们定义了表征性状间遗传相关、遗传协方差和性状特异性遗传方差的参数。提出了一种新的加权去偏方法,并给出了计算效率较高的去偏估计。研究了这些估计的收敛速度,并在较弱的条件下证明了它们的渐近正态性。此外,我们构造了这些参数的置信区间和统计检验,并提供了理论依据的方法,包括覆盖概率和预期长度的置信区间,以及拟议的测试的大小和功效。在模型生成数据和模拟遗传数据下进行了数值研究,以显示所提出的方法的优越性。通过分析自身免疫性疾病的真实数据集,我们证明了它能够获得关于10种儿科自身免疫性疾病之间共享遗传结构的新见解。
2022-10-05 math.ST stat.AP stat.ME
Inference for the Case Probability in High-dimensional Logistic Regression
在电子健康记录中关于患者具有疾病或病症的状态(即病例或对照状态)对患者进行标记越来越依赖于使用从结构化和非结构化电子健康记录数据导出的高维变量的预测模型。目前的一个主要障碍是缺乏有效的统计推断方法的情况下的概率。针对高维稀疏逻辑斯谛回归模型的预测问题,通过线性化和方差增强技术,提出了一种新的偏差校正估计量.我们建立的估计量的渐近正态性的任何负载向量在高维。我们构建了一个置信区间的情况下的概率,并提出了一个假设检验程序的患者病例对照标签。我们证明了所提出的方法,通过广泛的模拟研究和应用到现实世界的电子健康记录数据。
2021-10-13 math.ST stat.ME stat.TH
New robust statistical procedures for polytomous logistic regression models
本文导出了一类新的估计族,即最小密度幂离估计,作为多分类逻辑斯谛回归模型极大似然估计的稳健推广.在此基础上,引入了线性假设下的Wald型检验统计量族。通过经典的影响函数分析,从理论上研究了所提出的估计量和检验统计量的稳健性。适当的现实生活中的例子,以证明需要适当的强大的统计程序,而不是基于似然推断的多分类逻辑斯谛回归模型。通过适当的模拟研究,进一步证实了本文建立的理论结果的有效性。最后,提出了一种数据驱动的鲁棒性调整参数的选择方法,并给出了经验证明。
2018-06-26 stat.ME
Diaconis-Ylvisaker prior penalized likelihood for $p/n \to κ\in (0,1)$ logistic regression
London School of Economics(伦敦政治经济学院);University of Warwick(华威大学)
本文研究了在高维逻辑回归中,当协变量数量与观测数量比例为κ∈(0,1)时,Diaconis-Ylvisaker先验惩罚似然估计器的渐近性质,并提出了改进的推断方法。
2026-01-06 math.ST stat.TH
Inference on a Distribution Function from Ranked Set Samples
考虑独立观测值$(X_1,R_1)$、$(X_2,R_2)$、\ldots、$(X_n,R_n)$和随机秩或固定秩$R_i \in \{1,2,\ldots,k\}$,当以$R_i = r$为条件时,随机变量$X_i$具有与来自未知连续分布函数$F$的大小为$k$的随机样本内的$r$阶统计量相同的分布。这样的观测方案被用于对观测值进行排序比获得其精确值容易得多的情况。两个著名的特例是排序集抽样(McIntyre 1952)和判断后分层(MacEachern et al. 2004)。在包括不平衡秩集抽样的一般设置中,我们推导并比较了分布函数$F$为$n \to \infty$和固定$k$的三种不同估计量的渐近分布:Stokes和Sager(1988)的分层估计量,Kvam和Samaniego(1994)的非参数最大似然估计量和Chen(2001)的基于矩的估计量。我们的功能中心极限定理推广和完善以前的渐近分析。此外,我们简要地讨论了逐点和同时的分布函数$F$的置信区间,保证覆盖概率有限的样本量。一个真实的数据的例子说明了该方法,并在一个小型的模拟实验的潜在影响的不完美的排名进行了研究。总而言之,除了计算效率之外,基于矩的估计器似乎在效率和鲁棒性与不完美的排名之间提供了一个很好的折衷。
2018-07-02 stat.ME
Existence of Firth's modified estimates in binomial regression models
本研究证明了二项逻辑回归模型中Firth修正估计的存在性,仅需设计矩阵满列秩,并推广至交替链接函数的二项模型。
2024-03-14 math.ST stat.TH
Robust explicit estimation of the log-logistic distribution with applications
对数逻辑斯谛分布的参数通常是基于经典方法如极大似然估计来估计的,然而当数据包含离群值时,这些方法通常会导致严重的有偏估计。在本文中,我们考虑几种替代估计,不仅有封闭形式的表达式,但也是相当强大的数据污染的一定程度。我们调查的鲁棒性每个估计的崩溃点。有限样本的性能和有效性,这些估计通过蒙特卡罗模拟和实际数据的应用进行评估。数值结果表明,所提出的估计表现良好的方式,他们是可比的极大似然估计的数据没有污染,他们提供了优越的性能,在数据污染的存在。
2022-09-15 stat.ME
More Efficient Estimation for Logistic Regression with Optimal Subsample
本文提出了一种改进的逻辑斯谛回归估计方法,该方法基于Wang et al. 2018中提出的最优子采样概率所取的子样本。渐近结果和数值结果都表明,新的估计量具有更高的估计效率。我们还开发了一种新的算法的基础上泊松子采样,它不需要近似的最佳子采样概率一次。当可用的随机存取存储器不足以保存全部数据时,这在计算上是有利的。有趣的是,渐近分布还表明,如果采样率(子样本量与完整数据样本量的比率)不收敛于零,则泊松子采样会产生更有效的估计量。我们还得到了基于Poisson子抽样的估计量的无条件渐近分布。所提出的方法需要使用一个导频估计器来校正未加权估计器的偏差。我们进一步表明,即使导频估计是不一致的,所得到的估计仍然是一致的和渐近正态的,如果该模型是正确指定的。
2021-06-23 stat.ME
A new robust approach for the polytomous logistic regression model based on Rényi's pseudodistances
本文提出基于Rényi伪距离的最小估计族作为多分类逻辑回归模型的最大似然估计的稳健替代,并通过模拟和真实数据验证其在误分类误差下的优越性能。
2024-02-05 stat.ME
Optimal link prediction with matrix logistic regression
我们考虑的链接预测问题,基于一个大的网络的部分观察,并与其顶点的边信息。生成模型被公式化为矩阵逻辑斯谛回归。该模型的性能进行了分析,在一个高维制度下的结构假设。Frobenius范数风险的极大极小率的建立和惩罚的最大似然方法的基础上的组合估计被证明来实现it.Frobenius范数风险的极大极小率,并且证明了在计算复杂性的假设下,任何(随机)算法都不能在多项式时间内计算出该极大极小率。
2018-03-19 math.ST stat.ML stat.TH
Robust statistical inference for accelerated life-tests with one-shot devices under log-logistic distributions
针对一次使用设备在加速寿命试验中的高可靠性分析,提出基于对数逻辑分布和加权最小密度功率散度估计量的稳健推断方法,推导估计方程与渐近分布,并通过蒙特卡罗模拟验证性能。
2025-02-27 math.ST stat.TH
Stochastic Tverberg theorems and their applications in multi-class logistic regression, data separability, and centerpoints of data
我们提出了新的随机几何定理,给界的概率,$m$随机数据类都包含一个点,在其凸包。我们应用这些随机分离定理得到了多项式逻辑斯谛回归中极大似然估计存在概率的界。我们还讨论了连接到条件数的分析最速下降算法在逻辑斯谛回归和数据云的中心点的计算。
2019-07-23 math.OC math.PR math.ST
Variance estimation for logistic regression in case-cohort studies
Schouten等提出的逻辑斯谛回归分析(Stat Med.1993;12:1733-1745)是目前病例-队列研究统计分析的标准方法,它能够从选定的子样本中有效估计风险比。Schouten等(1993)也提出了风险比估计量的标准误估计可以用稳健方差估计量来计算。然而,在这篇文章中,我们证明了鲁棒方差估计量不能解释病例和子队列样本的重复,并且通常具有一定的偏差,即,可能获得不准确的置信区间和P值。为了解决无效的统计推断问题,我们提供了一个替代的基于引导的有效方差估计。通过模拟研究,bootstrap方法始终提供更精确的置信区间相比,稳健方差方法提供的,同时保留足够的覆盖概率。传统的抗差方差估计存在一定的偏差,可能会得出不充分的结论。自助法是一种在实践中提供准确证据的有效方法。
2023-01-18 stat.AP stat.ME
Estimators for the Parameter Mean of Morgenstern Type Bivariate Generalized Exponential Distribution Using Ranked Set Sampling
在研究中的抽样单元可以更容易地根据辅助变量的测量进行排序的情况下,排序集抽样提供了总体均值的无偏估计,它们比基于简单随机样本的无偏估计更有效。本文考虑Morgenstern型二元广义指数分布(MTBGED),在不同的秩集抽样方案下,得到了MTBGED的边缘分布参数均值的几个无偏估计.所有考虑的估计的效率进行评估,并已证明与数值例子。
2014-05-12 math.ST stat.TH
Adjusting for non-confounding covariates in case-control association studies
本文从理论上澄清了病例对照逻辑回归中调整非混杂协变量的表现取决于疾病患病率,并证明约束最大似然估计量能提供渐近一致最有效的检验。
2023-05-18 math.ST stat.TH
Confidence Bands for the Logistic and Probit Regression Models Over Intervals
本文给出了当预测变量被限制在给定区间内时,logistic和probit回归模型的双侧和单侧同时双曲带的构造方法。基于最大似然估计的渐近性质构造频带。过去的文章已经考虑过为logistic模型建立双侧渐近置信带,例如Piegorsch和Casella(1988)。然而,由Piegorsch和Casella给出的置信带是保守的,在一个单一的区间限制下,它是在这篇文章中示出的,他们的频带可以锐化使用这里提出的方法。此外,在文献中还没有出现构建logistic模型单侧置信带的方法,也没有在预测变量的有限范围内为概率单位模型构建置信带的工作。本文提供了计算这些区域中的临界点的方法。
2016-04-05 math.ST stat.ME stat.TH
SLOE: A Faster Method for Statistical Inference in High-Dimensional Logistic Regression
Google Research(谷歌研究院);Google Health(谷歌健康)
逻辑斯谛回归仍然是应用统计学、机器学习和数据科学中使用最广泛的工具之一。然而,在中等高维的问题,其中的功能$d$的数量是一个不可忽略的部分的样本大小$n$,逻辑斯谛回归最大似然估计(MLE),和统计程序的基础上,其分布的大样本近似,表现不佳。最近,Sur和Candès(2019)表明,这些问题可以通过在这个高维区域中应用MLE采样分布的新近似来纠正。不幸的是,这些校正在实践中难以实现,因为它们需要\emph{signal strength}的估计,\emph{signal strength}是逻辑斯谛回归的基础参数$β$的函数。为了解决这个问题,我们提出了SLOE,一个快速和直接的方法来估计信号强度的逻辑斯谛回归。SLOE的关键见解是,Sur和Candès(2019)校正可以根据\emph{corrupted signal strength}重新参数化,\emph{corrupted signal strength}仅是估计参数$\widehat β$的函数。我们提出了这个量的估计,证明它是一致的,在相关的高维制度,并表明使用SLOE的维数校正是准确的有限样本。与现有的ProbeFrontier启发式相比,SLOE在概念上更简单,速度更快,适合日常使用。我们证明了常规维度校正的重要性,在心脏病数据集从UCI存储库,和基因组学应用程序使用的数据从英国生物银行。我们为这种方法提供了一个…
2021-05-25 cs.LG math.ST stat.ML
Logistic Regression for Massive Data with Rare Events
University of Connecticut(康涅狄格大学)
本文研究了稀有事件数据或不平衡数据的二元逻辑斯谛回归,其中事件(一类中的观察,通常称为病例)的数量显着小于非事件(另一类中的观察,通常称为对照)的数量。我们首先推导出未知参数的极大似然估计的渐近分布,它表明渐近方差以事件数的倒数而不是全部数据样本量的倒数的速率收敛到零。这表明罕见事件数据中的可用信息是事件数量的规模,而不是完整数据样本量。此外,我们证明了欠采样一小部分的非事件,所得到的欠采样估计可能有相同的渐近分布的全数据MLE。这证明了对罕见事件数据欠采样非事件的优点,因为该过程可以显著降低计算和/或数据收集成本。分析罕见事件数据的另一种常见做法是过采样(复制)事件,这具有更高的计算成本。我们表明,这个过程甚至可能导致效率损失的参数估计。
2020-06-01 cs.LG math.ST stat.ML
Minimax Optimal Estimator and Improved Error Rate for the MLE in Logistic Regression with Gaussian Design
Columbia University(哥伦比亚大学);Halıcıoğlu Data Science Institute, UC San Diego(加州大学圣地亚哥分校哈奇奥卢数据科学研究所)
本文针对高斯设计下逻辑回归的参数估计问题,构造了首个极小极大最优估计器,改进了MLE的有限样本误差率,通过数值实验验证了所提估计器性能优于MLE。
2026-08-19 cs.IT math.IT math.ST
Exponential Consistency of M-estimators in Generalized Linear Mixed Models
广义线性混合模型是分析聚类数据的有力工具,其中未知参数的经典(最常见)估计的最大似然和限制最大似然程序。然而,由于基于似然的程序是高度敏感的离群值,M-估计已成为流行的一种手段,以获得可靠的估计下可能的数据污染。本文证明了对于广义线性混合模型中定义M-估计的充分光滑的一般损失函数,估计的回归系数与真实的回归系数之间的偏差的尾概率有指数界.这意味着在适当的假设下,这些M-估计的一致性指数率,将现有的指数一致性结果从单变量推广到多变量响应。在线性和logistic混合模型下,我们进一步用极大似然估计和鲁棒最小密度幂散度估计的特殊例子说明了这一理论结果,并通过模拟研究将其与经验收敛速率进行了比较.
2023-03-22 math.ST stat.TH
Local central limit theorems, the high-order correlations of rejective sampling and logistic likelihood asymptotics
令I_1,...,I_n是独立但不一定同分布的Bernoulli随机变量,设X_n= \sum_{j=1}^n I_j.对于有界区域中的ν,给出了P(X_n=EX_n+ν)的局部中心极限定理的任意阶展开式.通过调节,该展开提供了关于总体E(其特殊情况是简单随机抽样)的相关加权抽样方案的高阶相关结构的信息,其中集合d \subset E以与\prod_{A\in d} x_A成比例的概率被抽样,其中x_A是与个体A \in E相关联的正权重。这些结果用于确定渐近信息,并证明不匹配病例对照研究设计(其中以等概率抽样相同大小的对照组)的条件和无条件logistic似然估计量的一致性和渐近正态性。
2005-06-15 math.ST stat.TH
Statistical inference for a stochastic generalized logistic differential equation
本文针对随机广义Logistic微分方程,利用最大似然法和二次变差过程估计三个未知参数,并证明估计量的强相合性,同时在完整与不完整数据情形下通过期望最大化算法进行验证。
2024-05-06 math.PR math.ST stat.ME
Optimal Subsampling for Large Sample Logistic Regression
对于海量数据,二次抽样算法族是一种常用的算法,可以减小数据量,减少计算负担。现有的研究主要集中在线性回归中普通最小二乘估计的近似,其中统计杠杆分数通常用于定义子采样概率。在本文中,我们提出了快速子采样算法,有效地逼近逻辑斯谛回归的最大似然估计。我们首先建立一致性和渐近正态性的估计从一般的子采样算法,然后推导出最佳子采样概率,最小化的渐近均方误差的估计。另一种最小化准则也提出了进一步降低计算成本。最优子采样概率依赖于全数据估计,因此我们开发了一个两步算法来近似最优子采样过程。该算法计算效率高,与全数据方法相比,计算时间显著减少。本文还建立了两步算法估计量的相合性和渐近正态性。合成和真实数据集被用来评估所提出的方法的实际性能。
2018-03-07 stat.CO stat.ME stat.ML
More on the restricted almost unbiased Liu-estimator in Logistic regression
为了解决逻辑斯谛回归模型中的多重共线性问题,当先验信息以随机线性约束的形式存在时,本文提出了一种新的估计量--随机约束几乎无偏逻辑斯刘估计量(SRAULLE).蒙特卡罗模拟研究进行了比较的性能,建议的估计与一些现有的估计在标量均方误差(SMSE)的意义。最后,通过一个实际数据的例子来评价估计器的性能。
2017-11-28 math.ST stat.TH
Inference of Half Logistic Geometric Distribution Based on Generalized Order Statistics
本文在广义次序统计量框架下推导半逻辑几何分布的矩母函数表达式,并利用MCMC和Lindley近似在对称与非对称损失函数下给出参数θ的贝叶斯估计,通过两个真实数据集验证其实用性。
2025-02-03 math.ST stat.ME stat.TH
On Data Enriched Logistic Regression
生物医学研究人员通常在明确定义的人群中研究某些暴露对疾病风险的影响。为了实现这一目标,黄金标准是设计一个试验,从该人群中选择适当的样本。由于此类试验的成本较高,通常收集的样本量有限,不足以准确估计某些暴露的影响。在本文中,我们讨论了如何利用外部"大数据"(具有更大样本量的数据)的信息,以提高估计精度的风险,引入小偏差。我们提出了一系列加权估计,以平衡包括大数据时的偏差增加和方差减少。我们将我们提出的估计量连接到已建立的惩罚回归估计量。我们使用二阶和高阶渐近展开推导出最优权重。使用广泛的模拟研究,我们表明,改善的均方误差(MSE)的回归系数可以是实质性的,即使有限的样本量和我们的加权方法优于现有的方法,如惩罚回归和詹姆斯斯坦的方法。我们还提供了理论上的保证,建议的估计将永远不会导致渐近MSE大于极大似然估计仅使用小数据一般。我们将我们提出的方法应用于亚洲队列联盟中国队列数据,以估计年龄,BMI,吸烟,饮酒和死亡率之间的关系。
2019-11-14 stat.AP
New results and regression model for the exponentiated odd log-logistic Weibull family of distributions with applications
我们得到了新的数学性质的指数奇数对数逻辑分布族,其特殊情况命名为指数奇数对数逻辑Weibull,和它的对数变换。构造了一个新的位置和尺度回归模型,并进行了一些模拟,以验证的极大似然估计,和修改的偏差为基础的残差的行为。该方法适用于日本-巴西移民数据。
2022-03-27 stat.ME
Log-F-penalized Conditional Logistic Regression for Sparse Data
Simon Fraser University(西蒙菲莎大学)
针对稀疏匹配病例对照研究中条件逻辑回归估计量偏差与收缩控制不足问题,提出log-F惩罚条件逻辑回归方法,其在模拟中表现出与Firth方法相当的置信区间覆盖率,且均方误差更低。
2026-08-03 stat.ME
On the sample complexity of parameter estimation in logistic regression with normal design
Columbia University(哥伦比亚大学);University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文研究逻辑回归在标准正态设计下参数估计的样本复杂度,发现其随逆温度变化存在两个变点,清晰划分低、中、高温三个区域。
2024-05-23 cs.IT cs.LG math.IT
Preliminary testing derivatives of a linear unified estimator in the logistic regression model
近年来,著名的Liu估计(Liu,1993)在病态线性模型的回归参数估计中引起了研究者的注意。对参数施加子空间假设约束,可以通过缩小非样本信息来改善估计。Chang(2015)在二元逻辑斯谛回归中提出了几乎无偏Liu估计(AULE)。本文在Chang(2015)工作的基础上,提出了二元逻辑斯谛回归模型中回归参数的几种改进的无偏Liu型估计,即限制AULE、初步检验AULE、Stein型收缩AULE及其正部估计。新定义的估计的性能进行了分析,通过一些数值结果。一个真实的数据例子也提供了支持的研究结果。
2017-08-29 math.ST stat.TH
On Second order correctness of Bootstrap in Logistic Regression
Indian Institute of Technology Kanpur(坎普尔印度理工学院);Harvard Medical School(哈佛医学院)
本文提出了一种基于扰动重采样的自助方法,用于逻辑回归中MLE分布的近似,通过学生化和平滑技术实现二阶正确性,提升推断准确性。
2020-09-18 math.ST stat.ME stat.TH
Infill asymptotics for logistic regression estimators for spatio-temporal point processes
本文讨论强度函数为对数线性型的时空点过程的逻辑斯谛回归估计的填充渐近性。我们建立了Poisson点过程模型参数的强相合性和渐近正态性,并证明了这些结果如何推广到一般的点过程模型.此外,在适当的条件下,我们还将我们的中心极限定理推广到其他基于Campbell-Mecke定理的无偏估计方程。
2022-08-25 math.ST stat.TH
Regression of ranked responses when raw responses are censored
我们讨论半参数回归时,只有响应的秩观察。模型为$Y_i = F (\mathbf{x}_i'{\boldsymbolβ}_0 + \varepsilon_i)$,其中$Y_i$是未观察到的响应,$F$是单调递增函数,$\mathbf{x}_i$是协变量的已知$p-$向量,${\boldsymbolβ}_0$是未知的$p$ -目标向量,$\varepsilon_i$是独立于$\mathbf{x}_i$的误差项。我们观察到$\{(\mathbf{x}_i,R_n(Y_i)) : i = 1,\ldots ,n\}$,其中$R_n$是有序秩函数。我们探索一种新的估计高斯假设下。我们讨论了文献,将该方法应用于阿尔茨海默病的生物标志物,进行模拟研究,并证明了一致性和渐近正态性。
2016-02-24 stat.AP stat.ME
Conditional Density Estimation via Weighted Logistic Regressions
与条件均值作为简单的点估计相比,条件密度函数更能描述具有多峰、非对称或异方差的分布。本文通过讨论非齐次Poisson过程模型的广义密度与似然函数之间的关系,提出了一种新的参数条件密度估计方法.最大似然估计可以通过加权逻辑斯谛回归获得,并且通过组合逐块交替最大化方案和局部病例对照抽样可以显著地放松计算。我们还提供了模拟研究的说明。
2020-10-21 stat.ME stat.ML
The Impact of Regularization on High-dimensional Logistic Regression
California Institute of Technology(加州理工学院)
逻辑斯谛回归通常用于对二分结果进行建模。在经典的设置,其中的观察数是远远大于参数的数量,在逻辑斯谛回归的极大似然估计的性质是很好地理解。最近,苏尔和坎迪斯研究了逻辑斯谛回归在高维制度,其中的观察和参数的数量是可比的,并显示,除其他事项外,极大似然估计是有偏的。在高维区域中,底层参数向量通常是结构化的(稀疏、块稀疏、有限字母表等)。因此,本文研究正则化逻辑斯谛回归(RLR),其中将鼓励所需结构的凸正则化因子添加到对数似然函数的负值。RLR的一个优点是,它允许参数恢复,即使在(无约束)最大似然估计不存在的情况下。我们通过求解一个由六个非线性方程组成的系统,对RLR的性能进行了精确的分析,通过这个系统,任何感兴趣的性能指标(平均值、均方误差、支持恢复概率等)都可以被计算出来。可以显式计算。我们的结果概括了苏尔和坎迪斯,我们提供了一个详细的研究的情况下,$\ell_2^2$ -RLR和稀疏($\ell_1$ -正则化)逻辑斯谛回归。在这两种情况下,我们获得了各种性能指标的显式表达式,并可以找到优化所需性能的正则化参数的值。通过大量的数值模拟,在一系列的参数值和问题的情况下,该理论进行了验证。
2019-11-13 cs.IT cs.LG math.IT
Age-Specific Logistic Regression with Complex Event Time Data
本文提出两种基于估计函数的方法,用于特定年龄的逻辑回归,以评估和预测儿童癌症幸存者患卵巢早衰风险,通过逆概率删失加权策略提高估计一致性。
2026-03-29 stat.AP stat.ME