Optimal Estimating Equation for Logistic Regression with Linked Data
我们提出了一个最佳估计方程的逻辑斯谛回归与链接的数据,同时考虑到假阳性。它建立在以前的解决方案上,但在大样本中以较小的方差估计回归系数。
2017-08-15 stat.ME
Canonical thresholding for non-sparse high-dimensional linear regression
考虑一个高维线性回归问题。与许多论文的主题,我们不需要稀疏的回归系数,相反,我们的主要结构假设是一个衰减的特征值的协方差阵的数据。我们提出了一个新的估计族,称为典型阈值估计,它选择最大的回归系数的典型形式。估计承认一个明确的形式,可以链接到LASSO和主成分回归(PCR)。固定设计和随机设计设置的理论分析。从家庭的一个特定的估计的均方误差和预测误差上得到的界限允许明确说明充分条件的衰减特征值,以确保收敛。此外,我们还推广了与样本外$R^2$密切相关的相对误差的使用。通过对这些相对误差的研究,提出了联合有效维数的概念,它同时包含了数据的协方差和回归系数,描述了线性回归问题的复杂性。一些极小极大下界的建立,以展示我们的程序的最优性。数值模拟证实了良好的性能相比,以前开发的方法所提出的估计。
2021-09-30 math.ST stat.ME stat.TH
Minimax wavelet estimation for multisample heteroscedastic non-parametric regression
研究了从多采样噪声曲线中估计基线信号的问题。本文考虑了功能性混合效应模型,假设功能性固定效应属于Besov类。这个框架允许我们对可能表现出强烈不规则性的曲线进行建模,例如峰值或跳跃。提供了$L_2$极小极大风险的下限,以及极小极大比率的上限,该上限是通过构建函数固定效应的小波估计量推导出来的。我们的工作构成了多样本非参数回归的第一个理论结果。我们的方法说明了现实的模拟数据集以及实验数据。
2015-11-14 stat.ME
Optimal estimation for Functional Linear Regression with Noisy Discretized Data
Université Paris Cité(巴黎西岱大学);CNRS(法国国家科学研究中心)
本文针对带噪声离散观测的函数型线性回归,提出基于傅里叶重建和惩罚最小二乘的两步估计法,在正则性条件下达到极小极大最优速率,并用模拟和气象数据验证。
2026-09-09 cs.LG stat.ML
Minimax Rate for Optimal Transport Regression Between Distributions
分布上分布回归考虑的是在协变量和响应都是概率分布的情况下,制定和估计回归关系的问题。最优输运分布回归模型假定响应分布的条件Fréchet均值通过最优输运图与协变量分布相关联。我们建立这样一个回归函数的极大极小估计率,推导出一个下限,匹配的收敛速度达到的Fréchet最小二乘估计。
2022-06-03 math.ST stat.TH
Relaxing the Assumption of Strongly Non-Informative Linkage Error in Secondary Regression Analysis of Linked Files
针对多源记录关联数据中的错误关联与漏链问题,本文扩展基于双成分混合模型的回归框架,放宽强非信息性关联假设,并通过模拟和案例研究验证其有效性。
2025-10-20 stat.ME
Sample Complexity of Learning Mixtures of Sparse Linear Regressions
Microsoft Research(微软研究院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
在学习线性回归混合的问题中,目标是从一系列(可能有噪声)线性测量中学习信号向量的集合,其中每个测量都是在从这个集合中均匀提取的未知信号上进行评估的。这种设置是非常有表现力的,并已在实际应用方面进行了研究,并为建立理论保证。在本文中,我们考虑的情况下,信号向量是稀疏的,这概括了流行的压缩感知范式。我们对最先进的结果进行了如下改进:在有噪声的情况下,我们通过展示如何处理两个以上向量的集合来解决Yin等人(IEEE Transactions on信息论,2019)的一个公开问题,并提出了第一个鲁棒重建算法,即,如果信号不是完全稀疏的,我们仍然学习信号的良好稀疏近似。在无噪声的情况下,以及在嘈杂的情况下,我们展示了如何规避需要在以前的工作中所需的限制性假设。我们的技术是完全不同的,从那些在以前的工作:对于无噪声的情况下,我们依赖于稀疏多项式的属性和嘈杂的情况下,我们提供了新的连接学习高斯混合和使用的思想从理论的纠错码。
2019-10-30 cs.IT cs.LG math.IT
Differential Equation-Constrained Local Regression for Data with Sparse Design
本文提出一种利用一阶微分方程约束的局部常数回归方法,以改善稀疏数据区域的估计性能,并通过模拟和肿瘤数据验证其降低偏差与方差的效果。
2025-07-08 stat.CO stat.ME
Quick and Simple Kernel Differential Equation Regression Estimators for Data with Sparse Design
针对稀疏设计下局部多项式回归失效的问题,提出融合一阶微分方程信息的非参数核回归估计方法,并通过肿瘤数据与多情景仿真验证其偏差、方差及模型表现。
2024-06-14 stat.AP stat.ME
On rate optimal local estimation in nonparametric instrumental regression
考虑非参数工具回归中线性泛函的值估计问题,其中在存在工具W的情况下,响应Y依赖于内生解释变量Z建模。该估计器是基于降维和额外的阈值。假定结构函数和线性泛函的表示者属于某些椭球,这些椭球在某种意义上与Z的条件期望算子相联系,给出了估计量的极小极大最优收敛速率。我们说明这些结果考虑经典的平滑假设。
2009-02-12 math.ST stat.TH
Isotonic Distributional Regression
保序分布回归(IDR)是一种用于估计序约束下条件分布的强有力的非参数方法。简而言之,IDR学习经过校准的条件分布,并且同时相对于相关损失函数的综合类是最优的,服从协变量空间上的偏序方面的保序性约束。非参数保序分位数回归和非参数保序二元回归作为特例出现。对于预测,我们提出了一种插值方法,概括了现有的规格下的池相邻违规者算法。我们建议使用IDR作为概率预测问题中的通用基准技术,因为它不涉及任何参数调整或实现选择,除了选择协变量空间上的偏序。该方法可以与子样本聚集相结合,具有更平滑的回归函数和计算效率增益的优点。在模拟研究中,我们比较的连续排名概率得分(CRPS)和$L_2$估计误差,这是密切相关的分布回归的方法。在一个案例研究的原始和后处理的定量降水预报从一个领先的数值天气预报系统,IDR是竞争力的最先进的技术。
2021-09-28 math.ST stat.ME stat.TH
Estimation in exponential family Regression based on linked data contaminated by mismatch error
识别多个文件中的匹配记录可能是一项具有挑战性且容易出错的任务。链接错误可能会严重影响后续基于结果链接文件的统计分析。最近的几篇论文从“断样本问题”和“置换数据”的角度研究了后连锁线性回归分析,其中响应变量在一个文件中,协变量在第二个文件中。在本文中,我们提出了一个扩展这条线的研究指数的家庭反应的假设一个小到中等数量的错配。提出了一种基于观测特定的偏移来考虑潜在的失配和$\ell_1$惩罚的方法,并讨论了其统计特性。我们还提出了充分条件,如果回归参数是已知的,协变量和响应之间的正确对应关系的恢复。所提出的方法相比,既定的基线,即Lahiri-Larsen和钱伯斯的方法,理论和经验的基础上合成和真实的数据。结果表明,这些方法可以实现实质性的改进,即使只有有限的信息的链接过程。
2020-10-26 stat.ME
Semiparametric count data regression for self-reported mental health
“在过去的30天里,你有多少天精神不好?“对这个问题的回答衡量了自我报告的心理健康状况,并且可以与国家健康和营养检查调查(NHANES)中的重要协变量联系起来。然而,这些计数变量提出了主要的分布挑战:数据过度分散,零膨胀,以30为界,并以5天和7天为增量堆积。为了应对这些挑战,我们设计了计数数据回归的半参数估计和推理框架。数据生成过程是通过同时变换和舍入(STAR)潜高斯回归模型来定义的。变换估计非参数化和舍入算子,确保正确的离散和有界数据的支持。极大似然估计量使用期望最大化算法计算,该算法与可通过最小二乘法估计的任何连续数据模型兼容。STAR回归包括渐近假设检验和置信区间,通过信息标准进行变量选择,以及定制诊断。仿真研究验证了该框架的实用性。STAR被部署来研究与自我报告的心理健康相关的因素,并与现有的计数数据回归模型相比,在拟合优度方面有了实质性的改善。
2021-10-13 stat.AP stat.ME stat.ML
Noisy recovery from random linear observations: Sharp minimax rates under elliptical constraints
约束参数空间的估计问题出现在各种设置。在许多这些问题中,统计学家可用的观察结果可以被建模为随机线性算子的图像的噪声实现;一个重要的特殊情况是随机设计回归。我们推导出任意紧椭圆参数集的估计率,并演示了它们如何依赖于随机线性算子的分布。我们的主要结果是一个功能,其特点的最小最大估计率的噪声水平,法律的随机算子,和椭圆规范,定义的误差度量和参数空间。这个非渐近结果是尖锐的,直到一个显式的普适常数,它成为渐近精确的半径的参数空间允许增长。我们通过将其应用于参数和非参数回归问题,包括涉及分布偏移或相关协变量的问题,证明了结果的一般性。
2023-03-22 cs.IT math.IT math.ST
Inference in Functional Linear Quantile Regression
本文研究了函数分位数回归中标量响应和函数协变量的统计推断问题。具体来说,我们考虑一个功能性线性分位数回归模型,其中协变量对响应分位数的影响通过功能协变量和未知的光滑回归参数函数之间的内积来建模,该函数随分位数水平而变化。目的是检验回归参数在几个感兴趣的分位数水平上是否恒定。结合函数主成分分析和分位数回归的思想估计参数函数。调整Wald检验程序提出了这个假设的兴趣,其卡方渐近零分布推导。测试过程进行了研究数值模拟稀疏和嘈杂的功能协变量和资本自行车共享数据应用。所提出的方法易于实现,并且{ \tt R}代码在\url{https://github.com/xylimeng/fQR-testing}上在线发布。
2022-08-20 math.ST stat.ME stat.TH
Prediction in functional regression with discretely observed and noisy covariates
在实践中,函数数据是在一组离散的观察点上采样的,并且通常容易受到噪声的影响。在本文中,我们认为这些数据被用作解释变量的回归问题的设置。如果主要目标是预测,我们表明,通过嵌入到标量函数回归的问题的增益是有限的。相反,我们施加一个因素模型的预测,并建议回归的反应,适当数量的因素得分。这种方法被证明是一致的,在温和的技术假设,数值效率,并提供良好的实际性能,在模拟以及真实的数据设置。
2021-12-13 stat.ME
Multivariate linear regression without prior assumptions
Indian Institute of Technology Madras(印度马德拉斯理工学院)
本文提出QZ-IPCA迭代广义特征值算法,无需先验假设即可从含噪数据同时恢复多元线性系统的噪声划分、方差、关系数和回归系数,实验证明其优于传统最小二乘方法。
2026-09-10 cs.SY eess.SY stat.AP
Functional Lagged Regression with Sparse Noisy Observations
函数(滞后)时间序列回归模型涉及标量响应时间序列对由一系列随机函数组成的回归量时间序列的回归。在实践中,潜在的回归曲线时间序列并不总是直接可访问的,而是仅在离散测量位置处观察(采样)的潜在过程。在本文中,我们考虑了所谓的稀疏观测场景,其中只有相对较少的测量位置已被观察到,每个曲线可能不同。测量结果可能进一步受到附加测量误差的污染。被认为是一种谱的方法来估计模型的动态。利用核平滑方法从稀疏观测值中估计回归量时间序列的谱密度以及回归量与响应时间序列之间的互谱密度。滞后回归模型的脉冲响应回归系数然后通过岭回归(Tikhonov正则化)或PCA回归(谱截断)来估计。然后通过预测恢复潜在功能时间序列,条件是所有观察到的观察数据。我们的方法的性能和实施说明通过模拟研究和气象数据的分析。
2020-03-31 stat.ME
Chain-linked multiple matrix integration via embedding alignment
本文提出链式多重矩阵整合(CMMI)方法,通过实体嵌入、重叠对齐与聚合,在仅有少量含噪重叠子矩阵的分块缺失场景下高效重建完整矩阵,并给出误差界与正态近似,模拟和实际数据验证了其有效性。
2025-08-16 stat.ME
Differentially Private Linear Regression with Linked Data
针对记录链接这一上游预处理带来的额外不确定性,本文提出噪声梯度和充分统计量扰动两种差分隐私线性回归算法,并给出有限样本误差界以分析隐私—准确性权衡。
2024-05-08 cs.CR stat.ME
A General Framework for Regression with Mismatched Data Based on Mixture Modeling
针对仅提供链接文件时的错配误差问题,提出基于匹配状态混合模型、复合似然与EM及贝叶斯推断的通用回归框架,并通过模拟和案例验证其有效性。
2023-06-01 stat.ME
Regression for Copula-linked Compound Distributions with Applications in Modeling Aggregate Insurance Claims
在精算研究中,一项特别重要的任务是预测单个风险的损失成本,以便在各种保险业务中做出信息决策,例如承保,费率制定和资本管理。损失成本通常被视为遵循复合分布,其中严重性变量的总和被频率变量停止。模拟这种结果的一个挑战性问题是要适应索赔数量和每个索赔规模之间的潜在依赖关系。在这篇文章中,我们介绍了一种新的回归框架的复合分布,使用Copula来适应之间的关联的频率和严重性变量,从而允许任意依赖的两个组件。我们进一步表明,新的模型是非常灵活的,很容易修改,以考虑不完整的数据,由于删失或截断。所提出的模型的灵活性,说明使用模拟和真实的数据集。在对财产保险索赔数据的分析中,我们发现索赔数量与索赔规模之间存在实质性的负相关关系。此外,我们证明,忽视频率严重性的关联可能会导致有偏见的决策在保险业务。
2019-10-13 stat.AP stat.ME
Regression Analysis After Bipartite Bayesian Record Linkage
针对传统两阶段记录链接方法未考虑链接不确定性、未利用研究变量关联的缺陷,提出结合二分贝叶斯记录链接与混合模型的多重插补框架,通过模拟与真实调查数据验证其可提升回归参数估计准确性。
2025-11-15 stat.CO stat.ME
Linked shrinkage to improve estimation of interaction effects in regression models
本文提出一种关联局部收缩方法,通过在主效应与其交互项之间借用收缩强度来改进高维回归中交互效应的估计与推断,并推导出Shapley值解析公式以快速评估变量重要性。
2023-09-25 stat.ME stat.ML
Generalized Bayesian Record Linkage and Regression with Exact Error Propagation
记录链接(重复数据删除或实体解析)是合并噪声数据库以删除重复实体的过程。虽然记录链接从这样的数据库中删除重复的实体,但下游任务是链接数据上的任何推理、预测或链接后任务。下游任务的一个目标是获得更大的参考数据集,允许执行更准确的统计分析。此外,存在传递到下游任务的固有记录链接不确定性。基于上述考虑,我们提出了一种广义贝叶斯记录连接方法,并将多元回归分析作为下游任务。记录通过随机分区模型链接,该模型允许考虑广泛的类别。此外,我们联合模型的记录链接和下游的任务,它允许一个帐户的记录链接的不确定性。此外,一个是能够产生一个反馈传播机制的信息从建议的贝叶斯记录链接模型到下游任务。这种反馈效应对于消除可能危及下游任务的潜在偏差至关重要。我们将我们的方法应用于多元线性回归,并实证说明“反馈效应”能够提高记录链接的性能。
2018-10-11 stat.ME
Iterative Estimation of Solutions to Noisy Nonlinear Operator Equations in Nonparametric Instrumental Regression
University of Göttingen(哥廷根大学);UCL(天主教鲁汶大学);University Mannheim(曼海姆大学);Universite de Toulouse(图卢兹大学)
本文提出一种正则化牛顿型迭代方法,用于解决噪声积分核下的非线性积分方程,特别强调在工具回归模型中使用更强的独立性假设,以正确估计非参数回归函数。
2013-07-25 cs.NA math.NA math.ST
Small Area Estimation with Linked Data
在小区域估计中,数据链接可用于将来自全国调查的感兴趣变量值与从另一个来源(如人口登记)获得的辅助变量值相结合。当拟合回归模型时,连锁误差可能会引起偏倚;此外,除了潜在的代表性离群值之外,它们还可能在链接数据中产生非代表性离群值。在本文中,我们采用了二级分析师的观点,假设有限的信息是可用的链接过程中,我们开发的小区域估计的基础上,线性混合和线性M-分位数模型,以适应链接的数据包含混合的两种类型的离群值。我们说明了这些小面积估计的属性,以及估计的均方误差,通过基于模型和基于设计的仿真实验。这些实验表明,当存在连锁误差时,所提出的预测器可以导致更有效的估计。此外,所提出的均方误差估计方法表现良好。
2019-03-31 stat.ME
Predicting Batting Averages in Specific Matchups Using Generalized Linked Matrix Factorization
本文提出一种基于交替广义线性模型的降维方法,用于预测特定击球手对阵特定投手时的击球率,该方法能整合多个数据源,略优于现有方法且易于扩展。
2024-02-02 stat.ME
Linked-Tucker Factorized Individualized Regression for Paired Multivariate Categorical Outcomes
University of Florida(佛罗里达大学);University of Louisville(路易斯维尔大学);University of Iowa(爱荷华大学)
本文提出一种联合个体化 hurdle-序数回归模型,用于配对零膨胀序数结果,通过图克张量因子化高效表示高维系数阵列,揭示氟化物和饮食暴露与牙科疾病的关系。
2026-09-03 stat.AP stat.ME
Nonlocal Prior Mixture-Based Bayesian Wavelet Regression with Application to Noisy Imaging and Audio Data
本文提出一种基于三成分尖峰-厚板先验的贝叶斯小波回归方法,结合MOM与IMOM先验并采用经验贝叶斯估计超参数,在脑电图和含噪音频数据上显著优于双成分小波方法。
2025-08-23 stat.AP stat.ME
Building Consistent Regression Trees From Complex Sample Data
在过去的几年里,在统计学文献中出现了各种各样的方法,用于构建回归树和基于递归划分样本的其他估计。许多应用涉及通过复杂的样本设计收集的数据。然而,目前,关于这些方法在复杂设计下的性能知之甚少。本文提出了一种在使用递归划分算法构建回归树时合并有关复杂样本设计的信息的方法。建立了任意回归函数的回归树的渐近设计L2相合性的充分条件。所提出的方法说明了职业就业统计建立调查数据链接到季度就业人口普查和劳动统计局的工资单数据。基于这个例子,通过模拟研究的非参数估计的性能进行了研究。
2014-07-03 stat.ME
Prediction models for network-linked data
预测算法通常假设训练数据是独立的样本,但在许多现代应用中,样本来自通过网络连接的个体。例如,在青少年冒险行为的健康研究中,受试者的社会网络信息通常是可用的,并通过网络凝聚力发挥重要作用,经验观察到的朋友行为相似的现象。在预测模型中考虑内聚性应该使我们能够提高它们的性能。在这里,我们提出了一个基于网络的惩罚单个节点的影响,以鼓励链接节点的预测之间的相似性,并表明,将其纳入预测导致改善传统的模型在理论上和经验上,当网络凝聚力存在。惩罚可以与许多基于损失的预测方法一起使用,例如回归、广义线性模型和Cox比例风险模型。详细讨论了AddHealth研究中基于人口统计协变量和友谊网络的青少年娱乐活动和大麻使用水平的预测应用,并表明我们考虑友谊的方法可以显着提高行为预测,同时提供可解释的协变量效应估计。
2018-06-25 stat.ME
Spatial Knockoff Bayesian Variable Selection in Genome-Wide Association Studies
针对全基因组关联研究中高维变量选择的假阳性控制问题,提出融合knockoff方法、群体结构校正与空间高斯过程的贝叶斯变量选择模型,模拟和拟南芥数据分析验证其控错率、提效能且结果富集于已知基因。
2024-08-19 stat.ME
Network regression and supervised centrality estimation
本文提出统一框架研究含噪网络下的中心性估计与网络回归,并设计有监督中心性估计方法,同时估计中心性与网络效应,理论与实证均优于两阶段方法。
2025-02-25 cs.SI econ.EM stat.ME
Bayesian Non-Central Chi Regression For Neuroimaging
我们提出了一个回归模型的非中心$χ$(NC- $χ$)分布式功能磁共振成像(fMRI)和扩散加权成像(DWI)的数据,异方差Rician回归模型作为一个突出的特殊情况。该模型允许NC- $χ$分布中的两个参数与解释变量相关联,相关协变量通过贝叶斯变量选择自动选择。提出了一种高效的马尔可夫链蒙特卡罗(MCMC)算法,从模型参数的联合贝叶斯后验分布和二元协变量选择指标进行模拟。模拟的fMRI数据被用来证明,Rician模型是能够本地化的大脑活动更准确地比传统上使用的高斯模型在低信噪比。使用来自人类连接组项目的扩散数据集,还表明,与理论上正确的Rician模型相比,常用的近似高斯噪声模型低估了单扩散张量模型中的平均扩散率(MD)和分数各向异性(FA)。
2016-12-21 stat.AP stat.ME
Time-varying Coefficients Estimation in Differential Equation Models with Noisy Time-varying Covariates
研究了常微分方程中时变系数的估计问题。当前理论仅适用于相关状态变量被观测而没有测量误差的情况,如\cite{chenwu08b,chenwu08}中所示。困难来自于需要处理的观测的二次泛函,而不是当状态变量不包含测量误差时出现的线性泛函。我们使用二次回归泛函理论推导出先前提出的两步估计的渐近偏差和方差。
2009-10-06 math.ST stat.ME stat.TH
Moving Taylor Bayesian Regression for nonparametric multidimensional function estimation with possibly correlated errors
我们提出了一个非参数的方法来估计的值和几个衍生物的未知的,足够光滑的实值函数的实值参数从一个有限的样本点,其中函数参数和相应的值是已知的,只有测量误差具有一些假设的分布和相关结构。该方法,移动泰勒贝叶斯回归(MOTABAR),使用贝叶斯更新,以找到泰勒多项式的函数在一个移动的位置的系数的后验均值。当忽略测量误差时,MOTABAR成为一种多元插值方法。它包含几个著名的回归和插值方法作为特殊或极限情况。我们证明了MOTABAR的性能使用的Lorenz吸引子从噪声观测的重建作为一个例子。
2012-04-12 physics.data-an stat.ME
A Practical Approach to Proper Inference with Linked Data
Colorado State University(科罗拉多州立大学);University of Florida(佛罗里达大学);Duke University(杜克大学)
实体解析(ER),包括记录链接和重复数据删除,是在没有唯一标识符的情况下合并有噪声的数据库以删除重复实体的过程。使用链接数据进行分析的一个主要挑战是在确定的匹配中识别代表性记录以传递到推理或预测任务,称为\emph{downstream task}。此外,在下游任务中纳入ER的不确定性对于确保正确的推断至关重要。为了弥合ER与分析管道中下游任务之间的差距,我们提出了五种方法来从链接数据中选择代表性(或规范)记录,称为规范化。我们的方法在记录数量上是可扩展的,适用于一般的数据场景,并通过贝叶斯规范化阶段提供自然的错误传播。三个模拟数据集和一个应用程序-确定从北卡罗来纳州选举委员会的选民登记数据的人口信息和党派之间的关系,所提出的方法进行评估。我们首先执行贝叶斯ER和评估我们提出的方法规范化之前,考虑线性和逻辑斯谛回归的下游任务。贝叶斯规范化方法的经验表明,通过预测和覆盖,以提高下游的推理在这两种设置。
2022-02-08 cs.DB cs.LG stat.ME
Scalable Interpretable Learning for Multi-Response Error-in-Variables Regression
包含噪声或缺失观测值的损坏数据集在各种当代应用中普遍存在,例如经济学,金融学和生物信息学。尽管最近在高维多响应回归的方法和算法方面取得了进展,但如何在污染协变量下实现可扩展和可解释的估计尚不清楚。在本文中,我们提出了一种新的方法称为凸条件序贯稀疏学习(COSS)的误差在变量的多响应回归下添加测量误差和随机缺失数据。它结合了最近发展的序贯稀疏因子回归和最近的半正定矩阵投影的优势,从而在大规模关联分析中享有逐步凸性和可扩展性。提供了全面的理论保证,我们通过数值研究证明了所提出的方法的有效性。
2020-05-11 math.ST stat.AP stat.ME
Skeleton Regression: A Graph-Based Approach to Estimation with Manifold Structure
本文提出了一种新的回归框架,用于处理具有噪声的低维流形上的大规模复杂数据,通过构建图结构并应用非参数回归技术来估计回归函数。
2026-03-14 cs.LG stat.ME stat.ML