Sparsity learning via structured functional factor augmentation
本文提出函数因子增广结构fFAS及选择模型fFASM,以解决高维函数线性回归中相关协变量的变量选择问题,并通过理论与数值实验证明其在估计精度和选择一致性上的优越性。
2025-01-04 stat.ME
Robust domain selection for functional data via interval-wise testing and effect size mapping
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校);Virginia Tech(弗吉尼亚理工大学)
本文提出一种鲁棒域选择方法,通过区间检验和效应量热图识别功能数据中具有不同位置参数行为的子区间,提升临床应用中的解释性。
2026-03-25 stat.ME
Nonparametric functional data classification and bandwidth selection in the presence of MNAR class variables
针对类别标签MNAR缺失的非参数函数型数据分类问题,提出核方法分类规则与带宽选择程序,并分析误分类误差的收敛速率及数值性能。
2025-09-10 stat.ME
Selection of functional predictors and smooth coefficient estimation for scalar-on-function regression models
SOFIA方法通过自适应惩罚最小二乘算法,在标量-函数回归模型中实现功能预测变量选择和平滑系数估计,具有功能Oracle属性。
2026-10-08 stat.ME
State-of-the-art in selection of variables and functional forms in multivariable analysis -- outstanding issues
在创建多变量模型时,如何选择变量并识别连续变量的函数形式是一个关键问题。特设的“传统”方法来选择变量已经使用了至少50年。类似地,确定连续变量的函数形式的方法在许多年前首次提出。最近,已经提出了许多解决这两个挑战的替代方法,但对它们的特性和它们之间有意义的比较的了解很少。为了定义一个国家的最先进的,并提供证据支持的指导,只有一个基本水平的统计知识的研究人员在多变量建模许多悬而未决的问题仍然存在。我们的主要目标是确定和说明文献中的这种差距,并在中等技术水平上向广大的统计从业人员、研究人员和学生介绍这些差距。我们简要讨论了一般性问题,在建立描述性回归模型,变量选择策略,选择连续变量的函数形式的不同方式,以及结合变量和函数的选择方法。我们讨论两个例子,从医学文献中,以说明问题的建模实践。我们的综述表明,还没有足够的证据来为多变量分析中变量和函数形式的选择提供建议。这些证据可能来自于对各种替代方法的比较。特别是,我们强调了需要进一步调查的七个重要课题,并提出了进一步研究的方向。
2019-07-01 stat.ME
Variable Selection in Functional Linear Quantile Regression for Identifying Associations between Daily Patterns of Physical Activity and Cognitive Function
University of South Carolina(南卡罗来纳大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本文提出了一种灵活的变量选择方法,用于功能线性分位数回归,结合平滑近似分位数损失函数和FPCA与组最小化凹惩罚,以识别身体活动与认知功能之间的动态关联。
2026-03-23 stat.ME
Classification of functional fragments by regularized linear classifiers with domain selection
我们考虑的问题的分类功能数据分为两组线性分类器的基础上一维预测的功能。我们重新制定的任务,找到最好的分类器作为一个优化问题,并解决它的正则化技术,即共轭梯度法与早期停止,主成分方法和岭方法。我们研究了经验版本与有限的训练样本组成的不完整的功能观察到不同的子集的域,并表明,最佳的,可能为零,错误分类概率可以在沿着可能的非收敛的经验正则化路径。由于能够处理零碎的训练数据,我们提出了一个域扩展和选择过程,可以找到超出常见观察的最佳域所有曲线的域。在模拟研究中,我们比较了不同的正则化方法,并调查域选择的性能。我们的方法说明了医疗数据集,在那里我们观察到由于域扩展的分类精度的大幅提高。
2017-08-28 stat.ME
Variable selection in functional data classification: a maxima-hunting proposal
变量选择被认为是在设置的监督二元分类与功能数据$\{X(t),\ t\in[0,1]\}$。通过“变量选择”,我们意指导致用低维向量$(X(t_1),\ldots,X(t_k))$替换整个轨迹$\{X(t),\ t\in[0,1]\}$的任何降维方法,该低维向量仍然保持类似的分类误差。我们的变量选择建议是基于选择函数${\mathcal V}_X^2(t)={\mathcal V}^2(X(t),Y)$的局部最大值$(t_1,\ldots,t_k)$的思想,其中${\mathcal V}$表示随机变量的“距离协方差”关联度量,这是Székely,Rizzo和Bakirov(2007)提出的。这种方法提供了一种简单自然的方式来处理通常出现在变量选择中的相关性与冗余权衡。本文包括(a)一些理论动机:给出了关于${\mathcal V}_X^2$最大值的一致估计的结果。我们还显示了不同的理论模型的基础过程$X(t)$下,相关的信息集中在最大值的${\mathcal V}_X^2$。(b)一项广泛的实证研究,包括约400个模拟模型和真实数据的例子,旨在比较我们的变量选择方法与其他标准的建议,降维。
2015-07-13 stat.ME
Empowering Multi-class Classification for Multivariate Functional Data with Simultaneous Feature Selection
本文针对函数型预测变量数量远大于样本量的复杂函数型数据多类分类问题,提出函数型 BIC 深度神经网络,通过稀疏深度 ReLU 网络与 LassoNet 实现特征选择与分类同步进行,并在模拟和 ADNI 真实数据中验证了其优越性能。
2025-07-21 stat.ME
Selection of the Number of Clusters in Functional Data Analysis
在聚类分析中,确定数据集中聚类数$K$是最困难的问题之一。选择正确表征数据特征的$K$对于构建有意义的聚类至关重要。在本文中,我们解决的问题,估计聚类的数量在功能数据分析中引入一个新的措施,可以使用不同的程序在选择最佳的$K$。其主要思想是使用两个检验统计量的组合来计算标准,例如聚类内和聚类间的平方和,这两个检验统计量测量曲线之间的平行度和平均距离。在具有挑战性的情况下的模拟表明,使用这种措施的程序可以更频繁地检测到正确数量的集群比现有的方法在文献中。所提出的方法的应用程序上说明了几个真实的数据集。
2019-05-02 stat.ME
Measure Selection for Functional Linear Model
针对函数型线性模型依赖固定 Lebesgue 测度的局限,本文提出数据自适应测度选择与增强函数型主成分分析,并通过模拟及真实数据验证其预测优势。
2025-08-30 stat.ME
Variable Selection in Functional Linear Concurrent Regression
提出了一种新的函数线性并发回归变量选择方法。我们的研究是由渔业足迹研究的动机,其目标是确定重要的随时间变化的社会结构驱动因素,影响海鲜消费模式,因此渔业足迹,随着时间的推移,以及估计其动态影响。我们开发了一个变量选择方法在功能线性并发回归扩展经典使用的标量标量变量选择方法,如LASSO,SCAD,和MCP。我们表明,在功能线性并发回归的变量选择问题可以解决作为一个组LASSO,和他们的自然延伸,组SCAD或组MCP问题。通过仿真,我们证明了我们的方法,特别是采用组SCAD或组MCP惩罚的方法,即使在数据稀疏、受噪声污染且误差过程高度非平稳的情况下,也可以高准确度地挑选出相关变量,并且假阳性和假阴性率很小。我们还展示了我们的方法在膳食钙吸收和渔业足迹的研究中选择有影响力的时变协变量的两个实际数据应用。
2019-10-31 stat.AP stat.ME
Multivariate functional group sparse regression: functional predictor selection
在本文中,我们提出了方法的功能预测选择和光滑的功能系数估计同时在标量函数回归问题下的高维多元函数数据设置。特别是,我们开发了两种方法的功能组稀疏回归下的一般希尔伯特空间的无限维。我们证明了算法的收敛性和一致性的估计和选择(预言性质)在无限维Hilbert空间。仿真研究表明,该方法在函数系数的选择和估计方面都是有效的。功能磁共振成像(fMRI)的应用揭示了人类大脑中与ADHD和智商相关的区域。
2021-07-08 math.ST q-bio.NC stat.AP
The mRMR variable selection method: a comparative study for functional data
变量选择方法的使用在函数数据的统计问题中特别有吸引力。选择变量的明显的一般标准是选择“最具代表性”或“最相关”的变量。然而,同样清楚的是,纯粹以关联性为导向的标准可能导致选择许多多余的变量。由Ding和Peng(2005)和Peng等人(2005)提出的mRMR(最小冗余最大相关性)过程是一种系统地执行变量选择的算法,实现了相关性和冗余之间的合理权衡。在其原始形式中,该过程基于使用所谓的互信息标准来评估相关性和冗余性。保持对功能数据问题的关注,我们在这里提出了mRMR方法的修改版本,通过用Székely等人(2007)提出的新关联度量(称为距离相关性)替换互信息来获得。我们还进行了广泛的模拟研究,包括1600个功能实验(100个功能模型$\times$ 4个样本量$\times$ 4个分类器)和3个真实数据的例子,旨在比较不同版本的mRMR方法。结果是相当确凿的,有利于新提出的替代方案。
2015-07-13 stat.ME stat.ML
Sequential Lasso for feature selection with ultra-high dimensional feature space
我们提出了一种新的方法,顺序Lasso,在超高维特征空间的线性回归模型的特征选择。本文研究了序列Lasso算法的渐近性质,建立了其选择一致性。与其他顺序方法一样,Sequential Lasso的实现不受特征空间维数的限制。它比其他顺序方法具有优势。比较了序贯Lasso方法与其他序贯方法的仿真结果。
2011-07-14 stat.ME
Fast Bayesian Basis Selection for Functional Data Representation with Correlated Errors
Department of Statistical and Actuarial Sciences, University of Western Ontario(西安大略大学统计与精算科学系);Federal University of Paraná(巴拉那联邦大学)
提出一种考虑相关误差的快速贝叶斯基函数选择方法,利用变分期望最大化算法同时平滑多条曲线,在模拟和真实数据上优于现有方法。
2025-10-28 stat.ME
Variable Selection in Functional Linear Cox Model
University of South Carolina(南卡罗来纳大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本文提出了一种用于功能线性Cox模型的新型变量选择方法,结合了光滑性和稀疏性,通过模拟研究验证了其在变量选择和估计中的有效性,并应用于NHANES数据揭示了体力活动分布模式与全因死亡率的关系。
2025-06-03 stat.AP stat.ME
Bayesian Adaptive Selection of Basis Functions for Functional Data Representation
考虑到功能数据分析的背景下,我们开发并应用了一种新的贝叶斯方法,通过吉布斯采样器选择基函数的功能数据的有限表示。所提出的方法使用伯努利潜变量分配零的一些基函数系数与一个积极的概率。该过程允许自适应基选择,因为它可以确定基的数量以及应该选择哪些来表示功能数据。此外,所提出的程序措施的选择过程的不确定性,并可以同时适用于多个曲线。开发的方法可以处理观察到的曲线,这些曲线可能由于实验误差和受试者之间的随机个体差异而有所不同,人们可以在涉及巴西每日COVID-19病例数的真实数据集应用中观察到这些曲线。仿真研究表明,所提出的方法的主要属性,如其精度估计系数和强度的过程中找到真正的基函数集。尽管已经在功能数据分析的背景下开发,我们还通过模拟与完善的LASSO和贝叶斯LASSO,这是为非功能数据开发的方法,提出的模型进行了比较。
2022-05-26 stat.CO stat.ME
Bayesian bandwidth estimation and semi-metric selection for a functional partial linear model with unknown error density
This study examines the optimal selections of bandwidth and semi-metric for a functional partial linear model . Our proposed method begins by estimating the unknown error density using a kernel density estimator of residuals, where the regression function , consisting of parametric and nonparametric components, can be estimated by functional principal component and functional Nadayara-Watson estimators. The estimation accuracy of the regression function and error density crucially depends on the optimal estimations of bandwidth and semi-metric. A Bayesian method is utilized to simultaneously e…
2020-02-24 stat.AP stat.ME
Sparse varying-coefficient functional linear model
考虑变系数泛函线性模型中的变量选择问题,其中多个预测变量是函数,响应是标量且依赖于外生变量。变系数泛函线性模型的估计采用惩罚极大似然方法,并引入稀疏诱导惩罚。控制惩罚程度的调谐参数由模型选择标准确定。所提出的方法可以揭示哪些组合的功能预测与响应,以及如何每个预测与响应调查系数表面。仿真研究提供了调查所提出的方法的有效性。我们还将其应用到作物产量数据的分析中,以研究哪些环境因素的组合与作物产量有关。
2021-10-25 stat.ME
Consistent and scalable Bayesian joint variable and graph selection for disease diagnosis leveraging functional brain network
考虑高维probit回归中协变量的回归系数和逆协方差阵的联合推断,其中预测变量既与二元响应相关,又在函数上相互关联.一个层次模型与穗和板坯先验的回归系数和逆协方差阵中的元素,同时进行变量和图形的选择。我们建立联合选择一致性的变量和底层图形的预测时,尺寸允许增长远远大于样本量,这是贝叶斯文献中的第一个理论结果。一个可扩展的吉布斯采样器推导出,在高维模拟研究中表现得更好,与其他国家的最先进的方法。我们通过功能性MRI数据集说明了所提出的方法的实际影响和实用性,其中具有改变的功能活动的感兴趣区域和潜在的功能性脑网络被推断并整合在一起,用于对疾病风险进行分层。
2022-03-14 math.ST stat.ME stat.TH
Functional knockoffs selection with applications to functional data analysis in high dimensions
针对高维函数型数据变量选择中的FDR控制问题,提出functional model-X knockoffs选择框架,结合相关算子矩阵与Karhunen-Loève展开构造函数型敲击变量,实现任意样本量下的有效FDR控制及渐近功效保证。
2024-06-27 math.ST stat.ME stat.TH
Variable selection in Functional Additive Regression Models
本文考虑了函数变量可能与其他类型的变量(标量,多元,方向等)混合的情况下,回归模型中的变量选择问题。我们的建议从一个简单的空模型开始,并根据\cite{Szekely2007}提出的距离相关性,依次选择一个新的变量纳入模型。为了简单起见,本文仅使用可加模型。然而,所提出的算法可以评估贡献的类型(线性、非线性、.)每个变量。该算法已显示出相当有前途的结果时,应用于模拟和真实数据集。
2018-04-11 stat.AP stat.CO stat.ME
A scalable and flexible Cox proportional hazards model for high-dimensional survival prediction and functional selection
考克斯比例风险模型是生物医学数据分析中最常用的模型之一。一直在努力提高这种模型的灵活性,例如通过加法函数进行复信号检测。然而,扩展Cox加性模型以适应高维数据的任务是不平凡的。在估计加性函数时,常用的组稀疏正则化可能会在加性函数上引入过度的平滑收缩,从而损害预测性能。此外,如果存在非线性效应,“全进全出”的方法使得函数选择具有挑战性。我们开发了一个加性Cox PH模型来解决高维数据分析中的这些挑战。值得注意的是,我们施加了一个新的尖峰和平板LASSO之前,激励添加剂功能的双层功能选择。设计了一种可扩展的确定性模型拟合算法EM-坐标下降法。我们比较了模拟研究和代谢组学数据分析中最先进的模型的预测和计算性能。通过免费提供的R包BHAM(https://boyiguo1.github.io/BHAM/),所提出的模型广泛适用于各种研究领域,例如基因组学和人口健康。
2022-05-23 stat.CO stat.ME
Semiparametric Functional Factor Models with Bayesian Rank Selection
函数数据通常伴随着描述函数的典型形状的参数化模板。然而,这些参数化模板可能会产生显著的偏差,这会破坏实用性和可解释性。为了纠正模型的误指定,我们增加了一个无限维的非参数函数的基础上的参数模板。非参数基函数从数据中学习,并被约束为与参数模板正交,这保持了参数项和非参数项之间的区别。这种区别是必不可少的,以防止功能混淆,否则会导致严重的偏见的参数项。的非参数因子正则化与一个有序的尖峰和平板之前,提供一致的秩选择,并满足几个有吸引力的理论性质。所提出的方法的多功能性说明通过应用程序的合成数据,人体运动控制数据,和动态收益率曲线数据。相对于参数和半参数的替代品,建议的半参数功能因子模型消除了偏见,减少过多的后验和预测的不确定性,并提供可靠的推断非参数项的有效数量-所有与最小的额外计算成本。
2022-05-16 econ.EM stat.CO stat.ME
Variable Selection and Minimax Prediction in High-dimensional Functional Linear Model
University of Connecticut(康涅狄格大学);University of California Riverside(加州大学河滨分校);University of Michigan(密歇根大学)
本文研究高维函数线性回归模型的变量选择与预测问题,通过对系数函数的RKHS范数施加组弹性网惩罚提出函数弹性网估计量,证明了其变量选择一致性,并实现了选择后精炼估计量的预言机极小化极大最优预测率。
2025-11-05 math.ST stat.ME stat.TH
FAStEN: An Efficient Adaptive Method for Feature Selection and Estimation in High-Dimensional Functional Regressions
本文提出FAStEN方法,结合函数数据、优化与机器学习技术,在稀疏高维函数回归中同时进行特征选择与参数估计,显著降低计算成本并提升选择性能,且不牺牲系数估计质量。
2024-10-17 stat.CO stat.ME stat.ML
Functional and variables selection in extreme value models for regional flood frequency analysis
本文针对区域洪水频率分析,提出结合贝叶斯P样条与分组马蹄先验的GEV模型,实现协变量非线性效应建模及功能与变量选择,并通过交叉验证证明其能降低未测站预测不确定性且保持校准性能。
2023-06-28 stat.AP stat.ME
Variable Selection Methods for Multivariate, Functional, and Complex Biomedical Data in the AI Age
Universidade de Santiago de Compostela(圣地亚哥德孔波斯特拉大学);Harvard University(哈佛大学)
本研究针对AI时代生物医学复杂数据分析需求,提出基于最优子集选择的通用变量选择框架,适用于多类回归模型与响应数据,在准确率和速度上显著优于前沿方法,为临床相关领域研究提供支撑。
2025-01-12 cs.LG stat.AP stat.ME
Classification of Functional Data with k-Nearest-Neighbor Ensembles by Fitting Constrained Multinomial Logit Models
在过去的几十年中,已经开发了许多用于功能数据分析的方法,包括分类方法。尽管如此,有一些问题,目前可用的方法,没有得到满意的解决,例如,特征选择结合变量选择时,使用多个功能协变量。本文将函数系综与惩罚约束多项logit模型相结合。结果表明,这种合成产生一个功能数据(可能与非功能预测混合),它也提供了自动变量选择功能强大的分类工具。选择一个适当的,稀疏诱导惩罚允许估计大多数模型系数正好为零,并允许类特定的系数在多类问题,这样的特征选择获得。多项logit模型中的一个附加约束确保模型系数可以被视为权重。因此,估计结果变得可解释相对于所选择的特征的判别重要性,这是由特征重要性度量评级。在两个应用实例中,检验了用于水质监测实验的细胞芯片的数据和用于语音识别的音素数据、可解释性以及选择结果。的分类性能进行比较,在常用的各种其他分类方法。
2017-02-06 stat.AP stat.ME
ControlBurn: Feature Selection by Sparse Forests
Cornell University(康奈尔大学)
树集合在相关特征组之间均匀地分配特征重要性。相关组的平均特征排序被抑制,这降低了可解释性并使特征选择复杂化。在本文中,我们提出了ControlBurn,一个特征选择算法,使用加权LASSO为基础的特征选择方法修剪不必要的功能,从树系综,就像低强度火灾减少过度生长的植被。像线性LASSO一样,ControlBurn将相关特征组的所有特征重要性分配给单个特征。此外,与基于迭代包装器的特征选择方法不同,该算法高效且仅需要一次训练迭代即可运行。我们表明,ControlBurn的性能大大优于特征选择方法,在具有相关特征的数据集上具有可比的计算成本。
2021-07-01 cs.LG stat.ME
Thresholded Graphical Lasso Adjusts for Latent Variables: Application to Functional Neural Connectivity
Rice University(莱斯大学);Baylor College of Medicine(贝勒医学院)
在神经科学中,研究人员试图从大规模的神经记录或成像中揭示神经元的连通性;人们经常使用图形模型选择和估计技术来实现这一目的。但是,现有的技术只能记录一小部分神经元,这导致了在存在大量潜在变量的情况下图选择的挑战性问题。Anglasekaran et al.(2012)提出了一个凸规划来解决这个问题,从计算和统计的角度提出了挑战。为了解决这个问题,我们提出了一个非常简单的解决方案:将硬阈值算子应用于现有的图选择方法。概念上简单,计算上有吸引力,我们证明,阈值的图形套索,邻域选择,或CLIME估计具有优越的理论特性,在图形选择的一致性,以及更强的实证结果比现有的方法的潜在变量图形模型问题。我们还证明了我们的方法的适用性,通过神经科学案例研究钙成像数据来估计功能性神经连接。
2021-04-13 cs.LG stat.ME stat.ML
A neighbour selection approach for identifying differential networks in conditional functional graphical models
Politecnico di Milano(米兰理工大学);Human Technopole(人类技术顶石研究所);IRCCS Azienda Ospedaliera Metropolitana(热那亚都市医院IRCCS);Università degli Studi di Genova(热那亚大学)
本文提出了一种基于功能-功能回归的邻居选择方法,用于识别条件功能图模型中的差异网络,通过协变量调节连接模式并提高估计精度和计算效率。
2026-08-04 stat.AP stat.ME
High-dimensional Functional Graphical Model Structure Learning via Neighborhood Selection Approach
Booth School of Business, The University of Chicago(芝加哥大学布斯商学院);Department of Statistics and Data Science, Cornell University(康奈尔大学统计与数据科学系);Department of Data Sciences and Operations, Marshall School of Business, University of Southern California(南加州大学马歇尔商学院数据科学与运营系)
针对高维函数型数据的条件独立结构建模需求,提出基于函数对函数回归的邻域选择法估计高斯函数图模型结构,兼具计算效率与统计一致性,还给出了降维用函数基的选择准则与实用方案。
2024-01-26 cs.LG stat.ME stat.ML
On Prediction Feature Assignment in the Heckman Selection Model
University of Arkansas(阿肯色大学)
针对 Heckman 选择模型中预测特征选择困难的问题,提出数据驱动框架 Heckman-FA,通过训练分配函数并基于拟合优度与噪声相关性提取特征,有效提升了模型在非随机缺失样本偏差下的稳健性。
2024-04-22 cs.LG stat.ME
Selective machine learning of doubly robust functionals
本文提出一种选择性机器学习框架,基于双重稳健性质定义伪风险并选择最优学习器对,用于半参数模型中有限维泛函的推断,并应用于平均处理效应的估计,理论证明其oracle性质,模拟和实证验证了有效性。
2023-09-03 math.ST stat.ME stat.ML
High-Dimensional Feature Selection by Feature-Wise Kernelized Lasso
Yahoo! Labs(雅虎实验室);Tokyo Institute of Technology(东京工业大学);Disney Research Pittsburgh(迪士尼匹兹堡研究院);Carnegie Mellon University(卡内基梅隆大学)
监督特征选择的目标是找到负责预测输出值的输入特征的子集。最小绝对收缩和选择运算符(Lasso)允许基于输入特征和输出值之间的线性依赖性进行计算高效的特征选择。在本文中,我们考虑一个特征明智的内核Lasso捕获非线性输入输出依赖。我们首先表明,与特定的核函数的选择,非冗余功能与强统计依赖的输出值,可以发现在基于核的独立性措施。然后,我们表明,全局最优解可以有效地计算,这使得该方法可扩展到高维问题。通过对数千个特征的特征选择实验,证明了该方法的有效性.
2019-01-04 cs.AI stat.ME stat.ML
Orthogonal variance decomposition based feature selection
Canadian University Dubai(迪拜加拿大大学)
现有的特征选择方法在评估特征子集时不能正确地考虑特征之间的相互作用。在本文中,我们试图通过使用正交方差分解来评估功能来解决这个问题。分解的正交性允许我们直接计算特征对输出方差的总贡献。因此,我们得到一个有效的算法,考虑到功能之间的相互作用的功能评估。数值实验表明,我们的方法准确地识别相关功能,提高了数值模型的精度。
2019-10-22 cs.LG stat.ME stat.ML