Tree-Structured Scale Effects in Binary and Ordinal Regression
在二元和有序回归中，可以区分位置分量和缩放分量。虽然前者决定了响应类别范围内的位置，但标度表示方差异质性。特别是，因为它已被证明，误导性的影响，可能会发生，如果一个忽略的缩放组件的存在，重要的是要考虑潜在的缩放效应的回归模型，这是不可能在现有的递归分区方法。建议的递归分区方法产生两棵树，一个用于位置，一个用于缩放。它们以一种简单的可解释的方式显示变量如何相互作用以确定二元或有序响应。所开发的算法控制全局显著性水平，并自动选择对响应有影响的变量。几个现实世界的应用程序的建模方法说明。
2019-10-30 stat.ME
Bayesian structured additive quantile regression for inflated bounded data
University of São Paulo（圣保罗大学）；University of Göttingen（哥廷根大学）；The Ohio State University（俄亥俄州立大学）
本文提出了一种贝叶斯结构加性分位数回归模型，用于处理膨胀的有界连续数据，能够同时建模连续成分的条件分位数和观测到零或一的概率，并通过模拟和实际数据验证其有效性。
2026-03-04 stat.ME
Bayesian Effect Selection in Structured Additive Distributional Regression Models
我们提出了一种新的spike和slab先验规范与缩放的beta素数边缘的重要性参数的回归系数，允许一般的效果选择类结构添加剂分布回归。这使我们能够对任意参数分布的所有分布参数进行建模，并考虑各种效应类型，如非线性或空间效应以及分层回归结构。我们的尖峰和板前依赖于一个参数扩展，分离块的回归系数到整体标量的重要性参数和向量的标准化系数。因此，我们可以使用标量来进行效果选择，而不是使用可能的高维效果向量，与经典的正态-逆伽马先验相比，这会产生改进的收缩和采样性能。我们调查的后验的适当性，显示出的前收益率理想的收缩性能，提出了一种方法，引出先验参数，并提供有效的马尔可夫链蒙特卡罗采样。使用模拟和三个大规模的数据集，我们表明，我们的方法是适用于数据的潜在大量的协变量，多层次的预测因子占分层嵌套的数据和非标准的响应分布，如二元正态或零膨胀泊松。
2019-02-27 stat.ME
Flexible tree-structured regression for clustered data with an application to quality of life in older adults
本文提出一种灵活的树结构回归方法，用于处理聚类数据中的单元特定效应和亚组识别，并在老年人生活质量分析中验证了其有效性。
2025-01-22 stat.ME
Tree-Structured Modelling of Categorical Predictors in Regression
广义线性和加法模型是非常有效的回归工具，但如果需要高阶相互作用，则相关项的选择变得困难。相比之下，基于树的方法也被称为递归分区，它被明确地设计为对特定形式的交互进行建模，但由于它们专注于交互，往往会忽略主效应。这里提出的方法集中在分类预测因子的主要影响，通过使用树型方法来获得聚类。特别是当预测有许多类别时，人们想知道哪些类别必须根据它们对响应的影响来区分。树形结构的方法允许检测共享相同效果的类别的集群，同时让其他变量，特别是度量变量，对响应具有线性或加性影响。提出了一种算法的拟合和各种停止标准进行评估。优选的停止标准基于表示条件推理过程的$p$值。此外，还研究了聚类的稳定性，并通过自举方法研究了变量之间的相关性。几个应用程序显示了有用的树结构聚类和一个小的模拟研究表明，拟合过程工作良好。
2015-04-18 stat.ME
Tensor Stochastic Regression for High-dimensional Time Series via CP Decomposition
本文提出基于CP分解的高维张量随机回归统一框架，支持向量、矩阵与张量响应及预测变量，给出低秩与稀疏低秩估计、非渐近误差界和交替最小化算法，并通过模拟与实际数据验证其优势。
2025-06-07 stat.ME
Bayesian tensor regression using the Tucker decomposition for sparse spatial modeling
使用多维数组或张量建模通常会由于高维性而出现问题。此外，这些结构通常表现出固有的稀疏性，需要使用正则化方法来正确表征张量协变量和标量响应之间的关联。我们提出了一种贝叶斯方法，使用Tucker张量分解有效地对具有张量协变量的标量响应进行建模，以保留张量系数内的空间关系，同时减少模型内变化的参数数量并应用正则化方法。模拟数据进行了分析，比较最近提出的方法的模型。一个神经影像学分析使用的数据从阿尔茨海默氏症的数据神经影像学倡议包括说明的好处，模型结构进行推理。
2022-10-07 stat.ME
Transfer Learning for Robust Structured Regression with Bi-level Source Detection
Rice University（莱斯大学）；New York University（纽约大学）；University of California at Riverside（加州大学河滨分校）
本文提出TransL2E方法，通过鲁棒L2E准则和双级源检测机制，在数据污染环境下提升结构回归的鲁棒性和准确性。
2026-04-08 stat.ME
Structured penalized regression for drug sensitivity prediction
大规模{ \it in vitro}药物敏感性筛选是个性化肿瘤学中预测潜在癌症药物有效性的重要工具。预测癌细胞系对一组药物的敏感性是一个多变量回归问题，其输入数据为高维异质多组学数据，并且代表对不同药物敏感性的结果变量之间具有潜在的强相关性。我们提出了一种联合惩罚回归方法与结构化的惩罚条款，使我们能够利用药物之间的相关性结构与组套索型处罚，并在同一时间解决组学数据源之间的异质性，通过引入数据源特定的惩罚因子，惩罚不同的数据源不同。通过将综合惩罚因子（IPF）与树引导的组套索相结合，我们创建了IPF树套索方法。我们提出了一个统一的框架，将更一般的IPF型方法，原来的惩罚方法。由于结构化的惩罚项有多个参数，我们演示了如何通过全局优化（EPSGO）算法的区间搜索有效的参数选择可以用来有效地优化多个惩罚参数。仿真研究表明，IPF-tree-lasso与其他lasso类型的方法相比，可以提高预测性能，特别是对于异构数据源。最后，我们采用新的方法来分析癌症药物敏感性基因组学项目的数据。
2020-03-08 stat.ME
Structured Mixture of Continuation-ratio Logits Models for Ordinal Regression
提出一种基于延续比率Logit混合的非参数贝叶斯序数回归方法，利用Pólya-Gamma数据增广实现高效后验模拟，避免了协变量效应的线性假设。
2024-03-22 stat.ME
A covariate-dependent Cholesky decomposition for high-dimensional covariance regression
Baylor University（贝勒大学）；Goizueta Business School, Emory University（埃默里大学戈伊泽塔商学院）
本文提出一种新的变系数序列回归框架，通过修改Cholesky分解来建模协变量依赖的正定协方差矩阵，同时引入联合稀疏结构以处理高维数据。
2026-04-08 stat.ME
Scalable Estimation for Structured Additive Distributional Regression Through Variational Inference
针对结构化加性分布回归模型估计复杂且成本高的问题，提出基于变分推断的快速可扩展方法，结合参数近似与精确条件后验，采用随机梯度上升优化，并通过退火增强鲁棒性，在模拟和真实数据中验证了准确性与效率。
2023-11-13 stat.ME
Semi-Structured Distributional Regression -- Extending Structured Additive Models by Arbitrary Deep Neural Networks and Data Modalities
RWTH Aachen（亚琛工业大学）；LMU Munich（慕尼黑大学）；Humboldt-Universität zu Berlin（柏林洪堡大学）
将加性模型和神经网络相结合，可以扩大统计回归的范围，同时通过可解释的结构化加性预测器扩展基于深度学习的方法。然而，现有的尝试将两种建模方法结合起来，仅限于非常特定的组合，更重要的是，涉及可识别性问题。因此，可解释性和稳定的估计通常会丢失。我们提出了一个通用框架，将结构化回归模型和深度神经网络结合到一个统一的网络架构中。为了克服不同模型部分之间固有的可识别性问题，我们构建了一个正交化单元，将深度神经网络投影到统计模型预测器的正交补中。这使得能够正确估计结构化模型部分，从而实现可解释性。我们证明了该框架的数值实验的有效性，并说明其特殊的优点，在基准和现实世界中的应用。
2022-07-09 cs.LG stat.ME stat.ML
Signal extraction approach for sparse multivariate response regression
本文考虑了具有高维预测变量的多元响应回归模型。对响应变量之间的相关性建模的一种方法是通过系数矩阵的低秩分解，这已经被几篇论文考虑用于高维预测。然而，所有这些文件集中在奇异值分解的系数矩阵。我们的目标是系数矩阵的分解，这将导致对回归函数（响应中的信号部分）的最佳低秩近似。在给定任何秩的情况下，该分解在对具有相同秩的系数矩阵的所有近似中具有几乎最小的预期预测误差。为了估计分解，我们制定了一个惩罚广义特征值问题，以获得第一个矩阵的分解，然后通过最小二乘法获得第二个。在高维情形下，我们建立了估计的预言不等式。与现有的理论结果相比，我们对噪声向量在每个观测值中的分布限制较少，并且允许其坐标之间的相关性。我们的理论结果不依赖于多变量响应的维数。因此，维数是任意的，可以大于样本量和预测因子的维数。仿真研究和实际数据的应用表明，该方法具有良好的预测性能，对各种降秩模型的降维是有效的。
2015-08-05 stat.ME
Bayesian Penalized Transformation Models: Structured Additive Location-Scale Regression for Arbitrary Conditional Distributions
Chair of Statistics, University of Göttingen（哥廷根大学统计系）；Department of Statistics, The Ohio State University（俄亥俄州立大学统计系）
提出贝叶斯惩罚变换模型，通过半参数位置-尺度回归直接估计响应变量的条件分布，结合结构化加性预测器和光滑先验，实现不确定量化，并在模拟和实际数据中验证有效性。
2026-06-15 stat.ME
Structured, sparse regression with application to HIV drug resistance
本文介绍了一种新的正向逐步回归方法。我们的修改发现解决方案的回归问题，所选择的预测出现在一个结构化的模式，相对于一个预定义的距离测量的候选预测。我们的方法的动机是预测HIV-1耐药性的蛋白质序列的问题。我们发现，我们的方法提高了耐药性的可解释性，同时产生与标准方法相当的预测准确性。我们还证明了我们的方法在模拟研究，并提出了一些理论结果和连接。
2011-08-01 stat.AP stat.ME
Estimating Perinatal Critical Windows of Susceptibility to Environmental Mixtures via Structured Bayesian Regression Tree Pairs
母亲在怀孕期间接触环境化学品可能会改变分娩和儿童的健康结果。研究旨在确定暴露可能改变未来健康结果的关键窗口和时间段，并估计风险-反应关系。现有的统计方法侧重于估计在高时间分辨率下观察到的母亲接触单一环境化学品（如整个怀孕期间每周一次）与儿童健康结果之间的关联。扩展到在高时间分辨率下观察到的多种化学品会带来维度问题，并且缺乏统计方法。我们提出了一个基于树的模型，在高时间分辨率下观察到的混合曝光。所提出的方法使用的结构化的树对，定义结构化的主效应和时间分辨的预测变量和变量选择之间的相互作用，选择出的模型预测不相关的结果的加法合奏。我们将我们的方法应用于模拟和分析在科罗拉多州丹佛市出生队列中，在整个妊娠期间每周测量的五次暴露与出生体重之间的关系。我们确定了细颗粒物，二氧化硫和温度与出生体重呈负相关的关键窗口以及细颗粒物和温度之间的相互作用。软件在R软件包dlmtree中提供。
2021-07-01 stat.ME
Truly Multivariate Structured Additive Distributional Regression
针对真正多元响应的分布回归挑战，提出基于高斯copula的多元分布模型，保留GAMLSS灵活性，通过贝叶斯收缩先验估计，在模拟及真实数据集上验证竞争力并补充现有模型。
2024-11-11 stat.ME
An efficient tensor regression for high-dimensional data
本文提出一种基于修正的张量链分解的高效张量回归方法，可高效处理高阶张量数据，并扩展到张量自回归，通过模拟和实例验证其优势。
2024-03-19 stat.ME
Regression-aware decompositions
Facebook Artificial Intelligence Research（脸书人工智能研究）
本文提出了一种回归感知的分解方法，通过结合线性最小二乘回归模型与插值分解，实现了对矩阵B的监督降维，从而揭示了B中与A回归相关的结构。
2018-02-12 cs.LG cs.NA math.NA
Spike-and-Slab Priors for Function Selection in Structured Additive Regression Models
结构化加性回归为复杂的高斯和非高斯回归模型提供了一个通用框架，预测因子包括非线性函数和表面、空间效应、变化系数、随机效应和其他回归项的任意组合。结构化加法回归的巨大灵活性使得函数选择成为一项具有挑战性和重要性的任务，旨在（1）选择相关的协变量，（2）选择协变量对预测因子影响的适当和简约表示，以及（3）确定所需的交互作用。我们提出了一个尖峰和板前结构的功能选择，允许包括或排除单个系数以及代表特定模型项的系数块。一种新的乘法参数扩展需要获得良好的混合和收敛性能的马尔可夫链蒙特卡罗模拟方法，并诱导理想的收缩性能。在模拟研究和（真实的）基准分类数据中，我们研究了对超参数设置的敏感性，并将性能与竞争对手进行了比较。我们的方法的灵活性和适用性证明了在加性分段指数模型与时变效应的右删失生存时间的重症监护患者脓毒症。在一个广泛的附录中讨论了地质可加性和可加性混合logit模型的应用。
2011-12-02 stat.AP stat.ME
From Fixed-X to Random-X Regression: Bias-Variance Decompositions, Covariance Penalties, and Prediction Error Estimation
在统计预测中，基于协方差惩罚的经典模型选择和模型评价方法仍然被广泛使用。关于这个主题的大多数文献都是基于我们所谓的“固定X”假设，其中协变量值被假设为非随机的。相比之下，采用“Random-X”视图通常更合理，其中协变量值独立绘制用于训练和预测。为了研究协方差惩罚在这种设置中的适用性，我们提出了Random-X预测误差的分解，其中协变量的随机性对偏差和方差分量都有贡献。这种分解是一般的，但我们集中在最小二乘回归的基本情况。我们证明，在这种设置中，从固定X到随机X预测的移动会导致偏差和方差的增加。当协变量服从正态分布且线性模型无偏时，此分解中的所有项都是显式可计算的，这产生了我们称之为$RCp$的Malows Cp的扩展。$RCp$对某些非正态协变量类也渐近成立。当噪声方差未知时，插入通常的无偏估计导致我们称为$\hat{RCp}$的方法，该方法与Sp（Tukey 1967）和GCV（Craven and Wahba 1978）密切相关。对于过度偏倚，我们提出了一个基于普通交叉验证（OCV）的“捷径公式”的估计，从而产生了一种我们称之为$RCp^+$的方法。理论论证和数值模拟表明，$RCP^+$通常优于OCV，尽管差异很小。我们进一步研究其他流行的估计的随机X误差。对于岭回归，我们得到的令人惊讶的结果是，在高度正则化的情况下，Random-X方差小于Fixed-X方差，这可以导致更小…
2017-06-10 stat.ME
Spatial Resolution Enhancement of Oversampled Images Using Regression Decomposition and Synthesis
提出了一种新的稀疏设计矩阵回归分析统计模型。该模型利用设计矩阵中有限个非零元素的位置，将回归模型分解为子回归模型。进一步对这些有限的非零元素的值进行统计推断，为合成这些子回归模型提供参考。利用这种回归分解和合成的概念，设计矩阵的结构信息可以被结合到回归分析中，以提供更可靠的估计。该模型被应用于解决空间过采样图像的空间分辨率增强问题。为了系统地评估所提出的模型在提高空间分辨率的性能，所提出的方法被施加到通过随机场仿真再现的过采样图像。基于不同场景的应用结果验证了该方法在提高空间过采样图像空间分辨率方面的有效性和可行性。
2020-12-29 stat.AP stat.ME
Regularized Regression by Composition: Identifiability, Structured Penalization, and Statistical Guarantees for Multi-Flow Distributional Models
Al-Muthanna University（穆萨纳大学）
本文提出通过组合方法实现正则化回归，解决多流分布模型中的非可识别问题，通过结构化惩罚提升估计稳定性，并在不同样本规模下验证了方法的有效性。
2026-03-26 stat.ME
Conditional probability tensor decompositions for multivariate categorical response regression
针对多变量分类响应回归中响应、类别及预测维度均较大的问题，提出基于函数型概率张量分解的建模方法，推导可扩展的惩罚EM算法拟合，经模拟和基因功能建模验证性能良好。
2024-05-14 stat.AP stat.ME
Boosting Multivariate Structured Additive Distributional Regression Models
我们开发了一个基于模型的助推方法的多变量分布回归的广义可加模型的框架内的位置，规模和形状。我们的方法使所有分布参数的任意参数分布的解释变量条件的多变量响应的同时建模，同时适用于潜在的高维数据。此外，boosting算法结合了数据驱动的变量选择，考虑了各种不同类型的影响。作为我们方法的一个特殊优点，它允许通过相关协变量对多个连续或离散结果之间的关联进行建模。经过详细的模拟研究调查估计和预测性能，我们证明了我们的方法在三个不同的生物医学应用的充分灵活性。第一个是基于来自英国生物银行的高维基因组队列数据，考虑双变量二元反应（慢性缺血性心脏病和高胆固醇）。在这里，我们能够识别对胆固醇和心脏病之间的关联提供信息的遗传变异。第二个应用程序考虑了澳大利亚的医疗保健需求，将咨询次数和处方药数量作为双变量计数响应。第三个应用程序分析了两个方面的儿童营养不良在尼日利亚作为一个双变量响应，我们发现，两个营养不良分数之间的相关性是相当不同的，这取决于儿童的年龄和儿童生活的地区。
2022-07-18 stat.ME
Joint Bayesian Variable and DAG Selection Consistency for High-dimensional Regression Models with Network-structured Covariates
考虑了高维回归模型中协变量的回归系数和协变量的协方差阵的联合稀疏估计问题，其中预测变量既与响应变量相关，又通过高斯有向无圈图（DAG）模型在函数上相互关联.高斯DAG模型在逆协方差阵的Cholesky因子中引入稀疏性，而稀疏性模式又对应于对基础预测变量的特定条件独立性假设。近年来已经开发了各种方法贝叶斯推理在确定这样的网络结构的预测回归设置，但这些模型的重要稀疏性选择属性还没有得到彻底的研究。本文研究了一类在回归系数上具有spike和slab先验的递阶模型和一类在逆协方差阵的Cholesky因子上具有多个形状参数的灵活且一般的DAG-Wishart分布.在温和的规律性假设下，我们建立了联合选择一致性的变量和潜在的DAG的协变量时，预测的维度允许增长远远大于样本量。我们证明了我们的方法优于现有的方法在选择网络结构的预测在几个模拟设置。
2020-04-20 math.ST stat.ME stat.TH
Structured Bayesian Regression Tree Models for Estimating Distributed Lag Effects: The R Package dlmtree
本文介绍R包dlmtree，实现树结构分布滞后模型，用于估计暴露滞后效应，提供拟合、推断、可视化及异质性分析功能。
2025-04-25 stat.CO stat.ME
Sparse principal component regression via singular value decomposition approach
The University of Electro-Communications（电气通信大学）
主成分回归（PCR）是一个两阶段的过程：第一阶段执行主成分分析（PCA），第二阶段构建回归模型，其解释变量由第一阶段获得的主成分代替。由于PCA仅使用解释变量进行，因此主成分没有关于响应变量的信息。为了解决这个问题，我们提出了一个单阶段的PCR过程中的奇异值分解方法。我们的方法是基于两个损失函数，回归损失和PCA损失，稀疏正则化。所提出的方法使我们能够获得主成分负荷，拥有解释变量和响应变量的信息。提出了一种利用乘子交替方向法的估计算法。我们进行数值研究，以显示所提出的方法的有效性。
2020-02-21 cs.LG stat.ME stat.ML
Adaptive Geometric Regression for High-Dimensional Structured Data
University of Maryland School of Medicine（马里兰大学医学院）
本文提出自适应几何回归框架，通过k近邻覆盖、热扩散与响应一致性调制迭代构建特征空间内在几何，以处理高环境维数、低内在维数的结构化数据回归问题。
2025-11-05 math.ST stat.ME stat.TH
Density regression via Dirichlet process mixtures of normal structured additive regression models
本文提出单权重相依 Dirichlet 过程正态结构化加法回归混合模型，利用惩罚 B 样条和张量积实现灵活密度回归，并通过闭式满条件分布支持高效 Gibbs 后验推断。
2024-05-13 stat.AP stat.ME
Subspace decompositions for association structure learning in multivariate categorical response regression
针对多元分类响应回归中现有方法可解释性差、灵活性不足的问题，提出基于新颖子空间分解的惩罚似然方法，可识别三类关联并在张量积空间转化为线性问题，兼具理论保证与良好的可解释性和预测精度。
2024-10-06 math.ST stat.ME stat.TH
Coefficient Decomposition of Spatial Regressive Models Based on Standardized Variables
空间自相关分析是空间自回归建模的基础。然而，空间相关系数和空间回归模型之间的关系还没有很好地阐明。本文致力于探索空间回归系数的深层结构。通过数学推理，从基于标准化变量的一般空间回归模型出发，导出了一对典型空间回归系数公式。空间自回归和滞后回归系数被简化为一系列统计参数和度量，包括常规回归系数、Pearson相关系数、Moran指数、空间互相关系数和预测残差方差。这些公式表明了空间相关系数和空间回归系数之间确定的内在关系。新发现如下：空间自回归系数主要取决于自变量的Moran指数，空间滞后回归系数主要取决于自变量与因变量的互相关系数。利用京津冀地区城市系统的观测资料对新公式进行了验证，结果令人满意。新公式及其变量有助于从空间相关性的角度理解空间回归模型，并可用于辅助空间回归建模。
2022-02-14 physics.data-an stat.ME
Pre-processing with Orthogonal Decompositions for High-dimensional Explanatory Variables
解释变量之间的强相关性对于高维正则化回归方法是有问题的。由于违反了不可表示条件，流行的LASSO方法可能会遭受虚假包含无效变量。在本文中，我们提出了预处理与正交分解（PROD）的解释变量的高维回归。PROD程序是根据设计矩阵的通用正交分解构造的。我们通过两个具体的例子证明了PROD方法可以有效地提高高维惩罚回归的性能。我们的理论分析揭示了他们的性质和好处高维惩罚线性回归与LASSO。大量的数值模拟和数据分析表明，有前途的性能的PROD。
2021-06-16 math.ST stat.ME stat.ML
Tree-guided group lasso for multi-response regression with structured sparsity, with an application to eQTL mapping
我们考虑的问题估计稀疏的多响应回归函数，与应用表达数量性状位点（eQTL）定位，其目标是发现影响基因表达水平的遗传变异。特别是，我们调查的收缩技术能够捕捉到一个给定的层次结构的响应，如层次聚类树与叶节点的响应和内部节点的集群相关的响应在多个粒度，我们试图利用这种结构来恢复协变量相关的每个层次定义的集群的响应。我们提出了一个树引导组套索，或树套索，估计多响应回归下，采用一种新的惩罚函数从树构造的结构稀疏。我们描述了一个系统的加权方案，重叠的组中的树罚，使每个回归系数被惩罚在一个平衡的方式，尽管不均匀的多重性的组成员的回归系数，由于组之间的重叠。为了有效的优化，我们采用了一个平滑的近端梯度方法，最初开发的一般类的结构稀疏诱导处罚。使用模拟和酵母数据集，我们证明了我们的方法在预测误差和恢复真实稀疏模式方面表现出优越的性能，与其他学习多变量响应回归的方法相比。
2012-09-28 q-bio.GN q-bio.QM stat.AP
Families of Parsimonious Finite Mixtures of Regression Models
回归模型的有限混合为研究具有函数依赖关系的数据的异质性提供了灵活的框架。这些模型可以方便地用于具有明确回归关系的数据的无监督学习。我们通过对多元误差协方差阵进行特征分解来扩展这种模型。通过约束部分分解，我们得到了简约的回归混合和伴随变量的回归混合的家庭。这些模型家族解释了多个响应之间的相关性。提出了一种期望最大化算法用于参数估计，并在模拟和实际数据上说明了该算法的性能。
2013-12-02 stat.CO stat.ME stat.ML
R2 priors for Grouped Variance Decomposition in High-dimensional Regression
本文提出 Group-R2 decomposition prior，通过组间与组内两阶段分解 R2 实现可解释的复杂性和稀疏性控制，并结合理论分析与模拟验证分组先验的预测及参数恢复效果。
2025-07-24 stat.AP stat.ME stat.OT
Energy Trees: Regression and Classification With Structured and Mixed-Type Covariates
针对现有复杂数据处理工具仅支持单一类型变量的问题，提出基于能量统计拓展条件推断树的Energy Trees模型，可处理多类结构化协变量，在变量选择、抗过拟合及预测任务中表现优异，已实现为R包etree。
2023-06-15 stat.AP stat.CO stat.ME
Distribution Regression with Sample Selection, with an Application to Wage Decompositions in the UK
本研究提出Heckman选择模型的半参数推广形式——存在内生样本选择的分布回归模型，提供识别等方法，应用于英国工资分解，控制就业选择后仍发现显著性别工资差距，并揭示不同群体的选择分类效应。
2023-12-18 econ.EM stat.ME
Hierarchical Gaussian Processes for Survey Weighting: Local Equivalent Weights in Structured Populations
Columbia University（哥伦比亚大学）
本研究提出基于分层高斯过程（HGP）回归的调查加权框架，构造结构化总体的局部等价权重，模拟及实际应用显示其在非参数结构下预测误差更低，拓展了调查加权的非参数建模方法。
2026-10-22 stat.ME stat.ML
A Generalized Least Squares Matrix Decomposition
许多大规模高维数据集中的变量都是结构化的，例如来自成像和时间序列中的规则网格测量，或来自气候研究中的时空测量。经典的多变量技术忽略了这些结构关系，往往导致性能不佳。我们提出了一个广义的奇异值分解（SVD）和主成分分析（PCA），是适合于大量的数据集与结构化变量或已知的双向依赖关系。通过找到最佳的低秩近似的数据相对于一个转置的二次范数，我们的分解，称为广义最小二乘矩阵分解（GMD），直接占结构关系。由于高维环境中的许多变量通常是不相关的或有噪声的，我们还通过添加双向惩罚来正则化矩阵分解，以鼓励稀疏性或平滑性。我们开发了快速计算算法，使用我们的方法进行广义PCA（GPCA），稀疏GPCA和功能GPCA的海量数据集。通过模拟和全脑功能磁共振成像的例子，我们证明了我们的方法的效用降维，信号恢复，和高维结构化数据的特征选择。
2012-03-13 stat.ME stat.ML
Counterfactual Distribution Regression for Structured Inference
Royal Holloway University London（伦敦大学皇家霍洛威学院）；University College London（伦敦大学学院）；Gatsby Computational Neuroscience Unit（盖茨比计算神经科学组）
我们考虑的问题，其中系统接收外部\emph{perturbations}不时。例如，该系统可以是训练网络，其中特定线路在没有警告的情况下反复中断，从而对乘客行为产生影响。目标是预测系统在特定兴趣点的行为变化，例如受影响铁路车站周围的乘客流量。我们假设可用的数据提供了系统在其“自然状态”下运行的记录（例如，没有中断的训练网络）和关于发生扰动的情况的数据。推理问题是如何与特定的协变量，如位置和时间的扰动有关的信息，可以概括为预测新的扰动的影响。我们从映射的角度来处理这个问题，从没有中断的系统行为的反事实分布到被中断的系统的分布。为此设置开发了\emph{distribution regression}的变体。
2019-08-20 cs.LG stat.AP stat.ME
Multiple Augmented Reduced Rank Regression for Pan-Cancer Analysis
本文提出多重增强降秩回归（maRRR），用于整合多个队列的高维数据，同时学习协变量驱动与辅助结构化变异，在泛癌基因表达分析中提升了预测与插补性能。
2023-08-30 q-bio.QM stat.ME stat.ML
Provably Efficient Posterior Sampling for Sparse Linear Regression via Measure Decomposition
针对多峰后验采样难题，本文提出基于测度分解的方法将其转化为对数凹分布采样，并在样本数与参数比超阈值时证明了算法的多项式时间高效性。
2024-06-27 math.ST stat.ME stat.TH
