Nonparametric Multivariate L1-median Regression Estimation with Functional Covariates
当协变量取值于无穷维空间时，本文提出了多元条件分布的L1-中位数的非参数估计。多变量情况更适合于同时预测随机变量向量的分量，而不是分别预测它们中的每一个。在利用著名的Nadarya-Waston估计量估计条件L1-median函数时，我们证明了该估计量的强相合性和渐近正态性。我们还提出了一些模拟，并提供如何建立条件con？多元L1-中位数回归的置信椭圆。对化学计量实际数据进行了数值研究，比较了协变量X为曲线，X为随机向量时多元L1-中位数回归与边际中位数回归向量的异同。
2013-04-16 math.ST stat.ME stat.TH
Asymptotic equivalence for nonparametric regression with multivariate and random design
我们表明，非参数回归是渐近等价的Le Cam的意义下，一系列的高斯白噪声实验的观察次数趋于无穷大。我们提出了一个一般的建设性框架的基础上近似空间，它允许实现渐近等价，即使在多变量和随机设计的情况下。
2006-07-14 math.ST stat.TH
Empirical Best Linear Unbiased Predictors in Multivariate Nested-Error Regression Models
为了分析小区域估计中的单元级多变量数据，我们考虑了多变量嵌套误差回归模型（MNER），并基于方差的“内”和“间”多变量分量的二阶无偏和一致估计，提供了小区域特征的经验最佳线性无偏预测（EBLUP）。EBLUP的均方误差（MSE）矩阵的二阶近似及其无偏估计推导出封闭的形式。还分析地提供了具有二阶精度的置信区间。
2018-04-26 math.ST stat.TH
Testing axial symmetry in multivariate location-scale linear regression
Charles University（查理大学）；The Czech Academy of Sciences, Institute of Information Theory and Automation（捷克科学院信息与自动化研究所）
提出基于积分秩得分的检验方法，用于多元线性异方差回归中条件轴向对称性的检验，推导渐近分布，并通过模拟和实际数据验证。
2026-06-11 math.ST stat.ME stat.TH
Discussion of "Multivariate quantiles and multiple-output regression quantiles: From $L_1$ optimization to halfspace depth"
讨论“多变量分位数和多输出回归分位数：从$L_1$优化到半空间深度”，M。Hallin，D. Paindaveine和M.西曼[arXiv：1002.4486]
2010-02-24 math.ST stat.TH
Discussion of "Multivariate quantiles and multiple-output regression quantiles: From $L_1$ optimization to halfspace depth"
讨论“多变量分位数和多输出回归分位数：从$L_1$优化到半空间深度”，M。Hallin，D. Paindaveine和M.西曼[arXiv：1002.4486]
2010-02-24 math.ST stat.TH
Discussion of "Multivariate quantiles and multiple-output regression quantiles: From $L_1$ optimization to halfspace depth"
讨论“多变量分位数和多输出回归分位数：从$L_1$优化到半空间深度”，M。Hallin，D. Paindaveine和M.西曼[arXiv：1002.4486]
2010-02-24 math.ST stat.TH
Multivariate boundary regression models
本文研究了一类具有单侧误差的多元回归模型。我们假设回归函数位于一般的Hölder类，并通过非参数局部多项式方法估计它，该方法包括最小化位于数据点上方的多项式逼近的局部积分。虽然考虑多变量协变量提供了一个不可否认的机会，从面向应用的角度来看，它需要一个新的证明方法，以取代既定的单变量的情况下。本文的主要目的是证明一致相合性，并提供所考虑的多元随机协变量和多元确定性设计点的非参数估计的收敛速度。为了证明估计的性能，在二维和三维的模拟研究中的小样本行为进行了研究。
2021-02-10 math.ST stat.TH
Rejoinder to "Multivariate quantiles and multiple-output regression quantiles: From $L_1$ optimization to halfspace depth"
对M.“多元分位数和多输出回归分位数：从$L_1$优化到半空间深度”的反驳。Hallin，D. Paindaveine和M.西曼[arXiv：1002.4486]
2010-02-24 math.ST stat.TH
D-optimal design for multivariate polynomial regression via the Christoffel function and semidefinite relaxations
在紧致半代数设计空间上，提出了一种新的D-最优试验设计方法，该方法采用多元多项式回归。我们应用半定规划问题的矩平方和的层次来解决数字和近似的最优设计问题。利用半定规划对偶理论和Christoffel多项式恢复了设计的几何形状。
2017-03-06 math.OC math.ST stat.TH
Chain graph models of multivariate regression type for categorical data
本文讨论一类由多元回归链图马尔可夫性定义的分类变量链图模型。首先，这些模型的局部独立集被证明是马尔可夫等价于最近在文献中定义的链图模型。接下来，我们提供了一个参数化的基础上的序列的广义线性模型与多元逻辑链接函数，捕捉所有的独立约束，在任何这种链图模型。
2011-07-13 math.ST stat.ME stat.TH
Correcting the estimator for the mean vectors in a multivariate errors-in-variables regression model
当多元回归中的因变量和自变量都存在测量误差时，多元变量误差回归模型适用。在这种情况下，长期以来一直认为，传统的最小二乘法估计模型参数是有偏差的和不一致的。广义最小二乘、普通最小二乘和最大似然估计（在高斯误差假设下）在Gleser（1981）的开创性论文中导出。然而，均值向量的普通最小二乘和最大似然估计量推导错误。在这篇简短的论文中，我们修改了这个错误，提出了正确的估计的均值向量。
2015-10-13 math.ST stat.TH
On Integrated $L^{1}$ Convergence Rate of an Isotonic Regression Estimator for Multivariate Observations
我们考虑一个一般的单调回归估计，我们允许独立和依赖的回归。我们提出了一个修改的经典保序最小二乘估计，并建立其收敛速率的综合$L_1$ -损失函数。该方法捕捉数据的形状，而不假设回归函数的可加性或参数形式。此外，平滑的程度是自动选择的，不需要辅助调谐的理论分析。一些模拟和两个真实的数据插图补充研究建议的估计。
2018-05-03 math.ST stat.ME stat.TH
Adaptive wavelet multivariate regression with errors in variables
在多维环境中，我们考虑变量误差模型。我们的目的是估计未知的非参数多元回归函数与误差的协变量。我们设计了一个基于小波投影核和反卷积算子的自适应估计器。我们提出了一个自动和完全数据驱动的过程来选择小波水平分辨率。得到了各向异性H{<$}lder类上的一个预言不等式和最优收敛速度.我们的理论结果说明了一些模拟。
2016-01-12 math.ST stat.TH
Multivariate Smoothing via the Fourier Integral Theorem and Fourier Kernel
从傅里叶积分定理出发，给出了多元函数的自然蒙特卡罗估计，包括密度、混合密度、转移密度、回归函数，以及多元密度函数的模式搜索（模式回归）.收敛速率被建立，并且在许多情况下，提供优于当前标准估计器的速率，诸如基于核的那些，包括核密度估计器和核回归函数。数值例子。
2020-12-28 math.ST stat.ME stat.ML
An \ell_1-oracle inequality for the Lasso in finite mixture of multivariate Gaussian regression models
考虑高维数据的多元有限混合高斯回归模型，其中协变量的数量和响应的大小可能远大于样本量。在Kullback-Leibler损失下，给出了Lasso估计满足的一个$\ell_1$ -oracle不等式.这个结果是Meynet在\cite{Meynet}中建立的$\ell_1$ -oracle不等式在多元情形下的推广.我们专注于Lasso的$\ell_1$ -正则化属性，而不是变量选择过程，因为它是在\cite{Stadler}的Städler中完成的。
2014-10-17 math.ST stat.TH
Confidence bands for multivariate and time dependent inverse regression models
构造了具有卷积型算子的逆回归模型中多元回归函数的一致渐近置信带。利用强逼近方法和一个关于增集系上平稳高斯场上确界的极限定理得到了这些结果。作为一个具体的应用，获得了卷积型逆回归模型中的不定常回归函数$f_t(x)$（$x\in \mathbb {R}^d,t\in \mathbb {R}$）的渐近置信带。最后，我们证明了我们提出的方法在模拟研究和应用程序的椭圆星系NGC5017的光度分布估计的实际可行性。据作者所知，本文的结果是第一个提供了统一的置信带多元非参数函数估计反问题。
2015-04-07 math.ST stat.ME stat.TH
Nonparametric Least Squares Estimation of a Multivariate Convex Regression Function
本文讨论了预测变量为多维时凸回归函数的最小二乘估计的相合性。我们的特点和讨论这样的估计通过某些二次和线性规划的解决方案的计算。温和的充分条件的一致性，这个估计和它的次微分在固定和随机设计回归设置。我们还考虑了一个回归函数，这是已知的凸和分量非增，并讨论其最小二乘估计的特征，计算和一致性。
2012-02-28 math.ST stat.TH
A multivariate spatial regression model using signatures
本文提出一种基于signature的多变量空间自回归模型，处理多变量响应变量与函数型协变量，并提供了截断阶数理论保证，在模拟与污染数据中优于现有方法。
2025-07-15 math.ST stat.ME stat.TH
Envelopes for multivariate linear regression with linearly constrained coefficients
约束多元线性模型是其系数矩阵的列被约束为位于已知子空间中的多元线性模型。这类模型包括通常用于研究生长曲线和纵向数据的模型。包络方法已被提出来提高估计效率的类无约束的多元线性模型，但尚未开发的约束模型，我们在这篇文章中开发。我们首先比较了标准的包络估计的基础上无约束的多元模型与标准的估计所产生的约束多元模型的偏差和效率。然后，为了进一步提高效率，我们提出了一种新的包络估计的基础上的约束多变量模型。还提出了新的基于测试的方法。我们通过模拟和研究经典的牙科数据和来自中国健康与营养调查的数据以及益生菌减少沙门氏菌感染能力的研究来支持我们的建议。
2021-01-02 math.ST stat.ME stat.TH
Adaptive Inference in Multivariate Nonparametric Regression Models Under Monotonicity
Brown University（布朗大学）
该研究针对多元非参数回归的单调性约束问题，推导了自适应置信区间的极小极大收敛速率，提出了适配该速率的新推断方法，适用于高斯误差下的有限样本及回归函数的一般线性泛函。
2026-10-30 econ.EM math.ST stat.AP
On Degrees of Freedom of Projection Estimators with Applications to Multivariate Nonparametric Regression
本文考虑了具有多元预测变量的非参数回归问题。我们提供了未知的回归函数，这是线性约束的二次优化程序，即最小二乘准则与线性约束和/或二次处罚的输出的估计的自由度和发散的表征。作为我们结果的特殊情况，我们导出了许多非参数回归问题中自由度的显式表达式，例如，有界保序回归、多元（惩罚）凸回归和加性全变差正则化。我们的理论还产生，作为特殊情况下，已知的结果的自由度的许多研究的估计在统计文献中，如岭回归，套索和广义套索。我们的结果可以很容易地用来选择调谐参数（S）参与的估计过程中，通过最小化Stein的无偏风险估计。作为我们的分析的副产品，我们得到了一个有趣的连接之间的有界保序回归和保序回归一般偏序集，这是独立的兴趣。
2018-10-06 math.ST stat.TH
Bayesian Variable Selection in Multivariate Nonlinear Regression with Graph Structures
高斯图模型（GGM）是使用精度矩阵进行依赖结构概率探索的成熟工具。我们开发了一种贝叶斯方法，将协变量信息在这个GGM设置在一个非线性看似无关的回归框架。我们提出了一个联合预测器和图选择模型，并开发了一个有效的折叠吉布斯采样算法来搜索联合模型空间。此外，我们研究了它的理论变量选择性质。我们证明了我们的方法对各种模拟数据，最后从TCPA项目的真实数据集。
2021-07-31 math.ST stat.ME stat.TH
An Efficient Minimax Optimal Estimator For Multivariate Convex Regression
Electrical Engineering and Computer Science, Massachusetts Institute of Technology（麻省理工学院电气工程与计算机科学系）；Department of Mathematics, Tel Aviv University（特拉维夫大学数学系）
本文提出了一种高效且最小最大最优的多变量凸回归估计器，适用于高维数据和多面体支持条件，解决了传统方法的最小二乘估计器次优问题。
2025-12-28 cs.LG math.MG math.ST
On the Data Augmentation Algorithm for Bayesian Multivariate Linear Regression with Non-Gaussian Errors
令$π$表示当来自多变量线性回归模型的可能性与标准非信息先验结合时产生的难以处理的后验密度，该模型具有来自正态的尺度混合的误差。有一种简单的数据增强算法（基于来自混合密度的潜在数据）可用于探索$π$。Hobert等人（2015）[arXiv：1506.03113v1]最近在回归模型为单变量的特殊情况下，对该MCMC算法的马尔可夫链进行了收敛速度分析。这些作者提供了简单的充分条件（混合密度）的几何遍历的马尔可夫链。在本文中，我们扩展了Hobert等人。的结果（2015）到多变量情况。
2015-12-06 math.ST stat.TH
Cellwise and Casewise Robust Multivariate Regression with Inference
KU Leuven（荷语鲁汶大学）
本文提出cellMR估计器，同时处理案例和单元异常值、缺失数据和高维性，引入cellBoot推断方法，提供稳健的置信区间。
2026-10-20 math.ST stat.ME stat.TH
Semi-parametric Order-based Generalized Multivariate Regression
在本文中，我们考虑一个广义多元回归问题，其中的响应是预测变量线性变换的单调函数。我们提出了一个半参数算法的基础上的顺序的响应是不变的变换函数的函数形式。我们证明了我们的算法，它最大限度地提高了响应的秩相关性和线性变换的预测，是一个真正的系数矩阵的相合估计量。我们还确定了收敛速度，并表明平方估计误差衰减率为$o(1/\sqrt{n})$。然后，我们提出了一个贪婪算法，最大限度地提高我们的模型的高度非光滑的目标函数，并通过广泛的模拟检查其性能。最后，我们比较了我们的算法与传统的多元回归算法在合成和真实数据。
2016-02-19 math.ST stat.ML stat.TH
Modified likelihood ratio tests in heteroskedastic multivariate regression models with measurement error
本文对多元异方差变量误差回归模型的似然比检验进行了改进。允许误差项遵循椭圆分布类中的多元分布，其具有正态分布作为特殊情况。我们推导出Skovgaard调整后的似然比统计量，它遵循卡方分布具有很高的准确度。我们进行了模拟研究，并表明，所提出的测试显示优越的有限样本的行为相比，标准的似然比检验。我们说明了我们的研究结果的实用性，在应用环境中使用的数据集从世界卫生组织MONICA投影心血管疾病。
2013-03-15 math.ST stat.TH
Estimators for multivariate allometric regression model
Faculty of Mathematics, Kyushu University（九州大学数学学院）；Faculty of Science and Technology, Keio University（庆应义塾大学理工学部）
本文提出了一种多变量所有质回归模型中第一主特征向量的估计方法，并讨论了其一致性条件和性能评估。
2024-05-26 math.ST stat.ME stat.TH
Posterior Contraction and Testing for Multivariate Isotonic Regression
本文考虑了具有多个预测变量和一个可加误差的非参数回归问题，其中假设回归函数是坐标非减的。提出了一种贝叶斯方法对多元单调回归函数进行推断，得到了后验收缩率，并构造了一个多元单调性的普遍一致贝叶斯检验方法.为了便于后验分析，我们暂时搁置形状的限制，并赋予一个前块常数回归函数的高度独立正态分布。误差项的未知方差由边缘最大似然估计估计或配备有逆伽马先验。然后，不受限制的块高度是后验也独立正态分布的误差方差，共轭。为了符合形状的限制，我们将样本从不受限制的后验投影到多元单调函数类上，从而产生“投影-后验分布“，用于进行推断。在一个$\mathbb{L}_1$ -度量下，我们证明了基于$n$独立样本的投影后验以最优速率$n^{-1/(2+d)}$收缩在真实单调回归函数附近.然后，我们构造了一个贝叶斯检验的多元单调性的基础上的后验概率的收缩邻域的类多元单调函数。我们表明，测试是普遍一致的，也就是说，贝叶斯检验的水平为零，在任何固定的替代品的权力去一。此外，我们表明，对于一个光滑的替代功能，电源去1，只要它的距离类的多元单调函数至少是一个光滑函数的估计误差的顺序。
2022-11-22 math.ST stat.TH
Consistent Bayesian Information Criterion Based on a Mixture Prior for Possibly High-Dimensional Multivariate Linear Regression Models
在多元线性回归模型的变量选择问题中，我们基于光滑分布和δ分布的混合先验，导出了新的贝叶斯信息准则。每一个都可以解释为赤池信息准则（AIC）和贝叶斯信息准则（BIC）的融合。继承了它们的渐近性质，我们的信息准则在大样本和高维渐近框架下的变量选择是一致的。在数值模拟中，基于我们的信息准则的变量选择方法在大多数情况下以高概率选择真实的变量集。
2022-08-19 math.ST stat.TH
Multivariate functional group sparse regression: functional predictor selection
在本文中，我们提出了方法的功能预测选择和光滑的功能系数估计同时在标量函数回归问题下的高维多元函数数据设置。特别是，我们开发了两种方法的功能组稀疏回归下的一般希尔伯特空间的无限维。我们证明了算法的收敛性和一致性的估计和选择（预言性质）在无限维Hilbert空间。仿真研究表明，该方法在函数系数的选择和估计方面都是有效的。功能磁共振成像（fMRI）的应用揭示了人类大脑中与ADHD和智商相关的区域。
2021-07-08 math.ST q-bio.NC stat.AP
On the joint asymptotic distribution of the restricted estimators in multivariate regression model
Jain等人的主要定理[Jain，K.，辛格，S.，和Sharma，S.（2011），Restricted estimation in multivariate measurement error regression model; JMVA，102，2，264-280]的方法建立在其完全的一般性上。也就是说，我们得到了回归系数矩阵的无约束估计和约束估计的联合渐近正态性。推导出的结果保持在假设的限制以及替代的限制序列。此外，我们建立了估计量的渐近分布风险，并比较了它们的相对性能。它是建立在附近的限制，限制估计（RE）比UE表现更好。但是当远离约束时，RE的性能比无约束估计差。
2017-06-20 math.ST stat.TH
Low rank Multivariate regression
本文研究了目标回归矩阵$A$接近低秩矩阵时的多元回归问题。我们的主要兴趣在于噪声方差未知的实际情况。我们的主要贡献是在此设置中提出了一个标准，选择一个家庭的低秩估计，并证明了非渐近预言不等式的估计。我们还调查了更容易的情况下，噪声的方差是已知的，并概述了出现在我们的标准的处罚是最小的（在某种意义上）。这些惩罚涉及到一些随机矩阵的Ky-Fan拟范数的期望值。这些数量可以很容易地在实践中评估和上限可以从随机矩阵理论的最新结果。
2011-06-22 math.ST stat.TH
Model-Free Tests for Series Correlation in Multivariate Linear Regression
误差项之间的序列相关性检验是线性回归模型诊断中的一个基本问题。著名的Durbin-Watson检验和Durbin's h检验依赖于关于响应和回归变量的某些模型假设。本文提出了适用于固定和随机设计线性回归模型的序列相关性的简单检验。检验统计量基于回归残差和设计矩阵。测试程序在不同的随机误差分布下具有稳健性。通过新建立的几种一般二次型的联合中心极限定理和delta方法，导出了所提出统计量的渐近分布。仿真结果表明，所提出的测试的良好性能。
2019-01-17 math.ST stat.TH
Convergence Analysis of Data Augmentation Algorithms for Bayesian Robust Multivariate Linear Regression with Incomplete Data
高斯混合通常用于鲁棒线性回归中的重尾误差分布建模。将多变量鲁棒线性回归模型的似然与标准的不适当先验分布相结合，产生了一个分析上难以处理的后验分布，可以使用数据增强算法对其进行采样。当响应矩阵有缺失项时，算法的收敛性的应用和分析有独特的挑战。当不完全数据具有单调结构时，给出了几何遍历的条件。在单调结构的情况下，中间插补步骤是必要的，以实现该算法。在这种情况下，我们提供了充分条件的算法是哈里斯遍历。最后，我们表明，当有一个单调的结构和中间填补是不必要的，中间填补减慢了底层蒙特卡洛马尔可夫链的收敛，而事后填补没有。提供了用于数据增强算法的R软件包。
2023-01-04 math.ST stat.CO stat.TH
Fréchet regression of multivariate distributions with nonparanormal transport
University of Michigan（密歇根大学）
本文提出了一种基于非参数化传输度量的多元分布弗雷歇回归方法，用于处理多变量分布响应的回归问题，解决了计算和统计挑战，并通过模拟和实际数据验证了方法的有效性。
2026-08-24 math.ST stat.ME stat.ML
Exponential weights in multivariate regression and a low-rankness favoring prior
我们建立了理论保证的指数加权聚合的情况下，多变量回归，即当标签向量是多维的预期预测误差。考虑了具有固定设计和有界噪声的回归模型。我们的保证所揭示的第一个新特征是，没有必要要求观测值的独立性：仅噪声分布的对称性条件就足以获得清晰的风险界。这个结果需要回归向量是有界的。第二个奇怪的发现涉及无界回归向量但独立噪声的情况。事实证明，应用指数权重的标签向量扰动的均匀噪声导致一个估计满足尖锐的预言不等式。最后的贡献是实例化的建议甲骨文不等式的问题，其中未知参数是一个矩阵。我们提出了一个低秩有利于前，并表明它导致一个估计，是最佳的弱假设下。
2018-06-25 math.ST stat.TH
Subspace decompositions for association structure learning in multivariate categorical response regression
针对多元分类响应回归中现有方法可解释性差、灵活性不足的问题，提出基于新颖子空间分解的惩罚似然方法，可识别三类关联并在张量积空间转化为线性问题，兼具理论保证与良好的可解释性和预测精度。
2024-10-06 math.ST stat.ME stat.TH
A method for variable selection in a multivariate functional linear regression model
针对多标量响应、多功能型预测变量的函数型线性模型，本文通过基展开转化为多元线性回归，并提出基于准则惩罚的变量选择方法，模拟验证其有效性。
2023-11-01 math.ST stat.TH
Variable selection in multivariate regression model for spatially dependent data
本文研究空间网格数据下多变量线性回归模型的变量选择问题，提出基于双参数准则的估计量，证明其一致性，并通过模拟验证有限样本表现。
2023-05-22 math.ST stat.TH
Unified unconditional regression for multivariate quantiles, M-quantiles and expectiles
该研究提出基于多维Huber函数的统一无条件回归方法，可对多元因变量的三类分位数建模，拓展了已有重中心化影响函数回归框架，证明了估计量渐近性质，给出调参选择方法，并通过模拟和真实数据验证了有效性。
2023-08-01 math.ST stat.ME stat.TH
Multivariate quantiles and multiple-output regression quantiles: From $L_1$ optimization to halfspace depth
基于Koenker和Bassett的传统回归分位数的方向版本，引入了一个新的多元分位数概念，用于多元位置和多输出回归问题。在他们的经验版本中，这些分位数可以通过线性规划技术有效地计算。建立了一致性、Bahadur表示和渐近正态性结果。最重要的是，由这些分位数生成的轮廓与经典的半空间深度轮廓相一致，与Tukey的名字相关联。这种关系不仅允许通过参数线性规划进行有效的深度等值线计算，而且还允许从分位数向深度全域转移诸如Bahadur表示的渐近结果。最后，线性规划对偶开辟了一条道路，有前途的发展，在深度相关的多元秩为基础的推理。
2010-02-24 math.ST stat.TH
Large and moderate deviations principles for kernel estimators of the multivariate regression
本文证明了多维情况下回归的Nadaraya-Watson估计量和半递归核估计量的大偏差原理。在适当的条件下，我们证明了该速率函数是一个好的速率函数。因此，我们推广的结果已经在一维情况下的Nadaraya-Watson估计。此外，我们还给出了这两个估计量的中偏差原理。结果表明，半递归估计的中偏差原理得到的率函数大于Nadaraya-Watson估计的率函数。
2007-03-12 math.ST stat.TH
Confidence Corridors for Multivariate Generalized Quantile Regression
研究了多元非参数广义分位数回归函数的置信走廊构造问题。这种结构是基于一个合适的非参数估计和真正的功能感兴趣的一系列的近似步骤，包括Bahadur表示，一个新的强逼近定理和指数尾不等式高斯随机场之间的最大偏差的渐近结果。作为一个副产品，我们还获得了经典均值回归中的回归函数的置信走廊。针对渐近置信走廊覆盖概率误差缓慢减小导致小样本量覆盖率过低的问题，基于Bahadur表示的首项设计了一个简单的Bootstrap过程.这两个程序的有限样本性质进行了研究，通过模拟研究，它表明，自举程序大大优于渐近带的覆盖精度。最后，自助信任走廊被用来研究国家支持工作示范，这是一个随机的就业促进计划在20世纪70年代推出的有效性。本文有补充材料。
2015-02-02 math.ST stat.ME stat.TH
From Halfspace M-depth to Multiple-output Expectile Regression
尽管在计量经济学、风险管理和极值理论等领域对Newey和Powell（1987）的期望值概念重新产生了兴趣，但不幸的是，期望回归--或者更一般地说，M分位数回归--仍然局限于单输出问题。为了改善这一点，我们引入超平面值的多元M-分位数，表现出很强的优势，例如在等方差方面，在文献中的各种点值的多元M-分位数。像他们的竞争对手一样，我们的多元M分位数本质上是方向性的，并且在考虑所有方向时提供中心区域。这些区域定义了一个新的统计深度，半空间M-深度，其最深点，在预期的情况下，是均值向量。值得注意的是，半空间M-深度也可以通过在著名的Tukey（1975）半空间深度中用M-分位数离群度代替标准分位数离群度来获得，这支持了我们的多元M-分位数概念是自然概念的主张。我们彻底调查拟议的多元M-分位数，半空间M-深度，和相应的区域的属性。由于我们最初的动机是定义多输出期望回归方法，我们进一步专注于期望的情况。我们特别表明，预期的深度比Tukey深度更平滑，并且具有有趣的单调性特性，对于计算目的来说非常有前途。不同于他们的分位数类似物，建议的多元预期也满足多元风险措施的一致性公理。最后，我们表明，我们的多元预期确实允许执行多输出预期回归，这是说明了模拟和真实数据。
2019-05-29 math.ST stat.TH
Bayesian Linear Regression for Multivariate Responses Under Group Sparsity
我们研究了具有相关响应的贝叶斯高维多元线性回归模型的频率论性质。预测因子被分成许多组，并且组结构是预先确定的。该模型的两个特点是独特的：（i）组稀疏性施加在预测。(ii)协方差阵是未知的，并且其维数也可以很高。我们选择一个产品的独立尖峰和板条先验的回归系数和一个新的先验的协方差阵的基础上，其特征分解。每个钉板先验是零处的点质量和涉及$\ell_{2,1}$ -范数的多元密度的混合。我们首先得到后验收缩率，即具有高后验概率的模型的有效维数的界。然后，我们表明，多元回归系数可以在一定的兼容性条件下恢复。最后，我们量化的不确定性的回归系数与频率论的有效性，通过Bernstein-von Mises型定理。结果导致贝叶斯方法的选择一致性。我们推导出后验收缩率使用的一般理论，通过构建一个合适的测试，从第一原则使用矩界的某些似然比。这导致了关于1/2阶平均雷尼发散的真理的后验集中。这种获得后收缩率所需测试的技术在许多其他问题中可能是有用的。
2019-06-11 math.ST stat.TH
Generalized ridge estimator and model selection criterion in multivariate linear regression
在多元线性回归中，基于广义岭估计在平方风险和Kullback-Leibler风险下优于极大似然估计，提出了新的模型选择准则.我们的模型选择标准有以下最喜欢的属性：一致性，无偏性，一致最小方差。在渐近结构$\frac{p}{n}\to c$下证明了一致性，其中$n$是样本量，$p$是响应变量的参数维数。特别是，我们提出的估计类占主导地位的平方风险下的最大似然估计，即使模型不包括真正的模型。实验结果表明，我们的模型选择标准的风险是小于的最大似然估计的基础上，我们提出的标准指定的真实模型在一定条件下。
2016-04-07 math.ST stat.TH
Supremum Norm Posterior Contraction and Credible Sets for Nonparametric Multivariate Regression
在误差方差未知的非参数多元回归中，研究了估计回归函数f及其混合偏导数的贝叶斯方法的渐近性质.我们使用一个随机系列的张量积的B-样条与正规基系数作为先验的f，和误差方差估计使用经验贝叶斯方法或被赋予一个合适的先验的分层贝叶斯方法。我们建立了f及其混合偏导数的点态、L2和上确界范数后验压缩率，并证明了它们与极大极小压缩率相一致。我们的结果甚至覆盖了各向异性的情况，其中真正的回归函数在不同方向上可能具有不同的光滑度。利用收敛界，我们证明了f及其混合偏导数的点态、L2和上确界范数可信集具有最优的频率覆盖。同时，在B样条的张量积方面也得到了一些新的结果。
2015-09-24 math.ST stat.TH
Distribution-on-Distribution Regression with Wasserstein Metric: Multivariate Gaussian Case
针对多元高斯分布间的回归问题，提出基于Wasserstein度量的线性回归模型，利用最优传输解析解简化实现，并在模拟和天气数据中验证了优越性。
2024-02-08 math.ST stat.ME stat.TH
Multivariate Distributionally Robust Convex Regression under Absolute Error Loss
本文提出了一种新的非参数多维凸回归估计，该估计被设计为对经验测度中的对抗性扰动具有鲁棒性。我们在凸函数上最小化绝对回归误差的最大值（在经验测度的Wasserstein扰动下）。内部最大化以封闭形式求解，导致正则化惩罚涉及梯度的范数。我们证明了我们的估计的一致性和收敛速率的顺序$ \widetilde{O}\left( n^{-1/d}\right) $，匹配的边界的基础上平方损失最小化的替代估计。与现有的所有结果相反，我们的收敛速度保持不强加的基础域上的紧性，并没有一个先验界的基础凸函数或其梯度范数。
2020-07-26 math.ST stat.TH
Inference for Multivariate Regression Model based on synthetic data generated under Fixed-Posterior Predictive Sampling: comparison with Plug-in Sampling
作者推导出基于似然的精确推断方法，用于多变量回归模型，用于通过后验预测采样（PPS）生成的单插补合成数据，以及用于通过新提出的采样方法生成的多插补合成数据，作者称之为固定后验预测采样（FPPS）。在单重插补的情况下，我们提出的FPPS方法与通常的后验预测抽样（PPS）方法一致，从而填补了现有文献中的空白，其中推理方法仅适用于多重插补。模拟研究比较所获得的结果与那些插件抽样方法下的确切的测试程序，获得相同的作者。隐私的措施进行了讨论，并与插件抽样方法得出的措施进行比较。使用美国\讨论了2000年当前人口调查数据。
2016-07-21 math.ST stat.TH
Joint Mean and Correlation Regression Models for Multivariate Data
本文提出一种联合均值与相关性回归模型，可同时回归多元响应的均值与相关性，并开发了联合估计方程和迭代估计程序，模拟验证了其有限样本性能，应用于苏格兰38种步甲虫数据，揭示了环境协变量对物种丰度的影响及体长对物种间相关性的驱动作用。
2025-02-27 math.ST stat.AP stat.ME
Support union recovery in high-dimensional multivariate regression
在多元回归中，$K$维响应向量根据一组常见的$p$协变量进行回归，回归系数矩阵为$B^*\in\mathbb{R}^{p\times K}$。我们研究的多元组拉索，其中块正则化的基础上的$\ell_1/\ell_2$规范用于支持工会恢复，或恢复的一组$s$行的$B^*$是非零的行为。在高维尺度下，我们表明，多变量组Lasso表现出一个阈值的恢复的确切的行模式与高概率的随机设计和噪声，指定的样本复杂性参数$θ(n,p,s):=n/[2ψ(B^*)\log(p-s)]$。这里，$n$是样本量，而$ψ(B^*)$是稀疏重叠函数，测量构成模型的$K$ -回归系数向量的稀疏和重叠的组合。我们证明了多变量组拉索成功的问题序列$(n,p,s)$，使$θ(n,p,s)$超过一个临界水平$θ_u$，并失败的序列，使$θ(n,p,s)$低于一个临界水平$θ_{\ell}$。对于标准高斯系综的特殊情况，我们表明，$θ_{\ell}=θ_u$，使表征是尖锐的。稀疏重叠函数$ψ(B^*)$表明，如果设计在活动行上不相关，则多元回归的$\ell_1/\ell_2$正则化相对于普通Lasso方法永远不会损害性能，并且当系数向量适当正交时，可以在样本复杂性方面产生实质性改进（高达$K$的因子）。对于更一般的设计，普通Lasso有可能优于多变量组Lasso。我们补充我们的分析与模拟，证明我们的理论结果的尖锐性，即使…
2011-03-07 math.ST stat.ML stat.TH
