The Asymptotics of Optimal Designs for Polynomial Regression
我们给出了一个紧凑的（可能是复杂的）设计空间上的D-最优（等效G-最优）设计的渐近性。
2011-12-16 stat.ME
A sufficient condition for penalized polynomial regression to be invariant to translations of the predictor variables
虽然转换预测变量的编码不会改变多项式最小二乘回归的拟合，但惩罚的多项式回归可能会受到影响。结果上的条款可以被惩罚，以保持不变性的翻译的编码已较早公布。在这个简短的说明中，提出了一个相应命题的推广，这需要一个更精确的数学框架。
2020-02-11 stat.ME
Linear Regression: Inference Based on Cluster Estimates
Indian Statistical Institute（印度统计研究所）
本文提出了一种针对聚类数据中回归系数的新型估计器，并开发了检验参数稳定性的方法，以提高在随机系数模型中的推断可靠性。
2026-02-04 stat.ME
Polynomial spline regression: Theory and Application
为了处理预测变量和响应之间的非线性关系，我们可以使用变换使数据看起来是线性的或近似线性的。然而，在实践中，转换方法可能是无效的，并且使用可以自动处理非线性行为的灵活回归技术可能更有效。一种这样的方法是多项式样条（PS）回归。由于可能的样条回归模型的数量很多，因此需要有效的策略来选择最佳模型。本文从理论和实践两个方面研究了不同的样条回归模型（基于截断幂的多项式样条、B样条和P样条）。由于样条回归理论丰富，本文着重介绍了基本概念。特别是，我们专注于使用交叉验证（CV）而不是解释的预测，因为多项式样条解释起来很有挑战性。我们比较了不同的PS模型的基础上，一个真实的数据集，并得出结论，P-样条模型是最好的。
2022-12-30 stat.ME
Divide and Conquer in Non-standard Problems and the Super-efficiency Phenomenon
我们研究了如何分而治之的原则--分区的可用数据到子样本，从每个子样本计算估计，并结合这些适当地形成最终的估计--在非标准的问题，收敛速度通常慢于$\sqrt{n}$和极限分布是非高斯，特别强调单调回归函数的最小二乘估计（及其逆）。我们发现，通过对互斥子样本的非标准估计进行平均得到的合并估计量在逐点推断的意义上优于基于整个样本的非标准估计量。我们还表明，在适当的条件下，如果允许子样本的数量以适当的速率增加，合并估计量是渐近正态分布的方差是经验估计的子样本水平的估计。此外，在单调函数估计的背景下，我们表明，这种逐点效率的增益是有代价的-合并估计的性能，在统一的意义上（最大风险）超过一类模型的子样本的数量增加，导致一个版本的超效率现象。在这个过程中，我们开发的分析结果的顺序的偏差在保序回归，这是独立的利益。
2016-11-17 math.ST stat.ME stat.TH
Improved Precision in Estimating Average Treatment Effects
平均处理效应（ATE）是实验性治疗干预有效性的全球指标。经典的估计方法要么忽略相关协变量，要么没有充分利用它们。此外，过去的工作认为协变量是固定的。我们提出了一种提高ATE估计精度的方法：通过回归估计治疗和对照反应，并将组间信息合并以产生渐近无偏估计;随后我们证明了结果背后的随机X范式。推导出了标准误，并与传统的估计量进行了比较.详细说明了回归估计的适用条件，并给出了实际数据的验证。
2013-11-01 stat.ME
An algorithm for calculating D-optimal designs for polynomial regression with prior information and its appilications
为了进行有效的统计实验，需要进行最优设计。一些模型的D-最优设计是用典范矩计算的。另一方面，可积系统是其解可以具体写出的动力系统。本文讨论了具有先验信息的多项式回归模型。为了计算这些模型的D-最优设计，使用了正则矩和离散可积系统之间的有用关系。利用正则矩和离散可积系统，提出了一种计算这类模型的D-最优设计的算法。最后给出了该算法的一些应用实例。
2012-11-04 stat.ME
Bayesian Environment Invariant Regression
Fudan University（复旦大学）；University of Pennsylvania（宾夕法尼亚大学）
本文提出一种贝叶斯框架，通过分离共享响应机制与环境特定关联，识别环境不变的预测变量。方法利用异质性进行结构学习，并通过竞争性尖峰- slab先验强制预测变量在不变和非不变效应间竞争。
2026-04-28 stat.ME
Machine Learning Panel Data Regressions with Heavy-tailed Dependent Data: Theory and Application
本文介绍了结构化机器学习回归的重尾相关的面板数据可能在不同的频率采样。我们专注于稀疏群LASSO正则化。这种类型的正则化可以利用混合频率时间序列面板数据结构并提高估计的质量。我们得到了合并和固定效应稀疏组LASSO面板数据估计的预言不等式，认识到金融和经济数据可以有胖尾巴。为此，我们利用一个新的N-Nagaev浓度不等式的面板数据组成的重尾$τ$混合过程。
2021-11-22 econ.EM math.ST stat.AP
Structured Semiparametric Estimation of Average Treatment Effects with Treatment-Specific Non-Gaussian Error Distributions
Ewha Womans University（梨花女子大学）
本文研究了在半参数回归模型中使用目标最大似然估计（TMLE）估计平均治疗效应的问题，其中误差分布未指定，但需满足温和的正则性条件和与治疗及基线协变量独立。研究推导了因果效率界、半参数效率下限和针对平均治疗效应的靶向步骤，并通过模拟验证了该方法在误差分布重尾或偏斜时的优越性。
2026-08-06 stat.ME
Federated mixed effects logistic regression based on one-time shared summary statistics
针对多机构数据隐私保护下的混合效应逻辑回归估计难题，提出仅需一次性共享汇总统计量的联邦学习策略，通过伪数据替代实现高效、低基础设施要求且兼顾异质性的模型估计，效果不亚于合并个体数据的方法。
2024-11-06 stat.ME
Cross Sectional Regression with Cluster Dependence: Inference based on Averaging
本文研究了聚类依赖下传统OLS估计量的不一致性，提出基于数据平均的新估计量$\hatβ_A$，证明其具有一致性、更高效率，并能在经典测量误差下避免使用工具变量。
2025-01-30 stat.ME
Robust estimation for functional quadratic regression models
本文针对函数型二次回归模型中的异常值问题，提出结合稳健主方向和基于有界损失函数的稳健回归估计方法，并通过数值模拟和实际数据验证其有效性。
2023-05-29 stat.ME
Bayesian Simultaneous Credible Bands for Polynomial Regression
The University of Manchester（曼彻斯特大学）；University of Southampton（南安普顿大学）
提出一种在有限协变量区间上构建多项式回归曲线贝叶斯同时可信带的统一框架，开发了基于模拟的临界常数确定方法，并证明其渐近等价于频率学同时置信带，在剂量反应研究中用于确定最小有效剂量。
2026-06-29 stat.ME
T-optimal designs for multi-factor polynomial regression models via a semidefinite relaxation method
研究了判别多因子多项式回归模型的T-最优试验设计问题，其中设计空间由多项式不等式定义，回归参数约束于给定的凸集.我们提出的最优性准则被制定为一个凸优化问题的矩锥约束。当回归模型为单因子时，利用矩锥约束的精确半定表示可得到等价的半定规划。当模型中有两个或两个以上的因素时，我们采用矩松弛技术，并通过一个半定可表示的外近似层次近似矩锥约束。当松弛族收敛时，从最优矩阵可得到最优判别设计，并通过等价定理证明其最优性。用几个例子说明了这种方法。
2020-02-02 stat.CO stat.ME
Differential Equation-Constrained Exponential-Type Local Polynomial Regression Under Model Misspecification
The University of British Columbia Okanagan（不列颠哥伦比亚大学奥肯那根分校）
研究模型误设问题，提出受微分方程约束的回归框架，利用局部多项式回归技术，聚焦局部指数增长模型，通过模拟研究比较不同估计量在两种误设场景下的表现，评估模型稳健性。
2026-07-29 stat.CO stat.ME
Uniform Bahadur Representation for Local Polynomial Estimates of M-Regression and Its Application to The Additive Model
本文利用局部多项式拟合估计强混合平稳过程$\{(Y_{i},\underline{X}_{i})\}$的非参数M-回归函数.我们建立了回归函数及其导数估计量的Bahadur表示的强一致相合率。这些结果是基本的统计推断和应用程序，涉及插入到其他功能的估计，需要一些控制高阶项。我们将我们的结果应用到可加M-回归模型的估计。
2007-11-29 math.ST stat.ME stat.TH
Sufficient Conditions for a Linear Estimator to be a Local Polynomial Regression
证明了任何满足矩条件的线性估计直到$p$阶等价于局部多项式回归的阶为$p$与一些非负的权重函数当且仅当内核最多有$p$的符号变化。如果数据点关于估计点对称放置，则线性加权函数等效于标准二次加权函数。
2018-03-16 math.ST stat.ME stat.TH
Local polynomial regression and variable selection
提出了一种将变量选择引入局部多项式回归的方法。这可以通过在与被判断为不重要的那些变量相对应的方向上扩展带宽来提高回归的精度。它还通过突出显示这些变量冗余的区域来增加我们对数据集的理解。该方法有可能实现完全删除变量，以及执行部分删除时，变量冗余只适用于特定区域的数据。我们定义了一个非参数的预言属性，并表明这是超过我们的方法下的渐近分析满意。通过模拟和真实数据的数值例子证明了该方法的实用性。
2010-06-16 math.ST stat.ME stat.TH
Optimal Boundary Kernels and Weightings for Local Polynomial Regression
核平滑器被认为是在区间的边界附近。最小化的预期均方误差的核。这些核等价于在局部多项式回归中使用线性加权函数。它表明，任何核估计，满足矩条件的顺序$m$是等价于一个局部多项式回归的顺序$m$与一些非负的权重函数当且仅当内核有最多$m$的符号变化。提出了一种快速算法，用于计算边界区域中任意位置数据点的核估计。
2018-03-25 eess.SP math.ST physics.data-an
Local Quasi-Exponential Growth Models: Kernel Differential Equation Regression and Mouse Tumor Growth Data
The University of British Columbia Okanagan（不列颠哥伦比亚大学奥肯那根校区）
研究针对局部多项式回归处理稀疏数据的挑战，采用微分方程约束回归方法用于局部拟指数增长模型，通过纳入一阶微分方程扩展其稀疏设计能力，减少偏差和方差，经小鼠肿瘤数据等验证该方法有效性。
2026-07-29 stat.CO stat.ME
Robust Local Polynomial Regression with Similarity Kernels
Shulman
针对传统局部多项式回归对异常值敏感的问题，提出一种结合响应变量信息的条件密度核加权方法，通过局部密度估计降低异常值影响，在保持与标准LOWESS竞争力同时降低经验偏差。
2026-06-17 cs.LG stat.ME stat.ML
Propagating moments in probabilistic graphical models with polynomial regression forms for decision support systems
本文提出一种基于多项式回归和矩传播的消息传递算法，用于概率图模型中的精确期望效用计算，可扩展应用于能源规划与实时临床决策支持。
2024-05-24 stat.AP stat.ME
Shape-constrained Estimation in Functional Regression with Bernstein Polynomials
Shape restrictions on functional regression coefficients such as non-negativity, monotonicity, convexity or concavity are often available in the form of a prior knowledge or required to maintain a structural consistency in functional regression models. A new estimation method is developed in shape-constrained functional regression models using Bernstein polynomials. Specifically, estimation approaches from nonparametric regression are extended to functional data, properly accounting for shape-constraints in a large class of functional regression models such as scalar-on-function regression (SO…
2022-09-09 math.ST stat.AP stat.ME
Proposal for the Application of Fractional Operators in Polynomial Regression Models to Enhance the Determination Coefficient $R^2$ on Unseen Data
针对多项式回归模型易过拟合导致未见数据$R^2$为负的问题，提出引入分数阶算子构建分数阶回归模型以缓解过拟合、提升未见数据决定系数，并给出构建方法与两类算子的应用示例。
2025-03-20 cs.NA math.NA math.ST
Local-Polynomial Estimation for Multivariate Regression Discontinuity Designs
Institute of Economic Research Hitotsubashi University（一桥大学经济研究所）；Graduate School of Economics and Management, Tohoku University（东北大学经济管理学院）；Center for Spatial Information Science, The University of Tokyo（东京大学空间信息科学中心）
本文提出了一种多变量回归不连续设计的局部线性估计方法，用于捕捉边界处的异质性治疗效应，并在实证研究中展示了其更小的误差和更短的置信区间。
2026-01-23 econ.EM stat.AP stat.ME
A Goodness-of-Fit Test for Mixed-Effects Logistic Regression
University of California, San Francisco（加州大学旧金山分校）
本文提出一种针对混合效应逻辑回归模型的拟合优度检验方法，通过分组Wald检验检测固定效应的不规范性，适用于稀疏聚类数据，且在小样本情况下表现良好。
2026-04-21 stat.AP stat.ME
Bayesian Polynomial Regression Models to Fit Multiple Genetic Models for Quantitative Traits
我们提出了一个连贯的贝叶斯框架选择最有可能的模型，从五个遗传模型（基因型，添加剂，显性，共显性和隐性）通常用于遗传关联研究。该方法使用遗传数据的多项式参数化同时拟合五个模型并节省计算。我们提供了一个封闭形式的表达的边缘似然正态分布的数据，并评估所提出的方法和现有的方法，通过模拟和真实的全基因组数据集的性能。
2015-04-21 math.ST stat.ME stat.TH
The leaky integrator that could: Or recursive polynomial regression for online signal analysis
通过最小化加权平方误差（即残差）的和来将局部多项式模型拟合到均匀采样的观测或测量的噪声序列（即回归）可以用于设计用于各种信号分析问题的数字滤波器，例如生物医学、金融和航空航天应用中的检测、分类和跟踪。此外，这种滤波器的递归实现，使用所谓的泄漏积分器的网络，产生简单的数字组件，具有低计算复杂度和无限脉冲响应（IIR），是理想的嵌入式在线传感系统与高数据速率。目标跟踪、脉冲边缘检测、峰值检测和异常/变化检测在本教程中被视为说明性示例。Erlang加权多项式回归提供了一种设计框架，在该框架内，可以直观地平衡状态估计器（例如，偏置误差与随机误差）和IIR平滑器（例如，频率隔离与时间定位）的各种设计权衡。使用确定指数尾部的衰减率的平滑参数和可以用于对最近的数据进行折扣的形状参数来配置Erlang权重，使得更大的相对重点放在过去的时间间隔上。在莫里森1969年的序贯平滑和预测论文中，详细描述了指数权重（即零形状参数的情况）和与该权重正交的拉盖尔多项式;然而，更一般的厄兰权重和由此产生的相关拉盖尔多项式没有被考虑，也没有在其他地方详细介绍。因此，本教程的目的之一是解释如何使用Erlang权重来塑造和改善递归回归滤波器的响应。
2022-12-13 eess.SP stat.ME
Optimal designs for rational function regression
我们考虑最优非序贯设计的一大类（线性和非线性）回归模型，涉及多项式和有理函数的异方差噪声也给出了一个多项式或有理权重函数。所提出的方法对待D-，E-，A-和$Φ_p$ -最优设计在一个统一的方式，并产生一个多项式的零点是最优近似设计的支持点，推广了一些以前已知的结果相同的味道。该方法是基于一个数学优化模型，可以将各种标准的最优性，并可以有效地解决了建立良好的数值优化方法。与以往针对类似设计问题提出的基于优化的方法相比，它也具有算法效率的理论保证;事实上，本文中考虑的所有数值示例的运行时间可以忽略不计。在一个涉及高次多项式的例子中证明了该方法的稳定性。讨论线性模型后，应用程序发现局部最优设计的非线性回归模型，涉及合理的功能，然后扩展到稳健回归设计，和三角回归。作为推论，最小支持的最优设计的支持集的大小上界也found. The方法是相当实际的重要性，例如，与潜在的影响设计软件开发。对主要优化模型的最优性条件的进一步研究也可能产生新的理论见解。
2011-08-29 stat.CO stat.ME
Sequentially Updated Residuals and Detection of Stationary Errors in Polynomial Regression Models
时间序列是表现为随机游动还是平稳过程的问题是一个重要而微妙的问题，特别是在金融统计、计量经济学和工程学中。研究了多项式回归模型中误差项不再表现为随机游动而是表现为平稳过程的序贯检测问题。我们提供了由控制图给出的监控过程的渐近分布理论，即，停时，其与根据顺序更新的残差计算的公知单位根检验统计量相关。本文给出了相应随机过程的泛函中心极限定理，它蕴涵了控制图的中心极限定理。有限样本的性质进行了研究模拟研究。
2010-01-12 math.PR math.ST stat.ME
Differential Equation-Constrained Local Regression for Data with Sparse Design
本文提出一种利用一阶微分方程约束的局部常数回归方法，以改善稀疏数据区域的估计性能，并通过模拟和肿瘤数据验证其降低偏差与方差的效果。
2025-07-08 stat.CO stat.ME
Quick and Simple Kernel Differential Equation Regression Estimators for Data with Sparse Design
针对稀疏设计下局部多项式回归失效的问题，提出融合一阶微分方程信息的非参数核回归估计方法，并通过肿瘤数据与多情景仿真验证其偏差、方差及模型表现。
2024-06-14 stat.AP stat.ME
Bagged Polynomial Regression and Neural Networks
Department of Agricultural and Resource Economics, UC Davis（加州大学戴维斯分校农业与资源经济学系）；Stanford Graduate School of Business（斯坦福商学院）
针对高维预测问题，提出基于随机投影的袋装多项式回归（BPR），在保持与神经网络相当精度的同时提供可解释性和诊断工具。
2026-06-03 cs.LG stat.ME stat.ML
Generalized Local Polynomial Regression with Decomposed Context-Aware Kernels
本文提出GC-LPR框架，通过分离拟合坐标与加权上下文，解决传统局部多项式回归在非欧几里得结构中的局限，实现对复杂域的建模同时保留欧几里得空间的可解释性。
2026-04-28 math.ST stat.ME stat.TH
A new approach to locally adaptive polynomial regression
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Tata Institute of Fundamental Research（塔塔基础研究 Institute）；Indian Statistical Institute（印度统计研究所）
针对非参数回归中自适应带宽选择的核心挑战，提出基于$\u2113_2$范数区间投影准则的新带宽选择流程，推导了非渐近风险界，证明其可近乎最优地适应局部Hölder指数，为该经典问题提供新视角。
2025-05-20 cs.LG math.PR math.ST
Outrigger local polynomial regression
Statistical Laboratory, University of Cambridge（剑桥大学统计实验室）
支撑杆局部多项式回归通过改进估计方法，在不同误差分布下实现分布适应性，并证明其在Hölder类上为minimax最优。
2026-03-11 math.ST stat.ME stat.ML
Approximate Optimal Designs for Multivariate Polynomial Regression
Laboratoire de Mathématiques d’Orsay Univ. Paris-Sud, CNRS, Université Paris-Saclay（奥赛数学实验室 巴黎第十一大学 法国国家科学研究中心 巴黎萨克雷大学）；Institut de Mathématiques de Toulouse Univ. Paul Sabatier, CNRS（图卢兹数学研究所 保罗·萨巴蒂尔大学 法国国家科学研究中心）；Laboratoire d’Analyse et d’Architecture des Systèmes Université de Toulouse, CNRS（系统分析与架构实验室 图卢兹大学 法国国家科学研究中心）
本文提出利用半定规划的矩-平方和层次结构，计算多变量多项式回归的近似最优设计，通过半定规划对偶理论恢复设计几何，并证明该层次结构随阶数增加收敛到近似最优解，同时提供双证明确保有限收敛性。
2017-10-25 cs.IT cs.NA math.IT
