Isotonic Regression Discontinuity Designs
本文研究了保序回归在边界点的估计和推断，这是单调回归不连续设计分析中特别感兴趣和需要的一个对象。我们证明了保序回归在这种情况下是不一致的，并得到了边界校正估计量的渐近分布。有趣的是，边界校正估计量可以自举，而无需子采样或额外的非参数平滑，这不是内点的情况。蒙特卡罗实验表明，形状限制可以显着改善有限样本的性能的非限制估计。最后，我们应用保序回归不连续设计来估计美国众议院选举中在职的因果效应。
2020-12-19 econ.EM math.ST stat.AP
Isotonic Distributional Regression
保序分布回归（IDR）是一种用于估计序约束下条件分布的强有力的非参数方法。简而言之，IDR学习经过校准的条件分布，并且同时相对于相关损失函数的综合类是最优的，服从协变量空间上的偏序方面的保序性约束。非参数保序分位数回归和非参数保序二元回归作为特例出现。对于预测，我们提出了一种插值方法，概括了现有的规格下的池相邻违规者算法。我们建议使用IDR作为概率预测问题中的通用基准技术，因为它不涉及任何参数调整或实现选择，除了选择协变量空间上的偏序。该方法可以与子样本聚集相结合，具有更平滑的回归函数和计算效率增益的优点。在模拟研究中，我们比较的连续排名概率得分（CRPS）和$L_2$估计误差，这是密切相关的分布回归的方法。在一个案例研究的原始和后处理的定量降水预报从一个领先的数值天气预报系统，IDR是竞争力的最先进的技术。
2021-09-28 math.ST stat.ME stat.TH
On Integrated $L^{1}$ Convergence Rate of an Isotonic Regression Estimator for Multivariate Observations
我们考虑一个一般的单调回归估计，我们允许独立和依赖的回归。我们提出了一个修改的经典保序最小二乘估计，并建立其收敛速率的综合$L_1$ -损失函数。该方法捕捉数据的形状，而不假设回归函数的可加性或参数形式。此外，平滑的程度是自动选择的，不需要辅助调谐的理论分析。一些模拟和两个真实的数据插图补充研究建议的估计。
2018-05-03 math.ST stat.ME stat.TH
LASSO ISOtone for High Dimensional Additive Isotonic Regression
加性保序回归试图确定多维观测变量与响应之间的关系，其约束条件是估计值是单调递增的单变量分量效应的加性和。在这篇文章中，我们提出了一种新的方法，这种回归称为LASSO Isotone（LISO）。LISO将稀疏线性建模的思想应用于加性保序回归。因此，它是可行的，在许多情况下与高维预测变量，其中选择显着与不显着的变量是必需的。我们提出了一种算法，涉及修改的后拟合算法CPAV。我们给出了一个数值收敛的结果，并通过模拟来检验它的一些性质。我们还提出了一些可能的扩展，以提高性能，并允许计算时，单调性的方向是未知的。
2010-06-15 stat.CO stat.ME stat.ML
An analysis of binary isotonic regression: degrees of freedom and implications for calibration
University of Chicago（芝加哥大学）；University of Pennsylvania（宾夕法尼亚大学）；University of Michigan（密歇根大学）
本研究分析二元保序回归的自由度，推导改进的精确自由度界，得出首个无分布的保序回归预期校准误差保证，为概率预测校准提供理论支撑。
2026-07-31 cs.LG stat.ME stat.ML
Stratification of uncertainties recalibrated by isotonic regression and its impact on calibration error statistics
研究指出保序回归会使回归预测不确定性产生同值分层，导致基于等频分箱的 ENCE 等校准统计量受数据顺序和排序决胜规则影响，并通过示例说明其诊断偏差。
2023-06-08 physics.chem-ph physics.data-an stat.ME
Isotonic Recalibration under a Low Signal-to-Noise Ratio
ETH Zurich（苏黎世联邦理工学院）；University of Bern（伯尔尼大学）
保险定价系统应具有自动校准特性，以确保不同价格组群之间不存在系统性交叉融资。通常，回归模型不会自动校准。我们建议应用保序重新校准到一个给定的回归模型，以确保自动校准。我们的主要结果证明，在低信噪比下，这个保序重新校准步骤导致可解释的定价系统，因为由此产生的保序重新校准的回归函数具有较低的复杂性。
2023-01-06 cs.LG math.ST q-fin.CP
Efficient regularized isotonic regression with application to gene--gene interaction search
Tel Aviv University（特拉维夫大学）
提出基于递归划分的正则化保序回归算法IRP，通过控制模型复杂度解决高维过拟合问题，并应用于基因-基因交互搜索。
2012-03-20 cs.SY eess.SY math.OC
Bayesian isotonic logistic regression via constrained splines: an application to estimating the serve advantage in professional tennis
在职业网球比赛中，发球方往往具有先发优势。事实上，大多数分数都是由发球者赢得的，这使得发球成为这项运动中最重要的元素之一。在本文中，我们专注于发球优势的作用，赢得一个点作为一个函数的集会长度。本文提出了一个关于发球得分概率的贝叶斯保序逻辑斯谛回归模型。特别是，我们通过B样条基函数的线性组合来分解获胜概率的logit，并具有运动员特定的基函数系数。此外，我们通过对样条系数施加约束，确保发球优势随拉力赛长度而减小。我们还考虑了每个球员的反弹能力，并研究了不同类型的法院可能会影响球员的反弹能力。我们将我们的方法应用于大满贯单打比赛数据集。
2019-08-29 stat.AP stat.ME
Isotonic regression for metallic microstructure data: estimation and testing under order restrictions
研究金属机械性能的主要决定因素并不是一项简单的任务。已知的物理启发的定性关系之间的2D微观结构特征和3D机械性能可以作为研究的出发点。保序回归允许考虑排序关系，并在基本假设实际成立时产生更有效和更准确的结果。本文的主要目标是在材料科学应用程序的启发模型中测试顺序关系。统计估计过程中考虑三种不同的情况下，根据知识的方差：已知的方差比，完全未知的方差，方差的顺序限制。在最后两种情况下，新的似然比检验。在原假设下，参数和非参数Bootstrap方法都被用来求出检验统计量的分布。最后，应用几何必要位错和观察到的显微组织沉淀的数量之间的关系。
2020-02-03 stat.AP stat.ME
Quantifying uncertainty in the numerical integration of evolution equations based on Bayesian isotonic regression
本文提出一种新的贝叶斯框架，通过引入收缩先验、变量变换和单调性约束，将贝叶斯等渗回归技术应用于常微分方程数值解的离散化误差方差估计，并利用高斯混合模型开发了高效的吉布斯采样算法。
2024-11-13 cs.NA math.NA physics.data-an
Isotonic subgroup selection
针对识别回归函数超阈值子集的子群选择问题，提出基于鞅检验与多重检验的多变量保序回归方法，满足非渐近一致第一类错误率保证且功效达极小极大最优速率，并在R包ISS中实现。
2023-06-28 math.ST stat.ME stat.TH
A joint estimation approach for monotonic regression functions in general dimensions
本文提出一种一般维度下联合估计多个单调回归函数的方法，通过基于统计检验的成对惩罚实现跨数据集信息借用，模拟和公共卫生数据验证了其估计效率与稳健性。
2023-05-28 stat.ME
Two-Stage Plans for Estimating a Threshold Value of a Regression Function
本研究探讨两阶段计划的基础上，在一个给定的点估计逆回归函数的非参数程序。具体地，在阶段一使用保序回归以获得初始估计，随后在阶段二在该估计附近进行另一轮保序回归。结果表明，这样的两个阶段的计划加快收敛速度的一个阶段的程序，并优于现有的两阶段的程序，使用局部参数近似在第二阶段时，可用的预算是温和的和/或回归函数是“病态”。Wald和似然比类型的置信区间的阈值的兴趣进行了研究，后者是推荐的应用程序中，由于其简单性和鲁棒性。通过全面的模拟研究和汽车燃油效率数据的应用程序来说明所开发的计划。
2013-04-16 stat.ME
From Isotonic to Lipschitz Regression: A New Interpolative Perspective on Shape-restricted Estimation
Carnegie Mellon University（卡内基梅隆大学）；University of California, Santa Barbara（加州大学圣塔芭芭拉分校）
本文提出了一种新的插值视角，将非参数光滑性和形状限制估计连接起来，通过将利普希茨函数分解为单调函数和线性函数，提出了一种新的估计方法，具有良好的方法论、理论和计算性质，并在异方差和厚尾误差下提供了收敛保证。
2026-05-20 math.ST stat.ME stat.TH
Generalized Asymptotic Limit Theory and Inference for Isotonic Regression
University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
研究保序回归问题，引入真实函数局部行为的一般条件，揭示更丰富渐近分布族。因估计干扰参数，经典框架推断有挑战。利用新极限分布对称性，使HulC程序产生有效置信区间，框架让推断在特定函数类上一致有效。
2026-07-20 math.ST stat.ME stat.TH
Isotonic regression with unknown permutations: Statistics, computation, and adaptation
Georgia Institute of Technology（佐治亚理工学院）；University of Cambridge（剑桥大学）
出于多路比较数据的模型，我们考虑的问题，估计一个坐标明智的保序函数的域$[0, 1]^d$从噪声观测收集到的均匀晶格，但设计点已沿每个维度排列。虽然这个问题的单变量和双变量的版本已经得到了显着的关注，我们的重点是多变量的情况下$d \geq 3$。我们研究了极大极小风险估计（在经验$L_2$损失）和适应（量化的自适应指数）的基本限制，一个家庭的分段常数函数。我们提供了一个计算效率高的Mirsky分区估计，是最小最大最优的，同时也实现了最小的自适应指数可能的多项式时间的程序。因此，从最坏情况的角度来看，与二元情况形成鲜明对比的是，模型中的潜在排列不会在香草保序回归之上引入显著的计算困难。另一方面，适应的基本限制在有和没有未知排列的情况下是显着不同的：假设平均情况复杂性理论的硬度猜想，在前一种情况下出现了计算-计算差距。在一个互补的方向，我们表明，现有的估计自然修改未能满足至少一个最佳的最坏情况下的统计性能，计算效率，快速适应的desiderata。沿着显示我们的结果的方式，我们改进了自适应结果在特殊情况下$d = 2$和建立香草保序回归估计的一些性质，这两个可能是独立的利益。
2021-06-24 cs.IT cs.LG math.IT
Confidence intervals for multiple isotonic regression and other monotone models
本文考虑多元保序回归模型中逐点置信区间的构造问题。最近，[HZ 19]获得了该模型中所谓的块max-min和min-max估计量[FLN 17]的逐点极限分布理论，但由于极限分布中的滋扰参数涉及真实回归函数的多个未知偏导数，因此推断仍然是一个困难的问题。在本文中，我们表明，这个困难的滋扰参数可以有效地消除利用信息超出点估计的块最大最小和最小最大估计。形式上，让$\hat{u}(x_0)$（分别$\hat{v}(x_0)$）是最大化左下角（分别为最小化块中的顶点max-min（分别为最小-最大）估计器，并且$\hat{f}_n$是块最大-最小和最小-最大估计器的平均值。如果$f_0$的所有（一阶）偏导数在$x_0$处都是非零的，则以下关键极限分布理论成立：$$ \sqrt{n_{\hat{u},\hat{v}}(x_0)}\big(\hat{f}_n(x_0)-f_0(x_0)\big)\rightsquigarrow σ\cdot \mathbb{L}_{1_d}. $$这里$n_{\hat{u},\hat{v}}(x_0)$是块$[\hat{u}(x_0),\hat{v}(x_0)]$中设计点的数量，$σ$是误差的标准差，而$\mathbb{L}_{1_d}$是没有多余参数的通用极限分布。这立即产生具有渐近精确置信水平和oracle长度的$f_0(x_0)$的置信区间。值得注意的…
2020-09-30 math.ST stat.ME stat.TH
Correcting an estimator of a multivariate monotone function with isotonic regression
在许多问题中，一个可能的多元单调函数的合理估计量本身可能不是单调的。我们研究了这样一个估计的修正，通过在有限网格上的域上的单调函数的空间上的投影获得。我们证明，这个校正估计有没有更坏的最大估计误差比初始估计，和类似的校正置信带包含真正的功能时，初始带没有损失的平均或最大带宽。此外，我们证明了校正估计是一致渐近等价于初始估计，提供的初始估计满足随机等度连续条件，真函数是Lipschitz和严格单调的。我们提供了简单的充分条件，我们的随机等度连续性条件的重要特殊情况下，初始估计是一致渐近线性的，并说明使用这些结果估计的G-计算分布函数。我们的随机等度连续性条件是弱于标准的均匀随机等度连续性，这已被要求替代的校正程序。至关重要的是，这使我们能够将我们的结果应用到二元校正的局部线性估计的条件分布函数已知是单调的条件参数。我们的实验表明，投影步骤可以产生显着的实际改进性能的估计和置信带。
2019-09-05 math.ST stat.ME stat.TH
A new parameter Learning Method for Bayesian Networks with Qualitative Influences
Utrecht University（乌得勒支大学）
提出了一种新的贝叶斯网络参数学习方法。这种方法将我们以前的工作从二元变量网络扩展到具有有序值的离散变量网络。指定的定性影响对应于对网络中的参数的某些顺序限制。因此，可以使用约束最大似然估计来估计这些参数。我们提出了一种替代方法，基于保序回归。受约束的最大似然估计是相当复杂的计算，而保序回归估计的计算只需要重复应用池相邻违规算法的线性订单。因此，从计算复杂性的观点来看，保序回归估计器是优选的。通过模拟和真实数据的实验，我们表明，新的学习方法是有竞争力的性能约束最大似然估计，这两个估计提高标准估计。
2012-06-20 cs.AI cs.LG stat.ME
Monotone Least Squares and Isotonic Quantiles
我们考虑二元观测值$(X_1,Y_1), \ldots, (X_n,Y_n)$，使得在$X_i$的条件下，$Y_i$是具有分布函数$F_{X_i}$的独立随机变量，其中$(F_x)_x$是分布函数的未知族。在$x \mapsto F_x$关于随机序是保序的唯一假设下，可以用两种方式估计$(F_x)_x$：（i）对于任何固定的$y$，通过非参数单调最小二乘法估计反序函数$x \mapsto F_x(y)$，用指示符$1_{[Y_i \le y]}$代替响应$Y_i$。(ii)对于任何固定的$β\in (0,1)$，通过回归分位数的非参数版本估计保序分位数函数$x \mapsto F_x^{-1}(β)$。我们表明，这两种方法是密切相关的，与（i）比（ii）更灵活。然后，在温和的正则性条件下，我们建立的估计$\hat{F}_x(y)$和$\hat{F}_x^{-1}(β)$的收敛速度，一致$(x,y)$和$(x,β)$在某些矩形，以及一致在$y$或$β$为一个固定的$x$。
2019-08-06 math.ST stat.ME stat.TH
GLS under Monotone Heteroskedasticity
本文针对异方差 GLS 中条件方差函数估计难题，提出在非参数单调性约束下使用保序回归的两阶段 GLS 估计量，并通过模拟与老龄化—增长实证应用验证其有效性。
2024-01-23 econ.EM stat.ME
Generalized Ridge Regression: Applications to Nonorthogonal Linear Regression Models
本文研究广义岭回归在缓解多元线性回归多重共线性中的应用，推导了估计方差、变异系数、相关系数、方差膨胀因子和条件数的表达式，并用两个数值例子验证结果。
2025-04-08 stat.ME
Doubly robust inference via calibration
University of Washington（华盛顿大学）；Stanford University（斯坦福大学）；Harvard Medical School（哈佛医学院）；Harvard University（哈佛大学）
该研究针对双重稳健推断中渐近正态性对两个干扰函数收敛速度的要求不匹配问题，提出校准去偏机器学习（DML）方法，结合 isotonic 回归调整，实现双重稳健渐近正态性，在半合成基准数据中表现更优。
2026-08-24 math.ST stat.ME stat.ML
Generalized Ridge Regression: Biased Estimation for Multiple Linear Regression Models
本文针对多元线性回归中回归变量非正交导致普通最小二乘估计不佳的问题，系统研究了广义岭回归的估计、均方误差、拟合优度及自助法推断。
2024-07-02 stat.ME
The Minimax Rate of Denoising Flows on Trees
Shenzhen MSU-BIT University（深圳北理莫斯科大学）
本文完整解决了有根树上从高斯噪声恢复流的去噪问题，确定了最小最大风险为 $\min\{V^2H_T,\sigma^2k_0\}$，并提出了达到该速率的确定性指数加权聚合估计器，同时揭示了最小二乘法的次优性。
2026-09-15 math.ST stat.ME stat.TH
PLS Generalized Linear Regression and Kernel Multilogit Algorithm (KMA) for Microarray Data Classification
本文将Bastien等人（2005）提出的偏最小二乘广义线性回归（PLSGLR）与逻辑斯谛回归和线性判别分析相结合，得到偏最小二乘广义线性回归-逻辑斯谛回归模型（PLSGLR-log）和偏最小二乘广义线性回归-线性判别分析模型（PLSGLRDA）。这两种分类方法，然后与经典的方法，如k-近邻（KNN），线性判别分析（LDA），偏最小二乘判别分析（PLSDA），岭偏最小二乘（RPLS），和支持向量机（SVM）进行比较。此外，我们实现了Dalmau等人的核多对数算法（KMA）。（2015）并将其性能与其他分类器进行了比较。结果表明，对于未经预处理和预处理的数据，KMA具有最低的分类错误率。
2019-06-19 stat.CO stat.ME
Transformation-based generalized spatial regression using the spmoran package: Case study examples
本研究提出了广义空间回归模型的计数数据和连续的非高斯数据使用spmoran包（版本0.2.2以上）的应用实例。第二节介绍了模型。随后的部分演示了该模型在疾病映射、空间预测和不确定性建模以及特征分析中的应用。本插图中使用的R代码可从https://github.com/dmuraka/spmoran获得。另一个专注于高斯空间回归建模的小插曲也可以从同一个GitHub页面获得。
2021-09-14 stat.AP stat.ME
Generalized Orthogonal Components Regression for High Dimensional Generalized Linear Models
在这里，我们提出了一个算法，称为广义正交成分回归（GOCRE），探讨一个分类的结果和一组大量的变量之间的关系。一组正交分量被依次构造以解释分类结果的变化，并且一起构建广义线性模型（GLM）。该算法可以被认为是偏最小二乘（PLS）的GLM的扩展，但克服了现有的基于迭代重加权最小二乘（IRLS）的扩展的几个问题。首先，现有的扩展在每次迭代时构造不同的组件集，因此不能提供收敛的组件集。其次，现有的扩展是计算密集型的，因为重复构建一套完整的组件。第三，虽然他们追求回归系数的收敛，但得到的回归系数仍然可能发散，特别是在建立逻辑斯谛回归模型时。相反，GOCRE在收敛构造时顺序地建立每个正交分量，并且同时对这些正交分量进行回归以拟合GLM。仿真研究和实际数据的例子都证明了新方法的性能。
2013-04-17 stat.CO stat.ME
Generalized Venn and Venn-Abers Calibration with Applications in Conformal Prediction
University of Washington（华盛顿大学）
本文提出统一的Venn和Venn-Abers校准框架，将二元分类扩展至一般损失函数预测问题，生成有限样本下边际校准的集值预测，并提出Venn多校准方法，在保形预测中恢复并扩展了多种特例。
2025-07-15 cs.LG stat.ME stat.ML
