Estimating and backtesting risk under heavy tails
虽然风险的{估计}在银行和保险的日常业务中是一个重要的问题，但是许多现有的插件估计过程遭受不必要的偏差。这往往会导致低估风险，并对回测结果产生负面影响，特别是在小样本情况下。在这篇文章中，我们表明，估计偏差和回测之间的联系可以追溯到风险措施和相应的性能指标之间的双重关系，并讨论这在风险价值，预期损失和预期的风险价值。出于一致低估的风险插件程序，我们提出了一个新的算法偏差校正，并展示了如何将其应用于广义帕累托分布的i.i.d.设置并映射到GARCH（1，1）时间序列。特别是，我们表明，我们的算法的应用程序导致获得的效率时，重尾或异方差存在的数据。
2022-01-31 math.ST q-fin.RM q-fin.ST
On Predictive Density Estimation for Location Families under Integrated $L_2$ and $L_1$ Losses
我们的调查涉及预测密度的估计和效率的研究作为衡量的频率风险，这种预测密度与集成$L_2$和$L_1$损失。我们的研究结果涉及到一个$p-$变量球对称可观测的$X \sim p_X(\|x-μ\|^2)$和基于$X$估计$Y \sim q_Y(\|y-μ\|^2)$密度的目标。对于$L_2$损失，我们描述贝叶斯估计，最小风险等变估计（MRE），和极大极小估计。我们专注于基准最小风险同变估计，插件估计，插件类型的估计扩展规模的风险性能。对于多变量正态情形，我们利用一个对偶结果和一个点估计问题，将反射正态损失发挥出来。在三维或更多维中（即，$p \geq 3$），我们证明了MRE估计在$L_2$损失下是不可接受的，并提供了主导估计。这使得发挥斯坦型的结果，估计一个多变量的正常平均值的损失，这是一个凹的和递增的函数$\|\hatμ-μ\|^2$。我们还研究了改进的现象插件密度估计的形式$q_Y(\|y-aX\|^2)\,, 0<a \leq 1\,,$的一个子类的规模扩展$\frac{1}{c^p} \, q_Y(\|(y -aX)/c \|^2)$与$c>1$，显示在某些情况下，不可避免地足够大的$p$，所有的选择$c>1$占主导地位的估计。扩展得到的规模混合法线，包括一般的MRE估计$p \geq 3$的不可接受的结果。最后，我们描述和扩展类似的插件优势的结果与$p \geq 4$ $…
2014-08-22 math.ST stat.TH
Asymptotic bias of the plug-in Shannon entropy estimator under a regularly varying occupancy model
Kyushu University（九州大学）
本文针对可数无限支撑离散分布的香农熵估计难题，在正则变化占用模型下推导了插件式熵估计量的渐近偏差关系，明确了幂律频率分布下偏差的渐近行为由基础分布尾特征决定。
2026-07-31 math.PR math.ST stat.TH
Optimal plug-in Gaussian processes for modeling derivatives
Rice University（莱斯大学）
本文提出了一种最优的插件高斯过程方法，用于同时估计回归函数及其导数，通过自适应超参数调优实现最优性能。
2025-12-26 math.ST stat.TH
Estimating differential entropy using recursive copula splitting
本文提出了一种利用独立样本估计多维随机变量Shannon微分熵的方法。该方法基于将分布分解为边际分布和联合依赖性的乘积，也称为copula。边缘的熵估计使用一维的方法。Copula的熵，它总是有一个紧凑的支持，估计递归地沿着统计依赖的维度分裂的数据。数值算例表明，该方法是准确的紧和非紧的支持，这是必要的，当支持是未知的或混合类型（在不同的维度）的分布。在高维（大于20），我们的方法不仅更准确，而且比现有的方法更有效。
2020-01-09 cond-mat.stat-mech math.ST stat.TH
Estimating the entropy of binary time series: Methodology, some theory and a simulation study
在神经科学中的熵估计问题的部分动机，我们提出了一个详细的和广泛的比较在实践中使用的一些最流行的和有效的熵估计方法：插件的方法，四个不同的估计Lempel-Ziv（LZ）家庭的数据压缩算法的基础上，基于上下文树加权（CTW）方法的估计，更新熵估计。** 方法。介绍了三种新的熵估计。对于四个基于LZ的估计量中的两个，描述了用于评估其标准误差的自助程序，并推导出用于选择其参数值的实用经验法则。* 理论。我们证明了，不同于他们的早期版本，这两个新的基于LZ的估计是一致的，每一个有限值，平稳和遍历过程。给出了一种精确逼近已知分布的有限状态隐马尔可夫模型熵率的有效方法。启发式计算和近似公式推导出评估的偏差和标准误差的每个估计。** 模拟。所有的估计量适用于各种各样的数据产生的众多不同的过程具有不同程度的依赖性和记忆。从这些实验中得出的一些结论包括：（i）对于所考虑的所有估计量，误差的主要来源是偏差。(ii)CTW方法被反复和一致地看到提供最准确的结果。(iii)基于LZ的估计器的性能通常与插件方法的性能相当。(iv)插入式方法的主要缺点是计算效率低。
2008-02-29 cs.IT math.IT math.ST
Asymptotic Normality for Plug-in Estimators of Generalized Shannon's Entropy
香农熵是信息论的基石之一，也是机器学习方法的一个重要方面（例如，随机森林）。然而，它仅被定义为可数字母表上具有快速衰减尾部的分布。香农熵在字母表上所有分布的一般类上的无界性阻止了其潜在的效用被完全实现。为了填补信息论基础的空白，Zhang（2020）提出了广义香农熵，它在任何地方都是严格定义的。几乎所有基于熵的ML方法包都采用了插件估计器，这是估计香农熵的最流行方法之一。已有文献对Shannon熵插入估计量的渐近分布进行了深入研究。本文研究可数字母表上广义Shannon熵的插入式估计的渐近性质。开发的渐近性质不需要对原始分布的假设。所提出的渐近性质允许区间估计和广义香农熵的统计检验。
2022-05-02 cs.IT math.IT math.ST
Density Level Sets: Asymptotics, Inference, and Visualization
我们推导出了Hausstrom损失下密度水平集的插入估计的渐近理论。基于渐近理论，我们提出了水平集的两个自举置信区域。置信区域可用于执行异常检测和聚类的测试。我们还介绍了一种技术，可视化高维密度水平集相结合的模式聚类和多维缩放。
2016-09-05 math.ST stat.ME stat.TH
Estimating Conditional Distributions via Sklar's Theorem and Empirical Checkerboard Approximations, with Consequences to Nonparametric Regression
University of Salzburg（萨尔茨堡大学）
本文通过Sklar定理和经验近似方法，提出了一种估计条件分布的新方法，并展示了其在非参数回归中的应用价值。
2026-02-01 math.ST stat.TH
Nuisance Function Tuning and Sample Splitting for Optimally Estimating a Doubly Robust Functional
Department of Statistics and Data Science, Washington University in St. Louis（华盛顿大学圣路易斯分校统计与数据科学系）
本文研究了如何通过干扰函数调节和样本分割策略优化双重稳健函数估计的收敛速率，展示了不同调节参数和样本分割方法对估计结果的影响。
2026-09-09 math.ST stat.ME stat.ML
On the Estimation of Derivatives Using Plug-in Kernel Ridge Regression Estimators
Rice University（莱斯大学）
针对回归函数导数估计中参数调优难、高阶导数分析复杂的问题，提出适用于多维支撑域与任意混合偏导的插入式KRR估计量，统一推导误差界，验证其极小极大最优速率与免随导数阶数调参的插入式特性，且有限样本性能优异。
2023-08-26 cs.LG math.ST stat.ML
Plug-In Classification of Drift Functions in Diffusion Processes Using Neural Networks
Université Paris-Dauphine, PSL Chaire DIALog, Fondation du Risque Institut Louis Bachelier（巴黎-第十大学，PSL DIALog研究中心，风险基金会路易·巴舍利埃研究所）；LaMME, University of Paris-Saclay（LaMME，巴黎-萨克雷大学）；CEREMADE, CNRS Université Paris-Dauphine, PSL（CEREMADE，国家科学研究中心巴黎-第十大学，PSL）
本文研究扩散过程的监督多类分类，通过神经网络估计类特定漂移函数构建插件分类器，分析了漂移估计、时间离散化和维度对分类风险的影响，并通过数值实验验证了方法的有效性。
2026-05-13 cs.LG math.ST stat.ML
Estimation of the Rate-Distortion Function
出于对有损数据压缩的问题和理论上的考虑，我们研究了从经验数据中估计未知（不一定是离散值）源的率失真函数的问题。我们的重点是所谓的“插件”估计，这只是率失真函数的经验分布的观察数据的行为。给出了其一致性的充分条件，并举例说明在某些情况下，它不能收敛到真实的率失真函数。其性能的分析是复杂的事实，率失真函数是不连续的源分布，基本的数学问题是密切相关的经典问题，建立最大似然估计的一致性。一般的一致性结果插件估计适用于广泛的一类来源，包括所有固定和遍历的。一类更一般的估计问题，也被认为是在有损数据压缩的上下文中出现时，允许类的编码分布是有限的，类似的结果开发的插件估计在这种情况下。最后，一致性定理公式化修改（例如，惩罚）版本的插件，并用于估计最佳再现分布。
2008-04-11 cs.IT math.IT math.ST
A Lower Bound for Estimating Fréchet Means
本研究探讨了在一般度量空间中从独立同分布样本估计Fréchet均值的理论下界，发现在具有非唯一均值的概率分布附近，估计精度受限于均值集合直径，揭示了该场景下不可避免的统计挑战。
2024-02-19 math.ST stat.TH
Estimating linear functionals in nonlinear regression with responses missing at random
我们考虑具有参数（线性或非线性）回归函数的回归模型，并允许响应随机缺失。我们假设误差的均值为零，并且与协变量无关。为了估计协变量和响应函数的期望，我们使用完全插补估计量，即基于给定协变量的条件期望估计量的经验估计量。我们利用协变量和误差的独立性，将条件期望写成无条件期望，现在可以由经验插件估计器估计。通过添加适当的基于残差的权重，利用对误差分布的平均零约束。我们证明，估计是有效的（在意义上的Hájek和Le Cam），如果使用一个有效的估计参数。我们的研究结果产生了新的有效的估计平滑变换的期望。估计的平均响应作为一个特殊的（退化）的情况下进行了讨论。
2009-08-21 math.ST stat.TH
Confidence Bands for the Gradient Lines of a Density Function
University of California, San Diego（加州大学圣地亚哥分校）；George Mason University（乔治梅森大学）
针对密度函数从给定点出发的梯度上升线估计问题，提出基于核密度估计的插件估计量，建立弱收敛性，并利用该结果构造置信区域（含Bootstrap方法）。
2026-06-15 math.ST stat.TH
Adaptive wavelet multivariate regression with errors in variables
在多维环境中，我们考虑变量误差模型。我们的目的是估计未知的非参数多元回归函数与误差的协变量。我们设计了一个基于小波投影核和反卷积算子的自适应估计器。我们提出了一个自动和完全数据驱动的过程来选择小波水平分辨率。得到了各向异性H{<$}lder类上的一个预言不等式和最优收敛速度.我们的理论结果说明了一些模拟。
2016-01-12 math.ST stat.TH
Möbius inversion and the iterated bootstrap
Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
本文通过将bootstrap偏差校正视为迭代线性求解器，研究了莫比乌斯反演的线性收敛性，并展示了对带限函数的超代数收敛速率，最终提出一种在m次迭代中无偏估计未知阶矩多项式的方法。
2026-02-19 math.CO math.PR math.ST
Estimation of Integrated Volatility Functionals with Kernel Spot Volatility Estimators
本文针对多维伊藤半鞅的积分波动率泛函估计问题，提出采用通用核瞬时波动率估计量的插件式估计方法，建立相关中心极限定理，证明其能显著降低偏差且对带宽选择具有稳健性。
2025-09-08 econ.EM math.ST stat.TH
Estimating stationary mass, frequency by frequency
H. Milton Stewart School of Industrial and Systems Engineering（H. Milton Stewart工业与系统工程学院）；School of Electrical and Computer Engineering（电气与计算机工程学院）；Georgia Institute of Technology（佐治亚理工学院）
本文研究指数α-混合随机过程中按观测频率估计平稳分布概率质量的问题，提出结合插件估计器与WingIt的线性时间方法，证明全变差距离下的一致相合性，并建立新的性能界与自归一化集中不等式。
2025-06-06 cs.IT cs.LG math.IT
Nonparametric Density Estimation Using Partially Rank-Ordered Set Samples With Application in Estimating the Distribution of Wheat Yield
研究了基于部分秩序集（PROS）抽样设计的秩基观测值的未知密度函数$f$的非参数估计. PROS抽样设计在环境、生态和医学研究中有许多应用，在这些研究中，感兴趣变量的精确测量是昂贵的，但是可以通过除实际测量之外的任何方式相对于感兴趣变量订购少量抽样单元，并且这可以以低成本完成。PROS观测值涉及独立的顺序统计量，它们不是同分布的，大多数常用的非参数技术不能直接应用于它们。我们首先基于不完美的PROS采样过程开发了$f$的核密度估计，并研究了其理论性质。然后，我们考虑了当底层分布假设是对称的问题，并介绍了$f$的一些插件核密度估计。我们使用EM型算法来估计与不完美的PROS设计相关的错位概率。最后，我们通过几个模拟研究和一个案例研究来扩展我们的结果的各种数值说明，以估计小麦产量的分布，使用种植小麦的土地总面积作为一个容易获得的辅助信息。我们的结果表明，PROS密度估计性能优于SRS和RSS。
2014-01-06 math.ST stat.TH
Frontier estimation via kernel regression on high power-transformed data
本文提出了一种新的多维样本前沿估计方法。估计器是基于幂变换数据的核回归。我们假设变换的指数趋于无穷大，而内核的带宽趋于零。给出了这两个参数的完全收敛性和渐近正态性条件。在有限样本情形下，证明了该估计器的良好性能。
2011-03-30 math.ST stat.ME stat.TH
Empirical bias-reducing adjustments to estimating functions
本文提出一种通用的缩减偏差M估计框架，通过经验近似偏差并利用自动微分简化实现，在保持渐近分布不变的同时显著降低估计偏差，且比既有方法更易实现、适用范围更广。
2023-08-10 math.ST stat.ME stat.TH
Mean-square consistency of the $f$-truncated $\text{M}^2$-periodogram
本文讨论平稳随机过程或随机场的M $^2$（即多元和多维）谱密度函数的估计问题。我们提出了$f$ -截断周期图，即截断点是样本量的合适函数$f$的截断周期图。我们讨论了估计的渐近一致性，我们提供了三个具体的问题，可以使用所提出的方法来解决。仿真结果表明了该方法的有效性。
2022-08-25 math.OC math.ST stat.TH
Minimax Estimation of the Volume of a Set with Smooth Boundary
考虑了欧几里得空间中紧致区域的体积估计问题，该问题基于该区域的均匀样本。我们假设域有一个正可达的边界。提出了一种基于样本α-凸包的数据分裂方法来校正插入估计器的偏差。我们表明，这个简单的估计达到了极大极小下界，我们推导。一些数值实验证实了我们的理论研究结果。
2016-05-04 math.ST stat.ME stat.TH
Visually Communicating and Teaching Intuition for Influence Functions
基于影响函数（IF）的估计器已被证明在许多设置中是有效的，特别是当与机器学习技术相结合时。通过集中于估计感兴趣的特定目标（例如，处理的平均效应），而不是估计全部潜在数据生成分布，基于IF的估计器通常能够实现渐近最优的均方误差。尽管如此，许多研究人员发现基于IF的估计是不透明的或过于技术性的，这使得它们的使用不那么普遍，它们的好处也不那么可用。为了帮助促进对基于IF的估计器的理解和信任，我们提出了基于IF的估计器何时以及如何优于标准“插件”估计器的有形的、视觉的说明。我们展示的图是基于IF、梯度、线性近似和牛顿-拉夫逊之间的联系。
2019-10-27 math.ST stat.ME stat.TH
Bayesian Estimation with Distance Bounds
我们考虑的问题时，估计一个随机状态向量的子向量之间的最大距离的信息。估计问题是在贝叶斯框架中提出的，其中状态的最小均方误差（MMSE）估计由条件均值给出。由于寻找条件均值需要多维积分，提出了一种近似MMSE估计。所提出的估计器的性能进行评估，在定位问题。最后，通过将该估计器应用于航位推算问题，说明了该估计器在不等式约束递归滤波中的应用。估计的MSE与两个相关的后验Cramér-Rao界进行了比较。
2012-10-12 math.ST stat.TH
Average Density Estimators: Efficiency and Bootstrap Consistency
本文强调了半参数效率和自举一致性之间的紧张局势的背景下，一个典型的半参数估计问题，即估计的平均密度的问题。结果表明，虽然简单的插件估计遭受偏见的问题，防止他们在最小的平滑条件下实现半参数效率，非参数引导自动纠正这种偏见，因此，这些看似低劣的估计实现引导一致性最小的平滑条件下。相比之下，几个“去偏”估计，实现半参数的最小光滑条件下的效率不实现自举一致性在这些相同的条件下。
2020-12-20 econ.EM math.ST stat.TH
