On Multi-step Estimation of Delay for SDE
我们考虑的问题的延迟估计的几个SDES的解决方案的意见。已知这些模型的极大似然估计是一致的且渐近正态的，但其似然比函数相对于r.t.参数，因此MLE的数值计算具有一定的困难。我们提出了一步和两步极大似然估计，它们的计算没有这样的问题，并提供了估计渐近等价于极大似然估计。这些构造分两步或三步实现。首先，我们构造初步估计是一致的，渐近正态的，但不是渐近有效的。然后，我们使用这些估计和修改的Fisher评分装置，获得一步和两步MLE。我们假设它的数值实现要简单得多。介绍了随机比例方程，讨论了相关的统计问题。
2020-10-15 math.ST stat.TH
On Parameter Estimation of Hidden Telegraph Process
研究了在高斯白噪声背景下，利用两态电报过程的观测值进行参数估计的问题。矩量法估计量的性质在大样本渐近性中得到了描述。然后将该估计量作为初始估计量构造一步MLE过程，得到未知参数的渐近正态和渐近有效估计。
2015-09-09 math.ST stat.TH
Asymptotically efficient estimation for diffusion processes with nonsynchronous observations
研究了系数为非随机且观测值为非同步时扩散过程的极大似然型估计。当我们考虑分析金融市场中的高频数据时，非同步观测的问题是重要的。构造一个拟似然函数来定义估计器，自适应地估计扩散部分和漂移部分的参数。当终点$T_n$和观测频率趋于无穷大时，我们考虑了渐近理论，并证明了估计量的相合性和渐近正态性。此外，我们还证明了统计模型的局部渐近正态性，以及估计量的渐近有效性。为了证明极大似然型估计的渐近性质，我们需要控制抽样方案中某些泛函的渐近行为。虽然一般情况下很难直接控制这些条件，但我们研究了由混合过程生成的采样方案的易处理的充分条件。
2022-07-01 math.ST stat.TH
On asymptotically efficient statistical inference on a signal parameter
研究了高斯白噪声中信号参数的置信估计和假设检验问题。对于这些问题，我们指出了下界的渐近效率在区域的中等偏差概率。这些下界是局部渐近极小极大Hajek-Le Cam估计下界和假设检验Pitman有效性下界的版本。得到了中偏差概率对数渐近和锐渐近的下界。
2015-01-24 math.ST stat.TH
Asymptotically efficient estimation under local constraint in Wicksell's problem
本文在Wicksell问题中针对分布函数局部为常数的情形，提出三种利用常数区间信息的投影型估计器，证明其渐近正态且达到$\sqrt{n}$最优速率，并通过局部渐近极小极大下界和卷积结果说明IIE虽自适应但非渐近有效。
2024-10-18 math.ST stat.TH
Asymptotically Optimal Sequential Estimation of the Mean Based on Inclusion Principle
Louisiana State University（路易斯安那州立大学）；Southern University and A&M College（南方大学与农业机械学院）
科学和工程中的一大类问题可以表述为构造具有预先指定的平均覆盖概率的随机区间的一般问题。我们提出了一种基于累积观测数据的平均值的统计推断的一般方法。我们表明，这样的随机区间的建设可以通过比较随机区间的端点与置信序列的平均值。渐近结果得到这样的顺序方法。
2013-06-10 cs.LG math.PR math.ST
Asymptotically efficient estimators for nonparametric heteroscedastic regression models
本文研究了带高斯噪声和未知分布噪声的非参数异方差模型中在给定点处的回归函数的估计。在这两种情况下，一个渐近有效的核估计构造的极小极大绝对误差风险。
2007-11-29 math.ST stat.TH
Efficient functional estimation and the super-oracle phenomenon
我们考虑估计的两个样本的积分泛函，自然发生的类型，例如，当感兴趣的对象是未知的概率密度之间的分歧。我们的第一个主要结果是，在广泛的一般性，加权最近邻估计是有效的，在这个意义上实现局部渐近极大极小下界。此外，我们还证明了一个相应的中心极限定理，这有利于建设渐近有效的置信区间的功能，具有渐近最小的宽度。我们的结果的一个有趣的后果是发现，对于某些泛函，我们的估计的最坏情况下的性能可能会改善自然的“神谕”估计，这是获得的值的未知密度的观察。
2023-01-30 math.ST stat.ME stat.ML
Quasi Maximum Likelihood Estimation and Inference of Large Approximate Dynamic Factor Models via the EM algorithm
本文研究通过EM算法结合Kalman smoother估计大型动态因子模型，证明了估计载荷和因子的渐近性质，并指出在特异性协方差足够稀疏时因子估计更有效。
2024-09-25 econ.EM math.ST stat.TH
Truncated sequential guaranteed estimation for the Cox-Ingersoll-Ross models
本文研究有限观测时长下CIR模型的漂移参数估计问题，提出截断序贯估计方法，证明其渐近最优性并显著减少观测时长。
2025-04-07 math.ST stat.TH
Estimation for the discretely observed telegraph process
电报过程$\{X(t), t>0\}$应该在$n+1$等距时间点$t_i=iΔ_n,i=0,1,..., n$观察到。$λ$的未知值，即泊松过程的基础速率，是一个待估计的参数。考虑的渐近框架如下：$Δ_n \to 0$，$nΔ_n = T \to \infty$作为$n \to \infty$。我们证明了以前提出的矩型估计是一致的和渐近正态的，但不是有效的。我们进一步研究了近似矩型估计，这仍然是不有效的，但在明确的形式。对于该估计量，需要附加假设$nΔ_n^3 \to 0$，以获得渐近正态性。最后，我们提出了一个新的估计，它是一致的，渐近正态和渐近有效的没有额外的假设。
2006-12-27 math.PR math.ST stat.TH
Information Geometry Approach to Parameter Estimation in Markov Chains
研究了当未知转移矩阵属于指数族转移阵时马尔可夫链的参数估计问题。然后，我们证明了指数族生成元的样本均值是渐近有效估计。此外，我们还定义了一个曲线指数族的转移阵。利用转移阵形式的勾股定理，我们给出了曲线指数族的渐近有效估计。
2015-05-05 cs.IT math.IT math.ST
Asymptotically uniformly most powerful tests for diffusion processes with nonsynchronous observations
针对非同步不规则采样下扩散过程检验的难题，提出融合漂移与扩散系数自适应估计的拟似然比检验框架，证明其渐近性质与一致最优性，数值实验显示效果优于现有非参数方法。
2025-03-24 math.ST stat.TH
Distributed Nonparametric Estimation under Communication Constraints
在大数据时代，需要将非常大的数据集拆分到多个计算节点，并使用分布式数据构建估计器。当设计分布式估计器时，希望最小化网络上的通信量，因为与单个计算机中的计算相比，计算机之间的传输是缓慢的。我们的工作提供了一个一般的框架，了解通信约束下的非参数问题的分布估计的行为。我们提供了广泛的一类模型的结果，超越了占主导地位的文献的高斯框架。作为具体的例子，我们给出了通信约束下的分布回归、密度估计、分类、Poisson回归和波动率估计模型的极大极小下界和匹配上界。为了帮助这一点，我们提供了充分条件，可以很容易地验证在我们所有的例子。
2022-04-21 math.ST stat.ML stat.TH
Optimal model selection in density estimation
我们建立惩罚最小二乘估计，使用斜率启发式和reservation处罚。证明了首项常数渐近等于1的选择估计量的预言不等式。我们比较这些方法的实际性能在一个简短的模拟研究。
2010-07-26 math.ST stat.TH
Bootstrap consistency for general semiparametric $M$-estimation
考虑半参数模型中的$M$ -估计，该模型的特征在于一个欧几里德参数和一个无限维冗余参数。作为一种通用的统计推断方法，Bootstrap方法在半参数$M$ -估计中得到了广泛的应用，并且由于其简单性，它为基于渐近分布理论的推断方法提供了一种有吸引力的替代方法。本文的目的是提供理论上的理由使用自助作为半参数推理工具。我们表明，在一般条件下，自助是渐近一致的分布估计的$M$ -估计欧几里德参数，即自助分布渐近模仿分布的$M$ -估计。我们还证明了自举置信集具有渐近正确的覆盖概率。这些一般性的结论，特别是，当冗余参数是不可估计的根$n$率，并适用于广泛的一类可交换的引导权重的引导方法。本文首次对半参数模型中的自助法进行了一般性的理论研究。
2011-02-03 math.ST stat.TH
On Non-parametric Estimation of the Lévy Kernel of Markov Processes
本文考虑一个常返马尔可夫过程，它是一个伊藤半鞅. Lévy核描述了它的跳跃规律。基于观测值X（0），X（Δ），.，X（nΔ），我们构造了Lévy核密度的一个估计。我们证明了它的相容性（当nΔ-> \infty和Δ->0时）和一个中心极限定理.在正常返情形下，我们的估计是渐近正态的;在零常返情形下，它是渐近混合正态的。我们的估计器的收敛速率等于平滑密度估计的非参数极大极小化速度。渐近偏差和方差类似于经典的条件密度的Nadaraya-Watson估计。提供了渐近置信区间。
2013-05-12 math.ST stat.TH
Polynomials under Ornstein-Uhlenbeck noise and an application to inference in stochastic Hodgkin-Huxley systems
我们讨论的估计问题的多项式下观察到的奥恩斯坦乌伦贝克噪声在一个很长的时间间隔。我们证明了局部渐近正态性（LAN），并指定渐近有效估计。我们将其应用于以下问题：将噪声输入到经典（确定性）Hodgkin Huxley神经科学模型中，我们感兴趣的是噪声过程参数的渐近有效估计。
2020-03-30 math.PR math.ST stat.TH
Distributed Gaussian Mean Estimation under Communication Constraints: Optimal Rates and Communication-Efficient Algorithms
University of Pennsylvania（宾夕法尼亚大学）
在决策理论框架下研究了通信约束下高斯均值的分布式估计问题。极小极大收敛率，其特征之间的权衡通信成本和统计精度，建立在单变量和多变量设置。制定了通信效率高和统计上最佳的程序。在单变量的情况下，最佳速率只取决于总的通信预算，只要每个本地机器至少有一个比特。然而，在多变量的情况下，最小最大速率取决于本地机器之间的通信预算的具体分配。虽然高斯均值的最优估计在传统的环境中相对简单，但在通信约束下，它涉及到最优过程设计和下界参数。在本文中开发的技术可以是独立的利益。一个重要的步骤是分解成两个阶段，本地化和细化的极大极小估计问题。这种临界分解为下界分析和最优程序设计提供了一个框架。
2020-01-24 cs.DC cs.IT cs.LG
Optimal Rates for Nonparametric Density Estimation under Communication Constraints
我们考虑当每个样本被量化到只有有限数量的比特时，Besov空间的密度估计。我们提供了一个非交互式的自适应估计，利用小波基的稀疏性，随着一个模拟和推断技术的参数估计通信约束下。我们表明，我们的估计是近速率最优的推导极小极大下界，即使在交互式协议是允许的。有趣的是，虽然我们的基于小波的估计器对于索伯列夫空间也几乎是速率最优的，但尚不清楚标准傅立叶基是否可以用于实现相同的性能。
2021-07-21 cs.DS cs.IT math.IT
Asymptotically efficient estimators for stochastic blockmodels: the naive MLE, the rank-constrained MLE, and the spectral
当平均度以$n$中的$ω(\sqrt{n})$的速率增长时，我们建立了利用谱嵌入估计随机块模型图中块概率矩阵$\mathbf{B}$的渐近正态性结果。作为推论，我们证明了当$\mathbf{B}$是满秩时，由谱嵌入得到的$\mathbf{B}$的估计是渐近有效的。当$\mathbf{B}$是奇异的谱嵌入得到的估计可以有更小的均方误差比那些从最大化的对数似然无秩假设下得到的，而且，可以几乎一样有效的真正的MLE假设已知的$\mathrm{rk}(\mathbf{B})$。我们的研究结果表明，在随机块模型图的背景下，谱嵌入不仅是计算上容易处理的，但由此产生的估计也是容许的，即使相比，据称是最佳的，但计算上难以处理的极大似然估计下没有秩的假设。
2017-10-30 stat.ME
Communication-Efficient Distributed Statistical Inference
我们提出了一个通信有效的代理Likestive（CSL）框架解决分布式统计推断问题。CSL为全局似然提供了一种通信效率高的替代，可用于低维估计、高维正则化估计和贝叶斯推断。对于低维估计，CSL可证明地改进了朴素平均方案，并有利于置信区间的构建。对于高维正则化估计，CSL导致一个极小极大最优估计与控制通信成本。对于贝叶斯推断，CSL可以用于形成收敛于真实后验的通信有效的准后验分布。这种准后验过程显着提高了MCMC算法的计算效率，即使在非分布式设置。我们提出了理论分析和实验来探索CSL近似的属性。
2016-11-06 cs.IT cs.LG math.IT
Breaking the Communication-Privacy-Accuracy Trilemma
Stanford University（斯坦福大学）；Google（谷歌）
分布式学习和估计中的两个主要挑战是：1）保护本地样本的隐私; 2）将它们有效地传输到中央服务器，同时实现端到端任务的高精度。虽然在最近的文献中，人们对分别解决这些挑战中的每一个都有很大的兴趣，但同时解决这两个挑战的治疗方法在很大程度上仍然缺失。在本文中，我们开发了新的编码和解码机制，同时实现最佳的隐私和通信效率在各种规范设置。特别是，我们考虑的问题下的平均值估计和频率估计$\varepsilon$ -本地差分隐私和$b$位通信的限制。对于均值估计，我们提出了一个基于Kashin表示和随机抽样的方案，在这两个约束下具有阶最优估计误差。对于频率估计，我们提出了一种机制，利用沃尔什-哈达玛矩阵的递归结构，并实现了所有隐私级别和通信预算的顺序最优估计误差。作为一个副产品，我们还构建了一个分布估计机制，是所有的隐私制度和通信约束的速率最优，扩展最近的工作，仅限于$b=1$和$\varepsilon=O(1)$。我们的研究结果表明，联合隐私和通信约束下的智能编码可以产生的性能，匹配的最佳精度下实现单独的约束。
2021-04-20 cs.CR cs.IT cs.LG
Asymptotically Efficient Estimation of Weighted Average Derivatives with an Interval Censored Variable
本文研究了在结果变量或回归变量为区间值的情况下，条件位置泛函（包括条件均值和条件分位数）的加权平均导数的识别和估计.在Manski和Tamer（2002）研究区间数据均值回归的非参数界的基础上，我们刻画了回归函数的加权平均导数集。由于加权平均导数不依赖于回归函数的参数规格，因此所识别的集合定义明确，无需任何参数假设。在一般条件下，所识别的集合是紧的和凸的，因此承认其支撑函数的特征。利用这一特征，我们推导出当结果变量为区间值时支撑函数的半参数效率界。我们通过构造一个有效的估计的支撑函数的情况下，区间删失的均值回归说明有效的估计。
2013-12-20 math.ST stat.ME stat.TH
Semiparametric adaptive estimation under informative sampling
针对信息性抽样中的选择偏倚与 Horvitz-Thompson 估计量效率不足问题，本文将调查权重视为随机变量推导半参数效率界，并提出在工作模型下一致、渐近正态且最优有效的估计量，通过模拟和加拿大调查数据验证其性能。
2024-04-04 math.ST stat.ME stat.TH
Bandwidth and Energy Efficient Decentralized Sequential Change Detection
分散的顺序变化检测的问题被认为是，在一个区域中发生的突然变化由多个传感器监测的传感器将其数据传输到融合中心，受到带宽和能量的限制，和融合中心负责检测的变化尽快。提出了一种新的顺序检测规则，要求在随机时间从传感器的通信和传输的低比特的消息，融合中心在并行运行的一个并行测试。该方案的二阶渐近最优性建立在离散和连续时间。具体而言，它表明，造成的性能损失（相对于使用完整的传感器观测的最佳检测规则）是渐近有界的误报率为0，任何固定的通信速率。当来自传感器的通信速率渐近低时，所提出的方案保持一阶渐近最优。最后，仿真实验说明了它的效率和优越性，在一个分散的检测规则，依赖于在确定性的时间通信。
2013-11-11 math.PR math.ST stat.ME
Improving estimation for asymptotically independent bivariate extremes via global estimators for the angular dependence function
针对二元变量渐近独立极值依赖建模问题，提出角依赖函数的全局估计量，通过模拟和英国河流数据案例验证其性能。
2024-06-26 stat.AP stat.ME
Cross-Validation, Risk Estimation, and Model Selection
交叉验证是一种流行的非参数方法，用于评估预测规则的准确性。交叉验证的有用性取决于我们想要使用它的任务。在这篇文章中，我讨论了一个简单的非参数设置，并发现交叉验证是渐近无信息的预期测试误差的任何给定的预测规则，但允许渐近一致的模型选择。这种现象的原因是交叉验证的前阶误差项不依赖于被评估的模型，因此当我们比较两个模型时会抵消。
2019-09-25 stat.ME
