On Score-Functions and Goodness-of-Fit Tests for Stochastic Processes
考虑了三种随机过程模型的渐近分布自由的拟合优度检验的构造问题。所有模型的原假设均为复合参数。所有的测试都是基于分数函数过程，其中未知参数被MLE代替。我们表明，一个特殊的时间变化的极限得分函数过程转换为布朗桥。这一性质使我们能够构造以下三种随机过程模型的渐近分布自由检验：小噪声动力系统、遍历扩散过程、非齐次Poisson过程和非线性AR时间序列。
2014-03-30 math.ST stat.TH
Asyptotic Normality for Maximum Likelihood Estimation and Operational Risk
操作风险模型通常采用最大似然估计（MLE）来拟合损失数据的重尾分布。然而，MLE的几个理想的属性（例如渐近正态性）通常只对大样本量有效，这种情况在操作风险中很少遇到。在本文中，我们研究了渐近正态性如何-或不-持有常见的严重性分布的操作风险模型。然后，我们应用这些结果来评估失败的渐近正态性在构建置信区间周围的MLE拟合参数所造成的错误。
2016-08-25 q-fin.RM stat.AP
Truncated, Censored, and Actuarial Payment-type Moments for Robust Fitting of a Single-parameter Pareto Distribution
本文针对单参数Pareto分布提出截断矩估计方法（MTuM），以解决MLE在存在离群值和截断、删失、缩放等损失控制机制下缺乏稳健性的问题，并建立了其渐近性质及与MLE的比较结果。
2024-02-21 stat.ME
Bias-Corrected and Variance-Corrected MLE for the New Median Based Unit Weibull Distribution (MBUW)
针对小到中等样本量下新中位数单位威布尔分布（MBUW）的极大似然估计（MLE）存在偏差及参数高相关性导致方差膨胀的问题，提出偏差校正方法并应用于实际数据分析，同时阐述基于负对数似然重参数化的方差校正方法。
2025-02-14 math.PR stat.ME
$β$ models for random hypergraphs with a given degree sequence
我们引入了随机超图的beta模型，以表示社会网络中代理之间的多路交互的发生。这个模型建立在随机图的beta模型的基础上，并将其推广，而beta模型只考虑成对的相互作用。给出了拟合模型参数的两种算法：IPS（迭代比例缩放）算法和不动点算法，证明了在极大似然估计（MLE）存在的条件下，这两种算法都是收敛的，并给出了处理极大似然估计存在性问题的算法和几何方法.
2014-07-03 cs.SI math.ST stat.TH
The Long Term Fréchet distribution: Estimation, Properties and its Application
本文提出了一种新的长期生存分布。所谓的长期Fréchet分布允许我们拟合一部分人口不受感兴趣事件影响的数据。该模型可用于例如临床研究中，其中一部分群体可在治疗期间治愈。它示出了一个帐户的数学性质的新的分布，如它的时刻和生存特性。同时给出了参数的极大似然估计。为了验证MLE的性能，进行了数值模拟。最后，一个重要的应用程序相关的白血病移植患者的生存时间进行了讨论，以说明我们提出的分布
2017-09-22 math.ST stat.TH
Maximum Likelihood Estimation for a Markov-Modulated Jump-Diffusion Model
当数据是扩散过程的离散时间样本，跳跃服从Laplace分布，扩散过程的参数由马尔可夫跳跃过程控制时，提出了一种求马尔可夫调制跳跃扩散模型（MMJDM）的极大似然估计（MLE）的方法.这些数据可以被看作是一个模型的不完全观测，具有易处理的似然函数。因此，我们使用EM算法来获得参数的MLE。我们验证我们的方法与模拟数据。获得该模型估计的动机是股票价格在不同的时间段具有不同的漂移和波动性。假设这些阶段受到宏观经济环境的调节，宏观经济环境的变化是由价格的不连续或跳跃引起的。该模型改进了经典模型如Black和Scholes模型或Merton的跳跃扩散模型（JDM）的股票价格表示。我们将该模型与亚马逊和Netflix在15年期间的股价进行了拟合，并使用我们的方法来估计MLE。
2022-11-30 math.ST q-fin.MF stat.TH
Rescuing neural spike train models from bad MLE
Stony Brook University（石溪大学）；Biomedicine Research Institute of Buenos Aires（布宜诺斯艾利斯生物医学研究所）
拟合自回归尖峰训练模型的标准方法是最大化一步预测的可能性。这种极大似然估计（MLE）通常会导致模型在递归生成多个时间步长的样本时表现不佳。此外，生成的尖峰序列可能无法捕获数据的重要特征，甚至显示出不同的放电率。为了缓解这一问题，我们建议直接使用尖峰训练内核最大限度地减少神经记录和模型生成的尖峰训练之间的分歧。我们开发了一种方法，随机优化内核引起的最大平均差异。在真实和合成神经数据上进行的实验验证了所提出的方法，表明它可以产生性能良好的模型。使用不同的组合尖峰训练内核，我们表明，我们可以控制不同的功能之间的权衡，这是处理模型失配的关键。
2020-10-23 cs.LG stat.ML
Distribution free goodness of fit tests for regularly varying tail distributions
本文讨论了构造一整类检验规则变化尾分布的渐近分布无关检验的可能性。其思想是，我们把分布的尾部作为一个参数族的成员，并使用极大似然估计指数。无论指数的估计量是什么，我们都能够将整个类转换为具有前缀指数的特定分布，这样我们就可以自由地选择尾部经验过程的任何泛函作为无分布的检验统计量。作为新检验类的例子，一些新检验的渐近性也得到了证明。
2018-06-05 math.ST stat.ME stat.TH
A modern maximum-likelihood theory for high-dimensional logistic regression
每个统计学或数据科学的学生都很早就知道，当样本量大大超过变量数量时，拟合逻辑模型会产生近似无偏的估计。每个学生还学习到，有一些公式可以预测这些估计值的变异性，这些估计值用于统计推断的目的;例如，产生p值来检验回归系数的显著性。虽然这些公式来自大样本渐近，我们经常被告知，我们是在合理的安全理由时，$n$是大的，以这种方式，$n \ge 5p$或$n \ge 10p$。本文表明，这是远离的情况下，因此，推理通常产生的常见软件包往往是不可靠的。考虑一个具有独立特征的Logistic模型，其中$n$和$p$以固定比例逐渐增大。然后，我们表明（1）MLE是有偏的，（2）MLE的变异性远远大于经典预测，（3）常用的似然比检验（LRT）不是卡方分布。MLE的偏倚是非常有问题的，因为它基于协变量的观测值对病例概率产生了完全错误的预测。我们发展了一个新的理论，它渐近地预测（1）最大似然估计的偏差，（2）最大似然估计的变异性，和（3）LRT的分布。我们的经验也表明，这些预测是非常准确的有限样本。此外，一个吸引人的特点是，这些新的预测取决于未知序列的回归系数，只有通过一个单一的标量，信号的整体强度。这表明非常具体的程序来调整推理;我们描述了一个这样的程序，从数据中学习单个参数并产生准确的推理
2018-06-16 math.ST stat.ME stat.TH
A note on the estimation of extreme value distributions using maximum product of spacings
利用最大间距积（MPS）估计广义极值分布（GEV）和广义Pareto分布（GPD）。有效的估计得到的MPS为所有$γ$。这优于仅对$γ<1$有效的最大似然方法。然后，它表明，MPS给出的估计更接近真实的参数相比，最大似然估计（MLE）在模拟研究。在样本量较小的情况下，MPS性能稳定，而MLE性能不稳定。MPS估计器的性能也比概率加权矩（PWM）估计器的性能更稳定。最后，作为MPS的副产品，拟合优度统计量，Moran统计量，可用于极值分布。经验的显着性水平的Moran统计量的计算被认为是令人满意的期望水平。
2007-02-27 math.ST stat.TH
Statistical ranking with dynamic covariates
该研究在Plackett–Luce框架下提出带动态协变量的统计排序模型，给出MLE可识别性与存在性的充要条件，设计高效算法，证明收敛性，并通过数值实验验证了模型在真实赛事数据上的有效性。
2025-03-19 stat.ME stat.ML
Robust statistical modeling of monthly rainfall: The minimum density power divergence approach
针对降雨数据异常值导致MLE推断失真的问题，提出基于MDPDE的稳健参数估计，并在印度36个分区1951–2014年月度降雨数据上验证其优于MLE。
2024-03-04 stat.AP
A new class of conditional Markov jump processes with regime switching and path dependence: properties and maximum likelihood estimation
本文提出了一类新的具有状态转换和路径依赖的条件马尔可夫跳过程。开发过程的关键新功能在于它能够切换的过渡率，因为它从一个状态到另一个切换概率取决于当前状态和时间的过程，以及它过去的轨迹。因此，从当前状态到另一个状态的转换取决于进程在该状态下的保持时间。该过程的分布特性是明确的速度制度表示的有限数量的不同的过渡矩阵，在每个状态下，和过去实现的过程中，选择政权成员的概率。特别是，它具有分布等价随机表示，具有Frydman和Surya（2020）中引入的马尔可夫跳跃过程的一般混合。导出了过程分布参数的封闭形式的最大似然估计。使用期望最大化算法迭代地进行估计。赤池信息准则用于评估所选模型的拟合优度。导出了极大似然估计的显式观测费舍尔信息矩阵，用于计算极大似然估计的标准误。信息矩阵采用Louis（1982）的一般矩阵公式的简化形式。给出了极大似然估计的大样本性质。特别地，转移率极大似然估计的协方差阵等于Cramér-Rao下界，而体制成员极大似然估计的协方差矩阵小于Cramér-Rao下界.模拟研究证实了这些发现，并表明，参数估计是准确的，一致的，并具有渐近正态性的样本量增加。
2021-07-14 cs.IT cs.SY eess.SY
Approximate co-sufficient sampling with regularization
本文扩展了近似共充分采样方法，使其适用于约束和正则化最大似然估计，解决了复杂估计问题。
2025-12-22 stat.ME
Analysis of sojourn time distributions for semi-Markov models
这份报告的目的是研究自然产生于半马尔可夫模型的某些逗留时间分布。为此，它描述了一个家庭的离散分布，扩展了几何分布的有限和无限的时间。给出了矩母函数、均值和方差的计算公式，并给出了具体的例子。我们考虑特定的参数化子族;线性因子模型和简单多项式因子模型。我们数值模拟绘制这些分布和解决的极大似然估计（MLE）的每个子家族的参数，包括非常小的样本量。然后，报告描述了MLE偏倚和方差的确定，并显示了它们与费舍尔信息的相关性，其中随着样本量的增加，它们表现出适当的浓度效应。最后，该报告解决了这些方法的应用实验数据，这表明了一个强大的适合与简单的多项式因子模型。
2022-06-22 math.PR math.ST stat.CO
Bridging the Prediction Error Method and Subspace Identification: A Weighted Null Space Fitting Method
本文针对状态空间模型估计问题，提出加权零空间拟合（WNSF）方法，结合预测误差方法与子空间辨识方法的优势，经统计分析证明该方法在规范参数化可行时一致且渐近有效，解决了相关长期问题，数值和实例表明其性能优于子空间辨识方法。
2026-07-08 cs.SY eess.SY stat.ME
Goodness-of-fit via Count Statistics in Dense Random Simplicial Complexes
本文针对一类多参数随机单纯复形模型，证明了子复形计数与临界单纯形数量的多变量中心极限定理，并据此构建拟合优度检验，同时证明了MLE估计量的渐近性质。
2023-09-25 math.PR math.ST stat.TH
On the estimators of autocorrelation model parameters
自相关和谱密度的估计在许多科学领域都具有根本的重要性，从天文学中识别脉冲星信号到医学中测量心跳。在对不适合任何简单模型族的特定自相关函数感兴趣的情况下，例如自回归移动平均（ARMA），通常以两种方式之一来估计模型参数：通过回归分析将模型自相关函数拟合到非参数自相关估计，或者通过极大似然将模型自相关函数直接拟合到数据。先前的文献表明，变差函数回归产生的参数估计可比质量的极大似然。在这封信中，我们证明，随着样本量的增加，最大似然估计（MLE）的准确性最终提高了几个数量级，超过变异函数回归。对于相对连续的高斯过程，这种改进可以发生在小于100的样本量。此外，即使这些方法的准确性是可比的，MLE仍然几乎普遍更好，更关键的是，变异函数回归不提供可靠的置信区间。不准确的回归参数估计通常伴随着被低估的标准误，而似然提供可靠的置信区间。
2013-01-21 stat.ME
Linear Regression for Power Law Distribution Fitting
本文提出用线性回归拟合幂律分布指数，通过S形函数校正偏差，得到近似无偏且方差与MLE相当的估计量。
2023-12-20 stat.AP
Bivariate Frank Copula: Some More Results on Point Estimation of the Association Parameter from a Bayesian Perspective and Revisiting the Goodness of Fit Tests with an Application to Model Groundwater Data from Dong Thap, Vietnam
Faculty of Applied Science, Ho Chi Minh City University of Technology (HCMUT)（胡志明市理工大学应用科学学院）；Vietnam National University Ho Chi Minh City（越南国家大学胡志明市分校）；Faculty of Mathematics and Statistics, Ton Duc Thang University（Ton Duc Thang大学数学与统计学院）
本文从贝叶斯视角探讨双变量Frank积聚函数关联参数点估计，比较不同先验下的估计性能，并重新检验拟合优度检验，应用于越南地下水数据分析。
2026-09-16 stat.AP stat.ME
Möbius-Invariant Goodness-of-Fit Tests for the Spherical Cauchy Model
Charles University（查理大学）；Université libre de Bruxelles（布鲁塞尔自由大学）
研究单位超球面上球形柯西模型的拟合优度检验，利用莫比乌斯变换不变性，通过样本莫比乌斯均值估计参数并变换观测值，应用基于投影的均匀性统计量，推导检验统计量渐近分布，通过实验验证方法有效性。
2026-07-28 math.ST stat.TH
Fitting the Linear Preferential Attachment Model
偏好连接是一种很有吸引力的机制，可以用来模拟有向社交网络中度分布的幂律行为。在本文中，我们考虑的方法拟合一个5参数线性偏好模型的网络数据下的两个数据场景。在网络形成的完整历史的情况下，我们推导出参数的极大似然估计，并证明它是强相合和渐近正态的。在只有网络的单次快照的情况下，我们提出了一种估计方法，它结合了矩量法与近似的可能性。由此产生的估计量也是强一致的，并且与MLE估计量相比表现得相当好。我们通过模拟数据说明了这两种估计过程，并探讨了该模型在真实数据示例中的使用。
2017-08-27 stat.ME
Semiparametric Mixture Regression with Unspecified Error Distributions
在混合线性回归模型的拟合中，传统的方法是采用正态假设来建立误差模型，然后用极大似然估计来估计回归参数。如果违反了正常假设，则此程序无效。为了放松误差分布的正态假设，从而降低建模偏差，我们提出了具有未知误差分布的半参数混合线性回归模型。在比已有结果更弱的条件下，我们建立了一个更一般的可辨识性结果，构造了一类新的估计量，并建立了它们的渐近性质。这些渐近结果也适用于许多现有的半参数混合回归估计的渐近性质仍然未知，由于在获得它们的固有困难。利用模拟研究，我们证明了所提出的估计的优越性超过极大似然估计时，违反了正常的错误假设和可比性时，错误是正常的。对2017年新收集的马传染性贫血病毒数据进行分析，以说明新估计量的有效性。
2018-11-02 stat.ME
Goodness--of--Fit Tests Based on the Min--Characteristic Function
提出基于min--characteristic function的L2型加权距离拟合优度检验，适用于Weibull等分布，具有渐近性质且在Monte Carlo和真实数据中验证有效。
2023-10-18 stat.ME
Maximum Likelihood Estimation for Entity Ranking under Iterative Synthetic Data Augmentation
Washington University in St. Louis（华盛顿大学圣路易斯分校）
本研究针对BTL模型下稀疏比较数据的实体排序问题，分析了迭代合成数据增强对最大似然估计的影响，推导了最优统计速率与渐近正态性，并刻画了避免模型崩溃的条件，通过实验验证了理论结果。
2026-09-29 math.ST stat.ME stat.ML
The Generalized Marshall-Olkin-Kumaraswamy-G family of distributions
通过使用Kumaraswamy-G（Cordeiro and de Castro，2011）分布作为广义Marshal-Olkin（Jayakumar and Mathew，2008）构造中的基线分布，提出了一个新的分布族。提出了一些特殊情况。通过将密度函数和生存函数扩展为无穷级数，所提出的族被视为Kumaraswamy-G（Cordeiro和de Castro，2011）分布的无穷混合。得到了顺序统计量的密度函数及其级数展开式。顺序统计量，矩，矩母函数，Rényi熵，分位数函数，随机样本产生，渐近线，形状和随机排序也进行了研究。提出了用极大似然法和矩量法进行参数估计的方法。文中还讨论了大样本标准误差和误差的置信区间。一个现实生活中的应用比较数据拟合与一些重要的子模型的家庭和其他一些模型被认为是。
2016-08-21 math.ST stat.TH
Consistency of the MLE under a two-parameter gamma mixture model with a structural shape parameter
有限Gamma混合模型通常用于描述收入数据、保险数据和来自其他应用程序的数据中的随机性。然而，流行的似然方法不适用于这种模型，因为似然函数是无界的，因此最大似然估计量没有很好地定义。已经有许多研究的方法，以确保一致的估计的混合分布，包括放置上界的形状参数或添加惩罚的对数似然函数。本文证明了如果有限Gamma混合模型中的形状参数是结构性的，则混合分布的极大似然估计是定义良好的和强相合的。我们还提出了模拟结果证明的估计的一致性。我们说明了应用的模型与结构尺度参数的家庭收入数据。拟合的混合分布导致几个可能的亚人口结构的水平的可支配收入。
2020-11-08 math.ST stat.TH
LatticeVision: Image to Image Networks for Modeling Non-Stationary Spatial Data
Colorado School of Mines（科罗拉多矿业学院）；NSF National Center for Atmospheric Research（国家大气研究中心）
本文提出利用图像到图像网络建模非平稳空间数据，通过将空间自回归参数视为网格，提升参数估计的效率和准确性。
2026-04-20 cs.LG stat.ML
Implementing the ICE Estimator in Multilayer Perceptron Classifiers
NYU Tandon（纽约大学坦顿工程学院）
本文介绍了用于实现ICE估计的多层感知器模型的技术，并回顾了由此产生的模型的性能。ICE估计器在Apache Spark MultilayerPerceptronClassifier中实现，并在交叉验证中显示优于使用未调整的MLE（交叉熵）损失的股票MultilayerPerceptronClassifier。所得到的模型具有相同的运行时性能，和股票MLP实现类似的拟合性能。此外，这种方法不需要超参数，因此可以作为交叉熵优化多层感知器分类器的替代品，无论在哪里过拟合可能是一个问题。
2020-07-13 cs.LG stat.CO
Calibration of the Pareto and related distributions -a reference-intrinsic approach
我们研究了两个贝叶斯（参考本征和杰弗里斯先验）和两个频率论（MLE和PWM）的方法来校准帕累托和相关的分布。三个这些方法进行了比较，在模拟研究和所有四个调查多少股权风险资本银行受巴塞尔II银行监管必须持有。参考内在方法在数据和参数的一对一变换下不变，在将广义帕累托分布拟合到从帕累托分布模拟的数据时表现更好，并且在股权资本要求的案例研究中具有竞争力
2019-11-22 stat.ME
A new method for the estimation of variance matrix with prescribed zeros in nonlinear mixed effects models
当高斯随机效应的方差阵具有指定的零点模式（PPZ）时，提出了一种非线性混合效应模型的极大似然估计（MLE）的新方法.该方法包括耦合最近开发的迭代条件拟合（ICF）算法与期望最大化（EM）算法。它为任何样本量提供了正定估计，并且不依赖于PPZ的任何结构假设。它可以很容易地适应许多版本的EM。
2008-11-25 stat.ME
Comparative Study of the Median Based Unit Rayleigh and its Generalized Form the Generalized Odd Median Based Unit Rayleigh
论文在真实数据集上比较 MBUR 与新增形状参数的 GOMBUR，利用 MLE 和 Nelder Mead 优化器拟合多种竞争分布，并依据有效性、拟合优度、方差和标准误评估新参数价值。
2025-03-12 stat.AP
On the correspondence of deviances and maximum likelihood and interval estimates from log-linear to logistic regression modelling
考虑一组分类变量$\mathcal{P}$，其中至少有一个（用$Y$表示）是二进制的。描述所得列联表中计数的对数线性模型意味着特定的逻辑斯谛回归模型，以二进制变量作为结果。推广了Christensen（1997）的结果，通过考虑列联表中的因子从逻辑斯谛回归模型中消失的情况，证明了逻辑斯谛回归模型参数的最大似然估计（MLE）等于对数线性模型中相应参数的极大似然估计。我们证明，渐近，标准误的两组参数也是相等的。随后，Wald置信区间渐近相等。这些结果表明，在何种程度上，从对数线性框架的推断可以转换为逻辑斯谛回归框架内的推断，对主效应和相互作用的大小。最后，我们证明了对数线性模型的偏差等于相应的逻辑斯谛回归的偏差，只要后者适合于当$\mathcal{P} \setminus \{ Y \}$中的一个或多个因子变得过时时没有合并细胞观察的数据集。我们用一个真实数据集的分析来说明导出的结果。
2019-12-03 stat.ME
High-Dimensional Covariance Decomposition into Sparse Markov and Independence Models
拟合高维数据涉及到忠实表示和稀疏模型的使用之间的微妙权衡。通常，拟合模型上的稀疏性假设过于严格，无法提供观测数据的忠实表示。本文提出了一种在不同领域结合稀疏性的新框架，将观测到的协方差阵分解为稀疏高斯马尔可夫模型（具有稀疏精度矩阵）和稀疏独立模型（具有稀疏协方差阵）。我们的框架将稀疏协方差和稀疏精度估计作为特例，从而引入了更丰富的高维模型。我们刻画了两个模型，\viz马尔可夫模型和独立模型的可识别性的充分条件。我们提出了一种有效的分解方法的基础上修改流行的$\ell_1$惩罚最大似然估计（$\ell_1$ -MLE）。我们确定我们的估计量在两个域中是一致的，即，当样本数$n$为$n = Ω(d^2 \log p)$时，它成功地恢复了马尔可夫模型和独立模型的支持度，其中$p$是马尔可夫模型中的变量数，$d$是马尔可夫模型中的最大节点度.我们的实验验证了这些结果，也表明我们的模型有更好的推理精度下简单的算法，如循环的信念传播。
2013-12-14 math.ST stat.ML stat.TH
Debiasing Sample Loadings and Scores in Exponential Family PCA for Sparse Count Data
针对稀疏计数数据指数族PCA中得分估计的极端偏差问题，本文识别载荷估计误差与MLE偏差两大来源，提出迭代自助法与测量误差模型结合的去偏方法，并经模拟与真实数据验证其有效性。
2023-12-20 stat.AP stat.ME
Bayesian Estimations for Diagonalizable Bilinear SPDEs
本文的主要目的是研究由特殊结构的乘性噪声驱动的线性（抛物型）随机偏微分方程漂移系数的贝叶斯参数估计问题。我们采取频谱的方法，假设一个路径的第一个$N$傅立叶模式的解决方案是连续观察在一个有限的时间间隔。首先，我们证明了模型是正则的，并且符合经典的局部渐近正态性框架，从而在多项式增长的损失函数类中，极大似然估计和贝叶斯估计是弱相合的、渐近正态的、有效的和渐近等价的.其次，主要是，我们证明了Bernstein-Von Mises型的结果，加强了文献中现有的结果，也允许调查贝叶斯型估计的先验和损失函数比经典渐近理论所涵盖的更大的类。特别地，在至多指数增长性的损失函数类中，我们证明了贝叶斯估计的强相合性和渐近正态性。最后，我们提出了一些数值例子来说明所得到的理论结果。
2019-03-01 math.PR math.ST stat.TH
Contrastive Learning for Debiased Candidate Generation in Large-Scale Recommender Systems
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
通过表示学习将相关项目的集合从数十亿缩小到数百个的深度候选生成（DCG）在工业推荐系统中已经变得普遍。标准方法通过采样近似最大似然估计（MLE）以获得更好的可扩展性，并以类似于语言建模的方式解决DCG问题。然而，实时推荐系统面临严重的曝光偏差，并且具有比自然语言大几个数量级的词汇，这意味着MLE将在长期内保持甚至加剧曝光偏差，以便忠实地拟合观察到的样本。在本文中，我们从理论上证明了一个流行的选择对比损失是等效的，通过反向倾向加权减少暴露偏差，这为理解对比学习的有效性提供了一个新的视角。基于理论发现，我们设计了CLRec，一个对比学习方法，以改善DCG在公平性，有效性和效率方面的推荐系统，具有极大的候选大小。我们进一步改进CLRec，并提出多CLRec，准确的多意图感知偏见减少。我们的方法已经在淘宝上成功部署，至少四个月的在线A/B测试和离线分析证明了它的实质性改进，包括马太效应的显着减少。
2021-06-04 cs.IR cs.LG cs.SI
Regularized Maximum Likelihood Estimation and Feature Selection in Mixtures-of-Experts Models
Normandie Univ（诺曼底大学）；UNICAEN（卡昂大学）；UMR CNRS LMNO（法国国家科学研究中心LMNO联合研究单位）
混合专家模型（Mixture of Experts，MoE）是在回归、聚类和分类等统计学习问题中为异构数据建模的成功模型。通常通过期望最大化算法用极大似然估计拟合，因此它们在高维问题中的应用仍然具有挑战性。我们考虑在MoE模型的拟合和特征选择的问题，并提出了一个正则化的极大似然估计的方法，鼓励稀疏解决方案的异质回归数据模型与潜在的高维预测。与最先进的正则化MLE MoE，所提出的建模不需要近似的惩罚函数。本文提出了两种混合期望最大化算法：期望-优化-最大化（EM/MM）算法和带有坐标上升算法的期望最大化算法。所提出的算法允许自动获得稀疏的解决方案，而无需阈值，并避免矩阵求逆，允许单变量参数更新。实验研究表明，该算法在恢复实际稀疏解、参数估计和异质回归数据聚类等方面具有良好的性能。
2018-10-29 cs.LG stat.CO stat.ME
Learning the Structure and Parameters of Large-Population Graphical Games from Behavioral Data
Massachusetts Institute of Technology（麻省理工学院）；Stony Brook University（石溪大学）
我们考虑从严格的行为数据中学习线性影响游戏（LIGs）的结构和参数，这是Irfan和Ortiz（2014）引入的一类参数图形游戏。LIGs促进因果战略推理（CSI）：从战略环境中的稳定行为的因果干预中做出推论。应用包括识别大型（社交）网络中最有影响力的个人。这些任务还可以支持决策分析。出于对LIGs的计算工作的动机，我们将学习问题转换为纯策略纳什均衡（PSNE）定义的生成模型的最大似然估计（MLE）。我们的简单公式揭示了拟合优度和模型复杂性之间的基本相互作用：好的模型在数据中捕获平衡行为，同时控制平衡的真实数量，包括那些未观察到的平衡。我们提供了一个泛化界建立在我们的框架中的MLE的样本复杂性。我们提出了几种算法，包括凸损失最小化（CLM）和S形近似。我们证明了在LIGs中精确的PSNE的数量很小，概率很高，因此，CLM是合理的。我们说明了我们的方法上的合成数据和现实世界的美国国会投票记录。我们简要讨论了我们的学习框架的一般性和潜在的适用性，一般图形游戏。
2015-05-04 cs.GT cs.LG stat.ML
Estimating customer impatience in a service system with unobserved balking
本文研究了一个服务系统，在该系统中，到达的客户提供的信息，他们将经历的延迟。根据这些信息，他们决定等待服务或离开系统。具体来说，每个客户都有一个耐心阈值，如果观察到的延迟超过阈值，他们就会退缩。其主要目的是估计的客户的耐心水平分布和相应的潜在到达率的参数，仅使用的知识，实际的排队长度过程。我们设置的主要复杂性和显着特征在于，决定不加入的客户没有被观察到，值得注意的是，我们设法设计了一个过程来估计潜在的耐心和到达率参数。该模型是一个多服务器队列与泊松流的客户，使相应的似然函数的状态相关的有效到达过程的评估。我们建立了极大似然估计的强相合性，并得到了估计误差的渐近分布。讨论了该方法的几个应用和扩展。通过一系列的数值实验进一步评估的性能。通过拟合超指数分布和广义超指数分布的参数，我们的方法为任何连续的患者水平分布提供了一个鲁棒的估计框架。
2022-08-30 math.PR math.ST stat.TH
Method of Winsorized Moments for Robust Fitting of Truncated and Censored Lognormal Distributions
本文提出自适应Winsorized矩方法（MWM）用于截断与删失对数正态分布的稳健参数估计，推导其渐近性质并与MLE和MTM比较，通过模拟和真实保险损失数据验证了该方法的有效性。
2024-02-21 stat.ME
Generalised Boosted Forests
本文扩展了最近的工作，提高随机森林模型的非高斯响应。给定一个指数族$\mathbb{E}[Y|X] = g^{-1}(f(X))$，我们的目标是获得对$f$的估计。我们从链接空间中的MLE类型估计开始，然后从它定义广义残差。我们使用这些残差和一些相应的权重来拟合基本随机森林，然后重复相同的操作以获得提升随机森林。我们称这三个估计量之和为\textit{generalised boosted forest}。我们用模拟和真实数据表明，随机森林步骤都降低了测试集对数似然，我们将其视为我们的主要指标。我们还提供了一个方差估计，我们可以获得与原始估计本身相同的计算成本。对真实数据和模拟数据的实证实验表明，该方法能有效地降低偏倚，且协变量分布的大部分区域的置信区间覆盖率是保守的。
2021-03-02 stat.ME stat.ML
Scalable estimation of VARMA models
Nanyang Technological University（南洋理工大学）；University of Edinburgh（爱丁堡大学）
本文提出一种计算量与序列长度无关的VARMA模型估计框架，通过偏自相关重参数化等技术得到两种估计量，在多维度数据集上表现优于或匹配相关基线，解决了高维VARMA估计的计算难题。
2026-08-07 cs.LG math.ST stat.ML
Generalised Score Distribution: Underdispersed Continuation of the Beta-Binomial Distribution
一类离散概率分布包含有限支持度的分布。一个典型的例子是李克特量表的一些变体，其响应映射到$\{1, 2, \ldots, 5\}$或$\{-3, -2, \ldots, 2, 3\}$集。有限支撑离散分布的一个有趣的子类是仅限于两个参数的分布，并且概率单调性的变化不超过一个。本文的主要贡献是提出了一个家庭的分布拟合上述描述，我们称之为广义分数分布（GSD）类。建议的GSD类涵盖了所有可能的均值和方差，任何固定和有限的支持。此外，GSD类可以被视为重新参数化的beta-二项分布的欠分散延续。GSD类参数是直观的，可以很容易地估计的矩量法。我们还提供了一个极大似然估计（MLE）算法的GSD类和证据表明，类正确地描述响应分布来自24个多媒体质量评估实验。最后，我们证明了GSD类可以表示为二分0 - 1随机变量的和，这表明了一个有趣的解释类。
2022-04-22 cs.MM stat.AP
Extrapolation from historical data cannot reliably predict the time of a potential AMOC collapse
Technical University of Munich（慕尼黑工业大学）；Potsdam Institute for Climate Impact Research（波茨坦气候影响研究所）；UiT The Arctic University of Norway（挪威北极大学）
本文评估了DD23基于海表温度变异性外推预测AMOC崩溃时间的可靠性，指出其结果对四种不确定性因素敏感，且预测时间可能延伸至数千年后。
2026-04-22 physics.geo-ph stat.AP
Modified Bivariate Weibull Distribution Allowing Instantaneous and Early Failures
在可靠性和寿命数据分析中，韦布尔分布被广泛应用，通过改变参数的值来适应更多的数据特征。在可靠性和寿命测试实验中，我们经常观察到许多零或接近零的数据点。我们称这种现象为几乎瞬时失效。许多研究人员修改了常用的单变量参数模型，如指数，伽玛，威布尔，和对数正态分布，以适当地适应这种数据具有瞬时故障的观察。研究人员还发现，双变量相关寿命测试数据在特定点附近有许多观测值，而其余观测值遵循某种连续分布。这种情况定义为对于这种双变量响应具有早期失效的响应。如果该点是原点，那么我们称这种情况为响应的几乎瞬时失败。在这里，我们提出了一个修改的二元韦布尔分布，允许早期失效的二元均匀分布和二元韦布尔分布相结合。假设边缘分布为两个参数韦布尔分布，利用二维copula构造二元韦布尔分布。我们推导了修正的二元韦布尔分布的一些性质，主要是联合概率密度函数、生存（可靠性）函数和危险（失效率）函数。模型的未知参数估计使用极大似然估计（MLE）技术结合机器学习聚类算法。数值例子提供使用模拟数据来说明和测试所提出的方法的性能。该方法也适用于实际数据，并与现有的方法来模拟这种数据在文献中进行比较。
2022-06-03 stat.ME
Empirical Bayes estimation: When does $g$-modeling beat $f$-modeling in theory (and in practice)?
本文从理论上证明，对于具有有界p>1阶矩的重尾先验，g-建模（如NPMLE）能实现最优经验贝叶斯遗憾，而f-建模（如Robbins估计量）即使密度估计最优，其EB遗憾仍可能次优，从而揭示了贝叶斯形式在最优EB估计中的关键作用。
2024-11-19 math.ST stat.ME stat.TH
Quantile Least Squares: A Flexible Approach for Robust Estimation and Validation of Location-Scale Families
本文提出分位数最小二乘（QLS）方法，利用样本分位数的联合渐近正态性构造位置-尺度参数的显式稳健估计量，并建立拟合优度检验，在谷歌股票收益率数据上验证了逻辑分布假设。
2025-05-02 stat.CO stat.ME
Efficiency Assessment of Approximated Spatial Predictions for Large Datasets
由于精确极大似然估计（MLE）在大空间观测值中的计算困难，文献中提出了各种近似方法，这些方法通常需要调整某些输入。例如，最近开发的瓦片低秩近似（TLR）方法涉及许多调谐参数，包括数值精度。为了合理地选择调整参数，采用一个有意义的标准来评估不同输入下的预测效率是至关重要的，这是最常用的均方预测误差（MSPE）标准和库尔贝克-莱布勒散度标准不能完全描述的。在本文中，我们提出了另外三个准则，平均效率损失（MLOE），均方误差的平均误定（MSPE）和均方根误差（RSPE），并通过数值计算表明，与常用的MSPE准则和库尔贝克-莱布勒散度准则相比，我们的准则具有更好的信息量，因此更适合于通过使用近似的或错误指定的协方差模型来评估预测效率的损失。因此，我们建议的标准是更有用的空间模型拟合的复杂的近似方法的调整参数的确定。为了说明这一点，我们调查的执行时间，估计精度和预测效率之间的权衡TLR方法与广泛的模拟研究，并建议适当的设置TLR的调整参数。然后将TLR方法应用于密西西比河流域土壤水分的大型空间数据集，并将TLR与高斯预测过程和复合似然方法进行比较，表明我们提出的标准可以成功地用于选择调整参数，以保持估计或预测精度。
2021-06-09 stat.CO stat.ME
Estimation Method under Three-Parameter Generalized Exponential Model: Consistency, Uniqueness and its Applications
Newcastle University（纽卡斯尔大学）；Indian Institute of Technology Kanpur（坎普尔印度理工学院）
本文提出了一种在三参数广义指数模型下规避似然函数无界问题的一致估计方法，并展示了其唯一性和一致性，同时通过模拟和实际数据验证其有效性。
2026-02-28 stat.CO stat.ME
On Parameter Estimation in Deviated Gaussian Mixture of Experts
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对偏差高斯混合专家模型的参数估计问题（源于拟合优度检验场景），该研究构建基于Voronoi的新型损失函数，可更准确地表征最大似然估计的局部收敛速率，效果优于常用的广义Wasserstein损失。
2024-06-24 cs.LG stat.ML
Adaptive Mean Estimation by In-Context Learning: A Gradient-Flow Analysis
National University of Singapore（新加坡国立大学）；University of California, Davis（加州大学戴维斯分校）；Princeton University（普林斯顿大学）
本文通过梯度流分析，证明先验拟合网络在位置估计中通过上下文学习实现统计自适应性，在多种数据分布下达到接近最优的估计速率。
2026-10-07 cs.LG stat.ML
