Nonparametric estimation of jump rates for a specific class of Piecewise Deterministic Markov Processes
本文考虑了一个具有已知流和确定转移测度,未知跳率$λ$的分段确定马尔可夫过程.为了非参数地估计跳跃率,我们首先构造了平稳密度的自适应估计,然后导出了$λ$的商估计$\hatλ_n$.我们提供了统一的界限,这些估计的风险,并证明了估计的跳跃率是近minimax(高达$\ln^2(n)$因素)。模拟说明了我们的估计的行为。
2020-12-08 math.PR math.ST stat.TH
Peak-over-Threshold Estimators for Spectral Tail Processes: Random vs Deterministic Thresholds
规则变化的平稳时间序列的极值依赖性可以用谱尾过程来描述。Drees,Segers and Warchol [Extremes 18(3):369--402,2015]提出了基于高确定性阈值上的方差的该过程的边缘分布的估计,并分析了它们的渐近行为。然而,在实践中,应用的估计量的版本使用随机阈值,如中间顺序统计量的方差。我们证明了这些修正估计具有相同的极限分布。这一发现在模拟研究中得到证实,但使用顺序统计量的版本对有限样本的表现稍好。
2019-07-22 math.ST stat.ME stat.TH
A recursive nonparametric estimator for the transition kernel of a piecewise-deterministic Markov process
在本文中,我们研究了一个非参数的方法来提供一个递归估计的非平稳分段确定的马尔可夫过程的转移密度,从只有一个观察的路径在一个很长的时间。在这个框架中,我们没有观察到一个马尔可夫链的过渡核的兴趣。幸运的是,我们可以将感兴趣的跃迁密度写为过程的两个嵌入链的不变分布之比。我们的方法包括估计这些不变测度。我们的状态的一致性和中心极限定理的主要特点的过程的一些一般假设下的结果。仿真研究表明了我们的估计量具有良好的渐近性态。
2013-05-06 math.ST stat.TH
Score Matching-based Pseudolikelihood Estimation of Neural Marked Spatio-Temporal Point Process with Uncertainty Quantification
Georgia Tech(佐治亚理工学院);The Chinese University of Hong Kong(香港中文大学)
针对时空点过程学习中的分布受限、积分近似不准及缺乏不确定性量化问题,提出基于分数匹配的伪似然估计器SMASH,采用无归一化目标并通过置信区域实现预测的不确定性量化,实验证明其性能优越。
2023-10-25 cs.LG
Statistical Efficiency of Score Matching: The View from Isoperimetry
Stanford University(斯坦福大学);Carnegie Mellon University(卡内基梅隆大学)
参数化到归一化常数的深度生成模型(例如,基于能量的模型)难以通过最大化数据的似然性来训练,因为其似然性和/或梯度不能被明确地或有效地写下。分数匹配是一种训练方法,我们不是拟合训练数据的似然$\log p(x)$,而是拟合分数函数$\nabla_x \log p(x)$ --避免了评估分区函数的需要。虽然这个估计量已知是一致的,但它的统计效率是否(以及何时)与最大似然法相当还不清楚,最大似然法已知是(渐近)最优的。我们在本文中启动这一调查线,并显示统计效率的得分匹配和等周属性的分布估计-即庞加莱,对数-Sobolev和等周常数-数量管理的混合时间的马尔可夫过程,如朗之万动力学之间的紧密联系。粗略地说,我们表明,分数匹配估计是统计上可比的最大似然分布时,有一个小的等周常数。相反,如果分布有一个大的等周常数-即使是简单的分布族,如指数族,具有足够丰富的统计数据-分数匹配将大大低于最大似然法的效率。我们适当地形式化这些结果在有限样本制度,并在渐近制度。最后,我们确定了一个直接平行的离散设置,在那里我们连接的统计性质的pseudolikkastrointestimation近似张量熵和Glauber动力学。
2022-12-22 cs.LG math.ST stat.ML
Optimal choice among a class of nonparametric estimators of the jump rate for piecewise-deterministic Markov processes
分段确定性马尔可夫过程是一个随机过程,其行为由一个常微分方程控制,该方程被随机时间发生的随机跳跃打断。在遍历性条件下,研究了长时间观测的随机模型的跳跃率的非参数估计问题。我们引入了一个不可数的类(指标的确定性流)的递归核估计的跳跃率,我们建立了强逐点一致性以及它们的渐近正态性。我们建议在这一类中选择具有最小方差的估计量,不幸的是,这是未知的,因此仍有待估计。我们还讨论了交叉验证方法的带宽参数的选择。
2016-05-23 math.ST stat.TH
A non-asymptotic theory of Kernel Ridge Regression: deterministic equivalents, test error, and GCV estimator
Toyota Technological Institute at Chicago(芝加哥丰田理工学院);Stanford University(斯坦福大学)
本文为核岭回归建立非渐近确定性等价理论,证明测试误差可由核谱近似,并证明GCV估计器可一致估计测试误差与最优正则化参数。
2024-03-13 cs.LG math.ST stat.ML
Statistical estimation of jump rates for a specific class of Piecewise Deterministic Markov Processes
本文考虑一类状态空间为$\R\_{+}^{*}$的分段确定性马尔可夫过程,它具有递增的确定性运动,当它们跳跃时确定性收缩。这类过程的众所周知的例子是传输控制协议(TCP)窗口大小过程和模拟“标记的”{ \it大肠杆菌}细胞大小的过程。在观测到PdR直到其$n$次跳跃之后,我们构造了跳跃率的非参数估计$λ$。我们的主要结果是,对于$\R\_{+}^{*}$的紧子集$D$,如果$λ$在H{\“{o}}lder空间${\mathcal H}^s({\mathcal D})$中,估计量的平方损失误差渐近地接近于$n^{-s/(2s+1)}$的速率.模拟说明了我们的估计的行为。
2015-03-10 math.ST stat.TH
On the asymptotic normality and the construction of confidence intervals for estimators after sampling with probabilistic and deterministic stopping rules
序贯研究的一个关键特征是实际样本量是一个随机变量,通常取决于收集的结果。虽然序贯设计的假设检验理论已经很好地建立,但参数和精度估计还不太清楚。尽管早期的工作已经建立了一些特设估计,以克服所谓的偏见,在普通样本平均值,最近的工作表明,样本平均值是一致的。在这些结果的基础上,通过为全变差距离提供一个收敛速率,可以确定样本平均值的渐近分布在几乎所有情况下都是正态的,除了在一个非常具体的情况下,即停止规则是确定性的,并且真实的总体平均值与停止和继续之间的截止值相一致。对于这种病理情况,发现与正常的Kolmogorov距离等于0.125。虽然在渐近分布中值得注意,但模拟表明,幸运的是,基于正态分布的置信区间的覆盖范围没有任何后果。
2017-12-20 math.ST stat.TH
Nonparametric estimation of the conditional distribution of the inter-jumping times for piecewise-deterministic Markov processes
本文提出了一种估计分段确定马尔可夫过程跳率条件密度的非参数方法。在我们的框架中,估计只需要在很长的时间间隔内对过程进行一次观测。我们的方法依赖于Aalen的乘法强度模型的推广。我们证明了我们的估计一致的一致性,在一些合理的假设有关的原始特征的过程。一个模拟例子说明了我们的估计的行为。
2012-07-11 math.ST stat.TH
Asymptotic Analysis and Practical Evaluation of Jump Rate Estimators in Piecewise-Deterministic Markov Processes
Inria Lyon(里昂国家信息与自动化研究所);Univ Angers, CNRS, LAREMA(昂热大学、法国国家科学研究中心、LAREMA实验室)
本文提出统一框架分析PDMP中跳跃率估计器的渐近性质,并通过TCP模型和真实数据验证其理论与实际性能。
2026-08-03 math.ST stat.ME stat.TH
A U-statistic estimator for the variance of resampling-based error estimators
我们重新讨论了二进制分类中的误差估计在U-统计方面的restaurant程序。特别是,我们利用的事实,差错率估计,涉及所有的学习测试分裂是一个U-统计量。因此,它在所有无偏估计量中具有最小方差,并且是渐近正态分布的。此外,如果总样本量至少是双倍学习集大小加2,则存在此最小方差的无偏估计量。在这种情况下,我们展示了这样一个估计量,它是另一个U-统计量。它享有,再次,各种最优属性,并产生一个渐近精确的假设检验的平等差错率时,两个学习算法进行比较。我们的陈述适用于弱非退化假设下的任何确定性学习算法。
2013-12-18 math.ST stat.ML stat.TH
A Lynden-Bell integral estimator for the tail index of right-truncated data with a random threshold
本文利用具有确定性阈值的Lynden-Bell积分,讨论了Worms和Worms [A Lynden-Bell integral estimator for extremes of randomized truncated data.中央集权主义者可能吧Lett. 2016; 109:106-117]最近介绍了随机右截断Pareto型数据的尾指数的渐近正态估计。在这种情况下,我们考虑随机阈值的情况下,得到一个Hill型估计,并建立其一致性和渐近正态性。仿真研究进行评估所提出的估计的有限样本行为。
2016-11-20 math.ST stat.TH
Parameter Estimation for Diffusive Stochastic Master Equations in Continuously Observed Quantum Systems
Faculty of Science and Technology, Seikei University(立教大学理工学部);Faculty of Management, Tokyo University of Science(东京理科大学经营学部)
本文针对连续观测量子系统中扩散随机主方程的参数估计问题,提出基于确定性平均态的最大对比估计量,并证明其强相合性与渐近正态性,同时给出可计算的相合协方差估计量以评估不确定性。
2026-09-10 math.ST stat.TH
The Asymptotic Distribution of Sample Canonical Directions in Gaussian Spiked High-dimensional CCA
Northeast Normal University(东北师范大学)
研究高斯尖峰高维CCA模型中样本典型方向的渐近行为,推导了平方对齐的确定性极限和中心极限定理,并构造了可计算的插件估计量。
2026-06-08 math.ST stat.ME stat.TH
An estimator for the quadratic covariation of asynchronously observed Itô processes with noise: Asymptotic distribution theory
研究了可加微结构噪声模型中非同步观测伊藤过程的二次协方差的非参数估计。在高频环境下,我们的目标是建立一个渐近分布理论的广义多尺度估计,包括一个可行的中心极限定理与最佳的收敛速度方便的正则性假设。异步确定性采样方案和噪声腐败的渐近分布的不可避免的剩余影响精确阐明。各种重要的例子,几个概括的模型和算法的实施保证的估计方法在应用程序中的效用的案例研究。
2011-06-21 math.ST stat.TH
Ergodic Estimation and Model Assessment for Dynamic Exceedance Times
针对非平稳环境过程的超越时间估计,本文提出基于遍历理论的经验估计量并证明含中心极限定理的收敛性,用风数据置信区间评估 Gaussian copula processes 等模型。
2024-06-17 math.ST stat.TH
Lower Bounds and a Near-Optimal Shrinkage Estimator for Least Squares using Random Projections
在这项工作中,我们认为使用随机投影的确定性优化作为一个统计估计问题,其中从估计器的预测和真正的解决方案之间的平方距离是误差度量。在近似解决一个大规模的最小二乘问题,使用高斯草图,我们表明,草图的解决方案有一个条件高斯分布的真正的解决方案作为其平均值。首先,紧最坏情况下的误差下界与显式常数推导出任何估计使用高斯草图,和经典草图是最佳无偏估计。对于有偏估计量,下界也包含了关于真解的先验知识。其次,我们使用James-Stein估计器,推导出一个改进的估计器,用于使用高斯草图的最小二乘解。该估计的期望误差的上界,这是小于的任何给定的数据的经典高斯草图解决方案的错误。当已知真实解的SNR较小且数据矩阵条件良态时,上界和下界匹配。经验上,该估计器在模拟和真实数据集上实现了较小的误差,并且也适用于其他常见的草图绘制方法。
2020-06-15 cs.IT math.IT math.OC
GANISP: a GAN-assisted Importance SPlitting Probability Estimator
National Renewable Energy Laboratory(国家可再生能源实验室)
设计高成品率和高可靠性的制造工艺依赖于有效的稀有事件估计方法。系谱重要性分裂通过迭代地选择和复制朝向罕见事件的实现来降低罕见事件概率估计的方差。复制步骤是困难的,当应用于确定性系统的后代实现的初始条件需要修改。通常,随机扰动被应用于后代以区分它们的轨迹与父实现。然而,这种随机扰动策略可能对某些系统有效,而对其他系统则失败,从而阻止了概率估计的方差减小。这项工作旨在解决这个限制,使用生成模型,如生成对抗网络(GAN),以生成与动力系统的吸引子一致的扰动。提出的GAN辅助重要性分割方法(GANISP)提高了目标系统的方差降低。该方法的实现可以在配套的存储库(https://github.com/NARD/GANISP)中获得。
2021-12-28 cs.AI cs.LG nlin.CD
Partially-blind Estimation of Reciprocal Channels for AF Two-Way Relay Networks Employing M-PSK Modulation
我们考虑放大转发双向中继的信道估计问题,假设信道互易性和M-PSK调制。在早期的工作中,部分盲最大似然估计是通过将数据视为确定性未知数而得到的。我们证明了该估计器在高信噪比(SNR)下以高概率逼近真实信道,但并不一致。然后,我们提出了一种替代的估计,这是一致的,并具有同样有利的高信噪比性能。我们还得到了无偏估计方差的Cramer-Rao界。
2012-02-15 cs.IT math.IT stat.OT
Optimal bounds for aggregation of affine estimators
本文研究了当估计量不独立于用于聚集的数据且不允许样本分裂时的估计量聚集问题。如果估计量是确定性向量,则众所周知,最小最大聚集率是$\log(M)$阶,其中$M$是要聚集的估计量的数量。证明了对于仿射估计量,最小最大聚集率是不变的:可以处理仿射估计量和用于聚集的数据之间的线性依赖,而不需要额外的成本。极小极大率不受仿射估计量的方差或其统计复杂性的任何其他度量的影响。极小极大率是通过估计量的凸包上的惩罚过程获得的,惩罚是从$Q$ -聚集过程中得到的。结果遵循惩罚,强凸性和浓度之间的相互作用。
2018-02-27 math.PR math.ST stat.TH
Isotonic Regression in Multi-Dimensional Spaces and Graphs
本文研究了一般保序回归中的极大极小和适应率问题。对于具有$d\ge 2$和$N(0,1)$噪声的$[0,1]^d$中的均匀确定性和随机设计,当未知均值函数$f$为非减函数且其范围由一个常数限定时,已知$\ell_2$风险的最小最大比率由$n^{-1/d}$限定,而已知最小二乘估计量(LSE)几乎达到最小最大比率,直至因子$(\log n)^γ$,其中$n$是样本量,$γ= 4$在格子设计中和$γ= \max\{9/2, (d^2+d+1)/2 \}$在随机设计中。此外,已知当$f$在$[0,1]^d$的分区中的$K$超矩形上分段恒定时,LSE实现自适应速率$(K/n)^{-2/d}\{1\vee \log(n/K)\}^{2γ}$。由于极大极小定理,LSE在每个设计点上都与包含设计点的所有上下集上的最大-最小和最小-最大估计量相同。这促使我们考虑估计之间的最大-最小和最小-最大估计可能更小的类的上下集,包括一个子类的块估计。在噪声的$q$阶矩条件下,我们给出了图上保序回归的一般估计的$\ell_q$风险界。对于具有$d\ge 3$的$[0,1]^d$中的均匀确定性和随机设计,当$f$的范围有界时,我们的$\ell_2$风险界匹配极小极大率$n^{-1/d}$,并且当$f$是$K$ -分段常数时,达到接近参数自适应率$(K/n)\{1\vee\log(n/K)\}^{d}$。此外,块…
2020-01-10 math.ST stat.TH
Spectral Universality of Regularized Linear Regression with Nearly Deterministic Sensing Matrices
该研究针对加性高斯噪声下线性回归的凸正则化最小二乘估计器,通过确定性条件定义感知矩阵普适性类,证明同类矩阵的近端梯度下降动力学及估计器性能渐近一致,可借助旋转不变系综表征有限随机结构化矩阵的回归性能。
2023-07-20 cs.IT math.IT math.PR
Robust Penalized Estimators for High--Dimensional Generalized Linear Models
本文针对高维广义线性模型提出一种惩罚变换M估计量,证明其一致性与渐近正态性,并设计迭代重加权最小二乘算法及确定性初始化程序,通过模拟和真实数据验证了方法的稳健性。
2025-07-07 math.ST stat.ME stat.TH
Limiting properties of monotone rearrangements of estimators when the truth is flat
Faculty of Mathematics, Ruhr-Universität Bochum(鲁尔大学波鸿分校数学学院);Department of Statistical Sciences, University of Toronto(多伦多大学统计科学系)
本文针对真值为平坦的情形,研究单调重排估计量的极限性质,推导了均匀密度直方图重排估计量及两类重排copula估计量的弱收敛结果,并证明了相关相依测度的渐近正态性。
2026-08-27 math.ST stat.TH
Optimal rates for aggregation of affine estimators
Yau Mathematical Sciences Center, Tsinghua University(清华大学丘成桐数学科学中心)
本文研究仿射估计量的凸聚合与线性聚合问题,通过最小化Mallows' C_p准则估计权重,建立了达到最优的极小极大聚合速率。
2026-09-09 math.ST stat.TH
Exploring Positive Noise in Estimation Theory
通过顺序统计量的方法,探讨了在非高斯加性噪声中观测到的确定性量的估计。更具体地说,我们研究的估计问题时,测量噪声要么有积极的支持或遵循的混合正态和均匀分布。这是一个非常感兴趣的问题,特别是在蜂窝定位系统中,其中无线信号易于受到通常具有正支持的多个噪声源的影响。多个噪声分布进行了调查,如果可能的话,最小方差无偏(MVU)估计。在均匀分布、指数分布和瑞利分布的情况下,也给出了在不知道噪声分布超参数的情况下的无偏估计。对于每一个噪声分布,建议的顺序基于几何的估计的性能,在均方误差方面,进行了比较的最佳线性无偏估计(BLUE),作为样本大小的函数,在模拟研究。
2019-11-24 eess.SP stat.ME
A unified analysis of likelihood-based estimators in the Plackett--Luce model
本文统一分析了Plackett--Luce模型中基于完全、边际和拟似然的效用向量估计量的渐近性质,建立了一致性和渐近正态性,并讨论了统计效率与计算复杂度的权衡。
2025-05-08 math.ST stat.ME stat.TH
Generalized Bayesian Cramér-Rao Inequality via Information Geometry of Relative $α$-Entropy
相对$α$ -熵是相对熵的Rényi类比,在信息论问题中非常突出。最近的信息几何调查这个数量已经使推广的Cramér-Rao不等式,它提供了一个下界的估计方差的护送的基本参数概率分布。然而,这一框架在贝叶斯框架中仍然没有得到检验。本文提出了一种基于相对$α$ -熵的广义黎曼度量,得到了一个推广的Bayesian Cramér-Rao不等式.这建立了从基础分布的无偏估计量开始的$α$ -护送分布的无偏估计量的方差的下限。我们表明,在极限情况下,当熵的顺序接近统一,这个框架减少到传统的贝叶斯Cramér-Rao不等式。此外,在没有先验的情况下,相同的框架产生确定性的Cramér-Rao不等式。
2020-02-11 cs.IT eess.SP math.IT
Efficient Estimation by Fully Modified GLS with an Application to the Environmental Kuznets Curve
本文发展了多元协整多项式回归的完全修正的广义最小二乘法估计的渐近理论。这样的回归允许确定性趋势,随机趋势和随机趋势的整数幂进入协整关系。我们完全修改的估计包括:(1)多维误差的逆自协方差矩阵的直接估计,和(2)二阶偏差校正。由此产生的估计量具有将加权最小二乘目标函数应用于滤波数据序列的直观解释。此外,所需的二阶偏置校正是我们的方法的方便的副产品,并导致标准的渐近推断。我们还研究了几个多元KPSS型检验的零协整。全面的仿真研究表明FM-GLS估计器和相关测试具有良好的性能。作为一个实际的例子,我们重新研究了Wagner等人(2020)中六个早期工业化国家的环境库兹涅茨曲线(EKC)假设。
2020-08-07 econ.EM stat.ME
Parametric Estimation of Ordinary Differential Equations with Orthogonality Conditions
在实际应用中,常使用微分方程对动态确定性系统进行建模。当需要用统计参数估计来校正理论模型时,经典的统计估计方法往往面临复杂的、潜在不适定的优化问题。因此,需要替代经典参数估计量的估计量来获得可靠的估计。我们提出了一种梯度匹配的方法估计参数常微分方程观测噪声。从一个真正的解决方案的常微分方程的非参数代理,我们建立了一个参数估计的基础上变分表征的解决方案。作为广义矩估计,我们的估计必须满足一组正交条件,这些条件在最小二乘意义下求解。尽管使用非参数估计,我们证明了根$n$的一致性和渐近正态的正交条件估计。由于渐近方差的封闭形式表达式,我们可以导出置信集。最后,在几个(模拟和真实的)实验和ODE模型,以显示其多功能性和相关性与经典的梯度匹配和非线性最小二乘估计的OC估计与经典的估计进行了比较。特别是,我们在一个真实的流感感染数据集上表明,该方法给出了可靠的估计。此外,我们表明,我们的方法可以直接处理更详细的模型,如延迟微分方程(DDE)。
2014-10-28 stat.ME
Adaptive Kalman Filter for Systems with Unknown Initial Values
Le Mans University(勒芒大学);Tomsk State University(托木斯克国立大学)
本文提出了一种自适应卡尔曼滤波器,用于处理具有未知初始值的线性随机微分方程模型,并探讨了其渐近最优性。
2025-12-17 math.PR math.ST stat.TH
On Parameter Estimation for Cusp-type Signals
研究了高斯白噪声中确定性信号的观测值的参数估计问题。假设信号具有尖点型奇异性。最大似然估计和最大似然估计的性质在小噪声的渐近性中得到了描述。特别注意正则性误定情况下的参数估计问题,即:统计学家假设观测信号具有这种奇异性,但实际信号是平滑的。在这种情况下,极大似然估计的速率和渐近分布进行了描述。
2015-09-09 math.ST stat.TH
Nonparametric estimation of trawl processes: Theory and applications
Aalborg University(奥尔堡大学);Imperial College London(帝国理工学院)
本文提出非参数估计方法用于估计牵引过程的牵引函数及序列相关性,并建立其渐近理论,应用于模型检验、高频金融数据预测及随机队列分析。
2026-02-13 math.ST stat.ME stat.TH
State and Parameter Estimation of Partially Observed Linear Ordinary Differential Equations with Deterministic Optimal Control
常微分方程是复杂系统建模的一个简单但强大的框架。时间序列的参数估计可以通过非线性最小二乘法(或其他经典方法)进行,但这可能会给出令人不满意的结果,因为即使微分方程是线性的,反问题也可能是不适定的。根据最近的方法,使用近似解的ODE模型,我们提出了一种新的方法,转换参数估计到一个最优控制问题:我们的目标是确定一个控制和参数,尽可能接近的数据。然后,我们推导出一个标准,使数据和模型之间的差异的平衡,我们最小化它通过使用函数空间中的优化:我们的方法是所谓的确定性卡尔曼滤波,但不同于通常的统计卡尔曼滤波。e给出了参数和状态估计量的根$n$相合性和渐近正态性。在玩具模型和真实案例中的实验表明,即使在错误指定的情况下,我们的方法通常比非线性最小二乘和广义平滑更准确,更可靠。
2014-10-28 stat.ME
Nonparametric estimation for linear SPDEs from local measurements
利用线性随机偏微分方程(SPDE)的观测值估计了导微分算子的系数函数。该估计是基于连续时间的观测,这些观测在空间上是局部化的。对于渐近制度与固定的时间范围和空间分辨率的观测趋于零,我们提供了速率最优估计和建立缩放限制的确定性PDE和SPDE的增长域。该估计对底层微分算子的低阶扰动是鲁棒的,并且即使在具有空间变化系数的非参数设置中也能实现参数速率。数值例子说明了主要结果。
2020-05-02 math.PR math.ST stat.TH
Doubly Robust Off-Policy Value and Gradient Estimation for Deterministic Policies
Cornell University(康奈尔大学);Harvard University(哈佛大学)
离线强化学习,其中使用由固定行为策略记录的非策略数据来评估和学习新策略,在实验有限的应用中至关重要,例如医学。本文研究了当行为连续时,确定性策略的策略值和梯度的估计问题。确定性策略的目标是至关重要的,因为最佳策略总是确定性的(直到领带)。在这种情况下,标准的重要性采样和双稳健估计策略值和梯度失败,因为密度比不存在。为了避免这个问题,我们提出了几个新的双重鲁棒估计基于不同的核化方法。我们分析的渐近均方误差,这些温和的利率条件下滋扰估计。具体来说,我们演示了如何获得一个利率是独立的地平线长度。
2020-06-06 cs.LG math.OC stat.ML
Inverse Propensity Score based offline estimator for deterministic ranking lists using position bias
Just Eat Takeaway.com
在这项工作中,我们提出了一种新的方式计算IPS使用的位置偏置模型确定性日志记录政策。这种技术大大拓宽了OPE可以使用的策略。我们使用两个不同的实验验证这种技术的工业规模的数据。OPE的结果显然与在线结果密切相关,但存在一定的偏差。估计器要求检查模型是真实用户行为的合理准确近似。
2022-08-31 cs.IR cs.LG
Accelerated Jarzynski Estimator with Deterministic Virtual Trajectories
The University of Tokyo(东京大学)
Jarzynski估计量是一个强大的工具,它使用非平衡统计物理来数值地获得概率分布的配分函数。该估计器通过Jarzynski等式用模拟的Langevin动力学轨迹重构配分函数。然而,原始估计的收敛速度慢,因为它依赖于随机动力学的罕见轨迹。在本文中,我们提出了一种方法,显着加快收敛,通过引入确定性的虚拟轨迹产生的增广状态空间下的哈密顿动力学。我们从理论上表明,我们的方法实现了二阶加速相比,一个天真的估计与朗之万动力学和零方差估计谐波电位。我们还提出了三个多峰分布的数值实验和一个实际的例子,所提出的方法优于传统的方法,并提供理论解释。
2022-03-09 cond-mat.stat-mech cs.LG
Off-Policy Evaluation for Ranking Policies under Deterministic Logging Policies
Keio University(keio大学);Sony Group Corporation(sony集团);Yale University(yale大学);Hanuku-kaso, Co., Ltd.(hanuku-kaso公司)
本文提出Click-based Inverse Propensity Score估计器,利用用户点击行为的内在随机性,在确定性日志策略下实现低偏差的离策略评估。
2026-03-23 cs.LG
Backprop KF: Learning Discriminative Deterministic State Estimators
University of California, Berkeley(加州大学伯克利分校)
基于概率滤波器和平滑器的生成式状态估计器是机器人和自动驾驶汽车最流行的状态估计器之一。然而,生成模型在处理丰富的感官观察(如相机图像)方面的能力有限,因为它们必须对传感器读数的整个分布进行建模。判别模型不受此限制,但作为用于状态估计的潜在变量模型,其训练通常更复杂。我们提出了一种替代方法,其中的参数的潜在状态分布直接优化作为一个确定性的计算图,从而在一个简单而有效的梯度下降算法训练判别状态估计。我们表明,这个过程可以用来训练状态估计,使用复杂的输入,如原始相机图像,必须使用表达非线性函数逼近器,如卷积神经网络处理。我们的模型可以被看作是一种递归神经网络,与概率滤波的连接使我们能够设计一种特别适合于状态估计的网络架构。我们评估我们的方法在合成跟踪任务与原始图像输入和视觉里程计任务中的KITTI数据集。结果表明,与标准生成方法和常规递归神经网络相比,都有显着的改进。
2017-10-01 cs.AI cs.LG
Deterministic Policy Optimization by Combining Pathwise and Score Function Estimators for Discrete Action Spaces
Department of Computer Science, Stanford University(斯坦福大学计算机科学系)
策略优化方法在解决复杂的强化和模仿学习任务方面显示出巨大的潜力。虽然无模型方法广泛适用,但它们通常需要许多样本来优化复杂的策略。基于模型的方法大大提高了样本效率,但代价是泛化能力差,需要为每个任务精心手工制作系统动态模型。最近,混合方法已经成功地在改善样本复杂性的适用性之间进行权衡。然而,这些都局限于连续的动作空间。在这项工作中,我们提出了一种新的混合动力方法的基础上近似的动态下一个状态下的当前政策的期望。这种放松使我们能够得到一个新的混合策略梯度估计,结合得分函数和路径导数估计,这是适用于离散的行动空间。我们在样本复杂性方面取得了显着的进步,范围在$1.7$和$25\times$之间,在学习Cart Pole,Acrobot,Mountain Car和Hand Mass上的参数化策略时。我们的方法是适用于离散和连续的行动空间,当竞争路径方法仅限于后者。
2017-11-21 cs.AI cs.LG
Reasons for the Superiority of Stochastic Estimators over Deterministic Ones: Robustness, Consistency and Perceptual Quality
Faculty of Computer Science, Technion(以色列理工学院计算机科学学院);Faculty of Electrical and Computer Engineering, Technion(以色列理工学院电气与计算机工程学院)
该研究揭示随机复原算法相较确定性算法的额外根本优势,证明高感知质量且输入一致的复原算法需为随机后验采样器,且随机模型抗对抗攻击的鲁棒性对感知质量影响小,还能提升输出多样性,为随机复原方法发展提供依据。
2023-07-26 cs.CV cs.LG eess.IV
Regularized Variational and Spectral Log-Density-Ratio Estimation in the Gaussian Location Model
研究高斯位置模型下岭正则化对数密度比估计,通过变分与谱方法推导高维渐近等价,比较两者风险并分析核范数惩罚的特征学习。
2026-07-03 cs.LG math.OC math.ST
Non-Asymptotic Analysis of Data Augmentation for Precision Matrix Estimation
Qube Research and Technologies(Qube研究与技术公司);École Polytechnique(巴黎综合理工学院)
本文研究了数据增强在高维精度矩阵估计中的非渐近分析,提出了一种新的确定性等价方法,并通过实验验证了理论结果。
2025-11-20 cs.LG math.PR math.ST