Minimax optimal approaches to the label shift problem in non-parametric settings
研究了非参数分类中标签移位问题的极大极小化率。除了学习者只能访问目标域中未标记示例的无监督设置之外,我们还考虑了学习者可以使用目标域中少量标记示例的设置。我们的研究揭示了在这两种设置中的标签移位问题的难度的差异,我们将这种差异归因于从目标域的数据的可用性,以估计类条件分布在后者的设置。我们还表明,类比例估计方法是最小最大率最优的无监督设置。
2022-11-22 math.ST stat.ML stat.TH
Semi-parametric inference for the absorption features of a growth-fragmentation model
在本文中,我们专注于半参数方法估计的吸收概率和吸收时间的分布的增长-碎裂模型在一个长的时间间隔内观察。本文证明了吸收概率是参数未知的第二类Fredholm方程在适当空间中的唯一解。我们估计这一重要特征的基本过程通过数值求解估计Fredholm方程。即使研究是针对特定的模型进行的,我们的方法也是相当通用的。
2014-07-10 math.ST stat.TH
Semiparametrically Efficient Estimation of Euclidean Parameters under Equality Constraints
假设在一个(半)参数模型中给出了欧氏参数的一个(半)参数有效估计。通过约束该模型得到一个子模型,其中欧几里德参数的连续可微函数为零。我们提出了一个明确的方法来构造(半)参数有效估计的欧氏参数在这样的等式约束的子模型,并证明了他们的效率。我们的构造完全基于原始的有效估计和约束函数。只有参数的情况下,这个估计问题和它的非参数版本已被认为是在文献中。
2016-06-24 math.ST stat.TH
Data-driven semi-parametric detection of multiple changes in long-range dependent processes
本文研究了长相关过程的离线多变化检测问题。假设观测值满足半参数长程相关假设,每个阶段具有不同的记忆参数。一个惩罚的本地Whittle对比度被认为是估计所有的参数,特别是变化的数量。得到了一致性和收敛速度。Monte-Carlo实验证明了估计量的准确性。他们还表明,通过使用一个数据驱动的斜率启发式程序的惩罚参数的选择,改善了休息的数量的估计。
2018-12-29 math.ST stat.TH
Semi-parametric estimation and prediction intervals in state space models
状态空间模型的研究主要集中在参数推断和预测上,如果状态空间模型不完全确定,极大似然估计不起作用,则参数推断和预测会失败。在本文中,我们假设状态转移阵和状态噪声分布是未知的。在此假设下,我们提供了一致估计这些项的方法。此外,我们引入了一个算法来构建一致的预测区间的状态向量和未来的观察。我们补充的渐近结果与几个数值实验。
2020-12-14 math.ST stat.TH
Usual stochastic orderings of the second-order statistics with dependent heterogeneous semi-parametric distribution random variables
本文研究了相依异质半参数分布观测下第二顺序统计量的随机比较,在p-较大序和倒数优势序下建立了一般随机序的充分条件,并通过数值实例、模型应用及真实数据可靠性分析验证了理论结果。
2024-07-26 math.ST stat.TH
Semiparametric Penalized Spline Regression
本文利用参数方法和非参数惩罚样条方法的混合技巧,提出了一种新的半参数回归估计。真实回归函数的整体形状由参数部分捕获,而其残差由非参数部分一致地估计。建立了半参数估计的渐近理论,证明了半参数估计的渐近性依赖于非参数惩罚样条估计的渐近性以及真实回归函数与参数部分之间的差异.作为渐近性的自然关联应用,讨论了参数模型选择的一些准则。数值实验表明,所提出的估计比现有的基于核的半参数估计和完全非参数估计性能更好,所提出的准则对于选择合理的参数模型也是有效的.
2012-02-16 math.ST stat.TH
On differentiability of implicitly defined function in semi-parametric profile likelihood estimation
本文研究了半参数模型参数的轮廓似然估计中所遇到的隐定义函数的可微性。Scott和Wild(Biometrika 84(1997)57-71; J. Statist.计划Inference 96(2001)3-27)以及Murphy和van der Vaart(J. Amer. Statistist. Assoc.95(2000)449-485)开发了可以通过参数化轮廓似然中的参数并在半参数模型中使用近似的最不利子模型来避免处理这种隐式定义的函数的方法。我们的结果表明,Hirose(Ann. Inst. Statistist. 63(2011)1247-1275),其使用简档似然的直接扩展。
2016-01-07 math.ST stat.TH
Semi-parametric estimation of the variogram of a Gaussian process with stationary increments
本文考虑光滑性已知的一维高斯过程的尺度参数的半参数估计。我们建议一个估计的基础上二次变化和矩法。我们提供了这个估计的均值和方差的渐近近似,连同渐近正态性的结果,为一大类高斯过程。我们允许一般的平均函数,并研究了各种变异序列的基础上的几个估计的聚合。在广泛的模拟研究中,我们表明,渐近结果准确地描绘了有限样本的情况下已经小到中等的样本量。我们还比较了各种变化的序列,并强调聚合过程的效率。
2020-01-20 math.ST stat.TH
Bayesian High-dimensional Semi-parametric Inference beyond sub-Gaussian Errors
在高维情形下,考虑了具有未知对称误差的稀疏线性回归模型。假设真实误差分布属于局部$β$ -Hölder类,尾部呈指数下降,不需要是亚高斯分布。我们得到的回归系数和误差密度的后验收敛速度,这是近最优的和自适应的未知稀疏水平。此外,我们推导了半参数Bernstein-von Mises(BvM)定理来描述回归系数的边缘后验的渐近形状。在真得分函数为亚高斯分布的假设下,得到了回归系数的强模型选择相合性,从而证明了频率论可信集的有效性.
2020-08-30 math.ST stat.TH
The semi-Markov beta-Stacy process: a Bayesian non-parametric prior for semi-Markov processes
关于离散时间半马尔可夫过程分析的贝叶斯方法的文献很少。本文介绍了半马尔可夫β-Stacy过程,这是一个用于半马尔可夫过程的贝叶斯非参数分析的随机过程。半马尔可夫β-Stacy过程相对于由半马尔可夫过程生成的数据是共轭的,这一性质使得容易获得概率预测。其预测分布的特点是由一个强化的随机游动的骨灰盒系统。
2020-07-23 math.ST stat.ME stat.TH
Bayesian semi-parametric estimation of the long-memory parameter under FEXP-priors
对于具有长记忆行为的高斯时间序列,我们使用FEXP模型对长记忆参数$d$进行半参数估计。假设真实谱密度$f_o$具有长记忆参数$d_o$和Sobolev正则性$\be > 1$的FEXP展开。我们证明了当$k$遵循泊松或几何先验,或筛前增加率$n^{\frac{1}{1+2\be}}$,$d$收敛到$d_o$在一个次优的速度。然而,当筛先验以速率$n^{\frac{1}{2\be}}$增加时,几乎获得极小极大速率。我们的结果可以看作是一个贝叶斯等价的结果Moulines和Soulier获得的一些频率估计。
2012-02-22 math.ST stat.TH
The semi-parametric Bernstein-von Mises theorem for regression models with symmetric errors
在光滑半参数模型中,有限维参数的边际后验分布被期望渐近等价于任何有效点估计的抽样分布。该断言导致了所关注参数的可信集和置信集的渐近等价性,被称为半参数伯恩斯坦-冯米塞斯定理。近年来,它受到了广泛的关注,并在许多实例中得到了应用。我们考虑模型中的误差与对称密度发挥作用,更具体地说,它表明,在线性回归和线性混合效应模型的回归系数的边际后验分布满足半参数Bernstein-von Mises断言。因此,这些模型中的贝叶斯估计实现了频率论推断最优性,如通过例如Hajek卷积和渐近极小极大定理所表示的。误差密度空间上先验的条件相对温和,并且众所周知的构造,如Dirichlet过程,正常密度和随机序列先验的混合物构成了有效的选择。特别地,该结果提供了线性混合效应模型中回归系数的有效估计,对于该模型,以前没有其他有效的点估计。
2017-01-12 math.ST stat.TH
Rates of Convergence of Maximum Smoothed Log-Likelihood Estimators for Semi-Parametric Multivariate Mixtures
Univ. Rennes, CNRS, IRMAR-UMR 6625(雷恩大学);Department of Statistics, Purdue University(普渡大学统计学系)
本文首次为半参数有限混合模型中基于平滑对数似然的最大估计量建立了严格理论保证,证明其一致性并推导有限维与无限维参数的收敛速率,弥合了实用算法与统计理论之间的差距。
2025-11-06 math.ST stat.TH
Semiparametrics via parametrics and contiguity
BI Norwegian Business School(BI挪威商学院);University of Oslo(奥斯陆大学);University of Chicago(芝加哥大学)
本文提出通过构造近似参数模型并利用相互邻接性,将半参数推断问题转回参数框架,从而严格证明极限估计量的渐近正态性与有效性,并以部分线性模型和Cox模型为例,给出Cox部分似然估计量有效性的新证明。
2025-09-22 econ.EM math.ST stat.ME
Semi-parametric transformation boundary regression models
在具有单侧误差的非参数回归模型中,我们考虑响应变量的参数变换,以获得误差和协变量之间的独立性。本文主要讨论严格递增变换和连续变换。对于变换参数的估计,我们采用最小距离方法,并在较弱的条件下证明了估计量的一致相合性。的边界曲线,即回归函数,估计应用平滑版本的局部常数近似,我们也证明了一致的一致性。我们处理两种情况下的随机协变量和确定性(固定)设计点。为了突出的程序的适用性,并证明其性能,小样本的行为进行了研究,在模拟研究中使用所谓的Yeo-Johnson变换。
2019-01-30 math.ST stat.TH
Optimal discrimination designs for semi-parametric models
最优判别设计的文献中的大部分工作都假设感兴趣的模型是完全指定的,除了某些模型中的未知参数。最近的工作允许模型中的误差是非正态分布的,但仍然需要规范的平均结构。本研究的动机是Otsu(2008)通过推广López-Fidalgo et al.(2007)和Tommasi and López-Fidalgo(2010)提出的KL-最优性标准来区分半参数模型的有趣工作。在我们的工作中,我们在这个有趣的最优性标准提供了进一步的重要见解。特别是,我们提出了一个实用的策略,找到半参数模型之间的最佳歧视设计,也可以使用等价定理进行验证。此外,我们研究了这种最优设计的性质,并确定了重要的情况下,建议的半参数最优判别设计与著名的T -最优设计相吻合。
2016-12-01 math.ST stat.ME stat.TH
Semi-parametric Bernstein-von Mises Theorem in a Parabolic PDE Problem
VU Amsterdam(阿姆斯特丹自由大学);TU Delft(代尔夫特理工大学)
本文提出了一种基于贝叶斯方法的半参数伯恩斯坦-冯-米泽定理,用于在抛物型偏微分方程问题中恢复未知的扩散率参数。
2026-01-31 math.ST stat.TH
Semi-parametric second-order efficient estimation of the period of a signal
本文研究高斯白噪声中未知周期函数的周期估计问题。利用惩罚极大似然方法构造了周期的一类估计。这些估计的风险的二阶渐近展开。此外,二阶项的极大极小问题进行了研究,并证明了前一类估计是二阶有效的。
2007-11-26 math.ST stat.TH
A semi-parametric estimation for max-mixture spatial processes
我们提出了一个半参数估计过程,以估计参数的最大混合模型和最大稳定模型(逆最大稳定模型)作为替代的复合似然。一个很好的估计所提出的估计需要的依赖措施,以检测所有的依赖结构的模型,特别是在处理最大混合模型。我们通过使用F-madogram克服了这一挑战。半参数估计是基于准最小二乘法,通过最小化理论F-madogram和经验之间的平方差。我们通过模拟研究评估了这种估计的性能。结果表明,平均而言,估计是执行良好的,虽然在某些情况下,它遇到了一些困难。我们应用我们的估计程序来模拟东澳大利亚的每日风暴。
2017-12-05 math.PR math.ST stat.TH
Bootstrap validity in Bayesian semi-parametric models
McGill University(麦吉尔大学)
该研究在半参数贝叶斯推断框架下,结合Dirichlet过程与贝叶斯自助法,放宽随机等连续性假设,验证了后验分布的渐近正态性与收敛性,并通过模拟确认了分析结果。
2026-08-10 math.ST stat.ML stat.TH
Semi-parametric efficiency bounds for high-dimensional models
估计的渐近下界在评价统计过程的质量中起着重要的作用。在本文中,我们提出了一个框架来获得稀疏高维模型的半参数效率界,其中参数的维数大于样本量。我们采用半参数的观点:我们集中在一维函数的高维参数。我们遵循两种不同的方法来达到下界:渐近Cramér-Rao界和Le Cam的分析类型。这两种方法使我们能够定义一类渐近无偏或“定期”估计的下界推导。因此,我们证明了通过去稀疏化(或去偏)$\ell_1$ -惩罚M-估计量获得的某些估计量是渐近无偏的,并达到方差的下界:因此在这个意义上,它们是渐近有效的。本文详细讨论了线性回归模型和高斯图模型。
2017-10-12 math.ST stat.ME stat.TH
Semi-parametric Order-based Generalized Multivariate Regression
在本文中,我们考虑一个广义多元回归问题,其中的响应是预测变量线性变换的单调函数。我们提出了一个半参数算法的基础上的顺序的响应是不变的变换函数的函数形式。我们证明了我们的算法,它最大限度地提高了响应的秩相关性和线性变换的预测,是一个真正的系数矩阵的相合估计量。我们还确定了收敛速度,并表明平方估计误差衰减率为$o(1/\sqrt{n})$。然后,我们提出了一个贪婪算法,最大限度地提高我们的模型的高度非光滑的目标函数,并通过广泛的模拟检查其性能。最后,我们比较了我们的算法与传统的多元回归算法在合成和真实数据。
2016-02-19 math.ST stat.ML stat.TH
Functional and Parametric Estimation in a Semi- and Nonparametric Model with Application to Mass-Spectrometry Data
出于建模和分析的质谱数据,半和非参数模型,提出了由一个线性参数组件的个人位置和规模和一个非参数回归函数的共同形状。一个多步骤的方法,同时估计的参数分量和非参数函数。在一定的正则条件下,证明了所得到的估计对于参数部分是相合的和渐近正态的,对于非参数部分,当适当地选择带宽时,得到了最优的收敛速度.仿真结果证明了该方法的有效性和有限样本性能。该方法也适用于SELDI-TOF质谱数据集从肝癌患者的研究。
2013-05-07 math.ST stat.AP stat.ME
Pseudo-variance quasi-maximum likelihood estimation of semi-parametric time series models
本文提出基于高斯拟似然和参数化伪方差的半参数时间序列估计方法,推导其渐近性质与限制检验,证明其不受伪方差误设影响且效率更高,并通过模拟和实证验证其有效性。
2025-07-18 math.ST stat.ME stat.TH
Semi-Parametric Efficient Policy Learning with Continuous Actions
MIT(麻省理工学院);Microsoft Research(微软研究院)
我们考虑了连续动作空间的离线评估和优化。我们专注于观测数据,其中数据收集政策是未知的,需要估计。我们采用半参数方法,其中价值函数在处理中采用已知的参数形式,但我们不知道它如何取决于观察到的上下文。我们提出了一个双鲁棒的关闭政策的估计,这种设置和关闭政策优化的基础上,这种估计是强大的政策函数或回归模型的估计误差。我们的结果也适用于如果模型不满足我们的半参数形式,而是我们衡量遗憾的最佳投影的真实价值函数这个功能空间。我们的工作扩展了以前的政策优化方法,从观察数据,只考虑离散的行动。我们提供了一个实验评估我们的方法在一个合成数据的例子,最佳的个性化定价和昂贵的资源分配的动机。
2019-07-20 cs.LG econ.EM math.ST
Learning Linear Dynamical Systems with Semi-Parametric Least Squares
Department of Electrical Engineering and Computer Sciences, UC Berkeley(加州大学伯克利分校电气工程与计算机科学系);UC Berkeley(加州大学伯克利分校)
我们分析了一个简单的预过滤变化的最小二乘估计的估计问题有偏,半参数噪声,误差模型研究更广泛的因果统计和主动学习。我们证明了一个甲骨文不等式,这表明,这一过程可证明减轻了长期依赖关系引入的方差。然后,我们证明,预过滤最小二乘产量,据我们所知,第一个算法,可证明估计的参数部分观测的线性系统,达到率不产生最坏情况下的依赖,这些依赖性衰减的速度。该算法是可证明的一致性,即使系统满足较弱的边际稳定性条件服从许多经典模型的基础上牛顿力学。在这种情况下,我们的半参数框架产生保证随机和最坏情况下的噪声。
2019-02-02 cs.LG math.OC math.ST
Semi-parametric inference based on adaptively collected data
UC Berkeley(加州大学伯克利分校);Rutgers University(罗格斯大学);MIT(麻省理工学院);Data Science Center(数据科学中心)
针对自适应收集数据下标准估计量无法渐近正态的难题,本文在半参数广义线性回归背景下构建加权估计方程,给出渐近正态性条件与可探索性要求,并通过模拟验证理论。
2025-03-02 cs.LG math.ST stat.ME