Recursive estimation of nonparametric regression with functional covariate
主要目的是利用递归非参数核方法估计实随机变量与函数解释变量的回归函数。得到了回归函数的一类递推核估计的均方误差和几乎必然收敛。这些结果是建立与率和精确评估的常数项。同时,建立了这类估计量的中心极限定理。该方法进行了评估模拟和真实数据集的研究。
2013-08-06 math.ST stat.TH
A Minimax Theory of Nonparametric Regression Under Covariate Shift
Universität Bielefeld(比勒费尔德大学)
本文提出了一种非参数回归在协变量偏移下的极小极大理论,引入转移函数并展示了其域性质对收敛速率的影响,覆盖了协变量无界支持的情况。
2026-03-06 math.ST stat.TH
Nonparametric Bandits with Single-Index Rewards: Optimality and Adaptivity
University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种单指数带隙算法,通过非参数方法克服维度诅咒,实现最小最大最优后悔并自动适应未知光滑性。
2026-11-06 math.ST stat.TH
Inference in nonparametric current status models with covariates
在具有当前状态观测值的区间删失模型中,变量是个体在观测区间和协变量上存在的指标。当几个人共享相同的观察区间,一个简单的程序提供了新的估计的分布的观察时间和强度,在一个封闭的形式。对于分段常数协变量,它们是$n^{1/2}$一致的。估计的样本大小推导和渐近$χ^2$测试的独立性的观察连续的时间间隔和连续类之间的独立性观察的个人提出。
2007-10-09 math.ST stat.TH
Nonparametric Bayesian intensity estimation for covariate-driven inhomogeneous point processes
本文研究协变量驱动的非齐次泊松点过程强度函数的非参数贝叶斯估计,利用协变量实现跨空间位置的信息借用,并推导出全局与逐点损失下的最优后验收缩速率。
2025-05-08 math.ST stat.TH
Projection-based nonparametric goodness-of-fit testing with functional covariates
本文研究了随机函数协变量对实值误差项影响的非参数检验问题。协变量取$L^2[0,1]$中的值,$L^2[0,1]$是单位区间上平方可积实值函数的希尔伯特空间。误差项可以直接观察为来自函数参数模型的响应或\emph{estimated},例如函数线性回归。我们的测试是基于这样的评论,即检查功能协变量的无影响相当于检查误差项的条件期望的无效性,给出了一组足够丰富的协变量投影。这样的投影可以在来自$L^2[0,1]$的有限维子空间的范数为1的元素上。接下来,我们的想法是搜索范数为1的有限维元素,在某种意义上,它对原假设最不利。最后,在给定协变量和所选最不利方向之间的标量积的情况下,仍然要执行误差项的条件期望的零值的非参数检查。对于这种有限维搜索和非参数检查,我们使用基于核的方法。因此,我们的检验统计量是一个基于单变量核平滑的二次型,渐近临界值由标准正态律给出。该测试能够检测非参数的替代品,包括多项式的。误差项可能呈现未知形式的异方差。我们不要求已知协变量$X$的定律。该测试可以很容易地实现,并在仿真和实际数据应用中表现良好。我们说明了我们的测试功能线性回归模型检查的性能。
2012-05-24 math.ST stat.TH
Randomized Allocation with Nonparametric Estimation for Contextual Multi-Armed Bandits with Delayed Rewards
University of Minnesota(明尼苏达大学)
我们研究了一个多臂强盗问题的协变量设置有可能延迟观察奖励。在对延迟的概率分布进行一些温和的假设下,并使用适当的随机化来选择武器,所提出的策略是强一致的。
2019-09-04 cs.LG math.ST stat.ML
Batched Nonparametric Contextual Bandits
Committee on Computational and Applied Mathematics, University of Chicago(计算与应用数学委员会,芝加哥大学);Department of Statistics, University of Chicago(统计学系,芝加哥大学)
该研究针对批量约束下的非参数上下文老虎机问题,建立极小极大遗憾下界,提出动态划分协变量空间的批量学习算法,证明近乎恒定次数的策略更新可达到完全在线设定下的最优遗憾。
2025-10-03 cs.LG math.ST stat.ML
The multi-armed bandit problem with covariates
Université Paris Diderot(巴黎第七大学);Princeton University(普林斯顿大学)
我们考虑一个多臂强盗问题的设置,每个手臂产生一个嘈杂的奖励实现依赖于一个可观察的随机协变量。与传统的静态多臂强盗问题相反,这种设置允许动态改变奖励,从而更好地描述边信息可用的应用。我们采用了一个非参数模型,其中预期的回报是协变量的光滑函数,并且问题的难度由保证金参数捕获。为了最大限度地提高预期的累积奖励,我们引入了一个政策,称为自适应装箱逐次淘汰(abse),自适应分解成适当的“本地化”的静态强盗问题的全球性问题。该策略使用连续消除(SE)策略的变体来构造自适应分区。我们的结果包括更清晰的遗憾界的se政策在一个静态的强盗问题和minimax最优遗憾界的abse政策在动态的问题。
2013-05-24 cs.LG math.ST stat.ML
Nonparametric Covariate Adjustment for Receiver Operating Characteristic Curves
诊断测试的准确性通常使用受试者工作特征(ROC)曲线来表征。ROC曲线下面积(AUC)等总结指标用于比较不同的测试以及测量两个人群之间的差异。通常可以获得关于已知会影响此类测量准确性的某些协变量的额外信息。我们提出了非参数方法的协变量调整的AUC。分别讨论和分析了具有正态误差和非正态误差的模型。非参数回归用于估计这两种情况下的均值和方差函数。在一般的噪声情况下,我们提出了一个协变量调整的曼-惠特尼估计AUC估计,有效地利用现有的数据来构建工作样本在任何协变量值的兴趣,是计算效率的实施。这提供了一个概括的曼-惠特尼方法比较两个群体考虑协变量的影响。我们推导了AUC估计在这两种情况下的渐近性质,包括渐近正态性、最优强一致收敛速度和均方误差一致性。所提出的方法的实用性证明通过模拟和真实数据的例子。
2009-05-04 math.ST stat.ME stat.TH
Nonparametric Independence Screening in Sparse Ultra-High Dimensional Varying Coefficient Models
变系数模型是一种重要的非参数统计模型,它允许我们研究协变量的影响如何随暴露变量而变化。当协变量的数量很大时,变量选择的问题就来了。本文提出并研究了用于筛选超高维稀疏变系数模型中变量的边缘非参数筛选方法。建议的非参数独立性筛选(NIS)选择的变量排名的非参数边际贡献的每个协变量给定的暴露变量的措施。当维数为非多项式阶时,在一定的技术条件下,建立了确定的独立筛选性质,并对NIS的降维进行了量化。为了提高算法的实用性和有限样本性能,提出了两种数据驱动的迭代NIS方法:条件置换法和贪婪法,分别得到了条件INIS和贪婪INIS。仿真研究和实际数据应用进一步说明了所提出的方法的有效性和灵活性。
2013-03-03 math.ST stat.TH
Phase Transition in Nonparametric Minimax Rates for Covariate Shifts on Approximate Manifolds
研究结构化协变量偏移下的非参数回归,提出局部多项式回归估计器与自适应流程,在目标分布近似流形的假设下达到最优极小化率,并揭示了由距离与维度等因素控制的相变现象。
2025-07-01 math.ST stat.TH
Nonparametric Multivariate L1-median Regression Estimation with Functional Covariates
当协变量取值于无穷维空间时,本文提出了多元条件分布的L1-中位数的非参数估计。多变量情况更适合于同时预测随机变量向量的分量,而不是分别预测它们中的每一个。在利用著名的Nadarya-Waston估计量估计条件L1-median函数时,我们证明了该估计量的强相合性和渐近正态性。我们还提出了一些模拟,并提供如何建立条件con?多元L1-中位数回归的置信椭圆。对化学计量实际数据进行了数值研究,比较了协变量X为曲线,X为随机向量时多元L1-中位数回归与边际中位数回归向量的异同。
2013-04-16 math.ST stat.ME stat.TH
A new similarity measure for covariate shift with applications to nonparametric regression
University of Chicago(芝加哥大学);UC Berkeley(加州大学伯克利分校)
我们在非参数回归的背景下研究协变量偏移。我们引入了一个新的措施之间的源和目标分布的分布不匹配的基础上,在一个给定的半径的球的概率的积分比。我们使用这个措施的缩放相对于半径的特点的极小极大估计率在一个家庭的Hölder连续函数下协变量移位。与最近提出的转移指数的概念相比,该措施导致更快的收敛速率,并且更细粒度。我们伴随着我们的理论与具体的协变量转移的例子,说明了这种尖锐的差异。
2022-02-06 cs.LG math.ST stat.ML
Nonparametric covariate-adjusted regression
我们考虑回归曲线的非参数估计时,观察到的数据与乘法失真,这取决于观察到的混杂变量。我们提出了几个估计,从一个相对简单的依赖于限制性假设通常在文献中,一个复杂的分段方法,涉及重建一个平滑曲线,从一个常数倍的绝对值的估计,并可以应用在更一般的情况下。我们表明,虽然我们的非参数估计是从未观察到的未失真数据的预测,他们有相同的一阶渐近性质的标准估计,可以计算,如果未失真的数据。我们说明了我们的方法在模拟和真实数据集上的良好数值性能。
2016-01-12 math.ST stat.ME stat.TH
Nonparametric model checks of single-index assumptions
半参数单指标假设是一种方便且广泛使用的降维方法,它代表了回归或条件律的参数和完全非参数模型之间的折衷。在均值回归设置中,SIM假设意味着给定协变量向量的响应的条件期望与给定协变量向量标量投影的响应的条件期望相同。在条件分布建模中,在SIM假设下,给定协变量向量的响应条件定律与给定协变量线性组合的条件定律一致。单指数模型的几种估计技术是可用的,并且在应用中常用。然而,测试的拟合优度的问题似乎较少探讨和现有的建议仍然有一些重大的缺点。在本文中,一种新的基于核的方法来测试SIM的假设。协变量向量不需要具有密度,并且仅在SIM假设下估计的指数用于核平滑。因此,在获得检验统计量的渐近正态性的同时,降低了高维协变量的影响。无论协变量向量的固定维度如何,新检验检测到接近原假设的局部替代项的速度慢于$n^{-1/2}h^{-1/4},$,其中$h$是用于构建检验统计量的带宽,$n$是样本量。本文提出了一种用于渐近临界值的有限样本校正的自举方法。我们的测试相比,现有的程序的小样本性能通过模拟说明。
2014-10-18 math.ST stat.TH
A nonparametric Bayesian analysis of independent and identically distributed observations of covariate-driven Poisson processes
ESOMAS Department, University of Turin(都灵大学 ESOMAS 系)
本文提出了一种基于多带宽高斯过程的非参数贝叶斯方法,用于分析协变量驱动的泊松过程的各向异性光滑性问题,并通过数值实验和野火数据集应用验证了方法的有效性。
2026-10-30 math.ST stat.ME stat.TH
Regressions with Berkson errors in covariates - A nonparametric approach
本文建立了所谓的工具变量,使识别和估计的完全非参数回归模型与Berkson型测量误差的回归。提出了一个估计量,并证明了该估计量是一致的。它的实际性能和可行性进行了研究,通过Monte Carlo模拟,以及通过流行病学的应用调查颗粒空气污染对呼吸系统健康的影响。这些例子说明,在非线性回归模型中,Berkson误差显然不能忽略,所提出的方法是一种有效的补救措施。
2013-08-13 math.ST q-fin.ST stat.TH
Batched Nonparametric Bandits via k-Nearest Neighbor UCB
Case Western Reserve University(凯斯西储大学)
针对在线反馈有限的批量非参数上下文老虎机序贯决策问题,提出结合自适应k近邻回归与UCB原理的BaNk-UCB算法,具备近最优后悔保证且实验表现优于分箱基线。
2025-08-01 cs.LG math.ST stat.ME
Nonparametric regression on random geometric graphs sampled from submanifolds
该研究针对协变量位于未知光滑紧子流形的非参数回归问题,基于图拉普拉斯特征基随机基展开的贝叶斯先验,证明了在Hölder光滑性假设下后验收缩率达极小极大最优。
2024-11-04 math.ST stat.ML stat.TH
To update or not to update? Delayed Nonparametric Bandits with Randomized Allocation
University of Minnesota(明尼苏达大学)
背景强盗中的延迟报酬问题在各种实际环境中都引起了人们的兴趣。我们研究了随机分配策略,并提供了一个了解如何探索剥削权衡的延迟观察奖励的影响。在随机策略中,探索-开发的程度由用户确定的探索概率序列控制。在存在延迟奖励的情况下,人们可以选择使用在每个时间点更新的原始探索序列,或者仅在观察到新奖励时更新序列,从而导致两种竞争策略。在这项工作中,我们表明,虽然这两种策略可能会导致很强的一致性分配,后者的财产持有更广泛的情况。然而,对于有限样本的性能,我们说明了这两种策略都有自己的优点和缺点,这取决于延迟的严重程度和潜在的奖励产生机制。
2020-05-26 cs.LG math.ST stat.ML
Increasing domain asymptotics for covariate-based nonparametric Bayesian intensity estimation with Gaussian and Besov-Laplace priors
ESOMAS Department, University of Turin(都灵大学 ESOMAS 系)
研究在递增域渐近性和协变量遍历性假设下,使用高斯先验和贝索-拉普拉斯先验的非参数贝叶斯方法估计协变量驱动点过程强度函数,并证明其达到极小极大最优后验收缩率。
2026-05-29 math.ST stat.ME stat.TH
On clustering procedures and nonparametric mixture estimation
本文讨论了在有额外协变量的情况下混合模型条件密度的非参数估计。所提出的方法包括执行一个初步的聚类算法上的额外的协变量来猜测每个观察的混合成分。混合模型的条件密度,然后估计使用核密度估计ap-plied分别到每个集群。我们调查的预期L1-误差估计,并获得最佳的收敛速度在经典的非参数密度类提供的聚类方法是准确的。聚类算法的性能是通过最大误分类误差来衡量的。我们得到了这个数量的上界为一个单一的链接层次聚类算法。最后,给出了该方法在含电性分布数据和模拟数据的混合模型中的应用。
2015-02-06 math.ST stat.TH
Kernel $ε$-Greedy for Multi-Armed Bandits with Covariates
Department of Mathematics, Applied Mathematics and Statistics, Case Western Reserve University(数学系、应用数学与统计学系,凯斯西储大学)
针对均值奖励函数位于再生核希尔伯特空间(RKHS)的带协变量多臂老虎机问题,提出基于在线加权核岭回归估计器的 $ε$-greedy 策略,证明了估计器一致性并实现了次线性及最优 $\sqrt{T}$ 遗憾界。
2025-06-01 cs.LG math.ST stat.ML
Consistent covariate selection and post model selection inference in semiparametric regression
本文给出了一类半参数回归模型Y_i=β^{ \prime } \underbarX_i +f(T_i)+W_i,i=1,.,n.参数和非参数分量的估计,同时通过这个程序。估计是基于有限维模型的集合,使用惩罚最小二乘标准进行选择。我们表明,通过定制的惩罚项开发的非参数回归半参数模型,我们可以一致地估计的线性部分的非零系数的子集。此外,线性分量的所选估计量是渐近正态的。
2004-06-23 math.ST stat.TH
Covariate shift in nonparametric regression with Markovian design
本文研究非参数回归中的协变量偏移问题,将独立同分布数据的收敛速率结果扩展到马尔可夫依赖结构,证明Nadaraya-Watson估计器的泛化风险收敛速率由源和目标马尔可夫链平稳分布的相似性决定,并推导了有限和谱隙马尔可夫链的精确速率。
2023-07-17 math.ST stat.ML stat.TH
Nonparametric Instrumental Variable Regression with Observed Covariates
University College London(伦敦大学学院);University of Stuttgart(斯图加特大学)
本文提出了一种结合观测协变量的非参数工具变量回归方法,通过引入傅里叶测度和自适应核长度尺度,实现了对异质因果效应的高效估计,并建立了理论学习速率的上下界。
2025-11-24 cs.LG math.ST stat.ML
Tight conditions for consistent variable selection in high dimensional nonparametric regression
我们解决了具有非常高的环境维度的回归模型中的变量选择问题,即,当协变量的数量非常大时。主要关注的是相关协变量的数量(称为内在维度)比环境维度小小于的情况。在不假设底层回归函数的任何参数形式的情况下,我们得到了严格的条件,使得有可能一致地估计相关变量的集合。这些条件将内在尺寸与环境尺寸和样本量联系起来。在这些严格条件下可证明一致的过程是简单的,并且基于将经验傅里叶系数与适当选择的门限值进行比较。
2011-02-17 math.ST stat.TH
Local Learning for Covariate Selection in Nonparametric Causal Effect Estimation with Latent Variables
Department of Applied Statistics, Beijing Technology and Business University(应用统计系,北京技术与商业大学);SIAT, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
针对潜变量存在下非参数因果效应估计的协变量选择问题,提出利用可观测变量间可检验关系进行局部学习的有效且完备的方法,并通过合成与真实数据实验验证其有效性。
2025-10-27 cs.LG math.ST stat.ML
Asymptotic equivalence for nonparametric additive regression
Institut f\"ur Statistik und Operations Research, Universit\"at Wien, Oskar-Morgenstern-Platz 1, 1090 Wien, Austria e1;Department, University or Company Name [Additional affiliations should be put in the Acknowledgments section] e1;Department, University or Company Name [Additional affiliations should be put in the Acknowledgments section] e2,e3
本文研究了非参数可加回归与高斯白噪声实验的渐近等价性,并探讨了在特定设定下算子的分解对逼近的影响。
2026-02-10 math.ST stat.TH
Nonparametric estimation of a covariate-adjusted counterfactual treatment regimen response curve
本文针对个体化医疗中的条件价值函数,提出基于筛的非参数协变量调整治疗方案响应曲线估计量,并建立其有效推断、置信区间及最优规则估计性质。
2023-09-28 math.ST stat.ME stat.ML
A moving window approach for nonparametric estimation of the conditional tail index
当协变量信息可用时,我们提出了Pareto型分布尾指数的非参数估计族。我们的估计是基于一些选定的观察之间的对数间距的加权和。通过在协变量域上的移动窗口方法和在感兴趣的变量上的随机阈值来实现这种选择。在弱正则性条件下证明了渐近正态性,并对某些权函数进行了说明.有限样本性能的实际数据研究。
2011-04-05 math.ST stat.ME stat.TH
A copula approach for dependence modeling in multivariate nonparametric time series
本文研究了在可能包含时间序列过去值的协变量存在的情况下,两个(或多个)时间序列的相关结构的建模问题。我们假设协变量只影响每个时间序列的条件均值和条件方差,但标准化新息的分布不受协变量的影响,并且在时间上是稳定的。联合分布的时间序列,然后确定的条件均值,条件方差和边缘分布的创新,我们估计nonparametrically,和copula的创新,它代表的依赖结构。我们考虑一个非参数以及半参数估计的基础上估计残差。我们表明,在适当的假设下,这些copula估计是渐近等价的估计,将基于未观察到的创新。通过仿真和实际数据的例子说明了理论结果。
2018-12-10 math.ST stat.ME stat.TH
Estimation and model selection in generalized additive partial linear models for correlated data with diverging number of covariates
我们提出了复杂数据的广义加性部分线性模型,它允许人们在线性分量存在的情况下捕获某些协变量的非线性模式。该方法通过引入相关性信息,提高了相关数据的估计效率和统计功效。所提出的方法的一个独特的功能是它的处理模型选择的情况下,它是难以指定的似然函数的能力。在协变量维数发散的情况下,我们得到了线性系数和非参数函数的基于二次推断函数的估计,并建立了线性系数估计的渐近正态性和非参数函数估计的有限维和高维收敛速度.所提出的方法和理论发展是相当具有挑战性的,因为线性协变量和非线性分量的数量都随着样本量的增加而增加。我们还提出了一个双重惩罚的变量选择程序,可以同时识别非零线性和非参数组件,并具有渐近预言属性。已经进行了广泛的Monte Carlo研究,并表明所提出的程序有效地工作,即使中等样本量。肾癌数据的药代动力学研究说明使用所提出的方法。
2014-05-23 math.ST stat.TH
Optimally tackling covariate shift in RKHS-based nonparametric regression
University of Chicago(芝加哥大学);UC Berkeley(加州大学伯克利分校)
本文研究 RKHS 非参数回归中的协变量偏移,证明有界似然比下 KRR 的 minimax 最优性,并对无界但二阶矩有限情形提出截断重加权 KRR。
2023-06-06 cs.LG math.ST stat.ML
Analysis of gradual changes in nonparametric regression based on a new optimization method in the non-unique case
Charles University of Prague(布拉格查理大学);University of Hamburg(汉堡大学)
针对一维协变量非参数回归模型,提出一种新的优化方法估计渐变点,定义并比较多种一致估计量,讨论收敛速度和基于渐变结构的回归函数估计。
2026-07-01 math.ST stat.TH
Nonparametric Goodness-of-fit Testing under Covariate Shift
Hong Kong University of Science and Technology(香港科技大学)
本文针对协变量偏移场景,提出结合截断重要性加权核岭回归与乘数自助法的非参数拟合优度检验方法,经理论证明与数值实验验证其有效性。
2026-08-07 cs.LG math.ST stat.ME
Statistical inference in compound functional models
我们考虑一个一般的非参数回归模型称为复合模型。它包括,作为特殊情况,稀疏加性回归和非参数(或线性)回归与许多协变量,但可能有少量的相关协变量。复合模型的特点是由三个主要参数:结构参数描述的“宏观”形式的复合函数,“微观”稀疏性参数表示的最大数量的相关协变量在每个组件和通常的光滑性参数对应的复杂性的成员的化合物。我们发现非渐近极小极大收敛速率的估计在这样的模型作为这三个参数的函数。我们还表明,这种速度可以达到自适应的方式。
2013-01-02 math.ST stat.TH
Batched Single-Index Global Multi-Armed Bandits with Covariates
Department of Mathematics, Applied Mathematics and Statistics, Case Western Reserve University(数学系、应用数学与统计学系,凯斯西储大学);Department of Statistics, Pennsylvania State University(统计系,宾夕法尼亚州立大学)
本文提出了一种新的半参数框架,用于带有协变量的批量老虎机问题,通过引入共享参数和单索引回归模型来捕捉臂奖励之间的关系,提出BIDS算法,在两种设置下推导了理论遗憾界,证明了在协变量维度为1时非参数批量老虎机的最优率。
2026-05-20 cs.LG math.ST stat.ME
Estimating change points in nonparametric time series regression models
在本文中,我们考虑一个回归模型,允许时间序列协变量以及异方差与回归函数,是非参数建模。我们假设回归函数在某个未知时间发生变化$\lfloor ns_0\rfloor$、$s_0\in(0,1)$,我们的目标是估计(重新缩放的)变化点$s_0$。所考虑的估计是基于一个Kolmogorov-Smirnov功能的显着经验过程的残差。我们证明了估计量的一致性,并证明了$O_P(n^{-1})$的收敛速率,在这种情况下,该收敛速度显然是最优的,因为序列中只有$n$点。此外,我们还研究了滞后相关协变量的情况,即非参数(自动)回归函数发生变化的自回归模型,并给出了一致性结果。证明的方法也允许不同种类的泛函,这样Cramér-von Mises型估计可以被类似地考虑。该方法扩展了现有文献,允许非参数模型,时间序列数据以及异方差。有限样本模拟表明,我们的估计在回归和自回归模型中具有良好的性能,一个真实的数据例子表明了它在实践中的适用性。
2019-09-16 math.ST stat.TH
The Propensity Score Estimation in the Presence of Length-biased Sampling: A Nonparametric Adjustment Approach
流行的队列研究的疾病持续时间的普遍使用,越来越多地要求适当的方法来解释的偏见,总是伴随着样本形成这样的数据。例如,众所周知,寿命较短的受试者不太可能参与此类研究。此外,某些协变量值可以优先选择到样本中,与长期生存者相关。使用流行病例收集的数据估计倾向评分的现有方法需要在给定治疗和协变量的情况下正确的条件生存/风险函数。如果所研究的疾病具有平稳的发病率,即所谓的平稳性假设,则可以减轻这一要求。我们提出了一种非参数调整技术的基础上加权估计方程估计的倾向得分,不需要建模的条件生存/风险函数时,平稳性假设成立。建立了估计量的大样本性质,并通过仿真研究了其小样本行为。
2013-11-06 math.ST stat.TH
The Adaptivity Barrier in Batched Nonparametric Bandits: Sharp Characterization of the Price of Unknown Margin
Committee on Computational and Applied Mathematics, University of Chicago(芝加哥大学计算与应用数学委员会);Department of Statistics, University of Chicago(芝加哥大学统计学系)
针对边际参数未知的批量非参数上下文老虎机,提出遗憾膨胀准则刻画未知性代价,证明最优遗憾膨胀随时间范围多项式增长,开发RoBIN算法实现最优膨胀,并揭示批次数超双对数阶时障碍消失的特性。
2025-11-10 cs.LG math.ST stat.ML
Symmetry: a General Structure in Nonparametric Regression
本文提出非参数回归中的对称性框架,推广协变量稀疏性,利用已知或可估计的对称性获得更快收敛速率,并构造部分对称化算子和两步M估计器,在合成数据上验证了有限样本性能。
2024-04-19 math.ST stat.TH
Partial heteroscedastic deconvolution estimation in nonparametric regression
本文提出了一种非参数回归中处理部分异方差测量误差的核估计方法,证明其在合适条件下具有最优收敛速率,并通过模拟验证了其有效性。
2026-01-28 math.ST stat.TH
On a synergistic learning phenomenon in nonparametric domain adaptation
本文研究了非参数领域自适应中源数据与目标数据协同学习现象,发现联合使用数据可提升回归函数估计的收敛速率。
2025-11-21 math.ST stat.TH
Finite Continuum-Armed Bandits
我们考虑的情况下,代理有$T$ resources被分配给一个更大数量的$N$的行动。每个动作最多只能完成一次,并产生一个均值未知的随机奖励。代理的目标是最大化她的累积奖励。当关于动作的边信息可用时,例如以协变量的形式,非平凡策略是可能的。针对非参数设置,其中平均奖励是一维协变量的未知函数,我们提出了解决该问题的最优策略。在自然的假设下的报酬函数,我们证明了最佳的遗憾尺度为$O(T^{1/3})$的多对数因子时,预算$T$是成比例的行动$N$的数量。当$T$与$N$相比变小时,发生平滑过渡。当$T/N$比率从一个常数下降到$N^{-1/3}$时,后悔会逐渐增加,直到连续武装匪徒中遇到的$O(T^{1/2})$比率。
2020-11-03 math.ST stat.ML stat.TH
Selecting Local Models in Multiple Regression by Maximizing Power
本文认为,多元回归过程中的响应变量和协变量的向量之间的关系进行分析,在非参数设置的调整参数和协变量的数量需要选择。我们介绍了一种方法,处理的困境,高维数据的样本空间的区域中的数据的稀疏性,使非参数曲线和曲面的估计几乎是不可能的。这是通过放弃试图估计真实的潜在曲线的目标,而是估计可以确定变量之间重要关系的相关性度量来实现的。
2006-12-10 math.ST stat.TH
Transfer Learning for Contextual Multi-armed Bandits
University of Michigan(密歇根大学);University of Pennsylvania(宾夕法尼亚大学)
针对协变量偏移下的非参数上下文多臂老虎机,本文提出达到极小极大遗憾的迁移学习算法,并给出可自适应未知平滑度的近最优数据驱动方法。
2024-01-25 cs.LG math.ST stat.ML
The price of unfairness in linear bandits with biased feedback
本文研究了带有偏线性反馈的公平序贯决策问题。在每一轮,玩家选择一个由协变量和敏感属性描述的动作。感知的奖励是所选动作的协变量的线性组合,但玩家只观察到对这种奖励的有偏见的评价,这取决于敏感属性。为了描述该问题的难度,我们设计了一个阶段消除算法,纠正不公平的评价,并建立其遗憾的上界。我们表明,最坏情况下的遗憾是小于$\mathcal{O}(κ_*^{1/3}\log(T)^{1/3}T^{2/3})$,其中$κ_*$是一个明确的几何常数,其特征在于偏差估计的难度。我们证明了下界的最坏情况下的遗憾的一些行动表明,这一速度是紧到一个可能的子对数因子。我们还得到了间隙依赖的上界的遗憾,和匹配的下界的一些问题instance.Interestingly,这些结果揭示了一个政权之间的过渡,该政权的问题是一样困难,因为它的无偏对应,和政权,它可以更难。
2022-06-03 math.ST stat.ML stat.TH
The Limits of Experimental Design: Covariate Balance Beyond Low Dimension
Yale University(耶鲁大学)
该研究证明低维协变量平衡的实验设计存在局限性,提出基于偏差最小化的新设计可处理高维协变量,结合匹配后在模拟中能降低处理效应估计的方差。
2026-08-19 econ.EM math.ST stat.ME