An efficient model-free estimation of multiclass conditional probability
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
传统的多类条件概率估计方法,如Fisher判别分析和逻辑斯谛回归,往往需要限制性的分布模型假设。本文提出了一种无模型估计方法,通过一系列条件分位数回归函数来估计多类条件概率。具体地,条件类概率被公式化为相应的累积分布函数的差,其中累积分布函数可以从估计的条件分位数回归函数转换。所提出的估计方法也是有效的,因为它的计算成本不会随着类的数量呈指数增长。理论和数值研究表明,所提出的估计方法是非常有竞争力的现有的竞争对手,特别是当类的数量相对较大。
2013-08-01 cs.LG stat.ME stat.ML
Neural-Kernelized Conditional Density Estimation
NAIST(奈良先端科学技术大学院大学);UCL(伦敦大学学院);Univ. Helsinki(赫尔辛基大学)
条件密度估计是解决机器学习中各种问题的通用框架。在现有的方法中,非参数和/或基于核的方法通常难以用于大型数据集,而基于神经网络的方法通常对概率密度进行限制性的参数假设。在这里,我们提出了一种新的方法来估计基于得分匹配的条件密度。与现有的方法相比,我们采用可扩展的神经网络,但不做明确的参数假设密度。将分数匹配应用于神经网络的关键挑战是计算对数密度模型的一阶和二阶导数。我们通过开发一种新的神经核化方法来解决这一挑战,该方法可以应用于具有随机梯度下降的大型数据集,而再生核允许轻松计算分数匹配所需的导数。我们证明了神经核函数逼近器具有通用的逼近能力,并且我们的方法在条件密度估计中是一致的。数值结果表明,我们的方法是有用的高维条件密度估计,并与现有的方法相比毫不逊色。最后,我们证明了所提出的方法有有趣的连接到两个概率原则框架的表示学习:非线性充分降维和非线性独立成分分析。
2018-06-05 cs.LG stat.ML
MCD: Marginal Contrastive Discrimination for conditional density estimation
MCD通过将条件密度分解为边缘密度和密度比,利用二分类技术提升条件密度估计的性能。
2026-01-02 cs.LG stat.ME stat.ML
Partition Tree: Conditional Density Estimation over General Outcome Spaces
Independent Researcher(独立研究者);INSA Rouen Normandy(里昂大学鲁昂分校);Normandy University(诺曼底大学);LITIS Rouen(鲁昂LITIS实验室)
本文提出分区树,一种基于树的框架,用于在一般结果空间上进行条件密度估计,支持连续和分类变量。通过数据自适应的分区建模条件分布,并直接最小化条件负对数似然,实现非参数方法。分区森林通过平均条件密度进行扩展,实验显示优于CART树且与现有概率树方法和随机森林竞争。
2026-11-10 cs.LG stat.ME stat.ML
Fast Nonparametric Conditional Density Estimation
条件密度估计通过对全密度f(yjx)而不仅仅是期望值E(yjx)建模来推广回归。这对于许多任务都很重要,包括处理多模态和生成预测区间。尽管非参数条件密度估计是基本的且广泛适用,但统计学家对它的关注相对较少,机器学习社区对它的关注也很少或根本没有。这些工作都没有应用于大于二元数据,可能是由于数据驱动的带宽选择的计算难度。我们描述了双核条件密度估计和推导出快速双树为基础的算法,带宽选择使用极大似然标准。在我们的实验中,这些技术的加速高达380万,并使第一个应用程序,以前棘手的大型多元数据集,包括从斯隆数字巡天的红移预测问题。
2012-06-20 cs.LG stat.ME stat.ML
Dirac Delta Regression: Conditional Density Estimation with Clinical Trials
个体化医疗旨在确定治疗对特定患者的因果影响,而不是对整个临床人群的影响。大多数研究者通过回归随机临床试验(RCT)对患者协变量的结果来估计这种个性化的处理效应。然而,结果的实现价值可能与有条件的期望相去甚远。因此,我们引入了一种称为Dirac Delta Regression(DDR)的方法,该方法从RCT数据中估计整个条件密度,以便可视化所有可能结果值的概率。DDR将结果转换为一组渐近Dirac delta分布,然后使用非线性回归估计密度。即使不存在群体水平效应,该算法也可以识别患者特异性结局的显著差异。此外,DDR在条件密度估计中甚至在小样本状态中也以大的裕度优于最先进的算法。R包可在https://github.com/ericstrobl/DDR上获得。
2021-09-01 cs.LG stat.ME stat.ML
Conditional Density Estimation with Neural Networks: Best Practices and Benchmarks
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院(KIT))
给定一组经验观测,条件密度估计旨在通过对条件变量$\mathbf{x}$和因变量$\mathbf{y}$的条件概率$p(\mathbf{y}|\mathbf{x})$建模来捕获它们之间的统计关系。本文基于数学见解和经验评估,为神经网络的金融应用开发了条件密度估计的最佳实践。特别是,我们引入了一个噪声正则化和数据归一化方案,减轻了过拟合,初始化和超参数敏感性等估计的问题。我们将我们提出的方法与流行的半参数和非参数密度估计进行比较,在模拟和Euro Stoxx 50数据的各种基准测试中证实了其有效性,并显示出其优越的性能。我们的方法允许获得高质量的估计更高的时刻,分位数和非线性回报转换的统计预期,对回报动态的假设很少。
2019-04-13 cs.LG q-fin.CP q-fin.ST
Nonparametric Conditional Density Estimation In A Deep Learning Framework For Short-Term Forecasting
North Carolina State University(北卡罗来纳州立大学);University of Melbourne(墨尔本大学)
短期预测是了解环境过程的一个重要工具。在本文中,我们将机器学习算法纳入一个条件分布估计的热带气旋强度预测的目的。许多机器学习技术给出了目标变量的条件分布的单点预测,这并没有给出预测可变性的完整说明。条件分布估计可以对预测的响应行为提供额外的见解,这可能会影响决策和政策。我们提出了一种技术,同时估计整个条件分布,并灵活地允许将机器学习技术。在目标变量和协变量上拟合平滑模型,并在模型输出层上应用逻辑变换以生成条件密度函数的表达式。我们提供了两个可以使用的机器学习模型的例子,多项式回归和深度学习模型。为了实现计算效率,我们提出了一个病例对照抽样近似的条件分布。对四种不同数据分布的模拟研究突出了我们的方法与其他基于机器学习的条件分布估计技术相比的有效性。然后,我们展示了我们的方法的实用性,从大西洋沿岸的热带气旋数据预测的目的。本文为我们的方法提供了概念证明,进一步的计算发展可以在更复杂的预测和其他应用中充分释放其洞察力。
2020-08-17 cs.LG stat.AP stat.ML
Flexible conditional density estimation for time series
New York University(纽约大学);Universidade Federal de São Carlos(圣卡洛斯联邦大学);Universidade de São Paulo(圣保罗大学)
介绍了一种新的时间序列条件密度估计器FlexCodeTS。FlexCodeTS是一个灵活的非参数条件密度估计器,可以基于任意回归方法。结果表明,FlexCodeTS继承了所选回归方法的收敛速度。因此,FlexCodeTS可以通过采用最适合数据结构的回归方法来适应其收敛性。从实证的角度来看,FlexCodeTS在模拟和真实数据中与NNKCDE和Gestival进行了比较。FlexCodeTS被示出为根据CDE损失或弹球损失在所选择的方法中通常获得最佳性能。
2023-01-23 cs.LG stat.ME stat.ML
Conditional Density Estimation via Weighted Logistic Regressions
与条件均值作为简单的点估计相比,条件密度函数更能描述具有多峰、非对称或异方差的分布。本文通过讨论非齐次Poisson过程模型的广义密度与似然函数之间的关系,提出了一种新的参数条件密度估计方法.最大似然估计可以通过加权逻辑斯谛回归获得,并且通过组合逐块交替最大化方案和局部病例对照抽样可以显著地放松计算。我们还提供了模拟研究的说明。
2020-10-21 stat.ME stat.ML
Conditional Density Estimation with Bayesian Normalising Flows
复杂条件分布的建模在各种环境中至关重要。尽管对条件密度估计的研究有着悠久的传统,但目前的方法要么采用简单的参数形式,要么在实践中难以学习。本文采用归一化流作为一个灵活的似然模型,并提出了一种有效的方法来拟合复杂的密度。这些估计器必须在建模分布复杂性,功能复杂性和异方差之间进行权衡,而不会过拟合。我们认识到这些权衡建模决策,并开发了一个贝叶斯框架放置先验这些条件密度估计使用变分贝叶斯神经网络。我们在几个小的基准回归数据集上评估了这种方法,其中一些数据集获得了最先进的性能。最后,我们使用纽约市黄色出租车数据集和芝加哥犯罪数据集,将该方法应用于两个空间密度建模任务,数据点超过100万。
2018-02-14 stat.ML
Nonparametric estimation of conditional probability distributions using a generative approach based on conditional push-forward neural networks
MOX, Department of Mathematics, Politecnico di Milano(米兰理工学院数学系MOX部门);Department of Economics, University of Bergamo(博洛尼亚大学经济系)
本文提出了一种基于条件推动神经网络的非参数条件概率分布估计方法,通过学习随机映射实现高效条件采样和统计估计,实验表明其性能优于现有主流方法。
2025-12-22 cs.LG stat.ME
On Estimation of Conditional Modes Using Multiple Quantile Regressions
当条件变量为高维时,我们提出了一种条件模式的估计方法。在所提出的方法中,我们首先通过多次求解分位数回归来估计条件密度。然后,我们通过找到估计的条件密度的最大值来估计条件模式。所提出的方法有两个优点,它是计算稳定的,因为它没有初始参数的依赖性,它是统计有效的,具有快速的收敛速度。合成和真实世界的数据实验表明,所提出的方法相比,其他现有的更好的性能。
2017-12-23 math.ST stat.ME stat.ML
Super-Resolution via Conditional Implicit Maximum Likelihood Estimation
University of California, Berkeley(加州大学伯克利分校);University of Toronto(多伦多大学)
单图像超分辨率(SISR)是一个典型的问题,具有不同的应用。像SRGAN这样的领先方法产生的图像包含各种伪影,如高频噪声,幻觉颜色和形状失真,这对结果的真实性产生了不利影响。在本文中,我们提出了一种替代方法的基础上扩展的隐式最大似然估计(IMLE)的方法。我们在降噪和保留原始颜色和形状方面表现出更大的有效性,从而产生更逼真的超分辨率图像。
2018-10-02 cs.CV cs.GR cs.LG
Calibrated Counterfactual Conformal Fairness ($C^3F$): Post-hoc, Shift-Aware Coverage Parity via Conformal Prediction and Counterfactual Regularization
Lightcap;Turkish Aeronautical Association(土耳其航空协会)
提出事后方法$C^3F$,融合重要性加权共形校准与反事实正则化,在协变量偏移下保障群体条件覆盖率均等,并通过基准实验验证其有效性。
2025-09-29 stat.ME
Conditional Shannon, Réyni, and Tsallis entropies estimation and asymptotic limits: discrete case
本文提出了一种估计一对离散随机变量的联合概率质量函数的方法。该估计量用于构造条件Shannon-Réyni-Tsallis熵估计。从那里几乎必然的收敛速度和渐近正态性建立。仿真结果验证了理论分析的正确性。
2020-02-16 math.ST stat.ME stat.TH
Minimax Optimal Estimation of Mean and Covariance Functions with Spectral Regularization
Department of Statistics, Pennsylvania State University(宾夕法尼亚州立大学统计学系)
本文研究了在再生核希尔伯特空间中利用频谱正则化估计均值和协方差函数的方法,推导了估计器的收敛率并建立了最优性界。
2026-10-01 math.ST stat.TH
A quantile-copula approach to conditional density estimation
我们提出了一个新的核型条件密度的非参数估计。它是基于一个有效的转换的数据分位数变换。利用Copula表示,它有一个显著的乘积形式。我们研究了它的渐近性质,并基于非参数回归将它的偏差和方差与竞争对手进行了比较。
2008-06-12 math.ST stat.ME stat.TH
Nonparametric Estimation of Truncated Conditional Expectation Functions
截断条件期望函数在经济学中有广泛的应用,包括收入不平等度量、金融风险管理和影响评估。它们通常涉及截断高于或低于其条件分布的某些分位数的结果变量。本文基于局部线性方法,提出了一类新的两阶段非参数估计。在该估计问题中,条件分位数函数是必须在第一阶段中估计的干扰参数。由于在第二阶段中使用了奈曼正交矩,该估计器对第一阶段的估计误差不敏感。这种构造确保了为标准非参数回归开发的推断方法可以容易地适应于对截断条件期望进行推断。作为一种扩展,估计截断分位数水平被认为是估计。建议的估计适用于两个经验设置:尖锐的断点回归设计与操纵运行变量和随机试验与样本选择。
2021-09-13 econ.EM stat.AP
Empirical Bayes conditional density estimation
给定解释变量的向量,响应的条件密度的非参数估计问题是经典的,并且在许多预测问题中具有突出的重要性,因为条件密度比回归函数更全面地描述了响应和预测变量之间的关联。这个问题在经济、精算科学和医学等不同领域都有应用。我们研究了条件密度的经验贝叶斯估计,建立了高斯核无限混合中先验超参数的自动数据驱动选择,具有预测依赖的混合权重,可以导致其性能与频率估计是最小最大最优的估计(直到对数因子)在局部Hölder光滑条件密度类上的速率自适应,降维如果响应独立于(某些)解释变量不包含关于响应的信息,与估计其条件密度的目的无关。
2015-04-20 stat.ME
The general regularisation scheme applied to conditional density estimation
Department of Statistics, University of Oxford(牛津大学统计系)
本文提出一种统一框架,将正则化方案扩展到条件密度估计,推导出具有严格收敛速率的新估计器,并通过数值实验验证其优于Nadaraya-Watson估计器。
2026-05-10 math.ST stat.TH
LinCDE: Conditional Density Estimation via Lindsey's Method
条件密度估计是统计学中的一个基本问题,在生物学、经济学、金融学和环境研究等领域都有科学和实际应用。在本文中,我们提出了一个条件密度估计的基础上梯度提升和Lindsey的方法(LinCDE)。LinCDE允许灵活的密度族建模,并可以捕获分布特征,如模态和形状。特别是,当适当的参数化,LinCDE将产生平滑和非负的密度估计。此外,像提升回归树一样,LinCDE也会自动进行特征选择。我们证明了LinCDE的有效性,通过广泛的模拟和三个真实的数据例子。
2021-12-31 stat.ME
On conditional least squares estimation for affine diffusions based on continuous time observations
研究了基于连续时间观测的两因子仿射扩散模型漂移参数的条件最小二乘估计的渐近性质。我们区分三种情况:亚临界,临界和超临界。对于所有的漂移参数,在亚临界和超临界情况下,证明了渐近正态性和渐近混合正态性,而在临界情况下,描述了非标准的渐近行为。
2017-07-26 math.PR math.ST stat.TH
Conditional Diffusion Models are Minimax-Optimal and Manifold-Adaptive for Conditional Distribution Estimation
本文研究条件前向-后向扩散模型在条件分布估计中的理论性质,证明其在总变差度量下达到极小极大最优收敛速度,并进一步证明当数据与协变量均具有低维流形结构时,模型能自适应两种流形,使误差界仅取决于内在维数。
2024-09-30 math.ST stat.TH
Deep Generative Survival Analysis: Nonparametric Estimation of Conditional Survival Function
我们提出了一种深度生成方法,用于右删失数据条件生存和风险函数的非参数估计。该方法的核心思想是在给定协变量的情况下,首先学习观测时间和截尾指标的联合条件分布的条件生成器,然后基于该条件生成器构造条件风险和生存函数的Kaplan-Meier和Nelson-Aalen估计量.我们的方法结合了最近开发的深度生成学习和生存分析中的经典非参数估计的思想。我们分析了所提出的方法的收敛性,并建立了条件生存和风险函数的生成非参数估计的相容性。我们的数值实验验证了所提出的方法,并在一系列的模拟模型中展示了其优越的性能。我们还说明了所提出的方法在构建PBC(原发性胆汁性胆管炎)和SUPPORT(了解预后和治疗结果和风险偏好的研究)数据集的生存时间预测区间中的应用。
2022-05-19 math.ST stat.TH
Nonparametric estimation of the conditional distribution of the inter-jumping times for piecewise-deterministic Markov processes
本文提出了一种估计分段确定马尔可夫过程跳率条件密度的非参数方法。在我们的框架中,估计只需要在很长的时间间隔内对过程进行一次观测。我们的方法依赖于Aalen的乘法强度模型的推广。我们证明了我们的估计一致的一致性,在一些合理的假设有关的原始特征的过程。一个模拟例子说明了我们的估计的行为。
2012-07-11 math.ST stat.TH
Conditional Quantile Analysis for Realized GARCH Models
本文介绍了一种新的分位数方法,利用高频信息,改善日常条件分位数估计。具体而言,我们的模型的条件标准差作为一个实现Gestival模型,并采用条件标准差,实现波动率,实现分位数,和绝对隔夜收益率的创新建议的动态分位数模型。我们设计了一个两步估计过程来估计条件分位数参数。第一步应用准极大似然估计过程,以已实现波动率作为波动率代理的代理,估计条件标准差参数。第二步利用分位数回归估计过程,其中在第一步中估计条件标准差。建立了估计方法的渐近理论,并进行了仿真研究,以检查其有限样本性能。最后,我们应用所提出的方法来计算20个单独的资产的风险价值(VaR),并比较其性能与现有的竞争对手。
2021-08-04 stat.ME
On weak conditional convergence of bivariate Archimedean and Extreme Value copulas, and consequences to nonparametric estimation
从条件分布的角度看待二元Copula并考虑几乎所有条件分布的弱收敛性,就会产生弱条件收敛的概念。乍看之下,Copula收敛的概念似乎过于严格,没有任何实际意义--事实上,给定Copula $C$的样本,相应的经验Copula一般不会以概率1弱条件收敛到$C$。然而,在阿基米德copula类和极值copula类中,标准逐点收敛和弱条件收敛甚至可以被证明是等价的。此外,还可以证明每个copula $C$都是棋盘copula序列的弱条件极限。证明这三个主要结果,并指出一些后果后,我们勾勒出一些影响最近推出的两个相关措施和阿基米德和极值copula的非参数估计。
2020-10-09 math.ST stat.TH
Conditional Distribution Estimation Given Functional Covariates Using Deep Operator Networks
University of California, Irvine(加州大学尔湾分校)
该研究拓展传统函数对标量回归,采用深度算子网络结合卷积神经网络,实现任意算子下的条件分布估计,在复杂数据场景中鲁棒性优于均值回归神经网络。
2026-09-04 stat.ME
lpcde: Estimation and Inference for Local Polynomial Conditional Density Estimators
本文介绍R包lpcde,实现基于局部多项式平滑的条件分布、密度及其导数的估计与推断,提供最优带宽选择、稳健偏差校正的不确定性量化及正则化密度估计,并与现有开源包对比验证其功能。
2025-03-07 stat.AP stat.CO stat.ME
Estimation risk in conditional expectiles
Sao Paulo School of Economics, FGV(圣保罗经济管理学院,FGV);Argus Media;Sao Paulo School of Business Administation, FGV(圣保罗商业管理学院,FGV)
该研究在条件尺度模型下建立了条件期望分位数两步估计量的一致性与渐近正态性,阐明了标准化残差替代真实创新项的影响,发现其评估加密市场尾部风险比传统分位数度量更稳健。
2026-09-03 econ.EM stat.ME
Bayesian Estimation and Regularization Techniques in Categorical Data Analysis
本文研究分类数据分析中的贝叶斯估计与正则化技术,重访二项分布贝叶斯估计量性质,提出基于正则化似然的分类数据假设检验,构建列联表关联度量及互信息的正则化版本以处理零计数问题,为高级方法的实际应用奠基。
2025-09-02 stat.ME
Recursive estimation of the conditional geometric median in Hilbert spaces
研究了希尔伯特空间中条件几何中值的递推估计。它是基于一个随机梯度算法,其目的是尽量减少加权L1标准,因此非常适合于强大的在线估计。权重由核函数和相关带宽控制。在条件分布、算法的下降步序列和带宽序列的一般条件下,证明了算法的几乎几乎必然收敛和L2收敛速度.对于具有最佳收敛速率的算法的平均版本,也证明了其渐近正态性。仿真研究证实了这种新的和快速的算法时,样本量大的利益。最后,这些递归算法处理非常高维的数据的能力说明了电视观众配置文件的条件下,在24小时内观看电视的总时间的鲁棒估计。
2012-04-14 math.ST stat.TH
Estimation of limiting conditional distributions for the heavy tailed long memory stochastic volatility process
我们考虑了具有重尾和长记忆的随机波动率过程。我们研究了未来事件的极限条件分布,假设当前或过去的事件是极端的(即在趋于无穷大的水平之上)。尽管随机波动率过程的极值是渐近独立的(在极值理论的意义上),但这些极限条件分布不同于独立同分布。案子我们引入了这些极限条件分布的估计,并研究了它们的渐近性质。如果波动率具有长记忆性,则中心估计量的收敛速度收敛速率和极限分布可以依赖于长记忆性参数(Hurst指数)。
2011-08-16 math.ST stat.TH
Weak convergence of the regularization path in penalized M-estimation
我们考虑的估计$\hbbeta_n(t)$定义为元素$\bphi\in\bPhi$最小化的对比度过程$\pencontrast(\bphi, t)$为每个t。我们给出了有界函数空间中$\sqrt{n}(\hbbeta_n-\bbeta)$弱收敛的一般性结果,其中对于每个t,$\bbeta(t)$是使$\pencontrast(\bphi, t)$的极限最小化的$\bphi\in\bPhi$为$n\to\infty$ .这些结果适用于惩罚M-估计的上下文中,也就是说,当$\pencontrast(\bphi, t)=M_n(\bphi)+ t J_n(\bphi)$,其中$M_n$是一个常见的对比度过程和$J_n$的惩罚,如$\ell^1$规范或平方$\ell^2$规范。函数$\hbbeta_n$则称为\emph{regularization path}。例如,我们证明了Knight和Fu(2000)中为lasso估计量建立的中心极限定理对于正则化路径在函数意义下仍然成立。其他例子包括$M_n$的各种可能的对比过程,如Pollard(1985)中考虑的那些。
2009-06-10 math.ST stat.TH
Conditional Density Estimation by Penalized Likelihood Model Selection and Applications
在本技术报告中,我们考虑使用最大似然方法的条件密度估计。在较弱的假设下,得到了单模型Kullback-Leibler型损失的最大似然估计的理论界.我们使用惩罚模型选择技术来选择集合中的最佳模型。我们给出了罚函数选择的一般条件,并证明了罚函数选择的结果是oracle型不等式。这种构造被应用到基于分区的条件密度模型的两个例子中,在这些模型中,条件密度仅以分段方式依赖于协变量。第一个例子依赖于经典的分段多项式密度,而第二个使用高斯混合物与不同的混合比例,但相同的混合成分。我们展示了这最后一种情况是如何与无监督分割应用程序,一直是我们的动机,这项研究的来源。
2012-07-09 math.ST stat.TH
Nonparametric method for space conditional density estimation in moderately large dimensions
在本文中,我们考虑的问题,估计一个条件密度在适度大的尺寸。条件密度比回归函数信息量大得多,是最近方法中的主要兴趣,特别是在贝叶斯框架中(研究后验分布,找到其模式.)。考虑到最近研究的家庭的核估计,我们选择逐点多元带宽通过重新访问贪婪算法Rodeo(正规化的导数期望算子)。该方法解决了几个问题:通过迭代过程实现贪婪和计算效率,通过在过程中早期选择变量来避免在一些适当定义的稀疏条件下的高维诅咒,以准最优极大极小速率收敛。
2018-01-19 stat.ME
Hybrid Quantile Regression Estimation for Time Series Models with Conditional Heteroscedasticity
金融时间序列的条件分位数估计对于风险管理和金融领域的许多其他应用是必不可少的。众所周知,金融时间序列具有条件异方差性。在众多的条件异方差模型中,广义自回归条件异方差(GARCH)过程是最流行和最有影响力的一个。到目前为止,可行的分位数回归方法,这项任务已被限制到一个变种的Gestival模型,线性Gestival模型,由于其易于处理的条件分位数结构。本文考虑了广泛使用的Gestival模型。一个易于实现的混合条件分位数估计程序开发的基础上,一个简单的,但非平凡的变换。所提出的估计量和统计量的渐近性质的推导,这有利于相应的推论。为了近似的渐近分布的分位数回归估计,我们引入了一个混合的自举过程,其中一个耗时的优化被替换为样本平均。此外,基于残差分位数自相关函数的诊断工具被构造来检查拟合的条件分位数的充分性。仿真实验进行了评估所提出的方法的有限样本性能。的条件分位数估计和推理工具的有用性的良好性能进一步说明了实证应用。
2016-10-24 stat.ME
Functional nonparametric estimation of conditional extreme quantiles
当函数协变量信息可用时,以及当分位数的阶数随着样本量的增加而收敛到1时,我们讨论了重尾分布分位数的估计。这样的“极端”分位数可以位于数据的范围内,或者接近甚至超出样本的边界,这取决于它们的阶数收敛到1的收敛速度。引入了这些泛函极值分位数的非参数估计,建立了它们的渐近分布,并研究了它们的有限样本行为。
2011-04-01 math.ST stat.ME stat.TH
Conditional Aalen--Johansen estimation
提出适用于任意有限状态跳过程、可纳入内外部协变量的条件 Aalen–Johansen 非参数估计量,并证明其强一致一致性与渐近正态性。
2025-02-17 math.ST stat.ME stat.TH
Estimation of conditional laws given an extreme component
令$(X,Y)$为二元随机向量。当$t$较大时,形式为$P(Y\leq y \mid X >t) $的概率的估计是具有挑战性的,并且富有成效的方法在于研究随机向量$(X,Y)$的极限条件分布,如果它存在的话,适当地归一化,假定$X$较大。已经有大量文献描述了存在这种极限分布的二元模型。本文对这一问题进行了统计分析。提供了极限分布(假设存在)和归一化函数的估计,以及条件分位数函数的估计,当条件事件是极端的。证明了估计量的相合性,得到了极限分布估计量的泛函中心极限定理。通过模拟说明了条件分位数函数的估计量的小样本行为。
2010-09-13 math.ST stat.TH
Maximum Likelihood Estimation for Conditionally Heteroscedastic Models when the Innovation Process is in the Domain of Attraction of a Stable Law
本文证明了一般条件异方差模型参数的极大似然估计的强相合性和渐近正态性,该模型具有$α$稳定的新息。然后,我们放宽假设,只假设创新过程在分布上收敛于一个稳定的过程。利用具有稳定密度的伪极大似然估计,得到了估计的强相合性和渐近正态性。这一框架似乎适用于表现出厚尾的金融数据。我们将此方法应用于几个金融指标,并计算稳定的风险价值。
2012-12-28 math.ST stat.TH
Photo-z Estimation: An Example of Nonparametric Conditional Density Estimation under Selection Bias
红移是推断宇宙学模型参数的一个关键量。在光度红移估计中,宇宙学家使用从绝大多数星系收集的粗略数据来预测单个星系的红移。然而,为了正确地量化预测中的不确定性,需要超越标准回归,而是估计完整的条件密度f(z| x)的星系的红移z给定其光度协变量x。选择偏差使问题变得更加复杂:通常只有最稀有和最明亮的星系才有已知的红移,这些星系的特征和测量协变量不一定与那些数量更多和更暗的未知红移星系相匹配。不幸的是,没有太多的研究如何最好地估计复杂的多元密度在这样的设置。在这里,我们描述了一个一般的框架,正确地构建和评估非参数条件密度估计下的选择偏差,并结合两个或多个估计的最佳性能。我们提出了新的改进的photo-z估计和illustrate我们的方法对数据从斯隆数据巡天和星系星系透镜的应用。虽然我们的主要应用是photo-z估计,我们的方法是相关的任何高维回归设置复杂的非对称和多峰分布的响应变量。
2016-04-05 astro-ph.IM stat.AP
Conditional Kernel Density Estimation Considering Autocorrelation for Renewable Energy Probabilistic Modeling
可再生能源对于能源安全和减缓全球变暖至关重要。然而,由于气候条件多变和设备操作复杂,可再生能源发电存在不确定性。为了提高设备的运行效率,重要的是要了解和表征的不确定性,在可再生能源发电。本文提出了一种条件核密度估计方法来模拟任意气象条件下的设备功率分布。它明确占的时间依赖性的数据流,并使用迭代过程,以减少内核密度估计的偏见。与现有文献相比,我们的方法是特别有用的设备状态监测或短期可再生能源预测的目的,其中的数据依赖性起着更重要的作用。我们证明了我们的方法,并通过实际应用与替代品进行比较。
2020-07-08 eess.SP stat.ME
Nonparametric Estimation of Conditional Copula using Smoothed Checkerboard Bernstein Sieves
针对条件copula半参数估计需选择参数模型的问题,提出基于经验棋盘Bernstein copula的全非参数估计方法,推导了条件依赖度量的闭式估计,证明了大样本相合性,并通过模拟和实际案例验证了其性能。
2023-11-06 stat.ME
Combining Smoothing Spline with Conditional Gaussian Graphical Model for Density and Graph Estimation
多元密度估计和图模型在统计学习中起着重要的作用。估计的密度可用于构建揭示条件关系的图形模型,而图形结构可用于构建用于密度估计的模型。我们的目标是构建一个统一的框架,可以执行密度和图形估计。将$\bm{Z}$表示为具有密度函数$f(\bz)$的感兴趣的随机向量。将$\bm{Z}$分解为$\bm{Z}=(\bm{X}^T,\bm{Y}^T)^T$和$f(\bz)=f(\bx)f(\by|\bx)$两部分,其中$f(\bx)$是$\bm{X}$的密度函数,$f(\by|\bx)$是$\bm{Y}|\bm{X}=\bx$的条件密度。我们提出了一个半参数框架,模型$f(\bx)$非参数使用平滑样条方差分析(SS ANOVA)模型和$f(\by|\bx)$参数使用条件高斯图形模型(CGGM)。结合SS ANOVA模型的灵活性和cGGM的简洁性,这个框架允许我们处理高维数据,而无需假设联合高斯分布。我们提出了一个cGGM与计算效率高的方法来选择调谐参数的后拟合估计过程。我们还开发了一个几何推理的边缘选择方法。我们建立了参数和密度估计的渐近收敛性质。所提出的方法的性能进行评估,通过广泛的模拟研究和两个真实的数据应用。
2019-03-30 stat.ME
Nonparametric estimation of conditional value-at-risk and expected shortfall based on extreme value theory
我们提出了一个金融资产的一系列收益的条件分布的条件风险价值(CVaR)和条件预期亏损(CES)的非参数估计。收益率序列和条件协变量(可能包括滞后收益率和其他外生变量)被假设为强混合,并遵循非参数条件位置-规模模型。将位置和规模的第一阶段非参数估计与Pickands(1975)提出的分布尾部的广义Pareto近似相结合,给出CVaR和CES的最终估计。我们提供了适当的归一化下的估计的一致性和渐近正态性。我们还提出了一个蒙特卡罗研究,揭示了他们的有限样本性能的结果。实证可行性的模型和估计量进行了调查,通过回测练习,使用五种农产品的期货合同的回报。
2016-12-23 stat.ME
A statistical theory of graph regularization for RNA velocity near developmental bifurcations
Yanbian University(延边大学);State University of New York at Buffalo(纽约州立大学布法罗分校)
该研究建立发育分叉附近RNA速度图正则化的统计理论,推导偏差-方差分解,提出分支敏感风险,揭示邻近图正则化的几何局限性,为RNA速度估计提供数学基础。
2026-08-13 math.ST stat.TH
Minimax Optimal Conditional Density Estimation under Total Variation Smoothness
本文研究了多变量下加权绝对值损失下非参数条件密度估计的Minimax率。我们首先证明,有条件的密度估计是不可能的,如果只需要$p_{X|Z}$是光滑的$x$的所有值的$z$。这促使我们考虑绝对连续分布的子类,限制条件密度$p_{X|Z}(x|z)$不仅在$x$中是Hölder光滑的,而且在$z$中是全变差光滑的。我们提出了一个相应的基于核的估计,并证明了它实现了极大极小率。我们给出了一些简单的例子,密度满足我们的假设,这意味着我们的结果不是空洞的。最后,我们提出了一个估计器,实现最小最大最优率自适应,即,而不需要预先知道平滑度参数值。至关重要的是,我们的估计(自适应和非自适应的)强加没有假设的边际密度$p_Z$,并没有获得两个内核平滑估计,这可能听起来像一个去的方法在这个问题之间的比率。
2021-03-12 math.ST stat.TH
Nonparametric estimation of the conditional density function with right-censored and dependent data
本文研究了右删失数据下条件密度函数的局部常数和局部线性估计。假设观测值构成一个平稳的$α-$混合序列。建立了这两种估计的渐近正态性,并结合$\lim\limits_{n\rightarrow\infty}nh_nb_n=\infty$隐含这两种估计相合的条件,给出了构造条件密度函数置信区间的方法. Kim等人(2010)中关于条件密度函数的局部线性估计的结果从i.i.d.将条件密度函数的局部线性估计的结果从$ρ$混合假设放宽到$α-$混合设置,并且将Spierdijk(2008)中的条件密度函数的局部线性估计的结果从$ρ$混合假设放宽到$α-$混合设置。有限样本行为的估计进行了研究,通过模拟。
2019-07-10 math.ST stat.TH
The Advantage of Conditional Meta-Learning for Biased Regularization and Fine-Tuning
Istituto Italiano di Tecnologia(意大利技术研究院)
有偏正则化和微调是最近的两种元学习方法。它们已被证明是有效的,以解决任务的分布,其中任务的目标向量都接近一个共同的元参数向量。然而,这些方法在任务的异构环境中可能表现不佳,其中任务分布的复杂性不能由单个元参数向量捕获。我们通过条件元学习来解决这个限制,推断条件函数将任务的边信息映射到适合手头任务的元参数向量。我们的环境下,有条件的方法带来了很大的优势,比标准的元学习的特性,我们突出的例子,如那些具有多个集群,满足这些属性的环境。然后,我们提出了一个凸元算法提供了一个比较的优势,也在实践中。数值实验证实了我们的理论发现。
2020-08-25 cs.LG stat.ML
Hybrid Conditional Gradient - Smoothing Algorithms with Applications to Sparse and Low Rank Regularization
École Centrale Paris(巴黎中央理工学院);KU Leuven(鲁汶大学)
研究了求解有界集上多项复合凸优化问题的混合条件梯度光滑算法。这些例子包括正则化问题与几个规范作为惩罚和规范约束。HCGS将条件梯度法扩展到具有多个非光滑项的情况,其中标准条件梯度法可能难以应用。HCGS算法借用了平滑邻近方法的技术,需要一阶计算(次梯度和邻近运算)。与近似方法不同,HCGS受益于条件梯度法的优点,这使得它在某些大规模最优化问题上更有效。我们证明了这些优势与模拟上的两个矩阵最优化问题:正则化的矩阵结合$\ell_1$和迹范数罚款;和稀疏PCA的凸松弛。
2014-04-15 cs.LG math.OC stat.ML
Overlap-Adaptive Regularization for Conditional Average Treatment Effect Estimation
LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心);Munich, Germany(德国慕尼黑)
本文提出重叠自适应正则化方法,通过调整正则化强度以应对低重叠问题,提升CATE估计的性能。
2026-03-11 cs.LG stat.ML
Diversity-Sensitive Conditional Generative Adversarial Networks
University of Michigan(密歇根大学);Google Brain(谷歌大脑)
我们提出了一种简单而高效的方法,解决了条件生成对抗网络(cGAN)中的模式崩溃问题。虽然条件分布是多模态的(即,在实践中,大多数cGAN方法倾向于学习过度简化的分布,其中输入总是被映射到单个输出,而不管潜在代码的变化。为了解决这个问题,我们建议显式地正则化生成器,以根据潜在代码产生不同的输出。所提出的正则化是简单的,一般的,并且可以很容易地集成到大多数条件GAN目标。此外,生成器上的显式正则化允许我们的方法控制视觉质量和多样性之间的平衡。我们证明了我们的方法在三个条件生成任务:图像到图像的翻译,图像修补,和未来的视频预测的有效性。我们表明,简单地将我们的正则化添加到现有模型中会导致令人惊讶的多样化生成,大大优于以前在每个单独任务中专门设计的多模态条件生成方法。
2019-01-25 cs.LG stat.ML