A Meta-learner for Heterogeneous Effects in Difference-in-Differences
Microsoft Research(微软研究院)
提出一种双重稳健元学习器,用于在双重差分框架下估计面板数据的异质处理效应,利用Neyman正交性保证对辅助模型误差的稳健性,并扩展至协变量偏移与工具化设置,实证显示优于现有基线。
2025-04-26 cs.LG stat.ML
A Triangular Network For Density Estimation
我们报告了一个三角形神经网络实现的神经自回归流(NAF)。与许多通用的自回归密度模型不同,我们的设计是高度模块化的,参数经济,计算效率高,适用于高维度数据的密度估计。它实现了最先进的每维比特指数MNIST和CIFAR-10(约1.1和3.7,分别)的类别中的通用密度估计。
2020-05-28 cs.LG stat.ML
Low-rank Characteristic Tensor Density Estimation Part II: Compression and Latent Density Estimation
University of Virginia(弗吉尼亚大学);University of Minnesota(明尼苏达大学);Amazon(亚马逊)
生成概率模型的学习是机器学习的核心问题,由于维数灾难的存在,使得生成概率模型的学习面临着巨大的挑战。本文提出了一种联合降维和非参数密度估计框架,使用一种新的估计,可以显式地捕捉潜在的分布适当的降维表示的输入数据。其思想是联合设计一个非线性降维自动编码器,根据一组简约的潜在随机变量对训练数据进行建模,并学习傅立叶域中潜在变量的联合分布的规范低秩张量模型。所提出的潜在密度模型是非参数的和通用的,而不是预定义的前,假设在变分自动编码器。联合优化的自动编码器和潜在的密度估计追求通过制定学习的负对数似然在潜在域和自动编码器重建损失的组合最小化。我们证明了该模型在玩具,表格和图像数据集上回归任务,采样和异常检测方面取得了非常有前途的结果。
2021-06-20 cs.LG stat.ML
Robust and Sparse Estimation of Unbounded Density Ratio under Heavy Contamination
Panasonic Holdings Corporation(松下电器控股公司);The Institute of Statistical Mathematics(统计数学研究所);The Graduate University for Advanced Studies (SOKENDAI)(高级研究大学(SOKENDAI))
本文提出了一种在重污染环境下实现鲁棒且稀疏估计无界密度比的方法,通过非渐近框架分析解决了密度比估计和鲁棒估计中的关键挑战。
2025-12-10 cs.LG stat.ML
Telescoping Density-Ratio Estimation
School of Informatics(信息学院);University of Edinburgh(爱丁堡大学)
通过分类进行密度比估计是无监督学习的基石。它为表示学习和生成建模的最先进方法提供了基础,用例的数量继续激增。然而,它有一个关键的限制:它不能准确地估计两个密度显著不同的p/q比。根据经验,我们发现,每当p和q之间的库尔贝克-莱布勒散度超过数十nat时,就会发生这种情况。为了解决这个问题,我们引入了一个新的框架,伸缩密度比估计(TRE),使高度不相似的密度在高维空间之间的比率估计。我们的实验表明,TRE可以产生实质性的改进,现有的单比方法的互信息估计,表示学习和基于能量的建模。
2020-11-24 cs.LG stat.ML
Direct Estimation of Differential Functional Graphical Models
考虑了两个具有共享结构的泛函无向图模型之间的差异估计问题。在许多应用中,数据通常被视为高维随机函数向量而不是多元标量。例如,脑电图(EEG)数据更适合作为时间的函数来处理。在这些问题中,不仅每个样本测量的函数数量很大,而且每个函数本身就是一个无限维的对象,这使得模型参数的估计具有挑战性。我们开发了一种方法,直接估计图的差异,避免单独估计每个图,并显示它是一致的,在某些高维设置。我们通过仿真研究说明了我们的方法的有限样本性质。最后,我们将我们的方法应用于EEG数据,以揭示酗酒者和对照组之间的功能性大脑连接的差异。
2019-11-16 cs.LG stat.ME stat.ML
Sobolev Regularized Score Difference Estimation in Diffusion Models
Stanford University(斯坦福大学)
本文针对扩散模型得分差估计存在的统计一致性或可扩展性问题,提出Sobolev正则化的一致可扩展估计器,在小样本场景稳定性提升,真实任务性能优于非正则化方法。
2026-08-25 cs.LG math.OC stat.ML
Exact Formulas for Finite-Time Estimation Errors of Decentralized Temporal Difference Learning with Linear Function Approximation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文研究了多智能体强化学习(MARL)中的策略评估问题,推导了线性函数近似下分散时间差分(TD)学习的有限时间均方估计误差的精确闭合公式。我们的分析取决于这样一个事实,即分散TD学习方法可以被视为一个马尔可夫跳跃线性系统(MJLS)。然后应用标准的MJLS理论量化分散TD方法在每个时间步的估计误差的均值和协方差矩阵。我们的精确公式上的算法性能的各种影响进行了讨论。一个有趣的发现是,在充分必要的稳定条件下,均方TD估计误差将以特定的指数速率收敛到精确的极限。
2022-04-20 cs.LG cs.SY eess.SY
MCD: Marginal Contrastive Discrimination for conditional density estimation
MCD通过将条件密度分解为边缘密度和密度比,利用二分类技术提升条件密度估计的性能。
2026-01-02 cs.LG stat.ME stat.ML
Robust Kernel Density Estimation
University of Michigan(密歇根大学)
我们提出了一种非参数密度估计的方法,表现出鲁棒性的污染的训练样本。该方法通过将传统的核密度估计器(KDE)与经典的$M$估计的思想相结合来实现鲁棒性。我们解释的KDE的基础上的径向,半正定内核作为一个样本均值在相关的再生核希尔伯特空间。由于样本均值对异常值敏感,我们通过$M$ -估计对其进行鲁棒估计,得到鲁棒核密度估计(RKDE)。一个RKDE可以有效地计算通过内核化迭代重加权最小二乘(IRWLS)算法。给出了核化IRWLS收敛于$M$ -估计目标函数全局极小的充要条件。RKDE的鲁棒性证明了一个代表定理,影响函数,密度估计和异常检测的实验结果。
2011-09-06 cs.LG stat.ME stat.ML
Tensor-Train Density Estimation
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究所)
从样本中估计概率密度函数是统计学和机器学习的核心问题之一。基于现代神经网络的模型可以学习高维分布,但在超参数选择方面存在问题,并且在训练和推理过程中往往容易出现不稳定性。我们提出了一种新的有效的基于张量训练的密度估计模型(TTDE)。这样的密度参数化允许精确采样,计算累积和边缘密度函数,以及配分函数。它也有非常直观的超参数。我们开发了一个有效的非对抗性训练过程TTDE的基础上黎曼优化。实验结果表明,所提出的方法在密度估计和采样任务的竞争性能,而TTDE显着优于竞争对手的训练速度。
2022-02-25 cs.AI cs.LG stat.ML
Nonparametric Density Estimation for High-Dimensional Data - Algorithms and Applications
Rice University(莱斯大学)
密度估计是统计学的核心领域之一,其目的是估计观测数据背后的概率密度函数。它是统计推断、可视化和机器学习中许多任务的构建块。密度估计在无监督学习领域中被广泛应用,特别是在聚类分析中。随着大数据在数据科学的几乎每个领域都变得普遍,分析具有许多特征和变量的高维数据似乎是学术界和工业界的主要焦点。高维数据不仅从统计推断的理论方面提出了挑战,而且从机器学习和数据分析的算法/计算考虑也提出了挑战。本文回顾了一系列选定的非参数密度估计算法的高维数据,其中一些是最近发表的,并提供有趣的数学见解。本文还介绍了非参数密度估计的重要应用领域,如{模态聚类}。最后提出了与密度估计和高维数据分析相关的几个研究方向。
2019-03-30 cs.LG stat.CO stat.ML
TAKDE: Temporal Adaptive Kernel Density Estimator for Real-Time Dynamic Density Estimation
Northeastern University(东北大学);Texas A&M University(德克萨斯A&M大学)
本文提出时间自适应核密度估计器(TAKDE),基于滑动窗口核密度估计的AMISE上界进行理论优化,在合成和真实数据上以更小运行时间获得更优测试对数似然。
2023-11-08 cs.LG eess.SP stat.ML
Reducing Variance in Temporal-Difference Value Estimation via Ensemble of Deep Networks
University of California, Irvine(加州大学欧文分校);Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校)
在时间差强化学习算法中,值估计的方差会导致最大目标值的不稳定和高估。已经提出了许多算法来减少高估,包括最近的几种集成方法,但是没有一种算法通过解决估计方差作为高估的根本原因而在样本有效学习中取得成功。在本文中,我们提出了MeanQ,一个简单的集成方法,估计目标值作为集成手段。尽管它的简单性,MeanQ显示了显着的样本效率在Atari学习环境基准的实验。重要的是,我们发现大小为5的集合充分降低了估计方差以消除滞后目标网络,消除了它作为偏差的来源,并进一步提高了样本效率。我们直观和经验证明的设计选择均值Q,包括独立的经验抽样的必要性。在一组26个基准Atari环境中,MeanQ在16/26个环境中的100 K交互步骤上优于所有测试基线,包括最佳可用基线,日出,平均68%。MeanQ在21/26环境中的50万步的性能也优于Rainbow DQN,平均提高了49%,并在20万($\pm$ 100 K)交互步的情况下达到了人类水平的平均性能。我们的实现可以在https://github.com/indylab/MeanQ上获得。
2022-09-16 cs.LG
Decision-Centered Abstractions via Orthogonal Estimation of Difference-of-Q Functions
Department of Computer Science, University of Southern California(计算机科学系,南加州大学);Department of Data Sciences and Operations and Computer Science(数据科学与运营与计算机科学系,南加州大学)
本文提出通过正交估计差Q函数学习决策中心状态抽象,在离线强化学习中简化状态空间,提升策略优化效率与收敛性,并减少方差。
2026-09-09 cs.LG math.OC stat.ME
ISDE : Independence Structure Density Estimation
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所)
在本文中,我们提出了ISDE(独立结构密度估计),一种算法,旨在估计Kullback-Leibler损失和独立结构(IS)模型下的多元密度。IS通过将特征分成独立的组来解决维度灾难。我们解释了ISDE的建设,并提出了一些实验,以显示其性能的合成和真实世界的数据。通过比较经验$\log$ -可能性与其他密度估计方法和定性分析输出的变量分区来定量测量性能。我们还提供有关复杂性和运行时间的信息。
2022-05-05 cs.LG
Kernel Density Estimation by Stagewise Algorithm with a Simple Dictionary
Hyogo University of Health Sciences(兵库医疗大学);Chiba University(千叶大学)
本文提出了基于$U$ -散度和一个简单字典的多变量核密度估计的阶段最小化算法。该字典由一个合适的标量带宽矩阵和一部分原始数据组成。由此产生的估计给我们带来了数据自适应的加权参数和带宽矩阵,并实现了核密度估计的稀疏表示。我们开发的非渐近误差界估计通过建议的阶段最小化算法。模拟研究证实,该估计量的性能与其他已知的密度估计量相比具有竞争力或更好。
2021-08-10 cs.LG stat.CO stat.ME
Robust Uncertainty Estimation under Distribution Shift via Difference Reconstruction
1 Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore 2 College of Computing;Data Science, Nanyang Technological University, Singapore 3 Centre for Medical Technologies \& Innovations, National Health Group, Singapore
本文提出DRUE方法,通过差分重建提升模型在分布偏移下的不确定性估计鲁棒性。
2026-01-27 cs.AI cs.LG
Rapid parametric density estimation
Jagiellonian University(雅盖隆大学)
参数密度估计,例如高斯分布,是统计领域的基础。机器学习需要对复杂得多的密度进行廉价的估计,基本方法是相对昂贵的最大似然估计(MLE)。将讨论廉价的密度估计,例如,将多项式(或傅立叶级数)字面上拟合到样本,其系数通过仅对样本上的单项式(或正弦/余弦)求平均来计算。另一个讨论的基本应用是将失真拟合到一些标准分布,如高斯分布-类似于ICA,但另外允许重建受干扰的密度。最后,通过使用加权平均,它也可以应用于非概率密度的估计,如建模质量分布,或通过使用负(或复)权重来解决各种聚类问题:拟合一个函数,该函数的符号(或参数)确定聚类。估计的参数接近最佳值,误差下降,如$1/\sqrt{n}$,其中$n$是样本量。
2017-02-20 cs.LG
Longitudinal Targeted Minimum Loss-based Estimation with Temporal-Difference Heterogeneous Transformer
Osaka University Graduate School of Medicine(大阪大学医学研究科)
本文提出Deep LTMLE方法,结合异构类型嵌入Transformer与时间差分学习估计动态治疗策略的反事实均值,并通过TMLE框架校正偏差、提供置信区间,在模拟和真实心血管队列数据中均表现出优越性能。
2025-06-06 cs.AI cs.LG stat.AP
BayesNDE: Bayesian Generative Modeling for Neural Density Estimation
Yale University(耶鲁大学)
BayesNDE提出基于贝叶斯生成建模的神经密度估计方法,无需可逆网络,通过样本特定后验构建自适应提议并利用桥接采样估计密度,在合成和真实数据集上提升了密度估计与异常检测性能。
2026-10-01 cs.AI cs.LG stat.ME
Collision Probability Distribution Estimation via Temporal Difference Learning
University of the Bundeswehr Munich(联邦国防军慕尼黑大学);Institute for Autonomous Systems Technology (TAS)(自主系统技术研究所)
提出CollisionPro框架,利用时间差分学习在强化学习背景下估计累积碰撞概率分布,为自动驾驶等机器人应用提供高样本效率和可靠预测的安全感知方案。
2024-07-29 cs.LG cs.RO
Fast Kernel Density Estimation with Density Matrices and Random Fourier Features
MindLab(思维实验室);Universidad Nacional de Colombia(哥伦比亚国立大学)
核密度估计(KDE)是一种应用最广泛的非参数密度估计方法。事实上,它是一种基于内存的方法,即,它使用整个训练数据集进行预测,这使得它不适合当前大多数大数据应用。一些策略,如基于树或基于散列的估计,已被提出来提高核密度估计方法的效率。新的密度核密度估计方法(DMKDE)使用密度矩阵,量子力学的形式主义,和随机傅立叶特征,显式核近似,以产生密度估计。这种方法起源于KDE,可以被认为是一种近似方法,没有基于内存的限制。在本文中,我们系统地评估了新的DMKDE算法,并将其与其他国家的最先进的快速程序近似的核密度估计方法在不同的合成数据集。我们的实验结果表明,DMKDE与其竞争对手的计算密度估计和优势时,高维数据进行。我们已经将所有代码作为开源软件库提供。
2022-08-04 cs.LG quant-ph
A Temporal-Difference Approach to Policy Gradient Estimation
University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所(Amii))
策略梯度定理(Sutton等人,2000)规定了在目标策略下使用累积贴现状态分布来近似梯度。基于该定理的大多数算法在实践中打破了这一假设,引入了可能导致收敛到差解的分布偏移。在本文中,我们提出了一种新的方法,重建的策略梯度从开始状态,而不需要一个特定的采样策略。这种形式的策略梯度计算可以根据梯度临界点来简化,由于新的梯度Bellman方程,可以递归地估计梯度临界点。通过使用时间差更新的梯度评论家从一个关闭的政策数据流,我们开发的第一个估计,回避了分布偏移的问题,在一个无模型的方式。我们证明,在一定的可实现性条件下,我们的估计是无偏的,无论抽样策略。我们的经验表明,我们的技术实现了优越的偏差方差权衡和性能的存在下,关闭政策的样本。
2022-07-07 cs.AI cs.LG
Temporal-Difference Value Estimation via Uncertainty-Guided Soft Updates
University of California, Irvine(加州大学欧文分校);University of California, Berkeley(加州大学伯克利分校)
时间差(TD)学习方法,如Q学习,已被证明在学习策略以执行控制任务方面是有效的。像Q-Learning这样的方法的一个问题是,在预测不熟悉状态的TD目标时,值更新会引入偏差。估计噪声在策略改进步骤中的最大运算符之后成为偏差,并传递到其他状态的值估计,导致Q-学习高估Q值。像Soft Q-Learning(SQL)这样的算法引入了软贪婪策略的概念,它通过在训练的早期阶段进行软更新来减少估计偏差。然而,控制更新的软度的逆温度$β$通常由手工设计的启发式来设置,这在捕获目标估计中的不确定性时可能是不准确的。在相信$β$与(状态相关的)模型不确定性密切相关的情况下,熵正则化Q学习(EQL)通过维护表征模型不确定性的模型参数的集合来进一步引入$β$的原则性调度。在本文中,我们提出了无偏软Q学习(UQL),它将EQL的工作从两个动作、有限状态空间扩展到多个动作、无限状态空间马尔可夫决策过程。我们还提供了一个原则性的数值调度的$β$,从SQL扩展和使用模型的不确定性,在优化过程中。我们在几个离散控制环境的实验中,这种更新方法的理论保证和有效性。
2021-10-28 cs.AI cs.LG
Learning Transfer Operators by Kernel Density Estimation
Yale University(耶鲁大学);Yale School of Public Health(耶鲁公共卫生学院);Clarkson University(克拉克森大学)
本文从统计密度估计视角重新表述转移算子推断问题,通过偏差-方差分析比较直方图与核密度估计,证明KDE在估计Frobenius-Perron算子特征向量时通常更准确,并指出其边界局限性及未来高维应用方向。
2023-07-27 cs.IT cs.LG math.DS