Sliced Score Matching: A Scalable Approach to Density and Score Estimation
Stanford University(斯坦福大学);Tsinghua University(清华大学)
分数匹配是一种用于估计非归一化统计模型的流行方法。然而,到目前为止,它一直局限于简单的,浅的模型或低维数据,由于难以计算的对数密度函数的海森。我们表明,这种困难可以通过将分数投影到随机向量上进行比较来减轻。这个目标,称为切片分数匹配,只涉及海森矢量产品,这可以很容易地实现使用反向模式自动微分。因此,与分数匹配相比,切片分数匹配适用于更复杂的模型和更高维的数据。在理论上,我们证明了切片得分匹配估计的相合性和渐近正态性。此外,我们证明了切片分数匹配可以用于学习隐式分布的深度分数估计。在我们的实验中,我们证明了切片分数匹配可以有效地学习基于能量的深度模型,并且可以为应用程序(如隐式分布的变分推理和训练Wasserstein自动编码器)生成准确的分数估计。
2019-06-27 cs.LG stat.ML
Diffusion-based Denoising Beats Vanilla Score Matching in Parameter Estimation: A Theoretical Explanation
University of Hamburg(汉堡大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文通过理论分析证明,对于具有分离模态的多峰分布,基于扩散的去噪得分匹配估计器(DDSME)相比普通得分匹配估计器(SME)具有更优的误差界,并解释了扩散方法优越性的原因。
2026-08-21 cs.LG math.ST stat.ME
Computing Maximum Likelihood Estimates for Gaussian Graphical Models with Macaulay2
我们介绍的软件包“GraphicalModelsMLE”计算的最大似然估计(MLEs)的高斯图形模型的计算机代数系统Macaulay 2。该软件包允许计算无环混合图类的最大似然估计。额外的功能允许用户探索模型的基本代数结构,例如其极大似然度和分数方程的理想。
2022-04-19 math.AC stat.CO
Generalized Score Matching for Non-Negative Data
University of Washington(华盛顿大学);University of Copenhagen(哥本哈根大学)
在估计概率密度函数的参数时,一个常见的挑战是归一化常数的棘手性。虽然在这种情况下,可以使用数值积分来实现极大似然估计,但是该方法在计算上变得密集。Hyvärinen [2005]的得分匹配方法避免了直接计算归一化常数,并得到了$\mathbb{R}^m$上连续分布的指数族的封闭形式估计。Hyvärinen [2007]将该方法扩展到非负正负号$\mathbb{R}_+^m$上支持的分布。在本文中,我们给出了一个广义形式的得分匹配的非负数据,提高了估计效率。作为一个例子,我们考虑一般类的成对相互作用模型。为了解决一个被忽视的不存在的问题,我们推广了Lin et al. [2016]的正则化得分匹配方法,并改进了其对非负高斯图模型的理论保证。
2019-05-19 cs.LG stat.ME stat.ML
Estimation of High-Dimensional Graphical Models Using Regularized Score Matching
图形模型被广泛用于对大量变量之间的随机相关性进行建模。我们介绍了一种新的方法,估计无向条件独立图的基础上得分匹配损失,介绍了Hyvarinen(2005),并随后在Hyvarinen(2007)扩展。我们提出的正则化分数匹配方法适用于连续观测的设置,并允许计算效率可能非高斯指数族模型的治疗。在充分探索的高斯设置中,正则化分数匹配避免了应用邻域选择技术时出现的不对称问题,并且与直接产生对称估计的现有方法相比,分数匹配方法具有所考虑的损失是二次的并且在$\ell_1$正则化下给出分段线性解路径的优点。在适当的不可表示性条件下,我们表明,$\ell_1$正则化得分匹配是一致的稀疏高维设置的图估计。通过数值实验和RNAseq数据的应用,我们证实正则化分数匹配在高斯情况下达到了最先进的性能,并为非高斯图形模型中的计算效率估计提供了一个有价值的工具。
2016-03-23 stat.ME
Linear Estimating Equations for Exponential Families with Application to Gaussian Linear Concentration Models
在许多分布族中,极大似然估计是难以处理的,因为进入似然函数的密度的归一化常数不容易获得。Hyvärinen(2005)的评分匹配估计量提供了一种不需要该归一化常数的替代方案。对于指数族,相应的估计方程变为线性。分数匹配估计是一致的,渐近正态分布的这种模式,虽然不一定有效。高斯线性浓度模型就是这类模型的例子。对于在协方差中也是线性的线性浓度模型,我们证明了分数匹配估计量与最大似然估计量相同,因此在这种情况下它也是有效的。高斯图形模型和图形模型的对称形式特别有趣的线性浓度模型的子类,我们调查的分数匹配估计这种情况下的潜在用途。
2014-06-12 math.ST stat.TH
Is Score Matching Suitable for Estimating Point Processes?
Renmin University of China(中国人民大学);University of Technology Sydney(悉尼科技大学)
针对现有得分匹配估计器在通用点过程估计中失效的问题,提出加权得分匹配估计器,证明其一致性与收敛速率,实验验证其有效性并开源代码。
2024-10-05 cs.LG stat.ML
Finite Sample Bounds for Learning with Score Matching
Operations Research Center, Massachusetts Institute of Technology(麻省理工学院运筹学研究中心);Theoretical division, Los Alamos National Lab(洛斯阿拉莫斯国家实验室理论部)
本文研究了分数匹配在高维统计中学习指数族分布的有限样本界限,提出首个非渐近样本复杂度分析,揭示模型维度的多项式依赖关系。
2026-05-13 cs.DS cs.LG stat.ML
Sequential Change Point Detection via Denoising Score Matching
Carnegie Mellon University(卡内基梅隆大学);University of Minnesota(明尼苏达大学);Georgia Institute of Technology(佐治亚理工学院)
本文提出一种基于去噪分数匹配的CUSUM变点检测方法,通过估计数据分布分数函数来检测分布变化,理论分析和实验证明其在高维复杂数据中有效。
2025-01-22 cs.LG stat.ML
Interpreting diffusion score matching using normalizing flow
University of Cambridge(剑桥大学);Imperial College London(帝国理工学院)
评分匹配(SM)及其相关的Stein差异(SD)在模型训练和评估方面取得了巨大的成功。然而,最近的研究表明,它们在处理某些类型的分布时存在局限性。一种可能的解决方案是将原始分数匹配(或Stein差异)与扩散矩阵合并,这被称为扩散分数匹配(DSM)(或扩散Stein差异(DSD))。然而,缺乏对扩散的解释限制了其在简单分布和手动选择矩阵中的使用。在这项工作中,我们计划通过使用归一化流解释扩散矩阵来填补这一空白。具体来说,我们从理论上证明,DSM(或DSD)是等价于原始的分数匹配(或斯坦差异)的归一化流,其中的扩散矩阵是流的雅可比矩阵的逆定义的变换空间中评估。此外,我们还建立了它与黎曼流形的联系,并进一步将其推广到连续流,其中DSM的变化由一个常微分方程表征。
2021-07-21 cs.LG stat.ML
HNet: Graphical Hypergeometric Networks
动机:真实世界的数据通常包含连续和离散值的测量。尽管有许多库可用,但具有混合数据类型的数据集需要密集的预处理步骤,并且描述变量之间的关系仍然是一个挑战。数据理解阶段是数据采掘过程中的重要步骤,然而,在不对数据进行任何假设的情况下,搜索空间的变量数量是超指数的。研究方法:我们提出了图形超几何网络(HNet),这是一种使用统计推断来测试变量之间的显著性关联的方法。其目的是只使用重要的关联来确定网络,以便揭示变量之间的复杂关系。HNet处理原始非结构化数据集并输出由节点之间的(部分)有向或无向边组成的网络(即,变量)。为了评估HNet的准确性,我们使用了众所周知的数据集,此外还生成了具有已知地面实况的数据集。HNet的性能进行了比较贝叶斯结构学习。结果:我们表明,HNet在检测节点链接方面表现出较高的准确性和性能。在警报数据集的情况下,我们可以证明平均MCC得分为0.33 + 0.0002(P<1x 10 -6),而贝叶斯结构学习导致平均MCC得分为0.52 + 0.006(P<1x 10 -11),随机分配边缘导致MCC得分为0.004 + 0.0003(P=0.49)。结论:HNet可以处理原始的非结构化数据集,允许分析混合的数据类型,它很容易扩展变量的数量,并允许详细检查检测到的关联。可用性:https://erdogant.github.io/hnet/
2020-05-10 cs.LG stat.ML
Exponential Family Model-Based Reinforcement Learning via Score Matching
UC Santa Cruz(加州大学圣克鲁兹分校);Northwestern University(西北大学);Yale University(耶鲁大学)
我们提出了一个乐观的基于模型的算法,被称为SMRL,有限时域情景强化学习(RL)时,过渡模型是由指数族分布与$d$参数和奖励是有界的和已知的。SMRL使用分数匹配,这是一种非归一化密度估计技术,可以通过岭回归有效估计模型参数。在标准的规律性假设下,SMRL实现了$\tilde O(d\sqrt{H^3T})$在线后悔,其中$H$是每个事件的长度,$T$是交互的总数(忽略对结构尺度参数的多项式依赖)。
2023-01-08 cs.LG stat.ML
Score matching estimators for directional distributions
极大似然估计在已建立的方向模型中的主要问题之一是归一化常数难以估计。本文在紧致定向黎曼流形上提出了一种新的“得分匹配估计”的一般方法。重要的应用包括冯米塞斯-费舍尔,宾厄姆和联合模型的领域和相关的空间。在较弱的正则性条件下,估计量是相合的且渐近正态分布。此外,它很容易作为线性方程组的解来计算,并且不需要知道归一化常数。给出了几个例子,分析和数值,以证明其良好的性能。
2016-04-28 math.ST stat.TH
Towards Healing the Blindness of Score Matching
University College London(伦敦大学学院)
本文提出了一种新的分歧家族,以缓解分数匹配在多模分布中的盲目性问题,并在密度估计中展示了改进的性能。
2025-11-22 cs.LG stat.ML
Generalised Score Matching on Convex Domains
Indian Institute of Science, Bengaluru(印度科学理工学院,班加罗尔)
本文从最小概率流学习出发,构造性地推导了凸域上的广义分数匹配目标,证明其作为二阶适当局部评分规则可恢复真实密度,并建立指数族模型的凸性与估计量一致性,实验验证了其有效性。
2026-10-08 cs.LG stat.ML
Estimation of High Dimensional Bounded Discrete Graphical Models via Regularized Generalized Score Matching
Department of Biostatistics, University of Michigan(密歇根大学生物统计系);Goizueta Business School, Emory University(埃默里大学戈伊泽塔商学院)
针对有限支撑多元离散响应,提出有界离散图模型,通过正则化广义得分匹配(BRIDGE)实现无归一化估计,结合ℓ1惩罚联合正则化,理论证明非渐近误差界与精确支撑恢复。
2026-06-26 stat.ME
On Semiparametric Exponential Family Graphical Models
提出了一类新的半参数指数族图模型,用于高维混合数据的分析。与现有的混合图模型不同,我们允许节点方向的条件分布是半参数的广义线性模型,其基测度函数不确定。因此,我们的方法的一个优点是,它是不必要的指定每个节点的类型,该方法是更方便地应用于实际。在所提出的模型下,我们考虑了高维的参数估计和假设检验问题。特别是,我们提出了一个对称的成对得分测试的存在下,在图中的一个单一的边缘。与现有的假设检验方法相比,我们的方法考虑了参数的对称性,使得推理结果对于同一边缘的不同参数化是不变的。通过数值模拟和实际数据的例子来支持我们的结果。
2015-10-15 stat.ML
Denoising Score Matching with Random Fourier Features
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院)
密度估计是统计学中的核心问题之一。尽管如此,现有的技术,如最大似然估计是计算效率低下,由于棘手的归一化常数。由于这个原因,对分数匹配的兴趣增加了,而与归一化常数无关。然而,这样的估计是一致的,只有与充分的空间支持的分布。使其一致的方法之一是将噪声添加到输入数据中,这被称为去噪得分匹配。在这项工作中,我们推导出解析表达式的去噪得分匹配使用核指数族作为模型分布。核指数族的使用是由这类密度的丰富性所激发的。为了解决计算复杂性,我们使用基于随机傅立叶特征的核函数近似。解析表达式允许删除基于高阶导数的额外正则化项,因为它们已经隐含地包含在内。此外,所获得的表达式显式地依赖于噪声方差,因此验证损失可以直接用于调整噪声水平。随着基准实验,该模型在各种合成分布进行了测试,以研究模型在不同情况下的行为。实证研究表明,可比的质量竞争的方法,而所提出的方法是计算速度更快。后者可以扩展到复杂的高维数据。
2021-01-13 cs.LG stat.ML
From optimal score matching to optimal sampling
Yale University(耶鲁大学);University of Chicago(芝加哥大学)
该研究针对基于得分的扩散模型的得分估计最优统计速率问题,推导了光滑紧支撑密度下得分估计的精确极小极大速率,证明扩散模型生成样本分布可达无对数项、无需提前停止的最优密度估计速率。
2024-09-11 cs.LG stat.ML
DDPM Score Matching and Distribution Learning
Yale University(耶鲁大学)
本文提出一个框架,将DDPM中的得分估计归结为参数估计和密度估计,证明其渐近有效性,并给出密度估计的极小极大速率、拟多项式PAC算法及得分估计的计算下界。
2026-09-09 cs.DS cs.LG math.ST
Propensity score matching for estimating a marginal hazard ratio
本文推导了有放回且固定匹配数量下边际因果风险比倾向得分匹配估计量的渐近性质,并提出考虑倾向得分估计不确定性的双重重抽样方差估计技术。
2024-02-01 stat.ME
Multiply robust matching estimators of average and quantile treatment effects
倾向得分匹配是处理因果推断中混杂的长期传统,然而需要严格的模型假设。在这篇文章中,我们提出了双评分匹配(DSM)的一般因果被估量利用两个平衡得分,包括倾向得分和预后得分。为了保护可能的模型误指定,我们为每个得分选择多个候选模型。我们表明,去偏DSM估计实现了多重稳健性,因为它是一致的真正的因果估计,如果任何模型的倾向得分或预后分数是正确的。
2020-07-05 stat.ME
Uncertain Neighbors: Bayesian Propensity Score Matching For Causal Inference
我们比较了标准的最近邻倾向得分匹配与类似的贝叶斯倾向得分匹配过程的性能。我们表明,贝叶斯方法更好地利用了可用的信息,因为它使不那么武断的决定,哪些观察下降,哪些保留在匹配的样本。我们进行了模拟研究,以评估标准和贝叶斯最近邻匹配的性能时,匹配和不替换。然后,我们使用这两种方法来复制最近的研究土地改革对游击队活动在哥伦比亚的影响。
2021-05-05 stat.ME
Propensity Score Analysis with Matching Weights
倾向得分分析是观察性研究中研究因果处理效应最广泛使用的方法之一。本文研究了用匹配权法估计处理效应。这种方法类似于倾向得分匹配,但提供了许多新的功能,包括有效的估计,严格的方差计算,简单的渐近性,平衡的统计检验,明确识别的目标群体具有最佳的抽样性质,并且不需要选择匹配算法和卡尺大小。此外,我们建议镜像直方图作为一个有用的工具,以图形方式显示平衡。该方法还具有逆概率加权方法的一些特征,但当倾向得分接近0或1时,计算保持稳定。匹配权重估计器的增强版本被开发为具有双重鲁棒性,即,如果结果模型或倾向得分模型是正确的,则估计器是一致的。在数值研究中,所提出的方法表现出更好的性能比许多广泛使用的倾向得分分析方法,如分层的五分之一,匹配的倾向得分,和逆概率加权。
2011-05-15 stat.ME
Likelihood-Free Inference via Structured Score Matching
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Maryland, College Park(马里兰大学帕克分校)
本文提出结合分数匹配与梯度优化的无似然推断框架,通过定制化分数匹配估计器和架构正则化方案,提升参数估计精度与可扩展性,并通过实验验证其有效性。
2026-03-30 stat.ME
On Stein's Method of Moments and Generalized Score Matching
University of Kent(肯特大学)
本文探讨了矩法参数估计中Stein类的两个需指定函数,通过设置其中一个为密度得分函数的导数,提出广义得分匹配估计器,并讨论了选择合适权重函数的挑战,提出通过数据变换优化权重函数。
2026-06-28 stat.ME
Adjusting for Unmeasured Spatial Confounding with Distance Adjusted Propensity Score Matching
倾向得分匹配是观察性研究中调整观察到的混杂因素的常用工具,但已知在存在未测量混杂因素时存在局限性。在许多情况下,研究人员面临的空间索引数据的观测单位的相对位置可以作为一个有用的代理未测量的混杂,根据空间模式的变化。我们开发了一种新的方法,称为距离调整的倾向得分匹配(DAPSm),将单位的空间接近的信息纳入一个倾向得分匹配过程。我们表明,DAPSm可以调整观察到的和一些形式的未观察到的混杂和评估其性能相对于其他几个合理的替代方案,将空间信息纳入倾向得分调整。该方法的动机是,并适用于一个比较有效的调查发电厂减排技术,旨在减少人口暴露于环境臭氧污染。最后,DAPSm提供了一个框架,用于增强一个“标准”的倾向得分分析与空间接近的信息,并提供了一个透明的和原则性的方式来评估优先观察到的混淆调整与空间接近调整的相对权衡。
2017-12-06 stat.ME
Examining the Efficacy of Coarsened Exact Matching as an Alternative to Propensity Score Matching
Washington University in St. Louis(圣路易斯华盛顿大学)
本文指出粗化精确匹配在处理大量协变量时不如倾向分数匹配稳健,因CEM存在残余混杂和模型依赖性问题,而PSM在减少不平衡和应对模型不规范方面表现更优。
2026-01-31 stat.ME
A graphical method of cumulative differences between two subpopulations
比较两个亚群之间的结果差异(即“因变量”)通常是最有信息量的,当比较结果时,只比较根据“自变量”相似的亚群中的个体。独立变量通常被称为“分数”,例如匹配的倾向得分或统计或机器学习模型预测的概率。如果结果是离散的,则需要进行某种平均,以减少在观察数据中的离散值上随机变化的结果所产生的噪声。传统的平均方法是根据分数对数据进行分组,并将每个分组中的平均结果与分组中的平均分数进行比较。然而,这种分组可能是相当任意的,但极大地影响了亚群之间显示的偏差的解释及其统计学显著性的评估。幸运的是,在累积差异图和相关的标量汇总度量中,这种分组是完全不必要的,这些度量类似于比较概率分布的主力统计--这些统计是由Kolmogorov和Smirnov以及柯伊伯对它们的改进引起的。本文开发了这种累积方法的常见情况下,没有任何成员的亚群进行比较的分数是完全等于任何其他成员的任何一个亚群的分数。
2021-10-24 cs.CY stat.ME
Propensity Score Matching underestimates Real Treatment Effect, in a simulated theoretical multivariate model
倾向得分匹配(PSM)是一种有效的方法,可以减少观察性研究中治疗选择偏倚对因果效应估计的影响。在匹配之后,PSM显著减少了被调查的样本,这可能导致其他可能的偏差。从这个意义上说,我们想分析的行为,这种PSM与其他广泛使用的方法来处理不可比较的群体相比,是多元回归模型(MRM)。蒙特卡罗模拟,以构建具有不同效果的群体,以比较PSM和MRM估计这种效果的行为。还计算了PSM的治疗选择偏倚减少。使用PSM可降低治疗选择偏倚,降低相对真实处理效应估计误差,但尽管降低了偏倚和估计误差,与PSM相比,MRM显著降低了该估计误差。此外,PSM导致样品的不显著减少。这种从匹配过程中获得的信息的丢失可能导致另一个未知的偏差,因此,与MRM相比,效果估计不准确。
2019-01-30 stat.ME
Propensity Score Matching and Subclassification in Observational Studies with Multi-level Treatments
在本文中,我们开发了新的方法来估计平均处理效应的观察性研究,重点是设置两个以上的治疗水平下unconfoundedness给定的治疗前变量。我们强调的子分类和匹配的方法已被发现是有效的二进制处理的文献,其中最流行的方法在该设置。而文献表明,这些特定的倾向为基础的方法不自然地扩展到多层次的治疗情况下,我们表明,使用弱unconfoundedness的概念,调整或匹配的标量函数的预处理变量删除与观察到的预处理变量相关的所有偏见。我们应用所提出的方法来分析纤维肌痛的治疗效果。我们还进行了模拟研究,以评估有限样本性能的方法相对于以前提出的方法。
2015-12-14 stat.ME
Structure Learning in Graphical Modeling
图形模型是与节点对应于感兴趣变量的图相关联的统计模型。图的边缘反映变量之间允许的条件依赖性。图形模型承认计算方便的因式分解属性,长期以来一直是一个有价值的工具,易于处理的多元分布建模。最近,从基因表达数据重建基因调控网络等应用推动了结构学习的重大进展,即估计模型的图形。我们回顾了其中的一些进展,并讨论了方法,如无向图形模型(或马尔可夫随机场)的图形套索和邻域选择,以及PC算法和基于分数的搜索方法有向图形模型(或贝叶斯网络)。我们进一步审查扩展,考虑到潜在变量和异构数据源的影响。
2016-06-07 stat.ME stat.ML
Isotonic propensity score matching
本文提出一种基于等距回归估计倾向得分的一对多匹配估计量,用于估计平均处理效应,解决现有匹配方法的效率、参数选择、稳健性及自举有效性问题。
2025-01-23 econ.EM stat.ME
A deterministic balancing score algorithm to avoid common pitfalls of propensity score matching
倾向得分匹配(PSM)是观察性研究中估计因果效应的事实标准。我们表明,PSM及其实现容易受到几个主要的缺点,并说明这些研究结果与$17,427$患者的案例研究。我们推导出最佳统计匹配算法应满足的四个形式属性,并提出了满足上述属性的精确匹配的确定性平衡分数精确匹配(DBSeM)。此外,我们调查的主要问题之一的PSM,即公共PSM的结果在一个有效的匹配对集或自举PSM在选择可能的有效匹配对集。对于精确匹配,我们提供了数学证明,DBSeM因此提供了所研究数据集的所有有效匹配对集的期望值。
2019-05-17 stat.AP stat.CO stat.ME
Score and Information for Recursive Exponential Models with Incomplete Data
Aalborg University(奥尔堡大学);Microsoft Research(微软研究院)
递归图模型通常是基于贝叶斯网络的概率专家系统统计建模的基础。本文定义了这些模型的一个版本,表示为递归指数模型,这已经演变的愿望,施加复杂的领域知识的局部片段的模型。除了由给定模型指定的结构知识之外,统计建模还可以包括关于模型中的参数值的专家意见。它示出了如何翻译成近似共轭先验分布的不精确的专家知识。基于可能不完整的数据,这些模型的得分和观察到的信息。这说明了传统得分和观测信息(作为对数似然的导数导出)以及后验得分和观测信息(作为对数后验分布的导数导出)。在整个文件的递归图形模型的专业化占一个简单的例子。
2013-02-06 cs.AI stat.ME
Generalized Score Matching for General Domains
当数据被自然地限制到真实空间的一个适当子集时,在一般域上支持的密度函数的估计出现。这个问题是复杂的典型棘手的归一化常数。分数匹配提供了一个强大的工具,估计密度与这种棘手的归一化常数,但最初提出的是有限的$\mathbb{R}^m$和$\mathbb{R}_+^m$的密度。在本文中,我们提供了一个自然的概括得分匹配,可容纳密度支持一个非常一般的域。我们将该框架应用于截断图形和成对交互作用模型,并为所得到的估计量提供理论保证。我们还推广了最近提出的方法从有界到无界域,并实证证明了我们的方法的优点。
2020-09-24 stat.ME stat.ML
A Quotient Space Formulation for Generative Statistical Analysis of Graphical Data
Florida State University(佛罗里达州立大学);University of South Florida(南佛罗里达大学)
涉及多个相关随机量的复杂分析通常会导致图形模型-一组节点表示感兴趣的变量,对应的边表示节点之间的统计交互作用。为了开发图形数据的统计分析,特别是生成建模,需要数学表示和度量来匹配和比较图形,以及后续工具,如测地线,均值和协方差。本文利用商结构来开发计算这些数量的有效算法,从而产生有用的统计工具,包括主成分分析,统计测试和建模。我们证明了这个框架的有效性,使用数据集从几个问题领域,包括字母,生化结构,和社交网络。
2021-04-02 cs.CV cs.LG stat.ME
ScoreMatchingRiesz: Score Matching for Debiased Machine Learning and Policy Path Estimation
ScoreMatchingRiesz通过分数匹配方法实现去偏机器学习和政策路径估计,提升政策效应的可解释性。
2026-01-29 cs.LG econ.EM math.ST
Score Matching With Missing Data
School of Mathematics, University of Bristol, Bristol, UK(布里斯托大学数学学院);School of Artificial Intelligence, Nanjing University, China(南京大学人工智能学院)
本文针对缺失数据场景提出重要性加权和变分两种得分匹配变体,分别适用于低维小样本与高维复杂情形,并在图模型估计任务中验证了各自优势。
2025-05-31 cs.LG stat.ME stat.ML
Automated calibration for stability selection in penalised regression and graphical models
提出一种通过最大化内部稳定性分数并纳入块结构的自动校准程序,适用于LASSO惩罚回归和图模型,在模拟与真实多组学数据中表现优异并揭示LRRN3跨组学作用。
2023-02-22 stat.AP stat.ME
Exact matching as an alternative to propensity score matching
本文将治疗组匹配建模为约束优化问题,提出无需预设权重函数形式的精确匹配方法,并支持多治疗组个体数据及个体与汇总混合数据。
2025-03-04 stat.AP stat.ME
Semi-Implicit Variational Inference via Score Matching
Peking University(北京大学)
针对半隐式变分推断中变分分布密度难求解、现有方法依赖替代ELBO或高成本MCMC的问题,提出基于去噪得分匹配极小极大目标的SIVI-SM方法,在多种贝叶斯推断任务中准确率接近MCMC且优于现有基于ELBO的SIVI方法。
2023-08-19 cs.LG stat.ME stat.ML
Score matching for compositional distributions
由于样本空间上的非负性和和对一的约束,具有已知总数的成分数据和多元计数数据的分析具有挑战性。通常情况下,许多组成成分是高度右偏的,有大量的零。目前可用的估计成分模型的一个主要限制是,他们要么不能处理数据中的许多零,或者是不计算在中等到高的维度是可行的。我们得到了一组新的新的得分匹配估计适用于分布的黎曼流形上的边界,其中标准的单纯形是一个特殊情况。分数匹配方法被应用到一个新的灵活的截断模型的组成数据的参数估计,我们证明了估计是可扩展的,并在封闭的形式。通过大量的模拟研究,评分方法被证明是很好的工作,在新的截断模型的参数估计,也为狄利克雷分布。我们将新模型和估计器应用于真实的微生物组组成数据,并表明该模型与数据拟合良好。
2020-12-23 stat.CO stat.ME
Propensity Score Augmentation in Matching-based Estimation of Causal Effects
本文提出一种基于增广倾向评分模型的新型匹配估计量,在存在预后变量时比传统匹配方法具有更高统计效率,并用于估计包皮环切术对HIV-1感染风险的影响。
2024-09-28 math.ST stat.ME stat.TH
Matching on Generalized Propensity Scores with Continuous Exposures
在二元处理的上下文中,匹配是因果推断中的一种公认的方法。然而,在持续治疗或接触的情况下,匹配仍然不发达。我们提出了一种创新的匹配方法来估计平均因果关系的连续暴露下,依赖于广义倾向得分(GPS)的设置下的响应函数。我们的方法保持了以下有吸引力的匹配功能:a)设计和分析之间的明确分离; b)对模型错误指定或估计GPS极值的存在具有鲁棒性; c)直接评估协变量平衡。我们首先介绍了一个假设的可识别性,称为局部弱不混淆。在这个假设和温和的光滑条件下,我们提供了理论保证,我们提出的匹配估计达到逐点一致性和渐近正态性。在模拟中,我们提出的匹配方法优于现有的方法下设置的模型误设定或存在的极端值的估计GPS。我们应用我们提出的方法来估计2000-2016年6850万医疗保险参保者长期PM $_{2.5}$暴露与全因死亡率之间的平均因果关系-反应函数。我们发现了长期PM $_{2.5}$暴露对死亡率有害影响的强有力证据。建议的匹配方法的代码中提供的CauseGPS R包,这是CRAN上提供的,并提供了一个计算效率的实现。
2021-08-18 stat.AP stat.ME
Simulation-based Inference via Langevin Dynamics with Score Matching
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Maryland, College Park(马里兰大学帕克分校)
本文提出一种结合分数匹配与兰格vin动力学的可扩展模拟推理方法,通过局部化方案和结构化分数网络提升统计效率和计算可扩展性。
2026-06-29 stat.CO stat.ME stat.ML
Interaction Models and Generalized Score Matching for Compositional Data
诸如微生物组数据分析的应用已经引起了对组成数据的统计方法的新兴趣,即,以包含相对比例的概率向量形式的多变量数据。特别是,有相当大的兴趣,在这种相对比例之间的相互作用建模。为此,我们提出了一类指数族模型,适应一般模式的两两相互作用,同时支持的概率单纯形。特殊情况包括狄利克雷分布族以及艾奇逊的加性逻辑正态分布。通常,我们考虑的分布具有难以计算归一化常数的密度。为了规避这个问题,我们设计了有效的估计方法的基础上广义版本的分数匹配。我们的估计方法的高维分析表明,单纯形域的处理效率与以前研究的全维域。
2021-09-10 stat.AP stat.ME stat.ML
Quasi-Score Matching Estimation for Spatial Autoregressive Model with Random Weights Matrix and Regressors
The Australian National University(澳大利亚国立大学)
针对SAR模型QMLE在大规模数据下计算不可扩展且经典假设不切实际的问题,提出拟得分匹配估计法,降低计算复杂度并建立随机权重矩阵与回归量下的渐近性质,为新理论框架提供支撑。
2026-10-21 econ.EM math.ST stat.ME