Statistical Guarantees for Link Prediction using Graph Neural Networks
Harvard University(哈佛大学);Stanford University(斯坦福大学)
本文提出线性GNN架构(LG-GNN),为图生成模型生成的图上的链接预测提供统计保证,包括均方误差界和高概率边检测能力,并验证于真实和合成数据。
2024-02-07 cs.LG cs.SI math.ST
Statistical guarantees for sparse deep learning
Ruhr-University Bochum(波鸿鲁尔大学)
神经网络在应用中越来越受欢迎,但我们对其潜力和局限性的数学理解仍然有限。在本文中,我们通过为稀疏深度学习开发统计保证来进一步理解这一点。与以前的工作相比,我们考虑了不同类型的稀疏性,例如很少的活动连接,很少的活动节点,以及其他基于范数的稀疏性类型。此外,我们的理论涵盖了以前的理论所忽略的重要方面,如多个输出,正则化和l2损失。这些保证对网络的宽度和深度有轻微的依赖性,这意味着它们从统计的角度支持稀疏但又宽又深的网络的应用。我们在推导过程中使用的一些概念和工具在深度学习中并不常见,因此可能会引起额外的兴趣。
2022-12-11 cs.AI cs.LG math.ST
Statistical Guarantees for Regularized Neural Networks
Ruhr-University Bochum(波鸿鲁尔大学)
神经网络已经成为数据分析的标准工具,但它们缺乏全面的数学理论。例如,从数据中学习神经网络的统计保证非常少,特别是对于在实践中使用或至少类似于此类的估计器的类别。在本文中,我们开发了一个一般的统计保证估计,包括一个最小二乘项和正则化。然后,我们用$\ell_1$ -正则化来证明这一保证,表明相应的预测误差在层的数量上最多以次线性方式增加,在参数的总数上最多以几何方式增加。我们的研究结果为神经网络的正则化估计建立了数学基础,它们加深了我们对神经网络和深度学习的数学理解。
2020-11-11 cs.LG cs.NE math.ST
Statistical Guarantees for Approximate Stationary Points of Shallow Neural Networks
University of Hamburg(汉堡大学);Beijing Normal-Hong Kong Baptist University(北京师范大学-香港浸会大学联合国际学院)
本文研究了浅层神经网络近似 stationary 点的统计保证,提出方法支持神经网络无需全局优化的数学观点,并扩展至 ReLU 神经网络。
2025-12-05 cs.LG math.ST stat.TH
Statistical guarantees for generative models without domination
在本文中,我们介绍了一个方便的框架,从统计的角度研究(对抗)生成模型。它包括将生成设备建模为比周围空间的维度小得多的维度的单位超立方体的平滑变换,并通过积分概率距离度量生成模型的质量。在特定的情况下,积分概率距离定义通过平滑类,我们建立了一个风险界量化的各种参数的作用。特别是,它清楚地显示了降维对生成模型误差的影响。
2020-10-19 math.ST stat.ML stat.TH
Non-Asymptotic Guarantees for Robust Statistical Learning under Infinite Variance Assumption
University of Macau(澳门大学);Zhuhai UM Science & Technology Research Institute(珠海澳大科技研究院);Peking University(北京大学)
在统计学和机器学习中,对于具有重尾和有界方差数据的模型,人们对开发鲁棒估计器的兴趣激增,而很少有工作施加无界方差。本文提出了两类稳健估计:岭对数截尾M估计和弹性网对数截尾M估计。第一个估计器应用于凸回归,如分位数回归和广义线性模型,而另一个估计器应用于高维非凸学习问题,如通过深度神经网络的回归。模拟和实际数据分析证明了对数截尾估计相对于标准估计的稳健性。
2022-10-11 cs.LG math.ST stat.ML
Statistical and Computational Guarantees of Lloyd's Algorithm and its Variants
Yale University(耶鲁大学)
聚类是统计学和机器学习中的一个基本问题。Lloyd算法于1957年提出,由于其简单性和经验性能,仍然可能是实践中使用最广泛的聚类算法。然而,很少有理论研究劳埃德算法的统计和计算保证。本文试图弥合实践与理论之间的这一差距。我们研究了Lloyd算法在聚类亚高斯混合数据上的性能。在一个适当的初始化标签或中心,我们表明,劳埃德算法收敛到一个指数小的聚类误差后,为了$\log n$迭代,其中$n$是样本量。差错率是极小极大最优的。对于两个混合物的情况,我们只需要初始化器比随机猜测稍微好一点。此外,我们扩展劳埃德的算法和分析社区检测和众包,最近在统计和机器学习中受到了很多关注的两个问题。分别针对社区发现和众包提出了Lloyd算法的两种变体。在理论方面,我们提供了统计和计算保证的两种算法,和结果改善后,一些以前的信噪比的条件,在文献中的两个问题。模拟和真实数据集上的实验结果表明,我们的算法的竞争力的最先进的方法的性能。
2016-12-07 cs.LG math.ST stat.ML
Statistical guarantees for denoising reflected diffusion models
Aarhus University(奥胡斯大学);Heidelberg University(海德堡大学);University of Stuttgart(斯图加特大学)
本文提出去噪反射扩散模型,通过理论分析和改进的分数近似方法,在Sobolev光滑性假设下建立了总变差收敛率,与最小最大下界相匹配。
2026-03-02 math.ST stat.ML stat.TH
Fast low-rank estimation by projected gradient descent: General statistical and algorithmic guarantees
University of California, Berkeley(加州大学伯克利分校)
具有秩约束的最优化问题在许多应用中出现,包括矩阵回归、结构PCA、矩阵完备化和矩阵分解问题。一个有吸引力的启发式解决这样的问题是因式分解的低秩矩阵,并运行投影梯度下降的非凸因式分解的最优化问题。这个问题的目标是提供一个一般的理论框架,以了解当这样的方法工作良好,并描述所产生的不动点的性质。我们提供了一组简单的条件下,投影梯度下降,当给定一个合适的初始化,几何收敛到一个统计上有用的解决方案。我们的结果是适用的,即使当初始解是任何区域的局部凸,甚至当问题是全球凹。工作在一个非渐近的框架,我们表明,我们的条件是满足广泛的具体模型,包括矩阵回归,结构PCA,矩阵完成与真正的和量化的意见,矩阵分解,图聚类问题。仿真结果与理论预测吻合良好。
2015-09-10 cs.LG math.ST stat.ML
Equivariant Estimation of the Selected Guarantee Time
考虑两个独立的指数种群,它们具有不同的未知位置参数和一个共同的未知尺度参数。将与较大位置参数相关联的总体称为“最佳”总体,将与较小位置参数相关联的总体称为“最差”总体。为了选择最好(最坏)的种群,自然选择规则具有许多最优性质,它选择与较大(较小)的最小充分统计量相对应的种群。在这篇文章中,我们考虑的问题,估计的位置参数的人口选择使用这种自然选择规则。对于所选最佳总体的位置参数的估计,我们导出了一致最小方差无偏估计(UMVUE),并证明了位置参数的最佳仿射同变估计(BAEEs)的类似是广义Bayes估计。在尺度均方误差准则下,给出了线性、仿射和置换等变估计类中估计的容许性和极大极小性结果。我们还得到了任意仿射置换等变估计不容许的一个充分条件。我们提供了类似的结果估计的问题时,选择的目标是选择最坏的指数种群的位置参数。最后,我们提供了一个模拟研究比较,数值上,一些建议的估计的性能。
2021-10-26 math.ST stat.TH
Statistical learning theory and Occam's razor: The core argument
LMU Munich(慕尼黑大学);Munich Center for Mathematical Philosophy(慕尼黑数学哲学中心)
本文提炼了统计学习理论中基于经验风险最小化核心学习保证的简单性核心论证,指出更简单的假设类或归纳模型因学习保证更优而更优,但该保证受先验知识制约。
2024-11-29 cs.LG math.ST stat.TH
Towards Statistical and Computational Complexities of Polyak Step Size Gradient Descent
University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究了在总体损失函数的广义光滑性和Lojasiewicz条件下,Polyak步长梯度下降算法的统计复杂性和计算复杂性,即当样本容量趋于无穷大时经验损失函数的极限,以及经验损失函数和总体损失函数梯度之间的稳定性,即,样本和总体损失函数的梯度之间的浓度界的多项式增长。我们证明了Polyak步长梯度下降迭代在样本大小的对数迭代次数后达到围绕真实参数的最终统计收敛半径。当种群损失函数不是局部强凸时,它比固定步长的梯度下降算法在样本大小上的多项式迭代次数更便宜,可以达到相同的最终统计半径。最后,我们用三个统计实例:广义线性模型、混合模型和混合线性回归模型来说明我们的一般理论。
2021-10-15 cs.LG math.ST stat.ML
Statistically Valid Post-Training Hyperparameter Selection: From Tuning to Guarantees
Institute for Intelligent Networked Systems (INSI)(智能网络系统研究所)
提出基于学习-测试(LTT)范式的统一统计框架,将超参数选择转化为多重假设检验问题,实现满足可靠性要求(如平均风险、分位数风险等)的超参数选择,并提供有限样本误差概率控制。
2026-09-28 cs.IT cs.LG math.IT
Statistical Learning Guarantees for Group-Invariant Barron Functions
School of Mathematics, Georgia Institute of Technology(数学学院,佐治亚理工学院)
本文在 Barron 框架下分析群不变神经网络,证明对称性可通过因子 δ 改善逼近率且不增加 Rademacher 复杂度,从而提升对称目标函数的泛化性能。
2025-09-27 cs.LG math.ST stat.ML
Approximating high-dimensional infinite-order $U$-statistics: statistical and computational guarantees
研究了高维非退化$U$ -统计量的分布逼近问题。无限阶$U$统计量(IOUS)是一个有用的工具,用于构建同时预测区间,量化集成方法,如subbagging和随机森林的不确定性。使用IOUS的一个主要障碍是当样本量和/或阶数很大时,它们的计算困难。在这篇文章中,我们推导出非渐近高斯近似误差界的不完整版本的IOUS与随机内核。我们还研究了数据驱动的推理方法不完整的IOUS通过引导程序,并开发其统计和计算保证。
2019-11-15 math.ST stat.ME stat.TH
Statistical Learning Guarantees for Compressive Clustering and Compressive Mixture Modeling
Université Paris-Saclay(巴黎-萨克雷大学);CNRS(法国国家科学研究中心);Laboratoire de mathématiques d’Orsay(奥赛数学实验室);GIPSA-lab(GIPSA实验室);Univ. Bordeaux(波尔多大学);Bordeaux INP(波尔多国立理工学院);IMB(波尔多数学研究所);Univ Lyon(里昂大学);Inria(法国国家信息与自动化研究所);ENS de Lyon(里昂高等师范学校);UCB Lyon 1(里昂第一大学);LIP(里昂信息处理实验室);Univ Rennes(雷恩大学);IRISA(雷恩计算机科学研究所)
我们在压缩统计学习的背景下为两个无监督学习任务提供了统计学习保证,压缩统计学习是我们在一篇配套论文中介绍的资源高效的大规模学习的一般框架。压缩统计学习的原理是压缩一个训练集合,在一次通过中,转换成一个低维草图(一个随机经验广义矩的向量),它捕捉了与所考虑的学习任务相关的信息。我们明确地描述和分析随机特征函数,经验平均值保留了压缩聚类和压缩高斯混合建模所需的信息,具有固定的已知方差,并建立足够的草图大小给定的问题尺寸。
2021-08-17 cs.IT cs.LG math.IT
Statistical and Computational Guarantees for the Baum-Welch Algorithm
隐马尔可夫模型(HMM)是离散时间序列统计建模的主要方法之一,其应用包括语音识别、计算生物学、计算机视觉和计量经济学。从其观察过程估计HMM通常通过Baum-Welch算法来解决,该算法已知易受局部最优值的影响。在本文中,我们首先给出了一般的吸引盆与任何全局最优的人口似然的特征。通过利用这一特征,我们提供了非渐近有限样本保证鲍姆-韦尔奇更新,保证几何收敛到一个小球的半径的顺序上的最小化最大速率周围的全局最优。作为一个具体的例子,我们证明了一个线性收敛速度的隐马尔可夫混合的两个各向同性高斯给定一个合适的平均分离和初始化内的球的大半径(之一)的真实参数。据我们所知,这些是第一个严格的局部收敛保证全局最优的鲍姆-韦尔奇算法的设置中的似然函数是非凸的。我们补充我们的理论结果与彻底的数值模拟研究的收敛性的Baum-Welch算法,并说明我们的预测的准确性。
2015-12-27 cs.IT math.IT math.ST
Statistical guarantees for continuous-time policy evaluation: blessing of ellipticity and new tradeoffs
University of Toronto(多伦多大学)
本文针对连续时间马尔可夫扩散过程,利用单条离散观测轨迹研究LSTD价值函数估计,证明在轨迹长度与混合时间及基函数数量近线性缩放时可达$O(1/\sqrt{T})$收敛速率,并揭示椭圆性带来的稳健性及近似与统计误差的新权衡。
2025-02-06 cs.LG math.OC math.PR
Polynomial time guarantees for sampling based posterior inference in high-dimensional generalised linear models
本文针对高维非对数凹似然模型的后验推断问题,基于局部似然条件为梯度MCMC算法建立了多项式时间的非渐近统计与计算保证,并应用于密度估计、非参数回归及PDE反问题。
2025-07-23 cs.NA math.AP math.NA
Understanding the Statistical Accuracy-Communication Trade-off in Personalized Federated Learning with Minimax Guarantees
本文研究了个性化联邦学习中统计准确性与通信的权衡,定量刻画了个性化程度对样本与算法效率的影响,提供了选择个性化程度的理论见解,并证明了广泛研究的PFL公式的minimax最优性。
2025-06-01 cs.DC cs.LG math.ST
Distributed Estimation and Inference with Statistical Guarantees
本文研究了分治算法中的假设检验和参数估计。在一个统一的可能性为基础的框架,我们提出了新的测试统计量和点估计量通过聚合各种统计量的大小$n/k$,其中$n$是样本量的$k$子样本。在低维和高维的设置,我们解决了如何选择$k$作为$n$增长大的重要问题,提供了一个理论上的上限$k$,这样的信息损失,由于分而治之算法是可以忽略不计的。换句话说,所得到的估计量具有相同的推理效率和估计率作为一个实际上不可行的预言与访问完整的样本。最后给出了数值计算结果,验证了理论的正确性.
2015-09-17 math.ST stat.TH
Statistical Guarantees for Local Spectral Clustering on Random Neighborhood Graphs
我们研究了个性化PageRank(PPR)算法,一个本地的谱方法聚类,提取集群使用局部偏置随机游动在一个给定的种子节点。与以前的工作相比,我们采用了经典的统计学习设置,从未知的非参数分布中获取样本,并旨在识别足够突出的聚类。我们引入了三个群体水平的泛函-归一化切割,电导和局部扩散,类似于基于图形的泛函的相同的名称-并证明PPR,运行在一个邻域图,恢复集群与小人口归一化切割和大电导和局部扩散。我们应用我们的一般理论,建立PPR识别连接区域的高密度(密度集群),满足一组自然的几何条件。我们还展示了相反的结果,即PPR可能无法恢复几何条件较差的密度集群,即使是渐进的。最后,我们为我们的理论提供了实证支持。
2021-12-23 math.ST stat.TH
Subspace Estimation from Unbalanced and Incomplete Data Matrices: $\ell_{2,\infty}$ Statistical Guarantees
Princeton University(普林斯顿大学);Tsinghua University(清华大学);Carnegie Mellon University(卡内基梅隆大学)
本文研究了未知低秩矩阵$\boldsymbol{A}^{\star}\in\mathbb{R}^{d_{1}\times d_{2}}$的列空间的估计问题,给出了其元素的噪声和部分观测值。在很多情况下,观测值(虽然噪声太大,无法支持整个矩阵的忠实恢复)仍然传达了足够的信息,以实现对感兴趣的列空间的可靠估计。这对于列维度$d_{2}$远远超过行维度$d_{1}$的高度不平衡的情况是特别明显和关键的,这是当前论文的焦点。本文研究了一种有效的谱方法,它对样本Gram矩阵进行对角删除。虽然这种算法的想法已经研究过了,我们建立了新的统计保证,这种方法的$\ell_{2}$和$\ell_{2,\infty}$估计精度,提高以前的结果,如果$d_{2}$是大大大于$d_{1}$。为了说明我们的研究结果的有效性,我们得到匹配的最小最大下界相对于噪声水平,并发展我们的一般理论的后果,为三个应用的实际重要性:(1)张量完成从噪声数据,(2)协方差估计/主成分分析与缺失数据,(3)社区恢复二部图。我们的理论导致所有三种情况下的性能保证的改善。
2020-11-15 cs.IT cs.LG math.IT
Computational and Statistical Guarantees of the c-Rectified flow
Yale University(耶鲁大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究针对迭代整流流的计算与统计保证问题,提出c-整流流方法,证明其在合适假设下可收敛到最优传输耦合,并建立相关收敛保证与最优估计速率,为整流流提供理论支撑。
2026-10-28 cs.LG math.OC math.PR
Strong Privacy and Utility Guarantee: Over-the-Air Statistical Estimation
我们认为,从分布式数据,用户通信到中央处理器的高斯多址信道(MAC)的统计估计的隐私问题。为了避免在数字传输方案中不可避免地牺牲数据效用来保护隐私,我们设计了一种利用MAC信道的可加性的空中估计策略。以信道输出与用户数据之间的互信息为度量,得到了该方案的隐私界,并验证了该方案在不产生较大估计误差的情况下能够保证较强的隐私性。此外,为了增加我们的方法的鲁棒性,我们调整我们的主要计划,通过添加高斯噪声本地和条件下的互信息约束下,得到相应的最小最大均方误差。比较我们的方法的数字的性能,我们表明,极大极小误差减少了$O(\frac{1}{n})$一般,这表明在空中估计的优势,为保护数据的隐私和效用。
2020-11-02 cs.IT math.IT math.ST
Statistical estimation in a randomly structured branching population
我们认为一个二进制的分支过程结构的随机性状,根据触发分支事件的扩散过程,在Kimmel的寄生虫感染的细胞分裂模型的精神。基于对前n代过程的出生特征的观察,构造了伴随分支链转移的非参数估计,并研究了分支率的参数估计.在极限下,当n趋于无穷大时,我们得到了参数情形下的渐近有效性和非参数情形下的极大极小最优性。
2019-02-25 math.ST stat.TH
Noisy Matrix Completion: Understanding Statistical Guarantees for Convex Relaxation via Nonconvex Optimization
Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
本文研究了噪声低秩矩阵的完备化问题:给定一个大型低秩矩阵的部分和噪声元素,目标是忠实而有效地估计底层矩阵。可以说,解决这个问题的最流行的范例之一是凸松弛,它在实践中取得了显着的效果。然而,这种方法的理论支持在噪声环境中仍然远远不是最佳的,无法解释其经验上的成功。我们取得了进展,对神秘的凸松弛与随机噪声的实际效果。当未知矩阵的秩和条件数是由一个常数的范围内,我们证明了凸规划方法实现了近最佳的估计误差--在欧氏损失,entrywise损失,和频谱范数损失-在很宽的范围内的噪声水平。所有这些都是通过将凸松弛与非凸Burer-Monteiro方法连接起来实现的,这是一种看似独特的算法范例,可证明对噪声具有鲁棒性。更具体地说,我们表明,一个近似的临界点的非凸制定作为一个非常紧密的近似凸的解决方案,从而使我们能够转移所需的统计保证的非凸的方法,其凸对应。
2019-10-07 cs.IT cs.LG math.IT
Estimation of relative risk, odds ratio and their logarithms with guaranteed accuracy and controlled sample size ratio
Information Processing and Telecommunications Center, Universidad Politécnica de Madrid(信息处理与电信中心,马德里理工大学)
本文提出了一种基于两阶段顺序抽样策略的估计方法,用于估计相对风险、比值比及其对数,并保证估计精度和样本量比例的可控性。
2026-03-05 math.ST stat.ME stat.TH
Distributed Statistical Estimation and Rates of Convergence in Normal Approximation
本文提出了一类新的分布式统计估计算法,利用分而治之的方法。我们发现,分而治之的策略的主要好处之一是鲁棒性,大型分布式系统的一个重要特征。我们建立这些分布式算法的性能和正常逼近的收敛速度之间的连接,并证明非渐近偏差的保证,以及极限定理,所得到的估计。我们的技术说明通过几个例子:特别是,我们获得了新的结果的平均值估计,以及分布式极大似然估计的性能保证。
2018-08-27 cs.DC math.ST stat.ML
Statistical Inference for the Population Landscape via Moment Adjusted Stochastic Gradients
现代统计推断任务通常需要迭代优化方法来计算解。从最优化的角度进行收敛性分析,只告诉我们如何以及解决方案是近似的数字,但忽略了数据的采样性质。相反,认识到数据的随机性,统计学家热衷于为使用迭代优化方法获得的解决方案提供不确定性量化或置信度。本文沿着这个方向取得了进展,通过引入矩调整的随机梯度下降,一个新的随机最优化方法的统计推断。我们建立了非渐近理论,其特征在于统计分布的某些迭代方法的优化保证。在统计方面,该理论允许模型错误指定,对数据的条件非常温和。对于优化,该理论对于凸和非凸情况都是灵活的。值得注意的是,从统计学中的“误差标准化”激发的力矩调整思想实现了与用于拟合广义线性模型的一阶优化方法中的加速类似的效果。我们还通过数值实验证明了这种加速效应在非凸设置。
2019-02-26 math.ST stat.ME stat.ML
Indirect Statistical Inference with Guaranteed Necessity and Sufficiency
本文提出基于指数变换次序统计量相对误差的间接推断框架,证明其充要性,相比绝对误差方法收敛更快,适用于连续随机变量分布检验。
2025-09-24 math.ST stat.TH
Statistical Inference with Data Augmentation and Parameter Expansion
统计实用主义包括统计推断中所有有效的方法。本文中使用所收集数据的扩增以从一大类非代表性群体的单元获得代表性群体信息。概率模型的参数扩展被证明可以降低简单假设检验的误差概率之和的上界,并提出了一种度量R,用于在充分统计量中激活附加分量的效果。
2015-12-02 math.ST stat.TH
Statistical applications of random matrix theory: comparison of two populations I
本文研究了一种检验两个独立估计的协方差阵相等性的统计方法,当潜在相关的数据向量的数量很大且与向量的大小(即变量的数量)成比例时。受随机矩阵理论中使用的尖峰模型的启发,我们专注于矩阵的最大特征值,以确定显着性。为了避免错误拒绝,我们必须防止残留的尖峰,并需要一个足够精确的描述下的原假设的最大特征值的行为。在本文中,我们奠定了一个基础,通过处理替代品的基础上扰动的顺序$1$,即一个单一的大特征值。我们的统计允许用户测试两个总体的相等性。未来的工作将扩展的结果,以扰动的顺序$k$和证明保守性的程序更一般的矩阵。
2020-03-06 math.ST stat.ME stat.TH
Low-rank matrix estimation in multi-response regression with measurement errors: Statistical and computational guarantees
本文研究了具有测量误差的多响应回归模型中的矩阵估计问题。提出了一种基于修正损失函数和核范数正则化的非凸误差校正估计器来估计矩阵参数。然后在(近)低秩假设下,从一般的角度分析了非凸正则化估计的整体解的统计和计算理论性质。在统计方面,我们在损失函数的约束强凸性下,建立了非凸估计的整体解的非渐近恢复界。在计算方面,我们采用近似梯度法求解非凸最优化问题。该算法被证明是收敛到一个近全局的解决方案,并实现了线性收敛速率。此外,我们还验证了充分条件的一般结果举行,以获得特定类型的测量误差,包括加性噪声和缺失数据的概率后果。最后,理论后果证明了几个数值实验损坏的变量误差多响应回归模型。在高维尺度下,模拟结果与我们的理论吻合得很好。
2022-09-16 math.ST stat.ME stat.TH
Optimality guarantees for distributed statistical estimation
University of California, Berkeley(加州大学伯克利分校)
大型数据集通常需要执行分布式统计估计,完整的数据集跨多台机器划分,机器之间的通信有限。为了研究这样的情况下,我们定义和研究的经典极大极小风险,适用于分布式设置的一些改进,比较与访问整个数据的估计的性能。这些量的下限提供了实现集中式极大极小风险所需的最小通信量的精确表征。我们研究了两类分布式协议:一类是机器独立地通过信道发送消息而没有反馈,另一类是允许交互式通信,其中中央服务器将消息从给定的机器广播到所有其他机器。我们建立了各种问题的下界,包括几个家庭的位置估计和不同类型的回归模型的参数估计。我们的研究结果包括一类新的定量数据处理不等式,用于表征有限的通信的影响。
2014-06-21 cs.IT cs.LG math.IT
An effective likelihood-free approximate computing method with statistical inferential guarantees
近似贝叶斯计算是一种强大的无似然方法,自早期在群体遗传学中的应用以来越来越受欢迎。然而,复杂化出现在理论上的理由进行贝叶斯推断从这种方法与不充分的汇总统计。在本文中,我们试图重新框架内的频率论的上下文中的近似贝叶斯计算,并证明其性能的标准设置的频率覆盖率。在这样做的过程中,我们开发了一种新的计算技术,称为近似置信分布计算,产生的理论支持使用不充分的汇总统计的似然自由的方法。此外,我们证明了近似置信分布计算扩展了近似贝叶斯计算的范围,包括数据相关的先验,而不损害推理的完整性。这种数据依赖的先验可以被看作是目标参数的初始“分布估计”,其用近似置信分布计算方法的结果更新。还讨论了一个一般的策略,用于构建一个适当的数据相关的先验,并显示出往往增加计算速度,同时保持统计推断的保证。我们补充的理论与模拟研究说明所提出的方法的好处,即更广泛的应用和增加的计算速度相比,标准的近似贝叶斯计算方法的潜力。
2018-11-30 math.ST stat.CO stat.TH
Statistical Guarantees for Data-driven Posterior Tempering
Columbia University(哥伦比亚大学)
本文研究了数据驱动后验退火中α参数的选择及分数后验的统计保证,提出了关键阈值α≈1/√n,揭示了分数后验的渐近性质。
2026-01-14 math.ST stat.TH
Statistical applications of Random matrix theory: comparison of two populations II
本文研究了一种检验两个独立估计的协方差阵相等性的统计方法,当潜在相关的数据向量的数量很大且与向量的大小(即变量的数量)成比例时。受随机矩阵理论中使用的尖峰模型的启发,我们专注于矩阵的最大特征值,以确定显着性。为了避免错误拒绝,我们必须防止残留的尖峰,并需要一个足够精确的描述下的原假设的最大特征值的行为。在本文中,我们提出了一些“不变量”定理,使我们能够扩展测试arXiv:2002.12741为扰动的顺序$1$到一些一般的测试顺序$k$。本文介绍的统计量允许用户基于高维多变量数据来测试两个总体的相等性。仿真结果表明,这些测试有更多的权力比标准的多元方法的检测。
2020-05-29 math.ST stat.ME stat.TH
Decentralized Sparse Linear Regression via Gradient-Tracking: Linear Convergence and Statistical Guarantees
Texas A&M University(德克萨斯农工大学);Purdue University(普渡大学);The Pennsylvania State University(宾夕法尼亚州立大学);The University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文研究去中心化网络上的稀疏线性回归,提出基于投影梯度追踪的分布式算法,证明其在高维标度下以线性速率收敛并达到集中式统计精度,同时揭示了统计效率、网络连通性与收敛速率之间的关系。
2024-12-26 cs.LG math.OC math.ST
Statistical guarantees for Bayesian uncertainty quantification in non-linear inverse problems with Gaussian process priors
研究了一类非线性逆回归模型的贝叶斯推断和不确定性量化问题。分析条件上的回归模型$\{\mathscr G(θ): θ\in Θ\}$和高斯过程先验$θ$提供这样的半参数有效的推理是可能的一个大类的线性泛函的$θ$。证明了一般半参数Bernstein-von Mises定理,证明了(非高斯)后验分布可用以后验均值为中心的高斯测度近似.因此,基于后验的可信集是有效的,从频率论的角度来看是最优的。该理论的两个应用程序与偏微分方程中出现的非线性层析成像问题:一个椭圆形的反问题的薛定谔方程,和反演的非阿贝尔X射线变换。新的分析技术表明,相关的Fisher信息算子在合适的函数空间之间是可逆的
2021-04-14 math.AP math.ST stat.TH
A Statistical Measure of a Population's Propensity to Engage in Post-Purchase Online Word-of-Mouth
在线社区的出现使公司能够通过从互联网上挖掘公开信息来实时监测消费者产生的在线口碑。利用这种新能力的先决条件是开发适当的口碑指标,并确定这些指标与消费者行为之间的关系。沿着这些路线,本文介绍了一个度量的购买人群的倾向率在线产品。使用数据从一个流行的电影网站,我们发现,我们的指标表现出几个关系,以前已经发现存在的方面的产品和消费者的倾向,从事离线口碑。因此,我们的研究,提供了积极的证据,我们的指标的有效性作为一个代理人的倾向从事购买后的在线口碑。我们的研究结果还表明,离线和在线口碑的前因表现出重要的相似性。
2006-09-08 math.ST stat.TH
A stochastic SIR model with contact-tracing: large population limits and statistical inference
研究了一类考虑接触者追踪对传染病传播影响的随机流行病模型。确切地说,被确定为感染的个体可以通过提供与他们可能有过传染性接触的人相关的信息来有助于检测其他传染性个体。人口的发展,通过人口统计,感染和检测过程中,在某种程度上,它的时间演变是由一个随机的马尔可夫过程,其中的组件占接触跟踪功能被假定为在一个空间的点测量值。对于适当的缩放的人口,感染和检测率,它是收敛到弱的确定性解的PDE系统,作为一个参数n,解释为总体规模粗略地说,变得很大。从传染病数据分析的角度来看,这一近似结果可能作为探索标准推断方法(如极大似然估计)的渐近性质的关键工具。我们在这方面陈述初步统计结果。最后,该模型的关系,在古巴,在该国的接触跟踪检测系统已成立自1986年以来,艾滋病毒流行的可用数据进行了研究和数值应用。
2008-07-22 math.PR math.ST stat.TH