Minimax theory for a class of non-linear statistical inverse problems
我们研究了一类由具体统计应用所激发的非线性点态算子的统计反问题。提出了一个两步的过程,其中第一步平滑的数据和反转的非线性。这将初始非线性问题简化为具有确定性噪声的线性逆问题,然后在第二步中求解。降噪步骤是基于小波阈值,并示出了最小最大优化(对数因子)在逐点函数依赖的意义。我们的分析是基于一个修改后的概念Hölder平滑尺度是自然的,在这种情况下。
2016-05-11 math.ST stat.ME stat.TH
"Stochastic Inverse Problems" and Changes-of-Variables
在过去的十年中,一系列应用数学论文已经探索了一种类型的逆问题-被称为各种名称,包括“逆灵敏度”,“基于前推的推理”,“一致的贝叶斯推断“或“数据一致的反演”-其中解决方案是其前推采用给定形式的概率密度。对于熟悉传统贝叶斯或其他统计推断的人来说,这种随机逆问题的公式化可能是意想不到的或令人困惑的。到目前为止,已经提出了两类解决方案,这些都是通过应用测度论及其分解定理证明。在这项工作中,我们表明,在温和的假设下,制定和解决所有的随机逆问题,可以更清楚地理解使用基本的概率论:一个随机逆问题只是一个变量的变化或近似。对于现有的两类解决方案,我们推导出的关系,改变(S)的变量,并说明使用分析的例子,没有以前存在的。我们的推导既没有使用贝叶斯定理,也没有明确的分解定理。我们的最后一个贡献是一个更传统的统计推断变量变化的仔细比较。虽然随机逆问题的大部分文件的面值,我们最后的比较讨论给出了一个批评的框架。
2022-11-28 stat.ME
Statistical Inference for Cox Proportional Hazards Models with a Diverging Number of Covariates
对于协变量个数不同的回归模型的统计推断,现有文献通常对费舍尔信息矩阵的逆矩阵作稀疏性假设。然而,在Cox比例风险模型下,这些假设经常被违反,导致覆盖范围不足的置信区间的有偏估计。我们提出了一种改进的去偏套索方法,它解决了一系列的二次规划问题来近似逆信息矩阵,而不构成稀疏矩阵的假设。当协变量的维数随样本量而异时,我们建立了估计回归系数的渐近结果。大量的模拟表明,我们提出的方法提供了相合估计和置信区间与标称覆盖概率。该方法的实用性通过评估遗传标记对波士顿肺癌生存队列患者总生存率的影响进一步证明,波士顿肺癌生存队列是一项调查肺癌潜在机制的大规模流行病学研究。
2021-06-06 stat.ME
Clustering in statistical ill-posed linear inverse problems
在许多统计线性逆问题中,需要在没有有界逆的算子下从噪声图像中恢复相似曲线的类。这类问题出现在许多应用领域。然而,在这样的问题中,在预处理步骤中执行聚类,然后分别针对每个聚类平均值求解逆问题。因此,通常只对估计步骤检查程序的误差。本文的目的是研究,通过理论和模拟,聚类的一般不适定的线性反问题的解决方案的准确性的影响。特别地,我们假设观察到$X_m = A f_m + δε_m$、$m=1, \cdots, M$,其中函数$f_m$可以被分组到$K$类中,并且需要恢复向量函数${\bf f}= (f_1,\cdots, f_M)^T$。我们构造了一个作为惩罚最优化问题解的${\bf f}$的估计量,并导出了一个关于其精度的预言不等式。通过推导误差的上界和极小极大下界,我们确认估计是极小极大最优或近似极小极大最优的对数因子的观察。我们的估计过程的优点之一是,我们不假设集群的数量是已知的。我们的结论是,聚类在预处理步骤是有益的,当问题是适度不适定的。当问题严重不适定时,应用它时应极其小心。
2020-03-23 math.ST stat.ME stat.TH
Least squares approximations in linear statistical inverse learning problems
本文研究线性统计逆学习中的函数恢复问题,将有限维投影正则化与最大似然估计结合,证明重构误差的概率与期望收敛速率并达到 minimax 最优。
2024-01-19 cs.NA math.NA math.ST
Filter Based Methods For Statistical Linear Inverse Problems
不适定反问题在实际应用中普遍存在。通过对线性反问题的深入理解,大大提高了对求解线性反问题的算法的理解。在应用领域,基于集合的滤波方法最近被用于通过引入人工动力系统来求解反问题。这开辟了使用一系列其他滤波方法的可能性,如3DVAR和卡尔曼为基础的方法,解决逆问题,再次通过引入人工动力系统。本文的目的是分析这种方法的上下文中的不适定的线性反问题。统计线性逆问题的研究意义上说,观测噪声被假定为通过实现一个高斯随机变量。我们调查的渐近行为的过滤器为基础的方法,这些反问题。严格的收敛速度建立3DVAR和卡尔曼滤波器,在某些情况下,包括极小极大率。文中还介绍了三维变分雷达的爆破及其基本形式的一种变形,并讨论了卡尔曼滤波器的最优性。这些分析揭示了(迭代)正则化计划在确定性反问题和过滤器的数据同化方法之间的密切联系。数值实验来说明理论。
2015-12-07 math.ST stat.TH
Minimax rates for statistical inverse problems under general source conditions
当光滑性由一般源集给出时,我们描述了希尔伯特空间中线性不适定方程组的极小极大重构率。基本结果,椭球上的极大极小率,类似于D。L.多诺霍河~ C. Liu和B. MacGiant,{ \it Minimax risk over hyperrectanges,and implications},Ann.~中央集权主义者1990年18日这些作者强调了截断序列估计量的特殊作用,对于这种估计量,可以明确地给出风险。我们提供了几个例子,表明结果统计估计不适定的问题在希尔伯特空间。
2017-11-15 math.ST stat.TH
Optimal Rates For Regularization Of Statistical Inverse Learning Problems
我们考虑一个统计逆学习问题,其中我们通过一个线性算子$A$在i.i.d.观察函数$f$的图像。随机设计点$X_i$,叠加加性噪声。设计点的分布是未知的,并且可能非常一般。我们同时分析了直接(估计$Af$)和逆(估计$f$)学习问题。在这个一般的框架中,我们获得了强和弱极大极小最优收敛速度(作为观察$n$的数量越来越大)的一大类谱正则化方法通过适当的源条件定义的正则类。这改进或完善了在相关设置中获得的先前结果。所得到的速率的最优性不仅表现在$n$中的指数上,而且表现在噪声方差中的常数因子与源条件集半径的显式依赖关系上。
2016-04-14 stat.ML
Geometric Inference for General High-Dimensional Linear Inverse Problems
本文提出了一个统一的几何框架的一般不适定线性逆模型的统计分析,其中包括作为特殊情况的噪声压缩感知,符号向量恢复,跟踪回归,正交矩阵估计,和噪声矩阵完成。我们提出了计算上可行的凸规划的统计推断,包括估计,置信区间和假设检验。一个理论框架的特点的局部估计收敛速率,并提供统计推断保证。我们的结果是建立在局部圆锥几何和对偶的基础上。统计推断的困难是通过高斯宽度和Sudakov minoration估计的局部切锥的几何特征来捕获的。
2015-06-16 math.ST stat.ML stat.TH
Optimal adaptation for early stopping in statistical inverse problems
对于线性逆问题$Y=\mathsf{A}μ+ξ$,经典的是通过迭代正则化方法$(\widehat μ^{(m)}, m=0,1,\ldots)$恢复未知信号$μ$,并使用某种停止规则(通常基于差异原理)停止在数据相关迭代$τ$,使得弱(或预测)平方误差$\|\mathsf{A}(\widehat μ^{(τ)}-μ)\|^2$被控制。在随机噪声$ξ$的统计估计的背景下,我们研究了甲骨文适应(即相比,最好的可能停止迭代)在强平方误差$E[\|\hat μ^{(τ)}-μ\|^2]$。对于基于残差的停止规则,建立了一般谱正则化方法的Oracle自适应边界。证明使用从弱预测误差到强$L^2$误差的偏差和方差转移技术,以及随机部分的凸性参数和浓度界限。自适应早期停止的Landweber方法进行了进一步的详细研究和数值说明。
2017-10-26 math.ST stat.TH
Maximum Entropy on the Mean and the Cramér Rate Function in Statistical Estimation and Inverse Problems: Properties, Models, and Algorithms
我们探索一种称为平均值(MEM)的最大熵的统计估计方法,该方法基于信息驱动的标准,该标准量化给定点与参考先验概率测量的符合性。这种方法的核心在于MEM函数,它是线性约束上的Kullback-Leibler发散的部分最小化。在许多情况下,已知该函数允许更简单的表示(称为Cramér率函数)。通过连接到指数族的概率分布,我们研究的一般条件下,这种表示。然后,我们解决相关的MEM估计如何产生广泛的一类基于MEM的正则化线性模型求解逆问题。最后,我们提出了一个算法框架,有效地解决这些问题的基础上Bregman近端梯度法,以及常用的参考分布的近端算子。本文是由一个软件包的补充实验和探索的MEM方法在应用中。
2022-12-17 cs.IT math.IT math.OC
Optimal regularized hypothesis testing in statistical inverse problems
本文针对统计逆问题提出允许估计量有偏的正则化假设检验,在源条件下构造水平 α 的最大功效检验族,并通过凸优化得到自适应检验,证明其不劣于且模拟中显著优于非正则化检验。
2023-10-17 cs.NA math.NA math.ST
Sensitivity analysis for inverse probability weighting estimators via the percentile bootstrap
为了确定缺失数据问题和观察性研究中的被估量,通常将统计估计建立在“随机缺失“和“无未测量混杂因素”假设的基础上。然而,这些假设是无法验证的经验数据,并构成严重威胁的有效性定性结论的统计推断。敏感性分析询问如果无法验证的假设在一定程度上被违反,结论可能如何改变。在本文中,我们考虑了一个边际敏感性模型,这是一个自然的延伸Rosenbaum的敏感性模型,被广泛用于匹配的观察性研究。我们的目标是构建基于逆概率加权估计的置信区间,使得当数据生成分布在边际敏感性模型的集合中时,该区间渐近地至少具有被估量的名义覆盖。我们使用一个百分位自助和广义极大极小/极大极小不等式,将这个棘手的问题转化为一个线性分式规划问题,可以非常有效地解决。我们说明了我们的方法,使用一个真实的数据集来估计的因果关系的影响,鱼类消费对血液中的汞水平。
2018-10-08 math.ST stat.ME stat.TH
Bivariate Discrete Inverse Weibull Distribution
本文提出了一类新的二元分布,称为二元离散逆威布尔(BDsIW)分布,其边缘是离散逆威布尔(DsIW)分布。一些统计和数学性质。最大似然法用于估计模型参数。仿真结果验证了直接极大似然估计的性能。最后,两个真实的数据集进行了分析说明的目的。
2018-08-22 math.ST stat.TH
Large Deviation Strategy for Inverse Problem
迪昂-奎因命题在传统上被认为是反对归纳过程理论化的一个不可行的定理,它可能会干扰统计推理的本质。这个困难可以通过微观-宏观二元性\cite{Oj03, Oj05}来解决,它阐明了指定与科学讨论的具体背景相关的相关方面和准确性的重要性,并确保了要描述的内容与以二元关系的有效性形式描述的内容之间的匹配。这巩固了反问题的基础,归纳法,统计推断理论和实验之间的声音关系至关重要。为了达到这一目的,我们在这里提出了大偏差策略(LDS)的基础上的微观-宏观对偶,四元方案,和大偏差原则。根据强调动力学、观测量代数及其表示和分类空间的普遍概念所起的基本作用的四边形方案,LDS由四个层次组成,我们详细讨论了它的第一和第二层次,旨在建立关于观测量和状态的统计推断。通过有效地利用中心测度,我们将建立一个量子形式的Sanov定理,贝叶斯护送预测态和广泛适用于LDS第二能级量子态的信息判据.最后,这些结果在量子估计理论的背景下重新检查,并组织为量子模型选择,即,模型选择的量子版本
2011-07-27 math-ph math.MP math.ST
Statistics with Set-Valued Functions: Applications to Inverse Approximate Optimization
大部分统计学依赖于四个关键要素:大数定律、运算随机收敛的微积分、中心极限定理和构造局部近似的框架。这些元素对于向量空间中的对象是很好理解的(例如,点或函数);然而,许多统计理论并不直接转化为集合,因为它们不形成向量空间。基于随机集的概率论,本文利用变分分析开发了集值函数统计的运算工具。这些工具首先应用于非参数估计(集值函数的核回归)。第二个应用是逆近似优化问题,其中观察到最优化问题的近似解(被噪声破坏),然后用于估计解的次优性量和生成解的最优化问题的参数。我们发现,以前的方法来解决这个问题是统计不一致的数据被噪声破坏时,而我们的方法是一致的,在温和的条件下。
2018-01-08 math.OC math.ST stat.TH
Exponentiated Inverse Power Lindley Distribution and its Applications
本文给出了反林德利分布的一个三参数推广,目的是得到一个相对于危险率函数行为更灵活的模型。导出了密度、危险率函数、矩、矩母函数、随机序、Renyi熵、r阶顺序统计量分布等统计性质。参数估计采用极大似然估计方法。还获得了进一步的置信区间。最后分析了该模型对实际数据的适用性。还与一些现有的分布进行了比较。
2018-08-22 math.ST stat.TH
Practical Tikhonov Regularized Estimators in Reproducing Kernel Hilbert Spaces for Statistical Inverse Problems
正则化核方法,如支持向量机(SVM)和支持向量回归(SVR)构成了一个广泛和灵活的一类方法,理论上研究得很好,通常用于非参数分类和回归问题。由于这些方法都是基于一个Tikhonov正则化,这也是常见的反问题,本文研究使用正则化核方法的反问题,在一个统一的方式。正则化核方法基于再生核希尔伯特空间(RKHS)的使用,其导致非常好的计算性质。结果表明,类似的属性仍然是真实的,在解决统计逆问题,标准的软件实现开发的普通回归问题仍然可以用于逆回归问题。这些方法的一致性和收敛速度的风险是在相当弱的假设和收敛速度的估计显示在某种程度上更强的假设。这些方法的适用性证明在模拟。
2013-05-06 stat.ME
A tutorial on the Bayesian statistical approach to inverse problems
Oregon State University(俄勒冈州立大学)
本文以冷青柠热传递为例,系统介绍贝叶斯统计反演方法,展示其在参数估计与初始条件重建中量化不确定性并纳入先验信息的能力。
2023-04-15 cs.LG stat.AP stat.ME
A Statistical Perspective on Inverse and Inverse Regression Problems
广义逆问题的任务是从未知函数的噪声响应中学习,通常表示为已知函数形式的参数,在一般科学学科中受到广泛关注。然而,在主流统计学中,这种反问题范式似乎并不流行.在这篇文章中,我们提供了一个简短的概述,从统计,特别是贝叶斯的角度来看,这样的问题。我们还比较和对比上述类别的问题,也许更熟悉的统计逆回归问题,认为这类问题包含传统的一类逆问题。在我们的审查过程中,我们指出,统计文献是非常稀缺的逆范式,大量的研究工作仍然是必要的发展领域。
2017-07-21 math.ST stat.ME stat.TH
Statistical approach to linear inverse problems
本文以含加性噪声的线性模型为例,介绍了反问题的统计方法的主要特点。该方法不使用关于未知对象的任何贝叶斯假设;相反,给出了寻找所需对象估计值的过程的标准统计要求。通过这种方式,可以在经典统计理论的框架下获得稳定和有效的逆解。给出了逆解的可行域的精确表示,即,在统计意义上与数据和可用先验信息一致的逆估计的集合。典型的可行域具有极其细长的孔椭球的形式,其方向和形状由费舍尔信息矩阵确定。这是一个详尽的描述下考虑的反问题的稳定性的Fisher矩阵的频谱。提出了一种构造接近最优Kolmogorov-Wiener滤波器的非线性滤波器的方法。
2017-05-03 physics.data-an stat.ME
Statistical inverse problems in active network tomography
计算机和通信网络的分析产生了一些有趣的逆问题。本文关注的是主动网络断层扫描的目标是恢复信息的服务质量(QoS)参数在链路级从聚合数据测量端到端的网络路径。QoS参数的估计和监控,如丢失率和延迟,是网络工程师和互联网服务提供商相当感兴趣的。本文综述了损失率和延迟分布的反问题和最近的研究推断。本文还发展了时滞分布参数推断的一些新结果。最后,讨论了该技术在网络电话中的实际应用.
2007-08-08 stat.ME
Statistical Treatment of Inverse Problems Constrained by Differential Equations-Based Models with Stochastic Terms
本文介绍了受随机项模型约束的反问题的统计处理。前向问题的解决方案是由一个分布表示数值模拟合奏。目标是用公式表示逆问题,特别是目标函数,以找到最接近的正向分布(即,随机前向问题的输出),其最好地解释了在特定度量中的观测的分布。我们使用适当的评分规则,这是统计预测验证中采用的一个概念,即能量、变异函数和混合(即,两者的组合)得分。我们研究了两个应用程序的背景下,所提出的配方的性能:一个系数场反演地下流由椭圆偏微分方程(PDE)与随机源和参数反演由微分-代数方程(DAE)的电网。在这两种情况下,我们表明,变差函数和混合分数比能量分数显示更好的参数反演结果,而能量分数导致更好的概率预测。
2019-04-16 math.OC stat.ME
An adaptive kriging method for solving nonlinear inverse statistical problems
在各种工业环境中,需要从一些有噪声的间接观测值H(Xi)+ Ui估计未观测到的随机向量Xi的分布。如果Xi和用误差Ui测量的量H(Xi)之间的关系由消耗CPU的计算机模型H实现,则主要的实际困难是用相对较少的H运行次数来执行统计推断。继Fu等人(2014年)之后,人们考虑了贝叶斯统计框架,以利用有关Xi分布参数的可能先验知识,假设xi为高斯分布。此外,一个马尔可夫链蒙特卡罗(MCMC)算法进行估计其后验分布通过替代H的克里金元模型建立从有限数量的模拟实验。提出了两种算法,涉及两个不同的标准进行优化,顺序设计这些计算机实验在给定的计算预算的限制。第一个标准是加权积分均方误差(WIMSE)。第二个,称为预期条件发散(ECD),在逐步减少不确定性(SUR)标准的精神,是基于目标后验分布的两个连续近似之间的差异。一个玩具的例子,然后一个激励的真实案例研究进行了几个数值比较表明,这种自适应设计可以显着优于经典的选择最大拉丁超立方体设计(LHD)的实验。在水利工程处理的一个主要问题,特别强调的是放在前面的启发的案例研究,突出的整体可行性的方法。更快的收敛速度和可扩展性的考虑导致在实际应用中推荐使用ECD准则。
2015-08-23 stat.ME
Higher-order interactions in statistical physics and machine learning: A model-independent solution to the inverse problem at equilibrium
从观测数据中推断涉及大量相互作用变量的复杂系统中的成对和高阶相互作用的问题是许多领域的基础。被统计物理界称为逆问题,近年来由于真实和模拟的“大”数据的产生,它已经变得可以访问。目前的反问题的方法依赖于参数假设,物理近似,例如平均场理论,并忽略高阶相互作用,这可能会导致偏见或不正确的估计。我们使用跨学科的方法绕过这些缺点,并证明这些假设和近似都是必要的:我们引入了一个通用的,模型独立的,从根本上无偏估计量的所有阶对称的相互作用,通过非参数的框架有针对性的学习,数理统计的一个子领域。由于它的普适性,我们的定义很容易适用于任何二元和分类变量的平衡系统,无论是磁自旋,神经网络中的节点,还是生物学中的蛋白质网络。我们的方法是有针对性的,不需要拟合不必要的参数。相反,它将所有数据用于估计相互作用,从而大大提高了准确性。我们证明了我们的技术的一般性分析和数值上(i)2维伊辛模型,(ii)伊辛样模型与4点相互作用,(iii)限制玻尔兹曼机,(iv)模拟个人水平的人类DNA变异和代表性的性状。后者证明了这种方法的适用性,以发现上位性相互作用的原因,疾病在人口生物医学。
2020-12-29 cond-mat.stat-mech hep-lat physics.comp-ph