PANDA: AdaPtive Noisy Data Augmentation for Regularization of Undirected Graphical Models
University of Notre Dame(圣母大学)
我们提出了一种自适应噪声增强(PANDA)技术来正则化无向图模型的估计和构造。PANDA迭代优化目标函数,给出噪声增强数据,直到收敛,以实现模型参数的正则化。增强噪声可以设计成各种正则化效果的图估计,如桥(包括套索和脊)、弹性网、自适应套索、SCAD惩罚等,还可以实现群套索和融合脊。我们研究了噪声增强损失函数的尾界,并建立了噪声增强损失函数及其最小值几乎必然分别收敛于预期的惩罚损失函数及其最小值。在广义线性模型中,利用PANDA方法得到了正则化参数的渐近分布,并在此基础上进行了参数的推断和变量选择.我们在模拟研究中显示了PANDA在构建不同类型的图方面的非劣性能,并将PANDA应用于自闭症谱系障碍数据构建混合节点图。我们还表明,通过PANDA正则化参数估计的渐近分布的基础上的推理实现名义或接近名义的覆盖率,是更有效的,相比一些现有的后选择程序。在计算上,PANDA可以很容易地在实现GLM的软件中编程,而无需采用复杂的优化技术。
2019-05-21 cs.LG stat.ML
Data-Driven Regularized Time-Limited h2 Model Reduction from Noisy Impulse Responses
The University of Tokyo(东京大学)
本文提出一种基于数据的时间受限h2模型降阶方法,利用噪声冲击响应数据解决正则化问题,实验表明其在噪声环境下表现优于传统方法。
2026-04-30 cs.SY eess.SY math.OC
Isolated calmness of regularized linear inverse problems
Oakland University(奥克兰大学)
本文研究凸正则化线性逆问题解映射的孤立平静性,建立切锥刻画,并证明对分段线性二次正则化器该性质等价于解唯一性,且分析稀疏情形可用线性规划验证。
2026-09-09 math.OC
Notes on the discretization of TV-NORM regularized inverse potential problems
INRIA(法国国家信息与自动化研究所);Vanderbilt University(范德堡大学)
本文提出了一种针对三维赋值测度上线性逆问题正则化所引发的优化问题的离散化方法,其判据为数据的二次残差并附加测度全变差惩罚。
2026-10-06 cs.NA math.GM math.NA
Towards Off-the-grid Algorithms for Total Variation Regularized Inverse Problems
本文提出一种离网格算法,通过迭代构造简单多边形指示函数的线性组合来求解全变差正则化线性反问题,克服了传统方法依赖固定网格的局限。
2022-07-09 cs.NA eess.SP math.NA
High-order regularized regression in Electrical Impedance Tomography
提出了一种基于正则化二次回归的电阻抗成像反问题新方法。我们的贡献介绍了一个新的配方的前向模型的形式的非线性积分变换,映射域的电特性的变化,其各自的变化在边界数据。利用扰动理论的变换近似产生一个高阶失配函数,然后用于导出一个正则化的反问题。特别是,我们认为非线性问题的二阶精度,因此我们的近似方法改进后的局部线性化的前向映射。反问题采用牛顿迭代算法,并从模拟实验结果。随着计算复杂度的适度增加,该方法产生优于正则化线性回归的结果相比,可以实现解决非线性反问题。
2012-05-28 math-ph math.MP math.OC
Stable Recovery of Regularized Linear Inverse Problems
本文研究了正则化线性反问题的稳定恢复,提出有限维空间中新刻画并揭示非光滑二阶信息作用,据此推导出分析组稀疏问题稳定恢复的新充分条件,数值实验验证了其有效性。
2025-05-29 math.OC
Regularized Projection Algorithms for Monotone Inverse Variational Inequalities
针对单调随机逆变分不等式,提出结合Tikhonov正则化与递增批量大小的算法,证明迭代有界及收敛,给出期望平方残差的非渐近率,还介绍了确定性变体及数值实验。
2026-07-21 math.OC
A note on convergence of solutions of total variation regularized linear inverse problems
在A. Chambolle等人[全变差去噪问题的解决方案的几何性质。逆问题33,2017]证明了如果无噪声数据处的全变差的次梯度不为空,则全变差去噪解的水平集相对于Hausdorff距离收敛到无噪声数据的水平集。次梯度上的条件对应于Burger和Osher [凸变分正则化的收敛速度]中引入的源条件。逆问题20,2004],他证明了在这种条件下相对于Bregman距离的收敛速度结果。本文将Chambolle等人的结果推广到一般线性反问题在这种源条件下的全变差正则化。作为具体的应用,我们提出了在有界和无界,凸和非凸区域,去模糊和圆形Radon变换的逆去噪。在所有这些例子中,收敛结果都适用。此外,我们通过数值例子说明了收敛性。
2018-03-26 math.OC
Scalable Computation of Regularized Precision Matrices via Stochastic Optimization
我们考虑的问题,计算正定$p \times p$逆协方差阵aka精度矩阵$θ=(θ_{ij})$优化正则化高斯最大似然问题,与弹性网络正则化$\sum_{i,j=1}^{p} λ(α|θ_{ij}| + \frac{1}{2}(1- α) θ_{ij}^2),$正则化参数$α\in [0,1]$和$λ>0$。相关的凸半定最优化问题是出了名的难以扩展到大的问题,并要求在过去几年中显着的关注。我们提出了一个新的算法框架的基础上随机邻近优化(原始问题),可用于获得近最优解与大量的计算节省确定性算法。我们的工作的一个关键挑战源于这样一个事实,即正在调查的最优化问题不满足随机梯度方法所需的通常假设。我们的建议有(a)计算保证和(b)规模很大的问题,即使解决方案不是太稀疏,从而提高了正则化最大似然问题的范围,许多大规模的当代感兴趣的问题。我们的建议的一个重要方面是绕过\emph{deterministic}计算矩阵逆从一个合适的多元高斯分布随机抽样。
2015-09-01 math.OC math.ST stat.TH
Resilient Infrastructure Network: Sparse Edge Change Identification via L1-Regularized Least Squares
针对基础设施网络的边变化中断问题,提出基于ℓ₁范数正则化最小二乘的稀疏边变化识别框架,利用Laplacian矩阵结构避免过参数化,经电力网络等算例验证了鲁棒性与有效性。
2024-09-11 cs.SI math.OC stat.AP
On the Convergence of A Data-Driven Regularized Stochastic Gradient Descent for Nonlinear Ill-Posed Problems
本文提出并分析了一种用于无限维Hilbert空间中非线性不适定逆问题的数据驱动正则化随机梯度下降法,证明了其在特定条件下的正则化性质与收敛速率,并通过数值实验验证了理论分析。
2024-09-27 cs.NA math.NA math.OC
Contingent derivatives and regularization for noncoercive inverse problems
University of Duisburg-Essen(杜伊斯堡-埃森大学);Rochester Institute of Technology(罗切斯特理工学院);Universidad Nacional de Educación a Distancia(西班牙国立远程教育大学);Martin-Luther-University of Halle-Wittenberg(哈勒-维滕贝格马丁·路德大学)
本文研究非 coercive 变分问题中参数识别的逆问题,通过条件导数分析参数到解的映射,并利用输出最小二乘法进行正则化以获得单值映射,探讨其光滑性和有界性,并提供计算方法和数值结果。
2018-02-14 cs.NA math.NA math.OC
Inverse Optimization with Noisy Data
逆优化是指基于最优解的知识来推断最优化问题的未知参数。本文考虑了在凸优化问题的最优解的度量被噪声破坏的情况下的逆优化问题。首先,我们提供了一个配方的逆优化,并证明它是NP难的。与现有的方法相比,我们表明,我们的配方产生的参数估计是统计上一致的。我们的方法涉及到结合一个新的基于对偶的二层程序的重新制定的正则化计划,平滑的配方中的不连续性。利用上图收敛理论,我们证明了正则化参数可以被调整,以逼近原逆最优化问题的任意精度,我们使用证明我们的一致性结果。接下来,我们提出了两个解决方案的算法的基础上,我们的对偶为基础的配方。第一个是枚举算法,适用于设置的参数空间的维数是适度的,第二个是一个半参数的方法,结合非参数统计与修改后的版本,我们的配方。这些数值算法被证明是为了保持基本配方的统计一致性。最后,使用合成数据和真实数据,我们证明了我们的方法与现有的分析相比具有竞争力。
2017-12-22 math.OC
On the convergence of stochastic variance reduced gradient for linear inverse problems
The Chinese University of Hong Kong(香港中文大学)
本文分析了SVRG及其正则化版本在希尔伯特空间中求解线性逆问题的收敛性,证明了在合适步长调度和正则性条件下,正则化SVRG可获得最优收敛速率,而标准SVRG在非光滑解问题中也具有最优性能。
2026-03-17 cs.NA math.NA math.OC
A-optimal design of experiments for infinite-dimensional Bayesian linear inverse problems with regularized $\ell_0$-sparsification
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种高效方法,用于计算由偏微分方程支配的无限维贝叶斯线性逆问题的A-最优实验设计,通过正则化ℓ0-稀疏化技术减少参数估计的不确定性。
2014-05-27 cs.NA math.NA math.OC
Efficient Diffusion Posterior Sampling for Noisy Inverse Problems
针对含噪逆问题中扩散后验采样需反向传播导致计算与内存开销大的问题,本文提出基于 MAP 的期望替代估计器并集成到 DDIM 式采样器,形成可覆盖线性、非线性及 VP/VE SDE 模型的通用高效框架。
2025-03-13 math.OC
Joint reconstruction and segmentation of noisy velocity images as an inverse Navier-Stokes problem
我们制定并解决了一个广义逆Navier-Stokes问题的联合速度场重建和边界分割的噪声流速图像。为了正则化的问题,我们使用贝叶斯框架与高斯随机场。这使我们能够估计的不确定性的未知数近似后协方差与拟牛顿法。我们首先测试的方法为合成噪声图像的二维流动,并观察到该方法成功地重建和分割的噪声合成图像的信噪比(SNR)为3。然后,我们进行磁共振测速(MRV)实验,以获取低($\simeq 6$)和高($>30$)SNR的轴对称流图像。我们表明,该方法是能够重建和分割的低信噪比图像,产生无噪声的速度场和平滑的分割,与高信噪比图像相比,可以忽略不计的误差。这相当于总扫描时间减少了27倍。同时,该方法提供了关于流动的物理特性(例如压力)的额外知识,并解决了MRV的缺点(低空间分辨率和部分体积效应),否则这些缺点会阻碍壁面剪切应力的准确估计。虽然该方法的实施仅限于二维定常平面和轴对称流,但该公式立即适用于三维定常流,并自然扩展到三维周期性和非定常流。
2022-07-04 math.OC physics.comp-ph physics.data-an
Differential evolution algorithm of solving an inverse problem for the spatial Solow mathematical model
采用差分进化算法求解空间Solow数学模型的生产函数(逆问题)的最优化问题,该模型利用不动点的国内生产总值的附加测量值。由于反问题是不适定的,正则化微分进化被应用。为了得到反问题的最优解,差分进化算法被扩展到32个核。不同的技术水平和测量数据中的误差的数值结果,并进行了讨论。
2019-04-24 math.OC
$L^0$-regularized Variational Methods for Sparse Phase Retrieval
我们研究了从干净或有噪声的无相位测量中恢复底层稀疏信号的问题。由于信号的稀疏先验,我们采用L 0正则化变分模型,以确保只有少量的非零元素被恢复的信号和两个不同的公式建立在模型的基础上的数据保真度的选择,即,L2和L1范数。我们还提出了有效的算法的基础上的交替方向法的乘法器(ADMM)的收敛保证和接近最佳的计算复杂性。由于所有子问题的封闭解的存在性,该算法是非常有效的,在每次迭代的计算成本低。大量的实验表明,我们提出的方法可以从无相位测量中恢复稀疏信号,与现有方法相比,具有更高的成功恢复率和更低的计算成本。
2016-12-08 math.OC
Determining two coefficients in diffuse optical tomography with incomplete and noisy Cauchy data
在本文中,我们研究的非线性和不适定的逆问题,同时确定的电导率和反应的扩散光学层析与噪声测量数据上的一个可访问的部分边界。我们提出了一种能量泛函方法和结合二次稳定项的全变分正则化方法,将辨识问题转化为一个偏微分方程约束最优化问题。我们证明了所提出的正则化方法的稳定性和收敛性的有限元正则化解决方案的识别在勒贝格规范和Bregman距离的意义上的全变差半规范。为了说明理论结果,数值案例研究支持我们的分析结果。
2020-07-08 cs.NA math.AP math.NA