On the Discrepancy Principle for Stochastic Gradient Descent
随机梯度下降法是一种很有前途的求解大规模反问题的数值方法。然而，它的理论性质在很大程度上仍然在经典正则化理论的镜头下探索。本文研究了经典的差异原理，即最流行的\textit{a posteriori}选择规则之一，作为SGD的停止准则，证明了有限迭代终止性和当噪声趋于零时收敛概率的收敛性.理论结果与广泛的数值实验进行了补充。
2020-07-21 cs.NA math.NA
A modified discrepancy principle to attain optimal convergence rates under unknown noise
在希尔伯特空间中考虑一个线性不适定方程。右手侧的多个独立无偏测量是可用的。一种自然的方法是将测量值的平均值作为右手边的近似值，并将数据误差估计为测量值数量的平方根的倒数。我们计算的最佳收敛速度（作为测量的数量趋于无穷大）在经典的源条件下，并介绍了一个修改的差异原则，渐近达到这个速度。
2021-06-10 cs.NA math.NA
Analysis of the discrepancy principle for Tikhonov regularization under low order source conditions
该研究针对不适定非线性算子方程，在Hilbert尺度框架下拓展Tikhonov正则化偏差原理的相关研究，证明对数型低阶源条件下的低阶收敛速度，覆盖精确解不在惩罚项定义域的过平滑情形。
2023-05-01 cs.NA math.NA
On saturation of the discrepancy principle for nonlinear Tikhonov regularization in Hilbert spaces
该研究针对希尔伯特空间中非线性不适定问题的Tikhonov正则化偏差原理展开，在更宽松条件下得到了全新的改进型饱和性结果，完善了相关理论。
2024-05-14 cs.NA math.NA math.OC
A Probabilistic Oracle Inequality and Quantification of Uncertainty of a modified Discrepancy Principle for Statistical Inverse Problems
本文考虑谱截止估计在任意白噪声下求解统计线性逆问题。截断水平的确定与最近推出的自适应方法的基础上经典的差异原则。我们提供了一般线性问题的概率预言不等式和不确定性的量化。此外，我们比较了新的方法，现有的，即提前停止顺序差异原则和平衡原则，从理论和数值计算。
2022-02-25 cs.NA math.NA math.ST
A monotone $Q^1$ finite element method for anisotropic elliptic equations
本文针对具有对角占优扩散系数矩阵的各向异性扩散问题，在均匀网格上构造了满足离散最大值原理的单调连续$Q^1$有限元方法，严格证明了其收敛性，并给出了四边形网格上的特定网格约束条件。
2024-07-27 cs.NA math.NA
On existence of a variational regularization parameter under Morozov's discrepancy principle
针对非线性反问题中Morozov偏差准则下正则化参数的存在性疑问，本文证明当参数满足$τ_2≥(3+2γ)τ_1$时参数存在，同时给出正则化解的收敛性结论，并通过数值实验验证了方法有效性。
2025-06-13 cs.NA math.NA math.OC
Early stopping of stochastic variance reduced gradient for linear inverse problems by the discrepancy principle
The Chinese University of Hong Kong（香港中文大学）
本文为随机方差缩减梯度法配备偏差原理，在希尔伯特空间线性反问题中确立其正则化性质并推导收敛速率，为首个先验后停止规则下的随机迭代方法收敛速率结果，数值实验验证了理论。
2026-09-14 cs.NA math.NA math.OC
The Dynamical Systems Method for solving nonlinear equations with monotone operators
Kansas State University（堪萨斯州立大学）
本文综述了作者在希尔伯特空间中用动力系统方法求解单调算子非线性方程的研究，提出了基于偏差原理的正则化牛顿法、梯度法和简单迭代法，并证明了收敛性。
2009-01-28 cs.NA math.DS math.NA
Minimax-Optimal Early Stopping for SGD via the Discrepancy Principle
本文针对不适定逆问题中的连续时间SGD，提出基于偏差原则的后验早停规则，证明其误差达到极小极大最优速率（至多差对数因子），为首个此类收敛速率结果。
2026-11-10 cs.NA math.NA math.OC
Discrepancy principle for DSM
针对希尔伯特空间中的线性算子方程，提出基于偏差原理的停时准则，并证明动力系统方法（DSM）解的收敛性。
2006-03-27 cs.NA math.FA math.NA
On the monotonicity and discrete maximum principle of the finite difference implementation of $C^0$-$Q^2$ finite element method
Purdue University（普渡大学）
本文研究了 $C^0$-$Q^2$ 有限元方法的有限差分实现的单调性及其在求解标量变量系数方程时的离散最大原理，证明了在适当网格约束下该方法满足离散最大原理。
2019-05-15 cs.NA math.NA
Interpolated Discrepancy Data Assimilation for PDEs with Sparse Observations
针对稀疏传感器导致标准 nudging 数据同化不稳定的问题，提出 IDDA 方法，通过插值观测信息调整非线性算子抑制误差放大，在显式条件下证明指数收敛，实验表明其更快达到目标精度且稳定融入现有流水线。
2025-10-30 cs.NA math.NA
A monotone finite element method for an elliptic distributed optimal control problem with a convection-dominated state equation
Wentworth Institute of Technology（文特沃思理工学院）；Tufts University（塔夫茨大学）；Worcester Polytechnic Institute（伍斯特理工学院）
本文提出了一种单调有限元方法，用于求解对流主导的椭圆分布最优控制问题，通过保持离散最大原理和最优收敛阶次，确保数值稳定性与鲁棒性。
2025-11-03 cs.NA math.NA
A simple Proof of Stolarsky's Invariance Principle
University of New South Wales（新南威尔士大学）
利用再生核希尔伯特空间，给出了Stolarsky不变性原理的一个简单证明，该原理平衡了单位球面上点的距离和与球冠L2差异，并关联了最坏情况数值积分误差与L2差异。
2011-01-24 cs.NA math.NA
On the discrepancy principle for some Newton type methods for solving nonlinear inverse problems
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Applied Sciences Zittau/Görlitz（齐陶/格罗利茨应用科学大学）
针对非线性不适定反问题，提出用牛顿型方法结合偏差原则进行迭代终止，在噪声数据下证明了收敛性和最优收敛速率。
2008-10-23 cs.NA math.NA
Hyper-differential sensitivity analysis with respect to model discrepancy: Mathematics and computation
模型差异是指模型预测与实际之间的差异，在物理系统的计算模型中普遍存在。从第一原理物理学中推导出偏微分方程（PDE）是很常见的，但是为了产生控制方程或闭合模型的易于处理的表达式，需要进行简化假设。这些偏微分方程，然后用于分析和设计，以实现理想的性能。例如，最终目标可以是求解PDE约束优化（PDECO）问题。本文考虑了PDECO问题对模型差异的敏感性。我们引入了一个一般表示的差异和应用后最优灵敏度分析推导出的最优解的灵敏度相对于差异的表达式。提出了一种有效的算法，该算法结合了PDE离散化，后最优灵敏度算子，基于伴随的导数，和随机广义奇异值分解，使可扩展的计算。Kronecker积结构的基础线性代数和相应的基础设施中的PDECO被利用，以产生一个通用的算法，这是计算效率高，可移植的范围内的应用。已知的物理和问题的具体特点的差异是通过用户指定的加权矩阵。我们展示了我们提出的框架上的两个非线性PDECO问题，以突出其计算效率和丰富的洞察力。
2022-11-07 cs.NA math.NA
A monotone scheme for G-equations with application to the explicit convergence rate of robust central limit theorem
本文提出一种用于完全非线性PDE（G-方程）的递归单调近似格式，利用比较原理与磨光过程证明其收敛性并获得显式误差界，进而应用于推导Peng鲁棒中心极限定理的Berry-Esseen型收敛速率及Black-Scholes-Barenblatt方程的近似格式。
2024-03-26 cs.NA math.NA math.PR
Multi-Parameter Tikhonov Regularization -- An Augmented Approach
North Carolina State University（北卡罗来纳州立大学）；Texas A&M University（德克萨斯农工大学）；The University of Tokyo（东京大学）
本文研究多参数正则化方法，通过增强Tikhonov正则化视角提出平衡不相容原则，提供理论分析和数值算法验证其有效性。
2013-06-25 cs.NA math.NA math.OC
Tusnády's problem, the transference principle, and non-uniform QMC sampling
TU Graz（格拉茨工业大学）；University of Minnesota（明尼苏达大学）；University of Toronto（多伦多大学）
本文通过转移原理和红蓝着色的偏差结果，证明了对于任意测度，存在点集其偏差上限为O((log N)^{d-1/2} N^{-1})，接近勒贝格测度的偏差界。
2017-03-17 cs.CC cs.NA math.CO
Monotone Mixed Finite Difference Scheme for Monge-Ampère Equation
本文提出了一个求解二维蒙日-安培方程的单调混合差分格式。为了实现这一点，我们将蒙日-安培方程转换为一个等效的哈密尔顿-雅可比-贝尔曼（HJB）方程。基于HJB公式，我们应用标准的7点模板离散化，这是二阶精度，单调性保持的网格点，并在其他地方应用半拉格朗日宽模板离散化，以确保整个计算域上的单调性。通过将容许控制集划分为6个区域，并在每个区域内优化子问题，使得最优化问题在每个网格点处的计算代价从$O(M^2)$降低到$O(1)$，否则降低到$O(M)$，其中离散控制集为$M \times M$ .我们证明了我们的数值格式满足一致性、稳定性、单调性和强比较原理，从而收敛于蒙日-安培方程的粘性解.在数值结果中，当在整个计算域上单调地应用标准的7点模板离散时，达到了二阶收敛速度，否则达到了一阶收敛。与纯半拉格朗日宽模板格式相比，该混合格式具有更小的离散化误差和更快的收敛速度。
2019-10-07 cs.NA math.NA
Optimal control of mean field equations with monotone coefficients and applications in neuroscience
我们感兴趣的最优控制问题与某些二次成本泛函依赖于解决$X=X^α$的随机平均场型发展方程在$\mathbb R^d$ $dX_t=b(t,X_t,\mathcal L(X_t),α_t)dt+σ(t,X_t,\mathcal L(X_t),α_t)dW_t,$ $X_0\sim μ$给定的，假设下，封闭系统的FitzHugh-Nagumo神经元网络，并在实际的控制$α_t$是确定性的。为了做到这一点，我们假设，我们给出了一个漂移系数，满足单侧Lipshitz条件，并且动力学受到$π(X_t)\leq0$形式的（凸）水平集约束。我们提出的数学处理遵循最近的专着卡莫纳和Delarue类似的控制问题与Lipshitz系数的线。通过鞅方法解决极小值的存在性后，我们显示了最大值原理，然后数值研究的梯度算法的近似的最优控制。
2020-07-02 cs.NA math.NA math.OC
Multi-Parameter Tikhonov Regularization
North Carolina State University（北卡罗来纳州立大学）；Texas A&M University（德克萨斯农工大学）
研究多惩罚项的多参数Tikhonov正则化，提出差异原则和平衡原则两种参数选择规则，建立理论结果并设计固定点算法，数值实验表明多参数模型优于单参数模型。
2011-03-25 cs.NA cs.SY eess.SY
