Online Learning-guided Learning Rate Adaptation via Gradient Alignment
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出 GALA 框架，将学习率选择建模为一维在线学习问题，依据连续梯度对齐与局部曲率动态调节学习率，并给出非凸收敛保证与稳健实验效果。
2025-06-10 cs.LG math.OC stat.ML
GRAC: Self-Guided and Self-Regularized Actor-Critic
Stanford University（斯坦福大学）；University of California, Los Angeles（加州大学洛杉矶分校）
深度强化学习（DRL）算法已在一系列具有挑战性的决策和控制任务中得到成功验证。最近深度强化学习算法的一个主要组成部分是目标网络，它在学习Q函数时减轻了发散。然而，由于延迟的函数更新，目标网络可能会减慢学习过程。我们在这项工作中的主要贡献是一种自正则化TD学习方法，可以在不需要目标网络的情况下解决发散问题。此外，我们提出了一个自我指导的策略改进方法，通过结合策略梯度与零阶优化，在广泛的邻域中搜索与较高Q值相关的动作。这使得学习对Q函数近似中的局部噪声更具鲁棒性，并指导我们的演员网络的更新。综合起来，这些组件定义GRAC，一种新的自我引导和自我正则化的演员评论家算法。我们在OpenAI健身房任务套件上评估GRAC，在每个测试环境中达到或超过最先进的水平。
2020-11-11 cs.AI cs.LG cs.RO
Guided Manifold Alignment with Geometry-Regularized Twin Autoencoders
Department of Statistics（统计学系）；Department of Computer Science（计算机科学系）；Neuroscience Center（神经科学中心）；Neuroscience Center and Department of Psychology（神经科学中心和心理学系）；Department of Psychology（心理学系）
针对传统流形对齐难以样本外扩展的问题，提出几何正则化孪生自编码器引导框架，结合预训练对齐与多任务学习提升跨域泛化、嵌入一致性和诊断预测性能。
2025-09-26 cs.LG stat.ML
Improve Model Generalization and Robustness to Dataset Bias with Bias-regularized Learning and Domain-guided Augmentation
深度学习因生物医学大数据的出现而蓬勃发展。然而，在不同机构获得的医疗数据集具有由各种混杂因素引起的固有偏差，例如操作策略，机器协议，治疗偏好等。因此，在一个数据集上训练的模型，无论体积如何，都不能自信地用于其他数据集。在这项研究中，我们使用三个大规模的胸部X射线数据集研究了模型对数据集偏差的鲁棒性：首先，我们使用香草训练基线评估了数据集偏差;其次，我们提出了一种新的多源域泛化模型，方法是：（a）设计一个新的偏差正则化损失函数;（b）合成新数据进行域增强。我们发现，我们的模型在准确性和各种偏差测量方面显着优于基线和其他方法，而无需重新训练或微调。我们的方法普遍适用于其他生物医学数据，为大数据分析和应用提供了训练模型的新算法。演示培训代码是公开的。
2019-11-13 cs.CV cs.LG eess.IV
Tree-Guided Rare Feature Selection and Logic Aggregation with Electronic Health Records Data
University of Connecticut（康涅狄格大学）；University of Connecticut Health Center (UCHC)（康涅狄格大学健康中心）；Weill Cornell Medical College, Cornell University（康奈尔大学威尔医学院）
本文针对EHR中稀有二元特征的高维稀疏问题，提出树引导的特征选择与逻辑聚合方法，利用疾病分类层次结构实现可解释降维，并在自杀风险预测中提升预测性能与临床解释性。
2024-02-26 cs.LG stat.AP stat.ME
CoReFusion: Contrastive Regularized Fusion for Guided Thermal Super-Resolution
Manipal Institute of Technology（马尼帕尔理工学院）；Manipal Academy of Higher Education（马尼帕尔高等教育学院）
针对热图像引导式超分辨率中光谱不匹配及模态缺失导致性能下降的问题，提出轻量化对比正则化融合框架CoReFusion，在单模态缺失时仍保持鲁棒性能，为真实场景模态缺失问题提供有效方案。
2023-04-24 cs.CV cs.LG eess.IV
Energy-Guided Learning for Heat Equation with Noisy Source: Optimal Estimation and Generalization Bounds
University of Southern California（南加州大学）；California Institute of Technology（加州理工学院）
该研究针对带噪声源项的热方程，提出能量引导学习方法，推导了最优估计与泛化界，数值实验显示其测试误差较物理信息神经网络方法大幅降低。
2026-10-14 cs.LG math.ST stat.ME
Prior Information Guided Regularized Deep Learning for Cell Nucleus Detection
Pennsylvania State University（宾夕法尼亚州立大学）
细胞核检测是一个具有挑战性的研究课题，因为在细胞图像质量和核形态的多样性，即不同的核形状，大小，和多个细胞核之间的重叠的限制。这一直是一个令人持久感兴趣的话题，深度学习方法最近取得了很大的成功。这些方法利用输入图像的训练集和已知的标记的细胞核位置来训练卷积神经网络（CNN）。许多这样的方法由空间或形态处理补充。使用一组典型的细胞核形状，在领域专家的帮助下准备，我们开发了一种新的方法，我们称之为形状先验与卷积神经网络（SP-CNN）。我们进一步扩展了网络，引入了一个形状先验（SP）层，然后允许它变得可训练（即可优化）。我们将这种网络称为可调SP-CNN（TSP-CNN）。总之，我们提出了新的网络结构，可以通过两个组件将“预期行为”的核形状：可学习的层，执行核检测和固定的处理部分，指导学习与先验信息。在分析上，我们制定了两个新的正则化项，目标是：1）学习形状，2）减少误报，同时鼓励细胞核边界内的检测。在两个具有挑战性的数据集上的实验结果表明，所提出的SP-CNN和TSP-CNN可以优于最先进的替代方案。
2019-01-21 cs.LG eess.IV stat.ML
High-resolution Multi-spectral Image Guided DEM Super-resolution using Sinkhorn Regularized Adversarial Network
Space Applications Centre（空间应用中心）；Indian Space Research Organization（印度空间研究组织）
本研究提出一种结合对抗学习的 Sinkhorn 正则化网络，利用高分辨率多光谱图像引导生成高分辨率 DEM，通过引入极化自注意力与密集多残差块优化梯度流，有效提升了对抗学习稳定性与超分性能。
2024-09-20 cs.CV cs.LG eess.IV
Anchor-Changing Regularized Natural Policy Gradient for Multi-Objective Reinforcement Learning
Texas A&M University（得克萨斯农工大学）
我们研究多个回报价值函数的马尔可夫决策过程（MDP）的策略优化，这些回报函数根据给定的标准，如比例公平性（光滑凹标量化），硬约束（约束MDP），和最大最小的权衡进行联合优化。我们提出了一个变锚正则化自然策略梯度（ARNPG）框架，它可以系统地将性能良好的一阶方法的思想融入到多目标MDP问题的策略优化算法的设计中。理论上，基于ARNPG框架设计的算法实现了$\tilde{O}(1/T)$的全局收敛性和精确梯度。从经验上讲，ARNPG引导的算法也表现出优越的性能相比，一些现有的策略梯度为基础的方法，在精确的梯度和基于样本的情况下。
2022-10-18 cs.LG math.OC
A Generic Approach for Enhancing GANs by Regularized Latent Optimization
State University of New York at Buffalo（纽约州立大学布法罗分校）；Microsoft Research, Redmond（微软研究院（雷德蒙德））
随着模型复杂性和数据量的快速增长，训练深度生成模型（DGMs）以获得更好的性能已经成为一个越来越重要的挑战。以往的研究主要集中在通过引入新的目标函数或设计更具表现力的模型结构来改进DGMs。然而，这样的方法通常引入显著更多的计算和/或设计开销。为了解决这些问题，我们在本文中介绍了一个通用的框架，称为{ \em生成模型推理}，能够有效地增强预训练的GANs，无缝地在各种应用场景。我们的基本思想是使用Wasserstein梯度流技术有效地推断给定需求的最佳潜在分布，而不是重新训练或微调预训练的模型参数。在图像生成、图像翻译、文本到图像生成、图像修补和文本引导的图像编辑等应用上的大量实验结果表明了我们提出的框架的有效性和优越性。
2021-12-07 cs.CV cs.LG
An inversion problem for optical spectrum data via physics-guided machine learning
Sungkyunkwan University（成均馆大学）
本文提出正则化循环推理机（rRIM），将物理原理融入训练与推理，从实验光谱中可靠反演配对胶水函数，并适用于第一类 Fredholm 积分方程的反演问题。
2024-04-03 cond-mat.str-el cs.LG physics.comp-ph
MAVIS: Multi-Objective Alignment via Inference-Time Value-Guided Selection
Department of Electrical and Computer Engineering, Texas A\&M University, College Station, Texas, USA（电气与计算机工程系，德克萨斯A&M大学，学院站，德克萨斯州，美国）
MAVIS通过推理时值引导选择实现多目标对齐，通过训练小价值模型动态调整LLM输出，提升多目标平衡性能。
2026-02-14 cs.LG
Regret, equilibrium, and learning in games: A guided tour
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Grenoble INP（格勒诺布尔国立理工学院）；LIG（格勒诺布尔信息学实验室）
本文围绕博弈学习的遗憾、均衡与学习，结合单智能体和多智能体场景，研究正则化学习策略及相关理论，为该领域提供入门性阐述。
2026-08-11 cs.GT cs.LG math.OC
Regularized Langevin Dynamics for Combinatorial Optimization
Language Technologies Institute, Carnegie Mellon University（卡内基梅隆大学语言技术研究所）
本文提出正则化 Langevin 动力学用于组合优化，通过避免局部极小值提升传统启发式方法和神经网络模型的性能。
2025-12-19 cs.LG stat.ML
TextReg: Mitigating Prompt Distributional Overfitting via Regularized Text-Space Optimization
Georgia Institute of Technology（佐治亚理工学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文研究了提示分布过拟合问题，提出TextReg框架通过正则化的文本梯度实现软惩罚目标，结合双证据梯度净化、语义编辑正则化和正则化引导的提示更新，提升模型在分布外（OOD）任务上的泛化能力。
2026-10-06 cs.AI cs.CL cs.LG
PITA: Preference-Guided Inference-Time Alignment for LLM Post-Training
Texas A&M University（德克萨斯A&M大学）；Inria（法国国家信息与自动化研究所）
针对现有大语言模型推理时对齐方法依赖预训练奖励模型的缺陷，提出PITA框架，通过学习小型偏好引导策略在推理阶段调整token生成概率，无需奖励模型与LLM微调，在多类任务上验证了对齐有效性。
2025-11-13 cs.AI cs.CL cs.LG
Gradient Guidance for Diffusion Models: An Optimization Perspective
Princeton University（普林斯顿大学）
本文从优化视角研究扩散模型的梯度引导，建立数学框架证明其本质是正则化优化问题的采样解，并提出基于前向预测损失的修正引导及迭代微调方法，在凹目标下证明了O(1/K)的全局收敛率。
2024-10-15 cs.LG stat.ML
The Reward Was in Your Data All Along: Correcting Flow Matching with Discriminator-Guided RL
FAIR at Meta；Columbia University；Mila -- Qu\' e bec AI Institute；McGill University；Canada CIFAR AI Chair
针对流匹配模型因损失函数与样本质量不匹配导致的视觉缺陷，提出判别器引导的强化学习（DRL），利用预训练空间中判别器的logit作为奖励，显著提升无引导FID和语义FD，并改善偏好对齐。
2026-06-18 cs.CV cs.LG
WEIRDO: WEak resIdual Regularized DOob's h-transform diffusion alignment
HSE University（高等经济大学）
提出WEIRDO方法，通过弱残差正则化估计Doob h-变换的引导项，在无正则化偏差下实现快速收敛，并给出理论界与数值验证。
2026-10-01 cs.LG math.ST stat.TH
