Boosted GFlowNets: Improving Exploration via Sequential Learning
本文提出增强型GFlowNets，通过顺序训练多个模型，补偿已捕捉的奖励，提升探索效率和样本多样性。
2026-03-14 cs.LG stat.ML
Nabla-R2D3: Effective and Efficient 3D Diffusion Alignment with 2D Rewards
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Microsoft Research（微软研究院）
针对三维扩散模型难以对齐人类偏好和指令的问题，提出Nabla-R2D3框架，利用二维奖励和Nabla-GFlowNet方法实现高效微调，在少量步骤内获得更高奖励并减少先验遗忘。
2025-06-18 cs.CV cs.GR cs.LG
Relative Trajectory Balance is equivalent to Trust-PCL
Mila – Quebec AI Institute（魁北克AI研究所）；Entalpic；McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Google DeepMind（谷歌DeepMind）
本研究确立了生成流网络中的相对轨迹平衡（RTB）与带KL正则化的离策略强化学习方法Trust-PCL的等价性，将RTB纳入KL正则化强化学习理论体系，并通过示例验证了两类方法性能相当。
2025-09-01 cs.LG
Towards Understanding and Improving GFlowNet Training
Genentech（基因泰克公司）；Prescient Design, Genentech（基因泰克Prescient Design部门）；Recursion Pharmaceuticals（Recursion制药公司）；New York University（纽约大学）
本文针对GFlowNet训练问题，提出高效评估策略及三种改进方法（优先回放、相对边流参数化、引导轨迹平衡目标），显著提升生化设计任务的样本效率。
2023-05-11 cs.LG
Improving Generative Flow Networks with Path Regularization
University of Texas, Austin（德克萨斯大学奥斯汀分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；FPT Software AI Center（FPT软件人工智能中心）
生成流网络（GFlowNets）是最近提出的用于学习随机策略的模型，该随机策略通过具有与给定奖励函数成比例的概率的动作序列来生成组合对象。GFlowNets的核心问题是提高其探索和泛化能力。在这项工作中，我们提出了一种新的路径正则化方法的基础上，最优传输理论的GFlowNets的底层结构上的先验约束。先验被设计成帮助GFlowNets更好地发现目标分布的潜在结构或增强其在主动学习背景下探索环境的能力。路径正则化通过最大化两个前向策略之间的最优传输距离来控制GFlowNets中的流，以生成更多样和新颖的候选项，或者通过最小化最优传输距离来提高泛化能力。此外，我们通过在特定情况下找到其封闭形式的解决方案和一个有意义的上限，可以作为一个近似值，以最小化正则化项，从而获得一个有效的实现的正则化。我们经验证明了我们的路径正则化在广泛的任务上的优势，包括合成超网格环境建模，离散概率建模和生物序列设计。
2022-09-29 cs.LG stat.ML
MCLR: Improving Conditional Modeling via Inter-Class Likelihood-Ratio Maximization and Unifying Classifier-Free Guidance with Alignment Objectives
University of Michigan（密歇根大学）；Michigan State University（密歇根州立大学）
本文提出MCLR，通过训练时最大化类间似然比来改进扩散模型的条件建模，实现无引导条件生成的提升，并理论证明CFG是MCLR目标的最优解。
2026-10-22 cs.AI cs.CV cs.LG
Improving Visual Representation Alignment Generation with GRPO
Carnegie Mellon University（卡内基梅隆大学）；Hanyang University（翰阳大学）
提出VRPO方法，通过强化学习将静态对齐损失替换为生成式表示策略优化目标，动态平衡表示一致性与生成质量，在扩散Transformer中实现更快的收敛和更高的图像保真度。
2026-05-30 cs.AI cs.CV cs.LG
SAIL: Self-Improving Efficient Online Alignment of Large Language Models
J.P. Morgan Chase AI Research（摩根大通AI研究院）；Princeton University（普林斯顿大学）；University of Central Florida（中佛罗里达大学）；University of Maryland（马里兰大学）
针对大语言模型离线对齐依赖固定数据集性能受限、在线对齐缺乏统一框架且有分布偏移的问题，提出基于双层优化简化而来的SAIL在线自改进对齐方法，以低开销显著提升了开源数据集上的对齐效果。
2024-06-21 cs.AI cs.CL cs.LG
Divide, Evaluate, and Refine: Evaluating and Improving Text-to-Image Alignment with Iterative VQA Feedback
The Australian National University（澳大利亚国立大学）；Australian Centre for Robotic Vision（澳大利亚机器人视觉中心）
本文提出将复杂提示词分解为独立断言、用 VQA 评分并迭代反馈精炼图像的方法，提升文本到图像对齐评估与生成准确率。
2023-12-06 cs.AI cs.CV cs.LG
iADD: Improving Alignment and Diversity in Diffusion Policy Optimization
Pulchowk Campus, IOE, Tribhuvan University（特里布万大学工程学院普尔乔克校区）；NAAMII
本文提出iADD方法，通过理论分析证明仅更新后段时间步有害于多样性，并基于增量式Feynman-Kac训练实现扩散策略优化中对齐性与多样性的最佳权衡，实验验证了显著性能提升。
2026-10-02 cs.AI cs.LG
Improving Video Diffusion Transformer Training by Multi-Feature Fusion and Alignment from Self-Supervised Vision Encoders
提出Align4Gen，通过多特征融合与对齐自监督视觉编码器特征，改进视频扩散Transformer训练，提升视频生成质量。
2025-09-11 cs.AI cs.CV
Improving LLM General Preference Alignment via Optimistic Online Mirror Descent
University of YYY（YYY大学）；Institute of WWW（WWW研究院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Tencent AI Lab（腾讯AI实验室）
本文提出一种基于乐观在线镜像下降的通用偏好对齐方法，通过双人博弈框架近似纳什策略，实现对偶间隙$O(T^{-1})$界，并在多个基准上超越现有RLHF算法。
2025-02-24 cs.AI cs.CL cs.LG
CAMAL: Improving Attention Alignment and Faithfulness with Segmentation Masks
National University of Singapore（新加坡国立大学）；Sun Yat-sen University（中山大学）
CAMAL通过利用分割掩码提升视觉模型的注意力对齐和忠实度，增强模型解释性并提升泛化性能。
2026-05-08 cs.AI cs.LG eess.IV
Purify Before You Align: Improving Representation Alignment for Diffusion Models
Cornell University（康奈尔大学）；University of Pennsylvania（宾夕法尼亚大学）
提出局部外观净化（LAP）方法，仅修改扩散模型的对齐目标，在五种预训练表示上提升生成质量，对MAE增益最大，且常数读出分数可预测净化收益。
2026-10-16 cs.CV cs.LG
Towards Improving Reward Design in RL: A Reward Alignment Metric for RL Practitioners
本文提出 Trajectory Alignment Coefficient，以人类与奖励函数对轨迹分布排序的一致性评估奖励对齐，并通过 11 人用户研究验证其可降低认知负荷并提升奖励选择成功率。
2025-07-24 cs.AI cs.LG
Improving Cross-modal Alignment for Text-Guided Image Inpainting
Australian AI Institute（澳大利亚人工智能研究所）；University of Technology Sydney（悉尼科技大学）
文本引导的图像修补（TGII）旨在根据受损图像中给定的文本恢复丢失的区域。现有的方法是基于一个强大的视觉编码器和跨模态融合模型来整合跨模态特征。然而，这些方法将大部分计算分配给视觉编码，而在建模模态交互上的计算较少。此外，它们对深度特征进行了跨模态融合，忽略了文本和图像之间的细粒度对齐。最近，视觉语言预训练模型（VLPM）封装了丰富的跨模态对齐知识，在大多数多模态任务中取得了进展。在这项工作中，我们提出了一种新的模型TGII通过改进交叉模态对齐（CMA）。CMA模型由VLPM作为视觉语言编码器、图像生成器和全局-局部判别器组成。为了探索用于图像复原的跨模态对齐知识，我们引入了跨模态对齐蒸馏和样本内分布蒸馏。此外，我们采用对抗训练来增强模型，以有效地填充复杂结构中的缺失区域。实验在两个流行的视觉语言数据集上进行。结果表明，我们的模型实现了国家的最先进的性能相比，其他强大的竞争对手。
2023-01-26 cs.CL cs.CV
Seeing Through Conflicts: Improving Instruction Hierarchy Alignment in Vision-Language Models
The Ohio State University（俄亥俄州立大学）
本研究将多模态指令层级对齐视为推理问题，用基于规则的奖励强化学习训练VLM，发现混合模态监督最佳，能提升跨模态及智能体场景下的鲁棒性并泛化到真实任务。
2026-09-22 cs.CL cs.CV cs.LG
Improving Alignment and Robustness with Circuit Breakers
Gray Swan AI（格雷天鹅AI）；Carnegie Mellon University（卡内基梅隆大学）；Center for AI Safety（AI安全中心）
针对AI系统易产生有害行为、易遭对抗攻击的问题，提出基于表征工程的断路器方法，直接管控有害输出相关表征，可在不牺牲实用性的前提下提升文本、多模态模型及AI智能体的对齐性与鲁棒性。
2024-07-12 cs.AI cs.CL cs.CV
Active Attacks: Red-teaming LLMs via Adaptive Environments
KAIST（韩国科学技术院）；Mila – Québec AI Institute（魁北克人工智能研究所）；LawZero；Omelet；Université de Montréal（蒙特利尔大学）
该研究提出基于强化学习的红队测试算法Active Attacks，通过定期安全微调受害大语言模型迫使攻击者探索新漏洞，形成易到难的探索课程，以更低计算成本大幅提升了多样化攻击的成功率。
2025-10-04 cs.AI cs.LG
Learning Energy Decompositions for Partial Inference of GFlowNets
POSTECH（浦项科技大学）；KAIST（韩国科学技术院）
针对GFlowNet部分推断中中间能量评估成本高、易产生误导信号的问题，提出能量分解学习方法LED-GFN，将能量分解为可学习势函数并重参数化流函数，在五类生成任务上验证了优越性。
2023-10-05 cs.LG
SIGMA: Self-Improving Alignment Generalization from a Model Spec
Apple（苹果公司）；Johns Hopkins University（约翰斯·霍普金斯大学）
提出SIGMA流水线，利用模型自身推理能力，基于模型规范生成任务并自我评判训练，实现安全对齐自我改进，在多轮智能体环境中显著降低有害性并保持通用能力。
2026-10-07 cs.AI
Model Spec Midtraining: Improving How Alignment Training Generalizes
Anthropic
提出模型规范中期训练（MSM），通过在预训练后、对齐微调前用合成文档训练模型学习规范内容，从而引导模型从后续演示数据中泛化，有效降低代理失调率并提升对齐泛化能力。
2026-05-22 cs.AI
Improving Long-Text Alignment for Text-to-Image Diffusion Models
The University of Hong Kong（香港大学）；Sea AI Lab（Sea AI实验室）；Renmin University of China（中国人民大学）；Zhejiang University（浙江大学）
提出LongAlign方法，通过段落级编码处理长文本并采用分解偏好优化策略减少过拟合，显著提升了文本到图像扩散模型的长文本对齐效果。
2025-03-02 cs.CV cs.LG cs.MM
Improving Generalization of Alignment with Human Preferences through Group Invariant Learning
Fudan University（复旦大学）；ByteDance Inc.（字节跳动有限公司）
针对强化学习在人类偏好对齐中易走捷径、泛化不足的问题，本文提出通过自动分组并最大化组间差异，优化困难组并自适应调整探索空间，从而提升训练稳定性与模型泛化能力。
2023-12-26 cs.AI cs.LG
Improving Human Image Animation via Semantic Representation Alignment
School of Artificial Intelligence, Shanghai Jiao Tong University, China（上海交通大学人工智能学院，中国）；Alibaba Group, China（阿里巴巴集团，中国）
本文提出SemanticREPA方法，通过结构和ID对齐提升人类动画质量，增强动作连续性和一致性。
2026-05-11 cs.CV
Playground v3: Improving Text-to-Image Alignment with Deep-Fusion Large Language Models
Playground Research（Playground研究院）
本文提出 Playground v3 文本到图像模型，通过深度融合仅解码器大语言模型作为文本条件，并引入内部描述器和 CapsBench 基准，在文本遵循、复杂推理、文本渲染及图形设计等任务上取得最先进性能。
2024-10-21 cs.AI cs.CV cs.GR
Turning Off-Policy Tokens On-Policy: A Plug-in Approach for Improving LLM Alignment
Renmin University of China（中国人民大学）
研究针对大语言模型强化学习后训练中离策略数据问题，提出选择性重要性采样（SIS），受拒绝采样启发，以离策略模型为提议分布进行令牌级拒绝测试，理论证明可减少梯度估计差距，实验验证其有效性。
2026-08-19 cs.AI cs.CL cs.LG
Improving Text-to-Image Generation with Intrinsic Self-Confidence Rewards
POSTECH（POSTECH大学）；RLWRLD（RLWRLD实验室）；GenGenAI（GenGenAI研究院）
本文提出SOLACE框架，通过模型自身输出的重建误差生成自信心信号，用于强化学习，提升生成内容的组成、文本渲染和文本图像对齐能力。
2026-05-10 cs.AI cs.CV
Generative Image Inpainting with Submanifold Alignment
The University of Melbourne（墨尔本大学）
图像修补的目的是修复受损图像中的缺失区域，在图像复原、目标去除等方面有着广泛的应用。然而，目前基于GAN的生成修复模型并没有明确地利用恢复内容与其周围上下文之间的结构或纹理一致性。为了解决这一限制，我们建议在基于GAN的修复模型的学习过程中，强制恢复图像周围的局部数据子流形（或子空间）与原始（未损坏）图像周围的局部数据子流形（或子空间）之间的对齐（或接近度）。我们利用局部内在相似性（LID）来测量，在深特征空间中，从图像（表示为iLID）和图像的局部补丁（表示为pLID）的角度来看，由GAN模型学习的数据子流形与原始数据子流形之间的对齐。然后，我们将iLID和pLID作为基于GAN的修复模型的正则化，以鼓励两个级别的子流形对齐：1）用于提高结构一致性的图像级对齐，以及2）用于改善纹理细节的补丁级对齐。在四个基准数据集上的实验结果表明，我们提出的模型可以生成比最先进的模型更准确的结果。
2020-09-12 cs.CV
CompAlign: Improving Compositional Text-to-Image Generation with a Complex Benchmark and Fine-Grained Feedback
Department of Computer Science University of California, Los Angeles（计算机科学系，加州大学洛杉矶分校）
本研究提出侧重3D空间关系评估的组合式T2I基准CompAlign、细粒度评估框架CompQuest及基于其反馈的对齐框架，验证了模型在复杂空间任务的不足与对齐方法的有效性。
2025-05-16 cs.AI cs.CL cs.CV
Improving Cross-modal Alignment with Synthetic Pairs for Text-only Image Captioning
Guangxi University（广西大学）；Guangxi Key Laboratory of Multimedia Communications and Network Technology（广西多媒体通信与网络技术重点实验室）
针对纯文本图像字幕生成中模态鸿沟与训练推理不一致的问题，提出结合合成图文对、优化伪特征、引入显著物体辅助的方法，实现了基准数据集上的SOTA性能。
2023-12-14 cs.CL cs.CV
OSPO: Object-Centric Self-Improving Preference Optimization for Text-to-Image Generation
Korea University（韩国大学）
OSPO通过自构造对象中心偏好数据和对象加权损失，提升文本到图像生成中对象级对齐和保真度，优于现有自我改进方法和专门扩散模型。
2026-09-28 cs.CV
Improving alignment of dialogue agents via targeted human judgements
DeepMind（深度思维）
我们提出了麻雀，信息寻求对话代理培训更有帮助，正确的，无害的提示相比，语言模型基线。我们使用基于人类反馈的强化学习来训练我们的模型，其中增加了两个新的功能，以帮助人类评分员判断代理行为。首先，为了使我们的代理人更有帮助和无害，我们将良好对话的要求分解为代理人应该遵循的自然语言规则，并分别询问评分员每一条规则。我们证明，这种分解使我们能够收集更有针对性的人的判断代理行为，并允许更有效的规则条件奖励模型。第二，我们的代理人在收集对模型陈述的偏好判断时，从支持事实主张的来源提供证据。对于事实问题，Sparrow提供的证据支持78%的抽样回答。Sparrow比基线更受欢迎，同时对人类的对抗性探测更具弹性，在探测时只有8%的时间违反我们的规则。最后，我们进行了广泛的分析，表明尽管我们的模型学习遵循我们的规则，但它可能会表现出分布偏差。
2022-09-28 cs.CL cs.LG
Improving Compositional Text-to-image Generation with Large Vision-Language Models
Rutgers University（罗格斯大学）；Sun Yat-sen University（中山大学）；Shanghai AI Laboratory（上海人工智能实验室）；The Chinese University of Hong Kong（香港中文大学）；Peking University（北京大学）
针对组合式文本到图像生成中对齐困难的问题，提出利用大型视觉-语言模型进行多维度评估，微调扩散模型并迭代修正不对齐区域，显著提升对象数量、属性绑定、空间关系及美学质量的对齐效果。
2023-10-10 cs.CV cs.MM
On the Convergence of Self-Improving Online LLM Alignment
The University of Hong Kong（香港大学）；Yale University（耶鲁大学）；Purdue University（普渡大学）
针对SAIL算法收敛性分析缺失的问题，提出SAIL-RevKL正则化目标，证明其满足PL条件并实现近线性样本复杂度，在MuJoCo和LLM对齐任务上优于原始SAIL。
2026-07-01 cs.AI cs.LG stat.ML
Diffusion Generative Flow Samplers: Improving learning signals through partial trajectory optimization
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；FAIR, Meta AI（Meta AI FAIR实验室）；McGill University（麦吉尔大学）
针对高维密度采样中需完整轨迹计算、学习信号仅在终止时刻存在导致信用分配迟缓的问题，提出扩散生成流采样器DGFS，借助流函数将学习分解为短轨迹片段并利用中间信号，实验证明其归一化常数估计更准确。
2024-03-09 cs.AI cs.LG stat.CO
Entropic Projection Alignment: Estimating, Explaining, and Improving Model Performance Under Distribution Shift
J.P. Morgan AI Research（摩根大通AI研究所）
提出熵投影对齐（EPA）方法，通过匹配选定矩并最小化KL散度来对齐源分布与目标分布，从而统一解决分布偏移下的性能估计、解释和改进问题。
2026-05-29 cs.AI cs.LG stat.ML
Improving Adversarial Transferability via Model Alignment
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；University of Oxford（牛津大学）
本文提出模型对齐技术，通过微调源模型最小化与见证模型的预测分歧，从而提升生成对抗扰动的迁移性，并在ImageNet上验证了其有效性。
2024-07-17 cs.CV cs.LG
Mitigate the Gap: Investigating Approaches for Improving Cross-Modal Alignment in CLIP
Hasso Plattner Institute（哈索·普拉特纳研究所）
针对CLIP嵌入空间存在的模态差距问题，设计AlignCLIP探究参数共享、模态内分离对差距的影响及下游性能变化，证实其可提升跨模态对齐并优化下游表现。
2024-09-16 cs.AI cs.CL cs.CV
Improving Adversarial Transferability in MLLMs via Dynamic Vision-Language Alignment Attack
University of California, Irvine（加州大学欧文分校）；University of Oxford（牛津大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
针对多模态大语言模型对抗攻击可迁移性有限的问题，提出动态视觉-语言对齐攻击，通过向视觉-语言连接器注入动态扰动，显著提升跨模型可迁移性。
2025-02-27 cs.CV cs.LG
Limitations of Post-Hoc Feature Alignment for Robustness
UC Berkeley（加州大学伯克利分校）
特征对齐是一种提高对分布偏移的鲁棒性的方法，该方法匹配训练分布和测试分布之间的特征激活分布。一种特别简单但有效的特征对齐方法涉及在训练的神经网络中对齐两个分布之间的批量归一化统计。这种技术最近重新受到关注，因为它在鲁棒性基准测试中的表现令人印象深刻。然而，这种方法何时以及为什么有效还不清楚。我们更详细地研究了这种方法，并确定了一些限制。我们发现，它只显着有助于一个狭窄的分布偏移，我们确定了几个设置，它甚至降低性能。我们还解释了为什么会出现这些限制，并指出为什么这种方法可以如此有效。我们的研究结果质疑这种方法和无监督领域自适应更广泛地提高鲁棒性的实用性。
2021-03-10 cs.AI cs.CV cs.LG
That's the Wrong Lung! Evaluating and Improving the Interpretability of Unsupervised Multimodal Encoders for Medical Data
Northeastern University（东北大学）；Brigham and Women’s Hospital（布莱根妇女医院）；University of Amsterdam（阿姆斯特丹大学）
电子健康记录（EHR）上的预训练多模态模型提供了一种学习表示的方法，可以在最少的监督下转移到下游任务。最近的多模态模型诱导图像区域和句子之间的软局部对齐。这在医学领域中特别令人感兴趣，其中对齐可能会突出显示图像中与自由文本中描述的特定现象相关的区域。虽然过去的工作表明，注意力“热图”可以用这种方式来解释，但很少有人对这种对齐进行评估。我们比较了来自最先进的多模态（图像和文本）EHR模型的对齐与将图像区域链接到句子的人类注释。我们的主要发现是，文本对注意力的影响往往很弱或不直观;对齐并不能始终如一地反映基本的解剖信息。此外，合成修改-例如用“左”替换“右”-不会实质上影响高光。简单的技术，如允许模型选择不关注图像和Few-Shot微调，显示出在很少或没有监督的情况下改善对齐的能力。我们将代码和检查点开源。
2022-10-22 cs.AI cs.CV cs.LG
Improving Model Fusion by Training-time Neuron Alignment with Fixed Neuron Anchors
Zhejiang University（浙江大学）；Georgia Institute of Technology（佐治亚理工学院）；Westlake University（西湖大学）；Hong Kong University of Science and Technology（香港科技大学）
本文提出训练时神经元对齐方法TNA-PFN，利用固定神经元锚点减少排列差异，改进模型融合，并衍生出联邦学习方法FedPFN和FedPNU，在异构联邦学习中达到最优性能。
2025-10-27 cs.LG stat.ML
Improving Federated Relational Data Modeling via Basis Alignment and Weight Penalty
Ant Group（蚂蚁集团）
联邦学习（FL）近年来受到越来越多的关注。作为一种保护隐私的协作学习范式，它可以实现更广泛的应用，特别是对于计算机视觉和自然语言处理任务。然而，迄今为止，联邦学习在关系数据上的研究有限，即知识图谱（KG）。在这项工作中，我们提出了一个修改后的版本的图神经网络算法，在不同的参与者进行联合建模的KG。具体来说，为了解决固有的数据异构性问题和算法收敛效率低下，我们提出了一种新的优化算法，命名为FedAlign，1）最佳运输（OT）的客户端个性化和2）重量约束，以加快收敛。在几个广泛使用的数据集上进行了大量的实验。实验结果表明，我们提出的方法优于最先进的FL方法，如FedAVG和FedProx，具有更好的收敛性。
2020-11-23 cs.AI cs.LG
Improving Joint Learning of Chest X-Ray and Radiology Report by Word Region Alignment
University at Buffalo, The State University of New York（纽约州立大学布法罗分校）；Weill Cornell Medicine（威尔康奈尔医学院）
自监督学习提供了一个机会，探索未标记的胸部X光片及其相关的自由文本报告积累在临床常规，而无需人工监督。本文提出了一种联合图像文本表示学习网络（JoImTeRNet）的预训练胸部X射线图像及其放射学报告。该模型在全局图像-句子水平和局部图像区域-词水平上进行预训练，用于视觉-文本匹配。两者都是双向约束基于交叉熵和基于排序的三重匹配损失。使用注意力机制计算区域-词匹配，而不直接监督它们的映射。预训练的多模态表示学习为涉及图像和/或文本编码的下游任务铺平了道路。我们在OpenI-IU和MIMIC-CXR两个数据集上通过跨模态检索和多标签分类证明了表示学习的质量
2021-09-04 cs.AI cs.CL cs.CV
MESA: Improving MoE Safety Alignment via Decentralized Expertise
University of Science and Technology of China（中国科学技术大学）
针对MoE架构中安全能力集中于少数专家导致的脆弱性，提出MESA框架，通过最优传输理论实现专家安全职责去中心化分配与路由细化，在保持实用性的同时提升防御性能。
2026-05-30 cs.AI cs.CL cs.LG
Alignment-Based Adversarial Training (ABAT) for Improving the Robustness and Accuracy of EEG-Based BCIs
Huazhong University of Science and Technology（华中科技大学）；Shenzhen Huazhong University of Science and Technology Research Institute（华中科技大学深圳研究院）
提出基于对齐的对抗训练（ABAT），通过先进行EEG数据对齐再对抗训练，同时提升脑机接口分类器的准确性和鲁棒性，并在多个数据集和设置上验证其有效性。
2024-11-04 cs.AI cs.HC cs.LG
Immune: Improving Safety Against Jailbreaks in Multi-modal LLMs via Inference-Time Alignment
University of Maryland（马里兰大学）；Indian Institute of Technology Bombay（印度班加罗尔理工学院）；Princeton University（普林斯顿大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）；Capital One（Capital One公司）；University of Central Florida（佛罗里达中央大学）
针对多模态大语言模型训练时安全对齐仍难抵御越狱攻击的问题，提出推理时防御框架Immune，通过受控解码结合安全奖励模型提升安全性，实验验证其在保留模型能力同时显著降低攻击成功率。
2025-06-14 cs.AI cs.CR cs.LG
Multi-Objective Preference Optimization: Improving Human Alignment of Generative Models
University of California, Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）
针对RLHF和偏好优化方法假设单一目标的问题，提出多目标偏好优化框架MOPO，通过约束KL散度最大化主要目标并保障次要目标下限，在合成基准和人类偏好数据上实现帕累托最优策略。
2026-06-05 cs.LG
AirCast: Improving Air Pollution Forecasting Through Multi-Variable Data Alignment
Wageningen University and Research（瓦赫宁根大学与研究中心）；Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）；Australian National University（澳大利亚国立大学）；Linköping University（林雪平大学）；Weizmann Institute of Science（魏茨曼科学研究所）
AirCast通过多变量数据对齐、多任务学习及频率加权损失，结合天气与空气质量数据，提升空气污染预测的准确性。
2025-02-25 cs.CV cs.LG
Improving LLM Safety and Helpfulness using SFT and DPO: A Study on OPT-350M
Saarland University（萨尔兰大学）
本研究通过SFT、DPO及其组合方法对齐OPT-350M，基于Anthropic数据集评估，发现SFT+DPO在安全性和有用性指标上最优，为对齐流程提供基础。
2025-09-10 cs.AI cs.CL cs.LG
Improving LLM Safety Alignment with Dual-Objective Optimization
University of California, Berkeley（加州大学伯克利分校）
针对现有大语言模型安全对齐方法易受越狱攻击的问题，提出将DPO目标拆解为鲁棒拒答训练和有害知识定向遗忘的双目标优化方法，结合标记级加权机制显著提升攻击鲁棒性，并揭示了鲁棒性与标记分布、内部表征的关联。
2025-10-30 cs.CL cs.CR cs.LG
Improving RCT-Based Treatment Effect Estimation Under Covariate Mismatch via Calibrated Alignment
Vanderbilt University Medical Center（范德比尔特大学医学中心）
本文提出CALM方法，通过学习嵌入空间解决RCT与大观测量表的协变量不匹配问题，校准转移模型并分析嵌入对齐优于插补的条件。
2026-07-10 cs.LG
TuneJury: An Open Metric for Improving Music Generation Preference Alignment
Carnegie Mellon University（卡内基梅隆大学）；Sony AI（索尼AI）；Georgia Tech（佐治亚理工学院）；KAIST（韩国科学技术院）；Peking University（北京大学）；QMUL（伦敦玛丽女王大学）
提出TuneJury，一个开放、实例级别的成对奖励模型，用于文本到音乐生成，通过预测偏好分数支持数据筛选、后处理校准，并在推理、优化和训练中提升对齐效果。
2026-06-16 cs.AI cs.LG cs.MM
