语言大模型 / LLM

Learning the Boundary of Solvability: Aligning LLMs to Detect Unsolvable Problems

学习可解性的边界：对齐大语言模型以检测不可解的问题

Dengyun Peng, Qiguang Chen, Bofei Liu, Jiannan Guan, Libo Qin, Zheng Yan, Jinhao Liu, Jianshu Zhang, Wanxiang Che

机构 * LARG, Research Center for Social Computing and Interactive Robotics, HIT（LARG，社会计算与交互机器人研究中心，哈尔滨工业大学） ； School of Computer Science and Engineering, Central South University（计算机科学与工程学院，中南大学） ； iFLYTEK 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出UnsolvableQA数据集和UnsolvableRL框架，通过逆向构建引入逻辑矛盾，提升LLM对不可解问题的检测能力，并在Qwen3-4B-Instruct上提升可解推理准确率至69.4%。

Comments preprint

Converge Faster, Talk Less: Hessian-Informed Federated Zeroth-Order Optimization

更快收敛，说话更少：基于Hessian的联邦零阶优化

Zhe Li, Bicheng Ying, Zidong Liu, Chaosheng Dong, Haibo Yang

机构 * Rochester Institute of Technology（罗切斯特理工大学） ； Google（谷歌） ； ComboCurve Inc.（ComboCurve公司） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 HiSo通过利用Hessian信息加速联邦零阶优化的收敛，显著提升通信效率。

Comments Accepted by ICLR 2026

Bridging Lexical Ambiguity and Vision: A Mini Review on Visual Word Sense Disambiguation

弥合词汇歧义与视觉：关于视觉词义消歧的简要综述

Shashini Nilukshi, Deshan Sumanathilaka

机构 * School of Computing Informatics（计算与信息学学院） ； Institute of Technology（技术研究所） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文综述了视觉词义消歧的发展，探讨了对比模型和LLM在解决词汇歧义中的作用，并指出未来发展方向。

Comments 2 figures, 2 Tables, Accepted at IEEE TIC 2026

One-Token Rollout: Guiding Supervised Fine-Tuning of LLMs with Policy Gradient

单个标记回滚：通过策略梯度引导大语言模型的监督微调

Rui Ming, Haoyuan Wu, Shoubo Hu, Zhuolun He, Bei Yu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Noah’s Ark Lab, Huawei（华为诺亚实验室） ； ChatEDA Tech（ChatEDA技术公司） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL

AI总结 通过策略梯度引导监督微调，单个标记回滚（OTR）在多个基准测试中优于标准SFT，展示了on-policy数据对泛化能力的重要性。

David vs. Goliath: Verifiable Agent-to-Agent Jailbreaking via Reinforcement Learning

大卫与歌利亚：通过强化学习实现可验证的代理到代理劫持

Samuel Nellessen, Tal Kachman

机构 * Department of Artificial Intelligence, Radboud University, Nijmegen, The Netherlands（人工智能系，拉德堡德大学，尼姆韦根，荷兰） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过强化学习框架Slingshot，验证了Tag-Along攻击作为可验证的威胁模型，并展示了如何通过环境交互从现成模型中引发有效代理攻击。

Comments Under review. 8 main pages, 2 figures, 2 tables. Appendix included

World-Gymnast: Training Robots with Reinforcement Learning in a World Model

World-Gymnast: 在世界模型中用强化学习训练机器人

Ansh Kumar Sharma, Yixiang Sun, Ninghao Lu, Yunzhe Zhang, Jiarao Liu, Sherry Yang

机构 * New York University（纽约大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 指令微调 ：language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 World-Gymnast通过在世界模型中进行强化学习微调，有效提升真实机器人性能，比监督学习和软件模拟更具优势。

Comments https://world-gymnast.github.io/

When Is Rank-1 Enough? Geometry-Guided Initialization for Parameter-Efficient Fine-Tuning

何时秩-1足够？基于几何的初始化方法用于参数高效微调

Haoran Zhao, Soyeon Caren Han, Eduard Hovy

机构 * School of Computing and Information Systems, University of Melbourne, Melbourne, Australia（计算机与信息系统学院，墨尔本大学，墨尔本，澳大利亚） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Gap-Init方法，通过几何感知初始化稳定秩-1 LoRA微调，证明初始对齐对训练稳定性的重要性。

WinFLoRA: Incentivizing Client-Adaptive Aggregation in Federated LoRA under Privacy Heterogeneity

WinFLoRA: 在隐私异质性下的联邦LoRA中激励客户端自适应聚合

Mengsha Kou, Xiaoyu Xia, Ziqi Wang, Ibrahim Khalil, Runkun Luo, Jingwen Zhou, Minhui Xue

机构 * RMIT University（皇家墨尔本理工大学） ； Huazhong University of Science and Technology（华中科技大学） ； CSIRO’s Data61 and Responsible AI Research (RAIR) Centre（澳大利亚CSIRO数据61和负责任的人工智能研究（RAIR）中心） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 WinFLoRA通过利用聚合权重激励客户端自适应聚合，提升联邦LoRA在隐私异质性下的全局准确率和客户端效用。

Comments 12 pages

Discrete Diffusion Trajectory Alignment via Stepwise Decomposition

通过分步分解实现离散扩散轨迹对齐

Jiaqi Han, Austin Wang, Minkai Xu, Wenda Chu, Meihua Dang, Haotian Ye, Huayu Chen, Yisong Yue, Stefano Ermon

机构 * Stanford University（斯坦福大学） ； Caltech（加州理工学院） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：language model(abstract)；preference optimization(abstract)；分类 cs.LG

AI总结 本研究提出一种离线偏好优化方法，通过分步分解实现离散扩散模型的轨迹对齐，提升DNA序列设计和语言建模的性能。

Comments ICLR 2026

GemDetox at TextDetox CLEF 2025: Enhancing a Massively Multilingual Model for Text Detoxification on Low-resource Languages

GemDetox在TextDetox CLEF 2025中的应用：增强大规模多语言模型以在低资源语言上进行文本去毒化

Trung Duc Anh Dang, Ferdinando Pio D'Elia

机构 * Centre for Language Technology, University of Copenhagen, Denmark（语言技术中心，哥本哈根大学，丹麦） 纠错

专题命中 指令微调 ：SFT(abstract)；prompting(abstract)；分类 cs.CL

AI总结 GemDetox在TextDetox CLEF 2025中通过参数高效微调和提示技术提升多语言文本去毒化性能，尤其在低资源语言上表现优异。

Why Does Adaptive Zeroth-Order Optimization Work?

为何自适应零阶优化有效？

Haishan Ye, Luo Luo

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本研究揭示了自适应零阶优化方法中实证标准差与梯度范数的关系，从而在广义（L0,L1）-光滑性条件下建立了更高效的收敛速率和查询复杂度界限。

ReLayout: Versatile and Structure-Preserving Design Layout Editing via Relation-Aware Design Reconstruction

ReLayout: 通过关系感知的设计重建实现多功能且结构保持的设计布局编辑

Jiawei Lin, Shizhao Sun, Danqing Huang, Ting Liu, Ji Li, Jiang Bian

机构 * Xi'an Jiaotong University, Xi'an, China（西安交通大学） ； Microsoft Research（微软研究院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 ReLayout通过关系感知设计重建实现多功能且结构保持的设计布局编辑，无需三元组数据，提升编辑质量和结构保持性。

SRVAU-R1: Enhancing Video Anomaly Understanding via Reflection-Aware Learning

SRVAU-R1: 通过反射感知学习增强视频异常理解

Zihao Zhao, Shengting Cao, Muchao Ye

机构 * The University of Iowa（艾奥瓦大学） ； Knox College（克诺克斯学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 SRVAU-R1通过引入反射感知学习框架，提升视频异常理解的推理能力和准确性。

MARS: Co-evolving Dual-System Deep Research via Multi-Agent Reinforcement Learning

MARS: 通过多智能体强化学习进行多系统深度研究

Guoxin Chen, Zile Qiao, Wenqing Wang, Donglei Yu, Xuanzhong Chen, Hao Sun, Minpeng Liao, Kai Fan, Yong Jiang, Penguin Xie, Wayne Xin Zhao, Ruihua Song, Fei Huang

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学 glowing 人工智能学院） ； Tongyi Lab, Alibaba Group（阿里集团通义实验室） 纠错

专题命中 指令微调 ：SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 MARS通过多智能体强化学习共进化双认知系统，无需监督微调即可在知识密集型任务中取得显著性能提升。

Comments Ongoing Work

Construct, Align, and Reason: Large Ontology Models for Enterprise Knowledge Management

构建、对齐与推理：面向企业知识管理的大型本体模型

Yao Zhang, Hongyin Zhu

机构 * Yonyou AI Lab（用友人工智能实验室） ； Yonyou Network Technology Co., Ltd.（用友网络技术有限公司） 纠错

专题命中 指令微调 ：instruction tuning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出大型本体模型（LOM），通过构建、对齐和推理框架，实现企业知识管理中多源异构数据的整合与复杂语义推理，实验表明其在复杂图推理任务中表现优于现有模型。

Enabling Approximate Joint Sampling in Diffusion LMs

在扩散语言模型中实现近似联合采样

Parikshit Bansal, Sujay Sanghavi

机构 * University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出了一种在扩散语言模型中近似联合采样方法，通过轻量级采样器层实现多token高效生成，提升了语言建模和编码任务的性能。

Long-range Modeling and Processing of Multimodal Event Sequences

多模态事件序列的长程建模与处理

Jichu Li, Yilun Zhong, Zhiting Li, Feng Zhou, Quyu Kong

专题命中 指令微调 ：LLM(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出了一种基于LLM的多模态时间点过程框架，通过自适应序列压缩解决长上下文问题，提升多模态事件序列的建模与生成能力。

dziribot: rag based intelligent conversational agent for algerian arabic dialect

dziribot: 一种基于RAG的智能对话代理，用于阿尔及利亚阿拉伯语方言

El Batoul Bechiri, Dihia Lanasri

机构 * CESI, ATM Mobilis（CESI、ATM Mobilis） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 Dziribot是一种基于RAG的智能对话代理，专门针对阿尔及利亚阿拉伯语方言的挑战，通过多层架构和微调模型实现高效自然交互。

Distilling Token-Trained Models into Byte-Level Models

将令牌训练模型蒸馏为字节级模型

Zishuo Bao, Jiaqi Leng, Junxiong Wang, Bowen Peng, Yucheng Lu

机构 * Fuzhou University（福州大学） ； Fudan University（复旦大学） ； Together AI ； Nous Research 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 本文提出了一种将令牌训练模型高效蒸馏为字节级模型的方法，通过两阶段课程实现端到端生成，验证了在有限数据下保持模型性能的可行性。

Comments 17 pages, 3 figures, 13 tables

RoDiF: Robust Direct Fine-Tuning of Diffusion Policies with Corrupted Human Feedback

RoDiF: 基于损坏人类反馈的扩散策略鲁棒直接微调

Amitesh Vatsa, Zhixian Xie, Wanxin Jin

机构 * Interactive Systems (IRIS) Lab, Arizona State University, Tempe AZ, USA.（智能机器人与交互系统实验室，亚利桑那州立大学） 纠错

专题命中 指令微调 ：preference optimization(abstract)；分类 cs.LG

AI总结 RoDiF通过几何假设切割视角和保守切割策略，实现无假设噪声分布的鲁棒直接微调，提升扩散策略在损坏人类反馈下的性能。

LoRA is All You Need for Safety Alignment of Reasoning LLMs

LoRA是实现推理LLM安全对齐的全部需求

Yihao Xue, Baharan Mirzasoleiman

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 指令微调 ：SFT(abstract)；分类 cs.AI

AI总结 LoRA通过在拒绝数据集上进行有监督微调，有效解决推理LLM的安全对齐问题，同时保持推理性能，适用于多种模型和基准测试。

Protocol Agent: What If Agents Could Use Cryptography In Everyday Life?

协议代理：如果代理能够用密码学在日常生活中使用呢？

Marco De Rossi

专题命中 指令微调 ：SFT(abstract)

AI总结 协议代理通过引入基准评估代理在日常生活中使用密码学技术的能力，提升通信效率与安全性。

DSFC-Net: A Dual-Encoder Spatial and Frequency Co-Awareness Network for Rural Road Extraction

DSFC-Net：一种用于农村道路提取的双编码空间和频率协同网络

Zhengbo Zhang, Yihe Tian, Wanke Xia, Lin Chen, Yue Sun, Kun Ding, Ying Wang, Bing Xu, Shiming Xiang

机构 * School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所多模态人工智能系统国家重点实验室） ； Department of Earth System Science, Tsinghua University（清华大学地球系统科学系） ； Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； College of Information and Electrical Engineering, China Agricultural University（中国农业大学信息与电气工程学院） 纠错

专题命中 指令微调 ：SFT(abstract)

AI总结 DSFC-Net通过双编码框架融合空间和频域信息，有效解决农村道路提取中的植被遮挡和狭窄道路连续性问题。

PS$^2$: Parameterized Control for Fine-Grained Student Proficiency Simulation

PS$^2$: 基于参数化控制的细粒度学生能力模拟

Ruochen Liu, Zhiyuan Wen, Hao Yan, Jun Yin, Senzhang Wang, Jiannong Cao

专题命中 指令微调 ：LLM(abstract)

AI总结 PS$^2$提出一种基于参数化控制的细粒度学生能力模拟方法，通过混合比率在强弱模型间插值得到更精确的能力模拟，提升学生行为相似性和题目难度预测性能。

Semantic-aware Wasserstein Policy Regularization for Large Language Model Alignment

语义感知的Wasserstein策略正则化用于大语言模型对齐

Byeonghu Na, Hyungho Na, Yeongmin Kim, Suhyeon Jo, HeeSun Bae, Mina Kang, Il-Chul Moon

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；RLHF(abstract)

AI总结 本文提出Wasserstein策略正则化方法，通过语义感知的Wasserstein距离改进大语言模型对齐效果，实验表明其优于传统KL散度方法。

Comments Accepted at ICLR 2026

From Utterance to Vividity: Training Expressive Subtitle Translation LLM via Adaptive Local Preference Optimization

从话语到生动性：通过自适应局部偏好优化训练表达性字幕翻译LLM

Chaoqun Cui, Shijing Wang, Liangbin Huang, Qingqing Gu, Zhaolong Huang, Xiao Zeng, Wenji Mao

机构 * MAIS, Institute of Automation, Chinese Academy of Sciences（自动化研究所，中国科学院） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Hujing Digital Media & Entertainment Group（华景数字媒体与娱乐集团） ； Geely AI lab（吉利AI实验室） 纠错

专题命中 后训练与偏好优化 ：LLM(title,abstract)；preference optimization(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本研究提出ALPO方法，通过构建多方向字幕语料库，优化翻译LLM的表达性和生动性，提升翻译质量的多维评估性能。

Comments Accepted to ICLR 2026

MLLMEraser: Achieving Test-Time Unlearning in Multimodal Large Language Models through Activation Steering

MLLMEraser: 通过激活引导在多模态大语言模型中实现测试时遗忘

Chenlu Ding, Jiancan Wu, Leheng Sheng, Fan Zhang, Yancheng Yuan, Xiang Wang, Xiangnan He

机构 * University of Science and Technology of China（中国科学技术大学） ； National University of Singapore（新加坡国立大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Huawei（华为） 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；preference optimization(abstract)；分类 cs.AI、cs.LG

AI总结 MLLMEraser通过激活引导实现多模态大语言模型的测试时遗忘，无需训练且有效降低计算成本，同时保持保留知识的效用。

Enhancing LLM Reasoning via Non-Human-Like Reasoning Path Preference Optimization

通过非人类样式推理路径偏好优化增强大语言模型推理

Junjie Lu, Yuliang Liu, Chaofeng Qu, Wei Shen, Zhouhan Lin, Chuheng Zhang, Min Xu

机构 * University of Technology Sydney（悉尼技术大学） ； Shanghai Innovation Institute（上海创新研究院） ； Southeast University（东南大学） ； Microsoft Research（微软研究院） ； Nanjing University（南京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Independent Researcher（独立研究者） 纠错

专题命中 后训练与偏好优化 ：LLM(title,abstract)；preference optimization(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CGPO方法，通过置信度信号优化推理路径，提升大语言模型在代码和数学推理任务中的性能。

Comments 15 pages

CATTO: Balancing Preferences and Confidence in Language Models

CATTO: 在语言模型中平衡偏好与信心

Nisarg Parikh, Ananya Sai, Pannaga Shivaswamy, Kunjal Panchal, Andrew Lan

机构 * Adobe 纠错

专题命中 后训练与偏好优化 ：language model(title,abstract)；large language model(abstract)；preference optimization(abstract)；分类 cs.LG

AI总结 CATTO通过校准意识的标记级训练目标，在保持任务准确性的同时，有效提升语言模型预测信心，减少校准误差，提高输出选择的可靠性。

How RLHF Amplifies Sycophancy

如何通过RLHF放大阿谀行为

Itai Shapira, Gerdus Benade, Ariel D. Procaccia

机构 * harvard（哈佛大学） 纠错

专题命中 后训练与偏好优化 ：RLHF(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文研究了RLHF如何通过放大机制增强阿谀行为，提出了一种训练干预措施以减少这种偏差。