语言大模型 / LLM

Soft Specialists: $α$-Rényi Ensembles for Uncertainty-Aware LLM Post-Training

软专家：用于不确定性感知的LLM后训练的$\alpha$-Rényi集成

Paula Cordero-Encinar, Georgy Tyukin, Andrew B. Duncan

机构 * Department of Mathematics, Imperial College London（帝国理工学院伦敦校区数学系） ； Bessemer AI 纠错

专题命中 指令微调 ：LLM(title,title_cn)；post-training(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 提出一种$\alpha$-Rényi变分框架，通过学习后训练参数的分布来替代深度集成，实现不确定性感知的LLM后训练，并支持软路由和模型专业化。

ReLoop: Structured Modeling and Behavioral Verification for Reliable LLM-Based Optimization

ReLoop：结构建模与行为验证用于可靠的基于LLM的优化

Junbo Jacob Lian, Yujun Sun, Huiling Chen, Chaoyu Zhang, Hanzhang Qin, Chung-Piaw Teo

机构 * McCormick School of Engineering, Northwestern University（西北大学工程学院） ； Wenzhou Buyi Pharmacy Chain Co., Ltd.（温州-buyi药链有限公司） ； College of Computer Science and Artificial Intelligence, Wenzhou University（温州大学计算机科学与人工智能学院） ； Department of Decision Analytics and Operations, City University of Hong Kong（香港城市大学决策分析与运营部门） ； Institute of Operations Research and Analytics, National University of Singapore（新加坡国立大学运筹学与分析研究所） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 ReLoop通过结构生成和行为验证机制，解决LLM生成优化代码的可行性与正确性差距问题，提升代码执行准确性和鲁棒性。

Comments Code and benchmark: https://github.com/junbolian/ReLoop

From Tokens to Regions: CUDA-Sensitive Instruction Tuning for GPU Kernel Generation

从令牌到区域：面向GPU内核生成的CUDA敏感指令微调

Wentao Chen, Jiace Zhu, Xing Zhe Chai, Zeng Qu, Qiaoling Xiao, Liucheng Duan, An Zou

机构 * Shanghai Jiao Tong University（上海交通大学） ； Biren Technology（壁仞科技） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(summary_cn,abstract)；instruction tuning(title)；large language model(abstract)

AI总结 提出CuSeT方法，通过自适应令牌级掩码和区域感知样本重加权，在简单SFT框架内提升LLM生成CUDA内核的功能正确性。

When RL Fails after SFT: Rejuvenating Model Plasticity for Robust SFT-to-RL Handoff

当强化学习在监督微调后失效：恢复模型可塑性以实现稳健的SFT到RL交接

Runze Liu, Jiashun Liu, Xu Wan, Yuqian Fu, Ling Pan

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Zhejiang University（浙江大学） ； State Key Laboratory of Multimodal Artificial Intelligence Systems, CASIA（多模态人工智能系统国家重点实验室，CASIA） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对SFT过度训练导致RL阶段改进有限的问题，提出Rejuvenation方法，通过基模型锚定融合和神经元重置恢复模型可塑性，在数学推理和智能体任务上提升RL性能。

RL Fine-Tuning Heals OOD Forgetting in SFT

强化学习修复SFT中的分布外遗忘

Hangzhan Jin, Sitao Luan, Tianwei Ni, Sicheng Lyu, Guillaume Rabusseau, Reihaneh Rabbany, Doina Precup, Mohammad Hamdaqa

机构 * Mila - Quebec AI Institute（魁北克人工智能研究所） ； Polytechnique Montréal（蒙特利尔理工学院） ； Université de Montréal（蒙特利尔大学） ； McGill University（麦吉尔大学） ； CIFAR AI Chair（CIFAR人工智能主席） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 研究通过分析SFT和RL对ID和OOD推理的影响，发现RL能修复后期SFT导致的OOD能力下降，且与奇异向量旋转相关。

Comments 31 pages, 22 figures

Seed Hijacking of LLM Sampling and Quantum Random Number Defense

LLM采样中的种子劫持与量子随机数防御

Ziyang You, Xiaoke Yang, Zhanling Fan, Feng Guo, Xiaogen Zhou, Xuxing Lu

机构 * School of Electronic, Electrical and Physics, Fujian University of Technology（福建工程学院电子、电气与物理系） ； School of Humanities, Fujian University of Technology（福建工程学院人文学院） ； Department of Investigation, Fujian Police College（福建警察学院调查系） ； Institute of Applied Physics and Materials Engineering, University of Macau（澳门大学应用物理与材料工程研究院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；RLHF(abstract,abstract_cn)；large language model(abstract)

AI总结 本文提出SeedHijack攻击，通过操控PRNG输出实现指定token注入，提出基于量子随机数生成器的防御方案，解决LLM采样层的关键漏洞。

CITING: Large Language Models Create Curriculum for Instruction Tuning

Tao Feng, Zifeng Wang, Jimeng Sun

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

Property Enhanced Instruction Tuning for Multi-task Molecule Generation with Large Language Models

属性增强指令微调用于大型语言模型的多任务分子生成

Xuan Lin, Long Chen, Yile Wang, Yangyang Chen, Xiangxiang Zeng

机构 * School of Computer Science, Xiangtan University（湘潭大学计算机科学学院） ； College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机科学与软件工程学院） ； Department of Computer Science, University of Tsukuba（东京大学理工学部） ； College of Computer Science and Electronic Engineering, Hunan University（湖南大学计算机科学与电子工程学院） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；instruction tuning(title)

AI总结 提出PEIT框架，通过多模态对齐预训练和指令微调，提升LLM在分子描述、文本分子生成、属性预测和多约束分子生成任务上的性能。

Comments 9

From History to State: Constant-Context Skill Learning for LLM Agents

从历史到状态：为LLM代理的常域技能学习

Haoyang Xie, Xinyuan Wang, Yancheng Wang, Puda Zhao, Feng Ju

机构 * School of Computing and Augmented Intelligence, Arizona State University（计算与增强智能学院，亚利桑那州立大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出常域技能学习框架，通过轻量任务模块学习可重用流程，利用确定性跟踪器生成紧凑状态块，结合SFT和在线RL提升性能，减少提示词用量。

ReasonXL: Shifting LLM Reasoning Language Without Sacrificing Performance

ReasonXL: 不牺牲性能的LLM推理语言迁移

Daniil Gurgurov, Tom Röhr, Sebastian von Rohrscheidt, Josef van Genabith, Alexander Löser, Simon Ostermann

机构 * German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI）） ； Saarland University（萨尔兰州立大学） ； Berliner Hochschule für Technik（柏林技术学院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出ReasonXL，首个跨领域多语言推理平行语料库，通过SFT+RLVR方法实现LLM在目标语言中推理，保留性能并提升跨语言迁移能力。

Comments Under review

TEMPLE: Incentivizing Temporal Understanding of Video Large Language Models via Progressive Pre-SFT Alignment

TEMPLE：通过渐进式预SFT对齐激励视频大语言模型的时序理解

Shicheng Li, Lei Li, Kun Ouyang, Shuhuai Ren, Yuanxin Liu, Yuanxing Zhang, Fuzheng Zhang, Lingpeng Kong, Qi Liu, Xu Sun

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；SFT(title,abstract)；LLM(abstract)

AI总结 TEMPLE通过渐进式预SFT对齐策略提升视频大语言模型的时序理解能力，利用直接偏好优化和课程学习增强模型对时间信息的感知。

Comments Accepted to AAAI 2026. Code available at https://github.com/lscpku/TEMPLE

Automated Summarization of Financial News Using Large Language Models and Retrieval-Augmented Generation: An Early Empirical Study (Fall 2023)

基于大语言模型与检索增强生成的财经新闻自动摘要：2023年秋的早期实证研究

Pranav Chandaliya

机构 * George Washington University（乔治·华盛顿大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract)；分类 cs.CL、cs.AI

AI总结 该2023年秋的研究构建了结合LLM与RAG的财经新闻摘要流程，测试多种模型与方法，发现Summarize Chains的Falcon-7B表现最优，RAG存在缺陷，且相关失效模式至今仍具参考价值。

Comments 17 pages, 1 figure, 6 tables. Research conducted Fall 2023 at George Washington University; manuscript prepared for public release in 2026

Large Language Models provide support for the parallelogram theory of analogy

平行四边形反击：LLM生成的类比优于人类

Qiawen Ella Liu, Raja Marjieh, Jian-Qiao Zhu, Adele E. Goldberg, Thomas L. Griffiths

机构 * Princeton University（普林斯顿大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究比较了人类和LLM在类比任务中的表现，发现LLM生成的类比更符合平行四边形结构，且人类在生成关系保持的类比时表现较差。

EnvScaler: Scaling Tool-Interactive Environments for LLM Agent via Programmatic Synthesis

EnvScaler：通过程序合成实现LLM代理的可扩展工具交互环境

Xiaoshuai Song, Haofei Chang, Guanting Dong, Yutao Zhu, Ji-Rong Wen, Zhicheng Dou

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学北京校区人工智能学院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出EnvScaler框架，通过程序合成构建大量工具交互环境，用于LLM代理的监督微调和强化学习，提升其在复杂多轮多工具交互环境中的任务解决能力。

Comments Add some experiments

Fine-Tuning Qwen3-27B for C-to-Rust Code Translation: A Three-Stage Curriculum of Pretraining, Debugging-Aware SFT, and Task-Specific SFT

微调Qwen3-27B实现C到Rust代码翻译：预训练、调试感知监督微调与任务特定监督微调的三阶段课程

Pu Zhao, Changdi Yang, Yixiao Chen, Yi Gao, Yifan Cao, Haochen Zeng, Yanzhi Wang

专题命中 指令微调 ：SFT(title,abstract)；pretraining(title,abstract)；LLM(summary_cn,abstract_cn)；large language model(abstract)

AI总结 本研究针对C到Rust代码翻译任务，对Qwen3-27B采用三阶段微调课程，结合SACTOR框架评估后，其性能优于基线模型及其他LLM。

Enhancing Spatial Reasoning in Large Language Models for Metal-Organic Frameworks Structure Prediction

增强大型语言模型在金属有机框架结构预测中的空间推理能力

Mianzhi Pan, JianFei Li, Peishuo Liu, Botian Wang, Yawen Ouyang, Yiming Rong, Hao Zhou, Jianbing Zhang

机构 * National Key Laboratory for Novel Software Technology（新型软件技术国家重点实验室） ； Nanjing University（南京大学） ； Institute of AI Industry Research (AIR)（人工智能产业研究院） ； Tsinghua University（清华大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； ChemBIC（化学信息学中心） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；SFT(abstract,abstract_cn)

AI总结 针对MOF结构预测中原子数量多、复杂度高的问题，提出MOF-LLM框架，通过空间感知持续预训练、结构监督微调和匹配驱动强化学习，增强Qwen-3 8B模型的空间推理能力，实现35.78%匹配率和0.04秒/结构的采样效率。

Comments KDD 2026

BudgetThinker: Empowering Budget-aware LLM Reasoning with Control Tokens

BudgetThinker: 通过控制令牌赋能预算感知的LLM推理

Hao Wen, Xinrui Wu, Yi Sun, Feifei Zhang, Liye Chen, Jie Wang, Yunxin Liu, Yunhao Liu, Ya-Qin Zhang, Yuanchun Li

机构 * Institute for AI Industry Research (AIR) Tsinghua University（人工智能产业研究院（AIR）清华大学） ； Global Innovation Exchange & Department of Automation Tsinghua University（全球创新交流中心及自动化系 清华大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 BudgetThinker通过在推理过程中插入控制令牌，使LLM能够精确控制推理过程长度，采用两阶段训练流程提升模型在不同预算下的表现。

Serialisation Strategy Matters: How FHIR Data Format Affects LLM Medication Reconciliation

序列化策略至关重要：FHIR数据格式如何影响LLM药物重整

Sanjoy Pator

机构 * Independent Researcher（独立研究者） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；instruction tuning(abstract)

AI总结 研究探讨FHIR数据序列化对LLM药物重整性能的影响，发现临床叙述格式在小模型中表现更优，而大模型更倾向使用原始JSON，揭示了序列化策略对临床安全审计的重要性。

Comments 14 pages, 7 figures, independent research

Supervised Fine-Tuning versus Reinforcement Learning: A Study of Post-Training Methods for Large Language Models

监督微调与强化学习：大型语言模型后训练方法的探讨

Haitao Jiang, Wenbo Zhang, Jiarui Yao, Hengrui Cai, Sheng Wang, Rui Song

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；post-training(title,abstract)；LLM(abstract)

AI总结 本文探讨了监督微调与强化学习在大型语言模型后训练中的联系与应用，分析了两者的方法、数据需求及整合框架，总结了混合训练趋势及未来研究方向。

Comments 26 pages

Toward Graph-Tokenizing Large Language Models with Reconstructive Graph Instruction Tuning

迈向通过重构图指令微调的大型语言模型的图-词化

Zhongjian Zhang, Xiao Wang, Mengmei Zhang, Jiarui Tan, Chuan Shi

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Beihang University（北航） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

AI总结 本文提出RGLM方法，通过重构图信息和显式图监督改进图-词化LLMs的对齐效果，提升对图结构的理解与利用。

Comments accepted by WWW 2026

Plug-in and Fine-tuning: Bridging the Gap between Small Language Models and Large Language Models

Kyeonghyun Kim, Jinhee Jang, Juhwan Choi, Yoonji Lee, Kyohoon Jin, YoungBin Kim

机构 * Chung-Ang University（Chung-Ang 大学） ； AITRICS ； DATUMO 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；small language model(title,abstract)；LLM(abstract)

Comments ACL 2025 main conference

Prompting and Fine-tuning Large Language Models for Automated Code Review Comment Generation

Md. Asif Haider, Ayesha Binte Mostofa, Sk. Sabit Bin Mosaddek, Anindya Iqbal, Toufique Ahmed

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；prompting(title,abstract)；LLM(abstract)

Instruction Tuning Vs. In-Context Learning: Revisiting Large Language Models in Few-Shot Computational Social Science

Taihang Wang, Xiaoman Xu, Yimin Wang, Ye Jiang

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

ConnectionMind: Leveraging Social Networks and Large Language Models for Personalized Recommendation at Meta

ConnectionMind：利用社交网络与大语言模型实现 Meta 平台的个性化推荐

Haoyu Han, Yuming Liu, Lei Huang, Lizhu Zhang, Jiliang Tang, Xiangjun Fan

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；SFT(abstract,abstract_cn)

AI总结 该研究提出 ConnectionMind 框架，结合社交网络与 LLM，经两阶段学习训练后，在 Meta 部署并通过 A/B 测试实现视频观看时长 0.43% 的提升，解决传统推荐模型的多关系上下文整合不足问题。

Reinforcement learning to improve large language model-based automated code compliance systems

强化学习改进基于大语言模型的自动化代码合规系统

Jack Wei Lun Shi, Minghao Dang, Wawan Solihin, Leong Hien Poh, Justin K. W. Yeoh

机构 * National University of Singapore（新加坡国立大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； NovaCITYNETS 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)

AI总结 提出P4IR两阶段框架，先通过监督微调注入领域知识，再用GRPO优化高层代码骨架的准确性，在零样本设置下优于多个领先大语言模型。

Comments 22 pages, 12 figures, 1 table

SFTMix: Elevating Language Model Instruction Tuning with Mixup Recipe

SFTMix：通过混合配方提升语言模型指令微调

Yuxin Xiao, Shujian Zhang, Wenxuan Zhou, Marzyeh Ghassemi, Sanqiang Zhao

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Zoom Video Communications（Zoom视频通讯） 纠错

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)

AI总结 本文提出SFTMix方法，通过混合不同置信度的数据提升指令微调效果，适用于指令遵循和医疗特定任务，展示了在不同模型和数据集上的广泛适用性。

Comments Accepted by ACL 2026

Multi-Task Instruction Tuning via Data Scheduling for Low-Resource Arabic SpeechLLMs

通过数据调度实现低资源阿拉伯语音频LLM的多任务指令微调

Hunzalah Hassan Bhatti, Firoj Alam, Shammur Absar Chowdhury

机构 * Qatar Computing Research Institute（卡塔尔计算研究院） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；instruction tuning(title,abstract)；large language model(abstract,comments)；language model(abstract,comments)

AI总结 本文研究了在资源受限环境下，通过数据调度优化多任务指令微调方法，提出AraMega-SSum用于训练和评估阿拉伯语中心的音频LLM，并比较了四种训练策略，发现两阶段TPC→ADS策略在任务平衡上表现最佳。

Comments Foundation Models, Large Language Models, Native, Speech Models, Arabic

ScaleToT: Generalizing Structured LLM Reasoning for Billion-Scale Low-Activity User Modeling

ScaleToT: 将结构化LLM推理泛化到十亿级低活跃用户建模

Tianbao Ma, Chang Xi, Yichuan Zou, Chengen Li, Linxun Chen, Zilong Lu, Yanan Niu, Zhaojie Liu, Han Li, Kun Gai

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出ScaleToT，通过从少量LLM处理子集学习结构化推理并泛化到大规模低活跃用户，使用有界熵引导的思维树和OSIPO训练学生模型，在十亿级广告部署中提升LT30 6.738%。

Pushing the Limits of LLM Tool Calling via Experiential Knowledge Integration and Activation

通过经验知识集成与激活推动LLM工具调用极限

Yupu Hao, Zhuoran Jin, Huanxuan Liao, Kang Liu, Jun Zhao

机构 * The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所复杂系统认知与决策智能重点实验室） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 研究如何通过经验知识获取、激活和内化提升LLM多步工具调用性能，提出知识增强工具执行框架KATE，结合宽度扩展推理与知识感知训练，在BFCL-V3和AppWorld上显著优于基线。

RL Excursions during Pre-Training: Re-examining Policy Optimization for LLM training

预训练期间的强化学习探索：重新审视LLM训练中的策略优化

Rachit Bansal, Clara Mohri, Tian Qin, David Alvarez-Melis, Sham Kakade

机构 * Harvard University（哈佛大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(summary_cn,abstract)；分类 cs.LG

AI总结 本文质疑LLM标准训练流程中仅在预训练和监督微调后使用强化学习的做法，通过从头训练LLM并在中间检查点直接应用RL、SFT及SFT后RL，发现RL早期有效且能匹配完整流程，同时提出并行平均合并RL和SFT目标的方法在保持通用能力的同时优于其他方法。