语言大模型 / LLM

ZAS-SQL: Distilling Rules from Failures for Zero-Shot Text-to-SQL

ZAS-SQL: 从失败中提炼规则用于零样本文本到SQL

Hongzhou Zheng, Yixin Gou, Wenjia Zhang

机构 * Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University（同济大学上海自主智能无人系统科学中心） ； College of Architecture and Urban Planning, Tongji University（同济大学建筑与城市规划学院） ； Behavioral and Spatial AI Lab, Peking University & Tongji University（北京大学与同济大学行为与空间人工智能实验室） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出ZAS-SQL零样本框架，通过Map-Reduce规则蒸馏从失败案例中提取核心生成规则，结合知识增强模式表示、规则驱动结构化推理和执行引导早停三个模块，在Spider上达到87.2%和88.6%执行准确率，超越多个少样本和微调方法。

Looped Language Models Improve Compositional Tool Calling

循环语言模型可提升组合式工具调用能力

Andrei Cristian Popescu, Haitz Sáez de Ocáriz Borde, Pietro Liò

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究在组合式工具调用场景下，通过在多个数据集上对比循环与非循环语言模型，发现循环计算可提升组合式工具使用性能，自适应推理能实现更优计算-性能权衡，为智能体系统提供了有前景的架构。

Training Leaves Traces: Centered Residual Signatures for Language Model Lineage Verification

训练留下痕迹：用于语言模型谱系验证的中心化残差特征

Aman Singh Thakur, Rayan Khoury

机构 * Amazon（亚马逊） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出中心化残差特征方法，通过移除残差训练产生的共享身份对齐组件，对比残差块特有结构得到谱系分数，可高效准确验证开源权重语言模型检查点的谱系

Comments Preprint

TEXAS: Task-Expert-Aware Supervision for Downstream Mixture-of-Experts LLM Adaptation

TEXAS：面向下游混合专家大语言模型适配的任务专家感知监督方法

Guanzhi Deng, Haibo Wang, Kuan Wu, Xiangru Jian, Shing Yin Wong, Sichun Luo, Zhuoran Wang, Linqi Song

专题命中 指令微调 ：LLM(title)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 TEXAS 是一种 MoE 大语言模型适配方法，通过对比模型成功与失败实例的专家激活发现任务专家，在微调时提升对应答案 token 权重，在多数基准测试中性能优于基线。

Personalized Federated Sparse Adaptation of Time-Series Foundation Models

时间序列基础模型的个性化联邦稀疏适配

Priyanka Nihalchandani, Naman Srivastava, Varun Ojha, Pandarasamy Arjunan

机构 * Robert Bosch Centre for Cyber-Physical Systems, Indian Institute of Science（罗伯特·博世网络物理系统中心，印度科学学院） ； School of Computing, Newcastle University（纽卡斯尔大学计算学院） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对时间序列基础模型在建筑能源预测联邦适配中存在的参数共享策略适配性不足问题，提出异构混合专家适配器的个性化联邦稀疏适配框架，经50栋建筑及3种主干网络验证，性能优于全局及本地适配方法。

Comments 15 pages

MarsCast: Transfer Learning of AI Weather Foundation Models to Planetary Atmospheres

MarsCast：将AI天气基础模型的迁移学习应用于行星大气

M. L. Carroll, J. Li, S. D. Guzewich, G. Villanueva, J. A. Caraballo-Vega, M. J. Frost

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究将地球天气基础模型GraphCast适配为火星版本MarsCast，经微调后可模拟火星大气动力学，为行星天气预报及相关任务提供支持。

Federated Foundation Models Fine-Tuning with Heterogeneous Compressed Clients

采用异构压缩客户端的联邦基础模型微调

Shengkun Zhu, Jinshan Zeng, Zhihua Allen-Zhao, Mayi Xu, Quanqing Xu, Wei Ren, Qiang Yang, Yang Liu

机构 * The Hong Kong Polytechnic University（香港理工大学） ； OceanBase, Ant Group（蚂蚁集团OceanBase） ； School of Management, Xi’an Jiaotong University（西安交通大学管理学院） ； School of Mathematics and Statistics, Xidian University（西安电子科技大学数学与统计学院） ； School of Computer Science, Wuhan University（武汉大学计算机学院） ； School of Computer Science, China University of Geosciences（中国地质大学计算机学院） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对基础模型联邦学习的资源不对称问题，提出FedSLM框架，通过SVD分解等技术实现异构压缩客户端的联邦微调，实验显示其在多基准上优于现有基线且客户端内存需求更低。

Post-Training at the Edge of Detectability: A Game-Theoretic Approach to Fine-Tuning

可检测边界处的后训练：一种用于微调的博弈论方法

Keegan Harris, Brian W. Lee, Ian Waudby-Smith, Philip Amortila, Nika Haghtalab, Michael I. Jordan

机构 * University of California, Berkeley（加州大学伯克利分校） ； Inria（法国国家信息与自动化研究所） ； École Normale Supérieure（巴黎高等师范学院） 纠错

专题命中 指令微调 ：post-training(title)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出博弈论框架解决RL微调中KL正则化系数设置问题，将均衡系数归约为KL正则化RL目标，在Qwen3-8B等模型实验中实现良好奖励-保留权衡，可用于审计开源模型API提供商。

Physically Verifiable Evidence and LLM-Based Reporting for Bearing Fault Diagnosis

基于物理可验证证据和大语言模型的轴承故障诊断报告

Yuntong Chen, Jianyu Liu, Guobin Zhao, Ziang Wang, Chao Chen, Ju Huang, Xitian Tian, Lijiang Huang

专题命中 指令微调 ：LLM(title)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对安全关键型机械系统中AI诊断的验证问题，提出诊断证据网络DENet，将输出扩展为结构化证据记录，包括分类、预测特征频率等，能检测误分类，还通过约束语言模型减少无根据声明率，提升诊断可靠性。

Small Vision-Language Models Know When They Are Wrong But Cannot Say So: A Two-Model Study of Stated versus Internal Confidence Under Realistic Image Degradation

小视觉语言模型知道自己何时出错但无法表达：在现实图像退化下对陈述置信度与内部置信度的双模型研究

M M Asif Ferdous

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究小型视觉语言模型在现实图像退化下陈述置信度与内部置信度的差异，通过评估两个模型在六种退化情况及三种严重程度下的表现，发现内部概率是更好的延迟信号，严重低光时两种信号都不可信。

Comments 15 pages, 4 figures

No Time Like the Present: Agentic Test-Time Training for LLM Agents

机不可失：大语言模型智能体的测试时训练

Yanbo Wang, Jinhua Hao, Yuze Shi, Kun Yuan, Ming Sun

机构 * Kuaishou Technology（快手科技） 纠错

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究多轮智能体情节中的连续测试时训练，提出智能体测试时训练方法，通过token级重加权减少重复文本损失，构建并发服务系统，提升了在ALFWorld和SWE-bench Lite上的成功率。

Comments 15 pages, 10 figures

Out-of-Distribution Generalization of Risk Aversion in Language Models

语言模型中风险规避的分布外泛化

Kristina Zhang, Junior Chinomso Okoroafor, Benjamin Maltbie, Andrew Lin, Abhitej Bokka, Elliott Thornley

专题命中 指令微调 ：language model(title)；SFT(abstract)；分类 cs.AI、cs.LG

AI总结 研究训练人工智能在资源方面规避风险能否泛化至高风险场景。通过引入RiskAverseOOD基准测试，用多种方法使模型在低风险时规避风险，发现其能部分泛化至高风险，不同规模和模型家族也有类似效果，但一致性不足。

Comments ICML 2026 Agents in the Wild workshop

Seeing Is Not Sharing: Some Vision-Language Models Overestimate Common Ground in Asymmetric Dialogue

看见不等于共享：一些视觉-语言模型在非对称对话中高估共同基础

Nan Li, Albert Gatt, Massimo Poesio

机构 * Utrecht University（乌得勒支大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究视觉-语言模型在对话中是否混淆潜在共享与已共享信息，发现模型过度依赖地图内容预测对齐，忽视对话历史中的基础建立过程。

Comments 17 pages, 9 figures, 8 tables; accepted to SIGDIAL 2026

Memory Depth, Not Memory Access: Selective Parametric Consolidation for Long-Running Language Agents

记忆深度，而非记忆访问：面向长时间运行语言代理的选择性参数巩固

Haoliang Han

专题命中 指令微调 ：language agent(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出选择性参数巩固机制EVAF，通过惊奇和效价门控的LoRA写入，在长时间运行中维持目标导向行为，与检索互补，实验显示在目标持久性上优于检索。

Comments Main paper with supplementary material included as ancillary file

Retrieval-Augmented Personalization with Foundation Models for Wearable Stress Detection

基于检索增强个性化与基础模型的可穿戴压力检测

Louis Simon, Mohamed Chetouani

机构 * Institut des Systèmes Intelligents et de Robotique（智能系统与机器人研究所） ； Sorbonne University（索邦大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对可穿戴压力检测中个体差异大的问题，提出基于检索增强的轻量级个性化方法，利用冻结的基础模型从用户历史中检索相似模式生成紧凑嵌入，在WESAD数据集上准确率提升3.92%，宏F1提升4.76%，接近监督微调性能且无需标签数据。

Matching Tasks to Objectives: Fine-Tuning and Prompt-Tuning Strategies for Encoder-Decoder Pre-trained Language Models

匹配任务与目标：编码器-解码器预训练语言模型的微调和提示调优策略

Ahmad Pouramini, Hesham Faili

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出MTO框架，通过匹配任务与预训练目标，在少样本和全数据集场景下显著提升编码器-解码器模型的生成与问答性能，性能增益超120%。

Journal ref Appl Intell 54(20):9783-9810, 2024

Scheduling Thoughts: Learning the Order of Thought in Diffusion Language Models

调度思维：在扩散语言模型中学习思维的顺序

Jiawei Xu, Minghui Liu, Aakriti Agrawal, Yifan Chen, Furong Huang

机构 * University of Maryland, College Park（马里兰大学帕克分校） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出自感知调度（SAS），通过策略优化学习扩散语言模型中的去掩码顺序，显著提升Sudoku和数学推理任务的生成质量。

PromptMN: Pseudo Prompting Language

PromptMN: 伪提示语言

Enkhzol Dovdon

机构 * ICT Group（ICT集团） 纠错

专题命中 指令微调 ：prompting(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出PromptMN，一种伪提示领域特定语言，通过紧凑的%前缀类型指令注释自然语言，减少上下文歧义，提升人机交互的清晰度和可审查性。

Comments 32 pages, 2 figures

Clay-CNN Hybrids: Leveraging Geospatial Foundation Models as Auxiliary Context for Landslide Detection

Clay-CNN混合模型：利用地理基础模型作为滑坡检测的辅助上下文

Huong Binh Vu

机构 * Harvard University（哈佛大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对滑坡检测中的极端类别不平衡问题，提出将地理基础模型Clay v1.5作为辅助上下文注入U-Net瓶颈的混合方法，在Landslide4Sense基准上达到64.5% F1，优于纯Clay或U-Net基线。

Comments 9 pages, 7 figures, 2 tables

Think-to-Personalize: Unifying Reasoning and Retrieval for User-Centric Personalized Dense Retrieval

思考以个性化：统一推理与检索的以用户为中心的个性化密集检索

Angqing Jiang, Gaoming Zhang, Jianchun Song, Kena Qi, Dayao Chen, Wei Lin, Defu Lian

专题命中 指令微调 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出TTP框架，将用户意图推理与密集检索统一，经两阶段训练后在电商场景实验及在线测试中均取得优于基线的效果，提升了订单量。

Comments Accepted at CIKM 2026. 11 pages, 8 figures, and 9 tables

TransAnyText: Translating Arbitrary Text in E-commerce Images via Structured Visual Generation

TransAnyText：通过结构化视觉生成实现电商图像中任意文本的翻译

Xiaoan Liu, Lichen Ma, Zipeng Guo, Yu He, Xiaoyan Su, Shaojie Guo, Hao Yang, Jingling Fu, Xiaolong Fu, Zhen Chen, Yu Guo, Fei Wang, Xinyi Liu, Yongjun Zhang, Ke Zhang, Junshi Huang

专题命中 指令微调 ：SFT(abstract,abstract_cn)；language model(abstract)；post-training(abstract)

AI总结 本文提出TransAnyText框架，将电商图像文本翻译转化为生成可渲染HTML补丁，经三阶段后训练优化，在多基准上表现优于对比方法，为跨境电商图像翻译提供有效可控的解决方案。

LOCAL: Enabling Learning On-device Contiguously for Agent LLMs

LOCAL：支持智能体大语言模型在设备上进行连续学习

Xinxin Liu, Jiaxin Li, Zibo Wang, Yun Ji, Zhangqi Zhu, Qing Hu, Zhibin Wang, Rong Gu, Sheng Zhong, Chen Tian

专题命中 指令微调 ：LLM(summary_cn,abstract)

AI总结 LOCAL是首个支持LLM智能体设备端连续学习的单GPU运行时，通过协同组件共享状态实现一致性，在7B级模型、24 GB单GPU上显著降低多项性能指标，保障学习与推理的连续性。

Comments 16 pages, 8 figures

Spatial Message Passing in Language Space for Pathology Image Interpretation

面向病理图像解读的语言空间空间消息传递

Jing-Cheng Yang, Hao-Jung Wang, Jinhao Du, Yang Hu, Ming-shan Tsai, Jens Rittscher, Bin Li

机构 * National Taiwan University（台湾大学） ； University of Oxford（牛津大学） ； ZYTCA Limited（ZYTCA有限公司） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出SLMP框架，在语言空间对病理图像执行空间推理，无需微调MLLM，提升肿瘤描述准确率，缩小通用与病理专用MLLM的性能差距。

Comments Accepted at MICCAI 2026 Workshop (Oral)

On-Policy Self-Distillation for Multi-Dialect ASR: Mastering Dialects, Retaining Mandarin

面向多方言自动语音识别的策略内自蒸馏：掌握方言，保留普通话

Shuiyuan Wang, Bingshen Mu, Pengshen Zhang, Chengyou Wang, Yujie Liao, Chengdong Liang, Binbin Zhang, Qiangze Feng, Lei Xie

专题命中 指令微调 ：SFT(summary_cn,abstract)

AI总结 本研究针对ASR模型方言识别效果有限且直接适配易降低普通话准确率的问题，提出策略内自蒸馏（OPSD）方法，结合CPT、SFT优化Qwen3-ASR-1.7B，在不降低普通话识别能力的同时提升了多方言识别效果。

LookAgain: Closed-Loop GUI Grounding with Visually Grounded Reflection

LookAgain：基于视觉反思的闭环GUI定位方法

Renshan Zhang, Haoyang Meng, Yixiao He, Rui Shao, April Hua Liu, Liqiang Nie

专题命中 指令微调 ：SFT(summary_cn,abstract)

AI总结 本文针对现有GUI定位方法在小目标等场景性能骤降的问题，提出LookAgain闭环GUI定位器，通过预测后视觉反思的多轮过程结合SFT与GRPO训练，在相关基准上达到SOTA性能。

MoRSE: Task-Oriented Multi-Agent System with Mixture of Role-Subtask Experts

MoRSE：面向任务的混合角色-子任务专家多智能体系统

Peiwen Li, Shiyang Zhang, Yangtian Zhang, Sizhuang He, David van Dijk, Rex Ying

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 MoRSE是一种面向任务的多智能体系统，通过角色-子任务专家混合机制与分层组相对策略优化，在代码生成基准上提升了任务及逐步性能，且专业化增益可跨任务类别与领域泛化。

Comments 25 pages, 8 figures, 9 tables

FiRE: Enhancing MLLMs with Fine-Grained Context Learning for Complex Image Retrieval

FiRE：利用细粒度上下文学习增强多模态大语言模型（MLLMs）以实现复杂图像检索

Bohan Hou, Haoqiang Lin, Xuemeng Song, Haokun Wen, Meng Liu, Yupeng Hu, Xiangyu Zhao

机构 * Shandong University（山东大学） ； City University of Hong Kong（香港城市大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Shandong Jianzhu University（山东建筑大学） 纠错

专题命中 指令微调 ：large language model(abstract,abstract_cn)；language model(abstract,abstract_cn)

AI总结 本研究针对MLLMs在复杂图像检索任务中细粒度建模不足的问题，提出自动化细粒度多模态五元组数据集构建流程与两阶段微调策略，在零样本设置下于五个数据集上取得优于现有方法的性能。

Journal ref Proceedings of the ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR 2025)

Beyond Action Imitation: Learning a Decision-Aware User Simulator for Online Advertising

超越动作模仿：面向在线广告的决策感知用户模拟器学习

Zipeng Chen, Jiaer Zheng, Xiangyang Xu, Xinyu Lin, Zhaobin Wang, Zhaohui Liu, Qianjin Xiang, Xiaoyu Zhao, Zhuozhen Yu, Guangshuo Wang, Daxing Chen, Junwei Pan, Zhangbin Zhu, Chengguo Yin, Hao Chen, Tat-Seng Chua, Haijie Gu, Jie Jiang

专题命中 指令微调 ：LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)

AI总结 针对现有用户模拟器仅基于单领域交互模仿动作的缺陷，本文提出决策感知用户模拟器DASH，通过上下文工程、蒸馏思考轨迹与定制规则奖励模型，在腾讯广告数据上验证了其多维度优势。

Comments 23 pages, 10 figures, 9 tables

Toward Alias-Free Channel Extrapolation in Upper Mid-Band Systems: A Spatial-Frequency-Temporal Tensor Learning Approach

迈向中高频段系统中无别名信道外推：一种空间 - 频率 - 时间张量学习方法

Jiawei Zhuang, Hongwei Hou, Yafei Wang, Xinping Yi, Wenjin Wang, Jiangzhou Wang, Björn Ottersten

专题命中 指令微调 ：SFT(summary_cn,abstract)

AI总结 针对中高频段MIMO系统导频开销大问题，提出张量结构多域信道外推框架，利用有限散射特性恢复CSI。开发基于塔克的SFT域信号模型，揭示ADD域混叠问题，引入支持先验辅助去混叠机制，提出TANN，经训练得统一模型，数值结果验证其有效性和泛化能力。

Comments This work has been submitted to the IEEE for possible publication

MADA-RL: Multi-Agent Debate-Aware Reinforcement Learning for Parameter-Efficient Reasoning in Compact Models

MADA-RL：用于紧凑模型中参数高效推理的多智能体辩论感知强化学习

Martino M. L. Pulici, Cuong Xuan Chu, Evgeny Kharlamov, Zifeng Ding, Volker Tresp, Yunpu Ma

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究针对紧凑模型训练成本高问题，提出MADA-RL框架，将其分为生成器和评论家角色，用辩论感知信号训练，通过LoRA微调少量参数。核心是反事实评论家优势，提高了模型准确率，在数学推理基准测试中有显著效果。

Comments 20 pages, 3 figures, 9 tables, 2 algorithms, under review at TMLR