语言大模型 / LLM

Human Label Variation as Stable Signal: Learning Annotator-Specific Explanation Behavior via Cross-Annotator Preference Optimization

人类标注变异作为稳定信号：通过跨标注者偏好优化学习标注者特定的解释行为

Beiduo Chen, Pingjun Hong, Ziyun Zhang, Benjamin Roth, Anna Korhonen, Barbara Plank

机构 * MaiNLP ； Center for Information and Language Processing（信息与语言处理中心） ； LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； University of Vienna（维也纳大学） ； LTL ； University of Cambridge（剑桥大学） 纠错

专题命中 指令微调 ：preference optimization(title,abstract)；SFT(abstract,abstract_cn)；LLM(abstract_cn)；large language model(abstract)

AI总结 研究大语言模型能否学习并复现标注者特定的标签-解释行为，提出跨标注者偏好优化（CAPO）方法，通过对比目标标注者与其他有效但非目标标注者的响应来提升模仿和归因能力。

Comments Accepted by EMNLP 2026 Main, 46 pages, 20 figures

Learning to Use Tools: Reinforcement Learning for Tool-Integrated Mathematical Reasoning

学习使用工具：用于工具集成数学推理的强化学习

Minghui Xu, Zi Wang

机构 * Stanford University（斯坦福大学） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；LLM(summary_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究针对Countdown任务，构建工具使用的SFT数据集并采用多种强化学习方法，结合计算器工具集成提升LLM数学推理，使pass@1达66.0%，显著降低计算与验证错误。

When Linguistic and Internal Confidence Diverge in Large Language Models

当大型语言模型的语言置信度与内部置信度出现偏差时

Hefan Zhang, Bingquan Zhang, Ming Cheng, Saeed Hassanpour, Weicheng Ma, Soroush Vosoughi

机构 * Dartmouth College（达特茅斯学院） ； Oakland University（奥克兰大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究对比大型语言模型的语言置信度与内部置信度，发现二者常出现偏差，提出需用多维度诊断评估语言置信度后再用于下游可靠性流程。

OpenStamp: A Watermark for Open-Source Language Models

OpenStamp：面向开源语言模型的水印技术

Miroojin Bakshi, Saksham Rastogi, Danish Pruthi

机构 * Indian Institute of Science（印度科学学院） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究提出OpenStamp水印技术，通过修改开源语言模型的最终投影层嵌入水印，检测性能优、模型能力下降小，对改写攻击鲁棒且难去除，还发布了相关代码与水印模型。

Comments Published at COLM 2026

AIM: Anchor Identity Features, Then Match for Multimodal Large Language Model Unlearning

AIM：锚定身份特征，再匹配以实现多模态大语言模型的遗忘

Wonjun Lee, Jaehyuk Jang, Kangwook Ko, Hee-Seon Kim, Changick Kim

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院（KAIST）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 针对删除阶段无法获取保留图像的多模态大语言模型身份遗忘场景，提出两阶段方法AIM，通过通用视觉提示锚定遗忘目标并结合Fisher约束，实现身份遗忘的同时保留非删除身份、先验知识与视觉感知。

Comments Accepted to Findings of the Association for Computational Linguistics: EMNLP 2026

Regime-Aware Portfolio Management via Retrieval-Augmented LLM-Guided Expert Switching

基于检索增强大语言模型引导的专家切换的状态感知投资组合管理

Ahmad Asadi, Reza Safabakhsh

机构 * Amirkabur University of Technology（阿米尔卡比尔理工大学） 纠错

专题命中 指令微调 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 本研究针对非平稳金融市场，提出检索增强LLM引导的专家切换框架，经多市场实验验证其在累计收益、夏普比率上优于对比策略，为自适应投资组合管理提供有效方案。

ContextLeak: Exfiltrating LLM Agent Context via Malicious Tools

ContextLeak：通过恶意工具窃取大语言模型智能体的上下文

Yuqi Jia, Ruiqi Wang, Patrick Li, Yuepeng Hu, Peinian Li, Neil Gong

专题命中 指令微调 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 本研究提出ContextLeak恶意工具攻击，通过强化学习设计工具名称与描述诱导LLM智能体泄露上下文，其在影子用户与受害者上下文差异大时仍保持高有效性，且性能优于现有同类攻击。

NL2AGBench: Benchmarking LLM Auto-Formalization for AlphaGeometry

NL2AGBench：面向AlphaGeometry的大语言模型自动形式化基准测试

Samuel Xiao, Judy Song, Rory Hu, Ziliang Zong

机构 * Valley Christian High School（谷基督高中） ； Vandegrift High School（范德格里夫特高中） ； Groton School（格罗顿学校） ； Texas State University（德克萨斯州立大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 该研究提出NL2AGBench基准，评估LLMs将英文几何问题转换为AlphaGeometry兼容形式化表示的能力，发现闭源模型可实现80%以上可执行翻译率，开源模型表现欠佳，还提出错误分类法并验证了多种缓解策略的有效性。

CoRe-MoE: Compact Reusable MoE for Continual Multimodal Instruction Tuning

CoRe-MoE：用于持续多模态指令调优的紧凑可混合混合专家模型

Runze Liu, Naibin Gu, Mingxu Ai, Yuqing Li, Peng Fu, Zheng Lin, Weiping Wang

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对持续多模态指令调优中 LoRA-MoE 参数开销大的问题，提出 CoRe-MoE 框架，通过复用方向基减少参数，在 MLLM 上性能提升达 5.90 点且参数仅为顺序 LoRA 的 1%。

Comments Accepted to Findings of EMNLP 2026

CRAM: Centroid-Routing and Adaptive MoE for Multimodal Continual Instruction Tuning

CRAM：面向多模态持续指令调优的质心路由与自适应MoE

Jun-Tao Tang, Zhen-Hao Xie, Yu-Cheng Shi, Da-Wei Zhou

机构 * School of Artificial Intelligence, Nanjing University, China（南京大学人工智能学院） ； State Key Laboratory of Novel Software Technology, Nanjing University, China（南京大学新型软件技术国家重点实验室） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出CRAM方法，通过将任务特定模式隔离到独立模块、自适应秩实例化动态分配参数、质心路由激活现有专家以及正交惩罚约束更新方向，解决了多模态持续指令调优中任务竞争导致遗忘和参数效率低下的问题。

Comments Accepted to EMNLP 2026 (Main Conference). Code is available at this https URL (https://github.com/LAMDA-CL/EMNLP2026-CRAM)

Long Story Short: Story-level Video Understanding from 20K Short Films

长话短说：基于2万部短片的故事级视频理解

Ridouane Ghermi, Xi Wang, Vicky Kalogeiton, Ivan Laptev

机构 * Ecole Polytechnique（巴黎综合理工学院） ； IP Paris（巴黎理工学院） ； MBZUAI（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；language model(abstract)；instruction tuning(abstract)；pretraining(abstract)

AI总结 针对现有视频理解数据集的局限，本文构建了2万部业余电影组成的SF20K数据集及配套问答基准，验证其数据泄露有限，证明指令微调可提升VLMs在长期视频理解上的性能。

Comments International Journal of Computer Vision (IJCV)

VERA-8B: Evidence-Grounded Audit Risk Reasoning from SEC Filings

VERA-8B：基于SEC文件的证据支撑审计风险推理模型

Menghan Liu, Elynn Chen

机构 * New York University（纽约大学） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究推出端到端审计推理系统VERA-8B，统一SFT与GRPO实现证据支撑审计推理，引入弃权机制，设计AuditBridge实现原始文件到可用报告的转换，性能优于基线模型。

Acquire, Repair, Preserve: A Diagnosis-Guided Post-Training Recipe for Small-Model Dialogue Game Agents

获取、修复、保留：面向小模型对话游戏智能体的诊断引导式后训练方案

Nan Li

机构 * Utrecht University（乌得勒支大学） 纠错

专题命中 指令微调 ：post-training(title)；SFT(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本研究针对小模型对话游戏智能体提出诊断引导式后训练方案，通过三步训练在LM Playschool Challenge中大幅提升了模型的域内对话游戏表现，同时保留了通用静态性能。

Comments 14 pages, 14 tables; Accepted to the LM Playschool Workshop at EMNLP 2026; HF model card: this https URL (https://huggingface.co/chnln/Qwen3.5-2B-playpen-playornotplay)

Efficient Online Continual Foundation Model Fine-Tuning for Predictive Process Monitoring

面向预测过程监控的高效在线持续基础模型微调

Sjoerd van Straten, Marwan Hassani

机构 * Eindhoven University of Technology（埃因霍温理工大学） ； University of Wuppertal（伍珀塔尔大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.LG

AI总结 针对PPM领域基础模型在线持续微调的冷启动问题，提出COMPASS框架，通过自适应子空间与漂移检测技术实现更优性能，且计算开销可接受。

Explainable Diabetic Retinopathy Classification Using Vision Foundation Models

基于视觉基础模型的可解释糖尿病视网膜病变分类

Abhishek Verma, Anila Krishna, Abhishek Gajanan Bankar, Juan Miguel Lopez Alcaraz

机构 * Carl von Ossietzky Universität Oldenburg（卡尔·冯·奥西茨基奥尔登堡大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本研究提出基于视觉基础模型的可解释DR分类框架，评估DINOv2等模型及LoRA等训练策略，在ODIR、APTOS等数据集上取得良好分类性能，验证了模型注意力与临床病灶的相关性。

Comments 11 pages, 4 figures, source code under this https URL (https://github.com/UOLMDA26/retinopathy_vision_foundational)

G-Loss: Graph-Guided Fine-Tuning of Language Models

G-Loss：图引导的语言模型微调

Aditya Sharma, Vinti Agarwal, Rajesh Kumar

机构 * BITS Pilani（BITS 派拉尼） ； Bucknell University（巴克内尔大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出G-Loss损失函数，通过构建文档相似度图并利用半监督标签传播捕捉全局语义结构，引导语言模型学习更具判别性和鲁棒性的嵌入，在多个分类任务上提升准确率并加速收敛。

Comments 20 pages, Learning on Graphs Conference (LoG 2025)

Moirae: A Multimodal Agent Collaborative Framework for Dynamic Android Malware Detection

Moirae：用于动态Android恶意软件检测的多模态智能体协作框架

Xueying Zeng, Youquan Xian, Yanze Li, bowen hu, Ziqi Shan, Xu Luo, DanPing Yang, Peng Liu, Lei Cui, Bo Li

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 该研究提出多模态智能体协作框架Moirae，通过融合多维度运行时证据实现动态Android恶意软件检测，在未见过的数据集上零样本准确率达90.06%，优于现有基线且抗概念漂移。

First Make It Playable, Then Make It Good: Staged Interaction Learning for Small Dialogue-Game Agents

先让它可玩，再让它变好：面向小型对话游戏智能体的分阶段交互学习

Syed Mahbubul Huq, Pranava Madhyastha

机构 * City, University of London（伦敦城市大学） ； The Alan Turing Institute（艾伦·图灵研究所） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出Qwen-GuidePlay-2B模型，通过分阶段微调方法训练小型对话游戏智能体，在Playpen挑战赛中取得优异成绩，证明精心筛选策略可让小型模型实现高性能。

Comments Accepted at the LMP Challenge (EMNLP 2026 Workshop)

Token-Budget Distillation: Transferring Full-Token Semantics to Compressed Video Vision-Language Models

令牌预算蒸馏：将全令牌语义迁移至压缩视频视觉语言模型

Xiaoyang Guo, Guoping Luo, Jusheng Zhang, Keze Wang, Wenhao Wang

机构 * Sun Yat-sen University（中山大学） ； The University of British Columbia（不列颠哥伦比亚大学） ； Vast Intelligence Lab（威斯特智能实验室） 纠错

专题命中 指令微调 ：language model(title,abstract)

AI总结 本文提出令牌预算蒸馏（TBD）框架，通过双路径师生设计结合LoRA适配器与FlashVID压缩，在固定令牌预算下适配视频VLMs，大幅压缩令牌时仍能保留高语义性能，在多基准测试中优于仅压缩基线。

Comments ACM MM 2026

FISGuard: Defending Against Membership Inference via Fixed Input Subspaces

FISGuard：通过固定输入子空间防御成员推理攻击

Haocheng Jiang, Hua Shen

专题命中 指令微调 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对ProjRes利用梯度几何结构的成员推理攻击，本文提出FISGuard防御方法，通过固定公开数据构建的低维表示子空间，在保持模型效用的同时有效降低攻击效果，实现了隐私与效用的良好平衡。

CommerceVibe: Learning to Design E-Commerce Creatives as Executable Visual Code via Dual-Feedback Reinforcement Learning

CommerceVibe：通过双反馈强化学习学习将电商创意设计为可执行视觉代码

Yajiao Xu, Jin Zhang, Jiangbo Ai, Tao Jiang, Mo Xu, Lina Huang, Chengfu Huo

机构 * Tongji University（同济大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；language model(abstract)

AI总结 该研究提出CommerceVibe，将电商创意转化为可执行视觉代码，通过双反馈强化学习优化生成效果，在基准测试中优于仅监督微调的变体及外部模型，实现可控可编辑的规模化电商创意生产。

Comments 20 pages, 13 figures, 12 tables; includes supplementary material

Aligning Agentic World Models via Knowledgeable Experience Learning

通过知识性经验学习对齐代理世界模型

Baochang Ren, Yunzhi Yao, Rui Sun, Shuofei Qiao, Ningyu Zhang, Huajun Chen

机构 * Zhejiang University（浙江大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 WorldMind通过知识性经验学习对齐代理世界模型，解决物理模拟中的幻觉问题，实现跨环境的高效迁移。

Comments EMNLP 2026 Findings

Why are all LLMs Obsessed with Japanese Culture? On the Hidden Cultural and Regional Biases of LLMs

为什么所有大语言模型（LLMs）都痴迷于日本文化？关于大语言模型的隐藏文化与区域偏见

Joseba Fernandez de Landa, Carla Perez-Almendros, Jose Camacho-Collados

专题命中 指令微调 ：LLM(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本研究构建了涵盖24种语言的文化相关开放问题（CROQ）数据集，发现LLMs在文化问题回答中存在偏向日本等国家的区域偏见，且该偏见在监督微调后出现。

From Documents to Reasoning: A Validated Synthetic Data Pipeline and Semantic-Aware Fine-Tuning for Financial Numerical Reasoning

从文档到推理：面向金融数值推理的经验证合成数据流水线与语义感知微调

Lokendra Birla, Milind Savagaonkar, Visnu Srinivasan, Sowmya Rasipuram, Shubhashis Sengupta

机构 * Accenture Labs（埃森哲实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究针对金融数值推理任务，提出经验证合成数据流水线与语义感知微调方法，结合QLoRA、新型评估指标及改进损失函数，在ConvFinQA数据集上实现问答准确率显著提升。

Rubric-to-Code Credit Assignment for Reinforcement Learning

用于强化学习的从评分规则到代码的信用分配

Rui Jin, Jikai Chen, Yihan Chen, Hao Zhou, Demin Zhu, Kaichen Yang, Dong Wang, Chenyi Zhuang

机构 * Inclusion AI, Ant Group（蚂蚁集团Inclusion AI） ； Zhongnan University（中南大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对网页应用代码生成中信用分配被削弱的问题，提出RCCA强化学习框架，构建分层奖励与归因对齐机制，使Ling-RCCA-Flash在MiniAppBench和ArtifactsBench上创出新的最优表现。

ReToolSQL: Agentic Reinforcement Learning for Robust Text-to-SQL

ReToolSQL：用于鲁棒文本到SQL的智能体强化学习

Pratik Kakkar, Chandra Dhir, Ravi Shankar, Pareekshit Reddy Gaddam, Anup Shirgaonkar

机构 * JPMorganChase（摩根大通） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.AI

AI总结 ReToolSQL为文本到SQL提出两阶段训练框架，结合监督微调与智能体强化微调，在BIRD-SQL基准上取得高执行准确率，登顶单模型开发集排行榜，是实现企业级鲁棒文本到SQL的可行方案。

How Architecture and Training Affect TPC Representations Across Experiments

架构与训练如何影响跨实验的TPC表示

Tyler Wheeler, Michelle P. Kuchera, Raghuram Ramanujan, William Sieland, Ryan Krupp, Yassid Ayyad, Daniel Bazin, Connor L. Cross, Hoi Yan Ian Heung, Andrew J. Jones, Ruchi Mahajan, Saiprasad Ravishankar, Pranjal Singh, Benjamin Votaw, Chris Wrede

机构 * Michigan State University（密歇根州立大学） ； Grand Valley State University（大峡谷州立大学） ； Davidson College（戴维森学院） ； University of Kentucky（肯塔基大学） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.LG

AI总结 本研究以TPC数据为测试平台，通过冻结编码器的探针方法，发现架构是TPC嵌入中任务相关结构的主要来源，其诱导的表示可跨实验和探测器系统复用。

LV-ROVER-MLT: Low-Resource Maltese OCR by Synthetic Fine-Tuning and Multi-Stream Arbitration

LV-ROVER：用于马耳他语段落OCR的多流Tesseract投票

Adam Darmanin

机构 * Independent Researcher（独立研究员） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 针对马耳他语OCR资源匮乏的问题，提出合成训练管道和5流Tesseract LV-ROVER集成，在422段落基准上将字符错误率从0.0234降至0.00700（降幅70%），其中集成识别贡献44%的改进。

Comments 10 pages, including 8 page and references plus appendices. Working paper. Updated with DocEng 2026 Maltese OCR competition results; LV-ROVER-MLT placed first with held-out CER 0.0074

MSCGC-KAN: Multi-scale Causal Graph Convolution and KAN-inspired Analytic-basis Mapping for EEG Emotion Recognition

MSCGC-KAN: 用于脑电情感识别的多尺度因果图卷积与Kolmogorov-Arnold特征映射

Haoliang Gong, Qingshan She, Jiale Xu, Yunyuan Gao, Xugang Xi

机构 * School of Automation, Hangzhou Dianzi University, Hangzhou 310018, China（杭州电子科技大学自动化学院） ； Zhejiang Provincial Key Laboratory of Brain Computer Collaborative Intelligence Technology（浙江省脑机协同智能技术与应用重点实验室） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 本文提出MSCGC-KAN方法，通过多尺度因果图卷积和Kolmogorov-Arnold特征映射构建结构化任务头，在预训练CBraMod骨干上增强多尺度时间建模、可学习通道间连接建模和非线性判别映射，显著提升脑电情感识别性能。

Activation Boundary Matching: Task-Informed Initialization for Low-Rank Adaptation

ABM-LoRA: 激活边界匹配用于低秩适应中的快速收敛

Dongha Lee, Jinhee Park, Minjun Kim, Junseok Kwon

机构 * Chung-Ang University（Chung-Ang 大学） ； Korea Electronics Technology Institute (KETI)（韩国电子技术研究所） 纠错

专题命中 指令微调 ：instruction tuning(abstract)

AI总结 ABM-LoRA通过激活边界匹配提升低秩适应的收敛速度，适用于多种任务和架构，实现最高精度和效率。

Comments 20 pages, 12 figures. v2: updated title, abstract, and author information; expanded experiments