语言大模型 / LLM

Exploring the Potential of Large Language Models in Simulink-Stateflow Mutant Generation

探索大型语言模型在Simulink-Stateflow变异体生成中的潜力

Pablo Valle, Shaukat Ali, Aitor Arrieta

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 本文利用大型语言模型生成高质量的Simulink-Stateflow变异体，显著提高了生成效率和变异体质量。

SGM: Safety Glasses for Multimodal Large Language Models via Neuron-Level Detoxification

SGM: 通过神经层面的净化为多模态大语言模型提供安全眼镜

Hongbo Wang, MaungMaung AprilPyone, Isao Echizen

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 SGM通过神经层面的净化技术，有效降低多模态大语言模型的毒性，同时保持生成流畅性和推理能力。

Unifying Multiple Foundation Models for Advanced Computational Pathology

统一多种基础模型以推进高级计算病理学

Wenhui Lei, Yusheng Tan, Anqi Li, Hanyu Chen, Hengrui Tian, Ruiying Li, Zhengqun Jiang, Fang Yan, Xiaofan Zhang, Shaoting Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Washington University in St. Louis（华盛顿大学） ； University of Science and Technology Beijing（北京科技大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Department of Surgical Oncology and General Surgery, Key Laboratory of Precision Diagnosis and Treatment of Gastrointestinal Tumours, Ministry of Education, The First Hospital of China Medical University（外科肿瘤科和普通外科，国家教育委员会胃肠道肿瘤精准诊断与治疗重点实验室，中国医科大学第一医院） ； Shanghai Innovation Institute（上海创新研究院） ； Sensetime Research（商汤科技研究院） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；pretraining(abstract)

AI总结 Shazam通过在线整合多个预训练病理基础模型，实现高效且可扩展的计算病理学应用，优于单个模型性能。

Comments 50 pages, 5 main figures

Beyond Musical Descriptors: Extracting Preference-Bearing Intent in Music Queries

超越音乐描述：在音乐查询中提取具有偏好的意图

Marion Baranes, Romain Hennequin, Elena V. Epure

机构 * Deezer Research（Deep Music 研究所） ； Idiap Research Institute（Idiap 研究所） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出MusicRecoIntent语料库，通过标注音乐请求中的描述以提取用户意图，研究LLM在提取音乐描述中的表现，并为改进音乐理解系统提供基准。

Comments Accepted at NLP4MusA 2026 (4th Workshop on NLP for Music and Audio)

A Synthetic Data-Driven Radiology Foundation Model for Pan-tumor Clinical Diagnosis

面向肿瘤临床诊断的合成数据驱动放射学基础模型

Wenhui Lei, Hanyu Chen, Zitian Zhang, Luyang Luo, Qiong Xiao, Yannian Gu, Peng Gao, Yankai Jiang, Ci Wang, Guangtao Wu, Tongjia Xu, Yingjie Zhang, Pranav Rajpurkar, Xiaofan Zhang, Shaoting Zhang, Zhenning Wang

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 PASTA通过合成数据驱动的方法，构建了跨肿瘤放射学基础模型，实现了45项肿瘤学任务的先进性能，并在临床场景中提升了诊断效率和准确性。

Comments 63 pages, 7 figures

Quantifying Model Uniqueness in Heterogeneous AI Ecosystems

在异构AI生态系统中量化模型独特性

Lei You

机构 * Department of Engineering Technology, Technical University of Denmark（技术大学丹麦学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；分类 cs.AI

AI总结 本文提出基于ISQED的统计框架，用于量化异构AI生态系统中模型的独特性，通过PIER指标评估模型行为的不可约简性，并建立理论基础与实验验证。

SD-MoE: Spectral Decomposition for Effective Expert Specialization

SD-MoE：通过谱分解实现有效的专家专业化

Ruijun Huang, Fang Dong, Xin Zhang, Hengjie Cao, Zhendong Huang, Anrui Chen, Jixian Zhou, Mengyi Chen, Yifeng Yang, Mingzhi Dong, Yujiang Wang, Jinlong Hou, Qin Lv, Robert P. Dick, Yuan Cheng, Fan Yang, Tun Lu, Chun Zhang, Li Shang

机构 * College of Computer Science and Artificial Intelligence, Fudan University, Shanghai, China（复旦大学计算机科学与人工智能学院） ； University of Bath, Bath, United Kingdom（巴斯大学） ； Oxford Suzhou Centre for Advanced Research, Suzhou, China（牛津苏泽研究中心） ； Department of Electrical Engineering and Computer Science, University of Michigan（密歇根大学电气工程与计算机科学系） ； Shanghai Innovation Institute, Shanghai, China（上海创新研究院） ； Department of Computer Science, University of Colorado Boulder, Colorado, USA（科罗拉多大学博尔德分校计算机科学系） ； Research Institute of Tsinghua University in Shenzhen, Shenzhen, China（清华大学深圳研究院） ； Greater Bay Area National Center of Technology Innovation, Research Institute of Tsinghua University in Shenzhen, Shenzhen, China（粤港澳大湾区国家技术创新中心，清华大学深圳研究院） ； School of Microelectronics, Fudan University, Shanghai, China（复旦大学微电子学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 SD-MoE通过谱分解解决MoE中专家专业化不足的问题，提升模型性能并兼容多种现有架构。

EVA: Towards a universal model of the immune system

EVA：朝着免疫系统通用模型迈进

Scienta Team, Ethan Bandasack, Vincent Bouget, Apolline Bruley, Yannis Cattan, Charlotte Claye, Matthew Corney, Julien Duquesne, Karim El Kanbi, Aziz Fouché, Pierre Marschall, Francesco Strozzi

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 EVA是首个跨物种多模态免疫学基础模型，通过整合转录组和组织学数据，提升免疫疾病研究的转化应用能力。

Stratified Sampling for Model-Assisted Estimation with Surrogate Outcomes

分层抽样用于模型辅助估计的替代性结果

Reagan Mozer, Nicole E. Pashley, Luke Miratrix

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文提出分层抽样方法，用于模型辅助估计中替代性结果的高效利用，通过优化分配规则提升估计效率。

Soft Contamination Means Benchmarks Test Shallow Generalization

软污染数据的基准测试浅层泛化

Ari Spiesberger, Juan J. Vazquez, Nicky Pochinkov, Tomáš Gavenčiak, Peli Grietzer, Gavin Leech, Nandi Schoots

机构 * Arb Research（Arb研究） ； Charles University, Prague（查尔斯大学） ； University of Oxford（牛津大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究发现训练数据中存在语义重复污染，导致基准测试性能提升可能反映真实能力提升和测试数据积累的综合作用。

Explaining and Mitigating the Modality Gap in Contrastive Multimodal Learning

解释并缓解对比多模态学习中的模态差距

Can Yaras, Siyi Chen, Peng Wang, Qing Qu

机构 * Department of Electrical Engineering \& Computer Science, University of Michigan 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过分析对比多模态学习中的模态差距成因，提出通过温度调度和模态交换等策略缓解模态差距，从而提升多模态任务性能。

Comments The first two authors contributed equally to this work

The Mediomatix Corpus: Parallel Data for Romansh Language Varieties via Comparable Schoolbooks

中庸语语料库：通过可比教科书构建罗曼什语言变体的平行数据

Zachary Hopton, Jannis Vamvas, Andrin Büchler, Anna Rutkiewicz, Rico Cathomas, Rico Sennrich

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL

AI总结 本文提出首个罗曼什方言平行语料库，通过教科书构建，用于罗曼什方言间的机器翻译研究。

A Calibrated Memorization Index (MI) for Detecting Training Data Leakage in Generative MRI Models

一种校准的记忆指数（MI）用于检测生成磁共振成像模型中的训练数据泄漏

Yash Deo, Yan Jia, Toni Lassila, Victoria J Hodge, Alejandro F Frang, Chenghao Qian, Siyuan Kang, Ibrahim Habli

机构 * Department of Computer Science, University of York（约克大学计算机科学系） ； School of Computer Science, University of Leeds（利兹大学计算机科学学院） ； Department of Computing and Mathematics, Manchester Metropolitan University（曼彻斯特 Metropolitan 大学计算与数学系） ； Department of Computer Science, University of Manchester（曼彻斯特大学计算机科学系） ； Department of Cardiovascular Sciences, KU Leuven（鲁汶大学心血管科学系） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出了一种校准的记忆指数（MI）用于检测生成磁共振成像模型中的训练数据泄漏，通过图像特征提取和多层白化最近邻相似性分析，实现对复制数据的高效检测。

Comments Accepted in ISBI 2026

MLLM-CTBench: A Benchmark for Continual Instruction Tuning with Reasoning Process Diagnosis

MLLM-CTBench: 一个用于持续指令微调的基准，包含推理过程诊断

Haiyun Guo, Zhiyan Hou, Yandu Sun, Jinghan He, Yu Chen, Yuzhe Zhou, Yuheng Jia, Jinqiao Wang, Tat-Seng Chua

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Southeast University（东南大学） ； School of Computing, National University of Singapore（新加坡国立大学计算机学院） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 MLLM-CTBench提出一个用于持续指令微调的基准，通过多维评估框架和强化微调方法，分析跨任务知识保留和灾难性遗忘问题。

Comments under review

Finetuning Large Language Models for Automated Depression Screening in Nigerian Pidgin English: GENSCORE Pilot Study

基于大型语言模型的尼日利亚皮钦英语自动化抑郁症筛查：GENSCORE试点研究

Isaac Iyinoluwa Olufadewa, Miracle Ayomikun Adesina, Ezekiel Ayodeji Oladejo, Uthman Babatunde Usman, Owen Kolade Adeniyi, Matthew Tolulope Olawoyin

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究利用微调的大型语言模型，针对尼日利亚皮钦英语开发自动化抑郁症筛查工具，GPT-4.1在准确率和文化适应性上表现最佳，为资源受限地区心理健康应用提供基础。

Comments 10 pages, 1 figure, 4 tables

PLLM: Pseudo-Labeling Large Language Models for CAD Program Synthesis

PLLM：基于伪标签的大型语言模型用于CAD程序合成

Yuanbo Li, Dule Shu, Yanying Chen, Matt Klenk, Daniel Ritchie

机构 * Brown University（布朗大学） ； Toyota Research Institute（丰田研究机构） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 PLLM通过伪标签技术，利用预训练的大语言模型和未标记的3D形状数据，提升CAD程序合成的几何保真度和程序多样性。

RAISE: Reinforced Adaptive Instruction Selection For Large Language Models

RAISE: 增强适应性指令选择用于大语言模型

Qingsong Lv, Yangning Li, Zihua Lan, Zishan Xu, Jiwei Tang, Tingwei Lu, Yinghui Li, Wenhao Jiang, Hong-Gee Kim, Hai-Tao Zheng, Philip S. Yu

机构 * Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Peng Cheng Laboratory（鹏城实验室） ； University of Illinois Chicago（伊利诺伊大学香槟分校） ； Seoul National University（首尔国立大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 RAISE通过强化学习动态选择指令，提升大语言模型微调效率与效果。

Comments Accepted by EMNLP 2025 findings

Intent-Driven Smart Manufacturing Integrating Knowledge Graphs and Large Language Models

意图驱动的智能制造整合知识图谱和大语言模型

Takoua Jradi, John Violos, Dimitrios Spatharakis, Lydia Mavraidi, Ioannis Dimolitsas, Aris Leivadeas, Symeon Papavassiliou

机构 * 1Department of Software ； IT Engineering, École de technologie supérieure, Montreal, Canada 2School of Electrical \& Computer Engineering, National Technical University of Athens 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出结合大语言模型和知识图谱的意图驱动智能制造框架，通过微调和语义映射提升制造系统的人机交互性能。

SmartGuard: Leveraging Large Language Models for Network Attack Detection through Audit Log Analysis and Summarization

SmartGuard: 借助大语言模型通过审计日志分析与总结进行网络攻击检测

Hao Zhang, Shuo Shao, Song Li, Zhenyu Zhong, Yan Liu, Zhan Qin

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)

AI总结 SmartGuard通过结合抽象行为与大语言模型，实现基于审计日志的网络攻击检测，具有高准确率和良好的可扩展性。

A Lightweight LLM Framework for Disaster Humanitarian Information Classification

轻量级LLM框架用于灾难人道主义信息分类

Han Jinzhen, Kim Jisung, Yang Jong Soo, Yun Hong Sik

机构 * Department of Civil, Architectural & Environment Engineering, Sungkyunkwan University（苏州市立大学土木、建筑与环境工程系） ； School of Geography, University of Leeds（利兹大学地理学院） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出轻量级LLM框架，通过参数高效微调实现灾难推文的人道主义信息分类和事件类型识别，展示LoRA和QLoRA在资源受限环境下的高效性能。

How to Train Your LLM Web Agent: A Statistical Diagnosis

如何训练你的LLM网络代理：一种统计诊断

Dheeraj Vattikonda, Santhoshi Ravichandran, Emiliano Penaloza, Hadi Nekoei, Megh Thakkar, Thibault Le Sellier de Chezelles, Nicolas Gontier, Miguel Muñoz-Mármol, Sahar Omidi Shayegan, Stefania Raimondo, Xue Liu, Alexandre Drouin, Laurent Charlin, Alexandre Piché, Alexandre Lacoste, Massimo Caccia

机构 * ServiceNow AI Research（ServiceNow人工智能研究） ； Mila-Quebec AI Institute（魁北克人工智能研究所） ； McGill University（麦吉尔大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；post-training(abstract)；SFT(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于统计的计算分配方法，通过结合监督微调与基于策略的强化学习，有效提升LLM网络代理性能，减少计算成本，缩小与闭源模型的差距。

LCSB: Layer-Cyclic Selective Backpropagation for Memory-Efficient On-Device LLM Fine-Tuning

LCSB: 用于设备端大语言模型微调的内存高效层循环选择反向传播

Juneyoung Park, Eunbeen Yoon, Seongwan Kim. Jaeho Lee

机构 * Opt-AI Inc.（Opt-AI公司） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 LCSB通过选择性梯度计算提升设备端大语言模型微调的效率和稳定性。

Comments Under the review, 13 pages

Think Fast and Slow: Step-Level Cognitive Depth Adaptation for LLM Agents

快速思考与缓慢思考：面向LLM代理的步骤级认知深度适应

Ruihan Yang, Fanghua Ye, Xiang We, Ruoqing Zhao, Kang Luo, Xinbo Xu, Bo Zhao, Ruotian Ma, Shanyi Wang, Zhaopeng Tu, Xiaolong Li, Deqing Yang, Linus

机构 * Fudan University（复旦大学） ； Tencent Hunyuan（腾讯文恩） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 CogRouter通过动态调整认知深度提升LLM代理在多轮决策任务中的性能与效率。

Can Foundation Models Really Segment Tumors? A Benchmarking Odyssey in Lung CT Imaging

基础模型真的能分割肿瘤吗？在肺部CT成像中的基准测试之旅

Elena Mulero Ayllón, Massimiliano Mantegna, Linlin Shen, Paolo Soda, Valerio Guarrasi, Matteo Tortora

机构 * College of Computer Science and Software Engineering, Shenzhen University（计算机科学与软件工程学院，深圳大学） ； Department of Naval, Electrical, Electronics and Telecommunications Engineering, University of Genoa（海军、电气、电子与电信工程部门，热那亚大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)

AI总结 本研究评估了基础模型在肺部CT肿瘤分割中的性能，发现MedSAM~2在精度和效率上优于传统模型，展示了其在临床应用中的潜力。

ReFilter: Improving Robustness of Retrieval-Augmented Generation via Gated Filter

ReFilter：通过门控过滤提升检索增强生成的鲁棒性

Yixin Chen, Ying Xiong, Shangyu Wu, Xiangrui Ke, Nan Guan, Chun Jason Xue

机构 * City University of Hong Kong（香港城市大学） ； University of Waterloo（滑铁卢大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 ReFilter通过门控过滤提升检索增强生成的鲁棒性，实现跨领域问答任务的高性能表现。

tLoRA: Efficient Multi-LoRA Training with Elastic Shared Super-Models

tLoRA: 一种高效的多LoRA训练方法与弹性共享超模型

Kevin Li, Dibyadeep Saha, Avni Kanodia, Fan Lai

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Siebel School of Computing and Data Science（计算与数据科学学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 tLoRA通过弹性共享超模型实现多LoRA任务高效训练，提升吞吐量和GPU利用率

SCAN: Semantic Document Layout Analysis for Textual and Visual Retrieval-Augmented Generation

SCAN：面向文本和视觉检索增强生成的语义文档布局分析

Nobuhiro Ueda, Yuyang Dong, Krisztián Boros, Daiki Ito, Takuya Sera, Masafumi Oyamada

机构 * NEC Corporation（日本电报电话株式会社） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SCAN通过语义文档布局分析提升文本和视觉检索增强生成的性能，实验显示在英语和日语数据集上分别提升9.4和10.4个点。

Compressible Dynamics in Deep Overparameterized Low-Rank Learning & Adaptation

深度过参数化低秩学习与适应中的可压缩动力学

Can Yaras, Peng Wang, Laura Balzano, Qing Qu

机构 * Department of Electrical Engineering \& Computer Science, University of Michigan 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出Deep LoRA方法，通过深度过参数化低秩学习与适应中的可压缩动力学，提升语言模型微调效率并减少过拟合。

Comments Accepted at ICML'24 (Oral)

Towards Universal Video MLLMs with Attribute-Structured and Quality-Verified Instructions

面向具有属性结构和质量验证指令的通用视频MLLMs

Yunheng Li, Hengrui Zhang, Meng-Hao Guo, Wenzhao Gao, Shaoyong Jia, Shaohui Jiao, Qibin Hou, Ming-Ming Cheng

机构 * VCIP, School of Computer Science, Nankai University（VCIP，计算机科学学院，南开大学） ； ByteDance Inc.（字节跳动公司） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：SFT(abstract)

AI总结 本研究提出ASID-1M数据集、ASID-Verify验证流程和ASID-Captioner模型，通过细粒度结构化指令提升视频理解性能，实现高质量描述生成与指令遵循。

Comments Project page: https://asid-caption.github.io/

Parametrized complexity of relations between multidimensional subshifts

多维子移位之间关系的参数复杂性

Nicanor Carrasco-Vargas, Benjamin Hellouin de Menibus, Rémi Pallen

专题命中 指令微调 ：SFT(abstract)

AI总结 本文研究了多维子移位之间关系的参数复杂性，发现某些参数选择使问题达到最大难度，并揭示了多维SFT中非平凡可判定问题的存在。

Comments 20 pages