语言大模型 / LLM

Domain-Adapted Fine-Tuning of ECG Foundation Models for Multi-Label Structural Heart Disease Screening

领域适应的ECG基础模型微调用于多标签结构性心脏病筛查

Duc N. Do, Minh N. Do, Dang Nguyen, Khanh T. Q. Le, Khoa D. Pham, Hung N. Huynh, Phi Pham-Van-Hoang, Quan K. Huynh, Ramez M. Odat, Perisa Ashar, Ethan Philip Lowder, Minh H. N. Le, Hoang Le, Phat V. H. Nguyen, Quan Le, Jacques Kpodonu, Phat K. Huynh

机构 * PASSIO Laboratory, North Carolina A&T State University（北卡罗来纳阿塔州立大学PASSIO实验室） ； Department of Computer Science, University of Manitoba（曼尼托巴大学计算机科学系） ； Harvard T.H. Chan School of Public Health, Harvard University（哈佛大学T.H. Chan公共卫生学院） ； Department of Medicine, Jordan University of Science and Technology（约旦科学与技术大学医学院） ； Department of Biomedical Engineering, Duke University（达特茅斯大学生物医学工程系） ； Harvard Medical School（哈佛医学院） ； Beth Israel Deaconess Medical Center, Harvard Medical School（哈佛医学院贝塞斯达以色列德acons医疗中心） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文探讨了使用公开的EchoNext Mini-Model基准评估开放预训练的ECG基础模型在多标签结构性心脏病检测中的应用，通过领域适应和选择性监督微调提升性能。

Comments Accepted to Canadian AI 2026

BackPlay: Head-Only Look-Back Self-Correction for Diffusion Language Models

BackPlay：用于扩散语言模型的头部-only回溯自校正

Liming Liu, Binxuan Huang, Zixuan Zhang, Xin Liu, Bing Yin, Tuo Zhao

机构 * Amazon（亚马逊） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.LG

AI总结 BackPlay通过在冻结的生成器上训练轻量级校正头，改进多token解码下的生成质量，利用回溯校正机制减少错误积累。

Comments 16 pages

Fine-Tuning Code Language Models to Detect Cross-Language Bugs

对代码语言模型进行微调以检测跨语言错误

Zengyang Li, Yimeng Li, Binbin Huang, Peng Liang, Ran Mo, Hui Liu, Yutao Ma

机构 * School of Computer Science, Central China Normal University（中央师范大学计算机科学学院） ； State Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； School of Computer Science, Wuhan University（武汉大学计算机学院） ； School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（华中科技大学人工智能与自动化学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 本文研究预训练代码语言模型在跨语言错误检测中的潜力，开发了CLCFinder工具并构建了包含三种编程语言组合的跨语言错误数据集，通过微调13种CodeLMs发现小模型表现优于大模型，且数据集规模和代码注释对性能影响各异。

Comments Preprint accepted for publication in ACM Transactions on Software Engineering and Methodology (TOSEM), 2026

Privacy Collapse: Benign Fine-Tuning Can Break Contextual Privacy in Language Models

隐私崩溃：良性微调可能在语言模型中破坏上下文隐私

Anmol Goel, Cornelius Emde, Sangdoo Yun, Seong Joon Oh, Martin Gubri

机构 * Parameter Lab（参数实验室） ； TU Darmstadt（图腾达姆斯塔特大学） ； University of Oxford（牛津大学） ； NAVER AI Lab（NAVER AI实验室） ； University of Tübingen（图宾根大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL

AI总结 研究发现语言模型在良性微调过程中可能因训练数据中的细微模式导致上下文隐私崩溃，揭示了当前安全评估在专用代理部署中的关键缺口。

Comments ACL 2026 Main

Cross-Modal Attention Analysis and Optimization in Vision-Language Models: A Study on Visual Reliability

视觉-语言模型中的跨模态注意力分析与优化：对视觉可靠性的研究

Lijie Zhou

机构 * School of Computer Science（计算机科学学院） ； University of Nottingham Ningbo China（诺丁汉大学宁波分校） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 本文研究了视觉-语言模型中跨模态依赖性问题，通过对抗性评估框架发现优化模型能显著降低跨模态依赖，提升视觉特征关注度。

Hydra: Unifying Document Retrieval and Generation in a Single Vision-Language Model

Hydra：在单一视觉-语言模型中统一文档检索与生成

Athos Georgiou

机构 * Independent Researcher（独立研究者） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 Hydra通过单一视觉-语言模型实现文档检索与生成的统一，减少内存和系统复杂性，通过LoRA适配器在推理时切换，提升效率并保持生成质量。

Comments 21 pages, 4 figures, 10 tables, 1 algorithm. v3: two-scale release (4B, 0.8B); bitwise generation-equivalence (426/426 LM tensors at 4B); peak VRAM -62.7% at 4B, -59.1% at 0.8B; GritLM joint-training ablation; Qwen2.5-Omni-3B omni extension. Models: huggingface.co/collections/athrael-soju/hydra-dual-head-retrieval-and-generation

Exascale Multi-Task Graph Foundation Models for Imbalanced, Multi-Fidelity Atomistic Data

面向不均衡多保真原子数据的exascale多任务图基础模型

Massimiliano Lupo Pasini, Jong Youl Choi, Kshitij Mehta, Richard Messerly, Rylie Weaver, Linda Ungerboeck, Isaac Lyngaas, Benajmin Stump, Ashwin M. Aji, Karl W. Schulz, Jorda Polo

机构 * Engineering Division, Oak Ridge National Laboratory（橡树岭国家实验室工程部） ； Mathematics Division, Oak Ridge National Laboratory（橡树岭国家实验室数学部） ； National Center for Computational Sciences Division, Oak Ridge National Laboratory（橡树岭国家实验室国家计算科学中心部） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI

AI总结 本文提出基于HydraGNN的exascale工作流，通过多任务架构和可扩展的数据管道，在16个开放首原理数据集上联合训练，实现百亿级原子结构筛选与跨领域任务迁移。

Comments 12 pages; 5 figures; 15 tables

SpaceMind: A Modular and Self-Evolving Embodied Vision-Language Agent Framework for Autonomous On-orbit Servicing

SpaceMind：一种模块化且自我进化的具身视觉-语言代理框架，用于自主在轨服务

Aodi Wu, Haodong Han, Xubo Luo, Ruisuo Wang, Shan He, Xue Wan

机构 * University of Chinese Academy of Sciences（中国科学院大学） ； Technology and Engineering Center for Space Utilization, Chinese Academy of Sciences（中国科学院空间利用技术与工程中心） 纠错

专题命中 指令微调 ：language agent(title)；language model(abstract)；分类 cs.AI

AI总结 本文提出SpaceMind框架，通过模块化和自我进化机制，实现自主在轨服务中的视觉感知、三维空间推理和多阶段任务执行，验证了其在不同环境下的鲁棒性和适应性。

Comments 23 pages, 6 figures, 7 tables. Code available at https://github.com/wuaodi/SpaceMind

Unified Graph Prompt Learning via Low-Rank Graph Message Prompting

通过低秩图消息提示实现统一图提示学习

Beibei Wang, Bo Jiang, Ziyan Zhang, Jin Tang

机构 * School of Computer Science and Technology, Anhui University（安徽大学计算机科学与技术学院） ； State Key Laboratory of Opto-Electronic Information Acquisition and Protection Technology, School of Computer Science and Technology, Anhui University（安徽大学计算机科学与技术学院光电信息获取与防护技术国家重点实验室） 纠错

专题命中 指令微调 ：prompting(title,abstract)；分类 cs.LG

AI总结 本文提出低秩图消息提示（LR-GMP），通过统一的提示空间实现对所有图组件的联合提示，提升模型在多样化下游任务中的泛化能力和鲁棒性。

Quantisation Reshapes the Metacognitive Geometry of Language Models

量化重塑语言模型的元认知几何

Jon-Paul Cacioli

专题命中 指令微调 ：language model(title)；SFT(abstract)；分类 cs.CL

AI总结 研究发现模型量化重构了语言模型在不同领域内的元认知效率，而非均匀降低。通过评估Llama-3-8B-Instruct在不同精度下的表现，发现元认知比率在不同领域间无相关性，但Type-2 AUROC曲线保持稳定，表明重构发生在元认知比率归一化而非基础辨别信号上。

Comments 10 pages, 2 figures, 5 tables. Pre-registered study. Code and data: https://github.com/synthiumjp/sdt-calibration

AtlasOCR: Building the First Open-Source Darija OCR Model with Vision Language Models

AtlasOCR: 构建首个开源的达里亚OCR模型：基于视觉语言模型

Imane Momayiz, Soufiane Ait Elaouad, Abdeljalil Elmajjodi, Haitame Bouanane

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出AtlasOCR，首个开源达里亚OCR模型，通过微调3B参数视觉语言模型实现，结合合成数据与真实数据构建专用数据集，采用QLoRA和Unsloth高效训练，验证其在达里亚和标准阿拉伯语OCR任务中的先进性能。

ReRec: Reasoning-Augmented LLM-based Recommendation Assistant via Reinforcement Fine-tuning

ReRec：通过强化微调增强的LLM推荐助手

Jiani Huang, Shijie Wang, Liangbo Ning, Wenqi Fan, Qing Li

机构 * The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.AI

AI总结 ReRec通过强化微调框架提升LLM在复杂推荐任务中的推理能力，引入双重图增强奖励塑造、推理感知优势估计和在线课程调度器，实验证明其优于现有基线模型。

Comments Accepted by ACL 2026

PlaneCycle: Training-Free 2D-to-3D Lifting of Foundation Models Without Adapters

PlaneCycle: 不需要训练的2D到3D提升方法

Yinghong Yu, Guangyuan Li, Jiancheng Yang

机构 * ELLIS Institute Finland（芬兰ELLIS研究所） ； Aalto University（阿尔托大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI

AI总结 PlaneCycle提出一种无需训练的2D到3D提升方法，通过循环分布空间聚合实现逐步3D融合，无需额外参数，适用于任意2D网络，在多个3D任务中表现优异。

DINO-QPM: Adapting Visual Foundation Models for Globally Interpretable Image Classification

DINO-QPM：为全球可解释的图像分类适应视觉基础模型

Robert Zimmermann, Thomas Norrenbrock, Bodo Rosenhahn

机构 * Institute for Information Processing, L3S - Leibniz University Hannover（信息处理研究所，L3S - 莱布尼茨汉诺威大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.LG

AI总结 DINO-QPM通过将复杂特征转换为可解释的对比表示，提升图像分类的可解释性，同时在准确性和解释质量上优于DINOv2线性探针。

Comments Accepted to the 5th Explainable AI for Computer Vision (XAI4CV) Workshop at CVPR 2026

Lightweight Multimodal Adaptation of Vision Language Models for Species Recognition and Habitat Context Interpretation in Drone Thermal Imagery

轻量级多模态适应：为无人机热成像中的物种识别和栖息地上下文解释优化视觉语言模型

Hao Chen, Fang Qiu, Fangchao Dong, Defei Yang, Eve Bohnett, Li An

机构 * The University of Texas at Dallas（德克萨斯大学达拉斯分校） ； University of Florida（佛罗里达大学） ； Auburn University（奥本大学） 纠错

专题命中 指令微调 ：language model(title)；prompting(abstract)；分类 cs.AI

AI总结 本研究提出轻量级多模态适应框架，用于提升视觉语言模型在无人机热成像中的物种识别与栖息地上下文解释能力，通过热数据集优化模型性能，实现从RGB到热辐射的高效迁移。

Implementing surrogate goals for safer bargaining in LLM-based agents

在基于语言模型的智能体中实现安全谈判的替代目标

Caspar Oesterheld, Maxime Riché, Filip Sondej, Jesse Clifton, Vincent Conitzer

专题命中 指令微调 ：LLM(title)；prompting(abstract)；分类 cs.AI

AI总结 本文探讨了在基于语言模型的智能体中实现替代目标以提高谈判安全性的方法，通过四种不同技术验证了细调和支架法在应对替代目标威胁方面的优越性。

Image Hashing via Cross-View Code Alignment in the Age of Foundation Models

基于基础模型的跨视图代码对齐图像哈希

Ilyass Moummad, Kawtar Zaher, Hervé Goëau, Alexis Joly

机构 * INRIA（法国国家信息与自动化研究所） ； LIRMM（蒙彼利埃计算机科学、机器人及微电子实验室） ； INA（法国国家视听研究所） ； CIRAD（法国农业研究发展国际合作中心） ； AMAP（植物建模与生态学联合实验室） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文提出CroVCA方法，通过统一的二进制交叉熵损失和编码率最大化正则化，在少量训练轮次内实现高效图像哈希，适用于多种视觉检索任务。

Multiple-Debias: A Full-process Debiasing Method for Multilingual Pre-trained Language Models

多偏见：一种面向多语言预训练语言模型的全流程去偏方法

Haoyu Liang, Peijian Zeng, Wentao Huang, Aimin Yang, Dong Zhou

机构 * Guangdong University of Technology（广东工业大学） ； Guangdong University of Foreign Studies（广东外语外贸大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出Multiple-Debias方法，通过多语言反事实数据增强和多语言Self-Debias，结合参数高效微调，有效减少多语言预训练模型中性别、种族和宗教偏见。

From Baselines to Preferences: A Comparative Study of LoRA/QLoRA and Preference Optimization for Mental Health Text Classification

从基线到偏好：LoRA/QLoRA与偏好优化在心理健康文本分类中的比较研究

Mihael Arcan

机构 * Home Lab 纠错

专题命中 指令微调 ：preference optimization(title,abstract)；分类 cs.CL

AI总结 本文比较了LoRA/QLoRA与偏好优化在心理健康文本分类中的效果，探讨了不同优化策略对性能的影响，揭示了方法选择的重要性。

Colluding LoRA: A Compositional Vulnerability in LLM Safety Alignment

协同LoRA：大语言模型安全对齐中的组合性漏洞

Sihao Ding

机构 * Mercedes-Benz Research & Development North America, USA（梅赛德斯-奔驰北美研发中心） 纠错

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.LG

AI总结 研究发现模块化大语言模型的安全对齐存在组合性漏洞，通过Colluding LoRA展示有害行为仅在组合状态下出现，暴露了当前单元中心防御的组合盲点。

Comments Updated manuscript to better reflect the core contribution

Beyond Recognition: Evaluating Visual Perspective Taking in Vision Language Models

超越识别：评估视觉语言模型中的视觉视角理解

Gracjan Góral, Alicja Ziarko, Piotr Miłoś, Michał Nauman, Maciej Wołczyk, Michał Kosiński

机构 * University of Warsaw（华沙大学） ； Polish Academy of Sciences（波兰科学院） ； Stanford University（斯坦福大学） ； University of California, Berkeley（加州大学伯克利分校） ； IDEAS NCBR ； Lute 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 本文通过144个视觉任务评估VLMs的视觉视角理解能力，发现模型在场景理解上表现优异，但在空间推理和视角理解上存在明显不足。

Comments Accepted at CVPR 2026 Findings

TTP: Test-Time Padding for Adversarial Detection and Robust Adaptation on Vision-Language Models

TTP: 视觉-语言模型上的对抗检测与鲁棒适应的测试时填充

Zhiwei Li, Yitian Pang, Weining Wang, Zhenan Sun, Qi Li

机构 * NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences（神经网络与模式识别实验室及自动化研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； Department of Automation, Tsinghua University（清华大学自动化系） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出TTP框架，通过测试时填充实现对抗检测与鲁棒适应，提升视觉-语言模型在对抗攻击下的鲁棒性而不影响清洁准确性。

Comments Accepted to the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2026

Can RL Improve Generalization of LLM Agents? An Empirical Study

强化学习能否提升大语言模型代理的泛化能力？一项实证研究

Zhiheng Xi, Xin Guo, Jiaqi Liu, Jiazheng Zhang, Yutao Fan, Zhihao Zhang, Shichun Liu, Mingxu Chai, Xiaowei Shi, Yitao Zhai, Xunliang Cai, Tao Gui, Qi Zhang, Xuanjing Huang

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.AI

AI总结 本文通过实证研究探讨强化学习如何提升大语言模型代理在不同环境中的泛化能力，发现顺序训练和跨环境混合训练能有效提升性能，同时减少遗忘问题。

Comments Preprint, under review

Resurfacing Paralinguistic Awareness in Large Audio Language Models

在大型音频语言模型中重新浮现语义外特性意识

Hao Yang, Minghan Wang, Tongtong Wu, Lizhen Qu, Ehsan Shareghi, Gholamreza Haffari

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出一种语义外增强的微调方法，通过五种分层分析提升LALMs的语义外意识能力，实验表明其效果优于全层微调策略。

Comments Submitted to Interspeech 2026

Fairness-Aware Fine-Tuning of Vision-Language Models for Medical Glaucoma Diagnosis

面向医疗青光眼诊断的公平性感知视觉语言模型微调

Zijian Gu, Yuxi Liu, Zhenhao Zhang, Song Wang

机构 * Department of Computer Science, University of Rochester, NY, USA（罗切斯特大学计算机科学系） ； Biostatistics and Health Data Science, School of Medicine, Indiana University, Indianapolis, IN, USA（印第安纳大学医学院生物统计学与健康数据科学系） ； Department of Computer Science, University of Central Florida, FL, USA（佛罗里达州立大学计算机科学系） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.LG

AI总结 本文提出公平性感知的低秩适应方法，通过三种机制减少医疗影像诊断中的种族差异，实现高效公平的青光眼诊断。

Comments AMIA 2026 Amplify Informatics Conference (Poster), Denver, CO, May 18-21, 2026. 10 pages, 3 tables

FireBench: Evaluating Instruction Following in Enterprise and API-Driven LLM Applications

FireBench: 评估企业及 API 驱动的 LLM 应用中的指令遵循

Yunfan Zhang, Yijie Bei, Jetashree Ravi, Pawel Garbacki

机构 * Columbia University（哥伦比亚大学） ； Fireworks AI 纠错

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.CL

AI总结 FireBench 是一个评估企业及 API 驱动 LLM 应用中指令遵循能力的基准测试，通过 2400 个样本评估六个核心能力维度，评估 11 个 LLM 的表现。

Log Probability Tracking of LLM APIs

LLM API 的对数概率跟踪

Timothée Chauvin, Erwan Le Merrer, François Taïani, Gilles Tredan

机构 * Université de Rennes（里昂大学） ； Inria（法国国家信息与自动化技术研究所） ； CNRS/IRISA（国家科学研究中心/里昂信息与自动化研究所） ； LAAS（国家科学研究中心拉瓦尔研究所） ； CNRS（国家科学研究中心） 纠错

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.LG

AI总结 通过LLM API的对数概率进行低成本持续监控，能检测微调变化并提升审计效率

Comments ICLR 2026

Few-Shot Continual Learning for 3D Brain MRI with Frozen Foundation Models

小样本持续学习用于3D脑部MRI

Chi-Sheng Chen, Xinyu Zhang, Guan-Ying Chen, Qiuzhe Xie, Fan Zhang, En-Jui Kuo

机构 * Independent Researcher, USA（美国独立研究者） ； Indiana University at Bloomington, United States（印第安纳大学布卢明顿分校） ； Independent Researcher, Taiwan（台湾独立研究者） ； National Taiwan University, Taiwan（台湾国立大学） ； Boise State University, United States（博伊西州立大学） ； National Yang Ming Chiao Tung University, Taiwan（台湾阳明交通大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文提出基于冻结基础模型与任务特定LoRA模块的小样本持续学习方法，有效解决3D脑部MRI肿瘤分割与脑年龄估计任务中的灾难性遗忘问题。

pFedMMA: Personalized Federated Fine-Tuning with Multi-Modal Adapter for Vision-Language Models

pFedMMA: 为视觉-语言模型设计的个性化联邦微调多模态适配器

Sajjad Ghiasvand, Mahnoosh Alizadeh, Ramtin Pedarsani

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.LG

AI总结 pFedMMA通过多模态适配器实现视觉-语言模型的个性化联邦微调，平衡个性化与泛化能力，优于现有方法。

Global River Forecasting with a Topology-Informed AI Foundation Model

基于拓扑信息的AI基础模型实现全球河流预报

Hancheng Ren, Gang Zhao, Shuo Wang, Louise Slater, Dai Yamazaki, Shu Liu, Jingfang Fan, Shibo Cui, Ziming Yu, Shengyu Kang, Depeng Zuo, Dingzhi Peng, Zongxue Xu, Bo Pang

机构 * College of Water Sciences, Beijing Normal University, Beijing, China（北京师范大学水科学学院） ； School of Geography and the Environment, University of Oxford, Oxford, UK（牛津大学地理与环境学院） ； Department of Transdisciplinary Science and Engineering, Institute of Science Tokyo, Tokyo, Japan（东京科学研究所跨学科科学与工程系） ； School of Systems Science, Beijing Normal University, Beijing, China（北京师范大学系统科学学院） ； Institute of Industrial Science, University of Tokyo, Tokyo, Japan（东京大学工业科学研究所） ； China Institute of Water Resources and Hydropower Research, Beijing, China（中国水利水电科学研究院） ； State Key Laboratory of Hydro-Science and Engineering, Department of Hydraulic Engineering, Tsinghua University, Beijing, China（清华大学水利科学与工程国家重点实验室） ； School of Artificial Intelligence, Beijing Normal University, Beijing, China（北京师范大学人工智能学院） ； School of Water Resources and Hydropower Engineering, Wuhan University, Wuhan, China（武汉大学水利水电学院） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.LG

AI总结 GraphRiverCast通过拓扑信息和物理对齐的神经操作符架构，实现了全球河流系统的系统性水动力模拟，无需历史数据即可进行稳健预测。

Comments 26 pages, 5 figures, 3 extended data tables, 3 extended data figures