语言大模型 / LLM

Auditing Training Data in Domain-adapted LLMs: LoRA-MINT

领域自适应大语言模型中的训练数据审计：LoRA-MINT

Gonzalo Mancera, Daniel DeAlcala, Aythami Morales, Julian Fierrez, Ruben Tolosana, Francisco Jurado

机构 * University of Granada（格拉纳达大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出LoRA-MINT方法，通过成员推理测试审计LoRA微调的大语言模型训练数据，在四个模型和三个基准上达到0.77-0.92的精度，优于现有基线。

Comments IEEE Conf. on Computers, Software, and Applications (COMPSAC), 2026

MoDA: Modulation Adapter for Fine-Grained Visual Grounding in Instructional MLLMs

MoDA: 面向指令型多模态大语言模型的细粒度视觉定位的调制适配器

Wayner Barrios, Andrés Villa, Juan León Alcázar, SouYoung Jin, Bernard Ghanem

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出MoDA调制适配器，通过指令引导的通道级乘法调制增强细粒度视觉定位，在12个基准上对三种MLLM架构取得一致提升，计算开销极小。

Comments Accepted at ICML 2026. Code is available at https://github.com/waybarrios/MoDA

Success Conditioning as Policy Improvement: The Optimization Problem Solved by Imitating Success

成功条件化作为策略改进：模仿成功所解决的优化问题

Daniel Russo

机构 * Daniel J. Russo 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文证明成功条件化（模仿成功轨迹）精确求解了一个信任区域优化问题，其χ²散度约束半径由数据自动确定，并揭示了相对策略改进、策略变化幅度和动作影响之间的等式关系。

QUBRIC: Co-Designing Queries and Rubrics for RL Beyond Verifiable Rewards

QUBRIC：为超越可验证奖励的强化学习协同设计查询与评分标准

Rongzhi Zhang, Rui Feng, Zhihan Zhang, Jingfeng Yang, Qingyu Yin, Xin Liu, Zixuan Zhang, Priyanka Nigam, Bing Yin, Tuo Zhao, Chao Zhang

机构 * Amazon（亚马逊） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 针对基于评分标准的强化学习中查询分布固定导致的评分标准质量瓶颈，提出QUBRIC框架，通过协同设计查询与评分标准，利用教师关键点、对比生成和可学习性过滤，在ArenaHard上取得+5.5点提升，并泛化到法律、道德和叙事推理任务。

WRIT: Write-Read Intensive Trajectory Synthesis for Multi-Turn User-Facing Agents

WRIT: 面向多轮用户代理的写密集型轨迹合成

Hengrui Gu, Xiaotian Han, Kaixiong Zhou

机构 * North Carolina State University（北卡罗来纳州立大学） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 针对多轮用户代理在信息收集和决策中面临的证据负担挑战，提出WRIT方法，通过合成写密集型和读密集型轨迹，训练代理在信息负载下做出基于证据的决策，仅用2K轨迹即可提升性能并减少推理时token使用。

ThinkSwitch: Context Distillation with LoRA and Weight Interpolation for Specific-Purpose Reasoning Tasks

ThinkSwitch：基于LoRA和权重插值的上下文蒸馏用于特定目的推理任务

Dhruv Saini, Rohan Pandey

机构 * bellevue High School（贝尔维尤高中） ； DigitalOcean 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出ThinkSwitch方法，通过QLoRA蒸馏和球面权重插值协同训练指令模型和思考模型，在AIME 2026和PubMedQA上分别提升指令模型10/30→20/30和13/30→18/30，思考模型14/30→22/30和18/30→25/30，仅需15个训练提示和$2.86成本。

ARCA: Adapter-Residual Credit Assignment When Token Signals Degenerate

ARCA: 当令牌信号退化时的适配器-残差信用分配

Rodney Lafuente-Mercado

机构 * Rodney Lafuente-Mercado（罗伊德·拉福恩特-默茨） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 针对LoRA微调下令牌级信用分配信号退化的问题，提出ARCA方法，利用适配器隐藏状态残差作为令牌显著性度量，无需学习奖励模型或价值头。

Comments Accepted to DEMO 2026: ICML Workshop on Decision-Making from Offline Datasets to Online Adaptation. Non-archival report

RAFT: Data Refinement and Adaptive Distillation for Domain Fine-Tuning with Alleviated Forgetting

RAFT：用于缓解遗忘的领域微调的数据精炼与自适应蒸馏

Yuduo Li, Xiaofeng Shi, Qian Kou, Longbin Yu, Hua Zhou

机构 * Beijing Academy of Artificial Intelligence (BAAI)（北京人工智能研究院） ； Beijing Jiaotong University (BJTU)（北京交通大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 提出RAFT框架，通过数据精炼（自条件重写、语义过滤、答案融合）和答案条件在线蒸馏（top-K温度蒸馏、EMA自适应损失平衡）来解决领域微调中的监督兼容性差距和轨迹保持差距，在提升领域性能的同时缓解通用能力退化。

Comments preprint

Foundation-Preserving Adaptation via Generalized Rayleigh-Quotient Optimization

基于广义瑞利商优化的基础模型保留适配

Dongjun Kim, Adrian de Wynter, Huancheng Chen, Heasung Kim, Haris Vikalo

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Microsoft（微软） ； Microsoft AI（微软人工智能） ； Meta 纠错

专题命中 指令微调 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 提出FoLoRA框架，通过广义瑞利商优化更新方向，在微调中平衡下游任务性能与预训练能力保留。

CAREF: Calibration-Aware Regularization for Explanation Faithfulness Without Rationale Supervision

CAREF: 面向解释忠实性的校准感知正则化，无需理由监督

Naphat Nithisopa, Teerapong Panboonyuen

机构 * MARSAIL ； Chulalongkorn University（朱拉隆梭大学） ； PBYAIL (Panboonyuen AI Lab)（PBYAIL（Panboonyuen人工智能实验室）） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 提出CAREF框架，通过校准感知正则化联合优化预测准确性和解释忠实性，无需理由监督，在四个NLE基准上以少量可训练参数取得最佳性能。

Comments 10 pages

What Do LLMs Know About Alzheimer's Disease? Multi-loss Fine-Tuning and Probing for AD Detection

LLMs 对阿尔茨海默病了解多少？用于 AD 检测的多损失微调和探针分析

Lei Jiang, Yue Zhou, Natalie Parde

机构 * University of Illinois Chicago（伊利诺伊大学香槟分校） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过多损失微调 BERT、T5 和 Llama-1B 模型，在三个语料库上实现文本 AD 检测新 SOTA，并利用线性探针分析内部表征中 AD 相关信息的编码。

Beware of the Batch Size: Hyperparameter Bias in Evaluating LoRA

当心批量大小：评估 LoRA 中的超参数偏差

Sangyoon Lee, Jaeho Lee

机构 * Pohang University of Science and Technology (POSTECH)（浦项科学技术大学（POSTECH）） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文发现批量大小是导致 LoRA 变体性能矛盾的关键因素，提出基于代理的高效调优策略，将批量大小提升为一阶设计参数。

AnomSeer: Reinforcing Multimodal LLMs to Reason for Time-Series Anomaly Detection

AnomSeer: 增强多模态大语言模型进行时间序列异常检测的推理能力

Junru Zhang, Lang Feng, Haoran Shi, Xu Guo, Han Yu, Yabo Dong, Duanqing Xu

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出AnomSeer，通过专家思维链和基于最优传输的时间序列接地策略优化，增强多模态大语言模型在时间序列异常检测中的细粒度推理能力，统一异常分类、定位和解释。

Comments ICML 2026

CSULoRA: Closest Safe Update Low-Rank Adaptation

CSULoRA：最近安全更新低秩适应

Oleksandr Marchenko Breneur, Adelaide Danilov, Aria Nourbakhsh, Salima Lamsiyah

机构 * Department of Computer Science, University of Luxembourg（卢森堡大学计算机科学系） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 提出CSULoRA方法，通过后处理校正LoRA适配器，在保留任务相关性的同时抑制不安全更新方向，降低攻击成功率。

Comments 10 pages, 3 figure

ImmigrationQA: A Source-Grounded Dataset and Small-Model Adaptation for U.S. Immigration Law

ImmigrationQA: 一个基于来源的数据集及面向美国移民法的小型模型适配

Nazarii Shportun

机构 * Independent Researcher（独立研究员） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文构建了基于来源的问答数据集ImmigrationQA（17,058对，覆盖13个移民子领域），并通过参数高效LoRA微调Llama 3.2 3B Instruct模型，在程序性子领域取得显著提升，但复杂法律推理仍较弱。

Comments 12 pages, 4 tables. Dataset (17,058 QA pairs), fine-tuned model, and code are publicly released

When LLMs Learn to Be Consistently Wrong: A Multi-Model Study of Linear Representations of Synthetic Deception

当LLM学会一致错误：合成欺骗的线性表示的多模型研究

Vahideh Zolfaghari

机构 * Algoverse AI Research ； Medical Sciences Education Research Center, Mashhad University of Medical Sciences（马什哈德大学医学科学教育研究中心） ； Student Research Committee, Department of Health Information Technology and Management, Medical Informatics, School of Allied Medical Sciences, Shahid Beheshti University of Medical Sciences（谢赫·贝赫什提大学医学科学学院学生研究委员会，健康信息科技与管理系，医学信息学） 纠错

专题命中 指令微调 ：LLM(title_cn)；分类 cs.AI、cs.LG

AI总结 通过LoRA微调五个Transformer模型的诚实与欺骗变体，使用线性探针检测合成欺骗，发现早期层即可达到近完美AUC，支持线性表示假说，并揭示两种表示机制。

Analyzing Quality-Latency-Resource Trade-offs in a Technical Documentation RAG Assistant Using LoRA Adaptation

使用LoRA适配分析技术文档RAG助手中的质量-延迟-资源权衡

Evgenii Palnikov, Elizaveta Gavrilova

机构 * HSE University（俄罗斯高等经济大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本研究通过LoRA适配器在RAG系统中分析质量、延迟和资源之间的权衡，发现仅对q和v注意力投影进行适配的配置在帕累托前沿占优。

Comments 13-page main body plus extended appendix; 6 figures; benchmark, LoRA adapters, and code at https://github.com/EugPal/rag-lora-tradeoffs

SPARD: Defending Harmful Fine-Tuning Attack via Safety Projection with Relevance-Diversity Data Selection

SPARD: 通过安全投影与相关性-多样性数据选择防御有害微调攻击

Shuhao Chen, Weisen Jiang, Yeqi Gong, Shengda Luo, Chengxiang Zhuo, Zang Li, James T. Kwok, Yu Zhang

机构 * Department of Computer Science and Engineering, The Hong Kong University of Science and Technology（香港科学与技术大学计算机科学与工程系） ； Department of Computer Science and Engineering, Southern University of Science and Technology（南方科技大学计算机科学与工程系） ； Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系） ； Platform and Content Group, Tencent（腾讯平台与内容组） ； Chinese Medicine Guangdong Laboratory（广东中医实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出SPARD框架，结合安全投影交替优化和相关性-多样性数据选择，防御有害微调攻击，在保持任务精度的同时显著降低攻击成功率。

Comments Accepted by ICML 2026

Show, Don't TELL: Explainable AI-Generated Text Detection

展示，而非告知：可解释的AI生成文本检测

Aldan Creo, Suraj Ranganath

机构 * School of Computing, Information and Data Sciences（计算与数据科学学院） ； University of California, San Diego（加州大学圣地亚哥分校） ； United States of America（美国） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出一种名为TELL的新型可解释架构，通过内置解释机制和强化学习训练，在保持高检测性能（AUROC 0.927）的同时提供文本级注释，帮助用户基于自身判断识别AI生成文本。

Atomic Skills are the Prerequisite: When Reinforcement Learning Synthesizes Compositional Reasoning, and When It Only Amplifies

原子技能是前提：当强化学习合成组合推理时，以及当它仅放大时

Sitao Cheng, Xunjian Yin, Ruiwen Zhou, Yuxuan Li, Xinyi Wang, Liangming Pan, William Yang Wang, Victor Zhong

机构 * University of Waterloo（滑铁卢大学） ； Duke University（杜克大学） ； National University of Singapore（新加坡国立大学） ； Princeton University（普林斯顿大学） ； Peking University（北京大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 通过互补推理任务，研究强化学习是合成新技能还是仅放大已有技能，发现强化学习在基础模型通过监督微调掌握独立原子技能后才能合成新组合策略。

Comments Work in Progress. Code and data are available at https://github.com/sitaocheng/from_atomic_to_composite

Diff-Instruct with Diffused Reward: Towards Principled One-step Generator RL

Diff-Instruct with Diffused Reward: 迈向有原则的一步生成器强化学习

Junyi Wu, Weijian Luo, Haoyang Zheng, Ruizhe Zhang, Guang Lin

机构 * Purdue University（普渡大学） ； hi-lab, Xiaohongshu Inc.（小红书实验室，小红书公司） 纠错

专题命中 指令微调 ：RLHF(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 针对一步生成器强化学习中奖励优化与生成动力学不匹配的问题，提出基于积分KL最小化的无数据轨迹级对齐框架DIDR，通过扩散奖励分数和代理估计器实现奖励驱动的校正，在一步SDXL和6B DiT骨干网络上取得帕累托优势。

Comments author list correction

FedTreeLoRA: Reconciling Statistical and Functional Heterogeneity in Federated LoRA Fine-Tuning

FedTreeLoRA：协调联邦LoRA微调中的统计异质性与功能异质性

Jieming Bian, Lei Wang, Letian Zhang, Jie Xu

机构 * University of Florida, Gainesville, FL 32611（佛罗里达大学） ； Middle Tennessee State University Murfreesboro, TN 37132（中田纳西州立大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 针对联邦LoRA微调中统计异质性与功能异质性正交耦合的问题，提出树结构聚合框架FedTreeLoRA，通过逐层对齐实现泛化与个性化的有效平衡。

Comments Accepted by ICML 2026

Routing by Analogy: kNN-Augmented Expert Assignment for Mixture-of-Experts

类比路由：用于混合专家模型的kNN增强专家分配

Boxuan Lyu, Soichiro Murakami, Hidetaka Kamigaito, Peinan Zhang

机构 * Institute of Science Tokyo（东京科学研究院） ； CyberAgent ； Nara Institute of Science and Technology（奈良科学技術大學） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出kNN-MoE框架，通过检索历史相似案例的局部最优专家分配来增强MoE路由，使用检索邻居的平均相似度作为置信度混合系数，在分布偏移下提升鲁棒性。

Signs Beat Floats: Low-Rank Double-Binary Adaptation for On-Device Fine-Tuning

符号胜过浮点：面向设备端微调的低秩双二值适配器

Yoshihiko Fujisawa, Yuma Ichikawa, Yudai Fujimoto, Akira Sakai, Katsuki Fujisawa

机构 * Fujitsu Limited（富士通株式会社） ； Institute of Science Tokyo（东京科学研究所） ； RIKEN Center for AIP（理化学研究所先进信息处理中心） ； Tokai University（静冈大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出LoRDBA，一种用二值符号载波和通道级缩放替代低秩因子的适配器，在保持LoRA兼容性的同时显著降低存储和计算开销，并在设备端微调中匹配或超越低比特基线性能。

Comments 34 pages, 3 figures

As X, Do Y: How Persona and Task Combine in Instruction-Tuned LLMs

作为X，做Y：角色和任务如何在指令微调LLM中结合

Eric Xu

机构 * Independent Researcher（独立研究者） 纠错

专题命中 指令微调 ：LLM(title_cn)；分类 cs.CL、cs.AI

AI总结 本文研究指令微调LLM中角色提示的加性分解结构，发现角色和任务在残差流中通过部分正交方向贡献，但该结构不意味着提示可压缩，因为角色条件化行为依赖于分布式提示/KV机制。

Comments 12 pages, 1 figure. Code: https://github.com/xuy/localized-additive-composition

Beyond Temperature: Hyperfitting as a Late-Stage Geometric Expansion

超越温度：超拟合作为晚期几何扩展

Meimingwei Li, Yuanhao Ding, Esteban Garces Arias, Christian Heumann

机构 * Department of Statistics, LMU Munich（慕尼黑大学统计系） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML）） ； School of Computer and Information Engineering, Henan University（河南大学计算机与信息工程学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了超拟合现象，发现其与分布锐化不同，通过实验表明超拟合依赖于动态的上下文相关排名重排机制，并在Transformer最后一层的终端扩展中实现了特征空间的几何扩展，提出了Late-Stage LoRA方法以提升生成质量。

Comments Accepted at ICML 2026

BeLink: Biomedical Entity Linking Meets Generative Re-Ranking

BeLink: 生物医学实体链接结合生成性重新排序

Darya Shlyk, Stefano Montanelli, Lawrence Hunter

机构 * University of Milan（米兰大学） ； University of Chicago（芝加哥大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种基于生成模型的重新排序方法，通过指令微调提高生物医学实体链接的效率和准确性，在多个基准测试中实现了3%-24%的链接准确率提升，同时减少了推理时间。

Comments Accepted to ACM SIGIR 2026

ECPO: Evidence-Coupled Policy Optimization for Evidence-Certified Candidate Ranking

ECPO：基于证据的策略优化用于证据认证的候选者排序

Miaobo Hu, Shuhao Hu, BoKun Wang, Yina Sa, Xin Wang, Xiaobo Guo, Daren Zha, Jun Xiao

机构 * Institute of Information Engineering, Chinese Academy of Sciences（信息工程研究所，中国科学院） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文研究了证据认证候选者排序问题，提出了一种名为ECPO的策略优化方法，通过结合排序和证据证书来提升排序效果和证据可靠性。

SMoA: Spectrum Modulation Adapter for Parameter-Efficient Fine-Tuning

SMoA：用于参数高效微调的频谱调制适配器

Yongkang Liu, Xing Li, Mengjie Zhao, Shanru Zhang, Zijing Wang, Qian Li, Shi Feng, Feiliang Ren, Daling Wang, Hinrich Schütze

机构 * Northeastern University, China（东北大学，中国） ； Shandong University, China（山东大学，中国） ； CIS, LMU Munich, Germany（慕尼黑莱布尼茨大学CIS中心，德国） ； MCML, Germany（德国MCML） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SMoA，一种频谱感知更新的适配器，通过在较小的参数预算下扩大可访问的频谱更新家族，提升参数高效微调的性能。

Conformal Selective Acting: Anytime-Valid Risk Control for RLVR-Trained LLMs

conformal selective acting: any-time-valid risk control for rlvr-trained llms

Hamed Khosravi, Xiaoming Huo

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 该研究提出了一种 conformal selective acting 方法，用于在 rlvr 训练的 llms 部署中实现 anytime-valid 的风险控制，通过在部署要求下强制一个空单元，利用 e-process 和 bonferroni 网格来维护 pathwise 有效性，同时在多个基准测试中证明了其有效性。