语言大模型 / LLM

Beyond I'm Sorry, I Can't: Dissecting Large Language Model Refusal

超越‘对不起，我不能’：剖析大语言模型拒绝行为

Nirmalendu Prakash, Yeo Wei Jie, Amir Abdullah, Ranjan Satapathy, Erik Cambria, Roy Ka Wei Lee

机构 * Social-AI-Studio 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究通过稀疏自编码器分析两个指令微调模型，揭示拒绝行为的内部机制，发现关键特征并展示如何通过可解释的潜在空间进行安全行为审计和干预。

IRIS: Interpolative Rényi Iterative Self-play for Large Language Model Fine-Tuning

IRIS：基于Rényi的迭代自博弈用于大语言模型微调

Wenjie Liao, Like Wu, Liangjie Zhao, Shihui Xu, Shigeru Fujimura

机构 * Graduate School of Information, Production and Systems（信息、生产与系统研究生院） ； Institute of Computing Technology, University of the Chinese Academy of Sciences（中国科学院大学计算技术研究所） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 IRIS通过可调Rényi自博弈框架提升大语言模型微调效果，统一解释多种自博弈方法，实验表明其在少样本下优于传统监督微调。

TLoRA: Task-aware Low Rank Adaptation of Large Language Models

TLoRA：面向任务的大型语言模型低秩适应

Weicheng Lin, Yi Zhang, Jiawei Dang, Liang-Jie Zhang

机构 * College of Computer Science and Software Engineering, Shenzhen University, China（深圳大学计算机科学与软件工程学院，中国） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 TLoRA通过联合优化初始化和资源分配，提升LoRA在不同任务中的性能，减少可训练参数数量。

Comments Accept to ACL 2026

SafeAnchor: Preventing Cumulative Safety Erosion in Continual Domain Adaptation of Large Language Models

SafeAnchor：在大语言模型连续领域适应中防止累积安全性侵蚀

Dongxin Guo, Jikun Wu, Siu Ming Yiu

机构 * The University of Hong Kong（香港大学） ； Brain Investing Limited 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 SafeAnchor通过识别低秩安全子空间并约束梯度更新，有效防止连续领域适应中的安全性侵蚀，实验显示其在多个领域任务中保持了较高的安全性对齐度。

Comments 16 pages (12 main + 4 appendix), 2 figures, 12 tables

Listen, Correct, and Feed Back: Spoken Pedagogical Feedback Generation

倾听、纠正与反馈：口语教学反馈生成

Junhong Liang, Yifan Lu, Ekaterina Kochmar, Fajri Koto

机构 * Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出SPFG数据集，基于Speak & Improve 2025语料，结合流畅性转录与GEC目标及人工验证的教师风格反馈，评估三种LLM在生成纠错与反馈中的表现，发现SFT效果最佳，DPO/KTO效果不一致，纠错与反馈质量弱相关。

Comments NLP8506 course project

Enhancing Multimodal Large Language Models for Ancient Chinese Character Evolution Analysis via Glyph-Driven Fine-Tuning

通过字形驱动微调增强多模态大语言模型用于古汉字演变分析

Rui Song, Lida Shi, Ruihua Qi, Yingji Li, Hao Xu

机构 * College of Computer Science and Technology, Jilin University, China（吉林大学计算机科学与技术学院） ； Key Laboratory of Ancient Chinese Script, Culture Relics and Artificial Intelligence, Jilin University, China（吉林大学古文字、文物与人工智能重点实验室） ； School of Artificial Intelligence, Jilin University, China（吉林大学人工智能学院） ； School of Archaeology, Jilin University, China（吉林大学考古学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出GEVO框架，通过字形驱动微调提升多模态大语言模型在古汉字演变分析中的能力，实验显示模型在多个任务上均取得显著提升。

Comments Accepted by ACL 2026 main

TalkLoRA: Communication-Aware Mixture of Low-Rank Adaptation for Large Language Models

TalkLoRA: 一种面向通信的低秩适应混合框架用于大语言模型

Lin Mu, Haiyang Wang, Li Ni, Lei Sang, Zhize Wu, Peiquan Jin, Yiwen Zhang

机构 * Anhui University（安徽大学） ； Hefei University（合肥大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 TalkLoRA通过引入专家间通信机制，提升LoRA在大语言模型中的参数效率和路由稳定性，实现在多种任务中更高效和均衡的专家路由。

Journal ref ACL 2026

DenseLoRA: Dense Low-Rank Adaptation of Large Language Models

DenseLoRA: 大型语言模型的密集低秩适应

Lin Mu, Xiaoyu Wang, Li Ni, Yang Li, Zhize Wu, Peiquan Jin, Yiwen Zhang

机构 * Anhui University（安徽大学） ； Hefei University（合肥大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 DenseLoRA通过引入密集低秩矩阵提升参数效率和性能，相比LoRA在多个基准测试中表现更优。

Journal ref ACL 2025

Routing-Based Continual Learning for Multimodal Large Language Models

基于路由的多模态大语言模型持续学习

Jay Mohta, Kenan Emir Ak, Gwang Lee, Dimitrios Dimitriadis, Yan Xu, Mingwei Shen

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于路由的持续学习方法，用于多模态大语言模型，有效缓解灾难性遗忘并提升跨模态迁移性能，同时保持训练效率。

Meta-Learning at Scale for Large Language Models via Low-Rank Amortized Bayesian Meta-Learning

通过低秩放大贝叶斯元学习实现大规模语言模型的规模化元学习

Liyi Zhang, Jake Snell, Thomas L. Griffiths

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ABMLL方法，通过低秩放大贝叶斯元学习实现大规模语言模型对多分布的适应，提升跨数据集泛化能力，并在CrossFit和Unified-QA数据集上优于现有方法。

Comments 17 pages, 2 figures

Table-LLM-Specialist: Language Model Specialists for Tables using Iterative Generator-Validator Fine-tuning

Table-LLM-Specialist: 用于表格任务的语言模型专家使用迭代生成-验证微调

Junjie Xing, Yeye He, Mengyu Zhou, Haoyu Dong, Shi Han, Dongmei Zhang, Surajit Chaudhuri

机构 * University of Michigan（密歇根大学） ； Microsoft Corporation（微软公司） 纠错

专题命中 指令微调 ：LLM(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出Table-LLM-Specialist，通过生成-验证框架实现表格任务的有效微调，无需人工标注数据，提升性能并降低部署成本。

Comments Full version of a paper in EMNLP 2025; code is available at: https://github.com/microsoft/Table-Specialist

LARFT: Closing the Cognition-Action Gap for Length Instruction Following in Large Language Models

LARFT：为大语言模型的长度指令跟随缩小认知-行动差距

Wei Zhang, Lintong Du, Yuanhe Zhang, Zhenhong Zhou, Kun Wang, Li Sun, Sen Su

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 LARFT通过结合强化学习与 hindsight 长度意识，提升大语言模型对输出长度的控制能力，在多个基准测试中取得显著提升。

Comments 19 pages, 6 figures

Only relative ranks matter in weight-clustered large language models

仅相对排名在权重聚类的大型语言模型中起作用

Borja Aizpurua, Sukhbinder Singh, Román Orús

机构 * Department of Basic Sciences, Tecnun - University of Navarra, San Sebasti\'an, Spain ； Donostia International Physics Center, San Sebasti\'an, Spain 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了大型语言模型中权重相对排名的重要性，通过权重聚类减少唯一权重值，实现模型压缩，同时保持准确性，并探讨了相对排名对模型质量的影响。

Comments 10 pages, 3 figures, 9 tables

Evontree: Ontology Rule-Guided Self-Evolution of Large Language Models

Evontree：基于本体规则的大型语言模型自进化

Mingchen Tu, Zhiqiang Liu, Juan Li, Liangyurui Liu, Junjie Wang, Lei Liang, Wen Zhang

机构 * Zhejiang University（浙江大学） ； University of Electronic Science and Technology of China（电子科技大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Evontree方法，通过提取领域本体知识、检测不一致性和自蒸馏微调，提升低资源专业领域LLM的自进化能力，实验表明其在医疗问答基准上准确率提升达3.7%。

No Memorization, No Detection: Output Distribution-Based Contamination Detection in Small Language Models

无记忆，无检测：基于输出分布的污染检测在小语言模型中

Omer Sela

机构 * Tel Aviv University（特拉维夫大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；small language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了基于输出分布的污染检测方法CDD在小语言模型中的有效性，发现其在多数情况下表现不佳，而基于概率的方法更优。

Comments Code available at https://github.com/Sela-Omer/Contamination-Detection-Small-LM

PVminerLLM: Structured Extraction of Patient Voice from Patient-Generated Text using Large Language Models

PVminerLLM: 从患者生成的文本中使用大语言模型进行结构化提取患者声音

Samah Fodeh, Linhai Ma, Ganesh Puthiaraju, Srivani Talakokkul, Afshan Khan, Ashley Hagaman, Sarah Lowe, Aimee Roundtree

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 PVminerLLM通过监督微调的大语言模型从患者生成的文本中提取结构化患者声音，实现高精度的F1分数，为健康公平性和护理协调提供新的分析工具。

Detection of Illicit Content on Online Marketplaces using Large Language Models

利用大语言模型检测在线市场上的非法内容

Quoc Khoa Tran, Thanh Thi Nguyen, Campbell Wilson

机构 * AiLECS Lab Monash University（AiLECS实验室 莫纳什大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了利用大语言模型检测在线市场非法内容的有效性，发现LLM在复杂分类任务中表现优于传统方法。

Comments Accepted for publication in the Proceedings of the 8th International Conference on Natural Language Processing (ICNLP 2026)

How does fine-tuning improve sensorimotor representations in large language models?

微调如何改善大语言模型中的感知运动表征

Minghua Wu, Javier Conde, Pedro Reviriego, Marc Brysbaert

机构 * Department of Experimental Psychology, Ghent University（实验心理学系，根特大学） ； Information Processing and Telecommunications Center (IPTC), Universidad Politécnica de Madrid, Spain（信息处理与电信中心（IPTC），马德里理工大学，西班牙） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过微调改善大语言模型的感知运动表征，发现其在语言和感知运动维度上具有良好的泛化能力，但对学习目标敏感，无法跨任务格式迁移。

You Only Fine-tune Once: Many-Shot In-Context Fine-Tuning for Large Language Models

你只需微调一次：用于大型语言模型的多示例上下文微调

Wenchong He, Liqian Peng, Zhe Jiang, Alex Go

机构 * University of Florida（佛罗里达大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出多示例上下文微调方法，通过扩展上下文学习原理，显著提升大型语言模型在多任务处理中的性能，接近专门微调水平并缓解灾难性遗忘问题。

Comments 20 pages, 6 figures, 12 tables

Measuring Pragmatic Influence in Large Language Model Instructions

在大型语言模型指令中测量隐含影响

Yilin Geng, Omri Abend, Eduard Hovy, Lea Frermann

机构 * University of Melbourne（墨尔本大学） ； Hebrew University of Jerusalem（耶路撒冷希伯来大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种框架分解和分类方法，系统测量大型语言模型指令中的隐含影响，揭示了框架对指令优先级的可预测影响。

Simple Yet Effective: Extracting Private Data Across Clients in Federated Fine-Tuning of Large Language Models

简单而有效的：在联邦微调大型语言模型中提取客户端私有数据

Yingqi Hu, Zhuo Zhang, Jingyuan Zhang, Jinghua Wang, Qifan Wang, Lizhen Qu, Zenglin Xu

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Kuaishou Technology（快手科技） ； Meta AI ； Monash University（墨尔本大学） ； Fudan University（复旦大学） ； Shanghai Academy of Artificial Intelligence for Science（上海人工智能科学研究院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出三种简单有效的方法，用于在联邦微调大型语言模型中提取客户端私有数据，揭示了FedLLMs中的隐私风险并建立了评估框架。

Comments IJCNLP 2025 Findings

TAROT: Test-driven and Capability-adaptive Curriculum Reinforcement Fine-tuning for Code Generation with Large Language Models

TAROT: 为基于大语言模型的代码生成设计的测试驱动和能力适应课程强化微调

Chansung Park, Juyong Jiang, Fan Wang, Sayak Paul, Jiasi Shen, Jing Tang, Jianguo Li

机构 * Electronics and Telecommunications Research Institute（电信研究所） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Hugging Face ； Ant Group（蚂蚁集团） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 TAROT通过测试驱动和能力适应的课程强化微调方法，提升大语言模型生成代码的功能正确性和稳健性。

Comments The first three authors contributed equally to this work; listing order is random

CoSA: Compressed Sensing-Based Adaptation of Large Language Models

CoSA: 基于压缩感知的大型语言模型适应

Songtao Wei, Yi Li, Bohan Zhang, Zhichun Guo, Ying Huang, Yuede Ji, Miao Yin, Guanpeng Li, Bingzhe Li

机构 * Department of Computer Science, University of Texas at Dallas, Richardson, United States（计算机科学系，德克萨斯大学达拉斯分校，理查德森，美国） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 CoSA基于压缩感知理论提出了一种新的参数高效微调方法，通过固定随机投影矩阵和紧凑可学习核心实现高效且表达性强的多尺度模型适应。

Revisiting Privacy, Utility, and Efficiency Trade-offs when Fine-Tuning Large Language Models

重新审视在微调大语言模型时隐私、效用和效率之间的权衡

Soumi Das, Camila Kolling, Mohammad Aflah Khan, Mahsa Amani, Bishwamittra Ghosh, Qinyuan Wu, Till Speicher, Krishna P. Gummadi

机构 * MPI-SWS Germany（德国马克斯·普朗克研究所-斯图加特） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了在微调大语言模型时隐私、效用和效率之间的权衡，发现高效微调方法如LoRA在缓解隐私风险方面与差分隐私方法如DP效果相当，挑战了传统观点。

Comments This work has been accepted at IASEAI 2026 (Non-archival)

CausalTAD: Injecting Causal Knowledge into Large Language Models for Tabular Anomaly Detection

CausalTAD: 在表格异常检测中向大语言模型注入因果知识

Ruiqi Wang, Ruikang Liu, Runyu Chen, Haoxiang Suo, Zhiyi Peng, Zhuo Tang, Changjian Chen

机构 * College of Computer Science and Electronic Engineering, Hunan University, China（计算机科学与电子工程学院，湖南大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 CausalTAD通过注入因果知识提升表格异常检测性能，采用因果关系重构与加权策略，实验表明优于现有方法。

Bi-directional Bias Attribution: Debiasing Large Language Models without Modifying Prompts

双向偏见归因：无需修改提示的大型语言模型去偏方法

Yujie Lin, Kunquan Li, Yixuan Liao, Xiaoxin Chen, Jinsong Su

机构 * School of Informatics, Xiamen University, China（厦门大学信息学院） ； vivo AI Lab, China（vivo AI实验室） ； Key Laboratory of Digital Protection and Intelligent Processing of Intangible Cultural Heritage of Fujian and Taiwan (Xiamen University), Ministry of Culture and Tourism, China（福建省和台湾非物质文化遗产数字化保护与智能处理重点实验室（厦门大学），文化部，中国） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种无需微调或修改提示的双向偏见归因方法，通过检测刻板印象词汇并归因神经元偏见，有效减少LLM中的偏见同时保持性能。

Think Less, Label Better: Multi-Stage Domain-Grounded Synthetic Data Generation for Fine-Tuning Large Language Models in Telecommunications

少思多标：多阶段领域导向的合成数据生成用于电信领域大型语言模型微调

Chenhua Shi, Gregor Macdonald, Bhavika Jalli, Wanlu Lei, John Zou, Mridul Jain, Joji Philip

机构 * Ericsson（爱立信） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种多阶段自动化方法，利用领域知识图生成高质量合成数据，用于电信领域大型语言模型的微调，减少人工标注依赖，提升数据质量。

Comments 6 pages, 6 figures, 5 tables, IEEE ICC 2026

Reinforcement Learning Fine-Tuning Enhances Activation Intensity and Diversity in the Internal Circuitry of LLMs

强化学习微调增强大语言模型内部电路的激活强度和多样性

Honglin Zhang, Qianyue Hao, Fengli Xu, Yong Li

机构 * Department of Electronic Engineering, BNRist, Tsinghua University（电子工程系，BNRist，清华大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 强化学习微调增强了LLMs内部电路的激活强度和多样性，相较于偏好优化方法，其在数学泛化上的优势源于信息流的冗余与灵活性。

Reconstructing Training Data from Adapter-based Federated Large Language Models

从基于适配器的联邦大语言模型中重建训练数据

Silong Chen, Yuchuan Luo, Guilin Deng, Yi Liu, Min Xu, Shaojing Fu, Xiaohua Jia

机构 * National University of Defense Technology（国防科技大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究提出UTR攻击，揭示基于适配器的FedLLMs中低秩适配器导致的隐私泄露问题，挑战轻量级适应提升安全性的假设。

Comments Yuchuan Luo and Yi Liu are co-corresponding authors. Accepted at The Web Conference (WWW) 2026

Artificial Entanglement in the Fine-Tuning of Large Language Models

大语言模型微调中的人工纠缠

Min Chen, Zihan Wang, Canyu Chen, Zeguan Wu, Manling Li, Junyu Liu

机构 * Department of Computer Science, University of Pittsburgh, Pittsburgh, PA 15260, USA（匹兹堡大学计算机科学系） ； Department of Computer Science, Northwestern University, Evanston, IL 60208, USA（西北大学计算机科学系） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过量子信息视角分析大语言模型微调中的人工纠缠，揭示LoRA和FFT在参数结构上的差异，但这种差异不影响注意力输出，提出低秩更新的有效性源于'无毛定理'特性。

Comments 41 pages, many figures