语言大模型 / LLM

Knowledge Homophily in Large Language Models

大型语言模型中的知识同质性

Utkarsh Sahu, Zhisheng Qi, Mahantesh Halappanavar, Nedim Lipka, Ryan A. Rossi, Franck Dernoncourt, Yu Zhang, Yao Ma, Yu Wang

机构 * University of Oregon Eugene OR USA ； Pacific Northwest National Laboratory Richland WA USA ； Adobe Research San Jose CA USA ； Texas A\&M University College Station TX USA ； Rensselaer Polytechnic Institute Troy NY USA ； University of Oregon ； Pacific Northwest National Laboratory ； Adobe Research ； Texas A\&M University ； Rensselaer Polytechnic Institute 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种基于图神经网络的模型，通过分析LLM知识的同质性，提高知识标注效率和推理问答性能。

Exploring the Translation Mechanism of Large Language Models

探索大型语言模型的翻译机制

Hongbin Zhang, Kehai Chen, Xuefeng Bai, Xiucheng Li, Yang Xiang, Min Zhang

机构 * Institute of Computing and Intelligence（计算与智能研究所） ； Harbin Institute of Technology（哈尔滨工业大学） ； Peng Cheng Laboratory（鹏城实验室） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本研究提出子空间干预路径修补法，揭示大型语言模型翻译机制，发现稀疏组件子集主导翻译，通过微调提升性能并推广至复杂任务。

Comments Accepted in NeurIPS 2025 Poster

SAGE: Tool-Augmented LLM Task Solving Strategies in Scalable Multi-Agent Environments

SAGE：可扩展多智能体环境中基于工具的LLM任务解决策略

Robert K. Strehlow, Tobias Küster, Oskar F. Kupke, Brandon Llanque Kurps, Fikret Sivrikaya, Sahin Albayrak

机构 * Technische Universität Berlin（柏林技术大学） ； DAI-Labor, TU Berlin, Chair of Agent Technologies（柏林技术大学DAI实验室，代理技术系） ； GT-ARC gGmbH（GT-ARC公司） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 SAGE通过OPACA框架实现动态工具整合，提供灵活的任务解决策略，提升LLM在多智能体环境中的效率与适应性。

Eliminating Agentic Workflow for Introduction Generation with Parametric Stage Tokens

通过参数化阶段令牌消除引言生成中的代理工作流

Meicong Zhang, Tiancheng su, Guoxiu He

机构 * School of Economics and Management, East China Normal University（经济管理学院，东华大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；instruction tuning(abstract)

AI总结 本文提出STIG方法，通过参数化阶段令牌消除代理工作流，使LLM在单次推理中生成连贯的引言，提升逻辑结构和语义相似性。

Benchmarking Foundation Models and Parameter-Efficient Fine-Tuning for Prognosis Prediction in Medical Imaging

在医学影像中评估基础模型和参数高效微调用于预后预测的基准测试

Filippo Ruffini, Elena Mulero Ayllon, Linlin Shen, Paolo Soda, Valerio Guarrasi

机构 * Unit of Artificial Intelligence and Computer Systems, Department of Engineering, Università Campus Bio-Medico di Roma（人工智能与计算机系统单位，工程系，罗马生物医学大学） ； College of Computer Science and Software Engineering, Shenzhen University（计算机科学与软件工程学院，深圳大学） ； Department of Diagnostics and Intervention, Radiation Physics, Biomedical Engineering, Umeå University（诊断与介入系，辐射物理，生物医学工程，乌梅大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI

AI总结 本研究通过基准测试比较了基础模型和CNN在医学影像预后预测中的性能，发现CNN在低资源情况下表现稳健，而FMs在数据充足时通过参数高效微调能取得良好效果。

Journal ref Computer Methods and Programs in Biomedicine, Vol. 275, 2026

Understanding and Preserving Safety in Fine-Tuned LLMs

理解并保持在微调大语言模型中的安全性

Jiawen Zhang, Yangfan Hu, Kejia Chen, Lipeng He, Jiachen Ma, Jian Lou, Dan Li, Jian Liu, Xiaohu Yang, Ruoxi Jia

机构 * Zhejiang University（浙江大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； University of Waterloo（滑铁卢大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Sun Yat-sen University（中山大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出安全保持微调（SPF）方法，通过分析安全性与实用性梯度的几何关系，有效解决微调过程中安全性与实用性之间的矛盾，保持模型性能并恢复预训练的安全性对齐。

Unleashing the Capabilities of Large Vision-Language Models for Intelligent Perception of Roadside Infrastructure

释放大型视觉-语言模型的能力以实现道路基础设施的智能感知

Luxuan Fu, Chong Liu, Bisheng Yang, Zhen Dong

机构 * State Key Laboratory of Information Engineering in Surveying, Mapping and Remote Sensing (LIESMARS)（信息工程测绘遥感国家重点实验室） ； Wuhan University（武汉大学） ； Hubei Luojia Laboratory（湖北珞珈实验室） 纠错

专题命中 指令微调 ：language model(title,abstract)

AI总结 本文提出一种领域适应框架，通过数据高效微调和知识引导推理，提升大型视觉语言模型在城市道路基础设施感知中的性能和专业合规性。

Instruction Finetuning LLaMA-3-8B Model Using LoRA for Financial Named Entity Recognition

使用LoRA对LLaMA-3-8B模型进行指令微调以实现金融命名实体识别

Zhiming Lian

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.LG

AI总结 本文通过结合指令微调和LoRA技术，提升LLaMA-3-8B模型在金融命名实体识别任务中的性能，取得微F1得分为0.894。

WebRollback: Enhancing Web Agents with Explicit Rollback Mechanisms

WebRollback: 通过显式回滚机制增强网络代理

Zhisong Zhang, Tianqing Fang, Kaixin Ma, Wenhao Yu, Hongming Zhang, Haitao Mi, Dong Yu

机构 * City University of Hong Kong（香港城市大学） ； Tencent AI Lab（腾讯人工智能实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 通过显式回滚机制提升网络代理的导航效率与灵活性

Comments EACL 2026

SVII-3D: Advancing Roadside Infrastructure Inventory with Decimeter-level 3D Localization and Comprehension from Sparse Street Imagery

SVII-3D：利用厘米级3D定位与稀疏街道影像的综合理解，推进道路基础设施库存建设

Chong Liu, Luxuan Fu, Yang Jia, Zhen Dong, Bisheng Yang

机构 * State Key Laboratory of Information Engineering in Surveying, Mapping and Remote Sensing (LIESMARS), Wuhan University, Wuhan 430079, China（信息工程测绘遥感国家重点实验室（LIESMARS），武汉大学） ； Research Institute Ltd, Chengdu 610000, China（四川省公路规划设计研究有限公司） 纠错

专题命中 指令微调 ：language model(abstract)；prompting(abstract)

AI总结 SVII-3D通过厘米级3D定位与稀疏影像综合理解，提升道路基础设施库存的自动化创建与细粒度状态诊断能力。

Privacy Enhanced PEFT: Tensor Train Decomposition Improves Privacy Utility Tradeoffs under DP-SGD

隐私增强的PEFT：张量分解改善DP-SGD下的隐私与效用权衡

Pradip Kunwar, Minh Vu, Maanak Gupta, Manish Bhattarai

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 TTLoRA通过张量分解低秩适应提升DP-SGD下的隐私与效用权衡，减少参数规模并降低成员泄露风险。

Boundary-Aware NL2SQL: Integrating Reliability through Hybrid Reward and Data Synthesis

边界感知的NL2SQL：通过混合奖励和数据合成集成可靠性

Songsong Tian, Kongsheng Zhuo, Zhendong Wang, Rong Shen, Shengtao Zhang, Yong Wu

机构 * Li Auto Inc.（Li汽车公司） ； Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 指令微调 ：SFT(abstract)；分类 cs.CL

AI总结 BAR-SQL通过混合奖励和数据合成方法，提升NL2SQL在生成准确性和边界感知回避能力上的表现。

Breaking the Limits of Open-Weight CLIP: An Optimization Framework for Self-supervised Fine-tuning of CLIP

突破开放权重CLIP的限制：一种用于CLIP自监督微调的优化框架

Anant Mehta, Xiyuan Wei, Xingyu Chen, Tianbao Yang

专题命中 指令微调 ：pretraining(abstract)；分类 cs.LG

AI总结 TuneCLIP通过自监督微调框架提升开放权重CLIP模型在多种下游任务上的性能，实现显著的性能提升。

Comments Submitted to ICLR 2026