语言大模型 / LLM

LLMAEL: Large Language Models are Good Context Augmenters for Entity Linking

Amy Xin, Yunjia Qi, Zijun Yao, Fangwei Zhu, Kaisheng Zeng, Xu Bin, Lei Hou, Juanzi Li

机构 * Department of Computer Science and Technology, Beijing National Research Center for Information Science and Technology（计算机科学与技术系，北京信息科学国家研究中心） ； Tsinghua University（清华大学） ； Beijing University（北京大学） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

CHRONOBERG: Capturing Language Evolution and Temporal Awareness in Foundation Models

Niharika Hegde, Subarnaduti Paul, Lars Joel-Frey, Manuel Brack, Kristian Kersting, Martin Mundt, Patrick Schramowski

机构 * German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Department of Computer Science and Mathematics, University of Bremen（不莱梅大学计算机科学与数学系） ； Hessian Center for AI (hessian.AI)（黑森人工智能中心） ； Department of Computer Science, TU Darmstadt（图宾根大学计算机科学系） ； Centre for Cognitive Science, TU Darmstadt（图宾根大学认知科学中心） ； CERTAIN 纠错

专题命中 预训练与数据 ：foundation model(title)；LLM(abstract)；large language model(abstract)；language model(abstract)

Can Code Language Models Learn Clarification-Seeking Behaviors?

Jie JW Wu, Manav Chaudhary, Davit Abrahamyan, Arhaan Khaku, Anjiang Wei, Fatemeh H. Fard

机构 * Michigan Technological University（密歇根技术大学） ； Indian Institute of Information Technology (IIIT)（印度信息科技研究所） ； University of California, San Diego (UCSD)（加州大学圣地亚哥分校） ； University of British Columbia（不列颠哥伦比亚大学） ； Stanford University（斯坦福大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.LG

Understanding and Enhancing Mask-Based Pretraining towards Universal Representations

Mingze Dong, Leda Wang, Yuval Kluger

机构 * Yale University（耶鲁大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；分类 cs.LG

Comments NeurIPS 2025

Gender Stereotypes in Professional Roles Among Saudis: An Analytical Study of AI-Generated Images Using Language Models

Khaloud S. AlKhalifah, Malak Mashaabi, Hend Al-Khalifa

专题命中 预训练与数据 ：language model(title)；分类 cs.CL、cs.AI

LABELING COPILOT: A Deep Research Agent for Automated Data Curation in Computer Vision

Debargha Ganguly, Sumit Kumar, Ishwar Balappanawar, Weicong Chen, Shashank Kambhatla, Srinivasan Iyengar, Shivkumar Kalyanaraman, Ponnurangam Kumaraguru, Vipin Chaudhary

专题命中 预训练与数据 ：language model(abstract)；foundation model(abstract)；分类 cs.CL

ArabJobs: A Multinational Corpus of Arabic Job Ads

Mo El-Haj

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

The InviTE Corpus: Annotating Invectives in Tudor English Texts for Computational Modeling

Sophie Spliethoff, Sanne Hoeken, Silke Schwandt, Sina Zarrieß, Özge Alaçam

机构 * Dept. of History, Faculty of History, Philosophy and Theology, Bielefeld University（历史系，历史、哲学与神学学院，比勒菲尔德大学） ； Computational Linguistics, Dept. of Linguistics, Bielefeld University（计算语言学，语言学系，比勒菲尔德大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

$100K or 100 Days: Trade-offs when Pre-Training with Academic Resources

Apoorv Khandelwal, Tian Yun, Nihal V. Nayak, Jack Merullo, Stephen H. Bach, Chen Sun, Ellie Pavlick

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL、cs.LG

Comments Published at COLM 2025

ECHO: Toward Contextual Seq2Seq Paradigms in Large EEG Models

Chenyu Liu, Yuqiu Deng, Tianyu Liu, Jinan Zhou, Xinliang Zhou, Ziyu Jia, Yi Ding

机构 * College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算机与数据科学学院） ； School of Mechanical Engineering, Xi’an Jiaotong University, Xi’an, China（西安交通大学机械工程学院） ； Nutanix, CA, USA（Nutanix公司） ； Institute of Automation, Chinese Academy of Sciences, Beijing, China（中国科学院自动化研究所） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

Scaling Laws for Neural Material Models

Akshay Trikha, Kyle Chu, Advait Gosai, Parker Szachta, Eric Weiner

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.LG

Comments 12 pages, 11 figures, preprint

Phrase-grounded Fact-checking for Automatically Generated Chest X-ray Reports

Razi Mahmood, Diego Machado-Reyes, Joy Wu, Parisa Kaviani, Ken C. L. Wong, Niharika D'Souza, Mannudeep Kalra, Ge Wang, Pingkun Yan, Tanveer Syeda-Mahmood

机构 * Rensselaer Polytechnic Institute, NY, USA（罗文学院） ； IBM Research, Almaden, CA, USA（IBM研究院） ； Stanford University, CA, USA（斯坦福大学） ； Massachusetts General Hospital (MGH), Boston, USA（麻省总医院） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

Comments In proceedings MICCAI 2025

Exploring Solution Divergence and Its Effect on Large Language Model Problem Solving

Hang Li, Kaiqi Yang, Yucheng Chu, Hui Liu, Jiliang Tang

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；SFT(abstract)

Comments 17 pages, 11 figures

Training-Free Bayesianization for Low-Rank Adapters of Large Language Models

Haizhou Shi, Yibin Wang, Ligong Han, Huan Zhang, Hao Wang

机构 * Rutgers University（新泽西罗格斯大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Red Hat AI Innovation（红帽AI创新） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted at NeurIPS 2025

Improving the Language Understanding Capabilities of Large Language Models Using Reinforcement Learning

Bokai Hu, Sai Ashish Somayajula, Xin Pan, Pengtao Xie

机构 * UC San Diego（加州大学圣地亚哥分校） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

A critical review of methods and challenges in large language models

Milad Moradi, Ke Yan, David Colwell, Matthias Samwald, Rhona Asgari

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

Debiasing Large Language Models in Thai Political Stance Detection via Counterfactual Calibration

Kasidit Sermsri, Teerapong Panboonyuen

机构 * Chulalongkorn University（朱拉隆功大学） ； MARSAIL 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

Comments 9 pages

video-SALMONN 2: Caption-Enhanced Audio-Visual Large Language Models

Changli Tang, Yixuan Li, Yudong Yang, Jimin Zhuang, Guangzhi Sun, Wei Li, Zejun Ma, Chao Zhang

机构 * Tsinghua University（清华大学） ； University of Cambridge（剑桥大学） ； ByteDance（字节跳动） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

UniErase: Towards Balanced and Precise Unlearning in Language Models

Miao Yu, Liang Lin, Guibin Zhang, Xinfeng Li, Junfeng Fang, Xingrui Yu, Ivor Tsang, Ningyu Zhang, Kun Wang, Yang Wang

机构 * University of Science and Technology of China（中国科学技术大学） ； University of the Chinese Academy of Sciences（中国科学院大学） ； National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） ； A*STAR（科技研究局） ； Zhejiang University（浙江大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

Exploiting Block Coordinate Descent for Cost-Effective LLM Model Training

Zeyu Liu, Yan Li, Yunquan Zhang, Boyang Zhang, Guoyong Jiang, Xin Zhang, Limin Xiao, Weifeng Zhang, Daning Cheng

机构 * National Supercomputing Center in Taiyuan（太原国家超算中心） ； School of Computer Science and Technology, North University of China（中国北方大学计算机科学与技术学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Intelligent Computing Infrastructure Lab, Lenovo Research（联想研究智能计算基础设施实验室） ； University of the Chinese Academy of Sciences（中国科学院大学） ； State Key Laboratory of Integrated Service Networks, Xidian University（西安电子科技大学集成服务网络国家重点实验室） ； School of Advanced Interdisciplinary Sciences（高级交叉学科学院） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Comments We have revised certain details of the manuscript and incorporated new experimental

CapRL: Stimulating Dense Image Caption Capabilities via Reinforcement Learning

Long Xing, Xiaoyi Dong, Yuhang Zang, Yuhang Cao, Jianze Liang, Qidong Huang, Jiaqi Wang, Feng Wu, Dahua Lin

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； The Chinese University of Hong Kong（香港中文大学） ； Shanghai Innovation Institute（上海创新研究院） ； Alibaba Cloud（阿里巴巴云） 纠错

专题命中 指令微调 ：LLM(abstract)；language model(abstract)；pretraining(abstract)；SFT(abstract)

Comments Code is available at https://github.com/InternLM/CapRL

Shadow-FT: Tuning Instruct Model via Training on Paired Base Model

Taiqiang Wu, Runming Yang, Jiayi Li, Pengfei Hu, Yik-Chung Wu, Ngai Wong, Yujiu Yang

机构 * The University of Hong Kong（香港大学） ； Tsinghua University（清华大学） ； Tencent（腾讯） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；post-training(abstract)；preference optimization(abstract)

Comments 24 pages, 12 tables, 8 figures. Previous name: Shadow-FT: Tuning Instruct via Base

ACCeLLiuM: Supervised Fine-Tuning for Automated OpenACC Pragma Generation

Samyak Jhaveri, Vanessa Klotzmann, Crista Lopes

机构 * University of California Irvine（加州大学尔布雷大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

Process Reinforcement through Implicit Rewards

Ganqu Cui, Lifan Yuan, Zefan Wang, Hanbin Wang, Yuchen Zhang, Jiacheng Chen, Wendi Li, Bingxiang He, Yuchen Fan, Tianyu Yu, Qixin Xu, Weize Chen, Jiarui Yuan, Huayu Chen, Kaiyan Zhang, Xingtai Lv, Shuo Wang, Yuan Yao, Xu Han, Hao Peng, Yu Cheng, Zhiyuan Liu, Maosong Sun, Bowen Zhou, Ning Ding

机构 * Shanghai AI Lab（上海人工智能实验室） ； Tsinghua University（清华大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学香槟分校） ； Peking University（北京大学） ； Shanghai Jiaotong University（上海交通大学） ； CUHK（香港中文大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 24 pages. Model&Code&Data available at https://github.com/PRIME-RL/PRIME

Few-Shot Adversarial Low-Rank Fine-Tuning of Vision-Language Models

Sajjad Ghiasvand, Haniyeh Ehsani Oskouie, Mahnoosh Alizadeh, Ramtin Pedarsani

专题命中 指令微调 ：language model(title,abstract)；分类 cs.LG

InfiMed-Foundation: Pioneering Advanced Multimodal Medical Models with Compute-Efficient Pre-Training and Multi-Stage Fine-Tuning

Guanghao Zhu, Zhitian Hou, Zeyu Liu, Zhijie Sang, Congkai Xie, Hongxia Yang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Sun Yat-sen University（中山大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

Accelerate Creation of Product Claims Using Generative AI

Po-Yu Liang, Yong Zhang, Tatiana Hwa, Aaron Byers

机构 * Department of Computer Science University of Cincinnati（计算机科学系 奥克兰大学） ； Corporate Functions R&D, Discovery& Innovation Platforms, P&G（企业职能研发、发现与创新平台，宝洁公司） ； Beauty Care IT, P&G（美容护理IT，宝洁公司） ； Beauty Care R&D, P&G（美容护理研发，宝洁公司） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments This paper has been accepted at the GenProCC workshop (NeurIPS 2025)

WebGen-Agent: Enhancing Interactive Website Generation with Multi-Level Feedback and Step-Level Reinforcement Learning

Zimu Lu, Houxing Ren, Yunqiao Yang, Ke Wang, Zhuofan Zong, Junting Pan, Mingjie Zhan, Hongsheng Li

机构 * Multimedia Laboratory (MMLab)（多媒体实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Enhancing Low-Rank Adaptation with Structured Nonlinear Transformations

Guanzhi Deng, Mingyang Liu, Dapeng Wu, Yinqiao Li, Linqi Song

机构 * City University of Hong Kong（香港城市大学） ； City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments This manuscript has been submitted to IEEE Journal of Selected Topics in Signal Processing (JSTSP) for review. Until the moment I submitted the manuscript to arXiv, we haven't received any review comments from JSTSP

HD-PiSSA: High-Rank Distributed Orthogonal Adaptation

Yiding Wang, Fauxu Meng, Xuefeng Zhang, Fan Jiang, Pingzhi Tang, Muhan Zhang

机构 * Institute for Artificial Intelligence, Peking University（人工智能学院，北京大学） ； Yuanpei College, Peking University（元培学院，北京大学） ； State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG