语言大模型 / LLM

Mind the Generation Process: Fine-Grained Confidence Estimation During LLM Generation

Jinyi Han, Tingyun Li, Shisong Chen, Jie Shi, Xinyi Wang, Guanglei Yue, Jiaqing Liang, Xin Lin, Liqian Wen, Zulong Chen, Yanghua Xiao

机构 * Shanghai Institute of Artificial Intelligence for Education（上海人工智能教育研究院） ； East China Normal University（华东师范大学） ； School of Data Science, Fudan University（复旦大学数据科学学院） ； College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学与人工智能学院） ； Alibaba（阿里巴巴集团） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments The initial versin was made in August 2024

Event-Aware Sentiment Factors from LLM-Augmented Financial Tweets: A Transparent Framework for Interpretable Quant Trading

Yueyi Wang, Qiyao Wei

机构 * Department of Physics, University of Cambridge, Cambridge, UK（剑桥大学物理系） ； Department of Applied Mathematics and Theoretical Physics, University of Cambridge, Cambridge, UK（剑桥大学应用数学与理论物理系） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

Comments 16 pages, 12 figures, accepted at ICML 2025 New in ML Workshop

ADMIRE-BayesOpt: Accelerated Data MIxture RE-weighting for Language Models with Bayesian Optimization

Shengzhuang Chen, Xu Ouyang, Michael Arthur Leopold Pearce, Thomas Hartvigsen, Jonathan Richard Schwarz

机构 * Thomson Reuters Foundational Research & Imperial College London（汤姆逊·路透基础研究与帝国理工学院伦敦） ； University of Virginia（弗吉尼亚大学） ； Graphcore ； Thomson Reuters Foundational Research（汤姆逊·路透基础研究） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI、cs.LG

PVChat: Personalized Video Chat with One-Shot Learning

Yufei Shi, Weilong Yan, Gang Xu, Yumeng Li, Yucheng Chen, Zhenxi Li, Fei Richard Yu, Ming Li, Si Yong Yeo

机构 * MedVisAI Lab（MedVisAI实验室） ； National University of Singapore（新加坡国立大学） ； Nankai University（南开大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东人工智能与数字经济实验室（深圳）） ； Lee Kong Chian School of Medicine, Nanyang Technological University（南洋理工大学李科谦医学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

Arabic ASR on the SADA Large-Scale Arabic Speech Corpus with Transformer-Based Models

Branislav Gerazov, Marcello Politi, Sébastien Bratières

机构 * FEEIT, Ss Cyril and Methodius University（塞尔维亚文蒂大学费埃IT学院） ； Pi School（皮学校） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.LG

Chart-CoCa: Self-Improving Chart Understanding of Vision LMs via Code-Driven Synthesis and Candidate-Conditioned Answering

Gongyao Jiang, Qiong Luo

机构 * The Hong Kong University of Science 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

Comments Accepted to CIKM 2025

Large Language Models Must Be Taught to Know What They Don't Know

Sanyam Kapoor, Nate Gruver, Manley Roberts, Katherine Collins, Arka Pal, Umang Bhatt, Adrian Weller, Samuel Dooley, Micah Goldblum, Andrew Gordon Wilson

机构 * New York University（纽约大学） ； Abacus AI ； Cambridge University（剑桥大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

Comments NeurIPS 2024 Camera Ready

Data Mixing Optimization for Supervised Fine-Tuning of Large Language Models

Yuan Li, Zhengzhong Liu, Eric Xing

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；SFT(abstract)；分类 cs.AI

Consiglieres in the Shadow: Understanding the Use of Uncensored Large Language Models in Cybercrimes

Zilong Lin, Zichuan Li, Xiaojing Liao, XiaoFeng Wang

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

High-Dimensional Interlingual Representations of Large Language Models

Bryan Wilie, Samuel Cahyawijaya, Junxian He, Pascale Fung

机构 * Hong Kong University of Science and Technology（香港理工大学） ； Cohere 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

M3PO: Multimodal-Model-Guided Preference Optimization for Visual Instruction Following

Ruirui Gao, Emily Johnson, Bowen Tan, Yanfei Qian

机构 * University of Massachusetts, Amherst（马萨诸塞大学阿姆赫斯特分校） 纠错

专题命中 指令微调 ：preference optimization(title,abstract)；language model(abstract)；SFT(abstract)；RLHF(abstract)

Learning Wisdom from Errors: Promoting LLM's Continual Relation Learning through Exploiting Error Cases

Shaozhe Yin, Jinyu Guo, Kai Shuang, Xia Liu, Ruize Ou

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； University of Electronic Science and Technology of China（电子科技大学） ； China National Institute of Standardization（中国标准化研究院） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

In-Context Examples Matter: Improving Emotion Recognition in Conversation with Instruction Tuning

Hui Ma, Bo Zhang, Jinpeng Hu, Zenglin Shi

专题命中 指令微调 ：instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

LangVision-LoRA-NAS: Neural Architecture Search for Variable LoRA Rank in Vision Language Models

Krishna Teja Chitty-Venkata, Murali Emani, Venkatram Vishwanath

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)

Comments Accepted by ICIP 2025 Conference

Chinchunmei at SemEval-2025 Task 11: Boosting the Large Language Model's Capability of Emotion Perception using Contrastive Learning

Tian Li, Yujian Sun, Huizhi Liang

机构 * School of Computing, Newcastle University（计算学院，新卡斯尔大学） ； Shumei AI Research Institute（舒美人工智能研究院） 纠错

专题命中 指令微调 ：large language model(title)；language model(title)；分类 cs.CL

Journal ref Association for Computational Linguistics, Proceedings of the 19th International Workshop on Semantic Evaluation (SemEval-2025), 319-330

Breaking Language Barriers: Equitable Performance in Multilingual Language Models

Tanay Nagar, Grigorii Khvatskii, Anna Sokol, Nitesh V. Chawla

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； NSF Center for Computer Assisted Synthesis (CCAS), University of Notre Dame（国家科学基金会计算机辅助合成中心（CCAS）、诺特大学） ； University of Notre Dame（诺特大学） 纠错

专题命中 指令微调 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

Comments Accepted as a non-archival work-in-progress paper at the NAACL 2025 Student Research Workshop

Rethinking Safety in LLM Fine-tuning: An Optimization Perspective

Minseon Kim, Jin Myung Kwak, Lama Alssum, Bernard Ghanem, Philip Torr, David Krueger, Fazl Barez, Adel Bibi

机构 * Microsoft Research（微软研究院） ； KAIST（韩国科学技术院） ； KAUST（韩国科学技术大学） ； Université de Montréal（蒙特利尔大学） ； Mila（蒙特利尔人工智能研究院） ； WhiteBox（WhiteBox公司） ； University of Oxford（牛津大学） 纠错

专题命中 指令微调 ：LLM(title)；language model(abstract)；分类 cs.AI、cs.LG

Infusing fine-grained visual knowledge to Vision-Language Models

Nikolaos-Antonios Ypsilantis, Kaifeng Chen, André Araujo, Ondřej Chum

机构 * VRG, FEE, Czech Technical University in Prague（捷克布拉格技术大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；foundation model(comments)

Comments ICCVW 2025 accepted paper. Workshop name: "What is Next in Multimodal Foundation Models?"

Preserve and Sculpt: Manifold-Aligned Fine-tuning of Vision-Language Models for Few-Shot Learning

Dexia Chen, Qianjie Zhu, Weibing Li, Yue Yu, Tong Zhang, Ruixuan Wang

专题命中 指令微调 ：language model(title,abstract)

Towards Open-Ended Emotional Support Conversations in LLMs via Reinforcement Learning with Future-Oriented Rewards

Ting Yang, Li Chen, Huimin Wang

机构 * Hong Kong Baptist University（香港 Baptist 大学） ； Jarvis Lab（Jarvis 实验室） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

StepTool: Enhancing Multi-Step Tool Usage in LLMs via Step-Grained Reinforcement Learning

Yuanqing Yu, Zhefan Wang, Weizhi Ma, Shuai Wang, Chuhan Wu, Zhiqiang Guo, Min Zhang

机构 * DCST, Tsinghua University（清华大学数据科学研究院） ； Quan Cheng Laboratory（钱塘实验室） ； AIR, Tsinghua University（清华大学人工智能研究院） ； Huawei Noah's Ark Lab（华为诺亚实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL

Comments Accepted by CIKM'25

GeoSAM: Fine-tuning SAM with Multi-Modal Prompts for Mobility Infrastructure Segmentation

Rafi Ibn Sultan, Chengyin Li, Hui Zhu, Prashant Khanduri, Marco Brocanelli, Dongxiao Zhu

机构 * Department of Computer Science, Wayne State University, Detroit, MI, USA 48202（计算机科学系，韦恩州立大学） ； Department of Radiation Oncology, Henry Ford Health, Detroit, MI, USA 48202（放射肿瘤科，亨利福特健康） ； Department of Electrical and Computer Engineering, The Ohio State University, Columbus, Ohio, USA 43210（电气与计算机工程系，俄亥俄州立大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；分类 cs.AI

Comments Accepted by European Conference on Artificial Intelligence (ECAI 2025)

Efficient Modular Learning through Naive LoRA Summation: Leveraging Orthogonality in High-Dimensional Models

Zhanhao Cao, Clement Truong, Andrew Lizarraga

机构 * University of California, Los Angeles (UCLA)（加州大学洛杉矶分校） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Comments Preprint

When Does Language Transfer Help? Sequential Fine-Tuning for Cross-Lingual Euphemism Detection

Julia Sammartino, Libby Barak, Jing Peng, Anna Feldman

机构 * Montclair State University（蒙特克莱尔州立大学） 纠错

专题命中 指令微调 ：language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

Comments RANLP 2025

LoRA-Augmented Generation (LAG) for Knowledge-Intensive Language Tasks

William Fleshman, Benjamin Van Durme

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

SGPT: Few-Shot Prompt Tuning for Signed Graphs

Zian Zhai, Sima Qing, Xiaoyang Wang, Wenjie Zhang

机构 * The University of New South Wales（新南威尔士大学） 纠错

专题命中 指令微调 ：prompting(abstract)；分类 cs.AI、cs.LG

Comments CIKM'25

Code Vulnerability Detection Across Different Programming Languages with AI Models

Hael Abdulhakim Ali Humran, Ferdi Sonmez

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.AI

Contrastive Regularization over LoRA for Multimodal Biomedical Image Incremental Learning

Haojie Zhang, Yixiong Liang, Hulin Kuang, Lihui Cen, Zhe Qu, Yigang Cen, Min Zeng, Shichao Kan

机构 * School of Computer Science and Engineering, Central South University（计算机科学与工程学院，中南大学） ； School of Automation, Central South University（自动化学院，中南大学） ； School of Computer Science and Technology, Beijing Jiaotong University（计算机科学与技术学院，北京交通大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI、cs.LG

Comments 10 pages, 3 figures, submitted to ACM Multimedia 2025

ForensicsSAM: Toward Robust and Unified Image Forgery Detection and Localization Resisting to Adversarial Attack

Rongxuan Peng, Shunquan Tan, Chenqi Kong, Anwei Luo, Alex C. Kot, Jiwu Huang

机构 * Shenzhen Key Laboratory of Media Security, Faculty of Electronic and Information Engineering, Shenzhen University, China（深圳媒体安全重点实验室，电子与信息工程学院，深圳大学，中国） ； Rapid-Rich Object Search (ROSE) Lab, School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore（快速富对象搜索（ROSE）实验室，电气电子工程学院，南洋理工大学，新加坡） ； Guangdong Laboratory of Machine Perception and Intelligent Computing, Faculty of Engineering, Shenzhen MSU-BIT University, China（广东机器感知与智能计算实验室，工程学院，深圳MSU-BIT大学，中国） 纠错

专题命中 指令微调 ：foundation model(abstract)

Token-level Accept or Reject: A Micro Alignment Approach for Large Language Models

Yang Zhang, Yu Yu, Bo Tang, Yu Zhu, Chuxiong Sun, Wenqiang Wei, Jie Hu, Zipeng Xie, Zhiyu Li, Feiyu Xiong, Edward Chung

机构 * Hong Kong Polytechnic University（香港理工大学） ； MemTensor (Shanghai) Technology Co., Ltd（MemTensor（上海）科技有限公司） ； University of Science and Technology of China（中国科学技术大学） ； China Telecom Corporation Limited Beijing Research Institute（中国电信北京研究院） ； Nanjing University of Information Science and Technology（南京信息工程大学） 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；RLHF(abstract)；分类 cs.CL、cs.LG

Comments Accepted to 34th International Joint Conference on Artificial Intelligence (IJCAI 2025)