语言大模型 / LLM

When Long Helps Short: How Context Length in Supervised Fine-tuning Affects Behavior of Large Language Models

Yingming Zheng, Hanqi Li, Kai Yu, Lu Chen

机构 * X-LANCE Lab（X-LANCE实验室） ； MoE Key Lab of Artificial Intelligence（人工智能MoE关键实验室） ； AI Institute（人工智能研究院） ； School of Computer Science（计算机科学学院） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institution（上海创新机构） ； Jiangsu Key Lab of Language Computing（江苏语言计算关键实验室） ； Suzhou Laboratory（苏州实验室） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；pretraining(abstract)

Enhancing LLM Steering through Sparse Autoencoder-Based Vector Refinement

Anyi Wang, Xuansheng Wu, Dong Shu, Yunpu Ma, Ninghao Liu

机构 * LMU Munich（慕尼黑大学） ； University of Georgia（佐治亚大学） ； Northwestern University（西北大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Comments 19 pages, 11 figures, 7 tables

Beyond Imitation: Recovering Dense Rewards from Demonstrations

Jiangnan Li, Thuy-Trang Vu, Ehsan Abbasnejad, Gholamreza Haffari

机构 * Department of Data Science and AI, Monash University（数据科学与人工智能系，墨尔本大学） 纠错

专题命中 指令微调 ：SFT(abstract)；分类 cs.CL、cs.LG

Activated LoRA: Fine-tuned LLMs for Intrinsics

Kristjan Greenewald, Luis Lastras, Thomas Parnell, Vraj Shah, Lucian Popa, Giulio Zizzo, Chulaka Gunasekara, Ambrish Rawat, David Cox

机构 * IBM Research（IBM研究院） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.AI、cs.LG

Fine-tuning LLMs with variational Bayesian last layer for high-dimensional Bayesian optimization

Haotian Xiang, Jinwen Xu, Qin Lu

机构 * School of ECE University of Georgia（电子工程学院 佐治亚大学） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.LG