arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-02-05 至 2026-02-05 共收录 18 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 18 篇

2602.04398 2026-02-05 cs.CL cs.AI 88%

Bi-directional Bias Attribution: Debiasing Large Language Models without Modifying Prompts

双向偏见归因:无需修改提示的大型语言模型去偏方法

Yujie Lin, Kunquan Li, Yixuan Liao, Xiaoxin Chen, Jinsong Su

机构 * School of Informatics, Xiamen University, China(厦门大学信息学院) vivo AI Lab, China(vivo AI实验室) Key Laboratory of Digital Protection and Intelligent Processing of Intangible Cultural Heritage of Fujian and Taiwan (Xiamen University), Ministry of Culture and Tourism, China(福建省和台湾非物质文化遗产数字化保护与智能处理重点实验室(厦门大学),文化部,中国)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文提出一种无需微调或修改提示的双向偏见归因方法,通过检测刻板印象词汇并归因神经元偏见,有效减少LLM中的偏见同时保持性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.13580 2026-02-05 cs.CL 88%

Sparse Subnetwork Enhancement for Underrepresented Languages in Large Language Models

稀疏子网络增强用于大型语言模型中资源匮乏语言

Daniil Gurgurov, Tanja Baeumel, Josef van Genabith, Simon Ostermann

机构 * Saarland University(萨尔兰大学) German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心) Centre for European Research in Trusted AI (CERTAIN)(欧洲可信人工智能研究中心)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文提出通过稀疏子网络增强方法,提升大型语言模型在资源匮乏语言上的性能,同时保持通用能力,并展示了其在多个语言模型上的有效性。

Comments preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.17489 2026-02-05 cs.CL cs.AI 86%

MapCoder-Lite: Distilling Multi-Agent Coding into a Single Small LLM

MapCoder-Lite:将多智能体编码 distilling 进单一小型 LLM

Woongkyu Lee, Junhee Cho, Jungwook Choi

机构 * Hanyang University(翰阳大学) Samsung SDS(三星SDS)

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);small language model(abstract)

AI总结 MapCoder-Lite通过三支柱方法将多智能体编码distilling进单一7B模型,显著提升代码生成性能并降低资源消耗。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.27675 2026-02-05 cs.SE cs.CR cs.LG 86%

On the Difficulty of Selecting Few-Shot Examples for Effective LLM-based Vulnerability Detection

在有效基于LLM的漏洞检测中选择少样本示例的难度

Md Abdul Hannan, Ronghao Ni, Chi Zhang, Limin Jia, Ravi Mangal, Corina S. Pasareanu

机构 * Colorado State University(科罗拉多州立大学) Carnegie Mellon University(卡内基梅隆大学)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文研究了在基于LLM的漏洞检测中选择少样本示例的两种标准,并发现不同编程语言对示例选择的响应不同。

Comments Workshop on LLM Assisted Security and Trust Exploration (LAST-X) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04337 2026-02-05 cs.CV cs.AI 83%

Fine-tuning Pre-trained Vision-Language Models in a Human-Annotation-Free Manner

无需人工标注的预训练视觉-语言模型微调

Qian-Wei Wang, Guanghao Meng, Ren Cai, Yaguang Song, Shu-Tao Xia

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院,清华大学) Institute of Perceptual Intelligence, Peng Cheng Laboratory(感知智能研究院,鹏城实验室) Peking University Shenzhen Graduate School, Peking University(北京大学深圳研究生院,北京大学)

专题命中 指令微调 :language model(title,abstract);LLM(abstract);分类 cs.AI

AI总结 CoFT通过双模型跨模态协作机制和双提示学习策略,在无需人工标注的情况下提升预训练视觉-语言模型的下游任务适应能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.01009 2026-02-05 cs.LG cs.AI 81%

LASS-ODE: Scaling ODE Computations to Connect Foundation Models with Dynamical Physical Systems

LASS-ODE:将ODE计算扩展以连接基础模型与动态物理系统

Haoran Li, Chenhan Xiao, Lihao Mai, Yang Weng, Erik Blasch

机构 * Department of Electrical, Computer, and Energy Engineering, Arizona State University, AZ, United States(电气、计算机与能源工程系,亚利桑那州立大学) Air Force Research Laboratory, VA, United States(空军研究实验室)

专题命中 指令微调 :foundation model(title,abstract);分类 cs.AI、cs.LG

AI总结 LASS-ODE通过局部线性ODE表示和跨系统注意力机制,提升物理系统动态预测的可扩展性和知识共享效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.25495 2026-02-05 cs.SD cs.AI 79%

EMO-TTA: Improving Test-Time Adaptation of Audio-Language Models for Speech Emotion Recognition

EMO-TTA: 提高音频-语言模型在语音情绪识别中的测试时适应性

Jiacheng Shi, Hongfei Du, Y. Alicia Hong, Ye Gao

专题命中 指令微调 :language model(title,abstract);分类 cs.AI

AI总结 EMO-TTA通过统计适应方法提升音频-语言模型在语音情绪识别中的测试时适应性,无需训练即可改进模型在非领域场景下的性能。

Comments Accepted to ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04565 2026-02-05 cs.CV 78%

Understanding Degradation with Vision Language Model

理解视觉退化

Guanzhou Lan, Chenyi Liao, Yuqi Yang, Qianli Ma, Zhigang Wang, Dong Wang, Bin Zhao, Xuelong Li

机构 * School of Artificial Intelligence, OPtics and ElectroNics (iOPEN), Northwestern Polytechnical University(人工智能学院、光学与电子学(iOPEN)、西北工业大学) Honors College, Northwestern Polytechnical University(荣誉学院、西北工业大学) Shanghai AI Laboratory(上海人工智能实验室) School of Artificial Intelligence, Shanghai Jiaotong University(人工智能学院、上海交通大学)

专题命中 指令微调 :language model(title,abstract)

AI总结 本文提出DU-VLM模型,通过结构化奖励强化学习解决视觉退化理解问题,引入大规模数据集并实现高保真图像恢复。

Comments 17 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.18998 2026-02-05 eess.AS 78%

MOSA: Mixtures of Simple Adapters Outperform Monolithic Approaches in LLM-based Multilingual ASR

MOSA:混合简单适配器在基于LLM的多语言语音识别中优于单体方法

Junjie Li, Jing Peng, Yangui Fang, Shuai Wang, Kai Yu

专题命中 指令微调 :LLM(title,abstract)

AI总结 MOSA通过混合简单适配器在基于LLM的多语言语音识别中实现更高性能和更高效的参数使用。

Comments 5 pages, 3 figures, accepted to ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.20417 2026-02-05 cs.CL 77%

SpeechMapper: Speech-to-text Embedding Projector for LLMs

SpeechMapper: 语音到大语言模型的嵌入投影器

Biswesh Mohapatra, Marcely Zanon Boito, Ioan Calapodescu

机构 * Inria Paris(法国巴黎国家信息与自动化研究所) NAVER LABS Europe(NAVER欧洲实验室)

专题命中 指令微调 :LLM(abstract);foundation model(abstract);instruction tuning(abstract);分类 cs.CL

AI总结 SpeechMapper通过低成本预训练和高效指令微调,实现语音与大语言模型的高效集成,提升模型的稳健性和可推广性。

Comments Accepted to ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.15605 2026-02-05 cs.CL cs.SI 77%

ToxiTwitch: Toward Emote-Aware Hybrid Moderation for Live Streaming Platforms

ToxiTwitch:迈向面向表情的混合审核方法

Baktash Ansari, Elias Martin, Afra Mashhadi

机构 * University of Washington(华盛顿大学)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 ToxiTwitch通过结合LLM生成的文本和表情嵌入与传统机器学习分类器,提高Twitch直播平台对有毒行为的检测准确率。

Comments Exploratory study; prior versions submitted to peer review

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04735 2026-02-05 cs.LG cs.AI cs.CL cs.CY cs.IR 75%

From Data to Behavior: Predicting Unintended Model Behaviors Before Training

从数据到行为:在训练前预测未预料的模型行为

Mengru Wang, Zhenqian Xu, Junfeng Fang, Yunzhi Yao, Shumin Deng, Huajun Chen, Ningyu Zhang

机构 * Zhejiang University(浙江大学) National University of Singapore(新加坡国立大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 提出MDF方法,通过数据均值表示预测模型预训练阶段的潜在偏见和安全风险,实现高效检测。

Comments Work in progress

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04089 2026-02-05 cs.AI cs.CL cs.LG 75%

Scaling In-Context Online Learning Capability of LLMs via Cross-Episode Meta-RL

通过跨回合元强化学习提升大语言模型的上下文在线学习能力

Xiaofeng Lin, Sirou Zhu, Yilei Chen, Mingyu Chen, Hejian Sang, Ioannis Paschalidis, Zhipeng Wang, Aldo Pacchiano, Xuezhou Zhang

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 ORBIT通过元强化学习框架提升LLMs在动态环境中的上下文在线学习能力,使开源模型在未见环境中性能超越传统RL微调。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.19207 2026-02-05 cs.CR 75%

Defending Against Prompt Injection with DataFilter

用DataFilter抵御提示注入

Yizhu Wang, Sizhe Chen, Raghad Alkhudair, Basel Alomair, David Wagner

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 DataFilter通过在数据到达LLM前移除恶意指令,有效防御提示注入攻击,同时保持模型的效用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04118 2026-02-05 cs.LG 70%

Learning to Reason in 13 Parameters

在13个参数中学习推理

John X. Morris, Niloofar Mireshghallah, Mark Ibrahim, Saeed Mahloujifar

机构 * FAIR at Meta(Meta 的 FAIR) Cornell University(康奈尔大学) Carnegie Mellon University(卡内基梅隆大学)

专题命中 指令微调 :language model(abstract);SFT(abstract);分类 cs.LG

AI总结 TinyLoRA通过仅训练13个参数实现高效推理学习,显著提升模型性能并降低训练成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04442 2026-02-05 cs.CL cs.AI cs.LG 67%

No One-Size-Fits-All: Building Systems For Translation to Bashkir, Kazakh, Kyrgyz, Tatar and Chuvash Using Synthetic And Original Data

并非万能一把抓:利用合成与原创数据构建翻译系统用于巴什基尔语、哈萨克语、吉尔吉斯语、塔塔尔语和楚瓦什语

Dmitry Karpov

机构 * PAO Severstal / Moscow, Russia(莫斯科俄罗斯塞维尔塔尔公司)

专题命中 指令微调 :prompting(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过合成与原创数据构建多突厥语翻译系统,展示了不同方法在各语言上的翻译效果,并发布相关数据集和模型权重。

Comments Accepted to EACL 2026 (LoResMT workshop)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04340 2026-02-05 cs.CV cs.AI 57%

Explicit Uncertainty Modeling for Active CLIP Adaptation with Dual Prompt Tuning

显式不确定性建模用于主动CLIP适应与双提示微调

Qian-Wei Wang, Yaguang Song, Shu-Tao Xia

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院,清华大学) Institute of Perceptual Intelligence, Peng Cheng Laboratory(感知智能研究院,鹏城实验室)

专题命中 指令微调 :language model(abstract);分类 cs.AI

AI总结 本文提出基于双提示微调的显式不确定性建模框架,用于提升主动CLIP适应的分类可靠性与主动样本选择效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.09554 2026-02-05 cs.CV 50%

RF-DETR: Neural Architecture Search for Real-Time Detection Transformers

RF-DETR:实时检测Transformer的神经架构搜索

Isaac Robinson, Peter Robicheaux, Matvei Popov, Deva Ramanan, Neehar Peri

机构 * Roboflow Carnegie Mellon University(卡内基梅隆大学)

专题命中 指令微调 :language model(abstract)

AI总结 RF-DETR通过轻量级检测Transformer和神经架构搜索,在实时检测中实现更高的精度和速度,超越现有方法。

Comments This work has been accepted to the International Conference on Learning Representations (ICLR) 2026. Project Page: https://rfdetr.roboflow.com/

详情

展开后加载摘要…

URL PDF HTML 收藏