arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2025-12-11 至 2025-12-11 共收录 8 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 8 篇

2512.08955 2025-12-11 cs.LG cs.AI 90%

LLM4XCE: Large Language Models for Extremely Large-Scale Massive MIMO Channel Estimation

LLM4XCE:用于超大规模大规模MIMO信道估计的大型语言模型

Renbin Li, Shuangshuang Li, Peihao Dong

机构 * College of Electronic and Information Engineering, Nanjing University of Aeronautics and Astronautics(电子与信息工程学院,南京航空航天大学)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.AI、cs.LG

AI总结 LLM4XCE通过利用大型语言模型的语义建模能力,实现了超大规模大规模MIMO信道估计的高效准确估计。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09329 2025-12-11 cs.LG cs.CE 85%

Self Distillation Fine-Tuning of Protein Language Models Improves Versatility in Protein Design

蛋白质语言模型的自我蒸馏微调提升了蛋白质设计的通用性

Amin Tavakoli, Raswanth Murugan, Ozan Gokdemir, Arvind Ramanathan, Frances Arnold, Anima Anandkumar

专题命中 指令微调 :language model(title,abstract);large language model(abstract);SFT(abstract);分类 cs.LG

AI总结 通过自我蒸馏微调提升蛋白质语言模型的通用性,生成更稳定和功能性的蛋白质序列。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.06249 2025-12-11 cs.CL cs.AI 79%

TRepLiNa: Layer-wise CKA+REPINA Alignment Improves Low-Resource Machine Translation in Aya-23 8B

TRepLiNa:分层CKA+REPINA对齐改进Aya-23 8B低资源机器翻译

Toshiki Nakai, Ravi Kiran Chikkala, Lena Sophie Oberkircher, Nicholas Jennings, Natalia Skachkova, Tatiana Anikina, Jesujoba Oluwadara Alabi

机构 * Saarland University(萨尔兰大学) German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 TRepLiNa通过结合CKA和REPINA实现分层对齐,提升低资源语言Aya-23 8B的机器翻译质量,尤其在数据稀缺情况下效果显著。

Comments It is work in progress

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.13381 2025-12-11 cs.CL cs.LG 79%

SAFT: Structure-Aware Fine-Tuning of LLMs for AMR-to-Text Generation

SAFT:面向AMR到文本生成的结构感知LLM微调

Rafiq Kamel, Filippo Guerranti, Simon Geisler, Stephan Günnemann

机构 * School of Computation, Information and Technology(计算、信息与技术学院) Technical University of Munich(慕尼黑技术大学) Munich Data Science Institute(慕尼黑数据科学研究所) Munich Center for Machine Learning(慕尼黑机器学习中心)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 SAFT通过将图拓扑注入预训练LLMs,提升AMR到文本生成的性能,实现3.5 BLEU提升。

Comments Accepted at the KDD2025 Workshop on Structured Knowledge for LLMs

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22787 2025-12-11 cs.CV 78%

World in a Frame: Understanding Culture Mixing as a New Challenge for Vision-Language Models

世界在框架中:将文化混合视为视觉语言模型的新挑战

Eunsu Kim, Junyeong Park, Na Min An, Junseong Kim, Hitesh Laxmichand Patel, Jiho Jin, Julia Kruk, Amit Agarwal, Srikant Panda, Fenal Ashokbhai Ilasariya, Hyunjung Shim, Alice Oh

专题命中 指令微调 :language model(title,abstract)

AI总结 本文提出CultureMix基准,研究文化混合对视觉语言模型的影响,发现模型在混合场景中表现不佳,通过监督微调提升模型鲁棒性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09006 2025-12-11 cs.SE cs.AI cs.CR 77%

Llama-based source code vulnerability detection: Prompt engineering vs Fine tuning

基于Llama的源代码漏洞检测:提示工程与微调

Dyna Soumhane Ouchebara, Stéphane Dupont

机构 * University of Mons(蒙斯大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);prompting(abstract);分类 cs.AI

AI总结 本研究探讨了基于Llama模型的源代码漏洞检测方法,比较了提示工程与微调技术的效果,提出双微调方法并评估其性能。

Comments 20 pages, Accepted at ESORICS 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.04463 2025-12-11 cs.CL 70%

Guiding LLMs to Generate High-Fidelity and High-Quality Counterfactual Explanations for Text Classification

引导大语言模型生成高质量文本分类的反事实解释

Van Bach Nguyen, Christin Seifert, Jörg Schlötterer

机构 * University of Marburg(马尔堡大学) University of Mannheim(曼海姆大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出两种分类器引导方法,引导大语言模型生成高质量文本分类的反事实解释,无需微调并提升模型鲁棒性。

Journal ref The World Conference on eXplainable Artificial Intelligence 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.08250 2025-12-11 cs.CV cs.AI cs.LG 62%

Aligning Text to Image in Diffusion Models is Easier Than You Think

在扩散模型中将文本对齐到图像比你想象的更容易

Jaa-Yeon Lee, Byunghee Cha, Jeongsol Kim, Jong Chul Ye

机构 * Kim Jaechul Graduate School of AI, KAIST(金佳哲人工智能研究生院,韩国科学技术院) Department of Bio and Brain Engineering, KAIST(生物与脑工程系,韩国科学技术院)

专题命中 指令微调 :preference optimization(abstract);分类 cs.AI、cs.LG

AI总结 本文提出SoftREPA方法,通过对比学习提升文本与图像表示的对齐效果,减少计算开销,增强语义一致性。

Comments NeurIPS 2025

详情

展开后加载摘要…

URL PDF HTML 收藏