arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2025-12-16 至 2025-12-16 共收录 20 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 20 篇

2508.13426 2025-12-16 cs.CL cs.AI 90%

ALIGN: Word Association Learning for Cultural Alignment in Large Language Models

ALIGN: 用于大语言模型中文化对齐的词关联学习

Chunhua Liu, Kabir Manandhar Shrestha, Sukai Huang

机构 * School of Computing and Information Systems, The University of Melbourne(计算与信息系统学院,墨尔本大学) Melbourne Data Analytics Platform, The University of Melbourne(墨尔本数据分析平台,墨尔本大学) Faculty of Information Technology, Monash University(信息技术学院,墨尔本大学)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);preference optimization(abstract);分类 cs.CL、cs.AI

AI总结 ALIGN通过微调大语言模型以学习母语使用者的词关联规范,显著提升文化对齐效果,无需昂贵重新训练。

详情

展开后加载摘要…

URL PDF HTML 收藏
2406.16743 2025-12-16 cs.CL 89%

Safety Alignment of Large Language Models via Contrasting Safe and Harmful Distributions

通过对比安全与有害分布实现大语言模型的安全对齐

Xiaoyun Zhang, Zhengyue Zhao, Wenxuan Shi, Kaidi Xu, Di Huang, Xing Hu

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);RLHF(abstract);分类 cs.CL

AI总结 本文提出ACD方法,通过生成安全与对抗性提示,实现大语言模型的安全对齐,提升安全性的同时保持生成能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.12978 2025-12-16 cs.IR 89%

Do Reviews Matter for Recommendations in the Era of Large Language Models?

在大语言模型时代,评论对推荐有何影响?

Chee Heng Tan, Huiying Zheng, Jing Wang, Zhuoyi Lin, Shaodi Feng, Huijing Zhan, Xiaoli Li, J. Senthilnath

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文研究了在大语言模型时代,文本评论对推荐系统的影响,通过比较深度学习和LLM方法,发现LLMs在数据稀疏和冷启动条件下表现更优,且移除评论不影响推荐准确性。

Comments 11 pages, 9 figures, 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.00522 2025-12-16 cs.CL 88%

Efficiently Seeking Flat Minima for Better Generalization in Fine-Tuning Large Language Models and Beyond

高效寻找平坦极小值以提升大型语言模型及其他模型的泛化能力

Jiaxin Deng, Qingcheng Zhu, Junbiao Pang, Linlin Yang, Zhongqian Fu, Baochang Zhang

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文提出EFMLoRA,通过寻找LoRA的平坦极小值提升模型泛化能力,实验表明其在效率和性能上均优于传统LoRA方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.23188 2025-12-16 cs.CL 85%

Diagnose, Localize, Align: A Full-Stack Framework for Reliable LLM Multi-Agent Systems under Instruction Conflicts

诊断、定位、对齐:一种用于在指令冲突下可靠LLM多智能体系统的全栈框架

Guancheng Wan, Leixin Sun, Longxu Dou, Zitong Shi, Fang Wu, Eric Hanchen Jiang, Wenke Huang, Guibin Zhang, Hejia Geng, Xiangru Tang, Zhenfei Yin, Yizhou Sun, Wei Wang

机构 * University of California, Los Angeles(加州大学洛杉矶分校) Sea AI Lab(Sea AI 实验室) Stanford University(斯坦福大学) University of Oxford(牛津大学) Yale University(耶鲁大学) NTU(南洋理工大学) NUS(新加坡国立大学) Boston University(波士顿大学)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出了一种全栈框架,通过诊断、定位和对齐三个阶段提升LLM多智能体系统在指令冲突下的可靠性。

Comments Upon further review, we realized that the version submitted to arXiv was not the final draft and omits crucial results and discussion. To avoid confusion and ensure the integrity of the record, we request withdrawal and will resubmit once the complete work is ready

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09549 2025-12-16 cs.CR 85%

Chasing Shadows: Pitfalls in LLM Security Research

追影:大语言模型安全研究中的陷阱

Jonathan Evertz, Niklas Risse, Nicolai Neuer, Andreas Müller, Philipp Normann, Gaetano Sapia, Srishti Gupta, David Pape, Soumya Shaw, Devansh Srivastav, Christian Wressnegger, Erwin Quiring, Thorsten Eisenhofer, Daniel Arp, Lea Schönherr

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);prompting(abstract)

AI总结 本文识别了大语言模型安全研究中的九种常见陷阱,并通过实证案例研究分析了这些陷阱对评估、性能和可重复性的影响,提出可操作的指导方针。

Comments About to appear at NDSS'26

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.03604 2025-12-16 cs.LG 83%

Bilevel ZOFO: Efficient LLM Fine-Tuning and Meta-Training

双层零阶优化:高效的LLM微调与元训练

Reza Shirkavand, Peiran Yu, Qi He, Heng Huang

机构 * Department of Computer Science University of Maryland - College Park(计算机科学系马里兰大学- College Park) Department of Computer Science and Engineering University of Texas at Arlington(计算机科学与工程系德克萨斯理工大学阿灵顿分校)

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 Bilevel-ZOFO结合了快速的FO-PEFT内循环和稳定的ZO外循环,实现高效LLM微调与元训练,提升训练速度和泛化能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.11819 2025-12-16 cs.CY 82%

A Modular LLM-Agent System for Transparent Multi-Parameter Weather Interpretation

一个模块化的LLM-代理系统用于透明的多参数天气解释

Daniil Sukhorukov, Andrei Zakharov, Nikita Glazkov, Katsiaryna Yanchanka, Vladimir Kirilin, Maxim Dubovitsky, Roman Sultimov, Yuri Maksimov, Ilya Makarov

专题命中 指令微调 :LLM(title,abstract);prompting(abstract)

AI总结 本文提出AI-Meteorologist,一个基于LLM-代理的透明天气解释系统,通过多参数分析和结构化解释提升天气预报的可解释性和科学性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.12824 2025-12-16 cs.CV cs.AI 79%

Adapting Multimodal Foundation Models for Few-Shot Learning: A Comprehensive Study on Contrastive Captioners

为少样本学习适应多模态基础模型:对比captioners的全面研究

N. K. B. M. P. K. B. Narasinghe, Uthayasanker Thayasivam

机构 * Department of Computer Science and Engineering, University of Moratuwa, Sri Lanka(计算机科学与工程系,穆塔瓦大学,斯里兰卡)

专题命中 指令微调 :foundation model(title,abstract);分类 cs.AI

AI总结 本文研究了如何通过对比captioners适应少样本学习,探讨了参数高效微调策略及生成-对比基础模型的高效适应方法。

Comments 9 pages, 3 figures. Accepted to VISAPP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.19609 2025-12-16 cs.LG cs.AI 79%

Skrull: Towards Efficient Long Context Fine-tuning through Dynamic Data Scheduling

Skrull:通过动态数据调度实现高效的长上下文微调

Hongtao Xu, Wenting Shen, Yuanxin Wei, Ang Wang, Guo Runfan, Tianxing Wang, Yong Li, Mingzhen Li, Weile Jia

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences(中国科学院大学先进交叉学科学院) State Key Lab of Processors, Institute of Computing Technology, CAS(中国科学院计算技术研究所 processors 国家重点实验室) Alibaba Group(阿里巴巴集团) Sun Yat-sen University(中山大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);SFT(abstract);分类 cs.AI、cs.LG

AI总结 Skrull通过动态数据调度提升长上下文微调效率,实现高效训练和性能优化。

Comments Accepted by NeurIPS 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.12690 2025-12-16 cs.LG cs.CL cs.CV 79%

Reassessing the Role of Supervised Fine-Tuning: An Empirical Study in VLM Reasoning

重新评估监督微调的作用:VLM推理中的实证研究

Yongcan Yu, Lingxiao He, Shuo Lu, Lijun Sheng, Yinuo Xu, Yanbo Wang, Kuangpu Guo, Jianjie Cheng, Meng Wang, Qianlong Xie, Xingxing Wang, Dapeng Hu, Jian Liang

机构 * NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences(人工智能研究院 & 模式识别与人工智能研究所,中国科学院自动化研究所) School of Artificial Intelligence, University of Chinese Academy of Sciences(人工智能学院,中国科学院大学) Meituan(美团)

专题命中 指令微调 :language model(abstract);post-training(abstract);SFT(abstract);分类 cs.CL、cs.LG

AI总结 本研究通过实证分析发现,监督微调在VLM推理中具有重要作用,挑战了强化学习优于监督微调的主流观点。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.12337 2025-12-16 cs.CL cs.AI 79%

SCIR: A Self-Correcting Iterative Refinement Framework for Enhanced Information Extraction Based on Schema

SCIR: 一种基于模式的增强信息提取的自校正迭代细化框架

Yushen Fang, Jianjun Li, Mingqian Ding, Chang Liu, Xinchi Zou, Wenqi Yang

机构 * Yushen Fang, Jianjun Li, Mingqian Ding, Chang Liu, Xinchi Zou, Wenqi Yang(作者)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 SCIR框架通过自校正迭代细化方法,有效降低信息提取的训练成本并提升准确性,实现跨任务的高效信息提取。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.12268 2025-12-16 cs.CV 78%

MetaTPT: Meta Test-time Prompt Tuning for Vision-Language Models

MetaTPT: 用于视觉-语言模型的元测试时间提示微调

Yuqing Lei, Yingjun Du, Yawen Huang, Xiantong Zhen, Ling Shao

机构 * UCAS-Terminus AI Lab, University of Chinese Academic of Sciences(中国科学院大学Terminus AI实验室,中国科学院大学) AIM Lab, University of Amsterdam(阿姆斯特丹大学AIM实验室) Jarvis Research Center, Tencent Youtu Lab(腾讯优图实验室 Jarvis 研究中心) Central Research Institue, United Imaging Healthcare Co., Ltd(联合影像医疗科技有限公司中央研究所)

专题命中 指令微调 :language model(title,abstract)

AI总结 MetaTPT通过元学习框架结合自监督任务和提示微调,提升视觉-语言模型在领域偏移下的测试时间适应性,实现领域泛化和跨数据集的高性能表现。

Comments NeurIPS 2025 Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.11930 2025-12-16 cs.CY cs.AI 77%

Evolutionary Reinforcement Learning based AI tutor for Socratic Interdisciplinary Instruction

基于进化强化学习的AI导师用于苏格拉底跨学科教学

Mei Jiang, Haihai Shen, Zhuo Luo, Bingdong Li, Wenjing Hong, Ke Tang, Aimin Zhou

机构 * East China Normal University(华东师范大学) Shenzhen University(深圳大学) Southern University of Science and Technology(南方科技大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);SFT(abstract);分类 cs.AI

AI总结 本文提出ERL4SIIP框架,通过动态学生模拟器、分层奖励机制和LoRA-Division优化策略,解决苏格拉底跨学科教学中的认知建模、奖励稀疏性和策略多样性问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.02629 2025-12-16 cs.SE 75%

Parameter-Efficient Fine-Tuning with Attributed Patch Semantic Graph for Automated Patch Correctness Assessment

基于属性补丁语义图的参数高效微调用于自动补丁正确性评估

Zhenyu Yang, Jingwen Wu, Zhen Yang, Zhongxing Yu

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 本文提出基于属性补丁语义图的参数高效微调方法,用于提升自动补丁正确性评估的准确性和F1分数。

Comments 20 pages, 5 figures, 18 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.12533 2025-12-16 cs.CL 74%

Relation Extraction or Pattern Matching? Unravelling the Generalisation Limits of Language Models for Biographical RE

关系抽取还是模式匹配?揭示语言模型在生物信息关系抽取中的泛化极限

Varvara Arzt, Allan Hanbury, Michael Wiegand, Gábor Recski, Terra Blevins

机构 * Faculty of Informatics, TU Wien(信息学院,维也纳技术大学) D!ARC, University of Klagenfurt(D!ARC,克雷格福特大学) Digital Philology, University of Vienna(数字人文,维也纳大学) Khoury College of Computer Sciences, Northeastern University(科赫计算机科学学院,东北大学)

专题命中 指令微调 :language model(title);分类 cs.CL

AI总结 本研究揭示了语言模型在生物信息关系抽取任务中的泛化极限,指出数据质量和适应策略选择对迁移能力的影响,并指出现有基准的结构性问题限制了模型性能。

Comments Accepted as a main conference paper at IJCNLP-AACL 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.15811 2025-12-16 cs.CL cs.AI 73%

From Clicks to Preference: A Multi-stage Alignment Framework for Generative Query Suggestion in Conversational System

从点击到偏好:一种多阶段对齐框架用于对话系统中的生成查询建议

Junhao Yin, Haolin Wang, Peng Bao, Ju Xu, Yongliang Wang

机构 * Bytedance Shanghai China(字节跳动上海中国) Bytedance Beijing China(字节跳动北京中国)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出了一种多阶段对齐框架,通过提示工程、知识蒸馏和高斯奖励模型,提升生成式查询建议的用户偏好对齐效果,实验显示在自动和人工评估中均优于基线,并提高用户参与度34%

Comments Accepted by SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 26)

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.13276 2025-12-16 cs.CV 67%

CogniEdit: Dense Gradient Flow Optimization for Fine-Grained Image Editing

CogniEdit: 密集梯度流优化用于细粒度图像编辑

Yan Li, Lin Liu, Xiaopeng Zhang, Wei Xue, Wenhan Luo, Yike Guo, Qi Tian

机构 * Hongkong University of Science and Technology(香港科学与技术大学) Huawei Company(华为公司)

专题命中 指令微调 :large language model(abstract);language model(abstract)

AI总结 CogniEdit通过密集梯度流优化实现细粒度图像编辑,结合多模态推理与动态令牌焦点重新定位,提升指令遵循与视觉质量的平衡

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.13250 2025-12-16 cs.CV 67%

Toward Ambulatory Vision: Learning Visually-Grounded Active View Selection

迈向便携视觉:基于视觉的主动视角选择

Juil Koo, Daehyeon Choi, Sangwoo Youn, Phillip Y. Lee, Minhyuk Sung

机构 * KAIST(韩国科学技术院)

专题命中 指令微调 :language model(abstract);SFT(abstract)

AI总结 本文提出基于视觉的主动视角选择方法,通过仅利用当前图像中的视觉信息来选择最有信息量的视角,从而提升视觉问答的性能和泛化能力。

Comments Project page: https://active-view-selection.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.12658 2025-12-16 cs.CV 67%

CogDoc: Towards Unified thinking in Documents

CogDoc: 向文档中的统一思维迈进

Qixin Xu, Haozhe Wang, Che Liu, Fangzhen Lin, Wenhu Chen

机构 * Tsinghua University(清华大学) The Hong Kong University of Science and Technology(香港科技大学) University of Waterloo(滑铁卢大学) Imperial College London(伦敦帝国学院)

专题命中 指令微调 :post-training(abstract);SFT(abstract)

AI总结 CogDoc提出一种统一的粗到细思维框架,通过直接强化学习提升文档推理性能,优于现有方法并在视觉丰富任务中表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏