arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2025-12-01 至 2025-12-01 共收录 22 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 22 篇

2511.23220 2025-12-01 cs.CV 91%

Instruction Tuning of Large Language Models for Tabular Data Generation-in One Day

针对表格数据生成的大型语言模型指令微调——一天内完成

Milad Abdollahzadeh, Abdul Raheem, Zilong Zhao, Uzair Javaid, Kevin Yee, Nalam Venkata Abhishek, Tram Truong-Huu, Biplab Sikdar

机构 * SIT(新加坡科技学院) NUS(新加坡国立大学)

专题命中 指令微调 :instruction tuning(title,abstract);large language model(title);language model(title);LLM(abstract)

AI总结 本文提出了一种在有限资源下通过指令微调提升LLM表格数据生成能力的方法,利用高质量数据集和少量指令实现与GPT-4o相当的生成性能。

Comments Accepted International Conference on Machine Learning (ICML 2025), 1st Workshop on Foundation Models for Structured Data

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21711 2025-12-01 cs.CL cs.CY cs.LG 90%

Addressing Stereotypes in Large Language Models: A Critical Examination and Mitigation

应对大型语言模型中的刻板印象:一种批判性审视与缓解

Fatima Kazi

机构 * UNIVERSITY OF CALIFORNIA DAVIS(加州大学戴维斯分校)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);prompting(abstract);分类 cs.CL、cs.LG

AI总结 本文探讨了大型语言模型中的刻板印象问题,通过评估不同模型的偏见表现,提出增强学习策略以提升模型性能和减少偏见输出。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.08719 2025-12-01 cs.CL cs.AI cs.CY 90%

IROTE: Human-like Traits Elicitation of Large Language Model via In-Context Self-Reflective Optimization

IROTE: 通过上下文自我反思优化 elicite 大语言模型的人类特质

Yuzhuo Bai, Shitong Duan, Muhua Huang, Jing Yao, Zhenghao Liu, Peng Zhang, Tun Lu, Xiaoyuan Yi, Maosong Sun, Xing Xie

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);prompting(abstract);分类 cs.CL、cs.AI

AI总结 IROTE通过上下文自我反思优化方法,使LLMs在多样任务中稳定体现人类特质,超越现有基线。

Comments This paper is accepted by AAAI 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21733 2025-12-01 cs.CL cs.AI 88%

RoSA: Enhancing Parameter-Efficient Fine-Tuning via RoPE-aware Selective Adaptation in Large Language Models

RoSA: 通过RoPE-aware选择性适应提升大语言模型的参数高效微调

Dayan Pan, Jingyuan Wang, Yilong Zhou, Jiawei Cheng, Pengyue Jia, Xiangyu Zhao

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI

AI总结 RoSA通过RoPE-aware选择性适应提升大语言模型的参数高效微调效率,结合注意力增强与动态层选择策略,实现更精准的模型适应。

Comments Accepted by AAAI' 26

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21930 2025-12-01 cs.CL 88%

A Comparative Study of LLM Prompting and Fine-Tuning for Cross-genre Authorship Attribution on Chinese Lyrics

跨流派中文歌词作者归属的LLM提示与微调比较研究

Yuxin Li, Lorraine Xu, Meng Fan Wang

机构 * Columbia University(哥伦比亚大学)

专题命中 指令微调 :LLM(title,abstract);prompting(title);pretraining(abstract);分类 cs.CL

AI总结 本文通过对比LLM提示与微调方法,研究中文歌词跨流派作者归属问题,提出新的数据集和领域模型,并探讨流派对性能的影响。

Comments 8 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22367 2025-12-01 cs.LG cs.AI cs.CL 87%

SuRe: Surprise-Driven Prioritised Replay for Continual LLM Learning

SuRe: 基于惊喜的优先回放用于连续LLM学习

Hugo Hazard, Zafeirios Fountas, Martin A. Benfeghoul, Adnan Oomerjee, Jun Wang, Haitham Bou-Ammar

机构 * AI Centre, Department of Computer Science, University College London(伦敦大学学院人工智能中心、计算机科学系) Huawei Noah’s Ark Lab(华为诺亚实验室)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 SuRe通过基于惊喜的优先回放和双学习者设计,提升连续LLM学习的性能和稳定性,有效缓解灾难性遗忘问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.12484 2025-12-01 cs.LG cs.AI cs.CL 82%

Robust LLM Unlearning with MUDMAN: Meta-Unlearning with Disruption Masking And Normalization

鲁棒大语言模型反学习与MUDMAN:元反学习与干扰掩码与归一化

Filip Sondej, Yushi Yang, Mikołaj Kniejski, Marcel Windys

专题命中 指令微调 :LLM(title);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 MUDMAN通过干扰掩码和归一化技术提升大语言模型反学习的鲁棒性,有效防止危险能力的恢复。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21703 2025-12-01 cs.CL cs.AI cs.LG 80%

Evaluating Embedding Generalization: How LLMs, LoRA, and SLERP Shape Representational Geometry

评估嵌入泛化:LLM、LoRA和SLERP如何塑造表示几何

Siyaxolisa Kabane

机构 * Department of Computer Science University of Fort Hare(计算机科学系大学弗利特哈雷)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 该研究探讨了LLM、LoRA和SLERP在嵌入泛化中的作用,发现SLERP融合能有效恢复基础模型结构并提升聚类性能。

Comments 20 pages, 16 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21725 2025-12-01 cs.CL cs.AI 79%

PromptTailor: Multi-turn Intent-Aligned Prompt Synthesis for Lightweight LLMs

PromptTailor: 为轻量级大语言模型进行多轮意图对齐的提示合成

Yizhou Xu, Janet Davis

机构 * Whitman College(惠特曼学院)

专题命中 指令微调 :LLM(abstract);language model(abstract);prompting(abstract);分类 cs.CL、cs.AI

AI总结 PromptTailor通过意图对齐的提示合成提升轻量级大语言模型的输出质量,以更少的模型调用次数实现更高的用户偏好率。

Comments EMNLP 2025 Workshop PALS. Additional note: There is a citation error on Evoke. The paper we are referring to is "Evoking critical thinking abilities in LLMs via reviewer-author prompt editing."

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22250 2025-12-01 eess.IV cs.CV 78%

ColonAdapter: Geometry Estimation Through Foundation Model Adaptation for Colonoscopy

ColonAdapter:通过基础模型适应进行结肠镜的几何估计

Zhiyi Jiang, Yifu Wang, Xuelian Cheng, Zongyuan Ge

机构 * School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院) Vetex Lab(Vetex实验室) Southeast University - Monash University Joint Graduate School(东南大学-墨尔本大学联合研究生院) Monash Suzhou Research Institute(墨尔本大学苏州研究院) Faculty of Information Technology, Monash University(墨尔本大学信息科技学院)

专题命中 指令微调 :foundation model(title,abstract)

AI总结 ColonAdapter通过自监督微调适应基础模型,提升结肠镜图像的3D几何估计性能,无需地面真实内在参数。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21698 2025-12-01 cs.MM cs.AI 77%

TIP and Polish: Text-Image-Prototype Guided Multi-Modal Generation via Commonality-Discrepancy Modeling and Refinement

TIP和Polish:通过共同性-差异性建模与细化的文本-图像-原型引导的多模态生成

Zhiyong Ma, Jiahao Chen, Qingyuan Chuai, Zhengping Li

专题命中 指令微调 :LLM(abstract);language model(abstract);SFT(abstract);分类 cs.AI

AI总结 TIPPo通过共同性-差异性建模与细化,提升多模态生成的主题一致性和风格一致性。

Comments Submitted to ICASSP2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.20520 2025-12-01 cs.LG cs.CL 73%

Asymmetric REINFORCE for off-Policy Reinforcement Learning: Balancing positive and negative rewards

非对称REINFORCE用于离线策略强化学习:平衡正负奖励

Charles Arnal, Gaëtan Narozniak, Vivien Cabannes, Yunhao Tang, Julia Kempe, Remi Munos

机构 * FAIR at Meta(Meta 的 FAIR) Work done at Meta(Meta) NYU Courant Institute(纽约大学Courant研究所)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本研究提出非对称REINFORCE算法,通过平衡正负奖励提升离线策略强化学习性能,理论分析表明基线下界可保证策略改进,并通过实验验证其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.21709 2025-12-01 cs.CL cs.AI cs.IR 73%

Quantifying and Mitigating Selection Bias in LLMs: A Transferable LoRA Fine-Tuning and Efficient Majority Voting Approach

对大语言模型中选择偏差进行量化与缓解:一种可转移的LoRA微调和高效的多数投票方法

Blessed Guda, Lawrence Francis, Gabrial Zencha Ashungafac, Carlee Joe-Wong, Moise Busogi

机构 * Carnegie Mellon University Africa(卡内基梅隆大学非洲分校) Carnegie Mellon University(卡内基梅隆大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出了一种可转移的LoRA微调和高效多数投票方法,用于量化并缓解大语言模型中的选择偏差问题。

Comments Accepted into IJCNLP-AACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.03195 2025-12-01 cs.CV cs.AI cs.LG 73%

Unlabeled Data Improves Fine-Grained Image Zero-shot Classification with Multimodal LLMs

未标记数据提升多模态大语言模型在细粒度图像零样本分类中的性能

Yunqi Hong, Sohyun An, Andrew Bai, Neil Y. C. Lin, Cho-Jui Hsieh

机构 * Computer Science Department, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系) Mechanical and Aerospace Engineering Department, University of California, Los Angeles(加州大学洛杉矶分校机械与航空航天工程系)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 AutoSEP通过利用未标记数据提升多模态大语言模型在细粒度图像零样本分类中的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.19482 2025-12-01 cs.CL 70%

KSHSeek: Data-Driven Approaches to Mitigating and Detecting Knowledge-Shortcut Hallucinations in Generative Models

KSHSeek: 通过数据驱动方法缓解和检测生成模型中的知识捷径幻觉

Zhongxin Liu, Zhiwei Wang, Jun Niu, Ying Li, Hongyu Sun, Meng Xu, He Wang, Gaofei Wu, Yuqing Zhang

机构 * Xidian University(西安电子科技大学) University of Chinese Academy of Sciences(中国科学院大学) Hainan University(海南大学) University of Waterloo(滑铁卢大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 KSHSeek通过数据驱动方法缓解和检测生成模型中的知识捷径幻觉,提升模型的鲁棒性和可靠性。

Comments 16 pages, 34 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.23070 2025-12-01 cs.CV cs.LG 57%

Buffer replay enhances the robustness of multimodal learning under missing-modality

缓冲回放增强了在缺失模态下的多模态学习的鲁棒性

Hongye Zhu, Xuan Liu, Yanwen Ba, Jingye Xue, Shigeng Zhang

机构 * College of Computer Science and Electronic Engineering Hunan University(湖南大学计算机科学与电子工程学院) School of Computer Science Central South University(中南大学计算机学院)

专题命中 指令微调 :prompting(abstract);分类 cs.LG

AI总结 REP通过特征缓冲和动态初始化提升多模态学习在缺失模态下的鲁棒性

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.11784 2025-12-01 cs.CR cs.AI 57%

NegBLEURT Forest: Leveraging Inconsistencies for Detecting Jailbreak Attacks

NegBLEURT Forest:利用不一致性和检测对抗攻击

Lama Sleem, Jerome Francois, Lujun Li, Nathan Foucher, Niccolo Gentile, Radu State

机构 * University of Luxembourg(卢森堡大学)

专题命中 指令微调 :prompting(abstract);分类 cs.AI

AI总结 NegBLEURT Forest通过语义一致性分析和隔离森林算法,有效检测对抗攻击,实现高准确率的攻击识别。

Comments This paper has been accepted in IEEE Consumer Communications & Networking Conference 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22141 2025-12-01 cs.CL 57%

Bridging the Modality Gap by Similarity Standardization with Pseudo-Positive Samples

通过伪正样本进行相似性标准化以弥合模态差距

Shuhei Yamashita, Daiki Shirafuji, Tatsuhiko Saito

机构 * Mitsubishi Electric Corporation(三菱电机公司)

专题命中 指令微调 :language model(abstract);分类 cs.CL

AI总结 通过伪正样本进行相似性标准化,有效弥合跨模态检索中的模态差距,提升检索性能。

Comments Accepted to PACLIC2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.20003 2025-12-01 cs.LG stat.ME stat.ML 57%

TabPFN: One Model to Rule Them All?

TabPFN:一个统治所有的方法?

Qiong Zhang, Yan Shuo Tan, Qinglong Tian, Pengfei Li

机构 * Qiong Zhang is Assistant Professor, Institute of Statistics \& Big Data, Renmin University of China, China e1 . Yan Shuo Tan is Assistant Professor, Department of Statistics \& Data Science, National University of Singapore, Singapore e2 . Qinglong Tian is Assistant Professor, Department of Statistics \& Actuarial Science, University or Waterloo, Canada e3 . Pengfei Li is Professor, Department of Statistics \& Actuarial Science, University or Waterloo, Canada e4 .

专题命中 指令微调 :foundation model(abstract);分类 cs.LG

AI总结 TabPFN是一种基于变压器的深度学习模型,通过近似贝叶斯推断实现对表格数据的高效回归和分类,展示了在多种统计任务中的优越性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.23051 2025-12-01 cs.CV 50%

GOATex: Geometry & Occlusion-Aware Texturing

GOATex: 几何与遮挡感知纹理生成

Hyunjin Kim, Kunho Kim, Adam Lee, Wonkwang Lee

机构 * KRAFTON AI(KRAFTON人工智能研究院) NC AI(NC人工智能研究院) UC Berkeley(伯克利大学) Seoul National University(首尔国立大学)

专题命中 指令微调 :prompting(abstract)

AI总结 GOATex通过基于命中层级的遮挡感知框架,实现高质量3D网格内外表面纹理生成,无需微调扩散模型,具备结构连贯性与无缝纹理输出。

Comments Accepted to NeurIPS 2025; Project Page: https://goatex3d.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22471 2025-12-01 cs.CV 50%

Rethinking Cross-Generator Image Forgery Detection through DINOv3

重新思考通过DINOv3进行跨生成器图像伪造检测

Zhenglin Huang, Jason Li, Haiquan Wen, Tianxiao Li, Xi Yang, Lu Qi, Bei Peng, Xiaowei Huang, Ming-Hsuan Yang, Guangliang Cheng

机构 * University of Liverpool, UK(利物浦大学) Nanyang Technological University(南洋理工大学) HKUST(香港科技大学) UC Merced(加州大学默塞德分校) University of Sheffield(谢菲尔德大学)

专题命中 指令微调 :foundation model(abstract)

AI总结 通过DINOv3发现无需训练即可实现跨生成器图像伪造检测,利用令牌排名策略提升检测准确度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.22864 2025-12-01 cs.CV 50%

ControlEvents: Controllable Synthesis of Event Camera Datawith Foundational Prior from Image Diffusion Models

ControlEvents: 基于图像扩散模型的基础先验的可控事件相机数据合成

Yixuan Hu, Yuxuan Xue, Simon Klenk, Daniel Cremers, Gerard Pons-Moll

专题命中 指令微调 :foundation model(abstract)

AI总结 本文提出ControlEvents,利用图像扩散模型生成高质量事件数据,通过文本标签、2D骨骼和3D姿态控制信号,减少标注数据成本并提升视觉任务性能。

Comments Accepted to WACV2026. Project website:https://yuxuan-xue.com/controlevents/

详情

展开后加载摘要…

URL PDF HTML 收藏