arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-01-28 至 2026-01-28 共收录 16 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 16 篇

2501.07639 2026-01-28 cs.AI 92%

PowerGraph-LLM: Novel Power Grid Graph Embedding and Optimization with Large Language Models

PowerGraph-LLM: 利用大语言模型的新型电力网络图嵌入与优化框架

Fabien Bernier, Jun Cao, Maxime Cordy, Salah Ghamizi

机构 * SnT, University of Luxembourg, Luxembourg(卢森堡大学SnT学院,卢森堡) Luxembourg Institute of Health (LIH), Luxembourg(卢森堡健康研究院)

专题命中 指令微调 :LLM(title,abstract);large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 PowerGraph-LLM利用大语言模型解决电力系统最优潮流问题,结合图与表格表示以捕捉复杂关系,并通过定制的微调协议提升性能。

Comments Published at IEEE Transactions on Power Systems

Journal ref IEEE Transactions on Power Systems (Volume: 40, Issue: 6, Pages: 5483 - 5486, November 2025)

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.12344 2026-01-28 cs.CL 89%

Propaganda AI: An Analysis of Semantic Divergence in Large Language Models

宣传AI:大型语言模型中语义分歧的分析

Nay Myat Min, Long H. Pham, Yige Li, Jun Sun

机构 * Singapore Management University(新加坡国立管理学院)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL

AI总结 本文提出RAVEN方法,用于检测大型语言模型中因概念提示引发的语义分歧,通过结合语义熵与跨模型分歧,揭示模型在特定主题上的异常响应,以提高对宣传影响的防范能力。

Comments Accepted at ICLR 2026, 22 pages, 1 figure

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.11109 2026-01-28 quant-ph cs.AI 89%

Agent-Q: Fine-Tuning Large Language Models for Quantum Circuit Generation and Optimization

Agent-Q: 为量子电路生成和优化微调大型语言模型

Linus Jern, Valter Uotila, Cong Yu, Bo Zhao

机构 * Aalto University Aalto University \& University of Helsinki

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.AI

AI总结 Agent-Q通过微调LLMs生成和优化量子电路,提供14,000个电路用于多种优化问题。

Comments 12 pages, 8 figures, 3 tables, presented at IEEE International Conference on Quantum Computing and Engineering (QCE) 2025

Journal ref 2025 IEEE International Conference on Quantum Computing and Engineering (QCE), Albuquerque, NM, USA, 2025, pp. 1621-1632

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.24196 2026-01-28 physics.optics cs.AI 89%

Chat to Chip: Large Language Model Based Design of Arbitrarily Shaped Metasurfaces

Chat to Chip: 基于大规模语言模型的任意形状超材料设计

Huanshu Zhang, Lei Kang, Sawyer D. Campbell, Douglas H. Werner

机构 * Department of Electrical Engineering(电气工程系) The Pennsylvania State University(宾夕法尼亚州立大学)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.AI

AI总结 本文提出利用大规模语言模型设计任意形状超材料,通过自然语言交互实现快速设计,展示了LLM在纳米光子学中的应用潜力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.21044 2026-01-28 cs.LG cs.AI 88%

Reinforcement Learning Fine-Tuning Enhances Activation Intensity and Diversity in the Internal Circuitry of LLMs

强化学习微调增强大语言模型内部电路的激活强度和多样性

Honglin Zhang, Qianyue Hao, Fengli Xu, Yong Li

机构 * Department of Electronic Engineering, BNRist, Tsinghua University(电子工程系,BNRist,清华大学)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 强化学习微调增强了LLMs内部电路的激活强度和多样性,相较于偏好优化方法,其在数学泛化上的优势源于信息流的冗余与灵活性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.08512 2026-01-28 cs.CV cs.AI 85%

MLVTG: Mamba-Based Feature Alignment and LLM-Driven Purification for Multi-Modal Video Temporal Grounding

MLVTG: 基于Mamba的特征对齐与LLM驱动的多模态视频时间定位

Zhiyi Zhu, Xiaoyu Wu, Zihao Liu, Linlin Yang

机构 * State Key Laboratory of Media Convergence and Communication(媒体融合与传播国家重点实验室)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 MLVTG通过结合MambaAligner和LLMRefiner,实现了多模态视频时间定位的高精度定位与语义净化。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.12360 2026-01-28 cs.SE 85%

Discovering 100+ Compiler Defects in 72 Hours via LLM-Driven Semantic Logic Recomposition

通过LLM驱动的语义逻辑重组发现100余项编译器缺陷

Xingbang He, Yuanwei Chen, Hao Wu, Jikang Zhang, Zicheng Wang, Ligeng Chen, Junjie Peng, Haiyang Wei, Yi Qian, Tiantai Zhang, Linzhang Wang, Bing Mao

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract)

AI总结 FeatureFuzz通过语义逻辑重组发现编译器缺陷,有效提升模糊测试的多样性与发现能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.14459 2026-01-28 cs.LG cs.AI 84%

Holdout-Loss-Based Data Selection for LLM Finetuning via In-Context Learning

基于Holdout损失的数据选择用于LLM微调的上下文学习

Ling Zhang, Xianliang Yang, Juwon Yu, Park Cheonyoung, Miran Lee, Lei Song, Jiang Bian

机构 * Microsoft Research Asia(微软亚洲研究院)

专题命中 指令微调 :LLM(title);language model(abstract);SFT(abstract);分类 cs.AI、cs.LG

AI总结 本文提出基于上下文近似(ICA)的方法,通过估计holdout损失来高效选择高价值训练数据,提升LLM微调的对齐性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.19487 2026-01-28 cs.LG cs.AI 81%

LLM-VA: Resolving the Jailbreak-Overrefusal Trade-off via Vector Alignment

LLM-VA: 通过向量对齐解决对抗性回应与过度拒绝的权衡

Haonan Zhang, Dongxia Wang, Yi Liu, Kexin Chen, Wenhai Wang

机构 * Zhejiang University(浙江大学) Griffith University(格里菲斯大学) Huzhou Institute of Industrial Control Technology(湖州工业控制技术研究院)

专题命中 指令微调 :LLM(title,abstract);分类 cs.AI、cs.LG

AI总结 LLM-VA通过向量对齐解决大型语言模型在对抗性回应与过度拒绝间的权衡问题,提升安全性和效用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.19871 2026-01-28 cs.CL 78%

Reflective Translation: Improving Low-Resource Machine Translation via Structured Self-Reflection

反思性翻译:通过结构化自我反思改进低资源机器翻译

Nicholas Cheng

机构 * Independent Researcher(独立研究者)

专题命中 指令微调 :language model(abstract,comments);large language model(abstract);prompting(abstract);分类 cs.CL

AI总结 本文提出反思性翻译框架,通过结构化自我反思提升低资源语言的机器翻译质量,实验表明其在BLEU和COMET评分上均有显著提升。

Comments 12 pages, 3 figures, 6 tables. Accepted to the NeurIPS 2025 Workshop on Multilingual Representation Learning (Mexico City) and the AAAI 2025 Workshop on Language Models for Under-Resourced Communities (LM4UC). Code and data available at: https://github.com/Nickcheng123/reflective-translation-mt

详情

展开后加载摘要…

URL PDF HTML 收藏
2409.01035 2026-01-28 cs.CL cs.CV cs.LG 73%

Task-Specific Directions: Definition, Exploration, and Utilization in Parameter Efficient Fine-Tuning

任务特定方向:在参数高效微调中的定义、探索与利用

Chongjie Si, Zhiyi Shi, Shifan Zhang, Xiaokang Yang, Hanspeter Pfister, Wei Shen

机构 * MoE Key Lab of Artificial Intelligence, AI Institute, Shanghai Jiao Tong University(人工智能基础理论实验室,人工智能研究院,上海交通大学) School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University(电子信息与电气工程学院,上海交通大学) School of Engineering and Applied Sciences, Harvard University(工程与应用科学学院,哈佛大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文提出LoRA-TSD,通过任务特定方向优化LoRA初始化和微调,提升模型在目标任务上的性能。

Comments 2026, TPAMI, Codes in https://github.com/Chongjie-Si/Subspace-Tuning

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.18939 2026-01-28 cs.LG 70%

A Few Bad Neurons: Isolating and Surgically Correcting Sycophancy

几个坏神经元:隔离并外科手术性纠正阿谀行为

Claire O'Brien, Jessica Seto, Dristi Roy, Aditya Dwivedi, Sunishchal Dev, Kevin Zhu, Sean O'Brien, Ashwinee Panda, Ryan Lagasse

机构 * Algoverse RAND Meta FAIR University of Maryland(马里兰大学) Lockheed Martin AI Center(洛克希德·马丁人工智能中心)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出通过隔离并微调最负责特定行为的神经元来实现LLM行为对齐,展示了在减少阿谀行为任务上的有效性。

Comments Accepted to NeurIPS Workshop on CogInterp and NeurIPS Workshop on Reliable ML 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.18924 2026-01-28 cs.AI 70%

RIFT: Reordered Instruction Following Testbed To Evaluate Instruction Following in Singular Multistep Prompt Structures

RIFT:重新排列指令跟随测试床以评估单步提示结构中的指令跟随

Andrew Jaffe, Noah Reicin, Jinho D. Choi

机构 * Emory University(埃默里大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 RIFT通过测试不同提示结构下的LLM表现,揭示了指令跟随对位置连续性的强依赖,指出当前架构将指令跟随视为顺序模式而非推理能力。

Comments 13 pages, 5 figures, submitted to ACL ARR

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.19231 2026-01-28 cs.CR 67%

LLMs Can Unlearn Refusal with Only 1,000 Benign Samples

LLMs 可通过仅 1000 个无害样本实现拒绝反学习

Yangyang Guo, Ziwei Xu, Si Liu, Zhiming Zheng, Mohan Kankanhalli

专题命中 指令微调 :large language model(abstract);language model(abstract)

AI总结 通过仅 1000 个无害样本,研究发现 LLMs 可通过反学习技术降低拒绝响应,揭示安全性对齐可能依赖 token 序列记忆而非推理。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.19659 2026-01-28 cs.CV cs.LG 57%

KeepLoRA: Continual Learning with Residual Gradient Adaptation

KeepLoRA: 基于残差梯度适应的持续学习

Mao-Lin Luo, Zi-Hao Zhou, Yi-Lin Zhang, Yuanyu Wan, Tong Wei, Min-Ling Zhang

机构 * School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院) Key Laboratory of Computer Network and Information Integration (Southeast University), Ministry of Education, China(教育部计算机网络与信息集成重点实验室) School of Software Technology, Zhejiang University(浙江大学软件学院)

专题命中 指令微调 :language model(abstract);分类 cs.LG

AI总结 KeepLoRA通过残差梯度适应方法实现持续学习,有效平衡知识保留、任务知识保持和新知识获取,取得最佳性能。

Comments Accepted at ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.19712 2026-01-28 cs.SD cs.MM 50%

Physics-Aware Novel-View Acoustic Synthesis with Vision-Language Priors and 3D Acoustic Environment Modeling

具有视觉-语言先验和3D声学环境建模的物理感知新视角声音合成

Congyi Fan, Jian Guan, Youtian Lin, Dongli Xu, Tong Ye, Qiaoxi Zhu, Pengming Feng, Wenwu Wang

机构 * Group of Intelligent Signal Processing(智能信号处理组) Harbin Engineering University(哈尔滨工程大学) School of Intelligence Science and Technology(智能科学与技术学院) Nanjing University(南京大学) Processing Speech and Images(语音与图像处理) KU Leuven(库尔勒文大学) Acoustics Lab(声学实验室) University of Technology Sydney(悉尼技术大学) State Key Laboratory of Space Information System and Integrated Application(空间信息系统与集成应用国家重点实验室) Centre for Vision Speech and Signal Processing(视觉语音与信号处理中心) University of Surrey(萨里大学)

专题命中 指令微调 :language model(abstract)

AI总结 Phys-NVAS通过整合视觉-语言语义先验与3D声学环境建模,实现了具有物理感知的新视角声音合成,提升了声音的真实感和物理一致性。

Comments ICASSP 2026 Accept, Project page: https://physnvas.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏