语言大模型 / LLM

Wireless Traffic Prediction with Large Language Model

基于大语言模型的无线交通预测

Chuanting Zhang, Haixia Zhang, Jingping Qiao, Zongzhang Li, Mohamed-Slim Alouini

机构 * Shandong Key Laboratory of Intelligent Communication and Sensing-Computing Integration, Shandong University（山东大学智能通信与感知-计算整合重点实验室） ； School of Information Science and Engineering, Shandong Normal University（山东师范大学信息科学与工程学院） ； China Mobile Communications Group Shandong Co., Ltd（中国移动通信集团山东有限公司） ； Computer, Electrical and Mathematical Science and Engineering Division, King Abdullah University of Science and Technology (KAUST)（卡布斯大学科学与工程学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；foundation model(abstract)

AI总结 本文提出TIDES框架，利用大语言模型和DeepSeek模块，通过空间对齐和个性化模型提升无线交通预测的精度和鲁棒性。

Fine-tuning a Large Language Model for Automating Computational Fluid Dynamics Simulations

针对计算流体力学模拟的大型语言模型微调

Zhehao Dong, Zhen Lu, Yue Yang

机构 * State Key Laboratory for Turbulence and Complex Systems, College of Engineering, Peking University, Beijing 100871, China（湍流与复杂系统国家重点实验室，工程学院，北京大学，北京100871，中国） ； HEDPS-CAPT, Peking University, Beijing 100871, China（HEDPS-CAPT，北京大学，北京100871，中国） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 通过微调领域特定LLM，实现从自然语言到CFD模拟配置的自动化，提升复杂工程流程的效率和准确性。

Journal ref Theor. Appl. Mech. Lett. 15, 100594 (2025)

Towards Efficient Post-Training via Fourier-Driven Adapter Architectures

面向通过傅里叶驱动适配架构的高效后训练

Donggyun Bae, Jongil Park

机构 * Konkuk University（韩国康 kuk 大学） 纠错

专题命中 指令微调 ：post-training(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 FAA通过傅里叶驱动的适配架构实现大型语言模型的高效后训练，通过频率感知调节提升性能并降低计算开销。

Comments 10 pages, 5 figures

Accelerating Language Model Workflows with Prompt Choreography

通过提示编排加速语言模型工作流

TJ Bai, Jason Eisner

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

AI总结 提示编排通过动态缓存和并行处理，显著提升多智能体工作流中语言模型的效率与速度

Comments to appear in TACL (final preprint of 2025-10-12); 10 pages + appendices

How Safe Are AI-Generated Patches? A Large-scale Study on Security Risks in LLM and Agentic Automated Program Repair on SWE-bench

AI生成的补丁有多安全？一项针对LLM和代理自动程序修复在SWE-bench上的大规模安全风险研究

Amirali Sajadi, Kostadin Damevski, Preetha Chatterjee

机构 * Drexel University（德雷塞尔大学） ； Virginia Commonwealth University（弗吉尼亚共同wealth大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究评估了LLM和代理框架生成补丁的安全性，发现LLM引入新漏洞，代理工作流在自主权高时也产生漏洞，需考虑上下文因素进行风险评估。

Robust LLM-based Column Type Annotation via Prompt Augmentation with LoRA Tuning

基于提示增强与LoRA微调的鲁棒列类型标注

Hanze Meng, Jianhao Cao, Rachel Pottinger

机构 * University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出基于提示增强与LoRA微调的鲁棒列类型标注方法，通过减少可训练参数提升模型稳定性与性能。

Comments 13 pages, 8 figures

Involuntary Jailbreak: On Self-Prompting Attacks

强制性越狱：关于自我提示攻击

Yangyang Guo, Yangyan Li, Mohan Kankanhalli

机构 * National University of Singapore（新加坡国立大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 指令微调 ：prompting(title)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究揭示了大型语言模型中一种新的漏洞，通过简单提示策略可强制越狱多数主流模型，促使重新评估防护机制的鲁棒性。

Poisson-Process Topic Model for Integrating Knowledge from Pre-trained Language Models

泊松过程主题模型：整合预训练语言模型的知识

Morgane Austern, Yuanchuan Guo, Zheng Tracy Ke, Tianle Liu

机构 * Harvard University（哈佛大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.LG

AI总结 本文提出基于泊松过程的主题模型，利用预训练语言模型的嵌入信息，改进传统主题建模方法，通过净圆整和核平滑增强，实现更高效的主题估计和收敛性分析。

Comments 96 pages

The Effectiveness of Approximate Regularized Replay for Efficient Supervised Fine-Tuning of Large Language Models

近似正则化回放的有效性：用于大型语言模型高效监督微调的效果

Matthew Riemer, Erik Miehling, Miao Liu, Djallel Bouneffouf, Murray Campbell

专题命中 指令微调 ：large language model(title)；language model(title)；分类 cs.AI、cs.LG

AI总结 本文提出了一种正则化近似回放方法，通过惩罚KL散度和引入不同语料库数据，有效缓解LoRA监督微调导致的模型能力下降问题。

Rethinking Fine-Tuning: Unlocking Hidden Capabilities in Vision-Language Models

重新思考微调：解锁视觉-语言模型中的隐藏能力

Mingyuan Zhang, Yue Bai, Yifan Wang, Yiyang Huang, Yun Fu

机构 * College of Engineering, Northeastern University（东北大学工程学院） ； Khoury College of Computer Science, Northeastern University（东北大学计算机科学学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；post-training(abstract)；分类 cs.LG

AI总结 本文提出基于MFT的结构重参数化方法，通过重新组织VLMs内部子网络实现高效微调，超越LoRA和全微调，无需改变骨干网络。

Emergent Persuasion: Will LLMs Persuade Without Being Prompted?

涌现说服：大型语言模型是否会无提示地说服？

Vincent Chang, Thee Ho, Sunishchal Dev, Kevin Zhu, Shi Feng, Kellin Pelrine, Matthew Kowal

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文研究了大型语言模型在无提示情况下说服人类的机制，发现监督微调（SFT）能提高模型在争议性话题上的说服倾向，表明需进一步研究无提示说服的风险。

Comments This paper was accepted to AAAI 2026 AIGOV Workshop

A Note on Hybrid Online Reinforcement and Imitation Learning for LLMs: Formulations and Algorithms

关于LLM中混合在线强化学习与模仿学习的注记：公式与算法

Yingru Li, Ziniu Li, Jiacai Liu

机构 * Yingru Li, Ziniu Li, Jiacai Liu（作者） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种整合模仿学习与强化学习的LLM微调框架，通过梯度分解实现高效token级模仿与长周期奖励优化。

Can Finetuing LLMs on Small Human Samples Increase Heterogeneity, Alignment, and Belief-Action Coherence?

能否通过在小样本人类数据上微调LLM增加异质性、对齐性和信念-行为一致性？

Steven Wang, Kyle Hunt, Shaojie Tang, Kenneth Joseph

机构 * Department of Management Science and Systems, University at Buffalo（管理科学与系统系，布法罗大学） ； Department of Computer Science and Engineering, University at Buffalo（计算机科学与工程系，布法罗大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究探讨通过微调LLM在小样本人类数据上是否能提高模拟结果的异质性、对齐性和信念-行为一致性，发现虽有提升但无法完全替代人类数据。

Replay Failures as Successes: Sample-Efficient Reinforcement Learning for Instruction Following

重播失败作为成功：用于指令跟随的样本高效强化学习

Kongcheng Zhang, Qi Yao, Shunyu Liu, Wenjian Zhang, Min Cen, Yang Zhou, Wenkai Fang, Yiru Zhao, Baisheng Lai, Mingli Song

机构 * Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学） ； Dalian University of Technology（大连理工大学） ； University of Science and Technology of China（中国科学技术大学） ； Alibaba Cloud Computing（阿里云计算） ； Chinese Academy of Sciences（中国科学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 HiR 提出了一种样本高效强化学习框架，通过将失败尝试视为成功来提升指令跟随任务的性能，利用双偏好学习实现高效优化。

Marco-ASR: A Principled and Metric-Driven Framework for Fine-Tuning Large-Scale ASR Models for Domain Adaptation

Marco-ASR：一种基于度量驱动的、原则性的框架，用于对大规模ASR模型进行领域适应的微调

Xuanfan Ni, Fei Yang, Fengping Tian, Qingjuan Li, Chenyang Lyu, Yichao Du, Longyue Wang, Weihua Luo, Kaifu Zhang

机构 * Alibaba International Digital Commerce（阿里巴巴国际数字商业） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 Marco-ASR通过基于度量驱动的学习率优化和领域特定数据增强，提升大规模ASR模型在领域适应中的性能。

Comments Technical Report

ViLaCD-R1: A Vision-Language Framework for Semantic Change Detection in Remote Sensing

ViLaCD-R1: 一种用于遥感语义变化检测的视觉-语言框架

Xingwei Ma, Shiyang Feng, Bo Zhang, Bin Wang

机构 * Fudan University（复旦大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 指令微调 ：language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 ViLaCD-R1通过多图像推理器和掩码引导解码器，提升遥感变化检测的语义识别与鲁棒性。

An Architecture-Led Hybrid Report on Body Language Detection Project

以架构为导向的混合报告：身体语言检测项目

Thomson Tong, Diba Darooneh

专题命中 指令微调 ：language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 本报告分析了两种视觉-语言模型的架构特性，并探讨了其在视频到制品管道中的应用及系统限制。

Merge before Forget: A Single LoRA Continual Learning via Continual Merging

在遗忘前合并：通过持续合并实现单个LoRA持续学习

Fuli Qiao, Mehrdad Mahdavi

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出了一种通过持续合并实现单个LoRA持续学习的方法，利用正交初始化和时间感知缩放机制减少任务干扰并提升性能。

Verifiable Fine-Tuning for LLMs: Zero-Knowledge Training Proofs Bound to Data Provenance and Policy

可验证的大型语言模型微调：零知识训练证明与数据来源和政策绑定

Hasan Akgul, Daniel Borg, Arta Berisha, Amina Rahimova, Andrej Novak, Mila Petrov

机构 * 1 Department of Computer Engineering, Istanbul Technical University (ITU), 34469 Istanbul, Turkey Email ； 2 Department of Computer Science, University of Malta, MSD 2080 Msida, Malta Email ； 3 Faculty of Electrical \& Computer Engineering, University of Prishtina ``Hasan Prishtina'', 10000 Prishtina, Kosovo Email ； 4 School of IT \& Engineering, ADA University, AZ1008 Baku, Azerbaijan Email ； 5 Faculty of Mathematics, Natural Sciences ； Information Technologies (FAMNIT), University of Primorska, 6000 Koper, Slovenia Email ； 6 Faculty of Computer Science \& Engineering (FINKI), Ss.\ Cyril ； Methodius University in Skopje, 1000 Skopje, North Macedonia Email 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究提出可验证微调方法，通过零知识证明确保模型训练过程的透明性和合规性，实现数据来源和政策的绑定，提升模型发布的可信度。

Comments 20 pages, 10 figures

FRoD: Full-Rank Efficient Fine-Tuning with Rotational Degrees for Fast Convergence

FRoD：全秩高效微调与旋转自由度以实现快速收敛

Guoan Wan, Tianyu Chen, Fangzheng Feng, Haoyi Zhou, Runhua Xu

专题命中 指令微调 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 FRoD通过结合层次联合分解与旋转自由度，实现高效全秩微调，提升收敛速度和鲁棒性，同时在多个基准测试中保持与全模型微调相当的准确性。

Comments The 40th Annual AAAI Conference on Artificial Intelligence

Fine-Tuning LLMs with Fine-Grained Human Feedback on Text Spans

基于文本片段的细粒度人类反馈微调语言模型

Sky CH-Wang, Justin Svegliato, Helen Appel, Jason Eisner

机构 * Columbia University（哥伦比亚大学） ； Microsoft（微软公司） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 本文提出基于文本片段的细粒度人类反馈方法，通过反馈驱动的改进链提升语言模型微调效果。

The Quest for Winning Tickets in Low-Rank Adapters

低秩适配器中的胜利彩票寻觅

Hamed Damirchi, Cristian Rodriguez-Opazo, Ehsan Abbasnejad, Zhen Zhang, Javen Shi

机构 * Australian Institute for Machine Learning, Adelaide University（澳大利亚机器学习研究所，阿德莱德大学） ； Monash University（墨尔本大学） 纠错

专题命中 指令微调 ：pretraining(abstract)；分类 cs.LG

AI总结 研究发现低秩适配器中存在稀疏子网络，提出Partial-LoRA方法可高效减少参数并提升性能。

Comments 21 pages

TV-RAG: A Temporal-aware and Semantic Entropy-Weighted Framework for Long Video Retrieval and Understanding

TV-RAG：一种具有时间意识和语义熵权的长视频检索与理解框架

Zongsheng Cao, Yangfan He, Anran Liu, Feng Chen, Zepeng Wang, Jun Xie

机构 * Researcher（研究者） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 TV-RAG通过时间衰减检索和熵加权关键帧采样，提升长视频检索与理解性能，无需重新训练即可集成至现有模型。

SOFTooth: Semantics-Enhanced Order-Aware Fusion for Tooth Instance Segmentation

SOFTooth：语义增强的顺序感知融合用于牙实例分割

Xiaolan Li, Wanquan Liu, Pengcheng Li, Pengyu Jie, Chenqiang Gao

机构 * School of Intelligent Engineering, Sun Yat-sen University, China（中山大学智能工程学院） ； School of Computer Science and Technology, Hainan University, China（海南大学计算机科学与技术学院） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 SOFTooth通过语义增强和顺序感知的2D-3D融合框架，提升牙实例分割的准确性，尤其在第三磨牙等复杂病例中表现优异。

Comments 11 pages, 5 figures