语言大模型 / LLM

Aegis: Automated Error Generation and Attribution for Multi-Agent Systems

Aegis：多智能体系统的自动化错误生成与归因

Fanqi Kong, Ruijie Zhang, Huaxiao Yin, Guibin Zhang, Xiaofei Zhang, Ziang Chen, Zhaowei Zhang, Xiaoyuan Zhang, Song-Chun Zhu, Xue Feng

机构 * Peking University Beijing Institute of General Artificial Intelligence（北京大学北京通用人工智能研究院） ； Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Tsinghua University（清华大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出Aegis框架，通过自动化生成大规模多智能体系统错误数据，提升错误归因能力，实验表明其模型性能可与专有模型媲美。

SGG-R$^{\rm 3}$: From Next-Token Prediction to End-to-End Unbiased Scene Graph Generation

SGG-R$^{\rm 3}$: 从单token预测到端到端无偏场景图生成

Jiaye Feng, Qixiang Yin, Yuankun Liu, Tong Mo, Weiping Li

机构 * School of Software and Microelectronics, Peking University（北京大学软件与微电子学院） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出SGG-R$^{\rm 3}$框架，通过结合任务特定的推理过程和强化学习优化，解决场景图生成中的关系稀疏和长尾问题，提升生成效果和泛化能力。

Video-ToC: Video Tree-of-Cue Reasoning

Video-ToC: 视频树状提示推理

Qizhong Tan, Zhuotao Tian, Guangming Lu, Jun Yu, Wenjie Pei

机构 * Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 Video-ToC通过树状提示推理框架提升视频理解，引入三创新：树引导视觉提示定位、需求驱动奖励机制和自动化标注流程，验证其在视频理解与幻觉检测中的优越性。

STK-Adapter: Incorporating Evolving Graph and Event Chain for Temporal Knowledge Graph Extrapolation

STK-Adapter：融合演进图与事件链以实现时序知识图谱外推

Shuyuan Zhao, Wei Chen, Weijie Zhang, Xinrui Hou, Junfeng Shen, Boyan Shi, Shengnan Guo, Youfang Lin, Huaiyu Wan

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出STK-Adapter，通过融合演进图与事件链，解决时序知识图谱外推中空间-时间信息丢失和特征稀释问题，提升模型推理能力与泛化能力。

Comments Accepted by ACL 2026

OpenGame: Open Agentic Coding for Games

OpenGame: 开源代理游戏开发

Yilei Jiang, Jinyuan Hu, Qianyin Xiao, Yaozhi Zheng, Ruize Ma, Kaituo Feng, Jiaming Han, Tianshuo Peng, Kaixuan Fan, Manyuan Zhang, Xiangyu Yue

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 OpenGame通过Game Skill和GameCoder-27B实现端到端网页游戏开发，解决跨文件不一致和逻辑不一致问题，建立新状态-of-the-art。

Comments OpenGame Report-v1

Chain of Modality: From Static Fusion to Dynamic Orchestration in Omni-MLLMs

模态链：从静态融合到动态编排在多模态大语言模型中

Ziyang Luo, Nian Liu, Junwei Han

机构 * Northwestern Polytechnical University（西北工业大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出CoM框架，通过动态编排解决多模态融合的静态融合问题，提升模型在不同任务中的泛化能力。

Proximal Supervised Fine-Tuning

近端监督微调

Wenhong Zhu, Ruobing Xie, Rui Wang, Xingwu Sun, Di Wang, Pengfei Liu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Large Language Model Department, Tencent（腾讯大语言模型部） ； University of Macau（澳门大学） 纠错

专题命中 指令微调 ：foundation model(abstract)；post-training(abstract)；SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出近端监督微调（PSFT），通过引入信任区域方法约束策略漂移，提升模型在新领域中的泛化能力，实验显示其在跨领域泛化和长期稳定性方面优于传统监督微调。

Comments ICLR 2026

Disambiguation-Centric Finetuning Makes Enterprise Tool-Calling LLMs More Realistic and Less Risky

以消歧为核心的知识蒸馏使企业工具调用LLM更真实且更安全

Ashutosh Hathidara, Julien Yu, Sebastian Schreiber

机构 * SAP Labs（SAP实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出DiaFORGE框架，通过三阶段流程提升企业工具调用LLM的准确性和安全性，实验显示其在工具调用成功率上优于GPT-4o和Claude-3.5-Sonnet。

Comments ACL 2026 Findings

MM-LIMA: Less Is More for Alignment in Multi-Modal Datasets

MM-LIMA：多模态数据集对齐中的‘少即是多’

Lai Wei, Xiaozhe Li, Zihao Jiang, Weiran Huang, Lichao Sun

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院） ； Shanghai Innovation Institute（上海创新研究院） ； Lehigh University（里海大学） ； Tongji University（同济大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MM-LIMA，仅用200个示例（约6%的指令数据）训练，通过数据选择器过滤低质量数据，使模型在多项评估中超越MiniGPT-4，证明高质量少量指令数据的有效性。

Comments Published at Artificial Intelligence for Engineering

TeamLLM: Exploring the Capabilities of LLMs for Multimodal Group Interaction Prediction

TeamLLM: 探索LLMs在多模态群体交互预测中的能力

Diana Romero, Xin Gao, Daniel Khalkhali, Salma Elmalaki

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文研究LLMs在多模态传感器数据中预测群体协调模式的能力，发现LLMs在语言基础行为上比LSTM基线提升3.2倍，细调准确率达96%。同时揭示了文本模型在多模态交互中的局限性及模拟模式的脆弱性。

Do Schwartz Higher-Order Values Help Sentence-Level Human Value Detection? A Study of Hierarchical Gating and Calibration

Schwartz 高阶值是否有助于句子层面的人类价值检测？对分层门控与校准的探讨

Víctor Yeste, Paolo Rosso

机构 * PRHLT Research Center, Universitat Politècnica de València（PRHLT研究中心，瓦伦西亚理工大学） ； School of Science, Engineering and Design, Universidad Europea de Valencia（瓦伦西亚欧洲大学科学、工程与设计学院） ； Valencian Graduate School and Research Network of Artificial Intelligence (ValgrAI)（瓦伦西亚人工智能研究生院与研究网络（ValgrAI）） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究Schwartz高阶类别在ValueEval'24/ValuesML数据集上对句子层面人类价值检测的帮助，通过比较不同模型和校准方法，发现校准和集成比硬门控更有效。

Comments Code: https://github.com/VictorMYeste/human-value-detection, models: https://huggingface.co/papers/2602.00913, 27 pages, 4 figures

Unbiased Multimodal Reranking for Long-Tail Short-Video Search

长尾短视频搜索的无偏多模态重排序

Wenyi Xu, Feiran Zhu, Songyang Li, Renzhe Zhou, Chao Zhang, Chenglei Dai, Yuren Mao, Yunjun Gao, Yi Zhang

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 本文提出基于LLM的多模态重排序框架，通过多阶段训练提升长尾查询内容质量，实验显示在AUC、NDCG@K和用户偏好判断等指标上优于基线方法，线上A/B测试验证了其在用户体验和消费指标上的提升效果。

Shifting Perspectives: Steering Vectors for Robust Bias Mitigation in LLMs

视角转换：用于LLM中鲁棒偏见缓解的引导向量

Zara Siddique, Irtaza Khalid, Liam D. Turner, Luis Espinosa-Anke

机构 * School of Computer Science and Informatics, Cardiff University（卡迪夫大学计算机科学与信息学院） ； AMPLYFI 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过引导向量修改模型激活以缓解LLM中的偏见，通过8个社会偏见轴（如年龄、性别、种族）在BBQ数据集子集上计算引导向量，并在四个数据集上比较其与三种其他偏见缓解方法的效果，展示其在减少偏见方面的有效性。

Comments Published to EACL Findings 2026

A Family of LLMs Liberated from Static Vocabularies

一种摆脱静态词汇库的LLM家族

Aleph Alpha, :, Adnen Abdessaied, Artur Baranowski, Lukas Balles, Michael Barlow, Fabien C. Y. Benureau, Felix Berkenkamp, Lukas Bluebaum, Bastian Boll, Thomas F. Burns, Björn Deiseroth, Constantin Eichenberg, David Friede, Pablo Iyu Guerrero, Ahmed Hammam, Bastian Harren, Johann Higl, Yasser Jadidi, Carina Kauf, Johannes Messner, Jan Hendrik Metzen, Max Meuer, Vedant Nanda, Pit Neitemeier, Koen Oostermeijer, Letitia Parcalabescu, Markus Pernpointner, Felix Reinfurt, Dylan Rodriquez, Grégory Schott, Philipp Siedler, Martin Simonovsky, Till Speicher, Volker Stampa, Stephan Wäldchen, Samuel Weinbach, Gregor Ziegltrum

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；preference optimization(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于分层自回归变压器（HAT）架构的LLM家族，通过重新设计编码器和解码器实现更高效的文本压缩和鲁棒性，展示了在英语和德语上的优越表现。

A Gauge Theory of Superposition: Toward a Sheaf-Theoretic Atlas of Neural Representations

超位置的规范理论：神经表示的sheaf理论地图

Hossein Javidnia

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种离散规范框架，用于大语言模型中的超位置，通过sheaf理论的局部语义图来替代单一全局词典。研究通过局部特征空间和信息几何度量，提出三种可测量的全局可解释性障碍。

Comments 35 pages, 4 figures

Censored LLMs as a Natural Testbed for Secret Knowledge Elicitation

被屏蔽的LLM作为秘密知识提取的自然测试场

Helena Casademunt, Bartosz Cywiński, Khoi Tran, Arya Jakkli, Samuel Marks, Neel Nanda

机构 * Harvard University（哈佛大学） ； Warsaw University of Technology（华沙理工大学） ； IDEAS Research Institute（IDEAS研究所） ； CentraleSupélec（中央理工学院） ； Anthropic（Anthropic公司） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究利用被屏蔽的LLM测试秘密知识提取技术，发现开放式权重模型在诚实提取和谎言检测中存在局限性，且无法完全消除虚假回应。

Mitigating Unintended Memorization with LoRA in Federated Learning for LLMs

在大语言模型联邦学习中使用LoRA缓解意外记忆

Thierry Bossy, Julien Vignoud, Tahseen Rabbani, Juan R. Troncoso Pastoriza, Martin Jaggi

机构 * Tune Insight SA ； EPFL（苏黎世联邦理工学院） ； Yale University（耶鲁大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了在大语言模型联邦学习中使用LoRA技术有效降低模型对训练数据的记忆能力，并展示了其在不同领域和隐私保护技术中的应用效果。

Journal ref Published in Transactions on Machine Learning Research (02/2026)

Fine-Tuning and Evaluating Conversational AI for Agricultural Advisory

对话式农业建议的微调与评估

Sanyam Singh, Naga Ganesh, Vineet Singh, Lakshmi Pedapudi, Ritesh Kumar, SSP Jyothi, Archana Karanam, Waseem Pasha, Ekta Kumari, C. Yashoda, Mettu Vijaya Rekha Reddy, Shesha Phani Debbesa, Chandan Dash

机构 * Digital Green 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种混合LLM架构，通过微调和拼接层提升农业建议的准确性与安全性，释放了farmerchat-prompts库以促进领域特定农业AI的发展。

Comments 22 pages, 5 figures, 9 tables

Boosting In-Context Learning in LLMs Through the Lens of Classical Supervised Learning

通过经典监督学习视角提升大语言模型的上下文学习

Korel Gundem, Juncheng Dong, Dennis Zhang, Vahid Tarokh, Zhengling Qi

机构 * The George Washington University（乔治华盛顿大学） ； Duke University（杜克大学） ； Washington University in St. Louis（华盛顿大学圣路易斯分校） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过经典监督学习视角提出监督校准方法，提升大语言模型上下文学习的性能和决策边界方向调整能力。

Does Fine-tuning by Reinforcement Learning Improve Generalization in Binary Speech Deepfake Detection?

基于强化学习的微调是否能提高二元语音深度伪造检测的泛化能力？

Xin Wang, Ge Wanying, Junichi Yamagishi

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；SFT(abstract)

AI总结 本文研究了基于GRPO的强化学习微调对二元语音深度伪造检测泛化能力的提升作用，发现其在无领域测试集上表现优于传统SFT方法。

Comments Submitted to Interspeech 2026; put on arxiv based on requirement of paper open-access rule; quote from Interspeech: "Interspeech no longer enforces an anonymity period for submissions. While uploading a version online is permitted, your official submission to Interspeech must not contain any author-identifying information"

RLSF: Fine-tuning LLMs via Symbolic Feedback

通过符号反馈进行LLM微调：RLSF

Piyush Jha, Prithwish Jana, Pranavkrishna Suresh, Arnav Arora, Vijay Ganesh

机构 * Georgia Institute of Technology, USA（佐治亚理工学院） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 RLSF通过符号反馈微调LLM，利用符号推理工具提供精细反馈，提升领域特定任务的性能，使小模型超越大模型。

Journal ref ECAI 2025, Frontiers in Artificial Intelligence and Applications, Vol. 413, pp. 1687-1694, 2025

MergeMix: A Unified Augmentation Paradigm for Visual and Multi-Modal Understanding

MergeMix：一种用于视觉和多模态理解的统一增强范式

Xin Jin, Siyuan Li, Siyong Jian, Kai Yu, Huan Wang

机构 * Westlake University（西拉克大学） ； Zhejiang University（浙江大学） ； College of Computer Science and Technology（计算机科学与技术学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；post-training(abstract)；SFT(abstract)

AI总结 MergeMix通过高效的令牌合并Mixup增强方法，平衡了SFT和RL的优劣，提升多模态大语言模型的分类准确率和对齐能力。

Comments ICLR 2026, Web link: https://jinxins.github.io/MergeMix_Web/

POPE: Learning to Reason on Hard Problems via Privileged On-Policy Exploration

POPE: 通过优先级在线探索学习解决难题

Yuxiao Qu, Amrith Setlur, Virginia Smith, Ruslan Salakhutdinov, Aviral Kumar

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 POPE 通过利用优先级信息指导在线探索，解决难题推理中的探索问题，提升模型在复杂任务上的表现。

Lightweight Yet Secure: Secure Scripting Language Generation via Lightweight LLMs

轻量却安全：通过轻量LLM实现安全脚本语言生成

Keyang Zhang, Zeyu Chen, Xuan Feng, Dongliang Fang, Yaowen Zheng, Zhi Li, Limin Sun

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文提出PSSec框架，通过数据合成与微调提升轻量LLM在生成安全PowerShell脚本方面的能力，显著降低推理成本。

Comments 19 pages,8 figures,conference

Interpretable Safety Alignment via SAE-Constructed Low-Rank Subspace Adaptation

通过SAE构造的低秩子空间适应实现可解释的安全对齐

Dianyun Wang, Qingsen Ma, Yuhu Shang, Zhifeng Lu, Zhenbo Xu, Lechen Ning, Huijia Wu, Zhaofeng He

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；RLHF(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SAILS通过SAE构造低秩子空间实现安全对齐，提升安全性能并保持参数效率。

A Note on Hybrid Online Reinforcement and Imitation Learning for LLMs: Formulations and Algorithms

关于LLM中混合在线强化学习与模仿学习的注记：公式与算法

Yingru Li, Ziniu Li, Jiacai Liu

机构 * Yingru Li, Ziniu Li, Jiacai Liu（作者） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种整合模仿学习与强化学习的LLM微调框架，通过梯度分解实现高效token级模仿与长周期奖励优化。

How Much is Too Much? Exploring LoRA Rank Trade-offs for Retaining Knowledge and Domain Robustness

过多的幅度有多大？探索LoRA秩的权衡以保留知识和领域鲁棒性

Darshita Rathore, Vineet Kumar, Chetna Bansal, Anindya Moitra

机构 * PayPal 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文探讨LoRA秩配置在保留知识和领域鲁棒性方面的权衡，通过多任务评估展示LoRA在推理任务中的竞争力。

Comments Accepted at AACL IJCNLP 2025

RVLF: A Reinforcing Vision-Language Framework for Gloss-Free Sign Language Translation

RVLF：一种无需 gloss 的视觉-语言框架用于手语翻译

Zhi Rao, Yucheng Zhou, Benjia Zhou, Yiqing Huang, Sergio Escalera, Jun Wan

机构 * Macau University of Science and Technology（澳门科学技术大学） ； SKL-IOTSC, CIS, University of Macau（澳门大学智能物联网与通信系统研究所） ； Beijing Institute of Technology, Zhuhai（珠海北京理工大学） ； University of Barcelona（巴塞罗那大学） 纠错

专题命中 指令微调 ：LLM(abstract)；language model(abstract)；instruction tuning(abstract)；SFT(abstract)

AI总结 RVLF提出了一种无需gloss的手语翻译框架，通过融合骨架运动与视觉特征并结合强化学习优化，提升了翻译质量与语义一致性。

Breaking the Modality Barrier: Universal Embedding Learning with Multimodal LLMs

突破模态壁垒：基于多模态大语言模型的通用嵌入学习

Tiancheng Gu, Kaicheng Yang, Ziyong Feng, Xingjun Wang, Yanzhao Zhang, Dingkun Long, Yingda Chen, Weidong Cai, Jiankang Deng

机构 * The University of Sydney（悉尼大学） ； DeepGlint ； Tongyi Lab, Alibaba Group（阿里云实验室） ； Imperial College London（伦敦帝国理工学院） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；instruction tuning(abstract)

AI总结 UniME通过两阶段框架提升多模态表示学习，利用知识蒸馏和硬负样本微调增强判别能力与指令遵循性能。

Comments 13 pages, 8 figures, Accepted by ACM MM2025, Project page: https://garygutc.github.io/UniME

Evaluating Embedding Generalization: How LLMs, LoRA, and SLERP Shape Representational Geometry

评估嵌入泛化：LLM、LoRA和SLERP如何塑造表示几何

Siyaxolisa Kabane

机构 * Department of Computer Science University of Fort Hare（计算机科学系大学弗利特哈雷） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究探讨了LLM、LoRA和SLERP在嵌入泛化中的作用，发现SLERP融合能有效恢复基础模型结构并提升聚类性能。

Comments 20 pages, 16 figures