Nanjing University（南京大学）

Neuron-Aware Data Selection In Instruction Tuning For Large Language Models

面向神经元的数据选择用于大语言模型的指令微调

Xin Chen, Junchao Wu, Shu Yang, Runzhe Zhan, Zeyu Wu, Min Yang, Shujian Huang, Lidia S. Chao, Derek F. Wong

机构 * NLP ； CT Lab, Department of Computer and Information Science, University of Macau（计算机与信息科学系，澳门大学CT实验室） ； Artificial Intelligence Research Institute, Shenzhen University of Advanced Technology（深圳先进技术大学人工智能研究院） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究所） ； Provable Responsible AI and Data Analytics Lab, KAUST（可证明责任AI与数据分析实验室，卡尔斯兰大学） ； National Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） 纠错

AI总结 本文提出NAIT框架，通过分析神经元激活模式相似性选择高效指令微调数据，提升大语言模型特定或通用能力，实验证明其在多种任务中优于其他方法。

ReMem-VLA: Empowering Vision-Language-Action Model with Memory via Dual-Level Recurrent Queries

ReMem-VLA：通过双层递归查询增强视觉-语言-动作模型的记忆能力

Hang Li, Fengyi Shen, Dong Chen, Liudi Yang, Xudong Wang, Jinkui Shi, Zhenshan Bing, Ziyuan Liu, Alois Knoll

机构 * Technical University of Munich（慕尼黑技术大学） ； Huawei Heisenberg Research Center（华为海森堡研究中心） ； University of Freiburg（弗赖堡大学） ； Nanjing University（南京大学） ； Huawei Technologies（华为技术） 纠错

AI总结 ReMem-VLA通过双层递归查询机制提升视觉-语言-动作模型的记忆能力，结合帧级和块级记忆查询，增强短期和长期记忆，通过端到端训练实现上下文聚合与维护，优于现有基线模型。

Comments 14 pages, 6 figures