语言大模型 / LLM

Balancing Fidelity and Plasticity: Aligning Mixed-Precision Fine-Tuning with Linguistic Hierarchies

在保真度与可塑性之间寻求平衡：将混合精度微调与语言层次结构对齐

Changhai Zhou, Shiyang Zhang, Yuhua Zhou, Qian Qiao, Jun Gao, Shichao Weng, Weizhong Zhang, Cheng Jin

机构 * Fudan University（复旦大学） ； Yale University（耶鲁大学） ； Zhejiang University（浙江大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 QR-Adaptor通过联合优化量化位宽和LoRA秩，解决混合精度微调中保真度与可塑性的平衡问题，实现内存与性能的高效资源分配。

Comments 18 pages, 5 figures

Unsupervised Text Style Transfer for Controllable Intensity

无监督文本风格迁移用于可控强度

Shuhuan Gu, Wenbiao Tao, Xinchen Ma, Kangkang He, Ye Guo, Xiang Li, Yunshi Lan

机构 * East China Normal University（东华大学） ； Baowu Group（宝武集团） 纠错

专题命中 指令微调 ：LLM(abstract)；SFT(abstract)；分类 cs.CL

AI总结 本文提出了一种SFT-then-PPO方法，通过精心设计的奖励函数提升LLM在可控强度下的文本风格迁移性能。

Entropy-Adaptive Fine-Tuning: Resolving Confident Conflicts to Mitigate Forgetting

熵适应微调：解决自信冲突以缓解遗忘

Muxi Diao, Lele Yang, Wuxuan Gong, Yutong Zhang, Zhonghao Yan, Yufei Han, Kongming Liang, Weiran Xu, Zhanyu Ma

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 指令微调 ：SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 熵适应微调通过利用令牌级熵区分知识不确定性和冲突，缓解微调过程中的遗忘问题，提升模型在多个领域的表现。

Discovering Association Rules in High-Dimensional Small Tabular Data

在高维小表格数据中发现关联规则

Erkan Karabulut, Daniel Daza, Paul Groth, Victoria Degeler

机构 * University of Amsterdam（阿姆斯特丹大学） ； Amsterdam University Medical Center（阿姆斯特丹大学医学中心） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出两种改进Aerial+的方法，用于在高维低数据量情况下提升关联规则挖掘的性能。

Comments Published version is available at https://ceur-ws.org/Vol-4125/paper_26.pdf

Journal ref Proc. 1st Int. Workshop on Advanced Neuro-Symbolic Applications (ANSyA 2025), CEUR Workshop Proc., vol. 4125, pp. 105-113, 2025

EMLoC: Emulator-based Memory-efficient Fine-tuning with LoRA Correction

EMLoC：基于模拟器的内存高效微调与LoRA校正

Hsi-Che Lin, Yu-Chu Yu, Kai-Po Chang, Yu-Chiang Frank Wang

机构 * Graduate Institute of Communication Engineering, National Taiwan University（国立台湾大学通信工程研究所） ； NVIDIA 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 EMLoC通过基于模拟器的内存高效微调与LoRA校正，实现大模型在有限内存下高效适应不同任务的需求。

Comments Accepted to the 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Project page: https://hsi-che-lin.github.io/EMLoC/

GRAPHMOE: Amplifying Cognitive Depth of Mixture-of-Experts Network via Introducing Self-Rethinking Mechanism

GRAPHMOE: 通过引入自我反思机制提升混合专家网络的认知深度

Bo Lv, Chen Tang, Zifan Zheng, Bohao Yang, Kun Zhao, Ning Liao, Xiaoxing Wang, Feiyu Xiong, Zhiyu Li, Nayu Liu, Jingchi Jiang

机构 * Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Institute for Advanced Algorithms Research, Shanghai（上海先进算法研究所） ； The University of Manchester（曼彻斯特大学） ； The University of Pittsburgh（匹兹堡大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； University of Sydney（悉尼大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 GRAPHMOE通过引入自我反思机制，提升混合专家网络的认知深度，实现语言模型的先进性能。

Comments 10 pages

Prithvi-Complimentary Adaptive Fusion Encoder (CAFE): unlocking full-potential for flood inundation mapping

普里提维-互补自适应融合编码器（CAFE）：解锁洪水淹没制图的全部潜力

Saurabh Kaushik, Lalit Maurya, Beth Tellman

机构 * Center for Sustainability and the Global Environment (SAGE), University of Wisconsin–Madison（可持续性与全球环境中心（SAGE），威斯康星大学麦迪逊分校） ； Portsmouth AI and Data Science Centre (PAIDS), School of Computing, University of Portsmouth（波特兰人工智能与数据科学中心（PAIDS），计算学院，波特兰大学） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 普里提维-互补自适应融合编码器（CAFE）通过融合多通道多模态数据提升洪水制图的分割性能。

Comments Accepted at CV4EO Workshop @ WACV 2026

SLGNet: Synergizing Structural Priors and Language-Guided Modulation for Multimodal Object Detection

SLGNet: 结合结构先验与语言引导调制的多模态目标检测

Xiantai Xiang, Guangyao Zhou, Zixiao Wen, Wenshuai Li, Ben Niu, Feng Wang, Lijia Huang, Qiantong Wang, Yuhan Liu, Zongxu Pan, Yuxin Hu

机构 * Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院航天信息研究所） ； Key Laboratory of Target Cognition and Application Technology, Chinese Academy of Sciences（中国科学院目标认知与应用技术重点实验室） ； School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences（中国科学院大学电子电气与通信工程学院） ； School of Software Engineering, Xi’an Jiaotong University（西安交通大学软件学院） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 SLGNet通过结合结构先验与语言引导调制，在冻结的ViT基础上实现高效多模态目标检测，提升环境适应性和检测性能。

AirSpatialBot: A Spatially-Aware Aerial Agent for Fine-Grained Vehicle Attribute Recognization and Retrieval

AirSpatialBot: 一种空间感知的空中智能体用于细粒度车辆属性识别与检索

Yue Zhou, Ran Ding, Xue Yang, Xue Jiang, Xingzhao Liu

机构 * Department of Electronic Engineering, Shanghai Jiao Tong University（电子工程系，上海交通大学） ； Department of Automation, Shanghai Jiao Tong University（自动化系，上海交通大学） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 AirSpatialBot通过空间感知的VLM和两阶段训练策略，实现细粒度车辆属性识别与检索，解决遥感图像中的空间理解难题。

Comments 12 pages, 9 figures

Emergent Introspective Awareness in Large Language Models

大语言模型中的涌现自我意识

Jack Lindsey

机构 * Anthropic 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 研究发现大语言模型在特定条件下能识别自身内部状态，但其自我意识仍不成熟且依赖上下文。

Unified Generation and Self-Verification for Vision-Language Models via Advantage Decoupled Preference Optimization

通过优势解耦偏好优化实现视觉语言模型的统一生成与自验证

Xinyu Qiu, Heng Jia, Zhengwen Zeng, Shuheng Shen, Changhua Meng, Yi Yang, Linchao Zhu

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； Venus Team, Ant Group（蚂蚁集团 Venus 团队） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；language model(title)

AI总结 ADPO通过统一生成与自验证的强化学习框架，提升视觉语言模型的验证性能和推理效率。

Fine-Grained Preference Optimization Improves Spatial Reasoning in VLMs

细粒度偏好优化提升视觉语言模型的空间推理能力

Yifan Shen, Yuanzhe Liu, Jingyuan Zhu, Xu Cao, Xiaofeng Zhang, Yixiao He, Wenming Ye, James Matthew Rehg, Ismini Lourentzou

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；language model(abstract)；分类 cs.CL

AI总结 细粒度偏好优化方法SpatialReasoner-R1通过改进空间推理能力，在空间推理任务中取得显著性能提升。

GDRO: Group-level Reward Post-training Suitable for Diffusion Models

GDRO：适用于扩散模型的组级奖励后训练

Yiyang Wang, Xi Chen, Xiaogang Xu, Yu Liu, Hengshuang Zhao

机构 * The University of Hong Kong（香港大学） ； The Chinese University of Hong Kong（香港中文大学） ； Tongyi Lab（通义实验室） 纠错

专题命中 后训练与偏好优化 ：post-training(title,abstract)；分类 cs.LG

AI总结 GDRO通过组级奖励后训练优化，提升扩散模型奖励分数并增强抗奖励黑客能力。

Counterfactual Self-Questioning for Stable Policy Optimization in Language Models

反事实自问法用于语言模型中的稳定策略优化

Mandar Parab

专题命中 后训练与偏好优化 ：language model(title,abstract)；分类 cs.AI

AI总结 反事实自问法通过内部生成的监督提升语言模型的推理准确性和训练稳定性，实现自我改进。

ScRPO: From Errors to Insights

ScRPO：从错误到洞察

Lianrui Li, Dakuan Lu, Jiawei Shao, Xuelong Li

机构 * Institute of Artificial Intelligence (TeleAI)（人工智能研究院（TeleAI）） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 ScRPO通过自我反思和错误纠正机制，提升大语言模型的数学推理能力，在多个基准测试中优于基线方法。

VisionReward: Fine-Grained Multi-Dimensional Human Preference Learning for Image and Video Generation

VisionReward: 面向图像和视频生成的细粒度多维人类偏好学习

Jiazheng Xu, Yu Huang, Jiale Cheng, Yuanming Yang, Jiajun Xu, Yuan Wang, Wenbo Duan, Shen Yang, Qunlin Jin, Shurun Li, Jiayan Teng, Zhuoyi Yang, Wendi Zheng, Xiao Liu, Dan Zhang, Ming Ding, Xiaohan Zhang, Xiaotao Gu, Shiyu Huang, Minlie Huang, Jie Tang, Yuxiao Dong

专题命中 后训练与偏好优化 ：preference optimization(abstract)

AI总结 VisionReward通过细粒度多维人类偏好学习框架，提升图像和视频生成的偏好对齐效果，实验显示其在准确性与胜率上均优于现有方法。

Comments 27 pages

Youtu-LLM: Unlocking the Native Agentic Potential for Lightweight Large Language Models

Youtu-LLM：解锁轻量级大语言模型的原生代理潜力

Junru Lu, Jiarui Qin, Lingfeng Qiao, Yinghui Li, Xinyi Dai, Bo Ke, Jianfeng He, Ruizhi Qiao, Di Yin, Xing Sun, Yunsheng Wu, Yinsong Liu, Shuangyin Liu, Mingkong Tang, Haodong Lin, Jiayi Kuang, Fanxu Meng, Xiaojuan Tang, Yunjia Xi, Junjie Huang, Haotong Yang, Zhenyi Shen, Yangning Li, Qianwen Zhang, Yifei Yu, Siyu An, Junnan Dong, Qiufeng Wang, Jie Wang, Keyu Chen, Wei Wen, Taian Guo, Zhifeng Shen, Daohai Yu, Jiahao Li, Ke Li, Zongyi Li, Xiaoyu Tan

机构 * Youtu-LLM Team（Youtu-LLM团队） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；language model(title,abstract)；large language model(title)；分类 cs.CL

AI总结 Youtu-LLM通过紧凑架构和长上下文支持，实现了轻量级大语言模型在代理任务中的高效推理与规划能力。

Comments 57 pages, 26 figures

Warp-Cortex: An Asynchronous, Memory-Efficient Architecture for Million-Agent Cognitive Scaling on Consumer Hardware

Warp-Cortex: 一种异步、内存高效的用于百万智能体认知扩展的消费级硬件架构

Jorge L. Ruiz Williams

机构 * Warp Research（Warp研究） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Warp-Cortex通过异步架构和内存优化技术，实现百万智能体在消费级硬件上的高效认知扩展。

BitDecoding: Unlocking Tensor Cores for Long-Context LLMs with Low-Bit KV Cache

BitDecoding: 通过低精度KV缓存解锁Tensor Cores用于长上下文LLM

Dayou Du, Shijie Cao, Jianyi Cheng, Luo Mai, Ting Cao, Mao Yang

机构 * University of Edinburgh（爱丁堡大学） ； Microsoft Research（微软研究院） ； Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 BitDecoding通过协同利用CUDA核心和Tensor Core，实现低精度KV缓存的高效解码，提升长上下文LLM的解码速度。

Placement Semantics for Distributed Deep Learning: A Systematic Framework for Analyzing Parallelism Strategies

分布式深度学习中的放置语义：一种分析并行策略的系统框架

Deep Pankajbhai Mehta

机构 * Adobe Inc（Adobe公司） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出放置语义框架，通过分析不同并行策略在设备上的状态放置方式，统一了多种分布式训练方法，实现了对内存和通信成本的准确预测。

Comments 8 pages, 3 tables

AI Compute Architecture and Evolution Trends

人工智能计算架构与演进趋势

Bor-Sung Liang

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出七层人工智能计算架构模型，分析了大型语言模型演进的三个阶段及各层技术发展与影响。

Comments 33 pages, 17 figures, 2 Tables

Video Detective: Seek Critical Clues Recurrently to Answer Question from Long Videos

视频侦探：通过反复寻找关键线索来回答长视频中的问题

Henghui Du, Chunjie Zhang, Xi Chen, Chang Zhou, Di Hu

机构 * Gaoling School of Artificial Intelligence（北京中国人民大学人工智能学院） ； Renmin University of China（中国人民大学） ； AI Technology Center Online Video Business Unit（人工智能技术中心在线视频业务部） ； Tencent PCG（腾讯PCG） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 VideoDetective通过问题感知的记忆机制，使大语言模型能高效处理长视频问答任务，减少计算资源消耗并提升关键信息提取能力。

A Multi-Task Embedder For Retrieval Augmented LLMs

为检索增强型大语言模型提供多任务嵌入器

Peitian Zhang, Shitao Xiao, Zheng Liu, Zhicheng Dou, Jian-Yun Nie

专题命中 长上下文与记忆 ：LLM(abstract)

AI总结 LLM-Embedder通过引入排名感知奖励和分级蒸馏，统一多任务检索增强，提升大语言模型在多种下游任务中的性能。

EduSim-LLM: An Educational Platform Integrating Large Language Models and Robotic Simulation for Beginners

EduSim-LLM: 一个整合大语言模型和机器人模拟的教育平台，用于初学者

Shenqi Lu, Liangwei Zhang

机构 * Hangzhou Dianzi University Information Engineering College（杭州电子科技大学信息工程学院） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 EduSim-LLM通过整合大语言模型与机器人模拟，实现自然语言到机器人行为的转换，提升初学者在人机交互和多机器人协作中的控制与操作能力。

LLMize: A Framework for Large Language Model-Based Numerical Optimization

LLMize: 一种基于大语言模型的数值优化框架

M. Rizki Oktavian

机构 * Blue Wave AI Labs（蓝波人工智能实验室） ； School of Nuclear Engineering, Purdue University（核工程学院） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 LLMize是一种基于大语言模型的数值优化框架，通过自然语言描述注入约束和领域知识，适用于复杂领域特定任务的优化。

Yuan3.0 Flash: An Open Multimodal Large Language Model for Enterprise Applications

Yuan3.0 Flash：面向企业应用的开源多模态大语言模型

YuanLab. ai, :, Shawn Wu, Sean Wang, Louie Li, Darcy Chen, Allen Wang, Jiangang Luo, Xudong Zhao, Joseph Shen, Gawain Ma, Jasper Jia, Marcus Mao, Claire Wang, Hunter He, Carol Wang, Zera Zhang, Jason Wang, Chonly Shen, Leo Zhang, Logan Chen, Qasim Meng, James Gong, Danied Zhao, Penn Zheng, Owen Zhu, Tong Yu

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 Yuan3.0 Flash通过RAPO算法提升企业任务性能，实现高效多模态大语言模型开源

Empowering Small Language Models with Factual Hallucination-Aware Reasoning for Financial Classification

赋能小型语言模型以实现金融分类的事实幻觉感知推理

Han Yuan, Yilin Wu, Li Zhang, Zheng Ma

机构 * Decision Science Center of Excellence（决策科学中心卓越机构） ； American Express（美国运通） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 本文提出AAAI流程，通过缓解事实幻觉提升小型语言模型在金融分类中的性能。

Digital Twin AI: Opportunities and Challenges from Large Language Models to World Models

数字孪生AI：从大语言模型到世界模型的机会与挑战

Rong Zhou, Dongping Chen, Zihan Jia, Yao Su, Yixin Liu, Yiwen Lu, Dongwei Shi, Yue Huang, Tianyang Xu, Yi Pan, Xinliang Li, Yohannes Abate, Qingyu Chen, Zhengzhong Tu, Yu Yang, Yu Zhang, Qingsong Wen, Gengchen Mai, Sunyang Fu, Jiachen Li, Xuyu Wang, Ziran Wang, Jing Huang, Tianming Liu, Yong Chen, Lichao Sun, Lifang He

机构 * Lehigh University（莱文斯顿大学） ； University of Maryland（马里兰大学） ； University of New South Wales（新南威尔士大学） ； Worcester Polytechnic Institute（沃思维尔理工学院） ； University of Pennsylvania（宾夕法尼亚大学） ； University of Notre Dame（圣约翰大学） ； Columbia University（哥伦比亚大学） ； University of Georgia（佐治亚大学） ； Yale University（耶鲁大学） ； Texas A&M University（德克萨斯A&M大学） ； Stanford University（斯坦福大学） ； Squirrel Ai Learning ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Texas Health Science Center at Houston（德克萨斯大学健康科学中心休斯顿分校） ； University of California, Riverside（加州大学河滨分校） ； Florida International University（佛罗里达国际大学） ； Purdue University（普渡大学） ； Children’s Hospital of Philadelphia（费城儿童医院） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)；分类 cs.AI

AI总结 本文提出统一的四阶段框架，探讨数字孪生中AI整合的机会与挑战，涵盖建模、镜像、干预和自主管理，强调大语言模型和基础模型的作用。

Causal Consistency Regularization: Training Verifiably Sensitive Reasoning in Large Language Models

因果一致性正则化：在大型语言模型中训练可验证的敏感推理

Sanjeda Akter, Ibne Farabi Shihab, Anuj Sharma

机构 * Department of Computer Science, Iowa State University（计算机科学系，爱荷华州立大学） ； Department of Civil, Construction & Environmental Engineering, Iowa State University（土木、建筑与环境工程系，爱荷华州立大学） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 CSR通过强制因果一致性提升大语言模型的推理忠实性，实现更可靠的结构化领域推理。

From Emotion Classification to Emotional Reasoning: Enhancing Emotional Intelligence in Large Language Models

从情绪分类到情绪推理：提升大语言模型情感智能

Arjhun Sreedar, Rohan Pillay, Laukik Patade

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文通过合成情绪链式思维数据提升大语言模型的情感推理能力，实验表明微调后模型在情绪理解与意识评估上显著提升。

Comments 10 pages, 1 figure