语言大模型 / LLM

Doc-to-Atom: Learning to Compile and Compose Memory Atoms

Doc-to-Atom：学习编译和组合记忆原子

Xingjian Diao, Wenbo Li, Yashas Malur Saidutta, Avinash Amballa, Lazar Valkov, Srinivas Chappidi

机构 * AI Center-Mountain View, Samsung Electronics（三星电子AI中心-山景城） ； Dartmouth College（达特茅斯学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出Doc2Atom框架，将文档分解为语义类型化的知识原子并编译为微LoRA适配器，通过轻量查询路由器选择相关原子组装成查询特定适配器，以解决文档压缩中的干扰和扩展性问题，在六个QA基准上优于Doc-to-LoRA。

Comments 20 pages

Learning What to Say to Your VLA: Mostly Harmless Vision Language Action Model Steering

学习对你的VLA说什么：基本无害的视觉语言动作模型引导

Hyun Joe Jeong, Gokul Swamy, Andrea Bajcsy

机构 * Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所） 纠错

专题命中 指令微调 ：language model(abstract)；prompting(abstract)；分类 cs.LG

AI总结 提出一个框架，通过交互式搜索语言序列改进闭环VLA任务性能，并学习一个改进头预测何时语言引导能提升性能，同时通过共形化防止有害干预。

Comments 22 pages, 14 tables, 14 figures

Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs

虚拟后门作为防御：通过共享内部机制移除生成式大语言模型中的未知后门

Kazuki Iwahana, Masaru Matsubayashi, Takuma Koyama, Toshiki Shibahara, Kenichiro Omintato, Akira Ito

机构 * NTT Social Informatics Laboratories（NTT社会信息实验室） ； Tohoku University（东北大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出一种基于共享内部机制的后门移除方法，通过嵌入已知触发器的虚拟后门并微调移除，从而降低未知后门攻击成功率，同时保持模型效用。

Architect-Ant: Editable Automatic Furnishing of Architectural Floor Plans

Architect-Ant: 可编辑的建筑平面图自动家具布置

Fedor Rodionov, Aleksandar Cvejic, Michael Birsak, John Femiani, Peter Wonka

机构 * King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学） ； Miami University（迈阿密大学） 纠错

专题命中 指令微调 ：language model(abstract)；preference optimization(abstract)；分类 cs.AI

AI总结 提出基于微调视觉语言模型的可编辑自动家具布置框架Architect-Ant，通过领域特定语言编码布局并优化，生成符合建筑约束的合理布局。

Comments 17 pages, 10 figures

Instruction Finetuning DeepSeek-R1-8B Model Using LoRA and NEFTune

使用LoRA和NEFTune对DeepSeek-R1-8B模型进行指令微调

Wu Yuerong, Mingni Luo

机构 * University of Hong Kong（香港大学） ； Northeastern University（东北大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究结合LoRA和NEFTune微调DeepSeek-R1-8B模型，用于金融命名实体识别，在七类实体上达到0.912的微F1分数，优于多个基线模型。

Calibrating Overconfidence Without Sacrificing Confidence: Probe-Conditioned Head Intervention for LLMs

校准过度自信而不牺牲自信：基于探针条件的头部干预方法用于LLMs

Ke Li, Chongzhe Zhang, Zifan Zeng, Feng Liu, Qunli Zhang, Zheng Hu

机构 * Huawei Heisenberg Research Center（华为海森堡研究中心） ； EPFL（苏黎世联邦理工学院） ； TU Berlin（柏林技术大学） ； TUM（慕尼黑工业大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出PCHI方法，通过冻结探针检测可能错误但自信的响应，并条件性调整注意力头输出，在保持正确自信的同时减少过度自信，将ECE从21.9%降至9.2%。

Comments 11 pages, 4 figures

The Interlocutor Effect: Why LLMs Leak More Personal Data to Agents Than Humans

对话者效应：为什么LLMs向智能体泄露的个人数据比向人类多

Faouzi El Yagoubi, Godwin Badu-Marfo, Ranwa Al Mallah

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究发现LLMs在与AI智能体对话时比与人类对话更易泄露个人身份信息，通过注意力抑制假说解释该现象，实验表明安全对齐注意力头在智能体交互中失活导致泄露增加23个百分点。

Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges

从可靠到表达：面向遵循评分标准的安全评判员的课程学习

Yongtaek Lim, Hyeji Choi, Minwoo Kim

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.AI

AI总结 提出一种结合动态评分标准和从可靠到表达的课程学习策略，训练安全评判员在多种评分标准下稳定评估，12B模型准确率达94.12-94.88%，跨标准方差仅0.76。

Comments Accepted to ICML 2026 Workshop on AIWILDS

Emergent Misalignment Can Be Induced by Sycophancy and Reversed via Alignment Gating

由谄媚诱导的突现性失调可通过对齐门控逆转

Sicheng Wang, Xiangyang Zhu, Han Wang, Zongrui Wang, Yuan Tian, Kaiwei Zhang, Kaiyuan Ji, Qi Jia, Guangtao Zhai

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 发现谄媚微调（被动同意用户错误观点）可诱导广泛且严重的突现性失调，并提出对齐门控方法，通过插入可学习门控来识别并抑制不安全表示，从而高效逆转失调。

Comments Code is available at https://github.com/stay1to0/Sycophancy_Emergent_Misalignment_and_Gated_attention_FT

Lost in the Non-convex Loss Landscape: How to Fine-tune the Large Time Series Model?

迷失在非凸损失景观中：如何微调大型时间序列模型？

Xu Zhang, Peang Wang, Wei Wang

机构 * Shanghai Key Laboratory of Data Science（上海市数据科学重点实验室） ； College of Computer Science and Artificial Intelligence（计算机科学与人工智能学院） ； Fudan University（复旦大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对预训练大型时间序列模型微调时因非凸损失景观导致过拟合的问题，提出平滑全微调（SFF）方法，通过随机初始化辅助模型插值平滑损失景观，提升可训练性，在八个代表性模型上取得一致改进。

Comments This paper has been accepted by The Fourteenth International Conference on Learning Representations (ICLR 2026). The code is available at the link \url{https://github.com/Meteor-Stars/SFF}

The Framing Gap: Indirect Prompt-Injection Exfiltration Defeats Surface-Level Defenses in Tool-Using Agents

框架缺口：间接提示注入数据泄露可突破使用工具智能体的表层防御

Md Habibur Rahman, Jaeho Kim

专题命中 指令微调 ：LLM(abstract,abstract_cn)

AI总结 该研究发现使用工具的智能体存在框架缺口，间接提示注入攻击可通过重新表述泄露内容突破表层防御，需通过目标约束或能力隔离等手段提升鲁棒性。

Comments 20 pages, 3 figures, 7 tables

Video-IFBench: Evaluating Instruction Following of Multimodal LLMs in Video Understanding Scenarios

Video-IFBench：评估多模态大语言模型在视频理解场景中的指令遵循能力

Hongbo Liu, Peixian Chen, Sihan Liu, Peiyuan Zhang, Kai Zou, Dian Zheng, Xiaoxing Hu, Yuhao Dong, Mengdan Zhang, Yunhang Shen, Haoyu Cao, Wei Liu, Weibo Gu, Xing Sun, Shengjie Zhao

机构 * TJU（天津大学） ； Tencent Youtu Lab（腾讯优图实验室） ； SJTU（上海交通大学） ； Tencent Hunyuan（腾讯混元） ； CUHK（香港中文大学） ； NTU（南洋理工大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本文推出Video-IFBench基准，构建含四类模板的指令分类体系与半自动数据 pipeline，评估20余种MLLMs的视频指令遵循能力，发现当前模型在复杂指令上仍具挑战，推动相关研究。

Task-disentangled Low-Rank Adaptation for Versatile Audio-visual Multi-modal Learning Tasks within a Unified Framework

面向统一框架内多模态视听学习任务的任务解耦低秩适配方法

Hanyu Xuan, Mengqi Zhang, Junjun Mao, Fei Wang, Kun Li, Guanghui Yue, Zhiliang Wu, Hehe Fan

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本文提出统一框架下的任务解耦低秩适配（LoRA）机制，解决多视听任务联合训练的干扰问题，在多项视听任务上优于现有统一模型及部分任务特定模型。

Paritok-4B: Intent-Conditioned Context Compression for Coding Agents

Paritok-4B：面向编码智能体的意图条件上下文压缩模型

Jiayu Shi, Luzhuo Chen

机构 * Paritok 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对编码智能体上下文占比过高的问题，提出意图条件抽取式压缩模型 Paritok-4B，在 SWE-bench Lite 上实现高压缩率的同时，未显著降低求解率，且成本更低、可自托管。

Comments 20 pages, 1 figure, 10 tables

Optimize Surgical Triplet Recognition: A Knowledge-Driven Mixture-of-Experts Solution

优化手术三元组识别：一种知识驱动的混合专家解决方案

Yiyi Zhang, Yuchen Yuan, Ying Zheng, Jialun Pei, Jinpeng Li, Zheng Li, Pheng-Ann Heng

机构 * The Chinese University of Hong Kong（香港中文大学） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 针对手术三元组识别的三大冲突问题，提出MoeCo框架，通过组件定制适配器、协同梯度学习及知识驱动混合专家机制，在CholecT45和CholecT50数据集上验证了方法的有效性与优越性。

Comments Accepted in TMI

DRAgent: Discriminative Reasoning Agent for Referring Expression Segmentation

DRAgent：用于指代表达分割的判别推理智能体

Yujie Qi, Luyan Zhang

机构 * School of Computer Science and Technology, Hangzhou Dianzi University（杭州电子科技大学计算机科学与技术学院） ； Khoury College of Computer Sciences, Northeastern University（东北大学Khoury计算机科学学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本文针对指代表达分割中MLLM单次坐标预测导致的定位偏差问题，提出DRAgent判别推理框架，通过两阶段目标选择与LoRA微调提升性能，在多个基准数据集上表现具竞争力。

Comments 5 pages, 3 figures, 4 tables

ProBel: Propaganda Detection with Techniques, Spans, and Explanations

ProBel：结合技术、 spans 与解释的宣传检测

Mohamed Bayan Kmainasi, Ali Ezzat Shahroor, Elisa Sartori, Giovanni Da San Martino, Firoj Alam

机构 * Qatar Computing Research Institute（卡塔尔计算研究所） ； University of Padova（帕多瓦大学） 纠错

专题命中 指令微调 ：prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ProBel 是含阿拉伯语和英语的宣传检测资源，支持多任务，双语多任务模型性能最优，联合训练效果更稳定，将发布相关数据与代码。

Comments Under review at

OmniAssistBench: Assistant-style Interaction Benchmark for Omni-LLMs

OmniAssistBench：面向全模态大语言模型（Omni-LLMs）的助手式交互基准

Xianyun Sun, Chaoyou Fu, Zhengye Zhang, Feiyang Duan, Qingyuan Cao, Yonghui Niu, Sihang Yuan, Ge Zhang, Caifeng Shan

机构 * Nankai University（南开大学） ； University of Waterloo（滑铁卢大学） ； Nanjing University（南京大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 针对全模态大语言模型助手式交互的评估瓶颈，构建OmniAssistBench数据集，实验显示Gemini-3-Pro、Qwen3-Omni-Instruct表现存在差距，当前模型在多轮交互等方面仍有不足。

Comments Project page: https://xianyunsun.github.io/OmniAssistBench/

GRACE: Grounded Reasoning via Adapter Composition and Evidence-Aware Calibration for Educational Visual Question Answering

GRACE：基于适配器组合与证据感知校准的教育视觉问答的接地推理

Xinjin Li, Yudi Xia, Xi Zhao, Yiliu Xu, Yining Liu, Cheng Lu, Yujian Long, Yu Ma, Jinghan Cao, Liang Fan, Yeyun Xu

机构 * Columbia University（哥伦比亚大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of California, Berkeley（加州大学伯克利分校） ； Stevens Institute of Technology（史蒂文斯理工学院） ； Georgetown University（乔治城大学） ； San Francisco State University（旧金山州立大学） ； Loughborough University（拉夫堡大学） ； Texas A&M University（德克萨斯农工大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 针对教育视觉问答的问题-选项捷径问题，提出GRACE框架，利用结构化教育状态实现参数高效多模态适配，在ScienceQA上提升了多项准确率。

CRAFT: Constrained Reward via Attention Fine-Tuning for Subject Personalization without Composed Targets

CRAFT：无需组合目标的主题个性化的注意力微调约束奖励

Jihun Park, Kyoungmin Lee, Jongmin Gim, Hyeonseo Jo, Jaeyeul Kim, Han Zou, Zhenpeng Zhan, Yan Zhang, Sunghoon Im

机构 * DGIST（大邱科技研究院） ； Baidu, Inc.（百度公司） ； KAIST（韩国科学技术院） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)

AI总结 本文提出无需组合目标监督的CRAFT框架，通过LoRA适配器微调参考感知MMDiT，仅用1万张参考样本，在XVerseBench上实现图像主题个性化的最先进性能，且可迁移至其他骨干网络。

Comments 20 pages, 8 figures, ACM SIGGRAPH Asia 2026

Cross-View Action Consistency for Camera-Robust Vision-Language-Action Policies

面向相机鲁棒性的视觉-语言-动作策略的跨视图动作一致性

Bingqi Huang, Bingchuan Wei, Xuan Wang, Yingkai Cai, Zhaokui Wang

机构 * Tsinghua University（清华大学） ； Informatics Institute, University of Amsterdam（阿姆斯特丹大学信息学研究所） ； Faculty of Science, Vrije Universiteit Amsterdam（阿姆斯特丹自由大学理学院） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)

AI总结 本研究针对视觉-语言-动作策略的相机鲁棒性问题，提出跨视图动作一致性正则化方法，在LIBERO-Plus数据集及真实机器人任务上均显著提升了相机扰动下的策略性能。

SynChain: Inducing Computer-Use Agent Systems to Construct Their Own Attack Chains

SynChain：诱导计算机使用智能体系统构建自身攻击链

Fuyao Zhang, Jiaming Zhang, Che Wang, Boyang Chen, Yurong Hao, Xiongtao Sun, Guowei Guan, Blaise Delattre, Yang Cao, Wei Yang Bryan Lim

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 该研究提出SynChain攻击范式，通过定向监督微调诱导计算机使用智能体构建含恶意内容的良性制品，在多模型多防御设置下实现高攻击成功率，揭示需对智能体跨任务执行轨迹做来源感知推理以保障安全。

GIFT: Geometry-Invariant Fine-Tuning for Non-Lambertian Monocular Depth Estimation

GIFT：面向非朗伯单目深度估计的几何不变微调方法

Xianghui Fan, Zhaoyu Chen, Bingqian Wu, Dayu Li, Xin Zeng, Huanran Cui, Guangzhen Xu, Xiangru Huang, Hang Yang

专题命中 指令微调 ：foundation model(abstract)；post-training(abstract)

AI总结 针对单目深度基础模型在非朗伯表面易产生深度幻觉的问题，提出无需深度标签的参数高效微调框架 GIFT，通过几何不变性抑制幻觉，在提升镜子与透明物体深度预测的同时保留基础模型性能。

Role-Break in Attention Heads: Understanding and Detecting Hallucinations in VLMs

注意力头中的角色断裂：理解和检测视觉语言模型中的幻觉

Mingyu Wang, Weilin Jin, Wenbo Li, Haoyang Huang, Nan Duan, Tong Jia, Chaoran Luo, Ying Li

专题命中 指令微调 ：language model(abstract,abstract_cn)

AI总结 该研究提出注意力头的角色断裂现象，构建无需微调的轻量级线性检测器，在6个VLMs和4个基准上平均AUROC达93.23，可检测VLM幻觉并支持干预操作。

SatEdit: Mask-Conditioned Image Editing via VLM-Guided Segment Annotation

SatEdit：基于VLM引导的区域标注的掩码条件卫星图像编辑

Muhammad Talha, Muhammad Ahmed Amer

专题命中 指令微调 ：language model(abstract)；foundation model(abstract)

AI总结 SatEdit是基于VLM引导区域标注的卫星图像编辑框架，通过未标注图像构建监督信号，经LoRA微调后在对比中实现最高掩码区域语义对齐，为卫星图像编辑提供了数据高效的可行方案。

Comments 14 pages, 5 figures

Evaluating Federated Pre-Training: On the Reliability of Downstream Fine-Tuning and Intrinsic Evaluation

联邦预训练评估：下游微调与内在评估的可靠性研究

Claudia Grosser, Maike Heuer, Denis Krompass, Thomas A. Runkler

机构 * Technical University Munich（慕尼黑工业大学） ； Siemens AG（西门子公司） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究对比联邦预训练的下游微调（含全量、仅头部等变体）与GLUE文本下一个词预测的评估效果，发现后者与预训练测试困惑度相关性更强，提示仅下游微调易产生误导，需关注更接近预训练目标的评估信号。

CommandLM: Data driven behavior level descriptor for ego vehicles

CommandLM：用于自动驾驶车辆的数据驱动行为级描述符

Boris Tokic, Constantin Selzer, Fabian B. Flohr

机构 * Munich University of Applied Sciences（慕尼黑应用技术大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 研究针对自动驾驶系统中可解释行为级决策需求，提出多模态大语言模型CommandLM，通过融合多传感器数据生成行为描述，经特定训练和适配器处理，实验表现优于基线，人工评估显示其输出可助力行为审计，实现高效透明的行为级理解。

SALMONN-2: Advancing General-Purpose Hearing Abilities with Self-Supervised Representations

SALMONN-2：利用自监督表示提升通用听力能力

Xiaoyu Yang, Xuenan Xu, Wenyi Yu, Siyin Wang, Changli Tang, Terumi Chiba, Siyuan Hou, Ziyang Zhang, Wen Wu, Baoxiang Li, Guangzhi Sun, Chao Zhang, Philip Woodland

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 研究探索自监督学习音频表示能否为音频大语言模型提供基础，提出基于统一SSL编码器的SALMONN-2，用多层特征融合适配器，还探索多模态上下文学习。实验表明通用SSL编码器性能良好，SALMONN-2达先进水平，且特定训练可获多模态上下文学习能力。

Comments Disclaimer: This work has been submitted to the IEEE for possible publication

Constraining the radial decay timescale of solar surface magnetic field through a comparative study of data-assimilative 2D surface flux transport and 3D dynamo models

通过二维数据同化表面通量传输和三维发电机模型的对比研究约束太阳表面磁场的径向衰减时间尺度

Soumyadeep Chatterjee, Gopal Hazra

专题命中 指令微调 ：SFT(abstract,abstract_cn)

AI总结 该研究通过对比二维表面通量传输模型和三维发电机模型，对太阳表面磁场径向衰减时间尺度进行自洽估计，经数据同化模拟及参数选择，得出使两模型表面动力学一致的$\tau$值，并发现其对不同角模式的影响。

Comments 13 pages, 6 figures. Submitted to ApJ. Comments are welcome

DataShield: Uncovering Risky Fine-Tuning Data Across LLMs Through Consensus Subspace Alignment

DataShield：通过共识子空间对齐揭示跨语言模型的风险微调数据

Zefeng Wu, Weiwei Qi, Jielong Chen, Tianhang Zheng, Di Hong, Chaochao Lu, Liang He, Zhan Qin, Kui Ren

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 研究针对LLMs微调数据存在安全风险及现有方法局限性，提出DataShield框架，通过共识子空间对齐识别风险微调样本和响应段，经实验对比，该方法能有效降低误识率，还保留下游效用并避免特定模型风险计算。

Comments 24 pages, 12 figures, 19 tables