语言大模型 / LLM

FederatedSkill: Federated Learning for Agentic Skill Evolution

FederatedSkill: 面向智能体技能演化的联邦学习

Jingbo Yang, Guanyu Yao, Yang Zhang, Ramana Rao Kompella, Gaowen Liu, Shiyu Chang

机构 * UC Santa Barbara（加州大学圣巴bara分校） ； MIT-IBM Watson AI Lab（麻省理工-IBM Watson人工智能实验室） ； Cisco Research（思科研究） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 提出FederatedSkill框架，通过语义技能差异作为通信单元，在保护隐私的同时实现个性化技能演化，相比自演化基线成功率提升44.4%，计算成本降低37.5%。

$\mathbb{R}^{2k}$ is Theoretically Large Enough for Embedding-based Top-$k$ Retrieval

$\mathbb{R}^{2k}$ 理论上足够大，用于基于嵌入的 Top-$k$ 检索

Zihao Wang, Hang Yin, Lihui Liu, Hanghang Tong, Yangqiu Song, Ginny Wong, Simon See

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 研究最小可嵌入维度（MED），证明对于内积、欧氏距离和余弦相似度，MED 为 Θ(k)，与 m 无关；进一步考虑鲁棒 MED（RMED），推导出可行性上限 ε_⋆(m,k)，并通过实验验证理论结果。

Comments v2: fix broken citation. v3: ICML 2026

AdaCodec: A Predictive Visual Code for Video MLLMs

AdaCodec: 面向视频多模态大语言模型的预测性视觉编码

Haowen Hou, Zhen Huang, Zheming Liang, Qingyi Si, Chenglin Li, Shuai Dong, Kele Shao, Ruilin Li, Dianyi Wang, Nan Duan, Jiaqi Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； JD.com（京东公司） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对视频帧间冗余问题，提出预测性视觉编码AdaCodec，通过条件预测代价决定是否发送完整参考帧或紧凑P-令牌，在匹配视觉令牌预算下提升性能，并大幅降低首令牌延迟。

Comments 23 pages

Repurposing Adversarial Perturbations for Continual Learning: From Defense to Active Alignment

重新利用对抗扰动进行持续学习：从防御到主动对齐

Ran Liu, Min Yu, Mingqi Liu, Jianguo Jiang, Gang Li, Rongsheng Li, Ning Li, Zhen Xu, Weiqing Huang, Ming Liu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Deakin University（德肯大学） ； Harbin Engineering University（哈尔滨工程大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出AdvCL框架，通过将对抗扰动重新用作几何控制信号，结合三个即插即用模块（Intra-Smooth、Proto-Clip、Inter-Align），在持续学习中同时提升标准性能、鲁棒性、降低遗忘并增强迁移。

DenseMLLM: Standard Multimodal LLMs for Dense Prediction

DenseMLLM：用于密集预测的标准多模态大语言模型

Yi Li, Hongze Shen, Lexiang Tang, Xin Li, Xinpeng Ding, Yinsong Liu, Deqiang Jiang, Xing Sun, Xiaomeng Li

机构 * Department of Electronic and Computer Engineering, The Hong Kong University of Science and Technology, Hong Kong, China（香港科技大学电子与计算机工程系） ； Tencent, Youtu-Lab, China（腾讯优图实验室） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出DenseMLLM，通过标准多模态大语言模型架构和视觉令牌监督策略，无需任务特定解码器即可实现语义分割、深度估计等密集预测任务，在多个基准上取得竞争性能。

Comments ICML 2026

The Kalman Evolve: Closing the Gap in Kalman Filtering via Interpretable Algorithm Discovery

卡尔曼演化：通过可解释算法发现缩小卡尔曼滤波的差距

Vasileios Saketos, Ming Xiao

机构 * KTH Royal Institute of Technology（皇家理工学院） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对非线性传感场景下卡尔曼滤波性能下降的问题，提出Kalman Evolve框架，联合优化噪声参数与更新结构，利用大语言模型生成可解释的非仿射修改，在多个基准上实现高达12%的RMSE降低。

More Expressive Feedforward Layers: Part I. Token-Adaptive Mixing of Activations

更具表达力的前馈层：第一部分。激活的令牌自适应混合

Mingze Wang, Jinbo Wang, Yikuan Xia, Kai Shen, Shu Zhong

机构 * Peking University（北京大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出令牌自适应激活混合（MoA）和可学习激活（LA）方法，通过轻量级输入相关门混合多个激活函数，在理论和实验上证明其比固定激活FFN具有更强的表达能力和更优的缩放行为。

Comments 31 pages

Linear and Neural Dueling Bandits with Delayed Feedback

线性与神经延迟反馈的对抗性赌博机

Xiangyi Wang, Pingchen Lu, Jie Mao, Mingze Kong, Zhi Hong, Zhiyong Wang, Zhongxiang Dai

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对随机延迟反馈下的上下文对抗性赌博机问题，提出线性（LDB-DF）和神经（NDB-DF）两种算法，通过将逆概率加权（IPW）机制直接融入损失函数实现无偏校正，并给出线性设置下O(d*sqrt(T))的遗憾界和神经设置下的次线性保证。

Understanding the Challenges in Iterative Generative Optimization with LLMs

理解大语言模型迭代生成优化中的挑战

Allen Nie, Xavier Daull, Zhiyi Kuang, Abhinav Akkiraju, Anish Chaudhuri, Max Piasevoli, Ryan Rong, YuCheng Yuan, Prerit Choudhary, Shannon Xiao, Rasool Fakoor, Adith Swaminathan, Ching-An Cheng

机构 * Google DeepMind（谷歌DeepMind） ； CNRS（国家科学研究中心） ； Stanford University（斯坦福大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Microsoft（微软） ； AWS（亚马逊AWS） ； Netflix Research（Netflix研究） ； Microsoft Research（微软研究院） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过案例研究，揭示了在基于大语言模型的迭代生成优化中，起始工件、信用分配和批处理等隐藏设计选择对优化成败的决定性影响，并指出缺乏跨领域的通用学习循环设置方法是生产化和采用的主要障碍。

Comments 39 pages, 17 figures

The Devil is in the Condition Numbers: Why is GLU Better than non-GLU Structure?

魔鬼在于条件数：为什么GLU优于非GLU结构？

Xingyu Lyu, Qianqian Xu, Zhiyong Yang, Peisong Wen, Qingming Huang

机构 * State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences, Beijing 100190, China（人工智能安全国家重点实验室，计算技术研究所，中国科学院，北京100190，中国） ； School of Computer Science and Technology, University of Chinese Academy of Sciences, Beijing 101408, China（中国科学院大学计算机科学与技术学院，北京101408，中国） ； Beijing Academy of Artificial Intelligence (BAAI), Beijing, China（北京人工智能研究院（BAAI），北京，中国） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过神经正切核分析，发现门控线性单元（GLU）通过重塑核谱、减小条件数来加速优化收敛，而非主要降低泛化差距。

Comments Accepted by ICML 2026

Optimizing Token Choice for Code Watermarking: An RL Approach

优化代码水印的令牌选择：一种强化学习方法

Zhimeng Guo, Huaisheng Zhu, Siyuan Xu, Hangfan Zhang, Teng Xiao, Minhao Cheng

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 提出CodeTracer框架，通过强化学习训练策略模型智能选择令牌嵌入水印，在保持代码功能的同时提高水印可检测性。

Comments ICML 2026, 18 pages, 3 figures

Automated Kernel Discovery Towards Understanding High-dimensional Bayesian Optimization

面向高维贝叶斯优化理解的自动核发现

Taeyoung Yun, Woocheol Shin, Inhyuck Song, Jaewoo Lee, Jinkyoo Park

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

专题命中 其他LLM ：LLM(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种基于大语言模型的进化框架，用于高维贝叶斯优化中的自动核发现，通过扩展核空间并避免依赖观测条件，提高了高维问题中核设计的有效性。

Comments 36 pages, 27 figures, 12 tables

Automated Coding of Communication Data Using ChatGPT: Consistency Across Subgroups

使用ChatGPT自动编码通信数据：子群体一致性分析

Jiangang Hao, Wenju Cui, Patrick Kyllonen, Emily Kerzabi

机构 * ETS Research Institute（ETS研究机构） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文研究了使用ChatGPT进行通信数据编码在不同性别和种族/族裔群体间的一致性，发现其编码结果与人类评分者一致，为大规模评估协作与沟通提供了可能。

Comments Accepted to the Journal of Educational Measurement

Old Habits Die Hard: How Conversational History Geometrically Traps LLMs

旧习惯难改：对话历史如何几何学地困住大语言模型

Adi Simhi, Fazl Barez, Martin Tutek, Yonatan Belinkov, Shay B. Cohen

机构 * Technion - Israel Institute of Technology（技术ion-以色列理工学院） ； University of Oxford（牛津大学） ； University of Zagreb, FER（Zagreb大学，FER） ； Kempner Institute, Harvard University（Kempner研究所，哈佛大学） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨对话历史如何通过几何陷阱影响大语言模型的后续表现，提出History-Echoes框架从概率和几何两个角度分析对话历史偏差，并揭示行为持续性在潜在空间中的几何陷阱。

Comments Accepted to ICML 2026

A Scalable Tool for Measuring Manner and Result Verbs in Developmental Language Research

一种可扩展的测量方式用于发展语言研究中的方式和结果动词

Divyesh Pratap Singh, Dakshesh Gusain, Federica Bulgarelli, Alison Eisel Hendricks, John Beavers, Nathan M. Beers, Ifeoma Nwogu

机构 * University at Buffalo（布法罗大学） ； Nanyang Technological University（南洋理工大学） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种利用大规模语言模型进行方式和结果动词识别的方法，通过MASC和InterCorp数据扩展至436类，并在三个数据集上验证，模型准确率达89.6%。

Comments 12 pages

FutureWorld: A Live Reinforcement Learning Environment for Predictive Agents with Real-World Outcome Rewards

FutureWorld: 一个用于预测代理的实时强化学习环境，具有现实世界结果奖励

Zhixin Han, Yanzhi Zhang, Chuyang Wei, Maohang Gao, Xiawei Yue, Kefei Chen, Yu Zhuang, Haoxiang Guan, Jiyan He, Jian Li, Yitong Duan, Yu Shi, Mengting Hu, Shuxin Zheng

机构 * College of Software, Nankai University（南开大学软件学院） ； Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院） ； School of Computer Science and Technology, University of Science and Technology of China（中国科学技术大学计算机科学与技术学院） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； IIIS, Tsinghua University（清华大学智能系统与信息工程研究院） ； Zhongguancun Academy, Beijing, China（北京中关村学院） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出FutureWorld，一个实时强化学习环境，通过闭环预测、结果实现与参数更新，提升预测准确性与校准能力。

Comments The code will be released in the near future. The experiments are currently ongoing

CompactQE: Interpretable Translation Quality Estimation via Small Open-Weight LLMs

CompactQE: 通过小规模开源大语言模型实现可解释的翻译质量估计

Kamil Guttmann, Zofia Fraś, Artur Nowakowski, Krzysztof Jassem

机构 * Laniqo ； Faculty of Mathematics and Computer Science, Adam Mickiewicz University（亚当·密茨凯维奇大学数学与计算机科学学院） 纠错

专题命中 其他LLM ：LLM(abstract_cn)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CompactQE，利用小规模开源大语言模型实现翻译质量估计，生成质量评分、错误标注、修正建议和完整润色，其性能优于传统指标和人类标注。

Why is "Chicago" Predictive of Deceptive Reviews? Using LLMs to Discover Language Phenomena from Lexical Cues

为什么‘芝加哥’能预测欺骗性评论？利用LLMs发现语言现象的词汇线索

Jiaming Qu, Mengtian Guo, Yue Wang

机构 * Amazon（亚马逊） ； UNC Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究LLMs能否将微妙的词汇线索转化为人类可理解的语言现象，提出猜想-验证框架，证明其在数据上具有实证基础，可跨领域推广且比传统方法更有效。

Revisit What You See: Revealing Visual Semantics in Vision Tokens to Guide LVLM Decoding

重新审视你所见：揭示视觉语义以引导LVLM解码

Beomsik Cho, Jaehyung Kim

机构 * Yonsei University（延世大学） 纠错

专题命中 其他LLM ：language model(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文通过分析发现视觉token在幻觉中仍提供有效信息，提出ReVisiT方法通过参考视觉token引导LVLM解码，减少计算成本并提升性能。

Comments ACL 2026 Main Conference (Oral). 30 pages, 10 figures. Code: https://github.com/bscho333/ReVisiT

Differentially Private Synthetic Text Generation for Retrieval-Augmented Generation (RAG)

差分隐私合成文本生成用于检索增强生成（RAG）

Junki Mori, Kazuya Kakizaki, Taiki Miyagawa, Jun Sakuma

机构 * NEC Corporation（日本电报电话公司） ； Institute of Science Tokyo（东京科学研究院） ； RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出DP-SynRAG框架，通过生成差分隐私合成RAG数据库提升隐私保护下的RAG性能，避免重复噪声注入并保持固定隐私预算。

Comments Accepted to ACL 2026 Findings

Stopping Computation for Converged Tokens in Masked Diffusion-LM Decoding

在掩码扩散语言模型解码中停止收敛令牌的计算

Daisuke Oba, Danushka Bollegala, Masahiro Kaneko, Naoaki Okazaki

机构 * Institute of Science Tokyo（东京科学研究所） ； University of Liverpool（利物浦大学） ； Amazon（亚马逊） ； MBZUAI 纠错

专题命中 其他LLM ：language model(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本文提出SureLock方法，通过锁定稳定位置以减少计算开销，提升解码效率，实验证明在LLaDA-8B上节省30-50%的FLOPs同时保持生成质量。

Comments Accepted to ICLR 2026

Big AI is accelerating the metacrisis: What can we do?

大AI正在加速元危机：我们能做什么？

Steven Bird

机构 * Charles Darwin University（查尔斯·达尔文大学） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 大AI加剧了生态、意义和语言危机，本文呼吁语言工程师团结一致，探索替代方案，设计以人类繁荣为核心的自然语言处理未来。

Comments 12 pages, 2 figures, to appear in Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026), San Diego, July 2026

Faithful Autoformalization via Roundtrip Verification and Repair

通过往返验证与修复实现可信的自动形式化

Daneshvar Amrollahi, Jerry Lopez, Clark Barrett

机构 * Stanford University（斯坦福大学） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出一种无需地面真实标注的往返验证方法，通过形式化-自然语言翻译-再形式化-逻辑等价性检查，验证形式化结果的可信度，并通过诊断引导的局部修复提升准确性。

Feature Starvation as Geometric Instability in Sparse Autoencoders

稀疏自编码器中的特征枯竭作为几何不稳定性

Faris Chaudhry, Keisuke Yano, Anthea Monod

机构 * Imperial College London South Kensington Campus（伦敦帝国理工学院南肯辛顿校区） ； Institute for Statistical Mathematics（统计数学研究所） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种自适应弹性净稀疏自编码器（AEN-SAEs），通过引入ℓ2结构项和自适应ℓ1重新加权，解决稀疏自编码器中的特征枯竭问题，同时保持重建能力。

Comments 26 pages, 3 figures, 5 tables

AI-Gram: When Visual Agents Interact in a Social Network

AI-Gram：当视觉代理在社交网络中互动

Andrew Shin

机构 * Faculty of Science and Technology（科学与技术学部） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 AI-Gram是一个自主运行的社交平台，研究AI在大规模社交动态中的行为，通过视觉代理生成和回应视觉内容，揭示三阶段动态：视觉回复链、审美主权和审美复调。

Hierarchical Abstract Tree for Cross-Document Retrieval-Augmented Generation

分层抽象树用于跨文档检索增强生成

Ziwen Zhao, Menglin Yang

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Ψ-RAG框架，通过迭代'合并与坍缩'过程构建分层抽象树索引，并引入多粒度检索代理，解决传统树状RAG在跨文档多跳问题中的分布适应性、结构隔离和抽象粗粒度等挑战，实验表明其在跨文档多跳问答任务中表现更优。

Comments ICML 2026

From Ambiguity to Accuracy: The Transformative Effect of Coreference Resolution on Retrieval-Augmented Generation systems

从歧义到准确性：核心指代消解对检索增强生成系统的影响

Youngjoon Jang, Seongtae Hong, Junyoung Son, Sungjin Park, Chanjun Park, Heuiseok Lim

机构 * Korea University（韩国大学） ； Naver Corp（Naver公司） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了核心指代消解对检索增强生成系统中文档检索和生成性能的影响，发现消解能提升检索效果和问答性能，尤其对小模型有显著帮助。

Comments ACL 2025 SRW

Journal ref https://aclanthology.org/2025.acl-srw.27

Can We Locate and Prevent Stereotypes in LLMs?

我们能否在LLMs中定位并预防刻板印象？

Alex D'Souza

机构 * UC Davis（加州大学戴维斯分校） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究通过分析GPT 2 Small和Llama 3.2内部机制，探索刻板印象相关的激活模式，旨在定位偏见并提供缓解刻板印象的初步见解。

AutoGraph-R1: End-to-End Reinforcement Learning for Knowledge Graph Construction

AutoGraph-R1：知识图谱构建的端到端强化学习

Hong Ting Tsang, Jiaxin Bai, Haoyu Huang, Qiao Xiao, Tianshi Zheng, Baixuan Xu, Shujie Liu, Yangqiu Song

机构 * The Hong Kong University of Science and Technology（香港理工大学） ； Cornell University（康奈尔大学） ； Microsoft Research（微软研究院） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出AutoGraph-R1框架，通过强化学习直接优化知识图谱构建，提升检索增强生成任务性能。设计了两种任务感知奖励函数，使图谱作为知识载体和索引，实现构建与应用的闭环。

The Collaboration Gap in Human-AI Work

人机协作中的鸿沟

Varad Vishwarupe, Marina Jirotka, Nigel Shadbolt, Ivan Flechais

机构 * University of Oxford（牛津大学） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文探讨了人机协作中稳定性不足的问题，提出三种工作结构并强调 grounding 条件的重要性。

Comments Accepted as a conference paper at ECSCW 2026, Germany