语言大模型 / LLM

Old wine in old glasses: Comparing computational and qualitative methods in identifying incivility on Persian Twitter during the #MahsaAmini movement

旧酒装旧瓶：比较计算方法和定性方法在#MahsaAmini运动期间识别波斯语推特中的不文明行为

Hossein Kermani, Fatemeh Oudlajani, Pardis Yarahmadi, Hamideh Mahdi Soltani, Mohammad Makki, Zahra HosseiniKhoo

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文比较了三种方法在识别波斯语推文中的不文明行为，发现ParsBERT在识别仇恨言论方面表现优于ChatGPT，并揭示了ChatGPT在处理微妙和明显不文明内容时的不足。

Do Multilingual LLMs have specialized language heads?

多语言大语言模型是否具有专门的语言头部？

Muhammad Naufil

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究多语言大语言模型是否为每种语言具有专门的语言注意力头部，并探讨移除不需要语言头部对性能的影响。

Vista: Scene-Aware Optimization for Streaming Video Question Answering under Post-Hoc Queries

Vista：面向事后查询的场景感知流视频问答优化

Haocheng Lu, Nan Zhang, Wei Tao, Xiaoyang Qu, Guokuan Li, Jiguang Wan, Jianzong Wang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Vista通过场景感知分割、压缩和召回技术，实现了高效且可扩展的流视频问答，提升了长上下文推理能力，同时保持低延迟和内存效率。

Comments Accepted to AAAI 2026 (Main Technical Track)

Nexus: Inferring Join Graphs from Metadata Alone via Iterative Low-Rank Matrix Completion

Nexus：仅通过迭代低秩矩阵补全推断连接图

Tianji Cong, Yuanyuan Tian, Andreas Mueller, Rathijit Sen, Yeye He, Fotis Psallidas, Shaleen Deep, H. V. Jagadish

机构 * University of Michigan（密歇根大学） ； Microsoft Gray Systems Lab（微软灰系统实验室） ； Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Nexus通过迭代低秩矩阵补全方法，利用元数据推断连接图，实现高效准确的连接关系识别。

MARTI-MARS$^2$: Scaling Multi-Agent Self-Search via Reinforcement Learning for Code Generation

MARTI-MARS$^2$：通过强化学习实现多智能体自搜索的扩展用于代码生成

Shijie Wang, Pengfei Li, Yikun Fu, Kaifeng Liu, Fangyuan Li, Yang Liu, Xiaowei Sun, Zonglin Li, Siyao Zhao, Jian Zhao, Kai Tian, Dong Li, Junqi Gao, Yutong Zhang, Yiqun Chen, Yuqiang Li, Zoe Li, Weinan Zhang, Peng Ye, Shuyue Hu, Lei Bai, Bowen Zhou, Kaiyan Zhang, Biqing Qi

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Tsinghua University（清华大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； Shanghai Jiao Tong University（上海交通大学） ； Institute of Automation（自动化研究所） ； Fudan University（复旦大学） ； High School Affiliated to Fudan University（复旦大学附属高中） ； Renmin University of China（中国人民大学） ； University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 MARTI-MARS2通过多智能体强化学习实现代码生成的扩展，突破单智能体限制，提升性能和多样性。

Progressive Searching for Retrieval in RAG

RAG中检索的渐进搜索

Taehee Jeong, Xingzhe Zhao, Peizu Li, Markus Valvur, Weihua Zhao

机构 * San Jose State University（圣何塞州立大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 RAG中提出渐进搜索算法，通过分层搜索逐步优化候选集，实现高效准确的检索，平衡维度、速度和精度，提升大规模数据库的检索性能。

$ρ$-$\texttt{EOS}$: Training-free Bidirectional Variable-Length Control for Masked Diffusion LLMs

$ρ$-$\ exttt{EOS}$：无训练双向可变长度控制用于掩码扩散语言模型

Jingyi Yang, Yuxian Jiang, Jing Shao

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 $ρ$-$\ exttt{EOS}$ 提出了一种无训练、单阶段策略，通过隐含密度信号实现掩码扩散语言模型的双向可变长度生成，提升推理效率和令牌利用率。

Comments 11 pages,6 figures,6 tables

Transformers as Unsupervised Learning Algorithms: A study on Gaussian Mixtures

Transformer作为无监督学习算法：对高斯混合模型的研究

Zhiheng Chen, Ruofan Wu, Guanhua Fang

机构 * Shanghai Center for Mathematical Sciences, Fudan University（复旦大学上海数学中心） ； Department of Statistics and Data Science, School of Management, Fudan University（复旦大学管理学院统计与数据科学系） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出TGMM框架，利用Transformer解决高斯混合模型问题，理论证明其能近似EM算法和谱方法核心组件，实验显示其在无监督学习中具有鲁棒性和有效性。

Comments Code available at https://github.com/Rorschach1989/transformer-for-gmm

Large Language Lobotomy: Jailbreaking Mixture-of-Experts via Expert Silencing

大语言模型的脑部手术：通过专家沉默进行混合专家模型的劫持

Jona te Lintelo, Lichao Wu, Stjepan Picek

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 通过专家沉默技术，L$^3$攻击显著提高了MoE LLMs的劫持成功率，揭示了效率与安全之间的矛盾。

DA-RAG: Dynamic Attributed Community Search for Retrieval-Augmented Generation

DA-RAG：动态属性社区搜索用于检索增强生成

Xingyuan Zeng, Zuohan Wu, Yue Wang, Chen Zhang, Quanming Yao, Libin Zheng, Jian Yin

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 DA-RAG通过动态属性社区搜索提升检索增强生成的效果，有效处理动态复杂查询，减少计算与经济成本。

MARC: Memory-Augmented RL Token Compression for Efficient Video Understanding

MARC: 用于高效视频理解的记忆增强强化学习令牌压缩

Peiran Wu, Zhuorui Yu, Yunze Liu, Chi-Hao Wu, Enmin Zhou, Junxiao Shen

机构 * University of Bristol（布里斯托大学） ； Memories.ai Research（Memories.ai研究） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 MARC通过结合结构化检索和强化学习知识蒸馏，实现高效视频理解，显著减少视觉令牌、GPU内存和延迟。

Comments Accepted at ICLR 2026

Wireless Context Engineering for Efficient Mobile Agentic AI and Edge General Intelligence

无线上下文工程用于高效的移动群体AI和边缘通用智能

Changyuan Zhao, Jiacheng Wang, Yunting Xu, Geng Sun, Dusit Niyato, Zan Li, Abbas Jamalipour, Dong In Kim

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出无线上下文工程，通过优化无线边缘智能的上下文管理，提升移动群体AI和边缘通用智能的效率。

Comments 7 pages, 4 figures

TIPO: Text to Image with Text Presampling for Prompt Optimization

TIPO: 文本到图像的文本预采样用于提示优化

Shih-Ying Yeh, Yi Li, Sang-Hyun Park, Giyeong Oh, Xuehai Wang, Min Song, Youngjae Yu, Shang-Hong Lai

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 TIPO通过文本预采样优化提示，提升文本到图像生成的视觉质量和人类偏好度。

Comments 50 pages, 28 figures

Learning in Context, Guided by Choice: A Reward-Free Paradigm for Reinforcement Learning with Transformers

在情境中学习，由选择引导：一种无奖励的强化学习与Transformer的范式

Juncheng Dong, Bowen He, Moyang Guo, Ethan X. Fang, Zhuoran Yang, Vahid Tarokh

机构 * Department of Electrical and Computer Engineering, Duke University, Durham, US（电子工程系，杜克大学，达勒姆，美国） ； Department of Computer Science, Duke University, Durham, US（计算机科学系，杜克大学，达勒姆，美国） ； Department of Biostatistics and Bioinformatics, Duke University, Durham, US（生物统计学与生物信息学系，杜克大学，达勒姆，美国） ； Department of Statistics and Data Science, Yale University, New Haven, US（统计学与数据科学系，耶鲁大学，纽 Haven，美国） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ICPRL范式，通过仅使用偏好反馈实现无奖励的强化学习，适用于奖励难以获取的场景，实验显示其在连续控制等任务中性能接近传统ICRL方法。

Sparsity-Aware Evolution for Model Merging

稀疏性感知的模型融合进化

Huan Zhang, Yanjian Zhang, Guillaume Wisniewski, Nadi Tomeh, Bang Liu

机构 * DIRO & Institut Courtois, Université de Montréal（迪罗与库尔托伊研究所，蒙特利尔大学） ； Mila – Quebec AI Institute（魁北克人工智能研究所） ； Université Sorbonne Paris Nord, LIPN, CNRS（索邦巴黎北大学，LIPN，CNRS） ； Université Paris Cité, LLF, CNRS（巴黎城市大学，LLF，CNRS） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能 chair） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种稀疏性感知的进化框架，通过迭代剪枝-融合循环提升模型融合的可靠性，且易于集成。

DeltaKV: Residual-Based KV Cache Compression via Long-Range Similarity

DeltaKV: 基于残差的KV缓存压缩 via 长距离相似性

Jitai Hao, Qiang Huang, Yaowei Wang, Min Zhang, Jun Yu

机构 * Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 DeltaKV通过残差编码减少KV缓存内存，提升长上下文LLM的部署效率。

Comments preprint

Efficient Representations are Controllable Representations

高效表示是可控表示

Charles Ye, Jasmine Cui

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 通过微调LLM使其残差流维度成为可解释控制开关，实现高效可控的生成表示。

AOrchestra: Automating Sub-Agent Creation for Agentic Orchestration

AOrchestra：为代理编排自动化子代理创建

Jianhao Ruan, Zhihao Xu, Yiran Peng, Fashen Ren, Zhaoyang Yu, Xinbing Liang, Jinyu Xiang, Yongru Chen, Bang Liu, Chenglin Wu, Yuyu Luo, Jiayi Zhang

专题命中 效率与部署 ：language agent(abstract)；分类 cs.CL、cs.AI

AI总结 AOrchestra通过统一的代理抽象实现自动化子代理创建，提升多轮任务解决的适应性和效率。

AlphaSteer: Learning Refusal Steering with Principled Null-Space Constraint

AlphaSteer: 通过原理性零空间约束学习拒绝引导

Leheng Sheng, Changshuo Shen, Weixiang Zhao, Junfeng Fang, Xiaohao Liu, Zhenkai Liang, Xiang Wang, An Zhang, Tat-Seng Chua

机构 * National University of Singapore（国立新加坡大学） ； University of Science and Technology of China（中国科学技术大学） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 AlphaSteer 通过原理性零空间约束学习拒绝引导，提升大语言模型的安全性与效用平衡。

Comments ICLR 2026

LLMs + Security = Trouble

Benjamin Livshits

机构 * Imperial College London（伦敦帝国学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

SCOUT-RAG: Scalable and Cost-Efficient Unifying Traversal for Agentic Graph-RAG over Distributed Domains

SCOUT-RAG：可扩展且成本效益高的代理图式检索框架用于分布式领域

Longkun Li, Yuanben Zou, Jinghan Wu, Yuqing Wen, Jing Li, Hangwei Qian, Ivor Tsang

机构 * A*STAR 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 SCOUT-RAG是一种分布式代理图式检索框架，通过跨领域检索和增量效用目标提升推理性能，同时降低成本和延迟。

GRIT: Graph-Regularized Logit Refinement for Zero-shot Cell Type Annotation

GRIT：图正则化逻辑细化用于零样本细胞类型注释

Tianxiang Hu, Chenyi Zhou, Jiaxiang Liu, Jiongxin Wang, Ruizhe Chen, Haoxiang Xia, Gaoang Wang, Jian Wu, Zuozhu Liu

机构 * Zhejiang University（浙江大学） ； Guangdong Institute of Intelligence Science and Technology（广东智能科学与技术研究院） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 GRIT通过图正则化逻辑细化提升零样本细胞类型注释的准确性，结合预训练模型的可扩展性与人类专家注释的结构鲁棒性。

Comments 10 pages, 6 figures

Efficient Attention via Pre-Scoring: Prioritizing Informative Keys in Transformers

通过预评分实现高效的注意力机制：在Transformer中优先选择信息量大的键

Zhexiang Li, Haoyu Wang, Yutong Bao, David Woodruff

机构 * Carnegie Mellon University, Pittsburgh, USA ； University of Southern California, Los Angeles, CA, USA ； University of California, San Diego, Department of Mathematics, La Jolla, CA, USA ； University of California, Davis, Applied Mathematics \& Statistics, Davis, CA, USA ； Carnegie Mellon University, Pittsburgh, PA, USA 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 本文提出预评分方法，通过优先选择信息量大的键提升Transformer在长上下文语言建模和视觉任务中的效率与精度

Bridging Speech, Emotion, and Motion: a VLM-based Multimodal Edge-deployable Framework for Humanoid Robots

弥合语音、情感与运动：一种基于视觉语言模型的多模态边缘可部署框架用于人形机器人

Songhua Yang, Xuetao Li, Xuanye Fei, Mengde Li, Miao Li

机构 * School of Computer Science, Wuhan University（武汉大学计算机学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 本文提出SeM$^2$框架，通过多模态感知、思维链推理和语义序列对齐机制，实现情感一致的多模态交互，提升人形机器人在现实环境中的社交表达能力。

Cerebellar-Inspired Residual Control for Fault Recovery: From Inference-Time Adaptation to Structural Consolidation

小脑启发的残差控制用于故障恢复：从推理时间适应到结构巩固

Nethmi Jayasinghe, Diana Gontero, Spencer T. Brown, Vinod K. Sangwan, Mark C. Hersam, Amit Ranjan Trivedi

机构 * University of Illinois at Chicago（伊利诺伊大学芝加哥分校） ； Northwestern University（西北大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 该研究提出了一种小脑启发的残差控制框架，通过在线纠正动作实现故障恢复，提升机器人在训练后扰动下的鲁棒性和性能。

Elastic Spectral State Space Models for Budgeted Inference

弹性频谱状态空间模型用于预算推理

Dachuan Song, Xuan Wang

机构 * Department of Electrical and Computer Engineering, George Mason University, Fairfax, VA, USA（电气与计算机工程系，乔治·马歇尔大学，弗吉尼亚州 Fairfax） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出弹性频谱状态空间模型，通过一次训练实现多尺度运行时推理，提升预算下模型性能。

Comments Minor update: added code repository link

Steerable Adversarial Scenario Generation through Test-Time Preference Alignment

通过测试时间偏好对齐的可操控对抗场景生成

Tong Nie, Yuewen Mei, Yihong Tang, Junlin He, Jie Sun, Haotian Shi, Wei Ma, Jian Sun

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Tongji University（同济大学） ； McGill University（麦吉尔大学） 纠错

专题命中 效率与部署 ：preference optimization(abstract)；分类 cs.AI

AI总结 SAGE通过测试时间偏好对齐实现对抗性场景生成的可控权衡，提升自动驾驶系统安全性评估效率。

Comments ICLR 2026

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026)

Solving Optimal Execution Problems via In-Context Operator Networks

通过上下文操作符网络解决最优执行问题

Tingwei Meng, Moritz Voß, Nils Detering, Giulio Farolfi, Stanley Osher, Georg Menz

机构 * University of California Los Angeles（加州大学洛杉矶分校） ； Heinrich Heine University Düsseldorf（杜伊斯堡-埃森大学） 纠错

专题命中 效率与部署 ：prompting(abstract)；分类 cs.LG

AI总结 本文提出ICON-OCnet架构，通过上下文学习解决未知价格影响下的最优订单执行问题，结合预训练与少量示例推断，实现高效策略学习。

Comments 27 pages, 11 figures

DeltaSpace: A Semantic-aligned Feature Space for Flexible Text-guided Image Editing

DeltaSpace: 一种语义对齐的特征空间用于灵活的文本引导图像编辑

Yueming Lyu, Kang Zhao, Bo Peng, Huafeng Chen, Yue Jiang, Yingya Zhang, Jing Dong, Caifeng Shan

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 DeltaSpace通过语义对齐的特征空间实现文本引导图像编辑的灵活训练和推理，支持零样本推理和无需文本的训练。

Comments 18 pages. arXiv admin note: text overlap with arXiv:2303.06285

Multi-Agentic AI for Fairness-Aware and Accelerated Multi-modal Large Model Inference in Real-world Mobile Edge Networks

多智能体AI用于现实世界移动边缘网络中公平性感知和加速的多模态大模型推理

Haiyuan Li, Hari Madhukumar, Shuangyi Yan, Yulei Wu, Dimitra Simeonidou

机构 * Smart Internet Lab, Department of Electrical and Electronic Engineering, University of Bristol（布里斯托大学电子与电气工程系智能互联网实验室） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 本文提出多智能体AI框架，通过优化提示路由和模型部署，实现移动边缘网络中多模态大模型推理的低延迟与高公平性。