高校专区
混合线性注意力的正确实现：用于超长上下文的高效蒸馏和有效架构
机构 * NLP Group, DCST, IAI, Tsinghua University（清华大学自然语言处理组、数据计算技术研究所、人工智能院） ； ModelBest Inc., Beijing, China（ModelBest公司）
AI总结 本文提出HALO流程和HypeNet架构，通过高效蒸馏将Transformer模型转换为RNN-注意力混合模型，实现超长上下文的高性能与高效率。
Comments 20 pages, 8 figures
弥合图结构与知识引导编辑以实现可解释的时序知识图谱推理
机构 * Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University（数据科学与人工智能系，香港理工大学） ； School of Cybersecurity, Northwestern Polytechnical University（网络安全学院，西北工业大学） ； Department of Electronic Engineering, Tsinghua University（电子工程系，清华大学） ； School of Mechanical Engineering, Northwestern Polytechnical University（机械工程学院，西北工业大学） ； School of Mathematics and Statistics, Xi’an Jiaotong University（数学与统计学院，西安交通大学）
AI总结 IGETR通过结合图神经网络与大语言模型，实现可解释的时序知识图谱推理，提升预测准确性与可解释性。
NetMamba+: 一种用于高效准确网络流量分类的预训练模型框架
机构 * Institute for Network Sciences and Cyberspace, Tsinghua University（网络科学与网络空间研究院，清华大学） ； Department of Computer Science and Technology, Tsinghua University（计算机科学与技术系，清华大学） ； Zhongguancun Laboratory（中关村实验室） ； Central South University（中南大学）
AI总结 NetMamba+通过高效架构、多模态表示和标签分布感知微调，实现高效准确的网络流量分类。
$π_\ exttt{RL}$: 流基于视觉-语言-动作模型的在线强化学习微调
机构 * Tsinghua University（清华大学） ； Peking University（北京大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Carnegie Mellon University（卡内基梅隆大学） ； Infinigence AI ； Zhongguancun Academy（中关村学院）
AI总结 本文提出$π_\ exttt{RL}$方法，通过流噪声和流SDE技术，解决大规模流基于VLA模型中强化学习微调的挑战，提升模型在分布内和分布外任务中的性能。
通过重建的最大似然估计进行流匹配微调
机构 * School of Automation, Southeast University（自动化学院，东南大学） ； Key Laboratory of MCCSE of the Ministry of Education, Southeast University（教育部信息与通信工程重点实验室，东南大学） ； Beijing Zhongguancun Academy（北京中关村学院） ； Department of Electronic Engineering, Tsinghua University（电子工程系，清华大学）
AI总结 本文提出通过最大似然估计微调流匹配模型，以提高其稳定性和鲁棒性，并在多个任务中验证了方法的有效性。
通过中间表示优化多跳文档检索
机构 * School of Software, BNRist, Tsinghua University（软件学院、BNRist、清华大学） ； Beijing Key Laboratory of Industrial Bigdata System and Application（北京工业大数据系统与应用重点实验室） ； Gaoling School of Artificial Intelligence, Renmin University of China（甘露人工智能学院、中国人民大学）
AI总结 本文提出L-RAG方法，通过利用中间层表示优化多跳文档检索，提升问答性能。
Minion：一种技术探测器，用于探索用户如何与AI伙伴协商有害的价值冲突
机构 * The University of Hong Kong（香港大学） ； Human-Computer Interaction Institute, Carnegie Mellon University（人机交互研究所，卡内基梅隆大学） ； Language Technologies Institute, Carnegie Mellon University（语言技术研究所，卡内基梅隆大学） ； Tsinghua University（清华大学） ； Department of Computer Science, George Mason University（计算机科学系，乔治·马歇尔大学）
AI总结 Minion通过探测用户与AI伙伴协商有害价值冲突的过程，揭示了设计中需平衡用户责任与AI安全的挑战。
Comments 21 pages, 4 figures
倾斜的锯齿：重新审视自动编码器在可控扩散中的权衡
机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Tsinghua University（清华大学）
AI总结 本文研究了自动编码器在可控扩散中的权衡问题，发现gFID指标在可控性评估中表现不佳，而重建导向的指标更能反映可控性，提出了更可靠的评估方法。
Comments work in progress
信号自适应信任区域用于递归脉冲神经网络的梯度自由优化
机构 * Tsinghua University（清华大学）
AI总结 本文提出信号自适应信任区域方法，用于提高递归脉冲神经网络在高维连续控制任务中的训练稳定性与性能。
少样本学习用于动态变化的自动电动出租车车队运营：一种元深度强化学习方法
机构 * Department of Industrial Engineering, Tsinghua University（清华大学工业工程系） ； School of Management Science and Engineering, Central University of Finance and Economics（中央财经大学管理科学与工程学院）
AI总结 本文提出GAT-PEARL框架，通过元强化学习方法解决动态变化的充电基础设施下自动驾驶电动出租车车队的少样本学习问题，实现快速适应和高效运营。
EGAM：扩展图注意力模型用于解决路由问题
机构 * Department of Electronic Engineering, Tsinghua University, Beijing, China（清华大学电子工程系） ； Shanghai Artificial Intelligence Laboratory, Shanghai, China（上海人工智能实验室）
AI总结 EGAM通过扩展图注意力机制，改进了传统GAM在路由问题中的性能，尤其在复杂图结构处理上表现出色。
图基础模型中的分布外泛化
机构 * Tsinghua University（清华大学）
AI总结 本文综述了图基础模型中分布外泛化的最新进展，讨论了分布偏移带来的挑战，并总结了相关方法和未来研究方向。
MALLOC：用于大规模序列推荐的内存感知长序列压缩基准测试
机构 * Zhejiang University（浙江大学） ； Huawei Noah's Ark Lab（华为诺亚实验室） ； Tsinghua University（清华大学）
AI总结 MALLOC提出了一种用于大规模序列推荐的内存感知长序列压缩基准测试，通过系统分类内存管理技术并整合到先进推荐系统中，以提升推荐系统的整体可靠性。
VidLaDA：双向扩散大型语言模型用于高效视频理解
机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Fudan University（复旦大学） ； ZhongguanCun Academy（中关村学院） ； Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
AI总结 VidLaDA通过双向注意力和MARS-Cache技术，提升视频理解效率，实现比现有方法更优的性能与速度
Listen, Look, Drive: 通过用户意识的VLA基于自主驾驶的音频指令耦合
机构 * SuZhou Automotive Research Institute of Tsinghua University（清华大学苏州汽车研究院） ； Department of Electrical and Electronic Engineering, The University of Hong Kong（香港大学电子与电气工程系） ； Hyundai Motor Advanced Tech. R&D Center ； School of Vehicle and Mobility, Tsinghua University（清华大学车辆与移动系统学院）
AI总结 EchoVLA通过结合音频指令与视觉信息，提升自动驾驶对用户意图和情绪的感知能力，显著降低误差和碰撞率。
Comments Accepted by IV
NOSA：原生且可卸载的稀疏注意力
机构 * NLP Group, DCST, IAI, BNRIST, Tsinghua University, Beijing, China（清华大学） ； OpenBMB, China（OpenBMB） ； BUPT, Beijing, China（北京邮电大学） ； School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学）
AI总结 NOSA是一种专为KV缓存卸载设计的可训练稀疏注意力机制，通过限制CPU与GPU之间的KV传输量，实现了低通信开销和高解码吞吐量。
Comments Preprint
LLM×MapReduce-V3：通过MCP驱动的分层模块化代理系统实现交互式深入调研生成
机构 * Dept. of Comp. Sci. & Tech., Institute for AI, BNRist Center, Tsinghua University（计算机科学与技术系，人工智能研究院，BNRist中心，清华大学） ； Peking University（北京大学） ； Modelbest Inc.（Modelbest公司） ； Nanyang Technological University（南洋理工大学）
AI总结 LLM×MapReduce-V3通过MCP驱动的分层模块化代理系统实现交互式深入调研生成，提升调研内容深度与长度。
Comments Accepted by EMNLP2025 System Demonstration
弥合弱监督学习与VLM知识蒸馏：面向高效下游适应的噪声部分标签学习
机构 * Institute of Perceptual Intelligence, Peng Cheng Laboratory（感知智能研究院，鹏城实验室） ； Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学）
AI总结 本文提出协同一致性正则化框架，通过协同伪标签机制和抗过拟合策略，提升预训练VLMs在噪声部分标签下的下游适应性能。
探测大型语言模型的神经拓扑
机构 * Massachusetts Institute of Technology（麻省理工学院） ； New York University（纽约大学） ； Tsinghua University（清华大学） ； Harvard Medical School（哈佛医学院）
AI总结 本研究提出图探测方法，通过分析LLM神经拓扑揭示其语言生成性能，发现拓扑信息比激活信息更丰富，可提升模型效率和可靠性。
迈向透明的RAG：通过强化学习促进LLM生成中的证据可追溯性
机构 * DCST \& AIR, Tsinghua University Beijing, China ； DCST, Tsinghua University Beijing, China ； AIR, Tsinghua University Beijing, China ； DSCT \& AIR, Tsinghua University Beijing, China ； DCST \& AIR, Tsinghua University ； DCST, Tsinghua University ； AIR, Tsinghua University ； DSCT \& AIR, Tsinghua University
AI总结 TRACE通过强化学习提升LLM生成中的证据可追溯性，实现透明输出和准确性提升。
面向图异常检测的异常感知预训练与微调
机构 * State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） ； HKUST(GZ)（香港科技大学（广州）） ； Tsinghua University（清华大学） ； The University of Queensland（昆士兰大学）
AI总结 本文提出APF框架，通过预训练和微调提升图异常检测的异常感知能力，结合谱多项式滤波器和门控融合机制，实现更有效的异常识别。
Comments Accepted by ICLR 2026
ACDiT：插值自回归条件建模与扩散变换器
机构 * Tsinghua University（清华大学） ； ByteDance（字节跳动）
AI总结 ACDiT通过结合自回归和扩散范式，实现连续视觉信息的灵活插值生成，优于现有自回归基线，在视觉生成任务中表现最佳。
Comments TMLR camera-ready version
EVA-Score：通过提取与验证评估抽象长形式摘要的信息性
机构 * Shanghai Jiao Tong University（上海交通大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Tsinghua University（清华大学） ； Shanghai AI Lab（上海人工智能实验室）
AI总结 本文提出EVA-Score，通过提取和验证评估抽象长形式摘要的信息性，发现其与人类评价的关联性最高，揭示了LLM在长形式摘要任务中的不足。
Comments 20 pages
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈