Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection
专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);prompting(abstract)
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);prompting(abstract)
专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);post-training(abstract)
Comments To appear at ICML 2024. Code is available at https://github.com/SNU-ARC/any-precision-llm
专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);foundation model(abstract)
Comments https://github.com/MobileLLM/Personal_LLM_Agents_Survey
自蒸馏作为大语言模型的性能恢复机制:对抗压缩与灾难性遗忘
机构 * PayPal AI
专题命中 效率与部署 :LLM(abstract,abstract_cn);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)
AI总结 本文提出基于自蒸馏微调的性能恢复框架,通过理论分析和实验验证,证明自蒸馏能有效恢复模型能力,揭示了高维流形对齐与性能恢复之间的强相关性。
Comments 18 pages, 8 figures
单个冻结模拟器不够:多智能体强化学习中的模拟器崩溃问题
机构 * Northeastern University(东北大学) ; New York University(纽约大学) ; UC Berkeley(加州大学伯克利分校) ; University of Washington(华盛顿大学) ; Stanford University(斯坦福大学)
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 针对人机交互多智能体强化学习中单个LLM模拟器导致的策略泛化缺陷,提出Verbalized Sampling和Co-Training两种方案,在多轮基准测试和真实用户研究中显著提升了性能,发布了开源框架SCOPE。
Comments 42 pages, 29 figures
利用机器遗忘实现高性价比的偏好对齐
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 该研究针对现有偏好对齐方法成本高的问题,提出结合LLM遗忘的U2A框架,通过双层优化实现负示例的最优选择与遗忘,经实验验证有效。
Comments Accepted by ICML 2026. 12 pages, 6 figures, and 4 tables. Code available at https://github.com/muyiahhh/U2A
IoUPD:用于多模态大语言模型视觉定位的IoU感知特权蒸馏
机构 * University of Chinese Academy of Sciences(中国科学院大学) ; State Key Laboratory of Communication Content Cognition(通信内容认知技术国家重点实验室) ; Peng Cheng Laboratory(鹏城实验室)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 研究多模态大语言模型视觉定位中训练与评估不匹配问题,提出IoUPD方法,利用真实框作特权指导,训练时学生模型接收原始信息,教师模型接收增强提示,经监督微调与特权蒸馏损失训练,推理时无需额外模块,实验显示该方法有改进。
Comments 16 pages, 7 figures, 10 tables
大语言模型可以成为基数估计器吗?一项实证研究
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 本文探讨了大语言模型在基数估计中的应用,通过实验证明其在泛化能力、复杂查询支持和数据效率方面的优势,展示了其在数据库管理系统中的潜力。
基于离线大语言模型的机械臂多模态交互控制
机构 * University of Tokyo(东京大学)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 该研究提出“Socratic Models-ChatGLM”算法,基于离线开源大语言模型与PyBullet平台实现机械臂多模态交互控制,可降低成本并解决复杂多步骤机械操作任务。
Comments This research work has been accepted for poster presentation at ICRA 2026 MEI (Multimodal Embodied Interaction in Robots) Workshop. (Here is the workshop-version short paper.)
Journal ref https://ieeexplore.ieee.org/abstract/document/11371765; 2025
多模态大语言模型的令牌通信
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 本文针对多模态大语言模型(MLLMs)的令牌传输问题,提出适配MLLMs的令牌通信框架,通过集成神经编解码器、两阶段语义对齐训练及自适应适配器,在相同传输数据量下实现更优任务性能。
Comments 13 pages, 11 figures, 2 tables
面向复杂动态系统反馈控制器设计的大语言模型基准测试与推理蒸馏
机构 * The University of Tokyo(东京大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; Chiba University(千叶大学) ; Tongji University(同济大学) ; Shanghai Research Institute for Intelligent Autonomous Systems(上海智能自主系统研究院)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 该研究构建了CoDyControlBench基准,评估了6种LLMs的控制器设计性能,开发的15亿参数推理蒸馏模型可实现边缘部署,在机械臂试验中成功完成目标跟踪。
基于非对称强化学习与自蒸馏的指令条件探索
机构 * University of Southampton(南安普顿大学)
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);post-training(abstract)
AI总结 该研究针对LLM强化学习中的探索挑战,提出指令条件探索(ICE)方法,结合非对称RL/SD训练目标,使Qwen3-1.7B数学推理性能提升5.0%且长上下文下仍有效。
Comments Submitted to ACL Rolling Review (ARR) May 2026 cycle. OpenReview submission record at https://openreview.net/forum?id=PV945lekMa
OmniScope:用于全模态大语言模型的模态解耦令牌压缩
机构 * Media Analytics and Computing Lab, Xiamen University(厦门大学媒体分析与计算实验室) ; Institute of Artificial Intelligence, Xiamen University(厦门大学人工智能研究所) ; Alibaba Group(阿里巴巴集团)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 研究针对全模态大语言模型令牌压缩问题,提出无需训练的OmniScope框架,以查询为语义锚点分别估计音频和视频相关性,分配特定模态预算并采用相应策略处理,在多基准和模型规模上效果佳,实现加速和内存减少,提出跨模态推理设计原则。
用扩散张量成像可视化词嵌入中的信息流
机构 * Technical University Darmstadt(达姆斯塔特技术大学)
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出利用扩散张量成像技术可视化词嵌入中的信息流,揭示LLM中自然语言表达的信息流动机制,提升NLP模型的可解释性。
C-RE-ACT:用于O-RAN取证分类的因果反应代理
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);prompting(abstract)
AI总结 研究O-RAN架构下性能降级攻击难区分问题,提出C-RE-ACT框架,用结构不可知模型构建加权有向无环图,经图同构网络编码,在测试平台评估,能准确分离根本原因,提升LLM准确率及代理异常分类准确率。
RP - OPSD:用于多模态大语言模型的分辨率特权在线自蒸馏
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 研究针对多模态大语言模型在线自蒸馏问题,利用同一图像高低分辨率视图信息差提出RP - OPSD,学生策略用低分辨率图像生成轨迹,教师策略用原始分辨率图像监督,实验表明该方法能提升性能并加快训练速度,为在线自蒸馏提供有效途径。
PCA:用于快速视频大语言模型的持久性感知压缩与聚合
机构 * Institute for Artificial Intelligence, Great Bay University(大湾区大学人工智能研究院) ; Sun Yat-sen University(中山大学) ; Youtu Lab, Tencent(腾讯优图实验室) ; Shenzhen University(深圳大学) ; Dongguan Key Laboratory for Intelligence and Information Technology(东莞市智能信息技术重点实验室)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 研究视频大语言模型长时帧冗余问题,提出PCA方法,含动态下采样和持久性感知运动增强模块,能在编码前保留视觉信息,提升效率与准确性,优于现有方法,速度有显著提升。
Comments Accepted by ACM MM 2026
SkipOPU:一种基于FPGA的覆盖处理器,用于具有动态分配计算的大型语言模型
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 本文提出SkipOPU,一种基于FPGA的覆盖处理器,通过轻量级路由机制动态分配计算,提升大型语言模型推理效率,减少冗余计算并降低存储开销。
Comments 28 pages, 10 figures, accepted by TRETS
用于户外环境的基于几何目标定位的离线视觉语言导航
专题命中 效率与部署 :SLM(summary_cn,abstract);language model(abstract);foundation model(abstract);small language model(abstract)
AI总结 研究针对户外环境下的离线视觉语言导航,通过对17个可边缘部署的SLM与4个在线API进行基准测试,提出轻量级混合语义几何目标定位框架并集成到Edge-BehAV中,提升了性能,降低目标距离误差,实现无网络连接下的有效导航。
安全语言:提示语法如何塑造开放语言模型中的安全代码生成
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);prompting(abstract)
AI总结 研究开放语言模型中提示语法对安全代码生成的影响,采用解析器驱动方法生成句法变体并评估,发现特定句法元素及其位置影响代码安全性,为降低LLM辅助开发漏洞风险提供指导。
Comments Accepted at ICSME 2026
Nested-ReFT:通过离策略展开实现大语言模型微调的高效强化学习
机构 * Mila - Québec AI Institute, Canada(魁北克人工智能研究所) ; Huawei Noah's Ark Lab (Montreal Research Center), Canada(华为诺亚实验室(蒙特利尔研究中心)) ; Canada CIFAR AI Chair(加拿大CIFAR人工智能主席)
专题命中 效率与部署 :large language model(title);language model(title);post-training(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 研究针对大语言模型在数学推理等领域的高级推理难题,提出Nested-ReFT框架,利用离策略展开及动态层跳过降低训练推理成本,经理论与实证分析验证其有效性,还探索偏差缓解变体以维持性能。
C-GAP:类感知与在线提示改进不均衡类上的视觉语言模型
机构 * San Diego State University(圣地亚哥州立大学)
专题命中 效率与部署 :prompting(title,abstract);language model(title);LLM(abstract)
AI总结 研究针对安全关键感知系统检测小标签空间中罕见物体类别的问题,提出C-GAP框架,通过建立复合字幕基线并利用语言模型迭代细化提示,无需更新检测器权重,有效提升少数类检测精度,实验证明其成效显著。
CL-Anomaly:用于异常检测中持续学习的具有多模态大语言模型的层自适应专家混合模型
机构 * Nanjing University(南京大学) ; China Mobile Zijin Innovation Institute(中国移动紫金创新研究院) ; Nanjing University of Science and Technology(南京理工大学)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 针对多模态大语言模型持续学习计算昂贵及现有方法语义纠缠问题,提出CL-Anomaly框架,用隔离共享协作实现参数高效微调,介绍任务私有专家PrivLoRA等,实验表明其性能优于现有方法。
从失败中学习:计算机使用代理的推理时自我改进
机构 * Stanford University(斯坦福大学) ; Tsinghua University(清华大学)
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 提出失败驱动的自我改进循环,利用LLM诊断失败模式并生成代码补丁,在OSWorld基准上将OpenCUA-72B模型成功率从42.3%提升至48.9%,无需额外训练成本。
Comments Published in ECCV 2026
多模态大语言模型中基于谱演化引导的令牌剪枝
机构 * School of Software Technology, Zhejiang University(浙江大学软件学院) ; Zhejiang Key Laboratory of Digital-Intelligence Service Technology(浙江省数字化服务技术重点实验室) ; The University of Queensland(昆士兰大学) ; Singapore Management University(新加坡管理大学) ; The University of Southern Queensland(南昆士兰大学)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 提出跨层谱演化(CLSE)框架,通过频域分析令牌表示在Transformer层间的演化来评估重要性,实现无训练剪枝,在保持性能的同时减少计算开销。
Comments Accepted to ECCV 2026
利用先验校正的令牌缩减加速多模态大语言模型
机构 * School of Software Technology, Zhejiang University(浙江大学软件学院) ; Zhejiang Key Laboratory of Digital-Intelligence Service Technology(浙江省数字化服务技术重点实验室) ; Hong Kong Polytechnic University(香港理工大学) ; The University of Southern Queensland(南昆士兰大学)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 提出PriorTR方法,通过分离任务条件注意力与模型先验注意力,在单次前向传播中估计先验并校正令牌重要性,实现无训练令牌缩减,提升多模态大语言模型效率与准确性。
Comments Accepted to ECCV 2026
基于离散扩散的多模态大语言模型中视觉标记冗余的综合研究
机构 * CCDS, NTU, Singapore(南洋理工大学新加坡分校) ; CCST, ZJUT, China(浙江工业大学中国分校) ; Terminus AI Lab, UCAS, China(中国科学院大学人工智能实验室)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 本研究系统分析了离散扩散多模态大语言模型中视觉标记冗余的演化规律,发现其仅出现在从头训练的模型处理长答案任务时,并验证了视觉标记剪枝会导致信息损失,而层跳过和渐进剪枝分别适用于不同架构的加速。
Comments Accepted by CVPR 2026
Journal ref Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Findings, 2026, pp. 2823-2833
超越领域:通过可迁移交互模式重用网络技能
机构 * University of Michigan(密歇根大学) ; Alibaba Group(阿里巴巴集团) ; Purdue University(普渡大学) ; McMaster University(麦克马斯特大学) ; University of Pennsylvania(宾夕法尼亚大学)
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 提出SkillMigrator代理,通过学习可迁移交互模式(TIP)匹配布局结构而非元素引用,实现跨站点技能重用,在WebArena和Mind2Web上成功轨迹的LLM动作数减少8-10%。
Branch-and-Browse:具有树状推理与动作记忆的高效可控网页探索
机构 * University of Michigan(密歇根大学) ; Alibaba Group(阿里巴巴集团) ; McMaster University(麦马斯特大学)
专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 提出Branch-and-Browse框架,通过树状结构化推理、网页状态重放和页面动作记忆,实现LLM网页代理的高效可控多分支探索,在WebArena上成功率35.8%,执行时间降低40.4%。
逐步令牌选择用于高效多模态大语言模型
机构 * Shenzhen University of Advanced Technology(深圳先进技术大学)
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract)
AI总结 提出一种基于指针机制的逐步视觉令牌选择方法,通过可微松弛实现端到端训练,动态决定保留令牌数量,在去除88.9%令牌时保持94.6%准确率并加速1.88倍。