Hybrid Verified Decoding: Learning to Allocate Verification in Speculative Decoding
混合验证解码:在推测解码中学习分配验证
机构 * Thoughtworks ; Nvidia
专题命中 其他Agent :agentic(abstract);分类 cs.AI、cs.CL
AI总结 提出混合验证解码方法,通过预测缓存草稿的接受长度并在缓存验证与模型草稿之间动态选择,在代理工作流中平均加速2.73倍。
AI 大模型
智能体、工具调用、规划、工作流、多智能体和自主任务执行。
混合验证解码:在推测解码中学习分配验证
机构 * Thoughtworks ; Nvidia
专题命中 其他Agent :agentic(abstract);分类 cs.AI、cs.CL
AI总结 提出混合验证解码方法,通过预测缓存草稿的接受长度并在缓存验证与模型草稿之间动态选择,在代理工作流中平均加速2.73倍。
处处学习:具有逐点约束的人工智能
机构 * Department of Electrical and Systems Engineering, University of Pennsylvania(宾夕法尼亚大学电气与系统工程系) ; École polytechnique, Institut Polytechnique de Paris(巴黎理工学院)
专题命中 其他Agent :agentic(abstract);分类 cs.LG
AI总结 提出“处处学习”新范式,通过近似对偶理论分析泛化性能,并用稀疏L1惩罚控制泛化,在语言模型任务中验证其优势。
移动查询,而非缓存:跨GPU结构中的跨实例潜在注意力再分布特征
专题命中 其他Agent :agentic(abstract);分类 cs.AI
AI总结 本研究通过真实多节点H100集群实验,刻画了多头部潜在注意力(MLA)在跨实例场景下的性能特征,提出了拓扑感知成本模型和路由/获取/本地谓词,证明在多数情况下路由查询比移动缓存更高效。
从前沿AI到影子AI:对关键基础设施保障与安全的潜伏威胁
专题命中 其他Agent :agentic(abstract)
AI总结 本研究通过访谈澳大利亚27家关键基础设施组织的高管,首次实证分析了影子AI在关键基础设施中的表现、风险及安全退化机制,提出了边界绕过、未评估能力扩展和治理规避三种威胁模型。
Comments 21 pages, 2 figures, 2 tables, paper under review
超越炒作:映射AI助手使用中的不确定性和满足感
专题命中 其他Agent :agentic(abstract)
AI总结 通过早期采用者访谈,研究AI助手使用中的功能性、关系性和形而上学不确定性,发现用户最满意的使用方式是用户策划的窄工具组合而非独立“第二自我”。