Scaling Properties of Continuous Diffusion Spoken Language Models
连续扩散口语语言模型的可扩展性特性
机构 * Apple(苹果公司)
AI总结 本文研究连续扩散口语语言模型在性能上的可扩展性,提出基于音素Jensen-Shannon散度的评估指标,发现其在参数规模增加时生成质量提升,但长文本连贯性仍面临挑战。
大厂专区
连续扩散口语语言模型的可扩展性特性
机构 * Apple(苹果公司)
AI总结 本文研究连续扩散口语语言模型在性能上的可扩展性,提出基于音素Jensen-Shannon散度的评估指标,发现其在参数规模增加时生成质量提升,但长文本连贯性仍面临挑战。
几何保持损失函数促进黑盒生成模型的改进适应
机构 * Geometric Media Lab(几何媒体实验室) ; Arizona State University(亚利桑那州立大学) ; Department of Statistics(统计学系) ; Florida State University(佛罗里达州立大学) ; Department of Computer Science and Engineering(计算机科学与工程系) ; Seoul National University of Science and Technology(首尔科学技术大学) ; Amazon(亚马逊) ; Apple Inc.(苹果公司)
AI总结 本文提出基于几何保持损失函数的端到端管道,用于改进黑盒生成模型的领域适应,通过重新上下文化GAN反向过程来获得准确的潜在空间表示。
PhySE: 一种用于实时AR-LLM社会工程攻击的心理学框架
机构 * Hubei University(湖北大学) ; Apple Inc(苹果公司) ; Huazhong University of Science and Technology(华中科技大学)
AI总结 PhySE通过视觉语言模型的社会上下文训练和自适应心理代理,解决AR-LLM社会工程攻击中的冷启动个性化和静态攻击策略问题,提升实时交互效果。
大语言模型函数调用的不确定性量化
机构 * University of Oxford(牛津大学) ; Apple(苹果公司)
AI总结 本文研究了大语言模型函数调用中不确定性量化的关键问题,发现多样本方法在自然语言问答中表现优异,但在函数调用场景中不如单样本方法有效,并提出利用函数调出输出特性改进现有方法。
随机KV路由:实现自适应深度-wise缓存共享
机构 * Apple(苹果公司)
AI总结 本文提出通过随机跨层注意力机制实现高效的深度-wise缓存共享,减少内存占用并提升推理效率。