In-Context Collapse in Vision-Language Models and How to Mitigate it?
视觉语言模型中的上下文坍缩及其缓解方法
机构 * Amazon Generative AI Innovation Center(亚马逊生成式AI创新中心)
AI总结 本文发现视觉语言模型存在随演示增多的上下文坍缩问题,通过因果定位将其归因于视觉-语言整合通路,提出CircA干预方法可有效缓解该问题并实现抗坍缩能力迁移。
大厂专区
视觉语言模型中的上下文坍缩及其缓解方法
机构 * Amazon Generative AI Innovation Center(亚马逊生成式AI创新中心)
AI总结 本文发现视觉语言模型存在随演示增多的上下文坍缩问题,通过因果定位将其归因于视觉-语言整合通路,提出CircA干预方法可有效缓解该问题并实现抗坍缩能力迁移。
符号感知门控稀疏自编码器:使用Bi-Jump-ReLU激活函数建模反相关特征
机构 * Amazon Web Services(亚马逊网络服务)
AI总结 提出符号感知门控稀疏自编码器(SA-GSAE),通过双面门控稀疏性、符号幅度路径和辅助重构,利用Bi-Jump-ReLU激活实现双极性共享,在保持参数效率的同时,在多个LLM激活点上优于标准门控SAE。
Lean Refactor: 通过代理策略搜索实现多目标可控的证明优化
机构 * Simon Fraser University(西蒙弗雷泽大学) ; Amazon Web Services(亚马逊网络服务) ; MiroMind ; University of Texas at Austin(德克萨斯大学奥斯汀分校)
AI总结 本文提出Lean Refactor框架,通过检索增强的代理策略搜索,解决多目标、可控和版本鲁棒的Lean证明重构问题,主要贡献是通过预注释的多目标重构策略数据库实现高效的证明优化。