Large Reasoning Models Learn Better Alignment from Flawed Thinking
大规模推理模型通过 flawed thinking 学习更好的对齐
机构 * Meta Superintelligence Labs(Meta超级智能实验室) ; IBM Research(IBM研究院)
AI总结 RECAP通过强化学习提升模型安全对齐能力,减少偏见并增强鲁棒性,同时保持推理效率。
大厂专区
大规模推理模型通过 flawed thinking 学习更好的对齐
机构 * Meta Superintelligence Labs(Meta超级智能实验室) ; IBM Research(IBM研究院)
AI总结 RECAP通过强化学习提升模型安全对齐能力,减少偏见并增强鲁棒性,同时保持推理效率。
作为条件的注意力:经典学习理论对线性Transformer的预测
机构 * Meta Platforms, Inc.(Meta公司)
AI总结 该研究将线性Transformer的注意力机制与经典动物学习理论模型对应,推导卡明阻塞闭式解,发现不同注意力的线索竞争差异及容量机制,提出PH-注意力规则。