Causal Reasoning Favors Encoders: On The Limits of Decoder-Only Models
因果推理更青睐编码器:关于解码器-only模型极限的探讨
机构 * SIRE, IIT Delhi(IIT德里SIRE) ; Robert Bosch GmbH, India(印度罗伯特博世集团) ; IIIT Hyderabad(海得拉巴IIIT) ; IISER Kolkata(科钦IISER) ; Microsoft and the University of York(微软和约克大学)
专题命中 其他推理 :reasoning(title,abstract);分类 cs.CL、cs.LG
AI总结 本文探讨了因果推理中编码器和编码器-解码器架构相较于仅解码器模型的优势,发现前者在多跳联合推理和分布偏移鲁棒性方面表现更优。