Fantastic Reasoning Behaviors and Where to Find Them: Unsupervised Discovery of the Reasoning Process
非凡的推理行为及其发现位置:无监督发现推理过程
机构 * The University of Texas at Austin(德克萨斯大学奥斯汀分校) ; Google DeepMind(谷歌DeepMind)
专题命中 复杂问题求解 :reasoning(title,abstract);chain-of-thought(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本研究提出无监督框架RISE,通过稀疏自编码器发现LLM推理行为,揭示可解释的推理特征并控制推理轨迹。