Beyond Memorization: Testing LLM Reasoning on Unseen Theory of Computation Tasks
超越记忆:在未见的计算理论任务上测试LLM推理能力
机构 * Ahmedabad University Gujarat, India(古吉拉特邦阿赫迈德亚布大学) ; University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
专题命中 代码与定理证明 :reasoning(title,abstract);chain-of-thought(abstract);分类 cs.CL、cs.AI
AI总结 本文通过构建DFA基准测试,揭示LLM在未见计算理论任务上的推理缺陷,发现其在处理复杂约束和语义一致性时存在系统性不足。
Comments 30 pages, 11 figures, 6 tables, Work in Progress