大模型推理能力

Large Language Models Encode Semantics and Alignment in Linearly Separable Representations

大语言模型在线性可分的表示中编码语义和对齐

Baturay Saglam, Paul Kassianik, Blaine Nelson, Sajana Weerawardhena, Yaron Singer, Amin Karbasi

机构 * Yale University（耶鲁大学） ； Foundation AI – Cisco Systems Inc（Foundation AI – 卡西欧系统公司） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本研究发现大语言模型通过线性可分的表示编码语义和对齐，提出基于潜在空间的MLP探测器有效提升安全防护。

Comments IJCNLP and the Asian Chapter of ACL

Designing AI-Resilient Assessments Using Interconnected Problems: A Theoretically Grounded and Empirically Validated Framework

利用互联问题设计AI鲁棒评估：一种理论严谨且经验证实的框架

Kaihua Ding

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出了一种理论严谨且经验证实的框架，通过设计互联问题来提高评估的AI鲁棒性，挑战了开放性评估的鲁棒性假设，并提供了实证支持和实用设计方法。

Comments 8 pages, 3 figures and 3 tables, under submission to IEEE FIE