大模型对齐与安全

Safe in the Future, Dangerous in the Past: Dissecting Temporal and Linguistic Vulnerabilities in LLMs

未来安全，过去危险：剖析大语言模型中的时间与语言脆弱性

Muhammad Abdullahi Said, Muhammad Sammani Sani

机构 * African Institute for Mathematical Science（非洲数学科学研究所） ； University of Vienna（维也纳大学） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 研究发现大语言模型在不同语言和时间框架下存在显著安全差异，提出不变对齐以提升跨语言和时间的稳定性。

Hán Dān Xué Bù (Mimicry) or Qīng Chū Yú Lán (Mastery)? A Cognitive Perspective on Reasoning Distillation in Large Language Models

模仿（Mimicry）还是精通（Mastery）？从认知视角看大语言模型中的推理蒸馏

Yueqing Hu, Xinyang Peng, Shuting Peng, Hanqi Wang, Tianhong Wang

机构 * School of Philosophy, Anhui University（安徽大学哲学学院） ； Institute of Neuroscience, Chinese Academy of Sciences（中国科学院神经科学研究所） ； Faculty of Education, University of Cambridge（剑桥大学教育学院） ； School of Foreign Studies, South China Normal University（华南师范大学外语学院） ； Division of Psychology and Language Sciences, University College London（伦敦大学学院心理学与语言科学系） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 从认知视角研究大语言模型推理蒸馏，发现其导致功能对齐崩溃，揭示人类样样的认知是主动强化的涌现属性而非被动模仿。

Comments 7 pages, 7 figures

AI red-teaming is a sociotechnical problem: on values, labor, and harms

AI红队测试是社会技术问题：关于价值观、劳动与危害

Tarleton Gillespie, Ryland Shaw, Mary L. Gray, Jina Suh

机构 * Microsoft Research（微软研究院） ； University of Southern California（南加州大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨AI红队测试作为社会技术问题的重要性，强调需跨学科合作以理解其价值观、劳动及影响，避免重复历史错误。

Comments 10 pages

From Actions to Words: Towards Abstractive-Textual Policy Summarization in RL

从动作到词语：迈向强化学习中基于抽象文本的策略摘要

Sahar Admoni, Assaf Hallak, Yftah Ziser, Omer Ben-Porat, Ofra Amir

机构 * Nvidia Research（英伟达研究） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.LG

AI总结 SySLLM通过将策略解释转化为语言生成问题，利用大型语言模型生成连贯的摘要，以解释复杂强化学习行为。

Comments In Proceedings of AAMAS 2026 (The 25th International Conference on Autonomous Agents and Multi-Agent Systems)

Optimizing Path Planning using Deep Reinforcement Learning for UGVs in Precision Agriculture

利用深度强化学习优化无人机在精准农业中的路径规划

Laukik Patade, Rohan Rane, Sandeep Pillai

机构 * Sardar Patel Institute of Technology（萨达尔·帕特尔技术学院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本研究利用深度强化学习优化无人机在精准农业中的路径规划，通过DDPG和TD3算法在动态环境中实现高成功率的导航。

Constitutional Classifiers++: Efficient Production-Grade Defenses against Universal Jailbreaks

宪法分类器++：高效生产级防御对抗通用劫持攻击

Hoagy Cunningham, Jerry Wei, Zihan Wang, Andrew Persic, Alwin Peng, Jordan Abderrachid, Raj Agarwal, Bobby Chen, Austin Cohen, Andy Dau, Alek Dimitriev, Rob Gilson, Logan Howard, Yijin Hua, Jared Kaplan, Jan Leike, Mu Lin, Christopher Liu, Vladimir Mikulik, Rohit Mittapalli, Clare O'Hara, Jin Pan, Nikhil Saxena, Alex Silverstein, Yue Song, Xunjie Yu, Giulio Zhou, Ethan Perez, Mrinank Sharma

专题命中 安全训练 ：jailbreak(abstract)；分类 cs.AI

AI总结 宪法分类器++通过高效算法和两阶段分类器流水线，实现生产级防御，大幅降低计算成本并保持高鲁棒性。

Aligning Text, Code, and Vision: A Multi-Objective Reinforcement Learning Framework for Text-to-Visualization

对齐文本、代码和视觉：一种多目标强化学习框架用于文本到可视化

Mizanur Rahman, Mohammed Saidul Islam, Md Tahmid Rahman Laskar, Shafiq Joty, Enamul Hoque

机构 * York University（约克大学） ； Salesforce AI Research（Salesforce人工智能研究） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出RL-Text2Vis框架，通过多目标强化学习提升文本到可视化的准确性和代码执行率。

Comments Accepted to EACL Main Conference

Autonomous Reasoning for Spacecraft Control: A Large Language Model Framework with Group Relative Policy Optimization

自主推理的航天器控制：一种基于大语言模型的框架与群体相对策略优化

Amit Jain, Richard Linares

机构 * Department of Aeronautics \& Astronautics Massachusetts Institute of Technology Cambridge, MA 02139 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一种基于大语言模型和群体相对策略优化的自主推理航天器控制框架，通过两阶段训练方法生成可解释的控制策略，适用于复杂动态系统。