大模型对齐与安全

Investigating CoT Monitorability in Large Reasoning Models

探究大型推理模型中的CoT可监控性

Shu Yang, Junchao Wu, Xilin Gong, Xuansheng Wu, Derek Wong, Ninghao Liu, Di Wang

机构 * Provable Responsible AI and Data Analytics (PRADA) Lab（可证明负责任的人工智能与数据分析师实验室） ； King Abdullah University of Science and Technology（卡布斯大学） ； University of Georgia（佐治亚大学） ； University of Macau（澳门大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 本文探讨了大型推理模型中CoT可监控性的挑战与潜力，提出MoME范式以通过CoT监控其他模型的误行并提供结构化判断。

PartisanLens: A Multilingual Dataset of Hyperpartisan and Conspiratorial Immigration Narratives in European Media

PartisanLens: 一种多语言的欧洲媒体中极偏见和阴谋论移民叙述数据集

Michele Joshua Maggini, Paloma Piot, Anxo Pérez, Erik Bran Marino, Lúa Santamaría Montesinos, Ana Lisboa, Marta Vázquez Abuín, Javier Parapar, Pablo Gamallo

机构 * Centro Singular de Investigación en Tecnoloxías Intelixentes da USC（乌拉特大学智能技术研究中心） ； IRLab, CITIC Research Centre, Universidade da Coruña（IR实验室，CITIC研究中心，科鲁纳大学） ； Universidade de Évora（埃夫拉大学） ； Universidad de La Rioja（里瓦达维亚大学） ； GESIS Leibniz Institute for the Social Sciences（莱比锡社会科学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 PartisanLens 是首个多语言数据集，用于研究欧洲媒体中的极偏见和阴谋论移民叙述，评估LLMs在分类和标注中的表现。