大模型对齐与安全

Sentinel Agents for Secure and Trustworthy Agentic AI in Multi-Agent Systems

Diego Gosmar, Deborah A. Dahl

机构 * Head of AI Tesisquare（Tesisquare人工智能负责人） ； Voiceinteroperability.ai Initiative Member（Voiceinteroperability.ai 创始成员） ； Linux Foundation AI & Data（Linux基金会人工智能与数据） ； AI & Data Torino, TO 10100, Italy（人工智能与数据Torino, TO 10100, Italy） ； Principal Conversational Technologies（对话技术首席专家） ； Plymouth Meeting, Pennsylvania, USA（美国宾夕法尼亚州Plymouth Meeting） 纠错

专题命中 安全评测 ：trustworthy(title)；prompt injection(abstract)；分类 cs.AI

Comments 25 pages, 12 figures

Mouse vs. AI: A Neuroethological Benchmark for Visual Robustness and Neural Alignment

Marius Schneider, Joe Canzano, Jing Peng, Yuchen Hou, Spencer LaVere Smith, Michael Beyeler

专题命中 安全评测 ：alignment(title,abstract)

Friend or Foe: Delegating to an AI Whose Alignment is Unknown

Drew Fudenberg, Annie Liang

专题命中 安全评测 ：alignment(title)

Audited Reasoning Refinement: Fine-Tuning Language Models via LLM-Guided Step-Wise Evaluation and Correction

Sumanta Bhattacharyya, Sara Riazi, Pedram Rooshenas

专题命中 安全评测 ：alignment(abstract)；DPO(abstract)；分类 cs.CL

Dense Video Understanding with Gated Residual Tokenization

Haichao Zhang, Wenhao Chai, Shwai He, Ang Li, Yun Fu

机构 * Northeastern University（东北大学） ； Princeton University（普林斯顿大学） ； University of Maryland（马里兰大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Cross-Modal Knowledge Distillation for Speech Large Language Models

Enzhi Wang, Qicheng Li, Zhiyuan Tang, Yuhang Jia

机构 * TMCC, College of Computer Science, Nankai University, Tianjin, China（TMCC，计算机科学学院，南开大学，天津，中国） ； Tencent Ethereal Audio Lab, Tencent Corporation, Shenzhen, China（腾讯虚实音频实验室，腾讯公司，深圳，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

Statistical Methods in Generative AI

Edgar Dobriban

机构 * Edgar Dobriban 1（Edgar Dobriban） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

Comments Invited review paper for Annual Review of Statistics and Its Application. Feedback welcome

Modular Machine Learning: An Indispensable Path towards New-Generation Large Language Models

Xin Wang, Haoyang Li, Haibo Chen, Zeyang Zhang, Wenwu Zhu

机构 * Department of Computer Science and Technology, BNRist, Tsinghua University（计算机科学与技术系，BNRist，清华大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

Comments 20 pages, 4 figures, 4 tables

A Comparative Analysis of Transformer Models in Social Bot Detection

Rohan Veit, Michael Lones

机构 * Department of Computer Science, Heriot-Watt University（计算机科学系，赫瑞斯学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

Comments To appear in proceedings of UKCI 2025

Deploying UDM Series in Real-Life Stuttered Speech Applications: A Clinical Evaluation Framework

Eric Zhang, Li Wei, Sarah Chen, Michael Wang

机构 * SSHealth Team（SSHealth团队） ； AI for Healthcare Laboratory（人工智能医疗实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

Mechanistic Understanding and Mitigation of Language Confusion in English-Centric Large Language Models

Ercong Nie, Helmut Schmid, Hinrich Schütze

机构 * Center for Information and Language Processing (CIS)（信息与语言处理中心） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

Comments Accepted to EMNLP 2025 Findings

Learning in Context: Personalizing Educational Content with Large Language Models to Enhance Student Learning

Joy Jia Yin Lim, Daniel Zhang-Li, Jifan Yu, Xin Cong, Ye He, Zhiyuan Liu, Huiqin Liu, Lei Hou, Juanzi Li, Bin Xu

专题命中 安全评测 ：trustworthy(abstract)

FMGS-Avatar: Mesh-Guided 2D Gaussian Splatting with Foundation Model Priors for 3D Monocular Avatar Reconstruction

Jinlong Fan, Bingyu Hu, Xingguang Li, Yuxiang Yang, Jing Zhang

机构 * HangZhou Dianzi University（杭州电子大学） ； Shenzhen Polytechnic University（深圳职业技术大学） ； WuHan University（武汉大学） 纠错

专题命中 安全评测 ：alignment(abstract)