Too Good to be Bad: On the Failure of LLMs to Role-Play Villains
机构 * Tencent（腾讯）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 安全评测 13 篇
FAIRPLAI: A Human-in-the-Loop Approach to Fair and Private Machine Learning
机构 * Dept. of Computer Science, The University of Texas at El Paso（得克萨斯大学埃尔帕索分校计算机科学系） ； Dept. of Mathematics, Mountain View High School（山景高中数学系） ； Dept. of Mathematics, El Paso Independent School District（埃尔帕索独立学区数学系）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY、cs.LG
MM-CRITIC: A Holistic Evaluation of Large Multimodal Models as Multimodal Critique
机构 * Hong Kong Baptist University（香港 Baptist 大学） ； Beijing Normal-Hong Kong Baptist University（北京师范大学-香港 Baptist 大学） ； National University of Singapore（新加坡国立大学） ； Beijing Normal University（北京师范大学） ； Shanghai Jiao Tong University（上海交通大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
Comments 28 pages, 14 figures, 19 tables
ElicitationGPT: Text Elicitation Mechanisms via Language Models
机构 * Microsoft Research（微软研究院） ； Northwestern University（西北大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
BronchOpt : Vision-Based Pose Optimization with Fine-Tuned Foundation Models for Accurate Bronchoscopy Navigation
机构 * Johnson & Johnson MedTech（强生医疗科技）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
ReliableMath: Benchmark of Reliable Mathematical Reasoning on Large Language Models
机构 * The Chinese University of Hong Kong（香港中文大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； The University of Hong Kong（香港大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
Comments under review
Detecting Stealthy Backdoor Samples based on Intra-class Distance for Large Language Models
机构 * Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing（未来区块链与隐私计算先进创新中心） ； Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
Comments EMNLP2025Findings
IFEval-Audio: Benchmarking Instruction-Following Capability in Audio-based Large Language Models
机构 * Nanyang Technological University (NTU)（南洋理工大学） ； MiroMind（米罗Mind） ； Institute for Infocomm Research (I 2 R)（信息与通信研究院） ； A*STAR（科技研究局）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
Comments Link: https://github.com/AudioLLMs/AudioBench/tree/main/IFEval-Audio
LExT: Towards Evaluating Trustworthiness of Natural Language Explanations
机构 * Centre for Responsible AI, IIT Madras（责任人工智能中心，IIT马德拉斯）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
Bio AI Agent: A Multi-Agent Artificial Intelligence System for Autonomous CAR-T Cell Therapy Development with Integrated Target Discovery, Toxicity Prediction, and Rational Molecular Design
机构 * Bio LIMS INC（Bio LIMS公司）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
Comments 12 pages, 0 figures
Evaluating Deep Unlearning in Large Language Models
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
RL-U$^2$Net: A Dual-Branch UNet with Reinforcement Learning-Assisted Multimodal Feature Fusion for Accurate 3D Whole-Heart Segmentation
专题命中 安全评测 ：alignment(abstract)
Multi-scale Cascaded Foundation Model for Whole-body Organs-at-risk Segmentation
机构 * School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（人工智能与自动化学院，华中科技大学） ； Institute of Artificial Intelligence, Huazhong University of Science and Technology（人工智能研究院，华中科技大学） ； Hubei Key Laboratory of Brain-Inspired Intelligent Systems, Huazhong University of Science and Technology（湖北省脑启发智能系统重点实验室，华中科技大学） ； Key Laboratory of Image Processing and Intelligent Control (Huazhong University of Science and Technology), Ministry of Education（图像处理与智能控制重点实验室（华中科技大学），教育部） ； Key Laboratory of Intelligent Computing and Signal Processing, Ministry of Education, Anhui University（智能计算与信号处理重点实验室（安徽大学），教育部） ； College of Computing and Data Science (CCDS), Nanyang Technological University（计算与数据科学学院（CCDS），南洋理工大学） ； East China University of Science and Technology（东华大学）
专题命中 安全评测 ：safety(abstract)
