大模型对齐与安全

HumanAgencyBench: Scalable Evaluation of Human Agency Support in AI Assistants

Benjamin Sturgeon, Daniel Samuelson, Jacob Haimes, Jacy Reese Anthis

机构 * Apart Research ； AI Safety Cape Town ； University of Chicago（芝加哥大学） ； Stanford University（斯坦福大学） ； Sentience Institute（意识研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；RLHF(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.CY

Scaling Truth: The Confidence Paradox in AI Fact-Checking

Ihsan A. Qazi, Zohaib Khan, Abdullah Ghani, Agha A. Raza, Zafar A. Qazi, Wassay Sajjad, Ayesha Ali, Asher Javaid, Muhammad Abdullah Sohail, Abdul H. Azeemi

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments 65 pages, 26 figures, 6 tables

Send to which account? Evaluation of an LLM-based Scambaiting System

Hossein Siadati, Haadi Jafarian, Sima Jafarikhah

机构 * AI Research, Cybera Global Inc./ UNCW（AI研究、Cybera全球公司/UNCW） ； Department of Computer Science and Engineering, UC Denver（计算机科学与工程系，UC Denver） ； Department of Computer Science, UNCW（计算机科学系，UNCW） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

REGen: A Reliable Evaluation Framework for Generative Event Argument Extraction

Omar Sharif, Joseph Gatto, Madhusudan Basak, Sarah M. Preum

机构 * Department of Computer Science, Dartmouth College（计算机科学系，达特茅斯学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

Comments Accepted at EMNLP-2025

Enhancing 6G Network Security and Incident Response through Integrated VNF and SDN Technologies

Abdul Razaque, Abitkhanova Zhadyra Abitkhanovna

专题命中 安全评测 ：safety(abstract)

Comments 14 page, 10 Figures

A Comprehensive Review of Reinforcement Learning for Autonomous Driving in the CARLA Simulator

Elahe Delavari, Feeza Khan Khanzada, Jaerock Kwon

专题命中 安全评测 ：safety(abstract)