大模型对齐与安全

Trustworthy Medical Question Answering: An Evaluation-Centric Survey

Yinuo Wang, Baiyang Wang, Robert E. Mercer, Frank Rudzicz, Sudipta Singha Roy, Pengjie Ren, Zhumin Chen, Xindi Wang

机构 * Shandong University（山东大学） ； University of Western Ontario（西方大学） ； Dalhousie University（达尔豪斯大学） ； University of Toronto（多伦多大学） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；alignment(abstract)；safety(abstract)；分类 cs.CL

Comments accepted to EMNLP 2025

Trustworthy AI Must Account for Interactions

Jesse C. Cresswell

机构 * Jesse C. Cresswell（独立研究者） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI、cs.LG；alignment(comments)

Comments Presented at the ICLR 2025 Workshop on Bidirectional Human-AI Alignment

A DbC Inspired Neurosymbolic Layer for Trustworthy Agent Design

Claudiu Leoveanu-Condrei

机构 * ExtensityAI 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI、cs.LG

Comments 4 pages, 1 figure

Portal UX Agent -- A Plug-and-Play Engine for Rendering UIs from Natural Language Specifications

Xinsong Li, Ning Jiang, Jay Selvaraj

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)

ChartAB: A Benchmark for Chart Grounding & Dense Alignment

Aniruddh Bansal, Davit Soselia, Dang Nguyen, Tianyi Zhou

机构 * University of Maryland, College Park（马里兰大学学院公园分校） 纠错

专题命中 安全评测 ：alignment(title)

ConTextTab: A Semantics-Aware Tabular In-Context Learner

Marco Spinaci, Marek Polewczyk, Maximilian Schambach, Sam Thelin

机构 * SAP France（SAP法国分公司） ； SAP SE（SAP德国分公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

Comments Accepted as spotlight at NeurIPS 2025

Adversarial Distilled Retrieval-Augmented Guarding Model for Online Malicious Intent Detection

Yihao Guo, Haocheng Bian, Liutong Zhou, Ze Wang, Zhaoyi Zhang, Francois Kawala, Milan Dean, Ian Fischer, Yuantao Peng, Noyan Tokgozoglu, Ivan Barrientos, Riyaaz Shaik, Rachel Li, Chandru Venkataraman, Reza Shifteh Far, Moses Pawar, Venkat Sundaranatha, Michael Xu, Frank Chu

机构 * Apple（苹果公司） ； Cohere（Cohere公司） ； DeepMind（深度思维公司） ； Meta ； MongoDB（MongoDB公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

WindMiL: Equivariant Graph Learning for Wind Loading Prediction

Themistoklis Vargiemezis, Charilaos Kanatsoulis, Catherine Gorlé

机构 * Department of Civil & Environmental Engineering, Stanford, CA, USA（土木与环境工程系，斯坦福大学） ； Department of Computer Science, Stanford, CA, USA（计算机科学系，斯坦福大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

Engineering.ai: A Platform for Teams of AI Engineers in Computational Design

Ran Xu, Yupeng Qi, Jingsen Feng, Xu Chu

机构 * Faculty for Aerospace Engineering and Geodesy, University of Stuttgart, Stuttgart, Germany（航空航天工程与大地测量学系，斯图加特大学） ； Cluster of Excellence SimTech, University of Stuttgart, Stuttgart, Germany（卓越中心SimTech，斯图加特大学） ； Faculty of Environment, Science and Economy, University of Exeter, Exeter EX4 4QF, United Kingdom（环境、科学与经济学院，埃克塞特大学） ； University of Stuttgart, Stuttgart, Germany（斯图加特大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

GreekBarBench: A Challenging Benchmark for Free-Text Legal Reasoning and Citations

Odysseas S. Chlapanis, Dimitrios Galanis, Nikolaos Aletras, Ion Androutsopoulos

机构 * Department of Informatics, Athens University of Economics and Business（信息学院，雅典经济与商业大学） ； Archimedes, Athena Research Center（阿提卡研究中心-阿基米德） ； Athena Research Center（阿提卡研究中心） ； University of Sheffield（谢菲尔德大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

Comments 19 pages, 17 figures, accepted in EMNLP 2025

AlignVLM: Bridging Vision and Language Latent Spaces for Multimodal Document Understanding

Ahmed Masry, Juan A. Rodriguez, Tianyu Zhang, Suyuchen Wang, Chao Wang, Aarash Feizi, Akshay Kalkunte Suresh, Abhay Puri, Xiangru Jian, Pierre-André Noël, Sathwik Tejaswi Madhusudhan, Marco Pedersoli, Bang Liu, Nicolas Chapados, Yoshua Bengio, Enamul Hoque, Christopher Pal, Issam H. Laradji, David Vazquez, Perouz Taslakian, Spandana Gella, Sai Rajeswar

机构 * ServiceNow ； York University（约克大学） ； Mila – Quebec AI Institute（魁北克人工智能研究院） ； École de Technologie Supérieure（魁北克高等技术学院） ； Université de Montréal（蒙特利尔大学） ； McGill University（麦吉尔大学） ； University of Waterloo（滑铁卢大学） ； CIFAR AI Chair（CIFAR人工智能 chair） ； Polytechnique Montréal（蒙特利尔理工学院） ； University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

Towards LLM-Powered Task-Aware Retrieval of Scientific Workflows for Galaxy

Shamse Tasnim Cynthia, Banani Roy

专题命中 安全评测 ：alignment(abstract)

Aligning Speech to Languages to Enhance Code-switching Speech Recognition

Hexin Liu, Xiangyu Zhang, Haoyang Zhang, Leibny Paola Garcia, Andy W. H. Khong, Eng Siong Chng, Shinji Watanabe

专题命中 安全评测 ：alignment(abstract)

Comments Accepted to IEEE Trans. Audio Speech Lang. Process., copyright has been transferred to IEEE

Unveiling Uniform Shifted Power Law in Stochastic Human and Autonomous Driving Behavior

Wang Chen, Heye Huang, Ke Ma, Hangyu Li, Shixiao Liang, Hang Zhou, Xiaopeng Li

专题命中 安全评测 ：safety(abstract)

CueBench: Advancing Unified Understanding of Context-Aware Video Anomalies in Real-World

Yating Yu, Congqi Cao, Zhaoying Wang, Weihua Meng, Jie Li, Yuxin Li, Zihao Wei, Zhongpei Shen, Jiajun Zhang

专题命中 安全评测 ：safety(abstract)

Semantic-Aware Representation Learning via Conditional Transport for Multi-Label Image Classification

Ren-Dong Xie, Zhi-Fen He, Bo Li, Bin Liu, Jin-Yan Hu

机构 * School of Mathematics and Information Science（数学与信息科学学院） ； Key Laboratory of Jiangxi Province for Image Processing and Pattern Recognition（江西省图像处理与模式识别重点实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments The paper is under consideration at Pattern Recognition Letters