大模型对齐与安全

Logical Consistency Between Disagreeing Experts and Its Role in AI Safety

Andrés Corrada-Emmanuel

机构 * Andrés Corrada-Emmanuel（独立研究者） 纠错

专题命中 安全评测 ：safety(title)；AI safety(title)；分类 cs.AI

Comments 10 pages, 7 figures

Is Model Editing Built on Sand? Revealing Its Illusory Success and Fragile Foundation

Wei Liu, Haomei Xu, Bingqing Liu, Zhiying Deng, Haozhao Wang, Jun Wang, Ruixuan Li, Yee Whye Teh, Wee Sun Lee

机构 * National University of Singapore（新加坡国立大学） ； Huazhong University of Science and Technology（华中科技大学） ； Central China Normal University（中国地质大学） ； iWudao Tech（iWudao科技） ； Oxford（牛津大学） ； Google Deepmind（谷歌DeepMind） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

Comments This is a work in progress. Comments and suggestions are welcome

TDBench: A Benchmark for Top-Down Image Understanding with Reliability Analysis of Vision-Language Models

Kaiyuan Hou, Minghui Zhao, Lilin Xu, Yuang Fan, Xiaofan Jiang

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AttentionDep: Domain-Aware Attention for Explainable Depression Severity Assessment

Yusif Ibrahimov, Tarique Anwar, Tommy Yuan, Turan Mutallimov, Elgun Hasanov

机构 * Department of Computer Science, University of York（约克大学计算机科学系） ； French-Azerbaijani University under Azerbaijan State Oil and Industry University（阿塞拜疆国家石油和工业大学下的法阿大学） ； School of Computing Technologies, RMIT University（皇家墨尔本理工大学计算技术学院） ； Department of Engineering, University of Aberdeen（阿伯丁大学工程系） ； École Polytechnique, Institut Polytechnique de Paris（巴黎理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

o-MEGA: Optimized Methods for Explanation Generation and Analysis

Ľuboš Kriš, Jaroslav Kopčan, Qiwei Peng, Andrej Ridzik, Marcel Veselý, Martin Tamajka

机构 * Kempelen Institute of Intelligent Technologies（基姆佩尔智能技术研究所） ； University of Copenhagen（哥本哈根大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

Learning Human-Perceived Fakeness in AI-Generated Videos via Multimodal LLMs

Xingyu Fu, Siyi Liu, Yinuo Xu, Pan Lu, Guangqiuse Hu, Tianbo Yang, Taran Anantasagar, Christopher Shen, Yikai Mao, Yuanzhe Liu, Keyush Shah, Chung Un Lee, Yejin Choi, James Zou, Dan Roth, Chris Callison-Burch

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

Comments Project Page: https://deeptracereward.github.io/

Uncovering the Computational Ingredients of Human-Like Representations in LLMs

Zach Studdiford, Timothy T. Rogers, Kushin Mukherjee, Siddharth Suresh

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

Comments 9 pages

Fast, Secure, and High-Capacity Image Watermarking with Autoencoded Text Vectors

Gautier Evennou, Vivien Chappelier, Ewa Kijak

机构 * IRISA, Univ. Rennes, CNRS（IRISA、里昂大学、CNRS） ； Imatag ； LABEL4.AI 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

Comments Preprint

Collaborative-Distilled Diffusion Models (CDDM) for Accelerated and Lightweight Trajectory Prediction

Bingzhang Wang, Kehua Chen, Yinhai Wang

机构 * Department of Civil and Environmental Engineering, University of Washington（华盛顿大学土木与环境工程系） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

What Did I Learn? Operational Competence Assessment for AI-Based Trajectory Planners

Michiel Braat, Maren Buermann, Marijke van Weperen, Jan-Pieter Paardekooper

机构 * Netherlands Organisation for Applied Scientific Research（荷兰应用科学研究院） ； Integrated Vehicle Safety Group（集成车辆安全组） ； Radboud University（拉德堡德大学） ； Donders Institute for Brain, Cognition and Behaviour（多纳尔斯脑、认知与行为研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

Comments Accepted for publication in proceedings of the 2025 IEEE International Automated Vehicle Validation Conference

Which Programming Language and Model Work Best With LLM-as-a-Judge For Code Retrieval?

Lucas Roberts, Denisa Roberts

机构 * Independent Researcher（独立研究者） ； New York University（纽约大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

Comments Accepted as a full paper at SIGIR-AP 2025

Intelligent 5S Audit: Application of Artificial Intelligence for Continuous Improvement in the Automotive Industry

Rafael da Silva Maciel, Lucio Veraldo

机构 * Institute of Science and Technology（科学与技术研究所） ； Federal University of São Paulo（圣保罗联邦大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

Comments 8 pages, 5 figures, 5 tables

Autonomous Multi-Robot Infrastructure for AI-Enabled Healthcare Delivery and Diagnostics

Nakhul Kalaivanan, Senthil Arumugam Muthukumaraswamy, Girish Balasubramanian

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

Comments 11 pages, 5 figures, MSc dissertation submission draft, prepared for conference/journal consideration

What if Othello-Playing Language Models Could See?

Xinyi Chen, Yifei Yuan, Jiaang Li, Serge Belongie, Maarten de Rijke, Anders Søgaard

机构 * University of Amsterdam（阿姆斯特丹大学） ； ETH Zürich（苏黎世联邦理工学院） ； University of Copenhagen（哥本哈根大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

Comments ICML 2025 Assessing World Models Workshop; EMNLP 2025 Findings

Opal: A Modular Framework for Optimizing Performance using Analytics and LLMs

Mohammad Zaeed, Tanzima Z. Islam, Vladimir Inđić

专题命中 安全评测 ：trustworthy(abstract)

Comments 12 pages and 6 figures

Rethinking Wine Tasting for Chinese Consumers: A Service Design Approach Enhanced by Multimodal Personalization

Xinyang Shan, Yuanyuan Xu, Tian Xia, Yinshan Lin

专题命中 安全评测 ：alignment(abstract)

Quantifying Semantic Shift in Financial NLP: Robust Metrics for Market Prediction Stability

Zhongtian Sun, Chenghao Xiao, Anoushka Harit, Jongmin Yu

专题命中 安全评测 ：alignment(abstract)

Comments The 6th ACM International Conference on Al in Finance

AgenticIQA: An Agentic Framework for Adaptive and Interpretable Image Quality Assessment

Hanwei Zhu, Yu Tian, Keyan Ding, Baoliang Chen, Bolin Chen, Shiqi Wang, Weisi Lin

机构 * Nanyang Technological University（南洋理工大学） ； Nanjing University of Information Science and Technology（南京信息工程大学） ； Zhejiang University（浙江大学） ； South China Normal University（华南师范大学） ； Alibaba DAMO Academy（阿里巴巴达摩院） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：alignment(abstract)

Heterogeneous Predictor-based Risk-Aware Planning with Conformal Prediction in Dense, Uncertain Environments

Jeongyong Yang, KwangBin Lee, SooJean Han

机构 * School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)（电气工程学院，韩国科学技术院） 纠错

专题命中 安全评测 ：safety(abstract)