大模型对齐与安全

Learning Noise-Resilient and Transferable Graph-Text Alignment via Dynamic Quality Assessment

Yuhang Liu, Minglai Shao, Zengyi Wo, Yunlong Chu, Bing Hao, Shengzhong Liu, Ruijie Wang, Jianxin Li

机构 * School of New Media and Communication, Tianjin University（新媒体与传播学院，天津大学） ； Baidu（百度） ； Shanghai Jiao Tong University（上海交通大学） ； School of Computer Science and Engineering, Beihang University（计算机科学与工程学院，北航） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.LG

Training-Free Label Space Alignment for Universal Domain Adaptation

Dujin Lee, Sojung An, Jungmyung Wi, Kuniaki Saito, Donghyun Kim

机构 * Department of Artificial Intelligence, Korea University（人工智能系，韩国大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI

Comments 22 pages, 12 figures

Subliminal Corruption: Mechanisms, Thresholds, and Interpretability

Reya Vir, Sarvesh Bhatnagar

机构 * Department of Computer Science, Columbia University, New York, NY, USA（哥伦比亚大学计算机科学系） ； Department of Computer Science（计算机科学系） ； Engineering, University of Michigan, MI, USA（密歇根大学工程学院） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.LG

Integrating Transparent Models, LLMs, and Practitioner-in-the-Loop: A Case of Nonprofit Program Evaluation

Ji Ma, Albert Casella

机构 * LBJ School of Public Affairs, The University of Texas at Austin（德克萨斯大学奥斯汀分校劳伦斯·伯克曼公共事务学院） ； Gradel Institute of Charity, University of Oxford（牛津大学格拉德利慈善研究所） ； Michael & Susan Dell Foundation（迈克尔与苏珊·德尔基金会） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY、cs.LG

MLR-Bench: Evaluating AI Agents on Open-Ended Machine Learning Research

Hui Chen, Miao Xiong, Yujie Lu, Wei Han, Ailin Deng, Yufei He, Jiaying Wu, Yibo Li, Yue Liu, Bryan Hooi

机构 * National University of Singapore（新加坡国立大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 49 pages, 9 figures. Accepted by NeurIPS 2025 D&B Track

When Can We Trust LLMs in Mental Health? Large-Scale Benchmarks for Reliable LLM Evaluation

Abeer Badawi, Elahe Rahimi, Md Tahmid Rahman Laskar, Sheri Grach, Lindsay Bertrand, Lames Danok, Jimmy Huang, Frank Rudzicz, Elham Dolatabadi

机构 * York University（约克大学） ； Vector Institute（向量研究所） ； Dalhousie University（达尔豪斯大学） ； IWK Health Hospital（IWK健康医院） ； King’s College London（伦敦国王学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.CY

LeapFactual: Reliable Visual Counterfactual Explanation Using Conditional Flow Matching

Zhuo Cao, Xuan Zhao, Lena Krieger, Hanno Scharr, Ira Assent

机构 * IAS-8, Forschungszentrum Jülich, Germany（茹里希研究所，德国） ； Munich Center for Machine Learning (MCML), LMU Munich, Germany（慕尼黑机器学习中心（MCML），慕尼黑大学，德国） ； Aarhus University, Denmark（奥胡斯大学，丹麦） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

Comments Accepted as a poster presentation at NeurIPS 2025. Camera-ready version. 10 pages, 7 figures

PBBQ: A Persian Bias Benchmark Dataset Curated with Human-AI Collaboration for Large Language Models

Farhan Farsi, Shayan Bali, Fatemeh Valeh, Parsa Ghofrani, Alireza Pakniat, Kian Kashfipour, Amir H. Payberah

机构 * Amirkabir University of Technology（阿米尔卡比尔技术大学） ； King’s College London（伦敦国王学院） ； Politecnico di Milano（米兰理工学院） ； KTH Royal Institute of Technology（皇家理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

XBench: A Comprehensive Benchmark for Visual-Language Explanations in Chest Radiography

Haozhe Luo, Shelley Zixin Shu, Ziyu Zhou, Sebastian Otalora, Mauricio Reyes

机构 * ARTORG Center for Biomedical Engineering Research, University of Bern, Switzerland（ARTORG生物医学工程研究中心，伯尔尼大学，瑞士） ； Shanghai Jiao Tong University, China（上海交通大学，中国） ； Kaiko.AI, Switzerland（Kaiko.AI，瑞士） ； Dept. of Radiation Oncology, Inselspital, Bern University Hospital（放射肿瘤科，因斯普尔茨医院，伯尔尼大学医院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

BLiSS 1.0: Evaluating Bilingual Learner Competence in Second Language Small Language Models

Yuan Gao, Suchir Salhan, Andrew Caines, Paula Buttery, Weiwei Sun

机构 * ALTA Institute（ALTA研究院） ； Department of Computer Science & Technology, University of Cambridge（计算机科学与技术系，剑桥大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

Comments Accepted Paper at the BabyLM Workshop 2025 @ EMNLP (Presentation in Suzhou, China)

No Intelligence Without Statistics: The Invisible Backbone of Artificial Intelligence

Ernest Fokoué

机构 * School of Mathematics and Statistics（数学与统计学学院） ； Rochester Institute of Technology（罗切斯特理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

Comments 37 pages, 6 figures

Impartial Selection with Predictions

Javier Cembrano, Felix Fischer, Max Klimm

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

Robustness Assessment and Enhancement of Text Watermarking for Google's SynthID

Xia Han, Qi Li, Jianbing Ni, Mohammad Zulkernine

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） ； School of Computing（计算机学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

Comments Accepted by TrustCom2025

AttentionSwarm: Reinforcement Learning with Attention Control Barier Function for Crazyflie Drones in Dynamic Environments

Grik Tadevosyan, Valerii Serpiva, Aleksey Fedoseev, Roohan Ahmed Khan, Demetros Aschu, Faryal Batool, Nickolay Efanov, Artem Mikhaylov, Dzmitry Tsetserukou

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Intelligent Space Robotics Laboratory（智能空间机器人实验室） ； Skolkovo Institute of Science and Technology（斯克尔科维科学与技术学院） ； AI Center（人工智能中心） ； Moscow Institute of Physics and Technology（莫斯科物理技术学院） 纠错

专题命中 安全评测 ：safety(abstract)

Comments 6 pages, 6 figures

Semantic Gesticulator: Semantics-Aware Co-Speech Gesture Synthesis

Zeyi Zhang, Tenglong Ao, Yuyao Zhang, Qingzhe Gao, Chuan Lin, Baoquan Chen, Libin Liu

机构 * School of Electronics Engineering and Computer Science, Peking University（电子工程与计算机科学学院，北京大学） ； School of Computer Science, Peking University（计算机学院，北京大学） ； Renmin University of China（中国人民大学） ； Shandong University（山东大学） ； Peking University（北京大学） ； State Key Lab of General AI（通用人工智能国家重点实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments SIGGRAPH 2024 (Journal Track); Project page: https://pku-mocca.github.io/Semantic-Gesticulator-Page

Journal ref ACM Transactions on Graphics (TOG) 2025