大模型对齐与安全

Quantifying the Relationship Between Clinical Safety and Environmental Impact in Therapeutic LLMs

量化治疗型大语言模型（LLMs）的临床安全性与环境影响之间的关系

Alireza A. Safaei, Laura M. Vowels, Matthew J. Vowels, Apoorv Jha, Shekoufeh Rahimi

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.CY

AI总结 该研究量化治疗型LLMs的临床安全性与环境影响的关系，发现安全分布高端存在非线性权衡，额外测试时计算未必提升安全，提出动态模型选择等可持续部署方法。

From Prompting to Behavioral Alignment: Personalized LLM Judges for Recommendation Evaluation

从提示工程到行为对齐：用于推荐评估的个性化大语言模型评判者

Alireza S. Ziabari, Kat Ellis, Colleen Chan, Ding Tong

机构 * Netflix（网飞公司） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对离线推荐评估中LLM存在的双向合理化问题，提出序列行为对齐框架，经真实日志验证，其Macro-F1较零样本基线提升32.19%，可缓解失效模式且无需人工管道开销。

SkillConsist: Detecting Inconsistencies in Agent Skills via Bidirectional Graph Alignment

SkillConsist：通过双向图对齐检测智能体技能中的不一致性

Chaofan Meng, Yuhang Zheng, Yingnan Zhou, Sihan Xu

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 SkillConsist针对智能体技能不一致检测的挑战，通过双向图对齐等技术构建基准并取得优于基线的检测性能，提升了技能一致性检测效果。

Comments 11 pages, 3 figures

Trustworthy AI in Digital Health: A Comprehensive Review of Robustness and Explainability

数字健康中的可信AI：鲁棒性与可解释性的综合综述

Abdullah Mamun, Shovito Barua Soumma, Hassan Ghasemzadeh

机构 * College of Health Solutions, Arizona State University（亚利桑那州立大学健康解决方案学院） ； School of Computing and Augmented Intelligence, Arizona State University（亚利桑那州立大学计算与增强智能学院） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI、cs.LG

AI总结 本综述针对数字健康领域可信AI研究缺口，构建框架梳理鲁棒性与可解释性的技术进展、应用考量与评估指标，为相关开发提供支持。

Comments Preprint of the paper published in Progress in Biomedical Engineering. 26 pages, 5 figures

Journal ref Progress in Biomedical Engineering, Volume 8, Number 2, Article 022007, 2026

Scoring Rules! Statistical and Strategic Alignment for Text Evaluation Metrics

评分规则！文本评估指标的统计对齐与策略对齐

Shengwei Xu, Yuxuan Lu, Yifan Wu, Jason Hartline, Grant Schoenebeck

机构 * University of Michigan（密歇根大学） ； Peking University（北京大学） ； Microsoft Research（微软研究院） ； Northwestern University（西北大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对文本评估指标，提出统计与策略对齐概念及三项测试原则，开发基于互信息的指标设计框架，发现 LLM-as-a-Judge 相关性高但易操纵，新指标鲁棒性强且相关性具竞争力。

The inattentional gap in task conditioned AI models that omit otherwise reportable safety critical signals

注意间隙：任务条件化的语言和视觉模型忽略它们本可报告的安全关键信号

Kwan Soo Shin

机构 * PolymathMinds Lab（PolymathMinds 实验室） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究揭示任务条件化会导致语言和视觉模型抑制对共存安全关键信号的报告，形成“注意间隙”，且该现象在多种模型和任务中普遍存在，不随规模增大而减弱，使基准安全与实际安全脱钩。

Comments 62 pages (31-page article and 31-page supplementary information), 8 figures, 4 tables. v3: corrects the author metadata to the sole author, Kwan Soo Shin; revised title and abstract; adds cross-vendor and flagship validation, signal-detection and specified-task controls, and dual-process probes. Reproducibility deposit: doi:10.5281/zenodo.20826823

Chem World: A Large-Scale Benchmark and Physics-Informed Framework for Trustworthy Chemical Property Prediction

Chem World：用于可信赖化学性质预测的大规模基准及物理信息框架

Tianyou Bai, Huan Wang, Mingchen Gao, Fangyue Lin, Pinze Ren, Zhenlin Zhao, Siming Dong

机构 * Cleer Science（克利尔科学公司） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Imperial College London（伦敦帝国学院） ； Tsinghua University（清华大学） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究推出整合17类超80万分子样本的Chem World化学性质预测基准，并提出Mixture-PINN物理信息神经网络框架，经实验验证其可提升预测性能，为可信赖AI系统研发奠定基础。

The Alignment Target Problem: Divergent Moral Judgments of Humans, AI Systems, and Their Designers

对齐目标问题：人类、人工智能系统及其设计者的道德判断分歧

Benjamin Minhao Chen, Xinyu Xie

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.CY

AI总结 研究探讨了人类、AI系统及其设计者在道德判断上的差异，通过实验发现人类设计的AI行为会引发更强烈的道德约束，揭示了价值对齐的挑战。

Comments ACM FAccT 2026

MEDIC: Comprehensive Evaluation of Leading Indicators for LLM Safety and Utility in Clinical Applications

MEDIC：对LLM在临床应用中的安全性和实用性领先指标的综合评估

Praveenkumar Kanithi, Clément Christophe, Marco AF Pimentel, Tathagata Raha, Prateek Munjal, Nada Saadi, Hamza A Javed, Svetlana Maslenkova, Nasir Hayat, Ronnie Rajan, Shadab Khan

机构 * M42 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 MEDIC通过综合评估框架揭示LLM在临床应用中的安全性和实用性差异，强调需采用组合方法以应对多维度性能权衡。

Comments Published in Transactions on Machine Learning Research (06/2026)

Retrieval-Augmented Generation in LLMs for Mental Health: Quantifying the Incremental Contribution of Retrieval Within a Layered Safety Architecture

大语言模型在心理健康领域的检索增强生成：量化分层安全架构中检索的增量贡献

Anand Gupta, Akshat Surolia, Shubham Mishra, Shakil Imtiaz, Chaitali Sinha

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究数字心理健康干预中，通过在名为Wysa的DMHI里对比启用和禁用检索增强生成（RAG）模式，评估六个大语言模型，计算相关指标并测试差异，发现RAG虽致误报增加，但符合安全原则，是提升LLM驱动的DMHIs相关性能的有前景方法。

Comments 11 pages, 6 figures

Context-Aware Concept Distillation for Trustworthy Flood Prediction

用于可靠洪水预测的上下文感知概念蒸馏

Eli Levinkopf, Efrat Morin, Claudia V. Goldman

机构 * School of Computer Science and Engineering, The Hebrew University of Jerusalem（耶路撒冷希伯来大学计算机科学与工程学院） ； Institute of Earth Sciences, The Hebrew University of Jerusalem（耶路撒冷希伯来大学地球科学研究所） ； Hebrew University Business School, The Hebrew University of Jerusalem（耶路撒冷希伯来大学商学院） 纠错

专题命中 安全评测 ：trustworthy(title)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 针对深度学习模型‘黑箱’问题阻碍洪水预测信任度的挑战，提出上下文感知概念蒸馏框架CACD，引入无监督管道和残差超网络，经全球多流域评估，该模型高保真且优于黑箱基线，平衡了AI准确性与决策透明度。

Comments to be published in IJCAI 2026 proceedings

The Maskability Index: Predicting Task-Objective Alignment in Pretrained Language Models

可掩码性指数：预测预训练语言模型中的任务目标对齐

Ahmad Pouramini, Mahsa Afsharzadeh

机构 * Sirjan University of Technology（锡尔詹理工大学） ； Department of Computer Engineering（计算机工程系） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究提出可掩码性指数（MI），用于评估知识关系适合的提示方式，通过掩码与未掩码模板的DepthRank分数差异计算。在ATOMIC2020基准上评估发现MI与下游生成性能正相关，有助于选择提示模板和策略提取预训练语言模型的关系知识。

JANUS: Foreseeing Latent Risk for Long-Horizon Agent Safety

JANUS：预见长期智能体安全中的潜在风险

Yuan Xiong, Linji Hao, Shizhu He, Yequan Wang, Lijun Li

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究长期智能体安全潜在风险，提出JANUS框架，通过多智能体模拟合成轨迹，经预测与裁决耦合任务学习共享策略，用CoAA-RL联合优化，所产生的Vanguard模型提升了智能体安全防护及任务完成率。

Trustworthy Protein-Ligand Binding Affinity Prediction via Reliability-Aware Multi-Engine Fusion

通过可靠性感知多引擎融合实现可靠的蛋白质-配体结合亲和力预测

Yongchan Hong, Defu Cao, Wenjin Liu, Thomas Ku, Jordy Homing Lam, Emily Nguyen, Willie Neiswanger, Vsevolod Katritch, Yan Liu

机构 * University of Southern California（南加州大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对蛋白质-配体结合亲和力预测中引擎结果不一致问题，提出RELIABLE-BA框架，通过三步实现多引擎预测，经实验验证其能提升预测竞争力和不确定性校准，可筛选高置信对减少误差，是首个结合证据融合与上下文可靠性的预测框架。

Journal ref KDD '2026: Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2

Safety That Does Not Transfer: Cross-Lingual Clinical Correctness Drift in Deployable Medical Language Models

不可转移的安全性：可部署医学语言模型中的跨语言临床正确性漂移

Anthonio Oladimeji Gabriel, Dimeji Olawuyi, Toba Ajayi, Temilola Aderemi

机构 * AI SafetyX（人工智能安全X） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.CY

AI总结 研究资源匮乏健康环境中可部署医学语言模型的跨语言临床正确性漂移，构建英语-豪萨语问题对评估六个模型，发现本地可部署模型临床正确性下降，前沿模型较稳定，缺陷源于可部署层而非语言或临床材料。

What Do They See? Interpreting Complex Road Scenarios Through the Eyes of Vision-Language-Action Models for Safe and Trustworthy Autonomous Vehicle Learning

他们看到了什么？通过视觉-语言-动作模型的视角解读复杂道路场景以实现安全可靠的自动驾驶学习

Kalpana Panda, Wesley Maia, Vinti Agarwal, Ross Greer

机构 * Birla Institute of Technology and Science, Pilani（贝拉理工科学学院皮拉尼分校） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 安全评测 ：trustworthy(title)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究自动驾驶模型内部逻辑不透明问题，提出反事实消融框架CVAA，通过移除摄像头图像中物体创建反事实集评估模型响应差异，应用于阿尔帕马约1轨迹预测器，分析物体因果影响，还通过可解释性技术深入理解模型，创建可解释驾驶系统巩固人机信任。

Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows

大语言模型在欺诈检测和信任与安全工作流程中的操作证据差距

Keyur Gabani

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究LLMs用于欺诈检测等信任与安全工作流程时的操作证据差距。通过对相关操作源编码调查发现证据失衡，欺诈任务部分大但缺乏关键证据。贡献了FORTE框架和部署证据清单，确定支持LLMs部署所需研究。

Comments 22 pages, 3 figures, 6 tables. Ancillary files include the evidence matrix, search note, and numeric claim check

Designing Safety-Constrained LLM Systems for Public Health Information Access

设计用于公共卫生信息访问的安全约束大语言模型系统

Ben Torkian, Jun Zhou

机构 * University of South Carolina（南卡罗来纳大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 针对公共卫生信息访问，尤其是母婴健康资源导航，设计实现安全约束大语言模型系统。采用多层架构，含领域受限RAG等，通过可控数据管道确保回复基于精选资源。经场景验证，系统安全约束执行一致、性能稳定，为相关领域部署LLM系统提供指导。

First, do NOHARM: a medical safety benchmark and randomized study of physician and AI teaming on clinical consultations

首先，不伤害：迈向临床安全的大语言模型

David Wu, Fateme Nateghi Haredasht, Saloni Kumar Maharaj, Priyank Jain, Jessica Tran, Matthew Gwiazdon, Arjun Rustagi, Jenelle Jindal, Jacob M. Koshy, Vinay Kadiyala, Anup Agarwal, Bassman Tappuni, Brianna French, Sirus Jesudasen, Christopher V. Cosgriff, Rebanta Chakraborty, Jillian Caldwell, Susan Ziolkowski, David J. Iberri, Robert Diep, Rahul S. Dalal, Kira L. Newman, Kristin Galetta, J. Carl Pallais, Nancy Wei, Kathleen M. Buchheit, David I. Hong, Vartan Pahalyants, Ernest Y. Lee, Allen Shih, Tamara B. Kaplan, Vishnu Ravi, Sarita Khemani, Thomas A. Buckley, April S. Liang, Daniel Shirvani, Advait Patil, Nicholas Marshall, Kanav Chopra, Joel Koh, Adi Badhwar, Anastasia Perez, Austin J. Schoeffler, Mahbuba Tusty, Chase M. Walton, Liam G. McCoy, David J. H. Wu, Yingjie Weng, Sumant Ranji, Kevin Schulman, Nigam H. Shah, Jason Hom, Arnold Milstein, Arjun K. Manrai, Adam Rodman, Jonathan H. Chen, Ethan Goh

机构 * Harvard Combined Dermatology Program（哈佛联合皮肤科项目） ； Department of Dermatology, Mass General Brigham（麻省总医院皮肤科） ； Harvard Medical School（哈佛医学院） ； Stanford Center for Biomedical Informatics Research（斯坦福生物医学信息学研究中心） ； Stanford University（斯坦福大学） ； Division of Hospital Medicine, Department of Medicine, Stanford University School of Medicine（斯坦福大学医学院医院医学科） ； Department of Medicine, Cambridge Health Alliance（剑桥健康联盟医学科） ； Beth Israel Deaconess Hospital–Plymouth（贝塞斯达德acons医院-普利茅斯） ； Department of Medicine, University of California, San Francisco（加州大学旧金山分校医学科） ； Department of Neurology, Stanford University School of Medicine（斯坦福大学医学院神经科） ； Department of Medicine, Beth Israel Deaconess Medical Center（贝塞斯达德acons医学中心医学科） ； Division of Cardiology, Department of Medicine, Cambridge Health Alliance（剑桥健康联盟心脏病科） ； Department of Cardiovascular Medicine, Summa Health System（Summa健康系统心血管医学科） ； Division of Allergy, Pulmonary, and Critical Care Medicine, Department of Medicine, University of Wisconsin-Madison（威斯康星大学麦迪逊分校医学科过敏、呼吸科和危重医学科） ； Division of Pulmonary and Critical Care Medicine, Department of Medicine, Massachusetts General Hospital（麻省总医院呼吸科和危重医学科） ； Center for Immunology and Inflammatory Diseases, Department of Medicine, Massachusetts General Hospital（麻省总医院免疫和炎症疾病中心） ； Broad Institute of MIT and Harvard（MIT和哈佛Broad研究所） ； Division of Pulmonary, Critical Care, and Sleep Medicine, Cambridge Health Alliance（剑桥健康联盟呼吸科、危重医学科和睡眠医学科） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 提出NOHARM基准，包含1100个初级到专科咨询案例，评估28个LLM的医疗建议安全性，发现高达22.6%的案例存在严重危害风险，其中遗漏错误占80%以上。

Safety from Honesty in a Disinterested AI Predictor

无兴趣AI预测器中的诚实安全性

Yoshua Bengio, Oliver Richardson, Tomáš Gavenčiak, Michael Cohen, Rory Svarc, Damiano Fornasiere, Gael Gendron, David Hyland, Aton Kamanda, Adam Oberman, Francis Rhys Ward, Anna Gavenčiak, Jacob Livingston Slosser, Vincent Mai, Iulian Serban, Joumana Ghosn

机构 * LawZero ； Université de Montréal（蒙特利尔大学） ； Mila ； University of California Berkeley（加州大学伯克利分校） ； McGill University（麦吉尔大学） ； Arb Research ； Center for Theoretical Study Charles University in Prague（布拉格查理大学理论研究中心） ； University of Oxford（牛津大学） ； Sapien Institute（Sapien研究所） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出一种形式化安全论证，通过数据表示和训练过程确保预测器诚实预测而不成为追求目标的智能体，并证明危险预测器出现的概率可控。

Large-Language-Models-as-a-Judge in Theory-Agnostic Adaptive Metric-Alignment for Prototypical Networks in Personality Recognition

大语言模型作为人格识别中原型网络的理论无关自适应度量对齐的评判器

Jing Jie Tan, Ban-Hoe Kwan, Danny Wee-Kiat Ng, Yan-Chai Hum, Shih-Yu Lo, Po-An Chen, Noriyuki Kawarazaki, Kosuke Takano, Anissa Mokraoui

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对人格识别受理论依赖公式限制的问题，提出理论无关的JAM框架，通过注意力池化图原型网络和跨理论协调方法学习结构化表示并统一数据集，还用大语言模型作为评判器机制，提升了跨框架泛化能力和性能。

Journal ref IEEE Transactions on Affective Computing (2026)

Predicting LLM Safety Before Release by Simulating Deployment

通过模拟部署预测大语言模型发布前的安全性

Marcus Williams, Hannah Sheahan, Cameron Raymond, Tomek Korbak, Deng Pan, Peilin Yang, Leon Maksin, Ningyi Xie, Phillip Guo, Ian Kivlichan, Micah Carroll

机构 * OpenAI（开放人工智能研究公司） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过模拟部署预测大语言模型发布前安全性的方法，从去识别化对话出发，固定前缀用候选模型生成回复来评估。该方法能估计行为不当率，优于基线，还能克服工具重新采样挑战，为外部研究提供途径，助力预测模型现实行为及评估部署风险。

Comments 31 pages

Moral Safety in LLMs: Exposing Performative Compliance with Puzzled Cues

大语言模型中的道德安全：揭示对困惑线索的表演性遵从

Mohammadamin Shafiei, Shuyue Stella Li, Yulia Tsvetkov

机构 * University of Milan（米兰大学） ； University of Washington（华盛顿大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.CY

AI总结 本研究提出“表演性遵从”概念，揭示大语言模型在道德困境中当身份标签被隐藏时公平性显著下降，并引入线索变化方法和“线索可见性差距”指标来区分真实与表演性道德安全。

The Scales of Justitia: A Comprehensive Survey on Safety Evaluation of LLMs

正义的尺度：关于大语言模型安全评估的全面调查

Songyang Liu, Chaozhuo Li, Jiameng Qiu, Xi Zhang, Feiran Huang, Litian Zhang, Yiming Hei, Philip S. Yu

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Jinan University（暨南大学） ； Beihang University（北京航空航天大学） ； China Academy of Information and Communications Technology（中国信息通信研究院） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文系统调研了大语言模型的安全评估现状，提出四维分类框架，分析评估原因、内容、场景及方法，指出当前挑战并提出研究方向，强调安全评估对可靠部署的重要性。

Comments 20 pages, preprint

Journal ref Information Fusion 136 (2026) 104579

EMPATH: A Multilingual Auditor-Judge Benchmark for Safety Evaluation of Emotional-Support Chatbots

EMPATH：情感支持聊天机器人安全评估的多语言审计-评判基准

Camilo Chacón Sartori

机构 * MindSurf 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 提出EMPATH基准，通过审计模型模拟求助用户生成多轮对话，评判模型从19个指标评估安全，解决多语言多轮危机对话中的安全评估问题。

CASE-Bench: Context-Aware SafEty Benchmark for Large Language Models

CASE-Bench：面向大语言模型的上下文感知安全基准

Guangzhi Sun, Xiao Zhan, Shutong Feng, Philip C. Woodland, Jose Such

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CASE-Bench，通过整合上下文信息评估大语言模型的安全性，揭示上下文对人类判断的显著影响，并发现商业模型在安全情境下的响应与人类判断存在明显偏差。

Comments 24 pages. This paper has been accepted at ICML 2025

Do Encoders Suffice? A Systematic Comparison of Encoder and Decoder Safety Judges for LLM Adversarial Evaluation

编码器足够吗？用于LLM对抗性评估的编码器与解码器安全评判器的系统比较

Han Jeon, Shiv Medler, Joseph Voyles, Matt Wood

机构 * PricewaterhouseCoopers（普华永道） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 系统比较ModernBERT系列编码器分类器与基于LLM的解码器评判器在识别有害LLM输出上的性能，发现编码器可在保持低延迟和低成本的同时接近LLM评判器的效果。

Comments 13 pages, 5 figures, Accepted into ICANN2026

SciRisk-Bench: A Risk-Dimension-Aware Benchmark for AI4Science Safety

SciRisk-Bench：面向AI4Science安全的风险维度感知基准

Linghao Feng, Yinqian Sun, Dongqi Liang, Sicheng Shen, Chenfei Yan, Yuxuan Peng, Yilin Zhao, Haibo Tong, Kai Li, FeiFei Zhao, Yi Zeng

机构 * Brain-inspired Cognitive Intelligence Lab, Institute of Automation, Chinese Academy of Sciences, Beijing, China（脑启发认知智能实验室，自动化研究所，中国科学院，北京，中国） ； School of Future Technology, University of Chinese Academy of Sciences, China（未来技术学院，中国科学院大学，中国） ； School of Artificial Intelligence, University of Chinese Academy of Sciences, China（人工智能学院，中国科学院大学，中国） ； Zhongguancun Academy, China（中关村学院，中国） ； Beijing Key Laboratory of Safe AI and Superalignment（北京安全人工智能与超对齐重点实验室） ； Gaoling School of AI, Renmin University of China（甘露人工智能学院，中国人民大学） ； Beijing Institute of AI Safety and Governance (Beijing-AISI)（北京人工智能安全与治理研究院（北京-AISI）） ； School of Humanities, University of Chinese Academy of Sciences, China（人文学院，中国科学院大学，中国） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 提出SciRisk-Bench基准，从显式风险维度和科学学科两个角度评估AI4Science安全，覆盖7个学科、31个子学科和10个风险维度，实验揭示主流及科学大模型的安全薄弱环节。

Graph Alignment for Benchmarking Graph Neural Networks and Learning Positional Encodings

图对齐：用于基准测试图神经网络和学习位置编码

Adrien Lagesse, Marc Lelarge

机构 * INRIA, École Normale Supérieure - PSL, Paris, France（INRIA，法国国家信息与自动化研究所，巴黎高等师范学院-巴黎理工学院，巴黎，法国） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出基于图对齐问题的GNN基准测试方法，通过自监督学习生成难度递增的数据集，发现各向异性模型表现更优，且预训练嵌入可作为位置编码用于图回归或高精度结构重建。

Comments International Conference on Machine Learning, Seoul, 2026

Efficient Safety Benchmarking via Item Response Theory

通过项目反应理论实现高效安全基准测试

Fabio Spagliardi, Mírian Silva, Ayan Datta, Aiden Zhou, Vamshi Bonagiri, Diogo Cruz

机构 * Supervised Program for Alignment Research (SPAR)（对齐研究监督计划） ； Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学） ； Yale University（耶鲁大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 针对安全基准测试中项目信息量不均的问题，利用项目反应理论（IRT）实现自适应项目选择，将评估成本降低至少80%，最高达99.9%。