大模型对齐与安全

AgentDrive: An Open Benchmark Dataset for Agentic AI Reasoning with LLM-Generated Scenarios in Autonomous Systems

AgentDrive: 一个用于自主系统中基于LLM生成场景的代理AI推理开放基准数据集

Mohamed Amine Ferrag, Abderrahmane Lakas, Merouane Debbah

机构 * Department of Computer and Network Engineering, College of Information Technology, United Arab Emirates University（计算机与网络工程系，信息科技学院，阿联酋大学） ； Khalifa University of Science and Technology（科技大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 AgentDrive是一个用于自主系统中基于LLM生成场景的代理AI推理开放基准数据集，包含300,000个驾驶场景和100,000个问题的多项选择基准，用于评估和训练自主代理。

Comments 16 pages

In Quest of an Extensible Multi-Level Harm Taxonomy for Adversarial AI: Heart of Security, Ethical Risk Scoring and Resilience Analytics

寻求可扩展的多级危害分类法以应对对抗性AI：安全的核心、道德风险评分与韧性分析

Javed I. Khan, Sharmila Rahman Prithula

专题命中 安全评测 ：safety(abstract)；分类 cs.CY

AI总结 本文提出了一种可扩展的多级危害分类法，结合伦理理论，系统化地定义危害类型，以提升对抗性AI的安全性和伦理分析能力。

Comments Manuscript accepted for presentation at the 12th International Conference on Computational Science and Computational Intelligence (CSCI 2025), Las Vegas, NV, USA, December 2025. Proceedings to be published by Springer Nature (2026)

A Survey on Human-Centered Evaluation of Explainable AI Methods in Clinical Decision Support Systems

可解释人工智能在临床决策支持系统中的人本评估综述

Alessandro Gambetti, Qiwei Han, Hong Shen, Claudia Soares

机构 * Nova School of Science and Technology, Universidade NOVA de Lisboa（诺瓦科学与技术学院，诺瓦里斯本大学） ； Nova School of Business and Economics, Universidade NOVA de Lisboa（诺瓦商学院与经济学院，诺瓦里斯本大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文综述了XAI在临床决策支持系统中的人本评估，指出多数研究采用事后方法，提出以利益相关者为中心的评估框架以提升XAI的临床可信度。

Comments 19 pages, 2 tables, 4 figures

Virtual Traffic Police: Large Language Model-Augmented Traffic Signal Control for Unforeseen Incidents

虚拟交通警察：基于大语言模型的交通信号控制用于突发事件

Shiqi Wei, Qiqing Wang, Kaidi Yang

机构 * Department of Civil and Environmental Engineering, National University of Singapore（环境与土木工程系，新加坡国立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出一种基于大语言模型的交通信号控制框架，通过虚拟交通警察代理实时调整信号控制器参数，提升应对突发事件的效率和可靠性。

CoNRec: Context-Discerning Negative Recommendation with LLMs

CoNRec：基于大语言模型的上下文辨识负向推荐

Xinda Chen, Jiawei Wu, Yishuang Liu, Jialin Zhu, Shuwen Xiao, Junjun Zheng, Xiangheng Kong, Yuning Jiang

机构 * Alibaba Inc.（阿里巴巴公司） ； Fudan University（复旦大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 CoNRec提出了一种基于大语言模型的负向反馈建模框架，通过上下文辨识模块和渐进式训练方法，提升对用户负向偏好的建模能力。

From Generation to Collaboration: Using LLMs to Edit for Empathy in Healthcare

从生成到协作：利用LLMs编辑以增强医疗中的同理心

Man Luo, Bahareh Harandizadeh, Amara Tariq, Halim Abbas, Umar Ghaffar, Christopher J Warren, Segun O. Kolade, Haidar M. Abdul-Muhsin

机构 * Science team（科学团队） ； Abridge ； Mayo Clinic（梅奥诊所） ； Department of AI & Informatics（人工智能与信息学部门） ； Urology Department（泌尿科部门） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 本研究利用LLMs作为编辑工具，通过优化医生书面回应增强医疗中的同理心，同时保持事实准确性，提出新的评估指标并验证其有效性。

From Generative Engines to Actionable Simulators: The Imperative of Physical Grounding in World Models

从生成引擎到可操作模拟器：世界模型中物理基础的必要性

Zhikang Chen, Tingting Zhu

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出将世界模型重新定义为可操作模拟器，强调因果结构和约束意识，以提升医疗决策中的反事实推理和长期预见能力。

Reliability by design: quantifying and eliminating fabrication risk in LLMs. From generative to consultative AI: a comparative analysis in the legal domain and lessons for high-stakes knowledge bases

可靠性设计：量化并消除大语言模型中的制造风险。从生成式到咨询式AI：法律领域中的比较分析及对高风险知识库的启示

Alex Dantart

机构 * Humanizing Internet 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出通过减少幻觉提升大语言模型在法律领域的可靠性，引入两种可靠性指标，并展示先进的 RAG 系统有效降低伪造事实率。

VeriLLM: A Lightweight Framework for Publicly Verifiable Decentralized Inference

VeriLLM：一种轻量级的公开可验证去中心化推理框架

Ke Wang, Zishuo Zhao, Xinyuan Song, Zelin Li, Libin Xia, Chris Tong, Bill Shi, Wenjie Qu, Eric Yang, Lynn Ai

机构 * University of Illinois Urbana-Champaign, Gradient（伊利诺伊大学厄巴纳-香槟分校，Gradient） ； Emory University（埃默里大学） ； Ohio State University（俄亥俄州立大学） ； Peking University（北京大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 VeriLLM通过轻量级经验重跑和链上检查实现公开可验证的去中心化LLM推理，提高效率与安全性，减少验证成本。

Comments 18 pages, 4 figures, 6 tables

Vision-Language Models Align with Human Neural Representations in Concept Processing

视觉-语言模型在概念处理中与人类神经表征对齐

Anna Bavaresco, Marianne de Heer Kloots, Sandro Pezzelle, Raquel Fernández

机构 * Institute for Logic, Language and Computation University of Amsterdam（逻辑、语言与计算研究所 阿姆斯特丹大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本研究发现视觉-语言模型在概念处理中能与人类神经表征对齐，揭示了不同架构在脑部响应中的差异。

Comments Accepted to EACL 2026 main

Visual and Cognitive Demands of a Large Language Model-Powered In-vehicle Conversational Agent

基于大型语言模型的车载对话代理的视觉与认知需求

Chris Monk, Allegra Ayala, Christine S. P. Yu, Gregory M. Fitch, Dara Gruber

机构 * Exponent, Inc.（Exponent公司） ； Google, Inc.（Google公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究评估了基于大型语言模型的车载对话代理在驾驶中的视觉与认知需求，发现其与免提通话在认知负荷上相当，且视觉需求较低，支持其在驾驶环境中的安全应用。

Measuring and Aligning Abstraction in Vision-Language Models with Medical Taxonomies

利用医学分类法测量和对齐视觉-语言模型中的抽象能力

Ben Schaper, Maxime Di Folco, Bernhard Kainz, Julia A. Schnabel, Cosmin I. Bercea

机构 * 1 School of Computation, Information ； Technology, Technical University of Munich, Germany 2 Institute of Machine Learning in Biomedical Imaging, Helmholtz Munich, Germany 3 LTCI, Télécom Paris, Institut Polytechnique de Paris, France 4 Munich Center for Machine Learning (MCML) 5 School of Biomedical Engineering ； Imaging Sciences, King's College London, UK 6 Department of Artificial Intelligence in Biomedical Imaging, FAU Erlangen-Nuremberg, Germany 7 Department of Computing, Imperial College London, UK 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出通过医学分类法量化和缓解视觉-语言模型中的抽象错误，引入灾难性抽象错误概念，并通过风险约束阈值和分类法感知微调减少严重错误至2%以下。

RiskCueBench: Benchmarking Anticipatory Reasoning from Early Risk Cues in Video-Language Models

RiskCueBench: 视频语言模型中早期风险信号的前瞻性推理基准测试

Sha Luo, Yogesh Prabhu, Timothy Ossowski, Kaiping Chen, Junjie Hu

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； University of California San Diego（加州大学圣地亚哥分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 RiskCueBench通过标注早期风险信号片段，评估视频语言模型在预测未来风险事件中的能力，揭示了现有系统在解读动态情境方面的不足。

Comments *updated author email in this version

Personality Editing for Language Models through Adjusting Self-Referential Queries

通过调整自我参照查询进行语言模型的人格编辑

Seojin Hwang, Yumin Kim, Byeongjeong Kim, Donghoon Shin, Hwanhee Lee

机构 * Chung-Ang University（Chung-Ang 大学） ； University of Washington（华盛顿大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 PALETTE通过调整自我参照查询实现语言模型的人格编辑，仅需12个样本即可显著提升人格对齐性。

Comments Accepted to EACL 2026 (Main)

OpenLearnLM Benchmark: A Unified Framework for Evaluating Knowledge, Skill, and Attitude in Educational Large Language Models

OpenLearnLM基准：一个评估教育大型语言模型知识、技能和态度的统一框架

Unggi Lee, Sookbun Lee, Heungsoo Choi, Jinseo Lee, Haeun Park, Younghoon Jeon, Sungmin Cho, Minju Kang, Junbo Koh, Jiyeong Bae, Minwoo Nam, Juyeon Eun, Yeonji Jung, Yeil Jeong

机构 * Chosun University（chosun大学） ； Korea University（韩国大学） ； Ewha Womans University（成均馆大学） ； Korea Institute for Curriculum and Evaluation（韩国课程评价院） ； Seoul National University（首尔国立大学） ； Texas A&M University（德克萨斯农工大学） ； Indiana University Bloomington（印第安纳大学布卢明顿分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 OpenLearnLM基准通过统一框架评估教育大型语言模型的知识、技能和态度，揭示不同模型在多维度上的能力差异。

Towards Efficient and Robust Linguistic Emotion Diagnosis for Mental Health via Multi-Agent Instruction Refinement

通过多智能体指令细化实现高效的稳健语言情绪诊断以促进心理健康

Jian Zhang, Zhangqi Wang, Zhiyuan Wang, Weiping Fu, Yu He, Haiping Zhu, Qika Lin, Jun Liu

机构 * School of Computer Science and Technology, Xi’an Jiaotong University（计算机科学与技术学院，西安交通大学） ； Saw Swee Hock School of Public Health, National University of Singapore（Saw Swee Hock 公共卫生学院，新加坡国立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 APOLO通过多智能体协作优化提示空间，提升语言情绪诊断的效率与鲁棒性，适用于心理健康领域的可信LLM应用。

Explicit Cognitive Allocation: A Principle for Governed and Auditable Inference in Large Language Models

显式认知分配：一种用于受控和可审计的大语言模型推理的原则

Héctor Manuel Manzanilla-Granados, Zaira Navarrete-Cazales, Miriam Pescador-Rojas, Tonahtiu Ramírez-Romero

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出显式认知分配原则，通过认知通用代理架构实现结构化推理，提升大语言模型在高责任场景下的可追溯性和可审计性。

Comments Preprint. This version corresponds to the initial public release of the CUA architecture and associated evaluation metrics

Thinking Longer, Not Always Smarter: Evaluating LLM Capabilities in Hierarchical Legal Reasoning

深入思考，而非总是更聪明：评估大语言模型在分层法律推理中的能力

Li Zhang, Matthias Grabmair, Morgan Gray, Kevin Ashley

机构 * University of Pittsburgh（匹兹堡大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出一个框架评估大语言模型在分层法律推理中的能力，发现模型在表面推理准确但分层推理表现下降，揭示了模型在复杂领域中的局限性。

Comments 15 pages, 7 figures, Proceedings of the 2026 Symposium on Computer Science and Law (CSLAW '26)

Beyond "Not Novel Enough": Enriching Scholarly Critique with LLM-Assisted Feedback

超越‘不够新颖’：利用LLM辅助反馈丰富学术批评

Osama Mohammed Afzal, Preslav Nakov, Tom Hope, Iryna Gurevych

机构 * UKP Lab, TU Darmstadt and Hessian Center for AI (hessian.AI)（图林人工智能实验室、德累斯顿理工大学和黑森人工智能中心） ； MBZUAI（马克斯·普朗克人工智能研究所） ； The Allen Institute for AI (AI2)（人工智能研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种结构化LLM辅助方法，通过三个阶段评估论文新颖性，实现86.5%的人类推理一致性，显著优于现有基线方法，提升同行评审的严谨性和透明度。

Federated Unsupervised Semantic Segmentation

联邦无监督语义分割

Evangelos Charalampakis, Vasileios Mygdalis, Ioannis Pitas

机构 * Department of Informatics, Aristotle University of Thessaloniki（信息学院，阿基米德大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出FUSS框架，通过联邦学习实现去中心化无监督语义分割，优于传统方法和本地训练。

Comments Accepted for publication in Neurocomputing

NeuroShield: A Neuro-Symbolic Framework for Adversarial Robustness

NeuroShield：一种用于对抗鲁棒性的神经符号框架

Ali Shafiee Sarvestani, Jason Schmidt, Arman Roohi

机构 * University of Illinois Chicago（伊利诺伊大学香槟分校） ； Department of Electrical and Computer Engineering（电气与计算机工程系） ； Department of Computer Science（计算机科学系） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 NeuroShield通过整合符号规则监督提升深度神经网络的对抗鲁棒性和可解释性，其方法在对抗攻击测试中表现出显著优势。

Bridging the Knowledge-Action Gap by Evaluating LLMs in Dynamic Dental Clinical Scenarios

通过评估LLMs在动态牙科临床场景中弥合知识-行动鸿沟

Hongyang Ma, Tiantian Gu, Huaiyuan Sun, Huilin Zhu, Yongxin Wang, Jie Li, Wubin Sun, Zeliang Lian, Yinghong Zhou, Yi Gao, Shirui Wang, Zhihui Tang

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文通过SCMPE基准评估LLMs在动态牙科临床场景中的表现，发现其在动态对话中存在主动信息收集和状态跟踪的瓶颈，揭示了外部知识不足以弥补推理差距，需领域自适应预训练。

Comments 29 pages, 15 figures

MedConsultBench: A Full-Cycle, Fine-Grained, Process-Aware Benchmark for Medical Consultation Agents

MedConsultBench: 一个完整周期、细粒度、过程感知的医疗咨询代理基准

Chuhan Qiao, Jianghua Huang, Daxing Zhao, Ziding Liu, Yanjun Shen, Bing Cheng, Wei Lin, Kai Wu

机构 * Meituan（美团） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 MedConsultBench通过细粒度过程感知评估医疗咨询代理的完整咨询周期，揭示高诊断准确性背后的效率与安全问题。

Agentic Artificial Intelligence (AI): Architectures, Taxonomies, and Evaluation of Large Language Model Agents

代理型人工智能（AI）：架构、分类及大语言模型代理的评估

Arunkumar V, Gangadharan G. R., Rajkumar Buyya

机构 * University College of Engineering, Anna University（安娜大学工程学院） ； National Institute of Technology Tiruchirappalli（Tiruchirappalli 国家理工学院） ； School of Computing and Information Systems University of Melbourne（墨尔本大学计算机与信息系统学院） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文探讨了代理型人工智能的架构、分类及评估，提出统一分类框架，分析从线性推理到原生推理模型的转变，并指出未来研究方向以提升自主系统的可靠性。

Comments 28 pages, 4 figures, 5 tables

Style-based Composer Identification and Attribution of Symbolic Music Scores: a Systematic Survey

基于风格的作曲者识别与符号音乐谱作者归属：系统性综述

Federico Simonetta

机构 * GSSI – Gran Sasso Science Institute（格拉萨索科学研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文通过系统综述，探讨了符号音乐谱中基于风格的作曲者识别与作者归属问题，提出改进验证方法和模型的指导原则，以提高研究的可靠性与可重复性。

Comments Accepted at the TISMIR

Journal ref 2025 Transactions of the International Society for Music Information Retrieval 8 p. 213-235

MathEDU: Feedback Generation on Problem-Solving Processes for Mathematical Learning Support

MathEDU: 为数学学习支持生成问题解决过程的反馈

Wei-Ling Hsu, Yu-Chien Tang, An-Zi Yen

机构 * Department of Computer Science, National Yang Ming Chiao Tung University, Taiwan（计算机科学系，National Yang Ming Chiao Tung大学，台湾） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 MathEDU研究通过构建数学问题解决过程反馈数据集，评估不同模型在正确性分类、错误识别和反馈生成任务中的可靠性，发现生成反馈存在显著差距，需提升教学意识的AI反馈。

Comments Accepted by EACL 2026 main

An Architectural Advantage of The Instruction-Tuned LLM in Containing The Readability-Accuracy Tension in Text Simplification

指令调优LLM在文本简化中缓解可读性-准确性张力的优势

P. Bilha Githinji, Aikaterini Meilliou, Zeming Liang, Lian Zhang, Peiwu Qin

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本研究通过比较指令调优和推理增强的LLM，发现指令调优在文本简化中能更有效平衡可读性与准确性，提升话语忠实度。

A Survey of AI Scientists

AI科学家的综述

Guiyao Tie, Pan Zhou, Lichao Sun

机构 * Huazhong University of Science and Technology（华中科技大学） ； Lehigh University（莱斯大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文综述了AI科学家的发展历程，提出六阶段方法论框架，分析了从基础模块到闭环系统再到可扩展性与人机协作的演进，为未来系统发展提供路线图。

Comments 28 pages, 9 figures, 1 table

When Hallucination Costs Millions: Benchmarking AI Agents in High-Stakes Adversarial Financial Markets

当幻觉成本百万：在高风险对抗性金融市场中基准测试AI代理

Zeshi Dai, Zimo Peng, Zerui Cheng, Ryan Yihe Li

机构 * Surf AI, Cybertino Lab（Surf AI，Cybertino 实验室） ； Princeton University（普林斯顿大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 CAIA基准测试揭示了AI在对抗性金融市场中的能力缺口，指出当前模型在面对虚假信息和不可逆决策时表现不佳，强调对抗鲁棒性对可信AI的重要性。

Comments 15 pages, 5 figures, 4 tables; Accepted to AAAI 2026 (AI-4-Finance Workshop - Oral, top 10%); In submission to ICML 2026

LOGOS: LLM-driven End-to-End Grounded Theory Development and Schema Induction for Qualitative Research

LOGOS: 基于大语言模型的端到端 grounded theory 开发与模式诱导用于定性研究

Xinyu Pi, Qisen Yang, Chuong Nguyen

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 LOGOS 是一种基于大语言模型的端到端框架，通过自动化 grounded theory 工作流程，实现定性研究的结构化理论开发和模式诱导，显著提升了研究的可扩展性和理论精确度。