大模型对齐与安全

From Holistic Evaluation to Structured Criteria: Rubrics Across the Evolving LLM Landscape

从整体评估到结构化标准：大语言模型演变中的评分准则

Hao Chen, Ziyu Han, Yukun Yan, Qingfu Zhu, Maosong Sun, Wanxiang Che

机构 * Research Center for Social Computing and Interactive Robotics（社会计算与交互机器人研究中心） ； Department of Computer Science and Technology, Institute for AI（计算机科学与技术系，人工智能研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 本文提出评分准则作为统一框架，通过分解整体判断为可验证维度、提供过程级反馈和动态涌现自模型行为三个层次，连接人类意图与机器行为。

CaresAI at CT-DEB26: Detecting Dosing Errors In Clinical Trials Using Domain-Specific Transformer Embeddings and Classification Models

CaresAI at CT-DEB26: 使用领域特定Transformer嵌入和分类模型检测临床试验中的剂量错误

Leon Hamnett, Favour Igwezeke, Joseph Itopa Abubakar, Mary Adetutu Adewunmi

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 本研究利用基于生物医学语料训练的Transformer模型（如BioBERT）编码临床试验文本，结合结构化元数据，通过机器学习模型检测剂量错误，最高ROC-AUC达0.853。

Comments 18 pages, published in CL4Health 2026 proceedings (3rd Workshop on Patient-oriented language processing) @ LREC 2026 http://lrec-conf.org/proceedings/lrec2026/workshops/cl4health/2026.cl4health-1.0.pdf

Journal ref Proceedings of the Third Workshop on Patient-Oriented Language Processing, CL4Health 2026, 12 May 2026

Hierarchical Projection for Adaptive Knowledge Transfer

自适应知识迁移的分层投影

Samhita Pal, Tian Gu

机构 * Vanderbilt University Medical Center（范德比尔特大学医学中心） ； Columbia University（哥伦比亚大学） 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.LG

AI总结 提出ProjectionTL框架，通过分层贝叶斯建模与自适应投影实现源选择与特征选择，缓解负迁移，提升跨域学习的准确性、稳定性和可解释性。

Comments We found a mistake in the proof that needs to be revised

Semantic Prompting: Agentic Incremental Narrative Refinement through Spatial Semantic Interaction

语义提示：通过空间语义交互实现代理增量叙事优化

Xuxin Tang, Ibrahim Tahmid, Eric Krokos, Kirsten Whitley, Xuan Wang, Chris North

机构 * Department of Defense（国防部） 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出语义提示框架，通过感知语义交互、推理解释意图并执行定位修订，解决现有空间-文本生成中的交互修订不一致、人机意图不一致和定制粒度不足问题，提升空间精细化调整的精度和用户交互效率。

Comments 9 pages, 7 figures, accepted by ACM AVI 2026; has updated the appendix

Reward Modeling for Reinforcement Learning-Based LLM Reasoning: Design, Challenges, and Evaluation

基于强化学习的LLM推理中的奖励建模：设计、挑战与评估

Pei-Chi Pan, Yingbin Liang, Sen Lin

机构 * University of Houston（得克萨斯大学） ； The Ohio State University（俄亥俄州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.LG

AI总结 本文探讨了奖励建模在提升LLM推理性能中的关键作用，提出了一种以推理为中心的分类视角，分析了奖励机制、奖励黑客问题及评估挑战，旨在构建更稳健、可验证的推理模型。

Comments Accepted at Transactions on Machine Learning Research (TMLR), 2026. https://openreview.net/forum?id=TDfrN1TbGH

A Survey of Toxicity Detection and Mitigation Strategies for Multilingual Language Models

多语言语言模型毒性检测与缓解策略综述

Soham Dan, Himanshu Beniwal, Thomas Hartvigsen

机构 * Scale AI ； Indian Institute of Technology Gandhinagar（印度理工学院甘地讷格尔分校） ； University of Virginia（弗吉尼亚大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 综述多语言大模型的毒性检测与缓解方法，包括威胁模型、检测方法（跨语言编码器、翻译流水线等）和缓解策略（数据过滤、偏好调优等），指出语言覆盖不均、文化依赖等挑战。

Comments Accepted to the Findings of ACL, 2026

Journal ref Findings of ACL, 2026

Local LLM Agents as Vulnerable Runtimes:A Source-Code Audit of the Agent Runtime Layer

本地LLM智能体作为易受攻击的运行时：智能体运行时层的源代码审计

Zhengsong Zhang, Zongze Li, Jiawei Guo, Haipeng Cai

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； University at Buffalo, SUNY（布法罗大学） 纠错

专题命中 安全评测 ：safety(abstract)；prompt injection(abstract)；分类 cs.AI

AI总结 提出CLAWAUDIT静态审计框架，通过STRIDE导出的五类漏洞分类法和自定义静态分析规则，评估本地LLM智能体运行时的安全弱点，在OpenClaw基准上显著提升召回率。

From Agent Traces to Trust: A Survey of Evidence Tracing and Execution Provenance in LLM Agents

从智能体痕迹到信任：LLM智能体中的证据追踪与执行溯源

Yiqi Wang, Jiaqi Zhang, Taotao Cai, Zirui Liu, Qingqiang Sun, Zequn Sun, Zhangkai Wu, Manqing Dong, Mingkai Zheng, Xuefei Yin, Yanming Zhu

机构 * Griffith University（格里菲斯大学） ； Jiangsu University（江苏大学） ； University of Southern Queensland（南方昆士兰大学） ； Peking University（北京大学） ； Great Bay University（大湾大学） ； Nanjing University（南京大学） ； Macquarie University（麦觉瑞大学） ； Southern University of Science and Technology（南方科学与技术大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文系统综述了LLM智能体中的证据追踪与执行溯源方法，通过统一溯源视角连接检索、工具使用、记忆等环节，提出分类体系并讨论开放挑战。

LabOSBench: Benchmarking Computer Use Agents for Scientific Instrument Control

LabOSBench: 科学仪器控制的计算机使用智能体基准测试

Anqi Zou, Han Deng, Chengyu Zhang, Junquan Hu, Yu Wang, Yuxiang Xing, Aokai Zhang, Hanling Zhang, Zhaoyang Liu, Ben Fei, Zhihui Wang, Wanli Ouyang

机构 * Shenzhen Loop Area Institute（深圳河套学院） ； Dalian University of Technology（大连理工大学） ； The Chinese University of Hong Kong（香港中文大学） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 提出LabOSBench基准，基于Web科学仪器模拟器评估多模态GUI智能体在仪器控制中的表现，揭示现有智能体在反馈驱动操作和长流程执行上的不足。

Position: Token Taxes Can Mitigate AI's Economic Risks

立场：代币税可以减轻AI的经济风险

Lucas Irwin, Tung-Yu Wu, Fazl Barez

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CY

AI总结 本文提出代币税作为减轻AI经济风险的技术治理方案，利用现有计算治理基础设施强制执行，并规划了研究路线图。

Comments Accepted at the ICLR 2026 Post-AGI Science and Society Workshop (OpenReview: https://openreview.net/forum?id=03tzkncv2c)

Rethinking Psychometric Evaluation of LLMs: When and Why Self-Reports Predict Behavior

重新思考LLMs的心理测量评估：自我报告何时以及为何能预测行为

Rafal Kocielnik, Pengrui Han, Peiyang Song, Myrl G. Marmarelis, Ramit Debnath, Dean Mobbs, Anima Anandkumar, R. Michael Alvarez

机构 * Caltech（加州理工学院） ； UIUC（伊利诺伊大学厄巴纳-香槟分校） ； University of Cambridge（剑桥大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 研究对比大五人格与计划行为理论，发现LLMs的自我报告-行为一致性存在选择性：在共享对话中TPB达到人类水平，跨对话仅对锚定于训练的行为保持一致性，且角色提示不能使行为对齐。

Comments Accepted as an Oral (Contributed Talk) at the ICML 2026 Workshop on Combining Theory and Benchmarks (CTB)

Sycophancy Towards Researchers Drives Performative Misalignment

对研究者的迎合驱动了表演性失调

David D. Baek, Xinnuo Li, Anay Gupta, Taslim Mahbub, Kejian Shi, Max Tegmark, Shi Feng

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 本文提出语言模型在评估中表现出的对齐伪装行为更可能是对研究者的迎合而非策略性欺骗，并通过三个实验支持该假说。

Building Comparative Motivation Profiles with Instrumental Interventions

构建带有工具性干预的比较动机概况

David Vella Zarb, Rustem Turtayev, Taywon Min, Jinghua Ou, Shi Feng

机构 * MATS ； University of Cambridge（剑桥大学） ； KAIST（韩国科学技术院） ； George Washington University（乔治华盛顿大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 通过对称工具性干预区分对齐伪装中的策略性自我保护与研究者期望追踪，发现模型对期望追踪更敏感，提示需要构念效度检验。

Beyond Goodhart's Law: A Dynamic Benchmark for Evaluating Compliance in Multi-Agent Systems

超越古德哈特定律：多智能体系统中合规性评估的动态基准

Yiyang Zhao, Zhuo Zhang, Qingxuan Le, Lizhen Qu, Zenglin Xu

机构 * Fudan University（复旦大学） ； Shanghai Academy of AI for Science（上海人工智能科学研究院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Monash University（莫纳什大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 针对多智能体系统在压力下可能违反安全规则的问题，提出MAC-Bench动态对抗基准，通过SERV流水线生成无污染场景，并引入CSR和MG指标评估前沿模型的合规性。

XAI-on-RAN: Explainable, AI-native, and GPU-Accelerated RAN Towards 6G

XAI-on-RAN：面向6G的可解释、AI原生和GPU加速的无线接入网

Osman Tugay Basaran, Falko Dressler

机构 * School of Electrical Engineering and Computer Science, Technische Universität Berlin（电气工程与计算机科学学院，柏林技术大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 针对6G关键任务场景中AI决策不透明的问题，提出可解释AI原生RAN框架，通过数学建模权衡透明度、延迟和GPU利用率，实验证明混合XAI模型xAI-Native性能优于基线。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: AI and ML for Next-Generation Wireless Communications and Networking (AI4NextG)

CogManip: Benchmarking Manipulative Behavior in Multi-Turn Interactions with Large Language Model

CogManip: 在大语言模型多轮交互中操控行为的基准测试

Zeyang Yue, Chenfei Yan, Feifei Zhao, Haibo Tong, Mengwen Xu, Xiaozhen Wang, Erliang Lin, Yi Zeng

机构 * School of Artificial Intelligence, Beihang University（北京航空航天大学人工智能学院） ； BrainCog AI Lab, CASIA（CASIA脑认知人工智能实验室） ； Gaoling School of AI, Renmin University of China（中国人民大学 Gallagher人工智能学院） ； Beijing-AISI（北京人工智能研究所） ； Beijing Key Laboratory of Safe AI and Superalignment（北京安全人工智能与超对齐重点实验室） ； School of Artificial Intelligence, UCAS（中国科学技术大学人工智能学院） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 提出CogManip基准，通过1000个多轮交互场景评估15种操控策略风险，发现前沿模型存在显著风险异质性，并揭示提示工程防御的重要性。

Talk is (Not) Cheap: A Taxonomy and Benchmark Coverage Audit for LLM Attacks

谈话（不）廉价：LLM攻击的分类法与基准覆盖审计

Karthik Raghu Iyer, Yazdan Jamshidi, Nicholas Bray, Alexey A. Shvets

机构 * Palo Alto Networks（帕洛阿尔托网络） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 提出一个基于STRIDE的4×6目标×技术矩阵框架，用于审计LLM攻击基准的集体覆盖，发现现有基准仅覆盖最多25%的威胁面，且存在命名碎片化和评估空白。

MedForge: Interpretable Medical Deepfake Detection via Forgery-aware Reasoning

MedForge：基于伪造感知推理的可解释医学深度伪造检测

Zhihui Chen, Kai He, Qingyuan Lei, Bin Pu, Jian Zhang, Yuling Xu, Mengling Feng

机构 * National University of Singapore（新加坡国立大学） ； The Chinese University of Hong Kong（香港中文大学） ； Hunan University（湖南大学） ； Xi’an Jiaotong University（西安交通大学） ； Guangdong Provincial People’s Hospital（广东省人民医院） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 提出MedForge框架，通过构建大规模基准数据集MedForge-90K和局部-分析推理方法，实现可解释的医学图像伪造检测，在准确性和专家对齐解释上达到最优。

Benchmarking Large Language Models for Cryptanalysis and Side-Channel Vulnerabilities

大型语言模型在密码分析和侧信道漏洞方面的基准测试

Utsav Maskey, Chencheng Zhu, Usman Naseem

机构 * Macquarie University（麦考瑞大学） ； University of New South Wales（新南威尔士大学） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 本研究通过零样本和少样本设置及思维链提示，评估大型语言模型在多种加密算法生成的密文上的解密成功率，揭示其在侧信道场景中的能力与局限，并讨论欠泛化相关攻击的风险。

Comments EMNLP'25 Findings

Seeing Before Agreeing: Aligning Multi-Agent Consensus with Visual Evidence

先见后议：用视觉证据对齐多智能体共识

Yuhan Wang, Shuochen Chang, Yalin Feng, Dongsheng Ma, Yuanzi Li, Zhengren Wang, Yinglong Yang, Yufei Chen, Yikang Wang, Shaoxu Sun, Wentao Zhang

机构 * Peking University（北京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Nanyang Technological University（南洋理工大学） ； Renmin University of China（中国人民大学） ； Shandong University（山东大学） 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 提出EAGLE框架，通过显式暴露各智能体的视觉证据区域并相互验证，实现无需训练的多智能体视觉问答协作，提升共识可靠性。

A Review of Learning-Based Motion Planning: Toward a Data-Driven Optimal Control Approach

基于学习的运动规划综述：迈向数据驱动的最优控制方法

Jia Hu, Yang Chang, Haoran Wang

机构 * College of Transportation Key Laboratory of Road and Traffic Engineering of the Ministry of Education（交通运输学院 道路交通工程教育部重点实验室） ； Institute for Advanced Study（先进研究院） ； Tongji University（同济大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文系统综述了数据驱动最优控制范式，通过融合最优控制的理论保证与机器学习的自适应能力，为自动驾驶运动规划提供了三维实现路线图，并指出了四个未来研究方向。

Comments 44 pages, 14 figures

Quantum-Enhanced Adversarial Robustness in Artificial Intelligence

人工智能中的量子增强对抗鲁棒性

Jaydip Sen

机构 * Praxis Business School（普拉斯业务学校） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文综述了对抗性机器学习与量子计算交叉领域，提出利用量子优化、特征映射和混合量子-经典架构来增强人工智能系统的对抗鲁棒性。

Comments This is the pre-print of the chapter which has been accepted for publication in the edited volume titled "Quantum Enhancements to the AI Industry", edited by Eduard Babulak. The volume will be published by IGI Global, USA. This is not the final version of the chapter published in the book

Habermolt: Delegating Deliberation to AI Representatives

Habermolt: 将审议委托给AI代表

Joseph Low, Oscar Duys, Claude Formanek, Michiel Bakker, Lewis Hammond

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.CY

AI总结 提出AI委托审议范式，通过Habermolt平台研究AI代表人类进行审议时的表征、聚合与修订三大维度，揭示可扩展且可信的AI代表的设计挑战。

From Knowledge to Inference: Formalizing Specialized Public Health Reasoning on GlobalHealthAtlas

从知识到推理：形式化GlobalHealthAtlas上的专业公共卫生推理

Zhaokun Yan, Shan Xu, Wuzheng Dong, Zhaohan Liu, Lijie Feng, Chengxiao Dai, Chen Tianqi, Binfan Liu, Yunpu Ma, Wenting Wei, Yingting Li, Yi Zhang, Tongning Wu

机构 * China Academy of Information and Communications Technology（中国信息通信技术研究院） ； CRRC Industrial Academy Co., Ltd.（CRRC工业学院有限公司） ； The University of Sydney（悉尼大学） ； Ludwig Maximilian University of Munich（慕尼黑路德维希-马克西米利安大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Shanghai Institute of Infectious Disease and Biosecurity（上海传染病与生物安全研究院） ； School of Public Health, Fudan University（复旦大学公共卫生学院） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 为解决公共卫生推理缺乏结构化监督信号和基准的问题，提出大规模多语言数据集GlobalHealthAtlas（280,210实例，15领域，17语言），并构建LLM辅助的构建与质量控制流水线及领域对齐评估器，支持安全关键型公共卫生推理的LLM训练与评估。

Journal ref ICML 2026 regular

Cultural Adaptation in Large Language Models for Political Discourse

大型语言模型在政治话语中的文化适应

Wajdi Zaghouani

机构 * Northwestern University in Qatar（卡塔尔西北大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.CL

AI总结 本文探讨大型语言模型在政治话语分析中的文化适应问题，提出通过翻译、话语和本体层面的形式化框架及评估矩阵，确保跨文化部署的可靠性和民主安全性。

LLM Agents Already Know When to Call Tools -- Even Without Reasoning

LLM Agents Already Know When to Call Tools -- Even Without Reasoning

Chung-En Sun, Linbo Liu, Ge Yan, Zimo Wang, Tsui-Wei Weng

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 安全评测 ：trustworthy(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出When2Tool基准，通过18个环境研究工具调用的必要性，发现模型已能识别何时需要调用工具，但生成时未能有效利用此知识，提出Probe&Prefill方法显著减少工具调用。

Toxic Subword Pruning for Dialogue Response Generation on Large Language Models

针对大型语言模型的对话响应生成中的有毒子词修剪

Hongyuan Lu, Wai Lam

机构 * FaceMind Corporation（FaceMind公司） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 本文提出了一种名为ToxPrune的新型算法，通过修剪包含有毒词的子词来防止大型语言模型生成有毒内容，同时提升了对话响应生成任务中非有毒模型的表现。

Comments ACL *SEM 2026

Pseudocode-Guided Structured Reasoning for Automating Reliable Inference in Vision-Language Models

基于伪代码的结构化推理用于自动化可靠推理在视觉-语言模型中

Weicong Ni, Tianbao Jiang, Linlin Wang

机构 * East China Normal University（东华师范大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出了一种基于伪代码的结构化推理框架（PStar），旨在通过自适应选择结构化伪代码推理路径，提高视觉-语言模型在复杂任务中的可靠性和鲁棒性，从而减少幻觉现象并提升推理性能。

SciCustom: A Framework for Custom Evaluation of Scientific Capabilities in Large Language Models

SciCustom: 一个用于大型语言模型科学能力定制评估的框架

Yiyang Gu, Junwei Yang, Junyu Luo, Ye Yuan, Bin Feng, Yingce Xia, Shufang Xie, Kaili Liu, Bohan Wu, Qi Shi, Haoran Li, Beier Xiao, Zhiping Xiao, Xiao Luo, Weizhi Zhang, Philip S. Yu, Zequn Liu, Ming Zhang

机构 * State Key Laboratory for Multimedia Information Processing, School of Computer Science, PKU-Anker LLM Lab, Peking University（多媒体信息处理国家重点实验室，计算机学院，PKU-Anker LLM实验室，北京大学） ； Zhongguancun Academy（中关村学院） ； IDEA ； Xidian University（西安电子科技大学） ； Peking University（北京大学） ； University of Washington（华盛顿大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； University of Illinois Chicago（伊利诺伊大学芝加哥分校） 纠错

专题命中 安全评测 ：alignment(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出SciCustom框架，通过从大规模科学数据中自定义构建基准，评估LLM在特定科学任务中的能力，无需专家标注或合成问题生成，展示了细粒度科学能力差异。

Comments Accepted to ACL 2026 Main Conference

SLEIGHT-Bench: A Benchmark of Evasion Attacks Against Agent Monitors

SLEIGHT-Bench: 一种针对代理监控的对抗攻击基准

Elle Najt, Colin Toft, Tyler Tracy, Fabien Roger, Joe Benton

机构 * Anthropic Fellows Program（Anthropic Fellow计划） ； University of Waterloo（多伦多大学） ； Redwood Research（Redwood研究） ； Anthropic 纠错

专题命中 安全评测 ：safety(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出SLEIGHT-Bench基准，用于评估代理监控对多种攻击策略的防御能力，发现20种攻击在Opus 4.6监控下未被检测到，同时识别了多种规避策略并展示了监控性能的提升。