大模型对齐与安全

Mask-Proof: An LLM-based Automated Data Curation Pipeline on Mathematical Proofs

Mask-Proof: 一种基于LLM的数学证明自动数据整理流水线

Jierui Zhang, Siyuan Tan, Xinhang Li, Longzhuangzhi Lin, Dailin Li, Chengfeng Gu, Xinping Li, Yaxian Hao, Shengjia Liang, Yuxiang Ren, Wenhao Liu

机构 * School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院） ； Graduate College for Engineers, Beijing University of Posts and Telecommunications（北京邮电大学研究生院工程师学院） ； School of Mathematical Sciences, Fudan University（复旦大学数学科学学院） ； School of Cyberspace Security, Beijing University of Posts and Telecommunications（北京邮电大学网络空间安全学院） ； School of Computer Science and Technology, Dalian University of Technology（大连理工大学计算机科学与技术学院） ； Chu Kochen Honors College, Zhejiang University（浙江大学竺可桢学院） ； Department of Psychological and Cognitive Sciences, Tsinghua University（清华大学心理学与认知科学系） ； State Key Laboratory of Virtual Reality Technology and Systems, Beihang University（北京航空航天大学虚拟现实技术与系统国家重点实验室） ； School of Intelligence Science and Technology, Nanjing University（南京大学智能科学与技术学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 提出Mask-Proof流水线，将真实证明转化为可自动检查的掩码步骤任务，通过LLM等价性判断器评估模型推理，构建包含292个问题的基准，推理增强模型性能提升12%-27%。

ReportQA: QA-Based Radiology Report Evaluation

ReportQA: 基于问答的放射学报告评估

Yiming Shi, Shaoshuai Yang, Xi Chen, Haolin Li, Hengyu Zhang, Che Jiang, Kaiwen Wang, Xun Zhu, Dong Xie, Fei Wang, Dejing Dou, Miao Li, Ji Wu

机构 * Department of Electronic Engineering, Tsinghua University（清华大学电子工程系） ； College of AI, Tsinghua University（清华大学人工智能学院） ； Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心） ； Beijing Electronic Digital & Intelligence（北京电子数字与智能） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出ReportQA框架，利用知识树和LLM从报告中提取结构化信息生成QA对，以问答准确率作为评估指标，比现有指标更符合放射科医生判断。

Resilient Consensus in Agentic AI

智能体AI中的弹性共识

Sribalaji C. Anand, George J. Pappas

机构 * KTH（瑞典皇家理工学院） ； University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究LLM智能体在多智能体系统中的共识问题，发现经典弹性共识理论在LLM智能体中失效，但结合经典滤波器可改善一致性。

Combining Retrieval-Augmented Text Generation with LLMs for Reading Content Recommendations

结合检索增强文本生成与大型语言模型的阅读内容推荐

Sooyeon Kim, Piotr S. Maciąg

机构 * Institute of Computer Science, Warsaw University of Technology（计算机科学学院，华沙技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出结合检索增强生成（RAG）与大型语言模型的系统，通过四个模块实现个性化阅读内容生成，实验表明RAG将相关性和接地性提升26-35个百分点。

Teaching LLMs Program Semantics via Symbolic Execution Traces

通过符号执行轨迹教学LLM程序语义

Jonas Bayer, Stefan Zetzsche, Olivier Bouissou, Remi Delmas, Michael Tautschnig, Soonho Kong

机构 * University of Cambridge（剑桥大学） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文通过符号执行轨迹训练提升LLM对程序语义的理解，发现结合推理的训练显著提升了漏洞检测能力，且在不同属性类型上均有效。

BRITE: A Benchmark for Reliable and Interpretable T2V Evaluation on Implausible Scenarios

BRITE：面向不可信场景的可靠可解释文本到视频评估基准

Advait Tilak, Jiwon Choi, Nazifa Mouli, Wei Le

机构 * Department of Computer Science, Iowa State University, Ames, Iowa, USA（计算机科学系，爱荷华州立大学，爱荷华州阿姆斯，美国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出BRITE基准，通过人工参与协议统一不可信提示、细粒度音视频一致性评估和可解释QA评估，揭示现有模型在对象-动作绑定和音视频同步上的显著缺陷。

Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework

AI中涌现的策略推理风险：基于分类法的评估框架

Tharindu Kumarage, Lisa Bauer, Yao Ma, Dan Rosen, Yashasvi Raghavendra Guduri, Anna Rumshisky, Kai-Wei Chang, Aram Galstyan, Rahul Gupta, Charith Peris

机构 * Amazon Nova Responsible AI（亚马逊诺瓦负责任人工智能） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出ESRRSim框架，基于7类20子类的风险分类法，通过双评估标准自动评估LLM的策略推理风险，发现检测率在14.45%-72.72%之间，且模型代际提升显著。

EEG-FM-Bench: A Comprehensive Benchmark for the Systematic Evaluation and Diagnostic Analyses of EEG Foundation Models

EEG-FM-Bench：脑电图基础模型系统评估与诊断分析的综合基准

Wei Xiong, Jiangtong Li, Jie Li, Kun Zhu, Changjun Jiang

机构 * School of Computer Science and Technology, Tongji University, Shanghai, China（同济大学计算机科学与技术学院，上海，中国） ； Translational Research Center, Shanghai Yangzhi Rehabilitation Hospital (Shanghai Sunshine Rehabilitation Center), China（上海杨氏康复医院（上海阳光康复中心）转化研究中心，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出EEG-FM-Bench统一基准，整合14个数据集和10种范式，通过多种微调策略和诊断分析揭示多任务学习可缓解过拟合、预训练效率受梯度冲突限制、模型规模非唯一决定因素等关键发现。

Comments 36 pages, 30 figures, Accepted by ICML2026

CLASE: A Hybrid Method for Chinese Legalese Stylistic Evaluation

CLASE：一种中文法律文本风格评估的混合方法

Yiran Rex Ma, Yuxiao Ye, Huiyuan Xie

机构 * Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出CLASE混合方法，通过结合语言特征和经验指导的LLM评估，提升法律文本风格质量，实验表明其比传统方法更符合人类判断。

Comments Accepted at LREC 2026

Can We Stop Malicious AI? KILLBENCH: A Benchmark for External AI Kill Switch Feasibility

我们能阻止恶意AI吗？KILLBENCH：外部AI终止开关可行性基准

Sechan Lee, Hyounghun Kim, Sangdon Park

机构 * Graduate School of Artificial Intelligence, POSTECH（POSTECH人工智能研究生院） 纠错

专题命中 安全评测 ：jailbreak(abstract)；分类 cs.AI

AI总结 提出Killbench基准，通过外部信号（如输入文本）评估终止恶意AI代理行为的方法，无需访问内部参数，实验表明在多种模型上外部终止开关具有可行性。

Leveraging Expert Input for Robust and Explainable AI-Assisted Lung Cancer Detection in Chest X-rays

利用专家输入实现稳健且可解释的AI辅助肺癌检测

Amy Rafferty, Rishi Ramaesh, Ajitha Rajan

机构 * School of Informatics, University of Edinburgh（信息学院，爱丁堡大学） ； NHS Lothian（洛锡安国家健康服务） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文研究了基于InceptionV3的肺癌检测模型的可解释性和鲁棒性，提出ClinicXAI方法，通过专家驱动的思路生成临床相关解释，并在对抗攻击下表现出更强的鲁棒性。

Personal Care Utility: Health as Everyday Infrastructure

个人护理公用设施：健康作为日常基础设施

Mahyar Abbasian, Elahe Khatibi, Saba A. Farahani, Nitish Nagesh, Arshia Ilaty, Hooman Sajjadi, Amir Rahmani, Ramesh Jain

机构 * University of California, Irvine（加利福尼亚大学尔湾分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 提出个人护理公用设施（PCU）分层事件驱动架构，将健康视为日常基础设施，通过Personicle组织连续信号，分离临床决策与语言表达，以2型糖尿病为例验证其生成实时干预和知识引导的能力。

Comments 12 pages, 2 figures, 3 tables

LLMs Contain Multitudes: How Deployment Context Reshapes Model-Level Preferences and Values

LLM 蕴含多重性：部署上下文如何重塑模型层面的偏好与价值观

Filip Trhlik, Aoife O'Flynn, Angela Yu, Arduin Findeis, Paula Buttery

机构 * University of Cambridge（剑桥大学） ； ALTA Institute（ALTA研究所） ； Leverhulme Centre for the Future of Intelligence（勒沃霍姆未来智能中心） ； Microsoft UK（微软英国） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本研究通过两个成对比较范式（国家偏好排序和效用判断）发现，部署上下文（如撰写Reddit帖子或新闻文章）对LLM偏好和价值观的影响远大于提示改写和温度控制，表明模型层面的偏好是上下文依赖的。

Comments 68 pages, 54 figures, 54 tables

The Culture Funnel: You Can't Align What isn't in the Data

文化漏斗：你无法对齐不在数据中的内容

Ananya Sahu, Mehrnaz Mofakhami, Daniel D'Souza, Thomas Euyang, Julia Kreutzer, Marzieh Fadaee

机构 * Cohere Labs（Cohere实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对当前文化对齐方法依赖推理时干预而忽视训练数据的问题，提出文化数据漏斗概念，通过多维标签框架分析预训练、微调、对齐和推理数据集，发现后训练阶段文化信号急剧下降，多语言性虽增强地理多样性但未能确保平衡，所提标签可提升下游文化基准性能。

Exploring Systems-Thinking Approaches to Loss of Control Risk

探索系统思维方法应对失控风险

Aurelio Carlucci, Sean P. Fillingham, James Walpole, Jakub Kryś

专题命中 安全评测 ：safety(abstract)；分类 cs.CY

AI总结 本文运用STECA、STPA和FRAM三种系统安全方法分析前沿实验室编码智能体场景，发现模型级评估可能遗漏治理责任、反馈回路和操作变异等风险，主张将模型评估与系统级危害分析和操作保证相结合。

Comments Accepted to the Technical AI Governance Workshop at ICML 2026

Evaluation Sovereignty in Metadata-Driven Classification: A Multi-Track Framework for Weakly Supervised Information Systems

元数据驱动分类中的评估主权：面向弱监督信息系统的多轨道框架

Raymond Vasquez

机构 * Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对弱监督元数据系统中标签权威性影响评估有效性的问题，提出评估主权概念及多轨道评估框架，通过实验揭示模型性能在银标与金标评估下的显著差异，并重新定义评估有效性为系统级属性。

EPIG: Emotion-Based Prompting for Personalised Image Generation

EPIG：基于情感提示的个性化图像生成

Emna Othmen, Mohamed Yassine Landolsi, Lotfi Ben Romdhane

机构 * MARS Research Lab LR17ES05, ISITCom, University of Sousse（苏塞大学ISITCom学院MARS研究实验室LR17ES05） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出EPIG方法，利用心理学效价-唤醒模型在提示层面增强情感表达，无需训练即可控制生成图像的唤醒度，在10个多样化提示上平均唤醒误差降低14%-17%。

Comments Submitted to arXiv. 20 pages, 4 figures. Work on emotion-based prompt engineering for text-to-image diffusion models with applications in personalized image generation

MÖVE: A Holistic LLM Benchmark for the German Public Sector

MÖVE：德国公共部门的大语言模型整体基准

Camilla Dalerci, Thilo Michael, Robin Schaefer, Daniel Weinland

机构 * Innovations Department, Bundesdruckerei GmbH（德国联邦印钞公司创新部） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出MÖVE基准，从性能和治理两个维度评估39个LLM在德国公共部门的应用，发现无单一模型全面领先，模型大小非质量可靠指标。

No Hidden Prompts Needed! You Can Game AI Peer Review with Presentation-Only Revisions

无需隐藏提示！仅通过展示性修改即可欺骗AI同行评审

Xu Yang, Zhizhou Sha, Junbo Li, Jian Yu, Yifan Sun, Matthew Zhao, Jinrui Fang, Xinyue Guo, Yining Wu, Xu Hu, Yifu Luo, Qiang Liu, Zhangyang Wang

机构 * University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Texas at Dallas（德克萨斯大学达拉斯分校） ； Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.CL

AI总结 研究通过仅修改论文的展示层面（如摘要、贡献框架等）而不改变科学内容，利用AI评审反馈进行对抗性重打包，成功提升评分，揭示AI评审易被表面印象误导的结构性缺陷。

Comments 35 pages, 5 figures

A Machine Learning Framework for Real-Time Personalized Ergonomic Pose Analysis

一种用于实时个性化人体工学姿态分析的机器学习框架

Manex Atxa, Bruno Simoes, Julen Balzategui

机构 * Vicomtech Foundation（Vicomtech基金会） ； Basque Research and Technology Alliance（巴斯克研究与技术联盟） ； BRTA 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出利用三维体积视频数据实时预测人体工学/非工学姿态的方法，结合3D点云多角度分析与个性化深度学习分类器，克服固定视角遮挡问题，实现实时评估。

Comments 13 pages, 7 figures, conference 24CMH

SkillChain: Closing the Loop on Skill Evolution for Image-Based E-Commerce AI Assistants

SkillChain: 为基于图像的电商AI助手闭环技能演化

Yimin Hu, Mengtao Xu, Hao Guo, Yuheng Song, Xiaoyong Zhu, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出SkillChain框架，通过技能创建、路由优化和主体精炼三阶段自动化技能生命周期，解决电商图像助手多意图混淆问题，显著提升响应质量和用户参与度。

KCSAT-ML: Probing Reasoning Models with Nationwide-Cohort Human Difficulty

KCSAT-ML: 用全国队列人类难度探测推理模型

Sanghee Park, Geewook Kim, Kee-Eung Kim

机构 * NAVER Cloud AI（NAVER云AI） ； KAIST AI（韩国科学技术院人工智能系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出KCSAT-ML基准（含664道韩国高考数学题及339道带官方错误率的核心题）和难度对齐推理增益（DRG）指标，揭示视觉语言模型在人类高错误率题目上准确率崩溃、测试时缩放非单调以及同一模型族内反缩放与过度思考并存的现象。

Comments 18 pages, 14 figures, 8 tables

GenAutoML: An Agentic Framework for Dynamic Architecture Generation and Optimization in Time-Series Analysis

GenAutoML: 面向时间序列分析的动态架构生成与优化的智能体框架

Oleeviya Babu Poikarayil, Cédric Schockaert, Abdulrahman Nahhas, Christian Daase, Mursal Dawodi, Jawid Ahmad Baktash

机构 * Paul Wurth S.A.（保罗·沃思公司） ； Otto-von-Guericke University（奥托·冯·格里克大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 提出GenAutoML框架，利用大语言模型作为神经架构师，通过沙盒反射循环和签名感知运行时自动生成并优化时间序列预测与异常检测的神经网络架构，引入动态可逆实例归一化提升非平稳条件下的鲁棒性。

Comments 26 pages, 17 figures, 12 tables. Under review

Can Factual Opinions Be Edited (Manipulated) in Large Language Models?

大型语言模型中的事实性观点能否被编辑（操纵）？

Yuanpu Cao, Ziyi Yin, Fenglong Ma, Jinghui Chen

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出FOE基准测试，评估当前知识编辑技术对事实性观点（如公众人物立场）的操纵能力，并发现其仅能实现表面修改，无法保持观点与证据的一致性；进而提出自生成证据对齐方法实现观点-证据对齐。

Comments Accepted to the ACL 2026 Main Conference

Earth Science Foundation Models: From Perception to Reasoning and Discovery

地球科学基础模型：从感知到推理与发现

Xiangyu Zhao, Bo Liu, Yuehan Zhang, Zelin Song, Wanghan Xu, Feng Liu, Fengxiang Wang, Ben Fei, Fenghua Ling, Wangxu Wei, Wenlong Zhang, Xiao-Ming Wu

机构 * Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University（数据科学与人工智能系，香港理工大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文综述了地球科学基础模型，探讨了其从感知到多模态推理及科学发现的能力演进，并总结了其在大气、水圈、岩石圈等领域的广泛应用。

BLUEmed: Retrieval-Augmented Multi-Agent Debate for Clinical Error Detection

BLUEmed: 基于检索增强的多智能体辩论用于临床错误检测

Saukun Thika You, Nguyen Anh Khoa Tran, Wesley K. Marizane, Hanshu Rao, Qiunan Zhang, Xiaolei Huang

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 提出BLUEmed框架，结合混合检索增强生成与多智能体辩论，通过分解临床笔记、检索证据、专家辩论及安全层过滤，在术语替换错误检测中达到最优性能。

Comments Accepted to the IEEE International Conference on Healthcare Informatics (ICHI) 2026

BrainPro: Towards Large-scale Brain State-aware EEG Representation Learning

BrainPro：迈向大规模脑状态感知的脑电图表征学习

Yi Ding, Muyun Jiang, Weibang Jiang, Shuailei Zhang, Xinliang Zhou, Chenyu Liu, Shanglin Li, Yong Li, Cuntai Guan

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Advanced Telecommunications Research Institute International（先进电信研究院） ； Southeast University（东南大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 提出BrainPro模型，通过检索式空间对齐和脑状态解耦模块，学习共享与特定状态表征，在9个公共BCI数据集上取得最优性能。

Comments 31 pages, 11 figures

Seeing Below the Limit of Detection: A Censored-Poisson Bayesian Latent-Growth Change-Point Detector (the Span Detector) for Serial ctDNA in HR+/HER2- Metastatic Breast Cancer

检测限以下：用于HR+/HER2-转移性乳腺癌连续ctDNA的删失泊松贝叶斯潜在增长变点检测器（Span检测器）

Aarchi Singh Thakur, Abhijoy Sarkar

机构 * Span AI 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 提出Span检测器，利用删失泊松贝叶斯潜在增长变点模型处理ctDNA非检测作为左删失观测，通过序贯广义似然比统计量检测变异检测率上升点，在10%假警报率下将提前三个月捕获进展的比例从11%提升至25%。

Comments 9 pages, 4 figures, 2 tables. Code and synthetic data generator: https://github.com/span-ai-labs/span-detector

Should LLM Agents Decide in Social Simulations? Comparing Finite-State and LLM-Based Decision Policies

LLM智能体应在社会模拟中做决策吗？比较有限状态与基于LLM的决策策略

Alejandro Buitrago López, Javier Pastor-Galindo, José A. Ruipérez-Valiente

专题命中 安全评测 ：alignment(abstract)；分类 cs.CY

AI总结 研究评估LLM作为在线社交网络模拟中动作选择器时，是否保持可解释的参考策略，发现LLM在某些配置下可近似但不可靠地保持策略，且速度远慢于马尔可夫链采样。

AutoMine Solution for AV2 2026 Scenario Mining Challenge

AutoMine 解决方案：面向 AV2 2026 场景挖掘挑战

Songliang Cao, Jiele Zhao, Yuru Wang, Hao Li, Daqi Liu, Zehan Zhang, Fangzhen Li, Yu Wang, Yue Zhang, Bing Wang, Guang Chen, Hao Lu, Hangjun Ye

机构 * Xiaomi EV（小米汽车） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出基于 LLM 和 VLM 的自优化场景挖掘方法 AutoMine，通过语义保持提示增强、鲁棒轨迹原子函数与 VLM 函数结合以及执行反馈优化，在 CVPR 2026 挑战赛中取得领先性能。

Comments CVPR 2026 Scenario Mining Challenge (Temporal Track Winners)