大模型对齐与安全

Althea: Human-AI Collaboration for Fact-Checking and Critical Reasoning

Althea：面向事实核查和批判性推理的人机协作

Svetlana Churina, Kokil Jaidka, Anab Maulana Barik, Harshit Aneja, Cai Yang, Wynne Hsu, Mong Li Lee

机构 * Centre for Trusted Internet & Community (CTIC)（可信互联网与社区中心） ； National University of Singapore (NUS)（新加坡国立大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 Althea通过整合问题生成、证据检索和结构化推理，提升在线主张的核查效率与准确性，其在AVeriteC基准测试中达到宏F1值0.44，且在用户研究中显示指导性交互对短期准确性和长期改进均有显著影响。

MoCo: A One-Stop Shop for Model Collaboration Research

MoCo：模型协作研究的一站式解决方案

Shangbin Feng, Yuyang Bai, Ziyuan Yang, Yike Wang, Zhaoxuan Tan, Jiajie Yan, Zhenyu Lei, Wenxuan Ding, Weijia Shi, Haojin Wang, Zhenting Qi, Yuru Jiang, Heng Wang, Chengsong Huang, Yu Fei, Jihan Yao, Yilun Du, Luke Zettlemoyer, Yejin Choi, Yulia Tsvetkov

机构 * University of Washington（华盛顿大学） ； University of Notre Dame（诺特大学） ； University of Virginia（弗吉尼亚大学） ； New York University（纽约大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Harvard University（哈佛大学） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； University of California Irvine（加州大学尔湾分校） ； Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出MoCo库，提供26种模型协作方法及25个评估数据集，验证协作策略在多数场景下优于非协作模型，分析协作系统的有效性及未来研究方向。

Comments Moco is available at https://github.com/BunsenFeng/model_collaboration

Unified Multimodal Brain Decoding via Cross-Subject Soft-ROI Fusion

通过跨受体软ROI融合实现统一的多模态脑解码

Xuanyu Hu

机构 * The University of Manchester, Manchester, UK（曼彻斯特大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出BrainROI模型，通过软ROI融合和可解释提示优化，提升跨受体脑解码的泛化能力和描述质量，在NSD数据集上取得领先结果。

Comments 15 pages, 2 figures, 4 tables

Speculative Verification: Exploiting Information Gain to Refine Speculative Decoding

推测验证：利用信息增益来细化推测解码

Sungkyun Kim, Jaemin Kim, Dogyung Yoon, Jiho Shin, Junyeol Lee, Jiwon Seo

机构 * Hanyang University（翰阳大学） ； Seoul National University（首尔国立大学） ； KAIST（韩国科学技术院） ； Machine Learning Systems Lab（机器学习系统实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出推测验证(SV)，通过动态预测推测准确性并调整验证长度来提升推测解码效率，实验证明SV在多个NLP任务中显著优于SD和标准解码。

Comments 16 pages, 8 figures, accepted to ACL 2026 Findings

The Provenance Gap in Clinical AI: Evidence-Traceable Temporal Knowledge Graphs for Rare Disease Reasoning

临床AI中的溯源差距：用于罕见疾病推理的证据可追溯时间知识图谱

Md Shamim Ahmed, Maja Dusanic, Moritz Nikolai Kirschner, Elisabeth Nyoungui, Jana Zschüntzsch, Lukas Galke Poech, Richard Röttger

机构 * Department of Mathematics and Computer Science, University of Southern Denmark（丹麦南方大学数学与计算机科学系） ； Universitätsmedizin Göttingen（哥廷根大学医学中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出HEG-TKG系统，通过时间知识图谱提升临床推理的证据可追溯性，实现100%证据可验证性，同时保证安全性和完整性。

Comments 32 pages, 9 figures, 7 tables. Will submit to npj Digital Medicine. Supplementary materials included

DART: Mitigating Harm Drift in Difference-Aware LLMs via Distill-Audit-Repair Training

DART：通过蒸馏-审计-修复训练缓解差异意识LLM中的危害漂移

Ziwen Pan, Zihan Liang, Jad Kabbara, Ali Emami

机构 * Emory University（埃默里大学） ； MIT（麻省理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出DART方法，通过蒸馏、审计和修复训练缓解LLM中因准确性提升导致的危害漂移问题，提升模型在处理差异相关任务时的准确性和安全性。

Comments Accepted to Findings of ACL 2026

CapSeal: Capability-Sealed Secret Mediation for Secure Agent Execution

CapSeal：能力密封的秘密调解用于安全的代理执行

Shutong Jin, Ruiyi Guo, Ray C. C. Cheung

机构 * City University of Hong Kong（香港城市大学） ； Beijing Foreign Studies University（北京外国语大学） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI

AI总结 CapSeal通过本地可信代理限制秘密访问，解决代理执行中秘密泄露问题，提供非导出动作能力。

Comments 11 pages, 5 figures. Research preprint on secure secret mediation for agent systems

Large language models for post-publication research evaluation: Evidence from expert recommendations and citation indicators

基于大语言模型的发表后研究评估：专家推荐与引用指标的证据

Mengjia Wu, Yi Zhang, Robin Haunschild, Lutz Bornmann

机构 * Australian Artificial Intelligence Institute, Faculty of Engineering and Information Technology, University of Technology Sydney（澳大利亚人工智能研究所，工程与信息科技学院，新南威尔士大学） ； Max Planck Institute for Solid State Research（马克斯·普朗克固体物理研究所） ； Science Policy and Strategy Department, Administrative Headquarters of the Max Planck Society（马克斯·普朗克学会科学政策与战略部门，行政总部） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文探讨大语言模型在发表后同行评审中的应用，通过专家判断和引用指标对比，发现其在粗粒度评估中表现良好，但在细粒度评分上效果下降，监督微调效果最佳。

AgriIR: A Scalable Framework for Domain-Specific Knowledge Retrieval

AgriIR：一个可扩展的领域特定知识检索框架

Shuvam Banerji Seal, Aheli Poddar, Alok Mishra, Dwaipayan Roy

机构 * Indian Institute of Science Education ； Research, Kolkata, India Institute of Engineering \& Management, Kolkata, India , , , Contributed equally 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 AgriIR通过模块化设计实现领域特定知识检索，结合大语言模型与自适应检索器，确保在资源受限下提供可信答案，推动农业领域的AI应用。

Comments Accepted at ECIR 2026

VeriEquivBench: An Equivalence Score for Ground-Truth-Free Evaluation of Formally Verifiable Code

VeriEquivBench：一种无需真实地面真相的正式可验证代码评估等价分数

Lingfei Zeng, Fengdi Che, Xuhan Huang, Fei Ye, Xu Xu, Binhang Yuan, Jie Fu

机构 * Huazhong University of Science and Technology（华中科技大学） ； University of Alberta（阿尔伯塔大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Hong Kong University of Science and Technology（香港科技大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出VeriEquivBench，通过2389个复杂算法问题评估正式可验证代码的生成与推理能力，揭示当前LLM在生成正式规范和代码方面的挑战，推动可扩展可靠编码代理的发展。

Downgrade to Upgrade: Optimizer Simplification Enhances Robustness in LLM Unlearning

降级到升级：优化器简化增强了大语言模型去学习的鲁棒性

Yicheng Lang, Yihua Zhang, Chongyu Fan, Changsheng Wang, Jinghan Jia, Sijia Liu

机构 * The OPTML Lab, Dept. CSE, Michigan State University（奥普特ML实验室，计算机科学与工程系，密歇根州立大学） ； MIT-IBM Watson AI Lab, IBM Research（MIT-IBM沃森人工智能实验室，IBM研究院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文研究优化器对大语言模型去学习鲁棒性的影响，发现降级优化器能提升鲁棒性，提出混合优化器提升去学习效果。

Aligning Language Models with Real-time Knowledge Editing

对齐语言模型与实时知识编辑

Chenming Tang, Yutong Yang, Kexue Wang, Yunfang Wu

机构 * National Key Laboratory for Multimedia Information Processing, Peking University School of Computer Science, Peking University（国家多媒体信息处理重点实验室，北京大学计算机学院，北京大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出CRAFT动态知识编辑数据集及KEDAS方法，通过多样编辑增强和自适应推理提升知识编辑性能，推动从静态更新向动态演化转变。

Comments Accepted to ACL 2026 (main conference)

Do Vision-Language Models Truly Perform Vision Reasoning? A Rigorous Study of the Modality Gap

视觉-语言模型真的能进行视觉推理吗？一种对模态差距的严格研究

Yige Xu, Yongjie Wang, Zizhuo Wu, Kaisong Song, Jun Lin, Zhiqi Shen

机构 * College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算机与数据科学学院，新加坡） ； Alibaba-NTU Global e-Sustainability CorpLab (ANGEL)（阿里巴巴-国立大学全球可持续发展公司实验室（ANGEL）） ； Tongyi Lab, Alibaba Group, China（阿里云实验室，阿里巴巴集团，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过CrossMath基准测试，发现视觉-语言模型在文本输入时表现优异，但加入图像信息后推理性能下降，表明其推理主要依赖文本空间，而非真实视觉证据。

When Cultures Meet: Multicultural Text-to-Image Generation

当文化相遇：多文化文本到图像生成

Parth Bhalerao, Mounika Yalamarty, Brian Trinh, Oana Ignat

机构 * Santa Clara University（圣克拉拉大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出多文化文本到图像生成任务，构建首个评估基准，分析先进模型在多文化场景下的表现，提出MosAIG框架提升图像生成质量与文化准确性。

UniEditBench: A Unified and Cost-Effective Benchmark for Image and Video Editing via Distilled MLLMs

UniEditBench: 一种统一且成本效益高的图像和视频编辑基准，通过压缩的多模态大语言模型

Lifan Jiang, Tianrun Wu, Yuhang Pei, Chenyang Wang, Boxi Wu, Deng Cai

机构 * Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 UniEditBench提出统一的图像和视频编辑基准，支持基于重建和指令驱动的方法，通过压缩的多模态大语言模型提供多维评分，减少部署成本并提高评估效率。

SatBLIP: Context Understanding and Feature Identification from Satellite Imagery with Vision-Language Learning

SatBLIP：基于卫星影像的视觉-语言学习用于农村环境理解和特征识别

Xue Wu, Shengting Cao, Shenglin Li, Jiaqi Gong

机构 * The University of Alabama（阿拉巴马大学） ； Knox College（克诺克斯学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 SatBLIP通过结合对比图像-文本对齐与定制化卫星语义描述，提升农村风险环境的可解释性分析，预测县级社会脆弱性指数。

AI-Assisted Requirements Engineering: An Empirical Evaluation Relative to Expert Judgment

人工智能辅助的需求工程：与专家判断的实证评估

Oz Levy, Ilya Dikman, Natan Levy, Michael Winokur

机构 * Faculty of Industrial Engineering and Technology Management, Holon Institute of Technology (HIT)（工业工程与技术管理学院，霍隆理工学院（HIT）） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过对比AI辅助与专家评估，探讨AI在需求质量评估中的作用，证明其在一致性与快速性上的优势，但强调专家判断在上下文解释中的必要性。

Comments 13 pages, 7 Figures

QuantCode-Bench: A Benchmark for Evaluating the Ability of Large Language Models to Generate Executable Algorithmic Trading Strategies

QuantCode-Bench: 一个用于评估大型语言模型生成可执行算法交易策略能力的基准

Alexey Khoroshilov, Alexey Chernysh, Orkhan Ekhtibarov, Nini Kamkia, Dmitry Zmitrovich

机构 * Lime 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出QuantCode-Bench，通过多阶段流程评估现代LLM生成Backtrader框架策略的能力，包含400个不同难度任务，分析模型在交易逻辑、API使用和任务语义方面的局限性。

Comments 12 pages, 8 tables

Blinded Multi-Rater Comparative Evaluation of a Large Language Model and Clinician-Authored Responses in CGM-Informed Diabetes Counseling

盲评大型语言模型与临床医生撰写的回应在连续葡萄糖监测指导下的糖尿病咨询

Zhijun Guo, Alvina Lai, Emmanouil Korakas, Aristeidis Vagenas, Irshad Ahamed, Christo Albor, Hengrui Zhang, Justin Healy, Kezhi Li

机构 * Institute of Health Informatics, University College London（健康信息学研究所，伦敦大学学院） ； University College London Hospitals NHS Foundation Trust（伦敦大学学院医院 NHS 基础信托） ； Dartford and Gravesham NHS Foundation Trust（达特福德和格拉夫萨姆 NHS 基础信托） ； Royal Free London NHS Foundation Trust（伦敦皇家自由 NHS 基础信托） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文通过盲评评估了基于检索的大型语言模型对话代理与临床医生撰写的回应在连续葡萄糖监测指导下的糖尿病咨询中的表现，发现对话代理在同理心和可操作性方面得分更高。

OccuBench: Evaluating AI Agents on Real-World Professional Tasks via Language Environment Simulation

OccuBench：通过语言环境模拟评估AI代理在真实世界专业任务中的表现

Xiaomeng Hu, Yinger Zhang, Fei Huang, Jianhong Tu, Yang Su, Lianghao Deng, Yuxuan Liu, Yantao Liu, Dayiheng Liu, Tsung-Yi Ho

机构 * Qwen Team, Alibaba Group（通义实验室，阿里巴巴集团） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 OccuBench通过语言环境模拟评估AI代理在100个真实世界专业任务场景中的表现，涵盖10个行业类别和65个专业领域，发现大模型、新版本和高推理能力提升性能，但强代理不等于强环境模拟器。

Comments 23 pages, 8 figures, 2 tables. Project page: https://gregxmhu.github.io/OccuBench-website/

Pangu-ACE: Adaptive Cascaded Experts for Educational Response Generation on EduBench

Pangu-ACE：适应性级联专家用于EduBench教育响应生成

Dinghao Li, Wenlong Zhou, Zhimin Chen, Yuehan Peng, Hong Ni, Chengfu Zou, Guoyu Shi, Yaochen Li

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 Pangu-ACE通过级联专家系统提升教育响应质量，在EduBench基准上实现更高效的计算分配，改进确定性和格式有效性，同时保持较低的直接请求比例。

DR$^{3}$-Eval: Towards Realistic and Reproducible Deep Research Evaluation

DR$^{3}$-Eval: 向真实和可重复的深度研究评估迈进

Qianqian Xie, Qingheng Xiong, He Zhu, Tiantian Xia, Xueming Han, Fanyu Meng, Jiakai Wang, Zhiqi Bai, Chengkang Jiang, Zhaohui Wang, Yubin Guo, Yuqing Wen, Jiayang Mao, Zijie Zhang, Shihao Li, Yanghai Wang, Yuxiang Ren, Junlan Feng, Jiaheng Liu

机构 * Nanjing University（南京大学） ； M-A-P ； Jiutian Research（九天研究） ； National University of Singapore（新加坡国立大学） ； Nanjing University of Science and Technology（南京理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出DR$^{3}$-Eval基准，用于评估多模态多文件报告生成的深度研究代理，通过真实用户材料和静态研究沙盒语料结合，引入多维评估框架，验证其与人类判断的一致性。

From Risk to Rescue: An Agentic Survival Analysis Framework for Liquidation Prevention

从风险到救援：一种用于防止清算的代理生存分析框架

Fernando Spadea, Oshani Seneviratne

机构 * Rensselaer Polytechnic Institute（拉特格斯理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种基于生存分析的代理框架，通过预测和执行干预主动防止清算，引入返回期指标和趋势分数以优化资本效率，验证结果表明其能有效预防高风险场景下的清算。

Scouting By Reward: VLM-TO-IRL-Driven Player Selection For Esports

通过奖励进行 scouting：由 VLM-TO-IRL 驱动的电子竞技玩家选拔

Qing Yan, Wenyu Yang, Yufei Wang, Wenhao Ma, Linchong Hu, Yifei Jin, Anton Dahbura

机构 * Johns Hopkins University（约翰霍普金斯大学） ； University of Pennsylvania（宾夕法尼亚大学） ； Cornell University（康奈尔大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种基于逆强化学习的电子竞技玩家选拔框架，通过学习专业选手的奖励函数，利用多模态双分支架构和 GAIL 目标实现玩家风格匹配评估，提升人才发现效率。

The Autocorrelation Blind Spot: Why 42% of Turn-Level Findings in LLM Conversation Analysis May Be Spurious

自相关盲区：为什么LLM对话分析中42%的回合级发现可能是虚假的

Ferdinand M. Schessl

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文研究了LLM对话分析中回合级指标的自相关性，发现42%的显著关联在集群稳健校正后不显著，提出两阶段校正框架以减少统计显著性膨胀。

Comments 14 pages, 3 figures, 5 tables, 1 algorithm. Code and synthetic demonstration data: https://github.com/ferdinandschessl-boop/autocorrelation-correction

NuHF Claw: A Risk Constrained Cognitive Agent Framework for Human Centered Procedure Support in Digital Nuclear Control Rooms

NuHF Claw：一种面向数字核控制室的人本流程支持的风险约束认知代理框架

Xingyu Xiao, Jiejuan Tong, Jun Sun, Zhe Sui, Peng Chen, Jingang Liang, Haitao Wang

机构 * Institute of Nuclear and New Energy Technology, Tsinghua University（清华大学核能与新能源技术研究院） ； National Key Laboratory of Human Factors Engineering（人因工程国家重点实验室） ； Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出NuHF Claw框架，通过风险约束代理运行时，将认知状态推断与概率安全评估结合，实现实时自主系统行为调控，提升核控制室操作安全性。

The Validity Gap in Health AI Evaluation: A Cross-Sectional Analysis of Benchmark Composition

健康AI评估中的有效性缺口：基准组成的横断面分析

Alvin Rajkomar, Pavan Sudarshan, Angela Lai, Lily Peng

机构 * Apple（苹果公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究指出当前健康AI基准测试在临床需求与实际应用间存在有效性缺口，缺乏真实临床数据和脆弱群体代表，需建立标准化查询分析以提升评估准确性。

IF-RewardBench: Benchmarking Judge Models for Instruction-Following Evaluation

IF-RewardBench：用于指令遵循评估的评判模型基准测试

Bosi Wen, Yilin Niu, Cunxiang Wang, Xiaoying Ling, Ying Zhang, Pei Ke, Hongning Wang, Minlie Huang

机构 * The Conversational Artificial Intelligence (CoAI) Group, Tsinghua University（清华大学对话人工智能（CoAI）小组） ； Zhipu AI（智谱AI） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出IF-RewardBench，一个全面的指令遵循元评估基准，通过构建偏好图评估评判模型的排序能力，揭示现有模型缺陷，并展示其在下游任务中的更强相关性。

Comments ACL 2026

IMACT-CXR: An Interactive Multi-Agent Conversational Tutoring System for Chest X-Ray Interpretation

IMACT-CXR：一种用于胸部X光解读的交互式多智能体对话教学系统

Tuan-Anh Le, Anh Mai Vu, David Yang, Akash Awasthi, Hien Van Nguyen

机构 * University of Houston（德克萨斯大学休斯敦分校） ； Emory University（埃默里大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 IMACT-CXR通过整合空间标注、注视分析、知识检索和图像基础推理，构建了一个基于AutoGen的工作流，帮助学员提升胸部X光解读能力，实现了精准的教学反馈与知识强化。

Comments Accepted at IEEE ISBI 2026. This version corresponds to the accepted manuscript

Language Model as Planner and Formalizer under Constraints

语言模型作为规划器和形式化工具的约束下

Cassie Huang, Stuti Mohan, Ziyi Yang, Stefanie Tellex, Li Zhang

机构 * Drexel University（德雷塞尔大学） ； Brown University（布朗大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 研究通过引入细粒度自然语言约束，揭示语言模型在规划任务中的性能下降，指出其鲁棒性不足及未来研究方向。

Comments In ACL 2026 main conference