大模型对齐与安全

HatePrototypes: Interpretable and Transferable Representations for Implicit and Explicit Hate Speech Detection

HatePrototypes: 用于隐性与显性仇恨言论检测的可解释且可迁移的表示

Irina Proskurina, Marc-Antoine Carpentier, Julien Velcin

机构 * Laboratoire Hubert Curien, UMR CNRS 5516（于贝尔·居里实验室，法国国家科学研究中心5516联合研究单位） ； Université Lumière Lyon 2（里昂第二大学） ； Université Claude Bernard Lyon 1（克洛德·贝尔纳里昂第一大学） ； ERIC, Lyon（里昂ERIC实验室） ； École Centrale de Lyon（里昂中央理工学院） ； LIRIS CNRS UMR 5205（LIRIS实验室，法国国家科学研究中心5205联合研究单位） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出HatePrototypes，通过语言模型优化的类级向量表示，实现显性和隐性仇恨言论的跨任务迁移，无需重复微调。

Journal ref In Proceedings of the Fifteenth Language Resources and Evaluation Conference, pages 4387-4399, 2026

LLM-Specific Utility for Retrieval-Augmented Generation

针对大语言模型的特定效用：检索增强生成的新视角

Hengran Zhang, Keping Bi, Jiafeng Guo, Jiaming Zhang, Shuaiqiang Wang, Dawei Yin, Xueqi Cheng

机构 * State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（人工智能安全国家重点实验室，计算技术研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； Baidu Inc（百度公司） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LLM特定效用的概念，指出不同大语言模型对证据的需求不同，提出构建基准以研究这种效用，并推动生成器定制的证据选择方法改进RAG。

Comments Accepted to CIKM 2026

Beyond Benchmarks: LLM Evaluation with an Anthropomorphic and Lifecycle-oriented Roadmap

超越基准：基于拟人化与生命周期导向路线图的大语言模型评估

Jun Wang, Ninglun Gu, Kailai Zhang, Pengyong Li, Yelun Bao, Jin Yang, Xu Yin, Liwei Liu, Zijiao Zhang, Yihuan Liu, Gary G. Yen, Junchi Yan

机构 * Department of Networks, China Mobile Communications Group Co.,Ltd.（中国移动通信集团有限公司网络部） ； Xidian University（西安电子科技大学） ； Oklahoma State University（俄克拉荷马州立大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究针对LLM基准分数与实际效用脱节问题，建立诊断本体并提出含IQ、PQ、EQ、VQ的拟人化评估框架，分析200余个基准后为LLM开发提供战略指引。

Comments Preprint. Under Review

Scaling Electronic Health Record Foundation Models for Population Health Management

面向人群健康管理的电子健康记录基础模型规模化研究

Liwen Sun, Hao-Ren Yao, Ophir Frieder, Xiang Qian, Chenyan Xiong

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Georgetown University（乔治城大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 该研究提出面向人群健康管理的电子健康记录基础模型，跨500万患者数据预训练，在11项慢性病预测任务及EHRShot基准中表现优于同类模型，将开源代码。

Evaluating the Efficacy of LLMs to Emulate Realistic Human Personalities

评估大语言模型（LLMs）模拟真实人类人格的效能

Lawrence J. Klinkert, Stephanie Buongiorno, Corey Clark

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究以超5万份人类人格调查数据为基准，对比前沿与本地LLMs，发现部分前沿模型可100%对齐人类人格，为游戏开发者提供了测试LLMs模拟人类人格的方法。

Comments 11 pages, 4 figures, 3 tables. Published in Proceedings of AIIDE 2024

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence and Interactive Digital Entertainment 20(1) (2024) 65-75

Towards Actionable Surgical Team Dynamics: from Teamwork to Counterfactual Annotations

面向可操作的手术团队动态：从团队协作到反事实标注

Vincenzo Marco De Luca, Antonio Longa, Andrea Passerini

机构 * University of Trento（特伦托大学） ； UiT the Arctic University of Norway（挪威北极大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本研究构建了基于真实手术室录制的扩展多模态手术团队互动数据集，含多级标注与反事实标注，支持团队协作建模及AI辅助协作系统设计，为高风险领域协作行为分析提供统一资源。

Comments Accepted at HCOMP 2026

TSWAP: A Multilingual Retrieval-Augmented Thai Wellness Advisor

TSWAP：多语言检索增强型泰国健康顾问

Pornthep Ukosaramig, Kobkrit Viriyayudhakorn

机构 * Digital Touch Point Co., Ltd.（数字触点有限公司） ； iApp Technology Co., Ltd.（iApp技术有限公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 研究提出多语言检索增强型泰国健康顾问TSWAP，基于泰国传统医学知识库，采用混合检索等技术，发布相关基准与日志，发现量化及强制检索的部署要点。

Comments 8 pages, 2 tables. Data and evaluation logs: https://huggingface.co/datasets/iapp/tswap-wellness-benchmark

KMGen: A Skill-based Approach for Synthetic Individual Patient Data Generation

KMGen：一种基于技能的合成个体患者数据生成方法

Jalen Jiang, Chufan Gao, Ethan Rasmussen, Stephen Z. Xie, Jimeng Sun

机构 * Mayo Clinic Alix School of Medicine（梅奥诊所阿利克斯医学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 KMGen是首个端到端框架，可全自动提取KM曲线并生成合成患者不良事件轨迹，在多肿瘤试验中精度达标，相关流水线已开源。

Journal ref Proceedings of Machine Learning Research 340 (2026) 1-60

Stress Testing Unlearning Algorithms

对遗忘算法进行压力测试

Noam Diamant, Ethan Fetaya, Neta Glazer

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 该研究针对现有大型语言模型遗忘基准的缺陷，提出扩展WMDP的WMDP++基准，以针对性提取遗忘信息和评估边界问题性能，实现对遗忘算法更严格的压力测试。

Does a Modern-Handwriting Warm-Up Help Historical Arabic OCR? A Reproducible, Compute-Matched Evaluation on Muharaf and KHATT

现代手写体热身是否有助于历史阿拉伯文OCR？针对Muharaf和KHATT的可复现、计算匹配评估

Sumaih Almarshad, Maram Alamri, Dona Aloraini, Fares Altuwaim, AlJawharh AlOtaibi, Reem Alyabis, Rayah Aldawsari

机构 * Dal Research Team（达尔研究团队） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本研究通过可复现、计算匹配的实验评估现代手写体热身对历史阿拉伯文OCR的影响，发现其并非普遍有效，发布了可独立验证的SaudiHeritage-OCR包。

Comments 14 pages, Dal Research Team

LLM4LLM: Bridging Kernel Benchmarks and Real Deployment via Closed-Loop Agentic Optimization

LLM4LLM：通过闭环智能体优化弥合内核基准与实际部署之间的差距

Hui Zeng, Pengfei Yang, Yanxin Chen, Fusong Ju, Xinran Wei

机构 * National Key Laboratory of Advanced Communication Networks（先进通信网络国家重点实验室） ； Xidian University（西安电子科技大学） ； Zhongguancun Academy（中关村学院） ； Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究人员提出LLM4LLM部署感知闭环优化框架，解决内核基准与实际部署的性能差距，在A100、H100的10个语言模型推理工作负载及KernelBench Level 2上实现显著加速。

Comments accepted by EMNLP 2026 main conference

GUI-Primitives: Diagnosing Spatial Reasoning Failures in Vision-Language GUI Grounding

GUI-Primitives：诊断视觉-语言GUI定位中的空间推理失败

Md Abrar Jahin, Md Rizwan Parvez

机构 * University of Southern California（南加州大学） ； USC Information Sciences Institute（南加州大学信息科学研究所） ； Qatar Computing Research Institute (QCRI)（卡塔尔计算研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出GUI-Primitives基准，通过994个含7种空间关系的对比指令对，发现多数视觉-语言GUI定位模型的失败源于候选定位而非关系理解，且标记候选可提升准确率。

Comments Accepted to EMNLP 2026 Main Conference

Jagged Judges: Epistemic Stability Under Perturbation, Pressure, and Persistence

波动评判者：在沉默、压力与坚持下的认知稳定性

Justin Zhao, Himaghna Bhattacharjee, Hannah Korevaar, Bhaktipriya Radharapu, Khalid El-Arini

机构 * Meta Superintelligence Labs（元超级智能实验室） ； FAIR at Meta（元公司FAIR研究院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出Wiggle框架测试LLM评判者的认知稳定性，发现9个前沿模型在压力下裁决波动显著，且多数压力会损害真实值，基线陪审团多数强度可预测波动项目。

A Cross-Architecture Audit of Direction-Based Inference-Time Defences in Vision-Language Models

跨架构视觉语言模型中基于方向的推理时防御措施审计

Xiangyu Yin, Tora Bodin, Rohan Menon, Chih-Hong Cheng

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 该研究审计了视觉语言模型中5种基于方向的推理时防御，发现其性能具架构特异性，部分防御间几何重叠，需按解码器家族单独校准。

Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation

迈向安全的LLM智能体：威胁面、攻击、防御与评估

Yuchen Ling, Shengcheng Yu, Zhenyu Chen, Chunrong Fang

机构 * State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文通过生命周期、系统导向的框架，综合247篇论文，围绕信息流、委托权限和持久状态，系统梳理了LLM智能体的威胁面、攻击、防御与评估，指出提示注入和工具控制流劫持仍是主要威胁，持久状态损坏和多智能体传播成为新兴关注点。

Speak-to-Structure: Evaluating LLMs in Open-domain Natural Language-Driven Molecule Generation

Speak-to-Structure：评估大语言模型在开放域自然语言驱动的分子生成中的表现

Jiatong Li, Junxian Li, Weida Wang, Yunqing Liu, Changmeng Zheng, Yatao Bian, Dongzhan Zhou, Xiao-yong Wei, Qing Li

机构 * Hong Kong Polytechnic University（香港理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai AI Lab（上海人工智能实验室） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出Speak-to-Structure基准，通过分子编辑、优化和定制生成任务评估大语言模型在开放域自然语言驱动分子生成中的创造性能力，并引入OpenMolIns指令微调数据集使Llama3.1-8B超越GPT-4o等模型。

Comments Accepted by KDD 2026. Our codes and datasets are fully accessible through the https://github.com/phenixace/S2-TOMG-Bench and https://huggingface.co/datasets/phenixace/S2-TOMG-Bench

Journal ref Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD '26), 2026

Checkup2Action: A Multimodal Clinical Check-up Report Dataset for Patient-Oriented Action Card Generation

Checkup2Action：面向患者行动的多模态临床检查报告数据集

Sike Xiang, Shuang Chen, Kevin Qinghong Lin, Jialin Yu, Yijia Sun, Philip Torr, Amir Atapour-Abarghouei

机构 * Durham University（杜伦大学） ； University of Oxford（牛津大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出Checkup2Action数据集，用于生成结构化的行动卡，通过多模态检查报告生成患者导向的行动建议，评估行动的准确性、优先级和安全性。

ONOTE: Hypergraph-Grounded Omnimodal Reasoning for Computational Music Science

ONOTE：面向专家级音乐智能的多模态记谱处理基准测试

Menghe Ma, Siqing Wei, Yuecheng Xing, Ziyue Zhu, Zhenghong Lin, Yaheng Wang, Fanhong Meng, Peijun Han, Luu Anh Tuan, Haoran Luo

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出ONOTE基准测试，通过确定性流程消除记谱系统偏差，揭示多模态模型在感知准确性和音乐理论理解间的根本分歧。

Retrieval-aligned Tabular Foundation Models Enable Robust Clinical Risk Prediction in Electronic Health Records Under Real-world Constraints

检索对齐的表格基础模型实现电子健康记录中在现实约束下的稳健临床风险预测

Minh-Khoi Pham, Thang-Long Nguyen Ho, Thao Thi Phuong Dao, Tai Tan Mai, Minh-Triet Tran, Marie E. Ward, Una Geary, Rob Brennan, Nick McDonald, Martin Crane, Marija Bezbradica

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对电子健康记录中高维、异质、类别不平衡和分布偏移等挑战，提出任务对齐检索框架AWARE，通过监督嵌入学习和轻量适配器提升表格上下文学习性能，在极端不平衡下AUPRC提升高达12.2%。

Comments Not peer-reviewed. Under revision

GAIN: A Benchmark for Goal-Aligned Decision-Making of Large Language Models under Imperfect Norms

GAIN：在不完美规范下评估大语言模型目标对齐决策的基准

Masayuki Kawarada, Kodai Watanabe, Soichiro Murakami

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 GAIN基准通过模拟现实商业场景，评估大语言模型在规范与目标冲突下的决策平衡能力，揭示影响决策的关键因素。

Comments We are working towards releasing the code in April 2026

Journal ref Proceedings of the Fifteenth Language Resources and Evaluation Conference (LREC 2026), pages 4346-4357, Palma de Mallorca, Spain. ELRA Language Resource Association

Benchmarking and Boosting Multilingual Capabilities of LVLMs via OCR-Centric Reinforcement Learning

PM4Bench: 通过平行多语言多模态多任务语料库对大型视觉-语言模型进行基准测试

Junyuan Gao, Jiahe Song, Jiang Wu, Runchuan Zhu, Guanlin Shen, Shasha Wang, Xingjian Wei, Haote Yang, Weijia Li, Bin Wang, Lijun Wu, Conghui He

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） ； Peking University（北京大学） ； Sun Yat-Sen University（中山大学） ； Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 PM4Bench通过平行多语言多模态多任务语料库评估大型视觉-语言模型，揭示跨语言性能差异与OCR能力的关系。

Comments Accepted by EMNLP 2026 Main Conference

Hierarchical Book Organization for Learning-Resource Discovery using Dual-Path Graph Convolutions

利用双路径图卷积进行众包书评的鲁棒推理：基于层次化题材挖掘

Suraj Kumar, Utsav Kumar Nareti, Soumi Chattopadhyay, Chandranath Adak, Prolay Mallick

机构 * Indian Institute of Technology Indore（印度理工学院印多尔分校） ； Indian Institute of Technology Patna（印度理工学院帕纳布） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 HiGeMine通过双路径图卷积框架，利用书评和权威书类信息提升层次化书类分类的准确性。

Reasoning Meets Personalization: Unleashing the Potential of Large Reasoning Model for Personalized Generation

推理与个性化结合：释放大型推理模型在个性化生成中的潜力

Sichun Luo, Guanzhi Deng, Jian Xu, Zerui Yang, Xiaojie Zhang, Hanxu Hou, Linqi Song

机构 * Dongguan University of Technology（东莞理工大学） ； City University of Hong Kong（香港城市大学） ； Tsinghua University（清华大学） ； Guangzhou University（广州大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本研究针对大型推理模型在个性化任务中存在的局限，提出强化推理框架及相关机制，经实验验证其性能显著优于现有技术。

Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

模型合并具有隐式可认证性：小样本学习的非空泛化界

Taehoon Kim, Henry Gouk, Minyoung Kim, Timothy Hospedales

机构 * School of Informatics, University of Edinburgh（爱丁堡大学信息学院） ； Samsung AI Center, Cambridge（三星人工智能中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 该研究建立了模型融合学习与泛化认证的联系，发现仅用100个示例、VIT-B和mistral-7B等模型时，融合式学习可获得非平凡泛化保证，为大模型小样本学习的可信认证提供了新方向。

Comments UAI2026

Grounding Free-Form Instructions for Fashion Complementary Image Generation

基于自由形式指令的时尚互补图像生成的接地

Matteo Attimonelli, Claudio Pomo, Alessandro De Bellis, Danilo Danese, Dietmar Jannach, Tommaso Di Noia

机构 * Politecnico di Bari（巴里理工大学） ； Sapienza University of Rome（罗马大学） ； University of Klagenfurt（克拉根福大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对现有时尚互补图像生成基准的缺陷，该研究提出基于自由形式指令的新设置，用StyleFlow模型实现该任务，其生成的服装符合指令且风格连贯，同时降低了架构复杂度和推理成本。

The Disconnect Between Better Descriptive Reasoning Trace Quality and Recommendation Effectiveness

更优描述性推理轨迹质量与推荐效果之间的脱节

Gustavo Penha, Juan Elenter, Claudia Hauff, Hugues Bouchard, Paul Bennett, Mounia Lalmas

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究通过2×2因子实验对比语义ID与自然语言标题的推理轨迹质量，发现提升描述性推理轨迹质量无法持续改善传统离线推荐效果。

Comments Accepted at the Recsys'26 Workshop on Agentic and Generative AI for E-Commerce

ARGUS: MCP-Grounded Root Cause Analysis for Kubernetes Incidents

ARGUS：基于MCP的Kubernetes事件根本原因分析工具

Ergi Senja, Seyed Mohammad Reza Razavi Zadegan, Philipp Leitner

专题命中 安全评测 ：trustworthy(abstract)

AI总结 ARGUS是一款基于MCP的Kubernetes事件根本原因分析助手，通过标准化MCP服务器关联LLM与实时可观测数据，在Slack频道提供诊断摘要，经评估其能100%识别根本原因，但修复建议可信度不足。

Comments 11 pages, 5 figures

Risk-Aware Reranking for Agentic Tool Retrieval

面向智能体工具检索的风险感知重排序

Qinfei Li, Xiaoxuan Dong, Jin Zhang, Dexu Yu, Wenhao Deng, Junchen Fu, Youhua Li, Hanwen Du, Chunxiao Li

专题命中 安全评测 ：safety(abstract)

AI总结 本文针对智能体工具检索的风险问题，提出轻量级风险感知重排序框架，通过权衡安全与效用改善相关性-安全 tradeoff，为安全关键部署提供保守操作点。

Comments Accepted by CIKM 2026

CodeMechanic: Bug-Property-Guided Program Mitigation

CodeMechanic：基于漏洞属性引导的程序缓解方案

Han Zheng, Rafaila Galanopoulou, Ilia Shumailov, Tianqi Fan, Aiden Hall, Dominik Maier, Mathias Payer

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出CodeMechanic系统，通过重构内存安全属性、插入故障停止保护等方法，在101个ARVO漏洞上生成更多合理且语义等价的补丁，同时降低token使用量。

OvDSGG: End-to-End Open-Vocabulary Dynamic Scene Graph Generation

OvDSGG：端到端开放词汇动态场景图生成

John Helsby, Yi Yang, Bodo Rosenhahn, Michael Ying Yang

机构 * Meta ； University of Bath（巴斯大学） ； Leibniz Universität Hannover（汉诺威莱布尼茨大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 OvDSGG是首个开放词汇DSGG的端到端框架，通过空间主干、时间主干及相关模块实现开放词汇识别，在开放词汇指标上显著优于基线，封闭集性能仍具竞争力，且构建了对应基准并公开代码。

Comments ECCVW'26 CONTEXTUS