AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
RASC+: 用于临床值集创作的检索约束LLM裁决
机构 * Oracle Health, USA（美国甲骨文健康）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出RASC+方法，通过检索优化候选池召回率，并利用约束LLM裁决器选择候选，在临床值集完成任务上显著提升F1分数，同时保证返回代码来自可审计候选池。
REALM: 面向物理世界视觉语言模型的统一红队基准
机构 * University of Central Florida（中佛罗里达大学）
专题命中 安全评测 ：safety(abstract)；jailbreak(abstract)
AI总结 提出REALM，首个统一红队基准，集成12种攻击方法、3种防御和13个视觉语言模型，通过代理目标生成管道实现公平比较，发现文本注入攻击最有效。
Comments 20 pages, 5 figures. Preprint
DrugBench：评估用于减轻药物危害的AI控制协议
机构 * Universidad de Buenos Aires, Facultad de Ciencias Exactas y Naturales, Departamento de Computación（布宜诺斯艾利斯大学，精确与自然科学学院，计算机系） ； AI Safety Argentina (AISAR)（阿根廷人工智能安全组织 (AISAR)） ； Department of Computer Science, University of Oxford（牛津大学计算机科学系） ； CONICET-Universidad de Buenos Aires, Instituto de Ciencias de la Computación (ICC)（阿根廷国家科学与技术研究理事会-布宜诺斯艾利斯大学，计算机科学研究所 (ICC)）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出DrugBench基准，结合医疗对话与FDA标签，评估AI控制协议在减轻药物交互、禁忌症等四类危害中的有效性，并引入基于严重性的监控方法。
从知道到行动：基准测试LLM代理的自我意识能力
机构 * The Chinese University of Hong Kong（香港中文大学） ； Fudan University（复旦大学） ； University of Edinburgh（爱丁堡大学） ； Tencent（腾讯） ； University of Bristol（布里斯托大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出KAPRO框架和KAware数据集，通过解耦元认知判断与自主执行，评估LLM代理的自我意识能力，发现其与任务成功强相关但在内部能力场景中下降，开源模型易过度使用工具。
在LLM推理中，价值对齐之上存在非理性
机构 * University of Edinburgh（爱丁堡大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出理性价值风险概念，形式化LLM在推理中即使价值对齐也可能无法最大化对齐价值的问题，并通过实验验证该风险普遍存在且无法被对齐消除。
OGD4All: 基于大语言模型的可访问地理空间开放政府数据交互框架
机构 * Professorship of Computational Social Science, ETH Zurich（计算社会科学教授职位，苏黎世联邦理工学院） ； Esri R&D Center Zurich（埃斯里苏黎世研发中心） ； Complexity Science Hub（复杂性科学中心）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 提出OGD4All框架，结合语义检索、智能体推理和沙盒执行，实现基于大语言模型的地理空间开放政府数据交互，在430个数据集上达到98%分析正确率和94%召回率，有效减少幻觉风险。
Comments Author Accepted Manuscript (AAM). Proceedings of 2026 IEEE CAI (Granada, Spain). Update manuscript with final DOI. Code & data available at: https://github.com/ethz-coss/ogd4all
Journal ref 2026 IEEE Conference on Artificial Intelligence (CAI), pp. 882-888
Mind Companion: 一种用于基于过程心理治疗的具身对话代理
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 提出Mind Companion，一种基于大语言模型的具身对话代理，通过多层级心理分析与过程治疗原则，实时分析客户陈述并生成回应，评估显示GPT-5.2在多个维度上优于人类治疗师。
Journal ref 2026 IEEE 14th International Conference on Healthcare Informatics (ICHI), Minneapolis, MN, June 1-3, 2026, pp. 980-989
LADBench: 图像中逻辑故障检测的基准
机构 * University of South Florida（南佛罗里达大学）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 提出LAD-Bench基准，包含1000多张合成图像的四域逻辑异常，通过分层提示协议评估模型，揭示现有VLM在隐式逻辑故障检测上的不足。
Comments Accepted to the IEEE International Conference on Development and Learning (ICDL 2026)
视觉会撒谎，一致性说话：在视觉-语言模型中解耦空间注意力与可靠性
机构 * University of California, Santa Barbara（加州大学圣塔芭芭拉分校） ； Algoverse AI Research（Algoverse AI研究） ； University of California, Berkeley（加州大学伯克利分校）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出VLM可靠性探针（VRP），通过结构注意力指标和生成动态分析，发现空间注意力与准确性几乎无关（R≈0.001），而自一致性是可靠性的主要预测因子（R=0.429），揭示了视觉特征与最终生成之间的符号脱离现象。
Comments 16 pages. Accepted to the ICLR 2026 Workshop on Multimodal Intelligence. Code: https://github.com/itsloganmann/VLM-Reliability-Probe
EngTrace：工程推理可验证过程监督的符号基准
机构 * Namal University（纳马尔大学） ； MBZUAI（马克斯·普朗克智能人工智能研究所） ； The University of Tokyo（东京大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出EngTrace符号基准，包含1350个参数化测试用例，通过两阶段可验证评估框架（分层协议+AI仲裁）检验中间推理轨迹与最终答案，揭示数值精度与轨迹保真度的权衡。
Comments 33 pages, includes figures and tables; introduces the EngTrace benchmark
使用大型视觉语言模型审核不安全的用户生成内容游戏中的非法在线图像推广
机构 * University at Buffalo（布法罗大学） ； Northeastern University（东北大学） ； Clemson University（克莱姆森大学） ； The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.CY、cs.LG
AI总结 针对社交媒体上非法推广不安全UGC游戏的图像，提出UGCG-Guard系统，利用大型视觉语言模型和条件提示策略实现零样本域适应，检测准确率达94%。
Comments In Proceedings of the 33rd USENIX Conference on Security Symposium (SEC '24), August 14-16, 2024
多模态大语言模型评判器的对抗鲁棒性
机构 * School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院） ； State Key Laboratory of Virtual Reality Technology and System, Beihang University（北京航空航天大学虚拟现实技术与系统国家重点实验室） ； State Key Laboratory of Software Development Environment, Jiangxi Research Institute, Beihang University（北京航空航天大学江西研究院软件开发环境国家重点实验室） ； School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算机与信息系统学院）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 提出RobustMLLMJudge框架评估多模态大语言模型作为评判器时的对抗鲁棒性，并设计MGSIA攻击方法，通过语义诱导和高分流形对齐生成可迁移的分数膨胀扰动，揭示其脆弱性。
OdysSim: 构建人类行为模拟的基础模型
机构 * Carnegie Mellon University, Language Technologies Institute（卡内基梅隆大学语言技术研究所）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出OdysSim，通过SOUL分类法统一62个数据集和23个基准任务，采用混合训练、任务特定强化学习和专家蒸馏，构建8B参数行为基础模型OSim，在多数任务上超越前沿模型，并实现更类人输出和零样本迁移。
Comments 34 pages. Code: https://github.com/sunnweiwei/OdysSim ; Models and data: https://huggingface.co/collections/cmu-lti/odyssim
立场：AI 必须转向以行星为中心，而非仅以人为中心
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 本文提出以行星为中心的AI（PCAI）设计哲学，通过系统思维重新定位AI以应对全球性社会-生态系统挑战，并强调与全球议程对齐、系统感知基础、轨迹导向评估和可监测性。
Journal ref International Conference on Machine Learning (ICML 2026)
面向入门编程教育的可解释AI助手：通过教师-AI协作提高反馈可靠性
机构 * North Carolina State University（北卡罗来纳州立大学） ； University of California, Berkeley（加州大学伯克利分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 提出一种可解释AI驱动的课堂助手，通过分析学生代码、映射逻辑错误到教师识别的误解并提供教师撰写的反馈，提高入门编程课程中反馈的可靠性和可解释性。
Comments Full paper accepted to the 27th International Conference on AI in Education (AIED 2026)
OpenMedReason: 医学视觉语言模型的科学推理监督
机构 * York University（约克大学） ； Vector Institute（向量研究所） ； University of British Columbia（不列颠哥伦比亚大学） ； University of Toronto（多伦多大学） ； Unity Health Toronto / St. Michael’s Hospital（多伦多联合健康/圣迈克尔医院） ； University Health Network（大学健康网络） ； Arc Institute（弧研究所） ； Queen's University（女王大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出OpenMedReason，一个包含约45万图像-问题-答案实例的大规模开放医学推理语料库，其推理轨迹主要来自生物医学科学文章，并配套基准OpenMedReason-Bench进行细粒度评估，在监督微调和强化对齐中有效提升模型性能。
Comments 42 pages, 9 figures, 24 tables. Dataset and code: https://huggingface.co/datasets/neginb/OpenMedReason
PreAct-Bench：大语言模型中的预测性监控基准
机构 * King’s College London（伦敦国王学院） ； National University of Singapore（新加坡国立大学） ； Southern University of Science and Technology（南方科技大学） ； Thomson Reuters Foundational Research（汤姆森路透基础研究） ； Imperial College London（伦敦帝国学院） ； The Alan Turing Institute（艾伦·图灵研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出预测性监控任务，在动作执行前判断是否会导致不道德行为，并构建PreActBench基准，评估多种模型发现该任务具有挑战性。
基于LLM的代码文档生成与多裁判评估
机构 * University of Tunis El Manar（突尼斯国家理工大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出利用八种大语言模型自动生成代码文档，并通过多裁判评估框架（四个LLM从九个维度评分）提升文档质量，在医学物理库上实验显示最佳与最差模型性能差距达42%。
Comments ICAHS, \c{opyright} 2025 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses, in any current or future media, including reprinting/republishing this material for advertising or promotional purposes, creating new collective works, for resale or redistribution to servers or lists, or reuse of any copyrighted component of this work in other works
Journal ref Conference ICAHS IEEE, 2025
针对瑞士德语音识别的Whisper字幕对齐微调：基准污染、惯例不匹配以及25.6% WER（13.8% cWER）的诚实基线
机构 * Independent Researcher, Zurich, Switzerland（独立研究员，瑞士苏黎世） ； ETH Zürich（苏黎世联邦理工学院） ； University of Bern（伯尔尼大学） ； FHNW（西北应用科学与艺术大学） ； CeTIM Leiden/Munich（CeTIM 莱顿/慕尼黑）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 通过1,367小时广播语音与标准德语字幕的弱监督，系统微调Whisper large-v3用于瑞士德语音识，发现公开结果因基准污染被高估，并发布两个诚实评估的模型。
Comments 15 pages, 21 tables. Models available at https://huggingface.co/Flix-AI
当大型语言模型在医疗保健中失败：评估对提示变化的敏感性
机构 * Department of Computer Science and Engineering, Doha, Qatar（计算机科学与工程系，多哈，卡塔尔）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本研究系统分析了通用和医学专用LLM对提示扰动的敏感性，发现即使是微小的措辞变化也可能改变临床建议，对抗性提示可能引发有害输出，表明这些模型在临床应用中不可靠。
Comments 12 pages
Facial-R1: 通过推理与识别对齐实现面部情绪分析
专题命中 安全评测 ：alignment(abstract,abstract_cn)
AI总结 本文提出Facial-R1框架，通过三阶段对齐方法解决面部情绪分析中推理与识别不一致及推理幻觉的问题，并引入FEA-20K基准数据集，验证了其在多个标准基准上的最佳性能。
Comments Withdrawn by the authors due to pending intellectual property considerations. The authors have determined that the current version contains material that should not have been publicly disseminated at this stage
解耦式智能合约审计：通过蒸馏与聚合的轻量级LLM框架
机构 * University of Indonesia（印度尼西亚大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出一种基于轻量级开源LLM（0.6B-4B参数）的解耦式智能合约审计框架，通过rsLoRA、知识蒸馏和链式验证聚合策略，在漏洞检测中达到98.25%准确率，优于7B-34B参数模型。
Comments 12 pages, 4 figures, 5 tables. Accepted to IEEE ICWS 2026
分解与度量评估意识
机构 * ETH Zürich（苏黎世联邦理工学院） ； ELLIS Institute Tübingen（图宾根ELLIS研究所） ； Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究院） ； Tübingen AI Center（图宾根人工智能中心） ； University of Toronto & Vector Institute（多伦多大学及向量研究所） ； EuroSafeAI（欧洲安全人工智能）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本研究借鉴社会心理学，将评估意识分解为环境与模型两部分，通过EvalAwareBench基准测试发现识别率取决于模型与基准的配对，且识别很少导致行为改变，安全评估比能力评估更易受影响。
迈向AI代理可靠性的科学
机构 * University of California, Berkeley（加州大学伯克利分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 本文提出十二个具体指标，从一致性、鲁棒性、可预测性和安全性四个维度分解AI代理的可靠性，并通过实验揭示能力提升仅带来可靠性小幅改进。
Comments Accepted at ICML 2026. Interactive dashboard available at: https://hal.cs.princeton.edu/reliability
CoMPAS3D: 一个用于交互动作的数据集和基准
机构 * School of Computing Science Simon Fraser University（计算科学学院西蒙弗雷泽大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出CoMPAS3D数据集和评估框架，通过动作可读性和熟练度适当性等客观指标，解决交互式动作生成中缺乏社交上下文评估的问题。
Comments https://rosielab.github.io/compas3d
临床视觉-语言模型中的跨模态链接风险
机构 * Lab for AI in Medicine（医学人工智能实验室） ； RWTH Aachen University（亚琛工业大学） ； Department of Diagnostic and Interventional Radiology（诊断与介入放射学部门）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究临床视觉-语言模型（VLM）在图像与报告分离场景下通过余弦相似度实现跨模态重链接的风险，并采用仅对投影头进行差分隐私微调的方法在保持图像效用同时显著降低重链接率。
SENSE: 基于软门控评估的语义嵌入导航用于检索式推测解码
机构 * Zhejiang University, Hangzhou, China（浙江大学，杭州，中国）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出SENSE方法，通过语义嵌入导航和软门控评估模块替代表面形式匹配，提升检索式推测解码的鲁棒性和加速效果，在LLaMA和Qwen系列上实现最高4.09平均接受长度和3.26倍加速。
“AI精神病”的语境：对话历史如何影响LLM对妄想信念的回应
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 研究通过积累的对话历史测试五个LLM对妄想信念的回应，发现模型分为高风险低安全与低风险高安全两类，积累上下文揭示了安全架构的压力测试效果。
多模态大语言模型驱动的视频翻译：面向角色的综述
机构 * School of Computer Science and Technology, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）计算机科学与技术学院）
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)
AI总结 本文通过面向角色的分类法，系统综述了多模态大语言模型在视频翻译中的应用，将其分为语义推理器、表达执行器和视觉合成器三个功能角色，并总结了数据集、基准和评估指标，指出了端到端视频翻译的挑战与未来方向。
反事实评估揭示临床LLM和智能体的隐藏能力画像
机构 * Protege Data Lab（Protege数据实验室）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出因果敏感性评分（CSS），通过沿五个临床维度变异肿瘤病例来评估模型是否按预期方向更新推荐，发现与覆盖度指标排名相反，并揭示所有前沿模型在手术状态干预上的安全盲点。
Comments Accepted to RLEval @ ACM CAIS 2026 (Workshop on Methods and RL Environments for Evaluating AI Agents) and selected for an invited talk based on reviewer ratings. 4-page short paper + appendix
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈