Contrastive vision-language learning with paraphrasing and negation
基于改写与否定的对比视觉-语言学习
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出SemCLIP模型，通过结合改写与否定的对比损失函数，提升视觉-语言模型在处理语义变化时的鲁棒性，实验证明其在零样本下游任务中表现稳定。
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 安全评测 9400 篇
Expert-guided Clinical Text Augmentation via Query-Based Model Collaboration
通过基于查询的模型协作进行专家指导的临床文本增强
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 本文提出基于查询的模型协作框架，利用专家知识指导文本增强，提升医疗信息保留并减少幻觉，实验显示在临床预测任务中表现优于传统方法。
Comments 18 pages, 6 figures, Accepted at ICML 2026
From Detection to Action: Using LLM Agents for Fault-Tolerant Control
从检测到行动：使用LLM智能体进行容错控制
机构 * Imperial College London（帝国理工学院伦敦校区） ； Helmut Schmidt University（海德堡-施密特大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 提出基于大语言模型智能体的主动容错控制框架，通过多智能体协作、数字孪生和知识图谱增强检索，生成并验证最小风险恢复路径，在离散和连续过程控制中实现从故障检测到有效纠正行动的闭环。
Towards Reliable and Robust LLM Planning: Symbolic Feedback-Driven Iterative Self-Refinement Framework
迈向可靠稳健的LLM规划：符号反馈驱动的迭代自我精炼框架
机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出符号反馈驱动的迭代自我精炼框架，通过自然语言提示、符号验证器和计划识别器增强LLM在长时域规划中的鲁棒性和可靠性。
Physics-Guided Robotic Radiation Source Localization along Arbitrary Measurement Paths in Unstructured Environments
物理引导的机器人辐射源定位：非结构化环境中沿任意测量路径
机构 * George W. Woodruff School of Mechanical Engineering, Georgia Institute of Technology（乔治·W·伍德拉夫机械工程学院，佐治亚理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 提出基于物理信息机器学习（PIML）的框架，使机器人沿任意路径在未知环境中精确估计辐射源位置，避免接近源，并通过并行计算提高鲁棒性。
Comments 18 pages, 14 figures, 2 tables
Aloe-Vision: Robust Vision-Language Models for Healthcare
Aloe-Vision: 面向医疗保健的鲁棒视觉-语言模型
机构 * Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心（BSC））
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出Aloe-Vision系列医疗LVLM，通过大规模高质量多模态数据微调，在保持通用能力的同时提升医疗任务性能，并引入低污染基准CareQA-Vision，揭示当前模型在临床环境中的鲁棒性挑战。
Comments MIDL 2026
Journal ref Proceedings of Machine Learning Research, Vol. 315, pp. 2404-2426, 2026
MedGuards: Multi-Agent System for Reliable Medical Error Detection and Correction
MedGuards: 用于可靠医疗错误检测与纠正的多智能体系统
机构 * New York University Abu Dhabi（纽约大学阿布扎比分校） ； Khalifa University（哈利法大学） ； New York University（纽约大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出MedGuards框架，通过多智能体上下文学习与置信度引导仲裁机制，无需额外训练即可检测、定位和纠正医疗文本错误，并引入关键词优先纠正评分(KPCS)评估指标。
Artificial Intelligence Index Report 2026
人工智能指数报告2026
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本报告追踪AI在推理、安全及现实任务执行方面的测试进展，分析治理框架、评估方法与技术发展之间的差距，并新增AI在科学与医学领域的独立章节。
BengaliMoralBench: A Benchmark for Auditing Moral Reasoning in Large Language Models within Bengali Language and Culture
BengaliMoralBench：一种用于审计大型语言模型道德推理的基准，针对孟加拉语和文化
机构 * North South University（北南大学） ； Computational Intelligence and Operations Laboratory（计算智能与运营实验室） ； Hanyang University（翰林大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出BengaliMoralBench，一个针对孟加拉语和文化背景的道德推理评估基准，涵盖五个道德领域，通过三种伦理框架进行标注，评估不同模型的性能差异及文化适应性问题。
Comments Accepted at ACM FAccT 2026
Journal ref ACM FAccT 2026
DMind Benchmark: Toward a Holistic Assessment of LLM Capabilities across the Web3 Domain
DMind Benchmark：面向Web3领域LLM能力的全面评估
机构 * Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出DMind Benchmark，覆盖Web3九个子领域，结合客观知识与开放推理任务，评估31个LLM，发现模型在安全审计等高推理任务中存在显著弱点。
Agentic Episodic Control
智能体情节控制
机构 * East China Normal University（华东师范大学） ； Tongji University（同济大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai University of International Business and Economics（上海对外经贸大学） ； Shenzhen Loop Area Institute（深圳河套学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出智能体情节控制（AEC），利用大语言模型增强情节强化学习，通过语义增强器和关键状态识别器提升数据效率和泛化能力，在BabyAI-Text环境中实现2-6倍数据效率提升。
Comments Accepted to Findings of the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026)
RecallRisk-BERT: A Multi-Task Framework for Post-Report Medical Device Recall Triage
RecallRisk-BERT：用于报告后医疗器械召回分类的多任务框架
机构 * Department of Computer Engineering, Faculty of Engineering, Ankara University（安卡拉大学工程学院计算机工程系）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 提出RecallRisk-BERT多任务模型，联合预测召回严重等级和根因类别，在FDA数据集上优于单任务基线，支持可扩展的召回分类。
Risk-Aware Selective Multimodal Driver Monitoring with Driver-State World Modeling
风险感知的选择性多模态驾驶员监控与驾驶员状态世界建模
机构 * Hubei University（湖北大学） ； Nanyang Technological University（南洋理工大学） ； Osaka University（大阪大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出成本感知的选择性推理框架，结合轻量级RGB-生理学生网络和门控机制，在低延迟下减少不安全决策，实现可部署的多模态驾驶员监控。
ReasonCLIP-58M: Visually Grounded Commonsense Reasoning Supervision for CLIP
ReasonCLIP-58M: CLIP的视觉基础常识推理监督
机构 * Khalifa University（卡利法大学） ； University of Western Australia（西澳大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of Melbourne（墨尔本大学） ； University of Central Florida（佛罗里达中央大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出ReasonCLIP-58M框架，通过两阶段策略将大规模推理监督集成到CLIP模型中，构建ReasonLite-42M和ReasonPro-16M数据集及RCLIP-Bench基准，提升视觉基础常识推理和零样本检索性能。
Comments Accepted to ECCV2026
Adversarial Diffusion Across Modalities: A Fusion Survey of Attacks, Defenses, and Evaluation for Text, Vision, and Vision-Language Models
跨模态对抗扩散：文本、视觉与视觉-语言模型的攻击、防御与评估融合综述
机构 * Information and Computer Science Department, King Fahd University of Petroleum & Minerals（国王法赫德石油矿物大学信息与计算机科学系） ； College of Computer Science and Information Technology, Imam Abdulrahman Bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·法伊塞尔大学计算机科学与信息科技学院） ； SDAIA-KFUPM Joint Research Center for Artificial Intelligence, King Fahd University of Petroleum & Minerals（SDAIA-KFUPM人工智能联合研究中心，国王法赫德石油矿物大学）
专题命中 安全评测 ：jailbreak(abstract)；分类 cs.CL
AI总结 本文整合了文本、图像分类器和视觉-语言模型上的对抗攻击与防御研究，提出统一分类法和评估框架，并识别了当前文献中的五个常见弱点。
How Do Tool-Augmented LLM Agents Perform on Real-World Energy Analytics Tasks?
工具增强的LLM智能体在真实世界能源分析任务中的表现如何？
机构 * Independent Researcher（独立研究员） ； Tume AI
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 针对能源领域缺乏智能体评估基准的问题，构建了包含243个专家策划问题的测试环境，评估工具增强的LLM智能体在数据检索、知识解释和定量建模三类任务上的表现。
Sign Language Recognition in the Age of LLMs
在大语言模型时代的手语识别
机构 * University of West Bohemia（西波西米亚大学） ； Eindhoven University of Technology（埃因霍温理工大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 研究探讨现代VLMs在零样本条件下进行孤立手语识别的能力，发现开源模型表现欠佳，而大模型在精度上表现突出，强调模型规模和训练数据多样性的重要性。
Comments Accepted at the CVPR 2026 Workshop on Multimodal Sign Language Research (MSLR), 8 pages, 3 figures
Journal ref Proc. IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW), 2026, pp. 10511-10519
OI-Bench: An Option Injection Benchmark for Evaluating LLM Susceptibility to Directive Interference
OI-Bench：用于评估大语言模型对指令干扰敏感性的选项注入基准
机构 * Department of Computer Science, National Yang Ming Chiao Tung University（国家阳明交通大学计算机科学系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 提出选项注入基准OI-Bench，通过在多选题界面中嵌入误导性指令，系统评估12个LLM对16种指令干扰的脆弱性，揭示模型存在显著漏洞。
Vis-CoT: A Human-in-the-Loop Framework for Interactive Visualization and Intervention in LLM Chain-of-Thought Reasoning
Vis-CoT：一种用于LLM思维链推理中交互式可视化和干预的人机协同框架
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
AI总结 提出Vis-CoT框架，将线性思维链文本转换为交互式推理图，允许用户可视化逻辑流程、识别错误步骤并通过剪枝和嫁接进行干预，显著提升推理准确性和用户信任。
Comments arXiv admin note: This paper has been withdrawn by arXiv due to unverifiable authorship and affiliation
HELIOT: LLM-Based CDSS for Adverse Drug Reaction Management
HELIOT：基于LLM的临床决策支持系统用于不良药物反应管理
机构 * Software Engineering (SeSa) Lab University of Salerno（软件工程（SeSa）实验室，萨勒诺大学） ； Amsterdam UMC Locatie AMC Amsterdam, The Netherlands（阿姆斯特丹大学医学中心（AMC）阿姆斯特丹，荷兰） ； Digital Health（数字健康；方法学；阿姆斯特丹公共卫生研究所阿姆斯特丹，荷兰） ； Methodology（阿姆斯特丹大学数据科学中心阿姆斯特丹，荷兰） ； Amsterdam Public Health Research Institute Amsterdam, The Netherlands ； University of Amsterdam Data Science Center Amsterdam, The Netherlands
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 HELIOT利用大语言模型处理非结构化临床数据，通过提取药物反应信息和学习患者用药耐受性，减少误报并提升不良药物事件预警的准确性与实用性。
Enhancing Brain MRI Anomaly Detection and Reasoning with ROI Rethink and Synthetic Data
通过ROI重思考与合成数据增强脑部MRI异常检测与推理
机构 * College of Biomedical Engineering, Fudan University（复旦大学 生物医学工程学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出BrReMark框架，通过显式区域标记和假设验证机制增强脑部MRI诊断的可信度，结合结构化推理轨迹的监督微调和强化学习，以及基于域随机化的病理合成增强，显著提升定位精度并减少幻觉。
Beyond Function Calling: Benchmarking Tool-Using Agents under Tool-Environment Unreliability
超越函数调用：工具环境不可靠性下的工具使用智能体基准测试
机构 * School of AI, Shanghai Jiao Tong University（上海交通大学人工智能学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
AI总结 提出ToolBench-X基准，在工具环境中注入五种可恢复可靠性风险，评估智能体任务完成能力，发现可靠工具下表现良好的智能体在可恢复风险下失败，失败主因是诊断和恢复能力不足。
STEB: A Speech-to-Speech Translation Expressiveness Benchmark for Evaluating Beyond Translation Fidelity
STEB：用于评估超越翻译保真度的语音到语音翻译表现力基准
机构 * Hong Kong University of Science and Technology（香港科技大学） ； Tencent Youtu Lab（腾讯优图实验室） ； Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出STEB基准，通过描述-总结框架评估语音到语音翻译在情感、场景风格和非语言发声方面的表现力，发现现有系统在语义保真度上表现良好但表现力保留不足。
C3-Bench: A Context-Aware Change Captioning Benchmark
C3-Bench：一种上下文感知的变化描述基准
机构 * Gwangju Institute of Science and Technology（光州科学技术院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出C3-Bench基准，包含51种真实变化场景的4996对图像，并首次引入LLM-as-Judge评估框架，揭示现有模型在非训练分布场景下的系统性盲点。
Comments ECCV 2026 Camera-ready version
Long-Term Simulation Exposes Cognitive-Developmental Risks in AI Companions
长期模拟揭示AI伴侣的认知发展风险
机构 * Shanghai Institute of Artificial Intelligence for Education, East China Normal University（华东师范大学上海人工智能教育研究院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出TSJ框架，通过角色驱动用户模拟、动态心理状态更新和回顾性评估，在12,960模拟人天交互中揭示短期测试低估长期认知发展风险，并识别出幼儿期和成年初期为最脆弱阶段。
Comments 19 pages, 4 figures, 2 tables
FinRED: An Expert-Guided Benchmark Generation and Evaluation Framework for Financial LLM Red-Teaming
FFinRED：面向金融大语言模型红队测试的专家引导基准生成与评估框架
机构 * DATUMO INC.（DATUMO公司） ； Korea Advanced Institute of Science and Technology (KAIST)（韩国先进科学研究院） ； Financial Security Institute (FSI)（金融安全研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出FinRED框架，通过专家引导的两级分类法将全球金融标准映射为威胁，并利用真实金融文档生成上下文丰富的红队行为提示，结合专家验证的评估标准，有效降低关键假阴性。
Handling Missing Modalities in Multimodal Survival Prediction for Non-Small Cell Lung Cancer
多模态生存预测中缺失模态的处理：非小细胞肺癌的应用
机构 * Unit of Artificial Intelligence and Computer Systems, Department of Engineering（人工智能与计算机系统单位，工程系） ； Università Campus Bio-Medico di Roma（罗马生物医学大学） ； Department of Diagnostics and Intervention, Radiation Physics, Biomedical Engineering（诊断与介入部门，辐射物理，生物医学工程） ； Umeå University（乌梅学院） ； Research Unit of Radiation Oncology, Department of Medicine and Surgery（放射肿瘤研究单位，医学与外科部门） ； Fondazione Policlinico Universitario Campus Bio-Medico（生物医学大学附属医院基金会） ； Anatomical Pathology Operative Research Unit（解剖病理学操作研究单位） ； Research Unit of Anatomical Pathology, Department of Medicine and Surgery（解剖病理学研究单位，医学与外科部门） ； Department of Medicine and Surgery（医学与外科部门）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出一种缺失感知的多模态生存框架，结合CT、WSI和临床数据，通过基础模型提取特征并融合，提升NSCLC生存预测的准确性与临床适用性。
Agentic Software Engineering: Foundational Pillars and a Research Roadmap
代理软件工程：基础支柱与研究路线图
机构 * Queen's University（女王大学） ； Concordia University（Concordia大学） ； Nara Institute of Science and Technology（奈ara科学和技术研究院） ； Huawei Canada（华为加拿大）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出代理软件工程（SE 3.0）时代，以“面向人类的SE”和“面向代理的SE”双重模式为基础，重新定义软件工程支柱，并设计代理命令环境（ACE）和代理执行环境（AEE）两种工作台，实现双向人机协作，推动从代理编码到真正代理软件工程的演进。
EG-VQA: Benchmarking Verifiable Video Question Answering with Grounded Temporal Evidence
EG-VQA: 基于接地时间证据的可验证视频问答基准
机构 * Sun Yat-sen University（中山大学） ； Peng Cheng Laboratory（鹏城实验室） ； Shenzhen University（深圳大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出EG-VQA基准，通过细粒度时间证据标注和EG-F1指标，揭示视频大模型在答案正确性与证据定位之间的差距，并引入EG-Reasoner模型弥合这一差距。
Evaluating the Interpretability of Sparse Autoencoders with Concept Annotations
评估稀疏自编码器与概念标注的可解释性
机构 * The Berlin Institute for the Foundations of Learning and Data (BIFOLD)（柏林学习与数据基础研究所） ； Technische Universität Berlin（柏林工业大学） ； INRAE（法国国家农业、食品与环境研究院） ； Inria, EVERGREEN（法国国家信息与自动化研究所，EVERGREEN） ； UMR TETIS, Univ Montpellier（UMR TETIS，蒙彼利埃大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出一种基于人类标注的评估框架，通过合成基准和二分匹配方法量化稀疏自编码器潜在变量与概念的对齐，并验证可解释性。
Comments Accepted at ECCV 2026
