AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
基于评分标准的LLM评分：对齐、不确定性与鲁棒性
机构 * Purdue University（普渡大学）
专题命中 安全评测 ：alignment(title,abstract)；prompt injection(abstract)；分类 cs.CL、cs.LG
AI总结 本文研究了基于评分标准的LLM评分的对齐性、不确定性与鲁棒性，发现评分标准粒度增加时对齐性下降，通过信任曲线分析发现过滤低置信度预测可提升准确性，同时模型对同义词替换敏感。
寻求人类安全共识：面向生成式AI价值安全的统一价值尺度
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.CY
AI总结 本文提出生成式AI价值安全尺度，通过生命周期视角构建价值安全风险分类和事件库，并通过基准测试揭示模型间价值安全性能差异，强调建立共享安全基础的重要性。
按言行事：通过运行时推理-动作对齐验证引导视觉-语言-动作模型
机构 * NVIDIA（NVIDIA公司） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Utah（犹他大学） ； University of Sydney（悉尼大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 通过运行时推理-动作对齐验证方法提升视觉-语言-动作模型的鲁棒性和行为组合能力
Mi:dm 2.0 韩国中心双语语言模型
机构 * Tech. Innovation Group（技术创新组）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 Mi:dm 2.0是一款专为韩国中心AI设计的双语大语言模型，通过整合韩国社会价值观和常识知识，提升文化适应性和生成能力，支持多任务和多场景应用。
AI部署授权：面向高风险人工智能的全球标准：机器可读的治理机制
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出AI部署授权分数（ADAS），通过五个维度评估AI系统，生成可验证的部署证书，以实现安全、合法且可扩展的人工智能治理。
Comments 28 pages, 4 figures. Preprint
CogRail: 对智能铁路运输系统中认知入侵感知的视觉语言模型进行基准测试
机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（多模态人工智能系统国家重点实验室，自动化研究所，中国科学院） ； School of Automation, Beijing Institute of Technology（自动化学院，北京理工大学） ； Signal & Communication Research Institute, China Academy of Railway Sciences（信号与通信研究所，中国铁路科学研究院） ； Beijing Huairou Academy of Parallel Sensing（北京怀柔平行感知院） ； School of Computer Science and Technology, Beijing Jiaotong University（计算机科学与技术学院，北京交通大学） ； State Key Lab of Intelligent Transportation Systems, School of Transportation Science and Engineering, Beihang University（智能交通系统国家重点实验室，交通科学与工程学院，北京航空航天大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 CogRail提出一个用于评估视觉语言模型在认知入侵感知任务中性能的基准，通过联合微调框架提升模型在时空推理和威胁分析中的表现。
改进的息肉分割与可视化可解释性分析
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 本研究提出PolypSeg-GradCAM框架，结合U-Net与Grad-CAM提升息肉分割精度并增强模型可解释性，实验结果在Dice系数、IoU和AUC-ROC等指标上均表现优异。
RL能为VLA泛化带来什么？一项实证研究
机构 * Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Institute for Interdisciplinary Information Sciences, Tsinghua University（清华大学交叉信息研究院） ； Department of Electronic Engineering, Tsinghua University（清华大学电子工程系）
专题命中 安全评测 ：DPO(abstract)；分类 cs.LG
AI总结 本研究通过实证分析发现，PPO在提升VLA的语义理解和执行鲁棒性方面优于SFT，同时保持视觉鲁棒性，为VLA泛化提供了有效的方法。
Comments Accepted by NeurIPS 2025
SkinFlow: 通过动态视觉编码和分阶段强化学习实现开放性皮肤病诊断的高效信息传输
机构 * Baichuan Inc.（百川公司） ； Department of Dermatology Peking University First Hospital（北京大学第一医院皮肤科） ； Beijing Key Laboratory of Molecular Diagnosis on Dermatoses（北京分子皮肤病诊断重点实验室） ； National Clinical Research Center for Skin and Sexually Transmitted Diseases（国家皮肤及性传播疾病临床医学研究中心） ； NMPA Key Laboratory for Quality Control and Evaluation of Cosmetics（国家药监局化妆品质量控制与评价重点实验室） ； School of Biomedical Engineering Tsinghua University（清华大学生物医学工程学院） ； University of Hong Kong（香港大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 SkinFlow通过动态视觉编码和分阶段强化学习提升皮肤病诊断效率，实现比通用模型更优的准确率
残差跨模态融合网络用于音频视觉导航
机构 * School of Computer Science and Technology, Xinjiang University, Urumqi, China（新疆大学计算机科学与技术学院） ； Joint International Research Laboratory of Silk Road Multilingual Cognitive（丝绸之路多语认知联合国际实验室） ； School of Mechatronic Engineering and Automation Shanghai University, Shanghai, China（上海大学机电工程与自动化学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出残差跨模态融合网络，通过双向残差交互实现音频视觉信息互补建模，提升跨域导航性能。
Comments Main paper (10 pages). Accepted for publication by the 14th international conference on Computational Visual Media (CVM 2026)
多LLM系统的递归知识合成：稳定性分析与三代理审计框架
机构 * Independent Researcher（独立研究者）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 本文提出三代理框架用于多LLM系统稳定性分析，通过递归知识合成实现安全可靠的知识生成。
Comments 25 pages, 9 figures. Pilot feasibility study using public-access large language models without API-level orchestration
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈