AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
用于减轻大型视觉语言模型幻觉的动态对齐补偿
机构 * Zhejiang University（浙江大学） ； Southeast University（东南大学）
专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.AI
AI总结 针对大型视觉语言模型的幻觉问题，提出无需训练的推理时方法动态对齐补偿，结合分层语义补偿与序列语义校正，在9个多模态基准上可减少幻觉并保持整体性能。
Comments Accepted by EMNLP2026 Findings
当大型语言模型的语言置信度与内部置信度出现偏差时
机构 * Dartmouth College（达特茅斯学院） ； Oakland University（奥克兰大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究对比大型语言模型的语言置信度与内部置信度，发现二者常出现偏差，提出需用多维度诊断评估语言置信度后再用于下游可靠性流程。
面向可靠医疗AI的可解释不确定性估计
机构 * College of Computing and Data Science (CCDS)（计算与数据科学学院） ； Nanyang Technological University (NTU)（南洋理工大学） ； A*STAR Centre for Frontier AI Research（新加坡科技研究局前沿人工智能研究中心） ； School Of Computing and Digital Technologies（计算与数字技术学院） ； Sheffield Hallam University（谢菲尔德哈勒姆大学） ； School of Computing（计算机学院） ； University of Utah（犹他大学） ； Tan Tock Seng Hospital (TTSH)（陈笃生医院） ； Lee Kong Chian School of Medicine（李光前医学院）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 该研究提出将不确定性估计与XAI统一的egRUE方法，可量化并分解不确定性为特征贡献，经实验和专家研究验证，能提升医疗AI的可靠性与可解释性，优化临床决策支持。
Comments Accepted at the 26th IEEE International Conference on Data Mining (ICDM)
从透视图像到鱼眼图像的深度估计与开放词汇分割
机构 * Yale University（耶鲁大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 该研究提出了与架构、任务无关的Distortion Extenders（DEX），通过自监督对齐损失将视觉基础模型泛化到鱼眼相机，在深度估计和开放词汇分割任务中优于基线，还可用于相机校准。
从不确定性到临床风险：面向交互式医疗诊断的严重程度感知共形规划
机构 * Lanzhou University（兰州大学） ； Hunan University（湖南大学） ； National University of Singapore（新加坡国立大学） ； City University of Hong Kong（香港城市大学） ； The Ohio State University（俄亥俄州立大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 该研究针对交互式医疗诊断漏诊重症的风险与长程规划缺失问题，提出严重程度感知共形临床规划框架，在DDXPlus和MediQ上提升了诊断准确性、鉴别质量并降低了高风险错误。
你在想什么？探索心理健康应用的隐私
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CY
AI总结 通过对25款流行的Android心理健康应用进行静态分析、动态网络捕获和LLM辅助隐私政策提取，发现这些应用存在严重的透明度问题，包括未披露的跟踪器、权限政策矛盾以及第三方AI处理披露不充分。
当机器人误听我们时：映射语音控制具身人工智能的安全风险
专题命中 安全评测 ：safety(title,abstract)；AI safety(abstract)；分类 cs.CL、cs.AI
AI总结 该研究探讨ASR错误对语音控制具身AI安全性的影响，发现其会导致有害指令被执行，部分错误会削弱模型弃权行为，自动修正并非总能降低风险，揭示了ASR错误带来的显著安全风险。
Nemotron 3.5 内容安全审核器：一款紧凑的多模态、多语言且具备推理能力的内容安全审核器
机构 * NVIDIA（英伟达）
专题命中 安全评测 ：safety(title,abstract)；jailbreak(abstract)；分类 cs.AI
AI总结 本研究提出紧凑多模态多语言的Nemotron 3.5 CS安全审核器，兼具低计算成本与推理能力，可覆盖多场景安全审核，还发布配套安全数据集，验证其在多维度评估中表现优异。
MaCoPlanner：面向机器人工业面板操作的、结合主动安全验证的大语言模型辅助人工编译任务规划
机构 * Huazhong University of Science and Technology（华中科技大学） ； University of New South Wales（新南威尔士大学）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 MaCoPlanner是面向机器人工业面板操作的规划框架，通过编译设备手册知识生成规划，经主动安全验证后执行，大幅提升了任务成功率，在Level-2、Level-3任务上分别提升了21.6、17.3个百分点。
SUFLECA：扩大用于CAD到图像对齐的特征学习
机构 * Automation and Robotics Research Group, Interdisciplinary Centre for Security, Reliability, and Trust (SnT), University of Luxembourg（自动化与机器人研究组，卢森堡大学跨学科安全、可靠性与信任中心（SnT）） ； Faculty of Science, Technology, and Medicine, University of Luxembourg（卢森堡大学科学、技术与医学学院） ； I3A, Universidad de Zaragoza（萨拉戈萨大学I3A）
专题命中 安全评测 ：alignment(title,abstract)
AI总结 研究旨在解决CAD到图像对齐问题，提出弱监督框架SUFLECA。通过归一化物体坐标监督扩大特征学习，结合几何一致匹配算法，能准确快速对齐，在ScanNet25k上取得优异成绩，优于零样本基线并超越全监督方法。
认知链式推理（CoCoT）：关于社会情境的结构化多模态推理
机构 * Seoul National University（首尔国立大学） ； Human-Computer Interaction Institute, Carnegie Mellon University（人机交互研究所，卡内基梅隆大学） ； Language Technologies Institute, Carnegie Mellon University（语言技术研究所，卡内基梅隆大学）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本文提出CoCoT框架，通过感知、情境推断和规范应用三个阶段提升多模态社会推理能力，在多个任务中取得显著提升。
Comments COLM 2026
面向地球观测变化检测的全面可信AI方法基准测试
机构 * Bias Variance Labs, d.o.o.（Bias Variance Labs有限责任公司） ； University of Ljubljana（卢布尔雅那大学） ； Jožef Stefan Institute（约热夫·斯泰凡研究所） ； Télécom Paris（巴黎电信学院） ； Institut Polytechnique de Paris（巴黎综合理工学院）
专题命中 安全评测 ：trustworthy(title)；分类 cs.AI
AI总结 该研究构建了面向地球观测变化检测的标准化开源基准，对比10种模型在10种数据集上的性能，发现优化的经典模型结合预训练更具优势，实验资源符合FAIR原则。
AGENT-O：用于可互操作且受管控的医疗AI智能体的语义智能体卡框架
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 研究人员提出AGENT-O模块化本体框架，定义医疗AI智能体的语义智能体卡，评估279篇论文报告完整性，揭示评估规范差距，为结构化报告提供工具但不评估智能体质量与部署就绪性。
CareGraph：一种用于基于证据的个性化纵向健康智能的可审计混合AI框架
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 CareGraph是可审计混合AI框架，用于将异构医疗记录转化为结构化证据，实验显示其在多指标上优于传统方法，为个性化健康系统提供安全受限基础。
Comments 21 pages, 7 figures, Code and data: this https URL (https://github.com/PratikGhawate/ai-personalized-health-intelligence)
语言模型中量化触发的后门：跨量化器可迁移性与验证-部署差距
机构 * University of Bologna（博洛尼亚大学） ； Luiss Guido Carli University（路易斯 Guido Carli 大学） ； Live Tech ； University of Salerno（萨勒诺大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 该研究发现仅源精度审计无法排除语言模型的量化触发后门，提出量化行为等价类理论，在多语言模型中实现量化后激活的后门攻击，证明攻击持久性与量化方案及模型架构相关。
Comments Accepted at the 21st International Conference on Availability, Reliability and Security (ARES 2026)
CultureConverse：面向东亚与东南亚文化适配助手的多语言多轮模拟工具包
机构 * Singapore University of Technology and Design (SUTD)（新加坡科技设计大学） ； Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局） ； École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院） ； Microsoft Research Asia (MSRA)（微软亚洲研究院） ； Sungkyunkwan University (SKKU)（成均馆大学） ； Universiti Brunei Darussalam (UBD)（文莱大学） ； China University of Petroleum (East China)（中国石油大学（华东）） ； Nanyang Technological University (NTU)（南洋理工大学） ； Kyoto University（京都大学） ； Konkuk University（建国大学） ； Upstage AI
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.CY
AI总结 本研究推出CultureConverse多语言多轮模拟工具包，构建含14610个基准回合的数据集，评估18个模型发现GPT-5 mini表现最优，微调后模型在文化相关任务上性能提升。
Comments EMNLP 2026
自生成文本识别：LLM评估中的质量启发式、跨任务迁移与下游偏差
机构 * George Washington University（乔治·华盛顿大学） ； Geodesic Research（吉奥戴斯克研究机构） ； University of Cambridge（剑桥大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 该研究聚焦LLM的自生成文本识别（SGTR）能力，明确了导致过往研究结论分歧的实验设计因素，发现SGTR性能可跨任务迁移，且训练SGTR会引发下游偏差，强调需监控SGTR以保障AI安全。
Comments 31 pages, 9 figures (3 main body, 6 appendix), 18 tables (1 main body, 17 appendix)
粒度差距：Gemini 模型中谄媚行为的多维纵向审计
机构 * Independent Researcher（独立研究者）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 通过多维度分级评估（Likert 0-4），揭示 Gemini 模型在连续尺度上的谄媚行为，发现粗粒度二值指标掩盖了大量社会顺从行为，且代际进步非单调，存在对齐税（谄媚与真实性负相关）。
Comments v3: Minor changes, prose improvements, nine sentences reformatted, no change to claims v2: Major correction. Three v1 claims withdrawn (U-shaped detection curve, recalibration remedy, one reliability figure); the central 29% result survives. Adds a four-judge panel over a stratified 1,200-response sample, 10,792 votes with written reasoning. Data unchanged from v1. 21 pages, 8 figures, 18 tables
基于Transformer的自动驾驶模型与面向部署的压缩：综述
机构 * Renmin University of China（中国人民大学） ； Artificial Intelligence Innovation and Incubation Institute, Fudan University（复旦大学人工智能创新与孵化院） ； Shanghai Academy of AI for Science（上海人工智能科学研究院） ； Department of houmo.ai（houmo.ai部门）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文综述了基于Transformer的自动驾驶模型，并从部署角度分析了压缩与加速策略（如量化、剪枝、知识蒸馏等）如何影响模型设计、部署性、鲁棒性和安全性。
D3-Gym：构建现实世界可验证环境用于数据驱动发现
机构 * The Ohio State University（俄亥俄州立大学） ； Cisco Research（思科研究）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 D3-Gym通过构建首个自动化的可验证环境数据集，提升科学数据驱动发现的模型能力，验证信号质量高，训练效果显著。
基于大语言模型（LLM）的软件与系统安全智能体：方法、应用与评估
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文通过系统综述2023-2026年的同行评审文献，梳理基于LLM的软件与系统安全智能体的技术方法、应用及评估，指出当前智能体权限未受限、行为不可审计的局限，并展望未来研究方向。
超越仅任务匹配：基于反事实评估的个性化技能路由
机构 * School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院） ； College of Software Engineering, Southeast University（东南大学软件学院） ； Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程学系） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 针对现有LLM智能体技能路由仅匹配任务的缺陷，提出SkillFeed渐进式检索-重排序框架，在自主构建的反事实基准上大幅提升了满足用户约束的技能检索准确率。
基于视觉基础模型的可解释糖尿病视网膜病变分类
机构 * Carl von Ossietzky Universität Oldenburg（卡尔·冯·奥西茨基奥尔登堡大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 本研究提出基于视觉基础模型的可解释DR分类框架，评估DINOv2等模型及LoRA等训练策略，在ODIR、APTOS等数据集上取得良好分类性能，验证了模型注意力与临床病灶的相关性。
Comments 11 pages, 4 figures, source code under this https URL (https://github.com/UOLMDA26/retinopathy_vision_foundational)
权力的形态：面向对话中社会权力推理的多语言框架
机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本研究针对现有社会权力计算研究的语言文化局限，提出基于社会科学理论的多语言对话社会权力推理框架，构建含15836个实例的双语语料库，评估6类大模型并发现其与人类推理的差距，为跨文化社会推理提供评估设置。
跨会话分解攻击：规模风险与意图对齐检索防御
机构 * University of Waterloo（滑铁卢大学） ； Vector Institute（向量研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 该研究聚焦跨会话分解攻击的规模风险，提出IntentAlign-MiniLM防御方法，实验显示更大的Qwen3、Gemma3系列模型在该攻击下有害能力提升更显著，所提防御效果优于更大嵌入模型。
Comments 30 pages, 3 figures, EMNLP 2026 Findings
是什么让智能体记忆对可靠的无答案问题处理有用？
机构 * School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院） ； Suzhou City University（苏州城市学院） ； Shanghai Key Lab of Intelligent Information Processing（上海智能信息处理重点实验室） ； College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学技术与人工智能学院） ； Shanghai Innovation Institute（上海创新研究院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
AI总结 该研究在agentic RAG框架下，评估不同记忆方法对UAQ处理的作用，发现记忆提升UAQ性能具选择性，程序与规则类记忆结合互补信号效果最优，可靠UAQ记忆依赖保留可迁移行为指导。
REPREC：表示驱动的参数高效推荐系统
机构 * The Ohio State University（俄亥俄州立大学） ； Capital One, AI Foundations（Capital One人工智能基础部）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究基于大语言模型的序列推荐，提出REPREC轻量级框架，通过轻量级用户表示对齐和MLP注入器映射用户嵌入，在多基准数据集实验中优于LoRA，能保持性能并降低训练时间，平衡推荐质量与计算效率。
基于证据的智能诊断与治疗可视化系统与大语言模型：多轮交互与多模态治疗方案生成
机构 * Harbin Institute of Technology, Weihai（哈尔滨工业大学（威海）） ； Harbin Institute of Technology (Weihai) Qingdao Research Institute（哈尔滨工业大学（威海）青岛研究院） ； Shandong Key Laboratory of Digital Service Computing Technology and Systems（山东省数字服务计算技术与系统重点实验室） ； Weihai Municipal Hospital（威海市人民医院） ； Shanghai Taizhu Technology Co., Ltd（上海泰山技术有限公司） ； Tianjin Zhifu Qihuang Medical Technology Co., Ltd（天津中孚启黄医疗技术有限公司）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出知识增强的可视化诊断系统，通过知识图谱约束、信息增益驱动提问和多模态治疗呈现，提升中医辨证透明度和治疗可解释性。
Comments 29 pages, 9 figures, 5 tables, including supporting information
提示不保护：通过MCP代理实现的架构强制以实现LLM工具访问控制
机构 * Independent Researcher（独立研究员）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出了一种受控的MCP代理，通过在工具发现和工具调用两个阶段实施基于属性的访问控制（ABAC），有效阻止了未经授权的工具调用，而提示基于的限制仅能减少11-18个百分点的未授权调用率，证明了架构强制在部署的智能体系统中实现可靠工具访问控制的必要性。
Comments 7 pages, 4 tables, 2 figures. Camera-ready version accepted to the EMNLP 2026 Industry Track; adds benign-utility and abstention evaluation, latency percentiles, and revised limitations
通过双自一致性强化学习实现科学图形程序合成
机构 * Zhejiang University（浙江大学） ； Shanghai Artificial Intelligence Laboratory, OpenDataLab（上海人工智能实验室，OpenDataLab） ； Shanghai Jiao Tong University（上海交通大学） ； Peking University（北京大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出双自一致性强化学习框架，结合高质量数据集和多维基准，提升科学图形到可编辑TikZ代码的转换能力，实现视觉与结构的高精度优化。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈