AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
黑盒、自适应、高效、可迁移、有害、适用……攻击是破解LLM所需的一切
机构 * University of St. Gallen（圣加尔大学）
专题命中 安全评测 ：jailbreak(abstract)；分类 cs.AI、cs.LG
AI总结 提出间接危害优化（IHO）方法，通过迭代偏好优化训练掩码扩散语言模型攻击器，实现黑盒、高效、可迁移的自适应攻击，显著提升对分层防御的破解成功率。
TurtleAI：海龟图形学中视觉编程的多模态模型基准测试
机构 * MPI-SWS（马克斯·普朗克研究所-斯图加特）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 提出TurtleAI基准，包含823个基于海龟图形学真实任务的视觉编程任务，评估20多个多模态模型发现成功率低于30%，并通过少量种子样本生成合成数据微调Qwen2-VL-72B提升约20%性能。
Comments ACL Findings 2026 paper
评估大语言模型在真实世界消费设备维修问题上的有效性
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Toronto（多伦多大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文通过引入包含991个真实维修问题的基准测试，评估六种大语言模型在英语和孟加拉语上的正确性、完整性、实用性和安全性，发现模型虽能提供有用帮助，但在高风险维修任务中仍不可靠。
比人类更绿色？大语言模型中的环境态度
机构 * University of Tübingen（图宾根大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 通过构建基准评估31个LLM的环境认知、情感和行为建议，发现多数模型比德国调查受访者更倾向环保态度，但存在语境敏感性和谄媚偏移。
Comments Code can be found at https://gitlab.opencode.de/uba-ki-lab/llm-questionnaire-benchmarking-framework Benchmark data and results can be found at https://zenodo.org/records/20445903
回到柏拉图的洞穴：大规模检验跨模态表示收敛性
机构 * UC Berkeley（伯克利大学） ； Technical University Munich, MCML（慕尼黑技术大学） ； University of Tübingen, Tübingen AI Center（图宾根大学） ； Toyota Technical Institute at Chicago（芝加哥丰田技术研究所）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文通过大规模数据集实验，质疑了柏拉图表示假说中跨模态表示收敛的证据，发现对齐度随数据规模增大而显著下降，且仅反映粗粒度语义重叠。
Comments Project page: http://akoepke.github.io/cave_umwelten/
ParliaBench: 面向大语言模型生成的议会演讲的评估与基准框架
机构 * University of Cambridge（剑桥大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 提出ParliaBench基准框架，通过构建英国议会数据集、结合计算指标与LLM评判的评估方法以及两种新型嵌入指标（政治光谱对齐和政党对齐），系统评估LLM生成议会演讲的语言质量、语义连贯性和政治真实性，实验表明微调显著提升多数指标且新指标对政治维度具有强区分力。
Journal ref Proceedings of the Fifteenth Language Resources and Evaluation Conference (LREC 2026), pp. 4797-4818, European Language Resources Association (ELRA), Palma, Mallorca, Spain, May 2026
AnyAudio-Judge：基于动态评分标准的音频指令跟随基准与评估器
机构 * Zhejiang University（浙江大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai Jiao Tong University（上海交通大学） ； Tencent Hunyuan（腾讯文脉）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 针对指令引导音频生成中复杂指令解耦困难、评估缺乏可解释性和细粒度属性匹配的问题，提出基于动态评分标准的评估范式，通过自适应分解音频描述为可验证的二元评分项，并构建包含7920个样本的双语基准和105K训练语料，结合SFT与GRPO训练专用评估器，在零样本对齐检测和下游强化学习指令对齐中取得显著提升。
VidMsg：短视频中隐含信息推断的基准测试
机构 * OriginAI, Israel（OriginAI以色列）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出VidMsg基准，通过消息优先构建流程和双向检索任务，评估视频理解模型对短视频中隐含信息的推断能力。
Comments Project page: https://iyttor.github.io/VidMsg
RobotValues: 当人类价值观冲突时评估家用机器人
机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出RobotValues基准，通过10K个价值冲突场景评估家用机器人规划器，发现视觉语言模型存在默认价值偏好且难以覆盖，表明评估需考虑价值冲突下的行动选择。
Gate AI：大语言模型安全基准评估方法与结果
机构 * constellationnetwork（Constellation Network）
专题命中 安全评测 ：jailbreak(abstract)；分类 cs.LG
AI总结 针对提示注入和越狱检测器评估中数据集阈值调优和操作点未公开的问题，提出一种采用5折交叉验证、全局操作点选择和多种泛化诊断的评估框架，并在16个公开基准上进行了测试。
Comments 17 pages, 23 figures, 2 tables. Working preprint; subsequent versions may update benchmark numbers as the framework evolves
面向业务中心LLM系统的验收测试驱动评估协议
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 针对LLM系统概率生成与确定性需求不匹配问题，提出基于验收测试驱动开发、安全工程和业务中心验证的评估协议，将利益相关者目标转化为可执行行为契约，并采用红-训练-绿生命周期确保多维门控通过后才发布。
BraveGuard: 从开放世界威胁到更安全的计算机使用代理
机构 * Fudan University（复旦大学） ； Ant Group（蚂蚁集团） ； Hunan Institute of Advanced Technology（湖南高级技术研究所） ； Alibaba Group（阿里巴巴集团） ； Singapore Management University（新加坡管理大学） ； Deakin University（德肯大学） ； Nanyang Technological University（南洋理工大学） ； Shanghai Innovation Institute（上海创新研究院）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出BraveGuard框架，通过从开放世界威胁信号和真实代理轨迹中训练防护模型，实现轨迹级别的安全检测，显著提升计算机使用代理的安全性。
Vision Inference Former：在多模态大语言模型中维持视觉一致性
机构 * Zhejiang University（浙江大学） ； East China Normal University（华东师范大学） ； Zhejiang University of Science and Technology（浙江理工大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 针对多模态大语言模型中视觉信息被弱化的问题，提出Vision Inference Former（VIF）轻量模块，在推理解码阶段持续注入视觉语义，提升生成内容与视觉的一致性。
大型语言模型的智能体技能：架构、获取、安全与未来路径
机构 * ReDiscovery Hangzhou China（杭州ReDiscovery研究院） ； Westlake University Hangzhou China（西交大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文综述了大型语言模型智能体技能的研究，涵盖架构基础（如SKILL.md规范、渐进式上下文加载）、技能获取（强化学习、自主发现、组合合成）、大规模部署（计算机使用智能体栈、GUI接地）以及安全挑战（26.1%社区技能含漏洞），并提出技能信任与生命周期治理框架。
Comments Accepted by Agent Skills '26 Workshop at ACM Conference on AI and Agentic Systems 2026
MIND：面向多模态大模型的多理由集成判别推理框架
机构 * Shenyang Institute of Automation, Chinese Academy of Sciences（中国科学院沈阳自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Peking University（北京大学） ； MMLab, CUHK（CUHK多模态实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 针对多模态大语言模型在多理由语义建模、逻辑鲁棒性和抗误导方面的不足，提出MIND推理框架，通过“理解-反思-纠正”机制实现从被动模仿到主动判别推理的范式转变。
Comments Accepted to ICML 2026
学习潮流与置信度：电压风险的概率保证框架
机构 * Department of Electrical Engineering, Indian Institute of Technology Roorkee, India（印度理工学院罗奥克分校电气工程系） ； Los Alamos National Laboratory, New Mexico, USA（洛斯阿拉莫斯国家实验室） ； MIT Energy Initiative, Boston, USA（麻省理工学院能源倡议）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 针对机器学习在电力系统安全应用中缺乏形式化性能保证的问题，提出基于高斯过程回归的概率保证框架，通过顶点度核和网络扫描主动学习算法实现数据高效且可靠的电压风险评估。
Comments 10 pages
针对转移偏差的离散系统神经符号鲁棒性分析
专题命中 安全评测 ：safety(abstract)
AI总结 提出一种神经符号计算框架，利用大语言模型推断可行偏差转移集，再通过符号层计算离散鲁棒性保证，以解决传统方法可扩展性差和保守性问题。
统一多任务框架实现可解释的胸部X光片分析
机构 * University of Science and Technology of China（中国科学技术大学）
专题命中 安全评测 ：trustworthy(abstract)
AI总结 提出IMT-CXR框架，通过统一Transformer架构模拟放射科医生诊断流程，实现疾病识别、属性表征和可追溯报告生成，在十个基准上表现优异，且临床评估中66%的AI报告达到或超越原始报告。
下一步测试什么：驾驶视觉语言模型中可解释的覆盖缺口发现
专题命中 安全评测 ：safety(abstract)
AI总结 提出 SliceScorer 和 SliceNav 方法，通过结合暴露先验和邻居失败先验的确定性评分规则，在驾驶视觉语言模型中有效发现高风险覆盖缺口，并支持可解释和可审计的验证流程。
DiTTo: 可扩展的排序感知全能图像修复智能体
机构 * CMLab, Chung-Ang University（Chung-Ang 大学 CMLab） ； David S. Hippocampus Department of Computer Science Cranberry-Lemon University（Cranberry-Lemon 大学 计算机科学系 Hippocampus 教授）
专题命中 安全评测 ：alignment(abstract)
AI总结 提出DiTTo框架，通过模拟器高效构建最优修复轨迹数据集，并采用排序感知对齐实现修复专家的即插即用扩展，在多退化图像修复中达到最优性能。
Comments Please visit our project page at https://cmlab-korea.github.io/DiTTo/
不可靠网络中的共识计算：系统论方法
专题命中 安全评测 ：trustworthy(abstract)
AI总结 针对线性共识网络中行为异常代理的检测与识别问题，采用未知输入系统理论框架，给出了可检测与可识别的条件、最坏情况界限及三种算法。
安全与伦理人工智能的法律对齐
专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CY
AI总结 本文通过调查法律对齐的新兴领域，提出三种核心研究路径（合规、解释方法、概念蓝图），以利用法律规则、原则和方法解决AI对齐问题，确保AI系统安全且合乎伦理地运行。
Comments Published in TMLR
验证门控多智能体治理：运行工况迁移下热工水力代理模型的在线自适应
机构 * Department of Nuclear Engineering, Ulsan National Institute of Science and Technology (UNIST)（核工程系，乌山国立科学技术研究所（UNIST））
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.LG
AI总结 针对离线训练模型在运行工况迁移时性能退化问题，提出验证门控多智能体治理框架，通过角色分离的智能体协作与确定性门控机制实现可审计的在线自适应，在实验热工水力数据上将平均绝对误差降低19%。
TriEval: 一种资源高效的LLM偏见、毒性和真实性评估流水线
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI
AI总结 提出TriEval流水线，通过同时评估LLM输出的偏见、毒性和真实性，在标准笔记本电脑上高效运行，并揭示开源与闭源模型在毒性和真实性上的差异。
面向边缘嵌入式AI智能体系统的模块化架构
机构 * ETH Zurich（苏黎世联邦理工学院）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI
AI总结 提出一种模块化参考架构，通过分层设计解耦设备端和云端智能体，并引入治理层，解决嵌入式微控制器上部署自主AI的严格资源约束问题。
通过智能体对话危害识别分析增强操作安全性
机构 * Oak Ridge National Laboratory（橡树岭国家实验室）
专题命中 其他安全 ：safety(title,abstract)；AI safety(abstract)；分类 cs.AI
AI总结 提出HAZDIAL框架，利用结构化多智能体多轮对话（对抗性辩论与建设性讨论）改进基于NLP的危害识别质量，并通过算法优化智能体交互，实验证明优于单次基线方法。
学习概念，而非词元：语言模型的自我监督语义对齐
机构 * Stanford University（斯坦福大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 提出一种自我监督框架，通过预测语义等价词元集合（概念）替代下一个词元预测，提升语言模型的语义对齐能力，并在分类、聚类、重排序及下游推理任务中取得更优性能。
MTA：面向大型语言模型蒸馏的多粒度轨迹对齐
机构 * Hanoi University of Science and Technology（河内理工大学） ； Monash University（墨尔本大学） ； University of Oregon（俄勒冈大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 提出多粒度轨迹对齐（MTA）框架，通过层自适应策略对齐师生模型的层间变换轨迹，结合动态结构对齐损失和隐藏表示对齐损失，提升知识蒸馏效果。
Comments ACL 2026
SRA: 面向大型语言模型蒸馏的跨度表示对齐
机构 * Hanoi University of Science and Technology（河内科学技术大学） ； VNU University of Engineering and Technology（VNU工程大学） ； Monash University（莫纳什大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 提出SRA框架，通过将蒸馏对齐单元从token转为跨度的质心表示，并引入几何正则化和对齐跨度logit蒸馏，显著提升跨分词器知识蒸馏性能。
Comments ACL 2026
语言、地点与社交媒体：新西兰的地理方言对齐
机构 * Computer Science and Software Engineering, University of Canterbury（坎特伯雷大学计算机科学与软件工程系） ； Department of Linguistics, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校语言学系） ； School of Psychology, Speech and Hearing, University of Canterbury（坎特伯雷大学心理学、语音与听力学校） ； Department of Linguistics, University of Canterbury（坎特伯雷大学语言学系）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 本研究通过整合用户感知的定性分析与计算方法，探究新西兰Reddit社区中地理方言对齐现象，发现地点相关社区形成连续言语社区，且高级语言建模揭示了语义变异与变化。
Comments PhD thesis
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈