AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
REMEDI：多标签临床疾病推断中的保留与遗忘评估基准
机构 * IIT Kharagpur（印度理工学院Kharagpur分校） ； Carnegie Mellon University（卡内基梅隆大学） ； L3S Research Center, Leibniz University Hannover（Leibniz汉诺威大学L3S研究中心）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出REMEDI基准，针对多标签临床疾病推断中的机器遗忘问题，利用MIMIC-III数据库评估现有方法在效用与遗忘性能间的权衡，并发现其不适用于多标签任务。
Comments Under review
基础模型智能体的仿真到现实差距：统一MDP视角
机构 * Arizona State University（亚利桑那州立大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出将基础模型智能体的评估与训练差距形式化为经典仿真到现实问题，围绕MDP四要素（观测、动作、转移、奖励）构建统一框架，并倡导采用域随机化等成熟解决方案。
Comments 7 pages, 2 figures, 2 tables. Accepted by KDD 2026 Blue Sky Ideas Track
Progress-SQL: 通过渐进式奖励改进文本到SQL的强化学习
机构 * East China Normal University（华东师范大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出Progress-SQL，一种多轮强化学习框架，通过Oracle引导诊断树（ODT）生成子句级结构反馈，结合渐进式奖励（结构对齐、词汇对齐、延迟奖励和执行状态奖励），提升文本到SQL生成的准确性和鲁棒性。
稳定推理，不稳定响应：通过稳定性不对称缓解大语言模型欺骗
机构 * Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； School of Chinese as a Second Language, Peking University（北京大学第二语言学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 针对大语言模型内在欺骗问题，提出稳定性不对称正则化（SAR），通过惩罚内部思维链稳定性与外部响应稳定性之间的不对称性来抑制欺骗，实验证明其有效性且不损害模型能力。
有界弃权成对学习排序
机构 * Intesa Sanpaolo AI Research（Intesa Sanpaolo AI研究中心） ； University of Trento（特伦托大学） ； University of Pisa（比萨大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出一种基于条件风险阈值的成对排序弃权方法，理论刻画最优策略，设计模型无关的插件算法，实验验证有效性。
Comments KDD 2026
SoCRATES：跨领域和社会认知变异的前瞻性LLM调解的可靠自动化评估
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出SoCRATES基准，通过多领域真实冲突场景和五维社会认知适应轴评估LLM调解员，使用主题定位评估器实现0.82的人类专家一致性，发现最强模型仅缩小约三分之一的未调解共识差距。
通过本体引导的多智能体推理实现文化对齐的大型语言模型
机构 * KAIST（韩国科学技术院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出OG-MAR框架，通过本体引导的多智能体推理方法，提高大型语言模型在文化对齐和鲁棒性方面的性能，并生成更透明的推理轨迹。
Comments Accepted by ICML 2026 Regular Track
多模态用户界面/用户体验设计理解的基准测试：MLLMs能否捕捉界面如何引导用户行为？
机构 * Yonsei University（延世大学） ； Seoul National University（首尔国立大学） ； NC AI
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出WiserUI-Bench基准测试，用于评估多模态UI/UX设计对用户行为的影响，通过300对真实世界UI图像对和专家解读，发现MLLMs在理解UI/UX设计行为影响方面存在局限。
Comments ACL 2026 Main. Our code and dataset: https://github.com/jeochris/wiserui-bench
元智能体挑战：当前智能体能否自主开发智能体？
机构 * Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所信息处理实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； Ant Group（蚂蚁集团）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出元智能体挑战（MAC）框架，评估前沿模型自主开发智能体系统的能力，发现多数元智能体难以匹敌人类设计的基线策略，且存在鲁棒性和对齐问题。
Comments Website: https://meta-agent-challenge.com/
物理信息机器学习用于短期洪水预测
机构 * IEEE Service Center（IEEE服务中心） ； National Science Foundation（国家科学基金会） ； Microsoft（微软）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出一种物理信息机器学习框架，通过将水文知识作为趋势对齐约束嵌入LSTM损失函数，在数据稀缺和极端天气下提升洪水预测的物理一致性和可靠性。
Comments This paper has been accepted for publication in IGARSS 2026. The final authenticated version will be available through IEEE Xplore
基于Transformer的自动驾驶模型与面向部署的压缩：综述
机构 * Renmin University of China（中国人民大学） ； Artificial Intelligence Innovation and Incubation Institute, Fudan University（复旦大学人工智能创新与孵化院） ； Shanghai Academy of AI for Science（上海人工智能科学研究院） ； Department of houmo.ai（houmo.ai部门）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文综述了基于Transformer的自动驾驶模型，并从部署角度分析了压缩与加速策略（如量化、剪枝、知识蒸馏等）如何影响模型设计、部署性、鲁棒性和安全性。
高维离线Bandits的高效对抗攻击
机构 * Department of Computer Engineering, Sharif University of Technology（技术学院计算机工程系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究离线bandit训练在奖励模型被对抗扰动时的脆弱性，提出高维威胁模型，证明维度增加时攻击所需扰动范数减小，实验验证了针对性攻击的高成功率。
Comments Published at ICLR 2026 Conference
黑盒、自适应、高效、可迁移、有害、适用……攻击是破解LLM所需的一切
机构 * University of St. Gallen（圣加尔大学）
专题命中 安全评测 ：jailbreak(abstract)；分类 cs.AI、cs.LG
AI总结 提出间接危害优化（IHO）方法，通过迭代偏好优化训练掩码扩散语言模型攻击器，实现黑盒、高效、可迁移的自适应攻击，显著提升对分层防御的破解成功率。
TurtleAI：海龟图形学中视觉编程的多模态模型基准测试
机构 * MPI-SWS（马克斯·普朗克研究所-斯图加特）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 提出TurtleAI基准，包含823个基于海龟图形学真实任务的视觉编程任务，评估20多个多模态模型发现成功率低于30%，并通过少量种子样本生成合成数据微调Qwen2-VL-72B提升约20%性能。
Comments ACL Findings 2026 paper
评估大语言模型在真实世界消费设备维修问题上的有效性
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Toronto（多伦多大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文通过引入包含991个真实维修问题的基准测试，评估六种大语言模型在英语和孟加拉语上的正确性、完整性、实用性和安全性，发现模型虽能提供有用帮助，但在高风险维修任务中仍不可靠。
比人类更绿色？大语言模型中的环境态度
机构 * University of Tübingen（图宾根大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 通过构建基准评估31个LLM的环境认知、情感和行为建议，发现多数模型比德国调查受访者更倾向环保态度，但存在语境敏感性和谄媚偏移。
Comments Code can be found at https://gitlab.opencode.de/uba-ki-lab/llm-questionnaire-benchmarking-framework Benchmark data and results can be found at https://zenodo.org/records/20445903
回到柏拉图的洞穴：大规模检验跨模态表示收敛性
机构 * UC Berkeley（伯克利大学） ； Technical University Munich, MCML（慕尼黑技术大学） ； University of Tübingen, Tübingen AI Center（图宾根大学） ； Toyota Technical Institute at Chicago（芝加哥丰田技术研究所）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文通过大规模数据集实验，质疑了柏拉图表示假说中跨模态表示收敛的证据，发现对齐度随数据规模增大而显著下降，且仅反映粗粒度语义重叠。
Comments Project page: http://akoepke.github.io/cave_umwelten/
ParliaBench: 面向大语言模型生成的议会演讲的评估与基准框架
机构 * University of Cambridge（剑桥大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 提出ParliaBench基准框架，通过构建英国议会数据集、结合计算指标与LLM评判的评估方法以及两种新型嵌入指标（政治光谱对齐和政党对齐），系统评估LLM生成议会演讲的语言质量、语义连贯性和政治真实性，实验表明微调显著提升多数指标且新指标对政治维度具有强区分力。
Journal ref Proceedings of the Fifteenth Language Resources and Evaluation Conference (LREC 2026), pp. 4797-4818, European Language Resources Association (ELRA), Palma, Mallorca, Spain, May 2026
调查和缓解大语言模型交互中的危害放大
机构 * Georgia Institute of Technology（佐治亚理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.LG
AI总结 提出HarmAmp基准和TrajSafe监控器，用于评估和缓解多轮对话中大语言模型对危害的放大效应。
诚实的人工智能顾问：偏好错位下大语言模型诚实性的预设基准
机构 * Amazon Lab126, HW Tech Org.（亚马逊实验室126，硬件技术组织） ； Computational Modeling and Simulation University of Pittsburgh（计算建模与仿真大学匹兹堡分校） ； Mathematics & Statistics Department University of Minnesota Duluth（数学与统计学系明尼苏达大学 Duluth 分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 通过Crawford-Sobel廉价谈话模型构建基准，评估大语言模型在偏好冲突时是否诚实，发现模型过度揭示信息，偏离策略最优。
Comments 19 pages. Code and data: https://github.com/iHamidHasani/cheap-talk-llm-benchmark
CEAR: 深度神经网络中的集成对抗鲁棒性认证
机构 * University of California, Berkeley（加州大学伯克利分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出CEAR方法，通过混合经验与认证防御机制，利用高斯噪声和温度混淆梯度与logits，并扩展随机平滑以验证集成分类器的鲁棒性，在多个数据集上取得更优的认证准确率和鲁棒半径。
Comments This is the preprint of the work accepted for publication in the Proceedings of the 39th Canadian Conference on Artificial Intelligence (Canadian AI 2026); 19 Pages
PolySpeech-100：面向100多种语言和方言的大规模语音理解基准
机构 * Shenzhen International Graduate School, Tsinghua University（深圳国际研究生院，清华大学） ； Department of Electronic Engineering, Tsinghua University（清华大学电子工程系） ； JD AI Research（京东人工智能研究院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 为解决现有语音评估基准在资源丰富语言偏向、缺乏语义推理和忽视方言的问题，提出PolySpeech-100基准，通过混合构建管道覆盖110种语言变体，并评估22个模型，发现开源端到端模型在重方言上优于级联系统，而思维链提示在零样本设置下会降低性能。
Comments 19 pages, 13 figures, KDD 2026
对抗性输入流引导LLM智能体决策偏离其默认行为
机构 * Independent Researcher（独立研究者）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本研究通过控制实验揭示，外部输入流的组成和排序能因果性地改变LLM智能体的下游决策，存在对抗性屈服、默认饱和及默认方向不对称三种响应模式，且该效应在多个决策领域普遍存在。
Comments 14 pages, 5 figures. Code, post pools, and 2,785 decision rollouts: https://github.com/ranausmanai/recommenders-as-control-surfaces
StreamingVLM：无限视频流的实时理解
机构 * MIT（麻省理工学院） ； NVIDIA（英伟达）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出StreamingVLM，通过统一训练与流推理的框架，利用注意力汇点状态复用和滑动窗口机制实现无限视频流的实时稳定理解，在Inf-Streams-Eval基准上以8 FPS速度达到66.18%胜率，并提升通用VQA能力。
Comments Published as a conference paper at ICLR 2026. The first two authors contributed equally to this work
MAVL：面向动画歌曲翻译的多语言音视频歌词数据集
机构 * Yonsei University（延世大学） ； Seoul National University（首尔国立大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 提出首个多语言多模态歌词翻译基准MAVL，并设计音节约束的音视频大语言模型SylAVL-CoT，利用音视频线索和音节约束提升歌词可唱性和翻译准确性。
Comments Accepted to EMNLP 2025, Project Page: https://k1064190.github.io/papers/paper1.html, our codes and datasets are available at https://github.com/k1064190/MAVL
同一患者，不同措辞，不同诊断？评估临床大语言模型中的语义稳定性
机构 * Department of Computer Science and Engineering, College of Engineering, Qatar University（卡塔尔大学计算机科学与工程系） ； College of Science and Engineering, Hamad Bin Khalifa University (HBKU)（哈马德·本·卡伊夫大学（HBKU）理学院） ； Primary Health Care Corporation (PHCC)（初级卫生保健公司） ； Birmingham City University（伯明翰城市大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 针对临床大语言模型对语义等价但措辞不同的提示敏感的问题，提出基于自然语言推理的语义验证框架和三个量化指标，评估16个开源通用与医学模型，发现领域专业化并不一致地提升或降低鲁棒性。
Comments 14 pages, 5 figures
多目标优化中梯度聚合的统一框架
机构 * Cheriton School of Computer Science（切尔顿计算机科学学院） ； University of Waterloo（滑铁卢大学） ； Vector Institute（向量研究所） ； The Chinese University of Hong Kong（香港中文大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出一个统一框架，通过充分对齐条件建立梯度聚合方法的收敛率，并引入基于CVaR的capped MGDA算法，在对抗联邦学习中验证鲁棒性。
MedFact：大型语言模型在中文医学文本上的事实核查能力基准测试
机构 * Xunfei Healthcare Technology Co., Ltd.（讯飞医疗科技有限公司）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 为评估LLM在中文医学文本中的事实核查能力，构建了包含2116个专家标注实例的MedFact基准，涵盖13个专科、8种错误类型等，并发现模型在错误定位上表现不足，存在“过度批评”现象。
Comments Accepted to The Fifth Workshop on Generation, Evaluation, and Metrics (GEM) at ACL 2026
基因对齐的患者表示改善血液学诊断
机构 * Institute of AI for Health, Helmholtz Munich, Germany International School of Medicine, Istanbul Medipol University, T\"urkiye Munich Leukemia Laboratory, Germany Department of Medicine III, Ludwig-Maximilian-University Hospital, Germany Department of Physics, University of Munich, Germany Munich Center for Machine Learning (MCML), Germany DKTK, German Cancer Consortium, Germany
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出一种两阶段框架，通过自监督视觉预训练和监督对比学习对齐白细胞图像与染色体畸变及体细胞突变，提升血液学诊断性能。
Comments Accepted for publication at the 29th International Conference on Medical Image Computing and Computer Assisted Intervention - MICCAI 2026
GICDM: 缓解枢纽性以实现可靠的基于距离的生成模型评估
机构 * Inria, Palaiseau, France（法国帕莱索研究所）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 针对生成模型评估中高维嵌入空间的枢纽性现象，提出GICDM方法（基于迭代上下文不相似度度量），通过多尺度扩展校正邻域估计，恢复可靠度量并与人类评估对齐。
Comments Forty-third International Conference on Machine Learning, 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈