AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
动态对齐与集体代理：迈向一个可扩展的自我改进框架以实现开放式的LLM对齐
机构 * Integral AI
专题命中 偏好对齐 ：alignment(title,abstract)；harmlessness(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出动态对齐框架，通过集体代理价值实现LLM的自我改进和可扩展对齐。
Comments 8 pages, 4 figures, to appear in AAAI 2026 AIGOV Workshop
IF-GUIDE：影响函数引导的LLM去毒化
机构 * Oregon State University（俄勒冈州立大学） ； University of Toronto（多伦多大学） ； Anthropic
专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)；分类 cs.LG
AI总结 IF-GUIDE通过影响函数主动识别并抑制训练数据中的有害标记，有效减少大语言模型的显性和隐性毒性。
Comments Accepted at NeurIPS 2025 [Poster]
萃取专家手术知识：如何训练局部手术VLMs用于完全网膜切除术的解剖解释
机构 * 1 Institute of Medical Technology ； Intelligent Systems, Hamburg University of Technology, Hamburg, Germany 2 Department of General, Visceral ； Thoracic Surgery, University Medical Center Hamburg-Eppendorf, Hamburg, Germany
专题命中 偏好对齐 ：DPO(abstract)
AI总结 本文提出一种隐私保护框架，通过从大型通用LLM中萃取知识，训练出高效的本地手术VLM，用于在完全网膜切除术中进行解剖解释。
无需人工标注的自改进VLM评判模型
机构 * FAIR at Meta（Meta 的 FAIR） ； University of Washington（华盛顿大学）
专题命中 偏好对齐 ：safety(abstract)
AI总结 无需人工标注，通过自训练提升VLM评判模型的准确性和多维度表现
ORFuzz: 测试LLM安全的'另一面' -- 检测过度拒绝
机构 * Zhejiang University（浙江大学） ； Zhejiang University Huzhou Institute of Industrial Control Technology（浙江大学湖州工业控制技术研究所）
专题命中 安全训练 ：safety(title,abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 ORFuzz通过进化测试框架系统检测LLM的过度拒绝现象，生成高覆盖率的测试用例并建立新基准，提升LLM安全性。
Comments Accepted by ASE 2025
LA-RL: 基于语言动作引导的安全强化学习用于自动驾驶高速公路驾驶
专题命中 安全训练 ：safety(title,abstract)
AI总结 LA-RL通过整合大语言模型的语义推理和改进的安全层，提升自动驾驶高速公路驾驶的效率与安全性。
iMotion-LLM：基于指令的轨迹生成
机构 * King Abdullah University of Science and Technology (KAUST)（卡塔尔国王阿卜杜勒阿齐兹大学科学与技术学院） ； Meta Reality Labs（Meta现实实验室）
专题命中 安全训练 ：alignment(abstract)；safety(abstract)
AI总结 iMotion-LLM通过结合预训练LLM与轨迹预测模块，实现基于文本指令的交互式运动生成，提升自动驾驶中的轨迹生成准确性和安全性。
具有鲁棒防护栏的分类适应调谐模型用于大型语言模型
机构 * Project Lead（项目负责人）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
AI总结 Roblox Guard 1.0通过指令微调提升大型语言模型的安全性，采用输入输出调谐和可扩展的安全分类评估框架。
Comments To be presented at AAAI-26 PerFM Workshop
Semore：基于VLM的增强语义运动表示用于视觉强化学习
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI
AI总结 Semore通过结合VLM和CLIP实现高效的视觉强化学习，提升语义和运动表示的融合能力。
ARGUS: 通过引导指令遵循行为防御多模态间接提示注入攻击
专题命中 提示注入 ：prompt injection(title,abstract)；safety(abstract)
AI总结 ARGUS通过引导指令遵循行为，在表示空间中寻找最优防御方向，实现对多模态间接提示注入攻击的有效防御，同时保持模型性能。
信心相辅：探索AI信心对人类自信心在人类-AI决策中的影响
机构 * National University of Singapore（新加坡国立大学） ； Microsoft Research（微软研究院）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 本研究发现人类自信心与AI置信度相辅相成，且这种一致性在AI退出后仍持续，同时实时反馈会降低一致性，表明两者并非独立。
SEA-SafeguardBench: 评估SEA语言和文化中的AI安全
机构 * VISTEC ； Google（谷歌） ； AI Singapore（AI新加坡）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title)；分类 cs.CL
AI总结 SEA-SafeguardBench是首个针对东南亚语言和文化的AI安全评估基准，通过八种语言21640个样本验证LLMs在文化特定危害场景下的表现。
Comments Under review
IS-Bench：评估由视觉语言模型驱动的具身智能体在日常家务任务中的交互安全性
机构 * Xiaoya Lu 1, 2（某大学） ； Zeren Chen 2, 3（某大学） ； Xuhao Hu 2, 4（某大学） ； Yijin Zhou 2（某大学） ； Weichen Zhang 2（某大学） ； Dongrui Liu 2（某大学） ； Lu Sheng 3（某研究所） ； Jing Shao 2（某研究所）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 IS-Bench通过多模态基准评估视觉语言模型驱动的具身智能体在日常家务任务中的交互安全性，揭示现有智能体缺乏安全意识的问题。
文档摘要对基于大语言模型的相关性判断的影响
机构 * The University of Queensland（昆士兰大学） ； University of Udine（乌迪内大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文研究了文档摘要对基于大语言模型的相关性判断可靠性及IR评估的影响，发现摘要判断在稳定性上与完整文档判断相当，但引入了系统性的标签偏见。
EnterpriseEM: 企业语义搜索的微调嵌入
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出EnterpriseEM方法，通过微调预训练嵌入模型提升企业语义搜索的精度与相关性。
超越数据过滤：LLMs中能力移除的知识定位
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 本文提出SGTM方法，通过局部化知识并屏蔽梯度来移除LLM中的危险能力，相比数据过滤和梯度路由，在标签噪声下表现更优。
CureAgent：一种无需训练的执行-分析框架用于临床推理
机构 * Cambridge（剑桥）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 CureAgent提出无需训练的执行-分析框架，通过模块化架构和分层集合策略提升临床推理性能，实现CURE-Bench上的最佳表现。
Comments 2nd Place Solution to the CURE-Bench Competition @ NeurIPS 2025. Code available at https://github.com/June01/CureAgent
迈向社区价值观和常识的文化智能与价值观推理质量基准
机构 * George Mason University（乔治·马歇尔大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出CIVIQ基准，旨在通过社区价值观和常识对齐提升文化智能，填补美国文化多样性下的评估空白。
Comments Under review
统一的AI系统用于受监管环境中的数据质量控制和DataOps管理
专题命中 安全评测 ：trustworthy(abstract)
AI总结 本文提出了一种统一的AI驱动框架，用于受监管环境中数据质量控制和DataOps管理，通过整合多种方法提升数据管道的可靠性与合规性。
Comments 10 pages, 9 figures, 5 tables
重新思考红外小目标检测：一种基础驱动的高效范式
机构 * Key Laboratory of Opto-Electronic Information Processing, Chinese Academy of Sciences（光电信息处理重点实验室，中国科学院） ； Shenyang Institute of Automation, Chinese Academy of Sciences（沈阳自动化研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； Sun Yat-sen University（中山大学） ； Tencent（腾讯） ； Nankai University（南开大学） ； MMLab, The Chinese University of Hong Kong（香港中文大学MMLab）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出FDEP范式，通过基础模型冻结表示与任务特征融合，提升红外小目标检测精度，构建综合评估指标，实现多数据集SOTA性能。
一切皆为上下文：面向上下文工程的代理文件系统抽象
专题命中 安全评测 ：trustworthy(abstract)
AI总结 本文提出一种基于文件系统的上下文工程抽象，通过统一挂载、元数据和访问控制，实现可验证的上下文管理，支持可问责和以人类为中心的AI协作。
Comments Submitted
C2SaferRust：利用神经符号技术将C项目转化为更安全的Rust
专题命中 安全评测 ：safety(abstract)
AI总结 C2SaferRust结合规则系统和LLMs，将C代码转换为更安全的Rust，减少指针和unsafe代码，提升安全性与性能。
对大脑进行模糊测试：用于ML驱动的神经刺激安全性的自动化压力测试
机构 * Department of Computer Science, University of California, Santa Barbara, CA, USA（计算机科学系，加州大学圣巴巴拉分校）
专题命中 AI治理与伦理 ：safety(title,abstract)；分类 cs.AI
AI总结 本文提出了一种基于模糊测试的自动化方法，用于检测和表征ML驱动神经刺激系统中的不安全刺激模式，以提升神经接口的安全性。
Comments 20 pages, 4 figures, 2 tables
反事实推理用于可操控的多元价值观对齐大语言模型
机构 * Renmin University of China（中国人民大学） ； Microsoft Research Asia（微软亚洲研究院） ； Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE（下一代智能搜索与推荐工程研究中心，教育部）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 COUPLE通过反事实推理框架实现多元价值观对齐，解决现有方法在处理细粒度价值目标时的依赖性和优先级控制问题。
Comments NeurIPS 2025. 41 pages, 7 figures
Journal ref The Thirty-Ninth Annual Conference on Neural Information Processing Systems. (NeurIPS 2025)
多智能体空中3D打印的最优安全意识调度与效用最大化在依赖约束下
机构 * Robotics and AI Group, Luleå University of Technology（机器人与人工智能组，卢勒奥技术大学）
专题命中 其他安全 ：safety(title,abstract)
AI总结 本文提出了一种基于效用最大化的优化框架，用于在依赖约束下实现多智能体空中3D打印的最优安全调度。
联合自监督视频对齐与动作分割
机构 * Retrocausal, Inc.（Retrocausal公司）
专题命中 其他安全 ：alignment(title,abstract)
AI总结 本文提出了一种统一最优传输框架，用于联合自监督视频对齐与动作分割，实现了高效训练和更优的分割性能。
Comments Accepted to ICCV 2025
Evo-1：轻量级视觉-语言-动作模型，保持语义对齐
机构 * School of AI, Shanghai Jiao Tong University（上海交通大学人工智能学院） ； EvoMind Tech（EvoMind科技） ； IAAR-Shanghai（IAAR-上海） ； SII ； Carnegie Mellon University（卡内基梅隆大学） ； University of Cambridge（剑桥大学） ； Nanyang Technological University（南洋理工大学）
专题命中 其他安全 ：alignment(title)
AI总结 Evo-1是一种轻量级的视觉-语言-动作模型，通过减少计算并保持语义对齐，实现了高效的部署和强大的性能。
Comments Github: https://github.com/MINT-SJTU/Evo-1
GRASP：具有人机交互循环的图推理代理用于系统药理学
机构 * Clinical Pharmacology, Genentech（基因泰克临床药理部） ； Preclinical & Translational PKPD, Genentech Inc.（基因泰克预临床与转化药代动力学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 GRASP通过图推理代理实现系统药理学模型开发的自动化与严谨性，提升生物医学建模的效率和准确性。
MCP-AI：面向医疗领域自主推理的协议驱动智能框架
机构 * School of Information Technology University of Cincinnati Ohio, USA（信息科技学院 俄亥俄州立大学 奥哈伊俄州） ； Adolescent Psychiatry Cincinnati Children’s Hospital Medical Center Ohio, USA（青少年精神病学 奥克兰儿童医院医疗中心 奥哈伊俄州）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI
AI总结 MCP-AI是一种基于模型上下文协议的医疗自主推理框架，通过整合临床逻辑和安全协作，提升医疗决策的可解释性和适应性。
Comments 6 pages, 4 figures
Journal ref IEEE ICMLA 2025
方差至关重要：通过分层抽样改进领域适应
机构 * Institute of Sound and Vibration Research（声学与振动研究所） ； University of Southampton（南安普顿大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出VaRDASS方法，通过分层抽样减少领域适应中的方差，提升领域差异估计精度和目标领域性能。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈