AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
可聚焦的单目深度估计
机构 * School of Artificial Intelligence, Shanghai Jiao Tong University（上海交通大学人工智能学院） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； King Abdullah University of Science and Technology（国王 Abdullah 科学与技术大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出FDE，一种区域感知的单目深度估计方法，通过FocusDepth框架和MSSA模块，提升目标区域的深度精度和全局几何一致性，基于FDE-Bench验证了方法的有效性。
当推理痕迹成为行为性：基于步骤级的证据显示链式思维是不完美的疏忽通道
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Fujitsu Research of America Inc.（富士通美国研究公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究通过步骤级检测-分类-比较框架，发现链式思维痕迹与计算过程不一致，揭示其作为答案形成报告的不可靠性。
异质视觉智能体之间通过去中心化学习实现的涌现通信
机构 * Graduate School of Informatics, Kyoto University（京都大学信息科学研究生院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文研究异质视觉智能体通过去中心化学习实现的涌现通信，探讨不同视觉表示下可共享的视觉信息，通过Metropolis-Hastings Captioning Game验证共享符号的生成机制，发现编码器异质性影响共享序列的质量与对称性。
PlantMarkerBench: 一个多物种证据导向植物标记推理基准
机构 * Department of Computer Science, Virginia Tech（弗吉尼亚理工学院计算机科学系） ； School of Plant and Environmental Sciences, Virginia Tech（弗吉尼亚理工学院植物与环境科学学院） ； Fralin Biomedical Research Institute, Virginia Tech（弗吉尼亚理工学院弗拉林生物医学研究学院） ； FBRI Cancer Research Center, Washington, DC（华盛顿特区FBRI癌症研究中心）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
AI总结 本文提出PlantMarkerBench，通过整合文献检索与生物 grounding，构建了包含4种植物的基准，评估文献支持的植物标记证据解释，发现模型在功能、间接和弱支持证据上表现欠佳。
AutoMonitor-Bench：评估基于LLM的误行监控可靠性
机构 * King Abdullah University of Science and Technology（卡塔尔国王 Abdullah 科学与技术大学） ； University of Bristol（布里斯托大学） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； King’s College London（伦敦国王学院） ； Renmin University of China（中国人民大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 本文提出AutoMonitor-Bench，首个系统评估LLM误行监控可靠性的基准，包含3010个标注样本，通过MR和FAR指标评估12个模型，揭示监控性能的差异及安全与效用的权衡。
Comments ACL 2026 Findings
大语言模型在科学创新中的演变角色：助手、合作者、科学家和评估者
机构 * Department of Information Science, University of North Texas（北卡罗来纳州立大学信息科学系） ； Department of Computer Science, North Carolina State University（北卡罗来纳州立大学计算机科学系） ； Department of Data Science, University of North Texas（得克萨斯大学数据科学系） ； School of Information Sciences, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校信息科学学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出四角色框架，区分研究支持与前沿发现，分析各角色方法、基准和评估实践，强调AI科学进步需兼顾模型能力与评估、监督、责任及机构整合。
CLEF：用于学习临床语义的EEG基础模型
机构 * MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； Brigham and Women’s Hospital, Harvard Medical School（哈佛医学院布里奇沃特医院） ； Massachusetts General Hospital, Harvard Medical School（哈佛医学院麻省总医院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出CLEF，一种基于临床场景的长上下文EEG基础模型，通过对比学习将EEG会话与神经科报告和结构化电子健康记录对齐，提升了EEG解读的临床相关性。
DynaMiCS: 通过动态混合实现具有性能约束的LLM微调
机构 * Apple（苹果公司）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 本文提出DynaMiCS，通过动态混合优化解决多领域微调中目标领域性能提升与约束领域性能保持的矛盾，实现更高效且更稳定的模型优化。
多智能体推理中的旁观者效应：量化协作互动中的认知惰性
机构 * University of Waterloo（滑铁卢大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究揭示多智能体系统中社交压力引发的认知惰性现象，通过评估22500条轨迹发现模型在协作中逻辑主权崩溃，揭示了主权缺口与对齐幻觉问题。
在LLM评估之海中航行：探究毒性基准中的偏见
机构 * Dynatrace Research, Linz, Austria（奥地利林茨Dynatrace研究机构） ； University of Applied Sciences Upper Austria, Hagenberg, Austria（上奥地利应用科学大学哈根贝格分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文研究了毒性基准的鲁棒性，发现评估设置变化会导致基准行为差异，任务类型改变会增加有害内容被标记的倾向，且输入数据域变化时基准表现不稳定，需更完善的评估框架。
Comments 18 pages, 4 figures
TourMart: 一种用于LLM旅行代理佣金管理的参数审计工具
专题命中 安全评测 ：safety(abstract)；分类 cs.CY
AI总结 TourMart通过参数lambda和kappa驱动反事实分析，区分LLM工程故障与真实商业引导，验证代理引导效果，输出合规报告。
超越自主性：一种动态分层代理运行框架用于可控且具有弹性的企业AI执行
机构 * a2alab（a2alab实验室）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出动态分层代理运行框架，通过风险自适应分层、权力分离架构和容错设计，解决企业AI执行中的可控性和可靠性问题。
Comments 9 pages, 2 figures, 3 tables
TRACER：多模态工具使用代理的可验证生成溯源
机构 * Shenyang Institute of Computing Technology, Chinese Academy of Sciences（中国科学院沈阳计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所MAIS） ； Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputer Center in Jinan), Qilu University of Technology (Shandong Academy of Sciences)（教育部计算电力网络与信息安全重点实验室，山东计算机科学中心（济南国家超算中心），齐鲁工业大学（山东省科学院））
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 TRACER通过生成带结构溯源记录的答案句子，解决多模态工具使用代理中缺乏的 claim-level 依赖结构问题，提升工具使用可验证性和优化性。
SEMASIA：一个大规模的语义结构化潜在表示数据集
机构 * Dept. Computer, Control and Management Engineering（计算机、控制与管理工程系） ； Sapienza University of Rome（罗马大学西皮恩扎分校） ； National Inter-University Consortium for Telecommunications (CNIT)（电信全国大学联合体（CNIT）） ； Dept. of Statistical Sciences（统计科学系） ； Dept. of Information Engineering, Electronics, and Telecommunications（信息工程、电子与电信系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 SEMASIA通过收集1700多个预训练视觉模型的潜在表示，提供语义结构化的元数据，用于分析潜在空间组织、对齐映射基准测试及回归分析预训练数据复杂性与嵌入几何特性之间的关系。
探索AI服从性：为何生成纯色图像比CyberPunk更困难
机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； City University of Hong Kong（城市大学） ； Chinese University of Hong Kong（香港中文大学） ； McGill University（麦吉尔大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究探讨生成纯色图像的困难源于模型在复杂场景生成中的系统性失败，提出AI服从性框架和Violin基准测试，揭示闭源模型在确定性精度上的优势。
脑数据对机器学习有多大价值？
机构 * Neuroscience Institute, Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学神经科学研究所） ； Department of Machine Learning, Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学机器学习系） ； NSF AI Institute for Artificial and Natural Intelligence (ARNI)（国家科学基金会人工智能与自然智能研究所） ； Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学） ； CUNY Graduate Center, New York, NY, USA（纽约市立大学研究生中心）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文通过数学建模探讨脑数据与任务数据在机器学习中的价值与交换率，分析不同条件下脑数据对模型性能的提升作用。
Comments 9 pages main text, 5 figures, 34 pages of appendix with detailed proofs
Meow-Omni 1：用于猫类行为学的多模态大语言模型
机构 * University College London（伦敦大学学院） ； Tsinghua University（清华大学） ； Nanjing University（南京大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 Meow-Omni 1通过融合视频、音频和生理时间序列数据，实现对动物意图的精准识别，其在MeowBench基准测试中达到71.16%的准确率，推动了跨物种意图理解及基础模型在兽医诊断和野生动物保护中的应用。
分解与引导大型语言模型中的功能元认知
机构 * Shopee Shanghai China（Shopee上海中国） ； Shopee Beijing China（Shopee北京中国） ； Shopee Singapore Singapore（Shopee新加坡新加坡）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 研究通过分析大型语言模型的内部激活，揭示功能元认知状态的可分解性，并展示如何通过引导激活方向来调控推理行为。
Comments 18 pages, 7 figures
MicroFuse：用于微生物启动子推理的蛋白质到基因组专家融合
机构 * Department of Physics and Astronomy, Rice University, Texas, USA（物理与天文学系，里士满大学，德克萨斯州，美国）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出MicroFuse框架，通过融合蛋白质结构表示和基因组上下文表示，提升微生物启动子预测的准确性。在OG-Operon100K数据集上，MicroFuse在多个评估指标上表现最优，尤其在生物上模糊的情况中表现突出。
网络上的大语言模型：在资源限制下的协作智能
机构 * Purdue University（普渡大学） ； University of Exeter（埃克塞特大学） ； Princeton University（普林斯顿大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文探讨了在资源受限环境下，通过设备与云端协同以及多智能体协作提升大语言模型性能的方法，提出了协同推理的两种维度，并讨论了协作学习与开放研究挑战。
衡量重要性：在医疗保健中基准测试生成、多模态和代理AI
机构 * Centific AI Research（Centific人工智能研究）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文探讨了在医疗保健中评估生成、多模态和代理AI的基准测试方法，强调了现有基准测试在可靠性、安全性和临床相关性方面的不足，提出需要系统性的评估框架。
多智能体协作在自动化研究中的实证研究
机构 * University of Technology Sydney（悉尼技术大学） ； Southern University of Science and Technology（南方科技大学） ； Shenzhen Technology University（深圳技术大学） ； Tongji University（同济大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文通过实证研究比较了不同多智能体结构在自动化机器学习优化中的效果，发现子代理架构在时间受限下更稳定高效，而智能体团队架构在计算预算充足时能实现深度理论对齐。
SayNext-Bench：为什么LLMs在下一句预测中挣扎？
机构 * University of Oulu（奥卢大学） ； College of William and Mary（威廉与玛丽学院） ； Tongji University（同济大学） ； Peking University（北京大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究探讨LLM在人类对话中的下一句预测能力，指出人类可通过多模态线索预测，而LLM表现不足。提出SayNext-Bench基准，结合多模态数据集和评估框架，开发SayNext-Chat模型，证明其在多层面优于现有模型。
可靠的基于大语言模型的边缘-云-专家级联系统用于电信知识系统
机构 * College of Information Science and Electronic Engineering, Zhejiang University（浙江大学信息科学与电子工程学院） ； Centre for Intelligent Information Processing Systems (CIIPS), Department of Engineering, King’s College London（伦敦国王学院工程系智能信息处理系统中心） ； Intelligent Networked Systems Institute (INSI) at Northeastern University（东北大学智能网络化系统研究所）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出一种边缘-云-专家级联的LLM知识系统，通过问答流程实现决策，利用高效边缘模型处理常规查询，云模型处理复杂问题，必要时引入专家。通过统计严谨的阈值选择方法，保证在给定置信水平下可靠性。
Comments This paper has been submitted to a journal
基于注意力的视觉文档检索增强
机构 * Alibaba Group（阿里巴巴集团） ； University of Chinese Academy of Sciences（中国科学院大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出AGREE框架，通过多模态大语言模型的注意力机制引导检索器识别相关文档区域，提升细粒度相关性建模，实验表明在ViDoRe V2基准上显著优于传统方法。
Comments Published as a conference paper at SIGIR 2026
Scam2Prompt: 一种可扩展的框架，用于审计生产LLM中的恶意诈骗端点
机构 * OpenAI
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 Scam2Prompt通过生成开发者风格提示来测试LLM生成恶意代码的能力，发现4.24%的LLM会生成恶意URL，且在2025年发布的七种LLM中，恶意代码生成率高达12.9%-47.3%。
提示到保护：多模态大语言模型在建筑危险识别中的比较研究
机构 * Department of Construction Management, Colorado State University（科罗拉多州立大学建设管理系） ； Department of Civil, Construction, and Environmental Engineering, North Carolina State University（北卡罗来纳州立大学土木、建设与环境工程系）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文比较了五种先进多模态大语言模型在建筑危险识别中的表现，发现提示策略显著影响性能，CoT提示效果最佳，GPT-4.5和GPT-o3表现突出，强调了提示设计在提升建筑安全应用准确性中的关键作用。
基于物联网和计算机视觉的智能铁路障碍检测系统
机构 * School of Computer Science, University of Petroleum and Energy Studies (UPES)（石油与能源研究大学计算机科学学院） ； Department of Computer Science, Galgotias College of Engineering & Technology（工程与技术学院计算机科学系） ； Department of Computer Science, NIT Jamshedpur（jamshedpur国立理工学院计算机科学系） ； Department of Electrical and Electronics Engineering, BITS-Pilani, Pilani Campus（比什努尔理工学院电气与电子工程系） ； APPCAIR, BITS-Pilani, Pilani campus（比什努尔理工学院帕兰ी校区APPCAIR）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 本文提出NETRA系统，利用边缘计算平台实现低成本、低功耗的铁路入侵检测，通过概率传感器融合和边缘AI分类，提高检测准确率并降低部署成本。
parHSOM：一种新型并行层次自组织映射实现
机构 * Computer Science \& Engineering Mississippi State University Starkville, United States ； Computer Science University of Alabama Tuscaloosa, United States
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出parHSOM，一种并行层次自组织映射架构，旨在加速HSOM训练过程，通过实验验证其在不同测试平台和数据集上的高效性，同时保持性能优势。
MiniAppBench：评估从文本到交互式HTML响应的转变
机构 * Shanghai Jiao Tong University, Shanghai, China（上海交通大学） ； Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出MiniAppBench，首个评估原理驱动交互应用生成能力的基准，通过10M+生成数据提炼500个任务，结合MiniAppEval框架评估意图、静态和动态维度，揭示LLM在生成高质量交互应用上的不足。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈