AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
IndustryBench: 探索大语言模型在工业知识边界的限制
机构 * Multimodal and Industrial AI Team（多模态与工业AI团队）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 IndustryBench通过中国国家标准和工业产品记录构建2049项工业采购问答基准，揭示LLM在工业QA中的可靠性问题，发现标准与术语能力最弱，扩展推理降低安全调整分数，安全违规率影响排行榜。
基于项目反应理论的LLM自动简答评分能力与响应难度估计
机构 * DIPF | Leibniz Institute for Research and Information in Education（德意志教育研究所 | 列支敦士登教育研究所） ； Faculty of Computer Science, Goethe University Frankfurt（法兰克福歌德大学计算机学院） ； Chemnitz University of Technology（化学工业大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出基于项目反应理论的LLM自动简答评分评估框架，分析评分准确率与响应难度的关系，揭示不同模型在评分表现上的差异及中间标签崩溃问题。
Comments accepted at BEA 2026, the 21st Workshop on Innovative Use of NLP for Building Educational Applications
连接点：为电离层预报模型准备的机器学习数据集
机构 * Department of Information and Computer Science（信息与计算机科学系） ； University of Hawai‘i at Mānoa（夏威夷大学毛纳罗亚分校） ； Department of Engineering Science（工程科学系） ； University of Oxford（牛津大学） ； Università degli Studi di Roma Sapienza（罗马大学） ； Free Flight Research Lab（自由飞行研究实验室） ； University of New Hampshire（新罕布什尔大学） ； European Space Agency (ESA)（欧洲航天局） ； NASA Jet Propulsion Laboratory（美国宇航局喷气推进实验室） ； NASA Headquarters（美国宇航局总部） ； Space Weather Technology, Research, and Education Center（空间天气技术、研究与教育中心） ； University of Colorado Boulder（科罗拉多大学博尔德分校） ； Department of Computer Science（计算机科学系） ； University of York & King’s College London（约克大学及伦敦国王学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 本文提出一个整合多种电离层和日球层数据的机器学习数据集，用于改进电离层预报模型，支持科学探索和实际应用。
Comments 8 pages, 2 figures, 2 tables. Accepted as a poster presentation in the Machine Learning for the Physical Sciences workshop at NeurIPS 2025. Dataset can be found on Zenodo (https://zenodo.org/records/18343833) or GitHub (https://github.com/FrontierDevelopmentLab/2025-HL-Ionosphere-dataset)
思维约束：一种在语言模型引导搜索中进行约束推理的框架
机构 * Georgia Institute of Technology（佐治亚理工学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出Const-o-T框架，通过约束推理提升语言模型在多步骤任务中的规划效率和决策可靠性，适用于风险游戏、CAD代码生成和算术推理等复杂领域。
AgenticAITA: 关于自主交易系统中 deliberative 多智能体推理的证明概念
机构 * Department of Information Engineering, Computer Science, and Mathematics, Center of Excellence for Research DEWS, University of L’Aquila（信息工程、计算机科学和数学系，DEWS研究中心，拉奎拉大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出AGENTICAITA框架，通过多智能体协作推理替代传统信号执行模式，实现自主交易系统中无离线训练的决策流程，展示其在金融决策中的可行性与有效性。
生成3D行人纹理多样化以实现自动驾驶感知的鲁棒性
机构 * BIT Technology Solutions GmbH（比特技术解决方案 GmbH） ； Mannheim University of Applied Sciences（曼海姆应用科学大学）
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出一种简单有效的方法，通过StyleGAN2生成多样化的3D行人资产，用于合成场景生成，提升自动驾驶感知的鲁棒性。
Comments Published at SAIAD 2026 Workshop at CVPR 2026
Qwen-Image-VAE-2.0 技术报告
机构 * Qwen Team（通义实验室）
专题命中 安全评测 ：alignment(abstract)
AI总结 Qwen-Image-VAE-2.0 提出了一种高压缩变分自编码器，通过改进架构和训练方法，提升了重建保真度和扩散能力，同时引入了新的评估基准。
将代理模型整合到开放仿真架构中以用于自动驾驶车辆的基于场景测试
机构 * Institute for Automotive Engineering, RWTH Aachen University（汽车工程研究所，亚琛工业大学）
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出一种标准化模块化仿真架构，用于在不同仿真环境中集成交通代理模型，通过Open Simulation Interface和Functional Mock-up Interface实现跨平台一致性验证。
Journal ref at - Automatisierungstechnik - 2026 - Band 74, Heft 5 - Special Issue: AI for automated driving
UNIV：用于红外和可见模态的统一基础模型
机构 * Research Center for Intelligent Computing Systems, CAS ICT（智能计算系统研究所以及中国科学院信息科技研究院） ； University of Chinese Academy of Sciences（中国科学院大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
专题命中 安全评测 ：alignment(abstract)
AI总结 UNIV通过跨模态对比学习提升红外与可见光感知的鲁棒性，解决模态偏差问题，实验显示在红外任务中表现优异。
TrackCraft3R：将视频扩散变换器重新用于密集3D跟踪
机构 * KAIST AI（韩国科学技术院人工智能研究所） ； Google DeepMind（谷歌DeepMind）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出TrackCraft3R，通过重新利用预训练的视频扩散变换器，实现了基于单目视频的密集3D跟踪，采用双潜表示和时间RoPE对齐设计，提升了跟踪性能和效率。
Comments Project page and code are available at https://cvlab-kaist.github.io/TrackCraft3r/
对齐减少了表达但未减少编码的性别偏见：一个统一的框架和研究
机构 * Sorbonne Université, CNRS, LIP6（索邦大学、国家科学研究中心、LIP6实验室） ； AXA（安盛） ； Polish Academy of Science, IBS PAN（波兰科学院、IBS PAN）
专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL
AI总结 本文提出统一框架分析LLM中的内在和外在性别偏见，发现对齐减少表达偏见但内部表示仍存在关联，且在对抗性提示下可被激活。
否定忽视：当模型在训练中无法学习否定时的失败
机构 * University of Oxford（牛津大学） ； University of Toronto（多伦多大学） ； Warsaw University of Technology（华沙技术大学） ； NASK National Research Institute（国家研究 institute NASK） ； Truthful AI ； Anthropic ； UC Berkeley（伯克利大学）
专题命中 AI治理与伦理 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究发现，当模型在训练中接触到标记为假的声明时，会错误地认为这些声明为真，且这种现象不仅发生在否定语句中，还扩展到其他认知限定词，影响模型的行为和安全性。
自主AI的谨慎治理：法人身份作为功能性工具
机构 * Independent Researcher AGI Rights Project（AGI权利项目独立研究员）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出有限法人身份作为治理高级AI系统的工具，通过双层公司架构实现透明和问责，同时保持对意识和道德地位的中立。
Comments 25 pages. Experimental implementation under development at www.agi-rights.com. Contact: karsten.brensing@agi-rights.com
通过反事实语义显著性揭示人类与VLM场景感知之间的差距
机构 * Department of Computer Science, University of California, Santa Barbara（加州大学圣巴巴拉分校计算机科学系） ； Department of Psychological and Brain Sciences, University of California, Santa Barbara（加州大学圣巴巴拉分校心理学与脑科学系）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI
AI总结 本文通过反事实语义显著性方法揭示VLM在高阶语义场景理解中与人类感知之间的差距，发现模型过度依赖大物体、图像中心物体和高显著性物体，而对人物依赖程度较低。
数字孪生作为单臂试验中的合成控制
机构 * Unlearn.AI, Inc.（Unlearn人工智能公司）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.LG
AI总结 本文探讨了数字孪生在单臂试验中的应用，利用机器学习模型生成个性化疾病进展预测，以构建更稳健的治疗效果估计，并讨论了数据选择和FDA指南中的实际考量。
智能交付网络：面向人工智能时代的互联网架构
专题命中 AI治理与伦理 ：trustworthy(abstract)
AI总结 本文提出智能交付网络（IDN），旨在通过将AI能力作为可交付的网络服务，解决传统云中心化部署在延迟、资源利用率和隐私问题上的不足。
TokAlign++: 通过更好的词 token 对齐推进词汇适应
机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, CAS, Beijing, China（多模态人工智能系统国家重点实验室，自动化研究所，中国科学院，北京，中国） ； School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, China（中国科学院大学人工智能学院，北京，中国）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 TokAlign++通过学习更好的词 token 对齐词典，提升多语言模型的词汇适应性能，实验显示其能提升多语言文本压缩率并保持模型能力，仅需1k步即可恢复基础模型性能。
Comments Paper under review
通过子词正则化预训练语言模型：BPE Dropout在低资源NLP中的实证研究
机构 * Department of Computer Science, Stellenbosch University（斯瓦茨堡大学计算机科学系）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文研究了在低资源NLP中预训练时应用BPE Dropout对下游性能的影响，发现随机分词在预训练和微调时均优于仅在微调时应用，尤其在数据较少时表现更佳。
Comments Comments: 12 pages, 8 figures, 5 tables
异步推理：无需训练的交互式思考LLM
机构 * Yandex ； HSE University（俄罗斯高等经济大学） ； The University of Tokyo（东京大学） ； MATS ； Together AI
专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出一种无需额外训练的LLM异步推理方法，通过位置嵌入特性实现同时思考、倾听和生成输出，提升数学、常识和安全推理任务的准确性和响应速度。
Comments Preprint, work in progress
逐层表示动态：跨嵌入器和基础大语言模型的实证研究
机构 * The Hong Kong University of Science and Technology（香港科技大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出LRD框架，通过三种逐层测量家族分析语言模型的层间表示动态，揭示架构和任务层面差异，并应用于模型选择和层间剪枝。
揭示视觉语言模型的可解释性故障模式
机构 * UIUC（伊利诺伊大学香槟分校） ； Kumo AI ； IIT Delhi（德里印度理工学院）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出REVELIO框架，通过系统性探索揭示VLMs在自动驾驶和室内机器人领域中的可解释性故障模式，发现模型在空间定位和安全威胁识别上的缺陷。
对图像与长描述中的森林和树木进行对齐以实现视觉基础理解
机构 * Agency for Defense Development（国防发展局） ； University of Michigan（密歇根大学） ； POSTECH
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出CAFT模型，通过分层视觉语言学习原理，解决长描述中细节丰富的场景理解问题，实现图像与文本的细粒度对齐，取得六个长文本检索基准的最优性能。
Comments Preprint
ChatSR：用于科学公式发现的多模态大语言模型
机构 * AnnLab, Institute of Semiconductors, Chinese Academy of Sciences, Beijing, China（安 lab，半导体研究所，中国科学院，北京，中国） ； School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences, Beijing, China（电子、电气与通信工程学院，中国科学院大学，北京，中国） ； Zhongguancun Academy, Beijing, China（中关村学院，北京，中国） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences, Beijing 101408, China（先进交叉科学学院，中国科学院大学，北京101408，中国） ； College of Materials Science and Opto-Electronic Technology, University of Chinese Academy of Sciences, Beijing, 100049, China（材料科学与光电技术学院，中国科学院大学，北京100049，中国） ； School of Integrated Circuits, University of Chinese Academy of Sciences, Beijing 100049, China（集成电路学院，中国科学院大学，北京100049，中国）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 ChatSR通过设计专用编码器和模态对齐机制，将科学数据映射到可被大语言模型处理的表示空间，从而生成符合领域先验的数学公式，推动科学发现自动化。
Comments 14 pages,
STAR：语义-时间自适应表示学习用于少样本动作识别
机构 * School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院） ； Engineering Research Center of Key Software Technologies for Smart City Perception and Planning, Ministry of Education（教育部智能城市感知与规划关键软件技术工程研究中心）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 STAR通过语义对齐和时间感知模块，解决少样本动作识别中的语义-时间对齐和多尺度时间动态建模问题，提升模型在有限样本下的泛化能力。
Comments Accepted for publication in IEEE Transactions on Circuits and Systems for Video Technology (TCSVT)
自适应置信区间用于可靠且可解释的医学图像分类
机构 * Faculty of Computer Science, Universitas Brawijaya（博雅大学计算机科学学院）
专题命中 其他安全 ：safety(abstract)；分类 cs.LG
AI总结 本文提出自适应Lambda准则改进RAPS，提升医学图像分类的可靠性与可解释性，实验表明其在跨域验证中表现优异。
Comments To appear in IEA/AIE 2026 (Springer LNAI)
BEHAVE：一种混合AI框架，用于实时建模集体人类动态
机构 * Independent Researcher, Collective Dynamics Lab（独立研究者，集体动力学实验室）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI
AI总结 BEHAVE框架通过建模连续行为场，实时捕捉群体动态，结合神经网络实现数据驱动学习，应用于群体安全、危机团队动态等场景。
Comments 19 pages
面向连接自动化驾驶的五层MLOps架构
机构 * Institute for Automotive Engineering (ika), RWTH Aachen University（汽车工程研究所（ika），亚琛工业大学）
专题命中 其他安全 ：safety(abstract)；分类 cs.LG
AI总结 本文提出五层MLOps架构，旨在通过集体学习提升自动驾驶系统安全性和性能，支持车队运营商等利益相关者设计实现MLOps流程，通过多级自我评估降低边缘案例风险。
Comments 8 pages, 6 figures
学习可迁移的潜在用户偏好以实现人类对齐的决策制定
机构 * Oregon State University（俄勒冈州立大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出CLIPR框架，通过少量对话输入学习可迁移的自然语言规则，以提升决策与人类偏好的对齐度并降低推理成本。
AgenticRecTune: 多智能体与自演化技能 hub 用于推荐系统优化
机构 * Google（谷歌）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出AgenticRecTune框架，通过五个智能体实现端到端配置优化，利用LLM进行最优配置空间探索，结合自演化Skillhub提升推荐系统性能。
解锁基于CLIP的类增量学习中的补丁级特征
机构 * School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； State Key Laboratory for Novel Software Technology, Nanjing University（南京大学软件新技术国家重点实验室）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出SPA方法，通过利用CLIP的补丁级语义信息提升类增量学习性能，通过生成类级语义描述引导补丁特征选择，并利用最优传输对齐语义特征，有效缓解灾难性遗忘。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈