AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
从大规模材料数据库中学习磁序分类
机构 * Department of Physics, The Ohio State University（俄亥俄州立大学物理系）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文通过训练机器学习分类器，从实验验证的MAGNDATA磁性材料中识别磁序，提出传播向量分类器在92%准确率下优于现有方法，揭示了材料数据库中的铁磁偏见。
Comments Main Text: 10 pages + 10 Figures & 3 Supplementary Tables. (Under Review)
Edu-Values：面向评估大型语言模型的中国教育价值观
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出Edu-Values基准，评估大型语言模型的中国教育价值观，包含七个核心价值，通过1418道题测试，发现中文LLM在教育文化差异下表现更优，且利用Edu-Values构建外部知识库可提升对齐效果。
Comments The authors are withdrawing this paper to make substantial revisions and improvements before future submission
协商式多智能体大语言模型提升眼科临床推理
专题命中 安全评测 ：safety(abstract)；分类 cs.CY
AI总结 本研究比较了多智能体协商系统与单一模型在眼科临床推理中的表现，发现协商系统在准确性和安全性上均优于单一模型，且能减少有害错误。
当便利成为风险：主机作用代理中的语义视角下的不足规范
机构 * School of Computer Science and Technology, Xidian University（西安电子科技大学计算机科学与技术学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文探讨主机作用代理中因目标规范不足导致的安全问题，提出语义威胁模型和风险完成模式分类，并通过案例研究分析如何通过明确执行边界来防御风险。
当OpenClaw遇见医院：迈向动态临床工作流的智能操作系统
机构 * Independent Researcher（独立研究者） ； National Institute for Data Science in Health and Medicine, Xiamen University, Xiamen, China（健康医学数据科学国家研究院，厦门大学，厦门，中国） ； Yue’erwan Internet Hospital Co., Ltd.（悦尔湾互联网医院有限公司） ； School of Biomedical Engineering, Tsinghua University, Beijing, China（生物医学工程学院，清华大学，北京，中国） ； National University of Singapore, Singapore（新加坡国立大学） ； Yttrium-90 Precision Interventional Radiotherapy Center of Liver Cancer, Beijing Tsinghua Changgung Hospital, School of Clinical Medicine, Tsinghua University, Beijing, China（肝癌钇-90精准介入放射治疗中心，北京清华大学昌平医院，临床医学学院，清华大学，北京，中国） ； Hepatobiliary and Pancreatic Centre, Beijing Tsinghua Changgung Hospital, School of Clinical Medicine, Tsinghua University, Beijing, China（肝胆胰中心，北京清华大学昌平医院，临床医学学院，清华大学，北京，中国）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出一种适应医院环境的LLM代理架构，通过受限执行环境、文档导向交互模型、分页索引内存架构和可组合医疗技能库，实现临床工作流的协调，保障安全、透明和可审计性。
从思考者到社会：AI智能体分层自主性演化的安全问题
机构 * Nanjing University of Aeronautics and Astronautics（南京航空航天大学） ； Collaborative Innovation Center of Novel Software Technology and Industrialization（新型软件技术与产业化协同创新中心） ； The Chinese University of Hong Kong（香港中文大学） ； The University of Hong Kong（香港大学） ； Zhejiang University（浙江大学） ； Independent Researcher（独立研究者） ； Zhejiang Normal University（浙江师范大学） ； School of Software Technology, Zhejiang University（浙江大学软件学院） ； Ningbo Global Innovation Center, Zhejiang University（宁波全球创新中心，浙江大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 研究探讨了AI智能体分层自主性演化中的安全挑战，提出三级安全框架并分析现有防御措施的不足，旨在指导可信AI智能体系统的多层防御架构设计。
通过查询词进行视觉分割：用于半监督图像分割的语言锚点
机构 * University of Regina, Canada（里嘉大学） ； The University of Western Australia, Australia（西澳大学） ； University Canada West, Canada（加拿大西大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出HVLFormer，通过生成多尺度文本查询和引入跨视角一致性正则化，提升视觉与文本对齐，以实现更准确的半监督图像分割。
LJ-Bench：基于本体的美国犯罪评估基准
机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 LJ-Bench是首个基于本体的全面基准，用于评估LLM对多种非法活动的鲁棒性，揭示LLM在不同犯罪类别中的脆弱性。
Comments Accepted at Transactions on Machine Learning Research in March, 2026
基于大语言模型的启发式合成在工业过程控制中的应用：来自热轧的启示
机构 * Institute of Metal Forming, RWTH Aachen（RWTH亚琛大学金属成形研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出了一种基于大语言模型的启发式合成框架，用于热轧过程控制，通过可解释的Python控制器生成和自动审计流程，结合结构化战略构思和可执行代码生成，实现对轧制高度、间歇时间和轧制速度的控制。
Leum-VL 技术报告
机构 * Hainan Sihe Data Technology Co., Ltd.（海南世和数据技术有限公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出SV6D框架，通过六维结构化表示解析视频内容，构建Leum-VL-8B模型，在多个基准测试中取得优异成绩，强调视频AI需关注结构表示而非像素生成。
Comments 27 pages, 5 figures
FactorSmith: 通过马尔可夫决策过程分解实现代理模拟生成
机构 * Ali Shamsaddinlou（阿里·沙姆萨丁卢） ； Morteza NourelahiAlamdari（莫尔塔扎·努尔埃拉希阿尔马达里）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出FactorSmith框架，通过分解POMDP实现从文本描述生成可执行模拟，结合分解策略与分层代理工作流提升生成质量。
基于迭代风险分配的有界多智能体视觉导航
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出风险有界多智能体路径规划框架，通过动态分配风险预算提升多智能体在高风险环境中的导航效率与安全性。
Comments Published at ICAPS '26
GAICo：一个用于评估多样化和多模态生成式人工智能输出的部署和可扩展框架
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
AI总结 GAICo提供统一框架，支持多种参考指标，用于评估生成式AI输出，提升评估标准化和可复现性，加速AI系统开发。
Comments 11 pages, 7 figures; accepted at IAAI/AAAI 2026; (updated) extended version
LumosX：通过身份与属性的关系实现个性化视频生成
机构 * Zhejiang University（浙江大学） ； DAMO Academy, Alibaba Group（阿里云达摩院） ； Hupan Lab（虎斑实验室） ； National University of Singapore（新加坡国立大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 LumosX通过结合身份与属性关系，提升多主体个性化视频生成的精细度和一致性，采用数据与模型双改进策略，构建了全面的基准测试平台。
Comments ICLR 2026 Camera Ready Version. Code and Models: https://jiazheng-xing.github.io/lumosx-home/
结构化提示法在阿拉伯语作文能力评估中的应用：以特质为中心的评估方法
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出了一种新的提示工程框架，用于阿拉伯语特质特定的自动作文评分，利用大语言模型在零样本和少样本配置下进行评估。通过三种层次提示策略，指导模型评估如组织、词汇、发展和风格等语言能力特质。实验表明，结构化提示法在阿拉伯语自动作文评分中效果显著。
Comments 13 pages
Journal ref The Fifteenth biennial Language Resources and Evaluation Conference (LREC) 2026
你的 LLM-as-a-Recommender 代理可信吗？LLM 的推荐容易被偏见（偏好）所 hack
专题命中 安全评测 ：alignment(abstract)；分类 cs.CY
AI总结 本文提出 BiasRecBench 评估基准，揭示 LLM-as-a-Recommender 在高价值任务中易受偏见影响的漏洞，通过合成数据和注入上下文偏见，发现即使具备充足推理能力的代理也常受偏见影响。
超智能体
机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） ； University of Edinburgh（爱丁堡大学） ； New York University（纽约大学） ； Canada CIFAR AI Chair（加拿大 CIFAR 人工智能主席） ； FAIR at Meta（Meta 的 FAIR 部门） ； Meta Superintelligence Labs（Meta 超智能实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出超智能体，通过整合任务智能体和元智能体，实现自我改进。DGM-H在多个领域表现出色，持续改进搜索方法。
Comments Code at https://github.com/facebookresearch/Hyperagents
通过魔镜：AI介导的视频通信减少人际信任和判断信心
机构 * Bauhaus University（包豪斯大学） ； Stanford University（斯坦福大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 研究探讨AI介导的视频处理对人际信任和判断信心的影响，发现AI处理降低信任和信心，但不影响实际判断准确性。
FaithSteer-BENCH：一种面向部署的应力测试基准，用于推理时的操控
机构 * University of Electronic Science and Technology of China（电子科技大学） ； Mohamed bin Zayed University of Artificial Intelligence（马尔代夫人工智能大学） ； South China University of Technology（华南理工大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出FaithSteer-BENCH基准，通过可控性、效用保持和鲁棒性三个指标评估推理时操控方法，揭示现有方法在部署场景下的可靠性问题及机制层面的对齐问题。
Open-o3-Video: 基于显式时空证据的视频推理
机构 * PKU（北京大学） ； ByteDance（字节跳动） ； CASIA（CASIA研究院） ； WHU（武汉大学） ； NUS（新加坡国立大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出Open-o3-Video，通过显式时空证据提升视频推理的可追溯性与可验证性，基于STGR数据集和冷启动强化学习策略，在V-STAR基准上取得SOTA性能，并支持置信度感知的测试时扩展。
联邦分布式强化学习与分布批评正则化
机构 * Dept. of Mechanical Engineering, Rochester Institute of Technology（机械工程系，罗切斯特理工学院） ； Dept. of Psychology and School of Information, Rochester Institute of Technology（心理学系和信息学院，罗切斯特理工学院） ； Department of Engineering Science, University West（工程科学系，西大学） ； Golisano College of Computing and Information Sciences, Rochester Institute of Technology（计算与信息科学学院，罗切斯特理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 本文提出FedDistRL和TR-FedDistRL，通过分布批评正则化提升安全性和稳定性，在多任务环境中表现出更低的均值模糊和更高的安全指标。
Comments 9 pages, 4 Figures, conference
AgriChat：一种用于农业图像理解的多模态大语言模型
机构 * Department of Computer Science, Khalifa University of Science and Technology（卡利法科技大学计算机科学系）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出AgriChat，一种基于多模态大语言模型的农业图像理解系统，通过整合视觉描述与网络增强的科学检索，生成农业基准数据集，提升农业领域的模型鲁棒性和可信度。
TheraMind：一种用于长期心理辅导的战略和自适应代理
机构 * Shenzhen University（深圳大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Auckland University of Technology（奥克兰理工大学） ； University of Science and Technology of China（中国科学技术大学） ； SKL-IOTSC, CIS, University of Macau（澳门科技研究所、CIS、澳门大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东人工智能与数字经济实验室（深圳））
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出TheraMind，一种用于可信在线长期心理辅导的战略和自适应代理，通过双循环架构提升对话管理和治疗规划能力，实验证明其在多会话指标上优于其他方法。
SCAM：多模态基础模型的现实世界字形鲁棒性评估
机构 * BLISS e.V.（BLISS协会） ； Berliner Hochschule für Technik (BHT)（柏林技术大学） ； Technische Universität Berlin（柏林技术大学） ； KI Werkstatt, Hochschule für Technik und Wirtschaft Berlin (HTW)（柏林技术经济学院） ； Merantix Momentum（Merantix Momentum公司） ； Fraunhofer Heinrich-Hertz-Institut, Berlin, Germany（柏林弗劳恩霍夫 Heinrich-Hertz 研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出SCAM数据集，用于评估多模态基础模型对字形攻击的鲁棒性，发现训练数据和模型架构影响攻击敏感性，且大语言模型基座可降低攻击影响。
Comments Accepted at CVPR 2025 Workshop EVAL-FoMo-2
Journal ref Journal of Data-centric Machine Learning Research (2026)
V-DyKnow：面向视觉语言模型的时间敏感知识动态基准
机构 * Signals and Interactive Systems Lab, University of Trento（信号与交互系统实验室，特伦托大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出V-DyKnow基准，评估视觉语言模型对时间敏感事实知识的处理能力，分析模型响应可靠性、知识更新方法有效性及过时预测原因，揭示当前VLM在多模态时间敏感知识获取与更新中的局限性。
探索不同方法以定制语言模型用于领域特定的文本到代码生成
机构 * Technical University of Denmark（丹麦技术大学） ； The LEGO Group（乐高集团）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文探讨了如何通过合成数据集定制小型语言模型用于领域特定的代码生成，比较了少样本提示、检索增强生成和LoRA微调三种方法，发现LoRA在准确性和领域对齐上表现更优。
CoMAI：一种用于鲁棒且公平面试评估的协作多智能体框架
机构 * Shandong University（山东大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI
AI总结 CoMAI通过协作多智能体框架实现鲁棒且公平的面试评估，采用模块化任务分解架构，包含问题生成、安全、评分和总结四个智能体，提升评估的准确性和公平性。
Comments Gengxin Sun and Ruihao Yu contributed equally to this research. Bin Zhang and Zhiwei Xu are the corresponding authors. 11 pages, 6 figures
PathGLS: 通过多维一致性评估病理视觉-语言模型无需真实数据
机构 * Beijing University of Posts and Telecommunications（北京邮电大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出PathGLS，一种无需真实数据的病理VLM评估框架，从 grounding、logic 和 stability 三个维度评估模型性能，通过实验验证其在多个数据集上的优越性，显著优于其他方法。
论证型人机决策：迈向与我们共思而非为我们决策的AI代理
机构 * New Mexico State University（新墨西哥州立大学） ； King's College London（伦敦国王学院） ； Imperial College London（伦敦帝国学院） ； Washington University in St. Louis（圣路易斯华盛顿大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文探讨论证型人机决策的新范式，结合论证框架挖掘、合成与推理，使AI代理能与人类进行辩证互动，提升高风险领域的人工智能可信度。
探索无需额外训练的水下世界分割
机构 * Institute of Artificial Intelligence (TeleAI), China Telecom, China（人工智能研究院（TeleAI），中国电信，中国） ； University of Science and Technology of China, China（中国科学技术大学，中国） ； Northwestern Polytechnical University, China（西北工业大学，中国）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出AquaOV255水下分割数据集及Earth2Ocean框架，通过几何引导视觉掩码生成和类别-视觉语义对齐模块，在无需额外训练的情况下实现高效的水下开放词汇分割。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈