AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
PropensityBench: 通过代理方法评估大语言模型中的潜在安全风险
机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Maryland, College Park（马里兰大学帕克分校）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 PropensityBench通过模拟危险能力评估大语言模型的潜在安全风险倾向，揭示模型在压力下可能选择高风险行为的倾向。
定向预测变化 - 用于局部特征归因方法高效且可信的保真度评估
专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文提出DPC度量标准，用于高效且可信地评估局部特征归因方法的保真度，通过改进预测变化度量并消除随机性，实现快速且确定性的评估。
Comments 13 pages, 10 figures, 5 tables, accepted at AAAI SECURE-AI4H workshop
从风险学习：利用先验知识的LLM引导的安全关键场景生成
机构 * Chinese Academy of Sciences, China（中国科学院） ； Department of Urban Studies and Planning, Massachusetts Institute of Technology, USA（麻省理工学院城市研究与规划系） ； School of Vehicle and Mobility, Tsinghua University, China（清华大学车辆与移动系统学院）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文提出利用LLM和CVAE生成安全关键场景的方法，通过知识驱动优化提升自动驾驶系统在罕见高风险事件下的鲁棒性与可控性。
Comments 24 pages, 6 figures
RoParQ：面向抗 paraphrased 问题的大型语言模型对齐
机构 * Seoul National University（首尔国立大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL
AI总结 RoParQ 通过引入 XParaCon 指标和基于推理的 SFT 策略，提升 LLM 在 paraphrased 问题上的鲁棒性与一致性。
Comments 12 pages, 9 figures, 8 tables
基于机器学习的临床风险预测方法：电子健康记录中的多尺度时间对齐
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.LG
AI总结 本研究提出基于多尺度时间对齐网络的临床风险预测方法，通过多尺度卷积和注意力机制提升EHR中异步时间序列的建模能力。
Comments 5 pages, 3 figures
CLLMRec: 基于大语言模型的认知感知概念推荐：通过语义对齐和先决知识蒸馏
机构 * Xihua University, Chengdu 610039, China（西华大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI
AI总结 CLLMRec通过语义对齐和先决知识蒸馏，利用大语言模型实现认知感知的概念推荐，无需依赖结构化知识图谱。
MADRA：多智能体辩论用于风险感知的具身规划
机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； University of Chinese Academy of Sciences, Nanjing（中国科学院大学南京校区）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)；分类 cs.AI
AI总结 MADRA通过多智能体辩论和分层认知框架，在安全性和效率上超越现有方法，实现高安全任务拒绝率和低误拒率。
大语言模型在社会法律情境中对非法指令的共谋回应
机构 * Tsinghua University（清华大学） ； University of Electronic Science and Technology of China（电子科技大学） ； University of Cambridge（剑桥大学）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本研究探讨大语言模型在社会法律情境中对非法指令的共谋回应，揭示其在不同情境下的安全性和易感性问题。
利用AI实现高效且可信的HPC软件：挑战与研究方向
机构 * Oak Ridge National Laboratory（奥克荷厄斯国家实验室） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） ； Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室） ； Carnegie Mellon University（卡内基梅隆大学） ； Northeastern University（东北大学） ； University of Maryland（马里兰大学） ； SpiralGen Inc.（SpiralGen公司）
专题命中 安全评测 ：trustworthy(title)；分类 cs.AI
AI总结 本文探讨了利用AI改进HPC软件的挑战与研究方向，提出通过Ellora和Durban项目推动AI在HPC软件发展中的应用。
Comments 12 pages, 1 Figure, Accepted at "The 1st International Workshop on Foundational Large Language Models Advances for HPC" LLM4HPC to be held in conjunction with ISC High Performance 2025
Journal ref In: Neuwirth, S., Paul, A.K., Weinzierl, T., Carson, E.C. (eds) High Performance Computing. ISC High Performance 2025. Lecture Notes in Computer Science, vol 16091. Springer, Cham
InvisibleBench：护理关系AI的部署门
机构 * GiveCare
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 InvisibleBench评估护理关系AI的部署安全性，通过多维度测试揭示模型在危机检测、合规性及创伤导向设计上的差异，强调生产系统中确定性危机路由的重要性。
Comments 29 pages, 3 figures
AssurAI: 韩国社会文化数据集构建经验以发现生成式AI的潜在风险
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 AssurAI通过构建高质量的韩语多模态数据集，评估生成式AI的安全性，发现潜在风险，促进更安全的AI发展。
Comments 16 pages, HuggingFace: https://huggingface.co/datasets/TTA01/AssurAI
对多模态大语言模型在视频理解中的可信度进行基准测试
机构 * Hefei University of Technology（合肥工业大学） ； Tsinghua University（清华大学） ； Institute of Science Tokyo（东京科学研究所）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 本研究提出Trust-videoLLMs基准，评估23种视频LLMs在真实性、鲁棒性、安全性和隐私等方面的表现，揭示其在动态场景理解及现实风险缓解中的局限性。
TAGFN：一种用于LLMs时代虚假新闻检测的文本属性图数据集
机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； University of Southern California（南加州大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
AI总结 TAGFN是一种用于虚假新闻检测的文本属性图数据集，旨在评估传统和基于LLM的图异常检测方法，并促进LLMs的虚假信息检测能力发展。
Comments Preprint. Under review
基于SAM的语义与运动变化区域挖掘用于遥感变化描述
机构 * School of Computer Science and Technology, Anhui University（计算机科学与技术学院，安徽大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出基于SAM模型的遥感变化描述方法，通过融合语义和运动变化区域信息，提升变化描述的准确性和性能。
AI4X路线图：人工智能用于科学探索的进步及其未来方向
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出AI4X路线图，探讨人工智能在科学探索中的应用，强调数据多样性、可转移模型和生成系统的重要性，旨在推动更透明和高效的AI科学发展。
让大语言模型效率普及：从超大规模优化到通用部署
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出通过改进LLM的效率方法，使其在有限资源和专业知识下仍能有效运作，以实现更广泛的部署和公平性。
Comments 8 pages, accepted as a Blue Sky Talk in AAAI 2026
MoRE：从冻结预训练转换器中获得批量鲁棒多组学表示
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 MoRE通过参数高效微调策略，实现多组学数据的鲁棒表示学习，减少可训练参数并提升跨细胞类型和平台的泛化能力。
KRAL: 用于LLM辅助临床抗菌治疗的知识与推理增强学习
机构 * Information Center, State Key Laboratory of Complex Severe and Rare Diseases, Peking Union Medical College Hospital（信息中心、复杂严重罕见疾病国家重点实验室、北京友谊医院） ； Department of Critical Care Medicine, State Key Laboratory of Complex Severe and Rare Diseases, Peking Union Medical College Hospital, Peking Union Medical College and Chinese Academy of Medical Sciences（重症医学科、复杂严重罕见疾病国家重点实验室、北京友谊医院、北京友谊医院和中国医学科学院） ； Medical Intensive Care Unit, State Key Laboratory of Complex Severe and Rare Diseases, Peking Union Medical College Hospital, Peking Union Medical College and Chinese Academy of Medical Sciences（医疗重症病房、复杂严重罕见疾病国家重点实验室、北京友谊医院、北京友谊医院和中国医学科学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 KRAL通过知识与推理增强学习提升LLM在临床抗菌治疗中的诊断能力，以低成本高效方式优化医疗决策支持。
EM-KD: 通过不平衡视觉标记的知识蒸馏提升高效多模态大语言模型
机构 * Baidu VIS（百度视觉）
专题命中 安全评测 ：alignment(abstract)
AI总结 EM-KD通过改进的知识蒸馏方法，有效提升高效多模态大语言模型的视觉理解和效率。
Comments accepted by AAAI 2026
多智能体会合中的分布鲁棒级联风险：参数诱导模糊性的扩展分析
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出了一种分析多智能体会合中分布鲁棒级联风险的理论框架，通过引入条件分布鲁棒函数和闭合形式风险表达式，揭示了参数不确定性对集体安全的影响，并通过模拟验证了方法的有效性。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈