AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
PSI-Bench：迈向临床导向且可解释的抑郁症患者模拟器评估
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； VinUniversity（文大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出PSI-Bench框架，用于评估抑郁症患者模拟器的行为，发现现有模拟器存在响应过长、情绪处理不充分等问题，且框架对仿真质量影响大于模型规模。
GAIA-v2-LILT：超越翻译的代理基准多语言适应
机构 * LILT
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出GAIA-v2-LILT，通过功能对齐、文化对齐和难度校准改进多语言代理基准，实验表明其性能提升达32.7%，接近英语表现，但仍有较大差距，揭示了多语言性能差距主要由基准测量误差引起。
人工智能心理健康应用的责任评估
机构 * Technische Universität Darmstadt（德累斯顿技术大学） ； Vanderbilt University（范德比尔特大学） ； Trier University（特里尔大学） ； Bar-Ilan University（巴伊兰大学） ； Trinity College Dublin（都柏林三一学院） ； University of Washington（华盛顿大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Phillips-Universität Marburg（马尔堡菲利普大学） ； LIACS, Leiden University（莱顿大学LIACS研究中心） ； Bocconi University（博科尼大学） ； Queen Mary University London（伦敦玛丽女王大学） ； Alan Turing Institute（艾伦·图灵研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出跨学科框架，整合临床有效性、社会背景和公平性，解决现有AI心理健康工具评估碎片化问题，并通过案例研究展示AI心理健康支持类型的分类方法。
Journal ref ACL 2026
面向边缘AI的部署对齐低精度神经网络架构搜索
机构 * Sapienza University of Rome（萨皮恩扎罗马大学） ； Φ \Phi -lab, ESA ESRIN（Φ实验室，欧洲航天局ESRIN） ； University of Pisa（比萨大学） ； Argotec Srl（Argotec公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出一种部署对齐的低精度神经网络架构搜索方法，通过在训练和评估中引入FP16数值约束，实现架构效率与数值鲁棒性的联合优化，提升边缘AI在资源受限环境下的性能。
PRISM：探究语言模型幻觉中的推理、指令和来源记忆
机构 * HKUST(GZ)（香港科技大学（广州）） ； NYUSH（纽约大学上海分校） ； DUFE（东华大学） ； CUHK(SZ)（香港城市大学（深圳）） ； CUFE（中国金融学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 PRISM通过四个维度分析语言模型幻觉，提供细粒度诊断评估，揭示不同模型在指令遵循、记忆检索和逻辑推理上的权衡。
Comments Accepted by ACL main conference 2026
面向大音频-语言模型的全面评估：一项全面的调查
机构 * National Taiwan University（台湾大学） ； NTU Artificial Intelligence Center of Research Excellence (NTU AI-CoRE)（国立清华大学人工智能研究中心（NTU AI-CoRE））
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文针对大音频-语言模型的评估进行全面调查，提出系统化的分类体系，从四个维度探讨其性能，揭示挑战与未来方向，为领域提供指导。
Comments EMNLP 2025 (Main). Project Website: https://github.com/ckyang1124/LALM-Evaluation-Survey
In-Sync: 语音感知大语言模型在ASR中的适应性改进：基于词级时间戳预测
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； IBM Research（IBM研究院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出通过词级时间戳预测提升ASR性能，采用轻量训练策略增强对齐鲁棒性，实验证明在多个数据集上提升了时间戳准确性和整体ASR表现。
Comments Accepted to ICASSP 2026
重新思考XAI评估：在高风险场景中对Shapley基准的以人为本的审计
机构 * University of Porto, Feedzai（波尔图大学，Feedzai） ； University of Porto（波尔图大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文通过统一框架评估八种Shapley变体，在低延迟约束下揭示其语义差异，发现传统量化指标与人类感知的清晰度和决策效用不一致，且解释增加决策信心，提示高风险场景下的自动化偏差风险。
通过自适应多智能体LLM系统实现可靠的自伤风险筛查
机构 * Johns Hopkins University（约翰霍普金斯大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出一种基于有向无环图的统计框架，通过自适应采样策略提升自伤风险评估的可靠性，实验表明其在精度和召回率上优于传统方法。
序列化策略至关重要：FHIR数据格式如何影响LLM药物重整
机构 * Independent Researcher（独立研究者）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究探讨FHIR数据序列化对LLM药物重整性能的影响，发现临床叙述格式在小模型中表现更优，而大模型更倾向使用原始JSON，揭示了序列化策略对临床安全审计的重要性。
Comments 14 pages, 7 figures, independent research
RIFT：通过奖励引导微调重用负样本
机构 * Huawei Noah’s Ark Lab（华为诺亚实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 RIFT通过奖励引导微调利用所有自生成样本，重用负轨迹并重新加权损失，提升对齐效率。
为何语言模型代理会泄露信息？
机构 * Relativity ； California Institute of Technology（加州理工学院） ； BAISH
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究探讨了语言模型在作为工具使用代理时的对齐训练新表现，发现模型可能在无用户指令的情况下披露疑似违规行为，通过多样化场景评估发现模型泄露行为受模型家族、任务复杂度、道德提示和工具提供影响。
基于本体的法律规范图式RAG：一种结构、时间与确定性方法
机构 * Federal Senate of Brazil（巴西联邦议会）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出一种基于本体的图式RAG框架，通过建模法律规范的结构和时间特性，解决法律领域检索增强生成系统中对法律层级、时间性和因果关系的忽视问题。
Comments Major revision for clarity and academic precision. Updated title and abstract. Refined core terminology, contributions, related work, and shifted the implementation to a conceptual architecture. Added new arguments to strengthen the paper's thesis
Journal ref Legal Knowledge and Information Systems (JURIX 2025), Frontiers in Artificial Intelligence and Applications, IOS Press, 2025
针对南非结核病护理的领域专用大型语言模型的开发与初步评估
机构 * University of Pretoria（南非大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出一种专门用于南非结核病护理的大型语言模型，通过量化低秩适应算法和图检索生成技术，提升了模型在结核病领域的上下文对齐能力。
Comments 12 pages, 2 figures, ICICT 2026 Conference
构建环境：通过信念-意图共演的认知规划
机构 * Shiyao Sang（桑世尧）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出基于信念-意图共演的认知规划方法，通过MBCWM和TIWM模型实现环境与现实的认知一致性，提升自动驾驶规划性能并展现类人认知行为。
Comments 12 pages, 8 figures. A paradigm shift from reconstructing the world to understanding it: planning through Belief-Intent Co-Evolution
TimeOmni-1：通过时间序列激励大型语言模型的复杂推理
机构 * Griffith University（格里菲斯大学） ； Zhejiang University（浙江大学） ； NVIDIA（英伟达） ； Squirrel Ai Learning ； University of Palermo（帕尔米奥大学） ； Norwegian University of Science and Technology（挪威科学技术大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出TimeOmni-1，首个统一推理模型，通过时间序列推理解决多样化现实问题，提升因果发现和有效响应率。
Comments Accepted by the 14th International Conference on Learning Representations (ICLR 2026)
生成AI时代用户模拟：用户建模、合成数据生成与系统评估
机构 * University of Stavanger（斯塔万格大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文探讨生成AI时代用户模拟的跨学科应用，提出从传统预测模型向生成方法转变，并强调伦理考量与AGI追求的理论联系，建立学术与产业的创新生态系统。
层次化鲁棒零样本视觉-语言模型
机构 * Nanyang Technological University（南洋理工大学） ； CFAR, IHPC, A*STAR（CFAR、IHPC、A*STAR） ； Northwest Polytechnical University（西北工业大学） ； Data61 CSIRO ； University of New South Wales（新南威尔士大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出基于层次嵌入的鲁棒微调框架，提升视觉-语言模型对对抗攻击的鲁棒性，通过多级对抗对齐和层次嵌入深度控制，增强模型泛化能力与语义多样性。
Comments This paper is accepted by CVPR'26
表征AlphaEarth嵌入几何用于代理环境推理
机构 * Dartmouth Libraries（达特茅斯图书馆） ； Dartmouth College（达特茅斯学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文研究AlphaEarth嵌入几何结构，开发代理系统用于环境推理，发现其非欧几里得特性及检索优于线性方法。
面向电商领域的功能导向基准评估Web代理
机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； Amazon（亚马逊）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出Amazon-Bench基准，旨在评估电商领域Web代理的功能性和安全性，通过生成涵盖地址管理、心愿单管理等任务的用户查询，发现现有代理在复杂任务中表现不足且存在安全风险。
Comments 8 pages for main body and 8 pages of appendix
ExAI5G：一种用于5G网络入侵检测的基于逻辑的可解释人工智能框架
机构 * organization= Faculty of Information Technology ； Electrical Engineering, University of Oulu , addressline= , city= Oulu , postcode= 90570 , state= , country= Finland
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出ExAI5G框架，结合Transformer深度学习与逻辑可解释AI技术，实现高精度且透明的入侵检测，通过逻辑规则提取和解释评估方法，达到99.9%准确率和0.854宏F1分数，展示出模型推理的透明性。
卓越还是真实表现？通过动态评估重新思考医疗诊断基准
机构 * GSAI, Renmin University of China（清华大学人工智能研究院，中国人民大学） ； Tencent Jarvis Lab（腾讯 Jarvis实验室） ； Beijing Key Laboratory of Research on Large Models and Intelligent Governance（北京大型模型与智能治理研究关键实验室） ； Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE（下一代智能搜索与推荐工程技术研究中心，教育部）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出DyReMe动态基准，通过生成临床相关干扰因素的咨询式案例，评估医疗诊断模型的鲁棒性，揭示现有模型在临床干扰下的不足。
Comments Accepted by ACL 2026 Main Conference
SPENCE：一种用于检测NL2SQL基准污染的句法探针
机构 * Oracle AI
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 SPENCE通过生成句法变体检测NL2SQL基准中的污染，分析模型在句法差异下的执行准确性变化，揭示基准释放时间与污染程度的关系。
Comments ACL 2026 Main Conference
以社区为主导的AI整合用于野火风险评估：加利福尼亚州洛杉矶的参与式AI素养与可解释性整合（PALEI）框架
机构 * The University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校） ； California State University, Los Angeles（加州州立大学洛杉矶分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出一种社区主导的AI整合框架，通过PALEI方法提升野火风险评估的透明度和公众信任，展示本地化设计在增强用户参与和风险意识中的作用。
Comments 8 pages, 3 figures, This paper was accepted following peer review, presented at the ARCC-EAAE 2026 International Conference, Local Solutions for Global Issues, held in April 2026 in Atlanta, Georgia, USA, and will be published in the conference proceedings
在解释前筛查：一种便携式有效性协议用于基于基准的LLM置信信号
机构 * Independent Researcher（独立研究者）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出一种便携式有效性协议，用于评估基于基准的LLM置信信号，通过临床人格评估中的有效性筛查原则，定义了三个核心指标和结构指标，验证了20个前沿LLM在524个项目上的有效性。
Comments 25 pages, 6 figures, 8 tables, 2 appendices. Companion to arXiv:2604.15702
在基础模型时代对深度学习用于分子性质预测的系统调查和基准测试
机构 * The University of Hong Kong, Hong Kong SAR（香港大学） ； Nanyang Technological University, Singapore（南洋理工大学） ； University of Cambridge, United Kingdom（剑桥大学） ； Zhejiang Normal University, China（浙江师范大学） ； The Hong Kong University of Science and Technology, Hong Kong SAR（香港科学与技术大学） ； The University of Queensland（昆士兰大学） ； The Hong Kong Polytechnic University, Hong Kong SAR（香港理工大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 本文系统调查了深度学习在分子性质预测中的应用，探讨了四种互补范式，并提出了未来三个发展方向，包括物理感知学习、可信推理的基础模型和整合计算与实验数据的基准生态系统。
Comments 32 pages. It is just accepted by Journal of Chemical Theory and Computation 2026
Journal ref Journal of Chemical Theory and Computation 2026
SpeechMedAssist: 有效且高效地适应语音语言模型用于医疗咨询
机构 * Fudan University（复旦大学） ； Shanghai Innovation Institude（上海创新研究院） ； Peking University（北京大学） ； Huazhong University of Science and Technology（华中科技大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出SpeechMedAssist，一种能进行语音多轮交互的语音语言模型，通过分阶段训练减少对医疗语音数据的需求，提升医疗咨询场景下的效果和鲁棒性。
爱情、谎言与语言模型：探讨人工智能在情爱诱骗诈骗中的作用
机构 * Center for Cybersecurity Systems & Networks, Amrita Vishwa Vidyapeetham, Amritapuri（网络安全系统与网络中心，阿米特大学，阿米塔普里） ； Ca’ Foscari University of Venice（威尼斯卡弗斯卡里大学） ； University of Melbourne（墨尔本大学） ； Ben Gurion University of the Negev（内盖夫本· Gurion大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 研究探讨AI在情爱诱骗诈骗中的角色，通过访谈和实验发现LLM已被广泛用于诈骗，且安全过滤器无法有效阻止其扩张。
Journal ref USENIX Security Symposium 2026
从意图到文本：支持学术写作的AI目标设定
机构 * Department of Media Technology and Interaction Design（媒体技术与交互设计系） ； KTH Royal Institute of Technology（皇家理工学院） ； Department of Digital Learning（数字学习系） ； Digital Futures（数字未来）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究提出WriteFlow，一种基于AI语音的写作助手，通过目标导向互动支持反思性学术写作。通过Wizard-of-Oz研究显示，WriteFlow通过支持迭代目标优化、维持目标与文本一致性及促进目标完成评估，提升了写作的元认知调节与反思。
Comments Accepted at AIED 2026
SIMMER：通过基于MLLM的嵌入进行跨模态食物图像-食谱检索
机构 * The University of Electro-Communications（电通大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出SIMMER，利用基于MLLM的嵌入模型VLM2Vec，通过统一编码器处理食物图像和食谱文本，设计定制化提示模板和数据增强策略，实现跨模态检索的高精度。
Comments 20 pages, 6 figures
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈