AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
探索基于概念模型的罗生门集
机构 * UNC Chapel Hill（UNC夏洛特山分校） ； Rutgers University（罗格斯大学） ； Duke University（杜克大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 研究在如概念瓶颈模型的复杂假设空间中探索罗生门集的问题，提出结合并行适配器构建、检查点方案和概念多样性目标的方法，能从单训练过程生成多个准确模型，有更好多样性且省内存。
评估视觉语言模型在图像退化与偏差下进行医学图像质量评估的可靠性
机构 * University of Tuebingen（图宾根大学） ； Institute for Bioinformatics and Medical Informatics (IBMI), University of Tuebingen（图宾根大学生物信息学与医学信息学研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 研究视觉语言模型在医学图像质量评估中，面对图像退化（如像素化）和文本属性偏差时的可靠性，发现像素化显著降低性能，而文本属性（如机构声望）引入偏差。
SABER: 一种基于多尺度超图的语义对齐脑网络分析框架
机构 * Hangzhou Dianzi University（杭州电子科技大学） ； Tsinghua University（清华大学） ； Xi’an Jiaotong University（西安交通大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出SABER框架，通过多尺度超图建模功能子网络与高阶依赖，并引入决策级语义对齐机制，将大语言模型语义直接融入预测，在ABIDE和ADHD-200数据集上取得最优性能，尤其在小样本场景下。
Comments Accepted to IEEE International Conference on Multimedia and Expo (ICME) 2026;
Pre-Flight: 评估大型语言模型航空运营知识的基准
机构 * Airside Labs, London, United Kingdom（Airside Labs，伦敦，英国） ； Mahino Research, Christchurch, New Zealand（Mahino Research，基督城，新西兰）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 提出Pre-Flight基准，包含300道多选题，评估LLM在航空运营知识上的表现，发现最强模型准确率82.7%，低于专家水平的95%，表明领域特定评估的必要性。
Comments 9 pages, 1 figure, 2 tables. Benchmark available in inspect_evals (UKGovernmentBEIS/inspect_evals)
鲁棒性源于错误原因：LLM对科学怀疑论鲁棒性的表征几何
机构 * Department of Computer Science and Engineering, Sejong University（信息科学与工程系，世宗大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 通过行为测量、线性探针和激活修补，研究三个指令调优模型在气候、疫苗和进化三个科学共识领域对怀疑论的反应，发现模型表现出三种不同策略而非谄媚退缩，且鲁棒性不跨领域转移。
LLMs中的心理引导：有效性与可信度评估
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 提出PsySET基准，评估提示、微调和表示工程等策略在控制LLM情绪和人格方面的效果与可信度，发现提示有效但强度控制有限，向量注入控制更精细但输出质量略降，且情绪引导可能产生副作用。
Comments Accepted at ACL 2026. Camera-ready version
MedRepBench：医学报告解读的综合基准
机构 * Baidu Inc.（百度公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出MedRepBench基准，包含1925张去标识中文医学报告图像，评估端到端视觉语言模型在报告字段结构化提取和患者友好解释上的性能，并提供GRPO对齐基线提升字段召回率6%。
Comments ECCV 2026 (main conference)
WorkBench 再探：两年后的工作场所智能体
机构 * Independent researcher（独立研究者）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文重新评估2024至2026年间WorkBench基准上智能体的进展，发现前沿模型在能力和安全性上均有显著提升，但开放权重模型降低了高性能门槛。
Comments 8 pages, 3 figures. Follow-up to arXiv:2405.00823
连续知识代谢：从演进文献中生成科学假设
机构 * Tsingyuai（清华院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出CKM框架，通过滑动时间窗口处理文献并动态更新知识库，提出CKM-Lite和CKM-Full两种变体，揭示了增量处理在预测和效率上的优势，以及知识变化对假设生成的影响。
Comments ICML 2026 AI4Research Workshop
大型语言模型在博弈论实验中复制并预测人类合作行为
机构 * Department for Computational Social Sciences and Humanities, Barcelona Supercomputing Center（巴塞罗那超级计算中心计算社会科学与人文学系） ； Grupo de Sistemas Complejos, Universidad Politécnica de Madrid（马德里理工大学复杂系统研究组） ； School of Law and Political Science, Universitat Oberta de Catalunya（加泰罗尼亚开放大学法律与政治科学学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究通过复制大规模博弈实验，发现Llama模型能高保真复现人类合作模式，而Qwen更接近纳什均衡，并揭示了Llama的注意力机制与人类行为对齐的机理。
分解即指纹：面向智能体技能的组件级身份标识
机构 * Palo Alto Networks
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.LG
AI总结 提出一种基于多组SimHash的局部敏感指纹，将技能分解为提示、代码和工具三元组，通过汉明距离比较实现技能家族识别与变更定位，AUC达0.974。
提问的语言：语言条件对LLM分析争议性政治文件时的意识形态分歧的影响
机构 * Microsoft（微软）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 研究通过俄语和乌克兰语语义等价提示，发现ChatGPT和Claude Opus在分析同一乌克兰公民社会文件时，输出出现系统性意识形态分歧，且分歧程度因模型而异。
透明且公平的就业服务中的 profiling：来自瑞士的证据
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CY、cs.LG
AI总结 本文通过瑞士行政数据比较传统统计、可解释和黑箱模型，发现可解释 boosting 机器在预测性能上接近最佳黑箱模型，且通过模型稀疏性、特征平滑和公平性缓解可提升透明度和公平性。
Comments 35 pages including appendix
Journal ref Data & Policy 8 (2026) e30
面向语言模型可靠物理设计的结构认证
机构 * Heysuvi Labs, LLC（Heysuvi实验室） ； Institute of Biological and Chemical Systems - Functional Molecular Systems, Karlsruhe Institute of Technology（生物和化学系统研究所-功能分子系统，卡尔斯鲁厄技术大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 提出Physics-Anchored Certification (PHACT)框架，通过提议-认证循环将断言权从模型转移到确定性引擎，在五个科学领域实现零错误认证。
Comments 16 pages, 5 figures, 5 tables
没有 GPU 你能走多远？轻量级幻觉检测在问答、对话和摘要中的系统基准测试
机构 * Independent Researcher（独立研究者）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 系统评估五种轻量级、CPU可运行的幻觉检测方法在HaluEval基准上的表现，发现性能高度依赖任务，在摘要任务上接近随机，为资源受限场景提供方法选择指导。
通过方程引导的合成异常重新定义海上异常检测
机构 * Seoul National University（首尔国立大学） ； KRISO（韩国海洋研究组织）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 针对海上异常检测中缺乏标签和交互驱动异常的问题，提出基于方程引导的异常分类法，并构建统一评分-合成-标注流程，生成时间戳级标签，评估多种模型性能。
Comments 12 pages, KDD 2026 Oral
自适应金融Transformer：基于机制门控注意力的股票收益预测
机构 * Dishan Sarkar
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出自适应金融Transformer，通过机制编码器、自适应门控网络和金融上下文模块动态调整注意力，在降低模型复杂度15.2%的同时提升参数效率，实现可解释的股票收益预测。
Comments 10 pages, 4 figures, 10 tables. PyTorch implementation and code available at: https://github.com/Dishan18/FinancialTransformer
面向农业应用的通用大语言模型微调：基于Qwen3-8B的可复现框架与评估协议
机构 * Sanya University（三亚大学） ； Hebei International Studies University（河北国际 Studies 大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 提出AgriTune-R框架，通过数据治理、指令构建、LoRA/QLoRA微调、检索增强生成和专家评估，将通用大语言模型适配到农业任务，并设计了包含事实性、安全性、证据一致性和不确定性表达的评估协议。
面向金融的约束表格扩散
机构 * University of Virginia（弗吉尼亚大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Harvard University（哈佛大学） ； Visa Inc（Visa公司）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 提出CTDF方法，通过将训练时无约束的表格扩散与采样时的可行性操作结合，在金融数据生成中实现硬约束满足，零违规且提升稀缺数据效用。
Comments Published at ACM International Conference on AI in Finance (ICAIF) 2025
Animation2Code: 评估视频到代码生成中的时间视觉推理
机构 * University of California, Berkeley（加州大学伯克利分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出Animation2Code基准，通过从视频重建可执行网页动画代码来评估视觉语言模型的时间视觉推理能力，发现现有模型在时间一致性上表现不佳。
SCRIBE：用于印度语言ASR的诊断评估和丰富转录模型
机构 * Adalat AI, India（印度Adalat人工智能公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 SCRIBE通过沙地容忍对齐和领域词汇注入，提供词错误率的分类分解，解决了传统词错误率在处理聚合语言时的不足，同时释放了用于印地语、马拉雅尔语和卡纳达语的丰富转录模型。
Comments Accepted at Interspeech 2026
通过规则正则化方法构建大规模分子结构-语言描述数据集
机构 * Clemson University（克莱姆森大学） ； Independent Researcher（独立研究者） ； University of Delaware（德雷克塞尔大学） ； Georgia Institute of Technology（佐治亚理工学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出一种全自动标注框架，生成精确分子描述，保留完整结构细节，构建了约16.3万分子-描述对数据集，验证精度达98.6%。
合成情绪与意识：探索建筑边界
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 本文探讨合成情绪控制是否能在排除意识相关建筑特征的情况下实现，并提出建筑原则以评估意识风险。
Comments 34 pages, 2 tables, 1 figure. AI & Soc (2026)
Journal ref AI & Soc 41, 4929-4947 (2026)
微调是否会抹去你的修改？关于知识编辑与适应脆弱共存的研究
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究探讨了微调对知识编辑的影响，发现微调会显著降低编辑效果，且仅微调编辑层可有效去除编辑，同时保持下游性能。
Comments Accepted to KDD 2026
从黑盒到临床洞察：用于语音认知障碍检测的多阶段可解释框架
机构 * Independent Researcher（独立研究者） ； Columbia University（哥伦比亚大学） ； Chalmers University of Technology（查尔姆斯理工大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出多阶段可解释框架，结合SHAP、语言学特征和LLM推理，将黑盒Transformer预测转化为临床叙事，在NIA PREPARE基准上F1=72.11%，医生评估显示与患者认知特征高度一致，SUS评分82/100。
Comments Accepted to Interspeech 2026
hia-gat: 一种用于高速公路帧级交通冲突风险预测的异构交互感知图注意力网络
机构 * DENSO International America, Inc.（电装国际美国公司）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出HIA-GAT，一种双流异构图注意力网络，通过专用注意力路径处理纵向和横向交互，并利用冲突类型感知门控机制融合，在NGSIM数据集上实现最佳风险排名性能（AUC最高0.867），并提供可解释的车辆级冲突归因。
审计心理健康交互中大语言模型的框架敏感行为不稳定性
机构 * a School of computer science, digital engineering and AI, Long Island University, Brooklyn, NY, USA（a 计算科学与数字工程及人工智能学院，罗格斯大学，布鲁克林，纽约，美国） ； b Department of Psychology, Long Island University, Brooklyn, NY, USA（b 心理学系，罗格斯大学，布鲁克林，纽约，美国）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 研究通过控制匹配提示，调查大语言模型在不同上下文框架下的行为变异性，发现框架系统性改变解释响应倾向，且内部表征可解码，激活操控可部分调节行为。
大型语言模型能否可靠地编码定性人道主义数据？一项针对人类专家裁决的基准研究
专题命中 安全评测 ：safety(abstract)；分类 cs.CY、cs.LG
AI总结 本研究通过对比46个大型语言模型与人类专家在150份高保真合成人道主义转录本上的编码表现，发现多个LLM在结构化提示和推理配置下能达到与经验丰富人类编码员相当的可靠性，但聚合可靠性指标不足以指导部署，模型在识别间接表达的需求、类别外需求及保护相关问题方面存在差异。
Comments 34 pages, 4 tables, 3 Annexes
检索预热能量基推理：结构化推理任务上扩散即推断的五臂消融方法
机构 * Department of Computer Science and Software Engineering, Auburn University（奥本大学计算机科学与软件工程系） ； Department of Information Management, National Central University（国立中央大学信息管理系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出五臂消融方法（oracle、best-constant、per-query-random、shuffled、aligned）分离检索预热能量基推理中的三种混淆效应，在连通性-2任务上发现逐图对齐主导性能提升，而在数独任务上关键质量成为瓶颈。
Comments 8 Pages, 6 Figures
通过任务导向的随机化稳定黑盒算法
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 提出一种任务导向的随机化方法，根据输入数据的生成机制自适应调整策略，以稳定黑盒输出，并分析了稳定性与探索之间的权衡。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈