AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
渐进推理树搜索：在大语言模型中解耦提案与决策
机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 ARTS通过解耦生成与验证，有效解决大语言模型中推理路径被压制的问题，实现74.6%的性能，优于完全微调策略。
强化注意力学习
机构 * UC Davis（加州大学戴维斯分校） ； Google（谷歌） ； DeepMind（深Mind） ； Google DeepMind（谷歌DeepMind） ； Princeton University（普林斯顿大学）
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 强化注意力学习通过优化内部注意力分布提升多模态模型的感知能力，实验显示其在多模态后期训练中优于现有方法。
多智能体分阶段保守线性老虎机
机构 * Stanford University（斯坦福大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
AI总结 本文提出MA-SCLUCB算法，通过分阶段保守约束实现多智能体在安全保证下的高效分布式学习。
利用Lyapunov基屏障的安全控制器合成用于具有简单架构的线性混合系统
专题命中 安全训练 ：safety(abstract)
AI总结 本文提出了一种基于Lyapunov基屏障的安全控制器合成方法，旨在通过切换不同执行速率的BSC来实现最大安全性和及时恢复，同时优化控制计算的带宽使用。
GPTZero：鲁棒的LLM生成文本检测
专题命中 红队测试 ：red teaming(abstract)；分类 cs.LG
AI总结 GPTZero通过分层多任务架构实现鲁棒的LLM生成文本检测，提供准确可解释的检测方法和负责任的使用教育。
无目神祇与破碎屏幕：构建一个安全的、以意图为中心的移动代理操作系统
机构 * Tsinghua University（清华大学）
专题命中 提示注入 ：alignment(abstract)；prompt injection(abstract)；分类 cs.AI
AI总结 本文提出Aura架构，通过结构化交互模型和四项防御支柱，提升移动代理系统的安全性与效率。
Comments 35 pages, 15 figures
EXCODER: 可解释的时间序列离散表示分类
机构 * Institute for Technologies and Management of Digital Transformation (TMDT) University of Wuppertal（数字转型技术与管理研究所（TMDT）乌珀塔尔大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 EXCODER通过将时间序列转换为离散潜在表示，提升分类的可解释性，并提出SSA度量标准验证XAI方法的有效性。
Comments Accepted at PAKDD 2026
事后概率视觉-语言模型
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG
AI总结 本文提出一种无需额外训练的VLMs事后不确定性估计方法，通过贝叶斯后验近似和余弦相似度不确定性量化，提升主动学习效率和预测可靠性。
Comments Published at ICLR 2026. Project page: https://aaltoml.github.io/BayesVLM/
人机浪漫关系中的隐私：担忧、界限与自主性
机构 * VRAIN, Universitat Politècnica de València（VRAIN，瓦伦西亚理工大学） ； Aalto University（艾尔沃斯大学） ； King’s College London（伦敦国王学院） ； University of Cambridge（剑桥大学）
专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 本文探讨了人机浪漫关系中的隐私问题，通过访谈研究发现，AI伴侣具有自主性，影响隐私界限和用户隐私保护策略。
Comments Accepted at CHI 2026
基于模型驱动工程的AI赋能医疗平台方法
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出基于模型驱动工程的医疗AI框架，通过医学互操作性语言和联邦学习实现数据隐私保护与高预测性能。
Comments Disclaimer: This manuscript is currently under review at * MDPI Informatics*
Journal ref Informatics 2026
XGeM：一种多提示基础模型，用于多模态医学数据生成
机构 * Unit of Artificial Intelligence and Computer Systems, Department of Engineering, Università Campus Bio-Medico di Roma（人工智能与计算机系统单位，工程系，罗马生物医学大学） ； Department of Diagnostics and Intervention, Biomedical Engineering and Radiation Physics, Umeå University（诊断与介入部门，生物医学工程与辐射物理，乌梅大学） ； Department of Diagnostic Imaging and Stereotactic Radiosurgey, Centro Diagnostico Italiano S.p.A.（诊断影像与立体放射外科部门，意大利诊断中心股份有限公司） ； Department of Radiology and Interventional Radiology, Fondazione Policlinico Universitario Campus Bio-Medico（放射科与介入放射科，大学医学中心生物医学校园基金会） ； Research Unit of Radiology and Interventional Radiology, Department of Medicine and Surgery, Università Campus Bio-Medico di Roma（放射科与介入放射科研究单位，医学与外科系，罗马生物医学大学） ； College of Computer Science and Software Engineering, Shenzhen University（计算机科学与软件工程学院，深圳大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 XGeM是一种多模态生成模型，通过多提示训练策略实现灵活的医学数据合成，解决多模态数据生成中的临床一致性与数据稀缺问题。
通过LLM-as-Judge探索LLM在中文心理健康对话中的安全对齐评估
机构 * HKUST(GZ)（香港科技大学（广州）） ； Wuhan Univ.（武汉大学） ； Univ. of Iowa（爱荷华大学） ； Univ. of Manchester（曼彻斯特大学）
专题命中 安全评测 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.CL、cs.CY
AI总结 本文提出PsyCrisis-Bench，通过LLM-as-Judge方法评估LLM在中文心理健康对话中的安全对齐性，提供高质量数据集和可解释的评估工具。
分层交换以实现通用多语言安全
机构 * University of Seoul（首尔大学）
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL
AI总结 本文提出分层交换方法，通过将英语安全专家的安全对齐转移到低资源语言专家，提升多语言安全性能，同时保持通用任务性能。
Comments EACL 2026 main
SGM: 通过神经层面的净化为多模态大语言模型提供安全眼镜
专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI
AI总结 SGM通过神经层面的净化技术，有效降低多模态大语言模型的毒性，同时保持生成流畅性和推理能力。
针对格鲁吉亚语的语法评估：变换语义分析
机构 * Institute for Applied Informatics (InfAI)（应用信息研究所）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL
AI总结 本文针对格鲁吉亚语的语法评估，通过生成特定语法测试数据集，评估不同语言模型在处理分裂-反向语态对齐任务中的表现。
Comments To appear in Proceedings of The Second Workshop on Language Models for Low-Resource Languages (LoResLM), EACL 2026
物理具身的条件使泛化和关怀成为可能
机构 * Institute for Advanced Consciousness Studies（先进意识研究所） ； Monash Centre for Consciousness and Contemplative Studies（莫纳什意识与冥想研究中心） ； University of Oxford（牛津大学） ； Topos Institute（拓斯研究所） ； Allen Discovery Center（艾伦发现中心） ； Okinawa Institute of Science and Technology（冲绳科学技术研究所） ； Max Planck Institute for Human Cognitive and Brain Sciences（马克斯·普朗克人类认知与脑科学研究所） ； University of Hertfordshire（赫特福德郡大学） ； Brain and Creativity Institute（大脑与创造力研究所）
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出物理具身的条件是泛化和关怀的基础，通过稳态驱动和因果建模实现智能体在开放环境中的鲁棒性和可信对齐。
Comments 15 pages, 1 figure
VoiceAgentBench: 聊天助手是否准备好处理代理任务？
机构 * OLA Electric（OLA电讯） ； Krutrim AI（Krutrim人工智能）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 VoiceAgentBench评估语音模型在代理任务中的表现，发现ASR-LLM在英语任务中表现优于端到端SpeechLMs，但两者在多语言和安全评估中均存在局限。
从有偏聊天机器人到有偏代理：检验角色分配对LLM代理鲁棒性的影响
专题命中 安全评测 ：prompt injection(abstract)；分类 cs.CL、cs.AI
AI总结 研究发现基于人口统计学的人设分配会影响LLM代理的行为和性能，导致高达26.2%的降级，揭示了代理系统中隐含偏见和行为波动的风险。
Comments Accepted to the AAAI 2026 TrustAgent Workshop. 6 pages, 4 figures
代理人工智能在毒理病理学中的潜在作用
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CY
AI总结 本文探讨了代理人工智能在毒理病理学报告中的应用，分析了当前工作流程中的痛点，提出了分阶段的采用路线图，并强调了跨领域协作的重要性。
自适应多任务视觉语言模型用于机器人故障检测与推理
机构 * UT Austin（德克萨斯大学） ； Amazon Robotics（亚马逊机器人技术） ； Carnegie Mellon University（卡内基梅隆大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 ARMOR是一种自适应多任务视觉语言模型，通过多任务自 refinement 过程提升机器人故障检测与推理性能，实现故障检测率提升30%和推理表现提升100%。
强化学习在视觉推理中提升了什么？一种弗兰肯斯坦式分析
机构 * University of Maryland（马里兰大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文通过弗兰肯斯坦式分析框架，揭示强化学习在视觉推理中通过中到晚期变压器计算的系统性细化，改进了视觉到推理的对齐和推理性能，而非单纯的视觉感知增强。
在异构AI生态系统中量化模型独特性
机构 * Department of Engineering Technology, Technical University of Denmark（技术大学丹麦学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出基于ISQED的统计框架，用于量化异构AI生态系统中模型的独特性，通过PIER指标评估模型行为的不可约简性，并建立理论基础与实验验证。
中庸语语料库：通过可比教科书构建罗曼什语言变体的平行数据
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出首个罗曼什方言平行语料库，通过教科书构建，用于罗曼什方言间的机器翻译研究。
对话式图像分割：通过可扩展监督将抽象概念具象化
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出对话式图像分割方法，通过可扩展监督将抽象概念转化为精确掩码，并引入ConverSeg基准和ConverSeg-Net模型提升分割性能。
Comments Project webpage: https://glab-caltech.github.io/converseg/
基于规则的时空专家混合U-Net可解释边缘检测
机构 * Ph.D. Candidate, AI Bio Lab, Digital Futures, University of Cincinnati, \ , OH 45221, USA e-mail: Research Student, AI Bio Lab, Digital Futures, University of Cincinnati, \ , OH 45221, USA e-mail: Postdoctoral Researcher, Department of Multidisciplinary Engineering, TA\&M University, \ Station, TX 77843, USA e-mail: Research Associate AI Bio Lab, Digital Futures, University of Cincinnati, \ , OH 45221, USA e-mail: Director AI Bio Lab, Digital Futures, University of Cincinnati, \ , OH 45221, USA e-mail
专题命中 安全评测 ：safety(abstract)
AI总结 基于规则的时空专家混合U-Net通过融合深度语义特征与启发式边缘信号，实现边缘检测的可解释性。
SHAPR：一种面向研究软件开发的独立人类中心化和AI辅助实践框架
专题命中 安全评测 ：alignment(abstract)
AI总结 SHAPR框架为独立人类中心化和AI辅助的研究软件开发提供实践指导，通过整合行动设计研究原则，促进反思学习和方法论严谨性。
Comments 28 pages, 3 figures
线性插值器的正则化-尖锐性权衡
机构 * School of Mathematics and Statistics（数学与统计学学院） ； University of Melbourne（墨尔本大学）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出了一种针对过参数化线性回归的正则化-尖锐性权衡，通过ℓ^p惩罚分解选择惩罚为正则化项和几何尖锐性项，验证了其在现实数据中的有效性。
Comments 29 pages, 4 figures
RGAlign-Rec: 基于排名引导的潜在查询推理中的对齐方法
机构 * Forth AI Singapore（Forth AI新加坡） ； Shopee Singapore（Shopee新加坡） ； Singapore Uni. of Tech. and Design（新加坡技术与设计大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI
AI总结 RGAlign-Rec通过闭环对齐框架结合语义推理和增强查询模型，提升电子商务推荐系统的预测准确性和服务质量。
MTFM：一种可扩展且无对齐的工业推荐基础模型
专题命中 其他安全 ：alignment(title,abstract)
AI总结 MTFM是一种基于Transformer的工业推荐基础模型，通过异构标记和多场景样本聚合提升效率，实现无对齐的多场景推荐效果。
可编辑的可解释性AI：通过可编辑的可解释属性实现双向人机对齐
专题命中 其他安全 ：alignment(title,abstract)
AI总结 本文提出可编辑的XAI方法CoExplain，通过允许用户编写规则来提升人机对齐，实验表明其在理解和控制方面优于传统只读XAI。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈