大模型对齐与安全

SAM Guided Semantic and Motion Changed Region Mining for Remote Sensing Change Captioning

基于SAM的语义与运动变化区域挖掘用于遥感变化描述

Futian Wang, Mengqi Wang, Xiao Wang, Haowen Wang, Jin Tang

机构 * School of Computer Science and Technology, Anhui University（计算机科学与技术学院，安徽大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于SAM模型的遥感变化描述方法，通过融合语义和运动变化区域信息，提升变化描述的准确性和性能。

AI4X Roadmap: Artificial Intelligence for the advancement of scientific pursuit and its future directions

AI4X路线图：人工智能用于科学探索的进步及其未来方向

Stephen G. Dale, Nikita Kazeev, Alastair J. A. Price, Victor Posligua, Stephan Roche, O. Anatole von Lilienfeld, Konstantin S. Novoselov, Xavier Bresson, Gianmarco Mengaldo, Xudong Chen, Terence J. O'Kane, Emily R. Lines, Matthew J. Allen, Amandine E. Debus, Clayton Miller, Jiayu Zhou, Hiroko H. Dodge, David Rousseau, Andrey Ustyuzhanin, Ziyun Yan, Mario Lanza, Fabio Sciarrino, Ryo Yoshida, Zhidong Leong, Teck Leong Tan, Qianxiao Li, Adil Kabylda, Igor Poltavsky, Alexandre Tkatchenko, Sherif Abdulkader Tawfik, Prathami Divakar Kamath, Theo Jaffrelot Inizan, Kristin A. Persson, Bryant Y. Li, Vir Karan, Chenru Duan, Haojun Jia, Qiyuan Zhao, Hiroyuki Hayashi, Atsuto Seko, Isao Tanaka, Omar M. Yaghi, Tim Gould, Bun Chan, Stefan Vuckovic, Tianbo Li, Min Lin, Zehcen Tang, Yang Li, Yong Xu, Amrita Joshi, Xiaonan Wang, Leonard W. T. Ng, Sergei V. Kalinin, Mahshid Ahmadi, Jiyizhe Zhang, Shuyuan Zhang, Alexei Lapkin, Ming Xiao, Zhe Wu, Kedar Hippalgaonkar, Limsoon Wong, Lorenzo Bastonero, Nicola Marzari, Dorye Luis Esteras Cordoba, Andrei Tomut, Alba Quinones Andrade, Jose-Hugo Garcia

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出AI4X路线图，探讨人工智能在科学探索中的应用，强调数据多样性、可转移模型和生成系统的重要性，旨在推动更透明和高效的AI科学发展。

Democratizing LLM Efficiency: From Hyperscale Optimizations to Universal Deployability

让大语言模型效率普及：从超大规模优化到通用部署

Hen-Hsen Huang

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出通过改进LLM的效率方法，使其在有限资源和专业知识下仍能有效运作，以实现更广泛的部署和公平性。

Comments 8 pages, accepted as a Blue Sky Talk in AAAI 2026

MoRE: Batch-Robust Multi-Omics Representations from Frozen Pre-trained Transformers

MoRE：从冻结预训练转换器中获得批量鲁棒多组学表示

Audrey Pei-Hsuan Chen

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 MoRE通过参数高效微调策略，实现多组学数据的鲁棒表示学习，减少可训练参数并提升跨细胞类型和平台的泛化能力。

KRAL: Knowledge and Reasoning Augmented Learning for LLM-assisted Clinical Antimicrobial Therapy

KRAL: 用于LLM辅助临床抗菌治疗的知识与推理增强学习

Zhe Li, Yehan Qiu, Yujie Chen, Xiang Zhou

机构 * Information Center, State Key Laboratory of Complex Severe and Rare Diseases, Peking Union Medical College Hospital（信息中心、复杂严重罕见疾病国家重点实验室、北京友谊医院） ； Department of Critical Care Medicine, State Key Laboratory of Complex Severe and Rare Diseases, Peking Union Medical College Hospital, Peking Union Medical College and Chinese Academy of Medical Sciences（重症医学科、复杂严重罕见疾病国家重点实验室、北京友谊医院、北京友谊医院和中国医学科学院） ； Medical Intensive Care Unit, State Key Laboratory of Complex Severe and Rare Diseases, Peking Union Medical College Hospital, Peking Union Medical College and Chinese Academy of Medical Sciences（医疗重症病房、复杂严重罕见疾病国家重点实验室、北京友谊医院、北京友谊医院和中国医学科学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 KRAL通过知识与推理增强学习提升LLM在临床抗菌治疗中的诊断能力，以低成本高效方式优化医疗决策支持。

MedROV: Towards Real-Time Open-Vocabulary Detection Across Diverse Medical Imaging Modalities

MedROV：面向跨多种医学影像模态的实时开放词汇检测

Tooba Tehreem Sheikh, Jean Lahoud, Rao Muhammad Anwer, Fahad Shahbaz Khan, Salman Khan, Hisham Cholakkal

机构 * Mohamed Bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 MedROV是首个实时开放词汇医学影像检测模型，通过大规模数据集和伪标签策略提升检测性能，实现40 mAP50的提升并达到70 FPS的实时处理速度。

Assessing LLMs' Performance: Insights from the Chinese Pharmacist Exam

评估大语言模型的性能：来自中国药师资格考试的洞察

Xinran Wang, Boran Zhu, Shujuan Zhou, Ziwen Long, Dehua Zhou, Shu Zhang

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本研究比较了DeepSeek-R1和ChatGPT-4o在药师资格考试中的表现，发现DeepSeek-R1在准确性上显著优于后者，强调了领域特定模型在评估中的重要性及人类监督的必要性。

Comments 15 pages, 4 figures

Hierarchical Spatio-Temporal Attention Network with Adaptive Risk-Aware Decision for Forward Collision Warning in Complex Scenarios

具有自适应风险感知决策的分层时空注意力网络用于复杂场景的前方碰撞预警

Haoran Hu, Junren Shi, Shuo Jiang, Kun Cheng, Xia Yang, Changhao Piao

机构 * organization= School of Automation \& School of Industrial Internet, Chongqing University of Posts ； organization= Platform Technology Development Department, AVATR Technology Co. LTD. , city= Chongqing , postcode= 400000 , country= China ； organization= School of Vehicle ； Mobility, Tsinghua University , city= Beijing , postcode= 100084 , country= China 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种结合分层时空注意力网络和动态风险阈值调整算法的前方碰撞预警框架，通过高效模型和自适应机制提升复杂场景下的预警精度与可靠性。

Structured Noise Modeling for Enhanced Time-Series Forecasting

结构噪声建模以提升时间序列预测

Sepideh Koohfar

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出结构化噪声建模框架，通过模糊-去噪机制提升时间序列预测的准确性与稳定性，适用于能源、基础设施等时间敏感领域。

Accuracy and Efficiency Trade-Offs in LLM-Based Malware Detection and Explanation: A Comparative Study of Parameter Tuning vs. Full Fine-Tuning

在基于大语言模型的恶意软件检测与解释中的准确性与效率权衡：参数调优与全微调的比较研究

Stephen C. Gravereaux, Sheikh Rabiul Islam

机构 * Department of Cybersecurity University at Albany - State University of New York Albany, NY, USA（网络安全系 美国纽约州立大学阿尔巴尼分校） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本研究比较了参数调优与全微调在恶意软件检测中的性能，发现LoRA在保持解释质量的同时显著提升了效率。

Comments Accepted in IEEE Big Data 2025

Journal ref IEEE Big Data 2025

AraFinNews: Arabic Financial Summarisation with Domain-Adapted LLMs

AraFinNews: 基于领域适应大语言模型的阿拉伯语金融摘要

Mo El-Haj, Paul Rayson

机构 * School of Computing（计算学院） ； Lancaster University（兰卡斯特大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 AraFinNews通过领域适应大语言模型提升阿拉伯语金融文本摘要的连贯性和准确性。

Comments 9 pages

Journal ref IEEE BigData 2025

MAIF: Enforcing AI Trust and Provenance with an Artifact-Centric Agentic Paradigm

MAIF：基于 artifacts 的代理范式强化 AI 可信度与溯源

Vineeth Sai Narajala, Manish Bhatt, Idan Habler, Ronald F. Del Rosario, Ads Dawson

机构 * Security Researcher Cisco（安全研究员 希思科） ； Researcher OWASP/Project Kuiper Security（研究员 OWASP/项目 Kuiper 安全） ； Adversarial AI Security Research Cisco（对抗性AI安全研究 希思科） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 MAIF 通过以 artifacts 为中心的代理范式，解决 AI 的可信度、安全性和问责问题，实现数据的主动信任执行和高效处理。

Comments 7 Pages, 2 Figures, 6 Tables, Repo: https://github.com/vineethsai/maifscratch-1, Added additional Author and fixed Citations

Unboxing the Black Box: Mechanistic Interpretability for Algorithmic Understanding of Neural Networks

揭开黑箱：神经网络算法理解的机理可解释性

Bianka Kowalska, Halina Kwaśnicka

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出了一种统一的机理可解释性方法分类，并探讨了其在可解释人工智能中的应用与潜在贡献。

Addressing Situated Teaching Needs: A Multi-Agent Framework for Automated Slide Adaptation

应对情境教学需求：一种多智能体框架用于自动幻灯片适应

Binglin Liu, Yucheng Wang, Zheyuan Zhang, Jiyuan Lu, Shen Yang, Daniel Zhang-Li, Huiqin Liu, Jifan Yu

机构 * Tsinghua University, Beijing, China（清华大学，北京，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种多智能体框架，用于自动化教学幻灯片适应，通过教师访谈识别关键摩擦点，并在8门课程中验证了其有效性，达到0.89的F1分数。

Synthesizing Precise Protocol Specs from Natural Language for Effective Test Generation

从自然语言合成精确的协议规范以实现有效的测试生成

Kuangxiangzi Liu, Dhiman Chakraborty, Alexander Liggesmeyer, Andreas Zeller

机构 * CISPA Helmholtz Center for Information Security（CISPA 欧洲信息安全研究中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本研究提出了一种两阶段方法，利用大语言模型从自然语言规范生成形式化协议规范，以提高测试生成的效率和准确性。

PA-FAS: Towards Interpretable and Generalizable Multimodal Face Anti-Spoofing via Path-Augmented Reinforcement Learning

PA-FAS: 向可解释和通用的多模态人脸反伪装迈进：通过路径增强强化学习

Yingjie Ma, Xun Lin, Yong Xu, Weicheng Xie, Zitong Yu

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 PA-FAS通过路径增强强化学习提升多模态人脸反伪装的可解释性和泛化能力。

Comments Accepted by AAAI 2026 (Oral)

Hybrid Neuro-Symbolic Models for Ethical AI in Risk-Sensitive Domains

混合神经符号模型用于风险敏感领域的伦理AI

Chaitanya Kumar Kolli

机构 * Independent Researcher USA Email（独立研究者） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出混合神经符号模型，用于在风险敏感领域实现伦理AI，通过结合神经网络与符号推理，提升AI的可解释性和合规性。

Comments 6 pages, 6 figures

Reconstruction-Driven Multimodal Representation Learning for Automated Media Understanding

基于重建的多模态表示学习用于自动化媒体理解

Yassir Benhammou, Suman Kalyan, Sujay Kumar

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出多模态自编码器MMAE，通过统一学习文本、音频和视觉数据的表示，实现广播内容的端到端自动化元数据提取与语义聚类，提升广播档案的可检索性与管理效率。

Comments 8 pages, 5 figures, 4 tables

Embedding Generative AI into Systems Analysis and Design Curriculum: Framework, Case Study, and Cross-Campus Empirical Evidence

将生成式人工智能融入系统分析与设计课程：框架、案例研究和跨校园实证证据

Mahmoud Elkhodr, Ergun Gide

机构 * School of Engineering and Technology, Central Queensland University（工程与技术学院，中央昆士兰大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本研究提出SAGE框架，通过将生成式人工智能融入课程设计，培养学生批判性思维和AI编排能力，揭示学生在系统分析中的关键挑战和教育改进方向。

Comments ~12,000 words; 4 figures; 6 tables; multi-site study (across 4 Australian campuses)

Can AI Perceive Physical Danger and Intervene?

AI能否感知物理危险并干预？

Abhishek Jindal, Dmitry Kalashnikov, R. Alex Hofer, Oscar Chang, Divya Garikapati, Anirudha Majumdar, Pierre Sermanet, Vikas Sindhwani

机构 * Google DeepMind Robotics（谷歌深Mind机器人技术） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出了一种用于评估具身体验AI系统物理安全性的基准测试方法，通过生成逼真图像和视频来测试模型对安全风险的理解和干预能力，并开发了训练后范式以提升模型的安全推理能力。

Explore More, Learn Better: Parallel MLLM Embeddings under Mutual Information Minimization

探索更多，学习更好：基于互信息最小化的并行 MLLM 嵌入

Zhicheng Wang, Chen Ju, Xu Chen, Shuai Xiao, Jinsong Lan, Xiaoyong Zhu, Ying Chen, Zhiguo Cao

机构 * Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出基于互信息最小化的并行解耦框架，通过多条并行路径提升多模态嵌入质量，实现高效且鲁棒的嵌入空间。

Best Practices for Biorisk Evaluations on Open-Weight Bio-Foundation Models

开放权重生物基础模型的生物风险评估最佳实践

Boyi Wei, Zora Che, Nathaniel Li, Udari Madhushani Sehwag, Jasper Götting, Samira Nedungadi, Julian Michael, Summer Yue, Dan Hendrycks, Peter Henderson, Zifan Wang, Seth Donoughe, Mantas Mazeika

机构 * Scale AI ； SecureBio ； Center for AI Safety（AI安全中心） ； Princeton University（普林斯顿大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出BioRiskEval框架，用于评估开放权重生物基础模型的鲁棒性，揭示现有数据过滤方法的局限性，并强调需进一步研究安全策略。

Comments 17 Pages, 5 figures

Towards Formal Verification of LLM-Generated Code from Natural Language Prompts

向自然语言提示生成的LLM代码形式验证

Aaron Councilman, David Jiahao Fu, Aryan Gupta, Chengxiao Wang, David Grove, Yu-Xiong Wang, Vikram Adve

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； IBM Research（IBM研究院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 Astrogator通过形式查询语言和知识库实现对LLM生成代码的正确性验证，验证准确率达83%。

Comments 28 pages, 10 figures

Birds look like cars: Adversarial analysis of intrinsically interpretable deep learning

鸟类看起来像汽车：对内在可解释深度学习的对抗分析

Hubert Baniecki, Przemyslaw Biecek

机构 * University of Warsaw（华沙大学） ； Warsaw University of Technology（华沙技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文研究了内在可解释深度学习模型的对抗性风险，通过原型操纵和后门攻击揭示其不可解释性，并探讨了提升模型鲁棒性和对齐性的必要性。

Comments Accepted by Machine Learning

Journal ref Machine Learning (2025) 114:284

ESGBench: A Benchmark for Explainable ESG Question Answering in Corporate Sustainability Reports

ESGBench：用于企业可持续发展报告中可解释ESG问答的基准

Sherine George, Nithish Saji

机构 * BNY ； FedEx 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 ESGBench是一个用于评估企业可持续发展报告中可解释ESG问答系统性能的基准，通过领域相关问题和人工整理答案来评估模型推理能力，揭示了事实一致性、可追溯性和领域对齐等关键挑战。

Comments Workshop paper accepted at AI4DF 2025 (part of ACM ICAIF 2025). 3 pages including tables and figures

When concept-based XAI is imprecise: Do people distinguish between generalisations and misrepresentations?

基于概念的XAI有时不够精确：人们能否区分泛化与误表？

Romy Müller

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究探讨了人们在基于概念的XAI中区分泛化与误表的能力，发现人们更敏感于相关特征的不精确性，而非泛化不相关特征的不精确性。

Can MLLMs Read the Room? A Multimodal Benchmark for Assessing Deception in Multi-Party Social Interactions

大语言模型能读取环境吗？一个多模态基准用于评估多当事人社交互动中的欺骗

Caixin Kang, Yifei Huang, Liangyang Ouyang, Mingfang Zhang, Ruicong Liu, Yoichi Sato

机构 * The University of Tokyo（东京大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出多模态互动欺骗评估任务，通过新颖数据集评估多种MLLMs的欺骗检测能力，揭示其在多模态社交线索处理上的不足，并提出SoCoT和DSEM模块提升性能。

An Interpretability-Guided Framework for Responsible Synthetic Data Generation in Emotional Text

可解释性引导的负责任情感文本合成数据生成框架

Paula Joy B. Martinez, Jose Marie Antonio Miñoza, Sebastian C. Ibañez

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出一种基于SHAP的可解释性引导框架，用于生成情感文本的合成数据，提升少数情绪类别的分类性能，同时揭示合成文本在词汇丰富性和表达复杂性上的局限性。

Journal ref Association for the Advancement of Artificial Intelligence (2026). Shaping Responsible Synthetic Data in the Era of Foundation Models

AquaSentinel: Next-Generation AI System Integrating Sensor Networks for Urban Underground Water Pipeline Anomaly Detection via Collaborative MoE-LLM Agent Architecture

AquaSentinel：下一代集成传感器网络的AI系统，通过协作MoE-LLM代理架构实现城市地下供水管道异常检测

Qiming Guo, Bishal Khatri, Wenbo Sun, Jinwen Tang, Hua Zhang, Wenlu Wang

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 AquaSentinel通过协作MoE-LLM代理架构实现城市地下供水管道异常检测，结合物理信息和稀疏传感技术，以低成本实现高精度的实时监测。

Comments 7 pages, 1 figure, 2 tables, Accepted to the 40th AAAI Conference on Artificial Intelligence (AAAI 2026), IAAI Deployed Applications Track

Automated Hazard Detection in Construction Sites Using Large Language and Vision-Language Models

利用大语言和视觉-语言模型进行施工工地自动危险检测

Islem Sahraoui

机构 * University of Houston Cullen College of Engineering Department of Civil and Environmental Engineering（德克萨斯大学休斯顿分校库伦工程学院土木与环境工程系） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究利用大语言和视觉-语言模型，通过分析文本和图像数据，提高施工工地的安全隐患检测效率。

Comments Master thesis, University of Houton