大模型对齐与安全

ScienceDB AI: An LLM-Driven Agentic Recommender System for Large-Scale Scientific Data Sharing Services

ScienceDB AI: 基于大语言模型的代理推荐系统用于大规模科学数据共享服务

Qingqing Long, Haotian Chen, Chenyang Zhao, Xiaolei Du, Xuezhi Wang, Pengyao Wang, Chengzan Li, Yuanchun Zhou, Hengshu Zhu

机构 * Computer Network Information Center, Chinese Academy of Sciences, Beijing, China（中国科学院计算机网络信息中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 ScienceDB AI 是首个基于大语言模型的对话推荐系统，专为大规模科学数据共享服务设计，通过自然语言对话和深度推理实现精准的数据集推荐。

Comments 12 pages, 9 figures

AlignUSER: Human-Aligned LLM Agents via World Models for Recommender System Evaluation

AlignUSER: 通过世界模型对齐LLM代理以评估推荐系统

Nicolas Bougie, Gian Maria Marconi, Tony Yip, Narimasa Watanabe

机构 * Woven by Toyota（丰田织物） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 AlignUSER通过世界模型驱动的代理学习，利用人类交互数据提升推荐系统评估的准确性与真实用户行为的对齐程度。

LSRE: Latent Semantic Rule Encoding for Real-Time Semantic Risk Detection in Autonomous Driving

LSRE: 隐式语义规则编码用于自动驾驶中的实时语义风险检测

Qian Cheng, Weitao Zhou, Cheng Jing, Nanshan Deng, Junze Wen, Zhaoyang Liu, Kun Jiang, Diange Yang

机构 * School of Vehicle and Mobility, Tsinghua University（车辆与移动系统学院，清华大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 LSRE通过隐式语义规则编码实现自动驾驶中的实时语义风险检测，以10 Hz速度提供高效准确的危险预判。

Enhancing Temporal Awareness in LLMs for Temporal Point Processes

增强大语言模型在时序点过程中的时间感知能力

Lili Chen, Wensheng Gan, Shuang Liang, Philip S. Yu

机构 * School of Computer Science and Technology, Tongji University, Shanghai 201804, China（计算机科学与技术学院，同济大学） ； College of Cyber Security, Jinan University, Guangzhou 510632, China（网络安全学院，暨南大学） ； Department of Computer Science, University of Illinois Chicago, Chicago, USA（计算机科学系，伊利诺伊大学芝加哥分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 TPP-TAL通过增强LLMs的时间感知能力，改进了时序点过程中的时间似然估计和事件预测准确性。

Comments preprint

Cracking IoT Security: Can LLMs Outsmart Static Analysis Tools?

破解物联网安全：大语言模型能否超越静态分析工具？

Jason Quantrill, Noura Khajehnouri, Zihan Guo, Manar H. Alalfi

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文评估大语言模型在物联网交互威胁检测中的性能，发现其在语义理解上有潜力，但在结构推理方面表现不佳，需结合符号分析提升可靠性。

Rule-Based Approaches to Atomic Sentence Extraction

基于规则的方法用于原子句子提取

Lineesha Kamana, Akshita Ananda Subramanian, Mehuli Ghosh, Suman Saha

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本研究通过分析复杂句子结构对基于规则的原子句子提取性能的影响，提出了依赖关系提取规则，并在WikiSplit数据集上实现了较高的提取准确率。

Towards mechanistic understanding in a data-driven weather model: internal activations reveal interpretable physical features

迈向数据驱动天气模型的机理理解：内部激活揭示可解释的物理特征

Theodore MacMillan, Nicholas T. Ouellette

机构 * Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文通过分析GraphCast模型的内部激活，揭示了可解释的物理特征，为数据驱动天气模型的机理理解提供了新视角。

Comments 18 pages, 13 figures

Assessing behaviour coverage in a multi-agent system simulation for autonomous vehicle testing

评估多智能体系统模拟在自动驾驶测试中的行为覆盖率

Manuel Franco-Vivo

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本研究提出了一种基于模型预测控制的行人智能体，用于评估多智能体系统模拟在自动驾驶测试中的行为覆盖率，以提升系统安全性和可靠性。

TCEval: Using Thermal Comfort to Assess Cognitive and Perceptual Abilities of AI

TCEval：利用热舒适性评估人工智能的认知与感知能力

Jingming Li

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 TCEval通过热舒适性场景评估AI的跨模态推理、因果关联和适应性决策能力，揭示当前LLM在热舒适性领域存在基础推理能力但缺乏精确因果理解。

Gamayun's Path to Multilingual Mastery: Cost-Efficient Training of a 1.5B-Parameter LLM

Gamayun的多语言 mastery 之路：一种 1.5B 参数 LLM 的高效训练

Alexander Podolskiy, Semen Molokov, Timofey Gerasin, Maksim Titov, Alexey Rukhovich, Artem Khrapov, Kirill Morozov, Evgeny Tetin, Constantine Korikov, Pavel Efimov, Polina Lazukova, Yuliya Skripkar, Nikita Okhotnikov, Irina Piontkovskaya, Meng Xiaojun, Zou Xueyi, Zhang Zhenhe

机构 * Gamayun Team（Gamayun团队） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 Gamayun 通过两阶段预训练策略，在资源受限环境下高效训练出 1.5B 参数多语言模型，支持 12 种语言，尤其在俄语上取得先进成果。

The Cultural Gene of Large Language Models: A Study on the Impact of Cross-Corpus Training on Model Values and Biases

大语言模型的文化基因：跨语料库训练对模型价值观与偏见的影响研究

Emanuel Z. Fenech-Borg, Tilen P. Meznaric-Kos, Milica D. Lekovic-Bojovic, Arni J. Hentze-Djurhuus

机构 * Department of Communications（通讯系） ； University of Malta（马耳他大学） ； Faculty of Mathematics（数学系） ； University of Primorska（普里摩尔卡大学） ； Faculty of Electrical Engineering（电气工程系） ； University of Montenegro（黑山大学） ； Faculty of Science & Technology（科学与技术系） ； University of the Faroe Islands（法罗群岛大学） ； Department of Computer Science（计算机科学系） ； San Francisco State University（旧金山州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本研究通过跨文化探针数据集分析大语言模型在个人主义-集体主义和权力距离维度上的文化偏见，揭示模型价值观与训练语料文化背景的关联。

Comments 10 pages, 5 figures, IEEE conference format, submitted to [Conference Name]

Image and Video Quality Assessment using Prompt-Guided Latent Diffusion Models for Cross-Dataset Generalization

基于提示引导的潜在扩散模型的图像和视频质量评估用于跨数据集泛化

Shankhanil Mitra, Diptanu De, Shika Rao, Rajiv Soundararajan

机构 * Samsung Research Institute（三星研究机构） ； Qualcomm（高通） ； New York University（纽约大学） ； Indian Institute of Science（印度科学研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出基于提示引导的潜在扩散模型，通过学习跨注意力图和时间质量调节器，实现图像和视频质量评估的跨数据集泛化。

Comments Accepted to Transactions on Machine Learning Research

DICE: Discrete Interpretable Comparative Evaluation with Probabilistic Scoring for Retrieval-Augmented Generation

DICE：基于概率评分的离散可解释比较评估用于检索增强生成

Shiyan Liu, Jian Ma, Rui Qu

机构 * School of Computer Science and Technology（计算机科学与技术学院） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 DICE提出一种基于概率评分的两阶段框架，提升RAG评估的可解释性和稳健性，通过透明判断和系统性错误诊断，实现高效且可信的评估。

Comments Accepted at ResponsibleFM @ NeurIPS 2025

LLM-as-a-Judge: Rapid Evaluation of Legal Document Recommendation for Retrieval-Augmented Generation

LLM-as-a-Judge: 快速评估法律文档推荐用于检索增强生成

Anu Pradhan, Alexandra Ortan, Apurv Verma, Madhavan Seshadri

机构 * Bloomberg（彭博） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出LLM-as-a-Judge方法，通过改进评估指标和统计检验，实现法律文档推荐系统的自动化评估，提高评估效率和准确性。

Comments Accepted in EARL 25: The 2nd Workshop on Evaluating and Applying Recommender Systems with Large Language Models at RecSys 2025

Journal ref Proceedings of the 2nd Workshop on Evaluating and Applying Recommender Systems with Large Language Models (EARL), RecSys 2025

LogicLens: Visual-Logical Co-Reasoning for Text-Centric Forgery Analysis

LogicLens：面向文本导向伪造分析的视觉-逻辑协同推理

Fanwei Zeng, Changtao Miao, Jing Huang, Zhiya Tan, Shutao Gong, Xiaoming Yu, Yang Wang, Huazhe Tan, Weibin Yao, Jianshu Li

机构 * Ant Group（蚂蚁集团） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 LogicLens通过视觉-逻辑协同推理框架，提升文本导向伪造分析的准确性和鲁棒性，其在多个基准测试中表现优异。

Comments 11 pages, 5 figures, 3 tables

Towards Better Search with Domain-Aware Text Embeddings for C2C Marketplaces

面向C2C市场向更好搜索的领域感知文本嵌入

Andre Rusli, Miao Cao, Shoma Ishimoto, Sho Akiyama, Max Frenzel

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出领域感知的文本嵌入方法，通过优化C2C市场places的搜索质量，提升相关性和效率，为更丰富的LLM时代搜索体验奠定基础。

Comments 5 pages, AAAI 2026 Workshop on New Frontiers in Information Retrieval

Bridging the AI Trustworthiness Gap between Functions and Norms

弥合功能与规范之间的人工智能可信度差距

Daan Di Scala, Sophie Lathouwers, Michael van Bekkum

机构 * TNO Netherlands Organisation for Applied Scientific Research, Data Science Department（荷兰应用科学研究院数据科学部门） ； Utrecht University, Department of Information（乌得勒支大学信息与计算科学系） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出通过引入语义语言弥合功能可信人工智能与规范可信人工智能之间的差距，以提升人工智能系统的可信度评估。

Comments Published as Position Paper during the TRUST-AI workshop at the ECAI2025 Conference

Memory-T1: Reinforcement Learning for Temporal Reasoning in Multi-session Agents

Memory-T1: 基于强化学习的多会话代理时间推理

Yiming Du, Baojun Wang, Yifan Xiang, Zhaowei Wang, Wenyu Huang, Boyang Xue, Bin Liang, Xingshan Zeng, Fei Mi, Haoli Bai, Lifeng Shang, Jeff Z. Pan, Yuxin Jiang, Kam-Fai Wong

机构 * The Chinese University of Hong Kong（香港中文大学） ； Huawei Technologies Co.,Ltd（华为技术有限公司） ； HKUST（香港科技大学） ； The University of Edinburgh（爱丁堡大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 Memory-T1通过强化学习提升多会话代理的时间推理能力，实现7B模型在Time-Dialog基准上的67.0%高分，优于基线模型。

A Comparative Analysis of Ensemble-Based Machine Learning Approaches with Explainable AI for Multi-Class Intrusion Detection in Drone Networks

基于可解释AI的多类入侵检测在无人机网络中的集成机器学习方法比较分析

Md. Alamgir Hossain, Waqas Ishtiaq, Md. Samiul Islam

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出基于集成机器学习和可解释AI的无人机网络入侵检测方法，通过比较随机森林等模型，实现高准确率和可解释性，适用于实时安全关键应用。

Comments 27 pages, 18 figures, 10 tables

Journal ref SECURITY AND PRIVACY, 2025

Low-Resource Domain Adaptation for Speech LLMs via Text-Only Fine-Tuning

通过文本仅微调实现语音大模型的低资源领域适应

Yangui Fang, Jing Peng, Xu Li, Yu Xi, Chengwei Zhang, Guohui Zhong, Kai Yu

机构 * Huazhong University of Science and Technology, School of Electronic Information and Communications（华中科技大学电子信息与通信学院） ； MoE Key Lab of Artificial Intelligence, AI Institute, X-LANCE Lab, Shanghai Jiao Tong University, Shanghai, China（人工智能MoE重点实验室、AI研究院、X-LANCE实验室、上海交通大学、上海，中国） ； Jiangsu Key Lab of Language Computing, Suzhou, China（江苏省语言计算重点实验室、苏州，中国） ； AISpeech Co., Ltd., Suzhou, China（AISpeech公司、苏州，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出通过文本仅微调实现语音大模型在低资源环境下的领域适应，有效提升识别性能并减少领域迁移中的性能下降。

Comments This paper has been ACCEPTED for publication in ASRU

Fine-Grained Instruction-Guided Graph Reasoning for Vision-and-Language Navigation

细粒度指令引导的图推理用于视觉-语言导航

Yaohua Liu, Xinyuan Song, Yunfu Deng, Yifan Xie, Binkai Ou, Yan Zhong

机构 * Guangdong Institute of Intelligence Science and Technology（广东智能科学与技术研究院） ； Department of Computer Science, Emory University（埃默里大学计算机科学系） ； Department of Computer Science, University of Wisconsin-Madison（威斯康星大学麦迪逊分校计算机科学系） ； Tsinghua University（清华大学） ； Innovation and Research and Development Department, BoardWare Information System Company（BoardWare信息系统公司创新与研发部） ； School of Mathematics, Peking University（北京大学数学学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出细粒度指令引导的图推理框架OIKG，通过解耦角度与视觉提示并增强空间表示，提升视觉-语言导航中指令理解和跨模态对齐能力。

Comments 10 pages, 4 figures

Augmenting Intelligence: A Hybrid Framework for Scalable and Stable Explanations

增强智能：一种可扩展且稳定的解释混合框架

Lawrence Krukrubo, Julius Odede, Olawande Olusegun

机构 * Department of Computing & Mathematical Sciences, University of Wolverhampton（计算机与数学科学系，沃尔夫汉普顿大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出混合LRR-TED框架，通过自动化规则与少量人工规则结合，实现客户流失预测的高准确率和低人工成本。

Comments 5 pages, 2 figures, 2 tables. Code and experiments available at https://github.com/Lawrence-Krukrubo/IBM-Learn-XAI

Observer, Not Player: Simulating Theory of Mind in LLMs through Game Observation

观察者，而非玩家：通过游戏观察模拟大语言模型中的理论心理论

Jerry Wang, Ting Yiu Liu

机构 * Department of Management Information Systems, National ChengChi University（管理信息系，国立中正大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 通过游戏观察模拟大语言模型中的理论心理论，评估其在顺序行为中的推理能力。

Comments Accepted at NeurIPS Workshop on Foundations of Reasoning in Language Models and Workshop on Bridging Language, Agent, and World Model

Physics-Informed Lightweight Machine Learning for Aviation Visibility Nowcasting Across Multiple Climatic Regimes

融合物理的轻量级机器学习用于多气候区航空能见度nowcasting

Marcelo Cerda Castillo

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本研究提出了一种基于物理引导的轻量级机器学习模型，用于多气候区的航空能见度nowcasting，实现了比传统方法更高的检测率和更少的误报。

Comments 12 pages, 5 tables, 1 figure. Uses publicly available METAR surface observations and TAF forecast data for benchmarking

SCARE: A Benchmark for SQL Correction and Question Answerability Classification for Reliable EHR Question Answering

SCARE：一个用于SQL校正和问题可回答性分类的基准，以实现可靠的EHR问答系统

Gyubok Lee, Woosog Chay, Edward Choi

机构 * Korea Advanced Institute of Science & Technology（韩国科学技术院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 SCARE是一个用于评估SQL校正和问题可回答性分类的基准，旨在提升EHR问答系统的安全性与可靠性。

Comments ML4H 2025 Proceedings

Survey and Experiments on Mental Disorder Detection via Social Media: From Large Language Models and RAG to Agents

面向社交媒体的抑郁症检测综述与实验：从大型语言模型和RAG到代理

Zhuohan Ge, Darian Li, Yubo Wang, Nicole Hu, Xinyi Zhu, Haoyang Li, Xin Zhang, Mingtao Zhang, Shihao Qi, Yuming Xu, Han Shi, Chen Jason Zhang, Qing Li

机构 * The Hong Kong Polytechnic University（香港理工大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文综述并实验了基于社交媒体的抑郁症检测方法，探讨了LLM、RAG和代理系统在提升检测可靠性与推理能力中的应用。

Comments 20 pages, 10 figures. This is an extension of ICDEW 2025

What Human-Horse Interactions may Teach us About Effective Human-AI Interactions

人类与马的互动可能教会我们如何有效进行人类与人工智能的互动

Mohammad Hossein Jarrahi, Stanley Ahalt

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文通过人类与马的互动研究，提出人机合作应建立在共生基础上，强调信任、沟通与持续学习的重要性，以设计更可信和适应性强的人工智能系统。

Journal ref interactions 33(1), 28-33 (2025)

Robust-R1: Degradation-Aware Reasoning for Robust Visual Understanding

Robust-R1: 为鲁棒视觉理解的退化感知推理

Jiaqi Tang, Jianmin Chen, Wei Wei, Xiaogang Xu, Runtao Liu, Xiangyu Wu, Qipeng Xie, Jiafei Wu, Lei Zhang, Qifeng Chen

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 Robust-R1通过结构化推理链显式建模视觉退化，提升多模态大语言模型在现实世界退化下的鲁棒性与抗干扰能力。

Comments Accepted by AAAI2026 Oral

EDVD-LLaMA: Explainable Deepfake Video Detection via Multimodal Large Language Model Reasoning

EDVD-LLaMA: 通过多模态大语言模型推理进行可解释的深度伪造视频检测

Haoran Sun, Chen Cai, Huiping Zhuang, Kong Aik Lee, Lap-Pui Chau, Yi Wang

机构 * Department of Electrical and Electronic Engineering, The Hong Kong Polytechnic University（电子与电气工程系，香港理工大学） ； School of Electrical and Electronic Engineering, Nanyang Technological University（电子与电气工程学院，南洋理工大学） ； Shien-Ming Wu School of Intelligent Engineering, South China University of Technology（智能工程学院，华南理工大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 EDVD-LLaMA通过多模态大语言模型推理实现深度伪造视频检测的可解释性，结合时空特征提取和细粒度推理机制，提升检测准确性与解释可靠性。

MolMark: Safeguarding Molecular Structures through Learnable Atom-Level Watermarking

MolMark：通过可学习的原子级水印保障分子结构

Runwen Hu, Peilin Chen, Keyan Ding, Shiqi Wang

机构 * Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； ZJU-Hangzhou Global Scientific and Technological Innovation Center, Zhejiang University（浙江大学杭州全球科技创新中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 MolMark通过可学习的原子级水印技术，为分子生成提供保护，确保分子结构的可验证性和可追溯性。