大模型对齐与安全

Are Your Agents Upward Deceivers?

您的代理是向上欺骗者吗？

Dadi Guo, Qingyu Liu, Dongrui Liu, Qihan Ren, Shuai Shao, Tianyi Qiu, Haoran Li, Yi R. Fung, Zhongjie Ba, Juntao Dai, Jiaming Ji, Zhikai Chen, Jialing Tao, Yaodong Yang, Jing Shao, Xia Hu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； Zhejiang University（浙江大学） ； Shanghai Jiao Tong University（上海交通大学） ； Peking University（北京大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究发现基于LLM的代理可能通过欺骗行为隐瞒失败，需加强缓解策略以确保安全性。

Explainable Graph Representation Learning via Graph Pattern Analysis

通过图模式分析实现可解释的图表示学习

Xudong Wang, Ziheng Sun, Chris Ding, Jicong Fan

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen)（数据科学学院，香港中文大学（深圳）） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出PXGL-GNN框架，通过图模式分析实现图表示的可解释性，解决了传统方法在节点特征忽略和高维问题上的局限。

Comments Full version with appendix of the paper published in the Proceedings of the Thirty-Fourth International Joint Conference on Artificial Intelligence (IJCAI-25), Main Track

Journal ref Proceedings of the Thirty-Fourth International Joint Conference on Artificial Intelligence (IJCAI-25), Main Track, pages 3426-3434, 2025

Towards 6G Native-AI Edge Networks: A Semantic-Aware and Agentic Intelligence Paradigm

迈向6G原生AI边缘网络：一种语义感知和代理智能范式

Chenyuan Feng, Anbang Zhang, Geyong Min, Yongming Huang, Tony Q. S. Quek, Xiaohu You

机构 * College of Computer Science, University of Exeter, Exeter, U.K.（埃克塞特大学计算机科学学院） ； Sony China Research Laboratory, Beijing, China（索尼中国研究实验室） ； School of Information Science and Engineering, Southeast University, Nanjing, China（东南大学信息科学与工程学院） ； Purple Mountain Laboratories, Nanjing, China（紫金山实验室） ； Information System Technology and Design Pillar, Singapore University of Technology and Design, Singapore（新加坡科技设计大学信息系统技术与设计支柱） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出语义感知和代理智能范式，旨在通过统一分类法和促进技术推动6G原生AI边缘网络的发展。

Comments submitted to Digital Communications and Networks

Eval Factsheets: A Structured Framework for Documenting AI Evaluations

评估事实表：一种用于记录AI评估的结构化框架

Florian Bordes, Candace Ross, Justine T Kao, Evangelia Spiliopoulou, Adina Williams

机构 * FAIR at Meta（Meta的FAIR） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出Eval Factsheets，一种结构化框架，用于系统记录AI评估方法，通过分类法和问卷方法提升评估的透明度和可重复性。

Universally Converging Representations of Matter Across Scientific Foundation Models

跨科学基础模型中物质的普遍收敛表示

Sathya Edamadaka, Soojung Yang, Ju Li, Rafael Gómez-Bombarelli

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 研究揭示科学基础模型在不同模态和数据集上对物质的普遍表示收敛性，表明模型学习了共同的物理现实表示，但受限于训练数据和归纳偏置。

Comments Oral spotlight at NeurIPS 2025 UniReps Workshop

AI Deception: Risks, Dynamics, and Controls

AI欺骗：风险、动态与控制

Boyuan Chen, Sitong Fang, Jiaming Ji, Yanxu Zhu, Pengcheng Wen, Jinzhou Wu, Yingshui Tan, Boren Zheng, Mengying Yuan, Wenqi Chen, Donghai Hong, Alex Qiu, Xin Chen, Jiayi Zhou, Kaile Wang, Juntao Dai, Borong Zhang, Tianzhuo Yang, Saad Siddiqui, Isabella Duan, Yawen Duan, Brian Tse, Jen-Tse, Huang, Kun Wang, Baihui Zheng, Jiaheng Liu, Jian Yang, Yiming Li, Wenting Chen, Dongrui Liu, Lukas Vierling, Zhiheng Xi, Haobo Fu, Wenxuan Wang, Jitao Sang, Zhengyan Shi, Chi-Min Chan, Eugenie Shi, Simin Li, Juncheng Li, Jian Yang, Wei Ji, Dong Li, Jinglin Yang, Jun Song, Yinpeng Dong, Jie Fu, Bo Zheng, Min Yang, Yike Guo, Philip Torr, Robert Trager, Yi Zeng, Zhongyuan Wang, Yaodong Yang, Tiejun Huang, Ya-Qin Zhang, Hongjiang Zhang, Andrew Yao

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨了AI欺骗的风险、动态及控制，提出欺骗循环模型，分析欺骗出现机制与处理方法，并提出缓解策略与审计方法以应对AI安全挑战。

PERCS: Persona-Guided Controllable Biomedical Summarization Dataset

PERCS：基于人物的可控生物医学摘要数据集

Rohan Charudatt Salvi, Chirag Chawla, Dhruv Jain, Swapnil Panigrahi, Md Shad Akhtar, Shweta Yadav

机构 * Department of Computer Science, University of Illinois, Chicago, IL, 60607, USA（伊利诺伊大学芝加哥分校计算机科学系） ； Indian Institute of Technology, Varanasi, India（印度班加罗尔理工学院） ； Department of Computer Science & Engineering, Indraprastha Institute of Information Technology, Delhi, New Delhi, 110020, India（印度德里印度信息技术研究所计算机科学与工程系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 PERCS数据集通过针对不同医学素养角色的可控摘要，提升生物医学信息的可及性与准确性。

Comments 9 pages, 4 figures, 6 tables

MARS: A Meta-Adaptive Reinforcement Learning Framework for Risk-Aware Multi-Agent Portfolio Management

MARS：一种面向风险的多智能体投资组合管理元适应强化学习框架

Jiayi Chen, Jing Li, Guiling Wang

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 MARS通过多智能体和风险导向的方法，实现投资组合管理中风险与收益的平衡，利用行为多样性提升市场环境下的稳健性。

Comments Accepted by AAAI 2026 Main Track

LargeAD: Large-Scale Cross-Sensor Data Pretraining for Autonomous Driving

LargeAD: 大规模跨传感器数据预训练用于自动驾驶

Lingdong Kong, Xiang Xu, Youquan Liu, Jun Cen, Runnan Chen, Wenwei Zhang, Liang Pan, Kai Chen, Ziwei Liu

机构 * WorldBench Team（WorldBench团队） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 LargeAD通过跨传感器数据预训练提升自动驾驶中的三维场景理解，结合多模态对比学习和时间一致性，实现更鲁棒的感知性能。

Comments IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)

A benchmark dataset for evaluating Syndrome Differentiation and Treatment in large language models

用于评估大型语言模型中辨证论治的基准数据集

Kunning Li, Jianbin Guo, Zhaoyang Shang, Yiqing Liu, Hongmin Du, Lingling Liu, Yuping Zhao, Lifeng Dong

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出TCM-BEST4SDT基准，用于评估大型语言模型在中医辨证论治中的能力，包含四个任务并提供三种评估机制。

AutoSurvey2: Empowering Researchers with Next Level Automated Literature Surveys

AutoSurvey2：赋能研究人员的下一代自动化文献综述

Siyi Wu, Chiaxin Liang, Ziqian Bi, Leyi Zhao, Tianyang Wang, Junhao Song, Yichao Zhang, Keyu Chen, Benji Peng, Xinyuan Song

机构 * University of Texas at Arlington（德克萨斯理工大学） ； AI Agent Lab（人工智能代理实验室） ； Indiana University（印第安纳大学） ； Ohio State University（俄亥俄州立大学） ； Imperial College London（伦敦帝国理工学院） ； Georgia Institute of Technology（佐治亚理工学院） ； Appcubic（Appcubic公司） ； Emory University（埃默里大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 AutoSurvey2通过多阶段流程实现自动化文献综述生成，结合检索增强合成与结构化评估，提升综述的连贯性与相关性，为学术写作提供可扩展解决方案。

Comments TKDD 2025

Learning Egocentric In-Hand Object Segmentation through Weak Supervision from Human Narrations

通过人类叙述的弱监督学习进行视角注视手部物体分割

Nicola Messina, Rosario Leonardi, Luca Ciampi, Fabio Carrara, Giovanni Maria Farinella, Fabrizio Falchi, Antonino Furnari

机构 * Institute of Information Science and Technologies - National Research Council（信息科学与技术研究所-国家研究理事会） ； University of Catania（卡塔尼亚大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出WISH模型，通过人类叙述的弱监督学习实现手部物体分割，无需精细像素标注即可超越基线方法。

Comments Under consideration at Pattern Recognition Letters

Artificial Intelligence Virtual Cells: From Measurements to Decisions across Modality, Scale, Dynamics, and Evaluation

人工智能虚拟细胞：从多模态、多尺度测量到决策的跨模态、跨尺度、动态和评估

Chengpeng Hu, Calvin Yu-Chian Chen

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出了一种模型无关的细胞状态潜在视角，通过操作符语法组织学习，旨在跨模态、跨尺度、上下文和干预实现决策对齐的评估框架。

Learned-Rule-Augmented Large Language Model Evaluators

学习规则增强的大语言模型评估器

Jie Meng, Jin Mao

机构 * Wuhan University（武汉大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出规则增强的LLM评估器，通过规则蒸馏和强化学习提升评估器的泛化能力与一致性，适用于多种评估场景。

Scaling and context steer LLMs along the same computational path as the human brain

按计算路径扩展和引导大语言模型，使其与人脑一致

Joséphine Raugel, Stéphane d'Ascoli, Jérémy Rapin, Valentin Wyart, Jean-Rémi King

机构 * Meta AI ； Laboratoire de Neurosciences Cognitives et Computationnelles (Inserm U960)（神经认知与计算实验室） ； Ecole Normale Supérieure - PSL（巴黎高等师范学院 - PSL） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本研究通过分析人脑和LLM的表示对齐性，发现两者在计算顺序上一致，但受模型大小和上下文长度影响。

Journal ref Neurips Proceedings 2025 - Spotlight

IberFire -- a detailed creation of a spatio-temporal dataset for wildfire risk assessment in Spain

IberFire -- 一个用于西班牙野火风险评估的时空数据集的详细创建

Julen Erzibengoa, Meritxell Gómez-Omella, Izaro Goienetxea

机构 * Calvo Tekniker（Calvo技术员） ； Tekniker ； EHU（埃斯库德大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 IberFire是一个高分辨率的西班牙野火风险评估时空数据集，整合了120个特征，支持机器学习和深度学习建模，促进火灾预防和土地管理策略。

Automated Risk-of-Bias Assessment of Randomized Controlled Trials: A First Look at a GEPA-trained Programmatic Prompting Framework

随机对照试验风险偏误自动评估：一种基于GEPA训练的程序化提示框架初探

Lingbo Li, Anuradha Mathrani, Teo Susnjak

机构 * School of Mathematical and Computational Sciences（数学与计算科学学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 GEPA通过结构化优化生成一致的提示，提升随机对照试验偏误风险评估的自动化与可重复性。

Rice-VL: Evaluating Vision-Language Models for Cultural Understanding Across ASEAN Countries

Rice-VL：评估跨东盟国家的视觉语言模型的文化理解能力

Tushar Pranav, Eshan Pandey, Austria Lyka Diane Bala, Aman Chadha, Indriyati Atmosukarto, Donny Soh Cheng Lock

机构 * Singapore Institute of Technology（新加坡理工学院） ； Amazon GenAI（亚马逊人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 RICE-VL通过评估视觉语言模型在11个东盟国家的文化理解能力，揭示了模型在文化多样性地区存在的偏见和局限性，强调了开发更具包容性的模型的重要性。

Comments 14 pages

DrawingBench: Evaluating Spatial Reasoning and UI Interaction Capabilities of Large Language Models through Mouse-Based Drawing Tasks

DrawingBench：通过基于鼠标绘制的任务评估大语言模型的空间推理和UI交互能力

Hyunjun Kim, Sooyoung Ryu

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 DrawingBench通过基于鼠标绘制的任务评估大语言模型的空间推理和UI交互能力，揭示了模型在复杂场景中的表现及外部监督的重要性。

Comments AAAI 2026 TrustAgent Workshop

Robust, Observable, and Evolvable Agentic Systems Engineering: A Principled Framework Validated via the Fairy GUI Agent

鲁棒、可观测和可进化的代理系统工程：一种经过Fairy GUI代理验证的原则性框架

Jiazheng Sun, Ruimeng Yang, Xu Han, Jiayang Niu, Mingxuan Li, Te Yang, Yongyong Lu, Xin Peng

机构 * Fudan University（复旦大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出了一种原则性框架，通过Fairy GUI代理验证，解决了代理系统在鲁棒性、可观测性和可进化性方面的不足，提供了可维护和可扩展的代理AI系统设计方法。

Comments 50 pages, 14 figures

Multigranular Evaluation for Brain Visual Decoding

多粒度评估用于脑视觉解码

Weihao Xia, Cengiz Oztireli

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本研究提出BASIC框架，通过多粒度评估方法提升脑视觉解码的评估精度与解释性。

Comments AAAI 2026 (Oral). Code: https://github.com/weihaox/BASIC

Asm2SrcEval: Evaluating Large Language Models for Assembly-to-Source Code Translation

Asm2SrcEval: 评估大型语言模型在汇编到源代码翻译中的性能

Parisa Hamedi, Hamed Jelodar, Samita Bai, Mohammad Meymani, Roozbeh Razavi-Far, Ali A. Ghorbani

机构 * Canadian Institute for Cybersecurity（加拿大网络安全研究所） ； University of New Brunswick（新不伦瑞克大学） ； Faculty of Computer Science（计算机科学学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出Asm2SrcEval基准，评估五种先进大语言模型在汇编到源代码翻译任务中的性能，揭示模型在文本相似性、流畅性和效率上的权衡，为程序翻译的准确性和效率研究提供基础。

Socially aware navigation for mobile robots: a survey on deep reinforcement learning approaches

面向移动机器人的社会感知导航：深度强化学习方法的综述

Ibrahim Khalil Kabir, Muhammad Faizan Mysorewala

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文综述了深度强化学习在社会感知导航中的应用，分析了关键技术和挑战，提出未来需结合多种方法并建立平衡的评估标准。

Hierarchical AI-Meteorologist: LLM-Agent System for Multi-Scale and Explainable Weather Forecast Reporting

分层人工智能气象学家：用于多尺度和可解释性天气预报报告的LLM代理系统

Daniil Sukhorukov, Andrei Zakharov, Nikita Glazkov, Katsiaryna Yanchanka, Vladimir Kirilin, Maxim Dubovitsky, Roman Sultimov, Yuri Maksimov, Ilya Makarov

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出分层人工智能气象学家，通过多尺度推理和关键词生成提升天气预报的可解释性和鲁棒性。

Comments 9 pages, 4 figures

Machine learning for violence prediction: a systematic review and critical appraisal

利用机器学习进行暴力预测：系统综述与批判性评估

Stefaniya Kozhevnikova, Denis Yukhnenko, Giulio Scola, Seena Fazel

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文系统综述了机器学习在暴力预测中的应用，指出当前模型在临床应用中存在偏倚风险和低效用，建议改进方法和加强跨学科合作。

From Pixels to Feelings: Aligning MLLMs with Human Cognitive Perception of Images

从像素到感受：将MLLMs对齐于人类对图像的认知感知

Yiming Chen, Junlin Han, Tianyi Bai, Shengbang Tong, Filippos Kokkinos, Philip Torr

机构 * Oxford University（牛津大学） ； HKUST（香港科技大学） ； University College London（伦敦大学学院） ； New York University（纽约大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出CogIP-Bench基准，通过后训练提升MLLMs对图像认知属性的对齐能力，并展示其在图像生成中的应用。

Comments Project page with codes/datasets/models: https://follen-cry.github.io/MLLM-Cognition-project-page/

Improving Robotic Manipulation Robustness via NICE Scene Surgery

通过NICE场景手术提升机器人操作的鲁棒性

Sajjad Pakdamansavoji, Mozhgan Pourkeshavarz, Adam Sigal, Zhiyuan Li, Rui Heng Yang, Amir Rasouli

机构 * Huawei Technologies Canada（华为技术加拿大公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 NICE通过增强场景上下文减少分布外差距，提升机器人操作在复杂环境中的鲁棒性和安全性。

Comments 11 figures, 3 tables

MOTIF-RF: Multi-template On-chip Transformer Synthesis Incorporating Frequency-domain Self-transfer Learning for RFIC Design Automation

MOTIF-RF: 多模板芯片上变压器合成结合频率域自迁移学习用于射频集成电路设计自动化

Houbo He, Yizhou Xu, Lei Xia, Yaolong Hu, Fan Cai, Taiyun Chi

机构 * ECE Department, Rice University（Rice大学电子工程系） ； Keysight Technologies（Keysight技术公司） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 MOTIF-RF通过频率域自迁移学习提升变压器逆设计精度，提供AI辅助的射频集成电路自动化设计工具。

Comments Accepted at ASP-DAC 2026

TIP and Polish: Text-Image-Prototype Guided Multi-Modal Generation via Commonality-Discrepancy Modeling and Refinement

TIP和Polish：通过共同性-差异性建模与细化的文本-图像-原型引导的多模态生成

Zhiyong Ma, Jiahao Chen, Qingyuan Chuai, Zhengping Li

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 TIPPo通过共同性-差异性建模与细化，提升多模态生成的主题一致性和风格一致性。

Comments Submitted to ICASSP2026

TAGFN: A Text-Attributed Graph Dataset for Fake News Detection in the Age of LLMs

TAGFN：一种用于LLMs时代虚假新闻检测的文本属性图数据集

Kay Liu, Yuwei Han, Haoyan Xu, Henry Peng Zou, Yue Zhao, Philip S. Yu

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； University of Southern California（南加州大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 TAGFN是一种用于虚假新闻检测的文本属性图数据集，旨在评估传统和基于LLM的图异常检测方法，并促进LLMs的虚假信息检测能力发展。

Comments Preprint. Under review