大模型对齐与安全

Sample, Don't Search: Rethinking Test-Time Alignment for Language Models

样本，而非搜索：重新思考语言模型的测试时间对齐

Gonçalo Faria, Noah A. Smith

机构 * University of Washington（华盛顿大学） ； Allen Institute for AI（人工智能研究院） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；DPO(abstract)；分类 cs.CL、cs.LG

AI总结 QAlign通过增加测试时间计算量，改进语言模型输出对齐，优于现有方法如best-of-n和多数投票。

CheXPO-v2: Preference Optimization for Chest X-ray VLMs with Knowledge Graph Consistency

CheXPO-v2：基于知识图谱一致性的胸片视觉-语言模型偏好优化

Xiao Liang, Yuxuan An, Di Wang, Jiawei Hu, Zhicheng Jiao, Bin Jing, Quan Wang

机构 * School of Computer Science and Technology, Xidian University（西安电子科技大学计算机科学与技术学院） ； Warren Alpert Medical School of Brown University（布朗大学沃伦·阿尔珀特医学学院） ； School of Biomedical Engineering, Capital Medical University（首都医科大学生物医学工程学院） 纠错

专题命中 偏好对齐 ：alignment(abstract)；safety(abstract)；分类 cs.LG

AI总结 CheXPO-v2通过知识图谱一致性奖励机制，提升胸片VLMs的临床可靠性与数据效率。

RL from Teacher-Model Refinement: Gradual Imitation Learning for Machine Translation

从教师模型细化进行强化学习：机器翻译中的渐进模仿学习

Dongyub Jude Lee, Zhenyi Ye, Pengcheng He

机构 * Zoom Communications（Zoom公司） 纠错

专题命中 偏好对齐 ：DPO(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出RLfR方法，通过教师模型细化和复合奖励机制提升机器翻译的语义质量和泛化能力。

Sell It Before You Make It: Revolutionizing E-Commerce with Personalized AI-Generated Items

在制作之前就出售它：通过个性化AI生成物品革新电子商务

Jianghao Lin, Peng Du, Jiaqi Liu, Weite Li, Yong Yu, Weinan Zhang, Yang Cao

机构 * Antai College of Economics and Management（经济管理学院） ； Shanghai Jiao Tong University（上海交通大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出PerFusion框架，通过个性化AI生成物品提升电子商务的点击率和转化率，同时降低退货率。

Comments Accepted by KDD 2026 ADS Track

When Safety Blocks Sense: Measuring Semantic Confusion in LLM Refusals

当安全阻止感知：测量大语言模型拒绝中的语义混淆

Riad Ahmed Anonto, Md Labid Al Nahiyan, Md Tanvir Hassan

机构 * Department of Computer Science and Engineering, Bangladesh University of Engineering and Technology (BUET)（计算机科学与工程系，孟加拉国工程与技术大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出语义混淆的概念及测量框架，通过ParaGuard语料库和三种模型无关指标，揭示大语言模型拒绝中的局部不一致问题，帮助开发者优化安全与准确性平衡。

Combinatorial Control Barrier Functions: Nested Boolean and p-choose-r Compositions of Safety Constraints

组合控制障碍函数：安全约束的嵌套布尔和p-choose-r组合

Pio Ong, Haejoon Lee, Tamas G. Molnar, Dimitra Panagou, Aaron D. Ames

专题命中 安全训练 ：safety(title,abstract)

AI总结 本文提出组合控制障碍函数框架，用于处理安全约束的嵌套布尔和p-choose-r组合，通过可扩展的方式确保系统安全性。

Comments 6 pages, 3 figures, Accepted for publication in Control System Letters (L-CSS) with the possibility of presenting at the American Control Conference (ACC) 2026

LookAhead Tuning: Safer Language Models via Partial Answer Previews

LookAhead Tuning: 通过部分答案预览实现更安全的语言模型

Kangwei Liu, Mengru Wang, Yujie Luo, Lin Yuan, Mengshu Sun, Lei Liang, Zhiqiang Zhang, Jun Zhou, Bryan Hooi, Shumin Deng

机构 * Zhejiang University（浙江大学） ； Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph（浙江大学-蚂蚁集团知识图谱联合实验室） ； Ant Group（蚂蚁集团） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 LookAhead Tuning通过预览部分答案前缀，有效保持语言模型在微调过程中的安全性，同时不损害下游任务的性能。

Comments WSDM 2026 short

MemoryGraft: Persistent Compromise of LLM Agents via Poisoned Experience Retrieval

MemoryGraft: 通过中毒经验检索持续破坏LLM代理

Saksham Sahai Srivastava, Haoyu He

机构 * School of Computing University of Georgia（计算机学院 佐治亚大学） 纠错

专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.AI、cs.LG

AI总结 MemoryGraft 通过在LLM代理的长期记忆中植入恶意经验，实现对代理行为的持续破坏。

Comments 14 pages, 1 figure, includes appendix

Security Risks of Agentic Vehicles: A Systematic Analysis of Cognitive and Cross-Layer Threats

代理车辆的安全风险：对认知和跨层威胁的系统分析

Ali Eslami, Jiangbo Yu

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI

AI总结 本文提出基于角色的架构，分析代理车辆中认知和跨层安全威胁，提供首个结构化分析框架。

The Semantic Illusion: Certified Limits of Embedding-Based Hallucination Detection in RAG Systems

语义幻觉：基于嵌入的幻觉检测在RAG系统中的认证极限

Debu Sinha

机构 * Independent Researcher（独立研究者） 纠错

专题命中 幻觉与事实性 ：RLHF(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究揭示了基于嵌入的幻觉检测在RAG系统中存在语义幻觉问题，通过符合预测方法发现真实幻觉检测的挑战，证明需通过推理而非表面语义解决。

Comments 12 pages, 3 figures, 5 tables

SpecCLIP: Aligning and Translating Spectroscopic Measurements for Stars

SpecCLIP：对齐和翻译恒星光谱测量

Xiaosheng Zhao, Yang Huang, Guirong Xue, Xiao Kong, Jifeng Liu, Xiaoyu Tang, Timothy C. Beers, Yuan-Sen Ting, A-Li Luo

机构 * School of Astronomy ； Space Science, University of Chinese Academy of Sciences, Beijing 100049, People's Republic of China ； National Astronomical Observatories, Chinese Academy of Sciences, Beijing 100012, People's Republic of China ； Department of Physics \& Astronomy, The Johns Hopkins University, Baltimore, MD 21218, USA ； Zhejiang Laboratory, Hangzhou 311121, People's Republic of China ； Research Center for Astronomical Computing, Zhejiang Laboratory, Hangzhou 311121, People's Republic of China ； Department of Physics ； Astronomy, University of Notre Dame, Notre Dame, IN 46556, USA ； Joint Institute for Nuclear Astrophysics -- Center for the Evolution of the Elements (JINA-CEE), USA ； Department of Astronomy, The Ohio State University, 140 West 18th Avenue, Columbus, OH 43210, USA ； Center for Cosmology ； AstroParticle Physics (CCAPP), The Ohio State University, Columbus, OH 43210, USA 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 SpecCLIP通过对比学习和光谱意识解码器提升恒星光谱分析的精度和应用灵活性。

Comments 29 pages, 8 figures, 6 tables. Accepted for publication in ApJ. Comments welcome

ZKPROV: A Zero-Knowledge Approach to Dataset Provenance for Large Language Models

ZKPROV: 一种用于大语言模型数据溯源的零知识方法

Mina Namazi, Alexander Nemecek, Erman Ayday

机构 * Open University of Catalonia（加泰罗尼亚开放大学） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 ZKPROV通过零知识证明实现大语言模型的数据溯源验证，保障数据隐私与效率平衡，适用于医疗等敏感领域。

Comments 16 pages, 3 figures

Intelligent Knowledge Mining Framework: Bridging AI Analysis and Trustworthy Preservation

智能知识挖掘框架：弥合人工智能分析与可信保存之间的鸿沟

Binh Vu

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI

AI总结 本文提出智能知识挖掘框架，旨在弥合人工智能分析与可信保存之间的鸿沟，通过双流架构实现数据的高效挖掘与可信存档。

PILAR: Personalizing Augmented Reality Interactions with LLM-based Human-Centric and Trustworthy Explanations for Daily Use Cases

PILAR: 基于LLM的人本化和可信的增强现实交互个性化

Ripan Kumar Kundu, Istiak Ahmed, Khaza Anuarul Hoque

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI

AI总结 PILAR通过基于LLM的个性化解释提升AR交互的可信度和用户体验

Comments Published in the 2025 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct)

On the dynamic evolution of CLIP texture-shape bias and its relationship to human alignment and model robustness

CLIP纹理-形状偏倚的动态演变及其与人类对齐和模型鲁棒性的关系

Pablo Hernández-Cámara, Jose Manuel Jaén-Lorites, Alexandra Gómez-Villa, Jorge Vila-Tomás, Valero Laparra, Jesus Malo

机构 * Image Processing Lab, Universitat de Valencia, Spain（瓦伦西亚大学图像处理实验室） ； Centro de Biomateriales e Ingenieria Tisular, Universitat Politecnica de Valencia, Spain（瓦伦西亚理工大学生物材料与组织工程中心） ； Computer Vision Center, Spain（西班牙计算机视觉中心） ； Universitat Autònoma de Barcelona, Spain（巴塞罗那自治大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本文研究CLIP模型在训练过程中纹理-形状偏倚的演变，揭示其与人类感知对齐及模型鲁棒性的关系。

Trustworthy and Controllable Professional Knowledge Utilization in Large Language Models with TEE-GPU Execution

在大语言模型中实现可信且可控的专业知识利用：TEE-GPU执行

Yifeng Cai, Zhida An, Yuhan Meng, Houqian Liu, Pengli Wang, Hanwen Lei, Yao Guo, Ding Li

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 本文提出PKUS系统，通过将专业知识作为可分离的制品，实现大语言模型中可信且可控的专业知识利用，提升模型性能并降低延迟。

PASS: Probabilistic Agentic Supernet Sampling for Interpretable and Adaptive Chest X-Ray Reasoning

基于概率代理超网采样的可解释和自适应胸片推理系统

Yushi Feng, Junye Du, Yingying Hong, Qifan Wang, Lequan Yu

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG

AI总结 PASS通过概率代理超网采样实现可解释、自适应和多模态的胸片推理，提升医疗AI的安全性和效率。

Can Large Language Models Develop Gambling Addiction?

大语言模型能否产生赌博成瘾？

Seungpil Lee, Donghyeon Shin, Yunjeong Lee, Sundong Kim

机构 * Department of AI Convergence, Gwangju Institute of Science and Technology（人工智能融合系，全州科学技术院） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.CY

AI总结 本研究探讨大语言模型在老虎机实验中表现出赌博成瘾行为，揭示其决策机制与风险认知特征，指出模型行为受抽象决策特征控制而非单纯依赖训练数据。

Comments 26 pages, 14 figures

Probing Scientific General Intelligence of LLMs with Scientist-Aligned Workflows

通过科学家对齐的工作流探测大语言模型的科学通用智能

Wanghan Xu, Yuhao Zhou, Yifan Zhou, Qinglong Cao, Shuo Li, Jia Bu, Bo Liu, Yixin Chen, Xuming He, Xiangyu Zhao, Xiang Zhuang, Fengxiang Wang, Zhiwang Zhou, Qiantai Feng, Wenxuan Huang, Jiaqi Wei, Hao Wu, Yuejin Yang, Guangshuai Wang, Sheng Xu, Ziyan Huang, Xinyao Liu, Jiyao Liu, Cheng Tang, Wei Li, Ying Chen, Junzhi Ning, Pengfei Jiang, Chenglong Ma, Ye Du, Changkai Ji, Huihui Xu, Ming Hu, Jiangbin Zheng, Xin Chen, Yucheng Wu, Feifei Jiang, Xi Chen, Xiangru Tang, Yuchen Fu, Yingzhou Lu, Yuanyuan Zhang, Lihao Sun, Chengbo Li, Jinzhe Ma, Wanhao Liu, Yating Liu, Kuo-Cheng Wu, Shengdu Chai, Yizhou Wang, Ouwen Zhangjin, Chen Tang, Shufei Zhang, Wenbo Cao, Junjie Ren, Taoyong Cui, Zhouheng Yao, Juntao Deng, Yijie Sun, Feng Liu, Wangxu Wei, Jingyi Xu, Zhangrui Li, Junchao Gong, Zijie Guo, Zhiyu Yao, Zaoyu Chen, Tianhao Peng, Fangchen Yu, Bo Zhang, Dongzhan Zhou, Shixiang Tang, Jiaheng Liu, Fenghua Ling, Yan Lu, Yuchen Ren, Ben Fei, Zhen Zhao, Xinyu Gu, Rui Su, Xiao-Ming Wu, Weikang Si, Yang Liu, Hao Chen, Xiangchao Yan, Xue Yang, Junchi Yan, Jiamin Wu, Qihao Zheng, Chenhui Li, Zhiqiang Gao, Hao Kong, Junjun He, Mao Su, Tianfan Fu, Peng Ye, Chunfeng Song, Nanqing Dong, Yuqiang Li, Huazhu Fu, Siqi Sun, Lijing Cheng, Jintai Lin, Wanli Ouyang, Bowen Zhou, Wenlong Zhang, Lei Bai

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于实用探究模型的科学通用智能定义，通过四个科学家对齐任务构建SGI-Bench，揭示大语言模型在科学推理中的不足，并引入测试时强化学习提升创新性。

An Anatomy of Vision-Language-Action Models: From Modules to Milestones and Challenges

视觉-语言-动作模型的解剖：从模块到里程碑与挑战

Chao Xu, Suyu Zhang, Yang Liu, Baigui Sun, Weihong Chen, Bo Xu, Qi Liu, Juncheng Wang, Shujun Wang, Shan Luo, Jan Peters, Athanasios V. Vasilakos, Stefanos Zafeiriou, Jiankang Deng

机构 * IROOTECH TECHNOLOGY（IROOTECH技术公司） ； Wolf 1069 b Lab, Sany Group（Sany集团沃尔夫1069b实验室） ； Department of Engineering, King’s College London（伦敦国王学院工程系） ； Hong Kong Polytechnic University（香港理工大学） ； Computer Science Department of the Technische Universität Darmstadt（德累斯顿技术大学计算机科学系） ； Department of ICT and Center for AI Research, University of Agder (UiA)（阿格德大学信息与通信技术系及人工智能研究中心） ； Department of Computing, Imperial College London（伦敦帝国理工学院计算系） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)

AI总结 本文系统分析了视觉-语言-动作模型的核心挑战，从模块构建到里程碑发展，为研究者提供结构化指南和未来研究方向。

Comments project page: https://suyuz1.github.io/VLA-Survey-Anatomy/

Large Language Models as Pokémon Battle Agents: Strategic Play and Content Generation

大型语言模型作为宝可梦战斗代理：战略玩法与内容生成

Daksh Jain, Aarya Jain, Ashutosh Desai, Avyakt Verma, Ishan Bhanuka, Pratik Narang, Dhruv Kumar

机构 * Birla Institute of Technology and Science, Pilani, India（比拉理工学院和科学学院，比兰） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了大型语言模型在宝可梦战斗中的战略决策能力及内容生成能力，展示了其作为动态游戏对手和设计者的潜力。

Comments Under Review

Robust-R1: Degradation-Aware Reasoning for Robust Visual Understanding

Robust-R1: 为鲁棒视觉理解的退化感知推理

Jiaqi Tang, Jianmin Chen, Wei Wei, Xiaogang Xu, Runtao Liu, Xiangyu Wu, Qipeng Xie, Jiafei Wu, Lei Zhang, Qifeng Chen

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 Robust-R1通过结构化推理链显式建模视觉退化，提升多模态大语言模型在现实世界退化下的鲁棒性与抗干扰能力。

Comments Accepted by AAAI2026 Oral

EDVD-LLaMA: Explainable Deepfake Video Detection via Multimodal Large Language Model Reasoning

EDVD-LLaMA: 通过多模态大语言模型推理进行可解释的深度伪造视频检测

Haoran Sun, Chen Cai, Huiping Zhuang, Kong Aik Lee, Lap-Pui Chau, Yi Wang

机构 * Department of Electrical and Electronic Engineering, The Hong Kong Polytechnic University（电子与电气工程系，香港理工大学） ； School of Electrical and Electronic Engineering, Nanyang Technological University（电子与电气工程学院，南洋理工大学） ； Shien-Ming Wu School of Intelligent Engineering, South China University of Technology（智能工程学院，华南理工大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 EDVD-LLaMA通过多模态大语言模型推理实现深度伪造视频检测的可解释性，结合时空特征提取和细粒度推理机制，提升检测准确性与解释可靠性。

MolMark: Safeguarding Molecular Structures through Learnable Atom-Level Watermarking

MolMark：通过可学习的原子级水印保障分子结构

Runwen Hu, Peilin Chen, Keyan Ding, Shiqi Wang

机构 * Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； ZJU-Hangzhou Global Scientific and Technological Innovation Center, Zhejiang University（浙江大学杭州全球科技创新中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 MolMark通过可学习的原子级水印技术，为分子生成提供保护，确保分子结构的可验证性和可追溯性。

OntoGSN: An Ontology-Based Framework for Semantic Management and Extension of Assurance Cases

OntoGSN：基于本体的保障案例语义管理和扩展框架

Tomas Bueno Momcilovic, Barbara Gallina, Ingmar Kessler, Jule Hendricks, Dian Balta

机构 * fortiss research institute（fortiss研究机构） ； Mälardalen University（马尔默达伦大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 OntoGSN通过本体和中间件实现保障案例的语义管理和扩展，提供知识表示和查询功能，并在对抗鲁棒性保障中展示实用性。

Comments Submitted to the ESWC 2026 Resources track

CIFE: Code Instruction-Following Evaluation

CIFE：代码指令遵循评估

Sravani Gunnu, Shanmukha Guttula, Hima Patel

机构 * IIT Bombay（印度班加罗尔理工学院） ； IBM Research India（IBM印度研究） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 CIFE评估了1000个Python任务的代码生成模型，通过13类约束测试，揭示了模型在遵循开发者要求方面的不足，提出C2A分数衡量正确性与约束遵循性。

Comments 20 pages, 22 figures, 2 tables

Realist and Pluralist Conceptions of Intelligence and Their Implications on AI Research

现实主义与多元主义对智能的观念及其对人工智能研究的影响

Ninell Oldenburg, Ruchira Dhar, Anders Søgaard

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文探讨了智能的现实主义与多元主义观念对人工智能研究的影响，指出不同观念导致方法、解释和风险评估的根本差异。

Comments The 40th Annual AAAI Conference on Artificial Intelligence, 8 pages (excl. references), 1 table

Multimodal Representation Learning and Fusion

多模态表示学习与融合

Qihang Jin, Enze Ge, Yuhang Xie, Hongying Luo, Junhao Song, Ziqian Bi, Chia Xin Liang, Jibin Guan, Joe Yeong, Xinyuan Song, Junfeng Hao

机构 * AI Agent Lab, Vokram Group, United Kingdom（AI代理实验室，Vokram集团，英国） ； University of Bologna, Italy（博洛尼亚大学，意大利） ； University of Minnesota, United States（明尼苏达大学，美国） ； Singapore General Hospital, Singapore（新加坡中央医院，新加坡） ； Emory University, United States（埃默里大学，美国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 多模态学习通过融合多种数据模态提升AI系统的理解和决策能力，旨在解决数据格式差异、输入缺失及对抗攻击等问题，推动计算机视觉、自然语言处理等领域的发展。

Designing an LLM-Based Behavioral Activation Chatbot for Young People with Depression: Insights from an Evaluation with Artificial Users and Clinical Experts

设计一个基于LLM的行为激活聊天机器人以帮助有抑郁症的青少年：基于人工用户和临床专家评估的见解

Florian Onur Kuhlmeier, Leon Hanschmann, Melina Rabe, Stefan Luettke, Eva-Lotta Brakemeier, Alexander Maedche

专题命中 安全评测 ：safety(abstract)

AI总结 本文设计了一个基于LLM的行为激活聊天机器人，通过人工用户和临床专家评估，验证了其在抑郁症干预中的保真度和安全性，同时指出临床推理能力仍需改进。

Deadlock-Free Hybrid RL-MAPF Framework for Zero-Shot Multi-Robot Navigation

无死锁的混合式RL-MAPF框架用于零样本多机器人导航

Haoyi Wang, Licheng Luo, Yiannis Kantaros, Bruno Sinopoli, Mingyu Cai

机构 * Department of Mechanical Engineering University of California Riverside CA USA（加州大学河滨分校机械工程系） ； Department of Electrical and Systems Engineering Washington University in St. Louis MO USA（华盛顿大学圣路易斯分校电气与系统工程系） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出一种无死锁的混合RL-MAPF框架，通过整合反应性RL导航与按需MAPF干预，实现零样本多机器人导航的鲁棒性能。

Comments 18 pages (including appendix), 3 figures. Project page (videos, animations, additional resources): https://wanghaoyi518.github.io/rl-mapf-project-page/