大模型对齐与安全

AI Assistance Reduces Persistence and Hurts Independent Performance

人工智能辅助降低坚持性并损害独立表现

Grace Liu, Brian Christian, Tsvetomira Dumbalska, Michiel A. Bakker, Rachit Dubey

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of Oxford（牛津大学） ； Massachusetts Institute of Technology（麻省理工学院） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究发现人工智能辅助虽短期提升表现，但降低用户坚持性并损害独立完成任务的能力，尤其在数学推理和阅读理解等任务中表现显著。

Learning to Diagnose and Correct Moral Errors: Beyond Shallow Heuristics in Moral Alignment

学习诊断和纠正错误：大型语言模型中的道德敏感性获取

Bocheng Chen, Xi Chen, Han Zi, Haitao Mao, Zimo Qi, Xitong Zhang, Kristen Johnson, Guangliang Liu

机构 * University of Mississippi（密西根州立大学） ； Nanyang Technological University（南洋理工大学） ； Northeastern University（东北大学） ； AWS AI Labs（AWS AI实验室） ； Johns Hopkins University（约翰霍普金斯大学） ； Qualcomm（高通） ； Michigan State University（密西根州立大学） ； Indiana University Indianapolis（印第安纳大学印第安纳波利斯分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出一种实用推理方法，通过让大型语言模型诊断和纠正道德错误来获取道德敏感性，并在多个任务上验证了其有效性。

Corrigibility Transformation: Constructing Goals That Accept Updates

可修正性转换：构建接受更新的目标

Rubi Hudson

机构 * University of Toronto（多伦多大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 该研究提出一种可修正性转换方法，可在不牺牲性能的情况下将几乎任何目标转换为可修正版本，能诱导AI产生可修正行为，为AI安全提供了关键的可修正目标方案。

Which Modality Decides? Counterfactual Modality Attribution for Multimodal LLMs

哪种模态起决定作用？多模态大语言模型的反事实模态归因

Vahidin Hasic, Chao Wang, Luis C. Garcia-Peraza-Herrera, David Watson, Senka Krivic

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 该研究针对多模态大语言模型无法确定预测驱动模态的问题，提出反事实模态归因（CMA）框架，经实验验证其能准确识别决策驱动模态，可用于多模态模型的安全审计。

Comments 9 pages, 5 figures

Do VLMs Align Better with Humans than LLMs during Natural Reading?

VLMs 在自然阅读中可能不会全局性地增强与人类的对齐性优于 LLMs

Jinzhou Wu, Zhengwu Ma, Jixing Li, Baoping Tang, Zitong Lu

机构 * Department of Mechanical and Vehicle Engineering, Chongqing University（重庆大学机械与车辆工程学院） ； Department of Linguistics and Translation, City University of Hong Kong（香港城市大学语言学与翻译系） ； McGovern Institute for Brain Research, Massachusetts Institute of Technology（麻省理工学院麦戈文脑科学研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 通过严格文本设置比较LLM和VLM，发现多模态预训练在自然阅读中未带来全局性人类对齐优势，但视觉语义内容强的句子中VLM有选择性优势。

Comments 16 pages, 5 figures

Disentangling MLP Neuron Weights in Vocabulary Space

解构词汇空间中的MLP神经元权重

Asaf Avrahamy, Yoav Gur-Arieh, Mor Geva

机构 * Blavatnik School of Computer Science and AI, Tel Aviv University（特拉维夫大学布拉瓦特尼克计算机科学与人工智能学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出ROTATE方法，通过优化神经元权重旋转以最大化词汇空间的峰度，解构MLP神经元权重，揭示词汇通道，提升语言模型可解释性。

Comments Accepted at COLM 2026

Cross-Branch Conflict as a Shield: Safeguarding Facial Identities in Unified Multimodal Image Editing

跨分支冲突作为一种保护手段：在统一多模态图像编辑中保护面部身份

Weiwei Tan, Junxian Li, Rui Wang, Zhenhua Xu, Yanjun Zhang, Yu Leo Zhang

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 研究统一多模态模型中个人肖像编辑的安全问题，提出CCS统一对抗保护框架，通过联合驱动ViT和VAE表示及破坏跨分支兼容性，防止模型恢复身份信息，在抑制身份保留编辑上表现优于现有方法。

Comments 14 pages, preprint

CANDLE: CTC-based Arabic Noisy-character Deduplication using a Lightweight Encoder

CANDLE: 基于轻量级编码器的阿拉伯语字符级噪声去重

Faris Alasmary, Taif Nono, Orjuwan Zaafarani, Kholood Al Tabash, Ahmad Ghannam, Anas Salamah, Shouq Sadah, Lahouari Ghouti

机构 * Abjad Ltd.（阿布贾有限公司） ； SDAIA - NCAI（SDAIA-国家人工智能 institute） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出CANDLE系统，利用连接主义时间分类（CTC）对阿拉伯语文本中的字符重复进行去重，无需手工规则或词典，在三个基准上达到5.37%的句子错误率，并通过知识蒸馏实现3倍深度缩减。

ARGen: Affect-Reinforced Generative Augmentation towards Vision-based Dynamic Emotion Perception

ARGen：基于情感强化的生成增强方法用于基于视觉的动态情绪感知

Huanzhen Wang, Ziheng Zhou, Jiaqi Song, Li He, Yunshi Lan, Yan Wang, Wenqiang Zhang

机构 * Fudan University（复旦大学） ； East China Normal University（华东师范大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出ARGen框架，通过情感语义注入和自适应强化扩散阶段，解决野外动态表情识别中的数据稀缺问题，提升情绪感知的生成质量和识别性能。

Quick on the Uptake: Eliciting Implicit Intents from Human Demonstrations for Personalized Mobile-Use Agents

快速响应：从人类演示中提取隐含意图以构建个性化移动使用代理

Zheng Wu, Heyuan Huang, Yanjia Yang, Yuanyi Song, Xingyu Lou, Weiwen Liu, Weinan Zhang, Jun Wang, Zhuosheng Zhang

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院） ； OPPO Research Institute（OPPO研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出IFRAgent框架，通过分析显式和隐式意图流，提升移动代理对人类意图的对齐率和任务完成率。

OSMDA: OpenStreetMap-based Domain Adaptation for Remote Sensing VLMs

基于OpenStreetMap的领域自适应方法：为遥感VLMs的领域适应

Stefan Maria Ailuro, Mario Markov, Mohammad Mahdi, Delyan Boychev, Luc Van Gool, Danda Pani Paudel

机构 * INSAIT, Sofia University ``St. Kliment Ohridski''（INSAIT，索菲亚大学『圣克莱门特·奥赫里德斯』） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出OSMDA方法，利用OpenStreetMap数据生成自标注数据，无需人工标注或强外部模型，通过细调基础VLM实现遥感领域适应，经10个基准测试显示其在文本生成任务中达到SOTA，且训练成本更低。

Topology Enhanced MARL for Multi-Agent Cooperative Decision-Making of CAVs

面向联网自动驾驶车辆多智能体协同决策的拓扑增强多智能体强化学习

Ye Han, Lijun Zhang, Dejian Meng, Zhuang Zhang

机构 * School of Automotive Studies, Tongji University（同济大学汽车学院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文针对连续环境多智能体协同决策的维度灾难问题，提出TPE-MARL算法，通过游戏拓扑张量与双内在奖励机制优化，在CAV协同决策任务中实现接近最优性能与零样本泛化能力。

Comments 26 pages, 24 figures

MolSight: A Graph-Aware Vision-Language Model for Unified Chemical Image Understanding

MolSight: 一种用于统一化学图像理解的图感知视觉语言模型

Wenda Wang, Yihan Tong, Yuwei Hu, Xuchen Pan, Zhewei Wei, Yaliang Li, Bolin Ding

机构 * Renmin University of China（中国人民大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出MolSight框架，通过分子拓扑模块和分子接地模块增强视觉语言模型对分子图像的结构理解，在多项化学视觉理解任务中显著优于现有模型。

Role-Agent: Bootstrapping LLM Agents via Dual-Role Evolution

Role-Agent: 通过双角色演化引导LLM智能体

Xucong Wang, Ziyu Ma, Shidong Yang, Tongwen Huang, Pengkun Wang, Yong Wang, Xiangxiang Chu

机构 * University of Science and Technology of China（中国科学技术大学） ； AMAP, Alibaba Group（阿里巴巴集团高德地图） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出Role-Agent框架，让单个LLM同时作为智能体和环境，通过世界在智能体（WIA）和智能体在世界（AIW）两个组件实现自举协同演化，在多个基准上平均提升超过4%。

Comments 20 pages, including 12 pages of main text and 8 pages of appendix; work in progress

PEMAND: Persona-Enriched Multi-Agent Negotiation for Household Decision-Making

PEMANT：面向旅行的个性化多智能体谈判

Yuran Sun, Mustafa Sameen, Yaotian Zhang, Rongguan Gu, Mrunal Vibhute, Chia-yu Wu, Yuanyuan Lei, Xilei Zhao

机构 * Department of Civil and Costal Engineering, University of Florida（佛罗里达大学土木与海岸工程系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出PEMANT框架，结合行为理论与多智能体谈判，改进家庭旅行决策建模，提升预测能力。

ELISA: An Interpretable Hybrid Generative AI Agent for Expression-Grounded Discovery in Single-Cell Genomics

ELISA：一种可解释的混合生成式AI代理，用于单细胞组学中的表达基础发现

Omar Coser

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 ELISA结合表达嵌入、语义检索和LLM解释，提供交互式单细胞发现，优于CellWhisperer，尤其在基因签名查询中表现突出。

Shall We Play a Game? Language Models for Open-ended Wargames

我们要玩一场游戏吗？用于开放式兵棋推演的语言模型

Glenn Matlin, Isaac Song, Yixiong Hao, Parv Mahajan, Evan Montoya, Ryan Bard, Stuart R. Topp, Anthony Wen-Ming Zang, Mohammed Rehan Parwani, Soham Shetty, Mark Riedl

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 该研究通过对223篇相关论文的范围综述，明确了兵棋推演中语言模型的控制角色现状，指出需关注模型对行动与后果的控制程度以保障模拟保真度。

Comments 49 pages (9-page body), 3 figures. Published at the Social Sim'26 Workshop at COLM 2026 (non-archival)

From Found to Designed: Concepts as a Design Axis for Large Language Models

从发现到设计：将概念作为大语言模型的设计轴

Chen Shani

机构 * Tel Aviv University（特拉维夫大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 该研究针对大语言模型概念级结构依赖事后发现而非设计的问题，提出将概念作为设计轴，划分设计空间维度并分析现有模式，推动转向设计带显式概念表示的大语言模型。

Wavelet Phase Diffusion for Structurally and Semantically Consistent Sim-to-Real Translation

用于结构和语义一致的模拟到真实翻译的小波相位扩散

Kaiwen Wang, Frank Bieder, Yinzhe Shen, Carlos Fernandez, Jan-Hendrik Pauls, Omer Sahin Tas

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究模拟到真实翻译中弥合合成与真实域外观差距并保持结构语义一致的问题，提出小波相位扩散方法，通过双树复小波包变换域操作及低频随机化，在未配对数据训练，提升了图像和视频翻译的真实感与一致性。

Comments Project Page: https://kit-mrt.github.io/Wavelet-Phase-Diffusion/

EmoFeedback$^2$: Reinforcement of Continuous Emotional Image Generation via LVLM-based Reward and Textual Feedback

EmoFeedback$^2$：基于LVLM的奖励与文本反馈的连续情绪图像生成强化

Kai Shu, Jingyang Jia, Gang Yang, Long Xing, Xun Chen, Aiping Liu

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 EmoFeedback$^2$通过基于LVLM的奖励与文本反馈机制，提升连续情绪图像生成的质量与情绪保真度。

Ask don't tell: Reducing sycophancy in large language models

请勿告知：减少大语言模型的趋炎附势

Magda Dubois, Cozmin Ududec, Christopher Summerfield, Lennart Luettgau

机构 * UK AI Security Institute（英国人工智能安全研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过实验研究发现，非问题比问题引发更高的趋炎附势倾向，且趋炎附势随用户传达的可信度增加而增强，采用将非问题转为问题可有效降低趋炎附势。

MemTX: Transactional Belief Commit for Stateful Agent Memory

MemTX：用于有状态智能体内存的事务性信念提交

Xiaoyang Li, Yiqi Wang, Haohui Lu, Zhi Chen, Mo Li, Pingan Song, Mingkai Zheng, Taotao Cai

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究针对大语言模型智能体通过共享内存协调时内存写入问题，提出事务性信念提交协议MemTX，通过携带多种信息、在事务中暂存写入等方式，经机器检查确保不变量，在多主干上领先基线且无下游危害。

Comments Preprint

RoboPIN: Grounded Embodied Reasoning via Pinned Chain-of-Thought

RoboPIN: 基于锚定思维链的具身推理

Yaoting Huang, Yifu Yuan, Linqi Han, Chengwen Li, Shuoheng Zhang, Xianze Yao, Hongyao Tang, Yan Zheng, Jianye Hao

机构 * Tianjin University（天津大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出Pinned Chain-of-Thought (PinCoT)推理范式，通过结构化视觉锚点绑定实体，解决多步推理中实体引用漂移和视觉解耦问题；训练4B参数模型在14个基准上平均超越最强7B基线12%。

Detect Before You Leap: Mirage Detection in Vision-Language Models

在跳跃前检测：视觉语言模型中的幻象检测

Sayeed Shafayet Chowdhury, Md. Shaown Miah, S. M. Taiabul Haque, Syed Ishtiaque Ahmed

机构 * Indiana University Indianapolis（印第安纳大学印第安纳波利斯分校） ； Bangladesh University of Engineering and Technology（孟加拉工程与技术大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 针对视觉语言模型在缺乏视觉证据时产生自信但无根据回答的幻象问题，提出文本条件层内对齐方法，通过分析视觉编码器各层补丁令牌与问题嵌入的对齐轨迹，结合像素统计、零样本域路由和结构化自评估，实现高精度预响应幻象检测。

Linear-LLM-SCM: Benchmarking LLMs for Coefficient Elicitation in Linear-Gaussian Causal Models

线性-LLM-SCM：用于线性高斯因果模型系数提取的LLM基准测试

Kanta Yamaoka, Sumantrak Mukherjee, Thomas Gärtner, David Antony Selby, Stefan Konigorski, Eyke Hüllermeier, Viktor Bengs, Sebastian Josef Vollmer

机构 * Data Science and its Applications, German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心数据科学与应用部门） ； Dept. of Computer Science, University of Kaiserslautern–Landau (RPTU)（科隆-兰道大学计算机科学系） ； Digital Health - Machine Learning Research Group, Hasso Plattner Institute for Digital Engineering（哈索·普朗纳研究所数字工程学院数字健康-机器学习研究组） ； Institute of Informatics, University of Munich (LMU)（慕尼黑大学信息学院） ； Hasso Plattner Institute for Digital Health at Mount Sinai, Icahn School of Medicine at Mount Sinai（西奈山医学院哈索·普朗纳研究所数字健康中心） ； Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出线性-LLM-SCM框架，用于评估LLM在连续域中对线性高斯因果模型参数化的表现，揭示了LLM在定量因果推理中的局限性。

Comments [v2] Accepted at Workshop on Structured Data for Health@ICML 2026 Seoul,South Korea. 19 pages, 8 figures, preprint

Comparing RAG and GraphRAG for Page-Level Retrieval Question Answering on a Math Textbook

比较RAG和GraphRAG在数学教科书页面级检索问答中的应用

Eason Chen, Chuangji Li, Eric Li, Zimo Xiao, Jionghao Lin, Kenneth R. Koedinger

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究在本科数学教科书页面级问答中比较RAG和GraphRAG，用477个问答对数据集在检索准确率和答案质量两指标上对比五个RAG模型、BM25基线及GraphRAG，发现基于嵌入的RAG更优，还通过开源模型复制实验，为AI辅导系统设计提供参考。

Comments 6 pages, 1 figure

Parallel Tokenizers: Rethinking Encoder Models' Vocabulary Design in Cross-Lingual Transfer of Low-Resource Languages

并行分词器：重新思考低资源语言跨语言转移中编码器模型的词汇设计

Muhammad Dehan Al Kautsar, Fajri Koto

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 针对低资源语言跨语言转移中因词汇映射问题限制表示学习的情况，提出并行分词器框架，先单语训练再对齐词汇表，实验表明该方法训练的模型在多任务中优于传统基线，对推进多语言表示学习意义重大。

Comments 17 pages, 25 tables, 6 figures

Semantics at an Angle: When Cosine Similarity Works Until It Doesn't

角度语义：余弦相似度何时有效及失效

Kisung You

机构 * Baruch College, City University of New York（纽约城市大学巴克莱学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究探讨余弦相似度在信息处理等领域的应用，围绕其有用性取决于学习表示等因素展开，推导几何恒等式，区分失效机制，回顾证据并描述替代方法，得出其正尺度不变性有条件合理的结论。

LatentLens: Revealing Highly Interpretable Visual Tokens in LLMs

LatentLens: 揭示大语言模型中高度可解释的视觉标记

Benno Krojer, Shravan Nayak, Oscar Mañas, Vaibhav Adlakha, Desmond Elliott, Siva Reddy, Marius Mosbach

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出 LatentLens 方法，通过将视觉标记与文本语料库中的上下文标记表示进行最近邻匹配，实现视觉标记的可解释性，发现大多数视觉标记在各层均具有可解释性。

Comments ICML 2026 (Camera Ready)

FVRuleLearner: Operator-Level Reasoning Tree (Op-Tree)-Based Rules Learning for Formal Verification

FVRuleLearner：基于操作级推理树（OP-Tree）的规则学习用于形式验证

Lily Jiaxin Wan, Chia-Tung Ho, Yunsheng Bai, Cunxi Yu, Ghaith Bany Hamad, Deming Chen, Haoxing Ren

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； NVIDIA（英伟达） ； University of Maryland, College Park（马里兰大学帕克分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出FVRuleLearner，通过操作级推理树模型，提升形式验证中SVA操作符选择的准确性和效率，显著提高语法和功能正确性。

Comments Accepted to IEEE VTS'26