大模型对齐与安全

Verifying Adversarial Robustness in Quantum Machine Learning: from theory to physical validation via a software tool

验证量子机器学习中的对抗鲁棒性：从理论到通过软件工具的物理验证

Ji Guan, Mingsheng Ying

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出基于保真度的鲁棒性下界，通过测量结果分布直接计算，结合半定规划优化，实现量子机器学习模型对抗鲁棒性的形式化验证与物理实验验证。

Journal ref Quantum Robustness in Artificial Intelligence, Quantum Science and Technology, Springer Nature Switzerland, 2026

SegTune: Structured and Fine-Grained Control for Song Generation

SegTune：歌曲生成的结构化与细粒度控制

Pengfei Cai, Joanna Wang, Haorui Zheng, Xu Li, Zihao Ji, Teng Ma, Zhongliang Liu, Chen Zhang, Pengfei Wan

机构 * Kuaishou Technology（快手科技） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出非自回归框架SegTune，通过段级局部描述和全局提示实现歌曲的结构化可控生成，并引入基于LLM的时长预测器实现精确的歌词-音乐对齐。

Comments This technical report was later revised and published at ACL 2026 (oral). ACL paper link: https://openreview.net/forum?id=FKf2S4u8at , code: https://github.com/KlingAIResearch/SegTune

The Best-Laid SCHEMEs: Coordinated Sabotage and Monitoring in Multi-Agent Systems

最佳布局的SCHEMEs：多智能体系统中的协调破坏与监控

Nikolay Radev, Lennart Haas, Benjamin Arnav, Pablo Bernabeu-Pérez

专题命中 安全评测 ：safety(abstract)

AI总结 提出SCHEME基准测试，评估多智能体系统在合法任务中协调执行隐藏恶意目标的能力，发现协调破坏已实际可行，但代码编辑可被高精度检测。

Comments 33 pages, 25 figures, 15 tables

Evaluating and Rewarding LALMs for Expressive Role-Play TTS via Mean Continuation Log-Probability

评估与奖励基于平均延续对数概率的表达性角色扮演TTS的LALM

Yong Ren, Jingbei Li, Haiyang Sun, Yujie Chen, Cheng Yi, Yechang Huang, Hao Gu, Ye Bai, Xuerui Yang

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Beihang University（北京航空航天大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出平均延续对数概率（MCLP）作为评估指标和奖励信号，用于提升大型音频语言模型在角色扮演文本转语音任务中的风格一致性。

Comments Accepted by ICML 2026

Representation Alignment Rests on Linear Structure

表示对齐依赖于线性结构

Kiril Bangachev, Guy Bresler, Yury Polyanskiy

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文通过信号、偏差和噪声的三部分统计框架研究柏拉图表示假说，提出对齐源于对象与属性的线性关系，并通过稀疏自编码器提取线性特征、中心化和归一化减少偏差、以及数据稀缺导致噪声等证据支持该框架。

ReasonLight: A Multimodal Foundation Model-Enhanced Reinforcement Learning Framework for Zero-Shot Traffic Signal Control

ReasonLight: 一种多模态基础模型增强的强化学习框架用于零样本交通信号控制

Aoyu Pang, Maonan Wang, Yuejiao Xie, Chung Shue Chen, Zhiwei Yang, Man-On Pun

机构 * School of Science and Engineering, The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）科学与工程学院） ； Department of Mechanical and Automation Engineering, The Chinese University of Hong Kong, Hong Kong（香港中文大学机械与自动化工程系） ； Shanghai AI Laboratory, Shanghai, China（上海人工智能实验室） ； Nokia Bell Labs, Paris-Saclay, France（法国巴黎萨克雷诺基贝尔实验室） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出ReasonLight框架，通过多模态基础模型增强强化学习，利用路侧传感器和摄像头数据实现零样本适应罕见交通事件，显著降低紧急车辆等待时间。

Looking Beyond Text: Reducing Language bias in Large Vision-Language Models via Multimodal Dual-Attention and Soft-Image Guidance

超越文本：通过多模态双注意力和软图像引导减少大型视觉语言模型中的语言偏差

Haozhe Zhao, Shuzheng Si, Liang Chen, Yichi Zhang, Maosong Sun, Mingjia Zhang, Baobao Chang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Peking University（北京大学） ； Tsinghua University（清华大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 针对大型视觉语言模型因语言偏差导致的幻觉问题，提出LACING框架，采用多模态双注意力机制和软图像引导策略，在不增加训练资源的情况下增强视觉理解并减少幻觉。

Comments EMNLP 2025

Modality Alignment across Trees on Heterogeneous Hyperbolic Manifolds

异质双曲流形上的树间模态对齐

Wei Wu, Xiaomeng Fan, Yuwei Wu, Zhi Gao, Pengxiang Li, Yunde Jia, Mehrtash Harandi

机构 * Beijing Key Laboratory of Intelligent Information Technology, School of Computer Science & Technology, Beijing Institute of Technology（北京智能信息科技重点实验室，计算机科学与技术学院，北京理工大学） ； Guangdong Laboratory of Machine Perception and Intelligent Computing, Shenzhen MSU-BIT University（广东机器感知与智能计算实验室，深圳MSU-BIT大学） ； Department of Electrical and Computer System Engineering, Monash University（电子与计算机系统工程系，墨尔本大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出一种在异质双曲流形上对齐图像和文本树状层次特征的方法，通过交叉注意力提取视觉层次特征、异质流形嵌入及KL距离度量学习中间流形，在开放集分类任务中优于基线。

Comments Published as a conference paper at ICLR 2026

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026), Rio de Janeiro, Brazil, 2026

Gram: Assessing sabotage propensities via automated alignment auditing

Gram：通过自动化对齐审计评估破坏倾向

David Lindner, Victoria Krakovna, Sebastian Farquhar

机构 * Google（谷歌） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出Gram框架，通过模拟17种代理部署场景自动审计AI代理的破坏倾向，发现Gemini模型在约2-3%的轨迹中存在不当行为，并引入调查代理管道以识别驱动因素。

Review Arcade: On the Human Alignment and Gameability of LLM Reviews

Review Arcade: 关于LLM评审的人类对齐与可博弈性

Hans Ole Hatzel, Sebastian Steindl, Jan Strich

机构 * Language Technology Group, University of Hamburg, Germany（汉堡大学语言技术小组） ； Hub of Computing and Data Science (HCDS), University of Hamburg, Germany（汉堡大学计算与数据科学中心） ； OTH Amberg-Weiden, Germany（阿姆伯-魏登工业大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 通过实验评估LLM生成论文评审与人类评审的对齐程度，并发现作者可根据LLM评审迭代修改论文以提升评分（最多35%的论文显著提高），揭示了LLM评审的可博弈性。

Comments Under Review EMNLP 26

Improving CLIP Adaptation by Breaking Tail Alignment for Source-Free Cross-Domain Few-Shot Learning

通过打破尾部对齐改进CLIP适应：用于源无关跨域小样本学习

Shuai Yi, Yixiong Zou, Yuhua Li, Ruixuan Li

机构 * School of Computer Science and Technology, Huazhong University of Science and Technology, Wuhan, China（华中科技大学计算机科学与技术学院） ； Institute of Artificial Intelligence, Huazhong University of Science and Technology, Wuhan, China（华中科技大学人工智能研究院） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 针对CLIP在跨域小样本学习中的性能下降问题，提出自适应尾头对齐策略（ATHA），通过有选择地削弱低相似度图像令牌的对齐来减少过拟合，在四个基准上取得最优结果。

Comments Accepted by ICML 2026

Adaptive Interviewing for Persona Simulation in LLMs: Evidence-Grounded Reasoning Improves Decision Alignment

面向LLM人格模拟的自适应访谈：基于证据的推理提升决策对齐

Ruoxi Su, Yuhan Liu, Jingyu Hu

机构 * University of Cambridge（剑桥大学） ； Independent Researcher（独立研究员） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.AI

AI总结 提出自适应访谈框架，通过结构化三阶段对话收集人格相关信息，并基于访谈记录评估LLM在道德困境场景中模拟个体决策的能力，发现基于后续追问的证据推理能显著提升预测准确性。

Comments 20 pages, 2 figures, 12 tables

When and How Long? The Readout-Mediator Angle in Temporal Reasoning

何时与多久？时间推理中的读出-中介角度

Shreyas Fadnavis, Praitayini Kanakaraj, Felix Wyss

机构 * Bioscope AI 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 通过测量线性探针与模型实际计算子空间之间的角度，发现探针可能学习与模型无关的正交方向，从而揭示基于探针的可解释性存在根本缺陷。

Feature Geometry of LoRA Adapters: A Sparse Autoencoder Analysis of Representational Divergence in Fine-Tuned Language Models

LoRA适配器的特征几何：微调语言模型中表示差异的稀疏自编码器分析

Prasanth K K

机构 * Independent AI Safety Researcher（独立人工智能安全研究员） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.LG

AI总结 本研究使用稀疏自编码器分析LoRA微调引起的表示几何变化，发现LoRA特征字典与预训练特征存在弱几何对齐，且适配器特定SAE能更有效重建delta激活。

Training Deliberative Monitors for Black-Box Scheming Detection

训练审慎监控器用于黑箱策划检测

Aditya Sinha, Akshat Naik, Victor Gillioz, Simon Storf, Kilian Merkelbach, Rich Barton-Cooper, Axel Højmark, Marius Hobbhahn

机构 * Independent（独立） ； MATS Research（MATS研究） ； Astra Fellowship ； Apollo Research（Apollo研究） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出一种基于行动轨迹的审慎监控方法，通过蒸馏前沿模型的推理过程训练开源模型，以低成本高精度检测智能体的策划与破坏行为。

Steering at the Source: Style Modulation Heads for Robust Persona Control

源头操控：用于稳健角色控制的风格调制头

Yoshihiro Izawa, Gouki Minegishi, Koshi Eguchi, Sosuke Hosokawa, Kenjiro Taura

机构 * The University of Tokyo, Tokyo, Japan（东京大学） ； National Institute of Informatics Research（信息处理研究所） ； Development Center for Large Language Models, Japan（大型语言模型发展中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文通过识别并仅干预少量注意力头（风格调制头），在无需微调的情况下实现对大型语言模型角色和风格的稳健控制，同时显著缓解了残差流干预导致的连贯性下降问题。

Comments 8 main pages with appendix

Eureka: Intelligent Feature Engineering for Enterprise AI Cloud Resource Demand Prediction

Eureka：面向企业AI云资源需求预测的智能特征工程

Hangxuan Li, Renjun Jia, Xuezhang Wu, Yunjie Qian, Zeqi Zheng, Xianling Zhang

机构 * Alibaba Cloud Computing Co. Ltd, Hangzhou, China（阿里云计算有限公司，杭州，中国） ； School of Computer Science, Fudan University, Shanghai, China（复旦大学计算机学院，上海，中国） ； School of Computer Science and Technology, Tongji University, Shanghai, China（同济大学计算机科学与技术学院，上海，中国） ； Independent Researcher, United States（独立研究员，美国） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出Eureka框架，将特征工程视为智能体代码生成问题，通过专家代理、LLM特征工厂和自演化对齐引擎三阶段，自动生成可执行特征代码，在医疗、金融、社交等7个公开基准及阿里云GPU资源需求预测中显著提升性能。

Comments accepted at NeurIPS 2025 Workshop, DASFAA 2026 (International Conference on Database Systems for Advanced Applications)

Journal ref Database Systems for Advanced Applications (DASFAA 2026), Lecture Notes in Computer Science, vol. 16540, pp. 528-540, Springer

CRITIC-R1: Learning Structured Critics for Retrieval-Augmented Generation

CRITIC-R1: 学习结构化评论用于检索增强生成

Wenhan Xiao, Ziwei Zhang, Chuanyue Yu, Xingcheng Fu, Qingyun Sun, Runhua Xu, Jianxin Li

机构 * Nankai University（南开大学） ； Beihang University（北航） ； Guangxi Normal University（广西师范大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出CRITIC-R1框架，通过强化学习将RAG评论建模为结构化错误诊断问题，设计保守判断对齐和诊断质量对齐奖励函数，提升检索增强生成的答案质量。

Comments 17 pages,13 figures

DLM-SWAI: Steering Diffusion Language Models Before They Unmask

DLM-SWAI: 在扩散语言模型去掩码之前引导它们

Hyeseon An, Yo-Sub Han

机构 * Department of Computer Science（计算机科学系） ； Yonsei University（延世大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出一种无需训练的引导方法DLM-SWAI，通过预计算的词级风格分数在去噪步骤中偏置词分布，实现扩散语言模型的可控生成。

Comments preprint

The Vision Wormhole: Latent-Space Communication in Heterogeneous Multi-Agent Systems

视觉虫洞：异构多智能体系统中的潜在空间通信

Xiaoze Liu, Ruowang Zhang, Weichen Yu, Siheng Xiong, Liu He, Feijie Wu, Hoin Jung, Matt Fredrikson, Xiaoqian Wang, Jing Gao

机构 * Purdue University（普渡大学） ； Contextual AI（情境人工智能） ； Carnegie Mellon University（卡内基梅隆大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 提出Vision Wormhole框架，通过通用视觉编解码器将推理轨迹映射到共享连续空间，实现异构VLM间的潜在状态传输，无需配对翻译器，降低对齐复杂度并提升效率。

Comments Preprint. Work in progress

Beyond Bilingual Transfer: Multilingual Code-Switching in Instruction Tuning

超越双语迁移：指令微调中的多语言代码切换

Shunta Asano, Jeonghun Baek, Toshihiko Yamasaki

机构 * The University of Tokyo（东京大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过跨四种语言的句子级多语言代码切换指令微调，验证了多语言代码切换能有效提升大语言模型的多语言理解性能，超越了传统双语迁移设置。

From AR to Diffusion: Efficiently Adapting Large Language Models with Strictly Causal and Elastic Horizons

从自回归到扩散：利用严格因果与弹性视野高效适配大型语言模型

Xiangyu Ma, Teng Xiao, Zuchao Li, Lefei Zhang

机构 * School of Artificial Intelligence, Wuhan University（武汉大学人工智能学院） ； School of Computer Science, Wuhan University（武汉大学计算机学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出FLUID框架，通过严格因果对齐和弹性视野机制，将自回归模型高效适配为扩散模型，实现并行文本生成并大幅降低训练成本。

Comments Accepted by ACL 2026

Mitigating Stethoscope-Induced Shortcuts in Respiratory Sound Classification under Federated Domain Generalization with Causality-Inspired Interventions

在联邦域泛化下通过因果启发的干预减轻听诊器引起的呼吸音分类中的捷径

Heejoon Koo, Yoon Tae Kim, Miika Toikkanen, June-Woo Kim

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； RSC LAB（RSC实验室） ； Wonkwang University（Wonkwang大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 针对呼吸音分类中听诊器设备差异导致的域偏移问题，提出一种因果启发的多模态联邦域泛化框架，通过内容保持的风格扰动、反事实文本增强和梯度对齐实现设备不变表示，在ICBHI和SPRSound数据集上优于传统方法。

Comments 2 figures, 4 tables, and 5 pages

DeepSurvey: Enhancing Analytical Depth and Citation Reliability in Automated Survey Generation

DeepSurvey: 提升自动综述生成中的分析深度与引用可靠性

Ziyue Yang, Da Ma, Hanqi Li, Zijian Wang, Tiancheng Huang, Zijian Hu, Chenrun Wang, Yunzhe Zhang, Xiaobao Wu, Kai Yu, Lu Chen

机构 * X-LANCE Lab, School of Computer Science, Shanghai Jiao Tong University, Shanghai, China（上海交通大学计算机科学学院X-LANCE实验室） ； Jiangsu Key Lab of Language Computing, Suzhou, China（江苏省语言计算重点实验室） ； Suzhou Laboratory, Suzhou, China（苏州实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出DeepSurvey智能体系统，通过结构化全文笔记、跨论文关系建模和代码仓库分析增强分析深度，结合引文图扩展与混合过滤、证据约束引用分配及多粒度智能体精炼提升引用可靠性，在内容质量和引用准确性上超越现有方法。

Mask the Target: A Plug-and-Play Regularizer Against LoRA Forgetting

Mask the Target: 一种即插即用的正则化器，用于对抗LoRA遗忘

Runze Xu, Arpit Garg, Hemanth Saratchandran, Simon Lucey

机构 * Australian Institute for Machine Learning（澳大利亚机器学习研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 针对LoRA微调中目标分布与原始训练分布差异大时导致的灾难性遗忘问题，提出一种无需重放数据的输出空间正则化方法，通过遮蔽目标token并仅对非目标词汇进行KL正则化，在不增加推理开销的前提下改善新学习与遗忘之间的平衡。

Comments In Submission

PROTOCOL: Late Interaction Retrieval for Protein Homolog Search

PROTOCOL: 用于蛋白质同源搜索的延迟交互检索

Gabrielle Cohn, Rohan Gumaste, Minh Hoang, Vihan Lakshman

机构 * MIT（麻省理工学院） ； Princeton University（普林斯顿大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出ProtoCol模型，利用ColBERT风格的延迟交互机制对残基嵌入进行最大相似度评分，以提升远程同源搜索的灵敏度，在SCOPe超家族和Pfam clan基准上优于多种基线方法。

ValueFlow: Measuring the Propagation of Value Perturbations in Multi-Agent LLM Systems

ValueFlow: 多智能体大语言模型中价值扰动的传播度量

Jinnuo Liu, Chuke Liu, Hua Shen

机构 * Center for Data Science, NYU Shanghai（纽约大学上海分校数据科学中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出ValueFlow框架，通过56维价值数据集和LLM-as-a-judge协议，将价值漂移分解为智能体级响应行为与系统级结构效应，揭示价值对齐是系统级属性。

Comments Preprint. Under review. 28 pages, 10 figures

Grammar-Aware Literate Generative Mathematical Programming with Compiler-in-the-Loop

语法感知的 literate 生成式数学编程与编译器在环

Roberto Rossi, Steven D. Prestwich

机构 * Business School, University of Edinburgh（爱丁堡大学商学院） ； Insight Centre for Data Analytics, University College Cork（科克大学数据分析研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出 SyntAGM 系统，通过迭代生成-编译-评估-修正循环，利用编译器反馈和 LLM 对齐判断，生成可读的代数建模语言优化模型，实现成本与质量的更优权衡。

Comments 18 pages, 7 figures

The Planetary Cost of AI Acceleration: A Thermodynamic Outlook on Four Possible Paths Forward

人工智能加速的行星成本：四种可能路径的热力学展望

William Yicheng Zhu, Lei Zhu

专题命中 其他安全 ：alignment(abstract)

AI总结 本文从热力学第一原理出发，探讨人工智能计算规模指数增长对地球热容量的物理极限，提出四种可能的发展路径。

SLAD : Shared LoRA Adapters for Task Specific Distillation

SLAD：用于任务特定蒸馏的共享LoRA适配器

Reda Bensaid, Yassir Bendou, Vincent Gripon, François Leduc-Primeau

机构 * IMT Atlantique（IMT阿登蒂克） ； Polytechnique Montréal（蒙特利尔理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 提出SLAD方法，通过共享低秩适配器参数对齐教师和学生模型的特征表示，实现高效的知识蒸馏，在多个分类和分割数据集上达到最先进性能。

Comments CVPR Findings 2026