大模型对齐与安全

LSSF: Safety Alignment for Large Language Models through Low-Rank Safety Subspace Fusion

LSSF: 通过低秩安全子空间融合实现大语言模型的安全对齐

Guanghao Zhou, Panjia Qiu, Cen Chen, Hongyu Li, Mingyuan Chu, Xin Zhang, Jun Zhou

机构 * East China Normal University（华东师范大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 其他安全 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 LSSF通过低秩安全子空间融合技术，有效恢复微调大语言模型的安全对齐，同时对性能影响较小。

Comments Accepted in ACL 2025 Main Conference

On the Importance of Pretraining Data Alignment for Atomic Property Prediction

关于预训练数据对齐在原子性质预测中的重要性

Yasir Ghunaim, Hasan Abed Al Kader Hammoud, Bernard Ghanem

机构 * King Abdullah University of Science and Technology (KAUST)（国王阿卜杜勒-阿齐兹大学科学与技术学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文发现，通过精心选择的任务对齐数据集预训练，可提升原子性质预测的性能，且比大规模混合数据集预训练更有效。

Comments Published in Transactions on Machine Learning Research (TMLR), 2026

Journal ref Transactions on Machine Learning Research (TMLR), 2026

Inference-Aware Meta-Alignment of LLMs via Non-Linear GRPO

通过非线性GRPO实现LLM的推理感知元对齐

Shokichi Takakura, Akifumi Wachi, Rei Higuchi, Kohei Miyaguchi, Taiji Suzuki

机构 * LY Corporation（LY公司） ； The University of Tokyo（东京大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出IAMA方法，通过非线性GRPO实现LLM在有限计算资源下的多标准对齐。

R-HTN: Rebellious Online HTN Planning for Safety and Game AI

R-HTN：安全与游戏AI中的反叛在线HTN规划

Hector Munoz-Avila, David W. Aha, Paola Rizzo

机构 * Computer Science \& Engineering, Lehigh University ； Bethlehem, PA 18015-3084 USA ； Navy Center for Applied Research in AI ； Naval Research Laboratory 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 R-HTN是一种用于安全与游戏AI的在线HTN规划算法，通过反叛机制在遵循指令的情况下实现任务目标。

Journal ref The Annual Conference on Advances in Cognitive Systems (ACS-2025)

Attention-weighted Centered Kernel Alignment for Knowledge Distillation in Large Audio-Language Models Applied to Speech Emotion Recognition

基于注意力加权中心核对齐的知识蒸馏：用于大音频-语言模型的语音情感识别

Qingran Yang, Botao Zhao, Zuheng Kang, Xue Li, Yayun He, Chuhang Liu, Xulong Zhang, Xiaoyang Qu, Junqing Peng, Jianzong Wang

机构 * Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 PL-Distill通过结合投影层和输出层蒸馏方法，有效压缩大音频-语言模型并提升语音情感识别性能。

Comments Accepted to 2026 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2026)

Enhancing Open-Vocabulary Object Detection through Multi-Level Fine-Grained Visual-Language Alignment

通过多级细粒度视觉-语言对齐增强开放词汇物体检测

Tianyi Zhang, Antoine Simoulin, Kai Li, Sana Lakdawala, Shiqing Yu, Arpit Mittal, Hongyu Fu, Yu Lin

机构 * University of Minnesota（明尼苏达大学） ； Meta 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 VLDet通过多级细粒度视觉-语言对齐提升开放词汇物体检测性能，引入VL-PUB模块和SigRPN块，实现新类别检测的显著提升。

What LLMs Think When You Don't Tell Them What to Think About?

当你不告诉LLMs该思考什么时，它们会想什么？

Yongchan Kwon, James Zou

机构 * Together AI ； Stanford University（斯坦福大学） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究揭示了LLMs在无明确主题输入下生成内容的分布特征，发现不同模型家族存在显著的主题偏好和内容深度差异，并公开了相关数据集和代码。

Comments NA

OASIS-DC: Generalizable Depth Completion via Output-level Alignment of Sparse-Integrated Monocular Pseudo Depth

OASIS-DC: 通过稀疏集成单目伪深度的输出级对齐实现通用深度补全

Jaehyeon Cho, Jhonghyun An

机构 * Vehicle Intelligence Perception Lab (VIPLAB), Gachon University, Seongnam-si, Republic of Korea（高银大学） 纠错

专题命中 其他安全 ：alignment(title)

AI总结 OASIS-DC通过输出级对齐稀疏集成单目伪深度，实现无需大量标注样本的通用深度补全。

Comments Accepted to ICRA 2026

SEA-Guard: Culturally Grounded Multilingual Safeguard for Southeast Asia

SEA-Guard：面向东南亚的文化根基多语言安全防护

Panuthep Tasawong, Jian Gang Ngui, Alham Fikri Aji, Trevor Cohn, Peerat Limkonchotiwat

机构 * VISTEC ； Google（谷歌） ； AI Singapore（AI新加坡） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 SEA-Guard是首个基于东南亚文化背景的多语言安全模型，通过代理数据生成框架构建区域特定安全数据集，有效检测地区敏感内容并保持良好的通用安全性能。

Comments Under reivew

Sparse Autoencoder Features for Classifications and Transferability

稀疏自编码器特征用于分类和可迁移性

Jack Gallifant, Shan Chen, Kuleen Sasse, Hugo Aerts, Thomas Hartvigsen, Danielle S. Bitterman

机构 * Harvard University（哈佛大学） ； Mass General Brigham（麻省总医院） ； Boston Children’s Hospital（波士顿儿童医院） ； Johns Hopkins University（约翰霍普金斯大学） ； Maastricht University（马斯特里赫特大学） ； University of Virginia（弗吉尼亚大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出利用稀疏自编码器提取LLM特征，通过优化架构和二进制化策略提升分类性能和跨模型迁移能力。

Trajectory Data Management and Mining: A Survey from Deep Learning to the LLM Era

轨迹数据管理与挖掘：从深度学习到大语言模型时代的综述

Wei Chen, Yuanshao Zhu, Yanchuan Chang, Kang Luo, Haomin Wen, Lei Li, Yanwei Yu, Qingsong Wen, Chao Chen, Kai Zheng, Yunjun Gao, Yu Zheng, Xiaofang Zhou, Yuxuan Liang

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文综述了轨迹计算从深度学习到大语言模型的发展，探讨了轨迹数据管理与挖掘的应用及未来研究方向。

Comments Version 2 of Trajectory Survey

Interpreting and Controlling Model Behavior via Constitutions for Atomic Concept Edits

通过宪法进行原子概念编辑来解释和控制模型行为

Neha Kalibhat, Zi Wang, Prasoon Bajpai, Drew Proud, Wenjun Zeng, Been Kim, Mani Malek

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出通过原子概念编辑学习模型宪法，以解释和控制模型行为，实验证明其在提升模型成功率方面效果显著。

Journal ref Twenty-Ninth Annual Conference on Artificial Intelligence and Statistics (AISTATS 2026)

ToPT: Task-Oriented Prompt Tuning for Urban Region Representation Learning

为城市区域表示学习设计的任务导向提示微调：ToPT

Zitao Guo, Changyang Jiang, Tianhong Zhao, Jinzhou Cao, Genan Dai, Bowen Zhang

机构 * College of Applied Science, Shenzhen University, Shenzhen, China（深圳大学应用科学学院） ； School of Artificial Intelligence, Shenzhen Technology University, Shenzhen, China（深圳科技大学人工智能学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 ToPT通过空间一致融合和任务对齐提升城市区域表示学习，实现任务导向的提示微调，提升多个城市任务的性能。

Comments The paper has been accepted by ICASSP 2026

Revolutionizing Genomics with Reinforcement Learning Techniques

用强化学习技术革新基因组学

Mohsen Karami, Khadijeh, Jahanian, Roohallah Alizadehsani, Iman Dehzangi, Juan M Gorriz, Yudong Zhang, Jia Wang, Farshid Hajati, Min Yang, Thantrira Porntaveetus, Hamid Alinejad-Rokny

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文探讨了强化学习在基因组学中的应用，包括基因调控网络、基因组组装和序列比对，并讨论了未来研究方向。

How AI Impacts Skill Formation

人工智能如何影响技能形成

Judy Hanwen Shen, Alex Tamkin

机构 * Anthropic 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 研究发现人工智能辅助虽提升生产力，但损害技能学习，需谨慎使用以保护技能形成。

Comments V2: Fixed typos in Table 1 (Balance Table), corrected osf link

MSign: An Optimizer Preventing Training Instability in Large Language Models via Stable Rank Restoration

MSign: 通过稳定秩恢复防止大语言模型训练不稳定

Lianhai Ren, Yucheng Ding, Xiao Liu, Qianxiao Li, Peng Cheng, Yeyun Gong

机构 * National University of Singapore（新加坡国立大学） ； Microsoft Research（微软研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 MSign通过稳定秩恢复机制防止大语言模型训练不稳定，有效减少训练失败并降低计算开销

The Art of Socratic Inquiry: A Framework for Proactive Template-Guided Therapeutic Conversation Generation

苏格拉底式探究的艺术：一种主动模板引导治疗对话生成的框架

Mingwen Zhang, Minqiang Yang, Changsheng Ma, Yang Yu, Hui Bai, Chen Xu, Xiangzhen Kong, Bin Hu

机构 * School of Information Science and Engineering, Lanzhou University（信息科学与工程学院，兰州大学） ； School of Medical Technology, Beijing Institute of Technology（医学技术学院，北京理工大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Socratic Inquiry Framework，通过策略锚定和模板检索分离提问时机与内容，提升LLMs的主动提问能力，推动心理引导型大语言模型的发展。

How Notations Evolve: A Historical Analysis with Implications for Supporting User-Defined Abstractions

符号如何演变：一种历史分析及其对支持用户定义抽象的启示

Jingyue Zhang, J. D. Zamfirescu-Pereira, Elena L. Glassman, Damien Masson, Ian Arawjo

专题命中 其他安全 ：alignment(abstract)；分类 cs.CY

AI总结 本文通过历史分析探讨符号演变的三个社会阶段和三个功能阶段，提出如何设计支持用户定义抽象的新系统。

Comments 23 pages, 4 figures

Decoding Workload and Agreement From EEG During Spoken Dialogue With Conversational AI

从语音对话中解码工作负荷与共识的EEG信号

Lucija Mihić Zidar, Philipp Wicke, Praneel Bhatia, Rosa Lutz, Marius Klug, Thorsten O. Zander

机构 * Chair of Neuroadaptive Human--Computer Interaction（神经适应性人机交互教授席位） ； Brandenburg Technical University Cottbus--Senftenberg（勃兰登堡技术大学库滕堡-森芬根堡分校） ； Auryal GmbH（Auryal公司） ； Cottbus, Germany（库滕堡，德国） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出通过EEG解码语音对话中的工作负荷与共识，验证了现有分类器在对话场景中的迁移能力，并探讨了其应用限制。

Comments Accepted at the 14th International Winter Conference on Brain-Computer Interface

SimGym: Traffic-Grounded Browser Agents for Offline A/B Testing in E-Commerce

SimGym：基于流量的浏览器代理用于电子商务中的离线A/B测试

Alberto Castelo, Zahra Zanjani Foumani, Ailin Fan, Keat Yang Koay, Vibhor Malik, Yuanzheng Zhu, Han Li, Meysam Feghhi, Ronie Uliana, Shuang Xie, Zhaoyu Zhang, Angelo Ocana Martins, Mingyu Zhao, Francis Pelland, Jonathan Faerman, Nikolas LeBlanc, Aaron Glazer, Andrew McNamara, Lingyun Wang, Zhong Wu

机构 * Shopify 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 SimGym通过基于流量的合成买家和大型语言模型代理，实现快速离线A/B测试，提升电子商务实验效率

PromptRL: Prompt Matters in RL for Flow-Based Image Generation

PromptRL: 流基于图像生成中强化学习中提示的重要性

Fu-Yun Wang, Han Zhang, Michael Gharbi, Hongsheng Li, Taesung Park

机构 * The Chinese University of Hong Kong, Hong Kong（香港中文大学） ； Meta Superintelligence Labs, USA（Meta超智能实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 PromptRL通过整合语言模型作为可训练的提示精修代理，提升流基于图像生成中强化学习的性能和效率。

Beyond Pixels: Visual Metaphor Transfer via Schema-Driven Agentic Reasoning

超越像素：通过基于模式的代理推理实现视觉隐喻转移

Yu Xu, Yuxin Zhang, Juan Cao, Lin Gao, Chunyu Wang, Oliver Deussen, Tong-Yee Lee, Fan Tang

机构 * University of Chinese Academy of Sciences（中国科学院大学） ； Tencent Hunyuan（腾讯文脉） ； University of Konstanz（康斯坦茨大学） ； National Cheng-Kung University（国立成功大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于模式的代理推理框架，实现视觉隐喻转移，通过多代理协作提升隐喻生成的抽象逻辑与视觉创造力。

Comments 11 pages, 10 figures

Beyond Training for Cultural Awareness: The Role of Dataset Linguistic Structure in Large Language Models

超越文化意识的训练：大型语言模型中数据集语言结构的作用

Reem I. Masoud, Chen Feng, Shunta Asano, Saied Alshahrani, Philip Colin Treleaven, Miguel R. D. Rodrigues

机构 * University College London（伦敦大学学院） ； Queen’s University Belfast（贝尔法斯特女王大学） ； The University of Tokyo（东京大学） ； University of Bisha（比沙大学） ； King Abdulaziz University（阿卜杜勒阿齐兹国王大学） ； AI Centre, University College London（伦敦大学学院人工智能中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文研究了数据集语言结构对大型语言模型文化表现的影响，发现词汇导向的成分在不同模型中表现更稳定，而语义或多样性极端成分可能产生中性或有害效果。

Learning Modal-Mixed Chain-of-Thought Reasoning with Latent Embeddings

通过潜在嵌入学习模态混合的思考链推理

Yifei Shao, Kun Zhou, Ziming Xu, Mohammad Atif Quamar, Shibo Hao, Zhen Wang, Zhiting Hu, Biwei Huang

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出模态混合CoT方法，通过潜在嵌入结合视觉与文本信息，提升多模态推理性能。

Towards Building Non-Fine-Tunable Foundation Models

构建不可微调的基础模型

Ziyao Wang, Nizhang Li, Pingzhi Li, Guoheng Sun, Tianlong Chen, Ang Li

机构 * University of Maryland, College Park（马里兰大学 College Park 分校） ； Macau University of Science and Technology（澳门科学技术大学） ； The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出PMP框架，通过构建不可微调的基础模型，限制未经授权微调的适应性提升，从而提高模型的安全性和稳定性。

Quantum Generator Kernels

量子生成核

Philipp Altmann, Maximilian Mansky, Maximilian Zorn, Jonas Stein, Claudia Linnhoff-Popien

机构 * LMU Munich（慕尼黑莱布尼茨大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出量子生成核方法，通过可变生成组实现大规模数据在量子空间中的高效嵌入，提升量子机器学习的分类与投影能力。

Comments 28 pages, 4 figures, 8 tables, under review

ALIGN: Aligned Delegation with Performance Guarantees for Multi-Agent LLM Reasoning

ALIGN: 多智能体LLM推理中的对齐委托与性能保证

Tong Zhu, Baiting Chen, Jin Zhou, Hua Zhou, Sriram Sankararaman, Xiaowu Dai

机构 * Department of Biostatistics, UCLA（生物统计学系，加州大学洛杉矶分校） ； Department of Statistics and Data Science, UCLA（统计学与数据科学系，加州大学洛杉矶分校） ； Department of Computer Science, UCLA（计算机科学系，加州大学洛杉矶分校） ； Departments of Statistics and Data Science, and of Biostatistics, UCLA（统计学与数据科学系和生物统计学系，加州大学洛杉矶分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 ALIGN通过多智能体对齐委托机制，提升大语言模型在复杂推理任务中的性能保障与表现。

Observing Health Outcomes Using Remote Sensing Imagery and Geo-Context Guided Visual Transformer

利用遥感图像和地理上下文引导的视觉变换器观察健康结果

Yu Li, Guilherme N. DeSouza, Praveen Rao, Chi-Ren Shyu

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种结合地理空间信息的视觉变换器模型，通过引导注意力机制提升遥感图像处理效果，有效预测疾病流行率。

Comments Submitted to IEEE Transactions on Geoscience and Remote Sensing

TRACE: Grounding Time Series in Context for Multimodal Embedding and Retrieval

TRACE: 在上下文中对时间序列进行建模以实现多模态嵌入与检索

Jialin Chen, Ziyu Zhao, Gaukhar Nurbek, Aosong Feng, Ali Maatouk, Leandros Tassiulas, Yifeng Gao, Rex Ying

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 TRACE通过在上下文中对时间序列进行建模，实现多模态嵌入与检索，提升下游任务的预测精度和可解释性，同时作为强大的独立编码器优化上下文感知表示。

GENERator: A Long-Context Generative Genomic Foundation Model

生成器：一种长上下文生成基因组基础模型

Wei Wu, Qiuyi Li, Yuanyuan Zhang, Zhihao Zhan, Ruipu Chen, Mingyang Li, Kun Fu, Junyan Qi, Yongzhou Bao, Chao Wang, Yiheng Zhu, Zhiyun Zhang, Jian Tang, Fuli Feng, Jieping Ye, Yuwen Liu, Hui Xiong, Zheng Wang

机构 * Equal Contribution 12pt Senior Authorship 0.15in 1Alibaba Cloud Computing, Beijing, China 0.05in 2Zhongguancun Academy, Beijing, China 0.05in 3Zhongguancun Institute of Artificial Intelligence, Beijing, China 0.05in 4University of Science ； Technology of China, Hefei, China 0.05in 5State Key Laboratory of Genome ； Multi-omics Technologies, Shenzhen Branch, Guangdong Laboratory for Lingnan Modern Agriculture, Key Laboratory of Livestock ； Poultry Multi-Omics of MARA, Agricultural Genomics Institute at Shenzhen, Chinese Academy of Agricultural Sciences, Shenzhen, China 0.05in 6Innovation Group of Pig Genome Design ； Breeding, Research Centre for Animal Genome, Agricultural Genomics Institute at Shenzhen, Chinese Academy of Agricultural Sciences, Shenzhen, China 0.05in 7The Hong Kong University of Science ； Technology (Guangzhou), Guangzhou, China 0.05in 8The Hong Kong University of Science ； Technology , Hong Kong SAR, China 0.05in 9Mila - Qu\'ebec AI Institute, Montr\'eal, Canada 0.05in 10University of Montr\'eal, Montr\'eal, Canada 0.05in 11HEC Montr\'eal, Montr\'eal, Canada 0.05in 12CIFAR AI Chair, Canada 0.05in 13Carnegie Mellon University, Pittsburgh, USA 0.15in to 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 GENErator是一种长上下文生成基因组基础模型，通过大规模预训练实现高效基因组解读与可编程序列设计。