大模型对齐与安全

Social Catalysts, Not Moral Agents: The Illusion of Alignment in LLM Societies

社交催化剂，而非道德主体：LLM社会中的对齐幻觉

Yueqing Hu, Yixuan Jiang, Zehua Jiang, Xiao Wen, Tianhong Wang

机构 * Institute of Neuroscience, Chinese Academy of Sciences（中国科学院神经科学研究所） ； School of Philosophy, Anhui University（安徽大学哲学学院） ； Department of Psychology and Behavioral Sciences, Zhejiang University（浙江大学心理学与行为科学系） ； Mental Health Education Center, North China Electric Power University（华北电力大学心理健康教育中心） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本研究探讨了锚定智能体在促进合作中的作用，发现其效果源于战略合规而非真实价值对齐，揭示了人工社会中行为修改与真实价值对齐之间的差距。

Comments 7 pages, 5 figures

Feature, Alignment, and Supervision in Category Learning: A Comparative Approach with Children and Neural Networks

特征、对齐与监督在类别学习中的作用：基于儿童与神经网络的比较方法

Fanxiao Wani Qiu, Oscar Leong

机构 * Department of Psychology, University of Southern California（南加州大学心理学系） ； Department of Statistics and Data Science, University of California, Los Angeles（加州大学洛杉矶分校统计与数据科学系） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文通过比较儿童与神经网络在少量半监督类别学习任务中的表现，揭示了监督、特征结构和对齐在学习过程中的相互作用。

Why Self-Rewarding Works: Theoretical Guarantees for Iterative Alignment of Language Models

为何自我奖励有效：语言模型迭代对齐的理论保证

Shi Fu, Yingjie Wang, Shengchao Hu, Peng Wang, Dacheng Tao

机构 * Nanyang Technological University（南洋理工大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文通过理论分析揭示了自我奖励语言模型在迭代对齐中的有效性，证明了其性能随迭代次数呈指数衰减，并为线性softmax模型提供了定制化的理论保证。

Do Models Hear Like Us? Probing the Representational Alignment of Audio LLMs and Naturalistic EEG

模型是像我们一样听吗？探查音频大语言模型与自然EEG的表征对齐

Haoyun Yang, Xin Xiao, Jiang Zhong, Yu Tian, Dong Xiaohua, Yu Mao, Hao Wu, Kaiwen Wei

机构 * School of Computer Science, Chongqing University（重庆大学计算机科学学院） ； Dept. of Comp. Sci. and Tech., Institute for AI, Tsinghua University（清华大学计算机科学与技术系、人工智能研究院） ； School of Economics and Business Administration, Chongqing University（重庆大学经济与商业管理学院） ； School of Artificial Intelligence, Southwest University（西南大学人工智能学院） ； The First Affiliated Hospital of Chongqing Medical University（重庆医科大学第一附属医院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本研究通过比较音频大语言模型与EEG信号，揭示了模型在自然聆听中的表征对齐特性，发现排名依赖分裂、时空对齐模式及情感分离现象。

Diff4MMLiTS: Advanced Multimodal Liver Tumor Segmentation via Diffusion-Based Image Synthesis and Alignment

Diff4MMLiTS: 通过基于扩散的图像合成与对齐的先进多模态肝肿瘤分割

Shiyun Chen, Li Lin, Pujin Cheng, ZhiCheng Jin, JianJian Chen, HaiDong Zhu, Kenneth K. Y. Wong, Xiaoying Tang

机构 * Department of Electronic and Electrical Engineering, Southern University of Science and Technology, Shenzhen, China（电子与电气工程系，南方科技大学，深圳，中国） ； Department of Electrical and Electronic Engineering, The University of Hong Kong, Hong Kong SAR, China（电气与电子工程系，香港大学，香港特别行政区，中国） ； Department of Radiology, Zhongda Hospital, Medical School, Southeast University, Nanjing, China（放射科，中大医院，医学院，东南大学，南京，中国） ； Jiaxing Research Institute, Southern University of Science and Technology, Jiaxing, China（嘉兴研究所，南方科技大学，嘉兴，中国） 纠错

专题命中 其他安全 ：alignment(title)

AI总结 Diff4MMLiTS通过基于扩散的图像合成与对齐技术，实现肝肿瘤的多模态分割，无需严格对齐的多模态数据，提升了分割性能。

Comments International Workshop on Machine Learning in Medical Imaging, 668-678

LLM-Inspired Pretrain-Then-Finetune for Small-Data, Large-Scale Optimization

受大语言模型启发的小数据、大规模优化的预训练-微调方法

Zishi Zhang, Jinhui Han, Ming Hu, Yijie Peng

机构 * Guanghua School of Management, Peking University（北京大学光华管理学院） ； Rotman School of Management, University of Toronto（多伦多大学罗特曼管理学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种受大语言模型启发的预训练-微调方法，用于解决小数据下的大规模决策优化问题，通过预训练注入领域知识并利用合成数据，微调提升与真实数据的一致性。

Damba-ST: Domain-Adaptive Mamba for Efficient Urban Spatio-Temporal Prediction

Damba-ST: 域自适应Mamba用于高效的都市时空预测

Rui An, Yifeng Zhang, Ziran Liang, Wenqi Fan, Yuxuan Liang, Xuequn Shang, Qing Li

机构 * Northwestern Polytechnical University（西北工业大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港理工大学（广州）） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 Damba-ST通过域自适应Mamba模型提升都市时空预测的效率与泛化能力，解决跨域泛化难题。

Comments Accepted by ICDE 2026

Nüwa: Mending the Spatial Integrity Torn by VLM Token Pruning

Nüwa: 通过VLM令牌剪枝修复空间完整性

Yihong Huang, Fei Ma, Yihua Shao, Jingcai Guo, Zitong Yu, Laizhong Cui, Qi Tian

机构 * Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（人工智能与数字经济广东实验室） ； School of Artificial Intelligence, Xidian University（西安电子科技大学人工智能学院） ； The Hong Kong Polytechnic University（香港理工大学） ； Great Bay University（大鹏大学） ； Shenzhen University（深圳大学） ； Huawei（华为） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 Nüwa通过两阶段令牌剪枝框架在保持空间完整性的同时实现高效特征聚合，提升VQA和视觉定位任务性能

TraceNAS: Zero-shot LLM Pruning via Gradient Trace Correlation

TraceNAS: 通过梯度轨迹相关性实现零样本LLM剪枝

Prajna G. Malettira, Manish Nagaraj, Arjun Roy, Shubham Negi, Kaushik Roy

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 TraceNAS通过梯度轨迹相关性实现零样本LLM剪枝，高效发现高保真剪枝模型，减少GPU计算成本并提升模型性能。

Comments Preprint

Neural Thermodynamics: Entropic Forces in Deep and Universal Representation Learning

神经热力学：深度和通用表征学习中的熵力

Liu Ziyin, Yizhou Xu, Isaac Chuang

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出神经热力学理论，揭示深度学习中熵力与对称性打破对表征学习和优化行为的调控作用。

Comments Published at NeurIPS 2025

A Scene Graph Backed Approach to Open Set Semantic Mapping

基于场景图的开放集合语义映射方法

Martin Günther, Felix Igelbrink, Oscar Lima, Lennart Niecksch, Marian Renz, Martin Atzmueller

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出基于场景图的开放集合语义映射方法，通过实时更新三维语义场景图，实现大规模环境中的稳定、可验证的映射结构，提升感知与高层推理的一致性与效率。

Semantic Routing: Exploring Multi-Layer LLM Feature Weighting for Diffusion Transformers

语义路由：探索多层LLM特征加权用于扩散变换器

Bozhou Li, Yushuo Guan, Haolin Li, Bohan Zeng, Yiyan Ji, Yue Ding, Pengfei Wan, Kun Gai, Yuanxing Zhang, Wentao Zhang

机构 * Peking University（北京大学） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Nanjing University（南京大学） ； Fudan University（复旦大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出深度-wise语义路由方法，通过多层LLM特征加权提升文本到图像生成的准确性与稳定性。

Smell with Genji: Rediscovering Human Perception through an Olfactory Game with AI

用Genji嗅觉：通过AI嗅觉游戏重新发现人类感知

Awu Chen, Vera Yu Wu, Yunge Wen, Yaluo Wang, Jiaxuan Olivia Yin, Yichen Wang, Qian Xiang, Richard Zhang, Paul Pu Liang, Hiroshi Ishii

专题命中 其他安全 ：alignment(abstract)

AI总结 Smell with Genji通过AI嗅觉游戏重新发现人类感知，结合人机协作体验促进嗅觉反思与交互。