大模型对齐与安全

AlignMerge - Alignment-Preserving Large Language Model Merging via Fisher-Guided Geometric Constraints

AlignMerge - 通过Fisher引导的几何约束实现的保持对齐的大语言模型合并

Aniruddha Roy, Jyoti Patel, Aman Chadha, Vinija Jain, Amitava Das

机构 * AI Institute, University of South Carolina（AI研究院，南卡罗来纳大学） ； Indian Institute of Technology, Kharagpur（印度理工学院，Khargpur分校） ； Islamic University of Technology（伊斯兰科技大学） ； Stanford University, USA（斯坦福大学，美国） ； Amazon AI, USA（亚马逊AI，美国） ； HCL（HCL公司） ； Evalueserve（Evalueserve公司） ； Apple (USA)（苹果（美国）） ； Google (USA)（谷歌（美国）） ； Pragya Lab, BITS Pilani, Goa（Pragya实验室， BITS Pilani，Goa分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；safety(abstract)；分类 cs.AI

AI总结 AlignMerge通过Fisher引导的几何约束实现大语言模型合并，提升对齐度量并保持性能。

C-DGPA: Class-Centric Dual-Alignment Generative Prompt Adaptation

面向类别的双对齐生成提示适应：C-DGPA

Chao Li, Dasha Hu, Chengyang Li, Yuming Jiang, Yuncheng Shen

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 C-DGPA通过双分支架构协同优化边缘分布和条件分布对齐，提升无监督领域适应中提示学习的领域不变性和语义判别性。

MAIN: Mutual Alignment Is Necessary for instruction tuning

MAIN：互斥对齐是指令微调的必要条件

Fanyi Yang, Jianfeng Liu, Xin Zhang, Haoyu Liu, Xixin Cao, Yuefeng Zhan, Hao Sun, Weiwei Deng, Feng Sun, Qi Zhang

机构 * Peking University（北京大学） ； Microsoft Corporation（微软公司） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出MAIN框架，通过互斥约束增强指令与响应的一致性，提升LLM在多种基准上的性能。

Comments Accepted by EMNLP 2025

A Token is Worth over 1,000 Tokens: Efficient Knowledge Distillation through Low-Rank Clone

一个标记值超过1000个标记：通过低秩克隆实现高效的知识蒸馏

Jitai Hao, Qiang Huang, Hao Liu, Xinyan Xiao, Zhaochun Ren, Jun Yu

机构 * School of Intelligence Science and Engineering, Harbin Institute of Technology, Shenzhen（哈尔滨工业大学智能科学与工程学院） ； Baidu Inc.（百度公司） ； Leiden University（莱顿大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出低秩克隆方法，通过高效预训练实现小语言模型在训练效率和性能上的突破。

Comments NeurIPS 2025 Spotlight

Seeing Beyond Words: Self-Supervised Visual Learning for Multimodal Large Language Models

超越文字：面向多模态大语言模型的自监督视觉学习

Davide Caffagni, Sara Sarto, Marcella Cornia, Lorenzo Baraldi, Pier Luigi Dovesi, Shaghayegh Roohi, Mark Granroth-Wilding, Rita Cucchiara

机构 * University of Modena and Reggio Emilia（摩德纳和雷吉奥艾米利亚大学） ； AMD Silo AI 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 JARVIS通过自监督视觉学习提升多模态大语言模型的视觉推理能力，无需依赖语言监督。

Anubuddhi: A Multi-Agent AI System for Designing and Simulating Quantum Optics Experiments

Anubuddhi：一种用于设计和模拟量子光学实验的多智能体AI系统

S. K. Rithvik

机构 * Quantum Science and Technology Laboratory（量子科学与技术实验室） ； Physical Research Laboratory（物理研究所） ； Indian Institute of Technology Gandhinagar（印度理工学院冈格里分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 Anubuddhi通过多智能体系统实现自然语言提示下的量子光学实验设计与模拟，支持灵活数学表示，提升实验设计民主化。

MEPIC: Memory Efficient Position Independent Caching for LLM Serving

MEPIC：内存高效的无位置依赖缓存用于大语言模型服务

Qian Wang, Zahra Yousefijamarani, Morgan Lindsay Heisler, Rongzhi Gu, Bai Xiaolong, Shan Yizhou, Wei Zhang, Wang Lan, Ying Xiong, Yong Zhang, Zhenan Fan

机构 * Huawei Technologies Canada Co., Ltd.（华为技术加拿大有限公司） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 MEPIC通过内存高效的无位置依赖缓存技术，实现跨请求和批次的片段KV重用，显著减少HBM使用量，提升大语言模型服务性能。

AuON: A Linear-time Alternative to Orthogonal Momentum Updates

AuON: 一种线性时间的替代正交动量更新方法

Dipan Maity

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 AuON是一种线性时间优化器，通过归一化非线性缩放实现替代单位范数动量更新，无需近似正交矩阵，有效处理爆炸性注意力logits并在语言建模任务中优于Muon

Open Ad-hoc Categorization with Contextualized Feature Learning

开放性即需分类与上下文化特征学习

Zilin Wang, Sangwoo Mo, Stella X. Yu, Sima Behpour, Liu Ren

机构 * University of Michigan（密歇根大学） ； UC Berkeley（加州大学伯克利分校） ； Bosch Center for AI（博世人工智能中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 OAK通过引入上下文标记和结合CLIP与GCD目标，实现了开放性即需分类的高准确率和可解释性。

Comments 26 pages, 17 figures

Journal ref CVPR 2025

Feasibility of Radio Frequency Based Wireless Sensing of Lead Contamination in Soil

基于无线电频率的土壤铅污染无线传感可行性研究

Yixuan Gao, Tanvir Ahmed, Mikhail Mohammed, Zhongqi Cheng, Rajalakshmi Nandakumar

机构 * Brooklyn College of the City University of New York（纽约市立大学布鲁克林学院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出基于无线电频率的SoilScanner系统，用于检测土壤中的铅污染，通过实验验证其在不同盐类下的信号反射特性，实现72%的准确率分类。

Comments 12 pages, 12 Figures, International Conference on Embedded Wireless Systems and Networks, https://ewsn.org/file-repository/ewsn2024/ewsn24-final99.pdf, Best Paper Award of EWSN2024

UniVCD: A New Method for Unsupervised Change Detection in the Open-Vocabulary Era

UniVCD：面向开放词汇时代的无监督变化检测新方法

Ziqiang Zhu, Bowei Yang

机构 * School of Aeronautics and Astronautics, Zhejiang University（航空宇航学院，浙江大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 UniVCD是一种基于冻结视觉基础模型的无监督开放词汇变化检测方法，通过轻量级多模态对齐实现高分辨率语义感知变化检测。

Comments 10 pages, 6 figures

R3ST: A Synthetic 3D Dataset With Realistic Trajectories

R3ST：一个具有真实轨迹的合成3D数据集

Simone Teglia, Claudia Melis Tonti, Francesco Pro, Leonardo Russo, Andrea Alfarano, Leonardo Pentassuglia, Irene Amerini

机构 * Sapienza University of Rome（萨皮恩扎罗马大学） ； INSAIT ； EURECOM 纠错

专题命中 其他安全 ：safety(abstract)

AI总结 R3ST数据集通过生成真实轨迹和3D环境，提供准确的多模态标注，提升道路车辆轨迹预测研究

Journal ref Computer Analysis of Images and Patterns. CAIP 2025

From Words to Wavelengths: VLMs for Few-Shot Multispectral Object Detection

从词语到波长：用于少样本多光谱目标检测的视觉语言模型

Manuel Nkegoum, Minh-Tan Pham, Élisa Fromont, Bruno Avignon, Sébastien Lefèvre

机构 * Univ Bretagne Sud, IRISA, UMR 6074（布列塔尼大学，IRISA，UMR 6074） ； Univ Rennes, IRISA, UMR 6074（里尔大学，IRISA，UMR 6074） ； ATERMES ； UiT The Arctic University of Norway（北欧大学） 纠错

专题命中 其他安全 ：safety(abstract)

AI总结 本文提出利用视觉语言模型进行少样本多光谱目标检测，通过整合文本、视觉和热模态，在数据稀缺情况下实现高效检测。

Exploiting Domain Properties in Language-Driven Domain Generalization for Semantic Segmentation

利用领域特性进行语言驱动的领域泛化以实现语义分割

Seogkyu Jeon, Kibeom Hong, Hyeran Byun

机构 * Yonsei University（延世大学） ； Sookmyung Women’s University（淑明女子大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出DPMFormer框架，通过领域感知提示学习和对比学习提升语义分割的领域泛化能力。

Comments ICCV 2025 (poster)

HyperET: Efficient Training in Hyperbolic Space for Multi-modal Large Language Models

HyperET: 在超几何空间中为多模态大语言模型实现高效训练

Zelin Peng, Zhengqin Xu, Qingyang Liu, Xiaokang Yang, Wei Shen

机构 * MoE Key Lab of Artificial Intelligence, AI Institute, School of Computer Science, SJTU（摩埃人工智能重点实验室、人工智能学院、计算机科学学院、上海交通大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 HyperET通过在双曲空间中动态调整半径，实现多模态大语言模型的高效训练，提升跨模态对齐性能。

Comments Accepted by NeurIPS2025 (Oral)

Accessible and Pedagogically-Grounded Explainability for Human-Robot Interaction: A Framework Based on UDL and Symbolic Interfaces

可及且以教学为导向的机器人可解释性：基于UDL和符号接口的框架

Francisco J. Rodríguez Lera, Raquel Fernández Hernández, Sonia Lopez González, Miguel Angel González-Santamarta, Francisco Jesús Rodríguez Sedano, Camino Fernandez Llamas

机构 * Grupo de Robótica , EIIIA Campus de Vegazana, Universidad de León（机器人组，EIIIA校区，莱昂大学） ； C.E.E. Ntra. Sra. Del Sagrado Corazón（圣心宗女会） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出基于UDL和符号接口的框架，旨在通过多模态解释板提升人机交互中不同需求用户的可解释性与教学导向性。

Comments 6 pages, 6 figures