大模型对齐与安全

TherapyProbe: Generating Design Knowledge for Relational Safety in Mental Health Chatbots Through Adversarial Simulation

TherapyProbe: 通过对抗性模拟生成关系安全设计知识以改进心理健康聊天机器人

Joydeep Chandra, Satyam Kumar Navneet, Yong Zhang

机构 * BNRIST, Dept. of CST, Tsinghua University（北京理工大学（Tsinghua大学）） ； Independent Researcher（独立研究者） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 TherapyProbe通过对抗性模拟生成关系安全设计知识，帮助改进心理健康聊天机器人的交互模式质量。

LEDA: Latent Semantic Distribution Alignment for Multi-domain Graph Pre-training

LEDA：用于多领域图预训练的潜在语义分布对齐

Lianze Shan, Jitao Zhao, Dongxiao He, Siqi Liu, Jiaxu Cui, Weixiong Zhang

机构 * Tianjin University（天津大学） ； Jilin University（吉林大学） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 LEDA通过潜在语义分布对齐方法，提升多领域图预训练的通用性和跨领域性能。

Comments Accepted by WWW-26, 12 pages, 2 figures

Mind the Gap in Cultural Alignment: Task-Aware Culture Management for Large Language Models

注意文化契合差距：面向任务的文化管理用于大语言模型

Binchi Zhang, Xujiang Zhao, Jundong Li, Haifeng Chen, Zhengzhang Chen

机构 * University of Virginia（弗吉尼亚大学） ； NEC Laboratories America（NEC美洲实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出CultureManager，一种面向任务的文化管理方法，通过任务感知的文化数据对齐和文化路由器管理，提升大语言模型在文化敏感任务中的表现。

Towards LLM-Empowered Knowledge Tracing via LLM-Student Hierarchical Behavior Alignment in Hyperbolic Space

基于大语言模型的知识追踪：通过超几何空间中的LLM-学生层次行为对齐

Xingcheng Fu, Shengpeng Wang, Yisen Gao, Xianxian Li, Chunpei Li, Qingyun Sun, Dongran Yu

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出L-HAKT框架，通过超几何空间中的层次行为对齐，提升知识追踪对认知状态层次演化和个性化问题难度感知的建模能力。

Comments 9 pages, 6 figures, Accepted to AAAI 2026

TADA: A Generative Framework for Speech Modeling via Text-Acoustic Dual Alignment

TADA: 一种通过文本-语音双模对齐生成语音模型的框架

Trung Dang, Sharath Rao, Ananya Gupta, Christopher Gagne, Panagiotis Tzirakis, Alice Baird, Jakub Piotr Cłapa, Peter Chin, Alan Cowen

机构 * Hume AI ； Dartmouth College（达特茅斯学院） 纠错

专题命中 其他安全 ：alignment(title)

AI总结 TADA通过文本-语音双模对齐生成框架，实现语音与文本的一对一同步建模，提升语音生成的保真度和效率，减少幻觉并降低推理成本。

Latent Introspection: Models Can Detect Prior Concept Injections

潜在自我反思：模型可以检测先前概念注入

Theia Pearson-Vogel, Martin Vanek, Raymond Douglas, Jan Kulveit

机构 * ACS Research, CTS, Charles University（ACS研究机构、CTs、查尔斯大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 Qwen 32B模型能检测并识别先前注入的概念，通过提供准确的AI自我反思机制信息可显著提升检测效果，同时提高注入概念间的互信息。

Comments 28 pages, 17 figures. Submitted to ICML 2026. Workshop version submitted to ICLR 2026 Workshop on Latent and Implicit Thinking

Search-P1: Path-Centric Reward Shaping for Stable and Efficient Agentic RAG Training

Search-P1: 基于路径的奖励塑造用于稳定且高效的代理RAG训练

Tianle Xia, Ming Xu, Lingxiang Hu, Yiding Sun, Wenwei Li, Linfang Shang, Liqun Liu, Peng Shu, Huan Yu, Jie Jiang

机构 * Tencent（腾讯） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 Search-P1通过路径中心奖励塑造提升代理RAG训练的稳定性和效率，实现7.7个百分点的准确率提升。

Differentiable Zero-One Loss via Hypersimplex Projections

通过超简单面投影实现可微零一损失

Camilo Gomez, Pengyang Wang, Liansheng Tang

机构 * School of Data, Mathematical, and Statistical Sciences, University of Central Florida, Orlando, USA（数据、数学与统计科学学院，中央佛罗里达大学，奥兰多，美国） ； Department of CIS, University of Macau, Macao, China（信息与系统系，澳门大学，澳门，中国） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出了一种可微的零一损失近似方法，通过超简单面投影和Soft-Binary-Argmax操作符，提升大批次训练下的模型泛化能力。

Comments To appear in PAKDD 2026 (Pacific-Asia Conference on Knowledge Discovery and Data Mining), 12 pages

Dyslexify: A Mechanistic Defense Against Typographic Attacks in CLIP

Dyslexify: 一种针对CLIP中印刷攻击的机制性防御

Lorenz Hufe, Constantin Venhoff, Erblina Purelku, Maximilian Dreyer, Sebastian Lapuschkin, Wojciech Samek

机构 * Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所） ； University of Oxford（牛津大学） ； Technological University Dublin（都柏林技术大学） ； Technische Universität Berlin（柏林技术大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 Dyslexify通过消融CLIP中的印刷电路，有效防御印刷攻击，提升性能并保持应用安全性。

SAFARI: A Community-Engaged Approach and Dataset of Stereotype Resources in the Sub-Saharan African Context

SAFARI：一种社区参与的方法和撒哈拉以南非洲语境下的刻板印象资源数据集

Aishwarya Verma, Laud Ammah, Olivia Nercy Ndlovu Lucas, Andrew Zaldivar, Vinodkumar Prabhakaran, Sunipa Dev

机构 * Google Research（谷歌研究） ； RAIN Africa（RAIN非洲） ； Mantaray Africa（Mantaray非洲） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL

AI总结 SAFARI通过社区参与方法构建了覆盖四个撒哈拉以南非洲国家的多语言刻板印象资源数据集，旨在填补NLP资源的空白。

Data-Driven Supervision of a Thermal-Hydraulic Process Towards a Physics-Based Digital Twin

数据驱动的热力过程监督以实现基于物理的数字孪生

Osimone Imhogiemhe, Yoann Jus, Hubert Lejeune, Saïd Moussaoui

机构 * Nantes Univ., Centrale Nantes LS2N, CNRS UMR 6004 F-44000 Nantes, France ； Fluid \& Sealing Technologies CETIM Nantes, France 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出了一种基于物理的数字孪生方法，通过数值模拟和机器学习实现热力过程的故障检测与诊断，验证了其在参数变化检测中的有效性。

Journal ref International Conference on Control, Automation and Diagnosis, Jul 2025, Barcelona (ES), Spain

Spectrally Distilled Representations Aligned with Instruction-Augmented LLMs for Satellite Imagery

基于指令增强大语言模型的光谱蒸馏表示用于卫星图像

Minh Kha Do, Wei Xiang, Kang Han, Di Wu, Khoa Phan, Yi-Ping Phoebe Chen, Gaowen Liu, Ramana Rao Kompella

机构 * La Trobe University（拉特罗布大学） ； Cisco Research（思科研究） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 SATtxt通过光谱蒸馏和指令增强大语言模型实现卫星图像的光谱感知视觉-语言学习，提升了零样本分类、检索和线性探测性能。

Layer-Targeted Multilingual Knowledge Erasure in Large Language Models

多语言知识擦除中的层目标知识擦除

Taoran Li, Varun Chandrasekaran, Zhiyuan Yu

专题命中 其他安全 ：alignment(abstract)

AI总结 MUTE通过识别语言无关的中间层实现多语言知识擦除，解决了LLMs中跨语言反向学习的泛化问题。

Seeing Graphs Like Humans: Benchmarking Computational Measures and MLLMs for Similarity Assessment

像人类一样看图：通过计算度量和MLLMs进行相似性评估的基准测试

Seokweon Jung, Jeongmin Rhee, Seoyoung Doh, Hyeon Jeon, Ghulam Jilani Quadri, Jinwook Seo

专题命中 其他安全 ：alignment(abstract)

AI总结 本文通过实验比较了计算度量和MLLMs在图相似性评估中的表现，发现MLLMs，特别是GPT-5，在匹配人类感知方面表现优异，能提供可解释的推理理由。

Comments 21 pages including 1 page of appendix, 9 figures, 4 tables

BeamVLM for Low-altitude Economy: Generative Beam Prediction via Vision-language Models

BeamVLM 用于低空经济：通过视觉-语言模型进行生成式波束预测

Chenran Kou, Changsheng You, Mingjiang Wu, Dingzhu Wen, Zezhong Zhang, Chengwen Xing

专题命中 其他安全 ：alignment(abstract)

AI总结 BeamVLM 通过视觉-语言模型实现生成式波束预测，提升无人机与地面基站间通信的准确性和泛化能力。

Comments We propose a novel end-to-end generative framework for beam prediction by using vision-language models

D3MAS: Decompose, Deduce, and Distribute for Enhanced Knowledge Sharing in Multi-Agent Systems

D3MAS：分解、推断与分配以增强多智能体系统中的知识共享

Heng Zhang, Yuling Shi, Xiaodong Gu, Haochen You, Zijian Zhang, Lubin Gan, Yilei Yuan, Jin Huang

专题命中 其他安全 ：alignment(abstract)

AI总结 D3MAS通过分层协调框架减少多智能体系统中的知识冗余，提升推理准确性。

Comments This submission has been withdrawn by the authors due to a fundamental error in the methodology that affects the validity of the main results