大模型对齐与安全

Reasoning Meets Representation: Envisioning Neuro-Symbolic Wireless Foundation Models

推理与表征的结合：展望神经符号无线基础模型

Jaron Fontaine, Mohammad Cheraghinia, John Strassner, Adnan Shahid, Eli De Poorter

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出神经符号无线基础模型，结合神经网络与符号推理，以解决无线通信中的可解释性、鲁棒性和合规性问题，推动6G网络的智能化发展。

Comments Accepted at the 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: AI and ML for Next-Generation Wireless Communications and Networking (AI4NextG)

Beyond Patches: Mining Interpretable Part-Prototypes for Explainable AI

超越补丁：挖掘可解释的部分原型用于可解释AI

Mahdi Alehdaghi, Rajarshi Bhattacharya, Pourya Shamsolmoali, Rafael M. O. Cruz, Maguelonne Heritier, Eric Granger

专题命中 安全评测 ：alignment(abstract)

AI总结 PCMNet通过挖掘可解释的部分原型提升AI系统的可解释性、稳定性和鲁棒性，为构建可靠且一致的AI系统提供新方法。

Reasoning Guided Embeddings: Leveraging MLLM Reasoning for Improved Multimodal Retrieval

基于推理的嵌入：利用多模态大语言模型推理提升多模态检索

Chunxu Liu, Jiyuan Yang, Ruopeng Gao, Yuhan Zhu, Feng Zhu, Rui Zhao, Limin Wang

机构 * State Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； Sensetime Research（商汤科技研究院） ； Beijing Institute of Technology（北京理工大学） ； Shanghai AI Lab（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出基于推理的嵌入方法，利用多模态大语言模型的推理能力提升多模态检索性能。

Interpretability as Alignment: Making Internal Understanding a Design Principle

可解释性作为对齐：使内部理解成为设计原则

Aadit Sengupta, Pratinav Seth, Vinay Kumar Sankarapu

机构 * Lexsi Labs（Lexsi实验室） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出将可解释性作为设计原则，通过机理可解释性构建私营AI治理的基础设施，实现技术可靠性与制度问责的结合。

Comments Accepted at the first EurIPS Workshop on Private AI Governance

Diagnosing the Performance Trade-off in Moral Alignment: A Case Study on Gender Stereotypes

在道德一致性中的性能权衡诊断：关于性别刻板印象的案例研究

Guangliang Liu, Bocheng Chen, Han Zi, Xitong Zhang, Kristen Marie Johnson

机构 * Michigan State University（密歇根州立大学） ； University of Mississippi（密苏里大学） ； Northeastern University（东北大学） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文通过分析性别刻板印象缓解中的性能权衡，发现当前公平性目标存在局限，整体遗忘与下游任务性能密切相关，选择性遗忘无法有效降低整体遗忘。

Bridging the Gap in XAI-Why Reliable Metrics Matter for Explainability and Compliance

弥合XAI差距：可靠度量在可解释性与合规性中的重要性

Pratinav Seth, Vinay Kumar Sankarapu

机构 * Lexsi Labs（Lexsi实验室） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出以度量治理的范式，通过标准化指标提升AI系统的可解释性和合规性，防止对齐造假，构建持续的AI保证流程。

Comments Accepted at first EurIPS Workshop on Private AI Governance

RE for AI in Practice: Managing Data Annotation Requirements for AI Autonomous Driving Systems

在实践中为AI管理数据标注需求：为AI自主驾驶系统管理数据标注要求

Hina Saeeda, Mazen Mohamad, Eric Knauss, Jennifer Horkoff, Ali Nouri

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本研究通过实证分析，探讨了自动驾驶系统中数据标注需求的定义、挑战及最佳实践，为提升AI系统可靠性提供指导。

Writing With Machines and Peers: Designing for Critical Engagement with Generative AI

用机器和同伴写作：设计促进生成式AI批判性参与的方法

Xinran Zhu, Cong Wang, Duane Searsmith

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本研究提出一种整合AI与同伴反馈的教学设计，通过八周的写作活动，探讨学生如何批判性地使用生成式AI并建立与AI和人类的协作关系。

Formal Abductive Latent Explanations for Prototype-Based Networks

基于原型网络的正式归纳性隐式解释

Jules Soria, Zakaria Chihani, Julien Girard-Satabin, Alban Grastien, Romain Xu-Darme, Daniela Cancila

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文提出基于原型网络的正式归纳性隐式解释方法，通过形式化方法提升模型可解释性，适用于图像分类任务。

Comments Accepted at AAAI-26

Physics-Informed Machine Learning for Efficient Sim-to-Real Data Augmentation in Micro-Object Pose Estimation

基于物理的机器学习用于微物体位姿估计中的高效仿真到现实数据增强

Zongcai Tan, Lan Wei, Dandan Zhang

机构 * Department of Bioengineering, Imperial-X Initiative, Imperial College London（生物工程系、Imperial-X计划、帝国理工学院伦敦分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于物理的深度生成学习框架，通过整合波动光学和深度对齐，高效生成高保真显微镜图像，提升微机器人位姿估计的精度与效率。

How many patients could we save with LLM priors?

使用 LLM 先验知识能挽救多少患者？

Shota Arai, David Selby, Andrew Vargo, Sebastian Vollmer

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 利用LLM生成的先验知识优化多中心临床试验中的不良事件建模，提高预测性能并减少患者数量需求。

Comments 9 pages, 4 figures

Discriminating Form and Meaning in Multilingual Models with Minimal-Pair ABX Tasks

通过最小对ABX任务区分多语言模型中的形式与意义

Maureen de Seyssel, Jie Chi, Skyler Seto, Maartje ter Hoeve, Masha Fedzechkina, Natalie Schluter

机构 * Apple（苹果公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 通过最小对ABX任务研究多语言模型中形式与意义的区分能力，揭示了语言识别和语义识别在训练过程中的变化规律。

Comments Comments: Published in EMNLP 2025. https://aclanthology.org/2025.emnlp-main.1210.pdf

Beyond Visual Cues: Leveraging General Semantics as Support for Few-Shot Segmentation

超越视觉线索：利用通用语义作为少样本分割的支持

Jin Wang, Bingfeng Zhang, Jian Pang, Mengyu Liu, Honglong Chen, Weifeng Liu

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出语言驱动属性泛化架构，通过多属性增强和多模态对齐提升少样本分割性能，实现新的最佳效果。

vMFCoOp: Towards Equilibrium on a Unified Hyperspherical Manifold for Prompting Biomedical VLMs

vMFCoOp：在统一超球面流形上实现平衡的提示生物医学VLMs

Minye Shao, Sihan Guo, Xinrun Li, Xingyu Miao, Haoran Duan, Yang Long

专题命中 其他安全 ：alignment(abstract)

AI总结 vMFCoOp通过统一超球面流形上的vMF分布估计，实现LLM与CLIP主干间的语义对齐，提升生物医学VLMs的提示效果和少样本分类性能。

Comments Accepted as an Oral Presentation at AAAI 2026 Main Technical Track (this version is not peer-reviewed; it is the extended version)

UINO-FSS: Unifying Representation Learning and Few-shot Segmentation via Hierarchical Distillation and Mamba-HyperCorrelation

UINO-FSS: 通过层次化蒸馏和Mamba-超相关性统一表示学习与少样本分割

Wei Zhuo, Zhiyue Tang, Wufeng Xue, Hao Ding, Junkai Ji, Linlin Shen

机构 * School of Artificial Intelligence and the National Engineering Laboratory of Big Data System Computing Technology, Shenzhen University（人工智能学院和大数据系统计算技术国家工程实验室，深圳大学） ； Guangdong Provincial Key Laboratory of Intelligent Information Processing, China（广东省智能信息处理重点实验室，中国） ； School of Biomedical Engineering, Shenzhen University Medical School, Shenzhen University（生物医学工程学院，深圳大学医学院，深圳大学） ； Department of Computer Science, University of Nottingham Ningbo China（计算机科学系，宁波大学中国） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 UINO-FSS通过层次化蒸馏和Mamba-超相关性整合不同基础模型知识，实现少样本分割的统一学习框架，取得新SOTA结果。