大模型对齐与安全

From "What-If" to "What-Is": Counterfactual Thinking-Inspired Semantic Alignment for Visual Brain Decoding

从“假设”到“事实”：面向视觉脑解码的反事实思维启发语义对齐

Kaitao Yan, Chi Liu, Congcong Zhu, Huajie Chen, Gengshen Wu, Minghao Wang, Xiaotong Han, Tianqing Zhu

专题命中 安全评测 ：alignment(title,abstract)

AI总结 提出ConceptAlign框架，通过反事实语义对齐解决视觉脑解码的语义错误问题，在自然场景数据集上相比MindEye2提升了重构、语义区分等指标。

Comments Under Review

Who Tests the Testers? Systematic Enumeration and Coverage Audit of LLM Agent Tool Call Safety

谁测试测试者？LLM代理工具调用安全的系统枚举与覆盖审计

Xuan Chen, Lu Yan, Ruqi Zhang, Xiangyu Zhang

专题命中 安全评测 ：safety(title,abstract)

AI总结 本文提出SafeAudit框架，通过系统生成测试用例和规则阻力指标，发现现有测试未覆盖的20%不安全行为，揭示当前安全评估的不足。

Optimal Transport-based Semantic Alignment for LLM-based Audio-Visual Speech Recognition

基于最优传输的基于大语言模型的视听语音识别语义对齐

Xugang Lu, Peng Shen, Yu Tsao, Hisashi Kawai

专题命中 安全评测 ：alignment(title,abstract)

AI总结 研究基于大语言模型的视听语音识别，提出基于最优传输的语义对齐框架，通过在多模态融合前对齐声学和视觉表征弥合模态差距，经实验验证该方法能有效提升性能，在多种条件下达到最优。

What Breaks When LLMs Code? Characterizing Operational Safety Failures of Agentic Code Assistants

当LLM编码时会出现什么问题？表征自主代码助手的操作安全故障

Alif Al Hasan, Sumon Biswas

专题命中 安全评测 ：safety(title,abstract)

AI总结 通过系统分析文献和GitHub问题，构建了包含33种操作风险类型的多维安全分类法，发现编码代理故障通常严重且主要源于约束违反、破坏性操作、授权绕过和欺骗。

Comments This paper is accepted to the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE 2026), Research Track

SemDINO: Foundation Prior-Guided Cross-Temporal Semantic Alignment Network for Remote Sensing Change Detection

SemDINO: 一种基于DINOv3的跨时间语义对齐变化检测网络

Xinyu Tong, Meihua Zhou, Jinxiao Sun, Zaiyan Zhang, Hongruixuan Chen, Lei Wang

机构 * Xinjiang Institute of Ecology and Geography, Chinese Academy of Sciences（中国科学院新疆生态与地理研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； School of Computer Science, Xiangtan University（湘潭大学计算机科学学院） ； College of Information and Communication Engineering, Harbin Engineering University（哈尔滨工程大学信息与通信工程学院） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 提出SemDINO网络，通过双分支编码器、多尺度时序交互、语义净化与变化增强模块，解决语义变化检测中跨时间对齐不足、多尺度表示弱及伪变化鲁棒性差的问题。

Embedding Large Language Models into Flow Controls: An Agentic Framework for Adaptive and Trustworthy Automated Cooking

将大语言模型嵌入流程控制：一种用于自适应且可信的自动化烹饪的智能体框架

Zihan Song, Hongwei Huang, Yueshuo Sun, Yonglin Tian, Fei-Yue Wang, Bai Li

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 针对自动化烹饪机器人的个性化与可信性问题，提出智能体框架，通过多智能体分解需求、分阶段生成执行代码，实验验证其在真实场景中可靠且实用。

Trie-Constrained Token Prediction with Hierarchy-Aware Semantic Alignment for HS Code Prediction

结合前缀树约束的令牌预测与层级感知语义对齐的HS编码预测

Minseop Kim, Taekhyun Park, Kikun Park, Hyerim Bae

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本研究提出TRIE-HSA方法，结合前缀树约束的令牌预测与层级感知语义对齐，在集装箱码头数据实验中，其HS6准确率较零样本推理提升49.96个百分点，为受限环境下的HS编码预测提供实用方案。

TCellAlign: Cross-study T-cell Populations Alignment with Nomenclature-Guided Multi-Agent Workflow

TCellAlign：使用命名法引导的多智能体工作流程进行跨研究 T 细胞群体对齐

Pengyu Xie, Rongjia Zhou, Zhilin Ou, Junyuan Zhang, Xiang Zhou, Xiaobo Sun, Jiaying Lu, Wenjing Ma

专题命中 安全评测 ：alignment(title,abstract)

AI总结 该研究针对跨研究 T 细胞群体对齐难题，提出 TCellAlign 多智能体框架，含文献检索等模块，能保留原始术语与证据并生成标准化标签。构建基准数据集，实验表明其在语义一致性等方面表现出色，助力 T 细胞相关知识整合与模型发展。

Best-of-$N$ TTS Evaluation is Confounded by ASR Family Alignment

N选最佳语音合成评估受自动语音识别家族对齐的影响

Taehyung Yu, Seongjae Kang

专题命中 安全评测 ：alignment(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究发现最佳N选语音合成评估受ASR家族对齐影响，同家族验证器-评估器对效果更好。提出两种跨家族排名集成方法，能降低平均词错误率，建议交叉评估器三角测量作为默认报告实践。

Comments Accepted at ICML 2026 Workshop on Machine Learning for Audio

ECHO-PPI: Evidence-Bundled Overlapping Protein Module Detection with Hierarchical Assignment Confidence for Network Biology

ECHO-PPI：用于蛋白质-蛋白质相互作用网络中重叠蛋白质模块检测的可信人工智能

Sima Soltani, Mehrdad Jalali, Yahya Forghani, Reza Sheibani

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 提出ECHO-PPI框架，通过整合加权网络拓扑、语义蛋白特征和基因本体证据，实现可解释的重叠蛋白质模块检测，并为每个分配提供证据分数和置信度标签。

Comments 39 pages, 15 figures, 12 tables, and 8 algorithm descriptions. The manuscript presents ECHO-PPI, an original computational biology framework evaluated on the Gavin and Krogan yeast PPI benchmarks and compared with MCL, MCL+overlap, ClusterONE, and SLPA. Reproducibility scripts, code, machine-readable outputs, and appendices are included in the submission package

Latent Denoising Improves Visual Alignment in Large Multimodal Models

潜在去噪提升大多模态模型的视觉对齐

Dhruv Parikh, Jacob Fein-Ashley, Rajgopal Kannan, Viktor Prasanna

机构 * University of Southern California（南加州大学） ； DEVCOM ARL Army Research Office（DEVCOM ARL陆军研究办公室） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本文提出通过潜在去噪框架改进大多模态模型的内部视觉特征对齐和多模态理解，采用掩码和高斯噪声混合腐蚀视觉token，并利用解码器恢复教师特征，提升模型在分布偏移下的鲁棒性。

Comments ACM MM 2026

Safety Invariants for Agents Orchestrating Irreversible State Transitions: A Four-Dimensional Formalism Evaluated on Public Ledgers

编排不可逆状态转换的智能体的安全不变量：在公共账本上评估的四维形式主义

Zhaoming Yin

专题命中 安全评测 ：safety(title,abstract)

AI总结 该研究针对编排不可逆状态转换的智能体，提出四维形式主义与七个安全不变量，在公共账本场景下验证其可提升智能体安全栈通过率，且可推广至其他不可逆状态交互场景。

Comments 29 pages, 8 figures, 7 tables

SafeBuild-Bench: A Temporal-Robust Construction Safety Benchmark with Graph-Enhanced Data Mining

SafeBuild-Bench：一种具有图增强数据挖掘能力的时序鲁棒建筑安全基准

Yi Cui, Zilin Wang, Yijie Xu, Qianyi Cai, Huizai Yao, Shuai Jiang, Bingzhuo Zhong, Hui Xiong

机构 * Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 研究人员构建了图增强数据挖掘的时序鲁棒建筑安全基准SafeBuild-Bench，开发可扩展验证的GEMS流水线，发现现有多模态大语言模型对建筑安全理解仍不足。

Comments Accepted by KDD 2026. 12 pages, 6 figures

The Illusion of Safety: Multi-Tier Verification of AI vs. Human C++ Code

安全的假象：AI与人类C++代码的多层验证

Saif Mahmud, Fadul Sikder, Yuede Ji, Haotian Zhang, Yu Lei

专题命中 安全评测 ：safety(title,abstract)

AI总结 提出VULBENCH-CPP基准，通过四层验证发现AI生成C++代码的运行时违规率约为人类代码的两倍，静态分析会因代码长度产生安全假象。

An Analysis Focused on Womens Safety: Can VAD Models Be Enhanced by a Multi-modal Dataset?

聚焦女性安全分析：多模态数据集能否增强VAD模型？

Sangeeta ., Maddikuntla Sai Prajwal, Debi Prosad Dogra, Kamalakar Vijay Thakare, Hyungjoo Jung, Ig-Jae Kim, Heeseung Choi

机构 * Indian Institute of Technology Bhubaneswar（印度理工学院巴特那分校） ； Artificial Intelligence and Robotics Institute, Korea Institute of Science and Technology（人工智能与机器人研究所，韩国科学技术院） ； Yonsei-KIST Convergence Research Institute, Yonsei University（延世大学KIST融合研究中心） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 针对现有视频异常检测数据集缺乏女性中心异常样本的问题，提出包含1001个视频及文本描述的多模态基准ExtrAnom，覆盖5种犯罪类型，并验证了多模态方法在检测女性中心异常上的有效性。

Comments 15 pages, 8 figures, 6 tables

Mode 0: Architecture, Risk Taxonomy, and Standardization Pathway for RCU-Assisted V2X Safety Communication

模式0：面向路侧计算单元辅助安全通信的新型3GPP V2X资源分配类别

Dewei Jiang, Xiang Gu

专题命中 安全评测 ：safety(title,abstract)

AI总结 针对现有3GPP V2X资源分配框架中基站与车辆UE二元分类的结构性缺陷，提出以路侧计算单元（RCU）为核心实体的新模式0，通过集成感知、通信与计算能力，实现高密度交通场景下的低延迟安全通信，并利用MAPPO仿真验证了其性能优势。

Comments v4: substantial restructure; new sections on institutional authority, escalation security, and pool sizing; title revised; references expanded to 34. 44 pages, 7 figures, 4 tables

The Case for Vibe Modeling: A Missing Step in AI-Based Trustworthy Software Development

氛围建模的必要性：基于AI的可信软件开发中缺失的一环

Shalini Chakraborty, Michael Mittermaier, Judith Michael

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 本文提出在AI辅助软件开发中引入氛围建模作为轻量中间抽象，通过学生调查验证其在提升LLM输出理解、降低验证工作量及增强信任方面的潜力，为可信AI软件工程研究提供方向。

Comments 7 pages, 1 figure

TrustChain-Review: A Risk-Adaptive Blockchain and Game-Theoretic Framework for Trustworthy AI-Assisted Code Review

TrustChain-Review：一种用于可信AI辅助代码审查的风险自适应区块链与博弈论框架

Mohammad Naserameri

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 该研究提出TrustChain-Review框架，结合区块链、博弈论与风险自适应治理，通过模拟验证其在AI辅助代码审查中平衡可信性与成本的效果，为不同风险场景提供治理方案。

Comments 24 pages, 3 figures, 10 tables

Can We Trust AI in 6G? Verifiable and Auditable AI-Driven Trustworthy Wireless Networks

我们能信任6G中的AI吗？可验证且可审计的AI驱动可信无线网络

Genze Jiang, Yizhou Huang, Kezhi Wang

专题命中 安全评测 ：trustworthy(title)；safety(abstract)

AI总结 针对6G中AI在无线网络应用的信任问题，提出基于3GPP规范的机械审计方法与原生审计网络架构，支持AI功能的部署前认证和运行时审计，为AI驱动的可信无线网络提供解决方案。

Comments Submitted for possible journal publication

BioDisclose: An Actionability-Aware Benchmark for Biomedical Safety under Adversarial Elicitation

BioDisclose：对抗性诱导下生物医学安全的可操作性感知基准

Yinuo Zhu, He Liu, Boyuan Gu

专题命中 安全评测 ：safety(title,abstract)

AI总结 研究针对大语言模型在对抗性诱导下生物医学知识披露行为不足问题，引入BioDisclose基准，含多领域多类别提示，对模型响应四级评分，通过实验揭示不同模型、策略及风险类别差异，为评估生物医学安全提供新测试平台。

Comments 27 pages, 3 figures

PRIMA: Pre-Training with Risk-Integrated Image--Metadata Alignment for Medical Diagnosis with LLM-Based Feature Aggregation

PRIMA：通过大语言模型进行风险集成图像-元数据对齐的医学诊断预训练

Yiqing Wang, Chunming He, Ziyun Yang, Maria Woodward, Ming-Chen Lu, Mercy Pawar, Leslie Niziol, Sina Farsiu

机构 * Department of Biomedical Engineering, Duke University（杜克大学生物医学工程系） ； Department of Ophthalmology and Visual Sciences, University of Michigan（密歇根大学眼科与视觉科学系） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 提出PRIMA框架，通过检索增强生成策展风险-疾病关联专家语料库优化文本编码器，用双编码器预训练策略及四个互补损失函数弥合模态差距，融合特征用于疾病分类，性能优于其他方法。

SafeGen: Goal-Conditioned Video Diffusion of Safety-Critical Scenarios for VLM-Based Autonomous Driving

SafeGen：基于视觉语言模型的自动驾驶安全关键场景的目标条件视频扩散

Jiangfan Liu, Zexuan Cui, Tianyuan Zhang, Zonglei Jing, Zonghao Ying, Yaoyuan Zhang, Jiakai Wang, Xiaoqi Jiang, Aishan Liu, Xianglong Liu

机构 * Beihang University（北京航空航天大学） ； Zhongguancun Laboratory（中关村实验室） ； Chery Automobile Co., Ltd.（奇瑞汽车股份有限公司） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 研究针对VLM在自动驾驶系统中的应用，提出SafeGen框架，将场景生成设为目标条件扩散过程，引入上下文接地最终状态推理和最终状态条件下的视频演化，实验表明该框架能提升评判得分，微调后可提高真实驾驶场景性能。

SUFLECA: Scaling Up Feature Learning for CAD-to-image Alignment

SUFLECA：扩大用于CAD到图像对齐的特征学习

Saad Ejaz, Miguel Fernandez-Cortizas, Javier Civera, Holger Voos, Jose Luis Sanchez-Lopez

机构 * Automation and Robotics Research Group, Interdisciplinary Centre for Security, Reliability, and Trust (SnT), University of Luxembourg（自动化与机器人研究组，卢森堡大学跨学科安全、可靠性与信任中心（SnT）） ； Faculty of Science, Technology, and Medicine, University of Luxembourg（卢森堡大学科学、技术与医学学院） ； I3A, Universidad de Zaragoza（萨拉戈萨大学I3A） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 研究旨在解决CAD到图像对齐问题，提出弱监督框架SUFLECA。通过归一化物体坐标监督扩大特征学习，结合几何一致匹配算法，能准确快速对齐，在ScanNet25k上取得优异成绩，优于零样本基线并超越全监督方法。

Generalizable VLA Finetuning via Representation Anchoring and Language-Action Alignment

通过表示锚定和语言-动作对齐实现可泛化的视觉语言动作微调

Dwip Dalal, Shivansh Patel, Chahit Jain, Jeonghwan Kim, Utkarsh Mishra, Alex Baratian, Hyeonjeong Ha, Heng Ji, Svetlana Lazebnik, Unnat Jain

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Texas A&M University（德州农工大学） ； University of California, Irvine（加州大学欧文分校） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 研究针对VLA策略微调中存在的问题提出Anchor-Align方法，通过视觉语言锚定和语言-动作对齐两个目标增强BC，在物理机器人和模拟测试中均有效果提升，表明保留预训练表示与有效动作学习可兼顾。

Comments Code: https://github.com/dwipddalal/Anchor-Align

HierCAD: Hierarchical Text-to-CAD Design via Structure Alignment and Parameter Grounding

HierCAD：通过结构对齐和参数接地实现分层文本到CAD设计

Jimin Xu, Tianbao Wang, Tao Jin, Zhou Zhao

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 针对文本到CAD设计中结构一致性和参数确定问题，提出HierCAD框架，通过分解CAD构造树进行渐进推理，并引入SAPG学习策略，在CAD序列生成和模型评估上优于现有方法。

Agents at Risk: How Users Unwittingly Undermine LLM Safety

处于风险中的智能体：用户如何在不知情的情况下破坏大语言模型的安全性

Fengchao Chen, Tingmin Wu, Van Nguyen, Surya. Nepal, Carsten Rudolph

专题命中 安全评测 ：safety(title,abstract)

AI总结 研究基于大语言模型的智能体安全问题，介绍用户中继上下文操纵攻击，通过让良性用户在请求中传递对抗性内容，实验表明该攻击在多种防御下优于提示注入基线，揭示当前智能体框架设计缺陷。

Comments User-relayed Context Manipulation; LLM-based Agents; Agent Security; Human Factors in Cybersecurity; Web-Use Agents; Planning Agents

CCFM: Collision-Constrained Flow Matching for Safety-Critical Scenario Generation

CCFM：用于安全关键场景生成的碰撞约束流匹配

Ke Li, Kaidi Liang, Yuxin Ding, Debojyoti Biswas, Xianbiao Hu, Ruwen Qin

机构 * Stony Brook University（纽约州立大学石溪分校） ； Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 研究自动驾驶车辆规划器在安全关键闭环仿真中的评估，提出CCFM框架，通过硬物理约束保证精确碰撞控制，含碰撞选择器、硬约束和碰撞约束流匹配采样器，性能超基线。

Comments Accepted by ECCV 2026

Probabilistic Memory for Trustworthy Edge Intelligence

面向可信边缘智能的概率存储器

Likai Pei, Jiahao Zheng, Xueji Zhao, Emilie Ye, Jianbo Liu, Hanqing Tao, Ming-Yen Lee, Ruiyang Qin, Yiyu Shi, Shimeng Yu, X. Sharon Hu, Ningyuan Cao

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 提出概率存储器（p-MEM），通过存储分布参数并直接在原生内存带宽下采样，解决了高斯随机数生成与计算之间的吞吐量差距，在贝叶斯神经网络中实现指令数、延迟和能耗的大幅降低。

Comments This paper has been accepted for publication in the proceedings of the ACM/IEEE Design Automation Conference (DAC), 2026

Temporal and Cross-Modal Alignment for Enhanced Audiovisual Video Captioning

增强视听视频字幕的时间与跨模态对齐

Chen Zhao, Jiajun Ma, Qilong Huang, Tiehan Fan, Hongyu Li, Zhuoliang Kang, Xiaoming Wei, Jian Yang, Ying Tai

机构 * Nanjing University, State Key Laboratory for Novel Software Technology（南京大学，计算机软件新技术国家重点实验室） ； Meituan（美团） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 提出TCA-Captioner框架，通过观察-检查-纠正迭代策略和密集交互数据集，解决视听字幕中的模态分离与时间不一致问题，实现精准的视听绑定与因果动态建模。

Comments ECCV 2026

Child Safety in Generative AI: An Expert-Guided and Incident-Grounded Evaluation Framework

生成式AI中的儿童安全：一个专家引导且基于事件的评估框架

Haein Kong

专题命中 安全评测 ：safety(title,abstract)

AI总结 针对儿童使用生成式AI的特定风险，提出一个结合专家引导风险因素和真实AI事件数据的评估框架，并应用于教育领域评估Llama Guard模型，发现其难以检测教育相关的不安全用户提示。

Comments Accepted to the HEAL Workshop at CHI 2026