大模型对齐与安全

The 3D Mirage: Probing and Taming 3D Hallucinations

真实场景中的逼真幻影道路：从物理几何中解构3D幻觉

Hoang Nguyen, Xiaohao Xu, Xiaonan Huang

机构 * University of Michigan（密歇根大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出首个端到端框架，用于探测、量化和抑制单目深度模型中因几何平面输入而产生的3D幻觉现象，通过引入3D-幻影基准和基于拉普拉斯的评估框架，提升深度模型的结构和上下文鲁棒性。

Comments Accepted to ECCV 2026

Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning

通过渐进式种子剪枝实现扩散模型的推理时间缩放

Rogerio Guimaraes, Pietro Perona

机构 * California Institute of Technology（加州理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究扩散模型推理时间缩放问题，提出渐进式种子剪枝方法，通过早期评估多种子并剪枝，有效利用固定计算预算，在扩散和流匹配主干上比其他基线方法在奖励引导选择及提示对齐评估上表现更优。

Comments Project page: https://www.vision.caltech.edu/psp. Code: https://github.com/rogerioagjr/psp

Search Hardness-Aware LLM-Based Problem Formulation for Expensive Simulation-Driven Design

用于昂贵的仿真驱动设计的搜索硬度感知基于大语言模型的问题公式化

Yuchen Li, Handing Wang, Bing Xue, Mengjie Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 针对昂贵仿真驱动设计中公式对搜索效率的影响问题，提出SHA-PF框架，基于搜索硬度定义公式搜索目标并评分，通过大语言模型相关方法搜索公式空间，实验表明该框架发现的公式能显著减少评估次数以达设计要求。

ProCap: Prominence-guided Object Rectification for Faithful and Comprehensive Video Captioning

ProCap：用于忠实和全面视频字幕的突出引导对象校正

Debjyoti Das Adhikary, Aritra Hazra, Partha Pratim Chakrabarti

机构 * Department of Computer Science and Engineering, Indian Institute of Technology Kharagpur（印度理工学院卡拉格布尔分校计算机科学与工程系） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究针对视频字幕质量提升问题，提出突出感知的迭代事后校正框架。通过轻量级评分机制排序对象，经提示驱动细化循环多轮注入相关对象。在多数据集验证，相比基线提升完整性、减少幻觉，提供了轻量级且模型无关的视频字幕优化途径。

Comments 10 pages, 7 figures, 5 tables. Submitted to IEEE Transactions on Multimedia

endoExplain: A reproducible protocol for auditing score-localisation discordance in colonoscopy image classifiers

超越人工智能辅助结肠镜检查中的置信度：一种用于内镜人工智能审查的空间、时间和质量感知审计框架

Roberto Alcaraz Machado, Ana Lucía Rodríguez Blanco

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对AI辅助结肠镜检查中仅置信度不能全面评估预测的问题，提出EndoExplain审计框架，整合多种要素。通过实验展示了分类器和分割器的性能，还验证了归因方法等，该框架能分离多种信号，为临床审查提供支持，是回顾性研究原型。

Comments 18 pages, 5 figures, 5 tables. Substantially revised version with a new title and scope; added calibration analysis, paired multi-CAM evaluation, random-deletion controls, architecture and seed robustness analyses, and frozen external spatial transfer

Towards Reliable C-to-Rust Translation with Rule-Guided Reasoning and Reinforcement Learning

通过规则引导推理和强化学习实现可靠的C到Rust翻译

Feng Luo, Jiachen Liu, Cuiyun Gao, Jia Feng, Kui Liu

专题命中 安全评测 ：safety(abstract)

AI总结 研究旨在解决利用大语言模型进行C到Rust自动翻译时存在的问题，提出TRAVEL框架，通过规则引导推理和强化学习两个模块，在多个数据集上评估，该框架提升了翻译准确率、成功率并降低不安全率。

Comments Accepted to the Industry Showcase of ASE 2026

Remote ID Spoofing-Aware Trajectory Planning for Small Unmanned Aerial Systems

小型无人机系统的远程ID欺骗感知轨迹规划

Jeremiah Webb, Bryce Bjorkman, Abel Diaz Gonzalez, Austin Coursey, Noah Dahle, Kailani Lemieux Mack, Filippos Fotiadis, Gautam Biswas, Bryan C. Ward, Abenezer Taye

专题命中 安全评测 ：trustworthy(abstract)

AI总结 针对小型无人机在RID位置欺骗攻击下的轨迹规划问题，提出分散式欺骗感知框架，利用物理层观测评估广播可信度，检测定位欺骗代理，集成到规划器中，仿真显示可减少近空中碰撞事件且保持计算效率。

Comments 9 pages, 3 figures, to be published in IEEE DASC 2026 Conference proceedings

PRiSM: Prototype Regularization for Few-Shot VLMs

PRiSM：少样本视觉语言模型的原型正则化

Ghassen Baklouti, Omprakash Chakraborty, Jose Dolz, Ismail Ben Ayed

机构 * ÉTS Montreal（蒙特利尔高等商学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对视觉语言模型少样本适应方法，质疑现有基准假设，引入新基准。提出PRiSM类原型正则化方法，优化多术语损失，结合有效优化器，提升性能，尤其在处理类不平衡和大量类时效果显著。

VG3S: Visual Geometry Grounded Gaussian Splatting for Semantic Occupancy Prediction

VG3S：基于视觉几何的高斯散射用于语义占用预测

Xiaoyang Yan, Muleilan Pei, Shaojie Shen

机构 * Department of Electronic and Computer Engineering, The Hong Kong University of Science and Technology（电子与计算机工程系，香港科学与技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 VG3S 通过引入视觉基础模型的几何 grounding 能力，提升语义占用预测的准确性与泛化能力。

Comments Accepted by IROS 2026

SemICP: Semantic Non-Rigid Point Cloud Registration with Elastic Energy Regularization

SemICP：基于弹性能量正则化的语义非刚性点云配准

Wanwen Chen, Qi Zeng, Carson Studders, Zongze Li, Jamie J. Y. Kwon, Tara Kemper, Emily H. T. Pang, Eitan Prisman, Septimiu E. Salcudean

机构 * Department of Electrical and Computer Engineering, University of British Columbia（电气与计算机工程系，不列颠哥伦比亚大学） ； Faculty of Medicine, University of British Columbia（医学院，不列颠哥伦比亚大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对计算机辅助干预中点云配准问题，提出SemICP框架，结合语义信息点匹配与变形正则化，经多数据集测试，相比其他方法降低多种距离误差，结合AI分割后为多模态配准提供有效管道。

Stochastic Multi-Objective Kinodynamic Planning Against Adversaries

针对对手的随机多目标运动动力学规划

Thomas Marshall Vielmetti, Daniel Cherenson, Dimitra Panagou

机构 * University of Michigan（密歇根大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究在含随机混合对手环境下的多目标运动动力学规划，核心方法是将规划空间转移到闭环策略序列，通过蒙特卡洛粒子展开评估风险，引入SMO-RRT和SMO-SST算法，推导有限样本界，实现概率安全规划。

Comments 8 pages, 1 figure, accepted to CDC 2026

When to Trust the Map: Confidence-Aware LLM Routing for Automotive CVE-to-ATM Mapping

何时信任地图：用于汽车CVE到ATM映射的置信度感知大语言模型路由

Heeyun Heo, Sangmin Park, Huy Kang Kim, Sanghoon Jeon

专题命中 安全评测 ：safety(abstract)

AI总结 研究汽车CVE到ATM映射问题，提出通过分层上下文学习生成候选映射，融合多种信号到校准元模型，以校准置信度分数分类候选映射，在评估集上显著提高精度，支持选择性自动化。

Comments 11 pages, 2 figures, 3 tables; Accepted at ESCAR EUROPE 2026

RECEIPT: Deterministic, Reward-Hacking-Resistant Verification for White-Box Agentic XSS Discovery

RECEIPT：用于白盒代理式XSS发现的确定性、抗奖励攻击验证

Muxi Lyu, Karen Shieh, Yiwei Hou, Hao Wang, Koushik Sen, David Wagner

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究针对白盒代理式XSS发现中编码代理声明不可信的问题，提出RECEIPT验证框架，通过环境隔离等手段使发现可信，经实验评估，在预算内发现多个未知漏洞，相比其他方式能确认更多真实利用且无假阳性。

SpEmoC: A Balanced Speaker-Segment Multimodal Emotion Benchmark

SpEmoC：一个平衡的说话者片段多模态情感基准

Sania Bano, Shahzad Ahmad, Santosh Kumar Vipparthi, Sukalpa Chanda, Subrahmanyam Murala

机构 * Indian Institute of Technology Ropar（印度理工学院罗帕尔分校） ； Østfold University College（东福尔郡大学学院） ； Trinity College Dublin（都柏林圣三一大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究口语对话中人类情感理解，提出SpEmoC基准，整合预训练模型与人工验证标注七种情感模态，采用严格分割保持情感平衡分布，实验证明其能提升模型跨数据集评估时情感性能的稳定性。

Test Coverage Analysis of Agentic Pull Requests

智能拉取请求的测试覆盖分析

Atish Kumar Dipongkor, Talank Baral, Wing Lam, Kevin Moran

专题命中 安全评测 ：safety(abstract)

AI总结 研究人工智能编码代理生成的拉取请求的测试覆盖情况，分析4882个相关请求，发现代理包含测试更改比例低，现有测试覆盖不足，代理编写测试仅在少数请求中提升覆盖，错误处理结构测试严重不足，为此提出相关改进措施。

Comments 12 pages, to appear 42nd International Conference on Software Maintenance and Evolution

A Digital Twin-Based Method for Evaluating Local Collective Tariffs in Distribution-Level Energy Systems

一种基于数字孪生的配电网级能源系统局部集体电价评估方法

Kristoffer Christensen, Bo Nørregaard Jørgensen, Zheng Grace Ma

专题命中 安全评测 ：alignment(abstract)

AI总结 针对配电网级能源系统电价机制评估需求，提出基于数字孪生的方法，整合多种建模与抽象，应用于丹麦局部集体电价评估，揭示其对成本及时间对齐的影响，为分析比较电价结构提供基础。

Insecure Coding Preferences in Long-Term Memory: Security Risks for LLM-based Code Generation

长期记忆中的不安全编码偏好：基于大语言模型的代码生成的安全风险

Yuchen Chen, Wei Cheng, Yuan Xiao, Zhou Yang, Weifeng Sun, Chunrong Fang, Xiang Chen, Baowen Xu, David Lo, Zhenyu Chen

专题命中 安全评测 ：safety(abstract)

AI总结 研究基于LLM的代码生成中，长期记忆里不安全编码偏好带来的安全风险，通过评估四种LLM在五种编程语言上的表现，发现其显著增加生成漏洞代码风险及存在警告差距，还评估了三种缓解策略并给出改进安全性的建议。

Comments Accepted to the 35th ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2026)

Technical Report: AI-Assisted Gated DeltaNet Optimization on NVIDIA Blackwell

技术报告：NVIDIA Blackwell上的人工智能辅助门控DeltaNet优化

Hyunjun Shin, Jiseung Jang, Jaewoo Maeng, Hyunjun Kim

专题命中 安全评测 ：alignment(abstract)

AI总结 研究以MSInfer团队提交给MLSys 2026 FlashInfer竞赛的作品为例，探讨人工智能辅助GPU编程。该作品优化门控DeltaNet解码和预填充，在NVIDIA B200/Blackwell上实现1.58倍加速，揭示竞赛级优化需考虑多方面，将其视为端到端系统问题。

Comments 10 pages, 5 tables. Technical report

AlterAtlas: Shifting Travel Planning from AI Generation to Validation via Persona-Driven Simulations

AlterAtlas：通过基于角色的模拟将旅行规划从人工智能生成转变为验证

William Huang, Ruofei Du, Yang Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对旅行规划需平衡多目标约束，当前AI工具支持有限问题，提出AlterAtlas系统，通过基于角色模拟实现行程验证与修订，经实验证明可提高计划与角色匹配度，增强用户对最终计划的信任。

Comments 11 pages, 8 figures. For associated codebase, see https://github.com/hilab-open-source/alteratlas

Equilibrium analysis in a multi-agent reinsurance chain

多智能体再保险链中的均衡分析

Kaizheng Wang, Wei Liu, Zhuo Jin, Wenyuan Wang

专题命中 安全评测 ：safety(abstract)

AI总结 研究多层再保险链中保险公司与再保险公司互动，用斯塔克尔伯格微分博弈等方法，结合动态规划与博弈论，在均值-方差准则下求解均衡策略，通过数值分析发现保险市场竞争加剧使再保险链各层合同安全负荷降低。

Veritas: Grounding LLM Agents for Reliable Vulnerability Reasoning over Stripped Binaries

Veritas：一种语义导向的代理框架，用于二进制中的内存破坏漏洞检测

Xinran Zheng, Alfredo Pesoli, Marco Valleri, Suman Jana, Lorenzo Cavallaro

专题命中 安全评测 ：safety(abstract)

AI总结 Veritas通过结合静态切片、双视角LLM检测器和多代理验证器，利用语义基础和运行时证据检测二进制中的内存破坏漏洞，实现了90%的召回率，并在实际应用中发现了一个未知的Apple漏洞。

Revealing Physical-World Semantic Vulnerabilities: Universal Adversarial Patch for Infrared Vision-Language Models

揭示物理世界语义漏洞：用于红外视觉语言模型的通用对抗性补丁

Chengyin Hu, Yuxian Dong, Yikun Guo, Xiang Chen, Qike Zhang, Junqi Wu, Jiahuan Long, Jiujiang Guo, Yiwei Wei, Tingsong Jiang, Wen Yao

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出通用曲网格补丁框架UCGP，用于揭示红外视觉语言模型的语义鲁棒性漏洞，通过扰动视觉表征空间以削弱跨模态语义对齐，验证了其在多种架构和数据集上的有效性。

Audio-Visual Flamingo: Open Audio-Visual Intelligence for Long and Complex Videos

视听火烈鸟：用于长而复杂视频的开放视听智能

Sreyan Ghosh, Arushi Goel, Kaousheik Jayakumar, Lasha Koroshinadze, Nishit Anand, Siddharth Gururani, Hanrong Ye, Pritam Biswas, Yuanhang Su, Ehsan Hosseini-Asl, Sang-gil Lee, Zhifeng Kong, Jaehyeon Kim, Sungwon Kim, S Sakshi, Ramani Duraiswami, Dinesh Manocha, Andrew Tao, Mohammad Shoeybi, Bryan Catanzaro, Ming-Yu Liu, Wei Ping

机构 * NVIDIA, USA（美国NVIDIA公司） ； University of Maryland, USA（美国马里兰大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究提出视听火烈鸟，用于长复杂视频的联合理解与推理。贡献包括构建大规模视频集、设计三阶段课程及推理框架。实验显示其在多基准测试中表现优异，超越同类开放模型，在长复杂视听理解推理任务中竞争力强，有现实应用价值和泛化能力。

Comments Project Page: https://avflamingo.pages.dev/

In the Driver's Seat: A Multi-Company Study on the Reality of Autonomous Driving System Testing

掌控全局：关于自动驾驶系统测试现状的多公司研究

Qunying Song, Yuan Gao, Johannes Betz, Dietmar Pfahl, Mohammad Reza Mousavi, Federica Sarro

专题命中 安全评测 ：safety(abstract)

AI总结 针对自动驾驶系统测试复杂且缺乏标准的问题，通过对九家公司专家访谈，经主题分析总结行业测试情况、挑战与趋势，提出以证据为中心的闭环测试框架，为ADS测试提供指导并指明未来方向。

Comments 34 pages, 6 figures, 3 tables

Verified LLM-Driven Synthesis for Concept Design

用于概念设计的经过验证的大语言模型驱动的合成

Alcino Cunha

专题命中 安全评测 ：safety(abstract)

AI总结 研究用于概念设计的大语言模型驱动合成，给出概念和反应的形式语义及验证方法，提出基于大语言模型的合成过程，探讨引导合成的方式及技术，通过评估表明不同方法各有优劣，大语言模型驱动的场景引出多数情况下可恢复预期设计。

Comments 27 pages, 3 figures

Model Merging for Medical LVLMs: A Benchmark and a Winner-Take-All Approach

用于医学视觉语言模型的模型合并：一个基准和一种赢家通吃的方法

Lichao Mou, Shilan Zhang, Chunlei Li, Bingcong Yan, Jingliang Hu, Yilei Shi, Shengwu Xiong, Xiao Xiang Zhu, Lei Li, Yaxiong Chen

机构 * Wuhan University of Technology（武汉理工大学） ； Technical University of Munich（慕尼黑工业大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究医学LVLMs的模型合并，提出涵盖多种成像模态和临床任务类型的MergeMedBench基准，评估现有合并方法，提出赢家通吃方法，该方法简单且无超参数，优于现有方法，为LoRA合并提供新视角和实用基线。

Comments Project Page: https://github.com/MedAI-T/MergeMedBench

MultiRef-Compass: Towards Comprehensive Evaluation of Multi-Reference-to-Audio-Video Generation

MultiRef-Compass：迈向多参考到音频-视频生成的综合评估

Xiaohan Zhang, Yuqing Wen, Junlin Chen, Yuqi Tang, Yiting He, Lizhuo Shao, Weiming Zhu, Tengfei Liu, Yang Shi, Jialu Chen, Yuanxing Zhang, Huaxiong Li

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对多参考到音频-视频生成设置，引入MultiRef-Compass基准。通过可扩展管道构建350个样本，定义含四个维度14个子指标的评估协议，集成自动指标与MLLM评判框架，实验表明该基准对MR2AV研究有重要意义。

Comments 32 pages

Self-Aware Recursively Self-Improving Agents for Personal Singularity: A Goal-, Scope-, Tool-, and Benchmark-Driven Multi-Agent Architecture

如何实现递归式自我提升智能体与个人奇点：一种目标、范围、工具和基准驱动的多智能体架构

Chengshuai Yang

机构 * NextGen PlatformAI C Corp.（下一代平台人工智能C公司） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究大型语言模型智能体进步引发的问题，提出受治理多智能体架构实现递归式自我提升，以个人奇点为目标，详细介绍智能体各要素及架构组成，形式化多种机制并提供设计与路线图。

Comments 28 pages, 5 figures, 7 tables, and 5 algorithms. Position and systems-design paper

WorldWander: Bridging Egocentric and Exocentric Worlds in Video Generation

WorldWander：在视频生成中连接自我中心和外中心世界

Quanjian Song, Yiren Song, Kelly Peng, Yuan Gao, Mike Zheng Shou

机构 * Show Lab, National University of Singapore（新加坡国立大学Show实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究聚焦视频生成中自我中心与外中心世界转换，提出WorldWander框架，基于视频扩散变换器，整合上下文视角对齐与协作位置编码，精心策划数据集，实验证明该框架在视角同步、角色一致性和泛化能力上表现卓越，设定了新基准。

Comments Accepted by ECCV 2026; Code: https://github.com/showlab/WorldWander

Agent Skill Security: Threat Models, Attacks, Defenses, and Evaluation

智能体技能安全：威胁模型、攻击、防御与评估

Sanket Badhe, Priyanka Tiwari

专题命中 安全评测 ：prompt injection(abstract)

AI总结 研究智能体可复用技能安全，提出SkillSec-Eval框架，刻画技能生命周期并开发威胁分类法，通过对327个真实技能实证评估，发现多阶段有漏洞，强调需进行生命周期感知安全分析。