大模型对齐与安全

Prior Policy Guided Dual-Agent Coordinated Manipulation Planning of Spacecraft-Manipulator System

先验策略引导的航天器-机械臂系统双智能体协同操控规划

Yuhui Hu, Dong Zhou, Kaihong Ouyang, Zhongliang Yu, Jianfeng Lv, Xiangyu Shao

机构 * School of Astronautics（航天学院） ； School of Automation（自动化学院） ； School of Information Science and Engineering（信息科学与工程学院） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 针对空间机械臂与基座强耦合导致的姿态稳定问题，提出先验策略引导的双智能体协同操控规划框架，通过时间步级专家切换机制提升深度强化学习效率，实现末端执行器高精度到达与基座姿态稳定。

Comments 36 pages, 13 figures, 6 tables. Under review

Integrated Sensing, Communication, and Computing for NR-V2X: A Cross-Layer Resource Allocation Framework Using Multi-Agent Reinforcement Learning

面向NR-V2X的集成感知、通信与计算：基于多智能体强化学习的跨层资源分配框架

Indulekha K. P., T. G. Venkatesh

专题命中 安全训练 ：safety(abstract)

AI总结 提出一种基于多智能体近端策略优化的跨层调度器MAPPO-SPS，联合优化SB-SPS预留、无线资源划分和计算卸载决策，以平衡感知精度、通信可靠性和计算延迟。

HypeR Adaptivity: Joint $hr$-Adaptive Meshing via Hypergraph Multi-Agent Deep Reinforcement Learning

HypeR 自适应：通过超图多智能体深度强化学习实现联合 $hr$ 自适应网格划分

Niccolò Grillo, James Rowbottom, Pietro Liò, Carola Bibiane Schönlieb, Stefania Fresca

专题命中 安全训练 ：alignment(abstract)

AI总结 提出 HypeR 框架，利用超图神经网络和多智能体强化学习联合优化网格重定位与细化，在有限元方法中实现 $hr$ 自适应，相比纯 $h$ 自适应方法将近似误差降低 6-10 倍。

Reframing LLM Agent Security as an Agent-Human Interaction Problem

将LLM智能体安全重新定义为智能体-人类交互问题

Peiran Wang, Ying Li, Yuan Tian

专题命中 安全训练 ：alignment(abstract)

AI总结 本文通过系统分析59篇学术论文、21个生产智能体系统和26个安全插件，论证LLM智能体安全本质上是智能体-人类交互问题，而非纯算法问题，并提出了三方向研究议程。

Semantically Structured Mixture-of-Experts for Compositional Robotic Manipulation

语义结构化混合专家用于组合机器人操作

Chengyu Deng, Guanqi Chen, Yizhou Chen, Zejia Liu, Zhiwen Ruan, Guanhua Chen, Jia Pan

机构 * The University of Hong Kong（香港大学） ； Southern University of Science and Technology（南方科技大学） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 提出语义结构化混合专家扩散策略（SMoDP），通过视觉语言模型标注的技能语义指导专家专业化，实现参数高效的多任务组合操作。

Comments Accepted to Robotics: Science and Systems (RSS) 2026

A Distributed Framework for Data-Driven Safe Coordination in Leader-Follower Networks

一种用于领导者-跟随者网络中数据驱动安全协调的分布式框架

Mirhan Urkmez, Maryam Sharifi, Shahab Heshmati-Alamdari

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出分布式数据驱动零化控制屏障函数（3D-ZCBF）框架，通过从输入-状态数据中识别导数边界，在无需显式模型的情况下保证领导者-跟随者多智能体系统的连通性。

Comments Submitted to IEEE TCNS

Safe Deep Reinforcement Learning for Spacecraft Reorientation with Pointing Keep-Out Constraint

具有指向保持区约束的空间飞行器再定向的安全深度强化学习

Juntang Yang, Mohamed Khalil Ben-Larbi

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出了一种用于具有单一指向保持区的空间飞行器再定向控制的深度强化学习方法，设计了新的状态空间表示，制定了奖励函数以实现控制目标并施加姿态约束，采用软演员评论家算法处理连续状态和动作空间，并通过课程学习方法训练智能体，通过基于控制屏障函数的安全过滤器保证姿态约束的合规性。

A Heterogeneous Dual-Network Framework for Emergency Delivery UAVs: Communication Assurance and Path Planning Coordination

一种异构双网络框架用于应急配送无人机：通信保障与路径规划协调

Ping Huang, Bin Duo, Ziedor Godfred, Liuwei Huo, Jin Ning, Xiaojun Yuan, Jun Li

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出异构双网络框架HDNF，通过结合应急通信支持网络和配送路径网络，提升无人机在灾害环境中的通信可靠性与路径规划效率，优化任务分配和能源消耗。

Comments This work has been submitted to the IEEE for possible publication

Decoupled Planning for Multiple Omega-Regular Objectives

多重ω-regular目标的解耦规划

Guy Avni, Thomas A. Henzinger, Kaushik Mallik, Suman Sadhukhan, K. S. Thejaswini

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出了解耦框架，通过独立代理选择局部策略并由调度器动态组合，解决图上满足多个ω-regular目标的路径生成问题，探讨了调度器协调对正确性的必要性及安全目标的同步协议。

Comments 33 pages, 6 figures. Extended version of the paper accepted at CAV 2026

Safe Multi-Agent Navigation via Constrained HJB-Informed Learning

通过约束HJB引导学习实现安全多智能体导航

Fenglan Wang, Xinguo Shu, Lei He, Lin Zhao

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出HJB-GNN框架，通过联合学习控制屏障函数、分布式导航策略和价值函数，实现多智能体导航中的安全约束与目标达成的平衡，验证了其在复杂环境中的优越性能和可扩展性。

Comments Accepted by Robotics: Science and Systems (RSS 2026)

Robust and Safe Multi-Agent Reinforcement Learning with Communication for Autonomous Vehicles: From Simulation to Hardware

具备通信的鲁棒且安全的多智能体强化学习：从仿真到硬件

Keshawn Smith, Zhili Zhang, H M Sabbir Ahmad, Ehsan Sabouni, Mainak Mondal, Song Han, Wenchao Li, Fei Miao

机构 * Department of ECE University of Connecticut（电子工程系，康涅狄格大学） ； School of Computing University of Connecticut（计算学院，康涅狄格大学） ； Department of ECE Boston University（电子工程系，波士顿大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出RSR-RSMARL框架，通过鲁棒强化学习算法和安全模块实现多智能体系统在仿真与硬件间的零 shot 转移，提升自动驾驶安全性和协调性。

Comments 15 pages, 5 Figures

Social Welfare under Heterogeneous Time Preferences

社会福利在异质时间偏好下的研究

Sarvin Bahmani, Soumyajit Paul, Sven Schewe, Shadi Tasdighi Kalat, Ashutosh Trivedi

专题命中 安全训练 ：alignment(abstract)

AI总结 本文研究了在异质时间偏好下，如何通过社会福利最大化来制定最优策略，展示了即使所有主体获得相同奖励，最优策略也不再是位置性的，但策略结构仍保持简单。

Comments 14 pages including appendices, Accepted to IJCAI 2026

Interpreting Context-Aware Human Preferences for Multi-Objective Robot Navigation

解释情境感知的人类偏好以实现多目标机器人导航

Tharun Sethuraman, Subham Agrawal, Nils Dengler, Jorge de Heuvel, Teena Hassan, Maren Bennewitz

机构 * Hochschule Bonn-Rhein-Sieg, Germany（波恩-莱茵-锡格应用科学大学，德国） ； University of Bonn, Germany（波恩大学，德国） ； Lamarr Institute for Machine Learning and Artificial Intelligence, Germany（拉马尔机器学习与人工智能研究所，德国） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一种结合基础模型与多目标强化学习政策的框架，使机器人能理解并应用情境依赖的导航偏好，提升在共享人类环境中的适应性、透明性和可用性。

Safe Multi-Agent Behavior Must Be Maintained, Not Merely Asserted: Constraint Drift in LLM-Based Multi-Agent Systems

安全多智能体行为必须被维护，而非仅仅被断言：基于LLM的多智能体系统中的约束漂移

Tianxiao Li, Yixing Ma, Haiquan Wen, Zhenglin Huang, Qianyu Zhou, Zeyu Fu, Guangliang Cheng

专题命中 安全训练 ：safety(abstract)

AI总结 本文探讨了基于LLM的多智能体系统中约束漂移问题，指出安全约束在执行过程中可能丢失、扭曲或减弱，提出约束状态治理作为研究范式，以确保安全行为在轨迹中持续有效。

Comments 12 pages, 2 figures, 4 tables. Preprint

On the Generation and Mitigation of Harmful Geometry in Image-to-3D Models

关于图像到3D模型中有害几何的生成与缓解

Yule Liu, Yilong Yang, Jiale Teng, Hanze Jia, Zeren Luo, Jingyi Zheng, Zifan Peng, Ke Li, Yifan Liao, Zhen Sun, Jiaheng Wei, Yang Liu, Zhuo Ma, Xinlei He

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港理工大学（广州）） ； Xidian University（西安电子科技大学） ； Zhejiang University（浙江大学） ； Wuhan University（武汉大学） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 研究探讨了图像到3D模型生成有害几何的风险及缓解方法，通过系统评估发现当前模型能有效重建有害几何，但现有防护措施存在不足，提出堆叠防御策略以降低有害几何留存率。

Structure Over Scale: Learning Visual Reasoning from Pedagogical Video

结构优先于规模：从教育视频中学习视觉推理

Bishoy Galoaa, Xiangyu Bai, Sarah Ostadabbas

机构 * Northeastern University（东北大学） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出SoSVQA基准，利用教育视频中的结构化推理轨迹提升视觉语言模型的推理能力，通过GRPO优化在少量数据下实现显著性能提升。

SecureMCP: A Policy-Enforced LLM Data Access Framework for AIoT Systems via Model Context Protocol

SecureMCP: 一种通过模型上下文协议实现的基于策略的LLM数据访问框架，用于AIoT系统

Wonbae Kim, Hee-Kyong Yoo

专题命中 安全训练 ：prompt injection(abstract)

AI总结 本文提出SecureMCP框架，结合RBAC与MCP服务器，通过五种防御模块实现多层防护，提升LLM生成SQL的安全性，实验显示其在保护数据安全和执行准确率方面表现优异。

Comments 20 pages

A Position Statement on Endovascular Models and Effectiveness Metrics for Mechanical Thrombectomy Navigation, on behalf of the Stakeholder Taskforce for AI-assisted Robotic Thrombectomy (START)

关于内血管模型和机械取栓导航的有效性指标的立场声明，代表人工智能辅助机器人取栓利益相关者工作组（START）

Harry Robertshaw, Anna Barnes, Phil Blakelock, Raphael Blanc, Robert Crossley, Rebecca Fahrig, Ameer E. Hassan, Benjamin Jackson, Lennart Karstensen, Neelam Kaur, Markus Kowarschik, Jeremy Lynch, Franziska Mathis-Ullrich, Dwight Meglan, Vitor Mendes Pereira, Mouloud Ourak, Matteo Pantano, S. M. Hadi Sadati, Alice Taylor-Gee, Tom Vercauteren, Phil White, Alejandro Granados, Thomas C. Booth

机构 * on behalf of the Stakeholder Taskforce for AI-assisted Robotic Thrombectomy (START)（人工智能辅助机器人取栓任务组成员） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文旨在建立共识框架，开发和验证人工智能辅助机器人用于取栓，标准化有效性指标并定义参考测试环境，以提升地理多样性人群的及时取栓访问。

Comments Published in Journal of the American Heart Association

Journal ref J Am Heart Assoc. 2026;15:e044931

VAnim: Rendering-Aware Sparse State Modeling for Structure-Preserving Vector Animation

VAnim：基于渲染的稀疏状态建模用于结构保持的向量动画

Guotao Liang, Zhangcheng Wang, Chuang Wang, Juncheng Hu, Haitao Zhou, Junhua Liu, Jing Zhang, Dong Xu, Qian Yu

机构 * School of Software, Beihang University, Beijing, China（北京航空航天大学软件学院） ； Department of Computer Science, The University of Hong Kong, Hong Kong, China（香港大学计算机科学系） ； College of Computer Science and Technology, Zhejiang University, Hangzhou, China（浙江大学计算机科学与技术学院） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 VAnim提出了一种基于LLM的框架，通过稀疏状态更新和渲染感知强化学习，实现结构保持的向量动画生成，优于现有方法。

Comments Accepted to ICML 2026. Project page: https://yukinonooo.github.io/VAnimProject

Connected Dependability Cage: Run-Time Function and Anomaly Monitoring for the Development and Operation of Safe Automated Vehicles

连接的可靠性笼：运行时功能与异常监控用于安全自动驾驶车辆的开发和运营

Iqra Aslam, Nour Habib, Abhishek Buragohain, Meng Zhang, Andreas Rausch, Vaibhav Tiwari, Mohamed Benchat

机构 * Institute for Software and System Engineering（软件与系统工程研究所） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出连接的可靠性笼架构，通过功能监控和异常监控机制，提升自动驾驶系统在故障和未知环境下的安全性与可靠性。

AgentSim: A Platform for Verifiable Agent-Trace Simulation

AgentSim：可验证代理跟踪模拟平台

Saber Zerhoudi, Michael Granitzer, Jelena Mitrovic

专题命中 安全训练 ：trustworthy(abstract)

AI总结 本文提出AgentSim平台，通过多模型验证和主动人工参与流程，生成可验证的代理推理轨迹，构建了覆盖三个信息检索基准的Agent-Trace Corpus，并揭示了先进模型在信息检索中的系统性差异。

Journal ref Proceedings of the 49th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR '26), July 20--24, 2026, Melbourne, VIC, Australia

Closing the Loop: A Software Framework for AI to Support Business Decision Making

闭环：一个支持商业决策制定的AI软件框架

Jeffrey Wong, Antoine Creux

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一个软件框架，通过数学简化和软件设计优化，提升AI在商业闭环中的学习与迭代效率，改进因果分析并增强实验效果预测。

Toward a Safe Internet of Agents

迈向安全的智能体互联网

Juan A. Wibowo, George C. Polyzos

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出安全智能体系统的框架，通过分层分析揭示智能体安全的核心原则，为构建安全可靠的智能体AI提供指导。

Comments 44 pages

Objective Shaping with Hard Negatives: Windowed Partial AUC Optimization for RL-based LLM Recommenders

通过硬负样本进行目标塑造：基于RL的LLM推荐系统中的窗口化部分AUC优化

Wentao Shi, Qifan Wang, Chen Chen, Fei Liu, Dongfang Liu, Xu Liu, Wanli Ma, Junfeng Pan, Linhong Zhu, Fuli Feng

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出窗口化部分AUC优化方法，通过约束假阳性率提升与Top-K指标的一致性，改进基于RL的LLM推荐系统性能。

Comments 21 pages

Generative Learning Enhanced Intelligent Resource Management for Cell-Free Delay Deterministic Communications

生成学习增强的智能资源管理用于无基站确定性通信

Shuangbo Xiong, Cheng Zhang, Wen Wang, Wenwu Yu, Yongming Huang

专题命中 安全训练 ：safety(abstract)

AI总结 本文研究了无基站MIMO系统中的资源分配问题，提出基于虚拟约束马尔可夫决策过程的离线预训练框架，通过证据感知条件高斯混合模型提升效率和安全性，实验表明其在能效和延迟约束方面表现优异。

Comments The paper has been submitted to IEEE Transactions on Wireless Communications

EvoMarket: A High-Fidelity and Scalable Financial Market Simulator

EvoMarket：一种高保真且可扩展的金融市场模拟器

Muyao Zhong, Zhenhua Yang, Yuxiang Liu, Ke Tang, Peng Yang

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出EvoMarket，一种多资产和跨日环境下的多智能体金融市场模拟器，通过高吞吐量执行核心和显式机构机制，实现高保真度、可扩展性和计算可行性。

GuardPhish: Securing Open-Source LLMs from Phishing Abuse

GuardPhish: 保护开源大语言模型免受钓鱼攻击

Rina Mishra, Gaurav Varshney, Doddipatla Sesha Sahithi

专题命中 安全训练 ：safety(abstract)

AI总结 本文通过GuardPhish数据集研究开源大语言模型在静态安全配置下的钓鱼风险，发现即使模型能识别钓鱼意图，仍可能生成有效钓鱼内容，提出基于GuardPhish的分类器提升防御能力。

Chance-Constrained Neural MPC under Uncontrollable Agents via Sequential Convex Programming

在不可控代理下通过序列凸编程实现机会约束神经MPC

Shuqi Wang, Mingyang Feng, Yu Chen, Yue Gao, Xiang Yin

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一种神经MPC框架，通过学习离线数据预测不可控代理轨迹，并采用区域鲁棒符合预测方案构建时间依赖性不确定性界，以确保预测误差的正式概率保证，实验表明该方法在自动驾驶场景中安全性和效率优于基线方法。

Comments Extended version of a paper accepted to the 23rd IFAC World Congress 2026, Busan, Korea, under the journal publication option

LLM4C2Rust: Large Language Models for Automated Memory-Safe Code Transpilation

LLM4C2Rust: 利用大型语言模型实现自动内存安全代码转译

Sarah Bedell, Nazanin Siavash, Armin Moin

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出基于检索增强生成的框架，利用大型语言模型与小型语言模型结合，实现C/C++到Rust的转译，提升内存安全性。实验表明该方法能有效提高代码正确性和安全性，减少原始指针解引用和不安全类型转换。

Safe Decentralized Density Control of Multi-Robot Systems using PDE-Constrained Optimization with State Constraints

多机器人系统中使用偏微分方程约束优化的安全去中心化密度控制

Longchen Niu, Gennaro Notomista

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出了一种去中心化优化密度控制器，通过设计去中心化控制屏障函数，确保局部安全约束下的全局安全。采用Fokker-Planck方程建模机器人空间概率密度函数，降低计算和通信开销，通过四架四旋翼飞行器的仿真和实验验证有效性。

Comments Accepted to MRS 2025

Journal ref 2025 IEEE International Symposium on Multi-Robot and Multi-Agent Systems (MRS), Singapore, Singapore, 2025, pp. 1-7