LangTime: A Language-Guided Unified Model for Time Series Forecasting with Proximal Policy Optimization
机构 * Tianjin University（天津大学）
专题命中 安全训练 ：alignment(abstract)；分类 cs.LG
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 安全训练 3317 篇
A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents
机构 * Dept. of Comp. Sci. & Tech.（计算机科学与技术系） ； College of AI（人工智能学院） ； Institute for AI（人工智能研究院） ； BNRist Center（BNRist中心） ； THBI Lab（THBI实验室） ； Tsinghua-Bosch Joint Center for ML（清华大学-博世联合机器学习中心） ； Tsinghua University（清华大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments 18 pages
KnowSafe: Combined Knowledge and Data Driven Hazard Mitigation in Artificial Pancreas Systems
机构 * Louisiana State University（路易斯安那州立大学） ； University of Virginia（弗吉尼亚大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments 17 pages, 11 figures, 11 tables, to appear in the IEEE Transactions on Dependable and Secure Computing (TDSC'25)
FEAST: A Flexible Mealtime-Assistance System Towards In-the-Wild Personalization
机构 * Cornell University（康奈尔大学） ； University of Michigan（密歇根大学） ； Independent researcher（独立研究者）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments RSS 2025 - Best Paper Award
Modeling and Visualization Reasoning for Stakeholders in Education and Industry Integration Systems: Research on Structured Synthetic Dialogue Data Generation Based on NIST Standards
专题命中 安全训练 ：alignment(abstract)；分类 cs.CY
Comments This paper presents an innovative and rigorous framework for stakeholder modelling in education-industry integration, combining NIST-compliant synthetic data generation with interpretable visual reasoning
Lessons from Training Grounded LLMs with Verifiable Rewards
专题命中 安全训练 ：trustworthy(abstract)；分类 cs.CL
Systems-Theoretic and Data-Driven Security Analysis in ML-enabled Medical Devices
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
Comments 32 pages, 6 figures, 6 tables
AI shares emotion with humans across languages and cultures
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL
Trust-MARL: Trust-Based Multi-Agent Reinforcement Learning Framework for Cooperative On-Ramp Merging Control in Heterogeneous Traffic Flow
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments 34 pages, 7 figures, 4 tables
Convex Markov Games: A New Frontier for Multi-Agent Reinforcement Learning
机构 * College of Computing, MIT, Cambridge, MA, USA（麻省理工学院计算机学院） ； Google DeepMind, London, UK（谷歌深Mind）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments Published at ICML 2025
Ontology Enabled Hybrid Modeling and Simulation
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI
CrimeMind: Simulating Urban Crime with Multi-Modal LLM Agents
机构 * Department of Electronic Engineering, Tsinghua University（清华大学电子工程系） ； Department of Sociology, Hong Kong Baptist University（香港 Baptist 大学社会学系）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments Typos corrected
Skywork R1V: Pioneering Multimodal Reasoning with Chain-of-Thought
机构 * Skywork AI（Skywork人工智能） ； Kunlun Inc.（昆仑公司）
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL
Improving LLMs with a knowledge from databases
机构 * Department of Information and Knowledge Engineering（信息与知识工程系） ； Prague University of Economics and Business（布拉格经济与商业大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.CL
Safe Planning and Policy Optimization via World Model Learning
机构 * AIRI, Moscow, Russia（俄罗斯莫斯科AIRI） ； MIPT, Moscow, Russia（俄罗斯莫斯科MIPT） ； FRC CSC RAS, Moscow, Russia（俄罗斯莫斯科FRC CSC RAS）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Confidence-Guided Human-AI Collaboration: Reinforcement Learning with Distributional Proxy Value Propagation for Autonomous Driving
机构 * Tianjin Key Laboratory of Intelligent Unmanned Swarm Technology and System, School of Electrical and Information Engineering, Tianjin University（天津智能无人群技术与系统重点实验室，电气与信息工程学院，天津大学） ； Key Laboratory of System Control and Information Processing, Ministry of Education of China（系统控制与信息处理重点实验室，中华人民共和国教育部） ； School of Mechanical Engineering, Shanghai Jiao Tong University（机械工程学院，上海交通大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Safe-EF: Error Feedback for Nonsmooth Constrained Optimization
机构 * University of Basel（巴塞尔大学） ； ETH Zürich（苏黎世联邦理工学院） ； ETH AI Center（苏黎世联邦理工学院人工智能中心）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
Journal ref International Conference on Machine Learning 2025
ETDI: Mitigating Tool Squatting and Rug Pull Attacks in Model Context Protocol (MCP) by using OAuth-Enhanced Tool Definitions and Policy-Based Access Control
机构 * Amazon Independent Researcher（亚马逊独立研究者） ； Project Kuiper Security (KPES)（项目Kuiper安全） ； Proactive Security OWASP, Amazon Web Services（主动安全OWASP，亚马逊网络服务） ； Intuit Adversarial AI Security reSearch (A2RS)（Intuit对抗AI安全reSearch）
专题命中 安全训练 ：trustworthy(abstract)；分类 cs.AI
Comments 11 Pages, 10 figures, Github links in introduction
Understanding Refusal in Language Models with Sparse Autoencoders
机构 * Nanyang Technological University（南洋理工大学） ； Singapore University of Technology and Design（新加坡科技设计大学） ； Digital Trust Centre（数字信任中心） ； Institute of High Performance Computing (IHPC)（高性能计算研究所）
专题命中 安全训练 ：safety(abstract)；分类 cs.CL
GuardAgent: Safeguard LLM Agents by a Guard Agent via Knowledge-Enabled Reasoning
机构 * University of Georgia（佐治亚大学） ； University of Chicago（芝加哥大学） ； UIUC（伊利诺伊大学香槟分校） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of California, Berkeley（加州大学伯克利分校） ； Emory University（埃默里大学） ； Virtue AI
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
Comments Accepted to ICML 2025
EPO: Explicit Policy Optimization for Strategic Reasoning in LLMs via Reinforcement Learning
机构 * University of Chinese Academy of Sciences（中国科学院大学） ； Tongyi Lab（通义实验室） ； The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences（复杂系统认知与决策智能重点实验室，中国科学院自动化研究所）
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL
Comments ACL2025 main
A Physics-Informed Machine Learning Framework for Safe and Optimal Control of Autonomous Systems
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments 22 Pages, 12 Figures. First two authors have contributed equally. Accepted at ICML 2025
TelePlanNet: An AI-Driven Framework for Efficient Telecom Network Planning
机构 * Nanjing University of Posts and Telecommunications（南京邮电大学） ； China Telecom Corporation Limited Jiangsu Branch（中国电信江苏分公司）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI
Comments 6 pages, 5 figures, 1 table
VerIPO: Cultivating Long Reasoning in Video-LLMs via Verifier-Gudied Iterative Policy Optimization
机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳）） ； Alibaba International Group（阿里巴巴国际集团） ； Division of AMC and Department of ECE, HKUST（HKUST电子工程系与AMC division）
专题命中 安全训练 ：DPO(abstract)；分类 cs.CL
Comments 19 pages, 9 figures, Project Link: https://github.com/HITsz-TMG/VerIPO
HCRMP: A LLM-Hinted Contextual Reinforcement Learning Framework for Autonomous Driving
机构 * Tongji University（同济大学） ； SenseTime Research（商汤科技研究院）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
Invisible Entropy: Towards Safe and Efficient Low-Entropy LLM Watermarking
机构 * Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学） ； Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院） ； Tsinghua University（清华大学） ； Fudan University（复旦大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； University of Notre Dame（Notre Dame 大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.CL
GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning
机构 * National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
SafePath: Conformal Prediction for Safe LLM-Based Autonomous Navigation
机构 * Technical University of Darmstadt（德累斯顿技术大学） ； NTT Data（NTT数据）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
Risk-Aware Safe Reinforcement Learning for Control of Stochastic Linear Systems
机构 * Department of Mechanical Engineering, Michigan State University（机械工程系，密歇根州立大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
Comments Submitted to Asian Journal of Control
Integrating Explainable AI in Medical Devices: Technical, Clinical and Regulatory Insights and Recommendations
机构 * Medicine and Healthcare products Regulatory Agency（医疗与健康产品监管局） ； NHS England（英格兰国家卫生服务）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
Comments 47 pages
