Traffic and Safety Rule Compliance of Humans in Diverse Driving Situations
Mercedes Benz AG（梅赛德斯-奔驰股份公司）；University of Lübeck（吕贝克大学）；University of Freiburg（弗莱堡大学）
本文比较评估了多个轨迹预测数据集中人类对交通与安全规则的遵守情况，发现噪声和不良行为突出，需采用稳健过滤技术。
2024-11-04 cs.LG cs.RO
Combining Policy Gradient and Safety-Based Control for Autonomous Driving
Tongji University（同济大学）
为解决数据驱动方法在自动驾驶新场景中的决策风险，提出结合DDPG策略梯度与人工势场避撞算法的融合方法，在保障安全的同时提升了多场景下的整体性能。
2023-10-20 cs.RO
Multi-Predictor Fusion: Combining Learning-based and Rule-based Trajectory Predictors
NVIDIA Research（英伟达研究院）；Stanford University（斯坦福大学）
本文提出多预测器融合（MPF）算法，通过信念分布概率性地结合基于学习与基于规则的轨迹预测器，在多种指标上优于单一预测器并实现更稳定一致的性能。
2023-07-03 cs.LG cs.RO cs.SY
Combining Evasive and Braking Reactions for Safety Reference Models in Automated Vehicles
Joint Research Centre for the European Commission（欧盟委员会联合研究中心）
本文提出混合模糊安全模型（FSM-H），整合纵向制动与横向规避转向，模拟人类决策过程，在切入场景中扩大可预防性包络，为ADS安全基准测试提供透明参考。
2026-09-25 cs.RO
eRSS-RAMP: A Rule-Adherence Motion Planner Based on Extended Responsibility-Sensitive Safety for Autonomous Driving
The University of Tokyo（东京大学）
本文提出基于扩展责任敏感安全（eRSS）的规则遵循运动规划器 eRSS-RAMP，用于自动驾驶汇入与紧急避让场景，仿真显示其汇入长度缩短53.0%、汇入时间减少73.5%，并实现更稳定平滑的避撞路径。
2024-09-04 cs.RO
Quantification of Actual Road User Behavior on the Basis of Given Traffic Rules
FZI Research Center for Information Technology（FZI信息技术研究中心）
道路上的驾驶受到各种交通规则的限制，旨在确保所有交通参与者的安全。然而，人类道路使用者通常不严格遵守这些规则，导致不同程度的规则符合性。这种对既定规则的偏离是当今道路交通的关键组成部分。在自动驾驶中，当不考虑规则偏差时，机器人代理可能会扰乱交通流量。在本文中，我们提出了一种方法来获得的规则符合度的分布，从人类驾驶数据。我们使用Waymo Open Motion数据集和安全距离和速度限制规则来演示我们的方法。
2022-05-11 cs.LG cs.RO
A Rule-Compliance Path Planner for Lane-Merge Scenarios Based on Responsibility-Sensitive Safety
The University of Tokyo（东京大学）
提出规则遵从路径规划器RCPP，结合扩展RSS明确路权与势场sigmoid规划生成路径，显著缩短汇入时间与路径长度并消除轨迹振荡。
2024-03-20 cs.RO
Goal-Aware RSS for Complex Scenarios via Program Logic
National Institute of Informatics (NII)（国立信息学研究所）；SOKENDAI (The Graduate University for Advanced Studies)（综合研究大学院大学）；Japanese-French Laboratory for Informatics (IRL 3527)（日法信息学实验室）；Worcester Polytechnic Institute（伍斯特理工学院）
我们介绍了一个目标感知的扩展责任敏感的安全（RSS），最近的方法，基于规则的自动驾驶系统（ADS）的安全保证。要使区域安全网的规则保证实现目标-除了象最初的区域安全网那样避免碰撞之外-需要对长时间的机动进行复杂的规划。为了处理的复杂性，我们引入了一个基于程序逻辑的组合推理框架，在该框架中，可以系统地为较小的子场景开发RSS规则，并将它们结合起来，以获得更大的场景的RSS规则。作为框架的基础上，我们引入了一个程序逻辑dFHL，可容纳连续动态和安全条件。我们的框架提出了一个基于DFHL的工作流程，用于导出目标感知RSS规则;我们也讨论了它的软件支持。我们进行了实验评估，使用RSS规则的安全架构。结果表明，目标感知RSS确实有效地实现了避碰和目标达成。
2022-07-06 cs.LO cs.RO
A Safety Modulator Actor-Critic Method in Model-Free Safe Reinforcement Learning and Application in UAV Hovering
College of Electronics and Information Engineering, Sichuan University（四川大学电子信息工程学院）；City University of Hong Kong（香港城市大学）；Institute of Unmanned Aerial Vehicle Systems, Lingchuan Industry（凌川工业无人机系统研究所）
针对无模型安全强化学习的安全约束与Q值过估计问题，提出带分布型Critic的安全调制器Actor-Critic方法，经无人机悬停仿真与实场景实验验证，其安全性与性能均优于主流基线。
2024-10-09 cs.AI cs.LG cs.RO
Rule-based High-Level Coaching for Goal-Conditioned Reinforcement Learning in Search-and-Rescue UAV Missions Under Limited-Simulation Training
Automation and Robotics Research Group, Interdisciplinary Centre for Security, Reliability and Trust (SnT), University of Luxembourg.（自动化与机器人研究组，安全、可靠性与信任 interdisciplinary centre（SnT），卢森堡大学）
本文提出了一种分层决策框架，结合固定规则的高层顾问和在线目标条件强化学习控制器，通过减少碰撞终止提升早期安全性和样本效率。
2026-04-29 cs.AI cs.LG cs.RO
SafetyNet: Safe planning for real-world self-driving vehicles using machine-learned policies
Toyota（丰田）；Woven Planet（织女星）；Level 5 self-driving division（Level 5自动驾驶部门）
在本文中，我们介绍了第一个用于完全控制自动驾驶车辆的安全系统，该系统通过人类演示进行训练，并部署在具有挑战性的真实城市环境中。当前的行业标准解决方案使用基于规则的系统进行规划。虽然它们在常见场景中表现相当不错，但工程复杂性使得这种方法与人类水平的性能不兼容。另一方面，机器学习（ML）规划解决方案的性能可以通过简单地添加更多的样本数据来提高。然而，ML方法不能提供安全保证，有时行为不可预测。为了解决这个问题，我们的方法使用了一个简单而有效的基于规则的回退层，对ML规划者的决策进行合理性检查（例如避免冲突，确保物理可行性）。这使我们能够利用机器学习来处理复杂的情况，同时仍然确保安全性，将机器学习计划器冲突减少了95%。我们使用模仿学习对机器学习规划人员进行了300小时的专家驾驶演示训练，并将其与旧金山市中心的后备层一起部署，在那里它可以完全控制真实车辆并导航各种具有挑战性的城市驾驶场景。
2021-09-28 cs.AI cs.CV cs.LG
Dynamic Residual Safe Reinforcement Learning for Multi-Agent Safety-Critical Scenarios Decision-Making
School of Mechanical Engineering, Beijing Institute of Technology（北京理工大学机械工程学院）
本文提出动态残差安全强化学习框架DRS-RL，首次将弱到强理论引入多智能体决策，通过动态冲突区域建模和风险感知优先经验回放实现轻量级安全边界校准，碰撞率降低达92.17%且安全模型仅占主模型27%参数。
2025-04-09 cs.RO
Responsibility-Sensitive Safety: an Introduction with an Eye to Logical Foundations and Formalization
National Institute of Informatics（国立信息学研究所）；SOKENDAI (The Graduate University for Advanced Studies)（综合研究大学院大学（高等研究生院大学））
责任敏感安全（RSS）是自动驾驶系统（ADS）安全性的一种方法。其目的是引入以数学方式制定的安全规则，遵守这些规则可保证避免碰撞，这是一个数学定理。然而，尽管强调数学和逻辑保证，RSS的逻辑基础和形式化在很大程度上是一个未探索的研究课题。在本文中，我们提出了一个介绍RSS，我们希望将不同的研究社区之间的桥梁，铺平道路的RSS逻辑理论，其数学形式化，和软件工具的实际使用。
2022-06-07 cs.LO cs.RO
DriveDPO: Policy Learning via Safety DPO For End-to-End Autonomous Driving
NLPR, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所神经网络与模式识别实验室）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出DriveDPO框架，通过融合人类模仿相似度与规则安全分数的统一策略分布，并结合轨迹级迭代直接偏好优化，在NAVSIM上以PDMS 90.0达到最优，显著提升端到端自动驾驶的安全性。
2025-09-22 cs.CV cs.RO
Safe Reinforcement Learning of Autonomous Highway Driving: A Unified Framework for Safety and Efficiency
School of Physics, Northeast Normal University（东北师范大学物理学院）；Clean Energy Automotive Engineering Center, School of Automotive Studies, Tongji University（同济大学汽车学院清洁能源汽车工程中心）；Mengshi Automobile Technology Company, Dongfeng Motor Corporation（东风汽车公司猛士汽车技术公司）
提出MoE-RM-SRL框架，通过安全距离、奖励机器和混合专家机制，在训练和部署中同时保证安全与效率，在CARLA和VR平台实验中优于现有方法。
2026-06-15 cs.RO
Autonomous Construction-Site Safety Inspection Using Mobile Robots: A Multilayer VLM-LLM Pipeline
Virginia Tech（弗吉尼亚理工学院）
本文提出一种多层VLM-LLM流水线，通过机器人自主导航与人工智能结合，实现施工工地安全检查的自动化报告生成。
2025-12-16 cs.RO
Real-Time Rulebook-Aware Nonlinear MPC for Autonomous Driving with Priority-Biased Tiered Slacks
TORC Robotics LLC（TORC机器人有限责任公司）；Daimler Truck AG（戴姆勒卡车股份公司）；MassRobotics（大众机器人协会）
研究自动驾驶中安全等冲突的解决，提出W-SQP加权分层松弛非线性MPC，将九个规则家族编译求解，能实时重新规划并记录残差，经评估在安全法规方面无系统性缺陷，是可审核、有优先级偏差且随时可用的NMPC原型。
2026-07-14 cs.RO math.OC
Visual Compliance via Executable Safety Rule Entailment
Sungkyunkwan University（成均馆大学）
提出GuardEn可执行防护框架，通过安全规则编译和场景接地执行实现复杂视觉安全规则的可解释推理，在SafetyVisionBench上平均提升9.8个F1点。
2026-09-17 cs.AI
STAR-S: Improving Safety Alignment through Self-Taught Reasoning on Safety Rules
Research Center for Social Computing and Information Retrieval（社会计算与信息检索研究中心）；Harbin Institute of Technology（哈尔滨工业大学）
STAR-S通过自教推理提升大型语言模型的安全性，有效防御对抗攻击。
2026-01-07 cs.AI cs.CL
Graphormer-Guided Task Planning: Beyond Static Rules with LLM Safety Perception
本文提出Graphormer增强的风险感知任务规划框架，通过构建动态时空语义安全图并结合LLM决策，实现超越静态规则的在线危险检测与自适应任务细化，在AI2-THOR实验中验证了其在风险检测准确性和任务适应性上的提升。
2025-03-10 cs.AI cs.RO
GAVEL: Towards Rule-Based Safety Through Activation Monitoring
Ben Gurion University of the Negev（本·古里安大学）；Amrita Vishwa Vidyapeetham（阿米塔大学）
本文提出基于规则的激活安全性方法，通过细粒度可解释的激活元素捕捉领域特定行为，提升精度并支持定制化，为可扩展的AI治理奠定基础。
2026-04-30 cs.AI cs.CR cs.LG
Combining Cost-Constrained Runtime Monitors for AI Safety
MARS；Redwood Research
针对AI运行时安全监控的成本约束问题，提出基于Neyman-Pearson引理的多监控器组合优化算法，在代码审查场景下召回率较基线翻倍，且组合监控效果帕累托优于单监控器。
2025-10-21 cs.AI cs.CY
Don't do it: Safer Reinforcement Learning With Rule-based Guidance
The Australian National University（澳大利亚国立大学）
在训练过程中，强化学习系统与世界互动，而不考虑其行为的安全性。当部署到现实世界中时，这种系统可能是危险的，并对其周围环境造成危害。通常，可以通过定义一组系统在任何情况下都不应违反的规则来减轻危险情况。例如，在机器人导航中，一个安全规则是避免与周围的物体和人碰撞。在这项工作中，我们根据代理和对象之间的关系定义安全规则，并使用它们来防止强化学习系统执行潜在的有害操作。我们提出了一个新的安全的代理-贪心算法，使用安全规则覆盖代理的行动，如果他们被认为是不安全的。在我们的实验中，我们证明了安全的ε-贪婪策略显著提高了训练过程中代理的安全性，提高了学习效率，从而加快了收敛速度，并实现了比基本模型更好的性能。
2022-12-28 cs.AI
Do LLMs Follow Their Own Rules? A Reflexive Audit of Self-Stated Safety Policies
Microsoft（微软）
本文提出SNCA框架，通过提取模型自述安全规则并形式化为类型谓词，评估模型行为一致性，发现模型在安全政策与行为间存在系统性差距。
2026-04-10 cs.AI cs.CL cs.LG
Mitigating the Safety-utility Trade-off in LLM Alignment via Adaptive Safe Context Learning
Ritzz-AI
本文提出ASCL框架，通过多轮工具使用过程提升推理能力，引入IFPO平衡优势估计，实现更高的整体性能。
2026-06-29 cs.AI cs.CL cs.CR
Safe-RULE: Safe Reinforcement UnLEarning
University of Notre Dame（圣母大学）
针对离线安全强化学习易受数据投毒攻击的问题，提出Safe-RULE框架，通过反学习移除恶意样本影响，无需从头训练或访问原始环境，实验证明能有效提升安全性。
2026-06-08 cs.AI cs.CR cs.LG
AutoSpec: Safety Rule Evolution for LLM Agents via Inductive Logic Programming
Zhejiang University of Technology（浙江工业大学）
提出AutoSpec框架，利用归纳逻辑编程引导的CEGIS自动演化专家定义的安全规则，平衡精确率和召回率，在代码执行和具身智能体领域将F1提升至0.98和0.93，减少高达94%的误报。
2026-07-08 cs.AI cs.CR cs.SE
RuleFuser: An Evidential Bayes Approach for Rule Injection in Imitation Learned Planners and Predictors for Robustness under Distribution Shifts
Princeton University（普林斯顿大学）
该研究提出证据框架RuleFuser，结合模仿学习规划器与经典规则规划器的互补优势，在nuPlan数据集上实现OOD场景安全指标较纯IL规划器38.43%的平均提升，同时兼顾模仿性能。
2024-09-16 cs.AI cs.LG cs.RO
Grammar-Constrained Refinement of Safety Operational Rules Using Language in the Loop: What Could Go Wrong
University of Michigan--Dearborn（密歇根大学迪尔伯恩分校）
本文提出结合反事实推理与语法约束循环的框架，用于安全操作规则的细化，通过自主驾驶控制系统案例展示其在解决不一致规则中的有效性，并强调语法约束与语义验证的重要性。
2026-04-26 cs.AI cs.SE
NASP-T: A Fuzzy Neuro-Symbolic Transformer for Logic-Constrained Aviation Safety Report Classification
Faculty of Science and Technology (REALTEK)（科学与技术学院）；Norwegian University of Life Sciences (NMBU)（挪威生命科学大学）；Dresden International University (DIU)（德累斯顿国际大学）
提出NASP-T模糊神经符号框架，融合ASP规则与Transformer，通过数据增强和模糊正则化提升ASRS报告分类的逻辑一致性，F1分数提高且规则违规减少86%。
2025-10-06 cs.AI cs.LG
Towards Neuro-symbolic Causal Rule Synthesis, Verification, and Evaluation Grounded in Legal and Safety Principles
Hasso Plattner Institute \ of Potsdam Prof.-Dr.-Helmert Str. 2-3, D-14482 Potsdam, Germany；Hasso Plattner Institute \ of Potsdam
本文提出一种神经符号因果框架，结合一阶逻辑抽象树、结构因果模型和深度强化学习，通过Meta层缓解目标误指定问题，实现可扩展的规则维护。
2026-05-11 cs.AI cs.LO
Combining Voting Rules Together
NICTA（国家信息与通信技术研究院）；UNSW（新南威尔士大学）；Harvard University（哈佛大学）
我们提出了一个简单的方法结合在一起的投票规则，执行每个投票规则的不同赢家之间的决选。我们证明了这个组合子有几个好的性质。例如，即使只有一个基本投票规则具有理想的属性（如孔多塞一致性），组合也会继承此属性。此外，我们证明，以这种方式结合在一起的投票规则可以找到一个操纵计算更困难。最后，我们研究了这个组合子的影响，找到接近最优操作的近似方法。
2012-03-14 cs.AI
Boolean Decision Rules for Reinforcement Learning Policy Summarisation
IBM Research Ireland（IBM爱尔兰研究院）；Trinity College Dublin（都柏林圣三一学院）
强化学习（RL）策略的可解释性仍然是一个具有挑战性的研究问题，特别是在安全背景下考虑RL时。理解RL策略的决策和意图提供了通过限制不良行为将安全纳入策略的途径。我们建议使用一个布尔决策规则模型来创建一个事后基于规则的摘要代理的政策。我们评估我们提出的方法，使用DQN代理培训的熔岩gridworld的实现，并表明，鉴于手工制作的功能表示这个gridworld，简单的通用规则，可以创建一个事后解释的摘要代理的政策。我们讨论了可能的途径，引入安全到RL代理的政策，通过使用由这个基于规则的模型所产生的规则作为对代理的政策施加的约束，以及讨论如何创建简单的规则摘要的代理的政策可能有助于在RL代理的调试过程。
2022-07-18 cs.AI cs.LG
Rule Based Rewards for Language Model Safety
OpenAI
针对大语言模型安全微调中人类标注数据易致模型过度谨慎、更新成本高的问题，提出基于规则的奖励（RBR）方法，用细粒度可组合的LLM评分少样本提示做RL奖励，仅需少量人类数据，F1达97.1，优于人类反馈基线。
2024-11-02 cs.AI
Institutional Red-Teaming: Deployment Rules, Not Just Models, Causally Shape Multi-Agent AI Safety
Massachusetts Institute of Technology（麻省理工学院）
研究多智能体人工智能安全中部署规则的影响，提出机构红队测试方法，通过IABench-CA实例化，发现规则改变集体安全、无安全默认规则、身份显著性是机制，还打包成安全案例工作流程认证规则区域并明确风险义务。
2026-07-09 cs.AI cs.GT cs.MA
SwarmGPT: Combining Large Language Models with Safe Motion Planning for Drone Swarm Choreography
Learning Systems and Robotics Lab（学习系统与机器人实验室）；Munich Institute of Robotics and Machine Intelligence（慕尼黑机器人与机器智能研究所）；Technical University of Munich（慕尼黑技术大学）
SwarmGPT利用大语言模型生成无人机编舞，并通过安全过滤器确保可部署性，实现非专家自然语言迭代设计，仿真与真实实验验证了其可扩展性和安全性。
2025-10-10 cs.AI cs.RO cs.SY
NEXUS: Structured Runtime Safety for Tool-Using LLM Agents
University of Central Florida（中佛罗里达大学）；North South University（南北大学）；University of Southern Queensland（南昆士兰大学）
研究工具使用型大语言模型智能体运行时安全问题，提出NEXUS结构化计划安全监控器，结合多种方法进行分级升级。在多个基准测试中表现出色，如合成基准测试F1分数达0.949等，还具有低延迟、低开销特点，相关成果已公开。
2026-07-23 cs.AI
Reasoning over Precedents Alongside Statutes: Case-Augmented Deliberative Alignment for LLM Safety
Rutgers University（罗格斯大学）；NVIDIA Research（NVIDIA研究）；Nanyang Technological University（南洋理工大学）；Adobe Research（Adobe研究）；University of Connecticut（康涅狄格大学）；Fordham University（福特汉姆大学）；Google DeepMind（谷歌DeepMind）
本文提出CADA方法，通过案例增强的推理链进行强化学习，提升LLM的安全性和实用性，避免过度依赖规则。
2026-01-12 cs.AI cs.SE
Combining Domain and Alignment Vectors to Achieve Better Knowledge-Safety Trade-offs in LLMs
Chandar Research Lab（昌达尔研究实验室）；Mila – Quebec AI Institute（魁北克人工智能研究院）；Université de Montréal（蒙特利尔大学）；IBM Research（IBM研究院）；Polytechnique Montréal（蒙特利尔理工学院）；Canada CIFAR AI Chair（加拿大CIFAR人工智能主席）
本文提出基于合并的对齐方法MergeAlign，通过插值领域向量与对齐向量，在保持领域效用的同时提升模型安全性，并在医学和金融Llama3变体上实现显著对齐改进且几乎无性能下降。
2025-05-30 cs.AI
Deriving And Combining Continuous Possibility Functions in the Framework of Evidential Reasoning
SRI International（斯坦福国际研究院）
为了开发一种方法来利用连续的统计信息的Dempster- Shafer框架内，我们结合斯特拉特和Shafero提出的方法。我们首先从概率密度函数推导出连续的可能性和质量函数。然后，我们提出了一个规则相结合的证据，是更简单，更有效地计算比Dempster的规则。我们讨论了Dempster规则和我们提出的规则之间的关系，在连续帧的证据相结合。
2013-03-27 cs.AI
RECTOR: Priority-Aware Rule-Based Reranking for Compliance-Aware Autonomous Driving Trajectory Selection
TORC Robotics LLC（TORC机器人公司）；Daimler Truck AG（戴姆勒卡车集团）；Reynolds & Moore（雷诺兹与摩尔公司）；MassRobotics（马斯机器人）
提出RECTOR，一种后生成重排序层，通过差异化代理和场景条件适用性机制，基于分层规则手册（安全>法律>道路>舒适）对候选轨迹进行评分，并采用确定性ε-词典序规则选择，在无需重新训练预测器的情况下，将安全与法律违规率从28.58%降至20.42%。
2026-05-24 cs.AI cs.LG math.OC
Rules or Character? Scaling Laws for AI Safety Design
该研究构建模型分析AI安全的特性塑造与规则执行的资源分配，发现部署规模对最优分配影响较小，特性脆弱率才是主导因素，二者的最优值在大规模部署下会收敛。
2026-08-14 cs.AI
Convex-Analytic View of Query Selection for Safety Verification of Markov Decision Processes
The Institute of Statistical Mathematics（统计数学研究所）；Tohoku University（东北大学）；RIKEN AIP（理化学研究所人工智能中心）；CyberAgent；National Institute of Informatics（信息学国立研究所）
该研究针对MDP安全验证的查询选择问题，提出基于凸分析的统一框架，引入新的误差单位测量规则，通过实验验证其对安全验证性能的影响。
2026-10-14 cs.AI cs.LO math.OC
Evaluating Counterfactual Sensitivity to Patient Information in Medication-Safety Reasoning
本研究推出MedPIC-Bench基准，评估不同LLM在药物安全推理中对患者信息的反事实敏感性，发现所有模型在反事实问题上表现更差，医学专用LLM的反事实表现落后于通用LLM，凸显静态准确性的评估局限性。
2026-08-05 cs.AI
A two-stage architecture for stock price forecasting by combining SOM and fuzzy-SVM
Hue University（顺化大学）
提出了一种基于自组织映射（SOM）和模糊支持向量机（f-SVM）相结合的股票价格预测模型。基于统计机器学习模型的模糊规则提取是该方法的基础。在该模型中，SOM被用来作为一个聚类算法，整个输入空间划分成几个不相交的区域。对于每个分区，一组模糊规则提取的基础上的f-SVM组合模型。然后，模糊规则集被用来预测的测试数据使用模糊推理算法。所提出的方法的性能进行了比较，与其他模型使用四个数据集
2014-08-22 cs.AI cs.LG
A Safety-Gated Multimodal AI Backend for Mental-Health Support: Hierarchical State Representation, Conservative Risk Fusion, and Controlled Generation in Anian
本文提出用于围产期心理健康支持的安全门控多模态AI后端Anian，其通过分层状态表示与保守风险融合实现安全门控，原型在多任务评估中表现优异，验证了框架内部可行性。
2026-08-28 cs.AI
ECA-RuleML: An Approach combining ECA Rules with temporal interval-based KR Event/Action Logics and Transactional Update Logics
事件驱动架构（EDA）中需要解决的一个重要问题是如何正确有效地捕获和处理基于事件/动作的逻辑。本文致力于弥合之间的差距的知识表示（KR）方法的基础上持久的事件/动作和事件演算等形式主义，一方面，和事件-条件-动作（ECA）反应规则扩展的主动数据库的方法，查看事件的瞬时发生和/或事件序列，另一方面。我们提出了基于反应规则（ECA规则）和一种新的基于间隔的事件逻辑的形式主义，并提出了具体的基于规则ML的语法，语义和实现。我们进一步评估这种方法的理论，实验和一个例子来自常见的行业用例，并说明其好处。
2006-11-10 cs.AI cs.LO cs.MA
Combining Rules and Embeddings via Neuro-Symbolic AI for Knowledge Base Completion
IBM Research（IBM研究院）
最近对知识库补全（KBC）的兴趣导致了基于强化学习、归纳逻辑程序设计和图嵌入的大量方法。特别是，基于规则的KBC导致了可解释的规则，同时在性能上与图嵌入相当。即使在基于规则的KBC中，也存在不同的方法，导致不同质量的规则，以前的工作并不总是精确地突出这些差异。困扰大多数基于规则的KBC的另一个问题是关系路径的不一致性：一些关系序列出现在非常少的路径中，而另一些关系序列出现得非常频繁。在本文中，我们证明了并非所有基于规则的KBC模型都是相同的，并提出了两种不同的学习方法：1）混合关系和2）混合路径。当在神经符号AI之上实现时，后者通过将布尔逻辑扩展到实值逻辑来学习规则，后者模型在平均倒数排名方面的KBC准确性优于最先进的基于规则的KBC 2-10%。此外，为了解决关系路径的不一致性，我们将基于规则的KBC与图嵌入相结合，从而进一步改善了我们的结果，并实现了两全其美。
2021-09-16 cs.AI cs.LG cs.LO
Trusted Neural Networks for Safety-Constrained Autonomous Control
Samsung Research America（三星美国研究院）；Ecole Polytechnique（巴黎综合理工学院）；UC San Diego（加州大学圣地亚哥分校）；SRI International（斯坦福国际研究院）
我们提出了可信神经网络（TNN）模型，它是满足对应用领域至关重要的安全约束的深度神经网络模型。我们调查不同的机制，将基于规则的知识的形式，一阶逻辑约束到TNN模型，编码安全的规则伴随着权重，表明其相对重要性。该框架允许TNN模型从数据和逻辑规则形式的知识中学习。我们提出了解决这个问题的多种方法：（a）一个多头模型结构，允许在满足逻辑约束和在统一的训练框架中拟合训练数据之间进行权衡，以及（b）创建一个约束优化问题，并通过提出一个新的约束损失函数和使用近似梯度下降算法在对偶公式中解决它。我们通过使用开源TORCS~ \cite{BernhardCAA15} 3D模拟器进行自动驾驶汽车的实验来证明我们的TNN框架的有效性。实验使用我们的第一种方法的多头TNN模型，由TORCS的定制版本生成的数据集上，表明（1）添加安全约束的神经网络模型的结果在增加的性能和安全性，（2）的改善随着安全约束的重要性增加而增加。实验还使用约束优化的近似算法的第二种方法进行-他们证明了所提出的方法如何确保（1）即使训练数据违反某些约束，整个TNN模型也满足约束，以及（2）约束目标上的近似梯度下降算法比无约束版本收敛得更快。
2018-05-18 cs.AI cs.LG stat.ML
Combining partially independent belief functions
University of Tunis（突尼斯大学）；University of Rennes1（雷恩第一大学）；University of Carthage（迦太基大学）
信度函数理论管理不确定性，并提出了一套组合规则来聚合多个来源的意见。有些合并规则混合证据信息的来源是独立的，其他规则适合于合并证据信息的依赖源。在本文中，我们有两个主要的贡献：首先，我们提出了一种方法来量化源的独立程度，可以指导选择更合适的组合规则。其次，我们提出了一个新的组合规则，考虑到源的独立程度。所提出的方法是说明生成的质量函数。
2015-03-17 cs.AI
RuleSafe-VL: Evaluating Rule-Conditioned Decision Reasoning in Vision-Language Content Moderation
Beijing University of Posts and Telecommunications（北京邮电大学）
RuleSafe-VL通过构建93个基本规则和92种规则关系，评估视觉-语言内容审核中规则条件决策推理的诊断能力，发现规则关系恢复是主要瓶颈，最佳模型仅达到64.8 Macro-F1。
2026-05-08 cs.AI
Combining Existential Rules and Transitivity: Next Steps
INRIA（法国国家信息与自动化研究所）；Univ. Montpellier II（蒙彼利埃第二大学）；CNRS（法国国家科学研究中心）；Univ. Paris-Sud（巴黎第十一大学）
我们认为存在规则（aka Datasheet+）作为一种形式主义，用于指定本体。近年来，许多类的存在性规则已经被展示出来，合取查询（CQ）蕴涵是可判定的。然而，这些类中的大多数不能表达二元关系的传递性，这是一种经常使用的建模构造。在本文中，我们解决的问题，是否可以安全地将传递性与存在规则的可判定类相结合。首先，我们证明了传递性是不兼容的一个最简单的可判定类，即aGRD（无环图的规则依赖关系），它澄清了景观的“有限扩展集”的规则。其次，我们证明了传递性可以安全地添加到线性规则（一个子类的守护规则，概括了描述逻辑DL-Lite-R）的情况下，原子CQ，也为一般CQ，如果我们把一个小的语法限制的规则集。这是通过一个新的查询重写算法，是专门为处理传递性规则。第三，对于确定的可判定的情况下，我们查明的组合和数据复杂性的查询蕴涵。
2017-01-05 cs.AI
Predictive Traffic Rule Compliance using Reinforcement Learning
本文提出将运动规划器与深度强化学习结合，用运动规划模块替代actor-critic中的actor网络，并以交通规则鲁棒性为奖励训练critic指导轨迹选择，有效预测并防止交通违规，提升自动驾驶安全与合规性。
2025-04-04 cs.AI cs.RO
ARMOR 2025: A Military-Aligned Benchmark for Evaluating Large Language Model Safety Beyond Civilian Contexts
Virginia Polytechnic Institute and State University（弗吉尼亚理工大学）
本文提出ARMOR 2025基准，基于军事 doctrine 提出安全评估方法，通过12类分类和519个军事相关提示，评估21种商业LLM在军事应用中的安全对齐问题。
2026-04-30 cs.AI
