大模型对齐与安全

Aligning Machiavellian Agents: Behavior Steering via Test-Time Policy Shaping

对 Machiavellian 代理进行对齐：通过测试时策略塑造实现行为引导

Dena Mujtaba, Brian Hu, Anthony Hoogs, Arslan Basharat

专题命中 AI治理与伦理 ：alignment(abstract,comments)；分类 cs.CL、cs.AI

AI总结 本文提出了一种测试时策略塑造方法，通过模型引导的策略调整，解决预训练代理在复杂环境中的伦理对齐问题，实现奖励最大化与伦理约束的平衡。

Comments Accepted to AAAI 2026 AI Alignment Track

Structure-Aware Feature Rectification with Region Adjacency Graphs for Training-Free Open-Vocabulary Semantic Segmentation

基于区域邻接图的结构感知特征校正用于无训练开放词汇语义分割

Qiming Huang, Hao Ai, Jianbo Jiao

机构 * The MIx Group, School of Computer Science University of Birmingham（米克集团，计算机科学学院，伯明翰大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于区域邻接图的结构感知特征校正方法，通过增强局部辨别能力来提升开放词汇语义分割的性能。

Comments Accepted to WACV2026

Democratic or Authoritarian? Probing a New Dimension of Political Biases in Large Language Models

民主或威权？探讨大型语言模型中政治偏见的新维度

David Guzman Piedrahita, Irene Strauss, Bernhard Schölkopf, Rada Mihalcea, Zhijing Jin

机构 * University of Zürich（苏黎世大学） ； ETH Zürich（苏黎世联邦理工学院） ； MPI for Intelligent Systems（智能系统研究所） ； University of Michigan（密歇根大学） ； University of Toronto（多伦多大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 本文探讨了大型语言模型在民主与威权政治偏见方面的表现，通过引入F-scale、FavScore和角色模型探测方法，揭示了模型在不同语言提示下对民主与威权倾向性的差异。