大模型对齐与安全

Position: Behavioural Assurance Cannot Verify the Safety Claims Governance Now Demands

位置：行为保证无法验证当前安全主张所要求的治理

Pratinav Seth, Vinay Kumar Sankarapu

机构 * Lexsi Labs（Lexsi实验室） 纠错

专题命中 AI治理与伦理 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文指出行为保证无法验证安全主张，现有治理框架要求验证隐含目标、抗失控前兆和有限灾难能力，但现有方法仅能验证可观测输出，无法验证隐含表示和长期行为。

When Thinking Pays Off: Incentive Alignment for Human-AI Collaboration

思考有回报：人机协作中的激励对齐

Joshua Holstein, Patrick Hemmer, Gerhard Satzger, Wei Sun

专题命中 AI治理与伦理 ：alignment(title)

AI总结 研究探讨了人机协作中激励结构对过度依赖AI的影响，提出新的激励机制减少过度依赖，通过实验验证其有效性，强调激励设计需与任务和互补性对齐。

Comments Accepted at the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)