大模型对齐与安全

Dialogical Reasoning Across AI Architectures: A Multi-Model Framework for Testing AI Alignment Strategies

跨AI架构的对话推理：一种多模型框架用于测试AI对齐策略

Gray Cox

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出一种多模型框架，通过对话推理测试AI对齐策略，展示不同AI模型在处理复杂对齐框架时的表现及新兴见解。

Comments 23 pages, 5 tables, 5 appendices. Code and data: https://github.com/jgraycox-coa/vcw-multi-ai-dialogue

Fair Recourse for All: Ensuring Individual and Group Fairness in Counterfactual Explanations

公平的 recourse 为所有：在反事实解释中确保个体和群体公平性

Fatima Ezzeddine, Obaida Ammar, Silvia Giordano, Omran Ayoub

机构 * University of Applied Sciences and Arts of Southern Switzerland（瑞士南方应用科学与艺术大学） ； Università della Svizzera italiana（瑞士意大利大学） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种基于强化学习的方法，生成同时满足个体和群体公平性的反事实解释，以提升XAI的公平性和透明度。