arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2602.03351cs.AIcs.CYcs.LG
收藏

构建道德决策的可解释模型

Building Interpretable Models for Moral Decision-Making

Lossfunk;Ashoka University(阿什oka大学)

Mayank Goel, Aritra Das, Paras Chopra

AI总结:

本文提出了一种定制的Transformer模型,用于研究神经网络在道德决策中的表现,并通过可解释性技术揭示了道德推理的分布特性。

摘要:

我们构建了一个定制的Transformer模型,研究神经网络在电车式困境中如何做出道德决策。模型通过嵌入处理结构化场景,嵌入编码了受影响的人、人数以及他们所属的结果。我们的2层架构在Moral Machine数据上实现了77%的准确率,同时足够小以便进行详细分析。我们使用不同的可解释性技术来揭示道德推理如何分布在网络中,证明偏见局部化到不同的计算阶段以及其他发现。

英文摘要:

We build a custom transformer model to study how neural networks make moral decisions on trolley-style dilemmas. The model processes structured scenarios using embeddings that encode who is affected, how many people, and which outcome they belong to. Our 2-layer architecture achieves 77% accuracy on Moral Machine data while remaining small enough for detailed analysis. We use different interpretability techniques to uncover how moral reasoning distributes across the network, demonstrating that biases localize to distinct computational stages among other findings.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑