arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2405.16259cs.AIcs.LG
收藏

前向传播算法:从神经网络中提取线性函数逼近的可解释人工智能技术

Front-propagation Algorithm: Explainable AI Technique for Extracting Linear Function Approximations from Neural Networks

MIT Kavli Institute for Astrophysics and Space Research, Massachusetts Institute of Technology(麻省理工学院 MIT 卡夫利天体物理与空间研究所)

Javier Viaña

AI总结:

本文提出前向传播算法,一种可解释AI技术,能在单次前向传播中提取深度神经网络的线性函数解释,时间复杂度低,可实时并行运行,并在多个基准数据集上验证了其有效性。

摘要:

本文介绍了前向传播算法,这是一种新颖的可解释人工智能(XAI)技术,旨在阐明深度神经网络的决策逻辑。与集成梯度或Shapley值等其他流行的可解释性算法不同,所提出的算法能够在训练模型的一次前向传播中提取网络的准确且一致的线性函数解释。这一细微差别使得前向传播的时间复杂度与众不同,因为它可以实时运行并与已部署的模型并行。我们将该算法封装在一个名为front-prop的软件中,并展示了其在三个不同神经网络架构上提供准确线性函数的有效性,这些架构在公开可用的基准数据集上进行了训练。

英文摘要:

This paper introduces the front-propagation algorithm, a novel eXplainable AI (XAI) technique designed to elucidate the decision-making logic of deep neural networks. Unlike other popular explainability algorithms such as Integrated Gradients or Shapley Values, the proposed algorithm is able to extract an accurate and consistent linear function explanation of the network in a single forward pass of the trained model. This nuance sets apart the time complexity of the front-propagation as it could be running real-time and in parallel with deployed models. We packaged this algorithm in a software called $\texttt{front-prop}$ and we demonstrate its efficacy in providing accurate linear functions with three different neural network architectures trained on publicly available benchmark datasets.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑