通过激活聚类解释数字病理学模型
Explaining Digital Pathology Models via Clustering Activations
AI总结：
提出一种基于卷积神经网络激活聚类的可解释性方法，通过展示模型全局行为并提供细粒度信息，增强对数字病理学模型的理解和信任。
摘要：
我们提出了一种基于聚类的可解释性技术，用于基于卷积神经网络的数字病理学模型。与常用的基于显著性图的方法（如遮挡、GradCAM或相关性传播）不同，这些方法突出显示对单个切片预测贡献最大的区域，而我们的方法展示了所考虑模型的全局行为，同时提供了更细粒度的信息。结果聚类不仅可以可视化以理解模型，还可以增加对其操作的信心，从而在临床实践中更快地采用。我们还评估了我们的技术在现有用于检测前列腺癌的模型上的性能，证明了其实用性。
英文摘要：
We present a clustering-based explainability technique for digital pathology models based on convolutional neural networks. Unlike commonly used methods based on saliency maps, such as occlusion, GradCAM, or relevance propagation, which highlight regions that contribute the most to the prediction for a single slide, our method shows the global behaviour of the model under consideration, while also providing more fine-grained information. The result clusters can be visualised not only to understand the model, but also to increase confidence in its operation, leading to faster adoption in clinical practice. We also evaluate the performance of our technique on an existing model for detecting prostate cancer, demonstrating its usefulness.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
