Erklärbare künstliche Intelligenz (Explainable Artificial Intelligence, XAI) ist die Fähigkeit von KI-Systemen, ihre Entscheidungen und Vorhersagen in einer für den Menschen verständlichen Weise zu erklären. Dies ist wichtig, weil es das Vertrauen in KI-Systeme erhöht und es den Nutzern ermöglicht, ihre Funktionsweise und die zugrunde liegenden Muster besser zu verstehen. Hier wenden wir die Interpretierbarkeit auf die bereits erwähnte Aufgabe der Erkennung von Gussfehlern an, um die Gründe für die Entscheidungen des Modells zu ermitteln.