posthocErklärbarkeit

PosthocErklärbarkeit bezeichnet Ansätze zur Erklärbarkeit von Vorhersagemodellen, die nach dem Training erzeugt werden. Im Gegensatz zur ante-hoc-Interpretierbarkeit, bei der das Modell selbst verständlich gestaltet wird, zielt posthocErklärbarkeit darauf ab, die Entscheidungslogik eines oft komplexen Modells nachvollziehbar zu machen, ohne dessen innere Struktur grundlegend zu verändern. Typische Ziele sind Transparenz, Nachvollziehbarkeit einzelner Entscheidungen, Debugging, regulatorische Anforderungen und Vertrauensbildung.

Zu den Methoden gehören model-agnostische Post-hoc-Verfahren wie LIME, SHAP und Anchors, die lokal eine Vorhersage erklären, sowie modell-spezifische Techniken wie Integrated Gradients oder gradientenbasierte Attributionen. Weitere Ansätze umfassen kontrafaktische Erklärungen, regelbasierte Surrogate (etwa Entscheidungsbaum-Modelle, die das Verhalten des Originals approximieren), sowie partielle Abhängigkeiten und individuelle Erklärungen. Erklärungen können lokal oder global sein, je nach Zielsetzung: detaillierte Begründungen für einzelne Vorhersagen oder globale Muster im Modellverhalten.

Anwendungsbereiche finden sich dort, wo Entscheidungen nachvollziehbar sein müssen, etwa in Finanzdienstleistungen, Gesundheitswesen, Kreditvergabe oder Personalentscheidungen. Vorteile liegen in der verbesserten Vertrauensbildung, der Unterstützung von Debugging und der Erfüllung regulatorischer Erwartungen; Nachteile sind, dass Erklärungen oft approximativ bleiben und nicht notwendigerweise die tatsächliche Funktionsweise des Modells widerspiegeln (Treue der Erklärungen), sowie potenzielle Instabilitäten und Fehlinterpretationen.

Kritik und Herausforderungen umfassen die Frage, ob posthoc-Erklärungen echte Transparenz liefern oder nur Plausibilität erzeugen, sowie Risiken von Fehlschlüssen. Die Bewertung von Erklärungen erfolgt oft über Faithfulness, Stabilität und menschliche Beurteilungen, begleitet von Forderungen nach standardisierten Evaluationskriterien.