Interpretierbarkeit

Interpretierbarkeit bezeichnet die Fähigkeit, die Funktionsweise und Entscheidungslogik eines Modells nachvollziehbar zu machen. Sie umfasst das Verständnis der Modellstruktur ebenso wie die Verständlichkeit der Vorhersagen. Ziel ist Transparenz, Vertrauensbildung und Verantwortbarkeit in der Nutzung von Algorithmen.

Es gibt zwei grundlegende Ansätze: intrinsische Interpretierbarkeit, bei der sich Modelle durch verständliche Strukturen auszeichnen (zum Beispiel lineare Modelle, Entscheidungsbäume), und post-hoc-Erklärbarkeit, die Erklärungen für komplexe Modelle liefert. Innerhalb von post-hoc-Erklärungen unterscheidet man globale Erklärungen zum Gesamtverhalten des Modells und lokale Erklärungen zu einzelnen Vorhersagen. Häufig verwendete Methoden umfassen Merkmals-Importance, SHAP, LIME, Partial Dependence Plots und kontra-faktische Erklärungen.

Bewertung und Herausforderungen betreffen vor allem den Trade-off zwischen Verständlichkeit und Leistungsfähigkeit. Erklärungen können fehlerhaft oder missverständlich sein und gegebenenfalls sensible Informationen preisgeben. Die Evaluation orientiert sich an Kriterien wie Verständlichkeit, Treue (Faithfulness) der Erklärung zum Modell, Robustheit und dem praktischen Nutzen für Stakeholder. Regulatorische Diskussionen betreffen Fragen der Transparenzpflicht in bestimmten Anwendungsfällen und das potenzielle Recht auf Erklärung.

Anwendungen finden sich in Bereichen wie Finanzen, Gesundheitswesen, Recht und öffentlicher Verwaltung. Interpretierbarkeit unterstützt Auditierbarkeit, Compliance und die Akzeptanz von KI-Systemen, wobei der Kontext maßgeblich bestimmt, welche Erklärungen sinnvoll und ausreichend sind.