Erklärbarkeit

Erklärbarkeit bezeichnet die Fähigkeit, die Funktionsweise, Gründe und Auswirkungen eines Modells, einer Entscheidung oder eines Prozesses nachzuvollziehen. In der Informatik, insbesondere bei künstlicher Intelligenz, geht es darum, dass Menschen die Vorhersage oder Handlung eines Modells verstehen können statt sie nur zu nutzen.

Wichtige Unterscheidungen sind Transparenz, Erklärbarkeit und Nachvollziehbarkeit. Transparenz bedeutet Offenlegung von Aufbau, Datengrundlage, Merkmalen und Algorithmus. Erklärbarkeit zielt darauf ab, die Gründe einer konkreten Entscheidung verständlich zu machen. Global erklärbar bedeutet ein Verständnis des gesamten Modells; lokal erfordert die Erläuterung einzelner Vorhersagen.

Methodisch wird zwischen ante-hoc- (intrinsisch interpretierbar) Modellen und post-hoc-Erklärungen unterschieden. Bei komplexen Modellen wie tiefen Netzen kommen oft post-hoc-Ansätze zum Einsatz, etwa Merkmalszuordnungen oder Surrogatmodelle. Praktisch werden auch Erklärungen wie Feature-Attributionen, beispielbasierte Erklärungen oder Gegenargumente verwendet, zum Beispiel SHAP oder LIME.

Erklärbarkeit spielt in Medizin, Finanzwesen, Recht und öffentlicher Verwaltung eine wichtige Rolle. Regulatorische Entwicklungen wie der EU AI Act betonen Transparenz- und Erklärpflichten bei risikoreichen Systemen, um Vertrauen, Rechenschaft und Auditierbarkeit sicherzustellen.

Herausforderungen umfassen den Spagat zwischen Verständlichkeit und Genauigkeit, das Risiko missverständlicher Erklärungen, Bias in Daten sowie unterschiedliche Informationsbedarfe von Fachleuten, Laien und Aufsichtsbehörden. Erklärungen sollten treu und sinnvoll sein, schützen aber nicht vor Fehlinterpretationen.

Zusammenfassend ist Erklärbarkeit ein interdisziplinäres Konzept, das technologische Möglichkeiten mit organisatorischen und gesellschaftlichen Überlegungen verbindet, um Entscheidungsprozesse transparenter, überprüfbarer und verantwortbarer zu gestalten.