Diskriminanzanalyse

Die Diskriminanzanalyse ist eine statistische Methode zur Klassifikation von Beobachtungen in vorab festgelegte Klassen. Sie geht davon aus, dass die Merkmalsvektoren einer Klasse einer Wahrscheinlichkeitsverteilung folgen, typischerweise einer mehrdimensionalen Normalverteilung, und zielt darauf ab, eine Entscheidungsregel abzuleiten, die neue Beobachtungen einer Klasse zuordnet.

Zu den wichtigsten Varianten gehören die Lineare Diskriminanzanalyse (LDA) und die Quadratische Diskriminanzanalyse (QDA). Bei der LDA wird angenommen, dass alle Klassen dieselbe Kovarianzmatrize besitzen; daraus ergeben sich lineare Entscheidungsgrenzen. Die QDA erlaubt unterschiedliche Kovarianzmatrizen je Klasse, wodurch sich nichtlineare Entscheidungsgrenzen ergeben.

Der Ablauf besteht aus Parameternschätzung aus einem Trainingsdatensatz: Schätzung der Klassenmittelvektoren, Kovarianzmatrizen und der Priorwahrscheinlichkeiten der Klassen; danach wird die Diskriminanzfunktion berechnet und jedes neue Exemplar in die wahrscheinlichste Klasse eingeordnet. Wahrscheinlichkeiten lassen sich auch zu Entscheidungsgrenzen in den Merkmalsraum interpretieren.

Vorteile sind einfache Implementierung, Interpretierbarkeit und gute Leistung bei Normalverteilungen sowie geringer Datenbedarf im Vergleich zu komplexeren Modellen. Nachteile entstehen bei Abweichungen von Normalität, ungleichen Varianzen oder stark korrelierten Merkmalen, wodurch LDA und insbesondere QDA an Leistung verlieren können. In solchen Fällen können auch andere Modelle wie logistische Regression geeigneter sein.

Anwendungen finden sich in Medizin, Biologie, Kredit- und Marketinganalysen, wo Klassen bereits definiert sind. Diskriminanzanalyse dient auch als Vorstufe oder Basismethode in Klassifikationsaufgaben und wird oft in Lehrbüchern als Einstieg in Überwachtes Lernen behandelt. Die Methode geht auf Ronald A. Fisher zurück, der 1936 die LDA für den Vergleich zweier Klassen entwickelte; spätere Erweiterungen umfassen QDA und Regularisierte Varianten.