Binärklassifikation

Binärklassifikation ist ein Teilgebiet des überwachten Lernens, bei dem das Zielmerkmal Y zwei Klassen annimmt, zum Beispiel positiv/negativ oder 1/0. Gegeben sind Merkmale X, die genutzt werden, um eine Zuordnung zu einer der beiden Klassen vorherzusagen. Modelle liefern üblicherweise entweder eine Klasse oder eine Wahrscheinlichkeitsabschätzung für die positive Klasse.

Beim Lernprozess werden Trainingsdaten verwendet, in denen Merkmale und Klassenetiketten vorliegen. Typische Verlustfunktionen sind der logistische Verlust (log loss) oder der Hinge-Loss. Modelle erzeugen eine Wahrscheinlichkeitsbewertung oder eine binäre Entscheidung, wobei oft ein Schwellenwert gewählt wird, um aus Wahrscheinlichkeiten Klassen zuzuteilen.

Typische Verfahren in der Binärklassifikation umfassen die Logistische Regression, Support-Vektor-Maschinen (SVM) mit linearem oder nichtlinearem Kernel, Entscheidungsbäume, Random Forests, Gradient Boosting sowie Naive Bayes und k-Nearest Neighbors. Die Wahl des Verfahrens hängt von Annahmen über die Daten, der Interpretierbarkeit und der Leistungsanforderung ab.

Zur Bewertung der Modelle dienen Metriken wie Genauigkeit, Präzision, Recall, F1-Score und die Kurvenkonstrukte ROC-AUC bzw. PR-AUC. Kreuzvalidierung hilft, die Generalisierung abzuschätzen. Bei unausgeglichenen Klassen sind Techniken wie angepasstes Schwellenwertmatching, Kostenfunktionen oder Resampling sinnvoll, ebenso die Kalibrierung der Wahrscheinlichkeiten.

Häufige Anwendungen umfassen medizinische Diagnosen, Kredit- scoring, Spam- und Betrugserkennung sowie vieles mehr, wo eine klare Zwei-Klassen-Entscheidung erforderlich ist. Herausforderungen sind Klassengleichgewicht, Kalibrierung von Wahrscheinlichkeiten, Overfitting, Feature-Engineering und der Umgang mit fehlenden Werten. Binärklassifikation lässt sich auch als Vorläufer zu mehrklassen- oder mehraufscheidenden Ansätzen verwenden.