Modellübertragbarkeit

Modellübertragbarkeit bezeichnet die Fähigkeit eines maschinellen Lernmodells, auf neuen, unbekannten Datensätzen oder Aufgaben zu funktionieren, die sich vom Training unterscheiden. Sie ist zentral in Transfer Learning, Domain Adaptation und meta-learning.

Sie unterscheidet verschiedene Formen: Covariate Shift (Veränderung der Eingangsverteilung), Konzept-Veränderung (Änderung der Zielverteilung), und Aufgabenübertragung (Transfer auf verwandte, aber neue Aufgaben). Man spricht auch von Cross-Domain-, Cross-Task- und Zero-shot-Transfer.

Methoden: Domain Adaptation zielt darauf ab, Merkmalsverteilungen zwischen Quell- und Zieldomänen anzugleichen, z. B. durch adversarielle Lernverfahren oder invarianten Repräsentationen. Fine-tuning, Few-shot- und Meta-Learning ermöglichen Anpassung mit geringem Ziel-Datensatz. Weitere Ansätze umfassen Datenaugmentation, regularisierte Repräsentationen, und robuste Optimierung gegen Verteilungsschiefen.

Bewertung: Transferierbarkeit wird oft durch Leistung im Zielbereich gemessen, ergänzt um Effizienz der Anpassung und Robustheit gegenüber Drift. Metriken umfassen Genauigkeit, F1, oder domain discrepancy Maße wie H-divergence oder Maximum Mean Discrepancy. Herausforderungen umfassen negative Transfer, Bias, ungleiche Label-Verteilungen, Datenschutz und begrenzte Zieldaten.

Anwendungen: u. a. Computer Vision, NLP, Spracherkennung, Robotik und Gesundheitswesen, wo Modelle in neuen Umgebungen oder mit neuen Aufgaben eingesetzt werden sollen. Theoretische Analysen befassen sich mit allgemeinen Abgrenzungen und Bedingungen, unter denen Übertragbarkeit gewährleistet ist.