Domeinverschuiving

Domeinverschuiving is een begrip uit statistiek en machine learning dat een verschil beschrijft tussen de verdeling van trainingsdata en de verdeling in de toepassing. Dit verschil kan leiden tot slechtere prestaties van modellen op het doeldomein als er geen aanpassing plaatsvindt.

Belangrijke vormen zijn covariate shift (verandering van p(x) terwijl p(y|x) min of meer gelijk blijft), prior shift (verandering van p(y)) en concept drift (verandering van p(y|x) over tijd). In de praktijk treden soms meerdere verschuivingen tegelijk op.

Oorzaken zijn diverse: andere databronnen, meetapparatuur, tijdstempel, geografische of demografische verschillen en veranderende omgevingen. Het gevolg is een generalisatieprobleem: een model dat goed presteerde tijdens training kan op het doeldomein onvoldoende nauwkeurig zijn.

Aanpak omvat domeinadaptatie: leren van domeinonafhankelijke representaties, gebruik van doeldomeinlabels (wanneer mogelijk), en gewichtsaanpassing van trainingsvoorbeelden. Methoden zijn onder meer adversarial domeinverwerking, discrepantie-gebaseerde methoden en feature-transformatie. Bij weinig doellabels is onsupervised domeinadaptatie gebruikelijk.

Evaluatie gebeurt doorgaans op het doeldomein; ook maatstaven voor domeinverschillen zoals proxy A-distance of MMD worden toegepast. Domeinverschuiving is verwant aan concept drift en dataset shift, maar richt zich op structurele verschillen tussen trainings- en toepassingsdomeinen.