domenetilpasning

Domenetilpasning er et område inden for maskinlæring, der handler om at få en model til at fungere godt på et mål-domenet, når den er trænet på et kilde-datasæt, hvis data fordeler sig forskelligt. Det opstod som svar på problemer med distribution shift, hvor egenskaberne ved data ændrer sig mellem træning og anvendelse. Målet er at reducere forskellen mellem kilde- og måldomænerne og opnå høj ydeevne i måldomenet, selvom mærkede data i dette domæne kan være sparsomme eller ikke-eksisterende.

Domæner kan adskille sig på flere måder, herunder covariate shift (forskellig fordeling af input), label shift (forskellig fordeling af labeling), og ændringer i forholdet mellem input og label. Domenetilpasning beskriver derfor teknikker til at håndtere disse forskelle og tilpasse en model uden fuldstændig genlæring fra bunden. Der kan være supplerende mål, såsom at bevare klassifikationernes relative ordning, eller at håndtere åbne eller løse klassesituationer, hvor måldomænet indeholder klasser, der ikke findes i kilde-domænet.

Metoder til domenetilpasning opdeles ofte i funktionstilpasning og vægtning. Funktionstilpasning søger at gøre data fra kilde- og måldomæner mere ens ved hjælp af fælles repræsentationer eller ved at minimere forskelle mellem domænerne (for eksempel gennem adversarial træning, der prøver at gøre domænerne indistinguishable, eller ved MMD-/korrelationsbaserede tab). Vægtningsteknikker ændrer vægten af kildeeksempler for bedre at afspejle måldomænet, mens rekonstruktive og selvovervågede metoder forsøger at lære robuste fænomener gennem gensynkronisering af data eller generative modeller.

Typiske anvendelser findes i computer vision og naturlig sprogbehandling, fx objektdetektion, billedklassifikation og tekstklassifikation, hvor der ofte er behov for at tilpasse modeller til nye miljøer eller sprog. Store offentlige datasets som Office-31, Office-Home og VisDA-2017 anvendes til evaluering. Udfordringer inkluderer risiko for negativ transfer, forskellig labelrum og høje beregningstunge løsninger. Domenetilpasning forventes fortsat at være centralt i anvendelser, hvor datavariationer er uundgåelige.