avstandslikhetsmål

Avstandslikhetsmål er en gruppe objektivfunksjoner brukt i maskinlæring og statistikk for å lære representasjoner der avstander mellom dataene reflekterer likhet eller forskjell. Hovedideen er at eksempler som er like hverandre i den underliggende koplingen bør ligge nær hverandre i det lærte rommet, mens ulike eksempler bør være adskilt med en viss margin. Dette blir ofte oppnådd gjennom pair- eller triplet-basert læring eller andre avstands- og likhetsmål som opererer på avstander eller likhetsmål mellom datapunkter.

Vanlige formuleringer inkluderer kontrastiv tap og triplet-tap. For et sett av par (xi, xj) merket som like (y = 1) eller ulike (y = 0) kan man bruke L_pair = sum y * d(xi, xj)^2 + (1 − y) * max(0, margin − d(xi, xj))^2, der d er en distancefunksjon. For en anchor xi, en positiv (lik) xj og en negativ (ulik) xk, kan triplet-tapet være L_triplet = sum max(0, d(xi, xj) − d(xi, xk) + margin). Variasjoner bruker også cosine-similarity eller Mahalanobis-avstander og ulike marginer eller proxy-baserte tilnærminger.

Praktisk implementering skjer ofte i nevrale nettverk, særlig som Siamese- eller triplet-nettverk, og krever nøye utvalg av par eller tripletter (negative mining) for effektiv læring. Anvendelser inkluderer bilde- og ansiktsgjenkjenning, bilde-/tekst-søk, og mer generelle metrikklæringsoppgaver hvor det er viktig å få en meningsfull romlig representasjon basert på avstand og likhet. Utfordringer inkluderer valg av marg, sampling av data for effektiv konvergens og beregningskostnader ved store datasett.