emnemodellering

Emnemodellering, også kjent som tema-modellering, er en gruppe statistiske metoder for å oppdage underliggende temaer i store tekstsamlinger. Metodene antar at hvert dokument består av en blanding av temaer og at hvert ord genereres fra et tema.

Den mest kjente metoden er Latent Dirichlet Allocation (LDA), som bruker en Bayesiansk generativ modell for å tildele sannsynligheter til temaer i dokumenter og til ord innenfor hvert tema. Alternative metoder inkluderer Probabilistic Latent Semantic Analysis (PLSA) og Non-negative Matrix Factorization (NMF).

Inndata består av et tekstkorpus som forutbehandles ved tokenisering, fjerning av stopwords, stemming eller lemmatisering, og bygging av en ordliste. Utdata inkluderer for hvert dokument en fordeling av temaer og for hvert tema en ordfordeling, noe som gjør det mulig å analysere innholdet, søke og gruppere dokumenter.

Historisk sett ble LDA presentert i 2003 av Blei, Ng og Jordan; PLSA ble foreslått av Hofmann i 1999. Evaluering av emnemodellering bruker ofte perplexitet og måter å vurdere tematisk sammenheng (topic coherence). Valg av antall temaer er vanligvis et åpent spørsmål som må bestemmes av brukeren eller gjennom modellvalg.

Utvidelser inkluderer dynamiske tema-modeller (DTM) som fanger tidsmessig utvikling av temaer, veiledet tema-modellering, korrelasjonsmodeller og nevrale tema-modeller. Utfordringer inkluderer tolkbarhet, riktig antall temaer og skalerbarhet til store datasett.

Anvendelser omfatter informasjonsinnhenting, dokumentklustering, innholdsanbefaling og oppsummering av tekster.