témamodellezés

A témamodellezés olyan statisztikai megközelítés, amely szöveges adatokban rejtett, egymással összefüggő témák feltárását célozza. A dokumentumok gyakran több témát hordoznak, ezek pedig témák eloszlásai a szövegben. A cél, hogy a nagy szövegkollekciót kisméretű reprezentációkká redukáljuk: minden dokumentumhoz egy témákból álló keverék tartozik, minden téma pedig szavak felbukkanási valószínűségeinek halmaza.

A legismertebb módszer a Latens Dirichlet-eloszlású témamodellezés (LDA). A szemlélet szerint a dokumentumok egy vagy több témát felhasználva generálódnak: minden dokumentumhoz egy témák eloszlása tartozik, a szavak pedig ezekből a témákból valószínűségi alapon kerülnek kiválasztásra. Matematikailag a témákat és a dokumentumok eloszlásait Dirichlet-priók és multinomiális eloszlások segítségével írjuk le; az inferencia feladata a témák és a dokumentumok becslése variációs módszerekkel vagy Gibbs-szkenneléssel.

További fontos variánsok közé tartozik a dinamikus témamodellezés (DTM), amely időben változó témákat ír le, valamint a Hierarchical Dirichlet Process (HDP), amely nem köti meg előre a témák számát. Vezetői megközelítések mint a supervised LDA és különböző előfeldolgozási és küszöbölési módok is alkalmazhatók a feladatra.

A feldolgozás előtt általában előzetes lépések történnek: tokenizáció, stopword-eltávolítás, származtatás (lemma vagy stemming), és gyakran a magyar nyelvre jellemző lemmatizálás. Az értékelésre szolgáló metrikák közé tartozik a perplexitás és a koherencia, bár a koherencia közelebb áll a humán értelmezéshez. A módszer eredménye értelmezhető témaként vagy felhasználható keresés, klaszterezés és összefoglalás javítására.

Használati területek közé tartozik a dokumentumok és hírek keresése, információ-visszakeresés, tartalom-összefoglalás, piackutatás és társadalomtudományi kutatások. Előnyei közé tartozik a magas dimenzionalitás csökkentése és az átlátható témák értelmezhetősége; hátrányai közé sorolható, hogy nagy adathalmazokra van szükség, a témák értelmezése szubjektív lehet, és a modellek érzékenyek a hiperparaméterekre vagy a nyelvi sajátosságokra (például a magyar nyelv sajátosságaira).