klassifiseringstrær

Klassifiseringstrær er en trebasert modell brukt i maskinlæring for å tildele et datapunkt til en av forhåndsdefinerte klasser basert på egenskaper ved datapunktet. Treet består av noder (kontroll/spørsmål), grener og blader som betegner klassene. Rotnoden starter prosessen og hver intern node tester en egenskap, mens grenene representerer utfall av testen og bladene gir klassifikasjonen.

Modellen bygges ved en rekursiv, top-down splitting av dataene. Målet ved hver split er å skape undergrupper som er mer homogene med hensyn til klassen enn foreldregruppen. Vanlige kriterier inkluderer informasjonsgevinst (basert på entropi) eller Gini-impurasjon. I klassifikasjons-CART brukes ofte binære splits, mens andre algoritmer som ID3 og C4.5 kan tillate flere grenutfall per node.

Vanlige algoritmer er ID3, C4.5 og CART. CART bygger ofte binære trær og håndterer både numeriske og kategoriske data på ulike måter. Fordeler med klassifiseringstrær inkluderer enkel tolkning, rask prediksjon og behov for redusert dataforbehandling. De kan håndtere ulike datatype og ikke-lineære relasjoner uten omfattende forhåndsmodellering. Ulemper inkluderer risiko for overtilpasning, sensitivitet for små dataendringer og skjevhet mot funksjoner med mange nivåer.

Forbedringer skjer ofte gjennom pruning og bruk av ensemblemetoder som Random Forests og gradient boosting. Klassifiseringstrær er dermed vanlige byggesteiner i både enkel og avansert prediksjon, og brukes i områder som medisin, finans, markedsanalyse og bioinformatikk.