Beslutningstræet

Beslutningstræet er en type prediktivt model anvendt inden for dataanalyse, maskinlæring og beslutningsanalyse. Det repræsenteres som et træ: en rodknude, indre beslutningsnoder og bladknuder. Rodnoden indleder processen, og hver beslutningsnode tester et attribut. Afhængigt af testresultatet føres dataene ned gennem grenene til et blad, der angiver klassifikationen eller den forventede værdi.

Træet bygges ved at opdele data i undergrupper baseret på attributtest. Målet er ofte at maksimere informationsgevinst (eller reducere Gini-indekset) ved hver split. Almindelige algoritmer inkluderer ID3 og C4.5, der fokuserer på klassifikation, og CART, der kan producere både klassifikation og regressions-træer. Regressions-træer estimerer numeriske værdier ved at minimere varians i blade.

Fordele ved beslutningstræer inkluderer gennemsigtighed og fortolkelighed, evnen til at håndtere både numeriske og kategoriske data og krav til forbehandling, såsom datanormalisering. Begrænsningerne omfatter risiko for overfitting uden pruning, følsomhed for små ændringer i data og bias mod attributter med mange niveauer. For at forbedre ydeevnen bruges ofte pruning, krydsvalidering og sammensatte modeller som ensembles (f.eks. Random Forests eller Gradient Boosting).