Päätöspuuhun

Päätöspuuhun viittaaminen viittaa päätöspuulliseen mallinnukseen, jolla on keskeinen asema koneoppimisessa ja tilastotieteessä. Päätöspuu (decision tree) on puumainen malli, jossa jokainen sisäsolmu esittää päätöksen ominaisuuden perusteella ja lehdet määräävät lopullisen luokan tai arvon. Suomen kielen illatiivimuoto “päätöspuuhun” usein esiintyy keskusteltaessa päätöspuun soveltamisesta tai siirrosta johonkin analyysiin.

Rakenne on kolmiportainen: juuri-solmu alkaa kokonaisuudesta, sisäsolmujen haarautuessa ominaisuuksiin tehtävien testien perusteella, ja lehdet antavat lopullisen päätöksen. Solmujen testit voivat olla kvalitatiivisia tai kvantitatiivisia ja niiden kautta tapahtuu datan yksinkertaistaminen yhdessä tai useammassa ulottuvuudessa.

Oppiminen ja oppimisalgoritmit tapahtuvat yleensä ylhäältä alas rekursiivisella jakamisella. Tavoitteena on jakaa dataa niin, että jokaisella haaralla saadaan mahdollisimman erottuvaa luokitusta tai arvoa. Yleisimmät jakoperusteet ovat informaatiomäärän kasvu, Gini-epävarmuus sekä muut tilastolliset mittarit. Klassifikaatiossa päätöspuut tuottavat luokkia, regressiossa ne antavat numeerisia arvoja. Algoritmeja on useita, kuten ID3, C4.5 ja CART, joista CART tuottaa usein binaarisia puita ja eroaa joiltakin osin käyttötarkoituksiltaan.

Prunointi eli puun yksinkertaistaminen vähentää ylikoulutusta. Tekoja ovat post-prunointi, pre-prunointi ja ristiinvalidointi. Päätöspuut ovat helppoja tulkita ja ne soveltuvat monenlaisiin ominaisuuksiin sekä käsittelevät sekä numeerisia että kategorisia arvoja, mutta ne voivat olla herkkiä pienille muutoksille datassa ja taipuvat helposti ylikoulutukseen ilman asianmukaisia rajoitustoimia.

Käyttökohteita ovat luokittelu ja regression, joihin päätöspuut löytyvät laajasti muun muassa terveydenhuollossa, rahoituksessa, liiketoiminnassa ja dataminingissa. Niiden intuitiivisuus helpottaa päätösten perustelua ja tulosten kommunikoimista sidosryhmille. Päätöspuiden kehitys ja käytäntö ovat sidoksissa sekä teoreettisiin että soveltaviin tutkimuksiin, kuten lindin ja Quinlannin kehittämiin menetelmiin sekä CART- ja ID3/C4.5-perintöön.