päätöspuu

Päätöspuu on ennustava malli, jota käytetään sekä luokitteluun että regressioon. Sen ideana on jakaa havaintojoukko yhä pienempiin ryhmiin seuraamalla ominaisuuksien ehtoja ja lopulta antamalla kuhunkin lopulliseen ryhmään kuuluvan ennusteen tai luokan. Päätöspuut ovat sekä luokittelupuita että regressiopuita, riippuen siitä, tuleeko lopputulokseksi luokka-arvoja vai jatkuvia muuttujia.

Rakenne ja tulkittavuus liittyvät toisiinsa: puu alkaa juurisolmusta, jonka testin perusteella nykyinen joukko haarautuu useampaan alisolmuun. Sisäsolmujen testit mittaavat ominaisuuksien arvoja, ja lehdet sisältävät lopullisen päätöksen, kuten luokan tai arvon. Puun tulkinta on suoraa: polut juuresta lehteen kertovat sääntöjen sarjan, joka johtaa ennusteeseen.

Oppiminen ja algoritmit: päätöspuun oppiminen on valvottua oppimista. Puun kasvu perustuu pyrkimykseen pienentää epäpuhtautta tai epäyhtenäisyyttä jakamalla dataa optimaalisesti. Yleisimmät kriteerit ovat informaatioplakku (entropia) tai Gini-epäpuhtaus. Koulutuslähestymiin kuuluvat tunnetut algoritmit ID3, C4.5 ja CART, joissa numeriset ominaisuudet voidaan jakaa raja-arvoilla, ja puu voidaan rakentaa sekä luokitteluksi että regressioksi.

Käyttö ja sovellukset: päätöspuita käytetään monilla aloilla, kuten lääketieteessä, rahoituksessa, asiakas- ja riskianalyysissä sekä verkkokauppojen segmentoinnissa. Puun etuja ovat tulkittavuus, nopea päätöksenteko ja vaatimaton esikäsittely, kun taas heikkouksia ovat taipumus ylikoulutukseen ja herkkyys pienille muutoksille datassa.

Käytännön huomioita: päätöspuut voivat kärsiä yleistymisongelmista ja epätasapainoisesta datasta. Siksi käytetään regularisointia ja usein leikkausta (pruning) sekä rajoitetaan syvyyttä tai minimoidaan ryhmien lukumäärä. Lisäksi käsittely puuttuvien arvojen ja muutosten hallintaan on yleistä.