luokituspuissa

Luokituspuut ovat puumaisia malleja, joita käytetään luokittelemaan havaintoja niiden ominaisuuksien perusteella. Puun jokainen sisäistäminen jakaa dataa pienempiin osiin testien avulla, kun taas lehdet edustavat lopullisia luokkia. Puun mittakaavassa päätöksenteko tapahtuu ylemmästä tasosta alaspäin, jolloin jokainen haara vastaa yhtä ominaisuutta tai sen arvoa.

Rakenne ja rakentuminen tapahtuvat yleensä top-down -menetelmällä, jossa data jaetaan kriteerin mukaan siten, että suurempi informaatio saadaan aikaan. Käytettyjä kisanneita jaetaan imuroiden esimerkiksi Gini-epävarmuuden tai entrinnin (informaation) kasvun perusteella. Tunnettuja algoritmeja ovatCart-ystävällinen CART (Classification and Regression Trees), ID3 ja C4.5 sekä CHAID. Puut voivat käsitellä sekä numeerisia että kategorisia ominaisuuksia; numeeriset ominaisuudet jaetaan usein kynnysten perusteella, kategoriset ominaisuudet luokitellaan arvojen mukaan.

Ominaisuudet ja sovellukset: Luokituspuut ovat tulkittavissa suoraan, mikä tekee niistä suosittuja päätöksenteon tukena esimerkiksi terveydenhuollossa, pankkitoiminnassa ja markkinoinnissa. Ne voivat käsitellä suuria tietoja, mutta ne voivat olla herkkiä pienille muutoksille datassa ja niillä on taipumus ylisovittaa, jos puuta ei säännellä tai karsita.

Rajoitteet ja laajennukset: Puut voivat suosia ominaisuuksia, joilla on monia arvoja, ja ne voivat epäjohdonmukaisesti reagoida poikkeaviin havaintoihin. Yleinen ratkaisu on karsinta ja jatkettu analyysi ensemble-menetelmillä kuten satunnaispuiset ja gradienttipohjaiset mallit, jotka rakentavat useita luokituspuuita ja yhdistävät niiden päätökset parempaan suorituskykyyn ja stabiliteettiin.