Päätöspuita

Päätöspuut, suomeksi myös tunnettuina luokittelupuina tai regressiopuina, ovat koneoppimisen ja tiedonlouhinnan menetelmiä, joita käytetään sekä luokittelu- että regressio-ongelmien ratkaisemiseen. Ne ovat puurakenteita, joissa jokainen sisäsolmu edustaa attribuutin (ominaisuuden) testausta, jokainen haara edustaa testin tulosta ja jokainen lehtisolmu edustaa lopullista päätöstä tai ennustetta. Päätöspuut pyrkivät jakamaan datan pienempiin ja homogeenisempiin osiin luomalla sarjan sääntöjä.

Rakennetta luotaessa algoritmi valitsee kullekin solmulle parhaan jaottelun, joka maksimoi informaatiokannat tai minimoi epäpuhtauden. Yleisiä etupäässä luokitteluun käytettyjä mittareita ovat Gini-epäpuhtaus ja informaatiokannatus. Regressiossa taas pyritään minimoimaan keskineliövirhe. Päätöspuita on helppo tulkita ja visualisoida, mikä tekee niistä suosittuja etenkin silloin, kun selitettävyys on tärkeää.

Niiden haittapuolia ovat taipumus ylisovittumiseen (overfitting), jolloin puu oppii opetusdatan liian tarkasti ja yleistää huonosti uuteen dataan. Tätä voidaan kuitenkin lieventää esimerkiksi puun karsinnalla tai käyttämällä yhdistelmämenetelmiä, kuten satunnaismetsiä tai Gradient Boosting -menetelmiä. Päätöspuita käytetään monilla aloilla, kuten lääketieteessä diagnoosien apuna, taloudessa luottoriskin arvioinnissa ja markkinoinnissa asiakasprofiilien luomisessa.