ominaisuusvalinta

Ominaisuusvalinta on prosessi, jossa tunnistetaan ja valitaan ne ominaisuudet, jotka parhaiten ennustavat tai kuvaavat tavoiteltua ilmiötä alkuperäisestä ominaisuusjoukosta. Tavoitteena on parantaa mallin yleistystä ja tulkittavuutta sekä vähentää laskennallista kustannusta ja mallin kompleksisuutta.

Lähestymistavat voidaan jakaa kolmeen pääluokkaan: suodatinmenetelmät (filter), wrapper- menetelmät (wrapper) sekä sisäiset eli embedded menetelmät (embedded). Filter-menetelmät arvioivat ominaisuuksien merkityksen itsenäisesti mallista riippumatta, esimerkeiksi käytetään korrelaatiota, informaatiogainia, chi-neliö -testiä tai mutual information -arvoja. Wrapper-menetelmät valitsevat ominaisuuksia suorituksen perusteella, esimerkiksi etenevä tai taaksepäin eliminaatioon sekä recursive feature elimination -menetelmät. Embedded-menetelmät upottavat ominaisuuksien valinnan suoraan oppimisalgoritmiin, kuten Lasso- tai Elastic Net -regressio sekä joissain puu- ja metsämalleissa tapahtuvaa ominaisuuksien kiinnittymääminen.

Prosessi etenee tyypillisesti siten, että data esiprosessoidaan ja jaetaan opetus- sekä testijoukkoihin. Ominaisuuksien merkitys arvioidaan ja lopullinen alijoukko valitaan sekä koulutetaan uudelleen. Mallin suorituskykyä arvioidaan ristiinvalidaation tai ulkoisen testijoukon avulla käyttäen mittareita kuten tarkkuus, F1-piste, AUC tai RMSE, riippuen tehtävästä.

Haasteisiin kuuluvat korrelaatio- ja redundanssion ominaisuuksien välillä, yli- tai alioh jaminen sekä datan vuotaminen. Ominaisuusvalinta on keskeinen vaihe monissa sovelluksissa, kuten bioinformatiikassa, tekstiluokittelussa ja signaali- sekä kuvatyössä.