ominaisuuspoiminta

Ominaisuuspoiminta on prosessi, jossa datasta valitaan pienempi, relevantti ominaisuusjoukko siten, että malli saavuttaa hyvän suorituskyvyn, kustannukset vähenevät ja tulkittavuus paranee. Poimittu ominaisuusjoukko voi koostua sekä mitattavista että johdetuista ominaisuuksista, ja poiminta voidaan tehdä ennen oppimista tai osana sitä.

Menetelmät jaetaan kolmeen päätyyppiin: suodatinmenetelmät, wrapper-menetelmät ja upotetut menetelmät. Suodatinmenetelmät arvioivat ominaisuuksien relevanssin riippumatta käytetystä oppimismallista esimerkiksi korrelaation, mutual informationin tai chi-neliötestin perusteella. Wrapper-menetelmät käyttävät tietyn mallin suorituskykyä ominaisuuksien valintaan kiertäen mallia useita kertoja, mikä voi olla laskennallisesti kallista mutta usein tehokasta. Upotetut menetelmät integroituvat suoraan mallin oppimisprosessiin, esimerkiksi L1-säännösten tai päätöspuu- tai gradienttiasetusten kautta.

Esimerkkejä ovat: filter- menetelmissä korrelaatio- ja mutual information -mittarit sekä chi-neliötesti; wrapper-menetelmissä rekursiivinen ominaisuuksien poisto (RFE) ja vaiheittainen haun menetelmät; upotetuissa menetelmissä LASSO-regularisointi sekä malliopetuksen yhteydessä saatu tärkeydestinarviointi esimerkiksi satunnaisista metsistä tai gradienttipuista.

Käytännössä prosessi alkaa datan esikäsittelystä ja tavoitteen määrittelystä, jatkuu poimintamenetelmän valinnalla, ominaisuuksien valinnalla ja mallin arvioinnilla ristiinvalidoimalla. Poiminnan etuja ovat pienempi malli, nopeampi koulutus ja parempi yleistyminen; haittoja voivat olla menetelmän riippuvuus datasta sekä mahdollinen olennaisen informaation menetys, erityisesti wrappers- ja upotetuissa menetelmissä.