Embeddedmenetelmät

Embeddedmenetelmät ovat ominaisuuksien valintamenetelmiä, joissa valinta tapahtuu osana koneoppimismallin oppimista. Ne integroivat ominaisuuksien valinnan osaksi optimointiprosessia, toisin kuin erilliset suodatus- tai wrapper-menetelmät. Näin valittu joukko ominaisuuksia otetaan suoraan mukaan mallin rakennukseen ja sen parametreihin.

Yleisiä esimerkkejä ovat säännöllistämiseen perustuvat menetelmät. Lasso eli L1-regularisointi saa osan kertoimista nollaksi, mikä johtaa yksinkertaisempiin malleihin ja käytännössä ominaisuuksien poistamiseen. Elastic Net yhdistää L1- ja L2-säännöllistämisen, jolloin se auttaa käsittelemään korreloituneita ominaisuuksia paremmin. Puu- ja gradient boosting -malleissa ominaisuustärkeykset syntyvät mallin rakentamisen aikana, ja näitä arvoja voidaan käyttää valintaan tai priorisointiin.

Edut ovat tehokas tapa toteuttaa ominaisuuksien valinta ilman erillisiä kierroksia, sekä hyvä skaalautuvuus korkeiden ulottuvuuksien datan kanssa. Embeddedmenetelmät voivat myös huomioida korrelaatioita paremmin kuin joitain perinteisiä korrelaatiopohjaisia lähestymistapoja. Haittoja on, että tulokset ovat herkkiä valitulle säännöllistämiselle ja hyperparametreille, ja ne ovat usein mallikohtaisia, jolloin siirto toisiin tehtäviin voi vaatia uudelleensäätöä.

Käyttökohteita ovat erityisesti genomitiede, teksti- ja muut korkean ulottuvuuden datan analysointi sekä suurissa oppimisongelmissaan, joissa ominaisuuksien määrää halutaan vähentää samalla kun rakennetaan yleisiä ja tehokkaita ennusteita.