Ensemblejärjestelmiä

Ensemblejärjestelmiä, suomeksi myös yhdistelmäjärjestelmiä tai ryhmämenetelmiä, on koneoppimisen lähestymistapa, jossa useita yksittäisiä malleja, eli "agentteja", yhdistetään yhdeksi kokonaisvaltaisemmaksi ennustejärjestelmäksi. Ajatuksena on, että yhdistelemällä useiden mallien ennusteita voidaan saavuttaa parempi tarkkuus ja vakaus kuin yksittäisellä mallilla. Tämä perustuu siihen, että eri mallit saattavat tehdä virheitä eri paikoissa, ja yhdistämällä niiden ennusteita nämä virheet voivat kumoutua.

Yleisimpiä ensemblejärjestelmien toteutustapoja ovat "bagging" ja "boosting". Baggingissa koulutetaan useita samantyyppisiä malleja satunnaisesti valituilla harjoitusdatan osajoukoilla, ja lopullinen ennuste saadaan esimerkiksi äänestämällä tai keskiarvoistamalla yksittäisten mallien ennusteita. Boosting puolestaan kouluttaa malleja peräkkäin, ja jokainen uusi malli pyrkii korjaamaan edellisten mallien tekemiä virheitä. Tällöin malleille annetaan eri painoarvoja sen mukaan, kuinka hyvin ne ovat suoriutuneet.

Muita ensembletekniikoita ovat esimerkiksi satunnaismetsät (random forests), jotka ovat baggaukseen perustuva menetelmä päätöspuiden kanssa, ja "stacking", jossa toisen tason malli oppii yhdistämään useiden eri pohjamallien ennusteita. Ensemblejärjestelmiä käytetään laajasti erilaisissa koneoppimissovelluksissa, kuten kuvantunnistuksessa, luokittelussa ja regressiossa, koska ne usein tarjoavat huippuluokan tuloksia.