Ensemblejärjestelmiä
Ensemblejärjestelmiä, suomeksi myös yhdistelmäjärjestelmiä tai ryhmämenetelmiä, on koneoppimisen lähestymistapa, jossa useita yksittäisiä malleja, eli "agentteja", yhdistetään yhdeksi kokonaisvaltaisemmaksi ennustejärjestelmäksi. Ajatuksena on, että yhdistelemällä useiden mallien ennusteita voidaan saavuttaa parempi tarkkuus ja vakaus kuin yksittäisellä mallilla. Tämä perustuu siihen, että eri mallit saattavat tehdä virheitä eri paikoissa, ja yhdistämällä niiden ennusteita nämä virheet voivat kumoutua.
Yleisimpiä ensemblejärjestelmien toteutustapoja ovat "bagging" ja "boosting". Baggingissa koulutetaan useita samantyyppisiä malleja satunnaisesti valituilla harjoitusdatan osajoukoilla,
Muita ensembletekniikoita ovat esimerkiksi satunnaismetsät (random forests), jotka ovat baggaukseen perustuva menetelmä päätöspuiden kanssa, ja "stacking",