Informaatiokriteerit

Informaatiokriteerit ovat tilastotieteessä käytettyjä mallivalinnan mittareita. Ne arvioivat tilastollisen mallin selitysvoiman sekä mallin monimutkaisuuden välisen tasapainon. Perusidea on, että hyvä malli selittää havaintoja riittävän tarkasti mutta ilman tarpeetonta monimutkaisuutta. Käytännössä informaatiokriteerit mahdollistavat useamman vaihtoehtoisen mallin systemaattisen vertailun ja valinnan kohtuullisen, tietoon perustuvan kompromissin perusteella.

Yleisimmät esimerkit ovat Akaiken tiedonkriteeri (AIC) ja BIC (Schwarz-kriteeri). Lisäksi on käytössä AICc, joka soveltuu pienille otoksille. Laskennassa käytetään mallin maksimaalista uskottavuutta L ja mallin parametreja k: AIC = -2 log L + 2k; BIC = -2 log L + k log n, missä n on havaintojen määrä. MDL (Minimum Description Length) tarjoaa lisäksi informaatioteoreettisen lähestymistavan mallivalintaan.

Käyttötilanteissa kriteerit lasketaan jokaiselle vertailtavalle mallille ja valitaan alin arvo. Eri kriteerit voivat kuitenkin tuottaa eri suosituksia, joten suositellaan tarkastelemaan useampaa kriteeriä sekä huomioimaan aineiston konteksti ja teoreettinen tausta. Yleisesti AIC/AICc painottavat paremmin fitin ja monimutkaisuuden tasapainoa; BIC korostaa usein vakioituvaa mallinvalintaa suuremmissa otoksissa.

Rajoitukset: informaatiokriteerit olettavat, että oikea malli on joukossa ja ovat herkkiä otoskokoon sekä mallin spesifikaation virheille. Ne eivät yksin riitä todistamaan oikeaa mallia, eivätkä korvaa ulkoista validointia tai teoreettista harkintaa. Käytetäänkin niitä yhdessä muiden arviointimenetelmien kanssa.