Modellutvelgelse

Modellutvelgelse er prosessen med å velge en modell blant et sett av kandidatmodeller som best balanserer forklaringsevne og kompleksitet når data er observert. En modell omfatter vanligvis valg av funksjonell form (lineær, logistisk, Poisson), hvilke prediktorer som inkluderes og antakelser om feilledene. Målet er pålitelig forklaring og god prediksjon uten unødig tilpasning til dataene.

Vanlige metoder for modellutvelgelse inkluderer informasjonskriterier som AIC (Akaike Informationskriterion) og BIC (Bayesian Information Criterion), ofte sammen med korrigert AIC for små utvalg. Kryssvalidering, for eksempel k-fold eller leave-one-out, er en annen sentral tilnærming for å vurdere modellers prediksjonsevne på nye data. For nested modeller brukes ofte likelihood-ratio tester; i regresjon benyttes også F-tester og justert R-kvadrat som hjelpemidler. Penaliserte metoder som LASSO og ridge bidrar også til utvelgelse ved å redusere eller fjerne effekter gjennom regulering.

Valg av modell bør vurderes i lys av kontekst, data og analysemål. Risikoer inkluderer overtilpasning, undervurdering av usikkerhet eller feil spesifikasjon av feilfordelingen. Uavhengig validering og modellavering (modellutjevning) kan redusere risiko og gi bedre prediksjonsusikkerhet ved å kombinere flere modeller.

Anvendelser finnes innen statistikk, økonomi, medisin, miljøforskning og samfunnsvitenskap, der modellutvelgelse bidrar til å identifisere relevante variabler og forbedre prediksjoner. Relaterte konsepter inkluderer modellavering (Bayesian Model Averaging), samt ulike informasjonskriterier og kryssvalidering.