Regressionsparametrar

Regressionsparametrar är konstanter och koefficienter i en regressionsmodell som beskriver sambandet mellan en beroende variabel och en eller flera oberoende variabler. I en linjär regressionsmodell skrivs y = Xβ + ε, där β är regressionsparametrarna: β0 är interceptet och β1 till βk är lutningar som anger hur mycket y förändras när varje predictor ökar med en enhet, samtidigt som andra variabler hålls konstanta. I andra modeller, till exempel logistisk regression, används β för att påverka log-odds eller sannolikheter.

Parametrarna är populationens sanna värden. När man arbetar med data erhåller man estimat av dessa värden, kallade regressionsestimater eller β̂. Vanliga metoder för uppskattning är minsta kvadraters metod (OLS) vid linjära modeller och maximum likelihood (MLE) i generella linjära modeller. För OLS ges ofta β̂ som lösning till (X'X)^{-1}X'y under vissa antaganden; osäkerhet i beräkningarna beskrivs med standardfel, konfidensintervall och hypotesprövningar.

Tolkning av regressionsparametrarna beror på modelltypen. Tecken och storlek på β anger riktning och styrka i sambandet mellan en variabel och den beroende variabeln, med hänsyn till andra variabler i modellen. Varierande antal och typ av prediktorer påverkar tolkningen, liksom multikollinearitet och modellens antaganden. Osäkerhet i parametrarna hanteras genom konfidensintervall och p-värden; i Bayesiansk ramverk behandlas parametrar som sannolikhetsfördelningar.

Övningar i modellering kan inkludera regularisering (t.ex. ridge eller Lasso) för att stabilisera estimatorer vid många eller korrelerade prediktorer, eller transformering och interaktionstermer för att fånga olika effektmakt.