regresionit

Regresioni është një metodë statistikore që studion lidhjen midis një variabli të varur dhe një ose më shumë variablave të pavarur me qëllim parashikimin e vlerës së variablit të varur ose interpretimin e marrëdhënieve ndërmjet tyre.

Regresioni linear i thjeshtë përshkruan një lidhje të drejtë me ekuacionin y = β0 + β1x + ε, ku y është variabli i varur dhe x variabli i pavarur. Koeficientët vlerësohen me metoden e kuadratit të minimizuar të gabimeve (OLS). Përveç regresionit linear, ekzistojnë forma të tjera si regresioni jo-linear, regresioni polinom dhe modelet e përgjithësuara të linjave (GLM), të cilat përfshijnë regresionin logist për variabla binare dhe regresionin Poisson për numrin e ngjarjeve.

Vlerësimet përfshijnë R² (R-squared), R² i rregulluar, RMSE dhe MAE. Performanca vlerësohet shpesh me ndarje train-test ose me k-fold cross-validation. Kushtet kryesore për regresionin linear përfshijnë linearitetin e lidhjes, pavarësinë e gabimeve, homoskedasticitetin dhe normalitetin e rezidualëve.

Zgjerimet përfshijnë regresionin polinomial për të kapur sjellje jo-lineare, regresionet me penalizime (ridge, lasso, elastic net) për të trajtuar mbinxehjen dhe multicollinearity, dhe modelet GLM për variabla të varur jo normale. Regresioni përdoret gjerësisht në ekonomi, shkenca të sjelljes, inxhinieri, biologi dhe marketing. Vërehet gjithashtu se regresioni tregon lidhje korrelative, jo domosdoshmërisht shkakësinë; konfirmimi i shkakësisë kërkon dizajn eksperimental ose prova teorike të forta.