L1regularizáció

L1 regularizáció, ismertebb nevén Lasso (Least Absolute Shrinkage and Selection Operator) regularizáció, egy olyan technika, amelyet a gépi tanulási modellek, különösen a lineáris regresszió és a logisztikus regresszió túlillesztésének csökkentésére használnak. Lényege, hogy hozzáad egy büntetési kifejezést az optimalizálandó célfüggvényhez, amely a modell súlyainak abszolút értékének összegén alapul.

Ezen büntetési kifejezés hozzáadásával a Lasso arra ösztönzi a modellt, hogy ne csak a hibát minimalizálja, hanem a súlyokat is a lehető legkisebbre csökkentse. Jelentős különbség más regularizációs módszerekhez, például az L2 regularizációhoz (Ridge) képest, hogy az L1 regularizáció képes nulla értékre állítani bizonyos súlyokat. Ez azt jelenti, hogy a Lasso gyakorlatilag automatikusan elvégezheti a jellemzők kiválasztását. Azok a jellemzők, amelyeknek súlya nulla lesz, hatékonyan eltávolításra kerülnek a modellből, így csak a legfontosabbak maradnak.

Ez az automatikus jellemzőkiválasztási képesség különösen hasznos lehet nagyméretű, magas dimenziós adathalmazok esetén, ahol sok redundáns vagy irreleváns jellemző lehet. Az L1 regularizáció használata egyszerűbb és interpretablebb modellekhez vezethet, amelyek könnyebben megérthetők és elemezhetők. Azonban a Lasso nem mindig a legjobb választás, ha sok szorosan korrelált jellemző van jelen, mivel hajlamos az egyiket kiválasztani a többi közül.