featureszelektálás

A featureszelektálás (feature selection) a gépi tanulási feladatok során a rendelkezésre álló jellemzők közül kiválasztja a relevánsakat. Célja a dimenzionalitás csökkentése, az általánosítás javítása, a túlillesztés mérséklése és a számítási költségek csökkentése, valamint az interpretálhatóság növelése. A kiválasztott jellemzők kisebb készlete gyakran stabilabb teljesítményt és könnyebb értelmezhetőséget kínálnak különösen korlátozott adatmennyiség mellett.

Három fő megközelítés létezik: filter, wrapper és beágyazott (embedded) módszerek. Filter módszerek a jellemzők és a célváltozó közti absztrakt kapcsolatokat értékelik, a modellépítéstől függetlenül, például korreláció, mutual information, χ² vagy ANOVA-alapú tesztek. Wrapper módszerek a kiválasztott al-készletet egy konkrét modellel értékelik és optimalizálják a teljesítményt, például visszavetéses szakítást (RFE) vagy forward/backward kiválasztást. Beágyazott módszerek a szelekciót a tanítási folyamatba illesztik be, például L1-regularizációt alkalmazó modellek (lasso) vagy fából alapuló jellemző-fontosságok felhasználása.

Értékelés és megfontolások: a kiválasztott jellemzők mérete problémától és adatkészlettől függ. A teljesítményt érdemes kereszt-validációval becsülni, és különböző mérőszámokkal értékelni a feladat (pontosság, F1, RMSE, MAE stb.) jellegének megfelelően. Stabilitás és ismételhetőség is fontos szempont lehet.

Előnyök és korlátok: előny a dimenzionalitás csökkentése, gyorsabb tanítás és jobb általánosítás; korlátok közé tartozik, hogy a kiválasztás elveszíthet hasznos kölcsönhatásokat, a wrapper módszerek költségesek lehetnek, és a kiválasztott készlet érzékeny lehet a modell és adatkészlet változásaira. Gyakori alkalmazási területek közé tartozik strukturált adatok, képfeldolgozás és szöveges adatok előfeldolgozása, ahol a releváns jellemzők tisztázása hozzájárul a modell érthetőségéhez és teljesítményéhez.