pääkomponenttianalyysillä

Pääkomponenttianalyysi (PCA) on tilastollinen menetelmä, jonka avulla suuria muuttujamääristä dataa voidaan kuvata pienemmällä, lineaarisesti muodostettavien pääkomponenttien joukkona. Tavoitteena on säilyttää mahdollisimman suuri osa datan varianssista näissä uusissa, ortogonaalisissa muuttujissa.

Työprosessi koostuu tyypillisesti viidestä vaiheesta: 1) data keskitetään (ja tarvittaessa skaalataan standardoitujen muuttujien mukaan). 2) lasketaan kovarianssi- tai korrelaatiomatriisi. 3) sen matriisista löytyy eigenarvot ja eigenvektorit. 4) valitaan top-k eigenarvoja vastaavat eigenvektorit. 5) projection: X_k = X_centered · W_k, jolloin alkuperäinen data esitetään näiden komponenttien algebrallisena projektioina.

PCAa käytetään datan purkamisessa, datan visualisoinnissa (esim. 2D- tai 3D-esitykset), melun vähentämisessä sekä esikäsittelyssä koneoppimisessa. Se auttaa ymmärtämään, mitkä muuttujat selittävät suurimman osan variaatiosta ja tuomaan esiin piileviä riippuvuuksia.

Rajoitukset ovat huomioitava: PCA on lineaarinen menetelmä eikä tee ei-lineaarisista suhteista eroa; skaalauksella on merkittävä vaikutus tuloksiin; tulkinta komponenttien avulla vaatii harkintaa; poikkeavat arvot voivat vaikuttaa tuloksiin. Lisäksi PCA optimoi varianssin säilymisen, ei suoraan luokituksen tai ennustamisen kannalta parasta rakennetta.

Historia: PCA kehitettiin alun perin Karl Pearsonin toimesta vuonna 1901, ja matemaattinen kehitys sekä laajempi käyttöönotto ovat saaneetHotellingin työt 1930-luvulla.