Vektoritukimenetelmät

Vektoritukimenetelmät, eli englanniksi Vector Support Machines (SVM), ovat valvottuja koneoppimisalgoritmeja, joita käytetään sekä luokittelu- että regressio-ongelmien ratkaisemiseen. Niiden perusidea on löytää optimaalinen hyperplaan, joka erottaa datapisteet eri luokkiin mahdollisimman suurella marginaalilla. Hyperplaan on korkeampiulotteinen vastine suoralle tasolle, ja sen tehtävänä on jakaa data kahteen osaan.

Luokittelussa SVM pyrkii löytämään sen hyperplaanin, joka maksimoi etäisyyden lähimpään datapisteeseen kummastakin luokasta. Näitä lähimpiä pisteitä kutsutaan tukivektoreiksi, koska ne määrittävät hyperplaanin sijainnin ja marginaalin. Jos data ei ole lineaarisesti erotettavissa, SVM käyttää ytimen temppua (kernel trick) muuntaakseen datan korkeampiulotteiseen tilaan, jossa se saattaa tulla lineaarisesti erotettavaksi. Yleisiä ytimiä ovat lineaarinen, polynominen ja Gaussin säteittäisvärähtelyfunktio (RBF) ydin.

Regressiossa SVM pyrkii löytämään funktion, joka poikkeaa ennustetuista arvoista vain tietyn toleranssin verran. SVM-regressio mallintaa datan suhdetta niin, että virheet sallitaan annetun epsilon-arvon sisällä. Vektoritukimenetelmät ovat tehokkaita monimutkaisten datasarjojen kanssa ja niitä käytetään laajasti esimerkiksi kuvantunnistuksessa, tekstiluokittelussa ja bioinformatiikassa. Ne ovat suhteellisen muistitehokkaita, koska ne käyttävät vain tukivektoreita mallin muodostamiseen.