Tukivektoriset

Tukivektoriset ovat termi tukivektorikoneisiin (SVM) liittyen. Tukivektoriset tarkoittavat datapisteitä, jotka sijaitsevat lähimpänä päätöspinnan tai marginin reunaa harjoitusdatan piirissä. Näiden pisteiden perusteella määrittyy optimaaliset erotusboundary, ja ne ovat avainasemassa sillä, miten malli erottaa luokat toisistaan korkeammalla marginilla.

Tukivektoriset vaikuttavat päätöspintaan sekä lineaarisessa että ei-lineaarisessa SVM:ssä. Mallin päätöstoiminto on muotoa f(x) = sum_i alpha_i y_i K(x_i, x) + b, jossa x_i ovat tukivektoreita ja alpha_i ovat käänteistekijöitä (Lagrange-kertoimia). Vain tukivektoriset voivat antaa ei-nollan alfa_i, joten ne ovat ainoat datapisteet, jotka vaikuttavat luokittelutyökaluun. Soft-margin-SVM:ssä tukivektoriset voivat sijaita marginin sisäpuolella tai jopa virheellisesti luokiteltuja, mutta niillä kaikilla on positiivinen alpha_i.

Kernellirajapinta (kernel trick) mahdollistaa työskentelyn korkean tai äärettömän ulottuvuuden ominaisuustilassa käyttämällä K(x_i, x) -arvoja ilman eksplisiittia muunnosta. Tämä mahdollistaa sekä lineaarisen jakamisen että ei-lineaarisen, monimutkaisemmissa ongelmissa käytettävän hyperpinnan muodostamisen. Tukivektoriset ovat yleensä vain osa harjoitusdatasta, mikä johtaa mallin sparsityyn ja tehokkuuteen ennusteissa.

Tukivektoriset ovat keskeinen käsite sekä luokittelussa että regression-kontekstissa (SVR), ja ne määrittelevät mallin yleisyyden sekä sen, miten malli yleistää uuteen dataan.