adversarialhyökkäyksille

Adversarialhyökkäykset, tunnetaan myös nimellä "adversarial attacks" englanniksi, ovat tekniikoita, joilla manipuloidaan koneoppimismalleja, erityisesti syväoppimisverkkoja, saamaan ne tekemään virheellisiä ennusteita. Nämä hyökkäykset perustuvat siihen, että syötedataan tehdään pieniä, usein ihmiselle näkymättömiä, muutoksia. Vaikka nämä muutokset ovat hienovaraisia, ne voivat johtaa mallin merkittäviin virheisiin.

Tavoitteena on usein saada malli luokittelemaan syöte väärin. Esimerkiksi kuvantunnistusmallille voidaan syöttää kuva kissasta, mutta pienillä, kohdennetuilla muutoksilla malli voi tunnistaa sen virheellisesti koiraksi, autoksi tai joksikin täysin muuksi. Tällaiset hyökkäykset voivat olla haitallisia sovelluksissa, joissa luotettavuus on kriittistä, kuten itseohjautuvissa autoissa tai lääketieteellisessä diagnostiikassa.

Adversarialhyökkäyksiä on olemassa useita erilaisia, ja niitä voidaan luokitella sen mukaan, miten paljon tietoa hyökkääjällä on kohdemallista. Mustan laatikon hyökkäyksissä hyökkääjä ei tiedä mallin sisäistä rakennetta, kun taas valkoisen laatikon hyökkäyksissä hyökkääjällä on täysi pääsy mallin arkkitehtuuriin ja parametreihin. Hyökkäyksiä voidaan myös luokitella sen mukaan, pyritäänkö niillä tekemään yleinen virhe (esim. luokittelemaan kaikki virheellisesti) vai kohdennettu virhe (esim. luokittelemaan tietty syöte aina tiettyyn väärään luokkaan).

Tutkimus adversarialhyökkäysten torjumiseksi on aktiivista. Menetelmiä ovat muun muassa adversarial-koulutus, jossa mallia koulutetaan myös vastustajan luomilla esimerkeillä, sekä syötteen suojausmenetelmät.