Modellusikkerhet

Modellusikkerhet er et tverrfaglig område som omhandler beskyttelse av modeller og de data som benyttes til dem, samt sikre avvik. Det dekker konfidensialitet, integritet og tilgjengelighet i hele modellens livssyklus, fra trening til drift og revisjon. Modeller kan være statistiske, prediktive eller basert på maskinlæring, og sikkerheten gjelder både selve parametrene, treningsdata, output og infrastruktur.

Trusselbildet inkluderer tyveri av modeller eller rekonstruksjon av dem (modell-ekstraksjon), lekkasje av treningsdata og personlig informasjon, samt manipulerende angrep som forstyrrer ytelse ved å bruke mottilpassede inn data (adversariale angrep) eller dataforurensning i treningssettet. Andre risikoer inkluderer insider- eller leverandørkjedeangrep, feilkonfigurasjoner og manglende revisjon.

Beskyttelsestiltak: sikker utviklingslivssyklus for modeller (MLSDLC) og sikker designprinsipper; tilgangskontroll, autentisering og autorisasjon; kryptering av data og modeller i hvile og under overføring; sikre trenings- og inferensmiljøer og bruk av enclaves ved behov; federert læring og privatlivsbevarende teknikker; testing mot adversariale scenarier og dataforurensning; omfattende logging, revisjon og verifisering av modellens opprinnelse og ytelse.

Organisatorisk rammeverk og standarder: modellgovernance, livssyklusstyring og risikoapparat; etterlevelse av personvernlover (for eksempel GDPR) og industrielle standarder; relevante rammeverk inkluderer NIST AI RMF og ISO/IEC SC42. Ønsket balanse mellom sikkerhet, ytelse og personvern står sentralt.

Historisk kontekst og betydning: voksende bruk av AI i kritiske tjenester gjør modellssikkerhet avgjørende for pålitelighet og tillit.