Modellkort

Modellkort är en sammanfattad dokumentation av en maskininlärningsmodell som beskriver syfte, träning, prestanda och bedömda risker. Syftet är att öka transparens, ansvar och säkerhet vid utveckling och användning av AI-system. Modellkort används av utvecklare, företag, forskare och tillsynsmyndigheter för att få en snabb överblick över vad modellen gör, vilka data den tränats på och vilka risker som kan uppstå i praktiken.

Innehållet i ett modellkort kan variera men brukar normalt inkludera: en översikt över modellen (namn, version, arkitektur), avsedd användning och eventuella begränsningar, information om träningsdata (källor, distribution, eventuella biaser och urval), prestanda (relevanta mått över olika användar- eller demografiska grupper, robusthet och kalibrering), miljö- och implementeringskrav (hårdvara, latens, driftsmiljö), samt övervakning, underhåll och uppdateringsplaner. Dessutom ofta en risk- och säkerhetsbedömning, etiska överväganden och krav på ansvarstagande användning.

Modellkort fungerar tillsammans med datasättsdokumentation och riskbedömningar i en bredare ram för ansvarsfull AI. De används i beslutsprocesser kring riskhantering, reglering, upphandling och granskning. Modellkort uppdateras när modellen förändras eller ny information blir tillgänglig. Ursprungligen föreslogs konceptet Model Cards for Model Reporting av forskare vid Google och kollegor som en metod för att standardisera modellkommunikation.