modelkaart

Een modelkaart, of modelkaartdocument, is een beknopte documentatie die een kunstmatige intelligentie (AI) model begeleidt. Het is bedoeld om de werking, prestaties en risico's van het model inzichtelijk te maken voor ontwikkelaars, besluitvormers en andere stakeholders. Het doel is transparantie en verantwoord gebruik bij de ontwikkeling, evaluatie en toelichting van modellen, met aandacht voor bias, veiligheid en deployment.

Een modelkaart beschrijft onder meer het beoogde gebruik en de beperkingen van het model, de herkomst en kenmerken van de trainings- en evaluatiegegevens, en de prestatiecijfers over relevante subgroepen. Daarnaast rapporteert het mogelijke biases, fairness-analyses en risico's in operationele omgevingen. Ook wordt vaak informatie gegeven over privacy- en beveiligingsimplicaties, foutmarges en mogelijke misbruikrisico's. Verder bevat de kaart aanbevelingen voor gebruikscontext, vaststelling van rollen, monitoring en onderhoud, en contactpunten voor vragen.

Ontwikkelaars en data scientists maken een modelkaart doorgaans tijdens of vlak na de modelontwikkeling en voeren regelmatig updates uit na nieuwe evaluaties of wijzigingen in data of doelgroepen. De kaart vormt een aanvulling op andere documentatie zoals datasheets voor datasets en modelreports, en streeft naar verantwoorde AI door verantwoording en traceerbaarheid te bevorderen.

Let wel: een modelkaart is geen garantie tegen alle risico’s en hangt af van de kwaliteit van de evaluaties en de context van gebruik. Het is een instrument dat afhankelijk van regelgeving en organisatie kan variëren in inhoud en vorm.