interpretibiliteit

Interpretabiliteit is het vermogen om de werking van een model te begrijpen en de reden achter een voorspelling te volgen. In machine learning en data-analyse verwijst het naar hoe transparant de aannames, de structuur van het model en de relatie tussen input en output zijn. Interpretabiliteit is relevant voor vertrouwen, foutopsporing en verantwoording, zeker in sectoren zoals gezondheidszorg, financiën en recht. Het begrip wordt soms verward met explainability, maar in de praktyk wordt interpretabiliteit vaak gezien als de mate waarin het model intrinsiek begrijpelijk is, terwijl explainability de leveren verklaringen van het modelgedrag omvat.

Er zijn twee hoofdbenaderingen. Intrinsiek interpreteerbare modellen bereiken begrijpelijkheid via eenvoudige structuren, zoals lineaire modellen, beslissingsbomen of regelgebaseerde systemen. Post-hoc verklaringen worden toegepast nadat het model getraind is en leveren aanvullende uitleg over de resultaten. Voorbeelden zijn feature importance, partial dependence plots, LIME en SHAP. Daarnaast bestaan er surrogate-modellen die een complex model benaderen met een eenvoudiger model om inzicht te vergroten.

De evaluatie van interpretabiliteit is contextafhankelijk en afhankelijk van de beoogde gebruiker. Wat voor een data-analist begrijpelijk is, kan voor een niet-technische stakeholder onduidelijk blijven. Interpretatie-verklaringen kunnen misleidend zijn of over-simplificeren; daarom is kritische interpretatie nodig. In beleid en regelgeving wordt interpretabiliteit vaak gezien als een middel tot transparantie, aansprakelijkheid en fairness, hoewel er geen uniforme normen zijn voor wat volledig begrijpelijk is. Het veld blijft evolueren naarmate modellen krachtiger maar complexer worden.