interpretabele

Interpretabele is een bijvoeglijk naamwoord dat verwijst naar de mate waarin iets begrijpelijk of verklaarbaar is. In de context van data-analyse en kunstmatige intelligentie beschrijven experts vaak interpretabele modellen of verklaringen die mensen kunnen begrijpen en controleren.

Technisch wordt vaak onderscheid gemaakt tussen interpretability en explainability. Interpretability verwijst naar de intrinsieke begrijpelijkheid van een model zelf; explainability betreft vaak post-hoc verklaringen of toelichtingen die buiten het model om worden gegenereerd.

Veelgebruikte benaderingen voor interpretabele systemen zijn onder meer eenvoudige modellen zoals lineaire regressie en beslissingsbomen, die transparant zijn doordat elke stap zichtbaar is. Daarnaast bestaan er regelgebaseerde systemen en vereisten voor duidelijke kenmerken. Voor complexere modellen bestaan er model-agnostische uitlegmethoden, zoals lokale verklaringen (bijv. feature importance) en tabellen of plots die de invloed van kenmerken weergeven. Post-hoc technieken zoals LIME en SHAP worden soms toegepast om inzichten te genereren nabij de beslissingen van een model.

Toepassingen van interpretabele benaderingen komen vaak voor in hoog-risicoomgevingen zoals de gezondheidszorg, financiën en rechtspraak, waar beslissingen controleerbaar, auditbaar en uitlegbaar moeten zijn aan betrokkenen en toezichthouders. Er bestaan echter uitdagingen bij het realiseren van interpretatie zonder verlies aan nauwkeurigheid, en bij het voorkomen van misleidende of onnauwkeurige verklaringen.

Zie ook: explainable AI, interpreteerbare machine learning, modeltransparantie, ethiek in AI.