Selittävyys

Selittävyys on käsite, jolla tarkoitetaan ilmiön tai päätöksen ymmärrettävyyden ja selittämisen mahdollisuutta. Filosofisessa mielessä selittävyys liittyy siihen, miten hyvin jokin ilmiö voidaan asettaa yhteyksiin syiden ja mekanismien kautta. Tilastotieteessä ja tekoälyn kentällä termi viittaa erityisesti siihen, kuinka helposti ihminen voi ymmärtää mallin päätösten taakse piilevät syyt, suhteet ja vaikutukset.

Tekoälyssä ja koneoppimisessa selittävyys tarkoittaa mallin tulosten tulkittavuutta. Yleisesti ottaen mallit, kuten lineaariset tai päätöspuut, ovat usein helposti tulkittavissa, koska niiden toiminta ja suhteet ovat suoraviivaisia. Monimutkaisempien, esimerkiksi syväoppimista hyödyntävien mallien, selittävyys on haasteellisempaa. Tällöin käytetään post-hoc -selityksiä, kuten arvojen kertomista ominaisuuksien merkityksestä (feature importance), yksittäisten esimerkkien vaikutusten tarkastelua (counterfactual explanations) tai muita menetelmiä (SHAP, LIME, PDP). Nämä selitykset voivat kuitenkin olla suuntaa antavia tai niiden tulkinta voi vääristyä, jos ne eivät vastaa todellista mekanismia.

Merkittäviä ulottuvuuksia ovat läpinäkyvyys, vastuullisuus ja hyväksyttävyys. Selittävyys on erityisen tärkeää aloilla kuten terveydenhuolto, oikeudelliset päätökset ja finanssialat, joissa päätösten ymmärrettävyys vaikuttaa luottamukseen ja tilivelvyyteen. Tutkimuksessa ja käytännössä pyritään tasapainottamaan ennustustarkkuus ja selitettävyyden taso sekä kehittämään menetelmiä, joilla selitykset ovat sekä hyödyllisiä että luotettavia.