Automatiseringsbias

Automatiseringsbias is een cognitieve bias waarbij mensen de output van geautomatiseerde systemen accepteren zonder voldoende kritisch te evalueren. Het manifesteert zich wanneer gebruikers te afhankelijk worden van automatisering en menselijke controle verwaarlozen, ook wanneer de automatisering fouten maakt of onzeker is. Het is gerelateerd aan vertrouwen in technologie en is niet beperkt tot één domein.

Het kan ook leiden tot minder bewaking en interventie omdat men ervan uitgaat dat de automatisering al het juiste doet. Het verschijnt in diverse sectoren, zoals luchtvaart, gezondheidszorg en financiën, waar beslissingsondersteunende systemen worden toegepast.

Factoren zijn onder meer de schijnbare autoriteit van geautomatiseerde systemen, ontwerpkeuzes die alleen einduitkomsten tonen in plaats van redeneringsstappen, gebrek aan transparantie of uitlegbaarheid, tijdsdruk, cognitieve belasting en onvoldoende training in het herkennen van systeemfouten. Een mismatch tussen de gepercipieerde en werkelijke nauwkeurigheid van de automatisering vergroot het risico.

Mitigaties omvatten het ontwerpen van systemen met transparantie over onzekerheid en beperkingen, het tonen van alternatieve suggesties, en het verplichten van menselijke controle bij cruciale beslissingen. Training en oefening in scenario’s, evaluatie van systeemprestaties en feedback voor vertrouwen calibrering zijn eveneens effectief.