geheugenhiërarchieën

Geheugenhiërarchieën is een concept in computerarchitectuur waarbij geheugen bestaat uit meerdere niveaus met verschillende snelheid, capaciteit en kosten. Het doel is de verwerkingstijd te verkorten door veelgebruikte data snel dichtbij de processor te plaatsen en minder vaak gebruikte data op tragere opslag te houden.

De gangbare volgorde van niveaus begint bij de snelste, kleinste opslag: registers in de CPU; daarna L1-cache (vaak opgesplitst in aparte data- en instructiecache); gevolgd door L2-cache en meestal L3-cache; vervolgens het hoofdgeheugen (RAM) en ten slotte secundair geheugen zoals SSD’s of harde schijven, met optionele tertiaire opslag voor archivering.

Een kernprincipe is locality of reference: temporele en ruimtelijke lokaalheidsprincipes. Dankzij caches kan data die vaak of kort geleden is gebruikt vrijwel snel beschikbaar komen; een cache-hit levert lage latency op, terwijl een cache-miss leidt tot het ophalen van data uit een hoger of langzamer niveau. Prefetching en cachecoherentie spelen hierbij een rol.

In multi-core systemen bestaan coherentieprotocollen (zoals MESI) om caches van verschillende cores consistent te houden. Ook bestaan keuzes zoals inclusieve versus exclusieve caches en het verschil tussen directe en gekoppelde caches.

Ontwerpkeuzes in geheugenhiërarchieën betreffen trade-offs tussen snelheid, capaciteit, energieverbruik en kosten. Impliciete beleidsregels omvatten vervangingsbeleid (bijv. least recently used), schrijfrichtlijnen (write-back versus write-through) en write-allocate. Moderne systemen combineren meerdere niveaus in zowel CPU- als GPU-architecturen en vormen zo de kern van systeemprestaties.