Cachegeheugens

Cachegeheugens zijn kleine, snelle geheugenonderdelen die zich dicht bij een centrale verwerkingseenheid (CPU) bevinden en de gemiddelde tijd verkorten die nodig is om gegevens uit het hoofdgeheugen te lezen. Ze houden kopieën bij van recente of veelgebruikte gegevens uit het hoofdgeheugen en worden actief door geheugenreferenties die op die gegevens betrekking hebben. Dit maakt programma’s over het algemeen sneller door sneller toegang tot vaak gebruikte data.

In moderne systemen bestaan cachegeheugens uit meerdere niveaus: L1, L2 en L3. L1 is het kleinste en snelste niveau, meestal per kern aanwezig. L2 is groter en langzamer, vaak per kern of gedeeld. L3 is nog groter en doorgaans gedeeld tussen meerdere kernen. Gegevens worden opgeslagen in cacheblokken ( lines ) en caches kunnen op verschillende manieren georganiseerd zijn: direct-mapped, set-associatief of volledig geassocieerd.

Een geheugenreferentie wordt eerst in de cache opgespoord: bij een hit levert de cache de data snel; bij een miss ontbreekt de data in de cache en moet deze uit het volgende niveau (L2, L3 of hoofdgeheugen) worden opgehaald en mogelijk teruggeschreven naar de lagere niveaus. Vervangingsbeleid, zoals Least Recently Used (LRU), bepaalt welk blok wordt verwijderd wanneer ruimte nodig is. Schrijfbewerking kan via write-back of write-through plaatsvinden.

Bij meerdere cores is cache-coherentie essentieel; protocollen zoals MESI beheren de geldige toestand van cache-gegevens om inconsistenties te voorkomen. Cachegeheugens verlagen latenties en verhogen de systeemdoorvoer, maar misses blijven onvermijdelijk. Programmeurs en compilers kunnen de prestaties beïnvloeden door data lokaal te houden en duidelijke, lokale toegangspatronen te gebruiken om de effectiviteit van de cache te verbeteren.