Cachetoegang

Cachetoegang is het proces waarbij data uit een cachegeheugen wordt opgehaald. Cachegeheugen is een kleinschalig, zeer snel opslaggebied dat kopieën bevat van data uit het hoofdgeheugen of andere trage opslag, die vaak worden geraadpleegd. Doel is om de latency te verlagen en de doorvoer te verhogen.

In de computerarchitectuur bevindt cache zich tussen de processor en het hoofdgeheugen. Caches bestaan uit meerdere niveaus, zoals L1, L2 en soms L3. Een gegevenszoekopdracht gaat eerst naar de cache; bij een hit wordt de data snel teruggegeven. Bij een miss moet de data uit een tragere laag worden gehaald en meestal in de cache worden geplaatst.

Belangrijke concepten bij cachetoegang zijn hits en misses, de hitratio en de latency van het ophalen van data. Caches zijn geordend op associativiteit: direct toegewezen, set-associatief en volledig toegewezen. Data worden opgeslagen in cachelijnen met tags die aangeven waar ze vandaan komen. Het vervangingsbeleid bepaalt welke cachelijn bij een miss wordt vervangen, bijvoorbeeld LRU, FIFO of random. Het schrijfbeleid omvat write-back en write-through, en concepten zoals write-allocate en no-write-allocate.

In systemen met meerdere kernen is cachecoherentie essentieel. Coherentieprotocollen zorgen ervoor dat kopieën van dezelfde data in verschillende caches consistent blijven, bijvoorbeeld via MESI-achtige mechanismen.

Naast processorgeheugen zijn er caches in andere lagen, zoals webcaches in webbrowsers en proxy’s die bronnen opslaan om laadtijden te verminderen. Optimalisatie van cachetoegang richt zich op betere lokalisatie van gegevens en opeenvolgende, contigu geheugentoegang. Door datastructuren en algoritmen zo te ontwerpen dat iteraties in cache blijven, kan de prestatie worden verbeterd. Prefetching en het vermijden van onnodige cachemisses helpen hierbij.