cachelokaliteit

Cachelokaliteit is een begrip uit computerarchitectuur dat beschrijft hoe goed geheugentoegangspatronen profiteren van de snelheid van het cachegeheugen. Het gaat om de kans dat data die onlangs is gebruikt of dichtbijliggende data snel weer beschikbaar zijn in de snellere caches, in plaats van langzamer hoofdgeheugen te moeten benaderen. Een goede cachelokaliteit levert flinke prestatieswinst doordat de geheugenlatentie omlaag gaat en de cijfers voor geheugenbandbreedte efficiënter worden benut.

Er zijn twee hoofdvormen: temporale lokalisatie en ruimtelijke lokalisatie. Temporale lokalisatie betekent dat data die eerder is geraadpleegd, later waarschijnlijk opnieuw nodig is; caches proberen deze data vast te houden zodat hergebruik snel verloopt. Ruimtelijke lokalisatie houdt in dat bij een adres ook nabije adressen waarschijnlijk binnenkort worden gebruikt, waardoor het laden van een cacheblok meerdere datapunten tegelijk oplevert.

Caches werken hiërarchisch in blokken en sets. Bij toegang tot een adres wordt het bijbehorende blok in de cache geplaatst; bij een volgende toegang is er kans op een cachehit. Grote misses kunnen optreden als de working set te groot is of als er conflicten bestaan in de cache-indeling. De effectiviteit hangt af van cachegrootte, associativiteit en de daadwerkelijke toegangspatronen van het programma.

Praktische implicaties zijn bijvoorbeeld het doorlopen van een opeenvolgende array (goede locality) versus willekeurige toegangspatronen (slechte locality). Data-indeling, looptiling, en geheugenbewuste algoritmes kunnen locality verbeteren. Het begrip is fundamenteel bij optimalisatie en bij het inschatten van prestatienauwe plekken in software en systemen.