Cachedimensjonering

Cachedimensjonering er prosessen med å bestemme størrelse, struktur og organisering av en cache for å oppnå ønsket ytelse i datamaskin- eller nettverksmiljøer. Hovedmålet er å øke sannsynligheten for cache-hits og redusere ventetider ved å utnytte mønstre i dataadferden til typiske arbeidsmengder.

I moderne datamaskiner består cachehierarkiet vanligvis av nivåer som L1, L2 og L3. Dimensjonering innebærer å velge størrelser, blokke- eller linjestørrelse og assosiasitet for hvert nivå, samt om cacheene er inkusive eller eksklusive. Vanlige størrelser varierer, ofte fra noen titusener kilobyte for L1 per kjerne, til hundre tusen kilobyte for L2 og flere megabyte for L3 på mange systemer. Målet er rask tilgang mot en arbeidspool med høy lokalitet i tid og rom, samtidig som kostnader, effektforbruk og kompleksitet holdes nede. Viktige faktorer inkluderer arbeidsmengde, minnekrav, antall kjerner og krav til cache-koherens.

For disk- og nettverkscache er dimensjonering rettet mot å lagre de mest etterspurte objektene for å redusere I/O eller latenser. Faktorer som total kapasitet, lese- og skrivepolitikk, erstatningsalgoritmer og konsistenskrav spiller inn. Vanlige prinsipper er LRU, LFU og tidsbaserte TTL-er.

Metoder for cachedimensjonering inkluderer analytiske modeller, simulering av minnehierarkiet og empirisk benchmarking. En vanlig tilnærming er å kartlegge arbeidsmengden, estimere arbeidssettets størrelse, velge passende cachestørrelser og evaluere ytelsen gjennom tester før implementering og overvåking i produksjon.