Cachesystemer

Cachesystemer er mekanismer som lagrer kopier av data i raskere lagringsmedier slik at påfølgende forespørsler kan besvares raskere enn fra det opprinnelige, langsommere lageret. Målet er å redusere ventetid og øke systemets gjennomstrømning ved å utnytte lokalitet i tid og plass.

Cachesystemer finnes i flere lag og former. CPU-cache lagrer nylig brukte instrukser og data i L1-, L2- og L3-nivåer. Operativsystemer og filsystemer bruker RAM-caches for diskinnstillinger. Nett- og applikasjonsmiljøer bruker nettleser-, omvendt proxy- og CDN-caches for å spare båndbredde og redusere latens.

Virkemåte: Når data har blitt cachet, queries kan løses fra hurtigminnet. Ved miss hentes data fra en tregere kilde og legges tilbake i cachen, ofte ved hjelp av en policy som bestemmer hvilke data som kasseres ved behov.

Vanlige politikker inkluderer erstatningsstrategier som LRU, LFU og FIFO, samt skrivemåter som write-through og write-back. TTL-basert utløp og gyldighetskontroller bidrar til å sikre at data ikke blir for utdaterte. Koherens mellom flere cacheenheter handteres med protokoller og validering.

Effekten måles i hit rate og miss rate, latency og gjennomstrømning. Effektiv cache-størrelse og riktig policy er avgjørende for ytelsen, men feilkalibrering kan føre til støy, stasis eller inkonsistens mellom lagre. Valg av cachetype avhenger av arbeidsbelastning og dataens oppdateringsfrekvens.

Eksempler på vanlige cachesystemer inkluderer CPU-caches, filsystem- og OS-caches, nettleser- og proxy-caches, og CDN-tjenester.