Cachesystemet

Cachesystemet er et mellomlagringssystem i moderne datamaskiner og programvare som har som hovedformål å redusere ventetiden ved å lagre data som ofte brukes i en raskere mellomlagringsplass. Dette gjør at prosessoren kan tilgang dataene raskere enn hvis de måtte hentes direkte fra hovedminnet.

I maskinvaren består det ofte av en eller flere nivåer av cache (L1, L2 og L3), ofte separate for instruksjoner og data, eller delte mellom disse. Hvert nivå har sin egen kapasitet og latens, med små, raske fronter nær prosessoren og større, tregere lagring nærmere minnet. Totalt sett utnytter cachesystemet prinsipper for lokalitet, slik som temporær og romlig lokalitet, for å forutsi hvilke data som vil bli brukt neste.

Drift: når prosessoren trenger data, søkes det først i høyeste nivå av cache. En treff gir rask tilgang; ved en miss lastes data fra lavere nivå eller hovedminnet, og blokken kan evikteres etter en erstatningspolicy som for eksempel LRU. Erstatningsmekanismer og plassering av nye blokker påvirker ytelse og energiforbruk.

Erstatning og skrivepolitikk: vanlige erstatningsstrategier inkluderer LRU, LFU og tilfeldig. Skrivepolitikk kan være write-through eller write-back; ved skrive-miss brukes ofte write-allocate, dvs. data lastes inn i cache før skriving, mens no-write-allocate unnlater å laste inn ved miss.

Kohærens og flerprosessorer: i moderne flertrådede systemer må cachesystemer holde data konsistente mellom kjerner, noe som styres av kohærensprotokoller som MESI. Snooping eller directory-baserte tilnærminger brukes avhengig av arkitektur.

Ytelse og anvendelser: cachesystemet gir betydelig ytelsesforbedring ved å øke cache-hitt-raten og redusere minneaksesslatens. I tillegg til CPU-cache finnes OS-sidecacher, disk- og nettcache som forbedrer IO- og nettytelse.