cachepolitikk

Cachepolitik, eller hurtigbufferpolitik, omhandler regler og mekanismer for hvordan data lagres midlertidig i en hurtigbuffer for å forbedre ytelsen og redusere ventetid. Hovedmålet er å utnytte lokalitet i tilgangsmønstre ved å gjøre ofte brukte data tilgjengelig raskt.

Det finnes flere nivåer av caching: hardware- og programvarebasert. Prosessorer bruker L1-, L2- og L3-hurtigbuffer, mens operativsystemet og minneadministrasjonen også opererer med caching, i tillegg til diskkache og nettverkstilknyttede mellomlagre. Nettverk og lagringssystemer bruker også diskkache samt innholdslagring via CDN- og proxy-baserte mellomlagre for å redusere ekstern ventetid og båndbreddebruk.

Cachepolicyer inkluderer erstatningsstrategier og skrivepolicyer. Vanlige erstatningsalgoritmer er LRU, LFU, FIFO og CLOCK; skrivepolicyer inkluderer write-through og write-back. For flerkjerne- eller multikjernesystemer krever cachekoherensprotokoller (for eksempel MESI) at oppdateringer holdes konsistente mellom nivåer og kjerner.

Web- og CDN-cache bruker HTTP-headere og TTL for å styre hvor lenge innhold kan caches. Cache-Control, Expires, ETag, Last-Modified og mekanismer som must-revalidate bidrar til regler for hvor lenge og når innhold kan være i mellomlageret. Cache-invalidering og cache-warming er viktige ved innholdsoppdateringer og trafikkøkning.

Ytelse måles vanligvis i treffrate, missrate og gjennomsnittlig ventetid. Valg av policy balanserer høy treffrate mot minne- og båndbreddekostnader og systemets kompleksitet, samtidig som sikkerhet og personvern ivaretas.