Cacheniveauer

Cacheniveauer, eller cacheniveauer, refererer til flere lag i en computerprogrammers hukommelseshierarki, der er designet til at reducere den gennemsnitlige adgangstid til data. Ideen er at holde kopier af ofte tilgåede data tættere på processoren, så den kan hente dem hurtigt uden at vente på langsommere hovedhukommelse. Cacheniveauer spiller en central rolle i systemets ydeevne og energiforbrug.

Typisk består et system af mindst to niveauer af CPU-cache, ofte betegnet L1 og L2, og ofte også en fælles eller delt L3-cache. L1-cache er normalt den mindste og hurtigste og kan være opdelt i separate instruktionst og data caches. L2 er større og lidt langsommere, mens L3 ofte er endnu større og deles mellem kerner. Nogle arkitekturer har også en fjerde niveau, L4, som kan være understøttet af ekstern hukommelse eller en del af en mere kompleks hukommelsesstrategi, men dette er ikke universalt.

Cache-hukommelsen er organiseret i cachelinjer og set-associative strukturer, hvor data opdeles i blokke, der kan placeres i et bestemt antal steder (mærket som “linjer” og “veje”). Ved hver hukommelsesforespørgsel kontrollerer processoren først L1, derefter L2 og L3, og til sidst hovedhukommelser, hvis dataene ikke findes i cachen. Mangel kan skyldes begyndende data (compulsory miss), konkurrence-miss eller kapacitets-miss. Cache-håndteringen indebærer også coherence-protokoller (så som MESI) for at holde data konsistente på tværs af flere kerner.

Valget af størrelse, hastighed og organisation af cachen afvejer hastighed, størrelse og energiforbrug. Effektive cacheniveauer kan markant forbedre ydelsen ved at reducere hukommelseslatens og forbedre branchpredikering og datahåndtering i moderne processorer.