CPUvälimuisteissa

CPUvälimuisteissa tarkoittaa prosessorin läheisyydessä olevaa pientä, erittäin nopeaa muistivarastoa, joka pitää usein käytettyjä dataa ja käskyjä käytettävissä mahdollisimman nopeasti. Välimuistit pienentävät päämuistin latenssia ja parantavat suorituskykyä hyödyntämällä ohjelmien tilastollista ja temporallista localitya. Välimuistit ovat hierarkkisia ja jakaantuvat tyypillisesti L1-, L2- ja L3-välimuisteihin. L1 on pienin ja nopein sekä usein jaettu erikseen data- (L1d) ja käskylle (L1i) per ydin. L2 on suurempi ja hieman hitaampi, kun taas L3 on vielä suurempi ja voi olla yhteinen useammalle ytimelle. Joillakin rakenteilla on myös L4-välimuisti, joka sijaitsee toisinaan on-die- tai ulkopuolisessa vaiheessa ja palvelee useampaa ydinryhmää.

Välimuisti koostuu rivistöistä, joita kutsutaan cache lines. Jokaisella rivillä on osoitimuisti (tag), voimassa-merkki (valid) ja usein dirty-merkki, joka kertoo, onko rivin data muokattu ja tarvisko kirjoittaa takaisin päämuistiin. Kun ydin tarvitsee dataa tai käskyn, se hakee sitä L1:stä. Osuma (hit) suorittaa nopean pääsyn, kun taas huti (miss) johtaa tiedon hakemiseen seuraavasta tasosta (L2, L3 tai päämuisti).

Missityyppien osalta puhutaan yleisesti aloitusmissistä, kapasiteettimissistä ja konfliktimissistä. Kirjoitusstrategioissa käytetään tyypillisesti write-back tai write-through -menetelmiä sekä write-allocate- tai write-no-allocate -käytäntöjä.

Moniydinjärjestelmissä välimuistit käyttävät koherenttisuutta, yleisimmin MESI-protokollaa, jotta eri ytimen välimuistit pysyvät yhdenmukaisina. Välimuistien toiminta ja ylläpito voivat vaikuttaa merkittävästi suorituskykyyn, riippuen ohjelman luonteesta ja muistihistoriasta.