Välimuistitustason

Välimuistitason käsite viittaa CPU:n välimuisteihin, jotka muodostavat osan muistihierarkiasta. Välimuistien tehtävä on pienentää muistiviiveitä pitämällä usein käytettyjä tietoja nopeasti saatavilla mahdollisimman lähellä suorittinta. Kun suoritin tarvitsee tietoa, se hakee sitä ensin välimuisteista ja siirtyy vasta päämuistiin, jos tieto ei ole siellä.

Yleisimmät tasot ovat L1-, L2- ja L3-välimuistias, joskus myös L4. L1-välimuisti on pienin ja nopein sekä tyypillisesti jaettu per ydin; L2 on suurempi ja hieman hitaampi; L3 on suurin ja usein jaettu usean ytimen kesken tai kokonaan yhteinen. Välimuistien koolla ja nopeudella on merkittävä vaikutus suorituskykyyn. Esimerkiksi L1-koko on yleensä muutamasta kB:stä kymmeniä kB:iin, L2-rja noin 128 kB:stä useisiin satoihin kB:iin tai jopa MB-asteelle per ydin, ja L3-usein useita MB:ta ja se on jaettu useamman ytimen kesken.

Toiminta: hakuprosessi etenee usein L1:stä L2:een ja edelleen L3:aan ennen päämuistia. Hit tarkoittaa, että data löytyy välimuistista nopeasti; miss tarkoittaa, että dataa joudutaan hakemaan pidemmän latenssin kautta päämuistista. Välimuistien käyttöön liittyy myös koherenssikäytännöt (esimerkiksi MESI-protokolla) moniydinjärjestelmissä, jotta sama data pysyy konsistenttina useilla tasoilla ja ytimineen. Kirjoituspolitiikoissa voivat olla write-through ja write-back sekä write-allocate vs no-write-allocate riippuen arkkitehtuurista.

Välimuistitason vaikutus suorituskykyyn on merkittävä: ne voivat tehdä muistihyppäyksistä huomattavasti nopeampia, mutta niiden koolla ja hallinnalla on suora vaikutus ohjelmien tehokkuuteen ja energiankulutukseen.