Välimuistihierarkian

Välimuistihierarkia on tietokoneen muistijärjestelmän rakenne, joka hyödyntää useita eri nopeuksisia ja kokoisia välimuisteja parantamaan suorituskykyä. Tavoitteena on tarjota suorittimelle nopeasti pääsy usein käytettyyn dataan ja käskyihin. Heti suorittimen vieressä sijaitsee pienin ja nopein välimuisti, yleensä jaettu L1-välimuistiin datalle ja käskyille. Seuraavana tasolla on L2-välimuisti, joka on suurempi ja hieman hitaampi. Joissakin järjestelmissä voi olla myös L3-välimuisti, joka on vielä suurempi ja hitaampi, jaettu useamman suorittimen ytimen kesken.

Kun suoritin tarvitsee dataa, se tarkistaa ensin L1-välimuistin. Jos data löytyy sieltä (välimuistin osuma), se noudetaan erittäin nopeasti. Jos dataa ei löydy L1-välimuistista (välimuistin ohitus), suoritin tarkistaa L2-välimuistin, sitten L3-välimuistin ja lopulta päämuistin (RAM). Jokaisella tasolla on suurempi todennäköisyys löytää dataa kuin edellisellä, mutta hakuaika kasvaa tasojen syventyessä.

Kun dataa haetaan alemmalta tasolta, se kopioidaan myös ylemmille välimuistitasoille. Näin tulevat pyynnöt samalle datalle voivat löytää sen nopeammin ylemmistä, nopeammista välimuisteista. Välimuistihierarkian tehokas toiminta perustuu datan ja käskyjen paikallisuuteen, eli oletukseen, että jos johonkin dataan on äskettäin viitattu, siihen viitataan todennäköisesti uudelleen pian, ja että lähellä olevaan dataan viitataan myös. Tämän hierarkian avulla tietokoneen kokonaissuorituskyky paranee merkittävästi, koska pääsy päämuistiin on huomattavasti hitaampaa.