välimuistittavuus

Välimuistittavuus (cacheability) kuvaa sitä, miten todennäköisesti muistihakut voidaan palvella välimuistista ennen päämuistia. Välimuistit ovat muistihierarkian nopeita, pienikokoisia tasoja (L1-, L2-, L3-välimuistit), joiden tehtävänä on pienentää muistiviivettä. Korkea välimuistittavuus tarkoittaa, että tarvittavat tiedot löytyvät todennäköisesti välimuistista, mikä parantaa suorituskykyä.

Välimuistittavuuteen vaikuttavat hakujen ajoitus ja järjestys sekä muistiosoitteiden fyysinen järjestys. Spatiaalisella localityllä tarkoitetaan sitä, että vierekkäiset muistiosoitteet tulevat usein käytetyiksi yhdessä; temporalisella localityllä sitä, että samaa dataa käytetään useita kertoja lyhyen ajan sisällä. Näitä ominaisuuksia voidaan hyödyntää suunnittelemalla dataa ja algoritmeja siten, että muistihakujen etäisyydet ja hajontat ovat mahdollisimman pieniä.

Ominaisuuksia voidaan parantaa ohjelmoinnissa seuraavilla keinoilla: käyttämällä cache-käyttäytymisen huomioon ottavia datarakenteita ja algoritmeja, käsittelemällä dataa peräkkäin (esim. taulukkojen läpikäynti lohko kerrallaan), soveltamalla tiling- ja blocking-tekniikoita suurissa matriiseissa, varmistamalla muistialigmentointi sekä hyödyntämällä prefetchingiä tarvittaessa.

Moniydin- ja monisäikeisissä ympäristöissä välimuistin käyttö vaatii koordinaatiota. Yhteistä dataa koskevassa rinnakkaisessa käytössä on syytä välttää false sharingia, ja välimuistien toiminta perustuu cache-coherence -protokolliin (esim. MESI).