Instruktionscache

Instruktionscache, ofta förkortat I-cache, är ett litet, mycket snabbt minnesområde i en processor som lagrar nyligen eller frekvent använda instruktioner. Dess syfte är att minska tiden det tar att hämta instruktioner och därigenom öka processorns genomströmning genom att undvika upprepade åtkomstförsök till det långsammare huvudminnet.

Funktion och arbetsätt: när processorn hämtar instruktioner hämtas vanligtvis en hel cachelinje, vanligtvis 32–64 bytes, från I-cachen. En träff ger snabb åtkomst till de efterfrågade instruktionerna; vid miss hämtas linjen från nästa minnesnivå (L2/L3 eller huvudminne) och cachen uppdateras. Instruktionshämtningsvägen används ofta utan att skriva till I-cachen under normal körning, men cacheinnehållet kan ogiltigförklaras vid kodändringar eller kontextbyten.

Organisation och nivåer: moderna CPU:er har ofta separata instruktions- och datacachear, vilket liknar en Harvard-liknande arkitektur. I-cachear kan vara direktmappade, uppsättningsassocierade eller helt associerade. De vanligaste nivåerna är L1 I-cache, följd av större L2 och ibland delad eller separat L3-cache. Huruvida cachenivåerna är inkluderande eller exkluderande varierar med arkitektur, men syftet är att snabbt tillhandahålla kod utan att belasta huvudminnet varje gång.

Pre-fetch och pipelines: prefetching och grenpredikering samverkar med I-cachen för att hålla korrekta och väntande instruktioner tillgängliga när de behövs. Vid grenfel eller svängningar i kontrollflödet kan delar av I-cachen ogiltigförklaras eller uppdateras för att behålla korrekt körbar kod.

Storlek och inverkan: L1-instruktionscache är vanligtvis mellan några få och flera tiotal kilobyte per kärna (t.ex. ca 8–64 KB). Större L2- och L3-cachar ökar mängden lagring men längre åtkomsttid. En väl konfigurerad I-cache minskar minneslatensen och förbättrar prestanda särskilt i kodintensiva arbetsbelastningar.