prefetchmekanismer

Prefetchmekanismer är strategier som används i datorarkitektur och systemprogramvara för att hämta data eller instruktioner till snabbare nivåer i minneshierarkin innan de behövs, i syfte att dölja latens och öka genomströmning. Genom att förutspå vilka data som kommer att efterfrågas görs förhandsladdning som minimerar väntetider vid minnesåtkomst.

Hårdvaruprefetchers är inbyggda i moderna CPU:er. De observerar minnesåtkomstmönster och laddar riktade block till L1/L2-cachen, exempelvis sekventiell eller strömmande åtkomst. Programvaruprefetching innebär att utvecklaren eller kompilatorn ger förslag om vilka adressområden som ska laddas i förväg, ofta via särskilda instruktioner eller intrinsics. Operativsystem och lagringssystem använder också read-ahead och prefetching för att förhandsladda filer eller block på lagringsenheter. Nätverksbaserad prefetching används i webbläsare och nätverksproxies för att hämta resurs- eller sidhämtningar innan användaren klickar.

Fördelar inkluderar minskade latency och högre genomströmning i arbetsbelastningar med regelbundna minnesmönster. Nackdelar innefattar felprediktion, cachepolution och onödig användning av minnes- eller bandbreddresurser, samt energikostnader. Effektiviteten beror på arbetslastens karaktär och rätt parametrering av prefetch-avstånd och antalet laddningar.