Cachevriendelijkheid

Cachevriendelijkheid verwijst naar de mate waarin software de CPU-cache van een computer effectief benut. Moderne processors hebben een hiërarchie van caches (L1, L2, L3). Data die in de cache zit, kan sneller worden verwerkt dan data uit hoofdgeheugen, waardoor de prestaties aanzienlijk kunnen verbeteren. Het doel is het aantal cache misses te beperken en daarmee de gemiddelde toegangstijd tot geheugen te verlagen.

Een kernconcept is locality of reference, bestaande uit temporele en ruimtelijke lokaliteit. Tijdelijke lokaliteit houdt in dat data die kort geleden is geraadpleegd, waarschijnlijk opnieuw nodig is. Ruimtelijke lokaliteit betekent dat nabijgelegen data vaak tegelijk wordt benaderd. Cachelijnen bevatten meerdere bytes, dus opeenvolgende, voorspelbare toegangspatronen vergroten de kans op cache-hits.

Data-layout en toegangspatronen spelen een belangrijke rol. Een keuze tussen structuur van arrays (SoA) en Array of Structures (AoS), en de algehele geheugenordening (bijv. row-major versus column-major) beïnvloeden cachegedrag. Het frequente itereren over grote, opeenvolgende arrays is doorgaans cachevriendelijker dan willekeurige of sprongsgewijze toegang.

Technieken om cachevriendelijkheid te verbeteren omvatten blokken of tiling bij grote matrices, herordening van lussen om sequentiële toegang te bevorderen, en het gebruik van padding en uitlijning om false sharing te voorkomen. Waar mogelijk kunnen prefetching-hints en cache-oblivious algoritmes helpen, rekening houdend met platformafhankelijkheden.

Meten en evalueren gebeurt met profilingtools zoals Valgrind Cachegrind, perf of Intel VTune. Deze tools geven inzicht in cache-misses en -hits en helpen bij het afwegen van prestatieverbeteringen. cachevriendelijkheid is vaak een afweging tussen architectuurafhankelijkheid, codecomplexiteit en leesbaarheid, maar kan significante prestatievoordelen opleveren bij data-intensieve programma’s.