Cacheeffizienz

CacheEffizienz bezeichnet die Fähigkeit eines Cache-Systems, Anfragen schneller zu bedienen, indem häufig benötigte Daten aus einem schnellen Zwischenspeicher statt aus dem langsamen Hauptspeicher geliefert werden. Sie hängt eng mit der Cache-Hit-Rate sowie der durchschnittlichen Speicherzugriffszeit (AMAT) zusammen. Dabei wird zwischen Hardware-Caches (z. B. CPU-L1/L2/L3) und Software- oder Anwendungscaches (Dateisystem-, Web-, Datenbank-Caches) unterschieden.

Zu den zentralen Messgrößen gehören die Hit-Rate, die Miss-Rate, die Zugriffslatenz und die AMAT. AMAT wird oft als T_Hit + MissRate × T_Miss angegeben. Miss-Typen umfassen ggf. zu Beginn eines Laufs (compulsory), Kapazitäts- oder Konflikt-Misses. Hardware-Caches können direkt abgebildet oder set-assoziativ organisiert sein; Replacement Policies wie LRU beeinflussen die CacheEffizienz.

Wichtige Einflussfaktoren sind Muster von Speicherzugriffen (Temporal- und Spatial-Lokalität), die Größe des Working Sets, Datenstrukturen und Speicherlayout. Die Wahl der Blockgröße (Cache-Linie) und die Anordnung von Daten (Array of Structures vs. Structure of Arrays) wirken erheblich. Techniken zur Steigerung der CacheEffizienz umfassen cache-freundliche Programmierung, Loop-Tinning/Blocking, Datenalignment, speicheroptimierte Allokation und Software-Pre Fetching. Auch cache-oblivious Algorithmen können helfen, ohne Architekturdetails zu berücksichtigen, gute Datenlokalität zu erzielen.

Anwendungsgebiete liegen in High-Performance-Computing, Datenbanken und Content-Delivery bzw. Web-Caching. Eine hohe CacheEffizienz reduziert Latenzen, verringert Speichertraffic und senkt Energieverbrauch.