GPUrammeverk

GPUrammeverk refererer til programvareinfrastrukturen som gjør det mulig å utvikle og kjøre programmer på grafikkprosessorer (GPU-er). Det gir abstraksjoner for parallell utførelse, minnehåndtering og kjøretidsstyring, samt grensesnitt mot vertsmaskinens CPU og eksisterende driver- og bibliotektjenester. Målet er å utnytte GPUenes parallellitet til beregninger og grafisk rendering.

Grunnleggende arkitektur deler arbeid mellom vertsmaskinens CPU og GPUen. Kode deles inn i vertskode og enheter som kjøres på GPUen (kjerner). Minnearkitekturen omfatter globalt minne, delt minne, konstant minne og teksturminne. Utførelsesmodellen er ofte SIMT, med tusenvis av tråder som kjøres parallelt og organiseres i arbeidsblokker. Kjøretid og synkronisering styres gjennom streams eller køer, og effektive minneadgangsmønstre er avgjørende for ytelsen.

Et GPUrammeverk består av flere komponenter: et front-end API eller språk (for eksempel CUDA C++, OpenCL C eller Metal Shading Language); en kompilator og mellomliggende representasjoner; en kjøretid og drivergrensesnitt; samt biblioteker for lineær algebra, maskinlæring og bildebehandling. Verktøy for feilsøking og ytelsesprofilering støtter utvikleren.

Eksempler på vanlige GPUrammeverk inkluderer CUDA, OpenCL, Vulkan Compute og Metal. ROCm/HIP gir et alternativ som fremmer portabilitet mellom ulike leverandører.

Bruksområdene spenner fra vitenskapelige beregninger og simuleringer til sanntidsgrafikk og dyp læring. Designprioriteringer inkluderer portabilitet versus maskinvareoptimalisering, minnekapasitet og latens, samt synkroniseringsoverhead og utførelseseffektivitet. Trenden går mot mer heterogen programmering og bedre verktøy for utvikling og feilsøking.

---