GPUohjelmointi

GPUohjelmointi tarkoittaa grafiikkasuorittimen (GPU:n) laskennan hyödyntämistä yleiseen laskentaan. Sen tavoitteena on suorittaa suuria määriä tehtäviä rinnakkain, usein samanlaisia operaatioita datamäärän ollessa suuri. Näin voidaan saavuttaa merkittäviä nopeushyötyjä sovelluksissa, joissa on paljon dataa tai toistuvaa matemaattista työtä.

Käytetyt rajapinnat ja kielet kattavat sekä laitevalmistajakohtaisia että yleiskäyttöisiä ratkaisuja. Yleisimmät ovat NVIDIA:n CUDA ja sen C++-pohjainen laajennus sekä Khronos Groupin OpenCL, joka on suunniteltu toimimaan useilla laitteilla. Lisäksi on DirectX Compute- ja Vulkan Compute -näkökulmia sekä korkean tason kieliä kuten SYCL. Kehitystyössä voidaan käyttää sekä laitekohtaisia että siirtokelpoisia ohjelmointimalleja.

Ohjelmointimalli perustuu kernel-funktioihin, joita suoritetaan tuhansien tai miljoonien säikeiden rinnakkain. CUDA-ympäristössä tehtävät jaetaan lohkoihin (blocks) ja verkkoihin (grids). GPU on SIMT-arkkitehtuuri, jossa useat säikeet suorittavat saman ohjeen samanaikaisesti. Keskeinen on muistinhallinta: globaali, jaettu (shared), rekisteri-, vakio- ja kuvamuisti; muistipaikat vaikuttavat suorituskykyyn ja käyttövarmuuteen.

Käyttökohteita ovat grafiikka, fysiikan simulaatiot, kuvan- ja videonkäsittely sekä koneoppiminen ja tekoäly. Portabiliteettia ja ekosysteemiä tukevat OpenCL sekä Vulkan- ja SYCL-pohjaiset ratkaisut; CUDA-ecosysteemin tarjonta, kuten cuBLAS, cuDNN sekä monia optimoituja kirjastoja. Työkalut kuten debuggointi- ja profiloimisovellukset auttavat kehittäjää saavuttamaan parempaa suorituskykyä ja optimoimaan muistinkäyttöä.