GPUakselerasjon

GPUakselerasjon er praksisen med å flytte beregninger fra CPU-en til grafikkprosessoren for å utnytte dens store antall kjerner og høye minnebåndbredde. Dette muliggjør generell beregning på grafikkprosessorer (GPGPU) og brukes for å øke ytelsen i oppgaver som er svært parallelle, ofte i sanntid eller nær-sanntid.

Programmering og kjøring skjer gjennom spesialiserte modeller og API-er. Vanlige rammeverk inkluderer CUDA (for NVIDIA-hardware), OpenCL (plattformnøytralt), Vulkan Compute og DirectCompute/Metal for forskjellige økosystemer. Det som kjøres på GPU-en, består vanligvis av små arbeidsenheter kalt kjerner som kjører parallelle kernel-funksjoner på store datasett. Data flyttes mellom vertsminne og GPU-minne, og effektiv bruk krever også optimeringer som minnekoalescens, riktig utnyttelse av tråder og minnehierarki (globalt, delt og konstant minne).

Typiske bruksområder inkluderer grafikk og rendering—som rasterisering, ray tracing og bildebehandling—samt videokoding/dekoding, bildebehandling, og vitenskapelige beregninger som lineær algebra og simuleringer. Innen maskinlæring brukes GPUer intensivt til inferanse og trening av store nevrale nettverk på grunn av den høye gjennomstrømningen og parallelliteten.

Viktige tekniske betraktninger inkluderer korrekte dataforberedelser, minneoverføringsoverhead, og å oppnå høy kapasitet og lav latens gjennom riktig kjerne- og tråd-occupancy. Programmering på GPU krever ofte spesifikke optimaliseringer og kan være plattformavhengig, noe som betydelig påvirker portering og vedlikehold. Alternativer og komplementer inkluderer CPU-tilnærminger med SIMD, samt FPGA- eller ASIC-løsninger for spesifikke arbeidsmengder.