CUDAkiihdyttimen

CUDA-kiihdyttimen käsite viittaa laitteistoon, joka suorittaa CUDA-ohjelmia. Useimmiten kyseessä on NVIDIA:n CUDA-yhteensopiva grafiikkaprosessori (GPU). CUDA (Compute Unified Device Architecture) on NVIDIA:n rinnakkaislaskennan alusta ja ohjelmointirajapinta. Se mahdollistaa suurten laskentatehojen hyödyntämisen rinnakkaisesti jakamalla työkuorman tuhansiin säikeisiin, jotka ajetaan GPU:n streaming multiprocessoreilla.

Käyttö ja ohjelmointi: Ohjelmointi tapahtuu useimmiten CUDA C/C++:lla, mutta tarjolla on myös Python-kirjastoja (CuPy, Numba), Fortran sekä muita rajapintoja. Kehitykseen tarvitaan CUDA Toolkit sekä yhteensopivat ajurit. Kernel-koodit ajetaan GPU:lla, ja muisti liikkuu pääasiassa GPU:n muistissa. Muistin tyyppejä ovat global, shared, constant ja texture. Optimointi keskittyy säikeiden määrän (occupancy), muistivirtoihin ja memory coalescingiin, sekä arkkitehtonisen hyödyntämisen tehostamiseen.

Käyttökohteita: CUDA-kiihdyttimiä käytetään laajasti tieteellisessä laskennassa, koneoppimisessa ja syväoppimisessa sekä suurissa simuloinneissa, kuvankäsittelyssä, grafiikassa ja reaaliaikaisessa renderöinnissä.

Ekosysteemi: CUDA-ekosysteemiin kuuluu muun muassa cuBLAS, cuDNN, cuFFT, cuRAND sekä TensorRT. Lisäksi tarjolla ovat Nsight-työkalut suorituskyvyn profilointiin ja virheenkorjaukseen.

Rajoitteet: CUDA-laskenta toimii ainoastaan NVIDIA-GPU:illa, eikä AMD:n korteilla. Ohjelmistovaatimukset vaihtelevat CUDA-version mukaan, ja käytössä on oltava oikeat ajurit sekä kehitystyökalut.