GPUarkitektur

GPU-arkitektur beskriver hur grafikkort är uppbyggda för hög genomströmning, särskilt i parallella dataarbetsbelastningar som grafik och GPGPU. Till skillnad från CPU:er består GPU:er av många mindre kärnor och ett högt bandbreddminne, vilket möjliggör massiv parallellism. De modernaste arkitekturerna varierar mellan tillverkare men strävar efter att dölja latens och mata exekveringsenheterna effektivt med data.

Centrala byggstenar är ett stort antal bearbetningsenheter organiserade i streaming multiprocessors eller compute units. Varje SM/CU innehåller ALU:er, texturenheter och styrlogik; många SMs tillsammans gör grafikkortet. Designen prioriterar genomströmning och latens-hiding framför enkeltrådig prestanda.

Exekveringsmodellen är deterministisk i sin struktur men flexibel i körning: trådar körs i grupper (NVIDIA-språket kallat warps, AMD-språket wavefronts). En instruction utfärdas till flera trådar samtidigt, och latens döljs genom tidsmultiplexering. Divergens inom en grupp minskar effektiviteten.

Minneshierarki: globalt minne är stort men långsamt; cacheminnen (L1/L2) och snabbt delat minne eller lokalt minne minskar latens. Minnesåtkomstmönster som sammanfallande förfrågningar och delat minne är centrala för prestanda. Bandbredd och latens är ofta begränsande faktorer.

Programmering och optimering görs vanligtvis via CUDA, OpenCL eller genom compute shaders i DirectX/Vulkan. Viktiga optimeringsområde inkluderar hög beläggning (occupancy), effektivt minnesanvändning, minimering av grenbetingelser och utnyttjande av delat minne. Profilverktyg används för att identifiera flaskhalsar.

Trenderna i GPU-arkitektur inkluderar specialenheter som tensor-kärnor för AI, dedikerade ray tracing-kärnor och stöd för heterogen beräkning. Grafikkort används i spel, professionell visualisering, högpresterande datoranvändning och AI. Exempel på leverantörer är NVIDIA, AMD och Intel, med arkitekturer såsom CUDA-baserade grafikkort, RDNA och Xe.