vektoroversvømmelse

Vektoroversvømmelse er et begrep innen databehandling som beskriver situasjonen der resultatet av en vektorisert operasjon ikke kan representeres riktig i alle elementene i en vektor fordi verdiene ligger utenfor rekkevidden til datatypeens bitledd. Dette skjer ofte i SIMD-operasjoner (Single Instruction, Multiple Data) der samme operasjon utføres på flere tall samtidig, på prosessorer som bruker faste bitlengder for heltall eller flyttall.

Det forekommer både for heltallsoperasjoner og flyttallsoperasjoner. Heltallsoversvømmelse deles gjerne inn i signed og unsigned tilfeller, og kan resultere i wrap-around eller andre uforutsigbare effekter avhengig av språk og arkitektur. I IEEE 754 flyttallsoperasjoner opptrer overflow vanligvis som et mangfoldig tall på ±Infinity, avhengig av fortegn og nøyaktig operasjon, og utfallet kan påvirke etterfølgende beregninger hvis det ikke håndteres eksplisitt.

Deteksjon og håndtering varierer mellom arkitekturer og språk. Mange SIMD-sett gir per-lane statusflagg eller spesialinstruksjoner som indikerer overflow, mens enkelte språk ikke tilbyr unntak per element og forutsetter at programmet kontrollerer resultatene manuelt. Dette gjør at vanlige feil kan være skjulte i vektoriserte beregninger, spesielt i reduksjonsoperasjoner eller akkumuleringer.

For å redusere risikoen for vektoroversvømmelse kan man bruke bredere datatyper eller saturerende aritmetikk der tilgjengelig, omstrukturere beregninger for å holde intermediate verdier innenfor rekkevidde, eller benytte flyttall i stedet for heltall når korrekthet er viktig. Noen spesifikke SIMD-artefakter tilbyr også mekanismer for å håndtere eller begrense overflow.