avrundingsfeil

Avrundingsfeil er forskjellen mellom en nøyaktig verdi og verdien som oppnås når tallet lagres eller beregnes i et datasystem med begrenset presisjon.

Årsaker inkluderer at flyttallsformatet har et begrenset antall signifikante sifre. Mange desimaltall kan ikke representeres nøyaktig i binær form, og konvertering til maskinrepresentasjon innebærer avrunding. I tillegg oppstår avrundingsfeil ved hvert aritmetisk steg, avhengig av den valgte avrundingsmodusen.

Resultatet er at beregninger ikke gir eksakte verdier. Absolutt avrundingsfeil er forskjellen mellom den sanne verdien og den beregnede. Relativ avrundingsfeil er forholdet mellom feilen og den sanne verdien. Maskinpresisjon beskriver hvor tett verdiene ligger til hverandre rundt 1.

Eksempler viser effekten. Representasjonen av 0.1 i IEEE 754-binært flyttall er en tilnærming og avviker med et lite tall som kan være rundt 5×10^-17 i dobbel presisjon. Tilsvarende blir 1/3 til en uendelig binær representasjon med liten avrundingsfeil.

Påvirkningene kan være små, men i numerisk analyse kan avrundingsfeil akkumulere og gjøre resultater unøyaktige eller i verste fall ubrukelige, spesielt i operasjoner som subtraksjon mellom nært like tall (katastrofal kansellering).

Forebygging og redusering av avrundingsfeil inkluderer bruk av høyere presisjon, numerisk stabile algoritmer, eller teknikker som kompenserende addisjon (for eksempel Kahan-summering). Det kan også være nyttig å omarrangere beregninger, benytte heltallsrepresentasjon der mulig, eller utføre feilanalyse og conditioning-undersøkelser.

Se også: IEEE 754-standarden, maskinell nøyaktighet og numerisk stabilitet.