Roundingfejl

Roundingfejl, eller rounding error, opstår når et tal ikke kan repræsenteres nøjagtigt i en computers talrepræsentation, typisk i flydende-komma-tal (floating-point). Den mest udbredte standard er IEEE 754. Roundingfejl opstår fordi tal hverken kan lagres eller afvikles uden afrunding til den nærmeste mulige repræsentation, hvilket giver små forskelle i resultatet.

Der findes to relaterede begreber: rounding error betegner forskellen mellem den eksakte værdi og den gemte værdi, mens truncation error opstår når en uendelig beregning eller række af operationer afkortes til et endeligt antal trin. I praksis kan roundingfejl akkumuleres ved gentagne operationer og blive synlige i lange beregninger eller iterative algoritmer.

Eksempelvis kan tallet 0,1 ikke repræsenteres præcist i base-2. Når man lægger 0,1 og 0,2 sammen i en typisk flydende-komma-repræsentation, får man ofte 0,30000000000000004 i stedet for 0,3, hvilket illustrerer roundingfejl i praksis.

Konsekvenserne af roundingfejl kan variere fra mindre tab af præcision til signifikante fejl i numeriske metoder, især når fejlene akkumuleres eller når der foretages subtraktion af næsten ens tal (udfælde af cancellation). For at afbøde disse fejl anvendes højere præcision, kompensationssummation (f.eks. Kahan-algoritmen), intervall aritmetik eller numerisk stabile algoritmer. Det kan også være nyttigt at undgå tabeller, der fører til store forskelle mellem input og output, og at prædikere eller skalere data før beregninger.

IEEE 754 definerer også forskellige runde-mekanismer, herunder rund til nærmeste (ofte med ties to even), rund nedad, rund opad og rund til nul, som påvirker hvordan roundingfejl opstår ved hvert trin af beregningen.