Flyttallsrepresentasjonen

Flyttallsrepresentasjonen er måten datamaskiner lagrer tall som ikke er heltallige. Hvert flyttall består av tre deler: et tegnbit, et eksponentfelt og en brøkdel (mantissa). Eksponenten bestemmer størrelsen ved å flytte det binære desimalpunktet, mens mantissa angir presisjonen. I normalisert form har mantissa en implicit ledende 1, noe som gir flere signifikante biter tilgjengelig.

IEEE 754 er den dominerende standarden for flyttallsrepresentasjon i moderne datamaskiner. Den beskriver flere presisjonsnivåer, blant annet single precision og double precision. I single precision er det 1 tegnbit, 8 eksponentbiter og 23 mantissabiter; i double precision er det 1 tegnbit, 11 eksponentbiter og 52 mantissabiter. I tillegg finnes subnormale tall og spesialverdier som NaN og uendelighet (positive og negative).

Subnormale tall oppstår når eksponenten er lav og normalformen ikke er mulig; de gjør det mulig å representere svært små verdier, men med redusert presisjon. NaN brukes for ugyldige eller udefinerte resultater, mens uendelighet representeres som +∞ eller −∞.

Rundingsregler: når et tall konverteres til flyttallsrepresentasjonen avrundes det til nærmeste representable tall. Den mest utbredte modusen er avrunding til nærmeste representable tall, ofte med ties to even (bankers rounding). Alternativer inkluderer toward zero, toward +∞ og toward −∞. Maskinepsilon angir den minste endringen som gjør at 1.0 og 1.0 + ε blir forskjellige.

Konsekvenser og utfordringer: begrenset presisjon gir rundingsfeil som kan akkumuleres i lange beregninger og ved kansellering av sifre i subtraksjon. Store og små tall kan miste presisjon. Overflyt og underflyt kan forekomme ved ekstreme tall. For behov som krever svært høy presisjon kan andre metoder brukes, men IEEE 754 gir en bredt støttet og effektiv standard for vanlig numerisk beregning.