Flyttalsrepresentationen

Flyttalsrepresentationen är en metod för att lagra reella tal i datorer med begränsad precision. Talet lagras i form av tecken, exponent och mantissa. Den vanligaste formen är normaliserad representation i basen 2, där talet x ≈ (−1)^s × m × 2^e lagras med mantissan m i intervallet [1,2) och exponenten e justeras med en bias. Genom detta kan ett stort intervall av tal representeras med en relativt liten mängd bitar.

I praktiken används standarder som IEEE 754 för att definiera bitlängder, precision och hur avrundning, överflöde och underflöde hanteras. De vanligaste formaten är single precision (32 bit: 1 teckenbit, 8 exponentbitar och 23 mantissabitar) och double precision (64 bit: 1 teckenbit, 11 exponentbitar och 52 mantissabitar). Den normala representationen gör att första biten av mantissan alltid är 1 (förutom subnormala tal), vilket ökar den effektiva precisionen utan att lagra den biten explicit.

Rundning och fel uppstår eftersom endast ett begränsat antal bitar används. Maskinens precision bestäms av mantissan längd och exponentens storlek. Maskinepsilon är skillnaden mellan 1 och nästa representerade tal i formatet, vilket ger en uppfattning om möjliga relativa fel. För dubbelprecision är epsilon ungefär 2^−52. Subnormala tal gör det möjligt att representera mycket små tal när normalisering inte är möjlig.

Begränsningar inkluderar rundningsfel, felackumulering i beräkningar, samt risk för under- och överflöd. I dubbelprecision kan heltal upp till 2^53 representeras exakt. Flyttalsrepresentationen är en praktisk kompromiss mellan noggrannhet, räckvidd och minnesanvändning och definieras av standarder som IEEE 754.