flyttallsberegninger

Flyttallsberegninger beskriver numeriske beregninger som opererer på flyttall, en vanlig måte å representere reelle tall i digitale datamaskiner. I de fleste moderne systemer følger flyttall IEEE 754-standarden, som bruker et fortegn, en eksponent og en mantissa. Vanlige presisjoner er binær32 (enkeltpresisjon) og binær64 (dobbeltpresisjon). Rekkevidden strekker seg fra omtrent 1e−38 til 1e+38 for enkelt og 1e−308 til 1e+308 for dobbelt, med subnormale tall nær null. Hvert aritmetisk resultat avrundes til nærmeste representable verdi, avhengig av avrundingsregelen; standarden bruker vanligvis avrunding til nærmeste, med ties to even (bankers rounding).

På grunn av begrenset presisjon oppstår avrundingsfeil. Kapping (cancellation) forekommer ved subtraksjon av nesten like tall; akkumulering av feil ved langsom oppbygging av summen; flyttallsaritmetikk er ikke helt assosiativ, noe som kan påvirke resultatet av rekkefølgen på beregningene. Direkte sammenligning av flyttall er ofte upålitelige; bruk heller toleranser eller ulp-basert sammenligning.

Spesialverdier inkluderer NaN (ikke-et tall) for udifinerte resultater, uendelighet, signert null og subnormale tall ved små magnituder. Overflyt og underflyt kan oppstå ved ekstreme verdier. Feiltilstander kan kontrolleres ved å bruke funksjoner som isnan og isinf og ved å håndtere NaN riktig.

Numerisk analyse studerer feilkilder, relative og absolutte feil, og stabilitet av algoritmer. Vanlige teknikker for å forbedre nøyaktighet inkluderer kompensert sommering (f.eks. Kahan-summering), skaling for å unngå overflow, og å bruke høyere presisjon i kritiske deler av beregningen når det er nødvendig.

Flyttallsberegninger er sentrale i vitenskapelige beregninger, ingeniørfag, grafikk og maskinlæring, og utgjør grunnlaget for mange numeriske metoder som krever rask og pålitelig realtidsbehandling.