flyttallsoperasjoner

Flyttallsoperasjoner er aritmetiske operasjoner mellom flyttall i datamaskiner, og omfatter vanligvis addisjon, subtraksjon, multiplikasjon, divisjon samt enkle analytiske funksjoner som kvadratroten og trigonometriske funksjoner. Siden flyttall har begrenset presisjon, representeres tallene i finite-precision formater som etterligner reelle tall, men med en begrenset nøyaktighet.

Den mest brukte standarden for representasjon er IEEE 754. Et flyttall består vanligvis av et sign-bit, et eksponentfelt og en signifikand (mantissa). Tallene normaliseres, og det finnes også subnormale tall nær null. Forskjellige formater gir ulik presisjon og rekkevidde, for eksempel enkeltpresisjon (32 bit) og dobbelpresisjon (64 bit).

Fordi presisjonen er begrenset, blir operasjonsresultatet avrundet til nærmeste representerbare tall i samsvar med en avrundingsmodus. Vanlige moduser inkluderer avrunding til nærmeste (ofte ties-to-even), mot null, mot +∞ eller mot −∞. Avrundingsfeil, kansellering ved subtraksjon, samt under- eller overflow er kjente forhold som kan påvirke beregninger og numerisk stabilitet.

Presisjon og ytelse varierer mellom formater og maskinvare. Enkeltpresisjon gir omtrent 7 desimaler av nøyaktighet, dobbelpresisjon om lag 15–16 desimaler. Noen plattformer støtter utvidet eller mangfoldig presisjon i spesielle tilfeller. Ytelse påvirkes av teknikker som SIMD (vektoriserte operasjoner) og spesialinstruksjoner som FMA (fused multiply-add), som ofte gir mer presise resultater og raskere beregninger.

Innen numerisk analyse fokuserer man på stabilitet og feilfordeling. Kondisjonen til et problem avgjør hvor nøyaktig løsningen kan være, mens velvalgte algoritmer og riktig skaling kan redusere feil. Verktøy og biblioteker tilbyr tester og verifikasjon av numeriske egenskaper, inkludert analyse av feil målt i forhold til ULP (unit in the last place).