pyöristysvirheeseen

Pyöristysvirhe on ero, joka syntyy, kun laskennallinen arvo poikkeaa todellisesta matemaattisesta arvosta rajallisen tarkkuuden vuoksi. Tietokoneet ja laskentaohjelmistot tallentavat luvut binäärisessä muodossa tietyn bittimäärän mukaan, esimerkiksi 32-bittinen float tai 64-bittinen double. Koska monet desimaaliluvut eivät vastaa tarkasti binääristä esitystä, jokainen lasku johtaa pieneen pyöristysvirheeseen. Yleisimmin luvut pyöristetään lähimpään representoitavaan arvoon.

Virheen suuruuteen vaikuttavat tekijät ovat luvun koko, laskussa käytetty aritmetiikka ja operaatioiden järjestys. Esimerkiksi 0,1 + 0,2 ei ole tarkalleen 0,3 tietyllä kelluvalla pisteellä, mikä voi johtaa pieneen tulospoikkeamaan. Pyöristysvirheet voivat siten kasautua, kun samoja operaatioita toistetaan ja kun tuloksia käytetään vertailuissa tai toleransseissa.

Tutkimuksessa ja käytännön laskennassa pyöristysvirheitä tarkastellaan usein erikseen katkaisun virheestä, jotka johtuu laskukaavan likimääräisestä esittämisestä, ja kokonaisvaltaisesti virheen hallinta vaatii sekä analyysiä että hyvän algoritmin valintaa. Tärkeimmät suojatoimet ovat suuremman tarkkuuden käyttäminen (esim. 64- tai 128-bittinen tarkkuus tai desimaalinen tarkkuus), virheenkorjausmenetelmät kuten kompensoitu summointi (Kahanin algoritmi), ja laskujen huolellinen järjestys sekä skaalaukset, jotta suurten ja pienten lukujen välinen konflikti minimoidaan. Käytännössä voidaan hyödyntää myös exact-aritmetiikkaa tai desimaalisia tyyppejä kritisissä tapauksissa. Koostaisuus ja numerin vakaus arvioidaan usein konditionointi- ja virheenhallintamenetelmillä.