beräkningsprecision

Beräkningsprecision, även kallad beräkningsnoggrannhet, avser graden av noggrannhet eller exakthet i numeriska beräkningar. Det är ett mått på hur nära ett beräknat värde ligger det verkliga eller teoretiska värdet, samt hur mycket fel eller osäkerhet som kan förekomma i resultaten av numeriska metoder.

I numerisk analys är beräkningsprecision en viktig faktor eftersom systematiska fel, runda av-fel och begränsningar i datorsystemets tillgängliga klockcykler kan påverka resultatens tillförlitlighet. Dessa fel kan uppkomma till exempel vid hantering av mycket stora eller mycket små tal, eller vid avancerade beräkningar med många steg.

Det finns olika sätt att uttrycka beräkningsprecisionen på. En vanlig metod är att använda sig av antalet giltiga siffror eller decimaler i resultatet. I mer tekniska sammanhang talar man ofta om maskinprecision, vilket innebär den begränsning i noggrannhet som följer av det datorsystemets flyttalsrepresentation, ofta mätt i antal bitar (till exempel 32-bitars eller 64-bitars).

Att förstå och hantera beräkningsprecision är avgörande inom vetenskaplig forskning, ingenjörskonst och datavetenskap för att säkerställa att de numeriska resultaten är så tillförlitliga som möjligt och förstå vilka felkällor som kan påverka resultaten. Metoder som felanalys och numerisk stabilitet används ofta för att bedöma och förbättra beräkningsprecisionen.