Vertailutoleranssit

Vertailutoleranssit ovat numeerisia rajoja, joiden puitteissa kaksi arvoa voidaan katsoa yhtä lähellä toisiaan. Niitä käytetään silloin, kun lukujen tarkka arvo ei ole kriittinen tai kun laskennan ja mittauksen epävarmuudet voivat aiheuttaa pieniä eroja.

Yleisimmät muodot ovat absoluuttinen toleranssi (abs_tol) ja suhteellinen toleranssi (rel_tol). Yleinen käytäntö on määrittää, että luvut a ja b ovat yhtä lähellä, jos niiden erot täyttää |a-b| <= max(rel_tol * max(|a|, |b|), abs_tol). Tämä periaate esiintyy muun muassa Pythonin matematiikan isclose-funktiossa sekä monissa ohjelmointi- ja simulointikirjastoissa. abs_tol määrittelee kiinteän eron, kun arvot ovat pieniä, kun taas rel_tol skaalautuu suurten arvojen mukaan.

Käyttökonteksteja ovat muun muassa ohjelmistokehitys (float-equality-tarkastelut ja yksikkötestit), numeerinen laskenta sekä mittaus- ja laatuvarmistusprosessi, joissa mitattujen arvojen ja viitearvojen välinen ero arvioidaan. Toleranssien valinta riippuu kontekstista, mittayksiköistä ja halutusta luotettavuudesta. Liian suuret vertailutoleranssit voivat peittää todellisia virheitä, kun taas liian pienet toleranssit voivat aiheuttaa turhia epäonnistumisia ja epäluotettavuutta johtopäätöksissä. Vertailutoleranssit auttavat siten tekemään numeerisista vertailuista asianmukaisia ja läpinäkyviä.