Kvantointivirheen

Kvantointivirhe on analogisen signaalin ja sen kvantisoidun, digitaalisen version välille syntyvä ero. Kvantointi tapahtuu, kun jatkuva signaali muunnetaan rajoitetulle arvojoukolle ja arvo korvataan lähimmällä kvantointitasolla Q(x). Kvantointivirhe e = x − Q(x) on suurin mahdollisesti Δ/2, missä Δ on kvantoinnin askeleen koko.

Ominaisuudet ja malli: Yleisesti käytetty uniformi kvantointija on symmetrinen, jolloin virhe kuuluu arvoon [-Δ/2, Δ/2]. Jos syötteen ja kvantointi olettavat riippumattomuutta, kvantointivirhe voidaan käsittää additiivisena kohinana, joka on likimäärin valkoista ja jonka varianssi on Δ^2/12. Sähkö/äänentoiston yhteydessä SNR-arvoon vaikuttaa näytteenlukujen määrä N: SNR noin 6.02N + 1.76 dB täydellä skaalalla sinusoidilla. Δ määritellään yleisimmin FS-arvon ja bittimäärän perusteella: Δ = FS/(2^N). Ditherointi ja oversampling voivat muuttaa virheen tilastollisia ominaisuuksia ja siten vaikuttaa kuuluvuuteen tai visuaalisiin artefakteihin.

Vaikutus ja sovellukset: Kvantointivirhe ilmentyy esimerkiksi digitaalisessa äänentoistossa hissinä tai banding-artefakteina kuvissa ja videoissa. Kontrollisovelluksissa se voi aiheuttaa epävakautta tai limitusykliä. Nonuniform quantizers, kuten mu-law ja A-law, käytetään telekommunikaatiossa äänen dynamiikan säilyttämiseksi. Kvantointivirhe voi myös aiheuttaa värijakson ja kuvanlaadunheikentymisiä, jos värikoodaus tai gamma-korrektio eivät vastaa kvantointiasteita.

Ehkäisy/parannus: korkeampi resoluutio, dithering, kohinamuokkaukset (noise shaping), oversampling sekä tarvittaessa ei-uniformi kvantointi ovat yleisiä keinoja pienentää kvantointivirheen vaikutusta.