kvantisointivirheeseen

Kvantisointivirhe (engl. quantization error) tarkoittaa erotusta signaalin todellisen, jatkuvan arvon ja sen kvantisoidun arvon välillä. Se syntyy, kun jatkuva signaali muunnataan digitaalisesti tallennettavaksi arvojoukkoon, jolla on rajoitettu tarkkuus.

Matemaattisesti virhe e[n] = x[n] - Q(x[n]), missä x[n] on alkuperäinen näyte ja Q(x) sen kvantisoitu arvo. Yksinkertaisen uniformin kvantointiyksikön tapauksessa virhe kuuluu arvojoukkoon [-Δ/2, Δ/2), ja sen odotusarvo on noin nolla. Jos syötejakautuma on riittävän tasainen, virheen varianssi on Δ^2/12.

Käytännössä kvantisointivirhe voidaan käsitellä additiivisena kohinana, jolloin se on spektrisesti tasainen ja riippumaton syötteestä tietyin oletuksin. Tämä ei aina päde, koska virhe voi olla korreloitunut syötteen kanssa tai riippua kvantointitoiminnasta sekä dynaamisesta alueesta.

Käytännön vaikutukset näkyvät erityisesti äänessä ja kuvissa, joissa kvantisointi rajoittaa dynamiikkaa ja tuottaa kohinaa. Teoreettinen kohina-SNR on noin SNR ≈ 6,02N + 1,76 dB full-scale -signaalin tapauksessa, missä N on bittisyvyys. Tämä antaa karkean arvion laadusta.

Kohinan hallintakeinoja ovat suurempi bittisyvyys, ditheringin käyttö, oversampling sekä kohinan muokkaus (noise shaping) ja ei-lineaarinen kvantointi kuten μ-law- ja A-law-kompandaus.

Katso myös: kvantisointi, kohina, ADC, dithering, kompandaus.