quantisoinnin

Quantisoinnin (quantization) on prosessi, jossa jatkuva arvojoukko muunnetaan pienemmälle, diskreetille arvoluokalle. Se on keskeinen osa analogi–digitaalista muuntamista (ADC) sekä monia digitaalisen signaalin käsittelyn sovelluksia, joissa signaali esitetään rajallisena määränä bittipareja. Kvantisaatio mahdollistaa signaalin tallentamisen, siirtämisen ja käsittelemisen digitaalisessa muodossa, mutta siihen liittyy aina virhe eli kvantisaatiovirhe.

Tyyppejä: Uniform kvantisaatio, jossa askelväli on vakio; sekä epäyhtenäinen kvantisaatio, jossa askeleet vaihtelevat signaalin arvojen mukaan. Epäyhtenäisiä tekniikoita käytetään esimerkiksi kompandingissa μ-laki ja A-laki, jotka parantavat pienien ja keskisuurten arvojen käsittelyä.

Perusparametrit: tason lukumäärä L = 2^n, jolloin n on bittisyvyys. Vaiheväli Δ määrittää, miten suurista erimittaisista arvoista kvantisoidaan. Syöttöalue on rajattu [min, max], ja ylitys voi johtaa leikkaantumiseen (clipping). Kvantisoitu arvo valitaan lähimpään mahdolliseen tasoon, mikä aiheuttaa kvantisaatiovirheen. Ditheringillä eli hajautuksella voidaan vaikuttaa virheen jakaumaan ja parantaa kuuluvuuden tasaisuutta.

Kvantisaatiovirhe ja mittarit: Kvantisaatiovirhe on ero alkuperäisen ja kvantisoidun arvon välillä. Se voidaan mallintaa kohinaksi, ja signaalin ja kohinan voimakkuuden suhdetta arvioidaan SQNR:llä (signal-to-quantization-noise ratio). Uniformin kvantisaation tapauksessa täyden mittakaavan sinusoidin SQNR on likimäärin 6.02 n + 1.76 dB, missä n on bittisyvyys.

Sovellukset: äänentoistossa, tallenteissa sekä kuva- ja videoprosesseissa, joissa signaali pakataan, siirretään tai tallennetaan digitaalisessa muodossa. Kvantisaation valintaan vaikuttavat haluttu tarkkuus, dynaaminen alue ja laitteiston toteutuksen monimutkaisuus. Dithering on yleinen keino parantaa laadullisia ominaisuuksia joissakin järjestelmissä.