kvantisoinnissa

Kvantisointi on signaalin käsittelyn prosessi, jossa jatkuvasti esiintyvä amplitudi muutetaan epäjatkuviin arvoihin. Se on keskeinen osa analogis-digitaalista muunnosta, jossa jatkuva signaali muunnetaan digitaaliseksi tallenteeksi tai käsiteltäväksi. Kvantisoinnin seuraava vaihe on usein näytteistäminen, jolloin signaali otetaan kiinteässä ajanvälissä oleviin arvoihin. Kvantisoinnin tarkkuus määräytyy käytetyn bittimäärän mukaan: b binääritasoa tuottaa 2^b erillistä kvantisointitasoa.

Tyypillisesti kvantisointi jaetaan tasavälisten arvojen perusteella tehtävään uniformiin kvantisointiin sekä epäuniformiin kvantisointiin, jossa arvot jaetaan eri tiheyksin. Uniformi kvantisointi jakaa amplitudin alueen tasaisin askelin Δ. Kompanding-tekniikot, kuten mu-law ja A-law, edustavat epäuniformia kvantisointia, jotka antavat suuremmalle herkkyydelle paremman dynamiikan, mikä on hyödyllistä erityisesti puhe- ja lentotoiminnassa. Vektori- eli vektorikvantisointi on toinen lähestymistapa, jossa useampaa näytettä käsitellään yhdessä pienemmän kokonaisuuden löytämiseksi, mikä voi vähentää tiedon määrää tai parantaa erotuskykyä tietyissä sovelluksissa.

Kvantisoinnin virhe, kvantisointivirhe tai kvantisointihäiriö, syntyy, kun jatkuva arvo mapataan yhteen rajoitettuihin arvoihin. Tämä virhe voidaan mallintaa häiriönä, joka on pienempi kuin signaalin arvojen mittakaavasta riippuen. Kvantisointivirhe aiheuttaa signaalin häviämistä osittain, ja sen voimakkuus vaikuttaa signaalin laadullisiin ominaisuuksiin. SQNR (signaalin ja kvantisointihäiriön suhde) kasvaa noin 6,02 dB per lisätty bitti full-scale -signaalissa.

Kvantisoinnilla on tärkeitä sovelluksia digitaalisessa äänitteessä ja videossa, telekommunikaatiossa sekä mittaus- ja säätöjärjestelmissä. Sen suunnittelussa huomioidaan haluttu dynaaminen alue, kohinatasot, mahdollinen kompanding ja järjestelmän kokonaislaatu sekä tallennus- ja kaistanleveyden rajat.