kvantisering

Kvantisering är processen att omvandla ett kontinuerligt värdeområde till ett begränsat antal diskreta nivåer. Den används vid digitalisering av analoga signaler via analoga till digitala omvandlare (ADC) och i teorin för att beskriva energinivåer i kvantmekanik. I praktiken väljs antalet nivåer L, ofta 2^n där n är bitdjupet. Steglängden Δ bestäms av det totala tillåtna området och L.

Kvantisering kan vara uniform eller icke-uniform. Uniform kvantisering har lika stora steg över hela området, medan icke-uniform kvantisering har varierande stegstorlek för att bättre passa signalens sannolikhetsfördelning. Inom telekommunikation används exempelvis μ-law och A-law som icke-uniforma kvantiseringar för att ge mer upplösning åt låga amplituder.

Kvantisering introducerar kvantiseringsfel, skillnaden mellan det ursprungliga värdet och kvantiserat värde. För uniform kvantisering är felet vanligtvis begränsat till ±Δ/2 och dess varians under vissa antaganden Δ^2/12. I praktiken kan kvantisering ge upphov till distorsion eller kvantiseringsbrus; tekniker som dithering används för att mildra mönster och förbättra upplevelsen i till exempel ljudapplikationer.

Användningar inkluderar digitalt ljud och bild, mätinstrument, kommunikation och dataförvaring. Val av kvantisering och bitdjup påverkar dynamiskt omfång, precision och filstorlek, och ligger bakom avvägningar mellan noggrannhet och resursanvändning.