Kvantiseringsscheman

Kvantiseringsscheman refererar till olika metoder för att avbilda kontinuerliga signalvärden till ett begränsat antal diskreta nivåer i digitala system. När en kontinuerlig signal fångas digitalt måste dess amplituder approximeras av ett begränsat antal bitvärden, vilket inför kvantiseringsfel. Storleken och karaktären hos felet beror på kvantiseringen, särskilt stegstorleken och antalet bitar.

Kvantiseringsscheman kan delas in i uniforma och icke-uniforma. Uniform kvantisering har lika stora steg över hela amplitudområdet och är enkel att implementera. Icke-uniform kvantisering anpassar stegstorleken till signalens sannolikhetsfördelning och används ofta tillsammans med kompandingstekniker som μ-law och A-law inom telekommunikation.

Skiljelinjer i kvantiseringstekniken innefattar scalar kvantisering, där varje prov kvantiseras separat, och vector kvantisering, där grupper av prover kodas som vektorer med hjälp av ett codebook. Vector kvantisering kan ge lägre kvantiseringsfel för givna bitrate. En annan form är deadzone-kvantisering, som reserverar ett intervall runt noll som tilldelas nollnivån och är särskilt användbar för svagt varierande eller dämpade signaler, som DCT-koefficienter i bild- och videokodning.

Användning och inverkan på kvalitet och bitrate är centrala i praktiken. I bild- och videokodning används kvantisering vanligtvis i transformdomänen (till exempel DCT-koefficienter). Antalet bitar per prov kallas ofta bitdjup eller kvantiseringsparametrar; i video används en kvantiseringsparameter (QP) för att reglera kvalitet och bitrate. Teoretiskt ramverk byggs kring rate-distortion-optimering; Lloyd-Max-algoritmen används för att hitta optimala kvantiseringsnivåer för givna fördelningar, och mer avancerade tekniker som vector- och lattice kvantisering används i särskilda tillämpningar.